JP4228724B2

JP4228724B2 - Learning apparatus and method, image processing apparatus and method, recording medium, and program

Info

Publication number: JP4228724B2
Application number: JP2003052698A
Authority: JP
Inventors: 哲二郎近藤; 貴志沢尾; 淳一石橋; 隆浩永野; 直樹藤原; 徹三宅; 成司和田
Original assignee: Sony Corp
Current assignee: Sony Corp
Priority date: 2003-02-28
Filing date: 2003-02-28
Publication date: 2009-02-25
Anticipated expiration: 2023-02-28
Also published as: JP2004264965A

Description

【０００１】
【発明の属する技術分野】
本発明は、学習装置および方法、画像処理装置および方法、記録媒体、並びにプログラムに関し、特に、データが取得された現実世界を考慮した学習装置および方法、画像処理装置および方法、記録媒体、並びにプログラムに関する。
【０００２】
【従来の技術】
実世界（現実世界）における事象をセンサで検出し、センサが出力するサンプリングデータを処理する技術が広く利用されている。例えば、実世界をイメージセンサで撮像し、画像データであるサンプリングデータを処理する画像処理技術が広く利用されている。
【０００３】
また、第１の次元を有する現実世界の信号である第１の信号をセンサによって検出することにより得た、第１の次元に比較し次元が少ない第２の次元を有し、第１の信号に対する歪を含む第２の信号を取得し、第２の信号に基づく信号処理を行うことにより、第２の信号に比して歪の軽減された第３の信号を生成するようにしているものもある（例えば、特許文献１参照）。
【０００４】
【特許文献１】
特開２００１−２５０１１９号公報
【０００５】
【発明が解決しようとする課題】
しかしながら、データが取得された現実世界を考慮した画像処理はこれまで考えられていなかった。
【０００６】
本発明はこのような状況に鑑みてなされたものであり、データが取得された現実世界を考慮し、現実世界の事象に対して、より正確で、より精度の高い処理結果を得ることができるようにすることを目的とする。
【０００７】
【課題を解決するための手段】
本発明の学習装置は、第２の画像データに対応する光信号が光学ローパスフィルタを通過した後の光信号に対応する画像データを、対象とする光学ローパスフィルタの光信号を分散する位相シフト量と撮像素子の画素間距離との関係に基いて、前記第２の画像データから演算し、第１の画像データとして出力する演算手段と、第２の画像データ内の注目画素に対応する複数の画素を第１の画像データから抽出する第１のタップ抽出手段と、第１のタップ抽出手段により抽出された複数の画素の画素値から、注目画素の画素値を予測する予測手段を学習する学習手段とを備え、演算手段は、第２の画像データ内の注目画素を順に設定し、注目画素と、注目画素を基準として水晶板を有する光学ローパスフィルタの水晶板の厚さに応じて決定される位相シフト量に対応する位置に配された複数の画素とに、注目画素の画素値が等分に分散した値を重畳していくことにより、第１の画像データを生成することを特徴とする。
【０００８】
前記第２の画像データ内の注目画素に対応する複数の画素を第１の画像データから抽出する第２のタップ抽出手段と、第２のタップ抽出手段により抽出された複数の画素の画素値に基き、注目画素に対応する特徴を検出する特徴検出手段とをさらに設けるようにさせることができ、学習手段には、特徴検出手段により検出された特徴毎に、第１のタップ抽出手段により抽出された複数の画素の画素値から、注目画素の画素値を予測する予測手段を学習させるようにすることができる。
【００１０】
本発明の学習方法は、第２の画像データに対応する光信号が光学ローパスフィルタを通過した後の光信号に対応する画像データを、対象とする光学ローパスフィルタの光信号を分散する位相シフト量と撮像素子の画素間距離との関係に基いて、前記第２の画像データから演算し、第１の画像データとして出力する演算ステップと、第２の画像データ内の注目画素に対応する複数の画素を第１の画像データから抽出する第１のタップ抽出ステップと、第１のタップ抽出ステップの処理で抽出された複数の画素の画素値から、注目画素の画素値を予測する予測ステップの処理を学習する学習ステップとを含み、演算ステップは、第２の画像データ内の注目画素を順に設定し、注目画素と、注目画素を基準として水晶板を有する光学ローパスフィルタの水晶板の厚さに応じて決定される位相シフト量に対応する位置に配された複数の画素とに、注目画素の画素値が等分に分散した値を重畳していくことにより、第１の画像データを生成することを特徴とする。
【００１１】
本発明の第１の記録媒体は、第２の画像データに対応する光信号が光学ローパスフィルタを通過した後の光信号に対応する画像データを、対象とする光学ローパスフィルタの光信号を分散する位相シフト量と撮像素子の画素間距離との関係に基いて、前記第２の画像データから演算し、第１の画像データとして出力する演算ステップと、第２の画像データ内の注目画素に対応する複数の画素を第１の画像データから抽出する第１のタップ抽出ステップと、第１のタップ抽出ステップの処理で抽出された複数の画素の画素値から、注目画素の画素値を予測する予測ステップの処理を学習する学習ステップとを含み、演算ステップは、第２の画像データ内の注目画素を順に設定し、注目画素と、注目画素を基準として水晶板を有する光学ローパスフィルタの水晶板の厚さに応じて決定される位相シフト量に対応する位置に配された複数の画素とに、注目画素の画素値が等分に分散した値を重畳していくことにより、第１の画像データを生成するコンピュータが読み取り可能なプログラムが記録されていることを特徴とする。
【００１２】
本発明の第１のプログラムは、第２の画像データに対応する光信号が光学ローパスフィルタを通過した後の光信号に対応する画像データを、対象とする光学ローパスフィルタの光信号を分散する位相シフト量と撮像素子の画素間距離との関係に基いて、前記第２の画像データから演算し、第１の画像データとして出力する演算ステップと、第２の画像データ内の注目画素に対応する複数の画素を第１の画像データから抽出する第１のタップ抽出ステップと、第１のタップ抽出ステップの処理で抽出された複数の画素の画素値から、注目画素の画素値を予測する予測ステップの処理を学習する学習ステップとを含み、演算ステップは、第２の画像データ内の注目画素を順に設定し、注目画素と、注目画素を基準として水晶板を有する光学ローパスフィルタの水晶板の厚さに応じて決定される位相シフト量に対応する位置に配された複数の画素とに、注目画素の画素値が等分に分散した値を重畳していくことにより、第１の画像データを生成する処理をコンピュータに実行させることを特徴とする。
【００１３】
本発明の画像処理装置は、それぞれ空間積分効果を有する複数の画素に現実世界の光信号が光学ローパスフィルタを介して射影されることにより取得される第１の画像データを取得する取得手段と、第２の画像データ内の注目画素に対応する複数の画素を第１の画像データから抽出する第１のタップ抽出手段と、第１の画像データから光学ローパスフィルタに入射される光信号が直接射影されることにより取得される第２の画像データを予測するように予め学習されている予測手段を記憶する記憶手段と、第１のタップ抽出手段により抽出された複数の画素と予測手段に基いて第２の画像データ内の注目画素の画素値を予測する予測演算手段とを備え、予測手段には、対象とする光学ローパスフィルタの光信号を分散する位相シフト量と撮像素子の画素間距離との関係に基いて、第２の画像データ内の注目画素を順に設定し、注目画素と、注目画素を基準として水晶板を有する光学ローパスフィルタの水晶板の厚さに応じて決定される位相シフト量に対応する位置に配された複数の画素とに、注目画素の画素値が等分に分散した値を重畳していくことにより、第２の画像データから演算された第１の画像データから、第２の画像データを予測するように予め学習されていることを特徴とする。
【００１４】
前記第２の画像データ内の注目画素に対応する複数の画素を第１の画像データから抽出する第２のタップ抽出手段と、第２のタップ抽出手段により抽出された複数の画素の画素値に基き、注目画素に対応する特徴を検出する特徴検出手段とをさらに設けるようにさせることができ、予測手段には、特徴検出手段により検出された特徴毎に、第１のタップ抽出手段により抽出された複数の画素の画素値から、注目画素の画素値を予測するように予め学習されているようにすることができる。
【００１６】
本発明の画像処理方法は、それぞれ空間積分効果を有する複数の画素に現実世界の光信号が光学ローパスフィルタを介して射影されることにより取得される第１の画像データを取得する取得ステップと、第２の画像データ内の注目画素に対応する複数の画素を第１の画像データから抽出する第１のタップ抽出ステップと、第１の画像データから光学ローパスフィルタに入射される光信号が直接射影されることにより取得される第２の画像データを予測するように予め学習されている予測ステップと、第１のタップ抽出手段により抽出された複数の画素と予測ステップの処理に基いて第２の画像データ内の注目画素の画素値を予測する予測演算ステップとを含み、予測ステップは、対象とする光学ローパスフィルタの光信号を分散する位相シフト量と撮像素子の画素間距離との関係に基いて、第２の画像データ内の注目画素を順に設定し、注目画素と、注目画素を基準として水晶板を有する光学ローパスフィルタの水晶板の厚さに応じて決定される位相シフト量に対応する位置に配された複数の画素とに、注目画素の画素値が等分に分散した値を重畳していくことにより、第２の画像データから演算された第１の画像データから、第２の画像データを予測するように予め学習されていることを特徴とする。
【００１７】
本発明の第２の記録媒体は、それぞれ空間積分効果を有する複数の画素に現実世界の光信号が光学ローパスフィルタを介して射影されることにより取得される第１の画像データを取得する取得ステップと、第２の画像データ内の注目画素に対応する複数の画素を第１の画像データから抽出する第１のタップ抽出ステップと、第１の画像データから光学ローパスフィルタに入射される光信号が直接射影されることにより取得される第２の画像データを予測するように予め学習されている予測ステップと、第１のタップ抽出手段により抽出された複数の画素と予測ステップの処理に基いて第２の画像データ内の注目画素の画素値を予測する予測演算ステップとを含み、予測ステップは、対象とする光学ローパスフィルタの光信号を分散する位相シフト量と撮像素子の画素間距離との関係に基いて、第２の画像データ内の注目画素を順に設定し、注目画素と、注目画素を基準として水晶板を有する光学ローパスフィルタの水晶板の厚さに応じて決定される位相シフト量に対応する位置に配された複数の画素とに、注目画素の画素値が等分に分散した値を重畳していくことにより、第２の画像データから演算された第１の画像データから、第２の画像データを予測するように予め学習されているコンピュータが読み取り可能なプログラムが記録されていることを特徴とする。
【００１８】
本発明の第２のプログラムは、それぞれ空間積分効果を有する複数の画素に現実世界の光信号が光学ローパスフィルタを介して射影されることにより取得される第１の画像データを取得する取得ステップと、第２の画像データ内の注目画素に対応する複数の画素を第１の画像データから抽出する第１のタップ抽出ステップと、第１の画像データから光学ローパスフィルタに入射される光信号が直接射影されることにより取得される第２の画像データを予測するように予め学習されている予測ステップと、第１のタップ抽出手段により抽出された複数の画素と予測ステップの処理に基いて第２の画像データ内の注目画素の画素値を予測する予測演算ステップとを含む処理をコンピュータに実行させ、予測ステップは、対象とする光学ローパスフィルタの光信号を分散する位相シフト量と撮像素子の画素間距離との関係に基いて、第２の画像データ内の注目画素を順に設定し、注目画素と、注目画素を基準として水晶板を有する光学ローパスフィルタの水晶板の厚さに応じて決定される位相シフト量に対応する位置に配された複数の画素とに、注目画素の画素値が等分に分散した値を重畳していくことにより、第２の画像データから演算された第１の画像データから、第２の画像データを予測するように予め学習されていることを特徴とする。
【００１９】
本発明の学習装置および方法、並びにプログラムにおいては、第２の画像データに対応する光信号が光学ローパスフィルタを通過した後の光信号に対応する画像データが、対象とする光学ローパスフィルタの光信号を分散する位相シフト量と撮像素子の画素間距離との関係に基いて、前記第２の画像データから演算され、第１の画像データとして出力され、第２の画像データ内の注目画素に対応する複数の画素が第１の画像データから抽出され、抽出された複数の画素の画素値から、注目画素の画素値が予測されるように学習され、第２の画像データ内の注目画素が順に設定され、注目画素と、注目画素を基準として水晶板を有する光学ローパスフィルタの水晶板の厚さに応じて決定される位相シフト量に対応する位置に配された複数の画素とに、注目画素の画素値が等分に分散した値が重畳されていくことにより、第１の画像データが生成される。
【００２０】
本発明の画像処理装置および方法、並びにプログラムにおいては、それぞれ空間積分効果を有する複数の画素に現実世界の光信号が光学ローパスフィルタを介して射影されることにより取得される第１の画像データが取得され、第２の画像データ内の注目画素に対応する複数の画素が第１の画像データから抽出され、第１の画像データから光学ローパスフィルタに入射される光信号が直接射影されることにより取得される第２の画像データが予測されるように予め学習され、抽出された複数の画素と予測に基いて第２の画像データ内の注目画素の画素値が予測され、対象とする光学ローパスフィルタの光信号を分散する位相シフト量と撮像素子の画素間距離との関係に基いて、第２の画像データ内の注目画素が順に設定され、注目画素と、注目画素を基準として水晶板を有する光学ローパスフィルタの水晶板の厚さに応じて決定される位相シフト量に対応する位置に配された複数の画素とに、注目画素の画素値が等分に分散された値が重畳されていくことにより、第２の画像データから演算された第１の画像データから、第２の画像データが予測されるように予め学習される。
【００２１】
本発明の学習装置、および、画像処理装置は、独立した装置であっても良いし、画像処理を行うブロックであっても良い。
【００２２】
【発明の実施の形態】
図１は、本発明の原理を表している。同図で示されるように、空間、時間、および質量の次元を有する実世界１の事象（現象）は、センサ２により取得され、データ化される。実世界１の事象とは、光（画像）、音声、圧力、温度、質量、濃度、明るさ／暗さ、またはにおいなどをいう。実世界１の事象は、時空間方向に分布している。例えば、実世界１の画像は、実世界１の光の強度の時空間方向の分布である。
【００２３】
センサ２に注目すると、空間、時間、および質量の次元を有する実世界１の事象のうち、センサ２が取得可能な、実世界１の事象が、センサ２により、データ３に変換される。センサ２によって、実世界１の事象を示す情報が取得されるとも言える。
【００２４】
すなわち、センサ２は、実世界１の事象を示す情報を、データ３に変換する。空間、時間、および質量の次元を有する実世界１の事象（現象）を示す情報である信号がセンサ２により取得され、データ化されるとも言える。
【００２５】
以下、実世界１における、画像、音声、圧力、温度、質量、濃度、明るさ／暗さ、またはにおいなどの事象の分布を、実世界１の事象を示す情報である信号とも称する。また、実世界１の事象を示す情報である信号を、単に、実世界１の信号とも称する。本明細書において、信号は、現象および事象を含み、送信側に意思がないものも含むものとする。
【００２６】
センサ２から出力されるデータ３（検出信号）は、実世界１の事象を示す情報を、実世界１に比較して、より低い次元の時空間に射影して得られた情報である。例えば、動画像の画像データであるデータ３は、実世界１の３次元の空間方向および時間方向の画像が、２次元の空間方向、および時間方向からなる時空間に射影されて得られた情報である。また、例えば、データ３がデジタルデータであるとき、データ３は、サンプリングの単位に応じて、丸められている。データ３がアナログデータであるとき、データ３において、ダイナミックレンジに応じて、情報が圧縮されているか、またはリミッタなどにより、情報の一部が削除されている。
【００２７】
このように、所定の次元を有する実世界１の事象を示す情報である信号をデータ３（検出信号）に射影することにより、実世界１の事象を示す情報の一部が欠落する。すなわち、センサ２が出力するデータ３において、実世界１の事象を示す情報の一部が欠落している。
【００２８】
しかしながら、射影により実世界１の事象を示す情報の一部が欠落しているものの、データ３は、実世界１の事象（現象）を示す情報である信号を推定するための有意情報を含んでいる。
【００２９】
本発明においては、実世界１の情報である信号を推定するための有意情報として、データ３に含まれる定常性を有する情報を利用する。定常性は、新たに定義する概念である。
【００３０】
ここで、実世界１に注目すると、実世界１の事象は、所定の次元の方向に一定の特徴を含む。例えば、実世界１の物体（有体物）において、空間方向または時間方向に、形状、模様、若しくは色彩などが連続するか、または形状、模様、若しくは色彩などのパターンが繰り返す。
【００３１】
従って、実世界１の事象を示す情報には、所定の次元の方向に一定の特徴が含まれることになる。
【００３２】
より具体的な例を挙げれば、糸、紐、またはロープなどの線状の物体は、長さ方向の任意の位置において、断面形状が同じであるという長さ方向、すなわち空間方向に一定の特徴を有する。長さ方向の任意の位置において、断面形状が同じであるという空間方向に一定の特徴は、線状の物体が長いという特徴から生じる。
【００３３】
従って、線状の物体の画像は、長さ方向の任意の位置において、断面形状が同じであるという長さ方向、すなわち空間方向に一定の特徴を有している。
【００３４】
また、空間方向に広がりを有する有体物である、単色の物体は、部位にかかわらず、同一の色を有するという空間方向に一定の特徴を有していると言える。
【００３５】
同様に、空間方向に広がりを有する有体物である、単色の物体の画像は、部位にかかわらず、同一の色を有するという空間方向に一定の特徴を有している。
【００３６】
このように、実世界１（現実世界）の事象は、所定の次元の方向に一定の特徴を有しているので、実世界１の信号は、所定の次元の方向に一定の特徴を有する。
【００３７】
本明細書において、このような所定の次元の方向に一定の特徴を定常性と称する。実世界１（現実世界）の信号の定常性とは、実世界１（現実世界）の事象を示す信号が有している、所定の次元の方向に一定の特徴をいう。
【００３８】
実世界１（現実世界）には、このような定常性が無数に存在する。
【００３９】
次に、データ３に注目すると、データ３は、センサ２により、所定の次元を有する実世界１の事象を示す情報である信号が射影されたものであるので、実世界の信号の定常性に対応する定常性を含んでいる。データ３は、実世界の信号の定常性が射影された定常性を含んでいるとも言える。
【００４０】
しかしながら、上述したように、センサ２が出力するデータ３において、実世界１の情報の一部が欠落しているので、データ３から、実世界１（現実世界）の信号に含まれる定常性の一部が欠落してしまう。
【００４１】
換言すれば、データ３は、データの定常性として、実世界１（現実世界）の信号の定常性の中の、一部の定常性を含む。データの定常性とは、データ３が有している、所定の次元の方向に一定の特徴である。
【００４２】
本発明においては、実世界１の事象を示す情報である信号を推定するための有意情報として、データ３が有する、データの定常性が利用される。
【００４３】
例えば、本発明においては、データの定常性を利用して、データ３を信号処理することで、欠落した、実世界１の事象を示す情報が生成される。
【００４４】
なお、本発明においては、実世界１の事象を示す情報である信号の次元の、長さ（空間）、時間、および質量のうち、空間方向または時間方向の定常性が利用される。
【００４５】
図１に戻り、センサ２は、例えば、デジタルスチルカメラ、またはビデオカメラなどで構成され、実世界１の画像を撮像し、得られたデータ３である画像データを信号処理装置４に出力する。センサ２は、例えば、サーモグラフィ装置、または光弾性を利用した圧力センサなどとすることができる。
【００４６】
信号処理装置４は、例えば、パーソナルコンピュータなどで構成される。
【００４７】
信号処理装置４は、例えば、図２で示されるように構成される。CPU（Central Processing Unit）２１は、ROM（Read Only Memory）２２、または記憶部２８に記憶されているプログラムに従って各種の処理を実行する。RAM（Random Access Memory）２３には、CPU２１が実行するプログラムやデータなどが適宜記憶される。これらのCPU２１、ROM２２、およびRAM２３は、バス２４により相互に接続されている。
【００４８】
CPU２１にはまた、バス２４を介して入出力インタフェース２５が接続されている。入出力インタフェース２５には、キーボード、マウス、マイクロホンなどよりなる入力部２６、ディスプレイ、スピーカなどよりなる出力部２７が接続されている。CPU２１は、入力部２６から入力される指令に対応して各種の処理を実行する。そして、CPU２１は、処理の結果得られた画像や音声等を出力部２７に出力する。
【００４９】
入出力インタフェース２５に接続されている記憶部２８は、例えばハードディスクなどで構成され、CPU２１が実行するプログラムや各種のデータを記憶する。通信部２９は、インターネット、その他のネットワークを介して外部の装置と通信する。この例の場合、通信部２９はセンサ２の出力するデータ３を取り込む取得部として働く。
【００５０】
また、通信部２９を介してプログラムを取得し、記憶部２８に記憶してもよい。
【００５１】
入出力インタフェース２５に接続されているドライブ３０は、磁気ディスク５１、光ディスク５２、光磁気ディスク５３、或いは半導体メモリ５４などが装着されたとき、それらを駆動し、そこに記録されているプログラムやデータなどを取得する。取得されたプログラムやデータは、必要に応じて記憶部２８に転送され、記憶される。
【００５２】
図３は、信号処理装置４を示すブロック図である。
【００５３】
なお、信号処理装置４の各機能をハードウェアで実現するか、ソフトウェアで実現するかは問わない。つまり、本明細書の各ブロック図は、ハードウェアのブロック図と考えても、ソフトウェアによる機能ブロック図と考えても良い。
【００５４】
図３に構成を示す信号処理装置４においては、データ３の一例である画像データが入力され、入力された画像データ（入力画像）からデータの定常性が検出される。次に、検出されたデータの定常性から、センサ２により取得された実世界１の信号が推定される。そして、推定された実世界１の信号を基に、画像が生成され、生成された画像（出力画像）が出力される。すなわち、図３は、画像処理装置である信号処理装置４の構成を示す図である。
【００５５】
信号処理装置４に入力された入力画像（データ３の一例である画像データ）は、データ定常性検出部１０１および実世界推定部１０２に供給される。
【００５６】
データ定常性検出部１０１は、入力画像からデータの定常性を検出して、検出した定常性を示すデータ定常性情報を実世界推定部１０２および画像生成部１０３に供給する。データ定常性情報は、例えば、入力画像における、データの定常性を有する画素の領域の位置、データの定常性を有する画素の領域の方向（時間方向および空間方向の角度または傾き）、またはデータの定常性を有する画素の領域の長さなどを含む。データ定常性検出部１０１の構成の詳細は、後述する。
【００５７】
実世界推定部１０２は、入力画像、およびデータ定常性検出部１０１から供給されたデータ定常性情報を基に、実世界１の信号を推定する。すなわち、実世界推定部１０２は、入力画像が取得されたときセンサ２に入射された、実世界の信号である画像を推定する。実世界推定部１０２は、実世界１の信号の推定の結果を示す実世界推定情報を画像生成部１０３に供給する。実世界推定部１０２の構成の詳細は、後述する。
【００５８】
画像生成部１０３は、実世界推定部１０２から供給された、推定された実世界１の信号を示す実世界推定情報を基に、実世界１の信号により近似した信号を生成して、生成した信号を出力する。または、画像生成部１０３は、データ定常性検出部１０１から供給されたデータ定常性情報、および実世界推定部１０２から供給された、推定された実世界１の信号を示す実世界推定情報を基に、実世界１の信号により近似した信号を生成して、生成した信号を出力する。
【００５９】
すなわち、画像生成部１０３は、実世界推定情報を基に、実世界１の画像により近似した画像を生成して、生成した画像を出力画像として出力する。または、画像生成部１０３は、データ定常性情報および実世界推定情報を基に、実世界１の画像により近似した画像を生成して、生成した画像を出力画像として出力する。
【００６０】
例えば、画像生成部１０３は、実世界推定情報を基に、推定された実世界１の画像を所望の空間方向または時間方向の範囲で積分することにより、入力画像に比較して、空間方向または時間方向により高解像度の画像を生成して、生成した画像を出力画像として出力する。例えば、画像生成部１０３は、外挿補間により、画像を生成して、生成した画像を出力画像として出力する。
【００６１】
画像生成部１０３の構成の詳細は、後述する。
【００６２】
次に、図４乃至図７を参照して、本発明の原理を説明する。
【００６３】
図４は、従来の信号処理装置１２１における処理の原理を説明する図である。従来の信号処理装置１２１は、データ３を処理の基準とすると共に、データ３を処理の対象として、高解像度化などの処理を実行する。従来の信号処理装置１２１においては、実世界１が考慮されることはなく、データ３が最終的な基準となり、データ３に含まれている情報以上の情報を出力として得ることはできない。
【００６４】
また、従来の信号処理装置１２１において、データ３に存在する、センサ２による歪み（実世界１の情報である信号とデータ３との差）は全く考慮されないので、従来の信号処理装置１２１は、歪みを含んだままの信号を出力することになる。さらに、信号処理装置１２１の処理の内容によっては、データ３に存在する、センサ２による歪みがさらに増幅されて、増幅された歪みを含むデータが出力されることになる。
【００６５】
このように、従来の信号処理においては、データ３が取得された実世界１（の信号）そのものが考慮されることはなかった。換言すれば、従来の信号処理においては、データ３に含まれている情報の枠内で実世界１を捉えていたので、データ３に含まれている情報および歪みにより、信号処理の限界が決定される。
【００６６】
これに対して、本発明の信号処理においては、実世界１（の信号）そのものを明確に考慮して、処理が実行される。
【００６７】
図５は、本発明に係る信号処理装置４における処理の原理を説明する図である。
【００６８】
実世界１の事象を示す情報である信号をセンサ２が取得し、センサ２が、実世界１の情報である信号を射影したデータ３を出力する点では、従来と同様である。
【００６９】
しかしながら、本発明においては、センサ２により取得された、実世界１の事象を示す情報である信号が明確に考慮される。すなわち、データ３が、センサ２による歪み（実世界１の情報である信号とデータ３との差）を含むことを意識して信号処理がなされる。
【００７０】
このようにすることで、本発明の信号処理においては、データ３に含まれている情報および歪みにより処理の結果が限定されることがなく、例えば、従来に比較して、実世界１の事象に対して、より正確で、より精度の高い処理結果を得ることができるようになる。すなわち、本発明によれば、センサ２に入力された、実世界１の事象を示す情報である信号に対して、より正確で、より精度の高い処理結果を得ることができるようになる。
【００７１】
図６および図７は、本発明の原理をより具体的に説明する図である。
【００７２】
図６で示されるように、例えば、画像である、実世界１の信号が、レンズ、または光学LPF（Low Pass Filter）などでなる光学系１４１により、センサ２の一例であるCCD（Charge Coupled Device）の受光面に結像される。センサ２の一例であるCCDは、積分特性を有しているので、CCDから出力されるデータ３には、実世界１の画像との差が生じることになる。センサ２の積分特性の詳細については、後述する。
【００７３】
本発明の信号処理においては、CCDにより取得された実世界１の画像と、CCDにより撮像され、出力されたデータ３との関係が明確に考慮される。すなわち、データ３と、センサ２で取得された実世界の情報である信号との関係が明確に考慮される。
【００７４】
より具体的には、図７で示されるように、信号処理装置４は、モデル１６１を用いて、実世界１を近似（記述）する。モデル１６１は、例えば、Ｎ個の変数で表現される。より正確には、モデル１６１は、実世界１の信号を近似（記述）する。
【００７５】
モデル１６１を予測するために、信号処理装置４は、データ３から、Ｍ個のデータ１６２を抽出する。データ３から、Ｍ個のデータ１６２を抽出するとき、信号処理装置４は、データ３に含まれるデータの定常性を利用する。換言すれば、信号処理装置４は、データ３に含まれるデータの定常性を基に、モデル１６１を予測するためのデータ１６２を抽出する。結果的に、モデル１６１は、データの定常性に拘束されることになる。
【００７６】
すなわち、モデル１６１は、センサ２で取得されたとき、データ３においてデータの定常性を生じさせる、定常性（所定の次元の方向に一定の特徴）を有する実世界１の事象（を示す情報（信号））を近似する。
【００７７】
ここで、データ１６２の数Ｍが、モデルの変数の数Ｎ以上であれば、Ｍ個のデータ１６２から、Ｎ個の変数で表現されるモデル１６１を予測することができる。
【００７８】
このように、実世界１（の信号）を近似（記述）するモデル１６１を予測することにより、信号処理装置４は、実世界１の情報である信号を考慮することができる。
【００７９】
次に、センサ２の積分効果について説明する。
【００８０】
画像を撮像するセンサ２である、CCDまたはCMOS（Complementary Metal-Oxide Semiconductor）センサなどのイメージセンサは、現実世界を撮像するとき、現実世界の情報である信号を２次元のデータに投影する。イメージセンサの各画素は、いわゆる受光面（受光領域）として、それぞれ所定の面積を有する。所定の面積を有する受光面に入射した光は、画素毎に、空間方向および時間方向に積分され、各画素に対して１つの画素値に変換される。
【００８１】
図８乃至図１１を参照して、画像の空間的時間的な積分について説明する。
【００８２】
イメージセンサは、現実世界の対象物（オブジェクト）を撮像し、撮像の結果得られた画像データを１フレーム単位で出力する。すなわち、イメージセンサは、実世界１の対象物で反射された光である、実世界１の信号を取得し、データ３を出力する。
【００８３】
例えば、イメージセンサは、１秒間に３０フレームからなる画像データを出力する。この場合、イメージセンサの露光時間は、１／３０秒とすることができる。露光時間は、イメージセンサが入射された光の電荷への変換を開始してから、入射された光の電荷への変換を終了するまでの期間である。以下、露光時間をシャッタ時間とも称する。
【００８４】
図８は、イメージセンサ上の画素の配置の例を説明する図である。図８中において、Ａ乃至Ｉは、個々の画素を示す。画素は、画像データにより表示される画像に対応する平面上に配置されている。１つの画素に対応する１つの検出素子は、イメージセンサ上に配置されている。イメージセンサが実世界１の画像を撮像するとき、１つの検出素子は、画像データを構成する１つの画素に対応する１つの画素値を出力する。例えば、検出素子の空間方向Ｘの位置（Ｘ座標）は、画像データにより表示される画像上の横方向の位置に対応し、検出素子の空間方向Ｙの位置（Ｙ座標）は、画像データにより表示される画像上の縦方向の位置に対応する。
【００８５】
実世界１の光の強度の分布は、３次元の空間方向および時間方向に広がりを有するが、イメージセンサは、２次元の空間方向および時間方向で、実世界１の光を取得し、２次元の空間方向および時間方向の光の強度の分布を表現するデータ３を生成する。
【００８６】
図９で示されるように、例えば、CCDである検出素子は、シャッタ時間に対応する期間、受光面（受光領域）（検出領域）に入力された光を電荷に変換して、変換された電荷を蓄積する。光は、３次元の空間上の位置、および時刻により、強度が決定される実世界１の情報（信号）である。実世界１の光の強度の分布は、３次元の空間上の位置x,y、およびz、並びに時刻tを変数とする関数F(x,y,z,t)で表すことができる。
【００８７】
CCDである検出素子に蓄積される電荷の量は、２次元の空間上の広がりを有する受光面の全体に入射された光の強さと、光が入射されている時間にほぼ比例する。検出素子は、シャッタ時間に対応する期間において、受光面の全体に入射された光から変換された電荷を、既に蓄積されている電荷に加えていく。すなわち、検出素子は、シャッタ時間に対応する期間、２次元の空間上の広がりを有する受光面の全体に入射される光を積分して、積分された光に対応する量の電荷を蓄積する。検出素子は、空間（受光面）および時間（シャッタ時間）に対して、積分効果があるとも言える。
【００８８】
検出素子に蓄積された電荷は、図示せぬ回路により、電圧値に変換され、電圧値はさらにデジタルデータなどの画素値に変換されて、データ３として出力される。従って、イメージセンサから出力される個々の画素値は、実世界１の情報（信号）の時間的空間的に広がりを有するある部分を、シャッタ時間の時間方向および検出素子の受光面の空間方向について積分した結果である、１次元の空間に射影した値を有する。
【００８９】
すなわち、１つの画素の画素値は、F(x,y,t)の積分で表される。F(x,y,t)は、検出素子の受光面における、光の強度の分布を表す関数である。例えば、画素値Pは、式（１）で表される。
【００９０】
【数１】

・・・（１）
【００９１】
式（１）において、x₁は、検出素子の受光面の左側の境界の空間座標（Ｘ座標）である。x₂は、検出素子の受光面の右側の境界の空間座標（Ｘ座標）である。式（１）において、y₁は、検出素子の受光面の上側の境界の空間座標（Ｙ座標）である。y₂は、検出素子の受光面の下側の境界の空間座標（Ｙ座標）である。また、t₁は、入射された光の電荷への変換を開始した時刻である。t₂は、入射された光の電荷への変換を終了した時刻である。
【００９２】
なお、実際には、イメージセンサから出力される画像データの画素値は、例えばフレーム全体として、そのゲインが補正されている。
【００９３】
画像データの各画素値は、イメージセンサの各検出素子の受光面に入射した光の積分値であり、イメージセンサに入射された光のうち、検出素子の受光面よりも微小な実世界１の光の波形は、積分値としての画素値に隠されてしまう。
【００９４】
以下、本明細書において、所定の次元を基準として表現される信号の波形を単に波形とも称する。
【００９５】
このように、実世界１の画像は、画素を単位として、空間方向および時間方向に積分されてしまうので、画像データにおいては、実世界１の画像の定常性の一部が欠落し、実世界１の画像の定常性の他の一部のみが画像データに含まれることになる。または、画像データには、実世界１の画像の定常性から変化してしまった定常性が含まれることがある。
【００９６】
積分効果を有するイメージセンサにより撮像された画像の、空間方向の積分効果についてさらに説明する。
【００９７】
図１０は、画素Ｄ乃至画素Ｆに対応する検出素子に入射される光と、画素値との関係を説明する図である。図１０のF(x)は、空間上（検出素子上）の空間方向Ｘの座標xを変数とする、実世界１の光の強度の分布を表す関数の例である。言い換えれば、F(x)は、空間方向Ｙおよび時間方向に一定である場合の、実世界１の光の強度の分布を表す関数の例である。図１０において、Lは、画素Ｄ乃至画素Ｆに対応する検出素子の受光面の空間方向Ｘの長さを示す。
【００９８】
１つの画素の画素値は、F(x)の積分で表される。例えば、画素Ｅの画素値Pは、式（２）で表される。
【００９９】
【数２】

・・・（２）
【０１００】
式（２）において、x₁は、画素Ｅに対応する検出素子の受光面の左側の境界の空間方向Ｘの空間座標である。x₂は、画素Ｅに対応する検出素子の受光面の右側の境界の空間方向Ｘの空間座標である。
【０１０１】
同様に、積分効果を有するイメージセンサにより撮像された画像の、時間方向の積分効果についてさらに説明する。
【０１０２】
図１１は、時間の経過と、１つの画素に対応する検出素子に入射される光と、画素値との関係を説明する図である。図１１のF(t)は、時刻tを変数とする、実世界１の光の強度の分布を表す関数である。言い換えれば、F(t)は、空間方向Ｙおよび空間方向Ｘに一定である場合の、実世界１の光の強度の分布を表す関数の例である。t_sは、シャッタ時間を示す。
【０１０３】
フレーム#n-1は、フレーム#nに対して時間的に前のフレームであり、フレーム#n+1は、フレーム#nに対して時間的に後のフレームである。すなわち、フレーム#n-1、フレーム#n、およびフレーム#n+1は、フレーム#n-1、フレーム#n、およびフレーム#n+1の順で表示される。
【０１０４】
なお、図１１で示される例において、シャッタ時間t_sとフレーム間隔とが同一である。
【０１０５】
１つの画素の画素値は、F(t)の積分で表される。例えば、フレーム#nの画素の画素値Pは、式（３）で表される。
【０１０６】
【数３】

・・・（３）
【０１０７】
式（３）において、t₁は、入射された光の電荷への変換を開始した時刻である。t₂は、入射された光の電荷への変換を終了した時刻である。
【０１０８】
以下、センサ２による空間方向の積分効果を単に空間積分効果と称し、センサ２による時間方向の積分効果を単に時間積分効果と称する。また、空間積分効果または時間積分効果を単に積分効果とも称する。
【０１０９】
次に、積分効果を有するイメージセンサにより取得されたデータ３に含まれるデータの定常性の例について説明する。
【０１１０】
図１２は、実世界１の線状の物（例えば、細線）の画像、すなわち光の強度の分布の例を示す図である。図１２において、図中の上方向の位置は、光の強度（レベル）を示し、図中の右上方向の位置は、画像の空間方向の一方向である空間方向Ｘの位置を示し、図中の右方向の位置は、画像の空間方向の他の方向である空間方向Ｙの位置を示す。
【０１１１】
実世界１の線状の物の画像には、所定の定常性が含まれる。すなわち、図１２で示される画像は、長さ方向の任意の位置において、断面形状（長さ方向に直交する方向の位置の変化に対するレベルの変化）が同じであるという定常性を有する。
【０１１２】
図１３は、図１２で示される画像に対応する、実際の撮像により得られた画像データの画素値の例を示す図である。
【０１１３】
図１４は、図１３に示す画像データの模式図である。
【０１１４】
図１４で示される模式図は、イメージセンサの画素の並び（画素の縦または横の並び）とずれた方向に延びる、各画素の受光面の長さLよりも短い径の線状の物の画像を、イメージセンサで撮像して得られた画像データの模式図である。図１４で示される画像データが取得されたときにイメージセンサに入射された画像は、図１２の実世界１の線状の物の画像である。
【０１１５】
図１４において、図中の上方向の位置は、画素値を示し、図中の右上方向の位置は、画像の空間方向の一方向である空間方向Ｘの位置を示し、図中の右方向の位置は、画像の空間方向の他の方向である空間方向Ｙの位置を示す。図１４における画素値を示す方向は、図１２におけるレベルの方向に対応し、図１４における空間方向Ｘ、および空間方向Ｙは、図１２における方向と同じである。
【０１１６】
各画素の受光面の長さLよりも短い径の線状の物の画像を、イメージセンサで撮像した場合、撮像の結果得られる画像データにおいて、線状の物は、模式的に、例えば、斜めにずれて並ぶ、複数の所定の長さの円弧形状（かまぼこ型）で表される。各円弧形状は、ほぼ同じ形状である。１つの円弧形状は、縦に１列の画素の上、または横に１列の画素の上に形成される。例えば、図１４における１つの円弧形状は、縦に１列の画素の上に形成される。
【０１１７】
このように、例えば、イメージセンサで撮像されて取得された画像データにおいては、実世界１の線状の物の画像が有していた、長さ方向の任意の位置において、空間方向Ｙにおける断面形状が同じであるという定常性が失われている。また、実世界１の線状の物の画像が有していた定常性は、縦に１列の画素の上、または横に１列の画素の上に形成された、同じ形状である円弧形状が一定の間隔で並ぶという定常性に変化していると言える。
【０１１８】
図１５は、背景とは異なる色であって、単色の、直線状の縁を有する物の実世界１の画像、すなわち光の強度の分布の例を示す図である。図１５において、図中の上方向の位置は、光の強度（レベル）を示し、図中の右上方向の位置は、画像の空間方向の一方向である空間方向Ｘの位置を示し、図中の右方向の位置は、画像の空間方向の他の方向である空間方向Ｙの位置を示す。
【０１１９】
背景とは異なる色の、直線状の縁を有する物の実世界１の画像には、所定の定常性が含まれる。すなわち、図１５で示される画像は、縁の長さ方向の任意の位置において、断面形状（縁に直交する方向の位置の変化に対するレベルの変化）が同じであるという定常性を有する。
【０１２０】
図１６は、図１５で示される画像に対応する、実際の撮像により得られた画像データの画素値の例を示す図である。図１６で示されるように、画像データは、画素を単位とした画素値からなるので、階段状になる。
【０１２１】
図１７は、図１６に示す画像データの模式図である。
【０１２２】
図１７で示される模式図は、イメージセンサの画素の並び（画素の縦または横の並び）とずれた方向に縁が延びる、背景とは異なる色であって、単色の、直線状の縁を有する物の実世界１の画像を、イメージセンサで撮像して得られた画像データの模式図である。図１７で示される画像データが取得されたときにイメージセンサに入射された画像は、図１５で示される、背景とは異なる色であって、単色の、直線状の縁を有する物の実世界１の画像である。
【０１２３】
図１７において、図中の上方向の位置は、画素値を示し、図中の右上方向の位置は、画像の空間方向の一方向である空間方向Ｘの位置を示し、図中の右方向の位置は、画像の空間方向の他の方向である空間方向Ｙの位置を示す。図１７における画素値を示す方向は、図１５におけるレベルの方向に対応し、図１７における空間方向Ｘ、および空間方向Ｙは、図１５における方向と同じである。
【０１２４】
背景とは異なる色であって、単色の、直線状の縁を有する物の実世界１の画像を、イメージセンサで撮像した場合、撮像の結果得られる画像データにおいて、直線状の縁は、模式的に、例えば、斜めにずれて並ぶ、複数の所定の長さのつめ（pawl）形状で表される。各つめ形状は、ほぼ同じ形状である。１つのつめ形状は、縦に１列の画素の上、または横に１列の画素の上に形成される。例えば、図１７において、１つのつめ形状は、縦に１列の画素の上に形成される。
【０１２５】
このように、例えば、イメージセンサで撮像されて取得された画像データにおいては、背景とは異なる色であって、単色の、直線状の縁を有する物の実世界１の画像が有していた、縁の長さ方向の任意の位置において、断面形状が同じであるという定常性が失われている。また、背景とは異なる色であって、単色の、直線状の縁を有する物の実世界１の画像が有していた定常性は、縦に１列の画素の上、または横に１列の画素の上に形成された、同じ形状であるつめ形状が一定の間隔で並ぶという定常性に変化していると言える。
【０１２６】
データ定常性検出部１０１は、このような、例えば、入力画像であるデータ３が有するデータの定常性を検出する。例えば、データ定常性検出部１０１は、所定の次元の方向に一定の特徴を有する領域を検出することにより、データの定常性を検出する。例えば、データ定常性検出部１０１は、図１４で示される、同じ円弧形状が一定の間隔で並ぶ領域を検出する。また、例えば、データ定常性検出部１０１は、図１７で示される、同じつめ形状が一定の間隔で並ぶ領域を検出する。
【０１２７】
また、データ定常性検出部１０１は、同様の形状の並び方を示す、空間方向の角度（傾き）を検出することにより、データの定常性を検出する。
【０１２８】
また、例えば、データ定常性検出部１０１は、空間方向および時間方向の同様の形状の並び方を示す、空間方向および時間方向の角度（動き）を検出することにより、データの定常性を検出する。
【０１２９】
さらに、例えば、データ定常性検出部１０１は、所定の次元の方向に一定の特徴を有する領域の長さを検出することにより、データの定常性を検出する。
【０１３０】
以下、背景とは異なる色であって、単色の、直線状の縁を有する物の実世界１の画像がセンサ２により射影されたデータ３の部分を２値エッジとも称する。
【０１３１】
次に、本発明の原理をさらに具体的に説明する。
【０１３２】
図１８で示されるように、従来の信号処理においては、データ３から、例えば、所望の高解像度データ１８１が生成される。
【０１３３】
これに対して、本発明に係る信号処理においては、データ３から、実世界１が推定され、推定の結果に基づいて、高解像度データ１８１が生成される。すなわち、図１９で示されるように、実世界１が、データ３から推定され、高解像度データ１８１が、データ３を考慮して、推定された実世界１から生成される。
【０１３４】
実世界１から高解像度データ１８１を生成するためには、実世界１とデータ３との関係を考慮する必要がある。例えば、実世界１が、CCDであるセンサ２により、データ３に射影されるとどうなるかが考慮される。
【０１３５】
CCDであるセンサ２は、上述したように、積分特性を有する。すなわち、データ３の１つの単位（例えば、画素値）は、実世界１の信号をセンサ２の検出素子（例えば、CCD）の検出領域（例えば、受光面）で積分することにより算出することができる。
【０１３６】
これを高解像度データ１８１について当てはめると、仮想的な高解像度のセンサが実世界１の信号をデータ３に射影する処理を、推定された実世界１に適用することにより、高解像度データ１８１を得ることができる。
【０１３７】
換言すれば、図２０で示されるように、データ３から実世界１の信号を推定できれば、実世界１の信号を、仮想的な高解像度のセンサの検出素子の検出領域毎に（時空間方向に）積分することにより、高解像度データ１８１に含まれる１つの値を得ることができる。
【０１３８】
例えば、センサ２の検出素子の検出領域の大きさに比較して、実世界１の信号の変化が、より小さいとき、データ３は、実世界１の信号の小さい変化を表すことができない。そこで、データ３から推定された実世界１の信号を、実世界１の信号の変化に比較して、より小さい領域毎に（時空間方向に）積分することにより、実世界１の信号の小さい変化を示す高解像度データ１８１を得ることができる。
【０１３９】
すなわち、仮想的な高解像度のセンサの各検出素子について、推定された実世界１の信号を検出領域で積分することにより、高解像度データ１８１を得ることができる。
【０１４０】
本発明において、画像生成部１０３は、例えば、仮想的な高解像度のセンサの各検出素子の時空間方向の領域で、推定された実世界１の信号を積分することにより、高解像度データ１８１を生成する。
【０１４１】
次に、データ３から、実世界１を推定するために、本発明においては、データ３と実世界１との関係、定常性、およびデータ３における空間混合が利用される。
【０１４２】
ここで、混合とは、データ３において、実世界１における２つの物体に対する信号が混合されて１つの値となることをいう。
【０１４３】
空間混合とは、センサ２の空間積分効果による、２つの物体に対する信号の空間方向の混合をいう。
【０１４４】
実世界１そのものは、無限の数の事象からなり、従って、実世界１そのものを、例えば、数式で表現するためには、無限の数の変数が必要になる。データ３から、実世界１の全ての事象を予測することはできない。
【０１４５】
同様に、データ３から、実世界１の信号の全てを予測することはできない。
【０１４６】
そこで、図２１で示されるように、本発明においては、実世界１の信号のうち、定常性を有し、関数f(x,y,z,t)で表すことができる部分に注目し、関数f(x,y,z,t)で表すことができる、定常性を有する実世界１の信号の部分が、Ｎ個の変数で表現されるモデル１６１で近似される。そして、図２２で示されるように、モデル１６１が、データ３の中の、Ｍ個のデータ１６２から予測される。
【０１４７】
Ｍ個のデータ１６２からモデル１６１の予測を可能にするには、第１に、モデル１６１を、定常性に基づいて、Ｎ個の変数で表し、第２に、センサ２の積分特性に基づいて、Ｎ個の変数で表現されるモデル１６１とＭ個のデータ１６２との関係を示す、Ｎ個の変数を使用した式を立てることが必要である。モデル１６１が、定常性に基づいて、Ｎ個の変数で表されているので、Ｎ個の変数で表現されるモデル１６１とＭ個のデータ１６２との関係を示す、Ｎ個の変数を使用した式は、定常性を有する実世界１の信号の部分と、データの定常性を有するデータ３の部分との関係を記述しているとも言える。
【０１４８】
換言すれば、Ｎ個の変数で表現されるモデル１６１で近似される、定常性を有する実世界１の信号の部分は、データ３において、データの定常性を生じさせる。
【０１４９】
データ定常性検出部１０１は、定常性を有する実世界１の信号の部分によって、データの定常性が生じたデータ３の部分、およびデータの定常性が生じた部分の特徴を検出する。
【０１５０】
例えば、図２３で示されるように、背景とは異なる色であって、単色の、直線状の縁を有する物の実世界１の画像において、図２３中Ａで示す、注目する位置における縁は、傾きを有している。図２３のＢの矢印は、縁の傾きを示す。所定の縁の傾きは、基準となる軸に対する角度または基準となる位置に対する方向で表すことができる。例えば、所定の縁の傾きは、空間方向Ｘの座標軸と、縁との角度で表すことができる。例えば、所定の縁の傾きは、空間方向Ｘの長さおよび空間方向Ｙの長さで示される方向で表すことができる。
【０１５１】
背景とは異なる色であって、単色の、直線状の縁を有する物の実世界１の画像が、センサ２で取得されて、データ３が出力されたとき、データ３において、実世界１の画像における、縁の注目する位置（Ａ）に対する、図２３中Ａ’で示す位置に、縁に対応するつめ形状が並び、実世界１の画像の縁の傾きに対応する、図２３中Ｂ’で示す傾きの方向に、縁に対応するつめ形状が並ぶ。
【０１５２】
Ｎ個の変数で表現されるモデル１６１は、このような、データ３において、データの定常性を生じさせる、実世界の１の信号の部分を近似する。
【０１５３】
Ｎ個の変数で表現されるモデル１６１とＭ個のデータ１６２との関係を示す、Ｎ個の変数を使用した式を立てるとき、データ３において、データの定常性が生じている部分の値を利用する。
【０１５４】
この場合において、図２４で示される、データ３において、データの定常性が生じ、混合領域に属する値に注目して、実世界１の信号を積分した値が、センサ２の検出素子が出力する値に等しいとして、式が立てられる。例えば、データの定常性が生じている、データ３における複数の値について、複数の式を立てることができる。
【０１５５】
図２４において、Ａは、縁の注目する位置を示し、Ａ’は、実世界１の画像における、縁の注目する位置（Ａ）に対する、画素（の位置）を示す。
【０１５６】
ここで、混合領域とは、データ３において、実世界１における２つの物体に対する信号が混合されて１つの値となっているデータの領域をいう。例えば、背景とは異なる色であって、単色の、直線状の縁を有する物の実世界１の画像に対するデータ３において、直線状の縁を有する物に対する画像、および背景に対する画像が積分されている画素値は、混合領域に属する。
【０１５７】
図２５は、式を立てる場合における、実世界１における２つの物体に対する信号および混合領域に属する値を説明する図である。
【０１５８】
図２５中の左側は、センサ２の１つの検出素子の検出領域で取得される、空間方向Ｘおよび空間方向Ｙに所定の広がりを有する、実世界１における２つの物体に対する実世界１の信号を示す。図２５中の右側は、図２５中の左側に示す実世界１の信号がセンサ２の１つの検出素子によって射影された、データ３の１つの画素の画素値Ｐを示す。すなわち、センサ２の１つの検出素子によって取得された、空間方向Ｘおよび空間方向Ｙに所定の広がりを有する、実世界１における２つの物体に対する実世界１の信号が射影された、データ３の１つの画素の画素値Ｐを示す。
【０１５９】
図２５のＬは、実世界１における１つの物体に対する、図２５の白い部分の実世界１の信号のレベルを示す。図２５のＲは、実世界１における他の１つの物体に対する、図２５の斜線で表される部分の実世界１の信号のレベルを示す。
【０１６０】
ここで、混合比αは、センサ２の１つの検出素子の、空間方向Ｘおよび空間方向Ｙに所定の広がりを有する検出領域に入射された、２つの物体に対する信号（の面積）の割合を示す。例えば、混合比αは、センサ２の１つの検出素子の検出領域の面積に対する、空間方向Ｘおよび空間方向Ｙに所定の広がりを有する、センサ２の１つの検出素子の検出領域に入射された、レベルＬの信号の面積の割合を示す。
【０１６１】
この場合において、レベルＬ、レベルＲ、および画素値Ｐの関係は、式（４）で表すことができる。
【０１６２】
α×Ｌ＋（１−α）×Ｒ＝Ｐ・・・（４）
【０１６３】
なお、レベルＲは、注目している画素の右側に位置している、データ３の画素の画素値とすることができる場合があり、レベルＬは、注目している画素の左側に位置している、データ３の画素値とすることができる場合がある。
【０１６４】
また、混合比αおよび混合領域は、空間方向と同様に、時間方向を考慮することができる。例えば、センサ２に対して撮像の対象となる実世界１の物体が移動しているとき、時間方向に、センサ２の１つの検出素子の検出領域に入射される、２つの物体に対する信号の割合は変化する。センサ２の１つの検出素子の検出領域に入射された、時間方向に割合が変化する、２つの物体に対する信号は、センサ２の検出素子によって、データ３の１つの値に射影される。
【０１６５】
センサ２の時間積分効果による、２つの物体に対する信号の時間方向の混合を時間混合と称する。
【０１６６】
データ定常性検出部１０１は、例えば、実世界１における２つの物体に対する実世界１の信号が射影された、データ３における画素の領域を検出する。データ定常性検出部１０１は、例えば、実世界１の画像の縁の傾きに対応する、データ３における傾きを検出する。
【０１６７】
そして、実世界推定部１０２は、例えば、データ定常性検出部１０１で検出された、所定の混合比αを有する画素の領域、および領域の傾きを基に、Ｎ個の変数で表現されるモデル１６１とＭ個のデータ１６２との関係を示す、Ｎ個の変数を使用した式を立てて、立てた式を解くことにより、実世界１の信号を推定する。
【０１６８】
さらに、具体的な実世界１の推定について説明する。
【０１６９】
関数F(x,y,z,t)で表される実世界の信号のうち、空間方向Ｚの断面（センサ２の位置）における関数F(x,y,t)で表される実世界の信号を、空間方向Ｘにおける位置x、空間方向Ｙにおける位置y、および時刻tで決まる近似関数f（x,y,t）で近似することを考える。
【０１７０】
ここで、センサ２の検出領域は、空間方向Ｘおよび空間方向Ｙに広がりを有する。換言すれば、近似関数f（x,y,t）は、センサ２で取得される、空間方向および時間方向に広がりを有する実世界１の信号を近似する関数である。
【０１７１】
センサ２による実世界１の信号の射影によって、データ３の値P(x,y,t)が得られるものとする。データ３の値P(x,y,t)は、例えば、イメージセンサであるセンサ２が出力する、画素値である。
【０１７２】
ここで、センサ２による射影を定式化できる場合、近似関数f（x,y,t）を射影して得られた値を射影関数S（x,y,t）と表すことができる。
【０１７３】
射影関数S（x,y,t）を求める上で、以下に示す問題がある。
【０１７４】
第１に、一般的に、実世界１の信号を表す関数F(x,y,z,t)は、無限の次数の関数となりうる。
【０１７５】
第２に、たとえ、実世界の信号を関数として記述できたとしても、センサ２の射影を介した、射影関数S（x,y,t）を定めることは、一般的にはできない。すなわち、センサ２による射影の動作、言い換えればセンサ２の入力信号と出力信号との関係を知らないので、射影関数S（x,y,t）を定めることはできない。
【０１７６】
第１の問題点に対して、実世界１の信号を近似する関数f(x,y,t)を記述可能な関数（例えば、有限次数の関数）である関数f_i（x,y,t）および変数w_iの積和で表現することを考える。
【０１７７】
また、第２の問題点に対して、センサ２による射影を定式化することで、関数f_i（x,y,t）の記述から、関数S_i（x,y,t）を記述することができる。
【０１７８】
すなわち、実世界１の信号を近似する関数f(x,y,t)を関数f_i（x,y,t）および変数w_iの積和で表現すると、式（５）が得られる。
【０１７９】
【数４】

・・・（５）
【０１８０】
例えば、式（６）で示されるように、センサ２の射影を定式化することにより、式（５）から、データ３と実世界の信号の関係を式（７）のように定式化することができる。
【０１８１】
【数５】

・・・（６）
【０１８２】
【数６】

・・・（７）
式（７）において、jは、データのインデックスである。
【０１８３】
式（７）のＮ個の変数w_i（i=1乃至N）が共通であるＭ個のデータ群（j=1乃至M）が存在すれば、式（８）を満たすので、データ３から実世界のモデル１６１を求めることができる。
【０１８４】
Ｎ≦Ｍ・・・（８）
Ｎは、実世界１を近似するモデル１６１を表現する変数の数である。Ｍは、データ３に含まれるデータ１６２の数である。
【０１８５】
実世界１の信号を近似する関数f(x,y,t)を式（５）で表すことにより、w_iとして変数の部分を独立させることができる。このとき、iは、そのまま変数の数を示すことになる。また、f_iで示される関数の形を独立させることができ、f_iとして所望の関数を利用することができるようになる。
【０１８６】
従って、関数f_iの形に依存せず、変数w_iの数Ｎを定義でき、変数w_iの数Ｎとデータの数Ｍとの関係で変数w_iを求めることができる。
【０１８７】
すなわち、以下の３つを用いることで、データ３から実世界１を推定することができるようになる。
【０１８８】
第１に、Ｎ個の変数を定める、すなわち、式（５）を定める。これは、定常性を用いて実世界１を記述することにより可能になる。例えば、断面が多項式で表され、同じ断面形状が一定方向に続く、というモデル１６１で実世界１の信号を記述することができる。
【０１８９】
第２に、例えば、センサ２による射影を定式化して、式（７）を記述する。例えば、実世界１の信号の積分を行った結果がデータ３であると定式化する。
【０１９０】
第３に、Ｍ個のデータ１６２を集めて、式（８）を満足させる。例えば、データ定常性検出部１０１で検出された、データの定常性を有する領域から、データ１６２が集められる。例えば、定常性の一例である、一定の断面が続く領域のデータ１６２が集められる。
【０１９１】
このように、式（５）によって、データ３と実世界１との関係を記述し、Ｍ個のデータ１６２を集めることで、式（８）を満たすことにより、実世界１を推定することができる。
【０１９２】
より具体的には、Ｎ=Ｍのとき、変数の数Nと式の数Mが等しいので、連立方程式を立てることにより、変数w_iを求めることができる。
【０１９３】
また、Ｎ＜Ｍのとき、様々な解法を適用できる。例えば、最小自乗法により、変数w_iを求めることができる。
【０１９４】
ここで、最小自乗法による解法について、詳細に記載する。
【０１９５】
まず、式（７）に従って、実世界１からデータ３を予測する式（９）を示す。
【０１９６】
【数７】

・・・（９）
【０１９７】
式（９）において、P'_j（x_j,y_j,t_j）は、予測値である。
【０１９８】
予測値P'と実測値Pとの差分自乗和Eは、式（１０）で表される。
【０１９９】
【数８】

・・・（１０）
【０２００】
差分自乗和Eが最小になるように、変数w_iが求められる。従って、各変数w_kによる式（１０）の偏微分値は０とされる。すなわち、式（１１）が成り立つ。
【０２０１】
【数９】

・・・（１１）
【０２０２】
式（１１）から式（１２）が導かれる。
【０２０３】
【数１０】

・・・（１２）
【０２０４】
式（１２）がK=1乃至Nで成り立つとき、最小自乗法による解が得られる。このときの正規方程式は、式（１３）で示される。
【０２０５】
【数１１】

・・・（１３）
ただし、式（１３）において、S_i（x_j,y_j,t_j）は、S_i(j)と記述した。
【０２０６】
【数１２】

・・・（１４）
【０２０７】
【数１３】

・・・（１５）
【０２０８】
【数１４】

・・・（１６）
【０２０９】
式（１４）乃至式（１６）から、式（１３）は、S_MATW_MAT=P_MATと表すことができる。
【０２１０】
式（１３）において、S_iは、実世界１の射影を表す。式（１３）において、P_jは、データ３を表す。式（１３）において、w_iは、実世界１の信号の特徴を記述し、求めようとする変数である。
【０２１１】
従って、式（１３）にデータ３を入力し、行列解法などによりW_MATを求めることで、実世界１を推定することが可能になる。すなわち、式（１７）を演算することにより、実世界１を推定することができるようになる。
【０２１２】
W_MAT=S_MAT ^-1P_MAT ・・・（１７）
【０２１３】
なお、S_MATが正則でない場合、S_MATの転置行列を利用して、W_MATを求めることができる。
【０２１４】
実世界推定部１０２は、例えば、式（１３）にデータ３を入力し、行列解法などによりW_MATを求めることで、実世界１を推定する。
【０２１５】
ここで、さらにより具体的な例を説明する。例えば、実世界１の信号の断面形状、すなわち位置の変化に対するレベルの変化を、多項式で記述する。実世界１の信号の断面形状が一定で、実世界１の信号の断面が等速で移動すると仮定する。そして、センサ２による実世界１の信号からデータ３への射影を、実世界１の信号の時空間方向の３次元で積分で定式化する。
【０２１６】
実世界１の信号の断面形状が、等速で移動するとの仮定から、式（１８）および式（１９）が得られる。
【０２１７】
【数１５】

・・・（１８）
【０２１８】
【数１６】

・・・（１９）
ここで、v_xおよびv_yは、一定である。
【０２１９】
実世界１の信号の断面形状は、式（１８）および式（１９）を用いることで、式（２０）と表される。
【０２２０】
f(x',y')=f(x+v_xt,y+v_yt) ・・・（２０）
【０２２１】
センサ２による実世界１の信号からデータ３への射影を、実世界１の信号の時空間方向の３次元で積分で定式化すれば、式（２１）が得られる。
【０２２２】
【数１７】

・・・（２１）
【０２２３】
式（２１）において、S(x,y,t)は、空間方向Ｘについて、位置x_sから位置x_eまで、空間方向Ｙについて、位置y_sから位置y_eまで、時間方向tについて、時刻t_sから時刻t_eまでの領域、すなわち時空間の直方体で表される領域の積分値を示す。
【０２２４】
式（２１）を定めることができる所望の関数f(x',y')を用いて、式（１３）を解けば、実世界１の信号を推定することができる。
【０２２５】
以下では、関数f(x',y')の一例として、式（２２）に示す関数を用いることとする。
【０２２６】

【０２２７】
すなわち、実世界１の信号が、式（１８）、式（１９）、および式（２２）で表される定常性を含むと仮定している。これは、図２６で示されるように、一定の形状の断面が、時空間方向に移動していることを示す。
【０２２８】
式（２１）に、式（２２）を代入することにより、式（２３）が得られる。
【０２２９】
【数１８】

・・・（２３）
ただし、
Volume=(x_e-x_s)(y_e-y_s)(t_e-t_s）
S₀(x,y,t)=Volume/2×(x_e+x_s+v_x(t_e+t_s)）
S₁(x,y,t)=Volume/2×(y_e+y_s+v_y(t_e+t_s)）
S₂(x,y,t)=1
である。
【０２３０】
図２７は、データ３から抽出される、Ｍ個のデータ１６２の例を示す図である。例えば、２７個の画素値が、データ１６２として抽出され、抽出された画素値が、P_j(x,y,t)とされる。この場合、jは、０乃至２６である。
【０２３１】
図２７に示す例において、nである時刻tの注目する位置に対応する画素の画素値がP₁₃(x,y,t)であり、データの定常性を有する画素の画素値の並ぶ方向（例えば、データ定常性検出部１０１で検出された、同じ形状であるつめ形状が並ぶ方向）が、P₄(x,y,t)、P₁₃(x,y,t)、およびP₂₂(x,y,t)を結ぶ方向であるとき、nである時刻tにおける、画素値P₉(x,y,t)乃至P₁₇(x,y,t)、nより時間的に前である、n-1である時刻tにおける、画素値P₀(x,y,t)乃至P₈(x,y,t)、およびnより時間的に後である、n+1である時刻tにおける、画素値P₁₈(x,y,t)乃至P₂₆(x,y,t)が抽出される。
【０２３２】
ここで、センサ２であるイメージセンサから出力された、データ３である画素値が取得された領域は、図２８で示されるように、時間方向および２次元の空間方向に広がりを有する。そこで、例えば、図２９で示されるように、画素に対応する直方体（画素値が取得された領域）の重心を、画素の時空間方向の位置として使用することができる。図２９中の丸は、重心を示す。
【０２３３】
２７個の画素値P₀(x,y,t)乃至P₂₆(x,y,t)、および式（２３）から、式（１３）を生成し、Wを求めることで、実世界１を推定することが可能になる。
【０２３４】
このように、実世界推定部１０２は、例えば、２７個の画素値P₀(x,y,t)乃至P₂₆(x,y,t)、および式（２３）から、式（１３）を生成し、Wを求めることで、実世界１の信号を推定する。
【０２３５】
なお、関数f_i（x,y,t）として、ガウス関数、またはシグモイド関数などを利用することができる。
【０２３６】
図３０乃至図３４を参照して、推定された実世界１の信号から、データ３に対応する、より高解像度の高解像度データ１８１を生成する処理の例について説明する。
【０２３７】
図３０で示されるように、データ３は、時間方向および２次元の空間方向に実世界１の信号が積分された値を有する。例えば、センサ２であるイメージセンサから出力された、データ３である画素値は、検出素子に入射された光である、実世界１の信号が、時間方向に、検出時間であるシャッタ時間で積分され、空間方向に、検出素子の受光領域で積分された値を有する。
【０２３８】
これに対して、図３１で示されるように、空間方向により解像度の高い高解像度データ１８１は、推定された実世界１の信号を、時間方向に、データ３を出力したセンサ２の検出時間と同じ時間で積分するとともに、空間方向に、データ３を出力したセンサ２の検出素子の受光領域に比較して、より狭い領域で積分することにより、生成される。
【０２３９】
なお、空間方向により解像度の高い高解像度データ１８１を生成する場合において、推定された実世界１の信号が積分される領域は、データ３を出力したセンサ２の検出素子の受光領域と全く無関係に設定することができる。例えば、高解像度データ１８１に、データ３に対して、空間方向に整数倍の解像度を持たせることは勿論、５／３倍など、データ３に対して、空間方向に有理数倍の解像度を持たせることができる。
【０２４０】
また、図３２で示されるように、時間方向により解像度の高い高解像度データ１８１は、推定された実世界１の信号を、空間方向に、データ３を出力したセンサ２の検出素子の受光領域と同じ領域で積分するとともに、時間方向に、データ３を出力したセンサ２の検出時間に比較して、より短い時間で積分することにより、生成される。
【０２４１】
なお、時間方向により解像度の高い高解像度データ１８１を生成する場合において、推定された実世界１の信号が積分される時間は、データ３を出力したセンサ２の検出素子のシャッタ時間と全く無関係に設定することができる。例えば、高解像度データ１８１に、データ３に対して、時間方向に整数倍の解像度を持たせることは勿論、７／４倍など、データ３に対して、時間方向に有理数倍の解像度を持たせることができる。
【０２４２】
図３３で示されるように、動きボケを除去した高解像度データ１８１は、推定された実世界１の信号を、時間方向に積分しないで、空間方向にのみ積分することにより、生成される。
【０２４３】
さらに、図３４で示されるように、時間方向および空間方向により解像度の高い高解像度データ１８１は、推定された実世界１の信号を、空間方向に、データ３を出力したセンサ２の検出素子の受光領域に比較して、より狭い領域で積分するとともに、時間方向に、データ３を出力したセンサ２の検出時間に比較して、より短い時間で積分することにより、生成される。
【０２４４】
この場合において、推定された実世界１の信号が積分される領域および時間は、データ３を出力したセンサ２の検出素子の受光領域およびシャッタ時間と全く無関係に設定することができる。
【０２４５】
このように、画像生成部１０３は、例えば、推定された実世界１の信号を所望の時空間の領域で積分することにより、時間方向、または空間方向に、より高解像度のデータを生成する。
【０２４６】
以上のように、実世界１の信号を推定することにより、実世界１の信号に対してより正確で、時間方向、または空間方向に、より高解像度のデータを生成することができる。
【０２４７】
図３５乃至図３９を参照して、本発明に係る信号処理装置４の、入力画像の例と、処理の結果の例を示す。
【０２４８】
図３５は、入力画像の元の画像を示す図である。図３６は、入力画像の例を示す図である。図３６で示される入力画像は、図３５で示される画像の２×２の画素からなるブロックに属する画素の画素値の平均値を、１つの画素の画素値として生成された画像である。すなわち、入力画像は、図３５で示される画像に、センサの積分特性を模した、空間方向の積分を適用することにより得られた画像である。
【０２４９】
図３５で示される元の画像において、上下方向から、ほぼ５度時計方向に傾いた細線の画像が含まれている。同様に、図３６で示される入力画像において、上下方向から、ほぼ５度時計方向に傾いた細線の画像が含まれている。
【０２５０】
図３７は、図３６で示される入力画像に、従来のクラス分類適応処理を適用して得られた画像を示す図である。ここで、クラス分類適応処理は、クラス分類処理と適応処理とからなり、クラス分類処理によって、データを、その性質に基づいてクラス分けし、各クラスごとに適応処理を施すものである。適応処理では、例えば、低画質または標準画質の画像が、所定のタップ係数を用いてマッピング（写像）されることにより、高画質の画像に変換される。
【０２５１】
図３７で示される画像において、細線の画像が、図３５の元の画像とは異なるものになっていることがわかる。
【０２５２】
図３８は、データ定常性検出部１０１による、図３６の例で示される入力画像から細線の領域を検出した結果を示す図である。図３８において、白い領域は、細線の領域、すなわち、図１４で示される円弧形状が並んでいる領域を示す。
【０２５３】
図３９は、図３６で示される画像を入力画像として、本発明に係る信号処理装置４から出力された出力画像の例を示す図である。図３９で示されるように、本発明に係る信号処理装置４によれば、図３５で示される元の画像の細線の画像により近い画像を得ることができる。
【０２５４】
図４０は、本発明に係る信号処理装置４による、信号の処理を説明するフローチャートである。
【０２５５】
ステップＳ１０１において、データ定常性検出部１０１は、定常性の検出の処理を実行する。データ定常性検出部１０１は、データ３である入力画像に含まれているデータの定常性を検出して、検出したデータの定常性を示すデータ定常性情報を実世界推定部１０２および画像生成部１０３に供給する。
【０２５６】
データ定常性検出部１０１は、現実世界の信号の定常性に対応するデータの定常性を検出する。ステップＳ１０１の処理において、データ定常性検出部１０１により検出されるデータの定常性は、データ３に含まれる、実世界１の画像の定常性の一部であるか、または、実世界１の信号の定常性から変化してしまった定常性である。
【０２５７】
例えば、データ定常性検出部１０１は、所定の次元の方向に一定の特徴を有する領域を検出することにより、データの定常性を検出する。また、例えば、データ定常性検出部１０１は、同様の形状の並び方を示す、空間方向の角度（傾き）を検出することにより、データの定常性を検出する。
【０２５８】
ステップＳ１０１における、定常性の検出の処理の詳細は、後述する。
【０２５９】
なお、データ定常性情報は、データ３の特徴を示す特徴量として利用することができる。
【０２６０】
ステップＳ１０２において、実世界推定部１０２は、実世界の推定の処理を実行する。すなわち、実世界推定部１０２は、入力画像、およびデータ定常性検出部１０１から供給されたデータ定常性情報を基に、実世界１の信号を推定する。例えば、ステップＳ１０２の処理において、実世界推定部１０２は、実世界１を近似（記述）するモデル１６１を予測することにより、実世界１の信号を推定する。実世界推定部１０２は、推定された実世界１の信号を示す実世界推定情報を画像生成部１０３に供給する。
【０２６１】
例えば、実世界推定部１０２は、線状の物の幅を予測することにより、実世界１の信号を推定する。また、例えば、実世界推定部１０２は、線状の物の色を示すレベルを予測することにより、実世界１の信号を推定する。
【０２６２】
ステップＳ１０２における、実世界の推定の処理の詳細は、後述する。
【０２６３】
なお、実世界推定情報は、データ３の特徴を示す特徴量として利用することができる。
【０２６４】
ステップＳ１０３において、画像生成部１０３は、画像の生成の処理を実行して、処理は終了する。すなわち、画像生成部１０３は、実世界推定情報を基に、画像を生成して、生成した画像を出力する。または、画像生成部１０３は、データ定常性情報および実世界推定情報を基に、画像を生成して、生成した画像を出力する。
【０２６５】
例えば、ステップＳ１０３の処理において、画像生成部１０３は、実世界推定情報を基に、推定された現実世界の光を空間方向に積分することにより、入力画像に比較して、空間方向により高解像度の画像を生成して、生成した画像を出力する。例えば、画像生成部１０３は、実世界推定情報を基に、推定された現実世界の光を時空間方向に積分することにより、入力画像に比較して、時間方向および空間方向により高解像度の画像を生成して、生成した画像を出力する。ステップＳ１０３における、画像の生成の処理の詳細は、後述する。
【０２６６】
このように、本発明に係る信号処理装置４は、データ３からデータの定常性を検出し、検出したデータの定常性を基に、実世界１を推定する。そして、信号処理装置４は、推定された実世界１を基に、より実世界１に近似した信号を生成する。
【０２６７】
以上のように、現実世界の信号を推定して処理を実行するようにした場合には、正確で、精度の高い処理結果を得ることができるようになる。
【０２６８】
また、第１の次元を有する現実世界の信号である第１の信号が射影され、現実世界の信号の定常性の一部が欠落した第１の次元よりも少ない第２の次元の第２の信号の、欠落した現実世界の信号の定常性に対応するデータの定常性を検出し、検出されたデータの定常性に基づいて、欠落した現実世界の信号の定常性を推定することにより第１の信号を推定するようにした場合には、現実世界の事象に対して、より正確で、より精度の高い処理結果を得ることができるようになる。
【０２６９】
次に、データ定常性検出部１０１の構成の詳細について説明する。
【０２７０】
図４１は、データ定常性検出部１０１の構成を示すブロック図である。
【０２７１】
図４１に構成を示すデータ定常性検出部１０１は、細線である対象物を撮像したとき、対象物の有する断面形状が同じであるという定常性から生じた、データ３に含まれるデータの定常性を検出する。すなわち、図４１に構成を示すデータ定常性検出部１０１は、細線である実世界１の画像の有する、長さ方向の任意の位置において、長さ方向に直交する方向の位置の変化に対する光のレベルの変化が同じであるという定常性から生じた、データ３に含まれるデータの定常性を検出する。
【０２７２】
より具体的には、図４１に構成を示すデータ定常性検出部１０１は、細線の画像を空間積分効果を有するセンサ２で撮像して得られたデータ３に含まれる、斜めにずれて隣接して並ぶ、複数の所定の長さの円弧形状（かまぼこ型）が配置される領域を検出する。
【０２７３】
データ定常性検出部１０１は、データ３である入力画像から、データの定常性を有する細線の画像が射影された画像データの部分（以下、定常成分とも称する）以外の画像データの部分（以下、非定常成分と称する）を抽出し、抽出された非定常成分と入力画像とから、実世界１の細線の画像が射影された画素を検出し、入力画像における、実世界１の細線の画像が射影された画素からなる領域を検出する。
【０２７４】
非定常成分抽出部２０１は、入力画像から非定常成分を抽出して、入力画像と共に、抽出された非定常成分を示す非定常成分情報を頂点検出部２０２および単調増減検出部２０３に供給する。
【０２７５】
例えば、図４２で示されるように、ほぼ一定の光のレベルの背景の前に細線がある実世界１の画像がデータ３に射影されたとき、図４３で示されるように、非定常成分抽出部２０１は、データ３である入力画像における背景を平面で近似することにより、背景である非定常成分を抽出する。図４３において、実線は、データ３の画素値を示し、点線は、背景を近似する平面で示される近似値を示す。図４３において、Ａは、細線の画像が射影された画素の画素値を示し、ＰＬは、背景を近似する平面を示す。
【０２７６】
このように、データの定常性を有する画像データの部分における、複数の画素の画素値は、非定常成分に対して不連続となる。
【０２７７】
非定常成分抽出部２０１は、実世界１の光信号である画像が射影され、実世界１の画像の定常性の一部が欠落した、データ３である画像データの複数の画素の画素値の不連続部を検出する。
【０２７８】
非定常成分抽出部２０１における非定常成分の抽出の処理の詳細は、後述する。
【０２７９】
頂点検出部２０２および単調増減検出部２０３は、非定常成分抽出部２０１から供給された非定常成分情報を基に、入力画像から非定常成分を除去する。例えば、頂点検出部２０２および単調増減検出部２０３は、入力画像の各画素のうち、背景の画像のみが射影された画素の画素値を0に設定することにより、入力画像から非定常成分を除去する。また、例えば、頂点検出部２０２および単調増減検出部２０３は、入力画像の各画素の画素値から、平面ＰＬで近似される値を引き算することにより、入力画像から非定常成分を除去する。
【０２８０】
入力画像から背景を除去することができるので、頂点検出部２０２乃至連続性検出部２０４は、細線が射影された画像データの部分のみを処理の対象とすることができ、頂点検出部２０２乃至連続性検出部２０４における処理がより容易になる。
【０２８１】
なお、非定常成分抽出部２０１は、入力画像から非定常成分を除去した画像データを頂点検出部２０２および単調増減検出部２０３に供給するようにしてもよい。
【０２８２】
以下に説明する処理の例において、入力画像から非定常成分が除去された画像データ、すなわち、定常成分を含む画素のみからなる画像データが対象となる。
【０２８３】
ここで、頂点検出部２０２乃至連続性検出部２０４が検出しようとする、細線の画像が射影された画像データについて説明する。
【０２８４】
図４２で示される細線の画像が射影された画像データの空間方向Ｙの断面形状（空間方向の位置の変化に対する画素値の変化）は、光学LPFがないとした場合、センサ２であるイメージセンサの空間積分効果から、図４４に示す台形、または図４５に示す三角形となることが考えられる。しかしながら、通常のイメージセンサは、光学LPFを備え、イメージセンサは、光学LPFを通過した画像を取得し、取得した画像をデータ３に射影するので、現実には、細線の画像データの空間方向Ｙの断面形状は、図４６に示すようなガウス分布に類似した形状となる。
【０２８５】
頂点検出部２０２乃至連続性検出部２０４は、細線の画像が射影された画素であって、同じ断面形状（空間方向の位置の変化に対する画素値の変化）が画面の上下方向に一定の間隔で並ぶものからなる領域を検出して、さらに、実世界１の細線の長さ方向に対応した、領域の繋がりを検出することにより、データの定常性を有する領域である、細線の画像が射影された画素からなる領域を検出する。すなわち、頂点検出部２０２乃至連続性検出部２０４は、入力画像における、縦に１列の画素の上に、円弧形状（かまぼこ型）が形成される領域を検出し、検出された領域が横方向に隣接して並んでいるか否かを判定して、実世界１の信号である細線の画像の長さ方向に対応した、円弧形状が形成される領域の繋がりを検出する。
【０２８６】
また、頂点検出部２０２乃至連続性検出部２０４は、細線の画像が射影された画素であって、同じ断面形状が画面の左右方向に一定の間隔で並ぶものからなる領域を検出して、さらに、実世界１の細線の長さ方向に対応した、検出された領域の繋がりを検出することにより、データの定常性を有する領域である、細線の画像が射影された画素からなる領域を検出する。すなわち、頂点検出部２０２乃至連続性検出部２０４は、入力画像における、横に１列の画素の上に、円弧形状が形成される領域を検出し、検出された領域が縦方向に隣接して並んでいるか否かを判定して、実世界１の信号である細線の画像の長さ方向に対応した、円弧形状が形成される領域の繋がりを検出する。
【０２８７】
まず、細線の画像が射影された画素であって、画面の上下方向に同じ円弧形状が一定の間隔で並ぶものからなる領域を検出する処理を説明する。
【０２８８】
頂点検出部２０２は、周囲の画素に比較して、より大きい画素値を有する画素、すなわち頂点を検出し、頂点の位置を示す頂点情報を単調増減検出部２０３に供給する。画面の上下方向に１列に並ぶ画素を対象とした場合、頂点検出部２０２は、画面の上側に位置する画素の画素値、および画面の下側に位置する画素の画素値に比較して、より大きい画素値を有する画素を頂点として検出する。頂点検出部２０２は、１つの画像、例えば、１つのフレームの画像から、１または複数の頂点を検出する。
【０２８９】
１つの画面には、フレームまたはフィールドが含まれる。以下の説明において、同様である。
【０２９０】
例えば、頂点検出部２０２は、１フレームの画像からまだ注目画素とされていない画素の中から注目画素を選択し、注目画素の画素値と、注目画素の上側の画素の画素値とを比較し、注目画素の画素値と、注目画素の下側の画素の画素値とを比較して、上側の画素の画素値より大きい画素値を有し、下側の画素の画素値より大きい画素値を有する注目画素を検出して、検出された注目画素を頂点とする。頂点検出部２０２は、検出された頂点を示す頂点情報を単調増減検出部２０３に供給する。
【０２９１】
頂点検出部２０２が、頂点を検出しない場合もある。例えば、１つの画像の画素の画素値が全て同じ値であるとき、または、１若しくは２の方向に対して画素値が減少しているとき、頂点は検出されない。この場合、細線の画像は、画像データに射影されていない。
【０２９２】
単調増減検出部２０３は、頂点検出部２０２から供給された、頂点の位置を示す頂点情報を基に、頂点検出部２０２で検出された頂点に対して上下方向に１列に並ぶ画素であって、細線の画像が射影された画素からなる領域の候補を検出し、頂点情報と共に、検出した領域を示す領域情報を連続性検出部２０４に供給する。
【０２９３】
より具体的には、単調増減検出部２０３は、頂点の画素値を基準として、単調減少している画素値を有する画素からなる領域を、細線の画像が射影された画素からなる領域の候補として検出する。単調減少とは、頂点からの距離がより長い画素の画素値が、頂点からの距離が短い画素の画素値に比較して、より小さいことをいう。
【０２９４】
また、単調増減検出部２０３は、頂点の画素値を基準として、単調増加している画素値を有する画素からなる領域を、細線の画像が射影された画素からなる領域の候補として検出する。単調増加とは、頂点からの距離がより長い画素の画素値が、頂点からの距離が短い画素の画素値に比較して、より大きいことをいう。
【０２９５】
以下、単調増加している画素値を有する画素からなる領域についての処理は、単調減少している画素値を有する画素からなる領域についての処理と同様なので、その説明は省略する。細線の画像が射影された画素であって、画面の横方向に同じ円弧形状が一定の間隔で並ぶものからなる領域を検出する処理における、単調増加している画素値を有する画素からなる領域についての処理も、単調減少している画素値を有する画素からなる領域についての処理と同様なので、その説明は省略する。
【０２９６】
例えば、単調増減検出部２０３は、頂点に対して縦に１列に各画素について、各画素の画素値と、上側の画素の画素値との差分、および下側の画素の画素値との差分を求める。そして、単調増減検出部２０３は、差分の符号が変化する画素を検出することにより、画素値が単調減少している領域を検出する。
【０２９７】
さらに、単調増減検出部２０３は、画素値が単調減少している領域から、頂点の画素値の符号を基準として、頂点の画素値の符号と同じ符号の画素値を有する画素からなる領域を、細線の画像が射影された画素からなる領域の候補として検出する。
【０２９８】
例えば、単調増減検出部２０３は、各画素の画素値の符号と、上側の画素の画素値の符号および下側の画素の画素値の符号とを比較し、画素値の符号が変化する画素を検出することにより、画素値が単調減少している領域から、頂点と同じ符号の画素値を有する画素からなる領域を検出する。
【０２９９】
このように、単調増減検出部２０３は、上下方向に並び、頂点に対して画素値が単調減少し、頂点と同じ符号の画素値を有する画素からなる領域を検出する。
【０３００】
図４７は、空間方向Ｙの位置に対する画素値から、細線の画像が射影された画素の領域を検出する、頂点の検出および単調増減領域の検出の処理を説明する図である。
【０３０１】
図４７乃至図４９において、Pは、頂点を示す。図４１で構成が示されるデータ定常性検出部１０１の説明において、Pは、頂点を示す。
【０３０２】
頂点検出部２０２は、各画素の画素値と、これに空間方向Ｙに隣接する画素の画素値とを比較して、空間方向Ｙに隣接する２つの画素の画素値より大きい画素値を有する画素を検出することにより、頂点Pを検出する。
【０３０３】
頂点Pと、頂点Pの空間方向Ｙの両側の画素とからなる領域は、頂点Pの画素値に対して、空間方向Ｙの両側の画素の画素値が単調に減少する単調減少領域である。図４７において、Aで示す矢印、およびBで示す矢印は、頂点Pの両側に存在する単調減少領域を示す。
【０３０４】
単調増減検出部２０３は、各画素の画素値と、その画素に空間方向Ｙに隣接する画素の画素値との差分を求めて、差分の符号が変化する画素を検出する。単調増減検出部２０３は、検出された、差分の符号が変化する画素と、その手前側（頂点P側）の画素との境界を、細線の画像が射影された画素からなる細線領域の境界とする。
【０３０５】
図４７において、差分の符号が変化する画素と、その手前側（頂点P側）の画素との境界である細線領域の境界はCで示される。
【０３０６】
さらに、単調増減検出部２０３は、単調減少領域において、各画素の画素値の符号と、その画素に空間方向Ｙに隣接する画素の画素値の符号とを比較し、画素値の符号が変化する画素を検出する。単調増減検出部２０３は、検出された、差分の符号が変化する画素と、その手前側（頂点P側）の画素との境界を細線領域の境界とする。
【０３０７】
図４７において、差分の符号が変化する画素と、その手前側（頂点P側）の画素との境界である細線領域の境界はDで示される。
【０３０８】
図４７で示されるように、細線の画像が射影された画素からなる細線領域Fは、細線領域の境界Cと、細線領域の境界Dとに挟まれる領域とされる。
【０３０９】
単調増減検出部２０３は、このような単調増減領域からなる細線領域Fの中から、予め定めた閾値より長い細線領域F、すなわち、閾値より多い数の画素を含む細線領域Fを求める。例えば、閾値が３であるとき、単調増減検出部２０３は、４つ以上の画素を含む細線領域Fを検出する。
【０３１０】
さらに、このように検出された細線領域Fの中から、単調増減検出部２０３は、頂点Pの画素値、および頂点Pの右側の画素の画素値、および頂点Pの左側の画素の画素値を、それぞれ閾値と比較し、頂点Pの画素値が閾値を超え、頂点Pの右側の画素の画素値が閾値以下であり、頂点Pの左側の画素の画素値が閾値以下である頂点Pが属する細線領域Fを検出し、検出された細線領域Fを細線の画像の成分を含む画素からなる領域の候補とする。
【０３１１】
言い換えれば、頂点Pの画素値が閾値以下であるか、頂点Pの右側の画素の画素値が閾値を超えるか、または頂点Pの左側の画素の画素値が閾値を超える頂点Pが属する細線領域Fは、細線の画像の成分を含まないと判定され、細線の画像の成分を含む画素からなる領域の候補から除去される。
【０３１２】
すなわち、図４８で示されるように、単調増減検出部２０３は、頂点Pの画素値を閾値と比較すると共に、頂点Pに対して、空間方向Ｘ（点線AA'で示す方向）に隣接する画素の画素値を、閾値と比較し、頂点Pの画素値が閾値を超え、空間方向Ｘに隣接する画素の画素値が閾値以下である、頂点Pが属する細線領域Fを検出する。
【０３１３】
図４９は、図４８の点線AA'で示す空間方向Ｘに並ぶ画素の画素値を表す図である。頂点Pの画素値が閾値Ｔｈ_Sを超え、頂点Pの空間方向Ｘに隣接する画素の画素値が、閾値Ｔｈ_S以下である、頂点Pが属する細線領域Fは、細線の成分を含む。
【０３１４】
なお、単調増減検出部２０３は、背景の画素値を基準として、頂点Pの画素値と背景の画素値との差分を閾値と比較すると共に、頂点Pに対して、空間方向Ｘに隣接する画素の画素値と背景の画素値との差分を、閾値と比較し、頂点Pの画素値と背景の画素値との差分が閾値を超え、空間方向Ｘに隣接する画素の画素値と背景の画素値との差分が閾値以下である、頂点Pが属する細線領域Fを検出するようにしてもよい。
【０３１５】
単調増減検出部２０３は、頂点Pを基準として、画素値が単調減少し、画素値の符号が頂点Pと同じである画素からなる領域であって、その頂点Pが閾値を超え、頂点Pの右側の画素の画素値が閾値以下であり、頂点Pの左側の画素の画素値が閾値以下であるものを示す単調増減領域情報を連続性検出部２０４に供給する。
【０３１６】
画面の上下方向に１列に並ぶ画素であって、細線の画像が射影されたものからなる領域を検出する場合において、単調増減領域情報により示される領域に属する画素は、上下方向に並び、細線の画像が射影された画素を含む。すなわち、単調増減領域情報により示される領域は、画面の上下方向に１列に並ぶ画素であって、細線の画像が射影されたものからなる領域を含む。
【０３１７】
このように、頂点検出部２０２および単調増減検出部２０３は、細線の画像が射影された画素において、空間方向Ｙの画素値の変化が、ガウス分布に類似するという性質を利用して、細線の画像が射影された画素からなる定常領域を検出する。
【０３１８】
連続性検出部２０４は、単調増減検出部２０３から供給された単調増減領域情報で示される、上下方向に並ぶ画素からなる領域のうち、横方向に隣接している画素を含む領域、すなわち、相似した画素値の変化を有し、縦方向に重複している領域を、連続している領域として検出し、頂点情報、および検出された連続している領域を示すデータ定常性情報を出力する。データ定常性情報は、単調増減領域情報、および領域の繋がりを示す情報などを含んでいる。
【０３１９】
細線が射影された画素において、円弧形状が隣接するように一定の間隔で並ぶので、検出された連続している領域は、細線が射影された画素を含んでいる。
【０３２０】
検出された連続している領域が、細線が射影された、円弧形状が隣接するように一定の間隔で並ぶ画素を含むので、検出された連続している領域を定常領域とし、連続性検出部２０４は、検出された連続している領域を示すデータ定常性情報を出力する。
【０３２１】
すなわち、連続性検出部２０４は、長さ方向に連続するという、実世界１の細線の画像の定常性から生じた、細線を撮像して得られたデータ３における、円弧形状が隣接するように一定の間隔で並ぶ定常性を利用して、頂点検出部２０２および単調増減検出部２０３において検出された領域の候補をさらに絞り込む。
【０３２２】
図５０は、単調増減領域の連続性を検出の処理を説明する図である。
【０３２３】
図５０に示すように、連続性検出部２０４は、画面の縦方向に１列に並ぶ画素からなる細線領域Fについて、横方向に隣接する画素を含んでいるとき、２つの単調増減領域の間に連続性があるとし、横方向に隣接する画素を含んでいないとき、２つの細線領域Fの間に連続性がないとする。例えば、画面の縦方向に１列に並ぶ画素からなる細線領域F_-1は、画面の縦方向に１列に並ぶ画素からなる細線領域F₀の画素と横方向に隣接する画素を含んでいるとき、細線領域F₀と連続しているとされる。画面の縦方向に１列に並ぶ画素からなる細線領域F₀は、画面の縦方向に１列に並ぶ画素からなる細線領域F₁の画素と横方向に隣接する画素を含んでいるとき、細線領域F₁と連続しているとされる。
【０３２４】
このように、頂点検出部２０２乃至連続性検出部２０４により、画面の上下方向に１列に並ぶ画素であって、細線の画像が射影されたものからなる領域が検出される。
【０３２５】
頂点検出部２０２乃至連続性検出部２０４は、上述したように、画面の上下方向に１列に並ぶ画素であって、細線の画像が射影されたものからなる領域を検出し、さらに、画面の左右方向に１列に並ぶ画素であって、細線の画像が射影されたものからなる領域を検出する。
【０３２６】
なお、処理の順序は、本発明を限定するものではなく、並列に実行するようにしても良いことは当然である。
【０３２７】
すなわち、頂点検出部２０２は、画面の左右方向に１列に並ぶ画素を対象として、画面の左側に位置する画素の画素値、および画面の右側に位置する画素の画素値に比較して、より大きい画素値を有する画素を頂点として検出し、検出した頂点の位置を示す頂点情報を単調増減検出部２０３に供給する。頂点検出部２０２は、１つの画像、例えば、１フレームの画像から、１または複数の頂点を検出する。
【０３２８】
例えば、頂点検出部２０２は、１フレームの画像からまだ注目画素とされていない画素の中から注目画素を選択し、注目画素の画素値と、注目画素の左側の画素の画素値とを比較し、注目画素の画素値と、注目画素の右側の画素の画素値とを比較して、左側の画素の画素値より大きい画素値を有し、右側の画素の画素値より大きい画素値を有する注目画素を検出して、検出された注目画素を頂点とする。頂点検出部２０２は、検出された頂点を示す頂点情報を単調増減検出部２０３に供給する。
【０３２９】
頂点検出部２０２が、頂点を検出しない場合もある。
【０３３０】
単調増減検出部２０３は、頂点検出部２０２で検出された頂点に対して左右方向に１列に並ぶ画素であって、細線の画像が射影された画素からなる領域の候補を検出検出し、頂点情報と共に、検出した領域を示す単調増減領域情報を連続性検出部２０４に供給する。
【０３３１】
より具体的には、単調増減検出部２０３は、頂点の画素値を基準として、単調減少している画素値を有する画素からなる領域を、細線の画像が射影された画素からなる領域の候補として検出する。
【０３３２】
例えば、単調増減検出部２０３は、頂点に対して横に１列の各画素について、各画素の画素値と、左側の画素の画素値との差分、および右側の画素の画素値との差分を求める。そして、単調増減検出部２０３は、差分の符号が変化する画素を検出することにより、画素値が単調減少している領域を検出する。
【０３３３】
さらに、単調増減検出部２０３は、画素値が単調減少している領域から、頂点の画素値の符号を基準として、頂点の画素値の符号と同じ符号の画素値を有する画素からなる領域を、細線の画像が射影された画素からなる領域の候補として検出する。
【０３３４】
例えば、単調増減検出部２０３は、各画素の画素値の符号と、左側の画素の画素値の符号または右側の画素の画素値の符号とを比較し、画素値の符号が変化する画素を検出することにより、画素値が単調減少している領域から、頂点と同じ符号の画素値を有する画素からなる領域を検出する。
【０３３５】
このように、単調増減検出部２０３は、左右方向に並び、頂点に対して画素値が単調減少し、頂点と同じ符号の画素値を有する画素からなる領域を検出する。
【０３３６】
単調増減検出部２０３は、このような単調増減領域からなる細線領域の中から、予め定めた閾値より長い細線領域、すなわち、閾値より多い数の画素を含む細線領域を求める。
【０３３７】
さらに、このように検出された細線領域の中から、単調増減検出部２０３は、頂点の画素値、および頂点の上側の画素の画素値、および頂点の下側の画素の画素値を、それぞれ閾値と比較し、頂点の画素値が閾値を超え、頂点の上側の画素の画素値が閾値以下であり、頂点の下側の画素の画素値が閾値以下である頂点が属する細線領域を検出し、検出された細線領域を細線の画像の成分を含む画素からなる領域の候補とする。
【０３３８】
言い換えれば、頂点の画素値が閾値以下であるか、頂点の上側の画素の画素値が閾値を超えるか、または頂点の下側の画素の画素値が閾値を超える頂点が属する細線領域は、細線の画像の成分を含まないと判定され、細線の画像の成分を含む画素からなる領域の候補から除去される。
【０３３９】
なお、単調増減検出部２０３は、背景の画素値を基準として、頂点の画素値と背景の画素値との差分を閾値と比較すると共に、頂点に対して、上下方向に隣接する画素の画素値と背景の画素値との差分を、閾値と比較し、頂点の画素値と背景の画素値との差分が閾値を超え、上下方向に隣接する画素の画素値と背景の画素値との差分が閾値以下である、検出された細線領域を細線の画像の成分を含む画素からなる領域の候補とするようにしてもよい。
【０３４０】
単調増減検出部２０３は、頂点を基準として、画素値が単調減少し、画素値の符号が頂点と同じである画素からなる領域であって、その頂点が閾値を超え、頂点の右側の画素の画素値が閾値以下であり、頂点の左側の画素の画素値が閾値以下であるものを示す単調増減領域情報を連続性検出部２０４に供給する。
【０３４１】
画面の左右方向に１列に並ぶ画素であって、細線の画像が射影されたものからなる領域を検出する場合において、単調増減領域情報により示される領域に属する画素は、左右方向に並び、細線の画像が射影された画素を含む。すなわち、単調増減領域情報により示される領域は、画面の左右方向に並ぶ１列の画素であって、細線の画像が射影されたものからなる領域を含む。
【０３４２】
連続性検出部２０４は、単調増減検出部２０３から供給された単調増減領域情報で示される、左右方向に並ぶ画素からなる領域のうち、縦方向に隣接している画素を含む領域、すなわち、相似した画素値の変化を有し、横方向に重複している領域を、連続している領域として検出し、頂点情報、および検出された連続している領域を示すデータ定常性情報を出力する。データ定常性情報は、領域の繋がりを示す情報を含んでいる。
【０３４３】
細線が射影された画素において、円弧形状が隣接するように一定の間隔で並ぶので、検出された連続している領域は、細線が射影された画素を含んでいる。
【０３４４】
検出された連続している領域が、細線が射影された、円弧形状が隣接するように一定の間隔で並ぶ画素を含むので、検出された連続している領域を定常領域とし、連続性検出部２０４は、検出された連続している領域を示すデータ定常性情報を出力する。
【０３４５】
すなわち、連続性検出部２０４は、長さ方向に連続するという、実世界１の細線の画像の定常性から生じた、細線を撮像して得られたデータ３における、円弧形状が隣接するように一定の間隔で並ぶ定常性を利用して、頂点検出部２０２および単調増減検出部２０３において検出された領域の候補をさらに絞り込む。
【０３４６】
図５１は、平面での近似により定常成分を抽出した画像の例を示す図である。図５２は、図５１に示す画像から頂点を検出し、単調減少している領域を検出した結果を示す図である。図５２において、白で示される部分が、検出された領域である。
【０３４７】
図５３は、図５２に示す画像から、隣接している領域の連続性を検出して、連続性が検出された領域を示す図である。図５３において、白で示される部分が、連続性が検出された領域である。連続性の検出により、領域がさらに特定されていることがわかる。
【０３４８】
図５４は、図５３に示す領域の画素値、すなわち、連続性が検出された領域の画素値を示す図である。
【０３４９】
このように、データ定常性検出部１０１は、入力画像であるデータ３に含まれている定常性を検出することができる。すなわち、データ定常性検出部１０１は、細線である実世界１の画像がデータ３に射影されることにより生じた、データ３に含まれるデータの定常性を検出することができる。データ定常性検出部１０１は、データ３から、細線である実世界１の画像が射影された画素からなる領域を検出する。
【０３５０】
図５５は、定常性検出部１０１における、細線の画像が射影された、定常性を有する領域の検出の他の処理の例を示す図である。
【０３５１】
定常性検出部１０１は、図５５に示すように、各画素について、隣接する画素との画素値の差分の絶対値を計算する。計算された差分の絶対値は、画素に対応させて、配置される。例えば、図５５に示すように、画素値がそれぞれP0、P1、P2である画素が並んでいるとき、定常性検出部１０１は、差分d0=P0-P1および差分d1=P1-P2を計算する。さらに、定常性検出部１０１は、差分d0および差分d1の絶対値を算出する。
【０３５２】
画素値P0、P1、およびP2に含まれている非定常性成分が同一であるとき、差分d0および差分d1には、細線の成分に対応した値のみが設定されることになる。
【０３５３】
従って、定常性検出部１０１は、画素に対応させて配置されている差分の絶対値のうち、隣り合う差分の値が同一であるとき、その２つの差分の絶対値に対応する画素（２つの差分の絶対値に挟まれた画素）に細線の成分が含まれていると判定する。
【０３５４】
定常性検出部１０１においては、このような、簡便な方法で細線を検出することもできる。
【０３５５】
図５６は、定常性検出の処理を説明するフローチャートである。
【０３５６】
ステップＳ２０１において、非定常成分抽出部２０１は、入力画像から、細線が射影された部分以外の部分である非定常成分を抽出する。非定常成分抽出部２０１は、入力画像と共に、抽出された非定常成分を示す非定常成分情報を頂点検出部２０２および単調増減検出部２０３に供給する。非定常成分の抽出の処理の詳細は、後述する。
【０３５７】
ステップＳ２０２において、頂点検出部２０２は、非定常成分抽出部２０１から供給された非定常成分情報を基に、入力画像から非定常成分を除去し、入力画像に定常成分を含む画素のみを残す。さらに、ステップＳ２０２において、頂点検出部２０２は、頂点を検出する。
【０３５８】
すなわち、頂点検出部２０２は、画面の縦方向を基準として、処理を実行する場合、定常成分を含む画素について、各画素の画素値と、上側および下側の画素の画素値とを比較して、上側の画素の画素値および下側の画素の画素値より大きい画素値を有する画素を検出することにより、頂点を検出する。また、ステップＳ２０２において、頂点検出部２０２は、画面の横方向を基準として、処理を実行する場合、定常成分を含む画素について、各画素の画素値と、右側および左側の画素の画素値とを比較して、右側の画素の画素値および左側の画素の画素値より大きい画素値を有する画素を検出することにより、頂点を検出する。
【０３５９】
頂点検出部２０２は、検出した頂点を示す頂点情報を単調増減検出部２０３に供給する。
【０３６０】
ステップＳ２０３において、単調増減検出部２０３は、非定常成分抽出部２０１から供給された非定常成分情報を基に、入力画像から非定常成分を除去し、入力画像に定常成分を含む画素のみを残す。さらに、ステップＳ２０３において、単調増減検出部２０３は、頂点検出部２０２から供給された、頂点の位置を示す頂点情報を基に、頂点に対する単調増減を検出することにより、データの定常性を有する画素からなる領域を検出する。
【０３６１】
単調増減検出部２０３は、画面の縦方向を基準として、処理を実行する場合、頂点の画素値、および頂点に対して縦に１列に並ぶ画素の画素値を基に、縦に並ぶ１列の画素であって、１つの細線の画像が射影された画素からなる単調増減を検出することにより、データの定常性を有する画素からなる領域を検出する。すなわち、ステップＳ２０３において、単調増減検出部２０３は、画面の縦方向を基準として、処理を実行する場合、頂点および頂点に対して縦に１列に並ぶ画素について、各画素の画素値と、上側または下側の画素の画素値との差分を求めて、差分の符号が変化する画素を検出する。また、単調増減検出部２０３は、頂点および頂点に対して縦に１列に並ぶ画素について、各画素の画素値の符号と、その画素の上側または下側の画素の画素値の符号とを比較し、画素値の符号が変化する画素を検出する。さらに、単調増減検出部２０３は、頂点の画素値、並びに頂点の右側および左側の画素の画素値を、閾値と比較し、頂点の画素値が閾値を超え、右側および左側の画素の画素値が閾値以下である画素からなる領域を検出する。
【０３６２】
単調増減検出部２０３は、このように検出された領域を単調増減領域として、単調増減領域を示す単調増減領域情報を連続性検出部２０４に供給する。
【０３６３】
また、単調増減検出部２０３は、画面の横方向を基準として、処理を実行する場合、頂点の画素値、および頂点に対して横に１列に並ぶ画素の画素値を基に、横に並ぶ１列の画素であって、１つの細線の画像が射影された画素からなる単調増減を検出することにより、データの定常性を有する画素からなる領域を検出する。すなわち、ステップＳ２０３において、単調増減検出部２０３は、画面の横方向を基準として、処理を実行する場合、頂点および頂点に対して横に１列に並ぶ画素について、各画素の画素値と、左側または右側の画素の画素値との差分を求めて、差分の符号が変化する画素を検出する。また、単調増減検出部２０３は、頂点および頂点に対して横に１列に並ぶ画素について、各画素の画素値の符号と、その画素の左側または右側の画素の画素値の符号とを比較し、画素値の符号が変化する画素を検出する。さらに、単調増減検出部２０３は、頂点の画素値、並びに頂点の上側および下側の画素の画素値を、閾値と比較し、頂点の画素値が閾値を超え、上側および下側の画素の画素値が閾値以下である画素からなる領域を検出する。
【０３６４】
単調増減検出部２０３は、このように検出された領域を単調増減領域として、単調増減領域を示す単調増減領域情報を連続性検出部２０４に供給する。
【０３６５】
ステップＳ２０４において、単調増減検出部２０３は、全画素の処理が終了したか否かを判定する。例えば、非定常成分抽出部２０１は、入力画像の１つの画面（例えば、フレームまたはフィールドなど）の全画素について、頂点を検出し、単調増減領域を検出したか否かを判定する。
【０３６６】
ステップＳ２０４において、全画素の処理が終了していない、すなわち、頂点の検出および単調増減領域の検出の処理の対象とされていない画素がまだあると判定された場合、ステップＳ２０２に戻り、頂点の検出および単調増減領域の検出の処理の対象とされていない画素から処理の対象となる画素を選択して、頂点の検出および単調増減領域の検出の処理を繰り返す。
【０３６７】
ステップＳ２０４において、全画素の処理が終了した、すなわち、全ての画素を対象として頂点および単調増減領域が検出されたと判定された場合、ステップＳ２０５に進み、連続性検出部２０４は、単調増減領域情報を基に、検出された領域の連続性を検出する。例えば、連続性検出部２０４は、単調増減領域情報で示される、画面の縦方向に１列に並ぶ画素からなる単調増減領域について、横方向に隣接する画素を含んでいるとき、２つの単調増減領域の間に連続性があるとし、横方向に隣接する画素を含んでいないとき、２つの単調増減領域の間に連続性がないとする。例えば、連続性検出部２０４は、単調増減領域情報で示される、画面の横方向に１列に並ぶ画素からなる単調増減領域について、縦方向に隣接する画素を含んでいるとき、２つの単調増減領域の間に連続性があるとし、縦方向に隣接する画素を含んでいないとき、２つの単調増減領域の間に連続性がないとする。
【０３６８】
連続性検出部２０４は、検出された連続している領域をデータの定常性を有する定常領域とし、頂点の位置および定常領域を示すデータ定常性情報を出力する。データ定常性情報は、領域の繋がりを示す情報を含んでいる。連続性検出部２０４から出力されるデータ定常性情報は、実世界１の細線の画像が射影された画素からなる、定常領域である細線領域を示す。
【０３６９】
ステップＳ２０６において、定常性方向検出部２０５は、全画素の処理が終了したか否かを判定する。すなわち、定常性方向検出部２０５は、入力画像の所定のフレームの全画素について、領域の連続性を検出したか否かを判定する。
【０３７０】
ステップＳ２０６において、全画素の処理が終了していない、すなわち、領域の連続性の検出の処理の対象とされていない画素がまだあると判定された場合、ステップＳ２０５に戻り、領域の連続性の検出の処理の対象とされていない画素から処理の対象となる画素を選択して、領域の連続性の検出の処理を繰り返す。
【０３７１】
ステップＳ２０６において、全画素の処理が終了した、すなわち、全ての画素を対象として領域の連続性が検出されたと判定された場合、処理は終了する。
【０３７２】
このように、入力画像であるデータ３に含まれている定常性が検出される。すなわち、細線である実世界１の画像がデータ３に射影されることにより生じた、データ３に含まれるデータの定常性が検出され、データ３から、細線である実世界１の画像が射影された画素からなる、データの定常性を有する領域が検出される。
【０３７３】
なお、図４１で構成が示されるデータ定常性検出部１０１は、データ３のフレームから検出されたデータの定常性を有する領域を基に、時間方向のデータの定常性を検出することができる。
【０３７４】
例えば、図５７に示すように、連続性検出部２０４は、フレーム#nにおいて、検出されたデータの定常性を有する領域、フレーム#n-1において、検出されたデータの定常性を有する領域、およびフレーム#n+1において、検出されたデータの定常性を有する領域を基に、領域の端部を結ぶことにより、時間方向のデータの定常性を検出する。
【０３７５】
フレーム#n-1は、フレーム#nに対して時間的に前のフレームであり、フレーム#n+1は、フレーム#nに対して時間的に後のフレームである。すなわち、フレーム#n-1、フレーム#n、およびフレーム#n+1は、フレーム#n-1、フレーム#n、およびフレーム#n+1の順で表示される。
【０３７６】
より具体的には、図５７において、Ｇは、フレーム#nにおいて、検出されたデータの定常性を有する領域、フレーム#n-1において、検出されたデータの定常性を有する領域、およびフレーム#n+1において、検出されたデータの定常性を有する領域のそれぞれの一端を結ぶことにより得られた動きベクトルを示し、Ｇ’は、検出されたデータの定常性を有する領域のそれぞれの他の一端を結ぶことにより得られた動きベクトルを示す。動きベクトルＧおよび動きベクトルＧ’は、時間方向のデータの定常性の一例である。
【０３７７】
さらに、図４１で構成が示されるデータ定常性検出部１０１は、データの定常性を有する領域の長さを示す情報を、データ定常性情報として出力することができる。
【０３７８】
図５８は、データの定常性を有しない画像データの部分である非定常成分を平面で近似して、非定常成分を抽出する、非定常成分抽出部２０１の構成を示すブロック図である。
【０３７９】
図５８に構成を示す非定常成分抽出部２０１は、入力画像から所定の数の画素でなるブロックを抽出し、ブロックと平面で示される値との誤差が所定の閾値未満になるように、ブロックを平面で近似して、非定常成分を抽出する。
【０３８０】
入力画像は、ブロック抽出部２２１に供給されるとともに、そのまま出力される。
【０３８１】
ブロック抽出部２２１は、入力画像から、所定の数の画素からなるブロックを抽出する。例えば、ブロック抽出部２２１は、７×７の画素からなるブロックを抽出し、平面近似部２２２に供給する。例えば、ブロック抽出部２２１は、抽出されるブロックの中心となる画素をラスタスキャン順に移動させ、順次、入力画像からブロックを抽出する。
【０３８２】
平面近似部２２２は、ブロックに含まれる画素の画素値を所定の平面で近似する。例えば、平面近似部２２２は、式（２４）で表される平面でブロックに含まれる画素の画素値を近似する。
【０３８３】
z=ax+by+c ・・・（２４）
【０３８４】
式（２４）において、xは、画素の画面上の一方の方向（空間方向Ｘ）の位置を示し、yは、画素の画面上の他の一方の方向（空間方向Ｙ）の位置を示す。ｚは、平面で示される近似値を示す。aは、平面の空間方向Ｘの傾きを示し、bは、平面の空間方向Ｙの傾きを示す。式（２４）において、cは、平面のオフセット（切片）を示す。
【０３８５】
例えば、平面近似部２２２は、回帰の処理により、傾きa、傾きb、およびオフセットcを求めることにより、式（２４）で表される平面で、ブロックに含まれる画素の画素値を近似する。平面近似部２２２は、棄却を伴う回帰の処理により、傾きa、傾きb、およびオフセットcを求めることにより、式（２４）で表される平面で、ブロックに含まれる画素の画素値を近似する。
【０３８６】
例えば、平面近似部２２２は、最小自乗法により、ブロックの画素の画素値に対して、誤差が最小となる式（２４）で表される平面を求めることにより、平面でブロックに含まれる画素の画素値を近似する。
【０３８７】
なお、平面近似部２２２は、式（２４）で表される平面でブロックを近似すると説明したが、式（２４）で表される平面に限らず、より高い自由度をもった関数、例えば、n次の多項式で表される面でブロックを近似するようにしてもよい。
【０３８８】
繰り返し判定部２２３は、ブロックの画素値を近似した平面で示される近似値と、ブロックの対応する画素の画素値との誤差を計算する。式（２５）は、ブロックの画素値を近似した平面で示される近似値と、ブロックの対応する画素の画素値ziとの差分である誤差eiを示す式である。
【０３８９】
【数１９】

・・・（２５）
【０３９０】
式（２５）において、zハット（zに^を付した文字をzハットと記述する。以下、本明細書において、同様に記載する。）は、ブロックの画素値を近似した平面で示される近似値を示し、aハットは、ブロックの画素値を近似した平面の空間方向Ｘの傾きを示し、bハットは、ブロックの画素値を近似した平面の空間方向Ｙの傾きを示す。式（２５）において、cハットは、ブロックの画素値を近似した平面のオフセット（切片）を示す。
【０３９１】
繰り返し判定部２２３は、式（２５）で示される、近似値とブロックの対応する画素の画素値との誤差eiが、最も大きい画素を棄却する。このようにすることで、細線が射影された画素、すなわち定常性を有する画素が棄却されることになる。繰り返し判定部２２３は、棄却した画素を示す棄却情報を平面近似部２２２に供給する。
【０３９２】
さらに、繰り返し判定部２２３は、標準誤差を算出して、標準誤差が、予め定めた近似終了判定用の閾値以上であり、ブロックの画素のうち、半分以上の画素が棄却されていないとき、繰り返し判定部２２３は、平面近似部２２２に、ブロックに含まれる画素のうち、棄却された画素を除いた画素を対象として、平面による近似の処理を繰り返させる。
【０３９３】
定常性を有する画素が棄却されるので、棄却された画素を除いた画素を対象として平面で近似をすることにより、平面は、非定常成分を近似することになる。
【０３９４】
繰り返し判定部２２３は、標準誤差が、近似終了判定用の閾値未満であるとき、または、ブロックの画素のうち、半分以上の画素が棄却されたとき、平面による近似を終了する。
【０３９５】
５×５の画素からなるブロックについて、標準誤差e_sは、例えば、式（２６）で算出される。
【０３９６】
【数２０】

・・・（２６）
ここで、nは、画素の数である。
【０３９７】
なお、繰り返し判定部２２３は、標準誤差に限らず、ブロックに含まれる全ての画素についての誤差の２乗の和を算出して、以下の処理を実行するようにしてもよい。
【０３９８】
ここで、ラスタスキャン方向に１画素ずつずれたブロックを平面で近似するとき、図５９に示すように、図中黒丸で示す、定常性を有する画素、すなわち細線の成分を含む画素は、複数回棄却されることになる。
【０３９９】
繰り返し判定部２２３は、平面による近似を終了したとき、ブロックの画素値を近似した平面を示す情報（式（２４）の平面の傾きおよび切片）を、非定常成分情報として出力する。
【０４００】
なお、繰り返し判定部２２３は、画素毎の棄却された回数と予め定めた閾値とを比較して、棄却された回数が閾値以上である画素を定常成分を含む画素であるとして、定常成分を含む画素を示す情報を定常成分情報として出力するようにしてもよい。この場合、頂点検出部２０２乃至定常性方向検出部２０５は、定常成分情報で示される、定常成分を含む画素を対象として、それぞれの処理を実行する。
【０４０１】
図６０乃至図６７を参照して、非定常成分抽出の処理の結果の例を説明する。
【０４０２】
図６０は、細線が含まれる画像から、元の画像の２×２の画素の画素値の平均値を画素値として生成した入力画像の例を示す図である。
【０４０３】
図６１は、図６０で示される画像を、棄却をしないで平面で近似した結果得られる標準誤差を画素値とした画像を示す図である。図６１で示される例において、注目している１つの画素に対する５×５の画素からなるブロックを平面で近似した。図６１において、白い画素はより大きい画素値、すなわち、より大きい標準誤差を有する画素であり、黒い画素はより小さい画素値、すなわち、より小さい標準誤差を有する画素である。
【０４０４】
図６１から、棄却をしないで平面で近似した結果得られる標準誤差を画素値とした場合、非定常部の周辺に広く、大きな値が求められていることが確認できる。
【０４０５】
図６２乃至図６７で示される例において、注目している１つの画素に対する７×７の画素からなるブロックを平面で近似した。７×７の画素からなるブロックを平面で近似する場合、１つの画素が４９のブロックに繰り返し含まれることになるので、定常成分を含む画素は、最も多くて４９回、棄却されることになる。
【０４０６】
図６２は、図６０で示される画像を、棄却をして平面で近似したとき、得られる標準誤差を画素値とした画像である。
【０４０７】
図６２において、白い画素はより大きい画素値、すなわち、より大きい標準誤差を有する画素であり、黒い画素はより小さい画素値、すなわち、より小さい標準誤差を有する画素である。棄却をしない場合に比較して、棄却をした場合、全体として、標準誤差がより小さくなることがわかる。
【０４０８】
図６３は、図６０で示される画像を、棄却をして平面で近似したとき、棄却された回数を画素値とした画像を示す図である。図６３において、白い画素はより大きい画素値、すなわち、棄却された回数がより多い画素であり、黒い画素はより小さい画素値、すなわち、棄却された回数がより少ない画素である。
【０４０９】
図６３から、細線の画像が射影された画素は、より多く棄却されていることがわかる。棄却された回数を画素値とした画像を用いて、入力画像の非定常部をマスクする画像を生成することも可能である。
【０４１０】
図６４は、ブロックの画素値を近似した平面の空間方向Ｘの傾きを画素値とした画像を示す図である。図６５は、ブロックの画素値を近似した平面の空間方向Ｙの傾きを画素値とした画像を示す図である。
【０４１１】
図６６は、ブロックの画素値を近似した平面で示される近似値からなる画像を示す図である。図６６で示される画像からは、細線が消えていることがわかる。
【０４１２】
図６７は、図６０で示される、元の画像の２×２の画素のブロックの平均値を画素の画素値として生成した画像と、図６６で示される、平面で示される近似値からなる画像との差分からなる画像を示す図である。図６７の画像の画素値は、非定常成分が除去されるので、細線の画像が射影された値のみを含む。図６７からもわかるように、元の画素値と近似した平面で示される近似値との差分からなる画像では、元の画像の定常成分がうまく抽出できていることが確認できる。
【０４１３】
棄却された回数、ブロックの画素の画素値を近似する平面の空間方向Ｘの傾き、ブロックの画素の画素値を近似する平面の空間方向Ｙの傾き、ブロックの画素の画素値を近似する平面で示される近似値、および誤差eiは、入力画像の特徴量としても利用することができる。
【０４１４】
図６８は、ステップＳ２０１に対応する、図５８に構成を示す非定常成分抽出部２０１による、非定常成分の抽出の処理を説明するフローチャートである。
【０４１５】
ステップＳ２２１において、ブロック抽出部２２１は、入力画素から、所定の数の画素からなるブロックを抽出し、抽出したブロックを平面近似部２２２に供給する。例えば、ブロック抽出部２２１は、入力画素から、まだ、選択されていない画素のうち、１つの画素を選択し、選択された画素を中心とする７×７の画素からなるブロックを抽出する。例えば、ブロック抽出部２２１は、ラスタスキャン順に画素を選択することができる。
【０４１６】
ステップＳ２２２において、平面近似部２２２は、抽出されたブロックを平面で近似する。平面近似部２２２は、例えば、回帰の処理により、抽出されたブロックの画素の画素値を、平面で近似する。例えば、平面近似部２２２は、回帰の処理により、抽出されたブロックの画素のうち、棄却された画素を除いた画素の画素値を、平面で近似する。ステップＳ２２３において、繰り返し判定部２２３は、繰り返し判定を実行する。例えば、ブロックの画素の画素値と近似した平面の近似値とから標準誤差を算出し、棄却された画素の数をカウントすることにより、繰り返し判定を実行する。
【０４１７】
ステップＳ２２４において、繰り返し判定部２２３は、標準誤差が閾値以上であるか否かを判定し、標準誤差が閾値以上であると判定された場合、ステップＳ２２５に進む。
【０４１８】
なお、ステップＳ２２４において、繰り返し判定部２２３は、ブロックの画素のうち、半分以上の画素が棄却されたか否か、および標準誤差が閾値以上であるか否かを判定し、ブロックの画素のうち、半分以上の画素が棄却されておらず、標準誤差が閾値以上であると判定された場合、ステップＳ２２５に進むようにしてもよい。
【０４１９】
ステップＳ２２５において、繰り返し判定部２２３は、ブロックの画素毎に、画素の画素値と近似した平面の近似値との誤差を算出し、誤差が最も大きい画素を棄却し、平面近似部２２２に通知する。手続きは、ステップＳ２２２に戻り、棄却された画素を除いた、ブロックの画素を対象として、平面による近似の処理および繰り返し判定の処理が繰り返される。
【０４２０】
ステップＳ２２５において、ラスタスキャン方向に１画素ずつずれたブロックがステップＳ２２１の処理で抽出される場合、図５９に示すように、細線の成分を含む画素（図中の黒丸で示す）は、複数回棄却されることになる。
【０４２１】
ステップＳ２２４において、標準誤差が閾値以上でないと判定された場合、ブロックが平面で近似されたので、ステップＳ２２６に進む。
【０４２２】
なお、ステップＳ２２４において、繰り返し判定部２２３は、ブロックの画素のうち、半分以上の画素が棄却されたか否か、および標準誤差が閾値以上であるか否かを判定し、ブロックの画素のうち、半分以上の画素が棄却されたか、または標準誤差が閾値以上でないと判定された場合、ステップＳ２２５に進むようにしてもよい。
【０４２３】
ステップＳ２２６において、繰り返し判定部２２３は、ブロックの画素の画素値を近似する平面の傾きおよび切片を、非定常成分情報として出力する。
【０４２４】
ステップＳ２２７において、ブロック抽出部２２１は、入力画像の１つの画面の全画素について処理を終了したか否かを判定し、まだ処理の対象となってない画素があると判定された場合、ステップＳ２２１に戻り、まだ処理の対象となっていない画素からブロックを抽出して、上述した処理を繰り返す。
【０４２５】
ステップＳ２２７において、入力画像の１つの画面の全画素について、処理を終了したと判定された場合、処理は終了する。
【０４２６】
このように、図５８に構成を示す非定常成分抽出部２０１は、入力画像から非定常成分を抽出することができる。非定常成分抽出部２０１が入力画像の非定常成分を抽出するので、頂点検出部２０２および単調増減検出部２０３は、入力画像と、非定常成分抽出部２０１で抽出された非定常成分との差分を求めることにより、定常成分を含む差分を対象として処理を実行することができる。
【０４２７】
なお、平面による近似の処理において算出される、棄却した場合の標準誤差、棄却しない場合の標準誤差、画素の棄却された回数、平面の空間方向Ｘの傾き（式（２４）におけるaハット）、平面の空間方向Ｙの傾き（式（２４）におけるbハット）、平面で置き換えたときのレベル（式（２４）におけるcハット）、および入力画像の画素値と平面で示される近似値との差分は、特徴量として利用することができる。
【０４２８】
図６９は、ステップＳ２０１に対応する非定常成分の抽出の処理に代わる、図５８に構成を示す非定常成分抽出部２０１による、定常成分の抽出の処理を説明するフローチャートである。ステップＳ２４１乃至ステップＳ２４５の処理は、ステップＳ２２１乃至ステップＳ２２５の処理と同様なので、その説明は省略する。
【０４２９】
ステップＳ２４６において、繰り返し判定部２２３は、平面で示される近似値と入力画像の画素値との差分を、入力画像の定常成分として出力する。すなわち、繰り返し判定部２２３は、平面による近似値と、真値である画素値との差分を出力する。
【０４３０】
なお、繰り返し判定部２２３は、平面で示される近似値と入力画像の画素値との差分が、所定の閾値以上である画素の画素値を、入力画像の定常成分として出力するようにしてもよい。
【０４３１】
ステップＳ２４７の処理は、ステップＳ２２７の処理と同様なので、その説明は省略する。
【０４３２】
平面が非定常成分を近似しているので、非定常成分抽出部２０１は、入力画像の各画素の画素値から、画素値を近似する平面で示される近似値を引き算することにより、入力画像から非定常成分を除去することができる。この場合、頂点検出部２０２乃至連続性検出部２０４は、入力画像の定常成分、すなわち細線の画像が射影された値のみを処理の対象とすることができ、頂点検出部２０２乃至連続性検出部２０４における処理がより容易になる。
【０４３３】
図７０は、ステップＳ２０１に対応する非定常成分の抽出の処理に代わる、図５８に構成を示す非定常成分抽出部２０１による、定常成分の抽出の他の処理を説明するフローチャートである。ステップＳ２６１乃至ステップＳ２６５の処理は、ステップＳ２２１乃至ステップＳ２２５の処理と同様なので、その説明は省略する。
【０４３４】
ステップＳ２６６において、繰り返し判定部２２３は、画素毎の、棄却の回数を記憶し、ステップＳ２６２に戻り、処理を繰り返す。
【０４３５】
ステップＳ２６４において、標準誤差が閾値以上でないと判定された場合、ブロックが平面で近似されたので、ステップＳ２６７に進み、繰り返し判定部２２３は、入力画像の１つの画面の全画素について処理を終了したか否かを判定し、まだ処理の対象となってない画素があると判定された場合、ステップＳ２６１に戻り、まだ処理の対象となっていない画素についてブロックを抽出して、上述した処理を繰り返す。
【０４３６】
ステップＳ２６７において、入力画像の１つの画面の全画素について、処理を終了したと判定された場合、ステップＳ２６８に進み、繰り返し判定部２２３は、まだ選択されていない画素から１つの画素を選択し、選択された画素について、棄却の回数が、閾値以上であるか否かを判定する。例えば、繰り返し判定部２２３は、ステップＳ２６８において、選択された画素について、棄却の回数が、予め記憶している閾値以上であるか否かを判定する。
【０４３７】
ステップＳ２６８において、選択された画素について、棄却の回数が、閾値以上であると判定された場合、選択された画素が定常成分を含むので、ステップＳ２６９に進み、繰り返し判定部２２３は、選択された画素の画素値（入力画像における画素値）を入力画像の定常成分として出力し、ステップＳ２７０に進む。
【０４３８】
ステップＳ２６８において、選択された画素について、棄却の回数が、閾値以上でないと判定された場合、選択された画素が定常成分を含まないので、ステップＳ２６９の処理をスキップして、手続きは、ステップＳ２７０に進む。すなわち、棄却の回数が、閾値以上でないと判定された画素は、画素値が出力されない。
【０４３９】
なお、棄却の回数が、閾値以上でないと判定された画素について、繰り返し判定部２２３は、0を設定した画素値を出力するようにしてもよい。
【０４４０】
ステップＳ２７０において、繰り返し判定部２２３は、入力画像の１つの画面の全画素について、棄却の回数が閾値以上であるか否かの判定の処理を終了したか否かを判定し、全画素について処理を終了していないと判定された場合、まだ処理の対象となってない画素があるので、ステップＳ２６８に戻り、まだ処理の対象となっていない画素から１つの画素を選択して、上述した処理を繰り返す。
【０４４１】
ステップＳ２７０において、入力画像の１つの画面の全画素について処理を終了したと判定された場合、処理は終了する。
【０４４２】
このように、非定常成分抽出部２０１は、定常成分情報として、入力画像の画素のうち、定常成分を含む画素の画素値を出力することができる。すなわち、非定常成分抽出部２０１は、入力画像の画素のうち、細線の画像の成分を含む画素の画素値を出力することができる。
【０４４３】
図７１は、ステップＳ２０１に対応する非定常成分の抽出の処理に代わる、図５８に構成を示す非定常成分抽出部２０１による、定常成分の抽出のさらに他の処理を説明するフローチャートである。ステップＳ２８１乃至ステップＳ２８８の処理は、ステップＳ２６１乃至ステップＳ２６８の処理と同様なので、その説明は省略する。
【０４４４】
ステップＳ２８９において、繰り返し判定部２２３は、平面で示される近似値と、選択された画素の画素値との差分を入力画像の定常成分として出力する。すなわち、繰り返し判定部２２３は、入力画像から非定常成分を除去した画像を定常性情報として出力する。
【０４４５】
ステップＳ２９０の処理は、ステップＳ２７０の処理と同様なので、その説明は省略する。
【０４４６】
このように、非定常成分抽出部２０１は、入力画像から非定常成分を除去した画像を定常性情報として出力することができる。
【０４４７】
以上のように、現実世界の光信号が射影され、現実世界の光信号の定常性の一部が欠落した、第１の画像データの複数の画素の画素値の不連続部を検出し、検出された不連続部からデータの定常性を検出し、検出されたデータの定常性を基に、現実世界の光信号の定常性を推定することにより光信号を推定し、推定された光信号を第２の画像データに変換するようにした場合、現実世界の事象に対して、より正確で、より精度の高い処理結果を得ることができるようになる。
【０４４８】
図７２は、データ定常性検出部１０１の他の構成を示すブロック図である。
【０４４９】
図７２に構成を示すデータ定常性検出部１０１においては、注目している画素である注目画素について、入力画像の空間方向に対する画素値の変化、すなわち入力画像の空間方向のアクティビティが検出され、検出されたアクティビティに応じて、注目画素および基準軸を基準とした角度毎に、垂直方向に１列または水平方向に１列の所定の数の画素からなる画素の組が、複数抽出され、抽出された画素の組の相関が検出され、相関に基づいて、入力画像における、基準軸を基準としたデータの定常性の角度が検出される。
【０４５０】
データの定常性の角度とは、基準軸と、データ３が有している、一定の特徴が繰り返し現れる所定の次元の方向とがなす角度をいう。一定の特徴が繰り返し現れるとは、例えば、データ３における位置の変化に対する値の変化、すなわち断面形状が同じである場合などをいう。
【０４５１】
基準軸は、例えば、空間方向Ｘを示す軸（画面の水平方向）、または空間方向Ｙを示す軸（画面の垂直方向）などとすることができる。
【０４５２】
入力画像は、アクティビティ検出部４０１およびデータ選択部４０２に供給される。
【０４５３】
アクティビティ検出部４０１は、入力画像の空間方向に対する画素値の変化、すなわち空間方向のアクティビティを検出して、検出した結果を示すアクティビティ情報をデータ選択部４０２および定常方向導出部４０４に供給する。
【０４５４】
例えば、アクティビティ検出部４０１は、画面の水平方向に対する画素値の変化、および画面の垂直方向に対する画素値の変化を検出し、検出された水平方向に対する画素値の変化および垂直方向に対する画素値の変化を比較することにより、垂直方向に対する画素値の変化に比較して、水平方向に対する画素値の変化が大きいか、または水平方向に対する画素値の変化に比較して、垂直方向に対する画素値の変化が大きいかを検出する。
【０４５５】
アクティビティ検出部４０１は、検出の結果である、垂直方向に対する画素値の変化に比較して、水平方向に対する画素値の変化が大きいことを示すか、または水平方向に対する画素値の変化に比較して、垂直方向に対する画素値の変化が大きいことを示すアクティビティ情報をデータ選択部４０２および定常方向導出部４０４に供給する。
【０４５６】
垂直方向に対する画素値の変化に比較して、水平方向に対する画素値の変化が大きい場合、例えば、図７３で示されるように、垂直方向に１列の画素に円弧形状（かまぼこ型）またはつめ形状が形成され、円弧形状またはつめ形状が垂直により近い方向に繰り返して形成されている。すなわち、垂直方向に対する画素値の変化に比較して、水平方向に対する画素値の変化が大きい場合、基準軸を空間方向Ｘを示す軸とすると、入力画像における、基準軸を基準としたデータの定常性の角度は、４５度乃至９０度のいずれかの値である。
【０４５７】
水平方向に対する画素値の変化に比較して、垂直方向に対する画素値の変化が大きい場合、例えば、水平方向に１列の画素に円弧形状またはつめ形状が形成され、円弧形状またはつめ形状が水平方向により近い方向に繰り返して形成されている。すなわち、水平方向に対する画素値の変化に比較して、垂直方向に対する画素値の変化が大きい場合、基準軸を空間方向Ｘを示す軸とすると、入力画像における、基準軸を基準としたデータの定常性の角度は、０度乃至４５度のいずれかの値である。
【０４５８】
例えば、アクティビティ検出部４０１は、図７４で示される、注目画素を中心とした３×３の９つの画素からなるブロックを入力画像から抽出する。アクティビティ検出部４０１は、縦に隣接する画素についての画素値の差分の和、および横に隣接する画素についての画素値の差分の和を算出する。横に隣接する画素についての画素値の差分の和h_diffは、式（２７）で求められる。
【０４５９】
h_diff=Σ(P_i+1,j-P_i,j) ・・・（２７）
【０４６０】
同様に、縦に隣接する画素についての画素値の差分の和v_diffは、式（２８）で求められる。
【０４６１】
v_diff=Σ(P_i,j+1-P_i,j) ・・・（２８）
【０４６２】
式（２７）および式（２８）において、Pは、画素値を示し、iは、画素の横方向の位置を示し、jは、画素の縦方向の位置を示す。
【０４６３】
アクティビティ検出部４０１は、算出された横に隣接する画素についての画素値の差分の和h_diffおよび縦に隣接する画素についての画素値の差分の和v_diffを比較して、入力画像における、基準軸を基準としたデータの定常性の角度の範囲を判定するようにしてもよい。すなわち、この場合、アクティビティ検出部４０１は、空間方向の位置に対する画素値の変化で示される形状が水平方向に繰り返して形成されているか、垂直方向に繰り返して形成されているかを判定する。
【０４６４】
例えば、横に１列の画素上に形成された円弧についての横方向の画素値の変化は、縦方向の画素値の変化に比較して大きく、横に１列の画素上に形成された円弧についての縦方向の画素値の変化は、横方向の画素値の変化に比較して大きく、データの定常性の方向、すなわち、データ３である入力画像が有している、一定の特徴の所定の次元の方向の変化は、データの定常性に直交する方向の変化に比較して小さいと言える。言い換えれば、データの定常性の方向の差分に比較して、データの定常性の方向に直交する方向（以下、非定常方向とも称する）の差分は大きい。
【０４６５】
例えば、図７５に示すように、アクティビティ検出部４０１は、算出された横に隣接する画素についての画素値の差分の和h_diffおよび縦に隣接する画素についての画素値の差分の和v_diffを比較して、横に隣接する画素についての画素値の差分の和h_diffが大きい場合、基準軸を基準としたデータの定常性の角度が、４５度乃至１３５度のいずれかの値であると判定し、縦に隣接する画素についての画素値の差分の和v_diffが大きい場合、基準軸を基準としたデータの定常性の角度が、０度乃至４５度のいずれかの値、または１３５度乃至１８０度のいずれかの値であると判定する。
【０４６６】
例えば、アクティビティ検出部４０１は、判定の結果を示すアクティビティ情報をデータ選択部４０２および定常方向導出部４０４に供給する。
【０４６７】
なお、アクティビティ検出部４０１は、５×５の２５の画素からなるブロック、または７×７の４９の画素からなるブロックなど、任意の大きさのブロックを抽出して、アクティビティを検出することができる。
【０４６８】
データ選択部４０２は、入力画像の画素から注目画素を順に選択し、アクティビティ検出部４０１から供給されたアクティビティ情報を基に、注目画素および基準軸を基準とした角度毎に、垂直方向に１列または水平方向に１列の所定の数の画素からなる画素の組を、複数抽出する。
【０４６９】
例えば、アクティビティ情報が垂直方向に対する画素値の変化に比較して、水平方向に対する画素値の変化が大きいことを示しているとき、データの定常性の角度が、４５度乃至１３５度のいずれかの値なので、データ選択部４０２は、注目画素および基準軸を基準とした４５度乃至１３５度の範囲の所定の角度毎に、垂直方向に１列の所定の数の画素からなる画素の組を、複数抽出する。
【０４７０】
アクティビティ情報が水平方向に対する画素値の変化に比較して、垂直方向に対する画素値の変化が大きいことを示しているとき、データの定常性の角度が、０度乃至４５度または１３５度乃至１８０度のいずれかの値なので、データ選択部４０２は、注目画素および基準軸を基準とした０度乃至４５度または１３５度乃至１８０度の範囲の所定の角度毎に、水平方向に１列の所定の数の画素からなる画素の組を、複数抽出する。
【０４７１】
また、例えば、データの定常性の角度が４５度乃至１３５度のいずれかの値であることを、アクティビティ情報が示しているとき、データ選択部４０２は、注目画素および基準軸を基準とした４５度乃至１３５度の範囲の所定の角度毎に、垂直方向に１列の所定の数の画素からなる画素の組を、複数抽出する。
【０４７２】
データの定常性の角度が０度乃至４５度または１３５度乃至１８０度のいずれかの値であることを、アクティビティ情報が示しているとき、データ選択部４０２は、注目画素および基準軸を基準とした０度乃至４５度または１３５度乃至１８０度の範囲の所定の角度毎に、水平方向に１列の所定の数の画素からなる画素の組を、複数抽出する。
【０４７３】
データ選択部４０２は、抽出した画素からなる複数の組を誤差推定部４０３に供給する。
【０４７４】
誤差推定部４０３は、抽出した画素からなる複数の組について、角度毎に、画素の組の相関を検出する。
【０４７５】
例えば、誤差推定部４０３は、１つの角度に対応する、垂直方向に１列の所定の数の画素からなる画素の複数の組について、画素の組における対応する位置の画素の画素値の相関を検出する。誤差推定部４０３は、１つの角度に対応する、水平方向に１列の所定の数の画素からなる画素の複数の組について、組における対応する位置の画素の画素値の相関を検出する。
【０４７６】
誤差推定部４０３は、検出した相関を示す相関情報を定常方向導出部４０４に供給する。誤差推定部４０３は、相関を示す値として、データ選択部４０２から供給された、注目画素を含む組の画素の画素値と、他の組における対応する位置の画素の画素値の差分の絶対値の和を算出し、差分の絶対値の和を相関情報として定常方向導出部４０４に供給する。
【０４７７】
定常方向導出部４０４は、誤差推定部４０３から供給された相関情報に基いて、欠落した実世界１の光信号の定常性に対応する、入力画像における、基準軸を基準としたデータの定常性の角度を検出し、角度を示すデータ定常性情報を出力する。例えば、定常方向導出部４０４は、誤差推定部４０３から供給された相関情報に基いて、データの定常性の角度として、最も相関の強い画素の組に対する角度を検出し、検出された最も相関の強い画素の組に対する角度を示すデータ定常性情報を出力する。
【０４７８】
以下の説明において、適宜、０度乃至９０度の範囲（いわゆる第１象限）のデータの定常性の角度を検出するものとして説明する。
【０４７９】
図７６は、図７２に示すデータ定常性検出部１０１のより詳細な構成を示すブロック図である。
【０４８０】
データ選択部４０２は、画素選択部４１１−１乃至画素選択部４１１−Ｌを含む。誤差推定部４０３は、推定誤差算出部４１２−１乃至推定誤差算出部４１２−Ｌを含む。定常方向導出部４０４は、最小誤差角度選択部４１３を含む。
【０４８１】
まず、アクティビティ情報で示される、データの定常性の角度が４５度乃至１３５度のいずれかの値であるときの画素選択部４１１−１乃至画素選択部４１１−Ｌの処理を説明する。
【０４８２】
画素選択部４１１−１乃至画素選択部４１１−Ｌは、空間方向Ｘを示す軸を基準軸として、注目画素を通る、それぞれ異なる所定の角度の直線を設定する。画素選択部４１１−１乃至画素選択部４１１−Ｌは、注目画素が属する縦に１列の画素の列に属する画素であって、注目画素の上側の所定の数の画素、および注目画素の下側の所定の数の画素、並びに注目画素を画素の組として選択する。
【０４８３】
例えば、図７７で示されるように、画素選択部４１１−１乃至画素選択部４１１−Ｌは、注目画素が属する縦に１列の画素の列に属する画素から、注目画素を中心として９つの画素を画素の組として選択する。
【０４８４】
図７７において、マス目状の１つの四角（１つのマス目）は、１つの画素を示す。図７７において、中央に示す丸は、注目画素を示す。
【０４８５】
画素選択部４１１−１乃至画素選択部４１１−Ｌは、注目画素が属する縦に１列の画素の列の、左側の縦に１列の画素の列に属する画素であって、それぞれに設定された直線に最も近い位置の画素を選択する。図７７において、注目画素の左下側の丸は、選択された画素の例を示す。そして、画素選択部４１１−１乃至画素選択部４１１−Ｌは、注目画素が属する縦に１列の画素の列の、左側の縦に１列の画素の列に属する画素であって、選択された画素の上側の所定の数の画素、および選択された画素の下側の所定の数の画素、並びに選択された画素を画素の組として選択する。
【０４８６】
例えば、図７７で示されるように、画素選択部４１１−１乃至画素選択部４１１−Ｌは、注目画素が属する縦に１列の画素の列の、左側の縦に１列の画素の列に属する画素から、直線に最も近い位置の画素を中心として９つの画素を画素の組として選択する。
【０４８７】
画素選択部４１１−１乃至画素選択部４１１−Ｌは、注目画素が属する縦に１列の画素の列の、左側に２つめの縦に１列の画素の列に属する画素であって、それぞれに設定された直線に最も近い位置の画素を選択する。図７７において、最も左側の丸は、選択された画素の例を示す。そして、画素選択部４１１−１乃至画素選択部４１１−Ｌは、注目画素が属する縦に１列の画素の列の、左側に２つめの縦に１列の画素の列に属する画素であって、選択された画素の上側の所定の数の画素、および選択された画素の下側の所定の数の画素、並びに選択された画素を画素の組として選択する。
【０４８８】
例えば、図７７で示されるように、画素選択部４１１−１乃至画素選択部４１１−Ｌは、注目画素が属する縦に１列の画素の列の、左側に２つめの縦に１列の画素の列に属する画素から、直線に最も近い位置の画素を中心として９つの画素を画素の組として選択する。
【０４８９】
画素選択部４１１−１乃至画素選択部４１１−Ｌは、注目画素が属する縦に１列の画素の列の、右側の縦に１列の画素の列に属する画素であって、それぞれに設定された直線に最も近い位置の画素を選択する。図７７において、注目画素の右上側の丸は、選択された画素の例を示す。そして、画素選択部４１１−１乃至画素選択部４１１−Ｌは、注目画素が属する縦に１列の画素の列の、右側の縦に１列の画素の列に属する画素であって、選択された画素の上側の所定の数の画素、および選択された画素の下側の所定の数の画素、並びに選択された画素を画素の組として選択する。
【０４９０】
例えば、図７７で示されるように、画素選択部４１１−１乃至画素選択部４１１−Ｌは、注目画素が属する縦に１列の画素の列の、右側の縦に１列の画素の列に属する画素から、直線に最も近い位置の画素を中心として９つの画素を画素の組として選択する。
【０４９１】
画素選択部４１１−１乃至画素選択部４１１−Ｌは、注目画素が属する縦に１列の画素の列の、右側に２つめの縦に１列の画素の列に属する画素であって、それぞれに設定された直線に最も近い位置の画素を選択する。図７７において、最も右側の丸は、このように選択された画素の例を示す。そして、画素選択部４１１−１乃至画素選択部４１１−Ｌは、注目画素が属する縦に１列の画素の列の、右側に２つめの縦に１列の画素の列に属する画素であって、選択された画素の上側の所定の数の画素、および選択された画素の下側の所定の数の画素、並びに選択された画素を画素の組として選択する。
【０４９２】
例えば、図７７で示されるように、画素選択部４１１−１乃至画素選択部４１１−Ｌは、注目画素が属する縦に１列の画素の列の、右側に２つめの縦に１列の画素の列に属する画素から、直線に最も近い位置の画素を中心として９つの画素を画素の組として選択する。
【０４９３】
このように、画素選択部４１１−１乃至画素選択部４１１−Ｌは、それぞれ、画素の組を５つ選択する。
【０４９４】
画素選択部４１１−１乃至画素選択部４１１−Ｌは、互いに異なる角度（に設定された直線）についての、画素の組を選択する。例えば、画素選択部４１１−１は、４５度についての、画素の組を選択し、画素選択部４１１−２は、４７．５度についての、画素の組を選択し、画素選択部４１１−３は、５０度についての、画素の組を選択する。画素選択部４１１−１乃至画素選択部４１１−Ｌは、５２．５度から１３５度までの、２．５度毎の角度についての、画素の組を選択する。
【０４９５】
なお、画素の組の数は、例えば、３つ、または７つなど、任意の数とすることができ、本発明を限定するものではない。また、１つの組として選択された画素の数は、例えば、５つ、または１３など、任意の数とすることができ、本発明を限定するものではない。
【０４９６】
なお、画素選択部４１１−１乃至画素選択部４１１−Ｌは、縦方向に所定の範囲の画素から、画素の組を選択するようにすることができる。例えば、画素選択部４１１−１乃至画素選択部４１１−Ｌは、縦方向に１２１個の画素（注目画素に対して、上方向に６０画素、下方向に６０画素）から、画素の組を選択する。この場合、データ定常性検出部１０１は、空間方向Ｘを示す軸に対して、８８．０９度まで、データの定常性の角度を検出することができる。
【０４９７】
画素選択部４１１−１は、選択した画素の組を推定誤差算出部４１２−１に供給し、画素選択部４１１−２は、選択した画素の組を推定誤差算出部４１２−２に供給する。同様に、画素選択部４１１−３乃至画素選択部４１１−Ｌのそれぞれは、選択した画素の組を推定誤差算出部４１２−３乃至推定誤差算出部４１２−Ｌのそれぞれに供給する。
【０４９８】
推定誤差算出部４１２−１乃至推定誤差算出部４１２−Ｌは、画素選択部４１１−１乃至画素選択部４１１−Ｌのいずれかから供給された、複数の組における対応する位置の画素の画素値の相関を検出する。例えば、推定誤差算出部４１２−１乃至推定誤差算出部４１２−Ｌは、相関を示す値として、画素選択部４１１−１乃至画素選択部４１１−Ｌのいずれかから供給された、注目画素を含む組の画素の画素値と、他の組における対応する位置の画素の画素値の差分の絶対値の和を算出する。
【０４９９】
より具体的には、推定誤差算出部４１２−１乃至推定誤差算出部４１２−Ｌは、画素選択部４１１−１乃至画素選択部４１１−Ｌのいずれかから供給された、注目画素を含む組の画素の画素値と、注目画素の左側の縦に１列の画素の列に属する画素からなる組の画素の画素値とを基に、最も上の画素の画素値の差分を算出し、上から２番目の画素の画素値の差分を算出するように、上の画素から順に画素値の差分の絶対値を算出して、さらに、算出された差分の絶対値の和を算出する。推定誤差算出部４１２−１乃至推定誤差算出部４１２−Ｌは、画素選択部４１１−１乃至画素選択部４１１−Ｌのいずれかから供給された、注目画素を含む組の画素の画素値と、注目画素の左に２つめの縦に１列の画素の列に属する画素からなる組の画素の画素値とを基に、上の画素から順に画素値の差分の絶対値を算出して、算出された差分の絶対値の和を算出する。
【０５００】
そして、推定誤差算出部４１２−１乃至推定誤差算出部４１２−Ｌは、画素選択部４１１−１乃至画素選択部４１１−Ｌのいずれかから供給された、注目画素を含む組の画素の画素値と、注目画素の右側の縦に１列の画素の列に属する画素からなる組の画素の画素値とを基に、最も上の画素の画素値の差分を算出し、上から２番目の画素の画素値の差分を算出するように、上の画素から順に画素値の差分の絶対値を算出して、さらに、算出された差分の絶対値の和を算出する。推定誤差算出部４１２−１乃至推定誤差算出部４１２−Ｌは、画素選択部４１１−１乃至画素選択部４１１−Ｌのいずれかから供給された、注目画素を含む組の画素の画素値と、注目画素の右に２つめの縦に１列の画素の列に属する画素からなる組の画素の画素値とを基に、上の画素から順に画素値の差分の絶対値を算出して、算出された差分の絶対値の和を算出する。
【０５０１】
推定誤差算出部４１２−１乃至推定誤差算出部４１２−Ｌは、このように算出された画素値の差分の絶対値の和を全て加算して、画素値の差分の絶対値の総和を算出する。
【０５０２】
推定誤差算出部４１２−１乃至推定誤差算出部４１２−Ｌは、検出された相関を示す情報を、最小誤差角度選択部４１３に供給する。例えば、推定誤差算出部４１２−１乃至推定誤差算出部４１２−Ｌは、算出された画素値の差分の絶対値の総和を最小誤差角度選択部４１３に供給する。
【０５０３】
なお、推定誤差算出部４１２−１乃至推定誤差算出部４１２−Ｌは、画素値の差分の絶対値の和に限らず、画素値の差分の自乗の和、または画素値を基にした相関係数など他の値を相関値として算出するようにすることができる。
【０５０４】
最小誤差角度選択部４１３は、互いに異なる角度についての、推定誤差算出部４１２−１乃至推定誤差算出部４１２−Ｌにおいて検出された相関に基いて、欠落した実世界１の光信号である画像の定常性に対応する、入力画像における、基準軸を基準としたデータの定常性の角度を検出する。すなわち、最小誤差角度選択部４１３は、互いに異なる角度についての、推定誤差算出部４１２−１乃至推定誤差算出部４１２−Ｌにおいて検出された相関に基いて、最も強い相関を選択し、選択された相関が検出された角度を、基準軸を基準としたデータの定常性の角度とすることにより、入力画像における、基準軸を基準としたデータの定常性の角度を検出する。
【０５０５】
例えば、最小誤差角度選択部４１３は、推定誤差算出部４１２−１乃至推定誤差算出部４１２−Ｌから供給された、画素値の差分の絶対値の総和のうち、最小の総和を選択する。最小誤差角度選択部４１３は、選択された総和が算出された画素の組について、注目画素に対して、左側に２つめの縦に１列の画素の列に属する画素であって、直線に最も近い位置の画素の位置、および、注目画素に対して、右側に２つめの縦に１列の画素の列に属する画素であって、直線に最も近い位置の画素の位置を参照する。
【０５０６】
図７７で示されるように、最小誤差角度選択部４１３は、注目画素の位置に対する、参照する画素の位置の縦方向の距離Sを求める。最小誤差角度選択部４１３は、図７８で示すように、式（２９）から、欠落した実世界１の光信号の定常性に対応する、画像データである入力画像における、基準軸である空間方向Ｘを示す軸を基準としたデータの定常性の角度θを検出する。
【０５０７】
θ=tan^-1(s/2) ・・・（２９）
【０５０８】
次に、アクティビティ情報で示される、データの定常性の角度が０度乃至４５度および１３５度乃至１８０度のいずれかの値であるときの画素選択部４１１−１乃至画素選択部４１１−Ｌの処理を説明する。
【０５０９】
画素選択部４１１−１乃至画素選択部４１１−Ｌは、空間方向Ｘを示す軸を基準軸として、注目画素を通る、所定の角度の直線を設定し、注目画素が属する横に１列の画素の列に属する画素であって、注目画素の上側の所定の数の画素、および注目画素の下側の所定の数の画素、並びに注目画素を画素の組として選択する。
【０５１０】
画素選択部４１１−１乃至画素選択部４１１−Ｌは、注目画素が属する横に１列の画素の列の、上側の横に１列の画素の列に属する画素であって、それぞれに設定された直線に最も近い位置の画素を選択する。そして、画素選択部４１１−１乃至画素選択部４１１−Ｌは、注目画素が属する横に１列の画素の列の、上側の横に１列の画素の列に属する画素であって、選択された画素の左側の所定の数の画素、および選択された画素の右側の所定の数の画素、並びに選択された画素を画素の組として選択する。
【０５１１】
画素選択部４１１−１乃至画素選択部４１１−Ｌは、注目画素が属する横に１列の画素の列の、上側に２つめの横に１列の画素の列に属する画素であって、それぞれに設定された直線に最も近い位置の画素を選択する。そして、画素選択部４１１−１乃至画素選択部４１１−Ｌは、注目画素が属する横に１列の画素の列の、上側に２つめの横に１列の画素の列に属する画素であって、選択された画素の左側の所定の数の画素、および選択された画素の右側の所定の数の画素、並びに選択された画素を画素の組として選択する。
【０５１２】
画素選択部４１１−１乃至画素選択部４１１−Ｌは、注目画素が属する横に１列の画素の列の、下側の横に１列の画素の列に属する画素であって、それぞれに設定された直線に最も近い位置の画素を選択する。そして、画素選択部４１１−１乃至画素選択部４１１−Ｌは、注目画素が属する横に１列の画素の列の、下側の横に１列の画素の列に属する画素であって、選択された画素の左側の所定の数の画素、および選択された画素の右側の所定の数の画素、並びに選択された画素を画素の組として選択する。
【０５１３】
画素選択部４１１−１乃至画素選択部４１１−Ｌは、注目画素が属する横に１列の画素の列の、下側に２つめの横に１列の画素の列に属する画素であって、それぞれに設定された直線に最も近い位置の画素を選択する。そして、画素選択部４１１−１乃至画素選択部４１１−Ｌは、注目画素が属する横に１列の画素の列の、下側に２つめの横に１列の画素の列に属する画素であって、選択された画素の左側の所定の数の画素、および選択された画素の右側の所定の数の画素、並びに選択された画素を画素の組として選択する。
【０５１４】
このように、画素選択部４１１−１乃至画素選択部４１１−Ｌは、それぞれ、画素の組を５つ選択する。
【０５１５】
画素選択部４１１−１乃至画素選択部４１１−Ｌは、互いに異なる角度についての、画素の組を選択する。例えば、画素選択部４１１−１は、０度についての、画素の組を選択し、画素選択部４１１−２は、２．５度についての、画素の組を選択し、画素選択部４１１−３は、５度についての、画素の組を選択する。画素選択部４１１−１乃至画素選択部４１１−Ｌは、７．５度から４５度および１３５度から１８０度までの、２．５度毎の角度についての、画素の組を選択する。
【０５１６】
画素選択部４１１−１は、選択した画素の組を推定誤差算出部４１２−１に供給し、画素選択部４１１−２は、選択した画素の組を推定誤差算出部４１２−２に供給する。同様に、画素選択部４１１−３乃至画素選択部４１１−Ｌのそれぞれは、選択した画素の組を推定誤差算出部４１２−３乃至推定誤差算出部４１２−Ｌのそれぞれに供給する。
【０５１７】
推定誤差算出部４１２−１乃至推定誤差算出部４１２−Ｌは、画素選択部４１１−１乃至画素選択部４１１−Ｌのいずれかから供給された、複数の組における対応する位置の画素の画素値の相関を検出する。推定誤差算出部４１２−１乃至推定誤差算出部４１２−Ｌは、検出された相関を示す情報を、最小誤差角度選択部４１３に供給する。
【０５１８】
最小誤差角度選択部４１３は、推定誤差算出部４１２−１乃至推定誤差算出部４１２−Ｌにおいて検出された相関に基いて、欠落した実世界１の光信号である画像の定常性に対応する、入力画像における、基準軸を基準としたデータの定常性の角度を検出する。
【０５１９】
次に、図７９のフローチャートを参照して、ステップＳ１０１の処理に対応する、図７２で構成が示されるデータ定常性検出部１０１による、データの定常性の検出の処理を説明する。
【０５２０】
ステップＳ４０１において、アクティビティ検出部４０１およびデータ選択部４０２は、入力画像から、注目している画素である注目画素を選択する。アクティビティ検出部４０１およびデータ選択部４０２は、同一の注目画素を選択する。例えば、アクティビティ検出部４０１およびデータ選択部４０２は、入力画像から、ラスタスキャン順に、注目画素を選択する。
【０５２１】
ステップＳ４０２において、アクティビティ検出部４０１は、注目画素に対するアクティビティを検出する。例えば、アクティビティ検出部４０１は、注目画素を中心とした所定の数の画素からなるブロックの縦方向に並ぶ画素の画素値の差分および横方向に並ぶ画素の画素値の差分を基に、アクティビティを検出する。
【０５２２】
アクティビティ検出部４０１は、注目画素に対する空間方向のアクティビティを検出して、検出した結果を示すアクティビティ情報をデータ選択部４０２および定常方向導出部４０４に供給する。
【０５２３】
ステップＳ４０３において、データ選択部４０２は、注目画素を含む画素の列から、注目画素を中心とした所定の数の画素を、画素の組として選択する。例えば、データ選択部４０２は、注目画素が属する縦または横に１列の画素の列に属する画素であって、注目画素の上側または左側の所定の数の画素、および注目画素の下側または右側の所定の数の画素、並びに注目画素を画素の組として選択する。
【０５２４】
ステップＳ４０４において、データ選択部４０２は、ステップＳ４０２の処理で検出されたアクティビティを基にした、所定の範囲の角度毎に、所定の数の画素の列から、それぞれ所定の数の画素を、画素の組として選択する。例えば、データ選択部４０２は、所定の範囲の角度を有し、空間方向Ｘを示す軸を基準軸として、注目画素を通る直線を設定し、注目画素に対して、横方向または縦方向に１列または２列離れた画素であって、直線に最も近い画素を選択し、選択された画素の上側または左側の所定の数の画素、および選択された画素の下側または右側の所定の数の画素、並びに線に最も近い選択された画素を画素の組として選択する。データ選択部４０２は、角度毎に、画素の組を選択する。
【０５２５】
データ選択部４０２は、選択した画素の組を誤差推定部４０３に供給する。
【０５２６】
ステップＳ４０５において、誤差推定部４０３は、注目画素を中心とした画素の組と、角度毎に選択した画素の組との相関を計算する。例えば、誤差推定部４０３は、角度毎に、注目画素を含む組の画素の画素値と、他の組における対応する位置の画素の画素値の差分の絶対値の和を算出する。
【０５２７】
角度毎に選択された、画素の組の相互の相関を基に、データの定常性の角度を検出するようにしてもよい。
【０５２８】
誤差推定部４０３は、算出された相関を示す情報を、定常方向導出部４０４に供給する。
【０５２９】
ステップＳ４０６において、定常方向導出部４０４は、ステップＳ４０５の処理で算出された相関を基に、相関が最も強い画素の組の位置から、欠落した実世界１の光信号の定常性に対応する、画像データである入力画像における、基準軸を基準としたデータの定常性の角度を検出する。例えば、定常方向導出部４０４は、画素値の差分の絶対値の総和のうち、最小の総和を選択し、選択された総和が算出された画素の組の位置から、データの定常性の角度θを検出する。
【０５３０】
定常方向導出部４０４は、検出したデータの定常性の角度を示すデータ定常性情報を出力する。
【０５３１】
ステップＳ４０７において、データ選択部４０２は、全ての画素の処理を終了したか否かを判定し、全ての画素の処理を終了していないと判定された場合、ステップＳ４０１に戻り、まだ注目画素として選択されていない画素から注目画素を選択して、上述した処理を繰り返す。
【０５３２】
ステップＳ４０７において、全ての画素の処理を終了したと判定された場合、処理は終了する。
【０５３３】
このように、データ定常性検出部１０１は、欠落した実世界１の光信号の定常性に対応する、画像データにおける、基準軸を基準としたデータの定常性の角度を検出することができる。
【０５３４】
なお、図７２で構成が示されるデータ検出部１０１は、注目しているフレームである注目フレームの、注目している画素である注目画素について、入力画像の空間方向のアクティビティを検出し、検出されたアクティビティに応じて、注目画素および空間方向の基準軸を基準とした角度、並びに動きベクトル毎に、注目フレームおよび注目フレームの時間的に前または後ろのフレームのそれぞれから、垂直方向に１列または水平方向に１列の所定の数の画素からなる画素の組を、複数抽出し、抽出された画素の組の相関を検出し、相関に基づいて、入力画像における、時間方向および空間方向のデータの定常性の角度を検出するようにしてもよい。
【０５３５】
例えば、図８０に示すように、データ選択部４０２は、検出されたアクティビティに応じて、注目画素および空間方向の基準軸を基準とした角度、並びに動きベクトル毎に、注目フレームであるフレーム#n、フレーム#n-1、およびフレーム#n+1のそれぞれから、垂直方向に１列または水平方向に１列の所定の数の画素からなる画素の組を、複数抽出する。
【０５３６】
フレーム#n-1は、フレーム#nに対して時間的に前のフレームであり、フレーム#n+1は、フレーム#nに対して時間的に後のフレームである。すなわち、フレーム#n-1、フレーム#n、およびフレーム#n+1は、フレーム#n-1、フレーム#n、およびフレーム#n+1の順で表示される。
【０５３７】
誤差推定部４０３は、抽出した画素からなる複数の組について、１つの角度および１つの動きベクトル毎に、画素の組の相関を検出する。定常方向導出部４０４は、画素の組の相関に基づいて、欠落した実世界１の光信号の定常性に対応する、入力画像における、時間方向および空間方向のデータの定常性の角度を検出し、角度を示すデータ定常性情報を出力する。
【０５３８】
図８１は、図７２に示すデータ定常性検出部１０１のより詳細な他の構成を示すブロック図である。図７６に示す場合と同様の部分には、同一の番号を付してあり、その説明は省略する。
【０５３９】
データ選択部４０２は、画素選択部４２１−１乃至画素選択部４２１−Ｌを含む。誤差推定部４０３は、推定誤差算出部４２２−１乃至推定誤差算出部４２２−Ｌを含む。
【０５４０】
図８１で示すデータ定常性検出部１０１においては、角度の範囲に対する数の画素からなる、画素の組であって、角度の範囲に対する数の組が抽出されて、抽出された画素の組の相関が検出され、検出された相関に基づいて、入力画像における、基準軸を基準としたデータの定常性の角度が検出される。
【０５４１】
まず、アクティビティ情報で示される、データの定常性の角度が４５度乃至１３５度のいずれかの値であるときの画素選択部４２１−１乃至画素選択部４２１−Ｌの処理を説明する。
【０５４２】
図８２の左側に示すように、図７６で示されるデータ定常性検出部１０１においては、設定された直線の角度によらず、一定の数の画素からなる画素の組が抽出されるのに対して、図８１で示されるデータ定常性検出部１０１においては、図８２の右側に示すように、設定された直線の角度の範囲に応じた数の画素からなる画素の組が抽出される。また、図８１で示されるデータ定常性検出部１０１においては、画素の組が、設定された直線の角度の範囲に応じた数だけ抽出される。
【０５４３】
画素選択部４２１−１乃至画素選択部４２１−Ｌは、４５度乃至１３５度の範囲の、空間方向Ｘを示す軸を基準軸として、注目画素を通る、それぞれ互いに異なる所定の角度の直線を設定する。
【０５４４】
画素選択部４２１−１乃至画素選択部４２１−Ｌは、注目画素が属する縦に１列の画素の列に属する画素であって、それぞれに設定された直線の角度の範囲に応じた数の、注目画素の上側の画素、および注目画素の下側の画素、並びに注目画素を画素の組として選択する。
【０５４５】
画素選択部４２１−１乃至画素選択部４２１−Ｌは、注目画素が属する縦に１列の画素の列に対して、画素を基準とした横方向に所定の距離にある、左側および右側の縦に１列の画素の列に属する画素であって、それぞれに設定された直線に最も近い位置の画素を選択し、選択された画素に対して縦に１列の画素から、設定された直線の角度の範囲に応じた数の、選択された画素の上側の画素、および選択された画素の下側の画素、並びに選択された画素を画素の組として選択する。
【０５４６】
すなわち、画素選択部４２１−１乃至画素選択部４２１−Ｌは、設定された直線の角度の範囲に応じた数の画素を、画素の組として選択する。画素選択部４２１−１乃至画素選択部４２１−Ｌは、設定された直線の角度の範囲に応じた数の、画素の組を選択する。
【０５４７】
例えば、空間方向Ｘに対してほぼ４５度の角度に位置する、検出素子の検出領域の幅とほぼ同じ幅の細線の画像がセンサ２で撮像された場合、細線の画像は、空間方向Ｙに１列に並ぶ３つの画素に円弧形状が形成されるように、データ３に射影される。これに対して、空間方向Ｘに対してほぼ垂直に位置する、検出素子の検出領域の幅とほぼ同じ幅の細線の画像がセンサ２で撮像された場合、細線の画像は、空間方向Ｙに１列に並ぶ、多数の画素に円弧形状が形成されるように、データ３に射影される。
【０５４８】
画素の組に同じ数の画素が含まれるとすると、細線が空間方向Ｘに対してほぼ４５度の角度に位置する場合、画素の組において、細線の画像が射影された画素の数が少なくなり、分解能が低下することになる。逆に、細線が空間方向Ｘに対してほぼ垂直に位置する場合、画素の組において、細線の画像が射影された画素のうちの、一部の画素について処理が実行されることになり、正確さが低下する恐れがある。
【０５４９】
そこで、細線の画像が射影された画素がほぼ同等になるように、画素選択部４２１−１乃至画素選択部４２１−Ｌは、設定する直線が空間方向Ｘに対して４５度の角度により近いとき、それぞれ画素の組に含まれる画素の数を少なくして、画素の組の数を多くし、設定する直線が空間方向Ｘに対して垂直により近い場合、それぞれの画素の組に含まれる画素の数を多くして、画素の組の数を少なくするように、画素および画素の組を選択する。
【０５５０】
例えば、図８３および図８４で示されるように、画素選択部４２１−１乃至画素選択部４２１−Ｌは、設定された直線の角度が、４５度以上６３．４度未満の範囲（図８３および図８４において、Ａで示す範囲）にあるとき、注目画素に対して、縦に１列の画素の列から、注目画素を中心とした５つの画素を画素の組として選択すると共に、注目画素に対して、横方向に５画素以内の距離にある、左側および右側の縦に１列の画素の列に属する画素から、それぞれ、５つの画素を画素の組として選択する。
【０５５１】
すなわち、画素選択部４２１−１乃至画素選択部４２１−Ｌは、設定された直線の角度が、４５度以上６３．４度未満の範囲にあるとき、入力画像から、それぞれ５つの画素からなる、１１の画素の組を選択する。この場合において、設定された直線に最も近い位置の画素として、選択される画素は、注目画素に対して、縦方向に５画素乃至９画素離れた位置にある。
【０５５２】
図８４において、列の数は、注目画素の左側または右側の、画素の組として画素が選択される画素の列の数を示す。図８４において、１列の画素の数は、注目画素に対して、縦に１列の画素の列、または注目画素の左側または右側の列から、画素の組として選択される画素の数を示す。図８４において、画素の選択範囲は、注目画素に対する、設定された直線に最も近い位置の画素として、選択される画素の縦方向の位置を示す。
【０５５３】
図８５で示されるように、例えば、画素選択部４２１−１は、設定された直線の角度が、４５度であるとき、注目画素に対して、縦に１列の画素の列から、注目画素を中心とした５つの画素を画素の組として選択すると共に、注目画素に対して、横方向に５画素以内の距離にある、左側および右側の縦に１列の画素の列に属する画素から、それぞれ、５つの画素を画素の組として選択する。すなわち、画素選択部４２１−１は、入力画像から、それぞれ５つの画素からなる、１１の画素の組を選択する。この場合において、設定された直線に最も近い位置の画素として、選択される画素のうち、注目画素から最も遠い位置にある画素は、注目画素に対して、縦方向に５画素離れた位置にある。
【０５５４】
なお、図８５乃至図９２において、点線で表された四角（点線で仕切られた１つのマス目）は、１つの画素を示し、実線で表された四角は、画素の組を示す。図８５乃至図９２において、注目画素の空間方向Ｘの座標を０とし、注目画素の空間方向Ｙの座標を０とした。
【０５５５】
また、図８５乃至図９２において、斜線で表された四角は、注目画素または設定された直線に最も近い位置の画素を示す。図８５乃至図９２において、太線で表された四角は、注目画素を中心として選択された画素の組を示す。
【０５５６】
図８６で示されるように、例えば、画素選択部４２１−２は、設定された直線の角度が、６０．９度であるとき、注目画素に対して、縦に１列の画素の列から、注目画素を中心とした５つの画素を画素の組として選択すると共に、注目画素に対して、横方向に５画素以内の距離にある、左側および右側の縦に１列の画素の列に属する画素から、それぞれ、５つの画素を画素の組として選択する。すなわち、画素選択部４２１−２は、入力画像から、それぞれ５つの画素からなる、１１の画素の組を選択する。この場合において、設定された直線に最も近い位置の画素として、選択される画素のうち、注目画素から最も遠い位置にある画素は、注目画素に対して、縦方向に９画素離れた位置にある。
【０５５７】
例えば、図８３および図８４で示されるように、画素選択部４２１−１乃至画素選択部４２１−Ｌは、設定された直線の角度が、６３．４度以上７１．６度未満の範囲（図８３および図８４において、Ｂで示す範囲）にあるとき、注目画素に対して、縦に１列の画素の列から、注目画素を中心とした７つの画素を画素の組として選択すると共に、注目画素に対して、横方向に４画素以内の距離にある、左側および右側の縦に１列の画素の列に属する画素から、それぞれ、７つの画素を画素の組として選択する。
【０５５８】
すなわち、画素選択部４２１−１乃至画素選択部４２１−Ｌは、設定された直線の角度が、６３．４度以上７１．６度未満の範囲囲にあるとき、入力画像から、それぞれ７つの画素からなる、９つの画素の組を選択する。この場合において、設定された直線に最も近い位置の画素の縦方向の位置は、注目画素に対して、８画素乃至１１画素である。
【０５５９】
図８７で示されるように、例えば、画素選択部４２１−３は、設定された直線の角度が、６３．４度であるとき、注目画素に対して、縦に１列の画素の列から、注目画素を中心とした７つの画素を画素の組として選択すると共に、注目画素に対して、横方向に４画素以内の距離にある、左側および右側の縦に１列の画素の列に属する画素から、それぞれ、７つの画素を画素の組として選択する。すなわち、画素選択部４２１−３は、入力画像から、それぞれ７つの画素からなる、９つの画素の組を選択する。この場合において、設定された直線に最も近い位置の画素として、選択される画素のうち、注目画素から最も遠い位置にある画素は、注目画素に対して、縦方向に８画素離れた位置にある。
【０５６０】
また、図８８で示されるように、例えば、画素選択部４２１−４は、設定された直線の角度が、７０．０度であるとき、注目画素に対して、縦に１列の画素の列から、注目画素を中心とした７つの画素を画素の組として選択すると共に、注目画素に対して、横方向に４画素以内の距離にある、左側および右側の縦に１列の画素の列に属する画素から、それぞれ、７つの画素を画素の組として選択する。すなわち、画素選択部４２１−４は、入力画像から、それぞれ７つの画素からなる、９つの画素の組を選択する。この場合において、設定された直線に最も近い位置の画素として、選択される画素のうち、注目画素から最も遠い位置にある画素は、注目画素に対して、縦方向に１１画素離れた位置にある。
【０５６１】
例えば、図８３および図８４で示されるように、画素選択部４２１−１乃至画素選択部４２１−Ｌは、設定された直線の角度が、７１．６度以上７６．０度未満の範囲（図８３および図８４において、Ｃで示す範囲）にあるとき、注目画素に対して、縦に１列の画素の列から、注目画素を中心とした９つの画素を画素の組として選択すると共に、注目画素に対して、横方向に３画素以内の距離にある、左側および右側の縦に１列の画素の列に属する画素から、それぞれ、９つの画素を画素の組として選択する。
【０５６２】
すなわち、画素選択部４２１−１乃至画素選択部４２１−Ｌは、設定された直線の角度が、７１．６度以上７６．０度未満の範囲にあるとき、入力画像から、それぞれ９つの画素からなる、７つの画素の組を選択する。この場合において、設定された直線に最も近い位置の画素の縦方向の位置は、注目画素に対して、９画素乃至１１画素である。
【０５６３】
図８９で示されるように、例えば、画素選択部４２１−５は、設定された直線の角度が、７１．６度であるとき、注目画素に対して、縦に１列の画素の列から、注目画素を中心とした９つの画素を画素の組として選択すると共に、注目画素に対して、横方向に３画素以内の距離にある、左側および右側の縦に１列の画素の列に属する画素から、それぞれ、９つの画素を画素の組として選択する。すなわち、画素選択部４２１−５は、入力画像から、それぞれ９つの画素からなる、７つの画素の組を選択する。この場合において、設定された直線に最も近い位置の画素として、選択される画素のうち、注目画素から最も遠い位置にある画素は、注目画素に対して、縦方向に９画素離れた位置にある。
【０５６４】
また、図９０で示されるように、例えば、画素選択部４２１−６は、設定された直線の角度が、７４．７度であるとき、注目画素に対して、縦に１列の画素の列から、注目画素を中心とした９つの画素を画素の組として選択すると共に、注目画素に対して、横方向に３画素以内の距離にある、左側および右側の縦に１列の画素の列に属する画素から、それぞれ、９つの画素を画素の組として選択する。すなわち、画素選択部４２１−６は、入力画像から、それぞれ９つの画素からなる、７つの画素の組を選択する。この場合において、設定された直線に最も近い位置の画素として、選択される画素のうち、注目画素から最も遠い位置にある画素は、注目画素に対して、縦方向に１１画素離れた位置にある。
【０５６５】
例えば、図８３および図８４で示されるように、画素選択部４２１−１乃至画素選択部４２１−Ｌは、設定された直線の角度が、７６．０度以上８７．７度以下の範囲（図８３および図８４において、Ｄで示す範囲）にあるとき、注目画素に対して、縦に１列の画素の列から、注目画素を中心とした１１の画素を画素の組として選択すると共に、注目画素に対して、横方向に２画素以内の距離にある、左側および右側の縦に１列の画素の列に属する画素から、それぞれ、１１の画素を画素の組として選択する。すなわち、画素選択部４２１−１乃至画素選択部４２１−Ｌは、設定された直線の角度が、７６．０度以上８７．７度以下の範囲にあるとき、入力画像から、それぞれ１１の画素からなる、５つの画素の組を選択する。この場合において、設定された直線に最も近い位置の画素の縦方向の位置は、注目画素に対して、８画素乃至５０画素である。
【０５６６】
図９１で示されるように、例えば、画素選択部４２１−７は、設定された直線の角度が、７６．０度であるとき、注目画素に対して、縦に１列の画素の列から、注目画素を中心とした１１の画素を画素の組として選択すると共に、注目画素に対して、横方向に２画素以内の距離にある、左側および右側の縦に１列の画素の列に属する画素から、それぞれ、１１の画素を画素の組として選択する。すなわち、画素選択部４２１−７は、入力画像から、それぞれ１１の画素からなる、５つの画素の組を選択する。この場合において、設定された直線に最も近い位置の画素として、選択される画素のうち、注目画素から最も遠い位置にある画素は、注目画素に対して、縦方向に８画素離れた位置にある。
【０５６７】
また、図９２で示されるように、例えば、画素選択部４２１−８は、設定された直線の角度が、８７．７度であるとき、注目画素に対して、縦に１列の画素の列から、注目画素を中心とした１１の画素を画素の組として選択すると共に、注目画素に対して、横方向に２画素以内の距離にある、左側および右側の縦に１列の画素の列に属する画素から、それぞれ、１１の画素を画素の組として選択する。すなわち、画素選択部４２１−８は、入力画像から、それぞれ１１の画素からなる、５の画素の組を選択する。この場合において、設定された直線に最も近い位置の画素として、選択される画素のうち、注目画素から最も遠い位置にある画素は、注目画素に対して、縦方向に５０画素離れた位置にある。
【０５６８】
このように、画素選択部４２１−１乃至画素選択部４２１−Ｌは、それぞれ、角度の範囲に対応した所定の数の画素からなる、角度の範囲に対応した所定の数の画素の組を選択する。
【０５６９】
画素選択部４２１−１は、選択した画素の組を推定誤差算出部４２２−１に供給し、画素選択部４２１−２は、選択した画素の組を推定誤差算出部４２２−２に供給する。同様に、画素選択部４２１−３乃至画素選択部４２１−Ｌのそれぞれは、選択した画素の組を推定誤差算出部４２２−３乃至推定誤差算出部４２２−Ｌのそれぞれに供給する。
【０５７０】
推定誤差算出部４２２−１乃至推定誤差算出部４２２−Ｌは、画素選択部４２１−１乃至画素選択部４２１−Ｌのいずれかから供給された、複数の組における対応する位置の画素の画素値の相関を検出する。例えば、推定誤差算出部４２２−１乃至推定誤差算出部４２２−Ｌは、画素選択部４２１−１乃至画素選択部４２１−Ｌのいずれかから供給された、注目画素を含む画素の組の画素の画素値と、他の画素の組における対応する位置の画素の画素値の差分の絶対値の和を算出し、注目画素を含む画素の組以外の画素の組に含まれる画素の数で、算出された和を割り算する。算出された和を、注目画素を含む組以外の組に含まれる画素の数で、割り算するのは、設定された直線の角度に応じて選択される画素の数が異なるので、相関を示す値を正規化するためである。
【０５７１】
推定誤差算出部４２２−１乃至推定誤差算出部４２２−Ｌは、検出された相関を示す情報を、最小誤差角度選択部４１３に供給する。例えば、推定誤差算出部４２２−１乃至推定誤差算出部４２２−Ｌは、正規化された画素値の差分の絶対値の和を最小誤差角度選択部４１３に供給する。
【０５７２】
次に、アクティビティ情報で示される、データの定常性の角度が０度乃至４５度および１３５度乃至１８０度のいずれかの値であるときの画素選択部４２１−１乃至画素選択部４２１−Ｌの処理を説明する。
【０５７３】
画素選択部４２１−１乃至画素選択部４２１−Ｌは、０度乃至４５度または１３５度乃至１８０度の範囲の、空間方向Ｘを示す軸を基準軸として、注目画素を通る、それぞれ互いに異なる所定の角度の直線を設定する。
【０５７４】
画素選択部４２１−１乃至画素選択部４２１−Ｌは、注目画素が属する横に１列の画素の列に属する画素であって、設定された直線の角度の範囲に応じた数の、注目画素の左側の画素、および注目画素の右側の画素、並びに注目画素を画素の組として選択する。
【０５７５】
画素選択部４２１−１乃至画素選択部４２１−Ｌは、注目画素が属する横に１列の画素の列に対して、画素を基準とした縦方向に所定の距離にある、上側および下側の横に１列の画素の列に属する画素であって、設定された直線に最も近い位置の画素を選択し、選択された画素に対して横に１列の画素から、設定された直線の角度の範囲に応じた数の、選択された画素の左側の画素、および選択された画素の右側の画素、並びに選択された画素を画素の組として選択する。
【０５７６】
すなわち、画素選択部４２１−１乃至画素選択部４２１−Ｌは、設定された直線の角度の範囲に応じた数の画素を、画素の組として選択する。画素選択部４２１−１乃至画素選択部４２１−Ｌは、設定された直線の角度の範囲に応じた数の、画素の組を選択する。
【０５７７】
画素選択部４２１−１は、選択した画素の組を推定誤差算出部４２２−１に供給し、画素選択部４２１−２は、選択した画素の組を推定誤差算出部４２２−２に供給する。同様に、画素選択部４２１−３乃至画素選択部４２１−Ｌのそれぞれは、選択した画素の組を推定誤差算出部４２２−３乃至推定誤差算出部４２２−Ｌのそれぞれに供給する。
【０５７８】
推定誤差算出部４２２−１乃至推定誤差算出部４２２−Ｌは、画素選択部４２１−１乃至画素選択部４２１−Ｌのいずれかから供給された、複数の組における対応する位置の画素の画素値の相関を検出する。
【０５７９】
推定誤差算出部４２２−１乃至推定誤差算出部４２２−Ｌは、検出された相関を示す情報を、最小誤差角度選択部４１３に供給する。
【０５８０】
次に、図９３のフローチャートを参照して、ステップＳ１０１の処理に対応する、図８１で構成が示されるデータ定常性検出部１０１による、データの定常性の検出の処理を説明する。
【０５８１】
ステップＳ４２１およびステップＳ４２２の処理は、ステップＳ４０１およびステップＳ４０２の処理と同様なので、その説明は省略する。
【０５８２】
ステップＳ４２３において、データ選択部４０２は、ステップＳ４２２の処理で検出されたアクティビティに対する所定の範囲の角度毎に、注目画素を含む画素の列から、注目画素を中心とした、角度の範囲に対して定めた数の画素を、画素の組として選択する。例えば、データ選択部４０２は、注目画素が属する縦または横に１列の画素の列に属する画素であって、設定する直線の角度に対して、角度の範囲により定めた数の、注目画素の上側または左側の画素、および注目画素の下側または右側の画素、並びに注目画素を画素の組として選択する。
【０５８３】
ステップＳ４２４において、データ選択部４０２は、ステップＳ４２２の処理で検出されたアクティビティを基にした、所定の範囲の角度毎に、角度の範囲に対して定めた数の画素の列から、角度の範囲に対して定めた数の画素を、画素の組として選択する。例えば、データ選択部４０２は、所定の範囲の角度を有し、空間方向Ｘを示す軸を基準軸として、注目画素を通る直線を設定し、注目画素に対して、横方向または縦方向に、設定する直線の角度の範囲に対して所定の範囲だけ離れた画素であって、直線に最も近い画素を選択し、選択された画素の上側または左側の、設定する直線の角度の範囲に対する数の画素、および選択された画素の下側または右側の、設定する直線の角度の範囲に対する数の画素、並びに選択された線に最も近い画素を画素の組として選択する。データ選択部４０２は、角度毎に、画素の組を選択する。
【０５８４】
データ選択部４０２は、選択した画素の組を誤差推定部４０３に供給する。
【０５８５】
ステップＳ４２５において、誤差推定部４０３は、注目画素を中心とした画素の組と、角度毎に選択した画素の組との相関を計算する。例えば、誤差推定部４０３は、注目画素を含む組の画素の画素値と、他の組における対応する位置の画素の画素値の差分の絶対値の和を算出し、他の組に属する画素の数で、画素値の差分の絶対値の和を割り算することにより、相関を計算する。
【０５８６】
角度毎に選択された、画素の組の相互の相関を基に、データの定常性の角度を検出するようにしてもよい。
【０５８７】
誤差推定部４０３は、算出された相関を示す情報を、定常方向導出部４０４に供給する。
【０５８８】
ステップＳ４２６およびステップＳ４２７の処理は、ステップＳ４０６およびステップＳ４０７の処理と同様なので、その説明は省略する。
【０５８９】
このように、データ定常性検出部１０１は、欠落した実世界１の光信号の定常性に対応する、画像データにおける、基準軸を基準としたデータの定常性の角度を、より正確に、より精度良く検出することができる。図８１に構成を示すデータ定常性検出部１０１は、特に、データの定常性の角度が４５度付近である場合において、細線の画像が射影された、より多くの画素の相関を評価することができるので、より精度良くデータの定常性の角度を検出することができる。
【０５９０】
なお、図８１で構成が示されるデータ定常性検出部１０１においても、注目しているフレームである注目フレームの、注目している画素である注目画素について、入力画像の空間方向のアクティビティを検出し、検出されたアクティビティに応じて、注目画素および空間方向の基準軸を基準とした角度、並びに動きベクトル毎に、注目フレームおよび注目フレームの時間的に前または後ろのフレームのそれぞれから、垂直方向に１列または水平方向に１列の、空間的な角度の範囲に対して定めた数の画素からなる画素の組を、空間的な角度の範囲に対して定めた数だけ抽出し、抽出された画素の組の相関を検出し、相関に基づいて、入力画像における、時間方向および空間方向のデータの定常性の角度を検出するようにしてもよい。
【０５９１】
図９４は、データ定常性検出部１０１のさらに他の構成を示すブロック図である。
【０５９２】
図９４に構成を示すデータ定常性検出部１０１においては、注目している画素である注目画素について、所定の数の画素からなる、注目画素を中心としたブロックと、注目画素の周辺の、それぞれ、所定の数の画素からなる複数のブロックが抽出され、注目画素を中心としたブロックと周辺のブロックとの相関が検出され、相関に基づいて、入力画像における、基準軸を基準としたデータの定常性の角度が検出される。
【０５９３】
データ選択部４４１は、入力画像の画素から注目画素を順に選択し、注目画素を中心とした、所定の数の画素からなるブロック、および、注目画素の周辺の、所定の数の画素からなる複数のブロックを抽出し、抽出したブロックを誤差推定部４４２に供給する。
【０５９４】
例えば、データ選択部４４１は、注目画素を中心とした５×５画素からなるブロック、注目画素の周辺から、注目画素および基準軸を基準とした所定の角度の範囲毎に、５×５画素からなる２つのブロックを抽出する。
【０５９５】
誤差推定部４４２は、データ選択部４４１から供給された、注目画素を中心としたブロックと、注目画素の周辺のブロックとの相関を検出して、検出した相関を示す相関情報を定常方向導出部４４３に供給する。
【０５９６】
例えば、誤差推定部４４２は、角度の範囲毎に、注目画素を中心とした５×５画素からなるブロックと、１つの角度の範囲に対応する、５×５画素からなる２つのブロックとについて、画素値の相関を検出する。
【０５９７】
定常性方向導出部４４３は、誤差推定部４４２から供給された相関情報に基いて、相関の最も強い、注目画素の周辺のブロックの位置から、欠落した実世界１の光信号の定常性に対応する、入力画像における、基準軸を基準としたデータの定常性の角度を検出し、角度を示すデータ定常性情報を出力する。例えば、定常方向導出部４４３は、誤差推定部４４２から供給された相関情報に基いて、注目画素を中心とした５×５画素からなるブロックに対して最も相関の強い、５×５画素からなる２つのブロックに対する角度の範囲を、データの定常性の角度として検出し、検出された角度を示すデータ定常性情報を出力する。
【０５９８】
図９５は、図９４に示すデータ定常性検出部１０１のより詳細な構成を示すブロック図である。
【０５９９】
データ選択部４４１は、画素選択部４６１−１乃至画素選択部４６１−Ｌを含む。誤差推定部４４２は、推定誤差算出部４６２−１乃至推定誤差算出部４６２−Ｌを含む。定常方向導出部４４３は、最小誤差角度選択部４６３を含む。
【０６００】
例えば、データ選択部４４１には、画素選択部４６１−１乃至画素選択部４６１−８が設けられる。例えば、誤差推定部４４２には、推定誤差算出部４６２−１乃至推定誤差算出部４６２−８が設けられる。
【０６０１】
画素選択部４６１−１乃至画素選択部４６１−Ｌのそれぞれは、注目画素を中心とした、所定の数の画素からなるブロック、並びに注目画素および基準軸を基準とした所定の角度の範囲に対応した、所定の数の画素からなる２つのブロックを抽出する。
【０６０２】
図９６は、画素選択部４６１−１乃至画素選択部４６１−Ｌにより抽出される、５×５画素のブロックの例を説明する図である。図９６における中央の位置は、注目画素の位置を示す。
【０６０３】
なお、５×５画素のブロックは、一例であって、ブロックに含まれる画素の数は、本発明を限定するものではない。
【０６０４】
例えば、画素選択部４６１−１は、注目画素を中心とした、５×５画素のブロックを抽出すると共に、０度乃至１８．４度および１６１．６度乃至１８０．０度の範囲に対応した、注目画素に対して、右側に５画素移動した位置にある画素を中心とした、５×５画素のブロック（図９６中Ａで示す）を抽出し、注目画素に対して、左側に５画素移動した位置にある画素を中心とした、５×５画素のブロック（図９６中Ａ’で示す）を抽出する。画素選択部４６１−１は、抽出した、５×５画素の３つのブロックを推定誤差算出部４６２−１に供給する。
【０６０５】
画素選択部４６１−２は、注目画素を中心とした、５×５画素のブロックを抽出すると共に、１８．４度乃至３３．７度の範囲に対応した、注目画素に対して、右側に１０画素移動し、上側に５画素移動した位置にある画素を中心とした、５×５画素のブロック（図９６中Ｂで示す）を抽出し、注目画素に対して、左側に１０画素移動し、下側に５画素移動した位置にある画素を中心とした、５×５画素のブロック（図９６中Ｂ’で示す）を抽出する。画素選択部４６１−２は、抽出した、５×５画素の３つのブロックを推定誤差算出部４６２−２に供給する。
【０６０６】
画素選択部４６１−３は、注目画素を中心とした、５×５画素のブロックを抽出すると共に、３３．７度乃至５６．３度の範囲に対応した、注目画素に対して、右側に５画素移動し、上側に５画素移動した位置にある画素を中心とした、５×５画素のブロック（図９６中Ｃで示す）を抽出し、注目画素に対して、左側に５画素移動し、下側に５画素移動した位置にある画素を中心とした、５×５画素のブロック（図９６中Ｃ’で示す）を抽出する。画素選択部４６１−３は、抽出した、５×５画素の３つのブロックを推定誤差算出部４６２−３に供給する。
【０６０７】
画素選択部４６１−４は、注目画素を中心とした、５×５画素のブロックを抽出すると共に、５６．３度乃至７１．６度の範囲に対応した、注目画素に対して、右側に５画素移動し、上側に１０画素移動した位置にある画素を中心とした、５×５画素のブロック（図９６中Ｄで示す）を抽出し、注目画素に対して、左側に５画素移動し、下側に１０画素移動した位置にある画素を中心とした、５×５画素のブロック（図９６中Ｄ’で示す）を抽出する。画素選択部４６１−４は、抽出した、５×５画素の３つのブロックを推定誤差算出部４６２−４に供給する。
【０６０８】
画素選択部４６１−５は、注目画素を中心とした、５×５画素のブロックを抽出すると共に、７１．６度乃至１０８．４度の範囲に対応した、注目画素に対して、上側に５画素移動した位置にある画素を中心とした、５×５画素のブロック（図９６中Ｅで示す）を抽出し、注目画素に対して、下側に５画素移動した位置にある画素を中心とした、５×５画素のブロック（図９６中Ｅ’で示す）を抽出する。画素選択部４６１−５は、抽出した、５×５画素の３つのブロックを推定誤差算出部４６２−５に供給する。
【０６０９】
画素選択部４６１−６は、注目画素を中心とした、５×５画素のブロックを抽出すると共に、１０８．４度乃至１２３．７度の範囲に対応した、注目画素に対して、左側に５画素移動し、上側に１０画素移動した位置にある画素を中心とした、５×５画素のブロック（図９６中Ｆで示す）を抽出し、注目画素に対して、右側に５画素移動し、下側に１０画素移動した位置にある画素を中心とした、５×５画素のブロック（図９６中Ｆ’で示す）を抽出する。画素選択部４６１−６は、抽出した、５×５画素の３つのブロックを推定誤差算出部４６２−６に供給する。
【０６１０】
画素選択部４６１−７は、注目画素を中心とした、５×５画素のブロックを抽出すると共に、１２３．７度乃至１４６．３度の範囲に対応した、注目画素に対して、左側に５画素移動し、上側に５画素移動した位置にある画素を中心とした、５×５画素のブロック（図９６中Ｇで示す）を抽出し、注目画素に対して、右側に５画素移動し、下側に５画素移動した位置にある画素を中心とした、５×５画素のブロック（図９６中Ｇ’で示す）を抽出する。画素選択部４６１−７は、抽出した、５×５画素の３つのブロックを推定誤差算出部４６２−７に供給する。
【０６１１】
画素選択部４６１−８は、注目画素を中心とした、５×５画素のブロックを抽出すると共に、１４６．３度乃至１６１．６度の範囲に対応した、注目画素に対して、左側に１０画素移動し、上側に５画素移動した位置にある画素を中心とした、５×５画素のブロック（図９６中Ｈで示す）を抽出し、注目画素に対して、右側に１０画素移動し、下側に５画素移動した位置にある画素を中心とした、５×５画素のブロック（図９６中Ｈ’で示す）を抽出する。画素選択部４６１−８は、抽出した、５×５画素の３つのブロックを推定誤差算出部４６２−８に供給する。
【０６１２】
以下、注目画素を中心とした、所定の数の画素からなるブロックを注目ブロックと称する。
【０６１３】
以下、注目画素および基準軸を基準とした所定の角度の範囲に対応した、所定の数の画素からなるブロックを参照ブロックと称する。
【０６１４】
このように、画素選択部４６１−１乃至画素選択部４６１−８は、例えば、注目画素を中心として、２５×２５画素の範囲から、注目ブロックおよび参照ブロックを抽出する。
【０６１５】
推定誤差算出部４６２−１乃至推定誤差算出部４６２−Ｌは、画素選択部４６１−１乃至画素選択部４６１−Ｌから供給された、注目ブロックと、２つの参照ブロックとの相関を検出して、検出した相関を示す相関情報を最小誤差角度選択部４６３に供給する。
【０６１６】
例えば、推定誤差算出部４６２−１は、注目画素を中心とした、５×５画素からなる注目ブロックと、０度乃至１８．４度および１６１．６度乃至１８０．０度の範囲に対応して抽出された、注目画素に対して、右側に５画素移動した位置にある画素を中心とした、５×５画素の参照ブロックとについて、注目ブロックに含まれる画素の画素値と、参照ブロックに含まれる画素の画素値との差分の絶対値を算出する。
【０６１７】
この場合において、推定誤差算出部４６２−１は、図９７に示されるように、注目ブロックの中央の画素と参照ブロックの中央の画素とが重なる位置を基準として、画素値の差分の絶対値の算出に、注目画素の画素値が使用されるように、参照ブロックに対して、注目ブロックの位置を、左側に２画素乃至右側に２画素のいずれか、上側に２画素乃至下側に２画素のいずれか移動させた場合に重なる位置となる画素の画素値の差分の絶対値を算出する。すなわち、注目ブロックと参照ブロックとの２５種類の位置における、対応する位置の画素の画素値の差分の絶対値が算出される。言い換えれば、画素値の差分の絶対値が算出される場合において、相対的に移動される注目ブロックおよび参照ブロックとからなる範囲は、９×９画素である。
【０６１８】
図９７において、四角は、画素を示し、Ａは、参照ブロックを示し、Ｂは、注目ブロックを示す。図９７において、太線は、注目画素を示す。すなわち、図９７は、参照ブロックに対して、注目ブロックが右側に２画素、および上側に１画素移動した場合の例を示す図である。
【０６１９】
さらに、推定誤差算出部４６２−１は、注目画素を中心とした、５×５画素からなる注目ブロックと、０度乃至１８．４度および１６１．６度乃至１８０．０度の範囲に対応して抽出された、注目画素に対して、左側に５画素移動した位置にある画素を中心とした、５×５画素の参照ブロックとについて、注目ブロックに含まれる画素の画素値と、参照ブロックに含まれる画素の画素値との差分の絶対値を算出する。
【０６２０】
そして、推定誤差算出部４６２−１は、算出された差分の絶対値の和を求めて、差分の絶対値の和を、相関を示す相関情報として最小誤差角度選択部４６３に供給する。
【０６２１】
推定誤差算出部４６２−２は、５×５画素からなる注目ブロックと、１８．４度乃至３３．７度の範囲に対応して抽出された、５×５画素の２つの参照ブロックとについて、画素値の差分の絶対値を算出し、さらに、算出された差分の絶対値の和を算出する。推定誤差算出部４６２−２は、算出された差分の絶対値の和を、相関を示す相関情報として最小誤差角度選択部４６３に供給する。
【０６２２】
同様に、推定誤差算出部４６２−３乃至推定誤差算出部４６２−８のそれぞれは、５×５画素からなる注目ブロックと、所定の角度の範囲に対応して抽出された、５×５画素の２つの参照ブロックとについて、画素値の差分の絶対値を算出し、さらに、算出された差分の絶対値の和を算出する。推定誤差算出部４６２−３乃至推定誤差算出部４６２−８のそれぞれは、算出された差分の絶対値の和を、相関を示す相関情報として最小誤差角度選択部４６３に供給する。
【０６２３】
最小誤差角度選択部４６３は、推定誤差算出部４６２−１乃至推定誤差算出部４６２−８から供給された、相関情報としての画素値の差分の絶対値の和のうち、最も強い相関を示す、最小の値が得られた参照ブロックの位置から、２つの参照ブロックに対する角度をデータの定常性の角度として検出し、検出された角度を示すデータ定常性情報を出力する。
【０６２４】
ここで、参照ブロックの位置と、データの定常性の角度の範囲との関係について説明する。
【０６２５】
実世界の信号を近似する近似関数f（x）をｎ次の１次元多項式で近似した場合、近似関数f（x）は、式（３０）で表すことができる。
【０６２６】
【数２１】

・・・（３０）
【０６２７】
近似関数f（x）で近似される実世界１の信号の波形が、空間方向Ｙに対して一定の傾き（角度）を有する場合、式（３０）における、xをx+γyとすることにより得られた式（３１）で、実世界１の信号を近似する近似関数（x,y）は、表現される。
【０６２８】
【数２２】

・・・（３１）
【０６２９】
γは、空間方向Ｙの位置の変化に対する、空間方向Ｘの位置の変化の割合を示す。以下、γをシフト量とも称する。
【０６３０】
図９８は、注目画素の位置と、角度θを有する直線との空間方向Ｘの距離を０としたとき、すなわち、注目画素を直線が通るときの、注目画素の周辺の画素の位置と、角度θを有する直線との空間方向Ｘの距離を示す図である。ここで、画素の位置は、画素の中心の位置である。また、位置と直線との距離は、位置が直線に対して左側にあるとき、負の値で示され、位置が直線に対して右側にあるとき、正の値で示される。
【０６３１】
例えば、注目画素の右側に隣接する画素の位置、すなわち空間方向Ｘの座標xが１増加する位置と、角度θを有する直線との空間方向Ｘの距離は、１であり、注目画素の左側に隣接する画素の位置、すなわち空間方向Ｘの座標xが１減少する位置と、角度θを有する直線との空間方向Ｘの距離は、−１である。注目画素の上側に隣接する画素の位置、すなわち空間方向Ｙの座標yが１増加する位置と、角度θを有する直線との空間方向Ｘの距離は、-γであり、注目画素の下側に隣接する画素の位置、すなわち空間方向Ｙの座標yが１減少する位置と、角度θを有する直線との空間方向Ｘの距離は、γである。
【０６３２】
角度θが４５度を超え、９０度未満であり、シフト量γが、０を超え、１未満であるとき、シフト量γと角度θとの間には、γ=1/tanθの関係式が成り立つ。図９９は、シフト量γと角度θとの関係を示す図である。
【０６３３】
ここで、シフト量γの変化に対する、注目画素の周辺の画素の位置と、注目画素を通り、角度θを有する直線との空間方向Ｘの距離の変化に注目する。
【０６３４】
図１００は、シフト量γに対する、注目画素の周辺の画素の位置と、注目画素を通り、角度θを有する直線との空間方向Ｘの距離を示す図である。図１００において、右上がりの一点鎖線は、シフト量γに対する、注目画素の下側に隣接する画素の位置と直線との空間方向Ｘの距離を示し、右下がりの一点鎖線は、シフト量γに対する、注目画素の上側に隣接する画素の位置と直線との空間方向Ｘの距離を示す。
【０６３５】
図１００において、右上がりの二点鎖線は、シフト量γに対する、注目画素から、２画素下側で、１画素左側に位置する画素の位置と直線との空間方向Ｘの距離を示し、右下がりの二点鎖線は、シフト量γに対する、注目画素から、２画素上側で、１画素右側に位置する画素の位置と直線との空間方向Ｘの距離を示す。
【０６３６】
図１００において、右上がりの三点鎖線は、シフト量γに対する、注目画素から、１画素下側で、１画素左側に位置する画素の位置と直線との空間方向Ｘの距離を示し、右下がりの三点鎖線は、シフト量γに対する、注目画素から、１画素上側で、１画素右側に位置する画素の位置と直線との空間方向Ｘの距離を示す。
【０６３７】
図１００から、シフト量γに対して、距離が最も小さい画素がわかる。
【０６３８】
すなわち、シフト量γが０乃至１／３であるとき、注目画素の上側に隣接する画素および注目画素の下側に隣接する画素から、直線までの距離が最小である。すなわち、角度θが７１．６度乃至９０度であるとき、注目画素の上側に隣接する画素および注目画素の下側に隣接する画素から、直線までの距離が最小である。
【０６３９】
シフト量γが１／３乃至２／３であるとき、注目画素に対して、２画素上側で、１画素右側に位置する画素、および注目画素に対して、２画素下側で、１画素左側に位置する画素から、直線までの距離が最小である。すなわち、角度θが５６．３度乃至７１．６度であるとき、注目画素に対して、２画素上側で、１画素右側に位置する画素、および注目画素に対して、２画素下側で、１画素左側に位置する画素から、直線までの距離が最小である。
【０６４０】
また、シフト量γが２／３乃至１であるとき、注目画素に対して、１画素上側で、１画素右側に位置する画素、および注目画素に対して、１画素下側で、１画素左側に位置する画素から、直線までの距離が最小である。すなわち、角度θが４５度乃至５６．３度であるとき、注目画素に対して、１画素上側で、１画素右側に位置する画素、および注目画素に対して、１画素下側で、１画素左側に位置する画素から、直線までの距離が最小である。
【０６４１】
角度θが０度から４５度までの範囲の直線と画素との関係も、同様に考えることができる。
【０６４２】
図９８に示す画素を、注目ブロックおよび参照ブロックに置き換えて、参照ブロックと直線との空間方向Ｘの距離を考えることができる。
【０６４３】
図１０１に、注目画素を通り、空間方向Ｘの軸に対して角度θの直線との距離が最小の参照ブロックを示す。
【０６４４】
図１０１におけるＡ乃至ＨおよびＡ’乃至Ｈ’は、図９６におけるＡ乃至ＨおよびＡ’乃至Ｈ’の参照ブロックを示す。
【０６４５】
すなわち、注目画素を通り、空間方向Ｘの軸を基準とした、０度乃至１８．４度および１６１．６度乃至１８０．０度のいずれかの角度θを有する直線と、Ａ乃至ＨおよびＡ’乃至Ｈ’の参照ブロックのそれぞれとの空間方向Ｘの距離のうち、直線とＡおよびＡ’の参照ブロックとの距離が最小となる。従って、逆に考えれば、注目ブロックと、ＡおよびＡ’の参照ブロックとの相関が最も強いとき、注目ブロックと、ＡおよびＡ’の参照ブロックとを結ぶ方向に、一定の特徴が繰り返し現れているので、データの定常性の角度は、０度乃至１８．４度および１６１．６度乃至１８０．０度の範囲にあると言える。
【０６４６】
注目画素を通り、空間方向Ｘの軸を基準とした、１８．４度乃至３３．７度のいずれかの角度θを有する直線と、Ａ乃至ＨおよびＡ’乃至Ｈ’の参照ブロックのそれぞれとの空間方向Ｘの距離のうち、直線とＢおよびＢ’の参照ブロックとの距離が最小となる。従って、逆に考えれば、注目ブロックと、ＢおよびＢ’の参照ブロックとの相関が最も強いとき、注目ブロックと、ＢおよびＢ’の参照ブロックとを結ぶ方向に、一定の特徴が繰り返し現れているので、データの定常性の角度は、１８．４度乃至３３．７度の範囲にあると言える。
【０６４７】
注目画素を通り、空間方向Ｘの軸を基準とした、３３．７度乃至５６．３度のいずれかの角度θを有する直線と、Ａ乃至ＨおよびＡ’乃至Ｈ’の参照ブロックのそれぞれとの空間方向Ｘの距離のうち、直線とＣおよびＣ’の参照ブロックとの距離が最小となる。従って、逆に考えれば、注目ブロックと、ＣおよびＣ’の参照ブロックとの相関が最も強いとき、注目ブロックと、ＣおよびＣ’の参照ブロックとを結ぶ方向に、一定の特徴が繰り返し現れているので、データの定常性の角度は、３３．７度乃至５６．３度の範囲にあると言える。
【０６４８】
注目画素を通り、空間方向Ｘの軸を基準とした、５６．３度乃至７１．６度のいずれかの角度θを有する直線と、Ａ乃至ＨおよびＡ’乃至Ｈ’の参照ブロックのそれぞれとの空間方向Ｘの距離のうち、直線とＤおよびＤ’の参照ブロックとの距離が最小となる。従って、逆に考えれば、注目ブロックと、ＤおよびＤ’の参照ブロックとの相関が最も強いとき、注目ブロックと、ＤおよびＤ’の参照ブロックとを結ぶ方向に、一定の特徴が繰り返し現れているので、データの定常性の角度は、５６．３度乃至７１．６度の範囲にあると言える。
【０６４９】
注目画素を通り、空間方向Ｘの軸を基準とした、７１．６度乃至１０８．４度のいずれかの角度θを有する直線と、Ａ乃至ＨおよびＡ’乃至Ｈ’の参照ブロックのそれぞれとの空間方向Ｘの距離のうち、直線とＥおよびＥ’の参照ブロックとの距離が最小となる。従って、逆に考えれば、注目ブロックと、ＥおよびＥ’の参照ブロックとの相関が最も強いとき、注目ブロックと、ＥおよびＥ’の参照ブロックとを結ぶ方向に、一定の特徴が繰り返し現れているので、データの定常性の角度は、７１．６度乃至１０８．４度の範囲にあると言える。
【０６５０】
注目画素を通り、空間方向Ｘの軸を基準とした、１０８．４度乃至１２３．７度のいずれかの角度θを有する直線と、Ａ乃至ＨおよびＡ’乃至Ｈ’の参照ブロックのそれぞれとの空間方向Ｘの距離のうち、直線とＦおよびＦ’の参照ブロックとの距離が最小となる。従って、逆に考えれば、注目ブロックと、ＦおよびＦ’の参照ブロックとの相関が最も強いとき、注目ブロックと、ＦおよびＦ’の参照ブロックとを結ぶ方向に、一定の特徴が繰り返し現れているので、データの定常性の角度は、１０８．４度乃至１２３．７度の範囲にあると言える。
【０６５１】
注目画素を通り、空間方向Ｘの軸を基準とした、１２３．７度乃至１４６．３度のいずれかの角度θを有する直線と、Ａ乃至ＨおよびＡ’乃至Ｈ’の参照ブロックのそれぞれとの空間方向Ｘの距離のうち、直線とＧおよびＧ’の参照ブロックとの距離が最小となる。従って、逆に考えれば、注目ブロックと、ＧおよびＧ’の参照ブロックとの相関が最も強いとき、注目ブロックと、ＧおよびＧ’の参照ブロックとを結ぶ方向に、一定の特徴が繰り返し現れているので、データの定常性の角度は、１２３．７度乃至１４６．３度の範囲にあると言える。
【０６５２】
注目画素を通り、空間方向Ｘの軸を基準とした、１４６．３度乃至１６１．６度のいずれかの角度θを有する直線と、Ａ乃至ＨおよびＡ’乃至Ｈ’の参照ブロックのそれぞれとの空間方向Ｘの距離のうち、直線とＨおよびＨ’の参照ブロックとの距離が最小となる。従って、逆に考えれば、注目ブロックと、ＨおよびＨ’の参照ブロックとの相関が最も強いとき、注目ブロックと、ＨおよびＨ’の参照ブロックとを結ぶ方向に、一定の特徴が繰り返し現れているので、データの定常性の角度は、１４６．３度乃至１６１．６度の範囲にあると言える。
【０６５３】
このように、データ定常性検出部１０１は、注目ブロックと参照ブロックとの相関を基に、データの定常性の角度を検出することができる。
【０６５４】
なお、図９４に構成を示すデータ定常性検出部１０１においては、データの定常性の角度の範囲をデータ定常性情報として出力するようにしても良く、データの定常性の角度の範囲を示す代表値をデータ定常性情報として出力するようにしても良い。例えば、データの定常性の角度の範囲の中央値を代表値とすることができる。
【０６５５】
さらに、図９４に構成を示すデータ定常性検出部１０１は、相関が最も強い参照ブロックの周辺の参照ブロックの相関を利用することにより、検出するデータの定常性の角度の範囲を１／２に、すなわち、検出するデータの定常性の角度の分解能を２倍にすることができる。
【０６５６】
例えば、注目ブロックと、ＥおよびＥ’の参照ブロックとの相関が最も強いとき、最小誤差角度選択部４６３は、図１０２で示されるように、注目ブロックに対する、ＤおよびＤ’の参照ブロックの相関と、注目ブロックに対する、ＦおよびＦ’の参照ブロックの相関とを比較する。注目ブロックに対する、ＤおよびＤ’の参照ブロックの相関が、注目ブロックに対する、ＦおよびＦ’の参照ブロックの相関に比較して、強い場合、最小誤差角度選択部４６３は、データの定常性の角度に、７１．６度乃至９０度の範囲を設定する。また、この場合、最小誤差角度選択部４６３は、データの定常性の角度に、代表値として８１度を設定するようにしてもよい。
【０６５７】
注目ブロックに対する、ＦおよびＦ’の参照ブロックの相関が、注目ブロックに対する、ＤおよびＤ’の参照ブロックの相関に比較して、強い場合、最小誤差角度選択部４６３は、データの定常性の角度に、９０度乃至１０８．４度の範囲を設定する。また、この場合、最小誤差角度選択部４６３は、データの定常性の角度に、代表値として９９度を設定するようにしてもよい。
【０６５８】
最小誤差角度選択部４６３は、同様の処理で、他の角度の範囲についても、検出するデータの定常性の角度の範囲を１／２にすることができる。
【０６５９】
尚、図１０２を参照して説明した手法を、簡易１６方位検出手法とも称する。
【０６６０】
このように、図９４に構成を示すデータ定常性検出部１０１は、簡単な処理で、より範囲の狭い、データの定常性の角度を検出することができる。
【０６６１】
次に、図１０３のフローチャートを参照して、ステップＳ１０１の処理に対応する、図９４で構成が示されるデータ定常性検出部１０１による、データの定常性の検出の処理を説明する。
【０６６２】
ステップＳ４４１において、データ選択部４４１は、入力画像から、注目している画素である注目画素を選択する。例えば、データ選択部４４１は、入力画像から、ラスタスキャン順に、注目画素を選択する。
【０６６３】
ステップＳ４４２において、データ選択部４４１は、注目画素を中心とする所定の数の画素からなる注目ブロックを選択する。例えば、データ選択部４４１は、注目画素を中心とする５×５画素からなる注目ブロックを選択する。
【０６６４】
ステップＳ４４３において、データ選択部４４１は、注目画素の周辺の所定の位置の所定の数の画素からなる参照ブロックを選択する。例えば、データ選択部４４１は、注目画素および基準軸を基準とした所定の角度の範囲毎に、注目ブロックの大きさを基準とした、所定の位置の画素を中心とする５×５画素からなる参照ブロックを選択する。
【０６６５】
データ選択部４４１は、注目ブロックおよび参照ブロックを誤差推定部４４２に供給する。
【０６６６】
ステップＳ４４４において、誤差推定部４４２は、注目画素および基準軸を基準とした所定の角度の範囲毎に、注目ブロックと、角度の範囲に対応した参照ブロックとの相関を計算する。誤差推定部４４２は、算出された相関を示す相関情報を定常方向導出部４４３に供給する。
【０６６７】
ステップＳ４４５において、定常方向導出部４４３は、注目ブロックに対して、相関が最も強い参照ブロックの位置から、欠落した実世界１の光信号である画像の定常性に対応する、入力画像における、基準軸を基準としたデータの定常性の角度を検出する。
【０６６８】
定常方向導出部４４３は、検出したデータの定常性の角度を示すデータ定常性情報を出力する。
【０６６９】
ステップＳ４４６において、データ選択部４４１は、全ての画素の処理を終了したか否かを判定し、全ての画素の処理を終了していないと判定された場合、ステップＳ４４１に戻り、まだ注目画素として選択されていない画素から注目画素を選択して、上述した処理を繰り返す。
【０６７０】
ステップＳ４４６において、全ての画素の処理を終了したと判定された場合、処理は終了する。
【０６７１】
このように、図９４に構成を示すデータ定常性検出部１０１は、より簡単な処理で、欠落した実世界１の光信号の定常性に対応する、画像データにおける、基準軸を基準としたデータの定常性の角度を検出することができる。また、図９４に構成を示すデータ定常性検出部１０１は、入力画像の中の、比較的狭い範囲の画素の画素値を使用して、データの定常性の角度を検出することができるので、入力画像にノイズ等が含まれていても、より正確にデータの定常性の角度を検出することができる。
【０６７２】
なお、図９４で構成が示されるデータ検出部１０１は、注目しているフレームである注目フレームの、注目している画素である注目画素について、注目フレームから、所定の数の画素からなる、注目画素を中心としたブロックと、注目画素の周辺の、それぞれ、所定の数の画素からなる複数のブロックとを抽出すると共に、注目フレームに対して時間的に前または後ろのフレームから、所定の数の画素からなる、注目画素に対応する位置の画素を中心としたブロックと、注目画素に対応する位置の画素の周辺の、それぞれ、所定の数の画素からなる複数のブロックとを抽出し、注目画素を中心としたブロックと空間的または時間的に周辺のブロックとの相関を検出し、相関に基づいて、入力画像における、時間方向および空間方向のデータの定常性の角度を検出するようにしてもよい。
【０６７３】
例えば、図１０４に示すように、データ選択部４４１は、注目フレームであるフレーム#nから注目画素を順に選択し、フレーム#nから、注目画素を中心とした、所定の数の画素からなるブロック、および、注目画素の周辺の、所定の数の画素からなる複数のブロックを抽出する。また、データ選択部４４１は、フレーム#n-1およびフレーム#n+1のそれぞれから、注目画素の位置に対応する位置の画素を中心とした、所定の数の画素からなるブロック、および、注目画素の位置に対応する位置の画素の周辺の、所定の数の画素からなる複数のブロックを抽出する。データ選択部４４１は、抽出したブロックを誤差推定部４４２に供給する。
【０６７４】
誤差推定部４４２は、データ選択部４４１から供給された、注目画素を中心としたブロックと、空間的または時間的に周辺のブロックとの相関を検出して、検出した相関を示す相関情報を定常方向導出部４４３に供給する。定常性方向導出部４４３は、誤差推定部４４２から供給された相関情報に基いて、相関の最も強い、空間的または時間的に周辺のブロックの位置から、欠落した実世界１の光信号の定常性に対応する、入力画像における、時間方向および空間方向のデータの定常性の角度を検出し、角度を示すデータ定常性情報を出力する。
【０６７５】
また、データ定常性検出部１０１は、入力画像のコンポーネント信号を基に、データの定常性の検出の処理を実行することができる。
【０６７６】
図１０５は、入力画像のコンポーネント信号を基に、データの定常性の検出の処理を実行するデータ定常性検出部１０１の構成を示すブロック図である。
【０６７７】
データ定常性検出部４８１−１乃至４８１−３のそれぞれは、上述した、または後述するデータ定常性検出部１０１と同様の構成を有し、入力画像のコンポーネント信号のそれぞれを処理の対象として、上述した、または後述する処理を実行する。
【０６７８】
データ定常性検出部４８１−１は、入力画像の第１のコンポーネント信号を基に、データの定常性を検出し、第１のコンポーネント信号から検出されたデータの定常性を示す情報を決定部４８２に供給する。例えば、データ定常性検出部４８１−１は、入力画像の輝度信号を基に、データの定常性を検出し、輝度信号から検出されたデータの定常性を示す情報を決定部４８２に供給する。
【０６７９】
データ定常性検出部４８１−２は、入力画像の第２のコンポーネント信号を基に、データの定常性を検出し、第２のコンポーネント信号から検出されたデータの定常性を示す情報を決定部４８２に供給する。例えば、データ定常性検出部４８１−２は、入力画像の色差信号であるＩ信号を基に、データの定常性を検出し、Ｉ信号から検出されたデータの定常性を示す情報を決定部４８２に供給する。
【０６８０】
データ定常性検出部４８１−３は、入力画像の第３のコンポーネント信号を基に、データの定常性を検出し、第３のコンポーネント信号から検出されたデータの定常性を示す情報を決定部４８２に供給する。例えば、データ定常性検出部４８１−３は、入力画像の色差信号であるＱ信号を基に、データの定常性を検出し、Ｑ信号から検出されたデータの定常性を示す情報を決定部４８２に供給する。
【０６８１】
決定部４８２は、データ定常性検出部４８１−１乃至４８１−３から供給された、各コンポーネント信号から検出されたデータの定常性を示す情報を基に、入力画像における最終的なデータの定常性を検出して、検出したデータの定常性を示すデータ定常性情報を出力する。
【０６８２】
例えば、決定部４８２は、データ定常性検出部４８１−１乃至４８１−３から供給された、各コンポーネント信号から検出されたデータの定常性のうち、最大のデータの定常性を最終的なデータの定常性とする。また、例えば、決定部４８２は、データ定常性検出部４８１−１乃至４８１−３から供給された、各コンポーネント信号から検出されたデータの定常性のうち、最小のデータの定常性を最終的なデータの定常性とする。
【０６８３】
さらに、例えば、決定部４８２は、データ定常性検出部４８１−１乃至４８１−３から供給された、各コンポーネント信号から検出されたデータの定常性の平均値を最終的なデータの定常性とする。決定部４８２は、データ定常性検出部４８１−１乃至４８１−３から供給された、各コンポーネント信号から検出されたデータの定常性のメディアン（中央値）を最終的なデータの定常性とするようにしてもよい。
【０６８４】
また、例えば、決定部４８２は、外部から入力された信号を基に、データ定常性検出部４８１−１乃至４８１−３から供給された、各コンポーネント信号から検出されたデータの定常性のうち、外部から入力された信号で指定されるデータの定常性を最終的なデータの定常性とする。決定部４８２は、データ定常性検出部４８１−１乃至４８１−３から供給された、各コンポーネント信号から検出されたデータの定常性のうち、予め定めたデータの定常性を最終的なデータの定常性とするようにしてもよい。
【０６８５】
なお、決定部４８２は、データ定常性検出部４８１−１乃至４８１−３から供給された、各コンポーネント信号のデータの定常性の検出の処理で求めた誤差を基に、最終的なデータの定常性を決定するようにしてもよい。データの定常性の検出の処理で求められる誤差については、後述する。
【０６８６】
図１０６は、入力画像のコンポーネント信号を基に、データの定常性の検出の処理を実行するデータ定常性検出部１０１の他の構成を示す図である。
【０６８７】
コンポーネント処理部４９１は、入力画像のコンポーネント信号を基に、１つの信号を生成し、データ定常性検出部４９２に供給する。例えば、コンポーネント処理部４９１は、入力画像の各コンポーネント信号における値を、画面上で同じ位置の画素について、加算することにより、コンポーネント信号の値の和からなる信号を生成する。
【０６８８】
例えば、コンポーネント処理部４９１は、入力画像の各コンポーネント信号における画素値を、画面上で同じ位置の画素について、平均することにより、コンポーネント信号の画素値の平均値からなる信号を生成する。
【０６８９】
データ定常性検出部４９２は、コンポーネント処理部４９１から供給された、信号を基に、入力画像における、データの定常性を検出し、検出したデータの定常性を示すデータ定常性情報を出力する。
【０６９０】
データ定常性検出部４９２は、上述した、または後述するデータ定常性検出部１０１と同様の構成を有し、コンポーネント処理部４９１から供給された信号を対象として、上述した、または後述する処理を実行する。
【０６９１】
このように、データ定常性検出部１０１は、コンポーネント信号を基に、入力画像のデータの定常性を検出することにより、入力画像にノイズなどが含まれていても、より正確に、データの定常性を検出することができる。例えば、データ定常性検出部１０１は、コンポーネント信号を基に、入力画像のデータの定常性を検出することにより、より正確に、データの定常性の角度（傾き）、混合比、またはデータの定常性を有する領域を検出することができる。
【０６９２】
なお、コンポーネント信号は、輝度信号および色差信号に限らず、RGB信号、またはYUV信号など他の方式のコンポーネント信号であっても良い。
【０６９３】
以上のように、現実世界の光信号が射影され、現実世界の光信号の定常性の一部が欠落した画像データの、欠落した現実世界の光信号の定常性に対応するデータの定常性の、基準軸に対する角度を検出し、検出された角度に基づいて、欠落した現実世界の光信号の定常性を推定することにより光信号を推定するようにした場合、現実世界の事象に対して、より正確で、より精度の高い処理結果を得ることができるようになる。
【０６９４】
また、現実世界の光信号が射影され、現実世界の光信号の定常性の一部が欠落した画像データの注目している注目画素および基準軸を基準とした角度毎に、所定の数の画素からなる画素の組であって、複数の組を抽出し、角度毎に抽出された、複数の組における対応する位置の画素の画素値の相関を検出し、検出された相関に基いて、欠落した現実世界の光信号の定常性に対応する、画像データにおける、基準軸を基準としたデータの定常性の角度を検出し、検出された画像データにおける基準軸に対するデータの定常性の角度に基づいて、欠落した現実世界の光信号の定常性を推定することにより光信号を推定するようにした場合、現実世界の事象に対して、より正確で、より精度の高い処理結果を得ることができるようになる。
【０６９５】
図１０７は、データ定常性検出部１０１のさらに他の構成を示すブロック図である。
【０６９６】
図１０７に示されるデータ定常性検出部１０１においては、現実世界の光信号が射影され、現実世界の光信号の定常性の一部が欠落した画像データの注目している画素である注目画素に対応する領域が選択され、注目画素の画素値と、選択された領域に属する画素の画素値との相関値が閾値以上である画素に、相関値に基づく度数が設定されることにより、領域に属する画素の度数が検出され、検出された度数に基いて回帰線を検出することにより、欠落した現実世界の光信号の定常性に対応する、画像データのデータの定常性が検出される。
【０６９７】
フレームメモリ５０１は、入力画像をフレーム単位で記憶し、記憶されているフレームを構成する画素の画素値を画素取得部５０２に供給する。フレームメモリ５０１は、１つのページに入力画像の現在のフレームを記憶し、他のページに記憶している、現在のフレームに対して１つ前（過去）のフレームの画素の画素値を画素取得部５０２に供給し、入力画像のフレームの切り換えの時刻において、ページを切り換えることにより、画素取得部５０２に、動画である入力画像のフレームの画素の画素値を供給することができる。
【０６９８】
画素取得部５０２は、フレームメモリ５０１から供給された画素の画素値を基に、注目している画素である注目画素を選択し、選択された注目画素に対応する、所定の数の画素からなる領域を選択する。例えば、画素取得部５０２は、注目画素を中心とする５×５画素からなる領域を選択する。
【０６９９】
画素取得部５０２が選択する領域の大きさは、本発明を限定するものではない。
【０７００】
画素取得部５０２は、選択した領域の画素の画素値を取得して、選択した領域の画素の画素値を度数検出部５０３に供給する。
【０７０１】
度数検出部５０３は、画素取得部５０２から供給された、選択された領域の画素の画素値を基に、注目画素の画素値と、選択された領域に属する画素の画素値との相関値が閾値以上である画素に、相関値に基づく度数を設定することにより、領域に属する画素の度数を検出する。度数検出部５０３における、相関値に基づく度数の設定の処理の詳細は、後述する。
【０７０２】
度数検出部５０３は、検出した度数を回帰直線演算部５０４に供給する。
【０７０３】
回帰直線演算部５０４は、度数検出部５０３から供給された度数に基づいて、回帰線を演算する。例えば、回帰直線演算部５０４は、度数検出部５０３から供給された度数に基づいて、回帰直線を演算する。また、例えば、回帰直線演算部５０４は、度数検出部５０３から供給された度数に基づいて、所定の曲線である回帰線を演算する。回帰直線演算部５０４は、演算された回帰線および演算の結果を示す演算結果パラメータを角度算出部５０５に供給する。演算パラメータが示す演算の結果には、後述する変動および共変動などが含まれる。
【０７０４】
角度算出部５０５は、回帰直線演算部５０４から供給された演算結果パラメータで示される、回帰線に基づいて、欠落した現実世界の光信号の定常性に対応する、画像データである入力画像のデータの定常性を検出する。例えば、角度算出部５０５は、回帰直線演算部５０４から供給された演算結果パラメータで示される、回帰直線に基づいて、欠落した実世界１の光信号の定常性に対応する、入力画像における、基準軸を基準としたデータの定常性の角度を検出する。角度算出部５０５は、力画像における、基準軸を基準としたデータの定常性の角度を示すデータ定常性情報を出力する。
【０７０５】
図１０８乃至図１１０を参照して、入力画像における、基準軸を基準としたデータの定常性の角度について説明する。
【０７０６】
図１０８において、丸は、１つの画素を示し、２重丸は、注目画素を示す。丸の色は、画素の画素値の概略を示し、より明るい色は、より大きい画素値を示す。例えば、黒は、３０である画素値を示し、白は、１２０である画素値を示す。
【０７０７】
図１０８で示される画素からなる画像を人間が見た場合、画像を見た人間は、斜め右上方向に直線が伸びていると認識することができる。
【０７０８】
図１０７に構成を示すデータ定常性検出部１０１は、図１０８で示される画素からなる入力画像を入力したとき、斜め右上方向に直線が伸びていることを検出する。
【０７０９】
図１０９は、図１０８で示される画素の画素値を数値で表した図である。丸は、１つの画素を示し、丸の中の数値は、画素値を示す。
【０７１０】
例えば、注目画素の画素値は、１２０であり、注目画素の上側の画素の画素値は、１００であり、注目画素の下側の画素の画素値は、１００である。また、注目画素の左側の画素の画素値は、８０であり、注目画素の右側の画素の画素値は、８０である。同様に、注目画素の左下側の画素の画素値は、１００であり、注目画素の右上側の画素の画素値は、１００である。注目画素の左上側の画素の画素値は、３０であり、注目画素の右下側の画素の画素値は、３０である。
【０７１１】
図１０７に構成を示すデータ定常性検出部１０１は、図１０９で示される入力画像に対して、図１１０で示されるように、回帰直線Ａを引く。
【０７１２】
図１１１は、入力画像における、画素の空間方向の位置に対する、画素値の変化と、回帰直線Ａとの関係を示す図である。データの定常性を有する領域における画素の画素値は、例えば、図１１１に示すように、山脈状に変化している。
【０７１３】
図１０７に構成を示すデータ定常性検出部１０１は、データの定常性を有する領域における画素の画素値を重みとして、最小自乗法により回帰直線Ａを引く。データ定常性検出部１０１により求められた回帰直線Ａは、注目画素の周辺におけるデータの定常性を表現している。
【０７１４】
入力画像における、基準軸を基準としたデータの定常性の角度は、図１１２で示されるように、回帰直線Ａと、例えば、基準軸である空間方向Ｘを示す軸との角度θを求めることにより、検出される。
【０７１５】
次に、図１０７に構成を示すデータ定常性検出部１０１における、回帰直線の具体的な算出方法について説明する。
【０７１６】
度数検出部５０３は、例えば、画素取得部５０２から供給された、注目画素を中心とする、空間方向Ｘに９画素、空間方向Ｙに５画素、計４５画素からなる領域の画素の画素値から、領域に属する画素の座標に対応する度数を検出する。
【０７１７】
例えば、度数検出部５０３は、式（３２）で示される演算により、度数を算出することにより、領域に属する、座標（x_i,y_j）の度数L_i,jを検出する。
【０７１８】
【数２３】

・・・（３２）
【０７１９】
式（３２）において、P_0,0は、注目画素の画素値を示し、P_i,jは、座標（x_i,y_j）の画素の画素値を示す。Thは、閾値を示す。
【０７２０】
iは、領域内における、空間方向Ｘの画素の順番を示し、1≦i≦kである。jは、領域内における、空間方向Ｙの画素の順番を示し、1≦j≦lである。
【０７２１】
kは、領域における、空間方向Ｘの画素の数を示し、lは、領域における、空間方向Ｙの画素の数を示す。例えば、領域が、空間方向Ｘに９画素、空間方向Ｙに５画素、計４５画素からなるとき、kは、９であり、lは、５である。
【０７２２】
図１１３は、画素取得部５０２において取得される領域の例を示す図である。図１１３において、点線の四角は、１つの画素を示す。
【０７２３】
例えば、図１１３で示されるように、領域が、空間方向Ｘについて、注目画素を中心とした９画素、空間方向Ｙについて、注目画素を中心とした５画素からなり、注目画素の座標（x,y）が（0,0）であるとき、領域の左上の画素の座標（x,y）は、（-4,2）であり、領域の右上の画素の座標（x,y）は、（4,2）であり、領域の左下の画素の座標（x,y）は、（-4,-2）であり、領域の右下の画素の座標（x,y）は、（4,-2）である。
【０７２４】
領域の左側の画素の、空間方向Ｘにおける、画素の順番iは、1であり、領域の右側の画素の、空間方向Ｘにおける、画素の順番iは、9である。領域の下側の画素の、空間方向Ｙにおける、画素の順番jは、1であり、領域の上側の画素の、空間方向Ｙにおける、画素の順番jは、5である。
【０７２５】
すなわち、注目画素の座標（x₅,y₃）を（0,0）としたとき、領域の左上の画素の座標（x₁,y₅）は、（-4,2）であり、領域の右上の画素の座標（x₉,y₅）は、（4,2）であり、領域の左下の画素の座標（x₁,y₁）は、（-4,-2）であり、領域の右下の画素の座標（x₉,y₁）は、（4,-2）である。
【０７２６】
度数検出部５０３は、式（３２）において、相関値として、注目画素の画素値と、領域に属する画素の画素値との差分の絶対値を算出するので、実世界１の細線の画像が射影された、入力画像における、データの定常性を有する領域のみならず、背景とは異なる色であって、単色の、直線状の縁を有する物の実世界１の画像が射影された、入力画像における、２値エッジのデータの定常性を有する領域における、画素値の空間的な変化の特徴を示す度数を検出することができる。
【０７２７】
なお、度数検出部５０３は、画素の画素値との差分の絶対値に限らず、相関係数など他の相関値を基に、度数を検出するようにしてもよい。
【０７２８】
また、式（３２）において、指数関数を適用しているのは、画素値の差に対して、度数に大きく差をつけるためであり、他の関数を適用するようにしてもよい。
【０７２９】
閾値Thは、任意の値とすることができる。例えば、閾値Thは、３０とすることができる。
【０７３０】
このように、度数検出部５０３は、選択された領域に属する画素の画素値との相関値が閾値以上である画素に、相関値に基づく度数を設定することにより、領域に属する画素の度数を検出する。
【０７３１】
また、例えば、度数検出部５０３は、式（３３）で示される演算により、度数を算出することにより、領域に属する、座標（x_i,y_j）の度数L_i,jを検出する。
【０７３２】
【数２４】

・・・（３３）
【０７３３】
座標（x_i,y_j）における度数をL_i,j（1≦i≦k,1≦j≦l）としたとき、座標x_iにおける、空間方向Ｙの度数L_i,jの和q_iは、式（３４）で表され、座標y_jにおける、空間方向Ｘの度数L_i,jの和h_jは、式（３５）で表される。
【０７３４】
【数２５】

・・・（３４）
【０７３５】
【数２６】

・・・（３５）
【０７３６】
度数の総和uは、式（３６）で表される。
【０７３７】
【数２７】

・・・（３６）
【０７３８】
図１１３で示される例において、注目画素の座標の度数L_5,3は、３であり、注目画素の上側の画素の座標の度数L_5,4は、１であり、注目画素の右上側の画素の座標の度数L_6,4は、４であり、注目画素に対して、２画素上側であって、１画素右側の画素の座標の度数L_6,5は、２であり、注目画素に対して、２画素上側であって、２画素右側の画素の座標の度数L_7,5は、３である。また、注目画素の下側の画素の座標の度数L_5,2は、２であり、注目画素の左側の画素の座標の度数L_4,3は、１であり、注目画素の左下側の画素の座標の度数L_4,2は、３であり、注目画素に対して、１画素下側であって、２画素左側の画素の座標の度数L_3,2は、２であり、注目画素に対して、２画素下側であって、２画素左側の画素の座標の度数L_3,1は、４である。図１１３で示される領域の他の画素の座標の度数は、０であり、図１１３において、０である度数の記載は省略する。
【０７３９】
図１１３で示される領域において、空間方向Ｙの度数の和q₁は、iが１である度数Lが全て０なので、０であり、q₂は、iが２である度数Lが全て０なので、０である。q₃は、度数L_3,2が２であり、度数L_3,1が４なので、６である。同様に、q₄は、４であり、q₅は、６であり、q₆は、６であり、q₇は、３であり、q₈は、０であり、q₉は、０である。
【０７４０】
図１１３で示される領域において、空間方向Ｘの度数の和h₁は、度数L_3,1が４なので、４である。h₂は、度数L_3,2が２であり、度数L_4,2が３であり、度数L_5,2が２なので、７である。同様に、h₃は、４であり、h₄は、５であり、h₅は、５である。
【０７４１】
図１１３で示される領域において、度数の総和uは、２５である。
【０７４２】
空間方向Ｙの度数L_i,jの和q_iに、座標x_iを乗じた結果を加算した和T_xは、式（３７）で表される。
【０７４３】
【数２８】

・・・（３７）
【０７４４】
空間方向Ｘの度数L_i,jの和h_jに、座標y_jを乗じた結果を加算した和T_yは、式（３７）で表される。
【０７４５】
【数２９】

・・・（３８）
【０７４６】
例えば、図１１３で示される領域において、q₁が０であり、x₁が−４なので、q₁x₁は０であり、q₂が０であり、x₂が−３なので、q₂x₂は０である。同様に、q₃が６であり、x₃が−２なので、q₃x₃は−１２であり、q₄が４であり、x₄が−１なので、q₄x₄は、−４であり、q₅が６であり、x₅が０なので、q₅x₅は０である。同様に、q₆が６であり、x₆が１なので、q₆x₆は６であり、q₇が３であり、x₇が２なので、q₇x₇は６であり、q₈が０であり、x₈が3なので、q₈x₈は０であり、q₉が０であり、x₉が４なので、q₉x₉は０である。従って、q₁x₁乃至q₉x₉の和であるT_xは、−４である。
【０７４７】
例えば、図１１３で示される領域において、h₁が４であり、y₁が−２なので、h₁y₁は−８であり、h₂が７であり、y₂が−１なので、h₂y₂は−７である。同様に、h₃が４であり、y₃が０なので、h₃y₃は０であり、h₄が５であり、y₄が１なので、h₄y₄は、５であり、h₅が５であり、y₅が２なので、h₅y₅は１０である。従って、h₁y₁乃至h₅y₅の和であるT_yは、0である。
【０７４８】
また、Q_iを以下のように定義する。
【０７４９】
【数３０】

・・・（３９）
【０７５０】
xの変動S_xは、式（４０）で表される。
【０７５１】
【数３１】

・・・（４０）
【０７５２】
yの変動S_yは、式（４１）で表される。
【０７５３】
【数３２】

・・・（４１）
【０７５４】
共変動S_xyは、式（４２）で表される。
【０７５５】
【数３３】

・・・（４２）
【０７５６】
式（４３）に示す１次の回帰直線を求めることを考える。
【０７５７】
y=ax+b ・・・（４３）
【０７５８】
傾きaおよび切片bは、最小自乗法により、以下のように求めることができる。
【０７５９】
【数３４】

・・・（４４）
【０７６０】
【数３５】

・・・（４５）
【０７６１】
ただし、正しい回帰直線を求めるための必要条件は、度数L_i,jが、回帰直線に対して、ガウス分布状に、分布していることである。逆に言えば、度数検出部５０３は、度数L_i,jがガウス分布するように、領域の画素の画素値を度数L_i,jに変換する必要がある。
【０７６２】
回帰直線演算部５０４は、式（４４）および式（４５）で示される演算を実行して、回帰直線を求める。
【０７６３】
角度算出部５０５は、式（４６）に示す演算により、回帰直線の傾きaを、基準軸である空間方向Ｘの軸に対する角度θに変換する。
【０７６４】
θ=tan^-1(a) ・・・（４６）
【０７６５】
なお、回帰直線演算部５０４が所定の曲線である回帰線を演算する場合、角度算出部５０５は、基準軸に対する、注目画素の位置における回帰線の角度θを求める。
【０７６６】
ここで、画素毎にデータの定常性を検出するためには、切片bは、不要である。そこで、式（４７）に示す１次の回帰直線を求めることを考える。
【０７６７】
y=ax ・・・（４７）
【０７６８】
この場合、回帰直線演算部５０４は、最小自乗法により、傾きaを式（４８）で求めることができる。
【０７６９】
【数３６】

・・・（４８）
【０７７０】
図１１４のフローチャートを参照して、ステップＳ１０１の処理に対応する、図１０７で構成が示されるデータ定常性検出部１０１による、データの定常性の検出の処理を説明する。
【０７７１】
ステップＳ５０１において、画素取得部５０２は、まだ注目画素とされていない画素の中から注目画素を選択する。例えば、画素取得部５０２は、ラスタスキャン順に、注目画素を選択する。ステップＳ５０２において、画素取得部５０２は、注目画素を中心とする領域に含まれる画素の画素値を取得し、取得した画素の画素値を度数検出部５０３に供給する。例えば、画素取得部５０２は、注目画素を中心とした、９×５画素からなる領域を選択し、領域に含まれる画素の画素値を取得する。
【０７７２】
ステップＳ５０３において、度数検出部５０３は、領域に含まれる画素の画素値を度数に変換することにより、度数を検出する。例えば、度数検出部５０３は、式（３２）に示される演算により、画素値を度数L_i,jに変換する。この場合において、度数L_i,jがガウス分布するように、領域の画素の画素値が度数L_i,jに変換される。度数検出部５０３は、変換された度数を回帰直線演算部５０４に供給する。
【０７７３】
ステップＳ５０４において、回帰直線演算部５０４は、度数検出部５０３から供給された度数を基に、回帰線を求める。例えば、回帰直線演算部５０４は、度数検出部５０３から供給された度数を基に、回帰直線を求める。より具体的には、回帰直線演算部５０４は、式（４４）および式（４５）で示される演算を実行して、回帰直線を求める。回帰直線演算部５０４は、算出された結果である回帰直線を示す演算結果パラメータを角度算出部５０５に供給する。
【０７７４】
ステップＳ５０５において、角度算出部５０５は、基準軸に対する回帰直線の角度を算出することにより、欠落した現実世界の光信号の定常性に対応する、画像データのデータの定常性を検出する。例えば、角度算出部５０５は、式（４６）に示す演算により、回帰直線の傾きaを、基準軸である空間方向Ｘの軸に対する角度θに変換する。角度算出部５０５は、基準軸に対する回帰直線の角度を示すデータ定常性情報を出力する。
【０７７５】
なお、角度算出部５０５は、傾きaを示すデータ定常性情報を出力するようにしてもよい。
【０７７６】
ステップＳ５０６において、画素取得部５０２は、全ての画素の処理を終了したか否かを判定し、全ての画素の処理を終了していないと判定された場合、ステップＳ５０１に戻り、まだ注目画素として選択されていない画素から注目画素を選択して、上述した処理を繰り返す。
【０７７７】
ステップＳ５０６において、全ての画素の処理を終了したと判定された場合、処理は終了する。
【０７７８】
このように、図１０７に構成を示すデータ定常性検出部１０１は、欠落した実世界１の光信号の定常性に対応する、画像データにおける、基準軸を基準としたデータの定常性の角度を検出することができる。
【０７７９】
特に、図１０７に構成を示すデータ定常性検出部１０１は、比較的狭い領域の画素の画素値を基に、画素以下の角度を求めることができる。
【０７８０】
以上のように、現実世界の光信号が射影され、現実世界の光信号の定常性の一部が欠落した画像データの注目している画素である注目画素に対応する領域を選択し、注目画素の画素値と、選択された領域に属する画素の画素値との相関値が閾値以上である画素に、相関値に基づく度数を設定することにより、領域に属する画素の度数を検出し、検出された度数に基いて回帰線を検出することにより、欠落した現実世界の光信号の定常性に対応する、画像データのデータの定常性を検出し、検出された画像データのデータの定常性に基いて、欠落した現実世界の光信号の定常性を推定することにより光信号を推定するようにした場合、現実世界の事象に対して、より正確で、より精度の高い処理結果を得ることができるようになる。
【０７８１】
なお、図１０７に構成を示すデータ定常性検出部１０１は、注目画素の属する注目フレームと、注目フレームの時間的に前後のフレームについて、所定の領域に属する画素の画素値を度数に変換し、度数を基に、回帰平面を求めるようにすれば、空間方向のデータの定常性の角度と共に、時間方向のデータの定常性の角度を検出することができる。
【０７８２】
図１１５は、データ定常性検出部１０１のさらに他の構成を示すブロック図である。
【０７８３】
図１１５に示されるデータ定常性検出部１０１においては、現実世界の光信号が射影され、現実世界の光信号の定常性の一部が欠落した画像データの注目している画素である注目画素に対応する領域が選択され、注目画素の画素値と、選択された領域に属する画素の画素値との相関値が閾値以上である画素に、相関値に基づく度数が設定されることにより、領域に属する画素の度数が検出され、検出された度数に基いて回帰線を検出することにより、欠落した現実世界の光信号の定常性に対応する、画像データにおけるデータの定常性を有する領域を検出する。
【０７８４】
フレームメモリ６０１は、入力画像をフレーム単位で記憶し、記憶されているフレームを構成する画素の画素値を画素取得部６０２に供給する。フレームメモリ６０１は、１つのページに入力画像の現在のフレームを記憶し、他のページに記憶している、現在のフレームに対して１つ前（過去）のフレームの画素の画素値を画素取得部６０２に供給し、入力画像のフレームの切り換えの時刻において、ページを切り換えることにより、画素取得部６０２に、動画である入力画像のフレームの画素の画素値を供給することができる。
【０７８５】
画素取得部６０２は、フレームメモリ６０１から供給された画素の画素値を基に、注目している画素である注目画素を選択し、選択された注目画素に対応する、所定の数の画素からなる領域を選択する。例えば、画素取得部６０２は、注目画素を中心とする５×５画素からなる領域を選択する。
【０７８６】
画素取得部６０２が選択する領域の大きさは、本発明を限定するものではない。
【０７８７】
画素取得部６０２は、選択した領域の画素の画素値を取得して、選択した領域の画素の画素値を度数検出部６０３に供給する。
【０７８８】
度数検出部６０３は、画素取得部６０２から供給された、選択された領域の画素の画素値を基に、注目画素の画素値と、選択された領域に属する画素の画素値との相関値が閾値以上である画素に、相関値に基づく度数を設定することにより、領域に属する画素の度数を検出する。度数検出部６０３における、相関値に基づく度数の設定の処理の詳細は、後述する。
【０７８９】
度数検出部６０３は、検出した度数を回帰直線演算部６０４に供給する。
【０７９０】
回帰直線演算部６０４は、度数検出部６０３から供給された度数に基づいて、回帰線を演算する。例えば、回帰直線演算部６０４は、度数検出部６０３から供給された度数に基づいて、回帰直線を演算する。また、例えば、回帰直線演算部６０４は、度数検出部６０３から供給された度数に基づいて、所定の曲線である回帰線を演算する。回帰直線演算部６０４は、演算された回帰線および演算の結果を示す演算結果パラメータを領域算出部６０５に供給する。演算パラメータが示す演算の結果には、後述する変動および共変動などが含まれる。
【０７９１】
領域算出部６０５は、回帰直線演算部６０４から供給された演算結果パラメータで示される、回帰線に基づいて、欠落した現実世界の光信号の定常性に対応する、画像データである入力画像においてデータの定常性を有する領域を検出する。
【０７９２】
図１１６は、入力画像における、画素の空間方向の位置に対する、画素値の変化と、回帰直線Ａとの関係を示す図である。データの定常性を有する領域における画素の画素値は、例えば、図１１６に示すように、山脈状に変化している。
【０７９３】
図１１５に構成を示すデータ定常性検出部１０１は、データの定常性を有する領域における画素の画素値を重みとして、最小自乗法により回帰直線Ａを引く。データ定常性検出部１０１により求められた回帰直線Ａは、注目画素の周辺におけるデータの定常性を表現している。
【０７９４】
回帰直線を引くということは、ガウス関数を前提とした近似を意味する。図１１７に示すように、図１１５に構成を示すデータ定常性検出部１０１は、例えば、標準偏差を求めることで、細線の画像が射影された、データ３における領域の、おおよその幅を知ることができる。また、例えば、図１１５に構成を示すデータ定常性検出部１０１は、相関係数を基に、細線の画像が射影された、データ３における領域の、おおよその幅を知ることができる。
【０７９５】
次に、図１１５に構成を示すデータ定常性検出部１０１における、回帰直線の具体的な算出方法について説明する。
【０７９６】
度数検出部６０３は、例えば、画素取得部６０２から供給された、注目画素を中心とする、空間方向Ｘに９画素、空間方向Ｙに５画素、計４５画素からなる領域の画素の画素値から、領域に属する画素の座標に対応する度数を検出する。
【０７９７】
例えば、度数検出部６０３は、式（４９）で示される演算により、度数を算出することにより、領域に属する、座標（x_i,y_j）の度数L_i,jを検出する。
【０７９８】
【数３７】

・・・（４９）
【０７９９】
式（４９）において、P_0,0は、注目画素の画素値を示し、P_i,jは、座標（x_i,y_j）の画素の画素値を示す。Thは、閾値を示す。
【０８００】
iは、領域内における、空間方向Ｘの画素の順番を示し、1≦i≦kである。jは、領域内における、空間方向Ｙの画素の順番を示し、1≦j≦lである。
【０８０１】
kは、領域における、空間方向Ｘの画素の数を示し、lは、領域における、空間方向Ｙの画素の数を示す。例えば、領域が、空間方向Ｘに９画素、空間方向Ｙに５画素、計４５画素からなるとき、Kは、９であり、lは、５である。
【０８０２】
図１１８は、画素取得部６０２において取得される領域の例を示す図である。図１１８において、点線の四角は、１つの画素を示す。
【０８０３】
例えば、図１１８で示されるように、領域が、空間方向Ｘについて、注目画素を中心とした９画素、空間方向Ｙについて、注目画素を中心とした５画素からなり、注目画素の座標（x,y）が（0,0）であるとき、領域の左上の画素の座標（x,y）は、（-4,2）であり、領域の右上の画素の座標（x,y）は、（4,2）であり、領域の左下の画素の座標（x,y）は、（-4,-2）であり、領域の右下の画素の座標（x,y）は、（4,-2）である。
【０８０４】
領域の左側の画素の、空間方向Ｘにおける、画素の順番iは、1であり、領域の右側の画素の、空間方向Ｘにおける、画素の順番iは、9である。領域の下側の画素の、空間方向Ｙにおける、画素の順番jは、1であり、領域の上側の画素の、空間方向Ｙにおける、画素の順番jは、5である。
【０８０５】
すなわち、注目画素の座標（x₅,y₃）を（0,0）としたとき、領域の左上の画素の座標（x₁,y₅）は、（-4,2）であり、領域の右上の画素の座標（x₉,y₅）は、（4,2）であり、領域の左下の画素の座標（x₁,y₁）は、（-4,-2）であり、領域の右下の画素の座標（x₉,y₁）は、（4,-2）である。
【０８０６】
度数検出部６０３は、式（４９）において、相関値として、注目画素の画素値と、領域に属する画素の画素値との差分の絶対値を算出するので、実世界１の細線の画像が射影された、入力画像における、データの定常性を有する領域のみならず、背景とは異なる色であって、単色の、直線状の縁を有する物の実世界１の画像が射影された、入力画像における、２値エッジのデータの定常性を有する領域における、画素値の空間的な変化の特徴を示す度数を検出することができる。
【０８０７】
なお、度数検出部６０３は、画素の画素値との差分の絶対値に限らず、相関係数など他の相関値を基に、度数を検出するようにしてもよい。
【０８０８】
また、式（４９）において、指数関数を適用しているのは、画素値の差に対して、度数に大きく差をつけるためであり、他の関数を適用するようにしてもよい。
【０８０９】
閾値Thは、任意の値とすることができる。例えば、閾値Thは、３０とすることができる。
【０８１０】
このように、度数検出部６０３は、選択された領域に属する画素の画素値との相関値が閾値以上である画素に、相関値に基づく度数を設定することにより、領域に属する画素の度数を検出する。
【０８１１】
また、例えば、度数検出部６０３は、式（５０）で示される演算により、度数を算出することにより、領域に属する、座標（x_i,y_j）の度数L_i,jを検出する。
【０８１２】
【数３８】

・・・（５０）
【０８１３】
座標（x_i,y_j）における度数をL_i,j（1≦i≦k,1≦j≦l）としたとき、座標x_iにおける、空間方向Ｙの度数L_i,jの和q_iは、式（５１）で表され、座標y_jにおける、空間方向Ｘの度数L_i,jの和h_jは、式（５２）で表される。
【０８１４】
【数３９】

・・・（５１）
【０８１５】
【数４０】

・・・（５２）
【０８１６】
度数の総和uは、式（５３）で表される。
【０８１７】
【数４１】

・・・（５３）
【０８１８】
図１１８で示される例において、注目画素の座標の度数L_5,3は、３であり、注目画素の上側の画素の座標の度数L_5,4は、１であり、注目画素の右上側の画素の座標の度数L_6,4は、４であり、注目画素に対して、２画素上側であって、１画素右側の画素の座標の度数L_6,5は、２であり、注目画素に対して、２画素上側であって、２画素右側の画素の座標の度数L_7,5は、３である。また、注目画素の下側の画素の座標の度数L_5,2は、２であり、注目画素の左側の画素の座標の度数L_4,3は、１であり、注目画素の左下側の画素の座標の度数L_4,2は、３であり、注目画素に対して、１画素下側であって、２画素左側の画素の座標の度数L_3,2は、２であり、注目画素に対して、２画素下側であって、２画素左側の画素の座標の度数L_3,1は、４である。図１１８で示される領域の他の画素の座標の度数は、０であり、図１１８において、０である度数の記載は省略する。
【０８１９】
図１１８で示される領域において、空間方向Ｙの度数の和q₁は、iが１である度数Lが全て０なので、０であり、q₂は、iが２である度数Lが全て０なので、０である。q₃は、度数L_3,2が２であり、度数L_3,1が４なので、６である。同様に、q₄は、４であり、q₅は、６であり、q₆は、６であり、q₇は、３であり、q₈は、０であり、q₉は、０である。
【０８２０】
図１１８で示される領域において、空間方向Ｘの度数の和h₁は、度数L_3,1が４なので、４である。h₂は、度数L_3,2が２であり、度数L_4,2が３であり、度数L_5,2が２なので、７である。同様に、h₃は、４であり、h₄は、５であり、h₅は、５である。
【０８２１】
図１１８で示される領域において、度数の総和uは、２５である。
【０８２２】
空間方向Ｙの度数L_i,jの和q_iに、座標x_iを乗じた結果を加算した和T_xは、式（５４）で表される。
【０８２３】
【数４２】

・・・（５４）
【０８２４】
空間方向Ｘの度数L_i,jの和h_jに、座標y_jを乗じた結果を加算した和T_yは、式（５５）で表される。
【０８２５】
【数４３】

・・・（５５）
【０８２６】
例えば、図１１８で示される領域において、q₁が０であり、x₁が−４なので、q₁x₁は０であり、q₂が０であり、x₂が−３なので、q₂x₂は０である。同様に、q₃が６であり、x₃が−２なので、q₃x₃は−１２であり、q₄が４であり、x₄が−１なので、q₄x₄は、−４であり、q₅が６であり、x₅が０なので、q₅x₅は０である。同様に、q₆が６であり、x₆が１なので、q₆x₆は６であり、q₇が３であり、x₇が２なので、q₇x₇は６であり、q₈が０であり、x₈が3なので、q₈x₈は０であり、q₉が０であり、x₉が４なので、q₉x₉は０である。従って、q₁x₁乃至q₉x₉の和であるT_xは、−４である。
【０８２７】
例えば、図１１８で示される領域において、h₁が４であり、y₁が−２なので、h₁y₁は−８であり、h₂が７であり、y₂が−１なので、h₂y₂は−７である。同様に、h₃が４であり、y₃が０なので、h₃y₃は０であり、h₄が５であり、y₄が１なので、h₄y₄は、５であり、h₅が５であり、y₅が２なので、h₅y₅は１０である。従って、h₁y₁乃至h₅y₅の和であるT_yは、0である。
【０８２８】
また、Q_iを以下のように定義する。
【０８２９】
【数４４】

・・・（５６）
【０８３０】
xの変動S_xは、式（５７）で表される。
【０８３１】
【数４５】

・・・（５７）
【０８３２】
yの変動S_yは、式（５８）で表される。
【０８３３】
【数４６】

・・・（５８）
【０８３４】
共変動S_xyは、式（５９）で表される。
【０８３５】
【数４７】

・・・（５９）
【０８３６】
式（６０）に示す１次の回帰直線を求めることを考える。
【０８３７】
y=ax+b ・・・（６０）
【０８３８】
傾きaおよび切片bは、最小自乗法により、以下のように求めることができる。
【０８３９】
【数４８】

・・・（６１）
【０８４０】
【数４９】

・・・（６２）
【０８４１】
ただし、正しい回帰直線を求めるための必要条件は、度数L_i,jが、回帰直線に対して、ガウス分布状に、分布していることである。逆に言えば、度数検出部６０３は、度数L_i,jがガウス分布するように、領域の画素の画素値を度数L_i,jに変換する必要がある。
【０８４２】
回帰直線演算部６０４は、式（６１）および式（６２）で示される演算を実行して、回帰直線を求める。
【０８４３】
また、画素毎にデータの定常性を検出するためには、切片bは、不要である。そこで、式（６３）に示す１次の回帰直線を求めることを考える。
【０８４４】
y=ax ・・・（６３）
【０８４５】
この場合、回帰直線演算部６０４は、最小自乗法により、傾きaを式（６４）で求めることができる。
【０８４６】
【数５０】

・・・（６４）
【０８４７】
データの定常性を有する領域を特定する第１の手法においては、式（６０）に示す回帰直線の推定誤差が利用される。
【０８４８】
yの変動S_y・xは、式（６５）で示される演算で求められる。
【０８４９】
【数５１】

・・・（６５）
【０８５０】
推定誤差の分散は、変動を用いて、式（６６）で示される演算で求められる。
【０８５１】
【数５２】

・・・（６６）
【０８５２】
よって、標準偏差は、以下の式で導出される。
【０８５３】
【数５３】

・・・（６７）
【０８５４】
ただし、標準偏差は、細線の画像が射影された領域を対象とする場合、細線の幅に値する量なので、一概に、標準偏差が大きいことをもって、データの定常を有する領域ではないという判断をすることはできない。しかしながら、例えば、クラス分類適応処理が破綻するのは、データの定常を有する領域の中でも、細線の幅が狭い部分なので、クラス分類適応処理が破綻する可能性が大きい領域を検出するために、標準偏差を用いて検出された領域を示す情報を利用することができる。
【０８５５】
領域算出部６０５は、式（６７）で示される演算により、標準偏差を算出して、標準偏差を基に、入力画像における、データの定常性を有する領域を算出する。例えば、領域算出部６０５は、標準偏差に所定の係数を乗じて距離を求め、回帰直線から、求めた距離以内の領域を、データの定常性を有する領域とする。例えば、領域算出部６０５は、回帰直線を中心として、回帰直線から標準偏差以内の距離の領域を、データの定常性を有する領域として算出する。
【０８５６】
第２の手法においては、度数の相関をデータの定常を有する領域の検出に用いる。
【０８５７】
相関係数r_xyは、xの変動S_x、yの変動S_y、および共変動S_xyを基に、式（６８）で示される演算で求めることができる。
【０８５８】
【数５４】

・・・（６８）
【０８５９】
相関には、正の相関と負の相関があるので、領域算出部６０５は、相関係数r_xyの絶対値を求めて、相関係数r_xyの絶対値が１に近いほど、相関が強いと判定する。より具体的には、領域算出部６０５は、閾値と、相関係数r_xyの絶対値とを比較し、相関係数r_xyの絶対値が閾値以上である領域を、データの定常性を有する領域として検出する。
【０８６０】
図１１９のフローチャートを参照して、ステップＳ１０１の処理に対応する、図１１５で構成が示されるデータ定常性検出部１０１による、データの定常性の検出の処理を説明する。
【０８６１】
ステップＳ６０１において、画素取得部６０２は、まだ注目画素とされていない画素の中から注目画素を選択する。例えば、画素取得部６０２は、ラスタスキャン順に、注目画素を選択する。ステップＳ６０２において、画素取得部６０２は、注目画素を中心とする領域に含まれる画素の画素値を取得し、取得した画素の画素値を度数検出部６０３に供給する。例えば、画素取得部６０２は、注目画素を中心とした、９×５画素からなる領域を選択し、領域に含まれる画素の画素値を取得する。
【０８６２】
ステップＳ６０３において、度数検出部６０３は、領域に含まれる画素の画素値を度数に変換することにより、度数を検出する。例えば、度数検出部６０３は、式（４９）で示される演算により、画素値を度数L_i,jに変換する。この場合において、度数L_i,jがガウス分布状に分布するように、領域の画素の画素値が度数L_i,jに変換される。度数検出部６０３は、変換された度数を回帰直線演算部６０４に供給する。
【０８６３】
ステップＳ６０４において、回帰直線演算部６０４は、度数検出部５０３から供給された度数を基に、回帰線を求める。例えば、回帰直線演算部６０４は、度数検出部６０３から供給された度数を基に、回帰直線を求める。より具体的には、回帰直線演算部６０４は、式（６１）および式（６２）で示される演算を実行して、回帰直線を求める。回帰直線演算部６０４は、算出された結果である回帰直線を示す演算結果パラメータを領域算出部６０５に供給する。
【０８６４】
ステップＳ６０５において、領域算出部６０５は、回帰直線についての標準偏差を算出する。例えば、領域算出部６０５は、式（６７）に示す演算により、回帰直線に対する標準偏差を算出する。
【０８６５】
ステップＳ６０６において、領域算出部６０５は、標準偏差から、入力画像における、データの定常性を有する領域を特定する。例えば、領域算出部６０５は、標準偏差に所定の係数を乗じて距離を求め、回帰直線から、求めた距離以内の領域を、データの定常性を有する領域として特定する。
【０８６６】
領域算出部６０５は、データの定常性を有する領域を示すデータ定常性情報を出力する。
【０８６７】
ステップＳ６０７において、画素取得部６０２は、全ての画素の処理を終了したか否かを判定し、全ての画素の処理を終了していないと判定された場合、ステップＳ６０１に戻り、まだ注目画素として選択されていない画素から注目画素を選択して、上述した処理を繰り返す。
【０８６８】
ステップＳ６０７において、全ての画素の処理を終了したと判定された場合、処理は終了する。
【０８６９】
図１２０のフローチャートを参照して、ステップＳ１０１の処理に対応する、図１１５で構成が示されるデータ定常性検出部１０１による、データの定常性の検出の他の処理を説明する。ステップＳ６２１乃至ステップＳ６２４の処理は、ステップＳ６０１乃至ステップＳ６０４の処理と同様なので、その説明は省略する。
【０８７０】
ステップＳ６２５において、領域算出部６０５は、回帰直線についての相関係数を算出する。例えば、領域算出部６０５は、式（６８）で示される演算により、回帰直線に対する相関係数を算出する。
【０８７１】
ステップＳ６２６において、領域算出部６０５は、相関係数から、入力画像における、データの定常性を有する領域を特定する。例えば、領域算出部６０５は、予め記憶している閾値と相関係数の絶対値とを比較し、相関係数の絶対値が閾値以上である領域を、データの定常性を有する領域として特定する。
【０８７２】
領域算出部６０５は、データの定常性を有する領域を示すデータ定常性情報を出力する。
【０８７３】
ステップＳ６２７の処理は、ステップＳ６０７の処理と同様なので、その説明は省略する。
【０８７４】
このように、図１１５に構成を示すデータ定常性検出部１０１は、欠落した実世界１の光信号の定常性に対応する、画像データにおける、データの定常性を有する領域を検出することができる。
【０８７５】
以上のように、現実世界の光信号が射影され、現実世界の光信号の定常性の一部が欠落した画像データの注目している画素である注目画素に対応する領域を選択し、注目画素の画素値と、選択された領域に属する画素の画素値との相関値が閾値以上である画素に、相関値に基づく度数を設定することにより、領域に属する画素の度数を検出し、検出された度数に基いて回帰線を検出することにより、欠落した現実世界の光信号の定常性に対応する、画像データにおけるデータの定常性を有する領域を検出し、検出された画像データのデータの定常性に基づいて、欠落した現実世界の光信号の定常性を推定することにより光信号を推定するようにした場合、現実世界の事象に対して、より正確で、より精度の高い処理結果を得ることができるようになる。
【０８７６】
図１２１は、データ定常性検出部１０１のその他の実施の形態の構成を示している。
【０８７７】
図１２１のデータ定常性検出部１０１は、データ選択部７０１、データ足し込み部７０２、および、定常方向導出部７０３より構成される。
【０８７８】
データ選択部７０１は、入力画像の各画素を注目画素として、その注目画素毎に対応する画素の画素値データを選択して、データ足し込み部７０２に出力する。
【０８７９】
データ足し込み部７０２は、データ選択部７０１より入力されたデータに基づいて、最小自乗法における足し込み演算を行い、足し込み演算結果を定常方向導出部７０３に出力する。このデータ足し込み部７０２による足し込み演算とは、後述する最小自乗法の演算に用いるサメーションの項における演算であり、その演算結果は、定常性の角度を検出するための画像データの特徴であると言える。
【０８８０】
定常方向導出部７０３は、データ足し込み部７０２より入力された足し込み演算結果から定常方向、すなわち、データの定常性が有する基準軸からの角度（例えば、細線、または２値エッジなどの傾き、または方向）を演算し、これをデータ定常性情報として出力する。
【０８８１】
次に、図１２２を参照して、データ定常性検出部１０１における定常性（方向、または、角度）を検出する動作の概要について説明する。尚、図１２２，図１２３中、図６，図７における場合と対応する部分については、同一の符号を付してあり、以下では、その説明は、適宜省略する。
【０８８２】
図１２２で示されるように、実世界１の信号（例えば、画像）は、光学系１４１（例えば、レンズ、またはLPF（Low Pass Filter）などからなる）により、センサ２（例えば、CCD（Charge Coupled Device）、または、CMOS（Complementary Metal-Oxide Semiconductor）など）の受光面に結像される。センサ２は、例えば、CCDやCMOSのような積分特性を有する素子から構成される。このような構成により、センサ２から出力されるデータ３から得られる画像は、実世界１の画像とは異なる画像となる（実世界１の画像とは差が生じることになる）。
【０８８３】
そこで、データ定常性検出部１０１は、図１２３で示されるように、モデル７０５を用いて、実世界１を近似式により近似的に記述して、その近似式からデータ定常性を抽出する。モデル７０５は、例えば、Ｎ個の変数で表現される。より正確には、モデル７０５は、実世界１の信号を近似（記述）する。
【０８８４】
データ定常性検出部１０１は、モデル７０５を予測するために、データ３から、Ｍ個のデータ７０６を抽出する。その結果、モデル７０５は、データの定常性に拘束されることになる。
【０８８５】
すなわち、モデル７０５は、センサ２で取得されたとき、データ３においてデータのデータ定常性を生じさせる、定常性（所定の次元の方向に一定の特徴）を有する実世界１の事象（を示す情報（信号））を近似する。
【０８８６】
ここで、データ７０６の数Ｍが、モデル７０５の変数の数Ｎ以上であれば、Ｍ個のデータ７０６から、Ｎ個の変数で表現されるモデル７０５を予測することができる。
【０８８７】
さらに、データ定常性検出部１０１は、実世界１（の信号）を近似（記述）するモデル７０５を予測することにより、実世界１の情報である信号に含まれるデータ定常性を、例えば、細線や２値エッジの方向（傾き、または、所定の方向を軸としたときの軸とのなす角度）として導出し、データ定常性情報として出力する。
【０８８８】
次に、図１２４を参照して、入力画像より細線の方向（角度）をデータ定常性情報として出力するデータ定常性検出部１０１について説明する。
【０８８９】
データ選択部７０１は、水平・垂直判定部７１１、および、データ取得部７１２から構成されている。水平・垂直判定部７１１は、注目画素とその周辺の画素間の画素値の差分から、入力画像の細線の水平方向に対する角度が、水平方向に近い細線か、垂直方向に近い細線かを判定し、判定結果をデータ取得部７１２、および、データ足し込み部７０２にそれぞれ出力する。
【０８９０】
より詳細には、例えば、この手法という意味で、他の手法でもよい。例えば、簡易１６方位検出手法をここで使用してもよい。図１２５で示されるように、水平・垂直判定部７１１は、注目画素と、その注目画素に隣接する画素間の差分（画素間の画素値の差分）のうち、水平方向の画素間の差分（アクティビティ）の和（hdiff）と、垂直方向の画素間の差分（アクティビティ）の和（ vdiff ）の差分（hdiff-vdiff）を求めて、注目画素が垂直方向に隣接する画素間との差分の和が大きいか、または、水平方向に隣接する画素間との差分の和が大きいかを判定する。ここで、図１２５においては、各マス目が画素を示し、図中の中央の画素が注目画素である。また、図中の点線の矢印で示す画素間の差分が、水平方向の画素間の差分であり、その和がhdiffで示される。さらに、図中の実線の矢印で示す画素間の差分が、垂直方向の画素間の差分であり、その和がvdiffで示される。
【０８９１】
このように求められた水平方向の画素間の画素値の差分和hdiffと、垂直方向の画素間の画素値の差分和vdiffに基づいて、水平・垂直判定部７１１は、（hdiff−vdiff）が正であれば、垂直方向よりも水平方向の画素間の画素値の変化（アクティビティ）が大きいので、図１２６で示されるように、水平方向に対する角度がθ（0度≦θ≦180度）で示される場合、45度＜θ≦135度、すなわち、垂直方向に近い角度の細線に属している画素であると判定し、逆に負であれば垂直方向の画素間の画素値の変化（アクティビティ）が大きいので、0度≦θ＜45度、または、135度＜θ≦180度、すなわち、水平方向に近い角度の細線に属している画素であると判定する（細線が続く方向（角度）に存在する画素は、いずれも細線を表現する画素であるので、その画素間の変化（アクティビティ）は小さくなるはずである）。
【０８９２】
また、水平・垂直判定部７１１は、入力画像の各画素を識別するカウンタ（図示せず）を備えており、適宜必要に応じて使用する。
【０８９３】
尚、図１２５においては、注目画素を中心として、３画素×３画素の範囲における垂直方向と水平方向の画素間の画素値の差分の和を比較して、細線が垂直方向に近いか、または、水平方向に近いかを判定する例について説明したが、それ以上の画素数を用いて同様の手法で細線の方向を判定するようにしてもよく、例えば、注目画素を中心として５画素×５画素や、７画素×７画素など、それ以上の画素数のブロックに基づいて判定するようにしてもよい。
【０８９４】
データ取得部７１２は、水平・垂直判定部７１１より入力された細線の方向の判定結果に基づいて、注目画素に対応する水平方向に並ぶ複数の画素からなるブロック単位、または、垂直方向に並ぶ複数の画素のブロック単位で画素値を読み出し（取得し）、読み出した（取得した）注目画素毎に対応する複数の画素間における、水平・垂直方向判定部７１１の判定結果の方向に隣接する画素間の差分データとともに、所定の画素数のブロックに含まれる画素から、画素値の最大値と最小値のデータをデータ足し込み部７０２に出力する。尚、以下においては、データ取得部７１２により、注目画素に対応して取得される複数の画素のブロックを取得ブロックと称する（取得ブロックは、例えば、後述する図１３９で示される複数の画素（各マス目で示される）のうち、黒線の正方形が示された画素を注目画素とするとき、その上下３画素分と、左右１画素分の合計１５画素などである）。
【０８９５】
データ足し込み部７０２の差分足し込み部７２１は、データ選択部７０１より入力された差分データを検出し、データ選択部７０１の水平・垂直判定部７１１より入力される水平方向、または、垂直方向の判定結果に基づいて、後述する最小自乗法の解法に必要な足し込み処理を実行し、その足し込み結果を定常方向導出部７０３に出力する。より具体的には、複数の画素のうち水平・垂直判定部７１１による判定方向に隣接する画素iと画素（ｉ＋１）の画素間の画素値の差分データをyiとし、注目画素に対応する取得ブロックがｎ個の画素から構成された場合、差分足し込み部７２１は、水平方向、または、垂直方向毎に（ｙ１）²＋（ｙ２）²＋（ｙ３）²＋・・・を足し込んで演算し、定常方向導出部７０３に出力する。
【０８９６】
MaxMin取得部７２２は、データ選択部７０１より入力される注目画素に対応する取得ブロックに含まれる各画素毎に設定されるブロック（以下、ダイナミックレンジブロックと称する（ダイナミックレンジブロックは、後述する図１３９で示される取得ブロックの画素のうち、例えば、画素pix１２について、黒の実線で囲まれている、ダイナミックレンジブロックＢ１で示される、画素pix１２の上下３画素分の合計７画素などである））に含まれる画素の画素値の最大値と最小値を取得すると、その差分からダイナミックレンジDri（取得ブロック内のｉ番目の画素に対応する、ダイナミックレンジブロックに含まれる画素の画素値の最大値と最小値の差分）を演算（検出）して、差分足し込み部７２３に出力する。
【０８９７】
差分足し込み部７２３は、MaxMin取得部７２２より入力されたダイナミックレンジDriと、データ選択部７０１より入力された差分データを検出し、検出したダイナミックレンジDriと差分データに基づいて、データ選択部７０１の水平・垂直判定部７１１より入力される水平方向、または、垂直方向毎に、ダイナミックレンジDriと差分データｙｉを乗じた値を足し込んで、演算結果を定常方向導出部７０３に出力する。すなわち、差分足し込み部７２３が出力する演算結果は、水平方向、または、垂直方向毎にｙ１×Dr１＋ｙ２×Dr２＋ｙ３×Dr３＋・・・となる。
【０８９８】
定常方向導出部７０３の定常方向演算部７３１は、データ足し込み部７０２より入力されてくる、水平方向、または、垂直方向毎の足し込み演算結果に基づいて、細線の角度（方向）を演算し、演算された角度を定常性情報として出力する。
【０８９９】
ここで、細線の方向（細線の傾き、または、角度）の演算方法について説明する。
【０９００】
図１２７Ａで示されるような入力画像中の白線により囲まれる部分を拡大すると、細線（図中、右上がりで、かつ斜め方向の白線）は、実際には、図１２７Ｂで示されるように表示されている。すなわち、現実世界においては、図１２７Ｃで示されるように、画像は、細線のレベル（図１２７Ｃ中では濃度の薄い斜線部）と背景レベルの２種類のレベルが境界を形成し、その他のレベルが存在しない状態となる。これに対して、センサ２により撮像された画像、すなわち、画素単位で撮像された画像は、図１２７Ｂで示されるように、その積分効果により背景レベルと細線レベルとが空間的に混合した画素が、その比率（混合比）を一定のパターンで変化するように縦方向に配置された複数の画素からなるブロックが細線方向に繰り返して配置されたような画像となる。尚、図１２７Ｂにおいて、各正方形状のマス目は、CCDの１画素を示し、各辺の長さをd_CCDであるものとする。また、マス目は、格子状に塗りつぶされた部分が背景のレベルに相当する画素値の最小値であり、その他の斜線状に塗りつぶされた部分は、斜線の密度が低くなるに連れて画素値が高くなるものとする（従って、斜線のない白色のマス目が画素値の最大値となる）。
【０９０１】
図１２８Ａで示されるように、現実世界の背景上に細線が存在する場合、現実世界の画像は、図１２８Ｂで示されるように、横軸にレベル、縦軸にそのレベルに対応する部分の画像上の面積を示すと、画像中の背景に相当する面積と、細線に相当する部分の面積との、画像上における占有面積の関係が示される。
【０９０２】
同様にして、センサ２で撮像された画像は、図１２９Ａで示されるように、背景レベルの画素の中に、縦に並んだ背景レベルと細線レベルとが混合した画素が、その混合比を所定のパターンで変化させながら縦方向に配置されたブロックが、細線の存在する方向に繰り返して配置されたような画像となるため、図１２９Ｂで示すように、背景のレベルとなる領域（背景領域）と、細線のレベルの中間のレベルをとる、背景と細線が空間的に混合した結果生じる画素からなる空間混合領域が存在する。ここで、図１２９Ｂにおいて縦軸は、画素数であるが、１画素の面積は（d_CCD）²となるため、図１２９Ｂの画素値のレベルと画素数の関係は、画素値のレベルと面積の分布の関係と同様であるといえる。
【０９０３】
これは、図１３０Ａの実際の画像中の白線で囲まれる部分（３１画素×３１画素の画像）においても、図１３０Ｂで示されるように同様の結果が得られる。すなわち、図１３０Ａで示される背景部分（図１３０Ａ中では、黒色に見える部分）は、図１３０Ｂで示されるように、画素値レベルの低い（画素値が２０付近の）画素が多く分布しており、これらの変化の少ない部分が、背景領域の画像を形成する。これに対して、図１３０Ｂの画素値レベルが低くない部分、すなわち、画素値レベルが４０付近乃至１６０付近に分布する画素は、細線の画像を形成する、空間混合領域に属する画素であり、各画素値毎の画素数は少ないが、広い画素値の範囲に分布している。
【０９０４】
ところで、現実世界の画像における背景と細線のそれぞれのレベルは、例えば、図１３１Ａで示される矢印方向（Ｙ座標方向）に見ると、図１３１Ｂで示されるように変化することになる。すなわち、矢印の起点から細線までの背景領域では、比較的レベルの低い背景レベルとなり、細線の領域では、レベルの高い細線のレベルとなり、細線領域を通過して再び背景領域に戻ると、レベルの低い背景のレベルとなる。結果として、細線領域のみが高いレベルとなるパルス状の波形となる。
【０９０５】
これに対して、センサ２で撮像された画像のうち、図１３１Ａ中の矢印の向きに対応する、図１３２Ａの空間方向Ｘ＝Ｘ１上の画素（図１３２Ａにおいては、黒丸で示されている画素）の画素値と、その画素の空間方向Ｙの関係は、図１３２Ｂに示されるようになる。尚、図１３２Ａにおいて、右上がりの２本の白線の間が、現実世界の画像上における細線を示している。
【０９０６】
すなわち、図１３２Ｂで示されるように、図１３２Ａ中の中央の画素に対応する画素が最も高い画素値をとるため、各画素の画素値は、空間方向Ｙの位置が、図中の下部から中央の画素に向かうに連れて高くなり、中央の位置を通過すると、徐々に減少することになる。結果として、図１３２Ｂで示すように、山型の波形が形成される。また、図１３２Ａの空間方向Ｘ＝Ｘ０，Ｘ２に対応する各画素の画素値の変化は、空間方向Ｙのピーク位置が、細線の傾きに応じてずれるものの、同様の外形となる。
【０９０７】
例えば、図１３３Ａで示されるような、実際にセンサ２により撮像された画像における場合においても、図１３３Ｂで示されるように、同様の結果が得られる。すなわち、図１３３Ｂは、図１３３Ａの画像中の白線で囲まれる範囲の細線付近の画素値を所定の空間方向Ｘ（図中では、Ｘ＝５６１，５６２，５６３）毎の、空間方向Ｙに対応した画素値の変化を示している。このように、実際のセンサ２により撮像された画像においても、Ｘ＝５６１においては、Ｙ＝７３０付近で、Ｘ＝５６２においては、Ｙ＝７０５付近で、Ｘ＝５６３においては、Ｙ＝６８５付近で、それぞれピークとなる山型の波形となっている。
【０９０８】
このように、現実世界の画像の細線付近のレベルの変化を示す波形はパルス状の波形となるのに対して、センサ２により撮像された画像の画素値の変化を示す波形は山型の波形となる。
【０９０９】
すなわち、換言すれば、現実世界の画像のレベルは、図１３１Ｂで示されるような波形になるべきところが、センサ２により撮像されることにより、撮像された画像は、図１３２Ｂで示されるように、その変化に歪が生じて、現実世界の画像とは異なる（現実世界の情報が欠落した）波形に変化していると言える。
【０９１０】
そこで、このセンサ２により撮像された画像から、現実世界の画像の定常性情報を取得するため、センサ２より取得された画像のデータから現実世界を近似的に記述するためのモデル（図１２３のモデル７０５に相当する）を設定する。例えば、細線の場合、図１３４で示されるように、現実世界の画像を設定する。すなわち、図中左部の背景部分のレベルをＢ１、図中右側の背景部分のレベルをＢ２、細線部分のレベルをＬ、細線の混合比をα、細線の幅をＷ、細線の水平方向に対する角度をθとしてパラメータを設定し、モデル化して、現実世界を近似的に表現する関数を設定し、各パラメータを求めることにより現実世界を近似的に表現する近似関数を求め、その近似関数から細線の方向（傾き、または、基準軸に対する角度）を求める。
【０９１１】
このとき、背景領域は、左部、および、右部は、同一であるものとして近似することができるので、図１３５で示されるように、統一してＢ（＝Ｂ１＝Ｂ２）とする。また、細線の幅を１画素以上であるものとする。このように設定された現実世界をセンサ２で撮像するとき、撮像された画像は、図１３６Ａで示されるように撮像されることになる。尚、図１３６Ａにおいて、右上がりの２本の白線の間が、現実世界の画像上における細線を示している。
【０９１２】
すなわち、現実世界の細線上の位置に存在する画素は、細線のレベルに最も近いレベルとなり、垂直方向（空間方向Ｙの方向）に対して細線から離れるに従って画素値が減少し、細線領域に接することのない位置に存在する画素の画素値、すなわち、背景領域の画素は、背景レベルの画素値となる。このとき、細線領域と背景領域に跨る位置に存在する画素の画素値は、背景レベルの画素値Ｂと、細線レベルの画素値Ｌが、混合比αで混合された画素値となっている。
【０９１３】
このように、撮像された画像の各画素を注目画素とした場合、データ取得部７１２は、その注目画素に対応する取得ブロックの画素を抽出し、その抽出した取得ブロックを構成する画素毎に、ダイナミックレンジブロックを抽出し、そのダイナミックレンジブロックを構成する画素のうちの最大値となる画素値をとる画素と、最小値となる画素値をとる画素とを抽出する。すなわち、図１３６Ａで示すように、取得ブロック中の所定の画素（図中の1マスの中に黒の実線で正方形が記述された画素pix４）に対応したダイナミックレンジブロックの画素（例えば、図中の黒の実線で囲まれた画素pix１乃至７の７画素））が抽出された場合、その各画素に対応する現実世界の画像は、図１３６Ｂで示されるようになる。
【０９１４】
すなわち、図１３６Ｂで示されるように、画素pix１は、左部の略１／８の面積を占める部分が背景領域となり、右部の略７／８の面積を占める部分が細線領域となる。画素pix２は、略全領域が細線領域となる。画素pix３は、左部の略７／８の面積を占める部分が細線領域となり、右部１／８の面積を占める部分が背景領域となる。画素pix４は、左部の略２／３の面積を占める部分が細線領域となり、右部の略１／３の面積を占める部分が背景領域となる。画素pix５は、左部の略１／３の面積を占める部分が細線領域となり、右部の略２／３の面積を占める部分が背景領域となる。画素pix６は、左部の略１／８の面積を占める部分が細線領域となり、右部の略７／８の面積を占める部分が背景領域となる。さらに、画素pix７は、全体が背景領域となる。
【０９１５】
結果として、図１３６で示されるダイナミックレンジブロックの各画素pix１乃至７の画素値は、細線領域と背景領域の面積の比率に対応した混合比で、背景レベルと細線レベルが混合された画素値となる。すなわち、背景レベル：前景レベルの混合比は、画素pix１が略１：７、画素pix２が略０：１、画素pix３が略１：７、画素pix４が略１：２、画素pix５が略２：１、画素pix６が略７：１、および、画素pix７が略１：０となる。
【０９１６】
従って、抽出されたダイナミックレンジブロックの画素pix１乃至７の各画素の画素値は、画素pix２が最も高く、次いで画素pix１，３が続き、以下画素値が高い順に画素pix４，５，６，７となる。従って、図１３６Ｂで示される場合、最大値は、画素pix２の画素値であり、最小値は、画素pix７の画素値となる。
【０９１７】
また、図１３７Ａで示されるように、細線の方向は、画素値の最大値をとる画素が連続する方向であると言えるので、この最大値をとる画素が配置された方向が細線の方向となる。
【０９１８】
ここで、細線の方向を示す傾きＧ_flは、空間方向Ｘの単位距離に対する、空間方向Ｙへの変化（距離の変化）の比であるので、図１３７Ａで示されるような場合、図中の空間方向Ｘへの１画素の距離に対する、空間方向Ｙの距離が傾きＧ_flとなる。
【０９１９】
空間方向Ｘ０乃至Ｘ２の各々の空間方向Ｙに対する画素値の変化は、図１３７Ｂで示されるように、各空間方向Ｘ毎に所定の間隔で山型の波形が繰り返されることになる。上述のように、センサ２により撮像された画像において、細線は、最大値をとる画素が連続する方向であるので、各空間方向Ｘの最大値となる空間方向Ｙの間隔Ｓが、細線の傾きＧ_flとなる。すなわち、図１３７Ｃで示されるように、水平方向に１画素の距離に対する垂直方向の変化量が傾きＧ_flとなる。従って、この細線の傾きＧ_fl（水平方向を基準軸としたときの角度に対応する）は、図１３７Ｃで示すように、その傾きに対応する水平方向を基準軸とした細線の角度をθとして表現する場合、以下の式（６９）で示される関係が成立することになる。
【０９２０】

【０９２１】
また、図１３５で示されるようなモデルを設定し、さらに、空間方向Ｙの画素と画素値の関係が、図１３７Ｂで示される山型の波形が、完全な三角波形（立ち上がり、または、立下りが直線的に変化する、二等辺三角形状の波形）であると仮定する場合、図１３８で示すように、所定の注目画素の空間方向Ｘにおける、空間方向Ｙ上に存在する各画素の画素値の最大値をMax＝Ｌ（ここでは、現実世界の細線のレベルに対応する画素値）、最小値をMin＝Ｂ（ここでは、現実世界の背景のレベルに対応する画素値）とするとき、以下の式（７０）で示される関係が成立する。
【０９２２】

【０９２３】
ここで、d_yは、空間方向Ｙの画素間の画素値の差分を示す。
【０９２４】
すなわち、空間方向の傾きＧ_flは、大きいほど細線がより垂直なものに近づくため、山型の波形は、底辺の大きな二等辺三角形状の波形となり、逆に、傾きＳが小さいほど底辺の小さな二等辺三角形状の波形となる。この結果、傾きＧ_flが大きいほど、空間方向Ｙの画素間の画素値の差分d_yは小さく、傾きＳが小さいほど、空間方向Ｙの画素間の画素値の差分d_yは大きくなる。
【０９２５】
そこで、上述の式（７０）の関係が成立する傾きＧ_flを求めることにより、細線の基準軸に対する角度θを求めることが可能となる。式（７０）は、傾きＧ_flを変数とする１変数の関数であるため、注目画素について、周辺の画素間の画素値の（垂直方向の）差分d_y、並びに、最大値、および、最小値の差分（Ｌ−Ｂ）を１組用いれば求めることが可能であるが、上述のように、空間方向Ｙの画素値の変化が完全な三角波形であることを前提とした近似式を用いたものであるので、注目画素に対応する抽出ブロックの各画素についてダイナミックレンジブロックを抽出し、さらに、その最大値と最小値からダイナミックレンジDrを求めるとともに、抽出ブロックの各画素毎の空間方向Ｙの画素間の画素値の差分d_yを用いて、最小自乗法により統計的に求める。
【０９２６】
ここで、最小自乗法による統計的な処理の説明にあたり、まず、抽出ブロック、および、ダイナミックレンジブロックについて、詳細を説明する。
【０９２７】
抽出ブロックは、例えば、図１３９で示すように、注目画素（図中の黒の実線で正方形が描かれているマス目の画素）の、空間方向Ｙについて上下３画素分、空間方向Ｘについて、左右１画素分の合計１５画素などでもよい。また、この場合、抽出ブロックの各画素の画素間の画素値の差分d_yは、例えば、画素pix１１に対応する差分がd_y１１で示されるとき、空間方向Ｘ＝Ｘ０の場合、画素pix１１とpix１２、pix１２とpix１３、pix１３とpix１４、pix １４と pix １５、pix１５とpix１６、pix１６とpix１７の画素間の画素値の差分d_y１１乃至d_y１６が得られることになる。このとき、空間方向Ｘ＝Ｘ１，Ｘ２についても、同様にして画素間の画素値の差分が得られる。結果として、この場合、画素間の画素値の差分d_yは、１８個存在することになる。
【０９２８】
さらに、抽出ブロックの各画素について、ダイナミックレンジブロックの画素が、例えば、画素pix１１については、水平・垂直判定部７１１の判定結果に基づいて、今の場合、垂直方向であると判定されるので、図１３９で示されるように、画素pix１１を含めて、垂直方向（空間方向Ｙ）の上下方向にそれぞれ３画素分のダイナミックレンジブロックＢ１の範囲の７画素であるものとすると、このダイナミックレンジブロックＢ１の画素の画素値の最大値と最小値を求め、さらに、この最大値と最小値から得られるダイナミックレンジをダイナミックレンジDr１１とする。同様にして、抽出ブロックの画素pix１２については、図１３９中のダイナミックレンジブロックＢ２の７画素から同様にしてダイナミックレンジDr１２を求める。このようにして、抽出ブロック内の１８個の画素間差分d_yｉと、対応するダイナミックレンジDrｉとの組み合わせに基づいて、最小自乗法を用いて統計的に傾きＧ_flが求められる。
【０９２９】
次に、１変数の最小自乗法の解法について説明する。尚、ここでは、水平・垂直判定部７１１の判定結果が垂直方向であったものとする。
【０９３０】
１変数の最小自乗法による解法は、例えば、図１４０で示される黒点で示される全ての実測値に対しての距離を最小とする、予測値Dri_cからなる直線の傾きＧ_flを求めるものである。そこで、上述の式（７０）で示される関係から以下のような手法により、傾きＳが求められる。
【０９３１】
すなわち、上述の式（７０）は、最大値と最小値の差分をダイナミックレンジDrとするとき、以下の式（７１）で示すように記述される。
【０９３２】

【０９３３】
上述の式（７１）に、抽出ブロックの各画素間についての差分d_yiを代入することによりダイナミックレンジDri_cが求められることになる。従って、各画素について、以下の式（７２）の関係が満たされることになる。
【０９３４】

【０９３５】
ここで、差分d_yiは、各画素ｉの空間方向Ｙの画素間の画素値の差分（例えば、画素ｉに対して、上方向、または、下方向に隣接した画素との画素間の画素値の差分）であり、Dri_cは、画素ｉについて式（７０）が成立するときに得られるダイナミックレンジである。
【０９３６】
上述のように、ここでいう最小自乗法は、抽出ブロックの画素ｉのダイナミックレンジDri_cと、図１３６を参照して説明した方法で得られる、画素ｉの実測値となるダイナミックレンジDri_rとの差分自乗和Ｑが、画像内のすべての画素において最小となるときの傾きＧ_flを求める方法である。従って、差分自乗和Ｑは以下の式（７３）により求められることになる。
【０９３７】
【数５５】

・・・（７３）
【０９３８】
式（７３）で示される差分自乗和Ｑは、２次関数であるので、変数Ｇ_fl（傾きＧ_fl）について図１４１で示すような下に凸の曲線となるため、傾きＧ_flが最小となるＧ_flminが最小自乗法の解となる。
【０９３９】
式（７３）で示される差分自乗和Ｑは、変数Ｇ_flで微分されると、以下に示す式（７４）で示されるｄＱ／ｄＧ_flとなる。
【０９４０】
【数５６】

・・・（７４）
【０９４１】
式（７４）が、０となるＧ_flが図１４１で示す差分自乗和Ｑの最小値をとるＧ_flminとなるので、式（７４）が０となるときの式を展開することにより、以下の式（７５）で傾きＧ_flが求められることになる。
【０９４２】
【数５７】

・・・（７５）
【０９４３】
上述の式（７５）は、いわゆる、１変数（傾きＧ_fl）の正規方程式となる。
【０９４４】
このようにして、得られた傾きＧ_flを上述の式（６９）に代入することにより、細線の傾きＧ_flに対応する、水平方向を基準軸としたときの細線の角度θを得ることができる。
【０９４５】
尚、以上の説明においては、注目画素が、水平方向を基準軸としたときの角度θが45度≦θ＜135度の範囲となる細線上の画素である場合の例について説明してきたが、例えば、注目画素が、水平方向を基準軸に対する細線の角度θが0度≦θ＜45度、または、135度≦θ＜108度となる、水平方向に近い細線上の画素である場合、画素ｉに隣接する画素間の画素値の差分は、水平方向に隣接する画素間の画素値の差分d_xｉとなり、同様に、画素ｉに対応する複数の画素から画素値の最大値、または、最小値を求める際に、抽出するダイナミックレンジブロックの画素についても、画素ｉに対して水平方向に存在する複数の画素のうちから選択されることになる。この場合の処理については、上述の説明における水平方向と垂直方向の関係が入れ替わるのみであるので、その説明は省略する。
【０９４６】
また、同様の手法により、２値エッジの傾きに対応する角度を求めることも可能である。
【０９４７】
すなわち、図１４２Ａで示されるような入力画像中の白線により囲まれる部分を拡大すると、画像中のエッジ部分（図中、黒地の旗に描かれた「十」という白で描かれた文字の下の部分）（以下、このように、２値のレベルからなる画像上のエッジ部分を２値エッジとも称する）は、実際には、図１４２Ｂで示されるように表示されている。すなわち、現実世界においては、図１４２Ｃで示されるように、画像では、第１のレベル（旗の地のレベル）と、第２のレベル（文字のレベル（図１４２Ｃ中では濃度の薄い斜線部））との２種類のレベルからなる境界が形成されており、その他のレベルが存在しない。これに対して、センサ２により撮像された画像、すなわち、画素単位で撮像された画像は、図１４２Ｂで示されるように、第１のレベルと第２のレベルとが空間的に混合した画素が、その比率（混合比）を一定のパターンで変化するように縦方向に配置された複数の画素からなるブロックがエッジが構成されている方向に繰り返して配置されたような領域を境とした第１のレベルの画素が配置される部分と、第２のレベルの画素が配置される部分とが存在する画像となる。
【０９４８】
すなわち、図１４３Ａで示されるように、空間方向Ｘ＝Ｘ０，Ｘ１，Ｘ２について、それぞれの空間方向Ｙへの画素値の変化は、図１４３Ｂ中では、各画素値は、図中の下から２値エッジ（図１４３Ａ中の右上がりの直線）の境界手前付近までは、所定の最小値の画素値になっているが、２値エッジの境界手前付近で、画素値が徐々に増大し、エッジを越えると図中の点Ｐ_Eにおいて、画素値が所定の最大値となる。より詳細には、空間方向Ｘ＝Ｘ０の変化は、図１４３Ｂで示されるように、画素値の最小値となる点Ｐ_Sを通過した後、徐々に画素値が増大し、画素値の最大値となる点Ｐ０となる。これに対して、空間方向Ｘ＝Ｘ１に対応する各画素の画素値の変化は、空間方向にずれた波形となるため、図１４３Ｂで示されるように、画素値の最小値から徐々に画素値が増大する位置が空間方向Ｙの正方向にずれて、図中の点Ｐ１を経由して、画素値の最大値にまで増大する。さらに、空間方向Ｘ＝Ｘ２における空間方向Ｙの画素値の変化は、空間方向Ｙの正の方向にさらにずれ込んだ図中の点Ｐ２を経由して減少し、画素値の最大値から最小値となる。
【０９４９】
これは、実際の画像中の白線で囲まれる部分においても、同様の傾向が見られる。すなわち、図１４４Ａの実際の画像中の白線で囲まれる部分（３１画素×３１画素の画像）において、背景部分（図１４４Ａ中では、黒色に見える部分）は、図１４４Ｂで示されるように、画素値の低い（画素値が９０付近の）画素数が多く分布しており、これらの変化の少ない部分が、背景領域の画像を形成する。これに対して、図１４４Ｂの画素値が低くない部分、すなわち、画素値が１００付近乃至２００付近に分布する画素は、文字領域と背景領域との空間混合領域に属する画素の分布であり、各画素値毎の画素数は少ないが、広い画素値の範囲に分布している。さらに、画素値の高い文字領域（図１４４Ａ中では、白色に見える部分）の画素が、２２０で示される画素値の付近に多く分布している。
【０９５０】
この結果、図１４５Ａで示されるエッジ画像における所定の空間方向Ｘに対する、空間方向Ｙの画素値の変化は、図１４５Ｂで示されるようになものとなる。
【０９５１】
すなわち、図１４５Ｂは、図１４５Ａの画像中の白線で囲まれる範囲のエッジ付近の画素値を所定の空間方向Ｘ（図中では、Ｘ＝６５８，６５９，６６０）毎の、空間方向Ｙに対応した画素値の変化を示している。このように、実際のセンサ２により撮像された画像においても、Ｘ＝６５８において、画素値は、Ｙ＝３７４付近で増大を開始し（図中、黒丸で示される分布）、Ｘ＝３８２付近で最大画素値に到達する。また、Ｘ＝６５９においては、空間方向Ｙに対して正方向にずれ込んで、画素値は、Ｙ＝３７８付近で増大を開始し（図中、黒三角で示される分布）、Ｘ＝３８６付近で最大画素値に到達する。さらに、Ｘ＝６６０においては、空間方向Ｙに対して、さらに、正方向にずれ込んで、画素値は、Ｙ＝３８２付近で増大を開始し（図中、黒四角で示される分布）、Ｘ＝３９０付近で最大画素値に到達する。
【０９５２】
そこで、このセンサ２により撮像された画像から、現実世界の画像の定常性情報を取得するため、センサ２より取得された画像のデータから現実世界を近似的に記述するためのモデルを設定する。例えば、２値エッジの場合、図１４６で示すように、現実世界の画像を設定する。すなわち、図中左部の背景部分のレベルをＶ１、図中右側の文字部分のレベルをＶ２、２値エッジ付近の画素間の混合比をα、エッジの水平方向に対する角度をθとしてパラメータを設定し、モデル化して、現実世界を近似的に表現する関数を設定し、各パラメータを求めることにより現実世界を近似的に表現する関数を求め、その近似関数からエッジの方向（傾き、または、基準軸に対する角度）を求める。
【０９５３】
ここで、エッジの方向を示す傾きは、空間方向Ｘの単位距離に対する、空間方向Ｙへの変化（距離の変化）の比であるので、図１４７Ａで示されるような場合、図中の空間方向Ｘへの１画素の距離に対する、空間方向Ｙの距離が傾きとなる。
【０９５４】
空間方向Ｘ０乃至Ｘ２の各々の空間方向Ｙに対する画素値の変化は、図１４７Ｂで示されるように、各空間方向Ｘ毎に所定の間隔で同様の波形が繰り返されることになる。上述のように、センサ２により撮像された画像において、エッジは、類似した画素値の変化（今の場合、最小値から最大値へと変化する、所定の空間方向Ｙ上の画素値の変化）が空間的に連続する方向であるので、各空間方向Ｘにおいて、空間方向Ｙの画素値の変化が開始される位置、または、変化が終了する位置となる空間方向Ｙの間隔Ｓが、エッジの傾きＧ_feとなる。すなわち、図１４７Ｃで示されるように、水平方向に１画素の距離に対する垂直方向の変化量が傾きＧ_feとなる。
【０９５５】
ところで、この関係は、図１３７Ａ乃至Ｃを参照して上述した細線の傾きＧ_flにおける関係と同様である。従って、その関係式についても、同様のものとなる。すなわち、２値エッジにおける場合の関係式は、図１４８で示すものとなり、背景領域の画素値をＶ１、文字領域の画素値をＶ２、それぞれは最小値、および、最大値となる。また、エッジ付近の画素の混合比をαとし、エッジの傾きをＧ_feとおけば、成立する関係式は、上述の式（６９）乃至式（７１）と同様となる（ただし、Ｇ_flは、Ｇ_feに置き換えられる）。
【０９５６】
このため、図１２４で示されるデータ定常性検出部１０１は、同様の処理により、細線の傾きに対応する角度、および、エッジの傾きに対応する角度を、データ定常性情報として検出することができる。そこで、以下においては、傾きは、細線の傾きと、２値エッジの傾きとを総称して、傾きＧ_fと称する。また、上述の式（７３）乃至式（７５）の式における傾きＧ_flは、Ｇ_feであってもよいものであり、結果として、傾きＧ_fと置き換えて考えるものとする。
【０９５７】
次に、図１４９のフローチャートを参照して、データ定常性の検出の処理を説明する。
【０９５８】
ステップＳ７０１において、水平・垂直判定部７１１は、入力画像の各画素を識別するカウンタＴを初期化する。
【０９５９】
ステップＳ７０２において、水平・垂直判定部７１１は、後段の処理に必要なデータの抽出処理を実行する。
【０９６０】
ここで、図１５０のフローチャートを参照して、データを抽出する処理について説明する。
【０９６１】
ステップＳ７１１において、データ選択部７０１の水平・垂直判定部７１１は、各注目画素Ｔについて、図１２５を参照して説明したように、水平方向、垂直方向、および対角方向に隣接する９画素の水平方向に隣接する画素間の画素値の差分（アクティビティ）の和hdiffと、垂直方向に隣接する画素間の画素値の差分（アクティビティ）の和vdiffとを演算し、さらに、その差分（hdiff−vdiff）を求め、差分（hdiff−vdiff）≧０の場合、その注目画素Ｔが、水平方向を基準軸としたとき、その基準軸との角度θが45度≦θ＜135度となる、垂直方向に近い細線、または、２値エッジ付近の画素であるものとみなし、使用する抽出ブロックを垂直方向に対応したものとする判定結果をデータ取得部７１２、および、データ足し込み部７０２に出力する。
【０９６２】
一方、差分（hdiff−vdiff）＜０の場合、水平・垂直判定部７１１は、その注目画素が、水平方向を基準軸にしたとき、その基準軸との細線、または、２値エッジのなす角度θが0度≦θ＜45度、または、135度≦θ＜180度となる、水平方向に近い細線、または、エッジ付近の画素であるものとみなし、使用する抽出ブロックを水平方向に対応したものとする判定結果をデータ取得部７１２、および、データ足し込み部７０２に出力する。
【０９６３】
すなわち、細線、または、２値エッジの傾きが垂直方向に近いと言うことは、例えば、図１３１Ａで示されているように、図中の矢印が細線と交差する部分が増えることになるため、垂直方向の画素数を多めにした抽出ブロックを設定する（縦長な抽出ブロックを設定する）。同様にして、細線の傾きが水平方向に近い場合についても、水平方向の画素数を多めにした抽出ブロックを設定するようにする（横長な抽出ブロックを設定する）。このようにすることにより、不要な計算量を増やすことなく、正確な最大値と最小値の演算が可能となる。
【０９６４】
ステップＳ７１２において、データ取得部７１２は、注目画素について水平・垂直判定部７１１より入力される水平方向、または、垂直方向の判定結果に対応した抽出ブロックの画素を抽出する。すなわち、例えば、図１３９で示されるように、注目画素を中心として、（水平方向に３画素）×（垂直方向に７画素）の合計２１画素を抽出ブロックとして抽出し、記憶する。
【０９６５】
ステップＳ７１３において、データ取得部７１２は、抽出ブロックの各画素について、水平・垂直判定部７１１の判定結果に対応した方向に対応するダイナミックレンジブロックの画素を抽出し、記憶する。すなわち、図１３９を参照して、上述したように、例えば、抽出ブロックの画素pix１１については、今の場合、水平・垂直判定部７１１の判定結果が垂直方向になるので、データ取得部７１２は、垂直方向に、ダイナミックレンジブロックＢ１を、同様にして、画素pix１２は、ダイナミックレンジブロックＢ２を抽出する。その他の抽出ブロックについても同様にしてダイナミックレンジブロックが抽出される。
【０９６６】
すなわち、このデータ抽出処理により、所定の注目画素Ｔについて、正規方程式の演算に必要な画素の情報がデータ取得部７１２に蓄えられることになる（処理される領域が選択されることになる）。
【０９６７】
ここで、図１４９のフローチャートの説明に戻る。
【０９６８】
ステップＳ７０３において、データ足し込み部７０２は、正規方程式（ここでは、式（７４））の演算の各項に必要な値の足し込み処理を実行する。
【０９６９】
ここで、図２４のフローチャートを参照して、正規方程式への足し込み処理について説明する。
【０９７０】
ステップＳ７２１において、差分足し込み部７２１は、データ選択部７０１の水平・垂直判定部７１１の判定結果に応じて、データ取得部７１２に記憶されている抽出ブロックの画素間の画素値の差分を求め（検出し）、さらに、２乗（自乗）して足し込む。すなわち、水平・垂直判定部７１１の判定結果が垂直方向である場合、差分足し込み部７２１は、抽出ブロックの各画素について垂直方向に隣接する画素間の画素値の差分を求めて、さらに２乗して足し込む。同様にして、水平・垂直判定部７１１の判定結果が水平方向である場合、差分足し込み部７２１は、抽出ブロックの各画素について水平方向に隣接する画素間の画素値の差分を求めて、さらに２乗して足し込む。結果として、差分足し込み部７２１は、上述の式（７５）の分母となる項の差分の自乗和を生成し、記憶する。
【０９７１】
ステップＳ７２２において、MaxMin取得部７２２は、データ取得部７１２に記憶されたダイナミックレンジブロックに含まれる画素の画素値の最大値と最小値を取得し、ステップＳ７２３において、その最大値と最小値との差分からダイナミックレンジを求め（検出し）、差分足し込み部７２３に出力する。すなわち、図１３６Ｂで示されているような、画素pix１乃至７からなる７画素のダイナミックレンジブロックの場合、pix２の画素値が最大値として検出され、pix７の画素が最小値として検出され、これらの差分がダイナミックレンジとして求められる。
【０９７２】
ステップＳ７２４において、差分足し込み部７２３は、データ取得部７１２に記憶されている抽出ブロックの画素間のうち、データ選択部７０１の水平・垂直判定部７１１の判定結果に対応する方向に隣接する画素間の画素値の差分を求め（検出し）、MaxMin取得部７２２より入力されたダイナミックレンジを乗じた値を足し込む。すなわち、差分足し込み部７２１は、上述の式（７５）の分子となる項の和を生成し、記憶する。
【０９７３】
ここで、図１４９のフローチャートの説明に戻る。
【０９７４】
ステップＳ７０４において、差分足し込み部７２１は、抽出ブロックの全ての画素の画素間の画素値の差分（水平・垂直判定部７１１の判定結果に対応する方向に隣接する画素間の画素値の差分）を足し込んだか否かを判定し、例えば、抽出ブロックの全ての画素の画素間の差分を足し込んでいないと判定した場合、その処理は、ステップＳ７０２に戻り、それ以降の処理が繰り返される。すなわち、抽出ブロックの全ての画素の画素間の画素値の差分が足し込まれたと判定されるまで、ステップＳ７０２乃至Ｓ７０４の処理が繰り返される。
【０９７５】
ステップＳ７０４において、抽出ブロックの全ての画素の画素間の画素値の差分が足し込まれたと判定された場合、ステップＳ７０５にいて、差分足し込み部７２１，７２３は、自らで記憶している足し込み結果を定常方向導出部７０３に出力する。
【０９７６】
ステップＳ７０６において、定常方向演算部７３１は、データ足し込み部７０２の差分足し込み部７２１より入力された、取得ブロックの各画素間のうち、水平・垂直判定部７１１により判定された方向に隣接する画素間の画素値の差分の自乗和、差分足し込み部７２３より入力された、取得ブロックの各画素間のうち、水平・垂直判定部７１１により判定された方向に隣接する画素間の画素値の差分、および、取得ブロックの各画素に対応するダイナミックレンジとの積の和に基づいて、上述の式（７５）で示した正規方程式を解くことにより、最小自乗法を用いて統計的に注目画素のデータ定常性情報である、定常性の方向を示す角度（細線、または、２値エッジの傾きを示す角度）を演算し、出力する。
【０９７７】
ステップＳ７０７において、データ取得部７１２は、入力画像の全ての画素について処理が行われたか否かを判定し、例えば、入力画像の全ての画素について処理が行われていない、すなわち、入力画像の全ての画素について、細線、または、２値エッジの角度の情報を出力していないと判定した場合、ステップＳ７０８において、カウンタＴを１インクリメントして、その処理は、ステップＳ７０２に戻る。すなわち、入力画像のうちの処理しようとする画素が変更されて、入力画像の全ての画素について処理がなされるまで、ステップＳ７０２乃至Ｓ７０８の処理が繰り返されることになる。このカウンタＴによる画素の変化は、例えば、ラスタスキャンなどであってもよいし、それ以外の規則により順次変化していくものであってもよい。
【０９７８】
ステップＳ７０７において、入力画像の全ての画素について処理がなされたと判定された場合、ステップＳ７０９において、データ取得部７１２は、次の入力画像があるか否かを判定し、次の入力画像があると判定された場合、その処理は、ステップＳ７０１に戻り、それ以降の処理が繰り返される。
【０９７９】
ステップＳ７０９において、次の入力画像はないと判定された場合、その処理は、終了する。
【０９８０】
以上の処理により、細線、または、２値エッジの角度が、定常性情報として検出されて、出力される。
【０９８１】
このように統計的処理により得られる細線、または、エッジの傾きの角度は、相関を用いて得られる細線、または、２値エッジの角度とほぼ一致する。すなわち、図１５２Ａで示すような画像の白線で囲まれる範囲の画像について、細線上の所定の水平方向の座標上の空間方向Ｙへの傾きの変化は、図１５２Ｂで示されるように、相関を用いた方法により得られる細線の傾きを示す角度（図中の黒丸印）と、図１２４で示されたデータ定常性検出部１０１により統計処理により得られる細線の角度（図中の黒三角印）は、細線近傍の空間方向Ｙの座標上で、それぞれがほぼ一致している。尚、図１５２Ｂにおいては、図中の黒実線で挟まれた空間方向Ｙ＝６８０乃至７３０が細線上の座標である。
【０９８２】
同様にして、図１５３Ａで示すような画像の白線で囲まれる範囲の画像について、２値エッジ上の所定の水平方向の座標上の空間方向Ｙへの傾きの変化は、図１５３Ｂで示されるように、相関を用いた方法により得られる２値エッジの傾きを示す角度（図中の黒丸印）と、図１２４で示されたデータ定常性検出部１０１により統計処理により得られる２値エッジの角度（図中の黒三角印）は、細線近傍の空間方向Ｙの座標上で、それぞれがほぼ一致している。尚、図１５３Ｂにおいては、空間方向Ｙ＝３７６（付近）乃至３８８（付近）が細線上の座標であるである。
【０９８３】
結果として、図１２４に示されるデータ定常性検出部１０１は、データの定常性として細線、または、２値エッジの角度を求める際、所定の画素からなるブロックによる相関を用いる方法と異なり、各画素の周辺の情報を用いて、統計的に細線、または、２値エッジの傾きを示す角度（ここでは、水平方向を基準軸とした角度）を求めることができるので、相関を用いた方法に見られるように、所定の角度の範囲に応じて切り替わることが無いので、全ての細線、または、２値エッジの傾きの角度を同一の処理により求めることが可能となるため、処理を簡単なものとすることが可能となる。
【０９８４】
また、以上においては、データ定常性検出部１０１は、細線、または、２値エッジの所定の基準軸とのなす角度を定常性情報として出力する例について説明してきたが、後段の処理によっては、傾きをそのまま出力する方が、処理効率が向上することも考えられる。そのような場合、データ定常性検出部１０１の定常方向導出部７０３の定常方向演算部７３１は、最小自乗法により求められた細線、または、２値エッジの傾きＧ_fを、そのまま定常性情報として出力するようにしてもよい。
【０９８５】
さらに、以上においては、式（７５）において、ダイナミックレンジDri_rは、抽出ブロックの各画素について求められるものとして演算してきたが、このダイナミックレンジは、ダイナミックレンジブロックを十分に大きく設定することにより、すなわち、多くの注目画素について、その周辺の多くの画素を用いて設定することにより、画像中の画素の画素値の最大値と最小値が、常に選択されることになるはずである。従って、ダイナミックレンジDri_rは、抽出ブロックの各画素について演算することなく、抽出ブロック中、または、画像データ中の画素の最大値と最小値から得られるダイナミックレンジを固定値として演算するようにしてもよい。
【０９８６】
すなわち、以下の式（７６）のように、画素間の画素値の差分のみを足し込むことにより細線の角度θ（傾きＧ_f）を求めるようにしてもよい。このように、ダイナミックレンジを固定することにより、演算処理をより簡素化することができ、高速で処理を行うことが可能となる。
【０９８７】
【数５８】

・・・（７６）
【０９８８】
次に、図１５４を参照して、データ定常性情報として、各画素の混合比を検出するデータ定常性検出部１０１について説明する。
【０９８９】
尚、図１５４のデータ定常性検出部１０１においては、図１２４のデータ定常性検出部１０１における場合と対応する部分については、同一の符号を付してあり、以下では、その説明は、適宜省略する。
【０９９０】
図１５４のデータ定常性検出部１０１において、図１２４のデータ定常性検出部１０１と異なるのは、データ足し込み部７０２、および、定常性方向導出部７０３に代えて、データ足し込み部７５１、および、混合比導出部７６１が設けられている点である。
【０９９１】
データ足し込み部７５１のMaxMin取得部７５２は、図１２４におけるMaxMin取得部７２２と同様の処理を行うものであるが、ダイナミックレンジブロックの各画素の画素値の最大値と最小値を取得し、最大値と最小値の差分（ダイナミックレンジ）を求め、足し込み部７５３，７５５に出力すると共に、最大値を差分演算部７５４に出力する。
【０９９２】
足し込み部７５３は、MaxMin取得部より入力された値を自乗して、抽出ブロックの全ての画素について足し込み、その和を求めて、混合比導出部７６１に出力する。
【０９９３】
差分演算部７５４は、データ取得部７１２の取得ブロックの各画素について、対応するダイナミックレンジブロックの最大値との差分を求めて、足し込み部７５５に出力する。
【０９９４】
足し込み部７５５は、取得ブロックの各画素について、MaxMin取得部７５２より入力された最大値と最小値の差分（ダイナミックレンジ）と、差分演算部７５４より入力された取得ブロックの各画素の画素値と、対応するダイナミックレンジブロックの最大値との差分と乗じて、その和を求め、混合比導出部７６１に出力する。
【０９９５】
混合比導出部７６１の混合比算出部７６２は、データ足し込み部の足し込み部７５３，７５５のそれぞれより入力された、値に基づいて、注目画素の混合比を最小自乗法により統計的に求め、データ定常性情報として出力する。
【０９９６】
次に、混合比の導出方法について説明する。
【０９９７】
図１５５Ａで示されるように、画像上に細線が存在する場合、センサ２で撮像された画像は、図１５５Ｂで示されるような画像となる。個の画像について、図１５５Ｂの空間方向Ｘ＝Ｘ１上の黒の実線で囲まれた画素について注目する。尚、図１５５Ｂの白線ではさまれた範囲は、細線領域に対応する位置を示す。この画素の画素値Ｍは、背景領域のレベルに対応する画素値Ｂと、細線領域のレベルに対応する画素値Ｌの中間色となっているはずであり、さらに詳細には、この画素値Ｐ_Sは、背景領域と細線領域の面積比で、それぞれのレベルが混合されているはずである。従って、この画素値Ｐ_Sは、以下の式（７７）により表現される。
【０９９８】

【０９９９】
ここで、αは、混合比であり、より具体的には、注目されている画素中の背景領域の占める面積の割合を示すものである。従って、（１−α）は、細線領域の占める面積の割合を示しているともいえる。尚、背景領域の画素は、背景に存在するオブジェクトの成分とも考えられるので、背景オブジェクト成分とも言える。また、細線領域の画素は、背景オブジェクトに対して前景オブジェクトの成分であると考えられるので、前景オブジェクト成分とも言える。
【１０００】
この結果、混合比αは、式（７７）を展開することにより、以下の式（７８）で表現できることになる。
【１００１】

【１００２】
さらに、今の場合、画素値は、第１の画素値（画素値Ｂ）の領域と第２の画素値（画素値Ｌ）の領域とをまたいだ位置に存在することが前提であるので、画素値Ｌは、画素値の最大値Maxで置き換えることができ、さらに、画素値Ｂは、画素値の最小値と置き換えることができる。従って、混合比αは、以下の式（７９）でも表現することができる。
【１００３】

【１００４】
以上の結果、混合比αは、注目画素についてのダイナミックレンジブロックのダイナミックレンジ（（Min−Max）に相当する）と、注目画素と、ダイナミックレンジブロック内の画素の最大値との差分から求めることが可能となるが、より精度を向上させるため、ここでは、最小自乗法により統計的に混合比αを求める。
【１００５】
すなわち、上述の式（７９）は、展開すると以下の式（８０）となる。
【１００６】

【１００７】
この式（８０）は、上述の式（７１）と同様の１変数の最小自乗法の式となる。すなわち、式（７１）においては、最小自乗法により傾きＧ_fが求められていたが、ここでは、混合比αが求められることになる。従って、以下の式（８１）で示される正規方程式を解くことにより、混合比αは、統計的に求められる。
【１００８】
【数５９】

・・・（８１）
【１００９】
ここで、ｉは、抽出ブロックの各画素を識別するものである。従って、式（８１）においては、抽出ブロックの画素数はｎである。
【１０１０】
次に、図１５６のフローチャートを参照して、混合比をデータ定常性としたときのデータ定常性の検出の処理について説明する。
【１０１１】
ステップＳ７３１において、水平・垂直判定部７１１は、入力画像の各画素を識別するカウンタｕを初期化する。
【１０１２】
ステップＳ７３２において、水平・垂直判定部７１１は、後段の処理に必要なデータの抽出処理を実行する。尚、ステップＳ７３２の処理は、図１５０のフローチャートを参照して説明した処理と同様であるので、その説明は省略する。
【１０１３】
ステップＳ７３３において、データ足し込み部７５１は、正規方程式（ここでは、式（８１））の演算の各項に必要な値の足し込み処理を実行する。
【１０１４】
ここで、図１５７のフローチャートを参照して、正規方程式への足し込み処理について説明する。
【１０１５】
ステップＳ７５１において、MaxMin取得部７５２は、データ取得部７１２に記憶されたダイナミックレンジブロックに含まれる画素の画素値の最大値と最小値を取得し、そのうち、最小値を差分演算部７５４に出力する。
【１０１６】
ステップＳ７５２において、MaxMin取得部７５２は、その最大値と最小値との差分からダイナミックレンジを求め、差分足し込み部７５３，７５５に出力する。
【１０１７】
ステップＳ７５３において、足し込み部７５３は、MaxMin取得部７５２より入力されたダイナミックレンジ（Max−Min）を自乗して、足し込む。すなわち、足し込み部７５３は、上述の式（８１）の分母に相当する値を足し込みにより生成する。
【１０１８】
ステップＳ７５４において、差分演算部７５４は、MaxMin取得部７５２より入力されたダイナミックレンジブロックの最大値と、抽出ブロックにおける今現在処理中の画素の画素値との差分を求めて、足し込み部７５５に出力する。
【１０１９】
ステップＳ７５５において、足し込み部７５５は、MaxMin取得部７５２より入力されたダイナミックレンジと、差分演算部７５４より入力された、今現在処理している画素の画素値と、ダイナミックレンジブロックの画素のうち最大値となる値との差分を乗じて、足し込む。すなわち、足し込み部７５５は、上述の式（８１）の分子の項に相当する値を生成する。
【１０２０】
以上のように、データ足し込み部７５１は、足し込み処理により、上述の式（８１）の各項の演算を実行する。
【１０２１】
ここで、図１５６のフローチャートの説明に戻る。
【１０２２】
ステップＳ７３４において、差分足し込み部７２１は、抽出ブロックの全ての画素について、足し込みが終了したか否かを判定し、例えば、抽出ブロックの全ての画素についての足し込み処理が終了していないと判定した場合、その処理は、ステップＳ７３２に戻り、それ以降の処理が繰り返される。すなわち、抽出ブロックの全ての画素について、足し込み処理が終了したと判定されるまで、ステップＳ７３２乃至Ｓ７３４の処理が繰り返される。
【１０２３】
ステップＳ７３４において、抽出ブロックの全ての画素について足し込みが終了したと判定された場合、ステップＳ７３５にいて、足し込み部７５３，７５５は、自らで記憶している足し込み結果を混合比導出部７６１に出力する。
【１０２４】
ステップＳ７３６において、混合比導出部７６１の混合比算出部７６２は、データ足し込み部７５１の足し込み部７５３，７５５より入力された、ダイナミックレンジの自乗和、および、抽出ブロックの各画素の画素値とダイナミックレンジブロックの最大値との差分と、ダイナミックレンジとを乗じた和に基づいて、上述の式（８１）で示した正規方程式を解くことにより、最小自乗法を用いて統計的に注目画素のデータ定常性情報である、混合比を演算し、出力する。
【１０２５】
ステップＳ７３７において、データ取得部７１２は、入力画像の全ての画素について処理が行われたか否かを判定し、例えば、入力画像の全ての画素について処理が行われていない、すなわち、入力画像の全ての画素について、混合比を出力していないと判定した場合、ステップＳ７３８において、カウンタｕを１インクリメントして、その処理は、ステップＳ７３２に戻る。
【１０２６】
すなわち、入力画像のうちの処理しようとする画素が変更されて、入力画像の全ての画素について混合比が演算されるまで、ステップＳ７３２乃至Ｓ７３８の処理が繰り返されることになる。このカウンタｕによる画素の変化は、例えば、ラスタスキャンなどであってもよいし、それ以外の規則により順次変化していくものであってもよい。
【１０２７】
ステップＳ７３７において、入力画像の全ての画素について処理がなされたと判定された場合、ステップＳ７３９において、データ取得部７１２は、次の入力画像があるか否かを判定し、次の入力画像があると判定された場合、その処理は、ステップＳ７３１に戻り、それ以降の処理が繰り返される。
【１０２８】
ステップＳ７３９において、次の入力画像はないと判定された場合、その処理は、終了する。
【１０２９】
以上の処理により、各画素の混合比が、定常性情報として検出されて、出力される。
【１０３０】
以上の手法により、例えば、図１５８Ａで示される画像中の白線内の細線の画像について、所定の空間方向Ｘ（＝５６１，５６２，５６３）上の混合比の変化が、図１５８Ｂに示されている。図１５８Ｂで示されるように、水平方向に連続する空間方向Ｙの混合比の変化は、それぞれ、空間方向Ｘ＝５６３の場合、混合比は、空間方向Ｙ＝６６０付近で立ち上がり、Ｙ＝６８５付近でピークとなり、Ｙ＝７１０まで減少する。また、空間方向Ｘ＝５６２の場合、混合比は、空間方向Ｙ＝６８０付近で立ち上がり、Ｙ＝７０５付近でピークとなり、Ｙ＝７３５まで減少する。さらに、空間方向Ｘ＝５６１の場合、混合比は、空間方向Ｙ＝７０５付近で立ち上がり、Ｙ＝７２５付近でピークとなり、Ｙ＝７５５まで減少する。
【１０３１】
このように、図１５８Ｂで示されるように、連続する空間方向Ｘのそれぞれの混合比の変化は、混合比により変化する画素値の変化（図１３３Ｂで示した画素値の変化）と同様の変化であり、周期的に連続していることから、細線近傍の画素の混合比が正確に表現されていることが分かる。
【１０３２】
また、同様にして、図１５９Ａで示される画像中の白線内の２値エッジの画像について、所定の空間方向Ｘ（＝６５８，６５９，６６０）上の混合比の変化が、図１５９Ｂに示されている。図１５９Ｂで示されるように、水平方向に連続する空間方向Ｙの混合比の変化は、それぞれ、空間方向Ｘ＝６６０の場合、混合比は、空間方向Ｙ＝７５０付近で立ち上がり、Ｙ＝７６５付近でピークとなる。また、空間方向Ｘ＝６５９の場合、混合比は、空間方向Ｙ＝７６０付近で立ち上がり、Ｙ＝７７５付近でピークとなる。さらに、空間方向Ｘ＝６５８の場合、混合比は、空間方向Ｙ＝７７０付近で立ち上がり、Ｙ＝７８５付近でピークとなる。
【１０３３】
このように、図１５９Ｂで示されるように、２値エッジの混合比の変化は、混合比により変化する画素値の変化（図１４５Ｂで示した画素値の変化）と同様の変化とほぼ同様であり、周期的に連続していることから、２値エッジ近傍の画素値の混合比が正確に表現されていることが分かる。
【１０３４】
以上によれば、最小自乗法により統計的にデータ定常性情報として、各画素の混合比を求めることが可能となる。さらに、この混合比に基づいて、各画素の画素値を直接生成することが可能となる。
【１０３５】
また、混合比の変化が、定常性を有するものであり、さらに、この混合比の変化が直線的なもので近似すると、以下の式（８２）で示されるような関係が成立する。
【１０３６】

【１０３７】
ここで、ｍは、混合比αが、空間方向Ｙに対して変化するときの傾きを示し、また、ｎは、混合比αが直線的に変化するときの切片に相当するものである。
【１０３８】
すなわち、図１６０で示されるように、混合比を示す直線は、背景領域のレベルに相当する画素値Ｂと、細線のレベルに相当するレベルＬの境界を示す直線であり、この場合、空間方向Ｙについて単位距離進んだときの混合比の変化量が傾きｍとなる。
【１０３９】
そこで、式（８２）を、式（７７）に代入すると以下の式（８３）が導出される。
【１０４０】

【１０４１】
さらに、この式（８３）を展開すると、以下の式（８４）が導出される。
【１０４２】

【１０４３】
式（８４）においては、第１項のｍが、混合比の空間方向の傾きを示し、第２項ｎが混合比の切片を示す項である。従って、上述の式（８４）のｍ，ｎを２変数の最小自乗法を用いて、正規方程式を生成し、求めるようにすることもできる。
【１０４４】
しかしながら、混合比αの傾きｍは、上述した細線や２値エッジの傾き（上述の傾きＧ_f）そのものであるので、予め、上述の方法を用いて、細線、または、２値エッジの傾きＧ_fを求めた後、その傾きを用いて、式（８４）に代入することにより、切片の項についての１変数の関数とし、上述した手法と同様に、１変数の最小自乗法により求めるようにしてもよい。
【１０４５】
以上の例においては、空間方向の細線、または、２値エッジの角度（傾き）、または、混合比をデータ定常性情報として検出するデータ定常性検出部１０１について説明してきたが、例えば、空間内の軸（空間方向Ｘ，Ｙ）のいずれかを、時間方向（フレーム方向）Ｔの軸に置き換えることにより得られる、空間方向における角度に対応するものであってもよい。すなわち、空間内の軸（空間方向Ｘ，Ｙ）のいずれかを、時間方向（フレーム方向）Ｔの軸に置き換えることにより得られる角度に対応するものとは、物体の動きベクトル（動きベクトルの方向）である。
【１０４６】
より具体的には、図１６１Ａで示すように、物体が、時間が進むにつれて空間方向Ｙについて、図中の上方向に移動している場合、図中の細線に相当する部分（図１３１Ａとの比較）には、物体の移動の軌跡が現れることになる。従って、時間方向Ｔの細線における傾きは、図１６１Ａにおいては、物体の動く方向（物体の動きを示す角度）を示すもの（動きベクトルの方向と同値のもの）である。従って、現実世界において、図１６１Ａ中の矢印で示される、所定の時刻におけるフレームでは、図１６１Ｂで示すように物体の軌跡となる部分が、物体の（色の）レベルとなり、それ以外の部分が、背景のレベルとなったパルス状の波形となる。
【１０４７】
このように、センサ２により動きのある物体を撮像したした場合、図１６２Ａで示されるように、時刻Ｔ１乃至Ｔ３におけるフレームの各画素の画素値の分布は、図１６２Ｂで示されるように、空間方向Ｙに対して、それぞれ山型の波形をとる。この関係は、図１３２Ａ，Ｂを参照して、説明した空間方向Ｘ，Ｙにおける関係と同様であるものと考えることができる。従って、フレーム方向Ｔに対して、物体に動きがある場合、上述した細線の傾き、または、２値エッジの角度（傾き）の情報と同様の手法により、物体の動きベクトルの方向をデータ定常性情報として求めることも可能である。尚、図１６２Ｂにおいては、フレーム方向Ｔ（時間方向Ｔ）について、各マス目は、１フレームの画像を構成するシャッタ時間となる。
【１０４８】
また、同様にして、図１６３Ａで示されるように、フレーム方向Ｔ毎に、空間方向Ｙについて物体に動きがある場合、図１６３Ｂで示されるように、所定の時刻Ｔ１に相当するフレーム上で空間方向Ｙに向けて、物体の動きに対応して、各画素値が得られることになる。このとき、例えば、図１６３Ｂにおける、黒の実線で囲まれた画素の画素値は、図１６３Ｃで示されるように、物体の動きに対応して、背景のレベルと物体のレベルがフレーム方向に混合比βで混合している画素値である。
【１０４９】
この関係は、図１５５Ａ，Ｂ，Ｃを参照して説明した関係と同様である。
【１０５０】
さらに、図１６４で示されるように、物体のレベルＯと背景のレベルＢとは、フレーム方向（時間方向）の混合比βにより直線近似することも可能である。この関係は、図１６０を参照して説明した空間方向の混合比の直線近似と同様の関係である。
【１０５１】
従って、空間方向の混合比αと同様の手法により、時間（フレーム）方向の混合比βをデータ定常性情報として求めることも可能である。
【１０５２】
また、フレーム方向、または、空間方向のいずれか１次元を選択して、定常性の角度、または、動きベクトルの方向を求めるようにしてもよいし、同様にして混合比α，βを選択的に求めるようにしてもよい。
【１０５３】
以上によれば、現実世界の光信号を射影し、現実世界の光信号の定常性の一部が欠落した画像データ内の注目画素に対応する領域を選択し、選択した領域内の、欠落した現実世界の光信号の定常性に対応する画像データの定常性の基準軸に対する角度を検出するための特徴を検出し、検出した特徴に基いて統計的に角度を検出し、検出した画像データの定常性の基準軸に対する角度に基いて、欠落した現実世界の光信号の定常性を推定することにより光信号を推定するようにしたので、定常性の角度（動きベクトルの方向）、または、（時空間の）混合比を求めることが可能となる。
【１０５４】
次に、図１６５を参照して、データ定常性情報としてデータ定常性情報を用いた処理を行うべき領域の情報を出力する、データ定常性情報検出部１０１について説明する。
【１０５５】
角度検出部８０１は、入力された画像のうち、定常性を有する領域、すなわち、画像上において定常性を有する細線や２値エッジを構成する部分の空間方向の角度を検出し、検出した角度を実世界推定部８０２に出力する。尚、この角度検出部８０１は、図３におけるデータ定常性検出部１０１と同様のものである。
【１０５６】
実世界推定部８０２は、角度検出部８０１より入力されたデータ定常性の方向を示す角度と、入力画像の情報に基づいて実世界を推定する。すなわち、実世界推定部８０２は、入力された角度と、入力画像の各画素から実世界の光信号の強度分布を近似的に記述する近似関数の係数を求めて、求めた係数を実世界の推定結果として誤差演算部８０３に出力する。尚、この実世界推定部８０２は、図３における実世界推定部１０２と同様のものである。
【１０５７】
誤差演算部８０３は、実世界推定部８０２より入力された係数に基づいて、近似的に記述された現実世界の光の強度分布を示す近似関数を構成し、さらに、この近似関数に基づいて各画素位置に相当する光の強度を積分して、近似関数により推定された光の強度分布から各画素の画素値を生成し、実際に入力された画素値との差分を誤差として比較部８０４に出力する。
【１０５８】
比較部８０４は、各画素について誤差演算部８０３より入力された誤差と、予め設定された閾値とを比較することにより、定常性情報を用いた処理を施す画素の存在する処理領域と、非処理領域とを識別して、この定常性情報を用いた処理をする処理領域と非処理領域の識別がなされた領域情報を定常性情報として出力する。
【１０５９】
次に、図１６６のフローチャートを参照して、図１６５のデータ定常性検出部１０１による、定常性の検出の処理について説明する。
【１０６０】
ステップＳ８０１において、角度検出部８０１は、入力された画像を取得し、ステップＳ８０２において、定常性の方向を示す角度を検出する。より詳細には、角度検出部８０１は、例えば、水平方向を基準軸としたときの細線、または、２値エッジの有する定常性の方向を示す角度を検出して、実世界推定部８０２に出力する。
【１０６１】
ステップＳ８０３において、実世界推定部８０２は、角度検出部８０１より入力される角度の情報と、入力画像の情報に基づいて、現実世界を表現する関数F(x)に近似的に記述する、多項式からなる近似関数f(x)の係数を求めて、誤差演算部８０３に出力する。すなわち、現実世界を表現する近似関数f(x)は、以下の式（８５）のような１次元多項式で示される。
【１０６２】
【数６０】

・・・（８５）
【１０６３】
ここで、ｗｉは、多項式の係数であり、実世界推定部８０２は、この係数ｗｉを求めて、誤差演算部８０３に出力する。さらに、角度検出部８０１より入力される角度により、定常性の方向から傾きを求めることができる（Ｇ_f＝tan^-1θ，Ｇ_f：傾き，θ：角度）ので、この傾きＧ_fの拘束条件を代入することにより、上述の式（８５）の式は、以下の式（８６）で示されるように、２次元多項式で記述することができる。
【１０６４】
【数６１】

・・・（８６）
【１０６５】
すなわち、上述の式（８６）は、式（８５）で記述される１次元の近似関数f(x)が、空間方向Ｙに平行移動することにより生じるずれ幅をシフト量α（＝−ｄｙ／Ｇ_f：ｄｙは、空間方向Ｙへの変化量）で表現することにより得られる２次元の関数f(x,y)を記述している。
【１０６６】
したがって、実世界推定部８０２は、入力画像と、定常性方向の角度の情報を用いて、上述の式（８６）の各係数ｗｉを解いて、求められた係数ｗｉを誤差演算部８０３に出力する。
【１０６７】
ここで、図１６６のフローチャートの説明に戻る。
【１０６８】
ステップＳ８０４において、誤差演算部８０３は、実世界推定部８０２より入力された係数から、各画素について再積分を実行する。すなわち、誤差演算部８０３は、実世界推定部８０２より入力された係数から、上述の式（８６）を、以下の式（８７）で示されるように、各画素について積分する。
【１０６９】
【数６２】

・・・（８７）
【１０７０】
ここで、Ｓ_Sは、図１６７で示される空間方向の積分結果を示す。また、その積分範囲は、図１６７で示すように、空間方向Ｘについては、ｘ_m乃至ｘ_m+Bであり、空間方向Ｙについては、ｙ_m乃至ｙ_m+Aである。また、図１６７においては、各マス目（正方形）は、１画素を示すものとし、空間方向Ｘ，Ｙについて、いずれも１であるものとする。
【１０７１】
従って、誤差演算部８０３は、図１６８で示されるように、近似関数f(x,y)で示される曲面の空間方向Ｘについてｘ_m乃至ｘ_m+1、および、空間方向Ｙについてｙ_m乃至ｙ_m+1（Ａ＝Ｂ＝１）で、以下の式（８８）で示されるような積分演算を各画素について実行し、実世界を近似的に表現する近似関数を空間的に積分することにより得られる各画素の画素値Ｐ_Sを演算する。
【１０７２】
【数６３】

・・・（８８）
【１０７３】
すなわち、この処理により、誤差演算部８０３は、言わば一種の画素値生成部として機能し、近似関数から画素値を生成する。
【１０７４】
ステップＳ８０５において、誤差演算部８０３は、上述の式（８８）で示したような積分により得られた画素値と、入力画像の画素値との差分を演算し、これを誤差として比較部８０４に出力する。すなわち、誤差演算部８０３は、上述の図１６７，図１６８で示した積分範囲（空間方向Ｘについてｘ_m乃至ｘ_m+1、および、空間方向Ｙについてｙ_m乃至ｙ_m+1）に対応する画素の画素値と、画素に対応する範囲の積分結果により得られた画素値との差分を、誤差として求めて比較部８０４に出力する。
【１０７５】
ステップＳ８０６において、比較部８０４は、誤差演算部８０３より入力される積分により得られた画素値と入力画像の画素値との誤差の絶対値が、所定の閾値以下であるか否かを判定する。
【１０７６】
ステップＳ８０６において、誤差が所定の閾値以下であると判定された場合、ステップＳ８０７において、比較部８０４は、積分により得られた画素値が、入力画像の画素の画素値と近い値が得られているので、その画素の画素値を演算するにあたり設定した近似関数が、現実世界の光信号の光の強度分布と十分に近似しているとみなし、今処理した画素の領域は、定常性情報に基づいた近似関数による処理を行う処理領域として認識する。より詳細には、比較部８０４は、図示せぬメモリに今処理した画素が、以降の処理領域の画素であることを記憶させる。
【１０７７】
一方、ステップＳ８０６において、誤差が所定の閾値以下ではないと判定された場合、ステップＳ８０８において、比較部８０４は、積分により得られた画素値が、実際の画素値と離れた値となっているので、その画素の画素値を演算するにあたり設定した近似関数が、現実世界の光信号の光の強度分布と十分に近似していないとみなし、今処理した画素の領域は、後段において定常性情報に基づいた近似関数による処理を行わない非処理領域として認識する。より詳細には、比較部８０４は、図示せぬメモリに今処理した画素の領域が、以降の非処理領域であることを記憶させる。
【１０７８】
ステップＳ８０９において、比較部８０４は、全ての画素で処理が実行されたか否かを判定し、全ての画素で処理が実行されていないと判定された場合、その処理は、ステップＳ８０２に戻り、それ以降の処理が繰り返される。すなわち、全ての画素について、積分による画素値と、入力された画素値との比較がなされ、処理領域であるか否かの判定処理が完了するまで、ステップＳ８０２乃至Ｓ８０９の処理が繰り返される。
【１０７９】
ステップＳ８０９において、全ての画素について、再積分による画素値と、入力された画素値との比較がなされ、処理領域であるか否かの判定処理が完了したと判定された場合、ステップＳ８１０において、比較部８０４は、図示せぬメモリに記憶されている、入力画像について、後段の処理において空間方向の定常性情報に基づいた処理がなされる処理領域と、空間方向の定常性情報に基づいた処理がなされない非処理領域が識別された領域情報を、定常性情報として出力する。
【１０８０】
以上の処理によれば、定常性情報に基づいて演算された近似関数f(x)を用いて各画素に対応する範囲の積分結果により得られた画素値と、実際の入力画像中の画素値との誤差に基づいて、近似関数の表現の確からしさの評価が領域毎（画素毎に）にされることになり、誤差の小さい領域、すなわち、近似関数に基づいた積分により得られる画素値が確からしい画素の存在する領域のみを処理領域とし、それ以外の領域を非処理領域とすることになるので、確からしい領域にのみ空間方向の定常性情報に基づいた処理を施すことができ、必要な処理だけを実行させるようにすることができるため、処理速度を向上させることができると共に、確からしい領域にのみ処理を実行させることができるので、この処理による画質劣化を抑制することが可能となる。
【１０８１】
次に、図１６９を参照して、データ定常性情報としてデータ定常性情報を用いた処理を行う画素の存在する領域情報を出力する、データ定常性情報検出部１０１のその他の実施例について説明する。
【１０８２】
動き検出部８２１は、入力された画像のうち、定常性を有する領域、すなわち、画像上においてフレーム方向に定常性を有する動き（動きベクトルの方向：Ｖ_f）を検出し、検出した動きを実世界推定部８２２に出力する。尚、この動き検出部８２１は、図３におけるデータ定常性検出部１０１と同様のものである。
【１０８３】
実世界推定部８２２は、動き検出部８２１より入力されたデータ定常性の動きと、入力画像の情報に基づいて実世界を推定する。すなわち、実世界推定部８２２は、入力された動きと、入力画像の各画素からフレーム方向（時間方向）の実世界の光信号の強度分布を近似的に記述する近似関数の係数を求めて、求めた係数を実世界の推定結果として誤差演算部８２３に出力する。尚、この実世界推定部８２２は、図３における実世界推定部１０２と同様のものである。
【１０８４】
誤差演算部８２３は、実世界推定部８２２より入力された係数に基づいて、近似的に記述されたフレーム方向の現実世界の光の強度分布を示す近似関数を構成し、さらに、この近似関数からフレーム毎に各画素位置に相当する光の強度を積分して、近似関数により推定された光の強度分布から各画素の画素値を生成し、実際に入力された画素値との差分を誤差として比較部８２４に出力する。
【１０８５】
比較部８２４は、各画素について誤差演算部８２３より入力された誤差と、予め設定された閾値とを比較することにより、定常性情報を用いた処理を施す画素の存在する処理領域と、非処理領域とを識別して、この定常性情報を用いた処理をする処理領域と非処理領域の識別がなされた領域情報を定常性情報として出力する。
【１０８６】
次に、図１７０のフローチャートを参照して、図１６９のデータ定常性検出部１０１による、定常性の検出の処理について説明する。
【１０８７】
ステップＳ８２１において、動き検出部８０１は、入力された画像を取得し、ステップＳ８２２において、定常性を示す動きを検出する。より詳細には、動き検出部８０１は、例えば、入力画像中で動く物体の動き（動きベクトルの方向：Ｖ_f）を検出して、実世界推定部８２２に出力する。
【１０８８】
ステップＳ８２３において、実世界推定部８２２は、動き検出部８２１より入力される動きの情報と、入力画像の情報に基づいて、現実世界を表現するフレーム方向の関数F(t)に近似的に記述する、多項式からなる関数f(t)の係数を求めて、誤差演算部８２３に出力する。すなわち、現実世界を表現する関数f(t)は、以下の式（８９）のような１次元多項式で示される。
【１０８９】
【数６４】

・・・（８９）
【１０９０】
ここで、ｗｉは、多項式の係数であり、実世界推定部８２２は、この係数ｗｉを求めて、誤差演算部８２３に出力する。さらに、動き検出部８２１より入力される動きにより、定常性の動きを求めることができる（Ｖ_f＝tan^-1θｖ，Ｖ_f：動きベクトルのフレーム方向の傾き，θｖ：動きベクトルのフレーム方向の角度）ので、この傾きの拘束条件を代入することにより、上述の式（８９）の式は、以下の式（９０）で示されるように、２次元多項式で記述することができる。
【１０９１】
【数６５】

・・・（９０）
【１０９２】
すなわち、上述の式（９０）は、式（８９）で記述される１次元の近似関数f(t)が、空間方向Ｙに平行移動することにより生じるずれ幅を、シフト量αｔ（＝−ｄｙ／Ｖ_f：ｄｙは、空間方向Ｙへの変化量）で表現することにより得られる２次元の関数f(t,y)を記述している。
【１０９３】
したがって、実世界推定部８２２は、入力画像と、定常性の動きの情報を用いて、上述の式（９０）の各係数ｗｉを解いて、求められた係数ｗｉを誤差演算部８２３に出力する。
【１０９４】
ここで、図１７０のフローチャートの説明に戻る。
【１０９５】
ステップＳ８２４において、誤差演算部８２３は、実世界推定部８２２より入力された係数から、各画素についてフレーム方向に積分を実行する。すなわち、誤差演算部８２３は、実世界推定部８２２より入力された係数から、上述の式（９０）を、以下の式（９１）で示されるように、各画素について積分する。
【１０９６】
【数６６】

・・・（９１）
【１０９７】
ここで、Ｓ_tは、図１７１で示されるフレーム方向の積分結果を示す。また、その積分範囲は、図１７１で示すように、フレーム方向Ｔについては、Ｔ_m乃至Ｔ_m+Bであり、空間方向Ｙについては、ｙ_m乃至ｙ_m+Aである。また、図１７１においては、各マス目（正方形）は、１画素を示すものとし、フレーム方向Ｔ、および、空間方向Ｙのいずれも１であるものとする。ここで、フレーム方向Ｔについて１であるとは、１フレーム分のシャッタ時間を１とすることである。
【１０９８】
従って、誤差演算部８２３は、図１７２で示されるように、近似関数f(t，y)で示される曲面の空間方向ＴについてＴ_m乃至Ｔ_m+1、および、空間方向Ｙについてｙ_m乃至ｙ_m+1（Ａ＝Ｂ＝１）で、以下の式（９２）で示されるような積分演算を各画素について実行し、実世界を近似的に表現する関数から得られる各画素の画素値Ｐ_tを演算する。
【１０９９】
【数６７】

・・・（９２）
【１１００】
すなわち、この処理により、誤差演算部８２３は、言わば一種の画素値生成部として機能し、近似関数から画素値を生成する。
【１１０１】
ステップＳ８２５において、誤差演算部８２３は、上述の式（９２）で示したような積分により得られた画素値と、入力画像の画素値との差分を演算し、これを誤差として比較部８２４に出力する。すなわち、誤差演算部８２３は、上述の図１７１，図１７２で示した積分範囲（空間方向ＴについてＴ_m乃至Ｔ_m+1、および、空間方向Ｙについてｙ_m乃至ｙ_m+1）に対応する画素の画素値と、画素に対応する範囲の積分結果により得られた画素値との差分を、誤差として求めて比較部８２４に出力する。
【１１０２】
ステップＳ８２６において、比較部８２４は、誤差演算部８２３より入力された積分により得られた画素値と入力画像の画素値との誤差の絶対値が、所定の閾値以下であるか否かを判定する。
【１１０３】
ステップＳ８２６において、誤差が所定の閾値以下であると判定された場合、ステップＳ８２７において、比較部８２４は、積分により得られた画素値が、入力画像の画素値と近い値が得られているので、その画素の画素値を演算するにあたり設定した近似関数が、実世界の光信号の光の強度分布と十分に近似されているとみなし、今処理した画素の領域は、処理領域として認識する。より詳細には、比較部８２４は、図示せぬメモリに今処理した画素が、以降の処理領域の画素であることを記憶させる。
【１１０４】
一方、ステップＳ８２６において、誤差が所定の閾値以下ではないと判定された場合、ステップＳ８２８において、比較部８２４は、積分により得られた画素値が、実際の画素値と離れた値となっているので、その画素の画素値を演算するにあたり設定した近似関数が、現実世界の光の強度分布と十分に近似していないとみなし、今処理した画素の領域は、後段において定常性情報に基づいた近似関数による処理を行わない非処理領域として認識する。より詳細には、比較部８２４は、図示せぬメモリに今処理した画素の領域が、以降の非処理領域であることを記憶させる。
【１１０５】
ステップＳ８２９において、比較部８２４は、全ての画素で処理が実行されたか否かを判定し、全ての画素で処理が実行されていないと判定された場合、その処理は、ステップＳ８２２に戻り、それ以降の処理が繰り返される。すなわち、全ての画素について、積分による画素値と、入力された画素値との比較がなされ、処理領域であるか否かの判定処理が完了するまで、ステップＳ８２２乃至Ｓ８２９の処理が繰り返される。
【１１０６】
ステップＳ８２９において、全ての画素について、再積分による画素値と、入力された画素値との比較がなされ、処理領域であるか否かの判定処理が完了したと判定された場合、ステップＳ８３０において、比較部８２４は、図示せぬメモリに記憶されている、入力画像について、後段の処理においてフレーム方向の定常性情報に基づいた処理がなされる処理領域と、フレーム方向の定常性情報に基づいた処理がなされない非処理領域が識別された領域情報を、定常性情報として出力する。
【１１０７】
以上の処理によれば、定常性情報に基づいて演算された近似関数f(t)を用いた各画素に対応する範囲の積分結果により得られた画素値と、実際の入力画像中の画素値との誤差に基づいて、近似関数の表現の確からしさの評価が領域毎（画素毎に）にされることになり、誤差の小さい領域、すなわち、近似関数に基づいて積分により得られる画素値が確からしい画素の存在する領域のみを処理領域とし、それ以外の領域を非処理領域とすることになるので、確からしい領域にのみフレーム方向の定常性情報に基づいた処理を施すことができ、必要な処理だけを実行させるようにすることができるため、処理速度を向上させることができると共に、確からしい領域にのみ処理を実行させることができるので、この処理による画質劣化を抑制することが可能となる。
【１１０８】
図１６５および図１６９のデータ定常性情報検出部１０１の構成を組み合わせて、時空間方向のうち、いずれか１次元を選択して、選択的に領域情報を出力させるようにしてもよい。
【１１０９】
以上によれば、それぞれ時空間積分効果を有する、センサの複数の検出素子により現実世界の光信号が射影され、現実世界の光信号の定常性の一部が欠落した、検出素子により射影された画素値を有する複数の画素からなる画像データにおけるデータの定常性を検出し、検出した定常性に対応して、画像データの時空間方向のうち少なくとも１次元方向の位置に対応する各画素の画素値が少なくとも１次元方向の積分効果により取得された画素値であるとして現実世界の光信号に対応する関数を近似することにより、現実世界の光信号に対応する関数を推定し、推定した関数を少なくとも１次元方向の各画素に対応する単位で積分することにより取得される画素値と、各画素の画素値との差分値を検出し、差分値に応じて関数を選択的に出力するようにしたので、近似関数に基づいて積分により得られる画素値が確からしい画素の存在する領域のみを処理領域とし、それ以外の領域を非処理領域とすることが可能となり、確からしい領域にのみフレーム方向の定常性情報に基づいた処理を施すことができ、必要な処理だけを実行させるようにすることができるため、処理速度を向上させることができると共に、確からしい領域にのみ処理を実行させることができるので、この処理による画質劣化を抑制することが可能となる。
【１１１０】
次に、図１７３を参照して、定常性の角度をより高精度に、かつ、より高速で求められるようにした定常性検出部１０１について説明する。
【１１１１】
簡易式角度検出部９０１は、実質的に、図９５を参照して説明した定常性検出部１０１と同様のものであり、注目画素に対応するブロックと、周辺画素のブロックとを比較し、注目画素に対応するブロックと周辺画素のブロックとの相関が最も強い注目画素と周辺画素との角度の範囲を検出する、いわゆる、ブロックマッチングにより、例えば、１６方位（例えば、データの定常性の角度をθとする場合、後述する図１７８における0≦θ＜18.4，18.4≦θ＜26.05，26.05≦θ＜33.7，33.7≦θ＜45，45≦θ＜56.3，56.3≦θ＜63.95，63.95≦θ＜71.6，71.6≦θ＜90，90≦θ＜108.4，108.4≦θ＜116.05，116.05≦θ＜123.7，123.7≦θ＜135，135≦θ＜146.3，146.3≦θ＜153.95，153.95≦θ＜161.6、および、161.6≦θ＜180の１６個の範囲）の何れかの範囲であるかを簡易的に定常性の角度を検出して、それぞれの中央値（または、その範囲内の代表値）を判定部９０２に出力する。
【１１１２】
判定部９０２は、簡易式角度検出部９０１より入力された、簡易的に求められている定常性の角度の情報に基づいて、入力された角度が、垂直方向に近い角度であるか、または、水平方向に近い角度であるか、それ以外かを判定し、判定結果に応じて、スイッチ９０３を制御して、端子９０３ａ，ｂのいずれかに接続して、入力画像を回転式角度検出部９０４、または、勾配式角度検出部９０５に供給すると共に、スイッチ９０３を端子９０３ａに接続するとき、簡易式角度検出部９０１より入力された簡易式に求められた角度の情報を回帰式角度検出部９０４に供給する。
【１１１３】
より詳細には、判定部９０２は、簡易式角度検出部９０１より供給された定常性の方向が、水平方向、または、垂直方向に近い角度であると判定した場合（例えば、簡易式角度検出部９０１より入力された定常性の角度θが、0≦θ≦18.4，71.6≦θ≦108.4、または、161.6≦θ≦180の場合）、スイッチ９０３を端子９０３ａに接続して入力画像を回帰式角度検出部９０４に供給し、それ以外の場合、すなわち、定常性の方向が４５度、または、１３５度に近い場合、スイッチ９０３を端子９０３ｂに接続して入力画像を勾配式角度検出部９０５に供給する。
【１１１４】
回帰式角度検出部９０４は、実質的には、上述の図１０７を参照して説明した定常性検出部１０１に類似した構成であり、回帰的に（注目画素の画素値と、注目画素に対応する領域に属する画素の画素値との相関値が閾値以上である画素に、相関値に基づく度数が設定されることにより、領域に属する画素の度数が検出され、検出された度数に基いて検出された回帰線により求められる）データの定常性の角度検出を実行し、検出した角度をデータ定常性情報として実世界推定部１０２に出力する。ただし、回帰式角度検出部９０４は、角度の検出にあたり、判定部９０２より供給された角度に基づいて、注目画素に対応する範囲（スコープ）を限定して、度数を設定し、回帰的に角度を検出する。
【１１１５】
勾配式角度検出部９０５は、実質的には、図１２４を参照して説明した定常性検出部１０１と同様のものであり、注目画素に対応するブロック（上述のダイナミックレンジブロック）の画素値の最大値と最小値の差分、すなわち、ダイナミックレンジに基づいて（実質的に、ダイナミックレンジブロックの画素値の最大値と最小値の勾配に基づいて）、データの定常性の角度を検出し、データの定常性情報として実世界推定部１０２に出力する。
【１１１６】
次に、図１７４を参照して、簡易式角度検出部９０１の構成について説明するが、実質的に、簡易式角度検出部９０１は、図９５を参照して説明したデータ定常性検出部１０１の構成と同様のものである。従って、図１７４の簡易式角度検出部９０１のデータ選択部９１１、誤差推定部９１２、定常方向導出部９１３、画素選択部９２１−１乃至９２１−Ｌ、推定誤差算出部９２２−１乃至９２２−Ｌ、および、最小誤差角度選択部９２３は、図９５のデータ定常性検出部１０１のデータ選択部４４１、誤差推定部４４２、定常方向導出部４４３、画素選択部４６１−１乃至４６１−Ｌ、推定誤差算出部４６２−１乃至４６２−Ｌ、および、最小誤差角度選択部４４３と同様のものであるので、個々の部位の説明は省略する。
【１１１７】
次に、図１７５を参照して、回帰式角度検出部９０４の構成について説明するが、実質的に、回帰式角度検出部９０４は、図１０７を参照して説明したデータ定常性検出部１０１の構成と類似したものである。従って、図１７５の回帰式角度検出部９０４のフレームメモリ９３１、画素取得部９３２、回帰直線演算部９３４、および、角度算出部９３５は、図１０７のデータ定常性検出部１０１のフレームメモリ５０１、画素取得部５０２、回帰直線演算部５０４、および、角度算出部５０５と同様であるので、その説明は省略する。
【１１１８】
ここで、回帰式角度検出部９０４において、図１０７のデータ定常性検出部１０１と異なるのは、度数検出部９３３である。度数検出部９３３は、図１０７の度数検出部５０３と同様の機能を有するものであるが、さらに、スコープメモリ９３３ａを備えており、判定部９０２より入力された簡易式角度検出部９０１により検出されたデータの定常性の角度に基づいて、スコープメモリ９３３ａに記憶されている注目画素に対する度数を検出する角度の範囲の情報に基づいて、度数を検出して、検出した度数の情報を回帰直線演算部９３４に供給する。
【１１１９】
次に、図１７６を参照して、勾配式角度検出部９０５の構成について説明するが、実質的に、勾配式角度検出部９０５は、図１２４を参照して説明したデータ定常性検出部１０１の構成と同様のものである。従って、図１７６のデータ選択部９４１、データ足し込み部９４２、定常方向導出部９４３、水平・垂直判定部９５１、データ取得部９５２、差分足し込み部９６１、MaxMin取得部９６２、差分足し込み部９６３、および、定常方向演算部９７１は、図１２４のデータ定常性検出部１０１のデータ選択部７０１、データ足し込み部７０２、定常方向導出部７０３、水平・垂直判定部７１１、データ取得部７１２、差分足し込み部７２１、MaxMin取得部７２２、差分足し込み部７２３、および、定常方向演算部７３１と同様のものであるので、その説明は省略する。
【１１２０】
次に、図１７７のフローチャートを参照して、データの定常性の検出の処理について説明する。
【１１２１】
ステップＳ９０１において、簡易式角度検出部９０１は、簡易式角度検出処理を実行し、検出した角度の情報を判定部９０２に出力する。尚、簡易式角度検出処理は、図１０３のフローチャートを参照して説明したデータの定常性の検出の処理と同様であるので、その説明は省略する。
【１１２２】
ステップＳ９０２において、判定部９０２は、簡易式角度検出部９０１より入力されたデータの定常性の角度の情報に基づいて、データの定常性の角度が、水平方向、または、垂直方向に近い角度であるか否かを判定する。より詳細には、判定部９０２は、例えば、データの定常性の角度が、簡易式角度検出部９０１より入力された定常性の角度θが、0≦θ≦18.4，71.6≦θ≦108.4、または、161.6≦θ≦180となる範囲である場合、データの定常性の角度が、水平方向、または、垂直方向に近い角度であると判定する。
【１１２３】
ステップＳ９０２において、データの定常性の角度が水平方向、または、垂直方向の角度であると判定された場合、その処理は、ステップＳ９０３に進む。
【１１２４】
ステップＳ９０３において、判定部９０２は、スイッチ９０３を制御して、端子９０３ａに接続すると共に、簡易式角度検出部９０１より供給されたデータの定常性の角度の情報を回帰式角度検出部９０４に供給する。この処理により、回帰式角度検出部９０４に、入力画像と簡易式角度検出部９０１で検出されたデータの定常性の角度の情報が供給される。
【１１２５】
ステップＳ９０４において、回帰式角度検出部９０４は、回帰式角度検出処理を実行し、検出された角度をデータ定常性情報として実世界推定部１０２に出力する。尚、回帰式角度検出処理については、図１７９を参照して後述する。
【１１２６】
ステップＳ９０５において、簡易式角度検出部９０１のデータ選択部９１１は、全ての画素について処理が終了したか否かを判定し、全ての画素についてその処理が終了していないと判定した場合、その処理は、ステップＳ９０１に戻り、それ以降の処理が繰り返される。
【１１２７】
一方、ステップＳ９０２において、データの定常性の方向が、水平方向、または、垂直方向ではないと判定された場合、その処理は、ステップＳ９０６に進む。
【１１２８】
ステップＳ９０６において、判定部９０２は、スイッチ９０３を制御して、端子９０３ｂに接続する。この処理により、勾配式角度検出部９０５に、入力画像が供給される。
【１１２９】
ステップＳ９０７において、勾配式角度検出部９０５は、勾配式角度検出処理を実行して、角度を検出し、定常性情報として実世界推定部１０２に出力する。尚、勾配式角度検出処理は、実質的に、図１４９のフローチャートを参照して説明したデータの定常性の検出の処理と同様の処理であるので、その説明は、省略する。
【１１３０】
すなわち、ステップＳ９０２の処理により、簡易式角度検出部９０１により検出されたデータの定常性の角度が、図１７８で示されるように図中中心の注目画素を中心とした場合、斜線の無い白色の領域に対応する角度（18.4＜θ＜71.6、または、108.4＜θ＜161.6）であるとき、ステップＳ９０３の処理により、判定部９０２がスイッチ９０３を制御して、端子９０３ａに接続することにより、ステップＳ９０４の処理により、回帰式角度検出部９０４が、相関を利用して回帰直線を求めて、その回帰直線からデータの定常性の角度を検出する。
【１１３１】
また、ステップＳ９０２の処理により、簡易式角度検出部９０１により検出されたデータの定常性の角度が、図１７８で示されるように図中中心の注目画素を中心とした場合、斜線部の領域に対応する角度（0≦θ≦18.4，71.6≦θ≦108.4、または、161.6≦θ≦180）であるとき、ステップＳ９０６の処理により、判定部９０２がスイッチ９０３を制御して、端子９０３ｂに接続することにより、ステップＳ９０７の処理により、勾配式角度検出部９０５が、データの定常性の角度を検出する。
【１１３２】
回帰式角度検出部９０４は、注目画素に対応するブロックと周辺画素に対応したブロック間の相関を比較し、最も相関の強いブロックに対応する画素との角度からデータの定常性の角度を求めているため、データの定常性の角度が、水平方向、または、垂直方向に近い場合、最も相関の高いブロックとなる画素は、注目画素から遠く離れた位置となってしまう可能性があるため、正確に相関の強い周辺画素のブロックを検出するには、探索する領域を広くしなければならず、処理が膨大なものとなってしまう恐れがあり、さらには、探索領域を広げることにより、本来定常性の存在しない位置に、偶然にして、注目画素に対応するブロックと相関の強いブロックが検出されてしまう恐れがあり、角度の検出精度が低下してしまう恐れがある。
【１１３３】
これに対して、勾配式角度検出部９０５は、データの定常性の角度が、水平方向、または、垂直方向に近くなるほど、ダイナミックレンジブロック内の画素値の最大値と最小値をとる画素との距離が離れるため、抽出ブロック内に同じ傾き（画素値の変化を示す勾配）を持つ画素が増えることになるので、統計的に処理をすることによりデータの定常性の角度をより高精度に検出することが可能となる。
【１１３４】
一方、勾配式角度検出部９０５は、データの定常性の角度が、４５度、または、１３５度に近い場合、ダイナミックレンジブロック内の最大値と最小値をとる画素間の距離が近くなってしまうため、抽出ブロック内で、同じ傾き（画素値の変化を示す勾配）を持つ画素が減ることになるので、統計的な処理により、データの定常性の角度の精度は低下してしまう。
【１１３５】
これに対して、回帰式角度検出部９０４は、データの定常性の角度が、４５度、または、１３５度付近の場合、注目画素に対応するブロックと、相関の強い画素に対応するブロックの距離が近い位置に存在することになるため、定常性の角度を、より高い精度で検出することが可能である。
【１１３６】
結果として、簡易式角度検出部９０１により検出された角度に基づいて、回帰式角度検出部９０４と、勾配式角度検出部９０５のそれぞれの持つ特性により、処理を切り替えることにより、全ての範囲でデータの定常性の角度を高精度で検出することが可能となる。さらに、高精度でデータの定常性の角度を検出できることから、実世界を正確に推定することができ、最終的に、現実世界の事象に対して、より正確で、より精度の高い（画像）処理結果を得ることが可能となる。
【１１３７】
次に、図１７９のフローチャートを参照して、図１７７のフローチャートにおけるステップＳ９０４の処理である、回帰式角度検出処理について説明する。
【１１３８】
尚、回帰式角度検出部９０４による回帰式角度検出処理は、図１１４のフローチャートを参照して説明したデータの定常性の検出の処理と類似しており、図１７９のフローチャートにおけるステップＳ９２１乃至Ｓ９２２、および、ステップＳ９２４乃至Ｓ９２７の処理は、図１１４のフローチャートにおけるステップＳ５０１乃至Ｓ５０６の処理と同様であるので、その説明は省略する。
【１１３９】
ステップＳ９２３において、度数検出部９３３は、スコープメモリ９３３ａを参照して、判定部９０２より供給された簡易式角度検出部９０１により検出されたデータの定常性の角度の情報に基づいて、スコープ範囲外の画素を処理対象から排除する。
【１１４０】
すなわち、例えば、簡易式角度検出部９０１により検出された角度θの範囲が、45≦θ＜56.3である場合、スコープメモリ９３３ａには、その範囲に対応するスコープとして、図１８０で示される斜線部分に対応する画素の範囲を記憶しており、度数検出部９３３は、スコープに対応する範囲以外の画素は処理対象範囲から排除する。
【１１４１】
より詳細な、各角度に応じたスコープの範囲の例としては、例えば、簡易式角度検出部９０１により検出されたデータの定常性の角度が50度の場合、図１８１で示されるように、スコープ範囲の画像とスコープ範囲外の画素が予め定義される。尚、図１８１においては、注目画素を中心とした３１画素×３１画素の範囲の場合の例であり、０と１で示される各配置が画素位置を示し、図中中央の丸印で囲まれた位置が注目画素の位置である。また、１で示される位置の画素がスコープ範囲内の画素であり、０で示される位置の画素がスコープ範囲外の画素である。尚、以下、図１８２乃至図１８３においても同様である。
【１１４２】
すなわち、図１８１で示されるように、スコープ範囲となる画素が注目画素を中心として約角度５０度に沿って、一定の範囲の幅を持って配置されている。
【１１４３】
また、同様にして、簡易式角度検出部９０１により検出された角度が、６０度であった場合、図１８２で示されるように、スコープ範囲となる画素が注目画素を中心として約角度６０度に沿って、一定の範囲の幅を持って配置されている。
【１１４４】
さらに、簡易式角度検出部９０１により検出された角度が、６７度であった場合、図１８３で示されるように、スコープ範囲となる画素が注目画素を中心として約角度６７度に沿って、一定の範囲の幅を持って配置されている。
【１１４５】
また、簡易式角度検出部９０１により検出された角度が、８１度であった場合、図１８４で示されるように、スコープ範囲となる画素が注目画素を中心として約角度８１度に沿って、一定の範囲の幅を持って配置されている。
【１１４６】
以上のように、スコープ範囲外の画素が処理対象範囲から排除されることにより、ステップＳ９２４の処理である各画素値を度数に変換する処理において、データの定常性から離れた位置に存在する画素の処理を省くことができ、処理の対象とすべきデータの定常性の方向に沿った相関の高い画素のみを処理することになるので、処理速度を向上させることができる。さらに、処理の対象とすべきデータの定常性の方向に沿った相関の高い画素のみを用いて、度数を求めることができるので、より高い精度でデータの定常性の角度を検出することが可能となる。
【１１４７】
尚、スコープ範囲に属する画素は、図１８１乃至図１８４で示した範囲に限るものではなく、注目画素を中心として、簡易式角度検出部９０１により検出された角度に沿った位置に存在する様々な幅を持った範囲の複数の画素からなる範囲であってよい。
【１１４８】
また、図１７３を参照して説明したデータ定常性検出部１０１においては、判定部９０２が、簡易式角度検出部９０１により検出されたデータの定常性の角度の情報に基づいて、スイッチ９０３を制御して、入力画像の情報を回帰式角度検出部９０４、または、勾配式角度検出部９０５のいずれかに入力させるようにしていたが、回帰式角度検出部９０４、または、勾配式角度検出部９０５のいずれにも入力画像を入力させて、角度検出処理をさせた後、簡易式角度検出部９０１により検出されたデータの定常性の角度の情報に基づいて、いずれかの処理で検出された角度の情報を出力させるようにしてもよい。
【１１４９】
図１８５は、回帰式角度検出部９０４、または、勾配式角度検出部９０５のいずれにも入力画像を入力させて、角度検出処理をさせた後、簡易式角度検出部９０１により検出されたデータの定常性の角度の情報に基づいて、いずれかの処理で検出された角度の情報を出力させるようにしたデータ定常性検出部１０１の構成を示している。尚、図１７３のデータ定常性検出部１０１と同様の構成については、同一の符号を付しており、その説明は適宜省略する。
【１１５０】
図１８５のデータ定常性検出部１０１の構成において、図１７３のデータ定常性検出部１０１の構成と異なるのは、スイッチ９０３を削除して、入力画像のデータを回帰式角度検出部９０４、または、勾配式角度検出部９０５のいずれにも入力させ、それぞれの出力側にスイッチ９８２を設けて、それぞれ端子９８２ａ，ｂの接続を切り替えることにより、いずれかの方法で検出された角度の情報を出力するようにしている点である。尚、図１８５のスイッチ９８２は、実質的に、図１７３のスイッチ９０３と同様のものであるので、その説明は省略する。
【１１５１】
次に、図１８６のフローチャートを参照して、図１８５のデータ定常性検出部１０１による、データの定常性の検出の処理について説明する。尚、図１８６のフローチャートにおけるステップＳ９４１，Ｓ９４３乃至Ｓ９４５，Ｓ９４７の処理は、図１７７のフローチャートにおけるステップＳ９０１，Ｓ９０４，Ｓ９０７，Ｓ９０２，Ｓ９０５の処理と同様であるので、その説明は省略する。
【１１５２】
ステップＳ９４２において、判定部９０２は、簡易式角度検出部９０１より入力されたデータの定常性の角度の情報を回帰式角度検出部９０４に出力する。
【１１５３】
ステップＳ９４６において、判定部９０２は、スイッチ９８２を制御して、端子９８２ａに接続する。
【１１５４】
ステップＳ９４８において、判定部９０２は、スイッチ９８２を制御して、端子９８２ｂに接続する。
【１１５５】
尚、図１８６のフローチャートにおいて、ステップＳ９４３，Ｓ９４４の処理順序は入れ替わってもよい。
【１１５６】
以上によれば、現実世界の光信号が射影され、現実世界の光信号の定常性の一部が欠落した画像データ内の、欠落した現実世界の光信号の定常性に対応する画像データの定常性の基準軸に対する角度を、簡易式角度検出部９０１がマッチング処理により検出し、検出した角度に対応する所定領域内の画像データに基いて、回帰式角度検出部９０４か、または、勾配式角度検出部９０５が統計処理により角度を検出するようにしたので、より高速で、かつ、より高精度でデータの定常性の角度を検出することが可能となる。
【１１５７】
次に、実世界１の信号の推定について説明する。
【１１５８】
図１８７は、実世界推定部１０２の構成を示すブロック図である。
【１１５９】
図１８７に構成を示す実世界推定部１０２においては、入力画像、および定常性検出部１０１から供給されたデータ定常性情報を基に、実世界１の信号である画像における、細線の幅が検出され、細線のレベル（実世界１の信号の光の強度）が推定される。
【１１６０】
線幅検出部２１０１は、定常性検出部１０１から供給された、細線の画像が射影された画素からなる、細線領域である定常領域を示すデータ定常性情報を基に、細線の幅を検出する。線幅検出部２１０１は、データ定常性情報と共に、検出された細線の幅を示す細線幅情報を信号レベル推定部２１０２に供給する。
【１１６１】
信号レベル推定部２１０２は、入力画像、線幅検出部２１０１から供給された細線の幅を示す細線幅情報、およびデータ定常性情報を基に、実世界１の信号である、細線の画像のレベル、すなわち光の強度のレベルを推定し、細線の幅および細線の画像のレベルを示す実世界推定情報を出力する。
【１１６２】
図１８８および図１８９は、実世界１の信号における、細線の幅を検出する処理を説明する図である。
【１１６３】
図１８８および図１８９において、太線で囲む領域（４つの四角からなる領域）は、１つの画素を示し、点線で囲む領域は、細線の画像が射影された画素からなる、細線領域を示し、丸は、細線領域の重心を示す。図１８８および図１８９において、斜線は、センサ２に入射された細線の画像を示す。斜線は、センサ２に、実世界１の細線の画像が射影された領域を示しているとも言える。
【１１６４】
図１８８および図１８９において、Sは、細線領域の重心の位置から算出される傾きを示し、Dは、細線領域の重複である。ここで、傾きSは、細線領域が隣接しているので、画素を単位とした、重心と重心との距離である。また、細線領域の重複Dとは、２つの細線領域において、隣接している画素の数である。
【１１６５】
図１８８および図１８９において、Wは、細線の幅を示す。
【１１６６】
図１８８において、傾きSは、２であり、重複Dは、２である。
【１１６７】
図１８９において、傾きSは、３であり、重複Dは、１である。
【１１６８】
細線領域が隣接し、細線領域が隣接する方向の重心と重心の距離は、１画素であるので、W:D=1:Sが成立し、細線の幅Wは、重複D/傾きSで求めることができる。
【１１６９】
例えば、図１８８で示されるように、傾きSは、２であり、重複Dは、２であるとき、2/2は、1であるから、細線の幅Wは、1である。また、例えば、図１８９で示されるように、傾きSは、３であり、重複Dは、１であるとき、細線の幅Wは、1/3である。
【１１７０】
線幅検出部２１０１は、このように、細線領域の重心の位置から算出される傾き、および細線領域の重複から、細線の幅を検出する。
【１１７１】
図１９０は、実世界１の信号における、細線の信号のレベルを推定する処理を説明する図である。
【１１７２】
図１９０において、太線で囲む領域（４つの四角からなる領域）は、１つの画素を示し、点線で囲む領域は、細線の画像が射影された画素からなる、細線領域を示す。図１９０において、Eは、細線領域の画素を単位とした、細線領域の長さを示し、Dは、細線領域の重複（他の細線領域に隣接している画素の数）である。
【１１７３】
細線の信号のレベルは、処理単位（細線領域）内で一定であると近似し、細線が射影された画素の画素値に射影された、細線以外の画像のレベルは、隣接している画素の画素値に対するレベルに等しいと近似する。
【１１７４】
細線の信号のレベルをCとしたとき、細線領域に射影された信号（画像）における、図中の、細線の信号が射影された部分の左側の部分のレベルをAとし、図中の、細線の信号が射影された部分の右側の部分のレベルをBとする。
【１１７５】
このとき、式（９３）が成立する。
【１１７６】
細線領域の画素値の総和=（E-D）/2*A+(E-D)/2*B+D*C ・・・（９３）
【１１７７】
細線の幅が一定であり、細線領域の幅は、１画素なので、細線領域の細線（の信号が射影された部分）の面積は、細線領域の重複Dに等しい。細線領域の幅は、１画素なので、細線領域の画素を単位とした、細線領域の面積は、細線領域の長さEに等しい。
【１１７８】
細線領域のうち、細線の左側の面積は、(E-D)/2である。細線領域のうち、細線の右側の面積は、(E-D)/2である。
【１１７９】
式（９３）の右辺の第１項は、左側に隣接している画素に射影された信号のレベルと同じレベルの信号が射影された画素値の部分であり、式（９４）で表すことができる。
【１１８０】
【数６８】

・・・（９４）
【１１８１】
式（９４）において、A_iは、左側に隣接している画素の画素値を示す。
【１１８２】
式（９４）において、α_iは、左側に隣接している画素に射影された信号のレベルと同じレベルの信号が、細線領域の画素に射影される面積の割合を示す。すなわち、α_iは、細線領域の画素の画素値に含まれている、左側に隣接している画素の画素値と同じ画素値の割合を示す。
【１１８３】
iは、細線領域の左側に隣接している画素の位置を示す。
【１１８４】
例えば、図１９０において、細線領域の画素の画素値に含まれている、細線領域の左側に隣接している画素の画素値A₀と同じ画素値の割合は、α₀である。図１９０において、細線領域の画素の画素値に含まれている、細線領域の左側に隣接している画素の画素値A₁と同じ画素値の割合は、α₁である。図１９０において、細線領域の画素の画素値に含まれている、細線領域の左側に隣接している画素の画素値A₂と同じ画素値の割合は、α₂である。
【１１８５】
式（９３）の右辺の第２項は、右側に隣接している画素に射影された信号のレベルと同じレベルの信号が射影された画素値の部分であり、式（９５）で表すことができる。
【１１８６】
【数６９】

・・・（９５）
【１１８７】
式（９５）において、B_jは、右側に隣接している画素の画素値を示す。
【１１８８】
式（９５）において、β_jは、右側に隣接している画素に射影された信号のレベルと同じレベルの信号が、細線領域の画素に射影される面積の割合を示す。すなわち、β_jは、細線領域の画素の画素値に含まれている、右側に隣接している画素の画素値と同じ画素値の割合を示す。
【１１８９】
jは、細線領域の右側に隣接している画素の位置を示す。
【１１９０】
例えば、図１９０において、細線領域の画素の画素値に含まれている、細線領域の右側に隣接している画素の画素値B₀と同じ画素値の割合は、β₀である。図１９０において、細線領域の画素の画素値に含まれている、細線領域の右側に隣接している画素の画素値B₁と同じ画素値の割合は、β₁である。図１９０において、細線領域の画素の画素値に含まれている、細線領域の右側に隣接している画素の画素値B₂と同じ画素値の割合は、β₂である。
【１１９１】
このように、信号レベル推定部２１０２は、式（９４）および式（９５）を基に、細線領域に含まれる画素値のうちの、細線以外の画像の画素値を算出し、式（９３）を基に、細線領域の画素値から細線以外の画像の画素値を除去することにより、細線領域に含まれる画素値のうちの、細線のみの画像の画素値を求める。そして、信号レベル推定部２１０２は、細線のみの画像の画素値と細線の面積とから、細線の信号のレベルを求める。より具体的には、信号レベル推定部２１０２は、細線領域に含まれる画素値のうちの、細線のみの画像の画素値を、細線領域の細線の面積、すなわち細線領域の重複Dで割り算することにより、細線の信号のレベルを算出する。
【１１９２】
信号レベル推定部２１０２は、実世界１の信号における、細線の幅、および細線の信号のレベルを示す実世界推定情報を出力する。
【１１９３】
本発明の手法では、細線の波形を画素ではなく幾何学的に記述しているので、どのような解像度でも使用することができる。
【１１９４】
次に、ステップＳ１０２の処理に対応する、実世界の推定の処理を図１９１のフローチャートを参照して説明する。
【１１９５】
ステップＳ２１０１において、線幅検出部２１０１は、データ定常性情報を基に、細線の幅を検出する。例えば、線幅検出部２１０１は、細線領域の重心の位置から算出される傾き、および細線領域の重複から、重複を傾きで割り算することにより、実世界１の信号における、細線の幅を推定する。
【１１９６】
ステップＳ２１０２において、信号レベル推定部２１０２は、細線の幅、および細線領域に隣接する画素の画素値を基に、細線の信号のレベルを推定し、推定された細線の幅および細線の信号のレベルを示す実世界推定情報を出力して、処理は終了する。例えば、信号レベル推定部２１０２は、細線領域に含まれる細線以外の画像が射影された画素値を算出し、細線領域から細線以外の画像が射影された画素値を除去することにより、細線のみの画像が射影された画素値を求めて、求められた細線のみの画像が射影された画素値と細線の面積とから、細線の信号のレベルを算出することにより、実世界１の信号における、細線のレベルを推定する。
【１１９７】
このように、実世界推定部１０２は、実世界１の信号の細線の幅およびレベルを推定することができる。
【１１９８】
以上のように、現実世界の光信号が射影され、現実世界の光信号の定常性の一部が欠落した第１の画像データの、データの定常性を検出し、データの定常性に対応する現実世界の光信号の波形を表すモデルに基いて、第１の画像データの定常性から現実世界の光信号の波形を推定し、推定された光信号を第２の画像データに変換するようにした場合、現実世界の光信号に対して、より正確で、より精度の高い処理結果を得ることができるようになる。
【１１９９】
図１９２は、実世界推定部１０２の他の構成を示すブロック図である。
【１２００】
図１９２に構成を示す実世界推定部１０２においては、入力画像、およびデータ定常性検出部１０１から供給されたデータ定常性情報を基に、領域が再度検出され、再度検出された領域を基に、実世界１の信号である画像における、細線の幅が検出され、実世界１の信号の光の強度（レベル）が推定される。例えば、図１９２に構成を示す実世界推定部１０２においては、細線の画像が射影された画素からなる定常性領域が再度検出され、再度検出された領域を基に、実世界１の信号である画像における、細線の幅が検出され、実世界１の信号の光の強度が推定される。
【１２０１】
データ定常性検出部１０１から供給され、図１９２に構成を示す実世界推定部１０２に入力されるデータ定常性情報には、データ３である入力画像のうちの、細線の画像が射影された定常成分以外の非定常成分を示す非定常成分情報、定常領域の中の単調増減領域を示す単調増減領域情報、および定常領域を示す情報などが含まれている。例えば、データ定常性情報に含まれる非定常成分情報は、入力画像における背景などの非定常成分を近似する平面の傾きおよび切片からなる。
【１２０２】
実世界推定部１０２に入力されたデータ定常性情報は、境界検出部２１２１に供給される。実世界推定部１０２に入力された入力画像は、境界検出部２１２１および信号レベル推定部２１０２に供給される。
【１２０３】
境界検出部２１２１は、データ定常性情報に含まれる非定常成分情報、および入力画像から、細線の画像が射影された定常成分のみからなる画像を生成し、定常成分のみからなる画像を基に、画素に射影された、実世界１の信号である細線の画像が射影された割合を示す分配比を算出し、算出された分配比から細線領域の境界を示す回帰直線を算出することにより、定常領域である細線領域を再び検出する。
【１２０４】
図１９３は、境界検出部２１２１の構成を示すブロック図である。
【１２０５】
分配比算出部２１３１は、データ定常性情報、データ定常性情報に含まれる非定常成分情報、および入力画像から、細線の画像が射影された定常成分のみからなる画像を生成する。より具体的には、分配比算出部２１３１は、データ定常性情報に含まれる単調増減領域情報を基に、入力画像から、定常領域の中の隣り合う単調増減領域を検出し、検出された単調増減領域に属する画素の画素値から、定常成分情報に含まれる傾きおよび切片で示される平面で近似される近似値を引き算することにより、細線の画像が射影された定常成分のみからなる画像を生成する。
【１２０６】
なお、分配比算出部２１３１は、入力画像の画素の画素値から、定常成分情報に含まれる傾きおよび切片で示される平面で近似される近似値を引き算することにより、細線の画像が射影された定常成分のみからなる画像を生成するようにしてもよい。
【１２０７】
分配比算出部２１３１は、生成された定常成分のみからなる画像を基に、実世界１の信号である細線の画像が、定常領域の中の隣り合う単調増減領域に属する２つの画素に分配された割合を示す分配比を算出する。分配比算出部２１３１は、算出した分配比を回帰直線算出部２１３２に供給する。
【１２０８】
図１９４乃至図１９６を参照して、分配比算出部２１３１における、分配比の算出の処理を説明する。
【１２０９】
図１９４の左側の２列の数値は、入力画像の画素値から、定常成分情報に含まれる傾きおよび切片で示される平面で近似される近似値を引き算することにより、算出された画像のうち、縦に２列の画素の画素値を示す。図１９４の左側の四角で囲む２つの領域は、隣り合う２つの単調増減領域である、単調増減領域２１４１−１および単調増減領域２１４１−２を示す。すなわち、単調増減領域２１４１−１および単調増減領域２１４１−２に示す数値は、データ定常性検出部１０１において検出された定常性領域である単調増減領域に属する画素の画素値を示す。
【１２１０】
図１９４の右側の１列の数値は、図１９４の左側の２列の画素の画素値のうち、横に並ぶ画素の画素値を加算した値を示す。すなわち、図１９４の右側の１列の数値は、縦に１列の画素からなる単調増減領域であって、２つの隣接するものについて、横に隣接する画素毎に、細線の画像が射影された画素値を加算した値を示す。
【１２１１】
例えば、それぞれ、縦に１列の画素からなり、隣接する単調増減領域２１４１−１および単調増減領域２１４１−２のいずれかに属し、横に隣接する画素の画素値が、２および５８であるとき、加算した値は、６０である。それぞれ、縦に１列の画素からなり、隣接する単調増減領域２１４１−１および単調増減領域２１４１−２のいずれかに属し、横に隣接する画素の画素値が、１および６５であるとき、加算した値は、６６である。
【１２１２】
図１９４の右側の１列の数値、すなわち、縦に１列の画素からなり、２つの隣接する単調増減領域の横方向に隣接する画素について、細線の画像が射影された画素値を加算した値は、ほぼ一定となることがわかる。
【１２１３】
同様に、横に１列の画素からなり、２つの隣接する単調増減領域の縦方向に隣接する画素について、細線の画像が射影された画素値を加算した値は、ほぼ一定となる。
【１２１４】
分配比算出部２１３１は、２つの隣接する単調増減領域の隣接する画素について、細線の画像が射影された画素値を加算した値が、ほぼ一定となる性質を利用して、細線の画像が１列の画素の画素値にどのように分配されているかを算出する。
【１２１５】
分配比算出部２１３１は、図１９５に示すように、縦に１列の画素からなる単調増減領域であって、２つの隣接するものに属する画素の画素値を、横に隣接する画素毎に、細線の画像が射影された画素値を加算した値で割り算することにより、２つの隣接する単調増減領域に属する各画素について、分配比を算出する。ただし、算出された結果、１００を超える分配比には、１００が設定される。
【１２１６】
例えば、図１９５に示すように、縦に１列の画素からなる単調増減領域であって、２つの隣接するものに属する、横に隣接する画素の画素値が、それぞれ２および５８であるとき、加算した値が６０なので、それぞれの画素に対して、３．５および９５．０である分配比が算出される。縦に１列の画素からなる単調増減領域であって、２つの隣接するものに属する、横に隣接する画素の画素値が、それぞれ１および６５であるとき、加算した値が６６なので、それぞれの画素に対して、１．５および９８．５である分配比が算出される。
【１２１７】
この場合において、３つの単調増減領域が隣接する場合、どちらの列から計算するかは、図１９６で示されるように、横に隣接する画素毎に、細線の画像が射影された画素値を加算した、２つの値のうち、頂点Ｐの画素値により近い値を基に、分配比が算出される。
【１２１８】
例えば、頂点Ｐの画素値が８１であり、注目している単調増減領域に属する画素の画素値が７９であるとき、左側に隣接する画素の画素値が３であり、右側に隣接する画素の画素値が−１である場合、左側に隣接する画素の画素値を加算した値が、８２であり、右側に隣接する画素の画素値を加算した値が、７８なので、頂点Ｐの画素値８１により近い、８２が選択され、左側に隣接する画素を基に、分配比が算出される。同様に、頂点Ｐの画素値が８１であり、注目している単調増減領域に属する画素の画素値が７５であるとき、左側に隣接する画素の画素値が０であり、右側に隣接する画素の画素値が３である場合、左側に隣接する画素の画素値を加算した値が、７５であり、右側に隣接する画素の画素値を加算した値が、７８なので、頂点Ｐの画素値８１により近い、７８が選択され、右側に隣接する画素を基に、分配比が算出される。
【１２１９】
このように、分配比算出部２１３１は、縦に１列の画素からなる単調増減領域について、分配比を算出する。
【１２２０】
分配比算出部２１３１は、同様の処理で、横に１列の画素からなる単調増減領域について、分配比を算出する。
【１２２１】
回帰直線算出部２１３２は、単調増減領域の境界が直線であると仮定して、分配比算出部２１３１において算出された分配比を基に、単調増減領域の境界を示す回帰直線を算出することにより、定常領域の中の単調増減領域を再び検出する。
【１２２２】
図１９７および図１９８を参照して、回帰直線算出部２１３２における、単調増減領域の境界を示す回帰直線の算出の処理を説明する。
【１２２３】
図１９７において、白丸は、単調増減領域２１４１−１乃至単調増減領域２１４１−５の上側の境界に位置する画素を示す。回帰直線算出部２１３２は、回帰の処理により、単調増減領域２１４１−１乃至単調増減領域２１４１−５の上側の境界について回帰直線を算出する。例えば、回帰直線算出部２１３２は、単調増減領域２１４１−１乃至単調増減領域２１４１−５の上側の境界に位置する画素との距離の自乗の和が最小となる直線Ａを算出する。
【１２２４】
また、図１９７において、黒丸は、単調増減領域２１４１−１乃至単調増減領域２１４１−５の下側の境界に位置する画素を示す。回帰直線算出部２１３２は、回帰の処理により、単調増減領域２１４１−１乃至単調増減領域２１４１−５の下側の境界について回帰直線を算出する。例えば、回帰直線算出部２１３２は、単調増減領域２１４１−１乃至単調増減領域２１４１−５の下側の境界に位置する画素との距離の自乗の和が最小となる直線Ｂを算出する。
【１２２５】
回帰直線算出部２１３２は、算出された回帰直線を基に、単調増減領域の境界を決定することにより、定常領域の中の単調増減領域を再び検出する。
【１２２６】
図１９８に示すように、回帰直線算出部２１３２は、算出された直線Ａを基に、単調増減領域２１４１−１乃至単調増減領域２１４１−５の上側の境界を決定する。例えば、回帰直線算出部２１３２は、単調増減領域２１４１−１乃至単調増減領域２１４１−５のそれぞれについて、算出された直線Ａに最も近い画素から上側の境界を決定する。例えば、回帰直線算出部２１３２は、単調増減領域２１４１−１乃至単調増減領域２１４１−５のそれぞれについて、算出された直線Ａに最も近い画素が領域に含まれるように上側の境界を決定する。
【１２２７】
図１９８に示すように、回帰直線算出部２１３２は、算出された直線Ｂを基に、単調増減領域２１４１−１乃至単調増減領域２１４１−５の下側の境界を決定する。例えば、回帰直線算出部２１３２は、単調増減領域２１４１−１乃至単調増減領域２１４１−５のそれぞれについて、算出された直線Ｂに最も近い画素から下側の境界を決定する。例えば、回帰直線算出部２１３２は、単調増減領域２１４１−１乃至単調増減領域２１４１−５のそれぞれについて、算出された直線Ｂに最も近い画素が領域に含まれるように下側の境界を決定する。
【１２２８】
このように、回帰直線算出部２１３２は、データ定常性検出部１０１により検出された定常領域の境界を回帰する回帰線に基づいて、頂点から単調に画素値が増加または減少している領域を再び検出する。すなわち、回帰直線算出部２１３２は、算出された回帰直線を基に、単調増減領域の境界を決定することにより、定常領域の中の単調増減領域である領域を再び検出し、検出した領域を示す領域情報を線幅検出部２１０１に供給する。
【１２２９】
以上のように、境界検出部２１２１は、画素に射影された、実世界１の信号である細線の画像が射影された割合を示す分配比を算出し、算出された分配比から単調増減領域の境界を示す回帰直線を算出することにより、定常領域の中の単調増減領域を再び検出する。このようにすることで、より正確な単調増減領域を検出することができる。
【１２３０】
図１９２に示す線幅検出部２１０１は、境界検出部２１２１から供給された、再度検出された領域を示す領域情報を基に、図１８７に示す場合と同様の処理で、細線の幅を検出する。線幅検出部２１０１は、データ定常性情報と共に、検出された細線の幅を示す細線幅情報を信号レベル推定部２１０２に供給する。
【１２３１】
図１９２に示す信号レベル推定部２１０２の処理は、図１８７に示す場合と同様の処理なので、その説明は省略する。
【１２３２】
図１９９は、ステップＳ１０２の処理に対応する、図１９２に構成を示す実世界推定部１０２による、実世界の推定の処理を説明するフローチャートである。
【１２３３】
ステップＳ２１２１において、境界検出部２１２１は、データ定常性検出部１０１により検出された定常領域に属する画素の画素値に基づいて、再び領域を検出する、境界検出の処理を実行する。境界検出の処理の詳細は、後述する。
【１２３４】
ステップＳ２１２２およびステップＳ２１２３の処理は、ステップＳ２１０１およびステップＳ２１０２の処理と同様なので、その説明は省略する。
【１２３５】
図２００は、ステップＳ２１２１の処理に対応する、境界検出の処理を説明するフローチャートである。
【１２３６】
ステップＳ２１３１において、分配比算出部２１３１は、単調増減領域を示すデータ定常性情報および入力画像を基に、細線の画像が射影された割合を示す分配比を算出する。例えば、分配比算出部２１３１は、データ定常性情報に含まれる単調増減領域情報を基に、入力画像から、定常領域の中の隣り合う単調増減領域を検出し、検出された単調増減領域に属する画素の画素値から、定常成分情報に含まれる傾きおよび切片で示される平面で近似される近似値を引き算することにより、細線の画像が射影された定常成分のみからなる画像を生成する。そして、分配比算出部２１３１は、１列の画素からなる単調増減領域であって、２つの隣接するものに属する画素の画素値を、隣接する画素の画素値の和で割り算することにより、２つの隣接する単調増減領域に属する各画素について、分配比を算出する。
【１２３７】
分配比算出部２１３１は、算出された分配比を回帰直線算出部２１３２に供給する。
【１２３８】
ステップＳ２１３２において、回帰直線算出部２１３２は、細線の画像が射影された割合を示す分配比を基に、単調増減領域の境界を示す回帰直線を算出することにより、定常領域の中の領域を再び検出する。例えば、回帰直線算出部２１３２は、単調増減領域の境界が直線であると仮定して、単調増減領域の一端の境界を示す回帰直線を算出し、単調増減領域の他の一端の境界を示す回帰直線を算出することにより、定常領域の中の単調増減領域を再び検出する。
【１２３９】
回帰直線算出部２１３２は、再び検出された、定常領域の中の領域を示す領域情報を線幅検出部２１０１に供給して、処理は終了する。
【１２４０】
このように、図１９２に構成を示す実世界推定部１０２は、細線の画像が射影された画素からなる領域を再度検出し、再度検出された領域を基に、実世界１の信号である画像における、細線の幅を検出し、実世界１の信号の光の強度（レベル）を推定する。このようにすることで、実世界１の信号に対して、より正確に、細線の幅を検出し、より正確に、光の強度を推定することができる。
【１２４１】
以上のように、現実世界の光信号が射影され、現実世界の光信号の定常性の一部が欠落した第１の画像データにおける、複数の画素の画素値の不連続部を検出し、検出された不連続部から、データの定常性を有する定常領域を検出し、検出された定常領域に属する画素の画素値に基づいて、再び領域を検出し、再び検出された領域に基づいて実世界を推定するようにした場合、現実世界の事象に対して、より正確で、より精度の高い処理結果を得ることができるようになる。
【１２４２】
次に、図２０１を参照して、定常性を有する領域における、画素毎の空間方向の近似関数の微分値を実世界推定情報として出力する実世界推定部１０２について説明する。
【１２４３】
参照画素抽出部２２０１は、データ定常性検出部１０１より入力されるデータ定常性情報（定常性の角度、または、領域の情報）に基づいて、入力画像の各画素が処理領域であるか否かを判定し、処理領域である場合には、入力画像から実世界の近似関数を求めるために必要な参照画素の情報（演算に必要な注目画素周辺の複数の画素の位置、および、画素値の情報）を抽出して、近似関数推定部２２０２に出力する。
【１２４４】
近似関数推定部２２０２は、参照画素抽出部２２０１より入力された参照画素の情報に基づいて注目画素周辺の現実世界を近似的に記述する近似関数を最小自乗法に基づいて推定し、推定した近似関数を微分処理部２２０３に出力する。
【１２４５】
微分処理部２２０３は、近似関数推定部２２０２より入力された近似関数に基づいて、データ定常性情報の角度（例えば、細線や２値エッジの所定の軸に対する角度：傾き）に応じて、注目画素から生成しようとする画素の位置のシフト量を求め、そのシフト量に応じた近似関数上の位置における微分値（定常性に対応する線からの１次元方向に沿った距離に対応する各画素の画素値を近似する関数の微分値）を演算し、さらに、注目画素の位置、画素値、および、定常性の傾きの情報を付加して、これを実世界推定情報として画像生成部１０３に出力する。
【１２４６】
次に、図２０２のフローチャートを参照して、図２０１の実世界推定部１０２による実世界推定の処理について説明する。
【１２４７】
ステップＳ２２０１において、参照画素抽出部２２０１は、入力画像と共に、データ定常性検出部１０１よりデータ定常性情報としての角度、および、領域の情報を取得する。
【１２４８】
ステップＳ２２０２において、参照画素抽出部２２０１は、入力画像の未処理画素から注目画素を設定する。
【１２４９】
ステップＳ２２０３において、参照画像抽出部２２０１は、データ定常性情報の領域の情報に基づいて、注目画素が、処理領域のものであるか否かを判定し、処理領域の画素ではないと判定した場合、その処理は、ステップＳ２２１０に進み、その注目画素については、処理領域外であることを近似関数推定部２２０２を介して、微分処理部２２０３に伝え、これに応じて、微分処理部２２０３が、対応する注目画素についての微分値を０として、さらに、その注目画素の画素値を付加して実世界推定情報として画像生成部１０３に出力すると共に、その処理は、ステップＳ２２１１に進む。また、注目画素が処理領域のものであると判定された場合、その処理は、ステップＳ２２０４に進む。
【１２５０】
ステップＳ２２０４において、参照画素抽出部２２０１は、データ定常性情報に含まれる角度の情報から、データ定常性の有する方向が、水平方向に近い角度か、または、垂直に近い角度であるか否かを判定する。すなわち、参照画素抽出部２２０１は、データ定常性の有する角度θが、0度≦θ＜45度、または、135度≦θ＜180度となる場合、注目画素の定常性の方向は、水平方向に近いと判定し、データ定常性の有する角度θが、45度≦θ＜135度となる場合、注目画素の定常性の方向は、垂直方向に近いと判定する。
【１２５１】
ステップＳ２２０５において、参照画素抽出部２２０１は、判定した方向に対応した参照画素の位置情報、および、画素値をそれぞれ入力画像から抽出し、近似関数推定部２２０２に出力する。すなわち、参照画素は、後述する近似関数を演算する際に使用されるデータとなるので、傾きに応じて抽出されることが望ましい。従って、水平方向、または、垂直方向のいずれかの判定方向に対応して、その方向に長い範囲の参照画素が抽出される。より具体的には、例えば、図２０３で示されるように、傾きＧ_fが垂直方向に近いと、垂直方向であると判定され、この場合、参照画素抽出部２２０１は、例えば、図２０３で示されるように、図２０３中の中央の画素（０，０）を注目画素とするとき、画素（−１，２），（−１，１），（−１，０），（−１，−１），（−１，−２），（０，２），（０，１），（０，０），（０，−１），（０，−２），（１，２），（１，１），（１，０），（１，−１），（１，−２）のそれぞれの画素値を抽出する。尚、図２０３においては、各画素の水平方向、および、垂直方向の大きさが１であるものとする。
【１２５２】
すなわち、参照画素抽出部２２０１は、注目画素を中心として垂直（上下）方向にそれぞれ２画素×水平（左右）方向にそれぞれ１画素の合計１５画素となるように、垂直方向に長い範囲の画素を参照画素として抽出する。
【１２５３】
逆に、水平方向であると判定された場合、注目画素を中心として垂直（上下）方向にそれぞれ１画素×水平（左右）方向にそれぞれ２画素の合計１５画素となるように、水平方向に長い範囲の画素を参照画素として抽出して、近似関数推定部２２０２に出力する。もちろん、参照画素は、上述のように１５画素に限定されるものではなく、それ以外の個数であってもよい。
【１２５４】
ステップＳ２２０６において、近似関数推定部２２０２は、参照画素抽出部２２０１より入力された参照画素の情報に基づいて、最小自乗法により近似関数f(x)を推定し、微分処理部２２０３に出力する。
【１２５５】
すなわち、近似関数f(x)は、以下の式（９６）で示されるような多項式である。
【１２５６】
【数７０】

・・・（９６）
【１２５７】
このように、式（９６）の多項式の各係数W₁乃至W_n+1が求められれば、実世界を近似する近似関数f(x)が求められることになる。しかしながら、係数の数よりも多くの参照画素値が必要となるので、例えば、参照画素が、図２０３で示されるような場合、合計１５画素であるので、多項式の係数は、１５個までしか求められない。そこで、この場合、多項式は、１４次までの多項式とし、係数W₁乃至W₁₅を求めることにより近似関数を推定するものとする。尚、今の場合、１５次の多項式からなる近似関数f(x)を設定して、連立方程式としてもよい。
【１２５８】
従って、図２０３で示される１５個の参照画素値を用いるとき、近似関数推定部２２０２は、以下の式（９７）を、最小自乗法を用いて解くことにより推定する。
【１２５９】

【１２６０】
尚、多項式の次数にあわせて、参照画素の数を変えるようにしてもよい。
【１２６１】
ここで、Cx(ty)は、シフト量であり、定常性の傾きがＧ_fで示されるとき、Cx(ty)＝ty／Ｇ_fで定義される。このシフト量Cx(ty)は、空間方向Ｙ＝0の位置上で定義される近似関数f(x)が、傾きＧ_fに沿って、連続している（定常性を有している）ことを前提としたとき、空間方向Ｙ=tyの位置における、空間方向Ｘに対するずれ幅を示すものである。従って、例えば、空間方向Ｙ＝0の位置上で近似関数がf(x)として定義されている場合、この近似関数f(x)は、空間方向Ｙ=tyにおいては、傾きＧ_fに沿って空間方向ＸについてCx(ty)だけずれているはずなので、関数は、f(x−Cx(ty))（＝f(x−ty／Ｇ_f)）で定義されることになる。
【１２６２】
ステップＳ２２０７において、微分処理部２２０３は、近似関数推定部２２０２より入力された近似関数f(x)に基づいて、生成しようとする画素の位置における、シフト量を求める。
【１２６３】
すなわち、水平方向、および、垂直方向にそれぞれ２倍の密度（合計４倍の密度）となるように画素を生成する場合、微分処理部２２０３は、例えば、まず、垂直方向に２倍の密度となる画素Pa，Pbに２分割するために、図２０４で示されるように、注目画素の中心位置がPin（Xin，Yin）での微分値を求めるため、中心位置のPin（Xin，Yin）のシフト量を求める。このシフト量は、Cx(0)となるため、実質的には０となる。尚、図２０４中において、画素Pinは、（Xin，Yin）を略重心位置とする正方形であり、画素Pa，Pbは、（Xin，Yin+0.25）、（Xin，Yin−0.25）をそれぞれ略重心位置とする図中水平方向に長い長方形である。
【１２６４】
ステップＳ２２０８において、微分処理部２２０３は、近似関数f(x)を微分して、近似関数の１次微分関数f(x)'を求め、求められたシフト量に応じた位置での微分値を求めて、これを実世界推定情報として画像生成部１０３に出力する。すなわち、今の場合、微分処理部２２０３は、微分値f(Xin)'を求め、その位置（今の場合、注目画素（Xin，Yin））と、その画素値、および、定常性の方向の傾きの情報とを付加して出力する。
【１２６５】
ステップＳ２２０９において、微分処理部２２０３は、求められている密度の画素を生成するのに必要なだけの微分値が求められているか否かを判定する。例えば、今の場合、２倍の密度となるための微分値のみしか求められていない（空間方向Ｙ方向について２倍の密度となるための微分値のみしか求められていない）ので、求められている密度の画素を生成するのに必要なだけの微分値が求められていないと判定し、その処理は、ステップＳ２２０７に戻る。
【１２６６】
ステップＳ２２０７において、微分処理部２２０３は、再度、近似関数推定部２２０２より入力された近似関数f(x)に基づいて、生成しようとする画素の位置における、シフト量を求める。すなわち、微分処理部２２０３は、今の場合、２分割された画素Pa，Pbのそれぞれを２分割するために必要な微分値をそれぞれ求める。画素Pa，Pbの画素の位置は、図２０４における黒丸で示すそれぞれの位置であるので、微分処理部２２０３は、それぞれの位置に対応するシフト量を求める。画素Pa，Pbのシフト量は、それぞれCx（0.25），Cx(−0.25)となる。
【１２６７】
ステップＳ２２０８において、微分処理部２２０３は、近似関数f(x)を１次微分して、画素Pa，Pbのそれぞれに対応したシフト量に応じた位置での微分値を求めて、これを実世界推定情報として画像生成部１０３に出力する。
【１２６８】
すなわち、図２０３で示した参照画素を使用する場合、微分処理部２２０３は、図２０５で示すように、求められた近似関数f(x)について微分関数f(x)'を求め、空間方向Ｘについて、シフト量Cx（0.25），Cx(−0.25)だけずれた位置となる（Xin−Cx（0.25））と（Xin−Cx（−0.25））の位置での微分値をそれぞれf（Xin−Cx（0.25））'，f（Xin−Cx（−0.25））'として求め、その微分値に対応する位置情報を付加して、これを実世界推定情報として出力する。尚、最初の処理で画素値の情報が出力されているので画素値の情報は付加されない。
【１２６９】
ステップＳ２２０９において、再び、微分処理部２２０３は、求められている密度の画素を生成するのに必要なだけの微分値が求められているか否かを判定する。例えば、今の場合、４倍の密度となるための微分値が求められたことになるので、求められている密度の画素を生成するのに必要なだけの微分値が求められたと判定し、その処理は、ステップＳ２２１１に進む。
【１２７０】
ステップＳ２２１１において、参照画素抽出部２２０１は、全ての画素を処理したか否かを判定し、全ての画素を処理していないと判定した場合、その処理は、ステップＳ２２０２に戻る。また、ステップＳ２２１１において、全ての画素を処理したと判定した場合、その処理は、終了する。
【１２７１】
上述のように、入力画像について、水平方向、および、垂直方向に４倍の密度となるように画素を生成する場合、画素は、分割される画素の中央の位置の近似関数の微分値を用いて、外挿補間により分割されるので、４倍密度の画素を生成するには、合計３個の微分値の情報が必要となる。
【１２７２】
すなわち、図２０４で示されるように、1画素について最終的には、画素Ｐ０１，Ｐ０２，Ｐ０３，Ｐ０４の４画素（図２０４において、画素Ｐ０１，Ｐ０２，Ｐ０３，Ｐ０４は、図中の４個のバツ印の位置を重心位置とする正方形であり、各辺の長さは、画素Pinが、それぞれ１であるので、画素Ｐ０１，Ｐ０２，Ｐ０３，Ｐ０４は、それぞれ略０．５となる）の生成に必要な微分値が必要となるので、４倍密度の画素を生成するには、まず、水平方向、または、垂直方向（今の場合、垂直方向）に２倍密度の画素を生成し（上述の最初のステップＳ２２０７，Ｓ２２０８の処理）、さらに、分割された２画素を、それぞれ最初に分割した方向と垂直の方向（今の場合、水平方向）に分割する（上述の２回目のステップＳ２２０７，Ｓ２２０８の処理）ためである。
【１２７３】
尚、以上の例においては、４倍密度の画素を演算する際の微分値を例として説明してきたが、それ以上の密度の画素を演算する場合、ステップＳ２２０７乃至Ｓ２２０９の処理を繰り返すことにより、画素値の演算に必要なさらに多くの微分値を求めるようにしてもよい。また、以上の例については、倍密度の画素値を求める例について説明してきたが、近似関数f(x)は連続関数であるので、倍密度以外の画素値についても必要な微分値を求めることが可能となる。
【１２７４】
以上によれば、注目画素近傍の画素の画素値を使用して、実世界を近似的に表現する近似関数を求め、空間方向の画素の生成必要な位置の微分値を実世界推定情報として出力することが可能となる。
【１２７５】
以上の図２０１において説明した実世界推定部１０２においては、画像を生成するのに必要な微分値を実世界推定情報として出力していたが、微分値とは、必要な位置での近似関数f(x)の傾きと同値のものである。
【１２７６】
そこで、次は、図２０６を参照して、近似関数f(x)を求めることなく、画素生成に必要な近似関数f(x)上の傾きのみを直接求めて、実世界推定情報として出力する実世界推定部１０２について説明する。
【１２７７】
参照画素抽出部２２１１は、データ定常性検出部１０１より入力されるデータ定常性情報（定常性の角度、または、領域の情報）に基づいて、入力画像の各画素が処理領域であるか否かを判定し、処理領域である場合には、入力画像から傾きを求めるために必要な参照画素の情報（演算に必要な注目画素を含む垂直方向に並ぶ周辺の複数の画素、または、注目画素を含む水平方向に並ぶ周辺の複数の画素の位置、および、それぞれの画素値の情報）を抽出して、傾き推定部２２１２に出力する。
【１２７８】
傾き推定部２２１２は、参照画素抽出部２２１１より入力された参照画素の情報に基づいて、画素生成に必要な画素位置の傾きの情報を生成して、実世界推定情報として画像生成部１０３に出力する。より詳細には、傾き推定部２２１２は、画素間の画素値の差分情報を用いて、実世界を近似的に表現する近似関数f(x)上の注目画素の位置における傾きを求め、これに、注目画素の位置情報、画素値、および、定常性の方向の傾きの情報を実世界推定情報として出力する。
【１２７９】
次に、図２０７のフローチャートを参照して、図２０６の実世界推定部１０２による実世界推定の処理について説明する。
【１２８０】
ステップＳ２２２１において、参照画素抽出部２２１１は、入力画像と共に、データ定常性検出部１０１よりデータ定常性情報としての角度、および、領域の情報を取得する。
【１２８１】
ステップＳ２２２２において、参照画素抽出部２２１１は、入力画像の未処理画素から注目画素を設定する。
【１２８２】
ステップＳ２２２３において、参照画像抽出部２２１１は、データ定常性情報の領域の情報に基づいて、注目画素が、処理領域のものであるか否かを判定し、処理領域の画素ではないと判定した場合、その処理は、ステップＳ２２２８に進み、その注目画素については、処理領域外であることを傾き推定部２２１２に伝え、これに応じて、傾き推定部２２１２が、対応する注目画素についての傾きを０として、さらに、その注目画素の画素値を付加して実世界推定情報として画像生成部１０３に出力すると共に、その処理は、ステップＳ２２２９に進む。また、注目画素が処理領域のものであると判定された場合、その処理は、ステップＳ２２２４に進む。
【１２８３】
ステップＳ２２２４において、参照画素抽出部２２１１は、データ定常性情報に含まれる角度の情報から、データ定常性の有する方向が、水平方向に近い角度か、または、垂直に近い角度であるか否かを判定する。すなわち、参照画素抽出部２２１１は、データ定常性の有する角度θが、0度≦θ＜45度、または、135度≦θ＜180度となる場合、注目画素の定常性の方向は、水平方向に近いと判定し、データ定常性の有する角度θが、45度≦θ＜135度となる場合、注目画素の定常性の方向は、垂直方向に近いと判定する。
【１２８４】
ステップＳ２２２５において、参照画素抽出部２２１１は、判定した方向に対応した参照画素の位置情報、および、画素値をそれぞれ入力画像から抽出し、傾き推定部２２１２に出力する。すなわち、参照画素は、後述する傾きを演算する際に使用されるデータとなるので、定常性の方向を示す傾きに応じて抽出されることが望ましい。従って、水平方向、または、垂直方向のいずれかの判定方向に対応して、その方向に長い範囲の参照画素が抽出される。より具体的には、例えば、傾きが垂直方向に近いと判定された場合、参照画素抽出部２２１１は、図２０８で示されるように、図２０８中の中央の画素（０，０）を注目画素とするとき、画素（０，２），（０，１），（０，０），（０，−１），（０，−２）のそれぞれの画素値を抽出する。尚、図２０８においては、各画素の大きさが水平方向、および、垂直方向についてそれぞれ１であるものとする。
【１２８５】
すなわち、参照画素抽出部２２１１は、注目画素を中心として垂直（上下）方向にそれぞれ２画素の合計５画素となるように、垂直方向に長い範囲の画素を参照画素として抽出する。
【１２８６】
逆に、水平方向であると判定された場合、注目画素を中心として水平（左右）方向に２画素の合計５画素となるように、水平方向に長い範囲の画素を参照画素として抽出して、傾き推定部２２１２に出力する。もちろん、参照画素は、上述のように５画素に限定されるものではなく、それ以外の個数であってもよい。
【１２８７】
ステップＳ２２２６において、傾き推定部２２１２は、参照画素抽出部２２１１より入力された参照画素の情報と、定常性方向の傾きＧ_fに基づいて、それぞれの画素値のシフト量を演算する。すなわち、空間方向Ｙ=0に対応する近似関数f(x)を基準とした場合、空間方向Ｙ＝−２，−１，１，２に対応する近似関数は、図２０８で示されるように、定常性の傾きＧ_fに沿って連続していることになるので、各近似関数は、f(x−Cx(2))，f(x−Cx(1))，f(x−Cx(−1))，f(x−Cx(−2))のように記述され、空間方向Ｙ＝−２，−１，１，２毎に、各シフト量分だけ空間方向Ｘにずれた関数として表現される。
【１２８８】
そこで、傾き推定部２２１２は、これらのシフト量Cx（−２）乃至Cx（２）を求める。例えば、参照画素が、図２０８で示されるように抽出された場合、そのシフト量は、図中の参照画素（０，２）は、Cx(２)＝２／Ｇ_fとなり、参照画素（０，１）は、Cx(１)＝１／Ｇ_fとなり、参照画素（０，０）は、Cx(０)＝０となり、参照画素（０，−１）は、Cx(−１)＝−１／Ｇ_fとなり、参照画素（０，−２）は、Cx(−２)＝−２／Ｇ_fとなる。
【１２８９】
ステップＳ２２２７において、傾き推定部２２１２は、注目画素の位置における近似関数f(x)上の傾きを演算する（推定する）。例えば、図２０８で示されるように、注目画素について定常性の方向が、垂直方向に近い角度の場合、水平方向に隣接する画素間では画素値が大きく異なるので、垂直方向の画素間では、画素間の変化が小さく、変化が類似していることから、傾き推定部２２１２は、垂直方向の画素間の変化をシフト量による空間方向Ｘの変化と捕らえることにより、垂直方向の画素間の差分を水平方向の画素間の差分に置き換えて、注目画素の位置における近似関数f(x)上での傾きを求める。
【１２９０】
すなわち、現実世界を近似的に記述する近似関数f(x)が存在すると仮定すると、上述のシフト量と各参照画素の画素値との関係は、図２０９で示されるようなものとなる。ここで、図２０８の各画素の画素値は、上からP（０，２），P（０，１），P（０，０），P（０，−１），P（０，−２）で表される。結果として、注目画素（０，０）近傍の画素値Pとシフト量Cxは、（Ｐ，Ｃｘ）＝（Ｐ（０，２），−Cx（２）），（Ｐ（０，１），−Cx（１）），（Ｐ（０，−１），−Cx（−１）），（Ｐ（０，−２），−Cx（−２）），（Ｐ（０，０），０）の５組の関係が得られることになる。
【１２９１】
ところで、画素値Ｐ、シフト量Ｃx、および、傾きＫｘ（近似関数f(x)上の傾き）は、以下のような式（９８）のような関係が成立することになる。
【１２９２】

【１２９３】
上述の式（９８）は、変数Ｋｘについての１変数の関数であるので、傾き推定部２２１２は、この変数Ｋｘ（傾き）について、１変数の最小自乗法により傾きＫｘを求める。
【１２９４】
すなわち、傾き推定部２２１２は、以下に示すような式（９９）のような正規方程式を解くことにより、注目画素の傾きを求め、注目画素の画素値、および、定常性の方向の傾きの情報を付加して、実世界推定情報として画像生成部１０３に出力する。
【１２９５】
【数７１】

・・・（９９）
【１２９６】
ここで、ｉは、上述の参照画素の画素値Ｐとシフト量Ｃの組をそれぞれ識別する番号であり、１乃至ｍである。また、ｍは、注目画素を含む参照画素の個数となる。
【１２９７】
ステップＳ２２２９において、参照画素抽出部２２１１は、全ての画素を処理したか否かを判定し、全ての画素を処理していないと判定した場合、その処理は、ステップＳ２２２２に戻る。また、ステップＳ２２２９において、全ての画素が処理されたと判定された場合、その処理は、終了する。
【１２９８】
尚、上述の処理により実世界推定情報として出力される傾きは、最終的に求めようとする画素値を外挿補間して演算する際に使用される。また、以上の例においては、２倍密度の画素を演算する際の傾きを例として説明してきたが、それ以上の密度の画素を演算する場合、画素値の演算に必要な、さらに多くの位置での傾きを求めるようにしてもよい。
【１２９９】
例えば、図２０４で示されるように、水平方向に２倍の密度で、かつ、垂直方向に２倍の密度の空間方向に合計４倍の密度の画素を生成する場合、上述したように、図２０４中のPin，Pa，Pbのそれぞれの位置に対応する近似関数f(x)の傾きＫｘを求めるようにすればよい。
【１３００】
また、以上の例については、倍密度の画素値を求める例について説明してきたが、近似関数f(x)は連続関数であるので、倍密度以外の位置の画素の画素値についても必要な傾きを求めることが可能となる。
【１３０１】
以上によれば、注目画素近傍の画素の画素値を使用して、実世界を近似的に表現する近似関数を求めることなく、空間方向の画素の生成必要な位置の近似関数上の傾きを実世界推定情報として生成し、さらに出力することが可能となる。
【１３０２】
次に、図２１０を参照して、定常性を有する領域における、画素毎のフレーム方向（時間方向）の近似関数上の微分値を実世界推定情報として出力する実世界推定部１０２について説明する。
【１３０３】
参照画素抽出部２２３１は、データ定常性検出部１０１より入力されるデータ定常性情報（定常性の動き（動きベクトル）、および、領域の情報）に基づいて、入力画像の各画素が処理領域であるか否かを判定し、処理領域である場合には、入力画像から実世界の近似関数を求めるために必要な参照画素の情報（演算に必要な注目画素周辺の複数の画素の位置、および、画素値の情報）を抽出して、近似関数推定部２２３２に出力する。
【１３０４】
近似関数推定部２２３２は、参照画素抽出部２２３１より入力されたフレーム方向の参照画素の情報に基づいて注目画素周辺の現実世界を近似的に記述する近似関数を最小自乗法に基づいて推定し、推定した関数を微分処理部２２３３に出力する。
【１３０５】
微分処理部２２３３は、近似関数推定部２２３２より入力されたフレーム方向の近似関数に基づいて、データ定常性情報の動きに応じて、注目画素から生成しようとする画素の位置のフレーム方向のシフト量を求め、そのシフト量に応じたフレーム方向の近似関数上の位置における微分値（定常性に対応する線からの１次元方向に沿った距離に対応する各画素の画素値を近似する関数の微分値）を演算し、さらに、注目画素の位置、画素値、および、定常性の動きの情報を付加して、これを実世界推定情報として画像生成部１０３に出力する。
【１３０６】
次に、図２１１のフローチャートを参照して、図２１０の実世界推定部１０２による実世界推定の処理について説明する。
【１３０７】
ステップＳ２２４１において、参照画素抽出部２２３１は、入力画像と共に、データ定常性検出部１０１よりデータ定常性情報としての動き、および、領域の情報を取得する。
【１３０８】
ステップＳ２２４２において、参照画素抽出部２２３１は、入力画像の未処理画素から注目画素を設定する。
【１３０９】
ステップＳ２２４３において、参照画像抽出部２２３１は、データ定常性情報の領域の情報に基づいて、注目画素が、処理領域のものであるか否かを判定し、処理領域の画素ではないと判定した場合、その処理は、ステップＳ２２５０に進み、その注目画素については、処理領域外であることを近似関数推定部２２３２を介して、微分処理部２２３３に伝え、これに応じて、微分処理部２２３３が、対応する注目画素についての微分値を０として、さらに、その注目画素の画素値を付加して実世界推定情報として画像生成部１０３に出力すると共に、その処理は、ステップＳ２２５１に進む。また、注目画素が処理領域のものであると判定された場合、その処理は、ステップＳ２２４４に進む。
【１３１０】
ステップＳ２２４４において、参照画素抽出部２２３１は、データ定常性情報に含まれる動きの情報から、データ定常性の動きが、空間方向に近い動きか、または、フレーム方向に近い動きであるか否かを判定する。すなわち、図２１２で示されるように、フレーム方向Ｔと空間方向Ｙからなる面において、フレーム方向を基準軸とした、時間と空間の面内の方向を示す角度をθｖとすれば、参照画素抽出部２２３１は、データ定常性の有する角度θｖが、0度≦θｖ＜45度、または、135度≦θｖ＜180度となる場合、注目画素の定常性の動きは、フレーム方向（時間方向）に近いと判定し、データ定常性の有する角度θｖが、45度≦θｖ＜135度となる場合、注目画素の定常性の動きは、空間方向に近いと判定する。
【１３１１】
ステップＳ２２４５において、参照画素抽出部２２３１は、判定した方向に対応した参照画素の位置情報、および、画素値をそれぞれ入力画像から抽出し、近似関数推定部２２３２に出力する。すなわち、参照画素は、後述する近似関数を演算する際に使用されるデータとなるので、角度に応じて抽出されることが望ましい。従って、フレーム方向、または、空間方向のいずれかの判定方向に対応して、その方向に長い範囲の参照画素が抽出される。より具体的には、例えば、図２１２で示されるように、動き方向Ｖ_fが空間方向に近いと、空間方向であると判定され、この場合、参照画素抽出部２２３１は、例えば、図２１２で示されるように、図２１２中の中央の画素（ｔ，ｙ）＝（０，０）を注目画素とするとき、画素（ｔ，ｙ）＝（−１，２），（−１，１），（−１，０），（−１，−１），（−１，−２），（０，２），（０，１），（０，０），（０，−１），（０，−２），（１，２），（１，１），（１，０），（１，−１），（１，−２）のそれぞれの画素値を抽出する。尚、図２１２においては、各画素のフレーム方向、および、空間方向の大きさが１であるものとする。
【１３１２】
すなわち、参照画素抽出部２２３１は、注目画素を中心として空間（図中の上下）方向にそれぞれ２画素×フレーム（図中の左右）方向にそれぞれ１フレーム分の合計１５画素となるように、フレーム方向に対して空間方向が長い範囲の画素を参照画素として抽出する。
【１３１３】
逆に、フレーム方向であると判定された場合、注目画素を中心として空間（図中の上下）方向にそれぞれ１画素×フレーム（図中の左右）方向にそれぞれ２フレーム分の合計１５画素となるように、フレーム方向に長い範囲の画素を参照画素として抽出して、近似関数推定部２２３２に出力する。もちろん、参照画素は、上述のように１５画素に限定されるものではなく、それ以外の個数であってもよい。
【１３１４】
ステップＳ２２４６において、近似関数推定部２２３２は、参照画素抽出部２２３１より入力された参照画素の情報に基づいて、最小自乗法により近似関数f(t)を推定し、微分処理部２２３３に出力する。
【１３１５】
すなわち、近似関数f(t)は、以下の式（１００）で示されるような多項式である。
【１３１６】
【数７２】

・・・（１００）
【１３１７】
このように、式（１００）の多項式の各係数W₁乃至W_n+1が求められれば、実世界を近似するフレーム方向の近似関数f(t)が求められることになる。しかしながら、係数の数よりも多くの参照画素値が必要となるので、例えば、参照画素が、図２１２で示されるような場合、合計１５画素であるので、多項式の係数は、１５個までしか求められない。そこで、この場合、多項式は、１４次までの多項式とし、係数W₁乃至W₁₅を求めることにより近似関数を推定するものとする。尚、今の場合、１５次の多項式からなる近似関数f(x)を設定して、連立方程式としてもよい。
【１３１８】
従って、図２１２で示される１５個の参照画素値を用いるとき、近似関数推定部２２３２は、以下の式（１０１）を、最小自乗法を用いて解くことにより推定する。
【１３１９】

【１３２０】
尚、多項式の次数にあわせて、参照画素の数を変えるようにしてもよい。
【１３２１】
ここで、Ct(ty)は、シフト量であり、上述のCx(ty)と同様のものであり、定常性の傾きがＶ_fで示されるとき、Ct(ty)＝ty／Ｖ_fで定義される。このシフト量Ct(ty)は、空間方向Ｙ＝0の位置上で定義される近似関数f(t)が、傾きＶ_fに沿って、連続している（定常性を有している）ことを前提としたとき、空間方向Ｙ=tyの位置における、フレーム方向Ｔに対するずれ幅を示すものである。従って、例えば、空間方向Ｙ＝0の位置上で近似関数がf(t)として定義されている場合、この近似関数f(t)は、空間方向Ｙ=tyにおいては、フレーム方向（時間方向）ＴについてCt(ty)だけずれているはずなので、関数は、f(t−Ct(ty))（＝f(t−ty／Ｖ_f)）で定義されることになる。
【１３２２】
ステップＳ２２４７において、微分処理部２２３３は、近似関数推定部２２３２より入力された近似関数f(t)に基づいて、生成しようとする画素の位置における、シフト量を求める。
【１３２３】
すなわち、フレーム方向、および、空間方向にそれぞれ２倍の密度（合計４倍の密度）となるように画素を生成する場合、微分処理部２２３３は、例えば、まず、空間方向に２倍の密度となる画素Pat，Pbtに２分割するために、図２１３で示されるように、注目画素の中心位置がPin（Tin，Yin）での微分値を求めるため、中心位置のPin（Tin，Yin）のシフト量を求める。このシフト量は、Ct(0)となるため、実質的には０となる。尚、図２１３中において、画素Pinは、（Tin，Yin）を略重心位置とする正方形であり、画素Pat，Pbtは、（Tin，Yin+0.25）、（Tin，Yin−0.25）をそれぞれ略重心位置とする図中水平方向に長い長方形である。また、注目画素Pinのフレーム方向Ｔの長さが１であるとは、１フレーム分のシャッタ時間に対応するものである。
【１３２４】
ステップＳ２２４８において、微分処理部２２３３は、近似関数f(t)を微分して、近似関数の１次微分関数f(t)'を求め、求められたシフト量に応じた位置での微分値を求めて、これを実世界推定情報として画像生成部１０３に出力する。すなわち、今の場合、微分処理部２２３３は、微分値f(Tin)'を求め、その位置（今の場合、注目画素（Tin，Yin））と、その画素値、および、定常性の方向の動きの情報とを付加して出力する。
【１３２５】
ステップＳ２２４９において、微分処理部２２３３は、求められている密度の画素を生成するのに必要なだけの微分値が求められているか否かを判定する。例えば、今の場合、空間方向に２倍の密度となるための微分値のみしか求められていない（フレーム方向に２倍の密度となるための微分値が求められていない）ので、求められている密度の画素を生成するのに必要なだけの微分値が求められていないと判定し、その処理は、ステップＳ２２４７に戻る。
【１３２６】
ステップＳ２２４７において、微分処理部２２３３は、再度、近似関数推定部２２３２より入力された近似関数f(t)に基づいて、生成しようとする画素の位置における、シフト量を求める。すなわち、微分処理部２２３３は、今の場合、２分割された画素Pat，Pbtのそれぞれをさらに２分割するために必要な微分値をそれぞれ求める。画素Pat，Pbtの画素の位置は、図２１３における黒丸で示すそれぞれの位置であるので、微分処理部２２３３は、それぞれの位置に対応するシフト量を求める。画素Pat，Pbtのシフト量は、それぞれCt（0.25），Ct(−0.25)となる。
【１３２７】
ステップＳ２２４８において、微分処理部２２３３は、近似関数f(t)を微分して、画素Pat，Pbtのそれぞれに対応したシフト量に応じた位置での微分値を求めて、これを実世界推定情報として画像生成部１０３に出力する。
【１３２８】
すなわち、図２１２で示した参照画素を使用する場合、微分処理部２２３３は、図２１４で示すように、求められた近似関数f(t)について微分関数f(t)'を求め、空間方向Ｔについて、シフト量Ct（0.25），Ct(−0.25)だけずれた位置となる（Tin−Ct（0.25））と（Tin−Ct（−0.25））の位置での微分値をそれぞれf（Tin−Ct（0.25））'，f（Tin−Ct（−0.25））'として求め、その微分値に対応する位置情報を付加して、これを実世界推定情報として出力する。尚、最初の処理で画素値の情報が出力されているので画素値の情報は付加されない。
【１３２９】
ステップＳ２２４９において、再び、微分処理部２２３３は、求められている密度の画素を生成するのに必要なだけの微分値が求められているか否かを判定する。例えば、今の場合、空間方向Ｙとフレーム方向Ｔについてそれぞれ２倍（合計４倍）の密度となるための微分値が求められたことになるので、求められている密度の画素を生成するのに必要なだけの微分値が求められたと判定し、その処理は、ステップＳ２２５１に進む。
【１３３０】
ステップＳ２２５１において、参照画素抽出部２２３１は、全ての画素を処理したか否かを判定し、全ての画素を処理していないと判定した場合、その処理は、ステップＳ２２４２に戻る。また、ステップＳ２２５１において、全ての画素を処理したと判定した場合、その処理は、終了する。
【１３３１】
上述のように、入力画像について、フレーム方向（時間方向）、および、空間方向に４倍の密度となるように画素を生成する場合、画素は、分割される画素の中央の位置の近似関数の微分値を用いて、外挿補間により分割されるので、４倍密度の画素を生成するには、合計３個の微分値の情報が必要となる。
【１３３２】
すなわち、図２１３で示されるように、1画素について最終的には、画素Ｐ０１ｔ，Ｐ０２ｔ，Ｐ０３ｔ，Ｐ０４ｔの４画素（図２１３において、画素Ｐ０１ｔ，Ｐ０２ｔ，Ｐ０３ｔ，Ｐ０４ｔは、図中の４個のバツ印の位置を重心位置とする正方形であり、各辺の長さは、画素Pinが、それぞれ１であるので、画素Ｐ０１ｔ，Ｐ０２ｔ，Ｐ０３ｔ，Ｐ０４ｔは、それぞれ略０．５となる）の生成に必要な微分値が必要となるので、４倍密度の画素を生成するには、まず、フレーム方向、または、空間方向に２倍密度の画素を生成し（上述の最初のステップＳ２２４７，Ｓ２２４８の処理）、さらに、分割された２画素を、それぞれ最初に分割した方向と垂直の方向（今の場合、フレーム方向）に分割する（上述の２回目のステップＳ２２４７，Ｓ２２４８の処理）ためである。
【１３３３】
尚、以上の例においては、４倍密度の画素を演算する際の微分値を例として説明してきたが、それ以上の密度の画素を演算する場合、ステップＳ２２４７乃至Ｓ２２４９の処理を繰り返すことにより、画素値の演算に必要なさらに多くの微分値を求めるようにしてもよい。また、以上の例については、倍密度の画素値を求める例について説明してきたが、近似関数f(t)は連続関数であるので、倍密度以外の画素値についても必要な微分値を求めることが可能となる。
【１３３４】
以上によれば、注目画素近傍の画素の画素値を使用して、実世界を近似的に表現する近似関数を求め、画素の生成必要な位置の微分値を実世界推定情報として出力することが可能となる。
【１３３５】
以上の図２１０において説明した実世界推定部１０２においては、画像を生成するのに必要な微分値を実世界推定情報として出力していたが、微分値とは、必要な位置での近似関数f(t)の傾きと同値のものである。
【１３３６】
そこで、次は、図２１５を参照して、近似関数を求めることなく、画素生成に必要な、近似関数上のフレーム方向の傾きのみを直接求めて、実世界推定情報として出力する実世界推定部１０２について説明する。
【１３３７】
参照画素抽出部２２５１は、データ定常性検出部１０１より入力されるデータ定常性情報（定常性の動き、および、領域の情報）に基づいて、入力画像の各画素が処理領域であるか否かを判定し、処理領域である場合には、入力画像から傾きを求めるために必要な参照画素の情報（演算に必要な注目画素を含む空間方向に並ぶ周辺の複数の画素、または、注目画素を含むフレーム方向に並ぶ周辺の複数の画素の位置、および、それぞれの画素値の情報）を抽出して、傾き推定部２２５２に出力する。
【１３３８】
傾き推定部２２５２は、参照画素抽出部２２５１より入力された参照画素の情報に基づいて、画素生成に必要な画素位置の傾きの情報を生成して、実世界推定情報として画像生成部１０３に出力する。より詳細には、傾き推定部２２５２は、画素間の画素値の差分情報を用いて、実世界を近似的に表現する近似関数上の注目画素の位置におけるフレーム方向の傾きを求め、これに、注目画素の位置情報、画素値、および、定常性の方向の動きの情報を実世界推定情報として出力する。
【１３３９】
次に、図２１６のフローチャートを参照して、図２１５の実世界推定部１０２による実世界推定の処理について説明する。
【１３４０】
ステップＳ２２６１において、参照画素抽出部２２５１は、入力画像と共に、データ定常性検出部１０１よりデータ定常性情報としての動き、および、領域の情報を取得する。
【１３４１】
ステップＳ２２６２において、参照画素抽出部２２５１は、入力画像の未処理画素から注目画素を設定する。
【１３４２】
ステップＳ２２６３において、参照画像抽出部２２５１は、データ定常性情報の領域の情報に基づいて、注目画素が、処理領域のものであるか否かを判定し、処理領域の画素ではないと判定した場合、その処理は、ステップＳ２２６８に進み、その注目画素については、処理領域外であることを傾き推定部２２５２に伝え、これに応じて、傾き推定部２２５２が、対応する注目画素についての傾きを０として、さらに、その注目画素の画素値を付加して実世界推定情報として画像生成部１０３に出力すると共に、その処理は、ステップＳ２２６９に進む。また、注目画素が処理領域のものであると判定された場合、その処理は、ステップＳ２２６４に進む。
【１３４３】
ステップＳ２２６４において、参照画素抽出部２２５１は、データ定常性情報に含まれる動きの情報から、データ定常性の動きが、フレーム方向に近い動きか、または、空間方向に近い動きであるか否かを判定する。すなわち、フレーム方向Ｔと空間方向Ｙからなる面において、フレーム方向を基準軸とした、時間と空間の面内の方向を示す角度をθｖとすれば、参照画素抽出部２２５１は、データ定常性の動きの角度θｖが、0度≦θｖ＜45度、または、135度≦θｖ＜180度となる場合、注目画素の定常性の動きは、フレーム方向に近いと判定し、データ定常性の有する角度θｖが、45度≦θｖ＜135度となる場合、注目画素の定常性の動きは、空間方向に近いと判定する。
【１３４４】
ステップＳ２２６５において、参照画素抽出部２２５１は、判定した方向に対応した参照画素の位置情報、および、画素値をそれぞれ入力画像から抽出し、傾き推定部２２５２に出力する。すなわち、参照画素は、後述する傾きを演算する際に使用されるデータとなるので、定常性の動きに応じて抽出されることが望ましい。従って、フレーム方向、または、空間方向のいずれかの判定方向に対応して、その方向に長い範囲の参照画素が抽出される。より具体的には、例えば、動きが空間方向に近いと判定された場合、参照画素抽出部２２５１は、図２１７で示されるように、図２１７中の中央の画素（ｔ，ｙ）＝（０，０）を注目画素とするとき、画素（ｔ，ｙ）＝（０，２），（０，１），（０，０），（０，−１），（０，−２）のそれぞれの画素値を抽出する。尚、図２１７においては、各画素の大きさがフレーム方向、および、空間方向についてそれぞれ１であるものとする。
【１３４５】
すなわち、参照画素抽出部２２５１は、注目画素を中心として空間（図中の上下）方向にそれぞれ２画素の合計５画素となるように、空間方向に長い範囲の画素を参照画素として抽出する。
【１３４６】
逆に、フレーム方向であると判定された場合、注目画素を中心としてフレーム（図中の左右）方向に２画素の合計５画素となるように、フレーム方向に長い範囲の画素を参照画素として抽出して、近似関数推定部２２５２に出力する。もちろん、参照画素は、上述のように５画素に限定されるものではなく、それ以外の個数であってもよい。
【１３４７】
ステップＳ２２６６において、傾き推定部２２５２は、参照画素抽出部２２５１より入力された参照画素の情報と、定常性方向の動きＶ_fの方向に基づいて、それぞれの画素値のシフト量を演算する。すなわち、空間方向Ｙ=0に対応する近似関数f(t)を基準とした場合、空間方向Ｙ＝−２，−１，１，２に対応する近似関数は、図２１７で示されるように、定常性の傾きＶ_fに沿って連続していることになるので、各近似関数は、f(t−Ct(2))，f(t−Ct(1))，f(t−Ct(−1))，f(t−Ct(−2))のように記述され、空間方向Ｙ＝−２，−１，１，２毎に、各シフト量分だけフレーム方向Ｔにずれた関数として表現される。
【１３４８】
そこで、傾き推定部２２５２は、これらのシフト量Ct（−２）乃至Ct（２）を求める。例えば、参照画素が、図２１７で示されるように抽出された場合、そのシフト量は、図中の参照画素（０，２）は、Ct(２)＝２／Ｖ_fとなり、参照画素（０，１）は、Ct(１)＝１／Ｖ_fとなり、参照画素（０，０）は、Ct(０)＝０となり、参照画素（０，−１）は、Ct(−１)＝−１／Ｖ_fとなり、参照画素（０，−２）は、Ct(−２)＝−２／Ｖ_fとなる。傾き推定部２２５２は、これらのシフト量Ct（−２）乃至Ct（２）を求める。
【１３４９】
ステップＳ２２６７において、傾き推定部２２５２は、注目画素のフレーム方向の傾きを演算する（推定する）。例えば、図２１７で示されるように、注目画素について定常性の方向が、空間方向に近い角度の場合、フレーム方向に隣接する画素間では画素値が大きく異なるので、空間方向の画素間では、画素間の変化が小さく、変化が類似していることから、傾き推定部２２５２は、空間方向の画素間の変化をシフト量によるフレーム方向Ｔの変化と捕らえることにより、空間方向の画素間の差分をフレーム方向の画素間の差分に置き換えて、注目画素での傾きを求める。
【１３５０】
すなわち、現実世界を近似的に記述する関数f(t)が存在すると仮定すると、上述のシフト量と各参照画素の画素値との関係は、図２１８で示されるようなものとなる。ここで、図２１８の各画素の画素値は、上からP（０，２），P（０，１），P（０，０），P（０，−１），P（０，−２）で表される。結果として、注目画素（０，０）近傍の画素値Pとシフト量Ctは、（Ｐ，Ｃt）＝（Ｐ（０，２），−Ct（２）），（Ｐ（０，１），−Ct（１）），（Ｐ（０，−１）），−Ct（−１）），（Ｐ（０，−２），−Ct（−２）），（Ｐ（０，０），０）の５組の関係が得られることになる。
【１３５１】
ところで、画素値Ｐ、シフト量Ｃｔ、および、傾きＫｔ（近似関数f(t)上の傾き）は、以下のような式（１０２）のような関係が成立することになる。
【１３５２】

【１３５３】
上述の式（１０２）は、変数Ｋｔについての１変数の関数であるので、傾き推定部２２５２は、この変数Ｋｔ（傾き）について、１変数の最小自乗法により傾きＫｔを求める。
【１３５４】
すなわち、傾き推定部２２５２は、以下に示すような式（１０３）のような正規方程式を解くことにより、注目画素の傾きを求め、注目画素の画素値、および、定常性の方向の傾きの情報を付加して、実世界推定情報として画像生成部１０３に出力する。
【１３５５】
【数７３】

・・・（１０３）
【１３５６】
ここで、ｉは、上述の参照画素の画素値Ｐとシフト量Ｃｔの組をそれぞれ識別する番号であり、１乃至ｍである。また、ｍは、注目画素を含む参照画素の個数となる。
【１３５７】
ステップＳ２２６９において、参照画素抽出部２２５１は、全ての画素を処理したか否かを判定し、全ての画素を処理していないと判定した場合、その処理は、ステップＳ２２６２に戻る。また、ステップＳ２２６９において、全ての画素が処理されたと判定された場合、その処理は、終了する。
【１３５８】
尚、上述の処理により実世界推定情報として出力されるフレーム方向の傾きは、最終的に求めようとする画素値を外挿補間して演算する際に使用される。また、以上の例においては、２倍密度の画素を演算する際の傾きを例として説明してきたが、それ以上の密度の画素を演算する場合、画素値の演算に必要な、さらに多くの位置での傾きを求めるようにしてもよい。
【１３５９】
例えば、図２１３で示されるように、水平方向に２倍の密度で、かつ、フレーム方向に２倍の密度の時空間方向に合計４倍の密度の画素を生成する場合、上述したように、図２１３中のPin，Pat，Pbtのそれぞれの位置に対応する近似関数f(t)の傾きＫｔを求めるようにすればよい。
【１３６０】
また、以上の例については、倍密度の画素値を求める例について説明してきたが、近似関数f(t)は連続関数であるので、倍密度以外の位置の画素の画素値についても必要な傾きを求めることが可能となる。
【１３６１】
言うまでもなく、フレーム方向、または、空間方向に対する近似関数上の傾き、または、微分値を求める処理の順序は問わない。さらに、空間方向において、上述の例においては、空間方向Ｙとフレーム方向Ｔとの関係を用いて、説明してきたが、空間方向Ｘとフレーム方向Ｔとの関係を用いたものであってもよい。さらに、時空間方向のいずれか２次元の関係から（いずれから１次元の方向の）傾き、または、微分値を選択的に求めるようにしてもよい。
【１３６２】
以上によれば、それぞれ時空間積分効果を有する、センサの複数の検出素子により現実世界の光信号が射影され、現実世界の光信号の定常性の一部が欠落した、検出素子により射影された画素値を有する複数の画素からなる画像データにおけるデータの定常性を検出し、検出した定常性に対応して、画像データ内の注目画素に対して時空間方向のうち１次元方向の位置に対応する複数画素の画素値の傾きを、現実世界の光信号に対応する関数として推定するようにしたので、注目画素近傍の画素の画素値を使用して、実世界を近似的に表現するフレーム方向の近似関数を求めることなく、画素の生成必要な位置のフレーム方向（時間方向）の近似関数上の傾きを実世界推定情報として生成し、さらに出力することが可能となる。
【１３６３】
次に、図２１９乃至図２４９を参照して、実世界推定部１０２（図３）の実施の形態の他の例について説明する。
【１３６４】
図２１９は、この例の実施の形態の原理を説明する図である。
【１３６５】
図２１９で示されるように、センサ２に入射される画像である、実世界１の信号（光の強度の分布）は、所定の関数Ｆで表される。なお、以下、この例の実施の形態の説明においては、画像である、実世界１の信号を、特に光信号と称し、関数Ｆを、特に光信号関数Ｆと称する。
【１３６６】
この例の実施の形態においては、光信号関数Ｆで表される実世界１の光信号が所定の定常性を有する場合、実世界推定部１０２が、センサ２からの入力画像（定常性に対応するデータの定常性を含む画像データ）と、データ定常性検出部１０１からのデータ定常性情報（入力画像のデータの定常性に対応するデータ定常性情報）を使用して、光信号関数Ｆを所定の関数ｆで近似することによって、光信号関数Ｆを推定する。なお、以下、この例の実施の形態の説明においては、関数ｆを、特に近似関数fと称する。
【１３６７】
換言すると、この例の実施の形態においては、実世界推定部１０２が、近似関数fで表されるモデル１６１（図７）を用いて、光信号関数Ｆで表される画像（実世界１の光信号）を近似（記述）する。従って、以下、この例の実施の形態を、関数近似手法と称する。
【１３６８】
ここで、関数近似手法の具体的な説明に入る前に、本願出願人が関数近似手法を発明するに至った背景について説明する。
【１３６９】
図２２０は、センサ２がＣＣＤとされる場合の積分効果を説明する図である。
【１３７０】
図２２０で示されるように、センサ２の平面上には、複数の検出素子２−１が配置されている。
【１３７１】
図２２０の例では、検出素子２−１の所定の１辺に平行な方向が、空間方向の１方向であるＸ方向とされており、Ｘ方向に垂直な方向が、空間方向の他方向であるＹ方向とされている。そして、Ｘ−Ｙ平面に垂直な方向が、時間方向であるｔ方向とされている。
【１３７２】
また、図２２０の例では、センサ２の各検出素子２−１のそれぞれの空間的な形状は、１辺の長さが１の正方形とされている。そして、センサ２のシャッタ時間（露光時間）が１とされている。
【１３７３】
さらに、図２２０の例では、センサ２の所定の１つの検出素子２−１の中心が、空間方向（Ｘ方向とＹ方向）の原点（Ｘ方向の位置ｘ＝０、およびＹ方向の位置ｙ＝０）とされており、また、露光時間の中間時刻が、時間方向（ｔ方向）の原点（ｔ方向の位置ｔ＝０）とされている。
【１３７４】
この場合、空間方向の原点（ｘ＝０,ｙ＝０）にその中心が存在する検出素子２−１は、Ｘ方向に-0.5乃至0.5の範囲、Ｙ方向に-0.5乃至0.5の範囲、およびｔ方向に-0.5乃至0.5の範囲で光信号関数F(x,y,t)を積分し、その積分値を画素値Ｐとして出力することになる。
【１３７５】
即ち、空間方向の原点にその中心が存在する検出素子２−１から出力される画素値Ｐは、次の式（１０４）で表される。
【１３７６】
【数７４】

・・・（１０４）
【１３７７】
その他の検出素子２−１も同様に、対象とする検出素子２−１の中心を空間方向の原点とすることで、式（１０４）で示される画素値Ｐを出力することになる。
【１３７８】
図２２１は、センサ２の積分効果の具体的な例を説明する図である。
【１３７９】
図２２１において、Ｘ方向とＹ方向は、センサ２のＸ方向とＹ方向（図２２０）を表している。
【１３８０】
実世界１の光信号のうちの１部分（以下、このような部分を、領域と称する）２３０１は、所定の定常性を有する領域の１例を表している。
【１３８１】
なお、実際には、領域２３０１は連続した光信号の１部分（連続した領域）である。これに対して、図２２１においては、領域２３０１は、２０個の小領域（正方形の領域）に区分されているように示されている。これは、領域２３０１の大きさが、Ｘ方向に対して４個分、かつＹ方向に対して５個分のセンサ２の検出素子（画素）が並んだ大きさに相当することを表すためである。即ち、領域２３０１内の２０個の小領域（仮想領域）のそれぞれは１つの画素に相当する。
【１３８２】
また、領域２３０１のうちの図中白い部分は細線に対応する光信号を表している。従って、領域２３０１は、細線が続く方向に定常性を有していることになる。そこで、以下、領域２３０１を、細線含有実世界領域２３０１と称する。
【１３８３】
この場合、細線含有実世界領域２３０１（実世界１の光信号の１部分）がセンサ２により検出されると、センサ２からは、積分効果により、入力画像（画素値）の領域２３０２（以下、細線含有データ領域２３０２と称する）が出力される。
【１３８４】
なお、細線含有データ領域２３０２の各画素のそれぞれは、図中、画像として示されているが、実際には、所定の１つの値を表すデータである。即ち、細線含有実世界領域２３０１は、センサ２の積分効果により、所定の１つの画素値をそれぞれ有する２０個の画素（Ｘ方向に４画素分、かつＹ方向に５画素分の総計２０個の画素）に区分された細線含有データ領域２３０２に変化してしまう（歪んでしまう）。
【１３８５】
図２２２は、センサ２の積分効果の具体的な他の例（図２２１とは異なる例）を説明する図である。
【１３８６】
図２２２において、Ｘ方向とＹ方向は、センサ２のＸ方向とＹ方向（図２２０）を表している。
【１３８７】
実世界１の光信号の１部分（領域）２３０３は、所定の定常性を有する領域の他の例（図２２１の細線含有実世界領域２３０１とは異なる例）を表している。
【１３８８】
なお、領域２３０３は、細線含有実世界領域２３０１と同じ大きさを有する領域である。即ち、細線含有実世界領域２３０１と同様に、領域２３０３も、実際には連続した実世界１の光信号の１部分（連続した領域）であるが、図２２２においては、センサ２の１画素に相当する２０個の小領域（正方形の領域）に区分されているように示されている。
【１３８９】
また、領域２３０３は、所定の第１の光の強度（値）を有する第１の部分と、所定の第２の光の強度（値）を有する第２の部分のエッジを含んでいる。従って、領域２３０３は、エッジが続く方向に定常性を有していることになる。そこで、以下、領域２３０３を、２値エッジ含有実世界領域２３０３と称する。
【１３９０】
この場合、２値エッジ含有実世界領域２３０３（実世界１の光信号の１部分）がセンサ２により検出されると、センサ２からは、積分効果により、入力画像（画素値）の領域２３０４（以下、２値エッジ含有データ領域２３０４と称する）が出力される。
【１３９１】
なお、２値エッジ含有データ領域２３０４の各画素値のそれぞれは、細線含有データ領域２３０２と同様に、図中、画像として表現されているが、実際には、所定の値を表すデータである。即ち、２値エッジ含有実世界領域２３０３は、センサ２の積分効果により、所定の１つの画素値をそれぞれ有する２０個の画素（Ｘ方向に４画素分、かつＹ方向に５画素分の総計２０個の画素）に区分された２値エッジ含有データ領域２３０４に変化してしまう（歪んでしまう）。
【１３９２】
従来の画像処理装置は、このような細線含有データ領域２３０２や２値エッジ含有データ領域２３０４等、センサ２から出力された画像データを原点（基準）とするとともに、画像データを処理の対象として、それ以降の画像処理を行っていた。即ち、センサ２から出力された画像データは、積分効果により実世界１の光信号とは異なるもの（歪んだもの）となっているにも関わらず、従来の画像処理装置は、その実世界１の光信号とは異なるデータを正として画像処理を行っていた。
【１３９３】
その結果、従来の画像処理装置では、センサ２から出力された段階で、実世界のディテールがつぶれてしまった波形（画像データ）を基準として、その波形から、元のディテールを復元することは非常に困難であるという課題があった。
【１３９４】
そこで、関数近似手法においては、この課題を解決するために、上述したように（図２１９で示されるように）、実世界推定部１０２が、細線含有データ領域２３０２や２値エッジ含有データ領域２３０４のようなセンサ２から出力された画像データ（入力画像）から、光信号関数Ｆ（実世界１の光信号）を近似関数fで近似することによって、光信号関数Ｆを推定する。
【１３９５】
これにより、実世界推定部１０２より後段において（いまの場合、図３の画像生成部１０３）、積分効果が考慮された画像データ、即ち、近似関数fにより表現可能な画像データを原点として、その処理を実行することが可能になる。
【１３９６】
以下、図面を参照して、このような関数近似手法のうちの３つの具体的な手法（第１乃至第３の関数近似手法）のそれぞれについて個別に説明していく。
【１３９７】
はじめに、図２２３乃至図２３７を参照して、第１の関数近似手法について説明する。
【１３９８】
図２２３は、上述した図２２１で示される細線含有実世界領域２３０１を再度表した図である。
【１３９９】
図２２３において、Ｘ方向とＹ方向は、センサ２のＸ方向とＹ方向（図２２０）を表している。
【１４００】
第１の関数近似手法は、例えば、図２２３で示されるような細線含有実世界領域２３０１に対応する光信号関数F(x,y,t)をＸ方向（図中矢印２３１１の方向）に射影した１次元の波形（以下、このような波形を、X断面波形F(x)と称する）を、n次（nは、任意の整数）の多項式である近似関数f(x)で近似する手法である。従って、以下、第１の関数近似手法を、特に、１次元多項式近似手法と称する。
【１４０１】
なお、１次元多項式近似手法において、近似の対象となるX断面波形F(ｘ)は、勿論、図２２３の細線含有実世界領域２３０１に対応するものに限定されない。即ち、後述するように、１次元多項式近似手法においては、定常性を有する実世界１の光信号に対応するX断面波形F(x)であれば、いずれのものでも近似することが可能である。
【１４０２】
また、光信号関数F(x,y,t)の射影の方向はＸ方向に限定されず、Ｙ方向またはｔ方向でもよい。即ち、１次元多項式近似手法においては、光信号関数F(x,y,t)をＹ方向に射影した関数F(y)を、所定の近似関数f(y)で近似することも可能であるし、光信号関数F(x,y,t)をt方向に射影した関数F(t)を、所定の近似関数f(t)で近似することも可能である。
【１４０３】
より詳細には、１次元多項式近似手法は、例えば、X断面波形F(x)を、次の式（１０５）で示されるような、ｎ次の多項式である近似関数f(x)で近似する手法である。
【１４０４】
【数７５】

・・・（１０５）
【１４０５】
即ち、１次元多項式近似手法においては、実世界推定部１０２が、式（１０５）のx^iの係数（特徴量）w_iを演算することで、X断面波形F(x)を推定する。
【１４０６】
この特徴量w_iの演算方法は、特に限定されず、例えば、次の第１乃至第３の方法が使用可能である。
【１４０７】
即ち、第１の方法は、従来から利用されている方法である。
【１４０８】
これに対して、第２の方法は、本願出願人が新たに発明した方法であって、第１の方法に対して、さらに、空間方向の定常性を考慮した方法である。
【１４０９】
しかしながら、後述するように、第１の方法と第２の方法においては、センサ２の積分効果が考慮されていない。従って、第１の方法または第２の方法により演算された特徴量w_iを上述した式（１０５）に代入して得られる近似関数f(x)は、入力画像の近似関数ではあるが、厳密には、X断面波形F(x)の近似関数とは言えない。
【１４１０】
そこで、本願出願人は、第２の方法に対して、センサ２の積分効果をさらに考慮して特徴量w_iを演算する第３の方法を発明した。この第３の方法により演算された特徴量w_iを、上述した式（１０５）に代入して得られる近似関数f(x)は、センサ２の積分効果を考慮している点で、X断面波形F(x)の近似関数であると言える。
【１４１１】
このように、厳密には、第１の方法と第２の方法は、１次元多項式近似手法とは言えず、第３の方法のみが１次元多項式近似手法であると言える。
【１４１２】
換言すると、図２２４で示されるように、第２の方法は、１次元多項式近似手法とは異なる、本発明の実世界推定部１０２の実施の形態である。即ち、図２２４は、第２の方法に対応する実施の形態の原理を説明する図である。
【１４１３】
図２２４で示されるように、第２の方法に対応する実施の形態においては、光信号関数Ｆで表される実世界１の光信号が所定の定常性を有する場合、実世界推定部１０２が、センサ２からの入力画像（定常性に対応するデータの定常性を含む画像データ）と、データ定常性検出部１０１からのデータ定常性情報（入力画像のデータの定常性に対応するデータ定常性情報）を使用して、Ｘ断面波形F(x)を近似するのではなく、センサ２からの入力画像を所定の近似関数f₂(x)で近似する。
【１４１４】
このように、第２の方法は、センサ２の積分効果を考慮せず、入力画像の近似に留まっている点で、第３の方法と同一レベルの手法であるとは言い難い。しかしながら、第２の方法は、空間方向の定常性を考慮している点で、従来の第１の方法よりも優れた手法である。
【１４１５】
以下、第１の方法、第２の方法、および第３の方法のそれぞれの詳細について、その順番で個別に説明していく。
【１４１６】
なお、以下、第１の方法、第２の方法、および第３の方法により生成される近似関数f(x)のそれぞれを、他の方法のものと区別する場合、特に、近似関数f₁(x)、近似関数f₂(x)、および近似関数f₃(x)とそれぞれ称する。
【１４１７】
はじめに、第１の方法の詳細について説明する。
【１４１８】
第１の方法においては、上述した式（１０５）で示される近似関数f₁(x)が、図２２５の細線含有実世界領域２３０１内で成り立つとして、次の予測方程式（１０６）を定義する。
【１４１９】
【数７６】

・・・（１０６）
【１４２０】
式（１０６）において、xは、注目画素からのＸ方向に対する相対的な画素位置を表している。yは、注目画素からのＹ方向に対する相対的な画素位置を表している。ｅは、誤差を表している。具体的には、例えば、いま、図２２５で示されるように、注目画素が、細線含有データ領域２３０２（細線含有実世界領域２３０１（図２２３）がセンサ２により検出されて、出力されたデータ）のうちの、図中、左からＸ方向に２画素目であって、下からＹ方向に３画素目の画素であるとする。また、注目画素の中心を原点(0,0)とし、センサ２のＸ方向とＹ方向（図２２０）のそれぞれに平行なx軸とy軸を軸とする座標系（以下、注目画素座標系と称する）が設定されているとする。この場合、注目画素座標系の座標値(x,y)が、相対画素位置を表すことになる。
【１４２１】
また、式（１０６）において、P(x,y)は、相対画素位置(x,y)における画素値を表している。具体的には、いまの場合、細線含有データ領域２３０２内のP(x,y)は、図２２６で示されるようになる。
【１４２２】
図２２６は、この画素値P(x,y)をグラフ化したものを表している。
【１４２３】
図２２６において、各グラフのそれぞれの縦軸は、画素値を表しており、横軸は、注目画素からのＸ方向の相対位置xを表している。また、図中、上から1番目のグラフの点線は入力画素値P(x,-2)を、上から２番目のグラフの３点鎖線は入力画素値P(x,-1)を、上から３番目のグラフの実線は入力画素値P(x,0)を、上から４番目のグラフの１点鎖線は入力画素値P(x,1)を、上から５番目（下から１番目）のグラフの２点鎖線は入力画素値P(x,2)を、それぞれ表している。
【１４２４】
上述した式（１０６）に対して、図２２６で示される２０個の入力画素値P(x,-2),P(x,-1),P(x,0),P(x,1),P(x,2)（ただし、xは、−１乃至２のうちのいずれかの整数値）のそれぞれを代入すると、次の式（１０７）で示される２０個の方程式が生成される。なお、e_k（kは、１乃至２０のうちのいずれかの整数値）のそれぞれは、誤差を表している。
【１４２５】
【数７７】

・・・（１０７）
【１４２６】
式（１０７）は、２０個の方程式より構成されているので、近似関数f₁(x)の特徴量w_iの個数が２０個より少ない場合、即ち、近似関数f₁(x)が１９次より少ない次数の多項式である場合、例えば、最小自乗法を用いて特徴量w_iの算出が可能である。なお、最小自乗法の具体的な解法は後述する。
【１４２７】
例えば、いま、近似関数f₁(x)の次数が５次とされた場合、式（１０７）を利用して最小自乗法により演算された近似関数f₁(x)（演算された特徴量w_iにより生成される近似関数f₁(x)）は、図２２７で示される曲線のようになる。
【１４２８】
なお、図２２７において、縦軸は画素値を表しており、横軸は注目画素からの相対位置ｘを表している。
【１４２９】
即ち、図２２５の細線含有データ領域２３０２を構成する２０個の画素値P(x,y）のそれぞれ（図２２６で示される入力画素値P(x,-2),P(x,-1),P(x,0),P(x,1),P(x,2)のそれぞれ）を、例えば、ｘ軸に沿ってそのまま足しこむ（Ｙ方向の相対位置yを一定とみなして、図２２６で示される５つのグラフを重ねる）と、図２２７で示されるような、x軸に平行な複数の線（点線、３点鎖線、実線、１点鎖線、および２点鎖線）が分布する。
【１４３０】
ただし、図２２７においては、点線は入力画素値P(x,-2)を、３点鎖線は入力画素値P(x,-1)を、実線は入力画素値P(x,0)を、１点鎖線は入力画素値P(x,1)を、２点鎖線は入力画素値P(x,2)を、それぞれ表している。また、同一の画素値の場合、実際には２本以上の線が重なることになるが、図２２７においては、各線の区別がつくように、各線のそれぞれが重ならないように描画されている。
【１４３１】
そして、このように分布した２０個の入力画素値P(x,-2),P(x,-1),P(x,0),P(x,1),P(x,2)のそれぞれと、値f₁(x)の誤差が最小となるような回帰曲線（最小自乗法により演算された特徴量w_iを上述した式（１０４）に代入して得られる近似関数f₁(x)）が、図２２７で示される曲線（近似関数f₁(x)）となる。
【１４３２】
このように、近似関数f₁(x)は、Ｙ方向の画素値（注目画素からのＸ方向の相対位置xが同一の画素値）P(x,-2),P(x,-1),P(x,0),P(x,1),P(x,2)の平均値を、Ｘ方向に結んだ曲線を単に表しているに過ぎない。即ち、光信号が有する空間方向の定常性を考慮することなく、近似関数f₁(x)が生成されている。
【１４３３】
例えば、いまの場合、近似の対象は、細線含有実世界領域２３０１（図２２３）とされている。この細線含有実世界領域２３０１は、図２２８で示されるように、傾きG_Fで表される空間方向の定常性を有している。なお、図２２８において、Ｘ方向とＹ方向は、センサ２のＸ方向とＹ方向（図２２０）を表している。
【１４３４】
従って、データ定常性検出部１０１（図２１９）は、空間方向の定常性の傾きG_Fに対応するデータ定常性情報として、図２２８で示されるような角度θ（傾きG_Fに対応する傾きG_fで表されるデータの定常性の方向と、Ｘ方向のなす角度θ）を出力することができる。
【１４３５】
しかしながら、第１の方法においては、データ定常性検出部１０１より出力されるデータ定常性情報は一切用いられていない。
【１４３６】
換言すると、図２２８で示されるように、細線含有実世界領域２３０１の空間方向の定常性の方向は略角度θ方向である。しかしながら、第１の方法は、細線含有実世界領域２３０１の空間方向の定常性の方向はＹ方向であると仮定して（即ち、角度θが９０度であると仮定して）、近似関数f₁(x)の特徴量w_iを演算する方法である。
【１４３７】
このため、近似関数f₁(x)は、その波形が鈍り、元の画素値よりディテールが減少する関数となってしまう。換言すると、図示はしないが、第１の方法により生成される近似関数f₁(x)は、実際のＸ断面波形F(x)とは大きく異なる波形となってしまう。
【１４３８】
そこで、本願出願人は、第１の方法に対して、空間方向の定常性をさらに考慮して（角度θを利用して）特徴量w_iを演算する第２の方法を発明した。
【１４３９】
即ち、第２の方法は、細線含有実世界領域２３０１の定常性の方向は略角度θ方向であるとして、近似関数f₂(x) の特徴量w_iを演算する方法である。
【１４４０】
具体的には、例えば、空間方向の定常性に対応するデータの定常性を表す傾きG_fは、次の式（１０８）で表される。
【１４４１】
【数７８】

・・・（１０８）
【１４４２】
なお、式（１０８）において、dxは、図２２８で示されるようなＸ方向の微小移動量を表しており、dyは、図２２８で示されるようなdxに対するＹ方向の微小移動量を表している。
【１４４３】
この場合、シフト量C_x(y)を、次の式（１０９）のように定義すると、第２の方法においては、第１の方法で利用した式（１０６）に相当する式は、次の式（１１０）のようになる。
【１４４４】
【数７９】

・・・（１０９）
【１４４５】
【数８０】

・・・（１１０）
【１４４６】
即ち、第１の方法で利用した式（１０６）は、画素の中心の位置(x、y)のうちのＸ方向の位置ｘが、同一の位置に位置する画素の画素値P(x,y)はいずれも同じ値であることを表している。換言すると、式（１０６）は、同じ画素値の画素がＹ方向に続いている（Ｙ方向に定常性がある）ことを表している。
【１４４７】
これに対して、第２の方法で利用する式（１１０）は、画素の中心の位置が(x,y)である画素の画素値P(x,y)は、注目画素（その中心の位置が原点(0,0)である画素）からＸ方向にxだけ離れた場所に位置する画素の画素値（≒f₂(x)）とは一致せず、その画素からさらにＸ方向にシフト量C_x(y)だけ離れた場所に位置する画素（注目画素からＸ方向にx＋C_x(y)だけ離れた場所に位置する画素）の画素値（≒f₂（x＋C_x(y)））と同じ値であることを表している。換言すると、式（１１０）は、同じ画素値の画素が、シフト量C_x(y)に対応する角度θ方向に続いている（略角度θ方向に定常性がある）ことを表している。
【１４４８】
このように、シフト量C_x(y)が、空間方向の定常性（いまの場合、図２２８の傾きG_Fで表される定常性（厳密には、傾きG_fで表されるデータの定常性））を考慮した補正量であり、シフト量C_x(y)により式（１０６）を補正したものが式（１１０）となる。
【１４４９】
この場合、図２２５で示される細線含有データ領域２３０２の２０個の画素値P(x,y)（ただし、xは、−１乃至２のうちのいずれかの整数値。yは、−２乃至２のうちのいずれかの整数値）のそれぞれを、上述した式（１１０）に代入すると次の式（１１１）で示される２０個の方程式が生成される。
【１４５０】
【数８１】

・・・（１１１）
【１４５１】
式（１１１）は、上述した式（１０７）と同様に、２０個の方程式より構成されている。従って、第１の方法と同様に第２の方法においても、近似関数f₂(x)の特徴量w_iの個数が２０個より少ない場合、即ち、近似関数f₂(x)が１９次より少ない次数の多項式である場合、例えば、最小自乗法を用いて特徴量w_iの算出が可能である。なお、最小自乗法の具体的な解法は後述する。
【１４５２】
例えば、第１の方法と同様に近似関数f₂(x)の次数が５次とされた場合、第２の方法においては、次のようにして特徴量w_iが演算される。
【１４５３】
即ち、図２２９は、式（１１１）の左辺で示される画素値P(x,y)をグラフ化したものを表している。図２２９で示される５つのグラフのそれぞれは、基本的に図２２６で示されるものと同一である。
【１４５４】
図２２９で示されるように、最大の画素値（細線に対応する画素値）は、傾きG_fで表されるデータの定常性の方向に続いている。
【１４５５】
そこで、第２の方法においては、図２２９で示される入力画素値P(x,-2),P(x,-1),P(x,0),P(x,1),P(x,2)のそれぞれを、例えば、ｘ軸に沿って足しこむ場合、第１の方法のようにそのまま足しこむ（yを一定とみなして、図２２９で示される状態のまま５つのグラフを重ねる）のではなく、図２３０で示される状態に変化させてから足しこむ。
【１４５６】
即ち、図２３０は、図２２９で示される入力画素値P(x,-2),P(x,-1),P(x,0),P(x,1),P(x,2)のそれぞれを、上述した式（１０９）で示されるシフト量C_x(y)だけシフトさせた状態を表している。換言すると、図２３０は、図２２９で示される５つのグラフを、データの定常性の実際の方向を表す傾きG_Fを、あたかも傾きG_F'とするように（図中、点線の直線を実線の直線とするように）移動させた状態を表している。
【１４５７】
図２３０の状態で、入力画素値P(x,-2),P(x,-1),P(x,0),P(x,1),P(x,2)のそれぞれを、例えば、ｘ軸に沿って足しこむと（図２３０で示される状態で５つのグラフを重ねると）、図２３１で示されるような、x軸に平行な複数の線（点線、３点鎖線、実線、１点鎖線、および２点鎖線）が分布する。
【１４５８】
なお、図２３１において、縦軸は画素値を表しており、横軸は注目画素からの相対位置ｘを表している。また、点線は入力画素値P(x,-2)を、３点鎖線は入力画素値P(x,-1)を、実線は入力画素値P(x,0)を、１点鎖線は入力画素値P(x,1)を、２点鎖線は入力画素値P(x,2)を、それぞれ表している。さらに、同一の画素値の場合、実際には２本以上の線が重なることになるが、図２３１においては、各線の区別がつくように、各線のそれぞれが重ならないように描画されている。
【１４５９】
そして、このように分布した２０個の入力画素値P(x,y)のそれぞれ（ただし、ｘは、−１乃至２のうちのいずれかの整数値。yは、−２乃至２のうちのいずれかの整数値）と、値f₂(x+C_x(y))の誤差が最小となるような回帰曲線（最小自乗法により演算された特徴量w_iを上述した式（１０４）に代入して得られる近似関数f₂(x)）は、図２３１の実線で示される曲線f₂(x)となる。
【１４６０】
このように、第２の方法により生成された近似関数f₂(x)は、データ定常性検出部１０１（図２１９）より出力される角度θ方向（即ち、ほぼ空間方向の定常性の方向）の入力画素値Ｐ(x,y)の平均値をＸ方向に結んだ曲線を表すことになる。
【１４６１】
これに対して、上述したように、第１の方法により生成された近似関数f₁(x)は、Ｙ方向（即ち、空間方向の定常性とは異なる方向）の入力画素値Ｐ(x,y)の平均値を、Ｘ方向に結んだ曲線を単に表しているに過ぎない。
【１４６２】
従って、図２３１で示されるように、第２の方法により生成された近似関数f₂(x)は、第１の方法により生成された近似関数f₁(x)よりも、その波形の鈍り度合いが減少し、かつ、元の画素値に対するディテールの減り具合も減少する関数となる。換言すると、図示はしないが、第２の方法により生成される近似関数f₂(x)は、第１の方法により生成される近似関数f₁(x)よりも実際のＸ断面波形F(x)により近い波形となる。
【１４６３】
しかしながら、上述したように、近似関数f₂(x)は、空間方向の定常性が考慮されたものではあるが、入力画像（入力画素値）を原点（基準）として生成されたものに他ならない。即ち、上述した図２２４で示されるように、近似関数f₂(x)は、X断面波形F(x)とは異なる入力画像を近似したに過ぎず、Ｘ断面波形F(x)を近似したとは言い難い。換言すると、第２の方法は、上述した式（１１０）が成立するとして特徴量w_iを演算する方法であり、上述した式（１０４）の関係は考慮していない（センサ２の積分効果を考慮していない）。
【１４６４】
そこで、本願出願人は、第２の方法に対して、センサ２の積分効果をさらに考慮することで近似関数f₃(x)の特徴量w_iを演算する第３の方法を発明した。
【１４６５】
即ち、第３の方法は、空間混合領域の概念を導入した方法である。
【１４６６】
第３の方法の説明の前に、図２３２を参照して、空間混合領域について説明する。
【１４６７】
図２３２において、実世界１の光信号の１部分２３２１（以下、領域２３２１と称する）は、センサ２の１つの検出素子（画素）と同じ面積を有する領域を表している。
【１４６８】
領域２３２１がセンサ２に検出されると、センサ２からは、領域２３２１が時空間方向（X方向,Y方向,およびt方向）に積分された値（１つの画素値）２３２２が出力される。なお、画素値２３２２は、図中、画像として表現されているが、実際には、所定の値を表すデータである。
【１４６９】
実世界１の領域２３２１は、前景（例えば、上述した細線）に対応する光信号（図中白い領域）と、背景に対応する光信号（図中黒い領域）に明確に区分される。
【１４７０】
これに対して、画素値２３２２は、前景に対応する実世界１の光信号と、背景に対応する実世界１の光信号が積分された値である。換言すると、画素値２３２２は、前景に対応する光のレベルと背景に対応する光のレベルが空間的に混合されたレベルに対応する値である。
【１４７１】
このように、実世界１の光信号のうちの１画素（センサ２の検出素子）に対応する部分が、同一レベルの光信号が空間的に一様に分布する部分ではなく、前景と背景のように異なるレベルの光信号のそれぞれが分布する部分である場合、その領域は、センサ２により検出されると、センサ２の積分効果により、異なる光のレベルがあたかも空間的に混合されて（空間方向に積分されて）１つの画素値となってしまう。このように、前景に対する画像（実世界１の光信号）と、背景に対する画像（実世界１の光信号）が空間的に積分されている画素からなる領域を、ここでは、空間混合領域と称している。
【１４７２】
従って、第３の方法においては、実世界推定部１０２（図２１９）が、実世界１の元の領域２３２１（実世界１の光信号のうちの、センサ２の１画素に対応する部分２３２１）を表すＸ断面波形F(x)を、例えば、図２３３で示されるような、１次の多項式である近似関数f₃(x)で近似することによって、Ｘ断面波形F(x)を推定する。
【１４７３】
即ち、図２３３は、空間混合領域である画素値２３２２（図２３２）に対応する近似関数f₃(x)、即ち、実世界１の領域２３３１内の実線（図２３２）に対応するＸ断面波形Ｆ（ｘ）を近似する近似関数f₃(x)の例を表している。図２３３において、図中水平方向の軸は、画素値２３２２に対応する画素の左下端x_sから右下端x_eまでの辺（図２３２）に平行な軸を表しており、x軸とされている。図中垂直方向の軸は、画素値を表す軸とされている。
【１４７４】
図２３３において、近似関数f₃(x)をx_sからx_eの範囲（画素幅）で積分したものが、センサ２から出力される画素値Ｐ(x,y)とほぼ一致する（誤差ｅだけ存在する）として、次の式（１１２）を定義する。
【１４７５】
【数８２】

・・・（１１２）
【１４７６】
いまの場合、図２２８で示される細線含有データ領域２３０２の２０個の画素値Ｐ(x,y)（ただし、xは、−１乃至２のうちのいずれかの整数値。yは、−２乃至２のうちのいずれかの整数値）から、近似関数f₃(x)の特徴量w_iが算出されるので、式（１１２）の画素値Ｐは、画素値P(x,y)となる。
【１４７７】
また、第２の方法と同様に、空間方向の定常性も考慮する必要があるので、式（１１２）の積分範囲の開始位置x_sと終了位置x_eのそれぞれは、シフト量C_x(y)にも依存することになる。即ち、式（１１２）の積分範囲の開始位置x_sと終了位置x_eのそれぞれは、次の式（１１３）のように表される。
【１４７８】
【数８３】

・・・（１１３）
【１４７９】
この場合、図２２８で示される細線含有データ領域２３０２の各画素値それぞれ、即ち、図２２９で示される入力画素値P(x,-2),P(x,-1),P(x,0),P(x,1),P(x,2)のそれぞれ（ただし、ｘは、−１乃至２のうちのいずれかの整数値）を、上述した式（１１２）（積分範囲は、上述した式（１１３））に代入すると次の式（１１４）で示される２０個の方程式が生成される。
【１４８０】
【数８４】

【数８５】

・・・（１１４）
【１４８１】
式（１１４）は、上述した式（１１１）と同様に、２０個の方程式より構成されている。従って、第２の方法と同様に第３の方法においても、近似関数f₃(x)の特徴量w_iの個数が２０個より少ない場合、即ち、近似関数f₃(x)が１９次より少ない次数の多項式である場合、例えば、最小自乗法を用いて特徴量w_iの算出が可能である。なお、最小自乗法の具体的な解法は後述する。
【１４８２】
例えば、近似関数f₃(x)の次数が５次とされた場合、式（１１４）を利用して最小自乗法により演算された近似関数f₃(x)（演算された特徴量w_iにより生成される近似関数f₃(x)）は、図２３４の実線で示される曲線のようになる。
【１４８３】
なお、図２３４において、縦軸は画素値を表しており、横軸は注目画素からの相対位置ｘを表している。
【１４８４】
図２３４で示されるように、第３の方法により生成された近似関数f₃(x)（図中、実線で示される曲線）は、第２の方法により生成された近似関数f₂(x)（図中、点線で示される曲線）と比較すると、ｘ＝０における画素値が大きくなり、また、曲線の傾斜の度合いも急な波形となる。これは、入力画素よりディテイルが増加して、入力画素の解像度とは無関係となっているためである。即ち、近似関数f₃（x）は、X断面波形F(x)を近似していると言える。従って、図示はしないが、近似関数f₃(x)は、近似関数f₂(x)よりもＸ断面波形F(x)に近い波形となる。
【１４８５】
図２３５は、このような１次多項式近似手法を利用する実世界推定部１０２の構成例を表している。
【１４８６】
図２３５において、実世界推定部１０２は、例えば、特徴量w_iを上述した第３の方法（最小自乗法）により演算し、演算した特徴量w_iを利用して上述した式（１０５）の近似関数f(x)を生成することで、Ｘ断面波形F(x)を推定する。
【１４８７】
図２３５で示されるように、実世界推定部１０２には、条件設定部２３３１、入力画像記憶部２３３２、入力画素値取得部２３３３、積分成分演算部２３３４、正規方程式生成部２３３５、および近似関数生成部２３３６が設けられている。
【１４８８】
条件設定部２３３１は、注目画素に対応するX断面波形F(x)を推定するために使用する画素の範囲（以下、タップ範囲と称する）や、近似関数f(x)の次数nを設定する。
【１４８９】
入力画像記憶部２３３２は、センサ２からの入力画像（画素値）を一次的に格納する。
【１４９０】
入力画素値取得部２３３３は、入力画像記憶部２３３２に記憶された入力画像のうちの、条件設定部２３３１により設定されたタップ範囲に対応する入力画像の領域を取得し、それを入力画素値テーブルとして正規方程式生成部２３３５に供給する。即ち、入力画素値テーブルは、入力画像の領域に含まれる各画素のそれぞれの画素値が記述されたテーブルである。なお、入力画素値テーブルの具体例については後述する。
【１４９１】
ところで、ここでは、実世界推定部１０２は、上述した式（１１２）と式（１１３）を利用して最小自乗法により近似関数f(x)の特徴量w_iを演算するが、上述した式（１１２）は、次の式（１１５）のように表現することができる。
【１４９２】
【数８６】

・・・（１１５）
【１４９３】
式（１１５）において、S_i（x_s,x_e）は、i次項の積分成分を表している。即ち、積分成分S_i(x_s,x_e)は、次の式（１１６）で示される。
【１４９４】
【数８７】

・・・（１１６）
【１４９５】
積分成分演算部２３３４は、この積分成分S_i(x_s、x_e)を演算する。
【１４９６】
具体的には、式（１１６）で示される積分成分S_i(x_s,x_e)（ただし、値x_sと値x_eは、上述した式（１１２）で示される値）は、相対画素位置(x,y)、シフト量C_x(y)、および、i次項のiが既知であれば演算可能である。また、これらのうちの、相対画素位置(x,y)は注目画素とタップ範囲により、シフト量C_x(y)は角度θにより（上述した式（１０７）と式（１０９）により）、iの範囲は次数nにより、それぞれ決定される。
【１４９７】
従って、積分成分演算部２３３４は、条件設定部２３３１により設定されたタップ範囲および次数、並びにデータ定常性検出部１０１より出力されたデータ定常性情報のうちの角度θに基づいて積分成分S_i(x_s,x_e)を演算し、その演算結果を積分成分テーブルとして正規方程式生成部２３３５に供給する。
【１４９８】
正規方程式生成部２３３５は、入力画素値取得部２３３３より供給された入力画素値テーブルと、積分成分演算部２３３４より供給された積分成分テーブルを利用して、上述した式（１１２）、即ち、式（１１５）の右辺の特徴量w_iを最小自乗法で求める場合の正規方程式を生成し、それを正規方程式テーブルとして近似関数生成部２３３６に供給する。なお、正規方程式の具体例については後述する。
【１４９９】
近似関数生成部２３３６は、正規方程式生成部２３３５より供給された正規方程式テーブルに含まれる正規方程式を行列解法で解くことにより、上述した式（１１５）の特徴量w_i（即ち、１次元多項式である近似関数f(x)の係数w_i）のそれぞれを演算し、画像生成部１０３に出力する。
【１５００】
次に、図２３６のフローチャートを参照して、１次元多項式近似手法を利用する実世界推定部１０２（図２３５）の実世界の推定処理（図４０のステップＳ１０２の処理）について説明する。
【１５０１】
例えば、いま、センサ２から出力された１フレームの入力画像であって、上述した図２２１の細線含有データ領域２３０２を含む入力画像が、既に入力画像記憶部２３３２に記憶されているとする。また、データ定常性検出部１０１が、ステップＳ１０１（図４０）の定常性の検出の処理において、細線含有データ領域２３０２に対してその処理を施して、データ定常性情報として角度θを既に出力しているとする。
【１５０２】
この場合、図２３６のステップＳ２３０１において、条件設定部２３３１は、条件（タップ範囲と次数）を設定する。
【１５０３】
例えば、いま、図２３７で示されるタップ範囲２３５１が設定されるとともに、次数として５次が設定されたとする。
【１５０４】
即ち、図２３７は、タップ範囲の１例を説明する図である。図２３７において、Ｘ方向とＹ方向は、センサ２のＸ方向とＹ方向（図２２０）を表している。また、タップ範囲２３５１は、Ｘ方向に４画素分、かつＹ方向に５画素分の総計２０個の画素（図中、２０個の正方形）からなる画素群を表している。
【１５０５】
さらに、図２３７で示されるように、注目画素が、タップ範囲２３５１のうちの、図中、左から２画素目であって、下から３画素目の画素に設定されるとする。また、各画素のそれぞれに対して、注目画素からの相対画素位置(x,y)（注目画素の中心(0,0)を原点とする注目画素座標系の座標値）に応じて、図２３７で示されるような番号l（lは、０乃至１９のうちのいずれかの整数値）が付されるとする。
【１５０６】
図２３６に戻り、ステップＳ２３０２において、条件設定部２３３１は、注目画素を設定する。
【１５０７】
ステップＳ２３０３において、入力画素値取得部２３３３は、条件設定部２３３１により設定された条件（タップ範囲）に基づいて入力画素値を取得し、入力画素値テーブルを生成する。即ち、いまの場合、入力画素値取得部２３３３は、細線含有データ領域２３０２（図２２５）を取得し、入力画素値テーブルとして、２０個の入力画素値P(l)からなるテーブルを生成する。
【１５０８】
なお、いまの場合、入力画素値P(l)と、上述した入力画素値P(x,y)の関係は、次の式（１１７）で示される関係とされる。ただし、式（１１７）において、左辺が入力画素値P（ｌ）を表し、右辺が入力画素値P(x,y)を表している。
【１５０９】
【数８８】

・・・（１１７）
【１５１０】
ステップＳ２３０４において、積分成分演算部２３３４は、条件設定部２３３１により設定された条件（タップ範囲および次数）、並びにデータ定常性検出部１０１より供給されたデータ定常性情報（角度θ）に基づいて積分成分を演算し、積分成分テーブルを生成する。
【１５１１】
いまの場合、上述したように、入力画素値は、P(x,y)でなくP(l)といった、画素の番号lの値として取得されるので、積分成分演算部２３３４は、上述した式（１１６）の積分成分S_i(x_s,x_e)を、次の式（１１８）の左辺で示される積分成分S_i(l)といったlの関数として演算する。
【１５１２】
S_i(ｌ) ＝ S_i（x_s,x_e）・・・（１１８）
【１５１３】
具体的には、いまの場合、次の式（１１９）で示される積分成分S_i(l)が演算される。
【１５１４】
【数８９】

・・・（１１９）
【１５１５】
なお、式（１１９）において、左辺が積分成分S_i（ｌ)を表し、右辺が積分成分S_i(x_s,x_e)を表している。即ち、いまの場合、iは０乃至５であるので、２０個のS₀(l),２０個のS₁(l),２０個のS₂(l),２０個のS₃(l),２０個のS₄(l),２０個のS₅(l)の総計１２０個のS_i(l)が演算されることになる。
【１５１６】
より具体的には、はじめに、積分成分演算部２３３４は、データ定常性検出部１０１より供給された角度θを使用して、シフト量C_x(-2),C_x(-1),C_x(1),C_x(2)のそれぞれを演算する。次に、積分成分演算部２３３４は、演算したシフト量C_x(-2),C_x(-1),C_x(1),C_x(2)を使用して式（１１８）の右辺に示される２０個の積分成分S_i(x_s,x_e)のそれぞれを、i=０乃至５のそれぞれについて演算する。即ち、１２０個の積分成分S_i(x_s,x_e)が演算される。なお、この積分成分S_i(x_s,x_e)の演算においては、上述した式（１１６）が使用される。そして、積分成分演算部２３３４は、式（１１９）に従って、演算した１２０個の積分成分S_i(x_s,x_e)のそれぞれを、対応する積分成分S_i(l)に変換し、変換した１２０個の積分成分S_i(l)を含む積分成分テーブルを生成する。
【１５１７】
なお、ステップＳ２３０３の処理とステップＳ２３０４の処理の順序は、図２３６の例に限定されず、ステップＳ２３０４の処理が先に実行されてもよいし、ステップＳ２３０３の処理とステップＳ２３０４の処理が同時に実行されてもよい。
【１５１８】
次に、ステップＳ２３０５において、正規方程式生成部２３３５は、ステップＳ２３０３の処理で入力画素値取得部２３３３により生成された入力画素値テーブルと、ステップＳ２３０４の処理で積分成分演算部２３３４により生成された積分成分テーブルに基づいて、正規方程式テーブルを生成する。
【１５１９】
具体的には、いまの場合、最小自乗法により、上述した式（１１５）に対応する次の式（１２０）の特徴量w_iを演算する。で、それに対応する正規方程式は、次の式（１２１）のように表される。
【１５２０】
【数９０】

・・・（１２０）
【１５２１】
【数９１】

・・・（１２１）
【１５２２】
なお、式（１２１）において、Lは、タップ範囲の画素の番号lのうちの最大値を表している。nは、多項式である近似関数f(x)の次数を表している。具体的には、いまの場合、n=5となり、L=１９となる。
【１５２３】
式（１２１）で示される正規方程式の各行列のそれぞれを、次の式（１２２）乃至（１２４）のように定義すると、正規方程式は、次の式（１２５）のように表される。
【１５２４】
【数９２】

・・・（１２２）
【１５２５】
【数９３】

・・・（１２３）
【１５２６】
【数９４】

・・・（１２４）
【１５２７】
【数９５】

・・・（１２５）
【１５２８】
式（１２３）で示されるように、行列W_MATの各成分は、求めたい特徴量w_iである。従って、式（１２５）において、左辺の行列Ｓ_MATと右辺の行列P_MATが決定されれば、行列解法によって行列W_MAT（即ち、特徴量w_i）の算出が可能である。
【１５２９】
具体的には、式（１２２）で示されるように、行列Ｓ_MATの各成分は、上述した積分成分S_i(l)が既知であれば演算可能である。積分成分S_i(l)は、積分成分演算部２３３４より供給された積分成分テーブルに含まれているので、正規方程式生成部２３３５は、積分成分テーブルを利用して行列Ｓ_MATの各成分を演算することができる。
【１５３０】
また、式（１２４）で示されるように、行列Ｐ_MATの各成分は、積分成分S_i(l)と入力画素値P(l)が既知であれば演算可能である。積分成分S_i(l)は、行列Ｓ_MATの各成分に含まれるものと同一のものであり、また、入力画素値P(l)は、入力画素値取得部２３３３より供給された入力画素値テーブルに含まれているので、正規方程式生成部２３３５は、積分成分テーブルと入力画素値テーブルを利用して行列Ｐ_MATの各成分を演算することができる。
【１５３１】
このようにして、正規方程式生成部２３３５は、行列Ｓ_MATと行列Ｐ_MATの各成分を演算し、その演算結果（行列Ｓ_MATと行列Ｐ_MATの各成分）を正規方程式テーブルとして近似関数生成部２３３６に出力する。
【１５３２】
正規方程式生成部２３３５より正規方程式テーブルが出力されると、ステップＳ２３０６において、近似関数生成部２３３６は、正規方程式テーブルに基づいて、上述した式（１２５）の行列W_MATの各成分である特徴量w_i（即ち、１次元多項式である近似関数f(x)の係数w_i）を演算する。
【１５３３】
具体的には、上述した式（１２５）の正規方程式は、次の式（１２６）のように変形できる。
【１５３４】
【数９６】

・・・（１２６）
【１５３５】
式（１２６）において、左辺の行列W_MATの各成分が、求めたい特徴量w_iである。また、行列S_MATと行列P_MATのそれぞれの各成分は、正規方程式生成部２３３５より供給された正規方程式テーブルに含まれている。従って、近似関数生成部２３３６は、正規方程式テーブルを利用して、式（１２６）の右辺の行列演算を行うことで行列W_MATを演算し、その演算結果（特徴量w_i）を画像生成部１０３に出力する。
【１５３６】
ステップＳ２３０７において、近似関数生成部２３３６は、全画素の処理を終了したか否かを判定する。
【１５３７】
ステップＳ２３０７において、全画素の処理がまだ終了されていないと判定された場合、処理はステップＳ２３０２に戻り、それ以降の処理が繰り返される。即ち、まだ注目画素とされない画素が、順次注目画素とされて、ステップＳ２３０２乃至Ｓ２３０７の処理が繰り返される。
【１５３８】
そして、全画素の処理が終了すると（ステップＳ２３０７において、全画素の処理が終了されたと判定されると）、実世界１の推定処理は終了となる。
【１５３９】
なお、以上のようにして演算された係数（特徴量）w_iにより生成される近似関数f(x)の波形は、上述した図２３４の近似関数f₃(x)のような波形となる。
【１５４０】
このように、１次元多項式近似手法においては、１次元のＸ断面波形F(x)と同一形状の波形が定常性の方向に連なっていると仮定して、１次元の多項式である近似関数f(x)の特徴量が演算される。従って、１次元多項式近似手法においては、他の関数近似手法に比較して、少ない演算処理量で近似関数f(x)の特徴量の算出が可能となる。
【１５４１】
換言すると、１次元多項式近似手法においては、例えば、図２１９（図３）のデータ定常性検出部１０１が、それぞれ時空間積分効果を有する、センサの複数の検出素子（例えば、図２２０のセンサ２の検出素子２−１）により実世界１の光信号（例えば、図２２１の実世界１の光信号の１部分２３０１）が射影され、実世界１の光信号の定常性（例えば、図２２８の傾きG_Fで表される定常性）の一部が欠落した、検出素子２−１により射影された画素値（例えば、図２２６の各グラフに示される入力画素値P(x,y)）を有する複数の画素からなる画像データ（例えば、図２２１の画像データ（入力画像の領域）２３０２）におけるデータの定常性（例えば、図２２８の傾きG_fで表されるデータの定常性）を検出する。
【１５４２】
例えば、図２１９（図３）の実世界推定部１０２は、データ定常性検出部１０１により検出されたデータの定常性に対応して、画像データの時空間方向のうち１次元方向（例えば、図２２３の矢印２３１１、即ち、X方向）の位置に対応する画素の画素値（例えば、上述した式（１１２）の左辺である入力画素値Ｐ）が、１次元方向の積分効果により取得された画素値（例えば、式（１１２）の右辺に示されるように、近似関数f₃(x)がＸ方向に積分された値）であるとして、実世界１の光信号を表す光信号関数Ｆ（具体的には、Ｘ断面波形Ｆ（ｘ））を所定の近似関数ｆ（具体的には、例えば、図２３４の近似関数f₃(x)）で近似することで、光信号関数Fを推定する。
【１５４３】
詳細には、例えば、実世界推定部１０２は、データ定常性検出手部１０１により検出されたデータの定常性に対応する線（例えば、図２３０の傾きG_fに対応する線（点線））からの１次元方向（例えば、Ｘ方向）に沿った距離（例えば、図２３０のシフト量Cx(y)）に対応する画素の画素値が、１次元方向の積分効果により取得された画素値（例えば、上述した式（１１２）に示されるような積分範囲で、式（１１２）の右辺に示されるように、近似関数f₃(x)がＸ方向に積分された値）であるとして、光信号関数Fを近似関数ｆで近似することにより、光信号関数Fを推定する。
【１５４４】
従って、１次元多項式近似手法においては、他の関数近似手法に比較して、少ない演算処理量で近似関数f(x)の特徴量の算出が可能となる。
【１５４５】
次に、図２３８乃至図２４４を参照して、第２の関数近似手法について説明する。
【１５４６】
即ち、第２の関数近似手法とは、例えば、図２３８で示されるような、傾きG_Fで表される空間方向の定常性を有する実世界１の光信号を、Ｘ−Ｙ平面上（空間方向の１方向であるＸ方向と、Ｘ方向に垂直なＹ方向に水平な平面上）の波形F(x,y)とみなし、２次元の多項式である近似関数f(x,y)で波形F(x,y)を近似することによって、その波形F(x,y)を推定する手法である。従って、以下、第２の関数近似手法を、２次元多項式近似手法と称する。
【１５４７】
なお、図２３８において、図中、水平方向は、空間方向の１方向であるＸ方向を、右上方向は、空間方向の他方向であるＹ方向を、垂直方向は、光のレベルを、それぞれ表している。G_Fは、空間方向の定常性の傾きを表している。
【１５４８】
また、２次元多項式近似手法の説明においても、センサ２は、図２３９で示されるような、複数の検出素子２−１がその平面上に配置されて構成されるＣＣＤとされる。
【１５４９】
図２３９の例では、検出素子２−１の所定の１辺に平行な方向が、空間方向の１方向であるＸ方向とされており、Ｘ方向に垂直な方向が、空間方向の他方向であるＹ方向とされている。そして、Ｘ−Ｙ平面に垂直な方向が、時間方向であるｔ方向とされている。
【１５５０】
また、図２３９の例では、センサ２の各検出素子２−１のそれぞれの空間的な形状は、１辺の長さが１の正方形とされている。そして、センサ２のシャッタ時間（露光時間）が１とされている。
【１５５１】
さらに、図２３９の例では、センサ２の所定の１つの検出素子２−１の中心が、空間方向（Ｘ方向とＹ方向）の原点（Ｘ方向の位置ｘ＝０、およびＹ方向の位置ｙ＝０）とされており、また、露光時間の中間時刻が、時間方向（ｔ方向）の原点（ｔ方向の位置ｔ＝０）とされている。
【１５５２】
この場合、空間方向の原点（ｘ＝０,ｙ＝０）にその中心が存在する検出素子２−１は、Ｘ方向に-0.5乃至0.5の範囲、Ｙ方向に-0.5乃至0.5の範囲、およびｔ方向に-0.5乃至0.5の範囲で光信号関数F(x,y,t)を積分し、その積分値を画素値Ｐとして出力することになる。
【１５５３】
即ち、空間方向の原点にその中心が存在する検出素子２−１から出力される画素値Ｐは、次の式（１２７）で表される。
【１５５４】
【数９７】

・・・（１２７）
【１５５５】
その他の検出素子２−１も同様に、対象とする検出素子２−１の中心を空間方向の原点とすることで、式（１２７）で示される画素値Ｐを出力することになる。
【１５５６】
ところで、上述したように、２次元多項式近似手法は、実世界１の光信号を、例えば、図２３８で示されるような波形F(x,y)として扱い、その２次元の波形F(x,y)を、２次元の多項式である近似関数f(x,y)に近似する手法である。
【１５５７】
そこで、はじめに、このような近似関数f(x,y)を２次元の多項式で表現する手法について説明する。
【１５５８】
上述したように、実世界１の光信号は、３次元の空間上の位置x,y、およびｚ、並びに時刻tを変数とする光信号関数F(x,y,t)で表される。この光信号関数F(x,y,t)を、Ｙ方向の任意の位置yにおいて、Ｘ方向に射影した１次元の波形を、ここでは、Ｘ断面波形F(x)と称している。
【１５５９】
このＸ断面波形Ｆ（ｘ）に注目すると、実世界１の信号が、空間方向の所定の方向に定常性を有している場合、Ｘ断面波形Ｆ（ｘ）と同一形状の波形がその定常性の方向に連なっていると考えることができる。例えば、図２３８の例では、Ｘ断面波形Ｆ（ｘ）と同一形状の波形が、傾きG_Fの方向に連なっている。換言すると、Ｘ断面波形Ｆ（ｘ）と同一形状の波形が傾きG_Fの方向に連なって、波形F(x,y)が形成されているとも言える。
【１５６０】
従って、波形F(x,y)を近似する近似関数f(x,y)の波形は、Ｘ断面波形F(x)を近似する近似関数f(x)と同一形状の波形が連なって形成されると考えることで、近似関数f(x,y)を２次元の多項式で表現することが可能になる。
【１５６１】
さらに詳細に、近似関数f(x,y)の表現方法について説明する。
【１５６２】
例えば、いま、上述した図２３８で示されるような、実世界１の光信号、即ち、傾きG_Fで表される空間方向の定常性を有する光信号が、センサ２（図２３９）により検出されて入力画像（画素値）として出力されたとする。
【１５６３】
さらに、図２４０で示されるように、データ定常性検出部１０１（図３）が、この入力画像のうちの、Ｘ方向に４画素分、かつＹ方向に５画素分の総計２０個の画素（図中、点線で表される２０個の正方形）から構成される入力画像の領域２４０１に対してその処理を実行し、データ定常性情報の１つとして角度θ（傾きG_Fに対応する傾きG_fで表されるデータの定常性の方向と、Ｘ方向とのなす角度θ）を出力したとする。
【１５６４】
なお、入力画像の領域２４０１において、図中水平方向は、空間方向の1方向であるＸ方向を表しており、図中垂直方向は、空間方向の他方向であるＹ方向を表している。
【１５６５】
また、図２４０中、左から２画素目であって、下から３画素目の画素が注目画素とされ、その注目画素の中心を原点(0,0)とするように(x,y)座標系が設定されている。そして、原点(0,0)を通る角度θの直線（データの定常性の方向を表す傾きG_fの直線）に対するＸ方向の相対的な距離（以下、断面方向距離と称する）がx'と記述されている。
【１５６６】
さらに、図２４０中、右側のグラフは、X断面波形F(x')が近似された関数であって、n次（nは、任意の整数）の多項式である近似関数f(x')を表している。右側のグラフの軸のうち、図中水平方向の軸は、断面方向距離を表しており、図中垂直方向の軸は、画素値を表している。
【１５６７】
この場合、図２４０で示される近似関数f(x')は、ｎ次の多項式であるので、次の式（１２８）のように表される。
【１５６８】
【数９８】

・・・（１２８）
【１５６９】
また、角度θが決定されていることから、原点(0,0)を通る角度θの直線は一意に決まり、Ｙ方向の任意の位置yにおける、直線のＸ方向の位置x_lが、次の式（１２９）のように表される。ただし、式（１２９）において、sはcotθを表している。
【１５７０】
x_l ＝ｓ×ｙ・・・（１２９）
【１５７１】
即ち、図２４０で示されるように、傾きG_fで表されるデータの定常性に対応する直線上の点は、座標値(x_l,y)で表される。
【１５７２】
式（１２９）より、断面方向距離x'は、次の式（１３０）のように表される。
【１５７３】
x' ＝ x−x_l ＝ x−s×y ・・・（１３０）
【１５７４】
従って、入力画像の領域２４０１内の任意の位置(x,y)における近似関数f(x,y)は、式（１２８）と式（１３０）より、次の式（１３１）のように示される。
【１５７５】
【数９９】

・・・（１３１）
【１５７６】
なお、式（１３１）において、w_iは、近似関数f(x,y)の係数を表している。なお、近似関数f(x,y)を含む近似関数ｆの係数w_iを、近似関数ｆの特徴量と位置づけることもできる。従って、以下、近似関数ｆの係数w_iを、近似関数ｆの特徴量w_iとも称する。
【１５７７】
このようにして、角度θが既知であれば、２次元波形の近似関数f(x,y)を、式（１３１）の多項式として表現することができる。
【１５７８】
従って、実世界推定部１０２は、式（１３１）の特徴量wiを演算することができれば、図２３８で示されるような波形F(x,y)を推定することができる。
【１５７９】
そこで、以下、式（１３１）の特徴量wiを演算する手法について説明する。
【１５８０】
即ち、式（１３１）で表される近似関数f(x,y)を、画素（センサ２の検出素子２−１（図２３９））に対応する積分範囲（空間方向の積分範囲）で積分すれば、その積分値が、画素の画素値の推定値となる。このことを、式で表現したものが、次の式（１３２）である。なお、２次元多項式近似手法においては、時間方向ｔは一定値とみなされるので、式（１３２）は、空間方向（Ｘ方向とＹ方法）の位置x,yを変数とする方程式とされている。
【１５８１】
【数１００】

・・・（１３２）
【１５８２】
式（１３２）において、P(x,y)は、センサ２からの入力画像のうちの、その中心位置が位置(x,y)（注目画素からの相対位置(x,y)）に存在する画素の画素値を表している。また、ｅは、誤差を表している。
【１５８３】
このように、２次元多項式近似手法においては、入力画素値P(x,y)と、２次元の多項式である近似関数f(x,y)の関係を、式（１３２）で表現することが可能であるので、実世界推定部１０２は、式（１３２）を利用して、特徴量wiを、例えば、最小自乗法等により演算することで（演算した特徴量wiを式（１３０）に代入して近似関数f(x,y)を生成することで）、２次元の関数F(x,y)（傾きG_F（図２３８）で表される空間方向の定常性を有する実世界１の光信号を、空間方向に着目して表した波形F(x,y)）を推定することが可能となる。
【１５８４】
図２４１は、このような２次元多項式近似手法を利用する実世界推定部１０２の構成例を表している。
【１５８５】
図２４１で示されるように、実世界推定部１０２には、条件設定部２４２１、入力画像記憶部２４２２、入力画素値取得部２４２３、積分成分演算部２４２４、正規方程式生成部２４２５、および近似関数生成部２４２６が設けられている。
【１５８６】
条件設定部２４２１は、注目画素に対応する関数F(x,y)を推定するために使用する画素の範囲（タップ範囲）や、近似関数f(x,y)の次数nを設定する。
【１５８７】
入力画像記憶部２４２２は、センサ２からの入力画像（画素値）を一次格納する。
【１５８８】
入力画素値取得部２４２３は、入力画像記憶部２４２２に記憶された入力画像のうちの、条件設定部２４２１により設定されたタップ範囲に対応する入力画像の領域を取得し、それを入力画素値テーブルとして正規方程式生成部２４２５に供給する。即ち、入力画素値テーブルは、入力画像の領域に含まれる各画素のそれぞれの画素値が記述されたテーブルである。なお、入力画素値テーブルの具体例については後述する。
【１５８９】
ところで、上述したように、２次元多項式近似手法を利用する実世界推定部１０２は、上述した式（１３２）を最小自乗法で解くことにより、上述した式（１３１）で示される近似関数f(x,y)の特徴量w_iを演算する。
【１５９０】
式（１３２）は、次の式（１３３）乃至式（１３５）を用いることで得られる次の式（１３６）を使用することで、次の式（１３７）のように表現することができる。
【１５９１】
【数１０１】

・・・（１３３）
【１５９２】
【数１０２】

・・・（１３４）
【１５９３】
【数１０３】

・・・（１３５）
【１５９４】
【数１０４】

・・・（１３６）
【１５９５】
【数１０５】

・・・（１３７）
【１５９６】
式（１３７）において、S_i（x-0.5,x+0.5,y-0.5,y+0.5）は、i次項の積分成分を表している。即ち、積分成分S_i（x-0.5,x+0.5,y-0.5,y+0.5）は、次の式（１３８）で示される通りである。
【１５９７】
【数１０６】

・・・（１３８）
【１５９８】
積分成分演算部２４２４は、この積分成分S_i（x-0.5,x+0.5,y-0.5,y+0.5）を演算する。
【１５９９】
具体的には、式（１３８）で示される積分成分S_i（x-0.5,x+0.5,y-0.5,y+0.5）は、相対画素位置(x,y)、上述した式（１３１）における変数ｓ、および、i次項のiが既知であれば、演算可能である。これらのうちの、相対画素位置(x,y)は注目画素とタップ範囲により、変数sはcotθであるので角度θにより、iの範囲は次数nにより、それぞれ決定される。
【１６００】
従って、積分成分演算部２４２４は、条件設定部２４２１により設定されたタップ範囲および次数、並びにデータ定常性検出部１０１より出力されたデータ定常性情報のうちの角度θに基づいて積分成分S_i（x-0.5,x+0.5,y-0.5,y+0.5）を演算し、その演算結果を積分成分テーブルとして正規方程式生成部２４２５に供給する。
【１６０１】
正規方程式生成部２４２５は、入力画素値取得部２４２３より供給された入力画素値テーブルと、積分成分演算部２４２４より供給された積分成分テーブルを利用して、上述した式（１３２）、即ち、式（１３７）を最小自乗法で求める場合の正規方程式を生成し、それを正規方程式テーブルとして近似関数生成部２４２６に出力する。なお、正規方程式の具体例については後述する。
【１６０２】
近似関数生成部２４２６は、正規方程式生成部２４２５より供給された正規方程式テーブルに含まれる正規方程式を行列解法で解くことにより、上述した式（１３２）の特徴量w_i（即ち、２次元多項式である近似関数f(x,y)の係数w_i）のそれぞれを演算し、画像生成部１０３に出力する。
【１６０３】
次に、図２４２のフローチャートを参照して、２次元多項式近似手法が適用される実世界の推定処理（図４０のステップＳ１０２の処理）について説明する。
【１６０４】
例えば、いま、傾きG_Fで表される空間方向の定常性を有する実世界１の光信号が、センサ２（図２３９）により検出されて、１フレームに対応する入力画像として、入力画像記憶部２４２２に既に記憶されているとする。また、データ定常性検出部１０１が、ステップＳ１０１（図４０）の定常性の検出の処理において、入力画像のうちの、上述した図２４０で示される領域２４０１に対して処理を施して、データ定常性情報として角度θを既に出力しているとする。
【１６０５】
この場合、ステップＳ２４０１において、条件設定部２４２１は、条件（タップ範囲と次数）を設定する。
【１６０６】
例えば、いま、図２４３で示されるタップ範囲２４４１が設定されるとともに、次数として５次が設定されたとする。
【１６０７】
即ち、図２４３は、タップ範囲の１例を説明する図である。図２４３において、Ｘ方向とＹ方向は、センサ２のＸ方向とＹ方向（図２３９）を表している。また、タップ範囲２４４１は、Ｘ方向に４画素分、かつＹ方向に５画素分の総計２０個の画素（図中、２０個の正方形）からなる画素群を表している。
【１６０８】
さらに、図２４３に示されるように、注目画素が、タップ範囲２４４１のうちの、図中、左から２画素目であって、下から３画素目の画素に設定されるとする。また、各画素のそれぞれに対して、注目画素からの相対画素位置(x,y)（注目画素の中心(0,0)を原点とする注目画素座標系の座標値）に応じて、図２４３で示されるような番号l（lは、０乃至１９のうちのいずれかの整数値）が付されるとする。
【１６０９】
図２４２に戻り、ステップＳ２４０２において、条件設定部２４２１は、注目画素を設定する。
【１６１０】
ステップＳ２４０３において、入力画素値取得部２４２３は、条件設定部２４２１により設定された条件（タップ範囲）に基づいて入力画素値を取得し、入力画素値テーブルを生成する。即ち、いまの場合、入力画素値取得部２４２３は、入力画像の領域２４０１（図２４０）を取得し、入力画素値テーブルとして、２０個の入力画素値P(l)からなるテーブルを生成する。
【１６１１】
なお、いまの場合、入力画素値P(l)と、上述した入力画素値P(x,y)の関係は、次の式（１３９）で示される関係とされる。ただし、式（１３９）において、左辺が入力画素値P（ｌ）を表し、右辺が入力画素値P(x,y)を表している。
【１６１２】
【数１０７】

・・・（１３９）
【１６１３】
ステップＳ２４０４において、積分成分演算部２４２４は、条件設定部２４２１により設定された条件（タップ範囲および次数）、並びにデータ定常性検出部１０１より供給されたデータ定常性情報（角度θ）に基づいて積分成分を演算し、積分成分テーブルを生成する。
【１６１４】
いまの場合、上述したように、入力画素値は、P(x,y)でなくP(l)といった、画素の番号lの値として取得されるので、積分成分演算部２４２４は、上述した式（１３８）の積分成分S_i(x-0.5,x+0.5,y-0.5,y+0.5)を、次の式（１４０）の左辺で示される積分成分S_i(l)といったlの関数として演算する。
【１６１５】
S_i(ｌ) ＝ S_i(x-0.5,x+0.5,y-0.5,y+0.5) ・・・（１４０）
【１６１６】
具体的には、いまの場合、次の式（１４１）で示される積分成分S_i(l)が演算される。
【１６１７】
【数１０８】

・・・（１４１）
【１６１８】
なお、式（１４１）において、左辺が積分成分S_i（ｌ)を表し、右辺が積分成分S_i(x-0.5,x+0.5,y-0.5,y+0.5)を表している。即ち、いまの場合、iは０乃至５であるので、２０個のS₀(l),２０個のS₁(l),２０個のS₂(l),２０個のS₃(l),２０個のS₄(l),２０個のS₅(l)の総計１２０個のS_i(l)が演算されることになる。
【１６１９】
より具体的には、はじめに、積分成分演算部２４２４は、データ定常性検出部１０１より供給された角度θに対するcotθを演算し、それを変数ｓとする。次に、積分成分演算部２４２４は、演算した変数ｓを使用して式（１４０）の右辺で示される２０個の積分成分S_i(x-0.5,x+0.5,y-0.5,y+0.5) のそれぞれを、i=０乃至５のそれぞれについて演算する。即ち、１２０個の積分成分S_i(x-0.5,x+0.5,y-0.5,y+0.5) が演算されることになる。なお、この積分成分S_i(x-0.5,x+0.5,y-0.5,y+0.5) の演算においては、上述した式（１３８）が使用される。そして、積分成分演算部２４２４は、式（１４１）に従って、演算した１２０個の積分成分S_i(x-0.5,x+0.5,y-0.5,y+0.5)のそれぞれを、対応するS_i(l)のそれぞれに変換し、変換した１２０個のS_i(l)を含む積分成分テーブルを生成する。
【１６２０】
なお、ステップＳ２４０３の処理とステップＳ２４０４の処理の順序は、図２４２の例に限定されず、ステップＳ２４０４の処理が先に実行されてもよいし、ステップＳ２４０３の処理とステップＳ２４０４の処理が同時に実行されてもよい。
【１６２１】
次に、ステップＳ２４０５において、正規方程式生成部２４２５は、ステップＳ２４０３の処理で入力画素値取得部２４２３により生成された入力画素値テーブルと、ステップＳ２４０４の処理で積分成分演算部２４２４により生成された積分成分テーブルに基づいて、正規方程式テーブルを生成する。
【１６２２】
具体的には、いまの場合、上述した式（１３７）を利用して最小自乗法により特徴量w_iが演算される（ただし、式（１３６）において、積分成分S_i(x-0.5,x+0.5,y-0.5,y+0.5)は、式（１４０）により変換されるSi(l)が使用される）ので、それに対応する正規方程式は、次の式（１４２）のように表される。
【１６２３】
【数１０９】

・・・（１４２）
【１６２４】
なお、式（１４２）において、Lは、タップ範囲の画素の番号lのうちの最大値を表している。nは、多項式である近似関数f(x)の次数を表している。具体的には、いまの場合、n=5となり、L=１９となる。
【１６２５】
式（１４２）で示される正規方程式の各行列のそれぞれを、次の式（１４３）乃至（１４５）のように定義すると、正規方程式は、次の式（１４６）のように表現される。
【１６２６】
【数１１０】

・・・（１４３）
【１６２７】
【数１１１】

・・・（１４４）
【１６２８】
【数１１２】

・・・（１４５）
【１６２９】
【数１１３】

・・・（１４６）
【１６３０】
式（１４４）で示されるように、行列W_MATの各成分は、求めたい特徴量w_iである。従って、式（１４６）において、左辺の行列Ｓ_MATと右辺の行列P_MATが決定されれば、行列解法によって行列W_MATの演算が可能になる。
【１６３１】
具体的には、式（１４３）で示されるように、行列Ｓ_MATの各成分は、上述した積分成分S_i(l)で演算可能である。即ち、積分成分S_i(l)は、積分成分演算部２４２４より供給された積分成分テーブルに含まれているので、正規方程式生成部２４２５は、積分成分テーブルを利用して行列Ｓ_MATの各成分を演算することができる。
【１６３２】
また、式（１４５）で示されるように、行列Ｐ_MATの各成分は、積分成分S_i(l)と入力画素値P(l)で演算可能である。即ち、積分成分S_i(l)は、行列Ｓ_MATの各成分に含まれるものと同一のものであり、また、入力画素値P(l)は、入力画素値取得部２４２３より供給された入力画素値テーブルに含まれているので、正規方程式生成部２４２５は、積分成分テーブルと入力画素値テーブルを利用して行列Ｐ_MATの各成分を演算することができる。
【１６３３】
このようにして、正規方程式生成部２４２５は、行列Ｓ_MATと行列Ｐ_MATの各成分を演算し、その演算結果（行列Ｓ_MATと行列Ｐ_MATの各成分）を正規方程式テーブルとして近似関数生成部２４２６に出力する。
【１６３４】
正規方程式生成部２４２５より正規方程式テーブルが出力されると、ステップＳ２４０６において、近似関数生成部２４２６は、正規方程式テーブルに基づいて、上述した式（１４６）の行列W_MATの各成分である特徴量w_i（即ち、２次元多項式である近似関数f(x,y)の係数w_i）を演算する。
【１６３５】
具体的には、上述した式（１４６）の正規方程式は、次の式（１４７）のように変形できる。
【１６３６】
【数１１４】

・・・（１４７）
【１６３７】
式（１４７）において、左辺の行列W_MATの各成分が、求めたい特徴量w_iである。また、行列S_MATと行列P_MATのそれぞれの各成分は、正規方程式生成部２４２５より供給された正規方程式テーブルに含まれている。従って、近似関数生成部２４２６は、正規方程式テーブルを利用して、式（１４７）の右辺の行列演算を行うことで行列W_MATを演算し、その演算結果（特徴量w_i）を画像生成部１０３に出力する。
【１６３８】
ステップＳ２４０７において、近似関数生成部２４２６は、全画素の処理を終了したか否かを判定する。
【１６３９】
ステップＳ２４０７において、全画素の処理がまだ終了されていないと判定された場合、処理はステップＳ２４０２に戻り、それ以降の処理が繰り返される。即ち、まだ注目画素とされない画素が、順次注目画素とされて、ステップＳ２４０２乃至Ｓ２４０７の処理が繰り返される。
【１６４０】
そして、全画素の処理が終了すると（ステップＳ２４０７において、全画素の処理が終了されたと判定されると）、実世界１の推定処理は終了となる。
【１６４１】
以上、２次元多項式近似手法の説明として、空間方向（X方向とY方向）に対する近似関数f(x,y)の係数（特徴量）w_iを演算する例を用いたが、２次元多項式近似手法は、時空間方向（X方向とt方向、または、Y方向とｔ方向）に対しても適用可能である。
【１６４２】
即ち、上述した例は、実世界１の光信号が、例えば、傾きG_F（図２３８）で表される空間方向の定常性を有する場合の例であったので、上述した式（１３２）で示されるような、空間方向（X方向とY方向）の２次元積分が含まれる式が利用された。しかしながら、２次元積分の考え方は、空間方向だけによるものではなく、時空間方向（X方向とt方向、または、Y方向とｔ方向）に対して適用することも可能である。
【１６４３】
換言すると、２次元多項式近似手法においては、推定したい光信号関数F(x,y,t)が、空間方向の定常性のみならず、時空間方向（ただし、X方向とt方向、または、Y方向とｔ方向）の定常性を有している場合であっても、２次元の多項式により近似することが可能である。
【１６４４】
具体的には、例えば、X方向に水平に等速で動いている物体がある場合、その物体の動きの方向は、図２４４で示されるようなX-t平面においては、傾きV_Fのように表される。換言すると、傾きV_Fは、X-t平面における時空間方向の定常性の方向を表しているとも言える。従って、データ定常性検出部１０１は、上述した角度θ（X-Y平面における、傾きG_Fで表される空間方向の定常性に対応するデータ定常性情報）と同様に、X-t平面における時空間方向の定常性を表す傾きV_Fに対応するデータ定常性情報として、図２４４で示されるような動きθ（厳密には、図示はしないが、傾きV_Fに対応する傾きV_fで表されるデータの定常性の方向と、空間方向のＸ方向とのなす角度である動きθ）を出力することが可能である。
【１６４５】
従って、２次元多項式近似手法を利用する実世界推定部１０２は、動きθを上述した角度θの代わりとして使用すれば、上述した方法と同様な方法で、近似関数f(x,t)の係数（特徴量）w_iを演算することが可能になる。ただし、この場合、使用される式は、上述した式（１３２）ではなく、次の式（１４８）である。
【１６４６】
【数１１５】

・・・（１４８）
【１６４７】
なお、式（１４８）において、ｓはcotθ（ただし、θは動きである）である。
【１６４８】
また、空間方向Ｘの変わりに、空間方向Ｙに注目した近似関数f（y,t)も、上述した近似関数f(x、t)と全く同様に取り扱うことが可能である。
【１６４９】
このように、２次元多項式近似手法においては、例えば、図２１９（図３）のデータ定常性検出部１０１が、それぞれ時空間積分効果を有する、センサの複数の検出素子（例えば、図２３９のセンサ２の検出素子２−１）により実世界１（図２１９）の光信号が射影され、実世界１の光信号の定常性（例えば、図２３８の傾きG_Fで表される定常性）の一部が欠落した、検出素子２−１により射影された画素値を有する複数の画素からなる画像データ（例えば、図２１９の入力画像）におけるデータの定常性（例えば、図２４０の傾きG_fで表されるデータの定常性）を検出する。
【１６５０】
そして、例えば、図２１９(図３)の実世界推定部１０２（構成は、図２４１）が、データ定常性検出部１０１により検出されたデータの定常性に対応して、画像データの時空間方向のうち少なくとも２次元方向（例えば、図２３８と図２３９の空間方向Ｘと、空間方向Ｙ）の位置に対応する画素の画素値（例えば、上述した式（１３１）の左辺である入力画素値Ｐ(x、y)）が、少なくとも２次元方向の積分効果により取得された画素値（例えば、式（１３２）の右辺に示されるように、上述した式（１３１）で示される近似関数f(x,y)がＸ方向とＹ方向に積分された値）であるとして、実世界１の光信号を表す光信号関数F（具体的には、図２３８の関数F(x,y)）を、多項式である近似関数ｆ（例えば、式（１３１）で示される近似関数f(x,y)）で近似することで、光信号関数Fを推定する。
【１６５１】
詳細には、例えば、実世界推定部１０２は、データ定常性検出部１０１により検出されたデータの定常性に対応する線（例えば、図２４０の傾きG_fに対応する線（矢印））からの少なくとも２次元方向に沿った距離（例えば、図２４０の断面方向距離ｘ‘）に対応する画素の画素値が、少なくとも２次元方向の積分効果により取得された画素値であるとして、現実世界の光信号を表す第１の関数を、多項式である第２の関数で近似することで、第１の関数を推定する。
【１６５２】
このように、２次元多項式近似手法は、１次元ではなく２次元の積分効果を考慮しているので、１次元多項式近似手法に比較して、より正確に実世界１の光信号を推定することが可能になる。
【１６５３】
次に、図２４５乃至図２４９を参照して、第３の関数近似手法について説明する。
【１６５４】
即ち、第３の関数近似手法とは、例えば、時空間方向のうちの所定の方向の定常性を有する実世界１の光信号が、光信号関数F(x,y,t)で表されることに注目して、近似関数f(x,y,t)で光信号関数F(x,y,t)を近似することによって、光信号関数F(x,y,t)を推定する手法である。従って、以下、第３の関数近似手法を、３次元関数近似手法と称する。
【１６５５】
また、３次元関数近似手法の説明においても、センサ２は、図２４５で示されるような、複数の検出素子２−１がその平面上に配置されて構成されるＣＣＤとされる。
【１６５６】
図２４５の例では、検出素子２−１の所定の１辺に平行な方向が、空間方向の１方向であるＸ方向とされており、Ｘ方向に垂直な方向が、空間方向の他方向であるＹ方向とされている。そして、Ｘ−Ｙ平面に垂直な方向が、時間方向であるｔ方向とされている。
【１６５７】
また、図２４５の例では、センサ２の各検出素子２−１のそれぞれの空間的な形状は、１辺の長さが１の正方形とされている。そして、センサ２のシャッタ時間（露光時間）が１とされている。
【１６５８】
さらに、図２４５の例では、センサ２の所定の１つの検出素子２−１の中心が、空間方向（Ｘ方向とＹ方向）の原点（Ｘ方向の位置ｘ＝０、およびＹ方向の位置ｙ＝０）とされており、また、露光時間の中間時刻が、時間方向（ｔ方向）の原点（ｔ方向の位置ｔ＝０）とされている。
【１６５９】
この場合、空間方向の原点（ｘ＝０,ｙ＝０）にその中心が存在する検出素子２−１は、Ｘ方向に-0.5乃至0.5の範囲、Ｙ方向に-0.5乃至0.5の範囲、およびｔ方向に-0.5乃至0.5の範囲で光信号関数F(x,y,t)を積分し、その積分値を画素値Ｐとして出力することになる。
【１６６０】
即ち、空間方向の原点にその中心が存在する検出素子２−１から出力される画素値Ｐは、次の式（１４９）で表される。
【１６６１】
【数１１６】

・・・（１４９）
【１６６２】
その他の検出素子２−１も同様に、対象とする検出素子２−１の中心を空間方向の原点とすることで、式（１４９）で示される画素値Ｐを出力することになる。
【１６６３】
ところで、上述したように、３次元関数近似手法においては、光信号関数F(x,y,t)は、３次元の近似関数f(x,y,t)に近似される。
【１６６４】
具体的には、例えば、近似関数f(x,y,t)を、N個の変数（特徴量）を有する関数とし、式（１４９）に対応する入力画素値P(x,y,t)と近似関数f(x,y,t)の関係式を定義する。これにより、Nより大きいM個の入力画素値P(x,y,t)が取得されていれば、定義された関係式からN個の変数（特徴量）の算出が可能である。即ち、実世界推定部１０２は、M個の入力画素値P(x,y,t)を取得してN個の変数（特徴量）を演算することで、光信号関数F(x,y,t)を推定することが可能である。
【１６６５】
この場合、実世界推定部１０２は、センサ２からの入力画像（入力画素値）に含まれるデータの定常性を縛りとして（即ち、データ定常性検出部１０１より出力される入力画像に対するデータ定常性情報を利用して）、入力画像全体のうちの、M個の入力画像P(x,y,t)を抽出（取得）する。結果的に、予測関数f(x,y,t)は、データの定常性に拘束されることになる。
【１６６６】
例えば、図２４６で示されるように、入力画像に対応する光信号関数F(x,y,t)が、傾きG_Fで表される空間方向の定常性を有している場合、データ定常性検出部１０１は、入力画像に対するデータ定常性情報として、角度θ（傾きG_Fに対応する傾きG_f（図示せず）で表されるデータの定常性の方向と、Ｘ方向のなす角度θ）を出力することになる。
【１６６７】
この場合、光信号関数F(x,y,t)をX方向に射影した１次元の波形（ここでは、このような波形を、Ｘ断面波形と称している）は、Y方向のいずれの位置で射影した場合であっても同一の形状であるとする。
【１６６８】
即ち、同一形状のＸ断面波形が、定常性の方向（X方向に対して角度θ方向）に連なっている２次元の（空間方向の）波形が存在するとし、そのような２次元波形が時間方向tに連なった３次元波形を、近似関数f(x,y,t)で近似する。
【１６６９】
換言すると、注目画素の中心からY方向に位置yだけずれたX断面波形は、注目画素の中心を通るX断面波形がX方向に所定の量（角度θに応じて変化する量）だけ移動した（シフトした）波形となる。なお、以下、このような量を、シフト量と称する。
【１６７０】
このシフト量は、次のようにして算出が可能である。
【１６７１】
即ち、傾きV_f（例えば、図２４６の傾きV_Fに対応する、データの定常性の方向を表す傾きV_f）と角度θは、次の式（１５０）のように表される。
【１６７２】
【数１１７】

・・・（１５０）
【１６７３】
なお、式（１５０）において、dxは、Ｘ方向の微小移動量を表しており、dyは、dxに対するＹ方向の微小移動量を表している。
【１６７４】
従って、X方向に対するシフト量をC_x(y)と記述すると、次の式（１５１）のように表される。
【１６７５】
【数１１８】

・・・（１５１）
【１６７６】
このようにして、シフト量C_x(y)を定義すると、式（１４９）に対応する入力画素値P(x,y,t)と近似関数f(x,y,t)の関係式は、次の式（１５２）のように表される。
【１６７７】
【数１１９】

・・・（１５２）
【１６７８】
式（１５２）において、ｅは、誤差を表している。t_sは、ｔ方向の積分開始位置を表しており、t_eは、ｔ方向の積分終了位置を表している。同様に、y_sは、Ｙ方向の積分開始位置を表しており、y_eは、Ｙ方向の積分終了位置を表している。また、x_sは、Ｘ方向の積分開始位置を表しており、x_eは、Ｘ方向の積分終了位置を表している。ただし、具体的な各積分範囲のそれぞれは、次の式（１５３）で示される通りになる。
【１６７９】
【数１２０】

・・・（１５３）
【１６８０】
式（１５３）で示されるように、注目画素から空間方向に(x,y)だけ離れて位置する画素に対するX方向の積分範囲を、シフト量C_x(y)だけ移動させることで、同一形状のX断面波形が、定常性の方向（X方向に対して角度θ方向）に連なっていることを表すことが可能になる。
【１６８１】
このように、３次元関数近似手法においては、画素値P(x,y、t)と、３次元の近似関数f(x,y,t)の関係を式（１５２）（積分範囲は、式（１５３））で表すことができるので、式（１５２）と式（１５３）を利用して、近似関数f(x,y,t)のN個の特徴量を、例えば、最小自乗法等により演算することで、光信号関数F(x,y,t)（例えば、図２４６で示されるような傾きV_F表される空間方向の定常性を有する光信号）の推定が可能となる。
【１６８２】
なお、光信号関数F(x,y,t)で表される光信号が、例えば、図２４６で示されるような傾きV_Fで表される空間方向の定常性を有している場合、次のようにして光信号関数F(x,y,t)を近似してもよい。
【１６８３】
即ち、光信号関数F(x,y,t)をY方向に射影した１次元の波形（以下、このような波形を、Y断面波形と称する）は、X方向のいずれの位置で射影した場合であっても同一の形状であるとする。
【１６８４】
換言すると、同一形状のY断面波形が、定常性の方向（X方向に対して角度θ方向）に連なっている２次元の（空間方向の）波形が存在するとし、そのような２次元波形が時間方向tに連なった３次元波形を、近似関数f(x,y,t)で近似する。
【１６８５】
従って、注目画素の中心からX方向にxだけずれたY断面波形は、注目画素の中心を通るY断面波形がY方向に所定のシフト量（角度θに応じて変化するシフト量）だけ移動した波形となる。
【１６８６】
このシフト量は、次のようにして算出が可能である。
【１６８７】
即ち、傾きG_Fが、上述した式（１５０）のように表されるので、Y方向に対するシフト量をC_y(x)と記述すると、次の式（１５４）のように表される。
【１６８８】
【数１２１】

・・・（１５４）
【１６８９】
このようにして、シフト量C_y(x)を定義すると、式（１４９）に対応する入力画素値P(x,y,t)と近似関数f(x,y,t)の関係式は、シフト量C_x(y)を定義したときと同様に、上述した式（１５２）で表される。
【１６９０】
ただし、今度は、具体的な各積分範囲のそれぞれは、次の式（１５５）で示される通りになる。
【１６９１】
【数１２２】

・・・（１５５）
【１６９２】
式（１５５）（および上述した式（１５２））で示されるように、注目画素から(x,y)だけ離れて位置する画素に対するY方向の積分範囲を、シフト量C_y(x)だけ移動させることで、同一形状のY断面波形が、定常性の方向（X方向に対して角度θ方向）に連なっていることを表すことが可能になる。
【１６９３】
このように、３次元関数近似手法においては、上述した式（１５２）の右辺の積分範囲を式（１５３）のみならず式（１５５）とすることもできるので、積分範囲として式（１５５）が採用された式（１５２）を利用して、近似関数f(x,y,t)のｎ個の特徴量を、例えば、最小自乗法等により演算することで、光信号関数F(x,y,t)（傾きG_Fで表される空間方向の定常性を有する実世界１の光信号）の推定が可能となる。
【１６９４】
このように、積分範囲を表す式（１５３）と式（１５５）は、定常性の方向にあわせて周辺画素をX方向にシフトさせるか（式（１５３）の場合）、或いはY方向にシフトさせるか（式（１５５）の場合）の違いがあるだけであり、本質的には同じことを表している。
【１６９５】
しかしながら、定常性の方向（傾きG_F）に応じて、光信号関数F(x,y,t)を、X断面波形の集まりと捉えるか、Y断面波形の集まりと捉えるかが異なる。即ち、定常性の方向がY方向に近い場合、光信号関数F(x,y,t)を、X断面波形の集まりと捉えた方が好適である。これに対して、定常性の方向がX方向に近い場合、光信号関数F(x,y,t)を、Y断面波形の集まりと捉えた方が好適である。
【１６９６】
従って、実世界推定部１０２は、積分範囲として式（１５３）と式（１５５）の両方を用意しておき、定常性の方向に応じて、適宜式（１５２）の右辺の積分範囲として、式（１５３）と式（１５５）のうちのいずれか一方を選択するとよい。
【１６９７】
以上、光信号関数F(x,y,t)が空間方向（X方向とY方向）の定常性（例えば、図２４６の傾きG_Fで表される空間方向の定常性）を有する場合についての３次元関数手法について説明したが、３次元関数手法は、図２４７で示されるように、光信号関数F(x,y,t)が時空間方向（X方向、Y方向、およびｔ方向）の定常性（傾きV_Fで表される定常性）を有する場合についても適用可能である。
【１６９８】
即ち、図２４７において、フレーム番号＃N-1のフレームに対応する光信号関数がF(x、y、#N-1)とされ、フレーム番号＃Nのフレームに対応する光信号関数がF(x、y、#N)とされ、かつ、フレーム番号＃N+1のフレームに対応する光信号関数がF(x、y、#N+1)とされている。
【１６９９】
なお、図２４７において、図中、水平方向は、空間方向の1方向であるＸ方向とされており、右斜め上方向は、空間方向の他方向であるＹ方向とされており、かつ、垂直方向は、時間方向であるｔ方向とされている。
【１７００】
また、フレーム#N-1は、フレーム#Nに対して時間的に前のフレームであり、フレーム#N+1は、フレーム#Nに対して時間的に後のフレームである。即ち、フレーム#N-1、フレーム#N、およびフレーム#N+1は、フレーム#N-1、フレーム#N、およびフレーム#N+1の順で表示される。
【１７０１】
図２４７の例では、傾きV_Fで示される方向（図中左下手前から右上奥の方向）に沿った断面の光のレベルがほぼ一定とされている。従って、図２４７の例では、光信号関数F(x,y,t)は、傾きV_Fで表される時空間方向の定常性を有していると言える。
【１７０２】
この場合、時空間方向の定常性を表す関数C(x,y,t)を定義し、かつ、定義された関数C(x,y,t)を利用して、上述した式（１５２）の積分範囲を定義すれば、上述した式（１５３）や式（１５５）と同様に、近似関数f(x,y,t)のN個の特徴量の算出が可能になる。
【１７０３】
関数C(x,y,t)は、定常性の方向を表す関数であれば特に限定されない。ただし、以下においては、直線的な定常性であるとして、それに対応する関数C(x,y,t)として、上述した空間方向の定常性を表す関数であるシフト量C_x(y)（式（１５１））やシフト量C_y(x)（式（１５３））に相当する、C_x(t)とC_y(t)を次のように定義するとする。
【１７０４】
即ち、上述した空間方向のデータの定常性を表す傾きG_fに対応する、時空間方向のデータの定常性の傾きをV_fとすると、この傾きV_fをX方向の傾き（以下、V_fxと記述する）とY方向の傾き（以下、V_fyと記述する）に分割すると、傾きV_fxは次の式（１５６）で、傾きV_fyは次の式（１５７）で、それぞれ表される。
【１７０５】
【数１２３】

・・・（１５６）
【１７０６】
【数１２４】

・・・（１５７）
【１７０７】
この場合、関数C_x(t)は、式（１５６）で示される傾きV_fxを利用して、次の式（１５８）のように表される。
【１７０８】
【数１２５】

・・・（１５８）
【１７０９】
同様に、関数C_y(t)は、式（１５７）で示される傾きV_fyを利用して、次の式（１５９）のように表される。
【１７１０】
【数１２６】

・・・（１５９）
【１７１１】
このようにして、時空間方向の定常性２５１１を表す関数C_x(t)と関数C_y(t)を定義すると、式（１５２）の積分範囲は、次の式（１６０）のように表される。
【１７１２】
【数１２７】

・・・（１６０）
【１７１３】
このように、３次元関数近似手法においては、画素値P(x,y、t)と、３次元の近似関数f(x,y,t)の関係を式（１５２）で表すことができるので、その式（１５２）の右辺の積分範囲として式（１６０）を利用して、近似関数f(x,y,t)のｎ＋１個の特徴量を、例えば、最小自乗法等により演算することで、光信号関数F(x,y,t)（時空間方向の所定の方向に定常性を有する実世界１の光信号）を推定することが可能となる。
【１７１４】
図２４８は、このような３次元関数近似手法を利用する実世界推定部１０２の構成例を表している。
【１７１５】
なお、３次元関数近似手法を利用する実世界推定部１０２が演算する近似関数f(x,y,t)（実際には、その特徴量（係数）を演算する）は、特に限定されないが、以下の説明においては、ｎ（n＝N-1）次の多項式とされる。
【１７１６】
図２４８で示されるように、実世界推定部１０２には、条件設定部２５２１、入力画像記憶部２５２２、入力画素値取得部２５２３、積分成分演算部２５２４、正規方程式生成部２５２５、および近似関数生成部２５２６が設けられている。
【１７１７】
条件設定部２５２１は、注目画素に対応する光信号関数F(x,y,t)を推定するために使用する画素の範囲（タップ範囲）や、近似関数f(x,y,t)の次数nを設定する。
【１７１８】
入力画像記憶部２５２２は、センサ２からの入力画像（画素値）を一次格納する。
【１７１９】
入力画素値取得部２５２３は、入力画像記憶部２５２２に記憶された入力画像のうちの、条件設定部２５２１により設定されたタップ範囲に対応する入力画像の領域を取得し、それを入力画素値テーブルとして正規方程式生成部２５２５に供給する。即ち、入力画素値テーブルは、入力画像の領域に含まれる各画素のそれぞれの画素値が記述されたテーブルである。
【１７２０】
ところで、上述したように、３次元関数近似手法を利用する実世界推定部１０２は、上述した式（１５２）（ただし積分範囲は、式（１５３）、式（１５６）、または式（１６０））を利用して最小自乗法により近似関数f(x,y)のN個の特徴量（いまの場合、各次の係数）を演算する。
【１７２１】
式（１５２）の右辺は、その積分を演算することで、次の式（１６１）のように表現することができる。
【１７２２】
【数１２８】

・・・（１６１）
【１７２３】
式（１６１）において、w_iは、i次項の係数（特徴量）を表しており、また、S_i（x_s,x_e,y_s,y_e,t_s,t_e）は、i次項の積分成分を表している。ただし、x_sはX方向の積分範囲の開始位置を、x_eはX方向の積分範囲の終了位置を、y_sはY方向の積分範囲の開始位置を、y_eはY方向の積分範囲の終了位置を、t_sはt方向の積分範囲の開始位置を、t_eはｔ方向の積分範囲の終了位置を、それぞれ表している。
【１７２４】
積分成分演算部２５２４は、この積分成分S_i（x_s,x_e,y_s,y_e,t_s,t_e）を演算する。
【１７２５】
即ち、積分成分演算部２５２４は、条件設定部２５２１により設定されたタップ範囲および次数、並びにデータ定常性検出部１０１より出力されたデータ定常性情報のうちの角度若しくは動き（積分範囲として、上述した式（１５３）若しくは式（１５６）が利用される場合には角度であり、上述した式（１６０）が利用される場合には動きである）に基づいて積分成分S_i（x_s,x_e,y_s,y_e,t_s,t_e）を演算し、その演算結果を積分成分テーブルとして正規方程式生成部２５２５に供給する。
【１７２６】
正規方程式生成部２５２５は、入力画素値取得部２５２３より供給された入力画素値テーブルと、積分成分演算部２５２４より供給された積分成分テーブルを利用して、上述した式（１６１）を最小自乗法で求める場合の正規方程式を生成し、それを正規方程式テーブルとして近似関数生成部２５２６に出力する。正規方程式の例については、後述する。
【１７２７】
近似関数生成部２５２６は、正規方程式生成部２５２５より供給された正規方程式テーブルに含まれる正規方程式を行列解法で解くことにより、特徴量w_i（いまの場合、３次元多項式である画素値関数f(x,y)の係数w_i）のそれぞれを演算し、画像生成部１０３に出力する。
【１７２８】
次に、図２４９のフローチャートを参照して、３次元関数近似手法が適用される実世界の推定処理（図４０のステップＳ１０２の処理）について説明する。
【１７２９】
はじめに、ステップＳ２５０１において、条件設定部２５２１は、条件（タップ範囲と次数）を設定する。
【１７３０】
例えば、いま、Ｌ個の画素からなるタップ範囲が設定されたとする。また、各画素のそれぞれに対して、所定の番号l（lは、０乃至Ｌ−１のうちのいずれかの整数値）が付されるとする。
【１７３１】
次に、ステップＳ２５０２において、条件設定部２５２１は、注目画素を設定する。
【１７３２】
ステップＳ２５０３において、入力画素値取得部２５２３は、条件設定部２５２１により設定された条件（タップ範囲）に基づいて入力画素値を取得し、入力画素値テーブルを生成する。いまの場合、Ｌ個の入力画素値P(x,y,t)からなるテーブルが生成されることになる。ここで、Ｌ個の入力画素値P(x,y,t)のそれぞれを、その画素の番号ｌの関数としてP(l)と記述することにする。即ち、入力画素値テーブルは、Ｌ個のP(l)が含まれるテーブルとなる。
【１７３３】
ステップＳ２５０４において、積分成分演算部２５２４は、条件設定部２５２１により設定された条件（タップ範囲および次数）、並びにデータ定常性検出部１０１より供給されたデータ定常性情報（角度若しくは動き）に基づいて積分成分を演算し、積分成分テーブルを生成する。
【１７３４】
ただし、いまの場合、上述したように、入力画素値は、P(x,y,t)でなくP(l)といった、画素の番号lの値として取得されるので、積分成分演算部２５２４は、上述した式（１６１）の積分成分S_i（x_s,x_e,y_s,y_e,t_s,t_e）を、積分成分S_i(l)といったlの関数として演算することになる。即ち、積分成分テーブルは、Ｌ×ｉ個のS_i(l)が含まれるテーブルとなる。
【１７３５】
なお、ステップＳ２５０３の処理とステップＳ２５０４の処理の順序は、図２４９の例に限定されず、ステップＳ２５０４の処理が先に実行されてもよいし、ステップＳ２５０３の処理とステップＳ２５０４の処理が同時に実行されてもよい。
【１７３６】
次に、ステップＳ２５０５において、正規方程式生成部２５２５は、ステップＳ２５０３の処理で入力画素値取得部２５２３により生成された入力画素値テーブルと、ステップＳ２５０４の処理で積分成分演算部２５２４により生成された積分成分テーブルに基づいて、正規方程式テーブルを生成する。
【１７３７】
具体的には、いまの場合、最小自乗法により、上述した式（１６１）に対応する次の式（１６２）の特徴量w_iを演算する。で、それに対応する正規方程式は、次の式（１６３）のように表される。
【１７３８】
【数１２９】

・・・（１６２）
【１７３９】
【数１３０】

・・・（１６３）
【１７４０】
式（１６３）で示される正規方程式の各行列のそれぞれを、次の式（１６４）乃至（１６６）のように定義すると、正規方程式は、次の式（１６７）のように表される。
【１７４１】
【数１３１】

・・・（１６４）
【１７４２】
【数１３２】

・・・（１６５）
【１７４３】
【数１３３】

・・・（１６６）
【１７４４】
【数１３４】

・・・（１６７）
【１７４５】
式（１６５）で示されるように、行列W_MATの各成分は、求めたい特徴量w_iである。従って、式（１６７）において、左辺の行列Ｓ_MATと右辺の行列P_MATが決定されれば、行列解法によって行列W_MAT（即ち、特徴量w_i）の算出が可能である。
【１７４６】
具体的には、式（１６４）で示されるように、行列Ｓ_MATの各成分は、上述した積分成分S_i(l)が既知であれば演算可能である。積分成分S_i(l)は、積分成分演算部２５２４より供給された積分成分テーブルに含まれているので、正規方程式生成部２５２５は、積分成分テーブルを利用して行列Ｓ_MATの各成分を演算することができる。
【１７４７】
また、式（１６６）で示されるように、行列Ｐ_MATの各成分は、積分成分S_i(l)と入力画素値P(l)が既知であれば演算可能である。積分成分S_i(l)は、行列Ｓ_MATの各成分に含まれるものと同一のものであり、また、入力画素値P(l)は、入力画素値取得部２５２３より供給された入力画素値テーブルに含まれているので、正規方程式生成部２５２５は、積分成分テーブルと入力画素値テーブルを利用して行列Ｐ_MATの各成分を演算することができる。
【１７４８】
このようにして、正規方程式生成部２５２５は、行列Ｓ_MATと行列Ｐ_MATの各成分を演算し、その演算結果（行列Ｓ_MATと行列Ｐ_MATの各成分）を正規方程式テーブルとして近似関数生成部２５２６に出力する。
【１７４９】
正規方程式生成部２５２５より正規方程式テーブルが出力されると、ステップＳ２５０６において、近似関数生成部２５２６は、正規方程式テーブルに基づいて、上述した式（１６７）の行列W_MATの各成分である特徴量w_i（即ち、近似関数f(x,y,t)の係数w_i）を演算する。
【１７５０】
具体的には、上述した式（１６７）の正規方程式は、次の式（１６８）のように変形できる。
【１７５１】
【数１３５】

・・・（１６８）
【１７５２】
式（１６８）において、左辺の行列W_MATの各成分が、求めたい特徴量w_iである。また、行列S_MATと行列P_MATのそれぞれの各成分は、正規方程式生成部２５２５より供給された正規方程式テーブルに含まれている。従って、近似関数生成部２５２６は、正規方程式テーブルを利用して、式（１６８）の右辺の行列演算を行うことで行列W_MATを演算し、その演算結果（特徴量w_i）を画像生成部１０３に出力する。
【１７５３】
ステップＳ２５０７において、近似関数生成部２５２６は、全画素の処理を終了したか否かを判定する。
【１７５４】
ステップＳ２５０７において、全画素の処理がまだ終了されていないと判定された場合、処理はステップＳ２５０２に戻り、それ以降の処理が繰り返される。即ち、まだ注目画素とされない画素が、順次注目画素とされて、ステップＳ２５０２乃至Ｓ２５０７の処理が繰り返される。
【１７５５】
そして、全画素の処理が終了すると（ステップＳ２５０７において、全画素の処理が終了されたと判定されると）、実世界１の推定処理は終了となる。
【１７５６】
以上、説明したように、３次元関数近似手法は、１次元や２次元ではなく、時空間方向の３次元の積分効果を考慮しているので、１次元多項式近似手法や２次元多項式近似手法に比較して、より正確に実世界１の光信号を推定することが可能になる。
【１７５７】
換言すると、３次元関数近似手法においては、例えば、図２１９（図３）の実世界推定部１０２（構成は、例えば、図２４８）は、それぞれ時空間積分効果を有する、センサの複数の検出素子（例えば、図２４５のセンサ２の検出素子２−１）により実世界１の光信号が射影され、実世界１の光信号の定常性（例えば、図２４６の傾きG_F、または、図２４７の傾きV_Fで表される定常性）の一部が欠落した、検出素子により射影された画素値を有する複数の画素からなる入力画像の、時空間方向のうち少なくとも１次元方向（例えば、図２４７の空間方向Ｘ、空間方向Y、および、時間方向ｔの３次元方向）の位置に対応する前記画素の前記画素値（例えば、式（１５３）の左辺の入力画素値P(x,y,z)）が、少なくとも１次元方向の積分効果により取得された画素値（例えば、上述した式（１５３）の右辺に示されるように、近似関数f(x,y,t)がＸ方向、Ｙ方向、およびｔ方向の３次元に積分された値）であるとして、実世界の光信号を表す光信号関数F（具体的には、例えば、図２４６や図２４７の光信号関数F(x,y,t)）を所定の近似関数ｆ（具体的には、例えば、式（１５２）の右辺の近似関数f(x,y,t)）で近似することで、光信号関数Fを推定する。
【１７５８】
さらに、例えば、図２１９（図３）のデータ定常性検出部１０１が、入力画像のデータの定常性を検出した場合、実世界推定部１０２は、データ定常性検出部１０１により検出されたデータの定常性に対応して、画像データの時空間方向のうち少なくとも１次元方向の位置に対応する画素の画素値が、少なくとも１次元方向の積分効果により取得された画素値であるとして、光信号関数Fを近似関数ｆで近似することで、光信号関数Fを推定する。
【１７５９】
詳細には、例えば、実世界推定部１０２は、定常性検出部１０１により検出されたデータの定常性に対応する線からの少なくとも１次元方向に沿った距離（例えば、上述した式（１５１）のシフト量Cx(y)）に対応する画素の画素値が、少なくとも１次元方向の積分効果により取得された画素値（例えば、上述した式（１５３）で示されるような積分範囲で、式（１５２）の右辺に示されるように、近似関数f(x,y,t)がＸ方向、Ｙ方向、およびｔ方向の３次元に積分された値）であるとして、光信号関数Fを近似関数で近似することで、光信号関数を推定する。
【１７６０】
従って、３次元関数近似手法は、より正確に実世界１の光信号を推定することが可能になる。
【１７６１】
次に、図２５０乃至図２５９を参照して、実世界推定部１０２が、定常性を有する実世界１の信号をモデル１６１で近似する場合における、データ１６２を抽出する抽出手法の他の例について説明する。
【１７６２】
以下の例では、各画素のそれぞれの重要度に応じた重みが付けられて、各画素のそれぞれの画素値が抽出され、抽出された値がデータ１６２（図７）として利用されて、実世界１の信号がモデル１６１（図７）で近似される。
【１７６３】
具体的には、例えば、センサ２（図１）からの入力画像として、図２５０で示されるような入力画像２７０１が、実世界推定部１０２（図３）に入力されたとする。
【１７６４】
なお、図２５０において、図中水平方向が、空間方向の１方向であるＸ方向とされ、図中垂直方向が、空間方向の他方向であるＹ方向とされている。
【１７６５】
また、入力画像２７０１は、画素幅（縦幅および横幅）L_Cをそれぞれ有する、７×１６画素（図中、正方形）の画素値（図中、斜線で表現されているが、実際は、１つの値を有するデータである）で構成されている。
【１７６６】
注目画素は、画素値２７０１−１を有する画素（以下、画素値２７０１−１を有する画素を、注目画素２７０１−１と称する）とされており、注目画素２７０１−１におけるデータの定常性の方向は傾きG_fで表されている。
【１７６７】
図２５１は、注目画素２７０１−１の中心における実世界１の光信号のレベルと、断面方向距離x'における実世界１の光信号のレベルの差（以下、レベル差と称する）を表している。即ち、図中水平方向の軸が断面方向距離x'を表しており、図中垂直方向の軸がレベル差を表している。なお、図中水平方向の軸の数値は、画素幅L_cを１の長さとして付されている。
【１７６８】
ここで、図２５２と図２５３を参照して、断面方向距離x'について説明する。
【１７６９】
図２５２は、図２５０の入力画像２７０１のうちの、注目画素２７０１−１を中心とする５×５画素のブロックを表している。図２５２においても、図２５０と同様に、図中水平方向が、空間方向の１方向であるＸ方向とされ、図中垂直方向が、空間方向の他方向であるＹ方向とされている。
【１７７０】
このとき、例えば、注目画素２７０１−１の中心を空間方向の原点(0,0)とし、その原点を通り、かつ、データの定常性の方向（図２５２の例では、傾きG_fで表されるデータ定常性の方向）と平行な直線を引いたとすると、その直線に対するＸ方向の相対的な距離を、断面方向距離x'と称している。図２５２の例では、注目画素２７０１−１よりもY方向に２画素分離れた画素２７０１−２の中心点における断面方向距離x'が示されている。
【１７７１】
図２５３は、図２５０の入力画像２７０１のうちの、図２５２に示されるブロック内の各画素の断面方向距離を表した図である。即ち、図２５３において、入力画像２７０１の各画素（図中５×５＝２５個の正方形）内のそれぞれに記載されている値が、対応する画素の断面方向距離である。例えば、画素２７０１−２の断面方向距離x'は、−２βである。
【１７７２】
ただし、上述したように、各画素幅L_cは、Ｘ方向もＹ方向も１とされている。Ｘ方向の正方向は、図中右方向とされている。また、βは、注目画素２７０１−１のＹ方向に対して１つ隣（図中１つ下）の画素２７０１−３の断面方向距離を表している。このβは、図２５３で示されるような角度θ（傾きG_fで表されるデータ定常性の方向と、Ｘ方向のなす角度θ）が、データ定常性検出部１０１よりデータ定常性情報として出力されている場合、次の式（１６９）を利用して簡単に演算することが可能である。
【１７７３】
β ＝１／tanθ ・・・（１６９）
【１７７４】
図２５１に戻り、実際のレベル差を描画することは困難であるので、図２５１の例では、図２５０の入力画像２７０１に対応する、入力画像２７０１よりも高解像度の画像（図示せず）を事前に生成し、高解像度の画像の画素のうちの、入力画像２７０１の注目画素２７０１−１の略中心に位置する画素（高解像度の画像の画素）の画素値と、空間方向Xに水平な直線であって、入力画像２７０１の注目画素２７０１−１の中心を通る直線上に位置する各画素（高解像度の画像の画素）のそれぞれの画素値との差が、レベル差としてプロットされている。
【１７７５】
図２５１において、プロットされたレベル差で示されるように、断面方向距離x'が略−0.5から略1.5の範囲に、傾きG_fで表されるデータの定常性を有する領域（以下、重み付けの説明において、このような領域を、定常領域と称する）が存在する。
【１７７６】
従って、断面方向距離x'が小さい画素（入力画像２７０１の画素）ほど、定常領域を含む確率が高くなる。即ち、断面方向距離x'が小さい画素（入力画像２７０１の画素）の画素値は、実世界推定部１０２が、定常性を有する実世界１の信号をモデル１６１で近似する場合に利用するデータ１６２として重要度が高いといえる。
【１７７７】
これに対して、断面方向距離x'が大きい画素（入力画像２７０１の画素）ほど、定常領域を含む確率が低くなる。即ち、断面方向距離x'が大きい画素（入力画像２７０１の画素）は、実世界推定部１０２が、定常性を有する実世界１の信号をモデル１６１で近似する場合に利用するデータ１６２として重要度が低いといえる。
【１７７８】
以上の重要度の関係については、入力画像２７０１に限らず、センサ２（図１）からの入力画像の全てに当てはまる。
【１７７９】
そこで、実世界推定部１０２は、定常性を有する実世界１の信号をモデル１６１で近似する場合、各画素（センサ２からの入力画像の画素）のそれぞれの画素値に対して、断面方向距離x'に応じて重み付けをして抽出し、抽出した値（重み付けされた画素値）をデータ１６２として利用することができる。即ち、データ１６２として、入力画像の画素値が抽出される場合、図２５１で示されるように、断面方向距離x'が大きくなるほど重みが小さくされて、画素値が抽出されることになる。
【１７８０】
さらに、図２５４で示されるように、実世界推定部１０２は、定常性を有する実世界１の信号をモデル１６１で近似する場合、各画素（センサ２からの入力画像の画素であって、図２５４の例では、入力画像２７０１の画素）のそれぞれの画素値に対して、空間相関に応じて（即ち、注目画素２７０１−１からの、傾きG_fで表される定常性の方向の距離に応じて）重み付けをして抽出し、抽出した値（重み付けされた画素値）をデータ１６２として利用することができる。即ち、データ１６２として、入力画像の画素値が抽出される場合、図２５４で示されるように、空間相関が小さくなるほど（傾きG_fで表される定常性の方向の距離が大きくなるほど）重みが小さくされて、画素値が抽出されることになる。なお、図２５４は、図２５０と同一の入力画像２７０１を表している。
【１７８１】
上述した２つの重み付け（図２５１で示される重み付けと、図２５４で示される重み付け）は、いずれか一方のみが使用されてもよいし、両方が同時に使用されてもよい。なお、両方が同時に使用される場合、最終的に利用される重みの算出方法は、特に限定されない。例えば、最終的な重みとして、両方の各重みの積が利用されてもよいし、図２５１で示される重み付けにより決定された重みに対して、傾きG_fで表されるデータの定常性の方向の距離に応じて補正された重み（例えば、データの定常性の方向の距離が１増えるたびに、所定の値ずつ減少されていく重み）が利用されてもよい。
【１７８２】
実世界推定部１０２は、このようにして決定された重みを用いて、各画素のそれぞれの画素値を抽出し、重み付けされた画素値をデータ１６２として利用することで、実世界１の信号により近いモデル１６１を生成することが可能になる。
【１７８３】
具体的には、例えば、実世界推定部１０２は、上述したように、S_MATW_MAT=P_MATで表される正規方程式を利用して（即ち、最小自乗法により）、モデル１６１である近似関数の特徴量（即ち、行列W_MATの各成分）を演算することで、実世界１の信号を推定することもできる。
【１７８４】
この場合、入力画像のうちの、画素の番号がｌ（ｌは、１乃至Mのうちのいずれかの整数値）の画素のそれぞれに対する重みをv_lと記述すると、実世界推定部１０２は、行列S_MATとして次の式（１７０）で示される行列を使用し、かつ、行列P_MATとして次の式（１７１）で示される行列を使用することができる。
【１７８５】
【数１３６】

・・・（１７０）
【１７８６】
【数１３７】

・・・（１７１）
【１７８７】
このように、上述した関数近似手法（図２１９）等、最小自乗法を利用する実世界推定部１０２は、重みを含む行列（即ち、上述した式（１７０）と上述した式（１７１））を使用することで、行列S_MATとして上述した式（１３）で示される行列を使用し、かつ、行列P_MATとして上述した式（１５）で示される行列を使用する場合に比較して、実世界１の信号により近い近似関数の特徴量を演算することが可能になる。
【１７８８】
即ち、最小自乗法を利用する実世界推定部１０２は、上述した重み付けの処理をさらに実行することで（正規方程式で使用する行列として、式（１７０）や式（１７１）で示されるような、重みv_lが含まれる行列を使用するだけで）、その構成を変えることなく、実世界１の信号により近い近似関数の特徴量を演算することが可能になる。
【１７８９】
具体的には、例えば、図２５５は、実世界推定部１０２が、正規方程式の行列として、重みv_lを含まない行列（例えば、上述した式（１３）と式（１５））を利用して近似関数を生成し（近似関数の特徴量を演算し）、画像生成部１０３（図３）が、その近似関数を再積分することで生成した画像の例を表している。
【１７９０】
これに対して、図２５６は、実世界推定部１０２が、正規方程式の行列として、重みv_lを含む行列（例えば、上述した式（１７０）と式（１７１））を利用して近似関数を生成し（近似関数の特徴量を演算し）、画像生成部１０３が、その近似関数を再積分することで生成した画像（図２５５に対応する画像）の例を表している。
【１７９１】
図２５５の画像と図２５６の画像を比較するに、例えば、図２５５の画像の領域２７１１と、図２５６の画像の領域２７１２のいずれも、フォークの先端の一部分（同一部分）を表している。
【１７９２】
図２５５の画像の領域２７１１においては、非連続の複数の線が重なるようにして表示されているが、図２５６の画像の領域２７１２においては、ほぼ１に連続した線が表示されている。
【１７９３】
フォークの先端は実際には連続して形成されている（連続した１つの線として人間の目に映る）ことを考えると、図２５６の画像の領域２７１２の方が、図２５５の画像の領域２７１１に比較して、実世界１の信号、即ち、フォークの先端の画像をより忠実に再現しているといえる。
【１７９４】
また、図２５７は、実世界推定部１０２が、正規方程式の行列として、重みv_lを含まない行列（例えば、上述した式（１３）と式（１５））を利用して近似関数を生成し（近似関数の特徴量を演算し）、画像生成部１０３が、その近似関数を再積分することで生成した画像の他の例（図２５５の画像とは異なる例）を表している。
【１７９５】
これに対して、図２５８は、実世界推定部１０２が、正規方程式の行列として、重みv_lを含む行列（例えば、上述した式（１７０）と式（１７１））を利用して近似関数を生成し（近似関数の特徴量を演算し）、画像生成部１０３が、その近似関数を再積分することで生成した画像の他の例（図２５７に対応する画像であって、図２５６の画像とは異なる例）を表している。
【１７９６】
図２５７の画像と図２５８の画像を比較するに、例えば、図２５７の画像の領域２７１３と、図２５８の画像の領域２７１４のいずれも、梁の一部分（同一部分）を表している。
【１７９７】
図２５７の画像の領域２７１３においては、非連続の複数の線が重なるように表示されているが、図２５８の画像の領域２７１４においては、ほぼ１つに連続した線が表示されている。
【１７９８】
梁は実際には連続して形成されている（連続した１つの線として人間の目に映る）ことを考えると、図２５８の画像の領域２７１４の方が、図２５７の画像の領域２７１３に比較して、実世界１の信号、即ち、梁の画像をより忠実に再現しているといえる。
【１７９９】
以上によれば、それぞれ時空間積分効果を有する、センサの複数の検出素子により現実世界の光信号が射影され、現実世界の光信号の定常性の一部が欠落した、検出素子により射影された画素値を有する複数の画素からなる画像データにおけるデータの定常性を検出し、検出したデータの定常性に対応して、画像データ内の注目画素からの時空間方向のうちの少なくとも１次元方向の距離に応じて、画像データ内の各画素のそれぞれに対して重みが付けられるとともに、画像データ内の、少なくとも１次元方向の位置に対応する画素の重みが付けられた画素値を、少なくとも１次元方向の積分効果により取得された画素値であるとして、現実世界の光信号を表す第１の関数が多項式である第２の関数で近似することで、第１の関数を推定するようにしたので、画像をより忠実に表現することが可能となる。
【１８００】
次に、図２５９乃至図２８０を参照して、画像生成部１０３（図３）の実施の形態の１例について説明する。
【１８０１】
図２５９は、この例の実施の形態の原理を説明する図である。
【１８０２】
図２５９で示されるように、この例の実施の形態においては、実世界推定部１０２が、関数近似手法を利用することが前提とされている。即ち、センサ２に入射される画像である、実世界１の信号（光の強度の分布）が、所定の関数Ｆで表されるとして、実世界推定部１０２が、センサ２から出力された入力画像（画素値Ｐ）と、データ定常性検出部１０１から出力されたデータ定常性情報を使用して、関数Ｆを所定の関数ｆで近似することによって、関数Ｆを推定することが前提とされている。
【１８０３】
なお、以下、この例の実施の形態の説明においても、画像である、実世界１の信号を、特に光信号と称し、関数Ｆを、特に光信号関数Ｆと称する。また、関数ｆを、特に近似関数fと称する。
【１８０４】
そこで、この例の実施の形態においては、このような前提に基づいて、画像生成部１０３が、データ定常性検出部１０１から出力されたデータ定常性情報と、実世界推定部１０２から出力された実世界推定情報（図２５９の例では、近似関数fの特徴量）を使用して、近似関数fを所定の時空間範囲で積分し、その積分値を出力画素値Ｍ（出力画像）として出力する。なお、この例の実施の形態においては、入力画像の画素と出力画像の画素を区別するために、入力画素値をＰと記述し、出力画素値をＭと記述する。
【１８０５】
換言すると、光信号関数Ｆが１度積分されて入力画素値Ｐとなり、その入力画素値Ｐから光信号関数Ｆが推測され（近似関数fで近似され）、推測された光信号関数Ｆ（即ち、近似関数f）が再度積分されて、出力画素値Ｍが生成される。従って、以下、画像生成部１０３が実行する近似関数fの積分を、再積分と称する。また、この例の実施の形態を、再積分手法と称する。
【１８０６】
なお、後述するように、再積分手法において、出力画素値Ｍが生成される場合の近似関数fの積分範囲は、入力画素値Ｐが生成される場合の光信号関数Ｆの積分範囲（即ち、空間方向においては、センサ２の検出素子の縦幅と横幅であり、時間方向においては、センサ２の露光時間である）に限定されず、任意の積分範囲が可能である。
【１８０７】
例えば、出力画素値Ｍが生成される場合、近似関数fの積分範囲のうちの空間方向の積分範囲を可変することで、その積分範囲に応じて出力画像の画素ピッチを可変することが可能になる。即ち、空間解像度の創造が可能になる。
【１８０８】
同様に、例えば、出力画素値Ｍが生成される場合、近似関数fの積分範囲のうちの時間方向の積分範囲を可変することで、時間解像度の創造が可能になる。
【１８０９】
以下、図面を参照して、このような再積分手法のうちの３つの具体的な手法についてそれぞれ個別に説明していく。
【１８１０】
即ち、３つの具体的な手法とは、関数近似手法の３つの具体的な手法（実世界推定部１０２の実施の形態の上述した３つの具体的な例）のそれぞれに対応する再積分手法である。
【１８１１】
具体的には、１つ目の手法は、上述した１次元多項式近似手法（関数近似手法の１手法）に対応する再積分手法である。従って、１つ目の手法では１次元の再積分を行うことになるので、以下、このような再積分手法を、１次元再積分手法と称する。
【１８１２】
２つ目の手法は、上述した２次元多項式近似手法（関数近似手法の１手法）に対応する再積分手法である。従って、２つ目の手法では２次元の再積分を行うことになるので、以下、このような再積分手法を、２次元再積分手法と称する。
【１８１３】
３つ目の手法は、上述した３次元関数近似手法（関数近似手法の１手法）に対応する再積分手法である。従って、３つ目の手法では３次元の再積分を行うことになるので、以下、このような再積分手法を、３次元再積分手法と称する。
【１８１４】
以下、１次元再積分手法、２次元再積分手法、および３次元再積分手法のそれぞれの詳細について、その順番で説明していく。
【１８１５】
はじめに、１次元再積分手法について説明する。
【１８１６】
１次元再積分手法においては、１次元多項式近似手法により近似関数f(x)が既に生成されていることが前提とされる。
【１８１７】
即ち、３次元の空間上の位置x,y、およびｚ、並びに時刻tを変数とする光信号関数F(x,y,t)を、空間方向であるX方向、Y方向、およびZ方向、並びに時間方向であるｔ方向のうちの所定の１方向（例えば、X方向）に射影した１次元の波形（再積分手法の説明においても、このような波形のうちのX方向に射影した波形を、X断面波形F(x)と称することにする）が、n次（nは、任意の整数）の多項式である近似関数f(x)で近似されていることが前提とされる。
【１８１８】
この場合、１次元再積分手法においては、出力画素値Ｍは、次の式（１７２）のように演算される。
【１８１９】
【数１３８】

・・・（１７２）
【１８２０】
なお、式（１７２）において、x_sは、積分開始位置を表しており、x_eは、積分終了位置を表している。また、G_eは、所定のゲインを表している。
【１８２１】
具体的には、例えば、いま、実世界推測部１０２が、図２６０で示されるような画素３１０１（センサ２の所定の１つの検出素子に対応する画素３１０１）を注目画素として、図２６０で示されるような近似関数f(x)（Ｘ断面波形F(x)の近似関数f(x)）を既に生成しているとする。
【１８２２】
なお、図２６０の例では、画素３１０１の画素値（入力画素値）がＰとされ、かつ、画素３１０１の形状が、１辺の長さが１の正方形とされている。また、空間方向のうちの、画素３１０１の１辺に平行な方向（図中水平方向）がＸ方向とされ、Ｘ方向に垂直な方向（図中垂直方向）がＹ方向とされている。
【１８２３】
また、図２６０の下側に、画素３１０１の中心が原点とされる空間方向（Ｘ方向とＹ方向）の座標系（以下、注目画素座標系と称する）と、その座標系における画素３１０１が示されている。
【１８２４】
さらに、図２６０の上方に、y＝０（yは、図中下側で示される注目画素座標系のY方向の座標値）における近似関数f(x)をグラフ化したものが示されている。このグラフにおいて、図中水平方向に平行な軸は、図中下側で示される注目画素座標系のX方向のx軸と同一の軸であり（原点も同一であり）、また、図中垂直方向に平行な軸は、画素値を表す軸とされている。
【１８２５】
この場合、近似関数f(x)と画素３１０１の画素値Pの間には、次の式（１７３）の関係が成立する。
【１８２６】
【数１３９】

・・・（１７３）
【１８２７】
また、図２６０で示されるように、画素３１０１は、傾きG_fで表される空間方向のデータの定常性を有しているとする。そして、データ定常性検出部１０１（図２５９）が、傾きG_fで表されるデータの定常性に対応するデータ定常性情報として、図２６０で示されるような角度θを既に出力しているとする。
【１８２８】
この場合、例えば、１次元再積分方法においては、図２６１で示されるように、Ｘ方向に−０．５乃至０．５の範囲、かつＹ方向に−０．５乃至０．５の範囲（図２６０の画素３１０１が位置する範囲）に、４個の画素３１１１乃至画素３１１４を新たに創造することが可能である。
【１８２９】
なお、図２６１の下側に、図２６０のものと同一の注目画素座標系と、その注目画素座標系における画素３１１１乃至画素３１１４が示されている。また、図２６１の上側に、図２６０のものと同一のグラフ（y=0における近似関数f(x)をグラフ化したもの）が示されている。
【１８３０】
具体的には、図２６１で示されるように、１次元再積分方法においては、次の式（１７４）により画素３１１１の画素値Ｍ（１）の算出が、次の式（１７５）により画素３１１２の画素値Ｍ（２）の算出が、次の式（１７６）により画素３１１３の画素値Ｍ（３）の算出が、次の式（１７７）により画素３１１４の画素値Ｍ（４）の算出が、それぞれ可能である。
【１８３１】
【数１４０】

・・・（１７４）
【１８３２】
【数１４１】

・・・（１７５）
【１８３３】
【数１４２】

・・・（１７６）
【１８３４】
【数１４３】

・・・（１７７）
【１８３５】
なお、式（１７４）のx_s1、式（１７５）のx_s2、式（１７６）のx_s3、および式（１７７）のx_s4のそれぞれは、対応する式の積分開始位置を表している。また、式（１７４）のx_e1、式（１７５）のx_e2、式（１７６）のx_e3、および式（１７７）のx_e4のそれぞれは、対応する式の積分終了位置を表している。
【１８３６】
式（１７４）乃至式（１７７）のそれぞれの右辺の積分範囲は、画素３１１１乃至画素３１１４のそれぞれの画素幅（Ｘ方向の長さ）となる。即ち、x_e1-x_s1,x_e2-x_s2,x_e3-x_s3,x_e4-x_s4のそれぞれは、０．５となる。
【１８３７】
ただし、いまの場合、y=0における近似関数f(x)と同一形状の１次元の波形が、Ｙ方向ではなく、傾きG_fで表されるデータの定常性の方向（即ち、角度θ方向）に連なっていると考えられる（実際には、y=0におけるＸ断面波形F(x)と同一形状の波形が定常性の方向に連なっている）。即ち、図２６１の注目画素座標系における原点(0,0)（図２６０の画素３１０１の中心）における画素値f(0)を画素値f1とした場合、画素値f1が続く方向は、Y方向ではなく、傾きG_fで表されるデータの定常性の方向（角度θ方向）である。
【１８３８】
換言すると、Y方向の所定の位置y（ただし、yは０以外の数値）における近似関数f(x)の波形を考えた場合、画素値f1となる位置は、位置（0,y）ではなく、位置（0,y）からX方向に所定の量（ここでも、このような量をシフト量と称することにする。また、シフト量は、Y方向の位置ｙに依存する量であるので、このシフト量をC_x(y)と記述することにする）だけ移動した位置（C_x(y),y）である。
【１８３９】
従って、上述した式（１７４）乃至式（１７７）のそれぞれの右辺の積分範囲として、求めたい画素値M（l）（ただし、ｌは、１乃至４のうちのいずれかの整数値）の中心が存在するY方向の位置ｙを考慮した範囲、即ち、シフト量C_x(y)を考慮した積分範囲の設定が必要である。
【１８４０】
具体的には、例えば、画素３１１１と画素３１１２の中心が存在するY方向の位置yは、y=０ではなく、y=0.25である。
【１８４１】
従って、y=0.25における近似関数f(x)の波形は、y=０における近似関数f(x)の波形をX方向にシフト量C_x(0.25)だけ移動させた波形に相当する。
【１８４２】
換言すると、上述した式（１７４）において、画素３１１１に対する画素値M(1)は、y=0における近似関数f(x)を所定の積分範囲（開始位置x_s1から終了位置x_e1まで）で積分したものであるとすると、その積分範囲は、開始位置x_s1＝-0.5から終了位置x_e1＝０までの範囲（画素３１１１がX方向に占める範囲そのもの）ではなく、図２６１で示される範囲、即ち、開始位置x_s1＝-0.5＋C_x(0.25)から終了位置x_e1＝０＋C_x(0.25)（シフト量C_x(0.25)だけ画素３１１１を仮に移動させた場合における、画素３１１１がX方向に占める範囲）となる。
【１８４３】
同様に、上述した式（１７５）において、画素３１１２に対する画素値M(2)は、y=0における近似関数f(x)を所定の積分範囲（開始位置x_s2から終了位置x_e2まで）で積分したものであるとすると、その積分範囲は、開始位置x_s2＝０から終了位置x_e2＝0.5までの範囲（画素３１１２のX方向に占める範囲そのもの）ではなく、図２６１で示される範囲、即ち、開始位置x_s2＝０＋C_x(0.25)から終了位置x_e2＝0.5＋C_x(0.25)（シフト量C_x(0.25)だけ画素３１１２を仮に移動させた場合における、画素３１１２のX方向に占める範囲）となる。
【１８４４】
また、例えば、画素３１１３と画素３１１４の中心が存在するY方向の位置yは、y=０ではなく、y=-0.25である。
【１８４５】
従って、y=-0.25における近似関数f(x)の波形は、y=０における近似関数f(x)の波形をX方向にシフト量C_x(-0.25)だけ移動させた波形に相当する。
【１８４６】
換言すると、上述した式（１７６）において、画素３１１３に対する画素値M(3)は、y=0における近似関数f(x)を所定の積分範囲（開始位置x_s3から終了位置x_e3まで）で積分したものであるとすると、その積分範囲は、開始位置x_s3＝-0.5から終了位置x_e3＝０までの範囲（画素３１１３のX方向に占める範囲そのもの）ではなく、図２６１で示される範囲、即ち、開始位置x_s3＝-0.5＋C_x(-0.25)から終了位置x_e3＝０＋C_x(-0.25)（シフト量C_x(-0.25)だけ画素３１１３を仮に移動させた場合における、画素３１１３のX方向に占める範囲）となる。
【１８４７】
同様に、上述した式（１７７）において、画素３１１４に対する画素値M(4)は、y=0における近似関数f(x)を所定の積分範囲（開始位置x_s4から終了位置x_e4まで）で積分したものであるとすると、その積分範囲は、開始位置x_s4＝０から終了位置x_e4＝0.5までの範囲（画素３１１４のX方向の占める範囲そのもの）ではなく、図２６１で示される範囲、即ち、開始位置x_s4＝０＋C_x(-0.25)から終了位置x_e4＝0.5＋C_x(-0.25)（シフト量C_x(-0.25)だけ画素３１１４を仮に移動させた場合における、画素３１１４のX方向に占める範囲）となる。
【１８４８】
従って、画像生成部１０２（図２５９）は、上述した式（１７４）乃至式（１７７）のそれぞれに、上述した積分範囲のうちの対応するものを代入してそれぞれ演算し、それらの演算結果を出力画素値M(1)乃至M（４）のそれぞれとして出力することになる。
【１８４９】
このように、画像生成部１０２は、１次元再積分手法を利用することで、センサ２（図２５９）からの出力画素３１０１（図２６０）における画素として、出力画素３１０１よりも空間解像度の高い４つの画素、即ち、画素３１１１乃至画素３１１４（図２６１）を創造することができる。さらに、図示はしないが、上述したように、画像生成部１０２は、画素３１１１乃至画素３１１４のみならず、積分範囲を適宜変えることで、出力画素３１０１に対して任意の倍率の空間解像度の画素を劣化することなく創造することができる。
【１８５０】
図２６２は、このような１次元再積分手法を利用する画像生成部１０３の構成例を表している。
【１８５１】
図２６２で示されるように、この例の画像生成部１０３には、条件設定部３１２１、特徴量記憶部３１２２、積分成分演算部３１２３、および出力画素値演算部３１２４が設けられている。
【１８５２】
条件設定部３１２１は、実世界推定部１０２より供給された実世界推定情報（図２６２の例では、近似関数f(x)の特徴量）に基づいて近似関数f(x)の次数nを設定する。
【１８５３】
条件設定部３１２１はまた、近似関数f(x)を再積分する場合（出力画素値を演算する場合）の積分範囲を設定する。なお、条件設定部３１２１が設定する積分範囲は、画素の幅である必要は無い。例えば、近似関数f（x）は空間方向（X方向）に積分されるので、センサ２（図２５９）からの入力画像の各画素の空間的な大きさに対する、出力画素（画像生成部１０３がこれから演算する画素）の相対的な大きさ（空間解像度の倍率）がわかれば、具体的な積分範囲の決定が可能である。従って、条件設定部３１２１は、積分範囲として、例えば、空間解像度倍率を設定することもできる。
【１８５４】
特徴量記憶部３１２２は、実世界推定部１０２より順次供給されてくる近似関数f(x)の特徴量を一次的に記憶する。そして、特徴量記憶部３１２２は、近似関数f（ｘ）の特徴量の全てを記憶すると、近似関数f(x)の特徴量を全て含む特徴量テーブルを生成し、出力画素値演算部３１２４に供給する。
【１８５５】
ところで、上述したように、画像生成部１０３は、上述した式（１７２）を利用して出力画素値Mを演算するが、上述した式（１７２）の右辺に含まれる近似関数f(x)は、具体的には、次の式（１７８）のように表される。
【１８５６】
【数１４４】

・・・（１７８）
【１８５７】
なお、式（１７８）において、w_iは、実世界推定部１０２より供給される近似関数f(x)の特徴量を表している。
【１８５８】
従って、上述した式（１７２）の右辺の近似関数f(x)に、式（１７８）の近似関数f（x）を代入して、式（１７２）の右辺を展開（演算）すると、出力画素値Mは、次の式（１７９）のように表される。
【１８５９】
【数１４５】

・・・（１７９）
【１８６０】
式（１７９）において、K_i（x_s,x_e）は、i次項の積分成分を表している。即ち、積分成分K_i（x_s,x_e）は、次の式（１８０）で示される通りである。
【１８６１】
【数１４６】

・・・（１８０）
【１８６２】
積分成分演算部３１２３は、この積分成分K_i（x_s,x_e）を演算する。
【１８６３】
具体的には、式（１８０）で示されるように、積分成分K_i（x_s,x_e）は、積分範囲の開始位置x_s、および終了位置x_e、ゲインG_e、並びにi次項のiが既知であれば演算可能である。
【１８６４】
これらのうちの、ゲインG_eは、条件設定部３１２１により設定された空間解像度倍率（積分範囲）により決定される。
【１８６５】
iの範囲は、条件設定部３１２１により設定された次数nにより決定される。
【１８６６】
また、積分範囲の開始位置x_s、および終了位置x_eのそれぞれは、これから生成する出力画素の中心画素位置(x,y)および画素幅、並びにデータの定常性の方向を表すシフト量C_x(y)により決定される。なお、(x,y)は、実世界推定部１０２が近似関数f(x)を生成したときの注目画素の中心位置からの相対位置を表している。
【１８６７】
さらに、これから生成する出力画素の中心画素位置(x,y)および画素幅のそれぞれは、条件設定部３１２１により設定された空間解像度倍率（積分範囲）により決定される。
【１８６８】
また、シフト量C_x(y)と、データ定常性検出部１０１より供給された角度θは、次の式（１８１）と式（１８２）のような関係が成り立つので、シフト量C_x(y)は角度θにより決定される。
【１８６９】
【数１４７】

・・・（１８１）
【１８７０】
【数１４８】

・・・（１８２）
【１８７１】
なお、式（１８１）において、G_fは、データの定常性の方向を表す傾きを表しており、θは、データ定常性検出部１０１（図２５９）より出力されるデータ定常性情報の１つである角度（空間方向の１方向であるＸ方向と、傾きG_fで表されるデータの定常性の方向とのなす角度）を表している。また、dxは、Ｘ方向の微小移動量を表しており、dyは、dxに対するＹ方向（Ｘ方向と垂直な空間方向）の微小移動量を表している。
【１８７２】
従って、積分成分演算部３１２３は、条件設定部３１２１により設定された次数および空間解像度倍率（積分範囲）、並びにデータ定常性検出部１０１より出力されたデータ定常性情報のうちの角度θに基づいて積分成分K_i（x_s,x_e）を演算し、その演算結果を積分成分テーブルとして出力画素値演算部３１２４に供給する。
【１８７３】
出力画素値演算部３１２４は、特徴量記憶部３１２２より供給された特徴量テーブルと、積分成分演算部３１２３より供給された積分成分テーブルを利用して、上述した式（１７９）の右辺を演算し、その演算結果を出力画素値Mとして外部に出力する。
【１８７４】
次に、図２６３のフローチャートを参照して、１次元再積分手法を利用する画像生成部１０３（図２６２）の画像の生成の処理（図４０のステップＳ１０３の処理）について説明する。
【１８７５】
例えば、いま、上述した図４０のステップＳ１０２の処理で、実世界推測部１０２が、上述した図２６０で示されるような画素３１０１を注目画素として、図２６０で示されるような近似関数f(x)を既に生成しているとする。
【１８７６】
また、上述した図４０のステップＳ１０１の処理で、データ定常性検出部１０１が、データ定常性情報として、図２６０で示されるような角度θを既に出力しているとする。
【１８７７】
この場合、図２６３のステップＳ３１０１において、条件設定部３１２１は、条件（次数と積分範囲）を設定する。
【１８７８】
例えば、いま、次数として５が設定されるとともに、積分範囲として空間４倍密（画素のピッチ幅が上下左右ともに1/2倍となる空間解像度倍率）が設定されたとする。
【１８７９】
即ち、この場合、図２６１で示されるように、Ｘ方向に−０．５乃至０．５の範囲、かつＹ方向に−０．５乃至０．５の範囲（図２６０の画素３１０１の範囲）に、４個の画素３１１１乃至画素３１１４を新たに創造することが設定されたことになる。
【１８８０】
ステップＳ３１０２において、特徴量記憶部３１２２は、実世界推定部１０２より供給された近似関数f(x)の特徴量を取得し、特徴量テーブルを生成する。いまの場合、５次の多項式である近似関数f(x)の係数w₀乃至w₅が実世界推定部１０２より供給されるので、特徴量テーブルとして、（w₀,w₁,w₂,w₃,w₄,w₅）が生成される。
【１８８１】
ステップＳ３１０３において、積分成分演算部３１２３は、条件設定部３１２１により設定された条件（次数および積分範囲）、並びにデータ定常性検出部１０１より供給されたデータ定常性情報（角度θ）に基づいて積分成分を演算し、積分成分テーブルを生成する。
【１８８２】
具体的には、例えば、これから生成する画素３１１１乃至画素３１１４のそれぞれに対して、番号（このような番号を、以下、モード番号と称する）１乃至４のそれぞれが付されているとすると、積分成分演算部３１２３は、上述した式（１８０）の積分成分K_i（x_s,x_e）を、次の式（１８３）の左辺で示される積分成分K_i(l)といったl（ただし、ｌはモード番号を表している）の関数として演算する。
【１８８３】
K_i(ｌ) ＝ K_i（x_s,x_e）・・・（１８３）
【１８８４】
具体的には、いまの場合、次の式（１８４）で示される積分成分K_i(l)が演算される。
【１８８５】
【数１４９】

・・・（１８４）
【１８８６】
なお、式（１８４）において、左辺が積分成分K_i(l)を表し、右辺が積分成分K_i（x_s,x_e）を表している。即ち、いまの場合、lは、１乃至４のうちのいずれかであり、かつ、iは０乃至５のうちのいずれかであるので、６個のK_i(１),６個のK_i(２),６個のK_i(３),６個のK_i(４)の総計２４個のK_i(l)が演算されることになる。
【１８８７】
より具体的には、はじめに、積分成分演算部３１２３は、データ定常性検出部１０１より供給された角度θを使用して、上述した式（１８１）と式（１８２）よりシフト量C_x(-0.25)、およびC_x(0.25)のそれぞれを演算する。
【１８８８】
次に、積分成分演算部３１２３は、演算したシフト量C_x(-0.25)、およびC_x(0.25)を使用して、式（１８４）の４つの式の各右辺の積分成分K_i（x_s,x_e）のそれぞれを、i＝０乃至５についてそれぞれ演算する。なお、この積分成分K_i（x_s,x_e）の演算においては、上述した式（１８０）が使用される。
【１８８９】
そして、積分成分演算部３１２３は、式（１８４）に従って、演算した２４個の積分成分K_i（x_s,x_e）のそれぞれを、対応する積分成分K_i(l)に変換し、変換した２４個の積分成分K_i(l)（即ち、６個のK_i(1)、６個のK_i(2)、６個のK_i(3)、および６個のK_i(4)）を含む積分成分テーブルを生成する。
【１８９０】
なお、ステップＳ３１０２の処理とステップＳ３１０３の処理の順序は、図２６３の例に限定されず、ステップＳ３１０３の処理が先に実行されてもよいし、ステップＳ３１０２の処理とステップＳ３１０３の処理が同時に実行されてもよい。
【１８９１】
次に、ステップＳ３１０４において、出力画素値演算部３１２４は、ステップＳ３１０２の処理で特徴量記憶部３１２２により生成された特徴量テーブルと、ステップＳ３１０３の処理で積分成分演算部３１２３により生成された積分成分テーブルに基づいて出力画素値M(1)乃至M(4)のそれぞれを演算する。
【１８９２】
具体的には、いまの場合、出力画素値演算部３１２４は、上述した式（１７９）に対応する、次の式（１８５）乃至式（１８８）の右辺を演算することで、画素３１１１（モード番号１の画素）の画素値M(1)、画素３１１２（モード番号２の画素）の画素値M(2)、画素３１１３（モード番号３の画素）の画素値M(3)、および画素３１１４（モード番号４の画素）の画素値M(4)のそれぞれを演算する。
【１８９３】
【数１５０】

・・・（１８５）
【１８９４】
【数１５１】

・・・（１８６）
【１８９５】
【数１５２】

・・・（１８７）
【１８９６】
【数１５３】

・・・（１８８）
【１８９７】
ステップＳ３１０５において、出力画素値演算部３１２４は、全画素の処理を終了したか否かを判定する。
【１８９８】
ステップＳ３１０５において、全画素の処理がまだ終了されていないと判定された場合、処理はステップＳ３１０２に戻り、それ以降の処理が繰り返される。即ち、まだ注目画素とされない画素が、順次注目画素とされて、ステップＳ３１０２乃至Ｓ３１０４の処理が繰り返される。
【１８９９】
そして、全画素の処理が終了すると（ステップＳ３１０５において、全画素の処理が終了されたと判定すると）、出力画素値演算部３１２４は、ステップＳ３１０６において、画像を出力する。その後、画像の生成の処理は終了となる。
【１９００】
次に、図２６４乃至図２７１を参照して、所定の入力画像に対して、１次元再積分手法を適用して得られた出力画像と、他の手法（従来のクラス分類適応処理）を適用して得られた出力画像の違いについて説明する。
【１９０１】
図２６４は、入力画像の元の画像を示す図であり、図２６５は、図２６４の元の画像に対応する画像データを示している。図２６５において、図中垂直方向の軸は、画素値を示し、図中右下方向の軸は、画像の空間方向の一方向であるＸ方向を示し、図中右上方向の軸は、画像の空間方向の他の方向であるＹ方向を示す。なお、後述する図２６７、図２６９、および図２７１の軸のそれぞれは、図２６５の軸と対応している。
【１９０２】
図２６６は、入力画像の例を示す図である。図２６６で示される入力画像は、図２６４で示される画像の２×２の画素からなるブロックに属する画素の画素値の平均値を、１つの画素の画素値として生成された画像である。即ち、入力画像は、図２６４で示される画像に、センサの積分特性を模した、空間方向の積分を適用することにより得られた画像である。また、図２６７は、図２６６の入力画像に対応する画像データを示している。
【１９０３】
図２６４で示される元の画像において、上下方向から、ほぼ５度時計方向に傾いた細線の画像が含まれている。同様に、図２６６で示される入力画像において、上下方向から、ほぼ５度時計方向に傾いた細線の画像が含まれている。
【１９０４】
図２６８は、図２６６で示される入力画像に、従来のクラス分類適応処理を適用して得られた画像（以下、図２６８で示される画像を、従来の画像と称する）を示す図である。また、図２６９は、従来の画像に対応する画像データを示している。
【１９０５】
なお、クラス分類適応処理は、クラス分類処理と適応処理とからなり、クラス分類処理によって、データを、その性質に基づいてクラス分けし、各クラスごとに適応処理を施すものである。適応処理では、例えば、低画質または標準画質の画像が、所定のタップ係数を用いてマッピング（写像）されることにより、高画質の画像に変換される。
【１９０６】
図２７０は、図２６６で示される入力画像に、本発明が適用される１次元再積分手法を適用して得られた画像（以下、図２７０で示される画像を、本発明の画像と称する）を示す図である。また、図２７１は、本発明の画像に対応する画像データを示している。
【１９０７】
図２６８の従来の画像と、図２７０の本発明の画像を比較するに、従来の画像においては、細線の画像が、図２６４の元の画像とは異なるものになっているのに対して、本発明の画像においては、細線の画像が、図２６４の元の画像とほぼ同じものになっていることがわかる。
【１９０８】
この違いは、従来のクラス分類適応処理は、あくまでも図２６６の入力画像を基準（原点）として処理を行う手法であるのに対して、本発明の１次元再積分手法は、細線の定常性を考慮して、図２６４の元の画像を推定し（元の画像に対応する近似関数f(x)を生成し）、推定した元の画像を基準（原点）として処理を行う（再積分して画素値を演算する）手法であるからである。
【１９０９】
このように、１次元再積分手法においては、１次元多項式近似手法により生成された１次元の多項式である近似関数f(x)（実世界のX断面波形F(x)の近似関数f(x)）を基準（原点）として、近似関数f(x)を任意の範囲に積分することで出力画像（画素値）が生成される。
【１９１０】
従って、１次元再積分手法においては、従来の他の手法に比較して、元の画像（センサ２に入射される前の実世界１の光信号）により近い画像の出力が可能になる。
【１９１１】
換言すると、１次元再積分手法においては、図２５９のデータ定常性検出部１０１が、それぞれ時空間積分効果を有する、センサ２の複数の検出素子により実世界１の光信号が射影され、実世界１の光信号の定常性の一部が欠落した、検出素子により射影された画素値を有する複数の画素からなる入力画像におけるデータの定常性を検出し、実世界推定部１０２が、検出されたデータの定常性に対応して、入力画像の時空間方向のうち１次元方向の位置に対応する画素の画素値が、その１次元方向の積分効果により取得された画素値であるとして、実世界１の光信号を表す光信号関数Ｆ（具体的には、Ｘ断面波形F(x)）を、所定の近似関数ｆ（ｘ）で近似することで、光信号関数Ｆを推定していることが前提とされている。
【１９１２】
詳細には、例えば、検出されたデータの定常性に対応する線からの１次元方向に沿った距離に対応する各画素の画素値が、その１次元方向の積分効果により取得された画素値であるとして、Ｘ断面波形F(x)が近似関数f(x)で近似されていることが前提とされている。
【１９１３】
そして、１次元再積分手法においては、このような前提に基づいて、例えば、図２５９（図３）の画像生成部１０３が、実世界推定部１０２により推定されたＸ断面波形Ｆ（ｘ）、即ち、近似関数ｆ(x)を、１次元方向の所望の単位で積分することにより所望の大きさの画素に対応する画素値Mを生成し、それを出力画像として出力する。
【１９１４】
従って、１次元再積分手法においては、従来の他の手法に比較して、元の画像（センサ２に入射される前の実世界１の光信号）により近い画像の出力が可能になる。
【１９１５】
また、１次元再積分手法においては、上述したように、積分範囲は任意なので、積分範囲を可変することにより、入力画像の解像度とは異なる解像度（時間解像度、または空間解像度）を創造することも可能になる。即ち、入力画像の解像度に対して、整数値だけではなく任意の倍率の解像度の画像を生成することが可能になる。
【１９１６】
さらに、１次元再積分手法においては、他の再積分手法に比較して、より少ない演算処理量で出力画像（画素値）の算出が可能となる。
【１９１７】
次に、図２７２乃至図２７８を参照して、２次元再積分手法について説明する。
【１９１８】
２次元再積分手法においては、２次元多項式近似手法により近似関数f(x,y)が既に生成されていることが前提とされる。
【１９１９】
即ち、例えば、図２７２で示されるような、傾きG_Fで表される空間方向の定常性を有する実世界１（図２５９）の光信号を表す画像関数F(x,y,t)を、空間方向（Ｘ方向とＹ方向）に射影した波形、即ち、Ｘ−Ｙ平面上の波形F(x,y)が、n次（nは、任意の整数）の多項式である近似関数f(x,y)に近似されていることが前提とされる。
【１９２０】
図２７２において、図中、水平方向は、空間方向の１方向であるＸ方向を、右上方向は、空間方向の他方向であるＹ方向を、垂直方向は、光のレベルを、それぞれ表している。G_Fは、空間方向の定常性の傾きを表している。
【１９２１】
なお、図２７２の例では、定常性の方向は、空間方向（Ｘ方向とＹ方向）とされているため、近似の対象とされる光信号の射影関数は、関数F(x,y)とされているが、後述するように、定常性の方向に応じて、関数F(x,t)や関数F(y,t)が近似の対象とされてもよい。
【１９２２】
図２７２の例の場合、２次元再積分手法においては、出力画素値Ｍは、次の式（１８９）のように演算される。
【１９２３】
【数１５４】

・・・（１８９）
【１９２４】
なお、式（１８９）において、y_sは、Ｙ方向の積分開始位置を表しており、y_eは、Ｙ方向の積分終了位置を表している。同様に、x_sは、Ｘ方向の積分開始位置を表しており、x_eは、Ｘ方向の積分終了位置を表している。また、G_eは、所定のゲインを表している。
【１９２５】
式（１８９）において、積分範囲は任意に設定可能であるので、２次元再積分手法においては、この積分範囲を適宜変えることで、元の画素（センサ２（図２５９）からの入力画像の画素）に対して任意の倍率の空間解像度の画素を劣化することなく創造することが可能になる。
【１９２６】
図２７３は、２次元再積分手法を利用する画像生成部１０３の構成例を表している。
【１９２７】
図２７３で示されるように、この例の画像生成部１０３には、条件設定部３２０１、特徴量記憶部３２０２、積分成分演算部３２０３、および出力画素値演算部３２０４が設けられている。
【１９２８】
条件設定部３２０１は、実世界推定部１０２より供給された実世界推定情報（図２７３の例では、近似関数f(x,y)の特徴量）に基づいて近似関数f(x,y)の次数nを設定する。
【１９２９】
条件設定部３２０１はまた、近似関数f(x,y)を再積分する場合（出力画素値を演算する場合）の積分範囲を設定する。なお、条件設定部３２０１が設定する積分範囲は、画素の縦幅や横幅である必要は無い。例えば、近似関数f（x,y）は空間方向（X方向とY方向）に積分されるので、センサ２からの入力画像の各画素の空間的な大きさに対する、出力画素（画像生成部１０３がこれから生成する画素）の相対的な大きさ（空間解像度の倍率）がわかれば、具体的な積分範囲の決定が可能である。従って、条件設定部３２０１は、積分範囲として、例えば、空間解像度倍率を設定することもできる。
【１９３０】
特徴量記憶部３２０２は、実世界推定部１０２より順次供給されてくる近似関数f(x,y)の特徴量を一次的に記憶する。そして、特徴量記憶部３２０２は、近似関数f(x,y)の特徴量の全てを記憶すると、近似関数f(x,y)の特徴量を全て含む特徴量テーブルを生成し、出力画素値演算部３２０４に供給する。
【１９３１】
ここで、近似関数f(x,y)の詳細について説明する。
【１９３２】
例えば、いま、上述した図２７２で示されるような傾きG_Fで表される空間方向の定常性を有する実世界１（図２５９）の光信号（波形F(x,y）で表される光信号)が、センサ２（図２５９）により検出されて入力画像（画素値）として出力されたとする。
【１９３３】
さらに、例えば、図２７４で示されるように、データ定常性検出部１０１（図３）が、この入力画像のうちの、Ｘ方向に４画素分、かつＹ方向に５画素分の総計２０個の画素（図中、点線で表される２０個の正方形）から構成される入力画像の領域３２２１に対してその処理を実行し、データ定常性情報の１つとして角度θ（傾きG_Fに対応する傾きG_fで表されるデータの定常性の方向と、Ｘ方向とのなす角度θ）を出力したとする。
【１９３４】
なお、実世界推定部１０２から見ると、データ定常性検出部１０１は、注目画素における角度θを単に出力すればよいので、データ定常性検出部１０１の処理範囲は、上述した入力画像の領域３２２１に限定されない。
【１９３５】
また、入力画像の領域３２２１において、図中水平方向は、空間方向の1方向であるＸ方向を表しており、図中垂直方向は、空間方向の他方向であるＹ方向を表している。
【１９３６】
さらに、図２７４中、左から２画素目であって、下から３画素目の画素が注目画素とされ、その注目画素の中心を原点(0,0)とするように(x,y)座標系が設定されている。そして、原点(0,0)を通る角度θの直線（データの定常性の方向を表す傾きG_fの直線）に対するＸ方向の相対的な距離（以下、断面方向距離と称する）がx'とされている。
【１９３７】
さらに、図２７４中、右側のグラフは、３次元の空間上の位置x,y、およびｚ、並びに時刻tを変数とする画像関数F(x,y,t)を、Ｙ方向の任意の位置yにおいて、X方向に射影した１次元の波形（以下、このような波形を、X断面波形F(x')と称する）が近似された関数であって、n次（nは、任意の整数）の多項式である近似関数f(x')を表している。右側のグラフの軸のうち、図中水平方向の軸は、断面方向距離を表しており、図中垂直方向の軸は、画素値を表している。
【１９３８】
この場合、図２７４で示される近似関数f(x')は、ｎ次の多項式であるので、次の式（１９０）のように表される。
【１９３９】
【数１５５】

・・・（１９０）
【１９４０】
また、角度θが決定されていることから、原点(0,0)を通る角度θの直線は一意に決まり、Ｙ方向の任意の位置yにおける、直線のＸ方向の位置x_lが、次の式（１９１）のように表される。ただし、式（１９１）において、sはcotθを表している。
【１９４１】
x_l ＝ｓ×ｙ・・・（１９１）
【１９４２】
即ち、図２７４で示されるように、傾きG_fで表されるデータの定常性に対応する直線上の点は、座標値(x_l,y)で表される。
【１９４３】
式（１９１）より、断面方向距離x'は、次の式（１９２）のように表される。
【１９４４】
x' ＝ x−x_l ＝ x−s×y ・・・（１９２）
【１９４５】
従って、入力画像の領域３２２１内の任意の位置(x,y)における近似関数f(x,y)は、式（１９０）と式（１９２）より、次の式（１９３）のように示される。
【１９４６】
【数１５６】

・・・（１９３）
【１９４７】
なお、式（１９３）において、w_iは、近似関数f(x,y)の特徴量を表している。
【１９４８】
図２７３に戻り、式（１９３）に含まれる特徴量w_iが、実世界推定部１０２より供給され、特徴量記憶部３２０２に記憶される。特徴量記憶部３２０２は、式（１９３）で表される特徴量w_iの全てを記憶すると、特徴量w_iを全て含む特徴量テーブルを生成し、出力画素値演算部３２０４に供給する。
【１９４９】
また、上述した式（１８９）の右辺の近似関数f(x,y)に、式（１９３）の近似関数f（x,y）を代入して、式（１８９）の右辺を展開（演算）すると、出力画素値Mは、次の式（１９４）のように表される。
【１９５０】
【数１５７】

・・・（１９４）
【１９５１】
式（１９４）において、K_i（x_s,x_e,y_s,y_e）は、i次項の積分成分を表している。即ち、積分成分K_i（x_s,x_e,y_s,y_e）は、次の式（１９５）で示される通りである。
【１９５２】
【数１５８】

・・・（１９５）
【１９５３】
積分成分演算部３２０３は、この積分成分K_i（x_s,x_e,y_s,y_e）を演算する。
【１９５４】
具体的には、式（１９４）と式（１９５）で示されるように、積分成分K_i（x_s,x_e,y_s,y_e）は、積分範囲のＸ方向の開始位置x_s、およびＸ方向の終了位置x_e、積分範囲のＹ方向の開始位置y_s、およびＹ方向の終了位置y_e、変数ｓ、ゲインG_e、並びにi次項のiが既知であれば演算可能である。
【１９５５】
これらのうちの、ゲインG_eは、条件設定部３２０１により設定された空間解像度倍率（積分範囲）により決定される。
【１９５６】
iの範囲は、条件設定部３２０１により設定された次数nにより決定される。
【１９５７】
変数ｓは、上述したように、cotθであるので、データ定常性検出部１０１より出力される角度θにより決定される。
【１９５８】
また、積分範囲のＸ方向の開始位置x_s、およびＸ方向の終了位置x_e、並びに、積分範囲のＹ方向の開始位置y_s、およびＹ方向の終了位置y_eのそれぞれは、これから生成する出力画素の中心画素位置(x,y)および画素幅により決定される。なお、(x,y)は、実世界推定部１０２が近似関数f(x)を生成したときの注目画素の中心位置からの相対位置を表している。
【１９５９】
さらに、これから生成する出力画素の中心画素位置(x,y)および画素幅のそれぞれは、条件設定部３２０１により設定された空間解像度倍率（積分範囲）により決定される。
【１９６０】
従って、積分成分演算部３２０３は、条件設定部３２０１により設定された次数および空間解像度倍率（積分範囲）、並びにデータ定常性検出部１０１より出力されたデータ定常性情報のうちの角度θに基づいて積分成分K_i（x_s,x_e,y_s,y_e）を演算し、その演算結果を積分成分テーブルとして出力画素値演算部３２０４に供給する。
【１９６１】
出力画素値演算部３２０４は、特徴量記憶部３２０２より供給された特徴量テーブルと、積分成分演算部３２０３より供給された積分成分テーブルを利用して、上述した式（１９４）の右辺を演算し、その演算結果を出力画素値Mとして外部に出力する。
【１９６２】
次に、図２７５のフローチャートを参照して、２次元再積分手法を利用する画像生成部１０３（図２７４）の画像の生成の処理（図４０のステップＳ１０３の処理）について説明する。
【１９６３】
例えば、いま、図２７２で示される関数F(x,y)で表される光信号がセンサ２に入射されて入力画像となり、上述した図４０のステップＳ１０２の処理で、実世界推測部１０２が、その入力画像のうちの、図２７６で示されるような１つの画素３２３１を注目画素として、関数F(x,y)を近似する近似関数f(x,y)を既に生成しているとする。
【１９６４】
なお、図２７６において、画素３２３１の画素値（入力画素値）がＰとされ、かつ、画素３２３１の形状が、１辺の長さが１の正方形とされている。また、空間方向のうちの、画素３２３１の１辺に平行な方向がＸ方向とされ、Ｘ方向に垂直な方向がＹ方向とされている。さらに、画素３２３１の中心が原点とされる空間方向（Ｘ方向とＹ方向）の座標系（以下、注目画素座標系と称する）が設定されている。
【１９６５】
また、図２７６において、上述した図４０のステップＳ１０１の処理で、データ定常性検出部１０１が、画素３２３１を注目画素として、傾きG_fで表されるデータの定常性に対応するデータ定常性情報として、角度θを既に出力しているとする。
【１９６６】
図２７５に戻り、この場合、ステップＳ３２０１において、条件設定部３２０１は、条件（次数と積分範囲）を設定する。
【１９６７】
例えば、いま、次数として５が設定されるとともに、積分範囲として空間４倍密（画素のピッチ幅が上下左右ともに1/2倍となる空間解像度倍率）が設定されたとする。
【１９６８】
即ち、この場合、図２７７で示されるように、Ｘ方向に−０．５乃至０．５の範囲、かつＹ方向に−０．５乃至０．５の範囲（図２７６の画素３２３１の範囲）に、４個の画素３２４１乃至画素３２４４を新たに創造することが設定されたことになる。なお、図２７７においても、図２７６のものと同一の注目画素座標系が示されている。
【１９６９】
また、図２７７において、M(1)は、これから生成される画素３２４１の画素値を、M(2)は、これから生成される画素３２４２の画素値を、M(3)は、これから生成される画素３２４３の画素値を、M(4)は、これから生成される画素３２４１の画素値を、それぞれ表している。
【１９７０】
図２７５に戻り、ステップＳ３２０２において、特徴量記憶部３２０２は、実世界推定部１０２より供給された近似関数f(x,y)の特徴量を取得し、特徴量テーブルを生成する。いまの場合、５次の多項式である近似関数f(x)の係数w₀乃至w₅が実世界推定部１０２より供給されるので、特徴量テーブルとして、（w₀,w₁,w₂,w₃,w₄,w₅）が生成される。
【１９７１】
ステップＳ３２０３において、積分成分演算部３２０３は、条件設定部３２０１により設定された条件（次数および積分範囲）、並びにデータ定常性検出部１０１より供給されたデータ定常性情報（角度θ）に基づいて積分成分を演算し、積分成分テーブルを生成する。
【１９７２】
具体的には、例えば、これから生成される画素３２４１乃至画素３２４４のそれぞれに対して、番号（このような番号を、以下、モード番号と称する）１乃至４のそれぞれが付されているとすると、積分成分演算部３２０３は、上述した式（１９４）の積分成分K_i（x_s,x_e,y_s,y_e）を、次の式（１９６）の左辺で示される積分成分K_i(l)といったl（ただし、ｌはモード番号を表している）の関数として演算する。
【１９７３】
K_i(ｌ) ＝ K_i（x_s,x_e,y_s,y_e）・・・（１９６）
【１９７４】
具体的には、いまの場合、次の式（１９７）で示される積分成分K_i(l)が演算される。
【１９７５】
【数１５９】

・・・（１９７）
【１９７６】
なお、式（１９７）において、左辺が積分成分K_i(l)を表し、右辺が積分成分K_i（x_s,x_e,y_s,y_e）を表している。即ち、いまの場合、lは、１乃至４のうちのいずれかであり、かつ、iは０乃至５のうちのいずれかであるので、６個のK_i(１),６個のK_i(２),６個のK_i(３),６個のK_i(４)の総計２４個のK_i(l)が演算されることになる。
【１９７７】
より具体的には、はじめに、積分成分演算部３２０３は、データ定常性検出部１０１より供給された角度θを使用して、上述した式（１９１）の変数ｓ（ｓ＝cotθ）を演算する。
【１９７８】
次に、積分成分演算部３２０３は、演算した変数ｓを使用して、式（１９７）の４つの式の各右辺の積分成分K_i（x_s,x_e,y_s,y_e）のそれぞれを、i＝０乃至５についてそれぞれ演算する。なお、この積分成分K_i（x_s,x_e,y_s,y_e）の演算においては、上述した式（１９４）が使用される。
【１９７９】
そして、積分成分演算部３２０３は、式（１９７）に従って、演算した２４個の積分成分K_i（x_s,x_e,y_s,y_e）のそれぞれを、対応する積分成分K_i(l)に変換し、変換した２４個の積分成分K_i(l)（即ち、６個のK_i(1)、６個のK_i(2)、６個のK_i(3)、および６個のK_i(4)）を含む積分成分テーブルを生成する。
【１９８０】
なお、ステップＳ３２０２の処理とステップＳ３２０３の処理の順序は、図２７５の例に限定されず、ステップＳ３２０３の処理が先に実行されてもよいし、ステップＳ３２０２の処理とステップＳ３２０３の処理が同時に実行されてもよい。
【１９８１】
次に、ステップＳ３２０４において、出力画素値演算部３２０４は、ステップＳ３２０２の処理で特徴量記憶部３２０２により生成された特徴量テーブルと、ステップＳ３２０３の処理で積分成分演算部３２０３により生成された積分成分テーブルに基づいて出力画素値M(1)乃至M(4)のそれぞれを演算する。
【１９８２】
具体的には、いまの場合、出力画素値演算部３２０４は、上述した式（１９４）に対応する、次の式（１９８）乃至式（２０１）の右辺のそれぞれを演算することで、図２７７で示される、画素３２４１（モード番号１の画素）の画素値M(1)、画素３２４２（モード番号２の画素）の画素値M(2)、画素３２４３（モード番号３の画素）の画素値M(3)、および画素３２４４（モード番号４の画素）の画素値M(4)のそれぞれを演算する。
【１９８３】
【数１６０】

・・・（１９８）
【１９８４】
【数１６１】

・・・（１９９）
【１９８５】
【数１６２】

・・・（２００）
【１９８６】
【数１６３】

・・・（２０１）
【１９８７】
ただし、いまの場合、式（１９８）乃至式（２０１）のnは全て５となる。
【１９８８】
ステップＳ３２０５において、出力画素値演算部３２０４は、全画素の処理を終了したか否かを判定する。
【１９８９】
ステップＳ３２０５において、全画素の処理がまだ終了されていないと判定された場合、処理はステップＳ３２０２に戻り、それ以降の処理が繰り返される。即ち、まだ注目画素とされない画素が、順次注目画素とされて、ステップＳ３２０２乃至Ｓ３２０４の処理が繰り返される。
【１９９０】
そして、全画素の処理が終了すると（ステップＳ３２０５において、全画素の処理が終了されたと判定すると）、出力画素値演算部３２０４は、ステップＳ３２０６において、画像を出力する。その後、画像の生成の処理は終了となる。
【１９９１】
このように、２次元再積分手法を利用することで、センサ２（図２５９）からの入力画像の画素３２３１（図２７６）における画素として、入力画素３２３１よりも空間解像度の高い４つの画素、即ち、画素３２４１乃至画素３２４４（図２７７）を創造することができる。さらに、図示はしないが、上述したように、画像生成部１０３は、画素３２４１乃至画素３２４４のみならず、積分範囲を適宜変えることで、入力画素３２３１に対して任意の倍率の空間解像度の画素を劣化することなく創造することができる。
【１９９２】
以上、２次元再積分手法の説明として、空間方向（X方向とY方向）に対する近似関数f(x,y)を２次元積分する例を用いたが、２次元再積分手法は、時空間方向（X方向とt方向、または、Y方向とｔ方向）に対しても適用可能である。
【１９９３】
即ち、上述した例は、実世界１（図２５９）の光信号が、例えば、図２７２で示されるような傾きG_Fで表される空間方向の定常性を有する場合の例であったので、上述した式（１８９）で示されるような、空間方向（X方向とY方向）の２次元積分が含まれる式が利用された。しかしながら、２次元積分の考え方は、空間方向だけによるものではなく、時空間方向（X方向とt方向、または、Y方向とｔ方向）に対して適用することも可能である。
【１９９４】
換言すると、２次元再積分手法の前提となる２次元多項式近似手法においては、光信号を表す画像関数F(x,y,t)が、空間方向の定常性のみならず、時空間方向（ただし、X方向とt方向、または、Y方向とｔ方向）の定常性を有している場合であっても、２次元の多項式により近似することが可能である。
【１９９５】
具体的には、例えば、X方向に水平に等速で動いている物体がある場合、その物体の動きの方向は、図２７８で示されるようなX-t平面においては、傾きV_Fのように表される。換言すると、傾きV_Fは、X-t平面における時空間方向の定常性の方向を表しているとも言える。従って、データ定常性検出部１０１（図２５９）は、上述した角度θ（X-Y平面における、空間方向の定常性を表す傾きG_Fに対応するデータ定常性情報）と同様に、X-t平面における時空間方向の定常性を表す傾きV_Fに対応するデータ定常性情報として、図２７８で示されるような動きθ（厳密には、図示はしないが、傾きV_Fに対応する傾きV_fで表されるデータの定常性の方向と、空間方向のＸ方向とのなす角度である動きθ）を出力することが可能である。
【１９９６】
また、２次元多項式近似手法を利用する実世界推定部１０２（図２５９）は、動きθを上述した角度θの代わりとして使用すれば、上述した方法と同様な方法で、近似関数f(x,t)の係数（特徴量）wiを演算することが可能になる。ただし、この場合、使用される式は、上述した式（１９３）ではなく、次の式（２０２）である。
【１９９７】
【数１６４】

・・・（２０２）
【１９９８】
なお、式（２０２）において、ｓはcotθ（ただし、θは動きである）である。
【１９９９】
従って、２次元再積分手法を利用する画像生成部１０３（図２５９）は、次の式（２０３）の右辺に、上述した式（２０２）のf(x,t)を代入して、演算することで、画素値Mを算出することが可能になる。
【２０００】
【数１６５】

・・・（２０３）
【２００１】
なお、式（２０３）において、t_sは、ｔ方向の積分開始位置を表しており、t_eは、ｔ方向の積分終了位置を表している。同様に、x_sは、Ｘ方向の積分開始位置を表しており、x_eは、Ｘ方向の積分終了位置を表している。G_eは、所定のゲインを表している。
【２００２】
また、空間方向Ｘの変わりに、空間方向Ｙに注目した近似関数f（y,t)も、上述した近似関数f(x、t)と全く同様に取り扱うことが可能である。
【２００３】
ところで、式（１９９）において、ｔ方向を一定とみなし、即ち、ｔ方向の積分を無視して積分することで、時間方向には積分されないデータ、即ち、動きボケのないデータを得ることが可能になる。換言すると、この手法は、２次元の多項式のうちの所定の１次元を一定として再積分する点で、２次元再積分手法の１つとみなしてもよいし、実際には、Ｘ方向の１次元の再積分をすることになるという点で、１次元再積分手法の１つとみなしてもよい。
【２００４】
また、式（２０３）において、積分範囲は任意に設定可能であるので、２次元再積分手法においては、この積分範囲を適宜変えることで、元の画素（センサ２（図２５９）からの入力画像の画素）に対して任意の倍率の解像度の画素を劣化することなく創造することが可能になる。
【２００５】
即ち、２次元再積分手法においては、時間方向ｔの積分範囲を適宜変えることで、時間解像度の創造が可能になる。また、空間方向Ｘ（または、空間方向Ｙ）の積分範囲を適宜変えることで、空間解像度の創造が可能になる。さらに、時間方向ｔと空間方向Ｘの積分範囲のそれぞれを適宜変えることで、時間解像度と空間解像度の両方の創造が可能になる。
【２００６】
なお、上述したように、時間解像度と空間解像度のうちのいずれか一方の創造は、１次元再積分手法でも可能であるが、両方の解像度の創造は、１次元再積分手法では原理上不可能であり、２次元以上の再積分を行うことではじめて可能になる。即ち、２次元再積分手法と後述する３次元再積分手法ではじめて、両方の解像度の創造が可能になる。
【２００７】
また、２次元再積分手法は、１次元ではなく２次元の積分効果を考慮しているので、より実世界１（図２５９）の光信号に近い画像を生成することも可能になる。
【２００８】
換言すると、２次元再積分手法においては、例えば、図２５９（図３）のデータ定常性検出部１０１が、それぞれ時空間積分効果を有する、センサ２の複数の検出素子により実世界１の光信号が射影され、実世界１の光信号の定常性（例えば、図２７２の傾きG_Fで表される定常性）の一部が欠落した、検出素子により射影された画素値を有する複数の画素からなる入力画像におけるデータの定常性（例えば、図２７４の傾きG_fで表されるデータの定常性）を検出する。
【２００９】
そして、例えば、図２５９(図３)の実世界推定部１０２が、データ定常性検出部１０１により検出されたデータの定常性に対応して、画像データの時空間方向のうち少なくとも２次元方向（例えば、図２７２の空間方向Ｘと、空間方向Ｙ）の位置に対応する画素の画素値が、少なくとも２次元方向の積分効果により取得された画素値であるとして、実世界１の光信号を表す光信号関数F（具体的には、図２７２の関数F(x,y)）を、多項式である近似関数ｆ(x,y)で近似することで、光信号関数Fを推定することが前提とされている。
【２０１０】
詳細には、例えば、実世界推定部１０２は、データ定常性検出部１０１により検出されたデータの定常性に対応する線（例えば、図２７４の傾きG_fに対応する線（矢印））からの少なくとも２次元方向に沿った距離（例えば、図２７４の断面方向距離ｘ‘）に対応する画素の画素値が、少なくとも２次元方向の積分効果により取得された画素値であるとして、現実世界の光信号を表す第１の関数を、多項式である第２の関数で近似することで、第１の関数を推定することが前提とされている。
【２０１１】
２次元再積分手法においては、このような前提に基づいて、例えば、図２５９（図３）の画像生成部１０３（構成は、図２７３）が、実世界推定部１０２により推定された関数F(x,y)、即ち、近似関数f(x,y)を、少なくとも２次元方向の所望の単位で積分する（例えば、上述した式（１８９）の右辺を演算する）ことにより所望の大きさの画素（例えば、図２５９の出力画像（画素値M）。具体的には、例えば、図２７７の画素３２４１乃至画素３２４４）に対応する画素値を生成する。
【２０１２】
従って、２次元再積分手法においては、時間解像度と空間解像度のうちのいずれか一方の創造のみならず、両方の解像度の創造が可能になる。また、２次元再積分手法においては、１次元再積分手法に比較して、より実世界１（図２５９）の光信号に近い画像を生成することも可能になる。
【２０１３】
次に、図２７９と図２８０を参照して、３次元再積分手法について説明する。
【２０１４】
３次元再積分手法においては、３次元関数近似手法により近似関数f(x,y,t)が既に生成されていることが前提とされる。
【２０１５】
この場合、３次元再積分手法においては、出力画素値Ｍは、次の式（２０４）のように演算される。
【２０１６】
【数１６６】

・・・（２０４）
【２０１７】
なお、式（２０４）において、t_sは、ｔ方向の積分開始位置を表しており、t_eは、ｔ方向の積分終了位置を表している。同様に、y_sは、Ｙ方向の積分開始位置を表しており、y_eは、Ｙ方向の積分終了位置を表している。また、x_sは、Ｘ方向の積分開始位置を表しており、x_eは、Ｘ方向の積分終了位置を表している。さらに、G_eは、所定のゲインを表している。
【２０１８】
式（２０４）において、積分範囲は任意に設定可能であるので、３次元再積分手法においては、この積分範囲を適宜変えることで、元の画素（センサ２（図２５９）からの入力画像の画素）に対して任意の倍率の時空間解像度の画素を劣化することなく創造することが可能になる。即ち、空間方向の積分範囲を小さくすれば、画素ピッチを自由に細かくできる。逆に、空間方向の積分範囲を大きくすれば、画素ピッチを自由に大きくすることができる。また、時間方向の積分範囲を小さくすれば、実世界波形に基づいて時間解像度を創造できる。
【２０１９】
図２７９は、３次元再積分手法を利用する画像生成部１０３の構成例を表している。
【２０２０】
図２７９で示されるように、この例の画像生成部１０３には、条件設定部３３０１、特徴量記憶部３３０２、積分成分演算部３３０３、および出力画素値演算部３３０４が設けられている。
【２０２１】
条件設定部３３０１は、実世界推定部１０２より供給された実世界推定情報（図２７９の例では、近似関数f(x,y,t)の特徴量）に基づいて近似関数f(x,y,t)の次数nを設定する。
【２０２２】
条件設定部３３０１はまた、近似関数f(x,y,t)を再積分する場合（出力画素値を演算する場合）の積分範囲を設定する。なお、条件設定部３３０１が設定する積分範囲は、画素の幅（縦幅と横幅）やシャッタ時間そのものである必要は無い。例えば、センサ２（図２５９）からの入力画像の各画素の空間的な大きさに対する、出力画素（画像生成部１０３がこれから生成する画素）の相対的な大きさ（空間解像度の倍率）がわかれば、具体的な空間方向の積分範囲の決定が可能である。同様に、センサ２（図２５９）のシャッタ時間に対する出力画素値の相対的な時間（時間解像度の倍率）がわかれば、具体的な時間方向の積分範囲の決定が可能である。従って、条件設定部３３０１は、積分範囲として、例えば、空間解像度倍率や時間解像度倍率を設定することもできる。
【２０２３】
特徴量記憶部３３０２は、実世界推定部１０２より順次供給されてくる近似関数f(x,y,t)の特徴量を一次的に記憶する。そして、特徴量記憶部３３０２は、近似関数f(x,y,t)の特徴量の全てを記憶すると、近似関数f(x,y,t)の特徴量を全て含む特徴量テーブルを生成し、出力画素値演算部３３０４に供給する。
【２０２４】
ところで、上述した式（２０４）の右辺の近似関数f(x,y)の右辺を展開（演算）すると、出力画素値Mは、次の式（２０５）のように表される。
【２０２５】
【数１６７】

・・・（２０５）
【２０２６】
式（２０５）において、K_i（x_s,x_e,y_s,y_e,t_s,t_e）は、i次項の積分成分を表している。ただし、x_sはX方向の積分範囲の開始位置を、x_eはX方向の積分範囲の終了位置を、y_sはY方向の積分範囲の開始位置を、y_eはY方向の積分範囲の終了位置を、t_sはt方向の積分範囲の開始位置を、t_eはｔ方向の積分範囲の終了位置を、それぞれ表している。
【２０２７】
積分成分演算部３３０３は、この積分成分K_i（x_s,x_e,y_s,y_e,t_s,t_e）を演算する。
【２０２８】
具体的には、積分成分演算部３３０３は、条件設定部３３０１により設定された次数、および積分範囲（空間解像度倍率や時間解像度倍率）、並びにデータ定常性検出部１０１より出力されたデータ定常性情報のうちの角度θまたは動きθに基づいて積分成分K_i（x_s,x_e,y_s,y_e,t_s,t_e）を演算し、その演算結果を積分成分テーブルとして出力画素値演算部３３０４に供給する。
【２０２９】
出力画素値演算部３３０４は、特徴量記憶部３３０２より供給された特徴量テーブルと、積分成分演算部３３０３より供給された積分成分テーブルを利用して、上述した式（２０５）の右辺を演算し、その演算結果を出力画素値Mとして外部に出力する。
【２０３０】
次に、図２８０のフローチャートを参照して、３次元再積分手法を利用する画像生成部１０３（図２７９）の画像の生成の処理（図４０のステップＳ１０３の処理）について説明する。
【２０３１】
例えば、いま、上述した図４０のステップＳ１０２の処理で、実世界推測部１０２（図２５９）が、入力画像のうちの、所定の画素を注目画素として、実世界１（図２５９）の光信号を近似する近似関数f(x,y,t)を既に生成しているとする。
【２０３２】
また、上述した図４０のステップＳ１０１の処理で、データ定常性検出部１０１（図２５９）が、実世界推定部１０２と同じ画素を注目画素として、データ定常性情報として、角度θまたは動きθを既に出力しているとする。
【２０３３】
この場合、図２８０のステップＳ３３０１において、条件設定部３３０１は、条件（次数と積分範囲）を設定する。
【２０３４】
ステップＳ３３０２において、特徴量記憶部３３０２は、実世界推定部１０２より供給された近似関数f(x,y,t)の特徴量w_iを取得し、特徴量テーブルを生成する。
【２０３５】
ステップＳ３３０３において、積分成分演算部３３０３は、条件設定部３３０１により設定された条件（次数および積分範囲）、並びにデータ定常性検出部１０１より供給されたデータ定常性情報（角度θまたは動きθ）に基づいて積分成分を演算し、積分成分テーブルを生成する。
【２０３６】
なお、ステップＳ３３０２の処理とステップＳ３３０３の処理の順序は、図２８０の例に限定されず、ステップＳ３３０３の処理が先に実行されてもよいし、ステップＳ３３０２の処理とステップＳ３３０３の処理が同時に実行されてもよい。
【２０３７】
次に、ステップＳ３３０４において、出力画素値演算部３３０４は、ステップＳ３３０２の処理で特徴量記憶部３３０２により生成された特徴量テーブルと、ステップＳ３３０３の処理で積分成分演算部３３０３により生成された積分成分テーブルに基づいて各出力画素値のそれぞれを演算する。
【２０３８】
ステップＳ３３０５において、出力画素値演算部３３０４は、全画素の処理を終了したか否かを判定する。
【２０３９】
ステップＳ３３０５において、全画素の処理がまだ終了されていないと判定された場合、処理はステップＳ３３０２に戻り、それ以降の処理が繰り返される。即ち、まだ注目画素とされない画素が、順次注目画素とされて、ステップＳ３３０２乃至Ｓ３３０４の処理が繰り返される。
【２０４０】
そして、全画素の処理が終了すると（ステップＳ３３０５において、全画素の処理が終了されたと判定すると）、出力画素値演算部３３０４は、ステップＳ３３０６において、画像を出力する。その後、画像の生成の処理は終了となる。
【２０４１】
このように、上述した式（２０４）において、その積分範囲は任意に設定可能であるので、３次元再積分手法においては、この積分範囲を適宜変えることで、元の画素（センサ２（図２５９）からの入力画像の画素）に対して任意の倍率の解像度の画素を劣化することなく創造することが可能になる。
【２０４２】
即ち、３次元再積分手法においては、時間方向の積分範囲を適宜変えることで、時間解像度の創造が可能になる。また、空間方向の積分範囲を適宜変えることで、空間解像度の創造が可能になる。さらに、時間方向と空間方向の積分範囲のそれぞれを適宜変えることで、時間解像度と空間解像度の両方の創造が可能になる。
【２０４３】
具体的には、３次元再積分手法においては、２次元や１次元に落とすときの近似がないので精度の高い処理が可能になる。また、斜め方向の動きも２次元に縮退することなく処理することが可能になる。さらに、２次元に縮退していないので各次元の加工が可能になる。例えば、２次元再積分手法において、空間方向（Ｘ方向とＹ方向）に縮退している場合には時間方向であるｔ方向の加工ができなくなってしまう。これに対して、３次元再積分手法においては、時空間方向のいずれの加工も可能になる。
【２０４４】
なお、上述したように、時間解像度と空間解像度のうちのいずれか一方の創造は、１次元再積分手法でも可能であるが、両方の解像度の創造は、１次元再積分手法では原理上不可能であり、２次元以上の再積分を行うことではじめて可能になる。即ち、上述した２次元再積分手法と３次元再積分手法ではじめて、両方の解像度の創造が可能になる。
【２０４５】
また、３次元再積分手法は、１次元や２次元ではなく３次元の積分効果を考慮しているので、より実世界１（図２５９）の光信号に近い画像を生成することも可能になる。
【２０４６】
換言すると、３次元再積分似手法においては、例えば、図２５９（図３）の実世界推定部１０２は、それぞれ時空間積分効果を有する、センサ２の複数の検出素子により実世界１の光信号が射影され、実世界１の光信号の定常性の一部が欠落した、検出素子により射影された画素値を有する複数の画素からなる入力画像の、時空間方向のうち少なくとも１次元方向の位置に対応する画素の画素値が、少なくとも１次元方向の積分効果により取得された画素値であるとして、実世界の光信号を表す光信号関数Fを所定の近似関数ｆで近似することで、光信号関数Fを推定することが前提とされる。
【２０４７】
さらに、例えば、図２５９（図３）のデータ定常性検出部１０１が、入力画像のデータの定常性を検出した場合、実世界推定部１０２は、データ定常性検出部１０１により検出されたデータの定常性に対応して、画像データの時空間方向のうち少なくとも１次元方向の位置に対応する画素の画素値が、少なくとも１次元方向の積分効果により取得された画素値であるとして、光信号関数Fを近似関数ｆで近似することで、光信号関数Fを推定することが前提とされる。
【２０４８】
詳細には、例えば、実世界推定部１０２は、定常性検出部１０１により検出されたデータの定常性に対応する線からの少なくとも１次元方向に沿った距離に対応する画素の画素値が、少なくとも１次元方向の積分効果により取得された画素値であるとして、光信号関数Fを近似関数で近似することで、光信号関数を推定することが前提とされる。
【２０４９】
３次元再積分手法においては、例えば、図２５９（図３）の画像生成部１０３（構成は、図２７９）が、実世界推定部１０２により推定された光信号関数F、即ち、近似関数ｆを、少なくとも１次元方向の所望の単位で積分する（例えば、上述した式（２０１）の右辺を演算する）ことにより所望の大きさの画素に対応する画素値を生成する。
【２０５０】
従って、３次元再積分手法は、従来の画像生成手法や、上述した１次元または２次元再積分手法に比較して、より実世界１（図２５９）の光信号に近い画像を生成することも可能になる。
【２０５１】
次に、図２８１を参照して、実世界推定部１０２より入力される実世界推定情報が、実世界を近似的に表現する近似関数f(x)上の、各画素の微分値、または、傾きの情報である場合、各画素の微分値、または、傾きに基づいて、新たに画素を生成し、画像を出力する画像生成部１０３について説明する。
【２０５２】
尚、ここでいう微分値は、現実世界を近似的に表現する近似関数f(x)を求めた後、その近似関数f(x)から得られる1次微分式f(x)'（近似関数がフレーム方向の場合、近似関数f(t)から得られる1次微分式f(t)'）を用いて、所定の位置で得られる値のことである。また、ここでいう傾きは、上述の近似関数f(x)（または、f(t)）を求めることなく、所定の位置における周辺画素の画素値から直接得られる近似関数f(x)上の所定の位置の傾きのことを示している。しかしながら、微分値は、近似関数f(x)の所定の位置での傾きなので、いずれも、現実世界を近似的に記述する近似関数f(x)上の所定の位置における傾きである。そこで、実世界推定部１０２より入力される実世界推定情報としての微分値と傾きについては、図２８１、および、図２８５の画像生成部１０３の説明においては、統一して近似関数f(x)（または、f(t)）上の傾きと称する。
【２０５３】
傾き取得部３４０１は、実世界推定部１０２より入力される実世界を近似的に表現する近似関数f(x)についての、各画素の傾きの情報と、対応する画素の画素値、および、定常性の方向の傾きを取得して、外挿補間部３４０２に出力する。
【２０５４】
外挿補間部３４０２は、傾き取得部３４０１より入力された各画素の近似関数f(x)上の傾きと、対応する画素の画素値、および、定常性の方向の傾きに基づいて、外挿補間により、入力画像よりも所定の倍率の高密度の画素を生成し、出力画像として出力する。
【２０５５】
次に、図２８２のフローチャートを参照して、図２８１の画像生成部１０３による画像の生成の処理について説明する。
【２０５６】
ステップＳ３４０１において、傾き取得部３４０１は、実世界推定部１０２より入力されてくる、各画素の近似関数f(x)上の傾き（微分値）、位置、画素値、および、定常性の方向の傾きの情報を実世界推定情報として取得する。
【２０５７】
このとき、例えば、入力画像に対して空間方向Ｘ、および、空間方向Ｙについてそれぞれ２倍（合計４倍）の密度の画素からなる画像を生成する場合、実世界推定部１０２からは、図２８３で示されるような画素Ｐinに対して、傾きf(Xin)'（画素Pinの中央位置における傾き），f(Xin−Cx(−0.25))'（画素PinからＹ方向に２倍密度の画素が生成されるときの画素Paの中央位置の傾き），f(Xin−Cx(0.25))' （画素PinからＹ方向に２倍密度の画素が生成されるときの画素Pｂの中央位置の傾き）、画素Pinの位置、画素値、および、定常性の方向の傾きＧ_fの情報が入力される。
【２０５８】
ステップＳ３４０２において、傾き取得部３４０１は、入力された実世界推定情報のうち、対応する注目画素の情報を選択し、外挿補間部３４０２に出力する。
【２０５９】
ステップＳ３４０３において、外挿補間部３４０２は、入力された画素の位置情報と定常性の方向の傾きＧ_fからシフト量を求める。
【２０６０】
ここで、シフト量Cx(ty)は、定常性の傾きがＧ_fで示されるとき、Cx(ty)＝ty／Ｇ_fで定義される。このシフト量Cx(ty)は、空間方向Ｙ＝0の位置上で定義される近似関数f(x)が、空間方向Ｙ=tyの位置における、空間方向Ｘに対するずれ幅を示すものである。従って、例えば、空間方向Ｙ＝0の位置上で近似関数がf(x)として定義されている場合、この近似関数f(x)は、空間方向Ｙ=tyにおいては、空間方向ＸについてCx(ty)だけずれた関数となるので、近似関数は、f(x−Cx(ty))（＝f(x−ty／Ｇ_f)）で定義されることになる。
【２０６１】
例えば、図２８３で示されるような画素Ｐinの場合、図中の１画素（図中の1画素の大きさは、水平方向、および、垂直方向ともに１であるものとする）を垂直方向に２分割するとき（垂直方向に倍密度の画素を生成するとき）、外挿補間部３４０２は、求めようとする画素Pa，Pbのシフト量を求める。すなわち、今の場合、画素Pa，Pbは、画素Pinからみて、空間方向Ｙについて、それぞれ−0.25，0.25だけシフトしているので、画素Pa，Pbのシフト量は、それぞれCx（−0.25），Cx（0.25）となる。尚、図２８３中において、画素Pinは、（Xin，Yin）を略重心位置とする正方形であり、画素Pa，Pbは、（Xin，Yin+0.25）、（Xin，Yin−0.25）をそれぞれ略重心位置とする図中水平方向に長い長方形である。
【２０６２】
ステップＳ３４０４において、外挿補間部３４０２は、ステップＳ３４０３の処理で求められたシフト量Cx、実世界推定情報として取得された画素Pinの近似関数f(x)上の注目画素上での傾きf(Xin)'、および、画素Pinの画素値に基づいて、以下の式（２０６），式（２０７）により外挿補間を用いて画素Pa，Pbの画素値を求める。
【２０６３】

【２０６４】

【２０６５】
以上の式（２０６），式（２０７）において、Pa，Pb，Ｐinは、画素Pa，Pb，Ｐinの画素値を示す。
【２０６６】
すなわち、図２８４で示されるように、注目画素Pinにおける傾きf(Xin)'に、X方向の移動距離、すなわち、シフト量を乗じることにより画素値の変化量を設定し、注目画素の画素値を基準として、新たに生成する画素の画素値を設定する。
【２０６７】
ステップＳ３４０５において、外挿補間部３４０２は、所定の解像度の画素が得られたか否かを判定する。例えば、所定の解像度が入力画像の画素に対して、垂直方向に２倍の密度の画素であれば、以上の処理により、外挿補間部３４０２は、所定の解像度の画像が得られたと判定することになるが、例えば、入力画像の画素に対して、４倍の密度（水平方向に２倍×垂直方向に２倍）の画素が所望とされていた場合、以上の処理では、所定の解像度の画素が得られていないことになる。そこで、４倍の密度の画像が所望とされていた画像である場合、外挿補間部３４０２は、所定の解像度の画素が得られていないと判定し、その処理は、ステップＳ３４０３に戻る。
【２０６８】
ステップＳ３４０３において、外挿補間部３４０２は、２回目の処理で、求めようとする画素Ｐ０１，Ｐ０２，Ｐ０３，およびＰ０４（注目画素Pinに対して４倍となる密度の画素）を生成しようとする画素の中心位置からのシフト量をそれぞれ求める。すなわち、今の場合、画素Ｐ０１，Ｐ０２は、画素Paから得られるものなので、画素Paからのシフト量がそれぞれ求められることになる。ここで、画素Ｐ０１，Ｐ０２は、画素Paからみて空間方向Ｘについて、それぞれ−0.25，0.25だけシフトしているので、その値そのものがシフト量となる（空間方向Ｘについてシフトしているため）。同様にして、画素Ｐ０３，Ｐ０４は、画素Pbからみて空間方向Ｘについて、それぞれ−0.25，0.25だけシフトしているので、その値そのものがシフト量となる。尚、図２８３において、画素Ｐ０１，Ｐ０２，Ｐ０３，Ｐ０４は、図中の４個のバツ印の位置を重心位置とする正方形であり、各辺の長さは、画素Pinが、それぞれ１であるので、画素Ｐ０１，Ｐ０２，Ｐ０３，Ｐ０４は、それぞれ略０．５となる。
【２０６９】
ステップＳ３４０４において、外挿補間部３４０２は、ステップＳ３４０３の処理で求められたシフト量Cx、実世界推定情報として取得された画素Pa，Pbの近似関数f(x)上の所定の位置での傾きf(Xin−Cx(−0.25))'，f(Xin−Cx(0.25))'、および、上述の処理で求められた画素Pa，Pbの画素値に基づいて、外挿補間により以下の式（２０８）乃至式（２１１）により画素Ｐ０１，Ｐ０２，Ｐ０３，Ｐ０４の画素値を求め、図示せぬメモリに記憶させる。
【２０７０】

【２０７１】

【２０７２】

【２０７３】

【２０７４】
上述の式（２０８）乃至式（２１１）において、Ｐ０１乃至Ｐ０４は、画素Ｐ０１乃至Ｐ０４のそれぞれの画素値を示す。
【２０７５】
ステップＳ３４０５において、外挿補間部３４０２は、所定の解像度の画素が得られたか否かを判定し、今の場合、所望とされていた４倍の密度の画素が得られたことになるので、外挿補間部３４０２は、所定の解像度の画素が得られたと判定し、その処理は、ステップＳ３４０６に進む。
【２０７６】
ステップＳ３４０６において、傾き取得部３４０１は、全ての画素で処理がなされたか否かを判定し、まだ、全ての画素について処理がなされていないと判定した場合、その処理は、ステップＳ３４０２に戻り、それ以降の処理が繰り返される。
【２０７７】
ステップＳ３４０６において、傾き取得部３４０１は、全ての画素について処理がなされたと判定した場合、ステップＳ３４０７において、外挿補間部３４０２は、図示せぬメモリに記憶されている、生成された画素からなる画像を出力する。
【２０７８】
すなわち、図２８４で示されるように、近似関数f(x)上の傾きf(x)'を用いて、その傾きを求めた注目画素から空間方向Ｘに離れた距離に応じて、新たな画素の画素値が外挿補間により求められる。
【２０７９】
尚、以上の例においては、４倍密度の画素を演算する際の傾き（微分値）を例として説明してきたが、さらに多くの位置における、傾きの情報が、実世界推定情報として得られれば、上述と同様の手法で、それ以上の空間方向の密度の画素を演算する事も可能である。
【２０８０】
また、以上の例については、倍密度の画素値を求める例について説明してきたが、近似関数f(x)は連続関数であるので、倍密度以外の画素値についても必要な傾き（微分値）の情報が得られれば、さらに高密度の画素からなる画像を生成することが可能となる。
【２０８１】
以上によれば、実世界推定情報として供給される入力画像の各画素の実世界を空間方向に近似する近似関数f(x)の傾き（または、微分値）f(x)'の情報に基づいて、入力画像よりも高解像度の画像の画素を生成することが可能となる。
【２０８２】
次に、図２８５を参照して、実世界推定部１０２より入力される実世界推定情報が、実世界を近似的に表現するフレーム方向（時間方向）の関数f(t)上の、各画素の微分値、または、傾きの情報である場合、各画素の微分値、または、傾きに基づいて、新たに画素を生成し、画像を出力する画像生成部１０３について説明する。
【２０８３】
傾き取得部３４１１は、実世界推定部１０２より入力される実世界を近似的に表現する近似関数f(t)上の、各画素の位置における傾きの情報と、対応する画素の画素値、および、定常性の動きを取得して、外挿補間部３４１２に出力する。
【２０８４】
外挿補間部３４１２は、傾き取得部３４１１より入力された各画素の近似関数f(t)上の傾きと、対応する画素の画素値、および、定常性の動きに基づいて、外挿補間により、入力画像よりも所定の倍率の高密度の画素を生成し、出力画像として出力する。
【２０８５】
次に、図２８６のフローチャートを参照して、図２８５の画像生成部１０３による画像の生成の処理について説明する。
【２０８６】
ステップＳ３４２１において、傾き取得部３４１１は、実世界推定部１０２より入力されてくる、各画素の近似関数f(t)上の傾き（微分値）、位置、画素値、および、定常性の動きの情報を実世界推定情報として取得する。
【２０８７】
このとき、例えば、入力画像に対して空間方向、および、フレーム方向にそれぞれ２倍（合計４倍）の密度の画素からなる画像を生成する場合、実世界推定部１０２からは、図２８７で示されるような画素Ｐinに対して、傾きf(Tin)'（画素Pinの中央位置における傾き），f(Tin−Ct(−0.25))'（画素PinからＹ方向に２倍密度の画素が生成されるときの画素Patの中央位置の傾き），f(Tin−Ct(0.25))'（画素PinからＹ方向に２倍密度の画素が生成されるときの画素Pｂtの中央位置の傾き）、画素Pinの位置、画素値、および、定常性の動き（動きベクトル）の情報が入力される。
【２０８８】
ステップＳ３４２２において、傾き取得部３４１１は、入力された実世界推定情報のうち、対応する注目画素の情報を選択し、外挿補間部３４１２に出力する。
【２０８９】
ステップＳ３４２３において、外挿補間部３４１２は、入力された画素の位置情報と定常性の方向の傾きからシフト量を求める。
【２０９０】
ここで、シフト量Ct(ty)は、定常性の動き（フレーム方向と空間方向からなる面に対する傾き）がＶ_fで示されるとき、Ct(ty)＝ty／Ｖ_fで定義される。このシフト量Ct(ty)は、空間方向Ｙ＝0の位置上で定義される近似関数f(t)が、空間方向Ｙ=tyの位置における、フレーム方向Ｔに対するずれ幅を示すものである。従って、例えば、空間方向Ｙ＝0の位置上で近似関数がf(t)として定義されている場合、この近似関数f(t)は、空間方向Ｙ=tyにおいては、空間方向ＴについてCt(ty)だけずれた関数となるので、近似関数は、f(t−Ct(ty))（＝f(t−ty／Ｖ_f)）で定義されることになる。
【２０９１】
例えば、図２８７で示されるような画素Ｐinの場合、図中の１画素（図中の1画素の大きさは、フレーム方向、および、空間方向ともに１であるものとする）を空間方向に２分割するとき（空間方向に倍密度の画素を生成するとき）、外挿補間部３４１２は、求めようとする画素Pat，Pbｔのシフト量を求める。すなわち、今の場合、画素Pat，Pbtは、画素Pinからみて、空間方向Ｙについて、それぞれ−0.25，0.25だけシフトしているので、画素Pat，Pbtのシフト量は、それぞれCt（−0.25），Ct（0.25）となる。尚、図２８７中において、画素Pinは、（Xin，Yin）を略重心位置とする正方形であり、画素Pat，Pbtは、（Xin，Yin+0.25）、（Xin，Yin−0.25）をそれぞれ略重心位置とする図中水平方向に長い長方形である。
【２０９２】
ステップＳ３４２４において、外挿補間部３４１２は、ステップＳ３４２３の処理で求められたシフト量、実世界推定情報として取得された画素Pinの近似関数f(t)上の注目画素上での傾きf(Tin)'、および、画素Pinの画素値に基づいて、外挿補間により以下の式（２１２），式（２１３）により画素Pat，Pbtの画素値を求める。
【２０９３】

【２０９４】

【２０９５】
以上の式（２１２），式（２１３）において、Pat，Pbt，Ｐinは、画素Pat，Pbt，Ｐinの画素値を示す。
【２０９６】
すなわち、図２８８で示されるように、注目画素Pinにおける傾きf(Xin)'に、X方向の移動距離、すなわち、シフト量を乗じることにより画素値の変化量を設定し、注目画素の画素値を基準として、新たに生成する画素の画素値を設定する。
【２０９７】
ステップＳ３４２５において、外挿補間部３４１２は、所定の解像度の画素が得られたか否かを判定する。例えば、所定の解像度が入力画像の画素に対して、空間方向に２倍の密度の画素であれば、以上の処理により、外挿補間部３４０２は、所定の解像度の画像が得られたと判定することになるが、例えば、入力画像の画素に対して、４倍の密度（フレーム方向に２倍×空間方向に２倍）の画素が所望とされていた場合、以上の処理では、所定の解像度の画素が得られていないことになる。そこで、４倍の密度の画像が所望とされていた画像である場合、外挿補間部３４１２は、所定の解像度の画素が得られていないと判定し、その処理は、ステップＳ３４２３に戻る。
【２０９８】
ステップＳ３４２３において、外挿補間部３４１２は、２回目の処理で、求めようとする画素Ｐ０１ｔ，Ｐ０２ｔ，Ｐ０３ｔ，およびＰ０４ｔ（注目画素Pinに対して４倍となる密度の画素）を生成しようとする画素の中心位置からのシフト量をそれぞれ求める。すなわち、今の場合、画素Ｐ０１ｔ，Ｐ０２ｔは、画素Patから得られるものなので、画素Patからのシフト量がそれぞれ求められることになる。ここで、画素Ｐ０１ｔ，０２ｔは、画素Patからみてフレーム方向Ｔについて、それぞれ−0.25，0.25だけシフトしているので、その値そのものがシフト量となる（空間方向Ｘについてシフトしているため）。同様にして、画素Ｐ０３ｔ，Ｐ０４ｔは、画素Pbtからみてフレーム方向Ｔについて、それぞれ−0.25，0.25だけシフトしているので、その値そのものがシフト量となる。尚、図２８７において、画素Ｐ０１ｔ，Ｐ０２ｔ，Ｐ０３ｔ，Ｐ０４ｔは、図中の４個のバツ印の位置を重心位置とする正方形であり、各辺の長さは、画素Pinが、それぞれ１であるので、画素Ｐ０１ｔ，Ｐ０２ｔ，Ｐ０３ｔ，Ｐ０４ｔは、それぞれ略０．５となる。
【２０９９】
ステップＳ３４２４において、外挿補間部３４１２は、ステップＳ３４２３の処理で求められたシフト量Ct、実世界推定情報として取得された画素Pａｔ，Pbtの近似関数f(t)上の所定の位置での傾きf(Tin−Ct(−0.25))'，f(Tin−Ct(0.25))'、および、上述の処理で求められた画素Pat，Pbtの画素値に基づいて、外挿補間により以下の式（２１４）乃至式（２１７）により画素Ｐ０１ｔ，Ｐ０２ｔ，Ｐ０３ｔ，Ｐ０４ｔの画素値を求め、図示せぬメモリに記憶させる。
【２１００】

【２１０１】

【２１０２】

【２１０３】

【２１０４】
上述の式（２０８）乃至式（２１１）において、Ｐ０１ｔ乃至Ｐ０４ｔは、画素Ｐ０１ｔ乃至Ｐ０４ｔのそれぞれの画素値を示す。
【２１０５】
ステップＳ３４２５において、外挿補間部３４１２は、所定の解像度の画素が得られたか否かを判定し、今の場合、所望とされていた４倍密度の画素が得られたことになるので、外挿補間部３４１２は、所定の解像度の画素が得られたと判定し、その処理は、ステップＳ３４２６に進む。
【２１０６】
ステップＳ３４２６において、傾き取得部３４１１は、全ての画素で処理がなされたか否かを判定し、まだ、全ての画素について処理がなされていないと判定した場合、その処理は、ステップＳ３４２２に戻り、それ以降の処理が繰り返される。
【２１０７】
ステップＳ３４２６において、傾き取得部３４１１は、全ての画素について処理がなされたと判定された場合、ステップＳ３４２７において、外挿補間部３４１２は、図示せぬメモリに記憶されている、生成された画素からなる画像を出力する。
【２１０８】
すなわち、図２８８で示されるように、近似関数f(t)上の傾きf(t)'を用いて、その傾きを求めた注目画素からフレーム方向Ｔに離れたフレーム数に応じて、新たな画素の画素値が外挿補間により求められる。
【２１０９】
尚、以上の例においては、４倍密度の画素を演算する際の傾き（微分値）を例として説明してきたが、さらに多くの位置における、傾きの情報が、実世界推定情報として得られれば、上述と同様の手法で、それ以上のフレーム方向の密度の画素を演算する事も可能である。
【２１１０】
また、以上の例については、倍密度の画素値を求める例について説明してきたが、近似関数f(t)は連続関数であるので、倍密度以外の画素値についても必要な傾き（微分値）の情報が得られれば、さらに高密度の画素からなる画像を生成することが可能となる。
【２１１１】
以上の処理により、実世界推定情報として供給される入力画像の各画素の実世界をフレーム方向に近似する近似関数f(t)の傾き（または、微分値）f(t)'の情報に基づいて、入力画像よりも高解像度の画像の画素をフレーム方向にも生成することが可能となる。
【２１１２】
以上によれば、それぞれ時空間積分効果を有する、センサの複数の検出素子により現実世界の光信号が射影され、現実世界の光信号の定常性の一部が欠落した、検出素子により射影された画素値を有する複数の画素からなる画像データにおけるデータの定常性を検出し、検出された定常性に対応して、画像データ内の注目画素に対して時空間方向のうち１次元方向にシフトした位置の複数画素の画素値の傾きを、現実世界の光信号に対応する関数として推定し、注目画素の中心位置から１次元方向にシフトした位置を中心とする傾きを有する直線の前記注目画素内に配される両端の値を注目画素よりも高解像度の画素の画素値として生成するようにしたので、入力画像よりも時空間方向に高解像度の画素を生成することが可能となる。
【２１１３】
次に、図２８９乃至図３１４を参照して、画像生成部１０３（図３）の実施の形態のさらに他の例について説明する。
【２１１４】
図２８９は、この例の実施の形態が適用される画像生成部１０３の構成例を表している。
【２１１５】
図２８９で示される画像生成部１０３には、従来のクラス分類適応処理を実行するクラス分類適応処理部３５０１、クラス分類適応処理に対する補正の処理（処理の詳細については後述する）を実行するクラス分類適応処理補正部３５０２、および、クラス分類適応処理部３５０１より出力された画像と、クラス分類適応処理補正部３５０２より出力された画像を加算し、加算した画像を出力画像として外部に出力する加算部３５０３が設けられている。
【２１１６】
なお、以下、クラス分類適応処理部３５０１より出力される画像を、予測画像と称し、クラス分類適応処理補正部３５０２より出力される画像を、補正画像、または、差分予測画像と称する。ただし、予測画像と差分予測画像の名称の由来についてはそれぞれ後述する。
【２１１７】
また、この例の実施の形態においては、クラス分類適応処理は、例えば、入力画像の空間解像度を向上する処理であるとする。即ち、標準解像度の画像である入力画像を、高解像度の画像である予測画像に変換する処理であるとする。
【２１１８】
なお、以下、標準解像度の画像を、適宜、ＳＤ(Standard Definition)画像と称する。また、ＳＤ画像を構成する画素を、適宜、ＳＤ画素と称する。
【２１１９】
これに対して、以下、高解像度の画像を、適宜、ＨＤ(High Definition)画像と称する。また、ＨＤ画像を構成する画素を、適宜、ＨＤ画素と称する。
【２１２０】
具体的には、この例の実施の形態においては、クラス分類適応処理とは、次のような処理である。
【２１２１】
即ち、はじめに、入力画像（ＳＤ画像）の注目画素（ＳＤ画素）における、予測画像（ＨＤ画像）のＨＤ画素を求めるために、注目画素を含めた、その付近に配置されるＳＤ画素（以下、このようなＳＤ画素を、クラスタップと称する）の特徴量のそれぞれを求めて、その特徴量毎に予め分類されたクラスを特定する（クラスタップ群のクラスコードを特定する）
【２１２２】
そして、予め設定された複数の係数群（各係数群のそれぞれは、所定の１つのクラスコードに対応している）のうちの、特定されたクラスコードに対応する係数群を構成する各係数と、注目画素を含めた、その付近のＳＤ画素（以下、このような入力画像のＳＤ画素を、予測タップと称する。なお、予測タップは、クラスタップと同じこともある）とを用いて積和演算を実行することで、入力画像（ＳＤ画像）の注目画素（ＳＤ画素）における、予測画像（ＨＤ画像）のＨＤ画素を求めるものである。
【２１２３】
従って、この例の実施の形態においては、入力画像（ＳＤ画像）は、クラス分類適応処理部３５０１において、従来のクラス分類適応処理が施されて予測画像（ＨＤ画像）となり、さらに、加算部３５０３において、その予測画像が、クラス分類適応処理補正部３５０２からの補正画像で補正されて（補正画像が加算されて）出力画像（ＨＤ画像）となる。
【２１２４】
即ち、この例の実施の形態は、定常性の観点からは、定常性を用いて処理を行う画像処理装置（図３）のうちの画像生成部１０３の１つの実施の形態であると言える。これに対して、クラス分類適応処理の観点からは、センサ２とクラス分類適応処理部３５０１から構成される従来の画像処理装置に対して、クラス分類適応処理の補正を行うために、データ定常性検出部１０１、実世界推定部１０２、クラス分類適応処理補正部３５０２、および加算部３５０３をさらに付加した画像処理装置の実施の形態であるとも言える。
【２１２５】
従って、以下、この例の実施の形態を、上述した再積分手法に対して、クラス分類適応処理補正手法と称する。
【２１２６】
クラス分類適応処理補正手法を利用する画像生成部１０３についてさらに詳しく説明する。
【２１２７】
図２８９において、画像である、実世界１の信号（光の強度の分布）がセンサ２に入射されると、センサ２からは入力画像が出力される。この入力画像は、データ定常性検出部１０１に入力されるとともに、画像生成部１０３のクラス分類適応処理部３５０１に入力される。
【２１２８】
クラス分類適応処理部３５０１は、入力画像に対して、従来のクラス分類適応処理を施して予測画像を生成し、加算部３５０３に出力する。
【２１２９】
このように、クラス分類適応処理部３５０１は、センサ２からの入力画像（画像データ）を基準とするとともに、入力画像そのものを処理の対象としている。即ち、センサ２からの入力画像は、上述した積分効果により実世界１の信号とは異なるもの（歪んだもの）となっているにも関わらず、クラス分類適応処理部３５０１は、その実世界１の信号とは異なる入力画像を正として処理を行っている。
【２１３０】
その結果、センサ２から出力された段階で実世界１のディテールがつぶれてしまった入力画像（ＳＤ画像）は、クラス分類適応処理によりたとえＨＤ画像とされても、元のディテールが完全に復元されないことがあるという課題が発生してしまう。
【２１３１】
そこで、この課題を解決するために、クラス分類適応処理補正手法においては、画像生成部１０３のクラス分類適応処理補正部３５０２が、センサ２からの入力画像ではなく、センサ２に入射される前の元の画像（所定の定常性を有する実世界１の信号）を推定する情報（実世界推定情報）を基準とするとともに、その実世界推定情報を処理の対象として、クラス分類適応処理部３５０１より出力された予測画像を補正するための補正画像を生成する。
【２１３２】
この実世界推定情報は、データ定常性検出部１０１と実世界推定部１０２により生成される。
【２１３３】
即ち、データ定常性検出部１０１は、センサ２からの入力画像に含まれるデータの定常性（センサ２に入射された実世界１の信号が有する定常性に対応するデータの定常性）を検出し、その検出結果をデータ定常性情報として実世界推定部１０２に出力する。
【２１３４】
なお、データ定常性情報は、図２８９の例では角度とされているが、角度に限定されず、上述した様々な情報が使用可能である。
【２１３５】
実世界推定部１０２は、入力された角度（データ定常性情報）に基づいて、実世界推定情報を生成し、画像生成部１０３のクラス分類適応処理補正部３５０２に出力する。
【２１３６】
なお、実世界推定情報は、図２８９の例では特徴量画像（その詳細は後述する）とされているが、特徴量画像に限定されず、上述した様々な情報が使用可能である。
【２１３７】
クラス分類適応処理補正部３５０２は、入力された特徴量画像（実世界推定情報）に基づいて補正画像を生成し、加算部３５０３に出力する。
【２１３８】
加算部３５０３は、クラス分類適応処理部３５０１より出力された予測画像と、クラス分類適応処理補正部３５０２より出力された補正画像を加算し、加算した画像（ＨＤ画像）を出力画像として外部に出力する。
【２１３９】
このようにして出力された出力画像は、予測画像よりもより実世界１の信号（画像）に近い画像となる。即ち、クラス分類適応処理補正手法は、上述した課題を解決することが可能な手法である。
【２１４０】
さらに、図２８９のように信号処理装置（画像処理装置）４を構成することで、１フレームの全体的に処理をアプライすることが可能になる。即ち、後述する併用手法を利用する信号処理装置（例えば、後述する図３１５）等では、画素の領域特定をした上で出力画像を生成する必要があるが、図２８９の信号処理装置４は、この領域特定が不要になるという効果を奏することが可能になる。
【２１４１】
次に、画像生成部１０３のうちのクラス分類適応処理部３５０１の詳細について説明する。
【２１４２】
図２９０は、クラス分類適応処理部３５０１の構成例を表している。
【２１４３】
図２９０において、センサ２より入力された入力画像（ＳＤ画像）は、領域抽出部３５１１と領域抽出部３５１５にそれぞれ供給される。領域抽出部３５１１は、供給された入力画像から、クラス分類を行うために必要なクラスタップ（注目画素（ＳＤ画素）を含む予め設定された位置に存在するＳＤ画素）を抽出し、パターン検出部３５１２に出力する。パターン検出部３５１２は、入力されたクラスタップに基づいて入力画像のパターンを検出する。
【２１４４】
クラスコード決定部３５１３は、パターン検出部３５１２で検出されたパターンに基づいてクラスコードを決定し、係数メモリ３５１４、および、領域抽出部３５１５に出力する。係数メモリ３５１４は、学習により予め求められたクラスコード毎の係数を記憶しており、クラスコード決定部３５１３より入力されたクラスコードに対応する係数を読み出し、予測演算部３５１６に出力する。
【２１４５】
なお、係数メモリ３５１４の係数の学習処理については、図２９２のクラス分類適応処理用学習部のブロック図を参照して後述する。
【２１４６】
また、係数メモリ３５１４に記憶される係数は、後述するように、予測画像（ＨＤ画像）を生成するときに使用される係数である。従って、以下、係数メモリ３５１４に記憶される係数を、他の係数と区別するために、予測係数と称する。
【２１４７】
領域抽出部３５１５は、クラスコード決定部３５１３より入力されたクラスコードに基づいて、センサ２より入力された入力画像（ＳＤ画像）から、予測画像（ＨＤ画像）を予測生成するのに必要な予測タップ（注目画素を含む予め設定された位置に存在するＳＤ画素）をクラスコードに対応して抽出し、予測演算部３５１６に出力する。
【２１４８】
予測演算部３５１６は、領域抽出部３５１５より入力された予測タップと、係数メモリ３５１４より入力された予測係数とを用いて積和演算を実行し、入力画像（ＳＤ画像）の注目画素（ＳＤ画素）における、予測画像（ＨＤ画像）のＨＤ画素を生成し、加算部３５０３に出力する。
【２１４９】
より詳細には、係数メモリ３５１４は、クラスコード決定部３５１３より供給されるクラスコードに対応する予測係数を、予測演算部３５１６に出力する。予測演算部３５１６は、領域抽出部３５１５より供給される入力画像の所定の画素位置の画素値から抽出された予測タップと、係数メモリ３５１４より供給された予測係数とを用いて、次の式（２１８）で示される積和演算を実行することにより、予測画像（ＨＤ画像）のＨＤ画素を求める（予測推定する）。
【２１５０】
【数１６８】

・・・（２１８）
【２１５１】
式（２１８）において、q'は、予測画像（ＨＤ画像）のＨＤ画素を表している。c_i（iは、１乃至ｎの整数値）のそれぞれは、予測タップ（ＳＤ画素）のそれぞれを表している。また、d _iのそれぞれは、予測係数のそれぞれを表している。
【２１５２】
このように、クラス分類適応処理部３５０１は、ＳＤ画像（入力画像）から、それに対するＨＤ画像を予測推定するので、ここでは、クラス分類適応処理部３５０１から出力されるＨＤ画像を、予測画像と称している。
【２１５３】
図２９１は、このようなクラス分類適応処理部３５０１の係数メモリ３５１４に記憶される予測係数（式（２１８）におけるd _i）を決定するための学習装置（予測係数の算出装置）を表している。
【２１５４】
なお、クラス分類適応処理補正手法においては、係数メモリ３５１４の他に、クラス分類適応処理補正部３５０２の係数メモリ（後述する図２９９で示される補正係数メモリ３５５４）が設けられている。従って、図２９１で示されるように、クラス分類適応処理手法における学習装置３５０４には、クラス分類適応処理部３５０１の係数メモリ３５１４に記憶される予測係数（式（２１５）におけるd _i）を決定するための学習部３５２１（以下、クラス分類適応処理用学習部３５２１と称する）の他に、クラス分類適応処理補正部３５０２の補正係数メモリ３５５４に記憶される係数を決定するための学習部３５６１（以下、クラス分類適応処理補正用学習部３５６１と称する）が設けられている。
【２１５５】
従って、以下、クラス分類適応処理用学習部３５２１における教師画像を第１の教師画像と称するのに対して、クラス分類適応処理補正用学習部３５６１における教師画像を第２の教師画像と称する。同様に、以下、クラス分類適応処理用学習部３５２１における生徒画像を第１の生徒画像と称するのに対して、クラス分類適応処理補正用学習部３５６１における生徒画像を第２の生徒画像と称する。
【２１５６】
なお、クラス分類適応処理補正用学習部３５６１については後述する。
【２１５７】
図２９２は、クラス分類適応処理用学習部３５２１の詳細な構成例を表している。
【２１５８】
図２９２において、所定の画像が、第１の教師画像（ＨＤ画像）としてダウンコンバート部３５３１と正規方程式生成部３５３６のそれぞれに入力されるとともに、クラス分類適応処理補正用学習部３５６１（図２９１）に入力される。
【２１５９】
ダウンコンバート部３５３１は、入力された第１の教師画像（ＨＤ画像）から、第１の教師画像よりも解像度の低い第１の生徒画像（ＳＤ画像）を生成し（第１の教師画像をダウンコンバートしたものを第１の生徒画像とし）、領域抽出部３５３２、領域抽出部３５３５、およびクラス分類適応処理補正用学習部３５６１（図２９１）のそれぞれに出力する。
【２１６０】
このように、クラス分類適応処理用学習部３５２１には、ダウンコンバート部３５３１が設けられているので、第１の教師画像（ＨＤ画像）は、上述したセンサ２（図２８９）からの入力画像よりも高解像度の画像である必要は無い。なぜならば、第１の教師画像がダウンコンバートされた（解像度が下げられた）第１の生徒画像をＳＤ画像とすれば、第１の生徒画像に対する第１の教師画像がＨＤ画像になるからである。従って、第１の教師画像は、例えば、センサ２からの入力画像そのものとされてもよい。
【２１６１】
領域抽出部３５３２は、供給された第１の生徒画像（ＳＤ画像）から、クラス分類を行うために必要なクラスタップ（ＳＤ画素）を抽出し、パターン検出部３５３３に出力する。パターン検出部３５３３は、入力されたクラスタップのパターンを検出し、その検出結果をクラスコード決定部３５３４に出力する。クラスコード決定部３５３４は、入力されたパターンに対応するクラスコードを決定し、そのクラスコードを領域抽出部３５３５、および、正規方程式生成部３５３６のそれぞれに出力する。
【２１６２】
領域抽出部３５３５は、クラスコード決定部３５３４より入力されたクラスコードに基づいて、ダウンコンバート部３５３１より入力された第１の生徒画像（ＳＤ画像）から予測タップ（ＳＤ画素）を抽出し、正規方程式生成部３５３６と予測演算部３５５８のそれぞれに出力する。
【２１６３】
なお、以上の領域抽出部３５３２、パターン検出部３５３３、クラスコード決定部３５３４、および領域抽出部３５３５のそれぞれは、図２９０のクラス分類適応処理部３５０１の領域抽出部３５１１、パターン検出部３５１２、クラスコード決定部３５１３、および、領域抽出部３５１５のそれぞれと、基本的に同様の構成と機能を有するものである。
【２１６４】
正規方程式生成部３５３６は、クラスコード決定部３５３４より入力された全てのクラスコードに対して、クラスコード毎に、領域抽出部３５３５より入力される第１の生徒画像（ＳＤ画像）の予測タップ（ＳＤ画素）と、第１の教師画像（ＨＤ画像）のＨＤ画素とから正規方程式を生成し、係数決定部３５３７に供給する。係数決定部３５３７は、正規方程式生成部３５３７より所定のクラスコードに対応する正規方程式が供給されてきたとき、その正規方程式より予測係数のそれぞれを演算し、係数メモリ３５１４にクラスコードと関連付けて記憶させるとともに、予測演算部３５３８に供給する。
【２１６５】
正規方程式生成部３５３６と、係数決定部３５３７についてさらに詳しく説明する。
【２１６６】
上述した式（２１８）において、学習前は予測係数d_iのそれぞれが未定係数である。学習は、クラスコード毎に複数の教師画像（ＨＤ画像）のＨＤ画素を入力することによって行う。所定のクラスコードに対応するＨＤ画素がｍ個存在し、ｍ個のＨＤ画素のそれぞれを、q_k（ｋは、１乃至ｍの整数値）と記述する場合、式（２１８）から、次の式（２１９）が設定される。
【２１６７】
【数１６９】

・・・（２１９）
【２１６８】
即ち、式（２１９）は、右辺の演算をすることで、所定のＨＤ画素q_kを予測推定することができることを表している。なお、式（２１９）において、e_kは誤差を表している。即ち、右辺の演算結果である予測画像（ＨＤ画像）のＨＤ画素q_k'が、実際のＨＤ画素q_kと厳密には一致せず、所定の誤差e_kを含む。
【２１６９】
そこで、式（２１９）において、例えば、誤差e_kの自乗和を最小にするような予測係数d_iが、学習により求まればよい。
【２１７０】
具体的には、例えば、ｍ＞ｎとなるように、ＨＤ画素q_kを学習により集めることができれば、最小自乗法によって予測係数d_iが一意に決定される。
【２１７１】
即ち、式（２１９）の右辺の予測係数d_iを最小自乗法で求める場合の正規方程式は、次の式（２２０）で表される。
【２１７２】
【数１７０】

・・・（２２０）
【２１７３】
従って、式（２２０）で示される正規方程式が生成されれば、その正規方程式を解くことで予測係数d_iが一意に決定されることになる。
【２１７４】
具体的には、式（２２０）で示される正規方程式の各行列のそれぞれを、次の式（２２１）乃至（２２３）のように定義すると、正規方程式は、次の式（２２４）のように表される。
【２１７５】
【数１７１】

・・・（２２１）
【２１７６】
【数１７２】

・・・（２２２）
【２１７７】
【数１７３】

・・・（２２３）
【２１７８】
【数１７４】

・・・（２２４）
【２１７９】
式（２２２）で示されるように、行列Ｄ_MATの各成分は、求めたい予測係数d_iである。従って、式（２２４）において、左辺の行列Ｃ_MATと右辺の行列Ｑ_MATが決定されれば、行列解法によって行列Ｄ_MAT（即ち、予測係数d_i）の算出が可能である。
【２１８０】
より具体的には、式（２２１）で示されるように、行列Ｃ_MATの各成分は、予測タップc_ikが既知であれば演算可能である。予測タップc_ikは、領域抽出部３５３５により抽出されるので、正規方程式生成部３５３６は、領域抽出部３５３５より供給されてくる予測タップc_ikのそれぞれを利用して行列Ｃ_MATの各成分を演算することができる。
【２１８１】
また、式（２２３）で示されるように、行列Ｑ_MATの各成分は、予測タップc_ikとＨＤ画素q_kが既知であれば演算可能である。予測タップc_ikは、行列Ｃ_MATの各成分に含まれるものと同一のものであり、また、ＨＤ画素q_kは、予測タップc_ikに含まれる注目画素（第１の生徒画像のＳＤ画素）に対する第１の教師画像のＨＤ画素である。従って、正規方程式生成部３５３６は、領域抽出部３５３５より供給された予測タップc_ikと、第１の教師画像を利用して行列Ｑ_MATの各成分を演算することができる。
【２１８２】
このようにして、正規方程式生成部３５３６は、クラスコード毎に、行列Ｃ_MATと行列Ｑ_MATの各成分を演算し、その演算結果をクラスコードに対応付けて係数決定部３５３７に供給する。
【２１８３】
係数決定部３５３７は、供給された所定のクラスコードに対応する正規方程式に基づいて、上述した式（２２４）の行列Ｄ_MATの各成分である予測係数d_iを演算する。
【２１８４】
具体的には、上述した式（２２４）の正規方程式は、次の式（２２５）のように変形できる。
【２１８５】
【数１７５】

・・・（２２５）
【２１８６】
式（２２５）において、左辺の行列Ｄ_MATの各成分が、求めたい予測係数d_iである。また、行列Ｃ_MATと行列Ｑ_MATのそれぞれの各成分は、正規方程式生成部３５３６より供給されるものである。従って、係数決定部３５３７は、正規方程式生成部３５３６より所定のクラスコードに対応する行列Ｃ_MATと行列Ｑ_MATのそれぞれの各成分が供給されてきたとき、式（２２５）の右辺の行列演算を行うことで行列Ｄ_MATを演算し、その演算結果（予測係数d_i）をクラスコードに対応付けて係数メモリ３５１４に記憶させるとともに、予測演算部３５３８に供給する。
【２１８７】
予測演算部３５３８は、領域抽出部３５３５より入力された予測タップと、係数決定部３５３７により決定された予測係数とを用いて積和演算を実行し、第１の生徒画像（ＳＤ画像）の注目画素（ＳＤ画素）における、予測画像（第１の教師画像を予測する画像）のＨＤ画素を生成し、それを学習用予測画像としてクラス分類適応処理補正用学習部３５６１（図２９１）に出力する。
【２１８８】
より詳細には、予測演算部３５３８は、領域抽出部３５３５より供給される第１の生徒画像の所定の画素位置の画素値から抽出された予測タップを、c_i（iは、１乃至ｎの整数値）とし、係数決定部３５３７より供給された予測係数を、d _iとして、上述した式（２１８）で示される積和演算を実行することにより、学習用予測画像（ＨＤ画像）のＨＤ画素q'を求める（第１の教師画像を予測推定する）。
【２１８９】
ここで、図２９３乃至図２９８を参照して、上述した従来のクラス分類適応処理（クラス分類適応処理部３５０１）が有する課題、即ち、図２８９において、センサ２から出力された段階で実世界１のディテールがつぶれてしまった入力画像（ＳＤ画像）は、クラス分類適応処理部３５０１によりたとえＨＤ画像（実世界１の信号を予測する予測画像）とされても、元のディテールが完全に復元されないことがあるという課題について説明する。
【２１９０】
図２９３は、クラス分類適応処理部３５０１の処理結果の例を表している。
【２１９１】
図２９３において、ＨＤ画像３５４１は、図中上下方向から、ほぼ５度時計方向に傾いた細線の画像が含まれる画像である。また、ＳＤ画像３５４２は、ＨＤ画像３５４１の２×２の画素（HD画素）からなるブロックに属する画素（HD画素）の画素値の平均値を、１つの画素（ＳＤ画素）の画素値として生成された画像である。即ち、ＳＤ画像３５４２は、ＨＤ画像３５４１がダウンコンバートされた（解像度が落とされた）画像である。
【２１９２】
換言すると、ＨＤ画像３５４１は、センサ２（図２８９）に入射される前の画像（実世界１（図２８９）の信号）を模した画像であるとする。この場合、ＳＤ画像３５４２は、ＨＤ画像３５４１に、センサ２の積分特性を模した、空間方向の積分を適用することにより得られた画像に相当することなる。即ち、ＳＤ画像３５４２は、センサ２からの入力画像を模した画像となる。
【２１９３】
また、ＳＤ画像３５４２をクラス分類適応処理部３５０１（図２８９）に入力させ、クラス分類適応処理部３５０１より出力された予測画像が、予測画像３５４３である。即ち、予測画像３５４３は、従来のクラス分類適応処理により生成されたＨＤ画像（元のＨＤ画像３５４１と同一解像度の画像）である。ただし、クラス分類適応処理部３５０１が予測演算に使用した予測係数（係数メモリ３５１４（図２９０）に記憶された予測係数）は、ＨＤ画像３５４１を第１の教師画像とし、かつＳＤ画像３５４２を第１の生徒画像として、クラス分類適応処理用学習部３５６１（図２９２）に学習演算させたものである。
【２１９４】
ＨＤ画像３５４１、ＳＤ画像３５４２、および予測画像３５４３のそれぞれを比較するに、予測画像３５４３は、ＳＤ画像３５４２よりも、ＨＤ画像３５４１により近い画像となっていることがわかる。
【２１９５】
この比較結果は、クラス分類適応処理部３５０１が、ＨＤ画像３５４１のディテールがつぶれてしまったＳＤ画像３５４２に対して、従来のクラス分類適応処理を施すことで、元のディテールが復元された予測画像３５４３を生成することができるということを意味している。
【２１９６】
しかしながら、予測画像３５４３とＨＤ画像３５４１を比較するに、予測画像３５４３は、ＨＤ画像３５４１を完全に復元した画像であるとは言い難い。
【２１９７】
そこで、本願出願人は、予測画像３５４３がＨＤ画像３５４１を完全に復元できていない理由を調査するために、所定の加算器３５４６により、ＨＤ画像３５４１と、予測画像３５４３の反転入力との加算画像、即ち、ＨＤ画像３５４１と予測画像３５４３の差分画像（画素の差分が大の場合、白に近い画素とし、画素の差分が小の場合、黒に近い画素とした画像）３５４４を生成した。
【２１９８】
同様に、本願出願人は、所定の加算器３５４７により、ＨＤ画像３５４１と、ＳＤ画像３５４２の反転入力との加算画像、即ち、ＨＤ画像３５４１とＳＤ画像３５４２の差分画像（画素の差分が大の場合、白に近い画素とし、画素の差分が小の場合、黒に近い画素とした画像）３５４５を生成した。
【２１９９】
そして、本願出願人は、このようにして生成された差分画像３５４４と差分画像３５４５を比較することによって、次のような調査結果を得た。
【２２００】
即ち、ＨＤ画像３５４１とＳＤ画像３５４２の差分の大きい領域（差分画像３５４５の白に近い領域）と、ＨＤ画像３５４１と予測画像３５４３の差分の大きい領域（差分画像３５４４の白に近い領域）はほぼ対応している。
【２２０１】
換言すると、予測画像３５４３がＨＤ画像３５４１を完全に復元できていない領域は、予測画像３５４３のうちの、ＨＤ画像３５４１とＳＤ画像３５４２の差分の大きい領域（差分画像３５４５の白に近い領域）にほぼ一致する。
【２２０２】
そこで、本願出願人は、この調査結果の要因を解明するために、さらに次のような調査を行った。
【２２０３】
即ち、本願出願人は、まず、ＨＤ画像３５４１と予測画像３５４３の差分の小さい領域（差分画像３５４４の黒に近い領域）において、ＨＤ画像３５４１の具体的な画素値、ＳＤ画像３５４２の具体的な画素値、およびＨＤ画像３５４１に対応する実際の波形（実世界１の信号）を調査した。その調査結果が、図２９４と図２９５に示されている。
【２２０４】
図２９４は、調査した領域のうちの１例を示している。なお、図２９４において、図中、水平方向は、空間方向の１方向であるＸ方向とされており、また、垂直方向は、空間方向の他方向であるＹ方向とされている。
【２２０５】
即ち、本願出願人は、ＨＤ画像３５４１と予測画像３５４３の差分の小さい領域の１例として、図２９４で示される、差分画像３５４４の領域３５４４−１について調査した。
【２２０６】
図２９５は、図２９４で示される領域３５４４−１に含まれるＸ方向に連続した６個のＨＤ画素のうちの、図中左から４個分のＨＤ画素に対応する、ＨＤ画像３５４１の具体的な画素値、ＳＤ画像３５４２の具体的な画素値、および、実際の波形（実世界１の信号）のそれぞれをプロットしたものを表している。
【２２０７】
図２９５において、縦軸は画素値を、横軸は空間方向Ｘに平行なx軸を、それぞれ表している。x軸において、原点は、差分画像３５４４の６個のＨＤ画素のうちの図中左から３番目のＨＤ画素の左端の位置とされており、その原点を基準として座標値が付されている。ただし、ｘ軸の座標値は、差分画像３５４４のＨＤ画素の画素幅を0.5として付されている。即ち、差分画像３５４４はＨＤ画像であるので、ＨＤ画像３５４１の画素幅L_t（以下、ＨＤ画素幅L_tと称する）も0.5になる。従って、いまの場合、ＳＤ画像３５４２の画素幅（以下、ＳＤ画素幅L_sと称する）は、ＨＤ画素幅L_tの２倍になるので、ＳＤ画素幅L_sは１になる。
【２２０８】
また、図２９５において、実線は、ＨＤ画像３５４１の画素値を、点線は、ＳＤ画像３５４２の画素値を、一点鎖線は、実世界１の信号のＸ断面波形を、それぞれ表している。ただし、実世界１の信号の波形を実際に描写することは困難であるので、図２９５で示される一点鎖線は、上述した１次元多項式近似手法（図２８９の実世界推定部１０２の１実施形態）によりＸ断面波形が近似された近似関数f(x)が示されている。
【２２０９】
次に、本願出願人は、上述した差分の小さい領域の調査と同様に、ＨＤ画像３５４１と予測画像３５４３の差分の大きい領域（差分画像３５４４の白に近い領域）においても、ＨＤ画像３５４１の具体的な画素値、ＳＤ画像３５４２の具体的な画素値、およびＨＤ画像３５４１に対応する実際の波形（実世界１の信号）を調査した。その調査結果が、図２９６と図２９７に示されている。
【２２１０】
図２９６は、調査した領域のうちの１例を示している。なお、図２９６において、図中、水平方向は、空間方向の１方向であるＸ方向とされており、また、垂直方向は、空間方向の他方向であるＹ方向とされている。
【２２１１】
即ち、本願出願人は、ＨＤ画像３５４１と予測画像３５４３の差分の大きい領域の１例として、図２９６で示される、差分画像３５４４の領域３５４４−２について調査した。
【２２１２】
図２９７は、図２９６で示される領域３５４４−２に含まれるＸ方向に連続した６個のＨＤ画素のうちの、図中左から４個分のＨＤ画素に対応する、ＨＤ画像３５４１の具体的な画素値、ＳＤ画像３５４２の具体的な画素値、および実際の波形（実世界１の信号）のそれぞれをプロットしたものを表している。
【２２１３】
図２９７において、縦軸は画素値を、横軸は空間方向Ｘに平行なx軸を、それぞれ表している。x軸において、原点は、差分画像３５４４の６個のＨＤ画素のうちの図中左から３番目のＨＤ画素の左端の位置とされており、その原点を基準として座標値が付されている。ただし、ｘ軸の座標値は、ＳＤ画素幅L_sを１として付されている。
【２２１４】
図２９７において、実線は、ＨＤ画像３５４１の画素値を、点線は、ＳＤ画像３５４２の画素値を、一点鎖線は、実世界１の信号のＸ断面波形を、それぞれ表している。ただし、図２９７で示される一点鎖線は、図２９５で示される一点鎖線と同様に、Ｘ断面波形が近似された近似関数f(x)が示されている。
【２２１５】
図２９５と図２９７を比較するに、両者の近似関数f(x)の波形の形状より、いずれの領域も細線の領域を含んでいることがわかる。
【２２１６】
しかしながら、図２９５においては、細線の領域は、ほぼx=0からx=1の範囲に存在するのに対して、図２９７においては、細線の領域は、ほぼx=-0.5からx=0.5の範囲に存在する。即ち、図２９５においては、x=0からx=1の範囲に存在するＳＤ画像３５４２の１つのＳＤ画素内に細線の領域がほぼ含まれることになる。これに対して、図２９７においては、x=0からx=1の範囲に存在するＳＤ画像３５４２の１つのＳＤ画素内に、細線の領域が一部だけ含まれる（細線と背景の境目が含まれる）ことになる。
【２２１７】
従って、図２９５で示される状態の場合、x=0からx=1.0の範囲に存在するＨＤ画像３５４１の２つのＨＤ画素の画素値（図中、実線）の差は小さくなる。その結果、当然ながら、これら２つのＨＤ画素の画素値の平均値である、ＳＤ画像３５４２の１つのＳＤ画素の画素値（図中、点線）と、ＨＤ画像３５４１の２つのＨＤ画素の画素値のそれぞれとの差分は小さいものになる。
【２２１８】
このような状態で（図２９５で示される状態で）、x=0からx=1.0の範囲に存在するＳＤ画像３５４２の１つのＳＤ画素が注目画素とされて、従来のクラス分類適応処理によりx=0からx=1.0の範囲に２つのＨＤ画素（予測画像３５４３の画素）が生成された場合について考える。この場合、図２９４で示されるように、生成された予測画像３５４３のＨＤ画素は、ＨＤ画像３５４１のＨＤ画素をほぼ正確に予測したものになる。即ち、図２９４で示されるように、領域３５４４−１においては、予測画像３５４３のＨＤ画素と、ＨＤ画像３５４１のＨＤ画素の差分も小さくなるので、黒に近い画像が表示される。
【２２１９】
これに対して、図２９７で示される状態の場合、x=0からx=1.0の範囲に存在するＨＤ画像３５４１の２つのＨＤ画素の画素値（図中、実線）の差は大きくなる。その結果、当然ながら、これら２つのＨＤ画素の画素値の平均値である、ＳＤ画像３５４２の１つのＳＤ画素の画素値（図中、点線）と、ＨＤ画像３５４１の２つのＨＤ画素の画素値のそれぞれとの差分は、図２９５の対応する差分に対して大きなものになる。
【２２２０】
このような状態で（図２９７で示される状態で）、x=0からx=1.0の範囲に存在するＳＤ画像３５４２の１つのＳＤ画素が注目画素とされて、従来のクラス分類適応処理によりx=0からx=1.0の範囲にＨＤ画素（予測画像３５４３の画素）が生成された場合について考える。この場合、図２９６で示されるように、生成された予測画像３５４３のＨＤ画素は、ＨＤ画像３５４１のＨＤ画素を正確に予測したものとはならない。即ち、図２９６で示されるように、領域３５４４−２においては、予測画像３５４３のＨＤ画素と、ＨＤ画像３５４１のＨＤ画素の差分も大きなものになってしまうので、白に近い画像が表示される。
【２２２１】
ところで、図２９５と図２９７の実世界１の信号の近似関数f(x)（図中、一点鎖線）のそれぞれを比較するに、図２９５においては、x=0からx=1の範囲での近似関数f(x)の変化量は小さいのに対して、図２９７においては、x=0からx=1の範囲での近似関数f(x)の変化量は大きいことがわかる。
【２２２２】
従って、図２９５で示されるx=0からx=1.0の範囲に存在するＳＤ画像３５４２の１つのＳＤ画素は、ＳＤ画素内での近似関数f(x)の変化量が小さい（即ち、実世界１の信号の変化量が小さい）ＳＤ画素と言える。
【２２２３】
このような観点から、上述した調査結果を言いなおすと、例えば、図２９５で示されるx=0からx=1.0の範囲に存在するＳＤ画素のような、ＳＤ画素内での近似関数f(x)の変化が少ない（即ち、実世界１の信号の変化が少ない）ＳＤ画素から、従来のクラス分類適応処理によりＨＤ画素が生成されると、生成されたＨＤ画素は、実世界１の信号（いまの場合、細線の画像）をほぼ正確に予測したものとなる。
【２２２４】
これに対して、図２９７で示されるx=0からx=1.0の範囲に存在するＳＤ画像３５４２の１つのＳＤ画素は、ＳＤ画素内での近似関数f(x)の変化量が大きい（即ち、実世界１の信号の変化量が大きい）ＳＤ画素と言える。
【２２２５】
このような観点から、上述した調査結果を言いなおすと、例えば、図２９７で示されるx=0からx=1.0の範囲に存在するＳＤ画素のような、ＳＤ画素内での近似関数f(x)の変化が大きい（即ち、実世界１の信号の変化が大きい）ＳＤ画素から、従来のクラス分類適応処理によりＨＤ画素が生成されると、生成されたＨＤ画素は、実世界１の信号（いまの場合、細線の画像）を正確に予測したものとはならない。
【２２２６】
以上の調査結果をまとめると、図２９８で示されるような状態の場合、従来の画素間の信号処理（例えば、クラス分類適応処理）では、画素内のディテールを復元することは困難であるということである。
【２２２７】
即ち、図２９８は、本願出願人が上述したような調査を行った結果として、得られた知見を説明する図である。
【２２２８】
図２９８において、図中水平方向は、センサ２（図２８９）の検出素子が並んでいる方向（空間方向）のうちの１方向であるＸ方向を表しており、図中垂直方向は、光のレベルまたは画素値を表している。点線は、画像である、実世界１（図２８９）の信号のＸ断面波形F(x)を表しており、実線は、Ｘ断面波形F(x)で表される実世界１の信号（画像）がセンサ２に入射された場合、センサ２から出力される画素値Ｐを表している。また、センサ２の１つの検出素子の幅（Ｘ方向の長さ）は、L_cと記述されており、△Ｐは、センサ２の１つの検出素子の幅L_c、即ち、センサ２の画素幅L_c内におけるＸ断面波形F(x)の変化量を表している。
【２２２９】
ところで、上述したＳＤ画像３５４２（図２９３）は、センサ２からの入力画像（図２８９）を模したものであるので、ＳＤ画像３５４２のＳＤ画素幅L_s（図２９５と図２９７）は、センサ２の画素幅（検出素子の幅）L_cとして考えることができる。
【２２３０】
また、上述した調査においては、細線に対応する実世界１の信号（近似関数f(x)）に対する調査であったが、細線に限らず、実世界１の信号のレベルの変化は存在する。
【２２３１】
従って、上述した調査結果を、図２９８で示される状態に当てはめると、次の通りになる。
【２２３２】
即ち、図２９８で示されるような、画素内において実世界１の信号の変化量（Ｘ断面波形F(x)の変化量）△Ｐが大きいＳＤ画素（センサ２からの出力画素）が注目画素とされて、従来のクラス分類適応処理によりＨＤ画素（例えば、図２８９のクラス分類適応処理部３５０１から出力される予測画像の画素）が生成された場合、生成されたＨＤ画素は、実世界１の信号（図２９８の例では、Ｘ断面波形F(x)）を正確に予測したものとはならない。
【２２３３】
具体的には、クラス分類適応処理をはじめとする従来の手法においては、センサ２の画素の画素間の画像処理が行われている。
【２２３４】
即ち、図２９８で示されるように、実世界１では、１画素内の領域でＸ断面波形F(x)の変化量△Ｐが大きい状態であっても、センサ２からは、Ｘ断面波形F(x)が積分された（厳密には、実世界１の信号が、時空間方向に積分された）１つの画素値Ｐ（１画素内で均一の値Ｐ）のみが出力される。
【２２３５】
従来の手法においては、その画素値Ｐが基準とされるとともに、画素値Ｐが処理の対象とされて画像処理が行われている。換言すると、従来の手法においては、画素内における実世界１の信号（Ｘ断面波形F(x)）の変化、即ち、画素内のディテールを無視して、画像処理が行われている。
【２２３６】
このように、画素を最小の単位として処理する限り、例えどのような画像処理（クラス分類適応処理でも）を施したとしても、画素内における実世界１の信号の変化を正確に再現することは困難である。特に、実世界１の信号の変化量△Ｐが大きい場合、その困難さはより顕著なものとなる。
【２２３７】
換言すると、上述したクラス分類適応処理が有する課題、即ち、図２８９において、センサ２から出力された段階で実世界１のディテールがつぶれてしまった入力画像（ＳＤ画像）は、クラス分類適応処理によりたとえＨＤ画像とされても、元のディテールが完全に復元されないことがあるという課題が発生する原因は、画素内における実世界１の信号の変化量△Ｐを考慮せずに、画素（１つの画素値しか有しない画素）を最小の単位としてクラス分類適応処理が行われているからである。
【２２３８】
この課題は、クラス分類適応処理に限らず従来の画像処理手法の全てが有する課題であり、課題が発生する原因も全く同じである。
【２２３９】
以上、従来の画像処理手法が有する課題と、その発生要因について説明した。
【２２４０】
ところで、上述したように、本発明のデータ定常性検出部１０１と実世界推定部１０２（図３）は、実世界１の信号が有する定常性を利用して、センサ２からの入力画像（即ち、画素内における、実世界１の信号の変化が無視された画像）から、実世界１の信号を推定することができる。即ち、実世界推定部１０２は、実世界１の信号を推定することが可能な実世界推定情報を出力することができる。
【２２４１】
従って、この実世界推定情報から、画素内における、実世界１の信号の変化量の推定も可能である。
【２２４２】
そこで、本願出願人は、従来のクラス分類適応処理により生成された予測画像（画素内における、実世界１の信号の変化を考慮せずに、実世界１を予測した画像）を、実世界推定情報に基づいて生成される所定の補正画像（画素内における、実世界１の信号の変化に起因する予測画像の誤差を推定した画像）で補正することで、上述した課題の解決が可能になるという思想に基づいて、例えば、図２８９で示されるような、クラス分類適応処理補正手法を発明した。
【２２４３】
即ち、図２８９において、データ定常性検出部１０１と実世界推定部１０２が、実世界推定情報を生成し、クラス分類適応処理補正部３５０２が、生成された実世界推定情報に基づいて所定の補正画像を生成する。そして、加算部３５０３が、クラス分類適応処理部３５０１より出力された予測画像を、クラス分類適応処理補正部３５０２より出力された補正画像で補正する（具体的には、予測画像に補正画像を加算した画像を出力画像として出力する）。
【２２４４】
クラス分類適応処理補正手法を利用する画像生成部１０３のうちの、クラス分類適応処理部３５０１の詳細については既に説明した。また、加算部３５０３は、予測画像と補正画像を加算することができるものであれば、その形態は特に限定されず、例えば、従来より存在する、様々な加算器やプログラム等を適用することが可能である。
【２２４５】
そこで、以下、残りのクラス分類適応処理補正部３５０２の詳細について説明する。
【２２４６】
はじめに、クラス分類適応処理補正部３５０２の原理について説明する。
【２２４７】
上述したように、図２９３において、ＨＤ画像３５４１を、センサ２（図２８９）に入射される前の元の画像（実世界１の信号）とみなし、かつ、ＳＤ画像３５４２を、センサ２からの入力画像とみなすと、予測画像３５４３が、クラス分類適応処理部３５０１より出力される予測画像（元の画像（ＨＤ画像３５４１）を予測した予測画像）となる。
【２２４８】
また、ＨＤ画像３５４１から、その予測画像３５４３を減算した画像が、差分画像３５４４である。
【２２４９】
従って、クラス分類適応処理補正部３５０２が、差分画像３５４４を生成し、その差分画像３５４４を補正画像として出力することができれば、加算部３５０３が、クラス分類適応処理部３５０１より出力された予測画像３５４３と、クラス分類適応処理補正部３５０２より出力された差分画像３５４４（補正画像）を加算することで、ＨＤ画像３５４１を復元することができる。
【２２５０】
即ち、クラス分類適応処理補正部３５０２が、画像である、実世界１の信号（センサ２に入射される前の元の画像）と、クラス分類適応処理部３５０１から出力される予測画像との差分画像（ただし、クラス分類適応処理部３５０１から出力される予測画像と同一解像度の画像）を適切に予測し、予測した差分画像（以下、差分予測画像と称する。これが、上述した差分予測画像の名称の由来である）を補正画像として出力することができれば、実世界１の信号（元の画像）をほぼ復元することができる。
【２２５１】
ところで、上述したように、実世界１の信号（センサ２に入射される前の元の画像）と、クラス分類適応処理部３５０１から出力される予測画像との差分（誤差）の度合いと、入力画像の１画素内における、実世界１の信号の変化量の度合いは対応している。また、実世界推定部１０２は、実世界１の信号自身を推定することができるので、当然ながら、入力画像の１画素内における、実世界１の信号の変化量の度合いを表す所定の特徴量を画素毎に算出することも可能である。
【２２５２】
従って、クラス分類適応処理補正部３５０２は、入力画像の各画素のそれぞれに対する特徴量を取得することで、差分予測画像を生成する（差分画像を予測する）ことができる。
【２２５３】
そこで、例えば、クラス分類適応処理補正部３５０２は、実世界推定部１０２より、特徴量を画素値とする画像（以下、このような画像を、特徴量画像と称する）を実世界推定情報として実世界推定部１０２より入力する。
【２２５４】
このとき、特徴量画像の解像度は、センサ２からの入力画像と同一の解像度である。また、補正画像（差分予測画像）は、クラス分類適応処理部３５０１より出力される予測画像と同一の解像度である。
【２２５５】
従って、クラス分類適応処理補正部３５０２が、特徴量画像をＳＤ画像とし、補正画像（差分予測画像）をＨＤ画像とし、従来のクラス分類適応処理を利用して、特徴量画像から差分画像を予測演算すれば、その予測演算の結果が、適切な差分予測画像となる。
【２２５６】
以上、クラス分類適応処理補正部３５０２の原理について説明した。
【２２５７】
図２９９は、このような原理で動作するクラス分類適応処理補正部３５０２の構成例を表している。
【２２５８】
図２９９において、実世界推定部１０２より入力された特徴量画像（ＳＤ画像）は、領域抽出部３５５１と領域抽出部３５５５にそれぞれ供給される。領域抽出部３５５１は、供給された特徴量画像から、クラス分類を行うために必要なクラスタップ（注目画素を含む予め設定された位置に存在するＳＤ画素）を抽出し、パターン検出部３５５２に出力する。パターン検出部３５５２は、入力されたクラスタップに基づいて特徴量画像のパターンを検出する。
【２２５９】
クラスコード決定部３５５３は、パターン検出部３５５２で検出されたパターンに基づいてクラスコードを決定し、補正係数メモリ３５５４、および、領域抽出部３５５５に出力する。補正係数メモリ３５５４は、学習により予め求められたクラスコード毎の係数を記憶しており、クラスコード決定部３５５３より入力されたクラスコードに対応する係数を読み出し、補正演算部３５５６に出力する。
【２２６０】
なお、補正係数メモリ３５５４の係数の学習処理については、図３００のクラス分類適応処理補正用学習部のブロック図を参照して後述する。
【２２６１】
また、補正係数メモリ３５５４に記憶される係数は、後述するように、差分画像を予測する（ＨＤ画像である差分予測画像を生成する）ときに使用される予測係数である。しかしながら、ここでは、クラス分類適応処理部３５０１の係数メモリ３５１４（図２９０）に記憶されている係数を、予測係数と称している。従って、以下、補正係数メモリ３５５４に記憶される予測係数を、係数メモリ３５１４に記憶される予測係数と区別するために、補正係数と称する。
【２２６２】
領域抽出部３５５５は、クラスコード決定部３５５３より入力されたクラスコードに基づいて、実世界推定部１０２より入力された特徴量画像（ＳＤ画像）から、差分画像（ＨＤ画像）を予測する（ＨＤ画像である差分予測画像を生成する）のに必要な予測タップ（注目画素を含む予め設定された位置に存在するＳＤ画素）をクラスコードに対応して抽出し、補正演算部３５５６に出力する。補正演算部３５５６は、領域抽出部３５５５より入力された予測タップと、補正係数メモリ３５５４より入力された補正係数とを用いて積和演算を実行し、特徴量画像（ＳＤ画像）の注目画素（ＳＤ画素）における、差分予測画像（ＨＤ画像）のＨＤ画素を生成する。
【２２６３】
より詳細には、補正係数メモリ３５５４は、クラスコード決定部３５５３より供給されるクラスコードに対応する補正係数を、補正演算部３５５６に出力する。補正演算部３５５６は、領域抽出部３５５５より供給される入力画像の所定の画素位置の画素値から抽出された予測タップ（ＳＤ画素）と、補正係数メモリ３５５４より供給された補正係数とを用いて、次の式（２２６）で示される積和演算を実行することにより、差分予測画像（ＨＤ画像）のＨＤ画素を求める（差分画像を予測推定する）。
【２２６４】
【数１７６】

・・・（２２６）
【２２６５】
式（２２６）において、u'は、差分予測画像（ＨＤ画像）のＨＤ画素を表している。a_i（iは、１乃至ｎの整数値）のそれぞれは、予測タップ（ＳＤ画素）のそれぞれを表している。また、g _iのそれぞれは、補正係数のそれぞれを表している。
【２２６６】
従って、図２８９において、クラス分類適応処理部３５０１からは、上述した式（２１８）で示される予測画像のＨＤ画素q'が出力されるのに対して、クラス分類適応処理補正部３５０２からは、式（２２６）で示される差分予測画像のＨＤ画素u'が出力される。そして、加算部３５０３が、予測画像のＨＤ画素q'と、差分予測画像のＨＤ画素u'とを加算した画素（以下、o'と記述する）を、出力画像のＨＤ画素として外部に出力する。
【２２６７】
即ち、画像生成部１０３より最終的に出力される出力画像のＨＤ画素o'は、次の式（２２７）で示されるようになる。
【２２６８】
【数１７７】

・・・（２２７）
【２２６９】
図３００は、このようなクラス分類適応処理補正部３５０２の補正係数メモリ３５５４に記憶される補正係数（上述した式（２２６）におけるg _i）を決定するための学習部、即ち、上述した図２９１の学習装置３５０４のクラス分類適応処理補正用学習部３５６１の詳細な構成例を表している。
【２２７０】
図２９１において、上述したように、クラス分類適応処理用学習部３５２１は、その学習処理を終了すると、クラス分類適応処理補正用学習部３５６１に対して、学習に利用した第１の教師画像（ＨＤ画像）と第１の生徒画像（ＳＤ画像）のそれぞれを出力するともに、学習により求められた予測係数を用いて第１の生徒画像から第１の教師画像を予測した画像である、学習用予測画像を出力してくる。
【２２７１】
図３００に戻り、これらのうちの第１の生徒画像は、データ定常性検出部３５７２に入力される。
【２２７２】
一方、これらのうちの第１の教師画像と学習用予測画像は、加算部３５７１に入力される。ただし、学習用予測画像は、反転入力される。
【２２７３】
加算部３５７１は、入力された第１の教師画像と、反転入力された学習用予測画像を加算し、即ち、第１の教師画像と学習用予測画像の差分画像を生成し、それをクラス分類適応処理補正用学習部３５６１における教師画像（この教師画像を、上述したように、第１の教師画像と区別するために、第２の教師画像と称する）として正規方程式生成部３５７８に出力する。
【２２７４】
データ定常性検出部３５７２は、入力された第１の生徒画像に含まれるデータの定常性を検出し、その検出結果をデータ定常性情報として実世界推定部３５７３に出力する。
【２２７５】
実世界推定部３５７３は、入力されたデータ定常性情報に基づいて、特徴量画像を生成し、それをクラス分類適応処理補正用学習部３５６１における生徒画像（この生徒画像を、上述したように、第１の生徒画像と区別するために、第２の生徒画像と称する）として領域抽出部３５７４と領域抽出部３５７７のそれぞれに出力する。
【２２７６】
領域抽出部３５７４は、供給された第２の生徒画像（ＳＤ画像）から、クラス分類を行うために必要なＳＤ画素（クラスタップ）を抽出し、パターン検出部３５７５に出力する。パターン検出部３５７５は、入力されたクラスタップのパターンを検出し、検出結果をクラスコード決定部３５７６に出力する。クラスコード決定部３５７６は、入力されたパターンに対応するクラスコードを決定し、そのクラスコードを領域抽出部３５７７、および、正規方程式生成部３５７８のそれぞれに出力する。
【２２７７】
領域抽出部３５７７は、クラスコード決定部３５７６より入力されたクラスコードに基づいて、実世界推定部３５７３より入力された第２の生徒画像（ＳＤ画像）から予測タップ（ＳＤ画素）を抽出し、正規方程式生成部３５７８に出力する。
【２２７８】
なお、以上の領域抽出部３５７４、パターン検出部３５７５、クラスコード決定部３５７６、および領域抽出部３５７７のそれぞれは、図２９９のクラス分類適応処理補正部３５０２の領域抽出部３５５１、パターン検出部３５５２、クラスコード決定部３５５３、および、領域抽出部３５５５のそれぞれと、基本的に同様の構成と機能を有するものである。また、以上のデータ定常性検出部３５７２、および実世界推定部３５７３のそれぞれは、図２８９のデータ定常性検出部１０１、および実世界推定部１０２のそれぞれと、基本的に同様の構成と機能を有するものである。
【２２７９】
正規方程式生成部３５７８は、クラスコード決定部３５７６より入力された全てのクラスコードに対して、クラスコード毎に、領域抽出部３５７７より入力される第２の生徒画像（ＳＤ画像）の予測タップ（ＳＤ画素）と、第２の教師画像（ＨＤ画像）のＨＤ画素とから正規方程式を生成し、補正係数決定部３５７９に供給する。補正係数決定部３５７９は、正規方程式生成部３５７８より所定のクラスコードに対応する正規方程式が供給されてきたとき、その正規方程式より補正係数のそれぞれを演算し、補正係数メモリ３５５４にクラスコードと関連付けて記憶させる。
【２２８０】
正規方程式生成部３５７８と、補正係数決定部３５７９についてさらに詳しく説明する。
【２２８１】
上述した式（２２６）において、学習前は補正係数g_iのそれぞれが未定係数である。学習は、クラスコード毎に複数の教師画像（ＨＤ画像）のＨＤ画素を入力することによって行う。所定のクラスコードに対応するＨＤ画素がｍ個存在し、ｍ個のＨＤ画素のそれぞれを、u_k（ｋは、１乃至ｍの整数値）と記述する場合、式（２２６）から、次の式（２２８）が設定される。
【２２８２】
【数１７８】

・・・（２２８）
【２２８３】
即ち、式（２２８）は、右辺の演算をすることで、所定のＨＤ画素を予測推定することができることを表している。なお、式（２２８）において、e_kは誤差を表している。即ち、右辺の演算結果である差分予測画像（ＨＤ画像）のＨＤ画素u_k'が、実際の差分画像のＨＤ画素u_kと厳密には一致せず、所定の誤差e_kを含む。
【２２８４】
そこで、式（２２８）において、例えば、誤差e_kの自乗和を最小にするような補正係数a_iが、学習により求まればよい。
【２２８５】
例えば、ｍ＞ｎとなるように、差分画像のＨＤ画素u_kを学習により集めることができれば、最小自乗法によって補正係数a_iが一意に決定される。
【２２８６】
即ち、式（２２８）の右辺の補正係数a_iを最小自乗法で求める場合の正規方程式は、次の式（２２９）で示される通りになる。
【２２８７】
【数１７９】

・・・（２２９）
【２２８８】
式（２２９）で示される正規方程式の各行列のそれぞれを、次の式（２３０）乃至（２３２）のように定義すると、正規方程式は、次の式（２３３）のように表される。
【２２８９】
【数１８０】

・・・（２３０）
【２２９０】
【数１８１】

・・・（２３１）
【２２９１】
【数１８２】

・・・（２３２）
【２２９２】
【数１８３】

・・・（２３３）
【２２９３】
式（２３１）で示されるように、行列Ｇ_MATの各成分は、求めたい補正係数g_iである。従って、式（２３３）において、左辺の行列Ａ_MATと右辺の行列Ｕ_MATが決定されれば、行列解法によって行列Ｇ_MAT（即ち、補正係数g_i）の算出が可能である。
【２２９４】
具体的には、式（２３０）で示されるように、行列Ａ_MATの各成分は、予測タップa_ikが既知であれば演算可能である。予測タップa_ikは、領域抽出部３５７７により抽出されるので、正規方程式生成部３５７８は、領域抽出部３５７７より供給されてくる予測タップa_ikのそれぞれを利用して行列Ａ_MATの各成分を演算することができる。
【２２９５】
また、式（２３２）で示されるように、行列Ｕ_MATの各成分は、予測タップa_ikと差分画像のＨＤ画素u_kが既知であれば演算可能である。予測タップa_ikは、行列Ａ_MATの各成分に含まれるものと同一のものであり、また、差分画像のＨＤ画素u_kは、加算部３５７１より出力される第２の教師画像のＨＤ画素である。従って、正規方程式生成部３５７８は、領域抽出部３５７７より供給された予測タップa_ikと、第２の教師画像（第１の教師画像と、学習用予測画像の差分画像）を利用して行列Ｕ_MATの各成分を演算することができる。
【２２９６】
このようにして、正規方程式生成部３５７８は、クラスコード毎に、行列Ａ_MATと行列Ｕ_MATの各成分を演算し、その演算結果をクラスコードに対応付けて補正係数決定部３５７９に供給する。
【２２９７】
補正係数決定部３５７９は、供給された所定のクラスコードに対応する正規方程式に基づいて、上述した式（２３３）の行列Ｇ_MATの各成分である補正係数g_iを演算する。
【２２９８】
具体的には、上述した式（２３３）の正規方程式は、次の式（２３４）のように変形できる。
【２２９９】
【数１８４】

・・・（２３４）
【２３００】
式（２３４）において、左辺の行列Ｇ_MATの各成分が、求めたい補正係数g_iである。また、行列Ａ_MATと行列Ｕ_MATのそれぞれの各成分は、正規方程式生成部３５７８より供給されるものである。従って、補正係数決定部３５７９は、正規方程式生成部３５７８より所定のクラスコードに対応する行列Ａ_MATと行列Ｕ_MATのそれぞれの各成分が供給されてきたとき、式（２３４）の右辺の行列演算を行うことで行列Ｇ_MATを演算し、その演算結果（補正係数g_i）をクラスコードに対応付けて補正係数メモリ３５５４に記憶させる。
【２３０１】
以上、クラス分類適応処理補正部３５０２と、それに付随する学習部である、クラス分類適応処理補正用学習部３５６１の詳細について説明した。
【２３０２】
ところで、上述した特徴量画像は、クラス分類適応処理補正部３５０２がそれに基づいて補正画像（差分予測画像）を生成することが可能なものであれば、その形態は特に限定されない。換言すると、特徴量画像の各画素の画素値、即ち、特徴量は、上述したように、画素（センサ２（図２８９）の画素）内における実世界１（図２８９）の信号の変化量の度合いを表すことができるものであれば、特に、限定されない。
【２３０３】
例えば、特徴量として、画素内傾斜を適用することが可能である。
【２３０４】
画素内傾斜とは、ここで新しく定義した言葉である。そこで、以下、画素内傾斜について説明する。
【２３０５】
上述したように、図２８９において、画像である、実世界１の信号は、３次元の空間上の位置x,y、およびｚ、並びに時刻tを変数とする関数F(x,y,t)で表される。
【２３０６】
また、例えば、画像である、実世界１の信号が、空間方向の所定の方向に定常性を有する場合、関数F(x,y,t)を、空間方向であるX方向、Y方向、およびZ方向のうちの所定の１方向（例えば、X方向）に射影した１次元の波形（ここでも、このような波形のうちのX方向に射影した波形を、X断面波形F(x)と称することにする）と同一形状の波形が、定常性の方向に連なっていると考えることができる。
【２３０７】
従って、実世界推定部１０２は、例えば、データ定常性検出部１０１より出力される、実世界１の信号が有する定常性に対応するデータ定常性情報（例えば、角度）に基づいて、Ｘ断面波形F(x)を、n次（nは、任意の整数）の多項式である近似関数f(x)で近似することができる。
【２３０８】
図３０１は、このような近似関数f(x)の一例として、次の式（２３５）で示されるf₄(x)（５次の多項式であるf₄(x)）と、次の式（２３６）で示されるf₅(x)（１次の多項式であるf₅(x)）をプロットしたものを表している。
【２３０９】
【数１８５】

・・・（２３５）
【２３１０】
【数１８６】

・・・（２３６）
【２３１１】
なお、式（２３５）のw₀乃至w₅、並びに、式（２３６）のw₀'およびw₁'のそれぞれは、実世界推定部１０２が演算した各次の係数を表している。
【２３１２】
また、図３０１において、図中水平方向のx軸は、注目画素の左端を原点（x=0）とした場合における、注目画素からの空間方向Ｘの相対位置を表している。ただし、x軸においては、センサ２の検出素子の幅L_cが１とされている。また、図中垂直方向の軸は、画素値を表している。
【２３１３】
図３０１で示されるように、１次の近似関数f₅(x)（式（２３６）で示される近似関数f₅(x)）は、注目画素におけるX断面波形F(x)を直線近似したものである。この近似直線の傾きを、ここでは、画素内傾斜と称している。即ち、画素内傾斜とは、式（２３６）におけるxの係数w₁'である。
【２３１４】
画素内傾斜が急な場合、それは、注目画素における、Ｘ断面波形F(x)の変化量が大きいことを表している。これに対して、画素内傾斜が緩やかな場合、それは、注目画素における、Ｘ断面波形F(x)の変化量が小さいことを表している。
【２３１５】
このように、画素内傾斜は、画素（センサ２の画素）内における実世界１の信号の変化量の度合いを適切に表すことができる。従って、特徴量として、画素内傾斜を適用することができる。
【２３１６】
例えば、図３０２には、画素内傾斜を特徴量として実際に生成された特徴量画像が示されている。
【２３１７】
即ち、図３０２において、図中左側の画像は、上述した図２９３で示されるＳＤ画像３５４２と同一の画像を表している。また、図中右側の画像は、左側のＳＤ画像３５４２を構成する各画素のそれぞれに対して画素内傾斜を求め、画素内傾斜に対応する値を画素値としてプロットした特徴量画像３５９１を表している。ただし、特徴量画像３５９１は、画素内傾斜がない場合（近似直線が、Ｘ方向に平行な場合）、黒となり、これに対して、画素内傾斜が直角の場合（近似直線が、Ｙ方向に平行な場合）、白となるように生成されている。
【２３１８】
ＳＤ画像３５４２の領域３５４２−１は、上述した図２９４の差分画像３５４４の領域３５４４−１（上述した図２９５を参照して、画素内における実世界１の信号の変化量が小さい領域の１例として説明した領域）に対応する領域である。このＳＤ画像３５４２の領域３５４２−１に対応する特徴量画像３５９１の領域が、領域３５９１−１である。
【２３１９】
また、ＳＤ画像３５４２の領域３５４２−２は、上述した図２９６の差分画像３５４４の領域３５４４−２（上述した図２９７を参照して、画素内における実世界１の信号の変化量が大きい領域の1例として説明した領域）に対応する領域である。このＳＤ画像３５４２の領域３５４２−２に対応する特徴量画像３５９１の領域が、領域３５９１−２である。
【２３２０】
ＳＤ画像３５４２の領域３５４２−１と特徴量画像３５９１の領域３５９１−１とを比較するに、実世界１の信号の変化量が小さい領域は、特徴量画像３５９１においては、黒に近い領域（画素内傾斜が緩い領域）となっていることがわかる。
【２３２１】
これに対して、ＳＤ画像３５４２の領域３５４２−２と特徴量画像３５９１の領域３５９１−２とを比較するに、実世界１の信号の変化量が大きい領域は、特徴量画像３５９１においては、白に近い領域（画素内傾斜が急な領域）となっていることがわかる。
【２３２２】
このように、画素内傾斜に対応する値を画素として生成された特徴量画像は、各画素内のそれぞれにおける実世界１の信号の変化量の度合いを適切に表すことができる。
【２３２３】
次に、画素内傾斜の具体的な算出方法について説明する。
【２３２４】
即ち、注目画素における画素内傾斜を、gradと記述すると、画素内傾斜gradは、次の式（２３７）で表される。
【２３２５】
【数１８７】

・・・（２３７）
【２３２６】
式（２３７）において、P_nは、注目画素の画素値を表している。P_cは、中心画素の画素値を表している。
【２３２７】
具体的には、例えば、図３０３で示されるように、センサ２からの入力画像のうちの、５×５の画素（図中５×５＝２５個の正方形）からなる領域であって、所定のデータの定常性を有する領域３６０１（以下、定常領域３６０１と称する）が存在した場合、この定常領域３６０１の中心の画素３６０２が中心画素とされる。従って、P_cは、中心画素３６０２の画素値となる。そして、例えば、画素３６０３が注目画素とされた場合、P_nは、注目画素３６０３の画素値となる。
【２３２８】
また、式（２３７）において、x_n'は、注目画素の中心点における断面方向距離を表している。なお、ここでは、中心画素（図３０３の例では、画素３６０２）の中心を空間方向の原点(0,0)とし、その原点を通るデータの定常性の方向と平行な直線（図３０３の例では、直線３６０４）を引いたとすると、その直線に対するＸ方向の相対的な距離を、断面方向距離と称している。
【２３２９】
図３０４は、図３０３の定常領域３６０１内の各画素の断面方向距離を表した図である。即ち、図３０４において、定常領域３６０１の各画素（図中５×５＝２５個の正方形）内のそれぞれに記載されている値が、対応する画素の断面方向距離である。例えば、注目画素３６０３の断面距離x_n'は、−２βである。
【２３３０】
ただし、各画素幅は、Ｘ方向もＹ方向も１とされている。Ｘ方向の正方向は、図中右方向とされている。また、βは、中心画素３６０２のＹ方向に対して１つ隣（図中１つ下）の画素３６０５の断面方向距離を表している。このβは、図３０４で示されるような角度θ（直線３６０４の方向と、Ｘ方向のなす角度θ）が、データ定常性検出部１０１よりデータ定常性情報として出力されている場合、次の式（２３８）を利用して簡単に演算することが可能である。
【２３３１】
【数１８８】

・・・（２３８）
【２３３２】
このように、画素内傾斜は、中心画素（図３０４の例では画素３６０２）と注目画素（図３０４の例では画素３６０３）の２つの入力画素値と、角度θを利用する簡単な演算で算出可能である。従って、実世界推定部１０２は、画素内傾斜に対応する値を画素値とする画像を、特徴量画像として生成すれば、その処理量を大幅に低減することが可能になる。
【２３３３】
なお、さらに精度のよい画素内傾斜を求めたい場合、実世界推定部１０２は、注目画素の周辺画素を用いて最小自乗法により演算すればよい。具体的には、実世界推定部１０２は、注目画素を含むｍ個（ｍは２以上の整数）の画素に対して番号i（iは、１乃至ｍ）を付与し、番号iの画素のそれぞれの入力画素値P_iと断面方向距離x_i'を、次の式（２３９）の右辺に代入して注目画素における画素内傾斜gradを演算すればよい。即ち、式（２３９）は、上述した１変数を最小自乗法で求める式と同様の式である。
【２３３４】
【数１８９】

・・・（２３９）
【２３３５】
次に、図３０５を参照して、クラス分類適応処理補正手法を利用する画像生成部１０３（図２８９）の画像の生成の処理（図４０のステップＳ１０３の処理）について説明する。
【２３３６】
図２８９において、画像である、実世界１の信号がセンサ２に入射されると、センサ２からは入力画像が出力される。この入力画像は、データ定常性検出部１０１に入力されるとともに、画像生成部１０３のクラス分類適応処理部３５０１に入力される。
【２３３７】
そこで、図３０５のステップＳ３５０１において、クラス分類適応処理部３５０１は、入力された入力画像（ＳＤ画像）に対してクラス分類適応処理を施して、予測画像（ＨＤ画像）を生成し、加算部３５０３に出力する。
【２３３８】
なお、以下、このようなクラス分類適応処理部３５０１が実行するステップＳ３５０１の処理を、「入力画像クラス分類適応処理」と称する。この例の「入力画像クラス分類適応処理」の詳細については、図３０６のフローチャートを参照して後述する。
【２３３９】
ステップＳ３５０１の処理とほぼ同時に、データ定常性検出部１０１は、入力画像に含まれるデータの定常性を検出し、その検出結果（いまの場合、角度）をデータ定常性情報として実世界推定部１０２に出力する（図４０のステップＳ１０１の処理）。
【２３４０】
実世界推定部１０２は、入力した角度（データ定常性情報）に基づいて、実世界推定情報（いまの場合、ＳＤ画像である特徴量画像）を生成し、画像生成部１０３のクラス分類適応処理補正部３５０２に供給する（図４０のステップＳ１０２の処理）。
【２３４１】
そこで、ステップＳ３５０２において、クラス分類適応処理補正部３５０２は、供給された特徴量画像（ＳＤ画像）に対してクラス分類適応処理を施して、差分予測画像（ＨＤ画像）を生成し（実際の画像（実世界１の信号）と、クラス分類適応処理部３５０１から出力された予測画像との差分画像（ただし、ＨＤ画像）を予測演算し）、それを補正画像として加算部３５０３に出力する。
【２３４２】
なお、以下、このようなクラス分類適応処理補正部３５０２が実行するステップＳ３５０２の処理を、「クラス分類適応処理の補正処理」と称する。この例の「クラス分類適応処理の補正処理」の詳細については、図３０７のフローチャートを参照して後述する。
【２３４３】
そして、ステップＳ３５０３において、加算部３５０３が、ステップＳ３５０１の処理でクラス分類適応処理部３５０１により生成された予測画像（ＨＤ画像）の注目画素（ＨＤ画素）と、その注目画素に対応する、ステップＳ３５０２の処理でクラス分類適応処理補正部３５０２により生成された補正画像（ＨＤ画像）の画素（ＨＤ画素）を加算し、出力画像（ＨＤ画像）の画素（ＨＤ画素）を生成する。
【２３４４】
ステップＳ３５０４において、加算部３５０３は、全画素の処理を終了したか否かを判定する。
【２３４５】
ステップＳ３５０４において、全画素の処理がまだ終了されていないと判定された場合、処理はステップＳ３５０１に戻り、それ以降の処理が繰り返される。即ち、まだ注目画素とされない画素が、順次注目画素とされて、ステップＳ３５０１乃至Ｓ３５０３の処理が繰り返される。
【２３４６】
そして、全画素の処理が終了すると（ステップＳ３５０４において、全画素の処理が終了されたと判定すると）、加算部３５０４は、ステップＳ３５０５において、出力画像（ＨＤ画像）を外部に出力する。その後、画像の生成の処理は終了となる。
【２３４７】
次に、図面を参照して、この例における「入力画像クラス分類適応処理（ステップＳ３５０１の処理）」、および、「クラス分類適応処理の補正処理（ステップＳ３５０２の処理）」のそれぞれの詳細について、その順番で個別に説明する。
【２３４８】
はじめに、図３０６のフローチャートを参照して、クラス分類適応処理部３５０１（図２９０）が実行する「入力画像クラス分類適応処理」の詳細について説明する。
【２３４９】
入力画像（ＳＤ画像）がクラス分類適応処理部３５０１に入力されると、ステップＳ３５２１において、領域抽出部３５１１と領域抽出部３５１５のそれぞれは、入力画像を入力する。
【２３５０】
ステップＳ３５２２において、領域抽出部３５１１は、入力画像の中から、注目画素（ＳＤ画素）、および、予め設定された注目画素からの相対位置（１以上の位置）のそれぞれに位置する画素（ＳＤ画素）を、クラスタップとして抽出し、パターン検出部３５１２に供給する。
【２３５１】
ステップＳ３５２３において、パターン検出部３５１２は、供給されたクラスタップのパターンを検出し、クラスコード決定部３５１３に供給する。
【２３５２】
ステップＳ３５２４において、クラスコード決定部３５１３は、予め設定されている複数のクラスコードの中から、供給されたクラスタップのパターンに適合するクラスコードを決定し、係数メモリ３５１４と領域抽出部３５１５のそれぞれに供給する。
【２３５３】
ステップＳ３５２５において、係数メモリ３５１４は、予め学習処理により決定された複数の予測係数（群）の中から、供給されたクラスコードに基づいてこれから使用する予測係数（群）を読み出し、予測演算部３５１６に供給する。
【２３５４】
なお、学習処理については、図３１１のフローチャートを参照して後述する。
【２３５５】
ステップＳ３５２６において、領域抽出部３５１５は、供給されたクラスコードに対応して、入力画像の中から、注目画素（ＳＤ画素）、および、予め設定された注目画素からの相対位置（１以上の位置であって、クラスタップの位置とは独立して設定された位置。ただし、クラスタップの位置と同一の位置でもよい）のそれぞれに位置する画素（ＳＤ画素）を、予測タップとして抽出し、予測演算部３５１６に供給する。
【２３５６】
ステップＳ３５２７において、予測演算部３５１６は、領域抽出部３５１５より供給された予測タップを、係数メモリ３５１４より供給された予測係数を用いて演算し、予測画像（ＨＤ画像）を生成して加算部３５０３に出力する。
【２３５７】
具体的には、予測演算部３５１６は、領域抽出部３５１５より供給された予測タップのそれぞれをc_i（iは、１乃至ｎのうちのいずれかの整数）とし、かつ、係数メモリ３５１４より供給された予測係数のそれぞれをd_iとして、上述した式（２１８）の右辺を演算することにより、注目画素（ＳＤ画素）におけるＨＤ画素q'を算出し、それを予測画像（ＨＤ画像）を構成する１つの画素として加算部３５０３に出力する。これにより、入力画像クラス分類適応処理が終了となる。
【２３５８】
次に、図３０７のフローチャートを参照して、クラス分類適応処理補正部３５０２（図２９９）が実行する「クラス分類適応処理の補正処理」の詳細について説明する。
【２３５９】
実世界推定部１０２より実世界推定情報として特徴量画像（ＳＤ画像）がクラス分類適応処理補正部３５０２に入力されると、ステップＳ３５４１において、領域抽出部３５５１と領域抽出部３５５５のそれぞれは、特徴量画像を入力する。
【２３６０】
ステップＳ３５４２において、領域抽出部３５５１は、特徴量画像の中から、注目画素（ＳＤ画素）、および、予め設定された注目画素からの相対位置（１以上の位置）のそれぞれに位置する画素（ＳＤ画素）を、クラスタップとして抽出し、パターン検出部３５５２に供給する。
【２３６１】
具体的には、この例においては、例えば、図３０８で示されるようなクラスタップ（群）３６２１が抽出されるとする。即ち、図３０８は、クラスタップ配置の１例を表している。
【２３６２】
図３０８において、図中水平方向は、空間方向の１方向であるＸ方向とされており、図中垂直方向は、空間方向の他方向であるＹ方向とされている。また、注目画素は、画素３６２１−２とされている。
【２３６３】
この場合、図３０８の例では、注目画素３６２１−２、Ｙ方向に対して注目画素３６２１−２の隣の画素３６２１−０および画素３６２１−４、並びに、Ｘ方向に対して注目画素３６２１−２の隣の画素３６２１−１および画素３６２１−３の総計５個の画素からなる画素群３６２１が、クラスタップとして抽出されることになる。
【２３６４】
勿論、クラスタップ配置は、注目画素３６２１−２を含む配置であれば、図３０８の例に限定されず、様々な配置が可能である。
【２３６５】
図３０７に戻り、ステップＳ３５４３において、パターン検出部３５５２は、供給されたクラスタップのパターンを検出し、クラスコード決定部３５５３に供給する。
【２３６６】
具体的には、この例においては、例えば、パターン検出部３５５２は、図３０８で示される５個のクラスタップ３６２１−０乃至３６２１−４のそれぞれの画素値、即ち、特徴量の値（例えば、画素内傾斜）のそれぞれが、予め設定された複数のクラスのうちのいずれのクラスに属するのかを検出し、それらの検出結果を１つにまとめたものをパターンとして出力する。
【２３６７】
例えば、いま、図３０９で示されるようなパターンが検出されたとする。即ち、図３０９は、クラスタップのパターンの１例を表している。
【２３６８】
図３０９において、図中水平方向の軸は、クラスタップを表しており、図中垂直方向の軸は、画素内傾斜を表している。また、画素内傾斜により、クラス
３６３１、クラス３６３２、およびクラス３６３３の３つのクラスが予め設定されているとする。
【２３６９】
この場合、図３０９で示されるパターンは、クラスタップ３６２１−０はクラス３６３１に、クラスタップ３６２１−１はクラス３６３１に、クラスタップ３６２１−２はクラス３６３３に、クラスタップ３６２１−３はクラス３６３１に、クラスタップ３６２１−４はクラス３６３２に、それぞれ属するパターンを表している。
【２３７０】
このように、５個のクラスタップ３６２１−０乃至３６２１−４のそれぞれは、３つのクラス３６３１乃至３６３３のうちのいずれかに属することになる。従って、この例においては、図３０９で示されるパターンを含めて総計２７３（＝３＾５）個のパターンが存在することになる。
【２３７１】
図３０７に戻り、ステップＳ３５４４において、クラスコード決定部３５５３は、予め設定されている複数のクラスコードの中から、供給されたクラスタップのパターンに適合するクラスコードを決定し、補正係数メモリ３５５４と領域抽出部３５５５のそれぞれに供給する。いまの場合、２７３個のパターンが存在するので、予め設定されているクラスコードの数も２７３個（または、それ以上）となる。
【２３７２】
ステップＳ３５４５において、補正係数メモリ３５５４は、予め学習処理により決定された複数の補正係数（群）の中から、供給されたクラスコードに基づいてこれから使用する補正係数（群）を読み出し、補正演算部３５５６に供給する。補正係数メモリ３５５４に記憶されている補正係数（群）のそれぞれは、予め設定されたクラスコードのうちのいずれかに対応付けられているので、いまの場合、補正係数（群）の数は、予め設定されているクラスコードの数と同数（２７３個以上）となる。
【２３７３】
なお、学習処理については、図３１１のフローチャートを参照して後述する。
【２３７４】
ステップＳ３５４６において、領域抽出部３５５５は、供給されたクラスコードに対応して、入力画像の中から、注目画素（ＳＤ画素）、および、予め設定された注目画素からの相対位置（１以上の位置であって、クラスタップの位置とは独立して設定された位置。ただし、クラスタップの位置と同一の位置でもよい）のそれぞれに位置する画素（ＳＤ画素）を、予測タップとして抽出し、補正演算部３５５６に供給する。
【２３７５】
具体的には、この例においては、例えば、図３１０で示されるような予測タップ（群）３６４１が抽出されるとする。即ち、図３１０は、予測タップ配置の１例を表している。
【２３７６】
図３１０において、図中水平方向は、空間方向の１方向であるＸ方向とされており、図中垂直方向は、空間方向の他方向であるＹ方向とされている。また、注目画素は、画素３６４１−１とされている。即ち、画素３６４１−１は、クラスタップ３６２１−２（図３０８）に対応する画素である。
【２３７７】
この場合、図３１０の例では、注目画素３６４１−１を中心とする５×５の画素群（総計２５個の画素からなる画素群）３６４１が、予測タップ（群）として抽出されることになる。
【２３７８】
勿論、予測タップ配置は、注目画素３６４１−１を含む配置であれば、図３１０の例に限定されず、様々な配置が可能である。
【２３７９】
図３０７に戻り、ステップＳ３５４７において、補正演算部３５５６は、領域抽出部３５５５より供給された予測タップを、補正係数メモリ３５５４より供給された補正係数を用いて演算し、差分予測画像（ＨＤ画像）を生成し、補正画像として加算部３５０３に出力する。
【２３８０】
より詳細には、補正演算部３５５６は、領域抽出部３５５５より供給された予測タップのそれぞれをa_i（iは、１乃至ｎのうちのいずれかの整数）とし、かつ、補正係数メモリ３５５４より供給された補正係数のそれぞれをg_iとして、上述した式（２２６）の右辺を演算することにより、注目画素（ＳＤ画素）におけるＨＤ画素u'を算出し、それを補正画像（ＨＤ画像）を構成する１つの画素として加算部３５０３に出力する。これにより、クラス分類適応処理の補正処理は終了となる。
【２３８１】
次に、図３１１のフローチャートを参照して、学習装置（図２９１）の学習処理、即ち、クラス分類適応処理部３５０１（図２９０）が使用する予測係数と、クラス分類適応処理補正部３５０２（図２９９）が使用する補正係数のそれぞれを学習により生成する学習処理について説明する。
【２３８２】
ステップＳ３５６１において、クラス分類適応処理用学習部３５２１は、クラス分類適応処理部３５０１が使用する予測係数を生成する。
【２３８３】
即ち、クラス分類適応処理用学習部３５２１は、所定の画像を第１の教師画像（ＨＤ画像）として入力し、その第１の教師画像の解像度を下げて第１の生徒画像（ＳＤ画像）を生成する。
【２３８４】
そして、クラス分類適応処理用学習部３５２１は、クラス分類適応処理により第１の生徒画像（ＳＤ画像）から第１の教師画像（ＨＤ画像）を適切に予測することが可能な予測係数を生成し、クラス分類適応処理部３５０１の係数メモリ３５１４（図２９０）に記憶させる。
【２３８５】
なお、以下、このようなクラス分類適応処理用学習部３５２１が実行するステップＳ３５６１の処理を、「クラス分類適応処理用学習処理」と称する。この例の「クラス分類適応処理用学習処理」の詳細については、図３１２のフローチャートを参照して後述する。
【２３８６】
クラス分類適応処理部３５０１が使用する予測係数が生成されると、ステップＳ３５６２において、クラス分類適応処理補正用学習部３５６１は、クラス分類適応処理補正部３５０２が使用する補正係数を生成する。
【２３８７】
即ち、クラス分類適応処理補正用学習部３５６１は、クラス分類適応処理用学習部３５２１より、第１の教師画像、第１の生徒画像、および学習用予測画像（クラス分類適応処理用学習部３５２１により生成された予測係数を用いて、第１の教師画像を予測した画像）のそれぞれを入力する。
【２３８８】
次に、クラス分類適応処理補正用学習部３５６１は、第２の教師画像として、第１の教師画像と学習用予測画像の差分画像を生成するとともに、第２の生徒画像として、第１の生徒画像から特徴量画像を生成する。
【２３８９】
そして、クラス分類適応処理補正用学習部３５６１は、クラス分類適応処理により第２の生徒画像（ＳＤ画像）から第２の教師画像（ＨＤ画像）を適切に予測することが可能な予測係数を生成し、それを補正係数としてクラス分類適応処理補正部３５０２の補正係数メモリ３５５４に記憶させる。これにより、学習処理は終了となる。
【２３９０】
なお、以下、このようなクラス分類適応処理補正用学習部３５６１が実行するステップＳ３５６２の処理を、「クラス分類適応処理補正用学習処理」と称する。この例の「クラス分類適応処理補正用学習処理」の詳細については、図３１３のフローチャートを参照して後述する。
【２３９１】
次に、図面を参照して、この例における「クラス分類適応処理用学習処理（ステップＳ３５６１の処理）」、および、「クラス分類適応処理補正用学習処理（ステップＳ３５６２の処理）」のそれぞれの詳細について、その順番で個別に説明する。
【２３９２】
はじめに、図３１２のフローチャートを参照して、クラス分類適応処理用学習部３５２１（図２９２）が実行する「クラス分類適応処理用学習処理」の詳細について説明する。
【２３９３】
ステップＳ３５８１において、ダウンコンバート部３５３１と正規方程式生成部３５３６のそれぞれは、供給された所定の画像を、第１の教師画像（ＨＤ画像）として入力する。なお、第１の教師画像は、上述したように、クラス分類適応処理補正用学習部３５６１にも入力される。
【２３９４】
ステップＳ３５８２において、ダウンコンバート部３５３１は、入力された第１の教師画像をダウンコンバートして（解像度を落として）第１の生徒画像（ＳＤ画像）を生成し、領域抽出部３５３２と領域抽出部３５３５のそれぞれに供給するとともに、クラス分類適応処理補正用学習部３５６１にも出力する。
【２３９５】
ステップＳ３５８３において、領域抽出部３５３２は、供給された第１の生徒画像からクラスタップを抽出してパターン検出部３５３３に出力する。なお、ステップＳ３５８３の処理は、ブロックに入力される情報と、ブロックから出力される情報は厳密には違う情報であるが（以下、このような違いを、単に、入出力の違いと称する）、上述したステップＳ３５２２（図３０６）の処理と基本的に同様の処理である。
【２３９６】
ステップＳ３５８４において、パターン検出部３５３３は、供給されたクラスタップよりクラスコードを決定するためのパターンを検出し、クラスコード決定部３５３４に供給する。なお、ステップＳ３５８４の処理は、入出力の違いはあるが、上述したステップＳ３５２３（図３０６）の処理と基本的に同様の処理である。
【２３９７】
ステップＳ３５８５において、クラスコード決定部３５３４は、供給されたクラスタップのパターンに基づいてクラスコードを決定し、領域抽出部３５３５と正規方程式生成部３５３６のそれぞれに供給する。なお、ステップＳ３５８５の処理は、入出力の違いはあるが、上述したステップＳ３５２４（図３０６）の処理と基本的に同様の処理である。
【２３９８】
ステップＳ３５８６において、領域抽出部３５３５は、供給されたクラスコードに対応して、第１の生徒画像の中から予測タップを抽出し、正規方程式生成部３５３６と予測演算部３５３８のそれぞれに供給する。なお、ステップＳ３５８６の処理は、入出力の違いはあるが、上述したステップＳ３５２６（図３０６）の処理と基本的に同様の処理である。
【２３９９】
ステップＳ３５８７において、正規方程式生成部３５３６は、領域抽出部３５３５より供給された予測タップ（ＳＤ画素）、および、第１の教師画像（ＨＤ画像）を構成するＨＤ画素のうちの所定のＨＤ画素から、上述した式（２２０）（即ち、式（２２４））で示される正規方程式を生成し、クラスコード決定部３５３４より供給されたクラスコードとともに係数決定部３５３７に供給する。
【２４００】
ステップＳ３５８８において、係数決定部３５３７は、供給された正規方程式を解いて予測係数を決定し、即ち、上述した式（２２５）の右辺を演算することで予測係数を算出し、供給されたクラスコードに対応付けて係数メモリ３５１４に記憶させるとともに、予測演算部３５３８に供給する。
【２４０１】
ステップＳ３５８９において、予測演算部３５３８は、領域抽出部３５３５より供給された予測タップを、係数決定部３５３７より供給された予測係数を用いて演算し、学習用予測画像（ＨＤ画素）を生成する。
【２４０２】
具体的には、予測演算部３５３８は、領域抽出部３５３５より供給された予測タップのそれぞれをc_i（iは、１乃至ｎのうちのいずれかの整数）とし、かつ、係数決定部３５３７より供給された予測係数のそれぞれをd_iとして、上述した式（２１８）の右辺を演算することにより、第１の教師画像の所定のＨＤ画素qを予測したＨＤ画素q'を算出し、たＨＤ画素q'を学習用予測画像の１つの画素とする。
【２４０３】
ステップＳ３５９０において、全ての画素について処理が施されたか否かが判定され、全ての画素について処理が施されていないと判定された場合、その処理は、ステップＳ３５８３に戻る。即ち、全ての画素の処理が終了されるまで、ステップＳ３５８３乃至Ｓ３５９０の処理が繰り返される。
【２４０４】
そして、ステップＳ３５９０において、全ての画素について処理が施されたと判定された場合、ステップＳ３５９１において、予測演算部３５３８は、学習予測画像（ステップＳ３５８９の処理毎に生成された各ＨＤ画素q'から構成されるＨＤ画像）を、クラス分類適応処理補正用学習部３５６１に出力する。これにより、クラス分類適応処理用学習処理は終了となる。
【２４０５】
このように、この例においては、全ての画素の処理が終了された後、第１の教師画像を予測したＨＤ画像である学習用予測画像がクラス分類適応処理補正用学習部３５６１に出力される。即ち、全てのＨＤ画素（予測画素）が一括して出力される。
【２４０６】
しかしながら、全ての画素が一括して出力されることは必須ではなく、ステップＳ３５８９の処理でＨＤ画素（予測画素）が生成される毎に、クラス分類適応処理補正用学習部３５６１に出力されてもよい。この場合、ステップＳ３５９１の処理は省略される。
【２４０７】
次に、図３１３のフローチャートを参照して、クラス分類適応処理補正用学習部３５６１（図３００）が実行する「クラス分類適応処理補正用学習処理」の詳細について説明する。
【２４０８】
クラス分類適応処理用学習部３５２１より第１の教師画像（ＨＤ画像）と学習用予測画像（ＨＤ画像）が入力されると、ステップＳ３６０１において、加算部３５７１は、第１の教師画像から学習用予測画像を減算し、差分画像（ＨＤ画像）を生成し、それを第２の教師画像として正規方程式生成部３５７８に供給する。
【２４０９】
また、クラス分類適応処理用学習部３５２１より第１の生徒画像（ＳＤ画像）が入力されると、ステップＳ３６０２において、データ定常性検出部３５７２と実世界推定部３５７３は、入力された第１の生徒画像（ＳＤ画像）から特徴量画像を生成し、それを第２の生徒画像として領域抽出部３５７４と領域抽出部３５７７のそれぞれに供給する。
【２４１０】
即ち、データ定常性検出部３５７２は、第１の生徒画像に含まれるデータの定常性を検出し、その検出結果（いまの場合、角度）をデータ定常性情報として実世界推定部３５７３に出力する。なお、ステップＳ３６０２のデータ定常性検出部３５７２の処理は、入出力の違いはあるが、上述した図４０のステップＳ１０１の処理と基本的に同様の処理である。
【２４１１】
実世界推定部３５７３は、入力した角度（データ定常性情報）に基づいて、実世界推定情報（いまの場合、ＳＤ画像である特徴量画像）を生成し、それを第２の生徒画像として領域抽出部３５７４と領域抽出部３５７７のそれぞれに供給する。なお、ステップＳ３６０２の実世界推定部３５７３の処理は、入出力の違いはあるが、上述した図４０のステップＳ１０２の処理と基本的に同様の処理である。
【２４１２】
また、ステップＳ３６０１とＳ３６０２の処理の順番は、図３１３の例に限定されない。即ち、ステップＳ３６０２の処理が先に実行されてもよいし、ステップＳ３６０１とＳ３６０２の処理が同時に実行されてもよい。
【２４１３】
ステップＳ３６０３において、領域抽出部３５７４は、供給された第２の生徒画像（特徴量画像）からクラスタップを抽出してパターン検出部３５７５に出力する。なお、ステップＳ３６０３の処理は、入出力の違いはあるが、上述したステップＳ３５４２（図３０７）の処理と基本的に同様の処理である。即ち、いまの場合、図３０８で示される配置の画素群３６２１がクラスタップとして抽出される。
【２４１４】
ステップＳ３６０４において、パターン検出部３５７５は、供給されたクラスタップよりクラスコードを決定するためのパターンを検出し、クラスコード決定部３５７６に供給する。なお、ステップＳ３６０４の処理は、入出力の違いはあるが、上述したステップＳ３５４３（図３０７）の処理と基本的に同様の処理である。即ち、いまの場合、学習処理が終了されるときには、少なくとも２７３個のパターンが検出されることになる。
【２４１５】
ステップＳ３６０５において、クラスコード決定部３５７６は、供給されたクラスタップのパターンに基づいてクラスコードを決定し、領域抽出部３５７７と正規方程式生成部３５７８のそれぞれに供給する。なお、ステップＳ３６０５の処理は、入出力の違いはあるが、上述したステップＳ３５４４（図３０７）の処理と基本的に同様の処理である。即ち、いまの場合、学習処理が終了されるときには、少なくとも２７３個のクラスコードが決定されることになる。
【２４１６】
ステップＳ３６０６において、領域抽出部３５７７は、供給されたクラスコードに対応して、第２の生徒画像（特徴量画像）の中から予測タップを抽出し、正規方程式生成部３５７８に供給する。なお、ステップＳ３６０６の処理は、入出力の違いはあるが、上述したステップＳ３５４６（図３０７）の処理と基本的に同様の処理である。即ち、いまの場合、図３１０で示される配置の画素群３６４１が予測タップとして抽出される。
【２４１７】
ステップＳ３６０７において、正規方程式生成部３５７８は、領域抽出部３５７７より供給された予測タップ（ＳＤ画素）、および、第２の教師画像（ＨＤ画像である、第１の教師画像と学習用予測画像の差分画像）を構成するＨＤ画素のうちの所定のＨＤ画素から、上述した式（２２９）（即ち、式（２３３））で示される正規方程式を生成し、クラスコード決定部３５７６より供給されたクラスコードとともに補正係数決定部３５７９に供給する。
【２４１８】
ステップＳ３６０８において、補正係数決定部３５７９は、供給された正規方程式を解いて補正係数を決定し、即ち、上述した式（２３４）の右辺を演算することで補正係数を算出し、供給されたクラスコードに対応付けて補正係数メモリ３５５４に記憶させる。
【２４１９】
ステップＳ３６０９において、全ての画素について処理が施されたか否かが判定され、全ての画素について処理が施されていないと判定された場合、その処理は、ステップＳ３６０３に戻る。即ち、全ての画素の処理が終了されるまで、ステップＳ３６０３乃至Ｓ３６０９の処理が繰り返される。
【２４２０】
そして、ステップＳ３６０９において、全ての画素について処理が施されたと判定された場合、クラス分類適応処理補正用学習処理は終了となる。
【２４２１】
以上、説明したように、クラス分類適応補正処理手法においては、クラス分類適応処理部３５０１より出力された予測画像に対して、クラス分類適応処理補正部３５０２より出力された補正画像（差分予測画像）が加算されて出力される。
【２４２２】
例えば、上述した図２９３で示されるＨＤ画像３５４１の解像度を落とした画像であるＳＤ画像３５４２が入力画像とされた場合、クラス分類適応処理部３５０１からは、図３１４で示される予測画像３５４３が出力される。そして、この予測画像３５４３に、クラス分類適応処理補正部３５０２より出力された補正画像（図示せず）が加算されると（補正画像により補正されると）、図２９４で示される出力画像３６５１となる。
【２４２３】
出力画像３６５１、予測画像３５４３、および、元の画像であるＨＤ画像３５４１（図２９３）のそれぞれを比較するに、出力画像３６５１は、予測画像３５４３よりもＨＤ画像３５４１により近い画像になっていることがわかる。
【２４２４】
このように、クラス分類適応処理補正手法においては、クラス分類適応処理を含む従来の他の手法に比較して、元の画像（センサ２に入射される前の実世界１の信号）により近い画像の出力が可能になる。
【２４２５】
換言すると、クラス分類適応処理補正手法においては、例えば、図２８９のデータ定常性検出部１０１が、それぞれ時空間積分効果を有する、センサ（例えば、図２８９のセンサ２）の複数の検出素子により図２８９の実世界１の光信号が射影され、現実世界の光信号の定常性の一部が欠落した、検出素子により射影された画素値を有する複数の画素からなる入力画像（図２８９）におけるデータの定常性を検出する。
【２４２６】
例えば、図２８９の実世界推定部１０２は、検出されたデータの定常性に対応して、実世界１の光信号を表す光信号関数Ｆ（ｘ）（図２９８）が有する実世界特徴（例えば、図２８９の特徴量画像を構成する画素に対応する特徴量）を検出することで、実世界１の光信号を推定する。
【２４２７】
詳細には、例えば、実世界推定部１０２は、出されたデータの定常性に対応する線（例えば、図３０３の線３６０４）からの少なくとも１次元方向に沿った距離（例えば、図３０３の断面方向距離Xn'）に対応する画素の画素値が、少なくとも１次元方向の積分効果により取得された画素値であるとして、光信号関数Ｆ（ｘ）を、例えば、図３０１の近似関数f₅（ｘ）で近似し、所定画素（例えば、図３０３の画素３６０３）内における近似関数f5（ｘ）の傾斜である画素内傾斜（例えば、上述した式（２３４）のgradであり、式（２３６）のｘの係数ｗ１‘）を、実世界特徴として検出することで、実世界１の光信号を推定する。
【２４２８】
そして、例えば、図２８９の画像生成部１０３が、実世界推定手段により検出された実世界特徴に基いて、入力画像よりも高質な出力画像（図２８９）を予測し生成する。
【２４２９】
詳細には、例えば、画像生成部１０３において、例えば、図２８９のクラス分類適応処理部３５０１が、出力画像における注目画素の周辺に位置する、実世界１の光信号の定常性が欠落した入力画像内の複数の画素の画素値から注目画素の画素値（例えば、図２８９の予測画像の画素であり、上述した式（２２７）のq'）を予測する。
【２４３０】
一方、例えば、図２８９のクラス分類適応処理補正部３５０２は、例えば、図２８９の実世界推定部１０２より供給された特徴量画像（実世界推定情報）から、クラス分類適応処理部３５０１により予測された予測画像の注目画素の画素値を補正する補正項（例えば、図２８９の補正画像（差分予測画像）の画素であり、式（２２７）のｕ‘）を予測する。
【２４３１】
そして、例えば、図２８９の加算部３５０３は、クラス分類適応処理部３５０１により予測された予測画像の注目画素の画素値を、クラス分類適応処理部３５０１により予測された補正項で補正する（例えば、式（２２７）のように演算する）。
【２４３２】
また、クラス分類適応処理補正手法においては、例えば、図２９０の係数メモリ３５１４に記憶される予測係数を学習により決定する図２９１のクラス分類適応処理学習部３５２１と、例えば、図２９９の補正係数メモリ３５５４に記憶される補正係数を学習により決定する図２９１のクラス分類適応処理補正用学習部３５６１を有する図２９１の学習装置３５０４が設けられている。
【２４３３】
詳細には、例えば、図２９２のクラス分類適応処理学習部３５２１には、学習用画像データをダウンコンバートするダウンコンバート部３５３１、並びに、学習用画像データを第１の教師画像とし、ダウンコンバート部３５３１によりダウンコンバートされた学習用画像データを第１の生徒画像とし、第１の教師画像と第１の生徒画像の関係を学習することにより、予測係数を生成する係数決定部３５３７、および、領域抽出部３５３２乃至正規方程式生成部３５３６が設けられている。
【２４３４】
クラス分類適応処理学習部３５２１にはさらに、例えば、係数決定部３５３７により生成（決定）された予測係数を使用して、第１の生徒画像から第１の教師画像を予測する画像データとして、学習用予測画像を生成する予測演算部３５３８が設けられている。
【２４３５】
また、例えば、図３００のクラス分類適応処理補正用学習部３５６１には、第１の生徒画像におけるデータの定常性を検出し、検出したデータの定常性に基づいて、第１の生徒画像を構成する各画素のそれぞれに対応する実世界特徴を検出し、検出した実世界特徴に対応する値を画素値とする特徴量画像（具体的には、例えば、図３０２の特徴量画像３５９１）を、第２の生徒画像（例えば、図３００の第２の生徒画像）として生成するデータ定常性検出部３５７２および実世界推定部３５７３、第１の教師画像と、学習用予測画像の差分からなる画像データ（差分画像）を、第２教師画像として生成する加算部３５７１、並びに、第２の教師画像と、第２の生徒画像の関係を学習することにより、補正係数を生成する補正係数決定部３５７９、および領域抽出部３５７４乃至正規方程式生成部３５７８が設けられている。
【２４３６】
従って、クラス分類適応処理補正手法においては、クラス分類適応処理を含む従来の他の手法に比較して、元の画像（センサ２に入射される前の実世界１の信号）により近い画像の出力が可能になる。
【２４３７】
なお、クラス分類適応処理は、上述したように、ＳＤ画像には含まれていないが、ＨＤ画像に含まれる成分が再現される点で、例えば、単なる補間処理とは異なる。即ち、上述した式（２１８）や式（２２６）だけを見る限りは、いわゆる補間フィルタを用いての補間処理と同一に見えるが、クラス分類適応処理では、その補間フィルタの係数に相当する予測係数d_iまたは補足係数g_iが、教師データと生徒データ（第１の教師画像と第１の生徒画像、または、第２の教師画像と第２の生徒画像）を用いての学習により求められるため、ＨＤ画像に含まれる成分を再現することができる。このことから、上述したようなクラス分類適応処理は、いわば画像の創造（解像度創造）作用がある処理と称することができる。
【２４３８】
さらに、上述した例では、空間解像度を向上させる場合を例にして説明したが、クラス分類適応処理によれば、教師データおよび生徒データを変えて学習を行うことにより得られる種々の係数を用いることで、例えば、Ｓ／Ｎ(Signal to Noise Ratio) の向上や、ぼけの改善、その他の各種の処理を行うことが可能である。
【２４３９】
即ち、例えば、Ｓ／Ｎの向上やぼけの改善を、クラス分類適応処理によって行うには、Ｓ／Ｎの高い画像データを教師データとするとともに、その教師データのＳ／Ｎを低下させた画像（あるいは、ぼかした画像）を生徒データとして、係数を求めればよい。
【２４４０】
以上、本発明の実施の形態として、図３の構成の信号処理装置について説明したが、本発明の実施の形態は、図３の例に限定されず、様々な形態を取ることが可能である。即ち、図１の信号処理装置４の実施の形態は、図３の例に限定されず、様々な形態を取ることが可能である。
【２４４１】
例えば、図３の構成の信号処理装置は、画像である、実世界１の信号が有する定常性に基づいて信号処理を行う。このため、図３の構成の信号処理装置は、実世界１の信号のうちの定常性が存在する部分に対しては、他の信号処理装置の信号処理に比べて、精度のよい信号処理を実行することができ、その結果、より実世界１の信号に近い画像データを出力することが可能になる。
【２４４２】
しかしながら、図３の構成の信号処理装置は、定常性に基づいて信号処理を実行する以上、実世界１の信号のうちの明確な定常性が存在しない部分に対しては、定常性が存在する部分に対する処理と同等の精度で、信号処理を実行することができず、その結果、実世界１の信号に対して誤差を含む画像データを出力することになる。
【２４４３】
そこで、図３の構成の信号処理装置に対してさらに、定常性を利用しない他の信号処理を行う装置（または、プログラム等）を付加することができる。この場合、実世界１の信号のうちの定常性が存在する部分については、図３の構成の信号処理装置が信号処理を実行し、実世界１の信号のうちの明確な定常性が存在しない部分については、付加した他の装置（または、プログラム等）が信号処理を実行することになる。なお、以下、このような実施形態を併用手法と称する。
【２４４４】
以下、図３１５乃至図３２８を参照して、具体的な５つの併用手法（以下、それぞれの併用手法を、第１乃至第５の併用手法と称する）について説明する。
【２４４５】
なお、各併用手法が適用される信号処理装置の各機能をハードウェアで実現するか、ソフトウェアで実現するかは問わない。つまり、後述する図３１５乃至図３１７、図３２１、図３２３、図３２５、および図３２７のそれぞれのブロック図は、ハードウェアのブロック図と考えても、ソフトウェアによる機能ブロック図と考えても良い。
【２４４６】
図３１５は、第１の併用手法が適用される信号処理装置の構成例を表している。
【２４４７】
図３１５の信号処理装置においては、データ３（図１）の一例である画像データが入力され、入力された画像データ（入力画像）に基づいて、後述する画像処理が施されて画像が生成され、生成された画像（出力画像）が出力される。即ち、図３１５は、画像処理装置である信号処理装置４（図１）の構成を示す図である。
【２４４８】
信号処理装置４に入力された入力画像（データ３の一例である画像データ）は、データ定常性検出部４１０１、実世界推定部４１０２、および画像生成部４１０４のそれぞれに供給される。
【２４４９】
データ定常性検出部４１０１は、入力画像からデータの定常性を検出して、検出した定常性を示すデータ定常性情報を実世界推定部４１０２および画像生成部４１０３に供給する。
【２４５０】
このように、データ定常性検出部４１０１は、図３のデータ定常性検出部１０１と基本的に同様の構成と機能を有するものである。従って、データ定常性検出部４１０１は、上述した様々な実施の形態を取ることが可能である。
【２４５１】
ただし、データ定常性検出部４１０１はさらに、注目画素の領域を特定するための情報（以下、領域特定情報と称する）を生成し、領域検出部４１１１に供給する。
【２４５２】
この領域特定情報は、特に限定されず、データ定常性情報が生成された後に新たに生成された情報でもよいし、データ定常性情報が生成される場合に付帯して生成される情報でもよい。
【２４５３】
具体的には、例えば、領域特定情報として、推定誤差が使用可能である。即ち、例えば、データ定常性検出部４１０１が、データ定常性情報として角度を算出し、かつ、その角度を最小自乗法により演算する場合、最小自乗法の演算で推定誤差が付帯的に算出される。この推定誤差が、領域特定情報として使用可能である。
【２４５４】
実世界推定部４１０２は、入力画像、およびデータ定常性検出部４１０１から供給されたデータ定常性情報に基づいて、実世界１（図１）の信号を推定する。即ち、実世界推定部４１０２は、入力画像が取得されたときセンサ２（図１）に入射された、実世界１の信号である画像を推定する。実世界推定部４１０２は、実世界１の信号の推定の結果を示す実世界推定情報を画像生成部４１０３に供給する。
【２４５５】
このように、実世界推定部４１０２は、図３の実世界推定部１０２と基本的に同様の構成と機能を有するものである。従って、実世界推定部４１０２は、上述した様々な実施の形態を取ることが可能である。
【２４５６】
画像生成部４１０３は、実世界推定部４１０２から供給された、推定された実世界１の信号を示す実世界推定情報に基づいて、実世界１の信号により近似した信号を生成して、生成した信号をセレクタ４１１２に供給する。または、画像生成部４１０３は、データ定常性検出部４１０１から供給されたデータ定常性情報、および実世界推定部４１０２から供給された、推定された実世界１の信号を示す実世界推定情報に基づいて、実世界１の信号により近似した信号を生成して、生成した信号をセレクタ４１１２に供給する。
【２４５７】
即ち、画像生成部４１０３は、実世界推定情報に基づいて、実世界１の画像により近似した画像を生成し、セレクタ４１１２に供給する。または、画像生成部４１０３は、データ定常性情報、および実世界推定情報に基づいて、実世界１の画像により近似した画像を生成し、セレクタ４１１２に供給する。
【２４５８】
このように、画像生成部４１０３は、図３の画像生成部１０３と基本的に同様の構成と機能を有するものである。従って、画像生成部４１０３は、上述した様々な実施の形態を取ることが可能である。
【２４５９】
画像生成部４１０４は、入力画像に対して所定の画像処理を施して、画像を生成し、セレクタ４１１２に供給する。
【２４６０】
なお、画像生成部４１０４が実行する画像処理は、データ定常性検出部４１０１、実世界推定部４１０２、および画像生成部４１０３が実行する画像処理とは異なる画像処理であれば、特に限定されない。
【２４６１】
例えば、画像生成部４１０４は、従来のクラス分類適応処理を行うことができる。このクラス分類適応処理を実行する画像生成部４１０４の構成例が、図３１６に示されている。なお、図３１６の説明、即ち、クラス分類適応処理を実行する画像生成部４１０４の詳細の説明については後述する。また、クラス分類適応処理についても、図３１６の説明をするときに併せて説明する。
【２４６２】
定常領域検出部４１０５には、領域検出部４１１１、およびセレクタ４１１２が設けられている。
【２４６３】
領域検出部４１１１は、データ定常性検出部４１０１より供給された領域特定情報に基づいて、セレクタ４１１２に供給された画像（注目画素）が、定常領域であるか、或いは非定常領域であるかを検出し、その検出結果をセレクタ４１１２に供給する。
【２４６４】
なお、領域検出部４１１１が実行する領域検出の処理は、特に限定されず、例えば、上述した推定誤差が領域特定情報として供給される場合、領域検出部４１１１は、供給された推定誤差が所定の閾値よりも小さいとき、入力画像の注目画素は定常領域であると検出し、一方、供給された推定誤差が所定の閾値以上であるとき、入力画像の注目画素は非定常領域であると検出する。
【２４６５】
セレクタ４１１２は、領域検出部４１１１より供給された検出結果に基づいて、画像生成部４１０３より供給された画像、または、画像生成部４１０４より供給された画像のうちのいずれか一方を選択し、選択した画像を出力画像として外部に出力する。
【２４６６】
即ち、領域検出部４１１１により注目画素が定常領域であると検出された場合、セレクタ４１１２は、画像生成部４１０３より供給された画像（入力画像の注目画素における、画像生成部４１０３により生成された画素）を出力画像として選択する。
【２４６７】
これに対して、領域検出部４１１１により注目画素が非定常領域であると検出された場合、セレクタ４１１２は、画像生成部４１０４より供給された画像（入力画像の注目画素における、画像生成部４１０４により生成された画素）を出力画像として選択する。
【２４６８】
なお、外部の出力先に応じて、セレクタ４１１２は、画素単位で、出力画像を出力する（選択した画素毎に出力する）こともできるし、全ての画素の処理が終了するまで処理済みの画素を格納しておき、全ての画素の処理が終了したとき、全ての画素を一括して（出力画像全体を１単位として）出力することもできる。
【２４６９】
次に、図３１６を参照して、画像処理の１例であるクラス分類適応処理を実行する画像生成部４１０４の詳細について説明する。
【２４７０】
図３１６において、画像生成部４１０４が実行するクラス分類適応処理は、例えば、入力画像の空間解像度を向上する処理であるとする。即ち、標準解像度の画像である入力画像を、高解像度の画像である予測画像に変換する処理であるとする。
【２４７１】
なお、以下の説明においても、標準解像度の画像を、適宜、ＳＤ(Standard Definition)画像と称するとともに、ＳＤ画像を構成する画素を、適宜、ＳＤ画素と称することにする。
【２４７２】
また、以下の説明においても、高解像度の画像を、適宜、ＨＤ(High Definition)画像と称するとともに、ＨＤ画像を構成する画素を、適宜、ＨＤ画素と称することにする。
【２４７３】
具体的には、画像生成部４１０４が実行するクラス分類適応処理とは、次のようなものである。
【２４７４】
即ち、はじめに、入力画像（ＳＤ画像）の注目画素（ＳＤ画素）における、予測画像（ＨＤ画像）のＨＤ画素を求めるために、注目画素を含めた、その付近に配置されるＳＤ画素（以下の説明においても、このようなＳＤ画素を、クラスタップと称することにする）の特徴量のそれぞれを求めて、その特徴量毎に予め分類されたクラスを特定する（クラスタップ群のクラスコードを特定する）。
【２４７５】
そして、予め設定された複数の係数群（各係数群のそれぞれは、所定の１つのクラスコードに対応している）のうちの、特定されたクラスコードに対応する係数群を構成する各係数と、注目画素を含めた、その付近のＳＤ画素（以下の説明においても、このような入力画像のＳＤ画素を、予測タップと称することにする。なお、予測タップは、クラスタップと同じこともある）とを用いて積和演算を実行することで、入力画像（ＳＤ画像）の注目画素（ＳＤ画素）における、予測画像（ＨＤ画像）のＨＤ画素を求めるものである。
【２４７６】
より詳細には、図１において、画像である、実世界１の信号（光の強度の分布）がセンサ２に入射されると、センサ２からは入力画像が出力される。
【２４７７】
図３１６において、この入力画像（ＳＤ画像）は、画像生成部４１０４のうちの領域抽出部４１２１と領域抽出部４１２５にそれぞれ供給される。領域抽出部４１２５は、供給された入力画像から、クラス分類を行うために必要なクラスタップ（注目画素（ＳＤ画素）を含む予め設定された位置に存在するＳＤ画素）を抽出し、パターン検出部４１２２に出力する。パターン検出部４１２２は、入力されたクラスタップに基づいて入力画像のパターンを検出する。
【２４７８】
クラスコード決定部４１２３は、パターン検出部４１２２で検出されたパターンに基づいてクラスコードを決定し、係数メモリ４１２４、および、領域抽出部４１２５に出力する。係数メモリ４１２４は、学習により予め求められたクラスコード毎の係数を記憶しており、クラスコード決定部４１２３より入力されたクラスコードに対応する係数を読み出し、予測演算部４１２６に出力する。
【２４７９】
なお、係数メモリ４１２４の係数の学習処理については、図３１７の学習装置のブロック図を参照して後述する。
【２４８０】
また、係数メモリ４１２４に記憶される係数は、後述するように、予測画像（ＨＤ画像）を生成するときに使用される係数である。従って、以下、係数メモリ４１２４に記憶される係数を予測係数と称する。
【２４８１】
領域抽出部４１２５は、クラスコード決定部４１２３より入力されたクラスコードに基づいて、センサ２より入力された入力画像（ＳＤ画像）から、予測画像（ＨＤ画像）を予測生成するのに必要な予測タップ（注目画素を含む予め設定された位置に存在するＳＤ画素）をクラスコードに対応して抽出し、予測演算部４１２６に出力する。
【２４８２】
予測演算部４１２６は、領域抽出部４１２５より入力された予測タップと、係数メモリ４１２４より入力された予測係数とを用いて積和演算を実行し、入力画像（ＳＤ画像）の注目画素（ＳＤ画素）における、予測画像（ＨＤ画像）のＨＤ画素を生成し、セレクタ４１１２に出力する。
【２４８３】
より詳細には、係数メモリ４１２４は、クラスコード決定部４１２３より供給されるクラスコードに対応する予測係数を、予測演算部４１２６に出力する。予測演算部４１２６は、領域抽出部４１２５より供給される入力画像の所定の画素位置の画素値から抽出された予測タップと、係数メモリ４１２４より供給された予測係数とを用いて、次の式（２４０）で示される積和演算を実行することにより、予測画像（ＨＤ画像）のＨＤ画素を求める（予測推定する）。
【２４８４】
【数１９０】

・・・（２４０）
【２４８５】
式（２４０）において、q'は、予測画像（ＨＤ画像）のＨＤ画素を表している。c_i（iは、１乃至ｎの整数値）のそれぞれは、予測タップ（ＳＤ画素）のそれぞれを表している。また、d _iのそれぞれは、予測係数のそれぞれを表している。
【２４８６】
このように、画像生成部４１０４は、ＳＤ画像（入力画像）から、それに対するＨＤ画像を予測推定するので、ここでは、画像生成部４１０４から出力されるＨＤ画像を、予測画像と称している。
【２４８７】
図３１７は、このような画像生成部４１０４の係数メモリ４１２４に記憶される予測係数（式（２４０）におけるd _i）を決定するための学習装置（予測係数の算出装置）を表している。
【２４８８】
図３１７において、所定の画像が、教師画像（ＨＤ画像）としてダウンコンバート部４１４１と正規方程式生成部４１４６のそれぞれに入力される。
【２４８９】
ダウンコンバート部４１４６は、入力された教師画像（ＨＤ画像）から、教師画像よりも解像度の低い生徒画像（ＳＤ画像）を生成し（教師画像をダウンコンバートしたものを生徒画像とし）、領域抽出部４１４２と領域抽出部４１４５のそれぞれに出力する。
【２４９０】
このように、学習装置４１３１には、ダウンコンバート部４１４１が設けられているので、教師画像（ＨＤ画像）は、センサ２（図１）からの入力画像よりも高解像度の画像である必要は無い。なぜならば、教師画像がダウンコンバートされた（解像度が下げられた）生徒画像をＳＤ画像とすれば、生徒画像に対する教師画像がＨＤ画像になるからである。従って、教師画像は、例えば、センサ２からの入力画像そのものとされてもよい。
【２４９１】
領域抽出部４１４２は、ダウンコンバート部４１４１より供給された生徒画像（ＳＤ画像）から、クラス分類を行うために必要なクラスタップ（ＳＤ画素）を抽出し、パターン検出部４１４３に出力する。パターン検出部４１４３は、入力されたクラスタップのパターンを検出し、その検出結果をクラスコード決定部４１４４に出力する。クラスコード決定部４１４４は、入力されたパターンに対応するクラスコードを決定し、そのクラスコードを領域抽出部４１４５、および、正規方程式生成部４１４６のそれぞれに出力する。
【２４９２】
領域抽出部４１４５は、クラスコード決定部４１４４より入力されたクラスコードに基づいて、ダウンコンバート部４１４１より入力された生徒画像（ＳＤ画像）から予測タップ（ＳＤ画素）を抽出し、正規方程式生成部４１４６に出力する。
【２４９３】
なお、以上の領域抽出部４１４２、パターン検出部４１４３、クラスコード決定部４１４４、および領域抽出部４１４５のそれぞれは、図３１６の画像生成部４１０４の領域抽出部４１２１、パターン検出部４１２２、クラスコード決定部４１２３、および、領域抽出部４１２５のそれぞれと、基本的に同様の構成と機能を有するものである。
【２４９４】
正規方程式生成部４１４６は、クラスコード決定部４１４４より入力された全てのクラスコードに対して、クラスコード毎に、領域抽出部４１４５より入力される生徒画像（ＳＤ画像）の予測タップ（ＳＤ画素）と、教師画像（ＨＤ画像）のＨＤ画素とから正規方程式を生成し、係数決定部４１４７に供給する。
【２４９５】
係数決定部４１４７は、正規方程式生成部４１４６より所定のクラスコードに対応する正規方程式が供給されてきたとき、その正規方程式より予測係数のそれぞれを演算し、係数メモリ４１２４にクラスコードと関連付けて記憶させる。
【２４９６】
正規方程式生成部４１４６と、係数決定部４１４７についてさらに詳しく説明する。
【２４９７】
上述した式（２４０）において、学習前は予測係数d_iのそれぞれが未定係数である。学習は、クラスコード毎に複数の教師画像（ＨＤ画像）のＨＤ画素を入力することによって行う。所定のクラスコードに対応するＨＤ画素がｍ個存在し、ｍ個のＨＤ画素のそれぞれを、q_k（ｋは、１乃至ｍの整数値）と記述する場合、式（２４０）から、次の式（２４１）が設定される。
【２４９８】
【数１９１】

・・・（２４１）
【２４９９】
即ち、式（２４１）は、右辺の演算をすることで、所定のＨＤ画素q_kを予測推定することができることを表している。なお、式（２４１）において、e_kは、誤差を表している。即ち、右辺の演算結果である予測画像（ＨＤ画像）のＨＤ画素q_k'が、実際のＨＤ画素q_kと厳密には一致せず、所定の誤差e_kを含む。
【２５００】
そこで、式（２４１）において、誤差e_kの自乗和を最小にする予測係数d_iが学習により求まれば、その予測係数d_iは、実際のＨＤ画素q_kを予測するのに最適な係数であると言える。
【２５０１】
従って、例えば、学習により集められたｍ個（ただし、ｍは、ｎより大きい整数）のＨＤ画素q_kを用いて、最小自乗法により最適な予測係数d_iを一意に決定することができる。
【２５０２】
即ち、式（２４１）の右辺の予測係数d_iを最小自乗法で求める場合の正規方程式は、次の式（２４２）で表される。
【２５０３】
【数１９２】

・・・（２４２）
【２５０４】
従って、式（２４２）で示される正規方程式が生成されれば、その正規方程式を解くことで予測係数d_iが一意に決定されることになる。
【２５０５】
具体的には、式（２４２）で示される正規方程式の各行列のそれぞれを、次の式（２４３）乃至（２４５）のように定義すると、正規方程式は、次の式（２４６）のように表される。
【２５０６】
【数１９３】

・・・（２４３）
【２５０７】
【数１９４】

・・・（２４４）
【２５０８】
【数１９５】

・・・（２４５）
【２５０９】
【数１９６】

・・・（２４６）
【２５１０】
式（２４４）で示されるように、行列Ｄ_MATの各成分は、求めたい予測係数d_iである。従って、式（２４６）において、左辺の行列Ｃ_MATと右辺の行列Ｑ_MATが決定されれば、行列解法によって行列Ｄ_MAT（即ち、予測係数d_i）の算出が可能である。
【２５１１】
より具体的には、式（２４３）で示されるように、行列Ｃ_MATの各成分は、予測タップc_ikが既知であれば演算可能である。予測タップc_ikは、領域抽出部４１４５により抽出されるので、正規方程式生成部４１４６は、領域抽出部４１４５より供給されてくる予測タップc_ikのそれぞれを利用して行列Ｃ_MATの各成分を演算することができる。
【２５１２】
また、式（２４５）で示されるように、行列Ｑ_MATの各成分は、予測タップc_ikとＨＤ画素q_kが既知であれば演算可能である。予測タップc_ikは、行列Ｃ_MATの各成分に含まれるものと同一のものであり、また、ＨＤ画素q_kは、予測タップc_ikに含まれる注目画素（生徒画像のＳＤ画素）に対する教師画像のＨＤ画素である。従って、正規方程式生成部４１４６は、領域抽出部４１４５より供給された予測タップc_ikと、教師画像を利用して行列Ｑ_MATの各成分を演算することができる。
【２５１３】
このようにして、正規方程式生成部４１４６は、クラスコード毎に、行列Ｃ_MATと行列Ｑ_MATの各成分を演算し、その演算結果をクラスコードに対応付けて係数決定部４１４７に供給する。
【２５１４】
係数決定部４１４７は、供給された所定のクラスコードに対応する正規方程式に基づいて、上述した式（２４６）の行列Ｄ_MATの各成分である予測係数d_iを演算する。
【２５１５】
具体的には、上述した式（２４６）の正規方程式は、次の式（２４７）のように変形できる。
【２５１６】
【数１９７】

・・・（２４７）
【２５１７】
式（２４７）において、左辺の行列Ｄ_MATの各成分が、求めたい予測係数d_iである。また、行列Ｃ_MATと行列Ｑ_MATのそれぞれの各成分は、正規方程式生成部４１４６より供給されるものである。従って、係数決定部４１４７は、正規方程式生成部４１４６より所定のクラスコードに対応する行列Ｃ_MATと行列Ｑ_MATのそれぞれの各成分が供給されてきたとき、式（２４７）の右辺の行列演算を行うことで行列Ｄ_MATを演算し、その演算結果（予測係数d_i）をクラスコードに対応付けて係数メモリ４１２４に記憶させる。
【２５１８】
なお、クラス分類適応処理は、上述したように、ＳＤ画像には含まれていないが、ＨＤ画像に含まれる成分が再現される点で、例えば、単なる補間処理とは異なる。即ち、適応処理では、上述した式（２４０）だけを見る限りは、いわゆる補間フィルタを用いての補間処理と同一に見えるが、その補間フィルタの係数に相当する予測係数d_iが、教師データと生徒データを用いての学習により求められるため、ＨＤ画像に含まれる成分を再現することができる。このことから、上述したようなクラス分類適応処理は、いわば画像の創造（解像度創造）作用がある処理と称することができる。
【２５１９】
さらに、上述した例では、空間解像度を向上させる場合を例にして説明したが、クラス分類適応処理によれば、教師データおよび生徒データを変えて学習を行うことにより得られる種々の係数を用いることで、例えば、Ｓ／Ｎ(Signal to Noise Ratio) の向上や、ぼけの改善、その他の各種の処理を行うことが可能である。
【２５２０】
即ち、例えば、Ｓ／Ｎの向上やぼけの改善を、クラス分類適応処理によって行うには、Ｓ／Ｎの高い画像データを教師データとするとともに、その教師データのＳ／Ｎを低下させた画像（あるいは、ぼかした画像）を生徒データとして、係数を求めればよい。
【２５２１】
以上、クラス分類適応処理を実行する画像生成部４１０４と、その学習装置４１３１のそれぞれの構成について説明した。
【２５２２】
なお、上述したように、画像生成部４１０４は、クラス分類適応処理以外の画像処理を実行する構成とすることも可能であるが、説明の簡略上、以下の説明においては、画像生成部４１０４の構成は、上述した図３１６の構成とされる。即ち、以下、画像生成部４１０４は、クラス分類適応処理を実行することで、入力画像より空間解像度の高い画像を生成し、セレクタ４１１２に供給するとする。
【２５２３】
次に、図３１８を参照して、第１の併用手法が適用される信号処理装置（図３１５）の信号の処理について説明する。
【２５２４】
なお、ここでは、データ定常性検出部４１０１は、角度（画像である、実世界１（図１）の信号の注目位置における、定常性の方向（空間方向）と、空間方向の１方向であるＸ方向（センサ２（図１）の検出素子の所定の一辺と平行な方向）とのなす角度）を最小自乗法により演算し、演算した角度をデータ定常性情報として出力するとする。
【２５２５】
データ定常性検出部４１０１はまた、角度を演算するときに併せて算出される推定誤差（最小自乗法の誤差）を、領域特定情報として出力するとする。
【２５２６】
図１において、画像である、実世界１の信号がセンサ２に入射されると、センサ２からは入力画像が出力される。
【２５２７】
図３１５において、この入力画像は、データ定常性検出部４１０１、および実世界推定部４１０２に入力されるとともに、画像生成部４１０４に入力される。
【２５２８】
そこで、図３１８のステップＳ４１０１において、画像生成部４１０４は、入力画像（ＳＤ画像）の所定のＳＤ画素を注目画素として、上述したクラス分類適応処理を実行し、予測画像（ＨＤ画像）のＨＤ画素（注目画素におけるＨＤ画素）を生成し、セレクタ４１１２に供給する。
【２５２９】
なお、以下、画像生成部４１０４より出力される画素と、画像生成部４１０３より出力される画素のそれぞれを区別する場合、画像生成部４１０４より出力される画素を第１の画素と称し、画像生成部４１０３より出力される画素を第２の画素と称する。
【２５３０】
また、以下、このような画像生成部４１０４が実行する処理（いまの場合、ステップＳ４１０１の処理）を、「クラス分類適応処理の実行処理」と称する。この例の「クラス分類適応処理の実行処理」の詳細については、図３１９のフローチャートを参照して後述する。
【２５３１】
一方、ステップＳ４１０２において、データ定常性検出部４１０１は、定常性の方向に対応する角度を検出するとともに、その推定誤差を演算する。検出された角度は、データ定常性情報として実世界推定部４１０２と画像生成部４１０３のそれぞれに供給される。また、演算された推定誤差は、領域特定情報として領域検出部４１１１に供給される。
【２５３２】
ステップＳ４１０３において、実世界推定部４１０２は、データ定常性検出部４１０１により検出された角度と、入力画像に基づいて、実世界１の信号を推定する。
【２５３３】
なお、上述したように、実世界推定部４１０２が実行する推定の処理は、特に限定されず、上述した様々な手法を利用することができる。ここでは、例えば、実世界推定部４１０２は、実世界１の信号を表す関数Ｆ（以下の説明においても、関数Ｆを光信号関数Ｆと称することにする）を、所定の関数ｆ（以下の説明においても、関数ｆを近似関数ｆと称することにする）で近似することで、実世界１の信号（光信号関数Ｆ）を推定するとする。
【２５３４】
また、ここでは、例えば、実世界推定部４１０２は、近似関数ｆの特徴量（係数）を、実世界推定情報として画像生成部４１０３に供給するとする。
【２５３５】
ステップＳ４１０４において、画像生成部４１０３は、実世界推定部４１０２により推定された実世界１の信号に基づいて、画像生成部４１０４のクラス分類適応処理により生成された第１の画素（ＨＤ画素）に対応する第２の画素（ＨＤ画素）を生成し、セレクタ４１１２に供給する。
【２５３６】
いまの場合、実世界推定部４１０２より近似関数ｆの特徴量（係数）が供給されてくるので、画像生成部４１０３は、例えば、供給された近似関数ｆの特徴量に基づいて、近似関数ｆを所定の積分範囲で積分することで、第２の画素（ＨＤ画素）を生成する。
【２５３７】
ただし、積分範囲は、画像生成部４１０４より出力される第１の画素（ＨＤ画素）と同一の大きさ（同一の解像度）の第２の画素が生成可能な範囲とされる。即ち、空間方向においては、積分範囲は、これから生成される第２の画素の画素幅となる。
【２５３８】
なお、ステップＳ４１０１の「クラス分類適応処理の実行処理」と、ステップＳ４１０２乃至Ｓ４１０４の一連の処理の順番は、図３１８の例に限定されず、ステップＳ４１０２乃至Ｓ４１０４の一連の処理が先に実行されても構わないし、ステップＳ４１０１の「クラス分類適応処理の実行処理」と、ステップＳ４１０２乃至Ｓ４１０４の一連の処理が同時に実行されても構わない。
【２５３９】
ステップＳ４１０５において、領域検出部４１１１は、ステップＳ４１０２の処理でデータ定常性検出部４１０１により演算された推定誤差（領域特定情報）に基づいて、ステップＳ４１０４の処理で画像生成部４１０３により生成された第２の画素（ＨＤ画素）の領域を検出する。
【２５４０】
即ち、第２の画素は、データ定常性検出部４１０１が注目画素として使用した入力画像のＳＤ画素におけるＨＤ画素である。従って、注目画素（入力画像のＳＤ画素）と第２の画素（ＨＤ画素）の領域の種類（定常領域、または非定常領域）は同一である。
【２５４１】
また、データ定常性検出部４１０１が出力する領域特定情報は、注目画素における角度が最小自乗法により算出された場合の推定誤差である。
【２５４２】
そこで、領域検出部４１１１は、データ定常性検出部４１０１より供給された注目画素（入力画像のＳＤ画素）に対する推定誤差と、予め設定された閾値を比較し、その比較の結果が、推定誤差が閾値よりも小さい場合、第２の画素は定常領域であると検出し、一方、推定誤差が閾値以上である場合、第２の画素は非定常領域であると検出する。そして、検出結果は、セレクタ４１１２に供給される。
【２５４３】
この領域検出部４１１１の検出結果がセレクタ４１１２に供給されると、ステップＳ４１０６において、セレクタ４１１２は、検出された領域が、定常領域であるか否かを判定する。
【２５４４】
ステップＳ４１０６において、検出された領域が、定常領域であると判定した場合、セレクタ４１１２は、ステップＳ４１０７において、画像生成部４１０３より供給された第２の画素を、出力画像として外部に出力する。
【２５４５】
これに対して、ステップＳ４１０６において、検出された領域が、定常領域ではない（非定常領域である）と判定した場合、セレクタ４１１２は、ステップＳ４１０８において、画像生成部４１０４より供給された第１の画素を、出力画像として外部に出力する。
【２５４６】
その後、ステップＳ４１０９において、全画素の処理を終了したか否かが判定され、全画素の処理がまだ終了していないと判定された場合、その処理は、ステップＳ４１０１に戻る。即ち、全ての画素の処理が終了されるまで、ステップＳ４１０１乃至Ｓ４１０９の処理が繰り返される。
【２５４７】
そして、ステップＳ４１０９において、全画素の処理を終了したと判定された場合、その処理は終了となる。
【２５４８】
このように、図３１８のフローチャートの例においては、第１の画素（ＨＤ画素）と第２の画素（ＨＤ画素）が生成される毎に、出力画像として第１の画素または第２の画素が画素単位で出力される。
【２５４９】
しかしながら、上述したように、画素単位で出力されることは必須ではなく、全ての画素の処理が終了された後、出力画像として、全ての画素が一括して出力されてもよい。この場合、ステップＳ４１０７とステップＳ４１０８のそれぞれの処理においては、画素（第１の画素または第２の画素）は出力されずに、セレクタ４１１２に一次格納され、ステップＳ４１０９の処理の後、全ての画素を出力する処理が追加される。
【２５５０】
次に、図３１９のフローチャートを参照して、図３１６の構成の画像生成部４１０４が実行する「クラス分類適応処理の実行処理」（例えば、上述した図３１８のステップＳ４１０１の処理）の詳細について説明する。
【２５５１】
センサ２からの入力画像（ＳＤ画像）が画像生成部４１０４に入力されると、ステップＳ４１２１において、領域抽出部４１２１と領域抽出部４１２５のそれぞれは、入力画像を入力する。
【２５５２】
ステップＳ４１２２において、領域抽出部４１２１は、入力画像の中から、注目画素（ＳＤ画素）、および、予め設定された注目画素からの相対位置（１以上の位置）のそれぞれに位置する画素（ＳＤ画素）を、クラスタップとして抽出し、パターン検出部４１２２に供給する。
【２５５３】
ステップＳ４１２３において、パターン検出部４１２２は、供給されたクラスタップのパターンを検出し、クラスコード決定部４１２３に供給する。
【２５５４】
ステップＳ４１２４において、クラスコード決定部４１２３は、予め設定されている複数のクラスコードの中から、供給されたクラスタップのパターンに適合するクラスコードを決定し、係数メモリ４１２４と領域抽出部４１２５のそれぞれに供給する。
【２５５５】
ステップＳ４１２５において、係数メモリ４１２４は、供給されたクラスコードに基づいて、予め学習処理により決定された複数の予測係数（群）の中から、これから使用する予測係数（群）を読み出し、予測演算部４１２６に供給する。
【２５５６】
なお、学習処理については、図３２０のフローチャートを参照して後述する。
【２５５７】
ステップＳ４１２６において、領域抽出部４１２５は、供給されたクラスコードに対応して、入力画像の中から、注目画素（ＳＤ画素）、および、予め設定された注目画素からの相対位置（１以上の位置であって、クラスタップの位置とは独立して設定された位置。ただし、クラスタップの位置と同一の位置でもよい）のそれぞれに位置する画素（ＳＤ画素）を、予測タップとして抽出し、予測演算部４１２６に供給する。
【２５５８】
ステップＳ４１２７において、予測演算部４１２６は、領域抽出部４１２５より供給された予測タップを、係数メモリ４１２４より供給された予測係数を用いて演算し、予測画像（第１の画素）を生成して外部（図３１５の例では、セレクタ４１１２）に出力する。
【２５５９】
具体的には、予測演算部４１２６は、領域抽出部４１２５より供給された予測タップのそれぞれをc_i（iは、１乃至ｎのうちのいずれかの整数）とし、かつ、係数メモリ４１２４より供給された予測係数のそれぞれをd_iとして、上述した式（２４０）の右辺を演算することにより、注目画素（ＳＤ画素）におけるＨＤ画素q'を算出し、それを予測画像（ＨＤ画像）の所定の１つの画素（第１の画素）として外部に出力する。その後、処理は終了となる。
【２５６０】
次に、図３２０のフローチャートを参照して、画像生成部４１０４に対する学習装置４１３１（図３１７）が実行する学習処理（画像生成部４１０４が使用する予測係数を学習により生成する処理）について説明する。
【２５６１】
ステップＳ４１４１において、ダウンコンバート部４１４１と正規方程式生成部４１４６のそれぞれは、供給された所定の画像を、教師画像（ＨＤ画像）として入力する。
【２５６２】
ステップＳ４１４２において、ダウンコンバート部４１４１は、入力された教師画像をダウンコンバートして（解像度を落として）生徒画像（ＳＤ画像）を生成し、領域抽出部４１４２と領域抽出部４１４５のそれぞれに供給する。
【２５６３】
ステップＳ４１４３において、領域抽出部４１４２は、供給された生徒画像からクラスタップを抽出してパターン検出部４１４３に出力する。なお、ステップＳ４１４３の処理は、上述したステップＳ４１２２（図３１９）の処理と基本的に同様の処理である。
【２５６４】
ステップＳ４１４４において、パターン検出部４１４３は、供給されたクラスタップよりクラスコードを決定するためのパターンを検出し、クラスコード決定部４１４４に供給する。なお、ステップＳ４１４４の処理は、上述したステップＳ４１２３（図３１９）の処理と基本的に同様の処理である。
【２５６５】
ステップＳ４１４５において、クラスコード決定部４１４４は、供給されたクラスタップのパターンに基づいてクラスコードを決定し、領域抽出部４１４５と正規方程式生成部４１４６のそれぞれに供給する。なお、ステップＳ４１４５の処理は、上述したステップＳ４１２４（図３１９）の処理と基本的に同様の処理である。
【２５６６】
ステップＳ４１４６において、領域抽出部４１４５は、供給されたクラスコードに対応して、生徒画像の中から予測タップを抽出し、正規方程式生成部４１４６に供給する。なお、ステップＳ４１４６の処理は、上述したステップＳ４１２６（図３１９）の処理と基本的に同様の処理である。
【２５６７】
ステップＳ４１４７において、正規方程式生成部４１４６は、領域抽出部４１４５より供給された予測タップ（ＳＤ画素）、および、教師画像（ＨＤ画像）の所定のＨＤ画素から、上述した式（２４２）（即ち、式（２４６））で示される正規方程式を生成し、生成した正規方程式と、クラスコード決定部４１４４より供給されたクラスコードを関連付けて係数決定部４１４７に供給する。
【２５６８】
ステップＳ４１４８において、係数決定部４１４７は、供給された正規方程式を解いて予測係数を決定し、即ち、上述した式（２４７）の右辺を演算することで予測係数を算出し、供給されたクラスコードに対応付けて係数メモリ４１２４に記憶させる。
【２５６９】
その後、ステップＳ４１４９において、全ての画素について処理が施されたか否かが判定され、全ての画素について処理が施されていないと判定された場合、その処理は、ステップＳ４１４３に戻る。即ち、全ての画素の処理が終了されるまで、ステップＳ４１４３乃至Ｓ４１４９の処理が繰り返される。
【２５７０】
そして、ステップＳ４１４９において、全ての画素について処理が施されたと判定された場合、処理は終了となる。
【２５７１】
次に、図３２１と図３２２を参照して、第２の併用手法について説明する。
【２５７２】
図３２１は、第２の併用手法が適用される信号処理装置の構成例を表している。
【２５７３】
図３２１において、第１の併用手法が適用される信号処理装置（図３１５）と対応する部分には、対応する符号が付してある。
【２５７４】
図３１５の構成例（第１の併用手法）においては、領域特定情報は、データ定常性検出部４１０１より出力され、領域検出部４１１１に入力されていたが、図３２１の構成例（第２の併用手法）においては、領域特定情報は、実世界推定部４１０２より出力され、領域検出部４１１１に入力される。
【２５７５】
この領域特定情報は、特に限定されず、実世界推定部４１０２が実世界１（図１）の信号を推定した後に新たに生成された情報でもよいし、実世界１の信号が推定される場合に付帯して生成される情報でもよい。
【２５７６】
具体的には、例えば、領域特定情報として、推定誤差が使用可能である。
【２５７７】
ここで、推定誤差について説明する。
【２５７８】
上述したように、データ定常性検出部４１０１より出力される推定誤差（図３１５の領域特定情報）は、例えば、データ定常性検出部４１０１より出力されるデータ定常性情報が角度であり、かつ、その角度が最小自乗法により演算される場合、その最小自乗法の演算で付帯的に算出される推定誤差である。
【２５７９】
これに対して、実世界推定部４１０２より出力される推定誤差（図３２１の領域特定情報）は、例えば、マッピング誤差である。
【２５８０】
即ち、実世界推定部４１０２により実世界１の信号が推定されているので、推定された実世界１の信号から任意の大きさの画素を生成する（画素値を演算する）ことが可能である。ここでは、このように、新たな画素を生成することを、マッピングと称している。
【２５８１】
従って、実世界推定部４１０２は、実世界１の信号を推定した後、その推定した実世界１の信号から、入力画像の注目画素（実世界１が推定される場合に注目画素として使用された画素）が配置されていた位置における新たな画素を生成する（マッピングする）。即ち、実世界推定部４１０２は、推定した実世界１の信号から、入力画像の注目画素の画素値を予測演算する。
【２５８２】
そして、実世界推定部４１０２は、マッピングした新たな画素の画素値（予測した入力画像の注目画素の画素値）と、実際の入力画像の注目画素の画素値との差分を演算する。この差分を、ここでは、マッピング誤差と称している。
【２５８３】
このようにして実世界推定部４１０２は、マッピング誤差（推定誤差）を演算することで、演算したマッピング誤差（推定誤差）を、領域特定情報として領域検出部４１１１に供給することができる。
【２５８４】
なお、領域検出部４１１１が実行する領域検出の処理は、上述したように、特に限定されないが、例えば、実世界推定部４１０２が、上述したマッピング誤差（推定誤差）を領域特定情報として領域検出部４１１１に供給する場合、領域検出部４１１１は、供給されたマッピング誤差（推定誤差）が所定の閾値よりも小さいとき、入力画像の注目画素は定常領域であると検出し、一方、供給されたマッピング誤差（推定誤差）が所定の閾値以上であるとき、入力画像の注目画素は非定常領域であると検出する。
【２５８５】
その他の構成は、図３１５のそれと基本的に同様である。即ち、第２の併用手法が適用される信号処理装置（図３２１）においても、第１の併用手法が適用される信号処理装置（図３１５）と基本的に同様の構成と機能を有する、データ定常性検出部４１０１、実世界推定部４１０２、画像生成部４１０３、画像生成部４１０４、並びに定常領域検出部４１０５（領域検出部４１１１およびセレクタ４１１２）が設けられている。
【２５８６】
図３２２は、図３２１の構成の信号処理装置の信号の処理（第２の併用手法の信号の処理）を説明するフローチャートである。
【２５８７】
第２の併用手法の信号の処理は、第１の併用手法の信号の処理（図３１８のフローチャートで示される処理）と類似している。そこで、ここでは、第１の併用手法において説明した処理については、その説明を適宜省略し、以下、図３２２のフローチャートを参照して、第１の併用手法とは異なる第２の併用手法の信号の処理を中心に説明する。
【２５８８】
なお、ここでは、データ定常性検出部４１０１は、第１の併用手法と同様に、角度（実世界１（図１）の信号の注目位置における、定常性の方向（空間方向）と、空間方向の１方向であるＸ方向（センサ２（図１）の検出素子の所定の一辺と平行な方向）とのなす角度）を最小自乗法により演算し、演算した角度をデータ定常性情報として出力するとする。
【２５８９】
ただし、上述したように、第１の併用手法においては、データ定常性検出部４１０１が領域特定情報（例えば、推定誤差）を領域検出部４１１１に供給していたのに対して、第２の併用手法においては、実世界推定部４１０２が領域特定情報（例えば、推定誤差（マッピング誤差））を領域検出部４１１１に供給する。
【２５９０】
従って、第２の併用手法においては、データ定常性検出部４１０１の処理として、ステップＳ４１６２の処理が実行される。この処理は、第１の併用手法における、図３１８のステップＳ４１０２の処理に相当する。即ち、ステップＳ４１６２において、データ定常性検出部４１０１は、入力画像に基づいて、定常性の方向に対応する角度を検出し、検出した角度をデータ定常性情報として、実世界推定部４１０２と画像生成部４１０３のそれぞれに供給する。
【２５９１】
また、第２の併用手法においては、実世界推定部４１０２の処理として、ステップＳ４１６３の処理が実行される。この処理は、第１の併用手法における、図３１８のステップＳ４１０３の処理に相当する。即ち、ステップＳ４１６３において、実世界推定部４１０２は、ステップＳ４１６２の処理でデータ定常性検出部４１０１により検出された角度に基づいて、実世界１（図１）の信号を推定するとともに、推定された実世界１の信号の推定誤差、即ち、マッピング誤差を演算し、それを領域特定情報として領域検出部４１１１に供給する。
【２５９２】
その他の処理は、第１の併用手法の対応する処理（図３１８のフローチャートで示される処理のうちの対応する処理）と基本的に同様であるので、その説明は省略する。
【２５９３】
次に、図３２３と図３２４を参照して、第３の併用手法について説明する。
【２５９４】
図３２３は、第３の併用手法が適用される信号処理装置の構成例を表している。
【２５９５】
図３２３において、第１の併用手法が適用される信号処理装置（図３１５）と対応する部分には、対応する符号が付してある。
【２５９６】
図３１５の構成例（第１の併用手法）においては、定常領域検出部４１０５は、画像生成部４１０３と画像生成部４１０４の後段に配設されていたが、図３２３の構成例（第３の併用手法）においては、それに対応する定常領域検出部４１６１が、データ定常性検出部４１０１の後段であって、実世界推定部４１０２と画像生成部４１０４の前段に配設されている。
【２５９７】
このような配設位置の違いにより、第１の併用手法における定常領域検出部４１０５と、第３の併用手法における定常領域検出部４１６１は若干差異がある。そこで、この差異を中心に、定常領域検出部４１６１について説明する。
【２５９８】
定常領域検出部４１６１には、領域検出部４１７１と実行指令生成部４１７２が設けられている。このうちの領域検出部４１７１は、定常領域検出部４１０５の領域検出部４１１１（図３１５）と基本的に同様の構成と機能を有している。一方、実行指令生成部４１７２の機能は、定常領域検出部４１０５のセレクタ４１１２（図３１５）のそれと若干差異がある。
【２５９９】
即ち、上述したように、第１の併用手法におけるセレクタ４１１２は、領域検出部４１１１の検出結果に基づいて、画像生成部４１０３からの画像と、画像生成部４１０４からの画像のうちのいずれか一方を選択し、選択した画像を出力画像として出力する。このように、セレクタ４１１２は、領域検出部４１１１の検出結果の他に、画像生成部４１０３からの画像と、画像生成部４１０４からの画像を入力し、出力画像を出力する。
【２６００】
一方、第３の併用手法における実行指令生成部４１７２は、領域検出部４１７１の検出結果に基づいて、入力画像の注目画素（データ定常性検出部４１０１が注目画素とした画素）における新たな画素の生成の処理を実行するのは、画像生成部４１０３であるのか画像生成部４１０４であるのかを選択する。
【２６０１】
即ち、領域検出部４１７１が、入力画像の注目画素は定常領域であるという検出結果を実行指令生成部４１７２に供給した場合、実行指令生成部４１７２は、画像生成部４１０３を選択し、実世界推定部４１０２に対して、その処理の実行を開始させる指令（このような指令を、以下、実行指令と称する）を供給する。すると、実世界推定部４１０２が、その処理を開始し、実世界推定情報を生成し、画像生成部４１０３に供給する。画像生成部４１０３は、供給された実世界推定情報（必要に応じて、それに加えてデータ定常性検出部４１０１より供給されたデータ定常性情報）に基づいて新たな画像を生成し、それを出力画像として外部に出力する。
【２６０２】
これに対して、領域検出部４１７１が、入力画像の注目画素は非定常領域であるという検出結果を実行指令生成部４１７２に供給した場合、実行指令生成部４１７２は、画像生成部４１０４を選択し、画像生成部４１０４に対して実行指令を供給する。すると、画像生成部４１０４が、その処理を開始し、入力画像に対して所定の画像処理（いまの場合、クラス分類適応処理）を施して、新たな画像を生成し、それを出力画像として外部に出力する。
【２６０３】
このように、第３の併用手法における実行指令生成部４１７２は、領域検出部４１７１の検出結果を入力し、実行指令を出力する。即ち、実行指令生成部４１７２は、画像を入出力しない。
【２６０４】
なお、定常領域検出部４１６１以外の構成は、図３１５のそれと基本的に同様である。即ち、第３の併用手法が適用される信号処理装置（図３２３の信号処理装置）においても、第１の併用手法が適用される信号処理装置（図３１５）と基本的に同様の構成と機能を有する、データ定常性検出部４１０１、実世界推定部４１０２、画像生成部４１０３、および、画像生成部４１０４が設けられている。
【２６０５】
ただし、第３の併用手法においては、実世界推定部４１０２と画像生成部４１０４のそれぞれは、実行指令生成部４１７２からの実行指令が入力されない限り、その処理を実行しない。
【２６０６】
ところで、図３２３の例では、画像の出力単位は画素単位とされている。そこで、図示はしないが、出力単位を１フレームの画像全体とするために（全ての画素を一括して出力するために）、例えば、画像生成部４１０３と画像生成部４１０４の後段に、画像合成部をさらに設けることもできる。
【２６０７】
この画像合成部は、画像生成部４１０３から出力された画素値と、画像生成部４１０４より出力された画素値を加算し（合成し）、加算した値を対応する画素の画素値とする。この場合、画像生成部４１０３と画像生成部４１０４のうちの、実行指令が供給されていない方は、その処理を実行せず、所定の一定値（例えば、０）を画像合成部に常時供給する。
【２６０８】
画像合成部は、このような処理を全ての画素について繰り返し実行し、全ての画素の処理を終了すると、全ての画素を一括して（１フレームの画像データとして）外部に出力する。
【２６０９】
次に、図３２４のフローチャートを参照して、第３の併用手法が適用される信号処理装置（図３２３）の信号の処理について説明する。
【２６１０】
なお、ここでは、第１の併用手法のときと同様に、データ定常性検出部４１０１は、角度（実世界１（図１）の信号の注目位置における、定常性の方向（空間方向）と、空間方向の１方向であるＸ方向（センサ２（図１）の検出素子の所定の一辺と平行な方向）とのなす角度）を最小自乗法により演算し、演算した角度をデータ定常性情報として出力するとする。
【２６１１】
データ定常性検出部４１０１はまた、角度を演算するときに併せて算出される推定誤差（最小自乗法の誤差）を、領域特定情報として出力するとする。
【２６１２】
図１において、実世界１の信号がセンサ２に入射されると、センサ２からは入力画像が出力される。
【２６１３】
図３２３において、この入力画像は、画像生成部４１０４に入力されるとともに、データ定常性検出部４１０１、および実世界推定部４１０２にも入力される。
【２６１４】
そこで、図３２４のステップＳ４１８１において、データ定常性検出部４１０１は、入力画像に基づいて、定常性の方向に対応する角度を検出するとともに、その推定誤差を演算する。検出された角度は、データ定常性情報として実世界推定部４１０２と画像生成部４１０３のそれぞれに供給される。また、演算された推定誤差は、領域特定情報として領域検出部４１７１に供給される。
【２６１５】
なお、ステップＳ４１８１の処理は、上述したステップＳ４１０２（図３１８）の処理と基本的に同様の処理である。
【２６１６】
また、上述したように、いまの時点においては（実行指令生成部４１７２から実行指令が供給されない限り）、実世界推定部４１０２も画像生成部４１０４もその処理を実行しない。
【２６１７】
ステップＳ４１８２において、領域検出部４１７１は、データ定常性検出部４１０１により演算された推定誤差（供給された領域特定情報）に基づいて、入力画像の注目画素（データ定常性検出部４１０１が角度を検出する場合に注目画素とした画素）の領域を検出し、その検出結果を実行指令生成部４１７２に供給する。なお、ステップＳ４１８２の処理は、上述したステップＳ４１０５（図３１８）の処理と基本的に同様の処理である。
【２６１８】
領域検出部４１７１の検出結果が実行指令生成部４１７２に供給されると、ステップＳ４１８３において、実行指令生成部４１７２は、検出された領域が、定常領域であるか否かを判定する。なお、ステップＳ４１８３の処理は、上述したステップＳ４１０６（図３１８）の処理と基本的に同様の処理である。
【２６１９】
ステップＳ４１８３において、検出された領域が定常領域ではないと判定した場合、実行指令生成部４１７２は、実行指令を画像生成部４１０４に供給する。すると、画像生成部４１０４は、ステップＳ４１８４において、「クラス分類適応処理の実行処理」を実行して、第１の画素（注目画素（入力画像のＳＤ画素）におけるＨＤ画素）を生成し、ステップＳ４１８５において、クラス分類適応処理により生成された第１の画素を、出力画像として外部に出力する。
【２６２０】
なお、ステップＳ４１８４の処理は、上述したステップＳ４１０１（図３１８）の処理と基本的に同様の処理である。即ち、図３１９のフローチャートは、ステップＳ４１８４の処理の詳細を説明するフローチャートでもある。
【２６２１】
これに対して、ステップＳ４１８３において、検出された領域が定常領域であると判定した場合、実行指令生成部４１７２は、実行指令を実世界推定部４１０２に供給する。すると、ステップＳ４１８６において、実世界推定部４１０２は、データ定常性検出部４１０１により検出された角度と、入力画像に基づいて、実世界１の信号を推定する。なお、ステップＳ４１８６の処理は、上述したステップＳ４１０３（図３１８）の処理と基本的に同様の処理である。
【２６２２】
そして、画像生成部４１０３は、ステップＳ４１８７において、実世界推定部４１０２により推定された実世界１の信号に基づいて、検出された領域（即ち、入力画像の注目画素（ＳＤ画素））における第２の画素（ＨＤ画素）を生成し、ステップＳ４１８８において、その第２の画素を出力画像として出力する。なお、ステップＳ４１８７の処理は、上述したステップＳ４１０４（図３１８）の処理と基本的に同様の処理である。
【２６２３】
第１の画素または第２の画素が出力画像として出力されると（ステップＳ４１８５、またはステップＳ４１８８の処理の後）、ステップＳ４１８９において、全画素の処理を終了したか否かが判定され、全画素の処理がまだ終了していないと判定された場合、その処理は、ステップＳ４１８１に戻る。即ち、全ての画素の処理が終了されるまで、ステップＳ４１８１乃至Ｓ４１８９の処理が繰り返される。
【２６２４】
そして、ステップＳ４１８９において、全画素の処理を終了したと判定された場合、その処理は終了となる。
【２６２５】
このように、図３２４のフローチャートの例においては、第１の画素（ＨＤ画素）または第２の画素（ＨＤ画素）が生成される毎に、出力画像として第１の画素または第２の画素が画素単位で出力される。
【２６２６】
しかしながら、上述したように、図３２３の構成の信号処理装置の最終段（画像生成部４１０３と画像生成部４１０４の後段）に画像合成部（図示せず）をさらに設ければ、全ての画素の処理が終了された後、出力画像として、全ての画素を一括して出力することが可能になる。この場合、ステップＳ４１８５とステップＳ４１８８のそれぞれに処理においては、画素（第１の画素または第２の画素）は外部ではなく画像合成部に出力される。そして、ステップＳ４１８９の処理の前に、画像合成部が、画像生成部４１０３から供給される画素の画素値と、画像生成部４１０４から供給される画素の画素値を合成して、出力画像の画素を生成する処理と、ステップＳ４１８９の処理の後に、画像合成部が、全ての画素を出力する処理が追加される。
【２６２７】
次に、図３２５と図３２６を参照して、第４の併用手法について説明する。
【２６２８】
図３２５は、第４の併用手法が適用される信号処理装置の構成例を表している。
【２６２９】
図３２５において、第３の併用手法が適用される信号処理装置（図３２３）と対応する部分には、対応する符号が付してある。
【２６３０】
図３２３の構成例（第３の併用手法）においては、領域特定情報は、データ定常性検出部４１０１より出力され領域検出部４１７１に入力されていたが、図３２５の構成例（第４の併用手法）においては、領域特定情報は、実世界推定部４１０２より出力され領域検出部４１７１に入力される。
【２６３１】
その他の構成は、図３２３のそれと基本的に同様である。即ち、第４の併用手法が適用される信号処理装置（図３２５）においても、第３の併用手法が適用される信号処理装置（図３２３）と基本的に同様の構成と機能を有する、データ定常性検出部４１０１、実世界推定部４１０２、画像生成部４１０３、画像生成部４１０４、並びに定常領域検出部４１６１（領域検出部４１７１および実行指令生成部４１７２）が設けられている。
【２６３２】
なお、第３の併用方法と同様に、図示はしないが、全ての画素を一括して出力するために、例えば、画像生成部４１０３と画像生成部４１０４の後段に、画像合成部をさらに設けることもできる。
【２６３３】
図３２６は、図３２５の構成の信号処理装置の信号の処理（第４の併用手法の信号の処理）を説明するフローチャートである。
【２６３４】
第４の併用手法の信号の処理は、第３の併用手法の信号の処理（図３２４のフローチャートで示される処理）と類似している。そこで、ここでは、第３の併用手法において説明した処理については、その説明を適宜省略し、以下、図３２６のフローチャートを参照して、第３の併用手法とは異なる第４の併用手法の信号の処理を中心に説明する。
【２６３５】
なお、ここでは、データ定常性検出部４１０１は、第３の併用手法と同様に、角度（実世界１（図１）の信号の注目位置における、定常性の方向（空間方向）と、空間方向の１方向であるＸ方向（センサ２（図１）の検出素子の所定の一辺と平行な方向）とのなす角度）を最小自乗法により演算し、演算した角度をデータ定常性情報として出力するとする。
【２６３６】
ただし、上述したように、第３の併用手法においては、データ定常性検出部４１０１が領域特定情報（例えば、推定誤差）を領域検出部４１７１に供給していたのに対して、第４の併用手法においては、実世界推定部４１０２が領域特定情報（例えば、推定誤差（マッピング誤差））を領域検出部４１７１に供給する。
【２６３７】
従って、第４の併用手法においては、データ定常性検出部４１０１の処理として、ステップＳ４２０１の処理が実行される。この処理は、第３の併用手法における、図３２４のステップＳ４１８１の処理に相当する。即ち、ステップＳ４２０１において、データ定常性検出部４１０１は、入力画像に基づいて、定常性の方向に対応する角度を検出し、検出した角度をデータ定常性情報として、実世界推定部４１０２と画像生成部４１０３のそれぞれに供給する。
【２６３８】
また、第４の併用手法においては、実世界推定部４１０２の処理として、ステップＳ４２０２の処理が実行される。この処理は、第３の併用手法における、図３１８のステップＳ４１８２の処理に相当する。即ち、実世界推定部４１０２は、ステップＳ４２０２の処理でデータ定常性検出部４１０１により検出された角度に基づいて、実世界１（図１）の信号を推定するとともに、推定された実世界１の信号の推定誤差、即ち、マッピング誤差を演算し、それを領域特定情報として領域検出部４１７１に供給する。
【２６３９】
その他の処理は、第３の併用手法の対応する処理（図３２４のフローチャートで示される処理のうちの対応する処理）と基本的に同様であるので、その説明は省略する。
【２６４０】
次に、図３２７と図３２８を参照して、第５の併用手法について説明する。
【２６４１】
図３２７は、第５の併用手法が適用される信号処理装置の構成例を表している。
【２６４２】
図３２７において、第３と第４の併用手法が適用される信号処理装置（図３２３と図３２５）と対応する部分には、対応する符号が付してある。
【２６４３】
図３２３の構成例（第３の併用手法）においては、データ定常性検出部４１０１の後段であって、実世界推定部４１０２と画像生成部４１０４の前段に、１つの定常領域検出部４１６１が配設されている。
【２６４４】
また、図３２５の構成例（第４の併用手法）においては、実世界推定部４１０２の後段であって、画像生成部４１０３と画像生成部４１０４の前段に、１つの定常領域検出部４１６１が配設されている。
【２６４５】
これらに対して、図３２７の構成例（第５の併用手法）においては、第３の併用方法と同様に、データ定常性検出部４１０１の後段であって、実世界推定部４１０２と画像生成部４１０４の前段に、定常領域検出部４１８１が配設されている。さらに、第４の併用方法と同様に、実世界推定部４１０２の後段であって、画像生成部４１０３と画像生成部４１０４の前段に、定常領域検出部４１８２が配設されている。
【２６４６】
定常領域検出部４１８１と定常領域検出部４１８２のそれぞれは、定常領域検出部４１６１（図３２３または図３２５）と基本的に同様の構成と機能を有している。即ち、領域検出部４１９１と領域検出部４２０１はいずれも、領域検出部４１７１と基本的に同様の構成と機能を有している。また、実行指令生成部４１９２と実行指令生成部４２０２はいずれも、実行指令生成部４１７２と基本的に同様の構成と機能を有している。
【２６４７】
換言すると、第５の併用手法は、第３の併用手法と第４の併用手法を組み合わせたものである。
【２６４８】
即ち、第３の併用手法や第４の併用手法においては、１つの領域特定情報（第３の併用手法においては、データ定常性検出部４１０１からの領域特定情報であり、第４の併用手法においては、実世界推定部４１０２からの領域特定情報である）に基づいて、入力画像の注目画素が定常領域であるか非定常領域であるかが検出される。従って、第３の併用手法や第４の併用手法では、本来、非定常領域であるにも関わらず、定常領域であると検出される恐れもある。
【２６４９】
そこで、第５の併用手法においては、はじめにデータ定常性検出部４１０１からの領域特定情報（第５の併用手法の説明においては、第１の領域特定情報と称する）に基づいて、入力画像の注目画素が定常領域であるか非定常領域であるかが検出された後、さらに、実世界推定部４１０２からの領域特定情報（第５の併用手法の説明においては、第２の領域特定情報と称する）に基づいて、入力画像の注目画素が定常領域であるか非定常領域であるかが検出される。
【２６５０】
このように、第５の併用手法においては、領域の検出の処理が２回行われるので、第３の併用手法や第４の併用手法に比較して、定常領域の検出精度が上がることになる。さらに、第１の併用手法や第２の併用手法においても、第３の併用手法や第４の併用手法と同様に、１つの定常領域検出部４１０５（図３１５または図３２１）しか設けられていない。従って、第１の併用手法や第２の併用手法と比較しても、定常領域の検出精度が上がることになる。その結果、第１乃至第４の併用手法のいずれよりも実世界１（図１）の信号に近い画像データを出力することが可能になる。
【２６５１】
ただし、第１乃至第４の併用手法でも、従来の画像処理を行う画像生成部４１０４と、本発明が適用されるデータの定常性を利用して画像を生成する装置またはプログラム等（即ち、データ定常性検出部４１０１、実世界推定部４１０２、および、画像生成部４１０３）を併用していることに変わりはない。
【２６５２】
従って、第１乃至第４の併用手法でも、従来の信号処理装置や、図３の構成の本発明の信号処理のいずれよりも実世界１（図１）の信号に近い画像データを出力することが可能になる。
【２６５３】
一方、処理速度の観点からは、第１乃至第４の併用手法においては、領域の検出の処理が１回だけで済むので、領域の検出の処理を２回行う第５の併用手法よりも優れていることになる。
【２６５４】
従って、ユーザ（または製造者）等は、必要とされる出力画像の品質と、必要とされる処理時間（出力画像が出力されるまでの時間）に合致した併用手法を選択的に利用することができる。
【２６５５】
なお、図３２７におけるその他の構成は、図３２３、または、図３２５のそれと基本的に同様である。即ち、第５の併用手法が適用される信号処理装置（図３２７）においても、第３または第４の併用手法が適用される信号処理装置（図３２３、または図３２５）と基本的に同様の構成と機能を有する、データ定常性検出部４１０１、実世界推定部４１０２、画像生成部４１０３、および画像生成部４１０４が設けられている。
【２６５６】
ただし、第５の併用手法においては、実世界推定部４１０２は、実行指令生成部４１９２からの実行指令が入力されない限り、画像生成部４１０３は、実行指令生成部４２０２からの実行指令が入力されない限り、画像生成部４１０４は、実行指令生成部４１９２、または実行指令生成部４２０２からの実行指令が入力されない限り、その処理を実行しない。
【２６５７】
また、第５の併用手法においても、第３や第４の併用方法と同様に、図示はしないが、全ての画素を一括して出力するために、例えば、画像生成部４１０３と画像生成部４１０４の後段に、画像合成部をさらに設けることもできる。
【２６５８】
次に、図３２８のフローチャートを参照して、第５の併用手法が適用される信号処理装置（図３２７）の信号の処理について説明する。
【２６５９】
なお、ここでは、第３や第４の併用手法のときと同様に、データ定常性検出部４１０１は、角度（実世界１（図１）の信号の注目位置における、定常性の方向（空間方向）と、空間方向の１方向であるＸ方向（センサ２（図１）の検出素子の所定の一辺と平行な方向）とのなす角度）を最小自乗法により演算し、演算した角度をデータ定常性情報として出力するとする。
【２６６０】
また、ここでは、第３の併用手法のときと同様に、データ定常性検出部４１０１はまた、角度を演算するときに併せて算出される推定誤差（最小自乗法の誤差）を、第１の領域特定情報として出力するとする。
【２６６１】
さらに、ここでは、第４の併用手法のときと同様に、実世界推定部４１０２は、マッピング誤差（推定誤差）を、第２の領域特定情報として出力するとする。
【２６６２】
図１において、実世界１の信号がセンサ２に入射されると、センサ２からは入力画像が出力される。
【２６６３】
図３２７において、この入力画像は、データ定常性検出部４１０１、実世界推定部４１０２、および、画像生成部４１０４のそれぞれに入力される。
【２６６４】
そこで、図３２８のステップＳ４２２１において、データ定常性検出部４１０１は、入力画像に基づいて、定常性の方向に対応する角度を検出するとともに、その推定誤差を演算する。検出された角度は、データ定常性情報として実世界推定部４１０２と画像生成部４１０３のそれぞれに供給される。また、演算された推定誤差は、第１の領域特定情報として領域検出部４１９１に供給される。
【２６６５】
なお、ステップＳ４２２１の処理は、上述したステップＳ４１８１（図３２４）の処理と基本的に同様の処理である。
【２６６６】
また、上述したように、いまの時点においては（実行指令生成部４１９２から実行指令が供給されない限り）、実世界推定部４１０２も画像生成部４１０４もその処理を実行しない。
【２６６７】
ステップＳ４２２２において、領域検出部４１９１は、データ定常性検出部４１０１により演算された推定誤差（供給された第１の領域特定情報）に基づいて、入力画像の注目画素（データ定常性検出部４１０１が角度を検出する場合に注目画素とした画素）の領域を検出し、その検出結果を実行指令生成部４１９２に供給する。なお、ステップＳ４２２２の処理は、上述したステップＳ４１８２（図３２４）の処理と基本的に同様の処理である。
【２６６８】
領域検出部４１８１の検出結果が実行指令生成部４１９２に供給されると、ステップＳ４２２３において、実行指令生成部４１９２は、検出された領域が、定常領域であるか否かを判定する。なお、ステップＳ４２２３の処理は、上述したステップＳ４１８３（図３２４）の処理と基本的に同様の処理である。
【２６６９】
ステップＳ４２２３において、検出された領域が定常領域ではない（非定常領域である）と判定した場合、実行指令生成部４１９２は、実行指令を画像生成部４１０４に供給する。すると、画像生成部４１０４は、ステップＳ４２２４において、「クラス分類適応処理の実行処理」を実行して、第１の画素（注目画素（入力画像のＳＤ画素）におけるＨＤ画素）を生成し、ステップＳ４２２５において、クラス分類適応処理により生成された第１の画素を、出力画像として外部に出力する。
【２６７０】
なお、ステップＳ４２２４の処理は、上述したステップＳ４１８４（図３２４）の処理と基本的に同様の処理である。即ち、図３１９のフローチャートは、ステップＳ４１８６の処理の詳細を説明するフローチャートでもある。また、ステップＳ４２２５の処理は、上述したステップＳ４１８５（図３２４）の処理と基本的に同様の処理である。
【２６７１】
これに対して、ステップＳ４２２３において、検出された領域が定常領域であると判定した場合、実行指令生成部４１９２は、実行指令を実世界推定部４１０２に供給する。すると、ステップＳ４２２６において、実世界推定部４１０２は、ステップＳ４２２１の処理でデータ定常性検出部４１０１により検出された角度に基づいて、実世界１の信号を推定するとともに、その推定誤差（マッピング誤差）を演算する。推定された実世界１の信号は、実世界推定情報として画像生成部４１０３に供給される。また、演算された推定誤差は、第２の領域特定情報として領域検出部４２０１に供給される。
【２６７２】
なお、ステップＳ４２２６の処理は、上述したステップＳ４２０２（図３２６）の処理と基本的に同様の処理である。
【２６７３】
また、上述したように、いまの時点においては（実行指令生成部４１９２、または実行指令生成部４２０２から実行指令が供給されない限り）、画像生成部４１０３も画像生成部４１０４もその処理を実行しない。
【２６７４】
ステップＳ４２２７において、領域検出部４２０１は、実世界推定部４１０２により演算された推定誤差（供給された第２の領域特定情報）に基づいて、入力画像の注目画素（データ定常性検出部４１０１が角度を検出する場合に注目画素とした画素）の領域を検出し、その検出結果を実行指令生成部４２０２に供給する。なお、ステップＳ４２２７の処理は、上述したステップＳ４２０３（図３２６）の処理と基本的に同様の処理である。
【２６７５】
領域検出部４２０１の検出結果が実行指令生成部４２０２に供給されると、ステップＳ４２２８において、実行指令生成部４２０２は、検出された領域が、定常領域であるか否かを判定する。なお、ステップＳ４２２８の処理は、上述したステップＳ４２０４（図３２６）の処理と基本的に同様の処理である。
【２６７６】
ステップＳ４２２８において、検出された領域が定常領域ではない（非定常領域である）と判定した場合、実行指令生成部４２０２は、実行指令を画像生成部４１０４に供給する。すると、画像生成部４１０４は、ステップＳ４２２４において、「クラス分類適応処理の実行処理」を実行して、第１の画素（注目画素（入力画像のＳＤ画素）におけるＨＤ画素）を生成し、ステップＳ４２２５において、クラス分類適応処理により生成された第１の画素を、出力画像として外部に出力する。
【２６７７】
なお、いまの場合のステップＳ４２２４の処理は、上述したステップＳ４２０５（図３２６）の処理と基本的に同様の処理である。また、いまの場合のステップＳ４２２５の処理は、上述したステップＳ４２０６（図３２６）の処理と基本的に同様の処理である。
【２６７８】
これに対して、ステップＳ４２２８において、検出された領域が定常領域であると判定した場合、実行指令生成部４２０２は、実行指令を画像生成部４１０３に供給する。すると、ステップＳ４２２９において、画像生成部４１０３は、実世界推定部４１０２により推定された実世界１の信号（および、必要に応じてデータ定常性検出部４１０１からのデータ定常性情報）に基づいて、領域検出部４２０１により検出された領域（即ち、入力画像の注目画素（ＳＤ画素））における、第２の画素（ＨＤ画素）を生成する。そして、ステップＳ４２３０において、画像生成部４１０３は、生成された第２の画素を、出力画像として外部に出力する。
【２６７９】
なお、ステップＳ４２２９とＳ４２３０のそれぞれの処理は、上述したステップＳ４２０７とＳ４２０８（図３２６）のそれぞれの処理と基本的に同様の処理である。
【２６８０】
第１の画素または第２の画素が出力画像として出力されると（ステップＳ４２２５、またはステップＳ４２３０の処理の後）、ステップＳ４２３１において、全画素の処理を終了したか否かが判定され、全画素の処理がまだ終了していないと判定された場合、その処理は、ステップＳ４２２１に戻る。即ち、全ての画素の処理が終了されるまで、ステップＳ４２２１乃至Ｓ４２３１の処理が繰り返される。
【２６８１】
そして、ステップＳ４２３１において、全画素の処理を終了したと判定された場合、その処理は終了となる。
【２６８２】
以上、図３１５乃至図３２８を参照して、本発明の信号処理装置４（図１）の実施の形態の１例として、併用手法について説明した。
【２６８３】
上述したように、併用手法においては、図３の構成の本発明の信号処理装置に対してさらに、定常性を利用しない他の信号処理を行う装置（または、プログラム等）が付加されている。
【２６８４】
換言すると、併用手法においては、従来の信号処理装置（または、プログラム等）に対して、図３の構成の本発明の信号処理装置（または、プログラム等）が付加されている。
【２６８５】
即ち、併用手法においては、例えば、図３１５や図３２１の定常領域検出部４１０５が、実世界１の光信号が射影され、実世界１の光信号の定常性の一部が欠落した画像データ（例えば、図３１５や図３２１の入力画像）内において、画像データのデータの定常性を有する領域（例えば、図３１８のステップＳ４１０６や図３２２のステップＳ４１６６に記載の定常領域）を検出する。
【２６８６】
また、図３１５や図３２１の実世界推定部４１０２が、実世界１の光信号の定常性の一部が欠落した画像データのデータの定常性に基づいて、欠落した実世界１の光信号の定常性を推定することにより光信号を推定する。
【２６８７】
さらに、例えば、図３１５や図３２１のデータ定常性検出部４１０１が、実世界１の光信号が射影され、実世界１の光信号の定常性の一部が欠落した画像データ内において、画像データのデータの定常性の基準軸に対する角度（例えば、図３１８のステップＳ４１０２や図３２２のステップＳ４１６２に記載の角度）を検出する。この場合、例えば、図３１５や図３２１の定常領域検出部４１０５は、角度に基いて画像データのデータの定常性を有する領域を検出し、実世界推定部４１０２は、その領域に対して、欠落した実世界１の光信号の定常性を推定することにより光信号を推定する。
【２６８８】
ただし、図３１５においては、定常領域検出部４１０５は、角度に沿って定常であるモデルと入力画像との誤差（即ち、例えば、図中の領域特定情報であって、図３１８のステップＳ４１０２の処理で演算される推定誤差）に基づいて入力画像のデータの定常性を有する領域を検出する。
【２６８９】
これに対して、図３２１においては、定常領域検出部４１０５は、実世界推定部４１０２の後段に配され、実世界推定部４１０２により演算される、入力画像に対応する実世界１の光信号を表す実世界モデルと、入力画像との誤差（即ち、例えば、図中の領域特定情報であって、図３１８のステップＳ４１６３の処理で演算される実世界の信号の推定誤差（マッピング誤差））に基いて、実世界推定部４１０２により推定された実世界モデル、即ち、画像生成部４１０３から出力される画像を選択的に出力する（例えば、図３２１のセレクタ４１１２が、図３２２のステップＳ４１６６乃至Ｓ４１６８の処理を実行する）。
【２６９０】
以上、図３１５と図３２１の例で説明したが、以上のことは、図３２３、図３２５、および図３２７においても同様である。
【２６９１】
従って、併用手法においては、実世界１の信号のうちの定常性が存在する部分(画像データのデータの定常性を有する領域)については、図３の構成の信号処理装置に相当する装置（またはプログラム等）が信号処理を実行し、実世界１の信号のうちの明確な定常性が存在しない部分については、従来の信号処理装置（または、プログラム等）が信号処理を実行することが可能になる。その結果、従来の信号処理装置や、図３の構成の本発明の信号処理のいずれよりも実世界１（図１）の信号に近い画像データを出力することが可能になる。
【２６９２】
次に、図３２９，図３３０を参照して、データ定常性検出部１０１より直接画像を生成する例について説明する。
【２６９３】
図３２９のデータ定常性検出部１０１は、図１６５のデータ定常性検出部１０１に画像生成部４５０１を付加したものである。画像生成部４５０１は、実世界推定部８０２より出力される実世界の近似関数f(x)の係数を実世界推定情報として取得し、この係数に基づいて、各画素を再積分することにより画像を生成して出力する。
【２６９４】
次に、図３３０のフローチャートを参照して、図３２９のデータの定常性の検出の処理について説明する。尚、図３３０のフローチャートのステップＳ４５０１乃至Ｓ４５０４、および、ステップＳ４５０６乃至Ｓ４５１１の処理に付いては、図１６６のフローチャートのステップＳ８０１乃至Ｓ８１０の処理と同様であるのでその説明は省略する。
【２６９５】
ステップＳ４５０４において、画像生成部４５０１は、実世界推定部８０２より入力された係数に基づいて各画素を再積分して、画像を生成し出力する。
【２６９６】
以上の処理により、データ定常性検出部１０１は、領域情報のみならず、その領域判定に用いた（実世界推定情報に基づいて生成された画素からなる）画像を出力することができる。
【２６９７】
このように、図３２９のデータ定常性検出部１０１においては、画像生成部４５０１が設けられている。即ち、図３２９のデータ定常性検出部１０１は、入力画像のデータの定常性に基づいて出力画像を生成することができる。従って、図３２９で示される構成を有する装置を、データ定常性検出部１０１の実施の形態と捉えるのではなく、図１の信号処理装置（画像処理装置）４の他の実施の形態と捉えることもできる。
【２６９８】
さらに、上述した併用手法が適用される信号処理装置において、実世界１の信号のうちの定常性が存在する部分に対して信号処理を施す信号処理部として、図３２９で示される構成を有する装置（即ち、図３２９のデータ定常性検出部１０１と同様の機能と構成を有する信号処理装置）を適用することも可能である。
【２６９９】
具体的には、例えば、第１の併用手法が適用される図３１５の信号処理装置においては、実世界１の信号のうちの定常性が存在する部分に対して信号処理を施す信号処理部は、データ定常性検出部４１０１、実世界推定部４１０２、および画像生成部４１０３とされている。図示はしないが、これらのデータ定常性検出部４１０１、実世界推定部４１０２、および画像生成部４１０３の代わりに、図３２９の構成の信号処理装置（画像処理装置）を適用することも可能である。この場合、図３２９の比較部８０４が、その出力を領域特定情報をとして領域検出部４１１１に供給し、また、画像生成部４５０１が、出力画像（第２の画素）をセレクタ４１１２に供給することになる。
【２７００】
以上においては、画像の処理にあたり、積分効果を利用したセンサ２により取得された画像データを処理することにより、実世界を推定し、実世界に即した画像処理を行っていく例について説明してきた。
【２７０１】
しかしながら、センサ２に入射する光信号は、実際には、センサ２の直前に設けられたレンズなどからなる光学系を介して入射される。従って、センサ２により取得された画像から実世界を推定して画像を処理するには、光学系による影響を考慮する必要がある。
【２７０２】
図３３１は、センサ２の前段に設けられる光学系（光学ブロック５１１０）の構成例を示す図である。
【２７０３】
実世界の光信号は、光学ブロック５１１０のレンズ５１０１を経て、IRカットフィルタ５１０２に入射される。IRカットフィルタは、CCD５１０４（センサ２に対応する）で受光可能な光の周波数成分のうち、赤外領域の光の成分を除去する。この処理により、人の目では認識できない余分な光が除去される。さらに、光信号は、IRカットフィルタ５１０２を透過した後、OLPF（Optical Low Pass Filter）５１０３に入射する。
【２７０４】
OLPF５１０３は、CCD５１０４の画素面積以下の範囲で変化する高周波の光信号を平滑化して、CCD５１０４の１画素分の面積内に入射される光の量のばらつきを小さくする。
【２７０５】
従って、光学ブロック５１１０による影響を考慮するには、IRカットフィルタ５１０２、および、OLPF５１０３のそれぞれについてなされる処理による影響を考慮する必要がある。ところで、このIRカットフィルタ５１０２、および、OLPF５１０３は、図３３２で示されるように、一体型のフィルタ５１１２となっており、その着脱は、一体的になされる形式となる場合がある。また、IRカットフィルタ５１０２の影響は、例えば、図３３２で示されるように、短波長の光のみを透過させるフィルタ５１１１を設けることによりその影響を抑制することができる。
【２７０６】
そこで、ここでは、OLPF５１０３による影響を考慮した画像処理について説明する。
【２７０７】
OLPF５１０３は、図３３３で示されるように２個の水晶５１２１ａ，ｂと、その２個の水晶５１２１ａ，ｂに挟まれるように位相板５１２２が設けられている。
【２７０８】
水晶板５１２１ａ，ｂは、図３３４で示されるように、それぞれの厚さがｔであり、また、光の進入方向に対して所定の角度で結晶軸が設定されている。この角度で水晶板５１２１ａに対して、ｚ方向に光が入射されると、その入射光と同じ方向に常光線を、また、入射光に対して所定の角度に異常光線をそれぞれ分離して、所定の間隔ｄ（ｘ方向に）で後段の結晶５１２１ｂに出射する。このとき、水晶板５１２１ａは、入射光のうち、相互に９０度異なる２つの波形の光を抽出して常光線（例えば、ｙ方向の波形）Ｌ１と異常光線Ｌ２（例えば、ｘ方向の波形）として出射する。
【２７０９】
位相板５１２２（図３３４においては、図示せず）は、常光線、および、異常光線のそれぞれの波形を入射された波形を透過させると共に、その波形と垂直方向の波形の光を発生して結晶板５１２１ｂに出射する。すなわち、今の場合、位相板５１２２は、入射された常光線がｙ方向の波形であるので、入射された常光線の波形を透過させると共に、ｘ方向の波形を発生し、異常光線については、入射される際にｘ方向の波形であるので、入射された異常光線そのものを透過させると共に、その波形と９０度ことなるｙ方向の波形を発生して、結晶板５１２１ｂに出射する。
【２７１０】
結晶板５１２１ｂは、入射された常光線Ｌ１と異常光線Ｌ２のそれぞれを入射位置で、それぞれ常光線と異常光線（Ｌ１とＬ３、および、Ｌ２とＬ４）に分離して、相互の距離がｄとなるように出射する。その結果、図３３５で示されるように、例えば、紙面裏側から入射される光Ｌ１は、水晶５１２１ａにより光Ｌ１，Ｌ２にそれぞれ分離され、さらに、水晶５１２１ｂによりＬ１とＬ３、および、Ｌ２とＬ４にそれぞれ分離される。尚、このとき光のエネルギーは、一回の分離で１／２に分離されているので、OLPF５１０３は、入射された光を２５％ずつ水平方向、および、垂直方向に距離ｄ（OLPF移動量ｄとも称する）だけ離れた位置に分散して出射している。結果として、CCD５１０４の各画素には、異なる４画素分の光が２５％ずつ重畳された光が受光されて画素値に変換され、画像データが生成されていることになる。
【２７１１】
このOLPF移動量ｄは、以下の式（２４８）により求められる。
【２７１２】

【２７１３】
尚、OLPF５１０３は、上述のように、入射光を４画素に分散するのみではなく、さらに、多くの水晶を用いて、それ以外の画素数に分散させるようにしてもよい。
【２７１４】
このように光学ブロック５１１０により、センサ２に入射される光は実世界ものとは異なるものに変化している。そこで、上述した光学ブロック５１１０の特性を考慮した（ここでは、特に、OLPF５１０３の特性を考慮した）画像データの処理について説明する。
【２７１５】
図３３６は、上述の光学ブロック５１１０の特性を考慮して画像データを処理できるようにした信号処理装置の構成を示すブロック図である。尚、図３を参照して説明した構成と同様の部位については、同一の符号を付してあり、その説明は、適宜省略するものとする。
【２７１６】
OLPF除去部５１３１は、入力画像中に含まれている上述の光学ブロック５１１０のうち、特にOLPF５１０３の特性を考慮して、入力画像を光学ブロック５１１０に入射する前の画像に変換して（推定して）、データ定常性検出部１０２、および、実世界推定部１０２に出力する。
【２７１７】
次に、図３３７を参照して、図３３６のOLPF除去部５１３１の構成について説明する。
【２７１８】
クラスタップ抽出部５１４１は、入力された画像データの各画素について、対応する位置の複数の画素（例えば、図３３８で示されるような注目画素を含む水平方向、垂直方向、または、上下左右の斜方向に隣接した合計９画素。尚、図３３８においては、２重丸が注目画素であり、それ以外の画素は丸で示されている）の画素値をクラスタップとして抽出し、特徴量演算部５１４２に出力する。
【２７１９】
特徴量演算部５１４２は、クラスタップ抽出部５１４１より入力されたクラスタップの画素値に基づいて特徴量を演算して、クラス分類部５１４３に出力する。例えば、その特徴量は、クラスタップの各画素の画素値の総和であるとか、または、隣接する画素間の差分の和などである。
【２７２０】
クラス分類部５１４３は、特徴量演算部５１４２より入力された特徴量に基づいて、各画素のクラス（クラスコード）を決定し、決定したクラスの情報を予測タップ抽出部５１４５に抽出すると共に、係数メモリ５１４４を制御して、その決定したクラスに対応する予測係数を画素値演算部５１４６に供給させる。このクラスは、例えば、特徴量が隣接する画素間の差分の和であるとした場合、その和となる値の範囲に応じて設定されるものである。例えば、その和が０乃至１０の場合は、クラス１、和の値が１１乃至２０の場合は、クラス２といったようにクラスコードは設定される。
【２７２１】
係数メモリ５１４４に記憶されている、特徴量に基づいたクラスコード毎の予測係数は、図３４１を参照して、後述する学習装置５１５０により予め学習処理により演算されて記憶されている。
【２７２２】
予測タップ抽出部５１４５は、クラス分類部５１４３より入力されたクラスの情報に基づいて、入力画像の注目画素に対応する予測タップとなる複数の画素（クラスタップと同じこともある）の画素値を抽出して画素値演算部５１４６に出力する。予測タップは、クラス毎に設定されるものであり、例えば、クラス１の場合は、注目画素のみであり、クラス２の場合は、注目画素を中心とした３画素×３画素であり、クラス３の場合は、注目画素を中心とした５画素×５画素などといったものである。
【２７２３】
画素値演算部５１４６は、予測タップ抽出部５１４５より入力された予測タップとなる各画素の画素値と、係数メモリ５１４４より供給された予測係数の値に基づいて画素値を演算して、演算された画素値に基づいて出力画像を生成し、出力する。画素値演算部５１４６は、例えば、次の式（２４９）で示される積和演算を実行することにより、予測画像の画素を求める（予測推定する）。
【２７２４】
【数１９８】

・・・（２４９）
【２７２５】
式（２４９）において、q'は、予測画像（生徒画像から予測される画像）の画素を表している。c_i（iは、１乃至ｎの整数値）のそれぞれは、予測タップのそれぞれを表している。また、d_iのそれぞれは、予測係数のそれぞれを表している。
【２７２６】
このように、OLPF除去部５１３１は、入力画像から、それに対するOLPFによる影響を除去した画像を予測推定する。
【２７２７】
次に、図３３９のフローチャートを参照して、図３３６を参照して説明した信号処理装置による信号の処理について説明する。尚、図３３９のフローチャートにおけるステップＳ５１０２乃至Ｓ５１０４の処理は、図４０を参照して説明した処理と同様であるので、その説明は省略する。
【２７２８】
ステップＳ５１０１において、OLPF除去部５１３１は、OLPFの除去の処理を実行する。
【２７２９】
ここで、図３４０のフローチャートを参照して、OLPFの除去の処理を説明する。
【２７３０】
ステップＳ５０１１において、クラスタップ抽出部５１４１は、入力画像の各画素についてクラスタップを抽出して、抽出したクラスタップの各画素の画素値を特徴量演算部５１４２に出力する。
【２７３１】
ステップＳ５０１２において、特徴量演算部５１４２は、クラスタップ抽出部５１４１より入力されたクラスタップの各画素の画素値に基づいて所定の特徴量を演算してクラス分類部５１４３に出力する。
【２７３２】
ステップＳ５０１３において、クラス分類部５１４３は、特徴量演算部５１４２より入力された特徴量に基づいてクラスを分類し、分類したクラスコードを予測タップ抽出部５１４５に出力する。
【２７３３】
ステップＳ５０１４において、予測タップ抽出部５１４５は、クラス分類部５１４３より入力されたクラスコードの情報に基づいて、入力画像より予測タップとなる複数の画素の画素値を抽出して、画素値演算部５１４６に出力する。
【２７３４】
ステップＳ５０１５において、クラス分類部５１４３は、係数メモリ５１４４を制御して、分類したクラス（クラスコード）に応じて、対応する予測係数を画素値演算部５１４６に読み出させる。
【２７３５】
ステップＳ５０１６において、画素値演算部５１４６は、予測タップ抽出部５１４５より入力された予測タップとなる各画素の画素値と、係数メモリ５１４４より供給された予測係数に基づいて、画素値を演算する。
【２７３６】
ステップＳ５０１７において、画素値演算部５１４６は、全画素について画素値を演算したか否かを判定し、全ての画素について画素値を演算していないと判定された場合、その処理は、ステップＳ５０１１に戻る。すなわち、全画素について、画素値が演算されたと判定されるまで、ステップＳ５０１１乃至Ｓ５０１７の処理が繰り返されることになる。
【２７３７】
ステップＳ５０１７において、全画素について画素値が演算されたと判定された場合、画素値演算部５１４６は、演算された画像を出力する。
【２７３８】
以上によれば、光学ブロック５１１０により生じたOLPF５１０３により生じる画像への影響を除去することが可能となる。
【２７３９】
次に、図３４１を参照して、図３３７の係数メモリ５１４４に予め記憶される予測係数を学習する学習装置５１５０について説明する。
【２７４０】
学習装置５１５０は、入力画像として高解像度画像を使用して、標準解像度画像からなる生徒画像と教師画像を生成して学習処理を実行する。なお、以下、標準解像度の画像を、適宜、ＳＤ(Standard Definition)画像と称する。また、ＳＤ画像を構成する画素を、適宜、ＳＤ画素と称する。また、これに対して、以下、高解像度の画像を、適宜、ＨＤ(High Definition)画像と称する。また、ＨＤ画像を構成する画素を、適宜、ＨＤ画素と称する。
【２７４１】
さらに、学習部５１５２のクラスタップ抽出部５１６２、特徴量演算部５１６３、および、予測タップ抽出部５１６５は、図３３７のOLPF除去部５１３１のクラスタップ抽出部５１４１、特徴量演算部５１４２、および、予測タップ抽出部５１４５と同様のものであるので、その説明は省略する。
【２７４２】
生徒画像生成部５１５１は、入力画像であるＨＤ画像をOLPF５１０３を考慮してＳＤ画像に変換し、OLPF５１０３により光学的に影響を受けた生徒画像を生成して、学習部５１５２の画像メモリ５１６１に出力する。
【２７４３】
学習部５１５２の画像メモリ５１６１は、入力されたＳＤ画像からなる生徒画像を一時的に記憶した後、順次クラスタップ抽出部５１６２、および、予測タップ抽出部５１６５に出力する。
【２７４４】
クラス分類部５１６４は、特徴量抽出部５１６３より入力された各画素毎のクラスの分類結果（上述のクラスコード）を予測タップ抽出部５１６５、および、学習メモリ５１６７に出力する。
【２７４５】
足し込み演算部５１６６は、予測タップ抽出部５１６５より入力される予測タップの各画素の画素値と、教師画像生成部５１５３より入力される画像の画素の画素値から後述する正規方程式を生成する際に必要とされる各項のサメーションの項を足し込みにより生成し、学習メモリ５１６７に出力する。
【２７４６】
学習メモリ５１６７は、クラス分類部５１６４より供給されるクラスコードと、足し込み演算部５１６６より入力される足し込み結果を対応付けて記憶し、適宜正規方程式演算部５１６８に供給する。
【２７４７】
正規方程式演算部５１６８は、学習メモリ５１６７に記憶されているクラスコードと、足し込み結果に基づいて正規方程式を生成すると共に、その正規方程式を演算して、各予測係数を求めて、係数メモリ５１５４にクラスコードに対応付けて記憶させる。尚、この係数メモリ５１５４に記憶された予測係数が、図３３７のOLPF除去部５１３１の係数メモリに記憶されることになる。
【２７４８】
正規方程式演算部５１６８についてさらに詳しく説明する。
【２７４９】
上述した式（２４９）において、学習前は予測係数d_iのそれぞれが未定係数である。学習は、クラスコード毎に複数の教師画像の画素を入力することによって行う。所定のクラスコードに対応する教師画像の画素がｍ個存在し、ｍ個の教師画像の画素のそれぞれを、q_k（ｋは、１乃至ｍの整数値）と記述する場合、式（２４９）から、次の式（２５０）が設定される。
【数１９９】

・・・（２５０）
【２７５０】
即ち、式（２５０）は、右辺の演算をすることで、所定の教師画像の画素q_kを予測推定することができることを表している。なお、式（２５０）において、e_kは誤差を表している。即ち、右辺の演算結果である予測画像（生徒画像から予測演算することにより得られる画像）の画素q_k'が、実際の教師画像の画素q_kと厳密には一致せず、所定の誤差e_kを含む。
【２７５１】
そこで、式（２５０）において、例えば、誤差ekの自乗和を最小にするような予測係数d_iが、学習により求まればよい。
【２７５２】
具体的には、例えば、ｍ＞ｎとなるように、教師画像の画素q_kを学習により集めることができれば、最小自乗法によって予測係数d_iが一意に決定される。
【２７５３】
即ち、式（２５０）の右辺の予測係数d_iを最小自乗法で求める場合の正規方程式は、次の式（２５１）で表される。
【２７５４】
【数２００】

・・・（２５１）
【２７５５】
従って、式（２５１）で示される正規方程式が生成されれば、その正規方程式を解くことで予測係数d_iが一意に決定されることになる。
【２７５６】
具体的には、式（２５１）で示される正規方程式の各行列のそれぞれを、次の式（２５２）乃至（２５４）のように定義すると、正規方程式は、次の式（２５５）のように表される。
【２７５７】
【数２０１】

・・・（２５２）
【２７５８】
【数２０２】

・・・（２５３）
【２７５９】
【数２０３】

・・・（２５４）
【２７６０】
【数２０４】

・・・（２５５）
【２７６１】
式（２５３）で示されるように、行列Ｄ_MATの各成分は、求めたい予測係数d_iである。従って、式（２５５）において、左辺の行列Ｃ_MATと右辺の行列Ｑ_MATが決定されれば、行列解法によって行列Ｄ_MAT（即ち、予測係数d_i）の算出が可能である。
【２７６２】
より具体的には、式（２５２）で示されるように、行列Ｃ_MATの各成分は、予測タップc_ikが既知であれば演算可能である。予測タップc_ikは、予測タップ抽出部５１６５により抽出されるので、足し込み演算部５１６６は、予測タップ抽出部５１６５より供給された予測タップc_ikのそれぞれを利用して行列Ｃ_MATの各成分を足し込み演算することができる。
【２７６３】
また、式（２５４）で示されるように、行列Ｑ_MATの各成分は、予測タップc_ikと教師画像の画素q_kが既知であれば演算可能である。予測タップc_ikは、行列Ｃ_MATの各成分に含まれるものと同一のものであり、また、教師画像の画素q_kは、予測タップc_ikに含まれる注目画素（生徒画像のＳＤ画素）に対する教師画像のＳＤ画素である。従って、足し込み演算部５１６６は、予測タップ抽出部５１６５より供給された予測タップc_ikと、教師画像を利用して行列Ｑ_MATの各成分を足し込み演算することができる。
【２７６４】
このようにして、足し込み演算部５１６６は、行列Ｃ_MATと行列Ｑ_MATの各成分を演算し、その演算結果をクラスコードに対応付けて、学習メモリ５１６７に記憶させる。
【２７６５】
正規方程式演算部５１６８は、学習メモリ５１６７に記憶されているクラスコードに対応して正規方程式を生成し、上述した式（２５５）の行列ＤMATの各成分である予測係数d_iを演算する。
【２７６６】
具体的には、上述した式（２５５）の正規方程式は、次の式（２５６）のように変形できる。
【２７６７】
【数２０５】

・・・（２５６）
【２７６８】
式（２５６）において、左辺の行列Ｄ_MATの各成分が、求めたい予測係数d_iである。また、行列Ｃ_MATと行列Ｑ_MATのそれぞれの各成分は、学習メモリ５１６７より供給されるものである。従って、正規方程式演算部５１６８は、学習メモリに記憶された所定のクラスコードに対応する行列Ｃ_MATと行列Ｑ_MATのそれぞれの各成分が供給されてきたとき、式（２５５）の右辺の行列演算を行うことで行列Ｄ_MATを演算し、その演算結果（予測係数d_i）をクラスコードに対応付けて係数メモリ５１５４に記憶させる。
【２７６９】
次に、上述の図３３７のOLPF除去部５１３１と学習部５１３１との関係から、学習に用いられる生徒画像と教師画像について説明する。
【２７７０】
図３４２で示されるように、学習部５１５２は、OLPF５１０３によりフィルタ処理された画像（以下、OLPF有り画像と称する）と、OLPF５１０３によりフィルタ処理されていない画像（以下、OLPF無し画像と称する）を用いて学習により予測係数を求める。
【２７７１】
そして、学習部５１５２により予め学習で求められた予測係数を用いて、OLPF除去部５１３１は、OLPF有り画像をOLPF５１０３によるフィルタ処理の影響を除去した画像（以下、OLPF除去画像と称する）に変換する（上述の図３３９のフローチャートを参照して説明した処理）。
【２７７２】
すなわち、図３４３で示されているように、学習部５１５２でなされる学習処理は、OLPF無し画像である教師画像と、OLPF有り画像である生徒画像からなる学習対を用いて実行される。
【２７７３】
このため、OLPFを設けた状態で入射される光をセンサ２で受光した場合の画像と、OLPFを設けない状態でセンサ２で受光した画像とを生成して学習対とすることになるが、実際には、それぞれの画像を画素単位で正確に位置合わせして使用することが極めて困難である。
【２７７４】
そこで、学習装置５１１０は、入力画像に高解像度画像を用いて、OLPF有り画像とOLPF無し画像をシミュレーションにより生成している。
【２７７５】
ここでは、学習装置５１１０における教師画像生成部５１５３による教師画像の生成手法と、生徒画像生成部５１５１による生徒画像の生成手法について説明する。
【２７７６】
図３４４は、学習装置５１１０の教師画像生成部５１５３と、生徒画像生成部５１５１のそれぞれの詳細な構成を示すブロック図である。
【２７７７】
教師画像生成部５１５３の１／１６平均処理部５１５３ａは、入力画像である高解像度画像の全範囲において、４画素×４画素の合計１６画素の画素値の平均画素値を求め、その１６画素の全ての画素値を求められた平均画素値に置き換えて教師画像を生成して出力する。このように処理することにより、ＨＤ画像の画素数は、見かけ上１／１６の画素数（水平方向、および、垂直方向に各々１／４の画素数となる）となる。
【２７７８】
すなわち、この１／１６平均処理部５１５３ａは、入力画像であるＨＤ画像の各画素をセンサ２に入射される光に見立て、ＨＤ画像の４画素×４画素の範囲をＳＤ画像の１画素と見立てることにより、一種の空間的な積分効果を生じさせ、OLPF５１０３による影響のない、センサ２で生成される画像（OLPF無し画像）を仮想的に生成する。
【２７７９】
生徒画像生成部５１５１のOLPFシミュレーション処理部５１５１ａは、入力されたＨＤ画像の各画素について、図３３４、および、図３３５を参照して説明したように、各画素の画素値を２５％ずつ分散させて、重畳することにより、ＨＤ画像の各画素を光と見てたときにOLPF５１０３により生じる作用をシミュレーションする。
【２７８０】
１／１６平均処理部５１３５ｂは、教師画像生成部５１５３の１／１６平均処理部５１５３ａと同様のものであり、４画素×４画素の合計１６画素の平均画素値を１６画素の全ての画素値と置き換え、ＳＤ画像の生徒画像を生成する。
【２７８１】
より詳細には、OLPFシミュレーション処理部５１５１ａは、例えば、図３４５で示されるように、入射位置の画素Ｐ１の画素値を１／４にした値を画素Ｐ１乃至Ｐ４のそれぞれに分散し、この処理を全ての画素において実施し、それぞれに分散した値を重畳することにより画素値を求める。この処理により、例えば、図３４５における画素Ｐ４は、画素Ｐ１乃至Ｐ４の平均画素値となる。
【２７８２】
ここで、図３４５において、各マス目は、ＨＤ画像の１画素に対応する。また、点線で囲まれる４画素×４画素がＳＤ画像の１画素に対応する。
【２７８３】
すなわち、図３４５においては、画素Ｐ１，Ｐ２との距離、画素Ｐ１，Ｐ３との距離、および、画素Ｐ２，Ｐ４の距離は、図３３５で示されるOLPF５１０３による移動量ｄに相当する。
【２７８４】
画素Ｐ１，Ｐ２との距離、画素Ｐ１，Ｐ３との距離、および、画素Ｐ２，Ｐ４の距離が、２画素となるのは、図３４６で示されるように、実際のOLPF５１０３によるOLPF移動量ｄが3.35μｍであるのに対して、実際のCCD５１０４の画素のピッチ（画素間の水平方向、および、垂直方向の幅）が6.45μｍであり、その相対比が1.93であるからである。すなわち、図中の点線で囲まれているようにOLPF移動量を２画素に設定し、画素ピッチを４画素とすることにより、相対比が2.0となるので、実測値の1.93に近い状態で、センサ２に入射される前のOLPF５１０３により生じる現象をシミュレーションすることができる。
【２７８５】
同様にして、図３４６で示されているように、OLPF移動量を４画素にして、画素ピッチを８画素にしてもよく、この比率を維持しつつOLPF移動量と画素ピッチを設定すれば、その他のOLPF移動量と画素ピッチでもよい。さらに、OLPF移動量を６画素として、画素ピッチを１１画素にすることにしても、相対比は1.83とすることができるため、この比率による処理シミュレーションを行ってもよい。
【２７８６】
教師画像生成部５１５３が、図３４７で示されるような画像を生成する場合、生徒画像生成部５１５１は、図３４８で示されるような画像を生成する。両者ともＨＤ画像の４画素×４画素が実質的にＳＤ画像の１画素として表示されているので、モザイク状の画像となっているが、図３４７で示される教師画像は、図中の白で示されるエッジ部分が、図３４８で示される生徒画像に比べてはっきりとしており、生徒画像にOLPF５１０３の影響が生じたような画像が生成されている。
【２７８７】
次に、図３４９のフローチャートを参照して、学習の処理について説明する。
【２７８８】
ステップＳ５０３１において、生徒画像生成部５１５１のOLPFシミュレーション処理部５１５１ａは、入力されたＨＤ画像の各画素の画素値を図３４５を参照して説明したように、２５％ずつ４画素に分散し、各画素位置に分散された画素値を重畳することにより画素値を生成して、OLPF５１０３による作用をシミュレーションして、処理結果を１／１６平均処理部５１５１ｂに出力する。
【２７８９】
ステップＳ５０３２において、１／１６平均処理部５１５１ｂは、OLPFシミュレーション処理部５１５１ａより入力されたOLPFシミュレーション処理された画像を４画素×４画素の合計１６画素単位で平均画素値を求め、さらに、その１６画素の画素値をその平均画素値に順次置き換えて、見かけ上のＳＤ画像となった生徒画像を生成し学習部５１５２の画像メモリ５１６１に出力する。
【２７９０】
ステップＳ５０３３において、クラスタップ抽出部５１６２は、画像メモリ５１６１に記憶された画像データより注目画素のクラスタップとなる画素の画素値を抽出し、抽出した画素の画素値を特徴量演算部５１６３に出力する。
【２７９１】
ステップＳ５０３４において、特徴量抽出部５１６３は、クラスタップ抽出部５１６２より入力されたクラスタップの画素の画素値の情報を用いて、注目画素に対応する特徴量を演算し、クラス分類部５１６４に出力する。
【２７９２】
ステップＳ５０３５において、クラス分類部５１６４は、入力された特徴量に基づいて、注目画素となる画素に対応するクラスを分類してクラスコードを決定し、予測タップ抽出部５１６５に出力すると共に、学習メモリに記憶させる。
【２７９３】
ステップＳ５０３６において、予測タップ抽出部５１６５は、クラス分類部５１６４より入力されたクラスコードに基づいて、画像メモリ５１６１に記憶された画像データの注目画素に対応する予測タップの画素の画素値の情報を抽出して、足し込み演算部５１６６に出力する。
【２７９４】
ステップＳ５０３７において、教師画像生成部５１５３の１／１６平均処理部５１５３ａは、入力画像であるＨＤ画像を４画素×４画素の合計１６画素単位で平均画素値を求め、求められた平均画素値を、その１６画素の画素値に置き換えることにより、OLPF５１０３による影響を受けていないOLPF無し画像（見かけ上ＳＤ画像）を生成して足し込み演算部５１６６に出力する。
【２７９５】
ステップＳ５０３８において、足し込み演算部５１６６は、予測タップ抽出部５１６５より入力された予測タップの画素の画素値と、教師画像生成部５１５３より入力された教師画像の各画素の画素値に基づいて、正規方程式の各項のサメーションとなる値を足し込み、学習メモリ５１６７に出力して、クラスコードに対応付けて記憶させる。
【２７９６】
ステップＳ５０３９において、正規方程式演算部５１６８は、入力画像について、全画素について足し込み処理が終了したか否かを判定し、全画素について足し込み処理が終了していないと判定した場合、その処理は、ステップＳ５０３２に戻り、それ以降の処理が繰り返される。すなわち、全画素について足し込み処理が終了するまでステップＳ５０３２乃至Ｓ５０３９の処理が繰り返されることになる。
【２７９７】
ステップＳ５０３９において、全画素について足し込みが終了したと判定された場合、ステップＳ５０４０において、正規方程式演算部５１６８は、学習メモリ５１６７に記憶されている足し込み結果に基づいて、クラスコードに対応付けて正規方程式を演算し、予測係数を求め係数メモリ５１５４に出力する。
【２７９８】
ステップＳ５０４１において、正規方程式演算部５１６８は、全クラスの予測係数の演算が終了したか否かを判定し、全クラスについて予測係数の演算が終了していないと判定した場合、その処理は、ステップＳ５０４０に戻る。すなわち、全クラスについて予測係数の演算が終了するまで、ステップＳ５０４０の処理が繰り返される。
【２７９９】
ステップＳ５０４１において、全クラスについて予測係数の演算が終了したと判定された場合、その処理は終了する。
【２８００】
以上の学習の処理により、係数メモリ５１５４に記憶されている予測係数を係数メモリ５１４４にコピーするなどして、使用することでOLPF除去部５１３１は、OLPF５１０３によりフィルタ処理された入力画像から、OLPFの処理効果を除去した実世界の画像に近い画像を生成することが可能となる。
【２８０１】
例えば、このようにして求められた予測係数を用いることにより、OLPF除去部５１３１は、図３４８で示されるような、OLPF５１０３によるフィルタ処理がなされた画像（OLPF５１０３による処理をシミュレーションして得られた画像）が入力された場合、図３４０のフローチャートを参照して説明したOLPFの除去の処理により図３５０で示されるような画像を生成する。
【２８０２】
このように処理された図３５０で示される画像は、図３４７で示されるようなOLPF５１０３によるフィルタ処理がない状態の入力画像と比較してもほぼ同様の画像となっているのがわかる。
【２８０３】
また、図３５１で示されるように、図３４７，図３４８、および、図３５０の画像のｙ方向の所定の同位置で、ｘ方向に画素値の変化を比較しても、OLPFによる効果を除去した画像は、OLPFによるフィルタ処理がなされた画像よりも、OLPFによる効果を与えなかった画像に近い値となっていることがわかる。
【２８０４】
尚、図３５１においては、実線が、図３４７の画像（OLPF無し画像）に対応する画素値の変化であり、点線が、図３４８の画像（OLPF有り画像）であり、さらに、一点鎖線が、図３５０の画像（OLPF除去画像）である。
【２８０５】
以上によれば、それぞれ空間積分効果を有する複数の画素に現実世界の光信号が光学ローパスフィルタを介して射影された画像データが取得され、光学ローパスフィルタにより空間方向のうち少なくとも１次元方向に光信号が分散して積分されていることが考慮されて光学ローパスフィルタに入射される光信号を推定するようにしたので、データが取得された現実世界を考慮し、現実世界の事象に対して、より正確で、より精度の高い処理結果を得ることが可能となる。
【２８０６】
以上の例においては、データ定常性検出部１０１の前段で、OLPF５１０３によるフィルタ処理の影響を除去する例について説明してきたが、実世界推定部１０２によりOLPF５１０３の影響を考慮して実世界を推定するようにしてもよい。従って、この場合、信号処理装置の構成は、図３を参照して説明した構成となる。
【２８０７】
図３５２は、OLPF５１０３の影響を考慮して実世界を推定するようにした実世界推定部１０２の構成を示すブロック図である。
【２８０８】
図３５２で示されるように、実世界推定部１０２には、条件設定部５２０１、入力画像記憶部５２０２、入力画素値取得部５２０３、積分成分演算部５２０４、正規方程式生成部５２０５、および近似関数生成部５２０６が設けられている。
【２８０９】
条件設定部５２０１は、注目画素に対応する関数F(x,y)を推定するために使用する画素の範囲（タップ範囲）や、近似関数f(x,y)，g(x,y)の次数nを設定する。
【２８１０】
入力画像記憶部５２０２は、センサ２からの入力画像（画素値）を一次格納する。
【２８１１】
入力画素値取得部５２０３は、入力画像記憶部５２０２に記憶された入力画像のうちの、条件設定部５２０１により設定されたタップ範囲に対応する入力画像の領域を取得し、それを入力画素値テーブルとして正規方程式生成部５２０５に供給する。即ち、入力画素値テーブルは、入力画像の領域に含まれる各画素のそれぞれの画素値が記述されたテーブルである。なお、入力画素値テーブルの具体例については後述する。
【２８１２】
ところで、図３４４，図３４５を参照して説明したように、OLPF５１０３は、入射してきた光をOLPF移動量ｄで４点に分散している。従って、画像上の各画素は、図３５３で示されるように、自らの位置を含めた４点の画素値の２５％ずつが重畳されて画素値が生成される。尚、図３５３においては、点線で囲まれている範囲が異なる４画素のポイントを示しており、各々の２５％が重畳されていることが示されている。
【２８１３】
以上のことから、OLPF５１０３によって図３５４で示されるように４点に分散されており、この分散された、センサ２の直前の光の分布を示す近似関数g(x,y)は、実世界を近似する近似関数f(x,y)を用いて、以下の式（２５７）で示されるような関係式となる。尚、図３５４においては、各上に凸の曲線が近似関数f(x,y)を示しており、これらが４個に分散された後、重畳された近似関数がg(x,y)である。
【２８１４】

【２８１５】
また、実世界の近似関数f(x,y)は、以下の式（２５８）で示される。
【数２０６】

・・・（２５８）
【２８１６】
ここで、w_iは、近似関数の係数を示し、ｓ（＝cotθ：θは定常性の角度）は、定常性の傾きを示す。
【２８１７】
従って、センサ２直前の光の分布を示す近似関数g(x,y)は、以下の式（２５９）で示される。
【２８１８】
【数２０７】

・・・（２５９）
実世界推定部１０２は、上述したように、近似関数f(x,y)の特徴量w_iを演算する。
【２８１９】
式（２５９）は、次の式（２６０）のように表現することができる。
【２８２０】
【数２０８】

・・・（２６０）
【２８２１】
式（２６０）において、S_i（x-0.5,x+0.5,y-0.5,y+0.5）は、i次項の積分成分を表している。即ち、積分成分S_i（x-0.5,x+0.5,y-0.5,y+0.5）は、次の式（２６１）で示される通りである。
【２８２２】
【数２０９】

・・・（２６１）
【２８２３】
積分成分演算部５２０４は、この積分成分S_i（x-0.5,x+0.5,y-0.5,y+0.5）を演算する。
【２８２４】
具体的には、式（２６１）で示される積分成分S_i（x-0.5,x+0.5,y-0.5,y+0.5）は、相対画素位置(x,y)、傾きｓ、および、i次項のiが既知であれば、演算可能である。これらのうちの、相対画素位置(x,y)は注目画素とタップ範囲により、変数sはcotθであるので角度θにより、iの範囲は次数nにより、それぞれ決定される。
【２８２５】
従って、積分成分演算部５２０４は、条件設定部５２０１により設定されたタップ範囲および次数、並びにデータ定常性検出部１０１より出力されたデータ定常性情報のうちの角度θに基づいて積分成分S_i（x-0.5,x+0.5,y-0.5,y+0.5）を演算し、その演算結果を積分成分テーブルとして正規方程式生成部５２０５に供給する。
【２８２６】
正規方程式生成部５２０５は、入力画素値取得部５２０３より供給された入力画素値テーブルと、積分成分演算部５２０４より供給された積分成分テーブルを利用して、上述した式（２６０）を最小自乗法で求める場合の正規方程式を生成し、それを正規方程式テーブルとして近似関数生成部５２０６に出力する。なお、正規方程式の具体例については後述する。
【２８２７】
近似関数生成部５２０６は、正規方程式生成部５２０５より供給された正規方程式テーブルに含まれる正規方程式を行列解法で解くことにより、上述した式（２５９）の特徴量w_i（即ち、２次元多項式である近似関数f(x,y)の係数w_i）のそれぞれを演算し、画像生成部１０３に出力する。
【２８２８】
次に、図３５５のフローチャートを参照して、OLPF５１０３の影響を考慮した実世界の推定処理（図４０のステップＳ１０２の処理）について説明する。
【２８２９】
例えば、いま、傾きG_Fで表される空間方向の定常性を有する実世界１の光信号が、センサ２により検出されて、１フレームに対応する入力画像として、入力画像記憶部５２０２に既に記憶されているとする。また、データ定常性検出部１０１が、ステップＳ１０１（図４０）の定常性の検出の処理において、入力画像のうちの、データ定常性情報として角度θを既に出力しているとする。
【２８３０】
この場合、ステップＳ５２０１において、条件設定部５２０１は、条件（タップ範囲と次数）を設定する。
【２８３１】
例えば、いま、図３５６で示されるタップ範囲５２４１が設定されるとともに、次数として５次が設定されたとする。
【２８３２】
即ち、図３５６は、タップ範囲の１例を説明する図である。図３５６において、Ｘ方向とＹ方向は、センサ２のＸ方向とＹ方向を表している。また、タップ範囲５２４１は、Ｘ方向に４画素分、かつＹ方向に５画素分の総計２０個の画素（図中、２０個の正方形）からなる画素群を表している。
【２８３３】
さらに、図３５６に示されるように、注目画素が、タップ範囲５２４１のうちの、図中、左から２画素目であって、下から３画素目の画素に設定されるとする。また、各画素のそれぞれに対して、注目画素からの相対画素位置(x,y)（注目画素の中心(0,0)を原点とする注目画素座標系の座標値）に応じて、図３５６で示されるような番号l（lは、０乃至１９のうちのいずれかの整数値）が付されるとする。
【２８３４】
図３５５に戻り、ステップＳ５２０２において、条件設定部５２０１は、注目画素を設定する。
【２８３５】
ステップＳ５２０３において、入力画素値取得部５２０３は、条件設定部５２０１により設定された条件（タップ範囲）に基づいて入力画素値を取得し、入力画素値テーブルを生成する。即ち、いまの場合、入力画素値取得部５２０３は、入力画素値テーブルとして、２０個の入力画素値P(l)からなるテーブルを生成する。
【２８３６】
なお、いまの場合、入力画素値P(l)と、上述した入力画素値P(x,y)の関係は、次の式（２６２）で示される関係とされる。ただし、式（２６２）において、左辺が入力画素値P（ｌ）を表し、右辺が入力画素値P(x,y)を表している。
【２８３７】
【数２１０】

・・・（２６２）
【２８３８】
ステップＳ５２０４において、積分成分演算部５２０４は、条件設定部５２０１により設定された条件（タップ範囲および次数）、並びにデータ定常性検出部１０１より供給されたデータ定常性情報（角度θ）に基づいて積分成分を演算し、積分成分テーブルを生成する。
【２８３９】
いまの場合、上述したように、入力画素値は、P(x,y)でなくP(l)といった、画素の番号lの値として取得されるので、積分成分演算部５２０４は、上述した式（２６１）の積分成分S_i(x-0.5,x+0.5,y-0.5,y+0.5)を、次の式（２６３）の左辺で示される積分成分S_i(l)といったlの関数として演算する。
【２８４０】
Si(ｌ) ＝ Si(x-0.5,x+0.5,y-0.5,y+0.5) ・・・（２６３）
【２８４１】
具体的には、いまの場合、次の式（２６４）で示される積分成分S_i(l)が演算される。
【２８４２】
【数２１１】

・・・（２６４）
【２８４３】
なお、式（２６４）において、左辺が積分成分S_i（ｌ)を表し、右辺が積分成分Si(x-0.5,x+0.5,y-0.5,y+0.5)を表している。即ち、いまの場合、iは０乃至５であるので、２０個のS₀(l),２０個のS₁(l),２０個のS₂(l),２０個のS₃(l),２０個のS₄(l),２０個のS₅(l)の総計１２０個のS_i(l)が演算されることになる。
【２８４４】
より具体的には、はじめに、積分成分演算部５２０４は、データ定常性検出部１０１より供給された角度θに対するcotθを演算し、それを変数ｓとする。次に、積分成分演算部５２０４は、演算した変数ｓを使用して式（２６４）の右辺で示される２０個の積分成分S_i(x-0.5,x+0.5,y-0.5,y+0.5)のそれぞれを、i=０乃至５のそれぞれについて演算する。即ち、１２０個の積分成分S_i(x-0.5,x+0.5,y-0.5,y+0.5)が演算されることになる。なお、この積分成分S_i(x-0.5,x+0.5,y-0.5,y+0.5)の演算においては、上述した式（２６１）が使用される。そして、積分成分演算部５２０４は、式（２６４）に従って、演算した１２０個の積分成分S_i(x-0.5,x+0.5,y-0.5,y+0.5)のそれぞれを、対応するS_i(l)のそれぞれに変換し、変換した１２０個のS_i(l)を含む積分成分テーブルを生成する。
【２８４５】
なお、ステップＳ５２０３の処理とステップＳ５２０４の処理の順序は、図３５５の例に限定されず、ステップＳ５２０４の処理が先に実行されてもよいし、ステップＳ５２０３の処理とステップＳ５２０４の処理が同時に実行されてもよい。
【２８４６】
次に、ステップＳ５２０５において、正規方程式生成部５２０５は、ステップＳ５２０３の処理で入力画素値取得部５２０３により生成された入力画素値テーブルと、ステップＳ５２０４の処理で積分成分演算部５２０４により生成された積分成分テーブルに基づいて、正規方程式テーブルを生成する。
【２８４７】
具体的には、いまの場合、上述した式（２６０）を利用して最小自乗法により特徴量wiが演算される（ただし、式（２５８）において、積分成分Si(x-0.5,x+0.5,y-0.5,y+0.5)は、式（２６２）により変換されるSi(l)が使用される）ので、それに対応する正規方程式は、次の式（２６５）のように表される。
【２８４８】
【数２１２】

・・・（２６５）
【２８４９】
なお、式（２６５）において、Lは、タップ範囲の画素の番号lのうちの最大値を表している。nは、多項式である近似関数f(x)の次数を表している。具体的には、いまの場合、n=5となり、L=１９となる。
【２８５０】
式（２６５）で示される正規方程式の各行列のそれぞれを、次の式（２６６）乃至（２６８）のように定義すると、正規方程式は、次の式（２６９）のように表現される。
【２８５１】
【数２１３】

・・・（２６６）
【２８５２】
【数２１４】

・・・（２６７）
【２８５３】
【数２１５】

・・・（２６８）
【２８５４】
【数２１６】

・・・（２６９）
【２８５５】
式（２６７）で示されるように、行列W_MATの各成分は、求めたい特徴量w_iである。従って、式（２６９）において、左辺の行列Ｓ_MATと右辺の行列P_MATが決定されれば、行列解法によって行列W_MATの演算が可能になる。
【２８５６】
具体的には、式（２６６）で示されるように、行列Ｓ_MATの各成分は、上述した積分成分S_i(l)で演算可能である。即ち、積分成分S_i(l)は、積分成分演算部５２０４より供給された積分成分テーブルに含まれているので、正規方程式生成部５２０５は、積分成分テーブルを利用して行列Ｓ_MATの各成分を演算することができる。
【２８５７】
また、式（２６８）で示されるように、行列Ｐ_MATの各成分は、積分成分S_i(l)と入力画素値P(l)で演算可能である。即ち、積分成分S_i(l)は、行列Ｓ_MATの各成分に含まれるものと同一のものであり、また、入力画素値P(l)は、入力画素値取得部５２０３より供給された入力画素値テーブルに含まれているので、正規方程式生成部５２０５は、積分成分テーブルと入力画素値テーブルを利用して行列Ｐ_MATの各成分を演算することができる。
【２８５８】
このようにして、正規方程式生成部５２０５は、行列Ｓ_MATと行列Ｐ_MATの各成分を演算し、その演算結果（行列Ｓ_MATと行列Ｐ_MATの各成分）を正規方程式テーブルとして近似関数生成部５２０６に出力する。
【２８５９】
正規方程式生成部５２０５より正規方程式テーブルが出力されると、ステップＳ５２０６において、近似関数生成部５２０６は、正規方程式テーブルに基づいて、上述した式（２６７）の行列W_MATの各成分である特徴量w_i（即ち、２次元多項式である近似関数f(x,y)の係数w_i）を演算する。
【２８６０】
具体的には、上述した式（２６９）の正規方程式は、次の式（２７０）のように変形できる。
【２８６１】
【数２１７】

・・・（２７０）
【２８６２】
式（２７０）において、左辺の行列W_MATの各成分が、求めたい特徴量w_iである。また、行列S_MATと行列P_MATのそれぞれの各成分は、正規方程式生成部５２０５より供給された正規方程式テーブルに含まれている。従って、近似関数生成部５２０６は、正規方程式テーブルを利用して、式（２７０）の右辺の行列演算を行うことで行列W_MATを演算し、その演算結果（特徴量w_i）を画像生成部１０３に出力する。
【２８６３】
ステップＳ５２０７において、近似関数生成部５２０６は、全画素の処理を終了したか否かを判定する。
【２８６４】
ステップＳ５２０７において、全画素の処理がまだ終了されていないと判定された場合、処理はステップＳ５２０２に戻り、それ以降の処理が繰り返される。即ち、まだ注目画素とされない画素が、順次注目画素とされて、ステップＳ５２０２乃至Ｓ５２０７の処理が繰り返される。
【２８６５】
そして、全画素の処理が終了すると（ステップＳ５２０７において、全画素の処理が終了されたと判定されると）、実世界１の推定処理は終了となる。
【２８６６】
図３５７Ａは、高精細の入力画像（自転車のスポークの画像）を示しており、図３５７Ｂは、図３５７Ａの画像がOLPF５１０３により処理された画像であり、図３５７Ｃは、上述した図３５５のフローチャートを参照して説明した処理により図３５７Ｂの画像から推定された実世界の近似関数を用いて画素を生成した画像であり、図３５７Ｄは、図３５７Ｂの画像を従来のクラス分類適応処理により生成した画像である。
【２８６７】
図３５７Ｃの画像は、図３５７Ｄの画像に比べて、エッジが強く表示されスポークの輪郭がはっきりと表示されていることがわかる。
【２８６８】
また、図３５８は、図３５７Ａ乃至Ｄの画像の所定の垂直方向の位置における水平方向の画素値の変化を示した図である。図３５８においては、１点鎖線は、５２−６Ａの画像に、実線は、図３５７Ｂの画像に、点線は、図３５７Ｃの画像に、２点鎖線は、図３５７Ｄの画像にそれぞれ対応している。図３５８で示されるように、スポークの像を表示している空間方向Ｘ＝１０付近において、図３５２の実世界推定部１０２によりOLPF５１０３の影響を考慮した処理の画像である点線の方が、２点鎖線で示される従来のクラス分類適応処理により生成された画像よりも、入力画像に近い値が得られているのがわかる。
【２８６９】
特に、画素値の値が小さい部分は、スポークのエッジ部分の照り返し部分であるが、この部分については、OLPFを考慮した処理により表現力が向上している。
【２８７０】
図３５２の実世界推定部１０２によれば、OLPF５１０３による影響を考慮した実世界の近似関数f(x)を求めることが可能となり、さらに、OLPF５１０３による影響を考慮した実世界の近似関数f(x)からOLPF５１０３による影響を考慮した画素を生成することが可能となる。
【２８７１】
以上、２次元多項式近似手法の説明として、空間方向（X方向とY方向）に対する近似関数f(x,y)の係数（特徴量）w_iを演算する例を用いたが、もちろん、空間方向（X方向、または、Y方向）のいずれかのみに適用し、１次元多項式近似手法としてもよい。
【２８７２】
以上によれば、それぞれ空間積分効果を有する複数の画素に現実世界の光信号が光学ローパスフィルタを介して射影され、現実世界の光信号の定常性の一部が欠落した画像データの空間方向のうち少なくとも１次元方向の位置に対応する注目画素の画素値が、光学ローパスフィルタに対応した複数の実世界関数の少なくとも１次元方向の積分により取得された画素値であるとして複数の実世界関数を推定することにより、現実世界の光信号に対応する関数を推定するようにしたので、より忠実に実世界を推定することが可能となる。
【２８７３】
以上においては、図３３６の信号処理装置においては、センサ２から入力される画像よりOLPF５１０３の影響を除去するようにして信号処理を実行し、図３５２の実世界推定部１０２では、OLPF５１０３の影響を考慮して実世界の近似関数を推定する処理により、結果的に信号処理においてOLPF５１０３の影響を考慮した処理を行ってきたが、例えば、OLPF無しのＨＤ画像を教師画像とし、OLPF有りのＳＤ画像を生徒画像として学習により予測係数を設定し、クラス分類適応処理により画像を生成するようにしてもよい。
【２８７４】
図３５９は、OLPF無しのＨＤ画像を教師画像とし、OLPF有りのＳＤ画像を生徒画像として学習により予測係数を設定し、クラス分類適応処理により画像を生成するようにした信号処理装置５２２１の構成を示すブロック図である。
【２８７５】
尚、図３５９における信号処理装置５２２１は、実質的に、図３３７のOLPF除去部５１３１と同様の構成であり、信号処理装置５２２１のクラスタップ抽出部５２４１、特徴量演算部５２４２、クラス分類部５２４３、係数メモリ５２４４、予測タップ抽出部５２４５、および、画素値演算部５２４６は、OLPF除去部５１３１の信号処理装置５１４１のクラスタップ抽出部５１４１、特徴量演算部５１４２、クラス分類部５１４３、係数メモリ５１４４、予測タップ抽出部５１４５、および、画素値演算部５１４６は、同様のものであるのでその説明は省略する。ただし、係数メモリ５２４４に記憶されている予測係数は、係数メモリ５１４４とは異なる学習により得られたものであり、異なるものである。係数メモリ５２４４に記憶される予測係数の学習については、図３６１の学習装置を参照して後述する。
【２８７６】
次に、図３６０のフローチャートを参照して、図３５９の信号処理装置５２２１による信号の処理について説明するが、実質的に、図３４０のフローチャートにおける処理と同様であるので、その説明は省略する。
【２８７７】
以上によれば、それぞれ空間積分効果を有する複数の画素に現実世界の光信号が光学ローパスフィルタを介して射影されることにより取得される第１の画像データを取得し、第２の画像データ内の注目画素に対応する複数の画素を第１の画像データから抽出し、第１の画像データから光学ローパスフィルタに入射される光信号が直接射影されることにより取得される第２の画像データを予測するように予め学習し、抽出した複数の画素と予測に基いて第２の画像データ内の注目画素の画素値を予測するようにしたので、実世界に忠実な画像を生成することが可能となる。
【２８７８】
次に、図３６１を参照して、図３５９の信号処理装置の係数メモリ５２４４に記憶される予測係数を学習する（上述における図３５９の信号処理装置は、予測係数を用いて画素値を予測する予測手段であるので、予測係数を学習することは、すなわち、この予測手段を学習することになる）学習装置について説明する。尚、図３６１の学習部５２５２は、図３４１の学習部５１５２と実質的に同様のものであり、学習部５２５２の画像メモリ５２６１、クラスタップ抽出部５２６２、特徴量抽出部５２６３、クラス分類部５２６４、予測タップ抽出部５２６５、足し込み演算部５２６６、学習メモリ５２６７、正規方程式演算部５２６８、および、係数メモリ５２５４は、学習部５１５２の画像メモリ５１６１、クラスタップ抽出部５１６２、特徴量抽出部５１６３、クラス分類部５１６４、予測タップ抽出部５１６５、足し込み演算部５１６６、学習メモリ５１６７、正規方程式演算部５１６８、および、係数メモリ５１５４と同様のものであるので、その説明は省略する。
【２８７９】
また、図３６２で示されるように、教師画像生成部５２５３の１／１６平均処理部５２５３ａ、および、生徒画像生成部５２５１のOLPFシミュレーション処理部５２５１ａは、図３４４の教師画像生成部５１５３の１／１６平均処理部５１５３ａ、および、生徒画像生成部５１５１のOLPFシミュレーション処理部５１５１ａと同様であるので、その説明も省略する。
【２８８０】
生徒画像生成部５２５１の１／６４平均処理部５２５１ｂは、OLPFシミュレーションによりOLPF５１０３による処理がなされたＨＤ画像の各画素をセンサ２に入射される光に見立て、ＨＤ画像の８画素×８画素の範囲をＳＤ画像の１画素と見立てることにより、一種の空間的な積分効果を生じさせ、OLPF５１０３による影響のない、センサ２で生成される画像（OLPF無しＳＤ画像）を仮想的に生成する。
【２８８１】
次に、図３６３のフローチャートを参照して、図３６１の学習装置による学習の処理について説明する。
【２８８２】
尚、ステップＳ５２３１の処理、および、Ｓ５２３３乃至Ｓ５２４１の処理は、図３４９のフローチャートを参照して説明したステップＳ５０３１の処理、および、ステップＳ５０３３乃至Ｓ５０４１の処理と同様であるので、その説明は省略する。
【２８８３】
ステップＳ５２３２において、１／６４平均処理部５２５１ｂは、OLPFシミュレーション処理部５２５１ａより入力されたOLPFシミュレーション処理された画像を８画素×８画素の合計６４画素単位で平均画素値を求め、さらに、その６４画素の画素値をその平均画素値に順次置き換えて、見かけ上のＳＤ画像となった生徒画像を生成し学習部５２５２の画像メモリ５２６１に出力する。
【２８８４】
以上の処理により、係数メモリ５２５４には、OLPF無しのＨＤ画像を教師画像とし、OLPF有りのＳＤ画像を生徒画像としたときの予測係数が記憶されることになる。さらに、この係数メモリ５２５４に記憶された予測係数を、信号処理装置５２２１の係数メモリ５２４４にコピーするなどすることにより、図３６０の信号の処理を実行することが可能となり、さらには、OLPF有りのＳＤ画像をOLPF無しのＨＤ画像に変換することが可能となる。
【２８８５】
以上の処理をまとめると、実世界の画像にOLPFの処理が施され、さらに、撮像素子（センサ２）撮像されたＳＤ画像（図中の実世界＋LPF＋撮像素子）は、図３３７のOLPF除去部５１３１により図３６４の矢印Ａで示されるように、OLPFによる処理が除去されたＳＤ画像（図中の実世界＋撮像素子）に変換され、さらに、定常性検出部１０１、および、実世界推定部１０２により、図３６４の矢印Ａ’で示されるように、OLPFによる処理前の実世界が推定される。
【２８８６】
また、図３５２で示される実世界推定部１０２は、ＳＤ画像（図中の実世界＋LPF＋撮像素子）から、図３６４の矢印Ｂで示されるようにOLPFによる処理前の実世界を推定する。
【２８８７】
さらに、図３５９で示される信号処理装置５２２１は、図３６４の矢印Ｃで示されるように、ＳＤ画像（図中の実世界＋LPF＋撮像素子）から実世界をOLPFの影響を受けない状態で撮像素子により撮像した画像を生成する。
【２８８８】
また、従来のクラス分類適応処理は、図３６４の矢印Ｄで示されるように、ＳＤ画像（図中の実世界＋LPF＋撮像素子）から実世界をOLPFを介した状態で撮像素子により撮像したＨＤ画像を生成する。
【２８８９】
さらに、図３の信号処理装置は、図３６４の矢印Ｅで示されるように、ＳＤ画像（図中の実世界＋LPF＋撮像素子）からOLPFにより影響を受けた実世界を推定する。
【２８９０】
以上によれば、第２の画像データに対応する光信号が光学ローパスフィルタを通過したときの光信号に対応する画像データを演算し、第１の画像データとして出力し、第２の画像データ内の注目画素に対応する複数の画素を第１の画像データから抽出し、抽出した複数の画素の画素値から、注目画素の画素値を予測するように学習するようにしたので、実世界に忠実な画像を生成することが可能となる。
【２８９１】
また、以上においては、実世界を近似する近似関数f(x)を連続関数として扱ってきたが、例えば、領域毎に不連続に近似関数f(x)を設定するようにしてもよい。
【２８９２】
すなわち、以上においては、図３６５で示されるように実世界の光の強度の分布を示す１次元の断面となる曲線（図中の点線で示された曲線）の関数（近似関数）を多項式により近似し、定常性の方向にこの曲線が連続して存在することを利用して実世界を推定していた。
【２８９３】
しかしながら、この断面となる曲線は、必ずしも多項式のような連続関数である必要はなく、例えば、図３６６で示されるように領域毎に異なる不連続な関数であってもよい。すなわち、図３６６の場合、領域a₁≦x＜a₂のとき、近似関数はf(x)＝w₁であり、領域a₂≦x＜a₃のとき、近似関数はf(x)＝w₂であり、領域a₃≦x＜a₄のとき、近似関数はf(x)＝w₃であり、領域a₄≦x＜a₅のとき、近似関数はf(x)＝w₄であり、さらに、領域a₅≦x＜a₆のとき、近似関数はf(x)＝w₅であり、それぞれ領域毎に異なる近似関数f(x)が設定されている。また、w_iは、実質的に、各領域における光の強度のレベルと考えることができる。
【２８９４】
このように図３６６で示されるような不連続関数は、以下の式（２７１）の一般式で定義される。
【２８９５】

【２８９６】
ここで、iは、領域が設定された数を示している。
【２８９７】
このように図３６６で示されたような断面の分布（断面の曲線に対応するもの）は、各領域毎に定数として設定されている。尚、図３６６で示される、画素値の断面の分布は、図３６５の点線で示される曲線の分布と比較して、その形状が大きく異なるものとなっているが、実際には、各関数f(x)が設定される範囲（ここでは、a_i≦x＜a_i+1）の幅を微小なものとすることにより、不連続関数の断面の分布と、連続関数の断面の曲線は、幾何学的に近似できるレベルとすることが可能である。
【２８９８】
従って、式（２７１）で定義される、実世界の不連続関数からなる近似関数f(x)を用いることにより、以下の式（２７２）により画素値Ｐが求められることになる。
【数２１８】

・・・（２７２）
【２８９９】
ここで、x_e，x_sは、Ｘ方向の積分範囲を示す値を示し、x_Sが積分開始位置を、x_eが積分終了位置をそれぞれ示している。
【２９００】
しかしながら、実際には、上述の式（２７１）で示されるような実世界を近似する関数を直接求めることは困難である。
【２９０１】
図３６６で示されるような画素値の断面の分布は、定常性の方向に対して連続して存在するものと仮定されるので、空間における光の強度の分布は、図３６７で示されるようなものとなる。ここで、図３６７の左部は、連続関数からなる近似関数f(x)が定常性の方向に連続的に存在した場合の画素値の分布に対応したものであり、図３６７の右部は、左部に対応する同じ分布を、図３６６の不連続関数からなる近似関数f(x)を用いて、定常性の方向に対して連続して存在した場合の画素値の分布に対応したものである。
【２９０２】
すなわち、定常性の方向に沿って、図３６６で示された断面の形状が連続した状態となるため、不連続関数を用いた近似関数f(x)を用いた場合、各レベルw_iは、定常性の方向に沿って帯状に分布することになる。
【２９０３】
図３６７の右部で示されるような不連続関数により定義された近似関数f(x)を用いて、各領域のレベルを決定するには、各画素の総面積のうち、各レベル（各関数）が設定された範囲に占める、領域毎の面積の割合に応じた重みと、そのレベルとの積和を求め、対応する画素の画素値を用いて正規方程式を生成し、最小自乗法を用いて、各領域の画素値を求める必要がある。
【２９０４】
すなわち、図３６８で示されるように、図３６８の左部に示されるように不連続関数が分布する場合、図３６８の太線で囲まれたマス目で示される注目画素（尚、図３６８は、紙面をＸＹ平面としたときの画素の配列を示す上面図であり、各マス目が画素に相当する）の画素値を求める場合、注目画素中の斜線部で示された部分より上部に存在する三角形状（底辺が上部の三角形）の範囲がf(x)=w₂で設定された範囲であり、斜線部がf(x)=w₃で設定された範囲であり、斜線部の下部に存在する三角形状（底辺が下部の三角形）の範囲がf(x)=w₄で設定された範囲となっている。注目画素の面積が１である場合、f(x)=w₂で設定された範囲の占める割合が0.2、f(x)=w₃で設定された範囲の占める割合が0.5、および、f(x)=w₄で設定された範囲の占める割合が0.3であるものとしたとき、注目画素の画素値Ｐは、各範囲の画素値と割合の積和で表されるので、以下の式（２７３）で示される演算により求められる。
【２９０５】

【２９０６】
従って、各画素について、式（２７３）で示される関係を用いて画素値との関係式を生成することで、例えば、レベルw₁乃至w₅を求めるには、全てのレベルを含む最低５画素分の画素値との関係を示す式（２７３）が得られれば、例えば、最小自乗法（関係式の数と未知数が同数である場合は連立方程式）により画素値のレベルを示すw₁乃至w₅を得ることが可能となる。
【２９０７】
このように定常性を用いた２次元の関係を利用することにより、不連続関数からなる近似関数f(x)を求めることが可能となる。
【２９０８】
定常性検出部１０１により定常性の角度θが決定されていることから、原点(0,0)を通る角度θの直線は一意に決まり、Ｙ方向の任意の位置yにおける、直線のＸ方向の位置x_lが、次の式（２７４）のように表される。ただし、式（２７４）において、sは定常性の傾きを示しており、定常性の傾きが角度θで表されるとき、cotθ（＝ｓ）で表されるものである。
【２９０９】

【２９１０】
即ち、データの定常性に対応する直線上の点は、座標値(x_l,y)で表される。
【２９１１】
式（２７４）より、断面方向距離x'（定常性の存在する直線に沿ってX方向にずれた距離）は、次の式（２７５）のように表される。
【２９１２】

従って、入力画像の任意の位置(x,y)における近似関数f(x,y)は、式（２７１）と式（２７５）より、次の式（２７６）のように示される。
【２９１３】

【２９１４】
なお、式（２７６）において、w_iは、各領域における光の強度のレベルを示す特徴量であるといえる。尚、以下において、w_iは、特徴量とも称する。
【２９１５】
従って、実世界推定部１０２は、式（２７６）の各領域毎の特徴量w_iを演算することができれば、不連続関数からなる近似関数f(x,y)を推定することにより、波形F(x,y)を推定することができる。
【２９１６】
そこで、以下、式（２７６）の特徴量w_iを演算する手法について説明する。
【２９１７】
即ち、式（２７６）で表される近似関数f(x,y)を、画素（センサ２の検出素子）に対応する積分範囲（空間方向の積分範囲）で積分すれば、その積分値が、画素の画素値の推定値となる。このことを、式で表現したものが、次の式（２７７）である。なお、不連続関数を用いた２次元の近似手法においては、フレーム方向Tは一定値とみなされるので、式（２７７）は、空間方向（Ｘ方向とＹ方法）の位置x,yを変数とする方程式とされている。
【２９１８】
【数２１９】

・・・（２７７）
【２９１９】
式（２７７）において、P(x,y)は、センサ２からの入力画像のうちの、その中心位置が位置(x,y)（注目画素からの相対位置(x,y)）に存在する画素の画素値を表している。
【２９２０】
このように、２次元近似手法においては、入力画素値P(x,y)と、２次元の近似関数f(x,y)の関係を、式（２７７）で表現することが可能であるので、実世界推定部１０２は、式（２７７）を利用して、特徴量w_iを、例えば、最小自乗法等により演算することで、２次元の関数F(x,y)（空間方向の定常性を有する実世界１の光信号を、空間方向に着目して表した波形F(x,y)）を推定することが可能となる。
【２９２１】
ここで、図３６９を参照して、以上のような、不連続関数により近似関数f(x)を設定し、実世界を推定する実世界推定部１０２の構成について説明する。
【２９２２】
図３６９で示されるように、実世界推定部１０２には、条件設定部５３０１、入力画像記憶部５３０２、入力画素値取得部５３０３、積分成分演算部５３０４、正規方程式生成部５３０５、および近似関数生成部５３０６が設けられている。
【２９２３】
条件設定部５３０１は、注目画素に対応する関数F(x,y)を推定するために使用する画素の範囲（タップ範囲）や、近似関数f(x,y)の範囲の（例えば、a_i≦x＜a_i+1の幅、ｉの数）を設定する。
【２９２４】
入力画像記憶部５３０２は、センサ２からの入力画像（画素値）を一時格納する。
【２９２５】
入力画素値取得部５３０３は、入力画像記憶部５３０２に記憶された入力画像のうちの、条件設定部５３０１により設定されたタップ範囲に対応する入力画像の領域を取得し、それを入力画素値テーブルとして正規方程式生成部５３０５に供給する。即ち、入力画素値テーブルは、入力画像の領域に含まれる各画素のそれぞれの画素値が記述されたテーブルである。なお、入力画素値テーブルの具体例については後述する。
【２９２６】
ところで、上述したように、２次元近似手法を利用する実世界推定部１０２は、上述した式（２７７）を最小自乗法で解くことにより、上述した式（２７６）で示される近似関数f(x,y)の特徴量w_iを演算する。
【２９２７】
式（２７７）は、次の式（２７８）のように表現することができる。
【２９２８】
【数２２０】

・・・（２７８）
【２９２９】
式（２７８）において、T_i（x_s,x_e,y_s,y_e）は、積分範囲となる領域のうち、特徴量w_iとなる領域（光のレベルw_iとなる領域）の積分結果、すなわち、面積を表している。尚、以下、T_i（x_s,x_e,y_s,y_e）は、積分成分と称する。
【２９３０】
積分成分演算部５３０４は、この積分成分T_i（x_s,x_e,y_s,y_e）（＝（x-0.5,x+0.5,y-0.5,y+0.5）：１画素分の領域を取る場合）を演算する。
【２９３１】
具体的には、式（２７８）で示される積分成分T_i（x_s,x_e,y_s,y_e）は、図３６８を参照して上述したように、求めようとする画素中の、所定の特徴量w_iの面積を求めるものである。従って、積分成分演算部５３０４は、積分成分T_i（x_s,x_e,y_s,y_e）を、各特長量毎の幅ｄとデータの定常性の角度θの情報に基づいて、幾何学的に各特徴量w_i毎に占める面積を求めるようにしてもよいし、シンプソンの公式に従って多重分割して積分して求めるようにしてもよく、面積を求める方法はそれらに限るものではなく、例えば、モンテカルロ法によって面積を求めるようにしてもよい。
【２９３２】
図３６８で説明したように、a_i≦（x−s×y）＜a_i+1の幅と、定常性の傾きを示す変数ｓ、および、相対画素位置(x,y)が既知であれば、特徴量w_iの演算は可能である。これらのうち、相対画素位置(x,y)は注目画素とタップ範囲により、変数sはcotθであるので角度θにより、a_i≦（x−s×y）＜a_i+1の幅は、予め設定されるため、それぞれの値は既知となる。
【２９３３】
従って、積分成分演算部５３０４は、条件設定部５３０１により設定されたタップ範囲および幅、並びにデータ定常性検出部１０１より出力されたデータ定常性情報のうちの角度θに基づいて積分成分Ti（x-0.5,x+0.5,y-0.5,y+0.5）を演算し、その演算結果を積分成分テーブルとして正規方程式生成部５３０５に供給する。
【２９３４】
正規方程式生成部５３０５は、入力画素値取得部５３０３より供給された入力画素値テーブルと、積分成分演算部５３０４より供給された積分成分テーブルを利用して、上述した式（２７７）、即ち、式（２７８）を最小自乗法で求める場合の正規方程式を生成し、それを正規方程式テーブルとして近似関数生成部５３０６に出力する。なお、正規方程式の具体例については後述する。
【２９３５】
近似関数生成部５３０６は、正規方程式生成部５３０５より供給された正規方程式テーブルに含まれる正規方程式を行列解法で解くことにより、上述した式（２７８）の特徴量w_iのそれぞれを演算し、画像生成部１０３に出力する。
【２９３６】
次に、図３７０のフローチャートを参照して、不連続関数を用いた２次元の近似手法が適用される実世界の推定処理（図４０のステップＳ１０２の処理）について説明する。
【２９３７】
例えば、いま、傾きG_Fで表される空間方向の定常性を有する実世界１の光信号が、センサ２により検出されて、１フレームに対応する入力画像として、入力画像記憶部５３０２に既に記憶されているとする。また、データ定常性検出部１０１が、ステップＳ１０１（図４０６）の定常性の検出の処理において、入力画像のうちのデータ定常性情報として角度θを既に出力しているものとする。
【２９３８】
この場合、ステップＳ５３０１において、条件設定部５３０１は、条件（タップ範囲、a_i≦x＜a_i+1の幅（同じ特徴量の幅）、および、ｉの数）を設定する。
【２９３９】
例えば、いま、図３７１で示されるタップ範囲が設定されるとともに、幅としてｄが設定されたとする。
【２９４０】
即ち、図３７１は、タップ範囲の１例を説明する図である。図３７１において、Ｘ方向とＹ方向は、センサ２のＸ方向とＹ方向を表している。また、タップ範囲は、図３７１の右部の総計１５個の画素（図中右部の太線で囲まれた１５個のマス目）からなる画素群を表している。
【２９４１】
さらに、図３７１に示されるように、注目画素が、タップ範囲のうちの、図中、斜線部の画素に設定されるとする。また、各画素のそれぞれに対して、注目画素からの相対画素位置(x,y)（注目画素の中心(0,0)を原点とする注目画素座標系の座標値）に応じて、図３７１で示されるような番号l（lは、０乃至１４のうちのいずれかの整数値）が付されるとする。
【２９４２】
図３７０に戻り、ステップＳ５３０２において、条件設定部５３０１は、注目画素を設定する。
【２９４３】
ステップＳ５３０３において、入力画素値取得部５３０３は、条件設定部５３０１により設定された条件（タップ範囲）に基づいて入力画素値を取得し、入力画素値テーブルを生成する。即ち、いまの場合、入力画素値取得部５３０３は、入力画像の領域（図３７１中の番号０乃至１４が付された画素）の画素の画素値を取得し、入力画素値テーブルとして、１５個の入力画素値P(l)からなるテーブルを生成する。
【２９４４】
ステップＳ５３０４において、積分成分演算部５３０４は、条件設定部５３０１により設定された条件（タップ範囲、幅、ｉの数）、並びにデータ定常性検出部１０１より供給されたデータ定常性情報（角度θ）に基づいて積分成分を演算し、積分成分テーブルを生成する。
【２９４５】
いまの場合、積分成分演算部５３０４は、上述した式（２７８）の積分成分Ti（x_s,x_e,y_s,y_e）（＝Ti(x-0.5,x+0.5,y-0.5,y+0.5)：１画素の大きさを１×１で表現する場合）を、次の式（２７９）の左辺で示される積分成分Ti(l)といったlの関数として演算する。
【２９４６】
Ti(ｌ) ＝ Ti(x-0.5,x+0.5,y-0.5,y+0.5) ・・・（２７９）
【２９４７】
即ち、いまの場合、例えば、iが０乃至５であるとすれば、１５個のT₀(l),１５個のT₁(l),１５個のT₂(l),１５個のT₃(l),１５個のT₄(l),１５個のT₅(l)の総計９０個のT_i(l)が演算され、それらを含む積分成分テーブルが生成される。
【２９４８】
なお、ステップＳ５３０３の処理とステップＳ５３０４の処理の順序は、図３７０の例に限定されず、ステップＳ５３０４の処理が先に実行されてもよいし、ステップＳ５３０３の処理とステップＳ５３０４の処理が同時に実行されてもよい。
【２９４９】
次に、ステップ５３０５において、正規方程式生成部５３０５は、ステップＳ５３０３の処理で入力画素値取得部５３０３により生成された入力画素値テーブルと、ステップＳ５３０４の処理で積分成分演算部５３０４により生成された積分成分テーブルに基づいて、正規方程式テーブルを生成する。
【２９５０】
具体的には、いまの場合、上述した式（２７８）を利用して最小自乗法により特徴量w_iが演算されるので、それに対応する正規方程式は、次の式（２８０）のように表される。
【２９５１】
【数２２１】

・・・（２８０）
【２９５２】
なお、式（２８０）において、Lは、タップ範囲の画素の番号lのうちの最大値を表している。nは、近似関数f(x)を定義する特徴量w_iのiの数を表している。v_lは、重みを表している。具体的には、いまの場合、L=１５となる。
【２９５３】
式（２８０）で示される正規方程式の各行列のそれぞれを、次の式（２８１）乃至（２８３）のように定義すると、正規方程式は、次の式（２８４）のように表現される。
【２９５４】
【数２２２】

・・・（２８１）
【２９５５】
【数２２３】

・・・（２８２）
【２９５６】
【数２２４】

・・・（２８３）
【２９５７】
【数２２５】

・・・（２８４）
【２９５８】
式（２８２）で示されるように、行列W_MATの各成分は、求めたい特徴量w_iである。従って、式（２８４）において、左辺の行列T_MATと右辺の行列P_MATが決定されれば、行列解法によって行列W_MATの演算が可能になる。
【２９５９】
具体的には、式（２８１）で示されるように、行列T_MATの各成分は、上述した積分成分T_i(l)で演算可能である。即ち、積分成分T_i(l)は、積分成分演算部５３０４より供給された積分成分テーブルに含まれているので、正規方程式生成部５３０５は、積分成分テーブルを利用して行列T_MATの各成分を演算することができる。
【２９６０】
また、式（２８３）で示されるように、行列Ｐ_MATの各成分は、積分成分T_i(l)と入力画素値P(l)で演算可能である。即ち、積分成分T_i(l)は、行列T_MATの各成分に含まれるものと同一のものであり、また、入力画素値P(l)は、入力画素値取得部５３０３より供給された入力画素値テーブルに含まれているので、正規方程式生成部５３０５は、積分成分テーブルと入力画素値テーブルを利用して行列Ｐ_MATの各成分を演算することができる。
【２９６１】
このようにして、正規方程式生成部５３０５は、行列T_MATと行列Ｐ_MATの各成分を演算し、その演算結果（行列T_MATと行列Ｐ_MATの各成分）を正規方程式テーブルとして近似関数生成部５３０６に出力する。
【２９６２】
正規方程式生成部５３０５より正規方程式テーブルが出力されると、ステップＳ５３０６において、近似関数生成部５３０６は、正規方程式テーブルに基づいて、上述した式（２８４）の行列W_MATの各成分である特徴量w_i（即ち、不連続関数からなる２次元の近似関数f(x,y)の領域毎に定義される関数であるレベルw_i）を演算する。
【２９６３】
具体的には、上述した式（２８４）の正規方程式は、次の式（２８５）のように変形できる。
【２９６４】
【数２２６】

・・・（２８５）
【２９６５】
式（２８５）において、左辺の行列W_MATの各成分が、求めたい特徴量w_iである。また、行列T_MATと行列P_MATのそれぞれの各成分は、正規方程式生成部５３０５より供給された正規方程式テーブルに含まれている。従って、近似関数生成部５３０６は、正規方程式テーブルを利用して、式（２８５）の右辺の行列演算を行うことで行列W_MATを演算し、その演算結果（特徴量w_i）を画像生成部１０３に出力する。
【２９６６】
ステップＳ５３０７において、近似関数生成部５３０６は、全画素の処理を終了したか否かを判定する。
【２９６７】
ステップＳ５３０７において、全画素の処理がまだ終了されていないと判定された場合、処理はステップＳ５３０２に戻り、それ以降の処理が繰り返される。即ち、まだ注目画素とされない画素が、順次注目画素とされて、ステップＳ５３０２乃至Ｓ５３０７の処理が繰り返される。
【２９６８】
そして、全画素の処理が終了すると（ステップＳ５３０７において、全画素の処理が終了されたと判定されると）、実世界１の推定処理は終了となる。
【２９６９】
以上、不連続関数を用いた２次元の近似手法の説明として、空間方向（X方向とY方向）に対する近似関数f(x,y)の特徴量w_iを演算する例を用いたが、不連続関数を用いた２次元の近似手法は、時空間方向（X方向とT方向、または、Y方向とT方向）に対しても適用可能である。
【２９７０】
即ち、上述した例は、実世界１の光信号が、例えば、空間方向の定常性を有する場合の例であったので、上述した式（２７７）で示されるような、空間方向（X方向とY方向）の２次元積分が含まれる式が利用された。しかしながら、２次元積分の考え方は、空間方向だけによるものではなく、時空間方向（X方向とT方向、または、Y方向とT方向）に対して適用することも可能である。
【２９７１】
換言すると、不連続関数を用いた２次元近似手法においては、推定したい光信号関数F(x,y,t)が、空間方向の定常性のみならず、時空間方向（ただし、X方向とT方向、または、Y方向とT方向）の定常性を有している場合であっても、２次元の不連続関数により近似することが可能である。
【２９７２】
具体的には、例えば、図３７２で示されるような、物体（図中のおもちゃの飛行機）Ｄ１（図中の下段のフレームの画像）が、X方向に水平に等速で動いて、物体Ｄ２（図中の中段のフレームの画像）まで移動する場合、X-T平面において、その物体の動きは図３７２の上部で示されるように、軌跡Ｌ１のように表される。尚、図３７２の上段は、図中のＯＰＱＲを各頂点とした面の画素値の変化を示したものである。
【２９７３】
換言すると、軌跡Ｌ１は、X-T平面における時空間方向の定常性の方向を表しているとも言える。従って、データ定常性検出部１０１は、上述した角度θ（X-Y平面における、所定の傾き（角度）で表される空間方向の定常性に対応するデータ定常性情報）と同様に、X-T平面における時空間方向の定常性を表す傾き（定常性の角度）に対応するデータ定常性情報として、図３７２で示されるような軌跡のなす角度（厳密には、図示はしないが、物体がＤ１からＤ２に移動するときの軌跡（上述した動き）としてのデータの定常性の方向と、空間方向のＸ方向とのなす角度）を出力することが可能である。
【２９７４】
従って、２次元の不連続関数を用いた近似手法を利用する実世界推定部１０２は、動きθを上述した角度θの代わりとして使用すれば、上述した方法と同様な方法で、近似関数f(x,t)の特徴量w_iを演算することが可能になる。ただし、この場合、使用される式は、上述した式（２７７）ではなく、次の式（２８６）である。
【２９７５】
【数２２７】

・・・（２８６）
【２９７６】
X-T平面上の処理である場合、図３７１の右部で示されている各画素と不連続関数との関係は、図３７３で示されるようになる。すなわち、図３７３においては、空間方向Ｘの断面形状（不連続関数による断面形状）がフレーム方向Tに対して所定の定常性の方向に沿って連続することになる。結果として、レベルが、レベルw₁乃至w₅の5種類である場合、図３７１の左部で示したような同一のレベルとなる帯が定常性の方向に沿って分布することになる。
【２９７７】
従って、この場合、画素値は、図３７３の右部にあるようにX-T平面上に存在する画素を用いることで、求めることができる。尚、図３７３の右部において、各マス目は画素を示すが、Ｘ方向は、画素の幅であるが、フレーム方向については、各マス目の単位が1フレーム分に相当する。
【２９７８】
また、空間方向Ｘの代わりに、空間方向Ｙに注目した近似関数f（y,t）も、上述した近似関数f(x，t)と全く同様に取り扱うことが可能である。
【２９７９】
以上においては、不連続関数からなる２次元の近似関数を設定し、実世界を推定する手法について説明したが、さらに、不連続関数からなる３次元の近似関数による実世界の推定も可能である。
【２９８０】
例えば、図３７４で示されるように領域毎に異なる２次元の不連続な関数を考える。すなわち、図３７４の場合、領域a₁≦x＜a₂で、かつ、ｂ₁≦y＜ｂ₂とき、近似関数はf(x,y)＝w₁であり、領域a₂≦x＜a₃で、かつ、ｂ₃≦y＜ｂ₄とき、近似関数はf(x,y)＝w₂であり、領域a₃≦x＜a₄で、かつ、ｂ₅≦y＜ｂ₆とき、近似関数はf(x,y)＝w₃であり、領域a₄≦x＜a₅で、かつ、ｂ₇≦y＜ｂ₈とき、近似関数はf(x,y)＝w₄であり、さらに、領域a₃≦x＜a₄で、かつ、ｂ₉≦y＜ｂ₁₀とき、近似関数はf(x,y)＝w₅であるように、それぞれ領域毎に異なる近似関数f(x,y)が設定されている。また、w_iは、実質的に、各領域における光の強度のレベルと考えることができる。
【２９８１】
このように図３７４で示されるような不連続関数は、以下の式（２８７）の一般式で定義される。
【２９８２】

【２９８３】
尚、ここで、ｊ，ｋは、任意の整数であるが、ｉは、ｊとｋの組み合わせにより表現可能な領域を識別する通し番号である。
【２９８４】
このように図３７４で示されたような断面の分布（断面の曲線に対応するもの）は、各領域毎に定数として設定されている。
【２９８５】
従って、式（２８７）で定義される、実世界の、不連続関数からなる近似関数f(x,y)を用いることにより、以下の式（２８８）により画素値Ｐ(x,y)が求められることになる。
【数２２８】

・・・（２８８）
【２９８６】
ここで、x_e，x_sは、Ｘ方向の積分範囲を示す値を示し、x_SがＸ方向の積分開始位置を、x_eがＸ方向の積分終了位置をそれぞれ示している。同様に、y_e，y_sは、Ｙ方向の積分範囲を示す値を示し、y_SがＹ方向の積分開始位置を、y_eがＹ方向の積分終了位置をそれぞれ示している。
【２９８７】
しかしながら、実際には、上述の式（２８７）で示されるような実世界を近似する関数を直接求めることは困難である。
【２９８８】
図３７４で示されるような画素値の断面の分布は、フレーム方向の定常性の方向に対して連続して存在するものと仮定されるので、空間における光の強度の分布は、図３７５で示されるようなものとなる。ここで、図３７５の左部は、不連続関数からなる近似関数f(x,y)がフレーム方向とX方向の定常性の方向に連続的に存在した場合の画素値の分布のX-T平面により表現したものであり、図中右部には、図３７４で、X-Y平面上の光の強度のレベルの断面が、フレーム方向に連続した分布が示されている。
【２９８９】
すなわち、定常性の方向に沿って、図３７４で示された断面の形状が連続した状態となるため、図３７５の右部に示されるように、各レベルw_iの領域は、定常性の方向に沿った棒状の分布となる。
【２９９０】
図３７５の右部で示されるような不連続関数により定義された近似関数f(x,y)を用いて、各３次元の領域の画素値を決定するには、上述した２次元において、面積を用いていた方法と同様にして、体積による割合を用いて計算する。すなわち、各画素の総体積（X方向、Y方向、および、T方向からなる３次元の体積）のうち、各レベルが設定された範囲の占める体積の割合に応じた重みと、そのレベルとの積和を求めて、対応する画素の画素値を用いることにより、例えば、最小自乗法を用いて、各領域の画素値を求める。
【２９９１】
すなわち、図３７６で示されるように、境界Ｒを境として、一方の領域のレベルがf(x,y)=w₁であり、他方の領域のレベルがf(x,y)=w₂であるものとする。また、XYT空間上で図中のABCDEFGHからなる立方体が、注目画素を示しているものとする。さらに、注目画素における境界Ｒとの断面は、IJKLからなる長方形であるものとする。
【２９９２】
また、画素Ｐの体積のうち、IBJ-KFLからなる三角柱となる部分の占める割合をM1、および、それ以外の部分（ADCJI-EGHLKからなる５角柱）の体積の占める割合をM2で表すものとする。尚、ここでいう体積とは、XYt空間上の専有領域の大きさを示すものである。
【２９９３】
このとき、注目画素の画素値Ｐは、各範囲の画素値と割合の積和で表されるので、以下の式（２８９）で示される演算により求められる。
【２９９４】

【２９９５】
従って、各画素について、式（２８９）で示される関係を用いて画素値との関係を示す式を生成することで、例えば、画素値を示す係数としてw₁乃至w₂を求めるには、それぞれの係数を含む最低２画素分以上の画素値と、その画素の式（２８９）の関係を示すが得られれば、例えば、最小自乗法（未知数と関係式が同数の場合は、連立方程式）により画素値のレベルを示すw₁乃至w₂を得ることが可能となる。
【２９９６】
このように定常性を用いた３次元の関係を利用することにより、不連続関数からなる近似関数f(x,y)を求めることが可能となる。
【２９９７】
例えば、定常性検出部１０１により出力されてくる、X-Y平面状の定常性の角度θに相当する、動きθに基づいて、X-T平面上、および、Y-T平面状の速度v_x,v_y（実質的に、X-T平面、および、Y-T平面の傾き）を求めることができることから、Ｘ方向およびＹ方向の任意の位置（x,y）における、定常性の直線のＸ方向の位置x_lおよびＹ方向の位置y_lが、次の式（２９０）のように表される。
【２９９８】

【２９９９】
即ち、データの定常性に対応する直線上の点は、座標値(x_l,y_l)で表される。
【３０００】
式（２９０）より、断面方向距離x'，y'（定常性の存在する直線に沿ってX方向、および、Y方向にずれた距離）は、次の式（２９１）のように表される。
【３００１】

従って、入力画像の任意の位置(x,y)における近似関数f(x,y)は、式（２８７）と式（２９１）より、次の式（２９２）のように示される。
【３００２】

【３００３】
従って、実世界推定部１０２は、式（２９２）の各領域毎の特徴量w_iを演算することができれば、不連続関数からなる近似関数f(x,y,t)を推定することにより、波形F(x,y,t)を推定することができる。
【３００４】
そこで、以下、式（２９２）の特徴量w_iを演算する手法について説明する。
【３００５】
即ち、式（２９２）で表される近似関数f(x,y,t)を、画素（センサ２の検出素子）に対応する積分範囲（空間方向の積分範囲）で積分すれば、その積分値が、画素の画素値の推定値となる。このことを、式で表現したものが、次の式（２９３）である。
【３００６】
【数２２９】

・・・（２９３）
【３００７】
式（２９３）において、P(x,y,t)は、センサ２からの入力画像のうちの、その中心位置が位置(x,y,t)（注目画素からの相対位置(x,y,t)）に存在する画素の画素値を表している。
【３００８】
このように、３次元の近似手法においては、入力画素値P(x,y,t)と、不連続関数からなる３次元の近似関数f(x,y,t)の関係を、式（２９３）で表現することが可能であるので、実世界推定部１０２は、式（２９３）を利用して、特徴量w_iを、例えば、最小自乗法等により演算することで、３次元の関数F(x,y,t)（空間方向の定常性を有する実世界１の光信号を、時空間方向に着目して表した波形F(x,y,t)）を推定することが可能となる。
【３００９】
次に、図３７７を参照して、以上のような、不連続関数からなる３次元の近似関数f(x,y,t)を設定し、実世界を推定する実世界推定部１０２の構成について説明する。
【３０１０】
図３７７で示されるように、実世界推定部１０２には、条件設定部５３２１、入力画像記憶部５３２２、入力画素値取得部５３２３、積分成分演算部５３０４、正規方程式生成部５３２５、および近似関数生成部５３２６が設けられている。
【３０１１】
条件設定部５３２１は、注目画素に対応する関数F(x,y,t)を推定するために使用する画素の範囲（タップ範囲）や、近似関数f(x,y,t)の範囲の（例えば、a_j≦（x−v_x×ｔ）＜a_j+1、および、b_2k-1≦（y−v_y×ｔ）＜b_2kの幅、ｉの数）を設定する。
【３０１２】
入力画像記憶部５３２２は、センサ２からの入力画像（画素値）を一時格納する。
【３０１３】
入力画素値取得部５３２３は、入力画像記憶部５３２２に記憶された入力画像のうちの、条件設定部５３２１により設定されたタップ範囲に対応する入力画像の領域を取得し、それを入力画素値テーブルとして正規方程式生成部５３２５に供給する。即ち、入力画素値テーブルは、入力画像の領域に含まれる各画素のそれぞれの画素値が記述されたテーブルである。なお、入力画素値テーブルの具体例については後述する。
【３０１４】
ところで、上述したように、３次元近似手法を利用する実世界推定部１０２は、上述した式（２９３）を最小自乗法で解くことにより、上述した式（２９２）で示される近似関数f(x,y,t)の特徴量w_iを演算する。
【３０１５】
式（２９３）は、次の式（２９４）のように表現することができる。
【３０１６】
【数２３０】

・・・（２９４）
【３０１７】
式（２９４）において、T_i（x_s,x_e,y_s,y_e,t_s,t_e）は、積分範囲となる領域のうち、特徴量w_iとなる領域（光のレベルw_iとなる領域）の積分結果、すなわち、体積を表している。尚、以下、T_i（x_s,x_e,y_s,y_e,t_s,t_e）は、積分成分と称する。尚、この式（２９４）は、２次元の演算における積分成分T_i（x_s,x_e,y_s,y_e）に対応するものである。
【３０１８】
積分成分演算部５３２４は、この積分成分T_i（x_s,x_e,y_s,y_e,t_s,t_e）（＝（x-0.5,x+0.5,y-0.5,y+0.5,t-0.5,t+0.5）：１画素分の領域を取る場合）を演算する。
【３０１９】
具体的には、式（２９４）で示される積分成分T_i（x_s,x_e,y_s,y_e,t_s,t_e）は、図３７６を参照して上述したように、求めようとする画素中の、所定の特徴量w_iの体積を求めるものである。従って、積分成分演算部５３２４は、積分成分T_i（x_s,x_e,y_s,y_e,t_s,t_e）を、各特長量毎の幅ｄ，ｅ、並びに、定常性の方向の情報（すなわち、例えば、速度v_x,v_y、または、定常性の所定の軸に対する角度θ）に基づいて、幾何学的に各特徴量w_i毎に占める体積を求めるようにしてもよいし、シンプソンの公式に従って多重分割して積分して求めるようにしてもよく、体積を求める方法はそれらに限るものではなく、例えば、モンテカルロ法によって体積を求めるようにしてもよい。
【３０２０】
図３７６で説明したように、a_j≦（x−v_x×ｔ）＜a_j+1、および、b_2k-1≦（y−v_y×ｔ）＜b_2kのそれぞれの幅と、定常性の方向の情報（すなわち、例えば、速度v_x,v_y、または、定常性の所定の軸に対する角度θ）、および、相対画素位置(x,y,t)が既知であれば、特徴量w_iの演算は可能である。これらのうち、相対画素位置(x,y,t)は注目画素とタップ範囲により、定常性の情報は、定常性検出部１０１により検出された情報より、また、a_j≦（x−v_x×ｔ）＜a_j+1、および、b_2k-1≦（y−v_y×ｔ）＜b_2kの幅は、予め設定されるため、それぞれの値は既知となる。
【３０２１】
従って、積分成分演算部５３２４は、条件設定部５３２１により設定されたタップ範囲および幅、並びにデータ定常性検出部１０１より出力されたデータ定常性情報に基づいて積分成分Ti（x-0.5,x+0.5,y-0.5,y+0.5,t-0.5,t+0.5）を演算し、その演算結果を積分成分テーブルとして正規方程式生成部５３２５に供給する。
【３０２２】
正規方程式生成部５３２５は、入力画素値取得部５３２３より供給された入力画素値テーブルと、積分成分演算部５３２４より供給された積分成分テーブルを利用して、上述した式（２９３）、即ち、式（２９４）を最小自乗法で求める場合の正規方程式を生成し、それを正規方程式テーブルとして近似関数生成部５３２６に出力する。
【３０２３】
近似関数生成部５３２６は、正規方程式生成部５３２５より供給された正規方程式テーブルに含まれる正規方程式を行列解法で解くことにより、上述した式（２９４）の特徴量w_iのそれぞれを演算し、画像生成部１０３に出力する。
【３０２４】
次に、図３７８のフローチャートを参照して、不連続関数を用いた３次元の近似手法が適用される実世界の推定処理（図４０のステップＳ１０２の処理）について説明する。
【３０２５】
例えば、いま、X-t平面、および、Y-t平面に対してそれぞれ速度v_x,v_yで表される時空間方向の定常性を有する実世界１の光信号が、センサ２により検出されて、１フレームに対応する入力画像として、入力画像記憶部５３２２に既に記憶されているとする。また、データ定常性検出部１０１が、ステップＳ１０１（図４０６）の定常性の検出の処理において、入力画像のうちのデータ定常性情報として速度v_x,v_yが得られているものとする。
【３０２６】
この場合、ステップＳ５３２１において、条件設定部５３２１は、条件（タップ範囲、a_j≦（x−v_x×ｔ）＜a_j+1、および、b_2k-1≦（y−v_y×ｔ）＜b_2kの幅（同じ特徴量（同じ近似関数となる領域の幅ｄ，ｅ））、および、ｉの数）を設定する。
【３０２７】
例えば、いま、図３７９で示されるタップ範囲が設定されるとともに、幅として水平方向の幅×垂直方向の幅＝ｄ×ｅが設定されたとする。
【３０２８】
設定されたタップの範囲は、例えば、図３７９で示されているものとする。図３７９において、Ｘ方向とＹ方向は、センサ２のＸ方向とＹ方向を表している。また、ｔは、フレームの番号を示しており、また、タップ範囲は、図３７９の右部各フレーム９個で３フレーム分となる画素Ｐ０乃至Ｐ２６の合計２７個の画素からなる画素群を表している。
【３０２９】
さらに、図３７９に示されるように、注目画素が、フレーム番号ｔ＝ｎの図中、中央部の画素Ｐ１３に設定されるとする。また、各画素のそれぞれに対して、注目画素からの相対画素位置(x,y,t)（注目画素の中心(0,0,0)を原点とする注目画素座標系の座標値）に応じて、図３７９で示されるような番号l（lは、Ｐ０乃至Ｐ２６のうちのいずれかを示す整数値）が付されるとする。
【３０３０】
図３７８に戻り、ステップＳ５３２２において、条件設定部５３２１は、注目画素を設定する。
【３０３１】
ステップＳ５３２３において、入力画素値取得部５３２３は、条件設定部５３２１により設定された条件（タップ範囲）に基づいて入力画素値を取得し、入力画素値テーブルを生成する。即ち、いまの場合、入力画素値取得部５３２３は、入力画像の領域（図３７９中の番号Ｐ０乃至Ｐ２６が付された画素）の画素の画素値を取得し、入力画素値テーブルとして、２７個の入力画素値P(l)からなるテーブルを生成する。
【３０３２】
ステップＳ５３２４において、積分成分演算部５３２４は、条件設定部５３２１により設定された条件（タップ範囲、幅、ｉの数）、並びにデータ定常性検出部１０１より供給されたデータ定常性情報に基づいて積分成分を演算し、積分成分テーブルを生成する。
【３０３３】
いまの場合、積分成分演算部５３２４は、上述した式（２９４）の積分成分Ti（x_s,x_e,y_s,y_e,t_s,t_e）（＝Ti(x-0.5,x+0.5,y-0.5,y+0.5,t-0.5,t+0.5)：１画素の大きさをX方向×Y方向×フレーム方向t＝１×１×１で表現する場合）を、次の式（２９５）の左辺で示される積分成分Ti(l)といったlの関数として演算する。
【３０３４】

【３０３５】
即ち、いまの場合、例えば、iが０乃至５であるとすれば、２７個のT₀(l),２７個のT₁(l),２７個のT₂(l),２７個のT₃(l),２７個のT₄(l),２７個のT₅(l)の総計１６２個のT_i(l)が演算され、それらを含む積分成分テーブルが生成される。
【３０３６】
なお、ステップＳ５３２３の処理とステップＳ５３２４の処理の順序は、図３７８の例に限定されず、ステップＳ５３２４の処理が先に実行されてもよいし、ステップＳ５３２３の処理とステップＳ５３２４の処理が同時に実行されてもよい。
【３０３７】
次に、ステップ５３２５において、正規方程式生成部５３２５は、ステップＳ５３２３の処理で入力画素値取得部５３２３により生成された入力画素値テーブルと、ステップＳ５３０４の処理で積分成分演算部５３２４により生成された積分成分テーブルに基づいて、正規方程式テーブルを生成する。
【３０３８】
具体的には、いまの場合、上述した式（２９５）を利用して最小自乗法により特徴量w_iが演算されるので、それに対応する正規方程式は、次の式（２９６）のように表される。
【３０３９】
【数２３１】

・・・（２９６）
【３０４０】
なお、式（２９６）において、Lは、タップ範囲の画素の番号lのうちの最大値を表している。nは、近似関数f(x)を定義する特徴量w_iのiの数を表している。v_lは、重みを表している。具体的には、いまの場合、L=２７となる。
【３０４１】
この正規方程式は、上述した式（２８０）と同様の形式であり、上述した２次元における手法と同様であるので、以降の正規方程式の解法についての説明は省略する。
【３０４２】
ステップＳ５３２７において、近似関数生成部５３２６は、全画素の処理を終了したか否かを判定する。
【３０４３】
ステップＳ５３２７において、全画素の処理がまだ終了されていないと判定された場合、処理はステップＳ５３２２に戻り、それ以降の処理が繰り返される。即ち、まだ注目画素とされない画素が、順次注目画素とされて、ステップＳ５３２２乃至Ｓ５３２７の処理が繰り返される。
【３０４４】
そして、全画素の処理が終了すると（ステップＳ５３２７において、全画素の処理が終了されたと判定されると）、実世界１の推定処理は終了となる。
【３０４５】
結果として、例えば、図３８０で示されるように、定常性の方向（X方向の速度がv_x,Y方向の速度がv_y）に沿った太線で描かれた棒状の領域毎に各特徴量であるレベル（不連続関数）w₁乃至w₅が設定され、実世界の近似関数が推定される。今の場合、各棒状の領域はX-Y平面に対する断面の大きさはｄ×ｅである。
【３０４６】
また、細線で描かれた棒状の領域は、Y方向の速度がv_y＝０である場合を示している。すなわち、単純に水平方向に移動する場合は、各レベルw_iが設定される棒状の領域は、X-t平面に対して平行な関係を保つ。これは、X方向の速度がv_x＝０である場合も同様のことが言える。すなわち、この場合は、各棒状の領域が、Y-t平面に対して平行な関係が保たれることになる。
【３０４７】
さらに、時間方向に変化が無く、X-Y平面上に定常性がある場合、各関数毎の棒状の領域は、X-Y平面に対して平行な位置を保つことになる。すなわち、時間方向に変化が無く、X-Y平面に定常性が存在する場合、細線、または、２値エッジが存在する。
【３０４８】
また、以上においては、不連続に関数が設定される各領域が２次元空間に配置される（棒状の領域が、面を構成するように配置される）場合について説明してきたが、例えば、図３８１で示されるように、各領域は、XYTの３次元の空間内に立体的に配置されるようにしてもよい。
【３０４９】
また、以上の例においては、不連続関数として各領域毎に定数の特徴量w_iが設定される場合について説明してきたが、定数ではない連続関数であっても同様のことが可能である。すなわち、例えば、図３８２で示されるように、X方向についての関数であるとき、画像中のX0≦X＜X1の領域では、特徴量w₁は、w₁＝f₀(x)に設定し、画像中のX1≦X＜X2の領域では、特徴量w₂は、w₂＝f₁(x)に設定するようにしてもよい。連続する関数であっても、領域毎に異なる関数として設定するようにしてもよい。この場合、設定される関数は、例えば、多項式近似を用いてもよいし、それ以外の関数であってもよい。
【３０５０】
さらに、不連続関数として各領域毎に定数の特徴量w_iが設定される場合、それぞれの領域で全く連続することの無い関数を設定するようにしてもよい。すなわち、例えば、図３８３で示されるように、X方向についての関数であるとき、画像中のX0≦X＜X1の領域では、特徴量w₁は、w₁＝f₀(x)に設定し、画像中のX1≦X＜X2の領域では、特徴量w₂は、w₂＝f₁(x)に設定するようにして、それぞれの関数（例えば、f₀(x)とf₁(x)）が、それぞれ不連続であっても同様の処理をすることができる。この場合も、設定される関数は、例えば、多項式近似を用いてもよいし、それ以外の関数であってもよい。
【３０５１】
このように、図３７７の実世界推定部１０２は、各画素値を不連続関数により設定する場合、定常性の方向（角度、または、動き（動きから求められる速度の方向））に沿った棒状の領域毎に、不連続に関数を設定することで、実世界の近似関数を設定することが可能となる。
【３０５２】
次に、図３８４を参照して、上述の図３６９の実世界推定部１０２により推定された実世界推定情報に基づいて、画像を生成する画像生成部１０３について説明する。
【３０５３】
図３８４の画像生成部１０３は、実世界推定情報取得部５３４１、重み計算部５３４２、および、画素生成部５３４３から構成されている。
【３０５４】
実世界推定情報取得部５３４１は、図３６９の実世界推定部１０２より出力される実世界推定情報としての特徴量、すなわち、定常性の方向に沿って分割された領域毎に設定される画素値を設定する関数（不連続関数からなる近似関数f(x)）を取得し、重み計算部５３４２に出力する。
【３０５５】
重み計算部５３４２は、実世界推定情報取得部５３４１より入力される実世界推定情報である、定常性の方向に沿って分割された領域の情報に基づいて、生成しようとする画素に含まれる各領域の面積の割合を重みとして計算し、実世界推定情報取得部５３４１より入力された各領域毎に設定された関数の情報と共に画素生成部５３４３に出力する。
【３０５６】
画素生成部５３４３は、重み計算部より入力された生成しようとする画素に含まれる領域毎の面積の割合に基づいて計算された重みの情報と、各領域毎に設定されたレベルの関数（不連続関数からなる近似関数f(x)）に基づいて、レベルを求め、生成しようとする画素毎に、求められたレベルと重みの積和を求めて、その画素の画素値として出力する。
【３０５７】
次に、図３８５のフローチャートを参照して、図３８４の画像生成部１０３による画像生成の処理について説明する。
【３０５８】
ステップＳ５３４１において、実世界推定情報取得部５３４１は、図３６９の実世界推定部１０２より入力されてくる実世界推定情報（不連続関数からなる近似関数f(x)）を取得し、重み計算部５３４２に出力する。
【３０５９】
ステップＳ５３４２において、重み計算部５３４２は、生成しようとする画素を設定し、ステップＳ５３４３において、入力された実世界推定情報に基づいて、生成しようとする画素について、その生成しようとする画素に含まれる、設定された領域毎の、生成しようとする画素に対する面積の割合を求め、これを、各領域の重みとして計算し、実世界推定情報取得部５３４１より入力された、各領域毎のレベルを設定する関数と共に画素生成部５３４３に出力する。
【３０６０】
例えば、図３８６で示されるように、特徴量が設定された場合について説明する。ここで、入力された画像の画素が細線のマス目で示されており、生成しようとする画素が太線のマス目で示されているものとする。すなわち、今の場合、４倍密度の画素が生成される。また、w₁乃至w₅で示される画素の配列に対して右上がりに帯状に設定された５個の領域が定常性の方向に沿って設定された領域であり、各領域のレベルは、w₁乃至w₅であるものとする。
【３０６１】
図３８６で示される斜線状で塗られている画素を生成しようとする注目画素であるものとする場合、注目画素は、領域w₃,w₄に跨っているので、注目画素内の、各領域の占める面積がそれぞれm₁，m₂であったとき、生成される重みは、生成しようとする画素の面積がmであれば、それぞれ領域w₃の重みは、m₁/mとなり、領域w₄の重みは、m₂/mとなる。このように、重み計算部５３４２は、求められた領域毎の重みの情報と、各領域のレベルを設定する関数の情報を画素生成部５３４３に出力する。
【３０６２】
ステップＳ５３４４において、画素生成部５３４３は、重み計算部５３４２より入力された、注目画素に跨る領域毎の重みと、各領域毎のレベルに基づいて、画素値を決定し、画素を生成する。
【３０６３】
すなわち、図３８６を参照して説明した注目画素の場合、画素生成部５３４３には、それぞれ重みの情報として、領域w₃はm₁/mであり、領域w₄はm₂/mであるとの情報を取得することになる。さらに、同時に取得する各領域毎のレベルとの積和を求めて画素値を決定し、画素を生成する。
【３０６４】
すなわち、例えば、領域w₃,w₄のレベルを決定する近似関数が、それぞれの領域でw₃，w₄（いずれも、定数）であった場合、重みとの積和を求めることで、以下の式（２９７）で示されるように画素値が決定される。
【３０６５】

【３０６６】
ステップＳ５３４５において、実世界推定情報取得部５３４１は、生成しようとする画像の全ての画素について処理が終了したか否かを判定し、全ての画素について処理が終了していないと判定した場合、その処理は、ステップＳ５３４２に戻り、それ以降の処理が繰り返される。すなわち、全ての画素について処理が完了したと判定されるまで、ステップＳ５３４２乃至Ｓ５３４５の処理が繰り返される。
【３０６７】
ステップＳ５３４５において、全ての画素について処理が終了したと判定された場合、その処理は終了する。
【３０６８】
すなわち、例えば、水平方向に物体が時間的に右方向に移動する場合、実世界におけるX-T空間の実際の画素値の変化は、図３８７Ａで示されるように、定常性の方向に沿って、同一の画素値レベルとなる領域が続くことが分かっている。このため、図３８７Ｂで示されるようなモデルを用いて、それ以上の密度の画素生成を行うと、画素の形状が、実際の右上がりの直線的な動きを表現することができないため、例えば、拡大画像を生成しようとすると、画素値が変化する境界付近では幾何学的に階段状に配置された画素値の変化により正確な画素値を拡大画像の画素生成に反映することができなかった。
【３０６９】
これに対して、図３６９の実世界推定部１０２の実世界の近似関数の推定におけるモデルは、図３８７Ｃで示されるように、実際の動きに忠実なモデルを定常性の方向に沿って生成することになるので、画素以下の変化も正確に表現することができ、例えば、拡大画像に使用する、高密度画素をより正確に生成することが可能となる。
【３０７０】
以上の処理により、画素以下の領域における光の強度の分布を考慮して画素を生成することができ、より高密度の画素を正確に生成することが可能となるため、例えば、拡大画像を鮮明に生成することが可能となる。
【３０７１】
次に、図３８８を参照して、上述の図３７７の実世界推定部１０２により推定された実世界推定情報に基づいて、画像を生成する画像生成部１０３について説明する。
【３０７２】
図３８８の画像生成部１０３は、実世界推定情報取得部５３５１、重み計算部５３５２、および、画素生成部５３５３から構成されている。
【３０７３】
実世界推定情報取得部５３５１は、図３７７の実世界推定部１０２より出力される実世界推定情報としての特徴量、すなわち、定常性の方向に沿って分割された領域毎に設定される画素値を設定する関数（不連続関数からなる近似関数f(x)）を取得し、重み計算部５３５２に出力する。
【３０７４】
重み計算部５３５２は、実世界推定情報取得部５３５１より入力される実世界推定情報である、定常性の方向に沿って分割された領域の情報に基づいて、生成しようとする画素に含まれる各領域の体積（ここで言う体積は、X方向、Y方向、およびフレーム方向ｔの３次元空間上の体積）の割合を重みとして計算し、実世界推定情報取得部５３５１より入力された各領域毎に設定された関数の情報と共に画素生成部５３５３に出力する。
【３０７５】
画素生成部５３５３は、重み計算部より入力された生成しようとする画素に含まれる領域毎の体積の割合に基づいて計算された重みの情報と、各領域毎に設定されたレベルの関数（不連続関数からなる近似関数f(x)）に基づいて、レベルを求め、生成しようとする画素毎に、求められたレベルと重みの積和を求めて、その画素の画素値として出力する。
【３０７６】
次に、図３８９のフローチャートを参照して、図３８８の画像生成部１０３による画像生成の処理について説明する。
【３０７７】
ステップＳ５３５１において、実世界推定情報取得部５３５１は、図３７７の実世界推定部１０２より入力されてくる実世界推定情報（不連続関数からなる近似関数f(x)）を取得し、重み計算部５３５２に出力する。
【３０７８】
ステップＳ５３５２において、重み計算部５３５２は、生成しようとする画素を設定し、ステップＳ５３５３において、入力された実世界推定情報に基づいて、生成しようとする画素について、その生成しようとする画素に含まれる、設定された領域毎の、生成しようとする画素に対する体積の割合を求め、これを、各領域の重みとして計算し、実世界推定情報取得部５３５１より入力された、各領域毎のレベルを設定する関数と共に画素生成部５３５３に出力する。
【３０７９】
例えば、図３９０で示されるように、X方向、Y方向、および、フレーム方向Tの３次元空間内において、生成しようとする画素として注目画素が設定されるものとする。尚、図３９０においては、太線で示される立方体が注目画素ある。また、細線で描かれている立方体は、注目画素に隣接する画素を示している。
【３０８０】
例えば、図３９１で示されるように、特徴量が設定された場合について説明する。尚、図３９１で示されるw₁乃至w₃で示される棒状に設定された３個の領域が定常性の方向に沿って設定された領域であり、各領域のレベルは、w₁乃至w₃であるものとする。
【３０８１】
図３９１で示されるように、注目画素は、領域w₁乃至w₃に跨っているので、注目画素内の、各領域の占める体積がそれぞれM₁乃至M₃であったとき、生成される重みは、生成しようとする画素の体積がMであれば、それぞれ領域w₁の重みは、M₁/Mとなり、領域w₂の重みは、M₂/Mとなり、領域w₃の重みは、M₃/Mとなる。このように求められた領域毎の重みの情報と、各領域のレベルを設定する関数の情報を画素生成部５３５３に出力する。
【３０８２】
ステップＳ５３５４において、画素生成部５３５３は、重み計算部５３５２より入力された、注目画素に跨る領域毎の重みと、各領域毎のレベルに基づいて、画素値を決定し、画素を生成する。
【３０８３】
すなわち、図３９１を参照して説明した注目画素の場合、画素生成部５３５３には、それぞれ重みの情報として、領域w₁はM₁/Mであり、領域w₂はM₂/Mであり、領域w₃はM₃/Mであるとの情報を取得することになる。さらに、同時に取得する各領域毎のレベルとの積和を求めて画素値を決定し、画素を生成する。
【３０８４】
すなわち、例えば、領域w₁乃至w₃のレベルを決定する近似関数が、それぞれの領域でw₁乃至w₃（いずれも、定数）であった場合、重みとの積和を求めることで、以下の式（２９８）で示されるように画素値を決定する。

【３０８５】
ステップＳ５３５５において、実世界推定情報取得部５３５１は、生成しようとする画像の全ての画素について処理が終了したか否かを判定し、全ての画素について処理が終了していないと判定した場合、その処理は、ステップＳ５３５２に戻り、それ以降の処理が繰り返される。すなわち、全ての画素について処理が完了したと判定されるまで、ステップＳ５３５２乃至Ｓ５３５５の処理が繰り返される。
【３０８６】
ステップＳ５３５５において、全ての画素について処理が終了したと判定された場合、その処理は終了する。
【３０８７】
図３９２Ａ乃至Ｄは、原画像に対して１６倍密度（水平方向、および、垂直方向にそれぞれ４倍の密度）の画素を生成した場合の処理結果を示している。ここで、図３９２Ａは、原画像であり、図３９２Ｂは、従来のクラス分類適応処理による処理結果であり、図３９２Ｃは、上述した多項式からなる実世界の近似関数による処理結果であり、さらに、図３９２Ｄは、不連続関数からなる実世界の近似関数による処理結果をそれぞれ示している。
【３０８８】
不連続関数からなる実世界の近似関数による処理結果は、画像のにじみが少なく、原画像に近い鮮明な画像が生成されることがわかる。
【３０８９】
また、図３９３は、高密度の原画像における、水平方向、および、垂直方向に４画素×４画素ずつ平均画素値を求め、さらに、その１６画素の画素値を求められた平均画素値として、空間解像度を１６分の１にまで低下させた後、上述した多項式からなる実世界の近似関数による処理結果と、不連続関数からなる実世界の近似関数による処理結果を比較したものである。尚、図３９３において、実線は、原画像であり、点線は、多項式からなる実世界の近似関数による処理結果であり、一点鎖線が、不連続関数からなる実世界の近似関数による処理結果である。また、図中横軸は、Ｘ方向の座標位置であり、縦軸は画素値を示している。
【３０９０】
不連続関数からなる実世界の近似関数による処理結果は、多項式からなる実世界の近似関数による処理結果と比べて、Ｘ＝６５１乃至６５５において、原画像と原画像に対してより一致しており、１６倍密度の画素生成においても正確に画素値を再現していることがわかる。
【３０９１】
以上の処理により、画素以下の領域における光の強度の分布を考慮して画素を生成することができ、より高密度の画素を正確に生成することが可能となるため、例えば、拡大画像を鮮明に生成することが可能となる。
【３０９２】
さらに、上述のように、不連続関数からなる実世界の近似関数を設定する方法により、画像に動きボケが生じても除去することができる。
【３０９３】
ここで、図３９４乃至図４０９を参照して、入力画像と動きボケについて説明する。
【３０９４】
図３９４は、センサ２による撮像を説明する図である。センサ２は、例えば、固体撮像素子であるCCD（Charge-Coupled Device）エリアセンサを備えたCCDビデオカメラなどで構成される。現実世界における、前景に対応するオブジェクトは、現実世界における、背景に対応するオブジェクトと、センサとの間を、例えば、図中の左側から右側に水平に移動する。
【３０９５】
センサ２は、前景に対応するオブジェクトを、背景に対応するオブジェクトと共に撮像する。センサ２は、撮像した画像を１フレーム単位で出力する。例えば、センサ２は、１秒間に３０フレームから成る画像を出力する。センサ２の露光時間は、１／３０秒とすることができる。露光時間は、センサ２が入力された光の電荷への変換を開始してから、入力された光の電荷への変換を終了するまでの期間である。以下、露光時間をシャッタ時間とも称する。
【３０９６】
図３９５は、画素の配置を説明する図である。図３９５中において、Ａ乃至Ｉは、個々の画素を示す。画素は、画像に対応する平面上に配置されている。１つの画素に対応する１つの検出素子は、センサ２上に配置されている。センサ２が画像を撮像するとき、１つの検出素子は、画像を構成する１つの画素に対応する画素値を出力する。例えば、検出素子のＸ方向の位置は、画像上の横方向の位置に対応し、検出素子のＹ方向の位置は、画像上の縦方向の位置に対応する。
【３０９７】
図３９６に示すように、例えば、CCDである検出素子は、シャッタ時間に対応する期間、入力された光を電荷に変換して、変換された電荷を蓄積する。電荷の量は、入力された光の強さと、光が入力されている時間にほぼ比例する。検出素子は、シャッタ時間に対応する期間において、入力された光から変換された電荷を、既に蓄積されている電荷に加えていく。すなわち、検出素子は、シャッタ時間に対応する期間、入力される光を積分して、積分された光に対応する量の電荷を蓄積する。検出素子は、時間に対して、積分効果があるとも言える。
【３０９８】
検出素子に蓄積された電荷は、図示せぬ回路により、電圧値に変換され、電圧値は更にデジタルデータなどの画素値に変換されて出力される。従って、センサ２から出力される個々の画素値は、前景または背景に対応するオブジェクトの空間的に広がりを有するある部分を、シャッタ時間について積分した結果である、１次元の空間に射影された値を有する。
【３０９９】
図３９７は、動いている前景に対応するオブジェクトと、静止している背景に対応するオブジェクトとを撮像して得られる画像を説明する図である。図３９７Ａは、動きを伴う前景に対応するオブジェクトと、静止している背景に対応するオブジェクトとを撮像して得られる画像を示している。図３９７Ａに示す例において、前景に対応するオブジェクトは、画面に対して水平に左から右に動いている。
【３１００】
図３９７Ｂは、図３９７Ａに示す画像の１つのラインに対応する画素値を時間方向に展開したモデル図である。図３９７Ｂの横方向は、図３９７Ａの空間方向Ｘに対応している。
【３１０１】
背景領域の画素は、背景の成分、すなわち、背景のオブジェクトに対応する画像の成分のみから、その画素値が構成されている。前景領域の画素は、前景の成分、すなわち、前景のオブジェクトに対応する画像の成分のみから、その画素値が構成されている。
【３１０２】
混合領域の画素は、背景の成分、および前景の成分から、その画素値が構成されている。混合領域は、背景の成分、および前景の成分から、その画素値が構成されているので、歪み領域ともいえる。混合領域は、更に、カバードバックグラウンド領域およびアンカバードバックグラウンド領域に分類される。
【３１０３】
カバードバックグラウンド領域は、前景領域に対して、前景のオブジェクトの進行方向の前端部に対応する位置の混合領域であり、時間の経過に対応して背景成分が前景に覆い隠される領域をいう。
【３１０４】
これに対して、アンカバードバックグラウンド領域は、前景領域に対して、前景のオブジェクトの進行方向の後端部に対応する位置の混合領域であり、時間の経過に対応して背景成分が現れる領域をいう。
【３１０５】
図３９８は、以上のような、背景領域、前景領域、混合領域、カバードバックグラウンド領域、およびアンカバードバックグラウンド領域を説明する図である。図３９７に示す画像に対応する場合、背景領域は、静止部分であり、前景領域は、動き部分であり、混合領域のカバードバックグラウンド領域は、背景から前景に変化する部分であり、混合領域のアンカバードバックグラウンド領域は、前景から背景に変化する部分である。
【３１０６】
図３９９は、静止している前景に対応するオブジェクトおよび静止している背景に対応するオブジェクトを撮像した画像における、隣接して１列に並んでいる画素の画素値を時間方向に展開したモデル図である。例えば、隣接して１列に並んでいる画素として、画面の１つのライン上に並んでいる画素を選択することができる。
【３１０７】
図３９９に示すF01乃至F04の画素値は、静止している前景のオブジェクトに対応する画素の画素値である。図３９９に示すB01乃至B04の画素値は、静止している背景のオブジェクトに対応する画素の画素値である。
【３１０８】
図３９９における縦方向は、時間に対応し、図中の上から下に向かって時間が経過する。図３９９中の矩形の上辺の位置は、センサ２が入力された光の電荷への変換を開始する時刻に対応し、図３９９中の矩形の下辺の位置は、センサ２が入力された光の電荷への変換を終了する時刻に対応する。すなわち、図３９９中の矩形の上辺から下辺までの距離は、シャッタ時間に対応する。
【３１０９】
以下において、シャッタ時間とフレーム間隔とが同一である場合を例に説明する。
【３１１０】
図３９９における横方向は、図３９７で説明した空間方向Xに対応する。より具体的には、図３９９に示す例において、図３９９中の"F01"と記載された矩形の左辺から"B04"と記載された矩形の右辺までの距離は、画素のピッチの８倍、すなわち、連続している８つの画素の間隔に対応する。
【３１１１】
前景のオブジェクトおよび背景のオブジェクトが静止している場合、シャッタ時間に対応する期間において、センサ２に入力される光は変化しない。
【３１１２】
ここで、シャッタ時間に対応する期間を２つ以上の同じ長さの期間に分割する。仮想分割数は、前景に対応するオブジェクトのシャッタ時間内での動き量vなどに対応して設定される。例えば、図４００に示すように、４である動き量vに対応して、仮想分割数は、４とされ、シャッタ時間に対応する期間は４つに分割される。
【３１１３】
図４００中の最も上の行は、シャッタが開いて最初の、分割された期間に対応する。図中の上から２番目の行は、シャッタが開いて２番目の、分割された期間に対応する。図中の上から３番目の行は、シャッタが開いて３番目の、分割された期間に対応する。図中の上から４番目の行は、シャッタが開いて４番目の、分割された期間に対応する。
【３１１４】
以下、動き量vに対応して分割されたシャッタ時間をシャッタ時間/vとも称する。
【３１１５】
前景に対応するオブジェクトが静止しているとき、センサ２に入力される光は変化しないので、前景の成分F01/vは、画素値F01を仮想分割数で除した値に等しい。同様に、前景に対応するオブジェクトが静止しているとき、前景の成分F02/vは、画素値F02を仮想分割数で除した値に等しく、前景の成分F03/vは、画素値F03を仮想分割数で除した値に等しく、前景の成分F04/vは、画素値F04を仮想分割数で除した値に等しい。
【３１１６】
背景に対応するオブジェクトが静止しているとき、センサ２に入力される光は変化しないので、背景の成分B01/vは、画素値B01を仮想分割数で除した値に等しい。同様に、背景に対応するオブジェクトが静止しているとき、背景の成分B02/vは、画素値B02を仮想分割数で除した値に等しく、B03/vは、画素値B03を仮想分割数で除した値に等しく、B04/vは、画素値B04を仮想分割数で除した値に等しい。
【３１１７】
すなわち、前景に対応するオブジェクトが静止している場合、シャッタ時間に対応する期間において、センサ２に入力される前景のオブジェクトに対応する光が変化しないので、シャッタが開いて最初の、シャッタ時間/vに対応する前景の成分F01/vと、シャッタが開いて２番目の、シャッタ時間/vに対応する前景の成分F01/vと、シャッタが開いて３番目の、シャッタ時間/vに対応する前景の成分F01/vと、シャッタが開いて４番目の、シャッタ時間/vに対応する前景の成分F01/vとは、同じ値となる。F02/v乃至F04/vも、F01/vと同様の関係を有する。
【３１１８】
背景に対応するオブジェクトが静止している場合、シャッタ時間に対応する期間において、センサ２に入力される背景のオブジェクトに対応する光は変化しないので、シャッタが開いて最初の、シャッタ時間/vに対応する背景の成分B01/vと、シャッタが開いて２番目の、シャッタ時間/vに対応する背景の成分B01/vと、シャッタが開いて３番目の、シャッタ時間/vに対応する背景の成分B01/vと、シャッタが開いて４番目の、シャッタ時間/vに対応する背景の成分B01/vとは、同じ値となる。B02/v乃至B04/vも、同様の関係を有する。
【３１１９】
次に、前景に対応するオブジェクトが移動し、背景に対応するオブジェクトが静止している場合について説明する。
【３１２０】
図４０１は、前景に対応するオブジェクトが図中の右側に向かって移動する場合の、カバードバックグラウンド領域を含む、１つのライン上の画素の画素値を時間方向に展開したモデル図である。図４０１において、前景の動き量vは、４である。１フレームは短い時間なので、前景に対応するオブジェクトが剛体であり、等速で移動していると仮定することができる。図４０１において、前景に対応するオブジェクトの画像は、あるフレームを基準として次のフレームにおいて４画素分右側に表示されるように移動する。
【３１２１】
図４０１において、最も左側の画素乃至左から４番目の画素は、前景領域に属する。図４０１において、左から５番目乃至左から７番目の画素は、カバードバックグラウンド領域である混合領域に属する。図４０１において、最も右側の画素は、背景領域に属する。
【３１２２】
前景に対応するオブジェクトが時間の経過と共に背景に対応するオブジェクトを覆い隠すように移動しているので、カバードバックグラウンド領域に属する画素の画素値に含まれる成分は、シャッタ時間に対応する期間のある時点で、背景の成分から、前景の成分に替わる。
【３１２３】
例えば、図４０１中に太線枠を付した画素値Mは、式（２９９）で表される。
【３１２４】

【３１２５】
例えば、左から５番目の画素は、１つのシャッタ時間/vに対応する背景の成分を含み、３つのシャッタ時間/vに対応する前景の成分を含むので、左から５番目の画素の混合比αは、1/4である。左から６番目の画素は、２つのシャッタ時間/vに対応する背景の成分を含み、２つのシャッタ時間/vに対応する前景の成分を含むので、左から６番目の画素の混合比αは、1/2である。左から７番目の画素は、３つのシャッタ時間/vに対応する背景の成分を含み、１つのシャッタ時間/vに対応する前景の成分を含むので、左から７番目の画素の混合比αは、3/4である。
【３１２６】
前景に対応するオブジェクトが、剛体であり、前景の画像が次のフレームにおいて４画素右側に表示されるように等速で移動すると仮定できるので、例えば、図４０１中の左から４番目の画素の、シャッタが開いて最初の、シャッタ時間/vの前景の成分F07/vは、図４０１中の左から５番目の画素の、シャッタが開いて２番目のシャッタ時間/vに対応する前景の成分に等しい。同様に、前景の成分F07/vは、図４０１中の左から６番目の画素の、シャッタが開いて３番目のシャッタ時間/vに対応する前景の成分と、図４０１中の左から７番目の画素の、シャッタが開いて４番目のシャッタ時間/vに対応する前景の成分とに、それぞれ等しい。
【３１２７】
前景に対応するオブジェクトが、剛体であり、前景の画像が次のフレームにおいて４画素右側に表示されるように等速で移動すると仮定できるので、例えば、図４０１中の左から３番目の画素の、シャッタが開いて最初のシャッタ時間/vの前景の成分F06/vは、図４０１中の左から４番目の画素の、シャッタが開いて２番目のシャッタ時間/vに対応する前景の成分に等しい。同様に、前景の成分F06/vは、図４０１中の左から５番目の画素の、シャッタが開いて３番目のシャッタ時間/vに対応する前景の成分と、図４０１中の左から６番目の画素の、シャッタが開いて４番目のシャッタ時間/vに対応する前景の成分とに、それぞれ等しい。
【３１２８】
前景に対応するオブジェクトが、剛体であり、前景の画像が次のフレームにおいて４画素右側に表示されるように等速で移動すると仮定できるので、例えば、図４０１中の左から２番目の画素の、シャッタが開いて最初のシャッタ時間/vの前景の成分F05/vは、図４０１中の左から３番目の画素の、シャッタが開いて２番目のシャッタ時間/vに対応する前景の成分に等しい。同様に、前景の成分F05/vは、図４０１中の左から４番目の画素の、シャッタが開いて３番目のシャッタ時間/vに対応する前景の成分と、図４０１中の左から５番目の画素の、シャッタが開いて４番目のシャッタ時間/vに対応する前景の成分とに、それぞれ等しい。
【３１２９】
前景に対応するオブジェクトが、剛体であり、前景の画像が次のフレームにおいて４画素右側に表示されるように等速で移動すると仮定できるので、例えば、図４０１中の最も左側の画素の、シャッタが開いて最初のシャッタ時間/vの前景の成分F04/vは、図４０１中の左から２番目の画素の、シャッタが開いて２番目のシャッタ時間/vに対応する前景の成分に等しい。同様に、前景の成分F04/vは、図４０１中の左から３番目の画素の、シャッタが開いて３番目のシャッタ時間/vに対応する前景の成分と、図４０１中の左から４番目の画素の、シャッタが開いて４番目のシャッタ時間/vに対応する前景の成分とに、それぞれ等しい。
【３１３０】
このような動いているオブジェクトに対応する前景の領域の状態が、動きボケである。また、動いているオブジェクトに対応する前景の領域は、このように動きボケを含むので、歪み領域とも言える。
【３１３１】
図４０２は、前景が図中の右側に向かって移動する場合の、アンカバードバックグラウンド領域を含む、１つのライン上の画素の画素値を時間方向に展開したモデル図である。図４０２において、前景の動き量vは、４である。１フレームは短い時間なので、前景に対応するオブジェクトが剛体であり、等速で移動していると仮定することができる。図４０２において、前景に対応するオブジェクトの画像は、あるフレームを基準として次のフレームにおいて４画素分右側に移動する。
【３１３２】
図４０２において、最も左側の画素乃至左から４番目の画素は、背景領域に属する。図４０２において、左から５番目乃至左から７番目の画素は、アンカバードバックグラウンドである混合領域に属する。図４０２において、最も右側の画素は、前景領域に属する。
【３１３３】
背景に対応するオブジェクトを覆っていた前景に対応するオブジェクトが時間の経過と共に背景に対応するオブジェクトの前から取り除かれるように移動しているので、アンカバードバックグラウンド領域に属する画素の画素値に含まれる成分は、シャッタ時間に対応する期間のある時点で、前景の成分から、背景の成分に替わる。
【３１３４】
例えば、図４０２中に太線枠を付した画素値M'は、式（３００）で表される。
【３１３５】

【３１３６】
例えば、左から５番目の画素は、３つのシャッタ時間/vに対応する背景の成分を含み、１つのシャッタ時間/vに対応する前景の成分を含むので、左から５番目の画素の混合比αは、3/4である。左から６番目の画素は、２つのシャッタ時間/vに対応する背景の成分を含み、２つのシャッタ時間/vに対応する前景の成分を含むので、左から６番目の画素の混合比αは、1/2である。左から７番目の画素は、１つのシャッタ時間/vに対応する背景の成分を含み、３つのシャッタ時間/vに対応する前景の成分を含むので、左から７番目の画素の混合比αは、1/4である。
【３１３７】
式（２９９）および式（３００）をより一般化すると、画素値Mは、式（３０１）で表される。
【３１３８】
【数２３２】

・・・（３０１）
ここで、αは、混合比である。Ｂは、背景の画素値であり、Fi/vは、前景の成分である。
【３１３９】
前景に対応するオブジェクトが剛体であり、等速で動くと仮定でき、かつ、動き量vが４であるので、例えば、図４０２中の左から５番目の画素の、シャッタが開いて最初の、シャッタ時間/vの前景の成分F01/vは、図４０２中の左から６番目の画素の、シャッタが開いて２番目のシャッタ時間/vに対応する前景の成分に等しい。同様に、F01/vは、図４０２中の左から７番目の画素の、シャッタが開いて３番目のシャッタ時間/vに対応する前景の成分と、図４０２中の左から８番目の画素の、シャッタが開いて４番目のシャッタ時間/vに対応する前景の成分とに、それぞれ等しい。
【３１４０】
前景に対応するオブジェクトが剛体であり、等速で動くと仮定でき、かつ、仮想分割数が４であるので、例えば、図４０２中の左から６番目の画素の、シャッタが開いて最初の、シャッタ時間/vの前景の成分F02/vは、図４０２中の左から７番目の画素の、シャッタが開いて２番目のシャッタ時間/vに対応する前景の成分に等しい。同様に、前景の成分F02/vは、図４０２中の左から８番目の画素の、シャッタが開いて３番目のシャッタ時間/vに対応する前景の成分に等しい。
【３１４１】
前景に対応するオブジェクトが剛体であり、等速で動くと仮定でき、かつ、動き量vが４であるので、例えば、図４０２中の左から７番目の画素の、シャッタが開いて最初の、シャッタ時間/vの前景の成分F03/vは、図４０２中の左から８番目の画素の、シャッタが開いて２番目のシャッタ時間/vに対応する前景の成分に等しい。
【３１４２】
図４００乃至図４０２の説明において、仮想分割数は、４であるとして説明したが、仮想分割数は、動き量vに対応する。動き量vは、一般に、前景に対応するオブジェクトの移動速度に対応する。例えば、前景に対応するオブジェクトが、あるフレームを基準として次のフレームにおいて４画素分右側に表示されるように移動しているとき、動き量vは、４とされる。動き量vに対応し、仮想分割数は、４とされる。同様に、例えば、前景に対応するオブジェクトが、あるフレームを基準として次のフレームにおいて６画素分左側に表示されるように移動しているとき、動き量vは、６とされ、仮想分割数は、６とされる。
【３１４３】
図４０３および図４０４に、以上で説明した、前景領域、背景領域、カバードバックグラウンド領域若しくはアンカバードバックグラウンド領域から成る混合領域と、分割されたシャッタ時間に対応する前景の成分および背景の成分との関係を示す。
【３１４４】
図４０３は、静止している背景の前を移動しているオブジェクトに対応する前景を含む画像から、前景領域、背景領域、および混合領域の画素を抽出した例を示す。図４０３に示す例において、前景に対応するオブジェクトは、画面に対して水平に移動している。
【３１４５】
フレーム#n+1は、フレーム#nの次のフレームであり、フレーム#n+2は、フレーム#n+1の次のフレームである。
【３１４６】
フレーム#n乃至フレーム#n+2のいずれかから抽出した、前景領域、背景領域、および混合領域の画素を抽出して、動き量vを４として、抽出された画素の画素値を時間方向に展開したモデルを図４０４に示す。
【３１４７】
前景領域の画素値は、前景に対応するオブジェクトが移動するので、シャッタ時間/vの期間に対応する、４つの異なる前景の成分から構成される。例えば、図４０４に示す前景領域の画素のうち最も左側に位置する画素は、F01/v,F02/v,F03/v、およびF04/vから構成される。すなわち、前景領域の画素は、動きボケを含んでいる。
【３１４８】
背景に対応するオブジェクトが静止しているので、シャッタ時間に対応する期間において、センサ２に入力される背景に対応する光は変化しない。この場合、背景領域の画素値は、動きボケを含まない。
【３１４９】
カバードバックグラウンド領域若しくはアンカバードバックグラウンド領域から成る混合領域に属する画素の画素値は、前景の成分と、背景の成分とから構成される。
【３１５０】
次に、オブジェクトに対応する画像が動いているとき、複数のフレームにおける、隣接して１列に並んでいる画素であって、フレーム上で同一の位置の画素の画素値を時間方向に展開したモデルについて説明する。例えば、オブジェクトに対応する画像が画面に対して水平に動いているとき、隣接して１列に並んでいる画素として、画面の１つのライン上に並んでいる画素を選択することができる。
【３１５１】
図４０５は、静止している背景に対応するオブジェクトを撮像した画像の３つのフレームの、隣接して１列に並んでいる画素であって、フレーム上で同一の位置の画素の画素値を時間方向に展開したモデル図である。フレーム#nは、フレーム#n-1の次のフレームであり、フレーム#n+1は、フレーム#nの次のフレームである。他のフレームも同様に称する。
【３１５２】
図４０５に示すB01乃至B12の画素値は、静止している背景のオブジェクトに対応する画素の画素値である。背景に対応するオブジェクトが静止しているので、フレーム#n-1乃至フレームn+1において、対応する画素の画素値は、変化しない。例えば、フレーム#n-1におけるB05の画素値を有する画素の位置に対応する、フレーム#nにおける画素、およびフレーム#n+1における画素は、それぞれ、B05の画素値を有する。
【３１５３】
図４０６は、静止している背景に対応するオブジェクトと共に図中の右側に移動する前景に対応するオブジェクトを撮像した画像の３つのフレームの、隣接して１列に並んでいる画素であって、フレーム上で同一の位置の画素の画素値を時間方向に展開したモデル図である。図４０６に示すモデルは、カバードバックグラウンド領域を含む。
【３１５４】
図４０６において、前景に対応するオブジェクトが、剛体であり、等速で移動すると仮定でき、前景の画像が次のフレームにおいて４画素右側に表示されるように移動するので、前景の動き量vは、４であり、仮想分割数は、４である。
【３１５５】
例えば、図４０６中のフレーム#n-1の最も左側の画素の、シャッタが開いて最初のシャッタ時間/vの前景の成分は、F12/vとなり、図４０６中の左から２番目の画素の、シャッタが開いて２番目のシャッタ時間/vの前景の成分も、F12/vとなる。図４０６中の左から３番目の画素の、シャッタが開いて３番目のシャッタ時間/vの前景の成分、および図４０６中の左から４番目の画素の、シャッタが開いて４番目のシャッタ時間/vの前景の成分は、F12/vとなる。
【３１５６】
図４０６中のフレーム#n-1の最も左側の画素の、シャッタが開いて２番目のシャッタ時間/vの前景の成分は、F11/vとなり、図４０６中の左から２番目の画素の、シャッタが開いて３番目のシャッタ時間/vの前景の成分も、F11/vとなる。図４０６中の左から３番目の画素の、シャッタが開いて４番目のシャッタ時間/vの前景の成分は、F11/vとなる。
【３１５７】
図４０６中のフレーム#n-1の最も左側の画素の、シャッタが開いて３番目のシャッタ時間/vの前景の成分は、F10/vとなり、図４０６中の左から２番目の画素の、シャッタが開いて４番目のシャッタ時間/vの前景の成分も、F10/vとなる。図４０６中のフレーム#n-1の最も左側の画素の、シャッタが開いて４番目のシャッタ時間/vの前景の成分は、F09/vとなる。
【３１５８】
背景に対応するオブジェクトが静止しているので、図４０６中のフレーム#n-1の左から２番目の画素の、シャッタが開いて最初のシャッタ時間/vの背景の成分は、B01/vとなる。図４０６中のフレーム#n-1の左から３番目の画素の、シャッタが開いて最初および２番目のシャッタ時間/vの背景の成分は、B02/vとなる。図４０６中のフレーム#n-1の左から４番目の画素の、シャッタが開いて最初乃至３番目のシャッタ時間/vの背景の成分は、B03/vとなる。
【３１５９】
図４０６中のフレーム#n-1において、最も左側の画素は、前景領域に属し、左側から２番目乃至４番目の画素は、カバードバックグラウンド領域である混合領域に属する。
【３１６０】
図４０６中のフレーム#n-1の左から５番目の画素乃至１２番目の画素は、背景領域に属し、その画素値は、それぞれ、B04乃至B11となる。
【３１６１】
図４０６中のフレーム#nの左から１番目の画素乃至５番目の画素は、前景領域に属する。フレーム#nの前景領域における、シャッタ時間/vの前景の成分は、F05/v乃至F12/vのいずれかである。
【３１６２】
前景に対応するオブジェクトが、剛体であり、等速で移動すると仮定でき、前景の画像が次のフレームにおいて４画素右側に表示されるように移動するので、図４０６中のフレーム#nの左から５番目の画素の、シャッタが開いて最初のシャッタ時間/vの前景の成分は、F12/vとなり、図４０６中の左から６番目の画素の、シャッタが開いて２番目のシャッタ時間/vの前景の成分も、F12/vとなる。図４０６中の左から７番目の画素の、シャッタが開いて３番目のシャッタ時間/vの前景の成分、および図４０６中の左から８番目の画素の、シャッタが開いて４番目のシャッタ時間/vの前景の成分は、F12/vとなる。
【３１６３】
図４０６中のフレーム#nの左から５番目の画素の、シャッタが開いて２番目のシャッタ時間/vの前景の成分は、F11/vとなり、図４０６中の左から６番目の画素の、シャッタが開いて３番目のシャッタ時間/vの前景の成分も、F11/vとなる。図４０６中の左から７番目の画素の、シャッタが開いて４番目のシャッタ時間/vの前景の成分は、F11/vとなる。
【３１６４】
図４０６中のフレーム#nの左から５番目の画素の、シャッタが開いて３番目のシャッタ時間/vの前景の成分は、F10/vとなり、図４０６中の左から６番目の画素の、シャッタが開いて４番目のシャッタ時間/vの前景の成分も、F10/vとなる。図４０６中のフレーム#nの左から５番目の画素の、シャッタが開いて４番目のシャッタ時間/vの前景の成分は、F09/vとなる。
【３１６５】
背景に対応するオブジェクトが静止しているので、図４０６中のフレーム#nの左から６番目の画素の、シャッタが開いて最初のシャッタ時間/vの背景の成分は、B05/vとなる。図４０６中のフレーム#nの左から７番目の画素の、シャッタが開いて最初および２番目のシャッタ時間/vの背景の成分は、B06/vとなる。図４０６中のフレーム#nの左から８番目の画素の、シャッタが開いて最初乃至３番目の、シャッタ時間/vの背景の成分は、B07/vとなる。
【３１６６】
図４０６中のフレーム#nにおいて、左側から６番目乃至８番目の画素は、カバードバックグラウンド領域である混合領域に属する。
【３１６７】
図４０６中のフレーム#nの左から９番目の画素乃至１２番目の画素は、背景領域に属し、画素値は、それぞれ、B08乃至B11となる。
【３１６８】
図４０６中のフレーム#n+1の左から１番目の画素乃至９番目の画素は、前景領域に属する。フレーム#n+1の前景領域における、シャッタ時間/vの前景の成分は、F01/v乃至F12/vのいずれかである。
【３１６９】
前景に対応するオブジェクトが、剛体であり、等速で移動すると仮定でき、前景の画像が次のフレームにおいて４画素右側に表示されるように移動するので、図４０６中のフレーム#n+1の左から９番目の画素の、シャッタが開いて最初のシャッタ時間/vの前景の成分は、F12/vとなり、図４０６中の左から１０番目の画素の、シャッタが開いて２番目のシャッタ時間/vの前景の成分も、F12/vとなる。図４０６中の左から１１番目の画素の、シャッタが開いて３番目のシャッタ時間/vの前景の成分、および図４０６中の左から１２番目の画素の、シャッタが開いて４番目のシャッタ時間/vの前景の成分は、F12/vとなる。
【３１７０】
図４０６中のフレーム#n+1の左から９番目の画素の、シャッタが開いて２番目のシャッタ時間/vの期間の前景の成分は、F11/vとなり、図４０６中の左から１０番目の画素の、シャッタが開いて３番目のシャッタ時間/vの前景の成分も、F11/vとなる。図４０６中の左から１１番目の画素の、シャッタが開いて４番目の、シャッタ時間/vの前景の成分は、F11/vとなる。
【３１７１】
図４０６中のフレーム#n+1の左から９番目の画素の、シャッタが開いて３番目の、シャッタ時間/vの前景の成分は、F10/vとなり、図４０６中の左から１０番目の画素の、シャッタが開いて４番目のシャッタ時間/vの前景の成分も、F10/vとなる。図４０６中のフレーム#n+1の左から９番目の画素の、シャッタが開いて４番目のシャッタ時間/vの前景の成分は、F09/vとなる。
【３１７２】
背景に対応するオブジェクトが静止しているので、図４０６中のフレーム#n+1の左から１０番目の画素の、シャッタが開いて最初のシャッタ時間/vの背景の成分は、B09/vとなる。図４０６中のフレーム#n+1の左から１１番目の画素の、シャッタが開いて最初および２番目のシャッタ時間/vの背景の成分は、B10/vとなる。図４０６中のフレーム#n+1の左から１２番目の画素の、シャッタが開いて最初乃至３番目の、シャッタ時間/vの背景の成分は、B11/vとなる。
【３１７３】
図４０６中のフレーム#n+1において、左側から１０番目乃至１２番目の画素は、カバードバックグラウンド領域である混合領域に対応する。
【３１７４】
図４０７は、図４０６に示す画素値から前景の成分を抽出した画像のモデル図である。
【３１７５】
図４０８は、静止している背景と共に図中の右側に移動するオブジェクトに対応する前景を撮像した画像の３つのフレームの、隣接して１列に並んでいる画素であって、フレーム上で同一の位置の画素の画素値を時間方向に展開したモデル図である。図４０８において、アンカバードバックグラウンド領域が含まれている。
【３１７６】
図４０８において、前景に対応するオブジェクトは、剛体であり、かつ等速で移動していると仮定できる。前景に対応するオブジェクトが、次のフレームにおいて４画素分右側に表示されるように移動しているので、動き量vは、４である。
【３１７７】
例えば、図４０８中のフレーム#n-1の最も左側の画素の、シャッタが開いて最初の、シャッタ時間/vの前景の成分は、F13/vとなり、図４０８中の左から２番目の画素の、シャッタが開いて２番目のシャッタ時間/vの前景の成分も、F13/vとなる。図４０８中の左から３番目の画素の、シャッタが開いて３番目のシャッタ時間/vの前景の成分、および図４０８中の左から４番目の画素の、シャッタが開いて４番目のシャッタ時間/vの前景の成分は、F13/vとなる。
【３１７８】
図４０８中のフレーム#n-1の左から２番目の画素の、シャッタが開いて最初のシャッタ時間/vの前景の成分は、F14/vとなり、図４０８中の左から３番目の画素の、シャッタが開いて２番目のシャッタ時間/vの前景の成分も、F14/vとなる。図４０８中の左から３番目の画素の、シャッタが開いて最初の、シャッタ時間/vの前景の成分は、F15/vとなる。
【３１７９】
背景に対応するオブジェクトが静止しているので、図４０８中のフレーム#n-1の最も左側の画素の、シャッタが開いて２番目乃至４番目の、シャッタ時間/vの背景の成分は、B25/vとなる。図４０８中のフレーム#n-1の左から２番目の画素の、シャッタが開いて３番目および４番目の、シャッタ時間/vの背景の成分は、B26/vとなる。図４０８中のフレーム#n-1の左から３番目の画素の、シャッタが開いて４番目のシャッタ時間/vの背景の成分は、B27/vとなる。
【３１８０】
図４０８中のフレーム#n-1において、最も左側の画素乃至３番目の画素は、アンカバードバックグラウンド領域である混合領域に属する。
【３１８１】
図４０８中のフレーム#n-1の左から４番目の画素乃至１２番目の画素は、前景領域に属する。フレームの前景の成分は、F13/v乃至F24/vのいずれかである。
【３１８２】
図４０８中のフレーム#nの最も左側の画素乃至左から４番目の画素は、背景領域に属し、画素値は、それぞれ、B25乃至B28となる。
【３１８３】
前景に対応するオブジェクトが、剛体であり、等速で移動すると仮定でき、前景の画像が次のフレームにおいて４画素右側に表示されるように移動するので、図４０８中のフレーム#nの左から５番目の画素の、シャッタが開いて最初のシャッタ時間/vの前景の成分は、F13/vとなり、図４０８中の左から６番目の画素の、シャッタが開いて２番目のシャッタ時間/vの前景の成分も、F13/vとなる。図４０８中の左から７番目の画素の、シャッタが開いて３番目のシャッタ時間/vの前景の成分、および図４０８中の左から８番目の画素の、シャッタが開いて４番目のシャッタ時間/vの前景の成分は、F13/vとなる。
【３１８４】
図４０８中のフレーム#nの左から６番目の画素の、シャッタが開いて最初のシャッタ時間/vの前景の成分は、F14/vとなり、図４０８中の左から７番目の画素の、シャッタが開いて２番目のシャッタ時間/vの前景の成分も、F14/vとなる。図４０８中の左から８番目の画素の、シャッタが開いて最初のシャッタ時間/vの前景の成分は、F15/vとなる。
【３１８５】
背景に対応するオブジェクトが静止しているので、図４０８中のフレーム#nの左から５番目の画素の、シャッタが開いて２番目乃至４番目のシャッタ時間/vの背景の成分は、B29/vとなる。図４０８中のフレーム#nの左から６番目の画素の、シャッタが開いて３番目および４番目のシャッタ時間/vの背景の成分は、B30/vとなる。図４０８中のフレーム#nの左から７番目の画素の、シャッタが開いて４番目のシャッタ時間/vの背景の成分は、B31/vとなる。
【３１８６】
図４０８中のフレーム#nにおいて、左から５番目の画素乃至７番目の画素は、アンカバードバックグラウンド領域である混合領域に属する。
【３１８７】
図４０８中のフレーム#nの左から８番目の画素乃至１２番目の画素は、前景領域に属する。フレーム#nの前景領域における、シャッタ時間/vの期間に対応する値は、F13/v乃至F20/vのいずれかである。
【３１８８】
図４０８中のフレーム#n+1の最も左側の画素乃至左から８番目の画素は、背景領域に属し、画素値は、それぞれ、B25乃至B32となる。
【３１８９】
前景に対応するオブジェクトが、剛体であり、等速で移動すると仮定でき、前景の画像が次のフレームにおいて４画素右側に表示されるように移動するので、図４０８中のフレーム#n+1の左から９番目の画素の、シャッタが開いて最初のシャッタ時間/vの前景の成分は、F13/vとなり、図４０８中の左から１０番目の画素の、シャッタが開いて２番目のシャッタ時間/vの前景の成分も、F13/vとなる。図４０８中の左から１１番目の画素の、シャッタが開いて３番目のシャッタ時間/vの前景の成分、および図４０８中の左から１２番目の画素の、シャッタが開いて４番目のシャッタ時間/vの前景の成分は、F13/vとなる。
【３１９０】
図４０８中のフレーム#n+1の左から１０番目の画素の、シャッタが開いて最初のシャッタ時間/vの前景の成分は、F14/vとなり、図４０８中の左から１１番目の画素の、シャッタが開いて２番目のシャッタ時間/vの前景の成分も、F14/vとなる。図４０８中の左から１２番目の画素の、シャッタが開いて最初のシャッタ時間/vの前景の成分は、F15/vとなる。
【３１９１】
背景に対応するオブジェクトが静止しているので、図４０８中のフレーム#n+1の左から９番目の画素の、シャッタが開いて２番目乃至４番目の、シャッタ時間/vの背景の成分は、B33/vとなる。図４０８中のフレーム#n+1の左から１０番目の画素の、シャッタが開いて３番目および４番目のシャッタ時間/vの背景の成分は、B34/vとなる。図４０８中のフレーム#n+1の左から１１番目の画素の、シャッタが開いて４番目のシャッタ時間/vの背景の成分は、B35/vとなる。
【３１９２】
図４０８中のフレーム#n+1において、左から９番目の画素乃至１１番目の画素は、アンカバードバックグラウンド領域である混合領域に属する。
【３１９３】
図４０８中のフレーム#n+1の左から１２番目の画素は、前景領域に属する。フレーム#n+1の前景領域における、シャッタ時間/vの前景の成分は、F13/v乃至F16/vのいずれかである。
【３１９４】
図４０９は、図４０８に示す画素値から前景の成分を抽出した画像のモデル図である。
【３１９５】
入力画像と動きボケについて説明してきたが、以上においては、仮想分割数により画素内の成分の変化を説明してきたが、仮想分割数を無限にすることにより、各成分は、例えば、図３７３の右部にあるレベルw₁乃至w₅で示される帯状の領域と同様な構成となる。
【３１９６】
すなわち、X-T平面上（X-Y平面でも同じ）の定常性の方向に沿った領域毎に不連続関数としてレベルを設定することは、シャッタ時間内の成分の変化を分割数によらず、直線的な領域として設定したものであると言える。
【３１９７】
このため、定常性の方向に沿った領域毎に不連続関数からなる近似関数を用いて、実世界を推定することにより、上述の動きボケの生じるメカニズムを推定することができる。
【３１９８】
従って、この特性を利用することで、１回のシャッタ時間内の画素（フレーム方向に１画素以下の画素）を生成することにより、実質的に動きボケを除去することが可能となる。
【３１９９】
図４１０は、クラス分類適応処理により動きボケを除去した場合の処理結果と、定常性の方向に沿った領域毎に不連続関数を設定することにより得られる実世界の近似関数を用いて動きボケを除去した場合の処理結果を比較したものである。尚、図４１０においては、点線が、入力画像（動きボケの存在する画像）の画素値の変化を示したものであり、実線は、クラス分類適応処理により動きボケを除去した場合の処理結果を示したものであり、一点鎖線が、定常性の方向に沿った領域毎に不連続関数を設定することにより得られる実世界の近似関数を用いて動きボケを除去した場合の処理結果を示している。さらに、横軸は、入力画像のＸ方向の座標を示し、縦軸は、画素値を示している。
【３２００】
領域毎の不連続関数からなる実世界の近似関数を用いて動きボケを除去した場合の処理結果は、クラス分類適応処理により動きボケを除去した場合の処理結果に比べて、Ｘ＝３７９，３７６付近を中心として、エッジ部分の画素値の変化が激しくなっており、動きボケが除去されて、画像のコントラストがはっきりした画像となっていることがわかる。
【３２０１】
また、図４１１で示されるように、おもちゃの飛行機状の物体が水平方向に移動する際に動きボケが生じたときの画像を、定常性の方向に沿った領域毎に不連続関数を設定して実世界の近似関数を用いて動きボケを除去した場合の処理結果（図３６９の実世界推定部１０２と図３８４の画像生成部１０３を用いて生成された動きボケが除去された画像）と、その他の方式で動きボケを除去した処理結果との比較が、図４１２Ａ乃至Ｄに示されている。
【３２０２】
すなわち、図４１２Ａは、図４１１中の黒枠部分の動きボケが生じた画像そのもの（ボケ除去の処理前の画像）であり、図４１２Ｂは、図４１２Ａの動きボケが生じた画像を、領域毎に設定される不連続関数からなる実世界の近似関数を用いて動きボケを除去した画像であり、図４１２Ｃは、入力画像の被写体が静止した状態で撮像された画像であり、図４１２Ｄは、その他の方式で動きボケを除去した処理結果の画像である。
【３２０３】
領域毎に設定される不連続関数からなる実世界の近似関数を用いて動きボケを除去した画像（図４１２Ｂの画像）は、その他の方式で動きボケを除去した処理結果の画像（図４１２Ｄの画像）と比べて、図中の「Ｃ」と「Ａ」の隣接している部位が、より鮮明な画像となっており、また、文字の存在する領域が、よりはっきりと表示されているのがわかる。これにより、領域毎に設定される不連続関数からなる実世界の近似関数を用いて動きボケを除去する処理により、細部が鮮明に表示されることがわかる。
【３２０４】
さらに、図４１３で示されるように、おもちゃの飛行機状の物体が斜方向（斜右上がり方向）に移動する際に動きボケが生じたときの画像を、定常性の方向に沿った領域毎に不連続関数を設定して実世界の近似関数を用いて動きボケを除去した場合の処理結果（図３７７の実世界推定部１０２と図３８８の画像生成部１０３を用いて生成された動きボケが除去された画像）と、その他の方式で動きボケを除去した処理結果との比較が、図４１４Ａ乃至Ｄに示されている。
【３２０５】
すなわち、図４１４Ａは、図４１３中の黒枠部分の動きボケが生じたボケ除去の処理前の画像であり、図４１４Ｂは、図４１４Ａの動きボケが生じた画像を、領域毎に設定される不連続関数からなる実世界の近似関数を用いて動きボケを除去した画像であり、図４１４Ｃは、入力画像の被写体が静止した状態で撮像された画像であり、図４１４Ｄは、その他の方式で動きボケを除去した処理結果の画像である。尚、画像は、図４１３の図中に太線で長方状の印のついた位置付近のものである。
【３２０６】
領域毎に設定される不連続関数からなる実世界の近似関数を用いて動きボケを除去した画像は、図４１２を参照して説明したように、その他の方式で動きボケを除去した処理結果の画像と比べて、図中の「Ｃ」と「Ａ」の隣接している部位が、より鮮明な画像となっており、また、文字の存在する領域が、よりはっきりと表示されているのがわかる。これにより、領域毎に設定される不連続関数からなる実世界の近似関数を用いて動きボケを除去する処理により、細部が鮮明に表示されることがわかる。
【３２０７】
さらに、領域毎に設定される不連続関数からなる実世界の近似関数を用いて動きボケを除去する場合、図４１５Ａで示される右上がりの方向に動きボケが生じた斜方向に上段の原画像が入力されると、図４１５Ｂで示されるような画像が出力される。すなわち、原画像の中央部の縦じまに動きボケが生じた画像の場合、領域毎に設定される不連続関数からなる実世界の近似関数を用いて動きボケを除去することにより、縦じま部分が、鮮明な画像となる。
【３２０８】
すなわち、図４１２Ａ乃至Ｄ、および、図４１５Ａ，Ｂで示されるように、図３７７の実世界推定部、および、図３８８の画像生成部１０３は、図３９１で示されるような３次元の棒状の領域毎に、それぞれに不連続な関数として実世界を推定する近似関数を設定することから、水平方向、および、垂直方向のみならず、それらの動きの組み合わせとなる斜方向の動きにより生じる動きボケをも除去することも可能である。
【３２０９】
以上によれば、それぞれ時空間積分効果を有する複数の画素に現実世界の光信号が射影され、現実世界の光信号の定常性の一部が欠落した画像データの定常性を検出し、画像データ定常性検出手段により検出された画像データの定常性に対応して、画像データの時空間方向のうち少なくとも１次元方向の位置に対応する各画素の画素値が少なくとも１次元方向の積分により取得された画素値であるとして画像データを不連続な関数で近似することにより、現実世界の光信号に対応する関数を推定するようにしたので、拡大画像に用いる高密度画素の生成や、新たなフレームの画素を生成することが可能となり、いずれにおいても、より鮮明な画像を生成することが可能となる。
【３２１０】
なお、センサ２は、固体撮像素子である、例えば、BBD（Bucket Brigade Device）、CID（Charge Injection Device）、またはCPD（Charge Priming Device）などのセンサでもよい。
【３２１１】
本発明の信号処理を行うプログラムを記録した記録媒体は、図２で示されるように、コンピュータとは別に、ユーザにプログラムを提供するために配布される、プログラムが記録されている磁気ディスク５１（フレキシブルディスクを含む）、光ディスク５２（CD-ROM(Compaut Disk-Read Only Memory),DVD(Digital Versatile Disk)を含む）、光磁気ディスク５３（ＭＤ（Mini-Disk）（商標）を含む）、もしくは半導体メモリ５４などよりなるパッケージメディアにより構成されるだけでなく、コンピュータに予め組み込まれた状態でユーザに提供される、プログラムが記録されているROM２２や、記憶部２８に含まれるハードディスクなどで構成される。
【３２１２】
なお、上述した一連の処理を実行させるプログラムは、必要に応じてルータ、モデムなどのインタフェースを介して、ローカルエリアネットワーク、インターネット、デジタル衛星放送といった、有線または無線の通信媒体を介してコンピュータにインストールされるようにしてもよい。
【３２１３】
なお、本明細書において、記録媒体に記録されるプログラムを記述するステップは、記載された順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。
【３２１４】
【発明の効果】
以上のように、本発明によれば、正確で、精度の高い処理結果を得ることができるようになる。
【３２１５】
また、本発明によれば、現実世界の事象に対して、より正確で、より精度の高い処理結果を得ることができるようになる。
【図面の簡単な説明】
【図１】本発明の原理を示す図である。
【図２】信号処理装置４の構成の例を示すブロック図である。
【図３】信号処理装置４を示すブロック図である。
【図４】従来の信号処理装置１２１の処理の原理を説明する図である。
【図５】信号処理装置４の処理の原理を説明する図である。
【図６】本発明の原理をより具体的に説明する図である。
【図７】本発明の原理をより具体的に説明する図である。
【図８】イメージセンサ上の画素の配置の例を説明する図である。
【図９】 CCDである検出素子の動作を説明する図である。
【図１０】画素Ｄ乃至画素Ｆに対応する検出素子に入射される光と、画素値との関係を説明する図である。
【図１１】時間の経過と、１つの画素に対応する検出素子に入射される光と、画素値との関係を説明する図である。
【図１２】実世界１の線状の物の画像の例を示す図である。
【図１３】実際の撮像により得られた画像データの画素値の例を示す図である。
【図１４】画像データの模式図である。
【図１５】背景とは異なる色であって、単色の、直線状の縁を有する物の実世界１の画像の例を示す図である。
【図１６】実際の撮像により得られた画像データの画素値の例を示す図である。
【図１７】画像データの模式図である。
【図１８】本発明の原理を説明する図である。
【図１９】本発明の原理を説明する図である。
【図２０】高解像度データ１８１の生成の例を説明する図である。
【図２１】モデル１６１による近似を説明する図である。
【図２２】Ｍ個のデータ１６２によるモデル１６１の推定を説明する図である。
【図２３】実世界１の信号とデータ３との関係を説明する図である。
【図２４】式を立てるときに注目するデータ３の例を示す図である。
【図２５】式を立てる場合における、実世界１における２つの物体に対する信号および混合領域に属する値を説明する図である。
【図２６】式（１８）、式（１９）、および式（２２）で表される定常性を説明する図である。
【図２７】データ３から抽出される、Ｍ個のデータ１６２の例を示す図である。
【図２８】データ３である画素値が取得された領域を説明する図である。
【図２９】画素の時空間方向の位置の近似を説明する図である。
【図３０】データ３における、時間方向および２次元の空間方向の実世界１の信号の積分を説明する図である。
【図３１】空間方向により解像度の高い高解像度データ１８１を生成するときの、積分の領域を説明する図である。
【図３２】時間方向により解像度の高い高解像度データ１８１を生成するときの、積分の領域を説明する図である。
【図３３】動きボケを除去した高解像度データ１８１を生成するときの、積分の領域を説明する図である。
【図３４】時間空間方向により解像度の高い高解像度データ１８１を生成するときの、積分の領域を説明する図である。
【図３５】入力画像の元の画像を示す図である。
【図３６】入力画像の例を示す図である。
【図３７】従来のクラス分類適応処理を適用して得られた画像を示す図である。
【図３８】細線の領域を検出した結果を示す図である。
【図３９】信号処理装置４から出力された出力画像の例を示す図である。
【図４０】信号処理装置４による、信号の処理を説明するフローチャートである。
【図４１】データ定常性検出部１０１の構成を示すブロック図である。
【図４２】背景の前に細線がある実世界１の画像を示す図である。
【図４３】平面による背景の近似を説明する図である。
【図４４】細線の画像が射影された画像データの断面形状を示す図である。
【図４５】細線の画像が射影された画像データの断面形状を示す図である。
【図４６】細線の画像が射影された画像データの断面形状を示す図である。
【図４７】頂点の検出および単調増減領域の検出の処理を説明する図である。
【図４８】頂点の画素値が閾値を超え、隣接する画素の画素値が閾値以下である細線領域を検出する処理を説明する図である。
【図４９】図４８の点線AA'で示す方向に並ぶ画素の画素値を表す図である。
【図５０】単調増減領域の連続性の検出の処理を説明する図である。
【図５１】平面での近似により定常成分を抽出した画像の例を示す図である。
【図５２】単調減少している領域を検出した結果を示す図である。
【図５３】連続性が検出された領域を示す図である。
【図５４】連続性が検出された領域の画素値を示す図である。
【図５５】細線の画像が射影された領域の検出の他の処理の例を示す図である。
【図５６】定常性検出の処理を説明するフローチャートである。
【図５７】時間方向のデータの定常性を検出の処理を説明する図である。
【図５８】非定常成分抽出部２０１の構成を示すブロック図である。
【図５９】棄却される回数を説明する図である。
【図６０】入力画像の例を示す図である。
【図６１】棄却をしないで平面で近似した結果得られる標準誤差を画素値とした画像を示す図である。
【図６２】棄却をして平面で近似した結果得られる標準誤差を画素値とした画像を示す図である。
【図６３】棄却された回数を画素値とした画像を示す図である。
【図６４】平面の空間方向Ｘの傾きを画素値とした画像を示す図である。
【図６５】平面の空間方向Ｙの傾きを画素値とした画像を示す図である。
【図６６】平面で示される近似値からなる画像を示す図である。
【図６７】平面で示される近似値と画素値との差分からなる画像を示す図である。
【図６８】非定常成分の抽出の処理を説明するフローチャートである。
【図６９】定常成分の抽出の処理を説明するフローチャートである。
【図７０】定常成分の抽出の他の処理を説明するフローチャートである。
【図７１】定常成分の抽出のさらに他の処理を説明するフローチャートである。
【図７２】データ定常性検出部１０１の他の構成を示すブロック図である。
【図７３】データの定常性を有する入力画像におけるアクティビティを説明する図である。
【図７４】アクティビティを検出するためのブロックを説明する図である。
【図７５】アクティビティに対するデータの定常性の角度を説明する図である。
【図７６】データ定常性検出部１０１のより詳細な構成を示すブロック図である。
【図７７】画素の組を説明する図である。
【図７８】画素の組の位置とデータの定常性の角度との関係を説明する図である。
【図７９】データの定常性の検出の処理を説明するフローチャートである。
【図８０】時間方向および空間方向のデータの定常性の角度を検出するとき、抽出される画素の組を示す図である。
【図８１】データ定常性検出部１０１のより詳細な他の構成を示すブロック図である。
【図８２】設定された直線の角度の範囲に応じた数の画素からなる画素の組を説明する図である。
【図８３】設定された直線の角度の範囲を説明する図である。
【図８４】設定された直線の角度の範囲と、画素の組の数、および画素の組毎の画素の数を説明する図である。
【図８５】画素の組の数および画素の組毎の画素の数を説明する図である。
【図８６】画素の組の数および画素の組毎の画素の数を説明する図である。
【図８７】画素の組の数および画素の組毎の画素の数を説明する図である。
【図８８】画素の組の数および画素の組毎の画素の数を説明する図である。
【図８９】画素の組の数および画素の組毎の画素の数を説明する図である。
【図９０】画素の組の数および画素の組毎の画素の数を説明する図である。
【図９１】画素の組の数および画素の組毎の画素の数を説明する図である。
【図９２】画素の組の数および画素の組毎の画素の数を説明する図である。
【図９３】データの定常性の検出の処理を説明するフローチャートである。
【図９４】データ定常性検出部１０１のさらに他の構成を示すブロック図である。
【図９５】データ定常性検出部１０１のより詳細な構成を示すブロック図である。
【図９６】ブロックの例を説明する図である。
【図９７】注目ブロックと参照ブロックとの、画素値の差分の絶対値の算出の処理を説明する図である。
【図９８】注目画素の周辺の画素の位置と、角度θを有する直線との空間方向Ｘの距離を説明する図である。
【図９９】シフト量γと角度θとの関係を示す図である。
【図１００】シフト量γに対する、注目画素の周辺の画素の位置と、注目画素を通り、角度θを有する直線との空間方向Ｘの距離を示す図である。
【図１０１】注目画素を通り、空間方向Ｘの軸に対して角度θの直線との距離が最小の参照ブロックを示す図である。
【図１０２】検出するデータの定常性の角度の範囲を１／２にする処理を説明する図である。
【図１０３】データの定常性の検出の処理を説明するフローチャートである。
【図１０４】間方向および空間方向のデータの定常性の角度を検出するとき、抽出されるブロックを示す図である。
【図１０５】入力画像のコンポーネント信号を基に、データの定常性の検出の処理を実行するデータ定常性検出部１０１の構成を示すブロック図である。
【図１０６】入力画像のコンポーネント信号を基に、データの定常性の検出の処理を実行するデータ定常性検出部１０１の構成を示すブロック図である。
【図１０７】データ定常性検出部１０１のさらに他の構成を示すブロック図である。
【図１０８】入力画像における、基準軸を基準としたデータの定常性の角度を説明する図である。
【図１０９】入力画像における、基準軸を基準としたデータの定常性の角度を説明する図である。
【図１１０】入力画像における、基準軸を基準としたデータの定常性の角度を説明する図である。
【図１１１】入力画像における、画素の空間方向の位置に対する、画素値の変化と、回帰直線との関係を示す図である。
【図１１２】回帰直線Ａと、例えば、基準軸である空間方向Ｘを示す軸との角度を説明する図である。
【図１１３】領域の例を示す図である。
【図１１４】図１０７で構成が示されるデータ定常性検出部１０１による、データの定常性の検出の処理を説明するフローチャートである。
【図１１５】データ定常性検出部１０１のさらに他の構成を示すブロック図である。
【図１１６】入力画像における、画素の空間方向の位置に対する、画素値の変化と、回帰直線との関係を示す図である。
【図１１７】標準偏差とデータの定常性を有する領域との関係を説明する図である。
【図１１８】領域の例を示す図である。
【図１１９】図１１５で構成が示されるデータ定常性検出部１０１による、データの定常性の検出の処理を説明するフローチャートである。
【図１２０】図１１５で構成が示されるデータ定常性検出部１０１による、データの定常性の検出の他の処理を説明するフローチャートである。
【図１２１】本発明を適用した細線、または、２値エッジの角度をデータ定常性情報として検出するデータ定常性検出部の構成を示すブロック図である。
【図１２２】データ定常性情報の検出方法を説明する図である。
【図１２３】データ定常性情報の検出方法を説明する図である。
【図１２４】図１２１のデータ定常性検出部のより詳細な構成を示す図である。
【図１２５】水平・垂直判定処理を説明する図である。
【図１２６】水平・垂直判定処理を説明する図である。
【図１２７】現実世界の細線とセンサにより撮像される細線の関係を説明する図である。
【図１２８】現実世界の画像の細線と背景の関係を説明する図である。
【図１２９】センサにより撮像された画像の細線と背景の関係を説明する図である。
【図１３０】センサにより撮像された画像の細線と背景の関係の例を説明する図である。
【図１３１】現実世界の画像の細線と背景の関係を説明する図である。
【図１３２】センサにより撮像された画像の細線と背景の関係を説明する図である。
【図１３３】センサにより撮像された画像の細線と背景の関係の例を説明する図である。
【図１３４】細線の角度を求めるためのモデルを示す図である。
【図１３５】細線の角度を求めるためのモデルを示す図である。
【図１３６】注目画素に対応するダイナミックレンジブロックの画素値の最大値と最小値を説明する図である。
【図１３７】細線の角度の求め方を説明する図である。
【図１３８】細線の角度の求め方を説明する図である。
【図１３９】抽出ブロックとダイナミックレンジブロックを説明する図である。
【図１４０】最小自乗法の解法を説明する図である。
【図１４１】最小自乗法の解法を説明する図である。
【図１４２】２値エッジを説明する図である。
【図１４３】センサにより撮像された画像の２値エッジを説明する図である。
【図１４４】センサにより撮像された画像の２値エッジの例を説明する図である。
【図１４５】センサにより撮像された画像の２値エッジを説明する図である。
【図１４６】２値エッジの角度を求めるためのモデルを示す図である。
【図１４７】２値エッジの角度を求める方法を説明する図である。
【図１４８】２値エッジの角度を求める方法を説明する図である。
【図１４９】細線、または、２値エッジの角度をデータ定常性と検出する処理を説明するフローチャートである。
【図１５０】データ抽出処理を説明するフローチャートである。
【図１５１】正規方程式への足し込み処理を説明するフローチャートである。
【図１５２】本発明を適用して求めた細線の傾きと、相関を用いて求めた細線の角度とを比較する図である。
【図１５３】本発明を適用して求めた２値エッジの傾きと、相関を用いて求めた細線の角度とを比較する図である。
【図１５４】本発明を適用した混合比をデータ定常性情報として検出するデータ定常性検出部の構成を示すブロック図である。
【図１５５】混合比の求め方を説明する図である。
【図１５６】混合比をデータ定常性と検出する処理を説明するフローチャートである。
【図１５７】正規方程式への足し込み処理を説明するフローチャートである。
【図１５８】細線の混合比の分布例を示す図である。
【図１５９】２値エッジの混合比の分布例を示す図である。
【図１６０】混合比の直線近似を説明する図である。
【図１６１】物体の動きをデータ定常性情報として求める方法を説明する図である。
【図１６２】物体の動きをデータ定常性情報として求める方法を説明する図である。
【図１６３】物体の動きによる混合比をデータ定常性情報として求める方法を説明する図である。
【図１６４】物体の動きによる混合比をデータ定常性情報として求める際の混合比の直線近似を説明する図である。
【図１６５】本発明を適用した処理領域をデータ定常性情報として検出するデータ定常性検出部の構成を示すブロック図である。
【図１６６】図１６５のデータ定常性検出部による定常性の検出の処理を説明するフローチャートである。
【図１６７】図１６５のデータ定常性検出部による定常性の検出の処理の積分範囲を説明する図である。
【図１６８】図１６５のデータ定常性検出部による定常性の検出の処理の積分範囲を説明する図である。
【図１６９】本発明を適用した処理領域をデータ定常性情報として検出するデータ定常性検出部のその他の構成を示すブロック図である。
【図１７０】図１６９のデータ定常性検出部による定常性の検出の処理を説明するフローチャートである。
【図１７１】図１６９のデータ定常性検出部による定常性の検出の処理の積分範囲を説明する図である。
【図１７２】図１６９のデータ定常性検出部による定常性の検出の処理の積分範囲を説明する図である。
【図１７３】データ定常性検出部の他の実施の形態の構成を示すブロック図である。
【図１７４】図１７３のデータ定常性検出部の簡易式角度検出部の構成の例を示すブロック図である。
【図１７５】図１７３のデータ定常性検出部の回帰式角度検出部の構成の例を示すブロック図である。
【図１７６】図１７３のデータ定常性検出部の勾配式角度検出部の構成の例を示すブロック図である。
【図１７７】図１７３のデータ定常性検出部によるデータの定常性の検出の処理を説明するフローチャートである。
【図１７８】簡易式角度検出部により検出された角度に対応する角度の検出方法を説明する図である。
【図１７９】図１７７のフローチャートのステップＳ９０４の処理である回帰式角度検出処理を説明するフローチャートである。
【図１８０】度数の変換処理を行うスコープ範囲となる画素を説明する図である。
【図１８１】度数の変換処理を行うスコープ範囲となる画素を説明する図である。
【図１８２】度数の変換処理を行うスコープ範囲となる画素を説明する図である。
【図１８３】度数の変換処理を行うスコープ範囲となる画素を説明する図である。
【図１８４】度数の変換処理を行うスコープ範囲となる画素を説明する図である。
【図１８５】データ定常性検出部の他の実施の形態の構成を示すブロック図である。
【図１８６】図１８５のデータ定常性検出部によるデータの定常性の検出の処理を説明するフローチャートである。
【図１８７】実世界推定部１０２の構成を示すブロック図である。
【図１８８】実世界１の信号における、細線の幅を検出する処理を説明する図である。
【図１８９】実世界１の信号における、細線の幅を検出する処理を説明する図である。
【図１９０】実世界１の信号における、細線の信号のレベルを推定する処理を説明する図である。
【図１９１】実世界の推定の処理を説明するフローチャートである。
【図１９２】実世界推定部１０２の他の構成を示すブロック図である。
【図１９３】境界検出部２１２１の構成を示すブロック図である。
【図１９４】分配比の算出の処理を説明する図である。
【図１９５】分配比の算出の処理を説明する図である。
【図１９６】分配比の算出の処理を説明する図である。
【図１９７】単調増減領域の境界を示す回帰直線の算出の処理を説明する図である。
【図１９８】単調増減領域の境界を示す回帰直線の算出の処理を説明する図である。
【図１９９】実世界の推定の処理を説明するフローチャートである。
【図２００】境界検出の処理を説明するフローチャートである。
【図２０１】空間方向の微分値を実世界推定情報として推定する実世界推定部の構成を示すブロック図である。
【図２０２】図２０１の実世界推定部による実世界推定の処理を説明するフローチャートである。
【図２０３】参照画素を説明する図である。
【図２０４】空間方向の微分値を求める位置を説明する図である。
【図２０５】空間方向の微分値とシフト量の関係を説明する図である。
【図２０６】空間方向の傾きを実世界推定情報として推定する実世界推定部の構成を示すブロック図である。
【図２０７】図２０６の実世界推定部による実世界推定の処理を説明するフローチャートである。
【図２０８】空間方向の傾きを求める処理を説明する図である。
【図２０９】空間方向の傾きを求める処理を説明する図である。
【図２１０】フレーム方向の微分値を実世界推定情報として推定する実世界推定部の構成を示すブロック図である。
【図２１１】図２１０の実世界推定部による実世界推定の処理を説明するフローチャートである。
【図２１２】参照画素を説明する図である。
【図２１３】フレーム方向の微分値を求める位置を説明する図である。
【図２１４】フレーム方向の微分値とシフト量の関係を説明する図である。
【図２１５】フレーム方向の傾きを実世界推定情報として推定する実世界推定部の構成を示すブロック図である。
【図２１６】図２１５の実世界推定部による実世界推定の処理を説明するフローチャートである。
【図２１７】フレーム方向の傾きを求める処理を説明する図である。
【図２１８】フレーム方向の傾きを求める処理を説明する図である。
【図２１９】図３の実世界推定部の実施の形態の1例である、関数近似手法の原理を説明する図である。
【図２２０】センサがＣＣＤとされる場合の積分効果を説明する図である。
【図２２１】図２２０のセンサの積分効果の具体的な例を説明する図である。
【図２２２】図２２０のセンサの積分効果の具体的な他の例を説明する図である。
【図２２３】図２２１で示される細線含有実世界領域を表した図である。
【図２２４】図３の実世界推定部の実施の形態の１例の原理を、図２１９の例と対比させて説明する図である。
【図２２５】図２２１で示される細線含有データ領域を表した図である。
【図２２６】図２２５の細線含有データ領域に含まれる各画素値のそれぞれをグラフ化した図である。
【図２２７】図２２６の細線含有データ領域に含まれる各画素値を近似した近似関数をグラフ化した図である。
【図２２８】図２２１で示される細線含有実世界領域が有する空間方向の定常性を説明する図である。
【図２２９】図２２５の細線含有データ領域に含まれる各画素値のそれぞれをグラフ化した図である。
【図２３０】図２２９で示される入力画素値のそれぞれを、所定のシフト量だけシフトさせた状態を説明する図である。
【図２３１】空間方向の定常性を考慮して、図２２６の細線含有データ領域に含まれる各画素値を近似した近似関数をグラフ化した図である。
【図２３２】空間混合領域を説明する図である。
【図２３３】空間混合領域における、実世界の信号を近似した近似関数を説明する図である。
【図２３４】センサの積分特性と空間方向の定常性の両方を考慮して、図２２６の細線含有データ領域に対応する実世界の信号を近似した近似関数をグラフ化した図である。
【図２３５】図２１９で示される原理を有する関数近似手法のうちの、１次多項式近似手法を利用する実世界推定部の構成例を説明するブロック図である。
【図２３６】図２３５の構成の実世界推定部が実行する実世界の推定処理を説明するフローチャートである。
【図２３７】タップ範囲を説明する図である。
【図２３８】空間方向の定常性を有する実世界の信号を説明する図である。
【図２３９】センサがＣＣＤとされる場合の積分効果を説明する図である。
【図２４０】断面方向距離を説明する図である。
【図２４１】図２１９で示される原理を有する関数近似手法のうちの、２次多項式近似手法を利用する実世界推定部の構成例を説明するブロック図である。
【図２４２】図２４１の構成の実世界推定部が実行する実世界の推定処理を説明するフローチャートである。
【図２４３】タップ範囲を説明する図である。
【図２４４】時空間方向の定常性の方向を説明する図である。
【図２４５】センサがＣＣＤとされる場合の積分効果を説明する図である。
【図２４６】空間方向の定常性を有する実世界の信号を説明する図である。
【図２４７】時空間方向の定常性を有する実世界の信号を説明する図である。
【図２４８】図２１９で示される原理を有する関数近似手法のうちの、３次元関数近似手法を利用する実世界推定部の構成例を説明するブロック図である。
【図２４９】図２４８の構成の実世界推定部が実行する実世界の推定処理を説明するフローチャートである。
【図２５０】図３の実世界推定部に入力される入力画像の例を示す図である。
【図２５１】図２５０の注目画素の中心における実世界の光信号のレベルと、断面方向距離x'における実世界の光信号のレベルの差を示す図である。
【図２５２】断面方向距離x'について説明する図である。
【図２５３】断面方向距離x'について説明する図である。
【図２５４】ブロック内の各画素の断面方向距離を表した図である。
【図２５５】正規方程式において重みを考慮せずに処理した結果を示す図である。
【図２５６】正規方程式において重みを考慮して処理した結果を示す図である。
【図２５７】正規方程式において重みを考慮せずに処理した結果を示す図である。
【図２５８】正規方程式において重みを考慮して処理した結果を示す図である。
【図２５９】図３の画像生成部の実施の形態の1例である、再積分手法の原理を説明する図である。
【図２６０】入力画素と、その入力画素に対応する、実世界の信号を近似する近似関数の例を説明する図である。
【図２６１】図２６０で示される近似関数から、図２６０で示される１つの入力画素における、高解像度の４つの画素を創造する例を説明する図である。
【図２６２】図２５９で示される原理を有する再積分手法のうちの、１次元再積分手法を利用する画像生成部の構成例を説明するブロック図である。
【図２６３】図２６２の構成の画像生成部が実行する画像の生成処理を説明するフローチャートである。
【図２６４】入力画像の元の画像の例を表す図である。
【図２６５】図２６４の画像に対応する画像データの例を表す図である。
【図２６６】入力画像の例を表す図である。
【図２６７】図２６６の画像に対応する画像データの例を表す図である。
【図２６８】入力画像に対して従来のクラス分類適応処理を施して得られる画像の例を表す図である。
【図２６９】図２６８の画像に対応する画像データの例を表す図である。
【図２７０】入力画像に対して本発明の１次元再積分手法の処理を施して得られる画像の例を表す図である。
【図２７１】図２７０の画像に対応する画像データの例を表す図である。
【図２７２】空間方向の定常性を有する実世界の信号を説明する図である。
【図２７３】図２５９で示される原理を有する再積分手法のうちの、２次元再積分手法を利用する画像生成部の構成例を説明するブロック図である。
【図２７４】断面方向距離を説明する図である。
【図２７５】図２７３の構成の画像生成部が実行する画像の生成処理を説明するフローチャートである。
【図２７６】入力画素の１例を説明する図である。
【図２７７】２次元再積分手法により、図２７６で示される１つの入力画素における、高解像度の４つの画素を創造する例を説明する図である。
【図２７８】時空間方向の定常性の方向を説明する図である。
【図２７９】図２５９で示される原理を有する再積分手法のうちの、３次元再積分手法を利用する画像生成部の構成例を説明するブロック図である。
【図２８０】図２７９の構成の画像生成部が実行する画像の生成処理を説明するフローチャートである。
【図２８１】本発明を適用した画像生成部のその他の構成を示すブロック図である。
【図２８２】図２８１の画像生成部による画像の生成の処理を説明するフローチャートである。
【図２８３】入力画素から４倍密度の画素を生成する処理を説明する図である。
【図２８４】画素値を示す近似関数とシフト量との関係を示す図である。
【図２８５】本発明を適用した画像生成部のその他の構成を示すブロック図である。
【図２８６】図２８５の画像生成部による画像の生成の処理を説明するフローチャートである。
【図２８７】入力画素から４倍密度の画素を生成する処理を説明する図である。
【図２８８】画素値を示す近似関数とシフト量との関係を示す図である。
【図２８９】図３の画像生成部の実施の形態の1例である、クラス分類適応処理補正手法の１次元再積分手法を利用する画像生成部の構成例を説明するブロック図である。
【図２９０】図２８９の画像生成部のクラス分類適応処理部の構成例を説明するブロック図である。
【図２９１】図２８９のクラス分類適応処理部と、クラス分類適応処理補正部が使用する係数を学習により決定する学習装置の構成例を示すブロック図である。
【図２９２】図２９１のクラス分類適応処理用学習部の詳細な構成例を説明するブロック図である。
【図２９３】図２９０のクラス分類適応処理部の処理結果の例を示す図である。
【図２９４】図２９３の予測画像とHD画像の差分画像を示す図である。
【図２９５】図２９４で示される領域に含まれるＸ方向に連続した６個のＨＤ画素のうちの、図中左から４個のＨＤ画素に対応する、図２９３のＨＤ画像の具体的な画素値、ＳＤ画像の具体的な画素値、および、実際の波形（実世界の信号）のそれぞれをプロットしたものを示す図である。
【図２９６】図２９３の予測画像とHD画像の差分画像を示す図である。
【図２９７】図２９６で示される領域に含まれるＸ方向に連続した６個のＨＤ画素のうちの、図中左から４個のＨＤ画素に対応する、図２９３のＨＤ画像の具体的な画素値、ＳＤ画像の具体的な画素値、および、実際の波形（実世界の信号）のそれぞれをプロットしたものを示す図である。
【図２９８】図２９５乃至図２９７に示される内容に基づいて得られた知見を説明する図である。
【図２９９】図２８９の画像生成部のクラス分類適応処理補正部の構成例を説明するブロック図である。
【図３００】図２９１のクラス分類適応処理補正用学習部の詳細な構成例を説明するブロック図である。
【図３０１】画素内傾斜を説明する図である。
【図３０２】図２９３のSD画像と、そのSD画像の各画素の画素内傾斜を画素値とする特徴量画像を示す図である。
【図３０３】画素内傾斜の算出方法を説明する図である。
【図３０４】画素内傾斜の算出方法を説明する図である。
【図３０５】図２８９の構成の画像生成部が実行する画像の生成処理を説明するフローチャートである。
【図３０６】図３０５の画像の生成処理の入力画像クラス分類適応処理の詳細を説明するフローチャートである。
【図３０７】図３０５の画像の生成処理のクラス分類適応処理の補正処理の詳細を説明するフローチャートである。
【図３０８】クラスタップの配置例を説明する図である。
【図３０９】クラス分類の１例を説明する図である。
【図３１０】予測タップ配置例を説明する図である。
【図３１１】図２９１の学習装置の学習処理を説明するフローチャートである。
【図３１２】図３１１の学習処理のクラス分類適応処理用学習処理の詳細を説明するフローチャートである。
【図３１３】図３１１の学習処理のクラス分類適応処理補正用学習処理の詳細を説明するフローチャートである。
【図３１４】図２９３の予測画像と、その予測画像に補正画像を加算した画像（図２８９の画像生成部により生成される画像）を表した図である。
【図３１５】図１の信号処理装置の実施の形態の他の例である、併用手法を利用する信号処理装置の第１の構成例を説明するブロック図である。
【図３１６】図３１５の信号処理装置の、クラス分類適応処理を実行する画像生成部の構成例を説明するブロック図である。
【図３１７】図３１６の画像生成部に対する学習装置の構成例を説明するブロック図である。
【図３１８】図３１５の構成の信号処理装置が実行する信号の処理を説明するフローチャートである。
【図３１９】図３１８の信号の処理のクラス分類適応処理の実行処理の詳細を説明するフローチャートである。
【図３２０】図３１７の学習装置の学習処理を説明するフローチャートである。
【図３２１】図１の信号処理装置の実施の形態の他の例である、併用手法を利用する信号処理装置の第２の構成例を説明するブロック図である。
【図３２２】図３１９の構成の信号処理装置が実行する信号の処理を説明するフローチャートである。
【図３２３】図１の信号処理装置の実施の形態の他の例である、併用手法を利用する信号処理装置の第３の構成例を説明するブロック図である。
【図３２４】図３２１の構成の信号処理装置が実行する信号の処理を説明するフローチャートである。
【図３２５】図１の信号処理装置の実施の形態の他の例である、併用手法を利用する信号処理装置の第４の構成例を説明するブロック図である。
【図３２６】図３２３の構成の信号処理装置が実行する信号の処理を説明するフローチャートである。
【図３２７】図１の信号処理装置の実施の形態の他の例である、併用手法を利用する信号処理装置の第５の構成例を説明するブロック図である。
【図３２８】図３２５の構成の信号処理装置が実行する信号の処理を説明するフローチャートである。
【図３２９】データ定常性検出部の他の実施の形態の構成を示すブロック図である。
【図３３０】図３２９のデータ定常性検出部によるデータの定常性の検出処理を説明するフローチャートである。
【図３３１】光学ブロックの構成を説明する図である。
【図３３２】光学ブロックの構成を説明する図である。
【図３３３】 OLPFの構成を説明する図である。
【図３３４】 OLPFの機能を説明する図である。
【図３３５】 OLPFの機能を説明する図である。
【図３３６】本発明のその他の信号処理装置の構成を示すブロック図である。
【図３３７】図３３６のOLPF除去部の構成を示すブロック図である。
【図３３８】クラスタップの例を説明する図である。
【図３３９】図３３６の信号処理装置による信号の処理を説明するフローチャートである。
【図３４０】図３３９のフローチャートのステップＳ５１０１の処理である、OLPF除去の処理を説明するフローチャートである。
【図３４１】図３３７のOLPF除去部の係数を学習する学習装置である。
【図３４２】学習方法を説明する図である。
【図３４３】教師画像と生徒画像を説明する図である。
【図３４４】図３４２の学習装置の教師画像生成部と生徒画像生成部の構成を示すブロック図である。
【図３４５】生徒画像と教師画像の生成方法を説明する図である。
【図３４６】 OLPFのシミュレーション方法を説明する図である。
【図３４７】教師画像の例を示す図である。
【図３４８】生徒画像の例を示す図である。
【図３４９】学習の処理を説明するフローチャートである。
【図３５０】 OLPFの除去処理を行った画像を示す図である。
【図３５１】 OLPFの除去処理を行った画像と、除去していない画像との比較を説明する図である。
【図３５２】実世界推定部のその他の構成例を示すブロック図である。
【図３５３】 OLPFによる影響を説明する図である。
【図３５４】 OLPFによる影響を説明する図である。
【図３５５】図３５２の実世界推定部による実世界の推定処理を説明するフローチャートである。
【図３５６】抽出されるタップの例を示す図である。
【図３５７】図３５２の実世界推定部により推定された実世界の近似関数より生成された画像と、それ以外の手法で生成された画像を比較する図である。
【図３５８】図３５２の実世界推定部により推定された実世界の近似関数より生成された画像と、それ以外の手法で生成された画像を比較する図である。
【図３５９】信号処理装置のその他の構成を示すブロック図である。
【図３６０】図３５９の信号処理装置による信号の処理を説明すうフローチャートである。
【図３６１】図３５９の信号処理装置の係数を学習する学習装置の構成を示すブロック図である。
【図３６２】図３６１の教師画像生成部と生徒画像生成部の構成を示すブロック図である。
【図３６３】図３６１の学習装置による学習の処理を説明するフローチャートである。
【図３６４】各種の画像処理の関係を説明する図である。
【図３６５】連続関数からなる近似関数による実世界の推定を説明する図である。
【図３６６】不連続関数からなる近似関数を説明する図である。
【図３６７】連続関数と不連続関数からなる近似関数を説明する図である。
【図３６８】不連続関数からなる近似関数を用いた画素値の求め方を説明する図である。
【図３６９】実世界推定部のその他の構成を示すブロック図である。
【図３７０】図３６９の実世界推定部による実世界の推定処理を説明するフローチャートである。
【図３７１】抽出されるタップの例を示す図である。
【図３７２】 X-t平面上の不連続関数からなる近似関数を説明する図である。
【図３７３】抽出されるタップのその他の例を示す図である。
【図３７４】２次元の不連続関数からなる近似関数を説明する図である。
【図３７５】２次元の不連続関数からなる近似関数を説明する図である。
【図３７６】注目画素の領域毎の体積の割合を説明する図である。
【図３７７】実世界推定部のその他の構成を示すブロック図である。
【図３７８】図３７７の実世界推定部による実世界の推定処理を説明するフローチャートである。
【図３７９】抽出されるタップのその他の例を示す図である。
【図３８０】２次元の不連続関数からなる近似関数を説明する図である。
【図３８１】２次元の不連続関数からなる近似関数のその他の例を説明する図である。
【図３８２】領域毎の多項式の連続関数からなる近似関数を説明する図である。
【図３８３】領域毎の多項式の不連続関数からなる近似関数を説明する図である。
【図３８４】画像生成部のその他の構成を説明するブロック図である。
【図３８５】図３８４の画像生成部による画像生成の処理を説明するフローチャートである。
【図３８６】４倍密度の画素の生成手法を説明する図である。
【図３８７】従来の手法と、不連続関数からなる近似関数を用いた場合との関係を説明する図である。
【図３８８】画像生成部のその他の構成を説明するブロック図である。
【図３８９】図３８８の画像生成部による画像生成の処理を説明するフローチャートである。
【図３９０】注目画素を説明する図である。
【図３９１】注目画素の画素値を演算する方法を説明する図である。
【図３９２】空間方向の不連続関数からなる近似関数を用いた処理結果と、その他の処理結果を説明する図である。
【図３９３】不連続関数からなる近似関数を用いた処理結果と、その他の処理結果を説明する図である。
【図３９４】センサによる撮像を説明する図である。
【図３９５】画素の配置を説明する図である。
【図３９６】検出素子の動作を説明する図である。
【図３９７】動いている前景に対応するオブジェクトと、静止している背景に対応するオブジェクトとを撮像して得られる画像を説明する図である。
【図３９８】背景領域、前景領域、混合領域、カバードバックグラウンド領域、およびアンカバードバックグラウンド領域を説明する図である。
【図３９９】静止している前景に対応するオブジェクトおよび静止している背景に対応するオブジェクトを撮像した画像における、隣接して１列に並んでいる画素の画素値を時間方向に展開したモデル図である。
【図４００】画素値を時間方向に展開し、シャッタ時間に対応する期間を分割したモデル図である。
【図４０１】画素値を時間方向に展開し、シャッタ時間に対応する期間を分割したモデル図である。
【図４０２】画素値を時間方向に展開し、シャッタ時間に対応する期間を分割したモデル図である。
【図４０３】前景領域、背景領域、および混合領域の画素を抽出した例を示す図である。
【図４０４】画素と画素値を時間方向に展開したモデルとの対応を示す図である。
【図４０５】画素値を時間方向に展開し、シャッタ時間に対応する期間を分割したモデル図である。
【図４０６】画素値を時間方向に展開し、シャッタ時間に対応する期間を分割したモデル図である。
【図４０７】画素値を時間方向に展開し、シャッタ時間に対応する期間を分割したモデル図である。
【図４０８】画素値を時間方向に展開し、シャッタ時間に対応する期間を分割したモデル図である。
【図４０９】画素値を時間方向に展開し、シャッタ時間に対応する期間を分割したモデル
【図４１０】時空間方向の不連続関数からなる近似関数を用いた処理結果と、その他の処理結果を説明する図である。
【図４１１】水平方向の動きボケを含む画像を説明する図である。
【図４１２】図４１１の画像を時空間方向の不連続関数からなる近似関数を用いた処理結果と、その他の処理結果を説明する図である。
【図４１３】斜方向の動きボケを含む画像を説明する図である。
【図４１４】図４１３の画像を時空間方向の不連続関数からなる近似関数を用いた処理結果と、その他の処理結果を説明する図である。
【図４１５】斜方向に動きボケを含む画像を時空間方向の不連続関数からなる近似関数を用いた処理結果を示す図である。
【符号の説明】
４信号処理装置，２１ＣＰＵ，２２ＲＯＭ，２３ＲＡＭ，２８記憶部，５１磁気ディスク，５２光ディスク，５３光磁気ディスク，５４半導体メモリ，１０１データ定常性検出部，１０２実世界推定部，１０３画像生成部，２０１非定常成分抽出部，２０２頂点検出部，２０３単調増減検出部，２０４連続性検出部，２２１ブロック抽出部，２２２平面近似部，２２３繰り返し判定部，４０１アクティビティ検出部，４０２データ選択部，４０３誤差推定部，４０４定常方向導出部，４１１−１乃至４１１−Ｌ画素選択部，４１２−１乃至４１２−Ｌ推定誤差算出部，４１３最小誤差角度選択部，４２１−１乃至４２１−Ｌ画素選択部，４２２−１乃至４２２−Ｌ推定誤差算出部，４４１データ選択部，４４２誤差推定部，４４３定常方向導出部，４６１−１乃至４６１−Ｌ画素選択部，４６２−１乃至４６２−Ｌ推定誤差算出部，４６３最小誤差角度選択部，４８１−１乃至４８１−３データ定常性検出部，４８２決定部，４９１コンポーネント処理部，４９２データ定常性検出部，５０２画素取得部，５０３度数検出部，５０４回帰直線演算部，５０５角度算出部，６０２画素取得部，６０３度数検出部，６０４回帰直線演算部，６０５領域算出部，７０１データ選択部，７０２データ足し込み部，７０３定常方向導出部，７１１水平・垂直判定部，７１２データ取得部，７２１差分足し込み部，７２２ MaxMin取得部，７２３差分足し込み部，７３１定常方向演算部，７５１データ足し込み部，７５２ MaxMin取得部，７５３足し込み部，７５４差分演算部，７５５足し込み部，７６１混合比導出部，７６２混合比算出部，８０１角度検出部，８０２実世界推定部，８０３誤差演算部，８０４比較部，８２１動き検出部，８２２実世界推定部，８２３誤差演算部，８２４比較部，９０１簡易式角度検出部，９０２判定部，９０３スイッチ，９０４回帰式角度検出部，９０５勾配式角度検出部，９１１データ選択部，９１２誤差推定部，９１３定常方向導出部，９２１−１乃至９２１−Ｌ画素選択部，９２２−１乃至９２２−Ｌ推定誤差算出部，９２３最小誤差角度選択部，２１０１線幅検出部，２１０２信号レベル推定部，２１２１境界検出部，２１３１分配比算出部，２１３２回帰直線算出部，２２０１実世界推定部，２２０２近似関数推定部，２２０３微分処理部，２２１１参照画素抽出部，２２１２傾き推定部，２２３１実世界推定部，２２３２近似関数推定部，２２３３微分処理部，２２５１参照画素抽出部，２２５２傾き推定部，２３３１条件設定部, ２３３２入力画像記憶部, ２３３３入力画素値取得部, ２３３４積分成分演算部, ２３３５正規方程式生成部, ２３３６近似関数生成部, ２３４１入力画素値テーブル, ２３４２積分成分テーブル, ２３４３正規方程式テーブル，２４２１条件設定部, ２４２２入力画像記憶部, ２４２３入力画素値取得部, ２４２４積分成分演算部, ２４２５正規方程式生成部, ２４２６近似関数生成部, ２４３１入力画素値テーブル, ２４３２積分成分テーブル, ２４３３正規方程式テーブル，２５２１条件設定部, ２５２２入力画像記憶部, ２５２３入力画素値取得部, ２５２４積分成分演算部, ２５２５正規方程式生成部, ２５２６近似関数生成部,２５３１入力画素値テーブル, ２５３２積分成分テーブル, ２５３３正規方程式テーブル，３１２１条件設定部, ３１２２特徴量記憶部, ３１２３積分成分演算部, ３１２４出力画素値演算部, ３１３１特徴量テーブル, ３１３２積分成分テーブル，３２０１条件設定部, ３２０２特徴量記憶部, ３２０３積分成分演算部, ３２０４出力画素値演算部, ３２１１特徴量テーブル, ３２１２積分成分テーブル，３３０１条件設定部, ３３０２特徴量記憶部, ３３０３積分成分演算部, ３３０４出力画素値演算部, ３３１１特徴量テーブル, ３３１２積分成分テーブル，３２０１傾き取得部，３２０２外挿補間部，３２１１傾き取得部，３２１２外挿補間部，３５０１クラス分類適応処理部，３５０２クラス分類適応処理補正部，３５０３加算部，３５０４学習装置，３５２１クラス分類適応処理用学習部，３５６１クラス分類適応処理補正用学習部，４１０１データ定常性検出部４１０１実世界推定部，４１０３画像生成部，４１０４画像生成部，４１０５定常領域検出部，４１１１領域検出部，４１１２セレクタ，４１６１定常領域検出部，４１７１領域検出部，４１７２実行指令生成部，４１８１，４１８２定常領域検出部，４１９１領域検出部，４１９２実行指令生成部，４２０１領域検出部，４２０２実行指令生成部，４５０１画像生成部，５１０１レンズ，５１０２ IRカットフィルタ，５１０３ OLPF，５１０４ CCD，５１１０光学ブロック，５１２１ａ，ｂ水晶，５１２２位相板，５１３１ OLPF除去部，５１４１クラスタップ検出部，５１４２特徴量抽出部，５１４３クラス分類部，５１４４係数メモリ，５１４５予測タップ抽出部，５１４６画素値演算部，５１５１生徒画像生成部，５１５１ａ 1/16平均処理部，５１５２学習部，５１５３教師画像生成部，５１５３ａ OLPFシミュレーション部，５１５３ｂ 1/16平均処理部，５１５４係数メモリ，５１６１画像メモリ，５１６２クラスタップ抽出部，５１６３特徴量抽出部，５１６４クラス分類部，５１６５予測タップ抽出部，５１６６足し込み演算部，５１６７学習メモリ，５１６８正規方程式演算部，５２０１条件設定部, ５２０２入力画像記憶部, ５２０３入力画素値取得部, ５２０４積分成分演算部, ５２０５正規方程式生成部, ５２０６近似関数生成部, ５２４１クラスタップ抽出部，５２４２特徴量演算部，５２４３クラス分類部，５２４４係数メモリ，５２４５予測タップ抽出部，５２４６画素値演算部，５２５１生徒画像生成部，５２５１ａ OLPFシミュレーション処理部，５２５１ｂ 1/64平均処理部，５２５２学習部，５２５３教師画像生成部，５２５３ 1/16平均処理部，５２５４係数メモリ，５２６１画像メモリ，５２６２クラスタップ抽出部，５２６３特徴量演算部，５２６４クラス分類部，５２６５予測タップ抽出部，５２６６足し込み演算部，５２６７学習メモリ，５２６８正規方程式演算部，５３０１条件設定部, ５３０２入力画像記憶部, ５３０３入力画素値取得部, ５３０４積分成分演算部, ５３０５正規方程式生成部, ５３０６近似関数生成部, ５３２１条件設定部, ５３２２入力画像記憶部, ５３２３入力画素値取得部, ５３２４積分成分演算部, ５３２５正規方程式生成部, ５３２６近似関数生成部, ５３４１実世界推定情報取得部，５３４２重み計算部，５３４３画素生成部，５３５１実世界推定情報取得部，５３５２重み計算部，５３５３画素生成部[0001]
BACKGROUND OF THE INVENTION
The present invention relates to a learning apparatus and method, an image processing apparatus and method, a recording medium, and a program, and more particularly to a learning apparatus and method, an image processing apparatus and method, a recording medium, and a program that take into consideration the real world from which data is acquired. About.
[0002]
[Prior art]
A technique for detecting an event in the real world (real world) with a sensor and processing sampling data output from the sensor is widely used. For example, an image processing technique for capturing an image of the real world with an image sensor and processing sampling data that is image data is widely used.
[0003]
In addition, the first signal obtained by detecting the first signal, which is a real-world signal having the first dimension, by the sensor, has a second dimension that is smaller than the first dimension, A second signal including distortion with respect to the second signal is acquired, and signal processing based on the second signal is performed to generate a third signal with reduced distortion compared to the second signal. (For example, refer to Patent Document 1).
[0004]
[Patent Document 1]
JP 2001-250119 A
[0005]
[Problems to be solved by the invention]
However, image processing in consideration of the real world from which data was acquired has not been considered so far.
[0006]
The present invention has been made in view of such a situation, and in consideration of the real world from which data was acquired, it is possible to obtain a more accurate and more accurate processing result for an event in the real world. The purpose is to do so.
[0007]
[Means for Solving the Problems]
  The learning device of the present invention is configured to disperse the optical data of the target optical low-pass filter from the image data corresponding to the optical signal after the optical signal corresponding to the second image data passes through the optical low-pass filter. On the basis of the relationship between the image sensor and the inter-pixel distance of the image sensor, a calculation means for calculating from the second image data and outputting as the first image data, and a plurality of pixels corresponding to the target pixel in the second image data Learning that learns a first tap extraction unit that extracts pixels from first image data and a prediction unit that predicts a pixel value of a pixel of interest from pixel values of a plurality of pixels extracted by the first tap extraction unit With meansThe calculation means sequentially sets the target pixel in the second image data, and the phase shift amount determined according to the target pixel and the thickness of the crystal plate of the optical low-pass filter having the crystal plate with the target pixel as a reference The first image data is generated by superimposing a value in which the pixel value of the target pixel is equally distributed on a plurality of pixels arranged at positions corresponding toIt is characterized by that.
[0008]
A second tap extracting means for extracting a plurality of pixels corresponding to the target pixel in the second image data from the first image data; and pixel values of the plurality of pixels extracted by the second tap extracting means. And a feature detection unit for detecting a feature corresponding to the target pixel. The learning unit extracts the feature detected by the feature detection unit by the first tap extraction unit. It is possible to learn prediction means for predicting the pixel value of the target pixel from the pixel values of the plurality of pixels.
[0010]
  According to the learning method of the present invention, the phase shift amount for dispersing the optical signal of the target optical low-pass filter from the image data corresponding to the optical signal after the optical signal corresponding to the second image data passes through the optical low-pass filter. And a calculation step of calculating from the second image data and outputting as the first image data based on the relationship between the distance between the pixels of the image sensor and the image sensor, and a plurality of pixels corresponding to the target pixel in the second image data A first tap extraction step for extracting pixels from the first image data, and a prediction step for predicting the pixel value of the pixel of interest from the pixel values of a plurality of pixels extracted in the first tap extraction step Learning steps to learnIn the calculation step, the target pixel in the second image data is set in order, and the phase shift determined according to the target pixel and the thickness of the crystal plate of the optical low-pass filter having the crystal plate with the target pixel as a reference The first image data is generated by superimposing a value in which the pixel value of the target pixel is equally distributed on a plurality of pixels arranged at positions corresponding to the amount.It is characterized by that.
[0011]
  The first recording medium of the present invention disperses the optical signal of the target optical low-pass filter with the image data corresponding to the optical signal after the optical signal corresponding to the second image data passes through the optical low-pass filter. Based on the relationship between the phase shift amount and the inter-pixel distance of the image sensor, a calculation step of calculating from the second image data and outputting as the first image data, and corresponding to the target pixel in the second image data A first tap extraction step for extracting a plurality of pixels to be extracted from the first image data, and a prediction for predicting the pixel value of the pixel of interest from the pixel values of the plurality of pixels extracted in the processing of the first tap extraction step Learning step for learning the processing of the step.In the calculation step, the target pixel in the second image data is set in order, and the phase shift determined according to the target pixel and the thickness of the crystal plate of the optical low-pass filter having the crystal plate with the target pixel as a reference The first image data is generated by superimposing a value in which the pixel value of the target pixel is equally distributed on a plurality of pixels arranged at positions corresponding to the amount.A computer-readable program is recorded.
[0012]
  The first program of the present invention distributes the optical signal of the target optical low-pass filter to the image data corresponding to the optical signal after the optical signal corresponding to the second image data passes through the optical low-pass filter. Based on the relationship between the shift amount and the pixel-to-pixel distance of the image sensor, a calculation step of calculating from the second image data and outputting as the first image data, and corresponding to the target pixel in the second image data A first tap extraction step for extracting a plurality of pixels from the first image data, and a prediction step for predicting the pixel value of the pixel of interest from the pixel values of the plurality of pixels extracted by the processing of the first tap extraction step Learning step to learn the processing ofIn the calculation step, the target pixel in the second image data is set in order, and the phase shift determined according to the target pixel and the thickness of the crystal plate of the optical low-pass filter having the crystal plate with the target pixel as a reference The first image data is generated by superimposing a value in which the pixel value of the target pixel is equally distributed on a plurality of pixels arranged at positions corresponding to the amount.The processing is executed by a computer.
[0013]
  The image processing apparatus according to the present invention includes an acquisition unit that acquires first image data acquired by projecting a real-world optical signal to a plurality of pixels each having a spatial integration effect via an optical low-pass filter; First tap extraction means for extracting a plurality of pixels corresponding to the target pixel in the second image data from the first image data, and an optical signal incident on the optical low-pass filter from the first image data are directly projected. Based on the storage means for storing the prediction means learned in advance so as to predict the second image data acquired by the processing, the plurality of pixels extracted by the first tap extraction means, and the prediction means A prediction calculation unit that predicts the pixel value of the target pixel in the second image data, and the prediction unit includes a phase shift amount for dispersing the optical signal of the target optical low-pass filter and imaging Based on the relationship between the distance between pixels of the child,The target pixel in the second image data is sequentially set, and the target pixel and the position corresponding to the phase shift amount determined according to the thickness of the crystal plate of the optical low-pass filter having the crystal plate with the target pixel as a reference By superimposing a value in which the pixel value of the target pixel is equally distributed on a plurality of arranged pixels,Learned in advance so as to predict the second image data from the first image data calculated from the second image data.
[0014]
A second tap extracting means for extracting a plurality of pixels corresponding to the target pixel in the second image data from the first image data; and pixel values of the plurality of pixels extracted by the second tap extracting means. And a feature detection unit that detects a feature corresponding to the target pixel. The prediction unit extracts the feature detected by the feature detection unit by the first tap extraction unit. Further, it is possible to learn in advance so as to predict the pixel value of the target pixel from the pixel values of the plurality of pixels.
[0016]
  The image processing method of the present invention includes an acquisition step of acquiring first image data acquired by projecting a real-world optical signal to a plurality of pixels each having a spatial integration effect via an optical low-pass filter; A first tap extraction step for extracting a plurality of pixels corresponding to a target pixel in the second image data from the first image data, and an optical signal incident on the optical low-pass filter from the first image data are directly projected. The second step is performed based on the prediction step learned in advance so as to predict the second image data acquired by the processing, the plurality of pixels extracted by the first tap extraction means, and the prediction step. A prediction calculation step for predicting a pixel value of a target pixel in the image data, and the prediction step includes a phase shift for dispersing the optical signal of the target optical low-pass filter. Based on the relationship between the inter-pixel distance amounts and the imaging element,The target pixel in the second image data is sequentially set, and the target pixel and the position corresponding to the phase shift amount determined according to the thickness of the crystal plate of the optical low-pass filter having the crystal plate with the target pixel as a reference By superimposing a value in which the pixel value of the target pixel is equally distributed on a plurality of arranged pixels,Learned in advance so as to predict the second image data from the first image data calculated from the second image data.
[0017]
  The second recording medium of the present invention obtains first image data obtained by projecting a real-world optical signal onto a plurality of pixels each having a spatial integration effect via an optical low-pass filter. A first tap extraction step of extracting a plurality of pixels corresponding to the target pixel in the second image data from the first image data, and an optical signal incident on the optical low-pass filter from the first image data Based on the prediction step learned in advance to predict the second image data acquired by direct projection, the plurality of pixels extracted by the first tap extracting means, and the prediction step processing. A prediction calculation step for predicting the pixel value of the pixel of interest in the image data of 2, wherein the prediction step disperses the optical signal of the target optical low pass filter. Based on the relationship between the inter-pixel distance bet amount and the image pickup device,The target pixel in the second image data is sequentially set, and the target pixel and the position corresponding to the phase shift amount determined according to the thickness of the crystal plate of the optical low-pass filter having the crystal plate with the target pixel as a reference By superimposing a value in which the pixel value of the target pixel is equally distributed on a plurality of arranged pixels,A computer-readable program that has been learned in advance so as to predict the second image data from the first image data calculated from the second image data is recorded.
[0018]
  The second program of the present invention obtains first image data obtained by projecting a real-world optical signal onto a plurality of pixels each having a spatial integration effect via an optical low-pass filter; A first tap extraction step of extracting a plurality of pixels corresponding to a target pixel in the second image data from the first image data, and an optical signal incident on the optical low-pass filter from the first image data directly Based on the prediction step learned in advance so as to predict the second image data acquired by the projection, the plurality of pixels extracted by the first tap extraction means, and the processing of the prediction step. And a prediction calculation step for predicting a pixel value of a target pixel in the image data of the image data. Based on the relationship between the distance between pixels of the phase shift amount and the image pickup device for dispersing filter of the optical signal,The target pixel in the second image data is sequentially set, and the target pixel and the position corresponding to the phase shift amount determined according to the thickness of the crystal plate of the optical low-pass filter having the crystal plate with the target pixel as a reference By superimposing a value in which the pixel value of the target pixel is equally distributed on a plurality of arranged pixels,Learned in advance so as to predict the second image data from the first image data calculated from the second image data.
[0019]
  In the learning apparatus and method and the program of the present invention, the image data corresponding to the optical signal after the optical signal corresponding to the second image data passes through the optical low-pass filter is the optical signal of the target optical low-pass filter. Is calculated from the second image data based on the relationship between the phase shift amount that disperses the pixel and the inter-pixel distance of the image sensor, and is output as the first image data, corresponding to the target pixel in the second image data A plurality of pixels are extracted from the first image data and learned so that the pixel value of the target pixel is predicted from the pixel values of the extracted pixelsThe target pixel in the second image data is set in order, and the position corresponding to the phase shift amount determined according to the thickness of the target pixel and the crystal plate of the optical low-pass filter having the crystal plate with the target pixel as a reference The first image data is generated by superimposing a value in which the pixel value of the target pixel is equally distributed on a plurality of pixels arranged inThe
[0020]
  In the image processing apparatus, method, and program of the present invention, the first image data acquired by projecting a real-world optical signal to a plurality of pixels each having a spatial integration effect via an optical low-pass filter is provided. By acquiring a plurality of pixels corresponding to the target pixel in the second image data from the first image data, and directly projecting an optical signal incident on the optical low-pass filter from the first image data The acquired second image data is learned in advance so as to be predicted, and the pixel value of the pixel of interest in the second image data is predicted based on the extracted plurality of pixels and the prediction, and the target optical low-pass Based on the relationship between the phase shift amount for dispersing the optical signal of the filter and the inter-pixel distance of the image sensor,The target pixel in the second image data is sequentially set, and the target pixel and the position corresponding to the phase shift amount determined according to the thickness of the crystal plate of the optical low-pass filter having the crystal plate with the target pixel as a reference. By superimposing a value in which the pixel value of the target pixel is equally distributed on a plurality of arranged pixels,Learning is performed in advance so that the second image data is predicted from the first image data calculated from the second image data.
[0021]
The learning device and the image processing device of the present invention may be independent devices or blocks that perform image processing.
[0022]
DETAILED DESCRIPTION OF THE INVENTION
FIG. 1 illustrates the principle of the present invention. As shown in the figure, an event (phenomenon) in the real world 1 having dimensions of space, time, and mass is acquired by the sensor 2 and converted into data. The event in the real world 1 means light (image), sound, pressure, temperature, mass, concentration, brightness / darkness, odor, or the like. Events in the real world 1 are distributed in the space-time direction. For example, the image of the real world 1 is a distribution in the spatio-temporal direction of the light intensity of the real world 1.
[0023]
When attention is paid to the sensor 2, the real world 1 event that can be acquired by the sensor 2 among the real world 1 events having dimensions of space, time, and mass is converted into data 3 by the sensor 2. It can be said that the sensor 2 acquires information indicating an event in the real world 1.
[0024]
That is, the sensor 2 converts information indicating an event in the real world 1 into data 3. It can be said that a signal, which is information indicating an event (phenomenon) of the real world 1 having dimensions of space, time, and mass, is acquired by the sensor 2 and converted into data.
[0025]
Hereinafter, the distribution of events such as image, sound, pressure, temperature, mass, concentration, brightness / darkness, or smell in the real world 1 is also referred to as a signal that is information indicating the real world 1 event. A signal that is information indicating an event in the real world 1 is also simply referred to as a real world 1 signal. In this specification, a signal includes a phenomenon and an event, and also includes a signal that the transmission side does not intend.
[0026]
Data 3 (detection signal) output from the sensor 2 is information obtained by projecting information indicating an event of the real world 1 onto a space-time of a lower dimension than the real world 1. For example, data 3 which is image data of a moving image is information obtained by projecting a three-dimensional space direction and time direction image of the real world 1 into a time space composed of a two-dimensional space direction and a time direction. It is. For example, when the data 3 is digital data, the data 3 is rounded according to the sampling unit. When the data 3 is analog data, the information in the data 3 is compressed according to the dynamic range, or a part of the information is deleted by a limiter or the like.
[0027]
In this way, by projecting a signal that is information indicating an event of the real world 1 having a predetermined dimension onto the data 3 (detection signal), a part of the information indicating the event of the real world 1 is lost. In other words, in the data 3 output from the sensor 2, a part of the information indicating the real world 1 event is missing.
[0028]
However, although a part of information indicating the real world 1 event is missing due to the projection, the data 3 includes significant information for estimating a signal that is information indicating the real world 1 event (phenomenon). Yes.
[0029]
In the present invention, information having stationarity included in the data 3 is used as significant information for estimating a signal that is information of the real world 1. Stationarity is a newly defined concept.
[0030]
Here, paying attention to the real world 1, the events of the real world 1 include certain features in a predetermined dimension direction. For example, in an object (tangible object) in the real world 1, a shape, a pattern, or a color is continuous in a spatial direction or a time direction, or a pattern such as a shape, a pattern, or a color is repeated.
[0031]
Therefore, the information indicating the event in the real world 1 includes a certain feature in a predetermined dimension direction.
[0032]
To give a more specific example, a linear object such as a thread, string, or rope has a constant feature in the length direction, that is, the spatial direction, that the cross-sectional shape is the same at an arbitrary position in the length direction. Have The feature in the spatial direction that the cross-sectional shape is the same at an arbitrary position in the length direction results from the feature that the linear object is long.
[0033]
Therefore, the image of the linear object has a certain feature in the length direction, that is, the spatial direction, that the cross-sectional shape is the same at an arbitrary position in the length direction.
[0034]
In addition, it can be said that a monochromatic object, which is a tangible object spreading in the spatial direction, has a certain feature in the spatial direction of having the same color regardless of the part.
[0035]
Similarly, an image of a monochromatic object, which is a tangible object having a spread in the spatial direction, has a certain characteristic in the spatial direction of having the same color regardless of the part.
[0036]
In this way, the real world 1 (real world) event has a certain characteristic in the direction of the predetermined dimension, and thus the signal of the real world 1 has a certain characteristic in the direction of the predetermined dimension.
[0037]
In the present specification, such a certain feature in the direction of the predetermined dimension is referred to as continuity. The steadiness of the signal of the real world 1 (real world) refers to a certain characteristic in the direction of a predetermined dimension that the signal indicating the event of the real world 1 (real world) has.
[0038]
In the real world 1 (real world), there are an infinite number of such stationarities.
[0039]
Next, paying attention to the data 3, since the signal 3 is a projection of a signal which is information indicating an event of the real world 1 having a predetermined dimension by the sensor 2, the steadiness of the real world signal is affected. The corresponding stationarity is included. It can be said that the data 3 includes the continuity in which the continuity of the real-world signal is projected.
[0040]
However, as described above, in the data 3 output from the sensor 2, a part of the information of the real world 1 is missing, so that the continuity of data included in the real world 1 (real world) signal from the data 3. Some are missing.
[0041]
In other words, the data 3 includes a part of the continuity of the signal of the real world 1 (real world) as the continuity of the data. Data continuity is a characteristic that the data 3 has in a predetermined dimension.
[0042]
In the present invention, the continuity of data included in the data 3 is used as significant information for estimating a signal that is information indicating an event in the real world 1.
[0043]
For example, in the present invention, the data 3 is signal-processed using the continuity of data, and information indicating the missing event of the real world 1 is generated.
[0044]
In the present invention, spatial or temporal continuity among the length (space), time, and mass of the signal dimension, which is information indicating an event in the real world 1, is used.
[0045]
Returning to FIG. 1, the sensor 2 is composed of, for example, a digital still camera or a video camera, takes an image of the real world 1, and outputs image data that is the obtained data 3 to the signal processing device 4. The sensor 2 can be, for example, a thermography device or a pressure sensor using photoelasticity.
[0046]
The signal processing device 4 is composed of, for example, a personal computer.
[0047]
The signal processing device 4 is configured, for example, as shown in FIG. A CPU (Central Processing Unit) 21 executes various processes according to a program stored in a ROM (Read Only Memory) 22 or a storage unit 28. A RAM (Random Access Memory) 23 appropriately stores programs executed by the CPU 21 and data. The CPU 21, ROM 22, and RAM 23 are connected to each other by a bus 24.
[0048]
An input / output interface 25 is also connected to the CPU 21 via the bus 24. The input / output interface 25 is connected to an input unit 26 including a keyboard, a mouse, and a microphone, and an output unit 27 including a display and a speaker. The CPU 21 executes various processes in response to commands input from the input unit 26. Then, the CPU 21 outputs an image, sound, or the like obtained as a result of the processing to the output unit 27.
[0049]
The storage unit 28 connected to the input / output interface 25 is configured by, for example, a hard disk and stores programs executed by the CPU 21 and various data. The communication unit 29 communicates with an external device via the Internet or other networks. In this example, the communication unit 29 functions as an acquisition unit that captures the data 3 output from the sensor 2.
[0050]
A program may be acquired via the communication unit 29 and stored in the storage unit 28.
[0051]
The drive 30 connected to the input / output interface 25, when a magnetic disk 51, an optical disk 52, a magneto-optical disk 53, or a semiconductor memory 54 is mounted, drives them, and programs and data recorded there. Get etc. The acquired program and data are transferred to and stored in the storage unit 28 as necessary.
[0052]
FIG. 3 is a block diagram showing the signal processing device 4.
[0053]
It does not matter whether each function of the signal processing device 4 is realized by hardware or software. That is, each block diagram in this specification may be considered as a hardware block diagram or a software functional block diagram.
[0054]
In the signal processing device 4 having the configuration shown in FIG. 3, image data which is an example of the data 3 is input, and data continuity is detected from the input image data (input image). Next, the signal of the real world 1 acquired by the sensor 2 is estimated from the continuity of the detected data. Then, an image is generated based on the estimated real world 1 signal, and the generated image (output image) is output. That is, FIG. 3 is a diagram illustrating a configuration of the signal processing device 4 that is an image processing device.
[0055]
An input image (image data which is an example of data 3) input to the signal processing device 4 is supplied to the data continuity detection unit 101 and the real world estimation unit 102.
[0056]
The data continuity detection unit 101 detects data continuity from the input image, and supplies data continuity information indicating the detected continuity to the real world estimation unit 102 and the image generation unit 103. The data continuity information is, for example, the position of a pixel region having data continuity in the input image, the direction of the pixel region having data continuity (the angle or inclination in the time direction and the spatial direction), or the data This includes the length of a pixel region having continuity. Details of the configuration of the data continuity detecting unit 101 will be described later.
[0057]
The real world estimation unit 102 estimates the signal of the real world 1 based on the input image and the data continuity information supplied from the data continuity detection unit 101. That is, the real world estimation unit 102 estimates an image that is a real world signal that is incident on the sensor 2 when an input image is acquired. The real world estimation unit 102 supplies real image estimation information indicating the estimation result of the real world 1 signal to the image generation unit 103. Details of the configuration of the real world estimation unit 102 will be described later.
[0058]
The image generation unit 103 generates and generates a signal approximated to the real world 1 signal based on the real world estimation information indicating the estimated real world 1 signal supplied from the real world estimation unit 102. Output a signal. Alternatively, the image generation unit 103 is based on the data continuity information supplied from the data continuity detection unit 101 and the real world estimation information indicating the estimated real world 1 signal supplied from the real world estimation unit 102. Then, a signal approximated by the signal of the real world 1 is generated, and the generated signal is output.
[0059]
That is, the image generation unit 103 generates an image approximated to the image of the real world 1 based on the real world estimation information, and outputs the generated image as an output image. Alternatively, the image generation unit 103 generates an image approximated to the image of the real world 1 based on the data continuity information and the real world estimation information, and outputs the generated image as an output image.
[0060]
For example, the image generation unit 103 integrates the estimated real world 1 image in a desired spatial direction or time range based on the real world estimation information, thereby comparing the spatial direction or A high-resolution image is generated in the time direction, and the generated image is output as an output image. For example, the image generation unit 103 generates an image by extrapolation and outputs the generated image as an output image.
[0061]
Details of the configuration of the image generation unit 103 will be described later.
[0062]
Next, the principle of the present invention will be described with reference to FIGS.
[0063]
FIG. 4 is a diagram for explaining the principle of processing in the conventional signal processing apparatus 121. The conventional signal processing device 121 uses the data 3 as a reference for processing, and executes processing such as high resolution using the data 3 as a processing target. In the conventional signal processing device 121, the real world 1 is not considered, and the data 3 becomes the final reference, and information more than the information included in the data 3 cannot be obtained as an output.
[0064]
In addition, in the conventional signal processing device 121, distortion caused by the sensor 2 (difference between the signal that is information of the real world 1 and the data 3) existing in the data 3 is not considered at all. A signal that includes distortion is output. Furthermore, depending on the processing contents of the signal processing device 121, the distortion caused by the sensor 2 existing in the data 3 is further amplified, and data including the amplified distortion is output.
[0065]
As described above, in the conventional signal processing, the real world 1 (the signal) itself from which the data 3 is acquired is not considered. In other words, in the conventional signal processing, since the real world 1 was captured within the frame of information included in the data 3, the limit of signal processing is determined by the information and distortion included in the data 3 Is done.
[0066]
On the other hand, in the signal processing of the present invention, the processing is executed in consideration of the real world 1 (its signal) itself.
[0067]
FIG. 5 is a diagram for explaining the principle of processing in the signal processing device 4 according to the present invention.
[0068]
The sensor 2 acquires a signal that is information indicating an event in the real world 1, and the sensor 2 outputs data 3 that is a projection of the signal that is information in the real world 1.
[0069]
However, in the present invention, a signal which is information obtained by the sensor 2 and which indicates an event in the real world 1 is clearly considered. That is, signal processing is performed in consideration that the data 3 includes distortion caused by the sensor 2 (difference between the signal that is information of the real world 1 and the data 3).
[0070]
By doing in this way, in the signal processing of the present invention, the processing result is not limited by the information and distortion included in the data 3, for example, compared with the conventional case, the event of the real world 1 On the other hand, a more accurate and more accurate processing result can be obtained. That is, according to the present invention, it is possible to obtain a more accurate and more accurate processing result with respect to a signal that is input to the sensor 2 and is information indicating an event in the real world 1.
[0071]
6 and 7 are diagrams for more specifically explaining the principle of the present invention.
[0072]
As shown in FIG. 6, for example, a CCD (Charge Coupled Device), which is an example of the sensor 2, is obtained by an optical system 141 including a lens or an optical LPF (Low Pass Filter). ). Since the CCD as an example of the sensor 2 has an integral characteristic, a difference from the image of the real world 1 is generated in the data 3 output from the CCD. Details of the integration characteristics of the sensor 2 will be described later.
[0073]
In the signal processing of the present invention, the relationship between the image of the real world 1 acquired by the CCD and the data 3 captured and output by the CCD is clearly considered. That is, the relationship between the data 3 and a signal that is real-world information acquired by the sensor 2 is clearly considered.
[0074]
More specifically, as shown in FIG. 7, the signal processing device 4 approximates (describes) the real world 1 using the model 161. The model 161 is expressed by N variables, for example. More precisely, the model 161 approximates (describes) the real world 1 signal.
[0075]
In order to predict the model 161, the signal processing device 4 extracts M pieces of data 162 from the data 3. When extracting the M pieces of data 162 from the data 3, the signal processing device 4 uses the continuity of the data included in the data 3. In other words, the signal processing device 4 extracts data 162 for predicting the model 161 based on the continuity of the data included in the data 3. As a result, the model 161 is constrained by data continuity.
[0076]
That is, the model 161 is information obtained from the real world 1 having a stationarity (a constant feature in a predetermined dimension direction) that causes the stationarity of data in the data 3 when acquired by the sensor 2 ( Approximate signal)).
[0077]
Here, if the number M of data 162 is equal to or greater than the number N of model variables, a model 161 represented by N variables can be predicted from the M data 162.
[0078]
In this way, by predicting the model 161 that approximates (describes) the real world 1 (signal), the signal processing device 4 can consider the signal that is information of the real world 1.
[0079]
Next, the integration effect of the sensor 2 will be described.
[0080]
An image sensor such as a CCD or CMOS (Complementary Metal-Oxide Semiconductor) sensor, which is a sensor 2 that captures an image, projects a signal that is information of the real world onto two-dimensional data when imaging the real world. Each pixel of the image sensor has a predetermined area as a so-called light receiving surface (light receiving region). Light incident on the light receiving surface having a predetermined area is integrated for each pixel in the spatial direction and the time direction, and is converted into one pixel value for each pixel.
[0081]
The spatial and temporal integration of the image will be described with reference to FIGS.
[0082]
The image sensor captures an object (object) in the real world and outputs image data obtained as a result of imaging in units of one frame. That is, the image sensor acquires a signal of the real world 1 that is light reflected by an object of the real world 1 and outputs data 3.
[0083]
For example, the image sensor outputs image data consisting of 30 frames per second. In this case, the exposure time of the image sensor can be 1/30 second. The exposure time is a period from when the image sensor starts converting incident light to electric charge until the conversion of incident light to electric charge ends. Hereinafter, the exposure time is also referred to as shutter time.
[0084]
FIG. 8 is a diagram for explaining an example of the arrangement of pixels on the image sensor. In FIG. 8, A to I indicate individual pixels. The pixels are arranged on a plane corresponding to the image displayed by the image data. One detection element corresponding to one pixel is arranged on the image sensor. When the image sensor captures an image of the real world 1, one detection element outputs one pixel value corresponding to one pixel constituting the image data. For example, the position (X coordinate) in the spatial direction X of the detection element corresponds to the horizontal position on the image displayed by the image data, and the position (Y coordinate) in the spatial direction Y of the detection element depends on the image data. Corresponds to the vertical position on the displayed image.
[0085]
The distribution of the light intensity of the real world 1 has a spread in the three-dimensional spatial direction and the temporal direction, but the image sensor acquires the light of the real world 1 in the two-dimensional spatial direction and the temporal direction, and the two-dimensional The data 3 expressing the light intensity distribution in the spatial direction and the time direction is generated.
[0086]
As shown in FIG. 9, for example, the detection element that is a CCD converts light input to the light receiving surface (light receiving area) (detection area) into electric charge for a period corresponding to the shutter time, and converts the converted electric charge. Accumulate. Light is information (signal) in the real world 1 whose intensity is determined by the position in a three-dimensional space and time. The light intensity distribution in the real world 1 can be expressed by a function F (x, y, z, t) having positions x, y, and z in a three-dimensional space and time t as variables.
[0087]
The amount of electric charge accumulated in the detection element, which is a CCD, is approximately proportional to the intensity of light incident on the entire light receiving surface having a two-dimensional space spread and the time during which light is incident. In the period corresponding to the shutter time, the detection element adds the electric charge converted from the light incident on the entire light receiving surface to the already accumulated electric charge. That is, the detection element integrates the light incident on the entire light-receiving surface having a two-dimensional space spread for a period corresponding to the shutter time, and accumulates an amount of charge corresponding to the integrated light. It can be said that the detection element has an integration effect with respect to space (light receiving surface) and time (shutter time).
[0088]
The electric charge accumulated in the detection element is converted into a voltage value by a circuit (not shown), and the voltage value is further converted into a pixel value such as digital data and output as data 3. Accordingly, each pixel value output from the image sensor is obtained by taking a certain part of the real world 1 information (signal) having a temporal and spatial extent in the time direction of the shutter time and the spatial direction of the light receiving surface of the detection element. It has a value projected onto a one-dimensional space, which is the result of integration.
[0089]
That is, the pixel value of one pixel is represented by the integral of F (x, y, t). F (x, y, t) is a function representing the light intensity distribution on the light receiving surface of the detection element. For example, the pixel value P is represented by Expression (1).
[0090]
[Expression 1]

... (1)
[0091]
In equation (1), x₁Is the spatial coordinates (X coordinate) of the left boundary of the light receiving surface of the detection element. x₂Is the spatial coordinates (X coordinate) of the right boundary of the light receiving surface of the detection element. In equation (1), y₁Is a spatial coordinate (Y coordinate) of the upper boundary of the light receiving surface of the detection element. y₂Is a spatial coordinate (Y coordinate) of the lower boundary of the light receiving surface of the detection element. T₁Is the time at which the conversion of incident light into electric charge is started. t₂Is the time when the conversion of the incident light into the electric charge is completed.
[0092]
Actually, the gain of the pixel value of the image data output from the image sensor is corrected for the entire frame, for example.
[0093]
Each pixel value of the image data is an integral value of light incident on the light receiving surface of each detection element of the image sensor. Of the light incident on the image sensor, the pixel value of the real world 1 is smaller than the light receiving surface of the detection element. The light waveform is hidden by the pixel value as the integral value.
[0094]
Hereinafter, in this specification, a waveform of a signal expressed with a predetermined dimension as a reference is also simply referred to as a waveform.
[0095]
In this way, since the image of the real world 1 is integrated in the spatial direction and the time direction in units of pixels, the image data lacks a part of the continuity of the image of the real world 1 and the real world. Only the other part of the stationarity of one image is included in the image data. Alternatively, the image data may include continuity that has changed from the continuity of the real world 1 image.
[0096]
The spatial integration effect of the image captured by the image sensor having the integration effect will be further described.
[0097]
FIG. 10 is a diagram illustrating the relationship between the light incident on the detection elements corresponding to the pixels D to F and the pixel value. F (x) in FIG. 10 is an example of a function representing the light intensity distribution in the real world 1 with the coordinate x in the spatial direction X in space (on the detection element) as a variable. In other words, F (x) is an example of a function that represents the light intensity distribution in the real world 1 when it is constant in the spatial direction Y and the time direction. In FIG. 10, L indicates the length in the spatial direction X of the light receiving surface of the detection element corresponding to the pixel D to the pixel F.
[0098]
The pixel value of one pixel is represented by the integral of F (x). For example, the pixel value P of the pixel E is expressed by Expression (2).
[0099]
[Expression 2]

... (2)
[0100]
In equation (2), x₁Is the spatial coordinates in the spatial direction X of the left boundary of the light receiving surface of the detection element corresponding to the pixel E. x₂Are the spatial coordinates in the spatial direction X of the right boundary of the light receiving surface of the detection element corresponding to the pixel E.
[0101]
Similarly, the integration effect in the time direction of an image captured by an image sensor having an integration effect will be further described.
[0102]
FIG. 11 is a diagram illustrating the relationship between the passage of time, the light incident on the detection element corresponding to one pixel, and the pixel value. F (t) in FIG. 11 is a function representing the light intensity distribution in the real world 1 with the time t as a variable. In other words, F (t) is an example of a function that represents the light intensity distribution in the real world 1 when it is constant in the spatial direction Y and the spatial direction X. t_sIndicates the shutter time.
[0103]
Frame # n-1 is a frame temporally preceding frame #n, and frame # n + 1 is a frame temporally subsequent to frame #n. That is, frame # n-1, frame #n, and frame # n + 1 are displayed in the order of frame # n-1, frame #n, and frame # n + 1.
[0104]
In the example shown in FIG. 11, the shutter time t_sAnd the frame interval are the same.
[0105]
The pixel value of one pixel is represented by the integral of F (t). For example, the pixel value P of the pixel in frame #n is expressed by Expression (3).
[0106]
[Equation 3]

... (3)
[0107]
In equation (3), t₁Is the time at which the conversion of incident light into electric charge is started. t₂Is the time when the conversion of the incident light into the electric charge is completed.
[0108]
Hereinafter, the integration effect in the spatial direction by the sensor 2 is simply referred to as a spatial integration effect, and the integration effect in the time direction by the sensor 2 is simply referred to as a time integration effect. The space integration effect or the time integration effect is also simply referred to as an integration effect.
[0109]
Next, an example of the continuity of data included in the data 3 acquired by the image sensor having an integration effect will be described.
[0110]
  FIG. 12 is a diagram illustrating an image of a linear object (for example, a thin line) in the real world 1, that is, an example of light intensity distribution. In FIG. 12, the top in the figuredirectionThe position of indicates the light intensity (level), and the upper right in the figuredirectionIndicates the position in the spatial direction X, which is one direction in the spatial direction of the image.directionIndicates a position in the spatial direction Y, which is another direction in the spatial direction of the image.
[0111]
The image of the linear object in the real world 1 includes predetermined continuity. That is, the image shown in FIG. 12 has continuity that the cross-sectional shape (change in level with respect to change in position in the direction orthogonal to the length direction) is the same at an arbitrary position in the length direction.
[0112]
FIG. 13 is a diagram illustrating an example of pixel values of image data obtained by actual imaging corresponding to the image shown in FIG.
[0113]
FIG. 14 is a schematic diagram of the image data shown in FIG.
[0114]
The schematic diagram shown in FIG. 14 shows a linear object having a diameter shorter than the length L of the light receiving surface of each pixel extending in a direction deviated from the pixel arrangement (pixel vertical or horizontal arrangement) of the image sensor. It is a schematic diagram of the image data obtained by imaging an image with an image sensor. The image incident on the image sensor when the image data shown in FIG. 14 is acquired is an image of a linear object in the real world 1 in FIG.
[0115]
  In FIG. 14, the top in the figuredirectionThe position of indicates the pixel value.directionIndicates the position in the spatial direction X, which is one direction in the spatial direction of the image.directionIndicates a position in the spatial direction Y, which is another direction in the spatial direction of the image. The direction indicating the pixel value in FIG. 14 corresponds to the direction of the level in FIG. 12, and the spatial direction X and the spatial direction Y in FIG. 14 are the same as the directions in FIG.
[0116]
When an image of a linear object having a diameter shorter than the length L of the light-receiving surface of each pixel is captured by an image sensor, in the image data obtained as a result of imaging, the linear object is typically, for example, It is represented by a plurality of arc shapes (kamaboko-shaped) having a predetermined length and arranged obliquely. Each arc shape is substantially the same shape. One arc shape is formed on one column of pixels vertically or on one column of pixels horizontally. For example, one arc shape in FIG. 14 is formed on one column of pixels vertically.
[0117]
Thus, for example, in the image data captured and acquired by the image sensor, the cross section in the spatial direction Y at any position in the length direction that the image of the linear object in the real world 1 had. The stationarity that the shape is the same is lost. In addition, the continuity of the image of the linear object in the real world 1 is an arc shape that is the same shape formed vertically on one column of pixels or horizontally on one column of pixels. It can be said that it has changed to the steadiness that is arranged at regular intervals.
[0118]
  FIG. 15 is a diagram showing an example of an image of the real world 1 of an object having a single color and a straight edge, that is, a color different from the background, that is, an example of light intensity distribution. In FIG.directionThe position of indicates the light intensity (level), and the upper right in the figuredirectionIndicates the position in the spatial direction X, which is one direction in the spatial direction of the image.directionIndicates a position in the spatial direction Y, which is another direction in the spatial direction of the image.
[0119]
The real world 1 image of an object having a straight edge with a color different from the background includes a predetermined continuity. That is, the image shown in FIG. 15 has the continuity that the cross-sectional shape (change in level with respect to change in position in the direction orthogonal to the edge) is the same at an arbitrary position in the length direction of the edge.
[0120]
FIG. 16 is a diagram illustrating an example of pixel values of image data obtained by actual imaging corresponding to the image shown in FIG. As shown in FIG. 16, the image data is composed of pixel values in units of pixels, and thus has a staircase shape.
[0121]
FIG. 17 is a schematic diagram of the image data shown in FIG.
[0122]
The schematic diagram shown in FIG. 17 is a color different from the background that extends in a direction shifted from the pixel arrangement (vertical or horizontal arrangement of pixels) of the image sensor. It is a schematic diagram of the image data obtained by imaging the image of the real world 1 of the possessed object with an image sensor. The image that is incident on the image sensor when the image data shown in FIG. 17 is acquired is a color different from the background shown in FIG. 1 image.
[0123]
  In FIG.directionThe position of indicates the pixel value.directionIndicates the position in the spatial direction X, which is one direction in the spatial direction of the image.directionIndicates a position in the spatial direction Y, which is another direction in the spatial direction of the image. The direction indicating the pixel value in FIG. 17 corresponds to the level direction in FIG. 15, and the spatial direction X and the spatial direction Y in FIG. 17 are the same as the directions in FIG.
[0124]
When an image of the real world 1 that is a color different from the background and has a single color and a straight edge is imaged by an image sensor, the straight edge is schematically shown in the image data obtained as a result of the imaging. Thus, for example, it is represented by a plurality of pawl shapes having a predetermined length arranged obliquely. Each pawl shape is substantially the same shape. One pawl shape is formed on one column of pixels vertically or on one column of pixels horizontally. For example, in FIG. 17, one pawl shape is formed on one column of pixels vertically.
[0125]
Thus, for example, in the image data obtained by being imaged by the image sensor, the real world 1 image having a single color and a straight edge has a color different from the background. The stationarity that the cross-sectional shape is the same at any position in the length direction of the edge is lost. In addition, the continuity of the real world 1 image of a single color, straight-lined object, which is different from the background, is one column vertically or one column horizontally. It can be said that the pawl shape, which is the same shape and formed on the pixels, is changed to a continuity that is arranged at regular intervals.
[0126]
The data continuity detecting unit 101 detects such data continuity of the data 3 that is the input image, for example. For example, the data continuity detecting unit 101 detects data continuity by detecting a region having a certain feature in a predetermined dimension direction. For example, the data continuity detecting unit 101 detects a region where the same circular arc shape shown in FIG. 14 is arranged at regular intervals. In addition, for example, the data continuity detecting unit 101 detects a region where the same pawl shape is arranged at regular intervals as shown in FIG.
[0127]
In addition, the data continuity detecting unit 101 detects data continuity by detecting an angle (inclination) in the spatial direction that indicates the arrangement of similar shapes.
[0128]
Further, for example, the data continuity detecting unit 101 detects data continuity by detecting an angle (motion) in the spatial direction and the temporal direction, which indicates how the same shape is arranged in the spatial direction and the temporal direction.
[0129]
Further, for example, the data continuity detecting unit 101 detects data continuity by detecting the length of a region having a certain feature in a predetermined dimension direction.
[0130]
Hereinafter, a portion of data 3 in which an image of the real world 1 of an object having a single color and a straight edge that is different from the background is projected by the sensor 2 is also referred to as a binary edge.
[0131]
Next, the principle of the present invention will be described more specifically.
[0132]
As shown in FIG. 18, in the conventional signal processing, for example, desired high resolution data 181 is generated from the data 3.
[0133]
  On the other hand, in the signal processing according to the present invention, the real world 1 is estimated from the data 3, and the high resolution data 181 is generated based on the estimation result. That is, as shown in FIG. 19, the real world 1 is estimated from the data 3, and the high resolution data 181 is estimated in consideration of the data 3.Generated from real world 1.
[0134]
In order to generate the high resolution data 181 from the real world 1, it is necessary to consider the relationship between the real world 1 and the data 3. For example, what happens when the real world 1 is projected onto the data 3 by the sensor 2 which is a CCD is considered.
[0135]
The sensor 2 which is a CCD has an integral characteristic as described above. That is, one unit (for example, pixel value) of the data 3 can be calculated by integrating the signal of the real world 1 in the detection region (for example, light receiving surface) of the detection element (for example, CCD) of the sensor 2. it can.
[0136]
When this is applied to the high-resolution data 181, a process in which a virtual high-resolution sensor projects the signal of the real world 1 onto the data 3 is applied to the estimated real world 1 to obtain the high-resolution data 181. be able to.
[0137]
In other words, as shown in FIG. 20, if the signal of the real world 1 can be estimated from the data 3, the signal of the real world 1 is determined for each detection region of the detection element of the virtual high-resolution sensor (in the spatio-temporal direction). In this case, one value included in the high resolution data 181 can be obtained.
[0138]
For example, when the change in the signal of the real world 1 is smaller than the size of the detection area of the detection element of the sensor 2, the data 3 cannot represent a small change in the signal of the real world 1. Therefore, the signal of the real world 1 estimated from the data 3 is smaller than the change of the signal of the real world 1 by integrating every smaller region (in the space-time direction), thereby reducing the signal of the real world 1 High-resolution data 181 indicating a change can be obtained.
[0139]
That is, high resolution data 181 can be obtained by integrating the estimated real world 1 signal in the detection region for each detection element of the virtual high resolution sensor.
[0140]
In the present invention, for example, the image generation unit 103 integrates the estimated real world 1 signal in the spatio-temporal region of each detection element of the virtual high resolution sensor, thereby obtaining the high resolution data 181. Generate.
[0141]
Next, in order to estimate the real world 1 from the data 3, the relationship between the data 3 and the real world 1, continuity, and spatial mixing in the data 3 are used in the present invention.
[0142]
Here, mixing means that in data 3, signals for two objects in the real world 1 are mixed to become one value.
[0143]
Spatial mixing refers to mixing in the spatial direction of signals for two objects due to the spatial integration effect of the sensor 2.
[0144]
The real world 1 itself is composed of an infinite number of events. Therefore, in order to express the real world 1 itself by, for example, a mathematical expression, an infinite number of variables are required. From data 3, not all events in the real world 1 can be predicted.
[0145]
Similarly, it is not possible to predict all the signals of the real world 1 from the data 3.
[0146]
Therefore, as shown in FIG. 21, in the present invention, attention is paid to a portion of the real world 1 signal that is stationary and can be expressed by a function f (x, y, z, t). A portion of the real world 1 signal having continuity that can be expressed by a function f (x, y, z, t) is approximated by a model 161 expressed by N variables. Then, as shown in FIG. 22, the model 161 is predicted from the M pieces of data 162 in the data 3.
[0147]
To enable prediction of the model 161 from the M pieces of data 162, first, the model 161 is represented by N variables based on stationarity, and secondly, based on the integral characteristics of the sensor 2. Therefore, it is necessary to establish an equation using N variables indicating the relationship between the model 161 expressed by N variables and the M data 162. Since the model 161 is represented by N variables based on the stationarity, N variables indicating the relationship between the model 161 represented by the N variables and the M data 162 were used. It can be said that the equation describes the relationship between the real world 1 signal portion having continuity and the data 3 portion having data continuity.
[0148]
In other words, the portion of the real world 1 signal having continuity, which is approximated by the model 161 expressed by N variables, causes data continuity in the data 3.
[0149]
The data continuity detecting unit 101 detects the characteristics of the data 3 portion where data continuity has occurred and the characteristics of the portion where data continuity has occurred, based on the real world 1 signal portion having continuity.
[0150]
For example, as shown in FIG. 23, in the real world 1 image of a single-color, straight-line object that is different from the background, the edge at the position of interest shown by A in FIG. 23 is , Have a slope. The arrow B in FIG. 23 indicates the edge inclination. The inclination of the predetermined edge can be expressed by an angle with respect to a reference axis or a direction with respect to a reference position. For example, the inclination of the predetermined edge can be represented by an angle between the coordinate axis in the spatial direction X and the edge. For example, the inclination of the predetermined edge can be represented by the direction indicated by the length in the spatial direction X and the length in the spatial direction Y.
[0151]
When an image of the real world 1 that is a color different from the background and has a single-colored straight edge is acquired by the sensor 2 and the data 3 is output, In FIG. 23, B ′ in FIG. 23 corresponds to the inclination of the edge of the image of the real world 1 in which the pawl shape corresponding to the edge is arranged at the position indicated by A ′ in FIG. 23 with respect to the position (A) at which the edge is noticed. A claw shape corresponding to the edge is arranged in the direction of inclination indicated by.
[0152]
The model 161 expressed by N variables approximates the portion of one signal in the real world that causes data continuity in the data 3 as described above.
[0153]
When formulating using N variables, which shows the relationship between the model 161 expressed by N variables and the M data 162, the value of the portion where the continuity of the data occurs in the data 3 Use.
[0154]
In this case, in the data 3 shown in FIG. 24, data continuity occurs, and the detection element of the sensor 2 outputs a value obtained by integrating the signal of the real world 1 while paying attention to the value belonging to the mixed region. The formula is established as equal to the value. For example, a plurality of formulas can be established for a plurality of values in data 3 in which data continuity occurs.
[0155]
In FIG. 24, A indicates the position at which the edge is noticed, and A ′ indicates the pixel (position) with respect to the position at which the edge is noticed (A) in the real world 1 image.
[0156]
Here, the mixed region refers to a data region in the data 3 in which signals for two objects in the real world 1 are mixed and become one value. For example, in the data 3 for a real-world 1 image of an object having a straight edge that is a color different from the background, the image for the object having a straight edge and the image for the background are integrated. Pixel values that belong to the mixed area.
[0157]
FIG. 25 is a diagram for explaining the signals belonging to the two objects in the real world 1 and the values belonging to the mixed region in the case of formulating.
[0158]
The left side in FIG. 25 shows real world 1 signals for two objects in the real world 1 having a predetermined spread in the spatial direction X and the spatial direction Y, which are obtained in the detection region of one detection element of the sensor 2. Show. The right side in FIG. 25 shows the pixel value P of one pixel of data 3 in which the signal of the real world 1 shown on the left side in FIG. 25 is projected by one detection element of the sensor 2. That is, 1 of the data 3 obtained by projecting signals of the real world 1 for two objects in the real world 1 having a predetermined spread in the spatial direction X and the spatial direction Y obtained by one detection element of the sensor 2. The pixel value P of one pixel is shown.
[0159]
L in FIG. 25 indicates the level of the signal in the real world 1 in the white part in FIG. 25 for one object in the real world 1. R in FIG. 25 indicates the level of the signal in the real world 1 in the part represented by the oblique line in FIG. 25 with respect to another object in the real world 1.
[0160]
Here, the mixture ratio α indicates a ratio of signals (areas) of two objects incident on a detection region having a predetermined spread in the spatial direction X and the spatial direction Y of one detection element of the sensor 2. . For example, the mixture ratio α is incident on the detection region of one detection element of the sensor 2 having a predetermined spread in the spatial direction X and the spatial direction Y with respect to the area of the detection region of one detection element of the sensor 2. The ratio of the area of the level L signal is shown.
[0161]
In this case, the relationship between the level L, the level R, and the pixel value P can be expressed by Expression (4).
[0162]
α × L + (1−α) × R = P (4)
[0163]
The level R may be the pixel value of the pixel of data 3 located on the right side of the pixel of interest, and the level L is located on the left side of the pixel of interest. In some cases, the pixel value of data 3 can be used.
[0164]
In addition, the mixing ratio α and the mixing region can take into account the time direction as well as the spatial direction. For example, when an object in the real world 1 to be imaged is moving with respect to the sensor 2, the ratio of signals to the two objects that are incident on the detection region of one detection element of the sensor 2 in the time direction. Will change. Signals for two objects that are incident on the detection area of one detection element of the sensor 2 and whose ratios change in the time direction are projected onto one value of the data 3 by the detection element of the sensor 2.
[0165]
Mixing in the time direction of signals for two objects due to the time integration effect of the sensor 2 is referred to as time mixing.
[0166]
The data continuity detecting unit 101 detects, for example, a pixel region in the data 3 in which signals of the real world 1 are projected onto two objects in the real world 1. The data continuity detecting unit 101 detects, for example, the inclination in the data 3 corresponding to the inclination of the edge of the image of the real world 1.
[0167]
Then, the real world estimation unit 102 is, for example, a model expressed by N variables based on the pixel region having a predetermined mixture ratio α and the gradient of the region detected by the data continuity detection unit 101. The signal of the real world 1 is estimated by setting up an equation using N variables indicating the relationship between 161 and M pieces of data 162 and solving the established equation.
[0168]
Further, specific estimation of the real world 1 will be described.
[0169]
Of the real-world signal represented by the function F (x, y, z, t), the real-world signal represented by the function F (x, y, t) in the cross-section (position of the sensor 2) in the spatial direction Z Consider approximating a signal with a position x in the spatial direction X, a position y in the spatial direction Y, and an approximate function f (x, y, t) determined by time t.
[0170]
Here, the detection region of the sensor 2 has a spread in the spatial direction X and the spatial direction Y. In other words, the approximate function f (x, y, t) is a function that approximates the signal of the real world 1 that is acquired by the sensor 2 and has a spread in the spatial direction and the time direction.
[0171]
It is assumed that the value P (x, y, t) of data 3 is obtained by projecting the signal of the real world 1 by the sensor 2. The value P (x, y, t) of the data 3 is a pixel value output from the sensor 2 that is an image sensor, for example.
[0172]
Here, when the projection by the sensor 2 can be formulated, the value obtained by projecting the approximate function f (x, y, t) can be expressed as the projection function S (x, y, t).
[0173]
In obtaining the projection function S (x, y, t), there are the following problems.
[0174]
First, in general, a function F (x, y, z, t) representing a real world 1 signal can be an infinite order function.
[0175]
Second, even if a real-world signal can be described as a function, it is generally not possible to determine the projection function S (x, y, t) via the projection of the sensor 2. That is, the projection function S (x, y, t) cannot be determined because the projection operation by the sensor 2, in other words, the relationship between the input signal and the output signal of the sensor 2 is not known.
[0176]
For the first problem, a function f that is a function (for example, a function of a finite degree) that can describe a function f (x, y, t) that approximates a signal of the real world 1_i(X, y, t) and variable w_iConsider expressing the product sum of.
[0177]
Also, by formulating the projection by the sensor 2 for the second problem, the function f_iFrom the description of (x, y, t), the function S_i(X, y, t) can be described.
[0178]
That is, the function f (x, y, t) approximating the real world 1 signal is changed to the function f_i(X, y, t) and variable w_iExpression (5) is obtained by expressing the product sum.
[0179]
[Expression 4]

... (5)
[0180]
For example, as shown in Expression (6), by formulating the projection of the sensor 2, the relationship between the data 3 and the real world signal is formulated as Expression (7) from Expression (5). Can do.
[0181]
[Equation 5]

... (6)
[0182]
[Formula 6]

... (7)
In Expression (7), j is an index of data.
[0183]
N variables w in equation (7)_iIf there are M data groups (j = 1 to M) where (i = 1 to N) are common, the equation (8) is satisfied, and the real world model 161 can be obtained from the data 3.
[0184]
N ≦ M (8)
N is the number of variables representing the model 161 that approximates the real world 1. M is the number of data 162 included in the data 3.
[0185]
By expressing the function f (x, y, t) approximating the signal of the real world 1 by the equation (5), w_iAs a variable part can be made independent. At this time, i indicates the number of variables as it is. And f_iCan be made independent of the shape of the function_iAs a result, a desired function can be used.
[0186]
Therefore, the function f_iVariable w_iThe number N can be defined and the variable w_iThe variable w in relation to the number N of data and the number M of data_iCan be requested.
[0187]
That is, the real world 1 can be estimated from the data 3 by using the following three.
[0188]
First, N variables are defined, that is, formula (5) is defined. This is made possible by describing the real world 1 using stationarity. For example, a signal of the real world 1 can be described by a model 161 in which a cross section is represented by a polynomial and the same cross-sectional shape continues in a certain direction.
[0189]
Secondly, for example, the projection by the sensor 2 is formulated, and Expression (7) is described. For example, the real world1It is formulated that the result of the integration of the signal is data 3.
[0190]
Third, M pieces of data 162 are collected to satisfy equation (8). For example, data 162 is collected from areas having data continuity detected by the data continuity detecting unit 101. For example, data 162 of an area where a certain cross section continues, which is an example of stationarity, is collected.
[0191]
Thus, by describing the relationship between the data 3 and the real world 1 by the equation (5) and collecting the M pieces of data 162, the real world 1 can be estimated by satisfying the equation (8). it can.
[0192]
More specifically, when N = M, since the number N of variables is equal to the number M of equations, the variable w_iCan be requested.
[0193]
Various solutions can be applied when N <M. For example, the variable w_iCan be requested.
[0194]
Here, the solution by the least square method will be described in detail.
[0195]
First, equation (9) for predicting data 3 from the real world 1 according to equation (7) is shown.
[0196]
[Expression 7]

... (9)
[0197]
In the formula (9), P ′_j(X_j, y_j,t_j) Is a predicted value.
[0198]
The sum of squared differences E between the predicted value P ′ and the actually measured value P is expressed by Expression (10).
[0199]
[Equation 8]

... (10)
[0200]
The variable w so that the sum of squared differences E is minimized_iIs required. Therefore, each variable w_kThe partial differential value of the equation (10) according to Eq. That is, Expression (11) is established.
[0201]
[Equation 9]

(11)
[0202]
Expression (12) is derived from Expression (11).
[0203]
[Expression 10]

(12)
[0204]
When Equation (12) is satisfied with K = 1 to N, a solution by the least square method is obtained. The normal equation at this time is represented by Expression (13).
[0205]
## EQU11 ##

... (13)
However, in equation (13), S_i(X_j, y_j, t_j) S_i(j) was described.
[0206]
[Expression 12]

(14)
[0207]
[Formula 13]

... (15)
[0208]
[Expression 14]

... (16)
[0209]
From equations (14) through (16), equation (13)_MATW_MAT= P_MATIt can be expressed as.
[0210]
In equation (13), S_iRepresents the projection of the real world 1. In equation (13), P_jRepresents data 3. In formula (13), w_iIs a variable that describes and determines the characteristics of the signal of the real world 1.
[0211]
Therefore, data 3 is input to equation (13), and W_MATCan be used to estimate the real world 1. That is, the real world 1 can be estimated by calculating Expression (17).
[0212]
W_MAT= S_MAT ^-1P_MAT ... (17)
[0213]
S_MATS is not regular, S_MATUsing the transpose of_MATCan be requested.
[0214]
For example, the real world estimation unit 102 inputs the data 3 to the equation (13) and performs W_MATIs used to estimate the real world 1.
[0215]
Here, an even more specific example will be described. For example, the cross-sectional shape of the signal of the real world 1, that is, the level change with respect to the position change is described by a polynomial. Assume that the cross-sectional shape of the signal of the real world 1 is constant and the cross-section of the signal of the real world 1 moves at a constant speed. The projection of the real world 1 signal to the data 3 by the sensor 2 is formulated by integration in three dimensions in the space-time direction of the real world 1 signal.
[0216]
From the assumption that the cross-sectional shape of the signal of the real world 1 moves at a constant speed, Equations (18) and (19) are obtained.
[0217]
[Expression 15]

... (18)
[0218]
[Expression 16]

... (19)
Where v_xAnd v_yIs constant.
[0219]
The cross-sectional shape of the signal of the real world 1 is expressed as Expression (20) by using Expression (18) and Expression (19).
[0220]
f (x ', y') = f (x + v_xt, y + v_yt) (20)
[0221]
When the projection of the real world 1 signal from the sensor 2 to the data 3 is formulated by integration in the three-dimensional space-time direction of the real world 1 signal, the equation (21) is obtained.
[0222]
[Expression 17]

... (21)
[0223]
In Expression (21), S (x, y, t) is a position x in the spatial direction X._sFrom position x_eUntil the position y with respect to the spatial direction Y_sFrom position y_eUntil time t for time direction t_sTo time t_eThe integrated value of the region up to, that is, the region represented by a space-time cuboid.
[0224]
By solving Equation (13) using a desired function f (x ′, y ′) that can define Equation (21), the signal of the real world 1 can be estimated.
[0225]
Hereinafter, as an example of the function f (x ′, y ′), the function represented by the equation (22) is used.
[0226]

[0227]
That is, it is assumed that the signal of the real world 1 includes the stationarity expressed by the equations (18), (19), and (22). This indicates that the cross section of a certain shape is moving in the spatio-temporal direction as shown in FIG.
[0228]
By substituting equation (22) into equation (21), equation (23) is obtained.
[0229]
[Formula 18]

(23)
However,
Volume = (x_e-x_s) (y_e-y_s)(t_e-t_s)
S₀(x, y, t) = Volume / 2 × (x_e+ x_s+ v_x(t_e+ t_s))
S₁(x, y, t) = Volume / 2 × (y_e+ y_s+ v_y(t_e+ t_s))
S₂(x, y, t) = 1
It is.
[0230]
FIG. 27 is a diagram illustrating an example of M pieces of data 162 extracted from the data 3. For example, 27 pixel values are extracted as data 162, and the extracted pixel values are P_j(x, y, t). In this case, j is 0 to 26.
[0231]
In the example shown in FIG. 27, the pixel value of the pixel corresponding to the position of interest at time t, which is n, is P.₁₃The direction in which the pixel values of pixels having data continuity (x, y, t) are aligned (for example, the direction in which the pawl shapes having the same shape detected by the data continuity detecting unit 101 are aligned) is P_Four(x, y, t), P₁₃(x, y, t) and P_{twenty two}The pixel value P at time t, which is n, in the direction connecting (x, y, t)₉(x, y, t) to P₁₇(x, y, t), pixel value P at time t which is n−1, which is temporally before n₀(x, y, t) to P₈(x, y, t), and pixel value P at time t, which is n + 1, later in time than n₁₈(x, y, t) to P₂₆(x, y, t) is extracted.
[0232]
Here, the region from which the pixel value, which is the data 3, output from the image sensor, which is the sensor 2, is spread in the time direction and the two-dimensional spatial direction, as shown in FIG. Therefore, for example, as shown in FIG. 29, the center of gravity of a rectangular parallelepiped (area where the pixel value is acquired) corresponding to the pixel can be used as the position of the pixel in the spatio-temporal direction. The circle in FIG. 29 indicates the center of gravity.
[0233]
27 pixel values P₀(x, y, t) to P₂₆It is possible to estimate the real world 1 by generating Expression (13) from (x, y, t) and Expression (23) and obtaining W.
[0234]
Thus, the real world estimation unit 102, for example, has 27 pixel values P₀(x, y, t) to P₂₆From (x, y, t) and Expression (23), Expression (13) is generated and W is obtained to estimate the signal of the real world 1.
[0235]
The function f_iAs (x, y, t), a Gaussian function or a sigmoid function can be used.
[0236]
With reference to FIGS. 30 to 34, an example of processing for generating higher-resolution high-resolution data 181 corresponding to data 3 from the estimated real-world 1 signal will be described.
[0237]
As shown in FIG. 30, the data 3 has a value obtained by integrating the signal of the real world 1 in the time direction and the two-dimensional spatial direction. For example, the pixel value of data 3 output from the image sensor of sensor 2 is the light incident on the detection element, and the signal of the real world 1 is integrated in the time direction with the shutter time being the detection time. And has a value integrated in the light receiving area of the detection element in the spatial direction.
[0238]
On the other hand, as shown in FIG. 31, the high resolution data 181 having a higher resolution in the spatial direction has the estimated real world 1 signal as the detection time of the sensor 2 that output the data 3 in the time direction. It is generated by integrating in the same time and integrating in a narrower area in the spatial direction than the light receiving area of the detection element of the sensor 2 that has output the data 3.
[0239]
When the high-resolution data 181 having higher resolution in the spatial direction is generated, the region where the estimated real world 1 signal is integrated is completely independent of the light-receiving region of the detection element of the sensor 2 that has output the data 3. Can be set. For example, the high-resolution data 181 is given an integer multiple resolution in the spatial direction with respect to the data 3, and of course, the data 3 has a rational multiple resolution in the spatial direction, such as 5/3 times. be able to.
[0240]
Further, as shown in FIG. 32, the high-resolution data 181 with higher resolution in the time direction is the estimated signal of the real world 1 in the spatial direction and the light receiving area of the detection element of the sensor 2 that has output the data 3. It is generated by integrating in the same region and integrating in a shorter time as compared with the detection time of the sensor 2 that output the data 3 in the time direction.
[0241]
Note that when the high-resolution data 181 with higher resolution in the time direction is generated, the time for which the estimated signal of the real world 1 is integrated is completely independent of the shutter time of the detection element of the sensor 2 that has output the data 3. Can be set. For example, the high-resolution data 181 is given a resolution that is an integer multiple of the data 3 in the time direction, as well as a rational multiple of the resolution of the data 3 in the time direction, such as 7/4 times. be able to.
[0242]
As shown in FIG. 33, the high-resolution data 181 from which motion blur is removed is generated by integrating the estimated signal of the real world 1 only in the spatial direction without integrating in the time direction.
[0243]
Further, as shown in FIG. 34, the high-resolution data 181 having higher resolution in the time direction and the spatial direction is obtained by detecting the estimated signal of the real world 1 from the detection element of the sensor 2 that has output the data 3 in the spatial direction. It is generated by integrating in a narrower region than in the light receiving region, and integrating in a shorter time compared to the detection time of the sensor 2 that output the data 3 in the time direction.
[0244]
In this case, the region and time in which the estimated signal of the real world 1 is integrated can be set completely independent of the light receiving region and the shutter time of the detection element of the sensor 2 that has output the data 3.
[0245]
In this way, the image generation unit 103 generates higher-resolution data in the time direction or the spatial direction, for example, by integrating the estimated signal of the real world 1 in a desired space-time region.
[0246]
As described above, by estimating the real world 1 signal, it is possible to generate data with higher resolution in the time direction or the spatial direction, which is more accurate with respect to the real world 1 signal.
[0247]
An example of an input image and an example of a processing result of the signal processing device 4 according to the present invention are shown with reference to FIGS.
[0248]
FIG. 35 is a diagram illustrating an original image of the input image. FIG. 36 is a diagram illustrating an example of an input image. The input image shown in FIG. 36 is an image generated by using the average value of the pixel values belonging to the block composed of 2 × 2 pixels of the image shown in FIG. 35 as the pixel value of one pixel. That is, the input image is an image obtained by applying spatial integration that imitates the integration characteristics of the sensor to the image shown in FIG.
[0249]
The original image shown in FIG. 35 includes a thin line image that is tilted approximately 5 degrees clockwise from the vertical direction. Similarly, the input image shown in FIG. 36 includes a fine line image inclined approximately 5 degrees clockwise from the vertical direction.
[0250]
FIG. 37 is a diagram showing an image obtained by applying the conventional class classification adaptation process to the input image shown in FIG. Here, the class classification adaptation process includes a class classification process and an adaptation process. The class classification process classifies data based on its property and performs an adaptation process for each class. In the adaptive processing, for example, a low-quality image or a standard-quality image is mapped (mapped) using a predetermined tap coefficient to be converted into a high-quality image.
[0251]
In the image shown in FIG. 37, it can be seen that the fine line image is different from the original image in FIG.
[0252]
FIG. 38 is a diagram illustrating a result of detecting a thin line region from the input image illustrated in the example of FIG. 36 by the data continuity detecting unit 101. In FIG. 38, a white area | region shows the area | region where the circular arc shape shown in FIG.
[0253]
FIG. 39 is a diagram showing an example of an output image output from the signal processing device 4 according to the present invention using the image shown in FIG. 36 as an input image. As shown in FIG. 39, according to the signal processing device 4 of the present invention, an image closer to the fine line image of the original image shown in FIG. 35 can be obtained.
[0254]
FIG. 40 is a flowchart for explaining signal processing by the signal processing device 4 according to the present invention.
[0255]
In step S101, the data continuity detecting unit 101 executes a process for detecting continuity. The data continuity detection unit 101 detects the continuity of data included in the input image that is the data 3, and provides data continuity information indicating the continuity of the detected data as the real world estimation unit 102 and the image generation unit. 103.
[0256]
The data continuity detecting unit 101 detects the continuity of data corresponding to the continuity of signals in the real world. In the processing of step S101, the data continuity detected by the data continuity detecting unit 101 is part of the continuity of the real world 1 image included in the data 3, or the real world 1 signal. The stationarity has changed from the stationarity of.
[0257]
For example, the data continuity detecting unit 101 detects data continuity by detecting a region having a certain feature in a predetermined dimension direction. In addition, for example, the data continuity detecting unit 101 detects data continuity by detecting an angle (inclination) in the spatial direction that indicates a similar arrangement of shapes.
[0258]
Details of the continuity detection process in step S101 will be described later.
[0259]
The data continuity information can be used as a feature amount indicating the feature of the data 3.
[0260]
In step S102, the real world estimation unit 102 executes real world estimation processing. That is, the real world estimation unit 102 estimates the signal of the real world 1 based on the input image and the data continuity information supplied from the data continuity detection unit 101. For example, in the process of step S 102, the real world estimation unit 102 estimates a signal of the real world 1 by predicting a model 161 that approximates (describes) the real world 1. The real world estimation unit 102 supplies real image estimation information indicating the estimated real world 1 signal to the image generation unit 103.
[0261]
For example, the real world estimation unit 102 estimates the signal of the real world 1 by predicting the width of the linear object. For example, the real world estimation unit 102 estimates the signal of the real world 1 by predicting the level indicating the color of the linear object.
[0262]
Details of the real world estimation process in step S102 will be described later.
[0263]
The real world estimation information can be used as a feature amount indicating the feature of the data 3.
[0264]
In step S103, the image generation unit 103 executes an image generation process, and the process ends. That is, the image generation unit 103 generates an image based on the real world estimation information, and outputs the generated image. Alternatively, the image generation unit 103 generates an image based on the data continuity information and the real world estimation information, and outputs the generated image.
[0265]
For example, in the process of step S103, the image generation unit 103 integrates the estimated real-world light in the spatial direction based on the real-world estimation information, thereby increasing the resolution in the spatial direction compared to the input image. The image is generated and the generated image is output. For example, the image generation unit 103 integrates the estimated real-world light in the spatio-temporal direction based on the real-world estimation information, so that a higher-resolution image in the temporal direction and the spatial direction than the input image. And output the generated image. Details of the image generation processing in step S103 will be described later.
[0266]
As described above, the signal processing device 4 according to the present invention detects data continuity from the data 3 and estimates the real world 1 based on the detected data continuity. Then, the signal processing device 4 generates a signal that is more approximate to the real world 1 based on the estimated real world 1.
[0267]
As described above, when processing is performed by estimating a real-world signal, an accurate and highly accurate processing result can be obtained.
[0268]
In addition, the first signal, which is a real-world signal having the first dimension, is projected, and the second of the second dimension is smaller than the first dimension in which a part of the continuity of the real-world signal is missing. The first of the signals is detected by detecting the stationarity of the data corresponding to the stationarity of the missing real-world signal and estimating the stationarity of the missing real-world signal based on the detected stationarity of the data. In this case, it is possible to obtain a processing result that is more accurate and more accurate with respect to a real-world event.
[0269]
Next, details of the configuration of the data continuity detecting unit 101 will be described.
[0270]
FIG. 41 is a block diagram showing a configuration of the data continuity detecting unit 101. As shown in FIG.
[0271]
The data continuity detecting unit 101 having the configuration shown in FIG. 41 captures the continuity of the data included in the data 3 resulting from the continuity that the cross-sectional shape of the object is the same when the object that is a thin line is imaged. Is detected. That is, the data continuity detecting unit 101 having the configuration shown in FIG. 41 has an optical signal corresponding to a change in the position perpendicular to the length direction at an arbitrary position in the length direction of the real world 1 image that is a thin line. The continuity of the data included in the data 3 detected from the continuity that the level change is the same is detected.
[0272]
More specifically, the data continuity detecting unit 101 having the configuration shown in FIG. 41 is adjacent to the data 3 included in the data 3 obtained by capturing the thin line image with the sensor 2 having the spatial integration effect. A region where a plurality of arc shapes (kamaboko shapes) having a predetermined length are arranged is detected.
[0273]
The data continuity detecting unit 101 is a portion of image data (hereinafter referred to as a stationary component) other than a portion of image data (hereinafter also referred to as a stationary component) in which an image of a thin line having data continuity is projected from the input image that is data 3. A non-stationary component) is extracted, a pixel on which the real-world 1 thin line image is projected is detected from the extracted non-stationary component and the input image, and the real-world 1 thin-line image in the input image is detected. An area composed of projected pixels is detected.
[0274]
The unsteady component extraction unit 201 extracts the unsteady component from the input image, and supplies the unsteady component information indicating the extracted unsteady component together with the input image to the vertex detection unit 202 and the monotonous increase / decrease detection unit 203.
[0275]
For example, as shown in FIG. 42, when an image of the real world 1 with a thin line in front of a background with a substantially constant light level is projected onto the data 3, unsteady component extraction is performed as shown in FIG. The unit 201 extracts the unsteady component as the background by approximating the background in the input image as the data 3 with a plane. In FIG. 43, the solid line indicates the pixel value of the data 3, and the dotted line indicates the approximate value indicated by the plane that approximates the background. In FIG. 43, A indicates a pixel value of a pixel onto which a thin line image is projected, and PL indicates a plane approximating the background.
[0276]
In this manner, the pixel values of the plurality of pixels in the image data portion having data continuity are discontinuous with respect to the unsteady component.
[0277]
The unsteady component extraction unit 201 projects the image that is the optical signal of the real world 1 and the pixel values of the plurality of pixels of the image data that is the data 3 in which a part of the continuity of the real world 1 image is missing. Detect discontinuities.
[0278]
Details of the unsteady component extraction process in the unsteady component extraction unit 201 will be described later.
[0279]
The vertex detection unit 202 and the monotone increase / decrease detection unit 203 remove the unsteady component from the input image based on the unsteady component information supplied from the unsteady component extraction unit 201. For example, the vertex detection unit 202 and the monotonic increase / decrease detection unit 203 remove non-stationary components from the input image by setting the pixel value of each pixel of the input image to which only the background image is projected. To do. For example, the vertex detection unit 202 and the monotonic increase / decrease detection unit 203 remove the unsteady component from the input image by subtracting a value approximated by the plane PL from the pixel value of each pixel of the input image.
[0280]
Since the background can be removed from the input image, the vertex detection unit 202 through the continuity detection unit 204 can process only the portion of the image data onto which the thin line is projected, and the vertex detection unit 202 through the continuous detection unit. The processing in the sex detection unit 204 becomes easier.
[0281]
Note that the unsteady component extraction unit 201 may supply image data obtained by removing unsteady components from the input image to the vertex detection unit 202 and the monotonous increase / decrease detection unit 203.
[0282]
In the example of processing described below, image data from which an unsteady component is removed from an input image, that is, image data including only pixels including the steady component is targeted.
[0283]
Here, image data on which a thin line image is projected, which is to be detected by the vertex detection unit 202 to the continuity detection unit 204, will be described.
[0284]
The cross-sectional shape in the spatial direction Y of the image data onto which the image of the thin line shown in FIG. 42 is projected (the change in the pixel value with respect to the change in the position in the spatial direction) is the image sensor that is the sensor 2 when there is no optical LPF. From the spatial integration effect, it can be considered to be a trapezoid shown in FIG. 44 or a triangle shown in FIG. However, a normal image sensor includes an optical LPF, and the image sensor acquires an image that has passed through the optical LPF, and projects the acquired image onto the data 3. Therefore, in reality, the spatial direction Y of the thin line image data The cross-sectional shape is similar to a Gaussian distribution as shown in FIG.
[0285]
The vertex detection unit 202 to the continuity detection unit 204 are pixels on which an image of a thin line is projected, and the same cross-sectional shape (a change in pixel value with respect to a change in position in the spatial direction) has a constant interval in the vertical direction of the screen. By detecting the region consisting of the lined objects and further detecting the connection of the regions corresponding to the length direction of the thin line in the real world 1, the image of the thin line, which is the region having the continuity of the data, is projected. An area composed of the detected pixels is detected. That is, the vertex detection unit 202 to the continuity detection unit 204 detect an area in which an arc shape (kamaboko shape) is formed on pixels in one column in the input image, and the detected area is in the horizontal direction. It is determined whether or not they are arranged adjacent to each other, and a connection between regions where arc shapes are formed corresponding to the length direction of the thin line image that is the signal of the real world 1 is detected.
[0286]
Further, the vertex detection unit 202 to the continuity detection unit 204 detect a region in which pixels with thin line images are projected, and the same cross-sectional shape is arranged in the horizontal direction of the screen at a constant interval. By detecting the connection of the detected areas corresponding to the length direction of the thin line in the real world 1, the area having the data continuity, which is an area composed of pixels onto which the thin line image is projected, is detected. . That is, the vertex detection unit 202 to the continuity detection unit 204 detect an area in which an arc shape is formed on a horizontal line of pixels in the input image, and the detected areas are adjacent in the vertical direction. It is determined whether or not they are lined up, and a connection of regions where arc shapes are formed corresponding to the length direction of the thin line image that is the signal of the real world 1 is detected.
[0287]
First, a description will be given of a process for detecting a region that is a pixel onto which a thin line image is projected and is formed by arranging the same circular arc shape at regular intervals in the vertical direction of the screen.
[0288]
The vertex detection unit 202 detects a pixel having a larger pixel value than that of surrounding pixels, that is, a vertex, and supplies vertex information indicating the position of the vertex to the monotonous increase / decrease detection unit 203. When targeting pixels arranged in a line in the vertical direction of the screen, the vertex detection unit 202 compares the pixel value of the pixel located on the upper side of the screen and the pixel value of the pixel located on the lower side of the screen, A pixel having a larger pixel value is detected as a vertex. The vertex detection unit 202 detects one or a plurality of vertices from one image, for example, one frame image.
[0289]
One screen includes a frame or a field. The same applies to the following description.
[0290]
For example, the vertex detection unit 202 selects a target pixel from pixels that have not yet been selected as a target pixel from one frame image, and compares the pixel value of the target pixel with the pixel value of the pixel above the target pixel. The pixel value of the target pixel is compared with the pixel value of the lower pixel of the target pixel, the pixel value is larger than the pixel value of the upper pixel, and the pixel value is larger than the pixel value of the lower pixel. The target pixel is detected, and the detected target pixel is set as a vertex. The vertex detection unit 202 supplies vertex information indicating the detected vertex to the monotonous increase / decrease detection unit 203.
[0291]
The vertex detection unit 202 may not detect a vertex. For example, when the pixel values of the pixels of one image are all the same value, or when the pixel value is decreasing in the direction of 1 or 2, no vertex is detected. In this case, the thin line image is not projected onto the image data.
[0292]
The monotonic increase / decrease detection unit 203 is a pixel arranged in a line in the vertical direction with respect to the vertices detected by the vertex detection unit 202 based on the vertex information indicating the position of the vertex supplied from the vertex detection unit 202. A candidate for a region composed of pixels onto which the image of the thin line is projected is detected, and region information indicating the detected region is supplied to the continuity detecting unit 204 together with the vertex information.
[0293]
More specifically, the monotonic increase / decrease detection unit 203 uses a pixel value having a monotonously decreasing pixel value as a reference based on the pixel value of the vertex as a candidate region composed of pixels on which a thin line image is projected. To detect. Monotonic decrease means that the pixel value of a pixel having a longer distance from the vertex is smaller than the pixel value of a pixel having a short distance from the vertex.
[0294]
Further, the monotonous increase / decrease detection unit 203 detects an area composed of pixels having a monotonically increasing pixel value with reference to the pixel value of the vertex as a candidate area composed of pixels onto which a thin line image is projected. Monotonic increase means that the pixel value of a pixel having a longer distance from the vertex is larger than the pixel value of a pixel having a short distance from the vertex.
[0295]
In the following, the processing for a region composed of pixels having a monotonically increasing pixel value is the same as the processing for a region composed of pixels having a monotonically decreasing pixel value, and the description thereof will be omitted. A region composed of pixels having a monotonically increasing pixel value in a process for detecting a region in which a thin line image is projected and the region is formed by arranging the same arc shape in the horizontal direction of the screen at regular intervals. This process is also the same as the process for the area having pixels having a monotonously decreasing pixel value, and the description thereof will be omitted.
[0296]
For example, the monotonous increase / decrease detection unit 203 has, for each pixel vertically in the column, the difference between the pixel value of each pixel and the pixel value of the upper pixel, and the difference between the pixel value of the lower pixel. Ask for. Then, the monotonous increase / decrease detection unit 203 detects a region where the pixel value is monotonously decreasing by detecting a pixel whose difference sign changes.
[0297]
Further, the monotonous increase / decrease detection unit 203 determines, from the region where the pixel value monotonously decreases, the region composed of pixels having the same pixel value as the vertex pixel value, with reference to the vertex pixel value code. It is detected as a candidate for a region composed of pixels onto which a thin line image is projected.
[0298]
For example, the monotonic increase / decrease detection unit 203 compares the sign of the pixel value of each pixel with the sign of the pixel value of the upper pixel and the sign of the pixel value of the lower pixel, and determines the pixel whose sign of the pixel value changes. By detecting, the area | region which consists of a pixel which has the pixel value of the same code | symbol as a vertex is detected from the area | region where the pixel value is decreasing monotonously.
[0299]
As described above, the monotonous increase / decrease detection unit 203 detects an area that is arranged in the vertical direction, the pixel value monotonously decreases with respect to the apex, and includes pixels having the same pixel value as the apex.
[0300]
FIG. 47 is a diagram for explaining processing for detecting a vertex and detecting a monotonous increase / decrease area, in which a pixel area onto which a thin line image is projected is detected based on a pixel value with respect to a position in the spatial direction Y.
[0301]
47 to 49, P represents a vertex. In the description of the data continuity detecting unit 101 whose configuration is shown in FIG. 41, P indicates a vertex.
[0302]
The vertex detection unit 202 compares a pixel value of each pixel with a pixel value of a pixel adjacent in the spatial direction Y, and has a pixel value larger than the pixel value of two pixels adjacent in the spatial direction Y By detecting, vertex P is detected.
[0303]
A region composed of the vertex P and the pixels on both sides of the vertex P in the spatial direction Y is a monotonously decreasing region in which the pixel values of the pixels on both sides in the spatial direction Y monotonously decrease with respect to the pixel value of the vertex P. In FIG. 47, an arrow indicated by A and an arrow indicated by B indicate monotonously decreasing regions existing on both sides of the vertex P.
[0304]
The monotonic increase / decrease detection unit 203 obtains a difference between the pixel value of each pixel and the pixel value of a pixel adjacent to that pixel in the spatial direction Y, and detects a pixel whose sign of the difference changes. The monotonous increase / decrease detection unit 203 defines a boundary between the detected pixel whose difference sign is changed and a pixel on the near side (vertex P side) as a boundary of a thin line region including pixels on which a thin line image is projected. To do.
[0305]
In FIG. 47, the boundary of the thin line region, which is the boundary between the pixel whose difference sign changes and the pixel on the near side (vertex P side), is indicated by C.
[0306]
Further, the monotonous increase / decrease detection unit 203 compares the sign of the pixel value of each pixel with the sign of the pixel value of the pixel adjacent to the pixel in the spatial direction Y in the monotonous decrease region, and the sign of the pixel value changes. Detect a pixel. The monotonous increase / decrease detection unit 203 sets the boundary between the detected pixel whose difference sign changes and the pixel on the near side (vertex P side) as the boundary of the thin line region.
[0307]
In FIG. 47, the boundary of the thin line region, which is the boundary between the pixel whose difference sign changes and the pixel on the near side (vertex P side), is indicated by D.
[0308]
As shown in FIG. 47, a fine line region F made up of pixels onto which a fine line image is projected is a region sandwiched between a fine line region boundary C and a fine line region boundary D.
[0309]
The monotonous increase / decrease detection unit 203 obtains a fine line region F longer than a predetermined threshold, that is, a fine line region F including a larger number of pixels than the threshold, from the thin line regions F composed of such monotonous increase / decrease regions. For example, when the threshold value is 3, the monotonous increase / decrease detection unit 203 detects a thin line region F including four or more pixels.
[0310]
Furthermore, the monotonic increase / decrease detection unit 203 out of the thin line region F detected in this way calculates the pixel value of the vertex P, the pixel value of the pixel on the right side of the vertex P, and the pixel value of the pixel on the left side of the vertex P. Compared with the threshold value, the pixel value of the vertex P exceeds the threshold value, the pixel value of the pixel on the right side of the vertex P is less than the threshold value, and the vertex P whose pixel value of the pixel on the left side of the vertex P is less than the threshold value belongs The fine line area F is detected, and the detected thin line area F is set as a candidate area composed of pixels including the components of the fine line image.
[0311]
In other words, the thin line region to which the pixel value of the vertex P is equal to or smaller than the threshold value, the pixel value of the pixel on the right side of the vertex P exceeds the threshold value, or the pixel value of the pixel on the left side of the vertex P exceeds the threshold value belongs F is determined not to include a thin line image component, and is removed from a region candidate composed of pixels including a thin line image component.
[0312]
That is, as shown in FIG. 48, the monotonic increase / decrease detection unit 203 compares the pixel value of the vertex P with the threshold value, and is adjacent to the vertex P in the spatial direction X (direction indicated by the dotted line AA ′). Are compared with a threshold value, and a thin line region F to which the vertex P belongs, in which the pixel value of the vertex P exceeds the threshold value and the pixel value of the pixel adjacent in the spatial direction X is equal to or smaller than the threshold value, is detected.
[0313]
FIG. 49 is a diagram illustrating pixel values of pixels arranged in the spatial direction X indicated by the dotted line AA ′ in FIG. Pixel value of vertex P is threshold Th_SAnd the pixel value of the pixel adjacent to the vertex P in the spatial direction X is equal to the threshold Th_SThe fine line region F to which the vertex P belongs below includes a fine line component.
[0314]
Note that the monotonic increase / decrease detection unit 203 compares the difference between the pixel value of the vertex P and the background pixel value with a threshold value using the background pixel value as a reference, and the pixel adjacent to the vertex P in the spatial direction X. The difference between the pixel value of the pixel and the background pixel value is compared with a threshold, the difference between the pixel value of the vertex P and the background pixel value exceeds the threshold, and the pixel value of the pixel adjacent to the spatial direction X and the background pixel You may make it detect the thin wire | line area | region F to which the vertex P to which the difference with a value is below a threshold value belongs.
[0315]
The monotonic increase / decrease detection unit 203 is an area composed of pixels whose pixel value monotonously decreases with the vertex P as a reference, and the sign of the pixel value is the same as that of the vertex P. Monotonous increase / decrease area information indicating that the pixel value of the right pixel is equal to or smaller than the threshold value and the pixel value of the left pixel of the vertex P is equal to or smaller than the threshold value is supplied to the continuity detection unit 204.
[0316]
In the case of detecting an area consisting of pixels arranged in a line in the vertical direction of the screen and projected with a thin line image, the pixels belonging to the area indicated by the monotonous increase / decrease area information are aligned in the vertical direction. This image includes the projected pixels. That is, the area indicated by the monotonous increase / decrease area information includes pixels that are arranged in a line in the vertical direction of the screen and are formed by projecting a thin line image.
[0317]
As described above, the vertex detection unit 202 and the monotonic increase / decrease detection unit 203 use the property that the change in the pixel value in the spatial direction Y is similar to the Gaussian distribution in the pixel on which the image of the thin line is projected. A stationary region composed of pixels on which an image is projected is detected.
[0318]
The continuity detection unit 204 is a region including pixels adjacent in the horizontal direction among the regions composed of pixels arranged in the vertical direction indicated by the monotonous increase / decrease region information supplied from the monotone increase / decrease detection unit 203, that is, the similarity. A region having a change in pixel value and overlapping in the vertical direction is detected as a continuous region, and vertex information and data continuity information indicating the detected continuous region are output. The data continuity information includes monotonous increase / decrease area information, information indicating connection of areas, and the like.
[0319]
In the pixels on which the thin lines are projected, the arcs are arranged at regular intervals so as to be adjacent to each other, so that the detected continuous region includes the pixels on which the thin lines are projected.
[0320]
Since the detected continuous area includes pixels that are projected at a thin line and arranged in a certain interval so that the circular arc shape is adjacent, the detected continuous area is set as a steady area, and a continuity detection unit 204 outputs data continuity information indicating the detected continuous regions.
[0321]
In other words, the continuity detecting unit 204 is arranged so that the arc shapes in the data 3 obtained by imaging the thin line are adjacent to each other, resulting from the continuity of the image of the thin line in the real world 1 that is continuous in the length direction. The candidates for the areas detected by the vertex detection unit 202 and the monotonic increase / decrease detection unit 203 are further narrowed down by using the continuity arranged at regular intervals.
[0322]
FIG. 50 is a diagram illustrating processing for detecting the continuity of a monotonous increase / decrease region.
[0323]
As shown in FIG. 50, when the continuity detecting unit 204 includes pixels adjacent in the horizontal direction with respect to the fine line region F composed of pixels arranged in a line in the vertical direction of the screen, the continuity detecting unit 204 is arranged between two monotonous increase / decrease regions. , And when there is no pixel adjacent in the horizontal direction, it is assumed that there is no continuity between the two thin line regions F. For example, a fine line area F consisting of pixels arranged in a line in the vertical direction of the screen_-1Is a fine line area F consisting of pixels arranged in a line in the vertical direction of the screen.₀When the pixel adjacent to the pixel in the horizontal direction is included, the fine line area F₀It is said that it is continuous. Thin line area F consisting of pixels lined up in the vertical direction of the screen₀Is a fine line area F consisting of pixels arranged in a line in the vertical direction of the screen.₁When the pixel adjacent to the pixel in the horizontal direction is included, the fine line area F₁It is said that it is continuous.
[0324]
In this manner, the vertex detection unit 202 to the continuity detection unit 204 detect pixels that are arranged in a line in the vertical direction of the screen and are formed by projecting a thin line image.
[0325]
As described above, the vertex detection unit 202 to the continuity detection unit 204 detect pixels that are arranged in a line in the vertical direction of the screen and are formed by projecting a thin line image. An area consisting of pixels that are arranged in a line in the left-right direction and on which a thin line image is projected is detected.
[0326]
Note that the order of processing does not limit the present invention, and it is natural that the processing order may be executed in parallel.
[0327]
That is, for the pixels arranged in a line in the left-right direction of the screen, the vertex detection unit 202 compares the pixel value of the pixel located on the left side of the screen and the pixel value of the pixel located on the right side of the screen. A pixel having a large pixel value is detected as a vertex, and vertex information indicating the position of the detected vertex is supplied to the monotonous increase / decrease detection unit 203. The vertex detection unit 202 detects one or a plurality of vertices from one image, for example, one frame image.
[0328]
For example, the vertex detection unit 202 selects a target pixel from pixels that have not yet been set as the target pixel from one frame image, and compares the pixel value of the target pixel with the pixel value of the pixel on the left side of the target pixel. The pixel value of the pixel of interest is compared with the pixel value of the pixel on the right side of the pixel of interest, the pixel value is larger than the pixel value of the left pixel, and the pixel value is larger than the pixel value of the right pixel. A pixel is detected, and the detected pixel of interest is used as a vertex. The vertex detection unit 202 supplies vertex information indicating the detected vertex to the monotonous increase / decrease detection unit 203.
[0329]
The vertex detection unit 202 may not detect a vertex.
[0330]
The monotonic increase / decrease detection unit 203 detects and detects a candidate for a region that is a pixel arranged in a line in the left-right direction with respect to the vertex detected by the vertex detection unit 202, and is composed of pixels on which a thin line image is projected. Together with the information, monotonous increase / decrease area information indicating the detected area is supplied to the continuity detection unit 204.
[0331]
More specifically, the monotonic increase / decrease detection unit 203 uses a pixel value having a monotonously decreasing pixel value as a reference based on the pixel value of the vertex as a candidate region composed of pixels on which a thin line image is projected. To detect.
[0332]
For example, the monotonous increase / decrease detection unit 203 calculates the difference between the pixel value of each pixel and the pixel value of the left pixel and the pixel value of the right pixel for each pixel in a row lateral to the vertex. Ask. Then, the monotonous increase / decrease detection unit 203 detects a region where the pixel value is monotonously decreasing by detecting a pixel whose difference sign changes.
[0333]
Further, the monotonous increase / decrease detection unit 203 determines, from the region where the pixel value monotonously decreases, the region composed of pixels having the same pixel value as the vertex pixel value, with reference to the vertex pixel value code. It is detected as a candidate for a region composed of pixels onto which a thin line image is projected.
[0334]
For example, the monotonic increase / decrease detection unit 203 compares the sign of the pixel value of each pixel with the sign of the pixel value of the left pixel or the sign of the pixel value of the right pixel, and detects a pixel whose sign of the pixel value changes. By doing this, an area composed of pixels having the same pixel value as the vertex is detected from the area where the pixel value monotonously decreases.
[0335]
As described above, the monotonous increase / decrease detection unit 203 detects an area that is arranged in the left-right direction, the pixel value monotonously decreases with respect to the vertex, and includes a pixel having the same pixel value as the vertex.
[0336]
The monotonous increase / decrease detection unit 203 obtains a thin line region longer than a predetermined threshold, that is, a thin line region including a larger number of pixels than the threshold, from the thin line regions including such a monotonous increase / decrease region.
[0337]
Further, the monotonous increase / decrease detection unit 203 out of the thin line regions detected in this way sets the pixel value of the vertex, the pixel value of the pixel above the vertex, and the pixel value of the pixel below the vertex respectively as threshold values. The pixel value of the vertex exceeds the threshold, the pixel value of the pixel above the vertex is equal to or less than the threshold, and the thin line region to which the vertex whose pixel value of the pixel below the vertex is equal to or less than the threshold belongs, The detected thin line area is set as a candidate area composed of pixels including a thin line image component.
[0338]
In other words, a thin line region to which a vertex whose pixel value is lower than the threshold, whose pixel value above the vertex exceeds the threshold, or whose pixel value below the vertex exceeds the threshold is a thin line It is determined that it does not include the image component of the image, and is removed from the region candidates composed of pixels including the component of the thin line image.
[0339]
The monotonic increase / decrease detection unit 203 compares the difference between the pixel value of the vertex and the background pixel value with a threshold value based on the background pixel value, and the pixel value of the pixel adjacent in the vertical direction with respect to the vertex. And the difference between the pixel value of the background and the pixel value of the background, the difference between the pixel value of the vertex and the pixel value of the background exceeds the threshold value, and the difference between the pixel value of the pixel adjacent in the vertical direction and the pixel value of the background is The detected thin line area that is equal to or smaller than the threshold value may be a candidate area composed of pixels including the components of the thin line image.
[0340]
The monotonic increase / decrease detection unit 203 is an area composed of pixels whose pixel values monotonously decrease with the vertex as a reference, the pixel value has the same sign as the vertex, the vertex exceeds a threshold, and the pixel on the right side of the vertex Monotonous increase / decrease area information indicating that the pixel value is equal to or smaller than the threshold value and the pixel value of the pixel on the left side of the vertex is equal to or smaller than the threshold value is supplied to the continuity detecting unit 204.
[0341]
When detecting pixels that are arranged in a line in the left-right direction of the screen and are formed by projecting a thin line image, pixels belonging to the area indicated by the monotonous increase / decrease area information are arranged in the left-right direction, This image includes the projected pixels. That is, the area indicated by the monotonous increase / decrease area information includes a line of pixels arranged in the horizontal direction of the screen, and includes an area formed by projecting a thin line image.
[0342]
The continuity detection unit 204 is a region including pixels adjacent in the vertical direction among the regions composed of pixels arranged in the left-right direction indicated by the monotonous increase / decrease region information supplied from the monotone increase / decrease detection unit 203, that is, a similarity. A region having the changed pixel value and overlapping in the horizontal direction is detected as a continuous region, and vertex information and data continuity information indicating the detected continuous region are output. The data continuity information includes information indicating connection of regions.
[0343]
In the pixels on which the thin lines are projected, the arcs are arranged at regular intervals so as to be adjacent to each other, so that the detected continuous region includes the pixels on which the thin lines are projected.
[0344]
Since the detected continuous area includes pixels that are projected at a thin line and arranged in a certain interval so that the circular arc shape is adjacent, the detected continuous area is set as a steady area, and a continuity detection unit 204 outputs data continuity information indicating the detected continuous regions.
[0345]
In other words, the continuity detecting unit 204 is arranged so that the arc shapes in the data 3 obtained by imaging the thin line are adjacent to each other, resulting from the continuity of the image of the thin line in the real world 1 that is continuous in the length direction. The candidates for the areas detected by the vertex detection unit 202 and the monotonic increase / decrease detection unit 203 are further narrowed down by using the continuity arranged at regular intervals.
[0346]
FIG. 51 is a diagram illustrating an example of an image in which a stationary component is extracted by approximation on a plane. FIG. 52 is a diagram illustrating a result of detecting a vertex from the image illustrated in FIG. 51 and detecting a monotonically decreasing region. In FIG. 52, the portion shown in white is the detected area.
[0347]
FIG. 53 is a diagram illustrating a region in which continuity is detected by detecting continuity of adjacent regions from the image illustrated in FIG. 52. In FIG. 53, the portion shown in white is a region where continuity is detected. It can be seen that the region is further specified by detecting the continuity.
[0348]
FIG. 54 is a diagram showing pixel values in the region shown in FIG. 53, that is, pixel values in a region where continuity is detected.
[0349]
Thus, the data continuity detecting unit 101 can detect the continuity included in the data 3 that is the input image. That is, the data continuity detecting unit 101 can detect the continuity of data included in the data 3 generated by projecting the image of the real world 1 that is a thin line onto the data 3. The data continuity detecting unit 101 detects from the data 3 an area composed of pixels on which an image of the real world 1 that is a thin line is projected.
[0350]
FIG. 55 is a diagram illustrating an example of another process of detecting a region having continuity in which the image of the thin line is projected in the continuity detecting unit 101.
[0351]
As shown in FIG. 55, the continuity detecting unit 101 calculates, for each pixel, an absolute value of a difference between pixel values from adjacent pixels. The absolute value of the calculated difference is arranged corresponding to the pixel. For example, as shown in FIG. 55, when pixels whose pixel values are P0, P1, and P2 are arranged, the continuity detecting unit 101 calculates the difference d0 = P0-P1 and the difference d1 = P1-P2. . Furthermore, the continuity detecting unit 101 calculates absolute values of the difference d0 and the difference d1.
[0352]
When the non-stationary components included in the pixel values P0, P1, and P2 are the same, only the values corresponding to the thin line components are set in the difference d0 and the difference d1.
[0353]
Therefore, when the adjacent difference values are the same among the absolute values of the differences arranged corresponding to the pixels, the continuity detecting unit 101 detects the pixels corresponding to the absolute values of the two differences (two It is determined that the thin line component is included in the pixel between the absolute values of the differences.
[0354]
The continuity detecting unit 101 can detect a thin line by such a simple method.
[0355]
FIG. 56 is a flowchart for explaining the continuity detection process.
[0356]
In step S201, the unsteady component extraction unit 201 extracts a non-stationary component that is a portion other than the portion onto which the thin line is projected from the input image. The unsteady component extraction unit 201 supplies unsteady component information indicating the extracted unsteady component together with the input image to the vertex detection unit 202 and the monotonous increase / decrease detection unit 203. Details of the unsteady component extraction process will be described later.
[0357]
In step S202, the vertex detection unit 202 removes the unsteady component from the input image based on the unsteady component information supplied from the unsteady component extraction unit 201, and leaves only the pixels including the steady component in the input image. Furthermore, in step S202, the vertex detection unit 202 detects a vertex.
[0358]
That is, when executing processing with the vertical direction of the screen as a reference, the vertex detection unit 202 compares the pixel value of each pixel with the pixel values of the upper and lower pixels for pixels including a stationary component. The vertex is detected by detecting a pixel having a pixel value larger than the pixel value of the upper pixel and the pixel value of the lower pixel. Further, in step S202, when the vertex detection unit 202 executes the process with reference to the horizontal direction of the screen, the pixel value of each pixel and the pixel values of the right side pixel and the left side pixel are obtained for the pixel including the stationary component. In comparison, a vertex is detected by detecting a pixel having a pixel value larger than the pixel value of the right pixel and the pixel value of the left pixel.
[0359]
The vertex detection unit 202 supplies vertex information indicating the detected vertex to the monotonous increase / decrease detection unit 203.
[0360]
In step S203, the monotonous increase / decrease detection unit 203 removes the non-stationary component from the input image based on the non-stationary component information supplied from the non-stationary component extraction unit 201, and leaves only pixels including the stationary component in the input image. . Further, in step S203, the monotonic increase / decrease detection unit 203 detects the monotonic increase / decrease with respect to the vertex based on the vertex information indicating the position of the vertex supplied from the vertex detection unit 202, thereby providing a pixel having data continuity. An area consisting of is detected.
[0361]
When the monotonous increase / decrease detection unit 203 executes processing with reference to the vertical direction of the screen, the monotonous increase / decrease detection unit 203 is arranged in a column vertically based on the pixel value of the vertex and the pixel value of the pixel arranged in a column vertically with respect to the vertex. By detecting a monotonous increase / decrease composed of pixels on which one thin line image is projected, an area composed of pixels having data continuity is detected. That is, in step S203, when the monotonous increase / decrease detection unit 203 executes processing based on the vertical direction of the screen, the pixel value of each pixel and the upper side of the pixels arranged in a line vertically with respect to the vertex and the vertex are displayed. Alternatively, a difference from the pixel value of the lower pixel is obtained, and a pixel whose sign of the difference changes is detected. Also, the monotonic increase / decrease detection unit 203 compares the pixel value code of each pixel with the pixel value code of the pixel above or below the pixel for pixels arranged in a line vertically with respect to the vertex. Then, a pixel whose sign of the pixel value changes is detected. Further, the monotonic increase / decrease detection unit 203 compares the pixel value of the vertex and the pixel values of the right and left pixels of the vertex with the threshold, the pixel value of the vertex exceeds the threshold, and the pixel values of the right and left pixels are A region composed of pixels that are equal to or less than the threshold is detected.
[0362]
The monotonous increase / decrease detection unit 203 supplies the continuity detection unit 204 with monotonous increase / decrease area information indicating the monotonous increase / decrease area, using the detected area as the monotone increase / decrease area.
[0363]
In addition, when the monotonous increase / decrease detection unit 203 executes processing based on the horizontal direction of the screen, the monotonous increase / decrease detection unit 203 arranges horizontally based on the pixel values of the vertices and the pixel values of pixels arranged in a row horizontally with respect to the vertices. By detecting a monotonous increase / decrease composed of pixels in one column of pixels on which an image of one thin line is projected, an area composed of pixels having data continuity is detected. That is, in step S203, when the monotonous increase / decrease detection unit 203 executes processing with the horizontal direction of the screen as a reference, the pixel value of each pixel and the left side of the pixel arranged in a line horizontally with respect to the vertex are displayed. Alternatively, a difference from the pixel value of the right pixel is obtained, and a pixel whose sign of the difference changes is detected. In addition, the monotonic increase / decrease detection unit 203 compares the pixel value sign of each pixel with the pixel value sign of the pixel on the left side or the right side of the pixel for pixels arranged in a line horizontally with respect to the vertex. A pixel whose sign of the pixel value changes is detected. Further, the monotonic increase / decrease detection unit 203 compares the pixel value of the vertex and the pixel values of the upper and lower pixels of the vertex with the threshold value, the pixel value of the vertex exceeds the threshold value, and the pixels of the upper and lower pixels A region composed of pixels having a value equal to or smaller than a threshold value is detected.
[0364]
The monotonous increase / decrease detection unit 203 supplies the continuity detection unit 204 with monotonous increase / decrease area information indicating the monotonous increase / decrease area, using the detected area as the monotone increase / decrease area.
[0365]
In step S204, the monotonous increase / decrease detection unit 203 determines whether or not the processing for all the pixels has been completed. For example, the unsteady component extraction unit 201 detects vertices for all the pixels of one screen (for example, a frame or a field) of the input image, and determines whether or not a monotonous increase / decrease area has been detected.
[0366]
If it is determined in step S204 that all the pixels have not been processed, that is, there are still pixels that are not targeted for vertex detection and monotonous increase / decrease area detection, the process returns to step S202, A pixel to be processed is selected from pixels that are not targeted for detection and detection of the monotonous increase / decrease area, and the vertex detection and monotonous increase / decrease area detection processes are repeated.
[0367]
If it is determined in step S204 that all pixels have been processed, that is, it is determined that vertices and monotonous increase / decrease areas have been detected for all pixels, the process proceeds to step S205, where the continuity detection unit 204 determines monotonous increase / decrease area information. Based on this, the continuity of the detected area is detected. For example, when the continuity detection unit 204 includes pixels adjacent in the horizontal direction for a monotonous increase / decrease area composed of pixels arranged in a line in the vertical direction of the screen indicated by the monotonous increase / decrease area information, Assume that there is continuity between regions, and that there is no continuity between two monotonous increase / decrease regions when pixels that do not include pixels adjacent in the horizontal direction are included. For example, when the continuity detecting unit 204 includes pixels adjacent in the vertical direction for a monotonous increase / decrease area composed of pixels arranged in a line in the horizontal direction of the screen indicated by the monotonous increase / decrease area information, It is assumed that there is continuity between regions, and there is no continuity between two monotonous increase / decrease regions when pixels that are not adjacent in the vertical direction are not included.
[0368]
The continuity detection unit 204 sets the detected continuous area as a stationary area having data continuity, and outputs data continuity information indicating the position of the vertex and the stationary area. The data continuity information includes information indicating connection of regions. The data continuity information output from the continuity detection unit 204 indicates a thin line region that is a steady region and includes pixels on which a thin line image of the real world 1 is projected.
[0369]
In step S206, the stationarity direction detection unit 205 determines whether or not the processing for all pixels has been completed. That is, the continuity direction detection unit 205 determines whether or not the continuity of the region has been detected for all pixels of a predetermined frame of the input image.
[0370]
If it is determined in step S206 that all the pixels have not been processed, that is, there are still pixels that are not targeted for the region continuity detection process, the process returns to step S205, and the region continuity is detected. A pixel to be processed is selected from pixels that are not targeted for detection processing, and the processing for detecting the continuity of the region is repeated.
[0371]
If it is determined in step S206 that the processing for all the pixels has been completed, that is, it has been determined that the continuity of the region has been detected for all the pixels, the processing ends.
[0372]
In this way, the continuity included in the data 3 that is the input image is detected. That is, the continuity of the data included in the data 3 generated by projecting the image of the real world 1 that is a thin line onto the data 3 is detected, and the image of the real world 1 that is a thin line is projected from the data 3. An area having data continuity, which is composed of pixels, is detected.
[0373]
Note that the data continuity detecting unit 101 whose configuration is shown in FIG. 41 can detect the continuity of data in the time direction based on an area having data continuity detected from the frame of data 3.
[0374]
For example, as shown in FIG. 57, the continuity detection unit 204 includes an area having continuity of detected data in frame #n, an area having continuity of detected data in frame # n-1, In frame # n + 1, the continuity of the data in the time direction is detected by connecting the end portions of the areas based on the areas having the continuity of the detected data.
[0375]
Frame # n-1 is a frame temporally preceding frame #n, and frame # n + 1 is a frame temporally subsequent to frame #n. That is, frame # n-1, frame #n, and frame # n + 1 are displayed in the order of frame # n-1, frame #n, and frame # n + 1.
[0376]
More specifically, in FIG. 57, G represents a region having the continuity of the detected data in frame #n, a region having the continuity of the detected data in frame # n-1, and frame #n. n + 1 represents a motion vector obtained by connecting one end of each of the regions having the continuity of the detected data, and G ′ represents the other of each of the regions having the continuity of the detected data. The motion vector obtained by connecting one end is shown. The motion vector G and the motion vector G ′ are an example of continuity of data in the time direction.
[0377]
Furthermore, the data continuity detecting unit 101 whose configuration is shown in FIG. 41 can output information indicating the length of a region having data continuity as data continuity information.
[0378]
FIG. 58 is a block diagram showing a configuration of the non-stationary component extracting unit 201 that extracts a non-stationary component by approximating a non-stationary component that is a portion of image data having no data continuity on a plane.
[0379]
The unsteady component extraction unit 201 having the configuration illustrated in FIG. 58 extracts a block including a predetermined number of pixels from the input image, and blocks the error between the block and the value indicated by the plane to be less than a predetermined threshold. Is approximated by a plane to extract unsteady components.
[0380]
The input image is supplied to the block extraction unit 221 and is output as it is.
[0381]
The block extraction unit 221 extracts a block composed of a predetermined number of pixels from the input image. For example, the block extraction unit 221 extracts a block composed of 7 × 7 pixels and supplies the block to the plane approximation unit 222. For example, the block extraction unit 221 moves the pixel that is the center of the extracted block in the raster scan order, and sequentially extracts the blocks from the input image.
[0382]
The plane approximation unit 222 approximates the pixel values of the pixels included in the block in a predetermined plane. For example, the plane approximation unit 222 approximates the pixel values of the pixels included in the block on the plane represented by Expression (24).
[0383]
z = ax + by + c (24)
[0384]
In Expression (24), x indicates the position of one direction (spatial direction X) of the pixel on the screen, and y indicates the position of the other direction (spatial direction Y) of the pixel on the screen. z represents an approximate value indicated by a plane. a indicates the inclination of the plane in the spatial direction X, and b indicates the inclination of the plane in the spatial direction Y. In Expression (24), c represents a plane offset (intercept).
[0385]
For example, the plane approximation unit 222 approximates the pixel values of the pixels included in the block on the plane represented by Expression (24) by obtaining the gradient a, the gradient b, and the offset c by regression processing. The plane approximating unit 222 approximates the pixel values of the pixels included in the block on the plane represented by Expression (24) by obtaining the gradient a, the gradient b, and the offset c by regression processing with rejection. .
[0386]
For example, the plane approximation unit 222 obtains a plane represented by Expression (24) that minimizes the error with respect to the pixel value of the pixel of the block by the method of least squares. Approximate pixel values.
[0387]
The plane approximation unit 222 has been described as approximating a block with the plane represented by the equation (24). However, the plane approximation unit 222 is not limited to the plane represented by the equation (24), but a function having a higher degree of freedom, for example, The block may be approximated by a surface represented by an nth-order polynomial.
[0388]
The iterative determination unit 223 calculates an error between the approximate value indicated by the plane approximating the pixel value of the block and the pixel value of the corresponding pixel of the block. Expression (25) is an expression that indicates an error ei that is a difference between an approximate value indicated by a plane that approximates a pixel value of a block and a pixel value zi of a corresponding pixel of the block.
[0389]
[Equation 19]

... (25)
[0390]
In equation (25), z-hat (a letter with z attached to ^ is described as z-hat. The same applies hereinafter) is an approximation represented by a plane approximating the pixel value of a block. A hat indicates the inclination in the spatial direction X of the plane approximating the pixel value of the block, and b hat indicates the inclination in the spatial direction Y of the plane approximating the pixel value of the block. In Expression (25), c hat represents a plane offset (intercept) approximating the pixel value of the block.
[0390]
The iterative determination unit 223 rejects a pixel having the largest error ei represented by Expression (25) between the approximate value and the pixel value of the corresponding pixel of the block. By doing in this way, the pixel by which the thin line was projected, ie, the pixel which has continuity, is rejected. The repetition determination unit 223 supplies rejection information indicating the rejected pixels to the plane approximation unit 222.
[0392]
Further, the repeat determination unit 223 calculates a standard error, and repeats when the standard error is equal to or greater than a predetermined approximation end determination threshold and more than half of the pixels in the block are not rejected. The determination unit 223 causes the plane approximation unit 222 to repeat the approximation process using a plane for pixels excluding rejected pixels among the pixels included in the block.
[0393]
Since pixels having stationarity are rejected, the plane approximates an unsteady component by approximating the pixels excluding the rejected pixels with the plane.
[0394]
The iterative determination unit 223 ends the approximation by the plane when the standard error is less than the threshold value for determining the end of approximation or when more than half of the pixels in the block are rejected.
[0395]
Standard error e for a block of 5x5 pixels_sIs calculated by, for example, Expression (26).
[0396]
[Expression 20]

... (26)
Here, n is the number of pixels.
[0397]
Note that the iterative determination unit 223 may calculate the sum of squares of errors for all pixels included in the block, not limited to the standard error, and execute the following processing.
[0398]
Here, when a block shifted by one pixel in the raster scan direction is approximated by a plane, as shown in FIG. 59, pixels having continuity, that is, pixels including a thin line component, indicated by a black circle in the drawing are a plurality of times. It will be rejected.
[0399]
When the approximation by the plane is finished, the repetition determination unit 223 outputs information indicating the plane approximating the pixel value of the block (the inclination and intercept of the plane in Expression (24)) as non-stationary component information.
[0400]
The repeat determination unit 223 compares the number of times of rejection for each pixel with a predetermined threshold, and determines that a pixel whose number of times of rejection is equal to or greater than the threshold is a pixel including a stationary component. Information indicating a pixel may be output as stationary component information. In this case, the vertex detection unit 202 to the continuity direction detection unit 205 perform each process on the pixel including the steady component indicated by the steady component information.
[0401]
An example of the result of unsteady component extraction processing will be described with reference to FIGS.
[0402]
FIG. 60 is a diagram illustrating an example of an input image generated from an image including a thin line as an average value of pixel values of 2 × 2 pixels of the original image.
[0403]
FIG. 61 is a diagram showing an image in which the standard error obtained as a result of approximating the image shown in FIG. 60 on a plane without rejection is a pixel value. In the example shown in FIG. 61, a block of 5 × 5 pixels for one pixel of interest is approximated by a plane. In FIG. 61, white pixels are pixels having a larger pixel value, that is, a larger standard error, and black pixels are pixels having a smaller pixel value, that is, a smaller standard error.
[0404]
From FIG. 61, it can be confirmed that when a standard error obtained as a result of approximation in a plane without rejection is used as a pixel value, a large value is obtained widely around the unsteady portion.
[0405]
In the example shown in FIGS. 62 to 67, a block made up of 7 × 7 pixels for one pixel of interest is approximated by a plane. When a block of 7 × 7 pixels is approximated by a plane, one pixel is repeatedly included in the 49 blocks, so that the pixel including the stationary component is rejected at most 49 times. .
[0406]
FIG. 62 is an image in which the standard error obtained when the image shown in FIG. 60 is rejected and approximated by a plane is a pixel value.
[0407]
In FIG. 62, white pixels are pixels having a larger pixel value, that is, a larger standard error, and black pixels are pixels having a smaller pixel value, that is, a smaller standard error. It can be seen that, as a whole, the standard error becomes smaller when the rejection is made, compared with the case where the rejection is not performed.
[0408]
FIG. 63 is a diagram illustrating an image in which the number of rejections is a pixel value when the image illustrated in FIG. 60 is rejected and approximated by a plane. In FIG. 63, white pixels are pixels with a larger pixel value, that is, more rejected, and black pixels are smaller pixel values, that is, a pixel with less rejected times.
[0409]
From FIG. 63, it can be seen that more pixels on which the image of the thin line is projected are rejected. It is also possible to generate an image that masks the unsteady portion of the input image using an image with the number of rejects as the pixel value.
[0410]
FIG. 64 is a diagram showing an image in which the inclination in the spatial direction X of the plane approximating the pixel value of the block is the pixel value. FIG. 65 is a diagram showing an image in which the inclination in the spatial direction Y of the plane approximating the pixel value of the block is the pixel value.
[0411]
FIG. 66 is a diagram showing an image made up of approximate values indicated by a plane approximating the pixel values of a block. From the image shown in FIG. 66, it can be seen that the thin line disappears.
[0412]
FIG. 67 is an image formed by generating an average value of the 2 × 2 pixel block of the original image shown in FIG. 60 as the pixel value of the pixel, and an approximate value shown by the plane shown in FIG. It is a figure which shows the image which consists of a difference with. The pixel value of the image in FIG. 67 includes only a value obtained by projecting a thin line image since the unsteady component is removed. As can be seen from FIG. 67, it can be confirmed that the steady component of the original image is successfully extracted in the image composed of the difference between the original pixel value and the approximate value indicated by the approximate plane.
[0413]
The number of rejects, the inclination in the spatial direction X of the plane approximating the pixel value of the block pixel, the inclination of the spatial direction Y in the plane approximating the pixel value of the block pixel, and the plane approximating the pixel value of the block pixel The approximate value shown and the error ei can also be used as the feature amount of the input image.
[0414]
FIG. 68 is a flowchart for explaining unsteady component extraction processing by the unsteady component extraction unit 201 having the configuration shown in FIG. 58, corresponding to step S201.
[0415]
In step S 221, the block extraction unit 221 extracts a block composed of a predetermined number of pixels from the input pixels, and supplies the extracted block to the plane approximation unit 222. For example, the block extraction unit 221 selects one pixel from the input pixels that have not yet been selected, and extracts a block composed of 7 × 7 pixels centered on the selected pixel. For example, the block extraction unit 221 can select pixels in the raster scan order.
[0416]
In step S222, the plane approximation unit 222 approximates the extracted block with a plane. The plane approximation unit 222 approximates the pixel value of the pixel of the extracted block by a plane, for example, by regression processing. For example, the plane approximation unit 222 approximates the pixel values of the pixels of the extracted block excluding the rejected pixels by a regression process using a plane. In step S223, the repetition determination unit 223 executes repetition determination. For example, the standard error is calculated from the pixel value of the pixel of the block and the approximate value of the approximate plane, and the number of rejected pixels is counted, thereby repeatedly determining.
[0417]
In step S224, the iterative determination unit 223 determines whether or not the standard error is greater than or equal to a threshold. If it is determined that the standard error is greater than or equal to the threshold, the process proceeds to step S225.
[0418]
In step S224, the iterative determination unit 223 determines whether more than half of the pixels in the block have been rejected and whether the standard error is greater than or equal to a threshold, and among the pixels in the block, If more than half of the pixels are not rejected and it is determined that the standard error is greater than or equal to the threshold, the process may proceed to step S225.
[0419]
In step S225, the iterative determination unit 223 calculates an error between the pixel value of the pixel and the approximate plane value approximated for each pixel of the block, rejects the pixel having the largest error, and notifies the plane approximation unit 222 of the error. . The procedure returns to step S222, and the approximation processing by the plane and the repeated determination processing are repeated for the pixels of the block excluding the rejected pixels.
[0420]
In step S225, when a block shifted by one pixel in the raster scan direction is extracted in the process of step S221, as shown in FIG. 59, a pixel including a thin line component (indicated by a black circle in the figure) is It will be rejected.
[0421]
If it is determined in step S224 that the standard error is not greater than or equal to the threshold, the block is approximated by a plane, and the process proceeds to step S226.
[0422]
In step S224, the iterative determination unit 223 determines whether more than half of the pixels in the block have been rejected and whether the standard error is greater than or equal to a threshold, and among the pixels in the block, If it is determined that more than half of the pixels have been rejected or the standard error is not greater than or equal to the threshold value, the process may proceed to step S225.
[0423]
In step S226, the iterative determination unit 223 outputs the slope and intercept of the plane that approximates the pixel value of the pixel of the block as unsteady component information.
[0424]
In step S227, the block extraction unit 221 determines whether or not the processing has been completed for all the pixels of one screen of the input image, and when it is determined that there are pixels that are not yet targets for processing, Returning to FIG. 5, the block is extracted from the pixels not yet processed, and the above-described processing is repeated.
[0425]
If it is determined in step S227 that the process has been completed for all pixels of one screen of the input image, the process ends.
[0426]
As described above, the unsteady component extraction unit 201 having the configuration shown in FIG. 58 can extract the unsteady component from the input image. Since the unsteady component extraction unit 201 extracts the unsteady component of the input image, the vertex detection unit 202 and the monotonic increase / decrease detection unit 203 differ between the input image and the unsteady component extracted by the unsteady component extraction unit 201. By obtaining the above, it is possible to execute processing for a difference including a steady component.
[0427]
Note that the standard error when rejected, the standard error when not rejected, the number of times the pixel was rejected, the inclination of the spatial direction X of the plane (a hat in Expression (24)) The inclination of the plane in the spatial direction Y (b hat in the equation (24)), the level when replaced with the plane (c hat in the equation (24)), and the difference between the pixel value of the input image and the approximate value shown on the plane Can be used as a feature value.
[0428]
FIG. 69 is a flowchart for explaining stationary component extraction processing by the unsteady component extraction unit 201 having the configuration shown in FIG. 58 instead of the unsteady component extraction processing corresponding to step S201. Since the process of step S241 thru | or step S245 is the same as the process of step S221 thru | or step S225, the description is abbreviate | omitted.
[0429]
In step S246, the iterative determination unit 223 outputs the difference between the approximate value indicated by the plane and the pixel value of the input image as a steady component of the input image. That is, the repetition determination unit 223 outputs the difference between the approximate value based on the plane and the true pixel value.
[0430]
The iterative determination unit 223 may output, as a steady component of the input image, a pixel value of a pixel whose difference between the approximate value indicated by the plane and the pixel value of the input image is equal to or greater than a predetermined threshold. .
[0431]
Since the process of step S247 is the same as the process of step S227, the description thereof is omitted.
[0432]
Since the plane approximates the unsteady component, the unsteady component extraction unit 201 subtracts the approximate value indicated by the plane that approximates the pixel value from the pixel value of each pixel of the input image, thereby obtaining the unsteady component from the input image. Unsteady components can be removed. In this case, the vertex detection unit 202 to the continuity detection unit 204 can process only the steady component of the input image, that is, the value obtained by projecting the thin line image, and the vertex detection unit 202 to the continuity detection unit. The processing at 204 becomes easier.
[0433]
FIG. 70 is a flowchart for explaining another process of extracting the steady component by the unsteady component extraction unit 201 having the configuration shown in FIG. 58, instead of the process of extracting the unsteady component corresponding to step S201. Since the process of step S261 thru | or step S265 is the same as the process of step S221 thru | or step S225, the description is abbreviate | omitted.
[0434]
In step S266, the repetition determination unit 223 stores the number of rejections for each pixel, returns to step S262, and repeats the process.
[0435]
If it is determined in step S264 that the standard error is not greater than or equal to the threshold value, the block is approximated by a plane, and thus the process proceeds to step S267, where the repetition determination unit 223 completes the process for all pixels of one screen of the input image If it is determined that there is a pixel that has not yet been processed, the process returns to step S261, where a block is extracted for the pixel that has not yet been processed, and the above-described processing is repeated. .
[0436]
In step S267, when it is determined that the processing has been completed for all pixels of one screen of the input image, the process proceeds to step S268, and the repetition determination unit 223 selects one pixel from pixels that have not been selected, For the selected pixel, it is determined whether the number of rejections is equal to or greater than a threshold value. For example, the repeat determination unit 223 determines whether or not the number of rejections is greater than or equal to a threshold value stored in advance for the selected pixel in step S268.
[0437]
If it is determined in step S268 that the number of rejections is greater than or equal to the threshold for the selected pixel, the selected pixel includes a steady component, and thus the process proceeds to step S269, where the repetition determining unit 223 selects the selected pixel. The pixel value of the pixel (pixel value in the input image) is output as a steady component of the input image, and the process proceeds to step S270.
[0438]
If it is determined in step S268 that the number of rejections is not greater than or equal to the threshold for the selected pixel, the selected pixel does not contain a steady component, so the process of step S269 is skipped, and the procedure proceeds to step S270. Proceed to That is, a pixel value is not output for a pixel for which the number of rejections is determined not to be greater than or equal to the threshold value.
[0439]
Note that the repetition determination unit 223 may output a pixel value set to 0 for pixels for which the number of rejections is determined not to be greater than or equal to the threshold value.
[0440]
In step S270, the iterative determination unit 223 determines whether or not the process of determining whether or not the number of rejections is equal to or greater than a threshold value for all pixels on one screen of the input image, and processes all pixels. If it is determined that the process is not completed, there is a pixel that is not yet the object of processing, so the process returns to step S268 to select one pixel from the pixels that are not yet the object of processing, and the process described above repeat.
[0441]
If it is determined in step S270 that the process has been completed for all pixels of one screen of the input image, the process ends.
[0442]
As described above, the unsteady component extraction unit 201 can output the pixel value of the pixel including the steady component among the pixels of the input image as the steady component information. That is, the unsteady component extraction unit 201 can output the pixel value of a pixel including a thin line image component among the pixels of the input image.
[0443]
FIG. 71 is a flowchart for explaining still another process of extracting a steady component by the unsteady component extracting unit 201 having the configuration shown in FIG. 58, instead of the process of extracting the unsteady component corresponding to step S201. Since the process of step S281 thru | or step S288 is the same as the process of step S261 thru | or step S268, the description is abbreviate | omitted.
[0444]
In step S289, the repetition determination unit 223 outputs the difference between the approximate value indicated by the plane and the pixel value of the selected pixel as a steady component of the input image. That is, the repetition determination unit 223 outputs an image obtained by removing unsteady components from the input image as continuity information.
[0445]
Since the process of step S290 is the same as the process of step S270, the description thereof is omitted.
[0446]
Thus, the unsteady component extraction unit 201 can output an image obtained by removing the unsteady component from the input image as continuity information.
[0447]
As described above, a discontinuous portion of the pixel values of the plurality of pixels of the first image data in which a real-world optical signal is projected and a part of the continuity of the real-world optical signal is lost is detected and detected. The continuity of data is detected from the detected discontinuity, and the optical signal is estimated by estimating the continuity of the optical signal in the real world based on the continuity of the detected data. When converted to the second image data, it is possible to obtain a more accurate and more accurate processing result with respect to a real-world event.
[0448]
FIG. 72 is a block diagram showing another configuration of the data continuity detecting unit 101.
[0449]
The data continuity detecting unit 101 having the configuration shown in FIG. 72 detects a change in the pixel value with respect to the spatial direction of the input image, that is, the activity in the spatial direction of the input image, for the target pixel that is the pixel of interest. In accordance with the activity performed, a plurality of pixel pairs each including a predetermined number of pixels in one column in the vertical direction or one column in the horizontal direction are extracted and extracted for each angle with respect to the target pixel and the reference axis. The correlation of the set of pixels is detected, and based on the correlation, the steadiness angle of the data with reference to the reference axis in the input image is detected.
[0450]
The data continuity angle refers to an angle formed by the reference axis and a predetermined dimension direction in which the data 3 has a certain feature repeatedly. A certain feature repeatedly appears, for example, when a value changes with respect to a change in position in data 3, that is, when the cross-sectional shape is the same.
[0451]
The reference axis can be, for example, an axis indicating the spatial direction X (horizontal direction of the screen) or an axis indicating the spatial direction Y (vertical direction of the screen).
[0452]
The input image is supplied to the activity detection unit 401 and the data selection unit 402.
[0453]
The activity detection unit 401 detects a change in the pixel value with respect to the spatial direction of the input image, that is, an activity in the spatial direction, and supplies activity information indicating the detected result to the data selection unit 402 and the steady direction derivation unit 404.
[0454]
For example, the activity detection unit 401 detects a change in the pixel value with respect to the horizontal direction of the screen and a change in the pixel value with respect to the vertical direction of the screen, and the detected change in the pixel value with respect to the horizontal direction and the change in the pixel value with respect to the vertical direction. Therefore, the change in the pixel value in the horizontal direction is large compared to the change in the pixel value in the vertical direction, or the change in the pixel value in the vertical direction is compared with the change in the pixel value in the horizontal direction. Detect whether it is large.
[0455]
The activity detection unit 401 indicates that the change in the pixel value in the horizontal direction is larger than the change in the pixel value in the vertical direction, which is the detection result, or the change is compared with the change in the pixel value in the horizontal direction. The activity information indicating that the change in the pixel value with respect to the vertical direction is large is supplied to the data selection unit 402 and the steady direction derivation unit 404.
[0456]
When the change in the pixel value in the horizontal direction is larger than the change in the pixel value in the vertical direction, for example, as shown in FIG. 73, an arc shape (kamaboko shape) or a pawl shape is formed in one column of pixels in the vertical direction. The arc shape or the pawl shape is repeatedly formed in a direction closer to the vertical. That is, when the change in the pixel value in the horizontal direction is large compared to the change in the pixel value in the vertical direction, if the reference axis is the axis indicating the spatial direction X, the steady state of the data in the input image based on the reference axis The sex angle is any value between 45 degrees and 90 degrees.
[0457]
When the change in the pixel value in the vertical direction is larger than the change in the pixel value in the horizontal direction, for example, an arc shape or a pawl shape is formed in one column of pixels in the horizontal direction, and the arc shape or the pawl shape is in the horizontal direction. It is repeatedly formed in a direction closer to. That is, when the change in the pixel value in the vertical direction is large compared to the change in the pixel value in the horizontal direction, assuming that the reference axis is the axis indicating the spatial direction X, the steady state of data in the input image based on the reference axis The sex angle is any value from 0 degrees to 45 degrees.
[0458]
For example, the activity detection unit 401 extracts, from the input image, a block made up of 9 × 3 × 3 pixels centered on the pixel of interest shown in FIG. The activity detection unit 401 calculates the sum of pixel value differences for vertically adjacent pixels and the sum of pixel value differences for horizontally adjacent pixels. Sum of pixel value differences for horizontally adjacent pixels h_diffIs obtained by equation (27).
[0459]
h_diff= Σ (P_{i + 1, j}-P_{i, j}(27)
[0460]
Similarly, the sum of pixel value differences for vertically adjacent pixels v_diffIs obtained by equation (28).
[0461]
v_diff= Σ (P_{i, j + 1}-P_{i, j}(28)
[0462]
In Expression (27) and Expression (28), P represents a pixel value, i represents a horizontal position of the pixel, and j represents a vertical position of the pixel.
[0463]
The activity detection unit 401 calculates the sum h of pixel value differences between the calculated pixels adjacent to the side._diffAnd the sum of pixel value differences v and vertically adjacent pixels v_diffAnd the range of the continuity angle of the data with reference to the reference axis in the input image may be determined. That is, in this case, the activity detection unit 401 determines whether the shape indicated by the change in the pixel value with respect to the position in the spatial direction is repeatedly formed in the horizontal direction or repeatedly in the vertical direction.
[0464]
For example, the change in the pixel value in the horizontal direction for the arc formed on the pixel in the horizontal row is larger than the change in the pixel value in the vertical direction, and the arc formed on the pixel in the horizontal row. The change in the vertical pixel value is larger than the change in the horizontal pixel value, and the direction of the continuity of data, that is, a predetermined characteristic of the input image which is the data 3 has It can be said that the change in the direction of the dimension is small compared to the change in the direction orthogonal to the continuity of the data. In other words, the difference in the direction orthogonal to the direction of data continuity (hereinafter also referred to as an unsteady direction) is larger than the difference in the direction of data continuity.
[0465]
For example, as shown in FIG. 75, the activity detection unit 401 calculates the sum h of pixel value differences for the calculated pixels adjacent to the side._diffAnd the sum of pixel value differences v and vertically adjacent pixels v_diffAnd the sum of the pixel value differences h_diffIs large, it is determined that the continuity angle of the data with reference to the reference axis is any value between 45 degrees and 135 degrees, and the sum v of pixel value differences for vertically adjacent pixels v_diffIs large, it is determined that the continuity angle of the data with respect to the reference axis is any value from 0 degrees to 45 degrees, or any value from 135 degrees to 180 degrees.
[0466]
For example, the activity detection unit 401 supplies activity information indicating the determination result to the data selection unit 402 and the steady direction derivation unit 404.
[0467]
The activity detection unit 401 can detect an activity by extracting a block having an arbitrary size such as a block composed of 25 pixels of 5 × 5 or a block composed of 49 pixels of 7 × 7. .
[0468]
The data selection unit 402 sequentially selects a pixel of interest from the pixels of the input image, and based on the activity information supplied from the activity detection unit 401, one column in the vertical direction for each angle with respect to the pixel of interest and the reference axis. Alternatively, a plurality of pixel sets each including a predetermined number of pixels in one column in the horizontal direction are extracted.
[0469]
For example, when the activity information indicates that the change in the pixel value in the horizontal direction is larger than the change in the pixel value in the vertical direction, the data continuity angle is any of 45 degrees to 135 degrees. Since the value is a value, the data selection unit 402 sets a set of pixels including a predetermined number of pixels in one column in the vertical direction at predetermined angles in a range of 45 degrees to 135 degrees with reference to the target pixel and the reference axis. Extract multiple.
[0470]
When the activity information indicates that the change in the pixel value in the vertical direction is large compared to the change in the pixel value in the horizontal direction, the data continuity angle is 0 degree to 45 degrees or 135 degrees to 180 degrees. Therefore, the data selection unit 402 has a predetermined number of rows in the horizontal direction for each predetermined angle in the range of 0 to 45 degrees or 135 to 180 degrees with respect to the target pixel and the reference axis. A plurality of sets of pixels made up of a number of pixels are extracted.
[0471]
Further, for example, when the activity information indicates that the data continuity angle is any value between 45 degrees and 135 degrees, the data selection unit 402 is 45 based on the target pixel and the reference axis. A plurality of pixel sets each including a predetermined number of pixels in one column in the vertical direction are extracted at predetermined angles in the range of degrees to 135 degrees.
[0472]
When the activity information indicates that the continuity angle of the data is a value of 0 to 45 degrees or 135 to 180 degrees, the data selection unit 402 uses the target pixel and the reference axis as a reference. For each predetermined angle in the range of 0 ° to 45 ° or 135 ° to 180 °, a plurality of pixel sets each including a predetermined number of pixels in one column in the horizontal direction are extracted.
[0473]
The data selection unit 402 supplies a plurality of sets of extracted pixels to the error estimation unit 403.
[0474]
The error estimator 403 detects the correlation of the pixel group for each angle with respect to the plurality of groups of extracted pixels.
[0475]
For example, the error estimator 403 calculates the correlation between the pixel values of the pixels at the corresponding positions in the pixel set for a plurality of sets of pixels composed of a predetermined number of pixels in one column in the vertical direction corresponding to one angle. To detect. The error estimation unit 403 detects the correlation between the pixel values of the pixels at the corresponding positions in the set, for a plurality of sets of pixels made up of a predetermined number of pixels in one column in the horizontal direction corresponding to one angle.
[0476]
The error estimation unit 403 supplies correlation information indicating the detected correlation to the steady direction derivation unit 404. The error estimation unit 403 provides the absolute value of the difference between the pixel value of the pixel including the pixel of interest supplied from the data selection unit 402 and the pixel value of the pixel at the corresponding position in the other group as a value indicating the correlation. And the sum of the absolute values of the differences is supplied to the steady direction deriving unit 404 as correlation information.
[0477]
The stationary direction deriving unit 404 is based on the correlation information supplied from the error estimating unit 403, and the continuity of data with reference to the reference axis in the input image corresponding to the continuity of the missing optical signal of the real world 1 is used. Is detected, and data continuity information indicating the angle is output. For example, the stationary direction deriving unit 404 detects an angle with respect to a group of pixels having the strongest correlation as the angle of continuity of data based on the correlation information supplied from the error estimating unit 403, and detects the most correlated Data continuity information indicating the angle for a strong pixel set is output.
[0478]
In the following description, it is assumed that the steadiness angle of data in the range of 0 degrees to 90 degrees (so-called first quadrant) is detected as appropriate.
[0479]
FIG. 76 is a block diagram showing a more detailed configuration of data continuity detecting section 101 shown in FIG.
[0480]
The data selection unit 402 includes a pixel selection unit 411-1 to a pixel selection unit 411-L. The error estimation unit 403 includes an estimation error calculation unit 412-1 to an estimation error calculation unit 412-L. The steady direction deriving unit 404 includes a minimum error angle selecting unit 413.
[0481]
First, the processing of the pixel selection unit 411-1 to pixel selection unit 411-L when the data continuity angle indicated by the activity information is any value between 45 degrees and 135 degrees will be described.
[0482]
The pixel selectors 411-1 to 411-L set straight lines with different predetermined angles passing through the pixel of interest, with the axis indicating the spatial direction X as a reference axis. The pixel selection unit 411-1 to pixel selection unit 411-L are pixels belonging to one vertical column of pixels to which the pixel of interest belongs, and a predetermined number of pixels above the pixel of interest and below the pixel of interest. A predetermined number of pixels on the side and the target pixel are selected as a set of pixels.
[0483]
For example, as illustrated in FIG. 77, the pixel selection unit 411-1 to pixel selection unit 411-L includes nine pixels centered on the target pixel from pixels belonging to one vertical pixel column to which the target pixel belongs. Are selected as a set of pixels.
[0484]
In FIG. 77, one square (one square) having a square shape indicates one pixel. In FIG. 77, the circle shown at the center indicates the target pixel.
[0485]
The pixel selectors 411-1 to 411-L are pixels that belong to one vertical pixel column to which the target pixel belongs and belong to one vertical pixel column on the left side. Select the pixel closest to the straight line. In FIG. 77, the circle on the lower left side of the target pixel indicates an example of the selected pixel. The pixel selection unit 411-1 to pixel selection unit 411-L are pixels belonging to a column of one pixel in the vertical column to which the target pixel belongs, and belonging to a column of one pixel in the vertical column on the left side. A predetermined number of pixels above the selected pixel, a predetermined number of pixels below the selected pixel, and the selected pixel are selected as a set of pixels.
[0486]
For example, as illustrated in FIG. 77, the pixel selection unit 411-1 to pixel selection unit 411-L are arranged in a column of one pixel in the vertical column to which the target pixel belongs, and in a column of one pixel in the vertical column on the left side. From the pixels to which the pixel belongs, nine pixels are selected as a set of pixels centering on the pixel closest to the straight line.
[0487]
The pixel selectors 411-1 to 411-L are pixels belonging to one vertical column of pixels to which the pixel of interest belongs and the second vertical column of pixels to the left, respectively. The pixel closest to the straight line set to is selected. In FIG. 77, the leftmost circle indicates an example of the selected pixel. The pixel selectors 411-1 to 411-L are pixels belonging to the column of one pixel in the vertical column to which the target pixel belongs, and the second column of pixels in the vertical column on the left side. A predetermined number of pixels above the selected pixel, a predetermined number of pixels below the selected pixel, and the selected pixel are selected as a set of pixels.
[0488]
For example, as illustrated in FIG. 77, the pixel selection unit 411-1 to pixel selection unit 411-L includes the second vertical column of pixels on the left side of the vertical column of pixels to which the target pixel belongs. From the pixels belonging to the column, nine pixels are selected as a pixel set centering on the pixel closest to the straight line.
[0489]
The pixel selection unit 411-1 to pixel selection unit 411-L are pixels belonging to one vertical column of pixels to which the pixel of interest belongs and one vertical column of pixels to the right, and are respectively set. Select the pixel closest to the straight line. In FIG. 77, the circle on the upper right side of the target pixel indicates an example of the selected pixel. The pixel selectors 411-1 to 411-L are pixels that belong to a column of one pixel in the vertical column to which the target pixel belongs and belong to a column of one pixel in the vertical column on the right. A predetermined number of pixels above the selected pixel, a predetermined number of pixels below the selected pixel, and the selected pixel are selected as a set of pixels.
[0490]
For example, as shown in FIG. 77, the pixel selection unit 411-1 to pixel selection unit 411-L are arranged in one vertical pixel column to which the pixel of interest belongs and one right vertical pixel column. From the pixels to which the pixel belongs, nine pixels are selected as a set of pixels centering on the pixel closest to the straight line.
[0491]
The pixel selectors 411-1 to 411-L are pixels belonging to one vertical column of pixels to which the pixel of interest belongs and the second vertical column of pixels to the right. The pixel closest to the straight line set to is selected. In FIG. 77, the rightmost circle shows an example of the pixel selected in this way. The pixel selectors 411-1 to 411-L are pixels belonging to the column of one column in the vertical direction to which the pixel of interest belongs, and the column of pixels in the second column on the right side. A predetermined number of pixels above the selected pixel, a predetermined number of pixels below the selected pixel, and the selected pixel are selected as a set of pixels.
[0492]
For example, as illustrated in FIG. 77, the pixel selection unit 411-1 to pixel selection unit 411-L includes the second vertical column of pixels on the right side of the vertical column of pixels to which the target pixel belongs. From the pixels belonging to the column, nine pixels are selected as a pixel set centering on the pixel closest to the straight line.
[0493]
In this way, the pixel selectors 411-1 to 411-L each select five sets of pixels.
[0494]
The pixel selectors 411-1 to 411-L select pixel sets for different angles (straight lines set to each other). For example, the pixel selection unit 411-1 selects a pixel set for 45 degrees, the pixel selection unit 411-2 selects a pixel set for 47.5 degrees, and the pixel selection unit 411-3 Selects a set of pixels for 50 degrees. The pixel selectors 411-1 to 411-L select a set of pixels for each angle of 2.5 degrees from 52.5 degrees to 135 degrees.
[0495]
Note that the number of sets of pixels can be any number, such as three or seven, and does not limit the present invention. Further, the number of pixels selected as one set can be any number such as five or thirteen, and does not limit the present invention.
[0496]
Note that the pixel selectors 411-1 to 411-L can select a group of pixels from a predetermined range of pixels in the vertical direction. For example, the pixel selectors 411-1 to 411-L select a set of pixels from 121 pixels in the vertical direction (60 pixels in the upward direction and 60 pixels in the downward direction with respect to the target pixel). To do. In this case, the data continuity detecting unit 101 can detect the data continuity angle up to 88.09 degrees with respect to the axis indicating the spatial direction X.
[0497]
The pixel selection unit 411-1 supplies the selected pixel set to the estimation error calculation unit 412-1, and the pixel selection unit 411-2 supplies the selected pixel set to the estimation error calculation unit 412-2. Similarly, each of the pixel selection unit 411-3 through the pixel selection unit 411-L supplies the selected set of pixels to each of the estimation error calculation unit 412-3 through the estimation error calculation unit 412-L.
[0498]
The estimation error calculation unit 412-1 to the estimation error calculation unit 412-L are supplied from any of the pixel selection unit 411-1 to the pixel selection unit 411-L, and the pixel values of the pixels at corresponding positions in the plurality of sets. To detect the correlation. For example, the estimation error calculation unit 412-1 to the estimation error calculation unit 412-L include the target pixel supplied from any of the pixel selection unit 411-1 to the pixel selection unit 411-L as a value indicating the correlation. The sum of the absolute values of the differences between the pixel values of the pixels of the set and the pixel values of the pixels at corresponding positions in the other set is calculated.
[0499]
More specifically, the estimation error calculation unit 412-1 to the estimation error calculation unit 412-L are a set of the set including the target pixel supplied from any of the pixel selection unit 411-1 to the pixel selection unit 411-L. Based on the pixel value of the pixel and the pixel value of a pair of pixels consisting of pixels belonging to one column of pixels on the left side of the target pixel, the difference between the pixel values of the uppermost pixel is calculated. The absolute value of the difference between the pixel values is calculated in order from the upper pixel so as to calculate the difference between the pixel values of the second pixel, and the sum of the absolute values of the calculated differences is further calculated. The estimation error calculation unit 412-1 to the estimation error calculation unit 412-L are supplied from any one of the pixel selection unit 411-1 to the pixel selection unit 411-L, and the pixel values of a set of pixels including the target pixel, Calculate the absolute value of the difference between the pixel values in order from the top pixel based on the pixel value of the set of pixels that belong to the second vertical column of pixels to the left of the pixel of interest. The sum of the absolute values of the calculated differences is calculated.
[0500]
Then, the estimation error calculation unit 412-1 to the estimation error calculation unit 412-L are supplied from any one of the pixel selection unit 411-1 to the pixel selection unit 411-L, and the pixel values of a set of pixels including the target pixel And the difference between the pixel values of the uppermost pixel on the basis of the pixel value of a set of pixels belonging to the column of one pixel vertically on the right side of the target pixel, and the second pixel from the top The absolute value of the difference between the pixel values is calculated in order from the upper pixel, and the sum of the absolute values of the calculated differences is calculated. The estimation error calculation unit 412-1 to the estimation error calculation unit 412-L are supplied from any one of the pixel selection unit 411-1 to the pixel selection unit 411-L, and the pixel values of a set of pixels including the target pixel, Calculate the absolute value of the difference between the pixel values in order from the top pixel based on the pixel value of the set of pixels that belong to the second vertical column of pixels to the right of the target pixel. The sum of the absolute values of the calculated differences is calculated.
[0501]
The estimation error calculation unit 412-1 through the estimation error calculation unit 412-L add all the sums of the absolute values of the pixel value differences calculated in this way, and calculate the sum of the absolute values of the pixel value differences. .
[0502]
The estimation error calculation unit 412-1 to the estimation error calculation unit 412-L supply information indicating the detected correlation to the minimum error angle selection unit 413. For example, the estimated error calculator 412-1 to the estimated error calculator 412-L supply the sum of absolute values of the calculated pixel value differences to the minimum error angle selector 413.
[0503]
Note that the estimation error calculation unit 412-1 to the estimation error calculation unit 412-L are not limited to the sum of absolute values of pixel value differences, but are sums of squares of pixel value differences or correlations based on pixel values. Another value such as a number can be calculated as the correlation value.
[0504]
The minimum error angle selection unit 413 is based on the correlation detected by the estimation error calculation unit 412-1 through the estimation error calculation unit 412-L with respect to mutually different angles. The continuity angle of the data with reference to the reference axis in the input image corresponding to the continuity is detected. That is, the minimum error angle selection unit 413 selects and selects the strongest correlation based on the correlation detected by the estimation error calculation unit 412-1 to the estimation error calculation unit 412-L for different angles. By using the angle at which the correlation is detected as the continuity angle of the data with reference to the reference axis, the continuity angle of the data with reference to the reference axis in the input image is detected.
[0505]
For example, the minimum error angle selection unit 413 selects the minimum sum among the sums of absolute values of pixel value differences supplied from the estimation error calculation units 412-1 to 412-L. The minimum error angle selection unit 413 is a pixel belonging to the second vertical column on the left side with respect to the target pixel in the pixel set for which the selected sum is calculated, Reference is made to the position of the pixel closest to the straight line, which is a pixel belonging to the column of the second vertical pixel on the right side with respect to the position of the pixel close to the target pixel.
[0506]
As shown in FIG. 77, the minimum error angle selection unit 413 obtains the vertical distance S of the position of the pixel to be referenced with respect to the position of the target pixel. As shown in FIG. 78, the minimum error angle selection unit 413 calculates the spatial direction that is a reference axis in the input image that is image data corresponding to the continuity of the optical signal of the real world 1 that is missing from the equation (29). The continuity angle θ of the data with reference to the axis indicating X is detected.
[0507]
θ = tan^-1(s / 2) (29)
[0508]
Next, the pixel selection unit 411-1 to pixel selection unit 411-L when the data continuity angle indicated by the activity information is one of values of 0 to 45 degrees and 135 to 180 degrees. Processing will be described.
[0509]
The pixel selectors 411-1 to 411-L set a straight line with a predetermined angle passing through the pixel of interest with the axis indicating the spatial direction X as a reference axis, and a row of pixels to which the pixel of interest belongs A predetermined number of pixels above the target pixel, a predetermined number of pixels below the target pixel, and the target pixel are selected as a set of pixels.
[0510]
The pixel selectors 411-1 to 411-L are pixels that belong to a column of one pixel in the horizontal direction to which the target pixel belongs and belong to a column of one pixel in the upper side, and are set for each. Select the pixel closest to the straight line. The pixel selection unit 411-1 to pixel selection unit 411-L are pixels belonging to one pixel column on the upper side and one pixel column on the upper side to which the target pixel belongs, and are selected. A predetermined number of pixels on the left side of the selected pixel, a predetermined number of pixels on the right side of the selected pixel, and the selected pixel are selected as a set of pixels.
[0511]
The pixel selectors 411-1 to 411-L are pixels that belong to a column of one pixel in the horizontal direction to which the target pixel belongs, and belong to a column of one pixel in the second horizontal direction to the upper side. The pixel closest to the straight line set to is selected. The pixel selection unit 411-1 to pixel selection unit 411-L are pixels belonging to the column of one pixel in the horizontal direction to which the pixel of interest belongs and the column of one pixel in the second horizontal direction to the upper side. A predetermined number of pixels on the left side of the selected pixel, a predetermined number of pixels on the right side of the selected pixel, and the selected pixel are selected as a set of pixels.
[0512]
The pixel selectors 411-1 to 411-L are pixels that belong to a column of one pixel in the horizontal direction to which the pixel of interest belongs and belong to a column of one pixel on the lower side, and are set to each of the pixels. The pixel closest to the straight line is selected. The pixel selectors 411-1 to 411-L are pixels that belong to a column of one pixel on the lower side and a column of one pixel on the lower side to which the target pixel belongs, and are selected. A predetermined number of pixels on the left side of the selected pixel, a predetermined number of pixels on the right side of the selected pixel, and the selected pixel are selected as a set of pixels.
[0513]
The pixel selection unit 411-1 to pixel selection unit 411-L are pixels belonging to a column of one pixel in the horizontal direction to which the pixel of interest belongs, and a column of one pixel in the second horizontal direction on the lower side. The pixel closest to the straight line set for each is selected. The pixel selection unit 411-1 to pixel selection unit 411-L are pixels that belong to the column of one pixel in the horizontal direction to which the target pixel belongs and belong to the column of one pixel in the second horizontal direction on the lower side. Then, a predetermined number of pixels on the left side of the selected pixel, a predetermined number of pixels on the right side of the selected pixel, and the selected pixel are selected as a set of pixels.
[0514]
In this way, the pixel selectors 411-1 to 411-L each select five sets of pixels.
[0515]
The pixel selection unit 411-1 to pixel selection unit 411-L select pixel sets for different angles. For example, the pixel selection unit 411-1 selects a pixel set for 0 degrees, the pixel selection unit 411-2 selects a pixel set for 2.5 degrees, and the pixel selection unit 411-3. Selects a set of pixels for 5 degrees. The pixel selectors 411-1 to 411-L select a set of pixels for every angle of 2.5 degrees from 7.5 degrees to 45 degrees and 135 degrees to 180 degrees.
[0516]
The pixel selection unit 411-1 supplies the selected pixel set to the estimation error calculation unit 412-1, and the pixel selection unit 411-2 supplies the selected pixel set to the estimation error calculation unit 412-2. Similarly, each of the pixel selection unit 411-3 through the pixel selection unit 411-L supplies the selected set of pixels to each of the estimation error calculation unit 412-3 through the estimation error calculation unit 412-L.
[0517]
The estimation error calculation unit 412-1 to the estimation error calculation unit 412-L are supplied from any of the pixel selection unit 411-1 to the pixel selection unit 411-L, and the pixel values of the pixels at corresponding positions in the plurality of sets. To detect the correlation. The estimation error calculation unit 412-1 to the estimation error calculation unit 412-L supply information indicating the detected correlation to the minimum error angle selection unit 413.
[0518]
The minimum error angle selection unit 413 corresponds to the continuity of the image that is the missing optical signal of the real world 1 based on the correlation detected by the estimation error calculation unit 412-1 to the estimation error calculation unit 412-L. In the input image, the angle of continuity of data with reference to the reference axis is detected.
[0519]
Next, data continuity detection processing by the data continuity detection unit 101 having the configuration shown in FIG. 72 corresponding to the processing in step S101 will be described with reference to the flowchart in FIG.
[0520]
In step S401, the activity detection unit 401 and the data selection unit 402 select a target pixel that is a target pixel from the input image. The activity detection unit 401 and the data selection unit 402 select the same target pixel. For example, the activity detection unit 401 and the data selection unit 402 select a target pixel from the input image in the raster scan order.
[0521]
In step S402, the activity detection unit 401 detects an activity for the target pixel. For example, the activity detection unit 401 detects an activity based on a difference between pixel values of pixels arranged in a vertical direction and a pixel value of pixels arranged in a horizontal direction of a block including a predetermined number of pixels centered on the target pixel. To detect.
[0522]
The activity detection unit 401 detects an activity in the spatial direction with respect to the target pixel, and supplies activity information indicating the detection result to the data selection unit 402 and the steady direction derivation unit 404.
[0523]
In step S403, the data selection unit 402 selects a predetermined number of pixels centered on the target pixel from the pixel row including the target pixel as a set of pixels. For example, the data selection unit 402 is a pixel belonging to one column of pixels in the vertical or horizontal direction to which the target pixel belongs, and a predetermined number of pixels above or to the left of the target pixel, and the lower or right side of the target pixel A predetermined number of pixels and a target pixel are selected as a set of pixels.
[0524]
In step S404, the data selection unit 402 selects a predetermined number of pixels from the predetermined number of pixels column for each predetermined range of angles based on the activity detected in step S402. Select as a pair. For example, the data selection unit 402 sets a straight line that passes through the pixel of interest with an angle in a predetermined range, the axis indicating the spatial direction X as a reference axis, and 1 in the horizontal direction or the vertical direction with respect to the pixel of interest. Select pixels closest to the straight line that are separated by a column or two columns, and a predetermined number of pixels above or to the left of the selected pixels, and a predetermined number of pixels below or to the right of the selected pixels Select the pixel as well as the selected pixel closest to the line as the set of pixels. The data selection unit 402 selects a set of pixels for each angle.
[0525]
The data selection unit 402 supplies the selected pixel set to the error estimation unit 403.
[0526]
In step S405, the error estimation unit 403 calculates a correlation between a pixel set centered on the target pixel and a pixel set selected for each angle. For example, the error estimating unit 403 calculates, for each angle, the sum of the absolute values of the differences between the pixel values of the pixels including the target pixel and the pixel values of the corresponding pixels in the other groups.
[0527]
The steadiness angle of data may be detected on the basis of the correlation between pixel sets selected for each angle.
[0528]
The error estimation unit 403 supplies information indicating the calculated correlation to the steady direction deriving unit 404.
[0529]
In step S406, the steady direction deriving unit 404 corresponds to the steadiness of the optical signal of the real world 1 that is missing from the position of the pixel set having the strongest correlation, based on the correlation calculated in the process of step S405. In the input image, which is image data, the angle of continuity of data with reference to the reference axis is detected. For example, the stationary direction deriving unit 404 selects the minimum sum among the sums of absolute values of the pixel value differences, and calculates the angle θ of data continuity from the position of the set of pixels from which the selected sum is calculated. Is detected.
[0530]
The steady direction deriving unit 404 outputs data continuity information indicating the angle of continuity of the detected data.
[0531]
In step S407, the data selection unit 402 determines whether or not the processing of all pixels has been completed. If it is determined that the processing of all pixels has not been completed, the process returns to step S401, where the data selection unit 402 is still the target pixel. A pixel of interest is selected from the unselected pixels, and the above-described processing is repeated.
[0532]
If it is determined in step S407 that all pixels have been processed, the process ends.
[0533]
As described above, the data continuity detecting unit 101 can detect the continuity angle of the data with reference to the reference axis in the image data corresponding to the continuity of the missing optical signal in the real world 1.
[0534]
The data detection unit 101 whose configuration is shown in FIG. 72 detects and detects the activity in the spatial direction of the input image for the target pixel that is the target pixel of the target frame that is the target frame. Depending on the activity, the vertical direction from each of the frame of interest and the temporally preceding or succeeding frame of the frame of interest for each angle and motion vector with respect to the pixel of interest and the spatial reference axis A plurality of sets of pixels composed of a predetermined number of pixels in one column in the horizontal direction are extracted, the correlation of the extracted set of pixels is detected, and data in the time direction and the spatial direction in the input image based on the correlation The steadiness angle may be detected.
[0535]
For example, as illustrated in FIG. 80, the data selection unit 402 performs frame #n, which is a frame of interest, for each angle and motion vector based on the pixel of interest and the reference axis in the spatial direction according to the detected activity. A plurality of sets of pixels each consisting of a predetermined number of pixels in one column in the vertical direction or one column in the horizontal direction are extracted from each of the frames # n−1 and # n + 1.
[0536]
Frame # n-1 is a frame temporally preceding frame #n, and frame # n + 1 is a frame temporally subsequent to frame #n. That is, frame # n-1, frame #n, and frame # n + 1 are displayed in the order of frame # n-1, frame #n, and frame # n + 1.
[0537]
The error estimator 403 detects the correlation of pixel groups for each angle and one motion vector for a plurality of groups of extracted pixels. The stationary direction deriving unit 404 detects the continuity angle of the temporal and spatial data in the input image corresponding to the continuity of the missing optical signal of the real world 1 based on the correlation of the set of pixels. The data continuity information indicating the angle is output.
[0538]
FIG. 81 is a block diagram showing another more detailed configuration of the data continuity detecting unit 101 shown in FIG. The same parts as those shown in FIG. 76 are denoted by the same reference numerals, and the description thereof is omitted.
[0539]
The data selection unit 402 includes pixel selection units 421-1 to 421-L. The error estimation unit 403 includes an estimation error calculation unit 422-1 to an estimation error calculation unit 422-L.
[0540]
In the data continuity detecting unit 101 shown in FIG. 81, a set of pixels composed of a number of pixels with respect to a range of angles, a number of sets with respect to the range of angles is extracted, and the correlation between the extracted sets of pixels is correlated. Is detected, and the steadiness angle of the data with reference to the reference axis in the input image is detected based on the detected correlation.
[0541]
First, the processing of the pixel selection unit 421-1 to pixel selection unit 421-L when the data continuity angle indicated by the activity information is any value between 45 degrees and 135 degrees will be described.
[0542]
As shown on the left side of FIG. 82, in the data continuity detecting unit 101 shown in FIG. 76, a set of pixels made up of a fixed number of pixels is extracted regardless of the angle of the set straight line. In the data continuity detecting unit 101 shown in FIG. 81, as shown on the right side of FIG. 82, a set of pixels made up of a number of pixels corresponding to the set angle range of the straight line is extracted. In addition, in the data continuity detecting unit 101 shown in FIG. 81, the number of pixel sets is extracted according to the set range of the straight line angle.
[0543]
The pixel selectors 421-1 to 421-L set straight lines with different predetermined angles that pass through the pixel of interest, with the axis indicating the spatial direction X in the range of 45 degrees to 135 degrees as a reference axis. To do.
[0544]
The pixel selection units 421-1 to 421-L are pixels belonging to one vertical column of pixels to which the target pixel belongs, and have a number corresponding to the range of linear angles set for each pixel. The pixel above the target pixel, the pixel below the target pixel, and the target pixel are selected as a set of pixels.
[0545]
The pixel selection unit 421-1 to pixel selection unit 421-L are arranged on the left and right vertical sides at a predetermined distance in the horizontal direction with respect to the pixel with respect to the vertical column of pixels to which the target pixel belongs. The pixels belonging to one column of pixels, the pixel closest to the set straight line are selected, and the set straight line is selected from one pixel vertically to the selected pixel. The number of pixels above the selected pixel, the pixel below the selected pixel, and the selected pixel according to the angle range are selected as a set of pixels.
[0546]
That is, the pixel selection unit 421-1 to the pixel selection unit 421-L select a number of pixels corresponding to the set straight angle range as a set of pixels. The pixel selection units 421-1 to 421-L select a number of pixel sets according to the set range of the angle of the straight line.
[0547]
For example, when the sensor 2 captures an image of a fine line that is positioned at an angle of approximately 45 degrees with respect to the spatial direction X and has the same width as the width of the detection region of the detection element, the fine line image is The data 3 is projected so that an arc shape is formed on three pixels arranged in one row. On the other hand, when an image of a thin line that is positioned substantially perpendicular to the spatial direction X and is approximately the same width as the width of the detection region of the detection element is captured by the sensor 2, the thin line image is in the spatial direction Y. The data 3 is projected so that an arc shape is formed in a large number of pixels arranged in a line.
[0548]
Assuming that the same number of pixels are included in a set of pixels, when the fine line is positioned at an angle of approximately 45 degrees with respect to the spatial direction X, the number of pixels in which the fine line image is projected in the set of pixels is reduced. The resolution will be reduced. On the other hand, when the fine line is positioned substantially perpendicular to the spatial direction X, the processing is executed for some of the pixels in which the image of the fine line is projected in the set of pixels. May decrease.
[0549]
Therefore, the pixel selection unit 421-1 to pixel selection unit 421-L allows the straight line to be set to be closer to the spatial direction X at an angle of 45 degrees so that the pixels onto which the thin line image is projected are substantially equal. If the number of pixels included in each pixel set is reduced, the number of pixel sets is increased, and the straight line to be set is closer to the vertical direction with respect to the spatial direction X, the number of pixels included in each pixel set is Pixels and pixel sets are selected to increase the number and reduce the number of pixel sets.
[0550]
For example, as illustrated in FIG. 83 and FIG. 84, the pixel selection unit 421-1 to pixel selection unit 421-L have a set straight line angle in a range of 45 degrees or more and less than 63.4 degrees (see FIG. 83 and FIG. 84). In FIG. 84, in the range indicated by A), with respect to the target pixel, five pixels centered on the target pixel are selected as a pixel set from one pixel column vertically, and the target pixel is selected. On the other hand, five pixels are selected as a set of pixels from the pixels belonging to one column of pixels on the left and right sides that are within a distance of 5 pixels in the horizontal direction.
[0551]
That is, each of the pixel selection units 421-1 to 421-L includes five pixels from the input image when the set straight line angle is in the range of 45 degrees or more and less than 63.4 degrees. A set of 11 pixels is selected. In this case, the pixel selected as the pixel closest to the set straight line is located 5 to 9 pixels away from the target pixel in the vertical direction.
[0552]
In FIG. 84, the number of columns indicates the number of columns of pixels from which pixels are selected as a pixel set on the left or right side of the target pixel. In FIG. 84, the number of pixels in one column indicates the number of pixels selected as a set of pixels from one pixel column vertically or the left or right column of the target pixel with respect to the target pixel. . In FIG. 84, the pixel selection range indicates the vertical position of the pixel selected as the pixel closest to the set straight line with respect to the target pixel.
[0553]
As illustrated in FIG. 85, for example, when the angle of the set straight line is 45 degrees, the pixel selection unit 421-1 determines the target pixel from the column of one vertical column with respect to the target pixel. From the pixels belonging to the column of one pixel vertically on the left and right sides that are within a distance of 5 pixels in the horizontal direction with respect to the target pixel. Each of the five pixels is selected as a set of pixels. That is, the pixel selection unit 421-1 selects a set of 11 pixels each consisting of 5 pixels from the input image. In this case, among the selected pixels as the pixel closest to the set straight line, the pixel farthest from the target pixel is at a position 5 pixels away from the target pixel in the vertical direction. .
[0554]
85 to 92, a square represented by a dotted line (one square partitioned by a dotted line) represents one pixel, and a square represented by a solid line represents a set of pixels. 85 to 92, the coordinate of the target pixel in the spatial direction X is set to 0, and the coordinate of the target pixel in the spatial direction Y is set to 0.
[0555]
In FIG. 85 to FIG. 92, squares represented by diagonal lines indicate the pixel at the position closest to the target pixel or the set straight line. In FIG. 85 to FIG. 92, a square represented by a thick line indicates a set of pixels selected around the target pixel.
[0556]
As illustrated in FIG. 86, for example, when the angle of the set straight line is 60.9 degrees, the pixel selection unit 421-2 starts from one pixel column vertically with respect to the target pixel. Pixels belonging to the column of one pixel on the left side and the right side of the pixel that are selected as a set of five pixels centered on the target pixel and are within a distance of 5 pixels in the horizontal direction with respect to the target pixel Then, each of the five pixels is selected as a set of pixels. That is, the pixel selection unit 421-2 selects a set of eleven pixels each consisting of five pixels from the input image. In this case, among the selected pixels as the pixel closest to the set straight line, the pixel farthest from the target pixel is 9 pixels away from the target pixel in the vertical direction. .
[0557]
For example, as illustrated in FIGS. 83 and 84, the pixel selection unit 421-1 to pixel selection unit 421-L have a set straight line angle in a range of 63.4 degrees or more and less than 71.6 degrees (see FIG. 83). 83 and the range indicated by B in FIG. 84, for the target pixel, seven pixels centered on the target pixel are selected as a pixel set from one pixel column in the vertical direction. For each pixel, seven pixels are selected as a set of pixels from pixels belonging to one column of pixels on the left and right sides that are within a distance of 4 pixels in the horizontal direction.
[0558]
That is, each of the pixel selection units 421-1 to 421-L has seven pixels from the input image when the set straight angle is in the range of 63.4 degrees or more and less than 71.6 degrees. A set of nine pixels consisting of In this case, the vertical position of the pixel closest to the set straight line is 8 to 11 pixels with respect to the target pixel.
[0559]
As illustrated in FIG. 87, for example, when the angle of the set straight line is 63.4 degrees, the pixel selection unit 421-3 starts from a pixel column vertically with respect to the target pixel. 7 pixels centered on the target pixel are selected as a set of pixels, and the pixels belonging to one column of pixels on the left and right sides are within a distance of 4 pixels in the horizontal direction with respect to the target pixel. Then, each of the seven pixels is selected as a pixel set. That is, the pixel selection unit 421-3 selects a set of nine pixels each consisting of seven pixels from the input image. In this case, as the pixel closest to the set straight line, among the selected pixels, the pixel farthest from the target pixel is at a position that is 8 pixels away from the target pixel in the vertical direction. .
[0560]
As shown in FIG. 88, for example, when the angle of the set straight line is 70.0 degrees, the pixel selection unit 421-4 has a column of one column vertically with respect to the target pixel. To select a pixel group including seven pixels centered on the target pixel, and in a column of one pixel vertically on the left side and the right side at a distance within four pixels in the horizontal direction with respect to the target pixel. From the pixels to which the pixel belongs, seven pixels are selected as a set of pixels. That is, the pixel selection unit 421-4 selects a set of nine pixels each including seven pixels from the input image. In this case, among the selected pixels as the pixel closest to the set straight line, the pixel farthest from the target pixel is 11 pixels away from the target pixel in the vertical direction. .
[0561]
For example, as shown in FIGS. 83 and 84, the pixel selection unit 421-1 to pixel selection unit 421-L have a set straight line angle in a range of 71.6 degrees or more and less than 76.0 degrees (see FIG. 83). 83 and a range indicated by C in FIG. 84, for the target pixel, nine pixels centered on the target pixel are selected as a pixel set from one pixel column in the vertical direction. Nine pixels are selected as a set of pixels from the pixels belonging to one column of pixels on the left and right sides that are within a distance of 3 pixels or less in the horizontal direction.
[0562]
In other words, the pixel selection unit 421-1 to pixel selection unit 421-L, from the input image, from each of nine pixels when the set straight line angle is in the range of 71.6 degrees or more and less than 76.0 degrees. A set of seven pixels is selected. In this case, the vertical position of the pixel closest to the set straight line is 9 to 11 pixels with respect to the target pixel.
[0563]
As illustrated in FIG. 89, for example, when the angle of the set straight line is 71.6 degrees, the pixel selection unit 421-5 starts from one pixel column vertically with respect to the target pixel. Nine pixels centered on the target pixel are selected as a set of pixels, and the pixels belonging to one column of pixels on the left and right sides are within a distance of 3 pixels in the horizontal direction with respect to the target pixel. From the above, nine pixels are selected as a set of pixels. That is, the pixel selection unit 421-5 selects a set of seven pixels each including nine pixels from the input image. In this case, among the selected pixels as the pixel closest to the set straight line, the pixel farthest from the target pixel is 9 pixels away from the target pixel in the vertical direction. .
[0564]
As shown in FIG. 90, for example, when the angle of the set straight line is 74.7 degrees, the pixel selection unit 421-6 has a column of one column vertically with respect to the target pixel. From the above, the nine pixels centered on the target pixel are selected as a pixel set, and the left and right vertical columns of pixels are located within a distance of three pixels or less in the horizontal direction with respect to the target pixel. Nine pixels are selected as a set of pixels from the belonging pixels. That is, the pixel selection unit 421-6 selects a set of seven pixels each including nine pixels from the input image. In this case, among the selected pixels as the pixel closest to the set straight line, the pixel farthest from the target pixel is 11 pixels away from the target pixel in the vertical direction. .
[0565]
For example, as shown in FIGS. 83 and 84, the pixel selection unit 421-1 to pixel selection unit 421-L have a set straight line angle in a range of 76.0 degrees to 87.7 degrees (see FIG. 83). 83 and the range indicated by D in FIG. 84, 11 pixels centered on the pixel of interest are selected as a pixel set from the pixel column vertically with respect to the pixel of interest. Eleven pixels are selected as a set of pixels from the pixels belonging to one column of pixels on the left and right sides that are within a distance of 2 pixels in the horizontal direction with respect to the pixels. In other words, the pixel selection unit 421-1 to pixel selection unit 421-L, from the input image, from each of 11 pixels when the angle of the set straight line is in the range of 76.0 degrees or more and 87.7 degrees or less. A set of five pixels is selected. In this case, the vertical position of the pixel closest to the set straight line is 8 to 50 pixels with respect to the target pixel.
[0566]
As illustrated in FIG. 91, for example, when the angle of the set straight line is 76.0 degrees, the pixel selection unit 421-7 determines from the pixel row of one column vertically with respect to the target pixel. Eleven pixels centered on the target pixel are selected as a set of pixels, and the pixels belonging to one column of pixels on the left and right sides are within a distance of two pixels in the horizontal direction with respect to the target pixel. From the above, 11 pixels are selected as a set of pixels. That is, the pixel selection unit 421-7 selects a set of five pixels each consisting of 11 pixels from the input image. In this case, as the pixel closest to the set straight line, among the selected pixels, the pixel farthest from the target pixel is at a position that is 8 pixels away from the target pixel in the vertical direction. .
[0567]
As shown in FIG. 92, for example, when the angle of the set straight line is 87.7 degrees, the pixel selection unit 421-8 has a column of one column vertically with respect to the target pixel. 11 are selected as a set of pixels centered on the target pixel, and the left and right vertical columns of pixels are located within a distance of two pixels in the horizontal direction with respect to the target pixel. Eleven pixels are selected as a set of pixels from the belonging pixels. That is, the pixel selection unit 421-8 selects a set of 5 pixels each consisting of 11 pixels from the input image. In this case, among the selected pixels as the pixel closest to the set straight line, the pixel farthest from the target pixel is positioned 50 pixels away from the target pixel in the vertical direction. .
[0568]
As described above, each of the pixel selection units 421-1 to 421-L selects a set of a predetermined number of pixels corresponding to the angle range, each including a predetermined number of pixels corresponding to the angle range. To do.
[0569]
The pixel selection unit 421-1 supplies the selected set of pixels to the estimation error calculation unit 422-1, and the pixel selection unit 421-2 supplies the selected set of pixels to the estimation error calculation unit 422-2. Similarly, each of the pixel selectors 421-3 to 421-L supplies the selected pixel set to each of the estimated error calculators 422-3 to 422-L.
[0570]
The estimation error calculation unit 422-1 through the estimation error calculation unit 422-L are supplied from any of the pixel selection unit 421-1 through the pixel selection unit 421-L, and the pixel values of the pixels at corresponding positions in the plurality of sets. To detect the correlation. For example, the estimation error calculation unit 422-1 to the estimation error calculation unit 422-L include pixels of a set of pixels including the target pixel supplied from any of the pixel selection unit 421-1 to the pixel selection unit 421-L. Calculate the sum of the absolute values of the difference between the pixel value and the pixel value of the pixel at the corresponding position in the other pixel set, and calculate the number of pixels included in the pixel set other than the pixel set including the target pixel. Divide the sum. The calculated sum is divided by the number of pixels included in a group other than the group including the target pixel because the number of pixels selected according to the angle of the set straight line is different. Is to normalize.
[0571]
The estimation error calculation unit 422-1 to the estimation error calculation unit 422-L supply information indicating the detected correlation to the minimum error angle selection unit 413. For example, the estimation error calculation unit 422-1 to the estimation error calculation unit 422-L supply the sum of the absolute values of the normalized pixel value differences to the minimum error angle selection unit 413.
[0572]
Next, the pixel selection unit 421-1 to the pixel selection unit 421-L when the data continuity angle indicated by the activity information is any value of 0 to 45 degrees and 135 to 180 degrees. Processing will be described.
[0573]
The pixel selectors 421-1 to 421 -L pass through the pixel of interest with the axis indicating the spatial direction X in the range of 0 to 45 degrees or 135 to 180 degrees as a reference axis. Set a straight line for the angle.
[0574]
The pixel selection units 421-1 to 421-L are pixels belonging to one horizontal pixel column to which the target pixel belongs, and the number of target pixels corresponding to the set straight angle range. Left pixel, right pixel of the target pixel, and target pixel are selected as a set of pixels.
[0575]
The pixel selection unit 421-1 to pixel selection unit 421-L are arranged on the upper side and the lower side at a predetermined distance in the vertical direction with reference to the pixel with respect to the horizontal row of pixels to which the target pixel belongs. A pixel that belongs to a column of pixels of one row horizontally, selects a pixel closest to the set straight line, and the angle of the set straight line from the pixel of the horizontal row to the selected pixel The number of pixels on the left side of the selected pixel, the pixel on the right side of the selected pixel, and the selected pixel are selected as a set of pixels in accordance with the number of ranges.
[0576]
That is, the pixel selection unit 421-1 to the pixel selection unit 421-L select a number of pixels corresponding to the set straight angle range as a set of pixels. The pixel selection units 421-1 to 421-L select a number of pixel sets according to the set range of the angle of the straight line.
[0577]
The pixel selection unit 421-1 supplies the selected set of pixels to the estimation error calculation unit 422-1, and the pixel selection unit 421-2 supplies the selected set of pixels to the estimation error calculation unit 422-2. Similarly, each of the pixel selectors 421-3 to 421-L supplies the selected pixel set to each of the estimated error calculators 422-3 to 422-L.
[0578]
The estimation error calculation unit 422-1 through the estimation error calculation unit 422-L are supplied from any of the pixel selection unit 421-1 through the pixel selection unit 421-L, and the pixel values of the pixels at corresponding positions in the plurality of sets. To detect the correlation.
[0579]
The estimation error calculation unit 422-1 to the estimation error calculation unit 422-L supply information indicating the detected correlation to the minimum error angle selection unit 413.
[0580]
Next, data continuity detection processing by the data continuity detection unit 101 shown in FIG. 81 corresponding to the processing in step S101 will be described with reference to the flowchart in FIG.
[0581]
Since the process of step S421 and step S422 is the same as the process of step S401 and step S402, the description is abbreviate | omitted.
[0582]
In step S423, the data selection unit 402 performs, for each angle in a predetermined range with respect to the activity detected in the process in step S422, an angle range centered on the target pixel from the pixel row including the target pixel. A predetermined number of pixels are selected as a set of pixels. For example, the data selection unit 402 is a pixel belonging to one column of pixels in the vertical or horizontal direction to which the target pixel belongs, and the number of target pixels of the number determined by the angle range with respect to the angle of the straight line to be set. The upper or left pixel, the lower or right pixel of the target pixel, and the target pixel are selected as a set of pixels.
[0583]
In step S424, the data selection unit 402 determines the angle range from the number of pixels determined for the angle range for each predetermined range of angles based on the activity detected in step S422. A predetermined number of pixels are selected as a set of pixels. For example, the data selection unit 402 has a predetermined range of angles, sets a straight line passing through the pixel of interest with an axis indicating the spatial direction X as a reference axis, and in the horizontal or vertical direction with respect to the pixel of interest. Select a pixel closest to the straight line that is separated by a predetermined range from the range of the angle of the straight line to be set, and the number of pixels on the upper or left side of the selected pixel with respect to the range of the angle of the set straight line The pixel and the number of pixels below or on the right side of the selected pixel with respect to the range of linear angles to be set, and the pixel closest to the selected line are selected as the set of pixels. The data selection unit 402 selects a set of pixels for each angle.
[0584]
The data selection unit 402 supplies the selected pixel set to the error estimation unit 403.
[0585]
In step S425, the error estimation unit 403 calculates a correlation between a pixel set centered on the target pixel and a pixel set selected for each angle. For example, the error estimator 403 calculates the sum of the absolute values of the differences between the pixel values of the pixels including the target pixel and the pixel values of the pixels at the corresponding positions in the other groups, and the pixels of the other groups The correlation is calculated by dividing the sum of the absolute values of the pixel value differences by a number.
[0586]
The steadiness angle of data may be detected on the basis of the correlation between pixel sets selected for each angle.
[0587]
The error estimation unit 403 supplies information indicating the calculated correlation to the steady direction deriving unit 404.
[0588]
Since the process of step S426 and step S427 is the same as the process of step S406 and step S407, the description is abbreviate | omitted.
[0589]
As described above, the data continuity detecting unit 101 more accurately and more accurately determines the continuity angle of data with reference to the reference axis in the image data corresponding to the continuity of the missing optical signal of the real world 1. It can be detected with high accuracy. The data continuity detecting unit 101 having the configuration shown in FIG. 81 can evaluate the correlation of more pixels onto which a thin line image is projected, particularly when the data continuity angle is around 45 degrees. As a result, the angle of data continuity can be detected with higher accuracy.
[0590]
The data continuity detecting unit 101 whose configuration is shown in FIG. 81 also detects the activity in the spatial direction of the input image for the target pixel that is the target pixel of the target frame that is the target frame. Depending on the detected activity, the angle from the reference pixel in the spatial direction and the reference axis in the spatial direction, and the motion vector, from the frame before or after the frame of interest in time or vertically A set of pixels made up of a predetermined number of pixels with respect to a spatial angle range is extracted by extracting a set of pixels having a predetermined number with respect to the spatial angle range in one row or one horizontal row. A correlation between a set of pixels may be detected, and a steadiness angle of data in the time direction and the spatial direction in the input image may be detected based on the correlation.
[0591]
FIG. 94 is a block diagram showing still another configuration of the data continuity detecting unit 101.
[0592]
In the data continuity detecting unit 101 having the configuration illustrated in FIG. 94, for a target pixel that is a target pixel, a block including a predetermined number of pixels centered on the target pixel and a periphery of the target pixel, respectively. A plurality of blocks consisting of a predetermined number of pixels are extracted, the correlation between the block centered on the pixel of interest and the surrounding blocks is detected, and based on the correlation, the data of the input image based on the reference axis is detected. A stationary angle is detected.
[0593]
The data selection unit 441 sequentially selects a target pixel from the pixels of the input image, and a block including a predetermined number of pixels centering on the target pixel, and a plurality of pixels including a predetermined number of pixels around the target pixel. And the extracted block is supplied to the error estimation unit 442.
[0594]
For example, the data selection unit 441 starts from a 5 × 5 pixel block at a predetermined angle with respect to the pixel of interest and the reference axis from the periphery of the pixel of interest, a block of 5 × 5 pixels centered on the pixel of interest. Are extracted.
[0595]
The error estimation unit 442 detects the correlation between the block centered on the pixel of interest and the block around the pixel of interest supplied from the data selection unit 441, and obtains correlation information indicating the detected correlation as a steady direction deriving unit 443.
[0596]
For example, the error estimator 442 performs, for each angle range, a block composed of 5 × 5 pixels centered on the target pixel and two blocks composed of 5 × 5 pixels corresponding to one angle range. A correlation between pixel values is detected.
[0597]
Based on the correlation information supplied from the error estimation unit 442, the stationarity direction deriving unit 443 responds to the stationarity of the optical signal in the real world 1 that is missing from the position of the block around the target pixel having the strongest correlation. In the input image, the continuity angle of the data with reference to the reference axis is detected, and data continuity information indicating the angle is output. For example, the steady direction deriving unit 443 is composed of 5 × 5 pixels having the strongest correlation with respect to a block composed of 5 × 5 pixels centered on the target pixel based on the correlation information supplied from the error estimating unit 442. A range of angles for the two blocks is detected as an angle of data continuity, and data continuity information indicating the detected angle is output.
[0598]
95 is a block diagram showing a more detailed configuration of data continuity detecting section 101 shown in FIG.
[0599]
The data selection unit 441 includes a pixel selection unit 461-1 to a pixel selection unit 461-L. The error estimation unit 442 includes an estimation error calculation unit 462-1 to an estimation error calculation unit 462-L. The steady direction deriving unit 443 includes a minimum error angle selecting unit 463.
[0600]
For example, the data selection unit 441 includes pixel selection units 461-1 to 461-8. For example, the error estimation unit 442 includes an estimation error calculation unit 462-1 to an estimation error calculation unit 462-8.
[0601]
Each of the pixel selectors 461-1 to 461-L corresponds to a block composed of a predetermined number of pixels centered on the target pixel, and a predetermined angle range based on the target pixel and the reference axis. Then, two blocks composed of a predetermined number of pixels are extracted.
[0602]
FIG. 96 is a diagram illustrating an example of a 5 × 5 pixel block extracted by the pixel selection unit 461-1 to pixel selection unit 461-L. The center position in FIG. 96 indicates the position of the target pixel.
[0603]
The 5 × 5 pixel block is an example, and the number of pixels included in the block does not limit the present invention.
[0604]
For example, the pixel selection unit 461-1 extracts a 5 × 5 pixel block centered on the pixel of interest, and supports a range of 0 degrees to 18.4 degrees and 161.6 degrees to 180.0 degrees. A 5 × 5 pixel block (indicated by “A” in FIG. 96) centering on a pixel located at a position shifted by 5 pixels to the right with respect to the target pixel is extracted, and 5 pixels on the left side with respect to the target pixel. A 5 × 5 pixel block (indicated by A ′ in FIG. 96) centering on the pixel at the moved position is extracted. The pixel selection unit 461-1 supplies the extracted three blocks of 5 × 5 pixels to the estimation error calculation unit 462-1.
[0605]
The pixel selection unit 461-2 extracts a 5 × 5 pixel block centered on the target pixel, and 10 pixels on the right side with respect to the target pixel corresponding to a range of 18.4 degrees to 33.7 degrees. Move the pixel, extract a 5 × 5 pixel block (indicated by B in FIG. 96) centering on the pixel at the position where the pixel has moved upward 5 pixels, move 10 pixels to the left with respect to the target pixel, A 5 × 5 pixel block (indicated by B ′ in FIG. 96) centering on the pixel located at the position moved by 5 pixels downward is extracted. The pixel selection unit 461-2 supplies the extracted three blocks of 5 × 5 pixels to the estimation error calculation unit 462-2.
[0606]
The pixel selection unit 461-3 extracts a block of 5 × 5 pixels centered on the target pixel, and 5 on the right side with respect to the target pixel corresponding to a range of 33.7 degrees to 56.3 degrees. Move a pixel, extract a 5 × 5 pixel block (indicated by C in FIG. 96) centered on the pixel at the position where it has moved 5 pixels upward, move 5 pixels to the left with respect to the target pixel, A 5 × 5 pixel block (indicated by C ′ in FIG. 96) is extracted, centering on the pixel located at a position shifted by 5 pixels downward. The pixel selection unit 461-3 supplies the extracted three blocks of 5 × 5 pixels to the estimation error calculation unit 462-3.
[0607]
The pixel selection unit 461-4 extracts a block of 5 × 5 pixels centered on the target pixel, and 5 on the right side of the target pixel corresponding to a range of 56.3 degrees to 71.6 degrees. Move a pixel, extract a 5 × 5 pixel block (denoted by D in FIG. 96) centering on the pixel at the position 10 pixels above, move 5 pixels to the left with respect to the target pixel, A 5 × 5 pixel block (indicated by D ′ in FIG. 96) is extracted, centering on the pixel at the position moved 10 pixels downward. The pixel selection unit 461-4 supplies the extracted three blocks of 5 × 5 pixels to the estimation error calculation unit 462-4.
[0608]
The pixel selection unit 461-5 extracts a 5 × 5 pixel block centered on the pixel of interest, and 5 above the pixel of interest corresponding to a range of 71.6 degrees to 108.4 degrees. A block of 5 × 5 pixels (indicated by E in FIG. 96) centering on the pixel at the pixel moved position is extracted, and the pixel at the position moved 5 pixels downward from the target pixel is the center. The 5 × 5 pixel block (indicated by E ′ in FIG. 96) is extracted. The pixel selection unit 461-5 supplies the extracted three blocks of 5 × 5 pixels to the estimation error calculation unit 462-5.
[0609]
The pixel selection unit 461-6 extracts a 5 × 5 pixel block centered on the pixel of interest, and 5 on the left side of the pixel of interest corresponding to a range of 108.4 degrees to 123.7 degrees. Move the pixel, extract a 5 × 5 pixel block (indicated by F in FIG. 96) centered on the pixel at the position 10 pixels above, move 5 pixels to the right with respect to the target pixel, A 5 × 5 pixel block (indicated by F ′ in FIG. 96) is extracted centering on the pixel at the position moved 10 pixels downward. The pixel selection unit 461-6 supplies the extracted three blocks of 5 × 5 pixels to the estimation error calculation unit 462-6.
[0610]
The pixel selection unit 461-7 extracts a 5 × 5 pixel block centered on the pixel of interest, and 5 on the left side of the pixel of interest corresponding to a range of 123.7 degrees to 146.3 degrees. Move the pixel, extract a 5 × 5 pixel block (indicated by G in FIG. 96) centered on the pixel at the position where the pixel has moved 5 pixels upward, move 5 pixels to the right with respect to the target pixel, A 5 × 5 pixel block (indicated by G ′ in FIG. 96) is extracted, centering on the pixel located at the position moved 5 pixels downward. The pixel selection unit 461-7 supplies the extracted three blocks of 5 × 5 pixels to the estimation error calculation unit 462-7.
[0611]
The pixel selection unit 461-8 extracts a block of 5 × 5 pixels centered on the target pixel, and 10 pixels on the left side with respect to the target pixel corresponding to a range of 146.3 degrees to 161.6 degrees. Move the pixel, extract a 5 × 5 pixel block (indicated by H in FIG. 96) centered on the pixel at the position where the pixel has moved 5 pixels upward, move 10 pixels to the right with respect to the target pixel, A 5 × 5 pixel block (indicated by H ′ in FIG. 96) is extracted, centering on the pixel located at a position shifted by 5 pixels downward. The pixel selection unit 461-8 supplies the extracted three blocks of 5 × 5 pixels to the estimation error calculation unit 462-8.
[0612]
Hereinafter, a block composed of a predetermined number of pixels centered on the target pixel is referred to as a target block.
[0613]
Hereinafter, a block composed of a predetermined number of pixels corresponding to a range of a predetermined angle with respect to the target pixel and the reference axis is referred to as a reference block.
[0614]
As described above, the pixel selection unit 461-1 to the pixel selection unit 461-8 extract, for example, a target block and a reference block from a range of 25 × 25 pixels around the target pixel.
[0615]
The estimation error calculation unit 462-1 through the estimation error calculation unit 462-L detect the correlation between the target block and the two reference blocks supplied from the pixel selection unit 461-1 through the pixel selection unit 461-L. Correlation information indicating the detected correlation is supplied to the minimum error angle selection unit 463.
[0616]
For example, the estimation error calculation unit 462-1 corresponds to a target block composed of 5 × 5 pixels centered on the target pixel and ranges of 0 ° to 18.4 ° and 161.6 ° to 180.0 °. The pixel value of the pixel included in the target block and the reference block for the reference block of 5 × 5 pixels centered on the pixel at the position shifted by five pixels to the right with respect to the target pixel extracted in The absolute value of the difference from the pixel value of the included pixel is calculated.
[0617]
In this case, as shown in FIG. 97, the estimation error calculation unit 462-1 uses the absolute value of the difference between the pixel values based on the position where the center pixel of the target block and the center pixel of the reference block overlap. In order to use the pixel value of the target pixel for the calculation, the position of the target block is any one of two pixels on the left side to two pixels on the right side, and two pixels on the upper side to two pixels on the lower side with respect to the reference block. The absolute value of the difference between the pixel values of the pixels that overlap with each other is calculated. That is, the absolute value of the difference between the pixel values of the pixels at the corresponding positions in the 25 types of positions of the target block and the reference block is calculated. In other words, in the case where the absolute value of the pixel value difference is calculated, the range of the target block and the reference block that are relatively moved is 9 × 9 pixels.
[0618]
In FIG. 97, squares indicate pixels, A indicates a reference block, and B indicates a target block. In FIG. 97, a thick line indicates a target pixel. That is, FIG. 97 is a diagram illustrating an example in which the target block is moved 2 pixels on the right side and 1 pixel on the upper side with respect to the reference block.
[0619]
Further, the estimation error calculation unit 462-1 corresponds to a target block composed of 5 × 5 pixels centered on the target pixel and ranges of 0 ° to 18.4 ° and 161.6 ° to 180.0 °. The pixel value of the pixel included in the target block and the reference block for the reference block of 5 × 5 pixels centered on the pixel at the position shifted by five pixels to the left with respect to the target pixel extracted in The absolute value of the difference from the pixel value of the included pixel is calculated.
[0620]
Then, the estimation error calculation unit 462-1 obtains the sum of the absolute values of the calculated differences, and supplies the sum of the absolute values of the differences to the minimum error angle selection unit 463 as correlation information indicating correlation.
[0621]
The estimation error calculation unit 462-2 has a block of interest consisting of 5 × 5 pixels and two reference blocks of 5 × 5 pixels extracted corresponding to a range of 18.4 degrees to 33.7 degrees. An absolute value of a difference between pixel values is calculated, and a sum of absolute values of the calculated differences is calculated. Estimated error calculation unit 4622Supplies the sum of the absolute values of the calculated differences to the minimum error angle selector 463 as correlation information indicating the correlation.
[0622]
Similarly, each of the estimation error calculation unit 462-3 through the estimation error calculation unit 462-8 has a 5 × 5 pixel extracted corresponding to a target block of 5 × 5 pixels and a predetermined angle range. For the two reference blocks, the absolute value of the difference between the pixel values is calculated, and the sum of the absolute values of the calculated differences is calculated. Each of the estimation error calculation unit 462-3 to the estimation error calculation unit 462-8 supplies the sum of the absolute values of the calculated differences to the minimum error angle selection unit 463 as correlation information indicating a correlation.
[0623]
The minimum error angle selection unit 463 indicates the strongest correlation among the sum of absolute values of pixel value differences as correlation information supplied from the estimation error calculation unit 462-1 to the estimation error calculation unit 462-8. An angle with respect to two reference blocks is detected as an angle of data continuity from the position of the reference block from which the minimum value is obtained, and data continuity information indicating the detected angle is output.
[0624]
Here, the relationship between the position of the reference block and the range of the data continuity angle will be described.
[0625]
When an approximate function f (x) that approximates a real-world signal is approximated by an n-dimensional one-dimensional polynomial, the approximate function f (x) can be expressed by Expression (30).
[0626]
[Expression 21]

... (30)
[0627]
When the waveform of the signal of the real world 1 approximated by the approximate function f (x) has a constant inclination (angle) with respect to the spatial direction Y, x in equation (30) is set to x + γy. In the obtained equation (31), an approximate function (x, y) that approximates the signal of the real world 1 is expressed.
[0628]
[Expression 22]

... (31)
[0629]
γ represents the ratio of the change in the position in the spatial direction X to the change in the position in the spatial direction Y. Hereinafter, γ is also referred to as a shift amount.
[0630]
FIG. 98 shows the positions and angles of pixels around the target pixel when the distance in the spatial direction X between the position of the target pixel and the straight line having the angle θ is 0, that is, when the straight line passes through the target pixel. It is a figure which shows the distance of the space direction X with the straight line which has (theta). Here, the position of the pixel is the position of the center of the pixel. The distance between the position and the straight line is indicated by a negative value when the position is on the left side of the straight line, and is indicated by a positive value when the position is on the right side of the straight line.
[0631]
For example, the distance in the spatial direction X between the position of the pixel adjacent to the right side of the target pixel, that is, the position where the coordinate x in the spatial direction X increases by 1 and the straight line having the angle θ is 1, and The distance in the spatial direction X between the position of the adjacent pixel, that is, the position where the coordinate x in the spatial direction X decreases by 1 and the straight line having the angle θ is −1. The distance in the spatial direction X between the position of the pixel adjacent to the upper side of the target pixel, that is, the position where the coordinate y in the spatial direction Y increases by 1 and the straight line having the angle θ is −γ, and is below the target pixel. The distance in the spatial direction X between the position of the adjacent pixel, that is, the position where the coordinate y in the spatial direction Y decreases by 1 and the straight line having the angle θ is γ.
[0632]
When the angle θ is greater than 45 degrees and less than 90 degrees, and the shift amount γ is greater than 0 and less than 1, the relational expression of γ = 1 / tan θ is established between the shift amount γ and the angle θ. It holds. FIG. 99 is a diagram showing the relationship between the shift amount γ and the angle θ.
[0633]
Here, attention is paid to the change in the distance in the spatial direction X between the position of the pixel around the target pixel and the straight line passing through the target pixel and having the angle θ with respect to the change in the shift amount γ.
[0634]
  FIG. 100 is a diagram illustrating the distance in the spatial direction X between the position of the pixel around the target pixel and the straight line passing through the target pixel and having the angle θ with respect to the shift amount γ. In FIG. 100, a one-dot chain line rising to the right indicates the distance in the spatial direction X between the position of the pixel adjacent to the lower side of the target pixel and the straight line with respect to the shift amount γ.rightA dash-dot line that falls indicates the distance in the spatial direction X between the position of the pixel adjacent to the upper side of the target pixel and the straight line with respect to the shift amount γ.
[0635]
  In FIG. 100, a two-dot chain line that rises to the right indicates the distance in the spatial direction X between the position of the pixel located one pixel on the lower side and the left side of the pixel from the target pixel with respect to the shift amount γ,rightThe descending two-dot chain line indicates the distance in the spatial direction X between the position of the pixel located two pixels above the target pixel and the right side of the pixel and the straight line with respect to the shift amount γ.
[0636]
  In FIG. 100, a three-dot chain line that rises to the right indicates the distance in the spatial direction X between the position of the pixel located one pixel below and one pixel on the left side from the target pixel with respect to the shift amount γ,rightThe descending three-dot chain line indicates the distance in the spatial direction X between the position of the pixel located one pixel above and one pixel right from the target pixel and the straight line with respect to the shift amount γ.
[0637]
From FIG. 100, the pixel having the shortest distance with respect to the shift amount γ is known.
[0638]
That is, when the shift amount γ is 0 to 1/3, the distance from the pixel adjacent to the upper side of the target pixel and the pixel adjacent to the lower side of the target pixel to the straight line is minimum. That is, when the angle θ is 71.6 degrees to 90 degrees, the distance from the pixel adjacent to the upper side of the target pixel and the pixel adjacent to the lower side of the target pixel to the straight line is the minimum.
[0639]
When the shift amount γ is 1/3 to 2/3, the pixel located two pixels above the target pixel and one pixel right side, and the pixel of interest two pixels below and one pixel left side The distance from the pixel located at to the straight line is the minimum. That is, when the angle θ is 56.3 degrees to 71.6 degrees, the pixel located two pixels above the target pixel, one pixel on the right side, and two pixels below the target pixel, The distance from the pixel located one pixel to the straight line is the minimum.
[0640]
Further, when the shift amount γ is 2/3 to 1, the pixel located one pixel above the target pixel and one pixel right side, and the pixel of interest one pixel below and one pixel left side The distance from the pixel located at to the straight line is the minimum. That is, when the angle θ is 45 degrees to 56.3 degrees, the pixel located one pixel above the target pixel and one pixel on the right side, and one pixel below the target pixel and one pixel below the target pixel. The distance from the pixel located on the left side to the straight line is the minimum.
[0641]
The relationship between the straight line in the range of the angle θ from 0 degrees to 45 degrees and the pixels can be considered in the same way.
[0642]
The pixel shown in FIG. 98 can be replaced with the target block and the reference block, and the distance in the spatial direction X between the reference block and the straight line can be considered.
[0643]
FIG. 101 shows a reference block that passes through the target pixel and has the smallest distance from the straight line having the angle θ with respect to the axis in the spatial direction X.
[0644]
A to H and A ′ to H ′ in FIG. 101 indicate reference blocks A to H and A ′ to H ′ in FIG. 96.
[0645]
That is, a straight line that passes through the target pixel and has an angle θ of 0 degrees to 18.4 degrees and 161.6 degrees to 180.0 degrees with respect to the axis in the spatial direction X, and A to H and A Of the distances in the spatial direction X with respect to the reference blocks' to H ', the distance between the straight line and the reference blocks A and A' is the smallest. Therefore, conversely, when the correlation between the block of interest and the reference blocks of A and A ′ is strongest, certain features repeatedly appear in the direction connecting the block of interest and the reference blocks of A and A ′. Therefore, it can be said that the continuity angle of the data is in the range of 0 degrees to 18.4 degrees and 161.6 degrees to 180.0 degrees.
[0646]
A straight line that passes through the target pixel and has an angle θ of 18.4 degrees to 33.7 degrees with respect to the axis in the spatial direction X, and each of the reference blocks A to H and A ′ to H ′ Among the distances in the spatial direction X, the distance between the straight line and the reference blocks B and B ′ is the smallest. Therefore, conversely, when the correlation between the block of interest and the reference blocks B and B ′ is strongest, certain features appear repeatedly in the direction connecting the block of interest and the reference blocks B and B ′. Therefore, it can be said that the steadiness angle of the data is in the range of 18.4 degrees to 33.7 degrees.
[0647]
A straight line that passes through the target pixel and has an angle θ of 33.7 degrees to 56.3 degrees with respect to the axis in the spatial direction X, and each of the reference blocks A to H and A ′ to H ′ Among the distances in the spatial direction X, the distance between the straight line and the reference blocks C and C ′ is the smallest. Therefore, conversely, when the correlation between the block of interest and the reference blocks of C and C ′ is strongest, certain features repeatedly appear in the direction connecting the block of interest and the reference blocks of C and C ′. Therefore, it can be said that the steadiness angle of the data is in the range of 33.7 degrees to 56.3 degrees.
[0648]
A straight line that passes through the pixel of interest and has an angle θ of 56.3 to 71.6 degrees with respect to the axis in the spatial direction X, and reference blocks A to H and A ′ to H ′, respectively Among the distances in the spatial direction X, the distance between the straight line and the reference blocks D and D ′ is the smallest. Therefore, conversely, when the correlation between the block of interest and the reference blocks of D and D ′ is strongest, certain features repeatedly appear in the direction connecting the block of interest and the reference blocks of D and D ′. Therefore, it can be said that the steadiness angle of the data is in the range of 56.3 degrees to 71.6 degrees.
[0649]
A straight line passing through the target pixel and having an angle θ of 71.6 degrees to 108.4 degrees with respect to the axis in the spatial direction X, and each of the reference blocks A to H and A ′ to H ′ Among the distances in the spatial direction X, the distance between the straight line and the reference blocks E and E ′ is the smallest. Therefore, conversely, when the correlation between the block of interest and the reference blocks of E and E ′ is strongest, certain features repeatedly appear in the direction connecting the block of interest and the reference blocks of E and E ′. Therefore, it can be said that the steadiness angle of the data is in the range of 71.6 degrees to 108.4 degrees.
[0650]
A straight line that passes through the pixel of interest and has an angle θ of 108.4 degrees to 123.7 degrees with respect to the axis in the spatial direction X, and each of the reference blocks A to H and A ′ to H ′ Among the distances in the spatial direction X, the distance between the straight line and the reference blocks F and F ′ is the smallest. Therefore, conversely, when the correlation between the block of interest and the reference blocks of F and F ′ is the strongest, certain features appear repeatedly in the direction connecting the block of interest and the reference blocks of F and F ′. Therefore, it can be said that the steadiness angle of the data is in the range of 108.4 degrees to 123.7 degrees.
[0651]
A straight line that passes through the pixel of interest and has an angle θ of 123.7 degrees to 146.3 degrees with respect to the axis in the spatial direction X, and each of the reference blocks A to H and A ′ to H ′ Among the distances in the spatial direction X, the distance between the straight line and the reference blocks G and G ′ is the smallest. Accordingly, conversely, when the correlation between the block of interest and the reference blocks of G and G ′ is strongest, certain features appear repeatedly in the direction connecting the block of interest and the reference blocks of G and G ′. Therefore, it can be said that the continuity angle of the data is in the range of 123.7 degrees to 146.3 degrees.
[0652]
A straight line that passes through the pixel of interest and has an angle θ of 146.3 degrees to 161.6 degrees with respect to the axis in the spatial direction X, and each of the reference blocks A to H and A ′ to H ′ Among the distances in the spatial direction X, the distance between the straight line and the reference blocks H and H ′ is the smallest. Therefore, conversely, when the correlation between the block of interest and the reference blocks of H and H ′ is the strongest, certain features repeatedly appear in the direction connecting the block of interest and the reference blocks of H and H ′. Therefore, it can be said that the steadiness angle of the data is in the range of 146.3 degrees to 161.6 degrees.
[0653]
As described above, the data continuity detecting unit 101 can detect the angle of data continuity based on the correlation between the block of interest and the reference block.
[0654]
In the data continuity detecting unit 101 having the configuration shown in FIG. 94, the range of the data continuity angle may be output as data continuity information. The value may be output as data continuity information. For example, the median value of the range of the steadiness angle of the data can be used as the representative value.
[0655]
Further, the data continuity detecting unit 101 having the configuration shown in FIG. 94 halves the range of the continuity angle of the detected data by using the correlation of the reference blocks around the reference block having the strongest correlation. That is, the resolution of the stationary angle of the data to be detected can be doubled.
[0656]
For example, when the correlation between the block of interest and the reference blocks of E and E ′ is strongest, the minimum error angle selector 463 correlates the reference blocks of D and D ′ with respect to the block of interest as shown in FIG. And the correlation of the reference blocks of F and F ′ with respect to the block of interest. When the correlation between the reference blocks D and D ′ with respect to the target block is stronger than the correlation between the reference blocks F and F ′ with respect to the target block, the minimum error angle selection unit 463 determines the angle of data continuity. In the range of 71.6 degrees to 90 degrees. In this case, the minimum error angle selection unit 463 may set 81 degrees as a representative value for the continuity angle of the data.
[0657]
When the correlation of the reference blocks of F and F ′ with respect to the target block is stronger than the correlation of the reference blocks of D and D ′ with respect to the target block, the minimum error angle selection unit 463 determines the angle of data continuity. The range of 90 degrees to 108.4 degrees is set. In this case, the minimum error angle selection unit 463 may set 99 degrees as a representative value for the continuity angle of the data.
[0658]
The minimum error angle selection unit 463 can halve the range of the steadiness angle of the detected data for other angle ranges by the same processing.
[0659]
The method described with reference to FIG. 102 is also referred to as a simple 16-direction detection method.
[0660]
As described above, the data continuity detecting unit 101 having the configuration shown in FIG. 94 can detect a data continuity angle with a narrower range by a simple process.
[0661]
Next, data continuity detection processing by the data continuity detection unit 101 whose configuration is shown in FIG. 94, corresponding to the processing in step S101, will be described with reference to the flowchart in FIG.
[0662]
In step S441, the data selection unit 441 selects a target pixel that is a target pixel from the input image. For example, the data selection unit 441 selects a target pixel from the input image in the raster scan order.
[0663]
In step S442, the data selection unit 441 selects a target block including a predetermined number of pixels centered on the target pixel. For example, the data selection unit 441 selects a target block including 5 × 5 pixels centered on the target pixel.
[0664]
In step S443, the data selection unit 441 selects a reference block including a predetermined number of pixels at predetermined positions around the target pixel. For example, the data selection unit 441 includes 5 × 5 pixels centered on a pixel at a predetermined position with respect to the size of the target block for each range of a predetermined angle with respect to the target pixel and the reference axis. Select a reference block.
[0665]
The data selection unit 441 supplies the target block and the reference block to the error estimation unit 442.
[0666]
In step S444, the error estimation unit 442 calculates the correlation between the block of interest and the reference block corresponding to the range of angles for each predetermined angle range based on the pixel of interest and the reference axis. The error estimation unit 442 supplies correlation information indicating the calculated correlation to the steady direction derivation unit 443.
[0667]
In step S445, the stationary direction deriving unit 443 determines the reference in the input image corresponding to the continuity of the image that is the missing optical signal of the real world 1 from the position of the reference block having the strongest correlation with respect to the target block. Detects the continuity angle of the data with respect to the axis.
[0668]
The steady direction deriving unit 443 outputs data continuity information indicating the angle of continuity of the detected data.
[0669]
In step S446, the data selection unit 441 determines whether or not the processing of all the pixels has been completed, and when it is determined that the processing of all the pixels has not been completed, the process returns to step S441 and is still set as the target pixel. A pixel of interest is selected from the unselected pixels, and the above-described processing is repeated.
[0670]
If it is determined in step S446 that all pixels have been processed, the process ends.
[0671]
As described above, the data continuity detecting unit 101 having the configuration shown in FIG. 94 is a simpler process, and is based on the reference axis in the image data corresponding to the continuity of the missing optical signal in the real world 1. Can be detected. Further, the data continuity detecting unit 101 having the configuration shown in FIG. 94 can detect the continuity angle of data using pixel values of pixels in a relatively narrow range in the input image. Even if noise or the like is included in the input image, it is possible to more accurately detect the continuity angle of the data.
[0672]
Note that the data detection unit 101 whose configuration is shown in FIG. 94 includes a predetermined number of pixels from the target frame for the target pixel that is the target pixel of the target frame that is the target frame. A block centered on the pixel and a plurality of blocks each including a predetermined number of pixels around the target pixel are extracted, and a predetermined number from a frame preceding or following the target frame in time And a block centered on the pixel at the position corresponding to the target pixel and a plurality of blocks each including a predetermined number of pixels around the pixel at the position corresponding to the target pixel. The correlation between the block centered on the pixel and the spatially or temporally neighboring block is detected, and based on the correlation, the temporal and spatial data in the input image is detected. The angle of the normal resistance may be detected.
[0673]
For example, as illustrated in FIG. 104, the data selection unit 441 sequentially selects a pixel of interest from frame #n, which is a frame of interest, and a block including a predetermined number of pixels centered on the pixel of interest from frame #n. , And a plurality of blocks including a predetermined number of pixels around the target pixel are extracted. The data selection unit 441 also includes a block composed of a predetermined number of pixels centered on a pixel at a position corresponding to the position of the target pixel from each of the frame # n−1 and the frame # n + 1, and the target A plurality of blocks including a predetermined number of pixels around a pixel at a position corresponding to the pixel position are extracted. The data selection unit 441 supplies the extracted block to the error estimation unit 442.
[0674]
The error estimation unit 442 detects the correlation between the block centered on the target pixel and the spatially or temporally neighboring block supplied from the data selection unit 441, and steady-states correlation information indicating the detected correlation. This is supplied to the direction deriving unit 443. Based on the correlation information supplied from the error estimation unit 442, the stationarity direction deriving unit 443 determines the stationary state of the missing optical signal of the real world 1 from the position of the spatially or temporally neighboring block having the strongest correlation. The angle of continuity of the data in the time direction and the spatial direction in the input image corresponding to the sex is detected, and data continuity information indicating the angle is output.
[0675]
Further, the data continuity detecting unit 101 can execute data continuity detection processing based on the component signal of the input image.
[0676]
FIG. 105 is a block diagram showing the configuration of the data continuity detecting unit 101 that executes data continuity detection processing based on the component signal of the input image.
[0677]
Each of the data continuity detection units 481-1 to 481-3 has the same configuration as that of the data continuity detection unit 101 described above or described later, and each of the component signals of the input image is processed as described above. Or the processing described later is executed.
[0678]
The data continuity detecting unit 481-1 detects data continuity based on the first component signal of the input image, and determines information indicating the continuity of the data detected from the first component signal. To supply. For example, the data continuity detecting unit 481-1 detects data continuity based on the luminance signal of the input image, and supplies information indicating the data continuity detected from the luminance signal to the determining unit 482.
[0679]
The data continuity detecting unit 481-2 detects data continuity based on the second component signal of the input image, and determines information indicating the data continuity detected from the second component signal. To supply. For example, the data continuity detection unit 481-2 detects data continuity based on the I signal that is the color difference signal of the input image, and determines information indicating the continuity of the data detected from the I signal. To supply.
[0680]
  The data continuity detecting unit 481-3 detects data continuity based on the third component signal of the input image, and determines information indicating the data continuity detected from the third component signal. To supply. For example, the data continuity detection unit 481-3Detects the continuity of the data based on the Q signal that is the color difference signal of the input image, and supplies information indicating the continuity of the data detected from the Q signal to the determination unit 482.
[0681]
The determination unit 482 is based on the information indicating the continuity of data detected from each component signal supplied from the data continuity detection units 481-1 to 481-3, and the continuity of the final data in the input image. And data continuity information indicating the continuity of the detected data is output.
[0682]
For example, the determination unit 482 determines the continuity of the maximum data among the continuity of data detected from each component signal supplied from the data continuity detection units 481-1 to 481-3. Let it be stationary. Further, for example, the determination unit 482 finally determines the continuity of the minimum data among the continuity of the data detected from the component signals supplied from the data continuity detection units 481-1 to 481-3. Let the data be stationary.
[0683]
Further, for example, the determination unit 482 sets the average value of data continuity detected from each component signal supplied from the data continuity detection units 481-1 to 481-3 as the final data continuity. . The determination unit 482 uses the median (median value) of data detected from each component signal supplied from the data continuity detection units 481-1 to 481-3 as the final data continuity. It may be.
[0684]
In addition, for example, the determination unit 482 includes, based on a signal input from the outside, out of the continuity of data detected from each component signal supplied from the data continuity detection units 481-1 to 481-3. The stationarity of data specified by an externally input signal is defined as the final stationarity of data. Of the data continuity detected from the component signals supplied from the data continuity detection units 481-1 to 481-3, the determination unit 482 determines the continuity of the predetermined data as the final data continuity. You may make it sex.
[0685]
Note that the determination unit 482 determines the final data steady state based on the error obtained in the process of detecting the continuity of the data of each component signal supplied from the data continuity detection units 481-1 to 481-3. The sex may be determined. The error obtained in the data continuity detection process will be described later.
[0686]
FIG. 106 is a diagram illustrating another configuration of the data continuity detecting unit 101 that executes data continuity detection processing based on the component signal of the input image.
[0687]
The component processing unit 491 generates one signal based on the component signal of the input image and supplies it to the data continuity detection unit 492. For example, the component processing unit 491 generates a signal composed of the sum of the component signal values by adding the values in the component signals of the input image to the pixels at the same position on the screen.
[0688]
For example, the component processing unit 491 generates a signal composed of the average value of the pixel values of the component signals by averaging the pixel values of the component signals of the input image with respect to the pixels at the same position on the screen.
[0689]
The data continuity detection unit 492 detects data continuity in the input image based on the signal supplied from the component processing unit 491, and outputs data continuity information indicating the continuity of the detected data.
[0690]
The data continuity detecting unit 492 has the same configuration as that of the data continuity detecting unit 101 described above or described later, and performs the above-described or described processing on the signal supplied from the component processing unit 491. To do.
[0691]
As described above, the data continuity detection unit 101 detects the continuity of the data of the input image based on the component signal, so that even if the input image includes noise or the like, the data continuity detection unit 101 more accurately. Sex can be detected. For example, the data continuity detecting unit 101 detects the continuity of the data of the input image based on the component signal, so that the data continuity angle (slope), the mixing ratio, or the data steadiness is more accurately detected. A region having sex can be detected.
[0692]
The component signal is not limited to the luminance signal and the color difference signal, but may be a component signal of another method such as an RGB signal or a YUV signal.
[0693]
As described above, the continuity of the data corresponding to the continuity of the missing real-world optical signal of the image data in which a part of the steadiness of the real-world optical signal is missing is projected. When the optical signal is estimated by detecting the angle relative to the reference axis and estimating the steadiness of the missing real-world optical signal based on the detected angle, for the real-world event, More accurate and more accurate processing results can be obtained.
[0694]
Also, a predetermined number of pixels are projected for each target pixel of interest in the image data in which the real-world optical signal is projected and a part of the continuity of the real-world optical signal is missing and for each angle with reference to the reference axis. A set of pixels consisting of a plurality of sets, extracted for each angle, and detected the correlation of the pixel values of pixels at corresponding positions in the plurality of sets, and based on the detected correlation, missing Detecting the continuity angle of the data relative to the reference axis in the detected image data, based on the detected continuity angle in the image data corresponding to the steadiness of the optical signal in the real world When the optical signal is estimated by estimating the steadiness of the missing real-world optical signal, it is possible to obtain a more accurate and more accurate processing result for the real-world event. It becomes like this.
[0695]
FIG. 107 is a block diagram showing still another configuration of the data continuity detecting unit 101.
[0696]
In the data continuity detecting unit 101 shown in FIG. 107, a real-world optical signal is projected, and a pixel of interest that is a pixel of interest in image data that lacks a part of the continuity of the real-world optical signal is detected. The corresponding area is selected, and the frequency based on the correlation value is set for the pixel whose correlation value between the pixel value of the target pixel and the pixel value of the pixel belonging to the selected area is equal to or greater than the threshold value. The frequency of the pixel to which it belongs is detected, and by detecting the regression line based on the detected frequency, the continuity of the data of the image data corresponding to the continuity of the missing optical signal in the real world is detected.
[0697]
The frame memory 501 stores the input image in units of frames, and supplies the pixel values of the pixels constituting the stored frame to the pixel acquisition unit 502. The frame memory 501 stores the current frame of the input image in one page, and obtains the pixel value of the pixel of the previous (previous) frame with respect to the current frame stored in another page. The pixel value of the pixel of the frame of the input image that is a moving image can be supplied to the pixel acquisition unit 502 by switching the page at the switching time of the frame of the input image.
[0698]
The pixel acquisition unit 502 selects a target pixel that is a target pixel based on the pixel value of the pixel supplied from the frame memory 501, and includes a predetermined number of pixels corresponding to the selected target pixel. Select an area. For example, the pixel acquisition unit 502 selects a region composed of 5 × 5 pixels centered on the target pixel.
[0699]
The size of the area selected by the pixel acquisition unit 502 does not limit the present invention.
[0700]
The pixel acquisition unit 502 acquires the pixel value of the pixel in the selected region, and supplies the pixel value of the pixel in the selected region to the frequency detection unit 503.
[0701]
Based on the pixel value of the pixel in the selected region supplied from the pixel acquisition unit 502, the frequency detection unit 503 calculates the correlation value between the pixel value of the pixel of interest and the pixel value of the pixel belonging to the selected region. The frequency of pixels belonging to the region is detected by setting the frequency based on the correlation value to the pixels that are equal to or greater than the threshold value. Details of the frequency setting process based on the correlation value in the frequency detection unit 503 will be described later.
[0702]
The frequency detection unit 503 supplies the detected frequency to the regression line calculation unit 504.
[0703]
The regression line calculation unit 504 calculates a regression line based on the frequency supplied from the frequency detection unit 503. For example, the regression line calculation unit 504 calculates a regression line based on the frequency supplied from the frequency detection unit 503. Further, for example, the regression line calculation unit 504 calculates a regression line that is a predetermined curve based on the frequency supplied from the frequency detection unit 503. The regression line calculation unit 504 supplies the calculated regression line and the calculation result parameter indicating the calculation result to the angle calculation unit 505. The calculation results indicated by the calculation parameters include fluctuations and co-variation described later.
[0704]
The angle calculation unit 505 is input image data that is image data corresponding to the continuity of the missing optical signal in the real world based on the regression line indicated by the calculation result parameter supplied from the regression line calculation unit 504. Detects stationarity. For example, the angle calculation unit 505 is based on the regression line indicated by the calculation result parameter supplied from the regression line calculation unit 504, and the reference in the input image corresponding to the continuity of the missing optical signal of the real world 1 is obtained. Detects the continuity angle of the data with respect to the axis. The angle calculation unit 505 outputs data continuity information indicating the continuity angle of data with reference to the reference axis in the force image.
[0705]
With reference to FIGS. 108 to 110, the angle of data continuity in the input image with reference to the reference axis will be described.
[0706]
In FIG. 108, a circle indicates one pixel, and a double circle indicates a target pixel. The circle color indicates an outline of the pixel value of the pixel, and the lighter color indicates a larger pixel value. For example, black indicates a pixel value of 30, and white indicates a pixel value of 120.
[0707]
When a person views an image composed of the pixels shown in FIG. 108, the person who viewed the image can recognize that a straight line extends obliquely in the upper right direction.
[0708]
The data continuity detecting unit 101 having the configuration shown in FIG. 107 detects that a straight line extends obliquely in the upper right direction when the input image including the pixels shown in FIG. 108 is input.
[0709]
109 is a diagram showing the pixel values of the pixels shown in FIG. 108 as numerical values. A circle indicates one pixel, and a numerical value in the circle indicates a pixel value.
[0710]
For example, the pixel value of the target pixel is 120, the pixel value of the upper pixel of the target pixel is 100, and the pixel value of the lower pixel of the target pixel is 100. Further, the pixel value of the pixel on the left side of the target pixel is 80, and the pixel value of the pixel on the right side of the target pixel is 80. Similarly, the pixel value of the pixel on the lower left side of the target pixel is 100, and the pixel value of the pixel on the upper right side of the target pixel is 100. The pixel value of the upper left pixel of the target pixel is 30, and the pixel value of the lower right pixel of the target pixel is 30.
[0711]
The data continuity detecting unit 101 having the configuration shown in FIG. 107 draws a regression line A as shown in FIG. 110 for the input image shown in FIG.
[0712]
FIG. 111 is a diagram illustrating the relationship between the change in pixel value and the regression line A with respect to the position in the spatial direction of the pixel in the input image. For example, as shown in FIG. 111, the pixel value of the pixel in the region having the continuity of data changes in a mountain range.
[0713]
The data continuity detecting unit 101 having the configuration shown in FIG. 107 draws a regression line A by the method of least squares using the pixel values of the pixels in the region having the data continuity as weights. The regression line A obtained by the data continuity detecting unit 101 represents the continuity of data around the pixel of interest.
[0714]
As shown in FIG. 112, the continuity angle of the data with reference to the reference axis in the input image is obtained as an angle θ between the regression line A and, for example, the axis indicating the spatial direction X as the reference axis. Is detected.
[0715]
Next, a specific method for calculating the regression line in the data continuity detecting unit 101 having the configuration shown in FIG. 107 will be described.
[0716]
For example, the frequency detection unit 503 is based on the pixel values of the pixels in the region consisting of 9 pixels in the spatial direction X, 5 pixels in the spatial direction Y, and 45 pixels in total, which are supplied from the pixel acquisition unit 502 and center on the target pixel. The frequency corresponding to the coordinates of the pixels belonging to the region is detected.
[0717]
For example, the frequency detection unit 503 calculates the frequency by the calculation represented by the expression (32), thereby calculating the coordinates (x_i, y_j) Frequency L_{i, j}Is detected.
[0718]
[Expression 23]

... (32)
[0719]
In equation (32), P_0,0Indicates the pixel value of the target pixel and P_{i, j}Is the coordinate (x_i, y_j) Indicates the pixel value of the pixel. Th indicates a threshold value.
[0720]
i indicates the order of pixels in the spatial direction X in the region, and 1 ≦ i ≦ k. j indicates the order of pixels in the spatial direction Y in the region, and 1 ≦ j ≦ l.
[0721]
k indicates the number of pixels in the spatial direction X in the region, and l indicates the number of pixels in the spatial direction Y in the region. For example, when a region consists of 9 pixels in the spatial direction X and 5 pixels in the spatial direction Y, for a total of 45 pixels,

k

Is 9, and l is 5.
[0722]
FIG. 113 is a diagram illustrating an example of a region acquired by the pixel acquisition unit 502. In FIG. 113, a dotted square represents one pixel.
[0723]
For example, as shown in FIG. 113, the region includes nine pixels centered on the target pixel in the spatial direction X and five pixels centered on the target pixel in the spatial direction Y, and the coordinates (x, When y) is (0,0), the coordinates (x, y) of the upper left pixel of the region are (-4,2), and the coordinates (x, y) of the upper right pixel of the region are ( 4,2), the coordinates (x, y) of the lower left pixel of the region are (-4, -2), and the coordinates (x, y) of the lower right pixel of the region are (4,- 2).
[0724]
The pixel order i in the spatial direction X of the pixel on the left side of the region is 1, and the pixel order i in the spatial direction X of the pixel on the right side of the region is 9. The pixel order j in the spatial direction Y of the lower pixel of the region is 1, and the pixel order j of the upper pixel in the region in the spatial direction Y is 5.
[0725]
That is, the coordinates of the pixel of interest (x_Five, y_Three) Is (0,0), the coordinates of the upper left pixel of the area (x₁, y_Five) Is (-4,2) and the coordinates of the upper right pixel (x₉, y_Five) Is (4,2) and the coordinates of the lower left pixel of the region (x₁, y₁) Is (-4, -2) and the coordinates of the lower right pixel (x₉, y₁) Is (4, -2).
[0726]
Since the frequency detection unit 503 calculates the absolute value of the difference between the pixel value of the target pixel and the pixel value of the pixel belonging to the region as the correlation value in Expression (32), the image of the thin line in the real world 1 is projected. In the input image, not only the region having the continuity of the data but also the image of the real world 1 which is a color different from the background and has a single color and a straight edge is projected. Thus, it is possible to detect the frequency indicating the feature of the spatial change of the pixel value in the region having the continuity of the binary edge data.
[0727]
Note that the frequency detection unit 503 may detect the frequency based not only on the absolute value of the difference from the pixel value of the pixel but also on another correlation value such as a correlation coefficient.
[0728]
Further, in the equation (32), the exponential function is applied in order to make a large difference in the frequency with respect to the difference in pixel value, and other functions may be applied.
[0729]
The threshold value Th can be an arbitrary value. For example, the threshold value Th can be set to 30.
[0730]
As described above, the frequency detection unit 503 sets the frequency based on the correlation value to the pixel whose correlation value with the pixel value of the pixel belonging to the selected region is greater than or equal to the threshold value, thereby determining the frequency of the pixel belonging to the region. To detect.
[0731]
In addition, for example, the frequency detection unit 503 calculates the frequency by the calculation represented by the expression (33), so that the coordinates (x_i, y_j) Frequency L_{i, j}Is detected.
[0732]
[Expression 24]

... (33)
[0733]
Coordinates (x_i, y_j) In L_{i, j}(1 ≦ i ≦ k, 1 ≦ j ≦ l), coordinates x_iFrequency L in space direction Y_{i, j}Sum of q_iIs expressed by equation (34), and the coordinates y_jFrequency L in space direction X_{i, j}Sum of h_jIs represented by Expression (35).
[0734]
[Expression 25]

... (34)
[0735]
[Equation 26]

... (35)
[0736]
The total sum u of frequencies is expressed by Expression (36).
[0737]
[Expression 27]

... (36)
[0738]
In the example shown in FIG. 113, the frequency L of the coordinate of the pixel of interest_5,3Is 3, and the frequency L of the coordinates of the pixel above the target pixel is L_5,4Is 1 and the frequency L of the coordinates of the pixel on the upper right side of the target pixel_6,4Is 4, the frequency L of the coordinates of the pixel on the right side of the pixel by 2 pixels above the target pixel_6,5Is 2 and is the frequency L of the coordinates of the pixel on the right side of the pixel by 2 pixels above the pixel of interest._7,5Is 3. Also, the frequency L of the coordinates of the pixel below the target pixel_5,2Is 2, and the frequency L of the coordinates of the pixel to the left of the pixel of interest_4,3Is 1 and the frequency L of the coordinates of the lower left pixel of the target pixel_4,2Is 3, and the frequency L of the coordinates of the pixel on the lower side of the pixel by 2 pixels to the left of the pixel of interest_3,2Is 2, and is the frequency L of the coordinates of the pixel on the lower side of the pixel by 2 pixels below the pixel of interest._3,1Is 4. The frequency of the coordinates of other pixels in the region shown in FIG. 113 is 0. In FIG. 113, the frequency of 0 is omitted.
[0739]
In the region shown in FIG. 113, the sum q of the frequencies in the spatial direction Y₁Is 0 because the frequency L where i is 1 is all 0, and q₂Is 0 because the frequencies L where i is 2 are all 0. q_ThreeIs the frequency L_3,2Is 2, frequency L_3,1Is 6, so is 6. Similarly, q_FourIs 4 and q_FiveIs 6 and q₆Is 6 and q₇Is 3, q₈Is 0 and q₉Is 0.
[0740]
In the region shown in FIG. 113, the sum h of frequencies in the spatial direction X₁Is the frequency L_3,1Is 4, so is 4. h₂Is the frequency L_3,2Is 2, frequency L_4,2Is 3, frequency L_5,2Is 7, so is 7. Similarly, h_ThreeIs 4 and h_FourIs 5 and h_FiveIs 5.
[0741]
In the region shown in FIG. 113, the total sum u of frequencies is 25.
[0741]
Frequency L in space direction Y_{i, j}Sum of q_iWith coordinates x_iSum T of the results of multiplying by_xIs represented by Expression (37).
[0743]
[Expression 28]

... (37)
[0744]
Frequency L in space direction X_{i, j}Sum of h_jThe coordinate y_jSum T of the results of multiplying by_yIs represented by Expression (37).
[0745]
[Expression 29]

... (38)
[0746]
For example, in the region shown in FIG. 113, q₁Is 0 and x₁Is -4, so q₁x₁Is 0 and q₂Is 0 and x₂Is -3, so q₂x₂Is 0. Similarly, q_ThreeIs 6, and x_ThreeIs -2, so q_Threex_ThreeIs -12 and q_FourIs 4, and x_FourIs -1, so q_Fourx_FourIs -4 and q_FiveIs 6, and x_FiveIs 0, so q_Fivex_FiveIs 0. Similarly, q₆Is 6, and x₆Is 1, so q₆x₆Is 6, q₇Is 3, and x₇Is 2, so q₇x₇Is 6, q₈Is 0 and x₈Is 3, so q₈x₈Is 0 and q₉Is 0 and x₉Is 4, so q₉x₉Is 0. Therefore, q₁x₁Thru q₉x₉T which is the sum of_xIs -4.
[0747]
For example, in the region shown in FIG. 113, h₁Is 4, y₁Is -2, so h₁y₁Is -8 and h₂Is 7, y₂Is -1, so h₂y₂Is -7. Similarly, h_ThreeIs 4, y_ThreeIs 0, so h_Threey_ThreeIs 0 and h_FourIs 5, y_FourIs 1, so h_Foury_FourIs 5 and h_FiveIs 5, y_FiveIs 2, so h_Fivey_FiveIs 10. Therefore, h₁y₁Thru h_Fivey_FiveT which is the sum of_yIs 0.
[0748]
Q_iIs defined as follows.
[0749]
[30]

... (39)
[0750]
x variation S_xIs represented by Formula (40).
[0751]
[31]

... (40)
[0752]
fluctuation of y_yIs represented by Formula (41).
[0753]
[Expression 32]

... (41)
[0754]
Covariation S_xyIs represented by equation (42).
[0755]
[Expression 33]

... (42)
[0756]
Consider obtaining a linear regression line represented by equation (43).
[0757]
y = ax + b (43)
[0758]
The slope a and the intercept b can be obtained as follows by the method of least squares.
[0759]
[Expression 34]

... (44)
[0760]
[Expression 35]

... (45)
[0761]
However, the necessary condition for obtaining the correct regression line is the frequency L_{i, j}Is distributed in a Gaussian distribution with respect to the regression line. In other words, the frequency detection unit 503 has a frequency L_{i, j}So that the pixel value of the region pixel is the frequency L_{i, j}Need to be converted to
[0762]
The regression line calculation unit 504 obtains a regression line by executing the calculations represented by the equations (44) and (45).
[0763]
The angle calculation unit 505 converts the slope a of the regression line into an angle θ with respect to the axis in the spatial direction X, which is the reference axis, by the calculation shown in Expression (46).
[0764]
θ = tan^-1(a) ... (46)
[0765]
When the regression line calculation unit 504 calculates a regression line that is a predetermined curve, the angle calculation unit 505 obtains the angle θ of the regression line at the position of the target pixel with respect to the reference axis.
[0766]
Here, in order to detect data continuity for each pixel, the intercept b is not necessary. Thus, consider obtaining a linear regression line represented by equation (47).
[0767]
y = ax (47)
[0768]
In this case, the regression line calculation unit 504 can obtain the slope a by Expression (48) by the method of least squares.
[0769]
[Expression 36]

... (48)
[0770]
With reference to the flowchart of FIG. 114, the data continuity detection processing by the data continuity detection unit 101 whose configuration is shown in FIG. 107, corresponding to the processing of step S101, will be described.
[0771]
In step S 501, the pixel acquisition unit 502 selects a target pixel from pixels that are not yet set as the target pixel. For example, the pixel acquisition unit 502 selects a target pixel in the raster scan order. In step S 502, the pixel acquisition unit 502 acquires a pixel value of a pixel included in a region centered on the target pixel, and supplies the acquired pixel value of the pixel to the frequency detection unit 503. For example, the pixel acquisition unit 502 selects a region composed of 9 × 5 pixels centered on the target pixel, and acquires the pixel values of the pixels included in the region.
[0772]
In step S503, the frequency detection unit 503 detects the frequency by converting the pixel value of the pixel included in the region into the frequency. For example, the frequency detection unit 503 converts the pixel value to the frequency L by the calculation shown in Expression (32)._{i, j}Convert to In this case, frequency L_{i, j}So that the pixel value of the pixel in the region is a frequency L_{i, j}Is converted to The frequency detection unit 503 supplies the converted frequency to the regression line calculation unit 504.
[0773]
In step S504, the regression line calculation unit 504 obtains a regression line based on the frequency supplied from the frequency detection unit 503. For example, the regression line calculation unit 504 obtains a regression line based on the frequency supplied from the frequency detection unit 503. More specifically, the regression line calculation unit 504 executes a calculation represented by Expression (44) and Expression (45) to obtain a regression line. The regression line calculation unit 504 supplies a calculation result parameter indicating the regression line that is the calculated result to the angle calculation unit 505.
[0774]
In step S505, the angle calculation unit 505 detects the continuity of the data of the image data corresponding to the continuity of the missing optical signal in the real world by calculating the angle of the regression line with respect to the reference axis. For example, the angle calculation unit 505 converts the slope a of the regression line into an angle θ with respect to the axis in the spatial direction X, which is the reference axis, by the calculation shown in Expression (46). The angle calculation unit 505 outputs data continuity information indicating the angle of the regression line with respect to the reference axis.
[0775]
Note that the angle calculation unit 505 may output data continuity information indicating the inclination a.
[0776]
In step S506, the pixel acquisition unit 502 determines whether or not all pixels have been processed, and if it is determined that all pixels have not been processed, the process returns to step S501 and is still a target pixel. A pixel of interest is selected from the unselected pixels, and the above-described processing is repeated.
[0777]
If it is determined in step S506 that all pixels have been processed, the process ends.
[0778]
As described above, the data continuity detecting unit 101 having the configuration shown in FIG. 107 calculates the continuity angle of the data with reference to the reference axis in the image data corresponding to the continuity of the missing optical signal of the real world 1. Can be detected.
[0779]
In particular, the data continuity detecting unit 101 having the configuration shown in FIG. 107 can obtain an angle equal to or smaller than a pixel based on the pixel value of a pixel in a relatively narrow region.
[0780]
As described above, the region corresponding to the target pixel that is the target pixel of the image data in which the real-world optical signal is projected and a part of the continuity of the real-world optical signal is lost is selected, and the target pixel is selected. The frequency of pixels belonging to the region is detected and detected by setting the frequency based on the correlation value to pixels whose correlation value between the pixel value of the pixel and the pixel value of the pixel belonging to the selected region is equal to or greater than the threshold value. By detecting the regression line based on the measured frequency, the stationarity of the image data corresponding to the stationarity of the missing real-world optical signal is detected, and based on the stationarity of the detected image data. If the optical signal is estimated by estimating the continuity of the missing real-world optical signal, it is possible to obtain a more accurate and more accurate processing result for the real-world event. It becomes like this.
[0781]
Note that the data continuity detecting unit 101 having the configuration shown in FIG. 107 converts the pixel values of pixels belonging to a predetermined region into a frequency for the target frame to which the target pixel belongs and the frames before and after the target frame, If the regression plane is obtained based on the frequency, it is possible to detect the continuity angle of the data in the time direction together with the continuity angle of the data in the spatial direction.
[0782]
FIG. 115 is a block diagram showing still another configuration of the data continuity detecting unit 101.
[0783]
In the data continuity detecting unit 101 shown in FIG. 115, a real-world optical signal is projected, and a pixel of interest that is a pixel of interest in image data that lacks a part of the continuity of the real-world optical signal is detected. The corresponding area is selected, and the frequency based on the correlation value is set for the pixel whose correlation value between the pixel value of the target pixel and the pixel value of the pixel belonging to the selected area is equal to or greater than the threshold value. By detecting the frequency of the pixel to which the pixel belongs and detecting a regression line based on the detected frequency, the region having the continuity of the data in the image data corresponding to the continuity of the missing optical signal in the real world is detected. .
[0784]
The frame memory 601 stores an input image in units of frames and supplies pixel values of pixels constituting the stored frame to the pixel acquisition unit 602. The frame memory 601 stores the current frame of the input image in one page, and obtains the pixel value of the pixel of the previous (previous) frame with respect to the current frame stored in another page. The pixel value of the pixel of the frame of the input image which is a moving image can be supplied to the pixel acquisition unit 602 by switching the page at the switching time of the frame of the input image.
[0785]
The pixel acquisition unit 602 selects a target pixel as a target pixel based on the pixel value of the pixel supplied from the frame memory 601 and includes a predetermined number of pixels corresponding to the selected target pixel. Select an area. For example, the pixel acquisition unit 602 selects a region composed of 5 × 5 pixels centered on the target pixel.
[0786]
The size of the area selected by the pixel acquisition unit 602 does not limit the present invention.
[0787]
The pixel acquisition unit 602 acquires the pixel value of the pixel in the selected region, and supplies the pixel value of the pixel in the selected region to the frequency detection unit 603.
[0788]
Based on the pixel value of the pixel in the selected region supplied from the pixel acquisition unit 602, the frequency detection unit 603 obtains a correlation value between the pixel value of the pixel of interest and the pixel value of the pixel belonging to the selected region. The frequency of pixels belonging to the region is detected by setting the frequency based on the correlation value to the pixels that are equal to or greater than the threshold value. Details of the frequency setting process based on the correlation value in the frequency detection unit 603 will be described later.
[0789]
The frequency detection unit 603 supplies the detected frequency to the regression line calculation unit 604.
[0790]
The regression line calculation unit 604 calculates a regression line based on the frequency supplied from the frequency detection unit 603. For example, the regression line calculation unit 604 calculates a regression line based on the frequency supplied from the frequency detection unit 603. Further, for example, the regression line calculation unit 604 calculates a regression line that is a predetermined curve based on the frequency supplied from the frequency detection unit 603. The regression line calculation unit 604 supplies the calculated regression line and a calculation result parameter indicating the calculation result to the region calculation unit 605. The calculation results indicated by the calculation parameters include fluctuations and co-variation described later.
[0791]
The area calculation unit 605 performs data in the input image, which is image data, corresponding to the continuity of the missing optical signal in the real world based on the regression line indicated by the calculation result parameter supplied from the regression line calculation unit 604. A region having the continuity of is detected.
[0792]
FIG. 116 is a diagram illustrating the relationship between the change in pixel value and the regression line A with respect to the position in the spatial direction of the pixel in the input image. For example, as shown in FIG. 116, the pixel value of the pixel in the region having the continuity of data changes in a mountain range.
[0793]
The data continuity detecting unit 101 having the configuration shown in FIG. 115 draws a regression line A by the method of least squares using the pixel values of the pixels in the region having the data continuity as weights. The regression line A obtained by the data continuity detecting unit 101 represents the continuity of data around the pixel of interest.
[0794]
Drawing a regression line means approximation based on a Gaussian function. As shown in FIG. 117, the data continuity detecting unit 101 having the configuration shown in FIG. 115 knows the approximate width of the area in the data 3 where the thin line image is projected, for example, by obtaining the standard deviation. Can do. In addition, for example, the data continuity detecting unit 101 having the configuration shown in FIG. 115 can know the approximate width of the area in the data 3 on which the thin line image is projected based on the correlation coefficient.
[0795]
Next, a specific method for calculating the regression line in the data continuity detecting unit 101 having the configuration shown in FIG. 115 will be described.
[0796]
For example, the frequency detection unit 603 is supplied from the pixel acquisition unit 602 based on the pixel values of the pixels in the region consisting of 9 pixels in the spatial direction X and 5 pixels in the spatial direction Y, with a total of 45 pixels centered on the target pixel. The frequency corresponding to the coordinates of the pixels belonging to the region is detected.
[0797]
For example, the frequency detection unit 603 calculates the frequency by the calculation represented by the formula (49), thereby calculating the coordinates (x_i, y_j) Frequency L_{i, j}Is detected.
[0798]
[Expression 37]

... (49)
[0799]
In formula (49), P_0,0Indicates the pixel value of the target pixel and P_{i, j}Is the coordinate (x_i, y_j) Indicates the pixel value of the pixel. Th indicates a threshold value.
[0800]
i indicates the order of pixels in the spatial direction X in the region, and 1 ≦ i ≦ k. j indicates the order of pixels in the spatial direction Y in the region, and 1 ≦ j ≦ l.
[0801]
k indicates the number of pixels in the spatial direction X in the region, and l indicates the number of pixels in the spatial direction Y in the region. For example, when the region is composed of 9 pixels in the spatial direction X and 5 pixels in the spatial direction Y, for a total of 45 pixels, K is 9 and l is 5.
[0802]
FIG. 118 is a diagram illustrating an example of a region acquired by the pixel acquisition unit 602. In FIG. 118, a dotted square represents one pixel.
[0803]
For example, as shown in FIG. 118, the region is composed of 9 pixels centered on the target pixel in the spatial direction X and 5 pixels centered on the target pixel in the spatial direction Y, and the coordinates (x, When y) is (0,0), the coordinates (x, y) of the upper left pixel of the region are (-4,2), and the coordinates (x, y) of the upper right pixel of the region are ( 4,2), the coordinates (x, y) of the lower left pixel of the region are (-4, -2), and the coordinates (x, y) of the lower right pixel of the region are (4,- 2).
[0804]
The pixel order i in the spatial direction X of the pixel on the left side of the region is 1, and the pixel order i in the spatial direction X of the pixel on the right side of the region is 9. The pixel order j in the spatial direction Y of the lower pixel of the region is 1, and the pixel order j of the upper pixel in the region in the spatial direction Y is 5.
[0805]
That is, the coordinates of the pixel of interest (x_Five, y_Three) Is (0,0), the coordinates of the upper left pixel of the area (x₁, y_Five) Is (-4,2) and the coordinates of the upper right pixel (x₉, y_Five) Is (4,2) and the coordinates of the lower left pixel of the region (x₁, y₁) Is (-4, -2) and the coordinates of the lower right pixel (x₉, y₁) Is (4, -2).
[0806]
Since the frequency detection unit 603 calculates the absolute value of the difference between the pixel value of the target pixel and the pixel value of the pixel belonging to the region as the correlation value in Expression (49), the image of the thin line in the real world 1 is projected. In the input image, not only the region having the continuity of the data but also the image of the real world 1 which is a color different from the background and has a single color and a straight edge is projected. Thus, it is possible to detect the frequency indicating the feature of the spatial change of the pixel value in the region having the continuity of the binary edge data.
[0807]
Note that the frequency detection unit 603 may detect the frequency based not only on the absolute value of the difference from the pixel value of the pixel but also on another correlation value such as a correlation coefficient.
[0808]
Moreover, in the formula (49), the exponential function is applied in order to make a large difference in the frequency with respect to the difference in pixel value, and other functions may be applied.
[0809]
The threshold value Th can be an arbitrary value. For example, the threshold value Th can be set to 30.
[0810]
As described above, the frequency detection unit 603 sets the frequency based on the correlation value to the pixel whose correlation value with the pixel value of the pixel belonging to the selected area is equal to or greater than the threshold value, thereby determining the frequency of the pixel belonging to the area. To detect.
[0811]
In addition, for example, the frequency detection unit 603 calculates the frequency by the calculation represented by the formula (50), so that the coordinates (x_i, y_j) Frequency L_{i, j}Is detected.
[0812]
[Formula 38]

... (50)
[0813]
Coordinates (x_i, y_j) In L_{i, j}(1 ≦ i ≦ k, 1 ≦ j ≦ l), coordinates x_iFrequency L in space direction Y_{i, j}Sum of q_iIs expressed by equation (51), and the coordinates y_jFrequency L in space direction X_{i, j}Sum of h_jIs represented by Formula (52).
[0814]
[39]

... (51)
[0815]
[Formula 40]

... (52)
[0816]
The total frequency u is expressed by the equation (53).
[0817]
[Expression 41]

... (53)
[0818]
In the example shown in FIG. 118, the frequency L of the coordinate of the target pixel_5,3Is 3, and the frequency L of the coordinates of the pixel above the target pixel is L_5,4Is 1 and the frequency L of the coordinates of the pixel on the upper right side of the target pixel_6,4Is 4, the frequency L of the coordinates of the pixel on the right side of the pixel by 2 pixels above the target pixel_6,5Is 2 and is the frequency L of the coordinates of the pixel on the right side of the pixel by 2 pixels above the pixel of interest._7,5Is 3. Also, the frequency L of the coordinates of the pixel below the target pixel_5,2Is 2, and the frequency L of the coordinates of the pixel to the left of the pixel of interest_4,3Is 1 and the frequency L of the coordinates of the lower left pixel of the target pixel_4,2Is 3, and the frequency L of the coordinates of the pixel on the lower side of the pixel by 2 pixels to the left of the pixel of interest_3,2Is 2, and is the frequency L of the coordinates of the pixel on the lower side of the pixel by 2 pixels below the pixel of interest._3,1Is 4. The frequency of the coordinates of other pixels in the region shown in FIG. 118 is 0. In FIG. 118, the frequency of 0 is omitted.
[0819]
118, the sum q of the frequencies in the spatial direction Y₁Is 0 because the frequency L where i is 1 is all 0, and q₂Is 0 because the frequencies L where i is 2 are all 0. q_ThreeIs the frequency L_3,2Is 2, frequency L_3,1Is 6, so is 6. Similarly, q_FourIs 4 and q_FiveIs 6 and q₆Is 6 and q₇Is 3, q₈Is 0 and q₉Is 0.
[0820]
In the region shown in FIG. 118, the sum h of frequencies in the spatial direction X₁Is the frequency L_3,1Is 4, so is 4. h₂Is the frequency L_3,2Is 2, frequency L_4,2Is 3, frequency L_5,2Is 7, so is 7. Similarly, h_ThreeIs 4 and h_FourIs 5 and h_FiveIs 5.
[0821]
In the region shown in FIG. 118, the total sum u of frequencies is 25.
[0822]
Frequency L in space direction Y_{i, j}Sum of q_iWith coordinates x_iSum T of the results of multiplying by_xIs represented by Formula (54).
[0823]
[Expression 42]

... (54)
[0824]
Frequency L in space direction X_{i, j}Sum of h_jThe coordinate y_jSum T of the results of multiplying by_yIs represented by Expression (55).
[0825]
[Expression 43]

... (55)
[0826]
For example, in the region shown in FIG. 118, q₁Is 0 and x₁Is -4, so q₁x₁Is 0 and q₂Is 0 and x₂Is -3, so q₂x₂Is 0. Similarly, q_ThreeIs 6, and x_ThreeIs -2, so q_Threex_ThreeIs -12 and q_FourIs 4, and x_FourIs -1, so q_Fourx_FourIs -4 and q_FiveIs 6, and x_FiveIs 0, so q_Fivex_FiveIs 0. Similarly, q₆Is 6, and x₆Is 1, so q₆x₆Is 6, q₇Is 3, and x₇Is 2, so q₇x₇Is 6, q₈Is 0 and x₈Is 3, so q₈x₈Is 0 and q₉Is 0 and x₉Is 4, so q₉x₉Is 0. Therefore, q₁x₁Thru q₉x₉T which is the sum of_xIs -4.
[0827]
For example, in the region shown in FIG. 118, h₁Is 4, y₁Is -2, so h₁y₁Is -8 and h₂Is 7, y₂Is -1, so h₂y₂Is -7. Similarly, h_ThreeIs 4, y_ThreeIs 0, so h_Threey_ThreeIs 0 and h_FourIs 5, y_FourIs 1, so h_Foury_FourIs 5 and h_FiveIs 5, y_FiveIs 2, so h_Fivey_FiveIs 10. Therefore, h₁y₁Thru h_Fivey_FiveT which is the sum of_yIs 0.
[0828]
Q_iIs defined as follows.
[0829]
(44)

... (56)
[0830]
x variation S_xIs represented by Expression (57).
[0831]
[Equation 45]

... (57)
[0832]
fluctuation of y_yIs represented by Formula (58).
[0833]
[Equation 46]

... (58)
[0834]
Covariation S_xyIs represented by Equation (59).
[0835]
[Equation 47]

... (59)
[0836]
Consider obtaining a linear regression line represented by equation (60).
[0837]
y = ax + b (60)
[0838]
The slope a and the intercept b can be obtained as follows by the method of least squares.
[0839]
[Formula 48]

... (61)
[0840]
[Equation 49]

... (62)
[0841]
However, the necessary condition for obtaining the correct regression line is the frequency L_{i, j}Is distributed in a Gaussian distribution with respect to the regression line. In other words, the frequency detection unit 603 performs a frequency L_{i, j}So that the pixel value of the region pixel is the frequency L_{i, j}Need to be converted to
[0841]
The regression line calculation unit 604 obtains a regression line by executing the calculations represented by the equations (61) and (62).
[0843]
Further, the intercept b is not necessary for detecting the continuity of data for each pixel. Accordingly, consider obtaining a linear regression line represented by equation (63).
[0844]
y = ax (63)
[0845]
In this case, the regression line calculation unit 604 can obtain the slope a by Expression (64) by the method of least squares.
[0846]
[Equation 50]

... (64)
[0847]
In the first method for specifying a region having data continuity, an estimation error of a regression line shown in Expression (60) is used.
[0848]
fluctuation of y_{y ・ x}Is obtained by the calculation represented by the equation (65).
[0849]
[Equation 51]

... (65)
[0850]
The variance of the estimation error is obtained by the calculation represented by Expression (66) using the fluctuation.
[0851]
[Formula 52]

... (66)
[0852]
Therefore, the standard deviation is derived from the following equation.
[0853]
[Equation 53]

... (67)
[0854]
However, if the standard deviation is an area where the image of the thin line is projected, it is an amount equivalent to the width of the thin line. Therefore, it is determined that the standard deviation is not an area having a steady state of data because the standard deviation is large. It is not possible. However, for example, the class classification adaptation process fails because the narrow line width is narrow in the area with the steady state of data, so in order to detect areas where the class classification adaptation process is likely to fail, Information indicating a region detected using the deviation can be used.
[0855]
The area calculation unit 605 calculates a standard deviation by the calculation represented by Expression (67), and calculates an area having data continuity in the input image based on the standard deviation. For example, the region calculation unit 605 obtains a distance by multiplying a standard deviation by a predetermined coefficient, and sets a region within the obtained distance from the regression line as a region having data continuity. For example, the region calculation unit 605 calculates a region within a standard deviation from the regression line with the regression line as the center as a region having data continuity.
[0856]
In the second method, the frequency correlation is used to detect a region having a steady state of data.
[0857]
Correlation coefficient r_xyIs the variation of x S_x, Y variation S_y, And covariation S_xyBased on the above, it can be obtained by the calculation represented by the equation (68).
[0858]
[Formula 54]

... (68)
[0859]
Since the correlation includes a positive correlation and a negative correlation, the region calculation unit 605 calculates the correlation coefficient r_xyFind the absolute value of_xyIt is determined that the closer the absolute value of is to 1, the stronger the correlation is. More specifically, the area calculation unit 605 calculates the threshold value and the correlation coefficient r._xyAnd the correlation coefficient r_xyA region where the absolute value of is equal to or greater than a threshold is detected as a region having data continuity.
[0860]
With reference to the flowchart of FIG. 119, the data continuity detection process performed by the data continuity detection unit 101 whose configuration is shown in FIG. 115, corresponding to the process of step S101, will be described.
[0861]
In step S 601, the pixel acquisition unit 602 selects a target pixel from pixels that have not yet been set as the target pixel. For example, the pixel acquisition unit 602 selects a target pixel in the raster scan order. In step S 602, the pixel acquisition unit 602 acquires pixel values of pixels included in a region centered on the target pixel, and supplies the acquired pixel values of the pixels to the frequency detection unit 603. For example, the pixel acquisition unit 602 selects a region composed of 9 × 5 pixels centered on the target pixel, and acquires the pixel values of the pixels included in the region.
[0862]
In step S603, the frequency detection unit 603 detects the frequency by converting the pixel value of the pixel included in the region into the frequency. For example, the frequency detection unit 603 converts the pixel value to the frequency L by the calculation represented by Expression (49)._{i, j}Convert to In this case, frequency L_{i, j}Is distributed in a Gaussian distribution, the pixel values of the pixels in the region are frequency L_{i, j}Is converted to The frequency detection unit 603 supplies the converted frequency to the regression line calculation unit 604.
[0863]
In step S604, the regression line calculation unit 604 obtains a regression line based on the frequency supplied from the frequency detection unit 503. For example, the regression line calculation unit 604 obtains a regression line based on the frequency supplied from the frequency detection unit 603. More specifically, the regression line calculation unit 604 obtains a regression line by executing the calculations represented by the equations (61) and (62). The regression line calculation unit 604 supplies a calculation result parameter indicating the regression line that is the calculated result to the region calculation unit 605.
[0864]
In step S605, the region calculation unit 605 calculates a standard deviation for the regression line. For example, the region calculation unit 605 calculates a standard deviation with respect to the regression line by the calculation shown in Expression (67).
[0865]
In step S606, the region calculation unit 605 identifies a region having data continuity in the input image from the standard deviation. For example, the area calculation unit 605 obtains a distance by multiplying the standard deviation by a predetermined coefficient, and identifies an area within the obtained distance from the regression line as an area having data continuity.
[0866]
The area calculation unit 605 outputs data continuity information indicating an area having data continuity.
[0867]
In step S 607, the pixel acquisition unit 602 determines whether or not all pixels have been processed. If it is determined that all pixels have not been processed, the pixel acquisition unit 602 returns to step S 601 and is still a target pixel. A pixel of interest is selected from the unselected pixels, and the above-described processing is repeated.
[0868]
If it is determined in step S607 that all pixels have been processed, the process ends.
[0869]
With reference to the flowchart of FIG. 120, another process of detecting data continuity by the data continuity detecting unit 101 whose configuration is shown in FIG. 115 corresponding to the process of step S 101 will be described. Since the process of step S621 thru | or step S624 is the same as the process of step S601 thru | or step S604, the description is abbreviate | omitted.
[0870]
In step S625, the region calculation unit 605 calculates a correlation coefficient for the regression line. For example, the region calculation unit 605 calculates a correlation coefficient with respect to the regression line by the calculation represented by Expression (68).
[0871]
In step S626, the region calculation unit 605 identifies a region having data continuity in the input image from the correlation coefficient. For example, the region calculation unit 605 compares a threshold value stored in advance with the absolute value of the correlation coefficient, and specifies a region where the absolute value of the correlation coefficient is equal to or greater than the threshold value as a region having data continuity. .
[0872]
The area calculation unit 605 outputs data continuity information indicating an area having data continuity.
[0873]
Since the process of step S627 is the same as the process of step S607, the description thereof is omitted.
[0874]
In this way, the data continuity detecting unit 101 having the configuration shown in FIG. 115 can detect a region having data continuity in the image data corresponding to the continuity of the missing optical signal of the real world 1. .
[0875]
As described above, the region corresponding to the target pixel that is the target pixel of the image data in which the real-world optical signal is projected and a part of the continuity of the real-world optical signal is lost is selected, and the target pixel is selected. The frequency of pixels belonging to the region is detected and detected by setting the frequency based on the correlation value to pixels whose correlation value between the pixel value of the pixel and the pixel value of the pixel belonging to the selected region is equal to or greater than the threshold value. By detecting the regression line based on the frequency, the region having the continuity of the data in the image data corresponding to the continuity of the missing optical signal in the real world is detected, and the steady state of the data of the detected image data If the optical signal is estimated by estimating the continuity of the missing optical signal in the real world based on the characteristics, a more accurate and more accurate processing result is obtained for the real-world event. I can To become.
[0876]
FIG. 121 shows the configuration of another embodiment of the data continuity detecting unit 101.
[0877]
121 includes a data selection unit 701, a data addition unit 702, and a steady direction deriving unit 703.
[0878]
The data selection unit 701 selects each pixel of the input image as a target pixel, selects pixel value data of a pixel corresponding to each target pixel, and outputs the pixel value data to the data addition unit 702.
[0879]
The data addition unit 702 performs addition calculation in the least square method based on the data input from the data selection unit 701, and outputs the addition calculation result to the steady direction deriving unit 703. The addition calculation by the data addition unit 702 is an operation in the term of summation used for the calculation of the least square method, which will be described later, and the calculation result is a feature of image data for detecting a stationary angle. It can be said that there is.
[0880]
The steady direction deriving unit 703 determines the steady direction, that is, the angle from the reference axis of the data continuity (for example, a slant such as a thin line or a binary edge) from the addition calculation result input from the data adding unit 702. Or direction) and outputs this as data continuity information.
[0881]
Next, with reference to FIG. 122, an outline of an operation for detecting continuity (direction or angle) in the data continuity detecting unit 101 will be described. In FIGS. 122 and 123, portions corresponding to those in FIGS. 6 and 7 are denoted by the same reference numerals, and description thereof will be omitted below as appropriate.
[0882]
As shown in FIG. 122, a signal (for example, an image) in the real world 1 is obtained by a sensor 2 (for example, CCD (Charge Coupled) by an optical system 141 (for example, a lens or LPF (Low Pass Filter)). Device) or CMOS (Complementary Metal-Oxide Semiconductor), etc.). The sensor 2 is composed of an element having integration characteristics such as CCD and CMOS. With such a configuration, an image obtained from the data 3 output from the sensor 2 is different from the image of the real world 1 (the difference is generated from the image of the real world 1).
[0883]
Therefore, as shown in FIG. 123, the data continuity detecting unit 101 uses the model 705 to approximately describe the real world 1 using an approximate expression, and extracts data continuity from the approximate expression. The model 705 is expressed by N variables, for example. More precisely, the model 705 approximates (describes) the real world 1 signal.
[0884]
The data continuity detecting unit 101 extracts M pieces of data 706 from the data 3 in order to predict the model 705. As a result, the model 705 is constrained by data continuity.
[0885]
That is, the model 705 is an information indicating an event in the real world 1 having continuity (a constant characteristic in a predetermined dimension direction) that causes data continuity of data in the data 3 when acquired by the sensor 2. (Signal)) is approximated.
[0886]
Here, if the number M of data 706 is equal to or greater than the number N of variables in the model 705, the model 705 represented by N variables can be predicted from the M data 706.
[0887]
Furthermore, the data continuity detecting unit 101 predicts a model 705 that approximates (describes) the real world 1 (signal thereof), thereby determining the data continuity included in the signal that is information of the real world 1 by, for example, a thin line Or a binary edge direction (inclination or an angle formed with an axis when a predetermined direction is used as an axis), and is output as data continuity information.
[0888]
Next, the data continuity detecting unit 101 that outputs the direction (angle) of a thin line from the input image as data continuity information will be described with reference to FIG.
[0889]
The data selection unit 701 includes a horizontal / vertical determination unit 711 and a data acquisition unit 712. The horizontal / vertical determination unit 711 determines whether the angle of the thin line of the input image with respect to the horizontal direction is a thin line close to the horizontal direction or a thin line close to the vertical direction from the difference in pixel value between the target pixel and the surrounding pixels. The determination result is output to the data acquisition unit 712 and the data addition unit 702, respectively.
[0890]
 More specifically, for example, another method may be used in the sense of this method. For example, a simple 16-azimuth detection technique may be used here. As illustrated in FIG. 125, the horizontal / vertical determination unit 711 determines the difference between pixels in the horizontal direction (difference in pixel values between pixels) between the pixel of interest and the pixels adjacent to the pixel of interest (difference between pixel values). Activity) sum (hdiff) and vertical difference between pixels (activity)( vdiff )Difference (hdiff-vdiff) is determined, and it is determined whether the sum of differences between pixels adjacent to the pixel of interest in the vertical direction is large or the sum of differences between pixels adjacent in the horizontal direction is large. Here, in FIG. 125, each square represents a pixel, and the center pixel in the figure is the target pixel. Further, the difference between the pixels indicated by the dotted arrows in the figure is the difference between the pixels in the horizontal direction, and the sum thereof is indicated by hdiff. Further, a difference between pixels indicated by a solid line arrow in the figure is a difference between pixels in the vertical direction, and the sum is indicated by vdiff.
[0891]
 Based on the difference sum hdiff of the pixel values between the pixels in the horizontal direction thus obtained and the difference sum vdiff of the pixel values between the pixels in the vertical direction, the horizontal / vertical determination unit 711 determines that (hdiff−vdiff) is If it is positive, the change (activity) in the pixel value between the pixels in the horizontal direction is larger than that in the vertical direction. Therefore, as shown in FIG.Every time≦ θ ≦ 180Every time), 45Every time<Θ ≦ 135Every timeThat is, it is determined that the pixel belongs to a thin line with an angle close to the vertical direction. If the pixel is negative, the change (activity) in the pixel value between the pixels in the vertical direction is large.Every time≦ θ <45Every timeOr 135Every time<Θ ≦ 180Every timeThat is, it is determined that the pixel belongs to a fine line with an angle close to the horizontal direction (the pixels existing in the direction (angle) in which the fine line continues are pixels that express the fine line, and therefore the change between the pixels. (Activity) should be small).
[0892]
Further, the horizontal / vertical determining unit 711 includes a counter (not shown) for identifying each pixel of the input image, and is used as necessary.
[0893]
In FIG. 125, the sum of the pixel value differences between the pixels in the vertical direction and the horizontal direction in the range of 3 pixels × 3 pixels around the target pixel is compared, and the thin line is close to the vertical direction. The example of determining whether or not it is close to the horizontal direction has been described. However, the direction of the thin line may be determined by the same method using a larger number of pixels, for example, 5 pixels × 5 centering on the target pixel. The determination may be made based on a pixel or a block having more pixels such as 7 pixels × 7 pixels.
[0894]
Based on the determination result of the direction of the thin line input from the horizontal / vertical determination unit 711, the data acquisition unit 712 is a block unit including a plurality of pixels arranged in the horizontal direction corresponding to the target pixel, or a plurality of units arranged in the vertical direction. The pixel value is read (acquired) in units of blocks of pixels, and between adjacent pixels in the direction of the determination result of the horizontal / vertical direction determination unit 711 between a plurality of pixels corresponding to each read pixel (acquired) Together with the difference data, the data of the maximum value and the minimum value of the pixel values from the pixels included in the block having a predetermined number of pixels are output to the data adding unit 702. In the following, a block of a plurality of pixels acquired corresponding to the target pixel by the data acquisition unit 712 is referred to as an acquisition block (an acquisition block is, for example, a plurality of pixels (each of which is shown in FIG. 139 described later) When the pixel indicated by the black square is the pixel of interest, the total of 15 pixels for the upper and lower pixels and the left and right pixels is 15).
[0895]
The difference adding unit 721 of the data adding unit 702 detects the difference data input from the data selecting unit 701, and the horizontal or vertical direction input from the horizontal / vertical determining unit 711 of the data selecting unit 701 is detected. Based on the determination result, an addition process necessary for the solution of the least square method described later is executed, and the addition result is output to the steady direction deriving unit 703. More specifically, among the plurality of pixels, the difference data of the pixel values between the pixel i and the pixel (i + 1) adjacent in the determination direction by the horizontal / vertical determination unit 711 is yi, and an acquisition block corresponding to the target pixel Is composed of n pixels, the difference adding unit 721 is (y1) in each horizontal direction or vertical direction.²+ (Y2)²+ (Y3)²The calculation is performed by adding +... And output to the steady direction deriving unit 703.
[0896]
The MaxMin acquisition unit 722 is a block (hereinafter referred to as a dynamic range block) set for each pixel included in the acquisition block corresponding to the target pixel input from the data selection unit 701. Among the pixels of the acquisition block indicated by (1), for example, the pixel pix12 is surrounded by a black solid line, and is represented by a dynamic range block B1, which is a total of 7 pixels corresponding to the upper and lower pixels of the pixel pix12)))) When the maximum and minimum pixel values of the included pixels are acquired, the dynamic range Dri (the maximum and minimum pixel values of the pixels included in the dynamic range block corresponding to the i-th pixel in the acquired block is calculated from the difference. (Difference between values) is calculated (detected) and output to the difference adding unit 723.
[0897]
The difference adding unit 723 detects the dynamic range Dri input from the MaxMin acquisition unit 722 and the difference data input from the data selection unit 701, and the data selection unit 701 based on the detected dynamic range Dri and the difference data. The value obtained by multiplying the dynamic range Dri and the difference data yi is added for each horizontal direction or vertical direction input from the horizontal / vertical determination unit 711, and the calculation result is output to the steady direction deriving unit 703. That is, the calculation result output from the difference adding unit 723 is y1 × Dr1 + y2 × Dr2 + y3 × Dr3 +... For each horizontal direction or vertical direction.
[0898]
The steady direction calculation unit 731 of the steady direction deriving unit 703 calculates the angle (direction) of the thin line based on the addition calculation result for each horizontal direction or vertical direction input from the data addition unit 702. The calculated angle is output as continuity information.
[0899]
Here, a method of calculating the direction of the fine line (the inclination or angle of the fine line) will be described.
[0900]
When the portion surrounded by the white line in the input image as shown in FIG. 127A is enlarged, the thin line (in the figure, the white line rising to the right and diagonally) is actually displayed as shown in FIG. 127B. ing. That is, in the real world, as shown in FIG. 127C, an image has a boundary between two types of levels, a thin line level (indicated by a lightly shaded area in FIG. 127C) and a background level, and other levels It will not exist. On the other hand, as shown in FIG. 127B, an image captured by the sensor 2, that is, an image captured in units of pixels, has a pixel in which the background level and the fine line level are spatially mixed due to the integration effect. The image is such that blocks composed of a plurality of pixels arranged in the vertical direction so that the ratio (mixing ratio) changes in a constant pattern are repeatedly arranged in the thin line direction. In FIG. 127B, each square-shaped square represents one CCD pixel, and the length of each side is d_CCD. In the grid, the grid-filled portion is the minimum pixel value corresponding to the background level, and the other shaded portions are pixel values as the density of the diagonal lines decreases. (Therefore, white squares without diagonal lines are the maximum pixel values).
[0901]
As shown in FIG. 128A, when a thin line is present on the real world background, the real world image is an image of a portion corresponding to the level on the horizontal axis and the level on the vertical axis, as shown in FIG. 128B. When the upper area is shown, the relationship of the occupied area on the image between the area corresponding to the background in the image and the area corresponding to the thin line is shown.
[0902]
Similarly, as shown in FIG. 129A, an image captured by the sensor 2 is a pixel in which the background level and the fine line level arranged vertically are mixed in the background level pixels, and the mixing ratio is predetermined. Since the blocks arranged in the vertical direction while changing in the pattern of FIG. 129 become an image that is repeatedly arranged in the direction in which the thin line is present, as shown in FIG. In addition, there is a spatial mixed region composed of pixels that are obtained as a result of spatial mixing of the background and the thin line, which takes an intermediate level between the thin line levels. Here, in FIG. 129B, the vertical axis represents the number of pixels, but the area of one pixel is (d_CCD)²Therefore, it can be said that the relationship between the pixel value level and the number of pixels in FIG. 129B is the same as the relationship between the pixel value level and the area distribution.
[0903]
The same result is obtained as shown in FIG. 130B even in a portion surrounded by a white line in the actual image of FIG. 130A (an image of 31 pixels × 31 pixels). That is, in the background portion shown in FIG. 130A (the portion that appears black in FIG. 130A), as shown in FIG. 130B, many pixels with low pixel value levels (pixel values around 20) are distributed. These portions with little change form an image of the background area. On the other hand, the portion where the pixel value level in FIG. 130B is not low, that is, the pixels whose pixel value level is distributed in the vicinity of 40 to 160 is a pixel belonging to the spatial mixing region that forms a thin line image. Although the number of pixels per pixel value is small, it is distributed over a wide range of pixel values.
[0904]
By the way, the levels of the background and the thin line in the real-world image change as shown in FIG. 131B when viewed in the arrow direction (Y-coordinate direction) shown in FIG. 131A, for example. That is, in the background area from the starting point of the arrow to the thin line, the background level is a relatively low level, and in the thin line area, the level is a high-level thin line. Lower background level. As a result, it becomes a pulse-like waveform in which only the thin line region has a high level.
[0905]
On the other hand, among the images captured by the sensor 2, pixels on the spatial direction X = X1 in FIG. 132A corresponding to the direction of the arrow in FIG. 131A (pixels indicated by black circles in FIG. 132A) ) And the spatial direction Y of the pixel are as shown in FIG. 132B. In FIG. 132A, a space between two white lines rising to the right indicates a thin line on the real world image.
[0906]
That is, as shown in FIG. 132B, since the pixel corresponding to the center pixel in FIG. 132A has the highest pixel value, the pixel value of each pixel has a position in the spatial direction Y from the bottom in the figure to the center. It becomes higher as it goes to the pixel, and when it passes through the center position, it gradually decreases. As a result, a mountain-shaped waveform is formed as shown in FIG. 132B. In addition, the change in the pixel value of each pixel corresponding to the spatial direction X = X0, X2 in FIG. 132A has the same external shape although the peak position in the spatial direction Y is shifted according to the inclination of the thin line.
[0907]
For example, in the case of an image actually captured by the sensor 2 as shown in FIG. 133A, the same result is obtained as shown in FIG. 133B. That is, FIG. 133B corresponds to the spatial direction Y for each predetermined spatial direction X (X = 561, 562, 563 in the figure) of the pixel values in the vicinity of the thin line in the range surrounded by the white line in the image of FIG. 133A. The change in the pixel value is shown. Thus, even in an image captured by the actual sensor 2, X = 561 is near Y = 730, X = 562 is near Y = 705, and X = 563 is near Y = 685. Thus, each has a peak-like waveform.
[0908]
As described above, the waveform indicating the change in the level near the thin line of the real-world image is a pulse waveform, whereas the waveform indicating the change in the pixel value of the image captured by the sensor 2 is a mountain-shaped waveform. It becomes.
[0909]
That is, in other words, the level of the real-world image should have a waveform as shown in FIG. 131B, but the image taken by the sensor 2 is captured as shown in FIG. 132B. It can be said that the change is distorted and the waveform is different from the real world image (the real world information is missing).
[0910]
Therefore, in order to obtain the continuity information of the real-world image from the image captured by the sensor 2, a model for approximating the real world from the image data obtained from the sensor 2 (FIG. 123). Corresponding to the model 705). For example, in the case of a thin line, an image of the real world is set as shown in FIG. That is, the level of the background part on the left side in the figure is B1, the level of the background part on the right side in the figure is B2, the level of the fine line part is L, the mixing ratio of the fine lines is α, the width of the fine lines is W, and the horizontal direction of the fine lines Set a parameter with an angle θ, model it, set a function that approximately represents the real world, find an approximate function that approximately represents the real world by obtaining each parameter, and then use the approximate function to obtain a thin line Direction (inclination or angle with respect to the reference axis).
[0911]
At this time, the left and right portions of the background region can be approximated as being the same, and therefore, as shown in FIG. 135, they are unified as B (= B1 = B2). Further, the width of the thin line is assumed to be one pixel or more. When the sensor 2 captures the real world set in this way, the captured image is captured as shown in FIG. 136A. In FIG. 136A, a space between two white lines rising to the right indicates a thin line on the real world image.
[0912]
That is, the pixel existing at the position on the thin line in the real world is the level closest to the level of the thin line, and the pixel value decreases with increasing distance from the thin line in the vertical direction (the direction of the spatial direction Y) and touches the thin line region. A pixel value of a pixel existing at a position where there is nothing, that is, a pixel in the background area has a background level pixel value. At this time, the pixel value of the pixel existing at the position straddling the fine line region and the background region is a pixel value obtained by mixing the pixel value B of the background level and the pixel value L of the fine line level with the mixture ratio α.
[0913]
Thus, when each pixel of the captured image is a target pixel, the data acquisition unit 712 extracts a pixel of the acquisition block corresponding to the target pixel, and for each pixel constituting the extracted acquisition block, A dynamic range block is extracted, and a pixel having a maximum pixel value and a pixel having a minimum value are extracted from among the pixels constituting the dynamic range block. That is, as shown in FIG. 136A, a pixel (for example, in the figure) of a dynamic range block corresponding to a predetermined pixel in the acquisition block (pixel pix4 in which a square is described by a solid black line in one square in the figure). If the pixels pix1 to 7 surrounded by a solid black line are extracted, the real-world image corresponding to each pixel is as shown in FIG. 136B.
[0914]
 That is, as shown in FIG. 136B, in the pixel pix1, a portion that occupies approximately 1/8 of the area on the left is the background region, and a portion that occupies approximately 7/8 of the right is the thin line region. In the pixel pix2, substantially the entire area is a thin line area. In the pixel pix3, a portion that occupies an area of approximately 7/8 in the left portion is a thin line region, and a portion that occupies the area of 1/8 in the right portionbackgroundIt becomes an area. In the pixel pix4, a portion that occupies approximately 2/3 of the area on the left is a thin line region, and a portion that occupies approximately 1/3 of the area on the right is a background region. In the pixel pix5, a portion that occupies approximately 1/3 of the area on the left is a thin line region, and a portion that occupies approximately 2/3 of the area on the right is a background region. In the pixel pix6, a portion that occupies approximately 1/8 of the area on the left is a thin line region, and a portion that occupies approximately 7/8 on the right is a background region. Further, the entire pixel pix7 becomes a background area.
[0915]
As a result, the pixel value of each pixel pix1 to pix7 of the dynamic range block shown in FIG. 136 is a mixture ratio corresponding to the ratio of the area of the fine line region and the background region, and the pixel value in which the background level and the fine line level are mixed. Become. That is, the mixing ratio of the background level to the foreground level is approximately 1: 7 for the pixel pix1, approximately 0: 1 for the pixel pix2, approximately 1: 7 for the pixel pix3, approximately 1: 2 for the pixel pix4, and approximately 2: for the pixel pix5. 1. The pixel pix6 is approximately 7: 1 and the pixel pix7 is approximately 1: 0.
[0916]
Therefore, the pixel values of the pixels pix1 to pix7 of the extracted dynamic range block are the highest in the pixel pix2, followed by the pixels pix1 and 3, followed by the pixels pix4, 5, 6, and 7 in descending order. Become. Therefore, in the case shown in FIG. 136B, the maximum value is the pixel value of the pixel pix2, and the minimum value is the pixel value of the pixel pix7.
[0917]
In addition, as shown in FIG. 137A, the direction of the fine line can be said to be a direction in which pixels having the maximum pixel value continue, and the direction in which the pixels having the maximum value are arranged becomes the direction of the fine line. .
[0918]
Here, the inclination G indicating the direction of the thin line_flIs the ratio of the change in the spatial direction Y (the change in the distance) to the unit distance in the spatial direction X. Therefore, in the case shown in FIG. 137A, for the distance of one pixel in the spatial direction X in the figure, The distance in the spatial direction Y is the gradient G_flIt becomes.
[0919]
As shown in FIG. 137B, the change of the pixel value with respect to each of the spatial directions Y in the spatial directions X0 to X2 repeats a mountain-shaped waveform at a predetermined interval for each spatial direction X. As described above, in the image captured by the sensor 2, the thin line is the direction in which the pixels having the maximum value are continuous, and therefore the interval S in the spatial direction Y that is the maximum value in each spatial direction X is the inclination of the thin line. G_flIt becomes. That is, as shown in FIG. 137C, the amount of change in the vertical direction with respect to the distance of one pixel in the horizontal direction is the gradient G._flIt becomes. Therefore, the inclination G of this thin line_fl(Corresponding to the angle when the horizontal direction is the reference axis), as shown in FIG. 137C, when the angle of the thin line with the horizontal direction corresponding to the inclination as the reference axis is expressed as θ, 69) is established.
[0920]

[0921]
In addition, a model as shown in FIG. 135 is set, and the relationship between the pixel in the spatial direction Y and the pixel value is such that the mountain-shaped waveform shown in FIG. 137B is a complete triangular waveform (rising or falling). As shown in FIG. 138, the pixel value of each pixel existing in the spatial direction Y in the spatial direction X of the predetermined target pixel is assumed to be an isosceles triangular waveform. When Max = L (here, a pixel value corresponding to the level of the thin line in the real world) and Min = B (here, a pixel value corresponding to the level of the background in the real world), The relationship shown by the following formula | equation (70) is materialized.
[0922]

[0923]
Here, d_y indicates a difference in pixel value between pixels in the spatial direction Y.
[0924]
That is, the gradient G in the spatial direction_flIs larger, the thin line is closer to a vertical one, so the mountain-shaped waveform becomes an isosceles triangular waveform with a large base, and conversely, the smaller the slope S, the smaller an isosceles triangular waveform. . As a result, the slope G_flIs larger, the pixel value difference d_y between the pixels in the spatial direction Y is smaller, and as the slope S is smaller, the pixel value difference d_y between the pixels in the spatial direction Y is larger.
[0925]
Therefore, the gradient G for which the relationship of the above-described formula (70) is established._flIt is possible to obtain the angle θ of the thin line with respect to the reference axis. Equation (70) is expressed as G_flTherefore, the difference d_y of pixel values (perpendicular direction) between neighboring pixels and the difference (LB) between the maximum value and the minimum value are set to 1 for the target pixel. It can be obtained by using a pair, but as described above, it uses an approximate expression based on the assumption that the change in the pixel value in the spatial direction Y is a complete triangular waveform. The dynamic range block is extracted for each pixel of the extracted block, and the dynamic range Dr is obtained from the maximum value and the minimum value, and the pixel value difference d_y between the pixels in the spatial direction Y for each pixel of the extraction block is calculated. And statistically determined by the method of least squares.
[0926]
Here, in the description of the statistical processing by the least square method, first, details of the extraction block and the dynamic range block will be described.
[0927]
For example, as illustrated in FIG. 139, the extraction block includes three pixels above and below the spatial direction Y and the spatial direction X of the pixel of interest (a square pixel in which a square is drawn with a solid black line in the drawing). A total of 15 pixels for one pixel on the left and right may be used. Further, in this case, the pixel value difference d_y between the pixels of each pixel of the extraction block is, for example, when the difference corresponding to the pixel pix11 is indicated by d_y11, and when the spatial direction X = X0, the pixels pix11, pix12, and pix12 And pix13, pix13 and pix14,pix 14 and

pix

15,Differences d_y11 to d_y16 of pixel values between the pixels of pix15 and pix16 and pix16 and pix17 are obtained. At this time, the difference in pixel value between pixels is obtained in the same way for the spatial direction X = X1, X2. As a result, in this case, there are 18 pixel value differences d_y between the pixels.
[0928]
Furthermore, for each pixel of the extraction block, the pixel of the dynamic range block is determined to be in the vertical direction in this case, for example, based on the determination result of the horizontal / vertical determination unit 711 for the pixel pix11. As shown in FIG. 139, assuming that there are 7 pixels in the range of the dynamic range block B1 of 3 pixels in the vertical direction (spatial direction Y) including the pixel pix11, this dynamic range block B1 The maximum value and the minimum value of the pixel values of these pixels are obtained, and the dynamic range obtained from the maximum value and the minimum value is set as the dynamic range Dr11. Similarly, for the pixel pix12 of the extraction block, the dynamic range Dr12 is similarly obtained from the seven pixels of the dynamic range block B2 in FIG. In this way, based on the combination of the 18 inter-pixel differences d_yi in the extraction block and the corresponding dynamic range Dri, the gradient G is statistically calculated using the method of least squares._flIs required.
[0929]
Next, a method of solving the one-variable least square method will be described. Here, it is assumed that the determination result of the horizontal / vertical determination unit 711 is the vertical direction.
[0930]
The solution by the one-variable least square method is, for example, the slope G of the straight line made up of the predicted values Dri_c that minimizes the distance to all the measured values indicated by the black dots shown in FIG._flIs what you want. Therefore, the slope S is obtained by the following method from the relationship represented by the above formula (70).
[0931]
That is, the above formula (70) is described as shown by the following formula (71) when the difference between the maximum value and the minimum value is the dynamic range Dr.
[0932]

[0933]
The dynamic range Dri_c is obtained by substituting the difference d_yi for each pixel of the extraction block into the above-described equation (71). Therefore, the relationship of the following formula | equation (72) is satisfy | filled about each pixel.
[0934]

[0935]
Here, the difference d_yi is the difference in pixel values between pixels in the spatial direction Y of each pixel i (for example, the pixel value between the pixels adjacent to the pixel i in the upward or downward direction with respect to the pixel i). Difference)Dri_c is a dynamic range obtained when Expression (70) is established for the pixel i.
[0936]
As described above, the method of least squares referred to here is the difference between the dynamic range Dri_c of the pixel i of the extraction block and the dynamic range Dri_r that is the measured value of the pixel i obtained by the method described with reference to FIG. Gradient G when sum of squares Q is minimum for all pixels in the image_flIt is a method to ask for. Accordingly, the sum of squared differences Q is obtained by the following equation (73).
[0937]
[Expression 55]

... (73)
[0938]
Since the sum of squared differences Q expressed by the equation (73) is a quadratic function, the variable G_fl(Slope G_fl) Is a downwardly convex curve as shown in FIG._flG that minimizes_flmin is the least squares solution.
[0939]
The sum of squared differences Q expressed by equation (73) is a variable G_flIs differentiated by dQ / dG expressed by the following equation (74):_flIt becomes.
[0940]
[56]

... (74)
[0941]
G for which equation (74) is 0_flG takes the minimum value of the sum of squared differences Q shown in FIG._flTherefore, by expanding the equation when equation (74) becomes 0, the gradient G is expressed by the following equation (75)._flWill be required.
[0942]
[Equation 57]

... (75)
[0943]
The above equation (75) is a so-called one variable (gradient G_fl) Is a normal equation.
[0944]
Thus, the obtained gradient G_flIs substituted into the above equation (69) to obtain the inclination G of the thin line_flThe angle θ of the fine line when the horizontal direction is the reference axis can be obtained.
[0945]
 In the above description, the angle θ when the target pixel has the horizontal direction as the reference axis is 45.Every time≦ θ <135Every timeThe example in the case where the pixel is on a fine line that falls within the range of has been described. For example, the pixel of interest has an angle θ of the fine line with respect to the reference axis in the horizontal direction of 0.Every time≦ θ <45Every timeOr 135Every time≦ θ <108Every timeAnd the pixel value difference between the pixels adjacent to the pixel i becomes the pixel value difference d_xi between the pixels adjacent to the pixel i in the same manner. When obtaining the maximum or minimum pixel value from a plurality of corresponding pixels, the pixels of the dynamic range block to be extracted are also selected from the plurality of pixels existing in the horizontal direction with respect to the pixel i. It will be. Regarding the processing in this case, only the relationship between the horizontal direction and the vertical direction in the above description is interchanged, and thus the description thereof is omitted.
[0946]
It is also possible to obtain an angle corresponding to the slope of the binary edge by a similar method.
[0947]
That is, when the portion surrounded by the white line in the input image as shown in FIG. 142A is enlarged, the edge portion in the image (below the character drawn in white “10” drawn on the black flag in the figure) (Hereinafter, the edge portion on the image having a binary level is also referred to as a binary edge in this way) is actually displayed as shown in FIG. 142B. That is, in the real world, as shown in FIG. 142C, in the image, in the image, the first level (the level of the flag ground) and the second level (the character level (the hatched portion with a low density in FIG. 142C)). ) Is formed, and there are no other levels. On the other hand, an image captured by the sensor 2, that is, an image captured in units of pixels, is a pixel in which the first level and the second level are spatially mixed as shown in FIG. 142B. First, the region is such that a block composed of a plurality of pixels arranged in the vertical direction so that the ratio (mixing ratio) changes in a constant pattern is repeatedly arranged in the direction in which the edge is formed. The image includes a portion where pixels of the first level are arranged and a portion where pixels of the second level are arranged.
[0948]
That is, as shown in FIG. 143A, for the spatial direction X = X0, X1, X2, the change in the pixel value in each spatial direction Y is shown in FIG. The pixel value has a predetermined minimum value up to the vicinity of the boundary of the value edge (upward straight line in FIG. 143A), but the pixel value gradually increases near the boundary of the binary edge. Exceeding point P in the figure_EThe pixel value becomes a predetermined maximum value. More specifically, as shown in FIG. 143B, the change in the spatial direction X = X0 is a point P at which the pixel value becomes the minimum value._SAfter passing through the pixel value, the pixel value gradually increases to become a point P0 that is the maximum pixel value. On the other hand, since the change in the pixel value of each pixel corresponding to the spatial direction X = X1 has a waveform shifted in the spatial direction, as shown in FIG. 143B, the pixel value gradually increases from the minimum pixel value. Is increased in the positive direction of the spatial direction Y, and increases to the maximum pixel value via the point P1 in the figure. Further, the change in the pixel value in the spatial direction Y in the spatial direction X = X2 decreases via a point P2 in the figure further shifted in the positive direction in the spatial direction Y, and changes from the maximum value to the minimum value. Become.
[0949]
The same tendency can be seen in a portion surrounded by a white line in an actual image. That is, in the part surrounded by the white line in the actual image in FIG. 144A (31 pixel × 31 pixel image), the background part (the part that appears black in FIG. 144A) is the pixel as shown in FIG. 144B. A large number of pixels having low values (pixel values near 90) are distributed, and these small changes form an image of the background area. On the other hand, the part where the pixel value in FIG. 144B is not low, that is, the pixel whose pixel value is distributed near 100 to 200 is the distribution of the pixels belonging to the spatial mixed region of the character region and the background region. Although the number of pixels per pixel value is small, it is distributed over a wide range of pixel values. Furthermore, a large number of pixels in a character region having a high pixel value (a portion that appears white in FIG. 144A) are distributed around the pixel value indicated by 220.
[0950]
As a result, the change in the pixel value in the spatial direction Y with respect to the predetermined spatial direction X in the edge image shown in FIG. 145A is as shown in FIG. 145B.
[0951]
That is, FIG. 145B corresponds to the spatial direction Y for each predetermined spatial direction X (X = 658, 659, 660 in the figure) of the pixel values near the edge surrounded by the white line in the image of FIG. 145A. The change in the pixel value is shown. Thus, even in the image captured by the actual sensor 2, at X = 658, the pixel value starts increasing near Y = 374 (distribution indicated by a black circle in the figure), and near X = 382. The maximum pixel value is reached. Further, at X = 659, the pixel value shifts in the positive direction with respect to the spatial direction Y, and the pixel value starts increasing near Y = 378 (distribution indicated by a black triangle in the figure), and near X = 386. The maximum pixel value is reached. Further, at X = 660, the pixel value further shifts in the positive direction with respect to the spatial direction Y, and the pixel value starts increasing near Y = 382 (distribution indicated by a black square in the figure). The maximum pixel value is reached around 390.
[0952]
Therefore, in order to acquire the continuity information of the real world image from the image captured by the sensor 2, a model for approximating the real world from the image data acquired from the sensor 2 is set. For example, in the case of a binary edge, a real-world image is set as shown in FIG. In other words, the parameters are set with the level of the background portion on the left side of the figure as V1, the level of the right side of the figure as V2, the mixing ratio between pixels near the binary edge as α, and the angle of the edge with respect to the horizontal direction as θ. Then, modeling, setting a function that approximately represents the real world, and determining each parameter to obtain a function that approximately represents the real world, and using the approximate function, the edge direction (slope or reference) Find the angle to the axis.
[0953]
Here, the inclination indicating the direction of the edge is the ratio of the change in the spatial direction Y (the change in the distance) to the unit distance in the spatial direction X. Therefore, in the case shown in FIG. 147A, the spatial direction in the figure. The distance in the spatial direction Y with respect to the distance of one pixel to X is the slope.
[0954]
As shown in FIG. 147B, the change of the pixel value with respect to each of the spatial directions Y in the spatial directions X0 to X2 repeats the same waveform at a predetermined interval for each spatial direction X. As described above, in the image captured by the sensor 2, the edge has a similar change in pixel value (in this case, a change in the pixel value on the predetermined spatial direction Y that changes from the minimum value to the maximum value). Are spatially continuous directions, and in each spatial direction X, the interval S in the spatial direction Y, which is the position where the change of the pixel value in the spatial direction Y starts or the position where the change ends, is Slope G_feIt becomes. That is, as shown in FIG. 147C, the amount of change in the vertical direction with respect to the distance of one pixel in the horizontal direction is the gradient G._feIt becomes.
[0955]
By the way, this relationship is related to the thin line inclination G described above with reference to FIGS._flThis is the same as the relationship in FIG. Therefore, the relational expression is similar. That is, the relational expression in the case of a binary edge is as shown in FIG. 148, where the pixel value of the background area is V1 and the pixel value of the character area is V2, which are the minimum value and maximum value, respectively. Also, let α be the mixture ratio of pixels near the edge, and G_feThen, the established relational expressions are the same as the above-described expressions (69) to (71) (however, G_flIs G_feIs replaced).
[0956]
For this reason, the data continuity detecting unit 101 shown in FIG. 124 can detect the angle corresponding to the inclination of the thin line and the angle corresponding to the inclination of the edge as data continuity information by the same processing. . Therefore, in the following description, the inclination is a general term for the inclination of the thin line and the inclination of the binary edge, and the inclination G_fCalled. Further, the gradient G in the equations (73) to (75) described above._flIs G_feAs a result, the gradient G_fAnd replace it with
[0957]
Next, data continuity detection processing will be described with reference to the flowchart in FIG.
[0958]
In step S701, the horizontal / vertical determination unit 711 initializes a counter T that identifies each pixel of the input image.
[0959]
In step S 702, the horizontal / vertical determination unit 711 executes data extraction processing necessary for subsequent processing.
[0960]
Here, the process of extracting data will be described with reference to the flowchart of FIG.
[0961]
 In step S711, the horizontal / vertical determination unit 711 of the data selection unit 701 determines, for each target pixel T, nine pixels adjacent in the horizontal direction, the vertical direction, and the diagonal direction as described with reference to FIG. A sum hdiff of pixel value differences (activity) between pixels adjacent in the horizontal direction and a sum vdiff of pixel value differences (activity) between pixels adjacent in the vertical direction are calculated, and the difference (hdiff− vdiff), and when the difference (hdiff−vdiff) ≧ 0, when the target pixel T has the horizontal axis as the reference axis, the angle θ with respect to the reference axis is 45Every time≦ θ <135Every timeThe data acquisition unit 712 and the data addition unit determine that the extracted block to be used corresponds to the vertical direction, assuming that the pixel is a thin line close to the vertical direction or a pixel near the binary edge. Output to 702.
[0962]
 On the other hand, when the difference (hdiff−vdiff) <0, the horizontal / vertical determination unit 711 determines that the target pixel has a thin line with the reference axis or the angle formed by the binary edge when the horizontal direction is the reference axis. θ is 0Every time≦ θ <45Every timeOr 135Every time≦ θ <180Every timeThe determination result that the extracted block to be used corresponds to the horizontal direction is regarded as a thin line close to the horizontal direction or a pixel near the edge, and the data addition unit 702 receives the determination result. Output.
[0964]
That is, the fact that the inclination of the thin line or the binary edge is close to the vertical direction means that, for example, as shown in FIG. 131A, the portion where the arrow in the figure intersects the thin line increases. An extraction block with a larger number of pixels in the vertical direction is set (a vertically long extraction block is set). Similarly, even when the inclination of the thin line is close to the horizontal direction, an extraction block having a larger number of pixels in the horizontal direction is set (a horizontally long extraction block is set). By doing in this way, it is possible to calculate an accurate maximum value and minimum value without increasing unnecessary calculation amount.
[0964]
In step S712, the data acquisition unit 712 extracts pixels of the extraction block corresponding to the determination result in the horizontal direction or the vertical direction input from the horizontal / vertical determination unit 711 for the target pixel. That is, for example, as shown in FIG. 139, a total of 21 pixels of (3 pixels in the horizontal direction) × (7 pixels in the vertical direction) centering on the target pixel are extracted and stored.
[0965]
In step S713, the data acquisition unit 712 extracts and stores the pixels of the dynamic range block corresponding to the direction corresponding to the determination result of the horizontal / vertical determination unit 711 for each pixel of the extraction block. That is, with reference to FIG. 139, as described above, for example, for the pixel pix11 of the extraction block, in this case, the determination result of the horizontal / vertical determination unit 711 is in the vertical direction. In the vertical direction, similarly to the dynamic range block B1, the pixel pix12 extracts the dynamic range block B2. The dynamic range block is similarly extracted for the other extraction blocks.
[0966]
That is, with this data extraction process, pixel information necessary for the calculation of the normal equation is stored in the data acquisition unit 712 for the predetermined target pixel T (the area to be processed is selected).
[0967]
Now, the description returns to the flowchart of FIG.
[0968]
In step S703, the data adding unit 702 executes a value adding process necessary for each term of the calculation of the normal equation (here, expression (74)).
[0969]
Here, with reference to the flowchart of FIG. 24, the addition process to a normal equation is demonstrated.
[0970]
In step S721, the difference adding unit 721 obtains a pixel value difference between pixels of the extraction block stored in the data acquisition unit 712 according to the determination result of the horizontal / vertical determination unit 711 of the data selection unit 701. (Detect), and then square (square) and add. That is, when the determination result of the horizontal / vertical determination unit 711 is in the vertical direction, the difference addition unit 721 calculates a difference in pixel values between pixels adjacent in the vertical direction for each pixel of the extraction block, and further squares it. Then add it. Similarly, when the determination result of the horizontal / vertical determination unit 711 is in the horizontal direction, the difference adding unit 721 calculates a difference in pixel values between pixels adjacent in the horizontal direction for each pixel of the extraction block, and further Squared and added. As a result, the difference adding unit 721 generates and stores the sum of squares of the difference of the term that becomes the denominator of the above equation (75).
[0971]
In step S722, the MaxMin acquisition unit 722 acquires the maximum value and the minimum value of the pixel values included in the dynamic range block stored in the data acquisition unit 712, and in step S723, the maximum value and the minimum value are obtained. A dynamic range is obtained (detected) from the difference and output to the difference adding unit 723. That is, in the case of a 7-pixel dynamic range block including pixels pix1 to pix7 as shown in FIG. 136B, the pixel value of pix2 is detected as the maximum value, and the pixel of pix7 is detected as the minimum value. The difference is obtained as the dynamic range.
[0972]
In step S724, the difference adding unit 723 includes pixels adjacent to each other in the direction corresponding to the determination result of the horizontal / vertical determination unit 711 of the data selection unit 701 among the pixels of the extraction block stored in the data acquisition unit 712. A difference between pixel values is obtained (detected), and a value obtained by multiplying the dynamic range input from the MaxMin acquisition unit 722 is added. That is, the difference adding unit 721 generates and stores the sum of terms that become the numerator of the above formula (75).
[0973]
Now, the description returns to the flowchart of FIG.
[0974]
In step S 704, the difference adding unit 721 determines the pixel value difference between all the pixels in the extracted block (the pixel value difference between adjacent pixels in the direction corresponding to the determination result of the horizontal / vertical determination unit 711). For example, if it is determined that the difference between all the pixels of the extracted block is not added, the process returns to step S702, and the subsequent processes are repeated. That is, the processes in steps S702 to S704 are repeated until it is determined that the pixel value difference between all the pixels of the extraction block is added.
[0975]
If it is determined in step S704 that the pixel value difference between all the pixels of the extracted block has been added, in step S705, the

difference adding units

721 and 723 add their own stored values. The result is output to the steady direction deriving unit 703.
[0976]
In step S 706, the steady direction calculation unit 731 is adjacent to the direction determined by the horizontal / vertical determination unit 711 among the pixels of the acquired block input from the difference addition unit 721 of the data addition unit 702. The sum of squares of pixel value differences between pixels and the pixel value between pixels adjacent to each other in the direction determined by the horizontal / vertical determination unit 711 among the pixels of the acquired block input from the difference addition unit 723. Based on the sum of the product of the difference and the dynamic range corresponding to each pixel of the acquired block, the pixel of interest is statistically calculated using the least square method by solving the normal equation shown in the above equation (75). The angle indicating the direction of continuity (the thin line or the angle indicating the slope of the binary edge) is calculated and output.
[0977]
In step S707, the data acquisition unit 712 determines whether or not processing has been performed for all the pixels of the input image. For example, processing has not been performed for all the pixels of the input image. When it is determined that the information on the angle of the fine line or the binary edge is not output for the pixel of, the counter T is incremented by 1 in step S708, and the process returns to step S702. That is, the process of steps S702 to S708 is repeated until the pixel to be processed in the input image is changed and all the pixels of the input image are processed. The pixel change by the counter T may be, for example, raster scan or may be changed sequentially according to other rules.
[0978]
If it is determined in step S707 that all pixels of the input image have been processed, in step S709, the data acquisition unit 712 determines whether there is a next input image, and if there is a next input image. If it is determined, the process returns to step S701, and the subsequent processes are repeated.
[0979]
If it is determined in step S709 that there is no next input image, the process ends.
[0980]
Through the above processing, the angle of the fine line or the binary edge is detected and output as continuity information.
[0981]
Thus, the angle of the fine line or edge inclination obtained by the statistical processing substantially coincides with the angle of the fine line or binary edge obtained using the correlation. That is, for the image in the range surrounded by the white line of the image as shown in FIG. 152A, the change in the inclination in the spatial direction Y on the predetermined horizontal coordinate on the fine line is correlated with the correlation as shown in FIG. 152B. The angle indicating the inclination of the thin line obtained by the method used (black circle in the figure) and the angle of the thin line obtained by statistical processing by the data continuity detecting unit 101 shown in FIG. 124 (black triangle in the figure) Are substantially coincident with each other on the coordinate in the spatial direction Y in the vicinity of the thin line. In FIG. 152B, the spatial directions Y = 680 to 730 sandwiched between the solid black lines in the figure are the coordinates on the thin line.
[0982]
Similarly, for the image in the range surrounded by the white line of the image as shown in FIG. 153A, the change in the inclination in the spatial direction Y on the predetermined horizontal coordinate on the binary edge is as shown in FIG. 153B. In addition, an angle indicating the slope of the binary edge (black circle in the figure) obtained by the method using the correlation, and an angle of the binary edge obtained by statistical processing by the data continuity detecting unit 101 shown in FIG. (Black triangle marks in the figure) almost coincide with each other on the coordinate in the spatial direction Y near the fine line. In FIG. 153B, the spatial directions Y = 376 (near) to 388 (near) are the coordinates on the thin line.
[0983]
As a result, the data continuity detecting unit 101 shown in FIG. 124 differs from the method of using a correlation with a block composed of predetermined pixels when obtaining the angle of a thin line or binary edge as data continuity. The angle that indicates the inclination of the thin line or the binary edge (here, the angle with the horizontal direction as the reference axis) can be obtained statistically using the information around the area. As described above, since there is no switching according to a range of a predetermined angle, it is possible to obtain all the thin lines or the angle of inclination of the binary edge by the same process, so that the process is simplified. It becomes possible to do.
[0984]
In the above description, the data continuity detecting unit 101 has been described with respect to an example in which an angle formed by a thin line or a predetermined reference axis of a binary edge is output as continuity information. However, depending on subsequent processing, It can be considered that the processing efficiency is improved by outputting the inclination as it is. In such a case, the steady direction calculation unit 731 of the steady direction derivation unit 703 of the data continuity detection unit 101 performs the fine line obtained by the least square method or the gradient G of the binary edge._fMay be output as continuity information as it is.
[0985]
Furthermore, in the above description, the dynamic range Dri_r has been calculated in Equation (75) as being obtained for each pixel of the extraction block, but this dynamic range is obtained by setting the dynamic range block sufficiently large, that is, By setting many pixels of interest using many pixels around the pixel of interest, the maximum and minimum pixel values of the pixels in the image should always be selected. Therefore, the dynamic range Dri_r may be calculated with the dynamic range obtained from the maximum value and the minimum value of the pixel in the extraction block or image data as a fixed value without calculating each pixel of the extraction block. Good.
[0986]
That is, as shown in the following equation (76), by adding only the pixel value difference between the pixels, the angle θ (inclination G_f) May be requested. Thus, by fixing the dynamic range, the arithmetic processing can be further simplified and the processing can be performed at high speed.
[0987]
[Formula 58]

... (76)
[0988]
Next, with reference to FIG. 154, the data continuity detecting unit 101 that detects the mixture ratio of each pixel will be described as data continuity information.
[0989]
In the data continuity detecting unit 101 in FIG. 154, the same reference numerals are given to the portions corresponding to those in the data continuity detecting unit 101 in FIG. 124, and the description thereof will be omitted as appropriate. To do.
[0990]
The data continuity detecting unit 101 in FIG. 154 differs from the data continuity detecting unit 101 in FIG. 124 in that instead of the data adding unit 702 and the continuity direction deriving unit 703, a data adding unit 751 and The mixing ratio deriving unit 761 is provided.
[0991]
The MaxMin acquisition unit 752 of the data addition unit 751 performs the same processing as the MaxMin acquisition unit 722 in FIG. 124, but acquires the maximum value and the minimum value of each pixel of the dynamic range block, The difference (dynamic range) between the value and the minimum value is obtained and output to the adding

units

753 and 755 and the maximum value is output to the difference calculating unit 754.
[0992]
The adding unit 753 squares the value input from the MaxMin obtaining unit, adds all the pixels of the extraction block, obtains the sum, and outputs the sum to the mixing ratio deriving unit 761.
[0993]
The difference calculation unit 754 calculates a difference between each pixel of the acquisition block of the data acquisition unit 712 and the maximum value of the corresponding dynamic range block and outputs the difference to the addition unit 755.
[0994]
The addition unit 755, for each pixel of the acquisition block, the difference (dynamic range) between the maximum value and the minimum value input from the MaxMin acquisition unit 752, and the pixel value of each pixel of the acquisition block input from the difference calculation unit 754 And the difference with the maximum value of the corresponding dynamic range block, the sum is obtained and output to the mixing ratio deriving unit 761.
[0995]
The mixture ratio calculation unit 762 of the mixture ratio deriving unit 761 statistically calculates the mixture ratio of the target pixel by the least square method based on the values input from the

addition units

753 and 755 of the data addition unit. And output as data continuity information.
[0996]
Next, a method for deriving the mixture ratio will be described.
[0997]
As shown in FIG. 155A, when a thin line exists on the image, the image captured by the sensor 2 is an image as shown in FIG. 155B. With regard to each image, attention is focused on pixels surrounded by a solid black line in the spatial direction X = X1 in FIG. 155B. Note that a range between white lines in FIG. 155B indicates a position corresponding to the thin line region. The pixel value M of this pixel should be an intermediate color between the pixel value B corresponding to the level of the background area and the pixel value L corresponding to the level of the fine line area. In more detail, the pixel value P_SIs the area ratio of the background region and the thin line region, and the respective levels should be mixed. Therefore, this pixel value P_SIs expressed by the following equation (77).
[0998]

[0999]
Here, α is a mixture ratio, and more specifically, indicates the ratio of the area occupied by the background region in the pixel of interest. Therefore, it can be said that (1-α) indicates the ratio of the area occupied by the thin line region. Note that the pixels in the background area can be considered as background object components because they can be considered as components of objects existing in the background. Further, since the pixels in the thin line area are considered to be components of the foreground object with respect to the background object, they can be said to be foreground object components.
[1000]
As a result, the mixture ratio α can be expressed by the following formula (78) by developing the formula (77).
[1001]

[1002]
Furthermore, in this case, the pixel value is based on the premise that the pixel value exists at a position across the region of the first pixel value (pixel value B) and the region of the second pixel value (pixel value L). The pixel value L can be replaced with the maximum pixel value Max, and the pixel value B can be replaced with the minimum pixel value. Therefore, the mixing ratio α can also be expressed by the following formula (79).
[1003]

[1004]
As a result, the mixture ratio α is obtained from the difference between the dynamic range of the dynamic range block for the target pixel (corresponding to (Min−Max)), the target pixel, and the maximum value of the pixels in the dynamic range block. However, in order to improve the accuracy, the mixing ratio α is statistically obtained by the least square method.
[1005]
That is, the above formula (79) is expanded to the following formula (80).
[1006]

[1007]
This equation (80) is a one-variable least square method equation similar to the above equation (71). That is, in the equation (71), the gradient G is calculated by the least square method._fHowever, here, the mixing ratio α is obtained. Therefore, the mixing ratio α is obtained statistically by solving a normal equation represented by the following equation (81).
[1008]
[Formula 59]

... (81)
[1009]
Here, i identifies each pixel of the extraction block. Therefore, in Expression (81), the number of pixels in the extraction block is n.
[1010]
Next, processing for detecting data continuity when the mixture ratio is data continuity will be described with reference to the flowchart of FIG.
[1011]
In step S731, the horizontal / vertical determination unit 711 determines a counter for identifying each pixel of the input image.uIs initialized.
[1012]
In step S732, the horizontal / vertical determination unit 711 executes data extraction processing necessary for subsequent processing. Note that the processing in step S732 is the same as the processing described with reference to the flowchart in FIG.
[1013]
In step S733, the data adding unit 751 executes a value adding process necessary for each term of the calculation of the normal equation (here, the expression (81)).
[1014]
Here, the addition process to the normal equation will be described with reference to the flowchart of FIG.
[1015]
In step S751, the MaxMin acquisition unit 752 acquires the maximum value and the minimum value of the pixel values included in the dynamic range block stored in the data acquisition unit 712, and outputs the minimum value to the difference calculation unit 754. .
[1016]
In step S752, the MaxMin acquisition unit 752 obtains a dynamic range from the difference between the maximum value and the minimum value, and outputs the dynamic range to the

difference addition units

753 and 755.
[1017]
In step S753, the adding unit 753 squares the dynamic range (Max-Min) input from the MaxMin obtaining unit 752 and adds it. That is, the adding unit 753 generates a value corresponding to the denominator of the above-described formula (81) by adding.
[1018]
In step S754, the difference calculation unit 754 obtains a difference between the maximum value of the dynamic range block input from the MaxMin acquisition unit 752 and the pixel value of the pixel currently being processed in the extraction block, and adds the difference to the addition unit 755. Output.
[1019]
In step S755, the adding unit 755 selects the dynamic range input from the MaxMin acquisition unit 752, the pixel value of the pixel currently being processed input from the difference calculation unit 754, and the pixels of the dynamic range block. Multiply the difference from the maximum value and add. That is, the adding unit 755 generates a value corresponding to the numerator term of the above formula (81).
[1020]
As described above, the data adding unit 751 performs the calculation of each term of the above equation (81) by the adding process.
[1021]
Now, the description returns to the flowchart of FIG.
[1022]
In step S734, the difference adding unit 721 determines whether or not the addition has been completed for all the pixels of the extraction block. For example, if the addition process for all the pixels of the extraction block has not been completed. If so, the process returns to step S732, and the subsequent processes are repeated. That is, the processes of steps S732 to S734 are repeated until it is determined that the addition process has been completed for all the pixels of the extraction block.
[1023]
If it is determined in step S734 that the addition has been completed for all the pixels of the extraction block, in step S735, the

addition units

753 and 755 add the addition results stored by themselves to the mixture ratio deriving unit 761. Output to.
[1024]
In step S736, the mixture ratio calculation unit 762 of the mixture ratio deriving unit 761 inputs the square sum of the dynamic range and the pixel value of each pixel of the extraction block input from the

addition units

753 and 755 of the data addition unit 751. The pixel of interest is statistically calculated using the least square method by solving the normal equation shown in the above equation (81) based on the sum of the difference between the maximum value of the dynamic range block and the dynamic range. The mixture ratio, which is data continuity information, is calculated and output.
[1025]
In step S737, the data acquisition unit 712 determines whether or not processing has been performed for all the pixels of the input image. For example, processing has not been performed for all the pixels of the input image. In the case where it is determined that the mixture ratio is not output for the pixels in step S738,uIs incremented by 1, and the process returns to step S732.
[1026]
That is, the processing of steps S732 to S738 is repeated until the pixel to be processed in the input image is changed and the mixture ratio is calculated for all the pixels of the input image. This counteruFor example, the change in the pixel may be a raster scan or the like, or may be changed sequentially according to other rules.
[1027]
If it is determined in step S737 that all pixels of the input image have been processed, in step S739, the data acquisition unit 712 determines whether there is a next input image, and if there is a next input image. If it is determined, the process returns to step S731, and the subsequent processes are repeated.
[1028]
If it is determined in step S739 that there is no next input image, the process ends.
[1029]
Through the above processing, the mixture ratio of each pixel is detected and output as continuity information.
[1030]
With the above method, for example, the change in the mixture ratio in the predetermined spatial direction X (= 561, 562, 563) is shown in FIG. 158B for the fine line image in the white line in the image shown in FIG. 158A. Yes. As shown in FIG. 158B, the change in the mixing ratio in the spatial direction Y, which is continuous in the horizontal direction, rises around the spatial direction Y = 660 and near Y = 685 when the spatial direction X = 563, respectively. At the peak and decreases to Y = 710. When the spatial direction X = 562, the mixing ratio rises near the spatial direction Y = 680, peaks near Y = 705, and decreases to Y = 735. Further, when the spatial direction X = 561, the mixing ratio rises near the spatial direction Y = 705, peaks near Y = 725, and decreases to Y = 755.
[1031]
Thus, as shown in FIG. 158B, each change in the mixing ratio in the continuous spatial direction X is the same change as the change in the pixel value that changes according to the mixing ratio (the change in the pixel value shown in FIG. 133B). Since it is periodically continuous, it can be seen that the mixing ratio of the pixels in the vicinity of the thin line is accurately expressed.
[1032]
Similarly, FIG. 159B shows the change in the mixing ratio in the predetermined spatial direction X (= 658, 659, 660) for the binary edge image in the white line in the image shown in FIG. 159A. ing. As shown in FIG. 159B, the change in the mixing ratio in the spatial direction Y that is continuous in the horizontal direction is increased when the spatial direction X = 660, and the mixing ratio rises near the spatial direction Y = 750 and near Y = 765. It becomes a peak at. Further, when the spatial direction X = 659, the mixing ratio rises in the vicinity of the spatial direction Y = 760 and peaks at the vicinity of Y = 775. Further, when the spatial direction X = 658, the mixture ratio rises near the spatial direction Y = 770 and peaks near Y = 785.
[1033]
Thus, as shown in FIG. 159B, the change in the mixing ratio of the binary edge is substantially the same as the change similar to the change in the pixel value (change in the pixel value shown in FIG. 145B) that changes with the mixing ratio. In addition, since it is periodically continuous, it can be seen that the mixing ratio of the pixel values in the vicinity of the binary edge is accurately expressed.
[1034]
According to the above, it becomes possible to obtain the mixture ratio of each pixel statistically as data continuity information by the method of least squares. Furthermore, it is possible to directly generate the pixel value of each pixel based on this mixture ratio.
[1035]
Further, when the change in the mixing ratio has continuity, and when the change in the mixing ratio is approximated by a linear one, the relationship shown by the following equation (82) is established.
[1036]

[1037]
Here, m represents a slope when the mixing ratio α changes with respect to the spatial direction Y, and n corresponds to an intercept when the mixing ratio α changes linearly.
[1038]
That is, as shown in FIG. 160, the straight line indicating the mixing ratio is a straight line indicating the boundary between the pixel value B corresponding to the level of the background region and the level L corresponding to the level of the fine line. In this case, the spatial direction The amount of change in the mixing ratio when the unit distance is advanced with respect to Y is the slope m.
[1039]
Therefore, substituting equation (82) into equation (77) yields the following equation (83).
[1040]

[1041]
Furthermore, when the equation (83) is expanded, the following equation (84) is derived.
[1042]

[1043]
In the equation (84), m in the first term represents the gradient of the mixing ratio in the spatial direction, and the second termnIs a term indicating the intercept of the mixing ratio. Therefore, a normal equation can be generated and obtained by using the least square method of two variables for m and n in the above equation (84).
[1044]
However, the slope m of the mixture ratio α is the slope of the thin line or binary edge described above (the slope G described above)._f) Itself, in advance, using the above-described method, the fine line or the gradient G of the binary edge G_fThen, by using the slope, and substituting it into the equation (84), a function of one variable for the term of the intercept is obtained, and as in the method described above, it is obtained by the least square method of one variable. Also good.
[1045]
In the above example, the data continuity detection unit 101 that detects the thin line in the spatial direction, the angle (tilt) of the binary edge, or the mixture ratio as the data continuity information has been described. May correspond to an angle in the spatial direction obtained by substituting any one of these axes (spatial directions X, Y) with an axis in the time direction (frame direction) T. That is, the object corresponding to the angle obtained by replacing one of the axes in space (space direction X, Y) with the axis in time direction (frame direction) T is the motion vector of the object (direction of the motion vector). ).
[1046]
More specifically, as shown in FIG. 161A, when the object is moving in the upward direction in the figure with respect to the spatial direction Y as time progresses, the portion corresponding to the thin line in the figure (with respect to FIG. 131A) In comparison, a trajectory of the movement of the object appears. Therefore, in FIG. 161A, the inclination of the thin line in the time direction T indicates the direction in which the object moves (the angle indicating the movement of the object) (the same value as the direction of the motion vector). Accordingly, in the real world, in the frame at a predetermined time indicated by the arrow in FIG. 161A, the part that becomes the locus of the object becomes the (color) level of the object as shown in FIG. It becomes a pulse-like waveform at the background level.
[1047]
As described above, when the moving object is imaged by the sensor 2, as shown in FIG. 162A, the distribution of the pixel values of the pixels in the frames at the times T1 to T3 is spatial as shown in FIG. 162B. A mountain-shaped waveform is taken for each direction Y. This relationship can be considered to be similar to the relationship in the spatial directions X and Y described with reference to FIGS. 132A and 132B. Therefore, when the object is moving with respect to the frame direction T, the direction of the motion vector of the object is changed to data continuity by the same method as the information on the inclination of the thin line or the angle (tilt) of the binary edge described above. It can also be obtained as information. In FIG. 162B, for each frame direction T (time direction T), each square is a shutter time that forms an image of one frame.
[1048]
Similarly, as shown in FIG. 163A, when the object moves in the spatial direction Y for each frame direction T, as shown in FIG. 163B, the space on the frame corresponding to the predetermined time T1 is shown. In the direction Y, each pixel value is obtained corresponding to the movement of the object. At this time, for example, as shown in FIG. 163C, the pixel values of the pixels surrounded by the black solid line in FIG. 163B are mixed in the frame direction with the background level and the object level corresponding to the movement of the object. This is a pixel value mixed at a ratio β.
[1049]
This relationship is the same as the relationship described with reference to FIGS. 155A, B, and C.
[1050]
Further, as shown in FIG. 164, the object level O and the background level B can be linearly approximated by a mixing ratio β in the frame direction (time direction).ThisThis relationship is the same as the linear approximation of the mixing ratio in the spatial direction described with reference to FIG.
[1051]
Therefore, the mixing ratio β in the time (frame) direction can be obtained as data continuity information by the same method as the mixing ratio α in the spatial direction.
[1052]
Alternatively, either one of the frame direction and the spatial direction may be selected to obtain the stationary angle or the direction of the motion vector. Similarly, the mixture ratios α and β are selectively selected. You may make it ask for.
[1053]
According to the above, the real-world optical signal is projected, the region corresponding to the target pixel in the image data in which a part of the steadiness of the real-world optical signal is missing is selected, and the missing in the selected region A feature for detecting the angle of the image data corresponding to the steadiness of the optical signal in the real world with respect to the reference axis of the continuity is detected, and the angle is statistically detected based on the detected feature, and the detected image data Since the optical signal is estimated by estimating the continuity of the missing real-world optical signal based on the angle of the continuity with respect to the reference axis, the steadiness angle (direction of motion vector) or ( It is possible to determine the mixture ratio of time and space.
[1054]
Next, with reference to FIG. 165, the data continuity information detection unit 101 that outputs information on a region to be processed using data continuity information as data continuity information will be described.
[1055]
The angle detection unit 801 detects the angle in the spatial direction of a region having a continuity in the input image, that is, a portion constituting a thin line or a binary edge having a continuity on the image, and detects the detected angle. Output to the real world estimation unit 802. The angle detector 801 is the same as the data continuity detector 101 in FIG.
[1056]
The real world estimation unit 802 estimates the real world based on the angle indicating the direction of data continuity input from the angle detection unit 801 and information on the input image. That is, the real world estimation unit 802 obtains an approximate function coefficient that approximately describes the intensity distribution of the optical signal in the real world from the input angle and each pixel of the input image, and calculates the obtained coefficient in the real world. The estimation result is output to the error calculation unit 803. The real world estimation unit 802 is the same as the real world estimation unit 102 in FIG.
[1057]
Based on the coefficients input from the real world estimation unit 802, the error calculation unit 803 constructs an approximate function indicating the light intensity distribution of the real world described approximately, and further, based on the approximate function, The light intensity corresponding to the pixel position is integrated to generate a pixel value of each pixel from the light intensity distribution estimated by the approximation function, and the difference from the actually input pixel value is used as an error in the comparison unit 804. Output.
[1058]
The comparison unit 804 compares the error input from the error calculation unit 803 with respect to each pixel and a preset threshold value, so that the processing region where the pixel to be processed using the continuity information is present and the non-processing A region is identified, and region information in which a processing region for performing processing using this continuity information and a non-processing region is identified is output as continuity information.
[1059]
Next, with reference to the flowchart of FIG. 166, the process of detecting continuity by the data continuity detecting unit 101 of FIG. 165 will be described.
[1060]
In step S801, the angle detection unit 801 acquires the input image, and in step S802, detects an angle indicating the direction of continuity. More specifically, the angle detection unit 801 detects, for example, a thin line when the horizontal direction is a reference axis, or an angle indicating the direction of continuity of a binary edge, and outputs the detected angle to the real world estimation unit 802. To do.
[1061]
In step S 803, the real world estimation unit 802 approximates the polynomial expressed in the function F (x) representing the real world based on the angle information input from the angle detection unit 801 and the input image information. The coefficient of the approximate function f (x) consisting of is obtained and output to the error calculator 803. That is, the approximate function f (x) representing the real world is represented by a one-dimensional polynomial as in the following formula (85).
[1062]
[Expression 60]

... (85)
[1063]
Here, wi is a polynomial coefficient, and the real world estimation unit 802 obtains the coefficient wi and outputs it to the error calculation unit 803. Furthermore, the inclination can be obtained from the direction of continuity based on the angle input from the angle detector 801 (G_f= Tan^-1θ, G_f: Slope, θ: angle), so this slope G_fBy substituting the constraint condition, the above equation (85) can be described by a two-dimensional polynomial, as shown by the following equation (86).
[1064]
[Equation 61]

... (86)
[1065]
That is, the above equation (86) is obtained by converting the shift width generated by the parallel movement of the one-dimensional approximation function f (x) described by the equation (85) in the spatial direction Y to the shift amount α (= −dy / G_f: Dy describes a two-dimensional function f (x, y) obtained by expressing it with a change amount in the spatial direction Y).
[1066]
Therefore, the real world estimation unit 802 solves each coefficient wi of the above equation (86) using the input image and information on the angle in the stationary direction, and outputs the obtained coefficient wi to the error calculation unit 803. To do.
[1067]
Here, the description returns to the flowchart of FIG. 166.
[1068]
In step S804, the error calculation unit 803 executes reintegration on each pixel from the coefficients input from the real world estimation unit 802. That is, the error calculation unit 803 integrates the above equation (86) for each pixel from the coefficients input from the real world estimation unit 802 as represented by the following equation (87).
[1069]
[62]

... (87)
[1070]
Where S_SIndicates the integration result in the spatial direction shown in FIG. Further, the integration range is x in the spatial direction X as shown in FIG._mThru x_{m + B}And for the spatial direction Y, y_mTo y_{m + A}It is. In FIG. 167, each square (square) represents one pixel, and is assumed to be 1 in each of the spatial directions X and Y.
[1071]
Therefore, as shown in FIG. 168, the error calculation unit 803 performs x for the spatial direction X of the curved surface indicated by the approximate function f (x, y)._mThru x_{m + 1}, And y in the spatial direction Y_mTo y_{m + 1}(A = B = 1), an integration operation as shown in the following formula (88) is executed for each pixel, and each of the obtained by spatially integrating an approximate function that approximately represents the real world. Pixel value P of the pixel_SIs calculated.
[1072]
[Equation 63]

... (88)
[1073]
That is, by this processing, the error calculation unit 803 functions as a kind of pixel value generation unit, and generates a pixel value from the approximate function.
[1074]
In step S805, the error calculation unit 803 calculates a difference between the pixel value obtained by the integration shown in the above equation (88) and the pixel value of the input image, and uses this as an error for the comparison unit 804. Output. In other words, the error calculation unit 803 performs the integration range shown in FIGS._mThru x_{m + 1}, And y in the spatial direction Y_mTo y_{m + 1}The difference between the pixel value of the pixel corresponding to) and the pixel value obtained from the integration result in the range corresponding to the pixel is obtained as an error and output to the comparison unit 804.
[1075]
In step S806, the comparison unit 804 determines whether or not the absolute value of the error between the pixel value obtained by integration input from the error calculation unit 803 and the pixel value of the input image is equal to or less than a predetermined threshold value. .
[1076]
If it is determined in step S806 that the error is equal to or smaller than the predetermined threshold value, in step S807, the comparison unit 804 obtains a pixel value obtained by integration that is close to the pixel value of the pixel of the input image. Therefore, the approximate function set to calculate the pixel value of the pixel is considered to be sufficiently close to the light intensity distribution of the real-world optical signal, and the area of the pixel that has just been processed is included in the continuity information. Recognized as a processing region for performing processing based on the approximate function. More specifically, the comparison unit 804 stores in the memory (not shown) that the pixel that has been processed is a pixel in the subsequent processing area.
[1077]
On the other hand, when it is determined in step S806 that the error is not equal to or less than the predetermined threshold value, in step S808, the comparison unit 804 determines that the pixel value obtained by the integration is a value that is different from the actual pixel value. Therefore, it is assumed that the approximate function set for calculating the pixel value of the pixel does not sufficiently approximate the light intensity distribution of the real-world optical signal, and the area of the pixel that has just been processed is stationary information in the subsequent stage. Is recognized as a non-processed area that is not subjected to processing by an approximation function based on More specifically, the comparison unit 804 stores in a memory (not shown) that the pixel area that has been processed is a subsequent non-process area.
[1078]
In step S809, the comparison unit 804 determines whether or not processing has been performed on all pixels. If it is determined that processing has not been performed on all pixels, the processing returns to step S802, and The subsequent processing is repeated. That is, for all the pixels, the pixel value obtained by integration is compared with the input pixel value, and the processes of steps S802 to S809 are repeated until the determination process of whether or not the pixel is a processing region is completed.
[1079]
In step S809, for all the pixels, the pixel value obtained by reintegration is compared with the input pixel value, and if it is determined that the determination process for determining whether or not the pixel is a processing region is completed, in step S810, The comparison unit 804 stores a processing region in which processing based on spatial continuity information is performed in subsequent processing on an input image stored in a memory (not shown), and processing based on spatial continuity information The region information in which the non-processed region that is not processed is identified is output as continuity information.
[1080]
According to the above processing, the pixel value obtained by the integration result in the range corresponding to each pixel using the approximate function f (x) calculated based on the stationary information and the pixel value in the actual input image Based on the error, the accuracy of the expression of the approximation function is evaluated for each region (for each pixel), and the pixel value obtained by integration based on the approximation function is small. Since only the area where the probable pixel exists is set as the processing area, and the other area is set as the non-processing area, only the probable area can be processed based on the stationary information in the spatial direction. Therefore, it is possible to increase the processing speed and to execute the process only on the probable area, so that it is possible to suppress image quality deterioration due to this process. It becomes ability.
[1081]
Next, with reference to FIG. 169, another embodiment of the data continuity information detecting unit 101 that outputs region information in which pixels that perform processing using data continuity information as data continuity information are output will be described. .
[1082]
The motion detection unit 821 has a stationary region in the input image, that is, a motion having a stationary property in the frame direction on the image (motion vector direction: V_f) And outputs the detected motion to the real world estimation unit 822. The motion detector 821 is the same as the data continuity detector 101 in FIG.
[1083]
The real world estimation unit 822 estimates the real world based on the data continuity motion input from the motion detection unit 821 and information on the input image. That is, the real world estimation unit 822 calculates coefficients of an approximate function that approximately describes the input motion and the intensity distribution of the real world optical signal in the frame direction (time direction) from each pixel of the input image. The obtained coefficient is output to the error calculator 823 as a real-world estimation result. The real world estimation unit 822 is the same as the real world estimation unit 102 in FIG.
[1084]
Based on the coefficients input from the real world estimation unit 822, the error calculation unit 823 constructs an approximate function indicating the intensity distribution of light in the real world in the frame direction described approximately, and further, from this approximate function, The light intensity corresponding to each pixel position is integrated for each frame, and the pixel value of each pixel is generated from the light intensity distribution estimated by the approximation function. The difference from the actually input pixel value is used as the error. Output to the comparison unit 824.
[1085]
The comparison unit 824 compares the error input from the error calculation unit 823 with respect to each pixel and a preset threshold value, so that the processing region where the pixel to be processed using the continuity information is present and the non-processing A region is identified, and region information in which a processing region for performing processing using this continuity information and a non-processing region is identified is output as continuity information.
[1086]
Next, the continuity detection process performed by the data continuity detection unit 101 in FIG. 169 will be described with reference to the flowchart in FIG. 170.
[1087]
In step S821, the motion detection unit 801 acquires the input image, and in step S822, detects a motion indicating continuity. More specifically, the motion detection unit 801, for example, the motion of a moving object in the input image (motion vector direction: V_f) Is detected and output to the real world estimation unit 822.
[1088]
In step S823, the real world estimation unit 822 approximately describes the function F (t) in the frame direction representing the real world based on the motion information input from the motion detection unit 821 and the input image information. The coefficient of the function f (t) made of a polynomial is obtained and output to the error calculator 823. That is, the function f (t) representing the real world is represented by a one-dimensional polynomial as in the following formula (89).
[1089]
[Expression 64]

... (89)
[1090]
Here, wi is a polynomial coefficient, and the real world estimation unit 822 calculates the coefficient wi and outputs it to the error calculation unit 823. Furthermore, a steady motion can be obtained from the motion input from the motion detector 821 (V_f= Tan^-1θv, V_fIs the inclination of the motion vector in the frame direction, and θv is the angle of the motion vector in the frame direction. Therefore, by substituting the constraint condition of the inclination, the above equation (89) is expressed by the following equation (90): As described above, it can be described by a two-dimensional polynomial.
[1091]
[Equation 65]

... (90)
[1092]
That is, the above equation (90) is obtained by calculating the shift amount αt (= −dy) as the shift width caused by the parallel movement of the one-dimensional approximation function f (t) described by the equation (89) in the spatial direction Y. / V_f: Dy describes a two-dimensional function f (t, y) obtained by expressing it with a change amount in the spatial direction Y).
[1093]
Therefore, the real world estimation unit 822 solves each coefficient wi of the above equation (90) using the input image and the stationary motion information, and outputs the obtained coefficient wi to the error calculation unit 823. .
[1094]
Now, the description returns to the flowchart of FIG. 170.
[1095]
In step S824, the error calculation unit 823 performs integration in the frame direction for each pixel from the coefficients input from the real world estimation unit 822. That is, the error calculation unit 823 integrates the above equation (90) for each pixel from the coefficients input from the real world estimation unit 822 as shown by the following equation (91).
[1096]
[Equation 66]

... (91)
[1097]
Where S_tShows the integration result in the frame direction shown in FIG. Further, as shown in FIG. 171, the integration range is T for the frame direction T._mThru T_{m + B}And for the spatial direction Y, y_mTo y_{m + A}It is. In FIG. 171, each square (square) indicates one pixel, and both the frame direction T and the spatial direction Y are 1. Here, 1 in the frame direction T means that the shutter time for one frame is 1.
[1098]
Therefore, as shown in FIG. 172, the error calculation unit 823 calculates T for the spatial direction T of the curved surface indicated by the approximate function f (t, y)._mThru T_{m + 1}, And y in the spatial direction Y_mTo y_{m + 1}With (A = B = 1), an integration operation as shown in the following equation (92) is executed for each pixel, and the pixel value P of each pixel obtained from a function that approximately represents the real world_tIs calculated.
[1099]
[Expression 67]

... (92)
[1100]
That is, by this processing, the error calculation unit 823 functions as a kind of pixel value generation unit, and generates a pixel value from the approximation function.
[1101]
In step S825, the error calculation unit 823Calculates the difference between the pixel value obtained by integration as shown in the above equation (92) and the pixel value of the input image, and outputs this as an error to the comparison unit 824. In other words, the error calculation unit 823 has the integration range (T in the spatial direction T shown in FIGS. 171 and 172 described above)._mThru T_{m + 1}, And y in the spatial direction Y_mTo y_{m + 1}The difference between the pixel value of the pixel corresponding to) and the pixel value obtained by the integration result in the range corresponding to the pixel is obtained as an error and output to the comparison unit 824.
[1102]
In step S826, the comparison unit 824 determines whether or not the absolute value of the error between the pixel value obtained by the integration input from the error calculation unit 823 and the pixel value of the input image is equal to or less than a predetermined threshold value. .
[1103]
If it is determined in step S826 that the error is equal to or smaller than the predetermined threshold value, in step S827, the comparison unit 824 obtains a pixel value obtained by integration that is close to the pixel value of the input image. The approximate function set in calculating the pixel value of the pixel is regarded as being sufficiently approximated to the light intensity distribution of the real-world optical signal, and the pixel area that has been processed is recognized as a processing area. More specifically, the comparison unit 824 stores in the memory (not shown) that the pixel that has been processed is a pixel in the subsequent processing area.
[1104]
On the other hand, when it is determined in step S826 that the error is not equal to or less than the predetermined threshold, in step S828, the comparison unit 824 determines that the pixel value obtained by the integration is a value that is separated from the actual pixel value. Therefore, it is assumed that the approximate function set in calculating the pixel value of the pixel is not sufficiently approximate to the light intensity distribution in the real world, and the pixel area processed now is based on continuity information in the subsequent stage. Recognized as a non-processed area that is not processed by the approximate function. More specifically, the comparison unit 824 stores in the memory (not shown) that the area of the pixel that has been processed is a subsequent non-process area.
[1105]
In step S829, the comparison unit 824 determines whether or not processing has been performed on all pixels. If it is determined that processing has not been performed on all pixels, the processing returns to step S822, and The subsequent processing is repeated. That is, for all the pixels, the pixel value obtained by integration is compared with the input pixel value, and the processing of steps S822 to S829 is repeated until the determination processing for determining whether or not the pixel is a processing region is completed.
[1106]
In step S829, for all the pixels, the pixel value obtained by reintegration is compared with the input pixel value, and if it is determined that the determination process for determining whether or not it is a processing region is completed, in step S830, The comparison unit 824 stores a processing region in which processing based on frame direction continuity information is performed in subsequent processing on an input image stored in a memory (not shown), and processing based on frame direction continuity information The region information in which the non-processed region that is not processed is identified is output as continuity information.
[1107]
According to the above processing, the pixel value obtained from the integration result of the range corresponding to each pixel using the approximate function f (t) calculated based on the stationary information, and the pixel value in the actual input image On the basis of the error, the accuracy of the expression of the approximation function is evaluated for each region (for each pixel), and the pixel value obtained by integration based on the approximation region based on the approximation region is small. Since only the area where the probable pixel exists is set as the processing area, and the other area is set as the non-processing area, only the probable area can be processed based on the continuity information in the frame direction. Since only the correct processing can be executed, the processing speed can be improved and the processing can be executed only in a probable area, so that deterioration in image quality due to this processing can be suppressed. Is possible.
[1108]
165 and 169 may be combined to select any one dimension in the spatio-temporal direction and selectively output the region information.
[1109]
According to the above, a real-world optical signal is projected by a plurality of detection elements of the sensor, each having a spatiotemporal integration effect, and a part of the continuity of the real-world optical signal is lost, and is projected by a detection element Detecting the continuity of data in image data composed of a plurality of pixels having pixel values, and corresponding to the detected continuity, each pixel corresponding to a position in at least a one-dimensional direction in the spatiotemporal direction of the image data By approximating a function corresponding to a real-world optical signal, assuming that the value is a pixel value obtained by at least a one-dimensional integration effect, the function corresponding to the real-world optical signal is estimated, and the estimated function is Detects the difference value between the pixel value acquired by integrating at least in units corresponding to each pixel in the one-dimensional direction and the pixel value of each pixel, and selectively outputs a function according to the difference value As a result, it is possible to set only the area where the pixel value obtained by integration based on the approximate function is likely to exist as the processing area and the other area as the non-processing area. Since only the necessary processing can be performed based on the stationary information in the frame direction, the processing speed can be improved and the processing is performed only on the probable area. Therefore, it is possible to suppress deterioration in image quality due to this processing.
[1110]
Next, with reference to FIG. 173, description will be given of the continuity detecting unit 101 that can obtain the continuity angle with higher accuracy and at higher speed.
[1111]
The simplified angle detection unit 901 is substantially the same as the continuity detection unit 101 described with reference to FIG. 95, and compares the block corresponding to the pixel of interest with the blocks of the surrounding pixels, For example, 16 azimuths (for example, the angle of data continuity) is detected by so-called block matching, which detects the range of angles between the target pixel and the peripheral pixel having the strongest correlation between the block corresponding to the pixel and the peripheral pixel block. In the case of θ, 0 ≦ θ <18.4, 18.4 ≦ θ <26.05, 26.05 ≦ θ <33.7, 33.7 ≦ θ <45, 45 ≦ θ <56.3, 56.3 ≦ θ <63.95, 63.95 ≦ θ <in FIG. 71.6, 71.6 ≦ θ <90, 90 ≦ θ <108.4, 108.4 ≦ θ <116.05, 116.05 ≦ θ <123.7, 123.7 ≦ θ <135, 135 ≦ θ <146.3, 146.3 ≦ θ <153.95, 153.95 ≦ θ <161.6, And the range of 161.6 ≦ θ <180) can be easily detected by detecting the angle of stationarity. Te outputs each median (or the representative value in that range) to the determination unit 902.
[1112]
The determination unit 902 is based on the information on the continuity angle that is simply obtained and is input from the simplified angle detection unit 901, and the input angle is an angle close to the vertical direction, or It is determined whether the angle is close to the horizontal direction or not, and the switch 903 is controlled according to the determination result to connect to either of the

terminals

903a and 903b, and the input image is rotated to the rotary angle detector 904. Alternatively, when the switch 903 is connected to the terminal 903a while being supplied to the gradient angle detector 905, the angle information obtained from the simple equation input from the simple angle detector 901 is the regression equation angle detector 904. To supply.
[1113]
More specifically, the determination unit 902 determines that the continuity direction supplied from the simplified angle detection unit 901 is an angle close to the horizontal direction or the vertical direction (for example, the simplified angle detection unit). 901 when the stationary angle θ input from 901 is 0 ≦ θ ≦ 18.4, 71.6 ≦ θ ≦ 108.4, or 161.6 ≦ θ ≦ 180), the switch 903 is connected to the terminal 903a, and the input image is the regression equation angle. In other cases, that is, in the case where the direction of continuity is 45 degrees or close to 135 degrees, the switch 903 is connected to the terminal 903b and the input image is supplied to the gradient angle detection section 905. To do.
[1114]
The regression equation angle detection unit 904 is substantially similar in configuration to the continuity detection unit 101 described with reference to FIG. 107 described above, and regressively (corresponding to the pixel value of the target pixel and the target pixel). By setting the frequency based on the correlation value to the pixel whose correlation value with the pixel value of the pixel belonging to the area is equal to or greater than the threshold value, the frequency of the pixel belonging to the area is detected and detected based on the detected frequency The data continuity angle detection (obtained from the regression line obtained) is executed, and the detected angle is output to the real world estimation unit 102 as data continuity information. However, the regression equation angle detection unit 904 limits the range (scope) corresponding to the pixel of interest based on the angle supplied from the determination unit 902 to detect the angle, sets the frequency, and regresses the angle. Is detected.
[1115]
The gradient angle detection unit 905 is substantially the same as the continuity detection unit 101 described with reference to FIG. 124, and the pixel value of the block corresponding to the target pixel (the above-described dynamic range block) is The difference between the maximum value and the minimum value, that is, based on the dynamic range (substantially based on the gradient of the maximum and minimum pixel values of the dynamic range block), the angle of data continuity is detected, and the data Is output to the real world estimation unit 102.
[1116]
Next, the configuration of the simplified angle detection unit 901 will be described with reference to FIG. 174. The simplified angle detection unit 901 is substantially the same as the data continuity detection unit 101 described with reference to FIG. The configuration is the same. Accordingly, the data selection unit 911, the error estimation unit 912, the steady direction derivation unit 913, the pixel selection units 921-1 to 921-L, and the estimation error calculation units 922-1 to 922-L of the simplified angle detection unit 901 in FIG. 95, the minimum error angle selection unit 923 includes a data selection unit 441, an error estimation unit 442, a steady direction derivation unit 443, pixel selection units 461-1 to 461-L, and an estimation error of the data continuity detection unit 101 in FIG. Since it is the same as that of the calculation parts 462-1 thru | or 462-L and the minimum error angle selection part 443, description of each site | part is abbreviate | omitted.
[1117]
Next, the configuration of the regression equation angle detection unit 904 will be described with reference to FIG. 175. However, the regression equation angle detection unit 904 is substantially the same as the data continuity detection unit 101 described with reference to FIG. It is similar to the configuration. Accordingly, the frame memory 931, the pixel acquisition unit 932, the regression line calculation unit 934, and the angle calculation unit 935 of the regression equation angle detection unit 904 of FIG. 175 are the same as the frame memory 501 of the data continuity detection unit 101 of FIG. Since it is the same as that of the acquisition part 502, the regression line calculation part 504, and the angle calculation part 505, the description is abbreviate | omitted.
[1118]
Here, in the regression equation angle detection unit 904, a frequency detection unit 933 is different from the data continuity detection unit 101 in FIG. The frequency detection unit 933 has a function similar to that of the frequency detection unit 503 in FIG. 107, but further includes a scope memory 933a and is detected by the simple angle detection unit 901 input from the determination unit 902. The frequency is detected based on the angle range information for detecting the frequency with respect to the target pixel stored in the scope memory 933a based on the continuity angle of the obtained data, and the detected frequency information is subjected to a regression line calculation. Part 934.
[1119]
Next, the configuration of the gradient-type angle detection unit 905 will be described with reference to FIG. 176. The gradient-type angle detection unit 905 is substantially the same as the data continuity detection unit 101 described with reference to FIG. The configuration is the same. Accordingly, the data selection unit 941, the data addition unit 942, the steady direction derivation unit 943, the horizontal / vertical determination unit 951, the data acquisition unit 952, the difference addition unit 961, the MaxMin acquisition unit 962, and the difference addition unit 963 of FIG. The steady direction calculation unit 971 includes a data selection unit 701, a data addition unit 702, a steady direction derivation unit 703, a horizontal / vertical determination unit 711, a data acquisition unit 712, and a difference. Since the addition unit 721, the MaxMin acquisition unit 722, the difference addition unit 723, and the steady direction calculation unit 731 are the same, the description thereof is omitted.
[1120]
Next, data continuity detection processing will be described with reference to the flowchart in FIG.
[1121]
In step S 901, the simplified angle detection unit 901 executes simplified angle detection processing and outputs information on the detected angle to the determination unit 902. The simplified angle detection process is the same as the data continuity detection process described with reference to the flowchart of FIG.
[1122]
In step S902, the determination unit 902 determines that the data continuity angle is an angle close to the horizontal direction or the vertical direction based on the data continuity angle information input from the simplified angle detection unit 901. It is determined whether or not there is. More specifically, for example, the determination unit 902 determines that the continuity angle of the data is such that the continuity angle θ input from the simplified angle detection unit 901 is 0 ≦ θ ≦ 18.4, 71.6 ≦ θ ≦ 108.4, or When the range is 161.6 ≦ θ ≦ 180, it is determined that the angle of data continuity is an angle close to the horizontal direction or the vertical direction.
[1123]
If it is determined in step S902 that the continuity angle of the data is an angle in the horizontal direction or the vertical direction, the process proceeds to step S903.
[1124]
In step S 903, the determination unit 902 controls the switch 903 to connect to the terminal 903 a and supply information on the continuity angle of the data supplied from the simplified angle detection unit 901 to the regression equation angle detection unit 904. To do. By this processing, the regression angle detection unit 904 is supplied with information on the steadiness angle of the data detected by the input image and the simple angle detection unit 901.
[1125]
In step S904, the regression equation angle detection unit 904 executes regression equation angle detection processing, and outputs the detected angle to the real world estimation unit 102 as data continuity information. The regression equation angle detection process will be described later with reference to FIG.
[1126]
In step S905, the data selection unit 911 of the simplified angle detection unit 901 determines whether or not the process has been completed for all pixels, and if it is determined that the process has not been completed for all pixels, the process Returns to step S901, and the subsequent processing is repeated.
[1127]
On the other hand, if it is determined in step S902 that the direction of data continuity is not the horizontal direction or the vertical direction, the process proceeds to step S906.
[1128]
In step S906, the determination unit 902 controls the switch 903 to connect to the terminal 903b. With this process, an input image is supplied to the gradient type angle detection unit 905.
[1129]
In step S907, the gradient-type angle detection unit 905 executes a gradient-type angle detection process, detects an angle, and outputs the detected angle to the real world estimation unit 102 as continuity information. The gradient type angle detection process is substantially the same process as the data continuity detection process described with reference to the flowchart of FIG. 149, and a description thereof will be omitted.
[1130]
That is, by the processing in step S902, when the angle of continuity of the data detected by the simplified angle detection unit 901 is centered on the pixel of interest in the center as shown in FIG. When the angle corresponding to the region (18.4 <θ <71.6 or 108.4 <θ <161.6) is satisfied, the determination unit 902 controls the switch 903 to connect to the terminal 903a by the processing of step S903, thereby By the processing of S904, the regression equation angle detection unit 904 obtains a regression line using the correlation, and detects the steadiness angle of the data from the regression line.
[1131]
Further, when the continuity angle of the data detected by the simplified angle detection unit 901 is centered on the target pixel in the drawing as shown in FIG. When the corresponding angle (0 ≦ θ ≦ 18.4, 71.6 ≦ θ ≦ 108.4, or 161.6 ≦ θ ≦ 180), the determination unit 902 controls the switch 903 to connect to the terminal 903b by the process of step S906. As a result, the gradient type angle detection unit 905 detects the continuity angle of the data by the processing in step S907.
[1132]
The regression equation angle detection unit 904 compares the correlation between the block corresponding to the target pixel and the block corresponding to the peripheral pixel, and obtains the angle of data continuity from the angle with the pixel corresponding to the block with the strongest correlation. Therefore, if the angle of data continuity is close to the horizontal or vertical direction, the pixel with the highest correlation may be located far from the target pixel. In order to detect a block of neighboring pixels having a strong correlation, the area to be searched must be widened, which may result in a huge amount of processing. Furthermore, by expanding the search area, There is a possibility that a block having a strong correlation with the block corresponding to the target pixel may be detected by chance at a position where there is no property, and the angle detection accuracy may be lowered.
[1133]
On the other hand, the gradient-type angle detection unit 905 determines whether the data having the maximum value and the minimum value of the pixel values in the dynamic range block is closer to the horizontal direction or the vertical direction as the angle of data continuity is closer to the horizontal direction or the vertical direction. Since the distance is increased, the number of pixels with the same slope (gradient indicating the change in pixel value) increases in the extraction block, so statistically detecting the angle of data continuity with higher accuracy It becomes possible to do.
[1134]
On the other hand, when the angle of data continuity is close to 45 degrees or 135 degrees, the gradient-type angle detection unit 905 decreases the distance between pixels that take the maximum value and the minimum value in the dynamic range block. Therefore, pixels having the same inclination (gradient indicating a change in pixel value) are reduced in the extraction block, and the accuracy of the steadiness angle of the data is reduced by statistical processing.
[1135]
On the other hand, the regression equation angle detection unit 904 determines the distance between the block corresponding to the target pixel and the block corresponding to the highly correlated pixel when the data continuity angle is 45 degrees or around 135 degrees. Therefore, the stationary angle can be detected with higher accuracy.
[1136]
As a result, on the basis of the angle detected by the simple angle detection unit 901, the data in the entire range can be obtained by switching the processing depending on the characteristics of the regression equation angle detection unit 904 and the gradient equation angle detection unit 905. It is possible to detect the angle of the stationarity with high accuracy. In addition, the accuracy of the data's stationarity can be detected with high accuracy, so the real world can be accurately estimated, and finally, more accurate and more accurate for real world events (images). A processing result can be obtained.
[1137]
Next, with reference to the flowchart in FIG. 179, the regression equation angle detection process which is the process in step S904 in the flowchart in FIG. 177 will be described.
[1138]
Note that the regression equation angle detection processing by the regression equation angle detection unit 904 is similar to the data continuity detection processing described with reference to the flowchart of FIG. 114, and steps S921 to S922 in the flowchart of FIG. The processes in steps S924 to S927 are the same as the processes in steps S501 to S506 in the flowchart of FIG.
[1139]
In step S923, the frequency detection unit 933 refers to the scope memory 933a, and based on the information on the continuity angle of the data detected by the simplified angle detection unit 901 supplied from the determination unit 902, out of the scope range. Are excluded from the processing target.
[1140]
That is, for example, when the range of the angle θ detected by the simple angle detection unit 901 is 45 ≦ θ <56.3, the scope memory 933a includes a hatched portion shown in FIG. 180 as a scope corresponding to the range. The frequency detection unit 933 excludes pixels other than the range corresponding to the scope from the processing target range.
[1141]
As a more detailed example of the scope range corresponding to each angle, for example, when the continuity angle of the data detected by the simplified angle detection unit 901 is 50 degrees, as shown in FIG. Range images and pixels outside the scope range are predefined. FIG. 181 shows an example of a range of 31 pixels × 31 pixels centered on the target pixel. Each arrangement indicated by 0 and 1 indicates a pixel position and is surrounded by a circle in the center in the figure. This position is the position of the target pixel. A pixel at a position indicated by 1 is a pixel within the scope range, and a pixel at a position indicated by 0 is a pixel outside the scope range. The same applies to FIGS. 182 to 183.
[1142]
That is, as shown in FIG. 181, the pixels that become the scope range are arranged with a certain range of width along the angle of about 50 degrees with the target pixel as the center.
[1143]
Similarly, when the angle detected by the simple angle detection unit 901 is 60 degrees, as shown in FIG. 182, the pixels that are in the scope range are about 60 degrees around the target pixel. Are arranged with a certain range of width.
[1144]
Further, when the angle detected by the simplified angle detection unit 901 is 67 degrees, as shown in FIG. 183, the scope range pixel is constant along the angle of about 67 degrees with the pixel of interest at the center. Are arranged with a width of the range.
[1145]
Further, when the angle detected by the simplified angle detection unit 901 is 81 degrees, as shown in FIG. 184, the pixels that are in the scope range are constant along the angle of about 81 degrees with the target pixel as the center. Are arranged with a width of the range.
[1146]
As described above, when pixels outside the scope range are excluded from the processing target range, in the process of converting each pixel value, which is the process of step S924, to a frequency, the pixels that exist at a position away from the continuity of the data This processing can be omitted, and only pixels with high correlation along the direction of continuity of data to be processed are processed, so that the processing speed can be improved. Furthermore, since the frequency can be obtained using only highly correlated pixels along the direction of the continuity of the data to be processed, it is possible to detect the continuity angle of the data with higher accuracy. It becomes.
[1147]
Note that the pixels belonging to the scope range are not limited to the ranges shown in FIGS. 181 to 184, and various pixels that exist at positions along the angle detected by the simple angle detection unit 901 centering on the target pixel. It may be a range composed of a plurality of pixels in a range having a width.
[1148]
Further, in the data continuity detecting unit 101 described with reference to FIG. 173, the determining unit 902 controls the switch 903 based on information on the continuity angle of the data detected by the simplified angle detecting unit 901. Thus, the input image information is input to either the regression equation angle detection unit 904 or the gradient equation angle detection unit 905, but the regression equation angle detection unit 904 or the gradient equation angle detection unit 905 is used. After the input image is input to any of these and the angle detection process is performed, the angle detected by any of the processes based on the information on the continuity angle of the data detected by the simplified angle detection unit 901 This information may be output.
[1149]
FIG. 185 shows the data detected by the simple angle detector 901 after the input image is input to the regression equation angle detector 904 or the gradient equation angle detector 905 and the angle detection process is performed. The configuration of the data continuity detection unit 101 is configured to output information on the angle detected in any of the processes based on the information on the continuity angle. In addition, the same code | symbol is attached | subjected about the structure similar to the data continuity detection part 101 of FIG. 173, and the description is abbreviate | omitted suitably.
[1150]
The configuration of the data continuity detection unit 101 in FIG. 185 is different from the configuration of the data continuity detection unit 101 in FIG. 173 in that the switch 903 is deleted and the input image data is converted into the regression equation angle detection unit 904 or Input to any of the gradient type angle detectors 905, and by providing a switch 982 on each output side and switching the connection of the terminals 982a and b, the information of the angle detected by any method is output. It is the point which is doing. The switch 982 in FIG. 185 is substantially the same as the switch 903 in FIG.
[1151]
Next, processing for detecting data continuity by the data continuity detecting unit 101 in FIG. 185 will be described with reference to the flowchart in FIG. 186. Note that the processing of steps S941, S943 to S945, S947 in the flowchart of FIG. 186 is the same as the processing of steps S901, S904, S907, S902, and S905 in the flowchart of FIG.
[1152]
In step S 942, the determination unit 902 outputs information on the continuity angle of the data input from the simplified angle detection unit 901 to the regression angle detection unit 904.
[1153]
In step S946, the determination unit 902 controls the switch 982 to connect to the terminal 982a.
[1154]
In step S948, the determination unit 902 controls the switch 982 to connect to the terminal 982b.
[1155]
In the flowchart of FIG. 186, the processing order of steps S943 and S944 may be changed.
[1156]
According to the above, the steady state of the image data corresponding to the steadiness of the missing real-world optical signal in the image data in which the real-world optical signal is projected and a part of the steadiness of the real-world optical signal is missing. The simple angle detection unit 901 detects the angle with respect to the reference axis of the sex by the matching process, and based on the image data in the predetermined region corresponding to the detected angle, the regression type angle detection unit 904 or the gradient type angle Since the detection unit 905 detects the angle by statistical processing, it is possible to detect the steadiness angle of data at higher speed and with higher accuracy.
[1157]
Next, estimation of signals in the real world 1 will be described.
[1158]
FIG. 187 is a block diagram illustrating a configuration of the real world estimation unit 102.
[1159]
The real world estimation unit 102 having the configuration shown in FIG. 187 detects the width of the thin line in the image that is a signal of the real world 1 based on the input image and the data continuity information supplied from the continuity detection unit 101. Then, the level of the thin line (the light intensity of the real world 1 signal) is estimated.
[1160]
The line width detection unit 2101 detects the width of the thin line based on the data continuity information indicating the steady region that is a thin line region, which is supplied from the continuity detection unit 101 and is composed of pixels onto which the image of the thin line is projected. . The line width detection unit 2101 supplies the thin line width information indicating the width of the detected thin line to the signal level estimation unit 2102 together with the data continuity information.
[1161]
The signal level estimation unit 2102 is a level of a thin line image that is a signal of the real world 1 based on the input image, the thin line width information indicating the width of the thin line supplied from the line width detection unit 2101, and the data continuity information. That is, the light intensity level is estimated, and real world estimation information indicating the width of the fine line and the level of the fine line image is output.
[1162]
188 and 189 are diagrams for explaining processing for detecting the width of the thin line in the signal of the real world 1.
[1163]
In FIGS. 188 and 189, a region surrounded by a thick line (region consisting of four squares) indicates one pixel, and a region surrounded by a dotted line indicates a thin line region including pixels onto which a thin line image is projected, Indicates the center of gravity of the thin line region. In FIG. 188 and FIG. 189, diagonal lines indicate images of fine lines incident on the sensor 2. It can be said that the hatched line indicates the area where the image of the thin line in the real world 1 is projected onto the sensor 2.
[1164]
In FIG. 188 and FIG. 189, S indicates the inclination calculated from the position of the center of gravity of the fine line region, and D is the overlap of the fine line region. Here, the inclination S is the distance between the center of gravity and the center of gravity in units of pixels since the thin line regions are adjacent to each other. Further, the overlap D of the thin line region is the number of adjacent pixels in the two thin line regions.
[1165]
In FIGS. 188 and 189, W represents the width of the thin line.
[1166]
In FIG. 188, the slope S is 2 and the overlap D is 2.
[1167]
In FIG. 189, the slope S is 3 and the overlap D is 1.
[1168]
Since the distance between the centroid and the centroid in the direction in which the thin line areas are adjacent to each other is one pixel, W: D = 1: S is established, and the width W of the thin line is obtained by the overlap D / tilt S be able to.
[1169]
For example, as shown in FIG. 188, when the slope S is 2 and the overlap D is 2, 2/2 is 1, so the width W of the thin line is 1. For example, as shown in FIG. 189, when the slope S is 3 and the overlap D is 1, the width W of the thin line is 1/3.
[1170]
In this way, the line width detection unit 2101 detects the width of the fine line from the inclination calculated from the position of the center of gravity of the fine line area and the overlap of the fine line areas.
[1171]
FIG. 190 is a diagram for explaining processing for estimating the level of a fine line signal in the real world 1 signal.
[1172]
In FIG. 190, an area surrounded by a thick line (area consisting of four squares) indicates one pixel, and an area surrounded by a dotted line indicates a thin line area including pixels onto which a thin line image is projected. In FIG. 190, E indicates the length of the fine line area in units of pixels of the fine line area, and D is the overlap of the fine line areas (the number of pixels adjacent to the other fine line areas).
[1173]
The signal level of the thin line is approximated to be constant within the processing unit (thin line region), and the level of the image other than the thin line projected to the pixel value of the pixel to which the thin line is projected is the level of the adjacent pixel. Approximate to be equal to the level for the pixel value.
[1174]
When the level of the signal of the thin line is C, the level of the left side of the portion where the signal of the thin line is projected in the signal (image) projected on the thin line area is A, and the thin line in the diagram Let B be the level of the right part of the projected part of the signal.
[1175]
At this time, Expression (93) is established.
[1176]
Sum of pixel values in thin line area = (E−D) / 2 * A + (E−D) / 2 * B + D * C (93)
[1177]
Since the width of the fine line is constant and the width of the fine line region is one pixel, the area of the fine line in the fine line region (the portion where the signal is projected) is equal to the overlap D of the fine line region. Since the width of the fine line region is one pixel, the area of the fine line region in units of pixels of the fine line region is equal to the length E of the fine line region.
[1178]
In the fine line region, the area on the left side of the fine line is (E−D) / 2. In the fine line region, the area on the right side of the fine line is (E−D) / 2.
[1179]
The first term on the right side of Expression (93) is a pixel value portion obtained by projecting a signal having the same level as that of the signal projected to the pixel adjacent to the left side, and can be expressed by Expression (94). it can.
[1180]
[Equation 68]

... (94)
[1181]
In formula (94), A_iIndicates a pixel value of a pixel adjacent to the left side.
[1182]
In formula (94), α_iIndicates the ratio of the area where a signal of the same level as the signal projected to the pixel adjacent to the left side is projected to the pixel in the thin line region. That is, α_iIndicates the ratio of the same pixel value as the pixel value of the pixel adjacent to the left side included in the pixel value of the pixel in the thin line region.
[1183]
i indicates the position of a pixel adjacent to the left side of the thin line region.
[1184]
For example, in FIG. 190, the pixel value A of the pixel adjacent to the left side of the fine line region, which is included in the pixel value of the pixel of the fine line region₀The ratio of the same pixel value as₀It is. In FIG. 190, the pixel value A of the pixel adjacent to the left side of the fine line region, which is included in the pixel value of the pixel of the fine line region.₁The ratio of the same pixel value as₁It is. In FIG. 190, the pixel value A of the pixel adjacent to the left side of the fine line region, which is included in the pixel value of the pixel of the fine line region.₂The ratio of the same pixel value as₂It is.
[1185]
The second term on the right side of Equation (93) is a pixel value portion obtained by projecting a signal having the same level as the signal projected to the pixel adjacent to the right side, and can be expressed by Equation (95). it can.
[1186]
[Equation 69]

... (95)
[1187]
In formula (95), B_jIndicates a pixel value of a pixel adjacent to the right side.
[1188]
In formula (95), β_jIndicates the ratio of the area where the signal of the same level as the signal projected to the pixel adjacent to the right side is projected to the pixel in the thin line region. That is, β_jIndicates the ratio of the same pixel value as the pixel value of the pixel adjacent to the right side, which is included in the pixel value of the pixel in the thin line region.
[1189]
j indicates the position of a pixel adjacent to the right side of the thin line region.
[1190]
For example, in FIG. 190, the pixel value B of the pixel adjacent to the right side of the fine line region, which is included in the pixel value of the pixel of the fine line region₀The ratio of the same pixel value as₀It is. In FIG. 190, the pixel value B of the pixel adjacent to the right side of the fine line region, which is included in the pixel value of the pixel of the fine line region.₁The ratio of the same pixel value as₁It is. In FIG. 190, the pixel value B of the pixel adjacent to the right side of the fine line region, which is included in the pixel value of the pixel of the fine line region.₂The ratio of the same pixel value as₂It is.
[1191]
As described above, the signal level estimation unit 2102 calculates the pixel value of the image other than the thin line among the pixel values included in the thin line region based on the expressions (94) and (95), and the expression (93) Based on the above, the pixel value of the image other than the fine line is removed from the pixel value of the fine line region, thereby obtaining the pixel value of the image of only the fine line among the pixel values included in the fine line region. Then, the signal level estimation unit 2102 obtains the signal level of the fine line from the pixel value of the image of only the fine line and the area of the fine line. More specifically, the signal level estimation unit 2102 divides the pixel value of only the fine line image among the pixel values included in the fine line area by the fine line area of the fine line area, that is, the overlap D of the fine line area. Thus, the signal level of the thin line is calculated.
[1192]
The signal level estimation unit 2102 outputs real world estimation information indicating the width of the fine line and the level of the fine line signal in the real world 1 signal.
[1193]
In the method of the present invention, since the waveform of the thin line is described geometrically instead of the pixel, any resolution can be used.
[1194]
Next, real world estimation processing corresponding to the processing in step S102 will be described with reference to the flowchart of FIG.
[1195]
In step S2101, the line width detection unit 2101 detects the width of the thin line based on the data continuity information. For example, the line width detection unit 2101 estimates the width of the thin line in the signal of the real world 1 by dividing the overlap by the inclination from the inclination calculated from the position of the center of gravity of the thin line area and the overlap of the thin line area. .
[1196]
In step S2102, the signal level estimation unit 2102 estimates the level of the fine line signal based on the width of the fine line and the pixel value of the pixel adjacent to the fine line region, and the estimated width of the fine line and the level of the fine line signal. Is output, and the process ends. For example, the signal level estimation unit 2102 calculates a pixel value obtained by projecting an image other than the fine line included in the fine line region, and removes a pixel value obtained by projecting an image other than the fine line from the fine line region, thereby obtaining only the fine line. By calculating the pixel value obtained by projecting the image and calculating the level of the fine line signal from the pixel value obtained by projecting the obtained image of only the fine line and the area of the fine line, the fine line in the signal of the real world 1 is obtained. Estimate the level of.
[1197]
As described above, the real world estimation unit 102 can estimate the width and level of the thin line of the signal of the real world 1.
[1198]
As described above, the continuity of the data of the first image data in which the real-world optical signal is projected and a part of the continuity of the real-world optical signal is lost is detected, and the continuity of the data is dealt with. Based on the model representing the waveform of the optical signal in the real world, the waveform of the optical signal in the real world is estimated from the continuity of the first image data, and the estimated optical signal is converted into the second image data. In this case, it is possible to obtain a more accurate and more accurate processing result for the real-world optical signal.
[1199]
FIG. 192 is a block diagram illustrating another configuration of the real world estimation unit 102.
[1200]
In the real world estimation unit 102 having the configuration shown in FIG. 192, the region is detected again based on the input image and the data continuity information supplied from the data continuity detection unit 101, and based on the detected region again. Then, the width of the thin line in the image that is the signal of the real world 1 is detected, and the light intensity (level) of the signal of the real world 1 is estimated. For example, in the real world estimation unit 102 having the configuration shown in FIG. 192, a continuity region composed of pixels onto which a thin line image is projected is detected again, and the real world 1 signal is based on the detected region again. The width of the thin line in the image is detected, and the light intensity of the real world 1 signal is estimated.
[1201]
The data continuity information supplied from the data continuity detection unit 101 and input to the real world estimation unit 102 having the configuration shown in FIG. 192 includes a steady state obtained by projecting a thin line image of the input image as the data 3. This includes non-stationary component information indicating non-stationary components other than components, monotonous increase / decrease region information indicating a monotonous increase / decrease region in the steady region, information indicating a steady region, and the like. For example, the non-stationary component information included in the data continuity information includes a slope and an intercept of a plane that approximates a non-stationary component such as a background in the input image.
[1202]
The data continuity information input to the real world estimation unit 102 is supplied to the boundary detection unit 2121. The input image input to the real world estimation unit 102 is supplied to the boundary detection unit 2121 and the signal level estimation unit 2102.
[1203]
The boundary detection unit 2121 generates an image composed of only the stationary component obtained by projecting the thin line image from the unsteady component information included in the data continuity information and the input image, and based on the image composed of only the stationary component. By calculating the distribution ratio indicating the ratio of the image of the thin line that is a signal of the real world 1 projected onto the pixel and calculating the regression line indicating the boundary of the thin line area from the calculated distribution ratio, The thin line area which is the area is detected again.
[1204]
FIG. 193 is a block diagram illustrating a configuration of the boundary detection unit 2121.
[1205]
The distribution ratio calculation unit 2131 generates an image made up of only the steady component onto which the thin line image is projected, from the data continuity information, the non-stationary component information included in the data continuity information, and the input image. More specifically, the distribution ratio calculation unit 2131 detects adjacent monotonous increase / decrease regions in the steady region from the input image based on the monotonous increase / decrease region information included in the data continuity information, and detects the detected monotone By subtracting the approximate value approximated by the plane indicated by the slope and intercept included in the steady component information from the pixel values of the pixels belonging to the increase / decrease area, an image consisting only of the steady component projected with the thin line image is generated. To do.
[1206]
The distribution ratio calculation unit 2131 projects the thin line image by subtracting the approximate value approximated by the plane indicated by the slope and the intercept included in the steady component information from the pixel value of the pixel of the input image. You may make it produce | generate the image which consists only of a stationary component.
[1207]
The distribution ratio calculation unit 2131 distributes the thin line image, which is a signal of the real world 1, to two pixels belonging to adjacent monotonous increase / decrease regions in the steady region based on the generated image including only the steady component. The distribution ratio indicating the ratio is calculated. The distribution ratio calculation unit 2131 supplies the calculated distribution ratio to the regression line calculation unit 2132.
[1208]
With reference to FIGS. 194 to 196, distribution ratio calculation processing in the distribution ratio calculation unit 2131 will be described.
[1209]
The values in the two columns on the left side of FIG. 194 are obtained by subtracting approximate values approximated by a plane indicated by the slope and intercept included in the steady-state component information from the pixel values of the input image. The pixel values of two columns of pixels are shown vertically. Two regions surrounded by the left square in FIG. 194 indicate two adjacent monotonous increase / decrease regions, a monotone increase / decrease region 2141-1 and a monotone increase / decrease region 2141-2. That is, the numerical values shown in the monotonous increase / decrease area 2141-1 and the monotonous increase / decrease area 2141-2 indicate the pixel values of the pixels belonging to the monotonous increase / decrease area that is the continuity area detected by the data continuity detection unit 101.
[1210]
The value in one column on the right side of FIG. 194 indicates a value obtained by adding the pixel values of the pixels arranged side by side among the pixel values of the two columns of pixels on the left side in FIG. In other words, the numerical value in one column on the right side of FIG. 194 is a monotonous increase / decrease area composed of pixels in one column vertically, and a thin line image is projected for each adjacent pixel in two adjacent regions. A value obtained by adding pixel values is shown.
[1211]
For example, when each pixel consists of one column of pixels vertically, belongs to one of the adjacent monotonous increase / decrease area 2141-1 and monotonous increase / decrease area 2141-2, and the pixel values of the horizontally adjacent pixels are 2 and 58 The added value is 60. Each pixel consists of a single vertical column, belongs to one of the adjacent monotonous increase / decrease area 2141-1 and monotonous increase / decrease area 2141-2, and is added when the pixel values of the horizontally adjacent pixels are 1 and 65 The value obtained is 66.
[1212]
A value in one column on the right side of FIG. 194, that is, a value obtained by adding pixel values obtained by projecting a thin line image for pixels adjacent to each other in the horizontal direction of two adjacent monotonous increase / decrease areas, each consisting of one column vertically. Is almost constant.
[1213]
Similarly, for pixels adjacent to each other in the vertical direction of two adjacent monotonous increase / decrease areas, the value obtained by adding the pixel values projected with the thin line image is substantially constant.
[1214]
The distribution ratio calculation unit 2131 uses the property that the value obtained by adding the pixel values obtained by projecting the thin line image to adjacent pixels in two adjacent monotonous increase / decrease regions is substantially constant, so that the thin line image is 1 It is calculated how the pixel values of the columns are distributed.
[1215]
As shown in FIG. 195, the distribution ratio calculation unit 2131 is a monotonous increase / decrease region composed of pixels in one column vertically, and the pixel values of the pixels belonging to two adjacent ones are calculated for each horizontally adjacent pixel. A distribution ratio is calculated for each pixel belonging to two adjacent monotonous increase / decrease regions by dividing the pixel value obtained by projecting the image of the thin line by the added value. However, as a result of the calculation, 100 is set for a distribution ratio exceeding 100.
[1216]
For example, as shown in FIG. 195, when the pixel values of the monotonous increase / decrease region consisting of pixels in one column vertically and belonging to two adjacent pixels and horizontally adjacent pixels are 2 and 58, respectively, Since the added value is 60, a distribution ratio of 3.5 and 95.0 is calculated for each pixel. A monotonous increase / decrease area composed of pixels in one column vertically, and the pixel values of the pixels adjacent to each other belonging to two adjacent pixels are 1 and 65, respectively, the added value is 66So, for each pixel, a distribution ratio of 1.5 and 98.5 is calculated.
[1217]
In this case, when three monotonous increase / decrease areas are adjacent, which column is calculated is determined by adding the pixel value obtained by projecting a thin line image for each horizontally adjacent pixel as shown in FIG. Of the two values, the distribution ratio is calculated based on a value closer to the pixel value of the vertex P.
[1218]
For example, when the pixel value of the vertex P is 81 and the pixel value of the pixel belonging to the monotonous increase / decrease region of interest is 79, the pixel value of the pixel adjacent to the left side is 3, and the pixel value of the pixel adjacent to the right side is 3 When the pixel value is −1, the value obtained by adding the pixel values of the adjacent pixels on the left side is 82, and the value obtained by adding the pixel values of the adjacent pixels on the right side is 78. Therefore, the pixel value 81 of the vertex P 82 is selected, and the distribution ratio is calculated based on the adjacent pixels on the left side. Similarly, when the pixel value of the vertex P is 81 and the pixel value of the pixel belonging to the target monotonous increase / decrease region is 75, the pixel value of the pixel adjacent to the left side is 0 and the pixel adjacent to the right side When the pixel value of 3 is 3, the value obtained by adding the pixel values of the adjacent pixels on the left side is 75, and the value obtained by adding the pixel values of the adjacent pixels on the right side is 78. Therefore, the pixel value 81 of the vertex P 78 is selected, and the distribution ratio is calculated based on the adjacent pixels on the right side.
[1219]
As described above, the distribution ratio calculation unit 2131 calculates a distribution ratio for a monotonous increase / decrease area formed of a single vertical column of pixels.
[1220]
The distribution ratio calculation unit 2131 calculates a distribution ratio for a monotonous increase / decrease area composed of pixels in a row horizontally by the same process.
[1221]
The regression line calculation unit 2132 assumes that the boundary of the monotonous increase / decrease region is a straight line, and calculates a regression line indicating the boundary of the monotonous increase / decrease region based on the distribution ratio calculated by the distribution ratio calculation unit 2131. Then, the monotonous increase / decrease region in the steady region is detected again.
[1222]
With reference to FIG. 197 and FIG. 198, the regression line calculation process in the regression line calculation unit 2132 will be described.
[1223]
In FIG. 197, white circles indicate pixels located on the upper boundary of the monotonous increase / decrease area 2141-1 to the monotone increase / decrease area 2141-5. The regression line calculation unit 2132 calculates a regression line for the upper boundary of the monotonous increase / decrease region 2141-1 to the monotonous increase / decrease region 2141-5 by regression processing. For example, the regression line calculation unit 2132 calculates the straight line A that minimizes the sum of the squares of the distances to the pixels located on the upper boundary of the monotonous increase / decrease region 2141-1 to 2141-5.
[1224]
In FIG. 197, black circles indicate pixels located on the lower boundary of the monotonous increase / decrease area 2141-1 to monotone increase / decrease area 2141-5. The regression line calculation unit 2132 calculates a regression line for the lower boundary of the monotonous increase / decrease area 2141-1 to the monotone increase / decrease area 2141-5 by regression processing. For example, the regression line calculation unit 2132 calculates the straight line B that minimizes the sum of the squares of the distances from the pixels located on the lower boundary of the monotonous increase / decrease area 2141-1 to the monotonous increase / decrease area 2141-5.
[1225]
The regression line calculation unit 2132 detects the monotonous increase / decrease area in the steady area again by determining the boundary of the monotone increase / decrease area based on the calculated regression line.
[1226]
As shown in FIG. 198, the regression line calculation unit 2132 determines the upper boundary of the monotonous increase / decrease area 2141-1 to monotonous increase / decrease area 2141-5 based on the calculated straight line A. For example, the regression line calculation unit 2132 determines the upper boundary from the pixel closest to the calculated straight line A for each of the monotonous increase / decrease areas 2141-1 to 2141-5. For example, the regression line calculation unit 2132 determines the upper boundary for each of the monotonous increase / decrease areas 2141-1 to 2141-5 so that the pixel closest to the calculated straight line A is included in the area.
[1227]
As shown in FIG. 198, the regression line calculation unit 2132 determines the lower boundary of the monotonous increase / decrease area 2141-1 to monotone increase / decrease area 2141-5 based on the calculated straight line B. For example, the regression line calculation unit 2132 determines the lower boundary from the pixel closest to the calculated straight line B for each of the monotonous increase / decrease areas 2141-1 to 2141-5. For example, the regression line calculation unit 2132 includes, for each of the monotonous increase / decrease areas 2141-1 to 2141-5, a pixel closest to the calculated straight line B is included in the area.underDetermine the side boundary.
[1228]
As described above, the regression line calculation unit 2132 again determines the region in which the pixel value monotonously increases or decreases from the vertex based on the regression line that regresses the boundary of the steady region detected by the data continuity detection unit 101. To detect. That is, the regression line calculation unit 2132 again detects a region that is a monotonous increase / decrease region in the steady region by determining the boundary of the monotone increase / decrease region based on the calculated regression line, and indicates the detected region. The area information is supplied to the line width detection unit 2101.
[1229]
As described above, the boundary detection unit 2121 calculates the distribution ratio indicating the ratio of the image of the thin line that is the signal of the real world 1 projected onto the pixel, and calculates the monotonous increase / decrease area from the calculated distribution ratio. By calculating a regression line indicating the boundary, the monotonous increase / decrease region in the steady region is detected again. In this way, a more accurate monotonous increase / decrease area can be detected.
[1230]
The line width detection unit 2101 shown in FIG. 192 detects the width of the thin line by the same process as shown in FIG. 187 based on the region information indicating the region detected again supplied from the boundary detection unit 2121. . The line width detection unit 2101 supplies the thin line width information indicating the width of the detected thin line to the signal level estimation unit 2102 together with the data continuity information.
[1231]
Since the processing of the signal level estimation unit 2102 shown in FIG. 192 is the same as that shown in FIG. 187, description thereof is omitted.
[1232]
FIG. 199 is a flowchart for describing real-world estimation processing by the real-world estimation unit 102 having the configuration shown in FIG. 192, corresponding to the processing in step S102.
[1233]
In step S 2121, the boundary detection unit 2121 executes boundary detection processing for detecting the region again based on the pixel values of the pixels belonging to the steady region detected by the data continuity detection unit 101. Details of the boundary detection process will be described later.
[1234]
Since the process of step S2122 and step S2123 is the same as the process of step S2101 and step S2102, the description thereof will be omitted.
[1235]
FIG. 200 is a flowchart for explaining the boundary detection process corresponding to the process of step S2121.
[1236]
In step S 2131, the distribution ratio calculation unit 2131 calculates a distribution ratio indicating the ratio of the thin line image projected based on the data continuity information indicating the monotonous increase / decrease area and the input image. For example, the distribution ratio calculation unit 2131 detects adjacent monotonous increase / decrease regions in the steady region from the input image based on the monotone increase / decrease region information included in the data continuity information, and belongs to the detected monotonous increase / decrease region. By subtracting the approximate value approximated by the plane indicated by the slope and the intercept included in the steady component information from the pixel value of the pixel, an image consisting only of the steady component on which the image of the thin line is projected is generated. The distribution ratio calculation unit 2131 is a monotonous increase / decrease area composed of pixels in one column, and divides the pixel values of the pixels belonging to two adjacent objects by the sum of the pixel values of the adjacent pixels to obtain 2 A distribution ratio is calculated for each pixel belonging to two adjacent monotonous increase / decrease regions.
[1237]
The distribution ratio calculation unit 2131 supplies the calculated distribution ratio to the regression line calculation unit 2132.
[1238]
In step S2132, the regression line calculation unit 2132 calculates a regression line indicating the boundary of the monotonous increase / decrease area based on the distribution ratio indicating the ratio at which the image of the thin line is projected, thereby re-examining the region in the steady region. To detect. For example, assuming that the boundary of the monotonous increase / decrease area is a straight line, the regression line calculation unit 2132 calculates a regression line indicating the boundary of one end of the monotonous increase / decrease area, and the regression indicating the boundary of the other end of the monotonous increase / decrease area. By calculating the straight line, the monotonous increase / decrease region in the steady region is detected again.
[1239]
The regression line calculation unit 2132 supplies the detected region information indicating the region in the steady region to the line width detection unit 2101, and the process ends.
[1240]
In this way, the real world estimation unit 102 having the configuration shown in FIG. 192 detects again an area composed of pixels onto which a thin line image is projected, and an image that is a signal of the real world 1 based on the detected area again. The width of the thin line is detected, and the light intensity (level) of the real world 1 signal is estimated. By doing in this way, the width | variety of a thin line can be detected more correctly with respect to the signal of the real world 1, and the intensity | strength of light can be estimated more correctly.
[1241]
As described above, a discontinuous portion of pixel values of a plurality of pixels is detected and detected in the first image data in which a real-world optical signal is projected and a part of the steadiness of the real-world optical signal is lost. From the discontinuous portion, a stationary region having data continuity is detected, the region is detected again based on the pixel values of the pixels belonging to the detected stationary region, and the real world based on the detected region again Is estimated, it is possible to obtain a more accurate and more accurate processing result for a real-world event.
[1242]
Next, with reference to FIG. 201, the real world estimation unit 102 that outputs the differential value of the approximate function in the spatial direction for each pixel in the region having continuity as real world estimation information will be described.
[1243]
The reference pixel extraction unit 2201 determines whether each pixel of the input image is a processing region based on the data continuity information (stationary angle or region information) input from the data continuity detection unit 101. If it is a processing region, information of reference pixels necessary for obtaining an approximate function in the real world from the input image (positions of a plurality of pixels around the target pixel necessary for calculation, and pixel values) Information) is extracted and output to the approximate function estimation unit 2202.
[1244]
The approximate function estimation unit 2202 estimates an approximate function that approximately describes the real world around the target pixel based on the reference pixel information input from the reference pixel extraction unit 2201 based on the least square method, and estimates the estimated approximation. The function is output to the differentiation processing unit 2203.
[1245]
Based on the approximate function input from the approximate function estimation unit 2202, the differentiation processing unit 2203 determines the pixel of interest according to the angle of the data continuity information (for example, the angle or inclination of a thin line or binary edge with respect to a predetermined axis). The shift amount of the position of the pixel to be generated is obtained from the differential value at the position on the approximation function corresponding to the shift amount (each pixel corresponding to the distance along the one-dimensional direction from the line corresponding to the stationarity). (Differential value of a function approximating the pixel value) is calculated, and further, information on the position of the target pixel, the pixel value, and the slope of the continuity is added, and this is output to the image generation unit 103 as real world estimation information To do.
[1246]
Next, real world estimation processing by the real world estimation unit 102 in FIG. 201 will be described with reference to the flowchart in FIG. 202.
[1247]
In step S 2201, the reference pixel extraction unit 2201 acquires the angle and area information as data continuity information from the data continuity detection unit 101 together with the input image.
[1248]
In step S2202, the reference pixel extraction unit 2201 sets a target pixel from unprocessed pixels of the input image.
[1249]
In step S2203, the reference image extraction unit 2201 determines whether the pixel of interest is in the processing region based on the information on the data continuity information region, and determines that the pixel is not in the processing region Then, the process proceeds to step S2210, the fact that the target pixel is out of the processing region is notified to the differentiation processing unit 2203 via the approximate function estimation unit 2202, and the differentiation processing unit 2203 responds accordingly. The differential value for the corresponding target pixel is set to 0, and the pixel value of the target pixel is further added and output to the image generation unit 103 as real world estimation information, and the process proceeds to step S2211. If it is determined that the target pixel is in the processing area, the process proceeds to step S2204.
[1250]
In step S2204, the reference pixel extraction unit 2201 determines from the angle information included in the data continuity information whether the direction of data continuity is an angle close to the horizontal direction or an angle close to vertical. judge. That is, the reference pixel extraction unit 2201 determines that the continuity direction of the target pixel is the horizontal direction when the angle θ having data continuity is 0 degree ≦ θ <45 degrees or 135 degrees ≦ θ <180 degrees. When the angle θ having data continuity is 45 degrees ≦ θ <135 degrees, it is determined that the continuity direction of the target pixel is close to the vertical direction.
[1251]
In step S2205, the reference pixel extraction unit 2201 extracts the reference pixel position information and the pixel value corresponding to the determined direction from the input image, and outputs them to the approximate function estimation unit 2202. That is, since the reference pixel becomes data used when calculating an approximate function described later, it is desirable that the reference pixel is extracted according to the inclination. Therefore, a reference pixel having a long range in that direction is extracted corresponding to the determination direction of either the horizontal direction or the vertical direction. More specifically, for example, as shown in FIG._fWhen the pixel is close to the vertical direction, it is determined that the pixel is in the vertical direction. In this case, for example, as shown in FIG. 203, the reference pixel extraction unit 2201 determines the center pixel (0, 0) in FIG. , Pixels (−1,2), (−1,1), (−1,0), (−1, −1), (−1, −2), (0,2), (0 , 1), (0, 0), (0, -1), (0, -2), (1, 2), (1, 1), (1, 0), (1, -1), ( The pixel values of (1, -2) are extracted. In FIG. 203, it is assumed that the size of each pixel in the horizontal direction and the vertical direction is 1.
[1252]
That is, the reference pixel extraction unit 2201 selects pixels in a long range in the vertical direction so that there are a total of 15 pixels of 2 pixels in the vertical (up and down) direction and 1 pixel in the horizontal (left and right) direction around the target pixel. Extracted as a reference pixel.
[1253]
On the other hand, when it is determined that the pixel is in the horizontal direction, the pixel is long in the horizontal direction so that there are a total of 15 pixels, one pixel each in the vertical (up and down) direction and two pixels in the horizontal (left and right) direction around the target pixel. The pixels in the range are extracted as reference pixels and output to the approximate function estimation unit 2202. Of course, the number of reference pixels is not limited to 15 as described above, but may be any other number.
[1254]
In step S2206, the approximate function estimation unit 2202 estimates the approximate function f (x) by the least square method based on the reference pixel information input from the reference pixel extraction unit 2201, and outputs the approximate function f (x) to the differentiation processing unit 2203.
[1255]
That is, the approximate function f (x) is a polynomial as shown by the following formula (96).
[1256]
[Equation 70]

... (96)
[1257]
Thus, each coefficient W of the polynomial in the equation (96)₁Thru W_{n + 1}Is obtained, an approximate function f (x) approximating the real world is obtained. However, since more reference pixel values are required than the number of coefficients, for example, when the reference pixels are as shown in FIG. 203, there are a total of 15 pixels, so only 15 coefficients of the polynomial are obtained. I can't. Therefore, in this case, the polynomial is a polynomial up to the 14th order, and the coefficient W₁Thru W₁₅The approximate function is estimated by obtaining. In this case, an approximate function f (x) composed of a 15th order polynomial may be set to form simultaneous equations.
[1258]
Therefore, when the 15 reference pixel values shown in FIG. 203 are used, the approximate function estimation unit 2202 estimates the following equation (97) by solving using the least square method.
[1259]

[1260]
Note that the number of reference pixels may be changed in accordance with the degree of the polynomial.
[1261]
Here, Cx (ty) is the shift amount, and the steadiness gradient is G_fCx (ty) = ty / G_fDefined by This shift amount Cx (ty) is determined by the approximation function f (x) defined on the position of the spatial direction Y = 0 and the gradient G_fAs shown in FIG. 4, the deviation width with respect to the spatial direction X at the position of the spatial direction Y = ty is assumed. Therefore, for example, when the approximate function is defined as f (x) on the position in the spatial direction Y = 0, the approximate function f (x) has the gradient G in the spatial direction Y = ty._f, The function should be f (x−Cx (ty)) (= f (x−ty / G_f)).
[1262]
In step S2207, the differentiation processing unit 2203 obtains a shift amount at the position of the pixel to be generated based on the approximate function f (x) input from the approximate function estimation unit 2202.
[1263]
That is, when generating pixels so that the density is doubled in the horizontal direction and the vertical direction (total density is 4 times), the differentiation processing unit 2203 first sets the density to double in the vertical direction. In order to divide the pixel Pa and Pb into two, as shown in FIG. 204, in order to obtain the differential value at the center position of the pixel of interest Pin (Xin, Yin), the center position Pin (Xin, Yin) Find the shift amount. Since this shift amount is Cx (0), it is substantially zero. In FIG. 204, the pixel Pin is a square having (Xin, Yin) as the approximate center of gravity, and the pixels Pa and Pb are approximately (Xin, Yin + 0.25) and (Xin, Yin−0.25), respectively. The center of gravity is a rectangle that is long in the horizontal direction in the figure.
[1264]
In step S2208, the differentiation processing unit 2203 differentiates the approximate function f (x) to obtain a first-order differential function f (x) ′ of the approximate function, and obtains a differential value at a position corresponding to the obtained shift amount. This is obtained and output to the image generation unit 103 as real world estimation information. That is, in this case, the differential processing unit 2203 obtains the differential value f (Xin) ′, and determines the position (in this case, the target pixel (Xin, Yin)), the pixel value, and the direction of continuity. Outputs information with tilt information.
[1265]
In step S 2209, the differential processing unit 2203 determines whether or not the differential value necessary for generating the pixel having the required density is obtained. For example, in this case, only a differential value for obtaining a double density is obtained (only a differential value for obtaining a double density in the spatial direction Y direction is obtained). It is determined that a differential value necessary for generating pixels with a certain density has not been obtained, and the process returns to step S2207.
[1266]
In step S2207, the differentiation processing unit 2203 again obtains the shift amount at the position of the pixel to be generated based on the approximate function f (x) input from the approximate function estimation unit 2202. That is, in this case, the differential processing unit 2203 obtains differential values necessary for dividing each of the divided pixels Pa and Pb into two. Since the positions of the pixels Pa and Pb are the positions indicated by black circles in FIG. 204, the differentiation processing unit 2203 obtains the shift amount corresponding to each position. The shift amounts of the pixels Pa and Pb are Cx (0.25) and Cx (−0.25), respectively.
[1267]
In step S2208, the differentiation processing unit 2203 first-order differentiates the approximate function f (x) to obtain a differential value at a position corresponding to the shift amount corresponding to each of the pixels Pa and Pb. The estimation information is output to the image generation unit 103.
[1268]
That is, when the reference pixel shown in FIG. 203 is used, the differential processing unit 2203 obtains a differential function f (x) ′ for the obtained approximate function f (x) as shown in FIG. , The differential values at the positions (Xin−Cx (0.25)) and (Xin−Cx (−0.25)) that are shifted by the shift amounts Cx (0.25) and Cx (−0.25) are respectively expressed as f (Xin− Cx (0.25)) ′, f (Xin−Cx (−0.25)) ′, position information corresponding to the differential value is added, and this is output as real world estimation information. Note that since the pixel value information is output in the first process, the pixel value information is not added.
[1269]
In step S 2209, the differentiation processing unit 2203 determines again whether or not the differential value necessary for generating the pixel having the calculated density is obtained. For example, in this case, since the differential value for obtaining the density of 4 times is obtained, it is determined that the differential value necessary for generating the pixel having the required density has been obtained, The process proceeds to step S2211.
[1270]
In step S2211, the reference pixel extraction unit 2201 determines whether or not all pixels have been processed. If it is determined that all pixels have not been processed, the processing returns to step S2202. If it is determined in step S2211 that all the pixels have been processed, the processing ends.
[1271]
As described above, when generating pixels so that the input image has a density four times that in the horizontal direction and the vertical direction, the pixels use the differential value of the approximate function at the center position of the divided pixels. Therefore, in order to generate a quadruple density pixel, information of a total of three differential values is required.
[1272]
That is, as shown in FIG. 204, one pixel finally has four pixels P01, P02, P03, and P04 (in FIG. 204, pixels P01, P02, P03, and P04 are four pixels in the figure). A square whose center of gravity is the position of the cross mark, and the length of each side is 1 for each pixel Pin, so that the pixels P01, P02, P03, and P04 are approximately 0.5). In order to generate a quadruple density pixel, first, a double density pixel is generated in the horizontal direction or the vertical direction (in this case, the vertical direction) (described above). In addition, the divided two pixels are divided in a direction perpendicular to the first division direction (in this case, the horizontal direction in this case) (the above-described second step S2207, S2208). S2208 This is because of processing.
[1273]
In the above example, the differential value at the time of calculating the quadruple density pixel has been described as an example. However, in the case of calculating a pixel having a higher density, by repeating the processing of steps S2207 to S2209, You may make it obtain | require more differential values required for the calculation of a pixel value. Further, in the above example, the example of obtaining the double-density pixel value has been described. However, since the approximate function f (x) is a continuous function, a necessary differential value is obtained for pixel values other than the double density. Is possible.
[1274]
According to the above, using the pixel values of the pixels near the target pixel, an approximate function that approximates the real world is obtained, and the differential value of the position where the pixel in the spatial direction needs to be generated is output as real world estimation information It becomes possible to do.
[1275]
The real world estimation unit 102 described with reference to FIG. 201 outputs the differential value necessary for generating an image as real world estimation information. The differential value is an approximate function f at a required position. It has the same value as the slope of (x).
[1276]
Therefore, next, referring to FIG. 206, without obtaining the approximate function f (x), only the slope on the approximate function f (x) necessary for pixel generation is directly obtained and output as real world estimation information. The real world estimation unit 102 will be described.
[1277]
The reference pixel extraction unit 2211 determines whether each pixel of the input image is a processing region based on the data continuity information (stationary angle or region information) input from the data continuity detection unit 101. If it is a processing region, information of reference pixels necessary for obtaining the inclination from the input image (a plurality of peripheral pixels arranged in the vertical direction including the target pixel necessary for calculation, or the target pixel Including the positions of a plurality of peripheral pixels arranged in the horizontal direction and information on the respective pixel values), and outputs them to the inclination estimation unit 2212.
[1278]
The inclination estimation unit 2212 generates information on the inclination of the pixel position necessary for pixel generation based on the reference pixel information input from the reference pixel extraction unit 2211 and outputs the information to the image generation unit 103 as real world estimation information. To do. More specifically, the inclination estimation unit 2212 obtains the inclination at the position of the target pixel on the approximation function f (x) that approximately represents the real world using the difference information of the pixel value between the pixels, The position information of the target pixel, the pixel value, and the information on the inclination in the direction of continuity are output as real world estimation information.
[1279]
Next, real world estimation processing by the real world estimation unit 102 in FIG. 206 will be described with reference to the flowchart in FIG. 207.
[1280]
In step S 2221, the reference pixel extraction unit 2211 acquires angle and area information as data continuity information from the data continuity detection unit 101 together with the input image.
[1281]
In step S 2222, the reference pixel extraction unit 2211 sets a target pixel from unprocessed pixels of the input image.
[1282]
In step S2223, the reference image extraction unit 2211 determines whether the pixel of interest is in the processing region based on the information in the data continuity information region, and determines that the pixel is not in the processing region Then, the process proceeds to step S2228, and the inclination estimation unit 2212 is informed that the pixel of interest is outside the processing region, and in response to this, the gradient estimation unit 2212 sets the inclination of the corresponding pixel of interest to 0. Further, the pixel value of the target pixel is added and output to the image generation unit 103 as real world estimation information, and the process proceeds to step S2229. If it is determined that the pixel of interest is in the processing area, the process proceeds to step S2224.
[1283]
In step S2224, the reference pixel extraction unit 2211 determines from the angle information included in the data continuity information whether the direction having the data continuity is an angle close to the horizontal direction or an angle close to vertical. judge. That is, the reference pixel extracting unit 2211 determines that the continuity direction of the target pixel is the horizontal direction when the angle θ having data continuity is 0 degree ≦ θ <45 degrees or 135 degrees ≦ θ <180 degrees. When the angle θ having data continuity is 45 degrees ≦ θ <135 degrees, it is determined that the continuity direction of the target pixel is close to the vertical direction.
[1284]
In step S 2225, the reference pixel extraction unit 2211 extracts the reference pixel position information and the pixel value corresponding to the determined direction from the input image, and outputs them to the inclination estimation unit 2212. That is, since the reference pixel becomes data used when calculating the inclination described later, it is desirable to extract the reference pixel according to the inclination indicating the direction of continuity. Therefore, a reference pixel having a long range in that direction is extracted corresponding to the determination direction of either the horizontal direction or the vertical direction. More specifically, for example, when it is determined that the inclination is close to the vertical direction, the reference pixel extraction unit 2211 selects the center pixel (0, 0) in FIG. 208 as the target pixel as illustrated in FIG. , Each pixel value of the pixel (0, 2), (0, 1), (0, 0), (0, -1), (0, -2) is extracted. In FIG. 208, it is assumed that the size of each pixel is 1 in the horizontal direction and the vertical direction.
[1285]
That is, the reference pixel extraction unit 2211 extracts pixels in a long range in the vertical direction as reference pixels so that a total of 5 pixels, each of 2 pixels in the vertical (up and down) direction, with the target pixel as the center.
[1286]
Conversely, if it is determined that the pixel is in the horizontal direction, a pixel in a long range in the horizontal direction is extracted as a reference pixel so that a total of five pixels of two pixels in the horizontal (left and right) direction centering on the target pixel is extracted.Inclination estimation unit221Output to 2. Of course, the number of reference pixels is not limited to five as described above, but may be any other number.
[1287]
In step S2226, the inclination estimation unit 2212 receives the reference pixel information input from the reference pixel extraction unit 2211 and the inclination G in the continuity direction._fBased on the above, the shift amount of each pixel value is calculated. That is, when the approximate function f (x) corresponding to the spatial direction Y = 0 is used as a reference, the approximate function corresponding to the spatial direction Y = −2, −1, 1, 2 is as shown in FIG. Gradient G_fTherefore, the approximate functions are f (x−Cx (2)), f (x−Cx (1)), f (x−Cx (−1)), f ( x−Cx (−2)), and is expressed as a function shifted in the spatial direction X by each shift amount for each spatial direction Y = −2, −1, 1, and 2.
[1288]
Therefore, the inclination estimation unit 2212 calculates these shift amounts Cx (−2) to Cx (2). For example, when the reference pixel is extracted as shown in FIG. 208, the shift amount is Cx (2) = 2 / G for the reference pixel (0, 2) in the figure._fAnd the reference pixel (0, 1) is Cx (1) = 1 / G_fThe reference pixel (0, 0) is Cx (0) = 0, and the reference pixel (0, -1) is Cx (-1) =-1 / G._fAnd the reference pixel (0, -2) is Cx (-2) =-2 / G_fIt becomes.
[1289]
In step S2227, the inclination estimation unit 2212 calculates (estimates) an inclination on the approximate function f (x) at the position of the target pixel. For example, as shown in FIG. 208, when the direction of continuity for the target pixel is an angle close to the vertical direction, the pixel values differ greatly between pixels adjacent in the horizontal direction. Since the change between the pixels in the vertical direction is small and the changes are similar, the inclination estimation unit 2212 determines the difference between the pixels in the vertical direction by capturing the change between the pixels in the vertical direction as a change in the spatial direction X due to the shift amount. The slope on the approximate function f (x) at the position of the target pixel is obtained by replacing with the difference between the pixels in the horizontal direction.
[1290]
That is, assuming that there is an approximate function f (x) that approximately describes the real world, the relationship between the shift amount and the pixel value of each reference pixel is as shown in FIG. Here, the pixel values of each pixel in FIG. 208 are P (0, 2), P (0, 1), P (0, 0), P (0, −1), P (0, −2) from the top. ). As a result, the pixel value P and the shift amount Cx in the vicinity of the target pixel (0,0) are (P, Cx) = (P (0,2), −Cx (2)), (P (0,1), -Cx (1)), (P (0, -1), −Cx (−1)), (P (0, −2), −Cx (−2)) and (P (0,0), 0).
[1291]
Incidentally, the pixel value P, the shift amount Cx, and the inclination Kx (inclination on the approximate function f (x)) have a relationship as shown in the following equation (98).
[1292]

[1293]
Since the above equation (98) is a function of one variable with respect to the variable Kx, the inclination estimation unit 2212 calculates the inclination Kx of this variable Kx (inclination) by the least square method of one variable.
[1294]
That is, the inclination estimation unit 2212 obtains the inclination of the pixel of interest by solving a normal equation such as the following equation (99), and information on the pixel value of the pixel of interest and the inclination in the direction of continuity Is added to the image generation unit 103 as real world estimation information.
[1295]
[Equation 71]

... (99)
[1296]
Here, i is a number for identifying each pair of the pixel value P and the shift amount C of the reference pixel, and is 1 to m. M is the number of reference pixels including the target pixel.
[1297]
In step S2229, the reference pixel extraction unit 2211 determines whether or not all the pixels have been processed. If it is determined that all the pixels have not been processed, the processing returns to step S2222. If it is determined in step S2229 that all the pixels have been processed, the processing ends.
[1298]
Note that the gradient output as the real world estimation information by the above-described processing is used when the pixel value to be finally obtained is calculated by extrapolation. In the above example, the gradient when calculating a double-density pixel has been described as an example. However, when calculating a pixel with a higher density, more positions necessary for calculating the pixel value are used. You may make it obtain | require the inclination in.
[1299]
For example, as shown in FIG. 204, in the case of generating pixels having a double density in the horizontal direction and a total density of four times in the spatial direction of the double density in the vertical direction, What is necessary is just to obtain | require the inclination Kx of the approximate function f (x) corresponding to each position of Pin, Pa, and Pb in 204.
[1300]
Further, in the above example, the example of obtaining the double-density pixel value has been described. However, since the approximate function f (x) is a continuous function, the necessary inclination of the pixel value of the pixel at a position other than the double density is also required. Can be obtained.
[1301]
According to the above, the pixel value of the pixel in the vicinity of the target pixel is used to calculate the slope on the approximate function of the position where the pixel in the spatial direction needs to be generated without obtaining an approximate function that approximately represents the real world. It can be generated and output as world estimation information.
[1302]
Next, with reference to FIG. 210, the real world estimation unit 102 that outputs a differential value on an approximate function in the frame direction (time direction) for each pixel in an area having continuity as real world estimation information will be described.
[1303]
 Based on the data continuity information (stationary motion (motion vector) and region information) input from the data continuity detection unit 101, the reference pixel extraction unit 2231 detects each pixel of the input image in the processing region. If it is a processing region, information on reference pixels necessary for obtaining an approximate function of the real world from the input image (positions of a plurality of pixels around the target pixel necessary for calculation, and , Pixel value information) is extracted, and the approximate function estimation unit 22 is extracted.3Output to 2.
[1304]
The approximate function estimation unit 2232 estimates, based on the least square method, an approximate function that approximately describes the real world around the target pixel based on the reference pixel information in the frame direction input from the reference pixel extraction unit 2231. The estimated function is output to the differentiation processing unit 2233.
[1305]
Based on the approximate function in the frame direction input from the approximate function estimation unit 2232, the differentiation processing unit 2233 shifts the position of the pixel to be generated from the target pixel in the frame direction according to the movement of the data continuity information. And the differential value at the position on the approximate function in the frame direction according to the shift amount (the differential of the function approximating the pixel value of each pixel corresponding to the distance along the one-dimensional direction from the line corresponding to the stationarity) Value) is further calculated, and the position of the target pixel, the pixel value, and stationary motion information are added, and this is output to the image generation unit 103 as real world estimation information.
[1306]
Next, real world estimation processing by the real world estimation unit 102 in FIG. 210 will be described with reference to the flowchart in FIG. 211.
[1307]
In step S2241, the reference pixel extraction unit 2231 obtains motion and area information as data continuity information from the data continuity detection unit 101 together with the input image.
[1308]
In step S2242, the reference pixel extraction unit 2231 sets a target pixel from unprocessed pixels of the input image.
[1309]
In step S2243, the reference image extraction unit 2231 determines whether the pixel of interest is in the processing region based on the information in the data continuity information region, and determines that the pixel is not in the processing region. Then, the process proceeds to step S2250, and the pixel of interest is out of the processing region, is notified to the differentiation processing unit 2233 via the approximate function estimation unit 2232, and the differentiation processing unit 2233 responds accordingly. The differential value for the corresponding pixel of interest is set to 0, and the pixel value of the pixel of interest is further added and output to the image generation unit 103 as real world estimation information, and the processing proceeds to step S2251. If it is determined that the target pixel is in the processing area, the process proceeds to step S2244.
[1310]
 In step S2244, the reference pixel extracting unit 2231 determines the data continuity from the motion information included in the data continuity information.MovementIs a movement close to the spatial direction or a movement close to the frame direction. That is, as shown in FIG. 212, in the plane formed by the frame direction T and the spatial direction Y, if the angle indicating the in-plane direction of time and space with the frame direction as the reference axis is θv, reference pixel extraction is performed. Part 2231 is that when the angle θv having data continuity is 0 degree ≦ θv <45 degrees or 135 degrees ≦ θv <180 degrees, the movement of the steadiness of the target pixel is close to the frame direction (time direction). The angle θ that the data continuity hasvBut 45 degrees ≤ θv<135 degrees, the continuity of the target pixelMovementIs determined to be close to the spatial direction.
[1311]
 In step S2245, the reference pixel extraction unit 2231 extracts the position information and pixel value of the reference pixel corresponding to the determined direction from the input image, and outputs them to the approximate function estimation unit 2232. That is, since the reference pixel becomes data used when calculating an approximate function described later, it is desirable to extract the reference pixel according to the angle. Accordingly, in correspondence with the determination direction of either the frame direction or the spatial direction, a reference pixel having a long range in that direction is extracted. More specifically, for example, as shown in FIG._fIs close to the spatial direction, it is determined to be the spatial direction. In this case, for example, as shown in FIG. 212, the reference pixel extraction unit 2231 has the center pixel (t, y) = (0) in FIG. , 0) as a pixel of interest, pixels (t, y) = (− 1, 2), (−1, 1), (−1, 0), (−1, −1), (−1, -2), (0,2), (0,1), (0,0), (0, -1), (0, -2), (1,2), (1,1), (1 , 0), (1, -1), and (1, -2) pixel values are extracted. In FIG. 212, it is assumed that the size of each pixel in the frame direction and the spatial direction is 1.
[1312]
In other words, the reference pixel extraction unit 2231 has a total of 15 pixels corresponding to 2 pixels in the space (up and down in the figure) direction and 1 frame in the frame (left and right in the figure) direction around the target pixel. A pixel having a long spatial direction with respect to the direction is extracted as a reference pixel.
[1313]
On the other hand, when it is determined that the direction is the frame direction, the pixel is the total of 15 pixels of 1 pixel in the space (up and down in the figure) direction and 2 frames in the frame (left and right in the figure) direction around the target pixel. As described above, a pixel in a long range in the frame direction is extracted as a reference pixel and output to the approximate function estimation unit 2232. Of course, the number of reference pixels is not limited to 15 as described above, but may be any other number.
[1314]
In step S 2246, the approximate function estimation unit 2232 estimates the approximate function f (t) by the least square method based on the reference pixel information input from the reference pixel extraction unit 2231, and outputs the approximate function f (t) to the differentiation processing unit 2233.
[1315]
That is, the approximate function f (t) is a polynomial as shown by the following formula (100).
[1316]
[Equation 72]

... (100)
[1317]
Thus, each coefficient W of the polynomial of the equation (100)₁Thru W_{n + 1}Is obtained, an approximate function f (t) in the frame direction that approximates the real world is obtained. However, since more reference pixel values than the number of coefficients are required, for example, when the reference pixels are as shown in FIG. 212, there are a total of 15 pixels, so that only 15 coefficients of the polynomial are obtained. I can't. Therefore, in this case, the polynomial is a polynomial up to the 14th order, and the coefficient W₁Thru W₁₅The approximate function is estimated by obtaining. In this case, an approximate function f (x) composed of a 15th order polynomial may be set to form simultaneous equations.
[1318]
Therefore, when the 15 reference pixel values shown in FIG. 212 are used, the approximate function estimation unit 2232 estimates the following equation (101) by solving using the least square method.
[1319]

[1320]
Note that the number of reference pixels may be changed in accordance with the degree of the polynomial.
[1321]
Here, Ct (ty) is the shift amount, which is the same as Cx (ty) described above, and the steadiness slope is V_f, Ct (ty) = ty / V_fDefined by This shift amount Ct (ty) is determined by the approximation function f (t) defined on the position of the spatial direction Y = 0 with the gradient V_fAs shown in FIG. 6, the deviation width with respect to the frame direction T at the position of the spatial direction Y = ty is assumed. Therefore, for example, when the approximate function is defined as f (t) on the position of the spatial direction Y = 0, the approximate function f (t) is the frame direction (time direction) in the spatial direction Y = ty. Since T should be shifted by Ct (ty), the function is f (t−Ct (ty)) (= f (t−ty / V_f)).
[1322]
In step S 2247, the differentiation processing unit 2233 obtains the shift amount at the position of the pixel to be generated based on the approximate function f (t) input from the approximate function estimation unit 2232.
[1323]
That is, when generating pixels so that the density is doubled in the frame direction and the spatial direction (total density is 4 times), the differentiation processing unit 2233, for example, first sets the double density in the spatial direction. As shown in FIG. 213, in order to obtain a differential value with the center position of the target pixel being Pin (Tin, Yin), the center position Pin (Tin, Yin) is obtained. Find the shift amount. Since this shift amount is Ct (0), it is substantially zero. In FIG. 213, the pixel Pin is a square having (Tin, Yin) as the approximate center of gravity, and the pixels Pat and Pbt are approximately (Tin, Yin + 0.25) and (Tin, Yin−0.25), respectively. It is a rectangle long in the horizontal direction in the figure as the center of gravity. The length of the pixel of interest Pin in the frame direction T being 1 corresponds to the shutter time for one frame.
[1324]
In step S2248, the differentiation processing unit 2233 differentiates the approximate function f (t) to obtain a first-order differential function f (t) ′ of the approximate function, and obtains a differential value at a position corresponding to the obtained shift amount. This is obtained and output to the image generation unit 103 as real world estimation information. In other words, in this case, the differential processing unit 2233 obtains the differential value f (Tin) ′, the position (in this case, the target pixel (Tin, Yin)), the pixel value, and the direction of continuity. Output with motion information.
[1325]
In step S 2249, the differential processing unit 2233 determines whether or not a differential value necessary for generating a pixel having the required density is obtained. For example, in this case, only the differential value for obtaining a double density in the spatial direction is obtained (the differential value for obtaining the double density in the frame direction is not obtained). It is determined that the differential value necessary for generating the pixels having the density is not obtained, and the processing returns to step S2247.
[1326]
 In step S2247, the differential processing unit 2233 again represents the approximate function estimation unit 22.3Based on the approximate function f (t) input from 2, the shift amount at the position of the pixel to be generated is obtained. That is, the differential processing unit 2233. In this case, the differential values required to further divide each of the two divided pixels Pat and Pbt into two are obtained. Since the positions of the pixels Pat and Pbt are the positions indicated by black circles in FIG. 213, the differentiation processing unit 2233 obtains the shift amount corresponding to each position. The shift amounts of the pixels Pat and Pbt are Ct (0.25) and Ct (−0.25), respectively.
[1327]
In step S2248, the differentiation processing unit 2233 differentiates the approximate function f (t) to obtain a differential value at a position corresponding to the shift amount corresponding to each of the pixels Pat and Pbt, and this is obtained as real-world estimation information. To the image generation unit 103.
[1328]
That is, when the reference pixel shown in FIG. 212 is used, the differential processing unit 2233 obtains a differential function f (t) ′ for the obtained approximate function f (t) as shown in FIG. , The differential values at the positions (Tin−Ct (0.25)) and (Tin−Ct (−0.25)), which are shifted by the shift amounts Ct (0.25) and Ct (−0.25), are expressed as f (Tin− Ct (0.25)) ′, f (Tin−Ct (−0.25)) ′, position information corresponding to the differential value is added, and this is output as real world estimation information. Note that since the pixel value information is output in the first process, the pixel value information is not added.
[1329]
In step S 2249, the differentiation processing unit 2233 determines again whether or not the differential value necessary for generating the pixel having the calculated density is obtained. For example, in this case, the differential values for double the density in the spatial direction Y and the frame direction T are obtained (four times in total), so that the pixel having the required density is generated. It is determined that as many differential values as necessary for the above are obtained, and the process proceeds to step S2251.
[1330]
In step S2251, the reference pixel extraction unit 2231 determines whether or not all the pixels have been processed. If it is determined that all the pixels have not been processed, the processing returns to step S2242. If it is determined in step S2251 that all the pixels have been processed, the processing ends.
[1331]
As described above, when generating pixels so that the input image has a density that is four times higher in the frame direction (time direction) and in the spatial direction, the pixel is an approximate function of the center position of the divided pixels. Since the differential value is used for division by extrapolation, information of a total of three differential values is required to generate a quadruple density pixel.
[1332]
That is, as shown in FIG. 213, one pixel finally has four pixels P01t, P02t, P03t, and P04t (in FIG. 213, the pixels P01t, P02t, P03t, and P04t are four pixels in the figure. A square with the position of the cross mark as the center of gravity, and the length of each side is 1 for each pixel Pin, so that the pixels P01t, P02t, P03t, and P04t are each approximately 0.5) In order to generate a quadruple density pixel, first, a double density pixel is generated in the frame direction or the spatial direction (in the above-described first steps S2247 and S2248). Processing), and further, the two divided pixels are divided in a direction (in this case, the frame direction) perpendicular to the direction of the first division (in the second step S2247, described above). (S2248 processing).
[1333]
In the above example, the differential value at the time of calculating a quadruple density pixel has been described as an example. However, when a pixel having a higher density is calculated, the processing in steps S2247 to S2249 is repeated. You may make it obtain | require more differential values required for the calculation of a pixel value. In addition, in the above example, the example of obtaining the double-density pixel value has been described. However, since the approximate function f (t) is a continuous function, the necessary differential value is obtained for pixel values other than the double density. Is possible.
[1334]
According to the above, it is possible to obtain an approximate function that approximately represents the real world using the pixel values of the pixels in the vicinity of the target pixel and output the differential value of the position where the pixel needs to be generated as real world estimation information. It becomes possible.
[1335]
The real world estimation unit 102 described above with reference to FIG. 210 outputs a differential value necessary for generating an image as real world estimation information. The differential value is an approximate function f at a required position. It is the same value as the slope of (t).
[1336]
Therefore, referring to FIG. 215, the real world estimation unit that directly obtains only the inclination in the frame direction on the approximate function, which is necessary for pixel generation, and outputs it as real world estimation information without obtaining the approximate function. 102 will be described.
[1337]
The reference pixel extraction unit 2251 determines whether each pixel of the input image is a processing region based on the data continuity information (stationary motion and region information) input from the data continuity detection unit 101. If it is a processing region, information of reference pixels necessary for obtaining an inclination from an input image (a plurality of peripheral pixels lined up in a spatial direction including the target pixel necessary for calculation or a target pixel The position of a plurality of surrounding pixels arranged in the frame direction including the information of each pixel value) is extracted and output to the inclination estimation unit 2252.
[1338]
The inclination estimation unit 2252 generates information on the inclination of the pixel position necessary for pixel generation based on the reference pixel information input from the reference pixel extraction unit 2251 and outputs the information to the image generation unit 103 as real world estimation information. To do. More specifically, the inclination estimation unit 2252 uses the difference information of the pixel values between the pixels to obtain the inclination in the frame direction at the position of the pixel of interest on the approximation function that approximately represents the real world. The position information of the target pixel, the pixel value, and the information on the movement in the stationary direction are output as real world estimation information.
[1339]
Next, real world estimation processing by the real world estimation unit 102 in FIG. 215 will be described with reference to the flowchart in FIG. 216.
[1340]
In step S 2261, the reference pixel extraction unit 2251 acquires the motion and area information as data continuity information from the data continuity detection unit 101 together with the input image.
[1341]
In step S2262, the reference pixel extraction unit 2251 sets a target pixel from unprocessed pixels of the input image.
[1342]
In step S2263, when the reference image extraction unit 2251 determines whether the pixel of interest is in the processing region based on the information on the data continuity information region, and determines that the pixel is not in the processing region Then, the process proceeds to step S2268 to notify the inclination estimation unit 2252 that the target pixel is out of the processing region, and in response thereto, the inclination estimation unit 2252 sets the inclination of the corresponding target pixel to 0. Further, the pixel value of the target pixel is added and output to the image generation unit 103 as real world estimation information, and the process proceeds to step S2269. If it is determined that the target pixel is in the processing area, the process proceeds to step S2264.
[1343]
 In step S2264, the reference pixel extraction unit 2251 determines from the motion information included in the data continuity information whether the data continuity motion is a motion close to the frame direction or a motion close to the spatial direction. That is, in the plane composed of the frame direction T and the spatial direction Y, if the angle indicating the direction in the plane of time and space with the frame direction as the reference axis is θv, the reference pixel extracting unit 2251 When the motion angle θv is 0 degree ≦ θv <45 degrees or 135 degrees ≦ θv <180 degrees, it is determined that the stationary motion of the pixel of interest is close to the frame direction, and the angle that the data stationary property has When θv is 45 degrees ≦ θv <135 degrees, it is determined that the stationary movement of the target pixel is close to the spatial direction.
[1344]
In step S 2265, the reference pixel extraction unit 2251 extracts reference pixel position information and pixel values corresponding to the determined direction from the input image, and outputs them to the inclination estimation unit 2252. That is, since the reference pixel becomes data used when calculating the inclination described later, it is desirable that the reference pixel is extracted according to the stationary motion. Accordingly, in correspondence with the determination direction of either the frame direction or the spatial direction, a reference pixel having a long range in that direction is extracted. More specifically, for example, when it is determined that the motion is close to the spatial direction, the reference pixel extraction unit 2251, as shown in FIG. 217, the center pixel (t, y) = (0) in FIG. , 0) as the target pixel, each of the pixels (t, y) = (0, 2), (0, 1), (0, 0), (0, -1), (0, -2) Are extracted. In FIG. 217, it is assumed that the size of each pixel is 1 in the frame direction and the spatial direction.
[1345]
That is, the reference pixel extraction unit 2251 extracts pixels in a long range in the spatial direction as reference pixels so that a total of 5 pixels each including 2 pixels in the spatial (vertical direction in the figure) centered on the target pixel.
[1346]
 On the other hand, when it is determined that the direction is the frame direction, two pixels in the frame (left and right in the figure) direction centering on the target pixel are 5 pixels in total.flameA pixel having a long range in the direction is extracted as a reference pixel and output to the approximate function estimation unit 2252. Of course, the number of reference pixels is not limited to five as described above, but may be any other number.
[1347]
In step S2266, the inclination estimation unit 2252 receives the reference pixel information input from the reference pixel extraction unit 2251 and the motion V in the stationary direction._fThe shift amount of each pixel value is calculated based on the direction of. That is, when the approximate function f (t) corresponding to the spatial direction Y = 0 is used as a reference, the approximate function corresponding to the spatial direction Y = −2, −1, 1, 2 is as shown in FIG. Stability slope V_fTherefore, the approximate functions are f (t−Ct (2)), f (t−Ct (1)), f (t−Ct (−1)), f ( t−Ct (−2)), and is expressed as a function shifted in the frame direction T by the amount of each shift for each spatial direction Y = −2, −1, 1, 2.
[1348]
Therefore, the inclination estimation unit 2252 determines these shift amounts Ct (−2) to Ct (2). For example, when the reference pixel is extracted as shown in FIG. 217, the shift amount is Ct (2) = 2 / V for the reference pixel (0, 2) in the figure._fAnd the reference pixel (0, 1) is Ct (1) = 1 / V_fThe reference pixel (0, 0) is Ct (0) = 0, and the reference pixel (0, -1) is Ct (-1) =-1 / V._fAnd the reference pixel (0, -2) is Ct (-2) =-2 / V_fIt becomes. The inclination estimation unit 2252 determines these shift amounts Ct (−2) to Ct (2).
[1349]
In step S2267, the inclination estimation unit 2252 calculates (estimates) the inclination of the target pixel in the frame direction. For example, as shown in FIG. 217, when the direction of continuity for the target pixel is an angle close to the spatial direction, the pixel value differs greatly between pixels adjacent in the frame direction. Since the change between the pixels in the spatial direction is small and the change is similar, the inclination estimation unit 2252 captures the difference between the pixels in the spatial direction as a change in the frame direction T due to the shift amount. The inclination at the target pixel is obtained by replacing the difference between the pixels in the frame direction.
[1350]
That is, assuming that there is a function f (t) that approximately describes the real world, the relationship between the shift amount and the pixel value of each reference pixel is as shown in FIG. Here, the pixel value of each pixel in FIG. 218 is P (0, 2), P (0, 1), P (0, 0), P (0, -1), P (0, -2) from the top. ). As a result, the pixel value P and the shift amount Ct in the vicinity of the target pixel (0, 0) are (P, Ct) = (P (0, 2), −Ct (2)), (P (0, 1), -Ct (1)), (P (0, -1)), -Ct (-1)), (P (0, -2), -Ct (-2)), (P (0,0), 5) of the relationship 0) is obtained.
[1351]
Incidentally, the pixel value P, the shift amount Ct, and the inclination Kt (inclination on the approximate function f (t)) have a relationship as shown in the following equation (102).
[1352]

[1353]
Since the above equation (102) is a function of one variable with respect to the variable Kt, the inclination estimation unit 2252 determines the slope Kt of this variable Kt (slope) by the least square method of one variable.
[1354]
That is, the inclination estimation unit 2252 obtains the inclination of the pixel of interest by solving a normal equation such as the following equation (103), and information on the pixel value of the pixel of interest and the inclination in the direction of continuity Is added to the image generation unit 103 as real world estimation information.
[1355]
[Equation 73]

... (103)
[1356]
Here, i is a number for identifying each pair of the pixel value P and the shift amount Ct of the reference pixel, and is 1 to m. M is the number of reference pixels including the target pixel.
[1357]
In step S2269, the reference pixel extraction unit 2251 determines whether or not all the pixels have been processed. If it is determined that all the pixels have not been processed, the processing returns to step S2262. If it is determined in step S2269 that all the pixels have been processed, the processing ends.
[1358]
Note that the inclination in the frame direction output as the real world estimation information by the above-described processing is used when extrapolating and calculating the pixel value to be finally obtained. In the above example, the gradient when calculating a double-density pixel has been described as an example. However, when calculating a pixel with a higher density, more positions necessary for calculating the pixel value are used. You may make it obtain | require the inclination in.
[1359]
For example, FIG.13As shown in FIG. 2, in the case of generating pixels having a double density in the horizontal direction and a total density of four times in the spatio-temporal direction, which is twice the density in the frame direction, as described above.13The slope Kt of the approximate function f (t) corresponding to each position of Pin, Pat, and Pbt in the center may be obtained.
[1360]
Further, in the above example, the example of obtaining the double-density pixel value has been described. However, since the approximate function f (t) is a continuous function, the necessary inclination of the pixel value of the pixel at a position other than the double density is also required. Can be obtained.
[1361]
Needless to say, the order of processing for obtaining the gradient on the approximation function with respect to the frame direction or the spatial direction or the differential value is not limited. Furthermore, in the above-described example, the spatial direction has been described using the relationship between the spatial direction Y and the frame direction T. However, the relationship between the spatial direction X and the frame direction T may be used. . Furthermore, a slope or a differential value may be selectively obtained from any two-dimensional relationship in the spatiotemporal direction (from any one-dimensional direction).
[1362]
According to the above, a real-world optical signal is projected by a plurality of detection elements of the sensor, each having a spatio-temporal integration effect, and is projected by a detection element that lacks part of the continuity of the real-world optical signal. Detects the continuity of data in image data consisting of a plurality of pixels having pixel values, and corresponds to the position in the one-dimensional direction of the spatio-temporal direction with respect to the target pixel in the image data, corresponding to the detected continuity Since the slope of the pixel values of multiple pixels is estimated as a function corresponding to the optical signal in the real world, the frame direction that approximates the real world using the pixel values of the pixels near the target pixel Without obtaining the approximate function, it is possible to generate and output the inclination on the approximate function in the frame direction (time direction) of the position where the pixel needs to be generated as real world estimation information.
[1363]
Next, another example of the embodiment of the real world estimation unit 102 (FIG. 3) will be described with reference to FIGS. 219 to 249.
[1364]
FIG. 219 is a diagram for explaining the principle of this embodiment.
[1365]
As shown in FIG. 219, the real world 1 signal (light intensity distribution), which is an image incident on the sensor 2, is represented by a predetermined function F. Hereinafter, in the description of the embodiment of this example, a signal in the real world 1 that is an image is particularly referred to as an optical signal, and the function F is particularly referred to as an optical signal function F.
[1366]
In the embodiment of this example, when the optical signal of the real world 1 represented by the optical signal function F has a predetermined stationarity, the real world estimation unit 102 receives the input image from the sensor 2 (corresponding to stationarity). Image data including data continuity) and data continuity information from the data continuity detection unit 101 (data continuity information corresponding to the continuity of the data of the input image). The optical signal function F is estimated by approximating with a predetermined function f. Hereinafter, in the description of the embodiment of this example, the function f is particularly referred to as an approximate function f.
[1367]
In other words, in the embodiment of this example, the real world estimation unit 102 uses the model 161 (FIG. 7) represented by the approximate function f and uses the image (real world 1 of the real world 1). Approximate (describe) the optical signal. Therefore, hereinafter, this embodiment is referred to as a function approximation method.
[1368]
Here, before starting a specific description of the function approximation method, the background of the applicant's inventing the function approximation method will be described.
[1369]
FIG. 220 is a diagram for explaining the integration effect when the sensor 2 is a CCD.
[1370]
As shown in FIG. 220, a plurality of detection elements 2-1 are arranged on the plane of the sensor 2.
[1371]
In the example of FIG. 220, the direction parallel to the predetermined one side of the detection element 2-1 is the X direction which is one direction in the spatial direction, and the direction perpendicular to the X direction is the other direction in the spatial direction. A certain Y direction is assumed. The direction perpendicular to the XY plane is the t direction which is the time direction.
[1372]
In the example of FIG. 220, the spatial shape of each detection element 2-1 of the sensor 2 is a square having a length of one side. The shutter time (exposure time) of the sensor 2 is 1.
[1373]
Further, in the example of FIG. 220, the center of one predetermined detection element 2-1 of the sensor 2 is the origin (X-direction position x = 0 and Y-direction position y) in the spatial direction (X direction and Y direction). = 0), and the intermediate time of the exposure time is the origin in the time direction (t direction) (position t = 0 in the t direction).
[1374]
In this case, the detection element 2-1 having its center at the origin (x = 0, y = 0) in the spatial direction has a range of −0.5 to 0.5 in the X direction, a range of −0.5 to 0.5 in the Y direction, and The optical signal function F (x, y, t) is integrated in the range of −0.5 to 0.5 in the t direction, and the integrated value is output as the pixel value P.
[1375]
That is, the pixel value P output from the detection element 2-1 having the center at the origin in the spatial direction is expressed by the following equation (104).
[1376]
[Equation 74]

... (104)
[1377]
Similarly, the other detection elements 2-1 output the pixel value P represented by Expression (104) by setting the center of the target detection element 2-1 as the origin in the spatial direction.
[1378]
FIG. 221 is a view for explaining a specific example of the integration effect of the sensor 2.
[1379]
In FIG. 221, the X direction and the Y direction represent the X direction and the Y direction (FIG. 220) of the sensor 2.
[1380]
One portion (hereinafter, such a portion is referred to as a region) 2301 of the optical signal in the real world 1 represents an example of a region having a predetermined stationarity.
[1381]
Actually, the region 2301 is a part of a continuous optical signal (a continuous region). On the other hand, in FIG. 221, the area 2301 is shown as being divided into 20 small areas (square areas). This is because the size of the region 2301 corresponds to the size in which four detection elements (pixels) of the sensor 2 are arranged in the X direction and five in the Y direction. is there. That is, each of the 20 small areas (virtual areas) in the area 2301 corresponds to one pixel.
[1382]
In addition, a white portion of the region 2301 in the figure represents an optical signal corresponding to a thin line. Therefore, the region 2301 has continuity in the direction in which the thin line continues. Therefore, hereinafter, the region 2301 is referred to as a thin line-containing real world region 2301.
[1383]
In this case, when the sensor 2 detects the thin-line-containing real world region 2301 (a part of the optical signal of the real world 1), the sensor 2 causes the integration effect to generate an input image (pixel value) region 2302 (hereinafter, referred to as a “light source”). (Referred to as a thin-line containing data area 2302).
[1384]
Note that each pixel in the thin line-containing data region 2302 is shown as an image in the figure, but is actually data representing a predetermined value. That is, the thin line-containing real world region 2301 has 20 pixels each having a predetermined one pixel value due to the integration effect of the sensor 2 (a total of 20 pixels corresponding to 4 pixels in the X direction and 5 pixels in the Y direction). It changes into a thin line containing data area 2302 divided into (pixels) (is distorted).
[1385]
FIG. 222 is a diagram for explaining another specific example (an example different from FIG. 221) of the integration effect of the sensor 2.
[1386]
222, the X direction and the Y direction represent the X direction and the Y direction (FIG. 220) of the sensor 2.
[1387]
A portion (area) 2303 of the optical signal of the real world 1 represents another example of an area having a predetermined stationarity (an example different from the thin line-containing real world area 2301 in FIG. 221).
[1388]
The region 2303 is a region having the same size as the thin line-containing real world region 2301. That is, like the thin-line containing real world region 2301, the region 2303 is actually one part (continuous region) of the continuous real world 1 optical signal, but in FIG. It is shown as being divided into 20 small areas (square areas).
[1389]
The region 2303 includes a first portion having a predetermined first light intensity (value) and an edge of the second portion having a predetermined second light intensity (value). Accordingly, the region 2303 has continuity in the direction in which the edge continues. Therefore, hereinafter, the region 2303 is referred to as a binary edge-containing real world region 2303.
[1390]
In this case, when the binary edge-containing real world region 2303 (a part of the optical signal of the real world 1) is detected by the sensor 2, the sensor 2 causes the input image (pixel value) region 2304 (by the integration effect). Hereinafter, the binary edge containing data area 2304 is output.
[1391]
Each pixel value in the binary edge containing data area 2304 is represented as an image in the drawing, as in the case of the thin line containing data area 2302, but is actually data representing a predetermined value. In other words, the binary edge-containing real world region 2303 has 20 pixels each having a predetermined pixel value (total of 20 pixels in the X direction and 5 pixels in the Y direction) due to the integration effect of the sensor 2. To the binary edge containing data region 2304 divided into (number of pixels).
[1392]
The conventional image processing apparatus uses the image data output from the sensor 2 such as the thin line containing data area 2302 and the binary edge containing data area 2304 as the origin (reference), and the image data as a processing target. Subsequent image processing was performed. That is, although the image data output from the sensor 2 is different (distorted) from the optical signal in the real world 1 due to the integration effect, the conventional image processing apparatus has the real world 1 Image processing is performed with positive data different from the optical signal.
[1393]
As a result, in the conventional image processing apparatus, it is very difficult to restore the original detail from the waveform with reference to the waveform (image data) in which the details in the real world are destroyed at the stage of output from the sensor 2. There was a problem that it was difficult.
[1394]
Therefore, in the function approximation method, in order to solve this problem, as described above (as shown in FIG. 219), the real world estimation unit 102 performs the fine line containing data area 2302 and the binary edge containing data area 2304. The optical signal function F is estimated by approximating the optical signal function F (the optical signal of the real world 1) with the approximate function f from the image data (input image) output from the sensor 2 as described above.
[1395]
As a result, after the real world estimation unit 102 (in this case, the image generation unit 103 in FIG. 3), the image data in which the integration effect is considered, that is, the image data that can be expressed by the approximate function f is used as the origin. It becomes possible to execute processing.
[1396]
Hereinafter, each of three specific methods (first to third function approximation methods) of such function approximation methods will be described individually with reference to the drawings.
[1397]
First, the first function approximation method will be described with reference to FIGS. 223 to 237.
[1398]
FIG. 223 is a diagram showing again the thin line-containing real world region 2301 shown in FIG. 221 described above.
[1399]
In FIG. 223, the X direction and the Y direction represent the X direction and the Y direction (FIG. 220) of the sensor 2.
[1400]
For example, the first function approximation method projects the optical signal function F (x, y, t) corresponding to the thin line-containing real world region 2301 as shown in FIG. 223 in the X direction (the direction of the arrow 2311 in the figure). A method of approximating a one-dimensional waveform (hereinafter, such waveform is referred to as an X-section waveform F (x)) with an approximation function f (x) which is an n-order polynomial (n is an arbitrary integer). It is. Therefore, hereinafter, the first function approximation method is particularly referred to as a one-dimensional polynomial approximation method.
[1401]
In the one-dimensional polynomial approximation method, the X cross-sectional waveform F (x) to be approximated is not limited to that corresponding to the thin line-containing real world region 2301 in FIG. That is, as will be described later, in the one-dimensional polynomial approximation method, any X-section waveform F (x) corresponding to the real world 1 optical signal having continuity can be approximated. .
[1402]
Further, the direction of projection of the optical signal function F (x, y, t) is not limited to the X direction, and may be the Y direction or the t direction. That is, in the one-dimensional polynomial approximation method, the function F (y) obtained by projecting the optical signal function F (x, y, t) in the Y direction can be approximated by a predetermined approximation function f (y). The function F (t) obtained by projecting the optical signal function F (x, y, t) in the t direction can be approximated by a predetermined approximate function f (t).
[1403]
More specifically, in the one-dimensional polynomial approximation method, for example, the X cross-sectional waveform F (x) is approximated by an approximate function f (x) that is an n-order polynomial as represented by the following equation (105). It is a technique.
[1404]
[Expression 75]

... (105)
[1405]
That is, in the one-dimensional polynomial approximation method, the real world estimation unit 102 performs the coefficient (feature value) w of x ^ i in the equation (105)._iTo calculate the X cross-sectional waveform F (x).
[1406]
This feature value w_iThe calculation method is not particularly limited, and for example, the following first to third methods can be used.
[1407]
That is, the first method is a conventionally used method.
[1408]
On the other hand, the second method is a method newly invented by the applicant of the present application, and is a method that further considers continuity in the spatial direction with respect to the first method.
[1409]
However, as will be described later, the integration effect of the sensor 2 is not considered in the first method and the second method. Therefore, the feature value w calculated by the first method or the second method is used._iThe approximation function f (x) obtained by substituting for the above equation (105) is an approximation function of the input image, but strictly speaking, it cannot be said to be an approximation function of the X sectional waveform F (x).
[1410]
Therefore, the applicant of the present application further considers the integration effect of the sensor 2 with respect to the second method, and the feature value w._iInvented a third method for computing. The feature value w calculated by this third method_iCan be said to be an approximate function of the X sectional waveform F (x) in that the integral effect of the sensor 2 is taken into consideration.
[1411]
Thus, strictly speaking, the first method and the second method cannot be said to be a one-dimensional polynomial approximation method, and only the third method can be said to be a one-dimensional polynomial approximation method.
[1412]
In other words, as shown in FIG. 224, the second method is an embodiment of the real world estimation unit 102 of the present invention, which is different from the one-dimensional polynomial approximation method. That is, FIG. 224 is a diagram for explaining the principle of the embodiment corresponding to the second method.
[1413]
As shown in FIG. 224, in the embodiment corresponding to the second method, when the optical signal of the real world 1 represented by the optical signal function F has a predetermined stationarity, the real world estimation unit 102 , Input image from the sensor 2 (image data including data continuity corresponding to continuity) and data continuity information from the data continuity detection unit 101 (data continuity corresponding to data image continuity) Information) is not used to approximate the X-section waveform F (x), but the input image from the sensor 2 is represented by a predetermined approximation function f.₂Approximate with (x).
[1414]
Thus, it is difficult to say that the second method is the same level method as the third method in that the integration effect of the sensor 2 is not considered and the approximation of the input image remains. However, the second method is superior to the conventional first method in that it considers the continuity in the spatial direction.
[1415]
Hereinafter, the details of the first method, the second method, and the third method will be individually described in that order.
[1416]
In the following, when each of the approximate functions f (x) generated by the first method, the second method, and the third method is distinguished from those of other methods, in particular, the approximate function f₁(x), approximation function f₂(x) and the approximation function f_ThreeThey are respectively referred to as (x).
[1417]
First, the details of the first method will be described.
[1418]
In the first method, the approximate function f expressed by the above-described equation (105).₁The following prediction equation (106) is defined on the assumption that (x) holds in the thin line-containing real world region 2301 of FIG.
[1419]
[76]

... (106)
[1420]
In Expression (106), x represents a pixel position relative to the X direction from the target pixel. y represents a relative pixel position with respect to the Y direction from the target pixel. e represents an error. Specifically, for example, as shown in FIG. 225, the pixel of interest is a thin-line containing data area 2302 (data output by detecting the thin-line containing real world area 2301 (FIG. 223) by the sensor 2). In the figure, it is assumed that the pixel is the second pixel in the X direction from the left and the third pixel in the Y direction from the bottom. Also, a coordinate system (hereinafter referred to as the pixel-of-interest coordinate system) having the center of the pixel of interest as the origin (0,0) and the x-axis and y-axis parallel to the X-direction and Y-direction of the sensor 2 (FIG. 220) Is set). In this case, the coordinate value (x, y) of the target pixel coordinate system represents the relative pixel position.
[1422]
In Expression (106), P (x, y) represents the pixel value at the relative pixel position (x, y). Specifically, in this case, P (x, y) in the thin line containing data area 2302 is as shown in FIG.
[1422]
FIG. 226 shows a graph of the pixel value P (x, y).
[1423]
In FIG. 226, each vertical axis of each graph represents a pixel value, and the horizontal axis represents a relative position x in the X direction from the target pixel. In the figure, the dotted line in the first graph from the top indicates the input pixel value P (x, -2), the three-dot chain line in the second graph from the top indicates the input pixel value P (x, -1), The solid line in the third graph from the top is the input pixel value P (x, 0), the dashed line in the fourth graph from the top is the input pixel value P (x, 1), the fifth from the top (the first from the bottom 2) represents the input pixel value P (x, 2).
[1424]
For the above equation (106), the 20 input pixel values P (x, -2), P (x, -1), P (x, 0), P (x, 1) shown in FIG. , P (x, 2) (where x is an integer value of −1 to 2), 20 equations represented by the following equation (107) are generated. E_kEach of (k is an integer value of 1 to 20) represents an error.
[1425]
[77]

... (107)
[1426]
Since the equation (107) is composed of 20 equations, the approximate function f₁(x) feature value w_iIs less than 20, that is, the approximate function f₁When (x) is a polynomial of an order smaller than the 19th order, for example, the feature value w using the least square method_iCan be calculated. A specific solution of the least square method will be described later.
[1427]
For example, now the approximate function f₁When the order of (x) is fifth order, the approximate function f calculated by the method of least squares using equation (107)₁(x) (calculated feature value w_iApproximate function f generated by₁(x)) looks like the curve shown in FIG.
[1428]
In FIG. 227, the vertical axis represents the pixel value, and the horizontal axis represents the relative position x from the target pixel.
[1429]
That is, each of the 20 pixel values P (x, y) constituting the thin line-containing data region 2302 in FIG. 225 (input pixel values P (x, −2) and P (x, −1) shown in FIG. 226). , P (x, 0), P (x, 1), P (x, 2)), for example, are added as they are along the x-axis (the relative position y in the Y direction is assumed to be constant) When five graphs indicated by 226 are overlapped), a plurality of lines parallel to the x-axis (dotted line, three-dot chain line, solid line, one-dot chain line, and two-dot chain line) as shown in FIG. 227 are distributed.
[1430]
However, in FIG. 227, the dotted line represents the input pixel value P (x, -2), the three-dot chain line represents the input pixel value P (x, -1), and the solid line represents the input pixel value P (x, 0). The one-dot chain line represents the input pixel value P (x, 1), and the two-dot chain line represents the input pixel value P (x, 2). In addition, in the case of the same pixel value, two or more lines actually overlap, but in FIG. 227, each line is drawn so as not to overlap so that each line can be distinguished.
[1431]
Then, the 20 input pixel values P (x, -2), P (x, -1), P (x, 0), P (x, 1), P (x, 2) distributed in this way Each and the value f₁A regression curve that minimizes the error of (x) (feature value w calculated by the method of least squares_iIs an approximate function f obtained by substituting₁(x)) is a curve (approximation function f) shown in FIG.₁(x)).
[1432]
Thus, the approximation function f₁(x) is a pixel value in the Y direction (a pixel value having the same relative position x in the X direction from the target pixel) P (x, -2), P (x, -1), P (x, 0), The average value of P (x, 1) and P (x, 2) is merely a curve connecting in the X direction. That is, without considering the spatial continuity of the optical signal, the approximate function f₁(x) is generated.
[1433]
For example, in this case, the object to be approximated is the thin line-containing real world region 2301 (FIG. 223). This thin line-containing real world region 2301 has an inclination G as shown in FIG._FIt has the continuity of the spatial direction represented by. In FIG. 228, the X direction and the Y direction represent the X direction and the Y direction (FIG. 220) of the sensor 2.
[1434]
Therefore, the data continuity detection unit 101 (FIG. 219) performs the continuity gradient G in the spatial direction._FAs the data continuity information corresponding to the angle θ (inclination G) as shown in FIG._FTilt G corresponding to_fThe angle of the continuity of the data represented by the X direction and the angle θ) can be output.
[1435]
However, in the first method, data continuity information output from the data continuity detecting unit 101 is not used at all.
[1436]
In other words, as shown in FIG. 228, the direction of continuity in the spatial direction of the thin line-containing real world region 2301 is substantially the angle θ direction. However, the first method assumes that the direction of continuity in the spatial direction of the thin-line-containing real world region 2301 is the Y direction (that is, the angle θ is 90 degrees), and the approximate function f₁(x) feature value w_iIs a method of calculating.
[1437]
For this reason, the approximation function f₁(x) becomes a function in which the waveform is dull and the detail is reduced from the original pixel value. In other words, although not shown, the approximate function f generated by the first method₁(x) has a waveform that is significantly different from the actual X-section waveform F (x).
[1438]
Therefore, the applicant of the present invention further considers the continuity in the spatial direction (using the angle θ) with respect to the first method._iInvented a second method for computing.
[1439]
That is, the second method assumes that the direction of continuity of the thin-line-containing real world region 2301 is approximately the angle θ direction, and the approximate function f₂feature x of (x)_iIs a method of calculating.
[1440]
Specifically, for example, the gradient G representing the continuity of data corresponding to the continuity in the spatial direction._fIs represented by the following equation (108).
[1441]
[Formula 78]

... (108)
[1442]
In Expression (108), dx represents the minute movement amount in the X direction as shown in FIG. 228, and dy represents the minute movement amount in the Y direction with respect to dx as shown in FIG. Yes.
[1443]
In this case, shift amount C_xWhen (y) is defined as the following equation (109), in the second method, the equation corresponding to the equation (106) used in the first method is as the following equation (110): Become.
[1444]
[79]

... (109)
[1445]
[80]

... (110)
[1446]
That is, the expression (106) used in the first method is that the pixel value P (x, y) of the pixel in which the position x in the X direction out of the center position (x, y) of the pixel is located at the same position. ) Represents the same value. In other words, Expression (106) represents that pixels having the same pixel value continue in the Y direction (there is continuity in the Y direction).
[1447]
On the other hand, in the expression (110) used in the second method, the pixel value P (x, y) of the pixel whose center position is (x, y) is the target pixel (the position of the center). The pixel value of the pixel located at a location x apart from the origin (0,0) in the X direction (≈f₂(x)), and the shift amount C further in the X direction from the pixel_xPixels located at a distance of (y) (x + C in the X direction from the target pixel)_xPixel value of pixel located at a location separated by (y) (≒ f₂(X + C_x(y)) represents the same value as in). In other words, the expression (110) indicates that pixels having the same pixel value are shifted by the shift amount C_xThis represents that the angle continues in the direction of the angle θ corresponding to (y) (there is a continuity in the direction of substantially the angle θ).
[1448]
Thus, the shift amount C_x(y) is the continuity in the spatial direction (in this case, the gradient G in FIG. 228_F(Strictly speaking, the gradient G_fIs the amount of correction taking into account the continuity of the data represented by_xThe equation (110) is obtained by correcting the equation (106) by (y).
[1449]
In this case, 20 pixel values P (x, y) in the thin line-containing data region 2302 shown in FIG. 225 (where x is an integer value of −1 to 2; y is −2 to When each of the integer values of 2) is substituted into the above-described equation (110), 20 equations represented by the following equation (111) are generated.
[1450]
[Formula 81]

... (111)
[1451]
The expression (111) is composed of 20 equations, similar to the expression (107) described above. Therefore, in the second method as well as the first method, the approximate function f₂(x) feature value w_iIs less than 20, that is, the approximate function f₂When (x) is a polynomial of an order smaller than the 19th order, for example, the feature value w using the least square method_iCan be calculated. A specific solution of the least square method will be described later.
[1452]
For example, as in the first method, the approximate function f₂When the order of (x) is 5th, in the second method, the feature value w is as follows._iIs calculated.
[1453]
That is, FIG. 229 represents a graph of the pixel value P (x, y) indicated by the left side of the formula (111). Each of the five graphs shown in FIG. 229 is basically the same as that shown in FIG.
[1454]
As shown in FIG. 229, the maximum pixel value (pixel value corresponding to the thin line) has a gradient G._fIt continues in the direction of stationarity of the data represented by
[1455]
Therefore, in the second method, the input pixel values P (x, -2), P (x, -1), P (x, 0), P (x, 1), P (x , 2), for example, when adding along the x-axis, add them as they are as in the first method (y is regarded as constant, and five graphs are overlaid in the state shown in FIG. 229) Instead of adding, the state is changed to the state shown in FIG.
[1456]
That is, FIG. 230 shows the input pixel values P (x, -2), P (x, -1), P (x, 0), P (x, 1), P (x, 2) shown in FIG. For each of the shift amounts C shown by the above-described equation (109)._xThis represents a state shifted by (y). In other words, FIG. 230 shows the five graphs shown in FIG. 229 with the slope G representing the actual direction of data continuity._FAs if tilted G_FIt represents a state of movement as indicated by '(in the figure, the dotted straight line is changed to a solid straight line).
[1457]
In the state of FIG. 230, each of the input pixel values P (x, -2), P (x, -1), P (x, 0), P (x, 1), P (x, 2) , When added along the x-axis (overlapping five graphs in the state shown in FIG. 230), a plurality of lines parallel to the x-axis (dotted line, three-dot chain line, solid line, A one-dot chain line and a two-dot chain line) are distributed.
[1458]
In FIG. 231, the vertical axis represents the pixel value, and the horizontal axis represents the relative position x from the target pixel. The dotted line is the input pixel value P (x, -2), the three-dot chain line is the input pixel value P (x, -1), the solid line is the input pixel value P (x, 0), and the one-dot chain line is the input The pixel value P (x, 1) is represented by a two-dot chain line, and the input pixel value P (x, 2) is represented by each. Furthermore, in the case of the same pixel value, two or more lines actually overlap, but in FIG. 231, the lines are drawn so as not to overlap each other so as to distinguish each line.
[1459]
Each of the 20 input pixel values P (x, y) distributed in this way (where x is an integer value of -1 to 2, y is a value of -2 to 2) Any integer value) and the value f₂(x + C_xA regression curve that minimizes the error of (y)) (feature value w calculated by the method of least squares_iIs an approximate function f obtained by substituting₂(x)) is the curve f shown by the solid line in FIG.₂(x).
[1460]
Thus, the approximate function f generated by the second method₂(x) is the average value of the input pixel values P (x, y) in the angle θ direction (ie, the direction of continuity in the spatial direction) output from the data continuity detection unit 101 (FIG. 219). It represents the curve connected to.
[1461]
On the other hand, as described above, the approximate function f generated by the first method.₁(x) merely represents a curve connecting the average values of the input pixel values P (x, y) in the Y direction (that is, a direction different from the continuity in the spatial direction) in the X direction.
[1462]
Therefore, as shown in FIG. 231, the approximate function f generated by the second method is used.₂(x) is the approximate function f generated by the first method.₁From (x), the degree of the dullness of the waveform is reduced, and the details are reduced with respect to the original pixel value. In other words, although not shown, the approximate function f generated by the second method₂(x) is an approximate function f generated by the first method.₁The waveform is closer to the actual X-section waveform F (x) than (x).
[1463]
However, as mentioned above, the approximation function f₂(x) is one that is generated with the input image (input pixel value) as the origin (reference), although the continuity in the spatial direction is taken into consideration. That is, as shown in FIG.₂(x) is only an approximation of an input image different from the X sectional waveform F (x), and it is difficult to say that the X sectional waveform F (x) is approximated. In other words, the second method assumes that the above-described formula (110) holds, and the feature value w_iAnd the relationship of the above-described formula (104) is not considered (the integration effect of the sensor 2 is not considered).
[1464]
Therefore, the applicant of the present application further considers the integration effect of the sensor 2 with respect to the second method, thereby approximating the approximate function f._Three(x) feature value w_iInvented a third method for computing.
[1465]
That is, the third method is a method that introduces the concept of a spatial mixing region.
[1466]
Prior to the description of the third method, the spatial mixing region will be described with reference to FIG.
[1467]
In FIG. 232, a portion 2321 (hereinafter referred to as a region 2321) of the optical signal in the real world 1 represents a region having the same area as one detection element (pixel) of the sensor 2.
[1468]
When the area 2321 is detected by the sensor 2, the sensor 2 outputs a value (one pixel value) 2322 obtained by integrating the area 2321 in the spatio-temporal direction (X direction, Y direction, and t direction). The pixel value 2322 is represented as an image in the drawing, but is actually data representing a predetermined value.
[1469]
The area 2321 of the real world 1 is clearly divided into an optical signal (white area in the figure) corresponding to the foreground (for example, the above-described thin line) and an optical signal (black area in the figure) corresponding to the background.
[1470]
In contrast, the pixel value 2322 is a value obtained by integrating the real world 1 optical signal corresponding to the foreground and the real world 1 optical signal corresponding to the background. In other words, the pixel value 2322 is a value corresponding to a level in which the light level corresponding to the foreground and the light level corresponding to the background are spatially mixed.
[1471]
Thus, the portion corresponding to one pixel (detection element of the sensor 2) of the optical signal in the real world 1 is not a portion where the optical signal of the same level is spatially uniformly distributed, but the foreground and background. Thus, when each of the optical signals having different levels is distributed, when the area is detected by the sensor 2, the different light levels are spatially mixed (space) by the integration effect of the sensor 2. It is integrated in the direction) and becomes one pixel value. In this manner, an area composed of pixels in which an image for the foreground (real world 1 optical signal) and an image for the background (real world 1 optical signal) are spatially integrated is referred to as a spatial mixing area. ing.
[1472]
Therefore, in the third method, the real world estimation unit 102 (FIG. 219) performs the original region 2321 of the real world 1 (the portion 2321 corresponding to one pixel of the sensor 2 in the optical signal of the real world 1). Is represented by an approximate function f which is a first-order polynomial as shown in FIG._ThreeThe X sectional waveform F (x) is estimated by approximating with (x).
[1473]
That is, FIG. 233 shows the approximate function f corresponding to the pixel value 2322 (FIG. 232) which is the spatial mixing region._Three(x), that is, the approximate function f that approximates the X-section waveform F (x) corresponding to the solid line (FIG. 232) in the region 2331 of the real world 1_ThreeAn example of (x) is shown. In FIG. 233, the horizontal axis in the figure indicates the lower left end x of the pixel corresponding to the pixel value 2322._sTo bottom right x_eThis represents an axis parallel to the side (FIG. 232) up to the x-axis. The vertical axis in the figure is the axis representing the pixel value.
[1474]
In FIG. 233, the approximate function f_Three(x) x_sTo x_eThe following equation (112) is defined on the assumption that the pixel value P (x, y) output from the sensor 2 is substantially the same (existing only error e).
[1475]
[Formula 82]

... (112)
[1476]
In this case, 20 pixel values P (x, y) in the thin line-containing data area 2302 shown in FIG. 228 (where x is an integer value from −1 to 2; y is −2 Integer value of any one of 2) to approximate function f_Three(x) feature value w_iIs calculated, the pixel value P of the equation (112) becomes the pixel value P (x, y).
[1477]
Similarly to the second method, since it is necessary to consider the continuity in the spatial direction, the start position x of the integration range of Expression (112)_sAnd end position x_eEach has a shift amount C_xIt depends on (y). That is, the start position x of the integration range of the equation (112)_sAnd end position x_eIs expressed as the following equation (113).
[1478]
[Formula 83]

... (113)
[1479]
In this case, each pixel value in the thin line-containing data area 2302 shown in FIG. 228, that is, the input pixel values P (x, −2), P (x, −1), P (x, 0) shown in FIG. ), P (x, 1), P (x, 2) (where x is an integer value from -1 to 2), and the above-described equation (112) (the integration range is the same as above) 20 equations shown in the following equation (114) are generated.
[1480]
[Expression 84]

[Expression 85]

... (114)
[1481]
The expression (114) is composed of 20 equations as in the above-described expression (111). Therefore, in the third method as well as the second method, the approximate function f_Three(x) feature value w_iIs less than 20, that is, the approximate function f_ThreeWhen (x) is a polynomial of an order smaller than the 19th order, for example, the feature value w using the least square method_iCan be calculated. A specific solution of the least square method will be described later.
[1482]
For example, the approximation function f_ThreeWhen the order of (x) is fifth order, the approximate function f calculated by the method of least squares using equation (114)_Three(x) (calculated feature value w_iApproximate function f generated by_Three(x)) is like the curve shown by the solid line in FIG.
[1483]
In FIG. 234, the vertical axis represents the pixel value, and the horizontal axis represents the relative position x from the target pixel.
[1484]
As shown in FIG. 234, the approximate function f generated by the third method._Three(x) (curve indicated by a solid line in the figure) is an approximate function f generated by the second method.₂Compared with (x) (curve indicated by a dotted line in the figure), the pixel value at x = 0 becomes larger, and the slope of the curve also has a steep waveform. This is because the detail increases from the input pixel and is independent of the resolution of the input pixel. That is, the approximate function f_ThreeIt can be said that (x) approximates the X sectional waveform F (x). Therefore, although not shown, the approximate function f_Three(x) is the approximation function f₂The waveform is closer to the X sectional waveform F (x) than (x).
[1485]
FIG. 235 shows a configuration example of the real world estimation unit 102 using such a first-order polynomial approximation method.
[1486]
In FIG. 235, the real world estimation unit 102, for example, features w_iIs calculated by the above-mentioned third method (least square method), and the calculated feature value w_iIs used to generate the approximate function f (x) of the above-described equation (105), thereby estimating the X-section waveform F (x).
[1487]
As shown in FIG. 235, the real world estimation unit 102 includes a condition setting unit 2331, an input image storage unit 2332, an input pixel value acquisition unit 2333, an integral component calculation unit 2334, a normal equation generation unit 2335, and an approximate function generation. A portion 2336 is provided.
[1488]
The condition setting unit 2331 sets a pixel range (hereinafter referred to as a tap range) used for estimating the X sectional waveform F (x) corresponding to the target pixel, and the order n of the approximation function f (x). .
[1489]
The input image storage unit 2332 temporarily stores an input image (pixel value) from the sensor 2.
[1490]
The input pixel value acquisition unit 2333 includes the condition setting unit 2 out of the input images stored in the input image storage unit 2332.3An area of the input image corresponding to the tap range set by 31 is acquired and supplied to the normal equation generation unit 2335 as an input pixel value table. That is, the input pixel value table is a table in which each pixel value of each pixel included in the area of the input image is described. A specific example of the input pixel value table will be described later.
[1491]
By the way, here, the real world estimation unit 102 uses the above-described equations (112) and (113) to calculate the feature value w of the approximate function f (x) by the least square method._iThe above equation (112) can be expressed as the following equation (115).
[1492]
[86]

... (115)
[1493]
In formula (115), S_i(X_s, x_e) Represents the integral component of the i-th order term. That is, the integral component S_i(x_s, x_e) Is represented by the following equation (116).
[1494]
[Expression 87]

... (116)
[1495]
The integral component calculation unit 2334 takes the integral component S_i(x_s, X_e) Is calculated.
[1496]
Specifically, the integral component S shown by the equation (116)._i(x_s, x_e) (However, the value x_sAnd value x_eIs the relative pixel position (x, y) and the shift amount C_xCalculation is possible if (y) and i of the i-th term are known. Among these, the relative pixel position (x, y) depends on the target pixel and the tap range, and the shift amount C_x(y) is determined by the angle θ (by the above-described equations (107) and (109)), and the range of i is determined by the order n.
[1497]
Therefore, the integral component calculation unit 2334 is based on the tap range and order set by the condition setting unit 2331 and the angle θ in the data continuity information output from the data continuity detection unit 101._i(x_s, x_e) And the result of the calculation is supplied to the normal equation generation unit 2335 as an integral component table.
[1498]
The normal equation generation unit 2335 uses the input pixel value table supplied from the input pixel value acquisition unit 2333 and the integration component table supplied from the integration component calculation unit 2334, so that the above equation (112), that is, the equation Feature value w on the right side of (115)_iIs generated by the least square method, and supplied to the approximate function generation unit 2336 as a normal equation table. A specific example of the normal equation will be described later.
[1499]
The approximate function generation unit 2336 solves the normal equation included in the normal equation table supplied from the normal equation generation unit 2335 by the matrix solution method, thereby obtaining the feature value w of the above-described equation (115)._i(Ie, the coefficient w of the approximate function f (x) which is a one-dimensional polynomial_iAre calculated and output to the image generation unit 103.
[1500]
Next, the real world estimation process (the process in step S102 in FIG. 40) of the real world estimation unit 102 (FIG. 235) using the one-dimensional polynomial approximation method will be described with reference to the flowchart in FIG.
[1501]
For example, it is assumed that an input image output from the sensor 2 and including the thin line containing data region 2302 in FIG. 221 is already stored in the input image storage unit 2332. In addition, the data continuity detection unit 101 performs the process on the thin-line-containing data region 2302 in the continuity detection process in step S101 (FIG. 40), and already outputs the angle θ as the data continuity information. Suppose that
[1502]
In this case, in step S2301 in FIG. 236, the condition setting unit 2331 sets conditions (tap range and order).
[1503]
For example, assume that the tap range 2351 shown in FIG. 237 is set and the fifth order is set as the order.
[1504]
That is, FIG. 237 is a diagram illustrating an example of the tap range. In FIG. 237, the X direction and the Y direction represent the X direction and the Y direction (FIG. 220) of the sensor 2. The tap range 2351 represents a pixel group composed of a total of 20 pixels (20 squares in the figure) corresponding to 4 pixels in the X direction and 5 pixels in the Y direction.
[1505]
Furthermore, as shown in FIG. 237, it is assumed that the target pixel is the second pixel from the left in the drawing and the third pixel from the bottom in the drawing. In addition, for each of the pixels, the relative pixel position (x, y) from the target pixel (the coordinate value of the target pixel coordinate system with the center (0, 0) of the target pixel as the origin) in accordance with FIG. A number l (1 is an integer value of 0 to 19) as shown in FIG.
[1506]
Returning to FIG. 236, in step S2302, the condition setting unit 2331 sets the target pixel.
[1507]
In step S2303, the input pixel value acquisition unit 2333 acquires an input pixel value based on the condition (tap range) set by the condition setting unit 2331, and generates an input pixel value table. That is, in this case, the input pixel value acquisition unit 2333 acquires the thin line-containing data area 2302 (FIG. 225), and generates a table composed of 20 input pixel values P (l) as the input pixel value table.
[1508]
In this case, the relationship between the input pixel value P (l) and the input pixel value P (x, y) described above is a relationship represented by the following expression (117). However, in Expression (117), the left side represents the input pixel value P (l), and the right side represents the input pixel value P (x, y).
[1509]
[Equation 88]

... (117)
[1510]
In step S2304, the integral component calculation unit 2334 performs integration based on the conditions (tap range and order) set by the condition setting unit 2331 and the data continuity information (angle θ) supplied from the data continuity detection unit 101. Calculate components and generate an integral component table.
[1511]
In this case, as described above, the input pixel value is acquired as the value of the pixel number l such as P (l) instead of P (x, y). Integral component S of (116)_i(x_s, x_e) Is an integral component S shown on the left side of the following equation (118)_iOperates as a function of l such as (l).
[1512]
S_i(l) = S_i(X_s, x_e(118)
[1513]
Specifically, in this case, the integral component S expressed by the following equation (119):_i(l) is calculated.
[1514]
[Equation 89]

... (119)
[1515]
In equation (119), the left side is the integral component S_i(L), the right side is the integral component S_i(x_s, x_e). That is, in this case, since i is 0 to 5, 20 S₀(l), 20 S₁(l), 20 S₂(l), 20 S_Three(l), 20 S_Four(l), 20 S_FiveA total of 120 S of (l)_i(l) is calculated.
[1516]
More specifically, first, the integral component calculation unit 2334 uses the angle θ supplied from the data continuity detection unit 101 to calculate the shift amount C_x(-2), C_x(-1), C_x(1), C_xCalculate each of (2). Next, the integral component calculation unit 2334 calculates the calculated shift amount C_x(-2), C_x(-1), C_x(1), C_x20 integral components S shown on the right side of equation (118) using (2)_i(x_s, x_e) For each of i = 0 to 5. That is, 120 integral components S_i(x_s, x_e) Is calculated. This integral component S_i(x_s, x_eIn the calculation of), the above-described equation (116) is used. Then, the integral component calculation unit 2334 calculates 120 integral components S calculated according to the equation (119)._i(x_s, x_e) For each corresponding integral component S_i120 integral components S converted to (l)_iAn integral component table including (l) is generated.
[1517]
Note that the order of the processing in step S2303 and the processing in step S2304 is not limited to the example in FIG. 236, and the processing in step S2304 may be executed first, or the processing in step S2303 and the processing in step S2304 are executed simultaneously. May be.
[1518]
Next, in step S2305, the normal equation generation unit 2335 includes the input pixel value table generated by the input pixel value acquisition unit 2333 in the process of step S2303 and the integration generated by the integration component calculation unit 2334 in the process of step S2304. A normal equation table is generated based on the component table.
[1519]
Specifically, in this case, the feature value w of the following equation (120) corresponding to the above equation (115) is calculated by the method of least squares._iIs calculated. Thus, the corresponding normal equation is expressed as the following equation (121).
[1520]
[90]

... (120)
[1521]
[91]

... (121)
[1522]
In Expression (121), L represents the maximum value among the numbers l of the pixels in the tap range. n represents the order of the approximate function f (x) that is a polynomial. Specifically, in this case, n = 5 and L = 19.
[1523]
When each matrix of the normal equation represented by the equation (121) is defined as the following equations (122) to (124), the normal equation is represented as the following equation (125).
[1524]
[Equation 92]

... (122)
[1525]
[Equation 93]

... (123)
[1526]
[Equation 94]

... (124)
[1527]
[95]

... (125)
[1528]
As shown in equation (123), the matrix W_MATEach component is the feature value w_iIt is. Therefore, in equation (125), the left-side matrix S_MATAnd right-hand side matrix P_MATIs determined, the matrix W_MAT(That is, feature amount w_i) Can be calculated.
[1529]
Specifically, as shown in Expression (122), the matrix S_MATEach component of the integral component S described above_iIf (l) is known, computation is possible. Integral component S_iSince (l) is included in the integral component table supplied from the integral component calculation unit 2334, the normal equation generation unit 2335 uses the integral component table to generate the matrix S._MATEach component of can be calculated.
[1530]
Further, as shown in the equation (124), the matrix P_MATEach component of is an integral component S_iIf (l) and the input pixel value P (l) are known, calculation is possible. Integral component S_i(l) is the matrix S_MATSince the input pixel value P (l) is included in the input pixel value table supplied from the input pixel value acquisition unit 2333, the normal equation generation unit 2335 is a matrix P using the integral component table and the input pixel value table._MATEach component of can be calculated.
[1531]
In this way, the normal equation generation unit 2335 performs the matrix S_MATAnd matrix P_MATAre calculated, and the calculation result (matrix S_MATAnd matrix P_MATAre each output to the approximate function generation unit 2336 as a normal equation table.
[1532]
When the normal equation table is output from the normal equation generation unit 2335, in step S2306, the approximate function generation unit 2336, based on the normal equation table, the matrix W of the above-described formula (125)._MATFeatures w which are each component of_i(Ie, the coefficient w of the approximate function f (x) which is a one-dimensional polynomial_i) Is calculated.
[1533]
Specifically, the normal equation of the above formula (125) can be transformed as the following formula (126).
[1534]
[Equation 96]

... (126)
[1535]
In equation (126), the left side matrix W_MATEach component of is the feature value w_iIt is. Matrix S_MATAnd matrix P_MATEach component is included in the normal equation table supplied from the normal equation generation unit 2335. Accordingly, the approximate function generation unit 2336 uses the normal equation table to perform the matrix operation on the right side of the equation (126), so that the matrix W_MATAnd the result (feature value w_i) To the image generation unit 103.
[1536]
In step S2307, the approximate function generation unit 2336 determines whether or not the processing of all pixels has been completed.
[1537]
If it is determined in step S2307 that all the pixels have not been processed yet, the process returns to step S2302, and the subsequent processing is repeated. That is, the pixels that are not yet the target pixel are sequentially set as the target pixel, and the processes in steps S2302 to S2307 are repeated.
[1538]
When the processing for all pixels is completed (when it is determined in step S2307 that the processing for all pixels has been completed), the estimation process for the real world 1 is completed.
[1539]
The coefficient (feature value) w calculated as described above_iThe waveform of the approximate function f (x) generated by the above is the approximate function f in FIG._ThreeThe waveform becomes (x).
[1540]
As described above, in the one-dimensional polynomial approximation method, it is assumed that a waveform having the same shape as the one-dimensional X-sectional waveform F (x) is continuous in the direction of continuity, and the approximation function f which is a one-dimensional polynomial. The feature value of (x) is calculated. Therefore, in the one-dimensional polynomial approximation method, the feature amount of the approximate function f (x) can be calculated with a small amount of calculation processing compared to other function approximation methods.
[1541]
In other words, in the one-dimensional polynomial approximation method, for example, the data continuity detecting unit 101 in FIG. 219 (FIG. 3) has a plurality of detection elements (for example, sensor 2 in FIG. 220) each having a spatiotemporal integration effect. The detection element 2-1) projects the real-world 1 optical signal (for example, a portion 2301 of the real-world 1 optical signal in FIG. 221), and the real-world 1 optical signal continuity (for example, FIG. 228). Slope G_FA plurality of pixel values (for example, input pixel values P (x, y) shown in each graph of FIG. 226) projected by the detecting element 2-1, lacking a part of Data continuity (for example, slope G in FIG. 228) in image data composed of pixels (for example, image data (region of input image) 2302 in FIG. 221)_fIs detected).
[1542]
For example, the real world estimation unit 102 in FIG. 219 (FIG. 3) corresponds to the data continuity detected by the data continuity detection unit 101 and corresponds to the one-dimensional direction (for example, FIG. Pixel whose pixel value (for example, the input pixel value P which is the left side of the above-described formula (112)) corresponding to the position of the arrow 223 of 223, that is, the X direction is acquired by the integration effect in the one-dimensional direction. A value (e.g., the approximate function f as shown on the right side of equation (112))_ThreeAssuming that (x) is a value integrated in the X direction), an optical signal function F (specifically, an X cross-sectional waveform F (x)) representing an optical signal of the real world 1 is represented by a predetermined approximate function f (specifically Specifically, for example, the approximate function f in FIG._ThreeThe optical signal function F is estimated by approximating with (x)).
[1543]
Specifically, for example, the real world estimation unit 102dataA line corresponding to the continuity of the data detected by the continuity detecting unit 101 (for example, the slope G in FIG. 230)._fThe pixel value of the pixel corresponding to the distance (for example, the shift amount Cx (y) in FIG. 230) along the one-dimensional direction (for example, the X direction) from the line corresponding to (dotted line)) is integrated in the one-dimensional direction. The pixel value obtained by the effect (for example, the approximate function f as shown in the right side of the equation (112) in the integration range as shown in the equation (112) described above)._ThreeThe optical signal function F is estimated by approximating the optical signal function F with the approximate function f, assuming that (x) is a value integrated in the X direction).
[1544]
Therefore, in the one-dimensional polynomial approximation method, the feature amount of the approximate function f (x) can be calculated with a small amount of calculation processing compared to other function approximation methods.
[1545]
Next, the second function approximation method will be described with reference to FIGS. 238 to 244.
[1546]
That is, the second function approximation method is, for example, the gradient G as shown in FIG._FAn optical signal of the real world 1 having spatial continuity represented by XY is expressed on the XY plane (on the X direction which is one direction in the spatial direction and on a horizontal plane in the Y direction perpendicular to the X direction). A method of estimating the waveform F (x, y) by approximating the waveform F (x, y) with the approximation function f (x, y), which is a two-dimensional polynomial, assuming the waveform F (x, y) It is. Therefore, hereinafter, the second function approximation method is referred to as a two-dimensional polynomial approximation method.
[1547]
In FIG. 238, in the figure, the horizontal direction represents the X direction which is one of the spatial directions, the upper right direction represents the Y direction which is the other direction of the spatial direction, and the vertical direction represents the light level. ing. G_FRepresents the slope of continuity in the spatial direction.
[1548]
In the description of the two-dimensional polynomial approximation method, the sensor 2 is a CCD configured by arranging a plurality of detection elements 2-1 on the plane as shown in FIG.
[1549]
In the example of FIG. 239, the direction parallel to the predetermined one side of the detection element 2-1 is the X direction which is one direction in the spatial direction, and the direction perpendicular to the X direction is the other direction in the spatial direction. A certain Y direction is assumed. The direction perpendicular to the XY plane is the t direction which is the time direction.
[1550]
In the example of FIG. 239, the spatial shape of each detection element 2-1 of the sensor 2 is a square with one side length of one. The shutter time (exposure time) of the sensor 2 is 1.
[1551]
Furthermore, in the example of FIG. 239, the center of one predetermined detection element 2-1 of the sensor 2 is the origin in the spatial direction (X direction and Y direction) (X direction position x = 0, and Y direction position y). = 0), and the intermediate time of the exposure time is the origin in the time direction (t direction) (position t = 0 in the t direction).
[1552]
In this case, the detection element 2-1 having its center at the origin (x = 0, y = 0) in the spatial direction has a range of −0.5 to 0.5 in the X direction, a range of −0.5 to 0.5 in the Y direction, and The optical signal function F (x, y, t) is integrated in the range of −0.5 to 0.5 in the t direction, and the integrated value is output as the pixel value P.
[1553]
That is, the pixel value P output from the detection element 2-1 having the center at the origin in the spatial direction is expressed by the following equation (127).
[1554]
[Equation 97]

... (127)
[1555]
Similarly, the other detection element 2-1 outputs the pixel value P represented by the equation (127) by setting the center of the target detection element 2-1 as the origin in the spatial direction.
[1556]
Incidentally, as described above, the two-dimensional polynomial approximation method treats the optical signal of the real world 1 as, for example, the waveform F (x, y) as shown in FIG. 238, and the two-dimensional waveform F (x, y This is a technique for approximating y) to an approximate function f (x, y) that is a two-dimensional polynomial.
[1557]
Therefore, first, a method for expressing such an approximate function f (x, y) by a two-dimensional polynomial will be described.
[1558]
As described above, the optical signal in the real world 1 is represented by the optical signal function F (x, y, t) with the positions x, y, and z in the three-dimensional space and the time t as variables. A one-dimensional waveform obtained by projecting the optical signal function F (x, y, t) in the X direction at an arbitrary position y in the Y direction is referred to as an X sectional waveform F (x) here.
[1559]
When attention is paid to the X-section waveform F (x), when the signal of the real world 1 has a continuity in a predetermined direction in the spatial direction, a waveform having the same shape as the X-section waveform F (x) is the steadiness. It can be thought that it is connected to the direction of sex. For example, in the example of FIG. 238, a waveform having the same shape as the X-section waveform F (x) has a slope G_FIt is lined in the direction of In other words, the waveform having the same shape as the X-section waveform F (x) has a slope G_FIt can also be said that the waveform F (x, y) is formed in a row.
[1560]
Accordingly, the waveform of the approximate function f (x, y) that approximates the waveform F (x, y) is formed by a series of waveforms having the same shape as the approximate function f (x) that approximates the X-section waveform F (x). Therefore, the approximate function f (x, y) can be expressed by a two-dimensional polynomial.
[1561]
The method for expressing the approximate function f (x, y) will be described in more detail.
[1562]
For example, as shown in FIG. 238 described above, the optical signal of the real world 1, that is, the gradient G_FIt is assumed that an optical signal having a continuity in the spatial direction represented by is detected by the sensor 2 (FIG. 239) and output as an input image (pixel value).
[1563]
Further, as shown in FIG. 240, the data continuity detecting unit 101 (FIG. 3) has a total of 20 pixels (4 pixels in the X direction and 5 pixels in the Y direction) of the input image ( In the figure, the process is performed on an input image area 2401 composed of 20 squares represented by dotted lines, and an angle θ (inclination G) is provided as one of data continuity information._FTilt G corresponding to_fIs output as an angle θ) between the direction of the continuity of the data represented by X and the X direction.
[1564]
In the input image area 2401, the horizontal direction in the figure represents the X direction, which is one direction in the spatial direction, and the vertical direction in the figure represents the Y direction, which is the other direction in the spatial direction.
[1565]
In FIG. 240, the second pixel from the left and the third pixel from the bottom is the target pixel, and the (x, y) coordinates are such that the center of the target pixel is the origin (0,0). System is set. Then, a straight line with an angle θ passing through the origin (0,0) (inclination G representing the direction of data continuity)_fThe relative distance in the X direction (hereinafter referred to as the cross-sectional direction distance) is described as x ′.
[1566]
Further, the graph on the right side in FIG. 240 is a function in which the X-section waveform F (x ′) is approximated, and an approximate function f (x ′) that is an n-order (n is an arbitrary integer) polynomial. Represents. Of the axes of the graph on the right side, the horizontal axis in the figure represents the distance in the cross-sectional direction, and the vertical axis in the figure represents the pixel value.
[1567]
In this case, since the approximate function f (x ′) shown in FIG.
[1568]
[Equation 98]

... (128)
[1569]
Further, since the angle θ is determined, the straight line of the angle θ passing through the origin (0, 0) is uniquely determined, and the position x in the X direction of the straight line at an arbitrary position y in the Y direction._lIs expressed as the following equation (129). However, in Formula (129), s represents cotθ.
[1570]
x_l = S × y (129)
[1571]
That is, as shown in FIG._fThe point on the straight line corresponding to the stationarity of the data represented by_l, y).
[1572]
From the equation (129), the cross-sectional direction distance x ′ is expressed as the following equation (130).
[1573]
x '= x−x_l = X−s × y (130)
[1574]
Accordingly, the approximate function f (x, y) at an arbitrary position (x, y) in the area 2401 of the input image is expressed as the following expression (131) from the expressions (128) and (130). .
[1575]
[99]

... (131)
[1576]
In formula (131), w_iRepresents the coefficient of the approximate function f (x, y). The coefficient w of the approximate function f including the approximate function f (x, y)_iCan also be positioned as the feature quantity of the approximate function f. Therefore, hereinafter, the coefficient w of the approximate function f_iIs the feature quantity w of the approximate function f._iAlso called.
[1577]
In this way, if the angle θ is known, the approximate function f (x, y) of the two-dimensional waveform can be expressed as a polynomial in the equation (131).
[1578]
Accordingly, the real world estimation unit 102 can estimate the waveform F (x, y) as shown in FIG. 238 if the feature quantity wi of the equation (131) can be calculated.
[1579]
Therefore, a method for calculating the feature quantity wi of Expression (131) will be described below.
[1580]
That is, the approximation function f (x, y) represented by the equation (131) is integrated in the integration range (spatial direction integration range) corresponding to the pixel (detection element 2-1 of the sensor 2 (FIG. 239)). For example, the integrated value is an estimated value of the pixel value of the pixel. This is expressed by the following equation (132). In the two-dimensional polynomial approximation method, since the time direction t is regarded as a constant value, the equation (132) is an equation with the positions x and y in the spatial direction (X direction and Y method) as variables. .
[1581]
[Expression 100]

... (132)
[1582]
In the expression (132), P (x, y) of the input image from the sensor 2 has its center position at the position (x, y) (relative position (x, y) from the target pixel). It represents the pixel value of the pixel. E represents an error.
[1583]
Thus, in the two-dimensional polynomial approximation method, the relationship between the input pixel value P (x, y) and the approximation function f (x, y) that is a two-dimensional polynomial can be expressed by the equation (132). Since it is possible, the real world estimation part 102 substitutes the calculated feature-value wi to Formula (130) by calculating the feature-value wi by the least square method etc. using Formula (132), for example. To generate an approximate function f (x, y)) and a two-dimensional function F (x, y) (gradient G_FIt becomes possible to estimate the waveform F (x, y)) expressed by focusing on the spatial direction of the optical signal of the real world 1 having the continuity in the spatial direction represented by (FIG. 238).
[1584]
FIG. 241 shows a configuration example of the real world estimation unit 102 using such a two-dimensional polynomial approximation method.
[1585]
As shown in FIG. 241, the real world estimation unit 102 includes a condition setting unit 2421, an input image storage unit 2422, an input pixel value acquisition unit 2423, an integral component calculation unit 2424, a normal equation generation unit 2425, and an approximate function generation. A portion 2426 is provided.
[1586]
The condition setting unit 2421 sets the pixel range (tap range) used to estimate the function F (x, y) corresponding to the target pixel and the order n of the approximate function f (x, y).
[1587]
The input image storage unit 2422 primarily stores an input image (pixel value) from the sensor 2.
[1588]
The input pixel value acquisition unit 2423 acquires an area of the input image corresponding to the tap range set by the condition setting unit 2421 among the input images stored in the input image storage unit 2422, and stores it in the input pixel value table To the normal equation generation unit 2425. That is, the input pixel value table is a table in which each pixel value of each pixel included in the area of the input image is described. A specific example of the input pixel value table will be described later.
[1589]
By the way, as described above, the real world estimation unit 102 using the two-dimensional polynomial approximation method solves the above equation (132) by the least square method, thereby obtaining the approximation function f ( x, y) feature value w_iIs calculated.
[1590]
The expression (132) can be expressed as the following expression (137) by using the following expression (136) obtained by using the following expressions (133) to (135).
[1591]
## EQU1 ##

... (133)
[1592]
## EQU10 ##

... (134)
[1593]
[Formula 103]

... (135)
[1594]
[Formula 104]

... (136)
[1595]
[Formula 105]

... (137)
[1596]
In formula (137), S_i(X-0.5, x + 0.5, y-0.5, y + 0.5) represents the integral component of the i-th order term. That is, the integral component S_i(X−0.5, x + 0.5, y−0.5, y + 0.5) is as shown in the following equation (138).
[1597]
[Formula 106]

... (138)
[1598]
The integral component calculation unit 2424 provides the integral component S_iCalculate (x-0.5, x + 0.5, y-0.5, y + 0.5).
[1599]
Specifically, the integral component S shown by the equation (138)._i(X-0.5, x + 0.5, y-0.5, y + 0.5) is the relative pixel position (x, y), the variable s in the above-described equation (131), and i of the i-th term are known, Arithmetic is possible. Of these, the relative pixel position (x, y) is determined by the pixel of interest and the tap range, and the variable s is cot θ, so the range of i is determined by the angle θ, and the range of i is determined by the order n.
[1600]
Therefore, the integral component calculation unit 2424 integrates the integral component S based on the tap range and order set by the condition setting unit 2421 and the angle θ of the data continuity information output from the data continuity detection unit 101._i(X-0.5, x + 0.5, y-0.5, y + 0.5) is calculated, and the calculation result is supplied to the normal equation generation unit 2425 as an integral component table.
[1601]
The normal equation generation unit 2425 uses the input pixel value table supplied from the input pixel value acquisition unit 2423 and the integration component table supplied from the integration component calculation unit 2424, so that the above equation (132), that is, the equation A normal equation when (137) is obtained by the method of least squares is generated, and is output to the approximate function generation unit 2426 as a normal equation table. A specific example of the normal equation will be described later.
[1602]
The approximate function generation unit 2426 solves the normal equation included in the normal equation table supplied from the normal equation generation unit 2425 by a matrix solution method, thereby obtaining the feature value w of the above-described equation (132)._i(Ie, the coefficient w of the approximate function f (x, y) that is a two-dimensional polynomial._iAre calculated and output to the image generation unit 103.
[1603]
Next, the real-world estimation process (the process in step S102 in FIG. 40) to which the two-dimensional polynomial approximation method is applied will be described with reference to the flowchart in FIG.
[1604]
For example, now the slope G_FAn optical signal of the real world 1 having spatial continuity represented by the following is detected by the sensor 2 (FIG. 239) and is already stored in the input image storage unit 2422 as an input image corresponding to one frame. And In addition, the data continuity detecting unit 101 performs processing on the above-described region 2401 shown in FIG. 240 in the input image in the continuity detection process in step S101 (FIG. 40), and the data steadiness is detected. Assume that the angle θ has already been output as sex information.
[1605]
In this case, in step S2401, the condition setting unit 2421 sets conditions (tap range and order).
[1606]
For example, assume that the tap range 2441 shown in FIG. 243 is set and the fifth order is set as the order.
[1607]
That is, FIG. 243 is a diagram illustrating an example of the tap range. In FIG. 243, the X direction and the Y direction represent the X direction and the Y direction (FIG. 239) of the sensor 2. Further, the tap range 2441 represents a pixel group including a total of 20 pixels (20 squares in the drawing) corresponding to 4 pixels in the X direction and 5 pixels in the Y direction.
[1608]
Furthermore, as shown in FIG. 243, it is assumed that the target pixel is set to the second pixel from the left in the drawing and the third pixel from the bottom in the tap range 2441. In addition, for each of the pixels, the relative pixel position (x, y) from the target pixel (the coordinate value of the target pixel coordinate system with the center (0, 0) of the target pixel as the origin) in accordance with FIG. A number l (1 is an integer value of 0 to 19) as shown in FIG.
[1609]
Returning to FIG. 242, in step S2402, the condition setting unit 2421 sets the target pixel.
[1610]
In step S2403, the input pixel value acquisition unit 2423 acquires the input pixel value based on the condition (tap range) set by the condition setting unit 2421, and generates an input pixel value table. That is, in this case, the input pixel value acquisition unit 2423 acquires the area 2401 (FIG. 240) of the input image, and generates a table composed of 20 input pixel values P (l) as the input pixel value table.
[1611]
In this case, the relationship between the input pixel value P (l) and the input pixel value P (x, y) described above is a relationship represented by the following equation (139). However, in Expression (139), the left side represents the input pixel value P (l), and the right side represents the input pixel value P (x, y).
[1612]
[Expression 107]

... (139)
[1613]
In step S2404, the integral component calculation unit 2424 performs integration based on the conditions (tap range and order) set by the condition setting unit 2421 and the data continuity information (angle θ) supplied from the data continuity detection unit 101. Calculate components and generate an integral component table.
[1614]
In this case, as described above, since the input pixel value is acquired as the value of the pixel number l such as P (l) instead of P (x, y), the integral component calculation unit 2424 uses the above-described equation. Integral component S of (138)_i(x-0.5, x + 0.5, y-0.5, y + 0.5) is an integral component S shown on the left side of the following equation (140)_iOperates as a function of l such as (l).
[1615]
S_i(l) = S_i(x-0.5, x + 0.5, y-0.5, y + 0.5) (140)
[1616]
Specifically, in this case, the integral component S expressed by the following equation (141):_i(l) is calculated.
[1617]
[Formula 108]

... (141)
[1618]
In equation (141), the left side is the integral component S._i(L), the right side is the integral component S_i(x-0.5, x + 0.5, y-0.5, y + 0.5). That is, in this case, since i is 0 to 5, 20 S₀(l), 20 S₁(l), 20 S₂(l), 20 S_Three(l), 20 S_Four(l), 20 S_FiveA total of 120 S of (l)_i(l) is calculated.
[1619]
More specifically, first, the integral component calculation unit 2424 calculates cot θ with respect to the angle θ supplied from the data continuity detection unit 101 and sets it as a variable s. Next, the integral component calculation unit 2424 uses the calculated variable s to calculate 20 integral components S indicated on the right side of the equation (140)._iEach of (x-0.5, x + 0.5, y-0.5, y + 0.5) is calculated for each of i = 0 to 5. That is, 120 integral components S_i(x-0.5, x + 0.5, y-0.5, y + 0.5) is calculated. This integral component S_iIn the calculation of (x−0.5, x + 0.5, y−0.5, y + 0.5), the above equation (138) is used. Then, the integral component calculation unit 2424 calculates the 120 integral components S calculated according to the equation (141)._i(x-0.5, x + 0.5, y-0.5, y + 0.5)_iConvert to each of (l) and convert 120 S_iAn integral component table including (l) is generated.
[1620]
Note that the order of the processing in step S2403 and the processing in step S2404 is not limited to the example in FIG. 242, and the processing in step S2404 may be executed first, or the processing in step S2403 and the processing in step S2404 are executed simultaneously. May be.
[1621]
Next, in step S2405, the normal equation generation unit 2425 includes the input pixel value table generated by the input pixel value acquisition unit 2423 in the process of step S2403 and the integration generated by the integration component calculation unit 2424 in the process of step S2404. A normal equation table is generated based on the component table.
[1622]
Specifically, in this case, the feature value w is calculated by the least square method using the above-described equation (137)._i(However, in the equation (136), the integral component S_i(x-0.5, x + 0.5, y-0.5, y + 0.5) uses Si (l) transformed by equation (140)), so the corresponding normal equation is the following equation (142 ).
[1623]
[Formula 109]

... (142)
[1624]
In Expression (142), L represents the maximum value among the numbers l of the pixels in the tap range. n represents the order of the approximate function f (x) that is a polynomial. Specifically, in this case, n = 5 and L = 19.
[1625]
When each matrix of the normal equation represented by the equation (142) is defined as the following equations (143) to (145), the normal equation is expressed as the following equation (146).
[1626]
## EQU1 ##

... (143)
[1627]
[Formula 111]

... (144)
[1628]
## EQU1 ##

... (145)
[1629]
[Formula 113]

... (146)
[1630]
As shown in equation (144), the matrix W_MATEach component is the feature value w_iIt is. Therefore, in equation (146), the left-side matrix S_MATAnd right-hand side matrix P_MATIs determined, the matrix W_MATCan be calculated.
[1631]
Specifically, as shown in Expression (143), the matrix S_MATEach component of the integral component S described above_iIt can be calculated with (l). That is, the integral component S_iSince (l) is included in the integral component table supplied from the integral component calculation unit 2424, the normal equation generation unit 2425 uses the integral component table to generate the matrix S._MATEach component of can be calculated.
[1632]
Further, as shown in the equation (145), the matrix P_MATEach component of is an integral component S_iIt is possible to calculate with (l) and the input pixel value P (l). That is, the integral component S_i(l) is the matrix S_MATSince the input pixel value P (l) is included in the input pixel value table supplied from the input pixel value acquisition unit 2423, the normal equation generation unit 2425 is a matrix P using the integral component table and the input pixel value table._MATEach component of can be calculated.
[1633]
In this way, the normal equation generation unit 2425 performs the matrix S_MATAnd matrix P_MATAre calculated, and the calculation result (matrix S_MATAnd matrix P_MATAre output to the approximate function generation unit 2426 as a normal equation table.
[1634]
When the normal equation table is output from the normal equation generation unit 2425, in step S2406, the approximate function generation unit 2426, based on the normal equation table, calculates the matrix W of the above-described equation (146)._MATFeatures w which are each component of_i(Ie, the coefficient w of the approximate function f (x, y) that is a two-dimensional polynomial._i) Is calculated.
[1635]
Specifically, the normal equation of the equation (146) described above can be transformed as the following equation (147).
[1636]
[Formula 114]

... (147)
[1637]
In equation (147), the left side matrix W_MATEach component of is the feature value w_iIt is. Matrix S_MATAnd matrix P_MATThe respective components are included in the normal equation table supplied from the normal equation generation unit 2425. Accordingly, the approximate function generation unit 2426 uses the normal equation table to perform the matrix operation on the right side of the equation (147), thereby generating the matrix W._MATAnd the result (feature value w_i) To the image generation unit 103.
[1638]
In step S2407, the approximate function generation unit 2426 determines whether or not the processing of all pixels has been completed.
[1639]
If it is determined in step S2407 that the processing for all pixels has not been completed yet, the processing returns to step S2402, and the subsequent processing is repeated. That is, pixels that are not yet the target pixel are sequentially set as the target pixel, and the processes in steps S2402 to S2407 are repeated.
[1640]
When the processing for all pixels is completed (when it is determined in step S2407 that the processing for all pixels has been completed), the estimation process for the real world 1 ends.
[1641]
As described above, as a description of the two-dimensional polynomial approximation method, the coefficient (feature value) w of the approximation function f (x, y) with respect to the spatial direction (X direction and Y direction)_iHowever, the two-dimensional polynomial approximation method can also be applied to the spatio-temporal direction (X direction and t direction, or Y direction and t direction).
[1642]
That is, in the above example, the optical signal of the real world 1 is, for example, the gradient G_FSince it is an example in the case of having the continuity in the spatial direction represented by (FIG. 238), the two-dimensional integration in the spatial direction (X direction and Y direction) as shown in the above formula (132) is included. The formula used was used. However, the idea of two-dimensional integration is not limited to the spatial direction, but can be applied to the spatiotemporal direction (X direction and t direction, or Y direction and t direction).
[1643]
In other words, in the two-dimensional polynomial approximation method, the optical signal function F (x, y, t) to be estimated has not only the continuity in the spatial direction but also the spatio-temporal direction (however, the X direction and the t direction, or Y Direction and t direction), it can be approximated by a two-dimensional polynomial.
[1644]
Specifically, for example, when there is an object moving horizontally at a constant speed in the X direction, the direction of the movement of the object is the slope V in the X-t plane as shown in FIG._FIt is expressed as In other words, slope V_FCan be said to represent the direction of continuity in the spatio-temporal direction in the X-t plane. Therefore, the data continuity detecting unit 101 performs the above-described angle θ (inclination G in the XY plane)._FAs with the data continuity information corresponding to the continuity in the spatial direction represented by_FAs the data continuity information corresponding to the motion θ as shown in FIG. 244 (strictly, although not shown, the slope V_FTilt V corresponding to_fIt is possible to output the motion θ), which is the angle formed by the direction of the stationarity of the data represented by the X direction in the spatial direction.
[1645]
Accordingly, the real-world estimation unit 102 using the two-dimensional polynomial approximation method can use the coefficient of the approximation function f (x, t) in the same manner as the above-described method if the motion θ is used instead of the angle θ described above. (Feature amount) w_iCan be calculated. However, in this case, the expression used is not the expression (132) described above but the following expression (148).
[1646]
[Expression 115]

... (148)
[1647]
In equation (148), s is cot θ (where θ is a motion).
[1648]
Further, instead of the spatial direction X, the approximate function f (y, t) focused on the spatial direction Y can be handled in the same manner as the above approximate function f (x, t).
[1649]
Thus, in the two-dimensional polynomial approximation method, for example, the data continuity detecting unit 101 in FIG. 219 (FIG. 3) has a plurality of detection elements (for example, the sensor in FIG. 239) each having a spatiotemporal integration effect. 2, the optical signal of the real world 1 (FIG. 219) is projected, and the steadiness of the optical signal of the real world 1 (for example, the slope G of FIG. 238)._FSteadiness of data in image data (for example, the input image in FIG. 219) composed of a plurality of pixels having a pixel value projected by the detection element 2-1, lacking a part of , Slope G in FIG._fIs detected).
[1650]
Then, for example, the real-world estimation unit 102 (configuration is FIG. 241) in FIG. 219 (FIG. 241) corresponds to the data continuity detected by the data continuity detection unit 101 in the spatio-temporal direction of the image data. Pixel value of the pixel corresponding to the position in at least the two-dimensional direction (for example, the spatial direction X and the spatial direction Y in FIGS. 238 and 239) (for example, the input pixel value P that is the left side of the above equation (131)) (x, y)) is a pixel value obtained by an integration effect in at least a two-dimensional direction (for example, the approximation function f (x , y) is an integrated value in the X and Y directions), an optical signal function F representing the optical signal of the real world 1 (specifically, the function F (x, y) in FIG. 238) is Approximation with an approximation function f that is a polynomial (for example, the approximation function f (x, y) represented by the equation (131)) Thus, the optical signal function F is estimated.
[1651]
Specifically, for example, the real world estimation unit 102 uses a line corresponding to the continuity of data detected by the data continuity detection unit 101 (for example, the slope G in FIG. 240)._fThe pixel value of the pixel corresponding to the distance (for example, the cross-sectional direction distance x ′ in FIG. 240) at least in the two-dimensional direction from the line (arrow) corresponding to is acquired by the integration effect in at least the two-dimensional direction. The first function is estimated by approximating the first function that represents the optical signal in the real world with the second function that is a polynomial, assuming that it is a pixel value.
[1652]
As described above, since the two-dimensional polynomial approximation method considers a two-dimensional integration effect instead of one-dimensional, it is possible to estimate the optical signal of the real world 1 more accurately than the one-dimensional polynomial approximation method. Is possible.
[1653]
Next, the third function approximation method will be described with reference to FIGS. 245 to 249.
[1654]
That is, in the third function approximation method, for example, an optical signal of the real world 1 having a continuity in a predetermined direction in the spatio-temporal direction is represented by an optical signal function F (x, y, t). Paying attention to this, the optical signal function F (x, y, t) is estimated by approximating the optical signal function F (x, y, t) with the approximate function f (x, y, t). is there. Therefore, hereinafter, the third function approximation method is referred to as a three-dimensional function approximation method.
[1655]
In the description of the three-dimensional function approximation method, the sensor 2 is a CCD configured by arranging a plurality of detection elements 2-1 on the plane as shown in FIG.
[1656]
In the example of FIG. 245, the direction parallel to the predetermined one side of the detection element 2-1 is the X direction which is one direction in the spatial direction, and the direction perpendicular to the X direction is the other direction in the spatial direction. A certain Y direction is assumed. The direction perpendicular to the XY plane is the t direction which is the time direction.
[1657]
In the example of FIG. 245, the spatial shape of each detection element 2-1 of the sensor 2 is a square with one side length of 1. The shutter time (exposure time) of the sensor 2 is 1.
[1658]
Furthermore, in the example of FIG. 245, the center of a predetermined one detection element 2-1 of the sensor 2 is the origin in the spatial direction (X direction and Y direction) (X direction position x = 0, and Y direction position y). = 0), and the intermediate time of the exposure time is the origin in the time direction (t direction) (position t = 0 in the t direction).
[1659]
In this case, the detection element 2-1 having its center at the origin (x = 0, y = 0) in the spatial direction has a range of −0.5 to 0.5 in the X direction, a range of −0.5 to 0.5 in the Y direction, and The optical signal function F (x, y, t) is integrated in the range of −0.5 to 0.5 in the t direction, and the integrated value is output as the pixel value P.
[1660]
That is, the pixel value P output from the detection element 2-1 having the center at the origin in the spatial direction is expressed by the following equation (149).
[1661]
[Formula 116]

... (149)
[1662]
Similarly, the other detection element 2-1 outputs the pixel value P represented by the equation (149) by setting the center of the target detection element 2-1 as the origin in the spatial direction.
[1663]
Incidentally, as described above, in the three-dimensional function approximation method, the optical signal function F (x, y, t) is approximated to the three-dimensional approximation function f (x, y, t).
[1664]
Specifically, for example, the approximate function f (x, y, t) is a function having N variables (features), and the input pixel value P (x, y, t) corresponding to the equation (149) is used. And an approximate function f (x, y, t). Accordingly, if M input pixel values P (x, y, t) larger than N are acquired, N variables (features) can be calculated from the defined relational expression. That is, the real world estimation unit 102 obtains M input pixel values P (x, y, t) and calculates N variables (features), thereby obtaining an optical signal function F (x, y, t) can be estimated.
[1665]
In this case, the real world estimation unit 102 binds the continuity of data included in the input image (input pixel value) from the sensor 2 (that is, the data continuity with respect to the input image output from the data continuity detection unit 101). Using the information), M input images P (x, y, t) are extracted (acquired) from the entire input image. As a result, the prediction function f (x, y, t) is constrained by the stationarity of the data.
[1666]
For example, as shown in FIG. 246, the optical signal function F (x, y, t) corresponding to the input image has a gradient G_FThe data continuity detecting unit 101 uses the angle θ (inclination G) as data continuity information for the input image._FTilt G corresponding to_fThe direction of the continuity of data represented by (not shown) and the angle θ formed by the X direction are output.
[1667]
In this case, a one-dimensional waveform obtained by projecting the optical signal function F (x, y, t) in the X direction (here, such a waveform is referred to as an X sectional waveform) is any position in the Y direction. It is assumed that the shape is the same even when projected by.
[1668]
That is, there is a two-dimensional waveform (in the spatial direction) in which X-shaped waveforms having the same shape are connected in a stationary direction (angle θ direction with respect to the X direction). A three-dimensional waveform connected in the direction t is approximated by an approximation function f (x, y, t).
[1669]
In other words, the X cross-sectional waveform shifted by the position y in the Y direction from the center of the pixel of interest has moved by a predetermined amount (amount that changes according to the angle θ) in the X cross section waveform passing through the center of the pixel of interest. (Shifted) waveform. Hereinafter, such an amount is referred to as a shift amount.
[1670]
This shift amount can be calculated as follows.
[1671]
That is, slope V_f(For example, the slope V in FIG. 246_FThe slope V that represents the direction of data continuity corresponding to_f) And the angle θ are expressed as the following equation (150).
[1672]
[Expression 117]

... (150)
[1673]
In Expression (150), dx represents the amount of minute movement in the X direction, and dy represents the amount of minute movement in the Y direction with respect to dx.
[1673]
Therefore, the shift amount in the X direction is C_xWhen (y) is described, it is expressed as the following equation (151).
[1675]
[Formula 118]

... (151)
[1676]
In this way, the shift amount C_xWhen (y) is defined, the relational expression between the input pixel value P (x, y, t) corresponding to the equation (149) and the approximate function f (x, y, t) is as shown in the following equation (152): expressed.
[1679]
[Formula 119]

... (152)
[1678]
In Expression (152), e represents an error. t_sRepresents the integration start position in the t direction, and t_eRepresents the integration end position in the t direction. Similarly, y_sRepresents the integration start position in the Y direction, and y_eRepresents the integration end position in the Y direction. X_sRepresents the integration start position in the X direction, and x_eRepresents the integration end position in the X direction. However, each specific integration range is as shown in the following equation (153).
[1679]
[Expression 120]

... (153)
[1680]
As shown by the equation (153), the integration range in the X direction for a pixel located at a distance (x, y) in the spatial direction from the target pixel is expressed as a shift amount C_xBy moving only (y), it is possible to express that the X-shaped waveform of the same shape is continuous in the stationary direction (angle θ direction with respect to the X direction).
[1681]
Thus, in the three-dimensional function approximation method, the relationship between the pixel value P (x, y, t) and the three-dimensional approximation function f (x, y, t) is expressed by the equation (152) (the integration range is expressed by the equation (153)), the N feature quantities of the approximate function f (x, y, t) can be expressed by, for example, the least square method using the expressions (152) and (153). By calculating, the optical signal function F (x, y, t) (for example, the slope V as shown in FIG. 246)_FIt is possible to estimate an optical signal having a continuity in the spatial direction represented.
[1682]
Note that the optical signal represented by the optical signal function F (x, y, t) has a slope V as shown in FIG._FThe optical signal function F (x, y, t) may be approximated as follows.
[1683]
That is, a one-dimensional waveform obtained by projecting the optical signal function F (x, y, t) in the Y direction (hereinafter, this waveform is referred to as a Y cross-sectional waveform) is projected at any position in the X direction. Even so, it is assumed that they have the same shape.
[1684]
In other words, there is a two-dimensional waveform (in the spatial direction) in which the Y-shaped waveform of the same shape is continuous in the stationary direction (angle θ direction with respect to the X direction). A three-dimensional waveform connected in the time direction t is approximated by an approximation function f (x, y, t).
[1686]
Therefore, the Y cross-sectional waveform shifted by x in the X direction from the center of the target pixel has moved by a predetermined shift amount (a shift amount that changes according to the angle θ) in the Y cross-section waveform passing through the center of the target pixel It becomes a waveform.
[1686]
This shift amount can be calculated as follows.
[1687]
That is, the slope G_FIs expressed as the above-described equation (150), the shift amount in the Y direction is expressed as C._yWhen (x) is described, it is expressed as the following equation (154).
[1688]
[Equation 121]

... (154)
[1688]
In this way, the shift amount C_yWhen (x) is defined, the relational expression between the input pixel value P (x, y, t) corresponding to the expression (149) and the approximate function f (x, y, t) is expressed by the shift amount C_xSimilarly to the case where (y) is defined, it is expressed by the above-described formula (152).
[1690]
However, this time, each of the specific integration ranges is as shown by the following equation (155).
[1691]
[Equation 122]

... (155)
[1692]
As shown in Expression (155) (and Expression (152) described above), the integration range in the Y direction for a pixel located at a distance (x, y) from the target pixel is expressed as a shift amount C._yBy moving only (x), it is possible to indicate that the Y-shaped waveform having the same shape is continuous in the stationary direction (angle θ direction with respect to the X direction).
[1693]
As described above, in the three-dimensional function approximation method, the integration range on the right side of the above-described equation (152) can be set not only to the equation (153) but also to the equation (155). By using the adopted formula (152), n feature quantities of the approximate function f (x, y, t) are calculated by, for example, the least square method, etc., so that the optical signal function F (x, y , t) (Slope G_FIt is possible to estimate a real world 1 optical signal having a spatial continuity represented by
[1694]
In this way, the expressions (153) and (155) representing the integration range are shifted in the X direction (in the case of the expression (153)) according to the stationary direction, or shifted in the Y direction. (In the case of formula (155)), and essentially represents the same thing.
[1695]
However, the direction of stationarity (slope G_F), Whether the optical signal function F (x, y, t) is regarded as a collection of X sectional waveforms or a collection of Y sectional waveforms is different. That is, when the stationary direction is close to the Y direction, it is preferable to regard the optical signal function F (x, y, t) as a collection of X cross-sectional waveforms. On the other hand, when the stationary direction is close to the X direction, it is preferable to regard the optical signal function F (x, y, t) as a collection of Y cross-sectional waveforms.
[1696]
Therefore, the real world estimation unit 102 prepares both the expressions (153) and (155) as the integration range, and appropriately sets the expression as the integration range on the right side of the expression (152) according to the direction of continuity. Either one of (153) and formula (155) may be selected.
[1697]
As described above, the optical signal function F (x, y, t) is stationary in the spatial direction (X direction and Y direction) (for example, the gradient G in FIG. 246)._FThe three-dimensional function method in the case of having a spatial direction stationarity represented by (3) is described. However, as shown in FIG. 247, the three-dimensional function method has an optical signal function F (x, y, t) as shown in FIG. Stationarity (slope V in space-time direction (X direction, Y direction, and t direction)_FIt can also be applied to the case of having a stationary property represented by
[1698]
That is, in FIG. 247, the optical signal function corresponding to the frame of frame number # N-1 is F (x, y, # N-1), and the optical signal function corresponding to the frame of frame number #N is F ( x, y, #N) and the optical signal function corresponding to the frame of frame number # N + 1 is F (x, y, # N + 1).
[1699]
In FIG. 247, in the figure, the horizontal direction is the X direction, which is one of the spatial directions, and the diagonally upper right direction is the Y direction, which is the other direction of the spatial direction, and is vertical. The direction is the t direction which is the time direction.
[1700]
Further, frame # N-1 is a frame temporally preceding frame #N, and frame # N + 1 is a frame temporally subsequent to frame #N. That is, frame # N-1, frame #N, and frame # N + 1 are displayed in the order of frame # N-1, frame #N, and frame # N + 1.
[1701]
In the example of FIG. 247, the slope V_FThe light level of the cross section along the direction indicated by (in the drawing, from the lower left front to the upper right back) is substantially constant. Therefore, in the example of FIG. 247, the optical signal function F (x, y, t) has a slope V_FIt can be said that it has continuity in the spatio-temporal direction expressed by
[1702]
In this case, the function C (x, y, t) representing the continuity in the spatio-temporal direction is defined, and using the defined function C (x, y, t), the above equation (152) If the integration range is defined, N feature quantities of the approximate function f (x, y, t) can be calculated in the same manner as the above-described expressions (153) and (155).
[1703]
The function C (x, y, t) is not particularly limited as long as it is a function representing the direction of stationarity. However, in the following, it is assumed that the stationarity is linear, and as a function C (x, y, t) corresponding thereto, the shift amount C which is a function representing the stationarity in the spatial direction described above._x(y) (Formula (151)) and shift amount C_yC corresponding to (x) (formula (153))_x(t) and C_ySuppose that (t) is defined as follows.
[1704]
That is, the gradient G representing the continuity of the data in the spatial direction described above._fThe slope of the continuity of the data in the spatio-temporal direction corresponding to_fThen this slope V_fX direction tilt (V_fxAnd the slope in the Y direction (hereinafter V_fyAnd the slope V_fxIs the slope V in the following equation (156)_fyAre represented by the following equations (157).
[1705]
[Formula 123]

... (156)
[1706]
[Expression 124]

... (157)
[1707]
In this case, the function C_x(t) is the slope V expressed by equation (156)._fxIs expressed as the following equation (158).
[1708]
[Expression 125]

... (158)
[1709]
Similarly, the function C_y(t) is the slope V expressed by equation (157)._fyIs expressed as the following equation (159).
[1710]
[Expression 126]

... (159)
[1711]
In this way, the function C representing the continuity 2511 in the spatio-temporal direction._x(t) and function C_yWhen (t) is defined, the integration range of the equation (152) is expressed as the following equation (160).
[1712]
[Expression 127]

... (160)
[1713]
Thus, in the three-dimensional function approximation method, the relationship between the pixel value P (x, y, t) and the three-dimensional approximation function f (x, y, t) can be expressed by the equation (152). By using the equation (160) as the integration range on the right side of the equation (152), the n + 1 feature quantities of the approximate function f (x, y, t) are calculated by, for example, the least square method or the like. It is possible to estimate the optical signal function F (x, y, t) (the real world 1 optical signal having stationarity in a predetermined direction in the spatio-temporal direction).
[1714]
FIG. 248 shows a configuration example of the real world estimation unit 102 using such a three-dimensional function approximation method.
[1715]
Note that the approximate function f (x, y, t) (actually the feature amount (coefficient) calculated by the real world estimation unit 102 using the three-dimensional function approximation method is not particularly limited) In the following description, it is assumed that the polynomial is n (n = N-1) order.
[1716]
As shown in FIG. 248, the real world estimation unit 102 includes a condition setting unit 2521, an input image storage unit 2522, an input pixel value acquisition unit 2523, an integral component calculation unit 2524, a normal equation generation unit 2525, and an approximate function generation. A portion 2526 is provided.
[1717]
The condition setting unit 2521 uses a pixel range (tap range) used to estimate the optical signal function F (x, y, t) corresponding to the target pixel, and the order of the approximate function f (x, y, t). Set n.
[1718]
The input image storage unit 2522 primarily stores an input image (pixel value) from the sensor 2.
[1719]
The input pixel value acquisition unit 2523 acquires an area of the input image corresponding to the tap range set by the condition setting unit 2521 among the input images stored in the input image storage unit 2522, and stores the acquired area in the input pixel value table. To the normal equation generation unit 2525. That is, the input pixel value table is a table in which each pixel value of each pixel included in the area of the input image is described.
[1720]
By the way, as described above, the real-world estimation unit 102 using the three-dimensional function approximation method performs the above-described equation (152) (however, the integration range is the equation (153), the equation (156), or the equation (160)). Is used to calculate N feature quantities (in this case, the respective coefficients) of the approximate function f (x, y) by the method of least squares.
[1721]
The right side of Expression (152) can be expressed as the following Expression (161) by calculating the integral.
[1722]
[Expression 128]

... (161)
[1723]
In formula (161), w_iRepresents the coefficient (feature) of the i-th term, and S_i(X_s, x_e, y_s, y_e, t_s, t_e) Represents the integral component of the i-th order term. Where x_sIs the start position of the integration range in the X direction, x_eIs the end position of the integration range in the X direction, y_sIs the start position of the integration range in the Y direction, y_eIs the end position of the integration range in the Y direction, t_sIs the start position of the integration range in the t direction, t_eRepresents the end position of the integration range in the t direction.
[1724]
The integral component calculation unit 2524 takes this integral component S_i(X_s, x_e, y_s, y_e, t_s, t_e) Is calculated.
[1725]
That is, the integral component calculation unit 2524 includes the tap range and order set by the condition setting unit 2521, and the angle or movement of the data continuity information output from the data continuity detection unit 101 (the integration range described above). Based on the equation (153) or (156), the angle, and if the above equation (160) is used, the integral component S_i(X_s, x_e, y_s, y_e, t_s, t_e) And the result of the calculation is supplied to the normal equation generation unit 2525 as an integral component table.
[1726]
The normal equation generation unit 2525 uses the input pixel value table supplied from the input pixel value acquisition unit 2523 and the integration component table supplied from the integration component calculation unit 2524 to convert the above equation (161) into the least square method. A normal equation for the above is generated, and is output to the approximate function generation unit 2526 as a normal equation table. Examples of normal equations will be described later.
[1727]
The approximate function generation unit 2526 solves the normal equation included in the normal equation table supplied from the normal equation generation unit 2525 by the matrix solution method, thereby obtaining the feature amount w._i(In this case, the coefficient w of the pixel value function f (x, y), which is a three-dimensional polynomial._iAre calculated and output to the image generation unit 103.
[1728]
Next, with reference to the flowchart in FIG. 249, the real world estimation process (the process in step S102 in FIG. 40) to which the three-dimensional function approximation method is applied will be described.
[1729]
First, in step S2501, the condition setting unit 2521 sets conditions (tap range and order).
[1730]
For example, assume that a tap range consisting of L pixels is set. Further, it is assumed that a predetermined number l (l is any integer value from 0 to L−1) is assigned to each pixel.
[1731]
Next, in step S2502, the condition setting unit 2521 sets a target pixel.
[1732]
In step S2503, the input pixel value acquisition unit 2523 acquires an input pixel value based on the condition (tap range) set by the condition setting unit 2521, and generates an input pixel value table. In this case, a table composed of L input pixel values P (x, y, t) is generated. Here, each of the L input pixel values P (x, y, t) is described as P (l) as a function of the pixel number l. That is, the input pixel value table is a table including L P (l).
[1733]
In step S2504, the integral component calculation unit 2524 is based on the conditions (tap range and order) set by the condition setting unit 2521 and the data continuity information (angle or motion) supplied from the data continuity detection unit 101. The integral component is calculated and an integral component table is generated.
[1734]
However, in this case, as described above, the input pixel value is acquired as the value of the pixel number l such as P (l) instead of P (x, y, t). , Integral component S of the above-described equation (161)_i(X_s, x_e, y_s, y_e, t_s, t_e), Integral component S_iIt is calculated as a function of l such as (l). That is, the integral component table has L × i S_iThe table contains (l).
[1735]
Note that the order of the processing of step S2503 and the processing of step S2504 is not limited to the example of FIG. 249, the processing of step S2504 may be executed first, or the processing of step S2503 and the processing of step S2504 are executed simultaneously. May be.
[1736]
Next, in step S2505, the normal equation generation unit 2525 includes the input pixel value table generated by the input pixel value acquisition unit 2523 in the process of step S2503, and the integration generated by the integration component calculation unit 2524 in the process of step S2504. A normal equation table is generated based on the component table.
[1737]
Specifically, in this case, the feature value w of the following equation (162) corresponding to the above-described equation (161) by the method of least squares._iIs calculated. Thus, the corresponding normal equation is expressed as the following equation (163).
[1738]
[Expression 129]

... (162)
[1737]
[Expression 130]

... (163)
[1740]
When each matrix of the normal equation represented by the equation (163) is defined as the following equations (164) to (166), the normal equation is represented as the following equation (167).
[1741]
[Equation 131]

... (164)
[1742]
[Expression 132]

... (165)
[1743]
[Formula 133]

... (166)
[1744]
[Formula 134]

... (167)
[1745]
As shown in equation (165), the matrix W_MATEach component is the feature value w_iIt is. Therefore, in equation (167), the left-side matrix S_MATAnd right-hand side matrix P_MATIs determined, the matrix W_MAT(That is, feature amount w_i) Can be calculated.
[1746]
Specifically, as shown in Expression (164), the matrix S_MATEach component of the integral component S described above_iIf (l) is known, computation is possible. Integral component S_iSince (l) is included in the integral component table supplied from the integral component calculation unit 2524, the normal equation generation unit 2525 uses the integral component table to generate the matrix S._MATEach component of can be calculated.
[1747]
Further, as shown in the equation (166), the matrix P_MATEach component of is an integral component S_iIf (l) and the input pixel value P (l) are known, calculation is possible. Integral component S_i(l) is the matrix S_MATSince the input pixel value P (l) is included in the input pixel value table supplied from the input pixel value acquisition unit 2523, the normal equation generation unit 2525 is a matrix P using the integral component table and the input pixel value table._MATEach component of can be calculated.
[1748]
In this way, the normal equation generation unit 2525 performs the matrix S_MATAnd matrix P_MATAre calculated, and the calculation result (matrix S_MATAnd matrix P_MATAre output to the approximate function generation unit 2526 as a normal equation table.
[1748]
Normal equation generator 2525When the normal equation table is output, in step S2506, the approximate function generation unit 2526, based on the normal equation table, calculates the matrix W of the above equation (167)._MATFeatures w which are each component of_i(Ie, the coefficient w of the approximation function f (x, y, t)_i) Is calculated.
[1750]
Specifically, the normal equation of the above-described equation (167) can be transformed as the following equation (168).
[1751]
[Expression 135]

... (168)
[1752]
In equation (168), the left side matrix W_MATEach component of is the feature value w_iIt is. Matrix S_MATAnd matrix P_MATThe respective components are included in the normal equation table supplied from the normal equation generation unit 2525. Therefore, the approximate function generation unit 2526 uses the normal equation table to perform the matrix operation on the right side of the equation (168), thereby generating the matrix W._MATAnd the result (feature value w_i) To the image generation unit 103.
[1753]
In step S2507, the approximate function generation unit 2526 determines whether or not processing for all pixels has been completed.
[1754]
If it is determined in step S2507 that all the pixels have not been processed yet, the process returns to step S2502, and the subsequent processing is repeated. That is, pixels that are not yet the target pixel are sequentially set as the target pixel, and the processes in steps S2502 to S2507 are repeated.
[1755]
When all pixels are processed (step S).25When it is determined in 07 that all the pixels have been processed), the real world 1 estimation process ends.
[1756]
As described above, since the three-dimensional function approximation method considers the three-dimensional integration effect in the spatio-temporal direction, not one-dimensional or two-dimensional, the one-dimensional polynomial approximation method or the two-dimensional polynomial approximation method is used. In comparison, the real world 1 optical signal can be estimated more accurately.
[1757]
In other words, in the three-dimensional function approximation method, for example, the real world estimation unit 102 (configuration is, for example, FIG. 248) of FIG. 219 (FIG. 3) has a plurality of detection elements of the sensor each having a spatiotemporal integration effect. The optical signal of the real world 1 is projected by (for example, the detection element 2-1 of the sensor 2 of FIG. 245), and the continuity of the optical signal of the real world 1 (for example, the slope G of FIG. 246)._FOr the slope V in FIG._FAt least one dimensional direction (for example, the spatial direction in FIG. 247) of the spatio-temporal direction of the input image composed of a plurality of pixels having pixel values projected by the detection element. The pixel value of the pixel (for example, the input pixel value P (x, y, z) on the left side of the equation (153)) corresponding to the position in X, the spatial direction Y, and the time direction t is a three-dimensional direction. , A pixel value obtained by at least one-dimensional direction integration effect (for example, as shown in the right side of the above equation (153), the approximate function f (x, y, t) is expressed in the X direction, Y direction, and t The optical signal function F representing the real-world optical signal (specifically, for example, the optical signal function F (x, y, t) in FIGS. 246 and 247). ) Is approximated by a predetermined approximation function f (specifically, for example, the approximation function f (x, y, t) on the right side of the equation (152)). Thus, the optical signal function F is estimated.
[1758]
Further, for example, when the data continuity detecting unit 101 in FIG. 219 (FIG. 3) detects the continuity of the data of the input image, the real world estimating unit 102 may detect the data detected by the data continuity detecting unit 101. Corresponding to the stationarity, it is assumed that the pixel value of the pixel corresponding to the position in at least one-dimensional direction in the spatio-temporal direction of the image data is the pixel value acquired by the integration effect in at least one-dimensional direction The optical signal function F is estimated by approximating F with the approximate function f.
[1759]
Specifically, for example, the real world estimation unit 102, for example, a distance (for example, the equation (151) described above) from at least a one-dimensional direction from a line corresponding to the continuity of the data detected by the continuity detection unit 101. The pixel value of the pixel corresponding to the shift amount Cx (y)) is at least the pixel value acquired by the integration effect in the one-dimensional direction (for example, in the integration range shown by the above-described equation (153), the expression (152 ), The approximate function f (x, y, t) is a value integrated in three dimensions in the X direction, Y direction, and t direction). The optical signal function is estimated by approximation.
[1760]
Therefore, the three-dimensional function approximation method can estimate the real world 1 optical signal more accurately.
[1761]
Next, referring to FIG. 250 to FIG. 259, another example of an extraction method for extracting data 162 when the real world estimation unit 102 approximates a real world 1 signal having continuity with a model 161. explain.
[1762]
In the following example, each pixel is weighted according to the importance of each pixel, and each pixel value of each pixel is extracted. The extracted value is used as data 162 (FIG. 7), and the real world 1 signal is approximated by the model 161 (FIG. 7).
[1763]
Specifically, for example, it is assumed that an input image 2701 as shown in FIG. 250 is input to the real world estimation unit 102 (FIG. 3) as an input image from the sensor 2 (FIG. 1).
[1764]
In FIG. 250, the horizontal direction in the figure is the X direction, which is one direction in the spatial direction, and the vertical direction in the figure is the Y direction, which is the other direction in the spatial direction.
[1765]
The input image 2701 has a pixel width (vertical width and horizontal width) L_C7 × 16 pixels (squares in the figure), each of which has a pixel value (expressed by hatching in the figure, but is actually data having one value).
[1766]
The target pixel is a pixel having a pixel value 2701-1 (hereinafter, a pixel having a pixel value 2701-1 is referred to as a target pixel 2701-1), and the direction of continuity of data in the target pixel 2701-1 Is the slope G_fIt is represented by
[1767]
FIG. 251 represents the difference between the level of the optical signal of the real world 1 at the center of the pixel of interest 2701-1 and the level of the optical signal of the real world 1 at the cross-sectional direction distance x ′ (hereinafter referred to as level difference). . That is, the horizontal axis in the drawing represents the cross-sectional direction distance x ′, and the vertical axis in the drawing represents the level difference. The horizontal axis in the figure is the pixel width L_cIs attached as a length of 1.
[1768]
Here, the cross-sectional direction distance x ′ will be described with reference to FIGS. 252 and 253.
[1769]
FIG. 252 represents a 5 × 5 pixel block centered on the target pixel 2701-1 in the input image 2701 of FIG. 250. Also in FIG. 252, as in FIG. 250, the horizontal direction in the figure is the X direction, which is one direction in the spatial direction, and the vertical direction in the figure is the Y direction, which is the other direction in the spatial direction.
[1770]
At this time, for example, the center of the pixel of interest 2701-1 is the origin (0, 0) in the spatial direction, passes through the origin, and the direction of data continuity (in the example of FIG. 252, the gradient G_fIf a straight line parallel to the data continuity direction is drawn, the relative distance in the X direction with respect to the straight line is referred to as a cross-sectional direction distance x ′. In the example of FIG. 252, the cross-sectional direction distance x ′ at the center point of the pixel 2701-2 separated by two pixels in the Y direction from the target pixel 2701-1 is shown.
[1771]
FIG. 253 is a diagram illustrating the cross-sectional direction distance of each pixel in the block illustrated in FIG. 252 in the input image 2701 in FIG. 250. That is, in FIG. 253, the value described in each pixel (5 × 5 = 25 squares in the figure) of the input image 2701 is the cross-sectional direction distance of the corresponding pixel. For example, the cross-sectional direction distance x ′ of the pixel 2701-2 is −2β.
[1772]
However, as described above, each pixel width L_cIs 1 in both the X and Y directions. The positive direction of the X direction is the right direction in the figure. Further, β represents the distance in the cross-sectional direction of the pixel 2701-3 adjacent to the target pixel 2701-1 in the Y direction (one lower in the figure). This β is an angle θ as shown in FIG._fWhen the data continuity direction and the angle θ formed by the X direction are output as data continuity information from the data continuity detection unit 101, the following equation (169) is used to simplify the process. It is possible to calculate.
[1773]
β = 1 / tan θ (169)
[1774]
Returning to FIG. 251, since it is difficult to draw the actual level difference, in the example of FIG. 251, an image (not shown) having a higher resolution than the input image 2701 corresponding to the input image 2701 of FIG. A pixel value of a pixel (a pixel of a high-resolution image) that is generated in advance and is positioned at the approximate center of the pixel of interest 2701-1 of the input image 2701 among the pixels of the high-resolution image and a horizontal value in the spatial direction X A difference between each pixel value (a pixel of a high-resolution image) located on a straight line passing through the center of the target pixel 2701-1 of the input image 2701 is plotted as a level difference. .
[1775]
In FIG. 251, as indicated by the plotted level difference, the cross-sectional direction distance x ′ falls within the range of approximately −0.5 to approximately 1.5, and the gradient G_fThere is a region having the continuity of data represented by (hereinafter, such a region is referred to as a steady region in the description of weighting).
[1777]
Accordingly, the probability of including a steady region increases as the cross-sectional distance x ′ is smaller (the pixel of the input image 2701). That is, the pixel value of the pixel having a small cross-sectional direction distance x ′ (the pixel of the input image 2701) is data 162 used when the real world estimation unit 102 approximates the real world 1 signal having continuity with the model 161. It can be said that importance is high.
[1777]
On the other hand, the probability of including the steady region is lower as the cross-sectional direction distance x ′ is larger (the pixel of the input image 2701). That is, a pixel having a large cross-sectional direction distance x ′ (a pixel of the input image 2701) has importance as data 162 used when the real world estimation unit 102 approximates a real world 1 signal having continuity with the model 161. Is low.
[1778]
The above relationship of importance applies not only to the input image 2701 but also to all of the input images from the sensor 2 (FIG. 1).
[1777]
Therefore, when the real world estimation unit 102 approximates the signal of the real world 1 having continuity with the model 161, the distance in the cross-sectional direction for each pixel value of each pixel (pixel of the input image from the sensor 2). Extraction is performed by weighting according to x ′, and the extracted value (weighted pixel value) can be used as data 162. That is, when the pixel value of the input image is extracted as the data 162, as shown in FIG. 251, as the cross-sectional direction distance x ′ increases, the weight is reduced and the pixel value is extracted.
[1780]
Further, as shown in FIG. 254, the real world estimation unit 102, when approximating the signal of the real world 1 having continuity with the model 161, is each pixel (the pixel of the input image from the sensor 2, In the example of H.254, for each pixel value of the input image 2701), the gradient G from the target pixel 2701-1 is determined in accordance with the spatial correlation._fAnd the extracted value (weighted pixel value) can be used as the data 162. That is, when the pixel value of the input image is extracted as the data 162, as the spatial correlation becomes smaller as shown in FIG._fThe larger the distance in the direction of continuity represented by (2) is, the smaller the weight is, and the pixel value is extracted. Note that FIG. 254 shows the same input image 2701 as FIG.
[1781]
Only one of the two weightings described above (the weighting shown in FIG. 251 and the weighting shown in FIG. 254) may be used, or both may be used simultaneously. When both are used at the same time, the weight calculation method to be finally used is not particularly limited. For example, the product of both weights may be used as the final weight, or the gradient G with respect to the weight determined by the weighting shown in FIG._fThe weights corrected according to the distance in the continuity direction of the data represented by (for example, the weight that decreases by a predetermined value each time the distance in the continuity direction of the data increases by 1) is used. Also good.
[1782]
The real world estimation unit 102 extracts each pixel value of each pixel using the weight determined in this manner, and uses the weighted pixel value as the data 162, so that the real world 1 signal is used. A close model 161 can be generated.
[1783]
Specifically, for example, as described above, the real world estimation unit 102 performs S_MATW_MAT= P_MAT(Ie, by the least square method), the feature quantity of the approximate function that is the model 161 (ie, the matrix W_MATThe signal of the real world 1 can also be estimated.
[1784]
In this case, the weight of each pixel of the input image whose pixel number is l (l is any integer value from 1 to M) is v_lWhen the real world estimation unit 102 describes, the matrix S_MATAs a matrix represented by the following equation (170) and a matrix P_MATThe matrix shown by the following formula (171) can be used as:
[1785]
[Formula 136]

... (170)
[1786]
[Expression 137]

... (171)
[1787]
As described above, the real world estimation unit 102 using the least square method, such as the function approximation method (FIG. 219) described above, calculates a matrix including weights (that is, the above equation (170) and the above equation (171)). By using the matrix S_MATUsing the matrix shown in equation (13) above, and the matrix P_MATAs compared with the case where the matrix expressed by the above-described equation (15) is used, it is possible to calculate the feature quantity of the approximate function closer to the real world 1 signal.
[1788]
That is, the real world estimation unit 102 using the least squares method further executes the above-described weighting process (as a matrix used in a normal equation, as shown in Expression (170) or Expression (171), Weight v_lThe feature quantity of the approximate function closer to the real world 1 signal can be calculated without changing its configuration.
[1789]
Specifically, for example, in FIG. 255, the real world estimation unit 102 uses the weight v as a matrix of normal equations._lAn approximate function is generated (for example, the feature amount of the approximate function is calculated) using a matrix that does not include (for example, Equations (13) and (15) described above), and the image generation unit 103 (FIG. 3) The example of the image produced | generated by reintegrating an approximate function is represented.
[1790]
On the other hand, in FIG. 256, the real world estimation unit 102 uses the weight v as a matrix of normal equations._lAn approximate function is generated (for example, the feature amount of the approximate function is calculated) using a matrix including the above (for example, the above formulas (170) and (171)), and the image generation unit 103 reintegrates the approximate function. An example of an image generated by doing this (an image corresponding to FIG. 255) is shown.
[1791]
When comparing the image of FIG. 255 and the image of FIG. 256, for example, both the image region 2711 of FIG. 255 and the image region 2712 of FIG. 256 represent a part (the same part) of the tip of the fork.
[1792]
In the image region 2711 in FIG. 255, a plurality of discontinuous lines are displayed so as to overlap each other. However, in the image region 2712 in FIG.
[1793]
Considering that the tips of the forks are actually formed continuously (visible to the human eye as one continuous line), the image region 2712 in FIG. 256 is more image region 2711 in FIG. 255. It can be said that the signal of the real world 1, that is, the image of the tip of the fork is reproduced more faithfully.
[1794]
FIG. 257 shows that the real world estimation unit 102 uses the weight v as a matrix of normal equations._lAn approximate function is generated (for example, the feature amount of the approximate function is calculated) using a matrix that does not include (for example, Equations (13) and (15) described above), and the image generation unit 103 regenerates the approximate function. The other example (The example different from the image of FIG. 255) of the image produced | generated by integrating is represented.
[1795]
On the other hand, in FIG. 258, the real world estimation unit 102 uses the weight v as a matrix of normal equations._lAn approximate function is generated (for example, the feature amount of the approximate function is calculated) using a matrix including the above (for example, the above formulas (170) and (171)), and the image generation unit 103 reintegrates the approximate function. This shows another example of an image generated by doing this (an example corresponding to FIG. 257 and different from the image of FIG. 256).
[1796]
When comparing the image in FIG. 257 with the image in FIG. 258, for example, both the image region 2713 in FIG. 257 and the image region 2714 in FIG. 258 represent a part (the same part) of the beam.
[1797]
In the image region 2713 in FIG. 257, a plurality of discontinuous lines are displayed so as to overlap each other, but in the image region 2714 in FIG. 258, almost one continuous line is displayed.
[1798]
Considering that the beams are actually formed continuously (visible to the human eye as one continuous line), the image area 2714 in FIG. 258 is compared to the image area 2713 in FIG. 257. Thus, it can be said that the signal of the real world 1, that is, the beam image is reproduced more faithfully.
[1799]
According to the above, a real-world optical signal is projected by a plurality of detection elements of the sensor, each having a spatio-temporal integration effect, and a part of the steadiness of the real-world optical signal is lost, and is projected by a detection element Detecting the continuity of the data in the image data composed of a plurality of pixels having pixel values, and corresponding to the detected continuity of the data, at least one-dimensional direction of the spatio-temporal direction from the target pixel in the image data A weight is assigned to each pixel in the image data according to the distance, and a pixel value to which a pixel weight corresponding to a position in at least a one-dimensional direction in the image data is assigned is at least one-dimensional. The first function is estimated by approximating the first function representing the optical signal in the real world with a second function that is a polynomial, assuming that the pixel value is obtained by the direction integration effect. Because it was Unishi, an image can be more faithfully express.
[1800]
Next, an example of an embodiment of the image generation unit 103 (FIG. 3) will be described with reference to FIGS. 259 to 280.
[1801]
FIG. 259 is a diagram for explaining the principle of this embodiment.
[1802]
As shown in FIG. 259, in the embodiment of this example, it is assumed that the real world estimation unit 102 uses a function approximation method. That is, assuming that a signal of the real world 1 (light intensity distribution) that is an image incident on the sensor 2 is represented by a predetermined function F, the real world estimation unit 102 receives an input output from the sensor 2. It is assumed that the function F is estimated by approximating the function F by a predetermined function f using the image (pixel value P) and the data continuity information output from the data continuity detecting unit 101. ing.
[1803]
In the following description of the embodiment of this example, the real world 1 signal, which is an image, is particularly referred to as an optical signal, and the function F is particularly referred to as an optical signal function F. The function f is particularly referred to as an approximate function f.
[1804]
Therefore, in the embodiment of this example, the image generation unit 103 outputs the data continuity information output from the data continuity detection unit 101 and the real world estimation unit 102 based on such a premise. Using the real world estimation information (in the example of FIG. 259, the feature amount of the approximate function f), the approximate function f is integrated in a predetermined space-time range, and the integrated value is output as an output pixel value M (output image). To do. In the embodiment of this example, the input pixel value is described as P and the output pixel value is described as M in order to distinguish the pixel of the input image from the pixel of the output image.
[1805]
In other words, the optical signal function F is integrated once to become the input pixel value P, and the optical signal function F is estimated from the input pixel value P (approximated by the approximate function f), and the estimated optical signal function F (ie, , The approximate function f) is integrated again to generate the output pixel value M. Therefore, hereinafter, the integration of the approximate function f executed by the image generation unit 103 is referred to as reintegration. The embodiment of this example is referred to as a reintegration method.
[1806]
As will be described later, in the reintegration method, the integration range of the approximate function f when the output pixel value M is generated is the integration range of the optical signal function F when the input pixel value P is generated (that is, It is not limited to the vertical width and horizontal width of the detection element of the sensor 2 in the spatial direction, and is the exposure time of the sensor 2 in the time direction), and an arbitrary integration range is possible.
[1807]
For example, when the output pixel value M is generated, it is possible to change the pixel pitch of the output image according to the integration range by changing the integration range in the spatial direction of the integration range of the approximate function f. Become. That is, spatial resolution can be created.
[1808]
Similarly, for example, when the output pixel value M is generated, temporal resolution can be created by changing the integration range in the time direction of the integration range of the approximate function f.
[1809]
In the following, with reference to the drawings, three specific methods of such reintegration methods will be individually described.
[1810]
That is, the three specific methods are reintegration methods corresponding to the three specific methods of the function approximation method (the three specific examples described above in the embodiment of the real world estimation unit 102). is there.
[1811]
Specifically, the first method is a reintegration method corresponding to the above-described one-dimensional polynomial approximation method (one method of the function approximation method). Accordingly, since the first method performs one-dimensional reintegration, such a reintegration method is hereinafter referred to as a one-dimensional reintegration method.
[1812]
The second method is a reintegration method corresponding to the two-dimensional polynomial approximation method (one method of the function approximation method) described above. Accordingly, since the second method performs two-dimensional reintegration, such a reintegration method is hereinafter referred to as a two-dimensional reintegration method.
[1813]
The third method is a reintegration method corresponding to the above-described three-dimensional function approximation method (one method of function approximation methods). Therefore, since the third method performs three-dimensional reintegration, such a reintegration method is hereinafter referred to as a three-dimensional reintegration method.
[1814]
Hereinafter, the details of each of the one-dimensional reintegration method, the two-dimensional reintegration method, and the three-dimensional reintegration method will be described in that order.
[1815]
First, the one-dimensional reintegration method will be described.
[1816]
In the one-dimensional reintegration method, it is assumed that the approximate function f (x) has already been generated by the one-dimensional polynomial approximation method.
[1817]
That is, the optical signal function F (x, y, t) with the positions x, y, and z in the three-dimensional space and the time t as variables is expressed as the X direction, the Y direction, and the Z direction, which are spatial directions. In addition, a one-dimensional waveform projected in a predetermined one direction (for example, the X direction) in the t direction which is the time direction (in the description of the reintegration method, a waveform projected in the X direction out of such waveforms is also used. X cross-sectional waveform F (x)) is assumed to be approximated by an approximate function f (x) which is an n-order (n is an arbitrary integer) polynomial.
[1818]
In this case, in the one-dimensional reintegration method, the output pixel value M is calculated as in the following equation (172).
[1819]
[Formula 138]

... (172)
[1820]
In formula (172), x_sRepresents the integration start position and x_eRepresents the integration end position. G_eRepresents a predetermined gain.
[1821]
Specifically, for example, the real world estimation unit 102 now shows a pixel 3101 (a pixel 3101 corresponding to a predetermined one detection element of the sensor 2) as shown in FIG. It is assumed that the approximate function f (x) (approximate function f (x) of the X sectional waveform F (x)) has already been generated.
[1822]
In the example of FIG. 260, the pixel value (input pixel value) of the pixel 3101 is P, and the shape of the pixel 3101 is a square with one side length. Of the spatial directions, the direction parallel to one side of the pixel 3101 (horizontal direction in the figure) is the X direction, and the direction perpendicular to the X direction (vertical direction in the figure) is the Y direction.
[1823]
Also, on the lower side of FIG. 260, a coordinate system (hereinafter referred to as a pixel-of-interest coordinate system) in a spatial direction (X direction and Y direction) in which the center of the pixel 3101 is the origin and a pixel 3101 in the coordinate system are shown. Has been.
[1824]
Further, a graph of the approximate function f (x) at y = 0 (y is the coordinate value in the Y direction of the target pixel coordinate system shown on the lower side in the figure) is shown in the upper part of FIG. . In this graph, the axis parallel to the horizontal direction in the figure is the same axis as the x axis in the X direction of the pixel coordinate system of interest shown in the lower part of the figure (the origin is also the same), and vertical in the figure An axis parallel to the direction is an axis representing a pixel value.
[1825]
In this case, the relationship of the following formula (173) is established between the approximate function f (x) and the pixel value P of the pixel 3101.
[1826]
[Formula 139]

... (173)
[1827]
Further, as shown in FIG. 260, the pixel 3101 has a gradient G_fIt is assumed that the data in the spatial direction represented by The data continuity detecting unit 101 (FIG. 259)_fSuppose that an angle θ as shown in FIG. 260 has already been output as data continuity information corresponding to the continuity of the data represented by.
[1828]
In this case, for example, in the one-dimensional reintegration method, as shown in FIG. 261, a range of −0.5 to 0.5 in the X direction and a range of −0.5 to 0.5 in the Y direction ( In the range where the pixel 3101 in FIG. 260 is located), four pixels 3111 to 3114 can be newly created.
[1829]
Note that the attention pixel coordinate system same as that in FIG. 260 and the pixels 3111 to 3114 in the attention pixel coordinate system are shown on the lower side of FIG. Further, the same graph as that of FIG. 260 (a graph of the approximate function f (x) at y = 0) is shown on the upper side of FIG.
[1830]
Specifically, as shown in FIG. 261, in the one-dimensional reintegration method, the pixel value M (1) of the pixel 3111 is calculated by the following equation (174), and the pixel 3112 is calculated by the following equation (175). The pixel value M (2) of the pixel 3113 is calculated using the following equation (176), and the pixel value M (4) of the pixel 3114 is calculated using the following equation (177). , Each is possible.
[1831]
[Formula 140]

... (174)
[1832]
[Formula 141]

... (175)
[1833]
[Expression 142]

... (176)
[1834]
[Expression 143]

... (177)
[1835]
Note that x in equation (174)_s1, X in equation (175)_s2, X in equation (176)_s3, And x in formula (177)_s4Represents the integration start position of the corresponding expression. Also, x in the equation (174)_e1, X in equation (175)_e2, X in equation (176)_e3, And x in formula (177)_e4Represents the integration end position of the corresponding expression.
[1836]
The integration range on the right side of each of the equations (174) to (177) is the pixel width (the length in the X direction) of each of the pixels 3111 to 3114. That is, x_e1-x_s1, x_e2-x_s2, x_e3-x_s3, x_e4-x_s4Each will be 0.5.
[1837]
However, in this case, the one-dimensional waveform having the same shape as the approximate function f (x) at y = 0 is not in the Y direction, but the gradient G_f(In fact, the direction of the angle θ direction) (actually, the waveform having the same shape as the X-section waveform F (x) at y = 0 is the direction of continuity) Connected to). That is, when the pixel value f (0) at the origin (0,0) (center of the pixel 3101 in FIG. 260) in the target pixel coordinate system in FIG. 261 is the pixel value f1, the direction in which the pixel value f1 continues is the Y direction. Not G_fIs the direction of continuity of the data represented by (angle θ direction).
[1838]
In other words, when considering the waveform of the approximate function f (x) at a predetermined position y in the Y direction (where y is a numerical value other than 0), the position where the pixel value f1 is not the position (0, y) , A predetermined amount in the X direction from the position (0, y) (again, this amount is referred to as a shift amount. Since the shift amount depends on the position y in the Y direction, This shift amount is C_x(y) will be moved by the position (C_x(y), y).
[1839]
Accordingly, the center of the pixel value M (l) to be obtained (where l is any integer value from 1 to 4) as the integration range on the right side of each of the above-described equations (174) to (177). A range in consideration of the position y in the Y direction in which there is a shift, that is, the shift amount C_xIt is necessary to set the integration range considering (y).
[1840]
Specifically, for example, the position y in the Y direction where the centers of the pixel 3111 and the pixel 3112 exist is not y = 0 but y = 0.25.
[1841]
Therefore, the waveform of the approximate function f (x) at y = 0.25 is the shift amount C in the X direction from the waveform of the approximate function f (x) at y = 0._xCorresponds to the waveform moved by (0.25).
[1842]
In other words, in the above-described formula (174), the pixel value M (1) for the pixel 3111 has an approximate function f (x) at y = 0 in a predetermined integration range (start position x_s1To end position x_e1The integration range is the start position x._s1= -0.5 to end position x_e1= 0 (the range itself occupied by the pixel 3111 in the X direction), not the range shown in FIG. 261, that is, the start position x_s1= -0.5 + C_xEnd position x from (0.25)_e1= 0 + C_x(0.25) (shift amount C_x(A range occupied by the pixel 3111 in the X direction when the pixel 3111 is temporarily moved by (0.25)).
[1843]
Similarly, in the above-described equation (175), the pixel value M (2) for the pixel 3112 has an approximate function f (x) at y = 0 within a predetermined integration range (start position x_s2To end position x_e2The integration range is the start position x._s2= 0 to end position x_e2= The range up to 0.5 (the range itself occupied by the pixel 3112 in the X direction), but the range shown in FIG. 261, that is, the start position x_s2= 0 + C_xEnd position x from (0.25)_{e 2}= 0.5 + C_x(0.25) (shift amount C_x(The range occupied in the X direction of the pixel 3112 when the pixel 3112 is temporarily moved by (0.25)).
[1844]
Further, for example, the position y in the Y direction where the centers of the pixel 3113 and the pixel 3114 exist is not y = 0 but y = −0.25.
[1845]
Therefore, the waveform of the approximate function f (x) at y = −0.25 is the shift amount C in the X direction from the waveform of the approximate function f (x) at y = 0._xCorresponds to the waveform moved by (-0.25).
[1846]
In other words, in the above-described equation (176), the pixel value M (3) for the pixel 3113 has an approximate function f (x) at y = 0 within a predetermined integration range (start position x_s3To end position x_e3The integration range is the start position x._s3= -0.5 to end position x_e3= 0, not the range up to 0 (the range itself occupied by the pixel 3113 in the X direction), that is, the range shown in FIG._s3= -0.5 + C_xEnd position x from (-0.25)_e3= 0 + C_x(-0.25) (shift amount C_x(A range occupied by the pixel 3113 in the X direction when the pixel 3113 is temporarily moved by (−0.25)).
[1847]
Similarly, in the above-described formula (177), the pixel value M (4) for the pixel 3114 has an approximate function f (x) at y = 0 in a predetermined integration range (start position x_s4To end position x_e4The integration range is the start position x._s4= 0 to end position x_e4= 0.5 (the range occupied by the pixel 3114 in the X direction itself), not the range shown in FIG. 261, that is, the start position x_s4= 0 + C_xEnd position x from (-0.25)_{e 4}= 0.5 + C_x(-0.25) (shift amount C_x(The range occupied in the X direction of the pixel 3114 when the pixel 3114 is temporarily moved by (−0.25)).
[1848]
Therefore, the image generation unit 102 (FIG. 259) calculates each of the above-described equations (174) to (177) by substituting the corresponding one of the integration ranges described above, and calculates the calculation results. The output pixel values M (1) to M (4) are output.
[1849]
As described above, the image generation unit 102 uses the one-dimensional reintegration method, and thus has a higher spatial resolution than the output pixel 3101 as the pixel in the output pixel 3101 (FIG. 260) from the sensor 2 (FIG. 259). Two pixels, namely pixels 3111 to 3114 (FIG. 261) can be created. Furthermore, although not illustrated, as described above, the image generation unit 102 changes not only the pixels 3111 to 3114 but also the pixels having an arbitrary magnification with respect to the output pixel 3101 by appropriately changing the integration range. You can create without deterioration.
[1850]
FIG. 262 shows a configuration example of the image generation unit 103 using such a one-dimensional reintegration method.
[1851]
As shown in FIG. 262, the image generation unit 103 in this example includes a condition setting unit 3121, a feature amount storage unit 3122, an integral component calculation unit 3123, and an output pixel value calculation unit 3124.
[1852]
The condition setting unit 3121 sets the order n of the approximate function f (x) based on the real world estimation information supplied from the real world estimation unit 102 (in the example of FIG. 262, the feature amount of the approximate function f (x)). To do.
[1853]
The condition setting unit 3121 also sets an integration range when the approximate function f (x) is reintegrated (when the output pixel value is calculated). Note that the integration range set by the condition setting unit 3121 does not have to be the pixel width. For example, since the approximate function f (x) is integrated in the spatial direction (X direction), the output pixel (image generation unit 103) with respect to the spatial size of each pixel of the input image from the sensor 2 (FIG. 259). If the relative size (the spatial resolution magnification) of the pixel to be calculated is known, a specific integration range can be determined. Therefore, the condition setting unit 3121 can set, for example, a spatial resolution magnification as the integration range.
[1854]
The feature quantity storage unit 3122 temporarily stores the feature quantities of the approximate function f (x) sequentially supplied from the real world estimation unit 102. When the feature amount storage unit 3122 stores all of the feature amounts of the approximate function f (x), the feature amount storage unit 3122 generates a feature amount table including all of the feature amounts of the approximate function f (x), and outputs it to the output pixel value calculation unit 3124. Supply.
[1855]
Incidentally, as described above, the image generation unit 103 calculates the output pixel value M using the above-described equation (172), and the approximation function f (x) included in the right side of the above-described equation (172) is Specifically, it is expressed as the following equation (178).
[1856]
[Expression 144]

... (178)
[1857]
In formula (178), w_iRepresents the feature quantity of the approximate function f (x) supplied from the real world estimation unit 102.
[1858]
Therefore, when the approximation function f (x) of the equation (178) is substituted for the approximation function f (x) on the right side of the above equation (172) and the right side of the equation (172) is expanded (calculated), an output pixel is obtained. The value M is expressed as the following equation (179).
[1859]
[Expression 145]

... (179)
[1860]
In formula (179), K_i(X_s, x_e) Represents the integral component of the i-th order term. That is, the integral component K_i(X_s, x_e) Is as shown by the following equation (180).
[1861]
146

... (180)
[1862]
The integral component calculation unit 3123 is configured to output the integral component K_i(X_s, x_e) Is calculated.
[1863]
Specifically, as shown by the equation (180), the integral component K_i(X_s, x_e) Is the start position of the integration range x_s, And end position x_e, Gain G_eAs long as i of the i-th term is known, the calculation is possible.
[1864]
Of these, gain G_eIs determined by the spatial resolution magnification (integration range) set by the condition setting unit 3121.
[1865]
The range of i is determined by the order n set by the condition setting unit 3121.
[1866]
Also, start position x of integration range_s, And end position x_eEach of which is the center pixel position (x, y) and pixel width of the output pixel to be generated, and the shift amount C indicating the direction of data continuity_xdetermined by (y). Note that (x, y) represents a relative position from the center position of the target pixel when the real world estimation unit 102 generates the approximate function f (x).
[1867]
Further, the center pixel position (x, y) and the pixel width of the output pixel to be generated are determined by the spatial resolution magnification (integration range) set by the condition setting unit 3121.
[1868]
Shift amount C_xSince the relationship (y) and the angle θ supplied from the data continuity detecting unit 101 have the following relations (181) and (182), the shift amount C_x(y) is determined by the angle θ.
[1869]
[Expression 147]

... (181)
[1870]
[Formula 148]

... (182)
[1871]
In formula (181), G_fRepresents an inclination representing the direction of data continuity, and θ represents an angle (one direction in the spatial direction) which is one of data continuity information output from the data continuity detection unit 101 (FIG. 259). X direction and slope G_fThe angle formed with the direction of the stationarity of the data represented by Further, dx represents a minute movement amount in the X direction, and dy represents a minute movement amount in the Y direction (a spatial direction perpendicular to the X direction) with respect to dx.
[1872]
Accordingly, the integral component calculation unit 3123 is based on the order and the spatial resolution magnification (integration range) set by the condition setting unit 3121 and the angle θ among the data continuity information output from the data continuity detection unit 101. Integral component K_i(X_s, x_e) And the result of the calculation is supplied to the output pixel value calculation unit 3124 as an integral component table.
[1873]
The output pixel value calculation unit 3124 calculates the right side of the above-described equation (179) using the feature amount table supplied from the feature amount storage unit 3122 and the integration component table supplied from the integration component calculation unit 3123. The calculation result is output to the outside as an output pixel value M.
[1874]
Next, image generation processing (processing in step S103 in FIG. 40) of the image generation unit 103 (FIG. 262) using the one-dimensional reintegration method will be described with reference to the flowchart in FIG. 263.
[1875]
For example, now, in the process of step S102 of FIG. 40 described above, the real world estimation unit 102 uses the pixel 3101 as shown in FIG. 260 described above as the target pixel, and the approximation function f (x ) Has already been generated.
[1876]
Further, it is assumed that the data continuity detecting unit 101 has already output the angle θ as shown in FIG. 260 as the data continuity information in the process of step S101 of FIG. 40 described above.
[1877]
In this case, in step S3101 of FIG. 263, the condition setting unit 3121 sets conditions (order and integration range).
[1878]
For example, suppose that 5 is set as the order and space quadruple density (spatial resolution magnification at which the pixel pitch width is halved both vertically and horizontally) is set as the integration range.
[1879]
That is, in this case, as shown in FIG. 261, a range of −0.5 to 0.5 in the X direction and a range of −0.5 to 0.5 in the Y direction (range of the pixel 3101 in FIG. 260). In addition, it is set to newly create four pixels 3111 to 3114.
[1880]
In step S3102, the feature amount storage unit 3122 acquires the feature amount of the approximate function f (x) supplied from the real world estimation unit 102, and generates a feature amount table. In this case, the coefficient w of the approximate function f (x) which is a fifth order polynomial₀Thru w_FiveIs supplied from the real world estimation unit 102, so that (w₀, w₁, w₂, w_Three, w_Four, w_Five) Is generated.
[1881]
In step S 3103, the integral component calculation unit 3123 performs integration based on the conditions (order and integration range) set by the condition setting unit 3121 and the data continuity information (angle θ) supplied from the data continuity detection unit 101. Calculate components and generate an integral component table.
[1882]
Specifically, for example, if each of the pixels 3111 to 3114 to be generated is assigned numbers (such numbers are hereinafter referred to as mode numbers) 1 to 4, integration is performed. The component calculation unit 3123 calculates the integral component K of Expression (180) described above._i(X_s, x_e) Is an integral component K indicated by the left side of the following equation (183)_iIt is calculated as a function of l (l represents a mode number) such as (l).
[1883]
K_i(l) = K_i(X_s, x_e) (183)
[1884]
Specifically, in this case, the integral component K shown by the following equation (184)_i(l) is calculated.
[1858]
149

... (184)
[1886]
In equation (184), the left side is the integral component K._i(l), the right side is the integral component K_i(X_s, x_e). That is, in this case, l is any one of 1 to 4, and i is any one of 0 to 5, so that 6 K_i(1), 6 K_i(2), 6 K_i(3), 6 K_iA total of 24 K in (4)_i(l) is calculated.
[1887]
More specifically, first, the integral component calculation unit 3123 uses the angle θ supplied from the data continuity detection unit 101 to shift the amount of shift C from the above equations (181) and (182)._x(-0.25), and C_xCalculate each of (0.25).
[1888]
Next, the integral component calculation unit 3123 calculates the calculated shift amount C._x(-0.25), and C_x(0.25) is used to calculate the integral component K on the right side of each of the four equations in equation (184)._i(X_s, x_e) Is calculated for i = 0 to 5, respectively. This integral component K_i(X_s, x_eIn the calculation of), the above-described equation (180) is used.
[1889]
Then, the integral component calculation unit 3123 calculates the 24 integral components K calculated according to the equation (184)._i(X_s, x_e) For each corresponding integral component K_iconverted to (l), and the 24 integrated components K converted_i(l) (ie 6 K_i(1), 6 K_i(2), 6 K_i(3), and 6 K_iAn integral component table including (4)) is generated.
[1890]
Note that the order of the processing in step S3102 and the processing in step S3103 is not limited to the example in FIG. 263, and the processing in step S3103 may be executed first, or the processing in step S3102 and the processing in step S3103 are executed simultaneously. May be.
[1891]
Next, in step S3104, the output pixel value calculation unit 3124 displays the feature amount table generated by the feature amount storage unit 3122 in the process of step S3102 and the integration component generated by the integration component calculation unit 3123 in the process of step S3103. Each of the output pixel values M (1) to M (4) is calculated based on the table.
[1892]
Specifically, in this case, the output pixel value calculation unit 3124 calculates the right side of the following Expressions (185) to (188) corresponding to the Expression (179) described above, thereby calculating the pixel 3111 (mode Pixel value M (1) of pixel No. 1, pixel value M (2) of pixel 3112 (pixel of mode number 2), pixel value M (3) of pixel 3113 (pixel of mode number 3), and pixel 3114 Each pixel value M (4) of (the pixel of mode number 4) is calculated.
[1893]
[Expression 150]

... (185)
[1894]
[Formula 151]

... (186)
[1895]
[Formula 152]

... (187)
[1896]
[Expression 153]

... (188)
[1897]
In step S3105, the output pixel value calculation unit 3124 determines whether or not processing for all pixels has been completed.
[1898]
If it is determined in step S3105 that the processing for all pixels has not been completed yet, the processing returns to step S3102 and the subsequent processing is repeated. That is, pixels that are not yet the target pixel are sequentially set as the target pixel, and the processes in steps S3102 to S3104 are repeated.
[1899]
When the processing for all pixels is completed (when it is determined in step S3105 that the processing for all pixels has been completed), the output pixel value calculation unit 3124 outputs an image in step S3106. Thereafter, the image generation process ends.
[1900]
Next, referring to FIGS. 264 to 271, an output image obtained by applying the one-dimensional reintegration method and another method (conventional class classification adaptive processing) are applied to a predetermined input image. Differences in the output images obtained in this way will be described.
[1901]
FIG. 264 is a diagram illustrating an original image of the input image, and FIG. 265 illustrates image data corresponding to the original image of FIG. 264. In FIG. 265, the vertical axis in the figure represents the pixel value, the lower right axis in the figure represents the X direction, which is one direction in the spatial direction of the image, and the upper right axis in the figure represents the image. The Y direction which is another direction in the spatial direction is shown. Each of the axes in FIGS. 267, 269, and 271 described later corresponds to the axis in FIG. 265.
[1902]
FIG. 266 is a diagram illustrating an example of an input image. The input image shown in FIG. 266 is an image generated by using the average value of the pixel values belonging to the block composed of 2 × 2 pixels of the image shown in FIG. 264 as the pixel value of one pixel. That is, the input image is an image obtained by applying spatial integration that imitates the integration characteristics of the sensor to the image shown in FIG. FIG. 267 shows image data corresponding to the input image of FIG. 266.
[1903]
In the original image shown in FIG. 264, an image of a thin line inclined approximately 5 degrees clockwise from the vertical direction is included. Similarly, the input image shown in FIG. 266 includes a fine line image inclined approximately 5 degrees clockwise from the vertical direction.
[1904]
FIG. 268 is a diagram showing an image obtained by applying the conventional classification adaptation process to the input image shown in FIG. 266 (hereinafter, the image shown in FIG. 268 is referred to as a conventional image). FIG. 269 shows image data corresponding to a conventional image.
[1905]
The class classification adaptation process includes a class classification process and an adaptation process. The class classification process classifies data based on its property, and performs an adaptation process for each class. In the adaptive processing, for example, a low-quality image or a standard-quality image is mapped (mapped) using a predetermined tap coefficient to be converted into a high-quality image.
[1906]
FIG. 270 shows an image obtained by applying the one-dimensional reintegration method to which the present invention is applied to the input image shown in FIG. 266 (hereinafter, the image shown in FIG. 270 is referred to as the image of the present invention). FIG. FIG. 271 shows image data corresponding to the image of the present invention.
[1907]
When comparing the conventional image of FIG. 268 with the image of the present invention of FIG. 270, in the conventional image, the thin line image is different from the original image of FIG. In the image of the present invention, it can be seen that the fine line image is substantially the same as the original image in FIG.
[1908]
This difference is that the conventional classification adaptation processing is a method that performs processing based on the input image of FIG. 266 as a reference (origin), whereas the one-dimensional reintegration method of the present invention has a fine line continuity. In consideration, the original image in FIG. 264 is estimated (approximate function f (x) corresponding to the original image is generated), and processing is performed using the estimated original image as a reference (origin) (reintegration is performed). This is because the pixel value is calculated.
[1909]
As described above, in the one-dimensional reintegration method, the approximate function f (x) that is a one-dimensional polynomial generated by the one-dimensional polynomial approximation method (the approximate function f (x) of the X-section waveform F (x) in the real world is used. )) As a reference (origin), an output image (pixel value) is generated by integrating the approximate function f (x) into an arbitrary range.
[1910]
Therefore, in the one-dimensional reintegration method, it is possible to output an image closer to the original image (the optical signal of the real world 1 before being incident on the sensor 2) compared to other conventional methods.
[1911]
In other words, in the one-dimensional reintegration method, the data continuity detection unit 101 in FIG. 259 projects the optical signal of the real world 1 by a plurality of detection elements of the sensor 2 each having a spatiotemporal integration effect, and the real world The continuity of data in an input image composed of a plurality of pixels having pixel values projected by a detection element, in which a part of the continuity of one optical signal is missing, is detected, and the real world estimation unit 102 is detected Corresponding to the continuity of data, it is assumed that the pixel value of the pixel corresponding to the position in the one-dimensional direction in the spatio-temporal direction of the input image is the pixel value acquired by the integration effect in the one-dimensional direction. The optical signal function F representing the optical signal 1 (specifically, the X cross-sectional waveform F (x)) is approximated by a predetermined approximate function f (x) to estimate the optical signal function F. Is assumed.
[1912]
Specifically, for example, the pixel value of each pixel corresponding to the distance along the one-dimensional direction from the line corresponding to the continuity of the detected data is the pixel value acquired by the integration effect in the one-dimensional direction. Assuming that the X-section waveform F (x) is approximated by an approximate function f (x).
[1913]
In the one-dimensional reintegration method, based on such a premise, for example, the image generation unit 103 in FIG. 259 (FIG. 3) performs an X cross-sectional waveform F (x) estimated by the real world estimation unit 102, That is, by integrating the approximate function f (x) in a desired unit in the one-dimensional direction, a pixel value M corresponding to a pixel having a desired size is generated and output as an output image.
[1914]
Therefore, in the one-dimensional reintegration method, it is possible to output an image closer to the original image (the optical signal of the real world 1 before being incident on the sensor 2) compared to other conventional methods.
[1915]
In the one-dimensional reintegration method, as described above, since the integration range is arbitrary, it is possible to create a resolution (temporal resolution or spatial resolution) different from the resolution of the input image by changing the integration range. It becomes possible. That is, it is possible to generate an image having a resolution of an arbitrary magnification as well as an integer value with respect to the resolution of the input image.
[1916]
Furthermore, in the one-dimensional reintegration method, it is possible to calculate an output image (pixel value) with a smaller amount of calculation processing than in other reintegration methods.
[1917]
Next, the two-dimensional reintegration method will be described with reference to FIGS. 272 to 278.
[1918]
In the two-dimensional reintegration method, it is assumed that the approximate function f (x, y) has already been generated by the two-dimensional polynomial approximation method.
[1919]
That is, for example, as shown in FIG._FA waveform obtained by projecting the image function F (x, y, t) representing the optical signal of the real world 1 (FIG. 259) having the continuity in the spatial direction expressed in the spatial direction (X direction and Y direction), that is, The waveform F (x, y) on the XY plane is assumed to be approximated by an approximate function f (x, y), which is an n-order (n is an arbitrary integer) polynomial.
[1920]
In FIG. 272, in the figure, the horizontal direction represents the X direction which is one of the spatial directions, the upper right direction represents the Y direction which is the other direction of the spatial direction, and the vertical direction represents the light level. . G_FRepresents the slope of continuity in the spatial direction.
[1921]
In the example of FIG. 272, since the stationary direction is the spatial direction (X direction and Y direction), the projection function of the optical signal to be approximated is the function F (x, y). However, as will be described later, the function F (x, t) or the function F (y, t) may be approximated according to the direction of stationarity.
[1922]
In the case of the example in FIG. 272, in the two-dimensional reintegration method, the output pixel value M is calculated as in the following equation (189).
[1923]
[Expression 154]

... (189)
[1924]
In formula (189), y_sRepresents the integration start position in the Y direction, and y_eRepresents the integration end position in the Y direction. Similarly, x_sRepresents the integration start position in the X direction, and x_eRepresents the integration end position in the X direction. G_eRepresents a predetermined gain.
[1925]
In the equation (189), the integration range can be arbitrarily set. Therefore, in the two-dimensional reintegration method, the pixel of the input image from the original pixel (sensor 2 (FIG. 259)) can be changed by appropriately changing the integration range. It is possible to create a pixel having a spatial resolution of an arbitrary magnification without deterioration.
[1926]
FIG. 273 illustrates a configuration example of the image generation unit 103 that uses the two-dimensional reintegration method.
[1927]
As illustrated in FIG. 273, the image generation unit 103 of this example includes a condition setting unit 3201, a feature amount storage unit 3202, an integral component calculation unit 3203, and an output pixel value calculation unit 3204.
[1928]
The condition setting unit 3201 calculates the approximation function f (x, y) based on the real world estimation information supplied from the real world estimation unit 102 (in the example of FIG. 273, the feature amount of the approximation function f (x, y)). Set the order n.
[1929]
The condition setting unit 3201 also sets an integration range when re-integrating the approximate function f (x, y) (when calculating the output pixel value). Note that the integration range set by the condition setting unit 3201 need not be the vertical width or horizontal width of the pixel. For example, since the approximate function f (x, y) is integrated in the spatial direction (X direction and Y direction), the output pixel (image generation unit 103) with respect to the spatial size of each pixel of the input image from the sensor 2. If the relative size (the pixel of the pixel to be generated) (the magnification of the spatial resolution) is known, the specific integration range can be determined. Accordingly, the condition setting unit 3201 can also set, for example, a spatial resolution magnification as the integration range.
[1930]
The feature amount storage unit 3202 temporarily stores the feature amounts of the approximate functions f (x, y) sequentially supplied from the real world estimation unit 102. When the feature quantity storage unit 3202 stores all of the feature quantities of the approximate function f (x, y), the feature quantity storage unit 3202 generates a feature quantity table including all the feature quantities of the approximate function f (x, y), and outputs pixel values. This is supplied to the arithmetic unit 3204.
[1931]
Here, details of the approximate function f (x, y) will be described.
[1932]
For example, the gradient G as shown in FIG._FThe optical signal of the real world 1 (FIG. 259) having the continuity in the spatial direction represented by (the optical signal represented by the waveform F (x, y)) is detected by the sensor 2 (FIG. 259) and input image It is assumed that it is output as (pixel value).
[1933]
Further, for example, as shown in FIG. 274, the data continuity detecting unit 101 (FIG. 3) has a total of 20 of the input image corresponding to 4 pixels in the X direction and 5 pixels in the Y direction. The process is performed on an input image region 3221 composed of pixels (20 squares represented by dotted lines in the figure), and an angle θ (inclination G) is provided as one piece of data continuity information._FTilt G corresponding to_fIs output as an angle θ) between the direction of the continuity of the data represented by X and the X direction.
[1934]
When viewed from the real world estimation unit 102, the data continuity detection unit 101 only needs to output the angle θ at the pixel of interest, so the processing range of the data continuity detection unit 101 is the above-described input image region 3221. It is not limited to.
[1935]
In the input image region 3221, the horizontal direction in the figure represents the X direction, which is one of the spatial directions, and the vertical direction in the figure represents the Y direction, which is the other direction of the spatial direction.
[1936]
Further, in FIG. 274, the second pixel from the left and the third pixel from the bottom is the target pixel, and the (x, y) coordinates are set so that the center of the target pixel is the origin (0, 0). System is set. Then, a straight line with an angle θ passing through the origin (0,0) (inclination G representing the direction of data continuity)_fX 'is a relative distance in the X direction (hereinafter referred to as a cross-sectional direction distance).
[1937]
Further, in FIG. 274, the graph on the right side shows the position x, y, and z in the three-dimensional space, and the image function F (x, y, t) with the time t as a variable at an arbitrary position in the Y direction. y is a function that approximates a one-dimensional waveform projected in the X direction (hereinafter, this waveform is referred to as an X cross-sectional waveform F (x ′)), and is an n-th order (n is an arbitrary integer) ) Represents an approximate function f (x ′). Of the axes of the graph on the right side, the horizontal axis in the figure represents the distance in the cross-sectional direction, and the vertical axis in the figure represents the pixel value.
[1938]
In this case, the approximate function f (x ′) shown in FIG. 274 is an n-order polynomial, and is expressed as the following equation (190).
[1939]
[Expression 155]

... (190)
[1940]
Further, since the angle θ is determined, the straight line of the angle θ passing through the origin (0, 0) is uniquely determined, and the position x in the X direction of the straight line at an arbitrary position y in the Y direction._lIs expressed as the following equation (191). However, in Formula (191), s represents cotθ.
[1941]
x_l = S × y (191)
[1942]
That is, as shown in FIG._fThe point on the straight line corresponding to the stationarity of the data represented by_l, y).
[1943]
From the equation (191), the cross-sectional direction distance x ′ is expressed as the following equation (192).
[1944]
x '= x−x_l = X−s × y (192)
[1945]
Therefore, the approximate function f (x, y) at an arbitrary position (x, y) in the area 3221 of the input image is expressed by the following equation (193) from the equations (190) and (192). .
[1946]
156

... (193)
[1947]
In formula (193), w_iRepresents the feature quantity of the approximate function f (x, y).
[1948]
Returning to FIG. 273, the feature amount w included in the equation (193)_iIs supplied from the real world estimation unit 102 and stored in the feature amount storage unit 3202. The feature amount storage unit 3202 stores the feature amount w expressed by the equation (193)._iIf you remember all of the features w_iIs generated and supplied to the output pixel value calculation unit 3204.
[1949]
Further, the approximation function f (x, y) of the equation (193) is substituted into the approximation function f (x, y) of the right side of the above equation (189), and the right side of the equation (189) is expanded (calculation). Then, the output pixel value M is expressed as the following equation (194).
[1950]
[Expression 157]

... (194)
[1951]
In formula (194), K_i(X_s, x_e, y_s, y_e) Represents the integral component of the i-th order term. That is, the integral component K_i(X_s, x_e, y_s, y_e) Is as shown in the following equation (195).
[1952]
[Formula 158]

... (195)
[1953]
The integral component calculation unit 3203 provides the integral component K_i(X_s, x_e, y_s, y_e) Is calculated.
[1954]
Specifically, as shown in the equations (194) and (195), the integral component K_i(X_s, x_e, y_s, y_e) Is the start position x in the X direction of the integration range_s, And end position x in the X direction_e, Start position y of integration range in Y direction_s, And end position y in the Y direction_e, Variable s, gain G_eAs long as i of the i-th term is known, the calculation is possible.
[1955]
Of these, gain G_eIs determined by the spatial resolution magnification (integration range) set by the condition setting unit 3201.
[1956]
The range of i is determined by the order n set by the condition setting unit 3201.
[1957]
Since the variable s is cot θ as described above, it is determined by the angle θ output from the data continuity detecting unit 101.
[1958]
Also, the start position x in the X direction of the integration range_s, And end position x in the X direction_eAnd the start position y in the Y direction of the integration range_s, And end position y in the Y direction_eAre determined by the center pixel position (x, y) and the pixel width of the output pixel to be generated. Note that (x, y) represents a relative position from the center position of the target pixel when the real world estimation unit 102 generates the approximate function f (x).
[1959]
Further, the center pixel position (x, y) and the pixel width of the output pixel to be generated are determined by the spatial resolution magnification (integration range) set by the condition setting unit 3201.
[1960]
Accordingly, the integral component calculation unit 3203 is based on the order and the spatial resolution magnification (integration range) set by the condition setting unit 3201 and the angle θ among the data continuity information output from the data continuity detection unit 101. Integral component K_i(X_s, x_e, y_s, y_e) And supplies the calculation result to the output pixel value calculation unit 3204 as an integral component table.
[1961]
The output pixel value calculation unit 3204 calculates the right side of the above-described equation (194) using the feature amount table supplied from the feature amount storage unit 3202 and the integration component table supplied from the integration component calculation unit 3203. The calculation result is output to the outside as an output pixel value M.
[1962]
Next, an image generation process (the process in step S103 in FIG. 40) of the image generation unit 103 (FIG. 274) using the two-dimensional reintegration method will be described with reference to the flowchart in FIG. 275.
[1963]
For example, an optical signal represented by the function F (x, y) shown in FIG. 272 is incident on the sensor 2 to become an input image, and the real world estimation unit 102 performs the above-described processing in step S102 in FIG. Suppose that an approximate function f (x, y) that approximates the function F (x, y) has already been generated with one pixel 3231 as shown in FIG. 276 in the input image as the target pixel. .
[1964]
Note that in FIG. 276, the pixel value (input pixel value) of the pixel 3231 is P, and the shape of the pixel 3231 is a square with one side length. Of the spatial directions, a direction parallel to one side of the pixel 3231 is an X direction, and a direction perpendicular to the X direction is a Y direction. Furthermore, a coordinate system (hereinafter referred to as a pixel-of-interest coordinate system) in a spatial direction (X direction and Y direction) in which the center of the pixel 3231 is the origin is set.
[1965]
In FIG. 276, in the process of step S101 of FIG. 40 described above, the data continuity detecting unit 101 sets the pixel 3231 as the target pixel and the gradient G_fAssume that the angle θ has already been output as data continuity information corresponding to the continuity of the data represented by
[1966]
Returning to FIG. 275, in this case, in step S3201, the condition setting unit 3201 sets conditions (order and integration range).
[1967]
For example, suppose that 5 is set as the order and space quadruple density (spatial resolution magnification at which the pixel pitch width is halved both vertically and horizontally) is set as the integration range.
[1968]
That is, in this case, as shown in FIG. 277, the range of −0.5 to 0.5 in the X direction and the range of −0.5 to 0.5 in the Y direction (the range of the pixel 3231 in FIG. 276). In addition, four pixels 3241 to 3244 are newly created. Note that FIG. 277 also shows the same pixel coordinate system as that of FIG. 276.
[1969]
In FIG. 277, M (1) is the pixel value of the pixel 3241 to be generated, M (2) is the pixel value of the pixel 3242 to be generated, and M (3) is to be generated from now. M (4) represents the pixel value of the pixel 3243, and M (4) represents the pixel value of the pixel 3241 to be generated.
[1970]
Returning to FIG. 275, in step S3202, the feature quantity storage unit 3202 acquires the feature quantity of the approximate function f (x, y) supplied from the real world estimation unit 102, and generates a feature quantity table. In this case, the coefficient w of the approximate function f (x) which is a fifth order polynomial₀Thru w_FiveIs supplied from the real world estimation unit 102, so that (w₀, w₁, w₂, w_Three, w_Four, w_Five) Is generated.
[1971]
In step S3203, the integral component calculation unit 3203 performs integration based on the conditions (order and integration range) set by the condition setting unit 3201 and the data continuity information (angle θ) supplied from the data continuity detection unit 101. Calculate components and generate an integral component table.
[1972]
Specifically, for example, it is assumed that numbers 1 to 4 are assigned to the pixels 3241 to 3244 to be generated from now on (hereinafter, such numbers are referred to as mode numbers). The integral component calculation unit 3203 calculates the integral component K of Equation (194) described above._i(X_s, x_e, y_s, y_e) Is an integral component K indicated by the left side of the following equation (196)_iIt is calculated as a function of l (l represents a mode number) such as (l).
[1973]
K_i(l) = K_i(X_s, x_e, y_s, y_e(196)
[1974]
Specifically, in this case, the integral component K shown by the following equation (197)_i(l) is calculated.
[1975]
[Expression 159]

... (197)
[1976]
In equation (197), the left side is the integral component K_i(l), the right side is the integral component K_i(X_s, x_e, y_s, y_e). That is, in this case, l is any one of 1 to 4, and i is any one of 0 to 5, so that 6 K_i(1), 6 K_i(2), 6 K_i(3), 6 K_iA total of 24 K in (4)_i(l) is calculated.
[1977]
More specifically, first, the integral component calculation unit 3203 calculates the variable s (s = cot θ) of the above-described equation (191) using the angle θ supplied from the data continuity detection unit 101.
[1978]
Next, the integral component calculation unit 3203 uses the calculated variable s to calculate the integral component K on the right side of each of the four formulas of Formula (197)._i(X_s, x_e, y_s, y_e) Is calculated for i = 0 to 5, respectively. This integral component K_i(X_s, x_e, y_s, y_eIn the calculation of), the above-described equation (194) is used.
[1979]
Then, the integral component calculation unit 3203 calculates the 24 integral components K calculated according to the equation (197)._i(X_s, x_e, y_s, y_e) For each corresponding integral component K_iconverted to (l), and the 24 integrated components K converted_i(l) (ie 6 K_i(1), 6 K_i(2), 6 K_i(3), and 6 K_iAn integral component table including (4)) is generated.
[1980]
Note that the order of the processing of step S3202 and the processing of step S3203 is not limited to the example of FIG. 275, the processing of step S3203 may be executed first, or the processing of step S3202 and the processing of step S3203 are executed simultaneously. May be.
[1981]
Next, in step S3204, the output pixel value calculation unit 3204 includes the feature amount table generated by the feature amount storage unit 3202 in the process of step S3202, and the integration component generated by the integration component calculation unit 3203 in the process of step S3203. Each of the output pixel values M (1) to M (4) is calculated based on the table.
[1982]
Specifically, in this case, the output pixel value calculation unit 3204 calculates each of the right sides of the following formulas (198) to (201) corresponding to the formula (194) described above, thereby performing FIG. , Pixel value M (1) of pixel 3241 (pixel of mode number 1), pixel value M (2) of pixel 3242 (pixel of mode number 2), and pixel value of pixel 3243 (pixel of mode number 3) Each of M (3) and pixel value M (4) of pixel 3244 (pixel of mode number 4) is calculated.
[1983]
[Expression 160]

... (198)
[1984]
[Formula 161]

... (199)
[1985]
[Expression 162]

... (200)
[1986]
[Expression 163]

... (201)
[1987]
However, in this case, all n in the equations (198) to (201) are 5.
[1988]
In step S3205, the output pixel value calculation unit 3204 determines whether or not processing for all pixels has been completed.
[1989]
If it is determined in step S3205 that the processing for all the pixels has not been completed yet, the processing returns to step S3202, and the subsequent processing is repeated. That is, pixels that are not yet the target pixel are sequentially set as the target pixel, and the processes in steps S3202 to S3204 are repeated.
[1990]
When the processing for all pixels is completed (when it is determined in step S3205 that the processing for all pixels has been completed), the output pixel value calculation unit 3204 outputs an image in step S3206. Thereafter, the image generation process ends.
[1991]
Thus, by using the two-dimensional reintegration method, four pixels having a spatial resolution higher than that of the input pixel 3231 as pixels in the pixel 3231 (FIG. 276) of the input image from the sensor 2 (FIG. 259), that is, Pixel 3241 to pixel 3244 (FIG. 277) can be created. Furthermore, although not illustrated, as described above, the image generation unit 103 changes not only the pixel 3241 to the pixel 3244 but also the spatial resolution of an arbitrary magnification with respect to the input pixel 3231 by appropriately changing the integration range. You can create without deterioration.
[1992]
As described above, as an explanation of the two-dimensional reintegration method, the example in which the approximate function f (x, y) in the spatial direction (X direction and Y direction) is two-dimensionally integrated has been used. It can also be applied to (X direction and t direction, or Y direction and t direction).
[1993]
That is, in the above-described example, the optical signal in the real world 1 (FIG. 259) has a gradient G as shown in FIG._FIn this case, a formula including a two-dimensional integration in the spatial direction (X direction and Y direction) as shown in the above formula (189) is used. It was done. However, the idea of two-dimensional integration is not limited to the spatial direction, but can be applied to the spatiotemporal direction (X direction and t direction, or Y direction and t direction).
[1994]
In other words, in the two-dimensional polynomial approximation method that is the premise of the two-dimensional reintegration method, the image function F (x, y, t) representing the optical signal is not only stationary in the spatial direction but also in the spatio-temporal direction (however, , X-direction and t-direction, or Y-direction and t-direction) can be approximated by a two-dimensional polynomial.
[1995]
Specifically, for example, when there is an object moving horizontally at a constant speed in the X direction, the direction of the movement of the object is the slope V in the X-t plane as shown in FIG._FIt is expressed as In other words, slope V_FCan be said to represent the direction of continuity in the spatio-temporal direction in the X-t plane. Therefore, the data continuity detecting unit 101 (FIG. 259) performs the above-described angle θ (inclination G representing the continuity in the spatial direction on the XY plane)._FAs with the data continuity information corresponding to), the slope V representing the continuity in the spatio-temporal direction in the X-t plane_FAs the data continuity information corresponding to the motion θ as shown in FIG. 278 (strictly, although not shown, the slope V_FTilt V corresponding to_fIt is possible to output the motion θ), which is the angle formed by the direction of the stationarity of the data represented by the X direction in the spatial direction.
[1996]
In addition, the real world estimation unit 102 (FIG. 259) using the two-dimensional polynomial approximation method uses the approximation function f (x, It becomes possible to calculate the coefficient (feature value) wi of t). However, in this case, the expression used is not the expression (193) described above but the following expression (202).
[1997]
164

... (202)
[1998]
In equation (202), s is cot θ (where θ is a motion).
[1999]
Therefore, the image generation unit 103 (FIG. 259) using the two-dimensional reintegration method performs computation by substituting f (x, t) of the above-described equation (202) into the right side of the following equation (203). Thus, the pixel value M can be calculated.
[2000]
165

... (203)
[2001]
In equation (203), t_sRepresents the integration start position in the t direction, and t_eRepresents the integration end position in the t direction. Similarly, x_sRepresents the integration start position in the X direction, and x_eRepresents the integration end position in the X direction. G_eRepresents a predetermined gain.
[2002]
Further, instead of the spatial direction X, the approximate function f (y, t) focused on the spatial direction Y can be handled in the same manner as the above approximate function f (x, t).
[2003]
By the way, in the equation (199), it is possible to obtain data that is not integrated in the time direction, that is, data without motion blur, by regarding the t direction as constant, that is, by ignoring the integration in the t direction. become. In other words, this method may be regarded as one of the two-dimensional reintegration methods in that a predetermined one-dimensional of a two-dimensional polynomial is constant and reintegrated. May be regarded as one of the one-dimensional reintegration methods.
[2004]
In addition, in the equation (203), the integration range can be arbitrarily set. Therefore, in the two-dimensional reintegration method, the input image from the original pixel (sensor 2 (FIG. 259) is changed by appropriately changing the integration range. It is possible to create a pixel having a resolution of an arbitrary magnification without deterioration.
[2005]
That is, in the two-dimensional reintegration method, it is possible to create a time resolution by appropriately changing the integration range in the time direction t. Also, spatial resolution can be created by appropriately changing the integration range in the spatial direction X (or spatial direction Y). Furthermore, by appropriately changing each of the integration ranges in the time direction t and the space direction X, it is possible to create both time resolution and space resolution.
[2006]
As described above, one of the temporal resolution and the spatial resolution can be created by the one-dimensional reintegration method, but the creation of both resolutions is impossible in principle by the one-dimensional reintegration method. It becomes possible only by performing reintegration of two or more dimensions. That is, the creation of both resolutions is possible only with the two-dimensional reintegration method and the later-described three-dimensional reintegration method.
[2007]
Further, since the two-dimensional reintegration method considers the two-dimensional integration effect instead of the one-dimensional, it is possible to generate an image closer to the optical signal in the real world 1 (FIG. 259).
[2008]
In other words, in the two-dimensional reintegration method, for example, the data continuity detecting unit 101 in FIG. 259 (FIG. 3) has the optical signal of the real world 1 by a plurality of detection elements of the sensor 2 each having a spatiotemporal integration effect. Is projected, and the steadiness of the optical signal in the real world 1 (for example, the slope G in FIG. 272)_FIn the input image composed of a plurality of pixels having pixel values projected by the detection element (for example, the slope G in FIG. 274)._fIs detected).
[2009]
Then, for example, the real world estimation unit 102 in FIG. 259 (FIG. 3) corresponds to the data continuity detected by the data continuity detection unit 101, and at least a two-dimensional direction (in the spatiotemporal direction of image data) For example, the optical signal of the real world 1 is represented on the assumption that the pixel values of the pixels corresponding to the positions in the spatial direction X and the spatial direction Y) in FIG. 272 are pixel values acquired by at least the integration effect in the two-dimensional direction. It is assumed that the optical signal function F is estimated by approximating the optical signal function F (specifically, the function F (x, y) in FIG. 272) with an approximate function f (x, y) that is a polynomial. It is said that.
[2010]
In detail, for example, the real world estimation unit 102 uses a line corresponding to the continuity of the data detected by the data continuity detection unit 101 (for example, the slope G in FIG. 274)._fThe pixel value of the pixel corresponding to the distance (for example, the cross-sectional direction distance x ′ in FIG. 274) along at least the two-dimensional direction from the line (arrow) corresponding to is acquired by the integration effect in at least the two-dimensional direction. It is assumed that the first function is estimated by approximating the first function that represents the optical signal in the real world with the second function that is a polynomial, assuming that it is a pixel value.
[2011]
In the two-dimensional reintegration method, based on such a premise, for example, the image generation unit 103 in FIG. 259 (FIG. 3) (the configuration is FIG. 273) uses the function F ( x, y), that is, the approximate function f (x, y) is integrated at least in a desired unit in the two-dimensional direction (for example, the above equation (18)9) Is calculated)) (for example, the output image (pixel value M) in FIG. 259. Specifically, for example, pixel values corresponding to the pixels 3241 to 3244 in FIG. 277). Is generated.
[2012]
Therefore, in the two-dimensional reintegration method, it is possible to create not only one of temporal resolution and spatial resolution, but also both resolutions. Further, in the two-dimensional reintegration method, it is possible to generate an image closer to the optical signal in the real world 1 (FIG. 259) as compared with the one-dimensional reintegration method.
[2013]
Next, the three-dimensional reintegration method will be described with reference to FIGS. 279 and 280.
[2014]
In the three-dimensional reintegration method, it is assumed that the approximate function f (x, y, t) has already been generated by the three-dimensional function approximation method.
[2015]
In this case, in the three-dimensional reintegration method, the output pixel value M is calculated as in the following equation (204).
[2016]
166

... (204)
[2017]
In equation (204), t_sRepresents the integration start position in the t direction, and t_eRepresents the integration end position in the t direction. Similarly, y_sRepresents the integration start position in the Y direction, and y_eRepresents the integration end position in the Y direction. X_sRepresents the integration start position in the X direction, and x_eRepresents the integration end position in the X direction. In addition, G_eRepresents a predetermined gain.
[2018]
In Expression (204), the integration range can be arbitrarily set. Therefore, in the three-dimensional reintegration method, by appropriately changing this integration range, the pixel of the input image from the sensor 2 (FIG. 259). It is possible to create pixels with a spatio-temporal resolution at an arbitrary magnification without deterioration. That is, if the integration range in the spatial direction is reduced, the pixel pitch can be freely reduced. Conversely, if the integration range in the spatial direction is increased, the pixel pitch can be freely increased. If the integration range in the time direction is reduced, a time resolution can be created based on the real world waveform.
[2019]
FIG. 279 illustrates a configuration example of the image generation unit 103 that uses a three-dimensional reintegration method.
[2020]
As illustrated in FIG. 279, the image generation unit 103 in this example includes a condition setting unit 3301, a feature amount storage unit 3302, an integral component calculation unit 3303, and an output pixel value calculation unit 3304.
[2021]
The condition setting unit 3301 is based on the real world estimation information supplied from the real world estimation unit 102 (in the example of FIG. 279, the feature amount of the approximate function f (x, y, t)), and the approximate function f (x, y , t) is set to order n.
[2022]
The condition setting unit 3301 also sets an integration range when re-integrating the approximate function f (x, y, t) (when calculating the output pixel value). Note that the integration range set by the condition setting unit 3301 need not be the pixel width (vertical width and horizontal width) or the shutter time itself. For example, the relative size (spatial resolution magnification) of the output pixel (the pixel to be generated from the image generation unit 103) with respect to the spatial size of each pixel of the input image from the sensor 2 (FIG. 259) is determined. For example, it is possible to determine a specific integration range in the spatial direction. Similarly, if the relative time (time resolution magnification) of the output pixel value with respect to the shutter time of the sensor 2 (FIG. 259) is known, the specific integration range in the time direction can be determined. Therefore, the condition setting unit 3301 can also set, for example, a spatial resolution magnification or a time resolution magnification as the integration range.
[2023]
The feature amount storage unit 3302 temporarily stores the feature amounts of the approximate functions f (x, y, t) sequentially supplied from the real world estimation unit 102. When the feature quantity storage unit 3302 stores all the feature quantities of the approximate function f (x, y, t), the feature quantity storage unit 3302 generates a feature quantity table including all the feature quantities of the approximate function f (x, y, t). To the output pixel value calculation unit 3304.
[2024]
By the way, when the right side of the approximation function f (x, y) on the right side of the above equation (204) is expanded (calculated), the output pixel value M is expressed as the following equation (205).
[2025]
[Expression 167]

... (205)
[2026]
In equation (205), K_i(X_s, x_e, y_s, y_e, t_s, t_e) Represents the integral component of the i-th order term. Where x_sIs the start position of the integration range in the X direction, x_eIs the end position of the integration range in the X direction, y_sIs the start position of the integration range in the Y direction, y_eIs the end position of the integration range in the Y direction, t_sIs the start position of the integration range in the t direction, t_eRepresents the end position of the integration range in the t direction.
[2027]
The integral component calculation unit 3303 is configured so that the integral component K_i(X_s, x_e, y_s, y_e, t_s, t_e) Is calculated.
[2028]
Specifically, the integral component calculation unit 3303 includes the order set by the condition setting unit 3301, the integration range (spatial resolution magnification and time resolution magnification), and the data continuity information output from the data continuity detection unit 101. Integral component K based on angle θ or motion θ_i(X_s, x_e, y_s, y_e, t_s, t_e) And the result of the calculation is supplied to the output pixel value calculation unit 3304 as an integral component table.
[2029]
The output pixel value calculation unit 3304 calculates the right side of the above-described equation (205) using the feature amount table supplied from the feature amount storage unit 3302 and the integration component table supplied from the integration component calculation unit 3303. The calculation result is output to the outside as an output pixel value M.
[2030]
Next, image generation processing (processing in step S103 in FIG. 40) of the image generation unit 103 (FIG. 279) using the three-dimensional reintegration method will be described with reference to the flowchart in FIG. 280.
[2031]
For example, now, in the processing of step S102 of FIG. 40 described above, the real world estimation unit 102 (FIG. 259) uses the predetermined pixel of the input image as the target pixel, and the optical signal of the real world 1 (FIG. 259). Assume that an approximation function f (x, y, t) that approximates has already been generated.
[2032]
40, the data continuity detecting unit 101 (FIG. 259) uses the same pixel as that of the real world estimating unit 102 as the pixel of interest and sets the angle θ or motion θ as data continuity information. Assume that it has already been output.
[2033]
In this case, in step S3301 of FIG. 280, the condition setting unit 3301 sets conditions (order and integration range).
[2034]
In step S3302, the feature quantity storage unit 3302 receives the feature quantity w of the approximate function f (x, y, t) supplied from the real world estimation unit 102._iAnd a feature amount table is generated.
[2035]
In step S3303, the integral component calculation unit 3303 uses the conditions (order and integration range) set by the condition setting unit 3301 and the data continuity information (angle θ or motion θ) supplied from the data continuity detection unit 101. Based on this, an integral component is calculated to generate an integral component table.
[2036]
Note that the order of the processing of step S3302 and the processing of step S3303 is not limited to the example of FIG. 280, the processing of step S3303 may be executed first, or the processing of step S3302 and the processing of step S3303 are executed simultaneously. May be.
[2037]
Next, in step S3304, the output pixel value calculation unit 3304 displays the feature amount table generated by the feature amount storage unit 3302 in the process of step S3302 and the integration component generated by the integration component calculation unit 3303 in the process of step S3303. Each output pixel value is calculated based on the table.
[2038]
In step S3305, the output pixel value calculation unit 3304 determines whether or not processing for all pixels has been completed.
[2039]
If it is determined in step S3305 that the processing for all the pixels has not been completed yet, the processing returns to step S3302, and the subsequent processing is repeated. That is, pixels that are not yet the target pixel are sequentially set as the target pixel, and the processes in steps S3302 to S3304 are repeated.
[2040]
When the processing for all pixels is completed (when it is determined in step S3305 that the processing for all pixels has been completed), the output pixel value calculation unit 3304 outputs an image in step S3306. Thereafter, the image generation process ends.
[2041]
As described above, in the above-described equation (204), the integration range can be arbitrarily set. Therefore, in the three-dimensional reintegration method, the original pixel (sensor 2 (FIG. 259) is changed by appropriately changing the integration range. It is possible to create a pixel having a resolution of an arbitrary magnification with respect to the pixel of the input image from
[2042]
In other words, in the three-dimensional reintegration method, temporal resolution can be created by appropriately changing the integration range in the time direction. Also, spatial resolution can be created by appropriately changing the integration range in the spatial direction. Furthermore, it is possible to create both temporal resolution and spatial resolution by appropriately changing each of the integration ranges in the temporal direction and the spatial direction.
[2043]
Specifically, in the three-dimensional reintegration method, since there is no approximation when dropping to two dimensions or one dimension, highly accurate processing is possible. In addition, it is possible to process the movement in the oblique direction without degenerating in two dimensions. Furthermore, since it is not reduced to two dimensions, each dimension can be processed. For example, in the two-dimensional reintegration method, if the image is degenerated in the spatial direction (X direction and Y direction), processing in the t direction, which is the time direction, cannot be performed. On the other hand, in the three-dimensional reintegration method, any processing in the spatio-temporal direction is possible.
[2044]
As described above, one of the temporal resolution and the spatial resolution can be created by the one-dimensional reintegration method, but the creation of both resolutions is impossible in principle by the one-dimensional reintegration method. It becomes possible only by performing reintegration of two or more dimensions. That is, the creation of both resolutions is possible only with the above-described two-dimensional reintegration method and three-dimensional reintegration method.
[2045]
In addition, since the three-dimensional reintegration method considers a three-dimensional integration effect instead of one-dimensional or two-dimensional, it is possible to generate an image closer to the optical signal of the real world 1 (FIG. 259). .
[2046]
In other words, in the three-dimensional reintegration-like method, for example, the real-world estimation unit 102 in FIG. 259 (FIG. 3) uses the plurality of detection elements of the sensor 2 each having a spatio-temporal integration effect. Of the input image composed of a plurality of pixels having pixel values projected by the detection element, in which a part of the constancy of the optical signal in the real world 1 is missing, is projected in at least one dimensional direction By approximating the optical signal function F representing the optical signal in the real world with a predetermined approximation function f, assuming that the pixel value of the pixel corresponding to is at least a pixel value acquired by the integration effect in the one-dimensional direction, It is assumed that the signal function F is estimated.
[2047]
Furthermore, for example, when the data continuity detection unit 101 in FIG. 259 (FIG. 3) detects the continuity of the data of the input image, the real world estimation unit 102 determines the data detected by the data continuity detection unit 101. Corresponding to the stationarity, it is assumed that the pixel value of the pixel corresponding to the position in at least one-dimensional direction in the spatio-temporal direction of the image data is the pixel value acquired by the integration effect in at least one-dimensional direction. It is assumed that the optical signal function F is estimated by approximating F with the approximate function f.
[2048]
Specifically, for example, the real world estimation unit 102 has at least a pixel value of a pixel corresponding to a distance along at least a one-dimensional direction from a line corresponding to the continuity of data detected by the continuity detection unit 101. It is assumed that the optical signal function is estimated by approximating the optical signal function F with an approximate function, assuming that the pixel value is obtained by an integration effect in a one-dimensional direction.
[2049]
In the three-dimensional reintegration method, for example, the image generation unit 103 in FIG. 259 (FIG. 3) (the configuration is FIG. 279) uses the optical signal function F estimated by the real world estimation unit 102, that is, the approximate function f. Then, integration is performed in a desired unit in at least a one-dimensional direction (for example, the right side of Equation (201) described above is calculated) to generate a pixel value corresponding to a pixel having a desired size.
[2050]
Therefore, the three-dimensional reintegration method can generate an image closer to the optical signal in the real world 1 (FIG. 259) than the conventional image generation method and the one-dimensional or two-dimensional reintegration method described above. It becomes possible.
[2051]
Next, referring to FIG. 281, the real world estimation information input from the real world estimation unit 102 is a differential value of each pixel on an approximation function f (x) that approximately represents the real world, or In the case of the inclination information, the image generation unit 103 that newly generates a pixel based on the differential value or inclination of each pixel and outputs an image will be described.
[2052]
Here, the differential value is obtained by obtaining an approximate function f (x) that approximately represents the real world, and then obtaining a first-order differential expression f (x) ′ (approximate function) obtained from the approximate function f (x). Is a value obtained at a predetermined position using a first-order differential expression f (t) ′) obtained from the approximate function f (t). In addition, the slope here refers to the approximation function f (x) obtained directly from the pixel values of the surrounding pixels at a predetermined position without obtaining the above approximation function f (x) (or f (t)). The inclination of the predetermined position is shown. However, since the differential value is an inclination at a predetermined position of the approximate function f (x), both are inclinations at a predetermined position on the approximate function f (x) that approximately describes the real world. Therefore, with regard to the differential value and inclination as the real world estimation information input from the real world estimation unit 102, in the description of the image generation unit 103 in FIGS. 281 and 285, the approximation function f (x) is unified. This is referred to as an inclination on (or f (t)).
[2053]
The inclination acquisition unit 3401 has information on the inclination of each pixel, the pixel value of the corresponding pixel, and the steady state of the approximate function f (x) that approximately represents the real world input from the real world estimation unit 102. The inclination of the sex direction is acquired and output to the extrapolation interpolation unit 3402.
[2054]
The extrapolation interpolation unit 3402 extrapolates based on the gradient on the approximate function f (x) of each pixel input from the gradient acquisition unit 3401, the pixel value of the corresponding pixel, and the gradient in the direction of continuity. By interpolation, high-density pixels having a predetermined magnification than the input image are generated and output as an output image.
[2055]
Next, image generation processing by the image generation unit 103 in FIG. 281 will be described with reference to the flowchart in FIG. 282.
[2056]
In step S3401, the inclination acquisition unit 3401 receives the inclination (differential value), position, pixel value, and continuity direction on the approximate function f (x) of each pixel input from the real world estimation unit 102. Information about the tilt is acquired as real world estimation information.
[2057]
At this time, for example, when generating an image composed of pixels having a density twice (totally four times) in the spatial direction X and the spatial direction Y with respect to the input image, the real world estimation unit 102 receives the image shown in FIG. , The inclination f (Xin) ′ (inclination at the center position of the pixel Pin), f (Xin−Cx (−0.25)) ′ (a pixel having a double density in the Y direction from the pixel Pin) ), F (Xin−Cx (0.25)) ′ (slope of the center position of the pixel Pb when a double-density pixel is generated in the Y direction from the pixel Pin) ), The position of the pixel Pin, the pixel value, and the gradient G of the stationary direction_fIs entered.
[2058]
In step S3402, the inclination acquisition unit 3401 selects information on the corresponding target pixel from the input real world estimation information, and outputs the selected information to the extrapolation interpolation unit 3402.
[2059]
In step S3403, the extrapolation interpolation unit 3402 receives the input pixel position information and the gradient G of the continuity direction._fThe shift amount is obtained from
[2060]
Here, the shift amount Cx (ty) has a steadiness gradient of G_fCx (ty) = ty / G_fDefined by This shift amount Cx (ty) indicates the deviation width of the approximate function f (x) defined on the position of the spatial direction Y = 0 with respect to the spatial direction X at the position of the spatial direction Y = ty. Therefore, for example, when the approximate function is defined as f (x) on the position of the spatial direction Y = 0, this approximate function f (x) is Cx ( Since the function is shifted by ty), the approximate function is f (x−Cx (ty)) (= f (x−ty / G_f)).
[2061]
For example, in the case of a pixel Pin as shown in FIG. 283, one pixel in the figure (the size of one pixel in the figure is assumed to be 1 in both the horizontal direction and the vertical direction) is 2 in the vertical direction. When dividing (when generating double-density pixels in the vertical direction), the extrapolation interpolation unit 3402 obtains shift amounts of the pixels Pa and Pb to be obtained. That is, in this case, since the pixels Pa and Pb are shifted by −0.25 and 0.25, respectively, in the spatial direction Y as viewed from the pixel Pin, the shift amounts of the pixels Pa and Pb are Cx (−0.25), Cx (0.25). In FIG. 283, the pixel Pin is a square having (Xin, Yin) as the approximate center of gravity, and the pixels Pa and Pb are approximately (Xin, Yin + 0.25) and (Xin, Yin−0.25), respectively. The center of gravity is a rectangle that is long in the horizontal direction in the figure.
[2062]
In step S3404, the extrapolation interpolation unit 3402 includes the shift amount Cx obtained in the process of step S3403 and the gradient f (on the target pixel on the approximate function f (x) of the pixel Pin acquired as real world estimation information. Based on Xin) ′ and the pixel value of the pixel Pin, the pixel values of the pixels Pa and Pb are obtained by extrapolation using the following equations (206) and (207).
[2063]

[2064]

[2065]
In the above equations (206) and (207), Pa, Pb, and Pin indicate pixel values of the pixels Pa, Pb, and Pin.
[2066]
That is, as shown in FIG. 284, the change amount of the pixel value is set by multiplying the gradient f (Xin) ′ of the target pixel Pin by the movement distance in the X direction, that is, the shift amount, and the pixel value of the target pixel is set. Is used as a reference to set a pixel value of a newly generated pixel.
[2067]
In step S3405, the extrapolation interpolation unit 3402 determines whether a pixel having a predetermined resolution is obtained. For example, if the predetermined resolution is a pixel having twice the density in the vertical direction with respect to the pixels of the input image, the extrapolation interpolation unit 3402 determines that an image of the predetermined resolution has been obtained by the above processing. However, for example, when a pixel having a density four times as high as that of the pixel of the input image (twice in the horizontal direction × twice in the vertical direction) is desired, the above processing is performed with a predetermined resolution. This means that no pixel is obtained. Therefore, when an image with a density four times as high as desired, the extrapolation interpolation unit 3402 determines that a pixel with a predetermined resolution has not been obtained, and the process returns to step S3403.
[2068]
In step S3403, the extrapolation interpolation unit 3402 tries to generate the pixels P01, P02, P03, and P04 to be obtained (pixels having a density four times the pixel of interest Pin) in the second process. Each shift amount from the center position of the pixel is obtained. That is, in this case, since the pixels P01 and P02 are obtained from the pixel Pa, the shift amounts from the pixel Pa are respectively obtained. Here, since the pixels P01 and P02 are shifted by −0.25 and 0.25, respectively, in the spatial direction X as viewed from the pixel Pa, the values themselves become shift amounts (because they are shifted in the spatial direction X). Similarly, since the pixels P03 and P04 are shifted by −0.25 and 0.25 in the spatial direction X as viewed from the pixel Pb, the values themselves become the shift amounts. In FIG. 283, pixels P01, P02, P03, and P04 are squares with the positions of the four crosses in the figure as the center of gravity, and the length of each side is 1 for each pixel Pin. Therefore, the pixels P01, P02, P03, and P04 are approximately 0.5, respectively.
[2069]
In step S3404, the extrapolation interpolation unit 3402 includes the shift amount Cx obtained in the process of step S3403 and the inclination at a predetermined position on the approximate function f (x) of the pixels Pa and Pb obtained as real world estimation information. Based on f (Xin−Cx (−0.25)) ′, f (Xin−Cx (0.25)) ′ and the pixel values of the pixels Pa and Pb obtained by the above processing, the following expression is obtained by extrapolation. The pixel values of the pixels P01, P02, P03, and P04 are obtained from (208) to (211) and stored in a memory (not shown).
[2070]

[2071]

[2072]

[2073]

[2074]
In the above expressions (208) to (211), P01 to P04 indicate the pixel values of the pixels P01 to P04.
[2075]
In step S3405, the extrapolation interpolation unit 3402 determines whether or not a pixel with a predetermined resolution has been obtained. In this case, a pixel having a density four times as high as desired is obtained. The extrapolation interpolation unit 3402 determines that a pixel with a predetermined resolution has been obtained, and the process proceeds to step S3406.
[2076]
In step S3406, the inclination acquisition unit 3401 determines whether or not processing has been performed on all pixels. If it is determined that processing has not yet been performed on all pixels, the processing returns to step S3402, The subsequent processing is repeated.
[2077]
In step S3406, if the inclination acquisition unit 3401 determines that all pixels have been processed, in step S3407, the extrapolation interpolation unit 3402 stores the generated pixel image stored in a memory (not shown). Is output.
[2078]
That is, as shown in FIG. 284, a new pixel is used according to the distance in the spatial direction X from the target pixel for which the slope is obtained using the slope f (x) ′ on the approximation function f (x). Are obtained by extrapolation.
[2079]
In the above example, the gradient (differential value) when calculating a quadruple density pixel has been described as an example. However, if information on the gradient at more positions can be obtained as real-world estimation information. It is also possible to calculate pixels having a higher density in the spatial direction by the same method as described above.
[2080]
Further, in the above example, the example of obtaining the double-density pixel value has been described. However, since the approximate function f (x) is a continuous function, a necessary gradient (differential value) is also required for pixel values other than the double density. If this information is obtained, it is possible to generate an image composed of pixels with higher density.
[2081]
According to the above, based on the information of the slope (or differential value) f (x) ′ of the approximation function f (x) that approximates the real world of each pixel of the input image supplied as real world estimation information in the spatial direction. Thus, it is possible to generate pixels of an image having a higher resolution than the input image.
[2082]
Next, referring to FIG. 285, each pixel on the function f (t) in the frame direction (time direction) in which the real world estimation information input from the real world estimation unit 102 approximately represents the real world. The image generation unit 103 that newly generates a pixel based on the differential value or inclination of each pixel and outputs an image will be described.
[2083]
The inclination acquisition unit 3411 has information on the inclination at the position of each pixel, the pixel value of the corresponding pixel on the approximation function f (t) that approximately represents the real world input from the real world estimation unit 102, and The stationary motion is acquired and output to the extrapolation interpolation unit 3412.
[2084]
The extrapolation interpolation unit 3412 performs extrapolation interpolation based on the gradient on the approximate function f (t) of each pixel input from the gradient acquisition unit 3411, the pixel value of the corresponding pixel, and the stationary motion. Then, high-density pixels with a predetermined magnification than the input image are generated and output as an output image.
[2085]
Next, image generation processing by the image generation unit 103 in FIG. 285 will be described with reference to the flowchart in FIG. 286.
[2086]
In step S3421, the inclination acquisition unit 3411 receives the inclination (differential value), position, pixel value, and stationary motion of the approximate function f (t) of each pixel input from the real world estimation unit 102. Information is acquired as real world estimated information.
[2087]
At this time, for example, in the case of generating an image composed of pixels having a density twice (totally four times) in the spatial direction and in the frame direction with respect to the input image, the real world estimation unit 102 shows that in FIG. In this case, the slope f (Tin) ′ (the slope at the center position of the pixel Pin), f (Tin−Ct (−0.25)) ′ (a pixel having a double density in the Y direction is generated from the pixel Pin. The inclination of the center position of the pixel Pat when the pixel Pbt is generated), f (Tin−Ct (0.25)) ′ (the inclination of the center position of the pixel Pbt when a double-density pixel is generated in the Y direction from the pixel Pin), Information on the position, pixel value, and stationary motion (motion vector) of the pixel Pin is input.
[2088]
In step S 3422, the inclination acquisition unit 3411 selects corresponding pixel information of interest from the input real world estimation information, and outputs the selected information to the extrapolation interpolation unit 3412.
[2089]
In step S3423, the extrapolation interpolation unit 3412 obtains a shift amount from the input position information of the pixel and the gradient in the continuity direction.
[2090]
Here, the shift amount Ct (ty) has a stationary motion (inclination with respect to a plane composed of a frame direction and a spatial direction) of V._f, Ct (ty) = ty / V_fDefined by This shift amount Ct (ty) indicates the shift width of the approximate function f (t) defined on the position in the spatial direction Y = 0 with respect to the frame direction T at the position in the spatial direction Y = ty. Therefore, for example, when the approximate function is defined as f (t) on the position of the spatial direction Y = 0, the approximate function f (t) is Ct ( The approximate function is f (t−Ct (ty)) (= f (t−ty / V_f)).
[2091]
For example, in the case of a pixel Pin as shown in FIG. 287, one pixel in the figure (the size of one pixel in the figure is 1 in both the frame direction and the spatial direction) is 2 in the spatial direction. When dividing (when generating double-density pixels in the spatial direction), the extrapolation interpolation unit 3412 obtains the shift amounts of the pixels Pat and Pbt to be obtained. In other words, in this case, since the pixels Pat and Pbt are shifted by −0.25 and 0.25, respectively, in the spatial direction Y as viewed from the pixel Pin, the shift amounts of the pixels Pat and Pbt are Ct (−0.25), Ct (0.25). In FIG. 287, the pixel Pin is a square having (Xin, Yin) as the approximate center of gravity, and the pixels Pat and Pbt are approximately (Xin, Yin + 0.25) and (Xin, Yin−0.25), respectively. The center of gravity is a rectangle that is long in the horizontal direction in the figure.
[2092]
In step S3424, the extrapolation interpolation unit 3412 obtains the shift amount obtained in step S3423, the gradient f (Tin on the target pixel on the approximate function f (t) of the pixel Pin obtained as the real world estimation information. ) ′ And the pixel value of the pixel Pin, the pixel values of the pixels Pat and Pbt are obtained by the following equations (212) and (213) by extrapolation.
[2093]

[2094]

[2095]
In the above equations (212) and (213), Pat, Pbt, and Pin indicate pixel values of the pixels Pat, Pbt, and Pin.
[2096]
That is, as shown in FIG. 288, the change amount of the pixel value is set by multiplying the gradient f (Xin) ′ in the pixel of interest Pin by the movement distance in the X direction, that is, the shift amount, and the pixel value of the pixel of interest Is used as a reference to set a pixel value of a newly generated pixel.
[2097]
In step S3425, the extrapolation interpolation unit 3412 determines whether a pixel having a predetermined resolution is obtained. For example, if the predetermined resolution is a pixel having twice the density in the spatial direction with respect to the pixels of the input image, the extrapolation interpolation unit 3402 determines that an image of the predetermined resolution has been obtained by the above processing. However, for example, when a pixel having a density four times as high as the pixel of the input image (twice in the frame direction × twice in the spatial direction) is desired, the above processing is performed with a predetermined resolution. This means that no pixel is obtained. Therefore, when an image with a density four times as high as desired, the extrapolation interpolation unit 3412 determines that a pixel with a predetermined resolution has not been obtained, and the process returns to step S3423.
[2098]
In step S3423, the extrapolation interpolation unit 3412 attempts to generate pixels P01t, P02t, P03t, and P04t to be obtained (pixels having a density that is four times the pixel of interest Pin) in the second process. Each shift amount from the center position of the pixel is obtained. That is, in this case, since the pixels P01t and P02t are obtained from the pixel Pat, the shift amounts from the pixel Pat are respectively obtained. Here, since the pixels P01t and 02t are shifted by −0.25 and 0.25, respectively, in the frame direction T as viewed from the pixel Pat, the values themselves become shift amounts (because they are shifted in the spatial direction X). Similarly, since the pixels P03t and P04t are shifted by −0.25 and 0.25, respectively, in the frame direction T as viewed from the pixel Pbt, the values themselves become the shift amounts. In FIG. 287, the pixels P01t, P02t, P03t, and P04t are squares with the positions of the four crosses in the figure as the center of gravity, and the length of each side is 1 for the pixel Pin. Therefore, the pixels P01t, P02t, P03t, and P04t are each approximately 0.5.
[2099]
In step S3424, the extrapolation interpolation unit 3412 obtains the shift amount Ct obtained in the process of step S3423, the inclination at a predetermined position on the approximate function f (t) of the pixels Pat and Pbt obtained as real world estimation information. Based on f (Tin−Ct (−0.25)) ′, f (Tin−Ct (0.25)) ′, and the pixel values of the pixels Pat and Pbt obtained by the above processing, the following expression is obtained by extrapolation. The pixel values of the pixels P01t, P02t, P03t, and P04t are obtained by (214) to (217) and stored in a memory (not shown).
[2100]

[2101]

[2102]

[2103]

[2104]
In the above expressions (208) to (211), P01t to P04t indicate the pixel values of the pixels P01t to P04t.
[2105]
In step S3425, the extrapolation interpolation unit 3412 determines whether or not a pixel with a predetermined resolution has been obtained. In this case, a pixel having a desired quadruple density has been obtained. The interpolation unit 3412 determines that a pixel with a predetermined resolution has been obtained, and the process proceeds to step S3426.
[2106]
In step S3426, the inclination acquisition unit 3411 determines whether or not processing has been performed for all pixels. If it is determined that processing has not been performed for all pixels, the processing returns to step S3422, and The subsequent processing is repeated.
[2107]
In step S3426, when it is determined that the processing has been performed on all the pixels, in step S3427, the extrapolation interpolation unit 3412 includes generated pixels stored in a memory (not shown). Output an image.
[2108]
That is, as shown in FIG. 288, a new value is added according to the number of frames away from the target pixel for which the inclination is obtained using the inclination f (t) ′ on the approximation function f (t). The pixel value of the pixel is obtained by extrapolation interpolation.
[2109]
In the above example, the gradient (differential value) when calculating a quadruple density pixel has been described as an example. However, if information on the gradient at more positions can be obtained as real-world estimation information. It is also possible to calculate pixels having a higher density in the frame direction by the same method as described above.
[2110]
Moreover, although the example which calculates | requires the pixel value of double density has been demonstrated about the above example, since approximate function f (t) is a continuous function, it is also necessary gradient (differential value) also about pixel values other than double density. If this information is obtained, it is possible to generate an image composed of pixels with higher density.
[2111]
Based on the above processing, based on information on the slope (or differential value) f (t) 'of the approximate function f (t) that approximates the real world of each pixel of the input image supplied as real world estimation information in the frame direction Thus, it is possible to generate pixels of an image having a higher resolution than the input image in the frame direction.
[2112]
According to the above, a real-world optical signal is projected by a plurality of detection elements of the sensor, each having a spatiotemporal integration effect, and a part of the continuity of the real-world optical signal is lost, and is projected by a detection element The continuity of the data in the image data composed of a plurality of pixels having pixel values is detected, and corresponding to the detected continuity, the pixel of interest in the image data is shifted in the one-dimensional direction in the spatio-temporal direction. The inclination of the pixel values of a plurality of pixels at the position is estimated as a function corresponding to the optical signal in the real world, and the straight line having the inclination around the position shifted in the one-dimensional direction from the center position of the target pixel is within the target pixel. Since the values at both ends arranged in are generated as pixel values of pixels having higher resolution than the target pixel, it is possible to generate pixels having higher resolution in the spatio-temporal direction than the input image.
[2113]
Next, still another example of the embodiment of the image generation unit 103 (FIG. 3) will be described with reference to FIGS. 289 to 314.
[2114]
FIG. 289 shows a configuration example of the image generation unit 103 to which the embodiment of this example is applied.
[2115]
The image generation unit 103 illustrated in FIG. 289 includes a class classification adaptation processing unit 3501 that executes a conventional class classification adaptation process, and a class classification that performs a correction process (details of the process will be described later) for the class classification adaptation process. An addition unit that adds the image output from the adaptive processing correction unit 3502 and the class classification adaptive processing unit 3501 and the image output from the class classification adaptive processing correction unit 3502 and outputs the added image to the outside as an output image 3503 is provided.
[2116]
Hereinafter, an image output from the class classification adaptive processing unit 3501 is referred to as a predicted image, and an image output from the class classification adaptive processing correction unit 3502 is referred to as a corrected image or a difference predicted image. However, the origin of the names of the prediction image and the difference prediction image will be described later.
[2117]
In the embodiment of this example, it is assumed that the class classification adaptation process is, for example, a process for improving the spatial resolution of the input image. That is, it is assumed that the processing is to convert an input image, which is a standard resolution image, into a predicted image, which is a high resolution image.
[2118]
Hereinafter, the standard resolution image is referred to as an SD (Standard Definition) image as appropriate. Further, the pixels constituting the SD image are appropriately referred to as SD pixels.
[2119]
On the other hand, hereinafter, a high-resolution image is appropriately referred to as an HD (High Definition) image. Further, the pixels constituting the HD image are appropriately referred to as HD pixels.
[2120]
Specifically, in the embodiment of this example, the class classification adaptive processing is the following processing.
[2121]
That is, first, in order to obtain the HD pixel of the predicted image (HD image) in the target pixel (SD pixel) of the input image (SD image), the SD pixel (hereinafter referred to as the following) including the target pixel is included. Such SD pixels are referred to as class taps), and each of the feature quantities is determined, and a class previously classified for each feature quantity is specified (a class code of a class tap group is specified).
[2122]
And each coefficient which comprises the coefficient group corresponding to the specified class code among the plurality of preset coefficient groups (each coefficient group corresponds to one predetermined class code) The product sum using the neighboring SD pixels including the target pixel (hereinafter, such SD pixels of the input image are referred to as prediction taps. Note that the prediction tap may be the same as the class tap). By executing the calculation, the HD pixel of the predicted image (HD image) in the target pixel (SD pixel) of the input image (SD image) is obtained.
[2123]
Therefore, in the embodiment of this example, the input image (SD image) is subjected to the conventional class classification adaptation processing in the class classification adaptation processing unit 3501 to become a predicted image (HD image), and further, the addition unit 3503 The predicted image is corrected with the corrected image from the class classification adaptive processing correction unit 3502 (added with the corrected image) to become an output image (HD image).
[2124]
That is, it can be said that the embodiment of this example is one embodiment of the image generation unit 103 in the image processing apparatus (FIG. 3) that performs processing using continuity from the viewpoint of continuity. On the other hand, from the viewpoint of the class classification adaptive process, the data continuity is corrected in order to correct the class classification adaptive process for the conventional image processing apparatus including the sensor 2 and the class classification adaptive processing unit 3501. It can also be said that this is an embodiment of an image processing apparatus to which a detection unit 101, a real world estimation unit 102, a class classification adaptive processing correction unit 3502, and an addition unit 3503 are further added.
[2125]
Therefore, hereinafter, the embodiment of this example is referred to as a class classification adaptive processing correction method with respect to the reintegration method described above.
[2126]
The image generation unit 103 that uses the class classification adaptive processing correction method will be described in more detail.
[2127]
In FIG. 289, when a signal of the real world 1 (light intensity distribution), which is an image, enters the sensor 2, an input image is output from the sensor 2. This input image is input to the data continuity detecting unit 101 and also to the class classification adaptive processing unit 3501 of the image generating unit 103.
[2128]
The class classification adaptation processing unit 3501 performs a conventional class classification adaptation process on the input image to generate a predicted image, and outputs the prediction image to the addition unit 3503.
[2129]
As described above, the class classification adaptive processing unit 3501 uses the input image (image data) from the sensor 2 as a reference and the input image itself as a processing target. That is, although the input image from the sensor 2 is different (distorted) from the signal of the real world 1 due to the integration effect described above, the classification adaptation processing unit 3501 does not Processing is performed with an input image different from the signal as positive.
[2130]
As a result, the input image (SD image) in which the details of the real world 1 are destroyed at the stage of output from the sensor 2 is not completely restored even if it is converted to an HD image by the classification adaptation process. The problem that there is a thing occurs.
[2131]
Therefore, in order to solve this problem, in the class classification adaptive processing correction method, the class classification adaptive processing correction unit 3502 of the image generation unit 103 is not an input image from the sensor 2 but before entering the sensor 2. Based on information (real world estimation information) for estimating the original image (real world 1 signal having a predetermined stationarity), the real world estimation information is output from the class classification adaptive processing unit 3501 as a processing target. A corrected image for correcting the predicted image is generated.
[2132]
This real world estimation information is generated by the data continuity detection unit 101 and the real world estimation unit 102.
[2133]
That is, the data continuity detecting unit 101 detects the continuity of data included in the input image from the sensor 2 (data continuity corresponding to the continuity of the signal of the real world 1 incident on the sensor 2). The detection result is output to the real world estimation unit 102 as data continuity information.
[2134]
Note that the data continuity information is an angle in the example of FIG. 289, but is not limited to the angle, and various information described above can be used.
[2135]
The real world estimation unit 102 generates real world estimation information based on the input angle (data continuity information), and outputs it to the class classification adaptive processing correction unit 3502 of the image generation unit 103.
[2136]
The real world estimation information is a feature amount image (details will be described later) in the example of FIG. 289, but is not limited to the feature amount image, and various information described above can be used.
[2137]
The class classification adaptive processing correction unit 3502 generates a corrected image based on the input feature amount image (real world estimation information), and outputs the corrected image to the addition unit 3503.
[2138]
The adding unit 3503 adds the predicted image output from the class classification adaptive processing unit 3501 and the corrected image output from the class classification adaptive processing correction unit 3502, and outputs the added image (HD image) as an output image to the outside. To do.
[2139]
The output image output in this way is an image closer to the real world 1 signal (image) than the predicted image. That is, the class classification adaptive processing correction method is a method capable of solving the above-described problems.
[2140]
Furthermore, by configuring the signal processing device (image processing device) 4 as shown in FIG. 289, it becomes possible to apply processing to the entire frame. That is, in a signal processing device (for example, FIG. 315 to be described later) using a combination method described later, it is necessary to generate an output image after specifying a pixel region, but the signal processing device 4 in FIG. This makes it possible to produce an effect that it is not necessary to specify this region.
[2141]
Next, details of the class classification adaptation processing unit 3501 in the image generation unit 103 will be described.
[2142]
FIG. 290 shows a configuration example of the class classification adaptation processing unit 3501.
[2143]
In FIG. 290, an input image (SD image) input from the sensor 2 is supplied to an area extraction unit 3511 and an area extraction unit 3515, respectively. The region extraction unit 3511 extracts class taps (SD pixels existing in a preset position including a target pixel (SD pixel)) necessary for performing class classification from the supplied input image, and a pattern detection unit Output to 3512. The pattern detection unit 3512 detects the pattern of the input image based on the input class tap.
[2144]
The class code determination unit 3513 determines a class code based on the pattern detected by the pattern detection unit 3512 and outputs the class code to the coefficient memory 3514 and the region extraction unit 3515. The coefficient memory 3514 stores a coefficient for each class code obtained in advance by learning, reads a coefficient corresponding to the class code input from the class code determination unit 3513, and outputs the coefficient to the prediction calculation unit 3516.
[2145]
The coefficient learning process in the coefficient memory 3514 will be described later with reference to the block diagram of the class classification adaptive process learning unit in FIG.
[2146]
The coefficient stored in the coefficient memory 3514 is a coefficient used when generating a predicted image (HD image), as will be described later. Therefore, hereinafter, the coefficient stored in the coefficient memory 3514 is referred to as a prediction coefficient in order to distinguish it from other coefficients.
[2147]
Based on the class code input from the class code determination unit 3513, the region extraction unit 3515 performs prediction necessary for predicting and generating a predicted image (HD image) from the input image (SD image) input from the sensor 2. A tap (an SD pixel existing at a preset position including the target pixel) is extracted corresponding to the class code, and is output to the prediction calculation unit 3516.
[2148]
The prediction calculation unit 3516 performs a product-sum calculation using the prediction tap input from the region extraction unit 3515 and the prediction coefficient input from the coefficient memory 3514, and the target pixel (SD pixel) of the input image (SD image). ) Of the predicted image (HD image) in FIG.
[2149]
More specifically, the coefficient memory 3514 outputs a prediction coefficient corresponding to the class code supplied from the class code determination unit 3513 to the prediction calculation unit 3516. The prediction calculation unit 3516 uses the prediction tap extracted from the pixel value at a predetermined pixel position of the input image supplied from the region extraction unit 3515 and the prediction coefficient supplied from the coefficient memory 3514, and uses the following formula ( The HD pixel of the predicted image (HD image) is obtained (predicted and estimated) by executing the product-sum operation indicated by 218).
[2150]
[Formula 168]

... (218)
[2151]
In Expression (218), q ′ represents an HD pixel of the predicted image (HD image). c_iEach (i is an integer value from 1 to n) represents each prediction tap (SD pixel). D_iEach represents a prediction coefficient.
[2152]
As described above, the class classification adaptive processing unit 3501 predicts and estimates the HD image corresponding to the SD image (input image). Therefore, here, the HD image output from the class classification adaptive processing unit 3501 is referred to as a predicted image. It is called.
[2153]
FIG. 291 shows a prediction coefficient (formula (21)) stored in the coefficient memory 3514 of the class classification adaptive processing unit 3501.8D)_i) Represents a learning device (prediction coefficient calculation device).
[2154]
In the class classification adaptive processing correction method, in addition to the coefficient memory 3514, a coefficient memory (a correction coefficient memory 3554 shown in FIG. 299 described later) of the class classification adaptive processing correction unit 3502 is provided. Therefore, as shown in FIG. 291, the learning apparatus 3504 in the class classification adaptive processing technique has a prediction coefficient (d in the equation (215) stored in the coefficient memory 3514 of the class classification adaptive processing unit 3501._i) In addition to a learning unit 3521 (hereinafter referred to as a class classification adaptive processing learning unit 3521) for determining, a learning for determining a coefficient stored in the correction coefficient memory 3554 of the class classification adaptive processing correction unit 3502 A unit 3561 (hereinafter referred to as a class classification adaptive processing correction learning unit 3561) is provided.
[2155]
Accordingly, hereinafter, the teacher image in the class classification adaptive processing learning unit 3521 is referred to as a first teacher image, whereas the teacher image in the class classification adaptive processing correction learning unit 3561 is referred to as a second teacher image. Similarly, the student image in the class classification adaptive processing learning unit 3521 is hereinafter referred to as a first student image, while the student image in the class classification adaptive processing correction learning unit 3561 is referred to as a second student image.
[2156]
The class classification adaptive processing correction learning unit 3561 will be described later.
[2157]
FIG. 292 illustrates a detailed configuration example of the class classification adaptive processing learning unit 3521.
[2158]
In FIG. 292, a predetermined image is input as a first teacher image (HD image) to each of the down-converter 3531 and the normal equation generator 3536, and the class classification adaptive processing correction learning unit 3561 (FIG. 291). Is input.
[2159]
The down-converter 3531 generates a first student image (SD image) having a resolution lower than that of the first teacher image from the input first teacher image (HD image) (down the first teacher image). The converted image is used as the first student image), and is output to each of the region extraction unit 3532, the region extraction unit 3535, and the class classification adaptive processing correction learning unit 3561 (FIG. 291).
[2160]
Thus, since the class classification adaptive processing learning unit 3521 is provided with the down-conversion unit 3531, the first teacher image (HD image) is obtained from the input image from the sensor 2 (FIG. 289) described above. Need not be a high-resolution image. This is because if the first student image obtained by down-converting the first teacher image (reduced resolution) is an SD image, the first teacher image corresponding to the first student image is an HD image. is there. Therefore, the first teacher image may be the input image itself from the sensor 2, for example.
[2161]
The region extraction unit 3532 extracts class taps (SD pixels) necessary for class classification from the supplied first student image (SD image) and outputs the class taps (SD pixels) to the pattern detection unit 3533. The pattern detection unit 3533 detects the input class tap pattern and outputs the detection result to the class code determination unit 3534. Class code determination unit 3534 determines a class code corresponding to the input pattern, and outputs the class code to each of region extraction unit 3535 and normal equation generation unit 3536.
[2162]
The region extraction unit 3535 extracts a prediction tap (SD pixel) from the first student image (SD image) input from the down-conversion unit 3531 based on the class code input from the class code determination unit 3534, It outputs to each of the equation generation unit 3536 and the prediction calculation unit 3558.
[2163]
Note that each of the region extraction unit 3532, the pattern detection unit 3533, the class code determination unit 3534, and the region extraction unit 3535 described above includes the region extraction unit 3511, the pattern detection unit 3512, and the class of the class classification adaptive processing unit 3501 in FIG. Each of the code determination unit 3513 and the region extraction unit 3515 has basically the same configuration and function.
[2164]
The normal equation generation unit 3536, for all class codes input from the class code determination unit 3534, predicts taps of the first student image (SD image) input from the region extraction unit 3535 for each class code ( A normal equation is generated from the SD pixels) and the HD pixels of the first teacher image (HD image) and supplied to the coefficient determination unit 3537. When a normal equation corresponding to a predetermined class code is supplied from the normal equation generation unit 3537, the coefficient determination unit 3537 calculates each prediction coefficient from the normal equation, and stores it in the coefficient memory 3514 in association with the class code. And supply it to the prediction calculation unit 3538.
[2165]
The normal equation generation unit 3536 and the coefficient determination unit 3537 will be described in more detail.
[2166]
In the above equation (218), before learning, the prediction coefficient d_iEach is an undetermined coefficient. Learning is performed by inputting HD pixels of a plurality of teacher images (HD images) for each class code. There are m HD pixels corresponding to a predetermined class code, and each of the m HD pixels is represented by q_kWhen describing (k is an integer value of 1 to m), the following equation (219) is set from the equation (218).
[2167]
[Expression 169]

... (219)
[2168]
That is, the expression (219) is obtained by calculating the right side to obtain a predetermined HD pixel q_kRepresents that it is possible to predict and estimate. In formula (219), e_kRepresents an error. That is, the HD pixel q of the predicted image (HD image) that is the calculation result on the right side_k'Is the actual HD pixel q_kDoes not exactly match the predetermined error e_kincluding.
[2169]
Therefore, in the equation (219), for example, the error e_kPrediction coefficient d that minimizes the sum of squares of_iHowever, it can be obtained by learning.
[2170]
Specifically, for example, the HD pixel q is set so that m> n._kCan be collected by learning, the prediction coefficient d is calculated by the method of least squares._iIs uniquely determined.
[2171]
That is, the prediction coefficient d on the right side of Equation (219)_iA normal equation in the case of obtaining the value by the method of least squares is represented by the following equation (220).
[2172]
[Expression 170]

... (220)
[2173]
Accordingly, when the normal equation represented by the equation (220) is generated, the prediction coefficient d is solved by solving the normal equation._iIs uniquely determined.
[2174]
Specifically, when each of the matrices of the normal equation represented by the equation (220) is defined as the following equations (221) to (223), the normal equation is expressed as the following equation (224): expressed.
[2175]
[Equation 171]

... (221)
[2176]
172

... (222)
[2177]
[Equation 173]

... (223)
[2178]
174

... (224)
[2179]
As shown in equation (222), matrix D_MATEach component of_iIt is. Therefore, in the equation (224), the left side matrix C_MATAnd right-hand side matrix Q_MATIs determined, the matrix D is obtained by matrix solution._MAT(Ie, prediction coefficient d_i) Can be calculated.
[2180]
More specifically, as shown in the equation (221), the matrix C_MATEach component of the prediction tap c_ikIf is known, computation is possible. Prediction tap c_ikIs extracted by the region extraction unit 3535, the normal equation generation unit 3536 is supplied with the prediction tap c supplied from the region extraction unit 3535._ikMatrix C using each of_MATEach component of can be calculated.
[2181]
Further, as shown in the equation (223), the matrix Q_MATEach component of the prediction tap c_ikAnd HD pixel q_kIf is known, computation is possible. Prediction tap c_ikIs the matrix C_MATAre the same as those included in each component of HD pixel q_kIs the prediction tap c_ikIs the HD pixel of the first teacher image with respect to the target pixel (SD pixel of the first student image) included in the. Therefore, the normal equation generation unit 3536 has the prediction tap c supplied from the region extraction unit 3535._ikAnd the matrix Q using the first teacher image_MATEach component of can be calculated.
[2182]
In this way, the normal equation generation unit 3536 generates a matrix C for each class code._MATAnd matrix Q_MATAre calculated and the calculation result is supplied to the coefficient determination unit 3537 in association with the class code.
[2183]
The coefficient determination unit 3537, based on the normal equation corresponding to the supplied predetermined class code, the matrix D of the above equation (224)._MATPrediction coefficient d which is each component of_iIs calculated.
[2184]
Specifically, the normal equation of the above-described equation (224) can be transformed as the following equation (225).
[2185]
[Expression 175]

... (225)
[2186]
In equation (225), the left side matrix D_MATEach component of_iIt is. Matrix C_MATAnd matrix Q_MATEach of the components is supplied from the normal equation generation unit 3536. Accordingly, the coefficient determination unit 3537 receives the matrix C corresponding to the predetermined class code from the normal equation generation unit 3536._MATAnd matrix Q_MATWhen the respective components are supplied, the matrix D is calculated by performing the matrix operation on the right side of Expression (225)._MATAnd the calculation result (prediction coefficient d_i) Is stored in the coefficient memory 3514 in association with the class code and supplied to the prediction calculation unit 3538.
[2187]
The prediction calculation unit 3538 performs a product-sum operation using the prediction tap input from the region extraction unit 3535 and the prediction coefficient determined by the coefficient determination unit 3537, and attention is paid to the first student image (SD image). An HD pixel of a predicted image (an image for predicting the first teacher image) in the pixel (SD pixel) is generated, and is output as a learning predicted image to the class classification adaptive processing correction learning unit 3561 (FIG. 291). .
[2188]
More specifically, the prediction calculation unit 3538 calculates the prediction tap extracted from the pixel value at the predetermined pixel position of the first student image supplied from the region extraction unit 3535 as c_i(I is an integer value from 1 to n), and the prediction coefficient supplied from the coefficient determination unit 3537 is d_iAs a result, the product-sum operation represented by the above equation (218) is executed to obtain the HD pixel q ′ of the learning predicted image (HD image) (predicting and estimating the first teacher image).
[2189]
Here, with reference to FIG. 293 to FIG. 298, the problem of the above-described conventional class classification adaptation processing (class classification adaptation processing unit 3501), that is, the real world 1 at the stage output from the sensor 2 in FIG. Even if the input image (SD image) in which the details of the image are crushed is converted into an HD image (predicted image for predicting the signal of the real world 1) by the class classification adaptive processing unit 3501, the original details are not completely restored. Explain the problem that there is.
[2190]
FIG. 293 shows an example of the processing result of the class classification adaptation processing unit 3501.
[2191]
In FIG. 293, an HD image 3541 is an image including an image of a thin line inclined approximately 5 degrees clockwise from the vertical direction in the figure. The SD image 3542 generates an average value of pixel values of pixels (HD pixels) belonging to a block composed of 2 × 2 pixels (HD pixels) of the HD image 3541 as a pixel value of one pixel (SD pixel). It is an image that was made. In other words, the SD image 3542 is an image obtained by down-converting the HD image 3541 (with reduced resolution).
[2192]
In other words, the HD image 3541 is an image imitating an image before entering the sensor 2 (FIG. 289) (signal of the real world 1 (FIG. 289)). In this case, the SD image 3542 corresponds to an image obtained by applying, to the HD image 3541, integration in the spatial direction simulating the integration characteristics of the sensor 2. That is, the SD image 3542 is an image imitating an input image from the sensor 2.
[2193]
Further, the SD image 3542 is input to the class classification adaptation processing unit 3501 (FIG. 289), and the prediction image output from the class classification adaptation processing unit 3501 is the prediction image 3543. That is, the predicted image 3543 is an HD image (an image having the same resolution as the original HD image 3541) generated by the conventional classification adaptation process. However, the prediction coefficient (prediction coefficient stored in the coefficient memory 3514 (FIG. 290)) used by the class classification adaptive processing unit 3501 for the prediction calculation uses the HD image 3541 as the first teacher image and the SD image 3542 as the first image. As one student image, the learning processing unit 3561 (FIG. 292) for class classification adaptation processing performs learning calculation.
[2194]
Comparing each of the HD image 3541, the SD image 3542, and the predicted image 3543, it can be seen that the predicted image 3543 is closer to the HD image 3541 than the SD image 3542.
[2195]
As a result of the comparison, the class classification adaptation processing unit 3501 performs a conventional class classification adaptation process on the SD image 3542 in which the details of the HD image 3541 are crushed, thereby restoring the predicted image in which the original details are restored. This means that 3543 can be generated.
[2196]
However, when the predicted image 3543 and the HD image 3541 are compared, it is difficult to say that the predicted image 3543 is an image in which the HD image 3541 is completely restored.
[2197]
Therefore, in order to investigate the reason why the predicted image 3543 cannot completely restore the HD image 3541, the applicant of the present application uses the predetermined adder 3546 to add the HD image 3541 and the inverted input of the predicted image 3543. That is, a difference image 3544 between the HD image 3541 and the predicted image 3543 (an image having a pixel close to white when the pixel difference is large and a pixel close to black when the pixel difference is small) 3544 is generated.
[2198]
Similarly, the applicant of the present application uses a predetermined adder 3547 to add an HD image 3541 and an inverted image of the SD image 3542, that is, a difference image between the HD image 3541 and the SD image 3542 (a pixel difference is large). In this case, a pixel close to white and a pixel close to black when the pixel difference is small) 3545 is generated.
[2199]
The applicant of the present application obtained the following investigation result by comparing the difference image 3544 and the difference image 3545 thus generated.
[2200]
That is, a region with a large difference between the HD image 3541 and the SD image 3542 (region close to white in the difference image 3545) and a region with a large difference between the HD image 3541 and the predicted image 3543 (region close to white in the difference image 3544) are almost the same. It corresponds.
[2201]
In other words, the region in which the predicted image 3543 cannot completely restore the HD image 3541 is a region in the predicted image 3543 where the difference between the HD image 3541 and the SD image 3542 is large (region close to white in the difference image 3545). Almost matches.
[2202]
Therefore, in order to elucidate the cause of this survey result, the applicant of the present application further conducted the following survey.
[2203]
That is, the applicant of the present application firstly, in a region where the difference between the HD image 3541 and the predicted image 3543 is small (region close to black in the difference image 3544), the specific pixel value of the HD image 3541 and the specific image of the SD image 3542 The pixel value and the actual waveform (the real world 1 signal) corresponding to the HD image 3541 were investigated. The survey results are shown in FIGS. 294 and 295.
[2204]
FIG. 294 shows an example of the investigated area. In FIG. 294, in the drawing, the horizontal direction is the X direction, which is one direction in the spatial direction, and the vertical direction is the Y direction, which is the other direction in the spatial direction.
[2205]
That is, the applicant of the present application investigated a region 3544-1 of the difference image 3544 shown in FIG. 294 as an example of a region having a small difference between the HD image 3541 and the predicted image 3543.
[2206]
FIG. 295 shows a specific example of the HD image 3541 corresponding to four HD pixels from the left in the drawing among the six HD pixels continuous in the X direction included in the region 3544-1 shown in FIG. 294. The pixel value, the specific pixel value of the SD image 3542, and the actual waveform (real world 1 signal) are plotted.
[2207]
In FIG. 295, the vertical axis represents the pixel value, and the horizontal axis represents the x-axis parallel to the spatial direction X. On the x-axis, the origin is the leftmost position of the third HD pixel from the left in the figure among the six HD pixels of the difference image 3544, and a coordinate value is given with the origin as a reference. However, the coordinate value of the x-axis is attached with the pixel width of the HD pixel of the difference image 3544 as 0.5. That is, since the difference image 3544 is an HD image, the pixel width L of the HD image 3541 is_t(Hereafter, HD pixel width L_tAlso called 0.5). Therefore, in this case, the pixel width of the SD image 3542 (hereinafter referred to as SD pixel width L_sHD pixel width L_tSD pixel width L_sBecomes 1.
[2208]
In FIG. 295, the solid line represents the pixel value of the HD image 3541, the dotted line represents the pixel value of the SD image 3542, and the alternate long and short dash line represents the X cross-sectional waveform of the signal of the real world 1. However, since it is difficult to actually depict the waveform of the signal of the real world 1, the one-dot chain line shown in FIG. 295 represents the above-described one-dimensional polynomial approximation method (one embodiment of the real world estimation unit 102 in FIG. 289). ) Shows an approximate function f (x) in which the X-section waveform is approximated.
[2209]
Next, in the same manner as the above-described investigation of the region with a small difference, the applicant of the present application also describes the specific details of the HD image 3541 in the region with a large difference between the HD image 3541 and the predicted image 3543 (region close to white in the difference image 3544). The actual pixel value, the specific pixel value of the SD image 3542, and the actual waveform (the real world 1 signal) corresponding to the HD image 3541 were investigated. The survey results are shown in FIGS. 296 and 297.
[2210]
FIG. 296 shows an example of the investigated area. In FIG. 296, in the figure, the horizontal direction is the X direction, which is one direction in the spatial direction, and the vertical direction is the Y direction, which is the other direction in the spatial direction.
[2211]
That is, the applicant of the present application investigated a region 3544-2 of the difference image 3544 shown in FIG. 296 as an example of a region having a large difference between the HD image 3541 and the predicted image 3543.
[2212]
FIG. 297 shows a specific example of the HD image 3541 corresponding to four HD pixels from the left in the drawing among the six HD pixels continuous in the X direction included in the region 3544-2 shown in FIG. In this example, the pixel value, the specific pixel value of the SD image 3542, and the actual waveform (signal of the real world 1) are plotted.
[2213]
In FIG. 297, the vertical axis represents pixel values, and the horizontal axis represents the x-axis parallel to the spatial direction X. On the x-axis, the origin is the leftmost position of the third HD pixel from the left in the figure among the six HD pixels of the difference image 3544, and a coordinate value is given with the origin as a reference. However, the x-axis coordinate value is the SD pixel width L_sIs attached as 1.
[2214]
In FIG. 297, the solid line represents the pixel value of the HD image 3541, the dotted line represents the pixel value of the SD image 3542, and the alternate long and short dash line represents the X sectional waveform of the signal of the real world 1. However, the alternate long and short dash line shown in FIG. 297 shows the approximate function f (x) in which the X-section waveform is approximated, similarly to the alternate long and short dash line shown in FIG. 295.
[2215]
Comparing FIG. 295 and FIG. 297, it can be seen from the shape of the waveform of both approximate functions f (x) that each region includes a thin line region.
[2216]
However, in FIG. 295, the thin line region exists in the range of about x = 0 to x = 1, whereas in FIG. 297, the thin line region is about x = −0.5 to x = 0.5. Exists in range. That is, in FIG. 295, a thin line region is substantially included in one SD pixel of the SD image 3542 existing in the range of x = 0 to x = 1. On the other hand, in FIG. 297, one SD pixel of the SD image 3542 existing in the range of x = 0 to x = 1 includes only a part of the thin line area (the boundary between the fine line and the background is included). Will be).
[2217]
Therefore, in the state shown in FIG. 295, the difference between the pixel values (solid lines in the figure) of the two HD pixels of the HD image 3541 existing in the range of x = 0 to x = 1.0 is small. As a result, as a matter of course, the pixel value of one SD pixel of the SD image 3542 (dotted line in the figure), which is the average value of the pixel values of these two HD pixels, and the pixel value of the two HD pixels of the HD image 3541 The difference from each of these is small.
[2218]
In such a state (in the state shown in FIG. 295), one SD pixel of the SD image 3542 existing in the range of x = 0 to x = 1.0 is set as the pixel of interest, and x is converted by the conventional class classification adaptive processing. Consider a case where two HD pixels (pixels of the predicted image 3543) are generated in the range of = 0 to x = 1.0. In this case, as shown in FIG. 294, the HD pixels of the generated predicted image 3543 are those obtained by predicting the HD pixels of the HD image 3541 almost accurately. That is, as shown in FIG. 294, in the region 3544-1, the difference between the HD pixel of the predicted image 3543 and the HD pixel of the HD image 3541 is reduced, so that an image close to black is displayed.
[2219]
On the other hand, in the state shown in FIG. 297, the difference between the pixel values (solid lines in the figure) of the two HD pixels of the HD image 3541 existing in the range of x = 0 to x = 1.0 is large. As a result, as a matter of course, the pixel value of one SD pixel of the SD image 3542 (dotted line in the figure), which is the average value of the pixel values of these two HD pixels, and the pixel value of the two HD pixels of the HD image 3541 The difference from each of these is larger than the corresponding difference in FIG.
[2220]
In this state (in the state shown in FIG. 297), one SD pixel of the SD image 3542 existing in the range of x = 0 to x = 1.0 is set as the pixel of interest, and x is converted by the conventional class classification adaptive processing. Consider a case where HD pixels (pixels of the predicted image 3543) are generated in the range of = 0 to x = 1.0. In this case, as shown in FIG. 296, the HD pixels of the generated predicted image 3543 are not accurately predicted of the HD pixels of the HD image 3541. That is, as shown in FIG. 296, in the region 3544-2, the difference between the HD pixel of the predicted image 3543 and the HD pixel of the HD image 3541 becomes large, so an image close to white is displayed. .
[2221]
By the way, when comparing each of the approximate functions f (x) of the signal of the real world 1 in FIG. 295 and FIG. 297 (indicated by a one-dot chain line in the figure), in FIG. 295, in the range of x = 0 to x = 1. While the change amount of the approximate function f (x) is small, in FIG. 297, the change amount of the approximate function f (x) in the range of x = 0 to x = 1 is large.
[2222]
Accordingly, one SD pixel of the SD image 3542 existing in the range of x = 0 to x = 1.0 shown in FIG. 295 has a small change amount of the approximate function f (x) within the SD pixel (that is, the real world It can be said that this is an SD pixel.
[2223]
From this point of view, the above-described investigation result is reworded. For example, the approximate function f (x (x) in the SD pixel such as the SD pixel existing in the range of x = 0 to x = 1.0 shown in FIG. ) Is changed from an SD pixel having a small change in the real world 1 signal (ie, a change in the real world 1 signal is small) by the conventional classification adaptation process, the generated HD pixel is converted into the real world 1 signal ( In this case, the thin line image) is predicted almost accurately.
[2224]
In contrast, one SD pixel of the SD image 3542 existing in the range of x = 0 to x = 1.0 shown in FIG. 297 has a large change amount of the approximate function f (x) within the SD pixel (that is, It can be said that the change amount of the signal in the real world 1 is large).
[2225]
From this point of view, the above-described investigation result can be reworded. For example, the approximate function f (x (x) in the SD pixel such as the SD pixel existing in the range of x = 0 to x = 1.0 shown in FIG. ) Is generated from an SD pixel having a large change in the real world 1 signal (ie, a large change in the signal of the real world 1) by the conventional classification adaptation process, the generated HD pixel is converted into the signal of the real world 1 ( In this case, the image (thin line image) is not accurately predicted.
[2226]
Summarizing the above investigation results, in the state as shown in FIG. 298, it is difficult to restore the details in the pixels by conventional signal processing between pixels (for example, class classification adaptive processing). It is.
[2227]
That is, FIG. 298 is a diagram for explaining the knowledge obtained as a result of the above-described investigation by the applicant of the present application.
[2228]
In FIG. 298, the horizontal direction in the figure represents the X direction which is one of the directions (space directions) in which the detection elements of the sensor 2 (FIG. 289) are arranged, and the vertical direction in the figure represents the light direction. Represents a level or pixel value. The dotted line represents the X-section waveform F (x) of the signal of the real world 1 (FIG. 289), which is an image, and the solid line represents the signal (image of the real world 1 represented by the X-section waveform F (x). ) Represents the pixel value P output from the sensor 2. The width (length in the X direction) of one detection element of the sensor 2 is L_cΔP is the width L of one detection element of the sensor 2_cThat is, the pixel width L of the sensor 2_cRepresents the amount of change in the X-section waveform F (x).
[2229]
By the way, the above-described SD image 3542 (FIG. 293) imitates the input image (FIG. 289) from the sensor 2, and therefore the SD pixel width L of the SD image 3542._s(FIGS. 295 and 297) are the pixel width of sensor 2 (detection element width) L_cCan be thought of as
[2230]
In the above-described investigation, the real world 1 signal (approximate function f (x)) corresponding to the thin line is an investigation. However, the signal level of the real world 1 is not limited to the thin line.
[2231]
Therefore, when the above-described investigation result is applied to the state shown in FIG. 298, the result is as follows.
[2232]
That is, as shown in FIG. 298, an SD pixel (an output pixel from the sensor 2) having a large amount of change in the signal of the real world 1 (amount of change in the X sectional waveform F (x)) ΔP in the pixel is a target pixel. When the HD pixel (for example, the pixel of the predicted image output from the class classification adaptation processing unit 3501 in FIG. 289) is generated by the conventional class classification adaptation process, the generated HD pixel is the real world 1 The signal (X cross-sectional waveform F (x) in the example of FIG. 298) is not accurately predicted.
[2233]
Specifically, in the conventional method including class classification adaptive processing, image processing between pixels of the sensor 2 is performed.
[2234]
That is, as shown in FIG. 298, in the real world 1, even if the amount of change ΔP of the X sectional waveform F (x) is large in the region within one pixel, the sensor 2 outputs the X sectional waveform F. Only one pixel value P (ie, a uniform value P within one pixel) in which (x) is integrated (strictly speaking, the signal of the real world 1 is integrated in the space-time direction) is output.
[2235]
In the conventional technique, the pixel value P is used as a reference, and image processing is performed with the pixel value P as a processing target. In other words, in the conventional method, image processing is performed while ignoring changes in the real world 1 signal (X cross-sectional waveform F (x)) in the pixel, that is, details in the pixel.
[2236]
As described above, as long as the pixel is processed as a minimum unit, even if any image processing (class classification adaptive processing) is performed, the change in the signal of the real world 1 in the pixel can be accurately reproduced. Have difficulty. In particular, when the change amount ΔP of the signal in the real world 1 is large, the difficulty becomes more remarkable.
[2237]
In other words, the problem of the class classification adaptation process described above, that is, the input image (SD image) in which the details of the real world 1 are destroyed at the stage of output from the sensor 2 in FIG. Even if it is an HD image, the cause of the problem that the original details may not be completely restored may be caused by considering the change amount ΔP of the real world 1 signal within the pixel without considering the change ΔP of the real world 1 This is because the class classification adaptive processing is performed with a pixel having only a pixel value as a minimum unit.
[2238]
This problem is not limited to the class classification adaptive process, and is a problem that all of the conventional image processing methods have, and the cause of the problem is exactly the same.
[2239]
In the above, the problem which the conventional image processing method has, and its generation factor were explained.
[2240]
By the way, as described above, the data continuity detection unit 101 and the real world estimation unit 102 (FIG. 3) of the present invention use the continuity of the signal of the real world 1 to input images from the sensor 2 (that is, The image of the real world 1 can be estimated from the image in which the change of the signal of the real world 1 is ignored in the pixel). That is, the real world estimation unit 102 can output real world estimation information that can estimate the signal of the real world 1.
[2241]
Therefore, it is possible to estimate the amount of change in the signal of the real world 1 in the pixel from the real world estimation information.
[2242]
Therefore, the applicant of the present application estimates a prediction image (an image in which the real world 1 is predicted without considering the change of the real world 1 signal in the pixel) generated by the conventional classification adaptation process. By correcting with a predetermined corrected image generated based on information (an image in which an error of a predicted image caused by a change in the signal of the real world 1 in a pixel is estimated), the above-described problem can be solved. Based on this idea, for example, a class classification adaptive processing correction method as shown in FIG. 289 was invented.
[2243]
That is, in FIG. 289, the data continuity detection unit 101 and the real world estimation unit 102 generate real world estimation information, and the class classification adaptive processing correction unit 3502 performs a predetermined correction based on the generated real world estimation information. Generate an image. Then, the adding unit 3503 corrects the predicted image output from the class classification adaptive processing unit 3501 with the corrected image output from the class classification adaptive processing correction unit 3502 (specifically, the corrected image is added to the predicted image). The output image is output as an output image).
[2244]
The details of the class classification adaptive processing unit 3501 in the image generation unit 103 that uses the class classification adaptive processing correction method have already been described. Further, the form of the adding unit 3503 is not particularly limited as long as it can add the predicted image and the corrected image. For example, various adders and programs that exist in the past can be applied. Is possible.
[2245]
Therefore, details of the remaining class classification adaptive processing correction unit 3502 will be described below.
[2246]
First, the principle of the class classification adaptive processing correction unit 3502 will be described.
[2247]
As described above, in FIG. 293, the HD image 3541 is regarded as the original image (real world 1 signal) before being incident on the sensor 2 (FIG. 289), and the SD image 3542 is When regarded as an input image, the predicted image 3543 becomes a predicted image (a predicted image predicted from the original image (HD image 3541)) output from the class classification adaptive processing unit 3501.
[2248]
An image obtained by subtracting the predicted image 3543 from the HD image 3541 is a difference image 3544.
[2249]
Accordingly, if the class classification adaptive processing correction unit 3502 can generate the difference image 3544 and output the difference image 3544 as a correction image, the addition unit 3503 can output the predicted image 3543 output from the class classification adaptation processing unit 3501. The HD image 3541 can be restored by adding the difference image 3544 (corrected image) output from the class classification adaptive processing correction unit 3502.
[2250]
That is, the class classification adaptive processing correction unit 3502 calculates the difference between the real world 1 signal (original image before being incident on the sensor 2), which is an image, and the predicted image output from the class classification adaptive processing unit 3501. An image (however, an image having the same resolution as that of the predicted image output from the class classification adaptive processing unit 3501) is appropriately predicted and is predicted as a difference image (hereinafter referred to as a difference prediction image. This is the name of the difference prediction image described above. Can be output as a corrected image, the real world 1 signal (original image) can be almost restored.
[2251]
By the way, as described above, the degree of difference (error) between the signal of the real world 1 (original image before being incident on the sensor 2) and the predicted image output from the class classification adaptive processing unit 3501, and the input The degree of change of the signal of the real world 1 in one pixel of the image corresponds. In addition, since the real world estimation unit 102 can estimate the signal of the real world 1 itself, naturally, a predetermined feature amount that represents the degree of change in the signal of the real world 1 within one pixel of the input image. Can be calculated for each pixel.
[2252]
Accordingly, the class classification adaptive processing correction unit 3502 can generate a difference prediction image (predict a difference image) by acquiring a feature amount for each pixel of the input image.
[2253]
Therefore, for example, the class classification adaptive processing correction unit 3502 uses the real world estimation unit 102 as a real world estimation information for an image having a feature amount as a pixel value (hereinafter, such an image is referred to as a feature amount image). Input from the world estimation unit 102.
[2254]
At this time, the resolution of the feature amount image is the same as that of the input image from the sensor 2. The corrected image (difference predicted image) has the same resolution as the predicted image output from the class classification adaptation processing unit 3501.
[2255]
Therefore, the class classification adaptive processing correction unit 3502 predicts the difference image from the feature amount image using the conventional class classification adaptation processing, using the feature image as an SD image and the corrected image (difference prediction image) as an HD image. If it calculates, the result of the prediction calculation becomes an appropriate difference prediction image.
[2256]
The principle of the class classification adaptive processing correction unit 3502 has been described above.
[2257]
FIG. 299 shows a configuration example of the class classification adaptive processing correction unit 3502 that operates on such a principle.
[2258]
In FIG. 299, the feature amount image (SD image) input from the real world estimation unit 102 is supplied to the region extraction unit 3551 and the region extraction unit 3555, respectively. The region extraction unit 3551 extracts class taps (SD pixels existing in a preset position including the target pixel) necessary for performing class classification from the supplied feature amount image, and outputs them to the pattern detection unit 3552. To do. The pattern detection unit 3552 detects a feature image pattern based on the input class tap.
[2259]
The class code determination unit 3553 determines a class code based on the pattern detected by the pattern detection unit 3552, and outputs the class code to the correction coefficient memory 3554 and the region extraction unit 3555. The correction coefficient memory 3554 stores a coefficient for each class code obtained in advance by learning, reads a coefficient corresponding to the class code input from the class code determination unit 3553, and outputs the coefficient to the correction calculation unit 3556.
[2260]
The coefficient learning process in the correction coefficient memory 3554 will be described later with reference to the block diagram of the class classification adaptive process correction learning unit in FIG.
[2261]
Also, the coefficient stored in the correction coefficient memory 3554 is a prediction coefficient used when a difference image is predicted (a difference prediction image that is an HD image is generated), as will be described later. However, here, the coefficient stored in the coefficient memory 3514 (FIG. 290) of the class classification adaptive processing unit 3501 is referred to as a prediction coefficient. Therefore, hereinafter, the prediction coefficient stored in the correction coefficient memory 3554 is referred to as a correction coefficient in order to distinguish it from the prediction coefficient stored in the coefficient memory 3514.
[2262]
The region extraction unit 3555 predicts a difference image (HD image) from the feature amount image (SD image) input from the real world estimation unit 102 based on the class code input from the class code determination unit 3553 (HD). A prediction tap (SD pixel existing at a preset position including the target pixel) necessary for generating a differential prediction image that is an image is extracted corresponding to the class code and output to the correction calculation unit 3556. The correction calculation unit 3556 performs a product-sum calculation using the prediction tap input from the region extraction unit 3555 and the correction coefficient input from the correction coefficient memory 3554, and the target pixel (SD image) of the feature amount image (SD image). HD pixels of the difference prediction image (HD image) in the SD pixels) are generated.
[2263]
More specifically, the correction coefficient memory 3554 outputs a correction coefficient corresponding to the class code supplied from the class code determination unit 3553 to the correction calculation unit 3556. The correction calculation unit 3556 uses the prediction tap (SD pixel) extracted from the pixel value at the predetermined pixel position of the input image supplied from the region extraction unit 3555 and the correction coefficient supplied from the correction coefficient memory 3554. Then, the product-sum operation represented by the following equation (226) is executed to obtain the HD pixel of the difference predicted image (HD image) (predicting and estimating the difference image).
[2264]
176

... (226)
[2265]
In Expression (226), u ′ represents an HD pixel of the difference prediction image (HD image). a_iEach (i is an integer value from 1 to n) represents each prediction tap (SD pixel). G_iEach represents a correction coefficient.
[2266]
Therefore, in FIG. 289, the class classification adaptive processing unit 3501 outputs the HD pixel q ′ of the predicted image represented by the above-described equation (218), whereas the class classification adaptive processing correction unit 3502 The HD pixel u ′ of the difference prediction image represented by Expression (226) is output. Then, the adding unit 3503 outputs a pixel obtained by adding the HD pixel q ′ of the predicted image and the HD pixel u ′ of the difference predicted image (hereinafter, referred to as o ′) to the outside as the HD pixel of the output image. .
[2267]
That is, the HD pixel o ′ of the output image that is finally output from the image generation unit 103 is expressed by the following equation (227).
[2268]
[Expression 177]

... (227)
[2269]
FIG. 300 shows a correction coefficient stored in the correction coefficient memory 3554 of the class classification adaptive processing correction unit 3502 (the above formula (22)).6G)_i), That is, a detailed configuration example of the class classification adaptive processing correction learning unit 3561 of the learning device 3504 in FIG. 291 described above.
[2270]
In FIG. 291, as described above, when the class classification adaptive processing learning unit 3521 finishes the learning process, the class classification adaptive processing correction learning unit 3561 sends the first teacher image (HD) used for learning to the class classification adaptive processing correction learning unit 3561. Image) and the first student image (SD image), and the prediction for learning, which is an image obtained by predicting the first teacher image from the first student image using the prediction coefficient obtained by learning. An image is output.
[2271]
Returning to FIG. 300, the first student image is input to the data continuity detecting unit 3572.
[2272]
On the other hand, the first teacher image and the learning predicted image among these are input to the adding unit 3571. However, the prediction image for learning is reversely input.
[2273]
The adding unit 3571 adds the input first teacher image and the inverted prediction image for learning, that is, generates a difference image between the first teacher image and the prediction image for learning, and classifies the image. The data is output to the normal equation generation unit 3578 as a teacher image in the adaptive processing correction learning unit 3561 (this teacher image is referred to as a second teacher image to distinguish it from the first teacher image as described above).
[2274]
The data continuity detection unit 3572 detects the continuity of the data included in the input first student image, and outputs the detection result to the real world estimation unit 3573 as data continuity information.
[2275]
The real world estimation unit 3573 generates a feature amount image based on the input data continuity information, and uses it as a student image in the class classification adaptive processing correction learning unit 3561 (as described above, In order to distinguish it from the first student image, it is output as a second student image) to each of the region extracting unit 3574 and the region extracting unit 3577.
[2276]
The region extraction unit 3574 extracts SD pixels (class taps) necessary for class classification from the supplied second student image (SD image), and outputs the SD pixels (class taps) to the pattern detection unit 3575. The pattern detection unit 3575 detects the input class tap pattern and outputs the detection result to the class code determination unit 3576. Class code determination unit 3576 determines a class code corresponding to the input pattern, and outputs the class code to each of region extraction unit 3577 and normal equation generation unit 3578.
[2277]
The area extraction unit 3577 extracts a prediction tap (SD pixel) from the second student image (SD image) input from the real world estimation unit 3573 based on the class code input from the class code determination unit 3576, The result is output to the normal equation generation unit 3578.
[2278]
Note that each of the region extraction unit 3574, the pattern detection unit 3575, the class code determination unit 3576, and the region extraction unit 3577 described above includes a region extraction unit 3551, a pattern detection unit 3552, and a class classification adaptive processing correction unit 3502 in FIG. Each of the class code determination unit 3553 and the region extraction unit 3555 has basically the same configuration and function. Also, each of the data continuity detection unit 3572 and the real world estimation unit 3573 described above has basically the same configuration and function as the data continuity detection unit 101 and the real world estimation unit 102 of FIG. It is what you have.
[2279]
The normal equation generation unit 3578, for all the class codes input from the class code determination unit 3576, predicts taps of second student images (SD images) input from the region extraction unit 3577 for each class code ( A normal equation is generated from the SD pixels) and the HD pixels of the second teacher image (HD image) and supplied to the correction coefficient determination unit 3579. When a normal equation corresponding to a predetermined class code is supplied from the normal equation generation unit 3578, the correction coefficient determination unit 3579 calculates each correction coefficient from the normal equation and associates the correction coefficient memory 3554 with the class code. To remember.
[2280]
The normal equation generation unit 3578 and the correction coefficient determination unit 3579 will be described in more detail.
[2281]
In the above equation (226), the correction coefficient g is used before learning._iEach is an undetermined coefficient. Learning is performed by inputting HD pixels of a plurality of teacher images (HD images) for each class code. There are m HD pixels corresponding to a predetermined class code, and each of the m HD pixels is represented by u._kWhen described as (k is an integer value of 1 to m), the following equation (228) is set from the equation (226).
[2282]
[Formula 178]

... (228)
[2283]
That is, Expression (228) represents that a predetermined HD pixel can be predicted and estimated by calculating the right side. In formula (228), e_kRepresents an error. That is, the HD pixel u of the difference prediction image (HD image) which is the calculation result on the right side_k'Is the HD pixel u of the actual difference image_kDoes not exactly match the predetermined error e_kincluding.
[2284]
Therefore, in equation (228), for example, error e_kCorrection factor a that minimizes the sum of squares_iHowever, it can be obtained by learning.
[2285]
For example, the HD pixel u of the difference image so that m> n_kCan be collected by learning, the correction coefficient a_iIs uniquely determined.
[2286]
That is, the correction coefficient a on the right side of Equation (228)_iThe normal equation in the case of obtaining the value by the method of least squares is as shown by the following equation (229).
[2287]
[Formula 179]

... (229)
[2288]
When each matrix of the normal equation represented by the equation (229) is defined as the following equations (230) to (232), the normal equation is represented as the following equation (233).
[2289]
[Formula 180]

... (230)
[2290]
[Formula 181]

... (231)
[2291]
182

... (232)
[2292]
[Formula 183]

... (233)
[2293]
As shown in Equation (231), the matrix G_MATIs the correction coefficient g_iIt is. Therefore, in equation (233), the matrix A on the left side_MATAnd right-side matrix U_MATIs determined, the matrix G is obtained by matrix solution._MAT(Ie, correction coefficient g_i) Can be calculated.
[2294]
Specifically, as shown in the equation (230), the matrix A_MATEach component of the prediction tap a_ikIf is known, computation is possible. Prediction tap a_ikIs extracted by the region extraction unit 3577, the normal equation generation unit 3578 is supplied with the prediction tap a supplied from the region extraction unit 3577._ikMatrix A using each of_MATEach component of can be calculated.
[2295]
Further, as shown in the equation (232), the matrix U_MATEach component of the prediction tap a_ikAnd difference image HD pixel u_kIf is known, computation is possible. Prediction tap a_ikIs the matrix A_MATAre the same as those included in each component of the difference image, and the HD pixel u of the difference image_kAre HD pixels of the second teacher image output from the adder 3571. Accordingly, the normal equation generation unit 3578 generates the prediction tap a supplied from the region extraction unit 3577._ikAnd a matrix U using the second teacher image (the difference image between the first teacher image and the prediction image for learning)_MATEach component of can be calculated.
[2296]
In this way, the normal equation generation unit 3578 generates a matrix A for each class code._MATAnd matrix U_MATAre calculated, and the calculation result is associated with the class code and supplied to the correction coefficient determination unit 3579.
[2297]
The correction coefficient determination unit 3579, based on the normal equation corresponding to the supplied predetermined class code, the matrix G of the above equation (233)._MATCorrection coefficient g which is each component of_iIs calculated.
[2298]
Specifically, the normal equation of the above equation (233) can be transformed as the following equation (234).
[2299]
[Formula 184]

... (234)
[2300]
In equation (234), the left side matrix G_MATEach component is the correction factor g_iIt is. Matrix A_MATAnd matrix U_MATEach of the components is supplied from the normal equation generation unit 3578. Accordingly, the correction coefficient determination unit 3579 receives the matrix A corresponding to the predetermined class code from the normal equation generation unit 3578._MATAnd matrix U_MATWhen the respective components of are supplied, the matrix G is calculated by performing the matrix operation on the right side of Expression (234)._MATAnd the calculation result (correction coefficient g_i) Is stored in the correction coefficient memory 3554 in association with the class code.
[2301]
The details of the class classification adaptive processing correction unit 3502 and the class classification adaptive processing correction learning unit 3561 that is a learning unit associated therewith have been described above.
[2302]
By the way, the form of the feature amount image described above is not particularly limited as long as the class classification adaptive processing correction unit 3502 can generate a corrected image (difference predicted image) based on the feature amount image. In other words, as described above, the pixel value of each pixel of the feature amount image, that is, the feature amount is the change amount of the signal of the real world 1 (FIG. 289) in the pixel (pixel of the sensor 2 (FIG. 289)). If it can represent a degree, it will not be specifically limited.
[2303]
For example, it is possible to apply an in-pixel gradient as the feature amount.
[2304]
The in-pixel inclination is a word newly defined here. Therefore, the in-pixel inclination will be described below.
[2305]
As described above, in FIG. 289, the signal of the real world 1 that is an image is a function F (x, y, t) having positions x, y, and z in a three-dimensional space and time t as variables. It is represented by
[2306]
Also, for example, when the real world 1 signal, which is an image, has continuity in a predetermined direction in the spatial direction, the function F (x, y, t) is expressed by the X direction, the Y direction, and the spatial direction. A one-dimensional waveform projected in a predetermined direction (for example, the X direction) in the Z direction (again, the waveform projected in the X direction out of such waveforms is referred to as an X cross-sectional waveform F (x)). It can be considered that the waveform having the same shape as that in FIG.
[2307]
Accordingly, the real world estimation unit 102, for example, based on the data continuity information (for example, angle) corresponding to the continuity of the signal of the real world 1 output from the data continuity detection unit 101. F (x) can be approximated by an approximation function f (x) that is an n-order (n is an arbitrary integer) polynomial.
[2308]
FIG. 301 shows an example of such an approximate function f (x) as f shown by the following equation (235)._Four(x) (f which is a fifth order polynomial_Four(x)) and f shown by the following equation (236)_Five(x) (f is a first-order polynomial_Five(x)) is plotted.
[2309]
[Expression 185]

... (235)
[2310]
186

... (236)
[2311]
Note that w in equation (235)₀Thru w_FiveAnd w in formula (236)₀'And w₁Each of 'represents each coefficient calculated by the real world estimation unit 102.
[2312]
In FIG. 301, the horizontal x-axis in the drawing represents the relative position in the spatial direction X from the target pixel when the left end of the target pixel is the origin (x = 0). However, in the x-axis, the width L of the detection element of the sensor 2_cIs set to 1. In addition, the vertical axis in the figure represents the pixel value.
[2313]
As shown in FIG. 301, a linear approximation function f_Five(x) (Formula (236) Approximate function f_Five(x)) is a linear approximation of the X cross-sectional waveform F (x) at the target pixel. Here, the inclination of the approximate line is referred to as an in-pixel inclination. In other words, the in-pixel inclination is the coefficient w of x in Equation (236)₁'Is.
[2314]
When the in-pixel inclination is steep, it indicates that the amount of change in the X cross-sectional waveform F (x) in the target pixel is large. On the other hand, when the in-pixel inclination is gentle, this indicates that the amount of change in the X cross-sectional waveform F (x) in the target pixel is small.
[2315]
Thus, the in-pixel inclination can appropriately represent the degree of change in the signal of the real world 1 in the pixel (the pixel of the sensor 2). Therefore, in-pixel inclination can be applied as the feature amount.
[2316]
For example, FIG. 302 shows a feature amount image actually generated using the in-pixel inclination as a feature amount.
[2317]
That is, in FIG. 302, the image on the left side in the drawing represents the same image as the SD image 3542 shown in FIG. 293 described above. Further, the right image in the figure represents a feature amount image 3591 in which the in-pixel inclination is obtained for each of the pixels constituting the left SD image 3542 and the value corresponding to the in-pixel inclination is plotted as the pixel value. Yes. However, the feature amount image 3591 is black when there is no in-pixel inclination (when the approximate line is parallel to the X direction), whereas when the in-pixel inclination is at a right angle (the approximate line is in the Y direction). (When parallel), it is generated to be white.
[2318]
The area 3542-1 of the SD image 3542 is an example of the area 3544-1 of the difference image 3544 of FIG. 294 described above (refer to FIG. 295 described above, which is an example of the area where the change amount of the signal of the real world 1 is small in the pixel. Is a region corresponding to the region described above. A region of the feature amount image 3591 corresponding to the region 3542-1 of the SD image 3542 is a region 3591-1.
[2319]
Further, the region 3542-2 of the SD image 3542 is the region 3544-2 of the difference image 3544 of FIG. 296 described above (refer to FIG. 297 described above, the region where the amount of change in the signal of the real world 1 is large. This is a region corresponding to the region described as an example. A region of the feature amount image 3591 corresponding to the region 3542-2 of the SD image 3542 is a region 3591-2.
[2320]
When comparing the region 3542-1 of the SD image 3542 and the region 3591-1 of the feature amount image 3591, the region where the change amount of the signal in the real world 1 is small is a region close to black (pixels) in the feature amount image 3591. It can be seen that the inner slope is a loose region.
[2321]
On the other hand, when comparing the region 3542-2 of the SD image 3542 and the region 3591-2 of the feature amount image 3591, the region where the signal change amount of the real world 1 is large is white in the feature amount image 3591. It can be seen that the region is close to (region where the inclination in the pixel is steep).
[2322]
As described above, the feature amount image generated by using the value corresponding to the in-pixel inclination as the pixel can appropriately represent the degree of change in the signal of the real world 1 in each pixel.
[2323]
Next, a specific method for calculating the in-pixel inclination will be described.
[2324]
That is, when the in-pixel inclination at the target pixel is described as grad, the in-pixel inclination grad is expressed by the following equation (237).
[2325]
[Expression 187]

... (237)
[2326]
In formula (237), P_nRepresents the pixel value of the pixel of interest. P_cRepresents the pixel value of the central pixel.
[2327]
Specifically, for example, as shown in FIG. 303, an area composed of 5 × 5 pixels (5 × 5 = 25 squares in the figure) in the input image from the sensor 2, and predetermined If there is a region 3601 having the regularity of the data (hereinafter referred to as a steady region 3601), the center pixel 3602 of the steady region 3601 is set as the central pixel. Therefore, P_cIs the pixel value of the center pixel 3602. For example, if the pixel 3603 is the target pixel, P_nIs the pixel value of the target pixel 3603.
[2328]
Also, in equation (237), x_n'Represents the distance in the cross-sectional direction at the center point of the target pixel. Here, the center of the center pixel (pixel 3602 in the example of FIG. 303) is the origin (0,0) in the spatial direction, and a straight line parallel to the direction of continuity of data passing through the origin (example of FIG. 303). Then, if a straight line 3604) is drawn, the relative distance in the X direction with respect to the straight line is referred to as a cross-sectional direction distance.
[2329]
FIG. 304 is a diagram illustrating the cross-sectional direction distance of each pixel in the steady region 3601 of FIG. 303. In other words, in FIG. 304, the value described in each pixel (5 × 5 = 25 squares in the figure) in the steady region 3601 is the cross-sectional direction distance of the corresponding pixel. For example, the cross-sectional distance x of the pixel of interest 3603_n'Is -2β.
[2330]
However, each pixel width is set to 1 in both the X direction and the Y direction. The positive direction of the X direction is the right direction in the figure. Also, β represents the distance in the cross-sectional direction of the pixel 3605 that is next to the center pixel 3602 in the Y direction (one lower in the figure). If β is an angle θ (angle θ formed between the direction of the straight line 3604 and the X direction) as shown in FIG. 304 is output as data continuity information from the data continuity detecting unit 101, the following equation is obtained. It is possible to easily calculate using (238).
[2331]
[Formula 188]

... (238)
[2332]
As described above, the in-pixel inclination is calculated by a simple calculation using the two input pixel values of the center pixel (pixel 3602 in the example of FIG. 304) and the target pixel (pixel 3603 in the example of FIG. 304) and the angle θ. Is possible. Therefore, if the real world estimation unit 102 generates an image having a pixel value corresponding to the in-pixel inclination as a feature amount image, the processing amount can be significantly reduced.
[2333]
In addition, when it is desired to obtain a more accurate in-pixel inclination, the real world estimation unit 102 may perform calculation by a least square method using peripheral pixels of the target pixel. Specifically, the real world estimation unit 102 assigns a number i (i is 1 to m) to m pixels (m is an integer of 2 or more) including the target pixel, and the pixel of the number i is assigned. Each input pixel value P_iAnd cross-sectional distance x_iSubstituting 'into the right side of the following equation (239) to calculate the in-pixel gradient grad at the target pixel. That is, the equation (239) is the same as the equation for obtaining the above-described one variable by the method of least squares.
[2334]
[Formula 189]

... (239)
[2335]
Next, with reference to FIG. 305, the image generation processing (processing in step S103 in FIG. 40) of the image generation unit 103 (FIG. 289) using the class classification adaptive processing correction method will be described.
[2336]
In FIG. 289, when a signal of the real world 1 that is an image is incident on the sensor 2, an input image is output from the sensor 2. This input image is input to the data continuity detecting unit 101 and also to the class classification adaptive processing unit 3501 of the image generating unit 103.
[2337]
Therefore, in step S3501 in FIG. 305, the class classification adaptation processing unit 3501 performs class classification adaptation processing on the input image (SD image) that has been input to generate a prediction image (HD image), and an addition unit 3503 Output to.
[2338]
Hereinafter, the processing in step S3501 executed by the class classification adaptation processing unit 3501 is referred to as “input image class classification adaptation processing”. Details of the “input image class classification adaptive processing” in this example will be described later with reference to the flowchart of FIG.
[2339]
Almost simultaneously with the processing in step S3501, the data continuity detecting unit 101 detects the continuity of the data included in the input image, and the detection result (in this case, the angle) is used as data continuity information as the real world estimating unit 102. (Step S101 in FIG. 40).
[2340]
The real world estimation unit 102 generates real world estimation information (in this case, a feature image that is an SD image) based on the input angle (data continuity information), and the class generation adaptation process of the image generation unit 103 It supplies to the correction | amendment part 3502 (process of step S102 of FIG. 40).
[2341]
Therefore, in step S3502, the class classification adaptive processing correction unit 3502 performs class classification adaptive processing on the supplied feature amount image (SD image) to generate a difference prediction image (HD image) (actual image). A difference image (however, an HD image) between the (real world 1 signal) and the predicted image output from the class classification adaptive processing unit 3501 is predicted and output to the adder 3503 as a corrected image.
[2342]
Hereinafter, the processing in step S3502 performed by the class classification adaptive processing correction unit 3502 is referred to as “class classification adaptive processing correction processing”. Details of “correction processing of class classification adaptation processing” in this example will be described later with reference to the flowchart of FIG.
[2343]
In step S3503, the adding unit 3503 corresponds to the target pixel (HD pixel) of the predicted image (HD image) generated by the class classification adaptation processing unit 3501 in the process of step S3501, and the target pixel in step S3502. In this process, the pixel (HD pixel) of the corrected image (HD image) generated by the class classification adaptive processing correction unit 3502 is added to generate a pixel (HD pixel) of the output image (HD image).
[2344]
In step S3504, the addition unit 3503 determines whether or not processing for all pixels has been completed.
[2345]
If it is determined in step S3504 that the processing for all pixels has not been completed yet, the process returns to step S3501, and the subsequent processing is repeated. That is, pixels that are not yet the target pixel are sequentially set as the target pixel, and the processes in steps S3501 to S3503 are repeated.
[2346]
When processing for all pixels is completed (when it is determined in step S3504 that processing for all pixels has been completed), the adding unit 3504 outputs an output image (HD image) to the outside in step S3505. Thereafter, the image generation process ends.
[2347]
Next, with reference to the drawings, details of each of “input image class classification adaptive processing (processing in step S3501)” and “class classification adaptive processing correction processing (processing in step S3502)” in this example will be described. Each will be described in that order.
[2348]
First, the details of the “input image class classification adaptive processing” executed by the class classification adaptation processing unit 3501 (FIG. 290) will be described with reference to the flowchart of FIG.
[2349]
When the input image (SD image) is input to the classification adaptation processing unit 3501, in step S3521, each of the region extraction unit 3511 and the region extraction unit 3515 inputs the input image.
[2350]
In step S3522, the region extraction unit 3511 selects, from the input image, a pixel (SD pixel) located at each of the target pixel (SD pixel) and a preset relative position (one or more positions) from the target pixel. ) Are extracted as class taps and supplied to the pattern detection unit 3512.
[2351]
In step S 3523, the pattern detection unit 3512 detects the supplied class tap pattern and supplies the class tap pattern to the class code determination unit 3513.
[2352]
In step S3524, the class code determination unit 3513 determines a class code that matches the supplied class tap pattern from a plurality of preset class codes, and each of the coefficient memory 3514 and the region extraction unit 3515. To supply.
[2353]
In step S3525, the coefficient memory 3514 reads a prediction coefficient (group) to be used from the plurality of prediction coefficients (group) determined in advance by the learning process based on the supplied class code, and performs a prediction calculation unit 3516. To supply.
[2354]
The learning process will be described later with reference to the flowchart in FIG.
[2355]
In step S3526, the region extraction unit 3515 corresponds to the supplied class code from the input image, the target pixel (SD pixel), and a relative position (one or more positions) from the preset target pixel. The pixels (SD pixels) located at each of the positions set independently of the class tap position (which may be the same position as the class tap position) are extracted as prediction taps and predicted. It supplies to the calculating part 3516.
[2356]
In step S3527, the prediction calculation unit 3516 calculates the prediction tap supplied from the region extraction unit 3515 using the prediction coefficient supplied from the coefficient memory 3514, generates a prediction image (HD image), and adds the addition unit 3503. Output to.
[2357]
Specifically, the prediction calculation unit 3516 determines each of the prediction taps supplied from the region extraction unit 3515 as c._i(I is an integer from 1 to n), and each of the prediction coefficients supplied from the coefficient memory 3514 is d_iAs described above, the HD pixel q ′ in the target pixel (SD pixel) is calculated by calculating the right side of the above-described equation (218), and the HD pixel q ′ is calculated as one pixel constituting the predicted image (HD image). Output. As a result, the input image class classification adaptation process is completed.
[2358]
Next, with reference to the flowchart in FIG. 307, details of the “class classification adaptive processing correction processing” executed by the class classification adaptive processing correction unit 3502 (FIG. 299) will be described.
[2359]
When a feature amount image (SD image) is input to the class classification adaptive processing correction unit 3502 as real world estimation information from the real world estimation unit 102, in step S3541, each of the region extraction unit 3551 and the region extraction unit 3555 is characterized. Enter a quantity image.
[2360]
In step S3542, the region extraction unit 3551, from the feature amount image, the pixel (SD pixel) located at each of the target pixel (SD pixel) and the relative position (one or more positions) from the target pixel set in advance. Pixel) is extracted as a class tap and supplied to the pattern detection unit 3552.
[2361]
Specifically, in this example, for example, a class tap (group) 3621 as shown in FIG. 308 is extracted. That is, FIG. 308 represents an example of class tap arrangement.
[2362]
In FIG. 308, the horizontal direction in the figure is the X direction, which is one direction in the spatial direction, and the vertical direction in the figure is the Y direction, which is the other direction in the spatial direction. Further, the pixel of interest is a pixel 3621-2.
[2363]
In this case, in the example of FIG. 308, the target pixel 3621-2, the pixel 3621-0 and the pixel 3621-4 adjacent to the target pixel 3621-2 with respect to the Y direction, and the target pixel 3621-2 with respect to the X direction. A pixel group 3621 composed of a total of five pixels, that is, the pixel 3621-1 and the pixel 3621-3 adjacent to the pixel 3621-1 is extracted as a class tap.
[2364]
Of course, the class tap arrangement is not limited to the example in FIG. 308 as long as it includes the target pixel 3621-2, and various arrangements are possible.
[2365]
Returning to FIG. 307, in step S 3543, the pattern detection unit 3552 detects the supplied class tap pattern and supplies it to the class code determination unit 3553.
[2366]
Specifically, in this example, for example, the pattern detection unit 3552 has pixel values of the five class taps 3621-0 to 3621-4 shown in FIG. Each of the (intra-pixel gradient) is detected as to which class among a plurality of preset classes, and the result of combining these detection results is output as a pattern.
[2367]
For example, assume that a pattern as shown in FIG. 309 is detected. That is, FIG. 309 shows an example of a class tap pattern.
[2368]
In FIG. 309, the horizontal axis in the figure represents the class tap, and the vertical axis in the figure represents the in-pixel inclination. Also, due to the in-pixel tilt, the class
Assume that three classes, 3631, 3632, and 3633 are preset.
[2369]
In this case, in the pattern shown in FIG. 309, class tap 3621-0 is class 3631, class tap 3621-1 is class 3631, class tap 3621-2 is class 3633, and class tap 3621-3 is class 3631. Class tap 3621-4 represents a pattern belonging to class 3632.
[2370]
As described above, each of the five class taps 3621-0 to 3621-4 belongs to one of the three classes 3631 to 3633. Therefore, in this example, a total of 273 (= 3 ^ 5) patterns including the pattern shown in FIG. 309 exist.
[2371]
Returning to FIG. 307, in step S3544, the class code determination unit 3553 determines a class code that matches the supplied class tap pattern from among a plurality of class codes set in advance, and the correction coefficient memory 3554 It supplies to each of the area | region extraction parts 3555. In this case, since there are 273 patterns, the number of class codes set in advance is 273 (or more).
[2372]
In step S3545, the correction coefficient memory 3554 reads a correction coefficient (group) to be used from the plurality of correction coefficients (group) determined in advance by the learning process, based on the supplied class code, and performs a correction operation unit. 3556. Since each of the correction coefficients (groups) stored in the correction coefficient memory 3554 is associated with one of the preset class codes, in this case, the number of correction coefficients (groups) is The number is equal to the number of class codes set in advance (273 or more).
[2373]
The learning process will be described later with reference to the flowchart in FIG.
[2374]
In step S3546, the area extraction unit 3555 corresponds to the class code supplied from the input image, the pixel of interest (SD pixel), and a relative position (one or more positions) from the pixel of interest set in advance. A pixel (SD pixel) located at each of the positions (which may be the same position as the position of the class tap) is extracted as a prediction tap and corrected. It supplies to the calculating part 3556.
[2375]
Specifically, in this example, for example, it is assumed that a prediction tap (group) 3641 as illustrated in FIG. 310 is extracted. That is, FIG. 310 represents an example of the prediction tap arrangement.
[2376]
In FIG. 310, the horizontal direction in the figure is the X direction, which is one direction in the spatial direction, and the vertical direction in the figure is the Y direction, which is the other direction in the spatial direction. The target pixel is a pixel 3641-1. That is, the pixel 3641-1 is a pixel corresponding to the class tap 3621-2 (FIG. 308).
[2377]
In this case, in the example of FIG. 310, a 5 × 5 pixel group (pixel group composed of a total of 25 pixels) 3641 centered on the pixel of interest 3641-1 is extracted as a prediction tap (group). .
[2378]
Of course, the prediction tap arrangement is not limited to the example of FIG. 310 as long as it includes the pixel of interest 3641-1, and various arrangements are possible.
[2379]
Returning to FIG. 307, in step S3547, the correction calculation unit 3556 calculates the prediction tap supplied from the region extraction unit 3555 using the correction coefficient supplied from the correction coefficient memory 3554, and obtains a difference prediction image (HD image). Is output to the adder 3503 as a corrected image.
[2380]
More specifically, the correction calculation unit 3556 determines each prediction tap supplied from the region extraction unit 3555 as a_i(I is an integer from 1 to n), and each of the correction coefficients supplied from the correction coefficient memory 3554 is g_iAs described above, the HD pixel u ′ in the target pixel (SD pixel) is calculated by calculating the right side of the above-described equation (226), and is added to the adding unit 3503 as one pixel constituting the corrected image (HD image). Output. Thereby, the correction process of the class classification adaptive process is completed.
[2381]
Next, referring to the flowchart of FIG. 311, the learning process of the learning device (FIG. 291), that is, the prediction coefficient used by the class classification adaptive processing unit 3501 (FIG. 290) and the class classification adaptive processing correction unit 3502 (FIG. 299) will be described with reference to learning processing for generating each of the correction coefficients by learning.
[2382]
In step S3561, the class classification adaptation processing learning unit 3521 generates a prediction coefficient used by the class classification adaptation processing unit 3501.
[2383]
That is, the class classification adaptive processing learning unit 3521 inputs a predetermined image as a first teacher image (HD image), lowers the resolution of the first teacher image, and outputs the first student image (SD image). Generate.
[2384]
Then, the class classification adaptive processing learning unit 3521 generates a prediction coefficient that can appropriately predict the first teacher image (HD image) from the first student image (SD image) by the class classification adaptive processing. And stored in the coefficient memory 3514 (FIG. 290) of the class classification adaptive processing unit 3501.
[2385]
Hereinafter, the processing in step S3561 executed by the class classification adaptive processing learning unit 3521 is referred to as “class classification adaptive processing learning processing”. Details of “learning processing for class classification adaptation processing” in this example will be described later with reference to the flowchart of FIG.
[2386]
When the prediction coefficient used by the class classification adaptive processing unit 3501 is generated, the class classification adaptive processing correction learning unit 3561 generates a correction coefficient used by the class classification adaptive processing correction unit 3502 in step S3562.
[2387]
That is, the class classification adaptive processing correction learning unit 3561 has the first teacher image, the first student image, and the learning prediction image (by the class classification adaptive processing learning unit 3521) than the class classification adaptive processing learning unit 3521. Each of the first predicted teacher images) is input using the generated prediction coefficient.
[2388]
Next, the class classification adaptive processing correction learning unit 3561 generates a difference image between the first teacher image and the prediction image for learning as the second teacher image, and the first student image as the second student image. A feature amount image is generated from the image.
[2389]
Then, the class classification adaptive processing correction learning unit 3561 generates a prediction coefficient capable of appropriately predicting the second teacher image (HD image) from the second student image (SD image) by the class classification adaptive processing. Then, it is stored in the correction coefficient memory 3554 of the class classification adaptive processing correction unit 3502 as a correction coefficient. Thereby, the learning process ends.
[2390]
Hereinafter, the process of step S3562 executed by the class classification adaptive process correction learning unit 3561 is referred to as a “class classification adaptive process correction learning process”. Details of the “class classification adaptive process correction learning process” in this example will be described later with reference to the flowchart of FIG.
[2391]
Next, referring to the drawings, the details of the “class classification adaptive process learning process (process of step S3561)” and the “class classification adaptive process correction learning process (process of step S3562)” in this example will be described. Will be described individually in that order.
[2392]
First, the details of the “class classification adaptive processing learning process” executed by the class classification adaptive processing learning unit 3521 (FIG. 292) will be described with reference to the flowchart of FIG.
[2393]
In step S3581, each of the down-conversion unit 3531 and the normal equation generation unit 3536 inputs the supplied predetermined image as a first teacher image (HD image). Note that the first teacher image is also input to the class classification adaptive processing correction learning unit 3561 as described above.
[2394]
In step S3582, the down-conversion unit 3531 down-converts the input first teacher image (decreases the resolution) to generate a first student image (SD image). The region extraction unit 3532 and the region extraction unit 3535 and also output to the class classification adaptive processing correction learning unit 3561.
[2395]
In step S3583, the region extraction unit 3532 extracts class taps from the supplied first student image and outputs the class taps to the pattern detection unit 3533. In the process of step S3583, information input to the block and information output from the block are strictly different information (hereinafter, such differences are simply referred to as input / output differences). This process is basically the same as the process in step S3522 (FIG. 306) described above.
[2396]
In step S3584, the pattern detection unit 3533 detects a pattern for determining a class code from the supplied class tap and supplies the pattern to the class code determination unit 3534. Note that the process of step S3584 is basically the same process as the process of step S3523 (FIG. 306) described above, although there is a difference in input and output.
[2397]
In step S3585, the class code determination unit 3534 determines a class code based on the supplied class tap pattern, and supplies the class code to each of the region extraction unit 3535 and the normal equation generation unit 3536. Note that the process in step S3585 is basically the same as the process in step S3524 (FIG. 306) described above, although there is a difference in input and output.
[2398]
In step S3586, the region extraction unit 3535 extracts a prediction tap from the first student image corresponding to the supplied class code, and supplies it to each of the normal equation generation unit 3536 and the prediction calculation unit 3538. Note that the process of step S3586 is basically the same as the process of step S3526 (FIG. 306) described above, although there is a difference in input and output.
[2399]
  In step S3587, the normal equation generation unit 3536 uses the prediction tap (SD pixel) supplied from the region extraction unit 3535 and a predetermined HD pixel among the HD pixels constituting the first teacher image (HD image). , The above-described formula (220) (that is, the formula (224)) Is generated and supplied to the coefficient determination unit 3537 together with the class code supplied from the class code determination unit 3534.
[2400]
In step S3588, the coefficient determination unit 3537 determines the prediction coefficient by solving the supplied normal equation, that is, calculates the prediction coefficient by calculating the right side of the above-described equation (225), and supplies the supplied class code. And stored in the coefficient memory 3514 and supplied to the prediction calculation unit 3538.
[2401]
In step S3589, the prediction calculation unit 3538 calculates the prediction tap supplied from the region extraction unit 3535 using the prediction coefficient supplied from the coefficient determination unit 3537, and generates a learning prediction image (HD pixel).
[2402]
Specifically, the prediction calculation unit 3538 calculates each of the prediction taps supplied from the region extraction unit 3535 as c._i(I is an integer from 1 to n), and each of the prediction coefficients supplied from the coefficient determination unit 3537 is d_iAs a result, the HD pixel q ′ predicting the predetermined HD pixel q of the first teacher image is calculated by calculating the right side of the above equation (218), and the HD pixel q ′ is calculated as 1 of the prediction image for learning. One pixel.
[2403]
In step S3590, it is determined whether or not processing has been performed for all pixels. If it is determined that processing has not been performed for all pixels, the processing returns to step S3583. That is, the processes in steps S3583 to S3590 are repeated until the processing of all pixels is completed.
[2404]
If it is determined in step S3590 that all the pixels have been processed, in step S3591, the prediction calculation unit 3538 is configured from the learning prediction image (each HD pixel q ′ generated for each processing in step S3589). Output to the class classification adaptive processing correction learning unit 3561. Thereby, the learning process for the class classification adaptation process is completed.
[2405]
As described above, in this example, after the processing of all the pixels is completed, a learning predicted image that is an HD image obtained by predicting the first teacher image is output to the class classification adaptive processing correction learning unit 3561. . That is, all HD pixels (predicted pixels) are output at once.
[2406]
However, it is not essential that all the pixels are output in a lump, and every time an HD pixel (predicted pixel) is generated in the processing of step S3589, it is output to the class classification adaptive processing correction learning unit 3561. Good. In this case, the process of step S3591 is omitted.
[2407]
Next, details of the “class classification adaptive process correction learning process” executed by the class classification adaptive process correction learning unit 3561 (FIG. 300) will be described with reference to the flowchart of FIG.
[2408]
When the first teacher image (HD image) and the predicted learning image (HD image) are input from the class classification adaptive processing learning unit 3521, in step S3601, the adding unit 3571 uses the first teacher image for learning. The prediction image is subtracted to generate a difference image (HD image), which is supplied to the normal equation generation unit 3578 as the second teacher image.
[2409]
In addition, when the first student image (SD image) is input from the class classification adaptive processing learning unit 3521, in step S3602, the data continuity detecting unit 3572 and the real world estimating unit 3573 input the first first image. A feature amount image is generated from the student image (SD image), and is supplied as a second student image to each of the region extraction unit 3574 and the region extraction unit 3577.
[2410]
That is, the data continuity detection unit 3572 detects the continuity of the data included in the first student image, and outputs the detection result (in this case, the angle) to the real world estimation unit 3573 as data continuity information. . Note that the processing of the data continuity detection unit 3572 in step S3602 is basically the same as the processing in step S101 in FIG. 40 described above, although there is a difference in input and output.
[2411]
The real world estimation unit 3573 generates real world estimation information (in this case, a feature image that is an SD image) based on the input angle (data continuity information), and uses this as a second student image as a region. This is supplied to each of the extraction unit 3574 and the region extraction unit 3577. Note that the processing of the real world estimation unit 3573 in step S3602 is basically the same as the processing in step S102 in FIG. 40 described above, although there is a difference in input and output.
[2412]
Further, the order of processing in steps S3601 and S3602 is not limited to the example in FIG. That is, the process of step S3602 may be executed first, or the processes of steps S3601 and S3602 may be executed simultaneously.
[2413]
In step S3603, the region extraction unit 3574 extracts class taps from the supplied second student image (feature amount image) and outputs the class taps to the pattern detection unit 3575. Note that the process of step S3603 is basically the same as the process of step S3542 (FIG. 307) described above, although there is a difference in input and output. That is, in this case, the pixel group 3621 having the arrangement shown in FIG. 308 is extracted as a class tap.
[2414]
In step S3604, the pattern detection unit 3575 detects a pattern for determining a class code from the supplied class tap and supplies the pattern to the class code determination unit 3576. Note that the process of step S3604 is basically the same as the process of step S3543 (FIG. 307) described above, although there is a difference in input and output. That is, in this case, when the learning process is finished, at least 273 patterns are detected.
[2415]
In step S3605, the class code determination unit 3576 determines a class code based on the supplied class tap pattern, and supplies the class code to each of the region extraction unit 3577 and the normal equation generation unit 3578. Note that the process in step S3605 is basically the same as the process in step S3544 (FIG. 307) described above, although there is a difference in input and output. That is, in this case, when the learning process is ended, at least 273 class codes are determined.
[2416]
In step S3606, the region extraction unit 3577 extracts a prediction tap from the second student image (feature amount image) corresponding to the supplied class code, and supplies the prediction tap to the normal equation generation unit 3578. Note that the process in step S3606 is basically the same as the process in step S3546 (FIG. 307) described above, although there is a difference in input and output. That is, in this case, the pixel group 3641 having the arrangement shown in FIG. 310 is extracted as a prediction tap.
[2417]
  In step S3607, the normal equation generation unit 3578 includes the prediction tap (SD pixel) supplied from the region extraction unit 3577, and the second teacher image (the first teacher image and the learning prediction image that are HD images). From the predetermined HD pixels of the HD pixels constituting the difference image), the above-described expression (229) (that is, expression (23)3)) Is generated and supplied to the correction coefficient determination unit 3579 together with the class code supplied from the class code determination unit 3576.
[2418]
In step S3608, the correction coefficient determination unit 3579 determines the correction coefficient by solving the supplied normal equation, that is, calculates the correction coefficient by calculating the right side of the above equation (234), and supplies the supplied class. It is stored in the correction coefficient memory 3554 in association with the code.
[2419]
In step S3609, it is determined whether or not processing has been performed for all pixels. If it is determined that processing has not been performed for all pixels, the processing returns to step S3603. That is, the processes in steps S3603 to S3609 are repeated until the processes for all the pixels are completed.
[2420]
If it is determined in step S3609 that the processing has been performed for all the pixels, the class classification adaptive processing correction learning processing ends.
[2421]
As described above, in the class classification adaptive correction processing method, the corrected image (difference predicted image) output from the class classification adaptive processing correction unit 3502 with respect to the predicted image output from the class classification adaptive processing unit 3501. Are added and output.
[2422]
For example, when the SD image 3542, which is an image obtained by reducing the resolution of the HD image 3541 shown in FIG. 293 described above, is an input image, the predicted image 3543 shown in FIG. 314 is output from the class classification adaptive processing unit 3501. Is done. When a corrected image (not shown) output from the class classification adaptive processing correction unit 3502 is added to the predicted image 3543 (corrected by the corrected image), an output image 3651 shown in FIG. 294 is obtained. Become.
[2423]
When comparing the output image 3651, the predicted image 3543, and the original HD image 3541 (FIG. 293), the output image 3651 is closer to the HD image 3541 than the predicted image 3543. I understand.
[2424]
As described above, in the class classification adaptive processing correction method, an image closer to the original image (the signal of the real world 1 before being incident on the sensor 2) than the other conventional methods including the class classification adaptive processing. Can be output.
[2425]
In other words, in the class classification adaptive processing correction method, for example, the data continuity detecting unit 101 in FIG. 289 is illustrated by a plurality of detection elements of a sensor (for example, sensor 2 in FIG. 289) each having a spatiotemporal integration effect. Data in an input image (FIG. 289) composed of a plurality of pixels having pixel values projected by the detection element, in which 289 real world 1 optical signals are projected and a part of the steadiness of the real world optical signals is missing. Detects stationarity.
[2426]
For example, the real world estimation unit 102 in FIG. 289 corresponds to the continuity of the detected data, and the real world feature (for example, the optical signal function F (x) (FIG. 298) representing the optical signal of the real world 1 has (for example, , The optical signal of the real world 1 is estimated by detecting the characteristic amount corresponding to the pixels constituting the characteristic amount image of FIG.
[2427]
Specifically, for example, the real world estimation unit 102 determines a distance (for example, a cross section in FIG. 303) along at least a one-dimensional direction from a line (for example, a line 3604 in FIG. 303) corresponding to the continuity of the output data. Assuming that the pixel value of the pixel corresponding to the direction distance Xn ′) is a pixel value acquired by at least a one-dimensional integration effect, the optical signal function F (x) is expressed by, for example, the approximation function f in FIG._Five(X) is an in-pixel gradient (for example, grad of the above-described equation (234), which is the gradient of the approximation function f5 (x) in a predetermined pixel (for example, the pixel 3603 in FIG. 303). ) Is detected as a real-world feature to estimate the real-world 1 optical signal.
[2428]
Then, for example, the image generation unit 103 in FIG. 289 predicts and generates an output image (FIG. 289) with a higher quality than the input image based on the real world feature detected by the real world estimation means.
[2429]
  Specifically, for example, in the image generation unit 103, for example, the class classification adaptation processing unit 3501 in FIG. 289 is located around the pixel of interest in the output image, and the input image lacking the continuity of the optical signal of the real world 1 The pixel value of the target pixel (for example, the pixel of the predicted image in FIG. 289 and the above-described formula (227) Q ').
[2430]
On the other hand, for example, the class classification adaptive processing correction unit 3502 in FIG. 289 is predicted by the class classification adaptive processing unit 3501 from the feature amount image (real world estimation information) supplied from the real world estimation unit 102 in FIG. 289, for example. The correction term for correcting the pixel value of the target pixel of the predicted image (for example, the pixel of the corrected image (difference predicted image) in FIG. 289 and u ′ in Expression (227)) is predicted.
[2431]
  Then, for example, the adding unit 3503 in FIG. 289 corrects the pixel value of the target pixel of the predicted image predicted by the class classification adaptive processing unit 3501 using the correction term predicted by the class classification adaptive processing unit 3501 (for example, Formula (227).
[2432]
In the class classification adaptive processing correction method, for example, the class classification adaptive processing learning unit 3521 in FIG. 291 that determines the prediction coefficient stored in the coefficient memory 3514 in FIG. 290 by learning, and the correction coefficient memory in FIG. 299, for example. The learning apparatus 3504 of FIG. 291 having the class classification adaptive processing correction learning unit 3561 of FIG. 291 for determining the correction coefficient stored in 3554 by learning is provided.
[2433]
Specifically, for example, the class classification adaptive processing learning unit 3521 in FIG. 292 includes a down-conversion unit 3531 that down-converts learning image data, and the learning image data as the first teacher image, and the down-conversion unit 3531. The learning image data down-converted by the above is used as a first student image, and a coefficient determination unit 3537 for generating a prediction coefficient by learning the relationship between the first teacher image and the first student image, and region extraction A unit 3532 to a normal equation generation unit 3536 are provided.
[2434]
The class classification adaptive processing learning unit 3521 further learns as image data for predicting the first teacher image from the first student image using, for example, the prediction coefficient generated (determined) by the coefficient determination unit 3537. A prediction calculation unit 3538 for generating a prediction image for use is provided.
[2435]
Also, for example, the class classification adaptive processing correction learning unit 3561 in FIG. 300 detects the continuity of data in the first student image, and configures the first student image based on the detected continuity of data. A real world feature corresponding to each of the pixels to be detected is detected, and a feature amount image (specifically, for example, a feature amount image 3591 in FIG. 302) having a value corresponding to the detected real world feature as a pixel value, Data continuity detection unit 3572 and real world estimation unit 3573 to be generated as a second student image (for example, the second student image in FIG. 300), image data comprising the difference between the first teacher image and the learning predicted image An addition unit 3571 that generates a (difference image) as a second teacher image, and a correction coefficient determination unit 357 that generates a correction coefficient by learning the relationship between the second teacher image and the second student image. And the region extracting unit 3574 through the normal equation generating unit 3578 is provided.
[2436]
Therefore, in the class classification adaptive processing correction method, an output of an image closer to the original image (the signal of the real world 1 before being incident on the sensor 2) than the other conventional methods including the class classification adaptive processing. Is possible.
[2437]
As described above, the class classification adaptive process is not included in the SD image, but is different from, for example, a simple interpolation process in that a component included in the HD image is reproduced. That is, as long as only the above-described equations (218) and (226) are seen, it looks the same as the interpolation processing using a so-called interpolation filter, but in the class classification adaptive processing, the prediction coefficient corresponding to the coefficient of the interpolation filter d_iOr supplemental coefficient g_iAre obtained by learning using teacher data and student data (the first teacher image and the first student image, or the second teacher image and the second student image), and the components included in the HD image Can be reproduced. Therefore, the class classification adaptation process as described above can be referred to as a process having an image creation (resolution creation) function.
[2438]
Furthermore, in the above-described example, the case where the spatial resolution is improved has been described as an example. However, according to the class classification adaptive processing, various coefficients obtained by performing learning by changing teacher data and student data are used. Thus, for example, it is possible to improve S / N (Signal to Noise Ratio), improve blurring, and perform various other processes.
[2439]
That is, for example, in order to improve S / N and blur by class classification adaptive processing, image data having a high S / N is used as teacher data, and an image obtained by reducing the S / N of the teacher data is used. What is necessary is just to obtain | require a coefficient by making (or a blurred image) into student data.
[2440]
As described above, the signal processing apparatus having the configuration of FIG. 3 has been described as an embodiment of the present invention, but the embodiment of the present invention is not limited to the example of FIG. 3 and can take various forms. . That is, the embodiment of the signal processing device 4 of FIG. 1 is not limited to the example of FIG. 3, and can take various forms.
[2441]
For example, the signal processing apparatus having the configuration of FIG. 3 performs signal processing based on the continuity of the real world 1 signal, which is an image. For this reason, the signal processing apparatus having the configuration shown in FIG. 3 performs more accurate signal processing than the signal processing of other signal processing apparatuses for the portion of the real world 1 signal that has continuity. As a result, it is possible to output image data closer to a real world 1 signal.
[2442]
However, since the signal processing apparatus having the configuration shown in FIG. 3 executes signal processing based on continuity, the constancy is present for a portion of the real world 1 signal where there is no clear continuity. The signal processing cannot be executed with the same accuracy as the processing for the portion, and as a result, image data including an error is output for the signal of the real world 1.
[2443]
Therefore, an apparatus (or a program or the like) that performs other signal processing that does not use continuity can be added to the signal processing apparatus having the configuration shown in FIG. In this case, the signal processing apparatus configured as shown in FIG. 3 executes signal processing for a portion of the real world 1 signal that has continuity, and there is no clear continuity of the real world 1 signal. For the part, other added devices (or programs, etc.) execute signal processing. Hereinafter, such an embodiment is referred to as a combined method.
[2444]
Hereinafter, with reference to FIGS. 315 to 328, five specific combined methods (hereinafter, each combined method will be referred to as first to fifth combined methods) will be described.
[2445]
It does not matter whether each function of the signal processing apparatus to which each combination method is applied is realized by hardware or software. That is, each block diagram of FIGS. 315 to 317, FIG. 321, FIG. 323, FIG. 325, and FIG. 327, which will be described later, may be considered as a hardware block diagram or as a software functional block diagram.
[2446]
FIG. 315 illustrates a configuration example of a signal processing device to which the first combined technique is applied.
[2447]
In the signal processing device of FIG. 315, image data, which is an example of data 3 (FIG. 1), is input, and an image is generated by performing image processing (to be described later) based on the input image data (input image). The generated image (output image) is output. That is, FIG. 315 is a diagram showing a configuration of the signal processing device 4 (FIG. 1) which is an image processing device.
[2448]
An input image (image data which is an example of data 3) input to the signal processing device 4 is supplied to each of the data continuity detection unit 4101, the real world estimation unit 4102, and the image generation unit 4104.
[2449]
The data continuity detection unit 4101 detects data continuity from the input image, and supplies data continuity information indicating the detected continuity to the real world estimation unit 4102 and the image generation unit 4103.
[2450]
As described above, the data continuity detection unit 4101 has basically the same configuration and function as the data continuity detection unit 101 of FIG. Therefore, the data continuity detecting unit 4101 can take the various embodiments described above.
[2451]
However, the data continuity detecting unit 4101 further generates information for specifying the region of the target pixel (hereinafter referred to as region specifying information) and supplies the information to the region detecting unit 4111.
[2452]
The area specifying information is not particularly limited, and may be information newly generated after the data continuity information is generated, or may be information generated when the data continuity information is generated.
[2453]
Specifically, for example, an estimation error can be used as the area specifying information. That is, for example, when the data continuity detecting unit 4101 calculates an angle as data continuity information and calculates the angle by the least square method, an estimation error is additionally calculated by the calculation of the least square method. . This estimation error can be used as region specifying information.
[2454]
The real world estimation unit 4102 estimates a signal of the real world 1 (FIG. 1) based on the input image and the data continuity information supplied from the data continuity detection unit 4101. That is, the real world estimation unit 4102 estimates an image that is a signal of the real world 1 that is incident on the sensor 2 (FIG. 1) when an input image is acquired. The real world estimation unit 4102 supplies real world estimation information indicating the estimation result of the signal of the real world 1 to the image generation unit 4103.
[2455]
As described above, the real world estimation unit 4102 has basically the same configuration and function as the real world estimation unit 102 of FIG. 3. Accordingly, the real world estimation unit 4102 can take the various embodiments described above.
[2456]
The image generation unit 4103 generates and generates a signal approximated to the real world 1 signal based on the real world estimation information indicating the estimated real world 1 signal supplied from the real world estimation unit 4102. The signal is supplied to the selector 4112. Alternatively, the image generation unit 4103 is based on the data continuity information supplied from the data continuity detection unit 4101 and the real world estimation information indicating the estimated real world 1 signal supplied from the real world estimation unit 4102. Thus, a signal approximated by the signal of the real world 1 is generated, and the generated signal is supplied to the selector 4112.
[2457]
That is, the image generation unit 4103 generates an image approximated to the image of the real world 1 based on the real world estimation information, and supplies the image to the selector 4112. Alternatively, the image generation unit 4103 generates an image approximated to the image of the real world 1 based on the data continuity information and the real world estimation information, and supplies the image to the selector 4112.
[2458]
As described above, the image generation unit 4103 has basically the same configuration and function as the image generation unit 103 of FIG. Therefore, the image generation unit 4103 can take the various embodiments described above.
[2458]
The image generation unit 4104 performs predetermined image processing on the input image, generates an image, and supplies the image to the selector 4112.
[2460]
Note that the image processing executed by the image generation unit 4104 is not particularly limited as long as it is different from the image processing executed by the data continuity detection unit 4101, the real world estimation unit 4102, and the image generation unit 4103.
[2461]
For example, the image generation unit 4104 can perform conventional class classification adaptation processing. A configuration example of the image generation unit 4104 that executes the class classification adaptation processing is shown in FIG. The description of FIG. 316, that is, the details of the image generation unit 4104 that executes the class classification adaptation process will be described later. The class classification adaptation processing will also be described together with the description of FIG.
[2462]
The steady region detection unit 4105 is provided with a region detection unit 4111 and a selector 4112.
[2463]
Based on the region specifying information supplied from the data continuity detecting unit 4101, the region detecting unit 4111 determines whether the image (target pixel) supplied to the selector 4112 is a steady region or an unsteady region. The detection result is supplied to the selector 4112.
[2464]
Note that the region detection processing executed by the region detection unit 4111 is not particularly limited. For example, when the above-described estimation error is supplied as the region specifying information, the region detection unit 4111 determines that the supplied estimation error is a predetermined value. When the threshold value is smaller than the threshold value, the target pixel of the input image is detected to be a stationary region. On the other hand, when the supplied estimation error is equal to or greater than a predetermined threshold value, the target pixel of the input image is detected to be a non-stationary region. .
[2465]
The selector 4112 selects and selects either the image supplied from the image generation unit 4103 or the image supplied from the image generation unit 4104 based on the detection result supplied from the region detection unit 4111. The output image is output to the outside as an output image.
[2466]
That is, when the region detection unit 4111 detects that the target pixel is a steady region, the selector 4112 displays the image supplied from the image generation unit 4103 (the pixel generated by the image generation unit 4103 in the target pixel of the input image). ) As the output image.
[2467]
On the other hand, when the region detection unit 4111 detects that the target pixel is an unsteady region, the selector 4112 displays the image supplied from the image generation unit 4104 (the image generation unit 4104 in the target pixel of the input image). The generated pixel) is selected as the output image.
[2468]
Depending on the external output destination, the selector 4112 can output an output image in units of pixels (output for each selected pixel), or processed pixels until processing of all pixels is completed. When all pixels are processed, all the pixels can be output at once (with the entire output image as one unit).
[2469]
Next, with reference to FIG. 316, details of the image generation unit 4104 that executes class classification adaptation processing, which is an example of image processing, will be described.
[2470]
In FIG. 316, the class classification adaptation process executed by the image generation unit 4104 is, for example, a process for improving the spatial resolution of the input image. That is, it is assumed that the processing is to convert an input image, which is a standard resolution image, into a predicted image, which is a high resolution image.
[2471]
In the following description, a standard resolution image is appropriately referred to as an SD (Standard Definition) image, and pixels constituting the SD image are appropriately referred to as SD pixels.
[2472]
Also in the following description, a high-resolution image is appropriately referred to as an HD (High Definition) image, and pixels constituting the HD image are appropriately referred to as HD pixels.
[2473]
Specifically, the class classification adaptation process executed by the image generation unit 4104 is as follows.
[2474]
That is, first, in order to obtain the HD pixel of the predicted image (HD image) in the target pixel (SD pixel) of the input image (SD image), the SD pixel (hereinafter referred to as the following) including the target pixel is included. Also in the description, each feature amount of such SD pixel is referred to as a class tap), and a class previously classified for each feature amount is specified (a class code of a class tap group is specified) To do).
[2475]
And each coefficient which comprises the coefficient group corresponding to the specified class code among the plurality of preset coefficient groups (each coefficient group corresponds to one predetermined class code) SD pixels in the vicinity including the target pixel (in the following description, such SD pixels of the input image are referred to as prediction taps. Note that the prediction tap may be the same as the class tap. ) Is used to calculate the HD pixel of the predicted image (HD image) in the target pixel (SD pixel) of the input image (SD image).
[2476]
More specifically, in FIG. 1, when a signal of the real world 1 (light intensity distribution), which is an image, enters the sensor 2, an input image is output from the sensor 2.
[2477]
In FIG. 316, this input image (SD image) is supplied to the region extraction unit 4121 and the region extraction unit 4125 of the image generation unit 4104, respectively. The region extraction unit 4125 extracts class taps (SD pixels existing in a preset position including a target pixel (SD pixel)) necessary for class classification from the supplied input image, and a pattern detection unit 4122. The pattern detection unit 4122 detects the pattern of the input image based on the input class tap.
[2478]
The class code determination unit 4123 determines a class code based on the pattern detected by the pattern detection unit 4122 and outputs the class code to the coefficient memory 4124 and the region extraction unit 4125. The coefficient memory 4124 stores a coefficient for each class code obtained in advance by learning, reads a coefficient corresponding to the class code input from the class code determination unit 4123, and outputs the coefficient to the prediction calculation unit 4126.
[2479]
The coefficient learning process of the coefficient memory 4124 will be described later with reference to the block diagram of the learning apparatus in FIG.
[2480]
The coefficient stored in the coefficient memory 4124 is a coefficient used when generating a predicted image (HD image), as will be described later. Therefore, hereinafter, the coefficient stored in the coefficient memory 4124 is referred to as a prediction coefficient.
[2481]
Based on the class code input from the class code determination unit 4123, the region extraction unit 4125 performs prediction necessary for predicting and generating a predicted image (HD image) from the input image (SD image) input from the sensor 2. A tap (an SD pixel existing at a preset position including the target pixel) is extracted corresponding to the class code and output to the prediction calculation unit 4126.
[2482]
The prediction calculation unit 4126 performs a product-sum operation using the prediction tap input from the region extraction unit 4125 and the prediction coefficient input from the coefficient memory 4124, and performs a pixel of interest (SD pixel) of the input image (SD image). ) Of the predicted image (HD image) in FIG.
[2483]
More specifically, the coefficient memory 4124 outputs a prediction coefficient corresponding to the class code supplied from the class code determination unit 4123 to the prediction calculation unit 4126. The prediction calculation unit 4126 uses the prediction tap extracted from the pixel value at a predetermined pixel position of the input image supplied from the region extraction unit 4125 and the prediction coefficient supplied from the coefficient memory 4124, and uses the following formula ( 240), the HD pixel of the predicted image (HD image) is obtained (predicted and estimated).
[2484]
[Formula 190]

... (240)
[2485]
In Expression (240), q ′ represents an HD pixel of the predicted image (HD image). c_iEach (i is an integer value from 1 to n) represents each prediction tap (SD pixel). D_iEach represents a prediction coefficient.
[2486]
As described above, the image generation unit 4104 predicts and estimates the HD image corresponding to the SD image (input image). Therefore, the HD image output from the image generation unit 4104 is referred to as a predicted image.
[2487]
FIG. 317 shows a prediction coefficient (formula (2) stored in the coefficient memory 4124 of such an image generation unit 4104.40D)_i) Represents a learning device (prediction coefficient calculation device).
[2488]
In FIG. 317, a predetermined image is input as a teacher image (HD image) to each of the down-conversion unit 4141 and the normal equation generation unit 4146.
[2489]
The down-conversion unit 4146 generates a student image (SD image) having a resolution lower than that of the teacher image from the input teacher image (HD image) (the down-converted teacher image is used as a student image), and a region extraction unit 4142 and the region extraction unit 4145.
[2490]
Thus, since the learning device 4131 includes the down-conversion unit 4141, the teacher image (HD image) does not need to be a higher resolution image than the input image from the sensor 2 (FIG. 1). . This is because if the student image obtained by down-converting the teacher image (reduced resolution) is an SD image, the teacher image corresponding to the student image becomes an HD image. Therefore, the teacher image may be the input image itself from the sensor 2, for example.
[2491]
The area extraction unit 4142 extracts class taps (SD pixels) necessary for class classification from the student images (SD images) supplied from the down-conversion unit 4141 and outputs the class taps (SD pixels) to the pattern detection unit 4143. The pattern detection unit 4143 detects the input class tap pattern and outputs the detection result to the class code determination unit 4144. The class code determination unit 4144 determines a class code corresponding to the input pattern, and outputs the class code to each of the region extraction unit 4145 and the normal equation generation unit 4146.
[2492]
The area extraction unit 4145 extracts a prediction tap (SD pixel) from the student image (SD image) input from the down-conversion unit 4141 based on the class code input from the class code determination unit 4144, and generates a normal equation generation unit. 4146 is output.
[2493]
Note that the region extraction unit 4142, pattern detection unit 4143, class code determination unit 4144, and region extraction unit 4145 described above are the region extraction unit 4121, pattern detection unit 4122, and class code determination of the image generation unit 4104 in FIG. Each of the unit 4123 and the region extraction unit 4125 has basically the same configuration and function.
[2494]
The normal equation generation unit 4146 has a prediction tap (SD pixel) of a student image (SD image) input from the region extraction unit 4145 for each class code with respect to all the class codes input from the class code determination unit 4144. Then, a normal equation is generated from the HD pixels of the teacher image (HD image) and supplied to the coefficient determination unit 4147.
[2495]
When a normal equation corresponding to a predetermined class code is supplied from the normal equation generation unit 4146, the coefficient determination unit 4147 calculates each prediction coefficient from the normal equation, and stores it in the coefficient memory 4124 in association with the class code. Let
[2496]
The normal equation generation unit 4146 and the coefficient determination unit 4147 will be described in more detail.
[2497]
In the above equation (240), before learning, the prediction coefficient d_iEach is an undetermined coefficient. Learning is performed by inputting HD pixels of a plurality of teacher images (HD images) for each class code. There are m HD pixels corresponding to a predetermined class code, and each of the m HD pixels is represented by q_kWhen described as (k is an integer value of 1 to m), the following equation (241) is set from the equation (240).
[2498]
[Formula 191]

... (241)
[2499]
That is, the equation (241) is obtained by calculating the right side to obtain a predetermined HD pixel q_kRepresents that it is possible to predict and estimate. In formula (241), e_kRepresents an error. That is, the HD pixel q of the predicted image (HD image) that is the calculation result on the right side_k'Is the actual HD pixel q_kDoes not exactly match the predetermined error e_kincluding.
[2500]
Therefore, in the equation (241), the error e_kPrediction coefficient d that minimizes the sum of squares of_iIs obtained by learning, its prediction coefficient d_iIs the actual HD pixel q_kIt can be said that this is the optimal coefficient for predicting
[2501]
Thus, for example, m pixels (m is an integer greater than n) HD pixels q collected by learning._kUsing the least squares method, the optimal prediction coefficient d_iCan be uniquely determined.
[2502]
That is, the prediction coefficient d on the right side of Equation (241)_iA normal equation in the case of obtaining by the least square method is represented by the following equation (242).
[2503]
192

... (242)
[2504]
Accordingly, when the normal equation represented by the equation (242) is generated, the prediction coefficient d is solved by solving the normal equation._iIs uniquely determined.
[2505]
Specifically, when each matrix of the normal equation represented by the equation (242) is defined as the following equations (243) to (245), the normal equation is represented by the following equation (246): expressed.
[2506]
[Equation 193]

... (243)
[2507]
194

... (244)
[2508]
195

... (245)
[2509]
196

... (246)
[2510]
As shown in equation (244), matrix D_MATEach component of_iIt is. Therefore, in equation (246), the left side matrix C_MATAnd right-hand side matrix Q_MATIs determined, the matrix D is obtained by matrix solution._MAT(Ie, prediction coefficient d_i) Can be calculated.
[2511]
More specifically, as shown in the equation (243), the matrix C_MATEach component of the prediction tap c_ikIf is known, computation is possible. Prediction tap c_ikIs extracted by the region extraction unit 4145, the normal equation generation unit 4146 receives the prediction tap c supplied from the region extraction unit 4145._ikMatrix C using each of_MATEach component of can be calculated.
[2512]
Further, as shown in the equation (245), the matrix Q_MATEach component of the prediction tap c_ikAnd HD pixel q_kIf is known, computation is possible. Prediction tap c_ikIs the matrix C_MATAre the same as those included in each component of HD pixel q_kIs the prediction tap c_ikAre the HD pixels of the teacher image with respect to the target pixel (SD pixel of the student image) included in. Therefore, the normal equation generation unit 4146 has the prediction tap c supplied from the region extraction unit 4145._ikAnd the matrix Q using the teacher image_MATEach component of can be calculated.
[2513]
In this way, the normal equation generation unit 4146 performs the matrix C for each class code._MATAnd matrix Q_MATAre calculated and the calculation result is supplied to the coefficient determination unit 4147 in association with the class code.
[2514]
The coefficient determination unit 4147, based on the normal equation corresponding to the supplied predetermined class code, the matrix D of the above equation (246)._MATPrediction coefficient d which is each component of_iIs calculated.
[2515]
Specifically, the normal equation of the above-described formula (246) can be transformed as the following formula (247).
[2516]
[Expression 197]

... (247)
[2517]
In equation (247), the left side matrix D_MATEach component of_iIt is. Matrix C_MATAnd matrix Q_MATEach of the components is supplied from the normal equation generation unit 4146. Therefore, the coefficient determination unit 4147 receives a matrix C corresponding to a predetermined class code from the normal equation generation unit 4146._MATAnd matrix Q_MATWhen each component is supplied, the matrix D is calculated by performing the matrix operation on the right side of the equation (247)._MATAnd the calculation result (prediction coefficient d_i) Is stored in the coefficient memory 4124 in association with the class code.
[2518]
As described above, the class classification adaptive process is not included in the SD image, but is different from, for example, a simple interpolation process in that a component included in the HD image is reproduced. That is, in the adaptive process, as long as only the above-described equation (240) is seen, it looks the same as the interpolation process using a so-called interpolation filter, but the prediction coefficient d corresponding to the coefficient of the interpolation filter_iHowever, since it is obtained by learning using teacher data and student data, the components included in the HD image can be reproduced. Therefore, the class classification adaptation process as described above can be referred to as a process having an image creation (resolution creation) function.
[2519]
Furthermore, in the above-described example, the case where the spatial resolution is improved has been described as an example. However, according to the class classification adaptive processing, various coefficients obtained by performing learning by changing teacher data and student data are used. Thus, for example, it is possible to improve S / N (Signal to Noise Ratio), improve blurring, and perform various other processes.
[2520]
That is, for example, in order to improve S / N and blur by class classification adaptive processing, image data having a high S / N is used as teacher data, and an image obtained by reducing the S / N of the teacher data is used. What is necessary is just to obtain | require a coefficient by making (or a blurred image) into student data.
[2521]
Heretofore, the configurations of the image generation unit 4104 that executes the class classification adaptation process and the learning device 4131 have been described.
[2522]
As described above, the image generation unit 4104 can be configured to execute image processing other than the class classification adaptive processing. However, for the sake of simplicity, the following description of the image generation unit 4104 is performed. The configuration is the configuration shown in FIG. 316 described above. In other words, hereinafter, the image generation unit 4104 generates an image having a higher spatial resolution than the input image by executing the classification adaptation process, and supplies the generated image to the selector 4112.
[2523]
Next, with reference to FIG. 318, signal processing of the signal processing apparatus (FIG. 315) to which the first combined technique is applied will be described.
[2524]
Here, the data continuity detecting unit 4101 has an angle (an image, a continuity direction (space direction) at a target position of a signal of the real world 1 (FIG. 1), and one direction of the space direction. Assume that the X direction (angle formed by the sensor 2 (FIG. 1) parallel to a predetermined side of the detection element) is calculated by the method of least squares, and the calculated angle is output as data continuity information.
[2525]
The data continuity detecting unit 4101 also outputs an estimation error (error of the least squares method) calculated when calculating the angle as region specifying information.
[2526]
In FIG. 1, when a real world 1 signal, which is an image, is incident on the sensor 2, an input image is output from the sensor 2.
[2527]
In FIG. 315, this input image is input to the data continuity detection unit 4101 and the real world estimation unit 4102 and is also input to the image generation unit 4104.
[2528]
Accordingly, in step S4101 of FIG. 318, the image generation unit 4104 performs the above-described class classification adaptation process using a predetermined SD pixel of the input image (SD image) as a target pixel, and HD pixels of the predicted image (HD image). (HD pixel in the target pixel) is generated and supplied to the selector 4112.
[2529]
Hereinafter, when distinguishing between the pixel output from the image generation unit 4104 and the pixel output from the image generation unit 4103, the pixel output from the image generation unit 4104 is referred to as a first pixel, and image generation is performed. A pixel output from the unit 4103 is referred to as a second pixel.
[2530]
Hereinafter, the process executed by the image generation unit 4104 (in this case, the process of step S4101) is referred to as “execution process of class classification adaptive process”. Details of “execution processing of class classification adaptation processing” in this example will be described later with reference to the flowchart of FIG.
[2531]
On the other hand, in step S4102, the data continuity detecting unit 4101 detects an angle corresponding to the direction of continuity and calculates an estimation error thereof. The detected angle is supplied to each of the real world estimation unit 4102 and the image generation unit 4103 as data continuity information. Further, the calculated estimation error is supplied to the region detection unit 4111 as region specifying information.
[2532]
In step S4103, the real world estimation unit 4102 estimates a signal of the real world 1 based on the angle detected by the data continuity detection unit 4101 and the input image.
[2533]
As described above, the estimation process performed by the real world estimation unit 4102 is not particularly limited, and various methods described above can be used. Here, for example, the real world estimation unit 4102 represents a function F representing the signal of the real world 1 (in the following description, the function F will be referred to as an optical signal function F) as a predetermined function f (the following In the description, it is assumed that the signal of the real world 1 (the optical signal function F) is estimated by approximating the function f by the approximation function f).
[2534]
Here, for example, the real world estimation unit 4102 supplies the feature quantity (coefficient) of the approximate function f to the image generation unit 4103 as real world estimation information.
[2535]
In step S4104, the image generation unit 4103 applies the first pixel (HD pixel) generated by the class classification adaptive processing of the image generation unit 4104 based on the real world 1 signal estimated by the real world estimation unit 4102. A corresponding second pixel (HD pixel) is generated and supplied to the selector 4112.
[2536]
In this case, since the feature quantity (coefficient) of the approximate function f is supplied from the real world estimation unit 4102, the image generation unit 4103, for example, based on the supplied feature quantity of the approximate function f, Is integrated within a predetermined integration range to generate a second pixel (HD pixel).
[2537]
However, the integration range is a range in which a second pixel having the same size (same resolution) as the first pixel (HD pixel) output from the image generation unit 4104 can be generated. That is, in the spatial direction, the integration range is the pixel width of the second pixel to be generated.
[2538]
Note that the order of the “class classification adaptive process execution process” in step S 4101 and the series of processes in steps S 4102 to S 4104 is not limited to the example in FIG. 318, and the series of processes in steps S 4102 to S 4104 is executed first. Alternatively, the “class classification adaptive process execution process” in step S 4101 and the series of processes in steps S 4102 to S 4104 may be executed simultaneously.
[2539]
In step S4105, the area detection unit 4111 generates the first image generated by the image generation unit 4103 in the process of step S4104 based on the estimation error (area specifying information) calculated by the data continuity detection unit 4101 in the process of step S4102. The area of the second pixel (HD pixel) is detected.
[2540]
That is, the second pixel is an HD pixel in the SD pixel of the input image used as the target pixel by the data continuity detecting unit 4101. Therefore, the types of pixels (steady region or non-stationary region) of the target pixel (SD pixel of the input image) and the second pixel (HD pixel) are the same.
[2541]
Further, the region specifying information output by the data continuity detecting unit 4101 is an estimation error when the angle at the target pixel is calculated by the least square method.
[2542]
Therefore, the region detection unit 4111 compares the estimation error for the target pixel (the SD pixel of the input image) supplied from the data continuity detection unit 4101 with a preset threshold value, and the result of the comparison is the estimation error. If it is smaller than the threshold value, the second pixel is detected as a stationary region, while if the estimation error is greater than or equal to the threshold value, the second pixel is detected as an unsteady region. Then, the detection result is supplied to the selector 4112.
[2543]
When the detection result of this area detection unit 4111 is supplied to the selector 4112, in step S 4106, the selector 4112 determines whether or not the detected area is a steady area.
[2544]
If it is determined in step S4106 that the detected region is a steady region, the selector 4112 outputs the second pixel supplied from the image generation unit 4103 to the outside as an output image in step S4107.
[2545]
On the other hand, if it is determined in step S4106 that the detected area is not a steady area (non-steady area), the selector 4112 receives the first image supplied from the image generation unit 4104 in step S4108. The pixel is output to the outside as an output image.
[2546]
Thereafter, in step S4109, it is determined whether or not the processing for all the pixels has been completed. If it is determined that the processing for all the pixels has not yet been completed, the processing returns to step S4101. That is, the processes in steps S4101 to S4109 are repeated until the processing of all pixels is completed.
[2547]
If it is determined in step S4109 that all pixels have been processed, the process ends.
[2548]
As described above, in the example of the flowchart in FIG. 318, each time the first pixel (HD pixel) and the second pixel (HD pixel) are generated, the first pixel or the second pixel is output as an output image. Output in units of pixels.
[2549]
However, as described above, it is not essential to output in units of pixels. After the processing of all the pixels is completed, all the pixels may be output collectively as an output image. In this case, in each process of step S4107 and step S4108, the pixel (first pixel or second pixel) is not output, but is temporarily stored in the selector 4112. After the process of step S4109, all pixels Is added.
[2550]
Next, with reference to the flowchart in FIG. 319, details of the “class classification adaptive processing execution processing” (for example, the processing in step S4101 in FIG. 318 described above) executed by the image generation unit 4104 having the configuration in FIG. 316 will be described. To do.
[2551]
When an input image (SD image) from sensor 2 is input to image generation unit 4104, each of region extraction unit 4121 and region extraction unit 4125 inputs the input image in step S4121.
[2552]
In step S412, the region extraction unit 4121 selects, from the input image, a pixel of interest (SD pixel) and a pixel (SD pixel) located at each of a preset relative position (one or more positions) from the pixel of interest. ) Are extracted as class taps and supplied to the pattern detection unit 4122.
[2553]
In step S 4123, the pattern detection unit 4122 detects the supplied class tap pattern and supplies it to the class code determination unit 4123.
[2554]
In step S4124, the class code determination unit 4123 determines a class code that matches the supplied class tap pattern from among a plurality of preset class codes, and each of the coefficient memory 4124 and the region extraction unit 4125 To supply.
[2555]
In step S4125, the coefficient memory 4124 reads a prediction coefficient (group) to be used from a plurality of prediction coefficients (group) determined in advance by the learning process based on the supplied class code, and performs a prediction calculation unit. 4126.
[2556]
The learning process will be described later with reference to the flowchart of FIG.
[2557]
In step S4126, the region extraction unit 4125 selects the target pixel (SD pixel) and the relative position from the preset target pixel (one or more positions) from the input image corresponding to the supplied class code. The pixels (SD pixels) located at each of the positions set independently of the class tap position (which may be the same position as the class tap position) are extracted as prediction taps and predicted. This is supplied to the calculation unit 4126.
[2558]
In step S4127, the prediction calculation unit 4126 calculates the prediction tap supplied from the region extraction unit 4125 using the prediction coefficient supplied from the coefficient memory 4124, generates a prediction image (first pixel), and generates an external image. (In the example of FIG. 315, the data is output to the selector 4112).
[2559]
Specifically, the prediction calculation unit 4126 calculates each of the prediction taps supplied from the region extraction unit 4125 as c._i(I is an integer from 1 to n) and each of the prediction coefficients supplied from the coefficient memory 4124 is d_iAs described above, the HD pixel q ′ in the target pixel (SD pixel) is calculated by calculating the right side of the above-described formula (240), and is used as a predetermined one pixel (first pixel) of the predicted image (HD image). ) To the outside. Thereafter, the process ends.
[2560]
Next, a learning process (a process for generating a prediction coefficient used by the image generation unit 4104 by learning) executed by the learning device 4131 (FIG. 317) for the image generation unit 4104 will be described with reference to a flowchart of FIG.
[2561]
In step S4141, each of the down-conversion unit 4141 and the normal equation generation unit 4146 inputs the supplied predetermined image as a teacher image (HD image).
[2562]
In step S4142, the down-conversion unit 4141 down-converts the input teacher image (decreases the resolution) to generate a student image (SD image) and supplies it to each of the region extraction unit 4142 and the region extraction unit 4145. .
[2563]
In step S4143, the region extraction unit 4142 extracts class taps from the supplied student images and outputs the class taps to the pattern detection unit 4143. Note that the process of step S4143 is basically the same process as the process of step S4122 (FIG. 319) described above.
[2564]
In step S4144, the pattern detection unit 4143 detects a pattern for determining a class code from the supplied class tap and supplies the pattern to the class code determination unit 4144. Note that the process of step S4144 is basically the same as the process of step S4123 (FIG. 319) described above.
[2565]
In step S4145, the class code determination unit 4144 determines a class code based on the supplied class tap pattern, and supplies the class code to each of the region extraction unit 4145 and the normal equation generation unit 4146. Note that the process of step S4145 is basically the same as the process of step S4124 (FIG. 319) described above.
[2565]
In step S4146, the region extraction unit 4145 extracts a prediction tap from the student image corresponding to the supplied class code, and supplies the prediction tap to the normal equation generation unit 4146. Note that the process of step S4146 is basically the same as the process of step S4126 (FIG. 319) described above.
[2567]
 In step S4147, the normal equation generation unit 4146 uses the prediction tap (SD pixel) supplied from the region extraction unit 4145 and the predetermined HD pixel of the teacher image (HD image) to obtain the above formula (242) (that is, Formula (246)) Is generated, and the generated normal equation and the class code supplied from the class code determination unit 4144 are associated with each other and supplied to the coefficient determination unit 4147.
[2568]
In step S4148, the coefficient determination unit 4147 determines the prediction coefficient by solving the supplied normal equation, that is, calculates the prediction coefficient by calculating the right side of the above equation (247), and supplies the supplied class code. And stored in the coefficient memory 4124.
[2568]
Thereafter, in step S4149, it is determined whether or not processing has been performed for all pixels. If it is determined that processing has not been performed for all pixels, the processing returns to step S4143. That is, the processes in steps S4143 to S4149 are repeated until the processes for all the pixels are completed.
[2570]
If it is determined in step S4149 that the process has been performed for all pixels, the process ends.
[2571]
Next, the second combined method will be described with reference to FIGS. 321 and 322.
[2572]
FIG. 321 illustrates a configuration example of a signal processing device to which the second combined technique is applied.
[2573]
In FIG. 321, the parts corresponding to those of the signal processing apparatus (FIG. 315) to which the first combined method is applied are denoted by the corresponding reference numerals.
[2574]
In the configuration example of FIG. 315 (first combined technique), the region specifying information is output from the data continuity detection unit 4101 and input to the region detection unit 4111. However, the configuration example of FIG. In the combined method), the region specifying information is output from the real world estimation unit 4102 and input to the region detection unit 4111.
[2575]
This area specifying information is not particularly limited, and may be information newly generated after the real world estimation unit 4102 estimates the signal of the real world 1 (FIG. 1), or the signal of the real world 1 is estimated. It may be information that is generated along with.
[2576]
Specifically, for example, an estimation error can be used as the area specifying information.
[2577]
Here, the estimation error will be described.
[2578]
As described above, the estimation error (region specifying information in FIG. 315) output from the data continuity detection unit 4101 is, for example, the data continuity information output from the data continuity detection unit 4101 is an angle, and When the angle is calculated by the method of least squares, it is an estimation error that is incidentally calculated by the operation of the least squares method.
[2579]
On the other hand, the estimation error (region specifying information in FIG. 321) output from the real world estimation unit 4102 is, for example, a mapping error.
[2580]
That is, since the real world 1 signal is estimated by the real world estimation unit 4102, it is possible to generate a pixel of any size (calculate the pixel value) from the estimated real world 1 signal. . Here, the generation of a new pixel in this way is referred to as mapping.
[2581]
Therefore, after estimating the real world 1 signal, the real world estimation unit 4102 is used as the target pixel of the input image (when the real world 1 is estimated, from the estimated real world 1 signal). A new pixel is generated (mapped) at the position where the (pixel) was placed. That is, the real world estimation unit 4102 predicts and calculates the pixel value of the target pixel of the input image from the estimated real world 1 signal.
[2582]
Then, the real world estimation unit 4102 calculates a difference between the pixel value of the mapped new pixel (the predicted pixel value of the target pixel of the input image) and the pixel value of the target pixel of the actual input image. This difference is referred to herein as a mapping error.
[2583]
Thus, the real world estimation unit 4102 can calculate the mapping error (estimation error) and supply the calculated mapping error (estimation error) to the region detection unit 4111 as region specifying information.
[2584]
As described above, the region detection process executed by the region detection unit 4111 is not particularly limited. For example, the real world estimation unit 4102 uses the above-described mapping error (estimation error) as region specification information. When the supplied mapping error (estimation error) is smaller than a predetermined threshold, the region detection unit 4111 detects that the target pixel of the input image is a steady region, while the supplied mapping error is supplied to 4111. When the error (estimation error) is greater than or equal to a predetermined threshold, it is detected that the target pixel of the input image is an unsteady region.
[2585]
The other configuration is basically the same as that of FIG. In other words, the signal processing apparatus (FIG. 321) to which the second combined technique is applied also has data and basically the same configuration and function as the signal processing apparatus (FIG. 315) to which the first combined technique is applied. A continuity detection unit 4101, a real world estimation unit 4102, an image generation unit 4103, an image generation unit 4104, and a steady region detection unit 4105 (region detection unit 4111 and selector 4112) are provided.
[2586]
FIG. 322 is a flowchart for explaining signal processing (signal processing by the second combined technique) of the signal processing apparatus having the configuration of FIG.
[2588]
The signal processing of the second combined technique is similar to the signal processing of the first combined technique (the process shown in the flowchart of FIG. 318). Therefore, here, the description of the processing described in the first combined technique is omitted as appropriate, and the signal of the second combined technique different from the first combined technique is hereinafter referred to with reference to the flowchart in FIG. The process will be mainly described.
[2588]
Here, as in the first combined method, the data continuity detection unit 4101 uses an angle (stationary direction (space direction) and spatial direction at the target position of the signal of the real world 1 (FIG. 1)). Is calculated by the method of least squares, and the calculated angle is output as data continuity information, which is an X direction (an angle formed by a direction parallel to a predetermined side of the detection element of sensor 2 (FIG. 1)). To do.
[2589]
However, as described above, in the first combined method, the data continuity detecting unit 4101 supplies the region specifying information (for example, estimation error) to the region detecting unit 4111, whereas the second combined method is used. In the method, the real world estimation unit 4102 supplies region specifying information (for example, estimation error (mapping error)) to the region detection unit 4111.
[2590]
Therefore, in the second combined technique, the process of step S4162 is executed as the process of the data continuity detecting unit 4101. This process corresponds to the process of step S4102 of FIG. 318 in the first combined method. That is, in step S4162, the data continuity detecting unit 4101 detects an angle corresponding to the direction of continuity based on the input image, and uses the detected angle as data continuity information to generate an image with the real world estimation unit 4102. To each of the units 4103.
[2591]
In the second combined method, the process of step S4163 is executed as the process of the real world estimation unit 4102. This process corresponds to the process of step S4103 in FIG. 318 in the first combined method. That is, in step S4163, the real world estimation unit 4102 estimates and estimates the signal of the real world 1 (FIG. 1) based on the angle detected by the data continuity detection unit 4101 in the process of step S4162. An estimation error of the real world 1 signal, that is, a mapping error is calculated and supplied to the region detection unit 4111 as region specifying information.
[2592]
The other processes are basically the same as the corresponding processes of the first combination method (corresponding processes among the processes shown in the flowchart of FIG. 318), and thus description thereof is omitted.
[2593]
Next, the third combined technique will be described with reference to FIGS. 323 and 324.
[2594]
FIG. 323 illustrates a configuration example of a signal processing device to which the third combined technique is applied.
[2595]
In FIG. 323, parts corresponding to those of the signal processing apparatus (FIG. 315) to which the first combined technique is applied are assigned corresponding reference numerals.
[2596]
In the configuration example of FIG. 315 (first combined technique), the steady region detection unit 4105 is disposed after the image generation unit 4103 and the image generation unit 4104. However, the configuration example of FIG. In the combined method), the corresponding steady region detection unit 4161 is arranged after the data continuity detection unit 4101 and before the real world estimation unit 4102 and the image generation unit 4104.
[2597]
Due to such a difference in arrangement position, there is a slight difference between the steady region detection unit 4105 in the first combination method and the steady region detection unit 4161 in the third combination method. Therefore, the steady region detection unit 4161 will be described focusing on this difference.
[2598]
The steady region detection unit 4161 is provided with a region detection unit 4171 and an execution command generation unit 4172. Of these, the region detection unit 4171 has basically the same configuration and function as the region detection unit 4111 (FIG. 315) of the steady region detection unit 4105. On the other hand, the function of the execution command generation unit 4172 is slightly different from that of the selector 4112 (FIG. 315) of the steady region detection unit 4105.
[2599]
That is, as described above, the selector 4112 in the first combined technique selects either one of the image from the image generation unit 4103 and the image from the image generation unit 4104 based on the detection result of the region detection unit 4111. Is selected, and the selected image is output as an output image. As described above, the selector 4112 receives the image from the image generation unit 4103 and the image from the image generation unit 4104 in addition to the detection result of the region detection unit 4111 and outputs an output image.
[2600]
On the other hand, the execution command generation unit 4172 in the third combined method, based on the detection result of the region detection unit 4171, sets a new pixel in the target pixel of the input image (the pixel that the data continuity detection unit 4101 has set as the target pixel). It is selected whether the generation process is performed by the image generation unit 4103 or the image generation unit 4104.
[2601]
That is, when the region detection unit 4171 supplies the execution command generation unit 4172 with a detection result that the target pixel of the input image is a steady region, the execution command generation unit 4172 selects the image generation unit 4103 and performs real world estimation. The unit 4102 is supplied with a command for starting execution of the processing (such a command is hereinafter referred to as an execution command). Then, the real world estimation unit 4102 starts the process, generates real world estimation information, and supplies it to the image generation unit 4103. The image generation unit 4103 generates a new image based on the supplied real world estimation information (if necessary, data continuity information supplied from the data continuity detection unit 4101), and outputs it. Output to the outside as an image.
[2602]
On the other hand, when the region detection unit 4171 supplies the execution command generation unit 4172 with a detection result that the target pixel of the input image is an unsteady region, the execution command generation unit 4172 selects the image generation unit 4104. The image generation unit 4104 is supplied with an execution command. Then, the image generation unit 4104 starts its processing, performs predetermined image processing (in this case, class classification adaptation processing) on the input image, generates a new image, and uses this as an output image as an external image. Output to.
[2603]
As described above, the execution command generation unit 4172 in the third combined method inputs the detection result of the region detection unit 4171 and outputs the execution command. That is, the execution command generation unit 4172 does not input / output an image.
[2604]
 The configuration other than the steady region detection unit 4161 is basically the same as that of FIG. I.e.3The signal processing apparatus (signal processing apparatus in FIG. 323) to which the combined method is applied also has basically the same configuration and function as the signal processing apparatus (FIG. 315) to which the first combined technique is applied. A continuity detection unit 4101, a real world estimation unit 4102, an image generation unit 4103, and an image generation unit 4104 are provided.
[2605]
However, in the third combined method, each of the real world estimation unit 4102 and the image generation unit 4104 does not execute the process unless the execution command from the execution command generation unit 4172 is input.
[2606]
By the way, in the example of FIG. 323, the output unit of the image is a pixel unit. Therefore, although not shown in the figure, in order to set the output unit to the entire image of one frame (in order to output all the pixels at once), for example, the image synthesis is performed after the image generation unit 4103 and the image generation unit 4104. A part can also be provided.
[2607]
The image composition unit adds (synthesizes) the pixel value output from the image generation unit 4103 and the pixel value output from the image generation unit 4104, and sets the added value as the pixel value of the corresponding pixel. In this case, one of the image generation unit 4103 and the image generation unit 4104 to which the execution command is not supplied does not execute the process and always supplies a predetermined constant value (for example, 0) to the image composition unit. .
[2608]
The image composition unit repeatedly executes such processing for all the pixels, and when the processing for all the pixels is completed, outputs all the pixels collectively (as one frame of image data) to the outside.
[2609]
Next, with reference to a flowchart of FIG. 324, signal processing of the signal processing apparatus (FIG. 323) to which the third combined technique is applied will be described.
[2610]
Here, as in the case of the first combined method, the data continuity detecting unit 4101 uses the angle (stationary direction (space direction) at the target position of the signal of the real world 1 (FIG. 1), and An X direction (an angle formed by a direction parallel to a predetermined side of the detection element of sensor 2 (FIG. 1)), which is one direction in the spatial direction, is calculated by the method of least squares, and the calculated angle is used as data continuity information. I want to output.
[2611]
The data continuity detecting unit 4101 also outputs an estimation error (error of the least squares method) calculated when calculating the angle as region specifying information.
[2612]
In FIG. 1, when a signal of the real world 1 is incident on the sensor 2, an input image is output from the sensor 2.
[2613]
In FIG. 323, this input image is input to the image generation unit 4104 and also input to the data continuity detection unit 4101 and the real world estimation unit 4102.
[2614]
Therefore, in step S4181 in FIG. 324, the data continuity detecting unit 4101 detects an angle corresponding to the direction of continuity based on the input image and calculates an estimation error thereof. The detected angle is supplied to each of the real world estimation unit 4102 and the image generation unit 4103 as data continuity information. In addition, the calculated estimation error is supplied to the area detection unit 4171 as area specifying information.
[2615]
Note that the process of step S4181 is basically the same process as the process of step S4102 (FIG. 318) described above.
[2616]
In addition, as described above, at this point (unless an execution command is supplied from the execution command generation unit 4172), neither the real world estimation unit 4102 nor the image generation unit 4104 executes the process.
[2617]
In step S 4182, the region detection unit 4171 detects the target pixel (the data continuity detection unit 4101 detects the angle) of the input image based on the estimation error (supplied region identification information) calculated by the data continuity detection unit 4101. In this case, the detection target region is detected, and the detection result is supplied to the execution command generation unit 4172. Note that the process of step S4182 is basically the same as the process of step S4105 (FIG. 318) described above.
[2618]
When the detection result of the region detection unit 4171 is supplied to the execution command generation unit 4172, in step S4183, the execution command generation unit 4172 determines whether or not the detected region is a steady region. Note that the process of step S4183 is basically the same as the process of step S4106 (FIG. 318) described above.
[2619]
If it is determined in step S4183 that the detected region is not a steady region, the execution command generation unit 4172 supplies the execution command to the image generation unit 4104. In step S4184, the image generation unit 4104 executes “class classification adaptive processing execution processing” to generate the first pixel (the HD pixel in the target pixel (the SD pixel of the input image)), and in step S4185. The first pixel generated by the class classification adaptation process is output to the outside as an output image.
[2620]
Note that the process of step S4184 is basically the same process as the process of step S4101 (FIG. 318) described above. That is, the flowchart in FIG. 319 is also a flowchart for explaining details of the process in step S4184.
[2621]
On the other hand, when it is determined in step S4183 that the detected region is a steady region, the execution command generation unit 4172 supplies the execution command to the real world estimation unit 4102. Then, in step S4186, the real world estimation unit 4102 estimates the signal of the real world 1 based on the angle detected by the data continuity detection unit 4101 and the input image. Note that the process of step S4186 is basically the same as the process of step S4103 (FIG. 318) described above.
[2622]
Then, in step S4187, the image generation unit 4103 determines the second in the detected region (that is, the target pixel (SD pixel) of the input image) based on the real world 1 signal estimated by the real world estimation unit 4102. Are generated, and in step S4188, the second pixel is output as an output image. Note that the process of step S4187 is basically the same as the process of step S4104 (FIG. 318) described above.
[2623]
When the first pixel or the second pixel is output as an output image (after the process of step S4185 or step S4188), in step S4189, it is determined whether or not all the pixels have been processed. If it is determined that the process has not been completed yet, the process returns to step S4181. That is, the processing of steps S4181 to S4189 is repeated until the processing of all pixels is completed.
[2624]
If it is determined in step S4189 that all pixels have been processed, the processing ends.
[2625]
 Thus, in the example of the flowchart of FIG. 324, the first pixel (HD pixel)OrEach time the second pixel (HD pixel) is generated, the first pixel or the second pixel is output in pixel units as an output image.
[2626]
However, as described above, if an image composition unit (not shown) is further provided in the final stage (after the image generation unit 4103 and the image generation unit 4104) of the signal processing apparatus configured as shown in FIG. After the processing is completed, it becomes possible to output all the pixels at once as an output image. In this case, in the processing in each of step S4185 and step S4188, the pixel (first pixel or second pixel) is output to the image composition unit instead of the outside. Then, before the process of step S4189, the image composition unit synthesizes the pixel value of the pixel supplied from the image generation unit 4103 and the pixel value of the pixel supplied from the image generation unit 4104, and outputs the pixel of the output image. After the process of generating and the process of step S4189, a process in which the image composition unit outputs all the pixels is added.
[2627]
Next, the fourth combined technique will be described with reference to FIGS. 325 and 326.
[2628]
FIG. 325 illustrates a configuration example of a signal processing device to which the fourth combined technique is applied.
[2629]
In FIG. 325, the parts corresponding to those of the signal processing apparatus (FIG. 323) to which the third combined method is applied are denoted by the corresponding reference numerals.
[2630]
In the configuration example of FIG. 323 (third combination method), the region specifying information is output from the data continuity detection unit 4101 and input to the region detection unit 4171. However, the configuration example of FIG. In the technique), the area specifying information is output from the real world estimation unit 4102 and input to the area detection unit 4171.
[2631]
Other configurations are basically the same as those in FIG. That is, in the signal processing apparatus (FIG. 325) to which the fourth combined technique is applied, data having basically the same configuration and function as the signal processing apparatus (FIG. 323) to which the third combined technique is applied. A continuity detection unit 4101, a real world estimation unit 4102, an image generation unit 4103, an image generation unit 4104, and a steady region detection unit 4161 (region detection unit 4171 and execution command generation unit 4172) are provided.
[2632]
As in the third combination method, although not shown, in order to output all the pixels at once, for example, an image composition unit is further provided after the image generation unit 4103 and the image generation unit 4104. You can also.
[2633]
FIG. 326 is a flowchart for explaining signal processing (signal processing by the fourth combined technique) of the signal processing apparatus having the configuration of FIG. 325.
[2634]
The signal processing of the fourth combined technique is similar to the signal processing of the third combined technique (the process shown in the flowchart of FIG. 324). Therefore, here, the description of the processing described in the third combined technique is omitted as appropriate, and the signal of the fourth combined technique different from the third combined technique is hereinafter referred to with reference to the flowchart of FIG. The process will be mainly described.
[2635]
Here, as in the third combined method, the data continuity detecting unit 4101 uses the angle (the continuity direction (space direction) and the spatial direction at the target position of the signal of the real world 1 (FIG. 1)). Is calculated by the method of least squares, and the calculated angle is output as data continuity information, which is an X direction (an angle formed by a direction parallel to a predetermined side of the detection element of sensor 2 (FIG. 1)). To do.
[2636]
However, as described above, in the third combined method, the data continuity detecting unit 4101 supplies the region specifying information (for example, estimation error) to the region detecting unit 4171, whereas the fourth combined method is used. In the method, the real world estimation unit 4102 supplies region specifying information (for example, estimation error (mapping error)) to the region detection unit 4171.
[2638]
Therefore, in the fourth combined method, the process of step S4201 is executed as the process of the data continuity detecting unit 4101. This process corresponds to the process of step S4181 in FIG. 324 in the third combined method. That is, in step S4201, the data continuity detecting unit 4101 detects an angle corresponding to the direction of continuity based on the input image, and uses the detected angle as data continuity information to generate an image with the real world estimation unit 4102. To each of the units 4103.
[2638]
In the fourth combined method, the process of step S4202 is executed as the process of the real world estimation unit 4102. This process corresponds to the process of step S4182 of FIG. 318 in the third combined method. That is, the real world estimation unit 4102 estimates the signal of the real world 1 (FIG. 1) based on the angle detected by the data continuity detection unit 4101 in the process of step S4202 and the estimated real world 1 A signal estimation error, that is, a mapping error is calculated and supplied to the region detection unit 4171 as region specifying information.
[2640]
The other processes are basically the same as the corresponding processes of the third combination method (corresponding processes among the processes shown in the flowchart of FIG. 324), and thus description thereof is omitted.
[2640]
Next, the fifth combined technique will be described with reference to FIGS. 327 and 328.
[2641]
FIG. 327 illustrates a configuration example of a signal processing device to which the fifth combined technique is applied.
[2642]
In FIG. 327, parts corresponding to those of the signal processing apparatus (FIGS. 323 and 325) to which the third and fourth combined methods are applied are assigned the corresponding reference numerals.
[2643]
In the configuration example of FIG. 323 (third combined technique), one stationary region detection unit 4161 is arranged after the data continuity detection unit 4101 and before the real world estimation unit 4102 and the image generation unit 4104. It is installed.
[2644]
In the configuration example (fourth combined technique) in FIG. 325, one steady region detection unit 4161 is arranged after the real world estimation unit 4102 and before the image generation unit 4103 and the image generation unit 4104. It is installed.
[2645]
On the other hand, in the configuration example (fifth combined method) of FIG. 327, similarly to the third combined method, it is a subsequent stage of the data continuity detecting unit 4101, and the real world estimating unit 4102 and the image generating unit. A stationary region detection unit 4181 is disposed in the front stage of 4104. Further, as in the fourth combined method, a steady region detection unit 4182 is disposed after the real world estimation unit 4102 and before the image generation unit 4103 and the image generation unit 4104.
[2646]
Each of the stationary region detection unit 4181 and the stationary region detection unit 4182 has basically the same configuration and function as the stationary region detection unit 4161 (FIG. 323 or 325). That is, both the area detection unit 4191 and the area detection unit 4201 have basically the same configuration and function as the area detection unit 4171. Further, both the execution command generation unit 4192 and the execution command generation unit 4202 have basically the same configuration and function as the execution command generation unit 4172.
[2647]
In other words, the fifth combination method is a combination of the third combination method and the fourth combination method.
[2648]
That is, in the third combined method and the fourth combined method, one region specifying information (in the third combined method, the region specifying information from the data continuity detecting unit 4101 and in the fourth combined method) Is the region specifying information from the real world estimation unit 4102), it is detected whether the target pixel of the input image is a stationary region or a non-stationary region. Therefore, in the third combined method and the fourth combined method, there is a possibility that the stationary region is detected although it is originally an unsteady region.
[2649]
Therefore, in the fifth combined method, first, attention is paid to the input image based on the region specifying information from the data continuity detecting unit 4101 (referred to as the first region specifying information in the description of the fifth combined method). After detecting whether the pixel is a stationary region or an unsteady region, region identification information from the real world estimation unit 4102 (referred to as second region identification information in the description of the fifth combined technique) ) To determine whether the target pixel of the input image is a stationary region or a non-stationary region.
[2650]
As described above, in the fifth combined method, since the region detection process is performed twice, the detection accuracy of the steady region is improved as compared with the third combined method and the fourth combined method. . Further, in the first combination method and the second combination method, only one stationary region detection unit 4105 (FIG. 315 or FIG. 321) is provided, as in the third combination method and the fourth combination method. . Therefore, even when compared with the first combined method and the second combined method, the detection accuracy of the steady region increases. As a result, it is possible to output image data closer to the real world 1 (FIG. 1) signal than any of the first to fourth combined methods.
[2651]
However, even in the first to fourth combined methods, the image generation unit 4104 that performs the conventional image processing, and an apparatus or program that generates an image using the continuity of data to which the present invention is applied (ie, data The continuity detection unit 4101, the real world estimation unit 4102, and the image generation unit 4103) are used together.
[2652]
Accordingly, even in the first to fourth combined methods, image data closer to the real world 1 (FIG. 1) signal is output than any of the conventional signal processing apparatus and the signal processing of the present invention having the configuration of FIG. Is possible.
[2653]
On the other hand, from the viewpoint of processing speed, the first to fourth combined methods only require one area detection process, which is superior to the fifth combined technique in which the area detection process is performed twice. Will be.
[2654]
Therefore, the user (or manufacturer) or the like selectively uses a combination method that matches the required output image quality and the required processing time (time until the output image is output). Can do.
[2655]
The other configurations in FIG. 327 are basically the same as those in FIG. 323 or FIG. That is, the signal processing apparatus (FIG. 327) to which the fifth combined technique is applied is basically the same as the signal processing apparatus (FIG. 323 or FIG. 325) to which the third or fourth combined technique is applied. A data continuity detecting unit 4101, a real world estimating unit 4102, an image generating unit 4103, and an image generating unit 4104 having a configuration and a function are provided.
[2656]
However, in the fifth combined technique, unless the execution command from the execution command generation unit 4192 is input to the real world estimation unit 4102, the image generation unit 4103 does not input the execution command from the execution command generation unit 4202. The image generation unit 4104 does not execute the processing unless the execution command is input from the execution command generation unit 4192 or the execution command generation unit 4202.
[2657]
Also, in the fifth combined method, as in the third and fourth combined methods, although not shown, in order to output all the pixels at once, for example, the image generation unit 4103 and the image generation unit 4104 An image composition unit can be further provided in the subsequent stage.
[2658]
Next, with reference to a flowchart of FIG. 328, signal processing of the signal processing apparatus (FIG. 327) to which the fifth combined technique is applied will be described.
[2659]
Here, as in the third and fourth combined methods, the data continuity detecting unit 4101 has a continuity direction (spatial direction at the target position of the signal of the real world 1 (FIG. 1). ) And the X direction (direction parallel to a predetermined side of the detection element of the sensor 2 (FIG. 1)), which is one direction in the spatial direction, is calculated by the least square method, and the calculated angle is data steady Suppose that it is output as sex information.
[2660]
Here, as in the case of the third combined method, the data continuity detecting unit 4101 also calculates the estimation error (the least square method error) calculated together with the calculation of the angle as the first method. Assume that it is output as area specifying information.
[2661]
Further, here, as in the case of the fourth combined method, the real world estimation unit 4102 outputs a mapping error (estimation error) as the second region specifying information.
[2662]
In FIG. 1, when a signal of the real world 1 is incident on the sensor 2, an input image is output from the sensor 2.
[2663]
In FIG. 327, this input image is input to each of the data continuity detection unit 4101, the real world estimation unit 4102, and the image generation unit 4104.
[2664]
Therefore, in step S4221 of FIG. 328, the data continuity detecting unit 4101 detects an angle corresponding to the direction of continuity based on the input image, and calculates an estimation error thereof. The detected angle is supplied to each of the real world estimation unit 4102 and the image generation unit 4103 as data continuity information. In addition, the calculated estimation error is supplied to the region detection unit 4191 as first region specifying information.
[2665]
Note that the process of step S4221 is basically the same as the process of step S4181 (FIG. 324) described above.
[2666]
Further, as described above, at this point (unless an execution command is supplied from the execution command generation unit 4192), neither the real world estimation unit 4102 nor the image generation unit 4104 executes the process.
[2667]
In step S 4222, the region detection unit 4191 determines the pixel of interest of the input image (the data continuity detection unit 4101 determines that the data continuity detection unit 4101 has supplied the first region specifying information). A region of a pixel that is a pixel of interest when an angle is detected is detected, and the detection result is supplied to the execution command generation unit 4192. Note that the process of step S4222 is basically the same as the process of step S4182 (FIG. 324) described above.
[2668]
When the detection result of the region detection unit 4181 is supplied to the execution command generation unit 4192, in step S4223, the execution command generation unit 4192 determines whether the detected region is a steady region. Note that the process of step S4223 is basically the same process as the process of step S4183 (FIG. 324) described above.
[2669]
If it is determined in step S4223 that the detected region is not a steady region (non-steady region), the execution command generation unit 4192 supplies an execution command to the image generation unit 4104. In step S4224, the image generation unit 4104 executes “class classification adaptive processing execution processing” to generate a first pixel (an HD pixel in the target pixel (SD pixel of the input image)), and in step S4225. The first pixel generated by the class classification adaptation process is output to the outside as an output image.
[2670]
Note that the process of step S4224 is basically the same process as the process of step S4184 (FIG. 324) described above. That is, the flowchart in FIG. 319 is also a flowchart for explaining details of the process in step S4186. Further, the process of step S4225 is basically the same process as the process of step S4185 (FIG. 324) described above.
[2671]
On the other hand, when it is determined in step S4223 that the detected region is a steady region, the execution command generation unit 4192 supplies the execution command to the real world estimation unit 4102. Then, in step S4226, the real world estimation unit 4102 estimates the signal of the real world 1 based on the angle detected by the data continuity detection unit 4101 in the process of step S4221, and the estimation error (mapping error). Is calculated. The estimated real world 1 signal is supplied to the image generation unit 4103 as real world estimation information. Further, the calculated estimation error is supplied to the region detection unit 4201 as second region specifying information.
[2672]
Note that the process of step S4226 is basically the same as the process of step S4202 (FIG. 326) described above.
[2673]
Further, as described above, at this time (unless an execution command is supplied from the execution command generation unit 4192 or the execution command generation unit 4202), neither the image generation unit 4103 nor the image generation unit 4104 executes the process.
[2674]
In step S 4227, the region detection unit 4201 determines the pixel of interest of the input image (the data continuity detection unit 4101 has an angle based on the estimation error (supplied second region specifying information) calculated by the real world estimation unit 4102. ) Is detected, and the detection result is supplied to the execution command generation unit 4202. Note that the process of step S4227 is basically the same process as the process of step S4203 (FIG. 326) described above.
[2675]
When the detection result of the region detection unit 4201 is supplied to the execution command generation unit 4202, in step S4228, the execution command generation unit 4202 determines whether or not the detected region is a steady region. Note that the process of step S4228 is basically the same process as the process of step S4204 (FIG. 326) described above.
[2676]
If it is determined in step S4228 that the detected region is not a steady region (non-steady region), the execution command generation unit 4202 supplies an execution command to the image generation unit 4104. In step S4224, the image generation unit 4104 executes “class classification adaptive processing execution processing” to generate a first pixel (an HD pixel in the target pixel (SD pixel of the input image)), and in step S4225. The first pixel generated by the class classification adaptation process is output to the outside as an output image.
[2679]
Note that the processing in step S4224 in this case is basically the same processing as the processing in step S4205 (FIG. 326) described above. Further, the process in step S4225 in this case is basically the same process as the process in step S4206 (FIG. 326) described above.
[2678]
On the other hand, when it is determined in step S4228 that the detected region is a steady region, the execution command generation unit 4202 supplies the execution command to the image generation unit 4103. Then, in step S4229, the image generation unit 4103, based on the real world 1 signal estimated by the real world estimation unit 4102 (and data continuity information from the data continuity detection unit 4101 as necessary), A second pixel (HD pixel) in the region detected by the region detection unit 4201 (that is, the target pixel (SD pixel) of the input image) is generated. In step S4230, the image generation unit 4103 outputs the generated second pixel to the outside as an output image.
[2679]
Note that the processes in steps S4229 and S4230 are basically similar to the processes in steps S4207 and S4208 (FIG. 326) described above.
[2680]
When the first pixel or the second pixel is output as an output image (after the process in step S4225 or step S4230), in step S4231, it is determined whether or not the process for all pixels has been completed. If it is determined that the process has not been completed yet, the process returns to step S4221. That is, the processes of steps S4221 to S4231 are repeated until the processing of all pixels is completed.
[2681]
If it is determined in step S4231 that all pixels have been processed, the process ends.
[2682]
The combination method has been described above as an example of the embodiment of the signal processing device 4 (FIG. 1) of the present invention with reference to FIGS. 315 to 328.
[2683]
As described above, in the combined method, a device (or a program or the like) that performs other signal processing that does not use continuity is further added to the signal processing device of the present invention configured as shown in FIG.
[2684]
In other words, in the combined method, the signal processing device (or program or the like) of the present invention having the configuration shown in FIG. 3 is added to the conventional signal processing device (or program or the like).
[2686]
That is, in the combined method, for example, the steady region detection unit 4105 in FIG. 315 or FIG. 321 projects the real world 1 optical signal, and the image data in which the real world 1 optical signal is partially lost ( For example, in the input image of FIG. 315 or FIG. 321, an area having the continuity of the data of the image data (for example, the steady area described in step S4106 of FIG. 318 or step S4166 of FIG. 322) is detected.
[2686]
In addition, the real world estimation unit 4102 in FIG. 315 or FIG. 321 determines the optical signal of the missing real world 1 based on the continuity of the data of the image data from which a part of the steadiness of the optical signal of the real world 1 is missing. The optical signal is estimated by estimating the stationarity.
[2687]
Further, for example, the data continuity detecting unit 4101 in FIG. 315 or FIG. 321 projects the image data in the image data in which the optical signal of the real world 1 is projected and a part of the continuity of the optical signal of the real world 1 is missing. Is detected with respect to the continuity reference axis of the data (for example, the angle described in step S4102 in FIG. 318 or step S4162 in FIG. 322). In this case, for example, the steady region detection unit 4105 in FIG. 315 or FIG. 321 detects a region having the continuity of the image data based on the angle, and the real world estimation unit 4102 lacks the region. The optical signal is estimated by estimating the continuity of the optical signal in the real world 1.
[2688]
However, in FIG. 315, the stationary region detection unit 4105 has an error between the model that is stationary along the angle and the input image (that is, for example, region identification information in the drawing, and the processing in step S4102 in FIG. 318). The region having the continuity of the data of the input image is detected on the basis of the estimation error calculated in (1).
[2688]
On the other hand, in FIG. 321, the steady region detection unit 4105 is arranged after the real world estimation unit 4102 and calculates the optical signal of the real world 1 corresponding to the input image calculated by the real world estimation unit 4102. An error between the real-world model to be represented and the input image (that is, for example, region-specific information in the figure, and an estimation error (mapping error) of the real-world signal calculated in the process of step S4163 in FIG. 318). Based on this, the real world model estimated by the real world estimation unit 4102, that is, the image output from the image generation unit 4103 is selectively output (for example, the selector 4112 in FIG. 321 performs steps S4166 to S4168 in FIG. 322). ).
[2690]
As described above, the examples in FIGS. 315 and 321 have been described, but the same applies to FIGS. 323, 325, and 327.
[2691]
Therefore, in the combined method, a portion of the real world 1 signal in which continuity exists (region having the continuity of the image data) is equivalent to a device (or a signal processing device configured as shown in FIG. 3) (or Program, etc.) can perform signal processing, and a conventional signal processing apparatus (or program, etc.) can execute signal processing for a portion of the real world 1 signal where there is no clear continuity. Become. As a result, it is possible to output image data that is closer to the signal in the real world 1 (FIG. 1) than either the conventional signal processing apparatus or the signal processing of the present invention configured as shown in FIG.
[2692]
Next, an example in which an image is directly generated by the data continuity detecting unit 101 will be described with reference to FIGS.
[2693]
The data continuity detection unit 101 in FIG. 329 is obtained by adding an image generation unit 4501 to the data continuity detection unit 101 in FIG. 165. The image generation unit 4501 acquires the coefficient of the approximate function f (x) in the real world output from the real world estimation unit 802 as real world estimation information, and reintegrates each pixel based on this coefficient to generate an image. Is generated and output.
[2694]
Next, the process of detecting the continuity of data in FIG. 329 will be described with reference to the flowchart in FIG. 330. The processes in steps S4501 to S4504 and steps S4506 to S4511 in the flowchart in FIG. 330 are the same as the processes in steps S801 to S810 in the flowchart in FIG.
[2695]
In step S4504, the image generation unit 4501 reintegrates each pixel based on the coefficient input from the real world estimation unit 802 to generate and output an image.
[2696]
Through the above processing, the data continuity detecting unit 101 can output not only the region information but also an image used for the region determination (consisting of pixels generated based on the real world estimation information).
[2697]
As described above, the data continuity detecting unit 101 in FIG. 329 is provided with the image generating unit 4501. That is, the data continuity detecting unit 101 in FIG. 329 can generate an output image based on the continuity of the data of the input image. Therefore, the apparatus having the configuration shown in FIG. 329 is not regarded as an embodiment of the data continuity detecting unit 101, but is regarded as another embodiment of the signal processing apparatus (image processing apparatus) 4 of FIG. You can also.
[2698]
Furthermore, in the signal processing apparatus to which the above-described combined technique is applied, an apparatus having the configuration shown in FIG. 329 as a signal processing unit that performs signal processing on a portion of the real world 1 signal that has continuity. (That is, a signal processing device having the same function and configuration as the data continuity detecting unit 101 in FIG. 329) can be applied.
[2699]
Specifically, for example, in the signal processing apparatus of FIG. 315 to which the first combined method is applied, a signal processing unit that performs signal processing on a portion of the real world 1 that has continuity exists. A data continuity detecting unit 4101, a real world estimating unit 4102, and an image generating unit 4103. Although not shown, instead of the data continuity detecting unit 4101, the real world estimating unit 4102, and the image generating unit 4103, a signal processing device (image processing device) having the configuration shown in FIG. 329 can be applied. . In this case, the comparison unit 804 in FIG. 329 supplies the output as region specifying information to the region detection unit 4111, and the image generation unit 4501 supplies the output image (second pixel) to the selector 4112. become.
[2700]
In the above, an example of estimating the real world by performing image processing in accordance with the real world by processing the image data acquired by the sensor 2 using the integration effect when processing the image has been described. .
[2701]
However, the optical signal incident on the sensor 2 is actually incident through an optical system including a lens or the like provided immediately before the sensor 2. Therefore, in order to process the image by estimating the real world from the image acquired by the sensor 2, it is necessary to consider the influence of the optical system.
[2702]
FIG. 331 is a diagram illustrating a configuration example of an optical system (optical block 5110) provided in the front stage of the sensor 2.
[2703]
The real-world optical signal is incident on the IR cut filter 5102 through the lens 5101 of the optical block 5110. The IR cut filter removes light components in the infrared region from the frequency components of light that can be received by the CCD 5104 (corresponding to the sensor 2). This process removes excess light that cannot be recognized by the human eye. Further, the optical signal passes through the IR cut filter 5102 and then enters an OLPF (Optical Low Pass Filter) 5103.
[2704]
The OLPF 5103 smoothes a high-frequency optical signal that changes in a range equal to or smaller than the pixel area of the CCD 5104, thereby reducing variations in the amount of light incident within the area of one pixel of the CCD 5104.
[2705]
Therefore, in order to consider the influence of the optical block 5110, it is necessary to consider the influence of the processing performed on each of the IR cut filter 5102 and the OLPF 5103. By the way, as shown in FIG. 332, the IR cut filter 5102 and the OLPF 5103 are integrated filters 5112, and the attachment and detachment may be performed integrally. Further, for example, as shown in FIG. 332, the influence of the IR cut filter 5102 can be suppressed by providing a filter 5111 that transmits only light having a short wavelength.
[2706]
Therefore, here, image processing in consideration of the influence of the OLPF 5103 will be described.
[2707]
As shown in FIG. 333, the OLPF 5103 is provided with two crystals 5121a, b and a phase plate 5122 so as to be sandwiched between the two crystals 5121a, b.
[2708]
As shown in FIG. 334, each of the

quartz plates

5121a and 5121b has a thickness t, and a crystal axis is set at a predetermined angle with respect to the light entering direction. When light is incident on the quartz plate 5121a at this angle in the z direction, an ordinary ray is separated in the same direction as the incident light, and an extraordinary ray is separated at a predetermined angle with respect to the incident light. The light is emitted to the subsequent crystal 5121b at a predetermined interval d (in the x direction). At this time, the quartz crystal plate 5121a extracts two light beams of 90 degrees different from each other from the incident light, and an ordinary ray (for example, a waveform in the y direction) L1 and an extraordinary ray L2 (for example, a waveform in the x direction). To be emitted.
[2709]
The phase plate 5122 (not shown in FIG. 334) transmits the incident waveform of the ordinary ray and the extraordinary ray, and generates light having a waveform perpendicular to the waveform. The light is emitted to the plate 5121b. That is, in this case, since the incident ordinary ray has a waveform in the y direction, the phase plate 5122 generates a waveform in the x direction while transmitting the incident ordinary ray waveform. Since the waveform is in the x direction when it is incident, the incident extraordinary ray itself is transmitted, and a waveform in the y direction that is 90 degrees from the waveform is generated and emitted to the crystal plate 5121b.
[2710]
The crystal plate 5121b separates the incident ordinary ray L1 and extraordinary ray L2 into the ordinary ray and extraordinary ray (L1 and L3, and L2 and L4), respectively, at the incident position, and the mutual distance is d and The light is emitted as follows. As a result, as shown in FIG. 335, for example, the light L1 incident from the back side of the paper is separated into the lights L1 and L2 by the crystal 5121a, and further to L1 and L3, and L2 and L4 by the crystal 5121b. Each is separated. At this time, since the energy of the light is separated by half by one separation, the OLPF 5103 separates the incident light by a distance d (OLPF movement amount d in the horizontal direction and the vertical direction by 25%). (Also referred to as “distant”). As a result, each pixel of the CCD 5104 receives light in which 25% of light of four different pixels are superimposed and is converted into a pixel value, and image data is generated.
[2711]
This OLPF movement amount d is obtained by the following equation (248).
[2712]

[2713]
As described above, the OLPF 5103 may not only disperse the incident light to four pixels, but may further disperse the incident light to other numbers of pixels by using many crystals.
[2714]
As described above, the optical block 5110 changes the light incident on the sensor 2 to be different from that in the real world. Therefore, processing of image data in consideration of the characteristics of the optical block 5110 described above (in particular, in consideration of the characteristics of the OLPF 5103 will be described).
[2715]
FIG. 336 is a block diagram illustrating a configuration of a signal processing apparatus that can process image data in consideration of the characteristics of the optical block 5110 described above. In addition, about the site | part similar to the structure demonstrated with reference to FIG. 3, the same code | symbol is attached | subjected and the description shall be abbreviate | omitted suitably.
[2716]
The OLPF removal unit 5131 converts the input image into an image before being incident on the optical block 5110 (estimated) in consideration of the characteristics of the OLPF 5103 among the above-described optical blocks 5110 included in the input image. And output to the data continuity detection unit 102 and the real world estimation unit 102.
[2717]
Next, the configuration of the OLPF removing unit 5131 in FIG. 336 will be described with reference to FIG.
[2718]
For each pixel of the input image data, the class tap extraction unit 5141 has a plurality of pixels at corresponding positions (for example, a horizontal direction, a vertical direction including a target pixel as shown in FIG. A total of nine pixels adjacent in the direction (note that in FIG. 338, the double circle is the pixel of interest and the other pixels are indicated by circles), the pixel value is extracted as a class tap, and the feature amount calculation unit 5142 is output.
[2719]
The feature amount calculation unit 5142 calculates a feature amount based on the pixel value of the class tap input from the class tap extraction unit 5141 and outputs it to the class classification unit 5143. For example, the feature amount is the sum of pixel values of each pixel of the class tap, or the sum of differences between adjacent pixels.
[2720]
The class classification unit 5143 determines the class (class code) of each pixel based on the feature amount input from the feature amount calculation unit 5142, extracts information on the determined class to the prediction tap extraction unit 5145, The memory 5144 is controlled to cause the pixel value calculation unit 5146 to supply a prediction coefficient corresponding to the determined class. For example, when the feature amount is the sum of differences between adjacent pixels, this class is set according to the range of values that are the sum. For example, the class code is set as class 1 when the sum is 0 to 10 and class 2 when the sum is 11 through 20.
[2721]
The prediction coefficient for each class code based on the feature quantity stored in the coefficient memory 5144 is calculated and stored in advance by a learning process by a learning device 5150 described later with reference to FIG.
[2722]
Based on the class information input from the class classification unit 5143, the prediction tap extraction unit 5145 obtains pixel values of a plurality of pixels (which may be the same as the class tap) that are prediction taps corresponding to the target pixel of the input image. Extracted and output to the pixel value calculation unit 5146. The prediction tap is set for each class. For example, in the case of class 1, only the pixel of interest is used, and in the case of class 2, it is 3 pixels × 3 pixels centered on the pixel of interest. In this case, 5 pixels × 5 pixels with the target pixel as the center.
[2723]
The pixel value calculation unit 5146 calculates and calculates a pixel value based on the pixel value of each pixel serving as the prediction tap input from the prediction tap extraction unit 5145 and the value of the prediction coefficient supplied from the coefficient memory 5144. An output image is generated and output based on the obtained pixel value. The pixel value calculation unit 5146 obtains (predicts and estimates) a pixel of the predicted image by executing, for example, a product-sum calculation represented by the following equation (249).
[2724]
[Equation 198]

... (249)
[2725]
In Expression (249), q ′ represents a pixel of a predicted image (an image predicted from a student image). c_iEach (i is an integer value from 1 to n) represents each prediction tap. D_iEach represents a prediction coefficient.
[2726]
As described above, the OLPF removal unit 5131 predicts and estimates an image from which the influence of OLPF on the input image is removed.
[2727]
Next, signal processing by the signal processing device described with reference to FIG. 336 will be described with reference to the flowchart of FIG. 339. Note that the processing in steps S5102 to S5104 in the flowchart of FIG. 339 is the same as the processing described with reference to FIG.
[2728]
In step S5101, the OLPF removal unit 5131 executes OLPF removal processing.
[2729]
Here, the OLPF removal process will be described with reference to the flowchart of FIG.
[2730]
In step S5011, the class tap extraction unit 5141 extracts a class tap for each pixel of the input image, and outputs the pixel value of each pixel of the extracted class tap to the feature amount calculation unit 5142.
[2731]
In step S 5012, the feature amount calculation unit 5142 calculates a predetermined feature amount based on the pixel value of each pixel of the class tap input from the class tap extraction unit 5141, and outputs it to the class classification unit 5143.
[2732]
In step S5013, the class classification unit 5143 classifies the class based on the feature amount input from the feature amount calculation unit 5142, and outputs the classified class code to the prediction tap extraction unit 5145.
[2733]
In step S5014, the prediction tap extraction unit 5145 extracts pixel values of a plurality of pixels serving as prediction taps from the input image based on the class code information input from the class classification unit 5143, and a pixel value calculation unit 5146. Output to.
[2734]
In step S5015, the class classification unit 5143 controls the coefficient memory 5144 to cause the pixel value calculation unit 5146 to read out the corresponding prediction coefficient according to the classified class (class code).
[2735]
In step S 5016, the pixel value calculation unit 5146 calculates a pixel value based on the pixel value of each pixel serving as a prediction tap input from the prediction tap extraction unit 5145 and the prediction coefficient supplied from the coefficient memory 5144.
[2736]
In step S5017, the pixel value calculation unit 5146 determines whether or not pixel values have been calculated for all pixels. If it is determined that pixel values have not been calculated for all pixels, the process proceeds to step S5011. Return. That is, the processes in steps S5011 to S5017 are repeated until it is determined that the pixel values have been calculated for all the pixels.
[2737]
If it is determined in step S5017 that pixel values have been calculated for all pixels, the pixel value calculation unit 5146 outputs the calculated image.
[2738]
According to the above, it is possible to remove the influence on the image generated by the OLPF 5103 generated by the optical block 5110.
[2739]
Next, with reference to FIG. 341, a learning device 5150 that learns prediction coefficients stored in advance in the coefficient memory 5144 of FIG. 337 will be described.
[2740]
The learning device 5150 uses a high-resolution image as an input image, generates a student image and a teacher image composed of standard-resolution images, and executes learning processing. Hereinafter, the standard resolution image is referred to as an SD (Standard Definition) image as appropriate. Further, the pixels constituting the SD image are appropriately referred to as SD pixels. On the other hand, hereinafter, a high-resolution image is appropriately referred to as an HD (High Definition) image. Further, the pixels constituting the HD image are appropriately referred to as HD pixels.
[2741]
Furthermore, the class tap extraction unit 5162, the feature amount calculation unit 5163, and the prediction tap extraction unit 5165 of the learning unit 5152 are the class tap extraction unit 5141, the feature amount calculation unit 5142, and the prediction of the OLPF removal unit 5131 of FIG. Since it is the same as the tap extraction unit 5145, its description is omitted.
[2742]
The student image generation unit 5151 converts the HD image as an input image into an SD image in consideration of the OLPF 5103, generates a student image optically influenced by the OLPF 5103, and outputs the student image to the image memory 5161 of the learning unit 5152. To do.
[2743]
The image memory 5161 of the learning unit 5152 temporarily stores the student image composed of the input SD image, and then sequentially outputs the student image to the class tap extraction unit 5162 and the prediction tap extraction unit 5165.
[2744]
The class classification unit 5164 outputs the class classification result (the above-described class code) for each pixel input from the feature amount extraction unit 5163 to the prediction tap extraction unit 5165 and the learning memory 5167.
[2745]
The addition calculation unit 5166 generates a normal equation described later from the pixel value of each pixel of the prediction tap input from the prediction tap extraction unit 5165 and the pixel value of the pixel of the image input from the teacher image generation unit 5153. A summation term required for each term is generated by addition and output to the learning memory 5167.
[2746]
The learning memory 5167 stores the class code supplied from the class classification unit 5164 and the addition result input from the addition calculation unit 5166 in association with each other, and supplies them to the normal equation calculation unit 5168 as appropriate.
[2747]
The normal equation calculation unit 5168 generates a normal equation based on the class code stored in the learning memory 5167 and the addition result, calculates the normal equation to obtain each prediction coefficient, and obtains a coefficient memory 5154. Is stored in association with the class code. Note that the prediction coefficient stored in the coefficient memory 5154 is stored in the coefficient memory of the OLPF removing unit 5131 in FIG.
[2748]
The normal equation calculation unit 5168 will be described in more detail.
[2749]
In the above equation (249), before learning, the prediction coefficient d_iEach is an undetermined coefficient. Learning is performed by inputting a plurality of teacher image pixels for each class code. There are m teacher image pixels corresponding to a predetermined class code, and each of the m teacher image pixels is represented by q_kWhen describing (k is an integer value of 1 to m), the following equation (250) is set from the equation (249).
[Numerical Formula 199]

... (250)
[2750]
That is, the expression (250) is obtained by calculating the right side to obtain a pixel q of a predetermined teacher image._kRepresents that it is possible to predict and estimate. In Formula (250), e_kRepresents an error. That is, a pixel q of a predicted image (an image obtained by performing a prediction calculation from a student image) as a calculation result on the right side_k'Is the actual teacher image pixel q_kDoes not exactly match the predetermined error e_kincluding.
[2751]
Therefore, in the equation (250), for example, a prediction coefficient d that minimizes the sum of squares of the error ek_iHowever, it can be obtained by learning.
[2752]
Specifically, for example, the pixel q of the teacher image is set so that m> n._kCan be collected by learning, the prediction coefficient d is calculated by the method of least squares._iIs uniquely determined.
[2753]
That is, the prediction coefficient d on the right side of Equation (250)_iA normal equation in the case of obtaining the value by the method of least squares is expressed by the following equation (251).
[2754]
[Equation 200]

... (251)
[2755]
Accordingly, when the normal equation represented by the equation (251) is generated, the prediction coefficient d is obtained by solving the normal equation._iIs uniquely determined.
[2756]
Specifically, when each matrix of the normal equation represented by the equation (251) is defined as the following equations (252) to (254), the normal equation is represented by the following equation (255): expressed.
[2757]
[Expression 201]

... (252)
[2758]
## EQU2 ##

... (253)
[2759]
[Formula 203]

... (254)
[2760]
[Formula 204]

... (255)
[2761]
As shown in Equation (253), the matrix D_MATEach component of_iIt is. Therefore, in the equation (255), the left side matrix C_MATAnd right-hand side matrix Q_MATIs determined, the matrix D is obtained by matrix solution._MAT(Ie, prediction coefficient d_i) Can be calculated.
[2762]
More specifically, as shown in the equation (252), the matrix C_MATEach component of the prediction tap c_ikIf is known, computation is possible. Prediction tap c_ikIs extracted by the prediction tap extraction unit 5165, the addition calculation unit 5166 receives the prediction tap c supplied from the prediction tap extraction unit 5165._ikMatrix C using each of_MATIt is possible to add and calculate each component.
[2763]
Further, as shown in the equation (254), the matrix Q_MATEach component of the prediction tap c_ikAnd teacher image pixel q_kIf is known, computation is possible. Prediction tap c_ikIs the matrix C_MATAre the same as those included in each component of the_kIs the prediction tap c_ikAre the SD pixels of the teacher image with respect to the target pixel (SD pixel of the student image) included in. Therefore, the addition calculation unit 5166 includes the prediction tap c supplied from the prediction tap extraction unit 5165._ikAnd the matrix Q using the teacher image_MATIt is possible to add and calculate each component.
[2764]
In this way, the addition operation unit 5166 performs the matrix C_MATAnd matrix Q_MATAre calculated, and the result of the calculation is stored in the learning memory 5167 in association with the class code.
[2765]
The normal equation calculation unit 5168 generates a normal equation corresponding to the class code stored in the learning memory 5167, and the prediction coefficient d that is each component of the matrix DMAT of the above-described equation (255)._iIs calculated.
[2766]
Specifically, the above normal equation (255) can be transformed as the following equation (256).
[2767]
[Expression 205]

... (256)
[2768]
In equation (256), the left-hand side matrix D_MATEach component of_iIt is. Matrix C_MATAnd matrix Q_MATEach of the components is supplied from the learning memory 5167. Accordingly, the normal equation calculation unit 5168 has a matrix C corresponding to a predetermined class code stored in the learning memory._MATAnd matrix Q_MATWhen each component is supplied, the matrix D is calculated by performing the matrix operation on the right side of Expression (255)._MATAnd the calculation result (prediction coefficient d_i) Is stored in the coefficient memory 5154 in association with the class code.
[2769]
Next, student images and teacher images used for learning will be described based on the relationship between the OLPF removing unit 5131 and the learning unit 5131 in FIG. 337 described above.
[2770]
As shown in FIG. 342, the learning unit 5152 uses an image filtered by the OLPF 5103 (hereinafter referred to as an image with OLPF) and an image not filtered by the OLPF 5103 (hereinafter referred to as an image without OLPF). The prediction coefficient is obtained by learning.
[2771]
Then, using the prediction coefficient previously obtained by learning by learning unit 5152, OLPF removal unit 5131 converts the image with OLPF into an image from which the influence of filter processing by OLPF 5103 has been removed (hereinafter referred to as an OLPF removal image). (The process described with reference to the flowchart of FIG. 339 described above).
[2772]
That is, as illustrated in FIG. 343, the learning process performed by the learning unit 5152 is performed using a learning pair including a teacher image that is an image without OLPF and a student image that is an image with OLPF.
[2773]
Therefore, an image when the sensor 2 receives light incident with the OLPF and an image received by the sensor 2 without the OLPF are generated as a learning pair. In practice, it is extremely difficult to use each image by accurately aligning each image in units of pixels.
[2774]
Therefore, the learning device 5110 generates an image with OLPF and an image without OLPF by simulation using a high-resolution image as an input image.
[2775]
Here, a teacher image generation method by the teacher image generation unit 5153 and a student image generation method by the student image generation unit 5151 in the learning device 5110 will be described.
[2777]
FIG. 344 is a block diagram illustrating detailed configurations of the teacher image generation unit 5153 and the student image generation unit 5151 of the learning device 5110.
[2777]
The 1/16 average processing unit 5153a of the teacher image generation unit 5153 obtains an average pixel value of a total of 16 pixels of 4 pixels × 4 pixels in the entire range of the high-resolution image that is the input image, and the 16 pixels A teacher image is generated and output by replacing all pixel values with the obtained average pixel value. By processing in this way, the number of pixels of the HD image is apparently 1/16 of the number of pixels (1/4 in the horizontal and vertical directions, respectively).
[2778]
That is, this 1/16 average processing unit 5153a considers each pixel of the HD image as the input image as light incident on the sensor 2, and regards a range of 4 pixels × 4 pixels of the HD image as one pixel of the SD image. Thus, a kind of spatial integration effect is generated, and an image generated by the sensor 2 (an image without OLPF) that is not affected by the OLPF 5103 is virtually generated.
[2779]
As described with reference to FIGS. 334 and 335, the OLPF simulation processing unit 5151a of the student image generation unit 5151 distributes the pixel value of each pixel by 25% for each pixel of the input HD image. Thus, by superimposing, the action caused by the OLPF 5103 is simulated when each pixel of the HD image is viewed as light.
[2780]
The 1/16 average processing unit 5135b is the same as the 1/16 average processing unit 5153a of the teacher image generation unit 5153, and the average pixel value of 4 pixels × 4 pixels in total 16 pixels is set to all the pixel values of 16 pixels. And a student image of an SD image is generated.
[2781]
More specifically, for example, as shown in FIG. 345, the OLPF simulation processing unit 5151a distributes a value obtained by reducing the pixel value of the pixel P1 at the incident position to ¼ to each of the pixels P1 to P4. Is performed on all pixels, and pixel values are obtained by superimposing dispersed values on each pixel. By this processing, for example, the pixel P4 in FIG. 345 becomes the average pixel value of the pixels P1 to P4.
[2782]
Here, in FIG. 345, each square corresponds to one pixel of the HD image. Further, 4 pixels × 4 pixels surrounded by a dotted line correspond to one pixel of the SD image.
[2783]
That is, in FIG. 345, the distance to the pixels P1 and P2, the distance to the pixels P1 and P3, and the distance to the pixels P2 and P4 correspond to the movement amount d by the OLPF 5103 shown in FIG.
[2784]
The distance between the pixels P1 and P2, the distance between the pixels P1 and P3, and the distance between the pixels P2 and P4 are two pixels, as shown in FIG. 346, because the OLPF movement amount d by the actual OLPF 5103 is d. This is because the pixel pitch (horizontal and vertical width between pixels) of the actual CCD 5104 is 6.45 μm, and the relative ratio thereof is 1.93, whereas it is 3.35 μm. That is, by setting the OLPF movement amount to 2 pixels as surrounded by the dotted line in the figure and setting the pixel pitch to 4 pixels, the relative ratio becomes 2.0, so that the measured value is close to 1.93, A phenomenon caused by the OLPF 5103 before entering the sensor 2 can be simulated.
[2785]
Similarly, as shown in FIG. 346, the OLPF movement amount may be 4 pixels and the pixel pitch may be 8 pixels. If the OLPF movement amount and the pixel pitch are set while maintaining this ratio, Other OLPF movement amounts and pixel pitches may be used. Furthermore, even if the OLPF movement amount is 6 pixels and the pixel pitch is 11 pixels, the relative ratio can be 1.83, and therefore a processing simulation using this ratio may be performed.
[2786]
When the teacher image generation unit 5153 generates an image as illustrated in FIG. 347, the student image generation unit 5151 generates an image as illustrated in FIG. 348. In both cases, 4 pixels × 4 pixels of the HD image are substantially displayed as one pixel of the SD image, so that they are mosaic images. However, the teacher image shown in FIG. 347 is white in the figure. The edge portion shown is clearer than the student image shown in FIG. 348, and an image in which the influence of the OLPF 5103 is generated on the student image is generated.
[2787]
Next, the learning process will be described with reference to the flowchart in FIG.
[2788]
In step S5031, the OLPF simulation processing unit 5151a of the student image generation unit 5151 distributes the pixel value of each pixel of the input HD image to 4 pixels by 25% as described with reference to FIG. A pixel value is generated by superimposing the pixel value dispersed at the pixel position, the operation by the OLPF 5103 is simulated, and the processing result is output to the 1/16 average processing unit 5151b.
[2789]
In step S5032, the 1/16 average processing unit 5151b obtains an average pixel value in a unit of 16 pixels of 4 pixels × 4 pixels from the image subjected to the OLPF simulation processing input from the OLPF simulation processing unit 5151a. The pixel values of the pixels are sequentially replaced with the average pixel value to generate a student image that has become an apparent SD image, and output to the image memory 5161 of the learning unit 5152.
[2790]
In step S5033, the class tap extraction unit 5162 extracts the pixel value of the pixel that is the class tap of the target pixel from the image data stored in the image memory 5161, and outputs the pixel value of the extracted pixel to the feature amount calculation unit 5163. To do.
[2791]
In step S5034, the feature amount extraction unit 5163 calculates the feature amount corresponding to the target pixel using the pixel value information of the pixel of the class tap input from the class tap extraction unit 5162, and outputs the feature amount to the class classification unit 5164. To do.
[2792]
In step S5035, the class classification unit 5164 classifies the class corresponding to the pixel to be the target pixel based on the input feature amount, determines a class code, outputs the class code to the prediction tap extraction unit 5165, and learns memory. Remember me.
[2793]
In step S5036, the prediction tap extraction unit 5165 obtains the pixel value information of the pixel of the prediction tap corresponding to the target pixel of the image data stored in the image memory 5161 based on the class code input from the class classification unit 5164. Extracted and output to the addition operation unit 5166.
[2794]
In step S5037, the 1/16 average processing unit 5153a of the teacher image generation unit 5153 calculates the average pixel value of the HD image as the input image in units of 4 pixels × 4 pixels in a total of 16 pixels, and calculates the calculated average pixel value. Then, by replacing with the pixel value of 16 pixels, an OLPF-free image (apparently SD image) that is not affected by the OLPF 5103 is generated and output to the addition calculation unit 5166.
[2795]
In step S5038, the addition calculation unit 5166, based on the pixel value of the pixel of the prediction tap input from the prediction tap extraction unit 5165 and the pixel value of each pixel of the teacher image input from the teacher image generation unit 5153, The summation value of each term of the normal equation is added, output to the learning memory 5167, and stored in association with the class code.
[2796]
In step S5039, the normal equation calculation unit 5168 determines whether or not the addition process has been completed for all pixels in the input image, and if it is determined that the addition process has not been completed for all pixels, the process is as follows. The process returns to step S5032, and the subsequent processing is repeated. That is, the processes in steps S5032 to S5039 are repeated until the addition process is completed for all pixels.
[2797]
If it is determined in step S5039 that the addition has been completed for all the pixels, in step S5040, the normal equation calculation unit 5168 is associated with the class code based on the addition result stored in the learning memory 5167. A normal equation is calculated and a prediction coefficient is obtained and output to the coefficient memory 5154.
[2798]
In step S5041, the normal equation calculation unit 5168 determines whether the calculation of prediction coefficients for all classes has been completed, and if it is determined that the calculation of prediction coefficients has not been completed for all classes, the process is performed in step S5041. The process returns to S5040. That is, the process of step S5040 is repeated until the calculation of prediction coefficients for all classes is completed.
[2799]
If it is determined in step S5041 that the calculation of prediction coefficients has been completed for all classes, the processing ends.
[2800]
Through the above learning process, the OLPF removal unit 5131 uses the prediction coefficient stored in the coefficient memory 5154 by copying it to the coefficient memory 5144 and using the OLPF 5103 from the input image filtered by the OLPF 5103. An image close to the real world image from which the processing effect is removed can be generated.
[2801]
For example, by using the prediction coefficient obtained in this way, the OLPF removing unit 5131 performs the filtering process using the OLPF 5103 as illustrated in FIG. 348 (the image obtained by simulating the process using the OLPF 5103). ) Is input, an image as shown in FIG. 350 is generated by the OLPF removal process described with reference to the flowchart of FIG. 340.
[2802]
It can be seen that the image shown in FIG. 350 processed in this way is almost the same as the input image without the filter processing by OLPF 5103 as shown in FIG. 347.
[2803]
In addition, as shown in FIG. 351, even if the change in the pixel value in the x direction is compared at a predetermined position in the y direction of the images in FIGS. 347, 348, and 350, the effect of OLPF is removed. It can be seen that the obtained image has a value closer to that of the image that has not been subjected to the effect of OLPF than the image that has been subjected to the filter processing by OLPF.
[2804]
In FIG. 351, the solid line is the change in pixel value corresponding to the image (image without OLPF) in FIG. 347, the dotted line is the image in FIG. 348 (image with OLPF), and the alternate long and short dash line is It is the image (OLPF removal image) of FIG.
[2805]
According to the above, image data obtained by projecting an optical signal in the real world through the optical low-pass filter onto a plurality of pixels each having a spatial integration effect is acquired, and light is transmitted in at least one dimension of the spatial direction by the optical low-pass filter. Considering that the signal is distributed and integrated, the optical signal incident on the optical low-pass filter is estimated. Therefore, considering the real world where the data was acquired, It becomes possible to obtain a more accurate and more accurate processing result.
[2806]
In the above example, the example in which the influence of the filter processing by the OLPF 5103 is removed before the data continuity detection unit 101 has been described. However, the real world estimation unit 102 estimates the real world in consideration of the influence of the OLPF 5103. You may do it. Therefore, in this case, the configuration of the signal processing device is the configuration described with reference to FIG.
[2807]
FIG. 352 is a block diagram illustrating a configuration of the real world estimation unit 102 configured to estimate the real world in consideration of the influence of the OLPF 5103.
[2808]
As shown in FIG. 352, the real world estimation unit 102 includes a condition setting unit 5201, an input image storage unit 5202, an input pixel value acquisition unit 5203, an integral component calculation unit 5204, a normal equation generation unit 5205, and an approximate function generation. A portion 5206 is provided.
[2809]
The condition setting unit 5201 includes a pixel range (tap range) used to estimate the function F (x, y) corresponding to the target pixel, and approximate functions f (x, y) and g (x, y). Set the order n.
[2810]
The input image storage unit 5202 primarily stores an input image (pixel value) from the sensor 2.
[2811]
The input pixel value acquisition unit 5203 acquires an input image area corresponding to the tap range set by the condition setting unit 5201 among the input images stored in the input image storage unit 5202, and stores the acquired area in the input pixel value table. To the normal equation generation unit 5205. That is, the input pixel value table is a table in which each pixel value of each pixel included in the area of the input image is described. A specific example of the input pixel value table will be described later.
[2812]
By the way, as described with reference to FIGS. 344 and 345, the OLPF 5103 disperses the incident light into four points with the OLPF movement amount d. Therefore, as shown in FIG. 353, each pixel on the image is generated by superimposing 25% of the four pixel values including its own position. In FIG. 353, points of four pixels having different ranges surrounded by dotted lines are shown, and 25% of each point is shown to be superimposed.
[2813]
From the above, the OLPF 5103 is dispersed into four points as shown in FIG. 354, and this dispersed approximate function g (x, y) indicating the distribution of light immediately before the sensor 2 represents the real world. Using the approximate function f (x, y) to be approximated, the relational expression is as shown by the following expression (257). In FIG. 354, each upwardly convex curve represents an approximate function f (x, y), and after these are dispersed into four, the superimposed approximate function is g (x, y). is there.
[2814]

[2815]
The approximate function f (x, y) in the real world is expressed by the following equation (258).
[Expression 206]

... (258)
[2816]
Where w_iIndicates the coefficient of the approximate function, and s (= cot θ: θ is the angle of stationarity) indicates the slope of stationarity.
[2817]
Therefore, the approximate function g (x, y) indicating the light distribution immediately before the sensor 2 is represented by the following equation (259).
[2818]
[Expression 207]

... (259)
As described above, the real world estimation unit 102 determines the feature value w of the approximate function f (x, y)._iIs calculated.
[2819]
Expression (259) can be expressed as the following expression (260).
[2820]
[Formula 208]

... (260)
[2821]
In equation (260), S_i(X-0.5, x + 0.5, y-0.5, y + 0.5) represents the integral component of the i-th order term. That is, the integral component S_i(X−0.5, x + 0.5, y−0.5, y + 0.5) is as shown in the following equation (261).
[2822]
[Expression 209]

... (261)
[2823]
The integral component calculation unit 5204 provides the integral component S_iCalculate (x-0.5, x + 0.5, y-0.5, y + 0.5).
[2824]
Specifically, the integral component S shown by the equation (261)_i(X-0.5, x + 0.5, y-0.5, y + 0.5) can be calculated if the relative pixel position (x, y), the slope s, and i of the i-th term are known. Of these, the relative pixel position (x, y) is determined by the pixel of interest and the tap range, and the variable s is cot θ, so the range of i is determined by the angle θ, and the range of i is determined by the order n.
[2825]
Therefore, the integral component calculation unit 5204 integrates the integral component S based on the tap range and order set by the condition setting unit 5201 and the angle θ in the data continuity information output from the data continuity detection unit 101._i(X-0.5, x + 0.5, y-0.5, y + 0.5) is calculated, and the calculation result is supplied to the normal equation generation unit 5205 as an integral component table.
[2826]
The normal equation generation unit 5205 uses the input pixel value table supplied from the input pixel value acquisition unit 5203 and the integration component table supplied from the integration component calculation unit 5204 to convert the above equation (260) into the least square method. A normal equation for the case of the above is generated, and is output to the approximate function generation unit 5206 as a normal equation table. A specific example of the normal equation will be described later.
[2827]
The approximate function generation unit 5206 solves the normal equation included in the normal equation table supplied from the normal equation generation unit 5205 by a matrix solution method, whereby the feature quantity w of the above-described equation (259) is obtained._i(Ie, the coefficient w of the approximate function f (x, y) that is a two-dimensional polynomial._iAre calculated and output to the image generation unit 103.
[2828]
Next, with reference to the flowchart in FIG. 355, the real world estimation process (the process in step S102 in FIG. 40) in consideration of the influence of the OLPF 5103 will be described.
[2829]
For example, now the slope G_FIt is assumed that an optical signal in the real world 1 having a spatial continuity represented by the following is detected by the sensor 2 and already stored in the input image storage unit 5202 as an input image corresponding to one frame. In addition, it is assumed that the data continuity detection unit 101 has already output the angle θ as data continuity information in the input image in the continuity detection process in step S101 (FIG. 40).
[2830]
In this case, in step S5201, the condition setting unit 5201 sets conditions (tap range and order).
[2831]
For example, assume that the tap range 5241 shown in FIG. 356 is set and the fifth order is set as the order.
[2832]
That is, FIG. 356 is a diagram illustrating an example of the tap range. In FIG. 356, the X direction and the Y direction represent the X direction and the Y direction of the sensor 2. A tap range 5241 represents a pixel group including a total of 20 pixels (20 squares in the drawing) corresponding to 4 pixels in the X direction and 5 pixels in the Y direction.
[2833]
Further, as shown in FIG. 356, it is assumed that the target pixel is the second pixel from the left in the figure and the third pixel from the bottom in the tap range 5241. In addition, for each of the pixels, the relative pixel position (x, y) from the target pixel (the coordinate value of the target pixel coordinate system with the center (0, 0) of the target pixel as the origin) in accordance with FIG. A number l (1 is an integer value of 0 to 19) as shown in FIG.
[2834]
Returning to FIG. 355, in step S5202, the condition setting unit 5201 sets the target pixel.
[2835]
In step S5203, the input pixel value acquisition unit 5203 acquires an input pixel value based on the condition (tap range) set by the condition setting unit 5201, and generates an input pixel value table. That is, in this case, the input pixel value acquisition unit 5203 generates a table composed of 20 input pixel values P (l) as the input pixel value table.
[2836]
In this case, the relationship between the input pixel value P (l) and the above-described input pixel value P (x, y) is a relationship represented by the following equation (262). However, in Expression (262), the left side represents the input pixel value P (l), and the right side represents the input pixel value P (x, y).
[2837]
[Expression 210]

... (262)
[2838]
In step S5204, the integral component calculation unit 5204 performs integration based on the conditions (tap range and order) set by the condition setting unit 5201 and the data continuity information (angle θ) supplied from the data continuity detection unit 101. Calculate components and generate an integral component table.
[2839]
In this case, as described above, the input pixel value is acquired as the value of the pixel number l such as P (l) instead of P (x, y). Integral component S of (261)_i(x-0.5, x + 0.5, y-0.5, y + 0.5) is an integral component S shown on the left side of the following equation (263)._iOperates as a function of l such as (l).
[2840]
Si (l) = Si (x-0.5, x + 0.5, y-0.5, y + 0.5) (263)
[2841]
Specifically, in this case, the integral component S shown by the following equation (264)_i(l) is calculated.
[2842]
## EQU2 ##

... (264)
[2843]
In equation (264), the left side is the integral component S._i(L), and the right side represents the integral component Si (x-0.5, x + 0.5, y-0.5, y + 0.5). That is, in this case, since i is 0 to 5, 20 S₀(l), 20 S₁(l), 20 S₂(l), 20 S_Three(l), 20 S_Four(l), 20 S_FiveA total of 120 S of (l)_i(l) is calculated.
[2844]
More specifically, first, the integral component calculation unit 5204 calculates cot θ with respect to the angle θ supplied from the data continuity detection unit 101 and sets it as a variable s. Next, the integral component calculation unit 5204 uses the calculated variable s to calculate 20 integral components S shown on the right side of the equation (264)._iEach of (x−0.5, x + 0.5, y−0.5, y + 0.5) is calculated for each of i = 0 to 5. That is, 120 integral components S_i(x-0.5, x + 0.5, y-0.5, y + 0.5) is calculated. This integral component S_iIn the calculation of (x−0.5, x + 0.5, y−0.5, y + 0.5), the above-described equation (261) is used. Then, the integral component calculation unit 5204 calculates 120 integral components S calculated according to the equation (264)._i(x-0.5, x + 0.5, y-0.5, y + 0.5)_iConvert to each of (l) and convert 120 S_iAn integral component table including (l) is generated.
[2845]
Note that the order of the processing of step S5203 and the processing of step S5204 is not limited to the example of FIG. 355, the processing of step S5204 may be executed first, or the processing of step S5203 and the processing of step S5204 are executed simultaneously. May be.
[2846]
Next, in step S5205, the normal equation generation unit 5205 includes the input pixel value table generated by the input pixel value acquisition unit 5203 in the process of step S5203, and the integration generated by the integration component calculation unit 5204 in the process of step S5204. A normal equation table is generated based on the component table.
[2847]
Specifically, in this case, the feature quantity wi is calculated by the least square method using the above-described equation (260) (however, in the equation (258), the integral component Si (x−0.5, x + 0.5). , y-0.5, y + 0.5) is used as Si (l) converted by the equation (262)), and the corresponding normal equation is expressed as the following equation (265).
[2848]
## EQU2 ##

... (265)
[2849]
In Expression (265), L represents the maximum value among the numbers l of the pixels in the tap range. n represents the order of the approximate function f (x) that is a polynomial. Specifically, in this case, n = 5 and L = 19.
[2850]
When each matrix of the normal equation represented by the equation (265) is defined as the following equations (266) to (268), the normal equation is expressed as the following equation (269).
[2851]
[Formula 213]

... (266)
[2852]
[Expression 214]

... (267)
[2853]
[Expression 215]

... (268)
[2854]
[Expression 216]

... (269)
[2855]
As shown in equation (267), the matrix W_MATEach component is the feature value w_iIt is. Therefore, in equation (269), the left-side matrix S_MATAnd right-hand side matrix P_MATIs determined, the matrix W_MATCan be calculated.
[2856]
Specifically, as shown in Expression (266), the matrix S_MATEach component of the integral component S described above_iIt can be calculated with (l). That is, the integral component S_iSince (l) is included in the integral component table supplied from the integral component calculation unit 5204, the normal equation generation unit 5205 uses the integral component table to generate the matrix S._MATEach component of can be calculated.
[2857]
Further, as shown in the equation (268), the matrix P_MATEach component of is an integral component S_iIt is possible to calculate with (l) and the input pixel value P (l). That is, the integral component S_i(l) is the matrix S_MATSince the input pixel value P (l) is included in the input pixel value table supplied from the input pixel value acquisition unit 5203, the normal equation generation unit 5205 is a matrix P using the integral component table and the input pixel value table._MATEach component of can be calculated.
[2858]
In this way, the normal equation generation unit 5205 uses the matrix S_MATAnd matrix P_MATAre calculated, and the calculation result (matrix S_MATAnd matrix P_MATAre each output to the approximate function generation unit 5206 as a normal equation table.
[2859]
When the normal equation table is output from the normal equation generation unit 5205, the approximate function generation unit 5206 in step S5206, based on the normal equation table, the matrix W of the above-described equation (267)._MATFeatures w which are each component of_i(Ie, the coefficient w of the approximate function f (x, y) that is a two-dimensional polynomial._i) Is calculated.
[2860]
Specifically, the normal equation of the above-described formula (269) can be transformed as the following formula (270).
[2861]
[Expression 217]

... (270)
[2862]
In equation (270), the left side matrix W_MATEach component of is the feature value w_iIt is. Matrix S_MATAnd matrix P_MATThe respective components are included in the normal equation table supplied from the normal equation generation unit 5205. Accordingly, the approximate function generation unit 5206 uses the normal equation table to perform the matrix operation on the right side of the equation (270), thereby generating the matrix W._MATAnd the result (feature value w_i) To the image generation unit 103.
[2863]
In step S5207, the approximate function generation unit 5206 determines whether or not processing for all pixels has been completed.
[2864]
If it is determined in step S5207 that the processing for all pixels has not been completed yet, the process returns to step S5202, and the subsequent processing is repeated. That is, pixels that are not yet the target pixel are sequentially set as the target pixel, and the processes in steps S5202 to S5207 are repeated.
[2865]
When the processing for all pixels is completed (when it is determined in step S5207 that the processing for all pixels has been completed), the estimation process for the real world 1 ends.
[2866]
FIG. 357A shows a high-definition input image (bicycle spoke image), FIG. 357B is an image obtained by processing the image of FIG. 357A by the OLPF 5103, and FIG. 357C is the flowchart of FIG. 355 described above. FIG. 357D is an image in which pixels are generated using a real-world approximation function estimated from the image in FIG. 357B by the processing described with reference to FIG. 357B. FIG. 357D is an image in which the image in FIG. It is.
[2867]
It can be seen that the image of FIG. 357C has a stronger edge and a clearer outline of the spoke than the image of FIG. 357D.
[2868]
FIG. 358 is a diagram showing changes in horizontal pixel values at predetermined vertical positions in the images in FIGS. 357A to 357D. In FIG. 358, the one-dot chain line corresponds to the image of 52-6A, the solid line corresponds to the image of FIG. 357B, the dotted line corresponds to the image of FIG. 357C, and the two-dot chain line corresponds to the image of FIG. . As shown in FIG. 358, in the vicinity of the spatial direction X = 10 in which the spoke image is displayed, the dotted line that is an image of processing in which the influence of the OLPF 5103 is considered by the real world estimation unit 102 in FIG. It can be seen that a value closer to the input image is obtained than the image generated by the conventional classification adaptation process indicated by the dashed line.
[2869]
In particular, the portion where the pixel value is small is a reflection portion of the edge portion of the spoke, but the expressive power of this portion is improved by the processing considering OLPF.
[2870]
According to the real world estimation unit 102 in FIG. 352, it is possible to obtain the real world approximation function f (x) in consideration of the influence of the OLPF 5103, and further, the real world approximation function f (x) in consideration of the influence of the OLPF 5103. ), It is possible to generate pixels in consideration of the influence of the OLPF 5103.
[2871]
As described above, as a description of the two-dimensional polynomial approximation method, the coefficient (feature value) w of the approximation function f (x, y) with respect to the spatial direction (X direction and Y direction)_iHowever, of course, it may be applied to only one of the spatial directions (X direction or Y direction) as a one-dimensional polynomial approximation method.
[2872]
According to the above, a real-world optical signal is projected onto a plurality of pixels each having a spatial integration effect through an optical low-pass filter, and the spatial direction of the image data in which a part of the continuity of the real-world optical signal is missing is obtained. Among the real world functions, the pixel value of the target pixel corresponding to the position in at least one dimensional direction is a pixel value obtained by integration of at least one dimensional direction of the plurality of real world functions corresponding to the optical low-pass filter. Since the function corresponding to the optical signal in the real world is estimated by the estimation, the real world can be estimated more faithfully.
[2873]
In the above, the signal processing apparatus in FIG. 336 executes signal processing so as to remove the influence of the OLPF 5103 from the image input from the sensor 2, and the real world estimation unit 102 in FIG. As a result, processing that estimates the approximation function in the real world in consideration of the influence of OLPF 5103 has been performed in signal processing. For example, an HD image without OLPF is used as a teacher image, and an SD image with OLPF is used. As a student image, a prediction coefficient may be set by learning, and an image may be generated by class classification adaptive processing.
[2874]
FIG. 359 shows the configuration of a signal processing device 5221 in which HD images without OLPF are used as teacher images, SD images with OLPF are used as student images, prediction coefficients are set by learning, and images are generated by class classification adaptive processing. FIG.
[2875]
Note that the signal processing device 5221 in FIG. 359 has substantially the same configuration as the OLPF removal unit 5131 in FIG. 337, and includes a class tap extraction unit 5241, a feature amount calculation unit 5242, and a class classification unit 5243 of the signal processing device 5221. , Coefficient memory 5244, prediction tap extraction unit 5245, and pixel value calculation unit 5246 are a class tap extraction unit 5141, a feature amount calculation unit 5142, a class classification unit 5143, and a coefficient memory 5144 of the signal processing device 5141 of the OLPF removal unit 5131. The prediction tap extraction unit 5145 and the pixel value calculation unit 5146 are the same and will not be described. However, the prediction coefficients stored in the coefficient memory 5244 are obtained by learning different from the coefficient memory 5144 and are different. Learning of the prediction coefficient stored in the coefficient memory 5244 will be described later with reference to the learning device in FIG.
[2876]
Next, the signal processing by the signal processing device 5221 in FIG. 359 will be described with reference to the flowchart in FIG. 360, but the description is omitted because it is substantially the same as the processing in the flowchart in FIG.
[2877]
According to the above, the first image data acquired by projecting the real-world optical signal to the plurality of pixels each having the spatial integration effect via the optical low-pass filter is acquired, and the second image data A plurality of pixels corresponding to the pixel of interest is extracted from the first image data, and second image data obtained by directly projecting an optical signal incident on the optical low-pass filter from the first image data is obtained. Pre-learning to predict and predicting the pixel value of the pixel of interest in the second image data based on the extracted pixels and the prediction, so it is possible to generate an image faithful to the real world It becomes.
[2878]
Next, referring to FIG. 361, the prediction coefficient stored in the coefficient memory 5244 of the signal processing device in FIG. 359 is learned (the signal processing device in FIG. 359 described above predicts the pixel value using the prediction coefficient). Since it is a prediction means, learning a prediction coefficient, that is, learning this prediction means) will be described. The learning unit 5252 in FIG. 361 is substantially the same as the learning unit 5152 in FIG. 341, and the image memory 5261, class tap extraction unit 5262, feature amount extraction unit 5263, and class classification unit 5264 of the learning unit 5252. , Prediction tap extraction unit 5265, addition calculation unit 5266, learning memory 5267, normal equation calculation unit 5268, and coefficient memory 5254, image memory 5161, class tap extraction unit 5162, feature amount extraction unit 5163, learning unit 5152, Since the class classification unit 5164, the prediction tap extraction unit 5165, the addition calculation unit 5166, the learning memory 5167, the normal equation calculation unit 5168, and the coefficient memory 5154 are the same, the description thereof is omitted.
[2879]
Also, as shown in FIG. 362, the 1/16 average processing unit 5253a of the teacher image generation unit 5253 and the OLPF simulation processing unit 5251a of the student image generation unit 5251 are 1 / of the teacher image generation unit 5153 of FIG. Since it is the same as the 16 average processing unit 5153a and the OLPF simulation processing unit 5151a of the student image generation unit 5151, the description thereof is also omitted.
[2880]
The 1/64 average processing unit 5251b of the student image generation unit 5251 considers each pixel of the HD image processed by the OLPF 5103 by the OLPF simulation as light incident on the sensor 2, and the range of 8 pixels × 8 pixels of the HD image Is regarded as one pixel of the SD image, a kind of spatial integration effect is generated, and an image generated by the sensor 2 (SD image without OLPF) that is not affected by the OLPF 5103 is virtually generated.
[2881]
Next, learning processing by the learning device in FIG. 361 will be described with reference to the flowchart in FIG. 363.
[2882]
Note that the processing in step S5231 and the processing in steps S5233 to S5241 are the same as the processing in step S5031 and the processing in steps S5033 to S5041 described with reference to the flowchart in FIG. .
[2883]
In step S5232, the 1/64 average processing unit 5251b obtains an average pixel value in units of 64 pixels of 8 pixels × 8 pixels from the image subjected to the OLPF simulation processing input from the OLPF simulation processing unit 5251a, and further determines that 64. The pixel values of the pixels are sequentially replaced with the average pixel value to generate a student image that has become an apparent SD image, and output it to the image memory 5261 of the learning unit 5252.
[2884]
Through the above processing, the coefficient memory 5254 stores the prediction coefficient when the HD image without OLPF is used as a teacher image and the SD image with OLPF is used as a student image. Further, by copying the prediction coefficient stored in the coefficient memory 5254 to the coefficient memory 5244 of the signal processing device 5221, it is possible to execute the processing of the signal in FIG. It is possible to convert an SD image into an HD image without OLPF.
[2885]
In summary, the OLPF processing is performed on the real-world image, and the SD image (real world + LPF + imaging device in the figure) captured by the image sensor (sensor 2) is the OLPF removal unit in FIG. 5131, an SD image (real world + imaging device in the figure) from which the processing by OLPF has been removed is converted as indicated by an arrow A in FIG. 364, and further, a continuity detecting unit 101 and a real world estimating unit 102, the real world before processing by OLPF is estimated as indicated by an arrow A ′ in FIG.
[2886]
Also, the real world estimation unit 102 shown in FIG. 352 estimates the real world before processing by OLPF from the SD image (real world + LPF + imaging device in the figure) as indicated by an arrow B in FIG. 364.
[2887]
Further, as shown by an arrow C in FIG. 364, the signal processing device 5221 shown in FIG. 359 has an imaging device in a state where the real world is not affected by OLPF from the SD image (real world + LPF + imaging device in the figure). A captured image is generated.
[2888]
In addition, as shown by an arrow D in FIG. 364, the conventional classification adaptation processing is an HD image obtained by capturing an image of the real world from the SD image (real world + LPF + imaging device in the figure) via the OLPF. Is generated.
[2889]
Further, as shown by an arrow E in FIG. 364, the signal processing apparatus in FIG. 3 estimates the real world affected by the OLPF from the SD image (real world + LPF + imaging device in the figure).
[2890]
According to the above, the image data corresponding to the optical signal when the optical signal corresponding to the second image data passes through the optical low-pass filter is calculated and output as the first image data. A plurality of pixels corresponding to the target pixel are extracted from the first image data, and learning is performed to predict the pixel value of the target pixel from the pixel values of the extracted pixels. It is possible to generate a simple image.
[2891]
In the above description, the approximate function f (x) that approximates the real world has been treated as a continuous function. However, for example, the approximate function f (x) may be set discontinuously for each region.
[2892]
That is, in the above, a function (approximation function) of a curve (curve indicated by a dotted line in the figure) that is a one-dimensional cross section showing the light intensity distribution in the real world as shown in FIG. Approximating and estimating the real world using the continuous existence of this curve in the direction of stationarity.
[2893]
However, the curve having the cross section is not necessarily a continuous function such as a polynomial. For example, as shown in FIG. That is, in the case of FIG.₁≦ x <a₂The approximate function is f (x) = w₁And region a₂≦ x <a_ThreeThe approximate function is f (x) = w₂And region a_Three≦ x <a_FourThe approximate function is f (x) = w_ThreeAnd region a_Four≦ x <a_FiveThe approximate function is f (x) = w_FourAnd further, region a_Five≦ x <a₆The approximate function is f (x) = w_FiveA different approximation function f (x) is set for each region. Also w_iCan be considered substantially as the level of light intensity in each region.
[2894]
As described above, the discontinuous function as shown in FIG. 366 is defined by the following general formula (271).
[2895]

[2896]
Here, i indicates the number of areas set.
[2897]
Thus, the distribution of the cross section as shown in FIG. 366 (corresponding to the curve of the cross section) is set as a constant for each region. Note that the cross-sectional distribution of pixel values shown in FIG. 366 is greatly different in shape from the distribution of the curved line shown by the dotted line in FIG. 365. Range where (x) is set (here a_i≦ x <a_{i + 1}) Is made very small, the distribution of the cross section of the discontinuous function and the curve of the cross section of the continuous function can be at a level that can be geometrically approximated.
[2898]
Therefore, by using the approximate function f (x) that is a discontinuous function in the real world defined by the equation (271), the pixel value P is obtained by the following equation (272).
[Formula 218]

... (272)
[2899]
Where x_e, X_sIndicates a value indicating the integration range in the X direction, and x_SIs the integration start position, x_eIndicates the integration end position.
[2900]
However, in practice, it is difficult to directly obtain a function that approximates the real world as shown by the above-described equation (271).
[2901]
The cross-sectional distribution of pixel values as shown in FIG. 366 is assumed to exist continuously with respect to the direction of stationarity, so the distribution of light intensity in space is as shown in FIG. It will be a thing. Here, the left part of FIG. 367 corresponds to the distribution of pixel values when the approximate function f (x) composed of continuous functions exists continuously in the direction of continuity, and the right part of FIG. , Corresponding to the distribution of pixel values when the same distribution corresponding to the left part exists continuously in the stationary direction using the approximate function f (x) composed of the discontinuous function of FIG. It is.
[2902]
That is, since the shape of the cross section shown in FIG. 366 is continuous along the direction of continuity, each level w is obtained when an approximate function f (x) using a discontinuous function is used._iWill be distributed in a band shape along the direction of stationarity.
[2903]
In order to determine the level of each region by using the approximate function f (x) defined by the discontinuous function as shown in the right part of FIG. 367, each level (each function in the total area of each pixel) is determined. ) In the set range, calculate the product sum of the weight according to the ratio of the area for each region and its level, generate a normal equation using the pixel value of the corresponding pixel, and use the least square method Thus, it is necessary to obtain the pixel value of each region.
[2904]
That is, as shown in FIG. 368, when the discontinuous function is distributed as shown in the left part of FIG. 368, the target pixel indicated by the square surrounded by the thick line in FIG. 368 (note that FIG. FIG. 6 is a top view showing an arrangement of pixels when the paper plane is an XY plane, and each pixel is equivalent to a pixel), and exists above the portion indicated by the hatched portion in the target pixel. The range of the triangle shape (the triangle with the base at the top) is f (x) = w₂The shaded area is f (x) = w_ThreeThe range of the triangle set at the bottom of the shaded area (the triangle whose base is the bottom) is f (x) = w_FourThis is the range set in. When the area of the target pixel is 1, f (x) = w₂The ratio of the range set in is 0.2, f (x) = w_ThreeThe ratio of the range set in is 0.5, and f (x) = w_FourAssuming that the ratio of the range set in (3) is 0.3, the pixel value P of the target pixel is represented by the product sum of the pixel value and the ratio of each range, and is expressed by the following equation (273). It is obtained by calculation.
[2905]

[2906]
Therefore, for each pixel, by generating the relational expression with the pixel value using the relation represented by Expression (273), for example, level w₁Thru w_FiveCan be obtained by obtaining the equation (273) indicating the relationship with the pixel values of at least five pixels including all levels, for example, the least squares method (when the number of relational expressions and the number of unknowns are the same, simultaneous W which indicates the level of pixel value by equation)₁Thru w_FiveCan be obtained.
[2907]
Thus, by using the two-dimensional relationship using the stationarity, it is possible to obtain the approximate function f (x) composed of the discontinuous function.
[2908]
Since the continuity angle θ is determined by the continuity detector 101, the straight line of the angle θ passing through the origin (0, 0) is uniquely determined, and the straight line in the X direction at an arbitrary position y in the Y direction is determined. Position x_lIs expressed as the following equation (274). However, in the equation (274), s indicates a stationary gradient, and when the stationary gradient is represented by an angle θ, it is represented by cot θ (= s).
[2909]

[2910]
That is, the point on the straight line corresponding to the continuity of the data is the coordinate value (x_l, y).
[2911]
From the equation (274), the cross-sectional direction distance x ′ (the distance shifted in the X direction along the straight line where the stationarity exists) is expressed as the following equation (275).
[2912]

Therefore, the approximate function f (x, y) at an arbitrary position (x, y) of the input image is represented by the following equation (276) from the equations (271) and (275).
[2913]

[2914]
In formula (276), w_iCan be said to be a feature quantity indicating the level of light intensity in each region. In the following, w_iIs also referred to as a feature quantity.
[2915]
Accordingly, the real world estimation unit 102 calculates the feature value w for each region of the equation (276)._iCan be estimated, the waveform F (x, y) can be estimated by estimating the approximate function f (x, y) composed of the discontinuous function.
[2916]
Therefore, hereinafter, the feature value w of the equation (276)_iA method for calculating the above will be described.
[2917]
That is, if the approximate function f (x, y) represented by the equation (276) is integrated in the integration range (spatial direction integration range) corresponding to the pixel (detection element of the sensor 2), the integration value is This is an estimated value of the pixel value of the pixel. This is expressed by the following equation (277). In the two-dimensional approximation method using the discontinuous function, since the frame direction T is regarded as a constant value, the equation (277) uses the positions x and y in the spatial direction (X direction and Y method) as variables. It is supposed to be an equation.
[2918]
[Expression 219]

... (277)
[2919]
In the expression (277), P (x, y) is the center position of the input image from the sensor 2 at the position (x, y) (relative position (x, y) from the target pixel). It represents the pixel value of the pixel.
[2920]
Thus, in the two-dimensional approximation method, the relationship between the input pixel value P (x, y) and the two-dimensional approximation function f (x, y) can be expressed by the equation (277). The real world estimation unit 102 uses the equation (277) to calculate the feature value w._iIs calculated by, for example, the method of least squares, etc., to obtain a two-dimensional function F (x, y) (a waveform F representing a real world 1 optical signal having spatial continuity, focusing on the spatial direction). (x, y)) can be estimated.
[2921]
Here, the configuration of the real world estimation unit 102 that estimates the real world by setting the approximate function f (x) using the discontinuous function as described above will be described with reference to FIG.
[2922]
As shown in FIG. 369, the real world estimation unit 102 includes a condition setting unit 5301, an input image storage unit 5302, an input pixel value acquisition unit 5303, an integral component calculation unit 5304, a normal equation generation unit 5305, and an approximate function generation. A part 5306 is provided.
[2923]
The condition setting unit 5301 is a pixel range (tap range) used for estimating the function F (x, y) corresponding to the target pixel, or a range of the approximation function f (x, y) (for example, a_i≦ x <a_{i + 1}And the number of i).
[2924]
The input image storage unit 5302 temporarily stores an input image (pixel value) from the sensor 2.
[2925]
The input pixel value acquisition unit 5303 acquires an area of the input image corresponding to the tap range set by the condition setting unit 5301 among the input images stored in the input image storage unit 5302, and stores it in the input pixel value table To the normal equation generation unit 5305. That is, the input pixel value table is a table in which each pixel value of each pixel included in the area of the input image is described. A specific example of the input pixel value table will be described later.
[2926]
By the way, as described above, the real world estimation unit 102 using the two-dimensional approximation method solves the above-described equation (277) by the least square method, thereby obtaining the approximation function f (x) represented by the above-described equation (276). , y) feature value w_iIs calculated.
[2927]
Expression (277) can be expressed as the following expression (278).
[2928]
[Expression 220]

... (278)
[2929]
In formula (278), T_i(X_s, x_e, y_s, y_e) Is the feature value w in the integration range._iArea (light level w_i(Region) is an integration result, that is, an area. In the following, T_i(X_s, x_e, y_s, y_e) Is called an integral component.
[2930]
The integral component calculation unit 5304 uses the integral component T_i(X_s, x_e, y_s, y_e) (= (X−0.5, x + 0.5, y−0.5, y + 0.5): when taking an area of one pixel).
[2931]
Specifically, the integral component T shown by the equation (278)_i(X_s, x_e, y_s, y_e) Is a predetermined feature amount w in the pixel to be obtained as described above with reference to FIG._iIs obtained. Accordingly, the integral component calculation unit 5304 has an integral component T_i(X_s, x_e, y_s, y_e) Based on the information of the width d for each feature amount and the angle θ of the continuity of the data, each feature amount w geometrically._iYou may make it obtain | require the area which occupies for every, and you may make it obtain | require by multiplying and integrating | accumulating according to the Simpson formula, and the method of calculating | requiring an area is not restricted to them, For example, area is calculated by the Monte Carlo method You may make it ask.
[2932]
As explained in FIG. 368, a_i≦ (x−s × y) <a_{i + 1}If the width s, the variable s indicating the slope of continuity, and the relative pixel position (x, y) are known, the feature value w_iIs possible. Among these, the relative pixel position (x, y) depends on the pixel of interest and the tap range, and the variable s is cot θ._i≦ (x−s × y) <a_{i + 1}Since the width of is preset, each value is known.
[2933]
Therefore, the integral component calculation unit 5304 integrates the integral component Ti (x) based on the tap range and width set by the condition setting unit 5301 and the angle θ of the data continuity information output from the data continuity detection unit 101. -0.5, x + 0.5, y-0.5, y + 0.5), and supplies the calculation result to the normal equation generation unit 5305 as an integral component table.
[2934]
The normal equation generation unit 5305 uses the input pixel value table supplied from the input pixel value acquisition unit 5303 and the integration component table supplied from the integration component calculation unit 5304, so that the above equation (277), that is, the equation A normal equation in the case of obtaining (278) by the method of least squares is generated, and is output to the approximate function generation unit 5306 as a normal equation table. A specific example of the normal equation will be described later.
[2935]
The approximate function generation unit 5306 solves the normal equation included in the normal equation table supplied from the normal equation generation unit 5305 by a matrix solution method, and thereby the feature quantity w of the above equation (278)._iAre calculated and output to the image generation unit 103.
[2936]
Next, with reference to the flowchart in FIG. 370, the real-world estimation process (the process in step S102 in FIG. 40) to which the two-dimensional approximation method using the discontinuous function is applied will be described.
[2937]
For example, now the slope G_FIt is assumed that an optical signal of the real world 1 having a spatial continuity represented by the following is detected by the sensor 2 and already stored in the input image storage unit 5302 as an input image corresponding to one frame. In addition, it is assumed that the data continuity detecting unit 101 has already output the angle θ as data continuity information in the input image in the process of detecting continuity in step S101 (FIG. 406).
[2938]
In this case, in step S5301, the condition setting unit 5301 receives the condition (tap range, a_i≦ x <a_{i + 1}(The width of the same feature amount) and the number of i) are set.
[2939]
For example, assume that the tap range shown in FIG. 371 is set and d is set as the width.
[2940]
That is, FIG. 371 is a diagram illustrating an example of the tap range. In FIG. 371, the X direction and the Y direction represent the X direction and the Y direction of the sensor 2. The tap range represents a pixel group including a total of 15 pixels on the right side of FIG. 371 (15 squares surrounded by a thick line on the right side in the drawing).
[2941]
Further, as shown in FIG. 371, it is assumed that the target pixel is set to a hatched pixel in the drawing within the tap range. In addition, for each of the pixels, the relative pixel position (x, y) from the target pixel (the coordinate value of the target pixel coordinate system with the center (0, 0) of the target pixel as the origin) according to FIG. Suppose that a number 1 (1 is an integer value of 0 to 14) as shown in FIG.
[2942]
Returning to FIG. 370, in step S5302, the condition setting unit 5301 sets the pixel of interest.
[2943]
In step S5303, the input pixel value acquisition unit 5303 acquires the input pixel value based on the condition (tap range) set by the condition setting unit 5301, and generates an input pixel value table. That is, in this case, the input pixel value acquisition unit 5303 acquires the pixel values of the pixels in the area of the input image (pixels with numbers 0 to 14 in FIG. 371), and provides 15 input pixel value tables. A table composed of the input pixel values P (l) is generated.
[2944]
In step S5304, the integral component calculation unit 5304 includes the conditions (tap range, width, number of i) set by the condition setting unit 5301, and data continuity information (angle θ) supplied from the data continuity detection unit 101. An integral component is calculated based on, and an integral component table is generated.
[2945]
In this case, the integral component calculation unit 5304 calculates the integral component Ti (x_s, x_e, y_s, y_e) (= Ti (x−0.5, x + 0.5, y−0.5, y + 0.5): when the size of one pixel is expressed by 1 × 1), the integration represented by the left side of the following equation (279) Calculated as a function of l such as component Ti (l).
[2946]
Ti (l) = Ti (x-0.5, x + 0.5, y-0.5, y + 0.5) (279)
[2947]
That is, in this case, for example, if i is 0 to 5, 15 T₀(l), 15 T₁(l), 15 T₂(l), 15 T_Three(l), 15 T_Four(l), 15 T_FiveA total of 90 T in (l)_i(l) is calculated, and an integral component table including them is generated.
[2948]
Note that the order of the processing of step S5303 and the processing of step S5304 is not limited to the example of FIG. 370, the processing of step S5304 may be executed first, or the processing of step S5303 and the processing of step S5304 are executed simultaneously. May be.
[2949]
Next, in step 5305, the normal equation generation unit 5305 includes the input pixel value table generated by the input pixel value acquisition unit 5303 in the process of step S5303 and the integration generated by the integration component calculation unit 5304 in the process of step S5304. A normal equation table is generated based on the component table.
[2950]
Specifically, in this case, the feature value w is calculated by the least square method using the above-described equation (278)._iIs calculated, and the corresponding normal equation is expressed as the following equation (280).
[2951]
[Expression 221]

... (280)
[2952]
In Expression (280), L represents the maximum value among the numbers l of the pixels in the tap range. n is the feature value w that defines the approximate function f (x)_iRepresents the number of i. v_lRepresents a weight. Specifically, in this case, L = 15.
[2953]
When each matrix of the normal equation represented by the equation (280) is defined as the following equations (281) to (283), the normal equation is expressed as the following equation (284).
[2954]
[Equation 222]

... (281)
[2955]
[Expression 223]

... (282)
[2956]
[Expression 224]

... (283)
[2957]
[Expression 225]

... (284)
[2958]
As shown in equation (282), the matrix W_MATEach component is the feature value w_iIt is. Therefore, in equation (284), the matrix T on the left side_MATAnd right-hand side matrix P_MATIs determined, the matrix W_MATCan be calculated.
[2959]
Specifically, as shown in the equation (281), the matrix T_MATAre each the integral component T described above._iIt can be calculated with (l). That is, the integral component T_iSince (l) is included in the integral component table supplied from the integral component calculation unit 5304, the normal equation generation unit 5305 uses the integral component table to generate the matrix T._MATEach component of can be calculated.
[2960]
Further, as shown in Expression (283), the matrix P_MATEach component of is an integral component T_iIt is possible to calculate with (l) and the input pixel value P (l). That is, the integral component T_i(l) is the matrix T_MATSince the input pixel value P (l) is included in the input pixel value table supplied from the input pixel value acquisition unit 5303, the normal equation generation unit Reference numeral 5305 denotes a matrix P using the integral component table and the input pixel value table._MATEach component of can be calculated.
[2961]
In this way, the normal equation generation unit 5305 performs the matrix T_MATAnd matrix P_MATAnd calculate the result (matrix T_MATAnd matrix P_MATAre output to the approximate function generation unit 5306 as a normal equation table.
[2962]
When the normal equation table is output from the normal equation generation unit 5305, in step S5306, the approximate function generation unit 5306, based on the normal equation table, the matrix W of the above-described equation (284)._MATFeatures w which are each component of_i(Ie, level w which is a function defined for each region of a two-dimensional approximation function f (x, y) consisting of discontinuous functions._i) Is calculated.
[2963]
Specifically, the normal equation of the above formula (284) can be transformed as the following formula (285).
[2964]
[Equation 226]

... (285)
[2965]
In equation (285), the left side matrix W_MATEach component of is the feature value w_iIt is. Matrix T_MATAnd matrix P_MATEach component is included in the normal equation table supplied from the normal equation generation unit 5305. Therefore, the approximate function generation unit 5306 uses the normal equation table to perform the matrix operation on the right side of the equation (285), thereby generating the matrix W._MATAnd the result (feature value w_i) To the image generation unit 103.
[2966]
In step S5307, the approximate function generation unit 5306 determines whether all pixels have been processed.
[2967]
If it is determined in step S5307 that all the pixels have not been processed yet, the process returns to step S5302, and the subsequent processing is repeated. That is, the pixels that are not yet the target pixel are sequentially set as the target pixel, and the processes in steps S5302 to S5307 are repeated.
[2968]
When the processing for all pixels ends (when it is determined in step S5307 that the processing for all pixels has been completed), the estimation process for the real world 1 ends.
[2969]
As described above, as a description of the two-dimensional approximation method using the discontinuous function, the feature value w of the approximate function f (x, y) with respect to the spatial direction (X direction and Y direction)_iHowever, the two-dimensional approximation method using the discontinuous function can be applied to the spatio-temporal direction (X direction and T direction or Y direction and T direction).
[2970]
That is, since the above-described example is an example in which the optical signal in the real world 1 has, for example, continuity in the spatial direction, the spatial direction (X direction and A formula involving two-dimensional integration in the Y direction) was used. However, the concept of two-dimensional integration is not limited to the spatial direction, but can be applied to the spatiotemporal direction (X direction and T direction, or Y direction and T direction).
[2971]
In other words, in the two-dimensional approximation method using the discontinuous function, the optical signal function F (x, y, t) to be estimated has not only the continuity in the spatial direction but also the spatio-temporal direction (however, the X direction and T Even in the case of having continuity in the direction, or Y direction and T direction, it is possible to approximate by a two-dimensional discontinuous function.
[2972]
Specifically, for example, as shown in FIG. 372, an object (toy airplane in the figure) D1 (image of the lower frame in the figure) moves horizontally at a constant speed in the X direction, and the object D2 When moving to (the image of the middle frame in the figure), the movement of the object is represented as a locus L1 on the XT plane as shown in the upper part of FIG. Note that the upper part of FIG. 372 shows changes in the pixel values of the surface with OPQR in the figure as the vertices.
[2973]
In other words, it can be said that the locus L1 represents the direction of continuity in the spatio-temporal direction in the XT plane. Therefore, the data continuity detecting unit 101 is similar to the above-described angle θ (data continuity information corresponding to the continuity in the spatial direction represented by the predetermined inclination (angle) in the XY plane). As data continuity information corresponding to the inclination (stationary angle) representing the continuity in the spatial direction, an angle formed by a locus as shown in FIG. 372 (strictly, although not shown, the object is changed from D1 to D2). It is possible to output the direction of the continuity of the data as the locus (movement described above) when moving and the angle formed by the X direction in the spatial direction.
[2974]
Therefore, the real world estimation unit 102 using an approximation method using a two-dimensional discontinuous function can use the approximate function f () in the same manner as the above method if the motion θ is used instead of the angle θ described above. x, t) feature value w_iCan be calculated. However, in this case, the expression used is not the expression (277) described above but the following expression (286).
[2975]
[Expression 227]

... (286)
[2976]
In the case of processing on the X-T plane, the relationship between each pixel shown in the right part of FIG. 371 and the discontinuous function is as shown in FIG. That is, in FIG. 373, the cross-sectional shape in the spatial direction X (the cross-sectional shape by the discontinuous function) is continuous along the predetermined stationary direction with respect to the frame direction T. As a result, level is level w₁Thru w_FiveIn the case of the five types, the bands having the same level as shown in the left part of FIG. 371 are distributed along the direction of continuity.
[2977]
Therefore, in this case, the pixel value can be obtained by using a pixel existing on the XT plane as shown in the right part of FIG. In the right part of FIG. 373, each square represents a pixel, but the X direction is the width of the pixel, but in the frame direction, the unit of each square corresponds to one frame.
[2978]
Further, instead of the spatial direction X, the approximate function f (y, t) focused on the spatial direction Y can be handled in the same manner as the above approximate function f (x, t).
[2979]
In the above, a method for estimating a real world by setting a two-dimensional approximation function composed of discontinuous functions has been described, but it is also possible to estimate the real world using a three-dimensional approximation function composed of discontinuous functions. .
[2980]
For example, consider a two-dimensional discontinuous function that differs from region to region as shown in FIG. That is, in the case of FIG.₁≦ x <a₂And b₁≦ y <b₂When the approximate function is f (x, y) = w₁And region a₂≦ x <a_ThreeAnd b_Three≦ y <b_FourWhen the approximate function is f (x, y) = w₂And region a_Three≦ x <a_FourAnd b_Five≦ y <b₆When the approximate function is f (x, y) = w_ThreeAnd region a_Four≦ x <a_FiveAnd b₇≦ y <b₈When the approximate function is f (x, y) = w_FourAnd further, region a_Three≦ x <a_FourAnd b₉≦ y <b_TenWhen the approximate function is f (x, y) = w_FiveAs shown, different approximation functions f (x, y) are set for each region. Also w_iCan be considered substantially as the level of light intensity in each region.
[2981]
Thus, the discontinuous function as shown in FIG. 374 is defined by the following general formula (287).
[2982]

[2983]
Here, j and k are arbitrary integers, but i is a serial number for identifying an area that can be expressed by a combination of j and k.
[2984]
As described above, the distribution of the cross section as shown in FIG. 374 (corresponding to the curve of the cross section) is set as a constant for each region.
[2985]
Accordingly, the pixel value P (x, y) is obtained by the following equation (288) by using the approximate function f (x, y) composed of the discontinuous function in the real world defined by the equation (287). Will be.
[Expression 228]

... (288)
[2986]
Where x_e, X_sIndicates a value indicating the integration range in the X direction, and x_SIs the integration start position in the X direction, x_eIndicates the integration end position in the X direction. Similarly, y_e, Y_sIndicates a value indicating the integration range in the Y direction, y_SIs the integration start position in the Y direction, y_eIndicates the integration end position in the Y direction.
[2987]
However, in practice, it is difficult to directly obtain a function that approximates the real world as shown by the above-described equation (287).
[2988]
Since the distribution of cross sections of pixel values as shown in FIG. 374 is assumed to exist continuously with respect to the direction of continuity in the frame direction, the distribution of light intensity in space is shown in FIG. It will be like that. Here, the left part of FIG. 375 is based on the XT plane of the distribution of pixel values when the approximate function f (x, y) composed of discontinuous functions exists continuously in the frame direction and the stationary direction in the X direction. In the right part of the figure, a distribution in which the cross-section of the light intensity level on the XY plane is continuous in the frame direction is shown in FIG.
[2989]
That is, since the shape of the cross section shown in FIG. 374 is continuous along the direction of continuity, as shown in the right part of FIG._iThis region has a rod-like distribution along the stationary direction.
[2990]
In order to determine the pixel value of each three-dimensional region using the approximation function f (x, y) defined by the discontinuous function as shown in the right part of FIG. In the same manner as the method using the above, the volume ratio is used for calculation. That is, of the total volume of each pixel (three-dimensional volume composed of the X direction, Y direction, and T direction), the weight corresponding to the ratio of the volume occupied by the range in which each level is set, and the level By calculating the product sum and using the pixel value of the corresponding pixel, the pixel value of each region is determined using, for example, the least square method.
[2991]
That is, as shown in FIG. 376, with the boundary R as the boundary, the level of one region is f (x, y) = w₁And the level of the other region is f (x, y) = w₂Suppose that In addition, it is assumed that a cube composed of ABCDEFGH in the drawing on the XYT space indicates the target pixel. Further, the cross section of the target pixel with the boundary R is a rectangle made of IJKL.
[2992]
Also, the proportion of the volume of the pixel P occupied by the triangular prism portion made of IBJ-KFL is represented by M1, and the proportion of the volume of the other portion (the pentagonal column made of ADCJI-EGHLK) is represented by M2. To do. The volume here indicates the size of the exclusive area in the XYt space.
[2993]
At this time, the pixel value P of the target pixel is represented by the product sum of the pixel value and the ratio of each range, and is obtained by the calculation represented by the following equation (289).
[2994]

[2995]
Therefore, for each pixel, by generating an expression indicating the relationship with the pixel value using the relationship expressed by Expression (289), for example, as a coefficient indicating the pixel value, w₁Thru w₂If the relationship between the pixel value of at least two pixels including each coefficient and the equation (289) of the pixel is obtained, for example, the least squares method (when the unknown and the relational expression are the same number) is obtained. Indicates the pixel value level by simultaneous equations)₁Thru w₂Can be obtained.
[2996]
Thus, by using a three-dimensional relationship using stationarity, an approximate function f (x, y) composed of discontinuous functions can be obtained.
[2997]
For example, the velocity v on the X-T plane and on the Y-T plane is output based on the motion θ corresponding to the angle θ of the X-Y plane-like continuity output from the continuity detection unit 101._x, v_ySince (substantially the inclination of the X-T plane and the Y-T plane) can be obtained, the position x in the X direction of the stationary straight line at any position (x, y) in the X direction and the Y direction_landYDirectional position y_lIs expressed as the following equation (290).
[2998]

[2999]
That is, the point on the straight line corresponding to the continuity of the data is the coordinate value (x_l, y_l).
[3000]
From the equation (290), the cross-sectional direction distances x ′ and y ′ (the distance shifted in the X direction and the Y direction along the straight line where the stationarity exists) are expressed as the following equation (291). .
[3001]

Accordingly, the approximate function f (x, y) at an arbitrary position (x, y) of the input image is represented by the following equation (292) from the equations (287) and (291).
[3002]

[3003]
Therefore, the real world estimation unit 102 calculates the feature value w for each region of the equation (292)._iCan be estimated, the waveform F (x, y, t) can be estimated by estimating the approximate function f (x, y, t) composed of the discontinuous function.
[3004]
Therefore, hereinafter, the feature value w of the equation (292)_iA method for calculating the above will be described.
[3005]
That is, if the approximate function f (x, y, t) represented by the equation (292) is integrated in the integration range (spatial direction integration range) corresponding to the pixel (detection element of the sensor 2), the integration value is obtained. Is an estimated value of the pixel value of the pixel. This is expressed by the following equation (293).
[3006]
[Expression 229]

... (293)
[3007]
In equation (293), P (x, y, t) is the position of the center of the input image from the sensor 2 (x, y, t) (relative position (x, y, t t)) represents the pixel value of the existing pixel.
[3008]
As described above, in the three-dimensional approximation method, the relationship between the input pixel value P (x, y, t) and the three-dimensional approximation function f (x, y, t) including the discontinuous function is expressed by the equation (293). ), The real world estimation unit 102 uses the equation (293) to calculate the feature value w._iIs calculated by, for example, the method of least squares, and the three-dimensional function F (x, y, t) Waveform F (x, y, t)) can be estimated.
[3009]
Next, referring to FIG. 377, the configuration of the real world estimation unit 102 that sets the three-dimensional approximation function f (x, y, t) including the discontinuous function as described above and estimates the real world is described. explain.
[3010]
As shown in FIG. 377, the real world estimation unit 102 includes a condition setting unit 5321, an input image storage unit 5322, an input pixel value acquisition unit 5323, an integral component calculation unit 5304, a normal equation generation unit 5325, and an approximate function generation. A portion 5326 is provided.
[3011]
The condition setting unit 5321 has a pixel range (tap range) used for estimating the function F (x, y, t) corresponding to the target pixel, and a range of the approximation function f (x, y, t) ( For example, a_j≤ (x−v_xXt) <a_{j + 1}And b_2k-1≤ (y−v_yXt) <b_2kAnd the number of i).
[3012]
The input image storage unit 5322 temporarily stores an input image (pixel value) from the sensor 2.
[3013]
The input pixel value acquisition unit 5323 acquires an area of the input image corresponding to the tap range set by the condition setting unit 5321 out of the input images stored in the input image storage unit 5322, and stores it in the input pixel value table. To the normal equation generation unit 5325. That is, the input pixel value table is a table in which each pixel value of each pixel included in the area of the input image is described. A specific example of the input pixel value table will be described later.
[3014]
By the way, as described above, the real world estimation unit 102 using the three-dimensional approximation method solves the above-described equation (293) by the least square method, thereby obtaining the approximation function f (x) represented by the above-described equation (292). , y, t) feature value w_iIs calculated.
[3015]
Expression (293) can be expressed as the following Expression (294).
[3016]
[Expression 230]

... (294)
[3017]
In formula (294), T_i(X_s, x_e, y_s, y_e, t_s, t_e) Is the feature value w in the integration range._iArea (light level w_iThe integration result of the region), that is, the volume. In the following, T_i(X_s, x_e, y_s, y_e, t_s, t_e) Is called an integral component. This equation (294) is an integral component T in a two-dimensional calculation._i(X_s, x_e, y_s, y_e).
[3018]
The integral component calculation unit 5324 uses the integral component T_i(X_s, x_e, y_s, y_e, t_s, t_e) (= (X−0.5, x + 0.5, y−0.5, y + 0.5, t−0.5, t + 0.5): when an area of one pixel is taken).
[3019]
Specifically, the integral component T shown by the equation (294)_i(X_s, x_e, y_s, y_e, t_s, t_e) Is a predetermined feature amount w in the pixel to be obtained as described above with reference to FIG._iIs obtained. Therefore, the integral component calculation unit 5324 has an integral component T_i(X_s, x_e, y_s, y_e, t_s, t_e) For the widths d and e for each feature amount, as well as information on the direction of continuity (ie, for example, speed v_x, v_yOr each geometric feature w based on an angle θ) with respect to a predetermined stationary axis._iThe volume occupying each volume may be obtained, or may be obtained by multiple division and integration according to Simpson's formula, and the method for obtaining the volume is not limited to them. For example, the volume is calculated by the Monte Carlo method. You may make it ask.
[3020]
As explained in FIG. 376, a_j≤ (x−v_xXt) <a_{j + 1}And b_2k-1≤ (y−v_yXt) <b_2kEach width and stationary direction information (i.e., for example, velocity v_x, v_yOr the angle θ with respect to a predetermined axis of continuity and the relative pixel position (x, y, t) are known, the feature value w_iIs possible. Among these, the relative pixel position (x, y, t) is based on the target pixel and the tap range, and the continuity information is based on information detected by the continuity detection unit 101,_j≤ (x−v_xXt) <a_{j + 1}And b_2k-1≤ (y−v_yXt) <b_2kSince the width of is preset, each value is known.
[3021]
Therefore, the integral component calculation unit 5324 integrates the integral component Ti (x−0.5, x +) based on the tap range and width set by the condition setting unit 5321 and the data continuity information output from the data continuity detection unit 101. 0.5, y-0.5, y + 0.5, t-0.5, t + 0.5), and the calculation result is supplied to the normal equation generation unit 5325 as an integral component table.
[3022]
The normal equation generation unit 5325 uses the input pixel value table supplied from the input pixel value acquisition unit 5323 and the integration component table supplied from the integration component calculation unit 5324, so that the above equation (293), that is, the equation A normal equation for obtaining (294) by the method of least squares is generated, and is output to the approximate function generation unit 5326 as a normal equation table.
[3023]
The approximate function generation unit 5326 solves the normal equation included in the normal equation table supplied from the normal equation generation unit 5325 by a matrix solution method, whereby the feature amount w of the above-described equation (294) is obtained._iAre calculated and output to the image generation unit 103.
[3024]
Next, with reference to the flowchart in FIG. 378, the real-world estimation process (the process in step S102 in FIG. 40) to which the three-dimensional approximation method using the discontinuous function is applied will be described.
[3025]
For example, now the velocity v for the X-t plane and Y-t plane, respectively._x, v_yIt is assumed that the optical signal of the real world 1 having the continuity in the spatio-temporal direction expressed by the following is detected by the sensor 2 and already stored in the input image storage unit 5322 as an input image corresponding to one frame. In addition, the data continuity detecting unit 101 uses the speed v as data continuity information in the input image in the continuity detection process of step S101 (FIG. 406)._x, v_yIs obtained.
[3026]
In this case, in step S5321, the condition setting unit 5321 determines that the condition (tap range, a_j≤ (x−v_xXt) <a_{j + 1}And b_2k-1≤ (y−v_yXt) <b_2k(The same feature amount (the widths d and e of the region having the same approximate function) and the number of i)).
[3027]
For example, assume that the tap range shown in FIG. 379 is set and the width in the horizontal direction × the width in the vertical direction = d × e is set as the width.
[3028]
It is assumed that the set tap range is shown in FIG. 379, for example. In FIG. 379, the X direction and the Y direction represent the X direction and the Y direction of the sensor 2. Further, t indicates a frame number, and the tap range represents a pixel group composed of a total of 27 pixels, that is, pixels P0 to P26 corresponding to 3 frames in 9 frames on the right side of FIG. ing.
[3029]
Further, as shown in FIG. 379, it is assumed that the target pixel is set to the central pixel P13 in the figure of the frame number t = n. Also, for each pixel, depending on the relative pixel position (x, y, t) from the target pixel (the coordinate value of the target pixel coordinate system with the center (0,0,0) of the target pixel as the origin) Assume that a number l (l is an integer value indicating any one of P0 to P26) as shown in FIG.
[3030]
Returning to FIG. 378, in step S5322, the condition setting unit 5321 sets the target pixel.
[3031]
In step S5323, the input pixel value acquisition unit 5323 acquires an input pixel value based on the condition (tap range) set by the condition setting unit 5321, and generates an input pixel value table. In other words, in this case, the input pixel value acquisition unit 5323 acquires the pixel values of the pixels in the area of the input image (pixels denoted by the numbers P0 to P26 in FIG. 379) and obtains 27 input pixel value tables. A table composed of the input pixel values P (l) is generated.
[3032]
In step S5324, the integral component calculation unit 5324 performs integration based on the conditions (tap range, width, number of i) set by the condition setting unit 5321 and the data continuity information supplied from the data continuity detection unit 101. Calculate components and generate an integral component table.
[3033]
In this case, the integral component calculation unit 5324 calculates the integral component Ti (x_s, x_e, y_s, y_e, t_s, t_e) (= Ti (x-0.5, x + 0.5, y-0.5, y + 0.5, t-0.5, t + 0.5): The size of one pixel is X direction x Y direction x frame direction t = 1 x 1 x 1) is calculated as a function of l such as an integral component Ti (l) shown on the left side of the following equation (295).
[3034]

[3035]
That is, in this case, for example, if i is 0 to 5, 27 T₀(l), 27 T₁(l), 27 T₂(l), 27 T_Three(l), 27 T_Four(l), 27 T_FiveA total of 162 T in (l)_i(l) is calculated, and an integral component table including them is generated.
[3036]
Note that the order of the processing in step S5323 and the processing in step S5324 is not limited to the example in FIG. 378, and the processing in step S5324 may be executed first, or the processing in step S5323 and the processing in step S5324 are executed simultaneously. May be.
[3037]
Next, in step 5325, the normal equation generation unit 5325 includes the input pixel value table generated by the input pixel value acquisition unit 5323 in the process of step S5323 and the integration generated by the integration component calculation unit 5324 in the process of step S5304. A normal equation table is generated based on the component table.
[3038]
Specifically, in this case, the feature value w is calculated by the least square method using the above-described equation (295)._iIs calculated, and the corresponding normal equation is expressed as the following equation (296).
[3039]
[Expression 231]

... (296)
[3040]
In Expression (296), L represents the maximum value among the numbers l of the pixels in the tap range. n is the feature value w that defines the approximate function f (x)_iRepresents the number of i. v_lRepresents a weight. Specifically, in this case, L = 27.
[3041]
Since this normal equation has the same format as the above-described equation (280) and is the same as the above-described two-dimensional method, description of the subsequent normal equation solution will be omitted.
[3042]
In step S5327, the approximate function generation unit 5326 determines whether all pixels have been processed.
[3043]
If it is determined in step S5327 that the processing for all the pixels has not been completed, the process returns to step S5322, and the subsequent processing is repeated. That is, the pixels that are not yet the target pixel are sequentially set as the target pixel, and the processes in steps S5322 to S5327 are repeated.
[3044]
When the processing for all pixels is completed (when it is determined in step S5327 that the processing for all pixels has been completed), the estimation process for the real world 1 is completed.
[3045]
As a result, for example, as shown in FIG. 380, the stationary direction (the velocity in the X direction is v_x, Velocity in Y direction is v_y) Level (discontinuous function) w for each feature for each bar-shaped area drawn with a thick line₁Thru w_FiveIs set and a real-world approximation function is estimated. In this case, the cross-sectional size of each rod-like region with respect to the XY plane is d × e.
[3046]
Also, the rod-shaped area drawn with a thin line has a velocity in the Y direction of v_y= 0. That is, if you simply move horizontally, each level w_iThe bar-shaped region where is set maintains a parallel relationship with the X-t plane. This is because the velocity in the X direction is v_xThe same is true when = 0. In other words, in this case, each bar-like region is maintained in a parallel relationship with the Yt plane.
[3047]
Furthermore, when there is no change in the time direction and there is a continuity on the XY plane, the bar-shaped region for each function maintains a position parallel to the XY plane. That is, when there is no change in the time direction and there is continuity in the XY plane, there is a thin line or a binary edge.
[3048]
In the above description, a case has been described in which each region in which functions are set discontinuously is arranged in a two-dimensional space (bar-shaped regions are arranged so as to form a surface). As indicated by reference numeral 381, each region may be three-dimensionally arranged in a three-dimensional space of XYT.
[3049]
In the above example, a constant feature amount w for each region as a discontinuous function._iAlthough the case where is set has been described, the same is possible even with a continuous function that is not a constant. That is, for example, as shown in FIG. 382, when the function is in the X direction, the feature amount w is in the region of X0 ≦ X <X1 in the image.₁Is w₁= F₀set to (x), and in the region of X1 ≦ X <X2 in the image, the feature value w₂Is w₂= F₁You may make it set to (x). Even a continuous function may be set as a different function for each region. In this case, the function to be set may use, for example, polynomial approximation or other functions.
[3050]
Furthermore, a constant feature value w for each region as a discontinuous function_iMay be set, a function that does not continue at all in each region may be set. That is, for example, as shown in FIG. 383, in the region of X0 ≦ X <X1 in the image when the function is in the X direction, the feature value w₁Is w₁= F₀set to (x), and in the region of X1 ≦ X <X2 in the image, the feature value w₂Is w₂= F₁set to (x) so that each function (e.g. f₀(x) and f₁Even if (x)) is discontinuous, the same processing can be performed. Also in this case, the function to be set may use, for example, polynomial approximation or other functions.
[3051]
As described above, the real world estimation unit 102 in FIG. 377, when setting each pixel value by a discontinuous function, has a bar shape along the direction of continuity (angle or direction of movement (speed direction obtained from movement)). By setting a function discontinuously for each area, it is possible to set an approximate function in the real world.
[3052]
Next, with reference to FIG. 384, the image generation unit 103 that generates an image based on the real world estimation information estimated by the real world estimation unit 102 of FIG. 369 described above will be described.
[3053]
The image generation unit 103 in FIG. 384 includes a real world estimation information acquisition unit 5341, a weight calculation unit 5342, and a pixel generation unit 5343.
[3054]
The real world estimation information acquisition unit 5341 is a feature amount as the real world estimation information output from the real world estimation unit 102 in FIG. 369, that is, a pixel value set for each region divided along the direction of continuity (Approximation function f (x) composed of discontinuous functions) is obtained and output to the weight calculation unit 5342.
[3055]
The weight calculation unit 5342 is the real world estimation information input from the real world estimation information acquisition unit 5341, and is included in each pixel included in the pixel to be generated based on the information of the region divided along the direction of continuity. The area ratio of the area is calculated as a weight, and is output to the pixel generation section 5343 together with the function information set for each area input from the real world estimation information acquisition section 5341.
[3056]
The pixel generation unit 5343 receives weight information calculated based on the ratio of the area of each region included in the pixel to be generated input from the weight calculation unit, and a level function (indeterminate) set for each region. Based on the approximate function f (x)) composed of continuous functions, the level is obtained, and for each pixel to be generated, the product sum of the obtained level and weight is obtained and output as the pixel value of that pixel.
[3057]
Next, image generation processing by the image generation unit 103 in FIG. 384 will be described with reference to the flowchart in FIG.
[3058]
In step S5341, the real world estimation information acquisition unit 5341 acquires real world estimation information (approximation function f (x) composed of discontinuous functions) input from the real world estimation unit 102 in FIG. 369, and a weight calculation unit. 5342.
[3059]
In step S5342, the weight calculation unit 5342 sets a pixel to be generated, and in step S5343, the pixel to be generated is included in the pixel to be generated based on the input real world estimation information. The ratio of the area to the pixel to be generated for each set region is calculated, and this is calculated as the weight of each region, and the level for each region input from the real world estimation information acquisition unit 5341 is set. Together with the function to be output to the pixel generation unit 5343.
[3060]
For example, a case where a feature amount is set as illustrated in FIG. 386 will be described. Here, it is assumed that pixels of the input image are indicated by thin line cells and pixels to be generated are indicated by thick line cells. That is, in the present case, a quadruple density pixel is generated. Also w₁Thru w_FiveThe five areas set in a band shape to the right with respect to the pixel arrangement shown in FIG. 5 are areas set along the direction of continuity, and the level of each area is w₁Thru w_FiveSuppose that
[3061]
When it is assumed that the pixel of interest is the pixel of interest that is to be generated with the diagonal lines shown in FIG. 386, the pixel of interest is the region w._Three, w_FourThe area occupied by each region in the target pixel is m₁, M₂If the area of the pixel to be generated is m, the generated weight is_ThreeThe weight of is m₁/ m, area w_FourThe weight of is m₂/ m. As described above, the weight calculation unit 5342 outputs the obtained weight information for each region and the function information for setting the level of each region to the pixel generation unit 5343.
[3062]
In step S5344, the pixel generation unit 5343 determines a pixel value based on the weight for each region straddling the pixel of interest input from the weight calculation unit 5342 and the level for each region, and generates a pixel.
[3063]
In other words, in the case of the pixel of interest described with reference to FIG. 386, the pixel generation unit 5343 receives the region w as weight information._ThreeIs m₁/ m, region w_FourIs m₂Information that it is / m is acquired. Furthermore, the pixel value is determined by obtaining the product sum with the level for each region acquired at the same time, and a pixel is generated.
[3064]
That is, for example, the region w_Three, w_FourThe approximation function that determines the level of_Three, W_FourIn the case of (both are constants), the pixel value is determined as shown by the following equation (297) by calculating the product sum with the weight.
[3065]

[3066]
In step S5345, the real world estimation information acquisition unit 5341 determines whether or not the processing has been completed for all the pixels of the image to be generated, and if it is determined that the processing has not been completed for all the pixels, The processing returns to step S5342, and the subsequent processing is repeated. That is, the processes in steps S5342 to S5345 are repeated until it is determined that the process has been completed for all pixels.
[3067]
If it is determined in step S5345 that the process has been completed for all pixels, the process ends.
[3068]
That is, for example, when an object moves in the right direction in the horizontal direction, the actual pixel value change in the XT space in the real world is the same along the direction of continuity as shown in FIG. 387A. It is known that the region where the pixel value level is continued. For this reason, if a pixel having a density higher than that is generated using a model as shown in FIG. 387B, the shape of the pixel cannot express an actual linear motion that rises to the right. When an enlarged image is to be generated, an accurate pixel value cannot be reflected in pixel generation of the enlarged image due to a change in pixel values geometrically arranged in a staircase pattern near the boundary where the pixel value changes.
[3069]
On the other hand, the model in the estimation of the approximate function in the real world of the real world estimation unit 102 in FIG. 369 generates a model faithful to the actual motion along the direction of steadiness, as shown in FIG. 387C. Therefore, changes below the pixel can be accurately expressed, and for example, it is possible to more accurately generate high-density pixels used for an enlarged image.
[3070]
With the above processing, pixels can be generated in consideration of the light intensity distribution in the area below the pixel, and higher density pixels can be accurately generated. Can be generated.
[3071]
Next, the image generation unit 103 that generates an image based on the real world estimation information estimated by the real world estimation unit 102 of FIG. 377 described above will be described with reference to FIG. 388.
[3072]
The image generation unit 103 in FIG. 388 includes a real world estimation information acquisition unit 5351, a weight calculation unit 5352, and a pixel generation unit 5353.
[3073]
The real world estimation information acquisition unit 5351 is a feature quantity as the real world estimation information output from the real world estimation unit 102 in FIG. 377, that is, a pixel value set for each region divided along the direction of continuity. (Approximation function f (x) composed of discontinuous functions) is obtained and output to the weight calculation unit 5352.
[3074]
The weight calculation unit 5352 is the real world estimation information input from the real world estimation information acquisition unit 5351, and is included in each pixel included in the pixel to be generated based on the information of the region divided along the direction of continuity. For each area input from the real world estimated information acquisition unit 5351, the ratio of the volume of the area (here, the volume is the volume in the three-dimensional space in the X direction, the Y direction, and the frame direction t) is calculated. Is output to the pixel generation unit 5353 together with information on the function set to.
[3075]
The pixel generation unit 5353 receives the weight information calculated based on the volume ratio of each region included in the pixel to be generated input from the weight calculation unit, and the function of the level set for each region. Based on the approximate function f (x)) composed of continuous functions, the level is obtained, and for each pixel to be generated, the product sum of the obtained level and weight is obtained and output as the pixel value of that pixel.
[3076]
Next, image generation processing by the image generation unit 103 in FIG. 388 will be described with reference to the flowchart in FIG.
[3077]
In step S5351, the real world estimation information acquisition unit 5351 acquires real world estimation information (approximation function f (x) composed of discontinuous functions) input from the real world estimation unit 102 of FIG. 377, and a weight calculation unit. To 5352.
[3078]
In step S5352, the weight calculator 5352 sets a pixel to be generated, and in step S5353, based on the input real world estimation information, for each pixel to be generated, for each set region included in the pixel to be generated Then, the ratio of the volume to the pixel to be generated is obtained, and this is calculated as the weight of each region, and the pixel generation unit 5353 together with the function for setting the level for each region input from the real world estimation information acquisition unit 5351 is obtained. Output to.
[3079]
For example, as shown in FIG. 390, it is assumed that a pixel of interest is set as a pixel to be generated in a three-dimensional space in the X direction, the Y direction, and the frame direction T. In FIG. 390, a cube indicated by a thick line is the target pixel. A cube drawn with thin lines indicates a pixel adjacent to the target pixel.
[3080]
For example, a case where a feature amount is set as shown in FIG. 391 will be described. Note that w shown in FIG.₁Thru w_ThreeThe three regions set in a bar shape indicated by are the regions set along the stationary direction, and the level of each region is w₁Thru w_ThreeSuppose that
[3081]
As shown in FIG. 391, the target pixel is a region w.₁Thru w_ThreeTherefore, the volume occupied by each area in the target pixel is M₁Thru M_ThreeIf the volume of the pixel to be generated is M, the generated weight is₁The weight of is M₁/ M, area w₂The weight of is M₂/ M, area w_ThreeThe weight of is M_Three/ M. The information on the weights obtained for each area and the information on the function for setting the level of each area are output to the pixel generation unit 5353.
[3082]
In step S5354, the pixel generation unit 5353 receives the weight calculation unit 53.5The pixel value is determined based on the weight for each region straddling the pixel of interest input from 2 and the level for each region, and a pixel is generated.
[3083]
That is, in the case of the pixel of interest described with reference to FIG. 391, the pixel generation unit 5353 receives the region w as the weight information.₁Is M₁/ M, region w₂Is M₂/ M, region w_ThreeIs M_ThreeInformation that it is / M is acquired. Furthermore, the pixel value is determined by obtaining the product sum with the level for each region acquired at the same time, and a pixel is generated.
[3084]
That is, for example, the region w₁Thru w_ThreeThe approximation function that determines the level of₁Thru w_ThreeIn the case of (both are constants), the pixel value is determined as shown by the following formula (298) by obtaining the product sum with the weight.

[3085]
In step S5355, the real world estimated information acquisition unit 5351 determines whether or not the processing has been completed for all the pixels of the image to be generated, and if it is determined that the processing has not been completed for all the pixels, The processing returns to step S5352, and the subsequent processing is repeated. That is, the processes in steps S5352 to S5355 are repeated until it is determined that the process has been completed for all pixels.
[3086]
If it is determined in step S5355 that the process has been completed for all pixels, the process ends.
[3087]
FIGS. 392A to 392D show the processing results when pixels having a 16-fold density (4 times the density in the horizontal direction and the vertical direction) are generated with respect to the original image. Here, FIG. 392A is an original image, FIG. 392B is a processing result by the conventional class classification adaptive processing, FIG. 392C is a processing result by a real-world approximation function composed of the above-described polynomial, FIG. 392D shows the processing results obtained from the real-world approximation function composed of discontinuous functions.
[3088]
It can be seen that the result of processing by the real-world approximation function consisting of discontinuous functions produces a clear image with little blurring of the image and close to the original image.
[3089]
Further, FIG. 393 shows an average pixel value of 4 pixels × 4 pixels in the horizontal direction and the vertical direction in the high-density original image, and further, the pixel value of the 16 pixels is obtained as the obtained average pixel value. After the spatial resolution is reduced to 1/16, the processing result by the real-world approximation function composed of the above-mentioned polynomial and the processing result by the real-world approximation function composed of the discontinuous function are compared. In FIG. 393, the solid line is the original image, the dotted line is the processing result by the real-world approximation function consisting of a polynomial, and the one-dot chain line is the processing result by the real-world approximation function consisting of a discontinuous function. . In the figure, the horizontal axis represents the coordinate position in the X direction, and the vertical axis represents the pixel value.
[3090]
The processing result by the real-world approximation function consisting of the discontinuous function is more consistent with the original image and the original image at X = 651 to 655 than the processing result by the real-world approximation function consisting of the polynomial. It can be seen that the pixel values are accurately reproduced even in the generation of 16-times density pixels.
[3091]
With the above processing, pixels can be generated in consideration of the light intensity distribution in the area below the pixel, and higher density pixels can be accurately generated. Can be generated.
[3092]
Furthermore, as described above, the method of setting an approximate function in the real world composed of discontinuous functions can be used to remove motion blur in an image.
[3093]
Here, the input image and motion blur will be described with reference to FIGS. 394 to 409.
[3094]
FIG. 394 is a diagram for describing imaging by the sensor 2. The sensor 2 is configured by, for example, a CCD video camera provided with a CCD (Charge-Coupled Device) area sensor which is a solid-state imaging device. The object corresponding to the foreground in the real world moves horizontally between the object corresponding to the background and the sensor in the real world, for example, from the left side to the right side in the drawing.
[3095]
The sensor 2 images an object corresponding to the foreground together with an object corresponding to the background. The sensor 2 outputs the captured image in units of one frame. For example, the sensor 2 outputs an image composed of 30 frames per second. The exposure time of the sensor 2 can be 1/30 second. The exposure time is a period from when the sensor 2 starts converting the input light into electric charge until the conversion of the input light into electric charge ends. Hereinafter, the exposure time is also referred to as shutter time.
[3096]
FIG. 395 is a diagram illustrating the arrangement of pixels. In FIG. 395, A to I indicate individual pixels. The pixels are arranged on a plane corresponding to the image. One detection element corresponding to one pixel is arranged on the sensor 2. When the sensor 2 captures an image, one detection element outputs a pixel value corresponding to one pixel constituting the image. For example, the position of the detection element in the X direction corresponds to the horizontal position on the image, and the position of the detection element in the Y direction corresponds to the vertical position on the image.
[3097]
As shown in FIG. 396, for example, the detection element that is a CCD converts input light into electric charges for a period corresponding to the shutter time, and accumulates the converted electric charges. The amount of charge is approximately proportional to the intensity of input light and the time during which light is input. The detection element adds the electric charge converted from the input light to the already accumulated electric charge in a period corresponding to the shutter time. That is, the detection element integrates the input light for a period corresponding to the shutter time, and accumulates an amount of charge corresponding to the integrated light. It can be said that the detection element has an integration effect with respect to time.
[3098]
The electric charge accumulated in the detection element is converted into a voltage value by a circuit (not shown), and the voltage value is further converted into a pixel value such as digital data and output. Accordingly, each pixel value output from the sensor 2 is a value projected onto a one-dimensional space, which is the result of integrating a part of the object corresponding to the foreground or background having a spatial extent with respect to the shutter time. Have
[3099]
FIG. 397 is a diagram for explaining an image obtained by imaging an object corresponding to a moving foreground and an object corresponding to a stationary background. FIG. 397A shows an image obtained by imaging an object corresponding to a foreground with movement and an object corresponding to a stationary background. In the example shown in FIG. 397A, the object corresponding to the foreground is moving horizontally from the left to the right with respect to the screen.
[3100]
FIG. 397B is a model diagram in which pixel values corresponding to one line of the image shown in FIG. 397A are expanded in the time direction. The horizontal direction in FIG. 397B corresponds to the spatial direction X in FIG. 397A.
[3101]
The pixel value of the background region pixel is composed of only the background component, that is, the image component corresponding to the background object. The pixel value of the foreground region pixel is composed of only the foreground component, that is, the image component corresponding to the foreground object.
[3102]
The pixel value of the pixel in the mixed area is composed of a background component and a foreground component. Since the pixel value is composed of the background component and the foreground component, the mixed region can be said to be a distortion region. The mixed area is further classified into a covered background area and an uncovered background area.
[3103]
The covered background area is a mixed area at a position corresponding to the front end of the foreground object in the advancing direction with respect to the foreground area, and is an area where the background component is covered with the foreground as time passes.
[3104]
On the other hand, the uncovered background area is a mixed area at a position corresponding to the rear end portion of the foreground object in the advancing direction with respect to the foreground area, and an area where a background component appears as time passes. Say.
[3105]
FIG. 398 is a diagram illustrating the background area, the foreground area, the mixed area, the covered background area, and the uncovered background area as described above. In the case of corresponding to the image shown in FIG. 397, the background area is a stationary part, the foreground area is a moving part, and the covered background area of the mixed area is a part that changes from the background to the foreground. The uncovered background area is a portion that changes from the foreground to the background.
[3106]
FIG. 399 is a model diagram in which pixel values of pixels arranged in a row adjacent to each other in an image obtained by capturing an object corresponding to a stationary foreground and an object corresponding to a stationary background are expanded in the time direction. It is. For example, pixels arranged on one line of the screen can be selected as the pixels arranged adjacent to each other in one column.
[3107]
The pixel values F01 to F04 shown in FIG. 399 are pixel values corresponding to the still foreground object. The pixel values B01 to B04 shown in FIG. 399 are pixel values corresponding to a stationary background object.
[3108]
The vertical direction in FIG. 399 corresponds to time, and time elapses from top to bottom in the figure. The position of the upper side of the rectangle in FIG. 399 corresponds to the time when the sensor 2 starts to convert the input light into electric charge, and the position of the lower side of the rectangle in FIG. 399 indicates the position of the light input by the sensor 2. Corresponds to the time when the conversion to charge ends. That is, the distance from the upper side to the lower side of the rectangle in FIG. 399 corresponds to the shutter time.
[3109]
Hereinafter, a case where the shutter time and the frame interval are the same will be described as an example.
[3110]
The horizontal direction in FIG. 399 corresponds to the spatial direction X described in FIG. More specifically, in the example shown in FIG. 399, the distance from the left side of the rectangle described as “F01” in FIG. 399 to the right side of the rectangle described as “B04” is 8 times the pixel pitch, That is, it corresponds to the interval between eight consecutive pixels.
[3111]
When the foreground object and the background object are stationary, the light input to the sensor 2 does not change during the period corresponding to the shutter time.
[3112]
Here, the period corresponding to the shutter time is divided into two or more periods having the same length. The virtual division number is set corresponding to the amount of movement v of the object corresponding to the foreground within the shutter time. For example, as shown in FIG. 400, the virtual division number is set to 4 corresponding to the motion amount v that is 4, and the period corresponding to the shutter time is divided into four.
[3113]
The top row in FIG. 400 corresponds to the first divided period after the shutter opens. The second row from the top in the figure corresponds to the second divided period from when the shutter has opened. The third line from the top in the figure corresponds to the third divided period from when the shutter has opened. The fourth row from the top in the figure corresponds to the fourth divided period from when the shutter has opened.
[3114]
Hereinafter, the shutter time divided in accordance with the motion amount v is also referred to as shutter time / v.
[3115]
Since the light input to the sensor 2 does not change when the object corresponding to the foreground is stationary, the foreground component F01 / v is equal to the value obtained by dividing the pixel value F01 by the virtual division number. Similarly, when the object corresponding to the foreground is stationary, the foreground component F02 / v is equal to the value obtained by dividing the pixel value F02 by the virtual division number, and the foreground component F03 / v is the virtual value of the pixel value F03. The foreground component F04 / v is equal to the value obtained by dividing the pixel value F04 by the virtual division number.
[3116]
Since the light input to the sensor 2 does not change when the object corresponding to the background is stationary, the background component B01 / v is equal to the value obtained by dividing the pixel value B01 by the virtual division number. Similarly, when the object corresponding to the background is stationary, the background component B02 / v is equal to the value obtained by dividing the pixel value B02 by the virtual division number, and B03 / v is obtained by dividing the pixel value B03 by the virtual division number. B04 / v is equal to a value obtained by dividing the pixel value B04 by the number of virtual divisions.
[3117]
That is, when the object corresponding to the foreground is stationary, the light corresponding to the foreground object input to the sensor 2 does not change during the period corresponding to the shutter time, so the first shutter time / Corresponds to the foreground component F01 / v corresponding to v, the second foreground component F01 / v corresponding to the shutter time / v, and the third shutter time / v corresponding to the shutter time / v. The foreground component F01 / v and the foreground component F01 / v corresponding to the fourth shutter time / v after the shutter is opened have the same value. F02 / v to F04 / v have the same relationship as F01 / v.
[3118]
When the object corresponding to the background is stationary, the light corresponding to the background object input to the sensor 2 does not change during the period corresponding to the shutter time, so that the first shutter time / v after the shutter opens. The corresponding background component B01 / v, the second background component B01 / v corresponding to the shutter time / v when the shutter is opened, and the third background component corresponding to the shutter time / v corresponding to the shutter time / v The component B01 / v and the background component B01 / v corresponding to the fourth shutter time / v after the shutter is opened have the same value. B02 / v to B04 / v have the same relationship.
[3119]
Next, a case where the object corresponding to the foreground moves and the object corresponding to the background is stationary will be described.
[3120]
FIG. 401 is a model diagram in which pixel values of pixels on one line including the covered background area are expanded in the time direction when the object corresponding to the foreground moves toward the right side in the drawing. In FIG. 401, the foreground motion amount v is 4. Since one frame is a short time, it can be assumed that the object corresponding to the foreground is a rigid body and is moving at a constant speed. In FIG. 401, the image of the object corresponding to the foreground moves so as to be displayed on the right side by four pixels in the next frame with reference to a certain frame.
[3121]
In FIG. 401, the leftmost pixel through the fourth pixel from the left belong to the foreground area. In FIG. 401, the fifth through seventh pixels from the left belong to the mixed area, which is a covered background area. In FIG. 401, the rightmost pixel belongs to the background area.
[3122]
Since the object corresponding to the foreground is moving so as to cover the object corresponding to the background with the passage of time, the component included in the pixel value of the pixel belonging to the covered background area has a period corresponding to the shutter time. At this point, the background component is replaced by the foreground component.
[3123]
For example, a pixel value M with a thick frame in FIG. 401 is expressed by Expression (299).
[3124]

[3125]
For example, since the fifth pixel from the left includes a background component corresponding to one shutter time / v and includes a foreground component corresponding to three shutter times / v, the mixture ratio of the fifth pixel from the left α is 1/4. The sixth pixel from the left includes a background component corresponding to two shutter times / v and includes a foreground component corresponding to two shutter times / v. Therefore, the mixture ratio α of the sixth pixel from the left is 1/2. The seventh pixel from the left includes a background component corresponding to three shutter times / v, and includes a foreground component corresponding to one shutter time / v. Therefore, the mixture ratio α of the seventh pixel from the left is 3/4.
[3126]
Since it can be assumed that the object corresponding to the foreground is a rigid body and moves at a constant speed so that the foreground image is displayed on the right side of four pixels in the next frame, for example, the fourth pixel from the left in FIG. The foreground component F07 / v of the first shutter time / v after the shutter is opened is the foreground component of the fifth pixel from the left in FIG. 401 corresponding to the second shutter time / v after the shutter is opened. be equivalent to. Similarly, the foreground component F07 / v is the sixth pixel from the left in FIG. 401, the foreground component corresponding to the third shutter time / v from when the shutter has opened, and the seventh pixel from the left in FIG. And the foreground component corresponding to the fourth shutter time / v after the shutter is opened.
[3127]
Since it can be assumed that the object corresponding to the foreground is a rigid body and moves at a constant speed so that the foreground image is displayed on the right side of four pixels in the next frame, for example, the third pixel from the left in FIG. The foreground component F06 / v of the first shutter time / v after the shutter is opened is the foreground component of the fourth pixel from the left in FIG. 401 corresponding to the second shutter time / v after the shutter is opened. equal. Similarly, the foreground component F06 / v is the fifth pixel from the left in FIG. 401, the foreground component corresponding to the third shutter time / v from when the shutter has opened, and the sixth pixel from the left in FIG. And the foreground component corresponding to the fourth shutter time / v after the shutter is opened.
[3128]
Since it can be assumed that the object corresponding to the foreground is a rigid body and moves at a constant speed so that the foreground image is displayed on the right side of four pixels in the next frame, for example, the second pixel from the left in FIG. The foreground component F05 / v of the first shutter time / v after the shutter is opened is the foreground component of the third pixel from the left in FIG. 401 corresponding to the second shutter time / v after the shutter is opened. equal. Similarly, the foreground component F05 / v is the fourth pixel from the left in FIG. 401, the foreground component corresponding to the third shutter time / v from when the shutter opened, and the fifth from the left in FIG. 401. And the foreground component corresponding to the fourth shutter time / v after the shutter is opened.
[3129]
Since it can be assumed that the object corresponding to the foreground is a rigid body and moves at a constant speed so that the foreground image is displayed on the right side of four pixels in the next frame, for example, the shutter of the leftmost pixel in FIG. The foreground component F04 / v of the first shutter time / v after opening is equal to the foreground component of the second pixel from the left in FIG. 401 corresponding to the second shutter time / v after the shutter is opened. Similarly, the foreground component F04 / v includes the foreground component of the third pixel from the left in FIG. 401 corresponding to the third shutter time / v from when the shutter has opened, and the fourth pixel from the left in FIG. And the foreground component corresponding to the fourth shutter time / v after the shutter is opened.
[3130]
The state of the foreground area corresponding to such a moving object is motion blur. In addition, the foreground area corresponding to the moving object includes motion blur as described above, and thus can be said to be a distortion area.
[3131]
FIG. 402 is a model diagram in which pixel values of pixels on one line including the uncovered background area are expanded in the time direction when the foreground moves toward the right side in the drawing. In FIG. 402, the foreground motion amount v is four. Since one frame is a short time, it can be assumed that the object corresponding to the foreground is a rigid body and is moving at a constant speed. In FIG. 402, the image of the object corresponding to the foreground moves to the right by four pixels in the next frame with reference to a certain frame.
[3132]
In FIG. 402, the leftmost pixel through the fourth pixel from the left belong to the background area. In FIG. 402, the fifth through seventh pixels from the left belong to the mixed area, which is an uncovered background. In FIG. 402, the rightmost pixel belongs to the foreground area.
[3133]
Since the object corresponding to the foreground that covered the object corresponding to the background is moved so as to be removed from the front of the object corresponding to the background over time, it is included in the pixel value of the pixel belonging to the uncovered background area The component to be changed from the foreground component to the background component at a certain point in time corresponding to the shutter time.
[3134]
For example, the pixel value M ′ indicated by the thick line frame in FIG. 402 is expressed by Expression (300).
[3135]

[3136]
For example, the fifth pixel from the left includes a background component corresponding to three shutter times / v, and includes a foreground component corresponding to one shutter time / v, so the mixing ratio of the fifth pixel from the left α is 3/4. The sixth pixel from the left includes a background component corresponding to two shutter times / v and includes a foreground component corresponding to two shutter times / v. Therefore, the mixture ratio α of the sixth pixel from the left is 1/2. Since the seventh pixel from the left includes a background component corresponding to one shutter time / v and includes a foreground component corresponding to three shutter times / v, the mixture ratio α of the seventh pixel from the left is 1/4.
[3137]
When the expressions (299) and (300) are generalized, the pixel value M is expressed by the expression (301).
[3138]
[Equation 232]

... (301)
Here, α is a mixing ratio. B is a background pixel value, and Fi / v is a foreground component.
[3139]
Since the object corresponding to the foreground is a rigid body and can be assumed to move at a constant speed, and the amount of movement v is 4, for example, the first pixel from the left in FIG. The foreground component F01 / v of the shutter time / v is equal to the foreground component of the sixth pixel from the left in FIG. 402 corresponding to the second shutter time / v from when the shutter has opened. Similarly, F01 / v represents the foreground component of the seventh pixel from the left in FIG. 402 corresponding to the third shutter time / v from when the shutter has opened, and the eighth pixel from the left in FIG. , And the foreground component corresponding to the fourth shutter time / v after the shutter is opened.
[3140]
Since the object corresponding to the foreground is a rigid body and can be assumed to move at a constant speed, and the number of virtual divisions is 4, for example, the first pixel from the left in FIG. The foreground component F02 / v of the shutter time / v is equal to the foreground component of the seventh pixel from the left in FIG. 402 corresponding to the second shutter time / v from when the shutter has opened. Similarly, the foreground component F02 / v is equal to the foreground component of the eighth pixel from the left in FIG. 402 corresponding to the third shutter time / v from when the shutter has opened.
[3141]
Since it can be assumed that the object corresponding to the foreground is a rigid body and moves at a constant speed, and the amount of movement v is 4, for example, the seventh pixel from the left in FIG. The foreground component F03 / v of the shutter time / v is equal to the foreground component of the eighth pixel from the left in FIG. 402 corresponding to the second shutter time / v from when the shutter has opened.
[3142]
In the description of FIGS. 400 to 402, it has been described that the number of virtual divisions is 4. However, the number of virtual divisions corresponds to the motion amount v. The amount of movement v generally corresponds to the moving speed of the object corresponding to the foreground. For example, when the object corresponding to the foreground is moving so as to be displayed to the right by four pixels in the next frame with reference to a certain frame, the amount of movement v is 4. Corresponding to the motion amount v, the number of virtual divisions is 4. Similarly, for example, when the object corresponding to the foreground is moving so that it is displayed on the left by 6 pixels in the next frame with reference to a certain frame, the motion amount v is set to 6, and the number of virtual divisions is , 6.
[3143]
In FIG. 403 and FIG. 404, the foreground component and the background component corresponding to the divided shutter time, the mixed region including the foreground region, the background region, the covered background region, or the uncovered background region described above are shown. The relationship is shown.
[3144]
FIG. 403 shows an example in which pixels in the foreground area, the background area, and the mixed area are extracted from an image including a foreground corresponding to an object moving in front of a stationary background. In the example shown in FIG. 403, the object corresponding to the foreground is moving horizontally with respect to the screen.
[3145]
Frame # n + 1 is the next frame after frame #n, and frame # n + 2 is the next frame after frame # n + 1.
[3146]
Extract the pixels in the foreground area, background area, and mixed area extracted from any of frame #n to frame # n + 2, set the amount of motion v to 4, and set the pixel values of the extracted pixels in the time direction FIG. 404 shows the developed model.
[3147]
Since the object corresponding to the foreground moves, the pixel value in the foreground area is composed of four different foreground components corresponding to the shutter time / v period. For example, the leftmost pixel among the pixels in the foreground area shown in FIG. 404 is composed of F01 / v, F02 / v, F03 / v, and F04 / v. That is, the pixels in the foreground area include motion blur.
[3148]
Since the object corresponding to the background is stationary, the light corresponding to the background input to the sensor 2 does not change during the period corresponding to the shutter time. In this case, the pixel value in the background area does not include motion blur.
[3149]
The pixel value of the pixel belonging to the mixed area composed of the covered background area or the uncovered background area is composed of a foreground component and a background component.
[3150]
Next, when the image corresponding to the object is moving, the pixel values of the pixels at the same position on the frame that are adjacent to each other in a plurality of frames are developed in the time direction. The model will be described. For example, when the image corresponding to the object moves horizontally with respect to the screen, the pixels arranged on one line of the screen can be selected as the pixels arranged in a row adjacent to each other.
[3151]
FIG. 405 shows pixels that are adjacent to each other in one column of three frames of an image obtained by capturing an object corresponding to a stationary background, and the pixel values of the pixels at the same position on the frame are represented by time. It is the model figure developed in the direction. Frame #n is the next frame after frame # n-1, and frame # n + 1 is the next frame after frame #n. Other frames are also referred to in the same manner.
[3152]
The pixel values B01 to B12 shown in FIG. 405 are pixel values corresponding to a stationary background object. Since the object corresponding to the background is stationary, the pixel value of the corresponding pixel does not change in frame # n−1 to frame n + 1. For example, the pixel in frame #n and the pixel in frame # n + 1 corresponding to the position of the pixel having a pixel value of B05 in frame # n−1 each have a pixel value of B05.
[3153]
FIG. 406 shows pixels arranged in a row adjacent to each other in three frames of an image obtained by capturing an object corresponding to the foreground moving to the right side in the drawing together with an object corresponding to the stationary background, FIG. 5 is a model diagram in which pixel values of pixels at the same position on a frame are developed in the time direction. The model shown in FIG. 406 includes a covered background area.
[3154]
In FIG. 406, it can be assumed that the object corresponding to the foreground is a rigid body and moves at a constant speed, and the foreground image is moved so that the foreground image is displayed on the right by four pixels in the next frame. 4 and the number of virtual divisions is 4.
[3155]
For example, the foreground component of the leftmost pixel of frame # n−1 in FIG. 406 for the first shutter time / v after the shutter opens is F12 / v, and the second pixel from the left in FIG. The foreground component of the second shutter time / v after the shutter is opened is also F12 / v. The foreground component of the third pixel from the left in FIG. 406 and the third shutter time / v from when the shutter opened, and the fourth shutter time from the shutter of the fourth pixel from the left in FIG. 406 The foreground component of / v is F12 / v.
[3156]
The foreground component of the leftmost pixel of frame # n−1 in FIG. 406 for the second shutter time / v after the shutter opens is F11 / v, and the second pixel from the left in FIG. The foreground component of the third shutter time / v after the shutter is opened is also F11 / v. The foreground component of the third pixel from the left in FIG. 406 corresponding to the fourth portion of the shutter time / v from when the shutter has opened is F11 / v.
[3157]
The foreground component of the leftmost pixel in frame # n−1 in FIG. 406 for the third shutter time / v after the shutter opens is F10 / v, and the second pixel from the left in FIG. The foreground component of the fourth shutter time / v after the shutter is opened is also F10 / v. The foreground component of the leftmost pixel in frame # n−1 in FIG. 406 corresponding to the fourth shutter time / v from when the shutter has opened is F09 / v.
[3158]
Since the object corresponding to the background is stationary, the background component of the second pixel from the left of frame # n-1 in FIG. Become. The background component of the third pixel from the left of frame # n−1 in FIG. 406 corresponding to the first and second shutter time / v from when the shutter has opened is B02 / v. The background component of the fourth pixel from the left of frame # n−1 in FIG. 406 corresponding to the first through third shutter time / v from when the shutter has opened is B03 / v.
[3159]
In frame # n−1 in FIG. 406, the leftmost pixel belongs to the foreground area, and the second to fourth pixels from the left belong to the mixed area which is a covered background area.
[3160]
The fifth through twelfth pixels from the left of frame # n−1 in FIG. 406 belong to the background area, and the pixel values thereof are B04 through B11, respectively.
[3161]
The first through fifth pixels from the left in frame #n in FIG. 406 belong to the foreground area. The foreground component of the shutter time / v in the foreground area of frame #n is any one of F05 / v to F12 / v.
[3162]
It can be assumed that the object corresponding to the foreground is a rigid body and moves at a constant speed, and the foreground image moves so as to be displayed on the right side of four pixels in the next frame. Therefore, from the left of frame #n in FIG. 406 The foreground component of the fifth pixel at the first shutter time / v after the shutter opens is F12 / v, and the sixth pixel from the left in FIG. 406 opens the shutter at the second shutter time / v. The foreground component is also F12 / v. The foreground component of the seventh pixel from the left in FIG. 406 and the third shutter time / v from when the shutter has opened, and the fourth shutter time from the shutter of the eighth pixel from the left in FIG. 406 The foreground component of / v is F12 / v.
[3163]
The foreground component of the fifth pixel from the left of frame #n in FIG. 406 corresponding to the second shutter time / v from when the shutter has opened is F11 / v, and the sixth pixel from the left in FIG. The foreground component of the third shutter time / v after the shutter is opened is also F11 / v. The foreground component of the seventh pixel from the left in FIG. 406 corresponding to the fourth portion of the shutter time / v from when the shutter has opened is F11 / v.
[3164]
The foreground component of the fifth pixel from the left of frame #n in FIG. 406 corresponding to the third shutter time / v from when the shutter has opened is F10 / v, and the sixth pixel from the left in FIG. The foreground component of the fourth shutter time / v after the shutter is opened is also F10 / v. The foreground component of the fifth pixel from the left of frame #n in FIG. 406 corresponding to the fourth portion of the shutter time / v from when the shutter has opened is F09 / v.
[3165]
Since the object corresponding to the background is stationary, the background component of the sixth pixel from the left in frame #n in FIG. 406 corresponding to the first shutter time / v after the shutter is opened is B05 / v. The background component of the seventh pixel from the left of frame #n in FIG. 406 corresponding to the first and second shutter time / v from when the shutter has opened is B06 / v. The background component of the eighth pixel from the left of frame #n in FIG. 406 corresponding to the first through third shutter time / v from when the shutter has opened is B07 / v.
[3166]
In frame #n in FIG. 406, the sixth through eighth pixels from the left belong to the mixed area, which is a covered background area.
[3167]
The ninth through twelfth pixels from the left of frame #n in FIG. 406 belong to the background area, and the pixel values thereof are B08 through B11, respectively.
[3168]
The first through ninth pixels from the left in frame # n + 1 in FIG. 406 belong to the foreground area. The foreground component of the shutter time / v in the foreground area of frame # n + 1 is any one of F01 / v to F12 / v.
[3169]
It can be assumed that the object corresponding to the foreground is a rigid body and moves at a constant speed, and the foreground image moves so as to be displayed on the right side by four pixels in the next frame, so that the frame # n + 1 in FIG. The foreground component of the ninth pixel from the left when the shutter opens is the first shutter time / v is F12 / v, and the tenth pixel from the left in FIG. 406 is the second shutter time after the shutter is opened. The foreground component of / v is also F12 / v. The foreground component of the eleventh pixel from the left in FIG. 406 and the third shutter time / v from when the shutter opens, and the fourth shutter time from the shutter of the twelfth pixel from the left in FIG. 406 The foreground component of / v is F12 / v.
[3170]
The foreground component of the ninth pixel from the left of frame # n + 1 in FIG. 406 corresponding to the second shutter time / v from when the shutter has opened is F11 / v, which is the tenth from the left in FIG. The foreground component of the third shutter time / v after the shutter opens is also F11 / v. The foreground component of the eleventh pixel from the left in FIG. 406 corresponding to the fourth shutter time / v from when the shutter has opened is F11 / v.
[3171]
The foreground component of the ninth pixel from the left of frame # n + 1 in FIG. 406 corresponding to the third shutter time / v from when the shutter has opened is F10 / v, which is the tenth pixel from the left in FIG. The foreground component of the fourth shutter time / v after the shutter is opened is also F10 / v. The foreground component of the ninth pixel from the left of frame # n + 1 in FIG. 406 corresponding to the fourth portion of the shutter time / v from when the shutter has opened is F09 / v.
[3172]
Since the object corresponding to the background is stationary, the background component of the 10th pixel from the left of frame # n + 1 in FIG. 406 from the left of the first shutter time / v after the shutter opens is B09 / v Become. The background component of the eleventh pixel from the left of frame # n + 1 in FIG. 406 corresponding to the first and second shutter time / v from when the shutter has opened is B10 / v. The background component of the twelfth pixel from the left of frame # n + 1 in FIG. 406 corresponding to the first through third shutter time / v from when the shutter has opened is B11 / v.
[3173]
In frame # n + 1 in FIG. 406, the tenth through twelfth pixels from the left correspond to the mixed area, which is a covered background area.
[3174]
FIG. 407 is a model diagram of an image obtained by extracting foreground components from the pixel values shown in FIG. 406.
[3175]
FIG. 408 shows pixels arranged in a row adjacent to each other in three frames of an image obtained by capturing a foreground corresponding to an object moving to the right side in the figure together with a stationary background. It is the model figure which expand | deployed the pixel value of the pixel of the position of time direction. In FIG. 408, an uncovered background area is included.
[3176]
In FIG. 408, it can be assumed that the object corresponding to the foreground is a rigid body and is moving at a constant speed. Since the object corresponding to the foreground is moved so as to be displayed on the right side by four pixels in the next frame, the motion amount v is 4.
[3177]
For example, the foreground component of the leftmost pixel of frame # n−1 in FIG. 408 that is the first shutter time / v after the shutter opens is F13 / v, and is the second pixel from the left in FIG. The foreground component of the second shutter time / v after the shutter is opened is also F13 / v. The foreground component of the third pixel from the left in FIG. 408 for the third shutter time / v after the shutter opens, and the fourth shutter time for the fourth pixel from the left in FIG. The foreground component of / v is F13 / v.
[3178]
The foreground component of the second pixel from the left of frame # n−1 in FIG. 408 corresponding to the first shutter time / v from when the shutter has opened is F14 / v, and the third pixel from the left in FIG. The foreground component of the second shutter time / v after the shutter is opened is also F14 / v. The foreground component of the third pixel from the left in FIG. 408 corresponding to the first shutter time / v from when the shutter has opened is F15 / v.
[3179]
Since the object corresponding to the background is still, the background component of the leftmost pixel of frame # n-1 in FIG. / v. The background components of the second pixel from the left of frame # n−1 in FIG. 408 corresponding to the third and fourth shutter time / v from when the shutter has opened are B26 / v. The background component of the third pixel from the left of frame # n−1 in FIG. 408 corresponding to the fourth shutter time / v from when the shutter has opened is B27 / v.
[3180]
In frame # n−1 in FIG. 408, the leftmost pixel through the third pixel belong to the mixed area, which is an uncovered background area.
[3181]
The fourth through twelfth pixels from the left of frame # n−1 in FIG. 408 belong to the foreground area. The foreground component of the frame is any one of F13 / v to F24 / v.
[3182]
The leftmost pixel through the fourth pixel from the left in frame #n in FIG. 408 belong to the background area, and the pixel values thereof are B25 through B28, respectively.
[3183]
It can be assumed that the object corresponding to the foreground is a rigid body and moves at a constant speed, and the foreground image moves so as to be displayed on the right side by four pixels in the next frame. Therefore, from the left of frame #n in FIG. The foreground component of the fifth pixel from the first shutter time / v after the shutter opens is F13 / v, and the sixth pixel from the left in FIG. The foreground component is also F13 / v. The foreground component of the seventh pixel from the left in FIG. 408 for the third shutter time / v after the shutter opens, and the fourth shutter time for the eighth pixel from the left in FIG. The foreground component of / v is F13 / v.
[3184]
The foreground component of the sixth pixel from the left in frame #n in FIG. 408 corresponding to the first shutter time / v from when the shutter has opened is F14 / v, and the seventh pixel from the left in FIG. The foreground component of the second shutter time / v after opening is also F14 / v. The foreground component of the eighth pixel from the left in FIG. 408 corresponding to the first portion of the shutter time / v from when the shutter has opened is F15 / v.
[3185]
Since the object corresponding to the background is stationary, the background components of the fifth pixel from the left of frame #n in FIG. 408 corresponding to the second to fourth shutter time / v from when the shutter has opened are B29 / v. The background component of the sixth pixel from the left of frame #n in FIG. 408 corresponding to the third and fourth shutter time / v from when the shutter has opened is B30 / v. The background component of the seventh pixel from the left of frame #n in FIG. 408 corresponding to the fourth portion of the shutter time / v from when the shutter has opened is B31 / v.
[3186]
In frame #n in FIG. 408, the fifth through seventh pixels from the left belong to the mixed area, which is an uncovered background area.
[3187]
The eighth through twelfth pixels from the left of frame #n in FIG. 408 belong to the foreground area. The value corresponding to the period of the shutter time / v in the foreground area of frame #n is any one of F13 / v to F20 / v.
[3188]
The leftmost pixel through the eighth pixel from the left of frame # n + 1 in FIG. 408 belong to the background area, and the pixel values thereof are B25 through B32, respectively.
[3189]
It can be assumed that the object corresponding to the foreground is a rigid body and moves at a constant speed, and the foreground image moves so as to be displayed on the right side by four pixels in the next frame, so that the frame # n + 1 in FIG. The foreground component of the ninth pixel from the left when the shutter is opened and the first shutter time / v is F13 / v, and the tenth pixel from the left in FIG. 408 is the second when the shutter is opened. The foreground component of / v is also F13 / v. The foreground component of the eleventh pixel from the left in FIG. 408 and the third shutter time / v from when the shutter has opened, and the fourth shutter time from the shutter of the twelfth pixel from the left in FIG. The foreground component of / v is F13 / v.
[3190]
The foreground component of the tenth pixel from the left of frame # n + 1 in FIG. 408 corresponding to the first shutter time / v from when the shutter has opened is F14 / v, and the eleventh pixel from the left in FIG. The foreground component of the second shutter time / v after the shutter is opened is also F14 / v. The foreground component of the twelfth pixel from the left in FIG. 408 corresponding to the first shutter time / v from when the shutter has opened is F15 / v.
[3191]
Since the object corresponding to the background is stationary, the background components of the ninth pixel from the left of frame # n + 1 in FIG. , B33 / v. The background component of the tenth pixel from the left of frame # n + 1 in FIG. 408 corresponding to the third and fourth shutter time / v from when the shutter has opened is B34 / v. The background component of the eleventh pixel from the left of frame # n + 1 in FIG. 408 corresponding to the fourth portion of the shutter time / v from when the shutter has opened is B35 / v.
[3192]
In frame # n + 1 in FIG. 408, the ninth through eleventh pixels from the left belong to the mixed area, which is an uncovered background area.
[3193]
The twelfth pixel from the left of frame # n + 1 in FIG. 408 belongs to the foreground area. The foreground component of the shutter time / v in the foreground area of frame # n + 1 is any one of F13 / v to F16 / v.
[3194]
FIG. 409 is a model diagram of an image obtained by extracting foreground components from the pixel values shown in FIG. 408.
[3195]
The input image and motion blur have been described. In the above, the change in the component in the pixel has been described based on the number of virtual divisions. However, by making the number of virtual divisions infinite, each component is, for example, shown in FIG. Level w on the right₁Thru w_FiveIt becomes the structure similar to the strip | belt-shaped area | region shown by.
[3196]
In other words, setting the level as a discontinuous function for each region along the direction of continuity on the XT plane (same for the XY plane) It can be said that the area is set.
[3197]
For this reason, the mechanism in which the above-mentioned motion blur occurs can be estimated by estimating the real world using an approximate function including a discontinuous function for each region along the direction of continuity.
[3198]
Therefore, by using this characteristic, it is possible to substantially eliminate motion blur by generating pixels within one shutter time (one pixel or less in the frame direction).
[3199]
FIG. 410 shows the motion blur using the processing result when the motion blur is removed by the class classification adaptive processing and the real-world approximate function obtained by setting the discontinuous function for each region along the direction of continuity. It is a comparison of the processing results when removing the. In FIG. 410, the dotted line indicates the change in the pixel value of the input image (image with motion blur), and the solid line indicates the processing result when motion blur is removed by the class classification adaptive processing. This shows the processing result when the motion blur is removed using a real-world approximation function obtained by setting a discontinuous function for each region along the stationary direction. Yes. Further, the horizontal axis indicates the coordinates in the X direction of the input image, and the vertical axis indicates the pixel value.
[3200]
The processing result when motion blur is removed using a real-world approximation function composed of discontinuous functions for each region is X = 379,376 compared to the processing result when motion blur is removed by the class classification adaptive processing. It can be seen that the pixel value of the edge portion changes sharply around the vicinity, and motion blur is removed, resulting in a clear image contrast.
[3201]
Also, as shown in FIG. 411, an image when motion blur occurs when a toy airplane-like object moves in the horizontal direction, a discontinuous function is set for each region along the stationary direction. And processing results when motion blur is removed using an approximate function in the real world (an image from which motion blur generated using the real world estimation unit 102 in FIG. 369 and the image generation unit 103 in FIG. 384 is removed) and A comparison with the processing result obtained by removing motion blur by other methods is shown in FIGS. 412A to 4D.
[3202]
That is, FIG. 412A is an image itself (image before blur removal processing) in which the motion blur of the black frame portion in FIG. 411 is generated, and FIG. 412B is an image in which the motion blur of FIG. 4B is an image obtained by removing motion blur using a real-world approximation function including a discontinuous function to be set. FIG. 412C is an image captured with the subject of the input image stationary. FIG. It is the image of the processing result which removed motion blur by the method of.
[3203]
An image from which motion blur is removed using a real-world approximation function composed of discontinuous functions set for each region (an image in FIG. 412B) is an image of a processing result from which motion blur is removed by other methods (an image in FIG. 412D). Compared with (Image), the adjacent part of “C” and “A” in the figure is a clearer image, and the area where the characters are present is displayed more clearly. I understand. As a result, it can be seen that the details are clearly displayed by the process of removing the motion blur using the real-world approximation function including the discontinuous function set for each region.
[3204]
Further, as shown in FIG. 413, an image when motion blur occurs when a toy airplane-like object moves in the oblique direction (upwardly to the right) is displayed for each region along the direction of continuity. Processing result when motion blur is removed using a real-world approximation function by setting a discontinuous function (the motion blur generated using the real-world estimation unit 102 in FIG. 377 and the image generation unit 103 in FIG. 388 is A comparison between the (removed image) and the processing result obtained by removing motion blur by other methods is shown in FIGS. 414A to 414D.
[3205]
That is, FIG. 414A is an image before the blur removal process in which the motion blur of the black frame portion in FIG. 413 is generated, and FIG. 414B is an image in which the motion blur in FIG. 414A is set for each region. 414C is an image obtained by removing motion blur using a real-world approximation function that is a continuous function. FIG. 414C is an image that is captured with the subject of the input image stationary, and FIG. It is the image of the processing result which removed blur. It should be noted that the image is an image near the position marked with a thick line and a rectangular mark in FIG. 413.
[3206]
As described with reference to FIG. 412, an image obtained by removing motion blur using a real-world approximation function composed of discontinuous functions set for each region is the result of processing obtained by removing motion blur using other methods. Compared to the image, the adjacent part of “C” and “A” in the figure is a clearer image, and the region where the characters are present is displayed more clearly. Recognize. As a result, it can be seen that the details are clearly displayed by the process of removing the motion blur using the real-world approximation function including the discontinuous function set for each region.
[3207]
Further, when motion blur is removed using a real-world approximation function composed of discontinuous functions set for each region, the original image in the upper stage in the oblique direction in which motion blur occurs in the upward direction shown in FIG. 415A. Is input, an image as shown in FIG. 415B is output. That is, in the case of an image in which motion blur occurs in the vertical stripe in the center of the original image, the vertical stripe portion is obtained by removing the motion blur using a real-world approximation function composed of discontinuous functions set for each region. A clear image is obtained.
[3208]
That is, as shown in FIGS. 412A to 4D and FIGS. 415A and 415B, the real world estimation unit in FIG. 377 and the image generation unit 103 in FIG. 388 have a three-dimensional bar shape as shown in FIG. For each region, an approximation function that estimates the real world as a discontinuous function is set for each region. Therefore, not only the horizontal and vertical directions but also the motion blur caused by the motion in the diagonal direction that is a combination of these motions. Can also be removed.
[3209]
According to the above, the real-world optical signal is projected onto a plurality of pixels each having a spatiotemporal integration effect, and the continuity of the image data in which a part of the continuity of the real-world optical signal is missing is detected. Corresponding to the continuity of the image data detected by the continuity detection means, the pixel value of each pixel corresponding to the position of at least one dimensional direction in the spatiotemporal direction of the image data is acquired by at least one dimensional integration. By approximating the image data with a discontinuous function as a pixel value, the function corresponding to the optical signal in the real world is estimated, so the generation of high-density pixels used in the enlarged image and the creation of a new frame In any case, a clearer image can be generated.
[3210]
The sensor 2 may be a solid-state imaging device, for example, a sensor such as a BBD (Bucket Brigade Device), a CID (Charge Injection Device), or a CPD (Charge Priming Device).
[3211]
As shown in FIG. 2, the recording medium on which the program for signal processing according to the present invention is recorded is distributed to provide the program to the user separately from the computer. A flexible disk), an optical disk 52 (including a CD-ROM (Compaut Disk-Read Only Memory), a DVD (Digital Versatile Disk)), a magneto-optical disk 53 (including an MD (Mini-Disk) (trademark)), or In addition to a package medium composed of a semiconductor memory 54 and the like, it is also composed of a ROM 22 on which a program is recorded, a hard disk included in the storage unit 28, etc. provided to the user in a state of being preinstalled in a computer. The
[3212]
The program for executing the series of processes described above is installed in a computer via a wired or wireless communication medium such as a local area network, the Internet, or digital satellite broadcasting via an interface such as a router or a modem as necessary. You may be made to do.
[3213]
In the present specification, the step of describing the program recorded on the recording medium is not limited to the processing performed in chronological order according to the described order, but is not necessarily performed in chronological order. It also includes processes that are executed individually.
[3214]
【The invention's effect】
As described above, according to the present invention, an accurate and highly accurate processing result can be obtained.
[3215]
Further, according to the present invention, it is possible to obtain a more accurate and more accurate processing result for a real world event.
[Brief description of the drawings]
FIG. 1 is a diagram illustrating the principle of the present invention.
2 is a block diagram showing an example of the configuration of a signal processing device 4. FIG.
FIG. 3 is a block diagram showing a signal processing device 4;
FIG. 4 is a diagram for explaining the principle of processing of a conventional signal processing device 121;
FIG. 5 is a diagram for explaining the principle of processing of the signal processing device 4;
FIG. 6 is a diagram for more specifically explaining the principle of the present invention.
FIG. 7 is a diagram for more specifically explaining the principle of the present invention.
FIG. 8 is a diagram illustrating an example of pixel arrangement on an image sensor.
FIG. 9 is a diagram illustrating the operation of a detection element that is a CCD.
10 is a diagram illustrating a relationship between light incident on detection elements corresponding to pixels D to F and pixel values. FIG.
FIG. 11 is a diagram for explaining the relationship between the passage of time, light incident on a detection element corresponding to one pixel, and a pixel value.
FIG. 12 is a diagram illustrating an example of an image of a linear object in the real world 1;
FIG. 13 is a diagram illustrating an example of pixel values of image data obtained by actual imaging.
FIG. 14 is a schematic diagram of image data.
FIG. 15 is a diagram illustrating an example of an image of the real world 1 of an object having a single color and a straight edge, which is a color different from the background.
FIG. 16 is a diagram illustrating an example of pixel values of image data obtained by actual imaging.
FIG. 17 is a schematic diagram of image data.
FIG. 18 is a diagram illustrating the principle of the present invention.
FIG. 19 is a diagram illustrating the principle of the present invention.
20 is a diagram illustrating an example of generation of high resolution data 181. FIG.
FIG. 21 is a diagram for explaining approximation by a model 161;
FIG. 22 is a diagram for describing estimation of a model 161 based on M pieces of data 162;
FIG. 23 is a diagram for explaining a relationship between a signal of the real world 1 and data 3;
FIG. 24 is a diagram illustrating an example of data 3 to be noted when formulating.
FIG. 25 is a diagram illustrating signals for two objects in the real world 1 and values belonging to a mixed area when formulas are established.
FIG. 26 is a diagram for explaining continuity represented by Expression (18), Expression (19), and Expression (22).
FIG. 27 is a diagram illustrating an example of M pieces of data 162 extracted from data 3;
FIG. 28 is a diagram illustrating an area where a pixel value that is data 3 is acquired;
FIG. 29 is a diagram illustrating an approximation of a position of a pixel in a space-time direction.
30 is a diagram for explaining integration of signals in the real world 1 in the time direction and the two-dimensional spatial direction in data 3. FIG.
FIG. 31 is a diagram illustrating an integration region when generating high-resolution data 181 having a higher resolution in the spatial direction.
FIG. 32 is a diagram illustrating an integration region when generating high-resolution data 181 having higher resolution in the time direction.
FIG. 33 is a diagram illustrating an integration region when generating high-resolution data 181 from which motion blur is removed.
FIG. 34 is a diagram for explaining an integration region when generating high-resolution data 181 having a higher resolution in the time-space direction.
FIG. 35 is a diagram illustrating an original image of an input image.
FIG. 36 is a diagram illustrating an example of an input image.
FIG. 37 is a diagram showing an image obtained by applying a conventional class classification adaptation process.
FIG. 38 is a diagram illustrating a result of detecting a thin line region;
FIG. 39 is a diagram illustrating an example of an output image output from the signal processing device 4;
40 is a flowchart for explaining signal processing by the signal processing device 4. FIG.
41 is a block diagram showing a configuration of a data continuity detecting unit 101. FIG.
FIG. 42 is a diagram showing an image of the real world 1 with a thin line in front of the background.
FIG. 43 is a diagram for explaining approximation of a background by a plane.
FIG. 44 is a diagram illustrating a cross-sectional shape of image data obtained by projecting a thin line image.
FIG. 45 is a diagram illustrating a cross-sectional shape of image data obtained by projecting a thin line image.
FIG. 46 is a diagram illustrating a cross-sectional shape of image data obtained by projecting a thin line image.
FIG. 47 is a diagram illustrating processing for detecting a vertex and detecting a monotonous increase / decrease area.
FIG. 48 is a diagram for describing processing for detecting a thin line region in which a pixel value of a vertex exceeds a threshold value and a pixel value of an adjacent pixel is equal to or less than the threshold value.
49 is a diagram illustrating pixel values of pixels arranged in a direction indicated by a dotted line AA ′ in FIG. 48. FIG.
FIG. 50 is a diagram illustrating processing for detecting continuity of a monotonous increase / decrease area.
FIG. 51 is a diagram illustrating an example of an image in which a stationary component is extracted by approximation on a plane.
FIG. 52 is a diagram illustrating a result of detecting a monotonically decreasing region.
FIG. 53 is a diagram showing a region where continuity is detected.
FIG. 54 is a diagram illustrating pixel values in a region where continuity is detected.
FIG. 55 is a diagram illustrating an example of another process of detecting an area where a thin line image is projected.
FIG. 56 is a flowchart for describing continuity detection processing;
FIG. 57 is a diagram illustrating processing for detecting continuity of data in a time direction.
58 is a block diagram showing a configuration of an unsteady component extraction unit 201. FIG.
FIG. 59 is a diagram illustrating the number of times of rejection.
FIG. 60 is a diagram illustrating an example of an input image.
FIG. 61 is a diagram illustrating an image in which a standard error obtained as a result of approximation on a plane without rejection is used as a pixel value.
FIG. 62 is a diagram showing an image in which standard errors obtained as a result of rejection and approximation on a plane are used as pixel values.
FIG. 63 is a diagram illustrating an image in which the number of rejects is a pixel value.
FIG. 64 is a diagram illustrating an image in which the inclination in the spatial direction X of the plane is a pixel value.
FIG. 65 is a diagram illustrating an image in which the inclination in the spatial direction Y of the plane is a pixel value.
FIG. 66 is a diagram illustrating an image including approximate values indicated by a plane.
FIG. 67 is a diagram illustrating an image including a difference between an approximate value and a pixel value indicated by a plane.
FIG. 68 is a flowchart for explaining unsteady component extraction processing;
FIG. 69 is a flowchart for describing stationary component extraction processing;
[Fig. 70] Fig. 70 is a flowchart for describing other processing for extracting stationary components.
FIG. 71 is a flowchart illustrating still another process for extracting a stationary component.
72 is a block diagram showing another configuration of the data continuity detecting unit 101. FIG.
Fig. 73 is a diagram for describing an activity in an input image having data continuity.
[Fig. 74] Fig. 74 is a diagram for describing a block for detecting an activity.
FIG. 75 is a diagram for explaining an angle of data continuity with respect to an activity;
76 is a block diagram showing a more detailed configuration of a data continuity detecting unit 101. FIG.
FIG. 77 is a diagram illustrating a set of pixels.
FIG. 78 is a diagram for explaining the relationship between the position of a set of pixels and the angle of continuity of data.
FIG. 79 is a flowchart for describing data continuity detection processing;
FIG. 80 is a diagram illustrating a set of pixels that are extracted when the angle of continuity of data in the time direction and the spatial direction is detected.
81 is a block diagram showing another more detailed configuration of the data continuity detecting unit 101. FIG.
FIG. 82 is a diagram for explaining a set of pixels composed of a number of pixels corresponding to a set straight angle range.
FIG. 83 is a diagram for explaining a set range of straight line angles;
[Fig. 84] Fig. 84 is a diagram illustrating a set range of straight line angles, the number of pixel groups, and the number of pixels for each pixel group.
FIG. 85 is a diagram for explaining the number of pixel groups and the number of pixels for each pixel group;
FIG. 86 is a diagram for explaining the number of pixel groups and the number of pixels for each pixel group;
FIG. 87 is a diagram illustrating the number of pixel sets and the number of pixels for each pixel set.
FIG. 88 is a diagram illustrating the number of pixel sets and the number of pixels for each pixel set.
FIG. 89 is a diagram illustrating the number of pixel sets and the number of pixels for each pixel set.
FIG. 90 is a diagram for explaining the number of pixel groups and the number of pixels for each pixel group;
FIG. 91 is a diagram illustrating the number of pixel groups and the number of pixels for each pixel group.
FIG. 92 is a diagram illustrating the number of pixel sets and the number of pixels for each pixel set.
FIG. 93 is a flowchart for describing data continuity detection processing;
94 is a block diagram showing still another configuration of the data continuity detecting unit 101. FIG.
95 is a block diagram showing a more detailed configuration of a data continuity detecting unit 101. FIG.
Fig. 96 is a diagram for describing an example of a block;
FIG. 97 is a diagram illustrating processing for calculating an absolute value of a difference in pixel values between a target block and a reference block.
FIG. 98 is a diagram illustrating the distance in the spatial direction X between the position of a pixel around the target pixel and a straight line having an angle θ.
FIG. 99 is a diagram showing a relationship between a shift amount γ and an angle θ.
FIG. 100 is a diagram illustrating a distance in a spatial direction X between a position of a pixel around the target pixel and a straight line passing through the target pixel and having an angle θ with respect to the shift amount γ.
FIG. 101 is a diagram illustrating a reference block that passes through a target pixel and has a minimum distance from a straight line having an angle θ with respect to an axis in the spatial direction X;
Fig. 102 is a diagram for describing processing for reducing a range of continuity angles of detected data to ½.
FIG. 103 is a flowchart for describing data continuity detection processing;
Fig. 104 is a diagram illustrating blocks that are extracted when an angle of continuity of data in the inter-direction and the spatial direction is detected.
Fig. 105 is a block diagram illustrating a configuration of a data continuity detecting unit 101 that executes data continuity detection processing based on a component signal of an input image.
Fig. 106 is a block diagram illustrating a configuration of a data continuity detecting unit 101 that executes data continuity detection processing based on a component signal of an input image.
107 is a block diagram showing still another configuration of the data continuity detecting unit 101. FIG.
FIG. 108 is a diagram for explaining an angle of continuity of data with reference to a reference axis in an input image.
FIG. 109 is a diagram for explaining an angle of continuity of data with reference to a reference axis in an input image.
Fig. 110 is a diagram for explaining an angle of continuity of data with reference to a reference axis in an input image.
FIG. 111 is a diagram illustrating a relationship between a change in pixel value and a regression line with respect to a position in the spatial direction of a pixel in an input image.
FIG. 112 is a diagram illustrating an angle between a regression line A and, for example, an axis indicating a spatial direction X that is a reference axis.
FIG. 113 is a diagram illustrating an example of a region.
FIG. 114 is a flowchart for explaining data continuity detection processing by the data continuity detecting unit 101 whose configuration is shown in FIG. 107;
115 is a block diagram showing still another configuration of the data continuity detecting unit 101. FIG.
Fig. 116 is a diagram illustrating a relationship between a change in pixel value and a regression line with respect to a position in the spatial direction of a pixel in an input image.
FIG. 117 is a diagram illustrating a relationship between a standard deviation and a region having data continuity.
FIG. 118 is a diagram illustrating an example of a region.
FIG. 119 is a flowchart for describing data continuity detection processing by the data continuity detection unit 101 whose configuration is shown in FIG. 115;
FIG. 120 is a flowchart for describing another process of detecting data continuity by the data continuity detecting unit 101 whose configuration is shown in FIG. 115.
FIG. 121 is a block diagram illustrating a configuration of a data continuity detecting unit that detects an angle of a thin line or a binary edge to which the present invention is applied as data continuity information.
Fig. 122 is a diagram for explaining a method of detecting data continuity information.
FIG. 123 is a diagram illustrating a method for detecting data continuity information.
124 is a diagram showing a more detailed configuration of a data continuity detecting unit in FIG. 121. FIG.
FIG. 125 is a diagram for explaining horizontal / vertical determination processing;
FIG. 126 is a diagram for explaining horizontal / vertical determination processing;
FIG. 127 is a diagram for explaining the relationship between a thin line in the real world and a thin line imaged by a sensor.
FIG. 128 is a diagram for explaining a relationship between a thin line of an image in the real world and a background.
FIG. 129 is a diagram illustrating a relationship between a thin line of an image captured by a sensor and a background.
FIG. 130 is a diagram illustrating an example of a relationship between a thin line of an image captured by a sensor and a background.
FIG. 131 is a diagram for explaining a relationship between a thin line of an image in the real world and a background.
FIG. 132 is a diagram for explaining a relationship between a thin line of an image captured by a sensor and a background.
133 is a diagram illustrating an example of a relationship between a thin line of an image captured by a sensor and a background. FIG.
FIG. 134 is a diagram showing a model for obtaining an angle of a thin line.
FIG. 135 is a diagram showing a model for obtaining an angle of a thin line.
136 is a diagram for explaining the maximum value and the minimum value of the pixel value of the dynamic range block corresponding to the target pixel; FIG.
FIG. 137 is a diagram for explaining how to obtain the angle of a thin line;
FIG. 138 is a diagram for explaining how to obtain the angle of a thin line;
FIG. 139 is a diagram for explaining an extraction block and a dynamic range block;
Fig. 140 is a diagram for explaining a method of solving a method of least squares.
FIG. 141 is a diagram illustrating a method of solving a method of least squares.
FIG. 142 is a diagram illustrating a binary edge.
FIG. 143 is a diagram illustrating binary edges of an image captured by a sensor.
FIG. 144 is a diagram illustrating an example of a binary edge of an image captured by a sensor.
FIG. 145 is a diagram illustrating binary edges of an image captured by a sensor.
FIG. 146 is a diagram showing a model for obtaining an angle of a binary edge.
FIG. 147 is a diagram illustrating a method for obtaining the angle of a binary edge.
FIG. 148 is a diagram for explaining a method for obtaining the angle of a binary edge;
FIG. 149 is a flowchart for describing processing for detecting an angle of a thin line or a binary edge as data continuity.
FIG. 150 is a flowchart illustrating data extraction processing.
FIG. 151 is a flowchart for explaining addition processing to a normal equation;
FIG. 152 is a diagram comparing the inclination of the fine line obtained by applying the present invention and the angle of the fine line obtained using the correlation.
FIG. 153 is a diagram comparing the slope of a binary edge obtained by applying the present invention and the angle of a thin line obtained using correlation.
FIG. 154 is a block diagram illustrating a configuration of a data continuity detecting unit that detects a mixture ratio to which the present invention is applied as data continuity information;
FIG. 155 is a diagram for explaining how to obtain the mixture ratio;
FIG. 156 is a flowchart for describing processing for detecting a mixture ratio as data continuity.
FIG. 157 is a flowchart for describing addition processing to a normal equation;
FIG. 158 is a diagram illustrating a distribution example of a mixture ratio of thin lines.
FIG. 159 is a diagram illustrating a distribution example of a mixture ratio of binary edges.
FIG. 160 is a diagram for explaining linear approximation of the mixing ratio.
FIG. 161 is a diagram for explaining a method for obtaining an object motion as data continuity information;
FIG. 162 is a diagram for explaining a method for obtaining an object motion as data continuity information;
FIG. 163 is a diagram illustrating a method for obtaining a mixture ratio based on the movement of an object as data continuity information;
FIG. 164 is a diagram for explaining a linear approximation of the mixture ratio when obtaining the mixture ratio based on the movement of the object as data continuity information;
FIG. 165 is a block diagram illustrating a configuration of a data continuity detecting unit that detects a processing region to which the present invention is applied as data continuity information.
166 is a flowchart for describing continuity detection processing by the data continuity detection unit of FIG. 165. FIG.
167 is a diagram for explaining an integration range of a process for detecting continuity by the data continuity detecting unit in FIG. 165; FIG.
168 is a diagram for explaining an integration range of processing for detecting continuity by the data continuity detecting unit in FIG. 165; FIG.
FIG. 169 is a block diagram illustrating another configuration of a data continuity detecting unit that detects a processing region to which the present invention is applied as data continuity information;
FIG. 170 is a flowchart for describing continuity detection processing by the data continuity detection unit of FIG. 169;
171 is a diagram for explaining an integration range of processing for detecting continuity by the data continuity detecting unit in FIG. 169; FIG.
172 is a diagram for explaining an integration range of a process for detecting continuity by the data continuity detecting unit in FIG. 169;
FIG. 173 is a block diagram illustrating a configuration of another embodiment of a data continuity detecting unit;
174 is a block diagram illustrating an example of a configuration of a simple angle detection unit of the data continuity detection unit of FIG. 173;
175 is a block diagram illustrating an example of a configuration of a regression equation angle detection unit of the data continuity detection unit of FIG. 173;
176 is a block diagram illustrating an example of a configuration of a gradient angle detection unit of the data continuity detection unit of FIG. 173. FIG.
177 is a flowchart for describing data continuity detection processing by the data continuity detecting unit in FIG. 173;
FIG. 178 is a diagram illustrating an angle detection method corresponding to the angle detected by the simple angle detection unit.
179 is a flowchart for describing a regression angle detection process that is the process of step S904 in the flowchart of FIG. 177. FIG.
FIG. 180 is a diagram illustrating pixels that are within a scope range for performing frequency conversion processing;
FIG. 181 is a diagram illustrating pixels that are within a scope range for performing frequency conversion processing;
FIG. 182 is a diagram illustrating pixels that are in a scope range for performing frequency conversion processing;
FIG. 183 is a diagram illustrating pixels that are in a scope range for performing frequency conversion processing;
FIG. 184 is a diagram illustrating pixels that are within a scope range for performing frequency conversion processing;
185 is a block diagram illustrating a configuration of another embodiment of a data continuity detecting unit. FIG.
FIG. 186 is a flowchart for describing data continuity detection processing by the data continuity detecting unit in FIG. 185;
187 is a block diagram showing a configuration of a real world estimation unit 102. FIG.
188 is a diagram for describing processing for detecting the width of a thin line in a real world 1 signal. FIG.
189 is a diagram for describing processing for detecting the width of a thin line in a signal of the real world 1; FIG.
[Fig. 190] Fig. 190 is a diagram for describing processing for estimating the level of a thin line signal in a real world 1 signal.
FIG. 191 is a flowchart for describing real-world estimation processing;
192 is a block diagram illustrating another configuration of the real world estimation unit 102. FIG.
193 is a block diagram illustrating a configuration of a boundary detection unit 2121. FIG.
FIG. 194 is a diagram for describing distribution ratio calculation processing;
FIG. 195 is a diagram for describing distribution ratio calculation processing;
196 is a diagram for describing distribution ratio calculation processing; FIG.
FIG. 197 is a diagram illustrating a process of calculating a regression line indicating a boundary between monotonous increase / decrease areas.
FIG. 198 is a diagram for describing a process of calculating a regression line indicating a boundary between monotonous increase / decrease areas.
FIG. 199 is a flowchart for describing real-world estimation processing;
FIG. 200 is a flowchart for describing boundary detection processing;
Fig. 201 is a block diagram illustrating a configuration of a real world estimation unit that estimates a differential value in a spatial direction as real world estimation information.
202 is a flowchart for describing real world estimation processing by the real world estimation unit in FIG. 201;
FIG. 203 is a diagram illustrating a reference pixel.
FIG. 204 is a diagram for explaining a position for obtaining a differential value in the spatial direction.
FIG. 205 is a diagram for explaining the relationship between the differential value in the spatial direction and the shift amount.
FIG. 206 is a block diagram illustrating a configuration of a real world estimation unit that estimates the inclination in the spatial direction as real world estimation information.
207 is a flowchart for describing real world estimation processing by the real world estimation unit in FIG. 206;
Fig. 208 is a diagram for describing processing for obtaining a gradient in a spatial direction.
FIG. 209 is a diagram for describing processing for obtaining a gradient in a spatial direction.
Fig. 210 is a block diagram illustrating a configuration of a real world estimation unit that estimates a differential value in a frame direction as real world estimation information.
FIG. 211 is a flowchart for describing real world estimation processing by the real world estimation unit in FIG. 210;
FIG. 212 is a diagram illustrating a reference pixel.
FIG. 213 is a diagram illustrating a position where a differential value in the frame direction is obtained.
FIG. 214 is a diagram illustrating the relationship between the differential value in the frame direction and the shift amount.
FIG. 215 is a block diagram illustrating a configuration of a real world estimation unit that estimates the inclination in the frame direction as real world estimation information.
216 is a flowchart for describing real world estimation processing by the real world estimation unit in FIG. 215;
FIG. 217 is a diagram for describing processing for obtaining an inclination in a frame direction.
FIG. 218 is a diagram for describing processing for obtaining an inclination in a frame direction.
219 is a diagram for explaining the principle of a function approximation method, which is an example of an embodiment of the real world estimation unit in FIG. 3; FIG.
FIG. 220 is a diagram illustrating an integration effect when the sensor is a CCD.
221 is a diagram illustrating a specific example of the integration effect of the sensor in FIG. 220. FIG.
FIG. 222 is a diagram illustrating another specific example of the integration effect of the sensor in FIG. 220.
FIG. 223 is a diagram showing the real world region containing fine lines shown in FIG.
224 is a diagram for explaining the principle of an example of the embodiment of the real world estimation unit in FIG. 3 in comparison with the example in FIG. 219;
225 is a diagram showing a data area containing fine lines shown in FIG. 221. FIG.
226 is a graph showing each pixel value included in the thin line containing data region of FIG. 225. FIG.
227 is a graph showing an approximate function approximating each pixel value included in the thin line containing data region of FIG. 226. FIG.
228 is a diagram for describing the spatial continuity of the thin line-containing real world region shown in FIG. 221. FIG.
229 is a graph obtained by graphing each pixel value included in the thin line-containing data region in FIG. 225. FIG.
230 is a diagram illustrating a state where each of the input pixel values shown in FIG. 229 is shifted by a predetermined shift amount. FIG.
231 is a graph showing an approximation function approximating each pixel value included in the thin line-containing data region in FIG. 226 in consideration of the continuity in the spatial direction.
FIG. 232 is a diagram illustrating a spatial mixing region.
FIG. 233 is a diagram illustrating an approximation function approximating a real-world signal in a spatial mixing region.
234 is a graph showing an approximate function approximating a real-world signal corresponding to the thin line-containing data region in FIG. 226 in consideration of both the integration characteristics of the sensor and the continuity in the spatial direction.
235 is a block diagram illustrating a configuration example of a real world estimation unit using a first-order polynomial approximation method among the function approximation methods having the principle shown in FIG. 219. FIG.
236 is a flowchart for describing real world estimation processing executed by a real world estimation unit having the configuration shown in FIG. 235. FIG.
FIG. 237 is a diagram illustrating a tap range.
FIG. 238 is a diagram illustrating real-world signals having spatial continuity.
239 is a diagram for explaining the integration effect when the sensor is a CCD; FIG.
FIG. 240 is a diagram illustrating a cross-sectional direction distance.
241 is a block diagram illustrating a configuration example of a real world estimation unit using a second-order polynomial approximation method among the function approximation methods having the principle shown in FIG. 219. FIG.
242 is a flowchart for describing real-world estimation processing executed by the real-world estimation unit configured as shown in FIG.
FIG. 243 is a diagram for explaining a tap range;
FIG. 244 is a diagram for explaining the direction of continuity in the spatiotemporal direction.
245 is a diagram for explaining the integration effect when the sensor is a CCD. FIG.
FIG. 246 is a diagram for explaining a real-world signal having spatial continuity.
FIG. 247 is a diagram for explaining real-world signals having spatiotemporal continuity.
248 is a block diagram illustrating a configuration example of a real world estimation unit that uses a three-dimensional function approximation method among the function approximation methods having the principle shown in FIG. 219. FIG.
249 is a flowchart for describing real-world estimation processing executed by the real-world estimation unit configured as shown in FIG. 248.
250 is a diagram illustrating an example of an input image input to the real world estimation unit in FIG. 3;
251 is a diagram showing the difference between the level of the real world optical signal at the center of the pixel of interest in FIG. 250 and the level of the real world optical signal at the cross-section direction distance x ′.
FIG. 252 is a diagram illustrating a cross-sectional direction distance x ′.
FIG. 253 is a diagram for explaining a cross-sectional direction distance x ′;
FIG. 254 is a diagram illustrating a cross-sectional direction distance of each pixel in the block.
FIG. 255 is a diagram illustrating a result of processing without considering weights in a normal equation;
FIG. 256 is a diagram illustrating a result of processing in consideration of weights in a normal equation.
FIG. 257 is a diagram illustrating a result of processing in the normal equation without considering the weight.
258 is a diagram illustrating a result of processing in consideration of weight in a normal equation. FIG.
259 is a diagram for describing the principle of a reintegration method, which is an example of an embodiment of an image generation unit in FIG. 3. FIG.
FIG. 260 is a diagram for describing an example of an input function and an approximation function that approximates a real-world signal corresponding to the input pixel.
261 is a diagram for describing an example of creating four high-resolution pixels in one input pixel shown in FIG. 260 from the approximate function shown in FIG. 260. FIG.
262 is a block diagram illustrating a configuration example of an image generation unit using a one-dimensional reintegration method among the reintegration methods having the principle illustrated in FIG. 259. FIG.
263 is a flowchart for describing image generation processing executed by the image generation unit configured as shown in FIG. 262. FIG.
264 is a diagram illustrating an example of an original image of an input image. FIG.
265 is a diagram illustrating an example of image data corresponding to the image in FIG. 264. FIG.
266 is a diagram illustrating an example of an input image. FIG.
267 is a diagram illustrating an example of image data corresponding to the image in FIG. 266. FIG.
268 is a diagram illustrating an example of an image obtained by performing conventional class classification adaptation processing on an input image. FIG.
269 is a diagram illustrating an example of image data corresponding to the image in FIG. 268. FIG.
270 is a diagram illustrating an example of an image obtained by performing processing of the one-dimensional reintegration method of the present invention on an input image. FIG.
271 is a diagram illustrating an example of image data corresponding to the image in FIG. 270. FIG.
FIG. 272 is a diagram for explaining a real-world signal having spatial continuity.
273 is a block diagram illustrating a configuration example of an image generation unit using a two-dimensional reintegration method among the reintegration methods having the principle illustrated in FIG. 259. FIG.
274 is a diagram for explaining a cross-sectional direction distance; FIG.
275 is a flowchart for describing image generation processing executed by the image generation unit configured as shown in FIG. 273;
276 is a diagram for describing an example of input pixels. FIG.
277 is a diagram for describing an example of creating four high-resolution pixels in one input pixel shown in FIG. 276 by the two-dimensional reintegration method.
FIG. 278 is a diagram illustrating the direction of continuity in the spatiotemporal direction.
279 is a block diagram illustrating a configuration example of an image generation unit that uses a three-dimensional reintegration method among the reintegration methods having the principle illustrated in FIG. 259. FIG.
280 is a flowchart for describing image generation processing executed by the image generation unit configured as shown in FIG. 279;
FIG. 281 is a block diagram illustrating another configuration of an image generation unit to which the present invention has been applied.
282 is a flowchart for describing image generation processing by the image generation unit in FIG. 281. FIG.
FIG. 283 is a diagram for describing processing for generating a four-fold density pixel from an input pixel.
284 is a diagram illustrating a relationship between an approximate function indicating a pixel value and a shift amount. FIG.
FIG. 285 is a block diagram illustrating another configuration of the image generation unit to which the present invention has been applied.
286 is a flowchart for describing image generation processing by the image generation unit in FIG. 285. FIG.
FIG. 287 is a diagram for describing processing for generating a four-fold density pixel from an input pixel.
288 is a diagram illustrating a relationship between an approximate function indicating a pixel value and a shift amount. FIG.
289 is a block diagram illustrating a configuration example of an image generation unit that uses the one-dimensional reintegration method of the class classification adaptive processing correction method, which is an example of the embodiment of the image generation unit in FIG.
290 is a block diagram illustrating a configuration example of a class classification adaptation processing unit of the image generation unit in FIG. 289. FIG.
FIG. 291 is a block diagram illustrating a configuration example of a learning device that determines, by learning, coefficients used by the class classification adaptive processing unit and the class classification adaptive processing correction unit in FIG. 289;
292 is a block diagram illustrating a detailed configuration example of a learning unit for class classification adaptation processing in FIG. 291. FIG.
293 is a diagram illustrating an example of processing results of the class classification adaptation processing unit in FIG. 290. FIG.
294 is a diagram illustrating a difference image between the predicted image and the HD image in FIG. 293. FIG.
295 is a specific pixel of the HD image in FIG. 293 corresponding to four HD pixels from the left in the drawing among the six HD pixels continuous in the X direction included in the region shown in FIG. 294; It is a figure which shows what plotted each of a value, the concrete pixel value of SD image, and an actual waveform (real world signal).
296 is a diagram showing a difference image between the predicted image and the HD image of FIG. 293; FIG.
297 is a specific pixel of the HD image in FIG. 293 corresponding to four HD pixels from the left in the drawing among the six HD pixels continuous in the X direction included in the region shown in FIG. 296; It is a figure which shows what plotted each of a value, the concrete pixel value of SD image, and an actual waveform (real world signal).
298 is a diagram for explaining knowledge obtained based on the contents shown in FIGS. 295 to 297; FIG.
299 is a block diagram illustrating a configuration example of a class classification adaptive processing correction unit in the image generation unit in FIG. 289. FIG.
300 is a block diagram illustrating a detailed configuration example of a class classification adaptive processing correction learning unit in FIG. 291. FIG.
FIG. 301 is a diagram for explaining in-pixel inclination;
302 is a diagram illustrating the SD image in FIG. 293 and a feature amount image in which the in-pixel inclination of each pixel of the SD image is a pixel value. FIG.
FIG. 303 is a diagram for explaining a method of calculating an in-pixel inclination.
FIG. 304 is a diagram illustrating a method for calculating an in-pixel inclination.
305 is a flowchart for describing image generation processing executed by the image generation unit configured as shown in FIG. 289;
306 is a flowchart for describing details of an input image class classification adaptive process of the image generation process of FIG. 305;
307 is a flowchart for describing details of the correction processing of the class classification adaptive processing of the image generation processing of FIG. 305.
Fig. 308 is a diagram for describing an example of arrangement of class taps.
FIG. 309 is a diagram illustrating an example of class classification.
[Fig. 310] Fig. 310 is a diagram for describing a prediction tap arrangement example.
311 is a flowchart for describing learning processing of the learning device in FIG. 291;
FIG. 312 is a flowchart illustrating details of learning processing for class classification adaptation processing in the learning processing of FIG. 311;
313 is a flowchart for describing details of learning processing for class classification adaptive processing correction in the learning processing of FIG. 311;
314 is a diagram illustrating a predicted image in FIG. 293 and an image obtained by adding a corrected image to the predicted image (an image generated by the image generation unit in FIG. 289).
315 is a block diagram illustrating a first configuration example of a signal processing apparatus that uses the combined method, which is another example of the embodiment of the signal processing apparatus in FIG. 1; FIG.
316 is a block diagram illustrating a configuration example of an image generation unit that performs class classification adaptation processing of the signal processing device in FIG. 315;
317 is a block diagram illustrating a configuration example of a learning device for the image generation unit in FIG. 316. FIG.
318 is a flowchart for describing signal processing executed by the signal processing apparatus having the configuration shown in FIG. 315;
319 is a flowchart for describing details of execution processing of class classification adaptation processing of the signal processing of FIG. 318;
Fig. 320 is a flowchart for describing learning processing of the learning device in Fig. 317;
FIG. 321 is a block diagram illustrating a second configuration example of the signal processing apparatus using the combined method, which is another example of the embodiment of the signal processing apparatus in FIG. 1;
FIG. 322 is a flowchart for describing signal processing executed by the signal processing apparatus having the structure of FIG. 319;
323 is a block diagram illustrating a third configuration example of the signal processing apparatus using the combined method, which is another example of the embodiment of the signal processing apparatus in FIG. 1. FIG.
FIG. 324 is a flowchart for describing signal processing executed by the signal processing apparatus having the configuration of FIG. 321;
325 is a block diagram illustrating a fourth configuration example of the signal processing apparatus using the combined method, which is another example of the embodiment of the signal processing apparatus in FIG. 1. FIG.
326 is a flowchart for describing signal processing executed by the signal processing device having the configuration of FIG. 323;
327 is a block diagram illustrating a fifth configuration example of the signal processing apparatus that uses the combined technique, which is another example of the embodiment of the signal processing apparatus in FIG. 1; FIG.
328 is a flowchart for describing signal processing executed by the signal processing apparatus having the configuration of FIG. 325;
329 is a block diagram illustrating a configuration of another embodiment of a data continuity detecting unit. FIG.
FIG. 330 is a flowchart for describing data continuity detection processing by the data continuity detecting unit in FIG. 329;
FIG. 331 is a diagram for describing a configuration of an optical block.
FIG. 332 is a diagram for describing a configuration of an optical block;
FIG. 333 is a diagram for describing a configuration of OLPF.
Fig. 334 is a diagram for explaining functions of OLPF;
Fig. 335 is a diagram for explaining the function of OLPF;
FIG. 336 is a block diagram showing the configuration of another signal processing apparatus of the present invention.
337 is a block diagram showing a configuration of an OLPF removing unit in FIG. 336. FIG.
Fig. 338 is a diagram for describing an example of a class tap.
339 is a flowchart for explaining signal processing by the signal processing device in FIG. 336;
340 is a flowchart for describing OLPF removal processing, which is processing in step S5101 of the flowchart in FIG. 339. FIG.
341 is a learning device that learns the coefficients of the OLPF removal unit in FIG. 337;
FIG. 342 is a diagram illustrating a learning method.
FIG. 343 is a diagram illustrating a teacher image and a student image.
344 is a block diagram illustrating a configuration of a teacher image generation unit and a student image generation unit of the learning device in FIG. 342. FIG.
FIG. 345 is a diagram for describing a student image and teacher image generation method;
FIG. 346 is a diagram for explaining an OLPF simulation method;
FIG. 347 is a diagram illustrating an example of a teacher image.
FIG. 348 is a diagram illustrating an example of a student image.
FIG. 349 is a flowchart for describing learning processing;
FIG. 350 is a diagram showing an image subjected to OLPF removal processing;
FIG. 351 is a diagram illustrating a comparison between an image that has undergone OLPF removal processing and an image that has not been removed;
FIG. 352 is a block diagram illustrating another configuration example of the real world estimation unit.
FIG. 353 is a diagram for explaining the influence of OLPF.
FIG. 354 is a diagram illustrating the influence of OLPF.
355 is a flowchart for describing real world estimation processing by the real world estimation unit in FIG. 352; FIG.
FIG. 356 is a diagram illustrating an example of taps to be extracted.
357 is a diagram comparing an image generated from an approximation function in the real world estimated by the real world estimation unit in FIG. 352 with an image generated by other methods.
358 is a diagram comparing an image generated from an approximation function in the real world estimated by the real world estimation unit in FIG. 352 and an image generated by other methods.
FIG. 359 is a block diagram illustrating another configuration of the signal processing device.
FIG. 360 is a flowchart for explaining signal processing by the signal processing apparatus of FIG. 359;
361 is a block diagram illustrating a configuration of a learning device that learns coefficients of the signal processing device in FIG. 359;
362 is a block diagram showing a configuration of a teacher image generation unit and a student image generation unit in FIG. 361. FIG.
363 is a flowchart for describing learning processing by the learning device in FIG. 361. FIG.
FIG. 364 is a diagram for describing the relationship between various types of image processing.
Fig. 365 is a diagram for describing real-world estimation using an approximate function including a continuous function.
FIG. 366 is a diagram for explaining an approximate function including a discontinuous function.
FIG. 367 is a diagram illustrating an approximate function including a continuous function and a discontinuous function.
FIG. 368 is a diagram for explaining how to obtain a pixel value using an approximate function including a discontinuous function;
369 is a block diagram illustrating another configuration of the real world estimation unit. FIG.
370 is a flowchart for describing real world estimation processing by the real world estimation unit in FIG. 369;
FIG. 371 is a diagram illustrating an example of taps to be extracted.
FIG. 372 is a diagram for explaining an approximate function including a discontinuous function on the X-t plane;
Fig. 373 is a diagram illustrating another example of taps to be extracted.
FIG. 374 is a diagram illustrating an approximate function including a two-dimensional discontinuous function.
FIG. 375 is a diagram illustrating an approximate function including a two-dimensional discontinuous function.
FIG. 376 is a diagram for explaining a volume ratio for each region of a target pixel;
FIG. 377 is a block diagram illustrating another configuration of the real world estimation unit.
FIG. 378 is a flowchart for describing real world estimation processing by the real world estimation unit in FIG. 377;
FIG. 379 is a diagram illustrating another example of taps to be extracted.
FIG. 380 is a diagram illustrating an approximate function including a two-dimensional discontinuous function.
FIG. 381 is a diagram for explaining another example of an approximate function including a two-dimensional discontinuous function.
FIG. 382 is a diagram for explaining an approximation function including a continuous function of a polynomial for each region.
FIG. 383 is a diagram for explaining an approximate function including a discontinuous function of a polynomial for each region.
Fig. 384 is a block diagram illustrating another configuration of the image generation unit.
385 is a flowchart for describing image generation processing by the image generation unit in FIG. 384. FIG.
FIG. 386 is a diagram for describing a quadruple-density pixel generation method.
FIG. 387 is a diagram illustrating a relationship between a conventional method and a case where an approximate function including a discontinuous function is used.
Fig. 388 is a block diagram illustrating another configuration of the image generation unit.
389 is a flowchart for describing image generation processing by the image generation unit in FIG. 388. FIG.
FIG. 390 is a diagram for explaining a target pixel;
FIG. 391 is a diagram for describing a method for calculating a pixel value of a target pixel;
FIG. 392 is a diagram for describing a processing result using an approximation function including a discontinuous function in a spatial direction and other processing results.
FIG. 393 is a diagram for describing a processing result using an approximate function including a discontinuous function and other processing results.
FIG. 394 is a diagram describing imaging by a sensor.
FIG. 395 is a diagram for describing pixel arrangement;
FIG. 396 is a diagram illustrating the operation of a detection element.
FIG. 397 is a diagram for describing an image obtained by imaging an object corresponding to a moving foreground and an object corresponding to a stationary background.
398 is a diagram for describing a background area, a foreground area, a mixed area, a covered background area, and an uncovered background area; FIG.
399 is a model diagram in which pixel values of pixels arranged in a row adjacent to each other in an image obtained by imaging an object corresponding to a stationary foreground and an object corresponding to a stationary background are developed in the time direction; FIG. It is.
FIG. 400 is a model diagram in which pixel values are developed in the time direction and a period corresponding to a shutter time is divided.
FIG. 401 is a model diagram in which pixel values are developed in the time direction and a period corresponding to a shutter time is divided.
FIG. 402 is a model diagram in which pixel values are developed in the time direction and a period corresponding to a shutter time is divided.
FIG. 403 is a diagram illustrating an example in which pixels in a foreground area, a background area, and a mixed area are extracted.
Fig. 404 is a diagram illustrating a correspondence between a pixel and a model in which pixel values are expanded in the time direction.
405 is a model diagram in which pixel values are developed in the time direction and a period corresponding to a shutter time is divided. FIG.
406 is a model diagram in which pixel values are developed in the time direction and a period corresponding to a shutter time is divided. FIG.
407 is a model diagram in which pixel values are developed in the time direction and a period corresponding to a shutter time is divided. FIG.
408 is a model diagram in which pixel values are developed in the time direction and a period corresponding to a shutter time is divided. FIG.
FIG. 409 is a model in which pixel values are expanded in the time direction and a period corresponding to a shutter time is divided.
FIG. 410 is a diagram for describing a processing result using an approximate function including a discontinuous function in a spatio-temporal direction and other processing results.
FIG. 411 is a diagram illustrating an image including horizontal motion blur.
FIG. 412 is a diagram for describing a processing result using an approximate function including a discontinuous function in the space-time direction for the image in FIG. 411 and other processing results.
FIG. 413 is a diagram for describing an image including motion blur in the oblique direction.
FIG. 414 is a diagram for describing a processing result using an approximate function including a discontinuous function in the spatio-temporal direction for the image in FIG. 413 and other processing results.
FIG. 415 is a diagram illustrating a processing result using an approximation function including a discontinuous function in a spatio-temporal direction for an image including motion blur in a diagonal direction.
[Explanation of symbols]
4 signal processing apparatus, 21 CPU, 22 ROM, 23 RAM, 28 storage unit, 51 magnetic disk, 52 optical disk, 53 magneto-optical disk, 54 semiconductor memory, 101 data continuity detection unit, 102 real world estimation unit, 103 image generation , 201 unsteady component extraction unit, 202 vertex detection unit, 203 monotonic increase / decrease detection unit, 204 continuity detection unit, 221 block extraction unit, 222 plane approximation unit, 223 iteration determination unit, 401 activity detection unit, 402 data selection unit , 403 error estimation unit, 404 steady direction derivation unit, 411-1 to 411-L pixel selection unit, 412-1 to 412-L estimation error calculation unit, 413 minimum error angle selection unit, 4211-1 to 421-L pixel Selection unit, 422-1 to 422 Estimated error calculation unit, 441 data selection unit, 442 error estimation unit, 443 steady direction derivation unit, 461-1 to 461-L pixel selection unit, 462-1 to 462-L estimation error calculation unit, 463 minimum error angle selection unit 481-1 to 481-3 data continuity detection unit, 482 determination unit, 491 component processing unit, 492 data continuity detection unit, 502 pixel acquisition unit, 503 frequency detection unit, 504 regression line calculation unit, 505 angle calculation unit , 602 pixel acquisition unit, 603 frequency detection unit, 604 regression line calculation unit, 605 region calculation unit, 701 data selection unit, 702 data addition unit, 703 steady direction derivation unit, 711 horizontal / vertical determination unit, 712 data acquisition unit , 721 Difference addition part, 722 MaxMin acquisition part, 723 Addition unit, 731 Steady direction calculation unit, 751 Data addition unit, 752 MaxMin acquisition unit, 753 Addition unit, 754 Difference calculation unit, 755 Addition unit, 761 Mixing ratio deriving unit, 762 Mixing ratio calculation unit, 801 Angle detection unit, 802 real world estimation unit, 803 error calculation unit, 804 comparison unit, 821 motion detection unit, 822 real world estimation unit, 823 error calculation unit, 824 comparison unit, 901 simple type angle detection unit, 902 determination unit, 903 switch, 904 regression equation angle detection unit, 905 gradient equation angle detection unit, 911 data selection unit, 912 error estimation unit, 913 steady direction derivation unit, 921-1 to 921-L pixel selection unit, 922-1 to 922 L estimation error calculation unit, 923 minimum error angle selection unit, 2101 line width detection , 2102 signal level estimation unit, 2121 boundary detection unit, 2131 distribution ratio calculation unit, 2132 regression line calculation unit, 2201 real world estimation unit, 2202 approximation function estimation unit, 2203 differentiation processing unit, 2211 reference pixel extraction unit, 2212 slope estimation Unit, 2231 real world estimation unit, 2232 approximation function estimation unit, 2233 differentiation processing unit, 2251 reference pixel extraction unit, 2252 inclination estimation unit, 2331 condition setting unit, 2332 input image storage unit, 2333 input pixel value acquisition unit, 2334 integration Component calculation unit, 2335 normal equation generation unit, 2336 approximation function generation unit, 2341 input pixel value table, 2342 integral component table, 2343 normal equation table, 2421 condition setting unit, 2422 input image storage unit, 2423 input pixel value acquisition unit, 2 24 integral component calculation unit, 2425 normal equation generation unit, 2426 approximation function generation unit, 2431 input pixel value table, 2432 integral component table, 2433 normal equation table, 2521 condition setting unit, 2522 input image storage unit, 2523 input pixel value acquisition Unit, 2524 integral component calculation unit, 2525 normal equation generation unit, 2526 approximation function generation unit, 2531 input pixel value table, 2532 integral component table, 2533 normal equation table, 3121 condition setting unit, 3122 feature quantity storage unit, 3123 integral component Calculation unit, 3124 Output pixel value calculation unit, 3131 Feature value table, 3132 Integration component table, 3201 Condition setting unit, 3202 Feature value storage unit, 3203 Integration component calculation unit, 3204 Output pixel value calculation unit, 3211 Feature value test , 3212 integral component table, 3301 condition setting unit, 3302 feature quantity storage unit, 3303 integral component computation unit, 3304 output pixel value computation unit, 3311 feature quantity table, 3312 integral component table, 3201 slope acquisition unit, 3202 extrapolation interpolation Unit, 3211 slope acquisition unit, 3212 extrapolation interpolation unit, 3501 class classification adaptive processing unit, 3502 class classification adaptive processing correction unit, 3503 addition unit, 3504 learning device, 3521 learning unit for class classification adaptive processing, 3561 class classification adaptive processing Correction learning unit, 4101 data continuity detection unit 4101 real world estimation unit, 4103 image generation unit, 4104 image generation unit, 4105 stationary region detection unit, 4111 region detection unit, 4112 selector, 4161 stationary region detection unit, 417 Area detection unit, 4172 execution command generation unit, 4181, 4182 stationary region detection unit, 4191 region detection unit, 4192 execution command generation unit, 4201 region detection unit, 4202 execution command generation unit, 4501 image generation unit, 5101 lens, 5102 IR Cut filter, 5103 OLPF, 5104 CCD, 5110 optical block, 5121a, b crystal, 5122 phase plate, 5131 OLPF removal unit, 5141 class tap detection unit, 5142 feature quantity extraction unit, 5143 class classification unit, 5144 coefficient memory, 5145 prediction Tap extraction unit, 5146 pixel value calculation unit, 5151 student image generation unit, 5151a 1/16 average processing unit, 5152 learning unit, 5153 teacher image generation unit, 5153a OLPF simulation unit, 5153b 1 / 16 average processing unit, 5154 coefficient memory, 5161 image memory, 5162 class tap extraction unit, 5163 feature amount extraction unit, 5164 class classification unit, 5165 prediction tap extraction unit, 5166 addition operation unit, 5167 learning memory, 5168 normal equation calculation Unit, 5201 condition setting unit, 5202 input image storage unit, 5203 input pixel value acquisition unit, 5204 integral component calculation unit, 5205 normal equation generation unit, 5206 approximation function generation unit, 5241 class tap extraction unit, 5242 feature amount calculation unit, 5243 class classification unit, 5244 coefficient memory, 5245 prediction tap extraction unit, 5246 pixel value calculation unit, 5251 student image generation unit, 5251a OLPF simulation processing unit, 5251b 1/64 average processing unit, 5252 learning unit, 5 53 teacher image generation unit, 5253 1/16 average processing unit, 5254 coefficient memory, 5261 image memory, 5262 class tap extraction unit, 5263 feature amount calculation unit, 5264 class classification unit, 5265 prediction tap extraction unit, 5266 addition calculation unit , 5267 Learning memory, 5268 Normal equation calculation unit, 5301 Condition setting unit, 5302 Input image storage unit, 5303 Input pixel value acquisition unit, 5304 Integration component calculation unit, 5305 Normal equation generation unit, 5306 Approximate function generation unit, 5321 Condition setting Unit, 5322 input image storage unit, 5323 input pixel value acquisition unit, 5324 integral component calculation unit, 5325 normal equation generation unit, 5326 approximation function generation unit, 5341 real world estimation information acquisition unit, 5342 weight calculation unit, 5343 pixel generation unit , 5 51 actual world estimation information obtaining unit, 5352 weight calculator, 5353 pixel generator

Claims

In a learning device that learns a prediction means for predicting second image data from first image data,
The image data corresponding to the optical signal after the optical signal corresponding to the second image data has passed through the optical low-pass filter, the phase shift amount for dispersing the optical signal of the optical low-pass filter, and the pixels of the image sensor A calculation means for calculating from the second image data and outputting the first image data based on the relationship with the distance;
First tap extraction means for extracting a plurality of pixels corresponding to the target pixel in the second image data from the first image data;
Learning means for learning a prediction means for predicting a pixel value of the target pixel from pixel values of the plurality of pixels extracted by the first tap extraction means ;
The arithmetic means sequentially sets the target pixel in the second image data, and is determined according to the thickness of the crystal plate of the optical low-pass filter having the target pixel and the crystal plate with the target pixel as a reference. to a plurality of pixels arranged in a position corresponding to the phase shift amount that, by the pixel value of the pixel of interest is gradually superimposing the distributed values equally, that generates said first image data
A learning apparatus characterized by that .

Second tap extraction means for extracting a plurality of pixels corresponding to the target pixel in the second image data from the first image data;
Feature detection means for detecting a feature corresponding to the pixel of interest based on pixel values of the plurality of pixels extracted by the second tap extraction means;
The learning means learns a prediction means for predicting the pixel value of the target pixel from the pixel values of the plurality of pixels extracted by the first tap extraction means for each feature detected by the feature detection means. The learning device according to claim 1, wherein:

In the learning method of the learning device that learns the process of the prediction step of predicting the second image data from the first image data,
The image data corresponding to the optical signal after the optical signal corresponding to the second image data has passed through the optical low-pass filter, the phase shift amount for dispersing the optical signal of the optical low-pass filter, and the pixels of the image sensor A calculation step of calculating from the second image data and outputting as the first image data based on the relationship with the inter-distance;
A first tap extracting step of extracting a plurality of pixels corresponding to the target pixel in the second image data from the first image data;
From the pixel value of the first of said plurality of pixels extracted by the processing of the tap extraction step, seen including a learning step for learning the processing of the prediction step of predicting the pixel value of the pixel of interest,
The calculation step is determined according to the thickness of the crystal plate of the optical low-pass filter that sequentially sets the pixel of interest in the second image data and includes the crystal plate with the pixel of interest as a reference. to a plurality of pixels arranged in a position corresponding to the phase shift amount that, by the pixel value of the pixel of interest is gradually superimposing the distributed values equally, that generates said first image data
A learning method characterized by that .

A program for controlling a learning device that learns processing of a prediction step for predicting second image data from first image data,
The image data corresponding to the optical signal after the optical signal corresponding to the second image data has passed through the optical low-pass filter, the phase shift amount for dispersing the optical signal of the optical low-pass filter, and the pixels of the image sensor A calculation step of calculating from the second image data and outputting as the first image data based on the relationship with the inter-distance;
A first tap extracting step of extracting a plurality of pixels corresponding to the target pixel in the second image data from the first image data;
From the pixel value of the first of said plurality of pixels extracted by the processing of the tap extraction step, seen including a learning step for learning the processing of the prediction step of predicting the pixel value of the pixel of interest,
The calculation step is determined according to the thickness of the crystal plate of the optical low-pass filter that sequentially sets the pixel of interest in the second image data and includes the crystal plate with the pixel of interest as a reference. to a plurality of pixels arranged in a position corresponding to the phase shift amount that, by the pixel value of the pixel of interest is gradually superimposing the distributed values equally, that generates said first image data
A recording medium on which a computer- readable program is recorded.

A computer that controls a learning device that learns a process of a prediction step of predicting second image data from first image data;
The image data corresponding to the optical signal after the optical signal corresponding to the second image data has passed through the optical low-pass filter, the phase shift amount for dispersing the optical signal of the optical low-pass filter, and the pixels of the image sensor A calculation step of calculating from the second image data and outputting as the first image data based on the relationship with the inter-distance;
A first tap extracting step of extracting a plurality of pixels corresponding to the target pixel in the second image data from the first image data;
A learning step for learning a prediction step process for predicting a pixel value of the target pixel from the pixel values of the plurality of pixels extracted in the process of the first tap extraction step ;
The calculation step is determined according to the thickness of the crystal plate of the optical low-pass filter that sequentially sets the pixel of interest in the second image data and includes the crystal plate with the pixel of interest as a reference. to a plurality of pixels arranged in a position corresponding to the phase shift amount that, by the pixel value of the pixel of interest is gradually superimposing the distributed values equally, that generates said first image data
Program, characterized in that.

In an image processing apparatus that predicts second image data from first image data,
Acquisition means for acquiring first image data acquired by projecting a real-world optical signal to a plurality of pixels each having a spatial integration effect via an optical low-pass filter;
First tap extraction means for extracting a plurality of pixels corresponding to the target pixel in the second image data from the first image data;
Storage means for storing prediction means that has been learned in advance so as to predict the second image data obtained by directly projecting the optical signal incident on the optical low-pass filter from the first image data When,
A plurality of pixels extracted by the first tap extraction unit and a prediction calculation unit that predicts a pixel value of the target pixel in the second image data based on the prediction unit;
The prediction means includes
Based on the relationship between the phase shift amount for dispersing the optical signal of the optical low-pass filter as the target and the inter-pixel distance of the image sensor, the target pixel in the second image data is sequentially set, and the target pixel And a pixel value of the target pixel in a plurality of pixels arranged at positions corresponding to the phase shift amount determined according to the thickness of the crystal plate of the optical low-pass filter having a crystal plate with respect to the target pixel. Is preliminarily learned so as to predict the second image data from the first image data calculated from the second image data by superimposing values that are equally distributed. An image processing apparatus.

Second tap extraction means for extracting a plurality of pixels corresponding to the target pixel in the second image data from the first image data;
Feature detection means for detecting a feature corresponding to the pixel of interest based on pixel values of the plurality of pixels extracted by the second tap extraction means;
The prediction means learns in advance to predict the pixel value of the target pixel from the pixel values of the plurality of pixels extracted by the first tap extraction means for each feature detected by the feature detection means. The image processing apparatus according to claim 6, wherein:

In an image processing method of an image processing apparatus for predicting second image data from first image data,
An acquisition step of acquiring first image data acquired by projecting an optical signal of a real world through an optical low-pass filter to a plurality of pixels each having a spatial integration effect;
A first tap extracting step of extracting a plurality of pixels corresponding to the target pixel in the second image data from the first image data;
A prediction step that is learned in advance to predict the second image data obtained by directly projecting the optical signal incident on the optical low-pass filter from the first image data;
A prediction calculation step of predicting a pixel value of the target pixel in the second image data based on the processing of the plurality of pixels extracted by the first tap extraction unit and the prediction step;
The prediction step includes
Based on the relationship between the phase shift amount for dispersing the optical signal of the optical low-pass filter as the target and the inter-pixel distance of the image sensor, the target pixel in the second image data is sequentially set, and the target pixel And a pixel value of the target pixel in a plurality of pixels arranged at positions corresponding to the phase shift amount determined according to the thickness of the crystal plate of the optical low-pass filter having a crystal plate with respect to the target pixel. Is preliminarily learned so as to predict the second image data from the first image data calculated from the second image data by superimposing values that are equally distributed. An image processing method characterized by the above.

A program for controlling an image processing apparatus that predicts second image data from first image data,
An acquisition step of acquiring first image data acquired by projecting an optical signal of a real world through an optical low-pass filter to a plurality of pixels each having a spatial integration effect;
A first tap extracting step of extracting a plurality of pixels corresponding to the target pixel in the second image data from the first image data;
A prediction step that is learned in advance to predict the second image data obtained by directly projecting the optical signal incident on the optical low-pass filter from the first image data;
A prediction calculation step of predicting a pixel value of the target pixel in the second image data based on the processing of the plurality of pixels extracted by the first tap extraction unit and the prediction step;
The prediction step includes
Based on the relationship between the phase shift amount for dispersing the optical signal of the optical low-pass filter as the target and the inter-pixel distance of the image sensor, the target pixel in the second image data is sequentially set, and the target pixel And a pixel value of the target pixel in a plurality of pixels arranged at positions corresponding to the phase shift amount determined according to the thickness of the crystal plate of the optical low-pass filter having a crystal plate with respect to the target pixel. Is preliminarily learned to predict the second image data from the first image data calculated from the second image data by superimposing values that are equally distributed. A recording medium on which a readable program is recorded.

A computer that controls an image processing apparatus that predicts second image data from first image data;
An acquisition step of acquiring first image data acquired by projecting an optical signal of a real world through an optical low-pass filter to a plurality of pixels each having a spatial integration effect;
A first tap extracting step of extracting a plurality of pixels corresponding to the target pixel in the second image data from the first image data;
A prediction step that is learned in advance to predict the second image data obtained by directly projecting the optical signal incident on the optical low-pass filter from the first image data;
A process including a plurality of pixels extracted by the first tap extraction unit and a prediction calculation step of predicting a pixel value of the target pixel in the second image data based on the processing of the prediction step. Let
The prediction step includes
Based on the relationship between the phase shift amount for dispersing the optical signal of the optical low-pass filter as the target and the inter-pixel distance of the image sensor, the target pixel in the second image data is sequentially set, and the target pixel And a pixel value of the target pixel in a plurality of pixels arranged at positions corresponding to the phase shift amount determined according to the thickness of the crystal plate of the optical low-pass filter having a crystal plate with respect to the target pixel. Is preliminarily learned so as to predict the second image data from the first image data calculated from the second image data by superimposing values that are equally distributed. A program characterized by