JP5699621B2 - 画像処理装置、画素補間方法およびプログラム - Google Patents

Description

本発明は、画像中の画素値が欠落した画素や不正な画素値を有する画素を補間するために画素補間処理を行う装置、その装置により行われる画素補間方法、その方法を実現するためのコンピュータ可読なプログラムに関する。

光学的な手段を用いて画像を読み取るスキャナ装置には、ＣＩＳ(Contact Image Sensor)を使用するものと、ＣＣＤ(Charge Coupled Device)を使用するものがある。ＣＩＳを使用するスキャナ装置は、原稿を読み取り面に密着しなければならず、立体的な原稿を読み取ることができないものの、ＣＣＤを使用する装置と比較して、本体の厚さを薄くすることができ、価格も安く、読み取った画像に出やすいノイズを低減する技術も向上してきていることから、広く使用されるようになってきている。例えば、ＣＩＳは、１パス両面読取機能を有する画像読取装置において、裏面を読み取るために用いられている。

ＣＩＳは、光源にＲＧＢの発光ダイオード(LED)を用い、ＲＧＢの光をそれぞれ高速に切り換えて、原稿からの光を、レンズを通して撮像素子(CMOSイメージセンサ)へ入力する。これを受けてＣＭＯＳイメージセンサは、入力された原稿からの光を１画素ずつ電圧値へ変換し、出力する。

このＣＩＳを使用したスキャナ装置は、原稿をローラでセンサに密着させて１ラインずつ読み取る密着イメージセンサ方式を採用する。これは、１本の長いＣＩＳを作製することが難しいからである。このため、短いセンサを、その長さ方向へ複数並べるように配置して読み取り部を構成するが、これではセンサ間に一定のギャップが生じ、このギャップでは画像信号を取得することができない。その結果、画像信号の欠落が生じる。

また、スキャナ装置は、画像信号を読み取るセンサの不具合や、原稿がセットされるコンタクトガラスの汚れ等の光路の途中に遮蔽物が存在することによっても、画像信号が欠落したり、読み取られた画像信号が不正な値を示したりすることがある。

これでは、読み取られた画像に欠落した画素や不正な画素値を有する画素が存在することとなり、画質が低下してしまうという問題があった。この問題に鑑み、従来において欠落した画素の画素値や不正な画素値を、その画素の周囲にある画素の画素値を用いて推定し、その推定した値に置き換えて補間する技術が知られている。

例えば、対象画素の周囲にある画素の画素値を用いて線形補間する方法や、２次以上の関数を用いて多項式補間あるいはスプライン補間する方法等がある。線形補間による補間方法は、濃度変化の少ない部分の補間には適しているが、網点領域のように濃度変化の激しい部分の補間には適していない。

多項式補間やスプライン補間による内挿法は、デジタル写真等の、画像を標本化する際のサンプリング周期が画像のパターンの変動周期に対して十分に短いものに対し、高い精度で画素値を推定することができる。しかしながら、網点画像については、網点の線数に比較して画像の解像度が十分でないことから、サンプリング周期が画像の変動周期に対して十分ではなく、この内挿法では、元のパターンを正しく再現することができない場合が多い。

そこで、内挿法の問題点を解決するべく、パターンマッチングを用いる手法が提案されている。この手法では、内挿法では再現することができない高い周波数成分を、補間画素の近傍の類似パターンを用いて再現することができることを期待することができる。

しかしながら、一般的にパターンマッチングでは、内挿法と比較して広い範囲の情報を用いることから、基準とするパターンに対する最適解が求まるものの、それが補間画素に対して最適であるとは限らない。これは、パターンマッチングで類似パターンを探索する際に、全体として少しずつ異なるパターンと、大部分が一致するのであるが、一部大きく異なるパターンとの区別を行わないために生じる問題である。

特に、高数線の網点領域のように、特定の画素に情報が偏在しているケースでは、類似するパターンの選択し方が補間結果に大きな影響を与えることになる。また、濃度の低い網点領域では相対的に背景に属する画素の占める割合が高いため、網点領域ではない背景領域に類似パターンを検出してしまうか、その反対に検出されないことがある。

したがって、補間を行う際には補間画素の属する領域の特性に応じて補間手法を使い分ける必要がある。そこで、補間画素の画素値を正確に推定するため、補間画素の位置が網点領域内であればパターンマッチングを用いて補間画素を含むパターンと類似するパターンを画像中から探索し、最も類似するパターン内で補間画素に対応する画素の画素値を、補間画素の画素値として決定する装置が提案されている（特許文献１参照）。

この装置は、画像読取センサによって読み取られた画像データに基づいて、コンタクトイメージセンサの連結部分に対応する補間対象画素位置が網点領域内であるか非網点領域内であるかを判別し、その補間対象画素位置が非網点領域である場合には、線形補間により補間対象画素の画素データを生成し、補間対象画素位置に挿入する。一方、網点領域である場合には、パターンマッチングにより補間対象画素の画素データを生成し、補間対象画素位置に挿入する。

このとき、補間対象画素位置付近の画像領域内に、その補間対象画素を含む１つの基準ブロックと、その基準ブロックと同じ大きさでかつ補間対象画素を含まない複数の参照ブロックとを設定し、その基準ブロック内の画素データと各参照ブロック内の画素データとに基づいて、基準ブロックと各参照ブロックとの間の相関値をそれぞれ算出し、基準ブロックと最も相関が高い参照ブロック内の画素データのうち、基準ブロック内の補間対象画素と対応する画素の画素データを、補間対象画素の画素データとして決定している。

しかしながら、この補間手法では、画素値がなだらかに変化する画像については高い精度で補間することができるものの、画素値が急激に変化する画像については補間精度が低くなるという問題があった。また、補間画素の位置を網点領域か非網点領域かを判断するのみでは、大局的な特徴に基づいて行われるため、大局的な特徴と局所的な特徴とが相反するケースがあり、例えば、網点領域と背景領域との境界線で補間が失敗するという問題があった。

これは、網点領域か非網点領域かの判定が補間画素を含むラインにおける画素値の周期性を基準として行われることに起因しているからであり、また、１ラインのような広い範囲で見ると周期性があっても、補間画素近傍の狭い範囲で見ると、周期性がないケースが存在し、このようなケースでは判断基準で周期性があると誤判定されてしまうからである。ちなみに、網点領域に近傍する非網点領域や、２つの網点領域に挟まれた非網点領域は、誤判定を受けやすい。誤判定されてしまうと、網点領域の外側にある平坦な領域を網点領域として補間してしまい、補間結果として不正な画素値が出現してしまう。

そこで、補間画素の画素値を求める際に、大局的な特徴と局所的な特徴の領域の特性に応じて補間手法を切り替えて、従来よりも高精度な画素補間を実現することができる装置や方法の提供が望まれていた。

本発明は、上記課題に鑑み、補間画素を含む画像領域が周期的な画素値の変動を伴う周期領域であるかを判定する周期性判定部と、周期領域であると判定された場合に補間画素に近隣して１以上の参照領域を設定し、その１以上の参照領域の画像特徴に基づき、その補間画素が周期領域と非周期領域とのいずれに存在するかを判定する境界判定部と、これらの判定結果に基づいて、第一補間方法を用いて補間画素の画素値を生成する第一画素値生成部と、第二補間方法を用いて補間画素の画素値を生成する第二画素値生成部のいずれを用いて画素値を生成するかを判断する制御部と、その判断により決定された画素値生成部により生成した画素値を補間画素に挿入する画素値挿入部とを含む構成を採用する。

このように、補間画素が属する領域の特性に合わせて補間方法を切り替えることにより、補間画素ごとにその画素値を推定するのに最適な手法を用いることができ、その結果、高精度に画素補間を実現することができる。

補間方法としては、パターンマッチング法、内挿法を挙げることができ、例えば、第一画素値生成部が採用する第一補間方法をパターンマッチング法とし、第二画素値生成部が採用する第二補間方法を内挿法とすることができる。

補間精度を高めるには、生成された画素値により補間した補間結果が妥当であるかを検証することが望ましい。このため、本発明では、この検証を行うための妥当性検証部をさらに含む構成を採用することができる。この妥当性検証部は、第一画素値生成部により生成された画素値による補間結果の妥当性を判断するが、妥当でないと判断した場合、制御部が、第一画素値生成部に代えて第二画素値生成部により画素値を生成させるように切り替えることができる。

この妥当性検証部は、例えば、第一画素値生成部が第一補間方法としてパターンマッチング法を用いて画素値を生成する際に採用した画像内の所定の領域であるパターンと、その補間画素を含む基準パターンとの相違度が閾値未満であるか、または類似度が閾値以上であるかを判断することにより、妥当であるかを判断することができる。

また、本発明では、さらに補間精度を高めるために、第一補間方法と第二補間方法とは異なる第三補間方法を用いて補間画素の画素値を生成する第三画素値生成部をさらに含むことができる。この場合、妥当性検証部は、第一画素値生成部により画素値を生成した場合、その生成された画素値による補間結果の妥当性を判断し、妥当でないと判断した場合、制御部が、第一画素値生成部に代えて第三画素値生成部により画素値を生成させる。そして、再び妥当性検証部が、第三画素値生成部により生成された画素値による補間結果の妥当性を判断し、妥当でないと判断した場合、制御部が、第三画素値生成部に代えて第二画素値生成部により画素値を生成させる。

また、制御部は、周期性判定部と境界判定部とにより得られた判定結果に基づき、第一画素値生成部と第二画素値生成部と第三画素値生成部のいずれを用いて画素値を生成するかを判断することができる。判断された画素値生成部は自己が採用する補間方法を用いて画素値を生成し、それを画素値挿入部が補間画素に与えて補間する。その後、上記のようにして妥当性検証部が妥当性を判断し、妥当でなければ別の画素値生成部に画素値を生成させることにより、最適な画素値を与えて高精度な画素補間を実現することができる。

例えば、第一補間方法を二次元テンプレートマッチングとすると、第二補間方法は、これとは異なる内挿法とすることができ、また、第三補間方法は、これらとは異なる一次元テンプレートマッチングとすることができる。

本発明では、上記の各部を備える画像処理装置を提供することができるが、そのほか、この画像処理装置により補間画素を補間する方法も提供することができる。この方法は、周期性判定部が行う周期領域であるかを判定する周期性判定ステップと、境界判定部が行う補間画素が周期領域と非周期領域とのいずれに属しているかを判定する境界判定ステップと、制御部が行う、これらの判定結果に基づき、第一画素値生成部と第二画素値生成部のいずれを用いて画素値を生成するかを判断する判断ステップと、この判断ステップで判断された第一画素値生成部または第二画素値生成部が生成した画素値を補間画素に挿入する挿入ステップとを含む。

また、本発明では、この画素補間方法を実現するためのコンピュータ可読なプログラムを提供することもでき、さらには、このプログラムをＣＤ−ＲＯＭやＳＤカード等の記録媒体に格納して提供することも可能である。

本発明の画像処理装置のハードウェア構成を例示した図。 画像処理装置の第１実施形態を示した機能ブロック図。 補間画素を含む画像を例示した図。 判定領域と、判定領域における水平方向の画素の位置と画素値との関係を例示した図。 周期領域および非周期領域の例を示した図。 処理対象の画像とテンプレートとを例示した図。 画素の位置と画素値との関係を例示した図。 図２に示す画像処理装置により実行される画素補間処理の流れを示したフローチャート図。 画像処理装置の第２実施形態を示した機能ブロック図。 図９に示す画像処理装置により実行される画素補間処理の流れを示したフローチャート図。 画像処理装置の第３実施形態を示した機能ブロック図。 図１１に示す画像処理装置により実行される画素補間処理の流れを示したフローチャート図。 図１１に示す画像処理装置により実行される別の画像補間処理の流れを示したフローチャート図。

本発明の画像処理装置は、画像を読み取るスキャナ装置とケーブルで直接、またはネットワークを介して接続される。スキャナ装置は、ＣＩＳを使用したスキャナ装置とされ、この装置により読み取られた画像には、欠落した画素値や不正な画素値を有する画素が含まれることから、画像処理装置は、その画素の画素値を生成し、その生成した画素値でその画素を補間する処理を行う。

ここで、画素値は、１画素を８ビットで表すグレースケール画像では、黒が０で、白が２５５の値をとり、１画素をＲＧＢの各色８ビットで表すカラー画像では、赤、緑、青の各色につき０〜２５５の値をとり、すべてが０のとき黒で、すべてが２５５のとき白を表す。

画像処理装置は、画素を補間する処理を実行するために、ＰＣ、ワークステーション、サーバ、ＭＦＰ等の、この処理を実行するためのプログラムが記録された記憶装置と、このプログラムを読み出し実行するプロセッサと、スキャナ装置やネットワークと接続するためのインタフェースとを含んで構成される。

具体的には、図１に示すように、例えば、プロセッサとしてマイクロプロセッサユニット(MPU）１１を備え、記憶装置として、ＢＩＯＳ(Basic Input Output System)やファームウェアを格納する不揮発性メモリであるＲＯＭ(Read Only Memory)１２と、ＭＰＵ１１によるプログラム処理を可能とする実行記憶空間を提供するＲＡＭ(Random Access Memory)１３とを備える構成とすることができる。

ＭＰＵ１１は、内部バスを介してインタフェースの１つである記憶制御用インタフェース１４に接続され、その記憶制御用インタフェース１４に接続される記憶装置の１つであるハードディスク１５へアクセスし、各種アプリケーションやデータの読み出し、実行、書き込みを行う。この記憶制御用インタフェース１４としては、ＩＤＥ(Integrated Device Electronics)、ＡＴＡ(AT Attachment)、シリアルＡＴＡ、ＵｌｔｒａＡＴＡ等の規格により、ハードディスク１５の入出力を管理するインタフェースを使用することができる。ＭＰＵ１１は、内部バスを介してＵＳＢ(Univeral Serial Bus)、ＩＥＥＥ１３９４等のシリアルまたはパラレル・インタフェース１６を制御し、キーボード、マウス、プリンタといった入出力装置１７と通信し、ユーザからの入力を受け付けることができる。

また、この画像処理装置１０は、ＭＰＵ１１からの指令に応答して、ビデオ信号を処理し、表示装置１８へと表示させるＶＲＡＭ(Video RAM)１９、グラフィックチップ２０と、ネットワークを介して他の機器と通信するために該ネットワークと接続されるネットワークＩ／Ｆ２１とを含んで構成することができる。ＶＲＡＭ１９は、表示装置１８に対するビデオ表示のための記憶装置として使用されるＲＡＭであり、グラフィックチップ２０は、画像データ処理を行う集積回路である。

画像処理装置１０は、ＲＯＭ１２やハードディスク１５、その他の図示しないＮＶ−ＲＡＭやＳＤカード等の記憶装置に格納されたプログラムをＭＰＵ１１が読み出し、ＲＡＭ１３のメモリ領域に展開することにより、適切なＯＳ(Operating System)の下、後述する各処理を実現し、そのＭＰＵ１１を、各処理を実現するための各部として構成することができる。ＯＳとしては、Ｗｉｎｄｏｗｓ（登録商標）、ＵＮＩＸ（登録商標）、ＬＩＮＵＸ（登録商標）等を採用することができる。なお、画像処理装置１０は、上述したＰＣ等に限られるものではなく、特定の用途向けに複数機能の回路を１つにまとめたＡＳＩＣ(Application Specific Integrated Circuit)として構成することも可能である。

図２は、本発明の画像処理装置の第１実施形態を示した機能ブロック図である。画像処理装置１０は、上述したように、ＲＯＭ１２やハードディスク１５等の記憶装置に記憶されているプログラムを、プロセッサであるＭＰＵ１１が読み出し実行することにより各機能を実現することができる。すなわち、画像処理装置１０は、周期性判定部３０と、境界判定部３１と、第一画素値生成部３２と、第二画素値生成部３３と、制御部３４と、画素値挿入部３５とを含む構成とされる。図２には図示していないが、補間画素を設定する画素設定部をさらに備えることができる。

画像処理装置１０は、まず、上記の画素設定部により、画素値を挿入し補間する対象の補間画素を、処理対象となる画像内で検出する。補間画素は、予めユーザが位置を検出しておくこともできるし、装置が逐次その位置を検出することも可能である。位置は、例えば、向かって左下隅の座標を基準座標（０，０）として主走査方向と同じ右方向への画素数ａと、上方向への画素数ｂとを用い、座標（ａ，ｂ）として表すことができる。

画像処理装置１０が補間画素を検出する場合の検出方法としては、例えば、予め指定された明るさや色の画素であるかどうかを、１画素ずつ画素値を調べて補間画素を検出する方法や、既知の画像を読み取った際の正解値からのずれ量の大きさを評価することにより補間画素を検出する方法や、水平または鉛直方向の周期性が不連続となる位置を検出し、その位置にある画素を補間画素として検出する方法を挙げることができる。この補間画素は、孤立した点であってもよいし、点が連続した線分であってもよい。この線分であってもよいとしているのは、ギャップは、撮像素子が移動する方向である副走査方向へ連続して形成され、点が連続した線分として構成されることもあるからである。

補間画素を含む画像としては、図３に示す黒色のほぼ同じ大きさの点がほぼ規則正しく配列する網点画像の中に、縦すじが発生したものが挙げられる。この縦すじは、その画像の中央部を横断するように、点が欠落している部分と点が周囲より大きくなっている部分とから構成されている。このような画像の場合、点は一定の間隔で配列していることから周期性を有し、その縦すじの部分において周期性が不連続となる。このため、水平方向の周期性が不連続となる位置を検出することで、補間画素を検出することができる。

周期性判定部３０は、補間画素を含むように所定の大きさの判定領域を定め、その判定領域内で画素値の変動に周期性があるか否かを判定する。判定領域は、補間画素を含む高さ１画素の領域、すなわち画像の１ラインとすることもできるし、補間画素を含む任意の高さをもった矩形領域とすることもできる。

判定領域のサイズは、予めユーザによって設定することもできるし、装置が動的に決定することも可能である。装置が動的に決定する場合、予め指定された領域サイズで一度補間処理を行い、それより小さいサイズでも十分に補間処理を行うことができるようであれば、一定サイズで小さくしていくことができ、反対に補間処理を行うことができない場合には、一定サイズで大きくしていくことができる。

画像の１ラインを抜き出し、判定領域としたものを図４に例示する。図４（ａ）では、黒色で示される網点を表す画素と、白色で示される背景を表す画素とが一定間隔で配置されていて、その間にグラデーションを与えるように画素値が異なるグレーの画素が配置されている。また、この図４（ａ）には、上記のギャップによって欠落した画素４０が示されている。

この判定領域における水平方向の画素の位置と、画素値との関係を例示した図を、図４（ｂ）に示す。画素値はその画素において一定であることから、とびとびの値を示すが、これを滑らかにつなぐと、一定の周期で画素値が増減する波形で表すことができる。このため、この判定領域では画素値の変動に周期性があることを検出することができる。

このような周期性がある判定領域を例示すると、図５（ａ）に示す網点や斜線で表される網点領域を挙げることができる。一方、周期性のない判定領域を例示すると、図５（ｂ）に示す文字や規則的に配列していない点から構成される不連続領域、図５（ｃ）に示す１色やグラデーションで表される背景等の平坦領域を挙げることができる。

なお、網点で表される網点画像は、実際には点が任意のスクリーン角をもって直線状に配置されることから、点が水平方向に一定の間隔で配列したものとはなっておらず、斜めに一定の間隔で配列したものとなっている。このため、図４（ｂ）に示すような同じ振幅の波形にはならないものの、振幅が異なる一定間隔でピークを有する波形になることから、周期性があることを判定することができる。

図３や図４のように図に示すことで、周期性の有無を容易に判断することができるが、実際には図を作成し、それを参照して判断することはできないことから、例えば、判定領域内において代表周期を求め、その代表周期の信頼度を算出し、その信頼度が閾値以上であるかを判定することにより行うことができる。代表周期を求める一例として、判定領域内において画素値が極大となる位置（ピーク位置）、具体的には図４（ｂ）に示す波形の正方向のピークを示す画素の位置を記録していき、あるピーク位置から次のピーク位置までの距離のヒストグラムを判定領域全体にわたって作成した上で、度数の最も多い階級に対する値である最頻値となる距離を代表周期として採用することができる。この代表周期は、画素数で表すことができ、図４に示す実施形態では、ほぼ６画素ごとにピークとなり、ピーク間距離が６画素となることが最も多いことから、代表周期は６画素とされる。

このとき、極大となる位置ではなく、極小となる位置（図４（ｂ）に示す波形の負方向のピークを示す画素の位置）を用いて求めることも可能である。代表周期を求める際に画素値の変動の周期性を利用するとノイズ耐性が低いため、画素値の自己相関を求め、その変動の周期性を利用すればノイズ耐性が上昇する。このため、これらの極大となる位置および極小となる位置を用いて求める場合、自己相関を用いることが望ましい。ここで、ノイズ耐性が上昇する理由は、ノイズが多くの場合に画素値に乗るため、画素値を直接利用する場合よりも、複数の画素値を用いて導出された自己相関という形で利用した場合のほうが、ノイズによる影響を低く抑えることができるからである。

自己相関とは、ある信号とその信号に所定の位相ずれを与えた信号との相関のことである。この場合、判定領域内において自己相関を求めていき、画素値に代えて自己相関の値を用いてヒストグラムを作成し、最頻値を代表周期として採用することができる。この自己相関の値としては、相関係数を用いることもできるし、共分散を用い、より計算を簡便にすることも可能である。

共分散Ｓは、２つの画素値の共変動の大きさを示す指標で、比較するパターンの一方のｉ番目の画素値をｘ_ｉとし、他方のパターンのｉ番目の画素値をｙ_ｉとし、一方のパターンの画素値の平均値をｘ_ｍとし、他方のパターンの画素値の平均値をｙ_ｍとし、パターンの画素数をｎとすると、以下の式１により求めることができる。

相関係数Ｒは、２つの確率変数の間の類似性の度合いを示す指標で、一方のパターンの標準偏差をσ_ｘとし、他方のパターンの標準偏差をσ_ｙとすると、以下の式２により求めることができる。

信頼度Ｃ_ｖは、例えば、以下の式３を用いて求めることができる。式３中、Ｔは、上記で求めた代表周期で、Ｆ_ｒは、上記ヒストグラムにおける代表周期Ｔに対応する距離の度数で、Ｎは、判定領域の画素数である。なお、Ｆ_ｒは、代表周期Ｔの度数だけでなく、代表周期を推定する際の誤差を許容するためにＴ±１の度数の合計を用いてもよい。この式３は、代表周期と同じピーク位置間の距離を有するものが、判定領域全体のどの程度の割合を占めているかを信頼度として定義することを意味している。

この信頼度が閾値よりも高い場合に周期性があると判断し、閾値以下である場合には周期性なしと判断するが、この閾値は、予めユーザによって設定することができ、また、動的に決定することも可能である。予めユーザによって設定する場合、シミュレーションや実験を行い、周期性の有無を判断するのに好適な信頼度を求めることにより閾値を決定し、その閾値を設定することができる。動的に決定する場合は、例えば、実際に周期性を有する網点領域と周期性を有しない不連続領域または平坦領域について信頼度を求め、その中間値を閾値として決定することができる。

境界判定部３１は、周期性判定部３０により補間画素を含む画像領域が周期性のある領域（周期領域）であると判定された場合に、その補間画素が本当に周期領域に属しているか否かを判定する。補間画素は、周期領域内または非周期領域内のいずれかに存在し、補間画素の画素値は、同じ領域内のその補間画素の近傍に存在する画素の画素値から推定することが可能である。これは、補間画素を中心とした数個の連続する画素から構成されるパターンが、その近傍に存在するパターンに類似することから、その近傍に存在するパターンから推定可能だからである。

しかしながら、補間画素が周期領域と非周期領域との境界付近に存在する場合、補間画素は周期領域内に存在するのに、その近傍に存在するパターンは非周期領域のものを採用すると、正しく補間することができなくなる。このため、正しい周期領域内のパターンを採用して推定することができるように、境界判定部３１が本当にどちらの領域に属するかを判定する。

その一例として、補間画素を中心として、この補間画素から所定の距離だけ左右に離れた位置に参照領域を設定し、補間画素の左右に設定した参照領域において画像特徴の１つである画素値の分散を個別に求め、左右両方とも分散が閾値以上であれば周期領域に、閾値未満である場合には非周期領域に存在すると判定することができる。

上記所定の距離は、例えば３画素とすることができる。これは、網点が６画素ごとに配置される場合、後述するパターンマッチングに、補間画素を中心としてこの補間画素の左右３画素分をテンプレートとして用いることから、このテンプレートの外側で最も近い位置である、補間画素の左右３画素分離れた位置に参照領域を設定するものである。最も近い位置としているのは、テンプレートにパターンが近似しているものは、テンプレートの近傍に存在していることが多いためである。なお、この距離は３画素に限られるものではなく、適切に判断することができるのであれば、いかなる距離であってもよい。

参照領域は、例えば、補間画素を含む高さ１画素の領域、すなわち画像の１ラインとすることができる。また、参照領域は、上記の判定領域と同様、補間画素を含む任意の高さを有する矩形領域とすることもできる。この領域も、予めユーザによって設定することもできるし、上記判定領域の場合と同様にして、装置が動的に決定することも可能である。この参照領域は、補間画素の左右に限られるものではなく、上下や上下左右等に設定することができ、１以上の領域を設定することができる。

分散は、以下の式４により求めることができる。式４中、ｘ_ｉは、参照領域内のｉ番目にある画素の画素値で、ｘ_ｍは、参照領域内にある画素の画素値の平均値であり、ｎは、参照領域内にある画素の画素数である。なお、この分散は、参照領域内の画素の最大輝度値と最小輝度値との差や、カラー画像の場合には最大の緑成分の値（Ｇ成分値）と最小のＧ成分値との差等で代替することも可能である。

第一画素値生成部３２は、補間方法として例えば、パターンマッチング法を用いて、補間画像の画素値を生成する。パターンマッチング法の具体例として、テンプレートマッチングを用いることができる。テンプレートマッチングは、画像の中から指定した部分の画像であるテンプレートを用い、そのテンプレートと似ている位置を探すもので、テンプレートと画像の中のパターン間の一致度を求めることにより行うことができる。

テンプレートは、例えば、図６（ａ）に示すような処理対象の画像があれば、その画像中の補間すべき画素値が欠落した画素４０を補間画素として特定し、図６（ｂ）に示すように、その補間画素を中心とする所定の領域を切り出すことにより取得することができる。

このテンプレートと、切り出した位置以外の位置にある、このテンプレートと同じサイズのパターンとの一致度を求めて、最も高い一致度を有するパターンを見つけ、そのパターン内の中心に位置する画素の画素値を補間画素の画素値として求めるが、その一致度として、ＳＡＤ(Sum of Absolute Difference)やＳＳＤ(Sum of Squared Difference)等の相違度、相関係数や共分散等の類似度を用いることができる。

ＳＡＤは、テンプレートと比較するパターンを切り出し、テンプレートとパターンの同じ位置にある画素の輝度値の差をそれぞれ求め、その差の絶対値を合計したものであり、この合計値が小さいほど類似し、大きいほど相違することを示すものである。また、ＳＳＤは、その輝度値の差を二乗し、その合計を用いるもので、これも、この合計値が小さいほど類似し、大きいほど相違することを示すものである。相関係数および共分散については上記式１、２により求めることができる。相関係数は、−１から１までの値をとり、その値が１に近づくほど強い正の相関があり、０に近いほど相関が弱く、−１に近づくほど負の相関がある。これは、１に近づくほど類似するパターンであることを意味し、−１に近づくほど反転したパターンに類似したものとなる。このことから、値が大きいほど類似度が高いと判断することができる。共分散は、相関係数に対応することから、その値が大きいほど類似度が高いと判断することができる。

一致度の評価に際して、補間画素の画素値が一致度に影響を与えないように補間画素を一致度の計算から除外するか、比較対象のパターンにおいて同じ位置にある画素の画素値を用いて仮の画素値を設定しておくことが望ましい。なお、類似するパターンは一致度が高い順に複数選択することも可能である。

また、補間画素が画像全体で複数存在する場合、一致度の計算において、今挿入しようとしている補間画素だけでなく、他の補間画素も計算から除外するか、比較対象のパターンの同じ位置にある画素の画素値を用いて仮の画素値を設定しておくことが望ましい。これは、基準パターンや比較対象のパターンに今挿入しようとしている補間画素だけではなく、他の補間画素が含まれている場合があり、補間画素は基本的に画素値が欠落しているか、不正な値を保持しているため、一致度の計算に使用されることは好ましくないからである。なお、既に挿入済みの補間画素の画素値は一致度の計算に使用することができる。また、比較対象パターンに他の補間画素が存在する場合、その補間画素が一致度の計算に用いられないように計算から除外するか、基準パターンの同じ位置にある画素の画素値を用いて仮の画素値を設定しておくことが望ましい。

このようにして探索した最も類似するパターンにおいて、テンプレートにおける補間画素の位置に対応する位置にある画素の画素値を取得する。最も類似するパターンのみを用いる場合には、このようにして取得した画素値を補間画素の画素値とすることができるが、複数の類似するパターンを用いる場合には、それら複数のパターンから取得した画素値を合成し、補間画素の画素値を求めることができる。画素値を合成する方法としては、一様な重みにより平均する方法、類似するパターンの一致度が高いほど大きな重みとなるように制御した上で加重平均を行う方法を挙げることができる。

なお、テンプレートマッチングには、二次元テンプレートマッチング、一次元テンプレートマッチングがある。二次元テンプレートマッチングでは、画像内の補間画素近辺、すなわち補間画素の左右や上下、斜め方向にある任意の領域をパターンとして切り出し、そのパターンとテンプレートとの一致度を求めることにより、最も類似するパターンを探索する。これに対し、一次元テンプレートマッチングでは、補間画素が存在する１ライン内からパターンを切り出し、一致度を求め、最も類似するパターンを探索する。

第二画素値生成部３３は、第一画素値生成部３２とは異なる補間方法を用いて、補間画素の画素値を生成する。異なる補間方法として、内挿法を用いることができる。この内挿法には、最近傍補間（０次補間）、線形補間（一次補間）、放物線補間（二次補間）、キュービック補間（三次補間）、多項式補間、スプライン補間、ラグランジュ補間等があり、線形補間やキュービック補間を二次元に拡張したバイリニア補間やバイキュービック補間等を用いることも可能である。

１ライン上に順に配列する画素Ａ〜Ｆがあり、画素Ｃの画素値が欠落している場合、これを、画素の位置と画素値との関係を示すグラフに表すと、図７（ａ）に示すようなものとなる。画素Ｃの実際の画素値は、白丸で示す値である。この場合、画素の位置が１つ移動するにつれて画素値が一定の値ほど増加しているので、画素の位置と画素値との関係を一次関数で表すことができ、得られた一次関数を用いて補間すべき画素Ｃの画素値を求めることができる（線形補間）。

また、図７（ｂ）に示すような曲線で表される場合は、その曲線に最も適合する補間方法を選択することにより行うことができる。二次関数により表すことができる場合は、放物線補間を、三次関数により表すことができる場合は、キュービック補間を、多項式により表すことができる場合は、多項式補間あるいはラグランジュ補間を、個別の多項式を用いて表現できる場合は、スプライン補間を選択することができる。

ここでは第一画素値生成部３２がパターンマッチング法を採用し、第二画素値生成部３３が内挿法を採用する構成としたが、第一画素値生成部３２が内挿法を採用し、第二画素値生成部３３がパターンマッチング法を採用する構成としてもよい。また、同じ内挿法であるが、線形補間とスプライン補間等の異なる補間法を採用する構成とすることも可能である。

制御部３４は、処理対象の画像を受け付け、それを周期性判定部３０、境界判定部３１へ送り、周期性判定部３０および境界判定部３１が判定した結果を受け取り、それに基づき、第一画素値生成部３２および第二画素値生成部３３のいずれを用いて画素値を生成するかを判断する。制御部３４は、例えば、周期性判定部３０において周期性があると判定され、かつ境界判定部３１により周期領域内と判定された場合に、パターンマッチング法を用いる第一画素値生成部３２を採用し、そうでない場合に内挿法を用いる第二画素値生成部３３を採用することができる。そして、決定した画素値生成部へ画像を送り、それが生成した画素値を受け付け、画素値挿入部３５へ画像と設定した画素の位置情報ともに送る。

画素値挿入部３５は、制御部３４により判定された第一画素値生成部３２または第二画素値生成部３３を採用して生成された画素値を、先に設定された補間画素に挿入する。これにより、補間画素１つ分の補間処理が完了する。補間画素が複数存在する場合には、上記の各部における処理を補間画素の数だけ繰り返す。

これらの各部が各処理を行い、補間画素の画素値を生成し、その画素値により補間画素を補間する処理について、図８に示すフローチャートを参照して説明する。ステップ８００からこの処理を開始し、まず、ステップ８０５において、画素設定部が、画素値を挿入する対象の補間画素を検出し、補間処理すべき補間画素を設定する。この検出は、上述した方法を用いて行うことができる。補間画素が複数存在する場合は、例えばその画素が配置されている座標位置に基づいて順に並べ、順に１つを選択し、その１つを設定することができる。

ステップ８１０において、周期性判定部３０が、補間画素を含む領域を指定し、その領域内で、画素値の変動に周期性を有するか否かを判定する。上述した領域サイズの決定方法、周期性の判定方法を用いて、領域を指定し、周期性の有無を判定する。続いて、ステップ８１５において、補間画素が本当にどちらの領域に存在するかを判定する。この判定には、上記の境界の判定方法、参照領域のサイズ決定方法を採用し、左右の参照領域で個別に分散を求め、求めた分散がいずれの参照領域についても閾値以上であるかを判断することにより行う。閾値以上であれば、補間画素は周期領域に存在すると判定される。

そして、ステップ８２０で、補間画素に用いる補間方法を決定する。これは、制御部３４が、ステップ８１０およびステップ８１５において判定された結果に基づき、第一画素値生成部３２と第二画素値生成部３３のいずれを採用し、補間画素の画素値を生成するかを判断する。ステップ８２５で、第一画素値生成部３２が採用されるか否かが判断される。第一画素値生成部３２は、パターンマッチング法を用いることから、周期性を有し、周期領域に補間画素が存在すると判定された場合に、第一画素値生成部３２が採用されると判断される。

ステップ８２５で第一画素値生成部３２が採用されると判断された場合、ステップ８３０へ進み、第一画素値生成部３２が用いる補間方法により補間画素の画素値を生成する。一方、ステップ８２５で第一画素値生成部３２が採用されないと判断された場合、ステップ８３５へ進み、第二画素値生成部３３が用いる補間方法により補間画素の画素値を生成する。

次にステップ８４０で、ステップ８３０またはステップ８３５で生成された補間画素の画素値を、ステップ８０５において設定した補間画素へ挿入する。この補間画素は、画素値を有しないか、有するにしても不正な値であるため、この補間画素への生成した画素値の挿入により、補間画素に画素値を設定する。そして、ステップ８４５へ進み、すべての補間画素の補間を終えたかを判断する。ステップ８０５において検出した補間画素が複数存在する場合は、そのすべてに生成された画素値が挿入されたかを判定する。

ステップ８４５においてすべての補間画素の補間を終えたと判断された場合はステップ８５０へ進み、この処理を終了する。一方、まだ終えていないと判断された場合、ステップ８０５へ戻り、次の補間画素を設定し、画素値の生成を行い、画素値を挿入する処理を行う。

図９は、画像処理装置の第２実施形態を示した機能ブロック図である。この実施形態では、図２に示す第１実施形態と同様の、周期性判定部５０、境界判定部５１、第一画素値生成部５２、第二画素値生成部５３、制御部５４、画素値挿入部５５を備えるほか、さらに、第一画素値生成部５２または第二画素値生成部５３により生成された補間画素の画素値の妥当性を検証する妥当性検証部５６を備える。このため、第一画素値生成部５２が採用された際に生成された画素値が妥当であるか否かを妥当性検証部５６によって検証し、妥当性がないと判定された場合、第二画素値生成部５３により補間画素の画素値を生成する。

周期性判定部５０、境界判定部５１、第一画素値生成部５２、第二画素値生成部５３、制御部５４、画素値挿入部５５が行う処理については、上述した第１実施形態と同様であるので、ここでは説明を省略し、妥当性検証部５６について説明する。妥当性検証部５６は、例えば、第一画素値生成部５２により生成された画素値が妥当であるか否かを判定する。

妥当性の検証は、第一画素値生成部５２が画素値を生成する際に得られる関連情報を用いて行うことができる。関連情報としては、第一画素値生成部５２が補間方法としてパターンマッチング法を用いる場合、テンプレートと比較する対象のパターンとの相違度または類似度を挙げることができる。相違度または類似度は、上述したＳＡＤ、ＳＳＤ、相関係数、共分散等を用いることができる。

妥当性検証部５６は、第一画素値生成部５２が第一補間方法としてパターンマッチング法を用いて画素値を生成する際に採用した画像内の所定の領域である最適なパターンと、補間画素を含む基準パターンとの相違度または類似度を求め、その相違度が閾値未満またはその類似度が閾値以上であるかを判断することにより、妥当であるかを判断することができる。相違度が閾値未満なら妥当であり、類似度が閾値以上であれば妥当である。

このため、妥当性検証部５６において、相違度または類似度を閾値処理し、相違度が閾値未満または類似度が閾値以上であることを妥当と判断するための条件とすることができる。この閾値も、上述した閾値等と同様に、予めユーザによって設定することもできるし、装置が動的に決定することも可能である。

制御部５４は、これに伴い、第一画素値生成部５２が採用された際に生成された画素値が妥当であるか否かを妥当性検証部５６によって検証し、妥当性がないと判定された場合、第二画素値生成部５３により補間画素の画素値を生成するが、これに限られるものではなく、予め第一画素値生成部５２と第二画素値生成部５３の両方で補間画素の画素値を生成しておき、妥当性検証部５６による検証結果に基づき、いずれかを選択するという並列処理で実現することも可能である。

この図９に示す画像処理装置を用いて、補間画素の画素値を補正する処理について、図１０に示すフローチャートを参照して説明する。ステップ１０００からこの処理を開始し、まず、ステップ１００５において、図９に図示しない画素設定部が、画素値を挿入する対象である補間画素を検出し、補間画素を設定する。この検出は、上述した方法を用いて行うことができる。複数の補間画素が存在する場合は、上記と同様にして、その１つを設定する。

ステップ１０１０において、周期性判定部５０が、補間画素を含む領域内で、画素値の変動に周期性を有するか否かを判定する。上述した領域サイズの決定方法、周期性の判定方法を用いて、周期性を判定する。続いて、ステップ１０１５において、境界判定部５１が、本当に補間画素がどちらの領域に存在するかを判定する。この判定には、上記の境界の判定方法、参照領域のサイズ決定方法を採用し、左右の参照領域で個別に画素値の分散を求め、求めた分散が左右の参照領域でいずれも閾値以上であるかを判断することにより行う。閾値以上であれば、補間画素は周期領域に存在すると判定される。

そして、ステップ１０２０で、補間画素に用いる補間方法を決定する。これは、制御部５４が、ステップ１０１０およびステップ１０１５において判定された結果に基づき、第一画素値生成部５２と第二画素値生成部５３のいずれを採用し、補間画素の画素値を生成するかを判断する。ステップ１０２５で、第一画素値生成部５２が採用されたかが判断される。

ステップ１０２５で第一画素値生成部５２が採用されると判断された場合、ステップ１０３０へ進み、第一画素値生成部５２が用いる補間方法、ここではパターンマッチング法により補間画素の画素値を生成する。続いて、ステップ１０３５において、妥当性検証部５６が第一画素値生成部５２により生成された画素値が妥当であるか否かを検証し、ステップ１０４０において、その画素値が妥当かを判定する。妥当であるか否かは、画素値を生成する際に得られる関連情報、具体的には相違度または類似度を用い、その相違度が閾値未満か、または類似度が閾値以上かを判断することにより行うことができる。

ステップ１０２５で第一画素値生成部５２が採用されないと判断された場合、ステップ１０４５へ進み、第二画素値生成部５３が用いる補間方法、ここでは内挿法により補間画素の画素値を生成する。また、ステップ１０４０で妥当でないと判定された場合も、ステップ１０４５へ進み、第二画素値生成部５３が用いる補間方法により補間画素の画素値を生成する。

ステップ１０４０で、画素値が妥当と判定された場合、またはステップ１０４５で、第二画素値生成部５３により補間画素の画素値が生成された後、ステップ１０５０へ進み、その画素値を、ステップ１００５において検出した補間画素へ挿入する。これにより、その画素値を補間画素の画素値として設定する。そして、ステップ１０５５へ進み、すべての補間画素の補間を終えたかを判断する。ステップ１００５において設定した補間画素が複数存在する場合は、そのすべてに生成された画素値が挿入されたかを判定する。

ステップ１０５５においてすべての補間画素の補間を終えたと判断された場合はステップ１０６０へ進み、この処理を終了する。一方、まだ終えていないと判断された場合、ステップ１００５へ戻り、次の補間画素を設定し、画素値の生成を行い、挿入する処理を行う。

図１１は、画像処理装置の第３実施形態を示した機能ブロック図である。この実施形態では、図９に示す第２実施形態と同様の、周期性判定部６０、境界判定部６１、第一画素値生成部６２、第二画素値生成部６３、制御部６４、画素値挿入部６５、妥当性検証部６６を備えており、これらに加えて、第一画素値生成部６２および第二画素値生成部６３が採用する補間方法とは異なる手法を用いて補間画素の画素値を生成する第三画素値生成部６７を備えている。このため、第一画素値生成部６２が採用された際に生成された画素値が妥当であるか否かを妥当性検証部６６によって検証し、妥当性がないと判定された場合、第三画素値生成部６７により補間画素の画素値を生成し、その画素値が妥当性検証部６６によって検証され、これも妥当性がないと判定された場合に、第二画素値生成部６３により補間画素の画素値を生成するように構成されている。

この第３実施形態では、図９に示す第２実施形態の構成に、第三画素値生成部６７のみが追加された構成とされているが、これに限られるものではなく、第四画素値生成部や第五画素値生成部等をさらに追加し、４つ以上の画素値生成部から構成することも可能である。この場合、各画素値生成部が生成した画素値が妥当であるかを判定し、妥当でないと判定された場合に別の画素値生成部により画素値を生成することができる。

この第３実施形態における周期性判定部６０、境界判定部６１、第一画素値生成部６２、第二画素値生成部６３、制御部６４、画素値挿入部６５、妥当性検証部６６が行う処理については、上述した第２実施形態と同様であり、第三画素値生成部６７も、補間方法が異なるのみで、第一画素値生成部６２や第二画素値生成部６３と同様、補間画素の画素値を生成するものであるので、これらについての説明は省略する。

なお、第一画素値生成部６２が採用された際に生成された画素値が妥当であるか否かを妥当性検証部６６によって検証し、妥当性がないと判定された場合、第三画素値生成部６７により補間画素の画素値を生成し、生成された画素値が妥当であるか否かを妥当性検証部６６によって検証し、妥当性がないと判定された場合、第二画素値生成部６３により補間画素の画素値を生成するが、これに限られるものではなく、予め第一画素値生成部６２と第二画素値生成部６３と第三画素値生成部６７のすべてにおいて補間画素の画素値を生成しておき、妥当性検証部６６による検証結果に基づき、いずれかを選択するという並列処理で実現することも可能である。

この図１１に示す画像処理装置を用いて、補間画素の画素値を補正する処理について、図１２に示すフローチャートを参照して説明する。ステップ１２００からこの処理を開始し、まず、ステップ１２０５において、図１１に図示しない画素設定部が、画素値を挿入する対象である補間画素を検出し、補間画素を設定する。この検出は、上述した方法を用いて行うことができる。この場合も同様にして、補間画素が複数存在するときはその１つを設定する。

ステップ１２１０において、補間画素を含む領域内で、画素値の変動に周期性を有するか否かを判定する。上述した領域サイズの決定方法、周期性の判定方法を用いて、周期性を判定する。続いて、ステップ１２１５において、補間画素が本当にどちらの領域に存在するかを判定する。この判定には、上記の境界の判定方法、参照領域のサイズ決定方法を採用し、左右の参照領域で個別に画素値の分散を求め、求めた分散が左右の参照領域でいずれも閾値以上であるかを判断することにより行う。閾値以上であれば、補間画素は周期領域に存在すると判定される。

そして、ステップ１２２０で、補間画素に用いる補間方法を決定する。これは、制御部６４が、ステップ１２１０およびステップ１２１５において判定された結果に基づき、第一画素値生成部６２、第二画素値生成部６３、第三画素値生成部６７のいずれを採用し、補間画素の画素値を生成するかを判断する。次にステップ１２２５で、第一画素値生成部６２が採用されたかが判断される。

ステップ１２２５で第一画素値生成部６２が採用されると判断された場合、ステップ１２３０へ進み、第一画素値生成部６２が用いる補間方法により補間画素の画素値を生成する。続いて、ステップ１２３５において、妥当性検証部６６が第一画素値生成部６２により生成された画素値が妥当であるか否かを検証し、ステップ１２４０において、その画素値が妥当かを判定する。

妥当性の判断は、第一画素値生成部６２が画素値を生成する際に得られる関連情報を用いて行われる。第一画素値生成部６２において採用される補間方法が、パターンマッチング法である場合、テンプレートと、画素値生成に使用した最適なパターンとの相違度または類似度を関連情報として用い、相違度が閾値未満または類似度が閾値以上であれば妥当と判断することができる。このとき、テンプレートとしては、補間画素を除いたものを用いることもできるし、生成した画素値を挿入した後のものを用いることも可能である。

ステップ１２４０で、妥当でないと判定された場合、ステップ１２４５へ進み、第三画素値生成部６７が用いる補間方法により補間画素の画素値を生成する。続いて、ステップ１２５０において、妥当性検証部６６が第三画素値生成部６７により生成された画素値が妥当であるか否かを検証し、ステップ１２５５において、その画素値が妥当かを判定する。

ステップ１２２５で第一画素値生成部６２が採用されないと判断された場合、またはステップ１２５５で妥当でないと判定された場合、ステップ１２６０へ進み、第二画素値生成部６３が用いる補間方法により補間画素の画素値を生成する。

ステップ１２４０で、画素値が妥当と判定された場合、もしくはステップ１２５５で、画素値が妥当と判定された場合、またはステップ１２６０で画素値が生成された後、ステップ１２６５へ進み、その画素値を、ステップ１２０５において検出した補間画素へ挿入する。そして、ステップ１２７０へ進み、すべての補間画素の補間を終えたかを判断する。ステップ１２０５において検出した補間画素が複数存在する場合は、そのすべてに生成された画素値が挿入されたかを判定する。

ステップ１２７０においてすべての補間画素の補間を終えたと判断された場合はステップ１２７５へ進み、この処理を終了する。一方、まだ終えていないと判断された場合、ステップ１２０５へ戻り、次の補間画素を設定し、画素値の生成を行い、挿入する処理を行う。

画像処理装置の第４実施形態では、図１１に示す第３実施形態と同様の、周期性判定部６０、境界判定部６１、第一画素値生成部６２、第二画素値生成部６３、制御部６４、画素値挿入部６５、妥当性検証部６６、第三画素値生成部６７を備える構成であるため、機能ブロック図は省略するが、周期性判定部６０の判定結果および境界判定部６１の判定結果に基づいて第一画素値生成部６２、第二画素値生成部６３、第三画素値生成部６７を切り替えるように構成される。

補間方法の決定方法の一例として、補間画素を含む領域に周期性があり、補間画素が周期領域内であれば、第一画素値生成部６２を採用し、補間画素を含む領域に周期性があり、補間画素が非周期領域内であれば第二画素値生成部６３を採用し、補間画素を含む領域に周期性がない場合、第三画素値生成部６７を採用することができる。

その他の例としては、補間画素を含む領域の周期が短く、補間画素が周期領域内であれば、第一画素値生成部６２を採用し、補間画素を含む領域の周期が短く、補間画素が非周期領域内であれば、第二画素値生成部６３を採用し、それ以外であれば、第三画素値生成部６７を採用することができる。

この実施形態では、第一画素値生成部６２が採用された場合、その際に生成された画素値が妥当であるか否かを妥当性検証部６６によって検証し、第一画素値生成部６２が採用されない場合、第三画素値生成部６７が採用されたかを判定し、採用された場合は、第三画素値生成部６７により補間画素の画素値を生成し、生成された画素値が妥当であるか否かを妥当性検証部６６によって検証し、第三画素値生成部６７が採用されない場合、第二画素値生成部６３により補間画素の画素値を生成するが、これに限られるものではなく、予め第一画素値生成部６２と第二画素値生成部６３と第三画素値生成部６７のすべてにおいて補間画素の画素値を生成しておき、妥当性検証部６６による検証結果に基づき、いずれかを選択するという並列処理で実現することも可能である。

この図９に示す画像処理装置を用いて、補間画素の画素値を補正する処理について、図１３に示すフローチャートを参照して説明する。ステップ１３００からこの処理を開始し、まず、ステップ１３０５において、画素値を挿入する対象である補間画素を検出し、その補間画素を設定する。この検出は、上述した方法を用いて行うことができる。この場合も同様にして、補間画素が複数存在するときはその１つを設定する。

ステップ１３１０において、補間画素を含む領域内で、画素値の変動に周期性を有するか否かを判定する。上述した領域サイズの決定方法、周期性の判定方法を用いて、周期性を判定する。続いて、ステップ１３１５において、補間画素が本当にどちらの領域に存在するかを判定する。この判定には、上記の境界の判定方法、参照領域のサイズ決定方法を採用し、左右の参照領域で個別に画素値の分散を求め、求めた分散が左右の参照領域でいずれも閾値以上であるかを判断することにより行う。閾値以上であれば、補間画素は周期領域に存在すると判定される。

そして、ステップ１３２０で、補間画素に用いる補間方法を決定する。これは、制御部６４が、ステップ１３１０およびステップ１３１５において判定された結果に基づき、第一画素値生成部６２と第二画素値生成部６３と第三画素値生成部６７のいずれを採用し、補間画素の画素値を生成するかを判断する。次のステップ１３２５では、第一画素値生成部６２が採用されたかが判断される。

ステップ１３２５で第一画素値生成部６２が採用されると判断された場合、ステップ１３３０へ進み、第一画素値生成部６２が用いる補間方法により補間画素の画素値を生成する。続いて、ステップ１３３５において、妥当性検証部６６が第一画素値生成部６２により生成された画素値が妥当であるか否かを検証し、ステップ１３４０において、その画素値が妥当かを判定する。

ステップ１３２５で第一画素値生成部６２が採用されないと判断された場合、ステップ１３４５へ進み、第三画素値生成部６７が採用されたかが判断される。第三画素値生成部６７が採用されると判断された場合、ステップ１３５０へ進み、第三画素値生成部６７が用いる補間方法により補間画素の画素値を生成する。続いて、ステップ１３５５において、妥当性検証部６６が第三画素値生成部６７により生成された画素値が妥当であるか否かを検証し、ステップ１３６０において、その画素値が妥当かを判定する。

ステップ１３４５で第三画素値生成部６７が採用されないと判断された場合、ステップ１３６５へ進み、第二画素値生成部６３が用いる補間方法により補間画素の画素値を生成する。ステップ１３４０で妥当でないと判定された場合、ステップ１３５０へ進み、第三画素値生成部６７が用いる補間方法により補間画素の画素値を生成する。また、ステップ１３６０で妥当でないと判定された場合、ステップ１３６５へ進み、第二画素値生成部６３が用いる補間方法により補間画素の画素値を生成する。

ステップ１３４０で妥当と判定された場合、ステップ１３６０で妥当と判定された場合、ステップ１３６５で画素値が生成された後、ステップ１３７０へ進み、その画素値を、ステップ１３０５において設定した補間画素へ挿入する。そして、ステップ１３７５へ進み、すべての補間画素の補間を終えたかを判断する。ステップ１３０５において設定した補間画素が複数存在する場合は、そのすべてに生成された画素値が挿入されたかを判定する。

ステップ１３７５においてすべての補間画素の補間を終えたと判断された場合はステップ１３８０へ進み、この処理を終了する。一方、まだ終えていないと判断された場合、ステップ１３０５へ戻り、再び補間画素を設定し、画素値の生成を行い、挿入する処理を行う。

本発明では、上述した画像処理装置や、その画像処理装置により実行される画像検査方法のほか、その方法を実現するためのコンピュータ可読なプログラムも提供することが可能である。なお、このプログラムは、ＦＤ、ＣＤ、ＤＶＤ、ＳＤカード、ＵＳＢメモリ等の記録媒体に格納し、そのプログラムが記録された記録媒体として提供することも可能である。

これまで本発明を、画像処理装置および画像検査方法として上述した実施の形態をもって説明してきたが、本発明は上述した実施の形態に限定されるものではなく、他の実施の形態、追加、変更、削除など、当業者が想到することができる範囲内で変更することができ、いずれの態様においても本発明の作用・効果を奏する限り、本発明の範囲に含まれるものである。

１０…画像処理装置、１１…ＭＰＵ、１２…ＲＯＭ、１３…ＲＡＭ、１４…記憶制御用インタフェース、１５…ハードディスク、１６…インタフェース、１７…入出力装置、１８…表示装置、１９…ＶＲＡＭ、２０…グラフィックチップ、２１…ネットワークＩ／Ｆ、３０、５０、６０…周期性判定部、３１、５１、６１…境界判定部、３２、５２、６２…第一画素値生成部、３３、５３、６３…第二画素値生成部、３４、５４、６４…制御部、３５、５５、６５…画素値挿入部、４０…欠落した画素、５６、６６…妥当性検証部、６７…第三画素値生成部

特許第４３３０１６４号公報

Claims (19)

1. 所定の位置にある画素の画素値を生成し、前記画素値により前記画素を補間する画像処理装置であって、
   前記画素を含む画像領域が周期的な画素値の変動を伴う周期領域であるかを判定する周期性判定部と、
   前記周期性判定部により前記周期領域と判定された場合に、前記画素に近隣して複数の参照領域を設定し、前記複数の参照領域に含まれる複数の画素の画素値を用いて導出される画像特徴量が所定の基準を満たすか否かに基づき、前記画素が前記周期領域と非周期領域とのいずれに存在するかを判定する境界判定部と、
   第一補間方法を用いて前記画素の画素値を生成する第一画素値生成部と、
   前記第一補間方法とは異なる第二補間方法を用いて前記画素の画素値を生成する第二画素値生成部と、
   前記周期性判定部と前記境界判定部とにより得られた判定結果に基づき、前記第一画素値生成部と前記第二画素値生成部のいずれを用いて前記画素値を生成するかを判断する制御部と、
   前記制御部により判断された前記第一画素値生成部または前記第二画素値生成部が生成した前記画素値を前記画素に挿入する画素値挿入部とを含む、画像処理装置。
2. 前記第一補間方法は、パターンマッチング法である、請求項１に記載の画像処理装置。
3. 前記第二補間方法は、内挿法である、請求項１または２に記載の画像処理装置。
4. 生成された前記画素値により補間した補間結果が妥当であるかを検証する妥当性検証部をさらに含み、
   前記妥当性検証部が前記第一画素値生成部により生成された前記画素値による補間結果の妥当性を判断し、妥当でないと判断した場合、前記制御部は、前記第一画素値生成部に代えて前記第二画素値生成部により前記画素値を生成させる、請求項１〜３のいずれか１項に記載の画像処理装置。
5. 前記妥当性検証部は、前記第一画素値生成部が前記第一補間方法としてパターンマッチング法を用いて前記画素値を生成する際に採用した画像内の所定の領域であるパターンと、前記画素を含む基準パターンとの相違度が閾値未満または類似度が閾値以上であるかを判断することにより、妥当であるかを判断する、請求項４に記載の画像処理装置。
6. 前記第一補間方法および前記第二補間方法とは異なる第三補間方法を用いて前記画素の画素値を生成する第三画素値生成部をさらに含み、
   前記妥当性検証部が、前記第一画素値生成部により生成された前記画素値による補間結果の妥当性を判断し、妥当でないと判断した場合、前記制御部が、前記第一画素値生成部に代えて前記第三画素値生成部により前記画素値を生成させる、請求項４または５に記載の画像処理装置。
7. さらに、前記妥当性検証部が、前記第三画素値生成部により生成された前記画素値による補間結果の妥当性を判断し、妥当でないと判断した場合、前記制御部が、前記第三画素値生成部に代えて前記第二画素値生成部により前記画素値を生成させる、請求項６に記載の画像処理装置。
8. 前記第一補間方法および前記第二補間方法とは異なる第三補間方法を用いて前記画素の画素値を生成する第三画素値生成部をさらに含み、
   前記制御部が、前記周期性判定部と前記境界判定部とにより得られた判定結果に基づき、前記第一画素値生成部と前記第二画素値生成部と前記第三画素値生成部のいずれを用いて前記画素値を生成するかを判断する、請求項１〜５のいずれか１項に記載の画像処理装置。
9. 前記第一補間方法は、二次元テンプレートマッチングであり、前記第二補間方法は、内挿法であり、前記第三補間方法は、一次元テンプレートマッチングである、請求項６〜８のいずれか１項に記載の画像処理装置。
10. 画像処理装置により所定の位置にある画素の画素値を生成し、前記画素値により前記画素を補間する方法であって、
    前記画素を含む画像領域が周期的な画素値の変動を伴う周期領域であるかを判定する周期性判定ステップと、
    前記周期性判定ステップで前記周期領域と判定された場合に、前記画素に近隣して複数の参照領域を設定し、前記複数の参照領域に含まれる複数の画素の画素値を用いて導出される画像特徴量が所定の基準を満たすか否かに基づき、前記画素が前記周期領域と非周期領域とのいずれに存在するかを判定する境界判定ステップと、
    前記周期性判定ステップと前記境界判定ステップとにより得られた判定結果に基づき、前記画像処理装置が備える第一補間方法を用いて前記画素の画素値を生成する第一画素値生成部と、前記第一補間方法とは異なる第二補間方法を用いて前記画素の画素値を生成する第二画素値生成部のいずれを用いて前記画素値を生成するかを判断する判断ステップと、
    前記判断ステップで判断された前記第一画素値生成部または前記第二画素値生成部が生成した前記画素値を前記画素に挿入する挿入ステップとを含む、画素補間方法。
11. 前記第一補間方法は、パターンマッチング法である、請求項１０に記載の画素補間方法。
12. 前記第二補間方法は、内挿法である、請求項１０または１１に記載の画素補間方法。
13. 生成された前記画素値により補間した補間結果が妥当であるかを検証する検証ステップと、前記検証ステップで前記第一画素値生成部により生成された前記画素値による補間結果が妥当でないと判断された場合、前記第一画素値生成部に代えて前記第二画素値生成部により前記画素値を生成するステップとを含む、請求項１０〜１２のいずれか１項に記載の画素補間方法。
14. 前記検証ステップは、前記第一画素値生成部が前記第一補間方法としてパターンマッチング法を用いて前記画素値を生成する際に採用した画像内の所定の領域であるパターンと、前記画素を含む基準パターンとの相違度が閾値未満または類似度が閾値以上であるかを判断することにより、妥当であるかを判断する、請求項１３に記載の画素補間方法。
15. 前記画像処理装置は、前記第一補間方法および前記第二補間方法とは異なる第三補間方法を用いて前記画素の画素値を生成する第三画素値生成部をさらに含み、
    前記方法は、前記検証ステップで前記第一画素値生成部により生成された前記画素値による補間結果が妥当でないと判断された場合、前記第一画素値生成部に代えて前記第三画素値生成部により前記画素値を生成するステップをさらに含む、請求項１３または１４に記載の画素補間方法。
16. さらに、前記検証ステップで前記第三画素値生成部により生成された前記画素値による補間結果が妥当でないと判断された場合、前記第三画素値生成部に代えて前記第二画素値生成部により前記画素値を生成するステップを含む、請求項１５に記載の画素補間方法。
17. 前記画像処理装置は、前記第一補間方法および前記第二補間方法とは異なる第三補間方法を用いて前記画素の画素値を生成する第三画素値生成部をさらに含み、
    前記判断ステップでは、前記周期性判定ステップと前記境界判定ステップとにより得られた判定結果に基づき、前記第一画素値生成部と前記第二画素値生成部と前記第三画素値生成部のいずれを用いて前記画素値を生成するかを判断する、請求項１０〜１４のいずれか１項に記載の画素補間方法。
18. 前記第一補間方法は、二次元テンプレートマッチングであり、前記第二補間方法は、内挿法であり、前記第三補間方法は、一次元テンプレートマッチングである、請求項１５〜１７のいずれか１項に記載の画素補間方法。
19. 請求項１０〜１８のいずれか１項に記載の画素補間方法をコンピュータに実行させるためのプログラム。