JP2006065407A - 画像処理装置及びその方法、プログラム - Google Patents

画像処理装置及びその方法、プログラム Download PDF

Info

Publication number
JP2006065407A
JP2006065407A JP2004244128A JP2004244128A JP2006065407A JP 2006065407 A JP2006065407 A JP 2006065407A JP 2004244128 A JP2004244128 A JP 2004244128A JP 2004244128 A JP2004244128 A JP 2004244128A JP 2006065407 A JP2006065407 A JP 2006065407A
Authority
JP
Japan
Prior art keywords
comparison
correction amount
image
area
position correction
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2004244128A
Other languages
English (en)
Other versions
JP4125273B2 (ja
Inventor
Hirotaka Shiiyama
弘隆 椎山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2004244128A priority Critical patent/JP4125273B2/ja
Priority to US11/202,076 priority patent/US7418135B2/en
Publication of JP2006065407A publication Critical patent/JP2006065407A/ja
Application granted granted Critical
Publication of JP4125273B2 publication Critical patent/JP4125273B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/50Extraction of image or video features by performing operations within image blocks; by using histograms, e.g. histogram of oriented gradients [HoG]; by summing image-intensity values; Projection analysis
    • G06V10/507Summing image-intensity values; Histogram projection analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/75Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
    • G06V10/751Comparing pixel values or logical combinations thereof, or feature values having positional relevance, e.g. template matching
    • G06V10/7515Shifting the patterns to accommodate for positional errors

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Computing Systems (AREA)
  • Artificial Intelligence (AREA)
  • Health & Medical Sciences (AREA)
  • Databases & Information Systems (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Abstract

【課題】比較元画像と比較先画像間の類似比較を行うための比較領域の位置を決定する画像処理装置等を提供する。
【解決手段】決定された位置補正量で、比較元領域の位置を補正する。補正された比較元領域と比較先領域を指定された数に分割する。分割ブロック毎に、比較元領域と比較先領域の特徴量を算出する。複数の位置をずらした後の類似距離を、両者が重複する重複領域内の各ブロックの特徴量に基づいて算出する。算出した類似距離の内、最小の類似距離に対する位置ずらしパターンと、ブロックのサイズに基づき次回の位置補正量を算出する。位置補正量が算出される毎に、前回の類似比較における分割数を増加させたブロック分割数を指定して、上記処理を再帰的に実行する再帰処理を実行する。位置補正量が算出される毎に、再帰処理を終了するか否か判定し、終了する場合、その時点の前記位置補正量を、比較元領域の位置補正量とする。
【選択図】 図2

Description

本発明は、比較元画像と比較先画像間の類似比較を行うための比較領域の位置を決定する画像処理装置及びその方法、プログラムに関するものである。
連続的に入力される検査対象画像と参照画像とを比較して欠陥検出を行うパターン検査に関する従来技術としては、特許文献1や特許文献2が知られている。
特許文献1では、検査対象画像である画像信号から取得したN×N画素の画像信号と、メモリに記憶された参照画像である画像信号から取得したN×N画素の画像信号との間で、水平及び垂直方向に1画素づつあらかじめ指定した最大画素数Mまでシフトさせながら画像信号間の差分画像信号を算出する。さらに、加算回路でその差分画像信号の絶対値加算を行い、最小値検出回路で最小となる値を検出することにより、パターンエッジでの差異を小さくし、欠陥部のみを検出する。
また、特許文献2では、様々な微細なパターンが混在する被検査物から連続的に検出される電子線画像信号を基に、複数の段階(画素数で広い領域の段階と画素数で狭い領域の段階と)で位置合わせをすることによって、高精度なサブピクセル単位での位置合わせ不良を低減することによって、正規の微細なパターンの誤検出頻度を低減すると共に微細なパターン上に生じた微細な欠陥を見落としすることなく正確に検査する。
特開平5−232038号公報 特開2001−22935号公報
しかしながら、特許文献1では、シフト範囲が広い場合には、計算コストが非常に高くなり、また、N×N画素のブロックの精度でしか、画像信号間の差異がわからないという欠点があった。
また、特許文献2においては、荒い解像度で位置ずらしマッチングを行い、合致度の高さとその連続性から次の解像度における位置ずらし範囲を制限して高速化と高精度化を両立している。
しかしながら、画素数の多い分割ブロックとする初期マッチングの段階では、画素単位のステップで、分割ブロックの位置をずらしながらマッチングを行う。そのため、ブロックサイズに近い位置ずれに対して耐性のあるマッチングを行うとすれば、広い領域のブロックの画素サイズが数十〜数百とすれば、その二乗オーダーの比較処理をこの段階で行わなければならない。この位置ずらしによるマッチングの距離の極を考慮して、次段の詳細マッチングでより制限された範囲で位置ずらしを行い詳細マッチングを行い、その差異を検出する。この場合、精度は高くなるものの、計算コストは膨大なものとなり、高速な検索は望めない。
本発明は上記の課題を解決するためになされたものであり、高精度にかつ効率的に、比較元画像と比較先画像間の類似比較を行うための比較領域の位置を決定することができる画像処理装置及びその方法、プログラムを提供することを目的とする。
上記の目的を達成するための本発明による画像処理装置は以下の構成を備える。即ち、
比較元画像と比較先画像間の類似比較を行うための比較領域の位置を決定する画像処理装置であって、
前記比較元画像と前記比較先画像間で比較する比較領域として、比較元比較領域と比較先比較領域を決定する決定手段と、
前記比較領域を分割するブロック分割数を指定する指定手段と、
決定された位置補正量で、前記比較元比較領域の位置を補正する補正手段と、
前記指定手段で指定されたブロック分割数で、前記補正手段で補正された比較元比較領域と前記比較先比較領域それぞれを複数ブロックに分割する分割手段と、
前記分割手段で分割されたブロック毎に、前記補正手段で補正された比較元比較領域と前記比較先比較領域の特徴量を算出する特徴量算出手段と、
前記補正手段で補正された比較元比較領域と前記比較先比較領域間の類似比較を、その比較元比較領域の位置をずらして行うための複数種類の位置ずらしパターンを記憶する記憶手段と、
前記複数種類の位置ずらしパターンそれぞれを使用して、その位置をずらした後の前記補正手段で補正された比較元比較領域と前記比較先比較領域間の類似距離を、両者が重複する重複領域内の各ブロックの特徴量に基づいて算出する類似距離算出手段と、
前記類似距離算出手段で算出した類似距離の内、最小の類似距離に対する位置ずらしパターンと、前記ブロックのサイズに基づいて、次回の前記類似比較を行う際の前記比較元比較領域の位置を補正するための位置補正量を算出する位置補正量算出手段と、
前記位置補正量算出手段によって位置補正量が算出される毎に、前回の前記類似比較におけるブロック分割数を増加させたブロック分割数を前記指定手段によって指定して、前記補正手段から前記位置補正量算出手段までの各手段を再帰的に実行する再帰処理を実行手段と、
前記位置補正量算出手段によって位置補正量が算出される毎に、前記再帰処理を終了するか否かを判定する判定手段と、
前記判定手段の判定の結果、前記再帰処理を終了する場合、その時点の前記位置補正量を、前記比較元比較領域の最終的な位置補正量として確定する確定手段と
を備える。
また、好ましくは、前記補正手段による補正を行う前の段階で、前記決定手段で決定した前記比較元比較領域と前記比較先比較領域間のサイズが異なる場合、そのサイズが等しくなるように、少なくとも一方の比較領域を変倍する変倍手段を更に備える。
また、好ましくは、前記確定手段で確定した位置補正量に基づいて、前記比較元比較領域と前記比較先比較領域間の差分情報を生成する生成手段を更に備える。
また、好ましくは、前記補正手段による補正を行う前の段階で、前記決定手段で決定した前記比較元比較領域と前記比較先比較領域間の特徴量レベルが異なる場合、その特徴量レベルが等しくなるように、少なくとも一方の比較領域の特徴量レベルを変換するレベル変換手段を更に備える。
また、好ましくは、前記特徴量算出手段は、
前記比較元比較領域と前記比較先比較領域の両者がカラー画像である場合、前記分割手段で分割されたブロック毎に、そのカラー画像中の各カラーチャネルの平均を前記特徴量として算出し、
前記比較元比較領域と前記比較先比較領域の一方がカラー画像で他方がグレースケール画像、あるいは両者がグレースケール画像である場合は、前記分割手段で分割されたブロック毎に、その画像の平均輝度を前記特徴量として算出し、
前記比較元比較領域と前記比較先比較領域の少なくとも一方が2値画像である場合、前記分割手段で分割されたブロック毎に、その2値画像の2値の過半をしめるものを特徴量として算出する。
また、好ましくは、前記生成手段は、
前記比較元比較領域と前記比較先比較領域の両者がカラー画像である場合、前記確定手段で確定した位置補正量に基づいて、カラー画像に関する前記差分情報を生成し、
前記比較元比較領域と前記比較先比較領域の一方がカラー画像で他方がグレースケール画像、あるいは両者がグレースケール画像である場合は、前記確定手段で確定した位置補正量に基づいて、グレースケール画像に関する前記差分情報を生成し、
前記比較元比較領域と前記比較先比較領域の少なくとも一方が2値画像である場合、前記確定手段で確定した位置補正量に基づいて、2値画像に関する前記差分情報を生成する。
また、好ましくは、前記補正手段による補正を行う前の段階で、前記決定手段で決定した前記比較元比較領域と前記比較先比較領域間のサイズが異なる場合、そのサイズが等しくなるように、少なくとも一方の比較領域を変倍する変倍手段を更に備え、
前記生成手段は、前記確定手段で確定した位置補正量に基づいて、前記変倍手段による変倍後の前記比較元比較領域及び前記比較先比較領域間の差分情報を生成する。
また、好ましくは、前記複数種類の位置ずらしパターンで規定される位置ずらし方向は、水平2方向、鉛直2方向、不動の1方向の計5方向である。
また、好ましくは、前記複数種類の位置ずらしパターンで規定される位置ずらし方向は、水平2方向、鉛直2方向、斜め4方向、不動の1の計9方向である。
また、好ましくは、前記指定手段は、前回の前記類似比較におけるブロック分割数に対して所定定数を乗じることで、該ブロック分割数よりも大きいブロック分割数を算出するブロック分割数算出手段を備え、
前記実行手段は、前記ブロック分割数算出手段で算出したブロック分割数が上限ブロック分割数を越えない限り、前記位置補正量算出手段によって位置補正量が算出される毎に、前記ブロック分割数算出手段で算出したブロック分割数を新たなブロック分割数として更新する。
また、好ましくは、前記位置補正量算出手段は、
前記類似距離算出手段で算出した類似距離の内、前記最小の類似距離の第一定数倍以内に収まる2番目に小さい類似距離が存在する場合、これらの類似距離に対する位置ずらしパターンと前記ブロックのサイズに基づいて、次回の前記類似比較を行う際の前記比較元比較領域の位置を補正するための位置補正量を算出し、
前記第一定数倍以内に収まる2番目に小さい類似距離が存在しない場合、前記最小の類似距離に対する位置ずらしパターンと前記ブロックのサイズに基づいて、次回の前記類似比較を行う際の前記比較元比較領域の位置を補正するための位置補正量を算出する。
また、好ましくは、前記指定手段は、前記ブロック分割数として、前記比較領域を水平方向に分割する水平ブロック分割数と鉛直方向に分割する鉛直ブロック分割数を指定し、
前記位置補正量算出手段は、前記水平方向に対応する横方向成分と前記鉛直方向に対応する縦方向成分からなる前記位置補正量を算出するものであり、
前回の前記類似比較における前記水平ブロック分割数に対して所定定数を乗じて得られる水平ブロック分割数が上限水平ブロック分割数を越えている場合、前記位置補正量の縦方向成分を、前記位置ずらしパターンの縦方向成分に前記鉛直ブロック分割数を乗じた値に設定し、該位置補正量の横方向成分を、該位置ずらしパターンの横方向成分の値に設定し、
前回の前記類似比較における前記鉛直ブロック分割数に対して所定定数を乗じて得られる鉛直ブロック分割数が上限鉛直ブロック分割数を越えている場合、前記位置補正量の縦方向成分を、前記位置ずらしパターンの縦方向成分の値に設定し、該位置補正量の横方向成分を、該位置ずらしパターンの横方向成分に前記水平ブロック分割数を乗じた値に設定し、
前回の前記類似比較における前記水平ブロック分割数に対して所定定数を乗じて得られる水平ブロック分割数が上限水平ブロック分割数を越えていて、かつ前記鉛直ブロック分割数に対して所定定数を乗じて得られる鉛直ブロック分割数が上限鉛直ブロック分割数を越えている場合、前記位置補正量の縦方向成分を、前記位置ずらしパターンの縦方向成分に前記鉛直ブロック分割数を乗じた値に設定し、該位置補正量の横方向成分を、該位置ずらしパターンの横方向成分に前記水平ブロック分割数を乗じた値に設定する。
また、好ましくは、前記判定手段は、前記指定手段で指定されたブロック分割数が上限ブロック分割数になった後の前記再帰処理の処理回数に基づいて、前記再帰処理を終了するか否かを判定する。
また、好ましくは、前記判定手段は、前記指定手段で指定されたブロック分割数が上限ブロック分割数になった後の前記再帰処理の処理回数と、判定時の前記位置補正量に基づいて、前記再帰処理を終了するか否かを判定する。
また、好ましくは、前記判定手段は、前記再帰処理の処理回数と、判定時の前記位置補正量、前記ブロック分割数及び前記最小の類似距離に基づいて、前記再帰処理を終了するか否かを判定する。
また、好ましくは、前記指定手段が指定するブロック分割数の上限ブロック分割数は、前記比較領域のサイズである。
また、好ましくは、前記指定手段は、前回の前記類似比較におけるブロック分割数に対して所定定数を乗じることで、該ブロック分割数よりも大きいブロック分割数を算出するブロック分割数算出手段を備え、
前記所定定数は、1.0〜2.0の間の値である。
また、好ましくは、前記生成手段は、前記差分情報を、前記比較元比較領域と前記比較先比較領域間の対応する画素同士の差分画素値、前記画素同士の差分絶対画素値の累積値を比較領域内の画素数で割った値、あるいは前記比較元比較領域と前記比較先比較領域それぞれのサイズに換算した座標情報、あるいはそれらの組み合わせに基づいて生成する。
また、好ましくは、前記生成手段は、前記比較元比較領域と前記比較先比較領域間の対応する画素同士の差分画素値の内、所定閾値以上の差分画素値を取得する取得手段と、
前記取得手段で取得した差分画素値を量子化する量子化手段とを備え、
前記比較元比較領域において、前記量子化手段の各量子化レベルに属する差分画素値を持つ画素を、各量子化レベル毎に異なる色で表示する画像を前記差分情報として生成する。
また、好ましくは、前記生成手段は、前記比較元比較領域と前記比較先比較領域間の対応する画素同士の差分画素値の内、所定閾値以上の差分画素値を取得する取得手段とを備え、
前記比較元比較領域において、前記取得手段で取得した差分画素値に対応する画素を、所定色で表示する画像を前記差分情報として生成する。
また、好ましくは、前記所定閾値は、0を含む正の値である。
上記の目的を達成するための本発明による画像処理方法は以下の構成を備える。即ち、
比較元画像と比較先画像間の類似比較を行うための比較領域の位置を決定する画像処理方法であって、
前記比較元画像と前記比較先画像間で比較する比較領域として、比較元比較領域と比較先比較領域を決定する決定工程と、
前記比較領域を分割するブロック分割数を指定する指定工程と、
決定された位置補正量で、前記比較元比較領域の位置を補正する補正工程と、
前記指定工程で指定されたブロック分割数で、前記補正工程で補正された比較元比較領域と前記比較先比較領域それぞれを複数ブロックに分割する分割工程と、
前記分割工程で分割されたブロック毎に、前記補正工程で補正された比較元比較領域と前記比較先比較領域の特徴量を算出する特徴量算出工程と、
前記補正工程で補正された比較元比較領域と前記比較先比較領域間の類似比較を、その比較元比較領域の位置をずらして行うための複数種類の位置ずらしパターンそれぞれを使用して、その位置をずらした後の前記補正工程で補正された比較元比較領域と前記比較先比較領域間の類似距離を、両者が重複する重複領域内の各ブロックの特徴量に基づいて算出する類似距離算出工程と、
前記類似距離算出工程で算出した類似距離の内、最小の類似距離に対する位置ずらしパターンと、前記ブロックのサイズに基づいて、次回の前記類似比較を行う際の前記比較元比較領域の位置を補正するための位置補正量を算出する位置補正量算出工程と、
前記位置補正量算出工程によって位置補正量が算出される毎に、前回の前記類似比較におけるブロック分割数を増加させたブロック分割数を前記指定工程によって指定して、前記補正工程から前記位置補正量算出工程までの各工程を再帰的に実行する再帰処理を実行工程と、
前記位置補正量算出工程によって位置補正量が算出される毎に、前記再帰処理を終了するか否かを判定する判定工程と、
前記判定工程の判定の結果、前記再帰処理を終了する場合、その時点の前記位置補正量を、前記比較元比較領域の最終的な位置補正量として確定する確定工程と
を備える。
上記の目的を達成するための本発明によるプログラムは以下の構成を備える。即ち、
比較元画像と比較先画像間の類似比較を行うための比較領域の位置を決定する画像処理を実現するプログラムであって、
前記比較元画像と前記比較先画像間で比較する比較領域として、比較元比較領域と比較先比較領域を決定する決定工程のプログラムコードと、
前記比較領域を分割するブロック分割数を指定する指定工程のプログラムコードと、
決定された位置補正量で、前記比較元比較領域の位置を補正する補正工程のプログラムコードと、
前記指定工程で指定されたブロック分割数で、前記補正工程で補正された比較元比較領域と前記比較先比較領域それぞれを複数ブロックに分割する分割工程のプログラムコードと、
前記分割工程で分割されたブロック毎に、前記補正工程で補正された比較元比較領域と前記比較先比較領域の特徴量を算出する特徴量算出工程のプログラムコードと、
前記補正工程で補正された比較元比較領域と前記比較先比較領域間の類似比較を、その比較元比較領域の位置をずらして行うための複数種類の位置ずらしパターンそれぞれを使用して、その位置をずらした後の前記補正工程で補正された比較元比較領域と前記比較先比較領域間の類似距離を、両者が重複する重複領域内の各ブロックの特徴量に基づいて算出する類似距離算出工程のプログラムコードと、
前記類似距離算出工程で算出した類似距離の内、最小の類似距離に対する位置ずらしパターンと、前記ブロックのサイズに基づいて、次回の前記類似比較を行う際の前記比較元比較領域の位置を補正するための位置補正量を算出する位置補正量算出工程のプログラムコードと、
前記位置補正量算出工程によって位置補正量が算出される毎に、前回の前記類似比較におけるブロック分割数を増加させたブロック分割数を前記指定工程によって指定して、前記補正工程から前記位置補正量算出工程までの各工程を再帰的に実行する再帰処理を実行工程のプログラムコードと、
前記位置補正量算出工程によって位置補正量が算出される毎に、前記再帰処理を終了するか否かを判定する判定工程のプログラムコードと、
前記判定工程の判定の結果、前記再帰処理を終了する場合、その時点の前記位置補正量を、前記比較元比較領域の最終的な位置補正量として確定する確定工程のプログラムコードと
を備える。
本発明によれば、高精度にかつ効率的に、比較元画像と比較先画像間の類似比較を行うための比較領域の位置を決定することができる画像処理装置及びその方法、プログラムを提供できる。
以下、本発明の実施の形態について図面を用いて詳細に説明する。
<装置構成>
図1は本発明の実施形態の画像処理装置の構成例を示す図である。
図1において、101はCPUであり、本実施形態の画像処理(あるいは画像検索処理)における各種演算・制御を実行する。102はROMであり、本画像処理装置の起動時に実行するブートプログラムや各種の固定データを格納する。
103はRAMであり、CPU101が処理するための制御プログラムを格納すると共に、CPU101が各種制御を実行する際の作業領域を提供する。例えば、RAM103は、その記憶領域に、本発明の画像処理を行うプログラムである比較判定モジュール103aの他、比較元画像、比較先画像、スケーリング画像や、各種処理を行うための作業領域、処理に関する処理情報(処理用パラメータ、各種カウンタ値、閾値等)を記憶している。
104はキーボード、105はマウスであり、ユーザによる処理モード指定等の各種入力操作環境を提供する。106は外部記憶装置であり、ハードディスクやフロッピー(登録商標)ディスク、CD−ROM等で構成される。107はネットワークインタフェースを有するNIC(ネットワークインタフェースコントローラ)であり、ネットワーク上の各機器との通信を可能とする。
108は表示装置であり、LCDやCRT等で構成される。109は外部機器(例えば、画像入力装置110)を接続するためのインタフェース(I/F)である。110は画像入力装置であり、イメージスキャナやデジタルカメラ等で構成される。また、111は本画像処理装置の各種構成要素を相互に接続するバスである。
尚、比較元画像や比較先画像は、RAM103以外に、外部記憶装置に記憶されていても良く、更には、ネットワーク上の外部機器あるいは画像入力装置110から取得されても良い。
次に、本実施形態の画像処理装置の処理概要について、図2を用いて説明する。
図2は本発明の実施形態の画像処理装置の処理概要を示すフローチャートである。
まず、ステップS201において、画像入力元(例えば、外部記憶装置106や画像入力装置110等)からメモリ(例えば、RAM103)へ比較元画像と比較先画像を、それぞれ読み込む。
次に、ステップS202において、比較元画像と比較先画像間の比較領域として、比較元比較領域及び比較先比較領域を決定する。尚、この比較領域は、ユーザによって手動で決定しても良いし、画像処理装置が自動で決定するようにしても良い。
自動で決定する場合には、比較元画像と比較先画像それぞれに対して水平方向及び鉛直方向に輝度値を射影したヒストグラムを作成し、その輝度ヒストグラムの分布から、比較対象のオブジェクトの最外接矩形を取得する。この例を図3に示す。そして、この輝度ヒストグラムを閾値処理し、水平方向及び鉛直方向に閾値以上のヒストグラム区間を決定して、オブジェクトの最外接矩形を取得する。本実施形態では、この最外接矩形で規定される矩形領域を比較領域(比較範囲)として決定する。
次に、ステップS203において、比較元画像と比較先画像間の相似比を算出し、この相似比に基づいて、比較元画像が大きければ比較元画像に縮小処理を施して新たな比較元画像を生成し、その比較領域の座標情報も縮小処理に合わせて補正する。
一方、比較先画像が大きければ比較先画像に縮小処理を施して新たな比較先画像を生成し、その比較領域の座標情報も縮小処理に合わせて補正する。
ここで、比較元画像と比較先画像それぞれの比較領域のサイズを厳密に合わせる処理は、非常に重要である。これは、後述する比較領域のブロック分割では、比較領域を縦横複数のグリッドにブロック分割を行うが、この比較領域のサイズが異なるとブロック分割数で縦横サイズを割って1ブロックあたりのサイズを得る際に発生する剰余が異なる。
ここで、図4に、比較元画像と比較先画像間の比較領域の相似比が1:2の場合の剰余例を示すが、剰余の値が異なるため、比較元画像と比較先画像に同じ条件で剰余をブロックに割り振れない。そのため、このような場合には、補正位置を算出する処理の精度に大きく悪影響を与えることになる。
従って、比較元画像及び比較先画像を同じサイズに縮小することにより、比較先画像と比較元画像間で同じ剰余を発生させ対等な関係にすることができ、ブロック分割時の剰余が非常に悪い影響を与える問題を回避することが可能となる。
この縮小処理によって、比較領域のサイズは、比較元画像と比較先画像で同じサイズとなる。ここで、比較領域のサイズの内、横サイズ(横画素数)をImgH、比較領域の縦サイズ(縦画素数)をImgVとする。
次に、ステップS204において、比較対象画像間の特徴量レベル(色数及び階調数)を特徴量レベルの低い方へ合わせるレベル変換処理を実行する。
具体的には、比較対象画像(比較元画像と比較先画像)の双方がカラー画像である場合、あるいは2つともグレースケール画像である場合、あるいは2つとも2値画像である場合には変換を行わない。
あるいは、比較対象画像がカラー画像とグレースケール画像の組み合わせである場合、カラー画像の方をグレースケール画像へ変換する。更に、あるいは、比較対象画像のいずれか片方が2値画像である場合、他方を2値画像へ変換する。
これにより、比較対象画像の特徴量レベル(色数及び階調数)を特徴量レベルの低い方へ合わせることが可能となる。
次に、ステップS205において、比較処理の初期値を設定する。
具体的には、比較領域の横画素数ImgHより小さい水平方向の上限ブロック分割数Dh_Mを設定し、比較領域の縦画素数ImgVより小さい鉛直方向の上限ブロック分割数Dv_Mを設定する。
また、水平方向及び鉛直方向における初期値ブロック分割数(Vh,Vv)には、比較領域の縦横画素数より十分小さな値を設定するが、余りに小さいと、これを利用した後述する再帰処理回数が増え、処理時間が掛かることになる。逆に、大きすぎて、比較領域を分割した1ブロックの範囲に位置ずれ量が収まらないと、原理的に位置ずれ補正処理が収束できない恐れがある。
従って、比較領域の精度を予測し、その誤差がブロックサイズに十分収まるような初期値ブロック分割数を設定することが好ましい。
また、次の比較処理に用いるブロック分割数を、現在のブロック分割数に第二定数βを乗じた値とし、処理を繰り返す毎に高い精度の位置補正値に更新してゆくが、この第二定数βは、1.0よりは大きく2.0程度を上限、好ましくは2.0に設定すると良い。
尚、第二定数βに小さな値を用いる程、位置補正処理の収束がより安全になるが、再帰処理回数が増え処理に時間が掛かるため、用途や目的に応じて、所望の値を設定すれば良い。
ステップS206において、初期化処理を実行する。
具体的には、X(横)方向及びY(縦)方向に関する位置補正量(Cx,Cy)を0に初期化し、比較領域の縦横の画素数を縦横ブロック分割数として比較処理を行った回数カウンタKmも0に初期化し、更に、ブロック分割数(Vh,Vv)がそれぞれ上限ブロック分割数(Dh_M,Dv_M)に達したことを示すフラグFSh及びフラグFSvも0に初期化する。
ステップS207において、ステップS208〜ステップS216の再帰処理の終了条件を満足しているか否かを判定する。この終了条件とは、再帰処理回数の制御を行うためのものであるが、これの詳細については後述する。終了条件を満足している場合(ステップS207でYES)、ステップS217に進む。一方、終了条件を満足していない場合(ステップS207でNO)、ステップS208に進む。
ステップS208において、位置補正量(Cx,Cy)とブロック分割数(Vh,Vv)を指定し、複数種類のブロックずらしパターンを用いる比較処理を行い、次の比較処理で用いる位置補正量(Cx,Cy)と最小の類似距離Dminを算出する。
ここで、ステップS208の比較処理の詳細について、図5を用いて説明する。
図5は本発明の実施形態の比較処理の詳細を示すフローチャートである。
ステップS501において、指定された位置補正量(Cx,Cy)で、比較元画像の比較領域の位置を補正して、その比較領域を指定されたブロック分割数(Vh,Vv)でブロック分割する。また、比較先画像の比較領域を指定されたブロック分割数(Vh,Vv)でブロック分割する。
尚、位置補正量(Cx,Cy)を適用する画像は、比較元画像あるいは比較先画像のどちらでも良いが、本実施形態では、比較元画像に位置補正量(Cx,Cy)を適用して位置補正を行う例で説明する。
ステップS502において、ブロック分割された比較領域の各ブロックの平均特徴量を算出する。
この算出は、比較対象画像の双方がカラー画像である場合には、カラー画像中の各カラーチャンネルの平均を平均特徴量とする。また、比較対象画像がカラー画像とグレースケール画像の組み合わせ、あるいは2つともグレースケール画像である場合には、画像中の平均輝度を平均特徴量とする。更に、比較対象画像のいずれか片方が2値画像である場合には、ブロック内の2値の過半を占める値を平均特徴量とする。
これにより、2つの画像の種類が異なっても、情報量の低い方に合わせて平均特徴量を算出して、両者を比較することが可能となる。
ステップS503において、位置ずらしパターンiを示すカウンタiを1に初期化する。ステップS504において、カウンタiの値が9以下であるか否かを判定する。カウンタiの値が9以下である場合(ステップS504でYES)、ステップS505に進む。一方、カウンタiの値が9より大きい場合(ステップS504でNO)、ステップS508に進む。
尚、このステップS504の判定は、予め用意された位置ずらしパターンのそれぞれを用いた、類似比較処理の完了の是非を判定するものである。特に、本実施形態では、9種類(9方向)の位置ずらしパターンの例を説明するが、これに限定されず、任意の数(例えば、5方向)の位置ずらしパターンを使用することが可能である。
ここで、位置ずらしパターンの一例について、図6を用いて説明する。
図6は本発明の実施形態の位置ずらしパターンの一例を示す図である。
図6では、9個の位置ずらしパターンを示している。図6の場合は、位置ずらしパターン1〜9が、カウンタiの値に応じて選択されることになる。
また、図6では、各位置ずらしパターンにおける位置ずらし方向(位置補正量)として、その単位ベクトルV(i)=(xi,yi)で示されている。ここで、通常、単位ベクトルとは本来、大きさ1のベクトルを示すが、位置ずらしパターン6〜9の単位ベクトルV(6)〜V(9)は、位置ずらしパターン2〜5の単位ベクトルV(2)〜V(5)を用いて合成された大きさが1ではない単位ベクトル(√2)ではあるが、説明の便宜上、位置ずらしパターン6〜9に関しても単位ベクトルと言う表現を用いる。
図6において、例えば、位置ずらしパターン1は、位置補正量V(1)=(0,0)となっている。つまり、この場合は、X方向及びY方向への実質的な位置ずらしは発生しない。また、例えば、位置ずらしパターン9は、位置補正量V(9)=(1,−1)となっている。この場合は、X方向へ「1」、Y方向へ「−1」、比較領域の位置ずらしを行うことになる。具体的には、図7に示すように、比較元画像の比較領域の位置ずらしを行う。
図5の説明に戻る。
ステップS505において、処理対象の位置ずらしパターンiで類似比較処理を行う。
具体的には、位置ずらしパターンiによる、比較元画像の比較領域の位置ずらし後の比較元画像と比較先画像の重複部分の特徴量の差異の絶対値をブロック単位で算出し、各ブロックの差異の絶対値を累積加算する。
そして、この累積加算値を重複部分のブロック数で割り、1ブロックあたりの平均差異Diff(i)を類似距離(類似度)として算出する。そして、これまでのi回の類似比較処理における類似距離(類似度)、即ち、1ブロックあたりの平均差異Diff(i)の最小となる上位2位までを決定する。ここで、類似距離は、平均差異Diff(i)を示すものであるので、類似距離が小さい程、類似度が高いことになる。つまり、最小の類似距離は、最高位の類似度と言い換えることができる。
次に、ステップS507において、カウンタiを1インクリメントして、次の位置ずらしパターンを選択するために、ステップS504に戻る。そして、ステップS504において、カウンタiの値が9より大きい場合(ステップS504でNO)、即ち、全ての位置ずらしパターンを選択して、各位置ずらしパターンによる類似比較処理が終了した場合、ステップS508へ進む。
ステップS508において、ステップS506の処理によって決定された類似距離の内、最小(第1位)の類似距離を第一定数αでα倍して、これを、第2位の類似距離となる位置ずらしパターンを有効にするか否かを判定するための閾値TH1に設定する。
尚、定数αに関しては、1.2前後が好ましいという結果が、本発明者による実験により得られている。
ステップS509において、第2位の類似距離が閾値TH1未満であるか否かを判定する。閾値TH1以上である場合(ステップS509でNO)、ステップS510において、最小(第1位)の類似距離となる、第1位の位置ずらしパターンp1と、フラグFSh及びFSvから、位置補正量(Cx,Cy)を算出する。
ここで、位置補正量(Cx,Cy)は、以下の式(1)で算出する。
−−−−− 式(1) −−−−−
If(FSh≠1)
Cx = ImgH / Vh * V(p1, x)
Else
Cx = V(p1, x)
If(FSv≠1)
Cy = ImgV / Vv * V(p1, y)
Else
Cy = V(p1, y)
V(i,x):位置ずらしパターンiの単位ベクトルV(i)のx成分
V(i,y):位置ずらしパターンiの単位ベクトルV(i)のy成分
−−−−−−−−−−−−−−−−−−−−−−−−−
式(1)において、ImgH/Vhの項は分割ブロックの横サイズ(横画素数)を、ImgV/Vvの項は分割ブロックの縦サイズ(縦画素数)を意味する。また、フラグFSh及びフラグFSvが立っている(FSh=1、FSv=1)場合には、それぞれ水平及び鉛直方向のブロック分割数が上限ブロック分割数に達しているため、単位ベクトルの水平方向及び鉛直方向成分をそのまま使用する。
一方、ステップS509において、第2位の類似距離が閾値TH1未満である場合(ステップS509でYES)、ステップS511において、最小(第1位)の類似距離となる第1位の位置ずらしパターンp1と、2番目(第2位)に小さい類似距離となる第2位の位置ずらしパターンp2と、フラグFSh及びFSvから、位置補正量(Cx,Cy)を算出する。
ここで、位置補正量(Cx,Cy)は、以下の式(2)で算出する。
−−−−− 式(2) −−−−−
If(FSh≠1)
Cx=ImgH/Vh*(V(p1,x)+V(p2,x))/2
Else
Cx=(V(p1,x)+V(p2,x))/2
If(FSv≠1)
Cy=ImgV/Vv*(V(p1,y)+V(p2,y))/2
Else
Cy=(V(p1,y)+V(p2,y))/2
V(i,x):位置ずらしパターンiの単位ベクトルV(i)のx成分
V(i,y):位置ずらしパターンiの単位ベクトルV(i)のy成分
−−−−−−−−−−−−−−−−−−−−−−−−−
式(2)において、ImgH/Vhの項は分割ブロックの横サイズ(横画素数)を、ImgV/Vvの項は分割ブロック縦サイズ(縦画素数)を意味する。また、式(2)において、(V(p1,x)+V(p2,x))/2、及び(V(p1,y)+V(p2,y))/2の項は、2つの位置ずらしパターンの単位ベクトルの平均ベクトルを意味する。更に、フラグFSh及びフラグFSvが立っている場合には、それぞれ水平および鉛直方向のブロック分割数が上限ブロック分割数に達しているため、平均ベクトルの水平方向及び鉛直方向成分をそのまま使用する。
ここで、平均ベクトルとは、例えば、第1位の位置ずらしパターンがV(3)で、第2位の位置ずらしパターンがV(6)であるとすると、図8のようになる。
尚、ここで、仮に、5個の位置ずらしパターンを使用する場合、例えば、位置ずらしパターン6のようなブロックの対角成分の大きさの位置ずれ補正を行おうとしても、水平の位置ずらしパターン2及び鉛直方向の位置ずらしパターン3の平均をとると、その方向は位置ずらしパターン6と同じでも大きさが1/2になり、位置補正量の上限が低くなる。そのため、図6に示すような、9個の位置ずらしパターンを用いることが好ましい。
そして、ステップS512において、位置補正量(Cx,Cy)と第1位の類似距離Dminを出力する。
図2の説明に戻る。
ステップS208の比較処理の終了後、ステップS209からステップS216にかけて、現在のブロック分割数をβ倍して、次の再帰処理におけるブロック分割数を算出する一連の処理を行う。
まず、ステップS209において、現在の水平方向及び鉛直方向のブロック分割数(Vh,Vv)をβ倍したものが、ともに上限ブロック分割数(Dh_M,Dv_M)を超えているか否かを判定する。上限ブロック分割数(Dh_M,Dv_M)を超えている場合(ステップS209でYES)、ステップS210において、水平方向及び鉛直方向のブロック分割数(Vh,Vv)を上限ブロック分割数(Dh_M,Dv_M)に設定し、更に、ブロック分割数(Vh,Vv)がそれぞれ上限ブロック分割数(Dh_M,Dv_M)に達したことを示すフラグFSh及びFSvを1に設定してフラグを立てる。更に、ステップS211において、ブロック分割数を上限ブロック分割数として処理を行う回数カウンタKmを1インクリメントして、ステップS207へ戻る。
一方、ステップS209において、現在の水平方向及び鉛直方向のブロック分割数(Vh,Vv)をβ倍したものが、ともに上限ブロック分割数(Dh_M,Dv_M)を超えていない場合(ステップS209でNO)、ステップS212において、現在の水平のブロック分割数Vhをβ倍したものが、水平方向の上限ブロック分割数Dh_Mを越えているか否かを判定する。
水平方向の上限ブロック分割数Dh_Mを超えている場合(ステップS212でYES)、ステップS213において、水平方向のブロック分割数Vhを水平方向の上限ブロック分割数Dh_Mに設定し、現在の鉛直方向のブロック分割数Vvをβ倍したものを新たな鉛直方向のブロック分割数Vvに設定し、フラグFShを1に設定してフラグを立てる。その後、ステップS207へ戻る。
一方、水平方向の上限ブロック分割数Dh_Mを超えていない場合(ステップS212でNO)、ステップS214において、現在の鉛直方向のブロック分割数Vvをβ倍したものが鉛直方向の上限ブロック分割数Dv_Mを超えているか否かを判定する。鉛直方向の上限ブロック分割数Dv_Mを超えている場合(ステップS214でYES)、ステップS215において、鉛直方向のブロック分割数Vvを鉛直方向の上限ブロック分割数Dv_Mに設定し、現在の水平方向のブロック分割数Vhをβ倍したものを新たな水平方向のブロック分割数Vhに設定し、FSvを1に設定してフラグを立てる。その後、ステップS207へ戻る。
一方、鉛直方向の上限ブロック分割数Dv_Mを超えていない場合(ステップS214でNO)、ステップS216において、現在の水平方向及び鉛直方向のブロック分割数(Vh,Vv)をβ倍したものを、新たに次の再帰処理のブロック分割数(Vh,Vv)に設定して、ステップS207へ戻る。
そして、ステップS207において、再帰処理の終了条件を満足するか否かを判定する。満足しない場合(ステップS207でNO)、新たな終了条件で、ステップS208以降の再帰処理を実行する。一方、満足する場合(ステップS207でYES)、ステップS217において、最新の位置補正量(Cx,Cy)を比較元画像の比較領域へ反映して、比較元画像の比較領域の位置補正を実行して、最終的な位置補正を終了する。
そして、ステップS218において、差分画像生成処理を実行する。そして、得られる差分画像は、例えば、表示装置108に表示される。
この差分画像生成処理は、最適に位置補正を行った1対の比較対象画像間における比較領域内の差分情報(差分画像)を取得して、この差分画像の内、予め決められた閾値以上の画素値を有する画素の位置を記憶する。そして、比較元画像がカラーであればグレースケールへ変換し、グレースケール画像上に、閾値以上の画素を所定色(例えば、赤等の目立つ色)でオーバーレイ表示するものである。
以下、このステップS218の差分画像生成処理の詳細について、図9を用いて説明する。
図9は本発明の実施形態の差分画像生成処理の詳細を示すフローチャートである。
ステップS901において、比較先画像の比較領域における画素値から比較元画像の比較領域における対応する画素値の差分値を算出し、その差分値が正の値のものだけを比較先画像の比較領域内の座標と対にして、メモリに記憶する。
ここで、正の値の画像とするのは、基準画像である比較元画像のグレースケール表示を行い、その上に比較先画像には存在するが基準画像には存在しない欠陥画素を強調して表示を行うためである。
ステップS902において、差分値をQmax段階で量子化するための差分量子化テーブルと、各量子化段階に属する画素の表示色情報(設定)を読み込む。
尚、カラー情報で差分画像を生成する場合と、グレースケール情報で差分画像を生成する場合とでは、差分量子化テーブルは異なるので、処理対象の画像に応じて、適切な差分量子化テーブルに切り替えて読み込む。
また、表示色情報に関しては、混同が起きないように、例えば、量子化ステップが3つの場合には、
(R,G,B)=(255,0,0),(0,255,0),(0,0,255)
のようにして、色相が異なる識別し易い色を選択し、この場合では、誤差が少ない場合には青、やや多い場合には緑、非常に異なる場合には赤というように、差分値に応じた差異を色で表現することが可能となる。
ステップS903において、表示に用いる下限量子化レベルQminを指定する。ここで、この下限量子化レベルQminは、これをQmaxと設定すれば著しく差分が大きな差分値だけを、所定色(例えば、赤)で表示することになる。
ステップS904において、下限量子化レベルQmin以上の各量子化レベルに属する差分値を持つ画素の座標と、それらの座標を量子化レベルと対にして記憶する。ステップS905において、比較元画像をグレースケール画像で表示する。
ステップS906において、処理中の量子化ステップiをQminに初期化する。ステップS907において、量子化ステップiが最大量(量子化ステップQmax)以下であるか否かを判定する。
量子化ステップiが最大量(量子化ステップQmax)以下である場合(ステップS907でYES)、ステップS908において、グレースケール画像上に、量子化レベルiに対応する座標に、量子化レベルに対応した表示色で点をプロットする。そして、ステップS909において、量子化レベルiを1インクリメントし、次の量子化レベルに進める。
一方、量子化ステップiが最大量(量子化ステップQmax)より大きい場合(ステップS907でNO)、即ち、すべての量子化ステップiに対する処理が終了したら、処理を終了する。
この図9の処理によって、基準となる比較元画像からの比較先画像の差異を、正しい位置あわせを行った上で、直感的に判りやすくその差に応じた色で、その差異を容易に視認することが可能となる。
さて、ステップS207における終了条件の判定処理に関しては、様々な方法が考えられる。以下、この判定処理のいくつかの例について、以下に説明する。
図10は本発明の実施形態の判定処理の詳細の一例を示すフローチャートである。
まず、ステップS1001において、ブロック分割数を比較領域のサイズとして処理を行う回数カウンタKmの値を読み込む。ステップS1002において、ブロック分割数を比較領域サイズとして処理を行う制限回数の閾値Km_MAXを読み込む。
ステップS1003において、KmがKm_MAX以下であるか否かを判定する。KmがKm_MAX以下である場合(ステップS1003でYES)、ステップS1004において、終了条件を満足しないと判定する。一方、KmがKm_MAX以下でない場合(ステップS1003でNO)、ステップS1005において、終了条件を満足すると判定する。
以上の処理によって、仮に、Kmが0の段階で、位置補正処理が正しい値の近傍で収束していない状況でも、Kmがある程度の大きさになるまで、ブロック分割数を比較領域サイズとする比較元画像と比較先画像(比較元比較領域と比較先比較領域)間の比較処理(図5)がその位置を微調整(補正)しながら再帰的に繰り返されるように制御することができる。これにより、Kmが0より大きい段階では1ブロック1画素での位置補正も1画素単位の9方向で微調整を何度か行えるので、正しい位置補正量に収束させることを補償することが可能となる。
次に、図10の応用例について、図11を用いて説明する。この図11は、図10の処理の効率性をより向上することが可能となる。
図11は本発明の実施形態の判定処理の詳細の一例を示すフローチャートである。
ステップS1101において、Kmおよび次の処理の位置補正量(Cx,Cy)を読み込む。ステップS1102において、ブロック分割数を比較領域のサイズとして処理を行う制限回数の閾値Km_MAXを読み込む。
ステップS1103において、KmがKm_MAXより大きいか否かを判定する。KmがKm_MAXより大きい場合(ステップS1103でYES)、ステップS1104において、終了条件を満足すると判定する。一方、KmがKm_MAX以下である場合(ステップS1105でNO)、ステップS1105において、位置補正量(Cx,Cy)の水平成分と鉛直成分が共に0であり、かつKmが0でない(ブロック分割数を比較領域のサイズとして処理を行う段階まできている)か否かを判定する。
ともに0である場合(ステップS1105でYES)、ステップS1104において、終了条件を満足すると判定する。一方、ともに0でない場合(ステップS1105でNO)、ステップS1106において、終了条件を満足しないと判定する。
尚、位置補正量(Cx,Cy)の水平成分と鉛直成分が共に0となった時点で、その後も位置補正量(Cx,Cy)の水平成分と鉛直成分が共に0が続くことが原理から判っているため、図11では、その性質を用いて処理を中断する構成となっている。
次に、図11の更なる応用例について、図12を用いて説明する。図12では、ブロック分割数を比較領域のサイズとして処理を行う段階まできていない状態でも、予め定められたブロック分割数に達していて、かつ最小となる類似距離が定められた閾値以下の場合に、再帰処理を終了する構成を、図11の構成に加えたものである。
図12は本発明の実施形態の判定処理の詳細の一例を示すフローチャートである。
ステップS1201において、Kmおよび次の処理の位置補正量(Cx,Cy)を読み込み、更に、次の処理のブロック分割数(Vh,Vv)および最新の類似距離Dminを読み込む。ステップS1202において、処理を停止可能な最低限の横ブロック分割数閾値VhTHと縦ブロック分割数閾値VvTHおよび、処理の停止を許可する類似距離閾値DminTHを読み込み、更にブロック分割数を比較領域のサイズとして処理を行う制限回数の閾値Km_MAXを読み込む。
次に、ステップS1203において、KmがKm_MAXより大きいか否かを判定する。KmがKm_MAXより大きい場合(ステップS1203でYES)、ステップS1204において、終了条件を満足すると判定する。一方、KmがKm_MAX以下である場合(ステップS1203でNO)、ステップS1205において、Km=0であるか否かを判定する。
Km=0でない場合(ステップS1205でNO)、ステップS1206において、位置補正量(Cx,Cy)の水平成分と鉛直成分が共に0である否かを判定する。ともに0である場合(ステップS1206でYES)、ステップS1204において、終了条件を満足すると判定する。一方、共に0でない場合(ステップS1206でNO)、ステップS1209において、最新の類似距離Dminが類似距離閾値DminTH以下であるか否かを判定する。
類似距離Dminが類似距離閾値DminTH以下である場合(ステップS1209でYES)、ステップS1204において、終了条件を満足すると判定する。一方、類似距離Dminが類似距離閾値DminTHより大きい場合(ステップS1209でNO)、終了条件を満足しないと判定する。
他方、ステップS1205において、Km=0である場合(ステップS1205でYES)、ステップS1207において、水平方向及び鉛直方向のブロック分割数(Vh,Vv)がともに、処理を停止可能な最低限の横ブロック分割数閾値VhTHと縦ブロック分割数閾値VvTH以上であるか否かを判定する。
横ブロック分割数閾値VhTHと縦ブロック分割数閾値VvTH未満である場合(ステップS1207でNO)、ステップS1208において、終了条件を満足しないと判定する。一方、横ブロック分割数閾値VhTHと縦ブロック分割数閾値VvTH以上である場合(ステップS1207でYES)、ステップS1209に進む。
従来技術では、荒い解像度で細かく位置ずらしマッチングを行い合致度の高さとその連続性から次の解像度における位置ずらし範囲を制限して高速化と高精度化を図っていた。
これに対し、以上説明した実施形態では、位置ずれ補正を高精度に実現できるため、比較領域に対し、1つの解像度・階層において過度な位置ずらしマッチングを行わず、順次解析解像度を上げて、次の高い解析解像度による(前回解像度の補正)より正確な位置ずれ補正を行うと共に、位置ずれ補正値(位置補正量)の値を解像度に反比例して暫時減少させるため、解像度増加過程で位置ずれ補正値を収束させることが可能となり、従来技術に比べて、高精度な位置ずれ補正能力と高速性の両立を実現することができる。
以下、本発明の特徴的な構成についてまとめると、以下のようになる。
比較対象画像となる2つの画像を入力し、比較対象の2画像の比較対象領域(比較元比較領域及び比較先比較領域)を決定し、その比較領域を、指定されたブロック分割数(水平(横)方向及び鉛直(縦)方向のブロック分割数)で複数のブロックに分割する。次に、各ブロックに対して、比較領域の特徴量を算出する。比較領域の類似比較を、比較元比較了以の位置をずらして行うための複数種類の位置ずらしパターンそれぞれによって、その位置をずらし後の比較元比較領域と比較先比較領域間の類似距離を、算出した特徴量に基づいて算出する。
次に、算出した類似距離の内、最小の類似距離に対する位置ずらしパターン(あるいは、その位置ずらしパターンと、最小の累積距離から得られる閾値以内に収まる2番目に小さい累積距離に対する位置ずらしパターン)と、分割されたブロックのサイズに基づいて、次回の類似比較を行う際の比較元比較領域の位置を補正する位置補正量を算出する。
位置補正量が算出される毎に、前回の類似比較におけるブロック分割数よりも大きいブロック分割数を指定して、上記の処理を再帰的に実行する再帰処理を実行するとともに、位置補正量が算出される毎に、その再帰処理を終了するか否かを判定する。そして、判定の結果、再帰処理を終了する場合、その時点の位置補正量を、比較元比較領域の最終的な位置補正量として確定する。
これにより、最適な位置補正量で比較元比較領域を位置補正した上で、比較先比較領域との比較を行うことができ、比較元比較領域と比較先比較領域間の差異情報(例えば、差分画像)を生成することが可能となる。
ここで、比較元比較領域と比較先比較領域間のサイズが異なる場合には、ブロック分割の性質上、ブロック分割を行う前の段階で比較領域のサイズを同一(等価)にする等価処理を施しておくことが好ましい。それには、比較元画像と比較先画像間の相似比を算出し、その算出した相似比に基づいて、比較元比較領域と比較先比較領域と両者のサイズが等しくなるように、比較元比較領域と比較先比較領域の少なくとも一方を変倍(拡大/縮小)する。そして、変倍後の比較元比較領域と比較先比較領域を用いて類似比較を行うことで、厳密な類似比較を行うことができる。
また、比較対象領域間の色数や階調数等の特徴量レベルが異なる場合には、同一の特徴量レベルで類似比較を行うことが好ましい。それには、特徴量の算出の前の段階で、比較対象領域間の特徴量レベルが異なる場合には、比較対象領域がカラー画像とグレースケール画像である場合は、カラー画像の方をグレースケール画像へ変換し、このグレースケール画像を特徴量算出用画像として記憶する。また、比較対象領域の少なくとも一方が2値画像である場合は、一方を2値画像へ変換し、この2値画像を特徴量算出用画像として記憶する。そして、比較対象領域の特徴量の算出時には、記憶したブロック特徴量算出用画像を用いる。
また、比較対象領域間の位置合わせ処理の速度を稼ぐため、上記の処理に加えて、比較対象領域の双方がカラー画像である場合は、両者をグレースケール画像に変換し、そのグレースケール画像を特徴量算出用画像として記憶しても良い。
また、ブロック毎の特徴量の算出においては、比較対象領域の双方がカラー画像である場合には、そのカラー画像の各カラーチャンネルの平均を特徴量とする。また、比較対象領域がカラー画像とグレースケール画像あるいは双方がグレースケール画像である場合は、平均輝度を特徴量とする。更に、比較対象領域の少なくとも一方が2値画像である場合は、ブロック内の2値の過半を占めるものを特徴量とする。このように構成することで、比較対象領域間の特徴量レベルの差異を吸収することが可能となる。
また、比較対象領域間の差異情報の生成においては、比較対象領域の双方がカラー画像である場合は、カラー情報における差分情報を生成する。また、比較対象領域の双方がグレースケール画像あるいは一方がカラー画像で他方がグレースケール画像である場合は、グレースケール情報における差分情報を生成する。更に、比較対象領域の少なくとも一方が2値画像である場合は、2値情報における差分情報を生成する。
もちろん、比較領域のサイズの等価処理を行った場合には、等価処理後の比較対象領域から差異情報を生成する。
また、類似距離の算出においては、位置ずらしパターンで規定されるブロック単位の位置ずらし方向は、水平2方向、鉛直2方向、不動の1方向の計5方向を最小限とする。但し、再帰処理で、ブロック分割数を増加させながら詳細な位置補正を正確に行うための処理の収束性を安全に図るのであれば、水平2方向、鉛直2方向、斜め方向4方向、不動の1方向の計9方向とすることが好ましい。
ブロック分割数の増加においては、縦方向のブロック分割数を増加させ、これが縦方向の所定の上限ブロック分割数を超えないように、そのブロック分割数の増加を制限する飽和処理を行う。同様に、横方向のブロック分割数を増加させ、これが横方向の所定の上限ブロック分割数を超えないように、そのブロック分割数の増加を制限する飽和処理を行う。ここで、縦方向及び横方向のブロック分割数を増加させた数が、縦方向及び横方向の上限ブロック分割数を超えない場合には、飽和処理を行わないで、その増加させてブロック分割数を新たに比較対象領域に適用するブロック分割数として更新する。
位置補正量の算出においては、最小の類似距離の第一定数倍以内に収まる2番目に小さい累積距離となる位置ずらし方向が存在する場合は、類似距離が最小となる位置ずらし方向との平均による方向ベクトルを取得する。一方、最小の類似距離の第一定数倍以内に収まる2番目に小さい累積距離となる位置ずらし方向が存在しない場合は、最小の類似距離の方向ベクトルを取得する。
そして、縦方向のブロック分割数を増加させ、これが縦方向の所定の上限ブロック分割数で飽和処理を行った場合には、位置補正量となる補正方向ベクトルの縦方向成分は、取得した方向ベクトルの縦方向成分の値に設定し、補正方向ベクトルの横方向成分は、横方向のブロック分割数に取得した方向ベクトルの横方向成分へ乗じた値を設定する。
また、横方向のブロック数を増加させ、これが横方向の所定の上限ブロック分割数で飽和処理を行った場合には、位置補正量となる補正方向ベクトルの横方向成分は、取得した方向ベクトルの横方向成分の値に設定し、補正方向ベクトルの縦方向成分は、縦方向のブロック分割数を取得した方向ベクトルの縦方向成分へ乗じた値に設定する。
更に、縦方向及び横方向のブロック分割数を増加させ、これらがそれぞれ縦方向及び横方向の上限ブロック分割数で飽和処理を行わなかった場合には、位置補正量となる補正方向ベクトルの縦方向及び横方法成分は、縦方向及び横方向のブロック分割数に取得した方向ベクトルの縦方向及び横方向成分それぞれ乗じた値に設定する。
再帰処理の終了条件の1つには、図10で示したように、縦方向及び横方向のブロック分割数がそれぞれ縦方向及び横方向の所定の上限ブロック分割数である状態で、所定回数分の再帰処理で実行された場合とする方法があるが、図11で示したように、所定回数の再帰処理を行う間に、位置補正量が0となれば、位置補正が収束しているので、その時点再帰処理を終了する構成としても良い。更に、図12で示したように、縦方向及び横方向のブロック分割数がそれぞれ縦方向及び横方向の所定の上限ブロック分割数に達し、かつその時点の類似距離の最小値が所定閾値を下回った時点で、再帰処理を終了する構成としても良い。
縦方向及び横方向の上限ブロック分割数は、通常、それぞれ比較対象領域の縦方向及び横方向のサイズとすれば良いが、画像の劣化等がある場合には、平滑化作用を期待して、縦方向及び横方向サイズの整数分の一として、例えば、2画素×2画素が1つのブロックとなるブロック分割数を指定するようにしても良い。
次回の類似比較におけるブロック分割数の指定は、現在のブロック分割数に定数を乗じて得ることが簡易な方法であり、この定数は、1.0より大きく望むべくは2.0程度、大きくとも3.0を超えない値を上限とする。これは、定数が大きすぎる場合には、位置補正処理が収束しづらくなるからである。
差異情報の生成においては、比較対象領域のサイズの等価処理後の双方がカラー画像である場合は、カラー情報における差分情報を生成する。また、双方がグレースケール画像である場合、あるいは一方がカラー画像で他方がグレースケール画像である場合には、グレースケール情報における差分情報を生成する。更に、少なくとも一方が2値画像である場合は、2値情報における差分情報を生成する。
また、差異情報とは、位置ずれ補正後の比較対象領域内の対応する画素の差分画素値や差分画素値の統計情報や差分画素値の量子化情報が挙げられる。あるいは、位置ずれ補正後の比較対象領域内の対応する画素の差分画素値の累積画素値を比較対象領域内の総画素数で割った値、即ち、1画素あたりに希釈した差異指標である。あるいは、比較対象領域のサイズの等価処理前の比較元画像と比較先画像のサイズに換算した比較対象領域の座標情報として、本発明の処理を正確な位置合わせを前提とした後工程のための前処理としても良い。更に、これらの任意の組み合わせを、差異情報としても良い。
また、差分情報の生成においては、位置ずれ補正後の比較元比較領域内及び比較先比較領域内の対応する画素の差分画素値を算出して、これが所定閾値以上となる画素を判定して、該当する差分画素値を複数の量子化ステップで量子化し、その量子化レベルと位置を対にして記憶する。そして、比較元画像がカラーである場合は、グレースケール画像に変換しておき、差異を表示する量子化レベル下限を指定して、そのグレースケール画像上に量子化レベル下限以上の画素をその量子化レベル毎に異なる色で表示することにより、比較対象領域間の差異を直感的に掴むことが可能となる。
また、簡易には、位置ずれ補正後の比較元比較領域内及び比較先比較領域内の対応する画素の差分画素値を算出して、これが所定閾値以上となる画素及びその位置を記憶する。そして、比較元画像がカラーである場合は、グレースケール画像へ変換し、そのグレースケール画像上に差分画素値が所定閾値以上の画素を所定色(目立つ色、例えば、赤)で表示することにより、簡便な処理で比較対象領域間の差異を直感的に掴むことが可能となる。
ここで、所定閾値を、0を含む正の値とすることにより、比較元画像からの比較先画像の差異のみを所定色(目立つ色)で表示することが可能となる。
また、比較元画像を基準とするのではなく、比較先画像を基準とした場合に、両者の差異情報の表示にも同様のことを実現することができる。この場合には、先の説明において、表示するグレースケール画像を比較先画像とし、位置ずれ補正後の比較元比較領域と比較先比較領域間の対応する画素同士の差分情報は、比較元比較領域内の画素値からこれに対応する比較先画像比較領域内の画素値の差分を算出すれば良い。
<他の実施形態>
上記実施形態においては、比較元画像と比較先画像間の比較領域の相似比を算出して、比較領域の大きい画像の全体を相似比に基づき縮小処理するとともに、その比較領域の座標情報も縮小処理することで、比較元画像と比較先画像間の比較領域のサイズを合わせる例について示したが、これに限定されない。
例えば、比較領域の小さい画像の全体を相似に基づき拡大処理するとともに、その比較領域の座標も拡大処理することで、比較元画像と比較先画像間の比較領域のサイズを合わせる構成としても良い。但し、この場合の拡大処理に関しては、単純な線形補間法などではなく、アフィン変換等の画質劣化の少ない方法を用いることが寛容である。
つまり、本実施形態では、比較元画像と比較先画像間の比較領域のサイズの一方を変倍(拡大/縮小)することで、両者間の比較領域のサイズを合わせる。また、比較元画像と比較先画像間の比較領域のサイズの一方ではなく、比較元画像と比較先画像それぞれの比較領域が等しくなるのであれば、両者を適宜変倍するようにしても良い。
また、上記実施形態においては、比較元画像と比較先画像間の特徴量レベル(色数および階調数)を特徴量レベルの低い方へ合わせて変換する例について示したが、当然、高速化のために無条件で低い特徴量レベル(色数および階調数)に両画像を変換する構成としても良い。
例えば、比較元画像と比較先画像がともにカラー画像の場合には、3チャンネルの情報を処理しなければならないが、両者をグレースケール画像に変換した場合には1チャンネルの情報となり、概算で比較処理コストは1/3に減じることが可能となる。
更に、上記実施形態においては、差分画像生成処理による差分画像の表示に関して、複数の量子化レベルで差異のある画素色を異ならせて、オーバーレイ表示する例について示したが、当然、単純に、位置ずれ補正後の比較元画像の比較領域内および比較先画像の比較領域内の対応する2画素の差分画素値を算出して、これらの内、予め決められた閾値以上のものをその位置に対応させて記憶し、比較元画像がカラーであればグレースケール画像へ変換し、グレースケール画像上に、差分画素値が予め決められた閾値以上の画素を所定色で表示することにより、差異を直感的に判るような表示を構成とすることもできる。
また、差分画像の表示に関して、上述のような画像情報ではなく、比較処理画像の比較領域内の画素差分累積値を比較領域内の画素数で割った値を、位置画素あたりの差異の期待値として表示しても良く、もちろん両者を合わせて表示する、更に画像表示において、より視認性を高めるために、比較領域を矩形で囲む、ブリンク表示にする等の複合的な表示形態を採用して表示する構成としても良い。
以上、実施形態例を詳述したが、本発明は、例えば、システム、装置、方法、プログラムもしくは記憶媒体等としての実施態様をとることが可能であり、具体的には、複数の機器から構成されるシステムに適用しても良いし、また、一つの機器からなる装置に適用しても良い。
尚、本発明は、前述した実施形態の機能を実現するソフトウェアのプログラム(実施形態では図に示すフローチャートに対応したプログラム)を、システムあるいは装置に直接あるいは遠隔から供給し、そのシステムあるいは装置のコンピュータが該供給されたプログラムコードを読み出して実行することによっても達成される場合を含む。
従って、本発明の機能処理をコンピュータで実現するために、該コンピュータにインストールされるプログラムコード自体も本発明を実現するものである。つまり、本発明は、本発明の機能処理を実現するためのコンピュータプログラム自体も含まれる。
その場合、プログラムの機能を有していれば、オブジェクトコード、インタプリタにより実行されるプログラム、OSに供給するスクリプトデータ等の形態であっても良い。
プログラムを供給するための記録媒体としては、例えば、フロッピー(登録商標)ディスク、ハードディスク、光ディスク、光磁気ディスク、MO、CD−ROM、CD−R、CD−RW、磁気テープ、不揮発性のメモリカード、ROM、DVD(DVD−ROM,DVD−R)などがある。
その他、プログラムの供給方法としては、クライアントコンピュータのブラウザを用いてインターネットのホームページに接続し、該ホームページから本発明のコンピュータプログラムそのもの、もしくは圧縮され自動インストール機能を含むファイルをハードディスク等の記録媒体にダウンロードすることによっても供給できる。また、本発明のプログラムを構成するプログラムコードを複数のファイルに分割し、それぞれのファイルを異なるホームページからダウンロードすることによっても実現可能である。つまり、本発明の機能処理をコンピュータで実現するためのプログラムファイルを複数のユーザに対してダウンロードさせるWWWサーバも、本発明に含まれるものである。
また、本発明のプログラムを暗号化してCD−ROM等の記憶媒体に格納してユーザに配布し、所定の条件をクリアしたユーザに対し、インターネットを介してホームページから暗号化を解く鍵情報をダウンロードさせ、その鍵情報を使用することにより暗号化されたプログラムを実行してコンピュータにインストールさせて実現することも可能である。
また、コンピュータが、読み出したプログラムを実行することによって、前述した実施形態の機能が実現される他、そのプログラムの指示に基づき、コンピュータ上で稼動しているOSなどが、実際の処理の一部または全部を行ない、その処理によっても前述した実施形態の機能が実現され得る。
さらに、記録媒体から読み出されたプログラムが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書き込まれた後、そのプログラムの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPUなどが実際の処理の一部または全部を行ない、その処理によっても前述した実施形態の機能が実現される。
本発明の実施形態の画像処理装置の構成例を示す図である。 本発明の実施形態の画像処理装置の処理概要を示すフローチャートである。 本発明の実施形態の比較領域の決定方法を説明するための図である。 本発明の実施形態のブロック分割の注意点を説明するための図である。 本発明の実施形態の比較処理の詳細を示すフローチャートである。 本発明の実施形態の位置ずらしパターンの一例を示す図である。 本発明の実施形態の位置ずらしの一例を示す図である。 本発明の実施形態の位置補正量の算出方法を説明するための図である。 本発明の実施形態の差分画像生成処理の詳細を示すフローチャートである。 本発明の実施形態の判定処理の詳細の一例を示すフローチャートである。 本発明の実施形態の判定処理の詳細の一例を示すフローチャートである。 本発明の実施形態の判定処理の詳細の一例を示すフローチャートである。
符号の説明
101 CPU
102 ROM
103 RAM
104 キーボード
105 マウス
106 外部記憶装置
107 NIC
108 表示装置
109 I/F
110 画像入力装置

Claims (23)

  1. 比較元画像と比較先画像間の類似比較を行うための比較領域の位置を決定する画像処理装置であって、
    前記比較元画像と前記比較先画像間で比較する比較領域として、比較元比較領域と比較先比較領域を決定する決定手段と、
    前記比較領域を分割するブロック分割数を指定する指定手段と、
    決定された位置補正量で、前記比較元比較領域の位置を補正する補正手段と、
    前記指定手段で指定されたブロック分割数で、前記補正手段で補正された比較元比較領域と前記比較先比較領域それぞれを複数ブロックに分割する分割手段と、
    前記分割手段で分割されたブロック毎に、前記補正手段で補正された比較元比較領域と前記比較先比較領域の特徴量を算出する特徴量算出手段と、
    前記補正手段で補正された比較元比較領域と前記比較先比較領域間の類似比較を、その比較元比較領域の位置をずらして行うための複数種類の位置ずらしパターンを記憶する記憶手段と、
    前記複数種類の位置ずらしパターンそれぞれを使用して、その位置をずらした後の前記補正手段で補正された比較元比較領域と前記比較先比較領域間の類似距離を、両者が重複する重複領域内の各ブロックの特徴量に基づいて算出する類似距離算出手段と、
    前記類似距離算出手段で算出した類似距離の内、最小の類似距離に対する位置ずらしパターンと、前記ブロックのサイズに基づいて、次回の前記類似比較を行う際の前記比較元比較領域の位置を補正するための位置補正量を算出する位置補正量算出手段と、
    前記位置補正量算出手段によって位置補正量が算出される毎に、前回の前記類似比較におけるブロック分割数を増加させたブロック分割数を前記指定手段によって指定して、前記補正手段から前記位置補正量算出手段までの各手段を再帰的に実行する再帰処理を実行手段と、
    前記位置補正量算出手段によって位置補正量が算出される毎に、前記再帰処理を終了するか否かを判定する判定手段と、
    前記判定手段の判定の結果、前記再帰処理を終了する場合、その時点の前記位置補正量を、前記比較元比較領域の最終的な位置補正量として確定する確定手段と
    を備えることを特徴とする画像処理装置。
  2. 前記補正手段による補正を行う前の段階で、前記決定手段で決定した前記比較元比較領域と前記比較先比較領域間のサイズが異なる場合、そのサイズが等しくなるように、少なくとも一方の比較領域を変倍する変倍手段を更に備える
    ことを特徴とする請求項1に記載の画像処理装置。
  3. 前記確定手段で確定した位置補正量に基づいて、前記比較元比較領域と前記比較先比較領域間の差分情報を生成する生成手段を更に備える
    ことを特徴とする請求項1に記載の画像処理装置。
  4. 前記補正手段による補正を行う前の段階で、前記決定手段で決定した前記比較元比較領域と前記比較先比較領域間の特徴量レベルが異なる場合、その特徴量レベルが等しくなるように、少なくとも一方の比較領域の特徴量レベルを変換するレベル変換手段を更に備える
    ことを特徴とする請求項1に記載の画像処理装置。
  5. 前記特徴量算出手段は、
    前記比較元比較領域と前記比較先比較領域の両者がカラー画像である場合、前記分割手段で分割されたブロック毎に、そのカラー画像中の各カラーチャネルの平均を前記特徴量として算出し、
    前記比較元比較領域と前記比較先比較領域の一方がカラー画像で他方がグレースケール画像、あるいは両者がグレースケール画像である場合は、前記分割手段で分割されたブロック毎に、その画像の平均輝度を前記特徴量として算出し、
    前記比較元比較領域と前記比較先比較領域の少なくとも一方が2値画像である場合、前記分割手段で分割されたブロック毎に、その2値画像の2値の過半をしめるものを特徴量として算出する
    ことを特徴とする請求項1に記載の画像処理装置。
  6. 前記生成手段は、
    前記比較元比較領域と前記比較先比較領域の両者がカラー画像である場合、前記確定手段で確定した位置補正量に基づいて、カラー画像に関する前記差分情報を生成し、
    前記比較元比較領域と前記比較先比較領域の一方がカラー画像で他方がグレースケール画像、あるいは両者がグレースケール画像である場合は、前記確定手段で確定した位置補正量に基づいて、グレースケール画像に関する前記差分情報を生成し、
    前記比較元比較領域と前記比較先比較領域の少なくとも一方が2値画像である場合、前記確定手段で確定した位置補正量に基づいて、2値画像に関する前記差分情報を生成する
    ことを特徴とする請求項3に記載の画像処理装置。
  7. 前記補正手段による補正を行う前の段階で、前記決定手段で決定した前記比較元比較領域と前記比較先比較領域間のサイズが異なる場合、そのサイズが等しくなるように、少なくとも一方の比較領域を変倍する変倍手段を更に備え、
    前記生成手段は、前記確定手段で確定した位置補正量に基づいて、前記変倍手段による変倍後の前記比較元比較領域及び前記比較先比較領域間の差分情報を生成する
    ことを特徴とする請求項6に記載の画像処理装置。
  8. 前記複数種類の位置ずらしパターンで規定される位置ずらし方向は、水平2方向、鉛直2方向、不動の1方向の計5方向である
    ことを特徴とする請求項1に記載の画像処理装置。
  9. 前記複数種類の位置ずらしパターンで規定される位置ずらし方向は、水平2方向、鉛直2方向、斜め4方向、不動の1の計9方向である
    ことを特徴とする請求項1に記載の画像処理装置。
  10. 前記指定手段は、前回の前記類似比較におけるブロック分割数に対して所定定数を乗じることで、該ブロック分割数よりも大きいブロック分割数を算出するブロック分割数算出手段を備え、
    前記実行手段は、前記ブロック分割数算出手段で算出したブロック分割数が上限ブロック分割数を越えない限り、前記位置補正量算出手段によって位置補正量が算出される毎に、前記ブロック分割数算出手段で算出したブロック分割数を新たなブロック分割数として更新する
    ことを特徴とする請求項1に記載の画像処理装置。
  11. 前記位置補正量算出手段は、
    前記類似距離算出手段で算出した類似距離の内、前記最小の類似距離の第一定数倍以内に収まる2番目に小さい類似距離が存在する場合、これらの類似距離に対する位置ずらしパターンと前記ブロックのサイズに基づいて、次回の前記類似比較を行う際の前記比較元比較領域の位置を補正するための位置補正量を算出し、
    前記第一定数倍以内に収まる2番目に小さい類似距離が存在しない場合、前記最小の類似距離に対する位置ずらしパターンと前記ブロックのサイズに基づいて、次回の前記類似比較を行う際の前記比較元比較領域の位置を補正するための位置補正量を算出する
    ことを特徴とする請求項1に記載の画像処理装置。
  12. 前記指定手段は、前記ブロック分割数として、前記比較領域を水平方向に分割する水平ブロック分割数と鉛直方向に分割する鉛直ブロック分割数を指定し、
    前記位置補正量算出手段は、前記水平方向に対応する横方向成分と前記鉛直方向に対応する縦方向成分からなる前記位置補正量を算出するものであり、
    前回の前記類似比較における前記水平ブロック分割数に対して所定定数を乗じて得られる水平ブロック分割数が上限水平ブロック分割数を越えている場合、前記位置補正量の縦方向成分を、前記位置ずらしパターンの縦方向成分に前記鉛直ブロック分割数を乗じた値に設定し、該位置補正量の横方向成分を、該位置ずらしパターンの横方向成分の値に設定し、
    前回の前記類似比較における前記鉛直ブロック分割数に対して所定定数を乗じて得られる鉛直ブロック分割数が上限鉛直ブロック分割数を越えている場合、前記位置補正量の縦方向成分を、前記位置ずらしパターンの縦方向成分の値に設定し、該位置補正量の横方向成分を、該位置ずらしパターンの横方向成分に前記水平ブロック分割数を乗じた値に設定し、
    前回の前記類似比較における前記水平ブロック分割数に対して所定定数を乗じて得られる水平ブロック分割数が上限水平ブロック分割数を越えていて、かつ前記鉛直ブロック分割数に対して所定定数を乗じて得られる鉛直ブロック分割数が上限鉛直ブロック分割数を越えている場合、前記位置補正量の縦方向成分を、前記位置ずらしパターンの縦方向成分に前記鉛直ブロック分割数を乗じた値に設定し、該位置補正量の横方向成分を、該位置ずらしパターンの横方向成分に前記水平ブロック分割数を乗じた値に設定する
    ことを特徴とする請求項1に記載の画像処理装置。
  13. 前記判定手段は、前記指定手段で指定されたブロック分割数が上限ブロック分割数になった後の前記再帰処理の処理回数に基づいて、前記再帰処理を終了するか否かを判定する
    ことを特徴とする請求項1に記載の画像処理装置。
  14. 前記判定手段は、前記指定手段で指定されたブロック分割数が上限ブロック分割数になった後の前記再帰処理の処理回数と、判定時の前記位置補正量に基づいて、前記再帰処理を終了するか否かを判定する
    ことを特徴とする請求項1に記載の画像処理装置。
  15. 前記判定手段は、前記再帰処理の処理回数と、判定時の前記位置補正量、前記ブロック分割数及び前記最小の類似距離に基づいて、前記再帰処理を終了するか否かを判定する
    ことを特徴とする請求項1に記載の画像処理装置。
  16. 前記指定手段が指定するブロック分割数の上限ブロック分割数は、前記比較領域のサイズである
    ことを特徴とする請求項1に記載の画像処理装置。
  17. 前記指定手段は、前回の前記類似比較におけるブロック分割数に対して所定定数を乗じることで、該ブロック分割数よりも大きいブロック分割数を算出するブロック分割数算出手段を備え、
    前記所定定数は、1.0〜2.0の間の値である
    ことを特徴とする請求項1に記載の画像処理装置。
  18. 前記生成手段は、前記差分情報を、前記比較元比較領域と前記比較先比較領域間の対応する画素同士の差分画素値、前記画素同士の差分絶対画素値の累積値を比較領域内の画素数で割った値、あるいは前記比較元比較領域と前記比較先比較領域それぞれのサイズに換算した座標情報、あるいはそれらの組み合わせに基づいて生成する
    ことを特徴とする請求項3に記載の画像処理装置。
  19. 前記生成手段は、前記比較元比較領域と前記比較先比較領域間の対応する画素同士の差分画素値の内、所定閾値以上の差分画素値を取得する取得手段と、
    前記取得手段で取得した差分画素値を量子化する量子化手段とを備え、
    前記比較元比較領域において、前記量子化手段の各量子化レベルに属する差分画素値を持つ画素を、各量子化レベル毎に異なる色で表示する画像を前記差分情報として生成する
    ことを特徴とする請求項3に記載の画像処理装置。
  20. 前記生成手段は、前記比較元比較領域と前記比較先比較領域間の対応する画素同士の差分画素値の内、所定閾値以上の差分画素値を取得する取得手段とを備え、
    前記比較元比較領域において、前記取得手段で取得した差分画素値に対応する画素を、所定色で表示する画像を前記差分情報として生成する
    ことを特徴とする請求項3に記載の画像処理装置。
  21. 前記所定閾値は、0を含む正の値である
    ことを特徴とする請求項19または請求項20に記載の画像処理装置。
  22. 比較元画像と比較先画像間の類似比較を行うための比較領域の位置を決定する画像処理方法であって、
    前記比較元画像と前記比較先画像間で比較する比較領域として、比較元比較領域と比較先比較領域を決定する決定工程と、
    前記比較領域を分割するブロック分割数を指定する指定工程と、
    決定された位置補正量で、前記比較元比較領域の位置を補正する補正工程と、
    前記指定工程で指定されたブロック分割数で、前記補正工程で補正された比較元比較領域と前記比較先比較領域それぞれを複数ブロックに分割する分割工程と、
    前記分割工程で分割されたブロック毎に、前記補正工程で補正された比較元比較領域と前記比較先比較領域の特徴量を算出する特徴量算出工程と、
    前記補正工程で補正された比較元比較領域と前記比較先比較領域間の類似比較を、その比較元比較領域の位置をずらして行うための複数種類の位置ずらしパターンそれぞれを使用して、その位置をずらした後の前記補正工程で補正された比較元比較領域と前記比較先比較領域間の類似距離を、両者が重複する重複領域内の各ブロックの特徴量に基づいて算出する類似距離算出工程と、
    前記類似距離算出工程で算出した類似距離の内、最小の類似距離に対する位置ずらしパターンと、前記ブロックのサイズに基づいて、次回の前記類似比較を行う際の前記比較元比較領域の位置を補正するための位置補正量を算出する位置補正量算出工程と、
    前記位置補正量算出工程によって位置補正量が算出される毎に、前回の前記類似比較におけるブロック分割数を増加させたブロック分割数を前記指定工程によって指定して、前記補正工程から前記位置補正量算出工程までの各工程を再帰的に実行する再帰処理を実行工程と、
    前記位置補正量算出工程によって位置補正量が算出される毎に、前記再帰処理を終了するか否かを判定する判定工程と、
    前記判定工程の判定の結果、前記再帰処理を終了する場合、その時点の前記位置補正量を、前記比較元比較領域の最終的な位置補正量として確定する確定工程と
    を備えることを特徴とする画像処理方法。
  23. 比較元画像と比較先画像間の類似比較を行うための比較領域の位置を決定する画像処理を実現するプログラムであって、
    前記比較元画像と前記比較先画像間で比較する比較領域として、比較元比較領域と比較先比較領域を決定する決定工程のプログラムコードと、
    前記比較領域を分割するブロック分割数を指定する指定工程のプログラムコードと、
    決定された位置補正量で、前記比較元比較領域の位置を補正する補正工程のプログラムコードと、
    前記指定工程で指定されたブロック分割数で、前記補正工程で補正された比較元比較領域と前記比較先比較領域それぞれを複数ブロックに分割する分割工程のプログラムコードと、
    前記分割工程で分割されたブロック毎に、前記補正工程で補正された比較元比較領域と前記比較先比較領域の特徴量を算出する特徴量算出工程のプログラムコードと、
    前記補正工程で補正された比較元比較領域と前記比較先比較領域間の類似比較を、その比較元比較領域の位置をずらして行うための複数種類の位置ずらしパターンそれぞれを使用して、その位置をずらした後の前記補正工程で補正された比較元比較領域と前記比較先比較領域間の類似距離を、両者が重複する重複領域内の各ブロックの特徴量に基づいて算出する類似距離算出工程のプログラムコードと、
    前記類似距離算出工程で算出した類似距離の内、最小の類似距離に対する位置ずらしパターンと、前記ブロックのサイズに基づいて、次回の前記類似比較を行う際の前記比較元比較領域の位置を補正するための位置補正量を算出する位置補正量算出工程のプログラムコードと、
    前記位置補正量算出工程によって位置補正量が算出される毎に、前回の前記類似比較におけるブロック分割数を増加させたブロック分割数を前記指定工程によって指定して、前記補正工程から前記位置補正量算出工程までの各工程を再帰的に実行する再帰処理を実行工程のプログラムコードと、
    前記位置補正量算出工程によって位置補正量が算出される毎に、前記再帰処理を終了するか否かを判定する判定工程のプログラムコードと、
    前記判定工程の判定の結果、前記再帰処理を終了する場合、その時点の前記位置補正量を、前記比較元比較領域の最終的な位置補正量として確定する確定工程のプログラムコードと
    を備えることを特徴とするプログラム。
JP2004244128A 2004-08-24 2004-08-24 画像処理装置及びその方法、プログラム Expired - Fee Related JP4125273B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2004244128A JP4125273B2 (ja) 2004-08-24 2004-08-24 画像処理装置及びその方法、プログラム
US11/202,076 US7418135B2 (en) 2004-08-24 2005-08-12 image processing apparatus, method therefor, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004244128A JP4125273B2 (ja) 2004-08-24 2004-08-24 画像処理装置及びその方法、プログラム

Publications (2)

Publication Number Publication Date
JP2006065407A true JP2006065407A (ja) 2006-03-09
JP4125273B2 JP4125273B2 (ja) 2008-07-30

Family

ID=36111884

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004244128A Expired - Fee Related JP4125273B2 (ja) 2004-08-24 2004-08-24 画像処理装置及びその方法、プログラム

Country Status (2)

Country Link
US (1) US7418135B2 (ja)
JP (1) JP4125273B2 (ja)

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017138716A (ja) * 2016-02-02 2017-08-10 日本電信電話株式会社 画面差異評価装置、画面差異評価方法、及びプログラム
JP2017138714A (ja) * 2016-02-02 2017-08-10 日本電信電話株式会社 画面差異確認支援装置、画面差異確認支援方法、及びプログラム
JP2017138717A (ja) * 2016-02-02 2017-08-10 日本電信電話株式会社 画面差異抽出装置、画面差異抽出方法、及びプログラム
JP2017138715A (ja) * 2016-02-02 2017-08-10 日本電信電話株式会社 画面差異合否判定装置、画面差異合否判定方法、及びプログラム
JP2017138713A (ja) * 2016-02-02 2017-08-10 日本電信電話株式会社 画面差異抽出装置、画面差異抽出方法、及びプログラム
JP2018517500A (ja) * 2015-06-10 2018-07-05 サノフィ−アベンティス・ドイチュラント・ゲゼルシャフト・ミット・ベシュレンクテル・ハフツング 薬物送達デバイスへの取り付けのためのデバイス
WO2019107141A1 (ja) * 2017-11-30 2019-06-06 日本電産サンキョー株式会社 画像処理装置および画像処理方法
CN110648375A (zh) * 2018-06-26 2020-01-03 微软技术许可有限责任公司 基于参考信息的图像彩色化
CN111127478A (zh) * 2019-12-13 2020-05-08 上海众源网络有限公司 一种视图块分割方法及装置

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4366318B2 (ja) * 2005-01-11 2009-11-18 キヤノン株式会社 画像処理装置及びその方法、プログラム
JP4897966B2 (ja) * 2007-11-15 2012-03-14 株式会社リコー 画像形成装置
US8280196B2 (en) * 2009-05-12 2012-10-02 Canon Kabushiki Kaisha Image retrieval apparatus, control method for the same, and storage medium
JP5230525B2 (ja) * 2009-05-25 2013-07-10 キヤノン株式会社 画像検索装置およびその方法
JP5507962B2 (ja) * 2009-11-05 2014-05-28 キヤノン株式会社 情報処理装置及びその制御方法、プログラム
JP5820236B2 (ja) 2011-10-28 2015-11-24 キヤノン株式会社 画像処理装置及びその制御方法
US9305240B2 (en) 2011-12-07 2016-04-05 Google Technology Holdings LLC Motion aligned distance calculations for image comparisons
JP6044522B2 (ja) * 2013-11-19 2016-12-14 横河電機株式会社 緩徐変化検出システム
JP2022038652A (ja) * 2020-08-27 2022-03-10 株式会社リコー 情報処理装置、プログラム及び情報処理システム
CN115564715B (zh) * 2022-09-09 2023-10-13 国网湖北省电力有限公司超高压公司 一种基于视觉小块的输电线路缺陷图片分类方法

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6062122A (ja) * 1983-09-16 1985-04-10 Fujitsu Ltd マスクパターンの露光方法
JPH05232038A (ja) 1992-02-13 1993-09-07 Nec Corp 欠陥検出装置
JPH087033A (ja) * 1994-06-16 1996-01-12 Canon Inc 情報処理方法及び装置
JP3524819B2 (ja) * 1999-07-07 2004-05-10 株式会社日立製作所 画像比較によるパターン検査方法およびその装置
JP2001304842A (ja) * 2000-04-25 2001-10-31 Hitachi Ltd パターン検査方法及びその装置並びに基板の処理方法
JP2005351631A (ja) * 2004-06-08 2005-12-22 Dainippon Screen Mfg Co Ltd 欠陥検出装置および欠陥検出方法

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018517500A (ja) * 2015-06-10 2018-07-05 サノフィ−アベンティス・ドイチュラント・ゲゼルシャフト・ミット・ベシュレンクテル・ハフツング 薬物送達デバイスへの取り付けのためのデバイス
JP2017138716A (ja) * 2016-02-02 2017-08-10 日本電信電話株式会社 画面差異評価装置、画面差異評価方法、及びプログラム
JP2017138714A (ja) * 2016-02-02 2017-08-10 日本電信電話株式会社 画面差異確認支援装置、画面差異確認支援方法、及びプログラム
JP2017138717A (ja) * 2016-02-02 2017-08-10 日本電信電話株式会社 画面差異抽出装置、画面差異抽出方法、及びプログラム
JP2017138715A (ja) * 2016-02-02 2017-08-10 日本電信電話株式会社 画面差異合否判定装置、画面差異合否判定方法、及びプログラム
JP2017138713A (ja) * 2016-02-02 2017-08-10 日本電信電話株式会社 画面差異抽出装置、画面差異抽出方法、及びプログラム
WO2019107141A1 (ja) * 2017-11-30 2019-06-06 日本電産サンキョー株式会社 画像処理装置および画像処理方法
CN110648375A (zh) * 2018-06-26 2020-01-03 微软技术许可有限责任公司 基于参考信息的图像彩色化
CN110648375B (zh) * 2018-06-26 2023-07-07 微软技术许可有限责任公司 基于参考信息的图像彩色化
CN111127478A (zh) * 2019-12-13 2020-05-08 上海众源网络有限公司 一种视图块分割方法及装置
CN111127478B (zh) * 2019-12-13 2023-09-05 上海众源网络有限公司 一种视图块分割方法及装置

Also Published As

Publication number Publication date
JP4125273B2 (ja) 2008-07-30
US20060188159A1 (en) 2006-08-24
US7418135B2 (en) 2008-08-26

Similar Documents

Publication Publication Date Title
JP4125273B2 (ja) 画像処理装置及びその方法、プログラム
JP4366318B2 (ja) 画像処理装置及びその方法、プログラム
US7925084B1 (en) Merge and removal in a planar map of an image
CN110335330B (zh) 图像模拟生成方法及其系统、深度学习算法训练方法及电子设备
US20040247179A1 (en) Image processing apparatus, image processing method, and image processing program
US7929755B1 (en) Planar map to process a raster image
JP2007241356A (ja) 画像処理装置および画像処理プログラム
US20220270232A1 (en) Apparatus for adjusting parameter related to defect detection for image processing for image processing, method for information processing, and program
JP5512903B1 (ja) 画像処理装置、画像処理方法、情報記憶媒体、及びプログラム
US6728407B1 (en) Method for automatically determining trackers along contour and storage medium storing program for implementing the same
JP4756436B2 (ja) パターン認識装置とそのパターン認識方法、及びパターン認識プログラム
JP4873554B2 (ja) 画像配信装置および画像配信方法
JP2004199622A (ja) 画像処理装置、画像処理方法、記録媒体およびプログラム
US11074670B2 (en) Image processing apparatus, control method thereof, recording medium, and information processing system
JP2008243226A (ja) 物体画像抽出方法
JP5888989B2 (ja) 画像処理装置および画像処理方法
US7683914B1 (en) Triangulation based raster image interpolation
KR20050056175A (ko) 재귀적 제어선 정합을 이용한 반자동 필드 기반 영상 변형방법
JPH07334648A (ja) 画像処理方法及びその装置
JP2008113145A (ja) 画像処理装置及び画像処理プログラム
JP5056063B2 (ja) 画像処理装置及び画像処理プログラム
JP4150554B2 (ja) 物体画像抽出方法、物体画像抽出プログラム
JPH11328427A (ja) 多角形分割描画装置、多角形分割描画方法および記憶媒体
JP2908451B2 (ja) 走査されたビデオ画像を処理する方法及び装置
JP2006215785A (ja) 画像処理方法、画像処理装置、画像処理プログラム、および、記録媒体

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080411

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080507

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110516

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120516

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120516

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130516

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140516

Year of fee payment: 6

LAPS Cancellation because of no payment of annual fees