JP4702312B2 - 相違度評価装置、相違度評価方法及びプログラム - Google Patents

相違度評価装置、相違度評価方法及びプログラム Download PDF

Info

Publication number
JP4702312B2
JP4702312B2 JP2007075316A JP2007075316A JP4702312B2 JP 4702312 B2 JP4702312 B2 JP 4702312B2 JP 2007075316 A JP2007075316 A JP 2007075316A JP 2007075316 A JP2007075316 A JP 2007075316A JP 4702312 B2 JP4702312 B2 JP 4702312B2
Authority
JP
Japan
Prior art keywords
sample point
reference signal
value
target signal
difference
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2007075316A
Other languages
English (en)
Other versions
JP2008234465A (ja
Inventor
玲 浜田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Priority to JP2007075316A priority Critical patent/JP4702312B2/ja
Priority to US12/077,510 priority patent/US8421868B2/en
Publication of JP2008234465A publication Critical patent/JP2008234465A/ja
Application granted granted Critical
Publication of JP4702312B2 publication Critical patent/JP4702312B2/ja
Priority to US13/846,703 priority patent/US8542280B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/75Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
    • G06V10/751Comparing pixel values or logical combinations thereof, or feature values having positional relevance, e.g. template matching
    • G06V10/7515Shifting the patterns to accommodate for positional errors
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/22Matching criteria, e.g. proximity measures

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Software Systems (AREA)
  • Databases & Information Systems (AREA)
  • Multimedia (AREA)
  • Medical Informatics (AREA)
  • General Health & Medical Sciences (AREA)
  • Data Mining & Analysis (AREA)
  • Health & Medical Sciences (AREA)
  • Computing Systems (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • General Engineering & Computer Science (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Studio Devices (AREA)
  • Image Analysis (AREA)

Description

本発明は、例えば画像間における対応点の探索などに用いられる相違度評価装置、相違度評価方法及びプログラムに関する。
複数の画像間における対応点の探索は、動き補償、位置合せ、オプティカルフロー推定などの目的を達成する手段として重要である。対応点探索に用いられる手法としては、テンプレートマッチング、ブロックマッチングなどの領域ベースのマッチング方法が一般的である。
今、マッチング対象とする2つの画像の一方を基準画像、他方を対象画像と呼ぶ。テンプレートマッチングでは、基準画像の任意の位置に定めた所定サイズのブロックをテンプレートとして、そのテンプレート内の各画素が対象画像のどの位置に対応しているのかを探索する。
その際に、マッチングの良さを評価する尺度として、差分二乗和(SSD:Sum of squared difference)や差分絶対値和(SAD:Sum of Absolute difference)が用いられる。SSDやSADは相違度を示すので、これらの評価値が小さいほど、マッチングが良いと考えられる。なお、SSDを用いたマッチング方法に関しては、例えば特許文献1などに開示されている。
SSDとSADの形式的な定義は、以下の通りである。
Figure 0004702312
Figure 0004702312
(1)式と(2)式において、基準画像の座標pにおける画素値をpp、同じく対象画像の座標pにおける画素値をOと表す。なお、pは位置ベクトルであり、p=(px,py)とすると、x成分がpx,y成分がpyを示す。
また、テンプレートを構成する各画素の座標の集合をTと表す。例えば、左上隅の座標を(100,200)とする16×16画像の矩形ブロックをテンプレートとするならば、Tは以下の256個の画素からなる。
T={(100,200)(101,200),…,(115,200),(100,201),(101,201),…,(115,201),…,(100,215),(101,215),…,(115,215)}
また、対象画像における、基準画像からの座標の平行移動をベクトルdで表す。前記(1)式のSSDと(2)式のSADはdの関数になっている。
特開平10−289315号公報
上述したSADは、演算が簡単であるため、実装し易いといった利点がある。しかし、例えば蛍光灯の下で連続撮影した場合や、周辺減光の大きい光学系を用いて撮影した画像をモザイク合成する場合(パノラマ画像の合成など)には、各画像に明度差が生じる。このような明度差を有する各画像をマッチング対象とした場合、SADではマッチングのロバスト性が著しく低下するといった問題がある。これは、2つの画像の明度レベルが大きく異なると、絶対値操作が意味をもたず、SADが単なる差分和と等価になってしまうからである。そのような場合には、信号の平均(直流成分)を比較しているだけであるから、局所的な凹凸のマッチングはほとんどできないことになる。
今、説明を簡単にするため、図15に示すような1次元の信号を例にする。aは基準信号、bは対象信号であり、それぞれの信号の山の部分が対応箇所であるとする。この場合、前記(2)式により、
SAD=Σ│a−b│ …(3)
と表される。
ここで、aとbのレベルが大きく異なると、前記(3)式は、Σa−Σbと等価になってしまい、図16(a)の比較結果に示すように、どの点をとってもマッチングできない状態になる。なお、図16の例では、4つのサンプル点をテンプレートとしている。bは、aに対して、負の直流オフセットがかかり、かつ1サンプルずれた信号である。レベル差があると、SADの値がどの点でも同じ値(この例では4)になることが分かる。
一方、SSDは、前記(1)式により、
SSD=Σ(a−b …(4)
と表される。
SSDは、差分の局所的なピーク性を強調する尺度になっているため、同じような状況であっても、比較的ロバストなマッチングが可能である。しかしながら、SSDは二乗演算に基づくため、乗算ハードウェアを必要とし、処理が遅いといった問題がある。さらに、乗算結果として、SADで用いられる絶対値と比較してほぼ2倍の桁数が生じるため、回路規模が大きくなるといった問題がある。
このように、SADは実装し易いが、信号間のレベル変動に弱く、SSDは信号間のレベル変動に比較的強いものの、回路規模が大きくなるといった欠点がある。
本発明は前記のような点に鑑みなされたもので、画像等のマッチング検索において、明度変動に対してロバストで、かつ、低コストでハードウェア実装できる相違度評価装置、相違度評価方法及びプログラムを提供することを目的とする。
本発明の請求項1に係る相違度評価装置は、マッチング対象とする少なくも2つの信号を取得する信号取得手段と、この信号取得手段によって得られた2つの信号の一方を基準信号、他方を対象信号として記憶する記憶手段と、この記憶手段に記憶された基準信号の所定ブロック内の各サンプル点に対応する前記対象信号の各サンプル点を抽出するサンプル抽出手段と、このサンプル抽出手段によって抽出された前記対象信号の各サンプル点の夫々について、前記基準信号の各サンプル点との差分絶対値を求め、その中の最大値を評価値として算出する演算処理手段とを具備し、前記演算処理手段は、前記差分絶対値の最大値を第1の評価値として算出すると共に、前記基準信号と前記対象信号との各サンプル点の差分絶対値和を第2の評価値として算出し、前記第1の評価値と前記第2の評価値とを所定の比率で線形結合した値を最終的な評価値として算出することを特徴する。
また、本発明の請求項は、請求項記載の相違度評価装置において、前記第1の評価値と前記第2の評価値との比率を調整する比率調整手段を具備したことを特徴とする。
本発明の請求項3に係る相違度評価装置は、マッチング対象とする少なくも2つの信号を取得する信号取得手段と、この信号取得手段によって得られた2つの信号の一方を基準信号、他方を対象信号として記憶する記憶手段と、この記憶手段に記憶された基準信号の所定ブロック内の各サンプル点に対応する前記対象信号の各サンプル点を抽出するサンプル抽出手段と、このサンプル抽出手段によって抽出された前記対象信号の各サンプル点の夫々について、前記基準信号の各サンプル点との差分絶対値を求め、その中の最大値を評価値として算出する演算処理手段とを具備し、前記サンプル抽出手段は、前記ブロックを複数の領域に分割し、これらの分割領域毎に前記基準信号と前記対象信号から各サンプル点を抽出し、前記演算処理手段は、前記分割領域毎に前記基準信号と前記対象信号との各サンプル点の差分絶対値和を求め、その中の最大値を評価値として算出することを特徴とする。
また、本発明の請求項は、請求項1乃至のいずれかに記載の相違度評価装置において、前記基準信号と前記対象信号とをマッチングする際に、高周波性成分をカットするためのフィルタ処理を施すフィルタ処理手段を具備したことを特徴とする。
本発明の請求項に係る相違度評価装置は、マッチング対象とする少なくも2つの信号を取得する信号取得手段と、この信号取得手段によって得られた2つの信号の一方を基準信号、他方を対象信号として記憶する記憶手段と、この記憶手段に記憶された基準信号の所定ブロック内の各サンプル点に対応する前記対象信号の各サンプル点を抽出するサンプル抽出手段と、このサンプル抽出手段によって抽出された前記対象信号の各サンプル点の夫々について、前記基準信号の各サンプル点との差分絶対値の最大値を評価値として算出する第1の演算処理手段と、前記基準信号と前記対象信号との各サンプル点の差分絶対値和を評価値として算出する第2の演算処理手段と、前記第1または第2の演算処理手段を選択的に使用して相違度評価を行う評価制御手段とを具備したことを特徴する。
本発明の請求項6に係る相違度評価装置は、マッチング対象とする少なくも2つの信号を取得する信号取得手段と、この信号取得手段によって得られた2つの信号の一方を基準信号、他方を対象信号として記憶する記憶手段と、この記憶手段に記憶された基準信号の所定ブロック内の各サンプル点に対応する前記対象信号の各サンプル点を抽出するサンプル抽出手段と、このサンプル抽出手段によって抽出された前記対象信号の各サンプル点の夫々について、前記基準信号の各サンプル点との差分絶対値の最大値を評価値として算出する第1の演算処理手段と、前記基準信号と前記対象信号との各サンプル点の差分二乗和を評価値として算出する第2の演算処理手段と、前記第1または第2の演算処理手段を選択的に使用して相違度評価を行う評価制御手段とを具備したことを特徴とする。
また、本発明の請求項は、請求項5又は6に記載の相違度評価装置において、前記基準信号と前記対象信号とのレベル差を検出するレベル差検出手段を備え、前記評価制御手段は、前記レベル差検出手段によって検出さたれレベル差が所定値以上の場合に前記第1の演算処理手段を選択し、レベル差が所定値未満の場合には前記第2の演算処理手段を選択して相違度評価を行うことを特徴する。
また、本発明の請求項は、請求項5又は6に記載の相違度評価装置において、特定のモードを設定するモード設定手段を備え、前記評価制御手段は、前記モード設定手段によって前記特定のモードが設定された場合に前記第1の演算処理手段を選択し、前記特定のモードが設定されていない場合には前記第2の演算処理手段を選択して相違度評価を行うことを特徴する。
本発明の請求項に係る相違度評価装置は、マッチング対象とする少なくも2つの信号を取得する信号取得手段と、この信号取得手段によって得られた2つの信号の一方を基準信号、他方を対象信号として記憶する記憶手段と、この記憶手段に記憶された基準信号の所定ブロック内の各サンプル点に対応する前記対象信号の各サンプル点を抽出するサンプル抽出手段と、このサンプル抽出手段によって抽出された前記対象信号の各サンプル点の夫々について、前記基準信号の各サンプル点との差分絶対値の最大値を評価値として算出する第1の演算処理手段と、この第1の演算処理手段によって算出された評価値が基準値以上であった場合に、前記基準信号と前記対象信号との各サンプル点の差分絶対値和を評価値として算出する第2の演算処理手段とを具備したことを特徴する。
本発明の請求項10に係る相違度評価装置は、マッチング対象とする少なくも2つの信号を取得する信号取得手段と、この信号取得手段によって得られた2つの信号の一方を基準信号、他方を対象信号として記憶する記憶手段と、この記憶手段に記憶された基準信号の所定ブロック内の各サンプル点に対応する前記対象信号の各サンプル点を抽出するサンプル抽出手段と、このサンプル抽出手段によって抽出された前記対象信号の各サンプル点の夫々について、前記基準信号の各サンプル点との差分絶対値和を評価値として算出する第1の演算処理手段と、この第1の演算処理手段によって算出された評価値が基準値以上であった場合に、前記基準信号と前記対象信号との各サンプル点の差分絶対値の最大値を評価値として算出する第2の演算処理手段とを具備したことを特徴する。
本発明の請求項11に係る相違度評価方法は、マッチング対象とする少なくも2つの信号を取得する第1のステップと、前記2つの信号の一方を基準信号、他方を対象信号として所定のメモリに記憶する第2のステップと、前記メモリに記憶された基準信号の所定ブロック内の各サンプル点に対応する前記対象信号の各サンプル点を抽出する第3のステップと、前記対象信号の各サンプル点の夫々について、前記基準信号の各サンプル点との差分絶対値を求め、その中の最大値を第1の評価値として算出する第4のステップと、前記基準信号と前記対象信号との各サンプル点の差分絶対値和を第2の評価値として算出し、前記第1の評価値と前記第2の評価値とを所定の比率で線形結合した値を最終的な評価値として算出する第5のステップとを有することを特徴とする。
本発明の請求項12に係る相違度評価方法は、マッチング対象とする少なくも2つの信号を取得するステップと、前記2つの信号の一方を基準信号、他方を対象信号として所定のメモリに記憶するステップと、前記メモリに記憶された基準信号の所定ブロック内の各サンプル点に対応する前記対象信号の各サンプル点を抽出するステップと、前記対象信号の各サンプル点の夫々について、前記基準信号の各サンプル点との差分絶対値の最大値を評価値として算出する第1の演算処理と、前記基準信号と前記対象信号との各サンプル点の差分絶対値和を評価値として算出する第2の演算処理とを選択的に使用して相違度評価を行うステップとを有することを特徴とする。
本発明の請求項13に係る相違度評価方法は、マッチング対象とする少なくも2つの信号を取得する第1のステップと、前記2つの信号の一方を基準信号、他方を対象信号として所定のメモリに記憶する第2のステップと、前記メモリに記憶された基準信号の所定ブロック内の各サンプル点に対応する前記対象信号の各サンプル点を抽出する第3のステップと、前記対象信号の各サンプル点の夫々について、前記基準信号の各サンプル点との差分絶対値の最大値を評価値として算出する第4のステップと、この第4のステップによって算出された評価値が基準値以上であった場合に、前記基準信号と前記対象信号との各サンプル点の差分絶対値和を評価値として算出する第5のステップとを有することを特徴する。
本発明の請求項14に係る相違度評価方法は、マッチング対象とする少なくも2つの信号を取得する第1のステップと、前記2つの信号の一方を基準信号、他方を対象信号として所定のメモリに記憶する第2のステップと、前記メモリに記憶された基準信号の所定ブロック内の各サンプル点に対応する前記対象信号の各サンプル点を抽出する第3のステップと、前記対象信号の各サンプル点の夫々について、前記基準信号の各サンプル点との差分絶対値和を評価値として算出する第4のステップと、この第4のステップによって算出された評価値が基準値以上であった場合に、前記基準信号と前記対象信号との各サンプル点の差分絶対値の最大値を評価値として算出する第5のステップとを有することを特徴する。
本発明の請求項15に係るプログラムは、コンピュータによって読み取り可能な記録媒体に記録されたプログラムであって、前記コンピュータに、マッチング対象とする少なくも2つの信号を取得する第1の機能と、前記2つの信号の一方を基準信号、他方を対象信号として所定のメモリに記憶する第2の機能と、前記メモリに記憶された基準信号の所定ブロック内の各サンプル点に対応する前記対象信号の各サンプル点を抽出する第3の機能と、前記対象信号の各サンプル点の夫々について、前記基準信号の各サンプル点との差分絶対値を求め、その中の最大値を第1の評価値として算出する第4の機能と、前記基準信号と前記対象信号との各サンプル点の差分絶対値和を第2の評価値として算出し、前記第1の評価値と前記第2の評価値とを所定の比率で線形結合した値を最終的な評価値として算出する第5の機能とを実現させることを特徴とする。
本発明の請求項16に係るプログラムは、コンピュータによって読み取り可能な記録媒体に記録されたプログラムであって、前記コンピュータに、マッチング対象とする少なくも2つの信号を取得する機能と、前記2つの信号の一方を基準信号、他方を対象信号として所定のメモリに記憶する機能と、前記メモリに記憶された基準信号の所定ブロック内の各サンプル点に対応する前記対象信号の各サンプル点を抽出する機能と、前記対象信号の各サンプル点の夫々について、前記基準信号の各サンプル点との差分絶対値の最大値を評価値として算出する第1の演算処理と、前記基準信号と前記対象信号との各サンプル点の差分絶対値和を評価値として算出する第2の演算処理とを選択的に使用して相違度評価を行う機能とを実現させることを特徴とする。
本発明の請求項17に係るプログラムは、コンピュータによって読み取り可能な記録媒体に記録されたプログラムであって、前記コンピュータに、マッチング対象とする少なくも2つの信号を取得する第1の機能と、前記2つの信号の一方を基準信号、他方を対象信号として所定のメモリに記憶する第2の機能と、前記メモリに記憶された基準信号の所定ブロック内の各サンプル点に対応する前記対象信号の各サンプル点を抽出する第3の機能と、前記対象信号の各サンプル点の夫々について、前記基準信号の各サンプル点との差分絶対値の最大値を評価値として算出する第4の機能と、この第4の機能によって算出された評価値が基準値以上であった場合に、前記基準信号と前記対象信号との各サンプル点の差分絶対値和を評価値として算出する第5の機能とを実現させることを特徴とする。
本発明の請求項18に係るプログラムは、コンピュータによって読み取り可能な記録媒体に記録されたプログラムであって、前記コンピュータに、マッチング対象とする少なくも2つの信号を取得する第1の機能と、前記2つの信号の一方を基準信号、他方を対象信号として所定のメモリに記憶する第2の機能と、前記メモリに記憶された基準信号の所定ブロック内の各サンプル点に対応する前記対象信号の各サンプル点を抽出する第3の機能と、前記対象信号の各サンプル点の夫々について、前記基準信号の各サンプル点との差分絶対値和を評価値として算出する第4の機能と、この第4の機能によって算出された評価値が基準値以上であった場合に、前記基準信号と前記対象信号との各サンプル点の差分絶対値の最大値を評価値として算出する第5の機能とを実現させることを特徴とする。
本発明によれば、画像等のマッチング検索において、明度変動に対してロバストで、かつ、低コストでハードウェア実装できる相違度評価装置を実現できる。
以下、図面を参照して本発明の実施形態を説明する。
(第1の実施形態)
図1は本発明の第1の実施形態に係る相違度評価装置をデジタルカメラに適用した場合の外観構成を示す図であり、図1(a)は主に前面の構成、同図(b)は主に背面の構成を示す斜視図である。
このデジタルカメラ1は、略矩形の薄板状ボディ2の前面に、撮影レンズ3、セルフタイマランプ4、光学ファインダ窓5、ストロボ発光部6、マイクロホン部7などを有し、上面の(ユーザにとって)右端側には電源キー8及びシャッタキー9などが設けられている。
電源キー8は、電源のオン/オフ毎に操作するキーであり、シャッタキー9は、撮影時に撮影タイミングを指示するキーである。
また、デジタルカメラ1の背面には、撮影モード(R)キー10、再生モード(P)キー11、光学ファインダ12、スピーカ部13、マクロキー14、ストロボキー15、メニュー(MENU)キー16、リングキー17、セット(SET)キー18、表示部19などが設けられている。
撮影モードキー10は、電源オフの状態から操作することで自動的に電源オンとして静止画の撮影モードに移行する一方で、電源オンの状態から繰返し操作することで、静止画モード、動画モードを循環的に設定する。静止画モードは、静止画を撮影するためのモードである。また、動画モードは、動画を撮影するためのモードである。
前記シャッタキー9は、これらの撮影モードに共通に使用される。すなわち、静止画モードでは、シャッタキー9が押下されたときのタイミングで静止画の撮影が行われる。動画モードでは、シャッタキー9が押下されたときのタイミングで動画の撮影が開始され、シャッタキー9が再度押下されたときにその動画の撮影が終了する。
再生モードキー11は、電源オフの状態から操作することで自動的に電源オンとして再生モードに移行する。
マクロキー14は、静止画の撮影モードで通常撮影とマクロ撮影とを切換える際に操作する。ストロボキー15は、ストロボ発光部6の発光モードを切換える際に操作する。メニューキー16は、連続撮影モードを含む各種メニュー項目等を選択する際に操作する。リングキー17は、上下左右各方向への項目選択用のキーが一体に形成されたものであり、このリングキー17の中央に位置するセットキー18は、その時点で選択されている項目を設定する際に操作する。
表示部19は、バックライト付きのカラー液晶パネルで構成されるもので、撮影モード時には電子ファインダとしてスルー画像のモニタ表示を行う一方で、再生モード時には選択した画像等を再生表示する。
なお、図示はしないがデジタルカメラ1の底面には、記録媒体として用いられるメモリカードを着脱するためのメモリカードスロットや、外部のパーソナルコンピュータ等と接続するためのシリアルインタフェースコネクタとして、例えばUSB(Universal Serial Bus)コネクタ等が設けられている。
図2はデジタルカメラ1の電子回路構成を示すブロック図である。
このデジタルカメラ1には、光学レンズ装置21、イメージセンサ22、メモリ23、表示装置24、画像処理装置25、操作部26、コンピュータインタフェース部27、外部記憶IO装置28、プログラムコード記憶装置29、CPU30、メモリカード31が備えられている。
光学レンズ装置21は、撮影レンズ3を構成する図示せぬフォーカスレンズおよびズームレンズを含むレンズ光学系とその駆動部とを備えたものであり、イメージセンサ22上に、撮影対象からの光を集光させて像を結像させる。
イメージセンサ22は、結像した画像を、デジタル化した画像データとして取り込むためのものであり、例えば、CCD(Charge Coupled Device:電荷結合素子)等によって構成される。イメージセンサ22は、CPU30によって制御され、シャッタキー9が押下されなければ、プレビュー用の解像度の低いデジタルの画像データを生成し、この画像データを秒間30枚程度の間隔で、定期的にメモリ23に送出する。また、イメージセンサ22は、シャッタキー9が押下されると、解像度の高い画像データを生成し、生成した画像データをメモリ23に送出する。また、イメージセンサ22は、CPU30によって撮像感度(ISO感度)の設定可能である。
メモリ23は、イメージセンサ22からの低解像度のプレビュー画像、高解像度の画像データまたは画像処理装置25が画像処理する元画像のデータ、処理後の画像データを一時記憶するものである。メモリ23は、一時記憶した画像データを表示装置24または画像処理装置25に送り出す。
表示装置24は、液晶モニタである表示部19に画像を表示させるためのものである。表示装置24は、メモリ23が一時記憶した低解像度のプレビュー画像または解像度の高い画像を表示部19に表示する。
画像処理装置25は、メモリ23に一時記憶された画像データに対して、画像データの圧縮等の画像処理を行うためのものである。
操作部26は、シャッタキー9の他に、電源キー8、撮影モードキー10、再生モードキー11、マクロキー14、ストロボキー15、メニューキー16、リングキー17、セットキー18などから構成され、それらのキー操作に伴う信号は直接CPU30へ送出される。
コンピュータインタフェース部27は、デジタルカメラ1がコンピュータ(図示せず)に接続されたときに、USBのストレジクラスドライバとして動作するものである。これにより、コンピュータは、デジタルカメラ1に接続されると、メモリカード31をコンピュータの外部記憶装置として取り扱う。
外部記憶IO装置28は、メモリカード31との間で、画像データ等の入出力を行うものである。メモリカード31は、外部記憶IO装置28から供給された画像データ等を記憶するものである。
プログラムコード記憶装置29は、CPU30が実行するプログラムを記憶するためのものであり、ROMやフラッシュメモリなどによって構成される。
CPU30は、プログラムコード記憶装置29に格納されているプログラムに従って、システム全体を制御するものである。なお、メモリ23は、CPU30の作業メモリとしても用いられる。
操作部26のスイッチ・キーが押下されることにより、操作部26から操作情報が送信されると、CPU30は、この操作情報に基づいて、イメージセンサ22、メモリ23、表示装置24、画像処理装置25等を制御する。
具体的には、操作部26から撮影モードキー10が押下された旨の操作情報が送信されると、CPU30は各部を撮影モードに設定する。この状態で、シャッタキー9が押下されなければ、イメージセンサ22をプレビューモードに設定し、シャッタキー9が押下されれば、解像度の高い撮影対象画像を読み込む高解像度モードに設定する。その際、メニューキー16の操作により連続撮影モードが設定されていれば、シャッタキー9の押下に伴い、所定枚数分の画像の読み込み処理が所定時間間隔で実行される。
また、再生モードキー11が押下された旨の操作情報が送信されると、CPU30は、各部を再生モードに設定する。
また、CPU30は、外部記憶IO装置28を介してメモリカード31に、プレビュー画像、高解像度の画像のデータを記録したり、メモリカード31から、記録された画像データを読み出したりする。CPU30は、メモリカード31には、例えば、JPEGフォーマットで圧縮した画像データを記録する。
CPU30は、メモリ23に画像データを一時記憶する際、プレビュー画像、高解像度の画像データを異なる記憶領域に記録する。また、CPU30は、メモリカード31には、画像データを画像ファイルに分けて記録する。
また、CPU30は、外部記憶IO装置28を介してメモリカード31に、プレビュー画像、高解像度の画像のデータを記録したり、メモリカード31から、記録された画像データを読み出したりする。CPU30は、メモリカード31に画像データを格納する画像ファイルを作成する。
次に、前記構成のデジタルカメラ1によって画像合成を行う場合を想定して説明する。
通常、画像合成の位置合わせで用いられるテンプレートマッチングでは、差分二乗和(SSD)や差分絶対値和(SAD)を相違度の評価値とするのが一般的であるが、既に説明したように、SSDとSADはそれぞれに一長一短がある。
そこで、第1の実施形態では、新たな評価手法として、「MAD(Max of Absolute difference)」と呼ぶ最大差分絶対値を相違度の評価値として用いることを特徴とする。このMADをSSDとSADの定義と同様に表わすと、以下のようになる。
Figure 0004702312
図3は前記MADを用いた相違度評価を実現するためのCPU30の機能構成を示すブロック図である。第1の実施形態において、CPU30を機能的に示すと、信号取得部30a、サンプル抽出部30b、演算処理部30c、フィルタ処理部30dからなる。
信号取得部30aは、マッチング対象とする少なくも2つの信号を取得する。本実施形態では、マッチング対象として画像を例としているので、連続撮影などにより得られた2つの画像を取得することになる。この場合、前記2つの画像の一方は基準画像Rとしてメモリ23の第1のバッファ23aに格納され、他方は対象画像Oとして第2のバッファ23bに格納される。
サンプル抽出部30bは、基準画像Rの所定ブロック(テンプレート)内の各画素に対応する対象画像Oの各画素を抽出する。
演算処理部30cは、相違度評価の演算処理を行う。第1の実施形態において、この演算処理部30cは、前記(5)式に示したMADの演算処理を行うものであり、サンプル抽出部30bによって抽出された対象画像Oの各画素の夫々について、基準画像Rの各画素との差分絶対値を求め、その中の最大値を評価値として算出する。
フィルタ処理部30dは、ローパスフィルタ(LPF)からなり、マッチング対象とする基準画像Rと対象画像Oに対し、所定周波数以上の高周波数成分をカットするためのフィルタ処理を施す。
以下に、具体的な処理手順について説明する。
今、図4に示すように、基準画像Rの所定位置に設定された16×16画素のブロックをテンプレートとして、そのテンプレート内の各画素が対象画像Oのどの位置に対応しているかを探索する場合を想定する。
図5は第1の実施形態におけるデジタルカメラ1の主処理の流れを示すフローチャートである。
なお、このフローチャートで示される処理は、マイクロコンピュータであるCPU30がプログラムコード記憶装置29に記憶されたプログラムを読み込むことにより、そのプログラムに記述された手順に従って実行される。他の実施形態でも同様であり、各実施形態に対応したプログラムがプログラムコード記憶装置29に記憶されており、CPU30はこれらのプログラムを読み込むことにより、対応する処理を実行する。
図5に示すように、まず、CPU30は、マッチング対象となる少なくとも2つの画像を取得し(ステップS101)、その一方を基準画像Rとしてメモリ23の第1のバッファ23aに格納、他方の対象画像Oとしてメモリ23の第2のバッファ23bに格納しておく(ステップS102)。なお、画像の取得方法としては、イメージセンサ22を通じて取得することでも良いし、メモリカード31や外部から通信ネットワークなどを通じて取得することでも良い。
続いて、CPU30は、初期設定として、対象画像Oの探索範囲を示す定数Aと、基準画像Rにおけるテンプレートの位置を示す定数B,Cを設定する(ステップS103)。例えば、A=16であれば、探索範囲はx方向に「0〜15」、y方向にも「0〜15」の正方形の範囲となる。また、B=100,C=200であれば、座標(100,200)を左上隅とする16×16画素サイズの矩形ブロックがテンプレートとなる。
なお、前記座標B,Cをユーザが任意に設定できるような構成にしても良い。通常は、特徴点抽出処理により自動設定されるか、画像圧縮のブロックマッチングのように画面内の所定のブロックに対して自動設定される。また、一般的にはテンプレートは複数存在し、その場合はこれらの値の設定と本実施形態の主処理が順次繰り返して行われることになる。
このような初期設定の後、CPU30は、メモリ23の第1のバッファ23aに格納された基準画像Rに対してローパスフィルタを適用する(ステップS105)。このローパスフィルタは、一般的な線形のデジタルフィルタ等でよい。この場合、画像全体に対してフィルタ処理を施しても良いが、テンプレート内部の画素集合だけに適用すれば十分である。
また、CPU30は、メモリ23の第2のバッファ23bに格納された対象画像Oに対してローパスフィルタを適用する。前記同様に一般的な線形のデジタルフィルタ等でよい。画像全体に対してかけても良いが、探索範囲内の画素集合だけに適用すれば十分である。
ここで、CPU30は、相違度評価値の最小値を意味する変数minを、十分に大きな定数(ここではINFと表現する)によって初期化すると共に(ステップS106)、最小値探索のループ範囲を設定する(ステップS107)。ここでは画像の2次元探索なので、x成分、y成分ともに「0〜A−1」が範囲となり、増分は1である。
最小値探索のループが開始されると、CPU30は、所定の関数madをコールして、基準画像Rと対象画像Oのオフセットを示す探索位置(x,y)の評価値tを取得する(ステップS108)。なお、関数madについては、後に図6のフローチャートを参照して説明する。
前記取得した評価値tがそれ以前の最小値minより小さければ(ステップS109のYes)、CPU30は、minをそのtの値に更新するとともに(ステップS110)、そのときの探索位置(x,y)を変数minx,minyに保存する(ステップS111)。
以後、探索位置(x,y)を+1ずつ更新して(ステップS113)、同様の処理を繰り返す。設定範囲内の探索が終了すると(ステップS112のYes)、座標(minx,miny)が対応座標として得られる。
次に、前記ステップS108の関数madに関する処理について説明する。関数madとは、上述した最大差分絶対値(MAD)による相違度評価値を求めるための関数である。関数の引数x,yは、主処理から渡され、基準画像Rと対象画像Oのオフセットのx成分、y成分をそれぞれ示す。
図6はデジタルカメラ1の主処理からコールされる関数madの処理手順を示すフローチャートである。
関数madがコールされると、CPU30は、差分絶対値の最大値を示す変数maxを0で初期化すると共に(ステップS201)、テンプレート内の各画素を示す変数tx,tyの範囲を設定してループを開始する(ステップS202)。
テンプレートは、本実施形態では16×16画素の正方形ブロックなので、x成分は「B〜B+15」、y成分は「C〜C+15」が範囲となり、いずれも増分は1である。前述の通り、座標(B,C)は基準画像Rにおけるテンプレートブロックの左上隅座標を示す。
ループの中では、CPU30は、基準画像Rのテンプレート内の各画素と、オフセットx,yによってずらされた対象画像Oの対応画素との差分絶対値(変数s)を画素毎に計算する(ステップS203)。そして、これらの差分絶対値の中で最大のものを変数maxに保存するように(ステップS204,S205)、順次比較更新する(ステップS206,207)。
ループ終了後(ステップS206のYes)、maxが最終的に求める相違度の評価値tであり、これが主処理への戻り値となる(ステップS208)。
このように、基準画像Rと対象画像Oとをマッチングする際に、最大差分絶対値(MAD)を求め、これを相違度の評価値として用いることにより、以下のような効果が得られる。
すなわち、MADはSSDと同様に差分の局所的なピーク性を強調する尺度になっており、また、SSDに比べてさらにピークに敏感であるため、明度変動に対して非常に強く、マッチングのロバスト性を確保できる。
この場合、図15の一次元の信号aと信号bの例で言えば、前記(5)式により、
MAD=max│a−b│ …(6)
と表せる。
ここで、図16(b)に示すように、MADによる評価値を加えると、「a−b」に対しては「2」、「a−bi−1」に対しては「1」になり、SADに比べてマッチング精度が良いことが分かる。また、その評価値の分離性はSSDに比べて概ね明瞭である。
また、MADの演算は差分絶対値と比較のみであるから、二乗演算を伴うSSDに比べ、回路規模が少なくて済む。得られる評価値の桁数も画素差分値のレンジそのままであるから、SSDばかりかSADよりも小さいレンジでも対応可能であり、例えば、この評価値をもとにしてサブピクセル位置の推定を行う場合(具体的には、等角直線あてはめなど)にも、回路規模は非常に小さくて済む。
以上のように、MADの導入により、SSDとSADの各々の長所をとった上に、さらに良い効果が得られる。
ただし、MADでは、基準画像Rあるいは対象画像Oにピークの高いパルス的なノイズが混入していると、ノイズの影響を受け、誤ったマッチング結果を出力することがある。このような場合、図5のステップS104,S105に示したように、基準画像Rと対象画像Oに予めローパスフィルタをかけておけば、これらに含まれるノイズのピークを抑えることができるので、MADによるマッチングの安定性を図ることができる。
なお、前記実施形態では、入力信号を画像としたが、画像に限らず、また2次元信号に限らず、1次元や3次元の信号に対しても同様に適用できる。この場合、次元に合わせてループの階層構造を変えるだけで、サンプル点の集合に対して、MADの定義式による評価値を計算することができる。
また、テンプレートは正方形ブロックに限らず、任意形状でよい。この場合、x,yのインデックスに関するループを、その形状を反映する画素毎のループとすることで対応できる。
また、基準画像Rと対象画像Oの間の座標変換モデルを平行移動として、オフセットを(x,y)で表したが、回転を含めて(x,y,θ)としても良いし、アフィン変換や射影変換などのようにパラメータを増やしても良い。
また、マッチング探索範囲の形状を正方形とし、その全ての探索するものとしたが、探索範囲の形状は任意であり、全数探索でなくNステップ探索のような部分的な探索でも良い。これは、探索ループ構造を変更すれば実現できる。
(第2の実施形態)
次に、本発明の第2の実施形態について説明する。
第2の実施形態は、処理の目的は前記第1の実施形態と同様であるが、相違度評価値の算出方法が異なる。すなわち、第2の実施形態では、SADとMADを組み合わせて、以下のような評価式を用いる。
SAD+k・MAD=Σ│a−b│+k・max│a−b│ …(7)
前記(7)式において、kは定数であり、所定の範囲内にて任意に設定可能である。kの値が大きいほど、MADによる評価値が強くなる。したがって、信号aと信号bのレベル差が大きい場合には、kの値を大きくしてMADを有効に使い、逆に信号aと信号bのレベル差が小さい場合やピーク性のノイズが含まれているような場合には、kの値を小さくしてSADの方を有効に使うことができる。
以下に、第2の実施形態に関わる具体的な処理手順について説明する。
なお、装置構成については、前記第1の実施形態と基本的には同じであるため、省略する。ただし、第2の実施形態において、図3に示したCPU30の演算処理部30cは、前記(7)式に従った相違度評価の演算処理を行う。詳しくは、基準画像Rと対象画像Oとの各画素の差分絶対値の最大値(MAD)を第1の評価値として算出すると共に、基準画像Rと対象画像Oとの各画素の差分絶対値和(SAD)を第2の評価値として算出し、前記第1の評価値と前記第2の評価値とを所定の比率(k)で線形結合した値を最終的な評価値として算出する。
主処理の処理手順は図5と同じであるが、関数mad(x,y)をコールするステップS108の処理を、関数sadplusmad(x,y)のコールに置き換える。その他のステップおよび全体の処理手順は全く同じであるので、その説明は省略するものとする。関数sadplusmad(x,y)とは、SADとMADの線形結合による相違度評価値を求めるための関数のことである。関数の引数x,yは、主処理から渡され、基準画像Rと対象画像O像のオフセットのx成分、y成分をそれぞれ示す。
図7は第2の実施形態におけるデジタルカメラ1の主処理からコールされる関数sadplusmadの処理手順を示すフローチャートである。
関数sadplusmadがコールされると、CPU30は、差分絶対値和を示す変数sumを0で初期化すると共に(ステップS301)、差分絶対値の最大値を示す変数maxを0で初期化する(ステップS302)。また、CPU30は、テンプレート内の各画素を示す変数tx,tyの範囲を設定してループを開始する(ステップS303)。
テンプレートは、本実施形態では16×16画素の正方形ブロックなので、x成分は「B〜B+15」、y成分は「C〜C+15」が範囲となり、いずれも増分は1である。前述の通り、座標(B,C)は基準画像Rにおけるテンプレートブロックの左上隅座標を示す。
ループの中では、CPU30は、基準画像Rのテンプレート内の各画素と、オフセットx,yによってずらされた対象画像Oの対応画素との差分絶対値(変数s)を画素毎に計算する(ステップS304)。そして、CPU30は、これらの差分絶対値の中で最大のものをmaxに保存すると共に(ステップS305,S306)、差分絶対値(変数s)をsumに加算するように(ステップS307)、順次比較更新する(ステップS308,S309)。
ループ終了後、sumにmaxをk倍したものを加えた値が最終的に求める相違度の評価値tであり、これが主処理への戻り値となる(ステップS310)。
このように、基準画像Rと対象画像Oとをマッチングする際に、差分絶対値和(SAD)と最大差分絶対値(MAD)を組み合わせて相違度の評価値を演算することで、以下のような効果が得られる。
すなわち、MADの欠点はピーク性のノイズに弱いことであるが、これをノイズに強いSADと線形結合することで、SSDに近い中間的な特性を得ることができる。これにより、基準画像Rや対象画像Oにピーク性のノイズが含まれている場合でも、安定したマッチング結果を得ることができる。
また、SADとMADの比率を定数kによって調整できるので、マッチング対象とする画像の状態に応じて定数kを設定すれば、より良好なマッチング結果を得ることができる。なお、SADとMADの比率を決める定数kの調整方法としては、例えば図示せぬ設定画面を通じてユーザが任意に設定する方法や、マッチング対象とする画像を解析し、そこに含まれるノイズの状態に応じて定数kを適正な値に自動調整するなどの方法がある。
また、SSDよりもハードウェア構成が簡単である効果は前記第1の実施形態と同様である。
なお、画像間のマッチング探索以外に、一般の信号の相違度比較(すなわち類似度比較でもある)に基づく信号の判別に用いることもできる。その際には、テンプレートは信号の全体という場合もある。
(第3の実施形態)
次に、本発明の第3の実施形態について説明する。
第3の実施形態は、処理の目的は前記第1の実施形態と同様であるが、相違度評価値の算出方法が異なる。すなわち、第3の実施形態では、マッチングのためのテンプレートをさらに細かい領域に分割し、これらの分割領域毎の各画素値の差分絶対値和(SAD)を求め、その中の最大値を評価値として算出する。
図8を参照して具体的に説明する。
図8は第3の実施形態の領域分割を説明するための概念図である。図8(a)は、基準画像Rのテンプレートとオフセットされた対象画像Oとの画素毎の差分値をとる場合の16×16画素の正方形ブロックである。図左の実線と点線で区切った升目がテンプレートの各画素に対応する差分値である。
ここで、第3の実施形態では、このテンプレートを、図8(b)に示すように2×2画素の小正方形のサブブロックに分割する。サブブロックの個数は8×8個である。各々のサブブロック内の2×2画素分の差分絶対値和(SAD)を計算し、図8(b)の升目の位置に対応する8×8個の値を得る。この8×8個の値の中の最大値を相違度の評価値とする。
以下に、第3の実施形態に関わる具体的な処理手順について説明する。
なお、装置構成について前記第1の実施形態と基本的には同じである。ただし、第3の実施形態において、図3に示したCPU30のサンプル抽出部30bは、テンプレート(ブロック)を複数の領域(サブブロック)に分割し、これらの分割領域毎に基準画像Rと対象画像Oから各サンプル点を抽出する。また、演算処理部30cは、分割領域毎に基準画像Rと対象画像Oとの各サンプル点の差分絶対値和(SAD)を求め、その中の最大値を評価値として算出する。
主処理の処理手順は図5と同じであるが、関数mad(x,y)のコーするステップS108の処理を、関数maxsad(x,y)のコールに置き換える。その他のステップおよび全体の処理手順は全く同じであるので、その説明は省略するものとする。関数maxsad(x,y)とは、最大差分絶対値(MAD)と類似の効果を、差分絶対値和(SAD)と最大値演算の階層的適用により実現した関数のことである。関数の引数x,yは、主処理から渡され、基準画像Rと対象画像O像のオフセットのx成分、y成分をそれぞれ示す。
図9は第3の実施形態におけるデジタルカメラ1の主処理からコールされる関数maxsadの処理手順を示すフローチャートである。
関数maxsadがコールされると、CPU30は、サブブロック毎の差分絶対値和の最大値を示す変数maxを0で初期化すると共に(ステップS401)、テンプレート内の各画素を示す変数tx,tyの範囲を設定して(ステップS402)、2×2画素のサブブロック毎のループを開始する。
テンプレートは、本実施形態では16×16画素の正方形ブロックなので、x成分「はB〜B+15」、y成分は「C〜C+15」が範囲となり、いずれも増分は2である。したがって、ループ回数は8×8回となる。前述の通り、座標(B,C)は基準画像Rにおけるテンプレートブロックの左上隅座標を示す。
ループの中では、CPU30は、基準画像Rのテンプレート内の各画素と、オフセットx,yによってずらされた対象画像Oの対応画素との差分値をサブブロック内の画素毎に計算し(変数s0,s1,s2,s3)、それらのサブブロック毎の差分絶対値和(変数s)をとる(ステップS403,S403a,S404〜S408)。つまり、変数s=│s0│+│s1│+│s2│+│s3│といった演算を行う。そして、CPU30は、サブブロック毎の差分絶対値和の中で最大のものをmaxに保存するように、順次比較更新する(ステップS409,S410)。
ループ終了後、maxの値が最終的に求める相違度の評価値tであり、これが主処理への戻り値となる(ステップS411)。
このように、基準画像Rと対象画像Oとをマッチングする際に、テンプレートを複数領域に分割し、これらの分割領域毎の差分絶対値和の最大値を相違度の評価値として演算することで、ノイズ成分を分散して処理できると共に、画像間にレベル差があっても、安定したマッチング結果を得ることができる。
また、SSDよりもハードウェア構成が簡単である効果は前記第1の実施形態と同様である。
なお、サブブロックの分割方法は、2×2画素の小正方形に限らず、例えば4×4画素の小正方形、1×16画素のラインなどであっても良い。
また、画像間のマッチング探索以外に、一般の信号の相違度比較(すなわち類似度比較でもある)に基づく信号の判別に用いることもできる。その際には、テンプレートは信号の全体という場合もある。
(第4の実施形態)
次に、本発明の第4の実施形態について説明する。
第4の実施形態では、MADによる相違度評価の演算処理と、SADによる相違度評価の演算処理の2つを持ち、この2つを選択的に使用して相違度評価を行うようにしたものである。
図10は第4の実施形態におけるデジタルカメラ1に備えられたCPU30の機能構成を示すブロック図である。第4の実施形態において、CPU30を機能的に示すと、信号取得部30a、サンプル抽出部30b、第1の演算処理部30e、第2の演算処理部30f、評価制御部30g、レベル差検出部30h、モード設定部30iからなる。
信号取得部30aは、マッチング対象とする少なくも2つの信号を取得する。本実施形態では、マッチング対象として画像を例としているので、連続撮影などにより得られた2つの画像を取得することになる。この場合、前記2つの画像の一方は基準画像Rとしてメモリ23の第1のバッファ23aに格納され、他方は対象画像Oとして第2のバッファ23bに格納される。
サンプル抽出部30bは、基準画像Rの所定ブロック内の各画素に対応する対象画像Oの各画素を抽出する。
第1の演算処理部30eは、前記(5)式に示したMADの演算処理を行うものであり、サンプル抽出部30bによって抽出された対象画像Oの各画素の夫々について、基準画像Rの各画素との差分絶対値を求め、その中の最大値を評価値として算出する。
第2の演算処理部30fは、前記(2)式に示したSADの演算処理を行うものであり、サンプル抽出部30bによって抽出された対象画像Oの各画素の夫々について、基準画像Rの各画素との差分絶対値和を求め、これを評価値として算出する。
評価制御部30gは、第1の演算処理部30eまたは第2の演算処理部30fを選択的に使用して相違度評価を行う。
レベル差検出部30hは、メモリ23の第1のバッファ23aに格納された基準画像Rと第2のバッファ23bに格納された対象画像Oとのレベル差を検出する。
撮影モード設定部30iは、例えば「人物の撮影」、「風景の撮影」、「夜景の撮影」…などの各種シーンに対応した撮影モードを設定する。
以下に、第4の実施形態の動作について、(a)レベル差に応じてMADとSADを使い分ける場合と、(b)撮影モードに応じてMADとSADを使い分ける場合の処理に分けて説明する。
(a)レベル差に応じてMADとSADを使い分ける場合
図11は第4の実施形態におけるデジタルカメラ1のレベル差に応じてMADとSADを使い分ける場合の処理を示すフローチャートである。
マッチング対象となる基準画像Rと対象画像Oを取得すると(ステップS501)、CPU30は、その基準画像Rと対象画像Oをメモリ23の第1のバッファ23a,第2のバッファ23bにそれぞれに格納する(ステップS502)。
ここで、CPU30は、基準画像Rと対象画像Oとのレベル差を検出する(ステップS503)。これは、例えば基準画像Rの各画素の平均輝度と対象画像Oの各画素の平均輝度を比較することで行う。
その結果、基準画像Rと対象画像Oとのレベル差が所定値以上であった場合には(ステップS504のYes)、CPU30は、MADを用いて相違度評価を行う(ステップS505,S506)。詳しくは、前記第1の実施形態で説明したように、基準画像Rのテンプレート内の各画素に対応する対象画像Oの各画素を抽出し、これらの画素間の差分絶対値を求め、その中の最大値を評価値として算出する。
一方、基準画像Rと対象画像Oとの間のレベル差が所定値未満であった場合には(ステップS503のNo)、CPU30は、SADを用いて相違度評価を行う(ステップS507,S508)。詳しくは、前記第2の実施形態で説明したように、基準画像Rのテンプレート内の各画素に対応する対象画像Oの各画素を抽出し、これらの画素間の差分絶対値和を評価値として算出する。
このように、基準画像Rと対象画像Oとをマッチングする際に、両者のレベル差を検出してMADとSADを選択的に使用することで、MADとSADのそれぞれの長所を生かした相違度評価を行うことができ、常に安定したマッチング結果を得ることができる。
また、SSDよりもハードウェア構成が簡単である効果は前記第1の実施形態と同様である。
(b)撮影モードに応じてMADとSADを使い分ける場合
例えば、長時間露光した画像と短時間露光した画像を合成してダイナミックレンジを広げる場合には、平均的な輝度のレベルが合わないため、SADではマッチングできないことがある。また、蛍光灯の下で連続撮影を行うと、フリッカーの影響で各画像に部分的にレベル差が生じるため、SADではマッチングできないことがある。
そこで、画像間のレベル差が発生する撮影モードを「特定の撮影モード」として決めておき、その特定の撮影モードが設定された場合にMADを使用するものとする。以下に、具体的な処理動作について説明する。
図12は第4の実施形態におれるデジタルカメラ1の撮影モードに応じてMADとSADを使い分ける場合の処理を示すフローチャートである。
まず、所定の操作により図示せぬモード設定画面を表示し、その中でユーザによって選択された撮影モードを設定する(ステップS601)。前記モード設定画面には、例えば「人物の撮影」、「風景の撮影」、「夜景の撮影」…などの一般的な撮影シーンに対応したモードの他に、上述した「ダイナミックレンジの拡張」や「蛍光灯の下での連続撮影」といった特定の環境下で被写体を撮影する場合のモードが含まれる。
マッチング対象となる基準画像Rと対象画像Oを取得すると(ステップS602)、CPU30は、その基準画像Rと対象画像Oをメモリ23の第1のバッファ23a,第2のバッファ23bにそれぞれに格納する(ステップS603)。
ここで、CPU30は、現在設定されている撮影シーンを判断する(ステップS604)。その結果、特定の撮影モードが設定されていた場合、つまり、上述した「ダイナミックレンジの拡張」や「蛍光灯の下での連続撮影」のように、画像間のレベル差が生じる撮影モードの場合には(ステップS604のYes)、CPU30は、MADを用いて相違度評価を行う(ステップS605,S606)。詳しくは、前記第1の実施形態で説明したように、基準画像Rのテンプレート内の各画素に対応する対象画像Oの各画素を抽出し、これらの画素間の差分絶対値を求め、その中の最大値を評価値として算出する。
一方、特定の撮影シーンが設定されていない場合には(ステップS604のNo)、CPU30は、SADを用いて相違度評価を行う(ステップS607,S608)。詳しくは、前記第2の実施形態で説明したように、基準画像Rのテンプレート内の各画素に対応する対象画像Oの各画素を抽出し、これらの画素間の差分絶対値和を評価値として算出する。
このように、基準画像Rと対象画像Oとをマッチングする際に、撮影シーンに応じてMADとSADを選択的に使用することで、MADとSADのそれぞれの長所を生かした相違度評価を行うことができ、安定したマッチング結果を得ることができる。
また、SSDよりもハードウェア構成が簡単である効果は前記第1の実施形態と同様である。
なお、前記第4の実施形態では、MAD以外の演算処理としてSADを用い、MADとSADを選択的に使用して相違度評価を行うものとして説明したが、SADの代わりにSSDを用いるような構成も可能である。SSDの場合、実装コストが高くなるなどの問題があるが、ソフト実装であれば、その問題を軽減することができる。
また、前記第4の実施形態において、少なくともMADの演算処理に際し、前記第1の実施形態で説明したようなローパスフィルタを基準画像Rと対象画像Oに適用することが好ましい。
(第5の実施形態)
次に、本発明の第5の実施形態について説明する。
第5の実施形態では、MADによる相違度評価の演算処理と、SADによる相違度評価の演算処理の2つを持ち、一方の演算処理で得た評価値が基準値以上である場合に他方の演算処理にて評価値を得るようにしたものである。ここでの演算にて得られる評価値は画像間の相違度を示す値であるため、評価値が小さいほどマッチングが良く、評価値が高いほどマッチングが悪いことを意味する。
なお、装置構成は図10を参照する。第5の実施形態において、CPU30の評価制御部30gは、第1の演算処理部30eまたは第2の演算処理部30fの一方を使用して相違度評価を行い、そのときに得られた評価値が基準値以上である場合に他方を使用して相違度評価を行う。
以下に、第5の実施形態の動作について、(a)MADを優先して使う場合と、(b)SADを優先して使う場合の処理に分けて説明する。
(a)MADを優先して使う場合
図13は第5の実施形態におけるデジタルカメラ1のMADを優先して使う場合の処理を示すフローチャートである。
マッチング対象となる基準画像Rと対象画像Oを取得すると(ステップS701)、CPU30は、その基準画像Rと対象画像Oをメモリ23の第1のバッファ23a,第2のバッファ23bにそれぞれに格納する(ステップS702)。
CPU30は、まず、MADを用いて相違度評価を行う(ステップS703,S704)。詳しくは、前記第1の実施形態で説明したように、基準画像Rのテンプレート内の各画素に対応する対象画像Oの各画素を抽出し、これらの画素間の差分絶対値を求め、その中の最大値を評価値として算出する。
ここで、前記算出された評価値が基準値以上であった場合、つまり、各画素毎に最大差分絶対値を順次求めながら最終的に得られた評価値tが基準値を満たさず、正しくマッチングできない場合には(ステップS705のYes)、CPU30は、SADに切り替えて相違度評価を行う(ステップS706)。詳しくは、前記第2の実施形態で説明したように、基準画像Rのテンプレート内の各画素に対応する対象画像Oの各画素を抽出し、これらの画素間の差分絶対値和を評価値として算出する。この場合、対応画素の抽出処理は既にステップS703で行われているので、演算処理だけを行うことでも良い。
なお、SADに切り替えても基準値以上の評価値が得られない場合には、マッチングエラーとして、例えばエラーメッセージを表示するなどして、ここでの処理を終えるものとする。
このように、MADとSADを選択的に使用することで、MADとSADのそれぞれの長所を生かした相違度評価を行うことができ、常に安定したマッチング結果を得ることができる。特に、MADを優先的に使用することで、レベル差のある画像間のマッチングを行う場合に有効的である。
また、SSDよりもハードウェア構成が簡単である効果は前記第1の実施形態と同様である。
(b)SADを優先して使う場合
図14は第5の実施形態におけるデジタルカメラ1のSADを優先して使う場合の処理を示すフローチャートである。
マッチング対象となる基準画像Rと対象画像Oを取得すると(ステップS801)、CPU30は、その基準画像Rと対象画像Oをメモリ23の第1のバッファ23a,第2のバッファ23bにそれぞれに格納する(ステップS802)。
CPU30は、まず、SADを用いて相違度評価を行う(ステップS803,S804)。詳しくは、前記第2の実施形態で説明したように、基準画像Rのテンプレート内の各画素に対応する対象画像Oの各画素を抽出し、これらの画素間の差分絶対値和を評価値として算出する。
ここで、前記算出された評価値が基準値以上であった場合、つまり、各画素毎に差分絶対値和を順次求めながら最終的に得られた評価値tが基準値を満たさず、正しくマッチングできない場合には(ステップS805のYes)、CPU30は、MADに切り替えて相違度評価を行う(ステップS806)。詳しくは、前記第1の実施形態で説明したように、基準画像Rのテンプレート内の各画素に対応する対象画像Oの各画素を抽出し、これらの画素間の差分絶対値を求め、その中の最大値を評価値として算出する。この場合、対応画素の抽出処理は既にステップS703で行われているので、演算処理だけを行うことでも良い。
なお、MADに切り替えても基準値以上の評価値が得られない場合には、マッチングエラーとして、例えばエラーメッセージを表示するなどして、ここでの処理を終えるものとする。
このように、MADとSADを選択的に使用することで、MADとSADのそれぞれの長所を生かした相違度評価を行うことができ、常に安定したマッチング結果を得ることができる。特に、SADを優先的に使用することで、ピーク性のノイズが含まれている画像間のマッチングを行う場合に有効的である。
また、SSDよりもハードウェア構成が簡単である効果は前記第1の実施形態と同様である。
なお、前記第5の実施形態において、少なくともMADの演算処理に際し、前記第1の実施形態で説明したようなローパスフィルタを基準画像Rと対象画像Oに適用することが好ましい。
また、前記各実施形態では、すべての処理をソフトウェアで実現する場合について説明したが、処理の一部または全部をハードウェアで実現しても良い。
また、本発明は、デジタルカメラに限らず、画像等の信号をマッチングする機能を備えた装置であれば、そのすべてに適用可能である。
要するに、本発明は前記各実施形態そのままに限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。また、前記各実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明を形成できる。例えば、実施形態に示される全構成要素から幾つかの構成要素を削除してもよい。さらに、異なる実施形態にわたる構成要素を適宜組み合わせてもよい。
また、上述した各実施形態において記載した手法は、コンピュータに実行させることのできるプログラムとして、例えば磁気ディスク(フレキシブルディスク、ハードディスク等)、光ディスク(CD−ROM、DVD−ROM等)、半導体メモリなどの記録媒体に書き込んで各種装置に適用したり、そのプログラム自体をネットワーク等の伝送媒体により伝送して各種装置に適用することも可能である。本装置を実現するコンピュータは、記録媒体に記録されたプログラムあるいは伝送媒体を介して提供されたプログラムを読み込み、このプログラムによって動作が制御されることにより、上述した処理を実行する。
図1は本発明の第1の実施形態に係る相違度評価装置をデジタルカメラに適用した場合の外観構成を示す図であり、図1(a)は主に前面の構成、同図(b)は主に背面の構成を示す斜視図である。 図2は同実施形態におけるデジタルカメラの電子回路構成を示すブロック図である。 図3は同実施形態におけるデジタルカメラに備えられたCPUの機能構成を示すブロック図である。 図4は同実施形態における基準画像と対象画像のマッチング例を示す図である。 図5は同実施形態におけるデジタルカメラの主処理の流れを示すフローチャートである。 図6は同実施形態におけるデジタルカメラの主処理からコールされる関数madの処理手順を示すフローチャートである。 図7は第2の実施形態におけるデジタルカメラの主処理からコールされる関数sadplusmadの処理手順を示すフローチャートである。 図8は第3の実施形態におけるテンプレートの領域分割を説明するための概念図である。 図9は第3の実施形態におけるデジタルカメラの主処理からコールされる関数maxsadの処理手順を示すフローチャートである。 図10は第4の実施形態におけるデジタルカメラの機能構成を示すブロック図である。 図11は第4の実施形態におけるデジタルカメラのレベル差に応じてMADとSADを使い分ける場合の処理を示すフローチャートである。 図12は第4の実施形態におれるデジタルカメラの撮影モードに応じてMADとSADを使い分ける場合の処理を示すフローチャートである。 図13は第5の実施形態におけるデジタルカメラのMADを優先して使う場合の処理を示すフローチャートである。 図14は第5の実施形態におけるデジタルカメラのSADを優先して使う場合の処理を示すフローチャートである。 図15は1次元の信号を例にした場合のマッチング方法を説明するための図である。 図16はSAD、SSD、MADによる相違度の評価結果を示す図である。
符号の説明
1…デジタルカメラ、2…ボディ、3…撮影レンズ、4…セルフタイマランプ、5…光学ファインダ窓、6…ストロボ発光部、7…マイクロホン部、8…電源キー、9…シャッタキー、10…撮影モードキー、11…再生モードキー、12…光学ファインダ、13…スピーカ部、14…マクロキー、15…ストロボキー、16…メニュー(MENU)キー、17…リングキー、18…セット(SET)キー、19…表示部、21…光学レンズ装置、22…イメージセンサ、23…メモリ、23a…第1のバッファ、23b…第2のバッファ、24…表示装置、25…画像処理装置、26…操作部、27…コンピュータインタフェース部、28…外部記憶IO装置、29…プログラムコード記憶装置、30…CPU、30a…信号取得部、30b…サンプル抽出部、30c…演算処理部、30d…フィルタ処理部、30e…第1の演算処理部、30f…第2の演算処理部、30g…評価制御部、30h…レベル差検出部、30i…撮影モード設定部。

Claims (18)

  1. マッチング対象とする少なくも2つの信号を取得する信号取得手段と、
    この信号取得手段によって得られた2つの信号の一方を基準信号、他方を対象信号として記憶する記憶手段と、
    この記憶手段に記憶された基準信号の所定ブロック内の各サンプル点に対応する前記対象信号の各サンプル点を抽出するサンプル抽出手段と、
    このサンプル抽出手段によって抽出された前記対象信号の各サンプル点の夫々について、前記基準信号の各サンプル点との差分絶対値を求め、その中の最大値を評価値として算出する演算処理手段とを具備し、
    前記演算処理手段は、前記差分絶対値の最大値を第1の評価値として算出すると共に、前記基準信号と前記対象信号との各サンプル点の差分絶対値和を第2の評価値として算出し、前記第1の評価値と前記第2の評価値とを所定の比率で線形結合した値を最終的な評価値として算出することを特徴する相違度評価装置。
  2. 前記第1の評価値と前記第2の評価値との比率を調整する比率調整手段を具備したことを特徴とする請求項記載の相違度評価装置。
  3. マッチング対象とする少なくも2つの信号を取得する信号取得手段と、
    この信号取得手段によって得られた2つの信号の一方を基準信号、他方を対象信号として記憶する記憶手段と、
    この記憶手段に記憶された基準信号の所定ブロック内の各サンプル点に対応する前記対象信号の各サンプル点を抽出するサンプル抽出手段と、
    このサンプル抽出手段によって抽出された前記対象信号の各サンプル点の夫々について、前記基準信号の各サンプル点との差分絶対値を求め、その中の最大値を評価値として算出する演算処理手段とを具備し、
    前記サンプル抽出手段は、前記ブロックを複数の領域に分割し、これらの分割領域毎に前記基準信号と前記対象信号から各サンプル点を抽出し、
    前記演算処理手段は、前記分割領域毎に前記基準信号と前記対象信号との各サンプル点の差分絶対値和を求め、その中の最大値を評価値として算出することを特徴とする相違度評価装置。
  4. 前記基準信号と前記対象信号とをマッチングする際に、高周波性成分をカットするためのフィルタ処理を施すフィルタ処理手段を具備したことを特徴とする請求項1乃至のいずれかに記載の相違度評価装置。
  5. マッチング対象とする少なくも2つの信号を取得する信号取得手段と、
    この信号取得手段によって得られた2つの信号の一方を基準信号、他方を対象信号として記憶する記憶手段と、
    この記憶手段に記憶された基準信号の所定ブロック内の各サンプル点に対応する前記対象信号の各サンプル点を抽出するサンプル抽出手段と、
    このサンプル抽出手段によって抽出された前記対象信号の各サンプル点の夫々について、前記基準信号の各サンプル点との差分絶対値の最大値を評価値として算出する第1の演算処理手段と、
    前記基準信号と前記対象信号との各サンプル点の差分絶対値和を評価値として算出する第2の演算処理手段と、
    前記第1または第2の演算処理手段を選択的に使用して相違度評価を行う評価制御手段と
    を具備したことを特徴する相違度評価装置。
  6. マッチング対象とする少なくも2つの信号を取得する信号取得手段と、
    この信号取得手段によって得られた2つの信号の一方を基準信号、他方を対象信号として記憶する記憶手段と、
    この記憶手段に記憶された基準信号の所定ブロック内の各サンプル点に対応する前記対象信号の各サンプル点を抽出するサンプル抽出手段と、
    このサンプル抽出手段によって抽出された前記対象信号の各サンプル点の夫々について、前記基準信号の各サンプル点との差分絶対値の最大値を評価値として算出する第1の演算処理手段と、
    前記基準信号と前記対象信号との各サンプル点の差分二乗和を評価値として算出する第2の演算処理手段と、
    前記第1または第2の演算処理手段を選択的に使用して相違度評価を行う評価制御手段と
    を具備したことを特徴する相違度評価装置。
  7. 前記基準信号と前記対象信号とのレベル差を検出するレベル差検出手段を備え、
    前記評価制御手段は、前記レベル差検出手段によって検出さたれレベル差が所定値以上の場合に前記第1の演算処理手段を選択し、レベル差が所定値未満の場合には前記第2の演算処理手段を選択して相違度評価を行うことを特徴する請求項5又は6に記載の相違度評価装置。
  8. 特定のモードを設定するモード設定手段を備え、
    前記評価制御手段は、前記モード設定手段によって前記特定のモードが設定された場合に前記第1の演算処理手段を選択し、前記特定のモードが設定されていない場合には前記第2の演算処理手段を選択して相違度評価を行うことを特徴する請求項5又は6に記載の相違度評価装置。
  9. マッチング対象とする少なくも2つの信号を取得する信号取得手段と、
    この信号取得手段によって得られた2つの信号の一方を基準信号、他方を対象信号として記憶する記憶手段と、
    この記憶手段に記憶された基準信号の所定ブロック内の各サンプル点に対応する前記対象信号の各サンプル点を抽出するサンプル抽出手段と、
    このサンプル抽出手段によって抽出された前記対象信号の各サンプル点の夫々について、前記基準信号の各サンプル点との差分絶対値の最大値を評価値として算出する第1の演算処理手段と、
    この第1の演算処理手段によって算出された評価値が基準値以上であった場合に、前記基準信号と前記対象信号との各サンプル点の差分絶対値和を評価値として算出する第2の演算処理手段と
    を具備したことを特徴する相違度評価装置。
  10. マッチング対象とする少なくも2つの信号を取得する信号取得手段と、
    この信号取得手段によって得られた2つの信号の一方を基準信号、他方を対象信号として記憶する記憶手段と、
    この記憶手段に記憶された基準信号の所定ブロック内の各サンプル点に対応する前記対象信号の各サンプル点を抽出するサンプル抽出手段と、
    このサンプル抽出手段によって抽出された前記対象信号の各サンプル点の夫々について、前記基準信号の各サンプル点との差分絶対値和を評価値として算出する第1の演算処理手段と、
    この第1の演算処理手段によって算出された評価値が基準値以上であった場合に、前記基準信号と前記対象信号との各サンプル点の差分絶対値の最大値を評価値として算出する第2の演算処理手段と
    を具備したことを特徴する相違度評価装置。
  11. マッチング対象とする少なくも2つの信号を取得する第1のステップと、
    前記2つの信号の一方を基準信号、他方を対象信号として所定のメモリに記憶する第2のステップと、
    前記メモリに記憶された基準信号の所定ブロック内の各サンプル点に対応する前記対象信号の各サンプル点を抽出する第3のステップと、
    前記対象信号の各サンプル点の夫々について、前記基準信号の各サンプル点との差分絶対値を求め、その中の最大値を第1の評価値として算出する第4のステップと
    前記基準信号と前記対象信号との各サンプル点の差分絶対値和を第2の評価値として算出し、前記第1の評価値と前記第2の評価値とを所定の比率で線形結合した値を最終的な評価値として算出する第5のステップと
    を有することを特徴とする相違度評価方法。
  12. マッチング対象とする少なくも2つの信号を取得するステップと、
    前記2つの信号の一方を基準信号、他方を対象信号として所定のメモリに記憶するステップと、
    前記メモリに記憶された基準信号の所定ブロック内の各サンプル点に対応する前記対象信号の各サンプル点を抽出するステップと、
    前記対象信号の各サンプル点の夫々について、前記基準信号の各サンプル点との差分絶対値の最大値を評価値として算出する第1の演算処理と、前記基準信号と前記対象信号との各サンプル点の差分絶対値和を評価値として算出する第2の演算処理とを選択的に使用して相違度評価を行うステップと
    を有することを特徴とする相違度評価方法。
  13. マッチング対象とする少なくも2つの信号を取得する第1のステップと、
    前記2つの信号の一方を基準信号、他方を対象信号として所定のメモリに記憶する第2のステップと、
    前記メモリに記憶された基準信号の所定ブロック内の各サンプル点に対応する前記対象信号の各サンプル点を抽出する第3のステップと、
    前記対象信号の各サンプル点の夫々について、前記基準信号の各サンプル点との差分絶対値の最大値を評価値として算出する第4のステップと、
    この第4のステップによって算出された評価値が基準値以上であった場合に、前記基準信号と前記対象信号との各サンプル点の差分絶対値和を評価値として算出する第5のステップと
    を有することを特徴する相違度評価方法。
  14. マッチング対象とする少なくも2つの信号を取得する第1のステップと、
    前記2つの信号の一方を基準信号、他方を対象信号として所定のメモリに記憶する第2のステップと、
    前記メモリに記憶された基準信号の所定ブロック内の各サンプル点に対応する前記対象信号の各サンプル点を抽出する第3のステップと、
    前記対象信号の各サンプル点の夫々について、前記基準信号の各サンプル点との差分絶対値和を評価値として算出する第4のステップと、
    この第4のステップによって算出された評価値が基準値以上であった場合に、前記基準信号と前記対象信号との各サンプル点の差分絶対値の最大値を評価値として算出する第5のステップと
    を有することを特徴する相違度評価方法。
  15. コンピュータによって読み取り可能な記録媒体に記録されたプログラムであって、
    前記コンピュータに、
    マッチング対象とする少なくも2つの信号を取得する第1の機能と、
    前記2つの信号の一方を基準信号、他方を対象信号として所定のメモリに記憶する第2の機能と、
    前記メモリに記憶された基準信号の所定ブロック内の各サンプル点に対応する前記対象信号の各サンプル点を抽出する第3の機能と、
    前記対象信号の各サンプル点の夫々について、前記基準信号の各サンプル点との差分絶対値を求め、その中の最大値を第1の評価値として算出する第4の機能と
    前記基準信号と前記対象信号との各サンプル点の差分絶対値和を第2の評価値として算出し、前記第1の評価値と前記第2の評価値とを所定の比率で線形結合した値を最終的な評価値として算出する第5の機能と
    を実現させることを特徴とするプログラム。
  16. コンピュータによって読み取り可能な記録媒体に記録されたプログラムであって、
    前記コンピュータに、
    マッチング対象とする少なくも2つの信号を取得する機能と、
    前記2つの信号の一方を基準信号、他方を対象信号として所定のメモリに記憶する機能と、
    前記メモリに記憶された基準信号の所定ブロック内の各サンプル点に対応する前記対象信号の各サンプル点を抽出する機能と、
    前記対象信号の各サンプル点の夫々について、前記基準信号の各サンプル点との差分絶対値の最大値を評価値として算出する第1の演算処理と、前記基準信号と前記対象信号との各サンプル点の差分絶対値和を評価値として算出する第2の演算処理とを選択的に使用して相違度評価を行う機能と
    を実現させることを特徴とするプログラム。
  17. コンピュータによって読み取り可能な記録媒体に記録されたプログラムであって、
    前記コンピュータに、
    マッチング対象とする少なくも2つの信号を取得する第1の機能と、
    前記2つの信号の一方を基準信号、他方を対象信号として所定のメモリに記憶する第2の機能と、
    前記メモリに記憶された基準信号の所定ブロック内の各サンプル点に対応する前記対象信号の各サンプル点を抽出する第3の機能と、
    前記対象信号の各サンプル点の夫々について、前記基準信号の各サンプル点との差分絶対値の最大値を評価値として算出する第4の機能と、
    この第4の機能によって算出された評価値が基準値以上であった場合に、前記基準信号と前記対象信号との各サンプル点の差分絶対値和を評価値として算出する第5の機能と
    を実現させることを特徴とするプログラム。
  18. コンピュータによって読み取り可能な記録媒体に記録されたプログラムであって、
    前記コンピュータに、
    マッチング対象とする少なくも2つの信号を取得する第1の機能と、
    前記2つの信号の一方を基準信号、他方を対象信号として所定のメモリに記憶する第2の機能と、
    前記メモリに記憶された基準信号の所定ブロック内の各サンプル点に対応する前記対象信号の各サンプル点を抽出する第3の機能と、
    前記対象信号の各サンプル点の夫々について、前記基準信号の各サンプル点との差分絶対値和を評価値として算出する第4の機能と、
    この第4の機能によって算出された評価値が基準値以上であった場合に、前記基準信号と前記対象信号との各サンプル点の差分絶対値の最大値を評価値として算出する第5の機能と
    を実現させることを特徴とするプログラム。
JP2007075316A 2007-03-22 2007-03-22 相違度評価装置、相違度評価方法及びプログラム Active JP4702312B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2007075316A JP4702312B2 (ja) 2007-03-22 2007-03-22 相違度評価装置、相違度評価方法及びプログラム
US12/077,510 US8421868B2 (en) 2007-03-22 2008-03-19 Difference degree evaluation device, difference degree evaluation method and program product
US13/846,703 US8542280B2 (en) 2007-03-22 2013-03-18 Difference degree evaluation device, difference degree evaluation method and program product

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007075316A JP4702312B2 (ja) 2007-03-22 2007-03-22 相違度評価装置、相違度評価方法及びプログラム

Publications (2)

Publication Number Publication Date
JP2008234465A JP2008234465A (ja) 2008-10-02
JP4702312B2 true JP4702312B2 (ja) 2011-06-15

Family

ID=39775809

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007075316A Active JP4702312B2 (ja) 2007-03-22 2007-03-22 相違度評価装置、相違度評価方法及びプログラム

Country Status (2)

Country Link
US (2) US8421868B2 (ja)
JP (1) JP4702312B2 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5490117B2 (ja) * 2009-07-07 2014-05-14 株式会社東芝 画像処理装置
JP5198543B2 (ja) 2010-11-19 2013-05-15 株式会社東芝 画像処理方法、画像処理装置及び画像処理プログラム
US9569695B2 (en) * 2012-04-24 2017-02-14 Stmicroelectronics S.R.L. Adaptive search window control for visual search
US20180225799A1 (en) * 2017-02-03 2018-08-09 Cognex Corporation System and method for scoring color candidate poses against a color image in a vision system
US10706512B2 (en) * 2017-03-07 2020-07-07 Adobe Inc. Preserving color in image brightness adjustment for exposure fusion

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06153180A (ja) * 1992-09-16 1994-05-31 Fujitsu Ltd 画像データ符号化方法及び装置
JPH0793727B2 (ja) * 1987-06-16 1995-10-09 ソニー株式会社 高能率符号の復号装置
JPH10289315A (ja) * 1997-04-16 1998-10-27 Sony Corp 視差算出装置、距離算出装置およびこれらの方法
JP2001224028A (ja) * 2000-02-14 2001-08-17 Sony Corp 情報処理装置および方法
JP2001298736A (ja) * 2000-02-10 2001-10-26 Sony Corp 情報処理装置および方法、学習装置および方法、並びに記録媒体
JP2006023976A (ja) * 2004-07-08 2006-01-26 Nippon Telegr & Teleph Corp <Ntt> パラメータ設定方法、画像パターン抽出方法、パラメータ設定装置、画像パターン抽出装置、およびこれら方法のプログラム

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3265078B2 (ja) 1993-09-27 2002-03-11 松下電器産業株式会社 薄膜磁気抵抗効果型磁気ヘッド
US20070070059A1 (en) * 2001-08-10 2007-03-29 Alan Rojer Refinement of block motion estimate using texture mapping
US8018530B2 (en) * 2006-12-29 2011-09-13 Intel Corporation Adaptive video de-interlacing
US8503521B2 (en) * 2007-01-16 2013-08-06 Chih-Ta Star SUNG Method of digital video reference frame compression

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0793727B2 (ja) * 1987-06-16 1995-10-09 ソニー株式会社 高能率符号の復号装置
JPH06153180A (ja) * 1992-09-16 1994-05-31 Fujitsu Ltd 画像データ符号化方法及び装置
JPH10289315A (ja) * 1997-04-16 1998-10-27 Sony Corp 視差算出装置、距離算出装置およびこれらの方法
JP2001298736A (ja) * 2000-02-10 2001-10-26 Sony Corp 情報処理装置および方法、学習装置および方法、並びに記録媒体
JP2001224028A (ja) * 2000-02-14 2001-08-17 Sony Corp 情報処理装置および方法
JP2006023976A (ja) * 2004-07-08 2006-01-26 Nippon Telegr & Teleph Corp <Ntt> パラメータ設定方法、画像パターン抽出方法、パラメータ設定装置、画像パターン抽出装置、およびこれら方法のプログラム

Also Published As

Publication number Publication date
JP2008234465A (ja) 2008-10-02
US20080235310A1 (en) 2008-09-25
US20130216142A1 (en) 2013-08-22
US8421868B2 (en) 2013-04-16
US8542280B2 (en) 2013-09-24

Similar Documents

Publication Publication Date Title
US8520116B2 (en) Photographing apparatus and method
JP2004207985A (ja) デジタルカメラ
CN109691080B (zh) 拍摄图像方法、装置和终端
JPH10240436A (ja) 情報処理装置および記録媒体
JP7223079B2 (ja) 画像処理装置およびその制御方法、ならびに撮像装置
JP2009147730A (ja) 動画生成装置、動画撮影装置、動画生成方法及びプログラム
JP4702312B2 (ja) 相違度評価装置、相違度評価方法及びプログラム
JP6521626B2 (ja) 被写体追跡装置、方法およびプログラム
JP4466430B2 (ja) 電子カメラ及び撮像制御プログラム
JP2009017223A (ja) 撮影装置、画像処理装置、これらにおける画像処理方法およびプログラム
JP5011504B2 (ja) 画像合成装置、画像合成方法及びプログラム
JP4807582B2 (ja) 画像処理装置、撮像装置及びそのプログラム
JP5167236B2 (ja) 被写体追跡装置及びその制御方法
JP6099973B2 (ja) 被写体領域追跡装置、その制御方法及びプログラム
US8339498B2 (en) Method and apparatus for displaying luminance, and digital photographing apparatus using the same
JP5911300B2 (ja) 撮像装置及びその制御方法
JP5451364B2 (ja) 被写体追跡装置及びその制御方法
JP2016081095A (ja) 被写体追跡装置、その制御方法、撮像装置、表示装置及びプログラム
WO2018119787A1 (zh) 一种去马赛克方法及装置
JP4871798B2 (ja) 電子機器
JP5222429B2 (ja) 被写体追跡装置及びその制御方法
JP6218520B2 (ja) 画像処理装置、画像処理方法、及びプログラム
JP5289354B2 (ja) 撮像装置
JP2006094202A (ja) 撮像装置、合焦処理方法及びプログラム
JP2011172079A (ja) 画像再生装置及び画像再生プログラム

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20101116

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20101124

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110119

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110208

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110221

R150 Certificate of patent or registration of utility model

Ref document number: 4702312

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150