JP2006293600A - 画像処理方法、画像処理装置及び画像合成処理装置 - Google Patents
画像処理方法、画像処理装置及び画像合成処理装置 Download PDFInfo
- Publication number
- JP2006293600A JP2006293600A JP2005111963A JP2005111963A JP2006293600A JP 2006293600 A JP2006293600 A JP 2006293600A JP 2005111963 A JP2005111963 A JP 2005111963A JP 2005111963 A JP2005111963 A JP 2005111963A JP 2006293600 A JP2006293600 A JP 2006293600A
- Authority
- JP
- Japan
- Prior art keywords
- evaluation
- feature point
- image
- image processing
- feature points
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Image Processing (AREA)
- Color Image Communication Systems (AREA)
- Image Analysis (AREA)
Abstract
【課題】同一被写体を撮影して得られた複数の撮影画像同士を高精度に対応付け可能とする。
【解決手段】同一の被写体を撮影して得られた複数の撮影画像の各々から特徴点を抽出し、当該被写体の同一点に対応する特徴点同士を対応付ける画像処理では、各撮影画像の間で、被写体の同一点に対応する特徴点の候補となる対応特徴点候補同士の座標値を評価し(A2)、各々の撮影画像内で、対応特徴点候補と当該対応特徴点候補の近傍に位置する特徴点との位置関係を評価し(A7)、座標評価及び位置関係評価において得られた評価情報に基づいて、被写体の同一点に対応する対応特徴点があるか否かを判定し、対応特徴点を決定する(A8)。
【選択図】図2
【解決手段】同一の被写体を撮影して得られた複数の撮影画像の各々から特徴点を抽出し、当該被写体の同一点に対応する特徴点同士を対応付ける画像処理では、各撮影画像の間で、被写体の同一点に対応する特徴点の候補となる対応特徴点候補同士の座標値を評価し(A2)、各々の撮影画像内で、対応特徴点候補と当該対応特徴点候補の近傍に位置する特徴点との位置関係を評価し(A7)、座標評価及び位置関係評価において得られた評価情報に基づいて、被写体の同一点に対応する対応特徴点があるか否かを判定し、対応特徴点を決定する(A8)。
【選択図】図2
Description
本発明は、複数の撮影画像を対応付けるための画像処理方法、画像処理装置及び画像合成処理装置に関する。
同一の被写体を撮影して得られた複数の撮影画像(例えば、時系列的な撮影で得られた画像、異なる複数の撮影位置の撮影で得られた画像など)同士を対応付けることにより、被写体の動き、3次元形状等を求めることができる。例えば、特許文献1では、時系列な撮影で得られた画像の各々から、対応付けの候補となる特徴点を抽出し、局所空間フィルタ等の前処理を施した後、当該特徴点とその近傍画素データとの相関を計算することにより、各撮影画像同士を対応付ける技術が開示されている。
特開2000−259835号公報
しかしながら、従来の撮影画像の対応付け方法では、同一被写体の撮影時に、各撮影画像間で条件変化(時系列的な撮影での被写体の動き、撮影条件(例えば、露出条件)の変化、撮影位置の違いなど)があった場合、特徴点の対応性は大きく影響を受け、被写体の同一点が、各撮影画像のどの特徴点に対応するのかを正確に判断することが容易ではないという問題があった。また、このような場合、各撮影画像同士を重ね合わせて合成するなど、僅かな対応付けエラーも許されないアプリケーションに対応することは容易ではなかった。
また、異なる位置に設置された複数台のカメラで同一被写体を同時に撮影する立体撮影で得られた各撮影画像を処理するアプリケーションでは、撮影時の条件のずれは一定であって、そのずれ情報を用いて対応付けの精度を向上させる余地はあった。一方、時系列的な撮影で得られた各撮影画像を処理するアプリケーションにおいては、被写体の動きが完全に把握できないという問題があった。
本発明の課題は、同一被写体を撮影して得られた複数の撮影画像同士を高精度に対応付け可能とすることである。
上記課題を解決するため、請求項1に記載の発明は、同一の被写体を撮影して得られた複数の撮影画像の各々から特徴点を抽出し、当該被写体の同一点に対応する特徴点同士を対応付ける画像処理方法において、
各撮影画像の間で、前記被写体の同一点に対応する特徴点の候補となる対応特徴点候補同士の座標値を評価する座標評価工程と、
各撮影画像の間で、撮影画像内の対応特徴点候補と当該対応特徴点候補の近傍に位置する特徴点との位置関係を評価する位置関係評価工程と、
前記座標評価工程及び前記位置関係評価工程において得られた評価情報に基づいて、前記被写体の同一点に対応する対応特徴点があるか否かを判定する判定工程と、を含むことを特徴としている。
各撮影画像の間で、前記被写体の同一点に対応する特徴点の候補となる対応特徴点候補同士の座標値を評価する座標評価工程と、
各撮影画像の間で、撮影画像内の対応特徴点候補と当該対応特徴点候補の近傍に位置する特徴点との位置関係を評価する位置関係評価工程と、
前記座標評価工程及び前記位置関係評価工程において得られた評価情報に基づいて、前記被写体の同一点に対応する対応特徴点があるか否かを判定する判定工程と、を含むことを特徴としている。
請求項2に記載の発明は、請求項1に記載の画像処理方法において、前記対応特徴点候補同士の色情報を評価する色情報評価工程を含み、
前記判定工程では、前記色情報評価工程で得られた評価情報を更に用いて対応特徴点の有無が判定されることを特徴としている。
前記判定工程では、前記色情報評価工程で得られた評価情報を更に用いて対応特徴点の有無が判定されることを特徴としている。
請求項3に記載の発明は、請求項2に記載の画像処理方法において、前記色情報には、色相情報が含まれることを特徴としている。
請求項4に記載の発明は、請求項2に記載の画像処理方法において、前記色情報には、色相情報及び彩度情報が含まれることを特徴としている。
請求項5に記載の発明は、請求項1〜4の何れか一項に記載の画像処理方法において、前記対応特徴点候補同士の位相幾何学的属性を評価する幾何評価工程を含み、
前記判定工程では、前記幾何評価工程で得られた評価情報を更に用いて対応特徴点の有無が判定されることを特徴としている。
前記判定工程では、前記幾何評価工程で得られた評価情報を更に用いて対応特徴点の有無が判定されることを特徴としている。
請求項6に記載の発明は、請求項5に記載の画像処理方法において、複数の撮影画像の各々から特徴点を抽出する際、撮影画像から輪郭線を抽出し、当該抽出された輪郭線を細線化し、その細線における特異点を特徴点として抽出し、
前記位相幾何学的属性には、前記抽出された特徴点に連結された細線の数の情報が含まれることを特徴としている。
前記位相幾何学的属性には、前記抽出された特徴点に連結された細線の数の情報が含まれることを特徴としている。
請求項7に記載の発明は、請求項6に記載の画像処理方法において、前記幾何評価工程では、前記連結された細線の数が一定数を超える場合、当該連結された細線の数は当該一定数とみなされることを特徴としている。
請求項8に記載の発明は、請求項1〜7の何れか一項に記載の画像処理方法において、前記判定工程では、ユーザによる設定又は特徴点の分布状況に応じて、前記座標評価工程で得られた評価情報と、前記位置関係評価工程で得られた評価情報の間で、優先的に用いる評価情報が切り替え可能であることを特徴としている。
請求項9に記載の発明は、請求項1〜8の何れか一項に記載の画像処理方法において、前記対応付けられた特徴点に基づいて、前記複数の撮影画像の各々を多角形に分割する分割工程と、
前記分割工程で得られた各多角形の形状が一致するように幾何変換処理を行う幾何変換工程と、
前記幾何変換処理により特徴点の座標が一致した各撮影画像の同一座標の画素データ同士に対して所定の演算処理を施すことによって新たな画像を生成する画像生成工程と、を含むことを特徴としている。
前記分割工程で得られた各多角形の形状が一致するように幾何変換処理を行う幾何変換工程と、
前記幾何変換処理により特徴点の座標が一致した各撮影画像の同一座標の画素データ同士に対して所定の演算処理を施すことによって新たな画像を生成する画像生成工程と、を含むことを特徴としている。
請求項10に記載の発明は、同一の被写体を撮影して得られた複数の撮影画像の各々から特徴点を抽出し、当該被写体の同一点に対応する特徴点同士を対応付ける画像処理装置において、
各撮影画像の間で、前記被写体の同一点に対応する特徴点の候補となる対応特徴点候補同士の座標値を評価する座標評価手段と、
各撮影画像の間で、撮影画像内の対応特徴点候補と当該対応特徴点候補の近傍に位置する特徴点との位置関係を評価する位置関係評価手段と、
前記座標評価手段及び前記位置関係評価手段により得られた評価情報に基づいて、前記被写体の同一点に対応する対応特徴点があるか否かを判定する判定手段と、を備えることを特徴としている。
各撮影画像の間で、前記被写体の同一点に対応する特徴点の候補となる対応特徴点候補同士の座標値を評価する座標評価手段と、
各撮影画像の間で、撮影画像内の対応特徴点候補と当該対応特徴点候補の近傍に位置する特徴点との位置関係を評価する位置関係評価手段と、
前記座標評価手段及び前記位置関係評価手段により得られた評価情報に基づいて、前記被写体の同一点に対応する対応特徴点があるか否かを判定する判定手段と、を備えることを特徴としている。
請求項11に記載の発明は、請求項10に記載の画像処理装置において、前記対応特徴点候補同士の色情報を評価する色情報評価手段を備え、
前記判定手段は、前記色情報評価手段により得られた評価情報を更に用いて対応特徴点の有無を判定することを特徴としている。
前記判定手段は、前記色情報評価手段により得られた評価情報を更に用いて対応特徴点の有無を判定することを特徴としている。
請求項12に記載の発明は、請求項11に記載の画像処理装置において、前記色情報には、色相情報が含まれることを特徴としている。
請求項13に記載の発明は、請求項11に記載の画像処理装置において、前記色情報には、色相情報及び彩度情報が含まれることを特徴としている。
請求項14に記載の発明は、請求項10〜13の何れか一項に記載の画像処理装置において、前記対応特徴点候補同士の位相幾何学的属性を評価する幾何評価手段を備え、
前記判定手段は、前記幾何評価手段により得られた評価情報を更に用いて対応特徴点の有無を判定することを特徴としている。
前記判定手段は、前記幾何評価手段により得られた評価情報を更に用いて対応特徴点の有無を判定することを特徴としている。
請求項15に記載の発明は、請求項14に記載の画像処理装置において、複数の撮影画像の各々から特徴点を抽出する際、撮影画像から輪郭線を抽出し、当該抽出された輪郭線を細線化し、その細線における特異点を特徴点として抽出し、
前記位相幾何学的属性には、前記抽出された特徴点に連結された細線の数の情報が含まれることを特徴としている。
前記位相幾何学的属性には、前記抽出された特徴点に連結された細線の数の情報が含まれることを特徴としている。
請求項16に記載の発明は、請求項15に記載の画像処理装置において、前記幾何評価手段は、前記連結された細線の数が一定数を超える場合、当該連結された細線の数は当該一定数とみなすことを特徴としている。
請求項17に記載の発明は、請求項10〜16の何れか一項に記載の画像処理装置において、前記判定手段の判定処理では、ユーザによる設定又は特徴点の分布状況に応じて、前記座標評価手段により得られた評価情報と、前記位置関係評価手段により得られた評価情報の間で、優先的に用いる評価情報が切り替え可能であることを特徴としている。
請求項18に記載の発明は、請求項10〜17の何れか一項に記載の画像処理装置によって前記対応付けられた特徴点に基づいて、前記複数の撮影画像の各々を多角形に分割する分割手段と、前記分割手段により得られた各多角形の形状が一致するように幾何変換処理を行う幾何変換手段と、前記幾何変換処理により特徴点の座標が一致した各撮影画像の同一座標の画素データ同士に対して所定の演算処理を施すことによって新たな画像を生成する画像生成手段と、を備えることを特徴としている。
本発明によれば、同一被写体を撮影して得られた複数の撮影画像同士を高精度に対応付けることができる。
以下、図面を参照して、本発明の実施形態を詳細に説明する。
まず、本実施形態における構成について説明する。
まず、本実施形態における構成について説明する。
図1に、本発明の実施形態に係る画像処理装置100の構成を示す。画像処理装置100は、図1に示すように、画像入力部1、特徴点抽出部2、対応特徴点判定部3、対応特徴点出力部4、画像解析部5、条件パラメータ設定部6により構成され、所定の通信ネットワークを介して画像合成処理装置200に接続される。
画像入力部1は、被写体の撮影により得られた撮影画像を取得し、特徴点抽出部2及び画像解析部5に出力する。本実施形態において画像入力部1に入力される画像は、同一の被写体を撮影して得られた複数の撮影画像である。この複数の撮影画像としては、時系列的な撮影(例えば、動画撮影、連写撮影)で得られた画像、異なる複数の撮影位置で同時に撮影して得られた画像などがある。また、画像入力部1での撮影画像の取得方法(入力方法)としては、所定の通信ネットワークを介して外部に接続された装置から取得する方法、有線又は無線接続されたデジタルカメラ等の撮影装置から取得する方法、記録メディア(CD−R、メモリーカード等)に記録された撮影画像を読み込む方法などがある。
特徴点抽出部2は、条件パラメータ設定部6で設定された条件パラメータに基づいて、画像入力部1から入力された複数の撮影画像の各々から特徴点を抽出し、抽出結果を対応特徴点判定部3に出力する。具体的に、特徴点抽出部2は、撮影画像から周波数変換処理等により輪郭線(エッジ)を抽出し、その輪郭線を太さが1の線画に細線化し、得られた細線を解析して幾何学的特異点(端点、折点、分岐点、交差点(図5参照))を検出することにより特徴点を抽出する。
対応特徴点判定部3は、条件パラメータ設定部6で設定された条件パラメータに基づいて、被写体の同一点に対応する特徴点の候補となる対応特徴点候補同士の座標値、連結数、色情報、近傍特徴点との位置関係を評価し、これらの評価結果(評価情報)に基づいて対応特徴点があるか否かを判定する。そして、対応特徴点があると判定された場合、該当する対応特徴点候補を対応特徴点として決定し、決定された対応特徴点の情報を対応特徴点出力部4に出力する。
対応特徴点出力部4は、対応特徴点判定部3から入力された対応特徴点の情報を画像合成処理装置200及び条件パラメータ設定部6に出力する。
画像解析部5は、画像入力部1から入力された撮影画像に所定の解析処理を施し、解析結果を条件パラメータ設定部6に出力する。ここでの解析処理とは、例えば、撮影画像の画像サイズを抽出したり、当該撮影画像に対してフーリエ変換を施して空間周波数成分の分布状況を算出するなどの処理が含まれる。
条件パラメータ設定部6は、画像解析部5の解析結果及び/又は対応特徴点出力部4から出力された対応特徴点の情報に基づいて、特徴点抽出部2及び対応特徴点判定部3の処理で必要な条件パラメータを設定する。また、ユーザにより設定されたパラメータを条件パラメータとしてもよい。条件パラメータとしては、座標値の評価に必要な許容値(ε1)、連結数の評価に必要な許容値(ε2)、色情報の評価に必要な許容値(ε3、ε4)、近傍特徴点との位置関係の評価に必要な許容値(ε5)等がある。
画像合成処理装置200は、画像処理装置100において対応付けられた特徴点に基づいて、各撮影画像を微小三角形に分割し、分割により得られた各微小三角形の形状が一致するように幾何変換処理(例えば、アフィン変換)を行うことにより位置補正を行う。そして、幾何変換処理により特徴点の座標が一致した各撮影画像の同一座標の画素データ同士に対して所定の演算処理(例えば、重み付け平均)を施すことにより各撮影画像を合成する。
なお、図1では、画像合成処理装置200が画像処理装置100と別体として設けられた場合を示したが、画像合成処理装置200と画像処理装置100を一体化したスタンドアロンの構成としてもよい。
次に、本実施形態における動作について説明する。
図2のフローチャートを参照して、画像処理装置100の対応特徴点判定部3において実行される特徴点対応付け処理について説明する。
図2のフローチャートを参照して、画像処理装置100の対応特徴点判定部3において実行される特徴点対応付け処理について説明する。
まず、処理対象の2枚の撮影画像(画像1、画像2)から、対応特徴点候補(被写体の同一点に対応する特徴点の候補)が探索され、リストアップされる(ステップA1)。次いで、各撮影画像の間で、ステップA1でリストアップされた対応特徴点候補同士の座標値を評価する処理と(ステップA2)、連結数を評価する処理と(ステップA3)、色情報を評価する処理が行われる(ステップA4)。以下、ステップA2〜A4の処理について詳細に説明する。
まず、図3を参照して、対応特徴点候補同士の座標値の評価(ステップA2)について説明する。以下では、画像2を基準画像とする。図3(a)に示すように、画像1の特徴点をTi(i=1、2、…、m)とし、画像2の特徴点をSj(j=1、2、…、n)とする。特徴点同士の座標値を評価するには、図3(b)に示すように、TiとSjの全ての組み合わせについて、TiとSjとの距離を算出すればよい。Tiの座標を(xi,yi)、Sjの座標を(x’j,y’j)とすると、TiとSjとの距離Δijは式(1)のように定義される。
距離Δijが許容値ε1以下となる特徴点Tiを、対応特徴点候補を順位付けしたテーブルα(図9参照)への登録候補とする。
次に、図4〜図6を参照して、連結数の評価(ステップA3)について説明する。
上述のように、撮影画像からエッジが抽出され、エッジの細線化で得られた細線の特異点が特徴点として抽出される。図4(a)に、撮影画像の一例を示し、図4(b)に、当該撮影画像の細線及び特徴点(図中の白丸)の一例を示す。このようにして抽出された特徴点は、その特徴点に細線が何本集中しているかを表す連結数(order)で分類される。
上述のように、撮影画像からエッジが抽出され、エッジの細線化で得られた細線の特異点が特徴点として抽出される。図4(a)に、撮影画像の一例を示し、図4(b)に、当該撮影画像の細線及び特徴点(図中の白丸)の一例を示す。このようにして抽出された特徴点は、その特徴点に細線が何本集中しているかを表す連結数(order)で分類される。
図5に示すように、細線の端点は連結数=1、分岐点は連結数=3、折点(角点)は連結数=2、交差点は連結数=4、複合点は連結数>4である。なお、極めて近接した特徴点同士は1つの特徴点とみなされる。また、図6に示すように、評価対象の連結数(評価連結数)に上限値を設け、実際の連結数(真の連結数)が一定数以上である場合は、上限値(一定数)を評価連結数としてもよい。特徴点TiとSjの全ての組み合わせについて、TiとSjの連結数を比較し、双方の連結数の差分(差の絶対値)が許容値ε2以下となる特徴点Tiを、テーブルα(図9参照)への登録候補とする。
次に、図7及び図8を参照して、色情報の評価(ステップA4)について説明する。
露出条件の異なる撮影画像を位置合わせするアプリケーションを想定した場合、対応特徴点候補同士の明度情報にはある程度の開きがあることが考えられるため、図7に示すように、対応特徴点同士の色相のみを評価する方法(図7(a))又は対応特徴点同士の色相及び彩度を評価する方法(図7(b))を採用する。
露出条件の異なる撮影画像を位置合わせするアプリケーションを想定した場合、対応特徴点候補同士の明度情報にはある程度の開きがあることが考えられるため、図7に示すように、対応特徴点同士の色相のみを評価する方法(図7(a))又は対応特徴点同士の色相及び彩度を評価する方法(図7(b))を採用する。
色度座標の例としてL*a*b*を用いる場合、対応特徴点同士の色相のみを評価する方法では、図7(a)に示すように、TiとSjの全ての組み合わせについて、a*b*平面に、対応特徴点候補同士の色度座標をプロットし、各々の色度座標と原点とを結ぶ線がつくる角θ(色相差)を算出し、この色相差θが許容値ε3以下である特徴点Tiを、テーブルα(図9参照)への登録候補とする。但し、一方の色度座標が、原点との距離が一定値以内のニュートラル領域にある場合、中性色とみなして色相差θが有意ではないものとする。
色度座標の例としてL*a*b*を用いる場合、対応特徴点同士の色相及び彩度を評価する方法では、図7(b)に示すように、TiとSjの全ての組み合わせについて、a*b*平面に、対応特徴点候補同士の色度座標をプロットし、色度座標間の距離を算出し、この算出された距離が許容値ε4以下となる特徴点Tiを、テーブルα(図9参照)への登録候補とする。
図8に、色情報の評価に用いる色情報の算出方法を示す。
通常、デジタルカメラ等で撮影され、現像された画像データのRGB値は、色空間が規定されている。最も一般的なsRGB色空間の場合は、図8の変換式(10)を用いて、RGBデータからCIE XYZ空間の色度値に変換される。更に、図8の変換式(20)を用いて白色点の色度(観察照明条件)を規定することにより、CIE L*a*b*空間の色度値に変換される。
通常、デジタルカメラ等で撮影され、現像された画像データのRGB値は、色空間が規定されている。最も一般的なsRGB色空間の場合は、図8の変換式(10)を用いて、RGBデータからCIE XYZ空間の色度値に変換される。更に、図8の変換式(20)を用いて白色点の色度(観察照明条件)を規定することにより、CIE L*a*b*空間の色度値に変換される。
なお、図7では、評価に用いる色情報としてL*a*b*を用いる場合を示したが、明度と色情報を分離可能な他の様々な色空間(L*u*v*、HSV、HLS、YCbCr等)を用いるようにしてもよい。
ステップA2〜A4の評価処理が終了すると、各評価処理での結果(評価情報)に基づいて、テーブルαへの登録候補となった特徴点Tiを順位付けし、順位が上位(例えば、1位〜6位まで)の特徴点がテーブルαに登録されることにより、テーブルαが作成される(ステップA5)。例えば、座標ずれ(式(1)の距離Δijの値)が小さく、連結数の差が小さく、色相差θ又は色度座標間の距離が小さくなるほど、テーブルαでの順位は上位となる。
図9に、画像1と画像2の対応特徴点候補を順位付けしたテーブルαの一例を示す。図9によると、画像2の特徴点S1の対応特徴点候補として、画像1の特徴点T2が最も上位に位置し、画像1の中に、画像2の特徴点S5に対応する特徴点が存在しないことを示している。
図2のステップA1〜A5の処理と並行して、各々の撮影画像内の各特徴点について、特徴点から一定距離以内に位置する近傍特徴点(一般に複数)が探索される(ステップA6)。ステップA1〜A6の処理が終了すると、撮影画像同士で、特徴点とその近傍特徴点との位置関係を評価する処理が行われる(ステップA7)。
基準画像の特徴点(注目特徴点:Sj)とその近傍特徴点に対して、それぞれテーブルαに登録された対応特徴点候補(Ti)が存在する(存在しない場合もある)。ステップA7の評価処理では、SjとSkが近傍関係にある場合、Sjの対応特徴点候補Tiと、Skの対応特徴点候補Tlの全ての組み合わせ(Ti、Tl)について、その位置関係が、基準画像の注目特徴点とその近傍特徴点との位置関係に一致するか否かが判断される。テーブルαの例において、画像2の特徴点S3とS4が近傍関係にあった場合、S3の対応特徴点候補T3、T4、T1に対して、S4の対応特徴点候補T4、T2があるため、6通りの組み合わせについての位置関係が評価される。
図10に示すように、基準画像(画像2)の注目特徴点とその近傍特徴点の座標をそれぞれ、(x1,y1)、(x2,y2)とし(図10(a))、注目特徴点の対応特徴点候補とその近傍特徴点の座標をそれぞれ、(x’1,y’1)、(x’2,y’2)とする(図10(b))。ステップA7の評価処理では、式(2)に示す評価値が用いられる。
ここで、Δx=x2−x1、Δy=y2−y1、Δx’=x’2−x’1、Δy’=y’2−y’1である。又は、デジタル画像の特性に基づき、座標の量子化誤差に考慮して式(2)を調整した式(3)に示す評価値を用いることも可能である。
ステップA7の評価処理では、式(2)又は式(3)に示した評価値が許容値ε5以下である場合に、該当する対応特徴点候補の組み合わせについてカウントアップされる。図11に、対応特徴点候補のカウント情報を表すテーブルβの一例を示す。図9のテーブルαにおいて、基準画像の特徴点S3とその近傍特徴点S4の位置関係と、S3の対応特徴点候補T3とその近傍特徴点T2との位置関係の評価値が許容値ε5以下である場合、図11のように、該当するテーブル情報がカウントアップ(+1)される。
テーブルα及びテーブルβが作成されると、テーブルαの順位情報及びテーブルβのカウント情報に基づいて、被写体の同一点に対応する対応特徴点があるか否かが判定され、対応特徴点があると判定された場合、対応特徴点が1点決定される(ステップA8)。ステップA8における対応特徴点の決定方法は、座標ずれによる評価情報と、近傍特徴点との位置関係による評価情報のどちらを優先的に使用するかに応じて2通りに分類される。
座標ずれによる評価情報を優先的に用いる場合、図12(a)に示すように、まず、テーブルβでカウント値が0でない対応特徴点候補が選ばれ、その選ばれた対応特徴点候補のうち、テーブルαで最も上位にある(即ち、座標ずれが最も小さい)対応特徴点候補が対応特徴点として決定される。
近傍特徴点との位置関係による評価情報を優先的に用いる場合、図12(b)に示すように、テーブルαで登録済みの対応特徴点候補のうち、テーブルβでカウント値が最大である対応特徴点候補が対応特徴点として決定される。
なお、優先的に使用する評価情報は、ユーザによる設定又は状況に応じて切り替え可能である。例えば、特徴点の分布状況の解析やパターンマッチングにより、被写体の動き量及び変形具合等を推定し、例えば、動き量が所定量より小さい場合には、座標ずれによる評価情報(図12(a))を優先的に使用する。
対応特徴点が決定されると、評価すべき対応特徴点候補がまだ存在するか否かが判定される(ステップA9)。ステップA9において、評価すべき対応特徴点候補が存在すると判定された場合(ステップA9;YES)、該当する撮影画像についてステップA1〜A8の処理が繰り返される。n枚(n≧3)以上の撮影画像の特徴点を対応付ける処理の場合、基準画像(例えば、1枚目の撮影画像)を設定し、基準画像と他の1枚の撮影画像について、図2のステップA1〜A8の処理がn―1回繰り返される。ステップA9において、評価すべき対応特徴点候補がないと判定された場合(ステップA9;NO)、本特徴点対応付け処理が終了する。
画像合成処理装置200では、図2の特徴点対応付け処理の処理結果を用いて、各撮影画像の合成処理が行われる。図13に、この合成処理の一例として、露出条件を徐々に変化させて同一被写体を連続的に撮影して得られた撮影画像(図13では3枚)の合成の例を示す。
図2の特徴点対応付け処理により対応特徴点が決定されると、この対応特徴点を用いて、各々の撮影画像が微小三角形領域に分割される。この三角形分割では、まず、基準画像の全ての画像領域が、特徴点と画像角(四角形の頂点)を頂点とする微小三角形領域に分割される。ここで、全ての微小三角形についてなるべくつぶれた形状を避けるため、Delauney三角形分割を用いるのが好ましい。次いで、基準画像以外の撮影画像について、基準画像の微小三角形の頂点に対応する特徴点(対応特徴点)又は画像角を頂点とする微小三角形(対応微小三角形)が生成され、基準画像と同様に、全画像領域が微小三角形領域に分割される。
次いで、基準画像以外の撮影画像について、各微小三角形が、対応する基準画像の微小三角形の形状に一致するように幾何変換(アフィン変換)が施される。このように幾何変換を施すことによって、撮影画像の位置補正が行われる。
次いで、位置補正された撮影画像の各々に関して、同一座標同士の画素データから合成画像の座標値の画素データが決定される。その際、各撮影画像の撮影条件(露出条件)を加味して重み付け平均が行われ、飽和レベルに達している画素データは計算から除外される。このようなステップにより合成画像が生成される。
本実施形態に示した特徴点同士の対応付け処理は、様々な画像処理システムに組み込んで使用することができる。図14に、本実施形態の特徴点対応付け処理の適用例と、その特徴と、条件パラメータの調整方向との関係を示す。図14に示すように、撮影状況に応じて条件パラメータを調整し、適切な特徴点対応付け処理を行うことができる。
以上のように、本実施形態の画像処理装置100によれば、同一被写体を撮影して得られた複数の撮影画像から抽出された特徴点同士の座標値、連結数、色情報、近傍特徴点との位置関係を評価し、評価結果に基づいて特徴点同士を対応付けることにより、高精度な対応付けが可能となる。特に、撮影時の条件変化(時系列的な撮影での被写体の動き、撮影条件(例えば、露出条件)の変化、撮影位置の違いなど)があっても対応特徴点を正確に判断することが可能となる。よって、本実施形態の対応付け方法は、複数の撮影画像を処理する様々なアプリケーション(立体撮影、動画を利用した短時間での動きの解析、連写撮影で得られた画像の重ね合わせなど)に適用することが可能となる。
また、撮影時の被写体の微妙な動きを避けられないような場合であっても、ブレの影響による画質劣化が少なく、ダイナミックレンジの広い高画質の合成画像を得ることが可能となる。
1 画像入力部
2 特徴点抽出部
3 対応特徴点判定部
4 対応特徴点出力部
5 条件パラメータ設定部
6 画像解析部
100 画像処理装置
200 画像合成処理装置
2 特徴点抽出部
3 対応特徴点判定部
4 対応特徴点出力部
5 条件パラメータ設定部
6 画像解析部
100 画像処理装置
200 画像合成処理装置
Claims (18)
- 同一の被写体を撮影して得られた複数の撮影画像の各々から特徴点を抽出し、当該被写体の同一点に対応する特徴点同士を対応付ける画像処理方法において、
各撮影画像の間で、前記被写体の同一点に対応する特徴点の候補となる対応特徴点候補同士の座標値を評価する座標評価工程と、
各撮影画像の間で、撮影画像内の対応特徴点候補と当該対応特徴点候補の近傍に位置する特徴点との位置関係を評価する位置関係評価工程と、
前記座標評価工程及び前記位置関係評価工程において得られた評価情報に基づいて、前記被写体の同一点に対応する対応特徴点があるか否かを判定する判定工程と、
を含むことを特徴とする画像処理方法。 - 前記対応特徴点候補同士の色情報を評価する色情報評価工程を含み、
前記判定工程では、前記色情報評価工程で得られた評価情報を更に用いて対応特徴点の有無が判定されることを特徴とする請求項1に記載の画像処理方法。 - 前記色情報には、色相情報が含まれることを特徴とする請求項2に記載の画像処理方法。
- 前記色情報には、色相情報及び彩度情報が含まれることを特徴とする請求項2に記載の画像処理方法。
- 前記対応特徴点候補同士の位相幾何学的属性を評価する幾何評価工程を含み、
前記判定工程では、前記幾何評価工程で得られた評価情報を更に用いて対応特徴点の有無が判定されることを特徴とする請求項1〜4の何れか一項に記載の画像処理方法。 - 複数の撮影画像の各々から特徴点を抽出する際、撮影画像から輪郭線を抽出し、当該抽出された輪郭線を細線化し、その細線における特異点を特徴点として抽出し、
前記位相幾何学的属性には、前記抽出された特徴点に連結された細線の数の情報が含まれることを特徴とする請求項5に記載の画像処理方法。 - 前記幾何評価工程では、前記連結された細線の数が一定数を超える場合、当該連結された細線の数は当該一定数とみなされることを特徴とする請求項6に記載の画像処理方法。
- 前記判定工程では、ユーザによる設定又は特徴点の分布状況に応じて、前記座標評価工程で得られた評価情報と、前記位置関係評価工程で得られた評価情報の間で、優先的に用いる評価情報が切り替え可能であることを特徴とする請求項1〜7の何れか一項に記載の画像処理方法。
- 前記対応付けられた特徴点に基づいて、前記複数の撮影画像の各々を多角形に分割する分割工程と、
前記分割工程で得られた各多角形の形状が一致するように幾何変換処理を行う幾何変換工程と、
前記幾何変換処理により特徴点の座標が一致した各撮影画像の同一座標の画素データ同士に対して所定の演算処理を施すことによって新たな画像を生成する画像生成工程と、
を含むことを特徴とする請求項1〜8の何れか一項に記載の画像処理方法。 - 同一の被写体を撮影して得られた複数の撮影画像の各々から特徴点を抽出し、当該被写体の同一点に対応する特徴点同士を対応付ける画像処理装置において、
各撮影画像の間で、前記被写体の同一点に対応する特徴点の候補となる対応特徴点候補同士の座標値を評価する座標評価手段と、
各撮影画像の間で、撮影画像内の対応特徴点候補と当該対応特徴点候補の近傍に位置する特徴点との位置関係を評価する位置関係評価手段と、
前記座標評価手段及び前記位置関係評価手段により得られた評価情報に基づいて、前記被写体の同一点に対応する対応特徴点があるか否かを判定する判定手段と、
を備えることを特徴とする画像処理装置。 - 前記対応特徴点候補同士の色情報を評価する色情報評価手段を備え、
前記判定手段は、前記色情報評価手段により得られた評価情報を更に用いて対応特徴点の有無を判定することを特徴とする請求項10に記載の画像処理装置。 - 前記色情報には、色相情報が含まれることを特徴とする請求項11に記載の画像処理装置。
- 前記色情報には、色相情報及び彩度情報が含まれることを特徴とする請求項11に記載の画像処理装置。
- 前記対応特徴点候補同士の位相幾何学的属性を評価する幾何評価手段を備え、
前記判定手段は、前記幾何評価手段により得られた評価情報を更に用いて対応特徴点の有無を判定することを特徴とする請求項10〜13の何れか一項に記載の画像処理装置。 - 複数の撮影画像の各々から特徴点を抽出する際、撮影画像から輪郭線を抽出し、当該抽出された輪郭線を細線化し、その細線における特異点を特徴点として抽出し、
前記位相幾何学的属性には、前記抽出された特徴点に連結された細線の数の情報が含まれることを特徴とする請求項14に記載の画像処理装置。 - 前記幾何評価手段は、前記連結された細線の数が一定数を超える場合、当該連結された細線の数は当該一定数とみなすことを特徴とする請求項15に記載の画像処理装置。
- 前記判定手段の判定処理では、ユーザによる設定又は特徴点の分布状況に応じて、前記座標評価手段により得られた評価情報と、前記位置関係評価手段により得られた評価情報の間で、優先的に用いる評価情報が切り替え可能であることを特徴とする請求項10〜16の何れか一項に記載の画像処理装置。
- 請求項10〜17の何れか一項に記載の画像処理装置によって前記対応付けられた特徴点に基づいて、前記複数の撮影画像の各々を多角形に分割する分割手段と、
前記分割手段により得られた各多角形の形状が一致するように幾何変換処理を行う幾何変換手段と、
前記幾何変換処理により特徴点の座標が一致した各撮影画像の同一座標の画素データ同士に対して所定の演算処理を施すことによって新たな画像を生成する画像生成手段と、
を備えることを特徴とする画像合成処理装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005111963A JP2006293600A (ja) | 2005-04-08 | 2005-04-08 | 画像処理方法、画像処理装置及び画像合成処理装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005111963A JP2006293600A (ja) | 2005-04-08 | 2005-04-08 | 画像処理方法、画像処理装置及び画像合成処理装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2006293600A true JP2006293600A (ja) | 2006-10-26 |
Family
ID=37414124
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2005111963A Pending JP2006293600A (ja) | 2005-04-08 | 2005-04-08 | 画像処理方法、画像処理装置及び画像合成処理装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2006293600A (ja) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2012022656A (ja) * | 2010-07-16 | 2012-02-02 | Canon Inc | 画像処理装置、画像処理方法、およびプログラム |
JP2012022651A (ja) * | 2010-07-16 | 2012-02-02 | Canon Inc | 画像処理装置、画像処理方法、およびプログラム |
JP2015170205A (ja) * | 2014-03-07 | 2015-09-28 | オリンパス株式会社 | 特徴量生成装置、特徴量生成方法、およびプログラム |
JP2020181290A (ja) * | 2019-04-24 | 2020-11-05 | 株式会社日立製作所 | 物品認識システムおよび物品認識方法 |
-
2005
- 2005-04-08 JP JP2005111963A patent/JP2006293600A/ja active Pending
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2012022656A (ja) * | 2010-07-16 | 2012-02-02 | Canon Inc | 画像処理装置、画像処理方法、およびプログラム |
JP2012022651A (ja) * | 2010-07-16 | 2012-02-02 | Canon Inc | 画像処理装置、画像処理方法、およびプログラム |
JP2015170205A (ja) * | 2014-03-07 | 2015-09-28 | オリンパス株式会社 | 特徴量生成装置、特徴量生成方法、およびプログラム |
JP2020181290A (ja) * | 2019-04-24 | 2020-11-05 | 株式会社日立製作所 | 物品認識システムおよび物品認識方法 |
JP7186128B2 (ja) | 2019-04-24 | 2022-12-08 | 株式会社日立製作所 | 物品認識システムおよび物品認識方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5699788B2 (ja) | スクリーン領域検知方法及びシステム | |
US11087169B2 (en) | Image processing apparatus that identifies object and method therefor | |
JP5432714B2 (ja) | 構図解析方法、構図解析機能を備えた画像装置、構図解析プログラム及びコンピュータ読み取り可能な記録媒体 | |
KR101390756B1 (ko) | 안면 특징 검출 방법 및 장치 | |
JP4001162B2 (ja) | 画像処理方法、画像処理用のプログラムならびにその記憶媒体、および画像処理装置 | |
US10713780B2 (en) | Color quality assessment based on multispectral imaging | |
WO2015165222A1 (zh) | 全景图像的获取方法和装置 | |
JP2004334819A (ja) | ステレオキャリブレーション装置とそれを用いたステレオ画像監視装置 | |
JP4373840B2 (ja) | 動物体追跡方法、動物体追跡プログラムおよびその記録媒体、ならびに、動物体追跡装置 | |
KR102073468B1 (ko) | 비전 시스템에서 컬러 이미지에 대해 컬러 후보 포즈들의 점수화를 위한 시스템 및 방법 | |
JP2010041417A (ja) | 画像処理装置、画像処理方法、画像処理プログラム、及び、撮像装置 | |
JP2015197745A (ja) | 画像処理装置、撮像装置、画像処理方法及びプログラム | |
CN109523551B (zh) | 一种获取机器人行走姿态的方法及系统 | |
CN106952262B (zh) | 一种基于立体视觉的船板加工精度分析方法 | |
JP2005037378A (ja) | 奥行計測方法と奥行計測装置 | |
JP2018124890A (ja) | 画像処理装置、画像処理方法及び画像処理プログラム | |
JP3814353B2 (ja) | 画像分割方法および画像分割装置 | |
JP2006293600A (ja) | 画像処理方法、画像処理装置及び画像合成処理装置 | |
CN111681271B (zh) | 一种多通道多光谱相机配准方法、系统及介质 | |
CN109410272B (zh) | 一种变压器螺母识别与定位装置及方法 | |
JP2002342758A (ja) | 視覚認識システム | |
CN109523594A (zh) | 一种视觉托盒特征点坐标定位方法及系统 | |
KR20160049639A (ko) | 부분 선형화 기반의 3차원 영상 정합 방법 | |
JP2006293602A (ja) | 画像処理方法及び画像処理装置 | |
CN112102347A (zh) | 一种基于双目视觉的台阶检测和单级台阶高度估计方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A711 Effective date: 20070827 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20080221 |