JP2010079545A - 画像処理装置、画像処理方法およびプログラム - Google Patents

画像処理装置、画像処理方法およびプログラム Download PDF

Info

Publication number
JP2010079545A
JP2010079545A JP2008246339A JP2008246339A JP2010079545A JP 2010079545 A JP2010079545 A JP 2010079545A JP 2008246339 A JP2008246339 A JP 2008246339A JP 2008246339 A JP2008246339 A JP 2008246339A JP 2010079545 A JP2010079545 A JP 2010079545A
Authority
JP
Japan
Prior art keywords
image
conversion
feature point
unit
input image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2008246339A
Other languages
English (en)
Other versions
JP5183392B2 (ja
JP2010079545A5 (ja
Inventor
Koichi Umakai
浩一 馬養
Hirotaka Shiiyama
弘隆 椎山
Hidetomo Soma
英智 相馬
Masahiro Matsushita
昌弘 松下
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2008246339A priority Critical patent/JP5183392B2/ja
Priority to EP09170351A priority patent/EP2172856A3/en
Priority to KR1020090087907A priority patent/KR101185712B1/ko
Priority to CN2012102493945A priority patent/CN102982528A/zh
Priority to CN2009101783046A priority patent/CN101685541B/zh
Priority to RU2009135635/28A priority patent/RU2429540C2/ru
Priority to US12/566,562 priority patent/US8416982B2/en
Publication of JP2010079545A publication Critical patent/JP2010079545A/ja
Publication of JP2010079545A5 publication Critical patent/JP2010079545A5/ja
Application granted granted Critical
Publication of JP5183392B2 publication Critical patent/JP5183392B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/58Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/583Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
    • G06F16/5838Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content using colour

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Library & Information Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Databases & Information Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Image Analysis (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Image Processing (AREA)
  • Processing Or Creating Images (AREA)

Abstract

【課題】 局所特徴量を算出するための特徴点の中には、画像を少し回転したり拡大・縮小したりすると、抽出できない(抽出される再現性が低い)不安定な特徴点が存在し、検索精度や認識精度を下げる。
【解決手段】 入力画像を縮小変換し縮小画像を取得し、前記入力画像と前記変換画像とから特徴点を抽出する、前記入力画像と前記変換画像の夫々で対応する位置から抽出されている特徴点を対応特徴点として判定し、対応特徴点に関する局所特徴量を算出し、前記入力画像の局所特徴量として登録する。
【選択図】 図1

Description

本発明は、局所的な特徴を抽出する画像処理装置、画像処理方法およびプログラムに関するものである。
非特許文献1のように、画像の局所的な特徴を数値化した(局所特徴量)を使って類似画像を検索する方法がある。これらの方法では、まず、画像の2次元の輝度分布に対して微分フィルタ(sobel、Prewitt等)を作用させることにより、画像からエッジやコーナなどにある特徴的な点(特徴点)を抽出する。次に、特徴点とその近傍の画素の画素値とから、その特徴点に関する特徴量(局所特徴量)を計算する。画像の検索は、局所特徴量同士のマッチングによって行う。
しかし、抽出した特徴点の中には、画像を少し回転したり拡大・縮小したりすると、再び同じエッジやコーナから抽出できなくなる(再現性が低い)不安定な特徴点が存在する。このような抽出される再現性が低い特徴点は、ノイズとして作用してしまう事が多く、検索や位置合わせ精度が低下する原因になる場合がある。そのため、特許文献1や非特許文献1には、特徴点抽出時に利用する関数値や特徴点候補における画素値にしきい値を設け、しきい値以下となるような特徴点候補を切り捨てる方法が記載されている。
特開平9−44665号公報 C.Schmid and R.Mohr"Localgray value invariants for image retrieval、"IEEE Trans. PAMI.Vol.19,No.5,pp530−535,1997.
所定の画素値や特徴点抽出時に利用する関数値を利用するだけでは、不安定な特徴点を除去するには不十分であり、種々の画像変換があっても抽出される再現性の高い特徴点に絞るためにはしきい値を高く設定する必要がある。しかし、しきい値を高くし過ぎると抽出される特徴点が少なくなり過ぎて検索精度や認識精度が著しく低下する恐れがある。
本発明は、上記課題を解決するためになされたもので、抽出される再現性の高い特徴点に絞る方法を提供することを目的とする。
上記課題を解決するために本発明に係る画像処理装置は入力画像に画像変換を施し変換画像を取得する変換手段と、前記入力画像と前記変換画像とから特徴点を抽出する抽出手段と、前記抽出手段によって前記入力画像と前記変換画像の夫々で対応する位置から抽出されている特徴点を対応特徴点として判定する判定手段と、前記判定手段によって判定された対応特徴点に関する局所特徴量を算出し、前記入力画像の局所特徴量として登録する登録手段と、を有することを特徴とする。
また、本発明に係る画像処理装置は入力画像に対して所定の変換率の画像変換を複数回施すことによって互いに変換率の異なる複数の変換画像を取得する変換手段と、前記入力画像と前記複数の変換画像とから特徴点を抽出する抽出手段と、
前記抽出手段によって複数の画像の夫々で対応する位置から抽出されている特徴点を対応特徴点として判定する判定手段と、前記複数回のうち連続する変換画像の夫々から対応特徴点として前記判定手段によって判定された際に、当該対応特徴点に関する局所特徴量を算出し、前記入力画像の局所特徴量として登録する登録手段とを有することを特徴とする。
本発明によれば、特定の画像処理が施された画像であっても抽出される再現性の高い特徴点に絞り込むため、特徴点を使った検索・認識処理の精度や処理効率を向上させることができる。
〔特徴点と局所特徴量〕
まず、特徴量、特徴点および局所特徴量について説明する。画像を検索条件(クエリ画像)として指定して、類似する画像を検索する場合は、2つの画像(クエリ画像とDB内の画像)を比較する処理を行う。画像検索をする場合、予めその画像の内容をよく表す数値や数列を特徴量として画像毎に算出する。そして、この特徴量が似ている画像を類似する画像として検索結果を出力する。画像を検索する際に、画像の内容を示すキーワードを用いる事もあるが、本明細書では画像の画素値から算出し検索・認識に用いるものを特徴量とする。
色の配置情報を特徴量とする例を挙げると、画像を8×8画素の縮小画像に変換して、各画素の位置情報(0,0)〜(8,8)と出現する色を数値化したものとを関連付けて特徴量とする。
しかし、色の配置情報を用いた検索方式では検索困難な画像がある、例えば、背景が異なる画像、画像の一部が障害物で隠れた画像、部分的に拡大・縮小された画像などが挙げられる。
その際に、クエリ画像に含まれる局所的な特徴を比較する手法がある。この方式では、画像の中から両者の対応を取り易い点を選び、更に画像間で点の対応をとる手法がある。この対応の取り易い点を特徴点(feature point)とする。本明細書では特徴点は画像内のコーナやエッジから抽出されるものとする。
<第1の実施形態>
図1は、本発明の一実施形態である第1の実施形態における画像登録装置の機能構成の概略を示すブロック図である。(a)は画像登録装置100の機能構成であり、(b)は画像検索装置200の機能構成である。
図1(a)に示すように、特徴量抽出装置100は、画像入力部102、画像変換部103、特徴点抽出部104、特徴点判定部105、局所特徴量算出部106、特徴量登録部107を有している。
特徴量抽出装置100において、変換手段としての縮小変換部103が画像入力部102に入力された入力画像101の縮小画像(変換画像)を生成する。さらに、抽出手段としての特徴点抽出部104が入力画像101及び縮小画像から特徴点の候補を抽出する。判定手段としての特徴点判定部105は、特徴点抽出部104で抽出された特徴点の候補から、抽出される再現性の高い特徴点を判定して安定した特徴点に絞込む。
局所特徴量算出部106は特徴点絞り込み部105で絞り込んだ特徴点に関する局所特徴量を算出する。登録手段としての特徴量登録部107は、入力された入力画像101と算出された局所特徴量とを関連付けて画像特徴データベース108に登録する。
次に、図1(b)に示す画像検索装置200について説明する。図1(a)の画像登録装置100と同一機能を有する構成には同一符号を付すとともに、構成的、機能的にかわらないものについてはその説明を省略する。画像検索装置200は、画像入力部102、画像変換部103、特徴点抽出部104、特徴点判定部105、局所特徴量算出部106、比較部201を有する。
比較手段としての比較部201は局所特徴量算出部106の算出した局所特徴量に基づいて画像特徴データベース108から入力画像101(クエリ画像)に類似した画像を検索し、検索結果202として出力する。
次に、各特徴点に関する局所特徴量を抽出する。局所特徴量の特徴量としては、特徴点近傍の模様を数値化したLocal Jet及びそれらの導関数の組み合わせを用いる。
具体的には、たとえば以下の式1により特徴量を算出する。
Figure 2010079545
V(x,y)は画像の中で座標(x,y)にある特徴点に関する局所特徴量である。なお、ここで言う座標とはデジタル画像においては画素位置を示すこととする。デジタル画像における画素位置は離散的であるので(整数で表されるので)、計算結果としての実数座標から画素位置を特定しなければならない場合には、座標の整数化が必要となる。本実施形態では、座標が実数値で表されるときには、実数値を丸めて整数値にすることで画素位置を特定する。実数値を丸める方法には四捨五入、小数点以下切り上げ、小数点以下切捨てなどの方法があるが、本実施形態ではどの方法を選択しても良い。ただし、処理の途中で方法を変更しないこととする。
式(1)の右辺で用いている記号は、以下に示す式(2)〜(7)で定義される。ここで、式(2)右辺のG(x,y)はガウス関数、I(x,y)は画像の座標(x,y)における画素値であり、“*”は畳み込み演算を表す記号である。また、式(3)は式(2)で定義された変数Lのxに関する偏導関数、式(4)は当該変数Lのyに関する偏導関数である。式(5)は式(3)で定義された変数Lxのyに関する偏導関数、式(6)は式(3)で定義された変数Lxのxに関する偏導関数、式(7)は式(4)で定義されたLyのyに関する偏導関数である。
Figure 2010079545
ここで、G(x,y)はガウス関数であるので、通常は標準偏差σを変数として持つが、式(2)では省略している。本実施形態ではσ=arとして予め定められる。ここでaは定数であり、rは着目している特徴点を中心とする円形領域の半径を示し、着目している特徴点に関する局所特徴量を算出する際に参照する領域でもある。
尚、特徴点を含む画素と特徴点近傍の画素の特徴を示す局所特徴量を算出可能な方法であれば、上述の方法以外でもよい。上述の局所特徴量は5つの要素から成るが、要素の数は5つでなくてもよい。例えば、SIFT(要素数128)やPCA−SIFT(要素数20〜30程度)においても本発明は適用可能である。
[局所特徴量の登録処理]
次に、画像から抽出する局所特徴量を登録する際に行う処理の詳細について説明する。
図2は、局所特徴量の登録処理の手順を表すフローチャートである。ステップS301で、画像入力部102が入力画像101を読み込む。ステップS302で、画像入力部102が入力画像101から輝度成分(以降、輝度成分画像とも称す)を抽出する。
ステップS303では、画像入力部102が抽出した輝度成分を縮小変換部103が縮小変換しn種の異なる解像度の輝度成分画像を取得する。具体的には、縮小変換部103が、画像入力部102から取得した輝度成分画像を所定の縮小率p(変換率)に従ってn回、縮小処理を行う。また、縮小変換をn回施すことによってn個の縮小画像を取得する(図4参照)。ここで、縮小率p及び縮小回数nは予め決められているものとするが、nは1以上の整数である必要がある。ただ好ましくは縮小変換を複数回施すことが好ましい。例えば、縮小して2×2画素になる回数を予め演算して決めておいてもよい。
図4は、縮小変換部103の縮小変換処理を示す図である。図4は、縮小率pが2の−(1/4)乗、縮小画像の枚数nが8の場合である。図4において、画像401は画像入力部102が入力画像101から抽出した輝度成分画像である。画像402は輝度成分画像から縮小率pに従って4回縮小された縮小画像である。画像403は当該輝度成分画像から縮小率pに従って8回縮小された縮小画像である。
この例では、画像402は画像入力部102からの輝度成分画像401が1/2に縮小された画像となり、画像403は輝度成分画像が1/4に縮小された画像となる。
なお、線形補間による画像の縮小変換を行っているが、画像を縮小変換する方法としては他にも、単純に画素を間引く方法や低域フィルタ適用後にサンプリングする方法などを用いてもよい。
次にステップS304では、特徴点抽出部104が、縮小変換部103の縮小変換したn種の解像度の画像の輝度成分と入力画像401の輝度成分とから特徴点の候補を抽出する。
まず特徴点抽出部104が、入力画像101(401)および画像変換部103で変換された画像に対してHarris作用素を作用させる。Harris作用素を作用させて得られた出力画像について、着目する画素と着目する画素を囲む8画素(合計9画素)の画素値を比較する。そして、着目する画素の画素値が9画素の中で最大になり且つしきい値以上である点を特徴点として抽出する。
次に、ステップS305では、特徴点判定部105が特徴点抽出部104の抽出した特徴点の候補から安定した特徴点を判定して、安定した特徴点に絞り込む処理をする。
まず、特徴点判定部105が特徴点抽出部104の抽出した特徴点の座標を全て、画像変換前の入力画像の座標に変換する。次に、特徴点判定部105がステップS303で特徴点判定部105が縮小変換した他の縮小画像上の対応する座標もしくはその座標の近傍に特徴点抽出部104によって抽出された特徴点が存在するかを調べる。この時、存在した場合は対応特徴点として採用し、対応特徴点における局所特徴量を算出する。
ここで、近傍とする範囲は自由に定めることができるが、本実施形態では着目している特徴点からの距離が2画素以内となる範囲としている。もし、抽出される特徴点が安定した特徴であるならば、縮小された画像からも近傍の場所で抽出されるはずである。また、特徴点の座標を入力画像の座標に変換したとき、理論的には同じ座標になるはずである。しかしながら、前述のようにデジタル画像では丸め誤差が発生するので、この丸め誤差を考慮して着目している特徴点からの距離が2画素以内となる範囲を近傍と定義する。
このステップS305について図4、図5を用いて詳しく説明する。
図4は、ステップS303において画像変換部103で生成した縮小画像に、ステップS304において特徴点抽出部104が抽出した特徴点の候補を重ね合わせた、特徴点の抽出例を示す図である。図4において、スケール番号Scは画像変換部103による画像変換回数(ここでは縮小回数)を示す。第一の実施の形態では縮小画像のスケール番号を表し、スケール番号がSc、縮小率がpのとき、縮小画像の大きさは入力画像(Sc=0の画像)の大きさにpの(Sc)乗を掛けた値となる。たとえば、縮小率pが2の−(1/4)乗、Sc=4の縮小画像の大きさは、1/2になる。
701は特徴点抽出部104でスケール番号Sc=2の縮小画像から抽出された特徴点の1つであり、Sc=1の縮小画像上での座標をN2(x2、y2)とする。702は特徴点抽出部104でスケール番号Sc=3の縮小画像から抽出された特徴点の1つであり、Sc=3の縮小画像上での座標をN3(x3、y3)とする。703は特徴点抽出部104でスケール番号Sc=4の縮小画像から抽出された特徴点の1つであり、Sc=4の縮小画像上での座標をN4(x4、y4)とする。
図5は、図4で示した各縮小画像(Sc=1〜8)の座標系をスケール番号Sc=0の座標系に変換して並べた図である。
今、ステップS305において、特徴点702に着目しているとする。ステップS305では、まず、N1(x1、y1)を得る。次に座標変換によって、座標N1(x1、y1)からSc=0の座標系における特徴点702の座標N1(X1、Y1)を計算する。続いて、特徴点抽出部104で抽出したSc=1以外の縮小画像の特徴点について、Sc=0の座標系に変換した座標を計算し、特徴点701の座標N1(X1、Y1)と同一座標あるいはその近傍座標に位置するかを調べる。本実施例では、特徴点702の座標N2(x2、y2)をSc=0の座標系に変換した結果、座標N2(X1、Y1)となる。この場合、座標変換した特徴点701の座標N1(X1,Y1)と特徴点702の座標N2(X1,Y1)は一致しているので、縮小変換の変換前と変換後の関係にあり対応特徴点であることが分かる。一致していなくても、N1とN2が互い異なる画像から抽出した特徴点であり、画像401におけるN1とN2の位置が所定距離より近い場合にN1とN2を対応する位置にある対応特徴点としてもよい。
所定距離は、縮小回数の多い画像から抽出した特徴点を比較するほど大きくしてもよいし、予め設定してもよい。また、ステップS304で抽出される特徴点の候補の数に応じて、候補の数が多ければ所定範囲を小さくし、候補の数が少なければ所定範囲を大きくしてもよい。
一方で、Sc=3の縮小画像にある特徴点703に着目すると、Sc=3以外の画像に特徴点703と対応する位置にある特徴点が存在しない。従って、特徴点703は対応特徴点ではない。
ステップS305では、特徴点抽出部104が抽出した特徴点のそれぞれについて前述の処理を実施する。
ステップS306では、局所特徴量算出部106が、特徴点抽出部104の抽出した各特徴点について式(1)を用いて局所特徴量を算出する。
次に、ステップS307で、特徴量登録部107が局所特徴量算出部106の算出した局所特徴量と入力画像101とを関連付けて、画像特徴データベース108に登録する。
他にも、図5の特徴点701と702のように、対応する位置にある対応特徴点であって、更に連続する回数(特徴点701は1回、特徴点702は2回)で縮小された縮小画像から抽出されている特徴点の局所特徴量のみ登録するようにしてもよい。特徴点701と特徴点702のように連続する縮小回数で縮小されている画像から対応特徴点として判定された特徴点は、同じエッジやコーナから抽出されている確度が高い。
また、対応特徴点として判定された特徴点701、702から局所特徴量を算出する場合、特徴点701と特徴点702の夫々から局所特徴量を算出して夫々の特徴点に関連付けることが好ましい。特徴点701と特徴点702のどちらか一方だけ選別して局所特徴量を算出してもよい。
ここで、抽出された局所特徴量は特徴点の位置情報と関連付けられ局所特徴量登録部107に送られる。
局所特徴量を抽出する方法には、たとえば2次元配列における画像値の分布の勾配や勾配方向に基づいて特徴点ごとに方向(オリエンテーション)を割り当てる方法など、さまざまな方法がある。特徴点に関する局所的な特徴量を算出可能な方法であれば、上述したような特徴量算出方法に限らず適用可能である。
また、ステップS305において、採用する対応特徴点の数に上限を設けてもよい。上限を設けることで、処理速度を向上させることが可能となる。上限を設ける場合は、縮小率が大きい方から順番に特徴点を選択することで、低域成分から抽出された特徴点から優先的に取捨選択されるようになり、より安定した特徴点を取捨選択できるようになる。
[画像の検索処理]
次に、画像を検索する際に行う各部の動作について説明する。
図3は、画像の検索装置200処理を示すフローチャートである。図3において、図2と同一の機能を有する工程については、同じ符号を付すとともに機能的にかわらないものについてはその説明を省略する。
ステップS501では、局所特徴量算出部106がクエリ画像101から抽出した局所特徴量と画像特徴データベース108に登録されている局所特徴量とを比較部201が比較する。この比較処理は、画像特徴データベース108に登録されている入力画像毎に実施し、比較処理の結果として入力画像毎に類似度を算出する。
次に、ステップS502で、比較部201は検索結果202として出力する。検索結果202として、例えば、算出した類似度と当該類似度の算出元となった画像とを関連付けて類似度の高い順にリストにしたものが考えられる。また、検索結果としてサムネイルを出力する事も好ましい。
[類似度算出方法]
類似度算出方法を説明するために、まず局所特徴量の比較方法を説明する。局所特徴量の式(1)に示す局所特徴量は5つの要素を持つ数列で示したが、5つ以外の場合でもよい。複数以上の要素を持つ数列は多次元空間のベクトルであるので、2つのベクトルを比較して類似性の判断が可能である。例えば、本実施形態では比較する2つのベクトルから差分のベクトルを算出し、差分のベクトルの絶対値が小さい程類似度が高いと扱う。しかしこの他にも、2つのベクトル間の角度が小さい程類似度が高いとしてもよいし、それらを複合的に扱ってもよい。
以上、本実施形態では、複数の縮小画像において対応する座標から抽出されている特徴点を対応特徴点として取得し、対応特徴点に関する局所特徴量を算出して検索処理をする。
対応特徴点は縮小変換をした際に抽出される再現性の高い安定した特徴点である。従って、ノイズになる特徴点(不安定な特徴点)が減るので検索精度が向上し、処理負荷の軽減にも繋がる。
前述の実施形態では、画像変換として縮小変換を用いているが、他にも種々の
画像変換においても本発明は適用できる。
例えば、画像変換として拡大変換を用いて、所定の変化率として拡大率を用いることで、拡大画像に対しての検索精度が向上する。画像変換として回転変換を用いて、所定の変化率として回転率を用いることで、回転画像に対しての検索精度が向上する。
他にも、画像変換をぼかし処理(ガウスフィルタとのコンボリューション)によってぼかし画像を取得し、所定の変化率を当該ガウスフィルタの標準偏差σの変化率とすると、ノイズが付加された画像に対しての検索精度が向上する。
画像変換としてノイズを付加する処理を用いて、所定の変化率としてノイズの付加度合いを用いることで、ノイズ付加画像に対しての検索精度が向上する。
また、これらの種々の画像変換を組み合わせて用いてもよい。
前述の実施形態では説明のために画像検索を例にしたが、本発明は画像検索に限定されるものではなく、入力画像から特徴点を抽出し局所的な特徴量を算出する認識等の画像処理にも適用可能なものである。
本発明は前述した実施形態の処理を図6に示すようなコンピュータに実行させるプログラムを記憶した記憶媒体を、システム或いは装置に供給することによって実現する。
図6に示すコンピュータ1400は、ROM1430の中に前記実施形態で挙げたフローチャートの処理をCPU1410に実現させるプログラムを格納している。そして、プログラムを実行させる際にROM1430のプログラムをRAM1420に読出しCPU1410が処理できるようにする。ここで、1450はバスであり、ROM1430、RAM1420、CPU1410およびHDDのデータをやりとりする。また、コンピュータ1400はユーザインターフェースに接続されるキーボードやマウスなどの入出力機器からの入力を受ける。また、コンピュータ1400は、ネットワークインターフェース1470に対して入出力を行ったりする。コンピュータ1500のネットワークインターフェース1470はネットワーク1500を介して、データベース(DB)1510、クライアント(CLIENT)1520、プリンタ(PRINTER)1530と通信可能である。
また、複数のハードウェアとソフトウェアの協同によって前述の実施形態の処理を実現してもよい。例えば、図1(a),(b)で示す構成は、その構成の一部をソフトウェアで実現可能であり、また特定の処理に特化したICでも実現可能である。他にも、ネットワークで接続している複数の機器の協同によって実現してもよい。図6を用いて例を挙げると、コンピュータ1400がプリンタ1530やクライアント1520から画像を受付けて、コンピュータ1400が図2のフローチャートの処理を行い、データベース1510に登録する形態が挙げられる。また、コンピュータ1400がクライアント1520やプリンタ1530から検索依頼とクエリ画像を受付けて、図3のフローチャートの処理を行い、データベース1510からクエリ画像に類似する画像を検索する形態も挙げられる。
また、記憶媒体から読み出されたプログラムがコンピュータに挿入された機能拡張ユニットに備わるメモリに書込まれ、その機能拡張ユニットに備わるCPUがそのプログラムコードの指示に基づき、処理を行ってもよい。
また、プログラムコードを供給する記憶媒体として、フレキシブルディスク、ハードディスク、光ディスク、光磁気ディスク、CD−ROM、CD−R、磁気テープ、不揮発性のメモリカード、ROMなどを用いることができる。
また、プログラムコードをCPU(中央処理装置)が読み出し、CPUが、コンピュータ上で稼働しているOS(オペレーティングシステム)の機能を使って前述の処理を行ってもよい。
本発明の装置の構成例を示すブロック図である。 画像の登録処理の手順を表すフローチャートである。 画像の検索処理の手順を表すフローチャートである。 特徴点の抽出例を示す図である。 対応特徴点の判定方法を示す図である 本発明の概略ハード構成を示す図である。
符号の説明
100 画像登録装置
101 入力画像(クエリ画像)
102 画像入力部
103 画像変換部
104 特徴点抽出部
105 特徴点判定部
106 局所特徴量算出部
107 特徴量登録部
108 画像特徴データベース
200 画像検索装置
201 比較部
202 検索結果

Claims (14)

  1. 入力画像に画像変換を施し変換画像を取得する変換手段と、
    前記入力画像と前記変換画像とから特徴点を抽出する抽出手段と、
    前記抽出手段によって複数の画像の夫々で対応する位置から抽出されている特徴点を対応特徴点として判定する判定手段と、
    前記判定手段によって判定された対応特徴点に関する局所特徴量を算出し、前記入力画像の局所特徴量として登録する登録手段と、
    を有することを特徴とする画像処理装置。
  2. 入力画像に対して所定の変換率の画像変換を複数回施すことによって互いに変換率の異なる複数の変換画像を取得する変換手段と、
    前記入力画像と前記複数の変換画像とから特徴点を抽出する抽出手段と、
    前記抽出手段によって複数の画像の夫々で対応する位置から抽出されている特徴点を対応特徴点として判定する判定手段と、
    前記複数回のうち連続する変換画像の夫々から対応特徴点として前記判定手段によって判定された際に、当該対応特徴点に関する局所特徴量を算出し、前記入力画像の局所特徴量として登録する登録手段と
    を有することを特徴とする画像処理装置。
  3. 前記判定手段は、前記画像変換を施した変換画像の夫々から抽出された特徴点の座標を画像変換前の入力画像の座標に変換した際に、互いに異なる画像から抽出した特徴点について前記入力画像の座標における特徴点の位置が所定距離より近い特徴点の組み合わせを対応する位置から抽出した対応特徴点として判定することを特徴とする請求項1又は2に記載の画像処理装置。
  4. 前記登録手段は、前記対応特徴点に関する局所特徴量のみを登録することを特徴とする、請求項1乃至3のいずれか1項に記載の画像処理装置。
  5. 前記局所特徴量を記憶するための記憶手段と、
    前記入力画像から算出した局所特徴量と前記記憶手段に記憶されている局所特徴量を比較する比較手段と
    を更に有することを特徴とする請求項1乃至4の何れか1項に記載の画像処理装置。
  6. 前記比較手段の結果を用いて、前記入力画像の局所特徴量に類似している局所特徴量を前記記憶手段から検索する検索手段を更に有することを特徴とする請求項5に記載の画像処理装置。
  7. 前記画像変換は縮小変換であって、前記変換手段が前記入力画像を縮小変換することで変換画像を取得することを特徴とする請求項1乃至6の何れか1項に記載の画像処理装置。
  8. 前記画像変換はぼかし処理であって、前記変換手段が前記入力画像をぼかし処理することでぼかし画像を取得することを特徴とする請求項1乃至6の何れか1項に記載の画像処理装置。
  9. 前記画像変換は拡大変換であって、前記変換手段が前記入力画像を拡大変換することで変換画像を取得することを特徴とする請求項1乃至6の何れか1項に記載の画像処理装置。
  10. 前記画像変換は回転変換であって、前記変換手段が前記入力画像を回転変換することで回転画像を取得することを特徴とする請求項1乃至6の何れか1項に記載の画像処理装置。
  11. 前記画像変換はノイズを付加する処理であって、前記変換手段が前記入力画像にノイズを付加することでノイズ付加画像を取得することを特徴とする請求項1乃至6の何れか1項に記載の画像処理装置。
  12. 前記登録手段は、前記対応特徴点のうち画像変換の回数の多い画像から抽出した特徴点に関する局所特徴量のみを登録することを特徴とする、請求項1乃至11のいずれか1項に記載の画像処理装置。
  13. 変換手段と、抽出手段と、判定手段と、登録手段とを有する画像処理装置が処理する画像処理方法であって、
    前記変換手段が、入力画像に対して画像変換を施し変換画像を取得する変換工程と、
    前記抽出手段が、前記入力画像と前記変換画像とから特徴点を抽出する抽出工程と、
    前記判定手段が、前記抽出工程によって前記入力画像と前記変換画像の夫々から抽出された特徴点のうち対応する位置から抽出されている特徴点を対応特徴点として判定する判定工程と、
    前記登録手段が、前記判定工程によって判定された対応特徴点に関する局所特徴量を算出し、前記入力画像の局所特徴量として登録する登録工程と、
    を有することを特徴とする画像処理方法。
  14. コンピュータに、
    入力画像に対して画像変換を施し変換画像を取得する変換工程と、
    前記入力画像と前記変換画像とから特徴点を抽出する抽出工程と、
    前記抽出工程によって前記入力画像と前記変換画像の夫々で対応する位置から抽出されている特徴点を対応特徴点として判定する判定工程と、
    前記判定工程によって判定された対応特徴点に関する局所特徴量を算出し、前記入力画像の局所特徴量として登録する登録工程と、
    を実行させることを特徴とするプログラム。
JP2008246339A 2008-09-25 2008-09-25 画像処理装置、画像処理方法およびプログラム Expired - Fee Related JP5183392B2 (ja)

Priority Applications (7)

Application Number Priority Date Filing Date Title
JP2008246339A JP5183392B2 (ja) 2008-09-25 2008-09-25 画像処理装置、画像処理方法およびプログラム
EP09170351A EP2172856A3 (en) 2008-09-25 2009-09-15 Image processing apparatus, image processing method and program
KR1020090087907A KR101185712B1 (ko) 2008-09-25 2009-09-17 화상 처리 장치, 화상 처리 방법 및 프로그램을 기억하는 컴퓨터 판독 기억 매체
CN2009101783046A CN101685541B (zh) 2008-09-25 2009-09-22 图像处理装置及图像处理方法
CN2012102493945A CN102982528A (zh) 2008-09-25 2009-09-22 图像处理装置及图像处理方法
RU2009135635/28A RU2429540C2 (ru) 2008-09-25 2009-09-24 Устройство для обработки изображений, способ обработки изображений и считываемый компьютером носитель информации
US12/566,562 US8416982B2 (en) 2008-09-25 2009-09-24 Image processing apparatus, image processing method and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008246339A JP5183392B2 (ja) 2008-09-25 2008-09-25 画像処理装置、画像処理方法およびプログラム

Publications (3)

Publication Number Publication Date
JP2010079545A true JP2010079545A (ja) 2010-04-08
JP2010079545A5 JP2010079545A5 (ja) 2011-09-15
JP5183392B2 JP5183392B2 (ja) 2013-04-17

Family

ID=41279330

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008246339A Expired - Fee Related JP5183392B2 (ja) 2008-09-25 2008-09-25 画像処理装置、画像処理方法およびプログラム

Country Status (6)

Country Link
US (1) US8416982B2 (ja)
EP (1) EP2172856A3 (ja)
JP (1) JP5183392B2 (ja)
KR (1) KR101185712B1 (ja)
CN (2) CN101685541B (ja)
RU (1) RU2429540C2 (ja)

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2013073622A1 (ja) 2011-11-18 2013-05-23 日本電気株式会社 局所特徴量抽出装置、局所特徴量抽出方法、及びプログラム
WO2014030399A1 (ja) 2012-08-23 2014-02-27 日本電気株式会社 物体識別装置、物体識別方法、及びプログラム
WO2014030400A1 (ja) 2012-08-23 2014-02-27 日本電気株式会社 物体識別装置、物体識別方法、及びプログラム
JP2015099453A (ja) * 2013-11-19 2015-05-28 ヤフー株式会社 学習用局所特徴量生成装置及び学習用局所特徴量生成方法
JP2016081248A (ja) * 2014-10-15 2016-05-16 Kddi株式会社 登録装置及び検索装置並びに方法及びプログラム
US9633278B2 (en) 2012-12-28 2017-04-25 Nec Corporation Object identification device, method, and storage medium
JP2017516248A (ja) * 2014-04-24 2017-06-15 ナント・ホールデイングス・アイ・ピー・エル・エル・シー 画像物体認識におけるロバスト特徴特定
US9805282B2 (en) 2011-11-18 2017-10-31 Nec Corporation Local feature descriptor extracting apparatus, method for extracting local feature descriptor, and program
US10861129B2 (en) 2016-03-08 2020-12-08 Nant Holdings Ip, Llc Image feature combination for image-based object recognition

Families Citing this family (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5290867B2 (ja) * 2009-05-25 2013-09-18 キヤノン株式会社 画像検索装置およびその方法
KR101350335B1 (ko) * 2009-12-21 2014-01-16 한국전자통신연구원 내용기반 영상검색 장치 및 방법
JP5934231B2 (ja) 2010-11-01 2016-06-15 スリーエム イノベイティブ プロパティズ カンパニー 生物学的滅菌インジケーター
KR101913336B1 (ko) 2011-10-06 2018-10-31 삼성전자주식회사 이동 장치 및 그 제어 방법
US9031326B2 (en) * 2012-02-16 2015-05-12 Sony Corporation System and method for effectively performing an image categorization procedure
RU2515706C2 (ru) * 2012-08-21 2014-05-20 Общество с ограниченной ответственностью "Кузнеч" ООО "Кузнеч" Способ и система поиска нарушений авторских прав на изображения
US9165220B2 (en) * 2012-12-18 2015-10-20 Hewlett-Packard Development Company, L.P. Image object recognition based on a feature vector with context information
JP6167733B2 (ja) * 2013-07-30 2017-07-26 富士通株式会社 生体特徴ベクトル抽出装置、生体特徴ベクトル抽出方法、および生体特徴ベクトル抽出プログラム
CN104346797A (zh) * 2013-07-31 2015-02-11 北大方正集团有限公司 关键像素点匹配方法和装置、图像匹配方法和装置
CN104424297B (zh) * 2013-09-02 2018-01-23 联想(北京)有限公司 信息处理的方法及智能设备
CN103793466B (zh) * 2013-12-20 2018-06-05 深圳先进技术研究院 一种图像检索方法及装置
CN103927513A (zh) * 2014-03-26 2014-07-16 广州品唯软件有限公司 Logo识别方法和装置
CN104182930B (zh) * 2014-08-16 2017-10-13 大连理工大学 Sift图像快速匹配的尺寸预处理方法
JP2017054323A (ja) * 2015-09-10 2017-03-16 富士通株式会社 生体認証装置、生体認証方法、及び生体認証プログラム
JP6624877B2 (ja) * 2015-10-15 2019-12-25 キヤノン株式会社 情報処理装置、情報処理方法及びプログラム
CN106844381B (zh) * 2015-12-04 2020-06-30 富士通株式会社 图像处理装置及方法
CN107169397B (zh) * 2016-03-07 2022-03-01 佳能株式会社 特征点检测方法及装置、图像处理系统和监视系统
CN105844290B (zh) * 2016-03-16 2019-10-25 网易(杭州)网络有限公司 匹配图像中多个相同对象的方法及装置
CN106127679B (zh) * 2016-06-24 2020-04-28 厦门中控智慧信息技术有限公司 一种指纹图像的转换方法及装置
CN106372111B (zh) * 2016-08-22 2021-10-15 中国科学院计算技术研究所 局部特征点筛选方法及系统
CN106778510B (zh) * 2016-11-25 2020-03-20 江西师范大学 一种超高分辨率遥感图像中高层建筑特征点匹配方法
CN106780698A (zh) * 2016-12-23 2017-05-31 深圳市刑天科技开发有限公司 基于图形处理器加速的地形渲染方法
CN109145892A (zh) * 2018-09-28 2019-01-04 中国科学院长春光学精密机械与物理研究所 图像信息抽取方法、装置、设备及计算机可读存储介质
CN111986246B (zh) * 2019-05-24 2024-04-30 北京四维图新科技股份有限公司 基于图像处理的三维模型重建方法、装置和存储介质
CN112964201A (zh) * 2021-02-19 2021-06-15 常州市宏发纵横新材料科技股份有限公司 一种碳板直线度检测方法

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004326693A (ja) * 2003-04-28 2004-11-18 Sony Corp 画像認識装置及び方法、並びにロボット装置
JP2006190201A (ja) * 2005-01-07 2006-07-20 Sony Corp 画像処理システム、学習装置および方法、並びにプログラム

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0631683B1 (en) * 1992-03-20 2001-08-01 Commonwealth Scientific And Industrial Research Organisation An object monitoring system
EP0567059B1 (en) * 1992-04-24 1998-12-02 Hitachi, Ltd. Object recognition system using image processing
JP2735043B2 (ja) 1995-08-01 1998-04-02 日本電気株式会社 印影位置合わせ方法と印影位置合わせ装置
JPH1097619A (ja) * 1996-09-20 1998-04-14 Gijutsu Kenkyu Kumiai Shinjoho Shiyori Kaihatsu Kiko 画像抽出装置及び画像抽出方法
IT1284976B1 (it) * 1996-10-17 1998-05-28 Sgs Thomson Microelectronics Metodo per l'identificazione di strisce segnaletiche di corsie stradali
JP3002721B2 (ja) * 1997-03-17 2000-01-24 警察庁長官 図形位置検出方法及びその装置並びにプログラムを記録した機械読み取り可能な記録媒体
JP3549725B2 (ja) * 1998-04-13 2004-08-04 シャープ株式会社 画像処理装置
EP1122939A3 (en) * 2000-01-31 2003-08-27 Canon Kabushiki Kaisha Image processing system
FR2841422B1 (fr) * 2002-06-19 2004-11-12 Canon Kk Insertion et extraction d'un message dans une image
JP2004348563A (ja) * 2003-05-23 2004-12-09 Dds:Kk 顔画像照合装置、携帯端末装置、顔画像照合方法及び顔画像照合プログラム
JP3931891B2 (ja) * 2004-07-05 2007-06-20 日産自動車株式会社 車載用画像処理装置
CN100397400C (zh) * 2006-02-10 2008-06-25 华为技术有限公司 图形检索的方法
JP4807277B2 (ja) * 2007-02-13 2011-11-02 富士ゼロックス株式会社 画像処理装置及び画像処理プログラム
JP5139716B2 (ja) * 2007-05-16 2013-02-06 キヤノン株式会社 画像検索装置及び画像検索方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004326693A (ja) * 2003-04-28 2004-11-18 Sony Corp 画像認識装置及び方法、並びにロボット装置
JP2006190201A (ja) * 2005-01-07 2006-07-20 Sony Corp 画像処理システム、学習装置および方法、並びにプログラム

Cited By (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9697435B2 (en) 2011-11-18 2017-07-04 Nec Corporation Local feature descriptor extracting apparatus, local feature descriptor extracting method, and program
WO2013073622A1 (ja) 2011-11-18 2013-05-23 日本電気株式会社 局所特徴量抽出装置、局所特徴量抽出方法、及びプログラム
US9805282B2 (en) 2011-11-18 2017-10-31 Nec Corporation Local feature descriptor extracting apparatus, method for extracting local feature descriptor, and program
EP3693893A1 (en) 2012-08-23 2020-08-12 NEC Corporation Object identification apparatus, object identification method, and program
US9679221B2 (en) 2012-08-23 2017-06-13 Nec Corporation Object identification apparatus, object identification method, and program
WO2014030400A1 (ja) 2012-08-23 2014-02-27 日本電気株式会社 物体識別装置、物体識別方法、及びプログラム
WO2014030399A1 (ja) 2012-08-23 2014-02-27 日本電気株式会社 物体識別装置、物体識別方法、及びプログラム
US9633278B2 (en) 2012-12-28 2017-04-25 Nec Corporation Object identification device, method, and storage medium
JP2015099453A (ja) * 2013-11-19 2015-05-28 ヤフー株式会社 学習用局所特徴量生成装置及び学習用局所特徴量生成方法
JP2017516248A (ja) * 2014-04-24 2017-06-15 ナント・ホールデイングス・アイ・ピー・エル・エル・シー 画像物体認識におけるロバスト特徴特定
US10331970B2 (en) 2014-04-24 2019-06-25 Nant Holdings Ip, Llc Robust feature identification for image-based object recognition
US10719731B2 (en) 2014-04-24 2020-07-21 Nant Holdings Ip, Llc Robust feature identification for image-based object recognition
JP2016081248A (ja) * 2014-10-15 2016-05-16 Kddi株式会社 登録装置及び検索装置並びに方法及びプログラム
US10861129B2 (en) 2016-03-08 2020-12-08 Nant Holdings Ip, Llc Image feature combination for image-based object recognition
US11551329B2 (en) 2016-03-08 2023-01-10 Nant Holdings Ip, Llc Image feature combination for image-based object recognition
US11842458B2 (en) 2016-03-08 2023-12-12 Nant Holdings Ip, Llc Image feature combination for image-based object recognition

Also Published As

Publication number Publication date
US20100074530A1 (en) 2010-03-25
RU2429540C2 (ru) 2011-09-20
EP2172856A2 (en) 2010-04-07
JP5183392B2 (ja) 2013-04-17
US8416982B2 (en) 2013-04-09
CN101685541B (zh) 2012-08-29
KR101185712B1 (ko) 2012-09-24
CN101685541A (zh) 2010-03-31
EP2172856A3 (en) 2011-07-27
RU2009135635A (ru) 2011-03-27
CN102982528A (zh) 2013-03-20
KR20100035108A (ko) 2010-04-02

Similar Documents

Publication Publication Date Title
JP5183392B2 (ja) 画像処理装置、画像処理方法およびプログラム
JP4348353B2 (ja) パターン認識装置,パターン認識方法及びその方法を実現したプログラムを格納した記録媒体
JP5261501B2 (ja) 不変の視覚場面及び物体の認識
JP2014056572A (ja) 勾配方位のヒストグラムによるテンプレート・マッチング
US9691004B2 (en) Device and method for service provision according to prepared reference images to detect target object
JP6492746B2 (ja) 画像処理プログラム、画像処理装置、及び画像処理方法
JP2009169925A (ja) 画像検索装置および画像検索方法
JP2010266964A (ja) 画像検索装置及びその制御方法並びにプログラム
JP5507962B2 (ja) 情報処理装置及びその制御方法、プログラム
JP6736988B2 (ja) 画像検索システム、画像処理システム及び画像検索プログラム
CN113793370A (zh) 三维点云配准方法、装置、电子设备及可读介质
JP2007199749A (ja) 画像検索方法及び画像検索装置
US10853972B2 (en) Apparatus for processing image and method thereof
US10509986B2 (en) Image similarity determination apparatus and image similarity determination method
JP5197328B2 (ja) 画像処理装置、画像処理方法及びプログラム
US20170213103A1 (en) Image retrieving device, image retrieving method, and recording medium
JP6440305B2 (ja) 超解像装置およびプログラム
JP2005182098A (ja) 合成画像を生成・表示する装置及び方法
JP5083162B2 (ja) 画像データ判定装置、画像データ判定システム、及びプログラム
JP6485072B2 (ja) 画像探索装置、画像探索方法および画像探索プログラム
JP2010092426A (ja) 画像処理装置、画像処理方法およびプログラム
JP2020165114A (ja) 石材位置特定プログラム、石材位置特定システム、及び石材位置特定装置
US20240037449A1 (en) Teaching device, teaching method, and computer program product
CN111597375A (zh) 基于相似图片组代表特征向量的图片检索方法及相关设备
CN116645513A (zh) 水印提取方法、模型训练方法、装置、电子设备及介质

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20100201

RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20100630

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110803

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110803

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120525

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120529

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120726

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20120821

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20121121

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20121203

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20121218

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130115

R151 Written notification of patent or utility model registration

Ref document number: 5183392

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160125

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees