JP2010211484A - 存在確率による位置重みを考慮した類似画像検索装置、存在確率による位置重みを考慮した類似画像検索方法、存在確率による位置重みを考慮した類似画像検索プログラム - Google Patents
存在確率による位置重みを考慮した類似画像検索装置、存在確率による位置重みを考慮した類似画像検索方法、存在確率による位置重みを考慮した類似画像検索プログラム Download PDFInfo
- Publication number
- JP2010211484A JP2010211484A JP2009056581A JP2009056581A JP2010211484A JP 2010211484 A JP2010211484 A JP 2010211484A JP 2009056581 A JP2009056581 A JP 2009056581A JP 2009056581 A JP2009056581 A JP 2009056581A JP 2010211484 A JP2010211484 A JP 2010211484A
- Authority
- JP
- Japan
- Prior art keywords
- image
- similarity
- weight
- search
- divided
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Landscapes
- Processing Or Creating Images (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
【課題】検索者の検索意図を反映した検索が実現できる存在確率による位置重みを考慮した類似画像検索装置を提供する。
【解決手段】入力部102から入力した画像の領域を、設定した分割数で分割し(領域分割部103)、分割した各画像領域内に検索対象の画像内容が存在する確率を、主観評価を用いて求め(存在確率計算部104)、前記存在確率に応じて位置重みを設定し(重み設定部105)、検索キーに対応する検索キー画像および画像データベース内の画像から分割領域毎の画像特徴を抽出し、画像特徴量を計算し(特徴抽出部106、特徴量計算部107)、前記両者の画像特徴量を比較し、前記設定された位置重みを乗算して類似度を計算し(類似度計算部108)、前記類似度を比較し、キー画像と最も近い類似度の画像から類似度順に並べて表示する(類似度比較部109、画像ソート部110、表示部112)。
【選択図】図1
【解決手段】入力部102から入力した画像の領域を、設定した分割数で分割し(領域分割部103)、分割した各画像領域内に検索対象の画像内容が存在する確率を、主観評価を用いて求め(存在確率計算部104)、前記存在確率に応じて位置重みを設定し(重み設定部105)、検索キーに対応する検索キー画像および画像データベース内の画像から分割領域毎の画像特徴を抽出し、画像特徴量を計算し(特徴抽出部106、特徴量計算部107)、前記両者の画像特徴量を比較し、前記設定された位置重みを乗算して類似度を計算し(類似度計算部108)、前記類似度を比較し、キー画像と最も近い類似度の画像から類似度順に並べて表示する(類似度比較部109、画像ソート部110、表示部112)。
【選択図】図1
Description
本発明は、画像処理技術を使って、検索キー画像と類似している画像を画像データベース中から検索する技術に関し、存在確率による位置重みを考慮した類似画像検索装置、検索方法ならびに検索プログラムに関するものである。
従来技術としては、画像の中から特定の人の顔や建物などが撮影されている画像を検出するためや、そのような画像が含まれているホームページを検索するための画像処理技術がある。画像を小領域に分割し、抽出した特徴をベクトル量子化する。予め画像特徴の典型的なパターンである見本特徴の集合を準備し、この見本特徴それぞれの間の距離を予め計算しておき、蓄積画像に対応する見本特徴を選択しておく事で、検索キー画像に対応する見本特徴との距離を計算し、照合時の時間を節約する方法である(例えば、特許文献1参照)。
前記従来技術では、予め画像の特徴の典型的なパターンである見本特徴のセットを用意している。検索対象となる画像の種類が予め分かっている場合には、その画像を特徴づけられるパターンを用意しておき、同じ種類の画像を検索する。しかしながら、画像内に映っている対象物に関する情報を考慮せずに画像から得られた物理特徴だけを用いるために、必ずしも人間の感覚を反映した画像特徴とはなっていなかった。
本発明は上記の事情に鑑みてなされたものであり、その目的は、検索者の検索意図を反映した検索が実現できる存在確率による位置重みを考慮した類似画像検索装置、検索方法ならびに検索プログラムを提供することにある。
本発明は、検索対象となる画像の種類が決まっていて、例えば、空と山を含む画像、夕焼けの画像、中央に目的とする画像(商品など)が写っている画像など画像のレイアウト(構図)が類似していて、画像自体も類似している画像を探したい場合に、画像中の対象となる画像内容が画像中に映っている領域の重要度を重みの値として大きく設定することにより、対象となる画像内容が映っている画像を検索しやすくしたものであり、検索者の検索意図を反映した検索を実現した。
前提条件としては、画像データベース中の画像も同様に画像のレイアウト(構図)が類似した画像が格納されているとする。例えば、商品カタログなど中央に対象物が写っている場合には、中央の位置の重みを大きく(高く)する。また、夕焼けなど空の写っている写真を探す場合には、上部の位置の重みを大きくする。逆に言えば、同じ夕焼けの画像でも、構図の異なる画像は検索されにくくなる。
この際、画像を複数に分割した部分領域毎に領域の重要度を決める手法をとることにより、人間の感覚を反映する検索の実現を目指す。具体的には、領域の重要度を、画像全体を見たときに着目する対象物が当該領域に存在するか否かを主観評価し、特定色やパターンの有無等により求め、存在確率として定義し、位置に依存した重み付けを行うことにより、同様の構図を持つ画像を検索することが可能となる手法である。
例えば、探したい画像の正解となるサンプル画像群を、A=N×Mに分割(N,Mは自然数)し、各部分領域毎に探したい対象物を含んでいるかを調べ、その存在確率Pa(a=1,…,A)を求める。存在確率Paに比例するように位置重みをαからβまでの整数(数字が大きいほうが重みは大きいex.α=0,β=9)で表現する。この例では、重みを整数値で表しているが、存在確率自体は有理数であり、本来は整数値である必要はない。この場合、システム利用上の処理のし易さから、整数に扱っているに過ぎず、存在確率を用いても良い。
整数化関数としてf(Pa)を用いる。次のようにして、存在確率から整数値を作成することを考える。
f(Pa)=int(k×Pa)…(1)
ただし、kは定数。
ただし、kは定数。
例えば、存在確率は0≦Pa≦1であるので、k=10を掛けて、小数点を切り捨てる処理を行うことで、0から10までの整数で表すことが可能となる。
この時、部分領域に対して重みを決定する際、人が何も指標のない状態から直接重みの値を入力することを考えると、どの大きさの値を入力したら良いかわからず、絶対値を直接入力することは難しい。これに対し本発明の存在確率を利用することで、人が付ける重みのばらつきを抑えられる効果がある。
しかしながら、この存在確率を利用して決定された初期としての重み値WNMaは、検索者が検索画像に相応しい重みを決定するための参考となる値を例示しているに過ぎないことになる。なぜなら、図2に示す、部分画像領域の位置重みの初期値を存在確率から決定するフローチャートにより決定された初期重み値WNMaは、後から人手により変更されてしまうからである。けれども、この初期値がなければ、人が検索画像に対して直に重み値を付けることは難しい。
人が直接つける重みには、定量的な根拠がなく、システムとして実現するには信頼性に難がある。そこで、根拠となる重みの初期値を決定するために、対象物の存在確率を基に決定する手法をとることとした。この初期値を拠り所にして、容易かつ簡便に確からしい相対的な重み値を設定できる効果があるといえる。
従って、この初期値を決定するための重みは、画像データベース全体である必要はなく、相対的に確からしい値を算出できる学習画像から決定したものを、検索システムに用いることとする。もちろん、画像データベース全体から算出しても良い。
システム設計の際には、予め、分割する縦横の値、N,Mの最大の整数値を決めておき、その整数値で作成できる分割数の組み合わせの場合だけ、画像データベース中の各画像に対して分割を行い、各分割領域画像KNMa毎に特徴量を抽出しておけば、検索時に特徴量抽出を行う必要がないため、検索時間を短縮することができる効果がある。すなわち、分割パターンは、例えば、2×2、2×3、3×3などの有限個となるため、画像データベース中の画像を、予め決められたパターンで分割して、各分割領域画像KNMaから特徴を抽出しておくことが出来るメリットがある。
本発明の存在確率による位置重みを考慮した類似画像検索方法は、画像を入力する入力部と、領域を分割する領域分割部と、重みを設定する重み設定部と、画像から特徴を抽出する特徴抽出部と、抽出された特徴から特徴量を計算する特徴量計算部と、複数画像間の特徴量から各画像間の類似度を計算する類似度計算部と、計算された類似度を比較する類似度比較部と、検索キー画像から取得した特徴量と他のデータベース中の画像から取得した特徴量との類似度を計算し、それらの類似度の大きさの順にデータベース中の画像をソートして並べる画像ソート部と、画像および画像から取得した特徴量、類似度等の各種データを蓄積するデータ蓄積部と、検索キー画像と類似している順にソートして並べられた画像一覧を表示する表示部と、システムを制御する制御部とを備えた存在確率による位置重みを考慮した類似画像検索装置における検索方法であって、
画像領域の分割数N×MのN,Mの値を設定するステップと、
学習対象となる画像データベースの各画像をA=N×M分割するステップと、
A=N×Mに分割された各画像領域内に、意図する対象物が有るか無いかの割合を、主観評価を用いて、Ea(a=1,…,A)で表しL人の平均をとり存在確率Paを求めるステップと、
処理対象画像全て処理したか否かを判断するステップと、
画像データベースの全画像において、分割領域毎に対象が存在するか否かの存在確率の平均を求めるステップと、
求めた存在確率をαからβまでの整数(数字が大きい方が重みは大きいex.α=0,β=9)に変換し、各領域の位置重みWaとするステップと、
N×Mの各重みWaを各領域に対応させて一覧で表示し、全体のバランスを見て人間の感覚と相対的に相違のあると考える箇所について人手により相対的な重みの微調整(修正)を行い、重みWaを決定するステップと、
「分割数A(=N×M)のNとMの値を他の値に変更するか?」を判断するステップと、
分割数A(=N×M)のNとM、重みWaの組をデータ蓄積部に格納するステップと、
画像の分割数A=N×Mと位置重みWNMa(a=1,…,A)を組みとしてシステムに設定するステップ(WNMaは初期重み値として用いる)と、
検索キー画像Kを選択し、各分割領域KNMaの重みWNMaの値を表示するステップと、
「各分割領域KNMaの重みWNMaを変更するか?」を判断するステップと、
検索キー画像上にWNMaを表示し、検索キー画像中に含まれる対象物の状況に応じて検索者の感覚で初期値の重みから相対的な重みの微調整を行い、人間の感覚に合う位置重みWNMaをシステムに設定し直すステップ(変更したい重みだけを変更し、他の重みは初期値を用いる)と、
「変更したい各分割領域Kaの重みWNMaを再設定したか?」を判断する過程と、
検索キー画像中の各分割領域画像kNMaから色、テクスチャ、モーメント等の画像特徴を抽出し、特徴量を計算するステップと、
画像データベース中の各画像において、前記設定された分割数と同じ分割数で分割した各分割領域GNMaから前記と同様の画像特徴を抽出し、特徴量を計算するステップと、
検索キー画像KNMaとデータベース中の画像GNMa間で、分割領域毎に抽出し計算した特徴量を比較し求めた類似度σNMaに重みGNMaを乗算し、全領域の値を加重平均して類似度σを計算するステップと、
類似度を比較し、キー画像と最も近い類似度の画像から類似度順に並べて表示するステップと、を備えている。
画像領域の分割数N×MのN,Mの値を設定するステップと、
学習対象となる画像データベースの各画像をA=N×M分割するステップと、
A=N×Mに分割された各画像領域内に、意図する対象物が有るか無いかの割合を、主観評価を用いて、Ea(a=1,…,A)で表しL人の平均をとり存在確率Paを求めるステップと、
処理対象画像全て処理したか否かを判断するステップと、
画像データベースの全画像において、分割領域毎に対象が存在するか否かの存在確率の平均を求めるステップと、
求めた存在確率をαからβまでの整数(数字が大きい方が重みは大きいex.α=0,β=9)に変換し、各領域の位置重みWaとするステップと、
N×Mの各重みWaを各領域に対応させて一覧で表示し、全体のバランスを見て人間の感覚と相対的に相違のあると考える箇所について人手により相対的な重みの微調整(修正)を行い、重みWaを決定するステップと、
「分割数A(=N×M)のNとMの値を他の値に変更するか?」を判断するステップと、
分割数A(=N×M)のNとM、重みWaの組をデータ蓄積部に格納するステップと、
画像の分割数A=N×Mと位置重みWNMa(a=1,…,A)を組みとしてシステムに設定するステップ(WNMaは初期重み値として用いる)と、
検索キー画像Kを選択し、各分割領域KNMaの重みWNMaの値を表示するステップと、
「各分割領域KNMaの重みWNMaを変更するか?」を判断するステップと、
検索キー画像上にWNMaを表示し、検索キー画像中に含まれる対象物の状況に応じて検索者の感覚で初期値の重みから相対的な重みの微調整を行い、人間の感覚に合う位置重みWNMaをシステムに設定し直すステップ(変更したい重みだけを変更し、他の重みは初期値を用いる)と、
「変更したい各分割領域Kaの重みWNMaを再設定したか?」を判断する過程と、
検索キー画像中の各分割領域画像kNMaから色、テクスチャ、モーメント等の画像特徴を抽出し、特徴量を計算するステップと、
画像データベース中の各画像において、前記設定された分割数と同じ分割数で分割した各分割領域GNMaから前記と同様の画像特徴を抽出し、特徴量を計算するステップと、
検索キー画像KNMaとデータベース中の画像GNMa間で、分割領域毎に抽出し計算した特徴量を比較し求めた類似度σNMaに重みGNMaを乗算し、全領域の値を加重平均して類似度σを計算するステップと、
類似度を比較し、キー画像と最も近い類似度の画像から類似度順に並べて表示するステップと、を備えている。
(1)請求項1〜6に記載の発明によれば、画像の中に指定されている部分領域の重みを考慮し、部分領域から得られた特徴の重要度を加味することで、ユーザの検索意図を反映した類似画像検索の実現が可能となる。領域の重み指定は、例えば0からPまでの整数値で指定し、数字が大きい程、重みが大きい。画像中に位置情報を反映した特徴の重み付けにより、重視したい領域の特徴を考慮した、画像の構図に対応した検索が可能となる。重みの決定方法に、領域内における対象物の存在確率を使うことにより、検索者の意図を取り入れた画像検索が可能となる。
(2)本発明では、構図の類似した画像データベースから検索画像と同じ画像を見つける類似画像検索において、検索画像をN×Mに分割し、検索者が検索したい対象が写っている領域の位置の重みを高く設定することにより、類似の構図と対象物が写っている類似した画像を検索する。この時、部分領域に対して重みを決定する際、人が何も指標のない状態から直接重みの値を入力することは難しい。そこで、予め標本画像で対象物の存在確率を求めておき、検索者のその存在確率を基にした重みの値を提示する。検索者は、この提示された値を利用することで、相対的に検索者が感じている感覚に重みを修正することができるため、人が付ける重みのばらつきを抑えられる効果がある。
(2)本発明では、構図の類似した画像データベースから検索画像と同じ画像を見つける類似画像検索において、検索画像をN×Mに分割し、検索者が検索したい対象が写っている領域の位置の重みを高く設定することにより、類似の構図と対象物が写っている類似した画像を検索する。この時、部分領域に対して重みを決定する際、人が何も指標のない状態から直接重みの値を入力することは難しい。そこで、予め標本画像で対象物の存在確率を求めておき、検索者のその存在確率を基にした重みの値を提示する。検索者は、この提示された値を利用することで、相対的に検索者が感じている感覚に重みを修正することができるため、人が付ける重みのばらつきを抑えられる効果がある。
もしこの初期値がなければ、人が検索画像に対して直に値を付けることが難しい。人が直接つける重みには定量的な根拠がなく、システムとして実現するには信頼性に難がある。しかし本発明による対象物の存在確率を使うことで重みの値の拠り所となり、容易かつ簡便に確からしい相対的な重み値を設定できる効果がある。
(3)また、請求項2、4に記載の発明によれば、検索の際に、検索者が関心、意図のある対象物を含む部分領域の位置重みを、修正、追加指定することにより、検索キー画像中の位置重みで強調した画像特徴を用いた検索が可能となり、検索者の検索意図をより反映した類似画像検索を実現することができる効果がある。
(4)また、請求項5に記載の発明によれば、システム設計の際に、予め、分割する縦横の値、N,Mの最大の整数値を決めておき、その整数値で作成できる分割数の組み合わせの場合だけ、画像データベース中の各画像に対して分割を行い、各分割領域画像KNMa毎に特徴量を抽出しておけば、検索時に特徴量抽出を行う必要がないため、検索時間を短縮することができる効果がある。すなわち、分割パターンは、例えば、2×2、2×3、3×3などの有限個となるため、画像データベース中の画像を、予め決められたパターンで分割して、各分割領域画像KNMaから特徴を抽出しておくことが出来るメリットがある。
(3)また、請求項2、4に記載の発明によれば、検索の際に、検索者が関心、意図のある対象物を含む部分領域の位置重みを、修正、追加指定することにより、検索キー画像中の位置重みで強調した画像特徴を用いた検索が可能となり、検索者の検索意図をより反映した類似画像検索を実現することができる効果がある。
(4)また、請求項5に記載の発明によれば、システム設計の際に、予め、分割する縦横の値、N,Mの最大の整数値を決めておき、その整数値で作成できる分割数の組み合わせの場合だけ、画像データベース中の各画像に対して分割を行い、各分割領域画像KNMa毎に特徴量を抽出しておけば、検索時に特徴量抽出を行う必要がないため、検索時間を短縮することができる効果がある。すなわち、分割パターンは、例えば、2×2、2×3、3×3などの有限個となるため、画像データベース中の画像を、予め決められたパターンで分割して、各分割領域画像KNMaから特徴を抽出しておくことが出来るメリットがある。
以下、図面を参照しながら本発明の実施の形態を説明するが、本発明は下記の実施形態例に限定されるものではない。図1は本発明の存在確率による位置重みを考慮した類似画像検索装置の実施形態例を示す構成図である。
図1において、101は、学習対象となる画像データベースと検索対象の画像データベースに各々格納された入力画像を示している。
102は入力画像101を入力する画像入力手段としての入力部である。
103は、前記入力部102によって入力された画像の領域を、設定した分割数N×Mにより分割する領域分割手段としての領域分割部である。
104は、前記入力部102により入力された学習画像を前記領域分割部103により分割した各画像領域内に、検索対象の画像内容が存在する確率を主観評価を用いて求める存在確率計算手段としての存在確率計算部である。
105は、前記存在確率計算部104により求められた存在確率に応じて位置重みを設定する重み設定手段としての重み設定部である。
106は、前記入力部102によって入力された検索キーに対応する検索キー画像、および検索対象の画像データベース内の画像から、前記設定された分割数と同じ分割数で分割した分割領域毎の画像特徴を抽出する特徴抽出手段としての特徴抽出部である。
107は、前記特徴抽出部106により抽出された画像特徴の特徴量を計算する特徴量計算手段としての特徴量計算部である。
108は、前記特徴量計算部107によって計算された、検索キー画像の分割領域における画像特徴量と、画像データベース内の画像の分割領域における画像特徴量とを比較し、該比較結果に前記重み設定部105により設定された位置重みを乗算して類似度を計算する類似度計算手段としての類似度計算部である。
109は、前記類似度計算部108により計算された類似度を比較する類似度比較部である。
110は、前記類似度比較部109で比較された画像を、前記検索キー画像と最も近い類似度の画像から順に、すなわち類似度の高い順に画像をソーティングして画像検索結果一覧を作成する画像ソート部である。
111は、前記設定された画像領域の分割数N×Mと、重み設定部105によって設定された各領域の位置重みWaの組などのデータを格納しておくデータ蓄積部である。
112は、前記入力部102により入力された画像、領域分割部103により分割された画像、重み設定部105により設定された位置重み、および画像ソート部110により作成された画像検索結果一覧などを表示する表示手段としての表示部である。
113は、前記各部102〜112の動作を制御する制御手段としての制御部である。
前記各部102〜113の機能は例えばコンピュータによって達成される。
尚図1において、検索者が、画像領域の分割数N×Mの決定、位置重みの微調整、検索キー画像の選択などを行うためのユーザインタフェースは図示省略している。
次に図1の装置の動作を図2、図3のフローチャートとともに説明する。最初に検索に用いる位置重みWや分割数(A=N×M)などのパラメータを予め決定する処理を、図2に示すステップS101(スタート)からステップS111(エンド)までの一連のステップに沿って実行する。
先ず、画像領域の分割数A=N×MのN,Mの値を決める処理(ステップS102)を実行するために、サンプル画像を入力画像101として、入力部102により入力し、表示部112に表示する。前記N,Mの値を変えながら、N×Mの領域を入力画像101上にオーバーラップして表示させ、検索者は画像のレイアウトにあった分割数の値を決定する。
例えば、図4(a)に示すように商品画像(図示では車)などでは、中央部に対象物が存在する画像の場合は、3×3に分割することにより、真ん中の領域が構成でき、注視領域として設定できる。図4(a)の場合は車のボディが存在する領域の位置重みを高く設定することが可能となる。
また、空を含む風景画像の場合には、図4(b)のように3×3なら上部の3つの領域、図4(c)のように2×2なら上部2つ領域というように上方にある領域を注視領域として設定できるような分割数を設定する。
次にN,Mの値が決定されたら、制御部113は、領域分割部103に対して、学習対象となる画像データベースの各画像をA=N×M分割する処理(ステップS103)を実行するように指示する。
次に存在確率計算部104は、ステップS104において、A=N×Mに分割された各画像領域内に、意図する対象物が有るか無いかの割合をL人の主観評価を用いて、Ea(a=1,…,A)で表し(例えば、対象物有りを1、無しを0で表してL人の平均を求める、または対象領域内に対象物が占める面積の割合を10段階で表してL人の平均を求める等)、領域毎の存在確率Pa(式(2))を求める処理を行う。
次にステップS105において、学習対象とするサンプル画像群に対して全て処理したかを確認し、処理対象画像を全て処理するまでステップS104を実行する。
次に、標本として選択した画像群もしくは対象となる画像データベースの全画像の存在確率の平均を求める処理(ステップS106)、求めた存在確率をαからβまでの整数(数字が大きい方が重みは大きいex.α=0,β=9)に変換し、各領域の位置重みWaとする処理(ステップS107)および、N×Mの各重みWaを各領域に対応させて表示部112に一覧で表示し、全体のバランスを見て人間の感覚と相対的に相違のあると考える箇所について、人手により相対的な重みの調整(修正)を行い、重みWaを決定する処理(ステップS108)を重み設定部105にて順次行う。
次にステップS109において、検索者が、「分割数A(=N×M)のNとMの値を他の値に変更するか?」を判断し、変更する場合はステップS102に戻り、変更しない場合は制御部113が、分割数A(=N×M)のNおよびMと、位置重みデータWa(a=1,…,A)の組を、データ蓄積部111に蓄積する。
次に、検索を行う処理を図3に示すステップS201(スタート)からステップS211(エンド)までの一連のステップに沿って実行する。まず制御部113は、図2で求めた画像の分割数A=N×Mと位置重みWNMa(a=1,…,A)を組みとしてシステムに設定する処理(ステップS202)を実行する。WNMaは初期重み値として用いる。
次にステップS203において、制御部113は、入力部102から入力画像101として検索キー画像Kを入力して表示部112に表示させ、検索者が選択した検索キー画像Kと、各分割領域KNMaの重みWNMaの値を表示させる。
次に検索者はステップS204において、設定されている各分割領域KNMaの重みWNMaを変更するか否かを判断し、変更する場合には、表示部112に表示されている検索キー画像上にWNMaを表示し、検索キー画像中に含まれる対象物の状況に応じて検索者の感覚で初期値の重みから相対的な重みの微調整を行い、人間の感覚に合う位置重みWNMaをシステムに設定し直す処理(ステップS205)を実行後、重み設定部105で再設定する。このとき、全てのWNMaを変更しなくても良く、部分的に変更したい位置重みだけを変更することで良い。
次にステップS206において、検索者が、「変更したい各分割領域KNMaの重みWNMaを再設定したか?」を判断する処理を行い、変更したい各分割領域KNMaの重みWNMaを全て再設定した後、ステップS207において、特徴抽出部106が、検索キー画像中の各分割領域画像Kaから色、テクスチャ、モーメント等の画像特徴を抽出し、特徴量計算部107がその特徴量を計算する。
次にステップS208において、特徴抽出部106が、画像データベース中の各画像において、前記ステップS202と同じ分割数で分割した各分割領域GNMaから、前記ステップS207と同様に画像特徴を抽出し、特徴量計算部107がその特徴量を計算する。
次にステップS209において、類似度計算部108が、検索キー画像KNMaとデータベース中の画像GNMa間で、分割領域毎に抽出し計算(ステップS207、S208)された特徴量を比較し求めた類似度σNMaに重みWNMaを乗算し、全領域の値を加重平均して類似度σを計算する。
図5は、画像の分割数を2×2としたときの、本発明による位置重みを用いた類似度計算例を示している。図5では、右下部の領域を注視領域として位置重みを高く(「3」に)設定しており、画像データベース中の画像A,Bと検索キー画像(クエリイメージ)との比較において、この右下部の領域の類似度σNMaが高い(78%)画像Aの方が、画像Bよりも、全領域の値を加重平均した類似度σが高くなっている(75.71%)。
次にステップS210において、類似度比較部109が前記類似度σを比較し、画像ソート部110がキー画像と最も近い類似度の画像から類似度順に並べて検索結果一覧を作成し、それを表示部112に表示する。
以上のように、予め対象とする画像内の対象物の存在確率により、位置重みを設定しておくことにより、対象物が存在する位置の特徴量を強調して類似度計算が行えるため、当該位置に特徴が優先された検索が実行できるため、検索者所望の検索結果を得られる可能性が高くなるという特徴がある。この場合は、扱っている画像データベース中の画像レイアウトが均質なほど、良い結果が得られる可能性が高まる。また、検索キー画像のレイアウトを重視した検索を実行したい場合には、検索キー画像上の部分領域の位置重みを変えることにより、位置重みで強調した位置に存在する部分画像と類似した画像を同じ位置に含む画像を画像データベース中から検索することが可能となり、より検索キー画像中で注視した部分領域と類似した画像を見つけることが可能となる。
例えば図6は、前記図4(a)で述べた「車」を従来方式と本発明の方式によって検索した結果例を示しているが、本発明の方式によって、図4(a)で述べたように注視領域として設定した車のボディが存在する領域の位置重みを高く設定して検索した図6(b)の方が、従来方式によって検索した図6(a)よりも、注視した部分領域と類似した画像を見つけ出すことができている。
尚図1のシステムの設計の際に、予め、画像を分割する縦横の値、N,Mの最大の整数値を決めておき、その整数値で作成できる分割数の組み合わせの場合だけ、画像データベース中の各画像に対して領域分割部103によって分割を行い、各分割領域画像KNMa毎に特徴量を抽出し、例えばデータ蓄積部111に格納しておけば、検索時(図3のフローチャート実行時)に特徴量抽出を行う必要はない。
すなわち、検索時には図3のステップS208を省略し、ステップS209では、ステップS207で計算した検索キー画像の分割領域における画像特徴量と、前記データ蓄積部111に格納された画像データベース中の画像の分割領域における画像特徴量とを比較するものである。
このようにすることで、分割パターンは、例えば、2×2、2×3、3×3などの有限個となるため、画像データベース中の画像を、予め決められたパターンで分割して、各分割領域画像KNMaから特徴を抽出しておくことが出来るメリットがあり、したがって検索時間を短縮することができる効果がある
また、本実施形態の存在確率による位置重みを考慮した類似画像検索装置における各手段の一部もしくは全部の機能をコンピュータのプログラムで構成し、そのプログラムをコンピュータを用いて実行して本発明を実現することができること、本実施形態の存在確率による位置重みを考慮した類似画像検索方法における手順をコンピュータのプログラムで構成し、そのプログラムをコンピュータに実行させることができることは言うまでもなく、コンピュータでその機能を実現するためのプログラムを、そのコンピュータが読み取り可能な記録媒体、例えばFD(Floppy(登録商標) Disk)や、MO(Magneto−Optical disk)、ROM(Read Only Memory)、メモリカード、CD(Compact Disk)−ROM、DVD(Digital Versatile Disk)−ROM、CD−R、CD−RW、HDD、リムーバブルディスクなどに記録して、保存したり、配布したりすることが可能である。また、上記のプログラムをインターネットや電子メールなど、ネットワークを通して提供することも可能である。
また、本実施形態の存在確率による位置重みを考慮した類似画像検索装置における各手段の一部もしくは全部の機能をコンピュータのプログラムで構成し、そのプログラムをコンピュータを用いて実行して本発明を実現することができること、本実施形態の存在確率による位置重みを考慮した類似画像検索方法における手順をコンピュータのプログラムで構成し、そのプログラムをコンピュータに実行させることができることは言うまでもなく、コンピュータでその機能を実現するためのプログラムを、そのコンピュータが読み取り可能な記録媒体、例えばFD(Floppy(登録商標) Disk)や、MO(Magneto−Optical disk)、ROM(Read Only Memory)、メモリカード、CD(Compact Disk)−ROM、DVD(Digital Versatile Disk)−ROM、CD−R、CD−RW、HDD、リムーバブルディスクなどに記録して、保存したり、配布したりすることが可能である。また、上記のプログラムをインターネットや電子メールなど、ネットワークを通して提供することも可能である。
101…入力画像
102…入力部
103…領域分割部
104…存在確率計算部
105…重み設定部
106…特徴抽出部
107…特徴量計算部
108…類似度計算部
109…類似度比較部
110…画像ソート部
111…データ蓄積部
112…表示部
102…入力部
103…領域分割部
104…存在確率計算部
105…重み設定部
106…特徴抽出部
107…特徴量計算部
108…類似度計算部
109…類似度比較部
110…画像ソート部
111…データ蓄積部
112…表示部
Claims (6)
- 画像を入力する画像入力手段と、
前記画像入力手段によって入力された画像の領域を、設定した分割数により分割する領域分割手段と、
前記画像入力手段により入力された学習画像を前記領域分割手段により分割した各画像領域内に、検索対象の画像内容が存在する確率を主観評価を用いて求める存在確率計算手段と、
前記存在確率計算手段により求められた存在確率に応じて位置重みを設定する重み設定手段と、
前記画像入力手段によって入力された検索キーに対応する検索キー画像、および検索対象の画像データベース内の画像から、前記設定された分割数と同じ分割数で分割した分割領域毎の画像特徴を抽出する特徴抽出手段と、
前記特徴抽出手段により抽出された画像特徴の特徴量を計算する特徴量計算手段と、
前記特徴量計算手段によって計算された、検索キー画像の分割領域における画像特徴量と、画像データベース内の画像の分割領域における画像特徴量とを比較し、該比較結果に前記重み設定手段により設定された位置重みを乗算して類似度を計算する類似度計算手段と、
前記類似度計算手段により計算された類似度を比較し前記検索キー画像と最も近い類似度の画像から類似度順に画像を並べて画像検索結果一覧を作成し表示する手段と、
を備えたことを特徴とする存在確率による位置重みを考慮した類似画像検索装置。 - 前記重み設定手段は、前記設定された位置重みを、前記学習画像を分割した各領域に対応して表示手段に表示させた位置重みに基づいて検索者が指定した位置重みとなるように修正し、前記設定又は修正された位置重みを、表示手段により検索キー画像上に表示した位置重みに基づいて検索者が指定した位置重みとなるように変更することを特徴とする請求項1に記載の存在確率による位置重みを考慮した類似画像検索装置。
- 領域分割手段が、画像入力手段によって入力された画像の領域を、検索者が設定した分割数により分割する領域分割ステップと、
存在確率計算手段が、前記領域分割手段により分割され、表示手段に表示された各画像領域内に、検索対象の画像内容が存在する確率を、複数の人間が下した主観評価を用いて求める存在確率計算ステップと、
重み設定手段が、前記存在確率計算手段により求められた存在確率に応じて位置重みを設定する重み設定ステップと、
特徴抽出手段が、画像入力手段によって入力された検索キーに対応する検索キー画像、および検索対象の画像データベース内の画像から、前記設定された分割数と同じ分割数で分割した分割領域毎の画像特徴を抽出する特徴抽出ステップと、
特徴量計算手段が、前記特徴抽出手段により抽出された画像特徴の特徴量を計算する特徴量計算ステップと、
類似度計算手段が、前記特徴量計算手段によって計算された、検索キー画像の分割領域における画像特徴量と、画像データベース内の画像の分割領域における画像特徴量とを比較し、該比較結果に前記重み設定手段により設定された位置重みを乗算して類似度を計算する類似度計算ステップと、
類似度比較手段が、前記類似度計算手段により計算された類似度を比較する類似度比較ステップと、
画像ソート手段が、前記類似度比較手段の比較結果に基づいて前記検索キー画像と最も近い類似度の画像から類似度順に画像を並べて画像検索結果一覧を作成するステップと、
制御手段が、前記画像ソート手段により作成された画像検索結果一覧を表示手段に表示させるステップと、
を備えたことを特徴とする存在確率による位置重みを考慮した類似画像検索方法。 - 前記重み設定ステップは、
標本として選択した画像群もしくは対象となる画像データベース中の全画像の存在確率の平均を求め、該求められた存在確率に基づいて、前記学習画像を分割した各領域の位置重みを設定し、前記各領域に対応して表示手段に一覧表示させた前記位置重みに基づいて検索者が指定した位置重みとなるように、前記設定された位置重みを修正し、
画像入力手段によって入力された画像から検索者が選択した検索キー画像上に、前記設定又は修正された位置重みを表示し、該表示された位置重みに基づいて検索者が指定した位置重みとなるように前記設定又は修正された位置重みを変更する、
ことを特徴とする請求項3に記載の存在確率による位置重みを考慮した類似画像検索方法。 - 前記特徴抽出ステップは、設定された最大領域分割数内の分割数で、前記画像データベース内の画像を分割し、該分割領域毎の画像特徴を予め抽出しておき、
前記類似度計算ステップは、前記検索キー画像の分割領域における画像特徴量と、前記予め抽出された画像特徴の画像特徴量とを比較する、
ことを特徴とする請求項3又は4に記載の存在確率による位置重みを考慮した類似画像検索方法。 - コンピュータに請求項3ないし5のいずれか1項に記載の各手順を実行させる存在確率による位置重みを考慮した類似画像検索プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009056581A JP2010211484A (ja) | 2009-03-10 | 2009-03-10 | 存在確率による位置重みを考慮した類似画像検索装置、存在確率による位置重みを考慮した類似画像検索方法、存在確率による位置重みを考慮した類似画像検索プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009056581A JP2010211484A (ja) | 2009-03-10 | 2009-03-10 | 存在確率による位置重みを考慮した類似画像検索装置、存在確率による位置重みを考慮した類似画像検索方法、存在確率による位置重みを考慮した類似画像検索プログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2010211484A true JP2010211484A (ja) | 2010-09-24 |
Family
ID=42971576
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2009056581A Pending JP2010211484A (ja) | 2009-03-10 | 2009-03-10 | 存在確率による位置重みを考慮した類似画像検索装置、存在確率による位置重みを考慮した類似画像検索方法、存在確率による位置重みを考慮した類似画像検索プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2010211484A (ja) |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102024029A (zh) * | 2010-11-30 | 2011-04-20 | 辽宁师范大学 | 基于局部视觉关注的彩色图像检索方法 |
JP2012079186A (ja) * | 2010-10-05 | 2012-04-19 | Yahoo Japan Corp | 画像検索装置、画像検索方法及びプログラム |
JP2013004093A (ja) * | 2011-06-16 | 2013-01-07 | Fujitsu Ltd | マルチインスタンス学習による検索方法及びシステム |
CN104239584A (zh) * | 2014-10-15 | 2014-12-24 | 江南大学 | 基于Android的蕾丝面料检索系统及检索方法 |
WO2015051629A1 (zh) * | 2013-10-11 | 2015-04-16 | 华为技术有限公司 | 图片排序方法及装置 |
JP6818961B1 (ja) * | 2020-04-08 | 2021-01-27 | 三菱電機株式会社 | 学習装置、学習方法、および推論装置 |
JP2022517835A (ja) * | 2019-05-06 | 2022-03-10 | ▲騰▼▲訊▼科技(深▲セン▼)有限公司 | 画像処理方法並びにその、装置、コンピュータプログラム及び電子機器 |
-
2009
- 2009-03-10 JP JP2009056581A patent/JP2010211484A/ja active Pending
Cited By (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2012079186A (ja) * | 2010-10-05 | 2012-04-19 | Yahoo Japan Corp | 画像検索装置、画像検索方法及びプログラム |
CN102024029A (zh) * | 2010-11-30 | 2011-04-20 | 辽宁师范大学 | 基于局部视觉关注的彩色图像检索方法 |
CN102024029B (zh) * | 2010-11-30 | 2013-08-28 | 辽宁师范大学 | 基于局部视觉关注的彩色图像检索方法 |
JP2013004093A (ja) * | 2011-06-16 | 2013-01-07 | Fujitsu Ltd | マルチインスタンス学習による検索方法及びシステム |
WO2015051629A1 (zh) * | 2013-10-11 | 2015-04-16 | 华为技术有限公司 | 图片排序方法及装置 |
US10521469B2 (en) | 2013-10-11 | 2019-12-31 | Huawei Technologies Co., Ltd. | Image Re-ranking method and apparatus |
CN104239584A (zh) * | 2014-10-15 | 2014-12-24 | 江南大学 | 基于Android的蕾丝面料检索系统及检索方法 |
JP2022517835A (ja) * | 2019-05-06 | 2022-03-10 | ▲騰▼▲訊▼科技(深▲セン▼)有限公司 | 画像処理方法並びにその、装置、コンピュータプログラム及び電子機器 |
JP7163504B2 (ja) | 2019-05-06 | 2022-10-31 | ▲騰▼▲訊▼科技(深▲セン▼)有限公司 | 画像処理方法並びにその、装置、コンピュータプログラム及び電子機器 |
US11978241B2 (en) | 2019-05-06 | 2024-05-07 | Tencent Technology (Shenzhen) Company Ltd | Image processing method and apparatus, computer-readable medium, and electronic device |
JP6818961B1 (ja) * | 2020-04-08 | 2021-01-27 | 三菱電機株式会社 | 学習装置、学習方法、および推論装置 |
WO2021205573A1 (ja) * | 2020-04-08 | 2021-10-14 | 三菱電機株式会社 | 学習装置、学習方法、および推論装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2010211484A (ja) | 存在確率による位置重みを考慮した類似画像検索装置、存在確率による位置重みを考慮した類似画像検索方法、存在確率による位置重みを考慮した類似画像検索プログラム | |
US10742823B2 (en) | Image processing apparatus and image processing method | |
JP4337064B2 (ja) | 情報処理装置、情報処理方法、およびプログラム | |
EP4270214A2 (en) | Media unit retrieval and related processes | |
JP5630275B2 (ja) | 検索装置、検索方法、及びプログラム | |
US20170185836A1 (en) | Marking analysis system and marking analysis method | |
US20160321265A1 (en) | Similarity calculation system, method of calculating similarity, and program | |
JP5442547B2 (ja) | コンテンツ推薦装置及び方法 | |
JP2008217428A (ja) | 画像検索プログラム、方法及び装置 | |
CN110489574B (zh) | 一种多媒体信息推荐方法、装置和相关设备 | |
CN111310037B (zh) | 家居素材的推荐方法、装置及电子设备 | |
KR20190128246A (ko) | 검색 방법 및 장치 및 비-일시적 컴퓨터-판독가능 저장 매체 | |
JP5821590B2 (ja) | 画像識別情報付与プログラム及び画像識別情報付与装置 | |
JP6365024B2 (ja) | サービス提供装置、方法、及びプログラム | |
JP2016095640A (ja) | 密度計測装置、密度計測方法、およびプログラム | |
JP2019207561A (ja) | 情報処理装置、情報処理方法及びプログラム | |
CN111626346A (zh) | 数据分类方法、设备、存储介质及装置 | |
CN111177470A (zh) | 视频的处理方法、视频的搜索方法及终端设备 | |
JP6403201B2 (ja) | 画像特徴量登録装置、方法及びプログラム | |
KR101821790B1 (ko) | 사용자 선호도를 고려한 군집화 기반 추천 장치 및 방법 | |
JP2010122931A (ja) | 類似領域検索方法、類似領域検索装置、類似領域検索プログラム | |
JP7024197B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
CN109460474A (zh) | 用户偏好趋势挖掘方法 | |
JP2000048041A (ja) | データ検索システム及びこれに用いる装置 | |
JP3936822B2 (ja) | 静止画像検索装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20100616 |