JP2001117928A - Device and method for retrieving similar image and recording medium recording similar image retrieving processing program - Google Patents

Device and method for retrieving similar image and recording medium recording similar image retrieving processing program

Info

Publication number
JP2001117928A
JP2001117928A JP29279199A JP29279199A JP2001117928A JP 2001117928 A JP2001117928 A JP 2001117928A JP 29279199 A JP29279199 A JP 29279199A JP 29279199 A JP29279199 A JP 29279199A JP 2001117928 A JP2001117928 A JP 2001117928A
Authority
JP
Japan
Prior art keywords
image
search
similar
area
intention
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP29279199A
Other languages
Japanese (ja)
Inventor
Fumiyuki Shiratani
文行 白谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Optical Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Optical Co Ltd filed Critical Olympus Optical Co Ltd
Priority to JP29279199A priority Critical patent/JP2001117928A/en
Publication of JP2001117928A publication Critical patent/JP2001117928A/en
Pending legal-status Critical Current

Links

Landscapes

  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Image Analysis (AREA)

Abstract

PROBLEM TO BE SOLVED: To provide a device and a method for retrieving similar image and a recording medium recording similar image retrieving processing program, with which the intention of a retriever can be directly fetched. SOLUTION: Concerning the similar image retrieving device for retrieving an image similar to a reference image to become the reference or retrieval from an image database storing plural images, this similar image retrieving device is provided with a means for designating an area on the reference image, a means for designating information expressing the intention of retrieval to the area, and a means for retrieving the image similar to the reference image from the image database while considering the retrieval intention.

Description

【発明の詳細な説明】DETAILED DESCRIPTION OF THE INVENTION

【0001】[0001]

【発明の属する技術分野】本発明は検索者の意図をダイ
レクトに取り込むことができる類似画像検索装置及び類
似画像検索方法並びに類似画像検索処理プログラムを記
録した記録媒体に関する。
[0001] 1. Field of the Invention [0002] The present invention relates to a similar image search device, a similar image search method, and a recording medium on which a similar image search processing program is recorded, which can directly capture the intention of a searcher.

【0002】[0002]

【従来の技術】従来の類似画像検索装置の例として、例
えば、特開平7−21198号公報、特開平8−249
352号公報がある。
2. Description of the Related Art As examples of conventional similar image retrieval apparatuses, for example, Japanese Patent Application Laid-Open Nos. Hei 7-21198 and Hei 8-249.
352 publication.

【0003】特開平7−21198号公報においては、
希望画像と類似した画像及び類似しない画像の複数を参
照画像として選び、その参照画像が持つ全ての特徴量を
使用して画像検索を行うことが提案されている。
[0003] In Japanese Patent Application Laid-Open No. 7-21198,
It has been proposed to select a plurality of images similar and dissimilar to the desired image as reference images and perform an image search using all the feature amounts of the reference images.

【0004】また、特開平8−249352号公報にお
いては、類似画像、非類似画像を複数枚指定し、これら
の情報を用いて特徴空間での検索用の基準位置を変更す
る方法が提案されている。
Japanese Patent Application Laid-Open No. 8-249352 proposes a method in which a plurality of similar images and dissimilar images are designated, and a reference position for searching in a feature space is changed using the information. I have.

【0005】以下、このような従来例について少し詳し
く説明する。
Hereinafter, such a conventional example will be described in some detail.

【0006】図7は、このような従来の類似画像検索装
置の一例による構成を示すブロック図である。
FIG. 7 is a block diagram showing a configuration of an example of such a conventional similar image search apparatus.

【0007】図7において、参照符号1001は、画面
に表示されている複数枚の画像のうち、利用者の希望す
る画像に類似した画像及び希望する画像に類似していな
い画像をそれぞれ類似画像、非類似画像として指定する
類似画像・非類似画像指定である。
[0007] In FIG. 7, reference numeral 1001 denotes a similar image to an image similar to an image desired by a user and an image not similar to the desired image among a plurality of images displayed on the screen. Similar image / non-similar image designation as a dissimilar image.

【0008】また、参照符号1002は、指定された画
像に関する色、形などの特徴を定量的に表わす特徴量を
抽出する特徴量抽出部である。
[0008] Reference numeral 1002 denotes a feature amount extraction unit for extracting feature amounts quantitatively representing features such as colors and shapes of a designated image.

【0009】また、参照符号1003は、特徴量抽出部
1002で抽出された特徴量を構成要素とするべクトル
を作成する特徴べクトル作成部である。
Reference numeral 1003 denotes a feature vector creation unit that creates a vector having the feature amount extracted by the feature amount extraction unit 1002 as a constituent element.

【0010】また、参照符号1004は、特徴べクトル
作成部1003で作成された特徴べクトルと後述の特徴
べクトルデータベース1006中の各べクトルとの類似
度を算出する類似検索エンジンである。
Reference numeral 1004 denotes a similarity search engine for calculating the similarity between the feature vector created by the feature vector creation unit 1003 and each vector in a feature vector database 1006 described later.

【0011】また、参照符号1005は、複数の画像を
データベースとして蓄えた画像データベースである。
An image database 1005 stores a plurality of images as a database.

【0012】また、参照符号1006は、画像データベ
ース1005中の画像の特徴べクトルをデータベースと
して蓄えた特徴べクトルデータベースである。
Reference numeral 1006 denotes a feature vector database in which feature vectors of images in the image database 1005 are stored as a database.

【0013】また、参照符号、1007は、類似検索エ
ンジン1004で算出された類似度の高い画像を検索結
果として画面上に表示する検索結果表示部である。
Reference numeral 1007 denotes a search result display section for displaying an image having a high degree of similarity calculated by the similar search engine 1004 as a search result on a screen.

【0014】次に、動作について説明する。Next, the operation will be described.

【0015】図8は、従来の類似画像検索装置の動作を
示すフローチャートである。
FIG. 8 is a flowchart showing the operation of the conventional similar image search apparatus.

【0016】まず、類似画像・非類似画像指定部100
1において、画面中の複数の画像中から、利用者の希望
する画像に類似した画像や非類似画像を指定する(ST
1001)。
First, a similar image / non-similar image designating section 100
In step 1, an image similar to the image desired by the user or a dissimilar image is designated from a plurality of images on the screen (ST
1001).

【0017】次に、特徴量抽出部1002において、指
定された各画像から、その画像の特徴を定量的に表わす
特徴量を抽出する(ST1002)。
Next, in feature value extracting section 1002, feature values quantitatively representing the features of the designated image are extracted from each designated image (ST1002).

【0018】続いて、特徴ベクトル作成部1003にお
いて、類似画像の特徴量、及び非類似画像の特徴量を用
いて、特徴空間での検索用基準位置となる特徴べクトル
を作成する(ST1003)。
Subsequently, the feature vector creation unit 1003 creates a feature vector serving as a search reference position in the feature space using the feature amount of the similar image and the feature amount of the dissimilar image (ST1003).

【0019】さらに、類似検索エンジン1004におい
て、特徴ベクトルデータベース1006中の各べクトル
と、検索用基準位置となる特徴ベクトルとの類似度を計
算する(ST1004)。
Further, similarity search engine 1004 calculates the similarity between each vector in feature vector database 1006 and the feature vector serving as a search reference position (ST1004).

【0020】次に、検索結果表示部1007において、
類似検索エンジン1004で算出された類似度の高い順
番に画像データベース1005中の画像を表示する(S
T1005)。
Next, in the search result display section 1007,
The images in the image database 1005 are displayed in the order of high similarity calculated by the similar search engine 1004 (S
T1005).

【0021】そして、検索意図が充足された画像が得ら
れるまで、これまでの一連の手続きを繰り返し、検索意
図が充足された時点で終了する(ST1006)。
Then, a series of procedures up to this point are repeated until an image satisfying the search intention is obtained, and the process ends when the search intention is satisfied (ST1006).

【0022】以上、複数の類似画像、非類似画像を指定
して、類似画像検索を行う例を説明したが、画像を指定
する代わりに、画像中のオブジェクトや領域を指定する
方法も提案されている。
In the above, an example in which a plurality of similar images and non-similar images are designated to perform similar image retrieval has been described. Instead of designating an image, a method of designating an object or an area in the image has been proposed. I have.

【0023】特開平10−154149号公報では、希
望オブジェクトに類似するオブジェクトを指定し、特徴
量の重みづけを再計算することが提案されている。
Japanese Patent Laying-Open No. 10-154149 proposes specifying an object similar to a desired object and recalculating the feature amount weight.

【0024】また、特開平11−39332号公報にお
いては、個々の領域ごとに好きな特徴量、嫌いな特徴量
を指定し、好きな特徴量には正の重みを嫌いな特徴量に
は負の重みを付与することを提案している。
In Japanese Patent Application Laid-Open No. 11-39332, a favorite feature amount and a dislike feature amount are designated for each area, and a positive weight is assigned to the favorite feature amount and a negative weight is assigned to the feature amount disliked. It is proposed to give the weight of.

【0025】そして、これらの提案の主眼は、特徴べク
トルの成分間の重みづけを適切に更新していく方法に関
するものである。
The main point of these proposals relates to a method of appropriately updating the weight between the components of the feature vector.

【0026】[0026]

【発明が解決しようとする課題】しかしながら、従来の
類似画像検索装置においては、以上のように構成されて
いるので、所望の画像に近い画像が提示されていても、
特定の部分がどのように改善されている画像があるかど
うか調べたいという利用者の意図を直接取り込めないと
いう問題点があった。
However, since the conventional similar image retrieval apparatus is configured as described above, even if an image close to a desired image is presented,
There has been a problem that the user's intention to check whether there is an image in which a specific portion has been improved cannot be directly captured.

【0027】尚、従来の類似画像検索装置においても、
関心領域を指定させ、それに近い画像を選出する方法で
も、希望する部分領域が出そろえば、その組み合せとし
て表現可能な場合もある。
Incidentally, even in the conventional similar image retrieval apparatus,
Even in a method of designating a region of interest and selecting an image close to the region, if a desired partial region is available, it may be possible to express it as a combination thereof.

【0028】しかし、その組み合わせが存在する保証も
ないし、それらが画面に出そろうまで探索を続けるのは
かなり迂遠である。
However, there is no guarantee that the combination exists, and continuing to search until they appear on the screen is rather distant.

【0029】この発明は、これらの事情に対処すべくな
されたもので、その目的は、現在表示されている画像に
類似する画像のうち特定の部分がどのように改善された
画像があるかどうか調べたいという利用者の検索要求を
うまく満たすことのできる画像検索装置すなわち検索者
の意図をダイレクトに取り込むことができる類似画像検
索装置及び類似画像検索方法並びに類似画像検索処理プ
ログラムを記録した記録媒体を提供することにある。
The present invention has been made to address these circumstances, and has as its object to determine how an image similar to the currently displayed image has an improved specific portion. A similar image search device and a similar image search method capable of directly capturing a searcher's intention that can satisfy a search request of a user who wants to check, and a recording medium storing a similar image search processing program. To provide.

【0030】[0030]

【課題を解決するための手段】本発明によると、上記課
題を解決するために、(1) 複数の画像を蓄える画像
データベースより、検索の基準となる基準画像に類似し
た画像を検索する類似画像検索装置であり、上記基準画
像上で領域を指定する手段と、上記領域に対する検索意
図を表現した情報を指定する手段と、上記検索意図を加
味して、上記基準画像に類似する画像を上記画像データ
ベースより検索する手段と、を具備することを特徴とす
る類似画像検索装置が提供される。
According to the present invention, in order to solve the above-mentioned problems, (1) a similar image for searching an image similar to a reference image serving as a search reference from an image database storing a plurality of images; Means for specifying a region on the reference image, means for specifying information expressing a search intention for the region, and an image similar to the reference image in consideration of the search intention. And a means for searching from a database.

【0031】また、本発明によると、上記課題を解決す
るために、(2) 複数の画像を蓄える画像データベー
スより、検索の基準となる基準画像に類似した類似画像
を検索する方法であり、上記基準画像上で領域を指定す
るステップと、上記領域に対する検索意図を表現した情
報を指定するステップと、上記検索意図を加味して、上
記基準画像に類似する画像を上記画像データベースより
検索するステップと、を有することを特徴とする類似画
像検索方法が提供される。
Further, according to the present invention, there is provided a method for solving the above-mentioned problem, (2) a method of searching a similar image similar to a reference image serving as a search reference from an image database storing a plurality of images. A step of specifying an area on the reference image; a step of specifying information expressing a search intention for the area; and a step of searching for an image similar to the reference image from the image database in consideration of the search intention. , A similar image search method is provided.

【0032】また、本発明によると、上記課題を解決す
るために、(3) コンピュータによって複数の画像を
蓄える画像データベースより検索の基準となる基準画像
に類似した類似画像を検索するための処理プログラムを
記録した記録媒体であって、上記処理はコンピュータに
上記基準画像上の領域を利用者に指定させ、上記領域に
対する検索意図を表現した情報を利用者に指定させ、上
記検索意図を加味して、上記基準画像に類似する画像を
上記画像データベースより検索させることを特徴とする
類似画像検索処理プログラムを記録した記録媒体が提供
される。
According to the present invention, in order to solve the above-mentioned problems, (3) a processing program for retrieving a similar image similar to a reference image serving as a reference for retrieval from an image database storing a plurality of images by a computer. Is recorded on the recording medium, wherein the processing causes the computer to specify the area on the reference image to the user, the user to specify the information expressing the search intention for the area, taking into account the search intention According to another aspect of the present invention, there is provided a recording medium storing a similar image search processing program for causing an image similar to the reference image to be searched from the image database.

【0033】[0033]

【発明の実施の形態】以下図面を参照して本発明の実施
の形態について説明する。
Embodiments of the present invention will be described below with reference to the drawings.

【0034】(第1の実施形態)本発明の第1の実施形
態を図1に従って説明する。
(First Embodiment) A first embodiment of the present invention will be described with reference to FIG.

【0035】図1は、第1の実施形態による類似画像検
索装置の構成を示すブロック図である。
FIG. 1 is a block diagram showing the configuration of the similar image retrieval apparatus according to the first embodiment.

【0036】図1において、参照符号101は、いくつ
かの表示画像の中から1つの画像を類似画像検索用の基
準画像として選択する基準画像選択部である。
In FIG. 1, reference numeral 101 denotes a reference image selection unit for selecting one image from several display images as a reference image for similar image search.

【0037】また、参照符号102は、利用者の検索意
図が満たされていない領域を指定する検索意図未充足領
域指定部である。
Reference numeral 102 denotes a search insufficiency area specifying unit for specifying an area in which the user's search intent is not satisfied.

【0038】また、参照符号103は、検索意図未充足
領域の特徴を利用者の検索意図の値に設定するターゲッ
ト設定部である。
Reference numeral 103 denotes a target setting unit for setting the characteristics of the search unsatisfied area to the value of the search intention of the user.

【0039】また、参照符号104は、基準画像及び検
索意図未充足領域に関する特徴を定量的に表わす特徴量
を抽出する特徴量抽出部である。
Reference numeral 104 denotes a feature amount extraction unit that extracts a feature amount that quantitatively represents a feature related to the reference image and the unsatisfied search intention area.

【0040】また、参照符号105は、前記特徴量抽出
部104で抽出された基準画像の特徴量を構成要素とす
る特徴ベクトルを作成する基準画像の特徴べクトル作成
部である。
Reference numeral 105 denotes a reference image feature vector creating unit for creating a feature vector having the feature amount of the reference image extracted by the feature amount extracting unit 104 as a constituent element.

【0041】また、参照符号106は、前記特徴量抽出
部104で抽出された検索意図未充足領域の特徴量及び
前記ターゲット設定部103で設定されたターゲットの
値からターゲット特徴ベクトルを作成する検索意図未充
足領域のターゲット特徴べクトル作成部である。
Reference numeral 106 denotes a search intent for creating a target feature vector from the feature amount of the unsatisfied search intent area extracted by the feature amount extraction unit 104 and the target value set by the target setting unit 103. This is the target feature vector creation unit for the unsatisfied area.

【0042】また、参照符号107は、ターゲット特徴
べクトルと基準画像の特徴ベクトルを合成した特徴ベク
トルを作成する合成特徴べクトル作成部である。
Reference numeral 107 denotes a combined feature vector creating unit for creating a feature vector combining the target feature vector and the feature vector of the reference image.

【0043】また、参照符号108は、後述の特徴ベク
トルデータベース109中の各べクトルと合成特徴ベク
トルとの類似度を算出する類似検索エンジンである。
Reference numeral 108 denotes a similarity search engine for calculating the similarity between each vector in the later-described feature vector database 109 and the combined feature vector.

【0044】また、参照符号110は、複数の画像をデ
ータベースとして蓄えた画像データベースである。
Reference numeral 110 is an image database storing a plurality of images as a database.

【0045】また、参照符号109は、前記画像データ
ベース110中の画像の特徴べクトルをデータベースと
して蓄えた特徴ベクトルデータベースである。
Reference numeral 109 denotes a feature vector database in which feature vectors of the images in the image database 110 are stored as a database.

【0046】また、参照符号111は、前記類似検索エ
ンジン108で算出された類似度の高い画像を検索結果
として画面上に表示する検索結果表示部である。
Reference numeral 111 denotes a search result display section for displaying an image having a high degree of similarity calculated by the similar search engine 108 as a search result on a screen.

【0047】次に、動作について説明する。Next, the operation will be described.

【0048】図2は、この発明の第1の実施形態による
類似画像検索装置の動作を示すフローチヤートである。
FIG. 2 is a flowchart showing the operation of the similar image retrieval apparatus according to the first embodiment of the present invention.

【0049】まず、検索開始時に、画面中に検索意図に
近い画像があるか否かを判定する(ST101)。
First, at the start of the search, it is determined whether or not there is an image close to the search intention on the screen (ST101).

【0050】この判定により、画面中に画像が表示され
ていない場合、もしくは、利用者の希望する画像と全く
異なった画像が表示されている場合には、タ一ゲット設
定部103において、形や色など利用者が理解できる特
徴に関し、そのターゲット(希望値)を、例えば、メニ
ュー形式の画面から選択して検索を依頼する(ST10
2)。
According to this determination, if no image is displayed on the screen, or if an image completely different from the image desired by the user is displayed, the target setting unit 103 For a feature that can be understood by the user, such as a color, a target (desired value) is selected from, for example, a menu-type screen and a search is requested (ST10).
2).

【0051】次に、この検索依頼に応じて、検索意図未
充足領域のターゲット特徴べクトル作成部106におい
て、選択された特徴量の値からターゲット特徴べクトル
を算出する(ST103)。
Next, in response to this search request, the target feature vector creating unit 106 for the unsatisfied search intent area calculates a target feature vector from the value of the selected feature amount (ST103).

【0052】もちろん、このとき、検索意図未充足領域
は、画像全体に一致していると見なせる。
Of course, at this time, the search unsatisfied area can be regarded as coincident with the entire image.

【0053】次に、こうして作成されたターゲット特徴
べクトルと特徴ベクトルデータベース109中の各べク
トルとの類似度を算出する(ST104)。
Next, the degree of similarity between the target feature vector thus created and each vector in the feature vector database 109 is calculated (ST104).

【0054】続いて、算出された類似度の値の大きい順
番に画像データベース110の中の画像を検索結果とし
て利用者に提示する(ST113)。
Subsequently, the images in the image database 110 are presented to the user as a search result in the descending order of the calculated similarity value (ST113).

【0055】ここで、画面中に検索意図が充足されてい
る画像があるか否かを判定する(ST114)。
Here, it is determined whether or not there is an image satisfying the search intention on the screen (ST114).

【0056】そして、このとき、利用者の検索意図を満
足する画像が得られれば検索終了となるが、そうでない
場合には、ステップST101に戻る。
At this time, if an image satisfying the user's search intention is obtained, the search is terminated. If not, the process returns to step ST101.

【0057】尚、ここでは、検索開始時に画像が表示さ
れていない場合や利用者の希望する画像と全く異なった
画像が表示されている場合には、いくつかの特徴に関す
るターゲット(希望値)を指定しその組み合わせを基に
検索する例を示したが、これらの代わりにキーワード検
索や簡単なスケッチによる検索を用いても良い。
Here, if no image is displayed at the start of the search or if an image completely different from the image desired by the user is displayed, targets (desired values) relating to some features are set. Although an example has been described in which a search is performed based on a combination of designations, a keyword search or a search using a simple sketch may be used instead.

【0058】さて、今度は、ステップST101におい
て、画面中に検索意図に近い画像がある場合において、
画面中に表示されている画像に類似した画像を検索した
い場合の動作について、以下に詳しく説明する。
Now, in step ST101, when there is an image close to the search intention on the screen,
The operation when searching for an image similar to the image displayed on the screen will be described in detail below.

【0059】まず、基準画像選択部101において、そ
の画像を基準画像として指定する(ST105)。
First, the reference image selecting section 101 designates the image as a reference image (ST105).

【0060】次に、検索意図未充足領域指定部102に
おいて、検索意図未充足領域を指定する(ST10
6)。
Next, search unsatisfied area specifying section 102 specifies a search unsatisfied area (ST10).
6).

【0061】このとき、領域の指定の仕方は、マウス等
のポインティングデバイスを用いて、例えば矩形状、あ
るいは、円状に囲むことで実施する。
At this time, the area is specified by, for example, using a pointing device such as a mouse to surround the area in a rectangular or circular shape.

【0062】続いて、ターゲット設定部103におい
て、検索意図未充足領域の特徴を利用者の検索意図の値
に設定し、検索を依頼する(ST107)。
Subsequently, the target setting unit 103 sets the feature of the unsatisfied search intention area to the value of the user's search intention, and requests a search (ST107).

【0063】ここで、ターゲット設定部103において
は、具体的な値のみならず、値の範囲、現在の値との大
小関係等を指定しても良い。
Here, the target setting section 103 may specify not only specific values but also a value range, a magnitude relationship with the current value, and the like.

【0064】例えば、メニュー形式の画面中に予め選択
肢として用意してあるものの中から、利用者が選ぶよう
にする。
For example, the user selects one of options prepared in advance in a menu-type screen.

【0065】具体的な例を挙げると、口が開いた顔画像
があり、口が閉じた顔画像が欲しいときには、口の領域
を選択し、閉じた口の形状に近い横棒を選択する。
As a specific example, when there is a face image with an open mouth and a face image with a closed mouth is desired, a region of the mouth is selected, and a horizontal bar close to the shape of the closed mouth is selected.

【0066】また、目をつぶった顔画像があり、目がぱ
っちり開いた顔画像が欲しいとき、目の領域を選択し、
目を開いた形に近い○を選択する等である。
When there is a face image in which eyes are closed and a face image in which the eyes are open is desired, an eye area is selected.
For example, select a circle close to the shape with the eyes open.

【0067】また、利用者が具体的要求をうまく表現で
きない場合には、ターゲット指定は「特にない」を選択
することになる。
If the user cannot express a specific request well, the target is selected to be "no particular".

【0068】この場合には、例えば、特徴空間において
一定間隔以上離れたものを複数個検索してくることで対
応する。
This case is dealt with, for example, by retrieving a plurality of feature spaces separated by a certain distance or more in the feature space.

【0069】また、一般利用者の常識の範囲として用い
ることのできる色、形などに関する変更要求と色相、彩
度、明度、円形度、複雑度、フラクタル次元などの特徴
量の値との関係は、予め設定しておいたり、学習によっ
て適応的に関係づけを行っていくようにしておく。
The relationship between the change request regarding colors and shapes that can be used as a range of common sense of general users and the values of feature quantities such as hue, saturation, lightness, circularity, complexity, and fractal dimension is as follows. It is set in advance, or the association is made adaptively by learning.

【0070】さて、次に、特徴量抽出部104におい
て、基準画像の特徴量及び検索意図未充足領域の特徴量
を抽出する(ST108)。
Next, the feature quantity extracting unit 104 extracts the feature quantity of the reference image and the feature quantity of the unsatisfied search intent area (ST108).

【0071】続いて、検索意図未充足領域のターゲット
特徴ベクトル作成部106において、検索意図未充足領
域のターゲット特徴ベクトルを作成する(ST10
9)。
Subsequently, the target feature vector creation unit 106 for the search unsatisfied area creates a target feature vector for the search unsatisfied area (ST10).
9).

【0072】ここで、ターゲット特徴ベクトルを作成す
る方法の一例を簡単に説明する。
Here, an example of a method for creating a target feature vector will be briefly described.

【0073】まず、検索意図未充足領域の特徴量を成分
とする特徴ベクトルをaとする。
First, it is assumed that a feature vector having a feature amount of a search unsatisfied area as a component is a.

【0074】ターケットが指定され、これが予め対応づ
けられた特徴量で表現されたとき、ベクトルaの対応す
る成分をこの特徴量の値に入れ替えることにより、検索
意図未充足領域のターゲットベクトルが得られる。
When a turret is designated and is represented by a feature value associated in advance, a target vector of a search unsatisfied area is obtained by replacing the corresponding component of the vector a with the value of this feature value. .

【0075】続いて、基準画像の特徴ベクトル作成部1
05において、基準画像の特徴べクトルを作成する(S
T110)。
Subsequently, the feature vector creating section 1 for the reference image
At 05, a feature vector of the reference image is created (S
T110).

【0076】次に、合成特徴ベクトル作成部107によ
り、ターゲット特徴ベクトルと基準画像の特徴ベクトル
を合成した合成特徴べクトルを作成する(ST11
1)。
Next, the combined feature vector creating unit 107 creates a combined feature vector obtained by combining the target feature vector and the feature vector of the reference image (ST11).
1).

【0077】次に、類似検索エンジン108において、
特徴べクトルデータベース109中の各べクトルと合成
特徴ベクトルとの類似度を算出する(ST112)。
Next, in the similar search engine 108,
The similarity between each vector in the feature vector database 109 and the combined feature vector is calculated (ST112).

【0078】続いて、算出された類似度が予め設定した
閾値よりも大きいベクトルデータを全て選出する。
Subsequently, all vector data whose calculated similarity is larger than a preset threshold are selected.

【0079】あるいは、類似度の値が大きい順番にソー
トして、上位何個かを選出するようにしても良い。
Alternatively, sorting may be performed in the order of larger similarity values, and some higher-ranked items may be selected.

【0080】こうして選出されたベクトルデータに対応
する画像を画像データベース110から引き出し、検索
結果表示部111によって表示する(ST113)。
An image corresponding to the vector data thus selected is extracted from the image database 110 and displayed on the search result display unit 111 (ST113).

【0081】この検索結果の中で、利用者の検索意図を
満足している画像があれば(ST114)、終了とな
る。
If there is an image satisfying the user's search intention among the search results (ST114), the process ends.

【0082】しかるに、まだ、利用者の検索意図を満足
していない場合には、ステップST101に戻って、提
示中の画像から、利用者の検索意図に最も近い画像を選
択し(ST105)、今までの一連の手続きを繰り返し
ていく。
However, if the user's search intention is not yet satisfied, the process returns to step ST101 to select an image closest to the user's search intention from the images being presented (ST105). Repeat a series of procedures up to.

【0083】尚、検索意図未充足領域等の指定の仕方
は、ポインティングデバイスで囲む方法以外にも、例え
ば、音声認識を利用して位置を特定する方法や、データ
グローブ等のインターフェースを利用する方法などでも
良い。
The method of designating a search unsatisfied area and the like is not limited to a method of enclosing the area with a pointing device, for example, a method of specifying a position using voice recognition, a method of using an interface such as a data glove, or the like. And so on.

【0084】(第2の実施形態)図3は、この発明の第
2の実施形態による類似画像検索装置の構成を示すブロ
ック図である。
(Second Embodiment) FIG. 3 is a block diagram showing the configuration of a similar image retrieval apparatus according to a second embodiment of the present invention.

【0085】この第2の実施形態の構成は、第1の実施
形態の構成と概ね似ているが、前述した第1の実施形態
との主な違いは、利用者の検索意図をほほ満足している
基準画像中の領域を指定する検索意図充足領域指定部2
02を具備し、第1実施形態中にはあった基準画像の特
徴クトル作成部105がない代わりに、検索意図充足領
域の充足特徴ベクトル作成部206が備わっている点で
ある。
Although the configuration of the second embodiment is substantially similar to the configuration of the first embodiment, the main difference from the first embodiment is that the search intention of the user is almost satisfied. Search-intention-satisfied-region specifying unit 2 for specifying a region in a reference image
The second embodiment is different from the first embodiment in that the feature vector creation unit 105 for the satisfaction area of the search intention is provided instead of the feature vector creation unit 105 for the reference image, which is included in the first embodiment.

【0086】したがって、基準画像選択部201、検索
意図未充足領域指定部203、ターゲット設定部20
4、特徴量抽出部205、検索意図未充足領域のターゲ
ット特徴べクトル作成部207、合成特徴べクトル作成
部208、類似検索エンジン209、画像データベース
211、特徴ベクトルデータベース210、検索結果表
示部212に関しては、第1の実施形態中で説明した対
応するそれらの内容と同様である。
Therefore, the reference image selecting unit 201, the search insufficiency area specifying unit 203, the target setting unit 20
4. Regarding the feature amount extraction unit 205, the target feature vector creation unit 207 of the unsatisfied search intention area, the composite feature vector creation unit 208, the similar search engine 209, the image database 211, the feature vector database 210, and the search result display unit 212 Are the same as the corresponding contents described in the first embodiment.

【0087】次に、動作について説明する。Next, the operation will be described.

【0088】図4は、この発明の第2の実施形態による
類似画像検索装置の動作を示すフローチヤートである。
FIG. 4 is a flowchart showing the operation of the similar image search apparatus according to the second embodiment of the present invention.

【0089】第2の実施形態の動作は、第1の実施形態
の動作に概ね似ているが、次の点が異なっている。
The operation of the second embodiment is substantially similar to the operation of the first embodiment, but differs in the following point.

【0090】一つは、検索意図充足領域を指定するステ
ップ(ST207)が加わることである。
One is that a step (ST207) of designating a search intention satisfaction area is added.

【0091】もう一つは、特徴量を抽出(ST205)
し、特徴ベクトルを作成する(ST206)処理が、第
1の実施形態では、画像全体に対してであつたが、この
第2の実施形態では、検索意図充足領域に対してである
点が異なる。
The other is to extract a feature (ST205).
In the first embodiment, the process of creating a feature vector (ST206) is performed on the entire image. However, in the second embodiment, the process is performed on a search intention satisfaction region. .

【0092】これに伴い、合成特徴べクトルを作成する
際(ST208)に、基準画像の特徴ベクトルでなく、
検索意図充足領域の充足特徴べクトルを用いている。
Accordingly, when creating a combined feature vector (ST208), instead of the feature vector of the reference image,
Satisfaction feature vectors of search intention satisfaction regions are used.

【0093】さて、ここで、少し具体的な例を挙げて説
明する。
Now, description will be made with reference to a slightly specific example.

【0094】例えば、目をつぶっている顔写真か画面に
表示されているとし、目かぱっちり開いた顔写真がある
かどうか調べたい状況を考える。
For example, suppose that a face photograph with eyes closed is displayed on the screen, and a situation is desired in which it is desired to check whether there is a face photograph with eyes open.

【0095】この場合、目が検索者の希望を満足してい
ない検索意図未充足領域であり、目を除く顔が検索者の
希望をほぼ満足している検索意図充足領域であり、背景
が無関心領域である。
In this case, the eyes are the unsatisfied search intention areas that do not satisfy the searcher's wishes, the faces except the eyes are the search intention unsatisfied areas that substantially satisfy the searcher's wishes, and the background is indifferent. Area.

【0096】ここで、無関心領域は、検索によって変わ
っても変わらなくてもどちらでも良い領域である。
Here, the non-interest area is an area which may or may not be changed by the search.

【0097】したがって、無関心領域は、基準画像から
検索意図充足領域と検索意図未充足領域を除外した領域
であつて、この無関心領域については何ら処理を施す必
要はない。
Therefore, the indifferent region is a region obtained by excluding the search intention satisfying region and the search intention unsatisfied region from the reference image, and it is not necessary to perform any processing on the indifferent region.

【0098】(第3の実施形態)前述した第1、第2の
実施形態においては、検索結果を画像として選択し、表
示してきたが、この第3の実施形態においては、類似画
像に限らず、類似領域を検索し表示することが可能であ
る。
(Third Embodiment) In the first and second embodiments described above, search results are selected and displayed as images. However, in the third embodiment, the search results are not limited to similar images. , Similar areas can be searched and displayed.

【0099】この第3の実施形態を図5を用いて説明す
る。
The third embodiment will be described with reference to FIG.

【0100】図5は、第3の実施形態による類似画像検
索装置の構成を示すブロック図である。
FIG. 5 is a block diagram showing a configuration of a similar image search device according to the third embodiment.

【0101】第3の実施形態では、検索意図未充足領域
のみを対象にした構成になっており、検索意図未充足領
域指定部301、ターゲット設定部302、特徴量抽出
部303、検索未充足領域のターゲット特徴ベクトル作
成部304、類似画像検索エンジン305、特徴ベクト
ルデータベース306、画像データベース307、検索
結果表示部309に関しては、第1の実施形態中で説明
した対応するそれらの内容と同様である。
In the third embodiment, only the unsatisfied search intent area is targeted. The unsatisfied search intent area designation unit 301, the target setting unit 302, the feature quantity extraction unit 303, the unsatisfied search unsatisfied area is used. The target feature vector creation unit 304, similar image search engine 305, feature vector database 306, image database 307, and search result display unit 309 are the same as the corresponding contents described in the first embodiment.

【0102】これらに加えて、第3の実施形態では、さ
らに、領域切り出し部308が備わっている。
In addition to these, in the third embodiment, a region cutout unit 308 is further provided.

【0103】次に、動作について、図6を用いて説明す
る。
Next, the operation will be described with reference to FIG.

【0104】図6は、この発明の第3の実施形態による
類似画像検索装置の動作を示すフローチヤートである。
FIG. 6 is a flowchart showing the operation of the similar image retrieval apparatus according to the third embodiment of the present invention.

【0105】第1、第2の実施形態においては、基準画
像を選択したが、この第3の実施形態においては、基準
画像を選択せず、領域を直接指定する。
In the first and second embodiments, the reference image is selected. In the third embodiment, the area is directly specified without selecting the reference image.

【0106】まず、利用者の検索意図に近いながらも、
検索意図が完全には充足されていない検索意図未充足領
域があれば(ST301)、その領域を指定する(ST
304)。
First, although close to the user's search intention,
If there is a search intention unsatisfied area where the search intention is not completely satisfied (ST301), the area is designated (ST301).
304).

【0107】次に、検索意図未充足領域のターゲットを
指定し、検索を依頼する(ST305)。
Next, a target in the unsatisfied search intent area is designated, and a search is requested (ST305).

【0108】続いて、検索意図未充足領域の特徴量を抽
出する(ST306)。
Subsequently, the feature amount of the search unsatisfied area is extracted (ST306).

【0109】さらに、検索意図未充足領域のターゲット
特徴ベクトルを作成する(ST307)。
Further, a target feature vector of a search unsatisfied area is created (ST307).

【0110】尚、ステップST301において該当する
領域がなければ、色、形などの特徴を複数指定して検索
を依頼し(ST302)、それらの特徴量からターゲッ
ト特徴ベクトルを作成する(ST303)。
If there is no corresponding area in step ST301, a search is requested by specifying a plurality of features such as colors and shapes (ST302), and a target feature vector is created from those feature amounts (ST303).

【0111】こうして作成されたターゲット特徴ベクト
ルと特徴ベクトルデータベース中の各ベクトルとの類似
度を算出する(ST308)。
The similarity between the target feature vector thus created and each vector in the feature vector database is calculated (ST308).

【0112】類似検索エンジン305で類似領域を含む
画像がピックアップされるが、画像中のどの領域が類似
領域であるかを領域切り出し部308で切り出した後、
表示する(ST309)。
An image including a similar area is picked up by the similarity search engine 305. After the area extracting unit 308 extracts which area in the image is the similar area,
It is displayed (ST309).

【0113】以上説明したように、本発明では、利用者
の検索意図を満足していない領域を指定する検索意図未
充足領域指定部とその領域に対する色、形、向きなどに
関する所望の値を指定するターゲット指定部を備えてい
るので、利用者の検索意図をダイレクトに表現でき、検
索回数を低減することができるという効果がある。
As described above, in the present invention, a search intention unsatisfied area designating section for designating an area that does not satisfy the user's search intention and a desired value relating to the color, shape, direction, etc. of the area are designated. Since the target designating unit is provided, the user's search intention can be directly expressed, and the number of searches can be reduced.

【0114】さらには、本発明では、利用者の検索意図
がほほ満足されている充足関心領域指定部も有している
ので、改善したい具体的目標と変えたくない部分及びど
うでも良い無関心領域を区別して扱うことが可能とな
り、検索精度を向上することができるという効果があ
る。
Further, in the present invention, since there is also a satisfactory region of interest designation section that the user's search intention is almost satisfied, a portion that is not desired to be changed to a specific target to be improved and a region of indifferent region that does not matter are specified. There is an effect that it is possible to handle them in a distinguished manner, thereby improving search accuracy.

【0115】そして、上述したような実施の形態で示し
た本明細書には、特許請求の範囲に示した請求項1乃至
3以外にも、以下に付記1乃至付記12として示すよう
な発明が含まれている。
In the present specification described in the above-described embodiment, in addition to claims 1 to 3 described in the claims, the inventions described below as supplementary notes 1 to 12 are provided. include.

【0116】(付記1) 複数の画像を蓄える画像デー
タベースより、検索の基準となる基準画像に類似した画
像を検索する類似画像検索装置であり、上記基準画像上
で利用者の検索意図を満足している検索意図充足領域を
指定する手段と、上記基準画像上で利用者の検索意図を
満足していない検索意図未充足領域を指定する手段と、
上記検索意図未充足領域に対する検索意図を表現した情
報を指定する手段と、上記検索意図充足領域の特徴と、
上記検索意図を加味した上記検索意図未充足領域の特徴
を用いて、上記基準画像に類似する画像を上記画像デー
タベースより検索する手段とを具備することを特徴とす
る類似画像検索装置。
(Supplementary Note 1) A similar image search device that searches for an image similar to a reference image serving as a search reference from an image database storing a plurality of images, and satisfies a user's search intention on the reference image. Means for specifying a search intention satisfying area, and means for specifying a search intention unsatisfactory area that does not satisfy the user's search intention on the reference image,
Means for specifying information expressing a search intention with respect to the search intention unsatisfied area; characteristics of the search intention satisfied area;
Means for searching for an image similar to the reference image from the image database by using a feature of the unsatisfied search intention area in which the search intention is added.

【0117】(付記2) 複数の画像を蓄える画像デー
タベースより、指定した画像領域に類似した領域をもつ
画像を検索する類似画像検索装置であり、画像上で領域
を指定する手段と、上記領域に対する検索意図を表現し
た情報を指定する手段と、上記検索意図を加味して、上
記領域に類似する領域をもつ画像を検索する手段と、上
記検索した画像より、上記領域に類似する領域を切り出
す手段と、を具備することを特徴とする類似画像検索装
置。
(Supplementary Note 2) A similar image search device for searching an image having an area similar to a specified image area from an image database storing a plurality of images, a means for specifying an area on an image, Means for designating information expressing a search intention; means for searching for an image having an area similar to the area in consideration of the search intention; means for extracting an area similar to the area from the searched image And a similar image search device.

【0118】(付記3) 複数の画像を蓄える画像デー
タベースより、検索の基準となる基準画像に類似した画
像を検索する方法であり、上記基準画像上で利用者の検
索意図を満足している検索意図充足領域を指定するステ
ップと、上記基準画像上で利用者の検索意図を満足して
いない検索意図未充足領域を指定するステップと、上記
検索意図未充足領域に対する検索意図を表現した情報を
指定するステップと、上記検索意図充足領域の特徴と、
上記検索意図を加味した上記検索意図未充足領域の特徴
を用いて、上記基準画像に類似する画像を上記画像デー
タベースより検索するステップと、を有することを特徴
とする類似画像検索方法。
(Supplementary Note 3) This is a method of searching an image database storing a plurality of images for an image similar to a reference image serving as a search reference, and a search satisfying the user's search intention on the reference image. A step of specifying an intention-satisfied area; a step of specifying a search-intention-unsatisfied area that does not satisfy the user's search intention on the reference image; And the characteristics of the search intention satisfaction region,
Searching for an image similar to the reference image from the image database using the feature of the unsatisfied search intention area in which the search intention is added.

【0119】(付記4) 複数の画像を蓄える画像デー
タベースより、指定した画像領域に類似した領域をもつ
画像を検索する方法であり、画像上で領域を指定するス
テップと、上記領域に対する検索意図を表現した情報を
指定するステップと、上記検索意図を加味して、上記領
域に類似する領域をもつ画像を検索するステップと、上
記検索した画像より、上記領域に類似する領域を切り出
すステップと、を有することを特徴とする類似画像検索
方法。
(Supplementary Note 4) This is a method for searching an image having an area similar to a specified image area from an image database storing a plurality of images. The method includes the steps of specifying an area on an image and determining a search intention for the area. A step of designating the expressed information; a step of searching for an image having an area similar to the area in consideration of the search intention; and a step of cutting out an area similar to the area from the searched image. A similar image search method characterized by having:

【0120】(付記5) コンピュータによつて、複数
の画像を蓄える画像データベースより、検索の基準とな
る基準画像に類似した画像を検索するための処理プログ
ラムを記録した記録媒体であつて、上記処理はコンピュ
ータに上記基準画像上で利用者の検索意図を満足してい
る検索意図充足領域を利用者に指定させ、上記基準画像
上で利用者の検索意図を満足していない検索意図未充足
領域を利用者に指定させ、上記検索意図未充足領域に対
する検索意図を表現した情報を利用者に指定させ、 上
記検索意図充足領域の特徴と、上記検索意図を加味した
上記検索意図未充足領域の特徴を用いて、上記基準画像
に類似する画像を上記画像データベースより検索させる
ことを特徴とする類似画像検索処理プログラムを記録し
た記録媒体。
(Supplementary Note 5) A recording medium storing a processing program for searching for an image similar to a reference image serving as a search reference from an image database storing a plurality of images by a computer. Causes the computer to specify a search intention satisfying area that satisfies the user's search intention on the reference image, and specifies a search intention unsatisfied area that does not satisfy the user's search intention on the reference image. Let the user specify the information expressing the search intent for the search insufficiency area, and let the user specify the information. The features of the search insufficiency area and the features of the search insufficiency area in consideration of the search intent are added. A recording medium storing a similar image search processing program, wherein an image similar to the reference image is searched from the image database.

【0121】(付記6) コンピュータによつて、複数
の画像を蓄える画像データベースより、指定した画像領
域に類似した領域をもつ画像を検索ための処理プログラ
ムを記録した記録媒体であって、上記処理はコンピュー
タに画像上で領域を利用者に指定させ、上記領域に対す
る検索意図を表現した情報を利用者に指定させ、上記検
索意図を加味して、上記領域に類似する領域をもつ画像
を検索させ、上記検索した画像より、上記領域に類似し
た領域を切り出させることを特徴とする類似画像検索処
理プログラムを記録した記録媒体。
(Supplementary Note 6) A recording medium storing a processing program for searching an image having an area similar to a designated image area from an image database storing a plurality of images by a computer. Let the computer specify the area on the image by the user, let the user specify the information expressing the search intention for the area, let the user take into account the search intention, and search for an image with an area similar to the area, A recording medium on which a similar image search processing program is recorded, wherein an area similar to the area is cut out from the searched image.

【0122】(付記7) 複数の画像を蓄える画像デー
タベースと、前記画像データベース中の画像または領域
の特徴を定量的な値として抽出する特徴量抽出部と、前
記特徴量抽出部によって抽出された特徴量を構成要素と
する特徴ベクトルを作成する特徴ベクトル作成部と、前
記特徴ベクトル作成部によって作成された特徴べクトル
を蓄える特徴べクトルデータベースと、前記特徴べクト
ルデータベース中の特徴べクトルと指定された画像また
は領域に関して前記特徴ベクトル作成部によって作成さ
れた特徴ベクトルとの類似度を算出する類似検索エンジ
ンと、前記類似検索エンジンによって算出された類似度
の大きい画像を検索結果として表示する検索結果表示部
とからなる類似画像検索装置において、画面上に表示さ
れている複数の画像のうち検索用の基準画像として1つ
の画像を選択する基準画像選択部と、前記基準画像の中
で利用者の検索意図を満足していない検索意図未充足領
域を指定する検索意図未充足領域指定部と、前記検索意
図未充足領域の具体的な希望パターンあるいは希望値ま
たは希望範囲を設定可能なターゲット設定部とを有し、
前記特徴べクトル作成部が、基準画像の特徴ベクトル作
成部と、検索意図未充足領域のターゲット特徴ベクトル
作成部と、前記基準画像の特徴ベクトルとターゲット特
徴ベクトルを合成する合成特徴ベクトル作成部と、から
なることを特徴とする類似画像検索装置。
(Supplementary Note 7) An image database that stores a plurality of images, a feature amount extracting unit that extracts features of images or regions in the image database as quantitative values, and a feature extracted by the feature amount extracting unit. A feature vector creating unit that creates a feature vector having a quantity as a constituent element, a feature vector database that stores feature vectors created by the feature vector creating unit, and a feature vector in the feature vector database. Search engine that calculates the similarity between the image or region and the feature vector created by the feature vector creation unit, and a search result display that displays, as a search result, an image with a high similarity calculated by the similar search engine. And a plurality of images displayed on the screen in a similar image search device comprising A reference image selecting unit that selects one image as a reference image for search, and a search intention unsatisfied area specification that specifies a search intention unsatisfied area that does not satisfy the user's search intention in the reference image And a target setting unit capable of setting a specific desired pattern or desired value or desired range of the search intention unsatisfied area,
The feature vector creating unit, a feature vector creating unit of the reference image, a target feature vector creating unit of the search unsatisfied area, a combined feature vector creating unit that combines the feature vector and the target feature vector of the reference image, A similar image search device characterized by comprising:

【0123】この構成によれば、検索意図未充足領域指
定部、及びターゲット設定部を具備しているので、特定
の部分がどうなっている画像があるかどうか調べたいと
いう利用者の検索欲求をダイレクトに表現することがで
きるため、間接的に利用者の検索意図を推測していく従
来の類似画像検索装置に比べて、検索回数を大幅に低減
できるという効果がある。
According to this configuration, since the apparatus includes the search intention unsatisfied area designating section and the target setting section, the search desire of the user who wants to check whether or not there is an image having a specific portion is determined. Since it is possible to express directly, there is an effect that the number of searches can be significantly reduced as compared with a conventional similar image search apparatus that indirectly infers a user's search intention.

【0124】さらに、この構成によれば、合成特徴ベク
トル作成部を具備しており、画像全体と検索意図未充足
領域のターゲットとのバランスを考慮できるので、検索
の結果、検索意図未充足領域に関しては利用者の検索意
図を充足したにも拘わらず、それ以外の部分が大きく変
わってしまったというような無駄な検索を防ぐことがで
きるという効果がある。
Further, according to this configuration, since the composite feature vector creating unit is provided and the balance between the entire image and the target of the search unsatisfied area can be considered, the search result indicates that the search unsatisfied area is not satisfied. Has the effect that it is possible to prevent a useless search in which the other parts have been significantly changed in spite of satisfying the user's search intention.

【0125】(付記8) 前記類似画像検索装置は、さ
らに利用者の検索意図をほぼ満足している検索意図充足
領域指定部を有し、前記特徴ベクトル作成部が、検索意
図充足領域の充足特徴ベクトル作成部と、検索意図未充
足領域のターゲット特徴ベクトル作成部と、前記充足特
徴ベクトルと前記ターゲット特徴ベクトルを合成する合
成特徴ベクトル作成部とからなることを特徴とする付記
(7)記載の類似画像検索装置。
(Supplementary Note 8) The similar image search device further includes a search intention satisfying area designating unit that substantially satisfies the user's search intention, and the feature vector creating unit includes a search intention satisfying area satisfying feature. The resemblance description (7), comprising a vector creation unit, a target feature vector creation unit for a search unsatisfied area, and a combined feature vector creation unit that combines the satisfaction feature vector and the target feature vector. Image search device.

【0126】この構成によれば、検索意図未充足領域指
定部及び検索意図充足領域指定部を具備しているので、
固定したい検索意図充足領域、改善したい検索意図未充
足領域、どうでも良い無関心領域の3つを区別して扱う
ことが可能となる結果、背景等の無関心領域を取り除い
て処理することが可能になり、検索精度を向上すること
ができるという効果がある。
According to this configuration, since the apparatus includes the search intention unsatisfied area specifying unit and the search intention satisfied area specifying unit,
As a result, it becomes possible to handle the three areas of the search intention satisfying area to be fixed, the search intention unsatisfying area to be improved, and the indifferent area of concern, so that the processing can be performed by removing the indifferent area such as the background. There is an effect that search accuracy can be improved.

【0127】さらに、この構成によれば、合成特徴ベク
トル作成部を具備しており、検索意図未充足領域のター
ゲットと検索意図充足領域とのバランスを考慮できるの
で、検索の結果、検索意図未充足領域に関しては利用者
の検索意図を充足したにも拘わらず、検索意図充足領域
の部分が大きく変わってしまったというような無駄な検
索を防ぐことができるという効果がある。
Further, according to this configuration, since the composite feature vector creating unit is provided and the balance between the target of the unsatisfied search intent area and the unsatisfied search intent area can be considered, the result of the search, Regarding the area, there is an effect that it is possible to prevent a useless search in which the search intention satisfying area is largely changed in spite of satisfying the user's search intention.

【0128】(付記9) 複数の画像を蓄える画像デー
タベースと、前記画像データベース中の画像または領域
の特徴を定量的な値として抽出する特徴量抽出部と、前
記特徴量を構成要素とする特徴ベクトルを作成する特徴
ベクトル作成部と、前記特徴ベクトルを蓄える特徴ベク
トルデータベースと、前記特徴べクトルデータベース中
の特徴ベクトルと指定された画像または領域に関して作
成された特徴ベクトルとの類似度を算出する類似検索エ
ンジンと、算出された類似度の大きい画像を検索結果と
して表示する検索結果表示部とからなる類似画像検索装
置において、前記基準画像の中で利用者の検索意図を満
足していない検索意図未充足領域を指定する検索意図未
充足領域指定部と、前記検索意図未充足領域の具体的な
希望パターンあるいは希望値または希望範囲を設定可能
なターゲット設定部と、画像データベース中の所望の領
域を切り出す領域切り出し部と、を有することを特徴と
する類似画像検索装置。
(Supplementary Note 9) An image database that stores a plurality of images, a feature amount extraction unit that extracts features of images or regions in the image database as quantitative values, and a feature vector that includes the feature amounts as components. A feature vector creating unit for creating a feature vector, a feature vector database storing the feature vectors, and a similarity search for calculating a similarity between a feature vector in the feature vector database and a feature vector created for a specified image or region. In a similar image search device including an engine and a search result display unit that displays an image having a high calculated similarity as a search result, a search intention that does not satisfy a user's search intention in the reference image is not satisfied. A search-intention-unsatisfied-area specifying unit that specifies an area, and a specific desired pattern or Is a similar image search device, comprising: a target setting unit that can set a desired value or a desired range; and an area cutout unit that cuts out a desired area in the image database.

【0129】この構成によれば、検索意図未充足領域指
定部、及びターゲット指定部、領域切り出し部を具備し
ているので、利用者の検索意図をダイレクトに表現でき
るため、間接的に利用者の検索意図を推測していく従来
の類似画像検索装置に比べて、領域画像(部品画像)の
検索において、検索回数を大幅に低減することができる
という効果がある。
According to this configuration, since the search intention unsatisfied area designating section, the target designating section, and the area cutout section are provided, the user's search intention can be directly expressed. As compared with the conventional similar image search device that estimates the search intention, the number of searches in the search for the region image (component image) can be greatly reduced.

【0130】(付記10) 複数の画像を蓄える画像デ
ータベースより、検索の基準となる基準画像に類似した
画像を検索する類似画像検索装置であり、上記基準画像
上で利用者の検索意図を満足していない検索意図未充足
領域を指定する手段と、上記検索意図未充足領域に対す
る検索意図を表現した情報を指定する手段と、上記検索
意図を加味した上記検索意図未充足領域の特徴を用い
て、上記基準画像に類似する画像を上記画像データベー
スより検索する手段とを具備することを特徴とする類似
画像検索装置。
(Supplementary Note 10) A similar image search device that searches for an image similar to a reference image serving as a search reference from an image database storing a plurality of images, and satisfies a user's search intention on the reference image. Means for specifying a search intention unsatisfied area that is not, means for specifying information expressing a search intention for the search intention unsatisfied area, and characteristics of the search intention unsatisfied area in which the search intention is taken into account, Means for searching the image database for an image similar to the reference image.

【0131】(付記11) 複数の画像を蓄える画像デ
ータベースより、検索の基準となる基準画像に類似した
画像を検索する方法であり、上記基準画像上で利用者の
検索意図を満足していない検索意図未充足領域を指定す
るステップと、上記検索意図未充足領域に対する検索意
図を表現した情報を指定するステップと、上記検索意図
を加味した上記検索意図未充足領域の特徴を用いて、上
記基準画像に類似する画像を上記画像データベースより
検索するステップと、を有することを特徴とする類似画
像検索方法。
(Supplementary Note 11) This is a method of searching an image database storing a plurality of images for an image similar to a reference image serving as a search reference, and a search that does not satisfy a user's search intention on the reference image. A step of designating an unsatisfied intention area; a step of designating information expressing a search intention for the unsatisfied search intention area; and a feature of the unsatisfied search intention area in consideration of the search intention. Searching for an image similar to the above from the image database.

【0132】(付記12) コンピュータによつて、複
数の画像を蓄える画像データベースより、検索の基準と
なる基準画像に類似した画像を検索するための処理プロ
グラムを記録した記録媒体であつて、上記処理はコンピ
ュータに上記基準画像上で利用者の検索意図を満足して
いない検索意図未充足領域を利用者に指定させ、上記検
索意図未充足領域に対する検索意図を表現した情報を利
用者に指定させ、 上記検索意図を加味した上記検索意
図未充足領域の特徴を用いて、上記基準画像に類似する
画像を上記画像データベースより検索させることを特徴
とする類似画像検索処理プログラムを記録した記録媒
体。
(Supplementary Note 12) A recording medium storing a processing program for retrieving an image similar to a reference image serving as a retrieval reference from an image database storing a plurality of images by a computer. Causes the computer to specify a search intention unsatisfied area that does not satisfy the user's search intention on the reference image, and causes the user to specify information expressing a search intention for the search intention unsatisfied area, A recording medium in which a similar image search processing program is recorded, wherein an image similar to the reference image is searched from the image database using characteristics of the search intention unsatisfied area in which the search intention is added.

【0133】[0133]

【発明の効果】従って、以上説明したように、本発明に
よれば、現在、表示されている画像に類似する画像のう
ち特定の部分がどのように改善されている画像があるか
どうかを調べたいという利用者の検索要求をうまく満た
すことのできる画像検索装置すなわち検索者の意図をダ
イレクトに取り込むことができる類似画像検索装置及び
類似画像検索方法並びに類似画像検索処理プログラムを
記録した記録媒体を提供することができる。
Therefore, as described above, according to the present invention, it is determined whether or not an image similar to the currently displayed image has an improved specific part. Abstract: Provided is an image search apparatus that can satisfy a user's search request, that is, a similar image search apparatus and a similar image search method that can directly capture the intention of a searcher, and a recording medium that stores a similar image search processing program. can do.

【図面の簡単な説明】[Brief description of the drawings]

【図1】図1は、この発明の第1の実施形態による類似
画像検索装置の構成を示すブロック図である。
FIG. 1 is a block diagram showing a configuration of a similar image search device according to a first embodiment of the present invention.

【図2】図2は、この発明の第1の実施形態による類似
画像検索装置の動作を示すフローチヤートである。
FIG. 2 is a flowchart showing the operation of the similar image search device according to the first embodiment of the present invention.

【図3】図3は、この発明の第2の実施形態による類似
画像検索装置の構成を示すブロック図である。
FIG. 3 is a block diagram showing a configuration of a similar image search device according to a second embodiment of the present invention.

【図4】図4は、この発明の第2の実施形態による類似
画像検索装置の動作を示すフローチヤートである。
FIG. 4 is a flowchart showing the operation of a similar image search device according to a second embodiment of the present invention.

【図5】図5は、この発明の第3の実施形態による類似
画像検索装置の構成を示すブロック図である。
FIG. 5 is a block diagram showing a configuration of a similar image search device according to a third embodiment of the present invention.

【図6】図6は、この発明の第3の実施形態による類似
画像検索装置の動作を示すフローチヤートである。
FIG. 6 is a flowchart showing an operation of the similar image search device according to the third embodiment of the present invention.

【図7】図7は、従来の類似画像検索装置の構成を示す
ブロック図である。
FIG. 7 is a block diagram showing a configuration of a conventional similar image search device.

【図8】図8は、従来の類似画像検索装置の動作を示す
フローチャートである。
FIG. 8 is a flowchart showing the operation of the conventional similar image search device.

【符号の説明】[Explanation of symbols]

101,201…基準画像選択部、 102,203,301…検索意図未充足領域指定部、 103,204,302…ターゲット設定部、 104,205,303…特徴量抽出部、 105…基準画像の特徴べクトル作成部、 106,207,304…検索意図未充足領域のターゲ
ット特徴べクトル作成部 107,208…合成特徴べクトル作成部、 108,209,305…類似検索エンジン、 110,211,307…画像データベース、 109,210,306…特徴ベクトルデータベース、 111,212,309…検索結果表示部、 202…検索意図充足領域指定部、 206…検索意図充足領域の充足特徴ベクトル作成部、 308…領域切り出し部。
101, 201: Reference image selection unit, 102, 203, 301: Search intent unsatisfied area designating unit, 103, 204, 302: Target setting unit, 104, 205, 303: Feature extraction unit, 105: Features of reference image Vector creating units, 106, 207, 304 ... target feature vector creating units 107, 208 ... synthetic feature vector creating units for unsatisfied search intent areas, 108, 209, 305 ... similar search engines, 110, 211, 307 ... Image database, 109, 210, 306: feature vector database, 111, 212, 309: search result display section, 202: search intention satisfaction area designation section, 206: search intention satisfaction area satisfaction feature vector creation section, 308: area extraction Department.

Claims (3)

【特許請求の範囲】[Claims] 【請求項1】 複数の画像を蓄える画像データベースよ
り、検索の基準となる基準画像に類似した画像を検索す
る類似画像検索装置であり、 上記基準画像上で領域を指定する手段と、 上記領域に対する検索意図を表現した情報を指定する手
段と、 上記検索意図を加味して、上記基準画像に類似する画像
を上記画像データベースより検索する手段と、 を具備することを特徴とする類似画像検索装置。
1. A similar image search apparatus for searching an image database storing a plurality of images for an image similar to a reference image serving as a search reference, means for specifying an area on the reference image, A similar image search device comprising: means for specifying information expressing a search intention; and means for searching the image database for an image similar to the reference image in consideration of the search intention.
【請求項2】 複数の画像を蓄える画像データベースよ
り、検索の基準となる基準画像に類似した類似画像を検
索する方法であり、 上記基準画像上で領域を指定するステップと、 上記領域に対する検索意図を表現した情報を指定するス
テップと、 上記検索意図を加味して、上記基準画像に類似する画像
を上記画像データベースより検索するステップと、 を有することを特徴とする類似画像検索方法。
2. A method for searching a similar image similar to a reference image serving as a search reference from an image database storing a plurality of images, comprising: specifying an area on the reference image; A method of searching for a similar image, comprising: a step of designating information expressing the above; and a step of searching the image database for an image similar to the reference image in consideration of the search intention.
【請求項3】 コンピュータによって複数の画像を蓄え
る画像データベースより検索の基準となる基準画像に類
似した類似画像を検索するための処理プログラムを記録
した記録媒体であって、上記処理はコンピュータに上記
基準画像上の領域を利用者に指定させ、 上記領域に対する検索意図を表現した情報を利用者に指
定させ、 上記検索意図を加味して、上記基準画像に類似する画像
を上記画像データベースより検索させることを特徴とす
る類似画像検索処理プログラムを記録した記録媒体。
3. A recording medium storing a processing program for searching a similar image similar to a reference image serving as a search reference from an image database storing a plurality of images by a computer, wherein the processing is performed by the computer. Prompting a user to specify an area on an image, allowing the user to specify information expressing a search intention for the area, and allowing the image database to search for an image similar to the reference image in consideration of the search intention. A recording medium storing a similar image search processing program characterized by the following.
JP29279199A 1999-10-14 1999-10-14 Device and method for retrieving similar image and recording medium recording similar image retrieving processing program Pending JP2001117928A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP29279199A JP2001117928A (en) 1999-10-14 1999-10-14 Device and method for retrieving similar image and recording medium recording similar image retrieving processing program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP29279199A JP2001117928A (en) 1999-10-14 1999-10-14 Device and method for retrieving similar image and recording medium recording similar image retrieving processing program

Publications (1)

Publication Number Publication Date
JP2001117928A true JP2001117928A (en) 2001-04-27

Family

ID=17786392

Family Applications (1)

Application Number Title Priority Date Filing Date
JP29279199A Pending JP2001117928A (en) 1999-10-14 1999-10-14 Device and method for retrieving similar image and recording medium recording similar image retrieving processing program

Country Status (1)

Country Link
JP (1) JP2001117928A (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007199749A (en) * 2004-08-19 2007-08-09 Mitsubishi Electric Corp Image retrieval method and image retrieval device
GB2454213A (en) * 2007-10-31 2009-05-06 Sony Corp Analyzing a Plurality of Stored Images to Allow Searching

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007199749A (en) * 2004-08-19 2007-08-09 Mitsubishi Electric Corp Image retrieval method and image retrieval device
JP4632830B2 (en) * 2004-08-19 2011-02-16 三菱電機株式会社 Image search method and image search apparatus
GB2454213A (en) * 2007-10-31 2009-05-06 Sony Corp Analyzing a Plurality of Stored Images to Allow Searching

Similar Documents

Publication Publication Date Title
US11430188B2 (en) Information processing system
JP4632627B2 (en) Method and apparatus for representing and searching for objects in an image
CN108702449B (en) Image searching method and system
US7362921B1 (en) Method and apparatus for representing and searching for an object using shape
JP2000276484A5 (en) Image search device, image search method
WO2007038612A2 (en) Apparatus and method for processing user-specified search image points
WO2008129383A1 (en) Method, apparatus and computer program product for determining relevance and/or ambiguity in a search system
JP4374902B2 (en) Similar image search device, similar image search method, and similar image search program
CN109644253A (en) Track auxiliary device, tracking auxiliary system and tracking householder method
JPH08249349A (en) Image data base device
KR101042909B1 (en) Method, system and computer-readable recording medium for providing image data
US20070031066A1 (en) Device and method for image searching, and recording medium in which image searching program is recorded
JP2008117271A (en) Object recognition device of digital image, program and recording medium
CN110049180A (en) Shoot posture method for pushing and device, intelligent terminal
WO2021196551A1 (en) Image retrieval method and apparatus, computer device, and storage medium
JP2001117928A (en) Device and method for retrieving similar image and recording medium recording similar image retrieving processing program
JP4725408B2 (en) Subject recognition device and subject recognition program
JPH09114846A (en) Brousing display method and image display system
CN112364199B (en) Picture searching system
JP4888111B2 (en) Subject recognition device, image search method, and subject recognition program
CN114039958A (en) Multimedia processing method and device
KR19990016894A (en) How to search video database
Danko et al. Better together: Fusing visual saliency methods for retrieving perceptually-similar images
JP2005157763A (en) Search device and method for controlling search
JPH0721203A (en) Picture processor

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20051027

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20081120

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20081202

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20090407