JP2015176422A - Device, system, method, and program for processing information - Google Patents

Device, system, method, and program for processing information Download PDF

Info

Publication number
JP2015176422A
JP2015176422A JP2014053241A JP2014053241A JP2015176422A JP 2015176422 A JP2015176422 A JP 2015176422A JP 2014053241 A JP2014053241 A JP 2014053241A JP 2014053241 A JP2014053241 A JP 2014053241A JP 2015176422 A JP2015176422 A JP 2015176422A
Authority
JP
Japan
Prior art keywords
image
attribute
information processing
extracted
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2014053241A
Other languages
Japanese (ja)
Other versions
JP6409294B2 (en
Inventor
愛 杉崎
Ai Sugisaki
愛 杉崎
宮川 博
Hiroshi Miyagawa
博 宮川
八栄子 米澤
Yaeko Yonezawa
八栄子 米澤
小松 豊
Yutaka Komatsu
豊 小松
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Priority to JP2014053241A priority Critical patent/JP6409294B2/en
Publication of JP2015176422A publication Critical patent/JP2015176422A/en
Application granted granted Critical
Publication of JP6409294B2 publication Critical patent/JP6409294B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Processing Or Creating Images (AREA)

Abstract

PROBLEM TO BE SOLVED: To provide an information processing device, system, method, and program, which allow for retrieving desired information.SOLUTION: An information processing device includes: attribute extraction means for extracting attributes from an acquired image; image extraction means for extracting images associated with the extracted attributes from storage means; display means for displaying the extracted images; input means which accepts a selection from the displayed images; search means which re-extracts images from the storage means based on the attributes associated with the selected image; and output means for outputting a search result.

Description

本発明は、情報処理装置、システム、方法及びプログラムに関する。   The present invention relates to an information processing apparatus, system, method, and program.

インターネットの発展によりウェブ上で様々な検索が行われている。検索には、文字をクエリとしてデータベースからデータを抽出する方法の他、画像をクエリとして情報検索を行う方法も知られている(特許文献1参照)。   Various searches are performed on the web due to the development of the Internet. In addition to a method of extracting data from a database using characters as a query, a method of performing an information search using an image as a query is also known (see Patent Document 1).

特開2009−193187号公報JP 2009-193187 A

ところで、例えば海外旅行の際に旅行者は渡航先の言語が分からないことがある。そのため、旅行者が渡航先の店舗で販売されている商品等の情報検索を行おうとしても、適切な言葉でクエリを作成することが困難である場合がある。そのような場合に商品の画像を用いて情報検索を行うことができれば便利である。   By the way, for example, when traveling abroad, a traveler may not know the language of the destination. For this reason, even if a traveler tries to search for information such as products sold at a destination store, it may be difficult to create a query using appropriate words. In such a case, it would be convenient if information retrieval could be performed using product images.

ところが、画像をクエリとした場合、検索者が何を検索対象としたのかが特定できないことがある。例えば、ある炭酸飲料商品の画像がクエリとなった場合、検索者は、その炭酸飲料商品そのものを検索したかったのではなく、他の炭酸商品、あるいは単に飲料商品を検索したかったということも有り得る。   However, when an image is used as a query, it may not be possible to specify what the searcher has searched for. For example, when an image of a carbonated drink product becomes a query, the searcher may not want to search for the carbonated drink product itself but also search for another carbonated product or simply a drink product. It is possible.

上述の技術では、撮影画像と類似する画像の検索の一例を示すものではあるが、このような課題については考慮されておらず、所望の情報検索を行うことができないおそれがある。   The above-described technique shows an example of searching for an image similar to a photographed image, but such a problem is not taken into consideration, and there is a possibility that desired information search cannot be performed.

そこで、本発明は、所望の情報検索を行うことのできる情報処理装置、システム、方法及びプログラムを提供することを目的とする。   SUMMARY An advantage of some aspects of the invention is that it provides an information processing apparatus, system, method, and program capable of performing desired information retrieval.

かかる目的を達成するため、本発明の一形態は、情報処理装置であって、取得した画像から属性を抽出する属性抽出手段と、抽出された属性に対応づけられた画像を記憶手段から抽出する画像抽出手段と、抽出された画像を表示する表示手段と、表示された画像の選択を受け付ける入力手段と、選択された画像に対応づけられた前記属性に基づいて、前記記憶手段から画像の再抽出を行う検索手段と、検索結果を出力する出力手段と、を備える。   In order to achieve such an object, an embodiment of the present invention is an information processing apparatus, which extracts attribute from an acquired image, and extracts an image associated with the extracted attribute from a storage unit. Based on the attribute associated with the selected image, the image extracting means, the display means for displaying the extracted image, the input means for accepting the selection of the displayed image, and the replay of the image from the storage means. Search means for performing extraction, and output means for outputting the search results are provided.

また、本発明は、画像を送信する送信手段と、画像を表示する表示手段と、表示された画像の選択を受け付けて第2の情報処理装置に送信する入力手段と、受信した検索結果を出力する出力手段と、を備える第1の情報処理装置と、受信した画像から属性を抽出する属性抽出手段と、抽出された属性に対応づけられた画像を記憶手段から抽出して前記第1の情報処理装置に送信する画像抽出手段と、前記第1の情報処理装置で選択された画像に対応づけられた前記属性に基づいて、前記記憶手段から画像の再抽出を行う検索手段と、を備える第2の情報処理装置と、を含む情報処理システムを提供する。   In addition, the present invention provides a transmission unit that transmits an image, a display unit that displays an image, an input unit that receives a selection of the displayed image and transmits it to the second information processing apparatus, and outputs a received search result An output means for extracting the attribute from the received image, an image associated with the extracted attribute from the storage means, and extracting the first information from the storage means. Image extraction means for transmitting to the processing apparatus; and search means for re-extracting the image from the storage means based on the attribute associated with the image selected by the first information processing apparatus. An information processing system including two information processing apparatuses is provided.

また、本発明は、取得した画像に対応する属性を抽出し、抽出された属性に対応づけられた画像を抽出し、抽出された画像を表示し、表示された画像の選択を受け付け、選択された画像に対応づけられた前記属性に基づいて、画像の再抽出を行い、検索結果を出力する情報処理方法を提供する。   Further, the present invention extracts an attribute corresponding to the acquired image, extracts an image associated with the extracted attribute, displays the extracted image, accepts selection of the displayed image, is selected An information processing method for re-extracting an image based on the attribute associated with the image and outputting a search result is provided.

また、本発明は、コンピュータに、取得した画像から属性を抽出する属性抽出ステップと、抽出された属性に対応づけられた画像を記憶手段から抽出する画像抽出ステップと、抽出された画像を表示する表示ステップと、表示された画像の選択を受け付ける入力ステップと、選択された画像に対応づけられた前記属性に基づいて、前記記憶手段から画像の再抽出を行う検索ステップと、検索結果を出力する出力ステップと、を実行させる情報処理プログラムを提供する。   Further, the present invention displays, on a computer, an attribute extraction step for extracting an attribute from the acquired image, an image extraction step for extracting an image associated with the extracted attribute from the storage means, and the extracted image. A display step; an input step for receiving selection of the displayed image; a search step for re-extracting the image from the storage means based on the attribute associated with the selected image; and outputting a search result And an information processing program for executing the output step.

本発明は、所望の情報検索を行うことのできる情報処理装置、システム、方法及びプログラムを提供する。   The present invention provides an information processing apparatus, system, method, and program capable of performing desired information retrieval.

情報処理装置1の構成例を示す図である。1 is a diagram illustrating a configuration example of an information processing device 1. FIG. 記憶部11の例を示す図である。3 is a diagram illustrating an example of a storage unit 11. FIG. 画像抽出部13の動作イメージを示す図である。It is a figure which shows the operation | movement image of the image extraction part. 表示部14の表示例を示す図である。FIG. 10 is a diagram illustrating a display example of the display unit 14. 表示部14の表示例を示す図である。FIG. 10 is a diagram illustrating a display example of the display unit 14. 検索部16の動作イメージを示す図である。FIG. 4 is a diagram showing an operation image of a search unit 16. 実施形態1の動作例を示す図である。FIG. 6 is a diagram illustrating an operation example of the first embodiment. 記憶部11の例を示す図である。3 is a diagram illustrating an example of a storage unit 11. FIG. 実施例1の動作イメージを示す図である。FIG. 5 is a diagram illustrating an operation image of the first embodiment. 表示部14の表示例を示す図である。FIG. 10 is a diagram illustrating a display example of the display unit 14. 表示部14の表示例を示す図である。FIG. 10 is a diagram illustrating a display example of the display unit 14. 実施例1の動作イメージを示す図である。FIG. 5 is a diagram illustrating an operation image of the first embodiment. 表示部14の表示例を示す図である。FIG. 10 is a diagram illustrating a display example of the display unit 14. 属性の階層例を示す図である。It is a figure which shows the hierarchy example of an attribute. 属性の階層例を示す図である。It is a figure which shows the hierarchy example of an attribute. 記憶部11の例を示す図である。3 is a diagram illustrating an example of a storage unit 11. FIG. 表示部14の表示例を示す図である。FIG. 10 is a diagram illustrating a display example of the display unit 14. 実施形態2の動作例を示す図である。10 is a diagram illustrating an operation example of Embodiment 2. FIG. 実施形態3の構成例を示す図である。10 is a diagram illustrating a configuration example of Embodiment 3. FIG. 情報処理装置の変形例を示す図である。It is a figure which shows the modification of information processing apparatus.

以下、本発明の実施の形態について、図面を用いて説明する。すべての図面において、同様な構成要素には同様の符号を付し、適宜説明を省略する。   Hereinafter, embodiments of the present invention will be described with reference to the drawings. In all the drawings, the same components are denoted by the same reference numerals, and description thereof will be omitted as appropriate.

なお、以下の説明における装置等を構成する各部は、論理回路等のハードウェアで構成される。また、各部は、コンピュータの制御部、メモリ、メモリにロードされたプログラム、プログラムを格納するハードディスク等の記憶ユニット、ネットワーク接続用インターフェースなどからなり、ハードウェアとソフトウェアの任意の組合せによって実現されてもよい。そして特に断りのない限り、その実現方法、装置は限定されない。   In addition, each part which comprises the apparatus in the following description is comprised by hardware, such as a logic circuit. Each unit includes a computer control unit, a memory, a program loaded in the memory, a storage unit such as a hard disk for storing the program, a network connection interface, and the like, and may be realized by any combination of hardware and software. Good. And unless there is particular notice, the realization method and apparatus are not limited.

また、実施形態における各部を制御する制御部はCPU(Central Processing Unit)などからなる。そして、制御部はOS(Operating system)を動作させて装置等の全体を制御するとともに、例えばドライブ装置などに装着された記録媒体からメモリにプログラムやデータを読み出し、これに従って各種の処理を実行する。記録媒体は、例えば光ディスク、フレキシブルディスク、磁気光ディスク、外付けハードディスク、半導体メモリ等であって、コンピュータプログラムをコンピュータが読み取り可能に記録する。また、コンピュータプログラムは、通信網に接続されている図示しない外部コンピュータからダウンロードされても良い。   In addition, the control unit that controls each unit in the embodiment includes a CPU (Central Processing Unit) and the like. The control unit operates an OS (Operating system) to control the entire apparatus and the like, and reads a program and data from a recording medium mounted on a drive device, for example, to a memory, and executes various processes according to the program and data. . The recording medium is, for example, an optical disk, a flexible disk, a magnetic optical disk, an external hard disk, a semiconductor memory, or the like, and records a computer program so that the computer can read it. The computer program may be downloaded from an external computer (not shown) connected to the communication network.

<実施形態1>
まず、本発明の第1の実施形態について図面を用いて説明する。図1には、本実施の形態にかかる情報管理装置1の一例が示されている。
<Embodiment 1>
First, a first embodiment of the present invention will be described with reference to the drawings. FIG. 1 shows an example of an information management apparatus 1 according to the present embodiment.

情報処理装置1は、記憶部11と、属性抽出部12と、画像抽出部13と、表示部14と、入力部15と、検索部16と、出力部17と、特徴量抽出部18と、照合部19とを備える。情報処理装置1は、例えばカメラ機能を備えるスマートフォンなどの携帯端末であるがそれに限定されない。以下では、情報処理装置1が不図示のカメラ機能を備える例を説明する。   The information processing apparatus 1 includes a storage unit 11, an attribute extraction unit 12, an image extraction unit 13, a display unit 14, an input unit 15, a search unit 16, an output unit 17, a feature amount extraction unit 18, And a collation unit 19. The information processing apparatus 1 is a portable terminal such as a smartphone having a camera function, for example, but is not limited thereto. Hereinafter, an example in which the information processing apparatus 1 includes a camera function (not shown) will be described.

記憶部11は、画像と属性とを対応付けて記憶する。画像は、画像自体のみならず画像の特徴量であっても良い。属性とは、画像に紐づけられた情報であり、一般的には画像ないしその被写体の特徴を示す情報である。例えば、画像がコーヒー飲料の画像である場合、その属性は、商品:“飲料”、色:“黒い”、味:“苦い”、販売会社名:“〜株式会社”、などである。   The storage unit 11 stores images and attributes in association with each other. The image may be a feature amount of the image as well as the image itself. An attribute is information associated with an image, and is generally information indicating the characteristics of an image or its subject. For example, when the image is an image of a coffee beverage, the attributes are: product: “beverage”, color: “black”, taste: “bitter”, sales company name: “˜corporation”, and the like.

図2は記憶部11が記憶する画像と属性との対応づけの一例を示している。ここで、属性1〜6は各々異なる属性を示している。図2は、例えば、画像Aと属性1〜3とが対応づけられていることを示している。   FIG. 2 shows an example of correspondence between images and attributes stored in the storage unit 11. Here, the attributes 1 to 6 indicate different attributes. FIG. 2 shows that, for example, image A and attributes 1 to 3 are associated with each other.

属性抽出部12は、取得した画像に対応する属性を記憶部11から抽出する。ここで、“取得した画像”とは、例えば、情報処理装置1が備えるカメラが撮像した画像である。すなわち、画像は、情報処理装置1の所持者(以下、単にユーザという)がカメラ等で撮像した商品等の画像である。あるいは、情報処理装置1が通信機能を備える場合には、“取得した画像”は、外部装置から取得した画像であっても良い。“取得した画像“は、カメラ等で撮像された画像に類似する画像として記憶部11等から抽出された画像でも良い。この場合、特徴量抽出部18、照合部19によって、カメラ等で撮像された画像の特徴量が記憶部11に格納された画像の特徴量と照合され、類似する画像が検索される。このように検索された画像が”取得した画像”であっても良い。なお、特徴量抽出部18は、画像から特徴量抽出を行う機能を有するが特徴量抽出の方法は様々な方法が知られているため詳述しない。また、照合部19は、記憶部11を検索して、画像の特徴量同士のマッチング処理を行い、特徴量が所定以上一致する類似画像が存在するか否かを判定する機能を有する。このような照合処理についても様々な方法が知られているため詳述しない。   The attribute extraction unit 12 extracts an attribute corresponding to the acquired image from the storage unit 11. Here, the “acquired image” is, for example, an image captured by a camera included in the information processing apparatus 1. That is, the image is an image of a product or the like captured by the owner of the information processing apparatus 1 (hereinafter simply referred to as a user) with a camera or the like. Alternatively, when the information processing apparatus 1 has a communication function, the “acquired image” may be an image acquired from an external device. The “acquired image” may be an image extracted from the storage unit 11 or the like as an image similar to an image captured by a camera or the like. In this case, the feature amount extraction unit 18 and the collation unit 19 collate the feature amount of the image captured by the camera or the like with the feature amount of the image stored in the storage unit 11, and search for similar images. The retrieved image may be “acquired image”. The feature amount extraction unit 18 has a function of extracting a feature amount from an image. However, various methods for extracting the feature amount are known and will not be described in detail. The collation unit 19 has a function of searching the storage unit 11 and performing a matching process between the feature amounts of the images, and determining whether there is a similar image having a feature amount that matches a predetermined amount or more. Various methods are also known for such collation processing and will not be described in detail.

属性抽出部12は、画像を取得すると、記憶部11を参照し、取得した画像に対応する属性を抽出する。例えば、取得した画像が画像Aであれば、属性抽出部12は、属性1〜3を抽出する。   When the attribute extraction unit 12 acquires an image, the attribute extraction unit 12 refers to the storage unit 11 and extracts an attribute corresponding to the acquired image. For example, if the acquired image is the image A, the attribute extraction unit 12 extracts attributes 1 to 3.

画像抽出部13は、属性抽出部12により抽出された属性に対応づけられた画像を記憶部11から抽出する。例えば、属性抽出部12が抽出した属性が1〜3であれば、画像抽出部13は、属性1〜3に対応付けられた画像を抽出する。   The image extraction unit 13 extracts an image associated with the attribute extracted by the attribute extraction unit 12 from the storage unit 11. For example, if the attribute extracted by the attribute extraction unit 12 is 1 to 3, the image extraction unit 13 extracts an image associated with the attributes 1 to 3.

図3には、属性1〜3に対応付けられた画像を抽出する画像抽出部13の動作イメージが示されている。図2を参照すると、属性1に対応する画像は画像A、画像Cである。属性2に対応する画像は画像A、画像B、画像Cである。属性3に対応する画像は画像A、画像Eである。そのため、画像抽出部13はこれらの画像を抽出する。画像抽出部13はこれらの画像を属性ごとに抽出しても良い。その場合、同一の画像が重複して抽出される場合もある。例えば、図3では、画像A、Cが重複して抽出されている。   FIG. 3 shows an operation image of the image extraction unit 13 that extracts images associated with the attributes 1 to 3. Referring to FIG. 2, the images corresponding to attribute 1 are image A and image C. The images corresponding to attribute 2 are image A, image B, and image C. The images corresponding to attribute 3 are image A and image E. Therefore, the image extraction unit 13 extracts these images. The image extraction unit 13 may extract these images for each attribute. In that case, the same image may be extracted in duplicate. For example, in FIG. 3, images A and C are extracted in duplicate.

表示部14は、抽出された画像を表示する。例えば、表示部14は、属性ごとに抽出された画像を属性と対応付けて表示させても良い。図4には、表示部14上に、属性ごとに画像が列に並んで表示される例を示している。図4では、属性1に対応する画像A、Cが左列に並んでおり、属性2に対応する画像A、B、Cが中央列に並んでおり、属性3に対応する画像A、Eが右列に並んでいる。なお、図4には属性名が表示部14に表示されているが、属性名は必ずしも表示される必要はない。また、属性ごとに抽出された画像を属性と対応付けて表示させる例は図4の態様に限られない。他の例については後述する。   The display unit 14 displays the extracted image. For example, the display unit 14 may display an image extracted for each attribute in association with the attribute. FIG. 4 shows an example in which images are displayed in rows on the display unit 14 for each attribute. In FIG. 4, images A and C corresponding to attribute 1 are arranged in the left column, images A, B and C corresponding to attribute 2 are arranged in the center column, and images A and E corresponding to attribute 3 are arranged. Lined up in the right column. Although the attribute name is displayed on the display unit 14 in FIG. 4, the attribute name is not necessarily displayed. An example in which an image extracted for each attribute is displayed in association with the attribute is not limited to the aspect of FIG. Other examples will be described later.

入力部15は表示された画像の選択を受け付ける機能を有する。例えば、図5に示すように、入力部15は表示部14と一体的に設けられたタッチパネルでも良い。入力部15は画像を選択できるキーボタン等でも良いが、ここでは入力部15が図5に示すタッチパネルである場合を例に説明する。ユーザは、表示部14に表示された画像を選択するために、画像上をタッチする。タッチされた画像は他の画像と区別可能に表示される。例えば、図5では選択された画像に丸印がついている。ユーザは入力部15を介して、自分が検索対象としたかった画像に類似する画像を選択することができる。図5では、ユーザが画像BとEとを選択したことを示している。   The input unit 15 has a function of accepting selection of a displayed image. For example, as shown in FIG. 5, the input unit 15 may be a touch panel provided integrally with the display unit 14. The input unit 15 may be a key button or the like that can select an image. Here, a case where the input unit 15 is the touch panel shown in FIG. 5 will be described as an example. The user touches on the image in order to select the image displayed on the display unit 14. The touched image is displayed so as to be distinguishable from other images. For example, in FIG. 5, the selected image is circled. The user can select an image similar to the image that he / she wanted to search through the input unit 15. FIG. 5 shows that the user has selected images B and E.

検索部16は、選択された画像に対応づけられた属性に基づいて、記憶部11から画像の再抽出を行う。例えば、ユーザが画像BとEとを選択した場合、検索部16は、画像BとEにそれぞれ対応する属性に基づいて画像の抽出を行う。   The search unit 16 re-extracts the image from the storage unit 11 based on the attribute associated with the selected image. For example, when the user selects images B and E, the search unit 16 extracts images based on attributes corresponding to the images B and E, respectively.

図6には、検索部16の動作イメージが示されている。記憶部11を参照すると、画像Bに対応する属性は2と4である。また、画像Eに対応する属性は3、4、6である。ここで、検索部16は、属性の個数が所定数以上の属性を算出する。例えば、本例では、属性2、3、6は1つ、属性4は2つである。そのため、所定数が2であれば、属性4が算出される。本実施形態では所定数を2として説明する。   FIG. 6 shows an operation image of the search unit 16. Referring to the storage unit 11, the attributes corresponding to the image B are 2 and 4. The attributes corresponding to the image E are 3, 4, and 6. Here, the search unit 16 calculates an attribute having a predetermined number or more of attributes. For example, in this example, there are one attribute 2, 3, 6 and two attribute 4. Therefore, if the predetermined number is 2, attribute 4 is calculated. In this embodiment, the predetermined number is assumed to be 2.

次に、検索部16は算出された属性に対応する画像を記憶部11から抽出する。本例では、所定数を2としているため属性4が算出される。そのため、検索部16は、属性4に対応する画像を記憶部11から抽出する。図2を参照すると、属性4に対応する画像はB、C、D、Eである。そのため、検索部16はこれらの画像を抽出する。   Next, the search unit 16 extracts an image corresponding to the calculated attribute from the storage unit 11. In this example, since the predetermined number is 2, attribute 4 is calculated. Therefore, the search unit 16 extracts an image corresponding to the attribute 4 from the storage unit 11. Referring to FIG. 2, the images corresponding to attribute 4 are B, C, D, and E. Therefore, the search unit 16 extracts these images.

出力部17は、検索結果を出力する。出力とは、表示部14への表示や不図示のマイクによる音声での報知などである。検索結果の出力とは、抽出された画像を表示することが含まれる。また、検索結果の出力とは、抽出された画像に対応する情報検索結果を表示することが含まれる。例えば、記憶部11に各画像に対応付けてURL(Uniform Resource Locator)が記憶されていれば、出力部17は、抽出された画像を表示せずに、直接URL先の情報をユーザに提示しても良い。   The output unit 17 outputs the search result. The output is a display on the display unit 14 or an audio notification by a microphone (not shown). The output of the search result includes displaying the extracted image. The search result output includes displaying an information search result corresponding to the extracted image. For example, if a URL (Uniform Resource Locator) is stored in the storage unit 11 in association with each image, the output unit 17 directly presents the URL destination information to the user without displaying the extracted image. May be.

次に、本実施の形態における情報処理装置1の動作について図7を用いて説明する。まず、情報処理装置1の不図示のカメラは、商品等の物体を撮像する(ステップS1)。特徴量抽出部18は、画像から特徴量抽出を行う(ステップS2)。照合部19は、記憶部11を検索して、類似画像が存在するか否かを判定する(ステップS3)。   Next, the operation of the information processing apparatus 1 in the present embodiment will be described with reference to FIG. First, a camera (not shown) of the information processing apparatus 1 images an object such as a product (step S1). The feature quantity extraction unit 18 performs feature quantity extraction from the image (step S2). The collation unit 19 searches the storage unit 11 to determine whether a similar image exists (step S3).

類似画像が存在する場合、属性抽出部12は当該画像と関連づけられた属性を記憶部11から抽出する(ステップS4)。次に、画像抽出部13は、抽出された画像と関連付けられた属性を記憶部11から抽出する(ステップS5)。次に、表示部14は画像を表示する(ステップS6)。次に、入力部15を介して、ユーザは表示された画像から任意の画像の選択を行う(ステップS7)。検索部16は、選択画像と関連づけられた属性を抽出する(ステップS8)。次に検索部16は、属性の個数が所定数以上の属性を算出する(ステップS9)。なお、検索部16は、属性の個数が所定数以上の属性を算出する代わりに、属性の個数が最も多い属性を選択しても良い。次に検索部16は、算出された属性に関連付けられた画像を記憶部11から抽出する(ステップS10)。最後に、出力部17は検索された画像を出力する(ステップS11)。   If a similar image exists, the attribute extraction unit 12 extracts the attribute associated with the image from the storage unit 11 (step S4). Next, the image extraction unit 13 extracts attributes associated with the extracted image from the storage unit 11 (step S5). Next, the display unit 14 displays an image (step S6). Next, the user selects an arbitrary image from the displayed images via the input unit 15 (step S7). The search unit 16 extracts attributes associated with the selected image (step S8). Next, the search unit 16 calculates an attribute having a predetermined number or more of attributes (step S9). Note that the search unit 16 may select an attribute having the largest number of attributes instead of calculating an attribute having a predetermined number or more of attributes. Next, the search unit 16 extracts an image associated with the calculated attribute from the storage unit 11 (step S10). Finally, the output unit 17 outputs the searched image (step S11).

このような動作により、ユーザは所望の情報検索ができる。その理由は以下の通りである。まずユーザは、情報を欲する対象となる物体を撮影する。この際、画像の特徴量を基に類似画像が検索されるが、類似画像が必ずしもユーザの欲する画像ではない場合がある。そこで本発明では、類似画像に関連付けられた属性を参照し、属性に関連付けられている他の画像を表示する。ユーザは、表示された画像から自己の意図に沿う画像を選択することができる。この際、属性ごとに画像がまとめて表示されれば、ユーザは画像を選択しやすいという効果がある。ユーザに選択された画像はユーザの意図を反映している。そこで、この選択画像の属性を基に再度画像検索を行うことにより、ユーザが欲していた画像ないし画像に関する情報を検索することができる。   By such an operation, the user can search for desired information. The reason is as follows. First, the user takes an image of an object for which information is desired. At this time, a similar image is searched based on the feature amount of the image, but the similar image may not necessarily be an image desired by the user. Therefore, in the present invention, an attribute associated with a similar image is referred to and another image associated with the attribute is displayed. The user can select an image according to his / her intention from the displayed images. At this time, if images are displayed together for each attribute, the user can easily select images. The image selected by the user reflects the user's intention. Thus, by performing an image search again based on the attribute of the selected image, it is possible to search for an image or information regarding the image that the user wanted.

例えば、上述の例では、ユーザが撮影した画像に最も類似する画像はAであったため画像Aが上述の“取得した画像”である。しかし、画像Aの属性をもとに抽出された画像は、画像Aのほかに、B、C、Eが存在するため、それらの画像が表示される(ステップS6)。表示画像をユーザが閲覧し選択することにより、ユーザが欲する画像ないし画像の情報は、画像Aではなく画像BやEに関するものであると推測される(図5、ステップS7)。したがって、再検索された後に表示される画像は画像Aではなく、属性が類似である画像B、C、D、Eである(図6、ステップS11)。   For example, in the above-described example, since the image most similar to the image captured by the user is A, the image A is the “acquired image” described above. However, since the images extracted based on the attributes of the image A include B, C, and E in addition to the image A, these images are displayed (step S6). When the user browses and selects a display image, it is presumed that the image or image information desired by the user relates to the image B or E, not the image A (FIG. 5, step S7). Therefore, the images displayed after the re-search are not the image A but the images B, C, D, and E having similar attributes (FIG. 6, step S11).

ユーザが欲していた画像ないし画像の情報は、画像被写体の外観から得られる特徴量に関する情報のみではなく、被写体となった物体のもつ情報(属性)を反映させる必要がある場合がある。本発明は画像の被写体の属性をも考慮して画像を検索することができるため、ユーザが所望の情報検索を行うことができる。   The image or image information desired by the user may need to reflect not only the information about the feature amount obtained from the appearance of the image subject but also the information (attribute) of the object that is the subject. According to the present invention, an image can be searched in consideration of the attribute of the subject of the image, so that the user can perform desired information search.

<実施形態1の具体例>
本発明の第1の実施の形態の具体例について図面を用いて補足説明する。図8は、記憶部11の記憶する画像と属性との対応づけの例を示している。ここで“飲料〜”(〜は数字)は飲料の画像を示している。“飲料1”には属性としてA社、炭酸、飲料、黒色が対応づけられている。このことは、例えば、“飲料1“の画像の被写体となる商品等が、A社製の炭酸飲料であり、色が黒色であることを示している、と理解することができる。
<Specific Example of Embodiment 1>
A specific example of the first embodiment of the present invention will be supplementarily described with reference to the drawings. FIG. 8 shows an example of correspondence between images and attributes stored in the storage unit 11. Here, “beverage˜” (˜ is a number) indicates an image of the beverage. “Beverage 1” is associated with company A, carbonic acid, beverage, and black as attributes. This can be understood, for example, that the product or the like that is the subject of the image of “beverage 1” is a carbonated beverage manufactured by A company and the color is black.

本例では、例えば“飲料1”に関する画像が取得されたと仮定する。このことは、ユーザが記憶部11に記憶された“飲料1”の画像を何らかの方法で選択した場合を含む。また、上述のように、“飲料1”に関する画像が取得された、とは、被写体をカメラで撮影することにより得られた画像と記憶部11に記憶された画像とが照合されて“飲料1”の画像が画像照合部等によって取得された場合を含む(ステップS1〜S3)。   In this example, it is assumed that an image related to “beverage 1” is acquired, for example. This includes a case where the user selects an image of “beverage 1” stored in the storage unit 11 by some method. Further, as described above, an image relating to “beverage 1” has been acquired. The image obtained by photographing the subject with the camera and the image stored in the storage unit 11 are collated and “beverage 1” is obtained. This includes the case where the image “is acquired by the image collation unit or the like (steps S1 to S3).

属性抽出部12は、取得された画像“飲料1”に対応付けられた属性を抽出する(ステップS4)。これにより、図9に示すように、A社、炭酸、飲料、黒色の属性が抽出される。次に画像抽出部13は、抽出された属性に対応づけられた画像を抽出する(ステップS5)。これにより、図9に示すように、属性 “A社”に対しては“飲料1”“飲料2”“飲料3”が抽出される。属性“炭酸”に対しては“飲料1”“飲料2”“飲料6”が抽出される。属性“飲料”に対しては“飲料1”“飲料2”“飲料3”“飲料4”“飲料5”“飲料6”が抽出される。属性“黒色”に対しては“飲料1”“飲料5”“飲料6”が抽出される。   The attribute extraction unit 12 extracts an attribute associated with the acquired image “beverage 1” (step S4). Thereby, as shown in FIG. 9, the attributes of company A, carbonic acid, beverage, and black are extracted. Next, the image extraction unit 13 extracts an image associated with the extracted attribute (step S5). As a result, as shown in FIG. 9, “beverage 1”, “beverage 2”, and “beverage 3” are extracted for the attribute “Company A”. For the attribute “carbonic acid”, “beverage 1”, “beverage 2”, and “beverage 6” are extracted. For the attribute “beverage”, “beverage 1” “beverage 2” “beverage 3” “beverage 4” “beverage 5” “beverage 6” are extracted. For the attribute “black”, “beverage 1”, “beverage 5”, and “beverage 6” are extracted.

画像表示部14は抽出された画像を表示する(ステップS6)。図10は属性ごとにこれらの画像が並べて表示された例を示している。画像の大きさや隙間は適宜変更されて良い。図10では全画像が一画面に表示されているが、全画像の表示に画面スクロールを要しても良い。また属性ごとに縦方向に画像が並べられているが、横方向に画像が並べられても良いし、他の形状に並べられても良い。例えば、図13に示すように、属性ごとにまとまりを持ったクラスターとして画像が表示されても良い。図11、13には属性の名称が表示されているが、属性の名称が表示される必要はない。また、属性の名称が表示される場合には属性の名称の近傍に当該属性に対応する画像が表示されるようにしても良い。   The image display unit 14 displays the extracted image (step S6). FIG. 10 shows an example in which these images are displayed side by side for each attribute. The size and gap of the image may be changed as appropriate. Although all images are displayed on one screen in FIG. 10, screen scrolling may be required to display all images. Further, although the images are arranged in the vertical direction for each attribute, the images may be arranged in the horizontal direction or in other shapes. For example, as shown in FIG. 13, an image may be displayed as a cluster having a group for each attribute. Although the attribute name is displayed in FIGS. 11 and 13, the attribute name need not be displayed. When an attribute name is displayed, an image corresponding to the attribute may be displayed near the attribute name.

ユーザは表示部14に表示された画像に対し、入力部15により画像の選択を行う(ステップS7)。図11では、属性“炭酸”に対応する画像“飲料2”“飲料6”及び属性“黒色”に対応する“飲料5”が選択された例を示している。図11では同じ飲料の画像が重複して表示されているが、属性ごとに並んで表示されているため、ユーザは画像の並びを見ることにより、並んだ画像に共通する属性を直感的に把握することができる。従って、たとえ属性の名称が表示部14に表示されていなくとも、ユーザは所望の画像を選択することができる。   The user selects an image from the input unit 15 for the image displayed on the display unit 14 (step S7). FIG. 11 shows an example in which images “beverage 2” and “beverage 6” corresponding to the attribute “carbonic acid” and “beverage 5” corresponding to the attribute “black” are selected. In FIG. 11, images of the same beverage are displayed in duplicate. However, since the images are displayed side by side for each attribute, the user intuitively grasps the attributes common to the arranged images by looking at the images. can do. Therefore, even if the attribute name is not displayed on the display unit 14, the user can select a desired image.

次に、検索部16は、選択画像と関連づけられた属性を抽出する(ステップS8)。図12に示されるように、選択された画像“飲料2””飲料6”“飲料5”に関連づけられた属性は、A社、炭酸、飲料、透明、B社、炭酸、飲料、黒色、コーヒー、飲料、黒色である。   Next, the search unit 16 extracts an attribute associated with the selected image (step S8). As shown in FIG. 12, the attributes associated with the selected images “beverage 2”, “beverage 6” and “beverage 5” are Company A, Carbonated, Beverage, Transparent, Company B, Carbonated, Beverage, Black, Coffee The beverage is black.

検索部16は、属性の個数が所定数以上の属性を算出する(ステップS9)。ここでは、所定数は2とする。図12に示されるように、抽出された属性のうち2つ以上のものは炭酸、飲料、黒色である。   The search unit 16 calculates an attribute having a predetermined number or more of attributes (step S9). Here, the predetermined number is 2. As shown in FIG. 12, two or more of the extracted attributes are carbonated, beverage, and black.

検索部16は、算出された属性に対応する画像を検索する(ステップS10)。炭酸、飲料、黒色の全ての属性と対応する画像は“飲料1”、“飲料6”であるから、検索部16はこれらの画像を記憶部11から抽出する。   The search unit 16 searches for an image corresponding to the calculated attribute (step S10). Since the images corresponding to all the attributes of carbonic acid, beverage, and black are “beverage 1” and “beverage 6”, the search unit 16 extracts these images from the storage unit 11.

このような一連の動作により、ユーザは所望の画像を得ることができる。その理由は以下の通りである。まず、ユーザは黒色の炭酸飲料に関する情報を取得したいと仮定する。そのため、ユーザは黒色の炭酸飲料商品を見つけた際、当該商品の画像をカメラ等によって取得する。この際、通常の画像照合によれば、当該商品と外観が類似する“飲料1”の画像を得ることができる。一方、ユーザは、黒色の炭酸飲料の商品の情報が欲しいため、“飲料1”以外にも黒色の炭酸飲料の画像を欲する場合がある。その場合、本発明によれば上述の処理により、黒色の炭酸飲料である“飲料6”の画像を得ることができる。そのため、ユーザは商品の外観に関係なく黒色の炭酸飲料に関する情報も得ることができる。   Through such a series of operations, the user can obtain a desired image. The reason is as follows. First, it is assumed that the user wants to obtain information regarding a black carbonated drink. Therefore, when a user finds a black carbonated drink product, the user acquires an image of the product using a camera or the like. At this time, according to normal image collation, an image of “beverage 1” having an appearance similar to that of the product can be obtained. On the other hand, since the user wants information on the product of the black carbonated drink, the user may desire an image of the black carbonated drink in addition to “Beverage 1”. In that case, according to the present invention, an image of “beverage 6” which is a black carbonated beverage can be obtained by the above-described processing. Therefore, the user can also obtain information regarding the black carbonated drink regardless of the appearance of the product.

このように、本発明は画像(の被写体)の属性をも考慮して画像を検索することができるため、ユーザが所望の情報検索を行うことができる。   As described above, the present invention can search for an image in consideration of the attribute of the image (subject), so that the user can search for desired information.

<実施形態2>
次に、本発明の第2の実施の形態について説明する。本実施の形態では、実施形態1で説明した属性が階層構造を有している点で上述の例と異なる。以下では実施形態1と異なる点を中心に説明する。
<Embodiment 2>
Next, a second embodiment of the present invention will be described. The present embodiment is different from the above example in that the attributes described in the first embodiment have a hierarchical structure. Below, it demonstrates focusing on a different point from Embodiment 1. FIG.

図14には、属性の階層化を示す一例が示されている。図14は、例えば、属性1の直下位階層に属性11、12、13が存在することを示している。また、図14は、例えば、属性1111の上位階層は属性111、属性11、属性1であることを示している。本実施の形態における属性はこのような階層構造を有しており、自属性には上位または下位の属性が存在する。なお、このような属性の階層化を示す情報は記憶部11乃至外部記憶部等に記憶されている。   FIG. 14 shows an example of attribute hierarchization. FIG. 14 shows, for example, that the attributes 11, 12, and 13 exist in the immediately lower hierarchy of the attribute 1. FIG. 14 shows that, for example, the upper layer of the attribute 1111 is the attribute 111, the attribute 11, and the attribute 1. The attributes in the present embodiment have such a hierarchical structure, and there are upper and lower attributes in the own attributes. Information indicating such attribute hierarchization is stored in the storage unit 11 to the external storage unit.

本実施の形態では、属性抽出部12は、上位階層の属性も抽出する。具体例を用いて説明する。図15には、食べ物のジャンル属性に関する階層例が示されている。ここでは、和食の下位階層には寿司、うなぎ、天ぷらが位置づけられ、寿司の下位階層にはまぐろ、えび、いくらが位置づけられている。これらの対応関係は記憶部11や他の記憶部に記憶されている。図16には、記憶部11の記憶する画像と属性との対応関係が示されている。ここで、まぐろ寿司の写真1が情報処理装置1に取得されたと仮定する。この場合、上述の実施形態においては、属性“まぐろ”に対応する“まぐろ寿司の写真1”と“まぐろ寿司の写真2”とが属性抽出部12によって抽出される。一方、本実施の形態における属性抽出部12は、属性“まぐろ”に加え、上位階層の属性も抽出する。本例では、属性“寿司”と属性“和食”が属性“まぐろ”の上位階層である。そのため、属性抽出部12は属性について、まぐろ、寿司、和食を抽出する。   In the present embodiment, the attribute extraction unit 12 also extracts higher-level attributes. This will be described using a specific example. FIG. 15 shows a hierarchical example related to the genre attribute of food. Here, sushi, eel and tempura are positioned in the lower hierarchy of Japanese food, and tuna, shrimp and how much are positioned in the lower hierarchy of sushi. These correspondences are stored in the storage unit 11 and other storage units. FIG. 16 shows the correspondence between images and attributes stored in the storage unit 11. Here, it is assumed that the tuna sushi photo 1 is acquired by the information processing apparatus 1. In this case, in the above-described embodiment, the attribute extraction unit 12 extracts “tuna sushi photo 1” and “tuna sushi photo 2” corresponding to the attribute “tuna”. On the other hand, the attribute extraction unit 12 in the present embodiment also extracts higher-level attributes in addition to the attribute “tuna”. In this example, the attribute “sushi” and the attribute “Japanese food” are higher layers than the attribute “Tuna”. Therefore, the attribute extraction unit 12 extracts tuna, sushi, and Japanese food for the attribute.

次に画像抽出部13は、抽出された属性に対応する画像を抽出する。本例では、まぐろ、寿司、和食の各属性に対応する画像が抽出される。   Next, the image extraction unit 13 extracts an image corresponding to the extracted attribute. In this example, images corresponding to the attributes of tuna, sushi, and Japanese food are extracted.

次に、表示部14は、抽出された画像を属性ごとにまとめて表示する。図17は表示例を示した図である。図17に示されるように、まぐろ、寿司、和食の各々の属性ごとに対応する画像が表示される。ユーザは、入力部15を介して画像を選択する。以降の検索部16、出力部17の動作は実施形態1と同様である。   Next, the display unit 14 displays the extracted images collectively for each attribute. FIG. 17 shows a display example. As shown in FIG. 17, an image corresponding to each attribute of tuna, sushi, and Japanese food is displayed. The user selects an image via the input unit 15. The subsequent operations of the search unit 16 and the output unit 17 are the same as those in the first embodiment.

図18は本実施の形態の動作例を示している。ステップS1〜3までは実施形態1と同様である。次にステップS21において、属性抽出部12は、画像と関連付けられた属性および当該属性の上位階層に位置する属性を抽出する。その後の動作は実施形態1のステップS5以降と同様である。   FIG. 18 shows an operation example of this embodiment. Steps S1 to S3 are the same as those in the first embodiment. Next, in step S21, the attribute extraction unit 12 extracts an attribute associated with the image and an attribute located in a higher hierarchy of the attribute. The subsequent operation is the same as that after step S5 in the first embodiment.

本実施の形態の利用例を説明する。例えば、ユーザは、まぐろ寿司を情報処理装置1のカメラで撮影する。その結果、情報処理装置1は、まぐろ寿司と類似度の高い“まぐろ寿司の写真1“を上述のように取得する。その後、上述の動作によって図17のように表示部14に様々な画像が表示される。当該画像のうち、ユーザが選択した画像が“複数のにぎり寿司が写っている写真”や“巻き寿司の写真”であれば、ユーザはまぐろ寿司だけではなく、寿司の画像に関する情報が欲しいことが分かる。従って、その後の情報検索においては、まぐろ寿司ではなく、寿司一般に関しての情報検索を行うことができる。例えば、記憶部11に各画像に対応付けてURL(Uniform Resource Locator)が記憶されていれば、出力部17は、ステップS11で直接URL先の情報をユーザに提示しても良い。   An example of use of this embodiment will be described. For example, the user photographs tuna sushi with the camera of the information processing apparatus 1. As a result, the information processing apparatus 1 acquires the “tuna sushi photo 1” having high similarity to the tuna sushi as described above. Thereafter, various images are displayed on the display unit 14 as shown in FIG. If the image selected by the user is a "photo with multiple nigiri sushi" or "a roll of sushi", the user may want information about the sushi image, not just the tuna sushi. I understand. Therefore, in subsequent information retrieval, it is possible to perform information retrieval regarding sushi in general, not tuna sushi. For example, if a URL (Uniform Resource Locator) is stored in the storage unit 11 in association with each image, the output unit 17 may directly present the URL destination information to the user in step S11.

本実施の形態によれば、属性を階層化しておくことにより、ユーザに適切な階層レベルで情報を提示することができる。従って、画像そのものの特徴のみならず、画像の被写体の属性をも考慮してユーザの所望する情報検索を行うことができる。   According to the present embodiment, it is possible to present information to the user at an appropriate hierarchical level by hierarchizing attributes. Therefore, information retrieval desired by the user can be performed in consideration of not only the characteristics of the image itself but also the attributes of the subject of the image.

<実施形態3>
次に、本発明の第3の実施の形態について説明する。本実施の形態における情報処理装置1は、記憶部11と、属性抽出部12と、画像抽出部13と、表示部14と、入力部15と、検索部16と、出力部17と、を備える。
<Embodiment 3>
Next, a third embodiment of the present invention will be described. The information processing apparatus 1 according to the present embodiment includes a storage unit 11, an attribute extraction unit 12, an image extraction unit 13, a display unit 14, an input unit 15, a search unit 16, and an output unit 17. .

記憶部11は画像と属性とを対応付けて記憶する。属性抽出部12は、取得した画像に対応する属性を記憶部11から抽出する。なお、属性抽出部12は、画像を分析することによって属性を抽出しても良い。すなわち、取得した画像に対して属性抽出部12は所定の観点から属性を分析する。所定の観点とは、例えば、被写体の色、ロゴ、形などの特徴量である。この場合、属性抽出部12は、取得した画像に対応する属性を記憶部11から抽出せずに、所定の観点から分析した属性を抽出しても良い。このように、属性抽出部12が画像から属性を抽出する方法には、少なくとも、記憶部11を介する場合と介さない場合があり、これらをまとめて「画像から属性を抽出する」と称する。画像抽出部13は、抽出された属性に対応づけられた画像を記憶部11から抽出する。表示部14は、抽出された画像を表示する。入力部15は、表示された画像の選択を受け付ける。検索部16は、選択された画像に対応づけられた属性に基づいて、記憶部11から画像の再抽出を行う。   The storage unit 11 stores images and attributes in association with each other. The attribute extraction unit 12 extracts an attribute corresponding to the acquired image from the storage unit 11. Note that the attribute extraction unit 12 may extract attributes by analyzing an image. That is, the attribute extraction unit 12 analyzes attributes from a predetermined viewpoint with respect to the acquired image. The predetermined viewpoint is, for example, a feature amount such as a color, a logo, or a shape of the subject. In this case, the attribute extraction unit 12 may extract an attribute analyzed from a predetermined viewpoint without extracting the attribute corresponding to the acquired image from the storage unit 11. As described above, the attribute extracting unit 12 extracts an attribute from an image at least through the storage unit 11 and may not be used. These are collectively referred to as “extract attributes from an image”. The image extraction unit 13 extracts an image associated with the extracted attribute from the storage unit 11. The display unit 14 displays the extracted image. The input unit 15 receives selection of the displayed image. The search unit 16 re-extracts the image from the storage unit 11 based on the attribute associated with the selected image.

このような構成によれば、画像(の被写体)の属性をも考慮して画像を検索することができるため、ユーザが所望の情報検索を行うことができる。   According to such a configuration, the image can be searched in consideration of the attribute of the image (subject), and thus the user can search for desired information.

以上、実施形態を参照して本願発明を説明したが、本願発明は上記実施形態に限定されるものではない。本願発明の構成は、本願発明のスコープ内で当業者が理解しうる様々な変更をすることができる。例えば、1つの構成体で構成されているように記載されているものを複数の構成体で構成させることもできる。例えば、図20に示すように、情報処理装置を二つに分け、情報処理装置2には画像取得機能と画像の通信機能(通信部)、画像表示選択機能等(表示部14、入力部15、出力部17)だけを持たせても良い。この場合情報処理装置1は通信により取得した画像に対して上述の検索処理等を行い、検索結果を返す機能を持つ(通信部、特徴量抽出部18、照合部19、属性抽出部12、記憶部11、画像抽出部13、検索部16)。すなわち、2つの情報処理装置によって構成される情報処理システムが実現される。より詳細には、情報処理装置2は、画像を情報処理装置1に送信する送信部(通信部)と、画像を表示する表示部14と、表示された画像の選択を受け付けて情報処理装置1に送信する入力部15と、受信した検索結果を出力する出力部17と、を備える。入力部15が選択画像を送信する通信機能を備える点で上述の実施形態と異なるが、通信は通信部が行っても良い。一方、情報処理装置1は、画像と属性とを対応付けて記憶する記憶部11と、情報処理装置2から受信した画像に対応する属性を記憶部11から抽出する属性抽出部12とを備える。また、情報処理装置1は、抽出された属性に対応づけられた画像を記憶部11から抽出して情報処理装置1に送信する画像抽出部13を備える。画像抽出部13が通信機能を備える点で上述の実施形態とは異なるが、通信は通信部が行っても良い。また、情報処理装置1は、情報処理装置2で選択された画像に対応づけられた属性に基づいて、記憶部11から画像の再抽出を行う検索部16を備える。このような構成によれば、情報処理装置2自体の構成を簡略化しつつ、情報処理装置2で本発明の効果を実現できる。このように、本願発明の構成は、本願発明のスコープ内で当業者が理解しうる様々な変更が可能である。   While the present invention has been described with reference to the embodiments, the present invention is not limited to the above embodiments. The configuration of the present invention can be variously modified by those skilled in the art within the scope of the present invention. For example, what is described as being composed of one component can be composed of a plurality of components. For example, as shown in FIG. 20, the information processing apparatus is divided into two, and the information processing apparatus 2 includes an image acquisition function, an image communication function (communication unit), an image display selection function, and the like (display unit 14, input unit 15). , Only the output unit 17) may be provided. In this case, the information processing apparatus 1 has a function of performing the above-described search processing on an image acquired through communication and returning a search result (communication unit, feature amount extraction unit 18, collation unit 19, attribute extraction unit 12, storage Section 11, image extraction section 13, search section 16). That is, an information processing system including two information processing apparatuses is realized. More specifically, the information processing device 2 receives a selection of the displayed image and a transmission unit (communication unit) that transmits an image to the information processing device 1, a display unit 14 that displays the image, and the information processing device 1 And an output unit 17 for outputting the received search results. Although the input unit 15 is different from the above-described embodiment in that the input unit 15 includes a communication function for transmitting the selected image, the communication unit may perform communication. On the other hand, the information processing apparatus 1 includes a storage unit 11 that stores an image and an attribute in association with each other, and an attribute extraction unit 12 that extracts an attribute corresponding to the image received from the information processing apparatus 2 from the storage unit 11. In addition, the information processing apparatus 1 includes an image extraction unit 13 that extracts an image associated with the extracted attribute from the storage unit 11 and transmits the image to the information processing apparatus 1. Although the image extraction unit 13 is different from the above-described embodiment in that it has a communication function, communication may be performed by the communication unit. Further, the information processing apparatus 1 includes a search unit 16 that re-extracts an image from the storage unit 11 based on an attribute associated with the image selected by the information processing apparatus 2. According to such a configuration, the effect of the present invention can be realized by the information processing device 2 while simplifying the configuration of the information processing device 2 itself. As described above, the configuration of the present invention can be variously modified by those skilled in the art within the scope of the present invention.

1 情報処理装置
11 記憶部
12 属性抽出部
13 画像抽出部
14 表示部
15 入力部
16 検索部
17 出力部
18 特徴量抽出部
19 照合部
DESCRIPTION OF SYMBOLS 1 Information processing apparatus 11 Storage part 12 Attribute extraction part 13 Image extraction part 14 Display part 15 Input part 16 Search part 17 Output part 18 Feature-value extraction part 19 Collation part

Claims (10)

取得した画像から属性を抽出する属性抽出手段と、
抽出された属性に対応づけられた画像を記憶手段から抽出する画像抽出手段と、
抽出された画像を表示する表示手段と、
表示された画像の選択を受け付ける入力手段と、
選択された画像に対応づけられた前記属性に基づいて、前記記憶手段から画像の再抽出を行う検索手段と、
検索結果を出力する出力手段と、
を備える情報処理装置。
Attribute extraction means for extracting attributes from the acquired image;
Image extracting means for extracting an image associated with the extracted attribute from the storage means;
Display means for displaying the extracted image;
Input means for accepting selection of the displayed image;
Search means for re-extracting the image from the storage means based on the attribute associated with the selected image;
An output means for outputting the search results;
An information processing apparatus comprising:
前記表示手段は抽出された前記画像と前記属性とを対応付けて表示させる請求項1に記載の情報処理装置。   The information processing apparatus according to claim 1, wherein the display unit displays the extracted image and the attribute in association with each other. 前記属性は、他の属性と対応付けられて前記記憶手段に記憶され、
前記属性抽出手段は、取得した画像に対応する前記属性及び当該属性に対応づけられた前記他の属性を前記記憶手段から抽出する請求項1または2に記載の情報処理装置。
The attribute is stored in the storage means in association with another attribute,
The information processing apparatus according to claim 1, wherein the attribute extraction unit extracts the attribute corresponding to the acquired image and the other attribute associated with the attribute from the storage unit.
画像を送信する送信手段と、
画像を表示する表示手段と、
表示された画像の選択を受け付けて第2の情報処理装置に送信する入力手段と、
受信した検索結果を出力する出力手段と、
を備える第1の情報処理装置と、
受信した画像から属性を抽出する属性抽出手段と、
抽出された属性に対応づけられた画像を記憶手段から抽出して前記第1の情報処理装置に送信する画像抽出手段と、
前記第1の情報処理装置で選択された画像に対応づけられた前記属性に基づいて、前記記憶手段から画像の再抽出を行う検索手段と、
を備える第2の情報処理装置と、を含む情報処理システム。
A transmission means for transmitting an image;
Display means for displaying an image;
Input means for accepting selection of the displayed image and transmitting it to the second information processing apparatus;
An output means for outputting the received search results;
A first information processing apparatus comprising:
Attribute extraction means for extracting attributes from the received image;
Image extracting means for extracting an image associated with the extracted attribute from the storage means and transmitting it to the first information processing apparatus;
Search means for re-extracting an image from the storage means based on the attribute associated with the image selected by the first information processing apparatus;
An information processing system comprising: a second information processing apparatus comprising:
取得した画像から属性を抽出する属性抽出ステップと、
抽出された属性に対応づけられた画像を記憶手段から抽出する画像抽出ステップと、
抽出された画像を表示する表示ステップと、
表示された画像の選択を受け付ける入力ステップと、
選択された画像に対応づけられた前記属性に基づいて、前記記憶手段から画像の再抽出を行う検索ステップと、
検索結果を出力する出力ステップと、
をコンピュータに実行させる情報処理プログラム。
An attribute extraction step for extracting attributes from the acquired image;
An image extraction step of extracting from the storage means an image associated with the extracted attribute;
A display step for displaying the extracted image;
An input step for accepting selection of the displayed image;
A search step of re-extracting the image from the storage means based on the attribute associated with the selected image;
An output step for outputting the search results;
An information processing program that causes a computer to execute.
前記表示ステップにおいて、抽出された前記画像と前記属性とを対応付けて表示させる請求項5に記載の情報処理プログラム。   The information processing program according to claim 5, wherein in the display step, the extracted image and the attribute are displayed in association with each other. 前記属性は、他の属性と対応付けられて前記記憶手段に記憶され、
前記属性抽出ステップにおいて、取得した画像に対応する前記属性及び当該属性に対応づけられた前記他の属性を前記記憶手段から抽出する請求項5または6に記載の情報処理プログラム。
The attribute is stored in the storage means in association with another attribute,
The information processing program according to claim 5 or 6, wherein, in the attribute extraction step, the attribute corresponding to the acquired image and the other attribute associated with the attribute are extracted from the storage unit.
取得した画像から属性を抽出し、
抽出された属性に対応づけられた画像を抽出し、
抽出された画像を表示し、
表示された画像の選択を受け付け、
選択された画像に対応づけられた前記属性に基づいて、画像の再抽出を行い、
検索結果を出力する情報処理方法。
Extract attributes from the acquired image,
Extract the images associated with the extracted attributes,
Display the extracted image,
Accept selection of displayed image,
Based on the attribute associated with the selected image, re-extracting the image,
An information processing method for outputting search results.
抽出された前記画像と前記属性とを対応付けて表示させる請求項8に記載の情報処理方法。   The information processing method according to claim 8, wherein the extracted image and the attribute are displayed in association with each other. 前記属性を、他の属性と対応付けて記憶し、
取得した画像に対応する前記属性及び当該属性に対応づけられた前記他の属性を抽出する請求項8または9に記載の情報処理方法。
Storing the attribute in association with another attribute;
The information processing method according to claim 8 or 9, wherein the attribute corresponding to the acquired image and the other attribute associated with the attribute are extracted.
JP2014053241A 2014-03-17 2014-03-17 Information processing apparatus, system, method, and program Active JP6409294B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014053241A JP6409294B2 (en) 2014-03-17 2014-03-17 Information processing apparatus, system, method, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014053241A JP6409294B2 (en) 2014-03-17 2014-03-17 Information processing apparatus, system, method, and program

Publications (2)

Publication Number Publication Date
JP2015176422A true JP2015176422A (en) 2015-10-05
JP6409294B2 JP6409294B2 (en) 2018-10-24

Family

ID=54255545

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014053241A Active JP6409294B2 (en) 2014-03-17 2014-03-17 Information processing apparatus, system, method, and program

Country Status (1)

Country Link
JP (1) JP6409294B2 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018173734A (en) * 2017-03-31 2018-11-08 富士通株式会社 Image display program, image display device and image display method

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002007469A (en) * 2000-06-23 2002-01-11 Yamaha Motor Co Ltd Retrieving method, retrieving device and image retrieving device
JP2004102503A (en) * 2002-09-06 2004-04-02 Sharp Corp Image processor, image retrieval method and computer software
JP2011166214A (en) * 2010-02-04 2011-08-25 Canon Inc Image retrieval device and control method of the same
JP2011210000A (en) * 2010-03-30 2011-10-20 Yahoo Japan Corp Image search device

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002007469A (en) * 2000-06-23 2002-01-11 Yamaha Motor Co Ltd Retrieving method, retrieving device and image retrieving device
JP2004102503A (en) * 2002-09-06 2004-04-02 Sharp Corp Image processor, image retrieval method and computer software
JP2011166214A (en) * 2010-02-04 2011-08-25 Canon Inc Image retrieval device and control method of the same
JP2011210000A (en) * 2010-03-30 2011-10-20 Yahoo Japan Corp Image search device

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018173734A (en) * 2017-03-31 2018-11-08 富士通株式会社 Image display program, image display device and image display method

Also Published As

Publication number Publication date
JP6409294B2 (en) 2018-10-24

Similar Documents

Publication Publication Date Title
US11157577B2 (en) Method for searching and device thereof
JP5390718B2 (en) Information provision device
KR101660271B1 (en) Metadata tagging system, image searching method, device, and method for tagging gesture
US20130124551A1 (en) Obtaining keywords for searching
JP2008192055A (en) Content search method and content search apparatus
US10042541B2 (en) Information processing apparatus and information processing method for utilizing various cross-sectional types of user input
US20170242554A1 (en) Method and apparatus for providing summary information of a video
US11314826B2 (en) Method for searching and device thereof
JP2007317034A (en) Image processing apparatus, image processing method, program, and recording medium
US11709881B2 (en) Visual menu
CN107229741A (en) Information search method, device, equipment and storage medium
US20180260364A1 (en) Display apparatus and information displaying method thereof
JPWO2018066102A1 (en) Information providing system, information providing apparatus, information providing method, and program
US10725620B2 (en) Generating interactive menu for contents search based on user inputs
EP3486796A1 (en) Search method and device
WO2020068241A1 (en) Fashion by trend user interfaces
KR20150019668A (en) Supporting Method For suggesting information associated with search and Electronic Device supporting the same
JP6409294B2 (en) Information processing apparatus, system, method, and program
KR102408256B1 (en) Method for Searching and Device Thereof
US20220383382A1 (en) Product information processing system, product information processing method, and recording medium
US20160066045A1 (en) Method, electronic device, and computer program product
JP2009140339A (en) Information processor and information processing method
JP5793540B2 (en) SEARCH DEVICE, SEARCH SYSTEM, AND PROGRAM
CN115907889A (en) Commodity information display method and electronic equipment
US20210090134A1 (en) Electronic book display system, electronic book display method, and program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170215

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180126

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180213

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180329

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180828

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180910

R150 Certificate of patent or registration of utility model

Ref document number: 6409294

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150