JP2015176422A - Device, system, method, and program for processing information - Google Patents
Device, system, method, and program for processing information Download PDFInfo
- Publication number
- JP2015176422A JP2015176422A JP2014053241A JP2014053241A JP2015176422A JP 2015176422 A JP2015176422 A JP 2015176422A JP 2014053241 A JP2014053241 A JP 2014053241A JP 2014053241 A JP2014053241 A JP 2014053241A JP 2015176422 A JP2015176422 A JP 2015176422A
- Authority
- JP
- Japan
- Prior art keywords
- image
- attribute
- information processing
- extracted
- unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Processing Or Creating Images (AREA)
Abstract
Description
本発明は、情報処理装置、システム、方法及びプログラムに関する。 The present invention relates to an information processing apparatus, system, method, and program.
インターネットの発展によりウェブ上で様々な検索が行われている。検索には、文字をクエリとしてデータベースからデータを抽出する方法の他、画像をクエリとして情報検索を行う方法も知られている(特許文献1参照)。 Various searches are performed on the web due to the development of the Internet. In addition to a method of extracting data from a database using characters as a query, a method of performing an information search using an image as a query is also known (see Patent Document 1).
ところで、例えば海外旅行の際に旅行者は渡航先の言語が分からないことがある。そのため、旅行者が渡航先の店舗で販売されている商品等の情報検索を行おうとしても、適切な言葉でクエリを作成することが困難である場合がある。そのような場合に商品の画像を用いて情報検索を行うことができれば便利である。 By the way, for example, when traveling abroad, a traveler may not know the language of the destination. For this reason, even if a traveler tries to search for information such as products sold at a destination store, it may be difficult to create a query using appropriate words. In such a case, it would be convenient if information retrieval could be performed using product images.
ところが、画像をクエリとした場合、検索者が何を検索対象としたのかが特定できないことがある。例えば、ある炭酸飲料商品の画像がクエリとなった場合、検索者は、その炭酸飲料商品そのものを検索したかったのではなく、他の炭酸商品、あるいは単に飲料商品を検索したかったということも有り得る。 However, when an image is used as a query, it may not be possible to specify what the searcher has searched for. For example, when an image of a carbonated drink product becomes a query, the searcher may not want to search for the carbonated drink product itself but also search for another carbonated product or simply a drink product. It is possible.
上述の技術では、撮影画像と類似する画像の検索の一例を示すものではあるが、このような課題については考慮されておらず、所望の情報検索を行うことができないおそれがある。 The above-described technique shows an example of searching for an image similar to a photographed image, but such a problem is not taken into consideration, and there is a possibility that desired information search cannot be performed.
そこで、本発明は、所望の情報検索を行うことのできる情報処理装置、システム、方法及びプログラムを提供することを目的とする。 SUMMARY An advantage of some aspects of the invention is that it provides an information processing apparatus, system, method, and program capable of performing desired information retrieval.
かかる目的を達成するため、本発明の一形態は、情報処理装置であって、取得した画像から属性を抽出する属性抽出手段と、抽出された属性に対応づけられた画像を記憶手段から抽出する画像抽出手段と、抽出された画像を表示する表示手段と、表示された画像の選択を受け付ける入力手段と、選択された画像に対応づけられた前記属性に基づいて、前記記憶手段から画像の再抽出を行う検索手段と、検索結果を出力する出力手段と、を備える。 In order to achieve such an object, an embodiment of the present invention is an information processing apparatus, which extracts attribute from an acquired image, and extracts an image associated with the extracted attribute from a storage unit. Based on the attribute associated with the selected image, the image extracting means, the display means for displaying the extracted image, the input means for accepting the selection of the displayed image, and the replay of the image from the storage means. Search means for performing extraction, and output means for outputting the search results are provided.
また、本発明は、画像を送信する送信手段と、画像を表示する表示手段と、表示された画像の選択を受け付けて第2の情報処理装置に送信する入力手段と、受信した検索結果を出力する出力手段と、を備える第1の情報処理装置と、受信した画像から属性を抽出する属性抽出手段と、抽出された属性に対応づけられた画像を記憶手段から抽出して前記第1の情報処理装置に送信する画像抽出手段と、前記第1の情報処理装置で選択された画像に対応づけられた前記属性に基づいて、前記記憶手段から画像の再抽出を行う検索手段と、を備える第2の情報処理装置と、を含む情報処理システムを提供する。 In addition, the present invention provides a transmission unit that transmits an image, a display unit that displays an image, an input unit that receives a selection of the displayed image and transmits it to the second information processing apparatus, and outputs a received search result An output means for extracting the attribute from the received image, an image associated with the extracted attribute from the storage means, and extracting the first information from the storage means. Image extraction means for transmitting to the processing apparatus; and search means for re-extracting the image from the storage means based on the attribute associated with the image selected by the first information processing apparatus. An information processing system including two information processing apparatuses is provided.
また、本発明は、取得した画像に対応する属性を抽出し、抽出された属性に対応づけられた画像を抽出し、抽出された画像を表示し、表示された画像の選択を受け付け、選択された画像に対応づけられた前記属性に基づいて、画像の再抽出を行い、検索結果を出力する情報処理方法を提供する。 Further, the present invention extracts an attribute corresponding to the acquired image, extracts an image associated with the extracted attribute, displays the extracted image, accepts selection of the displayed image, is selected An information processing method for re-extracting an image based on the attribute associated with the image and outputting a search result is provided.
また、本発明は、コンピュータに、取得した画像から属性を抽出する属性抽出ステップと、抽出された属性に対応づけられた画像を記憶手段から抽出する画像抽出ステップと、抽出された画像を表示する表示ステップと、表示された画像の選択を受け付ける入力ステップと、選択された画像に対応づけられた前記属性に基づいて、前記記憶手段から画像の再抽出を行う検索ステップと、検索結果を出力する出力ステップと、を実行させる情報処理プログラムを提供する。 Further, the present invention displays, on a computer, an attribute extraction step for extracting an attribute from the acquired image, an image extraction step for extracting an image associated with the extracted attribute from the storage means, and the extracted image. A display step; an input step for receiving selection of the displayed image; a search step for re-extracting the image from the storage means based on the attribute associated with the selected image; and outputting a search result And an information processing program for executing the output step.
本発明は、所望の情報検索を行うことのできる情報処理装置、システム、方法及びプログラムを提供する。 The present invention provides an information processing apparatus, system, method, and program capable of performing desired information retrieval.
以下、本発明の実施の形態について、図面を用いて説明する。すべての図面において、同様な構成要素には同様の符号を付し、適宜説明を省略する。 Hereinafter, embodiments of the present invention will be described with reference to the drawings. In all the drawings, the same components are denoted by the same reference numerals, and description thereof will be omitted as appropriate.
なお、以下の説明における装置等を構成する各部は、論理回路等のハードウェアで構成される。また、各部は、コンピュータの制御部、メモリ、メモリにロードされたプログラム、プログラムを格納するハードディスク等の記憶ユニット、ネットワーク接続用インターフェースなどからなり、ハードウェアとソフトウェアの任意の組合せによって実現されてもよい。そして特に断りのない限り、その実現方法、装置は限定されない。 In addition, each part which comprises the apparatus in the following description is comprised by hardware, such as a logic circuit. Each unit includes a computer control unit, a memory, a program loaded in the memory, a storage unit such as a hard disk for storing the program, a network connection interface, and the like, and may be realized by any combination of hardware and software. Good. And unless there is particular notice, the realization method and apparatus are not limited.
また、実施形態における各部を制御する制御部はCPU(Central Processing Unit)などからなる。そして、制御部はOS(Operating system)を動作させて装置等の全体を制御するとともに、例えばドライブ装置などに装着された記録媒体からメモリにプログラムやデータを読み出し、これに従って各種の処理を実行する。記録媒体は、例えば光ディスク、フレキシブルディスク、磁気光ディスク、外付けハードディスク、半導体メモリ等であって、コンピュータプログラムをコンピュータが読み取り可能に記録する。また、コンピュータプログラムは、通信網に接続されている図示しない外部コンピュータからダウンロードされても良い。 In addition, the control unit that controls each unit in the embodiment includes a CPU (Central Processing Unit) and the like. The control unit operates an OS (Operating system) to control the entire apparatus and the like, and reads a program and data from a recording medium mounted on a drive device, for example, to a memory, and executes various processes according to the program and data. . The recording medium is, for example, an optical disk, a flexible disk, a magnetic optical disk, an external hard disk, a semiconductor memory, or the like, and records a computer program so that the computer can read it. The computer program may be downloaded from an external computer (not shown) connected to the communication network.
<実施形態1>
まず、本発明の第1の実施形態について図面を用いて説明する。図1には、本実施の形態にかかる情報管理装置1の一例が示されている。
<
First, a first embodiment of the present invention will be described with reference to the drawings. FIG. 1 shows an example of an
情報処理装置1は、記憶部11と、属性抽出部12と、画像抽出部13と、表示部14と、入力部15と、検索部16と、出力部17と、特徴量抽出部18と、照合部19とを備える。情報処理装置1は、例えばカメラ機能を備えるスマートフォンなどの携帯端末であるがそれに限定されない。以下では、情報処理装置1が不図示のカメラ機能を備える例を説明する。
The
記憶部11は、画像と属性とを対応付けて記憶する。画像は、画像自体のみならず画像の特徴量であっても良い。属性とは、画像に紐づけられた情報であり、一般的には画像ないしその被写体の特徴を示す情報である。例えば、画像がコーヒー飲料の画像である場合、その属性は、商品:“飲料”、色:“黒い”、味:“苦い”、販売会社名:“〜株式会社”、などである。
The
図2は記憶部11が記憶する画像と属性との対応づけの一例を示している。ここで、属性1〜6は各々異なる属性を示している。図2は、例えば、画像Aと属性1〜3とが対応づけられていることを示している。
FIG. 2 shows an example of correspondence between images and attributes stored in the
属性抽出部12は、取得した画像に対応する属性を記憶部11から抽出する。ここで、“取得した画像”とは、例えば、情報処理装置1が備えるカメラが撮像した画像である。すなわち、画像は、情報処理装置1の所持者(以下、単にユーザという)がカメラ等で撮像した商品等の画像である。あるいは、情報処理装置1が通信機能を備える場合には、“取得した画像”は、外部装置から取得した画像であっても良い。“取得した画像“は、カメラ等で撮像された画像に類似する画像として記憶部11等から抽出された画像でも良い。この場合、特徴量抽出部18、照合部19によって、カメラ等で撮像された画像の特徴量が記憶部11に格納された画像の特徴量と照合され、類似する画像が検索される。このように検索された画像が”取得した画像”であっても良い。なお、特徴量抽出部18は、画像から特徴量抽出を行う機能を有するが特徴量抽出の方法は様々な方法が知られているため詳述しない。また、照合部19は、記憶部11を検索して、画像の特徴量同士のマッチング処理を行い、特徴量が所定以上一致する類似画像が存在するか否かを判定する機能を有する。このような照合処理についても様々な方法が知られているため詳述しない。
The
属性抽出部12は、画像を取得すると、記憶部11を参照し、取得した画像に対応する属性を抽出する。例えば、取得した画像が画像Aであれば、属性抽出部12は、属性1〜3を抽出する。
When the
画像抽出部13は、属性抽出部12により抽出された属性に対応づけられた画像を記憶部11から抽出する。例えば、属性抽出部12が抽出した属性が1〜3であれば、画像抽出部13は、属性1〜3に対応付けられた画像を抽出する。
The
図3には、属性1〜3に対応付けられた画像を抽出する画像抽出部13の動作イメージが示されている。図2を参照すると、属性1に対応する画像は画像A、画像Cである。属性2に対応する画像は画像A、画像B、画像Cである。属性3に対応する画像は画像A、画像Eである。そのため、画像抽出部13はこれらの画像を抽出する。画像抽出部13はこれらの画像を属性ごとに抽出しても良い。その場合、同一の画像が重複して抽出される場合もある。例えば、図3では、画像A、Cが重複して抽出されている。
FIG. 3 shows an operation image of the
表示部14は、抽出された画像を表示する。例えば、表示部14は、属性ごとに抽出された画像を属性と対応付けて表示させても良い。図4には、表示部14上に、属性ごとに画像が列に並んで表示される例を示している。図4では、属性1に対応する画像A、Cが左列に並んでおり、属性2に対応する画像A、B、Cが中央列に並んでおり、属性3に対応する画像A、Eが右列に並んでいる。なお、図4には属性名が表示部14に表示されているが、属性名は必ずしも表示される必要はない。また、属性ごとに抽出された画像を属性と対応付けて表示させる例は図4の態様に限られない。他の例については後述する。
The
入力部15は表示された画像の選択を受け付ける機能を有する。例えば、図5に示すように、入力部15は表示部14と一体的に設けられたタッチパネルでも良い。入力部15は画像を選択できるキーボタン等でも良いが、ここでは入力部15が図5に示すタッチパネルである場合を例に説明する。ユーザは、表示部14に表示された画像を選択するために、画像上をタッチする。タッチされた画像は他の画像と区別可能に表示される。例えば、図5では選択された画像に丸印がついている。ユーザは入力部15を介して、自分が検索対象としたかった画像に類似する画像を選択することができる。図5では、ユーザが画像BとEとを選択したことを示している。
The
検索部16は、選択された画像に対応づけられた属性に基づいて、記憶部11から画像の再抽出を行う。例えば、ユーザが画像BとEとを選択した場合、検索部16は、画像BとEにそれぞれ対応する属性に基づいて画像の抽出を行う。
The
図6には、検索部16の動作イメージが示されている。記憶部11を参照すると、画像Bに対応する属性は2と4である。また、画像Eに対応する属性は3、4、6である。ここで、検索部16は、属性の個数が所定数以上の属性を算出する。例えば、本例では、属性2、3、6は1つ、属性4は2つである。そのため、所定数が2であれば、属性4が算出される。本実施形態では所定数を2として説明する。
FIG. 6 shows an operation image of the
次に、検索部16は算出された属性に対応する画像を記憶部11から抽出する。本例では、所定数を2としているため属性4が算出される。そのため、検索部16は、属性4に対応する画像を記憶部11から抽出する。図2を参照すると、属性4に対応する画像はB、C、D、Eである。そのため、検索部16はこれらの画像を抽出する。
Next, the
出力部17は、検索結果を出力する。出力とは、表示部14への表示や不図示のマイクによる音声での報知などである。検索結果の出力とは、抽出された画像を表示することが含まれる。また、検索結果の出力とは、抽出された画像に対応する情報検索結果を表示することが含まれる。例えば、記憶部11に各画像に対応付けてURL(Uniform Resource Locator)が記憶されていれば、出力部17は、抽出された画像を表示せずに、直接URL先の情報をユーザに提示しても良い。
The
次に、本実施の形態における情報処理装置1の動作について図7を用いて説明する。まず、情報処理装置1の不図示のカメラは、商品等の物体を撮像する(ステップS1)。特徴量抽出部18は、画像から特徴量抽出を行う(ステップS2)。照合部19は、記憶部11を検索して、類似画像が存在するか否かを判定する(ステップS3)。
Next, the operation of the
類似画像が存在する場合、属性抽出部12は当該画像と関連づけられた属性を記憶部11から抽出する(ステップS4)。次に、画像抽出部13は、抽出された画像と関連付けられた属性を記憶部11から抽出する(ステップS5)。次に、表示部14は画像を表示する(ステップS6)。次に、入力部15を介して、ユーザは表示された画像から任意の画像の選択を行う(ステップS7)。検索部16は、選択画像と関連づけられた属性を抽出する(ステップS8)。次に検索部16は、属性の個数が所定数以上の属性を算出する(ステップS9)。なお、検索部16は、属性の個数が所定数以上の属性を算出する代わりに、属性の個数が最も多い属性を選択しても良い。次に検索部16は、算出された属性に関連付けられた画像を記憶部11から抽出する(ステップS10)。最後に、出力部17は検索された画像を出力する(ステップS11)。
If a similar image exists, the
このような動作により、ユーザは所望の情報検索ができる。その理由は以下の通りである。まずユーザは、情報を欲する対象となる物体を撮影する。この際、画像の特徴量を基に類似画像が検索されるが、類似画像が必ずしもユーザの欲する画像ではない場合がある。そこで本発明では、類似画像に関連付けられた属性を参照し、属性に関連付けられている他の画像を表示する。ユーザは、表示された画像から自己の意図に沿う画像を選択することができる。この際、属性ごとに画像がまとめて表示されれば、ユーザは画像を選択しやすいという効果がある。ユーザに選択された画像はユーザの意図を反映している。そこで、この選択画像の属性を基に再度画像検索を行うことにより、ユーザが欲していた画像ないし画像に関する情報を検索することができる。 By such an operation, the user can search for desired information. The reason is as follows. First, the user takes an image of an object for which information is desired. At this time, a similar image is searched based on the feature amount of the image, but the similar image may not necessarily be an image desired by the user. Therefore, in the present invention, an attribute associated with a similar image is referred to and another image associated with the attribute is displayed. The user can select an image according to his / her intention from the displayed images. At this time, if images are displayed together for each attribute, the user can easily select images. The image selected by the user reflects the user's intention. Thus, by performing an image search again based on the attribute of the selected image, it is possible to search for an image or information regarding the image that the user wanted.
例えば、上述の例では、ユーザが撮影した画像に最も類似する画像はAであったため画像Aが上述の“取得した画像”である。しかし、画像Aの属性をもとに抽出された画像は、画像Aのほかに、B、C、Eが存在するため、それらの画像が表示される(ステップS6)。表示画像をユーザが閲覧し選択することにより、ユーザが欲する画像ないし画像の情報は、画像Aではなく画像BやEに関するものであると推測される(図5、ステップS7)。したがって、再検索された後に表示される画像は画像Aではなく、属性が類似である画像B、C、D、Eである(図6、ステップS11)。 For example, in the above-described example, since the image most similar to the image captured by the user is A, the image A is the “acquired image” described above. However, since the images extracted based on the attributes of the image A include B, C, and E in addition to the image A, these images are displayed (step S6). When the user browses and selects a display image, it is presumed that the image or image information desired by the user relates to the image B or E, not the image A (FIG. 5, step S7). Therefore, the images displayed after the re-search are not the image A but the images B, C, D, and E having similar attributes (FIG. 6, step S11).
ユーザが欲していた画像ないし画像の情報は、画像被写体の外観から得られる特徴量に関する情報のみではなく、被写体となった物体のもつ情報(属性)を反映させる必要がある場合がある。本発明は画像の被写体の属性をも考慮して画像を検索することができるため、ユーザが所望の情報検索を行うことができる。 The image or image information desired by the user may need to reflect not only the information about the feature amount obtained from the appearance of the image subject but also the information (attribute) of the object that is the subject. According to the present invention, an image can be searched in consideration of the attribute of the subject of the image, so that the user can perform desired information search.
<実施形態1の具体例>
本発明の第1の実施の形態の具体例について図面を用いて補足説明する。図8は、記憶部11の記憶する画像と属性との対応づけの例を示している。ここで“飲料〜”(〜は数字)は飲料の画像を示している。“飲料1”には属性としてA社、炭酸、飲料、黒色が対応づけられている。このことは、例えば、“飲料1“の画像の被写体となる商品等が、A社製の炭酸飲料であり、色が黒色であることを示している、と理解することができる。
<Specific Example of
A specific example of the first embodiment of the present invention will be supplementarily described with reference to the drawings. FIG. 8 shows an example of correspondence between images and attributes stored in the
本例では、例えば“飲料1”に関する画像が取得されたと仮定する。このことは、ユーザが記憶部11に記憶された“飲料1”の画像を何らかの方法で選択した場合を含む。また、上述のように、“飲料1”に関する画像が取得された、とは、被写体をカメラで撮影することにより得られた画像と記憶部11に記憶された画像とが照合されて“飲料1”の画像が画像照合部等によって取得された場合を含む(ステップS1〜S3)。
In this example, it is assumed that an image related to “
属性抽出部12は、取得された画像“飲料1”に対応付けられた属性を抽出する(ステップS4)。これにより、図9に示すように、A社、炭酸、飲料、黒色の属性が抽出される。次に画像抽出部13は、抽出された属性に対応づけられた画像を抽出する(ステップS5)。これにより、図9に示すように、属性 “A社”に対しては“飲料1”“飲料2”“飲料3”が抽出される。属性“炭酸”に対しては“飲料1”“飲料2”“飲料6”が抽出される。属性“飲料”に対しては“飲料1”“飲料2”“飲料3”“飲料4”“飲料5”“飲料6”が抽出される。属性“黒色”に対しては“飲料1”“飲料5”“飲料6”が抽出される。
The
画像表示部14は抽出された画像を表示する(ステップS6)。図10は属性ごとにこれらの画像が並べて表示された例を示している。画像の大きさや隙間は適宜変更されて良い。図10では全画像が一画面に表示されているが、全画像の表示に画面スクロールを要しても良い。また属性ごとに縦方向に画像が並べられているが、横方向に画像が並べられても良いし、他の形状に並べられても良い。例えば、図13に示すように、属性ごとにまとまりを持ったクラスターとして画像が表示されても良い。図11、13には属性の名称が表示されているが、属性の名称が表示される必要はない。また、属性の名称が表示される場合には属性の名称の近傍に当該属性に対応する画像が表示されるようにしても良い。
The
ユーザは表示部14に表示された画像に対し、入力部15により画像の選択を行う(ステップS7)。図11では、属性“炭酸”に対応する画像“飲料2”“飲料6”及び属性“黒色”に対応する“飲料5”が選択された例を示している。図11では同じ飲料の画像が重複して表示されているが、属性ごとに並んで表示されているため、ユーザは画像の並びを見ることにより、並んだ画像に共通する属性を直感的に把握することができる。従って、たとえ属性の名称が表示部14に表示されていなくとも、ユーザは所望の画像を選択することができる。
The user selects an image from the
次に、検索部16は、選択画像と関連づけられた属性を抽出する(ステップS8)。図12に示されるように、選択された画像“飲料2””飲料6”“飲料5”に関連づけられた属性は、A社、炭酸、飲料、透明、B社、炭酸、飲料、黒色、コーヒー、飲料、黒色である。
Next, the
検索部16は、属性の個数が所定数以上の属性を算出する(ステップS9)。ここでは、所定数は2とする。図12に示されるように、抽出された属性のうち2つ以上のものは炭酸、飲料、黒色である。
The
検索部16は、算出された属性に対応する画像を検索する(ステップS10)。炭酸、飲料、黒色の全ての属性と対応する画像は“飲料1”、“飲料6”であるから、検索部16はこれらの画像を記憶部11から抽出する。
The
このような一連の動作により、ユーザは所望の画像を得ることができる。その理由は以下の通りである。まず、ユーザは黒色の炭酸飲料に関する情報を取得したいと仮定する。そのため、ユーザは黒色の炭酸飲料商品を見つけた際、当該商品の画像をカメラ等によって取得する。この際、通常の画像照合によれば、当該商品と外観が類似する“飲料1”の画像を得ることができる。一方、ユーザは、黒色の炭酸飲料の商品の情報が欲しいため、“飲料1”以外にも黒色の炭酸飲料の画像を欲する場合がある。その場合、本発明によれば上述の処理により、黒色の炭酸飲料である“飲料6”の画像を得ることができる。そのため、ユーザは商品の外観に関係なく黒色の炭酸飲料に関する情報も得ることができる。
Through such a series of operations, the user can obtain a desired image. The reason is as follows. First, it is assumed that the user wants to obtain information regarding a black carbonated drink. Therefore, when a user finds a black carbonated drink product, the user acquires an image of the product using a camera or the like. At this time, according to normal image collation, an image of “
このように、本発明は画像(の被写体)の属性をも考慮して画像を検索することができるため、ユーザが所望の情報検索を行うことができる。 As described above, the present invention can search for an image in consideration of the attribute of the image (subject), so that the user can search for desired information.
<実施形態2>
次に、本発明の第2の実施の形態について説明する。本実施の形態では、実施形態1で説明した属性が階層構造を有している点で上述の例と異なる。以下では実施形態1と異なる点を中心に説明する。
<
Next, a second embodiment of the present invention will be described. The present embodiment is different from the above example in that the attributes described in the first embodiment have a hierarchical structure. Below, it demonstrates focusing on a different point from
図14には、属性の階層化を示す一例が示されている。図14は、例えば、属性1の直下位階層に属性11、12、13が存在することを示している。また、図14は、例えば、属性1111の上位階層は属性111、属性11、属性1であることを示している。本実施の形態における属性はこのような階層構造を有しており、自属性には上位または下位の属性が存在する。なお、このような属性の階層化を示す情報は記憶部11乃至外部記憶部等に記憶されている。
FIG. 14 shows an example of attribute hierarchization. FIG. 14 shows, for example, that the
本実施の形態では、属性抽出部12は、上位階層の属性も抽出する。具体例を用いて説明する。図15には、食べ物のジャンル属性に関する階層例が示されている。ここでは、和食の下位階層には寿司、うなぎ、天ぷらが位置づけられ、寿司の下位階層にはまぐろ、えび、いくらが位置づけられている。これらの対応関係は記憶部11や他の記憶部に記憶されている。図16には、記憶部11の記憶する画像と属性との対応関係が示されている。ここで、まぐろ寿司の写真1が情報処理装置1に取得されたと仮定する。この場合、上述の実施形態においては、属性“まぐろ”に対応する“まぐろ寿司の写真1”と“まぐろ寿司の写真2”とが属性抽出部12によって抽出される。一方、本実施の形態における属性抽出部12は、属性“まぐろ”に加え、上位階層の属性も抽出する。本例では、属性“寿司”と属性“和食”が属性“まぐろ”の上位階層である。そのため、属性抽出部12は属性について、まぐろ、寿司、和食を抽出する。
In the present embodiment, the
次に画像抽出部13は、抽出された属性に対応する画像を抽出する。本例では、まぐろ、寿司、和食の各属性に対応する画像が抽出される。
Next, the
次に、表示部14は、抽出された画像を属性ごとにまとめて表示する。図17は表示例を示した図である。図17に示されるように、まぐろ、寿司、和食の各々の属性ごとに対応する画像が表示される。ユーザは、入力部15を介して画像を選択する。以降の検索部16、出力部17の動作は実施形態1と同様である。
Next, the
図18は本実施の形態の動作例を示している。ステップS1〜3までは実施形態1と同様である。次にステップS21において、属性抽出部12は、画像と関連付けられた属性および当該属性の上位階層に位置する属性を抽出する。その後の動作は実施形態1のステップS5以降と同様である。
FIG. 18 shows an operation example of this embodiment. Steps S1 to S3 are the same as those in the first embodiment. Next, in step S21, the
本実施の形態の利用例を説明する。例えば、ユーザは、まぐろ寿司を情報処理装置1のカメラで撮影する。その結果、情報処理装置1は、まぐろ寿司と類似度の高い“まぐろ寿司の写真1“を上述のように取得する。その後、上述の動作によって図17のように表示部14に様々な画像が表示される。当該画像のうち、ユーザが選択した画像が“複数のにぎり寿司が写っている写真”や“巻き寿司の写真”であれば、ユーザはまぐろ寿司だけではなく、寿司の画像に関する情報が欲しいことが分かる。従って、その後の情報検索においては、まぐろ寿司ではなく、寿司一般に関しての情報検索を行うことができる。例えば、記憶部11に各画像に対応付けてURL(Uniform Resource Locator)が記憶されていれば、出力部17は、ステップS11で直接URL先の情報をユーザに提示しても良い。
An example of use of this embodiment will be described. For example, the user photographs tuna sushi with the camera of the
本実施の形態によれば、属性を階層化しておくことにより、ユーザに適切な階層レベルで情報を提示することができる。従って、画像そのものの特徴のみならず、画像の被写体の属性をも考慮してユーザの所望する情報検索を行うことができる。 According to the present embodiment, it is possible to present information to the user at an appropriate hierarchical level by hierarchizing attributes. Therefore, information retrieval desired by the user can be performed in consideration of not only the characteristics of the image itself but also the attributes of the subject of the image.
<実施形態3>
次に、本発明の第3の実施の形態について説明する。本実施の形態における情報処理装置1は、記憶部11と、属性抽出部12と、画像抽出部13と、表示部14と、入力部15と、検索部16と、出力部17と、を備える。
<
Next, a third embodiment of the present invention will be described. The
記憶部11は画像と属性とを対応付けて記憶する。属性抽出部12は、取得した画像に対応する属性を記憶部11から抽出する。なお、属性抽出部12は、画像を分析することによって属性を抽出しても良い。すなわち、取得した画像に対して属性抽出部12は所定の観点から属性を分析する。所定の観点とは、例えば、被写体の色、ロゴ、形などの特徴量である。この場合、属性抽出部12は、取得した画像に対応する属性を記憶部11から抽出せずに、所定の観点から分析した属性を抽出しても良い。このように、属性抽出部12が画像から属性を抽出する方法には、少なくとも、記憶部11を介する場合と介さない場合があり、これらをまとめて「画像から属性を抽出する」と称する。画像抽出部13は、抽出された属性に対応づけられた画像を記憶部11から抽出する。表示部14は、抽出された画像を表示する。入力部15は、表示された画像の選択を受け付ける。検索部16は、選択された画像に対応づけられた属性に基づいて、記憶部11から画像の再抽出を行う。
The
このような構成によれば、画像(の被写体)の属性をも考慮して画像を検索することができるため、ユーザが所望の情報検索を行うことができる。 According to such a configuration, the image can be searched in consideration of the attribute of the image (subject), and thus the user can search for desired information.
以上、実施形態を参照して本願発明を説明したが、本願発明は上記実施形態に限定されるものではない。本願発明の構成は、本願発明のスコープ内で当業者が理解しうる様々な変更をすることができる。例えば、1つの構成体で構成されているように記載されているものを複数の構成体で構成させることもできる。例えば、図20に示すように、情報処理装置を二つに分け、情報処理装置2には画像取得機能と画像の通信機能(通信部)、画像表示選択機能等(表示部14、入力部15、出力部17)だけを持たせても良い。この場合情報処理装置1は通信により取得した画像に対して上述の検索処理等を行い、検索結果を返す機能を持つ(通信部、特徴量抽出部18、照合部19、属性抽出部12、記憶部11、画像抽出部13、検索部16)。すなわち、2つの情報処理装置によって構成される情報処理システムが実現される。より詳細には、情報処理装置2は、画像を情報処理装置1に送信する送信部(通信部)と、画像を表示する表示部14と、表示された画像の選択を受け付けて情報処理装置1に送信する入力部15と、受信した検索結果を出力する出力部17と、を備える。入力部15が選択画像を送信する通信機能を備える点で上述の実施形態と異なるが、通信は通信部が行っても良い。一方、情報処理装置1は、画像と属性とを対応付けて記憶する記憶部11と、情報処理装置2から受信した画像に対応する属性を記憶部11から抽出する属性抽出部12とを備える。また、情報処理装置1は、抽出された属性に対応づけられた画像を記憶部11から抽出して情報処理装置1に送信する画像抽出部13を備える。画像抽出部13が通信機能を備える点で上述の実施形態とは異なるが、通信は通信部が行っても良い。また、情報処理装置1は、情報処理装置2で選択された画像に対応づけられた属性に基づいて、記憶部11から画像の再抽出を行う検索部16を備える。このような構成によれば、情報処理装置2自体の構成を簡略化しつつ、情報処理装置2で本発明の効果を実現できる。このように、本願発明の構成は、本願発明のスコープ内で当業者が理解しうる様々な変更が可能である。
While the present invention has been described with reference to the embodiments, the present invention is not limited to the above embodiments. The configuration of the present invention can be variously modified by those skilled in the art within the scope of the present invention. For example, what is described as being composed of one component can be composed of a plurality of components. For example, as shown in FIG. 20, the information processing apparatus is divided into two, and the
1 情報処理装置
11 記憶部
12 属性抽出部
13 画像抽出部
14 表示部
15 入力部
16 検索部
17 出力部
18 特徴量抽出部
19 照合部
DESCRIPTION OF
Claims (10)
抽出された属性に対応づけられた画像を記憶手段から抽出する画像抽出手段と、
抽出された画像を表示する表示手段と、
表示された画像の選択を受け付ける入力手段と、
選択された画像に対応づけられた前記属性に基づいて、前記記憶手段から画像の再抽出を行う検索手段と、
検索結果を出力する出力手段と、
を備える情報処理装置。 Attribute extraction means for extracting attributes from the acquired image;
Image extracting means for extracting an image associated with the extracted attribute from the storage means;
Display means for displaying the extracted image;
Input means for accepting selection of the displayed image;
Search means for re-extracting the image from the storage means based on the attribute associated with the selected image;
An output means for outputting the search results;
An information processing apparatus comprising:
前記属性抽出手段は、取得した画像に対応する前記属性及び当該属性に対応づけられた前記他の属性を前記記憶手段から抽出する請求項1または2に記載の情報処理装置。 The attribute is stored in the storage means in association with another attribute,
The information processing apparatus according to claim 1, wherein the attribute extraction unit extracts the attribute corresponding to the acquired image and the other attribute associated with the attribute from the storage unit.
画像を表示する表示手段と、
表示された画像の選択を受け付けて第2の情報処理装置に送信する入力手段と、
受信した検索結果を出力する出力手段と、
を備える第1の情報処理装置と、
受信した画像から属性を抽出する属性抽出手段と、
抽出された属性に対応づけられた画像を記憶手段から抽出して前記第1の情報処理装置に送信する画像抽出手段と、
前記第1の情報処理装置で選択された画像に対応づけられた前記属性に基づいて、前記記憶手段から画像の再抽出を行う検索手段と、
を備える第2の情報処理装置と、を含む情報処理システム。 A transmission means for transmitting an image;
Display means for displaying an image;
Input means for accepting selection of the displayed image and transmitting it to the second information processing apparatus;
An output means for outputting the received search results;
A first information processing apparatus comprising:
Attribute extraction means for extracting attributes from the received image;
Image extracting means for extracting an image associated with the extracted attribute from the storage means and transmitting it to the first information processing apparatus;
Search means for re-extracting an image from the storage means based on the attribute associated with the image selected by the first information processing apparatus;
An information processing system comprising: a second information processing apparatus comprising:
抽出された属性に対応づけられた画像を記憶手段から抽出する画像抽出ステップと、
抽出された画像を表示する表示ステップと、
表示された画像の選択を受け付ける入力ステップと、
選択された画像に対応づけられた前記属性に基づいて、前記記憶手段から画像の再抽出を行う検索ステップと、
検索結果を出力する出力ステップと、
をコンピュータに実行させる情報処理プログラム。 An attribute extraction step for extracting attributes from the acquired image;
An image extraction step of extracting from the storage means an image associated with the extracted attribute;
A display step for displaying the extracted image;
An input step for accepting selection of the displayed image;
A search step of re-extracting the image from the storage means based on the attribute associated with the selected image;
An output step for outputting the search results;
An information processing program that causes a computer to execute.
前記属性抽出ステップにおいて、取得した画像に対応する前記属性及び当該属性に対応づけられた前記他の属性を前記記憶手段から抽出する請求項5または6に記載の情報処理プログラム。 The attribute is stored in the storage means in association with another attribute,
The information processing program according to claim 5 or 6, wherein, in the attribute extraction step, the attribute corresponding to the acquired image and the other attribute associated with the attribute are extracted from the storage unit.
抽出された属性に対応づけられた画像を抽出し、
抽出された画像を表示し、
表示された画像の選択を受け付け、
選択された画像に対応づけられた前記属性に基づいて、画像の再抽出を行い、
検索結果を出力する情報処理方法。 Extract attributes from the acquired image,
Extract the images associated with the extracted attributes,
Display the extracted image,
Accept selection of displayed image,
Based on the attribute associated with the selected image, re-extracting the image,
An information processing method for outputting search results.
取得した画像に対応する前記属性及び当該属性に対応づけられた前記他の属性を抽出する請求項8または9に記載の情報処理方法。 Storing the attribute in association with another attribute;
The information processing method according to claim 8 or 9, wherein the attribute corresponding to the acquired image and the other attribute associated with the attribute are extracted.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014053241A JP6409294B2 (en) | 2014-03-17 | 2014-03-17 | Information processing apparatus, system, method, and program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014053241A JP6409294B2 (en) | 2014-03-17 | 2014-03-17 | Information processing apparatus, system, method, and program |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2015176422A true JP2015176422A (en) | 2015-10-05 |
JP6409294B2 JP6409294B2 (en) | 2018-10-24 |
Family
ID=54255545
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014053241A Active JP6409294B2 (en) | 2014-03-17 | 2014-03-17 | Information processing apparatus, system, method, and program |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6409294B2 (en) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2018173734A (en) * | 2017-03-31 | 2018-11-08 | 富士通株式会社 | Image display program, image display device and image display method |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002007469A (en) * | 2000-06-23 | 2002-01-11 | Yamaha Motor Co Ltd | Retrieving method, retrieving device and image retrieving device |
JP2004102503A (en) * | 2002-09-06 | 2004-04-02 | Sharp Corp | Image processor, image retrieval method and computer software |
JP2011166214A (en) * | 2010-02-04 | 2011-08-25 | Canon Inc | Image retrieval device and control method of the same |
JP2011210000A (en) * | 2010-03-30 | 2011-10-20 | Yahoo Japan Corp | Image search device |
-
2014
- 2014-03-17 JP JP2014053241A patent/JP6409294B2/en active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002007469A (en) * | 2000-06-23 | 2002-01-11 | Yamaha Motor Co Ltd | Retrieving method, retrieving device and image retrieving device |
JP2004102503A (en) * | 2002-09-06 | 2004-04-02 | Sharp Corp | Image processor, image retrieval method and computer software |
JP2011166214A (en) * | 2010-02-04 | 2011-08-25 | Canon Inc | Image retrieval device and control method of the same |
JP2011210000A (en) * | 2010-03-30 | 2011-10-20 | Yahoo Japan Corp | Image search device |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2018173734A (en) * | 2017-03-31 | 2018-11-08 | 富士通株式会社 | Image display program, image display device and image display method |
Also Published As
Publication number | Publication date |
---|---|
JP6409294B2 (en) | 2018-10-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11157577B2 (en) | Method for searching and device thereof | |
JP5390718B2 (en) | Information provision device | |
KR101660271B1 (en) | Metadata tagging system, image searching method, device, and method for tagging gesture | |
US20130124551A1 (en) | Obtaining keywords for searching | |
JP2008192055A (en) | Content search method and content search apparatus | |
US10042541B2 (en) | Information processing apparatus and information processing method for utilizing various cross-sectional types of user input | |
US20170242554A1 (en) | Method and apparatus for providing summary information of a video | |
US11314826B2 (en) | Method for searching and device thereof | |
JP2007317034A (en) | Image processing apparatus, image processing method, program, and recording medium | |
US11709881B2 (en) | Visual menu | |
CN107229741A (en) | Information search method, device, equipment and storage medium | |
US20180260364A1 (en) | Display apparatus and information displaying method thereof | |
JPWO2018066102A1 (en) | Information providing system, information providing apparatus, information providing method, and program | |
US10725620B2 (en) | Generating interactive menu for contents search based on user inputs | |
EP3486796A1 (en) | Search method and device | |
WO2020068241A1 (en) | Fashion by trend user interfaces | |
KR20150019668A (en) | Supporting Method For suggesting information associated with search and Electronic Device supporting the same | |
JP6409294B2 (en) | Information processing apparatus, system, method, and program | |
KR102408256B1 (en) | Method for Searching and Device Thereof | |
US20220383382A1 (en) | Product information processing system, product information processing method, and recording medium | |
US20160066045A1 (en) | Method, electronic device, and computer program product | |
JP2009140339A (en) | Information processor and information processing method | |
JP5793540B2 (en) | SEARCH DEVICE, SEARCH SYSTEM, AND PROGRAM | |
CN115907889A (en) | Commodity information display method and electronic equipment | |
US20210090134A1 (en) | Electronic book display system, electronic book display method, and program |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20170215 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20180126 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20180213 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180329 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20180828 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20180910 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6409294 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |