JP2016167237A - 画像検索装置及びプログラム - Google Patents

画像検索装置及びプログラム Download PDF

Info

Publication number
JP2016167237A
JP2016167237A JP2015047687A JP2015047687A JP2016167237A JP 2016167237 A JP2016167237 A JP 2016167237A JP 2015047687 A JP2015047687 A JP 2015047687A JP 2015047687 A JP2015047687 A JP 2015047687A JP 2016167237 A JP2016167237 A JP 2016167237A
Authority
JP
Japan
Prior art keywords
image
search
search condition
image attribute
attribute information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015047687A
Other languages
English (en)
Other versions
JP2016167237A5 (ja
JP6575080B2 (ja
Inventor
勇人 木下
Isato Kinoshita
勇人 木下
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Business Innovation Corp
Original Assignee
Fuji Xerox Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Xerox Co Ltd filed Critical Fuji Xerox Co Ltd
Priority to JP2015047687A priority Critical patent/JP6575080B2/ja
Publication of JP2016167237A publication Critical patent/JP2016167237A/ja
Publication of JP2016167237A5 publication Critical patent/JP2016167237A5/ja
Application granted granted Critical
Publication of JP6575080B2 publication Critical patent/JP6575080B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

【課題】ユーザによって設定された検索条件や画像群の統計的な情報を利用して画像が検索される場合と比較して、ユーザが設定し難い観点を検索条件として利用して画像が検索されるようにする。【解決手段】1次検索部16は、画像属性を示す画像属性情報に基づいて、第1画像群を画像DB12から検索する。第1画像群の中から複数の選択画像が選択されると、検索条件作成部20は、複数の選択画像のそれぞれの画像属性を示す画像属性情報に基づいて2次検索条件を作成する。再検索部24は、その2次検索条件に基づいて、第2画像群を画像DB12から検索する。【選択図】図1

Description

本発明は、画像検索装置及びプログラムに関する。
画像群の中から画像を検索する技術が知られている。
特許文献1に記載の装置においては、ユーザによって格納されたコンテンツ群の統計的な特徴を用いて類似度が算出され、その類似度に基づいてコンテンツが選択される。
特許文献2に記載の装置においては、画像データベースに蓄えられている画像データから、検索要求元からの入力画像に類似する画像が検索される。その検索においては、画像の特徴を表す複数の特徴値のそれぞれの差に重みを付けて組み合わせることにより複数の判定基準を得て、その判定基準を用いて類似度を判定している。また、検索された画像は、判定基準毎のグループに分けられたチューニング画面として検索要求元に送出される。
特開2014−92955号公報 特開2012−58940号公報
ところで、ユーザによって設定された検索条件(例えばキーワードや特徴等)や画像群の統計的な情報を利用して画像が検索される場合がある。しかし、これらの情報を利用しても、目的の画像が検索されるとは限らない。また、ユーザが設定し難い条件に基づいて画像が検索されるわけではない。
本発明の目的は、ユーザによって設定された検索条件や画像群の統計的な情報を利用して画像が検索される場合と比較して、ユーザが設定し難い観点を検索条件として利用して画像が検索されるようにすることである。
請求項1に係る発明は、画像属性を示す画像属性情報に基づいて画像群の中から第1画像群を検索する第1検索手段と、前記第1画像群の中から選択された複数の選択画像のそれぞれの画像属性を示す画像属性情報に基づいて検索条件を作成する検索条件作成手段と、前記検索条件に基づいて前記画像群の中から第2画像群を検索する第2検索手段と、を有する画像検索装置である。
請求項2に係る発明は、前記検索条件作成手段は、各選択画像の複数の画像属性を示す複数の画像属性情報に基づいて、画像属性毎の検索条件を作成し、当該画像検索装置は、各選択画像間の画像属性情報の差分に基づいて、各検索条件の優先度を決定する優先度決定手段を更に有し、前記第2検索手段は、前記優先度に基づいて、画像属性毎の検索条件の中から検索に用いられる検索条件を決定し、当該検索条件に基づいて前記第2画像群を検索する、ことを特徴とする請求項1に記載の画像検索装置である。
請求項3に係る発明は、前記検索条件作成手段は、各選択画像の複数の画像属性を示す複数の画像属性情報に基づいて、画像属性毎の検索条件を作成し、当該画像検索装置は、各選択画像間の画像属性情報の差分に基づいて、各検索条件の優先度を決定する優先度決定手段を更に有し、前記第2検索手段は、画像属性毎の検索条件に基づいて前記第2画像群を検索し、前記第2画像群の中で優先度の高い検索条件に適合する画像ほど、優先的に出力する、ことを特徴とする請求項1に記載の画像検索装置である。
請求項4に係る発明は、前記差分が小さいほど優先度は高い、ことを特徴とする請求項2又は請求項3に記載の画像検索装置である。
請求項5に係る発明は、選択画像の画像属性情報は、選択画像の画像属性を示す数値であり、前記検索条件作成手段は、選択画像の画像属性を示す数値に基づいて、数値範囲で規定される検索条件を作成し、前記第2検索手段は、画像属性を示す数値が前記数値範囲に含まれる前記第2画像群を検索する、ことを特徴とする請求項1から請求項4のいずれか一項に記載の画像検索装置である。
請求項6に係る発明は、選択画像の画像属性情報は、選択画像に表されているオブジェクトを示す文字列であり、前記検索条件作成手段は、前記複数の選択画像に表されている各オブジェクトが同一オブジェクト種に属する場合、当該オブジェクトを示す文字列を検索条件として採用し、各オブジェクトが同一オブジェクト種に属さず同一カテゴリに属する場合、当該カテゴリを示す文字列を検索条件として採用し、前記第2検索手段は、検索条件として採用された文字列を含む文字列が画像属性情報として規定されている前記第2画像群を検索する、ことを特徴とする請求項1から請求項4のいずれか一項に記載の画像検索装置である。
請求項7に係る発明は、前記第2検索手段は、各選択画像間の画像属性情報の差分が予め設定された閾値以上となる画像属性についての検索条件を除外して前記第2画像群を検索する、ことを特徴とする請求項1から請求項6のいずれか一項に記載の画像検索装置である。
請求項8に係る発明は、コンピュータを、画像属性を示す画像属性情報に基づいて画像群の中から第1画像群を検索する第1検索手段と、前記第1画像群の中から選択された複数の選択画像のそれぞれの画像属性を示す画像属性情報に基づいて検索条件を作成する検索条件作成手段と、前記検索条件に基づいて前記画像群の中から第2画像群を検索する第2検索手段と、として機能させるプログラムである。
請求項1,8に係る発明によると、ユーザによって設定された検索条件や画像群の統計的な情報を利用して画像が検索される場合と比較して、ユーザが設定し難い観点を検索条件として利用して画像が検索され得る。
請求項2−4に係る発明によると、画像属性情報の差分に応じて、画像が優先的に検索され、又は、出力される。
請求項5に係る発明によると、画像属性が数値で規定されている場合において、その数値を示す検索条件が自動的に作成される。
請求項6に係る発明によると、画像属性がオブジェクトを示す文字列で規定されている場合において、そのオブジェクトに関する検索条件が自動的に作成される。
請求項7に係る発明によると、各選択画像間で関連性が相対的に低い画像属性が検索条件から除外されて画像が検索される。
本発明の実施形態に係る画像検索装置の一例を示すブロック図である。 1次検索画面の一例を示す図である。 2次検索画面の一例を示す図である。 画像属性情報の一例を示す図である。 画像属性情報の一例を示す図である。 画像検索装置による処理の流れを示す図である。
図1には、本発明の実施形態に係る画像検索装置の一例が示されている。
画像DB12はハードディスク等の記憶装置であり、画像データを格納する。画像データには、画像の属性(内容)を表す画像属性情報が対応付けられている。例えば、画像に表されているオブジェクト(物体等)を示す文字列(オブジェクト名等)や、各オブジェクトの色、位置、画像中の占有範囲、個数、雰囲気、等が画像属性情報として用いられる。画像検索装置10においては、画像DB12の中から検索条件に適合する画像が検索される。なお、画像DB12は画像検索装置10に備えられていなくてもよい。例えば、画像検索装置10と画像DB24とが、ネットワーク等の通信経路を介して接続され、画像検索装置10は、その通信経路を介して画像DB24から画像を検索してもよい。
UI部14はユーザインターフェースであり、表示部と操作部とを備える。表示部は、例えば液晶ディスプレイ等の表示装置である。操作部は、例えばキーボードやマウスやタッチパネルや操作パネル等の入力装置である。UI部14を利用することにより、ユーザによって検索条件が入力される。
1次検索部16は、ユーザによって入力された1次検索条件に適合する画像群(1又は複数の画像)を画像DB12から検索する。この検索が1次検索に相当する。以下、1次検索部16によって検索された画像群を、「第1画像群」と称する場合がある。1次検索では、ユーザによって入力された画像属性情報や類似画像等が1次検索条件として用いられ、その画像属性情報や類似画像等に適合する第1画像群が検索される。類似画像が1次検索条件として使用される場合、1次検索部16は、その類似画像に類似する第1画像群(例えば、類似画像の特徴と類似する特徴を有する画像群や、類似画像の画像属性情報と同一の画像属性情報を有する画像群)を画像DB12から検索する。1次検索部16は、1次検索の結果をUI部14の表示部に表示させる。例えば、1次検索部16は、検索された画像そのもの、画像のサムネイル画像(縮小画像)、画像の識別情報(画像IDや画像の名称等)、等を1次検索結果として表示部に表示させる。
属性抽出部18は、第1画像群から選択された複数の画像(以下、「選択画像」と称する)のそれぞれから1又は複数の画像属性情報を抽出する。選択画像は、例えばユーザによって選択される。
検索条件作成部20は、複数の選択画像から抽出された画像属性情報に基づいて、画像属性情報によって規定される検索条件(以下、「2次検索条件」と称する)を作成する。個々の選択画像から複数の画像属性を示す複数の画像属性情報が抽出された場合、検索条件作成部20は、同一属性(共通属性)についての画像属性情報毎に検索条件を作成する。これにより、画像属性毎の検索条件が作成される。この場合、2次検索条件には、複数の画像属性に関する複数の検索条件が含まれることになる。
優先度算出部22は、各選択画像間の同一属性の画像属性情報の差分に基づいて、各画像属性の優先度を算出する。差分が小さいほど、優先度は高くなる。各画像属性は、2次検索条件に含まれる各検索条件に対応している。それ故、各画像属性の優先度は、2次検索条件に含まれる各検索条件の優先度を示していることになる。この優先度は、2次検索結果の出力時、又は、2次検索時に利用される。
再検索部24は、2次検索条件に適合する画像群(1又は複数の画像)を画像DB12から検索する。この検索が2次検索に相当する。以下、再検索部24によって検索された画像群を、「第2画像群」と称する場合がある。再検索部24は、2次検索の結果をUI部14の表示部に表示させる。例えば、再検索部24は、検索された画像そのもの、画像のサムネイル画像、画像の識別情報、等を2次検索結果として表示部に表示させる。2次検索条件に複数の検索条件が含まれる場合、再検索部24は、それら全ての検索条件に適合する第2画像群を検索してもよいし(AND検索)、少なくとも1つの検索条件に適合する第2画像群を検索してもよい(OR検索)。再検索部24は、2次検索条件に含まれる複数の検索条件のうち、ユーザによって指定された検索条件に適合する第2画像群を検索してもよい。再検索部24は、2次検索条件に含まれる複数の検索条件(画像属性情報に対応する条件)の中で、優先度が相対的に高い検索条件を用いて検索を行ってもよい。例えば、再検索部24は、優先度が予め設定された閾値以上となる検索条件を用いて検索を行ってもよい。または、再検索部24は、第2画像群の中で優先度が高い検索条件に該当する画像ほど、優先的に表示部に表示させてもよい。
制御部26は、画像検索装置10の各部の動作を制御する。
以下、画像検索装置10の詳細について説明する。
図2には、1次検索画面の一例が示されている。1次検索画面30は、制御部26の制御の下、UI部14の表示部に表示される。1次検索画面30上において、ユーザによって1次検索条件が入力される。図2に示す例では、テキスト検索用のキーワード「青いバラ」が入力されており、その他、画像の色味や雰囲気が指定されている。キーワード、画像の色味及び雰囲気は、画像属性情報の一例に相当する。1次検索部16は、これらの情報を1次検索条件として使用し、その1次検索条件に適合する1次画像群を画像DB12から検索する。
図3には、2次検索画面の一例が示されている。2次検索画面40は、制御部26の制御の下、UI部14の表示部に表示される。2次検索画面40には、1次検索の結果である画像50〜58が表示されている。画像50〜58は1次検索条件(キーワード「青いバラ」、画像の色味の条件、雰囲気の条件)に適合する画像であり、第1画像群の一例に相当する。この2次検索画面40において、選択画像がユーザによって選択されるようになっている。例えば、ユーザがUI部14の操作部を利用することにより、画像52,56を選択画像として選択し、検索実行の指示を与える。これにより、再検索処理(2次検索処理)が実行される。再検索処理においては、属性抽出部18によって各選択画像(画像52,56)の画像属性情報が抽出され、検索条件作成部20によって2次検索条件が作成され、優先度算出部22によって、2次検索条件に含まれる各検索条件(各画像属性に対応する検索条件)の優先度が決定される。そして、再検索部24によって2次検索条件に基づく検索処理が実行される。
図4,5には、選択画像としての画像52,56の画像属性情報、その画像属性情報から作成された検索条件等が示されている。
図4,5に示す例では、画像中のオブジェクトの主従関係(「メイン」、「サブ」)、オブジェクト名、色味、概略位置、範囲、詳細位置及び個数が、画像属性に該当する。それらを示す情報が画像属性情報であり、各画像に予め対応付けられている。図4には、メインオブジェクトの画像属性情報が示されており、図5にはサブオブジェクトの画像属性情報が示されている。図4,5中の「検索値」は、検索条件作成部20によって算出された検索条件の一例である。「占有面積」は、選択画像中においてオブジェクトが占有している面積の割合(オブジェクトの面積/全体面積)の平均値であって、各選択画像間(画像52,56)の平均値である。「優先度」は、優先度算出部22によって算出された優先度の一例である。
図4を参照して、メインオブジェクトについて説明する。画像52には、メインオブジェクトとして「バラ」のオブジェクトが表されており、メインオブジェクト名、そのメインオブジェクトの色味(メイン色味)、概略位置(メイン位置)、範囲(メイン範囲)、詳細位置(メイン位置X,Y)、及び、メインオブジェクトの個数(メイン個数)が、そのメインオブジェクトの画像属性に該当する。画像56にも、メインオブジェクトとして「バラ」のオブジェクトが表されており、そのメインオブジェクトの色味等が画像属性に該当する。なお、画像属性「メイン範囲」は、選択画像において当該メインオブジェクトが占有している面積の割合(メインオブジェクトの面積/全体面積)である。
図5を参照して、サブオブジェクトについて説明する。画像52には、1つのサブオブジェクトが表されている。画像52には、サブオブジェクトとして「かすみ草」のオブジェクトが表されており、サブオブジェクト名、そのサブオブジェクトの色味(サブ1色味)、概略位置(サブ1位置)、及び、範囲(サブ1範囲)が、そのサブオブジェクトの画像属性に該当する。画像56には、2つのサブオブジェクトが表されている。画像56には、一方のサブオブジェクトとして「装飾の草花」が表されており、そのサブオブジェクトの色味等が画像属性に該当する。また、画像56には、別のサブオブジェクトとして「リボン」が表されており、そのサブオブジェクトの色味等が画像属性に該当する。
画像52,56には、各画像属性を示す画像属性情報が予め対応付けられている。
図4,5を参照して、検索条件作成部20の処理について詳しく説明する。検索条件作成部20は、複数の選択画像の画像属性情報に基づいて、個々の画像属性毎の検索条件を作成する。図4,5に示す例では、検索条件作成部20は、画像属性「メインオブジェクト名」、「メイン色味」、「メイン位置」、「メイン範囲」、「メイン位置X」、「メイン位置Y」、「メイン個数」、「サブオブジェクト名」、「サブ色味」、「サブ位置」及び「サブ範囲」のそれぞれについて検索条件を作成する。2次検索条件は、これら複数の検索条件を含むものである。
画像属性が数値で規定されている場合(画像属性情報が数値を表す場合)、検索条件作成部20は、画像属性の数値範囲を規定する検索条件を作成する。例えば、画像属性「メイン色味」や「メイン範囲」等が数値として表現されている。この場合、検索条件作成部20は、複数の選択画像から抽出された同一属性(共通属性)についての複数の画像属性情報(数値)の中の最大値と最小値とに基づいて、検索条件(数値範囲)の最大値と最小値とを規定する。
具体的には、第1画像群から2つの選択画像が選択された場合、数値範囲で表される検索条件の最大値と最小値は、以下のように規定される。
検索条件の最大値:MAX+(MAX−MIN)/2
検索条件の最小値:MIN−(MAX−MIN)/2
ここで、MAXは、2つの選択画像の画像属性情報(数値)の中の最大値であり、MINは、2つの選択画像の画像属性情報(数値)の中の最小値である。この場合、画像属性情報(数値)の差分を用いて、検索条件の最大値と最小値が規定される。
第1画像群から3つ以上の選択画像が選択された場合、数値範囲で表される検索条件の最大値として、3つ以上の選択画像の画像属性情報(数値)の中の最大値が用いられ、検索条件の最小値として、3つ以上の選択画像の画像属性情報(数値)の中の最小値が用いられる。なお、2つの選択画像が選択された場合も、画像属性情報の最大値が検索条件の最大値として用いられ、画像属性情報の最小値が検索条件の最小値として用いられてもよい。
図4に示されている具体例を挙げて説明する。例えば、画像属性「メイン範囲」は数値で表されており、選択画像として2つの画像(画像52,56)が選択されている。画像52の画像属性「メイン範囲」の値は「50%」であり、画像56の画像属性「メイン範囲」の値は「30%」である。それ故、画像52,56の画像属性「メイン範囲」の最大値(MAX)は「50%」であり、最小値(MIN)は「30%」である。従って、画像属性「メイン範囲」についての検索条件の最大値は「60%」となり、最小値は「20%」となる。つまり、画像属性「メイン範囲」の検索条件は「20〜60%」となる。図4には、その検索条件が検索値として示されている。なお、画像属性「メイン範囲」の最大値を検索条件の最大値とし、画像属性「メイン範囲」の最小値を検索条件の最小値としてもよい。この場合、検索条件(検索値)は「30〜50%」となる。
同様に、数値で規定されている他の画像属性についても、検索条件(検索値)が求められる。例えば、図4に示されている画像属性「メイン色味」、「メイン位置」、「メイン位置X」、「メイン位置Y」及び「メイン個数」が、「メイン範囲」と同様に数値で規定されており、それぞれの最大値と最小値とに基づいて、個々の画像属性の検索条件(検索値)が算出される。
同様に、図5に示されている画像属性「サブ1色味」、「サブ1位置」及び「サブ1範囲」が、数値で規定されており、それぞれの最大値と最小値とに基づいて、個々の画像属性の検索条件(検索値)が算出される。なお、サブオブジェクト「リボン」については、画像56のみに表されているため、そのサブオブジェクトの画像属性情報は、2次検索条件に用いられない。
画像属性が数値以外の文字列で規定されている場合(画像属性情報が数値以外の文字列を表す場合)、検索条件作成部20は、その文字列自体、又は、その文字列が意味する内容のカテゴリを示す文字列を、検索条件として採用する。例えば、各選択画像の画像属性を示す各文字列が同一である場合、検索条件作成部20は、当該文字列を当該画像属性の検索条件として採用する。各選択画像の画像属性を示す各文字列が異なる場合であって、各文字列の意味する内容が同一カテゴリに属する場合、検索条件作成部20は、当該カテゴリを示す文字列を当該画像属性の検索条件として採用する。
図4,5に示す例では、画像属性「メインオブジェクト名」、「メイン位置」、「サブオブジェクト1名」及び「サブ1位置」が、数値以外の文字列によって規定されている。以下、オブジェクト名を例に挙げて説明する。
各選択画像の画像属性「オブジェクト名」が同一オブジェクト種を示している場合、つまり、各選択画像に表されている各オブジェクトが同一オブジェクト種に属している場合、検索条件作成部20は、当該オブジェクトを示す文字列(元々の文字列)を、当該画像属性の検索条件として採用する。図4に示す例では、画像52,56の画像属性「メインオブジェクト名」は、共に「バラ」を示している。つまり、画像52,56のメインオブジェクトの種類は同一である。それ故、当該メインオブジェクト「バラ」を示す文字列が、画像属性「メインオブジェクト名」の検索条件(検索値)として採用される。この場合、元々の文字列が検索条件として採用されることになる。
一方、各選択画像の画像属性「オブジェクト名」が同一オブジェクト種を示していない場合であって、同一カテゴリに属するオブジェクトを示している場合、検索条件作成部20は、当該カテゴリを示す文字列(カテゴリ名)を、当該画像属性の検索条件として採用する。つまり、各選択画像に表された各オブジェクトが同一オブジェクト種に属していない場合であって、同一カテゴリに属している場合、カテゴリ名が当該画像属性の検索条件として採用される。図5に示す例では、画像52の画像属性「サブオブジェクト名」は「かすみ草」を示しており、画像56の画像属性「サブオブジェクト名」は「装飾の草花」を示している。従って、画像52,56の画像属性「サブオブジェクト名」は一致せず、画像52,56のサブオブジェクトの種類は同一ではない。一方で、各サブオブジェクトのカテゴリは「植物」であるため、各サブオブジェクトは同一カテゴリに属していることになる。この場合、カテゴリ「植物」を示す文字列(カテゴリ名)が、当該画像属性の検索条件(検索値)として採用される。検索条件作成部20は、文字列を分類するカテゴライズ部を備えており、画像属性を示す文字列がカテゴライズ部によって分類される。この分類の方法として、公知の方法が使用される。例えば、オブジェクト名とカテゴリ名との対応関係を示す分類化情報が予め作成されて画像検索装置10に記憶されており、カテゴライズ部は、その分類化情報を利用することにより、各オブジェクトを分類する。
各選択画像に表されている各オブジェクトが、同一オブジェクト種に属しておらず、同一カテゴリにも属していない場合、画像属性「オブジェクト名」についての検索条件は作成されない。例えば、一方の選択画像にメインオブジェクト「犬」(カテゴリ「動物」)が表されており、他方の選択画像にメインオブジェクト「木」(カテゴリ「植物」)が表されている場合、両メインオブジェクトは、同一オブジェクト種に属しておらず、同一カテゴリにも属していない。この場合、画像属性「メインオブジェクト名」の検索条件(検索値)は作成されない。
次に、図4,5を参照して、優先度の決定方法について詳しく説明する。
画像属性が数値で規定されている場合(画像属性情報が数値を表す場合)、その画像属性の優先度は、以下のように規定される。
優先度=(基準値−差分値)÷基準値×(占有面積÷全体面積)×100
ここで、基準値は、画像属性毎に規定される値であり、一例として、画像属性の最大値を示す値である。例えば、数値範囲「0〜100」で規定される画像属性の基準値は、「100」である。図4に示す例で説明すると、画像属性「メイン範囲」は「0〜100」の数値で規定されるので、その基準値として「100」が採用される。一方、画像属性「メイン位置」は「0〜5.0」の数値で規定されるので、その基準値として「5.0」が採用される。差分値は、複数の選択画像の画像属性情報(数値)の中の最大値と最小値との差分である。差分値が小さいほど、優先度は高くなる。差分値が小さいほど、各選択画像間の画像属性の差が小さく、その画像属性の観点について各選択画像が似ているということになる。このような場合に、優先度が高くなるようになっている。図4に示されている画像属性「メイン範囲」を例に挙げて説明すると、最大値は画像52の値「50%」であり、最小値は画像56の値「30%」であるため、差分値は「20%」である。占有面積は、選択画像に表されているオブジェクトの占有面積であり、例えば、複数の選択画像に表されている同一オブジェクトの占有面積の平均値である。図4に示されているメインオブジェクト「バラ」を例に挙げて説明すると、画像52の画像属性「メイン範囲」は「50%」であり、画像56の画像属性「メイン範囲」は「30%」であるため、占有面積の平均値は「40%」となる。これらの値を用いて画像属性「メイン範囲」の優先度が決定される。この優先度は、画像属性「メイン範囲」の検索条件の優先度として用いられる。
画像属性が数値以外の文字列で規定されている場合(画像属性情報が数値以外の文字列を表す場合)、選択画像の全体面積に対する当該オブジェクトの占有面積の割合が、その画像属性の優先度として用いられる。具体的には、優先度は、以下のように規定される。
各選択画像の画像属性「オブジェクト名」が同一オブジェクト種を示している場合、つまり、各選択画像に表されている各オブジェクトが同一オブジェクト種に属している場合、優先度は以下のように規定される。
優先度=(占有面積÷全体面積)×100
ここで、占有面積は、図4,5に示されている占有面積である。
各選択画像の画像属性「オブジェクト名」が同一オブジェクト種を示していない場合であって、同一カテゴリに属するオブジェクトを示している場合、優先度は以下のように規定される。
優先度=(占有面積÷全体面積)×50
各選択画像に表されている各オブジェクトが、同一オブジェクト種に属しておらず、同一カテゴリにも属していない場合、その画像属性情報の優先度は「0」に設定される。
図4,5に示されるように各画像属性の検索値(検索条件)が算出されると、再検索部24は、各画像属性の検索値を2次検索条件として用いて、画像DB12から画像群(第2画像群)を検索する。画像属性情報が検索値に適合する画像群が検索される。画像属性が数値で規定されている場合、画像属性の数値が検索値(数値範囲)に含まれる画像群が検索される。画像属性が数値以外の文字列で規定されている場合、検索値(文字列)を含む文字列が画像属性として規定されている画像群が検索される。このとき、再検索部24は、1次検索条件も併せて画像群を検索してもよい。
再検索部24は、AND検索又はOR検索のいずれを実行してもよい。つまり、再検索部24は、2次検索条件に含まれる全ての検索値に適合する画像を検索してもよいし、2次検索条件に含まれる少なくとも1つの検察値に適合する画像を検索してもよい。
図4,5に示す例で説明すると、AND検索モードにおいては、再検索部24は、画像属性「メインオブジェクト名」、「メイン色味」、「メイン範囲」、「メイン位置X」、「メイン位置Y」、「メイン個数」、「サブオブジェクト名」、「サブ色味」、「サブ位置」及び「サブ範囲」の全ての検索値に適合する画像を検索する。OR検索モードにおいては、再検索部24は、それらの検索値の中の少なくとも1つの検索値に適合する画像を検索する。
再検索部24は、優先度に基づいて、複数の検索値(検索条件)から1又は検索値を選択し、その選択された1又は複数の検索値を2次検索条件として用いて検索(例えばAND検索又はOR検索)を実行してもよい。例えば、再検索部24は、優先度が予め設定された閾値以上となる画像属性の検索値を2次検索条件として用いる。これにより、選択画像の特徴をより顕著に表す画像属性の検索値が、検索条件として用いられることになる。図4に示す例で説明する。例えば、閾値が「30」に設定されているものとする。画像属性「メインオブジェクト名」、「メイン位置」及び「メイン個数」の優先度は「40」であり、画像属性「メイン色味」の優先度は「36」であり、画像属性「メイン位置X」の優先度は「32」である。それ故、これらの画像属性の検索値は2次検索条件として用いられる。一方、画像属性「メイン範囲」及び「メイン位置Y」の優先度は「24」であるため、これらの画像属性の検索値は2次検索条件として用いられない。画像属性の優先度が高いほど、その画像属性の観点について各選択画像が似ていることになるため、優先度の高い画像属性の検索値を優先的に利用して検索することにより、各選択画像により似ている画像が検索されるようになる。
別の例として、再検索部24は、メインオブジェクトについての検索値を2次検索条件として利用し、サブオブジェクトについての検索値を利用しなくてもよい。それとは逆に、再検索部24は、メインオブジェクトについての検索値を利用せずに、サブオブジェクトについての検索値を2次検索条件として用いてもよい。ユーザがUI部14を利用してその選択を行ってもよい。例えば、メインオブジェクトを重視するがサブオブジェクトを重視しない場合には、メインオブジェクトについての検索値のみを利用することが想定される。それとは逆に、サブオブジェクトを重視するがメインオブジェクトを重視しない場合には、サブオブジェクトについての検索値のみを利用することが想定される。
更に別の例として、再検索部24は、2次検索条件を用いて検索された第2画像群の中で、優先度が高い画像属性の検索値に適合する画像ほど、優先的に出力してもよい。例えば、検索結果(第2画像群)がUI部14の表示部に表示される際に、再検索部24は、優先度が高い画像ほど優先的に表示させる。具体的には、再検索部24は、検索結果としての第2画像群の一覧を表示部に表示させ、その一覧の中で、優先度が高い画像属性の検索値に適合する画像ほど、上位に表示させる。これにより、各選択画像により似ている画像が上位に表示されるようになる。また、再検索部24は、各画像の優先度を示す情報を表示部に表示させてもよい。
また別の例として、再検索部24は、各選択画像間の画像属性情報の差分が予め決定された閾値以上となる画像属性を検索条件から除外してもよい。この画像属性は、複数の選択画像間において関連性が相対的に低いと想定されるからである。その画像属性を検索条件から除外することにより、選択画像との関連性が相対的に低い第2画像群が検索されずに済む。
また、再検索部24は、予め設定された閾値以下の数の選択画像が有する画像属性を、検索条件から除外してもよい。この画像属性は、複数の選択画像間において関連性が相対的に低いと想定されるからである。その画像属性を検索条件から除外することにより、選択画像との関連性が相対的に低い第2画像群が検索されずに済む。
次に、図6を参照して、画像検索装置10による処理の流れについて説明する。
まず、制御部26が1次検索画面をUI部14の表示部に表示させる(S01)。例えば、図2に示されている1次検索画面30がUI部14に表示される。次に、ユーザがUI部14を利用することにより、その1次検索画面30において1次検索条件を入力し、1次検索の実行を指示する(S02)。これにより、1次検索部16が、1次検索条件に適合する第1画像群を画像DB12から検索する(S03)。検索結果である第1画像群がUI部14の表示部に表示される(S04)。また、制御部26は2次検索画面をUI部14の表示部に表示させる(S04)。例えば、図3に示されている2次検索画面40がUI部14に表示される。次に、ユーザがUI部14を利用することにより、その2次検索画面40において、第1画像群の中から複数の選択画像を選択し、2次検索(再検索)の実行を指示する(S05)。例えば、画像52,56が選択されて2次検索の実行が指示される。次に、属性抽出部18が、各選択画像(例えば画像52,56)の画像属性情報を抽出する(S06)。検索条件作成部20は、抽出された各画像属性情報に基づいて、画像属性毎の検索条件を含む2次検索条件を作成する(S07)。また、優先度算出部22は、各画像属性の優先度を算出する。これにより、検索条件毎の優先度が求められる。そして、再検索部24は、2次検索条件に適合する第2画像群を画像DB12から検索する(S08)。検索結果である第2画像群はUI部14の表示部に表示される(S04)。再検索処理において、再検索部24は、2次検索条件の中で優先度の基準を満たす検索条件に適合する第2画像群を検索してもよい。または、再検索部24は、第2画像群の中で優先度が高い検索条件に適合する画像ほど、優先的に表示部に表示させてもよい。2次検索結果に対して更に2次検索が実行されてもよい。この場合、第2画像群の中からユーザによって複数の選択画像が選択され、当該複数の選択画像の画像属性情報に基づいて2次検索条件が作成され、その2次検索条件に従って2次検索が実行される。
以上のように、本実施形態では、複数の選択画像の画像属性に基づいて2次検索条件が作成され、その2次検索条件に適合する第2画像群が検索される。これにより、複数の選択画像に関連する画像属性を有する第2画像群が検索される。つまり、ユーザによって選択された選択画像に類似する第2画像群が選択される。本実施形態によると、ユーザが意図して画像属性に関する2次検索条件を設定しなくても、ユーザによって選択された選択画像の画像属性情報に基づいて自動的に2次検索条件が作成されるので、ユーザは意識して2次検索条件を設定せずに済む。ユーザが気付いていない観点やユーザによって表現し難い観点は、ユーザが意識して2次検索条件に含めることは想定し難いが、本実施形態によると、そのような観点であっても、選択画像の画像属性に含まれている場合には、2次検索条件として設定されることになる。本実施形態によると、選択画像を選択するという簡便な操作で、画像属性情報を利用した、より精度の高い画像検索が実現される。
上記の画像検索装置10は、一例としてハードウェア資源とソフトウェアとの協働により実現される。具体的には、画像検索装置10は、図示しないCPU等のプロセッサを備えている。当該プロセッサが、図示しない記憶装置に記憶されたプログラムを読み出して実行することにより、画像検索装置10の各部の機能が実現される。上記プログラムは、CDやDVD等の記録媒体を経由して、又は、ネットワーク等の通信経路を経由して、記憶装置に記憶される。または、画像検索装置10の各部は、例えばプロセッサや電子回路等のハードウェア資源により実現されてもよい。その実現においてメモリ等のデバイスが利用されてもよい。別の例として、画像検索装置10の各部は、DSP(Digital Signal Processor)やFPGA(Field Programmable Gate Array)等によって実現されてもよい。
10 画像検索装置、12 画像DB、14 UI部、16 1次検索部、18 属性抽出部、20 検索条件作成部、22 優先度算出部、24 再検索部、26 制御部。

Claims (8)

  1. 画像属性を示す画像属性情報に基づいて画像群の中から第1画像群を検索する第1検索手段と、
    前記第1画像群の中から選択された複数の選択画像のそれぞれの画像属性を示す画像属性情報に基づいて検索条件を作成する検索条件作成手段と、
    前記検索条件に基づいて前記画像群の中から第2画像群を検索する第2検索手段と、
    を有する画像検索装置。
  2. 前記検索条件作成手段は、各選択画像の複数の画像属性を示す複数の画像属性情報に基づいて、画像属性毎の検索条件を作成し、
    当該画像検索装置は、
    各選択画像間の画像属性情報の差分に基づいて、各検索条件の優先度を決定する優先度決定手段を更に有し、
    前記第2検索手段は、前記優先度に基づいて、画像属性毎の検索条件の中から検索に用いられる検索条件を決定し、当該検索条件に基づいて前記第2画像群を検索する、
    ことを特徴とする請求項1に記載の画像検索装置。
  3. 前記検索条件作成手段は、各選択画像の複数の画像属性を示す複数の画像属性情報に基づいて、画像属性毎の検索条件を作成し、
    当該画像検索装置は、
    各選択画像間の画像属性情報の差分に基づいて、各検索条件の優先度を決定する優先度決定手段を更に有し、
    前記第2検索手段は、画像属性毎の検索条件に基づいて前記第2画像群を検索し、前記第2画像群の中で優先度の高い検索条件に適合する画像ほど、優先的に出力する、
    ことを特徴とする請求項1に記載の画像検索装置。
  4. 前記差分が小さいほど優先度は高い、
    ことを特徴とする請求項2又は請求項3に記載の画像検索装置。
  5. 選択画像の画像属性情報は、選択画像の画像属性を示す数値であり、
    前記検索条件作成手段は、選択画像の画像属性を示す数値に基づいて、数値範囲で規定される検索条件を作成し、
    前記第2検索手段は、画像属性を示す数値が前記数値範囲に含まれる前記第2画像群を検索する、
    ことを特徴とする請求項1から請求項4のいずれか一項に記載の画像検索装置。
  6. 選択画像の画像属性情報は、選択画像に表されているオブジェクトを示す文字列であり、
    前記検索条件作成手段は、前記複数の選択画像に表されている各オブジェクトが同一オブジェクト種に属する場合、当該オブジェクトを示す文字列を検索条件として採用し、各オブジェクトが同一オブジェクト種に属さず同一カテゴリに属する場合、当該カテゴリを示す文字列を検索条件として採用し、
    前記第2検索手段は、検索条件として採用された文字列を含む文字列が画像属性情報として規定されている前記第2画像群を検索する、
    ことを特徴とする請求項1から請求項4のいずれか一項に記載の画像検索装置。
  7. 前記第2検索手段は、各選択画像間の画像属性情報の差分が予め設定された閾値以上となる画像属性についての検索条件を除外して前記第2画像群を検索する、
    ことを特徴とする請求項1から請求項6のいずれか一項に記載の画像検索装置。
  8. コンピュータを、
    画像属性を示す画像属性情報に基づいて画像群の中から第1画像群を検索する第1検索手段と、
    前記第1画像群の中から選択された複数の選択画像のそれぞれの画像属性を示す画像属性情報に基づいて検索条件を作成する検索条件作成手段と、
    前記検索条件に基づいて前記画像群の中から第2画像群を検索する第2検索手段と、
    として機能させるプログラム。
JP2015047687A 2015-03-10 2015-03-10 画像検索装置及びプログラム Expired - Fee Related JP6575080B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015047687A JP6575080B2 (ja) 2015-03-10 2015-03-10 画像検索装置及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015047687A JP6575080B2 (ja) 2015-03-10 2015-03-10 画像検索装置及びプログラム

Publications (3)

Publication Number Publication Date
JP2016167237A true JP2016167237A (ja) 2016-09-15
JP2016167237A5 JP2016167237A5 (ja) 2018-03-22
JP6575080B2 JP6575080B2 (ja) 2019-09-18

Family

ID=56897621

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015047687A Expired - Fee Related JP6575080B2 (ja) 2015-03-10 2015-03-10 画像検索装置及びプログラム

Country Status (1)

Country Link
JP (1) JP6575080B2 (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018159095A1 (ja) * 2017-02-28 2018-09-07 株式会社日立製作所 画像検索装置及び画像検索方法
JP2018198056A (ja) * 2017-05-23 2018-12-13 キヤノン株式会社 情報処理装置、情報処理方法及びプログラム
JP2020042684A (ja) * 2018-09-13 2020-03-19 株式会社東芝 検索装置、検索方法及びプログラム
KR20210144326A (ko) * 2020-05-22 2021-11-30 주식회사 엔투비즈 카메라 설정 정보 제공 방법 및 이러한 방법을 사용하는 장치
US20240004916A1 (en) * 2022-03-31 2024-01-04 Dropbox, Inc. Generating and utilizing digital media clips based on contextual metadata from digital environments

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010218479A (ja) * 2009-03-19 2010-09-30 Yahoo Japan Corp 画像検索装置
JP2014010640A (ja) * 2012-06-29 2014-01-20 Canon Marketing Japan Inc 画像検索装置、情報処理方法、プログラム
JP2014063246A (ja) * 2012-09-20 2014-04-10 Casio Comput Co Ltd 電子アルバム作成装置、及び電子アルバム作成方法、プログラム

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010218479A (ja) * 2009-03-19 2010-09-30 Yahoo Japan Corp 画像検索装置
JP2014010640A (ja) * 2012-06-29 2014-01-20 Canon Marketing Japan Inc 画像検索装置、情報処理方法、プログラム
JP2014063246A (ja) * 2012-09-20 2014-04-10 Casio Comput Co Ltd 電子アルバム作成装置、及び電子アルバム作成方法、プログラム

Cited By (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11086924B2 (en) 2017-02-28 2021-08-10 Hitachi, Ltd. Image search device and image search method
JP2018142160A (ja) * 2017-02-28 2018-09-13 株式会社日立製作所 画像検索装置及び画像検索方法
WO2018159095A1 (ja) * 2017-02-28 2018-09-07 株式会社日立製作所 画像検索装置及び画像検索方法
CN110325983A (zh) * 2017-02-28 2019-10-11 株式会社日立制作所 图像检索装置和图像检索方法
JP2022093550A (ja) * 2017-05-23 2022-06-23 キヤノン株式会社 情報処理装置、情報処理方法及びプログラム
JP2018198056A (ja) * 2017-05-23 2018-12-13 キヤノン株式会社 情報処理装置、情報処理方法及びプログラム
JP7130425B2 (ja) 2017-05-23 2022-09-05 キヤノン株式会社 情報処理装置、情報処理方法及びプログラム
JP7375101B2 (ja) 2017-05-23 2023-11-07 キヤノン株式会社 情報処理装置、情報処理方法及びプログラム
JP2020042684A (ja) * 2018-09-13 2020-03-19 株式会社東芝 検索装置、検索方法及びプログラム
US11126652B2 (en) 2018-09-13 2021-09-21 Kabushiki Kaisha Toshiba Retrieval device, retrieval method, and computer program product
JP7132046B2 (ja) 2018-09-13 2022-09-06 株式会社東芝 検索装置、検索方法及びプログラム
KR20210144326A (ko) * 2020-05-22 2021-11-30 주식회사 엔투비즈 카메라 설정 정보 제공 방법 및 이러한 방법을 사용하는 장치
KR102363487B1 (ko) * 2020-05-22 2022-02-16 주식회사 엔투비즈 카메라 설정 정보 제공 방법 및 이러한 방법을 사용하는 장치
US20240004916A1 (en) * 2022-03-31 2024-01-04 Dropbox, Inc. Generating and utilizing digital media clips based on contextual metadata from digital environments

Also Published As

Publication number Publication date
JP6575080B2 (ja) 2019-09-18

Similar Documents

Publication Publication Date Title
US9972105B2 (en) Visualization of data clusters
US9846708B2 (en) Searching of images based upon visual similarity
JP6575080B2 (ja) 画像検索装置及びプログラム
US7769771B2 (en) Searching a document using relevance feedback
US8565537B2 (en) Methods and apparatus for retrieving images from a large collection of images
US6522782B2 (en) Image and text searching techniques
JP4583003B2 (ja) 検索処理方法及びプログラム
US20170322983A1 (en) System and method for displaying search results for a trademark query in an interactive graphical representation
US20090183115A1 (en) Document searching apparatus, document searching method, and computer-readable recording medium
JP2017500664A (ja) 多ディメンション・データー構造に対する実行のためのクエリー構築
CN109063198B (zh) 融媒体资源的多维可视化搜索推荐系统
US9026643B2 (en) Contents' relationship visualizing apparatus, contents' relationship visualizing method and its program
US11640432B2 (en) Document retrieval apparatus and document retrieval method
CN111737608A (zh) 企业信息检索结果排序方法及装置
US10055456B2 (en) Information processing apparatus and non-transitory computer readable medium for displaying an information object
CN109478191B (zh) 文本挖掘方法、记录介质及文本挖掘装置
JP4287464B2 (ja) システム基盤構成策定支援システム及び支援方法
JP2021005179A (ja) 検索装置、検索システム、及び検索プログラム
JP2010282503A (ja) 関連情報検索表示システム及び関連情報検索表示方法,プログラム
JP6310529B1 (ja) 検索装置、検索方法および検索プログラム
JP4640861B2 (ja) 検索処理方法及びプログラム
JP2006338508A (ja) 関連コンテンツ探索装置及び方法
US20160162752A1 (en) Retrieval apparatus, retrieval method, and computer program product
JP2018018428A (ja) 情報処理装置及びプログラム
JP2009271671A (ja) 情報処理装置、情報処理方法、プログラム及び記録媒体

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180202

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180202

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20181218

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20181219

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190214

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190723

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190805

R150 Certificate of patent or registration of utility model

Ref document number: 6575080

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees