JP2010250630A - 画像サーバー、画像検索システムおよび画像検索方法 - Google Patents

画像サーバー、画像検索システムおよび画像検索方法 Download PDF

Info

Publication number
JP2010250630A
JP2010250630A JP2009100500A JP2009100500A JP2010250630A JP 2010250630 A JP2010250630 A JP 2010250630A JP 2009100500 A JP2009100500 A JP 2009100500A JP 2009100500 A JP2009100500 A JP 2009100500A JP 2010250630 A JP2010250630 A JP 2010250630A
Authority
JP
Japan
Prior art keywords
image
search
cluster
importance
image data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP2009100500A
Other languages
English (en)
Inventor
Yasuhisa Hayaishi
育央 早石
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Seiko Epson Corp
Original Assignee
Seiko Epson Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Seiko Epson Corp filed Critical Seiko Epson Corp
Priority to JP2009100500A priority Critical patent/JP2010250630A/ja
Publication of JP2010250630A publication Critical patent/JP2010250630A/ja
Withdrawn legal-status Critical Current

Links

Images

Landscapes

  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

【課題】画像検索に要する時間を増大させることなく、画像検索の精度を向上させること。
【解決手段】画像サーバー10は、検索画像データの特徴量を複数取得し、取得した複数の特徴量に対応する重要度を記憶装置13から取得し、取得した重要度と複数の特徴量とクラスタが有する属性とを用いて複数のクラスタの中から検索画像特徴量に類似または一致する属性を有する複数のクラスタを検索する。画像サーバー10は、検索した複数のクラスタの中から一のクラスタが選択された場合には、選択された一のクラスタに関連付けられている属性に基づいて、取得された複数の検索画像特徴量の少なくとも一部に対する重要度を増大させ、変更された重要度と取得された複数の検索画像特徴量とを用いて選択されたクラスタに属する検索画像に類似または一致する1または複数の画像を検索する。
【選択図】図1

Description

本発明は、画像を検索するための画像検索システムに関する。
ネットワークを介して、所望の画像を検索するための技術が実用化されている。画像データを格納するサーバーコンピューター(画像サーバー)は、一般的に、数多くの画像データを画像データの特徴を記述するメタデータと関連付けて格納している。画像サーバーとネットワークを介して接続されているクライアントコンピューターは、検索を所望する画像をキーワードで表した検索要求を画像サーバーに送信し、画像サーバーから検索結果として、一または複数の画像データを受信する。
特開2008−123095号公報
しかしながら、各画像サーバーが有する画像データベースの特徴、すなわち、格納されている画像データの傾向、種類は画像データベース毎に異なり、要求されたキーワードが画像データベースの特性に適合していないこともあり、結果として、適切な検索結果を得られず、検索精度が低下するという問題がある。また、メタデータを用いた従来の検索では、検索対象が画像であるにもかかわらず、検索要求をキーワードによって入力しなければならず、所望の画像をキーワードによって適切に特定することは容易でない。さらに、画像サーバー上に格納されている画像データについても適切なメタデータが付されていない場合がある。この結果、利用者が所望する画像を精度良く、また、迅速に得られないという問題があった。また、画像を用いた画像の検索は時間を要するという問題があった。
本発明は、上記課題の少なくとも一部を解決するためになされたものであり、画像検索に要する時間を増大させることなく、画像検索の精度を向上させることを目的とする。
上記課題の少なくとも一部を解決するために、本発明は以下の種々の態様を採る。
第1の態様は画像サーバーを提供する。第1の態様に係る画像サーバーは、属性を有する複数のクラスタにクラスタリングされている複数の画像と、画像の複数の特徴量と特徴量の重要度とを対応づけた情報と、を格納する記憶装置と、検索の対象となる画像である検索画像を取得する検索画像取得部と、前記取得した検索画像の特徴量である検索画像特徴量を複数取得する検索画像特徴量取得部と、前記取得した複数の検索画像特徴量に対応する重要度を前記記憶装置から取得する重要度取得部と、前記取得された重要度と複数の検索画像特徴量と前記クラスタが有する属性とを用いて前記複数のクラスタの中から前記検索画像特徴量に類似または一致する属性を有する複数のクラスタを検索するクラスタ検索部と、前記検索した複数のクラスタの中から一のクラスタの選択の有無を判定するクラスタ選択判定部と、一のクラスタが選択された場合には、前記選択されたクラスタに関連付けられている属性に基づいて、前記取得された複数の検索画像特徴量の少なくとも一部に対する重要度を増大させる重要度変更部と、前記変更された重要度と前記取得された複数の検索画像特徴量とを用いて前記選択されたクラスタに属する画像の中から前記検索画像に類似または一致する1または複数の画像を検索する画像検索部と、前記検索結果を出力する出力部とを備える。
第1の態様に係る画像サーバーによれば、取得された重要度と複数の検索画像特徴量とクラスタが有する属性とを用いて複数のクラスタの中から検索画像特徴量に類似または一致する属性を有する複数のクラスタを検索し、検索した複数のクラスタの中から一のクラスタが選択された場合には、選択されたクラスタに関連付けられている属性に基づいて、取得された複数の検索画像特徴量の少なくとも一部に対する重要度を増大させ、変更された重要度と取得された複数の検索画像特徴量とを用いて選択されたクラスタに属する画像の中から検索画像に類似または一致する1または複数の画像を検索するので、画像検索に要する時間を増大させることなく、画像検索の精度を向上させることができる。
第1の態様に係る画像サーバーにおいて、前記重要度変更部は、一のクラスタが選択されない場合には、前記取得された重要度を変更せず、前記画像検索部は前記重要度取得部によって取得された重要度を用いて前記検索された複数のクラスタの中から前記検索を実行しても良い。この場合には、一のクラスタが選択されない場合であっても、クラスタを用いた画像検索を実現することができる。
第1の態様に係る画像サーバーにおいて、前記画像検索部は、前記重要度、前記検索画像特徴量および前記記憶装置に格納されている画像の特徴量とを用いて類似度を算出することによって、前記検索画像に類似または一致する1または複数の画像を前記選択または検索された画像の中から検索しても良い。この場合には、重要度、検索画像の特徴量および記憶装置に格納されている画像の特徴量とを用いて、検索画像に一致・類似するクラスタおよび画像を検索することができる。
第1の態様に係る画像サーバーにおいて、前記重要度は前記類似度を算出する際に用いられる重み付け係数であっても良い。この場合には、重要度に応じた類似度を得ることができる。
第1の態様に係る画像サーバーにおいて、前記類似度は値が小さくなるに連れて類似の程度が増大することを示し、前記重要度変更部は、前記検索された複数のクラスタのいずれかにおいてクラスタを構成する画像の数が第1の画像数以下の場合には、第1の画像数以下の画像が表示されているクラスタの属性に対応する重み付け係数を0に変更しても良い。この場合には、当該クラスタの属性が検索画像の特徴量に極めて近似しており、当該クラスタの属性に対応する重み付け係数を0にすることによって、検索精度を向上させることができる。
第1の態様に係る画像サーバーにおいて、前記重要度変更部はさらに、前記検索された複数のクラスタのいずれかにおいてクラスタを構成する画像の数が前記第1の画像数よりも多い第2の画像数以下の場合には、第2の画像数以下の画像が表示されているクラスタの属性に対応する重み付け係数を1/2倍しても良い。この場合には、当該クラスタの属性が検索画像の特徴量に近似しており、当該クラスタの属性に対応する重み付け係数を1/2とすることによって、検索精度を向上させることができる。
第1の態様に係る画像サーバーにおいて、前記画像サーバーは検索結果を示す表示部を備える画像検索装置からの要求に基づいて画像を検索して、検索結果としての複数の画像を前記画像検索装置に対して出力し、前記第1の画像数は前記表示部に全て表示可能な数であり、前記第2の画像数は前記表示部に半分を表示可能な数であっても良い。この場合には、表示可能な画像数に応じて重要度を増大させることができる。
第1の態様に係る画像サーバーにおいて、前記クラスタ関連付けられている属性はクラスタを構成する複数の画像の特徴量の平均値であっても良い。この場合には、クラスタの属性を適切に評価することができる。
第2の態様は、画像検索システムを提供する。第2の態様に係る画像検索システムは、第1に態様に係る画像サーバーと、前記画像サーバーにネットワークを介してアクセス可能なプリンターであって、前記画像サーバーに対して前記検索画像を送信する送信部と、前記画像サーバーから出力された前記検索結果としての複数のクラスタまたは複数の画像を受け取る受信部と、前記検索されたクラスタの中から1のクラスタが選択されたか否かを、前記画像サーバーに対して通知する通知部と、前記受信した画像を表示する表示部とを備えるプリンターとを備える。
第2の態様に係る画像検索システムによれば、画像検索の精度を向上させることができる。
第3の態様は画像検索方法を提供する。第3の態様に係る画像検索方法は、検索の対象となる画像である検索画像を取得し、前記取得された検索画像の特徴量である検索画像特徴量を複数取得し、前記取得した複数の特徴量に対応する重要度を、属性を有する複数のクラスタに予めクラスタリングされている複数の画像と、画像の複数の特徴量と特徴量の重要度とを対応づけた情報と、を格納する前記記憶装置から取得し、前記取得した重要度と複数の特徴量と前記クラスタが有する属性とを用いて前記複数のクラスタの中から前記検索画像特徴量に類似または一致する属性を有する複数のクラスタを検索し、前記検索した複数のクラスタの中から一のクラスタが選択された場合には、前記選択された一のクラスタに関連付けられている属性に基づいて、前記取得された複数の検索画像特徴量の少なくとも一部に対する重要度を増大させ、前記変更された重要度と前記取得された複数の検索画像特徴量とを用いて前記選択されたクラスタに属する前記検索画像に類似または一致する1または複数の画像を検索し、前記検索結果を出力することを備える。
第3の態様に係る画像検索方法によれば、第1の態様に係る画像サーバーと同様の作用効果を得ることができると共に、第1の態様に係る画像サーバーと同様にして種々の態様にて実現され得る。
第3の態様に係る方法は、画像検索プログラムとして実現され得ると共に、画像検索プログラムがそれぞれ記録されたコンピューター読み取り可能な媒体として実現され得る。
本実施例に係る画像検索システムの概略構成を示す説明図である。 本実施例に係る画像サーバーの内部構成を機能ブロック図にて模式的に示す説明図である。 画像サーバーが備えるメモリに格納されている各種プログラム、モジュールを示す説明図である。 本実施例に係るプリンターの内部構成を機能ブロック図にて模式的に示す説明図である。 画像プリンターが備えるメモリに格納されている各種プログラム、モジュールを示す説明図である。 本実施例に係る特徴量に対して重要度を対応付けるために実行される処理ルーチンを示すフローチャートである。 画像データベースにおける画像管理テーブルの一例を示す説明図である。 各特徴量における重要度を対応付ける重要度テーブルの一例を示す説明図である。 クラスタの属性を管理するクラスタテーブルの一例を示す説明図である。 本実施例に係る画像サーバーにおいて実行される画像検索処理ルーチンを示すフローチャートである。 本実施例に係るプリンターにおいて実行される画像検索要求処理ルーチンを示すフローチャートである。 本実施例に係るプリンターにおける表示画面の第1の態様を示す説明図である。 本実施例に係るプリンターにおける表示画面の第2の態様を示す説明図である。
以下、本発明に係る画像検索システム、画像サーバー、画像検索方法、画像管理方法、プリンターについて、図面を参照しつつ、実施例に基づいて説明する。
第1の実施例:
図1は本実施例に係る画像検索システムの概略構成を示す説明図である。本実施例に係る画像検索システムISSは、サーバーコンピューター10、プリンター20、パーソナルコンピューター30を備えている。サーバーコンピューター10と、プリンター20およびパーソナルコンピューター30とはネットワークNEを介して双方向通信可能に接続されている。ネットワークは、インターネットであっても良く、イントラネットであっても良い。
サーバーコンピューター10は、数多くの被検索画像データを格納し、クライアントコンピューターからの検索要求に応じて画像の検索を実行する。したがって、サーバーコンピューターは画像データベースを有する画像サーバー、画像データを検索する画像検索装置であると言うことができる。プリンター20およびパーソナルコンピューター30は、画像サーバー10に対するクライアントまたは画像検索端末装置と呼ぶことができる。パーソナルコンピューター30は、表示ディスプレイ31並びにキーボードおよびマウスといった入力装置32を備えている。
画像サーバーの構成:
図2は本実施例に係る画像サーバーの内部構成を機能ブロック図にて模式的に示す説明図である。図3は画像サーバーが備えるメモリに格納されている各種プログラム、モジュールを示す説明図である。画像サーバー10は、互いに通信可能に接続されている中央処理装置(CPU)11、メモリ12、画像データベースが構築されている記憶装置(画像データベースともいう)13、および入出力インターフェース14を備えている。CPU11は、メモリ12に格納されている各種プログラム、モジュールを実行する。メモリ12は、CPU11によって実行されるプログラム、モジュールを不揮発的に記憶すると共に、CPU11による処理実行時にプログラム、モジュールが展開される揮発的な作業領域を有する。メモリ12としては、例えば、プログラム等を不揮発的に記憶するリードオンリメモリ、プログラム実行時における揮発的な作業領域を提供するランダムアクセスメモリといった半導体記憶装置が用いられ得る。
記憶装置13は、例えば、ハードディスクドライブ、フラッシュメモリドライブといった1または複数の大容量記憶装置によって構成されている。記憶装置13には、複数の画像データ、並びに各画像データの特徴量、クラスタリングされている場合の所属クラスタおよび画像データの特徴量といった画像データの管理情報(属性情報)から構成されている画像データベースが構築されている。なお、画像データが機器上で出力(表示、印刷)された態様が画像であるが、請求項における画像は画像データを意味することは当業者にとって自明な事項である。記憶装置13は、複数の画像データのみを格納する画像データ格納部として機能しても良い。この場合には、記憶装置13に格納されている各画像データの特徴量および画像データの管理情報(属性情報)はメモリ12に格納される。本実施例では、クライアントから見て、画像サーバー10自体が画像データベースとして機能する。なお、本実施例では、記憶装置13が単に画像データおよび画像管理情報を格納するデータベースを例をとって説明しているが、記憶装置13に検索機能を備える制御部を備え、外部からの検索要求に応じて検索結果を出力する独立型のデータベースシステム(ファイルサーバー)であっても良い。この場合には、画像サーバー10の外部に画像データベースシステムが配置され、入出力インターフェース14を介して両者の間で検索要求および検索結果の送受信が実行される。いずれの場合にも、データベース検索用のプログラムはメモリ12に格納され、CPU11によって実行される。
入出力インターフェース14は、外部装置、例えば、プリンター20、パーソナルコンピューター30といったクライアントとの間で、周知の通信プロトコルに従って検索要求および検索結果の送受信を実行する。
メモリ12に格納されている各種プログラム、モジュールについて図3を用いて説明する。メモリ12は、本実施例に係る画像データベースに重要度を対応付けるために実行される重要度対応付けプログラムSP1と、記憶装置13からクラスタ、画像を検索するために実行される画像検索プログラムSP2とを格納している。重要度対応付けプログラムSP1は、画像データ取得モジュールSM11、特徴量取得モジュールSM12、正規化モジュールSM13、クラスタリングモジュールSM14、重要度決定モジュールSM15、重要度変更モジュールSM16を備えている。画像データ取得モジュールSM11は、記憶装置13に格納されている画像データを順次、重複なく取得するために実行されるモジュールである。特徴量取得モジュールSM12は、画像データ取得モジュールSM11によって取得された画像データを解析して、特徴量を取得するために実行されるモジュールである。ここで、特徴量とは、例えば、画像データの平均輝度、最小輝度、最高輝度、色相、画像データに含まれる顔のサイズ、位置といった値である。これら特徴量は、当業者にとって周知の方法で取得することが可能である。
正規化モジュールSM13は、重要度決定モジュールSM15によって決定された各特徴量に対する重要度、特徴量取得モジュールSM12によって取得された、記憶装置13に含まれている全ての画像データの各特徴量を正規化するために実行されるモジュールである。正規化は、例えば、特徴量の標準偏差を用いて実行されても良く、あるいは、取得された各特徴量の最大値が1に最小値が0になるように実行されても良い。クラスタリングモジュールSM14は、正規化された各特徴量を用いて、画像データベース13内の画像データを複数のクラスタに分類するために実行されるモジュールである。クラスタリングの手法としては、階層型クラスタリング手法、非階層型クラスタリング手法が知られている。階層型クラスタリング手法としては、所定の特徴量を用いて全体を順に分割していく分割型クラスタリング手法、類似する画像データを集めることを繰り返す凝集型クラスタリング手法等が用いられ得る。非階層型クラスタリング手法としては、K−平均法、自己組織化マップ(SOM)等が用いられ得る。重要度決定モジュールSM15は、メモリ12に格納されている複数の画像データから得られた複数の特徴量に基づいて、画像サーバー10における各特徴量の重要度を決定し、各特徴量と重要度を対応付けて格納するために実行されるモジュールである。重要度変更モジュールSM16は、クライアントであるプリンターまたはパーソナルコンピューターから入力された特徴量の値に応じて各特徴量における重要度を変更するために実行されるモジュールである。なお、重要度対応付けプログラムSP1、画像データ取得モジュールSM11、特徴量取得モジュールSM12、正規化モジュールSM13、クラスタリングモジュールSM14、重要度決定モジュールSM15、重要度変更モジュールSM16は、それぞれCPU11によって実行されることによって、重要度対応付け部、画像データ取得部、特徴量取得部、正規化部、クラスタリング部、重要度決定部、重要度変更部として機能する。
画像検索プログラムSP2は、検索画像データ取得モジュールSM21、検索モジュールSM22を備えている。検索モジュールSM22は、クラスタ検索部および画像データ検索部として機能し、サブモジュールとして検索画像データ特徴量取得モジュールSM23、類似度算出モジュールSM24、重要度取得モジュールSM25、クラスタ属性取得モジュールSM26を備えている。検索画像データ取得モジュールSM21は、クライアントであるプリンター20およびパーソナルコンピューター30によって送信された検索画像データを取得するために実行されるモジュールである。検索モジュールSM22は、取得した検索画像データを用いて、記憶装置13から、検索画像データに類似または一致する複数のクラスタを検索するため、並びに検索画像データに類似または一致する1または複数の画像データを検索するために実行されるモジュールである。検索画像データ特徴量取得モジュールSM23は、取得した検索画像データの複数の特徴量を取得するために実行される。類似度算出モジュールSM24は取得した検索画像データの特徴量と、各クラスタの代表値および各クラスタに属する画像データの特徴量と、重要度取得モジュールSM25によって取得された重要度とを用いて検索画像データと被検索画像データとの類似度を算出するため実行されるモジュールである。重要度取得モジュールSM25は、各特徴量に対応付けられている重要度を取得するためのモジュールである。クラスタ属性取得モジュールSM26は、検索した取得した複数のクラスタの中から選択されたクラスタの属性(代表値)を取得するために実行される。なお、画像検索プログラムSP2、検索画像データ取得モジュールSM21、検索モジュールSM22、検索画像データ特徴量取得モジュールSM23、類似度算出モジュールSM24、重要度取得モジュールSM25、クラスタ属性取得モジュールSM26は、それぞれCPU11によって実行されることによって、画像検索部、検索画像取得部、画像データ特徴量取得部、類似度算出部、重要度取得部、クラスタ属性取得部として機能する。
プリンターの構成:
図4は本実施例に係るプリンターの内部構成を機能ブロック図にて模式的に示す説明図である。図5は画像プリンターが備えるメモリに格納されている各種プログラム、モジュールを示す説明図である。本実施例では、画像検索端末装置としてプリンター20を例にとって説明するが、パーソナルコンピューター30についても同様に画像検索端末装置として用いることが可能であることは言うまでもない。プリンター20は、信号線によって互いに接続されている制御回路21、入力操作部22、表示部23、印刷部24、外部入出力インターフェース25を備えている。制御回路21は、互いに通信可能に接続されている中央処理装置(CPU)210、メモリ211、入出力(I/O)インターフェース212を備えている。CPU210は、メモリ211に格納されている各種プログラム、モジュールを実行する。メモリ211は、CPU210によって実行されるプログラム、モジュールを不揮発的に記憶すると共に、CPU210による処理実行時にプログラム、モジュールが展開される揮発的な作業領域を有する。メモリ211としては、例えば、プログラム等を不揮発的に記憶するリードオンリメモリ、プログラム実行時における揮発的な作業領域を提供するランダムアクセスメモリといった半導体記憶装置が用いられ得る。入出力インターフェース212は、制御回路21と、入力操作部22、表示部23、印刷部24および外部入出力インターフェース25との間で、コマンド、データの送受信を実行する。入力操作部22は、プリンター20に対してユーザが指示を入力するための操作部であり、例えば、ボタン、ホイールによって実現され得る。表示部23は、ユーザに対して検索した画像データに基づく画像の表示、ユーザに対する各種情報の表示を行うカラー表示可能な表示画面である。印刷部24は、ユーザ(制御回路21)からの印刷指示に従って印刷媒体に対して画像を形成する印刷実行部である。外部入出力インターフェース25は、外部装置、例えば、画像サーバー10との間で、周知の通信プロトコルに従って検索要求および検索結果の送受信を実行する。
メモリ211に格納されている各種プログラム、モジュールについて図5を用いて説明する。メモリ211は、画像サーバー10に対して画像検索を要求するための画像検索要求プログラムCP1を備え、画像検索要求プログラムCP1は、画像データ特定モジュールCM11、検索要求モジュールCM12、検索結果取得モジュールCM13、検索結果表示モジュールCM14、選択クラスタ通知モジュールCM15を備えている。画像データ特定モジュールCM11は、検索対象(検索キー)となる画像(画像データ)を特定するために実行されるモジュールである。検索要求モジュールCM12は、特定された画像データと検索の要求を画像サーバー10に対して送信するためのモジュールである。検索結果取得モジュールCM13は、画像サーバー10から検索結果としても一または複数の画像データを取得するためのモジュールである。検索結果表示モジュールCM14は、検索結果として取得した一または複数の画像データを用いて表示部23に検索結果としての画像を表示するためのモジュールである。選択クラスタ通知モジュールCM15は、クラスタの選択の有無並びに、選択されたクラスタを画像サーバー10に通知するためもモジュールである。なお、画像検索要求プログラムCP1、画像データ特定モジュールCM11、検索要求モジュールCM12、検索結果取得モジュールCM13、検索結果表示モジュールCM14はおよび選択クラスタ通知モジュールCM15は、それぞれCPU210によって実行されることによって、画像検索要求部、検索画像特定部、検索要求部、検索結果取得部、検索結果表示部および選択クラスタ通知部として機能する。
画像管理方法(重要度の対応付け):
図6は本実施例における係る特徴量に対して重要度を対応付けるために実行される処理ルーチンを示すフローチャートである。図7は画像データベースにおける画像管理テーブルの一例を示す説明図である。図8は各特徴量における重要度を対応付ける重要度テーブルの一例を示す説明図である。図9はクラスタの属性を管理するクラスタテーブルの一例を示す説明図である。
本処理ルーチンは、例えば、画像データベースを構築するタイミングにて、あるいは、画像データベースに所定量の新規な画像データが追加されたタイミングにて画像サーバー10によって実行される。画像サーバー10(CPU11)は画像データ取得モジュールSM11を実行して、画像データベース13から画像データを取得する(ステップS100)。取得された画像データは一時的にメモリ12に格納される。
CPU11は特徴量取得モジュールSM12を実行して、メモリ12に格納されている画像データから複数の特徴量を取得する(ステップS102)。本実施例において用いられる特徴量は、例えば、画像データの輝度または画像データの一部の領域における輝度のヒストグラム、テクスチャ、顔の有無、顔の大きさ、色相であり、複数の特徴量が用いられる。輝度のヒストグラムからは、平均輝度値、最高輝度値、最小輝度値が取得され、色相としては、画像データにおけるR、G、B各成分の平均値、または、画像データを構成する全画素数に占める所定値以上のR、G、B成分画素数の割合が取得される。輝度のヒストグラム、色相、テクスチャを特徴量として取得する方法は当業者にとって周知の方法であるから説明を省略する。また、顔の有無、すなわち顔検出、および顔の大きさの検出は、例えば、モデル顔形状を用いたパターンマッチング法、肌色の色相領域を特定する方法、顔の器官を検出する方法がそれぞれ単独または組み合わせて用いられ得る。さらに、本実施例では、シャッタースピード、露出補正量、焦点距離、ISO、フラッシュの使用の有無といった撮影時の撮影条件(例えば、Exif情報)が特徴量として用いられる。これら撮影条件もまた、画像データを特徴付ける情報であり、画像データの検索条件として有用である。これら撮影条件は、値として画像データに撮影時に関連付けられている。
CPU11は、画像データベースに格納されている全ての画像データから特徴量を取得するまで(ステップS104:No)、ステップS100およびS102を繰り返し実行する。この結果、図7に示すような各画像データと特徴量と所属クラスタを対応付ける画像管理テーブルを得ることができる。図7の例では、管理テーブルには画像データのファイル名と、正規化されていない特徴量と、所属クラスタが記述されているが、この時点では、所属クラスタの欄は空欄である。なお、管理テーブルに代えて、各画像データのヘッダに正規化されていない特徴量が共通のフォーマットで記述されていても良い。
CPU11は、全画像データに対する特徴量の取得が終了すると(ステップS104:Yes)、CPU11は、重要度決定モジュールSM15を実行して、各特徴量における重要度を決定する(ステップS106)。具体的には、各特徴量の値、パターン等について、同一特徴量内における重要度を決定する。例えば、比較的高い(平均)輝度値を有する画像データ数が多い画像データベースでは、高い輝度値をパラメータとする画像検索は被検索対象数が多い有意義な検索となり、低い輝度値をパラメータとする画像検索は被検索対象数が少ない(検索精度が高くない)検索となる。すなわち、当該画像データベースは、輝度の高い画像データを多く格納するデータベースであり、輝度の低い画像データの検索には向かないデータベースである。そこで、検索画像データとの類似判定時に用いられる特徴量のうち、その値およびパターン等が画像データベースにおいて重要でない値およびパターン等を示す特徴量については重要度を下げることで、検索され難くし、検索画像データ数の不要な絞り込みを抑制することができる。重要度の決定手順としては、特徴量が数値として取得可能な特徴量の場合には、ヒストグラムを作成して、値の度数(頻度)を求め、度数の高い値を重要度の高い値と決定する。一方、顔の大きさ、向きといった数値化が困難な特徴量の場合には、クラスタリングによって形成された特徴パターンに対応する各クラスタに属する画像データ数を度数として用い、度数の高い値を重要度の高い値と決定する。さらに、特徴量の値のうち、ヒストグラムにおいて極点(上に凸)を採る値について高い重要度を割り当てても良い。極点を採る値は、頻度(度数)は低くても当該特徴量において特徴的な値となるからである。なお、重要度としては、各値毎に度数が求められても良く、あるいは所定の範囲単位で度数が求められても良い。例えば、輝度値の場合には、0〜255の各値に対して度数が求められても良く、0〜5、5〜10といったように5の値域毎に(離散的に)度数が求められても良い。前者の場合には精度が、後者の場合には演算処理速度がそれぞれ高くなる。クラスタリングの手法としては、後述するように、階層型クラスタリング手法と非階層型クラスタリング手法とがある。
CPU11は、正規化モジュールSM13を実行して取得した重要度を各特徴量毎に正規化する(ステップS108)。本実施例では、特徴量の値、パターン毎に標準偏差σを求め、求めた標準偏差σと以下の式を用いて平均が0、標準偏差が1となるように正規化が行われる。正規化値=(x−μ)/σ(xは正規化対象の度数、μは当該度数の平均値)。ここで、各特徴量の正規化された重要度は、検索画像データと被検索対象画像データの類似度を算出する際に、当該特徴量に適用される係数と関連付けられている情報である。例えば、重要度の逆数が係数として用いられ、あるいは、重要度と係数とが対応付けられている。このように、重要度の決定および正規化の処理は、類似判断時に用いられる重み付け係数を決定するための処理であるということができる。
CPU11は、重要度決定モジュールSM15を実行して、各特徴量において決定した重要度を対応付けて重要度テーブルとしてメモリ12に格納する(ステップS110)。メモリ12に格納される重要度テーブルの例を図8に示す。図8の例では、輝度、色相、顔サイズ、シャッタースピードといった各画像特徴量の値について、各特徴量においてそれぞれ正規化された頻度が重要度として対応付けられている。なお、顔サイズは値で表すことはできないが、便宜上、値として表しており、顔がない場合、サイズ小、中 大、小中、中大の間を例示している。
CPU11はクラスタリングモジュールSM14を実行して、クラスタリング処理を実行する(ステップS112)。具体的には、クラスタリングモジュールSM14は、先に取得した各画像データの各特徴量に対して正規化処理を行い、階層型クラスタリング手法または非階層型クラスタリング手法を用いて、各画像データのクラスタリングを実行する。階層型クラスタリング手法としては、所定の特徴量を用いて全体を順に分割していく分割型クラスタリング手法、類似する画像データを集めることを繰り返す凝集型クラスタリング手法が知られている。非階層型クラスタリング手法としては、K平均法、自己組織化マップ(SOM)等が知られている。なお、階層型クラスタリング手法および非階層型クラスタリング手法の具体的な実施方法は、当業者にとって周知であるから詳細な説明は省略する。
CPU11は、クラスタリングによって得られた各クラスタの代表値(属性)を取得し、各クラスタに対応付けて(ステップS114)本処理ルーチンを終了する。各クラスタについて属性を対応付けることで類似する画像データを迅速に特定するための画像インデックスを作成することができる。各クラスタの代表値は、例えば、各クラスタに属する画像データの正規化されていない各特徴量の平均値を求めることによって取得される。取得された各クラスタの代表値と各クラスタとは、例えば、図9に示すクラスタテーブルによって対応付けられる。図9の例では、属性(代表値)として輝度成分、R,G,B各成分、顔の大きさの平均値が各クラスタに対して対応付けられている。このクラスタテーブルは、メモリ12に格納されていてもよく、画像データベース(記憶装置13)の所定の領域に格納されていても良い。また、この時点で、画像管理テーブルは図7に示すように、所属するクラスタと関連付けられる。
画像データの検索:
図10は本実施例に係る画像サーバーにおいて実行される画像検索処理ルーチンを示すフローチャートである。図11は本実施例に係るプリンターにおいて実行される画像検索要求処理ルーチンを示すフローチャートである。図12は本実施例に係るプリンターにおける表示画面の第1の態様を示す説明図である。図13は本実施例に係るプリンターにおける表示画面の第2の態様を示す説明図である。図10に示す処理ルーチンの実行時、画像サーバー10は画像検索装置として機能する。
図11を参照して説明する。プリンター20(CPU210)は、画像データ特定モジュールCM11を実行して、表示部23に表示されている画像の内、ユーザによって特定された画像(検索画像)に対応する検索画像データを特定する(ステップS300)。検索開始時(第1の態様)における表示部23は、図12に示すように、検索画像データに対応する画像を表示する選択検索画像表示領域TA、検索されたクラスタが表示される検索クラスタ表示領域CAを有する。なお、検索開始時には、検索クラスタ表示領域CAにはクラスタに関する情報およびクラスタに対応する画像は表示されていない。選択検索画像表示領域TAに表示される画像は、例えば、可搬式半導体記憶装置に格納されている画像データであり、入力操作部22を介して選択される。CPU210は、表示部23に表示されているクラスタ検索指示キー232を介した入力を受けて、検索要求モジュールCM12を実行して、検索画像データを画像サーバー10に送信する(ステップS302)。具体的には、外部入出力インターフェース25、ネットワークNEを介して画像サーバー10に送信される。なお、プリンター20において、検索画像データと共に、入力操作部22を介して指定された特定の特徴量、あるいはプリンター20が指定した特定の特徴量を画像サーバー10に対して送信できるようにしても良い。この場合には、ユーザが関心を持っている特徴量を指定することが可能となり、画像検索精度を更に向上させることができる。特徴量の指定の方法としては、特徴量単位での指定、あるいは、特定の特徴量における数値の指定が含まれる。プリンター20が指定する場合には、例えば、撮影情報としての開放値、露出補正量がマニュアル設定されている場合には、露出を気にして撮影された画像であることが推測され、スナップ画像ではない写りの良い画像であると判定することができる。また、画像に占める顔の大きさが大きい場合には、ユーザは顔に興味を持っていると判定することができる。さらに、画像を占める特定の色相の面積が大きい場合には、特定の色相が画像を特徴付ける色相であると判定することができる。これらの場合には、指定された撮影条件の値、大きな顔、特定の色相に関する重要度を、後述するように増大させることによって、ユーザの意図を検索結果に反映することができる。
図10を参照して説明する。画像サーバー10(CPU11)は、検索画像データ取得モジュールSM21を実行して、プリンター20から送信されてきた検索画像データを取得する(ステップS200)。具体的には、入出力インターフェース14を介して検索画像データが画像サーバー10内に取り込まれ、メモリ12に格納される。CPU11は、検索画像データ特徴量取得モジュールSM23を実行して、検索画像データの複数の特徴量を取得する(ステップS202)。特徴量の取得の方法については画像特徴量の重要度決定処理において既述したとおりである。
CPU11は、重要度取得モジュールSM25を実行して、取得した検索画像データの各特徴量に対応付けられている重要度を重要度テーブルから取得する(ステップS204)。CPU11は、類似度算出モジュールSM24を実行して、取得した重要度を用いて検索画像データに同一・類似する複数のクラスタを検索し、プリンター20に対して送信する(ステップS206)。クラスタ検索のために、CPU11によって実行される類似度算出モジュールSM24は、クラスタ検索部として機能する。具体的には、取得した検索画像データの複数の検索画像特徴量と、各クラスタの属性(代表値)と、重要度とを用いて類似度が算出される。類似度は、例えば、ユークリッド距離、マハラノビス距離といった距離算出方法によって算出された検索画像データの特徴量と、各クラスタの代表値としての特徴量との間の距離、すなわち、検索画像データの特徴量とクラスタの代表値によって表される多次元ベクトル間の距離を用いて判断され、得られた距離が短いほど類似していると判断される。あるいは、検索画像データの各特徴量の値を成分とする多次元ベクトルと、各被検索画像データの各特徴量の値を成分とする多次元ベクトルとの内積を求めて判断されても良い。この場合には、両多次元ベクトルのコサイン成分の差を求めるので、得られた内積の値が1に近いほど(両多次元ベクトル間の角度が0に近いほど)類似度が高いと判断することができる。
既述のように、各特徴量に対応付けられた正規化後の重要度は、各距離、類似度を算出する際に各特徴量に対して適用される係数と関連付けられている。ユークリッド距離を用いる場合には、以下の式(1)および(2)に示すように係数kiとして用いられる。なお、係数kiは既述の通り、検索画像データの特徴量に基づいて決定される。
Figure 2010250630
Figure 2010250630
式(1)において(xi)は検索対象画像データの特徴量の値、(yi)はクラスタの代表値としての特徴量の値を示し、式(2)においては理解を容易にするため特徴量毎の差分であることを明示している。距離を用いた類似度判断では、算出結果が0に近いほど検出対象画像データとクラスタとが類似していることを示すので、高い重要度に対して小さな係数を対応付けることによって、重要度の高い特徴量に関する感度を低くして検索結果数を増大させることができる。係数は、例えば、正規化された重要度の逆数であってもよく、あるいは、重要度が高くなるに連れて小さくなるように予め規定されている値であっても良い。一方、内積を用いる場合には、以下の式(3)における各多次元ベクトルの成分に対して係数が適用される。
Figure 2010250630
類似度として内積を用いる場合にも、両多次元ベクトル間角度が0に近いほど検出対象画像データとクラスタとが類似していることを示すので、例えば、重要度の逆数を係数とすることによって、重要度の高い特徴量に関する感度を低くして検索結果数を増大させることができる。
CPU11は検出した複数のクラスタを、検索要求の送信元であるプリンター20に対して送信する。なお、CPU11は、検索した各クラスタの代表値を送信しても良く、あるいは、検索した各クラスタに属する画像データまたは当該画像データのサムネイル画像データ、検索された各クラスタの代表値に最も近い特徴量を有する1の画像データをクラスタの代表画像として送信しても良い。ここで、いずれのプリンター20から検索要求が送信されたかについては、たとえば、プリンター20が備える外部入出力インターフェース25の識別情報(例えば、MACアドレス)によって識別することができ、当該識別情報を用いて検索要求の送信元であるプリンター20に対して複数の画像データを送信することができる。なお、複数のクラスタの選択は、予めしきい値としての距離を決めておいても良く、あるいは、クラスタ数を決めておいても良い。
図11を参照して説明する。プリンター20(CPU210)は、検索結果取得モジュールCM13を実行して、画像サーバー10から受信した検索結果としての複数のクラスタを取得し(ステップS304)、検索結果表示モジュールCM14を実行して取得したクラスタを表示部23に表示させる(ステップS306)。具体的には、CPU210は、検索された各クラスタの代表値、検索された各クラスタに属する複数の画像データ、または当該画像データのサムネイル画像データを取得し、あるいは、検索された各クラスタを代表的に示す1の画像データを各クラスタについて取得する。CPU210は、取得したクラスタの代表値、サムネイル画像データを用いた画像、検索された各クラスタを代表的に示す1の画像データを用いた画像を図12に示す検索クラスタ表示領域CAに表示させる。この結果、ユーザはクラスタの属性(特徴)を視覚的に判断することができる。図12では、サムネイル画像が表示される検索クラスタ表示領域CA1と各クラスタを代表的に示す1の画像が表示される検索クラスタ表示領域CAとが例示されている。各検索クラスタ表示領域CA、CA1には、画像と共に、各クラスタの代表値、代表値の傾向に応じて予め用意されているテキストの少なくとも一方が更に表示されても良い。クラスタの代表値が表示されている場合には、検索画像データの特徴量を値によって把握することが可能となり、テキストによって表示されている場合にはテキストによる画像データの表現を取得することができる。なお、検索された各クラスタを代表的に示す1の画像データは、CPU210が検索結果表示モジュールCM14を実行することによって、取得した各検索クラスタに属する複数の画像データを用いて、プリンター20において決定されても良い。
CPU210は、選択クラスタ通知モジュールCM15を実行し、入力操作部22を介して、一のクラスタの選択が行われたか否かを判定し(ステップS308)、一のクラスタの選択が行われたと判定した場合には(ステップS308:Yes)、選択されたクラスタの情報を画像サーバーに対して送信する(ステップS310)。一のクラスタの選択は、例えば、ポインティングデバイスによって選択されることによって、あるいは、キーボードから検索クラスタ表示領域CAに表示される各クラスタを識別するための識別番号、記号を入力して表示ボタン(画像検索指示部)231がポインティングデバイスによって選択されることによって実現される。一方、CPU210は、一のクラスタの選択が行われなかったと判定した場合には(ステップS308:No)、クラスタの非選択を画像サーバーに対して送信する(ステップS312)。クラスタの非選択は、例えば、クラスタを識別するための識別番号が入力されていない状態にて、表示部23に表示されている表示ボタン231がポインティングデバイスによって選択されることによって実現される。
図10を参照して説明する。画像サーバー10(CPU11)は、クラスタの選択を受信したか否かを判定する(ステップS208)。なお、図示していないが、CPU11は、クラスタの選択の有無の通知(信号)を受けるまで待機し、クラスタの選択の有無の通知を受けた後に、ステップS208以降の処理を実行する。CPU11は、クラスタの選択を受信したと判定した場合には(ステップS208:Yes)、クラスタ属性取得モジュールSM26を実行して選択されたクラスタの属性(代表値)と取得し、重要度変更モジュールSM16を実行して、取得した選択クラスタの属性に基づいて少なくとも一部の対応する特徴量の重要度を変更する(ステップS210)。具体的には、例えば、選択されたクラスタの代表値に含まれる特徴量の内、正規化後の値が0.5より大きい特徴量、上位3つの正規化後の値に対応する特徴量について、重要度が増大される。あるいは、選択クラスタの代表値に含まれる全ての特徴量について重要度が変更されても良い。既述のように、特徴量に適用される係数が0の場合に、当該特徴量に関する類似度は最も高くなる(一致する)ので、最大の重要度に対応する係数は0となる。あるいは、特徴量の値が指定されている場合には、CPU11は重要度変更モジュールSM16を実行して、指定されている値に対応する重要度を重要度テーブルから取得して、指定されている値を正規化した後に取得した重要度と置き換える。なお、クラスタの選択に基づく重要度の変更は、今回の検索においてのみ有効であり、重要度テーブルの内容自体は変更されない。
CPU11は類似度算出モジュールSM24を実行して、検索画像データに類似・一致する複数の画像データを選択されたクラスタの中から検索する(ステップS212)。画像データ検索のために、CPU11によって実行される類似度算出モジュールSM24は、画像データ検索部として機能する。具体的には、取得した検索画像データの各特徴量の値と、選択されたクラスタに属する画像データベース上の複数の画像データ(被検索画像データ)の各特徴量と、係数としての重要度とを用いて類似度を算出される。類似度の算出手順はクラスタと検索画像データとの類似度算出の説明において述べたとおりである。
CPU11は検出した複数の画像データを、検索要求の送信元であるプリンター20に対して送信して(ステップS214)本処理ルーチンを終了する。なお、複数の画像データの選択は、予めしきい値としての距離を決めておいても良く、あるいは、画像データ数を決めておいても良い。
CPU11は、クラスタの選択を受信していないと判定した場合には(ステップS208:No)、類似度算出モジュールSM24を実行して、検索画像データに類似・一致する複数の画像データを検索された複数のクラスタの中から検索する(ステップS216)。具体的には、取得した検索画像データの各特徴量の値と、検索された複数のクラスタに属する画像データベース上の複数の画像データ(被検索画像データ)の各特徴量と、係数としての重要度とを用いて類似度を算出される。類似度の算出手順はクラスタと検索画像データとの類似度算出の説明において述べたとおりである。
CPU11は検出した複数の画像データを、検索要求の送信元であるプリンター20に対して送信して(ステップS214))本処理ルーチンを終了する。
図11を参照して説明する。プリンター20(CPU210)は、検索結果取得モジュールCM13を実行して、画像サーバー10から受信した検索結果としての複数の画像データを取得し(ステップS314)、検索結果表示モジュールCM14を実行して取得した画像データを用いて複数の画像を表示部23に表示させて(ステップS316)、本処理ルーチンを終了する。検索終了時(第2の態様)における表示部23は、図13に示すように、検索画像データに対応する画像を表示する選択検索画像表示領域TA、検索された画像データのサムネイル画像が表示される検索結果画像表示領域SIMGを有する。なお、プリンター20は、検索結果として受け取った画像データを縮小してサムネイル画像データを生成しても良く、あるいは、受け取った画像データに含まれているサムネイル画像データを用いても良い。また、検索結果画像表示領域SIMGに、一度に表示される画像数は、検索結果として得られた画像データの数が多い場合には増大され、少ない場合には減少されても良い。あるいは、予め、ユーザによって表示画像数が選択されていても良い。さらに、検索結果画像表示領域SIMGには、最も類似度が高い一つの画像が表示されても良く、あるいは、類似度の高い順に所定数の画像が表示されても良い。
以上説明した本実施例に係る画像サーバー、画像検索方法、プリンター(画像検索端末装置)、画像検索システム、画像検索要求方法によれば、画像サーバー10が予め備えている重要度を、選択されたクラスタの属性に基づいて少なくとも一部変更し、変更した重要度を用いて検索画像データに類似または一致する画像データを検索することができる。したがって、画像サーバー10(画像データベース)における各特徴量の重要度を、選択されたクラスタを介して検索画像データの特性に応じて変更することができる。この結果、重要度を検索画像データ毎により適した値とすることが可能となり、検索画像データの特性に応じた(ユーザが所望する)検索結果を提供することができる。
また、プリンター20の表示部23には、選択検索画像表示領域TA、検索クラスタ表示領域CAおよび検索結果画像表示領域SIMGが表示されるので、検索画像と検索結果とを効率よく対比することができる。また、選択検索画像表示領域TAを常時、表示しておくことによって検索すべき画像をいつでも確認することができる。さらに、先ず、検索クラスタ表示領域CAに検索結果としての複数のクラスタを表示するので、ユーザは表示されたクラスタの代表画像または特徴量を示すテキストに基づいて、クラスタの絞り込みを容易に行うことが可能になる。また、ユーザによって選択されたクラスタを介して、画像データの検索範囲を絞ることが可能になり、検索画像データに対する検索効率を向上させることができる。また、検索結果画像表示領域SIMGにサムネイル画像を表示させることによって、一度に複数の検索結果としての画像を閲覧することができる。なお、サムネイル画像の大きさは、検索された画像データ数が多い場合には小さく、少ない場合には大きくされても良い。さらに、プリンター20を画像検索端末装置として用いることによって、所望の画像データを検索した後に、直ちに印刷した画像を得ることができる。
さらに、画像データに関連付けられた画像データの内容を記述するメタデータを用いることなく、画像データの特徴量に基づいて画像データを検索するので、言葉(キーワード)を用いて画像データを特定する必要が無く画像データの検索を容易化することができる。さらに、主観的なメタデータに依存しないので、画像データの検索の客観性を高めることが可能となり、画像データの検索精度を向上させることができる。
・変形例:
(1)上記実施例では、画像サーバー10として、クライアントからの要求に応じての画像データベースを検索するサーバーコンピューターを例にとって説明したが、例えば、パーソナルコンピューター30の記憶装置に格納されているローカルな画像データベースに対して上記した重要度を対応づけても良い。すなわち、画像サーバーはネットワークに接続されていない、スタンドアローンのパーソナルコンピューターまたはプリンターが有する機能の一部、さらにはコンピュータープログラム、コンピュータープログラムが格納されたコンピューター読み取り可能媒体として実現されても良い。この場合には、パーソナルユースにおける画像データ検索の利便性、すなわち、検索速度の向上、検索精度の向上、検索の容易化を実現することができる。さらに、プリンター20に大容量記憶装置が備えられている場合には、上記した重要度対応付け方法、画像検索方法は、プリンター20におけるローカルな画像データ検索に適用されても良い。また、プリンター20、パーソナルコンピューター30は、他の画像検索端末装置のための画像サーバーとして機能しても良い。なお、コンピューター読み取り可能媒体としては、CD、DVD、ハードディスクドライブ、フラッシュメモリといった種々の記録媒体を用いることができる。
(2)上記実施例では画像データの特徴量として、輝度、色相、テクスチャ、顔の大きさ、顔の有無を用いているが、他の特徴量が用いられることは言うまでもない。例えば、画像データのコントラスト、彩度、顔の目、鼻、口といった器官の配置位置(パターン)、露出補正量、撮影シーン情報といった特徴量を用いることができる。これらの特徴量を用いることによって、画像データベースの特性を適切に表す重要度を決定、対応付けることが可能となり、ユーザの所望する画像データの検索結果を得ることができる。
(3)上記実施例では、重要度を決定、関連づけるための重要度対応付けプログラムおよび画像検索プログラムの双方を備える画像サーバーを用いて説明したが、画像サーバーは、重要度対応付けプログラムまたは画像検索プログラムのいずれか一方を備えていても良い。例えば、既に重要度が対応づけられている外部の画像データベースを用いる場合には画像サーバーには画像検索プログラムのみが備えられていればよく、画像検索プログラムがクライアントに備えられている場合には画像サーバーには重要度対応付けプログラムのみが備えられていれば良い。いずれの態様を取るかは、どのような態様のシステム構成が用いられるかに依存して決定すれば良い。
(4)上記実施例では、テキストによるクラスタの説明を行っていないが、例えば、階層型クラスタリング手法による場合には、各クラスタに対してテキストによる説明を付して、利用者が所望する画像データを選択しやすい環境を整えても良い。この場合には、画像データの特徴量に加えて、ユーザが所望する属性を有するクラスタの選択を促すことによって、よりユーザのニーズに合った画像データの検索結果を提供することができる。
(5)上記実施例において、重要度変更モジュールSM16は、検索された複数のクラスタのいずれかにおいてクラスタを構成する画像データの数が第1の数以下の場合には、第1の数以下の画像データを用いた画像が表示されているクラスタの属性に対応する重み付け係数を0に変更しても良い。検索されたいずれかのクラスタにおける画像データ数が第1の数以下に絞り込まれている場合には、当該クラスタの属性は検索画像データの特徴量に極めて近似または一致していることを意味する。したがって、当該クラスタの属性(特徴量)に対応する重み付け係数を0にすることによって、類似度の算出に際して検索画像データの特徴量を的確に反映することができる。この結果、検索精度を向上させることが可能となり、また、ユーザによる入力がなくても検索画像データの特徴を的確に抽出することができる。なお、クラスタの特徴を表すために、クラスタの属性(代表値)として、クラスタの特徴を表す一部の特徴量の平均値が対応付けられていることが望ましい。
重要度変更モジュールSM16はまた、検索された複数のクラスタのいずれかにおいてクラスタを構成する画像データの数が第1の数よりも多い第2の数以下の場合には、第2の数以下の画像データを用いた画像が表示されているクラスタの属性に対応する重み付け係数を1/2倍しても良い。検索されたいずれかのクラスタにおける画像データ数が第1の数よりも多い第2の数以下に絞り込まれている場合には、当該クラスタの属性は検索画像データの特徴量を良く表していることを意味する。したがって、当該クラスタの属性(特徴量)に対応する重み付け係数を1/2倍することによって、類似度の算出に際して検索画像データの特徴量を的確に反映することが可能となり、検索精度を向上させることができる。なお、例えば、第1の数は表示部23に全て表示可能な数であり、第2の数は表示部23にその半分を表示可能な数である。
(6)上記実施例では、重要度として正規化された頻度が用いられ、重要度と類似度計算時における係数とが対応付けられている場合について説明したが、重要度として、正規化された頻度の逆数、あるいは、係数を求め、予め重要度テーブルに格納されていても良い。この場合には、画像データ検索時に、重要度テーブルから取得した重要度をそのまま係数として用いることができる。あるいは、重要度として正規化されていない頻度が重要度テーブルに格納され、類似度判定の際に、正規化を実行し、および重み付け係数を求めても良い。この場合には、重要度の変更に対して簡単に対応することができる。
(7)上記実施例では、選択検索画像表示領域TA、検索クラスタ表示領域CAおよび検索結果画像表示領域SIMGが同一の表示部23に表示されている例を説明したが、これら表示領域はそれぞれ異なる表示部に表示されても良い。また、画像検索指示部231、クラスタ検索指示部232は、表示部23に表示された指示部ではなく、プリンター20の入力操作部22、あるいは、プリンター20に備えられているボタン操作部等であっても良い。
(8)上記実施例では、検索された複数のクラスタの中から一のクラスタが選択されているが、複数のクラスタが選択されても良い。この場合には、例えば、選択された各クラスタの属性(特徴量)のうち最も頻度が高い特徴量を用いて重要度を変更しても良い。また、検索された複数のクラスタに含まれている複数の画像が検索クラスタ表示領域CAに表示されている場合には、クラスタに代えて画像が選択されても良い。この場合には、選択された画像が属するクラスタの属性または選択された画像データの特徴量に基づいて重要度を変更すれば良い。前者の場合には、具体的な画像を介してクラスタを選択可能であるためのクラスタの選択を容易化することができる。後者の場合には、具体的な画像を通じて、ユーザの望む検索条件(重要度)を決定することが可能となり、検索精度を向上させること(ユーザが望む検索結果を提供すること)ができる。
以上、実施例、変形例に基づき本発明について説明してきたが、上記した発明の実施の形態は、本発明の理解を容易にするためのものであり、本発明を限定するものではない。本発明は、その趣旨並びに特許請求の範囲を逸脱することなく、変更、改良され得ると共に、本発明にはその等価物が含まれる。
ISS…画像検索システム
10…サーバーコンピューター(画像サーバー)
11…CPU
12…メモリ
13…記憶装置(画像データベース)
14…入出力インターフェース
20…プリンター
21…制御回路
22…入力操作部
23…表示部
24…印刷部
25…外部入出力インターフェース
30…パーソナルコンピューター
31…表示ディスプレイ
32…入力装置
210…CPU
211…メモリ
212…入出力インターフェース
231…表示ボタン(画像検索指示部)
232…クラスタ検索指示キー(クラスタ検索指示部)
CA、CA1…検索クラスタ表示領域
SIMG…検索結果画像表示領域
TA…選択検索画像表示領域
CP1…画像検索要求プログラム
CM11…画像データ特定モジュール
CM12…検索要求モジュール
CM13…検索結果取得モジュール
CM14…検索結果表示モジュール
CM15…選択クラスタ通知モジュール
NE…ネットワーク
SP1…重要度対応付けプログラム
SM11…画像データ取得モジュール
SM12…特徴量取得モジュール
SM13…正規化モジュール
SM14…クラスタリングモジュール
SM15…重要度決定モジュール
SM16…重要度変更モジュール
SP2…画像検索プログラム
SM21…検索画像データ取得モジュール
SM22…検索モジュール
SM23…検索画像データ特徴量取得モジュール
SM24…類似度算出モジュール
SM25…重要度取得モジュール
SM26…クラスタ属性取得モジュール

Claims (10)

  1. 画像サーバーであって、
    属性を有する複数のクラスタにクラスタリングされている複数の画像と、画像の複数の特徴量と特徴量の重要度とを対応づけた情報と、を格納する記憶装置と、
    検索の対象となる画像である検索画像を取得する検索画像取得部と、
    前記取得した検索画像の特徴量である検索画像特徴量を複数取得する検索画像特徴量取得部と、
    前記取得した複数の検索画像特徴量に対応する重要度を前記記憶装置から取得する重要度取得部と、
    前記取得された重要度と複数の検索画像特徴量と前記クラスタが有する属性とを用いて前記複数のクラスタの中から前記検索画像特徴量に類似または一致する属性を有する複数のクラスタを検索するクラスタ検索部と、
    前記検索した複数のクラスタの中から一のクラスタの選択の有無を判定するクラスタ選択判定部と、
    一のクラスタが選択された場合には、前記選択されたクラスタに関連付けられている属性に基づいて、前記取得された複数の検索画像特徴量の少なくとも一部に対する重要度を増大させる重要度変更部と、
    前記変更された重要度と前記取得された複数の検索画像特徴量とを用いて前記選択されたクラスタに属する画像の中から前記検索画像に類似または一致する1または複数の画像を検索する画像検索部と、
    前記検索結果を出力する出力部と
    を備える画像サーバー。
  2. 請求項1に記載の画像サーバーにおいて、
    前記重要度変更部は、一のクラスタが選択されない場合には、前記取得された重要度を変更せず、
    前記画像検索部は前記重要度取得部によって取得された重要度を用いて前記検索された複数のクラスタの中から前記検索を実行する画像サーバー。
  3. 請求項1または2に記載の画像サーバーにおいて、
    前記画像検索部は、前記重要度、前記検索画像特徴量および前記記憶装置に格納されている画像の特徴量とを用いて類似度を算出することによって、前記検索画像に類似または一致する1または複数の画像を前記選択または検索された画像の中から検索する、画像サーバー。
  4. 請求項3に記載の画像サーバーにおいて、
    前記重要度は前記類似度を算出する際に用いられる重み付け係数である画像サーバー。
  5. 請求項4に記載の画像サーバーにおいて、
    前記類似度は値が小さくなるに連れて類似の程度が増大することを示し、
    前記重要度変更部は、前記検索された複数のクラスタのいずれかにおいてクラスタを構成する画像の数が第1の画像数以下の場合には、第1の画像数以下の画像が表示されているクラスタの属性に対応する重み付け係数を0に変更する画像サーバー。
  6. 請求項5に記載の画像サーバーにおいて、
    前記重要度変更部はさらに、前記検索された複数のクラスタのいずれかにおいてクラスタを構成する画像の数が前記第1の画像数よりも多い第2の画像数以下の場合には、第2の画像数以下の画像が表示されているクラスタの属性に対応する重み付け係数を1/2倍する、画像サーバー。
  7. 請求項6に記載の画像サーバーにおいて、
    前記画像サーバーは検索結果を示す表示部を備える画像検索装置からの要求に基づいて画像を検索して、検索結果としての複数の画像を前記画像検索装置に対して出力し、
    前記第1の画像数は前記表示部に全て表示可能な数であり、前記第2の画像数は前記表示部に半分を表示可能な数である、画像サーバー。
  8. 請求項1から7のいずれかに記載の画像サーバーにおいて、
    前記クラスタ関連付けられている属性はクラスタを構成する複数の画像の特徴量の平均値である、画像サーバー。
  9. 画像検出システムであって、
    請求項1から8のいずれかに記載の画像サーバーと、
    前記画像サーバーにネットワークを介してアクセス可能なプリンターであって、
    前記画像サーバーに対して前記検索画像を送信する送信部と、
    前記画像サーバーから出力された前記検索結果としての複数のクラスタまたは複数の画像を受け取る受信部と、
    前記検索されたクラスタの中から1のクラスタが選択されたか否かを、前記画像サーバーに対して通知する通知部と、
    前記受信した画像を表示する表示部とを備えるプリンターとを備える、
    画像検索システム。
  10. 画像検索方法であって、
    検索の対象となる画像である検索画像を取得し、
    前記取得された検索画像の特徴量である検索画像特徴量を複数取得し、
    前記取得した複数の特徴量に対応する重要度を、属性を有する複数のクラスタに予めクラスタリングされている複数の画像と、画像の複数の特徴量と特徴量の重要度とを対応づけた情報と、を格納する前記記憶装置から取得し、
    前記取得した重要度と複数の特徴量と前記クラスタが有する属性とを用いて前記複数のクラスタの中から前記検索画像特徴量に類似または一致する属性を有する複数のクラスタを検索し、
    前記検索した複数のクラスタの中から一のクラスタが選択された場合には、前記選択された一のクラスタに関連付けられている属性に基づいて、前記取得された複数の検索画像特徴量の少なくとも一部に対する重要度を増大させ、
    前記変更された重要度と前記取得された複数の検索画像特徴量とを用いて前記選択されたクラスタに属する前記検索画像に類似または一致する1または複数の画像を検索し、
    前記検索結果を出力する
    を備える画像検索方法。
JP2009100500A 2009-04-17 2009-04-17 画像サーバー、画像検索システムおよび画像検索方法 Withdrawn JP2010250630A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009100500A JP2010250630A (ja) 2009-04-17 2009-04-17 画像サーバー、画像検索システムおよび画像検索方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009100500A JP2010250630A (ja) 2009-04-17 2009-04-17 画像サーバー、画像検索システムおよび画像検索方法

Publications (1)

Publication Number Publication Date
JP2010250630A true JP2010250630A (ja) 2010-11-04

Family

ID=43312873

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009100500A Withdrawn JP2010250630A (ja) 2009-04-17 2009-04-17 画像サーバー、画像検索システムおよび画像検索方法

Country Status (1)

Country Link
JP (1) JP2010250630A (ja)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014092909A (ja) * 2012-11-02 2014-05-19 Osaka City Univ 画像検索装置、画像検索方法及び画像検索プログラム
KR101427864B1 (ko) * 2012-10-11 2014-09-19 한국과학기술원 대용량 이미지 검색을 위한 가중치 설정 방법
KR101559457B1 (ko) 2014-01-20 2015-10-13 한국과학기술원 시각 단어 기반 이미지 검색을 위한 클래스별 가중치 학습 방법 및 장치
WO2019244277A1 (ja) * 2018-06-20 2019-12-26 楽天株式会社 検索システム、検索方法、及びプログラム
WO2019244276A1 (ja) * 2018-06-20 2019-12-26 楽天株式会社 検索システム、検索方法、及びプログラム
JP2020031350A (ja) * 2018-08-23 2020-02-27 シャープ株式会社 画像形成装置及び画像形成装置システム

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09101970A (ja) * 1995-10-06 1997-04-15 Omron Corp 画像検索方法および画像検索装置
JP2002183172A (ja) * 2000-12-15 2002-06-28 Canon Inc メニュー処理方法及び装置並びに記憶媒体
JP2003141161A (ja) * 2001-10-29 2003-05-16 Olympus Optical Co Ltd マルチメディアオブジェクト検索方法およびシステム
JP2004334594A (ja) * 2003-05-08 2004-11-25 Olympus Corp 画像検索装置、画像検索方法、画像検索プログラム及びそのプログラムを記録した記録媒体
JP2004341940A (ja) * 2003-05-16 2004-12-02 Fujitsu Ltd 類似画像検索装置、類似画像検索方法、および類似画像検索プログラム
JP2006338313A (ja) * 2005-06-01 2006-12-14 Nippon Telegr & Teleph Corp <Ntt> 類似画像検索方法,類似画像検索システム,類似画像検索プログラム及び記録媒体
JP2007286864A (ja) * 2006-04-17 2007-11-01 Ricoh Co Ltd 画像処理装置、画像処理方法、プログラムおよび記録媒体
JP2008217695A (ja) * 2007-03-07 2008-09-18 Ricoh Co Ltd 画像処理装置、画像処理方法、プログラムおよび記録媒体

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09101970A (ja) * 1995-10-06 1997-04-15 Omron Corp 画像検索方法および画像検索装置
JP2002183172A (ja) * 2000-12-15 2002-06-28 Canon Inc メニュー処理方法及び装置並びに記憶媒体
JP2003141161A (ja) * 2001-10-29 2003-05-16 Olympus Optical Co Ltd マルチメディアオブジェクト検索方法およびシステム
JP2004334594A (ja) * 2003-05-08 2004-11-25 Olympus Corp 画像検索装置、画像検索方法、画像検索プログラム及びそのプログラムを記録した記録媒体
JP2004341940A (ja) * 2003-05-16 2004-12-02 Fujitsu Ltd 類似画像検索装置、類似画像検索方法、および類似画像検索プログラム
JP2006338313A (ja) * 2005-06-01 2006-12-14 Nippon Telegr & Teleph Corp <Ntt> 類似画像検索方法,類似画像検索システム,類似画像検索プログラム及び記録媒体
JP2007286864A (ja) * 2006-04-17 2007-11-01 Ricoh Co Ltd 画像処理装置、画像処理方法、プログラムおよび記録媒体
JP2008217695A (ja) * 2007-03-07 2008-09-18 Ricoh Co Ltd 画像処理装置、画像処理方法、プログラムおよび記録媒体

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
CSNG200500337008; 中島 伸介 外2名: '"差異増幅型適合フィードバックに基づく画像データベース検索"' 電子情報通信学会論文誌 第J87-D-I巻,第2号, 20040201, p.164-174, 社団法人電子情報通信学会 *
JPN6013028584; 中島 伸介 外2名: '"差異増幅型適合フィードバックに基づく画像データベース検索"' 電子情報通信学会論文誌 第J87-D-I巻,第2号, 20040201, p.164-174, 社団法人電子情報通信学会 *

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101427864B1 (ko) * 2012-10-11 2014-09-19 한국과학기술원 대용량 이미지 검색을 위한 가중치 설정 방법
JP2014092909A (ja) * 2012-11-02 2014-05-19 Osaka City Univ 画像検索装置、画像検索方法及び画像検索プログラム
KR101559457B1 (ko) 2014-01-20 2015-10-13 한국과학기술원 시각 단어 기반 이미지 검색을 위한 클래스별 가중치 학습 방법 및 장치
WO2019244277A1 (ja) * 2018-06-20 2019-12-26 楽天株式会社 検索システム、検索方法、及びプログラム
WO2019244276A1 (ja) * 2018-06-20 2019-12-26 楽天株式会社 検索システム、検索方法、及びプログラム
JP6637221B1 (ja) * 2018-06-20 2020-01-29 楽天株式会社 検索システム、検索方法、及びプログラム
JP6639743B1 (ja) * 2018-06-20 2020-02-05 楽天株式会社 検索システム、検索方法、及びプログラム
JP2020031350A (ja) * 2018-08-23 2020-02-27 シャープ株式会社 画像形成装置及び画像形成装置システム
JP7149769B2 (ja) 2018-08-23 2022-10-07 シャープ株式会社 画像形成装置システム

Similar Documents

Publication Publication Date Title
KR100353798B1 (ko) 영상 객체 모양 정보 추출 방법 및 그를 이용한 내용기반 이미지 검색 시스템 및 그 방법
US10296534B2 (en) Storing and searching fingerprints derived from media content based on a classification of the media content
KR101457284B1 (ko) 콘텐츠 기반 이미지 검색을 가능하게 하는 방법 및 장치
JP2010250637A (ja) 画像サーバー、画像検索システム、画像検索方法および画像管理方法
US10878280B2 (en) Video content indexing and searching
US20110078176A1 (en) Image search apparatus and method
US20070244881A1 (en) System, method and user interface for retrieving documents
JP2010250630A (ja) 画像サーバー、画像検索システムおよび画像検索方法
US20110052074A1 (en) Image database creation device, image retrieval device, image database creation method and image retrieval method
EP2674881A1 (en) Privacy preserving method for querying a remote public service
JP5626042B2 (ja) 画像集合における代表画像の検索システム、方法及びプログラム
US20190034455A1 (en) Dynamic Glyph-Based Search
JP2010250636A (ja) 画像検索端末装置および画像検索要求方法
JPWO2009031297A1 (ja) 画像検索装置、画像分類装置及び方法並びにプログラム
JP2021086438A (ja) 画像検索装置、画像検索方法、及びプログラム
JP5515417B2 (ja) 画像処理方法及び装置、並びに、そのためのコンピュータープログラム
JP2010250634A (ja) 画像サーバー、画像検索システム、画像検索方法およびインデックス作成方法
JP5520353B2 (ja) BoF表現生成装置及びBoF表現生成方法
JP2004005303A (ja) 画像検索装置、画像検索方法及び画像検索プログラム
JP5408241B2 (ja) 情報処理装置、情報処理方法、プログラム
JP2010250635A (ja) 画像サーバー、画像検索方法および画像管理方法
JP2010250633A (ja) 画像サーバー、画像検索システム、画像検索方法およびインデックス作成方法
JP2011113130A (ja) 画像検索装置、画像検索方法及び画像検索プログラム
JP5381271B2 (ja) 画像サーバー、画像検索システムおよび画像検索方法
JP2010271769A (ja) 画像処理方法及び装置、並びに、そのためのコンピュータプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120403

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130606

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130611

A761 Written withdrawal of application

Free format text: JAPANESE INTERMEDIATE CODE: A761

Effective date: 20130802