JP2011043954A - 画像処理装置、画像処理方法および画像処理プログラム - Google Patents
画像処理装置、画像処理方法および画像処理プログラム Download PDFInfo
- Publication number
- JP2011043954A JP2011043954A JP2009191006A JP2009191006A JP2011043954A JP 2011043954 A JP2011043954 A JP 2011043954A JP 2009191006 A JP2009191006 A JP 2009191006A JP 2009191006 A JP2009191006 A JP 2009191006A JP 2011043954 A JP2011043954 A JP 2011043954A
- Authority
- JP
- Japan
- Prior art keywords
- search
- image
- search results
- search result
- image processing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Landscapes
- Processing Or Creating Images (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
【課題】検索結果数を適正化することにより検索結果の一覧性を向上し、ユーザビリティを向上する。
【解決手段】複数の画像を格納した画像データベースDB1を検索するにあたり、キー画像KIと近傍範囲指定値Dx、もしくはキーワードKWを検索条件として受付ける検索条件受付部M1と、検索条件に基づいて画像データベースDB1を検索する検索部M2と、検索部M2による検索結果が所定数nを超える場合に、検索結果の数を所定数n以下に絞り込んで一覧表示する検索結果絞込部M5と、をコンピューター100に備えさせる。
【選択図】図18
【解決手段】複数の画像を格納した画像データベースDB1を検索するにあたり、キー画像KIと近傍範囲指定値Dx、もしくはキーワードKWを検索条件として受付ける検索条件受付部M1と、検索条件に基づいて画像データベースDB1を検索する検索部M2と、検索部M2による検索結果が所定数nを超える場合に、検索結果の数を所定数n以下に絞り込んで一覧表示する検索結果絞込部M5と、をコンピューター100に備えさせる。
【選択図】図18
Description
本発明は、画像処理装置、画像処理方法および画像処理プログラムに関し、特に、複数の検索対象を格納したデータベースを検索する画像処理装置、画像処理方法および画像処理プログラムに関する。
インターネットやコンピューターで扱われる情報量は、日々、増大の一途を辿っている。膨大な情報から短時間かつスムーズにユーザーが目的の情報を抽出するためには、検索技術を向上するだけでなく、ユーザーに対する検索結果の提示方法も工夫する必要がある。検索結果を表示するUIを工夫した技術として、特許文献1がある。
特許文献1には、検索結果について検索条件を満たす度合を示す一致度を算出するとともに、検索結果の個々の情報を互いに比較してここの情報の類似度を算出し、類似度の高い画像を重複表示することにより検索結果をグループ化するとともに、完全一致表示位置から一致度に応じた距離で表示することについて記載されている。
特許文献1には、検索結果について検索条件を満たす度合を示す一致度を算出するとともに、検索結果の個々の情報を互いに比較してここの情報の類似度を算出し、類似度の高い画像を重複表示することにより検索結果をグループ化するとともに、完全一致表示位置から一致度に応じた距離で表示することについて記載されている。
上述した従来の技術においては、検索結果数が多くなって見づらいという課題があった。
本発明は、上記課題に鑑みてなされたもので、検索結果数を適正化することにより検索結果の一覧性を向上し、ユーザビリティを向上した画像処理装置、画像処理方法および画像処理プログラムの提供を目的とする。
本発明は、上記課題に鑑みてなされたもので、検索結果数を適正化することにより検索結果の一覧性を向上し、ユーザビリティを向上した画像処理装置、画像処理方法および画像処理プログラムの提供を目的とする。
上記課題を解決するために、本発明の請求項1にかかる発明では、複数の検索対象を格納したデータベースを検索する画像処理装置であって、検索条件受付部と、検索部と、検索結果絞込部と、を備えている。
上記構成において、上記検索条件受付部は、検索条件を受付ける。検索条件は、データベースに含まれる複数の検索対象を分類する基準であって、該基準を満たす、もしくは満たさないものを抽出する指針を与えるものである。より具体的には、検索条件は、キーワードや鍵となる画像であってもよい。また検索の範囲を制限する条件であってもよく、例えば、理想的な検索対象を指定すると共に、該理想的な検索対象からのズレを所定の基準で評価し、ズレが所定量以下となることを条件としてもよい。
上記検索部は、上記検索条件に基づいて上記データベースを検索し、検索条件にマッチする検索対象を抽出する。
上記構成において、上記検索条件受付部は、検索条件を受付ける。検索条件は、データベースに含まれる複数の検索対象を分類する基準であって、該基準を満たす、もしくは満たさないものを抽出する指針を与えるものである。より具体的には、検索条件は、キーワードや鍵となる画像であってもよい。また検索の範囲を制限する条件であってもよく、例えば、理想的な検索対象を指定すると共に、該理想的な検索対象からのズレを所定の基準で評価し、ズレが所定量以下となることを条件としてもよい。
上記検索部は、上記検索条件に基づいて上記データベースを検索し、検索条件にマッチする検索対象を抽出する。
そして、上記検索結果絞込部は、上記検索部による検索結果が所定数を超えるか否かを判断し、上記検索結果が所定数を超える場合には上記検索結果の数を所定数以下に絞り込む。所定数は様々な数を採用可能であるが、検索結果の一覧表示する際の一覧性を損なわない数を基準とするとよい。すなわち、上記検索結果をディスプレイに表示したり、検索結果を一覧表示するための所定エリア内に表示する際に、スクロールやページアップ/ページダウンなどの操作を行うことなく、検索結果全体を視認可能な状態にすることを基準にできる。また、検索結果の一覧を印刷する際に、1ページ以内に収まることを基準としたり、割り付け印刷を行うのであれば片面に割り付けられるページ数の範囲内に収まることを基準としてもよいし、両面印刷に対応しているプリンターで印刷するのであれば表裏含めて1枚に収まることを基準としてもよい。むろん、スクロールやページアップ/ページダウンなどの操作や印刷ページ数/印刷枚数を所定数まで許容するような基準としてもよい。
以上の構成によれば、検索結果を一覧表示する際の一覧性が向上し、ユーザーの利便性が高まる。
以上の構成によれば、検索結果を一覧表示する際の一覧性が向上し、ユーザーの利便性が高まる。
本発明の選択的な一態様として、上記検索結果絞込部は、所定の評価基準に基づいて上記検索結果のそれぞれを評価し、上記検索結果の数が上記所定数以下になるまで上記検索結果間の評価値の差分が小さいものから順に検索結果同士を統合していくように構成してもよい。
上記所定の評価基準は、上記検索条件において理想的な検索結果がある場合には該理想的な検索結果に対する一致度合とすることができるし、既存の評価手法があればその手法で評価することもできる。評価値の差分が小さい検索結果同士は、類似性が高い可能性が高く、両者を同時に表示すると検索結果の一覧が冗長になり、一覧性を損ねることになる。よって、このような冗長な表示を抑制する手段を設けることにより、検索結果の一覧性を高めることができる。むろん、より詳細な一覧を希望する場合は、別途表示する手段を設けておいて、対応可能である。
上記所定の評価基準は、上記検索条件において理想的な検索結果がある場合には該理想的な検索結果に対する一致度合とすることができるし、既存の評価手法があればその手法で評価することもできる。評価値の差分が小さい検索結果同士は、類似性が高い可能性が高く、両者を同時に表示すると検索結果の一覧が冗長になり、一覧性を損ねることになる。よって、このような冗長な表示を抑制する手段を設けることにより、検索結果の一覧性を高めることができる。むろん、より詳細な一覧を希望する場合は、別途表示する手段を設けておいて、対応可能である。
本発明の選択的な一態様として、上記検索結果絞込部は、所定の評価基準に従って上記検索結果のそれぞれに評価値を付与し、上記検索結果の中で評価値の差分が最小の検索結果同士を1つに統合することによって検索結果の数を所定数以下とする場合に、統合前の各検索結果に付与されていた評価値を統合後の検索結果に承継するように構成してもよい。
統合前の各検索結果に付与されていた評価値を統合後の検索結果に承継するとは、統合前の各検索結果の評価値を全て併せ持つようにすることであり、他の検索結果との評価値の差分は、他の検索結果の評価値に近い値を適宜使用することができる。すなわち、統合後の検索結果よりも高評価の検索結果と評価値を比較する場合には、承継した評価値のうち最大値を利用し、統合後の検索結果よりも低評価の検索結果と評価値を比較する場合には、承継した評価値のうち最小値を利用する。このような評価値の運用方法を採用することにより、統合前の各検索結果に対して算出されていた評価値の差分を、そのまま流用することができる。従って、統合後の検索結果に対して新たに評価値の差分を算出する必要が無く、検索結果の統合を高速に行える。また、検索結果を統合する際に評価値の差分が小さいか否かを判断する際の基準が、統合の前後でブレないため適切に統合を行える。
統合前の各検索結果に付与されていた評価値を統合後の検索結果に承継するとは、統合前の各検索結果の評価値を全て併せ持つようにすることであり、他の検索結果との評価値の差分は、他の検索結果の評価値に近い値を適宜使用することができる。すなわち、統合後の検索結果よりも高評価の検索結果と評価値を比較する場合には、承継した評価値のうち最大値を利用し、統合後の検索結果よりも低評価の検索結果と評価値を比較する場合には、承継した評価値のうち最小値を利用する。このような評価値の運用方法を採用することにより、統合前の各検索結果に対して算出されていた評価値の差分を、そのまま流用することができる。従って、統合後の検索結果に対して新たに評価値の差分を算出する必要が無く、検索結果の統合を高速に行える。また、検索結果を統合する際に評価値の差分が小さいか否かを判断する際の基準が、統合の前後でブレないため適切に統合を行える。
本発明の選択的な一態様として、上記検索結果絞込部は、所定の評価基準に従って上記検索結果のそれぞれに評価値を付与し、上記検索結果の中で評価値が最も近い検索結果同士を1つに統合することによって検索結果の数を所定数以下とするにあたり、統合前の2つの検索結果の評価値の平均値を統合後の検索結果の評価値とするように構成してもよい。
該構成によれば、統合後の検索結果に対する評価を適切に行えるため、統合後の検索結果が全体としてどのような評価を得ているかを把握することができる。
該構成によれば、統合後の検索結果に対する評価を適切に行えるため、統合後の検索結果が全体としてどのような評価を得ているかを把握することができる。
本発明の選択的な一態様として、上記検索結果絞込部は、上記検索部による検索結果が所定数を超える場合には、検索結果同士の類似性を評価し、検索結果の中から検索結果を順に選択しつつ選択された検索結果に対する類似度が所定の閾値以下のものを上記選択された検索結果に統合するように構成してもよい。
該構成によれば、検索結果同士の類似性に基づいて統合の可否を判断しているため、確実に類似しあう検索結果同士を統合することができる。よって検索結果の一覧性を向上できる。
該構成によれば、検索結果同士の類似性に基づいて統合の可否を判断しているため、確実に類似しあう検索結果同士を統合することができる。よって検索結果の一覧性を向上できる。
本発明の選択的な一態様として、上記検索結果絞込部は、上記検索結果の数が上記所定数以下となるまで上記所定の閾値を徐々に増加させつつ上記選択された検索結果との類似度が所定の閾値以下のものを上記代表的な検索結果に統合することを繰り返すように構成してもよい。
該構成によれば、検索結果を確実に所定数以下に絞り込むことができるため、検索結果の一覧性を向上できる。
該構成によれば、検索結果を確実に所定数以下に絞り込むことができるため、検索結果の一覧性を向上できる。
本発明の選択的な一態様として、上記検索結果絞込部は、上記所定の閾値を増加させて画像を統合する場合には、該統合を行う母集合を上記検索部が上記検索条件に基づいて検索した検索結果とするように構成してもよい。
該構成によれば、上記選択された検索結果に類似する検索結果にのみ類似する検索結果が、上記選択された検索結果と統合されることが無い。従って、上記選択された検索結果に対して統合される検索結果は、上記選択された検索結果との類似度が上記所定の閾値以下のものに限定することができる。
該構成によれば、上記選択された検索結果に類似する検索結果にのみ類似する検索結果が、上記選択された検索結果と統合されることが無い。従って、上記選択された検索結果に対して統合される検索結果は、上記選択された検索結果との類似度が上記所定の閾値以下のものに限定することができる。
本発明の選択的な一態様として、上記検索結果絞込部は、上記所定の閾値を増加させて画像を統合する場合には、上記検索結果絞込部によって統合済みの検索結果を母集合とするように構成してもよい。
該構成によれば、統合済みの検索結果を母集合とすることにより、既に行われた統合結果を有効活用することができるし、統合によって絞り込まれることによって総数が減少した検索結果を利用することで処理を高速化できる。
該構成によれば、統合済みの検索結果を母集合とすることにより、既に行われた統合結果を有効活用することができるし、統合によって絞り込まれることによって総数が減少した検索結果を利用することで処理を高速化できる。
本発明の選択的な一態様として、上記検索結果の一覧をディスプレイに表示する検索結果表示部を備えており、上記検索結果表示部は、複数の検索結果を統合された検索結果を表示するにあたり、複数の検索結果の中の代表的な1画像を表示するとともに他の検索結果が統合されていることを示す所定の表示を行い、該他の検索結果を表示することを指示する所定の操作入力を受付けると統合された上記他の検索結果を一覧表示する構成としてもよい。
該構成によれば、一覧性を向上した検索結果と、詳細な検索結果とを適宜表可能であるため、ユーザビリティがさらに向上する。
該構成によれば、一覧性を向上した検索結果と、詳細な検索結果とを適宜表可能であるため、ユーザビリティがさらに向上する。
本発明の選択的な一態様として、上記検索条件受付部は、検索の鍵となる鍵情報と類似度Dとを受付け、上記検索部は、上記鍵情報に基づいてm種類の特徴量を作成し、これら特徴量によって形成される特徴量空間内において上記鍵情報からの距離が上記類似度以下となる検索結果を上記データベースから検索し、上記検索結果絞込部は、上記検索部による検索結果が所定数nを超える場合には、検索結果の中から1つの検索結果を選択して該1つの検索結果に対する他の検索結果の類似度を算出し、上記検索結果の数が上記所定数n以下となるまで所定の閾値tを徐々に増加させつつ上記1つの検索結果に対する類似度が所定の閾値t以下のものを上記1つの検索結果に統合するものであって、上記検索結果絞込部は、下記(1)式を満たすように上記所定の閾値tの初期値を選択する、画像処理装置。
該構成によれば、検索結果絞込部が行う検索結果の絞込を適切な初期値から開始できるため、検索結果の絞込みをスムーズに行うことができるため、一覧性を向上した検索結果を作成する前の時間を短くできる。
該構成によれば、検索結果絞込部が行う検索結果の絞込を適切な初期値から開始できるため、検索結果の絞込みをスムーズに行うことができるため、一覧性を向上した検索結果を作成する前の時間を短くできる。
上述した画像処理装置は、他の機器に組み込まれた状態で実施されたり他の方法とともに実施されたりする等の各種の態様を含む。また、本発明は上記画像処理装置を備える画像処理システム、上述した装置の構成に対応した工程を有する制御方法、上述した装置の構成に対応した機能をコンピューターに実現させるプログラム、該プログラムを記録したコンピューター読み取り可能な記録媒体、等としても実現可能である。これら画像処理システム、画像処理方法、画像処理プログラム、該プログラムを記録した媒体、の発明も、上述した作用、効果を奏する。むろん、請求項2〜10に記載した構成も、前記システムや前記方法や前記プログラムや前記記録媒体に適用可能である。
以下、下記の順序に従って本発明の実施形態を説明する。
(1)本実施形態の構成:
(2)第1実施形態にかかる特徴量算出処理:
(3)第1実施形態にかかる検索処理:
(4)第2実施形態にかかる特徴量算出処理:
(5)第2実施形態にかかる検索処理:
(6)検索結果絞込処理:
(7)各種変形例:
(8)まとめ:
(1)本実施形態の構成:
(2)第1実施形態にかかる特徴量算出処理:
(3)第1実施形態にかかる検索処理:
(4)第2実施形態にかかる特徴量算出処理:
(5)第2実施形態にかかる検索処理:
(6)検索結果絞込処理:
(7)各種変形例:
(8)まとめ:
(1)本実施形態の構成:
図1は、本実施形態にかかる画像処理装置としてのコンピューター100の構成を概略的に示すブロック図である。同図において、コンピューター100は、CPU110と、RAMやROMで構成された内部メモリー120と、大容量記憶装置としてのハードディスク(HD)130と、キーボードやマウス等の操作入力機器が接続される操作入力インターフェース(IF)140と、液晶ディスプレイ等の表示装置が接続されるビデオインターフェース(VIF)150と、を備えている。更に、コンピューター100は、他の機器(例えばデジタルスチルカメラ、パーソナルコンピューター、プリンター等)とデータ通信を行うための汎用インターフェース(GIF)160を備えてもよい。各部110〜160は、バスを介して通信可能に接続されている。
図1は、本実施形態にかかる画像処理装置としてのコンピューター100の構成を概略的に示すブロック図である。同図において、コンピューター100は、CPU110と、RAMやROMで構成された内部メモリー120と、大容量記憶装置としてのハードディスク(HD)130と、キーボードやマウス等の操作入力機器が接続される操作入力インターフェース(IF)140と、液晶ディスプレイ等の表示装置が接続されるビデオインターフェース(VIF)150と、を備えている。更に、コンピューター100は、他の機器(例えばデジタルスチルカメラ、パーソナルコンピューター、プリンター等)とデータ通信を行うための汎用インターフェース(GIF)160を備えてもよい。各部110〜160は、バスを介して通信可能に接続されている。
HD130には、OSのプログラムデータ、画像データベースDB1を構成する複数の画像データ、画像データベースDB1を検索するための検索プログラムのプログラムデータ、各種周辺機器ドライバーのプログラムデータ、OSのプログラムデータ等が格納されている。
CPU110は、OSや検索プログラムやドライバーのプログラムデータを読み出してRAMに展開しつつ、プログラムデータに従って演算処理を行うことによりコンピューター100を制御する。
検索プログラムが実行されると、特徴量データベースDB2が作成されてHD130に格納される。特徴量データベースDB2は、画像データベースDB1を構成する複数の画像データから算出された特徴量を各画像に関連付けて記憶したものである。
CPU110は、OSや検索プログラムやドライバーのプログラムデータを読み出してRAMに展開しつつ、プログラムデータに従って演算処理を行うことによりコンピューター100を制御する。
検索プログラムが実行されると、特徴量データベースDB2が作成されてHD130に格納される。特徴量データベースDB2は、画像データベースDB1を構成する複数の画像データから算出された特徴量を各画像に関連付けて記憶したものである。
操作入力IFは、操作入力機器から入力された操作入力信号をコンピューター100が取得するためのインターフェースである。
VIFは、コンピューター100に接続されたディスプレイに対してコンピューター100が出力するビデオ信号を、該ディスプレイが表示可能な信号に変換し、ディスプレイの画面に画像を表示させるためのインターフェースである。
以上の構成において、CPUがOSや検索プログラムをRAMに適宜展開しつつプログラムに従って演算を行うことにより、下記の画像処理部GP、表示処理部DP、印刷処理部PP、検索処理部SP、が実現される。
VIFは、コンピューター100に接続されたディスプレイに対してコンピューター100が出力するビデオ信号を、該ディスプレイが表示可能な信号に変換し、ディスプレイの画面に画像を表示させるためのインターフェースである。
以上の構成において、CPUがOSや検索プログラムをRAMに適宜展開しつつプログラムに従って演算を行うことにより、下記の画像処理部GP、表示処理部DP、印刷処理部PP、検索処理部SP、が実現される。
図2は、コンピューター100で実行されるプログラムによって実現されるソフトウェア構成を示すブロック図である。同図に示すように、コンピューター100上では、OSと検索プログラムとドライバープログラムが実行されている。OSは、コンピューター上で実行されるプログラム間のインターフェースを提供する。ドライバーは、OSに対して周辺機器に対するインターフェースを提供する。
検索プログラムがOS上で実行されることにより、検索条件受付部M1と、特徴量算出部M2と、特徴量検索部M3と、キーワード検索部M4(KW検索部M4)と、検索結果絞込部M5と、検索結果表示部M6に相当する機能が実現される。
検索条件受付部M1は、キー画像KIと近傍範囲指定値Dxの組合せ、もしくはキーワードKWのいずれかを検索条件として受付可能であり、受付けた検索条件がキー画像KIと近傍範囲指定値Dxであればキー画像検索が指定されたものと判断し、受付けた検索条件がキーワードKWであればキーワード検索が指定されたものと判断する。本実施形態においては、キー画像KIと近傍範囲指定値Dxの組合せ、キーワードKWが鍵情報を構成する。なお近傍範囲指定値Dxに後述の初期値を利用する場合は、キー画像KIだけで鍵情報を構成する。
検索条件受付部M1は、キー画像KIと近傍範囲指定値Dxの組合せ、もしくはキーワードKWのいずれかを検索条件として受付可能であり、受付けた検索条件がキー画像KIと近傍範囲指定値Dxであればキー画像検索が指定されたものと判断し、受付けた検索条件がキーワードKWであればキーワード検索が指定されたものと判断する。本実施形態においては、キー画像KIと近傍範囲指定値Dxの組合せ、キーワードKWが鍵情報を構成する。なお近傍範囲指定値Dxに後述の初期値を利用する場合は、キー画像KIだけで鍵情報を構成する。
ここで図3を参照して、キー画像検索の概念を説明する。同図に示すように、キー画像はユーザーが指定する画像である。ただし、キー画像はユーザーのイメージしている画像(以下、「目的画像」と記載する。)と類似しているものの目的画像ではない。また、類似しているとは言っても、ユーザーのイメージ上でのことであり、具体的にどの画像特徴量が類似しているか特定されていない。
そこで本実施形態では、キー画像KIとの類似度が所定度合い以上の画像を抽出することにより、キー画像KIよりも目的画像との類似度の高い画像を検索結果に含むように検索する。理想的には検索結果中に目的画像を含むように検索を行う。また、検索に利用する画像特徴量は、ユーザーのイメージに対する影響が強い特徴量を優先的に利用する。
より具体的には、複数の画像特徴量を変数とする画像特徴量空間において、目的画像を中心として近傍範囲指定値Dxによって指定される所定距離以内にある画像を検索する。このとき近傍範囲指定値Dxが適切に設定されていれば、検索結果の中に目的画像が含まれるし、近傍範囲指定値Dxが目的画像とキー画像KIの距離よりも狭い場合には、キー画像よりも目的画像との類似度の高い画像が含まれる可能性が高い。後者の場合は、検索結果の中から、より適切な画像を次のキー画像として選択し、再び検索すればさらに目的画像との類似度の高い画像を検索することができる。
より具体的には、複数の画像特徴量を変数とする画像特徴量空間において、目的画像を中心として近傍範囲指定値Dxによって指定される所定距離以内にある画像を検索する。このとき近傍範囲指定値Dxが適切に設定されていれば、検索結果の中に目的画像が含まれるし、近傍範囲指定値Dxが目的画像とキー画像KIの距離よりも狭い場合には、キー画像よりも目的画像との類似度の高い画像が含まれる可能性が高い。後者の場合は、検索結果の中から、より適切な画像を次のキー画像として選択し、再び検索すればさらに目的画像との類似度の高い画像を検索することができる。
特徴量算出部M2は、キー画像から画像特徴量を算出するものであって、1つの画像から複数組の画像特徴量を算出することができる。
複数組の画像特徴量としては、各組で画像特徴量の種類が異なるように構成してもよいし、各組で画像特徴量の情報量が異なるように構成してもよい。前者の方式であれば、多角的な観点からの検索を行いつつ徐々に検索結果を絞り込んで行く事ができるし、後者の方式であれば、画像全体から受ける印象を重視した検索から徐々に検索結果を明確化して行くように検索することができる。
なお、複数種類の画像特徴量を算出するということは、検索に使用する画像特徴量の種類数を変更すれば検索に使用する画像特徴量の情報量を変化させることもできるため、前者の検索方式も画像特徴量の情報量を徐々に増加させつつ検索を行っているといえる。
複数組の画像特徴量としては、各組で画像特徴量の種類が異なるように構成してもよいし、各組で画像特徴量の情報量が異なるように構成してもよい。前者の方式であれば、多角的な観点からの検索を行いつつ徐々に検索結果を絞り込んで行く事ができるし、後者の方式であれば、画像全体から受ける印象を重視した検索から徐々に検索結果を明確化して行くように検索することができる。
なお、複数種類の画像特徴量を算出するということは、検索に使用する画像特徴量の種類数を変更すれば検索に使用する画像特徴量の情報量を変化させることもできるため、前者の検索方式も画像特徴量の情報量を徐々に増加させつつ検索を行っているといえる。
特徴量検索部M3は、検索条件受付部M1が受付けたキー画像に基づいて画像データベースDB1に対してキー画像検索を実行し、検索結果の一覧をディスプレイに表示する。検索結果一覧の中に目的画像があれば、ユーザーはその画像を選択して印刷や表示、レタッチなどの目的の処理を実行することができる。
なお、目的画像は明確に1つに絞られる場合もあるし、ユーザーのイメージが曖昧なものであれば複数になる場合もある。また、検索結果を見ているうちにユーザーのイメージが変化して、より好ましい画像イメージを想起したため目的画像が検索開始当初から異なるものになることもある。
このような場合には、ユーザーは、検索結果の中で最もイメージに近い画像を新たなキー画像として再び検索をおこなってさらに好ましい画像を検索したり、新たなイメージに近い画像を検索したりすることもできる。
なお、目的画像は明確に1つに絞られる場合もあるし、ユーザーのイメージが曖昧なものであれば複数になる場合もある。また、検索結果を見ているうちにユーザーのイメージが変化して、より好ましい画像イメージを想起したため目的画像が検索開始当初から異なるものになることもある。
このような場合には、ユーザーは、検索結果の中で最もイメージに近い画像を新たなキー画像として再び検索をおこなってさらに好ましい画像を検索したり、新たなイメージに近い画像を検索したりすることもできる。
KW検索部M4は、検索条件受付部M1が受付けたキーワードを付与された画像を上記画像データベースから検索し、検索結果をディスプレイに表示する。より具体的には、KW検索部M4は、各画像のファイル名や各画像に付与されている情報の中から、キーワードを含むものを検索する。付与されている情報としては、画像ファイルの説明文やExif情報などが例示される。
なお、画像データベースDB1は、画像の種類別にグループ分けされていてもよい。グループ分けしておくと、後述の検索処理において検索対象になる画像の数を減少して処理速度を向上できる。特に、後述の検索処理において、処理が開始後にデータベース作成処理を行う場合に好適である。
グループ分けの基準は、「風景、植物、人物、建物、乗り物、・・・」のような画像に含まれるオブジェクト種類であってもよいし、「2000年夏旅行、2001年春帰省、2002年秋お祭り、・・・」のようにイベント毎に分類したり年月日や季節で分類したりしたものであってもよいし、カラー写真とモノクロ写真とをグループ分けてしてもよい。また、同一グループに対し、複数種類のグループ分けの手法を適用してもよい。例えば、タグ情報を付して各画像を分類するのであれば、同一の画像が複数種類のグループの分類タグを付されていても構わない。
グループ分けの基準は、「風景、植物、人物、建物、乗り物、・・・」のような画像に含まれるオブジェクト種類であってもよいし、「2000年夏旅行、2001年春帰省、2002年秋お祭り、・・・」のようにイベント毎に分類したり年月日や季節で分類したりしたものであってもよいし、カラー写真とモノクロ写真とをグループ分けてしてもよい。また、同一グループに対し、複数種類のグループ分けの手法を適用してもよい。例えば、タグ情報を付して各画像を分類するのであれば、同一の画像が複数種類のグループの分類タグを付されていても構わない。
検索結果絞込部M5は、特徴量検索部M3やKW検索部M4の検索により得られた検索結果が、所定数以下となるように所定の基準で絞込みを行う。ユーザーが検索結果を視認する際の一覧性を高めるためである。具体的には、絞込前の検索結果に対し、キー画像に対する類似度が近いもの同士をグループ化したり、検索結果同士の類似度が近いもの同士をグループ化する。グループ化された画像には代表画像が設定され、検索結果を一覧表示する際には、まず代表画像だけを表示する。代表画像は様々な基準で選択することが可能であるが、例えば、キー画像に対する類似度の高い画像を代表画像としてもよいし、グループ化された画像の中で最も平均的な画像を代表画像としてもよい。
検索結果表示部M6は、特徴量検索部M3やKW検索部M4の検索により得られた検索結果、もしくは検索結果絞込部M5によって所定数以下に絞り込まれた画像をディスプレイに表示する。なお、検索結果絞込部M5によって絞り込まれた検索結果については、検索結果表示部M6の初期表示ではグループの代表画像のみが表示されるが、所定の操作を行うことにより、各グループにグループ化されて表示されていない画像についても一覧表示することができる。例えば、代表画像と共に他の画像がグループ化されている旨を示す所定画像を表示し、この所定画像に対して所定の操作が行われると、他の画像を一覧表示する。
(2)第1実施形態にかかる特徴量算出処理:
図4は、第1実施形態にかかる特徴量算出処理のフローチャートである。同図に示す特徴量算出処理は、後述の検索処理の前に予め実行しておいてもよいし、後述の検索処理において検索対象となるデータベースが指定された後で検索対象データベースに対して実行してもよい。また、画像データベースDB1に新たな画像が追加されたことを検出した時点で、自動的に特徴量算出処理を実行してもよい。
図4は、第1実施形態にかかる特徴量算出処理のフローチャートである。同図に示す特徴量算出処理は、後述の検索処理の前に予め実行しておいてもよいし、後述の検索処理において検索対象となるデータベースが指定された後で検索対象データベースに対して実行してもよい。また、画像データベースDB1に新たな画像が追加されたことを検出した時点で、自動的に特徴量算出処理を実行してもよい。
特徴量算出処理が開始されると、ステップS100(以下、「ステップ」の記載を省略する。)において、画像特徴量を未算出の画像を1つ選択してS105に進む。画像特徴量を未算出であるか否かは、特徴量データベースDB2に登録があるか否かで判断してもよいし、画像データベースDB1を構成する各画像に特徴量算出済みを示すフラグを付してあるか否かで判断してもよい。
S105において、特徴量算出部M2は、「形状特徴量」と「色特徴量」と「輝度特徴量」と「テクスチャー特徴量」と「解像度特徴量」をそれぞれ算出する。ここで各特徴量について簡単に説明する。
「形状特徴量」とは、画像に含まれる各オブジェクトの形状に関する画像特徴量であり、例えば、対象画像からエッジ抽出を行って作成された輪郭画像から連結成分を検出し、連結成分について求められる重心、外接長方形、面積、周囲長、円形度などが該当する。エッジ抽出や連結成分の抽出等の処理は、公知の各種技術を利用することができる。
また、「形状特徴量」には、顔検出処理や顔器官検出処理などのオブジェクト検出処理による検出結果を含めてもよい。オブジェクト検出結果に関する画像特徴量は、オブジェクトが検出された場合とオブジェクトが非検出の場合とで値が二極化するような値を画像特徴量として割り振れば、以降の検索処理で利用することができる。具体的には、オブジェクト検出された場合の画像特徴量を「100」とし、オブジェクト非検出の場合の画像特徴量を「0」とするなどである。なお、検出結果の信頼度に応じて、信頼度が高いほど100に近づくように0〜100の間の値を割り当てることもできる。
「形状特徴量」とは、画像に含まれる各オブジェクトの形状に関する画像特徴量であり、例えば、対象画像からエッジ抽出を行って作成された輪郭画像から連結成分を検出し、連結成分について求められる重心、外接長方形、面積、周囲長、円形度などが該当する。エッジ抽出や連結成分の抽出等の処理は、公知の各種技術を利用することができる。
また、「形状特徴量」には、顔検出処理や顔器官検出処理などのオブジェクト検出処理による検出結果を含めてもよい。オブジェクト検出結果に関する画像特徴量は、オブジェクトが検出された場合とオブジェクトが非検出の場合とで値が二極化するような値を画像特徴量として割り振れば、以降の検索処理で利用することができる。具体的には、オブジェクト検出された場合の画像特徴量を「100」とし、オブジェクト非検出の場合の画像特徴量を「0」とするなどである。なお、検出結果の信頼度に応じて、信頼度が高いほど100に近づくように0〜100の間の値を割り当てることもできる。
「色特徴量」や「輝度特徴量」は、例えば、対象画像から作成されるRGBヒストグラムや輝度ヒストグラム、もしくはこれらヒストグラムにおける最大値、最小値、平均値、最頻値、色数、輝度数などである。
「テクスチャー特徴量」は、注目画素とその近傍の画素との間の関係を表す特徴量であり、濃度ヒストグラム、同時生起行列から得られるテクスチャー情報、差分統計量、ランレングス行列、等に基づいて算出される値が該当する。
同時生起行列とは一定距離離れた2つのピクセル間の画素値の関係から模様を統計的に記述する手法である。
また、ある方向に連続して並ぶ同一の濃淡レベルの画素列をラン、その長さをランレングスとしたときに、対象画像領域においてある方向θに関して各濃淡レベルのランレングスの出現頻度をθ方向のランレングス行列という。
「解像度特徴量」は、画像の縦横比や縦横それぞれの解像度そのものが該当する。
「テクスチャー特徴量」は、注目画素とその近傍の画素との間の関係を表す特徴量であり、濃度ヒストグラム、同時生起行列から得られるテクスチャー情報、差分統計量、ランレングス行列、等に基づいて算出される値が該当する。
同時生起行列とは一定距離離れた2つのピクセル間の画素値の関係から模様を統計的に記述する手法である。
また、ある方向に連続して並ぶ同一の濃淡レベルの画素列をラン、その長さをランレングスとしたときに、対象画像領域においてある方向θに関して各濃淡レベルのランレングスの出現頻度をθ方向のランレングス行列という。
「解像度特徴量」は、画像の縦横比や縦横それぞれの解像度そのものが該当する。
S110において、特徴量算出部M2は、S105において算出した各種特徴量をS100で選択された画像に対応付けて、特徴量データベースDB2に格納する。特徴量データベースDB2は、HD130に記憶されている。
図5は、特徴量データベースDB2の一例を説明するテーブルである。同図において、画像特徴量は「形状特徴量」と「色特徴量」と「輝度特徴量」と「テクスチャー特徴量」と「解像度特徴量」にカテゴライズされており、各カテゴリーについて複数種類の画像特徴量が算出されている。なお、本実施形態における画像特徴量は、画像特徴量同士を対比しやすいように、その値域を所定範囲、例えば0〜100など、に正規化してある。
図5は、特徴量データベースDB2の一例を説明するテーブルである。同図において、画像特徴量は「形状特徴量」と「色特徴量」と「輝度特徴量」と「テクスチャー特徴量」と「解像度特徴量」にカテゴライズされており、各カテゴリーについて複数種類の画像特徴量が算出されている。なお、本実施形態における画像特徴量は、画像特徴量同士を対比しやすいように、その値域を所定範囲、例えば0〜100など、に正規化してある。
S115において、特徴量算出部M2は、画像データベースDB1における特徴量を未算出の画像の有無を判断する。特徴量を未算出の画像があれば、S100に戻って新たな画像を選択し、特徴量を未算出の画像が無ければ特徴量算出処理を終了する。
画像データベースDB1に対して以上の特徴量算出処理を行うことにより、画像データベースDB1からキー画像を検索する準備が整う。
画像データベースDB1に対して以上の特徴量算出処理を行うことにより、画像データベースDB1からキー画像を検索する準備が整う。
(3)第1実施形態にかかる検索処理:
図6は、第1実施形態にかかる検索プログラムによって実行される画像検索処理のフローチャートである。同図に示す処理が開始されると、S200において検索段階を示すカウンターCを初期化してS205に進む。カウンターCについては後で説明する。
図6は、第1実施形態にかかる検索プログラムによって実行される画像検索処理のフローチャートである。同図に示す処理が開始されると、S200において検索段階を示すカウンターCを初期化してS205に進む。カウンターCについては後で説明する。
S205において、検索条件受付部M1は、検索条件を受付けたり検索結果の一覧を表示したりするためのUI画面をディスプレイに表示する。
図7は、S205で表示されるUI画面の一例を示す図である。同図に示すUI画面は、各種クエリを設定するためのクエリ設定エリアA1と、いずれのデータベースを検索の母集合とするか設定するためのデータベース選択エリアA2と、検索結果表示エリアA3と、検索実行ボタンD1と、印刷ボタンD2と、レタッチボタンD3と、を備えている。なお、印刷ボタンD2とレタッチボタンD3は、検索結果表示エリアA3に表示される検索結果の少なくとも1つが選択されるまではグレーアウトしており、クリックできないようになっている。
図7は、S205で表示されるUI画面の一例を示す図である。同図に示すUI画面は、各種クエリを設定するためのクエリ設定エリアA1と、いずれのデータベースを検索の母集合とするか設定するためのデータベース選択エリアA2と、検索結果表示エリアA3と、検索実行ボタンD1と、印刷ボタンD2と、レタッチボタンD3と、を備えている。なお、印刷ボタンD2とレタッチボタンD3は、検索結果表示エリアA3に表示される検索結果の少なくとも1つが選択されるまではグレーアウトしており、クリックできないようになっている。
データベース選択エリアA2には、上述した画像データベースDB1のグループを示す名称が一覧表示されている。グループ名の横にはチェックボックスが設けられており、ユーザーがチェックボックスにチェックを入れると、チェックの入ったグループに属する画像が本検索処理における検索の母集合として選択される。チェックは複数グループに入れることもできる。
クエリ設定エリアA1では、キー画像KIの指定、近傍範囲指定値Dxの指定、キーワードKWの指定、を行う。
キー画像KIの指定は、例えば、ファイル閲覧ソフトやインターネット閲覧ソフトなどに表示された画像をクエリ設定エリアA1にドラッグ&ドロップすることにより行うことができる。むろん、画像のファイルパスやURLによってキー画像KIを指定してもよいし、データベース選択エリアA2で選択された画像データベースDB1に含まれる画像を一覧表示し、その中から画像を選択・指定出来るようにしてもよい。
キー画像KIの指定は、例えば、ファイル閲覧ソフトやインターネット閲覧ソフトなどに表示された画像をクエリ設定エリアA1にドラッグ&ドロップすることにより行うことができる。むろん、画像のファイルパスやURLによってキー画像KIを指定してもよいし、データベース選択エリアA2で選択された画像データベースDB1に含まれる画像を一覧表示し、その中から画像を選択・指定出来るようにしてもよい。
キー画像KIが指定されると、クエリ設定エリアA1に該キー画像KIのサムネイル画像が表示されるとともに、該キー画像KIに対する近傍範囲指定値Dxを指定するためのスライダーがクエリ設定エリアA1に表示される。図7においては、キー画像KIを示すサムネイル画像がクエリ設定エリアA1に表示されており、その下に近傍範囲指定値Dxを設定するためのスライダーが表示されている。
このスライダーをマウスやカーソルキーで操作して移動させることにより、近傍範囲指定値Dxを設定できる。図7においては「10」〜「80」の範囲で近傍範囲指定値Dxを設定できるようになっており、スライダーの現在位置に対応する近傍範囲指定値Dxとして「40」が表示されている。なお、ユーザーが明確な検索範囲を想定していない場合を考慮して、スライダーの初期状態では中間的な「40」等を初期値として表示するようにしてもよい。
また、クエリ設定エリアA1にはキーワードKWを入力することも可能である。本実施形態においては、ユーザーはクエリ設定エリアA1にキー画像KIとキーワードKWを排他的に入力できるようになっている。キーワード検索とキー画像KI検索を排他的に実行するためである。よって、キーワードKWを入力した後でキー画像KIを指定すると先に入力されたキーワードKWはクリアされるし、キー画像KIを入力した後でキーワードKWを入力すると先に入力されたキー画像KIはクリアされる。むろん、キーワード検索とキー画像KI検索の論理和や論理積、排他的論理和等を検索結果とする場合は、キーワードKWとキー画像KIとを同時にクエリ設定エリアに入力できるようにしてもよい。
検索条件受付部M1は、UIに対してクエリ設定エリアA1やデータベース選択エリアA2に対する操作入力が行われた場合は、UIの表示を該操作入力に応じて更新し、クエリ設定エリアA1やデータベース選択エリアA2以外への操作入力が行われるとS210へ進む。
検索条件受付部M1は、UIに対してクエリ設定エリアA1やデータベース選択エリアA2に対する操作入力が行われた場合は、UIの表示を該操作入力に応じて更新し、クエリ設定エリアA1やデータベース選択エリアA2以外への操作入力が行われるとS210へ進む。
S210において、検索条件受付部M1は、検索実行が指示されたか否かを判断する。すなわち、検索条件受付部M1は検索実行ボタンD1がクリックされたか否かを判断し、検索実行ボタンD1がクリックされていない場合はS255へ進み、検索実行ボタンD1がクリックされた場合はS220へ進む。
S255へ進むと、検索条件受付部M1はS255〜S275を順に実行することにより、印刷処理、レタッチ処理、表示処理の何れが選択されたかを判断し、選択された処理を実行する。
すなわち、印刷ボタンがクリックされた場合は、検索結果表示エリアA3に表示されている1又は複数の検索結果を印刷処理部PP受け渡して印刷させる。レタッチボタンがクリックされた場合は、画像処理部GPにレタッチプログラムの起動を指示すると共に、検索結果表示エリアA3をマウスのクリック操作等することによって選択された1又は複数の検索結果に対応する画像データをレタッチソフトのレタッチ対象として受け渡す。検索結果表示エリアA3において、1または複数の検索結果がマウスのダブルクリック等によって選択された場合は、表示処理部DPに画像閲覧プログラムの起動を指示し、ダブルクリックされた検索結果に対応する画像データを画像閲覧プログラムに受け渡してディスプレイに表示させる。
S260の印刷処理、S270のレタッチ処理もしくはS275の表示処理が終了すると、S205のUI画面に戻る。
すなわち、印刷ボタンがクリックされた場合は、検索結果表示エリアA3に表示されている1又は複数の検索結果を印刷処理部PP受け渡して印刷させる。レタッチボタンがクリックされた場合は、画像処理部GPにレタッチプログラムの起動を指示すると共に、検索結果表示エリアA3をマウスのクリック操作等することによって選択された1又は複数の検索結果に対応する画像データをレタッチソフトのレタッチ対象として受け渡す。検索結果表示エリアA3において、1または複数の検索結果がマウスのダブルクリック等によって選択された場合は、表示処理部DPに画像閲覧プログラムの起動を指示し、ダブルクリックされた検索結果に対応する画像データを画像閲覧プログラムに受け渡してディスプレイに表示させる。
S260の印刷処理、S270のレタッチ処理もしくはS275の表示処理が終了すると、S205のUI画面に戻る。
S215において、検索条件受付部M1は、ユーザーがキーワード検索と画像検索のいずれの検索方法を希望しているかを特定する。本実施形態においては、検索条件受付部M1は、検索実行が指示された時点でクエリ設定エリアA1に入力されているクエリがキーワードKWであれば、キーワード検索が選択されたと判断し、キー画像KIであれば、キー画像検索が選択されたと判断する。むろん、キーワード検索とキー画像検索の検索実行ボタンを別々に設けておき、対応するボタンのクリックに基づいてユーザー所望の検索方法を特定してもよい。
検索条件受付部M1は、キーワードKWが入力されている場合はS250に進み、キー画像KIが入力されている場合はS220に進む。
検索条件受付部M1は、キーワードKWが入力されている場合はS250に進み、キー画像KIが入力されている場合はS220に進む。
S250において、KW検索部M4は、キーワードKWを含む画像を、データベース選択エリアA2で選択されたグループの画像データベースから検索し、検索結果の一覧データを作成してRAMに一時保存して、S245に進む。
S220において、検索条件受付部M1は、キー画像KIが検索結果表示エリアA3から選択されたか否か、もしくは先の検索におけるキー画像が再びキー画像KIとして選択されたか否かを判断する。新たなキー画像KIが検索結果表示エリアA3に表示された検索結果中から選択された場合、又は先の検索におけるキー画像が再びキー画像KIとして選択された場合は、S230に進む。一方、新たなキー画像KIが、先の検索におけるキー画像や検索結果以外から選択された画像である場合は、S225に進んでカウンターCを0に初期化してから、S230に進む。
S230において、特徴量算出部M2は、キー画像KIの画像特徴量を算出する。特徴量算出部M2は、上述したデータベース作成処理において算出したのと同様の画像特徴量をキー画像KIから算出することができる。
S235において、特徴量検索部M3は、カウンターCの値に対応する種類の画像特徴量に基づいて、画像データベースDB1を検索する。
具体的には、カウンターCが「1」の場合は、キー画像KIの形状特徴量CA01a,CA01b,CA01c,・・・と、検索対象として指定されたグループの画像データベースに含まれる各画像In(n=1,2,3・・・)の形状特徴量CAn1a,CAn1b,CAn1c,・・・(n=1,2,3・・・)とのユークリッド距離Dn(n=1,2,3・・・)を、特徴量空間においてそれぞれ算出する。各画像Inとキー画像KIとの距離Dnは、下記(2)式で算出することができる。
そして、特徴量検索部M3は、距離Dnが近傍範囲指定値Dx以下の画像Inを特定し、特定した画像を距離D0nが小さい順に並べた一覧データを作成してRAMに一時保存する。カウンターCが「2」の場合は、「形状」に関する画像特徴量も含めてユークリッド距離Dnを算出することになる。
具体的には、カウンターCが「1」の場合は、キー画像KIの形状特徴量CA01a,CA01b,CA01c,・・・と、検索対象として指定されたグループの画像データベースに含まれる各画像In(n=1,2,3・・・)の形状特徴量CAn1a,CAn1b,CAn1c,・・・(n=1,2,3・・・)とのユークリッド距離Dn(n=1,2,3・・・)を、特徴量空間においてそれぞれ算出する。各画像Inとキー画像KIとの距離Dnは、下記(2)式で算出することができる。
S235の検索が終了すると、特徴量検索部M3はS240においてカウンターCをインクリメントしてS245に進む。
ここでカウンターCについて説明する。本実施形態においては、すでに行った検索結果を有効に利用できる範囲内で次の検索を行う場合に、検索段階が進むようにしてある。
具体的には、次に行われる検索において、先の検索結果に含まれる画像がキー画像KIとして選択された場合や、先の検索においてキー画像KIであった画像が再びキー画像KIとして選択された場合には、検索段階が進行する。逆に言えば、先の検索結果や先の検索におけるキー画像KI以外から次のキー画像KIが選択された場合は、先に実行された検索結果とは別異の検索が開始されたものと見做して検索段階を初期化する。カウンターCは、この検索段階を管理するためのものである。
より具体的には、検索結果の中から次のキー画像が選択された場合には検索段階が進行するのでカウンターCが増加し、ユーザーがウェブページ等の画像をクエリ設定エリアにドラッグ&ドロップしてキー画像KIに設定した場合にはカウンターCは初期化される。本実施形態においては、検索処理部SPにおいてカウンターCのインクリメントや初期化を行う各部が計数部を構成する。
具体的には、次に行われる検索において、先の検索結果に含まれる画像がキー画像KIとして選択された場合や、先の検索においてキー画像KIであった画像が再びキー画像KIとして選択された場合には、検索段階が進行する。逆に言えば、先の検索結果や先の検索におけるキー画像KI以外から次のキー画像KIが選択された場合は、先に実行された検索結果とは別異の検索が開始されたものと見做して検索段階を初期化する。カウンターCは、この検索段階を管理するためのものである。
より具体的には、検索結果の中から次のキー画像が選択された場合には検索段階が進行するのでカウンターCが増加し、ユーザーがウェブページ等の画像をクエリ設定エリアにドラッグ&ドロップしてキー画像KIに設定した場合にはカウンターCは初期化される。本実施形態においては、検索処理部SPにおいてカウンターCのインクリメントや初期化を行う各部が計数部を構成する。
図8は、カウンターCと画像特徴量の種類とを対応付ける優先度テーブルTを説明する表である。優先度テーブルTには、カウンターCが各値の時に検索に利用される画像特徴量の種類が示してある。同図に示すように、カウンターCが増えるに従って、「形状」「色」、「輝度」、「テクスチャー」、「解像度」の順で検索に利用する画像特徴量の種類が増加するようになっている。「形状」「色」、「輝度」、「テクスチャー」、「解像度」の順で、ユーザーのイメージの中で占める影響が大きいと考えられるからである。なお、本実施形態においては、カウンターCが増加するにつれて、検索に利用する画像特徴量のカテゴリーが1つずつ増加して行くようにしてあるが、むろん2カテゴリーずつ増加するようにしてもよいし、カテゴリーを越えて各種特徴量を任意に組み合わせ可能とし、組み合わされる特徴量種類の数がカウンター値に応じて増加するようにしてもよい。
図9は、検索段階の進行と、検索結果の関係を説明する図である。同図は、説明を簡略化するためにカウンターCが1のときに2種類の画像特徴量で検索を行い、カウンターCが2のときに3種類の画像特徴量で検索を行った場合を例にとって示してある。同図において、C=1の検索結果にはユーザーのイメージする目的画像は含まれなかったものの、キー画像KI1よりも目的画像に類似する画像が抽出されている。そこで、ユーザーはこの画像を次のキー画像KI2として検索を行う。すなわち、先の検索結果を利用して検索を行うので、カウンターCは2になり、検索段階が進行する。検索段階が進行した状態で検索を行うと、図9において、C=2の検索結果にはユーザーのイメージする目的画像が含まれている。このとき、1回目と2回目の検索で、近傍範囲を同程度に指定しても、画像特徴量空間の次元数が増加しているため、検索範囲は、2回目の検索の方が狭くなっている。
図10は、検索段階の進行と、検索範囲の関係を説明する図である。同図には、図9の1回目の検索範囲と2回目の検索範囲とを、特徴量2と特徴量3の平面に投影した図である。図10に示すように、一回目の検索範囲は2次元であるため、2回目の検索に使用した3次元の画像特徴量空間で観察すると円筒状の範囲を検索している、これに対し、2回目の検索範囲は、3次元であるため球状の範囲を検索している。すなわち、検索に用いる特徴量の数が増えるほど、検索結果は絞り込まれていくことが分かる。
S242において、検索結果絞込部M5は、S240で抽出された検索結果の数が所定数n以下であるか否かを判断する。所定数nは、例えば、検索結果表示エリアA3にスクロール等行うことなく1画面内に表示可能な検索結果数とする。検索結果絞込部M5は、検索結果数がn以上であればS243に進み、n未満であればS245に進む。
ステップS243に進むと、検索結果絞込部M5が検索結果絞込処理を行って、検索結果数を所定数n以下に絞り込み、その後ステップS245に進む。検索結果絞込処理については、後で詳述する。
ステップS243に進むと、検索結果絞込部M5が検索結果絞込処理を行って、検索結果数を所定数n以下に絞り込み、その後ステップS245に進む。検索結果絞込処理については、後で詳述する。
S245において、検索結果表示部M5は、S250やS235の検索結果を図7のUIにおける検索結果表示エリアA3に表示する。
このとき、S250からS245に進んだ場合は、検索結果表示エリアA3には、検索にヒットした順に検索結果が一覧表示される。
一方、S235からS245に進んだ場合は、検索結果表示エリアA3には、キー画像KIとの類似度順、すなわち画像特徴量空間におけるキー画像KIとのユークリッド距離が近い順に検索結果が一覧表示される。なお、この一覧には、S205において指定されたキー画像KIは表示されない。本実施形態における検索の目的は、キー画像KIを取っ掛かりにしてユーザーが真にイメージする画像を検索することだからである。
このとき、S250からS245に進んだ場合は、検索結果表示エリアA3には、検索にヒットした順に検索結果が一覧表示される。
一方、S235からS245に進んだ場合は、検索結果表示エリアA3には、キー画像KIとの類似度順、すなわち画像特徴量空間におけるキー画像KIとのユークリッド距離が近い順に検索結果が一覧表示される。なお、この一覧には、S205において指定されたキー画像KIは表示されない。本実施形態における検索の目的は、キー画像KIを取っ掛かりにしてユーザーが真にイメージする画像を検索することだからである。
検索結果を表示すると、検索結果表示部M5は、S205に戻ってUIに対する操作入力を待機する。
なお、検索結果絞込処理が行われた場合、S245において表示される検索結果の一覧には、各グループの代表画像が表示される。そして、グループ内に1以上の画像を含む場合は、表示される代表画像に、その旨示す「G」マークが表示される。
S205に戻ったときにユーザーがマウスカーソルのクリック等によりこの「G」マークを指定すると、図7のUI画面とは別のウィンドウがポップアップ表示され、このサブウィンドウに代表画像に統合された他の画像が一覧表示される。ユーザーはこのサブウィンドウに表示された画像についても、適宜選択して所定の操作を行うことにより、画像処理、レタッチ処理、表示処理等を実行可能である。
なお、検索結果絞込処理が行われた場合、S245において表示される検索結果の一覧には、各グループの代表画像が表示される。そして、グループ内に1以上の画像を含む場合は、表示される代表画像に、その旨示す「G」マークが表示される。
S205に戻ったときにユーザーがマウスカーソルのクリック等によりこの「G」マークを指定すると、図7のUI画面とは別のウィンドウがポップアップ表示され、このサブウィンドウに代表画像に統合された他の画像が一覧表示される。ユーザーはこのサブウィンドウに表示された画像についても、適宜選択して所定の操作を行うことにより、画像処理、レタッチ処理、表示処理等を実行可能である。
以上のように、検索段階が進むにつれて検索に利用する画像特徴量の種類を増加させることにより、検索が初期段階にあるときは大まかなイメージで検索結果が出力されるし、検索段階が進むほどキー画像との類似度の高い検索結果が出力されるようになる。すなわち、キー画像がユーザーのイメージに近付くほど、より詳細な検索を実行できるようになっている。また、検索結果を表示するにあたり、一画面内に表示可能な数に絞り込むため、検索結果の一覧性が大きく向上する。さらに、絞り込んだ画像についても、代表画像の「G」マークをクリックすることによって表示できるので、ユーザー所望の画像が検索結果から漏れることはないし、代表画像にはこれに類似する画像だけが統合されているので、明確なイメージを持っていなかったユーザーのイメージを徐々に明確化する補助にもなる。
従って、ユーザーが検索の開始時には検索したい画像の漠然としたイメージしか持っていない場合であっても、検索が進むに連れて検索結果から徐々にイメージを明確化することができるため、ユーザーを目的画像へと誘導することができる。
また、ユーザーのイメージに近い画像を出発点にして、ユーザーのイメージに最も近い所望画像を、データベース中から容易且つ迅速に検索することができる。
また、ユーザーのイメージに近い画像を出発点にして、ユーザーのイメージに最も近い所望画像を、データベース中から容易且つ迅速に検索することができる。
(4)第2実施形態にかかる特徴量算出処理:
図11は、第2実施形態にかかる特徴量算出処理のフローチャートである。同図に示した特徴量算出処理も、第1実施形態と同様に、後述の検索処理の前に予め実行されていてもよいし、後述の検索処理において検索対象となるデータベースが指定された後で検索対象データベースに対して実行されてもよい。また、画像データベースDB1に新たな画像が追加されたことを検出した時点で、自動的に特徴量算出処理を実行してもよい。
図11は、第2実施形態にかかる特徴量算出処理のフローチャートである。同図に示した特徴量算出処理も、第1実施形態と同様に、後述の検索処理の前に予め実行されていてもよいし、後述の検索処理において検索対象となるデータベースが指定された後で検索対象データベースに対して実行されてもよい。また、画像データベースDB1に新たな画像が追加されたことを検出した時点で、自動的に特徴量算出処理を実行してもよい。
特徴量算出処理が開始されると、S300において、画像特徴量を未算出の画像を1つ選択してS305に進む。
S305において、特徴量算出部M2は、画像データベースDB1を構成する各画像を解析して各種画像特徴量を複数の精度で算出し、算出した画像特徴量を各画像と対応付けて画像特徴量データベースDB2として保存する。なお、算出する画像特徴量の種類は、第1実施形態の特徴量算出処理で算出した中の任意のものを任意に組み合わせて選択可能である。
S305において、特徴量算出部M2は、画像データベースDB1を構成する各画像を解析して各種画像特徴量を複数の精度で算出し、算出した画像特徴量を各画像と対応付けて画像特徴量データベースDB2として保存する。なお、算出する画像特徴量の種類は、第1実施形態の特徴量算出処理で算出した中の任意のものを任意に組み合わせて選択可能である。
ここで言う精度とは、画像の諧調数(色の諧調数や輝度の諧調数)や解像度における量子化の程度を意味するものである。なお、諧調数は画像の濃淡や明暗を分割する段階数を表す数値であり、解像度は単位長当りの標本点数を示す標本化間隔である。すなわち、精度の低い画像特徴量に基づいて検索を行うと、大まかなイメージで検索を行うことができるし、精度の高い画像特徴量に基づいて検索を行うと、明確なイメージで検索を行うことができる。
図12は、複数の解像度で各種の特徴量を算出する様子を示す説明図である。なお、同図においては、説明を簡略化するために「色特徴量」だけを示してあるが、他のカテゴリーの画像特徴量についてもそれぞれ算出する。
同図に示す例では、特徴量算出部M2は、高解像度と中解像度と低解像度の3種類の解像度で、特徴量を算出している。高解像度では、原画像から画像特徴量を算出している。中解像度では、原画像において隣接する4画素を平均して新たな1画素とする縮小画像を作成し、この縮小画像から画像特徴量を算出している。低解像度では、原画像において注目画素に隣接する8近傍を平均して新たな1画素とした縮小画像を作成し、この縮小画像から画像特徴量を算出している。
同図に示す例では、特徴量算出部M2は、高解像度と中解像度と低解像度の3種類の解像度で、特徴量を算出している。高解像度では、原画像から画像特徴量を算出している。中解像度では、原画像において隣接する4画素を平均して新たな1画素とする縮小画像を作成し、この縮小画像から画像特徴量を算出している。低解像度では、原画像において注目画素に隣接する8近傍を平均して新たな1画素とした縮小画像を作成し、この縮小画像から画像特徴量を算出している。
すなわち、原画像において近接する所定数画素を平均して新たな1画素とすることにより、低解像度画像を作成し、この低解像度画像に基づいて各種の画像特徴量を算出している。このとき平均化する画素数を段階的に増加した複数解像度の画像を作成して各解像度画像から画像特徴量を算出することにより、段階的に精度が変化する複数組の画像特徴量が作成される。このようにして作成された複数組の精度の画像特徴量を、各原画像に対応付けて保存することにより、図13に示した画像特徴量データベースDB2が作成される。
また、図14は、複数の諧調で各種の特徴量を算出する様子を示す説明図である。
同図では、24ビットカラーで表現された原画像を、12ビットカラーや6ビットカラーへ変換した低諧調画像を作成し、これら低諧調画像から、各々、各種の画像特徴量を作成し、高階調、中諧調、低階調の画像特徴量として、画像特徴量テーブルに保存する。すなわち、図14に示す例では、特徴量算出部M2は、原画像の各画素の諧調数を段階的に低下させて複数諧調の画像を作成している。なお、諧調を低下した画像を作成する際は、各画像の諧調数が、原画像の諧調数の約数となるようにすることが好ましい。
同図では、24ビットカラーで表現された原画像を、12ビットカラーや6ビットカラーへ変換した低諧調画像を作成し、これら低諧調画像から、各々、各種の画像特徴量を作成し、高階調、中諧調、低階調の画像特徴量として、画像特徴量テーブルに保存する。すなわち、図14に示す例では、特徴量算出部M2は、原画像の各画素の諧調数を段階的に低下させて複数諧調の画像を作成している。なお、諧調を低下した画像を作成する際は、各画像の諧調数が、原画像の諧調数の約数となるようにすることが好ましい。
S310においては、特徴量算出部M2は、S305において算出した各種特徴量をS300で選択された画像に対応付けて、特徴量データベースDB2に格納する。特徴量データベースDB2は、HD130に記憶される。
S315において、特徴量算出部M2は、画像データベースDB1における特徴量を未算出の画像の有無を判断する。特徴量を未算出の画像があれば、S300に戻って新たな画像を選択し、特徴量を未算出の画像が無ければ特徴量算出処理を終了する。画像データベースDB1に対して以上の特徴量算出処理を行うことにより、画像データベースDB1からキー画像KIを検索する準備が整う。
(5)第2実施形態にかかる検索処理:
以上のようにして作成された画像特徴量テーブルを利用して行う検索処理について、図15を参照して説明する。同図は、第2実施形態にかかる検索処理のフローチャートである。なお、同図に示す処理は、S400〜S425,S440〜S443,S450〜S475は、第1実施形態におけるS200〜S225,S240〜S243,S250〜S275と同様なので、説明を省略する。また、第2実施形態において表示されるUIは第1実施形態と同様である。
以上のようにして作成された画像特徴量テーブルを利用して行う検索処理について、図15を参照して説明する。同図は、第2実施形態にかかる検索処理のフローチャートである。なお、同図に示す処理は、S400〜S425,S440〜S443,S450〜S475は、第1実施形態におけるS200〜S225,S240〜S243,S250〜S275と同様なので、説明を省略する。また、第2実施形態において表示されるUIは第1実施形態と同様である。
S430において、特徴量算出部M2は、キー画像KIの画像特徴量を算出する。特徴量算出部M2は、上述した特徴量算出処理において算出した画像特徴量と同様の各種精度の画像特徴量をキー画像KIから算出することができる。すなわち、複数の精度でキー画像KIの画像特徴量を算出する。
S435において、特徴量検索部M3は、カウンターCの値に対応する精度の画像特徴量に基づいて、画像データベースDB1を検索する。
具体的には、カウンターCが「1」の場合は、S430において算出したキー画像KIの「低解像度」に関する特徴量CA0_lと、検索対象として指定されたデータベースDB0に含まれる各画像In(n=1,2,3・・・)の「低解像度」に関する特徴量CAn_l(n=1,2,3・・・)との距離D0n(n=1,2,3・・・)を、特徴量空間においてそれぞれ算出し、距離D0nが近傍範囲指定値Dx以内となる画像Inを特定する。
そして特徴量検索部M3は、特定した画像を距離D0nが小さい順に並べた一覧データを作成してRAMに一時保存する。
S435の検索が終了すると、S440において特徴量検索部M3はカウンターCをインクリメントしてS445に進む。
具体的には、カウンターCが「1」の場合は、S430において算出したキー画像KIの「低解像度」に関する特徴量CA0_lと、検索対象として指定されたデータベースDB0に含まれる各画像In(n=1,2,3・・・)の「低解像度」に関する特徴量CAn_l(n=1,2,3・・・)との距離D0n(n=1,2,3・・・)を、特徴量空間においてそれぞれ算出し、距離D0nが近傍範囲指定値Dx以内となる画像Inを特定する。
そして特徴量検索部M3は、特定した画像を距離D0nが小さい順に並べた一覧データを作成してRAMに一時保存する。
S435の検索が終了すると、S440において特徴量検索部M3はカウンターCをインクリメントしてS445に進む。
図16は、カウンターCが各値の時に検索に利用される画像特徴量の精度を説明するテーブルである。同図に示すように、カウンターCが増えるに従って、「低解像度」「中解像度」、「高解像度」の順で検索に利用する画像特徴量の精度が増加するようになっている。例えば、カウンターCが「1」のときは「低解像度」、「2」のときは「中解像度」、「3」のときは「高解像度」となっており、カウンターCが「4」以上の場合は「高解像度」を利用する。なお、本実施形態における精度は3段階であるが、2以上の任意の段階数が採用可能である。また、カウンター数が1増加する毎に精度も1段階進むようにしてあるが、カウンター数が2増加する毎に精度が1段階進むようにしたり、カウンター数が3増加する毎に精度が1段階進むようにする等、カウンター数と精度の対応関係は正の相関を保つ限り任意の関係を採用可能である。
S445において、検索結果表示部M5は、S435の検索結果を図7のUIにおける検索結果表示エリアA3に表示する。検索結果表示エリアA3には、キー画像KIとの類似度順、すなわち画像特徴量空間におけるキー画像KIとのユークリッド距離が近い順に検索結果が一覧表示される。なお、この一覧にも、第1実施形態と同様にS410において指定されたキー画像KIは表示されない。
検索結果表示部M5は、検索結果を表示すると、S405に戻ってUIに対する操作入力を待機する。
検索結果表示部M5は、検索結果を表示すると、S405に戻ってUIに対する操作入力を待機する。
S445において、検索結果表示エリアA3には検索結果の一覧と共に、検索の精度を示すアイコンICが表示される。
図17は、カウンター値とアイコンICの対応関係を示す図である。同図において、アイコンICは画像を格子状に区切り、1つ1つの格子について格子内の画素値の平均値で格子内の画素値を置き換えたモザイク画像になっている。アイコンICにおいて、モザイク化する画像は、キー画像KIでもよいしりんご等の一般的な画像であってもよい。同図に示すように、アイコンICは、精度が高くなるほど分割数が多くなっており、精度が高くなるほど鮮明な画像になるように構成されている。アイコンICを検索結果と共に表示することにより、ユーザーは現在の検索段階を視覚的に把握することができる。
図17は、カウンター値とアイコンICの対応関係を示す図である。同図において、アイコンICは画像を格子状に区切り、1つ1つの格子について格子内の画素値の平均値で格子内の画素値を置き換えたモザイク画像になっている。アイコンICにおいて、モザイク化する画像は、キー画像KIでもよいしりんご等の一般的な画像であってもよい。同図に示すように、アイコンICは、精度が高くなるほど分割数が多くなっており、精度が高くなるほど鮮明な画像になるように構成されている。アイコンICを検索結果と共に表示することにより、ユーザーは現在の検索段階を視覚的に把握することができる。
(6)検索結果絞込処理:
図18は、図6や図15の検索処理のS130において実行される検索結果絞込処理のフローチャートである。
図18は、図6や図15の検索処理のS130において実行される検索結果絞込処理のフローチャートである。
S500において、検索結果絞込部M5は、各検索結果をそれぞれ1つのグループと見做して、グループ間の類似度差を算出する。
図19は、類似度差を付与された検索結果一覧テーブルT1を説明する表である。なお、本実施形態の検索結果一覧テーブルT1には、類似度差を算出するためにキー画像も含むように構成されている。
検索結果一覧テーブルT1は、エントリー番号と、ファイルパスと、キー画像KIに対する類似度と、高類似度側で隣接する画像との類似度差、グループ番号、を含んで構成されている。
図19は、類似度差を付与された検索結果一覧テーブルT1を説明する表である。なお、本実施形態の検索結果一覧テーブルT1には、類似度差を算出するためにキー画像も含むように構成されている。
検索結果一覧テーブルT1は、エントリー番号と、ファイルパスと、キー画像KIに対する類似度と、高類似度側で隣接する画像との類似度差、グループ番号、を含んで構成されている。
エントリー番号は、各画像を識別する番号であり、本実施形態においてはキー画像に対する類似度が高い方から昇順で付与されてため、キー画像に類似する順位も示している。なお、キー画像KIのエントリー番号は0としてある。
ファイルパスは、検索結果の画像の所在を示す情報である。
類似度は、キー画像KIとの画像特徴量空間におけるユークリッド距離である。
類似度差は、類似度の高い隣接画像との類似度差を、各画像の類似度差として記載してある。むろん、類似度の高い隣接画像ではなく、類似度の低い隣接画像との類似度差を格納したり、高低双方の隣接画像に対する類似度差を格納してもよい。
グループ番号は、画像が他の画像に統合されているか否かを示すフラグであり、本実施形態においては統合先の画像のエントリー番号を付与してある。従って、何れの画像を代表画像としてグループ化されているかも示している。すなわち、グループ番号とエントリー番号が一致する画像はそのグループの代表画像であり、グループ番号とエントリー番号が異なる画像は統合された画像である。
ファイルパスは、検索結果の画像の所在を示す情報である。
類似度は、キー画像KIとの画像特徴量空間におけるユークリッド距離である。
類似度差は、類似度の高い隣接画像との類似度差を、各画像の類似度差として記載してある。むろん、類似度の高い隣接画像ではなく、類似度の低い隣接画像との類似度差を格納したり、高低双方の隣接画像に対する類似度差を格納してもよい。
グループ番号は、画像が他の画像に統合されているか否かを示すフラグであり、本実施形態においては統合先の画像のエントリー番号を付与してある。従って、何れの画像を代表画像としてグループ化されているかも示している。すなわち、グループ番号とエントリー番号が一致する画像はそのグループの代表画像であり、グループ番号とエントリー番号が異なる画像は統合された画像である。
S505において、検索結果絞込部M5は、検索結果一覧テーブルの中で隣接するグループとの類似度差が最小のグループを検索し、類似度の高い隣接グループへ、類似度の低いグループを統合する。具体的には、類似度差が最も小さい2グループをキー画像KIに対する類似度が高い順にImg1,Img2とすると、Img1とImg2のグループフラグをImg1のエントリー番号に変更する。その結果、類似度が最小のグループ同士は、類似度の低いグループが類似度の高いグループへ統合され、以降の処理においては1つのグループと見做される。
なお、既にグループ化された複数エントリーと、このグループに隣接するグループとの類似度差は、統合前の値を利用する。図19を参照して説明すると、グループ番号3に対して高類似度側で隣接するグループ番号1との類似度差は、エントリー番号2と3の間の類似度差「4」が適用され、グループ3に低類似度側で隣接するグループ番号5との類似度差はエントリー番号4と5の類似度差「9」が適用される。すなわち、各グループは、そのグループを構成する各画像の全ての類似度を備えた画像とみなして類似度差を算出する。このようにすると、いったんS500で隣接エントリー間の類似度差を算出しておけば、その後、類似度差を算出する必要が無い。よって、検索結果絞込処理が高速になる。
むろん、図20に示すように、グループを構成する画像の類似度の平均値を算出し、この平均値をグループの新たな類似度として付与してもよい。同図においては、例えばエントリー番号1と2の各画像の類似度を平均した98.5をグループ1のグループ類似度として付与する。このとき、グループ類似度を代表画像であるエントリー番号1の画像とすると、検索処理のS235において検索結果を一覧表示する際に、グループ類似度を付与されている画像をグループの代表画像を判断することもできる。新たにグループ類似度を算出した場合は、隣接グループとの類似度差を算出し、グループ間類似度差として検索結果一覧テーブルTに登録する。むろん、予め算出して登録せずに、グループ間類似度が必要になったときに、隣接グループとの類似度差を適宜算出するように構成してもよい。
ステップS510において、検索結果絞込部M5は、グループ数が所定数n以下となったか否かを判断する。n以下であれば処理を終了して検索処理に戻り、n以下でなければS505に戻って類似度差カウンターを最少量だけ増加させて、再び検索結果の統合を行う。
(7)各種変形例:
(7−1)変形例1:
上述した実施形態では、画像特徴量の精度を段階的に変化するにあたり、画像特徴量の種類数を変化させる例と、画像特徴量の解像度を変化する例とを別々に記載したが、これらを複合的に利用して、画像特徴量の精度を段階的に変化させてもよい。
図21は、画像特徴量の種類と画像特徴量の解像度を組み合わせて段階的な検索を行う場合の、カウンターCと検索に利用する画像特徴量の関係の一例を示す表である。同図では、カウンターCが「1」のときは、低解像度の「形状特徴量」で検索を行い、カウンターCが「2」のときは低解像度の「形状特徴量」と「色特徴量」で検索を行うようになっている。このように画像特徴量の種類数と解像度とを組み合わせることにより、検索段回数を増加することができる。よって、最終的な検索結果まで、ユーザーのイメージが徐々に明確になって行くのに合わせて、徐々に検索範囲を絞り込んで行くことができる。
(7)各種変形例:
(7−1)変形例1:
上述した実施形態では、画像特徴量の精度を段階的に変化するにあたり、画像特徴量の種類数を変化させる例と、画像特徴量の解像度を変化する例とを別々に記載したが、これらを複合的に利用して、画像特徴量の精度を段階的に変化させてもよい。
図21は、画像特徴量の種類と画像特徴量の解像度を組み合わせて段階的な検索を行う場合の、カウンターCと検索に利用する画像特徴量の関係の一例を示す表である。同図では、カウンターCが「1」のときは、低解像度の「形状特徴量」で検索を行い、カウンターCが「2」のときは低解像度の「形状特徴量」と「色特徴量」で検索を行うようになっている。このように画像特徴量の種類数と解像度とを組み合わせることにより、検索段回数を増加することができる。よって、最終的な検索結果まで、ユーザーのイメージが徐々に明確になって行くのに合わせて、徐々に検索範囲を絞り込んで行くことができる。
(7−2)変形例2:
上述した実施形態では、キー画像検索の後でキーワード検索を実行するとカウンターCが初期化されるようにしてあるが、キーワード検索の際にもキー画像検索におけるカウンターCのカウント数を承継してもよい。
具体的には、キー画像検索の後でキーワード検索が選択された場合に、カウンターCの値を維持したままキーワード検索を行ったり、キーワード検索でもカウンターCの値がインクリメントされるようにしたりすることが考えられる。
上述した実施形態では、キー画像検索の後でキーワード検索を実行するとカウンターCが初期化されるようにしてあるが、キーワード検索の際にもキー画像検索におけるカウンターCのカウント数を承継してもよい。
具体的には、キー画像検索の後でキーワード検索が選択された場合に、カウンターCの値を維持したままキーワード検索を行ったり、キーワード検索でもカウンターCの値がインクリメントされるようにしたりすることが考えられる。
すなわち、キー画像検索の検索結果から次のキー画像候補を選択する際に、検索結果をユーザーのイメージ画像に近いものにキーワード検索によって絞り込むこととができる。すると、検索結果が少なくなって検索結果の一覧性が向上するため、ユーザーは次のキー画像KIの候補を選択しやすくなる。
このとき、新たなキー画像KIはユーザーの目的画像に近付くので、検索段階が進行したものと見做してカウンターCを増加させてもよいし、キー画像検索の検索結果を母集合としてキーワード検索を行っていることから母集合自体に変化が無いことを考慮してカウンターCは維持するものとしてもよい。また、次のキー画像KIをキーワード検索の検索結果の中から選択した場合にのみ、検索段階が進行したと判断してカウンターCをインクリメントしてもよい。
このとき、新たなキー画像KIはユーザーの目的画像に近付くので、検索段階が進行したものと見做してカウンターCを増加させてもよいし、キー画像検索の検索結果を母集合としてキーワード検索を行っていることから母集合自体に変化が無いことを考慮してカウンターCは維持するものとしてもよい。また、次のキー画像KIをキーワード検索の検索結果の中から選択した場合にのみ、検索段階が進行したと判断してカウンターCをインクリメントしてもよい。
また、初回の検索がキー画像検索でなくてキーワード検索であった場合にも、キーワード検索の検索結果の中からキー画像検索のキー画像KIを選択した場合は、カウンターを予め増加した状態でキー画像検索を開始してもよい。
以上のように、キー画像検索とキーワード検索をシームレスに実行できるようにすると、検索のユーザビリティが向上する。
以上のように、キー画像検索とキーワード検索をシームレスに実行できるようにすると、検索のユーザビリティが向上する。
(7−3)変形例3:
上述した実施形態では、各検索段階における検索の母集合は、最初にUIのデータベース選択エリアA2において設定した画像データベースDB1として記載してあるが、先の検索における検索結果を承継して検索を行う場合は、次に検索する際の母集合を先の検索結果の範囲内に限定してもよい。このように検索の母集合自体について先の検索結果を承継するようにすると、初期の検索段階において検索結果が膨大な量になって一覧性が低下した場合であっても、ユーザーの目に留まった範囲内で、先のキー画像KIよりも目的画像に近い画像を次のキー画像KIに選択することにより、徐々に検索結果が絞り込まれていく。
上述した実施形態では、各検索段階における検索の母集合は、最初にUIのデータベース選択エリアA2において設定した画像データベースDB1として記載してあるが、先の検索における検索結果を承継して検索を行う場合は、次に検索する際の母集合を先の検索結果の範囲内に限定してもよい。このように検索の母集合自体について先の検索結果を承継するようにすると、初期の検索段階において検索結果が膨大な量になって一覧性が低下した場合であっても、ユーザーの目に留まった範囲内で、先のキー画像KIよりも目的画像に近い画像を次のキー画像KIに選択することにより、徐々に検索結果が絞り込まれていく。
(7−4)変形例4:
上述した実施形態では、各画像に付与されている文字列を検索対象としてキーワード検索を行うものとしてあるが、キーワードKWに基づいて画像データベースDB1の画像特徴量を検索してもよい。この場合は、各キーワードKWによって想起されるイメージと画像特徴量との対応関係が必要であり、例えば、キーワードKW−画像特徴量対応テーブルを備えれば実現できる。
上述した実施形態では、各画像に付与されている文字列を検索対象としてキーワード検索を行うものとしてあるが、キーワードKWに基づいて画像データベースDB1の画像特徴量を検索してもよい。この場合は、各キーワードKWによって想起されるイメージと画像特徴量との対応関係が必要であり、例えば、キーワードKW−画像特徴量対応テーブルを備えれば実現できる。
すなわち、「赤」等のキーワードKWと赤みの強い画像であることを示す「色特徴量」とを対応付けたり、「秋」や「紅葉」というキーワードKWと紅葉を撮影した画像に特有の「色特徴量」とを対応付けたり、キーワードKWと画像特徴量の対応関係を示すルックアップテーブルを用意しておくことにより、所定のキーワードKWが入力されたときに、該キーワードKWに基づいて画像特徴量を検索することができるようになる。このとき、近傍範囲指定値Dxと同様に類似度合を示す値を導入し、この類似範囲をもって検索範囲とすれば、キーワードKWで画像特徴量を検索することが出来るようになる。
(7−5)変形例5:
上述した実施形態において、S120では、特徴量算出部M2は、算出する特徴量は、カウンターCの値に対応付けられた画像特徴量に関するものだけとしてもよい。S120で抽出した特徴量を利用して検索するS125では、形状特徴量に関する特徴量だけを利用して検索を行うからである。また、最初にユーザーが指定するキー画像KIは、真に求める画像をデータベース中から探し出すための手がかりに過ぎないため、以降のキー画像検索においては最初のキー画像KIが使用されない可能性が高いからである。むろん、次のキー画像KIも同一の画像が指定されることを考慮して、予め全種類の特徴量を抽出しておいても構わない。
上述した実施形態において、S120では、特徴量算出部M2は、算出する特徴量は、カウンターCの値に対応付けられた画像特徴量に関するものだけとしてもよい。S120で抽出した特徴量を利用して検索するS125では、形状特徴量に関する特徴量だけを利用して検索を行うからである。また、最初にユーザーが指定するキー画像KIは、真に求める画像をデータベース中から探し出すための手がかりに過ぎないため、以降のキー画像検索においては最初のキー画像KIが使用されない可能性が高いからである。むろん、次のキー画像KIも同一の画像が指定されることを考慮して、予め全種類の特徴量を抽出しておいても構わない。
(7−6)変形例6:
画像データベースDB1から得られる画像特徴量は、後述の検索処理におけるテキスト検索に利用してもよい。すなわち、テキスト検索において色や輝度を表す語がサーチキーワードKWとして入力された場合には、キーワードKWの示す特徴量やキーワードKWの示す特徴量から所定の類似範囲に含まれる特徴量を有した画像を、検索結果として抽出できる。また、テキスト検索において、顔、顔器官、建築物、自然物等のオブジェクトを表す語がサーチキーワードKWとして入力された場合に、キーワードKWの示すオブジェクトが上記オブジェクト検出処理において検出されている画像を検索結果とすることができる。
画像データベースDB1から得られる画像特徴量は、後述の検索処理におけるテキスト検索に利用してもよい。すなわち、テキスト検索において色や輝度を表す語がサーチキーワードKWとして入力された場合には、キーワードKWの示す特徴量やキーワードKWの示す特徴量から所定の類似範囲に含まれる特徴量を有した画像を、検索結果として抽出できる。また、テキスト検索において、顔、顔器官、建築物、自然物等のオブジェクトを表す語がサーチキーワードKWとして入力された場合に、キーワードKWの示すオブジェクトが上記オブジェクト検出処理において検出されている画像を検索結果とすることができる。
顔、花、建物、等の所定のキーワードKWが入力されたときに、これらキーワードKWの意味するオブジェクトの検出処理を画像データベースDB1の各画像に実行し、キーワードKWに対応するオブジェクトが含まれているか否かを判定する。そして、キーワードKWの意味するオブジェクトを含む画像を検索結果として出力する。
(7−7)変形例7:
なお、特徴量算出部M2は、画像全体について特徴量を抽出するだけでなく、例えば、画像の特定領域についての特徴量を算出してもよい。
図22は、特定領域を指定するための特定領域選択エリアA4を備えたUIの一例である。同図に示すように、特定領域選択エリアA4は、キー画像KIが指定されると該キー画像KIと同一形状の特定領域指定フレームFが表示される。この特定領域指定フレームには、指定されたキー画像KIのサムネイル画像が表示されており、ユーザーはマウスのクリック等によって特定領域の範囲を特定領域指定フレーム内に設定することができる。なお、同図においては特定領域は矩形を例示してあるが、楕円、三角、六角、円など、特定領域の形状は様々に設定可能であるし、1つの画像上に複数の特定領域を指定してもよい。
なお、特徴量算出部M2は、画像全体について特徴量を抽出するだけでなく、例えば、画像の特定領域についての特徴量を算出してもよい。
図22は、特定領域を指定するための特定領域選択エリアA4を備えたUIの一例である。同図に示すように、特定領域選択エリアA4は、キー画像KIが指定されると該キー画像KIと同一形状の特定領域指定フレームFが表示される。この特定領域指定フレームには、指定されたキー画像KIのサムネイル画像が表示されており、ユーザーはマウスのクリック等によって特定領域の範囲を特定領域指定フレーム内に設定することができる。なお、同図においては特定領域は矩形を例示してあるが、楕円、三角、六角、円など、特定領域の形状は様々に設定可能であるし、1つの画像上に複数の特定領域を指定してもよい。
本変形例によれば、特定領域に特定のロゴが入っている画像を抽出したい場合などに有効である。例えば、画像右上端に「社外秘」のマークが入っている機密文書を検索したい場合や、特定の会社のロゴが入った文書を検索したい場合などに、有効である。
(7−8)変形例8:
上述した第2実施形態のS445において表示したアイコンICは、上述した第1実施形態の検索結果を表示する際に表示してもよい。
図23は、第1実施形態の検索結果と共に表示するアイコンICの一例を示す図である。同図において、検索段階が進むに連れて、アイコンICにおける所定画像(図ではりんご)の「形状」、「色」、「輝度」、「テクスチャー」、「解像度」の順で画像が変化する。すなわち、各検索段階で検索に利用される画像特徴量に対応して、所定画像の画像特徴量も変化して行くのである。むろん、第1実施形態において表示するアイコンも、第2実施形態と同様に、検索種類が増加するにつれてモザイク画像の分割数が多くなるようにしても構わない。
上述した第2実施形態のS445において表示したアイコンICは、上述した第1実施形態の検索結果を表示する際に表示してもよい。
図23は、第1実施形態の検索結果と共に表示するアイコンICの一例を示す図である。同図において、検索段階が進むに連れて、アイコンICにおける所定画像(図ではりんご)の「形状」、「色」、「輝度」、「テクスチャー」、「解像度」の順で画像が変化する。すなわち、各検索段階で検索に利用される画像特徴量に対応して、所定画像の画像特徴量も変化して行くのである。むろん、第1実施形態において表示するアイコンも、第2実施形態と同様に、検索種類が増加するにつれてモザイク画像の分割数が多くなるようにしても構わない。
(7−9)変形例9:
図24は、検索結果絞込処理の変形例にかかるフローチャートである。本変形例においては、キー画像KIに対する類似度の高い検索結果から順に統合先として選定され、選定された検索結果との画像特徴量空間における距離が所定距離以下にある画像を、統合先の検索結果に統合する処理を行う。
図24は、検索結果絞込処理の変形例にかかるフローチャートである。本変形例においては、キー画像KIに対する類似度の高い検索結果から順に統合先として選定され、選定された検索結果との画像特徴量空間における距離が所定距離以下にある画像を、統合先の検索結果に統合する処理を行う。
ステップS600において、検索結果絞込部M5は、各検索結果をそれぞれ1つのグループと見做して、グループ間の類似度差を算出し、算出した類似度差を検索結果一覧テーブルT2に格納する。
図25は、本変形例にかかる検索結果一覧テーブルT2を説明する表である。なお、検索結果一覧テーブルT2からは、キー画像KIは除外されている。同図に示すように、検索結果一覧テーブルT2は、エントリー番号と、ファイルパスと、算出された各画像特徴量(画像特徴量テーブルから引いてきてもよい)、グループ番号、を含んで構成されている。エントリー番号、ファイルパス、グループ番号は、上述した検索結果絞込処理における検索結果一覧テーブルT1の場合と同様である。
各画像特徴量は、特徴量算出処理において画像データベースDB1の各画像に対して算出された画像特徴量であって、検索処理において利用された画像特徴量である。なお、本実施形態においては画像特徴量を検索結果一覧テーブルT2に格納してあるが、画像特徴量データベースDB2を適宜参照して取得するようにしてもよい。
図25は、本変形例にかかる検索結果一覧テーブルT2を説明する表である。なお、検索結果一覧テーブルT2からは、キー画像KIは除外されている。同図に示すように、検索結果一覧テーブルT2は、エントリー番号と、ファイルパスと、算出された各画像特徴量(画像特徴量テーブルから引いてきてもよい)、グループ番号、を含んで構成されている。エントリー番号、ファイルパス、グループ番号は、上述した検索結果絞込処理における検索結果一覧テーブルT1の場合と同様である。
各画像特徴量は、特徴量算出処理において画像データベースDB1の各画像に対して算出された画像特徴量であって、検索処理において利用された画像特徴量である。なお、本実施形態においては画像特徴量を検索結果一覧テーブルT2に格納してあるが、画像特徴量データベースDB2を適宜参照して取得するようにしてもよい。
S605において、検索結果絞込部M5は、画像カウンターC1と統合範囲カウンターC2とを初期化する。なお、本実施形態においては、画像カウンターC1は1に初期化され、統合範囲カウンターC2は初期値tに初期化される。画像カウンターC1は、統合先の画像(以下、「中心画像」と記載する。)のエントリー番号を順に変更するために利用し、統合範囲カウンターC2は画像特徴量空間における中心画像との距離を指定するものである。
ここで初期値tは、下記(3)式によって定めることができる。
上記(3)式において、nは上述した所定数nであって検索結果の適正なグループ数であり、mは検索処理に利用された画像特徴量の種類数であり画像特徴量空間の次元数に対応する値である。また、Dは、上述した検索処理における近傍範囲指定値である。
上記(3)式において、nは上述した所定数nであって検索結果の適正なグループ数であり、mは検索処理に利用された画像特徴量の種類数であり画像特徴量空間の次元数に対応する値である。また、Dは、上述した検索処理における近傍範囲指定値である。
なお、上記(3)式は、下記(4)、(5)式を経ることにより導かれる。
まず、適切な検索結果数は上述した所定数nである。この数は、検索結果表示エリアA2の1画面内に収まる数である。そして、検索に用いた画像特徴量がm個である場合に、1つの検索結果がm次元の画像特徴量空間において占めるべき理想的な体積VPは、下記(4)式で表すことができる。
上記(4)式において、体積VPは、中心がキー画像であって半径が近傍範囲指定値Dのm次元球体の体積である。すなわち、VQを所定数nで割った量が、検索結果1つによって占有されるべき理想体積VPに相当する。
まず、適切な検索結果数は上述した所定数nである。この数は、検索結果表示エリアA2の1画面内に収まる数である。そして、検索に用いた画像特徴量がm個である場合に、1つの検索結果がm次元の画像特徴量空間において占めるべき理想的な体積VPは、下記(4)式で表すことができる。
上記(4)式において、体積VPは、中心がキー画像であって半径が近傍範囲指定値Dのm次元球体の体積である。すなわち、VQを所定数nで割った量が、検索結果1つによって占有されるべき理想体積VPに相当する。
ここで、m次元の画像特徴量空間における多次元球体の体積は、ガンマ関数を利用した一般式で表すことができる。この一般式を、上記(4)式に適用すると下記(5)式となる。
上記(5)式を整理すると、上記(3)式となる。すなわち、上記(3)式に示したように、初期値tは、Dとmとnによって決定できることが分かる。
上記(5)式を整理すると、上記(3)式となる。すなわち、上記(3)式に示したように、初期値tは、Dとmとnによって決定できることが分かる。
S610において、検索結果絞込部M5は、代表画像カウンターに対応するエントリー番号の画像を代表画像として選択し、この中心画像との類似度差が類似度差カウンターtの値以下のグループを、中心画像に対して統合する。
図26に、図25の各画像の画像特徴量を画像特徴量空間にプロットした図を示した。同図は説明の簡略化のために、画像特徴量の種類数を2種類にして2次元の画像特徴量空間としてある。同図に示すように検索結果一覧テーブルT2の各画像は、キー画像KIを中心にして、近傍範囲指定値Dの範囲内に分布する。
図26に示すように、エントリー番号1が中心画像の場合は、この中心画像に対してエントリー番号6,8の画像が統合される。すなわち、エントリー番号1,6,8の画像にグループ番号1が付与される。また、エントリー番号2が中心画像の場合は、この中心画像に対してエントリー番号9の画像が、エントリー番号2の画像に統合される。またエントリー番号3が中心画像の場合は、エントリー番号4,5,7の画像がエントリー番号3の画像に対して統合される
図26に、図25の各画像の画像特徴量を画像特徴量空間にプロットした図を示した。同図は説明の簡略化のために、画像特徴量の種類数を2種類にして2次元の画像特徴量空間としてある。同図に示すように検索結果一覧テーブルT2の各画像は、キー画像KIを中心にして、近傍範囲指定値Dの範囲内に分布する。
図26に示すように、エントリー番号1が中心画像の場合は、この中心画像に対してエントリー番号6,8の画像が統合される。すなわち、エントリー番号1,6,8の画像にグループ番号1が付与される。また、エントリー番号2が中心画像の場合は、この中心画像に対してエントリー番号9の画像が、エントリー番号2の画像に統合される。またエントリー番号3が中心画像の場合は、エントリー番号4,5,7の画像がエントリー番号3の画像に対して統合される
なお、図26のエントリー番号6のように、すでに他のグループ(図ではグループ1)に統合されている画像であって代表画像でない画像については、類似度差がt以下であっても統合対象からは除外される。ただし、グループの代表画像が他のグループの中心画像から類似度差がt以下となった場合は、そのグループに属する全ての画像が統合先のグループへ統合されることになる。
S615において、検索結果絞込部M5は、代表画像カウンターが、検索結果一覧テーブルT2の最終エントリー番号に達しているか否かを判断する。代表画像カウンターが最終エントリー番号に達している場合はS625に進み、最終エントリー番号に達していない場合は、S620に進む。
S620において、検索結果絞込部M5は、代表画像カウンターを1増加して、S610に進む。なお、S620で増加された代表画像カウンターの値に対応する画像が、既に他のグループに統合されており、そのグループの中心画像でも無い場合は、S610はスキップされてS615が実行される。
S625において、検索結果絞込部M5は、検索結果のグループ数が所定数n以下であるか否かを判断する。n以下の場合は検索結果絞込処理を終了して検索処理に戻り、n以下でない場合はS630に進む。
S630において、検索結果絞込部M5は、代表画像カウンターを初期化すると共に、類似度差カウンターを所定量増加する。この所定量は、例えばtの10分の1、類似度の最小値等、類似度差カウンターが徐々に増加するような値を適宜選択可能である。
(7−10)変形例10:
上述した検索結果絞込処理の変形例1のS610〜S630において、検索結果絞込部は、先のループ処理で既にグループ化を実行された検索結果に対して、検索結果を絞り込む処理を実行した。この場合、既に統合済みの検索結果との類似度差を、代表画像との距離に基づいて判定することになるため、統合範囲カウンターC2で指定される範囲外の画像が、統合されてしまう可能性がある。すなわち、中心画像から統合範囲カウンターC2で指定される範囲内にある画像を中心画像の類似画像と定義すると、中心画像の類似画像に対する類似画像であって中心画像に対しては類似画像でない画像が、中心画像に対して統合される状況が発生し得る。
上述した検索結果絞込処理の変形例1のS610〜S630において、検索結果絞込部は、先のループ処理で既にグループ化を実行された検索結果に対して、検索結果を絞り込む処理を実行した。この場合、既に統合済みの検索結果との類似度差を、代表画像との距離に基づいて判定することになるため、統合範囲カウンターC2で指定される範囲外の画像が、統合されてしまう可能性がある。すなわち、中心画像から統合範囲カウンターC2で指定される範囲内にある画像を中心画像の類似画像と定義すると、中心画像の類似画像に対する類似画像であって中心画像に対しては類似画像でない画像が、中心画像に対して統合される状況が発生し得る。
そこで、本変形例2では、統合範囲カウンターC2をインクリメントする都度、各エントリーのグループ番号を初期状態、すなわちエントリー番号に戻すことにする。このようにすると、統合範囲カウンターC2が変更されると、検索処理のS245において作成した検索結果一覧に対して検索結果絞込処理を行うことになる。従って、中心画像の類似画像に対する類似画像であって中心画像に対しては類似画像でない画像が、中心画像に対して統合される状況を防止することができる。
(7−11)変形例11:
図27は、変形例3にかかるUI画面の一例を示す図である。上述した実施形態の検索処理のS135において検索結果の一覧を表示するにあたり、検索結果絞込処理によって絞り込まれた検索結果一覧は、まずは代表画像のみが検索結果表示エリアA3に表示される。しかしながら、ユーザー所望の画像が代表画像ではなく、統合された画像である可能性もある。そこで、本変形例3においては、他の画像が統合されている画像については、その旨を示す「G」マークを付しておき、ユーザーが該マークをマウスでクリック操作等によって指定すると、サブウィンドウを表示する。このサブウィンドウには、代表画像に対して統合された画像を一覧表示する。
図27は、変形例3にかかるUI画面の一例を示す図である。上述した実施形態の検索処理のS135において検索結果の一覧を表示するにあたり、検索結果絞込処理によって絞り込まれた検索結果一覧は、まずは代表画像のみが検索結果表示エリアA3に表示される。しかしながら、ユーザー所望の画像が代表画像ではなく、統合された画像である可能性もある。そこで、本変形例3においては、他の画像が統合されている画像については、その旨を示す「G」マークを付しておき、ユーザーが該マークをマウスでクリック操作等によって指定すると、サブウィンドウを表示する。このサブウィンドウには、代表画像に対して統合された画像を一覧表示する。
このように構成すると、検索結果の一覧性を保ちつつ、代表画像を観察して目的画像に近い画像が検索結果に入っていることを確認したユーザーに対し、さらに目的画像に類似する画像を容易に探索可能なようになり、ユーザビリティが向上する。
また、一覧表示する際は、キー画像KIに対する類似度が高い順に表示してもよいし、代表画像に対する類似度の高い順に表示してもよい。前者であれば、キー画像を起点に順番に並ぶので、ユーザーは目的画像がどのあたりに表示されているかを把握しやすい。後者であれば、ユーザーがあたりを付けた画像との類似度順に並ぶため、やはり目的画像がどのあたりに表示されているかを把握しやすい。
(8)まとめ:
以上説明した実施形態によれば、複数の画像を格納した画像データベースDB1を検索するにあたり、キー画像KIと近傍範囲指定値Dx、もしくはキーワードKWを検索条件として受付ける検索条件受付部M1と、検索条件に基づいて画像データベースDB1を検索する検索部M2と、検索部M2による検索結果が所定数nを超える場合に、検索結果の数を所定数n以下に絞り込んで一覧表示する検索結果絞込部M5と、を備えたコンピューター100を提供可能となる。このようなコンピューター100によれば、検索結果数を適正化することにより検索結果の一覧性を向上し、ユーザビリティを向上することができる。
以上説明した実施形態によれば、複数の画像を格納した画像データベースDB1を検索するにあたり、キー画像KIと近傍範囲指定値Dx、もしくはキーワードKWを検索条件として受付ける検索条件受付部M1と、検索条件に基づいて画像データベースDB1を検索する検索部M2と、検索部M2による検索結果が所定数nを超える場合に、検索結果の数を所定数n以下に絞り込んで一覧表示する検索結果絞込部M5と、を備えたコンピューター100を提供可能となる。このようなコンピューター100によれば、検索結果数を適正化することにより検索結果の一覧性を向上し、ユーザビリティを向上することができる。
なお、本発明は上述した実施形態や変形例に限られず、上述した実施形態および変形例の中で開示した各構成を相互に置換したり組み合わせを変更したりした構成、公知技術並びに上述した実施形態および変形例の中で開示した各構成を相互に置換したり組み合わせを変更したりした構成、等も含まれる。
100…コンピューター、110…CPU、120…メモリー、130…HD、140…操作入力インターフェース、150…ビデオインターフェース、160…汎用インターフェース、A1…クエリ設定エリア、A2…データベース選択エリア、A3…検索結果表示エリア、D1…検索実行ボタン、D2…印刷ボタン、D3…レタッチボタン、DP…表示処理部、GP…画像処理部、PP…印刷処理部、SP…検索処理部、DB1…画像データベース、DB2…特徴量データベース、M1…検索条件受付部、M2…特徴量算出部、M3…特徴量検索部、M4…キーワード検索部、M5…検索結果絞込部、M6…検索結果表示部、T…優先度テーブル
Claims (12)
- 複数の検索対象を格納したデータベースを検索する画像処理装置であって、
検索条件を受付ける検索条件受付部と、
上記検索条件に基づいて上記データベースを検索する検索部と、
上記検索部による検索結果が所定数を超える場合に、検索結果の数を所定数以下に絞り込む検索結果絞込部と、
を具備することを特徴とする、画像処理装置。 - 請求項1に記載の画像処理装置であって、
上記検索結果絞込部は、所定の評価基準に基づいて上記検索結果のそれぞれを評価し、上記検索結果の数が上記所定数以下になるまで上記検索結果間の評価値の差分が小さいものから順に検索結果同士を統合する、画像処理装置。 - 請求項1又は請求項2に記載の画像処理装置であって、
上記検索結果絞込部は、所定の評価基準に従って上記検索結果のそれぞれに評価値を付与し、上記検索結果の中で評価値の差分が最小の検索結果同士を1つに統合することによって検索結果の数を所定数以下とする場合に、統合前の各検索結果に付与されていた評価値を統合後の検索結果に承継する、画像処理装置。 - 請求項1〜請求項3の何れか1項に記載の画像処理装置であって、
上記検索結果絞込部は、所定の評価基準に従って上記検索結果のそれぞれに評価値を付与し、上記検索結果の中で評価値が最も近い検索結果同士を1つに統合することによって検索結果の数を所定数以下とするにあたり、統合前の2つの検索結果の評価値の平均値を統合後の検索結果の評価値とする、画像処理装置。 - 請求項1〜請求項4の何れか1項に記載の画像処理装置であって、
上記検索結果絞込部は、上記検索部による検索結果が所定数を超える場合には、検索結果同士の類似性を評価し、検索結果の中から検索結果を順に選択しつつ、選択された検索結果に対する類似度が所定の閾値以下のものを上記選択された検索結果に統合する、画像処理装置。 - 請求項5に記載の画像処理装置であって、
上記検索結果絞込部は、上記検索結果の数が上記所定数以下となるまで上記所定の閾値を徐々に増加させつつ上記選択された検索結果との類似度が所定の閾値以下のものを上記選択された検索結果に統合することを繰り返す、画像処理装置。 - 請求項5または請求項6に記載の画像処理装置であって、
上記検索結果絞込部は、上記所定の閾値を増加させて画像を統合する場合には、該統合を行う母集合を上記検索部が上記検索条件に基づいて検索した検索結果とする、画像処理装置。 - 請求項5〜請求項7の何れか1項に記載の画像処理装置であって、
上記検索結果絞込部は、上記所定の閾値を増加させて画像を統合する場合には、上記検索結果絞込部によって統合済みの検索結果を母集合とする、画像処理装置。 - 請求項5〜請求項8の何れか1項に記載の画像処理装置であって、さらに、
上記検索結果の一覧をディスプレイに表示する検索結果表示部を備えており、
上記検索結果表示部は、複数の検索結果を統合された検索結果を表示するにあたり、複数の検索結果の中の代表的な1画像を表示するとともに他の検索結果が統合されていることを示す所定の表示を行い、該他の検索結果を表示することを指示する所定の操作入力を受付けると統合された上記他の検索結果を一覧表示する、画像処理装置。 - 請求項1〜請求項9の何れか1項に記載の画像処理装置であって、
上記検索条件受付部は、検索の鍵となる鍵情報と類似度Dとを受付け、
上記検索部は、上記鍵情報に基づいてm種類の特徴量を作成し、これら特徴量によって形成される特徴量空間内において、上記鍵情報からの距離が上記類似度以下となる検索結果を上記データベースから検索し、
上記検索結果絞込部は、上記検索部による検索結果が所定数nを超える場合には、検索結果の中から1つの検索結果を選択して該1つの検索結果に対する他の検索結果の類似度を算出し、上記検索結果の数が上記所定数n以下となるまで所定の閾値tを徐々に増加させつつ上記1つの検索結果に対する類似度が所定の閾値t以下のものを上記1つの検索結果に統合するものであって、
上記検索結果絞込部は、下記(1)式を満たすように上記所定の閾値tの初期値を選択する、画像処理装置。
- 複数の検索対象を格納したデータベースを検索する画像処理方法であって、
検索条件を受付ける検索条件受付工程と、
上記検索条件に基づいて上記データベースを検索する検索工程と、
上記検索工程おける検索結果が所定数を超える場合に、検索結果の数を所定数以下に絞り込む検索結果絞込工程と、
を具備することを特徴とする、画像処理方法。 - 複数の検索対象を格納したデータベースを検索する機能をコンピューターに実現させる画像処理プログラムであって、
検索条件を受付ける検索条件受付機能と、
上記検索条件に基づいて上記データベースを検索する検索機能と、
上記検索機能による検索結果が所定数を超える場合に、検索結果の数を所定数以下に絞り込む検索結果絞込機能と、
をコンピューターに実現させることを特徴とする、画像処理プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009191006A JP2011043954A (ja) | 2009-08-20 | 2009-08-20 | 画像処理装置、画像処理方法および画像処理プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009191006A JP2011043954A (ja) | 2009-08-20 | 2009-08-20 | 画像処理装置、画像処理方法および画像処理プログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2011043954A true JP2011043954A (ja) | 2011-03-03 |
Family
ID=43831349
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2009191006A Pending JP2011043954A (ja) | 2009-08-20 | 2009-08-20 | 画像処理装置、画像処理方法および画像処理プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2011043954A (ja) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2013054523A (ja) * | 2011-09-02 | 2013-03-21 | Olympus Medical Systems Corp | 画像処理装置 |
US9501722B2 (en) | 2012-09-20 | 2016-11-22 | Casio Computer Co., Ltd. | Image classifying apparatus for classifying images and electronic album creating apparatus for creating electronic album consisting of plural images |
JP2021516400A (ja) * | 2018-11-01 | 2021-07-01 | ベイジン センスタイム テクノロジー デベロップメント カンパニー, リミテッド | データベース更新方法および装置、電子機器、コンピュータ記憶媒体 |
-
2009
- 2009-08-20 JP JP2009191006A patent/JP2011043954A/ja active Pending
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2013054523A (ja) * | 2011-09-02 | 2013-03-21 | Olympus Medical Systems Corp | 画像処理装置 |
US9501722B2 (en) | 2012-09-20 | 2016-11-22 | Casio Computer Co., Ltd. | Image classifying apparatus for classifying images and electronic album creating apparatus for creating electronic album consisting of plural images |
JP2021516400A (ja) * | 2018-11-01 | 2021-07-01 | ベイジン センスタイム テクノロジー デベロップメント カンパニー, リミテッド | データベース更新方法および装置、電子機器、コンピュータ記憶媒体 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4340367B2 (ja) | 画像分類装置およびその装置としてコンピュータを機能させるためのプログラムを記録したコンピュータ読み取り可能な記録媒体 | |
US8731308B2 (en) | Interactive image selection method | |
JP5309155B2 (ja) | イメージ検索における対話型概念学習 | |
JP5229744B2 (ja) | 画像分類装置および画像分類プログラム | |
JP5033580B2 (ja) | 画像処理装置及び画像処理方法 | |
JP4333348B2 (ja) | ディジタル画像を編成してユーザへ表示する方法をプロセッサに実行させるプログラム | |
US20180089228A1 (en) | Interactive image selection method | |
JP4363792B2 (ja) | 情報検索システムおよび方法 | |
JP4111198B2 (ja) | 画像検索システム、画像検索プログラムおよび記憶媒体、並びに画像検索方法 | |
EP2290560A1 (en) | Image search device and image search method | |
US11645795B2 (en) | Apparatus, method and medium | |
JP4674257B2 (ja) | 画像分類装置およびその装置としてコンピュータを機能させるためのプログラムを記録したコンピュータ読み取り可能な記録媒体 | |
JP2011039944A (ja) | 画像処理装置、画像処理方法および画像処理プログラム | |
JP2000311246A (ja) | 類似画像表示方法及び類似画像表示処理プログラムを格納した記録媒体 | |
JP2007317077A (ja) | 画像分類装置および方法ならびにプログラム | |
JP2011043954A (ja) | 画像処理装置、画像処理方法および画像処理プログラム | |
JP5973309B2 (ja) | 配信装置及びコンピュータプログラム | |
US7755646B2 (en) | Image management through lexical representations | |
JP2004192555A (ja) | 情報管理方法、情報管理装置及び情報管理プログラム | |
JP2007102362A (ja) | 分類カテゴリ自動形成装置及びデジタル画像コンテンツ自動分類装置並びにデジタル画像コンテンツ管理システム | |
CN112597695B (zh) | 一种基于感知特征聚类的计算机辅助设计方法及系统 | |
JP2010073194A (ja) | 画像処理装置、画像処理方法およびプログラム | |
JP2004038699A (ja) | 画像データベース検索装置 | |
WO2008016601A2 (en) | Method for selecting an image for insertion into a document | |
JP2004192121A (ja) | 画像検索装置、画像分類方法、画像検索方法、及びプログラム |