JP5723367B2 - 画像管理装置、画像管理方法、プログラム、記録媒体及び画像管理用集積回路 - Google Patents

画像管理装置、画像管理方法、プログラム、記録媒体及び画像管理用集積回路 Download PDF

Info

Publication number
JP5723367B2
JP5723367B2 JP2012525296A JP2012525296A JP5723367B2 JP 5723367 B2 JP5723367 B2 JP 5723367B2 JP 2012525296 A JP2012525296 A JP 2012525296A JP 2012525296 A JP2012525296 A JP 2012525296A JP 5723367 B2 JP5723367 B2 JP 5723367B2
Authority
JP
Japan
Prior art keywords
image
importance
similarity
feature amount
objects
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2012525296A
Other languages
English (en)
Other versions
JPWO2012011213A1 (ja
Inventor
前田 和彦
和彦 前田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Corp of America
Original Assignee
Panasonic Intellectual Property Corp of America
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Corp of America filed Critical Panasonic Intellectual Property Corp of America
Priority to JP2012525296A priority Critical patent/JP5723367B2/ja
Publication of JPWO2012011213A1 publication Critical patent/JPWO2012011213A1/ja
Application granted granted Critical
Publication of JP5723367B2 publication Critical patent/JP5723367B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/58Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/583Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content

Description

本発明は、大量の画像から所望の画像を検索する画像管理技術に関する。
従来から、デジタルカメラで撮影した大量の画像を蓄積するとともに、蓄積した画像をユーザにとって重要度の高い順にランキングして表示する技術が提供されている(特許文献1,2参照)。
特許文献1,2に記載の技術では、まず、蓄積した画像それぞれの中に含まれる人物の顔等の被写体画像(オブジェクト)を抽出し各オブジェクトの特徴量を算出する。そして、当該オブジェクトの特徴量からオブジェクトを分類し、分類した結果からオブジェクトの重要度を算出する。そして、算出したオブジェクトの重要度に基づいて各オブジェクトが含まれる各画像の重要度を算出し、当該重要度に基づいて各画像をランキングする。
この種のランキングの方法としては、例えば、蓄積した複数の画像の中で、同じ属性(クラスタ)に分類されたオブジェクトが現れる個数をオブジェクトの重要度をとして定義し、各画像の重要度を画像に含まれるオブジェクトの重要度の合計とするランキングの方法が採用される場合がある(特許文献3参照)。
このランキングの方法を採用すれば、より多くの画像に現れるオブジェクトほど重要度が高く、更に、重要度の高いオブジェクトをより多く含む画像ほど重要度が高くなる。
特開2004−46591号公報 特開2005−20446号公報 特開2007−60562号公報
ところが、特許文献1,2に記載の技術では、本来は同じ被写体に対応するオブジェクトであるにも関わらず、撮影環境の違い等により異なる被写体に対応するオブジェクトとして扱われてしまうことがある。例えば、撮影条件が悪く撮影された画像の被写体の一部に影が映りこんでしまう場合がある。この場合、影が映りこんだ被写体は、本来の被写体とは別の被写体として扱われてしまうことがある。或いは、順光環境と逆光環境の違いや明所と暗所の違いによっても異なる被写体に対応するオブジェクトとして扱われてしまう場合もある。つまり、撮影環境の違い等に起因したノイズにより撮影された被写体が、本来の被写体とは異なる被写体に対応するオブジェクトとして扱われてしまうことがあった。
その結果、前述のランキングの方法を採用する場合、各オブジェクトの重要度が正しく算出できないために各画像の重要度が正しく算出されず、各画像のランキングが誤ったものとなることがあった。
本発明は、上記事由に鑑みてなされたものであって、各画像の重要度を正しく算出できる画像管理装置を提供することを目的とする。
上記課題を解決するために、本発明に係る画像管理装置は、画像それぞれに含まれる複数のオブジェクトの特徴量に基づいて各画像の重要度を算出する画像重要度算出手段と、各画像の重要度に基づいて、第1の画像と第1の画像よりも重要度が低い第2の画像とを選出する画像選出手段と、第2の画像に含まれる複数のオブジェクトの特徴量を、第1の画像に含まれる複数のオブジェクトの特徴量と第2の画像に含まれる複数のオブジェクトの特徴量とをパラメータとする補正関数を使って補正する特徴量補正手段と、第1の画像に含まれるオブジェクトそれぞれの特徴量と特徴量補正手段が補正した第2の画像に含まれるオブジェクトそれぞれの特徴量とを用いて第1の画像と第2の画像との類似度である画像類似度を算出する画像類似度算出手段と、第1の画像の画像重要度と画像類似度算出手段で算出した画像類似度とに基づいて第2の画像の重要度を補正する画像重要度補正手段とを備える。
上記構成によれば、第2の画像に含まれる各オブジェクトの特徴量を、第1の画像に含まれる複数のオブジェクトの特徴量と第2の画像に含まれる複数のオブジェクトの特徴量をパラメータとする補正関数に基づいて両画像の類似度に応じて各オブジェクトに含まれるノイズを除去するように適宜補正をすることにより、第2の画像に含まれる各オブジェクトの特徴量を正しく算出することができるので、第2の画像の重要度を正しく算出することができる。
また、本発明に係る画像管理装置は、第1の画像が、所定の重要度よりも高い重要度を有し、第2の画像が、所定の重要度よりも低い重要度を有するものであってもよい。
本構成によれば、所定の重要度を適宜設定することにより、重要度を見直す画像の数を限定することができるので、画像管理装置の処理負荷の低減を図ることができる。
また、本発明に係る画像管理装置は、第1の画像に含まれるオブジェクトの個数と第2の画像に含まれるオブジェクトの個数とを比較するオブジェクト数比較判定手段を備え、特徴量補正手段が、オブジェクト数比較判定手段により第1の画像に含まれるオブジェクトの個数と第2の画像に含まれるオブジェクトの個数とが同じと判定されると、第2の画像に含まれる複数のオブジェクトの特徴量を補正するものであってもよい。
本構成によれば、第1の画像および第2の画像として、ノイズにより各オブジェクトの特徴量に相違が生じている2つの画像に限定することができるので、画像管理装置の処理負荷の軽減を図ることができる。
また、本発明に係る画像管理装置において、補正関数が、第2の画像に含まれる複数のオブジェクトの特徴量の平均値と第1の画像に含まれる複数のオブジェクトの特徴量の平均値とに基づいて算出した補正係数を使って第2の画像に含まれるオブジェクトの特徴量それぞれを補正する関数であってもよい。
本構成によれば、補正関数が、第2の画像に含まれる複数のオブジェクトの特徴量の平均値と第1の画像に含まれる複数のオブジェクトの特徴量の平均値とに基づいて算出した補正係数を使うので、第1の画像に含まれる複数のオブジェクトと第2の画像に含まれる複数のオブジェクトとの対応関係が補正係数に影響しないので、第1の画像に含まれる複数のオブジェクトと第2の画像に含まれる複数のオブジェクトとの対応関係を把握するための処理を省略することができるから、画像管理装置の処理負荷の低減を図ることができる。
また、本発明に係る画像管理装置において、補正係数が、第2の画像に含まれる複数のオブジェクトの特徴量の平均値に対する第1の画像に含まれる複数のオブジェクトの特徴量の平均値の比であり、補正関数が、補正係数を第2の画像に含まれるオブジェクトの特徴量それぞれに乗ずる関数であってもよい。
本構成によれば、第1の画像に含まれる複数のオブジェクトそれぞれの特徴量と、第2の画像に含まれる複数のオブジェクトそれぞれの特徴量とから、ノイズによる特徴量の相違を抽出することができるので、より確実にノイズを除去することができる。
また、本発明に係る画像管理装置において、補正係数が、第2の画像に含まれる複数のオブジェクトの特徴量の平均値と第1の画像に含まれる複数のオブジェクトの特徴量の平均値との差分値であり、補正関数が、補正係数を第2の画像に含まれるオブジェクトの特徴量それぞれに加算する関数であってもよい。
本構成によれば、第2の画像に含まれる複数のオブジェクトそれぞれの特徴量にゼロが含まれる場合であっても、前記特徴量補正手段が、ゼロ除算を防止する処理を行う必要がなくなるので、前記特徴量補正手段で行う処理の簡素化を図ることができる。
また、本発明に係る画像管理装置では、画像類似度算出手段が、第1の画像に含まれる複数のオブジェクトそれぞれと第2の画像に含まれる複数のオブジェクトそれぞれとの類似度を算出し、算出した複数の類似度に基づいて第1の画像の含まれる複数のオブジェクトと第2の画像に含まれる複数のオブジェクトとを一対一に対応付ける画像内オブジェクト類似度算出手段と、画像内オブジェクト類似度算出手段により互いに一対一に対応付けられたオブジェクト同士の類似度の平均値を算出し画像類似度として出力する類似度平均値算出手段とを備えるものであってもよい。
本構成によれば、各オブジェクトへのノイズの影響の相違が、オブジェクトの類似度に影響するのを抑制できるので、各オブジェクトの特徴量をより精度よく補正することができる。
また、本発明に係る画像管理装置では、画像内オブジェクト類似度算出手段が、算出した複数の類似度の最高値に対応する2つのオブジェクトを対応付けし、その後、対応付けがなされたオブジェクトを除く他のオブジェクトの組み合わせに係る複数の類似度の最高値に対応する2つのオブジェクトを対応付けするものであってもよい。
本構成によれば、オブジェクトの類似度のみに基づいてオブジェクト同士の対応付けを行うことができるので、オブジェクト類似度算出手段が行うオブジェクト同士の対応付け処理を簡素化することができる。
また、本発明に係る画像管理装置は、上記画像重要度補正手段が、更に、上記第1の画像に含まれるオブジェクトの大きさの平均値と上記第2の画像に含まれるオブジェクトの大きさの平均値とに基づいて第2の画像の重要度を補正するものであってもよい。
本構成によれば、第1の画像に含まれるオブジェクトの大きさと第2の画像に含まれるオブジェクトの大きさとの違いを第2の画像の重要度に反映させることができるので、第2の画像の重要度をより精度よく算出することができる。
また、本発明に係る画像管理装置は、上記画像重要度補正手段が、上記第2の画像の重要度を以下の関係式
Figure 0005723367
Sg:前記画像類似度、Scm:前記第1の画像の重要度、Scn:前記第2の画像の画像重要度、Ssaven:前記第2の画像に含まれるオブジェクトの大きさの平均値、Ssavem:前記第1の画像に含まれるオブジェクトの大きさの平均値
を用いて補正するものであってもよい。
また、本発明に係る画像管理装置は、画像それぞれに含まれるオブジェクトの特徴量に基づいて各画像の重要度を算出する画像重要度算出手段と、各画像の重要度に基づいて、第1の画像と前記第1の画像よりも重要度が低い第2の画像とを選出する画像選出手段と、第2の画像に含まれるオブジェクトの特徴量に対する第1の画像に含まれるオブジェクトの中から選択した1つのオブジェクトの特徴量の比を第2の画像に含まれる複数のオブジェクトの特徴量それぞれに乗ずる補正関数を使って第2の画像に含まれる複数のオブジェクトの特徴量を補正して出力する特徴量補正手段と、第1の画像に含まれるオブジェクトそれぞれの特徴量と特徴量補正手段から出力される第2の画像に含まれるオブジェクトの特徴量とを用いて第1の画像と第2の画像との類似度である画像類似度を算出する画像類似度算出手段と、画像類似度算出手段で算出した画像類似度に基づいて第2の画像の重要度を補正する画像重要度補正手段とを備えるものであってもよい。
本構成によれば、第2の画像に含まれる各オブジェクトの特徴量を、第1の画像に含まれる複数のオブジェクトの特徴量と第2の画像に含まれる複数のオブジェクトの特徴量とに基づいて適宜補正をすることにより、第2の画像に含まれる各オブジェクトの特徴量に含まれるノイズを除去することができるので、第2の画像の重要度を正しく算出することができる。
また、本発明は、コンピュータにより実現させる画像管理方法であって、画像それぞれに含まれる複数のオブジェクトの特徴量に基づいて各画像の重要度を算出する画像重要度算出ステップと、各画像の重要度に基づいて、第1の画像と前記第1の画像の重要度よりも低い重要度を有する第2の画像とを選出する画像選出ステップと、第2の画像に含まれる複数のオブジェクトの特徴量を、第1の画像に含まれる複数のオブジェクトの特徴量と第2の画像に含まれる複数のオブジェクトの特徴量とをパラメータとする補正関数を使って補正する特徴量補正ステップと、第1の画像に含まれるオブジェクトそれぞれの特徴量と特徴量補正ステップで補正した第2の画像に含まれるオブジェクトそれぞれの特徴量とを用いて第1の画像と第2の画像との類似度である画像類似度を算出する画像類似度算出ステップと、第1の画像の画像重要度と前記画像類似度算出ステップで算出した前記画像類似度に基づいて前記第2の画像の重要度を補正する画像重要度補正ステップとを含むものであってもよい。
本構成によれば、第2の画像に含まれる各オブジェクトの特徴量を、第1の画像に含まれる複数のオブジェクトの特徴量と第2の画像に含まれる複数のオブジェクトの特徴量とに基づいて適宜補正をすることにより、第2の画像に含まれる各オブジェクトの特徴量に含まれるノイズを除去することができるので、第2の画像の重要度を正しく算出することができる。
また、本発明は、複数の画像の画像管理処理をコンピュータにより実現させる画像管理プログラムであって、前記画像管理処理が、画像それぞれに含まれる複数のオブジェクトの特徴量に基づいて各画像の重要度を算出する画像重要度算出ステップと、各画像の重要度に基づいて、第1の画像と第1の画像の重要度よりも低い重要度を有する第2の画像とを選出する画像選出ステップと、第2の画像に含まれる複数のオブジェクトの特徴量を、第1の画像に含まれるオブジェクトの特徴量と第2の画像に含まれるオブジェクトの特徴量とをパラメータとする補正関数を使って補正する特徴量補正ステップと、第1の画像に含まれるオブジェクトそれぞれの特徴量と特徴量補正ステップで補正した第2の画像に含まれるオブジェクトそれぞれの特徴量とを用いて第1の画像と第2の画像との類似度である画像類似度を算出する画像類似度算出ステップと、第1の画像の画像重要度と画像類似度算出ステップで算出した画像類似度に基づいて第2の画像の重要度を補正する画像重要度補正ステップとを含むものであってもよい。
本構成によれば、第2の画像に含まれる各オブジェクトの特徴量を、第1の画像に含まれる複数のオブジェクトの特徴量と第2の画像に含まれる複数のオブジェクトの特徴量とに基づいて適宜補正をすることにより、第2の画像に含まれる各オブジェクトの特徴量に含まれるノイズを除去することができるので、第2の画像の重要度を正しく算出することができる。
また、本発明は、複数の画像の画像管理処理をコンピュータにより実現させる画像管理プログラムを記録した記録媒体であって、画像管理処理が、画像それぞれに含まれる複数のオブジェクトの特徴量に基づいて各画像の重要度を算出する画像重要度算出ステップと、各画像の重要度に基づいて、第1の画像と第1の画像よりも低い重要度を有する第2の画像とを選出する画像選出ステップと、第2の画像に含まれる複数のオブジェクトの特徴量を、第1の画像に含まれる複数のオブジェクトの特徴量と第2の画像に含まれる複数のオブジェクトの特徴量とをパラメータとする補正関数を使って補正する特徴量補正ステップと、第1の画像に含まれるオブジェクトそれぞれの特徴量と特徴量補正ステップで補正した第2の画像に含まれるオブジェクトそれぞれの特徴量とを用いて第1の画像と第2の画像との類似度である画像類似度を算出する画像類似度算出ステップと、第1の画像の画像重要度と画像類似度算出ステップで算出した画像類似度に基づいて第2の画像の重要度を補正する画像重要度補正ステップとを含むものであってもよい。
本構成によれば、第2の画像に含まれる各オブジェクトの特徴量を、第1の画像に含まれる複数のオブジェクトの特徴量と第2の画像に含まれる複数のオブジェクトの特徴量とに基づいて適宜補正をすることにより、第2の画像に含まれる各オブジェクトの特徴量に含まれるノイズを除去することができるので、第2の画像の重要度を正しく算出することができる。
また、本発明は、画像それぞれに含まれる複数のオブジェクトの特徴量に基づいて各画像の重要度を算出する画像重要度算出手段と、各画像の重要度に基づいて、第1の画像と第1の画像よりも低い重要度を有する第2の画像とを選出する画像選出手段と、第2の画像に含まれる複数のオブジェクトの特徴量を、第1の画像に含まれる複数のオブジェクトの特徴量と第2の画像に含まれる複数のオブジェクトの特徴量とをパラメータとする補正関数を使って補正する特徴量補正手段と、第1の画像に含まれるオブジェクトそれぞれの特徴量と特徴量補正手段が補正した第2の画像に含まれるオブジェクトそれぞれの特徴量とを用いて第1の画像と第2の画像との類似度である画像類似度を算出する画像類似度算出手段と、第1の画像の画像重要度と画像類似度算出手段で算出した画像類似度に基づいて第2の画像の重要度を補正する画像重要度補正手段とを備える画像管理用集積回路であってもよい。
本構成によれば、画像管理装置の小型化を図ることができる。
実施の形態1に係る画像管理装置の全体構成図である。 実施の形態1で説明する複数の画像を示す図である。 実施の形態1で説明する複数の画像それぞれに含まれるオブジェクトを示した図である。 実施の形態1で説明する複数の画像それぞれの画像IDと各画像に含まれるオブジェクトIDとを示した図である。 実施の形態1で説明する複数のオブジェクトそれぞれの特徴量を示した図である。 実施の形態1で説明する複数のオブジェクトをクラスタに分類したときの各クラスタに属するオブジェクトと、各クラスタに属するオブジェクトの重要度を示す図である。 実施の形態1で説明する複数のオブジェクトそれぞれについて、各オブジェクトの属するクラスタのIDとオブジェクト重要度とを示した図である。 実施の形態1で説明する複数の画像それぞれの画像重要度を示す図である。 実施の形態1で説明する画像重要度記憶部に記憶された画像重要度のデータの概念図である。 実施の形態1で説明する複数の画像それぞれのランキング表示を示す図である。 実施の形態1で説明する複数の画像それぞれに含まれるオブジェクト数を示した図である。 実施の形態1で説明する画像I012と画像I013とに含まれるオブジェクトを示した図である。 実施の形態1で説明する特徴量補正部の動作を説明するための図である。 実施の形態1で説明する画像I012に含まれるオブジェクトそれぞれの特徴量と、各オブジェクトの特徴量平均値ベクトルG012を示した図である。 実施の形態1で説明する画像I013に含まれるオブジェクトそれぞれの特徴量と、各オブジェクトの特徴量平均値ベクトルG013を示した図である。 実施の形態1で説明する画像I012に含まれる各オブジェクトの特徴量平均値ベクトルG012の各成分を、画像I013に含まれる各オブジェクトの特徴量平均値ベクトルG013の各成分を使って除して得られる補正量ベクトルChを示した図である。 実施の形態1で説明する画像P013に含まれるオブジェクトの特徴量ベクトルについて補正を行った後の各オブジェクトの特徴量ベクトルを示す図である。 実施の形態1で説明する画像I012に含まれるオブジェクトそれぞれと、画像I013に含まれるオブジェクトそれぞれとの類似度を示す図である。 実施の形態1で説明する画像I012に含まれる各オブジェクトと画像I013に含まれる各オブジェクトとの類似度を算出する処理を説明する図である。 実施の形態1で説明する画像重要度を補正した後の状態を示す図である。 実施の携帯1で説明するリランキング結果を示す図である。 実施の形態1に係る画像管理装置の動作のフローチャートである。 実施の形態1に係る画像管理装置のオブジェクトの類似度を算出する処理のフローチャートである。 (a)実施の形態1に係る画像管理装置の高重要度画像Imを取得する処理のフローチャートである。(b)実施の形態1に係る画像管理装置の画像重要度を補正する処理のフローチャートである。 実施の形態2に係る画像管理装置の全体構成図である。 実施の形態2で説明する画像I012と画像I013とを示す図である。 実施の形態2で説明する補正量ベクトルCh1,Ch2,Ch3を示した図である。 実施の形態2で説明する画像P013に含まれるオブジェクトの特徴量ベクトルについて補正を行った後の各オブジェクトの特徴量ベクトルを示す図である。 実施の形態2で説明する画像I012に含まれる各オブジェクトと画像I013に含まれる各オブジェクトとの類似度を算出する処理を説明する図である。 実施の形態2に係る画像管理装置の動作のフローチャートである。 実施の形態2に係る画像管理装置のオブジェクトの類似度を算出する処理のフローチャートである。 実施の形態2に係る画像管理装置の画像重要度を補正する処理のフローチャートである。 実施の形態3で説明する補正量ベクトルChsを示した図である。 実施の形態3で説明する画像I013に含まれるオブジェクトの特徴量ベクトルについて補正を行った後の各オブジェクトの特徴量ベクトルを示す図である。 実施の形態3に係る各オブジェクトとの類似度を算出する処理を表すフローチャートである。 実施の形態4で説明する画像I012と画像I013とを示す図である。
<実施の形態1>
<1>構成
本実施の形態に係る画像管理装置100の構成を図1に示す。
画像管理装置100は、メモリ131と、プロセッサ130とを備える。また、画像管理装置100は、図示していないが、USB(Universal Serial Bus)入力端子と、HDMI(High Definition Multimedia Interface)出力端子とを備える。
USB入力端子は、入力インターフェースであり、一端側が撮像装置101に接続されたUSBケーブルの他端側に設けられたコネクタ(図示せず)が接続される。このUSB入力端子へは、撮像装置101からUSBケーブルを介して送信されてくる後述の画像データが入力される。
HDMI出力端子には、一端側が表示装置120に接続されたHDMIケーブルの他端側に設けられたコネクタ(図示せず)が接続される。このHDMI出力端子からは、表示装置120に対して後述の画像ランキングデータが出力される。
メモリ131は、例えば、DRAM(Dynamic Random Access Memory)等により構成される。
プロセッサ130は、汎用のCPUにより構成される。
撮影装置101は、画像を撮影し、撮影した画像のデータ(画像データ)を蓄積する。この撮影装置101には、デジタルカメラ等が含まれる。また、撮像装置101は、USBケーブルを介して画像データを画像管理装置100に送信する。この画像データは、画素値のデータの集合よりなる。また、画像データにより表される画像は、写真等の静止画像からなる。
また、表示装置120は、画像管理装置100からHDMIケーブルを介して送信される画像ランキングデータに基づいて、各画像の重要度ランキングを表示する。この表示装置120としては、例えば、放送端末から出力される映像を表示できるデジタルテレビがある。
そして、画像管理装置100では、プロセッサ130がメモリ131に記憶された適宜のプログラムを実行することにより、画像取得部102と、オブジェクト検出部103と、オブジェクト分類部105と、オブジェクト重要度算出部106と、画像重要度算出部107と、画像ランキング部108と、画像内オブジェクト数抽出部109と、画像選出部111と、画像類似度算出部114と、画像重要度補正値算出部117と、画像リランキング部118と、画像出力部119とを実現している。
また、メモリ131は、オブジェクト特徴量記憶部104と、画像内オブジェクト数記憶部110と、画像重要度記憶部323として使用される領域を一部に含んでいる。
<1−1>画像取得部
画像取得部102は、USB入力端子に入力される複数の画像データそれぞれに対応する各画像に対して画像ID(IDentifier)を付与する。図2に、各画像データが示す画像とそれに付与された画像IDとを示す。この画像IDは、画像管理装置100内で各画像を一意に識別するための識別子となるものであり、画像取得部102が生成する。画像取得部102では、画像取得部102が画像を取得した順番を表す番号の先頭にアルファベットの「I」を付与したものを画像IDとする。例えば、図2の場合、画像取得部102は、図2における上段から下段に向かって順番に画像データを取得したことになる。なお、以下の説明では、画像IDで画像を区別する。例えば、画像IDとしてI001が付与された画像データに対応する画像は、画像I001として説明する。
<1−2>オブジェクト検出部
オブジェクト検出部103は、画像取得部102が取得した各画像データに対して、予め記憶している所定のオブジェクトに対応するテンプレート用いたテンプレートマッチングを行い、オブジェクトを検出する。そして、オブジェクト検出部103は、検出したオブジェクトに対して当該オブジェクトを識別するためのオブジェクトIDを付与する。
図3は、各画像からオブジェクトを検出する例を示したものである。各画像に含まれるオブジェクトは、図3に示すように、1つの場合もあれば、複数存在する場合、全く存在しない場合もある。オブジェクトIDは、画像管理装置100内で各オブジェクトを一意に識別するための識別子であり、各オブジェクトに対して一対一に対応する。
オブジェクトIDは、オブジェクト検出部103により生成される。オブジェクトIDは、オブジェクト検出部103がオブジェクトを検出した順番に1から番号が振られ、その番号の先頭にアルファベットの“P”を付加してなる。図3の例では、画像I001に含まれる2つのオブジェクトそれぞれに、オブジェクトIDとして「P001」、「P002」が付与され、画像I002に含まれる3つオブジェクトそれぞれに、オブジェクトIDとして「P003」、「P004」、「P005」、画像I003に含まれる1つのオブジェクトに、オブジェクトIDとして「P006」が付与されている。図4に各オブジェクトにオブジェクトIDが付与された状態を示す。
また、オブジェクト検出部103は、検出したオブジェクトそれぞれからオブジェクト特徴量を抽出する。このオブジェクト特徴量は、例えば、Gaborフィルタを用いて得られるオブジェクトを構成する複数の画素値の周期性や方向性から算出される。そして、人物の顔の画像についてのオブジェクト特徴量としては、画素値の周期性や方向性に基づいて算出される目と認識された2つの領域の間の距離や鼻と認識された領域と口と認識された領域との間の距離等を採用することができる。
<1−3>オブジェクト特徴量記憶部
オブジェクト特徴量記憶部104は、メモリ131の一部により構成され、オブジェクト検出部103が抽出した各オブジェクトの特徴量を記憶する。図5にその一例を示す。
また、各オブジェクトは、図5に示すように、複数種類の特徴量(特徴量成分1、特徴量成分2、・・・、特徴量成分n)を有している。以下、これらの特徴量成分1、特徴量成分2、・・・、特徴量成分nを各成分とするベクトルを特徴量ベクトルとして説明する。なお、この特徴量ベクトルは、オブジェクト分類部105及び画像内オブジェクト類似度決定部114で使用される。
<1−4>オブジェクト分類部
オブジェクト分類部105は、オブジェクト特徴量記憶部104に格納されている各オブジェクトの特徴量ベクトルに基づいて、まず、K−means法を用いて、自動的に複数のクラスタを生成し、その後、各オブジェクトを当該複数のクラスタに分類する。また、オブジェクト分類部105は、各クラスタに対して個別のクラスタIDを付与する。これにより、各クラスタIDと、当該クラスタに分類された各オブジェクトのオブジェクトIDと、各クラスタに分類されたオブジェクトの個数とが対応付けされる。複数のオブジェクトを複数のクラスタに分類した一例を図6に示す。
<1−5>オブジェクト重要度算出部
オブジェクト重要度算出部106は、各オブジェクトについて、当該オブジェクトが属するクラスタに分類されたオブジェクトの個数をオブジェクト重要度として算出する。
ここで、オブジェクトが属するクラスタに分類されたオブジェクトの個数を当該オブジェクトのオブジェクト重要度としたのは、同じクラスタに分類されるオブジェクトは同じ被写体に対応するものであることと、複数の画像の中において出現する回数の多い被写体ほどユーザが関心のある被写体であることを踏まえたことによる。
オブジェクト重要度算出部106が、各オブジェクトの重要度を算出した例を図7に示す。
<1−6>画像重要度算出部
画像重要度算出部107は、各画像に含まれるオブジェクトそれぞれのオブジェクト重要度の加算値を各画像の画像重要度として算出する。ここで、画像重要度算出部107は、オブジェクト重要度算出部106から各オブジェクトのオブジェクト重要度を読み出して各画像の画像重要度を算出する。
図8に示す例では、例えば、画像I001に含まれるオブジェクトP001,P002それぞれのオブジェクト重要度が「30」、「27」なので、画像I001の画像重要度は、オブジェクトP001のオブジェクト重要度「30」とオブジェクトP002のオブジェクト重要度「27」との加算値である57となる。
また、画像重要度算出部107は、各画像について画像重要度を算出する毎に、当該画像に含まれる各オブジェクトのオブジェクトIDを画像内オブジェクト数抽出部109および画像選出部111に通知する。
<1−7>画像重要度記憶部
画像重要度記憶部323は、メモリ131の一部の領域により構成され、画像重要度算出部107が算出した各画像の画像重要度を画像ID等とともに記憶する。
画像重要度記憶部323には、例えば、図9に示すように、各画像の画像IDと、各画像の重要度とが対応づけられた形で記憶される。
<1−8>画像ランキング部
画像ランキング部108は、画像重要度記憶部323から読み出した各画像の画像重要度に基づいて、各画像に対して順序付けを行う。
図10に、画像重要度に基づいて各画像を並べた結果の一例を示す。図10に示す例では、画像重要度が「101」の画像I012の順位が1位であり、2位以下に画像I009および画像I002が続いている。図10に示す例では、画像ランキング部108が、画像重要度の数値の降順で各画像を並べている。なお、画像ランキング部108は、画像重要度が同値の画像があると、当該画像に付与された画像IDの番号が若い方を上位にランキングする。
<1−9>画像内オブジェクト数抽出部
画像内オブジェクト数抽出部109は、1つの画像Imまたは画像Inについて、画像重要度算出部107から通知されるオブジェクトIDの個数を計数して得られた値をオブジェクト数として出力する。
<1−10>画像内オブジェクト数記憶部
画像内オブジェクト数記憶部110は、メモリ131の一部の領域により構成され、画像内オブジェクト数抽出部109で算出されたオブジェクト数を画像IDとともに記憶する。例えば、図10に示すように、各画像に含まれるオブジェクトの個数(例えば、画像I012、I009、I002、・・・であれば、3個、5個、3個、・・・)が、各画像I012,I009,I002,・・・の画像IDと対応付けられた形で記憶されている。
<1−11>画像選出部
画像選出部111は、画像ランキング部108によってランキングされた複数の画像から、所定の重要度よりも重要度が高い画像(高重要度画像)Imと、所定の重要度よりも重要度が低い画像(低重要度画像)Inとを選出する。
ここで、所定の重要度は、ランキングが所定の順位(例えば、M位)の画像の画像重要度に相当する。そして、ユーザは、画像管理装置100に設けられた重要度設定部(図示せず)を用いて、所定の順位を適宜設定することができる。
画像選出部111は、高重要度画像Imを選出する高重要度画像選出部112と、低重要度画像Inを選出する低重要度画像選出部113とから構成される。
高重要度画像選出部112は、例えば、図10に示すように、ランキングされた複数の画像のうち、最も画像重要度の高い画像(順位が1位の画像)から順番に、順位がM位(図10では49位)の画像(重要度が所定の重要度よりも高い画像の中でランキングが最も低い画像)までを高重要度画像Imとして選出していく。また、高重要度画像選出部112は、高重要度画像Imを1枚選出すると、その都度、選出した高重要度画像Imの画像IDを画像内オブジェクト数比較判定部115に通知する。ここで、高重要度画像選出部112は、画像IDとともに当該画像IDで特定される画像が高重要度画像Imであることを識別できる情報を画像IDに付与している。
また、高重要度画像選出部112は、選出した高重要度画像Imに含まれるオブジェクトの数が1個の場合には、別の高重要度画像Imを選出する。これは、高重要度画像Imに含まれるオブジェクトの個数が1個の場合は、特徴量補正部121が、オブジェクトの特徴量を適切に補正することができなくなることを考慮したことによる。つまり、オブジェクトの個数が1個の場合は、単に低重要度画像Imの画像重要度を高重要度画像Inの画像重要度に一致させる処理を行うに過ぎないこととなる。
低重要度画像選出部113は、例えば、図10に示すように、ランキングされた複数の画像のうち、順位がM+1位(図10では順位が50位)の画像(重要度が所定の重要度よりも低い画像の中でランキングが最も高い画像)から順番に、順位が最下位の画像までを低重要度画像Inとして選出していく。また、低重要度画像選出部113は、低重要度画像Imを1枚選出すると、その都度、選出した低重要度画像Inの画像IDを画像内オブジェクト数比較判定部115に通知する。ここで、高重要度画像選出部112は、画像IDとともに当該画像IDで特定される画像が低重要度画像Inであることを識別できる情報を画像IDに付与している。なお、本実施の形態では、低重要度画像選出部113が、ランキングされた複数の画像のうち、順位がM+1位の画像から順番に選出する例について説明したが、これに限定されるものではなく、順位がM+x(x=1,2,・・・)の画像から順番に選出するものであってもよい。
<1−12>画像内オブジェクト数比較判定部
画像内オブジェクト数比較判定部115は、高重要度画像選出部112と低重要度画像選出部113とから通知される画像IDに基づいて、これらの画像IDで特定される高重要度画像Imおよび低重要度画像Inに含まれるオブジェクトの総数を画像内オブジェクト数記憶部110から取得する。
そして、画像内オブジェクト数比較判定部115は、高重要度画像Imに含まれるオブジェクトの個数と、低重要度画像Inに含まれるオブジェクトの個数とを比較して、各オブジェクトの個数が同じであれば高重要度画像Imおよび低重要度画像Inの画像IDを画像類似度算出部114の一部を構成する特徴量補正部121に通知する。
例えば、図11に示すように、比較の対象となる高重要度画像I012と低重要度画像I012とがいずれも3個のオブジェクトを含む場合、画像内オブジェクト数比較判定手段115は、高重要度画像I012の画像IDと低重要度画像I013の画像IDとを特徴量補正部121に通知する。
この画像内オブジェクト数比較判定部115が設けられていることにより、高重要度画像選出部112が選出した高重要度画像Imとは、被写体が一致する可能性のない低重要度画像Inをオブジェクトの特徴量の補正の対象から除外することができ、処理の効率化を図ることができる。
<1−13>画像類似度算出部
画像類似度算出部114は、特徴量補正部121と、画像内オブジェクト類似度算出部116と、類似度判定部123と、類似度平均値算出部122とから構成される。
<1−13−1>特徴量補正部
特徴量補正部121は、画像内オブジェクト数比較判定部115から通知される画像IDで特定される高重要度画像Imおよび低重要度画像Inそれぞれに含まれる複数のオブジェクトの特徴量をオブジェクト特徴量記憶部104から読み出す。
そして、特徴量補正部121は、低重要度画像Inに含まれる複数のオブジェクトの特徴量を、高重要度画像Imに含まれるオブジェクトの特徴量と低重要度画像Inに含まれるオブジェクトの特徴量とをパラメータとする補正関数F1を使って補正して出力する。
ここで、補正関数F1は、低重要度画像Inに含まれる各オブジェクトの特徴量ベクトルの成分毎の平均値に対する高重要度画像Imに含まれる各オブジェクトの特徴量ベクトルの成分毎の平均値の比からなる補正係数を低重要度画像Inに含まれるオブジェクトの特徴量ベクトルの各成分に乗ずる関数で構成される。
つまり、画像内オブジェクト数比較判定部115から通知される高重要度画像Imに含まれる各オブジェクトの特徴量ベクトルをPu1(Pu11,Pu12,・・・,Pu1n)、Pu2(Pu21,Pu22,・・・,Pu2n)、・・・、Puv(Puv1,Puv2,・・・,Puvn)とし、画像内オブジェクト数比較判定部115から通知される低重要度画像Inに含まれる各オブジェクトの特徴量ベクトルをPw1(Pw11,Pw12,・・・,Pw1n)、Pw2(Pw21,Pw22,・・・,Pw2n)、・・・、Pwv(Pwv1,Pwv2,・・・,Pwvn)とし、特徴量ベクトルPw1、Pw2、・・・、Pwvを補正した後の特徴量ベクトルをPw1a(Pw11a,Pw12a,・・・,Pw1na)、Pw2a(Pw21a,Pw22a,・・・,Pw2na)、・・・、Pwva(Pwv1a,Pwv2a,・・・,Pwvna)とすると、補正関数F1(P)について[数2]の関係式が成立する。
Figure 0005723367
以下、特徴量補正部121が、画像内オブジェクト数比較判定部115から高重要度画像I012および低重要度画像I013の画像IDが通知された場合の例について説明する。ここで、図12に示すように、高重要度画像I012に含まれるオブジェクトP031,P032,P033が被写体イ,ロ,ハに対応し、低重要度画像I013に含まれるオブジェクトP028,P029,P030が被写体ロ,ハ,イに対応しているとする。
ところで、低重要度画像I013から撮像条件等のノイズによるオブジェクトの特徴量の影響を除去する補正をする方法として、例えば、高重要度画像I012に含まれる1つのオブジェクトP033と、低重要度画像I013に含まれるオブジェクトP028,P029,P030のうちオブジェクトP033に対応する被写体ハに対応するオブジェクトP029を選出して、オブジェクトP033の特徴量とオブジェクトP029の特徴量とを使って補正関数を算出することが考えられる。この場合、高重要度画像I012に含まれる複数のオブジェクトと低重要度画像I013に含まれる複数のオブジェクトとの対応関係を把握する必要がある。例えば、同じ被写体ハに対応するオブジェクトP033の特徴量とオブジェクトP029の特徴量とを使って補正関数を算出する場合と、被写体ハに対応するオブジェクトP033の特徴量と被写体イに対応するオブジェクトP030の特徴量とを使って補正関数を算出した場合とで、補正関数の内容が変わる可能性がある。つまり、オブジェクトの対応関係が補正関数に影響することになる。
しかしながら、画像I012に含まれるオブジェクトそれぞれが、画像I013に含まれるどのオブジェクトと被写体が一致するかを特定することは難しい。
そこで、本実施の形態では、図13に示すように、画像I012に含まれるオブジェクトP031,P032,P033の各特徴量ベクトルの重心ベクトル(特徴量平均値ベクトル)G012と、画像I013に含まれるオブジェクトP028,P029,P030の各特徴量ベクトルの重心ベクトル(特徴量平均値ベクトル)G013を使って、補正関数F1を算出する。これにより、特徴量補正部121は、高重要度画像I012に含まれるオブジェクトP031,P032,P033それぞれと、低重要度画像I013に含まれるオブジェクトP028,P029,P030それぞれと、被写体イ、ロ、ハとの対応関係を把握しなくても補正関数F1を算出することができる。従って、高重要度画像i012に含まれるオブジェクトP031,P032,P033と低重要度画像i012に含まれるオブジェクトP028,P029,P030との対応関係を把握するための処理を省略することができるから、画像管理装置の処理負荷の低減を図ることができる。
ここでは、特徴量補正部121が、まず、図14に示すように、画像I012に含まれるオブジェクトP031,P032,P033の各特徴量ベクトルから特徴量平均値ベクトルG012(オブジェクトP031,P032,P033の特徴量ベクトルの重心ベクトル)を算出し、図15に示すように、画像I013に含まれるオブジェクトP028,P029,P030の各特徴量から特徴量平均値ベクトルG013(つまり、オブジェクトP028,P029,P030の特徴量ベクトルの重心ベクトル)を算出する。例えば、特徴量平均値ベクトルG012の特徴量成分1は、オブジェクトP031の特徴量成分1である0.03と、オブジェクトP032の特徴量成分1である0.1と、オブジェクトP030の特徴量成分1である0.17との平均値0.1(=(0.03+0.1+0.17)/3)となる。
そして、特徴量補正部121は、特徴量平均値ベクトルG012の各特徴量成分と、特徴量平均値ベクトルG013の各特徴量成分との比を補正係数として成分毎に算出し、補正量ベクトルChを求める(図16参照)。続いて、特徴量補正部121は、補正量ベクトルChの各成分と特徴量ベクトルP028,P029,P030との各成分同士の積を算出する関数を補正関数F1とする。
つまり、特徴量補正部121は、当該補正関数F1を用いて、低重要度画像Inに含まれるオブジェクトP028,P029,P030の特徴量ベクトルを補正することで、画像I012に含まれるオブジェクトそれぞれと画像I013に含まれるオブジェクトそれぞれとの対応関係に関わらず、低重要度画像Inからノイズの影響を除去することができる。
なお、特徴量補正部121は、特徴量平均値ベクトルG013の中に特徴量成分として「0」を含む場合には、当該特徴量成分に対応する補正量ベクトルChの特徴量成分を「1」に設定する。これにより、特徴量成分として「0」を含む場合のゼロ除算の発生を防ぐことができる。
特徴量補正部121は、補正関数F1に特徴量ベクトルP028,P029,P030を入力して得られる特徴量ベクトルP028a,P029a,P030aを画像内オブジェクト類似部116に出力することになる。
特徴量補正部121が、画像I013に含まれる各オブジェクトの特徴量に対して
補正量ベクトルChを用いて補正を行った後における各オブジェクトの特徴量を図17に示す。
<1−13−2>画像内オブジェクト類似度算出部
画像内オブジェクト類似度算出部116は、高重要度画像Imに含まれる複数のオブジェクトと、低重要度画像Inに含まれる複数のオブジェクトとの類似度(オブジェクトの類似度)を算出する。ここで、画像内オブジェクト類似度算出部116は、オブジェクト特徴量記憶部104から画像I012に含まれる各オブジェクトの特徴量ベクトルと、特徴量補正部121から入力される画像I013に含まれる各オブジェクトの特徴量ベクトルとを用いて、オブジェクトの類似度を算出する。高重要度画像I012および低重要度画像I013は、それぞれ3つのオブジェクトを含むので、図18に示すように、9つのオブジェクトの組合せについてオブジェクトの類似度を算出する。また、画像内オブジェクト類似度算出部116は、対比する2つのオブジェクトの特徴量ベクトルを使ってコサイン類似度を算出する。なお、オブジェクトの類似度は、2つのオブジェクトの特徴量ベクトルの内積に基づいて算出される量を使ってもよい。
つまり、オブジェクトPsの特徴量ベクトルをPs(Ps1,Ps2,・・・,Psn)とし、オブジェクトPtの特徴量ベクトルをPt(Pt1,Pt2,・・・,Ptn)とすると、[数3]の関係式を使って類似度を算出する。
Figure 0005723367
なお、|Ps|、|Pt|は、特徴量ベクトルPs、Ptの絶対値(ノルム)を表す。
図18に、オブジェクトP028aと、オブジェクトP031、オブジェクトP032およびオブジェクトP033との類似度を[数3]を使って算出した結果を示す。
次に、画像内オブジェクト類似度算出部116は、算出した複数の類似度に基づいて、オブジェクトP031,P032,P033それぞれとオブジェクトP028a,P029a,P030aそれぞれとの間で被写体が一致する組合せを認定する。つまり、画像内オブジェクト類似度算出部116は、算出したオブジェクトの類似度に基づいて、高重要度画像I012の含まれる複数のオブジェクトP031,P032,P033と高重要度画像I013に含まれる複数のオブジェクトP028,P029、P030(補正後のオブジェクトP028a,P029a、P030a)とを一対一に対応付ける。
ここでは、画像内オブジェクト類似度算出部116が、まず、算出したオブジェクトの類似度の中から最も類似度の高い組合せ(オブジェクトP029aとオブジェクトP033との組合せ)を検出し、オブジェクトP029aとオブジェクトP033とが同じ被写体に対応したオブジェクトと認定する(図19上段参照)。その後、画像内オブジェクト類似度算出部116は、オブジェクトP029aとオブジェクトP033とを除く他のオブジェクト同士の類似度の中から最も類似度の高い組合せ(オブジェクトP028aとオブジェクトP031との組合せ)を検出し、オブジェクトP028aとオブジェクトP031とが同じ被写体に対応したオブジェクトと認定する(図19中段参照)。そして、画像内オブジェクト類似度算出部116は、残りのオブジェクト(オブジェクトP030aとオブジェクトP032との組合せ)が同じ被写体に対応したオブジェクトと認定する(図19下段参照)。
そして、画像内オブジェクト類似度算出部116は、同じ被写体に対応したオブジェクトと認定したオブジェクト、即ち、一対一に対応付けがなされたオブジェクト同士の類似度のみを類似度判定部123および類似度平均値算出部122に通知する。図18に示す例では、画像内オブジェクト類似度算出部116は、オブジェクトP029aとオブジェクトP033との類似度「0.9」と、オブジェクトP028aとオブジェクトP031との類似度「0.8」と、オブジェクトP030aとオブジェクトP032との類似度「0.65」とを類似度判定部123および類似度平均値算出部122に通知する。
<1−13−3>類似度判定部
類似度判定部123は、オブジェクトの類似度に対する閾値(類似度閾値)を保持しており、画像内オブジェクト類似度算出部116から通知されるオブジェクトの類似度が類似度閾値を超えているかどうかを判定する。そして、類似度判定部123は、オブジェクトの類似度のいずれかが類似度閾値を下回っていると判定すると、その旨を画像選出部111に通知する。例えば、互いに異なる被写体に対応するオブジェクト同士の類似度であれば、類似度閾値を下回ることになる。一方、類似度判定部123は、オブジェクトの類似度の全てが類似度閾値を超えていると判定すると、その旨を類似度平均値算出部122に通知する。
なお、類似度判定部123は、複数の画像それぞれに含まれる同一の被写体に対応する複数のオブジェクトを抽出し、各オブジェクト同士の類似度の統計値から類似度閾値を決定する。この類似度閾値の算出に用いる複数の画像は、ユーザが画像管理装置100に設けられた画像選択部(図示せず)を用いて指定することができる。
<1−13−4>類似度平均値算出部
類似度平均値算出部122は、画像内オブジェクト類似度算出部116から通知される各オブジェクトの類似度、即ち、画像内オブジェクト類似度算出部116により互いに一対一に対応付けられたオブジェクト同士の類似度の平均値を算出して高重要度画像Imと低重要度画像Inの画像類似度として画像重要度補正部117に対して出力する。例えば、画像内オブジェクト類似度算出部116から、オブジェクトの類似度として、「0.9」、「0.8」および「0.65」が通知されると(図19参照)、類似度平均値算出部122は、通知された3つのオブジェクトの類似度の平均値(0.9+0.8+0.65)/3=0.78を高重要度画像I012と低重要度画像I013の画像類似度として画像重要度補正部117に対して出力する。
<1−14>画像重要度補正部
画像重要度補正部117は、画像類似度算出部114の一部を構成する類似度平均値算出部122から出力される画像類似度と画像重要度記憶部323に記憶された高重要度画像Imおよび低重要度画像Inの画像重要度とに基づいて、低重要度画像Inの画像重要度を補正する。
つまり、画像重要度補正部117は、画像類似度をSg、高重要度画像Imの画像重要度をScm、低重要度画像Inの画像重要度をScnとすると、[数4]で表される関係式を用いて、低重要度画像Inの画像重要度Scnを補正して低重要度画像Inの新たな画像重要度Scn’を算出する。
Figure 0005723367
例えば、高重要度画像I012の画像重要度が「101」、低重要度画像I013の画像重要度が「5」、高重要度画像I012と低重要度画像I013の画像類似度が「0.78」とすると、画像重要度補正部117は、低重要度画像Inの画像重要度を、(101−5)×0.78+5=79.88に補正することになる(図20参照)。
また、画像重要度補正部117は、算出した画像重要度Scn’を画像重要度記憶部323に記憶するとともに、補正が終了した旨を画像選出部111および画像リランキング部118に通知する。
<1−15>画像リランキング部
画像リランキング部118は、画像重要度記憶部323から各画像の画像重要度を取得して、当該画像重要度に基づいて、複数の画像についてランキングを算出する(図21参照)。そして、画像リランキング部118は、算出したランキングを画像出力部119に通知する。
<1−16>画像出力部
画像出力部119は、HDMI出力端子により表示装置120に接続されており、画像リランキング部118から通知される各画像のランキングに基づいて各画像のランキングに関する情報により構成される画像ランキングデータを生成して、当該画像ランキングデータをHDMI出力端子から出力する。そして、表示装置120は、画像出力部119から出力される画像ランキングデータを表示する(図21参照)。
<2>動作
<2−1>全体動作
実施の形態1に係る画像管理装置100で行われる動作のフローチャートを図22に示す。
画像取得部102は、撮影装置101に蓄積されている複数の画像を取得し、各画像に対して画像IDを付与する(ステップS101)。例えば、図2に示す例では、取得した順番に画像IDとしてI001,I002,I003,I004・・・を付与する。
次に、オブジェクト検出部103が、画像取得部102が取得した各画像I001,I002,・・・それぞれからオブジェクトを検出し、検出した各オブジェクトにオブジェクトIDを付与する(図3、図4参照)。
そして、オブジェクト検出部103は、各オブジェクトの特徴量ベクトルを各オブジェクトIDと対応付けてオブジェクト特徴量記憶部104に格納する(図5参照)(ステップS102)。
その後、オブジェクト分類部105は、オブジェクト検出部103が検出した全オブジェクトを、オブジェクト特徴量記憶部104に格納されている各オブジェクトの特徴量ベクトルに基づいて複数のクラスタに分類するとともに、各クラスタに属するオブジェクトの個数(図6参照)をオブジェクト重要度算出部106に通知する(ステップS103)。
次に、オブジェクト重要度算出部106は、オブジェクト毎に各オブジェクトが属するクラスタを識別するクラスタIDを特定して、当該オブジェクトの個数をオブジェクト重要度(図6参照)として出力する(ステップS104)。
その後、画像重要度算出部107が、オブジェクト重要度算出部106が算出したオブジェクト重要度に基づいて、各画像の画像重要度を算出する(ステップS105)。ここでは、画像重要度算出部107は、各画像に含まれている全てのオブジェクトのオブジェクト重要度の合計値を画像重要度(図8参照)として算出する。そして、画像重要度算出部107は、算出した画像重要度を画像ランキング部108に通知する。また、画像重要度算出部107は、算出した画像重要度を画像重要度記憶部323に格納する(図9参照)。
続いて、画像ランキング部108が、画像重要度記憶部323から取得した各画像の画像重要度に基づいて各画像をランキング(図10参照)する(ステップS106)。また、画像ランキング部108は、各画像のランキングを終了した旨を画像内オブジェクト数抽出部109に通知するとともに、ランキングした結果を画像選出部111に通知する。
画像内オブジェクト数抽出部109は、画像ランキング部108から各画像のランキングが終了した旨の通知を受けると、画像重要度算出部107から通知されるオブジェクトIDの個数に基づいて複数の画像それぞれに含まれるオブジェクトの個数(図11参照)を算出し、画像IDに対応づけた形で画像内オブジェクト数記憶部110に格納する(ステップS107)。
次に、画像選出部111の一部を構成する高重要度画像選出部112が、ランキングされた複数の画像のうち、順位が1位の画像I012から順番に、順位がM位(図10では、49位)の画像I086までを高重要度画像Imとして選出していく(ステップS108)。高画像重要度Imを選出する処理の詳細については、<2−4>で後述する。ここで、高重要度画像選出部112は、選出した高重要度画像Imの中の1つの画像IDを画像内オブジェクト数比較判定部115に通知する。高重要度画像選出部112は、例えば、順位が1位の画像I012の画像IDを画像内オブジェクト数比較判定部115に通知する。
続いて、画像選出部111の一部を構成する低重要度画像選出部113が、ランキングされた複数の画像のうち、順位がM+1位(図10では、50位)の画像I013から順番に、順位が最下位の画像までを低重要度画像Inとして選出していく(ステップS109)。ここで、低重要度画像選出部113は、選出した低重要度画像Inの中の1つの画像ID)を画像内オブジェクト数比較判定部115に通知する。低重要度画像選出部113は、例えば、順位が50位の画像I013の画像IDを画像内オブジェクト数比較判定部115に通知する。
次に、画像内オブジェクト数比較判定部115は、高重要度画像選出部112から通知される画像ID(画像I012)と、低重要度画像選出部113から通知される画像ID(画像I013)と、画像内オブジェクト数記憶部110から取得した各画像に含まれるオブジェクトの個数に関する情報とに基づいて、高重要度画像I012に含まれるオブジェクトの個数と、低画像重要度画像I013に含まれるオブジェクトの個数とを比較して、同じがどうかを判定する(ステップS110)。
ステップS110において、画像内オブジェクト数比較判定部115が、画像内オブジェクト数比較判定部115が、高重要度画像I012に含まれるオブジェクトの個数と低重要度画像I013に含まれるオブジェクトの個数とが異なると判断すると(ステップS110:No)、その旨を画像選出部111に通知する。そして、画像選出部111が当該通知を受けると、画像選出部111の一部を構成する低重要度画像選出部113が、他の低重要度画像Inを選出する(ステップS109)。
一方、ステップS110において、画像内オブジェクト数比較判定部115が、画像内オブジェクト数比較判定部115が、高重要度画像I012に含まれるオブジェクトの個数と低重要度画像I013に含まれるオブジェクトの個数とが同じと判定すると(ステップS110:Yes)、画像内オブジェクト数比較判定部115は、高重要度画像I012および低重要度画像I013の画像IDを画像類似度算出部114に通知する。
そして、画像類似度算出部114が、画像内オブジェクト数比較判定部115から高重要度画像I012および低重要度画像I013の画像IDの通知を受けると、画像類似度算出部114において、特徴量補正部221および画像内オブジェクト類似度算出部116により、高重要度画像I012に含まれるオブジェクトP031,P032,P033それぞれの特徴量ベクトルと、低重要度画像I013に含まれるオブジェクトP028,P029,P030それぞれの特徴量ベクトルに基づいてオブジェクトの類似度を算出する処理が行われる(ステップS111)。この画像I012,I013に含まれるオブジェクトの類似度を算出する処理については、<2−2>で詳述する。
続いて、類似度判定部123が、算出したオブジェクトの類似度の中で、予め設定された類似度閾値を超えているかどうかを判定する(ステップS112)。
類似度判定部123が、算出したオブジェクトの類似度の中に、予め設定された類似度閾値よりも低いものがあると判定した場合(ステップS112:No)、類似度判定部123は、その旨を低画像重要度選出部113に通知し、当該通知を受けた低画像重要度選出部113は、他の低重要度画像を選出する(ステップS109)。
一方、類似度判定部123が、算出したオブジェクトの類似度が全て類似度閾値以上であると判定した場合(ステップS112:No)、類似度判定部123は、その旨を類似度平均値算出部122に通知する。そして、類似度平均値算出部122が、算出したオブジェクトの類似度の平均値を算出し、当該平均値を画像類似度として画像重要度補正部117に通知する(ステップS113)。そして、画像重要度補正部117が、当該画像類似度に基づいて、低重要度画像I013の画像重要度を補正する(ステップS114)。この画像重要度の補正を行う一連の処理については、<2−3>で詳述する。ここで、画像重要度補正部117は、画像I013の画像重要度の補正が終了すると、画像重要度記憶部323に記憶するとともに、補正が終了した旨を画像リランキング部118および画像選出部111に通知する。
そして、画像選出部111が画像重要度補正部111から補正が終了した旨の通知を受けると、低重要度画像選出部113が、前回選出した画像I013よりも1つだけランキングが下の画像が存在するか否かを確認する(ステップS115)。
ステップS115において、低重要度画像選出部113が、前回選出した画像I013よりも1つだけランキングが下の画像が存在すると判断した場合(ステップS115:Yes)、低重要度画像選出部113は、前回選出した画像I013よりも1つだけランキングが下の画像を選出する。低重要度画像選出部113は、例えば、前回選出した画像が順位50位の画像I013であったとすると、次の順位51位の画像I085(図11参照)を選出することになる。
一方、ステップS115において、低重要度画像選出部113が、前回選出した画像Inよりも1つだけランキングが下の画像が存在しないと判断した場合(ステップS115:No)、高重要度画像選出部112が、前回選出した画像I012よりも1つだけランキングが下の画像が存在するか否かを確認する(ステップS116)。
ステップS116において、高重要度画像選出部112が、前回選出した画像I012よりも1つだけランキングが下の画像が存在すると判断した場合(ステップS116:Yes)、高重要度画像選出部112は、前回選出した画像I012よりも1つだけランキングが下の画像を選出する。高重要度画像選出部112は、例えば、前回選出した画像が順位1位の画像I012であったとすると、次の順位2位の画像I009(図11参照)を選出することになる。
一方、ステップS116において、高重要度画像選出部112が、前回選出した画像Imよりも1つだけランキングが下の画像が存在しないと判断した場合(ステップS116:No)、画像リランキング部118が、画像重要度算出部107が評価した画像重要度および、画像重要度補正値算出部117で算出した重要度の補正値を用いて、各画像をランキングする(ステップS117)。ここでは、画像リランキング部118が、複数の画像を画像重要度の大きいものから順番に並べるものとする。図21にその一例を示す。図21に示す例では、画像重要度が「5」であった画像I013の画像重要度が「79.88」となった結果、順位が3位に繰り上がっている。
最後に、画像出力部119が、画像リランキング部118がランキングした結果を表示装置120に出力する(ステップS118)。
<2−2>オブジェクト類似度算出
オブジェクトの類似度を算出する処理のフローチャートを図23に示す。
まず、高重要度画像像Imに含まれる複数のオブジェクトの特徴量平均値ベクトルGm(ここでは、画像I012に含まれるオブジェクトP031,P032,P033の特徴量平均値ベクトルG012で説明する。)を算出する(ステップS201)。
次に、低重要度画像Inに含まれる複数のオブジェクトの特徴量平均値ベクトルGn(ここでは、画像I013に含まれるオブジェクトP028,P029,P030の特徴量平均値ベクトルG013で説明する。)を算出する(ステップS202)。
その後、特徴量平均値ベクトルG012と特徴量平均値ベクトルG013とから補正量ベクトルChを求める(ステップS203)。
そして、特徴量補正部121が、低重要度画像I013に含まれる全てのオブジェクトP028,P029,P030について、前述の[数1]で示したように、補正量ベクトルChを用いた補正関数F1で補正した後の各オブジェクトP028a,P029a,P030aの特徴量ベクトルを算出する(ステップS204)。
次に、画像内オブジェクト類似度算出部116が、高重要度画像I012に含まれる各オブジェクトP031,P032,P033と、補正後の各オブジェクトP028a,P029a,P030aとの類似度を算出する(ステップS205)。
次に、画像内オブジェクト類似度算出部116が算出したオブジェクトの類似度の中から類似度の最高値を抽出する(ステップS206)。
そして、画像内オブジェクト類似度算出部116は、類似度の最高値に対応するオブジェクトの組合せを検出する(ステップS207)。図19に示す例では、画像内オブジェクト類似度算出部116は、オブジェクトP029aとオブジェクトP033との組合せを検出する。(ステップS208)。
ここにおいて、画像内オブジェクト類似度算出部116は、オブジェクトP029aとオブジェクトP033の組合せを検出したので、オブジェクトP029a,P033を組合せ検出対象から除外する。図19に示す例では、ハッチングで示した部分に対応する類似度を組合せ検出の対象から除外する。
次に、画像内オブジェクト類似度算出部116が、全てのオブジェクトについて組合せを検出したか否かを判断する(ステップS209)。
ステップS209において、画像内オブジェクト類似度算出部116が、オブジェクトの中にまだ組み合わせが決まっていないオブジェクトがあると判断すると(ステップS209:No)、再び、ステップS206へ戻る。
一方、ステップS209において、画像内オブジェクト類似度算出部116が、全てのオブジェクトについて組合せが決まったと判断すると(ステップS209:Yes)、オブジェクトの組合せと、当該組み合わせに対応する類似度とを類似度平均値算出部122に通知する(S210)。ここでは、画像内オブジェクト類似度算出部116は、オブジェクトP029aとオブジェクトP033との類似度が、「0.9」であり、オブジェクトP028aとオブジェクトP031との類似度が、「0.8」であり、オブジェクトP030aとオブジェクトP032との類似度が、「0.65」である旨(図19参照)を類似度平均値算出部116に通知する。
<2−3>画像重要度補正
画像重要度を補正する処理のフローチャートを図24(b)に示す。
まず、画像重要度補正部117が、画像重要度記憶部323から、画像I012の画像重要度と、画像I013の画像重要度とを取得する(ステップS301)。ここでは、画像重要度補正部117は、画像I012の画像重要度「101」、画像I013の画像重要度「5」を取得する(図9参照)。
その後、画像重要度補正部117が、まず、画像I012の画像重要度「101」および画像I013の画像重要度「5」の差分値とオブジェクトの類似度の平均値「0.78」との積を算出し、その後、算出した積と低重要度画像I013の画像重要度「5」との和を算出し、算出した値「79.88」を画像I013の新たな画像重要度として出力する(図20参照)(ステップS302)。
<2−4>高重要度画像選出
高重要度画像Imを選出する処理のフローチャートを図24(a)に示す。
まず、高重要度画像選出部112は、1つの高重要度画像Imを選出する(ステップS311)。
次に、高重要度画像選出部112は、選出した高重要度画像Imに含まれるオブジェクト数を画像重要度算出部107から通知されるオブジェクトIDの個数を計数して算出する(ステップS312)。
その後、高重要度画像選出部112は、選出した高重要度画像Imに含まれるオブジェクト数が1個であるか否かを判定する(ステップS313)。
ステップS313において、高重要度画像選出部112が、選出した高重要度画像Imに含まれるオブジェクト数が1個であると判定すると(ステップS313:Yes)、高重要度画像選出部112は、別の高重要度画像Imを選出する(ステップS311)。
一方、ステップS313において、高重要度画像選出部112が、選出した高重要度画像Imに含まれるオブジェクト数が複数であると判定すると(ステップS313:No)、高重要度画像選出部112は、高重要度画像Imを選出する処理を終了する。
<実施の形態2>
<1>構成
本実施の形態に係る画像管理装置200の構成は、図1の構成と略同じであり、図25に示すように、オブジェクト選出部215を備えるとともに、画像類似度算出部114が類似度最高値算出部223を備えている点が相違する。なお、図1の構成と同様の構成については、同一の符号を付して適宜説明を省略する。
<1−1>オブジェクト選出部
オブジェクト選出部215は、高重要度画像選出部112が選出した高重要度画像Imに含まれる複数のオブジェクトの中から1つのオブジェクトを選択して、選択した1つのオブジェクトのオブジェクトIDと当該オブジェクトを含む画像IDとを特徴量補正部221に通知する。オブジェクト選出部215は、例えば、図26に示すように、高重要度画像I012に含まれる3つのオブジェクトP031,P032,P033の中から1つのオブジェクトP031を選択して、そのオブジェクトIDと当該オブジェクトP031を含む高重要度画像I012の画像IDとを特徴量補正部221に通知する。
<1−2>画像類似度算出部
画像類似度算出部114は、特徴量補正部221と、画像内オブジェクト類似度算出部116と、類似度最高値算出部223と、類似度判定部222とから構成される。
<1−2−1>特徴量補正部
特徴量補正部221は、オブジェクト選出部215から通知されるオブジェクトIDで特定されるオブジェクトP031と、画像選出部111から通知される画像IDで特定される低重要度画像I013に含まれる全てのオブジェクトP028,P029,P030の特徴量ベクトルをオブジェクト特徴量記憶部104から読み出す。
そして、特徴量補正部221は、オブジェクト特徴量記憶部104から読み出した低重要度画像Inに含まれる複数のオブジェクトの特徴量ベクトルを、高重要度画像Imに含まれるオブジェクトの特徴量ベクトルと、低重要度画像Inに含まれるオブジェクトの特徴量ベクトルとをパラメータとする補正関数F2を使って補正して出力する。
ここで、補正関数F2は、低重要度画像Inに含まれる複数のオブジェクトの特徴量を、低重要度画像Inに含まれるオブジェクトの特徴量に対する高重要度画像Imに含まれるオブジェクトの中から選択した1つのオブジェクトの特徴量の比を補正係数とし、当該補正係数を低重要度画像Inに含まれる複数のオブジェクトの特徴量それぞれに乗ずる関数で構成される。
つまり、高重要度画像Imに含まれる複数のオブジェクトの中から選択したオブジェクトの特徴量ベクトルをPuy(Puy1,Puy2,・・・,Puyn)とし、低重要度画像Inに含まれる各オブジェクトの特徴量ベクトルをPw1(Pw11,Pw12,・・・,Pw1n)、Pw2(Pw21,Pw22,・・・,Pw2n)、・・・、Pwv(Pwv1,Pwv2,・・・,Pwvn)とし、特徴量ベクトルPw1、Pw2、・・・、Pwvを補正した後の特徴量ベクトルをPw1by(Pw11by,Pw12by,・・・,Pw1nby)、Pw2b(Pw21by,Pw22by,・・・,Pw2nby)、・・・、Pwvby(Pwv1by,Pwv2by,・・・,Pwvnby)とすると、補正関数F2(P)について、[数5]の関係式が成立する。
Figure 0005723367
ここで、特徴量補正部221が、オブジェクト選出部215から高重要度画像I012の画像ID、オブジェクトP031のオブジェクトIDおよび低重要度画像I013の画像IDが通知される場合について説明する。
特徴量補正部221は、オブジェクトP031の各特徴量成分と、画像I013に含まれる各オブジェクトP028,P029,P030それぞれの特徴量ベクトルの各特徴量成分との比からなる補正係数を計算し、補正量ベクトルCh1,Ch2,Ch3を求める(図27参照)。
なお、特徴量補正部121は、各オブジェクトP028,P029,P030それぞれの特徴量ベクトルが特徴量成分として「0」を含む場合には、当該特徴量成分に対応する補正量ベクトルCh1,Ch2,Ch3の特徴量成分を「1」に設定する。これにより、特徴量成分として「0」を含む場合のゼロ除算の発生を防ぐことができる。
その後、特徴量補正部221は、各補正量ベクトルCh1,Ch2,Ch3と各オブジェクトP028,P029,P030の特徴量ベクトルと各成分同士の積を算出する関数を補正関数F2とする。
ここで、特徴量補正部221は、補正関数F2にオブジェクトP028,P029,P030それぞれの特徴量ベクトルを入力して得られるオブジェクトP028b1,P029b1,P030b1およびオブジェクトP028b2,P029b2,P030b2、並びにオブジェクトP028b3,P029b3,P030b3それぞれの特徴量ベクトル(図28参照)を画像内オブジェクト類似部116に通知することになる。なお、補正量ベクトルCh1(Ch2,Ch3)を用いる補正関数F2では、オブジェクトP031に対応する被写体がオブジェクトP028(P029,P030)に対応する被写体と同じと仮定して補正を行うことになる。
<1−2−2>画像内オブジェクト類似度算出部
画像内オブジェクト類似度算出部116は、画像I012に含まれるオブジェクトP032,P033と特徴量補正部221から通知されるオブジェクトP029b1,P030b1との類似度、オブジェクトP032,P033とオブジェクトP028b2,P030b2との類似度、オブジェクトP032,P033とオブジェクトP028b3,P029b3との類似度(図29参照)を算出する。つまり、画像内オブジェクト類似度算出部116は、補正関数F2の算出に使用したオブジェクトの組合せ以外のオブジェクトの組合せについて類似度を算出する。これにより、画像内オブジェクト類似度算出部116が行うオブジェクトの類似度を算出する処理の負荷を低減することができる。
また、画像内オブジェクト類似度算出部116は、オブジェクトP032,P033それぞれと、オブジェクトP029b1,P030b1それぞれとの類似度の中で最も高い類似度S1を抽出する。図29に示す例では、オブジェクトP033とオブジェクトP029b1との類似度である「0.9」となる。そして、類似度最高値算出部223は、オブジェクトP032,P033それぞれと、オブジェクトP028b2,P030b2それぞれとの類似度の中で最も高い類似度S2を抽出する。図27に示す例では、オブジェクトP032とオブジェクトP030b2との類似度である「0.35」となる。更に、画像内オブジェクト類似度算出部116は、オブジェクトP032,P033それぞれと、オブジェクトP028b3,P029b3それぞれとの類似度の中で最も高い類似度S3を抽出する。図29に示す例では、オブジェクトP033とオブジェクトP029b3との類似度である「0.4」となる。
その後、画像内オブジェクト類似度算出部116は、抽出した類似度S1,S2,S3の中から最も高い類似度を抽出し、当該類似度を示したオブジェクトの組合せを検出する。図27に示す例では、画像内オブジェクト類似度算出部116が、類似度S1(「0.9」)を抽出し、この類似度S1に対応する組合せは、オブジェクトP033とオブジェクトP029b1となる。また、画像内オブジェクト類似度算出部116は、類似度S1の2つのオブジェクトP033,P029b1以外の他のオブジェクトP032,P029b2の類似度(図29の例では「0.8」)を抽出する。そして、類似度最高値算出部223は、抽出した類似度を類似度判定部222に通知する。
<1−2−3>類似度判定部
類似度判定部222は、類似度に対する所定の閾値(類似度閾値)を保持しており、類似度最高値算出部223から通知される類似度の値が当該類似度閾値を超えているか否かを判定する。そして、類似度判定部222は、オブジェクトの類似度のいずれかが類似度閾値を下回っていると判定すると、その旨を画像選出部111に通知する。一方、類似度判定部123は、オブジェクトの類似度の全てが類似度閾値を超えていると判定すると、その旨を類似度最高値算出部223に通知する。
<1−2−4>類似度最高値算出部
類似度最高値算出部223は、画像内オブジェクト類似度算出部116から通知される類似度の中から類似度の最高値を算出し、当該最高値を画像類似度として画像重要度補正部117に通知する。図29に示す例では、類似度最高値算出部223は、オブジェクトP032,P030b1の類似度、およびオブジェクトP033,P029b1の類似度の中から類似度の最高値を算出する。
<2>動作
<2−1>全体動作
本実施の形態に係る画像管理装置200で行われる動作のフローチャートを図30に示す。本実施の形態の全体動作では、ステップS106の直後からステップS114の直前までの処理が実施の形態1と相違する。なお、ステップS106の直後からステップS114の直前までの処理以外の処理は、実施の形態1と同様なので説明を省略する。
本実施の形態に係る画像管理装置200は、ステップS106において複数の画像を画像重要度でランキングした後に、画像選出部111の一部を構成する高重要度画像選出部112が、ランキングされた複数の画像のうち、順位が1位の画像I012から順番に、順位がM位(図10では、49位)の画像I086までを高重要度画像Imとして選出する(ステップS401)。ここで、高重要度画像選出部112は、選出した1つの高重要度画像Imの画像IDをオブジェクト選出部215に通知する。高重要度画像選出部112は、例えば、順位が1位の高重要度画像I012の画像IDをオブジェクト選出部215に通知する。
次に、画像選出部111の一部を構成する低重要度画像選出部113が、ランキングされた複数の画像のうち、順位がM+1位(図10では、50位)の画像I013から順番に、順位が最下位の画像までを低重要度画像Inとして選出していく(ステップS402)。高画像重要度Imを選出する処理の詳細は、実施の形態1(図22のステップS108参照)と同様なので説明を省略する。ここで、低重要度画像選出部113は、選出した1つの低重要度画像Inの画像IDをオブジェクト選出215に通知する。低重要度画像選出部113は、例えば、順位が50位の低重要度画像I013の画像IDをオブジェクト選出部215に通知する。
続いて、オブジェクト選出部215が、高重要度画像選出部112から通知される画像重要度の高い画像Imの画像IDに基づいて、画像重要度の高い画像Imそれぞれに含まれるオブジェクトの中の1つを選出する(ステップS403)。例えば、図26に示すオブジェクトP031を選出する。そして、オブジェクト選出部215は、画像I012の画像IDと当該画像I012に含まれるオブジェクトP031のオブジェクトIDとを画像類似度算出部114に通知する。
その後、画像類似度算出部114において、特徴量補正部221および画像内オブジェクト類似度算出部116により、高重要度画像I012に含まれるオブジェクトP031,P032,P033それぞれの特徴量ベクトルと、低重要度画像I013に含まれるオブジェクトP028,P029,P030それぞれの特徴量ベクトルに基づいてオブジェクトの類似度(図29参照)を算出する処理が行われる(ステップS404)。この高重要度画像I012に含まれるオブジェクトと低重要度画像I013に含まれるオブジェクトとの類似度を算出する処理については、<2−2>で詳述する。
次に、類似度判定部222が、画像内オブジェクト類似度算出部116が算出したオブジェクトの類似度の全てが予め設定された類似度閾値を超えているかどうかを判定する(ステップS405)。
類似度判定部222が、算出したオブジェクトの類似度の中に、予め設定された類似度閾値よりも低いものがあると判定した場合(ステップS405:No)、類似度判定部222は、その旨を画像選出部111に通知し、画像選出部111の一部を構成する低画像重要度選出部113が、画像I013以外の画像重要度の低い画像を新たに選出する(ステップS402)。
一方、画像内オブジェクト類似度算出部116が、算出したオブジェクトの類似度の全てが類似度閾値以上であると判定した場合(ステップS405:Yes)、類似度最高値算出部223が、画像内オブジェクト類似度算出部116から通知される類似度の最高値を算出し、算出した類似度を画像類似度として出力する(ステップS406)。
そして、画像重要度補正部117が、類似度最高値算出部223から出力される画像類似度と、画像重要度記憶部323から取得した高重要度画像I013の画像重要度と低重要度画像I012の画像重要度とに基づいて、低重要度画像I013の画像重要度の補正を行う(ステップS407)。この画像重要度の補正を行う一連の処理については、<2−3>で詳述する。
<2−2>オブジェクト類似度算出
オブジェクトの類似度を算出する処理のフローチャートを図31に示す。
まず、特徴量補正部221が、オブジェクト選出部215から通知される画像IDおよびオブジェクトIDに基づいて、補正量ベクトルを算出する(ステップS501)。ここでは、画像内オブジェクト類似度算出部116が、画像I013に含まれるオブジェクトP028,P029,P030それぞれの各特徴量成分に対する画像I012に含まれるオブジェクトP031の各特徴量成分の比からなる補正係数で構成される補正量ベクトルCh1,Ch2,Ch3(図27参照)を算出する。
次に、特徴量補正部221が、画像In(画像I013)に含まれる各オブジェクトP028,P029,P030に対して、補正量ベクトルCh1,Ch2,Ch3を用いて特徴量を補正して、オブジェクトP029b1,P030b1,P028b2,P030b2,P029b3,P030b3(図28参照)を生成する (ステップS502)。
そして、画像内オブジェクト類似度算出部116が、補正量ベクトルCh1,Ch2,Ch3を算出する際に用いたオブジェクトを除く全てのオブジェクトの類似度(図29参照)を算出する(ステップS503)。
続いて、画像内オブジェクト類似度算出部116が、算出したオブジェクト同士の類似度の中から最も高い類似度を抽出する(ステップS504)。図29に示す例では、オブジェクトP033とオブジェクトP029b1との類似度となる。そして、この最も高い類似度に対応したオブジェクトの組合せを検出し(ステップS505)、当該オブジェクトの一方を生成するために用いた補正量ベクトルを特定する(ステップS506)。ここでは、オブジェクトP029b1を生成するために用いた補正量ベクトルCh1となる。
次に、画像内オブジェクト類似度算出部116が、最も高い類似度に対応したオブジェクトを、組合せ検出対象から除外するとともに(ステップS507)、補正量ベクトルCh1を用いて生成されたオブジェクトの全てについて組合せが検出されたか否かを判断する(ステップS508)。
ステップS508において、画像内オブジェクト類似度算出部116が、補正量ベクトルCh1を用いて生成されたオブジェクトの中に組合せが検出されていないオブジェクトが存在すると判断した場合(ステップS508:No)、画像内オブジェクト類似度算出部116が、再度、最も高い類似度を抽出する処理を行う(ステップS504)。
一方、ステップS508において、画像内オブジェクト類似度算出部116が、補正量ベクトルCh1を用いて生成されたオブジェクトの全てについて組合せを検出したと判断すると(ステップS508:Yes)、各オブジェクトの組合せと当該組合せに対応する類似度とを類似度最高値算出部223に通知する(ステップS509)。
<2−3>画像重要度補正
画像重要度を補正する処理のフローチャートを図32に示す。
まず、画像重要度補正部117が、画像重要度記憶部323から、画像I012の画像重要度と、画像I013の画像重要度とを取得する(ステップS601)。ここでは、画像I012の画像重要度が「101」、画像I013の画像重要度が「5」とする)。
その後、画像重要度補正部117が、画像I012の画像重要度「101」および画像I013の画像重要度「5」の差分値と、類似度最高値算出部223から通知される画像類似度「0.9」との積に画像I013の重要度「5」を足した値を、画像I013の新たな画像重要度として出力する(ステップS602)。
<実施の形態3>
<1>構成
本実施の形態に係る画像管理装置の構成は、図1の構成と略同じであり、画像類似度算出部114の機能が相違する。なお、図1の構成と同様の構成については、同一の符号を付して適宜説明を省略する。
画像類似度算出部114は、実施の形態1と同様に、特徴量補正部121と、画像内オブジェクト類似度算出部116と、類似度判定部123と、類似度平均値算出部122とから構成される。本実施の形態では、特徴量補正部121の機能のみが異なる。ここで、画像内オブジェクト類似度算出部116、類似度判定部123、および類似度平均値算出部122は、実施の形態1と同様なので説明を省略する。
特徴量補正部121は、画像内オブジェクト数比較判定部115から通知される画像IDで特定される画像それぞれに含まれるオブジェクトの特徴量をオブジェクト特徴量記憶部104から読み出す。
そして、特徴量補正部121は、オブジェクト特徴量記憶部104から読み出した低重要度画像Inに含まれる複数のオブジェクトの特徴量を、高重要度画像Imに含まれるオブジェクトの特徴量と、低重要度画像Inに含まれるオブジェクトの特徴量とをパラメータとする補正関数F3を使って補正して出力する。
ここで、補正関数F3は、低重要度画像Inに含まれるオブジェクトの特徴量の平均値に対する高重要度画像Imに含まれるオブジェクトの特徴量の平均値の差分値を低重要度画像Inに含まれるオブジェクトの特徴量に加算する関数で構成される。
つまり、高重要度画像Imに含まれる各オブジェクトの特徴量ベクトルをPu1(Pu11,Pu12,・・・,Pu1n)、Pu2(Pu21,Pu22,・・・,Pu2n)、・・・、Puv(Puv1,Puv2,・・・,Puvn)とし、低重要度画像Inに含まれる各オブジェクトの特徴量ベクトルをPw1(Pw11,Pw12,・・・,Pw1n)、Pw2(Pw21,Pw22,・・・,Pw2n)、・・・、Pwv(Pwv1,Pwv2,・・・,Pwvn)とし、特徴量ベクトルPw1、Pw2、・・・、Pwvを補正した後の特徴量ベクトルをPw1c(Pw11c,Pw12c,・・・,Pw1nc)、Pw2c(Pw21c,Pw22c,・・・,Pw2nc)、・・・、Pwvc(Pwv1c,Pwv2c,・・・,Pwvnc)とすると、補正関数F3(P)について、[数6]の関係式が成立する。
Figure 0005723367
ここで、特徴量補正部121が、画像内オブジェクト数比較判定部115から高重要度画像I012および低重要度画像I013の画像IDが通知される場合について説明する。
特徴量補正部121は、図14に示すように、画像I012に含まれるオブジェクトP031,P032,P033の各特徴量から特徴量平均値ベクトルG012を算出し、図15に示すように、画像I013に含まれるオブジェクトP028,P029,P030の各特徴量から特徴量平均値ベクトルG013を算出する。
本実施の形態では、特徴量平均値ベクトルG013の中に特徴量成分として「0」を含む場合であっても、実施の形態1および2のように特徴量補正部121がゼロ除算に対する処理を行う必要がなくなるので、特徴量補正部121が行う処理の簡素化を図ることができる。
そして、特徴量補正部121は、特徴量平均値ベクトルG012の各特徴量成分と、特徴量平均値ベクトルG013の各特徴量成分との差分(特徴量平均値ベクトルG012の各特徴量成分から特徴量平均値ベクトルG013の各特徴量成分を引き算した値)を計算して補正量ベクトルChsを求めて(図33参照)、当該補正量ベクトルChsの各成分と特徴量ベクトルP028,P029,P030との各成分同士の和を算出する関数を補正関数F3とする。特徴量補正部121は、補正関数F3に特徴量ベクトルP028,P029,P030を入力して得られる特徴量ベクトルP028c,P029c,P030cを画像内オブジェクト類似部116に出力することになる。
特徴量補正部121が、画像I013に含まれる各オブジェクトの特徴量に対して
補正関数F3により補正を行った後における各オブジェクトの特徴量を図34に示す。
<2>動作
本実施の形態に係る画像管理装置で行われる全体動作は、実施の形態1と同様(図28参照)なので、説明を省略する。本実施の形態では、画像内オブジェクト類似度算出処理のみが実施の形態1と相違する。ここでは、オブジェクトの類似度を算出する処理のみについて説明する。
オブジェクト類似度算出処理のフローチャートを図35に示す。
まず、画像重要度の高い画像Imに含まれるオブジェクトの特徴量ベクトルの特徴量平均値ベクトルGm(ここでは、画像I012に含まれるオブジェクトの特徴量平均値ベクトルG012で説明する。)を算出する(ステップS701)。
次に、画像重要度の低い画像Inに含まれるオブジェクトの特徴量ベクトルから特徴量平均値ベクトルGn(ここでは、画像I013に含まれるオブジェクトの特徴量平均値ベクトルG013で説明する。)を算出する(ステップS702)。
その後、画像重要度の高い画像I012に含まれるオブジェクトP31,P32,P33の特徴量平均値ベクトルG012と、画像重要度の低い画像I013に含まれるオブジェクトP28,P29,P30の特徴量平均値ベクトルG013との成分毎の差分を計算して補正量ベクトルChsを求める(ステップS703)。
そして、特徴量補正部121が、画像I013に含まれるオブジェクトP28,P29、P30の特徴量ベクトルを、補正量ベクトルChsを用いた補正関数F3に入力してオブジェクトP28c,P29c,P30cの特徴量ベクトルを算出する(ステップS704)。ここで、補正関数F3では、オブジェクトP28,P29、P30の特徴量ベクトルの各成分に補正量ベクトルChsの各成分を加算する演算を行う。
次に、画像I012に含まれる各オブジェクトについて補正量ベクトルChで特徴量が補正された後の各オブジェクトと画像I012に含まれる各オブジェクトとの類似度を算出する(ステップS705)。
以降、ステップS706乃至ステップS710の処理は、実施の形態1におけるオブジェクト類似度算出処理のステップS206乃至ステップS210の処理と同じなので説明を省略する。
<実施の形態4>
本実施の形態に係る画像管理装置の構成は、図1の構成と略同じであり、オブジェクト検出部103および画像重要度補正部117の機能が相違する。なお、図1の構成と同様の構成については、同一の符号を付して適宜説明を省略する。
オブジェクト検出部103は、オブジェクト特徴量として各オブジェクトの大きさを算出し、各オブジェクトの大きさを当該オブジェクトが含まれる画像の画像IDと対応づけてオブジェクト特徴量記憶部104に格納する。
画像重要度補正部117は、まず、高重要度画像Imおよび低重要度画像Inそれぞれに含まれるオブジェクトの大きさをオブジェクト特徴量記憶部104から取得する。その後、画像重要度補正部117は、取得したオブジェクトの大きさの平均値を各画像Im,Inについて算出する。そして、画像重要度補正部117は、画像類似度算出部114の一部を構成する類似度平均値算出部122から出力される画像類似度と画像重要度記憶部323に記憶された高重要度画像Imおよび低重要度画像Inの画像重要度と、オブジェクト検出部103で算出された各オブジェクトの大きさに基づいて、低重要度画像Inの画像重要度を補正する。
このとき、画像重要度補正部117は、[数7]で表される関係式を用いて、低重要度画像Inの画像重要度Scnを補正して低重要度画像Inの新たな画像重要度Scn’を算出する。
Figure 0005723367
ここにおいて、Sgは、画像類似度、Scmは、高重要度画像Imの画像重要度、Scnは、低重要度画像Inの画像重要度、Ssavenは、低重要度画像Inに含まれるオブジェクトの大きさの平均値、Ssavemは、高重要度画像Imに含まれるオブジェクトの大きさの平均値を表す。
このオブジェクトの大きさの平均値Ssaven,Ssavemとしては、例えば、各オブジェクトに対応するテンプレートの面積に比例する量を採用することができる。
例えば、図36に示すように、高重要度画像I012の画像重要度が「101」、低重要度画像I013の画像重要度が「5」、高重要度画像I012と低重要度画像I013の画像類似度が「0.78」、高重要度画像I012に含まれるオブジェクトP031,P032,P033の大きさの平均値を「0.2」、低重要度画像I013に含まれるオブジェクトP028,P029,P030の大きさの平均値を「0.2」とすると、画像重要度補正部117は、低重要度画像Inの画像重要度を、(101−5)×0.78×(0.1/0.2)+5=42.44に補正することになる。
また、画像重要度補正部117は、算出した画像重要度Scn’を画像重要度記憶部323に記憶するとともに、補正が終了した旨を画像選出部111および画像リランキング部118に通知する。
<変形例>
(1)前述の実施の形態1乃至3では、画像内オブジェクト類似度算出部116が、2つのオブジェクトそれぞれの特徴量の内積を算出する例について説明したが、これに限定されるものではなく、例えば、2つのオブジェクトの特徴量のユークリッド距離を算出するものであってもよい。
(2)前述の実施の形態1乃至3では、画像管理装置を例にして説明したが、本発明は画像の管理を主として行う装置に限るものではない。例えば、ファイルサーバなどの静止画又は動画を蓄積する記憶装置、静止画および動画の再生装置、デジタルカメラ、カメラ付携帯電話やムービーカメラなどの撮影装置およびパーソナルコンピュータ(PC)などに替えてもよい。
(3)前述の実施形態1乃至3では、画像取得部201はUSB入力端子を備え、USBケーブルなどのケーブルを介して画像群を撮影装置101から取得するものとしたが、画像が取得できるならば必ずしもUSB入力端子から画像を取得する必要はない。例えば、無線通信により画像群を入力してもよいし、メモリーカードなどの記録媒体を介して入力してもよい。
(4)前述の実施の形態1乃至3では、画像管理装置へ撮影装置101から画像群を入力するものとしたが、撮影装置に限る必要はなく、画像管理装置へ複数の画像を入力できればどのような装置でもよい。例えば、画像を蓄積しているファイルサーバからネットワークを通じて複数の画像を入力してもよい。また、必ずしも複数の画像を画像管理装置の外部から取得する必要はなく、画像管理装置自身が、ハードディスクなどの画像蓄積装置(図示せず)を備え、当該画像蓄積装置から複数の画像を取得するものとしてもよい。
(5)前述の実施の形態1乃至3では、画像取得部102が生成する画像IDを各画像に付与することで各画像を識別する例について説明したが、これに限定されるものではなく、例えば、複数の画像それぞれの画像データを構成するファイルのファイル名で識別するようにしてもよい。或いは、各画像の画像データをメモリ131上に格納した場合、各画像データの先頭のアドレスで各画像を識別するようにしてもよい。
(6)前述の実施の形態1乃至3では、オブジェクト検出部103が、人物の顔を示すテンプレートを使用したテンプレートマッチングを行う例について説明したが、これに限定されるものではなく、例えば、動物や自動車、建物などを示すテンプレートを使用したテンプレートマッチングを行うものであってもよい。或いは、オブジェクト検出部103が、テンプレートマッチング以外の方法によりオブジェクトを検出するものであってもよい。
(7)前述の実施の形態1乃至3では、オブジェクト分類部105が、複数のクラスタを生成する例について説明したが、これに限定されるものではなく、例えば、予め複数のクラスタが設定されているものであってもよい。
(8)前述の実施の形態1乃至3では、画像重要度として、各画像に含まれるオブジェクトそれぞれのオブジェクト重要度を加算してなる値を用いたが、これに限定されるものではなく、例えば、画像重要度として、各画像に含まれるオブジェクトそれぞれのオブジェクトの重要度の平均値を用いてもよい。或いは、画像重要度として、各画像に含まれるオブジェクトそれぞれのオブジェクト重要度の中で最も高いオブジェクト重要度としてもよい。更に、画像重要度として、各画像に含まれるオブジェクトそれぞれのオブジェクト重要度の加算値または平均値に、各画像の中に占めるオブジェクトの面積の割合を使って重み付けした値を用いてもよい。
(9)前述の実施の形態1乃至3では、画像重要度をオブジェクトの重要度のみから算出していたが、これに限定されるものではなく、例えば、各画像を撮影した際の背景や撮影状況などがオブジェクト重要度に反映させるものであってもよい。
(10)前述の実施の形態1乃至3では、画像群を画像重要度の高いものから降順に並べて表示装置120に出力する例について説明したが、これに限定されるものではなく、例えば、画像群を入力した順序で表示し、各画像の画像重要度を各画像のメタデータとして付与し、各画像の横に画像重要度やランキングを表示するものであってもよい。
(11)前述の実施の形態1乃至3では、画像出力部119が、HDMI出力端子を備え、画像管理装置100から表示装置120へHDMIケーブルを介して映像を出力するものとしたが、これに限定されるものではなく、例えば、DVIケーブルにより表示装置120へ映像を出力するものであってもよい。
また、前述の実施の形態1および2では、画像管理装置100が画像を表示装置120に出力する例について説明したが、これに限定されるものではなく、例えば、プリンタ(図示せず)に画像重要度の高い画像を出力して印刷させるようにしてもよい。或いは、画像管理装置100がハードディスク等の外部記憶装置(図示せず)に接続され、各画像の画像重要度を示すメタデータとともに外部記憶装置に出力するようにしてもよい。
(12)前述の実施の形態1乃至3では、画像管理装置100は、各データをメモリ131に記憶させる例について説明したが、これに限定されるものではなく、例えば、ハードディスクやその他のデータ記録媒体に記憶させるようにしてもよい。
(13)前述の実施の形態1乃至3では、各オブジェクトの特徴量をGaborフィルタを用いて抽出する例について説明したが、これに限定されるものではない。
(14)前述の実施の形態1乃至3では、画像重要度の求め方としては、画像に含まれるオブジェクトの重要度を用いる方法を説明したが、これに限定されるものではない。
(15)前述の実施の形態1および3では、補正関数F1,F3が、オブジェクトの特徴量平均値ベクトルGm,Gnに基づいて算出される例について説明したが、これに限定されるものではなく、例えば、撮像条件の違い等によるノイズの影響が、オブジェクトの特徴量の絶対値に影響するものであれば、補正関数F1,F3をオブジェクトそれぞれの特徴量の二乗平均値を成分とする特徴量二乗平均値ベクトルに基づいて算出されるものであってもよい。
(16)前述の実施の形態1乃至3では、複数の静止画像のランキングを行う画像管理装置の例について説明したが、これに限定されるものではなく、複数の動画像のランキングを行う画像管理装置であってもよい。この場合、各動画像を構成する複数の静止画像の中から所定の静止画像を抽出し、当該静止画像について前述の実施の形態1乃至3と同様の方法を用いてランキングを行う。
(17)前述の実施の形態1乃至3では、高重要度画像選出部112が選出した画像の画像IDに当該画像が高重要度画像Imであることが識別できる情報を付与し、低重要度画像選出部113が選出した画像の画像IDに当該画像が低重要度画像Inであることが識別できる情報を付与し、画像内オブジェクト数比較判定部115が、各画像IDに付与された識別情報に基づいて高重要度画像Imか低重要度画像Inかを識別する例について説明したが、これに限定されるものではない。例えば、画像内オブジェクト数比較判定部115が、ユーザが設定した所定の順位に対応する画像重要度を保持しておき、通知される画像IDで特定される画像の画像重要度を画像重要度記憶部323から取得し、取得した画像重要度と自らが保持する所定の画像重要度とを比較して、高重要度画像Imか低重要度画像Inかを識別するようにしてもよい。
(18)前述の実施の形態1乃至3では、ユーザが、画像管理装置100に設けられた重要度設定部(図示せず)を用いて、所定の順位を適宜設定することができる例について説明したが、例えば、ユーザが、重要度設定部を用いて、低重要度画像選出部113が選出する複数の画像の中で最も重要度の低い画像に対応する順位(最低順位)を設定することができるものであってもよい。この変形例によれば、ユーザが、例えば、最下位に近い順位にランキングされた画像(重要度が低いと評価された画像)を主に画像重要度を見直したい場合には、所定の順位を低めに設定すればよいことになる。また、ユーザが、画像重要度の見直しを行う対象をある程度高い順位にランキングされた画像に絞り、処理負荷の低減を図りたいと考える場合には、最低順位を高めに設定すればよいことになる。
(19)前述の実施の形態1乃至3では、オブジェクト分類部105が、オブジェクト特徴量記憶部104に格納されている各オブジェクトの特徴量ベクトルに基づいて、K−means法を用いて、自動的に複数のクラスタを生成する例について説明したが、これに限定されるものではなく、例えば、Ward’s法等を用いて複数のクラスタを生成するものでもよい。
(20)前述の実施の形態4では、低重要度画像Inの画像重要度を[数7]の関係式を用いて補正する例について説明したが、これに限定されるものではない。例えば、画像重要度補正部117が、[数8]で表される関係式を用いて、低重要度画像Inの画像重要度Scnを補正して低重要度画像Inの新たな画像重要度Scn’を算出する。
Figure 0005723367
ここにおいて、Sgは、画像類似度、Scmは、高重要度画像Imの画像重要度、Scnは、低重要度画像Inの画像重要度、Ssavenは、低重要度画像Inに含まれるオブジェクトの大きさの平均値、Ssavemは、高重要度画像Imに含まれるオブジェクトの大きさの平均値、F(X)は単調増加関数を表す。
単調増加関数F(X)としては、例えば、対数関数や指数関数等が挙げられる。
<補足>
(1)本発明は、実施形態1で示した画像重要度の評価処理等を画像管理装置のプロセッサおよびそのプロセッサに接続された各種回路に実行させるためのプログラムコードからなる制御プログラムを、記録媒体に記録すること又は各種通信路等を介して流通させ頒布することもできる。このような記録媒体には、ICカード、ハードディスク、光ディスク、フレキシブルディスク、ROMなどがある。流通、頒布された制御プログラムはプロセッサに読み出されうるメモリなどに格納されることにより利用に供され、そのプロセッサがその制御プログラムを実行することにより各実施形態で示したような機能が実現されるようになる。なお、制御プログラムの一部を画像管理装置とは別個のプログラム実行可能な装置(プロセッサ)に各種ネットワークを介して送信して、その別個のプログラム実行可能な装置においてその制御プログラムの一部を実行させることとしてもよい。
(2)画像管理装置を構成する構成要素の一部又は全部は、1又は複数の集積回路(IC、LSIなど)として実装されることとしても良く、画像管理装置の構成要素に更に他の要素を加えて集積回路化(1チップ化)されることとしてもよい。
ここでは、LSIとしたが、集積度の違いにより、IC、システムLSI、スーパーLSI、ウルトラLSIと呼称されることもある。また、集積回路化の手法はLSIに限るものではなく、専用回路又は汎用プロセッサで実現してもよい。LSI製造後に、プログラムすることが可能なFPGA(Field ProgrammableGate Array)、LSI内部の回路セルの接続または設定を再構成可能なリコンフィギュラブル・プロセッサーを利用してもよい。さらには、半導体技術の進歩又は派生する別技術によりLSIに置き換わる集積回路化の技術が登場すれば、当然、その技術を用いて機能ブロックの集積化を行ってもよい。バイオ技術の適応等が可能性としてありえる。
本発明に係る端末装置および端末装置の制御方法は、静止画または動画を蓄積する装置、デジタルカメラ、カメラ付き携帯電話やムービーカメラなどの撮影装置および、パーソナルコンピュータなどに適用することができる。
100 画像管理装置
101 撮影装置
102 画像取得部
103 オブジェクト検出部
104 オブジェクト特徴量記憶部
105 オブジェクト分類部
106 オブジェクト重要度算出部
107 画像重要度算出部
108 画像ランキング部
109 画像内オブジェクト数抽出部
110 画像内オブジェクト数記憶部
111 画像選出部
112 高重要度画像選出部
113 低重要度画像選出部
114 画像内オブジェクト類似度決定部
115 画像内オブジェクト数比較判定部
116 画像内オブジェクト類似度算出部
117 画像重要度補正値算出部
118 画像リランキング部
119 画像出力部
120 表示装置
121,221 特徴量補正部
122 類似度平均値算出部
123,222 類似度判定部
215 オブジェクト選出部
223 類似度最高値算出部
323 画像重要度記憶部

Claims (15)

  1. 画像それぞれに含まれる複数のオブジェクトの特徴量に基づいて各画像の重要度を算出する画像重要度算出手段と、
    各画像の重要度に基づいて、第1の画像と前記第1の画像よりも重要度が低い第2の画像とを選出する画像選出手段と、
    前記第2の画像に含まれる複数のオブジェクトの特徴量を、前記第1の画像に含まれる複数のオブジェクトの特徴量と前記第2の画像に含まれる複数のオブジェクトの特徴量とをパラメータとする補正関数を使って補正する特徴量補正手段と、
    前記第1の画像に含まれるオブジェクトそれぞれの特徴量と前記特徴量補正手段が補正した前記第2の画像に含まれるオブジェクトそれぞれの特徴量とを用いて前記第1の画像と前記第2の画像との類似度である画像類似度を算出する画像類似度算出手段と、
    前記第1の画像の画像重要度と前記画像類似度算出手段で算出した前記画像類似度とに基づいて前記第2の画像の重要度を補正する画像重要度補正手段と
    を備えることを特徴とする画像管理装置。
  2. 前記第1の画像は、所定の重要度よりも高い重要度を有し、前記第2の画像は、前記所定の重要度よりも低い重要度を有する
    ことを特徴とする請求項1記載の画像管理装置。
  3. 前記第1の画像に含まれるオブジェクトの個数と前記第2の画像に含まれるオブジェクトの個数とを比較するオブジェクト数比較判定手段を備え、
    前記特徴量補正手段は、前記オブジェクト数比較判定手段により前記第1の画像に含まれるオブジェクトの個数と前記第2の画像に含まれるオブジェクトの個数とが同じと判定されると、前記第2の画像に含まれる複数のオブジェクトの特徴量を補正する
    ことを特徴とする請求項1記載の画像管理装置。
  4. 前記補正関数は、前記第2の画像に含まれる複数のオブジェクトの特徴量の平均値と前記第1の画像に含まれる複数のオブジェクトの特徴量の平均値とに基づいて算出した補正係数を使って前記第2の画像に含まれるオブジェクトの特徴量それぞれを補正する関数である
    ことを特徴とする請求項3に記載の画像管理装置。
  5. 前記補正係数は、前記第2の画像に含まれる複数のオブジェクトの特徴量の平均値に対する前記第1の画像に含まれる複数のオブジェクトの特徴量の平均値の比であり、
    前記補正関数は、前記補正係数を前記第2の画像に含まれるオブジェクトの特徴量それぞれに乗ずる関数である
    ことを特徴とする請求項4に記載の画像管理装置。
  6. 前記補正係数は、前記第2の画像に含まれる複数のオブジェクトの特徴量の平均値と前記第1の画像に含まれる複数のオブジェクトの特徴量の平均値との差分値であり、
    前記補正関数は、前記補正係数を前記第2の画像に含まれるオブジェクトの特徴量それぞれに加算する関数である
    ことを特徴とする請求項4に記載の画像管理装置。
  7. 前記画像類似度算出手段は、
    前記第1の画像に含まれる複数のオブジェクトそれぞれと前記第2の画像に含まれる複数のオブジェクトそれぞれとの類似度を算出し、算出した複数の類似度に基づいて前記第1の画像の含まれる複数のオブジェクトと前記第2の画像に含まれる複数のオブジェクトとを一対一に対応付ける画像内オブジェクト類似度算出手段と、
    前記画像内オブジェクト類似度算出手段により互いに一対一に対応付けられたオブジェクト同士の類似度の平均値を算出し前記画像類似度として出力する類似度平均値算出手段とを備える
    ことを特徴とする請求項5に記載の画像管理装置。
  8. 前記画像内オブジェクト類似度算出手段は、算出した複数の類似度の最高値に対応する2つのオブジェクトを対応付けし、その後、対応付けがなされたオブジェクトを除く他のオブジェクトの組み合わせに係る複数の類似度の最高値に対応する2つのオブジェクトを対応付けする
    ことを特徴とする請求項7記載の画像管理装置。
  9. 前記画像重要度補正手段は、更に、前記第1の画像に含まれるオブジェクトの大きさの平均値と前記第2の画像に含まれるオブジェクトの大きさの平均値とに基づいて前記第2の画像の重要度を補正する
    ことを特徴とする請求項1記載の画像管理装置。
  10. 前記画像重要度補正手段は、前記第2の画像の重要度を以下の関係式
    Figure 0005723367

    Sg:前記画像類似度、Scm:前記第1の画像の重要度、Scn:前記第2の画像の画像重要度、Ssaven:前記第2の画像に含まれるオブジェクトの大きさの平均値、Ssavem:前記第1の画像に含まれるオブジェクトの大きさの平均値
    を用いて補正する
    ことを特徴とする請求項9記載の画像管理装置。
  11. 画像それぞれに含まれるオブジェクトの特徴量に基づいて各画像の重要度を算出する画像重要度算出手段と、
    各画像の重要度に基づいて、第1の画像と前記第1の画像よりも重要度が低い第2の画像とを選出する画像選出手段と、
    前記第2の画像に含まれるオブジェクトの特徴量に対する前記第1の画像に含まれるオブジェクトの中から選択した1つのオブジェクトの特徴量の比を前記第2の画像に含まれる複数のオブジェクトの特徴量それぞれに乗ずる補正関数を使って前記第2の画像に含まれる複数のオブジェクトの特徴量を補正して出力する特徴量補正手段と、
    前記第1の画像に含まれるオブジェクトそれぞれの特徴量と前記特徴量補正手段から出力される第2の画像に含まれるオブジェクトの特徴量とを用いて前記第1の画像と前記第2の画像との類似度である画像類似度を算出する画像類似度算出手段と、
    前記画像類似度算出手段で算出した前記画像類似度に基づいて前記第2の画像の重要度を補正する画像重要度補正手段とを備える
    ことを特徴とする画像管理装置。
  12. コンピュータにより実現させる画像管理方法であって、
    画像それぞれに含まれる複数のオブジェクトの特徴量に基づいて各画像の重要度を算出する画像重要度算出ステップと、
    各画像の重要度に基づいて、第1の画像と前記第1の画像の重要度よりも低い重要度を有する第2の画像とを選出する画像選出ステップと、
    前記第2の画像に含まれる複数のオブジェクトの特徴量を、前記第1の画像に含まれる複数のオブジェクトの特徴量と前記第2の画像に含まれる複数のオブジェクトの特徴量とをパラメータとする補正関数を使って補正する特徴量補正ステップと、
    前記第1の画像に含まれるオブジェクトそれぞれの特徴量と前記特徴量補正ステップで補正した前記第2の画像に含まれるオブジェクトそれぞれの特徴量とを用いて前記第1の画像と前記第2の画像との類似度である画像類似度を算出する画像類似度算出ステップと、
    前記第1の画像の画像重要度と前記画像類似度算出ステップで算出した前記画像類似度に基づいて前記第2の画像の重要度を補正する画像重要度補正ステップと
    を含むことを特徴とする画像管理方法。
  13. 複数の画像の画像管理処理をコンピュータにより実現させる画像管理プログラムであって、前記画像管理処理は、
    画像それぞれに含まれる複数のオブジェクトの特徴量に基づいて各画像の重要度を算出する画像重要度算出ステップと、
    各画像の重要度に基づいて、第1の画像と前記第1の画像の重要度よりも低い重要度を有する第2の画像とを選出する画像選出ステップと、
    前記第2の画像に含まれる複数のオブジェクトの特徴量を、前記第1の画像に含まれるオブジェクトの特徴量と前記第2の画像に含まれるオブジェクトの特徴量とをパラメータとする補正関数を使って補正する特徴量補正ステップと、
    前記第1の画像に含まれるオブジェクトそれぞれの特徴量と前記特徴量補正ステップで補正した前記第2の画像に含まれるオブジェクトそれぞれの特徴量とを用いて前記第1の画像と前記第2の画像との類似度である画像類似度を算出する画像類似度算出ステップと、
    前記第1の画像の画像重要度と前記画像類似度算出ステップで算出した前記画像類似度に基づいて前記第2の画像の重要度を補正する画像重要度補正ステップと
    を含むことを特徴とする画像管理プログラム。
  14. 複数の画像の画像管理処理をコンピュータにより実現させる画像管理プログラムを記録した記録媒体であって、前記画像管理処理は、
    画像それぞれに含まれる複数のオブジェクトの特徴量に基づいて各画像の重要度を算出する画像重要度算出ステップと、
    各画像の重要度に基づいて、第1の画像と前記第1の画像よりも低い重要度を有する第2の画像とを選出する画像選出ステップと、
    前記第2の画像に含まれる複数のオブジェクトの特徴量を、前記第1の画像に含まれる複数のオブジェクトの特徴量と前記第2の画像に含まれる複数のオブジェクトの特徴量とをパラメータとする補正関数を使って補正する特徴量補正ステップと、
    前記第1の画像に含まれるオブジェクトそれぞれの特徴量と前記特徴量補正ステップで補正した前記第2の画像に含まれるオブジェクトそれぞれの特徴量とを用いて前記第1の画像と前記第2の画像との類似度である画像類似度を算出する画像類似度算出ステップと、
    前記第1の画像の画像重要度と前記画像類似度算出ステップで算出した前記画像類似度に基づいて前記第2の画像の重要度を補正する画像重要度補正ステップと
    を含むことを特徴とする記録媒体。
  15. 画像それぞれに含まれる複数のオブジェクトの特徴量に基づいて各画像の重要度を算出する画像重要度算出手段と、
    各画像の重要度に基づいて、第1の画像と前記第1の画像よりも低い重要度を有する第2の画像とを選出する画像選出手段と、
    前記第2の画像に含まれる複数のオブジェクトの特徴量を、前記第1の画像に含まれる複数のオブジェクトの特徴量と前記第2の画像に含まれる複数のオブジェクトの特徴量とをパラメータとする補正関数を使って補正する特徴量補正手段と、
    前記第1の画像に含まれるオブジェクトそれぞれの特徴量と前記特徴量補正手段が補正した前記第2の画像に含まれるオブジェクトそれぞれの特徴量とを用いて前記第1の画像と前記第2の画像との類似度である画像類似度を算出する画像類似度算出手段と、
    前記第1の画像の画像重要度と前記画像類似度算出手段で算出した前記画像類似度に基づいて前記第2の画像の重要度を補正する画像重要度補正手段と
    を備えることを特徴とする画像管理用集積回路。
JP2012525296A 2010-07-21 2011-04-14 画像管理装置、画像管理方法、プログラム、記録媒体及び画像管理用集積回路 Active JP5723367B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012525296A JP5723367B2 (ja) 2010-07-21 2011-04-14 画像管理装置、画像管理方法、プログラム、記録媒体及び画像管理用集積回路

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2010163811 2010-07-21
JP2010163811 2010-07-21
PCT/JP2011/002204 WO2012011213A1 (ja) 2010-07-21 2011-04-14 画像管理装置、画像管理方法、プログラム、記録媒体及び画像管理用集積回路
JP2012525296A JP5723367B2 (ja) 2010-07-21 2011-04-14 画像管理装置、画像管理方法、プログラム、記録媒体及び画像管理用集積回路

Publications (2)

Publication Number Publication Date
JPWO2012011213A1 JPWO2012011213A1 (ja) 2013-09-09
JP5723367B2 true JP5723367B2 (ja) 2015-05-27

Family

ID=45496651

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012525296A Active JP5723367B2 (ja) 2010-07-21 2011-04-14 画像管理装置、画像管理方法、プログラム、記録媒体及び画像管理用集積回路

Country Status (4)

Country Link
US (1) US20120170855A1 (ja)
JP (1) JP5723367B2 (ja)
CN (1) CN102511054B (ja)
WO (1) WO2012011213A1 (ja)

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2013157354A1 (ja) * 2012-04-18 2013-10-24 オリンパス株式会社 画像処理装置、プログラム及び画像処理方法
CN102708244B (zh) * 2012-05-08 2016-01-20 清华大学 一种基于重要度度量的概念图自动布图方法
JP6242072B2 (ja) * 2012-09-27 2017-12-06 オリンパス株式会社 画像処理装置、プログラム及び画像処理装置の作動方法
US9369662B2 (en) * 2013-04-25 2016-06-14 Microsoft Technology Licensing, Llc Smart gallery and automatic music video creation from a set of photos
CN104639823A (zh) * 2013-11-14 2015-05-20 索尼公司 图像形成方法、装置以及电子设备
WO2016006379A1 (ja) 2014-07-10 2016-01-14 オリンパス株式会社 エネルギー処置ユニット及びエネルギー処置具
JP5925919B1 (ja) * 2015-01-07 2016-05-25 株式会社ぐるなび 情報提供サーバ
CN109684899A (zh) * 2017-10-18 2019-04-26 大猩猩科技股份有限公司 一种基于在线学习的人脸辨识方法与系统
JP7196467B2 (ja) * 2018-08-29 2022-12-27 カシオ計算機株式会社 開閉状態判定装置、開閉状態判定方法及びプログラム
JP2022172787A (ja) * 2021-05-07 2022-11-17 富士フイルムビジネスイノベーション株式会社 情報処理装置及びプログラム

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002318812A (ja) * 2001-04-23 2002-10-31 Olympus Optical Co Ltd 類似画像検索装置,類似画像検索方法並びに類似画像検索プログラム
JP2004046591A (ja) * 2002-07-12 2004-02-12 Konica Minolta Holdings Inc 画像評価装置
JP2005020446A (ja) * 2003-06-26 2005-01-20 Casio Comput Co Ltd 画像撮影装置及びプログラム
WO2005031612A1 (ja) * 2003-09-26 2005-04-07 Nikon Corporation 電子画像蓄積方法、電子画像蓄積装置、及び電子画像蓄積システム
JP2006338313A (ja) * 2005-06-01 2006-12-14 Nippon Telegr & Teleph Corp <Ntt> 類似画像検索方法,類似画像検索システム,類似画像検索プログラム及び記録媒体
JP2007049387A (ja) * 2005-08-09 2007-02-22 Canon Inc 画像出力装置及び画像出力方法
JP2007060562A (ja) * 2005-08-26 2007-03-08 Fujifilm Holdings Corp 画像処理装置、画像処理方法及び画像処理プログラム

Family Cites Families (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5027417A (en) * 1989-03-31 1991-06-25 Dainippon Screen Mfg. Co., Ltd. Method of and apparatus for inspecting conductive pattern on printed board
US6246787B1 (en) * 1996-05-31 2001-06-12 Texas Instruments Incorporated System and method for knowledgebase generation and management
EP1056064B1 (en) * 1999-05-28 2007-12-12 Nippon Telegraph and Telephone Corporation Apparatus and method for speed measurement of vehicles with an image processing system
ATE358944T1 (de) * 1999-07-29 2007-04-15 Canon Kk Bildverarbeitungssystem, -vorrichtung sowie verfahren und aufzeichnungsmedium
US6584221B1 (en) * 1999-08-30 2003-06-24 Mitsubishi Electric Research Laboratories, Inc. Method for image retrieval with multiple regions of interest
US6836345B1 (en) * 2000-03-29 2004-12-28 Eastman Kodak Company Method for including traditional photographic calibration into digital color management
US7136508B2 (en) * 2000-11-09 2006-11-14 Minolta Co., Ltd. Image processing apparatus, method, and program for processing a moving image
JP2002190020A (ja) * 2000-12-20 2002-07-05 Monolith Co Ltd 映像効果方法および装置
JP3846851B2 (ja) * 2001-02-01 2006-11-15 松下電器産業株式会社 画像のマッチング処理方法及びその装置
GB0201232D0 (en) * 2002-01-19 2002-03-06 Queen Mary & Westfield College Authentication systems
US7386185B2 (en) * 2002-02-12 2008-06-10 Matsushita Electric Industrial Co., Ltd. Image processing device and image processing method
JP3870796B2 (ja) * 2002-02-12 2007-01-24 松下電器産業株式会社 画像処理装置及び画像処理方法
JP4369922B2 (ja) * 2003-03-07 2009-11-25 日本電信電話株式会社 生体画像照合装置およびその照合方法
CN100565556C (zh) * 2004-05-14 2009-12-02 欧姆龙株式会社 特定被摄体检测装置
JP4641414B2 (ja) * 2004-12-07 2011-03-02 キヤノン株式会社 文書画像検索装置、文書画像検索方法、プログラム、記憶媒体
US7801392B2 (en) * 2005-07-21 2010-09-21 Fuji Xerox Co., Ltd. Image search system, image search method, and storage medium
US20070274609A1 (en) * 2006-05-23 2007-11-29 Hitachi High-Technologies Corporation Image Search Apparatus, Image Search System, Image Search Method, and Program for Executing Image Search Method
US8031914B2 (en) * 2006-10-11 2011-10-04 Hewlett-Packard Development Company, L.P. Face-based image clustering
WO2008079301A2 (en) * 2006-12-21 2008-07-03 Massachusetts Institute Of Technology Methods and apparatus for 3d surface imaging using active wave-front sampling
JP4674627B2 (ja) * 2008-10-07 2011-04-20 富士ゼロックス株式会社 情報処理装置、遠隔指示システム及びプログラム
US8406532B2 (en) * 2009-06-17 2013-03-26 Chevron U.S.A., Inc. Image matching using line signature

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002318812A (ja) * 2001-04-23 2002-10-31 Olympus Optical Co Ltd 類似画像検索装置,類似画像検索方法並びに類似画像検索プログラム
JP2004046591A (ja) * 2002-07-12 2004-02-12 Konica Minolta Holdings Inc 画像評価装置
JP2005020446A (ja) * 2003-06-26 2005-01-20 Casio Comput Co Ltd 画像撮影装置及びプログラム
WO2005031612A1 (ja) * 2003-09-26 2005-04-07 Nikon Corporation 電子画像蓄積方法、電子画像蓄積装置、及び電子画像蓄積システム
JP2006338313A (ja) * 2005-06-01 2006-12-14 Nippon Telegr & Teleph Corp <Ntt> 類似画像検索方法,類似画像検索システム,類似画像検索プログラム及び記録媒体
JP2007049387A (ja) * 2005-08-09 2007-02-22 Canon Inc 画像出力装置及び画像出力方法
JP2007060562A (ja) * 2005-08-26 2007-03-08 Fujifilm Holdings Corp 画像処理装置、画像処理方法及び画像処理プログラム

Also Published As

Publication number Publication date
WO2012011213A1 (ja) 2012-01-26
US20120170855A1 (en) 2012-07-05
CN102511054A (zh) 2012-06-20
JPWO2012011213A1 (ja) 2013-09-09
CN102511054B (zh) 2016-02-10

Similar Documents

Publication Publication Date Title
JP5723367B2 (ja) 画像管理装置、画像管理方法、プログラム、記録媒体及び画像管理用集積回路
US10839199B2 (en) Image selecting device, image selecting method, image pickup apparatus, and computer-readable medium
EP3128732B1 (en) Information processing method, information processing apparatus, and program
JP5936697B2 (ja) メモリが制限された環境における顔認識性能を改善するべく基準顔データベースを管理するための方法、装置およびコンピュータ可読記録媒体
KR100601997B1 (ko) 인물기반 디지털 사진 클러스터링 방법 및 장치와 이를이용한 인물기반 디지털 사진 앨버밍 방법 및 장치
US8929669B2 (en) Image evaluation apparatus that calculates an importance degree of each of a plurality of images
US8810688B2 (en) Information processing apparatus and information processing method
US20110205399A1 (en) Arranging Images Into Pages Using Content-based Filtering And Theme-based Clustering
TWI447658B (zh) 人臉影像擷取方法與裝置
JP6494503B2 (ja) 画像処理装置、画像処理方法、及びプログラム
WO2011001587A1 (ja) コンテンツ分類装置、コンテンツ分類方法及びコンテンツ分類プログラム
JP2007041964A (ja) 画像処理装置
US8837787B2 (en) System and method for associating a photo with a data structure node
WO2006096384A1 (en) Additive clustering of images lacking temporal information
US11094076B2 (en) Analysis apparatus, analysis method, and storage medium
US9087237B2 (en) Information processing apparatus, control method thereof, and storage medium
US20190197695A1 (en) Image processing apparatus, image processing method, and storage medium
US20150003680A1 (en) Information processing apparatus, method for processing information, and program
CN107506735A (zh) 照片归类方法以及归类系统
KR101138873B1 (ko) 인물 db 등록사진 수 축소 방법 및 장치
US8682834B2 (en) Information processing apparatus and information processing method
KR101100429B1 (ko) 포토 앨범 시스템의 반자동등록 방법 및 장치와, 이를 이용한 포토앨범 시스템
US20150120693A1 (en) Image search system and image search method
CN110942014B (zh) 人脸识别快速检索方法、装置、服务器及存储装置
CN110889438B (zh) 一种图像处理方法、装置、电子设备及存储介质

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20131213

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20140606

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150303

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150327

R150 Certificate of patent or registration of utility model

Ref document number: 5723367

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150