以下、本発明の実施の形態である画像管理装置について、図面を参照しながら説明する。
<1.概要>
図1は、本発明の実施の形態である画像管理装置100と、それに関連する装置により構成される画像管理システム10の例を示すシステム構成図である。画像管理装置100は、撮影装置110及び表示装置120と接続される。また、画像管理装置100はコントローラ130によるユーザの操作を受けることもできる。
撮影装置110は画像を撮影することができ、また撮影した画像を蓄積することができる装置であり、例えばデジタルカメラである。Universal Serial Bus(USB)ケーブルなどのケーブルを介して、蓄積している画像群を画像管理装置100へ入力する。
ここでいう画像とは、画素値のデータの集合である。画像は例えば、写真などの静止画像でも良いし、動画像でも良い。ここでは画像は写真であり、静止画像であるとする。
表示装置120は、High−Definition Multimedia Interface(HDMI)ケーブルなどのケーブルを介して画像管理装置100と接続されることにより、画像管理装置100から出力される映像を表示する装置であり、例えばデジタルテレビである。
画像管理装置100は、撮影装置110から画像群を入力され、入力された画像群を画像の重要度である画像重要度に基づいてランキングして、ランキング結果を表示装置120に出力する。画像管理装置100は、特定のパターンを持つオブジェクトを画像中から検出し、ユーザにとって重要度が高いと評価されるオブジェクトが多数含まれている画像を画像重要度が高い画像として評価する。このため、画像重要度の高い画像から画像重要度の低い画像へ順に画像を探すことで、ユーザは自分にとって重要な画像を容易に選択することができる。
ここでオブジェクトとは、画像管理装置100が持つテンプレートによって画像中において検出される要素である。テンプレートはオブジェクトを特定するための情報を有し、このテンプレートは例えば人物の顔に係る特徴量のパターンを示すデータであり、このテンプレートを用いると人物の顔をオブジェクトとして検出できる。
画像管理装置100は各オブジェクトに対して、そのオブジェクトがユーザにとってどの程度重要であるかを示すオブジェクト重要度を評価する。オブジェクト重要度は、画像管理装置100がオブジェクトをクラスタに分類した結果に基づき、評価対象のオブジェクトと同じクラスタに属するオブジェクトの個数に基づいて評価する。
ここでクラスタとは、類似するオブジェクト特徴量を持つオブジェクトをひとまとめにして分類するときの分類の単位である。例えばオブジェクトが人物であるものとし、同一人物が撮影された複数の画像があったとしても、撮影状態の変化などによりそれぞれの画像から抽出された人物のオブジェクト特徴量が全く同じにはならない場合が多い。しかし同一人物であれば、全く同じでなくとも互いに類似するオブジェクト特徴量を持つと考えられるので、同じクラスタに属する可能性が高い。そのため、同じクラスタに属するオブジェクトを同一人物であるとみなすと、多く撮影された人物は同じクラスタに属するオブジェクトの個数が多くなり、オブジェクト重要度が高く評価される。
以下では、本発明に係る画像管理装置100の実施形態について更に詳しく説明する。
<2.実施形態1>
実施形態1では、オブジェクトとして人物の顔を検出し、オブジェクト重要度として人物の重要度を評価して、そのオブジェクト重要度に基づいて画像の画像重要度を評価してランキングする画像管理装置100について説明する。
<2−1.構成>
本発明の実施形態1である画像管理装置100は、ハードウェア構成に関しては、画像を入力するUSB入力端子、映像を出力するHDMI出力端子、データとプログラムとを記憶するメモリ及びプログラムを実行するプロセッサを備える。
図2は、本発明の実施形態1に係る画像管理装置100の機能構成を、それに関連する装置も含めて示したブロック図である。
図2において、画像管理装置100は、画像取得部201、画像記憶部202、オブジェクト検出部203、テンプレート記憶部204、オブジェクト出現情報記憶部205、オブジェクト特徴量記憶部206、オブジェクト分類部207、クラスタ特徴量記憶部208、クラスタ分類情報記憶部209、共起情報生成部210、類似度算出部211、確度算出部212、評価値算出部213、オブジェクト重要度評価部214、画像重要度評価部215、画像ランキング部216、画像出力部217及び操作入力部218から構成される。
画像取得部201は、USB入力端子などの入力インターフェースにより撮影装置110が蓄積している画像群を取得する機能を有する。画像取得部201は取得した画像群の各画像に対して画像ID(IDentifier)301を付与し、画像記憶部202に画像ID301と画像データ302とを対応付けて画像群300として格納する。
画像記憶部202は、画像取得部201で取得した画像群300に含まれる全画像の画像ID301と画像データ302とを記憶する機能を有する。画像記憶部202は、例えばメモリにより実現される。図3は、画像記憶部202が記憶している画像群300の例を示したものである。図3については、後に詳しく説明する。
オブジェクト検出部203は、画像記憶部202に格納されている画像群300の各画像から特徴量を抽出して、テンプレート記憶部204に格納されているテンプレートを用いてオブジェクトを検出し、検出したオブジェクトに対して各オブジェクトを特定するためのオブジェクトID402を付与する機能を有する。オブジェクト検出部203の機能は、例えばプロセッサがメモリに格納されているプログラムを実行することにより実現される。特徴量については、後に詳しく説明する。図4は、画像からオブジェクトを検出する例を示したものである。図4については、後に詳しく説明する。オブジェクト検出部203は更に、画像ごとに画像ID301とその画像において検出したオブジェクトのオブジェクトID402とを対応付けてオブジェクト出現情報500としてオブジェクト出現情報記憶部205に格納し、検出したオブジェクトごとにオブジェクトID402とそのオブジェクトの特徴量であるオブジェクト特徴量601とを対応付けてオブジェクト特徴量記憶部206に格納する。
テンプレート記憶部204は、オブジェクト検出部203で画像においてオブジェクトを検出するための情報を持つテンプレートを記憶している。テンプレート記憶部204は、例えばメモリにより実現される。ここで、テンプレートは人物の顔に係る特徴量のパターンを示すデータであり、テンプレート記憶部204は予め用意された学習データから生成されたテンプレートを記憶しているものとする。
オブジェクト出現情報記憶部205は、画像ごとにオブジェクト出現情報500を記憶する機能を有する。オブジェクト出現情報記憶部205は、例えばメモリにより実現される。図5は、オブジェクト出現情報記憶部205が記憶しているオブジェクト出現情報500の例を示している。図5については、後に詳しく説明する。
オブジェクト特徴量記憶部206は、オブジェクト検出部203で検出したオブジェクトが持つオブジェクト特徴量601をオブジェクトID402と共に記憶する機能を有する。オブジェクト特徴量記憶部206は、例えばメモリにより実現される。図6は、オブジェクト特徴量記憶部206が記憶しているオブジェクトのオブジェクト特徴量の例を示したものである。図6については、後に詳しく説明する。
オブジェクト分類部207は、オブジェクト特徴量記憶部206に格納されているオブジェクトのオブジェクト特徴量と、クラスタ特徴量記憶部208に格納されているクラスタのクラスタ特徴量702に基づいてオブジェクトをクラスタに分類する機能を有する。また、クラスタに分類されたオブジェクトのオブジェクト特徴量からクラスタのクラスタ特徴量702を算出する機能をも有する。クラスタには各クラスタを識別するためのクラスタID703を付与し、算出したクラスタ特徴量702はそのクラスタのクラスタID703と対応付けてクラスタ特徴量記憶部208に格納し、クラスタごとのクラスタID703とそのクラスタに分類したオブジェクトのオブジェクトID402とクラスタに分類されているオブジェクトの個数とを対応付けてクラスタ分類情報900としてクラスタ分類情報記憶部209に格納する。オブジェクト分類部207の機能は、例えばプロセッサがメモリに格納されているプログラムを実行することにより実現される。
クラスタ特徴量記憶部208は、クラスタが持つクラスタ特徴量702をクラスタID703と対応付けて記憶している。クラスタ特徴量記憶部208は、例えばメモリにより実現される。クラスタ特徴量記憶部208が記憶しているクラスタ特徴量702は、必要に応じてオブジェクト分類部207により更新される。
クラスタ分類情報記憶部209は、クラスタごとにクラスタ分類情報900を記憶する機能を有する。クラスタ分類情報記憶部209は、例えばメモリにより実現される。図9はクラスタ分類情報記憶部209が記憶しているクラスタ分類情報900の例を示している。図9については、後に詳しく説明する。
共起情報生成部210は、オブジェクト出現情報記憶部205に格納されているオブジェクト出現情報500と、クラスタ分類情報記憶部209に格納されているクラスタ分類情報900とから、画像群300の各画像における共起関係と非共起の状態とを検出して共起情報1100を生成する機能を有する。共起情報生成部210の機能は、例えばプロセッサがメモリに格納されているプログラムを実行することにより実現される。共起情報1100については、後に詳しく説明する。
類似度算出部211は、オブジェクト特徴量記憶部206に格納されているオブジェクトのオブジェクト特徴量と、クラスタ特徴量記憶部208に格納されているクラスタのクラスタ特徴量702とが、どの程度類似しているかを示す類似度1201を算出する機能を有する。類似度算出部211の機能は、例えばプロセッサがメモリに格納されているプログラムを実行することにより実現される。
確度算出部212は、評価値算出部213で評価値1401の算出処理に使用される確度1301を、共起情報生成部210が生成した共起情報1100と類似度算出部211が算出した類似度1201とに基づいて算出する機能を有する。確度算出部212の機能は、例えばプロセッサがメモリに格納されているプログラムを実行することにより実現される。
評価値算出部213は、確度算出部212で算出された確度1301と、クラスタ分類情報記憶部209に格納されているクラスタに分類されているオブジェクトの個数とから、オブジェクトのクラスタに対する評価値1401を算出する機能を有する。評価値算出部213の機能は、例えばプロセッサがメモリに格納されているプログラムを実行することにより実現される。
オブジェクト重要度評価部214は、評価値算出部213で算出された評価値1401に基づいて、オブジェクトのオブジェクト重要度1501を評価する機能を有する。オブジェクト重要度評価部214の機能は、例えばプロセッサがメモリに格納されているプログラムを実行することにより実現される。
画像重要度評価部215は、オブジェクト出現情報記憶部205に格納されているオブジェクト出現情報500と、オブジェクト重要度評価部214に格納されているオブジェクト重要度1501とに基づいて画像の画像重要度1601を評価する機能を有する。画像重要度評価部215の機能は、例えばプロセッサがメモリに格納されているプログラムを実行することにより実現される。
画像ランキング部216は、画像重要度評価部215が評価した画像重要度1601に基づいて、画像群300を順序付けする機能を有する。画像ランキング部216の機能は、例えばプロセッサがメモリに格納されているプログラムを実行することにより実現される。
画像出力部217は、画像記憶部202に記憶されている画像群300を、画像ランキング部216により順序付けされた順序に基づいて、HDMI出力端子などの出力インターフェースにより表示装置120に表示させる機能を有する。また、操作入力部218から受信した制御信号により、出力画像の表示態様を変化させることができる。例えば、画像数が多くて全画像が画面に収まりきらない場合に、表示されていない画像を表示するように画面をスクロールさせることができる。画像出力部217の機能は例えば、プロセッサがメモリに格納されているプログラムを実行することにより実現される。
操作入力部218は、赤外線受光器などによりコントローラ130から発せられるユーザの操作を受け付け、操作に対応する制御信号を画像出力部217に送信する機能を有する。操作入力部218の機能は例えば、プロセッサがメモリに格納されているプログラムを実行することにより実現される。
<2−2.データ>
次に、上述の構成を備える画像管理装置100が取り扱う情報について説明する。
<2−2−1.画像群>
画像群300は画像管理装置100がランキングする対象の複数の画像である。画像群300は、画像取得部201で撮影装置110から入力された複数の画像から生成され、画像記憶部202に格納されて、オブジェクト検出部203及び画像出力部217により使用される。
図3は画像群300のデータ構成及び内容例を示す図である。同図に示すように、画像群300は各画像を識別するための画像ID301と画像データ302とにより構成されている。
画像ID301は、画像管理装置100内で各画像を一意に識別するための識別子であり、画像データ302に対して一対一に対応するように画像取得部201により付与される。画像ID301は、画像取得部201により生成される。画像ID301は例えば、画像取得部201が撮影装置110から画像を取得した順番に1から番号を振り、その番号の先頭にアルファベットの“I”を付加したものとする。
図3の例では、画像データ302aにはI001、画像データ302bにはI002、画像データ302cにはI003、画像データ302dにはI004の画像ID301が付与されている。
なお、以下では図3に挙げた画像を具体例にとって説明を行うとき、その画像を画像ID301で呼ぶこととする。例えば、I001の画像ID301で識別される画像は画像I001と呼ぶ。
<2−2−2.オブジェクト出現情報>
オブジェクト出現情報500は、どの画像においてどのオブジェクトが検出されたのかを示す情報である。オブジェクト出現情報500は、オブジェクト検出部203により生成され、オブジェクト出現情報記憶部205に格納されて、共起情報生成部210、確度算出部212及び画像重要度評価部215により使用される。
図4はオブジェクト検出部203がオブジェクトを検出した領域401及びその領域401で検出されたオブジェクトのオブジェクトID402の例を示したものであり、図5はオブジェクト出現情報500のデータ構成及び図4に対応する内容例である。
図5に示すように、オブジェクト出現情報500は画像ごとに、画像ID301と、その画像において検出されたオブジェクトの各オブジェクトを識別するためのオブジェクトID402との組で表される。画像に含まれているオブジェクトは1つの場合もあるし、複数存在する場合や1つも含まれない場合もある。
オブジェクトID402は、画像管理装置100内で各オブジェクトを一意に識別するための識別子であり、オブジェクトに対して一対一に対応するようにオブジェクト検出部203により付与される。オブジェクトID402は、オブジェクト検出部203により生成される。オブジェクトID402は例えば、オブジェクト検出部203がオブジェクトを検出した順番に1から番号を振り、その番号の先頭にアルファベットの“O”を付加したものとする。
図4の例では、領域401aで検出されたオブジェクトにはO001、領域401bで検出されたオブジェクトにはO002、領域401cで検出されたオブジェクトにはO003、領域401dで検出されたオブジェクトにはO004、領域401eで検出されたオブジェクトにはO005、領域401fで検出されたオブジェクトにはO006のオブジェクトID402がそれぞれ付与されている。
なお、以下では図4に挙げたオブジェクトを具体例にとって説明を行うとき、そのオブジェクトをオブジェクトID402で呼ぶこととする。例えば、O001のオブジェクトID402で識別されるオブジェクトはオブジェクトO001と呼ぶ。
オブジェクト出現情報500を用いると、特定の画像中に含まれるオブジェクトのオブジェクトID402を取得することができ、逆に特定のオブジェクトが含まれる画像の画像ID301を取得することもできる。
図5の例では、画像I002には、オブジェクトO003、オブジェクトO004及びオブジェクトO005が含まれていることがオブジェクト出現情報500からわかる。また、オブジェクトO002が含まれている画像は、画像I001であることがわかる。
<2−2−3.特徴量>
特徴量とは、画像中の複数の画素に係る画素値の分布に係る特徴を示したものである。例えば特徴量は画像の特徴を示す複数の数値を成分とするベクトルである。画像の特徴には、Gaborフィルタを用いて得られる画像データの画素値の分布の周期性や方向性などがあり、人物の顔に係る特徴量の場合、画素値の分布の周期性や方向性などから目と認識された点2つの間の距離や、鼻と認識された点と口と認識された点との距離などの量を成分とすることができる。
オブジェクト特徴量601は、オブジェクト検出部203により抽出された特徴量のうちオブジェクトとして検出された特徴量であり、オブジェクト検出部203により生成され、オブジェクトID402と共にオブジェクト特徴量記憶部206に格納される。そして、オブジェクト分類部207及び類似度算出部211で使用される。
図6は、オブジェクト特徴量記憶部206に格納されているオブジェクト特徴量601のデータ構成と内容例である。ここではオブジェクト特徴量601は、特徴量成分1、特徴量成分2、特徴量成分3を含む複数の特徴量成分から構成されている。
同図の例では、オブジェクトO001のオブジェクト特徴量601には、特徴量成分1が90.3、特徴量成分2が98.4、特徴量成分3が71.4として格納されている。
<2−2−4.クラスタ>
クラスタに関するデータとして、クラスタID703、クラスタ特徴量702、クラスタ分類情報900について説明する。
図7はオブジェクト分類部207がオブジェクトをクラスタに分類するイメージを示した図である。ここで、601a、601b、601c、601d、601e及び601fはそれぞれ、オブジェクトO001、オブジェクトO002、オブジェクトO003、オブジェクトO004、オブジェクトO005及びオブジェクトO006のオブジェクト特徴量601を示すものとし、以下、実施形態1の説明中では同様に符号とオブジェクトとが対応するものとする。
同図では、特徴量空間700にクラスタ701a、クラスタ701b、クラスタ701cの3つのクラスタがあり、クラスタの境界704により区切られている。
クラスタID703は、画像管理装置100内で各クラスタを一意に識別するための識別子であり、クラスタに対して一対一に対応するようにオブジェクト分類部207により付与される。クラスタID703は、オブジェクト分類部207により生成される。クラスタID703は例えば、オブジェクト分類部207がクラスタを生成した順番に1から番号を振り、その番号の先頭にアルファベットの“C”を付加したものとする。
図7の例では、クラスタ701aにはC001、クラスタ701bにはC002、クラスタ701cにはC003のクラスタID703が付与されている。
なお、以下では図7に挙げたクラスタを具体例にとって説明を行うとき、そのクラスタをクラスタID703で呼ぶこととする。例えば、C001のクラスタID703で識別されるクラスタはクラスタC001と呼ぶ。
クラスタ特徴量702は、クラスタが持つ特徴量のことで、クラスタに含まれている全オブジェクトのオブジェクト特徴量601を代表する値である。クラスタ特徴量702はクラスタ特徴量記憶部208に格納され、必要に応じてオブジェクト分類部207により生成、破棄及び更新される。
図8はクラスタ特徴量702のデータ構成及び図7のクラスタに対応するデータの内容例である。クラスタ特徴量702のデータ構成は、オブジェクト特徴量601と同様である。
クラスタ特徴量702は例えば、クラスタに含まれているオブジェクトのオブジェクト特徴量601の相加平均として算出される。
図8の例では、クラスタC001のクラスタ特徴量702には、特徴量成分1が94.4、特徴量成分2が90.2、特徴量成分3が79.8として格納されている。
クラスタ分類情報900は、オブジェクト分類部207がどのオブジェクトをどのクラスタに分類したのかを示す情報である。クラスタ分類情報900は、オブジェクト分類部207により生成され、クラスタ分類情報記憶部209に格納されて、共起情報生成部210及び評価値算出部213で使用される。
図9はクラスタ分類情報900のデータ構成及び図7のクラスタに対応するデータの内容例である。クラスタ分類情報900はクラスタごとに、クラスタID703と、そのクラスタに属する各オブジェクトのオブジェクトID402と、そのクラスタに属するオブジェクトの個数901との組で構成される。
図7の例では、701aの符号で示されるクラスタC001には、601a、601b、601cのオブジェクト特徴量601をそれぞれ持つオブジェクトO001、オブジェクトO003及びオブジェクトO006が属しており、図7に対応する図9の例では、クラスタC001のクラスタ分類情報900には、オブジェクトO001、オブジェクトO003、オブジェクトO006が属しており、クラスタC001に属するオブジェクトの個数901は全部で30個あるという情報が格納されている。
<2−2−5.共起情報>
ここではまず共起及び非共起について説明し、続いて共起情報1100について説明する。
一般的に共起とは、2つの事象が共に起こっていることを指す。例えば、1つの画像中にクラスタAに属するオブジェクトとクラスタBに属するオブジェクトとが共に含まれているとき、その画像において「クラスタAに属するオブジェクトが含まれる」という事象と「クラスタBに属するオブジェクトが含まれる」という事象とが共起しているといえる。
ここでは、1つの画像において「クラスタAに属するオブジェクトが含まれる」という事象と「クラスタBに属するオブジェクトが含まれる」という事象とが共起していることを、クラスタAとクラスタBとが共起しているというものとする。すなわち、1つの画像中にクラスタAに属するオブジェクトとクラスタBに属するオブジェクトとが共に含まれているとき、クラスタAとクラスタBとが共起しているとする。
また、クラスタAとクラスタBとが共起しているとき、クラスタAとクラスタBとの間に共起関係があるといい、特に「クラスタAに属するオブジェクトが含まれる」という事象が起きた場合に「クラスタBに属するオブジェクトが含まれる」という事象が起きるとき、クラスタAからクラスタBに対する共起関係があるということにする。
図10は共起関係のイメージ図である。破線の矢印1001は共起関係を示しており、同じ画像中に共に含まれているオブジェクト同士をつないでいる。
例えば、オブジェクトaが含まれる画像中にオブジェクトbが共に含まれていた場合には、オブジェクトaからオブジェクトbに向かう矢印1001を付けている。また同時に、オブジェクトbが含まれる画像中にオブジェクトaが共に含まれているともいえるので、オブジェクトbからオブジェクトaに向かう矢印1001も付けている。そして、クラスタAに属するオブジェクトaからクラスタBに属するオブジェクトbに向かって矢印1001が付けられている場合にはクラスタAからクラスタBに対する共起関係がある。
図10の例では、601aに対応するオブジェクトO001が含まれている画像には601bに対応するオブジェクトO002が共に含まれているため、それぞれが属するクラスタC001(701a)からクラスタC002(701b)に対する共起関係があるといえる。同時に、オブジェクトO002が含まれている画像にはオブジェクトO001が共に含まれているため、クラスタC002からクラスタC001に対する共起関係もあるといえる。
また、非共起とは共起していないことを意味し、ここでは特に、あるクラスタが1つの画像においてどのクラスタとも共起していないことを指す。すなわち、ここで非共起とはあるクラスタに属するオブジェクトが1つの画像において唯1つのみ含まれている事象を指す。
図10の例では、矢印で結ばれていない601fに対応するオブジェクトO006は画像中に単独で含まれており、同じ画像に共に含まれているオブジェクトがないため、オブジェクトO006を含む画像においてオブジェクトO006が属するクラスタC001(701a)は非共起の状態であるといえる。
共起情報1100は、クラスタ間の共起に関する情報であり、共起情報生成部210により生成され、確度算出部212で使用される。
図11は共起情報1100のデータ構成及び内容例である。共起情報1100は、どのクラスタからどのクラスタに対する共起関係が画像群300の全画像においてどの程度あるかを示す共起度1101と、どのクラスタの非共起の状態が画像群300の全画像においてどの程度あるかを示す非共起度1102とにより構成されている。
共起度1101は、ここでは画像群300の中で共起関係が検出された回数とする。クラスタAのクラスタBに対する共起度1101というと、画像群300の中でクラスタAのクラスタBに対する共起関係が検出された回数である。
非共起度1102は、ここでは画像群300の中で非共起の状態が検出された回数とする。クラスタAの非共起度1102というと、画像群300の中でクラスタAの非共起の状態が検出された回数であり、クラスタAに属するオブジェクトが単独で含まれる画像の枚数と一致する。
図11の例では、クラスタC001の、クラスタC001に対する共起度1101は0、クラスタC002に対する共起度1101は8、クラスタC003に対する共起度1101は2、そして非共起度1102は5である。
前述の例において、クラスタC001のクラスタC001に対する共起度1101が0であるのは、クラスタC001に属するオブジェクトが含まれる画像には、そのオブジェクトの他にクラスタC001に属するオブジェクトが含まれていないことを意味する。
また、クラスタC001のクラスタC002に対する共起度1101が8であるのは、クラスタC001に属するオブジェクトが含まれる画像にクラスタC002に属するオブジェクトが含まれる回数が8回であることを意味する。
そして、クラスタC001の非共起度1102が5であるのは、クラスタC001に属するオブジェクトが含まれる画像に他のオブジェクトが含まれていない回数が5回であることを意味する。すなわち、クラスタC001に属するオブジェクトが単独で含まれる画像の枚数は5枚である。
<2−2−6.類似度>
類似度1201は、オブジェクトのオブジェクト特徴量601とクラスタのクラスタ特徴量702とがどの程度近い値を持つかを示す値である。類似度1201は、類似度算出部211によって生成され、確度算出部212により使用される。
図12は類似度1201のデータ構成及び内容例である。類似度1201はオブジェクトのオブジェクトID402とクラスタのクラスタID703との組み合わせに対する数値で構成される。
類似度1201は、例えば特徴量空間700におけるオブジェクトのオブジェクト特徴量601を示すベクトルとクラスタのクラスタ特徴量702を示すベクトルとの内積で表される数値や、オブジェクトのオブジェクト特徴量601とクラスタのクラスタ特徴量702との差から算出する数値などとすることができる。ここでは類似度1201はオブジェクトのオブジェクト特徴量601とクラスタのクラスタ特徴量702との差から算出されるものとする。
図12の例では、オブジェクトO003のクラスタC001、クラスタC002及びクラスタC003に対する類似度1201はそれぞれ0.50、0.46及び0.42となっている。
<2−2−7.確度>
確度1301は、オブジェクトのクラスタとの関連の高さを、類似度1201だけでなく共起情報1100をも用いて示した値である。確度1301は、確度算出部212により生成され、評価値算出部213で使用される。確度1301を用いることで、類似度1201だけから関連の高さを判断するよりも精度良く関連の高さを評価することができる。
オブジェクトAのクラスタBに対する確度1301は、ここではオブジェクトAのクラスタBに対する類似度1201と、クラスタBの共起情報1100とに基づいて算出されるものとする。算出方法については、後に詳しく説明する。
図13は、確度1301のデータ構成と内容例である。確度1301はオブジェクトのオブジェクトID402とクラスタのクラスタID703との組み合わせに対する数値で構成される。
同図の例では、オブジェクトO003のクラスタC001、クラスタC002及びクラスタC003に対する確度1301はそれぞれ0.46、0.53及び0.39となっている。
<2−2−8.評価値>
評価値1401は、オブジェクトとクラスタとの組み合わせに対して算出される重要度であり、後述するオブジェクト重要度1501は評価値1401に基づいて評価される。評価値1401は、評価値算出部213により生成され、オブジェクト重要度評価部214により使用される。
オブジェクトAのクラスタBに対する評価値1401は、ここではオブジェクトAのクラスタBに対する確度1301と、クラスタBに属するオブジェクトの個数901との積として算出されるものとする。
図14は、評価値1401のデータ構成及び内容例である。評価値1401はオブジェクトのオブジェクトID402とクラスタのクラスタID703との組み合わせに対する数値で構成される。
同図の例では、オブジェクトO003のクラスタC001、クラスタC002及びクラスタC003に対する評価値1401はそれぞれ13.6、14.2及び7.77となっている。
前述の例において、オブジェクトO003のクラスタC001に対する評価値1401は、オブジェクトO003のクラスタC001に対する確度1301である0.46と、クラスタC001に属するオブジェクトの個数901である30との積で13.6となっている。
<2−2−8.オブジェクト重要度>
オブジェクト重要度1501は、オブジェクトごとに評価される重要度であり、後述する画像重要度1601はオブジェクトのオブジェクト重要度1501に基づいて評価される。オブジェクト重要度1501は、オブジェクト重要度評価部214により生成され、画像重要度評価部215に使用される。
オブジェクトのオブジェクト重要度1501は、ここではそのオブジェクトの各クラスタに対する評価値1401の合計として評価されるものとする。
図15はオブジェクト重要度1501のデータ構成及び内容例である。オブジェクト重要度1501はオブジェクトのオブジェクトID402に対する数値で構成される。
同図の例では、オブジェクトO001、オブジェクトO002及びオブジェクトO003のオブジェクト重要度1501はそれぞれ40.3、25.6及び38.1となっている。
前述の例において、オブジェクトO001は、オブジェクトO001のクラスタC001に対する評価値1401の13.6と、クラスタC002に対する評価値1401の14.2と、クラスタC003に対する評価値1401の7.77と、他のクラスタに対する評価値1401とを全て足し合わせて、40.3となっている。
<2−2−9.画像重要度>
画像重要度1601は、画像ごとに評価される重要度であり、画像管理装置100は画像群300を各画像の画像重要度1601に基づいてランキングする。画像重要度1601は、画像重要度評価部215により生成され、画像ランキング部216に使用される。
画像の画像重要度1601は、ここではその画像中に含まれる全オブジェクトのオブジェクト重要度1501の合計として評価されるものとする。
図16は画像重要度1601のデータ構成及び内容例である。画像重要度1601は画像の画像ID301に対する数値で構成される。
同図の例では、画像I001、画像I002、画像I003及び画像I004の画像重要度1601はそれぞれ65.9、89.4、28.8及び0となっている。
前述の例において、画像I001の画像重要度1601は、オブジェクトO001のオブジェクト重要度1501の40.3と、オブジェクトO002のオブジェクト重要度1501の25.6とを足し合わせて、65.9となっている。
画像重要度1601に基づいて画像群300の各画像を並べた結果の一例を図17に示す。同図の例ではランキング結果1700は、128の画像重要度1601を持つ画像I017の順位1701が1位であり、2位以下に画像I002、画像I001及び画像I072が続いている。
<2−3.動作>
次に、本発明に係る画像管理装置100の動作について説明する。
<2−3−1.動作の概要>
図18のフローチャートを用いて画像管理装置100が行う動作の概要を説明する。
まず、画像取得部201が撮影装置110に蓄積されている画像群を取得する。そして取得した画像群300の各画像データ302を、それぞれの画像を識別するための画像ID301と共に画像記憶部202に格納する(S1801)。
次に、オブジェクト検出部203が、画像記憶部202に格納されている各画像においてオブジェクト特徴量601を抽出し、オブジェクトを検出する(S1802)。オブジェクト検出部203は画像ごとにオブジェクト出現情報500を生成し、オブジェクト出現情報記憶部205に格納する。そして、検出したオブジェクトのオブジェクト特徴量601はオブジェクトID402と対応付けてオブジェクト特徴量記憶部206に格納する。オブジェクトの検出処理については、後に詳しく説明する。
次に、オブジェクト分類部207が、オブジェクト検出部203が検出した全オブジェクトを、オブジェクト特徴量記憶部206に格納されている各オブジェクトのオブジェクト特徴量601によりクラスタに分類する(S1803)。また、クラスタを代表するクラスタ特徴量702も、オブジェクト分類部207が算出する。分類した結果であるクラスタ分類情報900はクラスタ分類情報記憶部209に格納する。また、算出したクラスタ特徴量702はクラスタ特徴量記憶部208に格納する。オブジェクトの分類処理については、後に詳しく説明する。
次に、類似度算出部211が、オブジェクト特徴量記憶部206に格納されている各オブジェクトのオブジェクト特徴量601とクラスタ分類情報記憶部209に格納されているクラスタ特徴量702とから、各オブジェクトと各クラスタとの類似度1201を算出する(S1804〜S1806)。
次に、共起情報生成部210が、オブジェクト出現情報記憶部205に格納されているオブジェクト出現情報500と、クラスタ分類情報記憶部209に格納されているクラスタ分類情報900とから、画像群300における共起関係と非共起の状態とを検出して全クラスタの共起情報1100を生成する(S1807)。共起情報1100の生成処理については、後に詳しく説明する。
次に、確度算出部212が、類似度算出部211が算出した類似度1201と、共起情報生成部210が生成した共起情報1100とに基づいて各オブジェクトの各クラスタに対する確度1301を算出して、評価値算出部213が、確度算出部212が算出した確度1301と、クラスタ分類情報記憶部209に格納されているクラスタ分類情報900とに基づいて各オブジェクトの各クラスタに対する評価値1401を算出する(S1808〜S1809)。確度1301の算出処理及び評価値1401の算出処理については、後に詳しく説明する。
次に、オブジェクト重要度評価部214が、評価値算出部213が算出した評価値1401に基づいて各オブジェクトのオブジェクト重要度1501を評価する(S1810〜S1811)。オブジェクト重要度1501はここでは、評価対象となるオブジェクトの各クラスタに対する評価値1401全ての合計として評価する。
次に、画像重要度評価部215が、オブジェクト重要度評価部214が評価したオブジェクト重要度1501と、オブジェクト出現情報記憶部205に格納されているオブジェクト出現情報500とに基づいて各画像の画像重要度1601を評価する(S1812〜S1813)。画像の画像重要度1601はここでは、画像中に含まれている全オブジェクトのオブジェクト重要度1501の合計とする。また、オブジェクトが含まれていない場合は、画像の画像重要度1601を0とする。
次に、画像ランキング部216が、画像重要度評価部215が評価した画像重要度1601によって画像群300をランキングする(S1814)。ここでは、画像重要度1601の数値の降順で各画像を並べるものとする。
最後に、画像出力部217が、画像ランキング部216がランキングした結果を出力する(S1815)。画像ランキング部216で並べ替えた順序と、操作入力部218で受け付けた操作とに基づいて、画像記憶部202に格納されている画像群300を整列し、表示装置120に対し出力する。
<2−3−2.オブジェクトの検出処理>
ここではオブジェクト検出部203が行うオブジェクトの検出処理(S1802)について述べる。
オブジェクト検出部203は、まずオブジェクトを検出する対象の画像から特徴量を抽出する。画像から特徴量を抽出する方法には、Gaborフィルタを用いて画像データの画素値の分布の周期性や方向性などの特徴量を抽出する方法がある。
次にオブジェクト検出部203は、抽出した特徴量をテンプレート記憶部204に格納されているテンプレートと照合して、オブジェクトを検出する。ここでは、抽出された特徴量が、テンプレートが持つ特徴量のパターンに当てはまる場合にオブジェクトが検出される。
オブジェクト検出部203が検出したオブジェクトに対しては、オブジェクトを検出した順番に1から番号を振り、その番号の先頭にアルファベットの“O”を付加したオブジェクトID402を付与する。
そしてオブジェクト検出部203は、オブジェクトの検出対象とした画像の画像ID301と、その画像において検出した全オブジェクトのオブジェクトID402との組をオブジェクト出現情報500としてオブジェクト出現情報記憶部205に格納する。また、オブジェクトを検出した領域401から抽出された特徴量をオブジェクト特徴量601としてオブジェクトID402と対応付けてオブジェクト特徴量記憶部206に格納する。
図4は、画像においてオブジェクトを検出する例を示したものである。同図の例では、画像データ302aにおいてオブジェクトO001とオブジェクトO002、画像302bにおいてオブジェクトO003とオブジェクトO004とオブジェクトO005、画像302cにおいてオブジェクトO006がそれぞれ検出されており、画像302dにおいてはオブジェクトは検出されていない。
前述の例において、オブジェクト検出部203は画像データ302aから特徴量を抽出し、画像データ302aに対応する画像I001において領域401aと領域401bとから抽出した特徴量が、テンプレート記憶部204に格納されているテンプレートで定められる基準を満たしているため、領域401aと領域401bとからオブジェクトを検出している。
領域401aと領域401bとから検出されたオブジェクトに対して、オブジェクト検出部203はそれぞれO001及びO002のオブジェクトID402を付与している。
そして、オブジェクト検出部203は図5のようにオブジェクト出現情報500をオブジェクト出現情報記憶部205に格納している。また、図6のようにオブジェクト特徴量601をオブジェクト特徴量記憶部206に格納している。
<2−3−3.オブジェクトの分類処理>
ここではオブジェクト分類部207が行うオブジェクトの分類処理(S1803)について述べる。
オブジェクト分類部207は、オブジェクト検出部203が検出した全オブジェクトを、オブジェクト特徴量記憶部206に格納されている各オブジェクトのオブジェクト特徴量601によりクラスタに分類する。
オブジェクトをクラスタに分類する方法には、K−means法を用いる方法がある。K−means法は、自動的にクラスタを生成してオブジェクトを分類する分類方法である。K−means法を用いると、クラスタを代表するクラスタ特徴量702は自動的に算出され、各オブジェクトはそのオブジェクトが持つオブジェクト特徴量601と最も近いクラスタ特徴量702を持つクラスタに分類される。
図7にK−means法による分類のイメージを示す。601a〜601iはそれぞれ対応するオブジェクトのオブジェクト特徴量601の特徴量空間700での位置を示している。701a〜701cはK−means法により生成されるクラスタであり、それぞれ702a〜702cの位置で示されるクラスタ特徴量702を持つ。
同図の例では、オブジェクトO001、オブジェクトO003、オブジェクトO006はオブジェクト特徴量601がクラスタC001のクラスタ特徴量702aに最も近いため、オブジェクト分類部207はこの3つのオブジェクトをクラスタ701aに分類する。同様にして、オブジェクトO002、オブジェクトO004、オブジェクトO007はクラスタ701bに分類し、オブジェクトO005、オブジェクトO008、オブジェクトO009はクラスタ701cに分類する。
オブジェクト分類部207は、701a〜701cはK−means法により生成されたクラスタに対して、クラスタが生成された順番に1から番号を振り、その番号の先頭にアルファベットの“C”を付加したクラスタID703を付与する。
分類した結果のクラスタ分類情報900はクラスタ分類情報記憶部209に格納する。図9は全オブジェクトをクラスタに分類した結果のクラスタ分類情報900の例である。
また、クラスタ特徴量702は、クラスタに属する全オブジェクトのオブジェクト特徴量601の相加平均として算出する。算出したクラスタ特徴量702はクラスタ特徴量記憶部208に格納する。図7はクラスタ特徴量702の例である。
<2−3−4.共起情報の生成処理>
ここでは共起情報生成部210が画像群300について行う共起情報1100の生成処理(S1807)について述べる。
共起情報生成部210は、画像群300の各画像におけるクラスタの共起関係と非共起の状態とを検出して全クラスタの共起情報1100を生成する。なお、ここでは1つの画像について共起関係又は非共起の状態を検出して共起情報1100を更新する処理を共起関係検出処理ということとする。
図19は、共起情報生成部210が共起情報1100を生成するときのフローチャートであり、ステップS1807の詳細を示したものである。なお、共起情報1100の生成処理を始める前には共起度1101及び非共起度1102は全て0で初期化されているものとする。
まず、画像群300の中の1つの画像kについて、オブジェクト出現情報記憶部205に格納されているオブジェクト出現情報500から、画像kにオブジェクトが含まれているか否かを判定する(S1901)。
オブジェクトが含まれていた場合は、後述する画像kについての共起関係検出処理を行う。オブジェクトが含まれていなかった場合は、なんら処理を行わずに画像kについての共起関係検出処理が終了したものとする。
画像kについての共起関係検出処理が終了したのち、いまだ共起関係検出処理を行っていない画像が存在するか否かを判定する(S1902)。存在する場合は、その画像のうち1つを次の画像kとし、S1901に戻る。存在しない場合は、共起情報生成部210は画像群300についての共起情報1100の生成処理を終了する。
画像kについての共起関係検出処理は、以下のように行う。
まず画像kの中に含まれるオブジェクトの数をオブジェクト出現情報500から調べる。このとき、オブジェクトの数が1であった場合と2以上であった場合とで場合分けを行う(S1903)。
オブジェクトの数が1であった場合は、唯1つ含まれているオブジェクトであるオブジェクトaは単独で画像中に含まれているため、オブジェクトaが属するクラスタAは画像kにおいて非共起の状態といえる。その場合には、オブジェクトaが属するクラスタAをクラスタ分類情報記憶部209に格納されているクラスタ分類情報900から取得する(S1904)。これによりオブジェクトaから非共起の状態を検出したものとし、クラスタAの非共起度1102を1増やす(S1905)。そして、画像kについての共起関係検出処理を終了する。
オブジェクトの数が2以上であった場合は、それぞれのオブジェクトが属するクラスタ間に共起関係があるといえる。例えば、画像I001においては、クラスタC001に属するオブジェクトO001と、クラスタC002に属するオブジェクトO002とが共に含まれている。そのため、画像I001においては、クラスタC001のクラスタC002に対する共起関係及びクラスタC002のクラスタC001に対する共起関係の2つの共起関係があるといえる。
オブジェクトの数が2以上であった場合は、次のように共起関係検出処理を行うものとする。ただしここで、オブジェクトaの属するクラスタAの、オブジェクトbの属するクラスタBに対する共起関係を検出するとき、オブジェクトaを共起元オブジェクト、オブジェクトbをオブジェクトaの共起先オブジェクトとそれぞれいうこととする。
まず画像kに含まれるオブジェクトの中から、いまだ共起元オブジェクトとして使用していないオブジェクトaを選び出す。そしてオブジェクトaが属するクラスタAをクラスタ分類情報900から取得する(S1906)。
次に、画像kに含まれるオブジェクトの中から、オブジェクトa以外で、いまだオブジェクトaの共起先オブジェクトとして使用していないオブジェクトbを選び出す。そして、オブジェクトbが属するクラスタBをクラスタ分類情報900から取得する(S1907)。これにより共起元オブジェクトaと共起先オブジェクトbから共起関係を検出したものとし、クラスタAのクラスタBに対する共起度1101を1増やす(S1908)。これによりオブジェクトbはオブジェクトaの共起先オブジェクトとして使用が終了したものとする。
更に画像k中に、いまだオブジェクトaの共起先オブジェクトとして使用していないオブジェクトが存在するか否かを判定する(S1909)。
存在する場合は、そのオブジェクトのうち1つを次のオブジェクトbとし、S1907に戻る。存在しない場合は、オブジェクトaは共起元オブジェクトとしての使用が終了したものとする。
オブジェクトaの共起元オブジェクトとしての使用が終了したら、画像k中に更にいまだ共起元オブジェクトとして使用していないオブジェクトが存在するか否かを判定する(S1910)。存在する場合、そのオブジェクトのうち1つを次のオブジェクトaとし、S1906に戻る。存在しない場合、画像kについての共起関係検出処理を終了する。
<2−3−5.評価値の算出処理>
ここでは評価値算出部213が行う評価値1401の算出処理(S1808)について述べる。
評価値算出部213は、確度算出部212で算出される確度1301と、クラスタ分類情報記憶部209に格納されているクラスタに属するオブジェクトの個数901とに基づいて、オブジェクトのクラスタに対する評価値1401を算出する。
あるオブジェクトjのあるクラスタIに対する評価値1401を求める場合、評価値算出部213はその評価値1401を、確度算出部212で算出される、オブジェクトjのクラスタIに対する確度1301と、クラスタ分類情報記憶部209から取得される、クラスタIに属するオブジェクトの個数901とを掛け合わせて算出する。
確度算出部212で、オブジェクトjのクラスタIに対する確度1301を算出する方法については後述する。
<2−3−6.確度の算出処理>
ここでは確度算出部212が行う確度1301の算出処理について述べる。
確度算出部212は、オブジェクトのクラスタに対する確度1301を算出する。画像kに含まれているあるオブジェクトjのあるクラスタIに対する確度1301を求める場合の確度算出部212の動作を示したフローチャートを図20に示す。
まず、オブジェクトjが含まれる画像k中に存在するオブジェクトの数を、オブジェクト出現情報記憶部205に格納されているオブジェクト出現情報500から調べる。そしてオブジェクトの数が1か2以上かによって場合分けを行う(S2001)。1であった場合には非共起度1102に基づいて確度1301を算出し、2以上であった場合には共起度1101に基づいて確度1301を算出する。
非共起度1102に基づく確度1301の算出処理は以下のように行う。
オブジェクトjが含まれる画像k中に存在するオブジェクトの数が1であった場合には、確度算出部212は確度1301を、クラスタIの非共起度1102を用いて算出されるオブジェクトjのクラスタIに対する確信度と支持度と、類似度算出部211で算出したオブジェクトjのクラスタIに対する類似度1201とに基づいて算出する。
確信度及び支持度とは、データマイニング技術における、条件mと結論nとの相関性の強さを示す指標の一種である。確信度とは、条件mが発生したときに、結論nが共に発生する割合を示す。支持度とは、全体に対する条件mと結論nとが共に発生した数の割合を表す。確信度と支持度の値が共に大きい場合、条件mが発生した場合は結論nが発生する可能性が高いといえる。
非共起度1102に基づいて確度1301を算出する場合には、条件mはクラスタIに属するオブジェクトが画像中に含まれるという事象であり、結論nはクラスタIに属するオブジェクトが画像中に非共起の状態で含まれるという事象である。
上述の条件mと結論nとにより、1つのクラスタIに対して算出される確信度及び支持度を、ここではそれぞれクラスタIの非共起確信度2102、クラスタIの非共起支持度2202という。つまり非共起度1102に基づいて確度1301を算出する場合には、オブジェクトjのクラスタIに対する確信度はクラスタIの非共起確信度2102であり、オブジェクトjのクラスタIに対する支持度はクラスタIの非共起支持度2202である。
図21に確信度2100のデータ構造及び内容例を示す。確信度2100は、後述する共起確信度2101と上述の非共起確信度2102とにより構成されている。
同図の例では、クラスタC001の非共起確信度2102は、0.17である。これは、クラスタC001に属するオブジェクトが画像中に含まれるという事象が発生したときに、そのオブジェクトが画像中に非共起の状態で含まれるという事象が17%の割合で発生することを意味する。
図22に支持度2200のデータ構造及び内容例を示す。支持度2200は、後述する共起支持度2201と上述の非共起支持度2202とにより構成されている。
同図の例では、クラスタC001の非共起支持度2202は、0.03である。これは、全オブジェクトの中から1つのオブジェクトを選んだときに、そのオブジェクトがクラスタC001に属しておりなおかつ画像中に非共起の状態で含まれるという事象が3%の割合で発生することを意味する。
算出処理として、まずクラスタIの非共起度1102を用いてオブジェクトjのクラスタIに対する非共起確信度2102及び非共起支持度2202を算出する(S2008)。
ここで、非共起確信度2102はクラスタIの非共起度1102の、クラスタIに属するオブジェクトの個数901に対する割合として算出される。また、非共起支持度2202はクラスタIの非共起度1102の、全オブジェクトの数に対する割合として算出される。
こうして算出されたクラスタIの非共起確信度2102と非共起支持度2202と、そして類似度算出部211で算出したオブジェクトjのクラスタIに対する類似度1201とを、確度1301を算出する公式に代入して確度1301を算出する(S2009)。
ここでは確度1301を算出する公式は、画像中に単独でオブジェクトが存在する場合の統計に基づくロジスティック回帰分析を予め行うことにより、係数を定めておいたロジスティック回帰の式とする。
ロジスティック回帰分析とは、重回帰分析などと同様に、予め学習データによって説明変数と目的変数との関係を導くことで、任意の説明変数に対する目的変数を予測する。この場合において、説明変数は、オブジェクトjのクラスタIに対する類似度1201、確信度及び支持度に当たり、目的変数はオブジェクトjがあるクラスタIである確度1301に当たる。ここでは、確度の算出に対し影響力の大きい説明変数ほど係数が大きくなる。
以上で非共起度1102に基づく確度1301の算出は終了する。
共起度1101に基づく確度1301の算出処理は以下のように行う。
オブジェクトjが含まれる画像k中に存在するオブジェクトの数が2以上であった場合には、確度算出部212は確度1301を、クラスタIの、画像k中に存在するオブジェクトj以外のオブジェクトの1つであるオブジェクトxの属するクラスタXに対する共起度1101を用いて算出されるオブジェクトjのクラスタIに対する確信度と支持度と、類似度算出部211で算出したオブジェクトjのクラスタIに対する類似度1201とに基づいて算出する。
まず、画像k中に含まれるオブジェクトj以外のオブジェクトから、オブジェクトjのクラスタIに対する確度1301の算出処理に使用していないオブジェクトxを選び出す(S2002)。
選び出したオブジェクトxの属するクラスタXをクラスタ分類情報記憶部209に格納されているクラスタ分類情報900から取得する(S2003)。そして、クラスタIのクラスタXに対する共起度1101から、クラスタIのクラスタXに対する後述の共起確信度2101、クラスタIのクラスタXに対する後述の共起支持度2201を算出する(S2004)。
ここで、クラスタIのクラスタXに対する共起確信度2101はクラスタIのクラスタXに対する共起度1101の、クラスタXに属するオブジェクトの個数901に対する割合として算出される。また、クラスタIのクラスタXに対する共起支持度2201はクラスタIのクラスタXに対する共起度1101の、全オブジェクトの数に対する割合として算出される。
こうして算出したクラスタIの、オブジェクトxが属するクラスタXに対する共起確信度2101と共起支持度2201を、それぞれオブジェクトjのクラスタIに対するオブジェクトxについての共起確信度、オブジェクトjのクラスタIに対するオブジェクトxについての共起支持度ということにする。
オブジェクトjのクラスタIに対するオブジェクトxについての共起確信度及び共起支持度を算出したら、オブジェクトxはオブジェクトjのクラスタIに対する確度1301の算出処理への使用が終了したものとする。
そして、画像k中にオブジェクトjのクラスタIに対する確度1301の算出処理に使用していないオブジェクトが更にあるか否かを判定する(S2005)。
ある場合にはS2002に戻り、ない場合には、画像k中に含まれるオブジェクトj以外のオブジェクトのうち、最も共起支持度が高かったオブジェクトについての共起確信度及び共起支持度を、オブジェクトjのクラスタIに対する確信度及び支持度とする(S2006)。
こうして算出した確信度と支持度と、そして類似度算出部211で算出したオブジェクトjのクラスタIに対する類似度1201とを、確度1301を算出する公式に代入して確度1301を算出する(S2007)。
ここでは確度1301を算出する公式は、画像中に複数のオブジェクトが存在する場合の統計に基づくロジスティック回帰分析を予め行うことにより、係数を定めておいたロジスティック回帰の式とし、確度の算出に対し影響力の大きい説明変数ほど係数が大きくなる。
なお、クラスタIのクラスタXに対する共起確信度2101及び共起支持度2201は、クラスタXに属するオブジェクトが画像中に含まれるという条件に対する、クラスタIに属するオブジェクトが同じ画像中に含まれるという結論の確信度及び支持度とする。
図21の例では、クラスタC001のクラスタC002に対する共起確信度2101は0.30である。これは、クラスタC002に属するオブジェクトが画像中に含まれるという事象が発生したときに、クラスタC001に属するオブジェクトが同じ画像中に含まれるという事象が30%の割合で発生することを意味する。
図22の例では、クラスタC001のクラスタC002に対する共起支持度2201は0.04である。これは、全オブジェクトの中から1つのオブジェクトを選んだときに、そのオブジェクトがクラスタC002に属しておりなおかつそのオブジェクトが含まれる画像中にクラスタC001に属するオブジェクトが共に含まれるという事象が4%の割合で発生することを意味する。
<2−4.実施形態1の効果>
実施形態1に係る画像管理装置100は、画像に含まれるオブジェクトである人物の顔の重要度に当たるオブジェクト重要度を、画像に含まれる顔の人物と同一人物であることを示すクラスタに属するオブジェクトの出現回数に基づいて求め、そのオブジェクト重要度に基づいて画像の重要度を求めて、その画像重要度によって画像をランキングすることで、出現回数の多い人物が含まれている画像を上位に並べることができる。ユーザは関心の高い人物が写っている画像を多く保有すると考えられるため、ランキングの上位から順に画像を探していくことで、膨大な枚数の画像から関心の高い重要な人物が写っている画像、つまり重要度が高い画像を容易に選択できる。
ここで、同一人物のオブジェクトが誤ってそれぞれ別のクラスタに分類されたとしても、そのオブジェクトと類似度の高い周辺のクラスタに属するオブジェクトの個数も用いてオブジェクト重要度を評価するため、オブジェクトが正しく同一人物と判定されたときにより近いオブジェクト重要度と評価することができる。
更に、オブジェクトが特徴量の類似度だけで計算して出現回数が多い人物と同一人物の可能性が低いと評価された場合にはその人物と同一人物であってもオブジェクト重要度が低く評価されてしまうことが考えられるが、特徴量の類似度だけでなく人物同士の共起関係をも用いて同一人物である可能性を評価しているため、特徴量だけではオブジェクトが別の人物の可能性が高いとされる場合においても、オブジェクトが正しく同一人物と判定されたときにより近いオブジェクト重要度と評価することができる。
<3.実施形態2>
本発明の実施形態2として、実施形態1において人物の顔のオブジェクトが属するクラスタ間の共起関係を用いて確度1301を算出していたところを、人物の顔と人物以外の物体との共起関係を用いて確度1301を算出する方式に変更した変形画像管理装置2300について説明する。
ここで物体とは、後述する物体部で検出される、人物の顔以外である所定のオブジェクトのことを指し、以下では一般的な意味の「物体」と区別するため「共起物体」ということとする。共起物体は例えば自動車、動物、植物、建物などである。
なお、共起物体は共起情報を用いた確度1301の算出処理のみに用いることとし、物体の重要度は考えない。
<3−1.構成>
変形画像管理装置2300のハードウェア構成は、実施形態1である画像管理装置100と同じである。
図23は、変形画像管理装置2300の全体としての機能構成を示した図である。ただし、周辺装置は記載を省略し、画像管理装置100と同等の機能を持つ機能ブロックは図2と同じ符号を割り当てている。
変形画像管理装置2300は画像管理装置100に対して、物体を検出、分類する物体部2301を追加し、共起情報生成部210及び確度算出部212をそれぞれ共起情報生成部210a及び確度算出部212aに変更している。以下では、画像管理装置100との差に当たる部分を説明する。
図24は、物体部2301を詳細に表したブロック図である。物体部2301は物体検出部2401、物体出現情報記憶部2402、物体分類部2403及び物体クラスタ分類情報記憶部2404から構成される。
物体検出部2401は、画像記憶部202に格納されている画像群300の各画像において、共起物体の特徴量である物体特徴量を抽出して所定の条件に基づいて共起物体を検出し、検出した共起物体に対して各共起物体を特定するための物体ID2502を付与する機能を有する。物体検出部2401の機能は、例えばプロセッサがメモリに格納されているプログラムを実行することにより実現される。図25は、画像からオブジェクトと共起物体とを検出する例を示したものである。図25については、後に詳しく説明する。物体検出部2401は更に、画像ごとに画像ID301とその画像において検出した共起物体の物体ID2502とを対応付けて物体出現情報2600として物体出現情報記憶部2402に格納する。
物体出現情報記憶部2402は、画像ごとに物体出現情報2600を記憶する機能を有する。物体出現情報記憶部2402は、例えばメモリにより実現される。図26は、物体出現情報記憶部2402が記憶している物体出現情報2600の例を示している。図26については、後に詳しく説明する。
物体分類部2403は、物体検出部2401が検出した物体を物体検出部2401が抽出した物体特徴量に基づいて物体クラスタに分類する機能を有する。物体分類部2403の機能は、例えばプロセッサがメモリに格納されているプログラムを実行することにより実現される。また物体分類部2403は、物体クラスタに各物体クラスタを識別するための物体クラスタID2701を付与し、物体クラスタごとの物体クラスタID2701とその物体クラスタに分類した共起物体の物体ID2502とその物体クラスタに分類されている物体の個数とを対応付けて物体クラスタ分類情報2700として物体クラスタ分類情報記憶部2404に格納する。
ここで物体クラスタとは、共起物体を所定の基準に基づいて分類するときの分類の単位であり、各物体クラスタは互いに異なる物体特徴量の範囲に対応する。
物体クラスタ分類情報記憶部2404は、物体クラスタごとに物体クラスタ分類情報2700を記憶する機能を有する。物体クラスタ分類情報記憶部2404は、例えばメモリにより実現される。図27は、物体クラスタ分類情報記憶部2404が記憶している物体クラスタ分類情報2700の例を示したものである。図27については、後に詳しく説明する。
<3−2.データ>
<3−2−1.物体出現情報>
物体出現情報2600は、どの画像においてどの共起物体が検出されたのかを示す情報である。物体出現情報2600は、物体検出部2401により生成され、物体出現情報記憶部2402に格納されて、共起情報生成部210a及び確度算出部212aにより使用される。
図25は物体検出部2401が共起物体を検出した領域2501及びその領域2501で検出された共起物体の物体ID2502の例を示したものであり、図26は物体出現情報2600のデータ構成及び図25に対応する内容例である。
図26に示すように、物体出現情報2600は画像ごとに、画像ID301と、その画像において検出された共起物体の各共起物体を識別するための物体IDの組で表される。画像に含まれている共起物体は1つの場合もあるし、複数存在する場合や1つも含まれない場合もある。
物体ID2502は、変形画像管理装置2300内で各共起物体を一意に識別するための識別子であり、共起物体に対して一対一に対応するように物体検出部2401により付与される。物体ID2502は、物体検出部2401により生成される。物体ID2502は例えば、物体検出部2401が物体を検出した順番に1から番号を振り、その番号の先頭にアルファベットの“B”を付加したものとする。
図25の例では、領域2501aで検出された共起物体にはB001、領域2501bで検出された共起物体にはB002、領域2501cで検出された共起物体にはB003の物体ID2502がそれぞれ付与されている。
なお、以下では図25に挙げた共起物体を具体例にとって説明を行うとき、その共起物体を物体ID2502で呼ぶこととする。例えば、B001の物体ID2502で識別される共起物体は共起物体B001と呼ぶ。
物体出現情報2600を用いると、特定の画像中に含まれる共起物体の物体ID2502を取得することができ、逆に特定の共起物体が含まれる画像の画像ID301を取得することもできる。
図26の例では、画像I003には共起物体が含まれておらず、画像I004には共起物体B001が含まれていることがわかる。また、共起物体B002が含まれている画像は、画像I004であることがわかる。
<3−2−2.物体特徴量>
物体特徴量とは、物体に係る特徴量のことである。例えば物体特徴量は画像の特徴を示す複数の数値を成分とするベクトルである。自動車に係る特徴量の場合、車輪と認識される画素値(例えば黒色を示す画素値)を持つ画素が円周状に並んでいた場合には、その円の直径や中心点の位置などを自動車の車輪の特徴量とすることができる。そして車輪の特徴量や窓の特徴量などを成分として含むベクトルを自動車の物体特徴量とすることができる。
物体特徴量は物体検出部2401により生成され、物体分類部2403によって使用される。
<3−2−3.物体クラスタ>
物体クラスタに関するデータとして、物体クラスタID2701及び物体クラスタ分類情報2700について説明する。
物体クラスタID2701は、変形画像管理装置2300内で各物体クラスタを一意に識別するための識別子であり、物体クラスタに対して一対一に対応するように物体分類部2403により付与される。物体クラスタID2701は物体分類部2403により生成される。物体クラスタID2701は例えば、物体分類部2403がクラスタを生成した順番に1から番号を振り、その番号の先頭にアルファベットの“BC”を付加したものとする。
物体クラスタ分類情報2700は、物体分類部2403がどの共起物体をどの物体クラスタに分類したのかを示す情報である。物体クラスタ分類情報2700は、物体分類部2403により生成され、物体クラスタ分類情報記憶部2404に格納されて、共起情報生成部210a及び評価値算出部213aで使用される。
図27は物体クラスタ分類情報2700のデータ構成及び図25の共起物体を分類した結果の物体クラスタ分類情報2700の内容例である。物体クラスタ分類情報2700は物体クラスタごとに、物体クラスタID2701と、その物体クラスタに属する各共起物体の物体ID2502と、その物体クラスタに属する共起物体の個数2702との組で構成される。
なお、以下では図27に挙げた物体クラスタを具体例にとって説明を行うとき、その物体クラスタを物体クラスタID2701で呼ぶこととする。例えば、BC001の物体クラスタID2701で識別される物体クラスタは物体クラスタBC001と呼ぶ。
図27の例では、物体クラスタBC001の物体クラスタ分類情報2700には、物体B001及び物体B003が属しており、物体クラスタBC001に属するオブジェクトの個数2702は全部で21個あるという情報が格納されている。
<3−2−4.共起情報>
実施形態2における共起情報2800は、クラスタと物体クラスタとの間の関係を示す情報である。
ここではまず共起について説明し、続いて共起情報2800について説明する。
実施形態2では、1つの画像において「クラスタAに属するオブジェクトが含まれる」という事象と「物体クラスタBに属する共起物体が含まれる」という事象とが共起していることを、クラスタAと物体クラスタBとが共起しているというものとする。すなわち、1つの画像中にクラスタAに属するオブジェクトと物体クラスタBに属する共起物体とが共に含まれているとき、クラスタAと物体クラスタBとが共起しているとする。
また、クラスタAと物体クラスタBとが共起しているとき、クラスタAと物体クラスタBとの間に共起関係があるといい、特に「クラスタAに属するオブジェクトが含まれる」という事象が起きた場合に「物体クラスタBに属する共起物体が含まれる」という事象が起きるとき、クラスタAから物体クラスタBに対する共起関係があるという。
共起情報2800は、クラスタの物体クラスタに対する共起関係に関する情報であり、共起情報生成部210aにより生成され、確度算出部212aで使用される。
図28は共起情報2800のデータ構成及び内容例である。共起情報2800は、どのクラスタからどの物体クラスタに対する共起関係が画像群300の全画像においてどの程度あるかを示す共起度2801により構成されている。
共起度2801は、ここでは画像群300の中で共起関係が検出された回数とする。クラスタAの物体クラスタBに対する共起度2801というと、画像群300の中でクラスタAの物体クラスタBに対する共起関係が検出された回数である。
図28の例では、クラスタC001の、物体クラスタBC001に対する共起度2801は0、物体クラスタBC002に対する共起度2801は3、物体クラスタBC003に対する共起度2801は5である。
前述の例において、クラスタC001の物体クラスタBC002に対する共起度2801が3であるのは、クラスタC001に属するオブジェクトが含まれる画像に物体クラスタBC002に属する共起物体が含まれる回数が3回であることを意味する。
<3−3.動作>
図29は、変形画像管理装置2300の動作を示したフローチャートである。ただし、画像管理装置100と同じ動作の部分は図18と同じ符号を割り当てている。
変形画像管理装置2300の動作は画像管理装置100の動作に対して、オブジェクトの分類処理(S1803)の後に、共起物体の検出処理(S2901)と共起物体の分類処理(S2902)とが追加され、共起情報2800の生成処理(S1807)及び評価値1401の算出処理(S1808)の内容が変更されている(それぞれS1807a、S1808a)。
以下では、画像管理装置100と動作の異なる部分である共起物体の検出処理(S2901)、共起物体の分類処理(S2902)、共起情報2800の生成処理(S1807a)、評価値1401の算出処理(S1808a)について説明する。
<3−3−1.共起物体の検出処理>
ここでは、物体検出部2401が行う共起物体の検出処理(S2901)について述べる。
物体検出部2401は、まず共起物体を検出する対象の画像から物体特徴量を抽出する。画像から物体特徴量を抽出する方法にはオブジェクトの検出処理における特徴量の抽出方法と同じく、Gaborフィルタを用いて画像データの画素値の分布の周期性や方向性などの特徴量を抽出する方法がある。
次に物体検出部2401は、物体検出部2401が持つテンプレートと照合して、共起物体を検出する。ここでは、抽出された物体特徴量が、テンプレートが持つ物体特徴量のパターンに当てはまる場合に共起物体が検出される。
物体検出部2401が検出した共起物体に対しては、共起物体を検出した順番に1から番号を振り、その番号の先頭にアルファベットの“B”を付加した物体ID2502を付与する。
そして物体検出部2401は、共起物体の検出対象とした画像の画像ID301と、その画像において検出した全共起物体の物体ID2502との組を物体出現情報2600として物体出現情報記憶部2402に格納する。
図25は、画像において物体を検出する例を示したものである。同図の例では、画像302dにおいて共起物体B001、画像302eにおいて共起物体B002、画像302fにおいて共起物体B003がそれぞれ検出されており、画像302cにおいては共起物体は検出されていない。
前述の例において、物体検出部2401は画像データ302dから物体特徴量を抽出し、画像データ302dに対応する画像I004において領域2501aから抽出した物体特徴量が、テンプレートで定められる基準を満たしているため、領域2501aから共起物体を検出している。
領域2501aから検出した共起物体に対して、物体検出部2401はB001の物体ID2502を付与している。
そして、物体検出部2401は図26のように物体出現情報2600を物体出現情報記憶部2402に格納している。
<3−3−2.共起物体の分類処理>
ここでは、物体分類部2403が行う共起物体の分類処理(S2602)について述べる。
物体分類部2403は、物体検出部2401が検出した全共起物体を、物体検出部2401が抽出した各共起物体の物体特徴量により物体クラスタに分類する。
共起物体を物体クラスタに分類する方法には、例えばSupport Vector Machine(以下、「SVM」という)にかける方法がある。SVMは、予め与えられた学習データを元に分類を行う手法の1つである。
分類した結果の物体クラスタ分類情報2700は物体クラスタ分類情報記憶部2404に格納される。全共起物体を物体クラスタに分類した後の物体クラスタ分類情報2700の一例を図27に示す。
<3−3−3.共起情報の生成処理>
ここでは、共起情報生成部210aが画像群300について行う共起情報2800の生成処理(S1807a)について述べる。
共起情報生成部210aは、画像群300の各画像におけるクラスタの物体クラスタに対する共起関係を検出して全クラスタと全物体クラスタとの共起情報2800を生成する。なお、ここでは1つの画像について共起関係を検出して共起情報2800を更新する処理を共起関係検出処理ということとする。
図30は、共起情報生成部210aが共起情報2800を生成するときのフローチャートであり、ステップS1807aの詳細を示したものである。なお、共起情報2800の生成処理を始める前には共起度2801は全て0で初期化されているものとする。
まず、画像群300の中の1つの画像kについて、オブジェクト出現情報記憶部205に格納されているオブジェクト出現情報500から、画像kにオブジェクトが含まれているか否かを判定する(S3001)。
オブジェクトが含まれていた場合は、後述する画像kについての共起関係検出処理を行う。オブジェクトが含まれていなかった場合は、なんら処理を行わずに画像kについての共起関係検出処理が終了したものとする。
画像kについての共起関係検出処理が終了したのち、いまだ共起関係検出処理を行っていない画像が存在するか否かを判定する(S3002)。存在する場合は、その画像のうち1つを次の画像kとし、S3001に戻る。存在しない場合は、共起情報生成部210aは画像群300についての共起情報2800の生成処理を終了する。
画像kについての共起関係検出処理は、以下のように行う。
まず物体出現情報記憶部2402に格納されている物体出現情報2600から、画像kの中に共起物体が含まれているか否かを判定する(S3003)。
共起物体が含まれていなかった場合には、なんら処理を行わずに画像kについての共起関係検出処理が終了したものとする。
共起物体が含まれていた場合には、それぞれのオブジェクトが属するクラスタのそれぞれの共起物体が属する物体クラスタに対する共起関係があるといえる。
例えば、画像302fにおいては、領域401iから検出されたオブジェクト(以下、オブジェクトO009とする)と物体B003とが共に含まれている。そのため、画像302fにおいては、オブジェクトO009の属するクラスタの物体B003の属する物体クラスタに対する共起関係が1つあるといえる。
オブジェクトと共起物体とが共に含まれていた場合は、次のように共起関係検出処理を行うものとする。ただしここで、オブジェクトaの属するクラスタAの、共起物体bの属する物体クラスタBに対する共起関係を検出するとき、オブジェクトaを共起元オブジェクト、共起物体bをオブジェクトaの共起先物体とそれぞれいうこととする。
まず画像kに含まれるオブジェクトの中から、いまだ共起元オブジェクトとして使用していないオブジェクトaを選び出す。そしてオブジェクトaが属するクラスタAをクラスタ分類情報記憶部209に格納されているクラスタ分類情報900から取得する(S3004)。
次に、画像kに含まれる共起物体の中から、いまだオブジェクトaの共起先物体として使用していない共起物体bを選び出す。そして、共起物体bが属する物体クラスタBを取得する(S3005)。これにより共起元オブジェクトaと共起先物体bから共起関係を検出したものとし、クラスタAのクラスタBに対する共起度1101を1増やす(S3006)。これにより共起物体bはオブジェクトaの共起先物体として使用が終了したものとする。
更に画像k中に、いまだオブジェクトaの共起先物体として使用していない共起物体が存在するか否かを判定する(3007)。
存在する場合は、その共起物体のうち1つを次の共起先物体bとし、S3005に戻る。存在しない場合は、オブジェクトaは共起元オブジェクトとしての使用が終了したものとする。
オブジェクトaの共起元オブジェクトとしての使用が終了したら、画像k中に更にいまだ共起元オブジェクトとして使用していないオブジェクトが存在するか否かを判定する(S3008)。存在する場合、そのオブジェクトのうち1つを次のオブジェクトaとし、S3004に戻る。存在しない場合、画像kについての共起関係検出処理を終了する。
<3−3−4.評価値の算出処理>
ここでは、評価値算出部213が行う評価値1401の算出処理(S1808a)について述べる。
評価値算出部213は実施形態1と同様の方法で、オブジェクトのクラスタに対する評価値1401を算出する。ただし、オブジェクトのクラスタに対する確度1301は確度算出部212aで算出したものを用いる。確度算出部212aでの確度1301の算出処理については以下で述べる。
<3−3−5.確度の算出処理>
ここでは確度算出部212aが行う確度1301の算出処理について述べる。
確度算出部212aは、オブジェクトのクラスタに対する確度1301を算出する。画像kに含まれているあるオブジェクトjのあるクラスタIに対する確度1301を求める場合の確度算出部212aの動作を示したフローチャートを図31に示す。
まず、画像k中に共起物体が含まれるか否かを、物体出現情報記憶部2402に格納されている物体出現情報2600から判定する(S3101)。含まれなかった場合には、オブジェクトjのクラスタIに対する確度1301は0とする(S3108)。含まれていた場合には、共起度2801に基づいて確度1301を算出する。
共起度2801に基づく確度1301の算出処理は以下のように行う。
オブジェクトjが含まれる画像k中に共起物体が含まれていた場合には、確度算出部212aは確度1301を、クラスタIの、画像k中に存在する共起物体の1つである共起物体xの属する物体クラスタXに対する共起度2801を用いて算出されるオブジェクトjのクラスタIに対する確信度と支持度と、類似度算出部211で算出したオブジェクトjのクラスタIに対する類似度1201とに基づいて算出する。
まず、画像k中に含まれる共起物体から、オブジェクトjのクラスタIに対する確度1301の算出処理に使用していない共起物体xを選び出す(S3102)。
選び出した共起物体xの属する物体クラスタXを物体クラスタ分類情報記憶部2404に格納されている物体クラスタ分類情報2700から取得する(S3103)。そして、クラスタIの物体クラスタXに対する共起度2801から、クラスタIの物体クラスタXに対する後述の共起確信度3201、クラスタIの物体クラスタXに対する後述の共起支持度3301を算出する(S3104)。
ここで、クラスタIの物体クラスタXに対する共起確信度3201はクラスタIのクラスタXに対する共起度2801の、物体クラスタXに属するオブジェクトの個数2702に対する割合として算出される。また、クラスタIの物体クラスタXに対する共起支持度3301はクラスタIの物体クラスタXに対する共起度2801の、全オブジェクトの数と全共起物体の数との和に対する割合として算出される。
こうして算出したクラスタIの、共起物体xが属する物体クラスタXに対する共起確信度3201と共起支持度3301を、それぞれオブジェクトjのクラスタIに対する共起物体xについての共起確信度、オブジェクトjのクラスタIに対する共起物体xについての共起支持度ということにする。
オブジェクトjのクラスタIに対する共起物体xについての共起確信度及び共起支持度を算出したら、共起物体xはオブジェクトjのクラスタIに対する確度1301の算出処理への使用が終了したものとする。
そして、画像k中にオブジェクトjのクラスタIに対する確度1301の算出処理に使用していない共起物体が更にあるか否かを判定する(S3105)。
ある場合にはS3102に戻り、ない場合には、画像k中に含まれる共起物体のうち、最も共起支持度が高かった共起物体についての共起確信度及び共起支持度を、オブジェクトjのクラスタIに対する確信度及び支持度とする(S3106)。
こうして算出した確信度と支持度と、そして類似度算出部211で算出したオブジェクトjのクラスタIに対する類似度1201とを、確度1301を算出する公式に代入して確度1301を算出する(S3107)。
ここでは確度1301を算出する公式は、画像中にオブジェクトと共起物体とが存在する場合の統計に基づくロジスティック回帰分析を予め行うことにより、係数を定めておいたロジスティック回帰の式とし、確度の算出に対し影響力の大きい説明変数ほど係数が大きくなる。
なお、クラスタIの物体クラスタXに対する共起確信度3201及び共起支持度3301は、物体クラスタXに属する共起物体が画像中に含まれるという条件に対する、クラスタIに属するオブジェクトが同じ画像中に含まれるという結論の確信度及び支持度とする。
図32の例では、クラスタC001の物体クラスタBC002に対する共起確信度3201は0.60である。これは、物体クラスタBC002に属する共起物体が画像中に含まれるという事象が発生したときに、クラスタC001に属するオブジェクトが同じ画像中に含まれるという事象が60%の割合で発生することを意味する。
図33の例では、クラスタC001の物体クラスタBC002に対する共起支持度3301は0.008である。これは、全オブジェクトと全共起物体との中から1つのオブジェクト又は共起物体を選んだときに、そのオブジェクト又は共起物体が物体クラスタBC002に属する共起物体でありなおかつその共起物体が含まれる画像中にクラスタC001に属するオブジェクトが共に含まれるという事象が0.8%の割合で発生することを意味する。
<3−4.実施形態2の効果>
実施形態2に係る変形画像管理装置2300は、画像管理装置100と同様に、膨大な枚数の画像から関心の高い重要な人物が写っている画像を容易に選択できる。
ここで、同一人物である可能性を評価する方法として、人物以外の物体との共起関係を用いるため、人物が自動車や建物などの物体と共に画像に写っている場合に、オブジェクトが正しく同一人物と判定されたときにより近いオブジェクト重要度と評価することができる。
<3−5.変形例(実施形態1、2の組み合わせ)>
実施形態2の変形例として、クラスタの物体クラスタに対する共起関係を用いた確度1301の算出処理に、実施形態1で行うこととしたクラスタ間の共起関係を用いた確度1301の算出処理を加えた画像管理装置について説明する。
この方法を用いた画像管理装置は、上述の変形画像管理装置2300に、実施形態1の画像管理装置100の共起情報生成部210を加え、確度算出部212aの動作を変更したものである。
動作を変更された確度算出部212aが画像k中に含まれるオブジェクトjのクラスタIに対する確度1301の算出を行う処理のフローチャートを図34に示す。
まず、オブジェクトjが含まれる画像k中に存在するオブジェクトの数を、オブジェクト出現情報記憶部205に格納されているオブジェクト出現情報500から調べる。そしてオブジェクトの数が1か2以上かによって場合分けを行う(S3401)。
2以上であった場合にはクラスタIの、共に含まれるオブジェクトの属するクラスタに対する共起度1101に基づいて確度1301を算出する。この処理は、実施形態1におけるステップS2002〜S2007の処理と同様である。
1であった場合には、画像k中に共起物体が含まれるか否かを、物体出現情報記憶部2402に格納されている物体出現情報2600から判定する(S3101)。
含まれていた場合にはクラスタIの、共に含まれる共起物体の属する物体クラスタに対する共起度2801に基づいて確度1301を算出する。この処理は、実施形態2におけるステップS3004〜S3008の処理と同様である。
含まれなかった場合にはクラスタIの非共起度1102に基づいて確度1301を算出する。この処理は、実施形態1におけるステップS2008〜S2009の処理と同様である。
上記の変形例に係る画像管理装置は、可能な限り人物同士の共起関係を用いて画像重要度を評価し、人物同士の共起関係を用いることができない画像に対しては共起物体との共起関係又は人物が1人で写っている回数を元に画像重要度を評価する。
<4.実施形態3>
本発明の実施形態3として、実施形態1において類似度と確信度と支持度とに基づいて確度1301を算出していたところを、更に、クラスタの信頼度にも基づいて確度1301を算出する方式に変更した変形画像管理装置3500について説明する。ここで、クラスタの信頼度とは、クラスタに属する各オブジェクトのオブジェクト特徴量が、当該クラスタのクラスタ特徴量にどの程度集中しているか、つまりクラスタに属する各オブジェクトのオブジェクト特徴量の偏差の大きさが総合的にどの程度小さいかを示すものである。例えばクラスタC001では、図7に示すように、クラスタC001のクラスタ特徴量702aと、クラスタC001に属する各オブジェクトのオブジェクト特徴量である601a、603c及び601fとの距離が特徴量の差の大きさを示す。つまり、クラスタ特徴量と当該クラスタに属する各オブジェクトのオブジェクト特徴量との距離が近いほど、各オブジェクトのオブジェクト特徴量のクラスタ特徴量に対する集中度合いが高く、クラスタの信頼度が高いことを示す。
クラスタの信頼度が高い場合、つまり特徴量の集中度合いが高い場合は、そのクラスタは同一の人物で構成されている可能性が高く、そのクラスタのクラスタ特徴量を基に算出する類似度や共起度の信頼性も高くなる。一方、クラスタの信頼度が低い場合、つまり特徴量の集中度合いが低い場合は、そのクラスタには複数の人物が含まれている可能性が高く、そのクラスタのクラスタ特徴量を基に算出する類似度や共起度の信頼性も低くなる。そのため、確度1301の算出にクラスタの信頼度を用いることにより、より高い精度でオブジェクトの重要度を評価することができる。
<4−1.構成>
変形画像管理装置3500のハードウェア構成は、実施形態1の画像管理装置100と同じである。
図35は、変形画像管理装置3500の全体としての機能構成を示した図である。ただし、周辺装置は記載を省略し、画像管理装置100と同等の機能を持つ機能ブロックは図2と同じ符号を割り当てている。
変形画像管理装置3500は画像管理装置100に対して、クラスタの信頼度を算出する信頼度算出部3501を追加し、確度算出部212を確度算出部212bに変更している。以下では、画像管理装置100との差に当たる部分を説明する。
信頼度算出部3501は、全クラスタについて、当該クラスタの信頼度を算出する機能を有する。信頼度の算出方法の詳細については後述する。
確度算出部212bは、評価値算出部213で評価値1401の算出処理に使用される確度1301を、確度算出部212で用いた共起情報1100と類似度1201とに加え、更に、信頼度算出部3501が算出した信頼度3601とに基づいて算出する機能を有する。
<4−2.データ>
<4−2−1.信頼度情報>
信頼度情報3600は、クラスタごとの信頼度3601を示す情報である。信頼度算出部3501により生成、更新され、確度算出部212bにより使用される。
図36は、信頼度情報3600のデータ構成及び内容例である。
ここでは、クラスタのクラスタ特徴量と当該クラスタに属する各オブジェクトのオブジェクト特徴量との差の合計を、当該クラスタに属するオブジェクトの数で除算した値の逆数を、当該クラスタの信頼度とする。ここで、各特徴量は複数の成分で構成されているため、クラスタとオブジェクトとの各特徴量成分の差を二乗したものを合計し、その値の平方根をクラスタ特徴量とオブジェクト特徴量との差とする。
「Pc」をクラスタ特徴量、「Po」をオブジェクト特徴量、「n」をクラスタに属するオブジェクトの数、「m」を特徴量成分の数とすると、クラスタの信頼度は(数1)で表せられる。
<4−3.動作>
図37は、変形画像管理装置3500の動作を示したフローチャートである。ただし、画像管理装置100と同じ動作の部分は図18と同じ符号を割り当てている。
変形画像管理装置3500の動作は画像管理装置100の動作に対して、オブジェクトの分類処理(S1803)の後に、信頼度3601の算出処理(S3701)が追加され、評価値1401の算出処理に用いる確度1301の算出処理の内容が変更されている(S1808b)。
以下では、画像管理装置100と動作の異なる部分である信頼度の算出処理(S3701)、評価値の算出処理に用いる確度の算出処理(S1808b)について説明する。
<4−3−1.信頼度の算出処理>
以下、信頼度3601の算出処理について説明する。
図38に、信頼度3601の算出処理に係るフローチャートを示す。
まず、信頼度算出部3501は、クラスタのクラスタ特徴量をクラスタ特徴量記憶部208から取得し(ステップS3801)、クラスタ分類情報900より当該クラスタに属するオブジェクトの一つに着目する(ステップS3802)。その後、オブジェクト特徴量記憶部206より、着目したオブジェクトのオブジェクト特徴量を取得し(ステップS3803)、取得したオブジェクト特徴量とクラスタ特徴量との差を算出する(ステップS3804)。例えば、クラスタC001とオブジェクトO001との特徴量の差は、特徴量成分1の差の二乗(94.4−90.3)2、特徴量成分2の差の二乗(90.2−98.4)2、特徴量成分3の差の二乗(79.8−71.4)2の合計の平方根である12.43となる。当該クラスタに属する全てのオブジェクトのオブジェクト特徴量とクラスタ特徴量との差を算出するまでステップS3801からステップS3805の処理を繰り返す。
当該クラスタに属する全てのオブジェクトのオブジェクト特徴量とクラスタ特徴量との差を算出したら、算出した差を合計し、その値を当該クラスタに属するオブジェクトの数で除算する(ステップS3806)。得られた値の逆数を、当該クラスタの信頼度とする(ステップS3807)。クラスタ分類情報900に登録されている全てのクラスタについて信頼度を算出するまで、ステップS3801からステップS3808の処理を繰り返す。
<4−3−2.確度の算出処理>
ここでは確度算出部212bが行う確度1301の算出処理について述べる。
図39に、確度算出処理のフローチャートを示す。ここでの確度算出処理は、図20に示す確度算出処理のステップS2006の後ろに、オブジェクトjが属するクラスタの信頼度と、最も支持度の高いオブジェクトの属するクラスタの信頼度を取得する処理(ステップS3901)を追加し、ステップS2007で行った確度の算出処理を、類似度、確信度、支持度に加え、ステップS3901で取得した信頼度を用いた確度の算出処理(ステップS3902)に置き換えたものである。
以下、図20との違いを中心に説明する。
画像k中に、2以上のオブジェクトが含まれていた場合、実施形態1と同様に、オブジェクトjが属するクラスタと共起するオブジェクトの中で最も支持度が高いクラスタの確信度と支持度とを選出する(ステップS2001〜ステップS2006)。
その後、オブジェクトjが属するクラスタIの信頼度と、最も支持度が高いクラスタの信頼度とを信頼度情報3600から取得する(ステップS3901)。
ステップS2006で選出した確信度と支持度と、類似度算出部211で算出したオブジェクトjのクラスタIに対する類似度1201と、ステップS3901で取得したオブジェクトjが属するクラスタIの信頼度と、最も支持度が高いクラスタの信頼度とを、確度1301を算出する公式に代入して確度1301を算出する(ステップS3902)。ここでの公式は、画像中に複数のオブジェクトが存在する場合の統計に基づくロジスティック回帰分析を予め行うことにより、係数を定めておいたロジスティック回帰の式とし、確度の算出に対し影響力の大きい説明変数ほど係数が大きくなる。
画像k中に、オブジェクトjのみが含まれていた場合、オブジェクトjの属するクラスタIの非共起度に基づいて確信度と支持度とを算出する(ステップS2008)。
その後、信頼度情報3600よりクラスタIの信頼度を取得する(ステップS3903)。ステップS2008で算出した確信度と支持度と、類似度算出部211で算出したオブジェクトjのクラスタIに対する類似度1201と、ステップS3903で取得したオブジェクトjが属するクラスタIの信頼度とを、確度1301を算出する公式に代入して確度1301を算出する(ステップS3904)。ここでの公式は、画像中に単独でオブジェクトが存在する場合の統計に基づくロジスティック回帰分析を予め行うことにより、係数を定めておいたロジスティック回帰の式とし、確度の算出に対し影響力の大きい説明変数ほど係数が大きくなる。
その後は、実施形態1と同様に、ある一つのオブジェクトがある一つのクラスタについて、当該クラスタに属する確度とクラスタに属するオブジェクトの数から当該クラスタに対する評価値を求め、当該オブジェクトの各クラスタに対する評価値の合計を当該オブジェクトのオブジェクト重要度とする。各画像について、画像内のオブジェクトのオブジェクト重要度の合計を画像重要度として、画像重要度の高い順番に各画像を表示する。
<5.補足>
以上、本発明に係る画像管理装置について実施形態に基づいて説明したが、本発明は上述の実施形態で示した通りの画像管理装置に限られないことはもちろんである。
(1)実施形態1〜3では、画像管理装置を例にして説明したが、本発明は画像の管理を主として行う装置に限るものではない。例えば、ファイルサーバなどの静止画又は動画を蓄積する記憶装置、静止画及び動画の再生装置、デジタルカメラ、カメラ付携帯電話やムービーカメラなどの撮影装置及びパーソナルコンピュータ(PC)などに替えても良い。要は、画像を管理できる装置であれば何に適用しても良い。
(2)実施形態1〜3では、画像取得部201はUSB入力端子を備え、USBケーブルなどのケーブルを介して画像群を撮影装置110から取得するものとしたが、画像が取得できるならば必ずしもUSB入力端子から画像を取得する必要はない。例えば、無線通信により画像群を入力しても良いし、メモリーカードなどの記録媒体を介して入力しても良い。
(3)実施形態1〜3では画像管理装置へ撮影装置110から画像群を入力するものとしたが、撮影装置に限る必要はなく、画像管理装置へ画像群を入力できればどのような装置でも良い。例えば、画像を蓄積しているファイルサーバからネットワークを通じて画像群を入力しても良い。要は、画像管理装置が画像群を取得できれば良い。
(4)実施形態1〜3では、画像取得部201は外部装置である撮影装置110から画像群を取得するものとしたが、画像群を画像管理装置の内部の構成要素から取得しても良い。例えば、画像管理装置自身がハードディスクなどの画像蓄積部を備え、画像取得部201は画像蓄積部から画像群を取得するものとしても良い。
(5)画像取得部201は評価対象の画像群を取得できれば、その画像群を一度に全て取得する必要はない。例えば、画像取得部201は画像を1枚又は数枚ずつ取得し、その都度画像群300に画像を追加しても良い。
(6)実施形態1〜3では画像取得部201で取得した画像群300を、画像データ302の持つ画素値も含めて全て画像記憶部202に格納したが、画像管理装置が処理をする間、処理対象の画像データ302が参照可能であれば、必ずしも画像記憶部202に全ての画像データ302を格納しておく必要はない。例えば、画像記憶部202には画像群300の画像ID301及び処理中の画像1枚の画像データ302のみを格納しておいて、オブジェクト検出部203、物体検出部2401及び画像出力部217で必要になった画像データ302を、逐一外部装置から画像取得部201によって取得することにしても良い。要は、画像群300を使用して処理を行う際に全画像に対してアクセスできる手段が装置内にあれば良い。
(7)実施形態1〜3では、画像を識別するのに画像取得部201により生成される画像ID301を用いたが、画像を1つ1つ識別することができれば画像ID301は必ずしも画像取得部201が生成する必要はない。例えば、画像をファイルとして取得した場合には、画像のファイル名を画像ID301としても良い。また、画像データ302をメモリ上に格納した際の画像データ302の先頭のメモリのアドレスを画像ID301としても良い。
(8)実施形態1〜3では、オブジェクトを人物の顔とし、テンプレートを人物の顔に係る特徴量のパターンを示すデータとしたが、人物の顔に限るものではない。例えば、オブジェクトをペットの動物とし、テンプレートを動物に関するパターンのデータに替えても良い。また、自動車や建物などの物体に関するテンプレートを用いて物体をオブジェクトとして検出しても良い。更には、テンプレートを用いないこととしても差し支えない。要は、オブジェクトを検出するための基準を持ち、その基準に基づいてオブジェクトを抽出できれば良い。
(9)実施形態1〜3では、オブジェクト分類部207はクラスタに分類されたオブジェクトのオブジェクト特徴量601からクラスタのクラスタ特徴量702を算出するとしたが、必ずしも算出する必要はない。例えば、クラスタ特徴量記憶部208に予めクラスタ特徴量702が格納されていた場合は、そのクラスタ特徴量702をそのまま用いることとし、変更しないことにしても良い。要は、オブジェクトのクラスタに対する類似度1201を算出するためのクラスタ特徴量702をクラスタが持っていれば良い。
(10)実施形態1〜3では、クラスタ分類情報記憶部209は各クラスタに分類されているオブジェクトの個数をも記憶しているとしたが、必ずしもオブジェクトの個数を記憶する必要はない。例えば、クラスタに属するオブジェクトの個数を利用するときに、利用する側がそのクラスタに属するオブジェクトをその都度数え上げるとすると、クラスタ分類情報記憶部209はオブジェクトの個数を記憶する必要はない。要は、各クラスタに分類されているオブジェクトの個数を取得できれば良い。
(11)実施形態1〜3では、画像重要度はその画像に含まれるオブジェクトのオブジェクト重要度1501を全て足し合わせ、重要なオブジェクトが多数含まれている画像を高く評価するものとしたが、これに限るものではない。例えば、画像に含まれるオブジェクトのオブジェクト重要度の平均としても良いし、最も高いオブジェクト重要度を選び出してその値をそのまま画像重要度としても良い。また、オブジェクトの画像に占める面積の割合で更に重み付けして評価しても良い。要は、画像に含まれるオブジェクトのオブジェクト重要度を用いて画像重要度を算出すれば良い。
(12)実施形態1〜3では、画像重要度はオブジェクト重要度のみを用いて評価していたが、これに限るものではない。例えば、背景や撮影状況などに対しても重要度を評価し、オブジェクト重要度に加えてそれらの重要度を画像重要度の評価に用いても良い。要は、画像重要度の評価にオブジェクト重要度を用いれば、他の評価手段を更に組み合わせても良い。
(13)実施形態1〜3では、画像群300を画像重要度の高いものから降順に並べて表示装置120に出力するものとしたが、これに限るものではない。例えば、画像群300を入力時と同じ順序のまま、画像重要度の値を画像のメタデータとして付加して出力しても良い。要は、画像重要度を評価すれば良い。
(14)実施形態1〜3では、画像出力部217はHDMI出力端子を備え、画像管理装置から表示装置120へHDMIケーブルを介して映像を出力するものとしたが、出力ができればこれに限るものではない。まず、HDMI出力端子によりHDMIケーブルを介して映像を出力することに限る必要はない。例えばDVIケーブルにより表示装置120へ映像を出力しても良い。また、出力する対象は表示装置に限る必要はなく、出力内容も映像に限る必要はない。例えば、プリンタと接続して、画像重要度の高い画像を印刷するようにしても良い。また、外部記憶装置と接続して、画像重要度の値を画像のメタデータとして付加した画像ファイルを記録するようにしても良い。
(15)実施形態1〜3では、画像管理装置はデータを記憶するためにメモリを備えるものとしたが、データを記憶する手段であればこれに限る必要はない。例えば、ハードディスクやその他のデータ記録媒体を用いるものとしても良い。
(16)実施形態1〜3では、確度1301の算出にロジスティック回帰分析を用いたが、ロジスティック回帰分析に限る必要はない。類似度と共起情報とを用いて、または類似度と共起情報と信頼度とを用いて別の方法で算出しても良い。また、1つのオブジェクトの全クラスタに対する確度1301の総和は必ずしも1にはならないが、総和が1になるように確度1301を正規化しても良い。
(17)実施形態1〜3では、共起情報を用いて確度を算出したが、必ずしも共起情報を用いる必要はない。例えば、類似度のみから確度を算出しても良いし、類似度と信頼度とから確度を算出しても良い。更には、確度を用いず類似度とクラスタに属するオブジェクトの個数とから評価値を算出しても良いし、類似度も用いずオブジェクトが属するクラスタに共に属するオブジェクトの数そのものをオブジェクト重要度としても良い。要は、オブジェクト重要度を評価するときに最低限そのオブジェクトが属するクラスタに共に属するオブジェクトの個数を用いていれば良い。
(18)実施形態1〜3では、オブジェクトのクラスタに対する評価値を、そのオブジェクトのそのクラスタに対する確度とそのクラスタに属するオブジェクトの個数を掛け合わせて算出したが、この方法に限るものではない。例えば、そのオブジェクトが属するクラスタに対する評価値のみ更に2を掛けるなどして他のクラスタより重視する方法で算出するようにしても良い。要は、評価値を確度とクラスタに属するオブジェクトの個数とから算出すれば良い。
(19)実施形態1〜3では、あるオブジェクトのオブジェクト重要度を、全クラスタに対する評価値を用いて評価したが、必ずしも全クラスタに対する評価値を用いる必要はない。例えば、そのオブジェクトとの類似度が所定値以上のクラスタについてのみ評価値を算出し、その評価値のみを用いることとしても良い。要は、オブジェクト重要度を評価するときに最低限そのオブジェクトが属するクラスタに共に属するオブジェクトの個数を用いていれば良い。
(20)実施形態1〜3では、オブジェクトをクラスタに分類する方法としてK−means法を用いる方法を説明したが、オブジェクトをクラスタに分類できればK−means法に限るものではない。例えば、実施形態2で物体を分類する方法として説明したSVMを用いる方法がある。また、クラスタ特徴量702はK−means法により自動的に算出されるものを用いたが、必ずしも自動的に算出されたクラスタ特徴量702を用いる必要はない。例えば、クラスタに属するオブジェクトの特徴量の中央値としても良い。
(21)実施形態1、3では、あるオブジェクトのあるクラスタに対する確度を算出するときに、そのオブジェクトの含まれる画像中に他のオブジェクトが2つ以上含まれている場合には、最も支持度の高くなるオブジェクト1つのみを選んでその確信度及び支持度を計算に用いていたが、2つ以上を選んでそれらの確信度及び支持度を用いても良い。
(22)実施形態1、3では、全クラスタの全クラスタに対する共起情報を生成したが、これに限るものではない。例えば、同じクラスタ同士の共起は共起情報として生成しないこととする変形例が考えられる。この変形例では、一のクラスタと1人の人物とを一対一に対応付けている場合、同一人物が同じ画像中に二人以上出現することは通常起こりえないので、これを無視することができる。また、クラスタAのクラスタBに対する共起度1101がわかっていれば、クラスタBのクラスタAに対する共起度1101もわかるため、どちらか一方を生成すれば事足りるので、一方の共起度1101のみを生成することとしても良い。例えば、クラスタIDに大小関係がある場合には、クラスタIDが小さいクラスタのクラスタIDが大きいクラスタに対する共起度1101のみを生成しても良い。
(23)実施形態1、3では、1つの画像中にオブジェクトが1つだけ含まれている場合には非共起度1102を用いて確度を算出していたが、非共起度1102以外の基準によって確度を算出しても良い。例えば、類似度のみを用いて確度を算出するものとしても良いし、類似度と信頼度とを用いて確度を算出しても良い。
(24)実施形態2では、共起物体の重要度を考えないものとしたが、共起物体の重要度を評価し、共起物体の重要度にも基づいて画像重要度を評価するものとしても良い。例えば、共起物体の重要度として、その共起物体と同じ物体クラスタに共に属する共起物体の個数を用い、画像の画像重要度はオブジェクト重要度の総和に更に共起物体の重要度を加えるものとしても良い。要は、画像の画像重要度の評価にオブジェクト重要度を用いていれば良い。
(25)実施形態2では、物体クラスタ分類情報記憶部2404は各物体クラスタに分類されている共起物体の個数をも記憶しているとしたが、物体クラスタに属する物体の個数を取得できれば必ずしも物体の個数を記憶する必要はない。例えば、物体クラスタに属する物体の個数を利用するときに、利用する側がその物体クラスタに属する物体をその都度数え上げるとすると、物体クラスタ分類情報記憶部2404は物体の個数を記憶する必要はない。
(26)実施形態2では、あるオブジェクトのあるクラスタに対する確度を算出するときに、そのオブジェクトの含まれる画像中に共起物体が2つ以上含まれている場合には、最も支持度の高くなる共起物体1つのみを選んでその確信度及び支持度を計算に用いていたが、2つ以上を選んでそれらの確信度及び支持度を用いても良い。
(27)実施形態2では、共起物体を物体クラスタに分類する方法をSVMとして説明したが、共起物体を物体クラスタに分類できるならSVMに限るものではない。例えば、オブジェクトを分類する方法として説明したK−means法を用いても良い。
(28)実施形態2では、画像中に物体が含まれていない場合にはその画像に含まれるオブジェクトのクラスタに対する確度を0にするものとしたが、必ずしも確度を0にする必要はない。例えば、画像中に物体が含まれていない場合にはオブジェクトのクラスタに対する確度を類似度のみによって算出するものとしても良い。
(29)実施形態2では、オブジェクトの分類処理の後に、共起物体の検出処理と共起物体の分類処理とが追加されるものとしたが、画像を取得した後であり共起情報を生成する前であればいつでも良い。例えば、共起情報の生成処理の直前に共起物体の検出処理と共起物体の分類処理とを追加しても良い。
(30)実施形態3では、クラスタとオブジェクトとの各特徴量成分の差を二乗したものを合計し、その値の平方根を、クラスタのクラスタ特等量とオブジェクトのオブジェクト特徴量との差として算出したが、これに限らず、例えば、クラスタとオブジェクトとの各特徴量成分の差の絶対値の相加平均を特徴量の差としてもよい。
(31)実施形態3では、クラスタのクラスタ特徴量と当該クラスタに属する各オブジェクトのオブジェクト特徴量との差の合計を当該クラスタに属するオブジェクトの数で除算し、その値の逆数を信頼度として算出したが、これに限らず、例えば、クラスタのクラスタ特徴量と当該クラスタに属する各オブジェクトのオブジェクト特徴量とから分散や標準偏差等を算出し、その逆数を信頼度としてもよい。
(32)実施形態1〜3では、Gaborフィルタを用いて特徴量を抽出する方法を例に挙げたが、画像の特徴量を抽出できればどのような方法で特徴量を抽出してもかまわない。
(33)上述の各実施形態及び各変形例を、部分的に組み合わせても良い。
(34)本発明は、実施形態1〜3で示した画像重要度の評価処理等(図18〜20、図29〜31、図34、図37〜39を参照)を画像管理装置のプロセッサ及びそのプロセッサに接続された各種回路に実行させるためのプログラムコードからなる制御プログラムを、記録媒体に記録すること又は各種通信路等を介して流通させ頒布することもできる。このような記録媒体には、ICカード、ハードディスク、光ディスク、フレキシブルディスク、ROMなどがある。流通、頒布された制御プログラムはプロセッサに読み出されうるメモリなどに格納されることにより利用に供され、そのプロセッサがその制御プログラムを実行することにより各実施形態で示したような機能が実現されるようになる。なお、制御プログラムの一部を画像管理装置とは別個のプログラム実行可能な装置(プロセッサ)に各種ネットワークを介して送信して、その別個のプログラム実行可能な装置においてその制御プログラムの一部を実行させることとしても良い。
(35)画像管理装置を構成する構成要素の一部又は全部は、1又は複数の集積回路(IC、LSIなど)として実装されることとしても良く、画像管理装置の構成要素に更に他の要素を加えて集積回路化(1チップ化)されることとしても良い。
以下、更に本発明の一実施形態としての画像管理装置の構成及びその変形例と効果について説明する。
(a)本発明の一実施形態に係る画像管理装置は、図2に示すように、画像を取得する画像取得手段と、前記画像取得手段で取得した各画像において、画像に含まれるオブジェクトに該当する複数画素の画素値の分布に係る特徴量であるオブジェクト特徴量を所定の基準に基づいて抽出することによりオブジェクトを検出するオブジェクト検出手段と、前記画像取得手段で取得した各画像において検出された各オブジェクトを、各オブジェクトのオブジェクト特徴量に応じて、複数のクラスタのいずれかに分類するオブジェクト分類手段と、各オブジェクトについて、当該オブジェクトと同じクラスタに共に属するオブジェクトの個数の大小に基づいて、オブジェクトの重要度であるオブジェクト重要度を評価するオブジェクト重要度評価手段と、一の画像に含まれるオブジェクトのオブジェクト重要度に基づいて、当該一の画像の重要度を評価する画像重要度評価手段とを
備える。この構成により、画像管理装置は、前記所定の基準が人物の顔の特徴量を定めるものであれば、画像に含まれるオブジェクトである人物の顔の重要度に当たるオブジェクト重要度を、画像に含まれる顔の人物と同一人物であることを示すクラスタに属するオブジェクトの出現回数に基づいて求め、各画像に含まれるオブジェクトの重要度を反映するよう各画像の重要度を求めて、その画像重要度によって画像をランキングすることで、出現回数の多い人物が含まれている画像を上位に並べることができる。ユーザは、ランキングの上位から順に画像を探していくことで、膨大な枚数の画像から関心の高い重要な人物が写っている画像、つまり重要度が高い画像を容易に選択できる。
(b)前記画像管理装置におけるオブジェクト重要度評価手段は、オブジェクトのオブジェクト重要度を、当該オブジェクトが属するクラスタと同じクラスタに属するオブジェクトの個数と、当該オブジェクトのオブジェクト特徴量と当該クラスタが示す特徴量の代表値であるクラスタ特徴量とがどの程度類似しているかを示す類似度とに基づいて算出される、当該オブジェクトの当該クラスタに対する評価値と、当該オブジェクトが属するクラスタとは別のクラスタについて、当該別のクラスタに属するオブジェクトの個数と、当該オブジェクトの特徴量と当該別のクラスタのクラスタ特徴量との類似度とに基づいて算出される、当該オブジェクトの当該別のクラスタに対する評価値とに基づいて評価することとしてもよい。この構成によると、同一人物のオブジェクトが誤ってそれぞれ別のクラスタに分類された場合においても、そのオブジェクトが属するクラスタと異なるクラスタについても、そのクラスタに属する人物と同一人物である可能性(確度)を類似度から算出し、そのクラスタに属するオブジェクトの個数を類似度から求めた確度で重み付けして用いてオブジェクト重要度を評価するため、オブジェクトが正しく同一人物と判定されたときにより近いオブジェクト重要度と評価することができる。そのため、より高い精度で画像重要度を評価できる。
(c)前記画像管理装置におけるオブジェクト重要度評価手段は、評価対象である第1オブジェクトが含まれる画像中に、第2オブジェクトが共に含まれる場合には、第1オブジェクトの、当該第1オブジェクトが属するクラスタ又は当該第1オブジェクトが属さないクラスタである第1クラスタに対する評価値を更に、前記画像取得手段で取得した画像群の中で、当該第1クラスタに属するオブジェクトと、第2オブジェクトが属するクラスタと同じ第2クラスタに属するオブジェクトとが一の画像中に共に含まれるという事象の発生している程度である、当該第1クラスタと当該第2クラスタとの共起度にも基づいて算出することとしてもよい。この構成によると、オブジェクトが特徴量の類似度だけで計算して出現回数が多い人物と同一人物の可能性が低いと評価された場合にはその人物と同一人物であってもオブジェクト重要度が低く評価されてしまうことが考えられるが、上記のようにすることで、特徴量の類似度だけでなく人物同士の共起関係をも用いて同一人物である可能性を算出する。これにより、同じ人物でも写る向きが違う等で、特徴量だけではオブジェクトが別の人物の可能性が高いとされる場合においても、オブジェクトが正しく同一人物と判定されたときにより近いオブジェクト重要度と評価することができる。そのため、更に高い精度で画像重要度を評価できる。
(d)前記画像管理装置におけるオブジェクト重要度評価手段は、評価対象である第1オブジェクトが含まれる画像中に、第2オブジェクトが共に含まれる場合には、前記第1クラスタと、第2オブジェクトが属するクラスタと同じ第2クラスタとの共起度の、当該第2クラスタに属するオブジェクトの個数に対する割合として算出される、当該第1オブジェクトの当該第1クラスタに対する確信度と、当該第1クラスタと当該第2クラスタとの共起度の、前記オブジェクト検出手段により検出された全オブジェクトの個数に対する割合として算出される、当該第1オブジェクトの当該第1クラスタに対する支持度と、当該第1オブジェクトの当該第1クラスタに対する類似度とに基づいて計算される、当該第1オブジェクトの当該第1クラスタに対する確度を算出し、第1オブジェクトの第1クラスタに対する評価値を、当該第1オブジェクトの当該第1クラスタに対する確度と、当該第1クラスタに属するオブジェクトの個数とから算出することとしてもよい。この構成によると、第1オブジェクトの第1クラスタに対する確信度と第1オブジェクトの第1クラスタに対する支持度と第1オブジェクトの第1クラスタに対する類似度とに基づいて第1オブジェクトの第1クラスタに対する確度を算出するため、算出した確度に基づいて第1オブジェクトの第1クラスタに対する評価値を算出することができる。
(e)前記画像管理装置におけるオブジェクト重要度評価手段は、評価対象である第1オブジェクトが含まれる画像中に、第2オブジェクトが共に含まれる場合には、前記確度を、更に、第1クラスタの前記クラスタ特徴量と第1クラスタに属する各オブジェクトの前記オブジェクト特徴量との差に基づいて算出され、各オブジェクト特徴量がどの程度前記クラスタ特徴量に集中しているかを示す第1クラスタの信頼度と、第2クラスタの前記クラスタ特徴量と第2クラスタに属する各オブジェクトの前記オブジェクト特徴量との差に基づいて算出される第2クラスタの信頼度とにも基づいて算出することとしてもよい。この構成によると、第1オブジェクトの第1クラスタに対する確度を、第1クラスタの信頼度と第2クラスタの信頼度とにも基づいて算出するため、より高い精度で第1オブジェクトの第1クラスタに対する確度を算出することができる。
(f)前記画像管理装置におけるオブジェクト重要度評価手段は、評価対象である第1オブジェクトが含まれる画像中に、第2オブジェクトが共に含まれる場合には、当該第1オブジェクトの第1クラスタに対する確度を、当該第1オブジェクトの当該第1クラスタに対する確信度と、当該第1オブジェクトの当該第1クラスタに対する支持度と、当該第1オブジェクトの当該第1クラスタに対する類似度と、当該第1クラスタの信頼度と、当該第2クラスタの信頼度とを説明変数として用いるロジスティック回帰を用いて計算することとしてもよい。ロジスティック回帰分析では、過去の実測値等に基づき、確度の算出に対する影響力の大きさにより各説明変数の係数が決定される。そのため、この構成によると、より高い精度で第1オブジェクトの第1クラスタに対する確度を算出することが可能となる。
(g)前記画像管理装置におけるオブジェクト重要度評価手段は、評価対象である第1オブジェクトが含まれる画像中に、第2オブジェクトが共に含まれる場合には、当該第1オブジェクトの第1クラスタに対する確度を、当該第1オブジェクトの当該第1クラスタに対する確信度と、当該第1オブジェクトの当該第1クラスタに対する支持度と、当該第1オブジェクトの当該第1クラスタに対する類似度とを説明変数として用いるロジスティック回帰を用いて計算することとしてもよい。ロジスティック回帰分析では、過去の実測値等に基づき、確度の算出に対する影響力の大きさにより各説明変数の係数が決定される。そのため、この構成によると、より高い精度で第1オブジェクトの第1クラスタに対する確度を算出することが可能となる。
(h)前記画像管理装置におけるオブジェクト重要度評価手段は、評価対象のオブジェクトが含まれる画像中に、当該オブジェクト以外にオブジェクトが含まれない場合には、評価対象のオブジェクトの、当該オブジェクトが属するクラスタ及び当該オブジェクトが属さないクラスタに対する評価値を更に、前記画像取得手段で取得した画像群の中で、一の画像中に当該クラスタに属するオブジェクトが単独で含まれるという事象の発生している程度である、当該クラスタの非共起度に基づいて算出することとしてもよい。この構成によると、オブジェクトが単独で画像に含まれる事象の発生している程度である非共起度に基づいてオブジェクトが属するクラスタ及び当該オブジェクトが属さないクラスタの評価値を算出するため、オブジェクトが単独で画像に含まれていた場合にも、オブジェクトがクラスタに属する可能性を算出することが可能となる。
(i)前記画像管理装置におけるオブジェクト重要度評価手段は、評価対象のオブジェクトが含まれる画像中に、当該オブジェクト以外にオブジェクトが含まれない場合には、当該オブジェクトが属するクラスタ又は当該オブジェクトが属さないクラスタの非共起度の、当該クラスタに属するオブジェクトの個数に対する割合として算出される確信度と、当該クラスタの非共起度の、前記オブジェクト検出手段により検出された全オブジェクトの個数に対する割合として算出される支持度と、当該オブジェクトの当該クラスタに対する類似度とに基づいて計算される、当該オブジェクトの当該クラスタに対する確度を算出し、評価対象のオブジェクトの、当該オブジェクトが属するクラスタ及び当該オブジェクトが属さないクラスタに対する評価値を、当該オブジェクトの当該クラスタに対する確度と、当該クラスタに属するオブジェクトの個数とから算出することとしてもよい。この構成によると、第1オブジェクトの第1クラスタに対する非共起の確信度と第1オブジェクトの第1クラスタに対する非共起の支持度と第1オブジェクトの第1クラスタに対する類似度とに基づいて第1オブジェクトの第1クラスタに対する確度を算出するため、第1オブジェクトが第1クラスタに属する可能性を算出することができる。
(j)前記画像管理装置におけるオブジェクト検出手段は、人物の顔に係る特徴量を抽出する基準によりオブジェクト特徴量を抽出することとしてもよい。この構成によると、人物の特徴を強く示す人物の顔をオブジェクトとして抽出するため、より正確にオブジェクトを分類できる可能性が高まり、その結果、ユーザにとって重要な人物が写っている画像を重要度の高い画像としてランキングすることができる。
(k)前記画像管理装置は更に、各画像において、画像に含まれる物体に該当する複数画素の画素値の分布に係る特徴量である物体特徴量を所定の基準に基づいて抽出することにより物体を検出する物体検出手段と、前記画像取得手段で取得した各画像において検出された各物体を、各物体の物体特徴量に応じて、複数の物体クラスタのいずれかに分類する物体分類手段とを備え、前記オブジェクト重要度評価手段は、評価対象のオブジェクトの、当該オブジェクトが属するクラスタ及び当該オブジェクトが属さないクラスタに対する評価値を更に、当該オブジェクトが含まれる画像中に、1以上の物体が共に含まれる場合には、前記画像取得手段で取得した画像群の中で、当該クラスタに属するオブジェクトと、当該オブジェクトが含まれる画像に当該オブジェクトと共に含まれるうちの1つの物体が属する物体クラスタに共に属する物体とが一の画像中に共に含まれるという事象の発生する程度である、当該クラスタと当該物体クラスタとの共起度に基づいて算出することとしてもよい。ここで物体クラスタとは、物体を所定の基準に基づいて分類するときの分類の単位であり、各物体クラスタは互いに異なる物体特徴量の範囲に対応する。
この構成によると、例えば、画像に単独で写っている場合等、人物同士の共起関係では同一人物である可能性を判断しにくい場合にも、人物と物体との共起関係を用いて同一人物であるか否かを判断することが可能となる。
(l)前記画像管理装置におけるオブジェクト分類手段は、K−means法により各オブジェクトをクラスタに分類することとしてもよい。この構成によると、オブジェクトの分類にK−means法を用いるため、単純なアルゴリズムで各オブジェクトをクラスタに分類することができる。
(m)前記画像管理装置におけるオブジェクト重要度評価手段は、前記オブジェクト重要度を、前記オブジェクトが属するクラスタが示す特徴量の代表値であるクラスタ特徴量と、当該クラスタに属する各オブジェクトの前記オブジェクト特徴量との差に基づいて算出され、各オブジェクト特徴量がどの程度前記クラスタ特徴量に集中しているかを示すクラスタの信頼度にも基づいて算出することとしてもよい。この構成によると、オブジェクトが属するクラスタの信頼度と、当該クラスタに属するオブジェクトの個数によりオブジェクト重要度を算出するため、当該クラスタに属するオブジェクトの個数のみに基づいてオブジェクト重要度を算出するよりも高い精度でオブジェクト重要度を算出することが可能となる。