JPWO2012004933A1 - オブジェクト関連付け装置、オブジェクト関連付け方法、プログラム及び記録媒体 - Google Patents

オブジェクト関連付け装置、オブジェクト関連付け方法、プログラム及び記録媒体 Download PDF

Info

Publication number
JPWO2012004933A1
JPWO2012004933A1 JP2012523509A JP2012523509A JPWO2012004933A1 JP WO2012004933 A1 JPWO2012004933 A1 JP WO2012004933A1 JP 2012523509 A JP2012523509 A JP 2012523509A JP 2012523509 A JP2012523509 A JP 2012523509A JP WO2012004933 A1 JPWO2012004933 A1 JP WO2012004933A1
Authority
JP
Japan
Prior art keywords
period
cluster
association
image
group
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2012523509A
Other languages
English (en)
Other versions
JP5643309B2 (ja
Inventor
槻館 良太
良太 槻館
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Panasonic Holdings Corp
Original Assignee
Panasonic Corp
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp, Matsushita Electric Industrial Co Ltd filed Critical Panasonic Corp
Priority to JP2012523509A priority Critical patent/JP5643309B2/ja
Publication of JPWO2012004933A1 publication Critical patent/JPWO2012004933A1/ja
Application granted granted Critical
Publication of JP5643309B2 publication Critical patent/JP5643309B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/58Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/58Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/583Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content

Abstract

時間の経過によってオブジェクトの特徴が大きく変化したとしても同一の対象を示すオブジェクト同士を精度良く関連付ける。複数のコンテンツを、当該複数のコンテンツそれぞれが生成された時を示すコンテンツ生成時情報と対応付けて記憶し、互いに一部が重複する第1の期間及び第2の期間それぞれにおいて、コンテンツ生成時情報が示す時が当該期間に含まれる各コンテンツが含む各オブジェクトを、互いに類似するオブジェクト毎にグループ化し、第1の期間でグループ化された第1のグループと第2の期間でグループ化された第2のグループとに共通して属するオブジェクトの個数が所定個以上の場合に、第1のグループに属する各オブジェクトと第2のグループに属する各オブジェクトとを同一の対象を示すオブジェクトとして関連付ける。

Description

本発明は、デジタル写真をはじめとする画像等の複数のコンテンツに含まれるオブジェクト(被写体部分等)を同一性に基づいて関連付ける技術に関する。
従来、複数の画像にそれぞれ写る複数の人物の顔を同一人物として関連付けるために、多数の画像それぞれから人物の顔の部分を検出し、その部分から顔の特徴量(例えば目や口等の顔のパーツ間の距離等、顔の識別に有用な特徴群)を抽出して、その特徴量に基づいてクラスタリングするという手法が一般的に用いられている。
これにより、近い顔の特徴量を有する人物同士がグループ化されることで、同じクラスタに分類され、近くない特徴量を有する人物同士は互いに異なるクラスタに属するようになる。そのため同じクラスタに属するか否かによって人物の同一性を判定し、同一人物と判定された人物の顔の関連付けを行うことができる。
しかし、時間が経過するにつれ、人物の顔は、その人物の成長や老化等によって、変化する。そのため、単に顔の特徴量でクラスタリングを行うと、同一人物の顔を写した画像であっても、それぞれが大きく異なる時期に撮影された画像同士では別のクラスタに分類されるおそれがある。
成長や老化等の変化を考慮して同一人物を関連付ける技術としては、人間の加齢に伴う特徴量の変化を統計的に求めたデータを用いて、人物の同一性を判定するものが知られている(例えば特許文献1を参照)。
特開2007−114931号公報
しかしながら、上記の技術では統計的に求めたデータを用いるため、統計から外れた変化を起こした人物の同一性の判定を行う場合には、判定の精度が落ちてしまう。統計から外れた変化には、例えば通常の人より早い成長に伴う変化や、太ったり痩せたりしたことに伴う変化等が挙げられる。
そのため、従来の技術では長期間に渡って撮影された複数の画像に写る同一人物の関連付けを十分に行うことが困難である。
同様の問題は、オブジェクトが人物の顔以外(例えば動植物等)であっても発生し得る。また、コンテンツが画像以外であっても発生し得る。例えばコンテンツが音声で、オブジェクトが人物の声であれば、人物の声の特徴が加齢により変化して同一人物の声と判断できなくなってしまう可能性がある。
本発明は、上記問題に鑑みてなされたものであって、コンテンツに含まれるオブジェクトの特徴が時間の経過によって変化する場合に、複数のコンテンツに含まれる同一の対象を示すオブジェクト同士の関連付けを精度良く行うオブジェクト関連付け装置、オブジェクト関連付け方法、プログラム及び記録媒体を提供することを目的とする。
上記の課題を解決するため、本発明に係るオブジェクト関連付け装置は、複数のコンテンツを、当該複数のコンテンツそれぞれが生成された時を示すコンテンツ生成時情報と対応付けて記憶している記憶手段と、互いに一部が重複する第1の期間及び第2の期間それぞれにおいて、コンテンツ生成時情報が示す時が当該期間に含まれる各コンテンツが含む各オブジェクトを、互いに類似するオブジェクト毎にグループ化するグループ化手段と、前記第1の期間と前記第2の期間との重複する期間において、第1の期間でグループ化された第1のグループと第2の期間でグループ化された第2のグループとに共通して属するオブジェクトの個数が所定個以上の場合に、第1のグループに属する各オブジェクトと第2のグループに属する各オブジェクトとを同一の対象を示すオブジェクトとして関連付けする関連付け手段とを備える。
ここで、オブジェクトは各々が1つのコンテンツに含まれるものであり、1つのオブジェクトが複数のコンテンツに含まれることはない。
同一の対象を示すオブジェクトの特徴が第1の期間と第2の期間とを合わせた期間で変化したとしても、合わせた期間より短い第1の期間及び第2の期間でのその対象の変化は、合わせた期間全体における変化よりは少ないと考えられる。
そのため、第1の期間及び第2の期間それぞれにおいてグループ化を行うと、期間全体でグループ化した場合よりも時間の経過による変化の影響を受けにくく、同一の対象を示すオブジェクトのグループ化が精度良く行える。
そして、第1のグループと第2のグループとに共通して属するオブジェクトは、第1のグループに属する他のオブジェクト及び第2のグループに属する他のオブジェクトと、それぞれ同一の対象であることを示していることになる。
したがって、第1のグループと第2のグループとに共通して属するオブジェクトが所定個以上ある場合には、第1のグループのみに属するオブジェクト、第2のグループのみに属するオブジェクト及び両方に共通して属するオブジェクトはいずれも同一の対象を示していることになる。そのため、それぞれのグループに属する各オブジェクトの関連付けを行っている。
このように、第1の期間及び第2の期間それぞれで精度良くグループ化した結果を用いて、両方を合わせた期間での関連付けを行うため、同一の対象を示した各オブジェクトを従来よりも精度良く関連付けることができる。
関連付けを行った結果は、検索や分類等、オブジェクトの同一性に基づいた処理に利用することができる。
画像管理装置100及びそれに関連する装置により構成される画像管理システム10の例を示す図である。 画像管理装置100の機能に係る構成を示すブロック図である。 画像群300のデータ構成及び内容例を示す図である。 顔検出のイメージを示す図である。 オブジェクト検出情報テーブル500に含まれるオブジェクト検出情報のデータ構成及び内容例を示す図である。 分割期間とその分割期間に含まれるオブジェクト数のイメージを示す図である。 分割期間データテーブル700に含まれる分割期間データの構成及び内容例を示す図である。 分割期間DP001及びDP002におけるクラスタリングのイメージを示す図である。 クラスタ情報テーブル900に含まれるクラスタ情報のデータ構成及び内容例を示す図である。 分割期間DP001から分割期間DP005までにおいて、クラスタリングした結果の例を同一のグラフ上に示した図である。 関連付け情報テーブル970に含まれる関連付け情報のデータ構成及び内容例を示す図である。 出力部212が出力する画面の例を示す図である。(a)は検索のキーとなるオブジェクトの選択をユーザに促す選択画面981、(b)は検索結果をユーザに提示する結果画面982の例を示している。 画像蓄積処理を示す流れ図である。 期間分割処理を示す流れ図である。 分割期間別クラスタリングを示す流れ図である。 クラスタ関連付け処理を示す流れ図である。 クラスタ関連付け処理の一部を示す流れ図である。 検索処理を示す流れ図である。 クラスタcの関連クラスタ取得処理を示す流れ図である。 実施形態2における分割期間とその分割期間の長さのイメージを示す図である。 期間分割処理を示す流れ図である。 実施形態3の画像管理装置100bに係る機能の構成を示すブロック図である。 期間長対応表2300を示す図である。 実施形態3における期間分割処理を示す図である。 複数の関連クラスタ集合情報を含む関連クラスタID集合リスト2500のデータ構成及び内容例を示す図である。 実施形態4におけるオブジェクト関連付け装置100cの構成を示すブロック図である。
<1.実施形態1>
以下、本発明の実施形態1に係るオブジェクト関連付け装置として、コンテンツとしての画像を蓄積してその画像に含まれる被写体を示すオブジェクト(ここでは人物の顔)によって、ある人物の写る画像を検索できる画像管理装置100について説明する。
図1は、画像管理装置100及びそれに関連する装置により構成される画像管理システム10の例を示す図である。
画像管理装置100は、撮影装置110及び表示装置120と接続される。また、画像管理装置100は、コントローラ130から操作信号を受信して動作する。
撮影装置110は、画像を撮影し、その画像を撮影日時を含むExif(Exchangeable image file format)情報と共に蓄積して、ケーブル等を介して画像管理装置100へ送信することができる装置であり、例えば、デジタルカメラである。
表示装置120は、ケーブル等を介して画像管理装置100と接続されることにより、画像管理装置100から出力される映像を表示する装置であり、例えば、デジタルテレビである。
画像管理装置100は、撮影装置110から取得した画像を蓄積し、コントローラ130から操作信号を受信して画像を検索し、検索の結果を表示装置120に出力する。
検索は、オブジェクト、つまり人物の顔をキーとして行われ、画像管理装置100は、検索のキーとして指定された顔の人物と同一人物の顔であると判定された顔を含む画像を出力する。このとき、時間の経過により顔の特徴が変化した人物の顔でも精度良く同一人物の顔と判定できるように画像管理装置100は、構成されている。
<1−1.構成>
画像管理装置100は、ハードウェアとして、画像を取得する入力端子、映像を出力する出力端子、コントローラ130からの操作信号を受信する受信器、データとプログラムとを記憶するメモリ並びにプログラムの実行及び入出力端子と受信器との制御を行うプロセッサを備える。
図2に画像管理装置100の構成を示す。
図2に示すように、画像管理装置100は、画像取得部201、画像記憶部202、オブジェクト検出部203、オブジェクト記憶部204、期間分割部205、クラスタリング部206、クラスタ記憶部207、クラスタ関連付け部208、関連付け情報記憶部209、操作入力部210、検索部211及び出力部212を備える。
画像取得部201、オブジェクト検出部203、期間分割部205、クラスタリング部206、クラスタ関連付け部208、操作入力部210、検索部211及び出力部212の機能は、メモリに格納されたプログラムをプロセッサが実行することにより実現される。
画像記憶部202、オブジェクト記憶部204、クラスタ記憶部207及び関連付け情報記憶部209は、それぞれメモリの一部により実現される。
画像取得部201は、入力端子を介して撮影装置110から複数の画像を取得する。取得した画像は、その画像のファイル名及び撮影日時と対応付けて画像記憶部202に格納される。画像記憶部202に格納されている画像の集合を画像群ということとする。画像記憶部202に既に画像群が格納されているときに新たに画像を格納する場合は、その画像群に新たな画像のデータを追加する。
画像記憶部202に格納されている画像群300のデータ構成及び内容例を図3に示す。
図3に示すように、画像群300は、複数の画像から構成され、各画像は、ファイル名、画像データ及び撮影日時を含んでいる。画像群300に含まれる一の画像は、図3に示すように、ファイル名301、画像データ302及び撮影日時303を含んでいる。
ファイル名は、画像を一意に識別するための文字列であり、撮影装置110により画像毎に付与される。画像を画像記憶部202に格納する際に、同じファイル名の画像が既に格納されていた場合には、画像取得部201は元のファイル名中に数値を付加する等の処理により、異なるファイル名になるようにする。
例えば、“aaaa.jpg”のファイル名301を持つ画像が含まれる画像群300に、新たに“aaaa.jpg”のファイル名を持つ画像を追加しようとした場合、追加対象の画像は、“aaaa1.jpg”というファイル名で格納される。
以下では、特定の画像を例に挙げて説明を行う場合には、その画像を“.jpg”で終わるファイル名で呼ぶこととする。例えば、“aaaa.jpg”のファイル名を持つ画像については、画像aaaa.jpgと呼ぶ。
撮影日時としては、撮影装置110によって画像毎に付与されているExif情報を用いる。例えば、撮影日時303“2010:06:13 16:33:56”は、2010年06月13日16時33分56秒に撮影されたことを示している。
図3の例では、画像群300として、2010年06月13日16時33分56秒に撮影された画像aaaa.jpgから、2030年08月24日15時42分11秒に撮影された画像xyxy.jpgまでが格納されている。
オブジェクト検出部203は、画像記憶部202に格納されている各画像からオブジェクトを検出してそのオブジェクトの特徴量を抽出する。そしてその結果を、検出されたオブジェクト毎にオブジェクト検出情報としてオブジェクト記憶部204に格納する。
オブジェクトを検出する技術は従来から知られている。ここでは、図4のように、画像400中の矩形領域(図4の例では矩形領域401a及び401b)からその領域に含まれる特徴量(図示せず。)を抽出して、オブジェクトに係る所定の特徴量のパターンと照合することでオブジェクトの検出を行う技術を用いる。
特徴量とは、画像中の複数の画素に係る画素値の分布に係る特徴を示したものであり、ここでは、特徴量は、画像の特徴を示す複数の数値を成分とするベクトル(例えば800次元のベクトル)で表されることとする。
このような画像の特徴には、Gaborフィルタを用いて得られる画像に含まれる画素値の分布の周期性や方向性等がある。人物の顔の識別に有用な特徴量としては、上記の画像の特徴等から目と認識された点2つの間の距離や、鼻と認識された点と口と認識された点との距離等が挙げられる。
オブジェクト記憶部204は、一例として、図5に示すオブジェクト検出情報テーブル500を保持している。オブジェクト検出情報テーブル500は、複数のオブジェクト検出情報を記憶するための領域を備えている。各オブジェクト検出情報は、オブジェクトID(IDentifier)、ファイル名、特徴量及び撮影日時により構成されている。
オブジェクトIDは、オブジェクトを識別する識別子であり、ファイル名は、当該オブジェクトの検出元の画像を示すファイル名であり、特徴量は、オブジェクトについて抽出された特徴量であり、撮影日時は、当該オブジェクトの検出元の画像が撮影により生成された日時を示す。
以下では、オブジェクトの検出元の画像における撮影日時を、オブジェクトの撮影日時と呼ぶこととする。
図5に示すように、オブジェクト検出情報テーブル500は、一例として、オブジェクトID501、ファイル名502、特徴量503及び撮影日時504からなるオブジェクト検出情報を含んでいる。
オブジェクトID501は、オブジェクト検出部203が各オブジェクトを検出した順に割り振った4桁の連番の先頭に“OBJ”を付加した文字列である。
例えば、オブジェクト検出部203が最初に検出したオブジェクトのオブジェクトIDは“OBJ0001”であり、1024番目に検出されたオブジェクトのオブジェクトIDは“OBJ1024”である。
以下では、特定のオブジェクトを例に挙げて説明を行う場合には、そのオブジェクトをオブジェクトIDを用いて呼ぶこととする。例えば、オブジェクトID“OBJ0001”により識別されるオブジェクトについては、オブジェクトOBJ0001と呼ぶ。
図5の例では、オブジェクト検出情報テーブル500の第1行のオブジェクト検出情報は、特徴量503“(152,669,…)”を持つオブジェクトOBJ0001が、2010年06月13日16時33分56秒に撮影された画像aaaa.jpgから検出されたことを示している。他の行のオブジェクト検出情報についても同様に、各オブジェクトのオブジェクトID、検出元のファイル名、特徴量及び撮影日時が格納されている。
期間分割部205は、オブジェクト記憶部204に格納されているオブジェクトの撮影日時の全てを含む全体期間を、複数の期間に分割する。そして、分割の結果、決定された短い分割期間それぞれを示す分割期間データを一時的にメモリの一部に格納する。分割は、時間軸上で隣り合う分割期間同士が一部重複するように行う。
図6は、期間分割部205が行う分割のイメージを示した図である。図6において、横軸に日時を表し、縦軸にオブジェクトの特徴量を表している。図中の複数の点562は、それぞれ、オブジェクトを示しており、オブジェクトを示す複数の点562が、それぞれ、オブジェクト検出情報の撮影日時及び特徴量に基づいた位置にプロットされている。
なお、図6では、紙面の都合上、特徴量を1次元的に描いているが、特徴量は、実際には、先述したように複数の数値を成分とするベクトルである。以下でも、日時と特徴量とを用いたグラフについては図6と同様の描き方を用いている。
分割は、図6のように、1つの分割期間に撮影日時が含まれるオブジェクトの総数がX個(Xは所定の個数)、両隣の分割期間と重複する重複期間に撮影日時が含まれるオブジェクトの数がY個(YはXより少ない所定の個数)になるように行われる。ただし、最新のオブジェクトが含まれる分割期間についてはこの限りではない。
図6に示す分割期間551、552、553、554及び555は、この順序で、日時を表す横軸に沿って、過去から未来に向けて配置されている。分割期間551、552、553、554には、X個のオブジェクトが含まれ、分割期間555には、X個以下のオブジェクトが含まれる。分割期間551と分割期間552とに重複する重複期間561には、Y個のオブジェクトが含まれる。
以下では、オブジェクトの撮影日時について述べるときには、特に紛らわしくない限り「撮影日時」を省略して表記することとする。例えば、オブジェクトAの撮影日時を含む期間については、「オブジェクトAを含む期間」ということとする。また、オブジェクトAの撮影日時が日時Bより新しいときには、「オブジェクトAが日時Bより新しい」ということとする。
分割期間の決定は古いオブジェクトを含む分割期間から順に行うこととし、最新の分割期間を生成した時点で分割を終了することとする。オブジェクトの総数によっては、最新の分割期間に含まれるオブジェクト数はX個に満たない場合がある。
図6の例では、X=10、Y=5として、期間を分割している。最初の分割期間は、1〜10番目に古いオブジェクトが含まれるように決定する。2番目に古い分割期間は、最初の分割期間と共通して含まれるオブジェクトが5個になるように、6〜15番目に古いオブジェクトが含まれるように決定する。このように決定することで、6〜10番目の5個のオブジェクトが2つの分割期間に共通することになる。
なお、図6では説明を簡単にするためX=10、Y=5の場合を例に挙げたが、X及びYは後述するクラスタリング及び関連付けのために十分大きい数とすることが望ましい。これより先では、X=100、Y=50として説明を行うこととする。
図7は、分割期間データテーブル700の一例を示しており、分割期間データの構成と分割結果の例とを示している。分割期間データテーブル700は、複数の分割期間データを記憶するための領域を備えており、各分割期間データは、分割期間ID、開始日時及び終了日時を含む。分割期間IDは、当該分割期間を識別するための識別子であり、開始日時は、当該分割期間の開始を示す時刻であり、年、月、日、時、分及び秒で表され、終了日時は、当該分割期間の終了を示す時刻であり、年、月、日、時、分及び秒で表される。
図7に示すように、分割期間データテーブル700は、一例として、分割期間ID701、開始日時702及び終了日時703から構成される分割期間情報を含んでいる。
分割期間IDは、期間分割部205が古い分割期間から順に割り振った3桁の連番の先頭に“DP”を付加した文字列からなる。なお、古い分割期間とは、分割期間の開始日時及び終了日時が古い分割期間のことをいう。同様に、新しい分割期間とは、分割期間の開始日時及び終了日時が新しい分割期間のことをいう。
例えば、最も古い分割期間を識別する分割期間IDは“DP001”であり、12番目に古い分割期間を識別する分割期間IDは“DP012”である。
以下では、特定の分割期間を例に挙げて説明を行う場合には、その分割期間を分割期間IDで呼ぶこととする。例えば、分割期間ID“DP001”により識別される分割期間については、分割期間DP001と呼ぶ。
クラスタリング部206は、期間分割部205により分割してできた分割期間毎に、その分割期間に属するオブジェクトを各オブジェクトの特徴量を用いてクラスタリングする。そして、クラスタリングの結果、得られたクラスタ情報をクラスタ記憶部207に格納する。
図8は、分割期間DP001及び分割期間DP002におけるクラスタリングのイメージを示した図である。図中に、矩形により、クラスタCLS001、CLS002、CLS003及びCLS004を示しており、図中で、黒い点は、オブジェクトを示している。例えば、クラスタCLS001は、1個のオブジェクトを含み、クラスタCLS002は、11個のオブジェクトを含み、クラスタCLS003は、12個のオブジェクトを含み、クラスタCLS004は、4個のオブジェクトを含んでいる。1つの矩形中に含まれるオブジェクトは、同じクラスタに属している。なお、図8では紙面の都合上、各分割期間に含まれる一部のオブジェクトのみ記している。
クラスタリングは、各オブジェクトの特徴量を用いてK−means法で行われる。
K−means法は、各オブジェクトの特徴量を基にK個(所定のクラスタ数)のクラスタ毎の代表値を決定してその代表値と特徴量との差に基づいて分類する方法である。K−means法により、図8のように、近い値の特徴量を有する複数のオブジェクトは、同じクラスタに分類される。以下では、クラスタの代表値を決定して各オブジェクトを分類することを「クラスタを生成する」という。
同一人物を撮影したオブジェクトであれば、特徴量も近くなるため、各クラスタは、撮影された人物とほぼ一対一に対応する。また、全体期間より短い分割期間においてクラスタリングするため、人物の顔の経年変化による影響を受けにくい。
図9は、クラスタ情報テーブル900のデータ構造の一例を示している。
クラスタ情報テーブル900は、複数のクラスタ情報を記憶するための領域を備えており、各クラスタ情報は、クラスタリング部206により生成された各クラスタと一対一に対応している。各クラスタ情報は、クラスタID、1個以上のオブジェクトID及び分割期間IDから構成されている。クラスタ情報テーブル900に含まれる2個のクラスタ情報は、分割期間IDを共有している。
クラスタIDは、対応するクラスタを一意に識別する識別子である。オブジェクトIDは、当該クラスタに含まれるオブジェクトを一意に識別する識別子である。また、分割期間IDは、当該クラスタの生成の元になった分割期間を一意に識別する識別子である。
クラスタ情報テーブル900の第1行のクラスタ情報は、クラスタID901“CLS001”、オブジェクトID902“OBJ0001、OBJ0002、・・・”及び分割期間ID903“DP001”を含み、第2行のクラスタ情報は、クラスタID904“CLS002”、オブジェクトID905“OBJ0025、・・・、OBJ0099、OBJ0100”及び分割期間ID903“DP001”を含む。このように、クラスタ情報テーブル900の第1行のクラスタ情報と、第2行のクラスタ情報とは、同一の分割期間ID903“DP001”を有している。
ここで、クラスタIDは、クラスタリング部206が各クラスタを生成した順に割り振った3桁の連番の先頭に、“CLS”を付加した文字列として生成されている。
例えば、クラスタリング部206が最初に生成したクラスタのクラスタIDは、“CLS001”であり、8番目に生成したクラスタのクラスタIDは、“CLS008”である。
以下では、特定のクラスタを例に挙げて説明を行う場合には、そのクラスタをクラスタIDを用いて呼ぶこととする。例えば、クラスタID“CLS001”により識別されるクラスタについては、これをクラスタCLS001と呼ぶ。
図9の例では、第1行のクラスタ情報は、CLS001により識別されるクラスタがオブジェクトOBJ0001をはじめとする複数のオブジェクトを含み、DP001により識別される分割期間において生成されたクラスタであることを示している。第2行以降のクラスタ情報も同様に、クラスタIDにより識別されるクラスタが、オブジェクトIDにより識別されるオブジェクトを含み、分割期間IDにより識別される分割期間において生成されたことを示している。
図10は、分割期間DP001から分割期間DP005までにおいて、クラスタリングした結果の例を同一のグラフ上に示したものである。この図において、図6と同様に、横軸に日時を表し、縦軸にオブジェクトの特徴量を表し、図中の複数の点は、それぞれ、オブジェクトを示しており、複数の点は、それぞれ、オブジェクト検出情報の撮影日時及び特徴量に基づいた位置にプロットされている。
図10において、分割期間DP001、DP002、DP003、DP004、DP005は、この順序で、横軸上において、過去から未来に向かって配置されている。分割期間DP001及び分割期間DP002は、一部が重複し、分割期間DP002及び分割期間DP003は、一部が重複している。分割期間DP003及び分割期間DP004、分割期間DP004及び分割期間DP005についても、同様に、一部が重複している。
また、分割期間DP001において、クラスタCLS001とクラスタCLS002とが生成され、分割期間DP002において、クラスタCLS003とクラスタCLS004とが生成されており、分割期間DP003以降においても、同様に2つずつのクラスタが生成されている。
クラスタ関連付け部208は、クラスタ記憶部207に格納されている各分割期間において生成されたクラスタとその隣の分割期間で生成されたクラスタとの関連付けを行う。
隣り合う2個の分割期間を、分割期間A及び分割期間Aより新しい分割期間Bとして説明する。
クラスタ関連付け部208は、分割期間Aにおいて生成された各クラスタと、分割期間Bにおいて生成された各クラスタとを比較し、同一のオブジェクトを所定個以上含むクラスタ同士を関連付ける。ここでは所定個を1個として説明する。
例えば、図9のクラスタ情報の例では、分割期間DP001(分割期間Aに相当)におけるクラスタCLS002と、分割期間DP002(分割期間Bに相当)におけるクラスタCLS003とが、いずれもオブジェクトOBJ0099とオブジェクトOBJ0100とを含んでいる。そのため、クラスタCLS002とクラスタCLS003とが関連付けられる。
一つのクラスタは、一人の人物とほぼ一対一に対応するため、関連付けられた2つのクラスタに属する各オブジェクトは、一人の人物に同一の人物、すなわち同一人物を示している可能性が高い。そのため、関連付けられた2つのクラスタに属する各オブジェクトは、クラスタ同士の関連付けを介して同一人物として互いに関連付けられていることとなる。
ここで、図10に示す例においては、クラスタCLS002とクラスタCLS003とは、6つのオブジェクト951を共通して含み、クラスタCLS003とクラスタCLS005とは、6つのオブジェクト952を共通して含んでいる。
そこで、分割期間DP001と分割期間DP002との組において、6つのオブジェクト951を共通して含むクラスタCLS002とクラスタCLS003とを関連付けることができ、分割期間DP002と分割期間DP003との組において、6つのオブジェクト952を共通して含むクラスタCLS003とクラスタCLS005とを関連付けることができる。
各分割期間とその隣の分割期間とにおいて関連付けを行った結果は、関連付け情報として、関連付け情報記憶部209が保持する関連付け情報テーブル970に格納される。
図11は、関連付け情報テーブル970の一例を示し、関連付け情報のデータ構成と図10の例に基づいた関連付けの結果とを示している。
関連付け情報テーブル970は、複数の関連付け情報を記憶するための領域を備えている。各関連付け情報は、第1のクラスタIDと第2のクラスタIDを含む。第1のクラスタIDと第2のクラスタIDとは、上記のようにして、相互に関連付けされた2個のクラスタを識別する識別子である。
図11に示すように、関連付け情報テーブル970の第1行の関連付け情報は、第1のクラスタID901a“CLS002”及び第2のクラスタID901b“CLS003”により構成されており、互いに関連付けられた2つのクラスタのクラスタIDを表している。なお、図11に示す関連付け情報テーブル970の左端の列(関連付け1〜7)は説明の便宜上記載したものであり、実際には関連付け情報のデータに含まなくても構わない。
分割期間Aで生成されたクラスタaと、分割期間Bで生成されたクラスタbとが関連付けられたときには、クラスタaを識別するクラスタIDを第1のクラスタIDとし、クラスタbを識別するクラスタIDを第2のクラスタIDとし、第1のクラスタID及び第2のクラスタIDから構成される関連付け情報を生成し、生成した関連付け情報を関連付け情報テーブル970に書き込む。
図11の例では、クラスタCLS002とクラスタCLS003(関連付け1)、クラスタCLS003とクラスタCLS005(関連付け2)、クラスタCLS004とクラスタCLS006(関連付け3)、クラスタCLS005とクラスタCLS007(関連付け4)、クラスタCLS006とクラスタCLS008(関連付け5)、クラスタCLS007とクラスタCLS009(関連付け6)、クラスタCLS008とクラスタCLS010(関連付け7)がそれぞれ関連付けられている。
操作入力部210は、受信器がコントローラ130から受信した操作信号を基にユーザに選択されたオブジェクトを特定し、検索部211に画像の検索を行わせる。また、操作内容を出力部212に出力させる。
検索部211は、操作入力部210が特定したオブジェクトと同一人物を示すオブジェクトを検索し、検索した結果得られたオブジェクトを含んでいる画像のファイル名301を出力部212に送出する。
オブジェクトの検索は、クラスタ記憶部207に格納されているクラスタ情報及び関連付け情報記憶部209に格納されている関連付け情報を用いて行われる。
出力部212は、表示装置120に映像を出力して、表示装置120に映像を表示させる。出力部212が出力する映像は、検索のキーとなるオブジェクトをユーザに選択させる選択画面と、検索部211による検索の結果を示す結果画面との2種類がある。
選択画面の例を図12(a)に示す。図12(a)に示す例では、選択画面981において、表示領域にオブジェクトを示す画像を複数個並べており、選択する候補のオブジェクトを示す画像を二重枠で囲んで表示している。
結果画面の例を図12(b)に示す。図12(b)に示す例では、結果画面982において、検索部211が検索した結果の画像とそのファイル名との組を複数個並べたものを、検索の結果得られた画像の個数と共に表示している。
<1−2.動作>
以下、画像管理装置100が行う処理について説明する。
画像管理装置100が行う処理は、大きく画像蓄積処理と検索処理との2つに分けられる。
<1−2−1.画像蓄積処理>
画像蓄積処理は、撮影装置110から画像を取得して蓄積し、蓄積した画像に含まれる各オブジェクトを分類する処理である。
画像蓄積処理は、画像管理装置100に撮影装置110が接続されて、撮影装置110に格納されている画像が取得できるようになったときに開始される。
画像蓄積処理について、図13に示す流れ図に沿って説明する。
まず、画像取得部201は、入力端子を介して撮影装置110から複数の画像を取得し、取得した複数の画像を画像記憶部202に格納する(ステップS1301)。
取得した各画像を格納したら、オブジェクト検出部203は、画像記憶部202に格納されている画像群の各画像からオブジェクトを検出し(ステップS1302)、検出した各オブジェクトから特徴量を抽出する(ステップS1303)。そして、各オブジェクトにオブジェクトIDを付与して、検出元の画像のファイル名、抽出した特徴量及び検出元の画像の撮影日時をオブジェクト検出情報としてオブジェクト記憶部204に格納する(ステップS1304)。
次に、期間分割部205は、全体期間を複数の分割期間に分割する期間分割処理を行う(ステップS1305)。
期間分割処理の結果を用いて、クラスタリング部206は、分割期間別クラスタリングを行う(ステップS1306)。
そして、クラスタ関連付け部208は、分割期間別クラスタリングで生成されたクラスタを関連付けるクラスタ関連付け処理を行う(ステップS1307)。
以下、期間分割処理、分割期間別クラスタリング及びクラスタ関連付け処理のそれぞれについて詳しく説明する。
<1−2−2.期間分割処理>
期間分割処理は、全体期間を分割して各分割期間を決定し、分割期間データを生成する処理である。この処理により、各分割期間に含まれるオブジェクトの数がX個、重複期間に含まれるオブジェクトの数がY個となるように、分割期間が決定される。
期間分割処理について、図14に示す流れ図に沿って説明する。
まず、期間分割部205は、オブジェクト記憶部204に格納されているオブジェクト検出情報に基づいて、撮影日時の古い順に並ぶように、全オブジェクトをソートする(ステップS1401)。
そして期間分割部205は、変数m及び変数nを「1」に初期化する(ステップS1402)。
ここで、変数mは、期間分割処理において各オブジェクトを識別する番号であり、変数mにより識別されるオブジェクトは、撮影日時がm番目に古いオブジェクトである。以下において、変数mにより識別されるオブジェクトを、オブジェクトmと表記する。
また、変数nは、期間分割処理において各分割期間を識別する番号であり、変数nにより識別される分割期間はn番目に古い分割期間である。以下において、変数nにより識別される分割期間を、分割期間nと表記する。
期間分割部205は、分割期間nの開始日時にオブジェクトmの撮影日時を設定する(ステップS1403)。オブジェクトmの撮影日時が分割期間nの開始日時と一致するように設定しているため、オブジェクトmは、分割期間nに含まれるものの中で最も古いオブジェクトとなる。
次に期間分割部205は、m+Xがオブジェクトの総数M以下であるか否かを判定する(ステップS1404)。すなわち、オブジェクトm+Xが存在するか否かを判定する。
ここで、オブジェクトm+Xは、オブジェクトmから数えてX+1個目のオブジェクトである。例えば、m=1001、X=100とすると、オブジェクトm+X、すなわちオブジェクト1101は、オブジェクト1001から数えて101個目のオブジェクトであり、100個目のオブジェクトは、オブジェクト1100である。
オブジェクトmは、分割期間nに含まれるものの中で最も古いオブジェクトであるので、オブジェクトm+Xは、分割期間nの終了日時より新しいものの中で最も古いオブジェクトとなる。
すなわち、ステップS1404でオブジェクトm+Xが存在するか否かを判定することは、分割期間nの終了日時より新しいオブジェクトが存在するか否かを判定していることと等価である。
m+X≦Mである場合(ステップS1404:YES)、期間分割部205は、分割期間nの終了日時にオブジェクトm+X−1の撮影日時を設定する(ステップS1405)。
このようにすることで、オブジェクトmから古い順にX個のオブジェクトを含む分割期間nが決定されたことになる。
分割期間nを決定したら、期間分割部205は、決定した分割期間nに分割期間IDを付与して分割期間データを生成する(流れ図には示さず。)。
そして、期間分割部205は、次の分割期間n+1の開始日時を決定するためのオブジェクトを特定するため、mにm+X−Yを設定する(ステップS1406)。
ここで、オブジェクトm+X−Yは、オブジェクトm+X−1、すなわち分割期間nに含まれる最新のオブジェクトから古い方に数えてY個目のオブジェクトとなる。
例えば、m=1001、n=11、X=100、Y=50のときを考える。このとき、分割期間11には、オブジェクト1001〜オブジェクト1101が含まれる。そして分割期間12については、オブジェクト1051〜オブジェクト1100の50個のオブジェクトが分割期間11との重複期間に含まれるように、オブジェクト1051の撮影日時を分割期間12の開始日時に設定することとなる。
そして、次なる分割期間を決定するため、期間分割部205は、nを「1」だけ増やして(ステップS1407)、ステップS1403に戻る。
ステップS1404の判断においてm+X>Mである場合(ステップS1404:NO)、期間分割部205は、分割期間nの終了日時にオブジェクトMの撮影日時を設定して(ステップS1408)、分割期間nを決定する。
そして、決定した分割期間nに分割期間ID701を付与して分割期間データを生成し、期間分割処理を終了する。
<1−2−3.分割期間別クラスタリング>
分割期間別クラスタリングは、各分割期間において、その分割期間に含まれる各オブジェクトをクラスタに分類する処理である。
分割期間別クラスタリングについて、図15に示す流れ図に沿って説明する。
変数nを「1」に初期化する(ステップS1501)。ここで、変数nは、分割期間別クラスタリングにおいて各分割期間を識別する番号である。例えば、分割期間7は、7番目に古い分割期間、すなわちDP007である。
クラスタリング部206は、分割期間nに含まれるオブジェクトをクラスタリングする(ステップS1502)。このとき、生成した各クラスタに対してクラスタIDを生成する。
クラスタリング部206は、クラスタリングの結果をクラスタ記憶部207に格納する(ステップS1503)。
すなわち、クラスタリングで生成された各クラスタに対し、そのクラスタのクラスタID、そのクラスタに含まれる各オブジェクトのオブジェクトID及び分割期間nの分割期間IDからクラスタ情報を生成し、生成したクラスタ情報をクラスタ記憶部207に格納する。
そして、クラスタリング部206は、変数nが分割期間数未満であるか否かを判定する(ステップS1504)。
変数nが分割期間数未満であれば(ステップS1504:YES)、次なる分割期間でクラスタリングを行うため変数nを「1」だけ増やし(ステップS1505)、ステップS1502に戻る。
変数nが分割期間数未満でなければ(ステップS1504:NO)、全ての分割期間でクラスタリングが終了しているので分割期間別クラスタリングを終了する。
<1−2−4.クラスタ関連付け処理>
クラスタ関連付け処理は、隣り合う分割期間で生成されたクラスタ同士を比較して関連付ける処理である。
クラスタ関連付け処理について、図16及び図17に示す流れ図に沿って説明する。
クラスタ関連付け部208は、クラスタ関連付け処理において各分割期間を識別する番号nを「1」に初期化する(ステップS1601)。
図示していないが、ここで関連付け情報記憶部209に関連付け情報が格納されていた場合には、その関連付け情報を消去する。
クラスタ関連付け部208は、変数iに分割期間nでの最初のクラスタのクラスタIDを設定する(ステップS1602)。
ここで、分割期間nでの最初のクラスタは、クラスタ記憶部207に格納されているクラスタ情報のうち、分割期間nで生成されたものであって、“CLS”に続く番号が最も小さいものに対応するクラスタとする。
クラスタ関連付け部208は、変数j(クラスタID901)に分割期間n+1での最初のクラスタのクラスタIDを設定する(ステップS1603)。
クラスタ関連付け部208は、クラスタiに対する関連付け候補を「なし」に設定して、関連付けを行うための閾値zを所定個(ここでは「1」)にする(ステップS1604)。ここで、クラスタiは、変数iの値を有するクラスタIDにより識別されるクラスタである。クラスタjについても同様である。
クラスタ関連付け部208は、クラスタiとクラスタjとの両方に共通して属するオブジェクトである共通オブジェクトの数をカウントする(ステップS1605)。
クラスタ関連付け部208は、共通オブジェクトの数が閾値z以上であるか否かを判定する(ステップS1606)。
共通オブジェクトの数が閾値z以上である場合(ステップS1606:YES)、クラスタ関連付け部208は、クラスタjを、クラスタiに対する関連付け候補に設定する(ステップS1607)。ここで、クラスタiに対する関連付け候補が既にあった場合には、その関連付け候補をクラスタjに置き換える。
クラスタ関連付け部208は、閾値zを共通オブジェクトの数に更新する(ステップS1608)。
共通オブジェクトの数が閾値z未満である場合(ステップS1606:NO)には、ステップS1607及びステップS1608の処理を行わない。
そして、クラスタ関連付け部208は、jが分割期間n+1での最後のクラスタのクラスタIDであるか否かを判定する(ステップS1609)。
最後のクラスタのクラスタIDでない場合(ステップS1609:NO)、クラスタ関連付け部208は、変数jに分割期間n+1でのクラスタjの次にあたるクラスタのクラスタIDを設定し(ステップS1610)、ステップS1605に戻る。
最後のクラスタのクラスタIDである場合(ステップS1609:YES)、クラスタ関連付け部208は、クラスタiに対する関連付け候補があるか否かを判定する(ステップS1611)。
関連付け候補がある場合(ステップS1611:YES)、クラスタ関連付け部208は、クラスタiと関連付け候補とを関連付ける(ステップS1612)。
すなわちクラスタ関連付け部208は、第1のクラスタIDをi、第2のクラスタIDを関連付け候補のクラスタIDとした関連付け情報を生成して関連付け情報記憶部209に格納する。このとき、関連付け情報記憶部209に既に関連付け情報が格納されていた場合には、生成した関連付け情報を元の関連付け情報に追加する。
関連付け候補がない場合(ステップS1611:NO)、ステップS1612の処理を行わない。
クラスタ関連付け部208は、変数iが分割期間nでの最後のクラスタのクラスタIDであるか否かを判定する(ステップS1613)。
最後のクラスタのクラスタIDでない場合(ステップS1613:NO)、クラスタ関連付け部208は、変数iに、分割期間nでのクラスタiの次にあたるクラスタのクラスタIDを設定し(ステップS1614)、ステップS1603に戻る。
最後のクラスタのクラスタIDである場合(ステップS1613:YES)、分割期間nと分割期間n+1とにおける関連付けの処理が完了したことになるため、以下の処理を行う。
クラスタ関連付け部208は、分割期間n+1が分割期間数に一致するか否かを判定する(ステップS1615)。
分割期間数に一致しない場合(ステップS1615:NO)、nを「1」だけ増やして(ステップS1616)、ステップS1602に戻る。
分割期間数に一致する場合(ステップS1615:YES)、全ての隣り合う分割期間同士での関連付けの処理が完了しているので、クラスタ関連付け処理を終了する。
<1−2−5.検索処理>
検索処理は、ユーザが選択したオブジェクトをキーとして画像を検索する処理である。
検索処理は、ユーザによる特定のオブジェクトを選択する操作により開始される。
検索処理について、図18に示す流れ図に沿って説明する。
検索部211は、検索のキーとするオブジェクトkを識別するオブジェクトIDを操作入力部210から取得する(ステップS1801)。
検索部211は、オブジェクトkの属するクラスタcを識別するクラスタIDをクラスタ記憶部207から取得する(ステップS1802)。
検索部211は、クラスタcに直接的又は間接的に関連付けられた一連のクラスタを識別するクラスタIDを取得する(ステップS1803)。以下では、関連付けられた一連のクラスタを関連クラスタといい、関連クラスタを識別するクラスタIDを関連クラスタIDという。
例えば、図11のように関連付けが行われていたとすると、クラスタCLS005の関連クラスタは、クラスタCLS005と関連付けられているクラスタCLS003とクラスタCLS007、クラスタCLS003と関連付けられているクラスタCLS002、クラスタCLS007と関連付けられているクラスタCLS009の合計4つのクラスタとなる。これらのクラスタCLS003、CLS007、CLS002及びCLS009は、クラスタCLS005に直接的又は間接的に関連付けられているので、いずれも同一人物を示す可能性が高い。
ステップS1803の処理(クラスタcの関連クラスタ取得処理)の内容については、後に詳しく説明する。
検索部211は、クラスタc及び各関連クラスタに属するオブジェクト(以下、関連オブジェクトという。)のオブジェクトIDをクラスタ記憶部207から取得する(ステップS1804)。
検索部211は、関連オブジェクトを含む画像のファイル名をオブジェクト記憶部204から取得する(ステップS1805)。
出力部212は、検索部211が取得したファイル名に対応する画像を画像記憶部202から取得し、結果画面の態様で表示装置120に出力する(ステップS1806)。
<1−2−6.クラスタcの関連クラスタ取得処理>
クラスタcの関連クラスタ取得処理は、関連付け情報記憶部209に格納されている関連付け情報をたどってクラスタcの関連クラスタIDを取得する処理である。
クラスタcの関連クラスタ取得処理について、図19に示す流れ図に沿って説明する。
検索部211は、変数iにクラスタcのクラスタIDを設定する(ステップS1901)。
次に、検索部211は、変数iに一致する第1のクラスタIDを含む関連付け情報が関連付け情報記憶部209に存在するか否かを判定する(ステップS1902)。
存在すると判定された場合(ステップS1902:YES)、その関連付け情報の第2のクラスタIDに対応するクラスタは、クラスタcに直接的又は間接的に関連付けられている。そのため、検索部211は、その第2のクラスタIDを関連クラスタIDに追加する(ステップS1903)。
そして、検索部211は、変数iにステップS1903で追加された第2のクラスタIDを設定し(ステップS1904)、ステップS1902に戻る。
ステップS1902において、存在しないと判定がなされた場合(ステップS1902:NO)、検索部211は、変数jにクラスタcのクラスタIDを設定する(ステップS1905)。
次に、検索部211は、変数jに一致する第2のクラスタIDを含む関連付け情報が関連付け情報記憶部209に存在するか否かを判定する(ステップS1906)。
存在すると判定された場合(ステップS1906:YES)、検索部211は、その関連付け情報の第1のクラスタIDを関連クラスタIDに追加する(ステップS1907)。
そして、検索部211は、変数jにステップS1907で追加された第1のクラスタIDを設定し(ステップS1908)、ステップS1906に戻る。
ステップS1906において、存在しないと判定された場合(ステップS1906:NO)、クラスタcの関連クラスタ取得処理を終了する。
<2.実施形態2>
実施形態1では、関連付けを行うために、各分割期間及び重複期間に含まれるオブジェクトの個数が一定になるように全体期間を分割する画像管理装置100について説明している。
各分割期間及び重複期間に含まれるオブジェクトの個数が一定になるように全体期間を分割することに代えて、ここでは、実施形態2として、全体期間を分割する際に、分割期間及び重複期間の長さが一定になるようにする画像管理装置100aについて説明する。
画像管理装置100aは、画像管理装置100と同じ構成を有している。以下においては、画像管理装置100との相違点を中心として説明する。
図20は、画像管理装置100aにおける期間分割部205が行う分割のイメージを示した図である。図20においては、図6と同様に、横軸に日時を表し、縦軸にオブジェクトの特徴量を表している。図中の複数の点758は、それぞれ、オブジェクトを示しており、複数の点758は、それぞれ、オブジェクト検出情報の撮影日時及び特徴量に基づいた位置にプロットされている。
分割は、一例として、図20に示すように、1つの分割期間の長さがΔT(ΔTは、所定の長さで、例えば1年)、1つの重複期間の長さがΔt(Δtは、ΔTより短い所定の長さで、例えば半年)となるように、行われる。ただし、最新の分割期間については、ΔTより短くなっても良い。
なお、本実施形態では、どの分割期間にも十分な数のオブジェクトが含まれていることを前提とする。
以下、期間分割処理について、図21に示す流れ図に沿って説明する。
まず、期間分割部205は、変数としての日時dに最も古いオブジェクトの撮影日時を設定する(ステップS2101)。
そして、期間分割部205は、変数nを「1」に初期化する(ステップS2102)。
ここで、変数nは、期間分割処理において各分割期間を識別する番号であり、変数nにより識別される分割期間は、n番目に古い分割期間である。ここで、変数nにより識別される分割期間を、分割期間nと表記する。
期間分割部205は、分割期間nの開始日時に日時dを設定する(ステップS2103)。
次に、期間分割部205は、日時dよりΔTだけ未来の日時が最新のオブジェクトの撮影日時より過去であるか否かを判定する(ステップS2104)。
以下の説明及び図21中では、dよりΔTだけ未来の日時をd+ΔTと表記し、dよりΔTだけ過去の日時をd−ΔTと表記することとする。
日時d+ΔTが最新のオブジェクトの撮影日時より過去である場合(ステップS2104:YES)、期間分割部205は、分割期間nの終了日時に日時d+ΔTを設定する(ステップS2105)。
このようにすることで、日時dから始まりΔTの長さを持つ分割期間nが決定されたことになる。
分割期間nを決定したら、期間分割部205は、決定した分割期間nに分割期間IDを付与して分割期間データを生成する(流れ図には示さず。)。
そして、期間分割部205は、次の分割期間n+1の開始日時を決定するため、日時dにd+ΔT−Δtを設定する(ステップS2106)。
そして、次なる分割期間を決定するため、期間分割部205は、変数nを「1」だけ増やして(ステップS2107)、ステップS2103に戻る。
ステップS2104の判断において、日時dよりΔTだけ未来の日時が最新のオブジェクトの撮影日時より過去でない判断とされた場合(ステップS2104:NO)、期間分割部205は、分割期間nの終了日時に最新のオブジェクトの撮影日時を設定して(ステップS2108)、分割期間nを決定する。
そして、決定した分割期間nに分割期間IDを付与して分割期間データを生成し、期間分割処理を終了する。
<3.実施形態3>
実施形態2では、期間分割部205が行う全体期間の分割を、分割期間及び重複期間の長さが一定になるように行っている。
以下、実施形態3として、特定の対象人物を精度良く検索できるように、全体期間の分割を行う際に、分割期間の長さを年齢によって変化させるようにする画像管理装置100bについて説明する。
なお、本実施形態でも実施形態2と同様に、どの分割期間にも十分な数のオブジェクトが含まれていることを前提とする。
図22は、画像管理装置100bの機能に係る構成を示している。
図22に示すように、画像管理装置100bは、画像管理装置100aの構成に加えて、生年月日記憶部2201及び期間長対応表記憶部2202を備える。また、操作入力部210及び期間分割部205は、画像管理装置100aが有する操作入力部210及び期間分割部205とは、相違点がある。以下、これらの相違点を中心にして説明する。
生年月日記憶部2201は、対象人物の生年月日を記憶するメモリの領域を備えている。ここで、生年月日は、年月日で表されることとする。例えば、2010年6月18日21時5分に生まれた人物であれば、生年月日は、2010年6月18日と表される。
期間長対応表記憶部2202は、図23に一例として示すように、期間長対応表2300を保持しており、期間長対応表2300は、年齢と期間長とからなる組を複数個記憶するための領域を有する。年齢は、対象人物の年齢を幅を持って示す。また、期間長は、分割期間の長さを示す。
図23に示す例では、期間長対応表2300は、年齢2301「0歳〜3歳」と期間長2302「1か月」とを含む。これは、幅のある年齢「0歳〜3歳」について、分割期間として「1か月」が対応付けられていることを示す。期間長対応表2300では、同様に、年齢「4歳〜6歳」には、期間長「2か月」が対応している。7歳以降の各年齢の幅に対しても、それぞれ、期間長が対応付けられている。
操作入力部210は、画像管理装置100aにおける操作入力部210の機能に加え、ユーザから人物の生年月日の入力を受け、生年月日記憶部2201に格納する機能を有する。
期間分割部205は、分割期間の長さを一定ではなく、その分割期間の開始日時における対象人物の年齢に応じて変化させる。また、生年月日以前の日時については期間の分割の対象にしないこととする。
以下、図21に示す流れ図との相違点を中心として、図24に示す流れ図を用いて、実施形態3の期間分割部205の動作について、説明する。
図21に示すステップS2101に代えて、期間分割部205は、生年月日記憶部2201から対象人物の生年月日を取得して、日時dに対象人物の生年月日を設定する(ステップS2101a)。
ここで、日時dは、1日の中の時間(時分秒)を含むデータであるが、時分秒の部分については0時0分0秒に設定することとする。
次に、図21に示すステップS2103の後において、期間分割部205は、対象人物の生年月日と日時dとから、分割期間nの開始日時における対象人物の年齢を算出する(ステップS2401)。
更にステップS2401の後に、期間分割部205は、対象人物の年齢に対応する期間長を、期間長対応表2300を参照して取得し、取得した期間長をΔTに設定する(ステップS2402)。
次に、図21に示すステップS2104に制御を移す。
その他のステップについては、図21に示す流れ図と同じであるので、説明を省略する。
<4.実施形態4>
本発明に係る別の実施形態としてのオブジェクト関連付け装置100cについて説明する。
(1)オブジェクト関連付け装置100cは、図26に示すように、記憶部101、グループ化部102及び関連付け部103から構成されている。
記憶部101は、複数のコンテンツを、当該複数のコンテンツそれぞれが生成された時を示すコンテンツ生成時情報と対応付けて記憶している。
グループ化部102は、互いに一部が重複する第1の期間及び第2の期間それぞれにおいて、コンテンツ生成時情報が示す時が当該期間に含まれる各コンテンツが含む各オブジェクトを、互いに類似するオブジェクト毎にグループ化する。
関連付け部103は、前記第1の期間と前記第2の期間との重複する期間において、第1の期間でグループ化された第1のグループと第2の期間でグループ化された第2のグループとに共通して属するオブジェクトの個数が所定個以上の場合に、第1のグループに属する各オブジェクトと第2のグループに属する各オブジェクトとを同一の対象を示すオブジェクトとして関連付けする。
(2)前記コンテンツは、画像であるとしてもよい。
オブジェクト関連付け装置100cは、更に、前記画像が含むオブジェクトを検出して当該オブジェクトの特徴量を抽出する抽出部104(図示していない)備える。
グループ化部102は、前記オブジェクトそれぞれの特徴量を用いてグループ化を行う。
(3)オブジェクト関連付け装置100cは、更に、前記第1の期間と前記第2の期間との重複する期間については、コンテンツ生成時情報が示す時が当該期間に含まれる各画像に含まれるオブジェクトの数の合計が1以上の所定数となり、当該第1の期間及び当該第2の期間それぞれについては、コンテンツ生成時情報が示す時が当該期間に含まれる各画像が含むオブジェクトの数の合計が前記所定数より多くなるように、当該第1の期間及び当該第2の期間を決定する決定部105(図示していない)を備えるとしてもよい。
(4)前記オブジェクトは人物の顔であるとしてもよい。
抽出部104は、人物の顔を検出する基準により人物の顔を特定することで前記オブジェクトを検出し、当該オブジェクトから人物の顔に係る特徴量を抽出するとしてもよい。
(5)オブジェクト関連付け装置100cは、更に、前記第1の期間と前記第2の期間との重複する期間が所定の長さとなり、当該第1の期間及び当該第2の期間が前記所定の長さより長くなるように当該第1の期間及び当該第2の期間を決定する決定部105a(図示していない)を備えるとしてもよい。
(6)前記オブジェクトは人物の顔であるとしてもよい。
決定部105aは、前記第1の期間及び前記第2の期間それぞれについて、当該期間における一の人物の年齢を算出し、当該期間の長さを当該年齢に基づいて決定する。
(7)前記コンテンツ生成時情報は、日付の情報を有するとしてもよい。
オブジェクト関連付け装置100cは、更に、前記年齢を算出する基準の日付を記憶している日付記憶部106と、年齢と期間の長さとを対応付けて複数記憶している期間長記憶部107(図示していない)とを備える。
決定部105aは、前記第1の期間及び前記第2の期間それぞれについて、前記算出を前記基準の日付に基づいて行い、当該期間の長さを、前記期間長記憶手段を参照して当該年齢に対応する期間の長さに決定する。
(8)オブジェクト関連付け装置100cは、更に、前記第1の期間と前記第2の期間との重複する期間については、コンテンツ生成時情報が示す時が当該期間に含まれる画像の数が1以上の所定数となり、当該第1の期間及び当該第2の期間それぞれについては、コンテンツ生成時情報が示す時が当該期間に含まれる前記画像の数が前記所定数より多くなるように、当該第1の期間及び当該第2の期間を決定する決定部105b(図示していない)を備えるとしてもよい。
(9)オブジェクト関連付け装置100cは、所定の期間を、時間軸で隣接する期間が互いに一部で重複するように複数の期間に分割する分割部108(図示していない)を備えるとしてもよい。
グループ化部102は、前記複数の期間それぞれにおいて前記グループ化を行う。
関連付け部103は、前記複数の期間における時間軸で隣接する期間の組それぞれについて、前記組のうち早い方の期間を第1の期間とし、遅い方の期間を第2の期間として前記関連付けを行う。
<5.変形例>
以上、各実施形態に基づいて説明したが、本発明は上述の実施形態に限定されない。例えば、以下に列挙したような変形も本発明に含まれる。
(1)実施形態1〜3では、関連付けを行った結果を画像の検索に用いることとしているが、関連付けの用途は画像の検索には限られない。例えば、以下のような用途に用いるとしてもよい。
(a)画像中に含まれるオブジェクトの同一人物として関連付けられたオブジェクトの数を用いて各画像を評価する。
(b)同一人物の顔を含む全ての画像に対して同じメタデータ(例えばその人物の名前)を付加する。
(c)画像に含まれる人物によって各画像を分類する。
(2)実施形態1〜3では、オブジェクトは人物の顔であるとしているが、オブジェクトは、人物の顔以外であっても良い。
例えば、動植物や街並み等、時間の経過によって少しずつ特徴が変化するものに対して適用することもできる。この場合には、オブジェクト検出部203におけるオブジェクトの検出及び特徴量の抽出の方法を、対象を示すオブジェクトを検出できて各対象の識別ができるような特徴量を抽出する方法に変更すればよい。
また、人物の関連付けをする場合にも、顔ではなく人体をオブジェクトとして、体格等を示す特徴量を用いて関連付けすることとしても良い。
(3)実施形態1〜3では、コンテンツは静止画としているが、何らかの対象を示すオブジェクトを検出できてそのオブジェクトの特徴量を抽出できるコンテンツであれば、静止画以外のコンテンツであっても良い。
例えば、コンテンツは、動画であっても良い。この場合には、動画の各フレームやサムネイル等からオブジェクトを抽出することができる。
また、コンテンツは音声であっても良い。この場合には、例えば、オブジェクトを人物の声とし、特徴量としてMFCC(Mel−Frequency Cepstral Coefficients:メル周波数ケプストラム係数)を用いることができる。
(4)実施形態1〜3において、クラスタ関連付け部208は、関連付けられた各クラスタに属する各オブジェクトは互いに関連付けられているため、クラスタ同士の関連付けを示す関連付け情報を出力(実施形態では関連付け情報記憶部209に格納)することとしているが、各オブジェクトの関連付けを直接的又は間接的に示していれば、クラスタ同士の関連付け以外の形で出力しても良い。例えば、以下のようなデータを出力しても良い。
(a)各クラスタについて関連クラスタの取得処理(図18のステップS1803)を行い、その結果得られた一連の関連クラスタのクラスタIDをクラスタ毎に出力しても良い。
(b)(a)の結果に基づいて各クラスタの関連オブジェクトの取得処理(図18のステップS1804)を行い、各関連オブジェクトのオブジェクトIDをクラスタ毎に出力しても良い。
(c)上記(a)及び(b)の結果を、内容が重複するものを除いて出力しても良い。例えば、クラスタAとその関連クラスタBとの組み合わせは、クラスタBとその関連クラスタAとの組み合わせと、属するオブジェクトは同じであるため、いずれか一方の組み合わせによるデータのみを出力すれば良い。
(d)(a)のように一連の関連クラスタを出力する場合、図16に示すクラスタ関連付け処理の一部を変更して、一連の関連クラスタIDを記憶する関連クラスタID集合リスト2500を作成しても良い。
関連クラスタID集合リスト2500は、図25に示すように、複数個の関連クラスタ集合情報を記憶するための領域を備えている。各関連クラスタ集合情報は、クラスタ集合ID及び関連クラスタID集合から構成されている。クラスタ集合IDは、当該関連クラスタ集合情報を一意に識別するための識別子である。関連クラスタID集合は、1個以上の関連クラスタIDを含む。
図25に一例として示す関連クラスタID集合リスト2500は、3個の関連クラスタ集合情報を含む。第1の関連クラスタ集合情報は、クラスタ集合ID2502及び関連クラスタID集合2501を含み、第2の関連クラスタ集合情報は、クラスタ集合ID2504及び関連クラスタID集合2503を含み、第3の関連クラスタ集合情報は、クラスタ集合ID2506及び関連クラスタID集合2505を含む。
例えば、図25に示すように、複数の関連クラスタ集合情報から構成される関連クラスタID集合リスト2500を作成する場合、図16に示す流れ図において、以下のようにすれば良い。
まず、ステップS1602の次に、以下の(d−1)〜(d−3)の処理を追加する。
(d−1)関連クラスタID集合リスト2500内の関連クラスタ集合情報の中に変数iの値と同一の関連クラスタIDを含む関連クラスタID集合が存在するか否かを判定する。
(d−2)存在する場合には、ステップS1603へ進む。存在しない場合には、クラスタ集合IDを生成する。クラスタ集合IDの生成は、例えば、文字列“CS”と3桁の連続番号とを連結することにより行う。図25に示す関連クラスタID集合リスト2500においては、クラスタ集合ID2502、2504及び2506は、それぞれ、“CS001”、“CS002”及び“CS003”である。これらは、文字列“CS”とそれぞれ、連続番号“001”、“002”及び“003”を連結して生成されたものである。
(d−3)クラスタ集合IDを生成したら、次に、変数iを要素として含む関連クラスタID集合を生成し、生成したクラスタ集合IDと生成した関連クラスタID集合とからなる関連クラスタ集合情報を生成し、関連クラスタ集合情報を関連クラスタID集合リスト2500に追加して書き込む。次に、ステップS1603へ進む。
そして、ステップS1612において、クラスタiと関連付け候補とを関連付ける処理に代えて、クラスタiを含む関連クラスタID集合に関連付け候補のクラスタIDを追加する。
(5)実施形態1〜3では、特徴量の抽出をGaborフィルタを用いて行うこととしているが、オブジェクトの特徴を表した量を抽出できるのであれば、どのような方法を用いても良い。
例えばSIFT(Scale−Invariant Feature Transform)特徴量を抽出しても良い。
(6)実施形態1〜3では、撮影日時は秒まで含んだデータとしているが、画像の生成された時を示すデータであれば、必ずしも秒まで含むデータである必要はない。
例えば、年月日のデータでも良いし、分割期間及び重複期間の長さが十分に長ければ年と月のみを含むデータであっても差し支えない。
また、Exif情報から取得したデータである必要もなく、例えばファイルの作成日時を用いても良い。
(7)実施形態1〜3において、画像記憶部202に各画像をその撮影日時と対応付けて格納するのであれば、画像の取得方法は自由に変更して構わない。
例えば、メモリーカードやネットワーク等から取得しても良いし、ケーブルを用いず無線で撮影装置110から画像を取得しても良い。
また、外部装置から取得せず、画像管理装置自身が画像を生成しても良い。例えば、画像管理装置が撮像素子等を備え、その撮像素子により画像を生成して画像記憶部202に格納することとしても良い。
(8)実施形態1では、Y=X/2(X=10、Y=5及びX=100、Y=50)となるようにX及びYを設定する例で説明しているが、1≦Y<Xの関係であれば、Y<X/2でもY>X/2でも構わない。
同様に、実施形態2においてΔt=ΔT/2(ΔT=1年、Δt=半年)とする例を挙げたが、Δt<ΔTの関係を満たす範囲でΔT及びΔtを変更しても構わない。
(9)実施形態1〜3では、クラスタリング部206は、K−means法によりクラスタリングを行うこととしているが、類似するオブジェクト毎にグループ化できれば良く、K−means法以外の方法でクラスタリングを行っても差し支えない。例えば、ウォード法を用いることもできる。
また、実施形態1において、各分割期間の長さに応じてクラスタリングのアルゴリズムを変化させるようにしても良い。例えば、長い分割期間では同一クラスタ(同一人物)と判定される特徴量の幅を広くするようにしても良い。
(10)実施形態1〜3で、様々な基準に基づく期間分割処理を説明しているが、隣り合う分割期間が互いに一部の期間で重複するように分割するのであれば、実施形態において説明したものには限らない。
例えば、実施形態1の期間分割処理で、各分割期間及び重複期間に含まれるオブジェクトの数が所定数になるように分割することとしているが、オブジェクトの数に代えて画像数が所定数になるように分割しても良い。
また、各分割期間及び重複期間に含まれるオブジェクトの数が所定数以上になり、かつそれぞれの長さが所定の長さ以上になるように分割しても良い。例えば、実施形態2及び3の期間分割処理で、分割期間又は重複期間に含まれるオブジェクトの数が少ない又は存在しない場合に分割期間及び重複期間を長くするように処理を行うこととしても良い。
(11)実施形態1〜3では、2つのクラスタを関連付けるための所定個を1個として説明しているが、2個以上であっても構わない。
所定個が1個である場合には、2つのクラスタに共通して含まれるオブジェクトが存在するか否かによってこれらのクラスタを関連付けるか否かを判定することになる。
所定個が2個以上である場合には、2つのクラスタに共通して含まれるオブジェクトが存在してなおかつそのオブジェクトの数が所定個以上だったときに関連付けることになる。
(12)実施形態1〜3では、クラスタリング部206は、オブジェクトの特徴量を用いてクラスタリングを行うこととしているが、特徴量を用いていれば、更に他のパラメータも加えてクラスタリングして構わない。例えば撮影日時を加えてクラスタリングしても構わない。
(13)実施形態1〜3のクラスタ関連付け処理では、ステップS1606において、共通オブジェクトの数が閾値z以上であるか否かという条件により判定を行っているが、閾値zより大きいか否かという条件にしても良い。この場合、共通オブジェクトの数がz+1以上であるか否かという条件と同じになる。
また、更に条件を加えても良い。例えば画像の鮮明さ、オブジェクトの画像に占める面積の割合等を加味することが考えられる。
(14)実施形態1〜3において、各分割期間におけるクラスタリングや関連付けの結果から各クラスタや関連クラスタの時間的特性を特定し、各分割期間におけるクラスタリングの精度向上に用いても良い。
(15)実施形態3において、年齢毎の期間長を求めるために図23に示す期間長対応表2300を用いることとしているが、年齢に応じて期間長2302を求めるのであれば、図23通りの期間長対応表2300を用いる方法には限られない。
例えば、図23の例とは異なる年齢及び期間長のデータによる期間長対応表を用いても良いし、期間長対応表2300に代えて、年齢を変数とした関数を用いても良い。
(16)実施形態1〜3のクラスタ関連付け処理(図16、図17)は、各クラスタを、そのクラスタとの共通オブジェクトが所定個以上のクラスタのうち、最も共通オブジェクトの数が多いクラスタと関連付ける処理であるが、共通オブジェクトが所定個以上のクラスタと関連付けるのであれば以下のように変更しても良い。
(a)関連付け候補を1つ発見した時点でS1605〜1610の処理を打ち切り、クラスタiと関連付け候補とを関連付ける処理(ステップS1612)を行っても良い。この場合、共通オブジェクトの数が所定個以上のクラスタのうち、最初に発見したクラスタと関連付けられることとなる。
(b)ステップS1605〜ステップS1610において、関連付け候補を発見する度に閾値zを更新(ステップS1608)しながら処理を行うこととしているが、更新しないこととしても構わない。この場合、共通オブジェクトの数が所定個以上のクラスタのうち、最後に発見したクラスタと関連付けられることとなる。
(c)関連付け候補が複数存在した場合には、分割期間n又は分割期間n+1でのクラスタリングを分類感度を上げてやり直し、関連付け候補が複数発生しないようにしても良い。クラスタリングの分類感度を上げる方法には、例えばK−means法で生成するクラスタ数Kを元のKより大きくするという方法がある。
(d)関連付け候補となる複数のクラスタと関連付けても良い。
例えば、関連付け候補となる全てのクラスタと関連付ける場合、ステップS1611及びステップS1612の処理を省き、ステップS1607及びステップS1608に替えてクラスタiとクラスタjとを関連付ける処理を行うようにすることで実現できる。この場合、検索処理(図19)において行う関連クラスタの取得処理もあわせて変更する必要がある。
また、変形例(4)(d)と組み合わせて、クラスタ集合情報を作成するようにしても良い。この場合、上記のクラスタiとクラスタjとを関連付ける処理は、iを含む関連クラスタID集合にjを追加する処理になる。
(17)実施形態2及び3の期間分割処理では、最新の分割期間の終了日時が最新のオブジェクトの撮影日時となるように分割期間を決定しているが、最新の分割期間の終了日時が最新のオブジェクトの撮影日時を含むように決定するのであれば、終了日時が最新のオブジェクトの撮影日時以外になるように決定しても良い。
例えば、最新の分割期間の終了日時を現在日時に決定しても良いし、開始日時+ΔTに決定しても良い。
(18)実施形態3の期間分割処理におけるステップS2101aでは、dを生年月日の0時0分0秒としたが、生年月日の日付を含むデータであれば0時0分0秒以外としても良い。例えば、ユーザに時分秒まで入力させても良い。
(19)実施形態1〜3のクラスタ関連付け処理では、ステップS1602において、iに分割期間nでの最初のクラスタのクラスタIDを設定しているが、分割期間nで生成された全てのクラスタに対して処理ができるのであれば、どのような順でクラスタを選んでも良い。
(20)各実施形態における以下の点は単なる例示に過ぎず、必要に応じて自由に変更しても良い。
(a)画像管理装置がユーザの操作を受ける手段。コントローラ130以外、例えばタッチパネル付きのディスプレイを用いても良い。
(b)データ及びプログラムの格納の手段。メモリ以外、例えばハードディスク等を用いても良い。
(c)検索画面及び結果画面の構成。
(d)各画像、オブジェクト、分割期間、クラスタ及び関連付け情報を識別する方法。ファイル名やID以外であっても良い。例えば、各画像に対し画像取得部201が画像IDを付与し、その画像IDによって各画像を識別しても良い。
(e)画像蓄積処理及び検索処理の実行を開始する条件。
(21)本発明は、実施形態で示した画像蓄積処理(図13〜17を参照)や検索処理等(図18〜19を参照)を画像管理装置のプロセッサ及びそのプロセッサに接続された各種回路に実行させるためのプログラムコードからなる制御プログラムを、記録媒体に記録すること又は各種通信路等を介して流通させ頒布することもできる。このような記録媒体には、ICカード、ハードディスク、光ディスク、フレキシブルディスク、ROMなどがある。流通、頒布された制御プログラムはプロセッサに読み出されうるメモリなどに格納されることにより利用に供され、そのプロセッサがその制御プログラムを実行することにより各実施形態で示したような機能が実現されるようになる。なお、制御プログラムの一部を画像管理装置とは別個のプログラム実行可能な装置(プロセッサ)に各種ネットワークを介して送信して、その別個のプログラム実行可能な装置においてその制御プログラムの一部を実行させることとしても良い。
(22)画像管理装置を構成する構成要素の一部又は全部は、1又は複数の集積回路(IC、LSI等)として実装されることとしても良く、画像管理装置の構成要素に更に他の要素を加えて集積回路化(1チップ化)されることとしても良い。
(23)上記の各変形例はそれぞれ組み合わせて実施されても良い。
<6.まとめ>
以下、本発明に係るオブジェクト関連付け装置における構成及び効果について説明する。
(1)本発明に係るオブジェクト関連付け装置は、複数のコンテンツを、当該複数のコンテンツそれぞれが生成された時を示すコンテンツ生成時情報と対応付けて記憶している記憶手段と、互いに一部が重複する第1の期間及び第2の期間それぞれにおいて、コンテンツ生成時情報が示す時が当該期間に含まれる各コンテンツが含む各オブジェクトを、互いに類似するオブジェクト毎にグループ化するグループ化手段と、前記第1の期間と前記第2の期間との重複する期間において、第1の期間でグループ化された第1のグループと第2の期間でグループ化された第2のグループとに共通して属するオブジェクトの個数が所定個以上の場合に、第1のグループに属する各オブジェクトと第2のグループに属する各オブジェクトとを同一の対象を示すオブジェクトとして関連付けする関連付け手段とを備える。
ここで、オブジェクトは各々が1つのコンテンツに含まれるものであり、1つのオブジェクトが複数のコンテンツに含まれることはない。
同一の対象を示すオブジェクトの特徴が第1の期間と第2の期間とを合わせた期間で変化したとしても、合わせた期間より短い第1の期間及び第2の期間でのその対象の変化は、合わせた期間全体における変化よりは少ないと考えられる。
そのため、第1の期間及び第2の期間それぞれにおいてグループ化を行うと、期間全体でグループ化した場合よりも時間の経過による変化の影響を受けにくく、同一の対象を示すオブジェクトのグループ化が精度良く行える。
そして、第1のグループと第2のグループとに共通して属するオブジェクトは、第1のグループに属する他のオブジェクト及び第2のグループに属する他のオブジェクトと、それぞれ同一の対象であることを示していることになる。
したがって、第1のグループと第2のグループとに共通して属するオブジェクトが所定個以上ある場合には、第1のグループのみに属するオブジェクト、第2のグループのみに属するオブジェクト及び両方に共通して属するオブジェクトはいずれも同一の対象を示していることになる。そのため、それぞれのグループに属する各オブジェクトの関連付けを行っている。
このように、第1の期間及び第2の期間それぞれで精度良くグループ化した結果を用いて、両方を合わせた期間での関連付けを行うため、同一の対象を示した各オブジェクトを従来よりも精度良く関連付けることができる。
関連付けを行った結果は、検索や分類等、オブジェクトの同一性に基づいた処理に利用することができる。
実施形態において、記憶手段は画像記憶部202、グループ化手段はクラスタリング部206、関連付け手段はクラスタ関連付け部208によりそれぞれ実現されている。また、実施形態ではコンテンツ生成時情報は撮影日時303、グループはクラスタにそれぞれ相当する。
クラスタ関連付け部208はクラスタ同士の関連付けを行っているが、同一のクラスタに属するオブジェクト同士はクラスタリング部206によって関連付けられているため、クラスタ関連付け部208によって関連付けられたクラスタに属するオブジェクト同士も関連付けられていることになる。
(2)(1)において、前記コンテンツは画像であり、前記オブジェクト関連付け装置は更に、前記画像が含むオブジェクトを検出して当該オブジェクトの特徴量を抽出する抽出手段を備え、前記グループ化手段は、前記オブジェクトそれぞれの特徴量を用いてグループ化を行うこととしても良い。
このようにすることで、画像に含まれるオブジェクトについて関連付けを行うことができるようになり、写真等に写る被写体の識別に有効である。
実施形態において、抽出手段はオブジェクト検出部203により実現されている。
(3)(2)において、前記オブジェクト関連付け装置は更に、前記第1の期間と前記第2の期間との重複する期間については、コンテンツ生成時情報が示す時が当該期間に含まれる各画像に含まれるオブジェクトの数の合計が1以上の所定数となり、当該第1の期間及び当該第2の期間それぞれについては、コンテンツ生成時情報が示す時が当該期間に含まれる各画像が含むオブジェクトの数の合計が前記所定数より多くなるように、当該第1の期間及び当該第2の期間を決定する決定手段を備えることとしても良い。
このようにすることで、重複する期間に含まれるオブジェクトの数が少ないために関連付けが行えないという状態になることを防ぐことができる。
実施形態1において、決定手段は期間分割部205に相当する。
(4)(3)において、前記オブジェクトは人物の顔であり、前記抽出手段は、人物の顔を検出する基準により人物の顔を特定することで前記オブジェクトを検出し、当該オブジェクトから人物の顔に係る特徴量を抽出することとしても良い。
このようにすることで、画像に写る人物の顔について関連付けを行うことができるようになり、人物の識別に有効である。
(5)(2)において、前記オブジェクト関連付け装置は更に、前記第1の期間と前記第2の期間との重複する期間が所定の長さとなり、当該第1の期間及び当該第2の期間が前記所定の長さより長くなるように当該第1の期間及び当該第2の期間を決定する決定手
段を備えることとしても良い。
このようにすることで、重複する期間に含まれるオブジェクトの数によらず第1の期間及び第2の期間を決定することができる。
実施形態2及び3において、決定手段は期間分割部205により実現されている。
(6)(5)において、前記オブジェクトは人物の顔であり、前記決定手段は前記第1の期間及び前記第2の期間それぞれについて、当該期間における一の人物の年齢を算出し、当該期間の長さを当該年齢に基づいて決定することとしても良い。
人物は年齢が若いうちは成長のため時間による特徴量の変化が大きく、大人になると特徴量の変化が小さくなる等、年齢によって特徴量の変化の速度が変化する。
そのため、特定の人物についてその人物を示すオブジェクト同士を関連付けたい場合、上記のような構成にして、その人物の成長に合わせた長さの第1の期間及び第2の期間に決定するとより精度良く関連付けが行えるようになる。
(7)(6)において、前記コンテンツ生成時情報は日付の情報を有し、前記オブジェクト関連付け装置は更に、前記年齢を算出する基準の日付を記憶している日付記憶手段と、年齢と期間の長さとを対応付けて複数記憶している期間長記憶手段を備え、前記決定手段は前記第1の期間及び前記第2の期間それぞれについて、前記算出を前記基準の日付に基づいて行い、当該期間の長さを、前記期間長記憶手段を参照して当該年齢に対応する期間の長さに決定することとしても良い。
このようにすることで、対象の人物の年齢を算出する基準の日付(生年月日)を用いてその人物の年齢を求め、特定の人物に着目した関連付けを行うことができる。
実施形態3において、日付記憶手段は生年月日記憶部2201、期間長記憶手段は期間長対応表記憶部2202によりそれぞれ実現されている。
(8)(2)において、前記オブジェクト関連付け装置は更に、前記第1の期間と前記第2の期間との重複する期間については、コンテンツ生成時情報が示す時が当該期間に含まれる画像の数が1以上の所定数となり、当該第1の期間及び当該第2の期間それぞれについては、コンテンツ生成時情報が示す時が当該期間に含まれる前記画像の数が前記所定数より多くなるように、当該第1の期間及び当該第2の期間を決定する決定手段を備えることとしても良い。
このようにすることで、重複する期間に含まれる画像の数が少ないためにオブジェクトの数が少なくなって関連付けが行えないという状態になることを防ぐことができる。
(9)(1)において、前記オブジェクト関連付け装置は更に、所定の期間を、時間軸で隣接する期間が互いに一部で重複するように複数の期間に分割する分割手段を備え、前記グループ化手段は前記複数の期間それぞれにおいて前記グループ化を行い、前記関連付け手段は、前記複数の期間における時間軸で隣接する期間の組それぞれについて、前記組のうち早い方の期間を第1の期間とし、遅い方の期間を第2の期間として前記関連付けを行うこととしても良い。
このようにして隣接する期間の組それぞれについて関連付けを行うことで、短い第1及び第2の期間が多数繋がった長い期間においても精度良く関連付けを行うことができる。
例えば期間Aにおいて生成されたクラスタaのオブジェクトと期間Bにおいて生成されたクラスタbのオブジェクトとが関連付けられていて、クラスタbのオブジェクトと期間Cにおいて生成されたクラスタcのオブジェクトとが関連付けられていた場合、クラスタaのオブジェクトとクラスタcのオブジェクトも、クラスタbを介して関連付けられていることになる。
実施形態において、分割手段は期間分割部205により実現されている。
(10)次に示すように構成してもよい。
本発明の一実施態様であるオブジェクト関連付け装置は、複数のコンテンツを、当該複数のコンテンツそれぞれが生成された時を示すコンテンツ生成時情報と対応付けて記憶しているメモリと、互いに一部が重複する第1の期間及び第2の期間それぞれにおいて、コンテンツ生成時情報が示す時が当該期間に含まれる各コンテンツが含む各オブジェクトを、互いに類似するオブジェクト毎にグループ化するグループ化回路と、前記第1の期間と前記第2の期間との重複する期間において、第1の期間でグループ化された第1のグループと第2の期間でグループ化された第2のグループとに共通して属するオブジェクトの個数が所定個以上の場合に、第1のグループに属する各オブジェクトと第2のグループに属する各オブジェクトとを同一の対象を示すオブジェクトとして関連付けする関連付け回路とを備える。
また、本発明の別の一実施態様であるオブジェクト関連付け装置は、集積回路と複数のコンテンツを、当該複数のコンテンツそれぞれが生成された時を示すコンテンツ生成時情報と対応付けて記憶しているメモリとを備えている。前記集積回路は、互いに一部が重複する第1の期間及び第2の期間それぞれにおいて、コンテンツ生成時情報が示す時が当該期間に含まれる各コンテンツが含む各オブジェクトを、互いに類似するオブジェクト毎にグループ化するグループ化回路と、前記第1の期間と前記第2の期間との重複する期間において、第1の期間でグループ化された第1のグループと第2の期間でグループ化された第2のグループとに共通して属するオブジェクトの個数が所定個以上の場合に、第1のグループに属する各オブジェクトと第2のグループに属する各オブジェクトとを同一の対象を示すオブジェクトとして関連付けする関連付け回路とを含む。
また、本発明の別の一実施態様であるオブジェクト関連付け装置は、複数のコンピュータ命令が組み合わされて構成されるコンピュータプログラムを記憶しているメモリと、前記メモリに記憶されている前記コンピュータプログラムから1個ずつコンピュータ命令を読み出し、解読し、その解読結果に応じて動作するプロセッサとを備える。前記メモリは、また、複数のコンテンツを、当該複数のコンテンツそれぞれが生成された時を示すコンテンツ生成時情報と対応付けて記憶している。前記コンピュータプログラムは、前記プロセッサに、互いに一部が重複する第1の期間及び第2の期間それぞれにおいて、コンテンツ生成時情報が示す時が当該期間に含まれる各コンテンツが含む各オブジェクトを、互いに類似するオブジェクト毎にグループ化するグループ化ステップと、前記第1の期間と前記第2の期間との重複する期間において、第1の期間でグループ化された第1のグループと第2の期間でグループ化された第2のグループとに共通して属するオブジェクトの個数が所定個以上の場合に、第1のグループに属する各オブジェクトと第2のグループに属する各オブジェクトとを同一の対象を示すオブジェクトとして関連付けする関連付けステップとを実行させる。
また、本発明の別の実施態様は、オブジェクト関連付け装置において用いられるコンピュータプログラムを記録しているコンピュータ読み取り可能な非一時的記録媒体である。オブジェクト関連付け装置は、複数のコンテンツを、当該複数のコンテンツそれぞれが生成された時を示すコンテンツ生成時情報と対応付けて記憶しているメモリを備える。前記コンピュータプログラムは、コンピュータに、互いに一部が重複する第1の期間及び第2の期間それぞれにおいて、コンテンツ生成時情報が示す時が当該期間に含まれる各コンテンツが含む各オブジェクトを、互いに類似するオブジェクト毎にグループ化するグループ化ステップと、前記第1の期間と前記第2の期間との重複する期間において、第1の期間でグループ化された第1のグループと第2の期間でグループ化された第2のグループとに共通して属するオブジェクトの個数が所定個以上の場合に、第1のグループに属する各オブジェクトと第2のグループに属する各オブジェクトとを同一の対象を示すオブジェクトとして関連付けする関連付けステップとを実行させる。
本発明に係るオブジェクト関連付け装置は、画像検索装置、ファイルサーバ、デジタルカメラ等に適用することができる。
100、100a、100b 画像管理装置
100c オブジェクト関連付け装置
101 記憶部
102 グループ化部
103 関連付け部
110 撮影装置
120 表示装置
130 コントローラ
201 画像取得部
202 画像記憶部
203 オブジェクト検出部
204 オブジェクト記憶部
205 期間分割部
206 クラスタリング部
207 クラスタ記憶部
208 クラスタ関連付け部
209 関連付け情報記憶部
210 操作入力部
211 検索部
212 出力部
2201 生年月日記憶部
2202 期間長対応表記憶部

Claims (12)

  1. 複数のコンテンツを、当該複数のコンテンツそれぞれが生成された時を示すコンテンツ生成時情報と対応付けて記憶している記憶手段と、
    互いに一部が重複する第1の期間及び第2の期間それぞれにおいて、コンテンツ生成時情報が示す時が当該期間に含まれる各コンテンツが含む各オブジェクトを、互いに類似するオブジェクト毎にグループ化するグループ化手段と、
    前記第1の期間と前記第2の期間との重複する期間において、第1の期間でグループ化された第1のグループと第2の期間でグループ化された第2のグループとに共通して属するオブジェクトの個数が所定個以上の場合に、第1のグループに属する各オブジェクトと第2のグループに属する各オブジェクトとを同一の対象を示すオブジェクトとして関連付けする関連付け手段とを備える
    ことを特徴とするオブジェクト関連付け装置。
  2. 前記コンテンツは画像であり、
    前記オブジェクト関連付け装置は更に、
    前記画像が含むオブジェクトを検出して当該オブジェクトの特徴量を抽出する抽出手段を備え、
    前記グループ化手段は、前記オブジェクトそれぞれの特徴量を用いてグループ化を行う
    ことを特徴とする請求項1に記載のオブジェクト関連付け装置。
  3. 前記オブジェクト関連付け装置は更に、
    前記第1の期間と前記第2の期間との重複する期間については、コンテンツ生成時情報が示す時が当該期間に含まれる各画像に含まれるオブジェクトの数の合計が1以上の所定数となり、当該第1の期間及び当該第2の期間それぞれについては、コンテンツ生成時情報が示す時が当該期間に含まれる各画像が含むオブジェクトの数の合計が前記所定数より多くなるように、当該第1の期間及び当該第2の期間を決定する決定手段を備える
    ことを特徴とする請求項2に記載のオブジェクト関連付け装置。
  4. 前記オブジェクトは人物の顔であり、
    前記抽出手段は、
    人物の顔を検出する基準により人物の顔を特定することで前記オブジェクトを検出し、
    当該オブジェクトから人物の顔に係る特徴量を抽出する
    ことを特徴とする請求項3に記載のオブジェクト関連付け装置。
  5. 前記オブジェクト関連付け装置は更に、
    前記第1の期間と前記第2の期間との重複する期間が所定の長さとなり、当該第1の期間及び当該第2の期間が前記所定の長さより長くなるように当該第1の期間及び当該第2の期間を決定する決定手段を備える
    ことを特徴とする請求項2に記載のオブジェクト関連付け装置。
  6. 前記オブジェクトは人物の顔であり、
    前記決定手段は前記第1の期間及び前記第2の期間それぞれについて、
    当該期間における一の人物の年齢を算出し、
    当該期間の長さを当該年齢に基づいて決定する
    ことを特徴とする請求項5に記載のオブジェクト関連付け装置。
  7. 前記コンテンツ生成時情報は日付の情報を有し、
    前記オブジェクト関連付け装置は更に、
    前記年齢を算出する基準の日付を記憶している日付記憶手段と、
    年齢と期間の長さとを対応付けて複数記憶している期間長記憶手段を備え、
    前記決定手段は前記第1の期間及び前記第2の期間それぞれについて、
    前記算出を前記基準の日付に基づいて行い、
    当該期間の長さを、前記期間長記憶手段を参照して当該年齢に対応する期間の長さに決定する
    ことを特徴とする請求項6に記載のオブジェクト関連付け装置。
  8. 前記オブジェクト関連付け装置は更に、
    前記第1の期間と前記第2の期間との重複する期間については、コンテンツ生成時情報が示す時が当該期間に含まれる画像の数が1以上の所定数となり、当該第1の期間及び当該第2の期間それぞれについては、コンテンツ生成時情報が示す時が当該期間に含まれる前記画像の数が前記所定数より多くなるように、当該第1の期間及び当該第2の期間を決定する決定手段を備える
    ことを特徴とする請求項2に記載のオブジェクト関連付け装置。
  9. 前記オブジェクト関連付け装置は更に、
    所定の期間を、時間軸で隣接する期間が互いに一部で重複するように複数の期間に分割する分割手段を備え、
    前記グループ化手段は前記複数の期間それぞれにおいて前記グループ化を行い、
    前記関連付け手段は、前記複数の期間における時間軸で隣接する期間の組それぞれについて、
    前記組のうち早い方の期間を第1の期間とし、遅い方の期間を第2の期間として前記関連付けを行う
    ことを特徴とする請求項1に記載のオブジェクト関連付け装置。
  10. 複数のコンテンツを、当該複数のコンテンツそれぞれが生成された時を示すコンテンツ生成時情報と対応付けて記憶する記憶ステップと、
    互いに一部が重複する第1の期間及び第2の期間それぞれにおいて、コンテンツ生成時情報が示す時が当該期間に含まれる各コンテンツが含む各オブジェクトを、互いに類似するオブジェクト毎にグループ化するグループ化ステップと、
    前記第1の期間と前記第2の期間との重複する期間において、第1の期間でグループ化された第1のグループと第2の期間でグループ化された第2のグループとに共通して属するオブジェクトの個数が所定個以上の場合に、第1のグループに属する各オブジェクトと第2のグループに属する各オブジェクトとを同一の対象を示すオブジェクトとして関連付けする関連付けステップとを含む
    ことを特徴とするオブジェクト関連付け方法。
  11. 複数のコンテンツを、当該複数のコンテンツそれぞれが生成された時を示すコンテンツ生成時情報と対応付けて記憶する記憶ステップと、
    互いに一部が重複する第1の期間及び第2の期間それぞれにおいて、コンテンツ生成時情報が示す時が当該期間に含まれる各コンテンツが含む各オブジェクトを、互いに類似するオブジェクト毎にグループ化するグループ化ステップと、
    前記第1の期間と前記第2の期間との重複する期間において、第1の期間でグループ化された第1のグループと第2の期間でグループ化された第2のグループとに共通して属するオブジェクトの個数が所定個以上の場合に、第1のグループに属する各オブジェクトと第2のグループに属する各オブジェクトとを同一の対象を示すオブジェクトとして関連付けする関連付けステップとを含む処理をコンピュータに実行させる
    ことを特徴とするプログラム。
  12. 複数のコンテンツを、当該複数のコンテンツそれぞれが生成された時を示すコンテンツ生成時情報と対応付けて記憶する記憶ステップと、
    互いに一部が重複する第1の期間及び第2の期間それぞれにおいて、コンテンツ生成時情報が示す時が当該期間に含まれる各コンテンツが含む各オブジェクトを、互いに類似するオブジェクト毎にグループ化するグループ化ステップと、
    前記第1の期間と前記第2の期間との重複する期間において、第1の期間でグループ化された第1のグループと第2の期間でグループ化された第2のグループとに共通して属するオブジェクトの個数が所定個以上の場合に、第1のグループに属する各オブジェクトと第2のグループに属する各オブジェクトとを同一の対象を示すオブジェクトとして関連付けする関連付けステップとを含む処理をコンピュータに実行させるプログラムを記録している
    ことを特徴とする記録媒体。
JP2012523509A 2010-07-09 2011-06-09 オブジェクト関連付け装置、オブジェクト関連付け方法、プログラム及び記録媒体 Active JP5643309B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012523509A JP5643309B2 (ja) 2010-07-09 2011-06-09 オブジェクト関連付け装置、オブジェクト関連付け方法、プログラム及び記録媒体

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2010156517 2010-07-09
JP2010156517 2010-07-09
PCT/JP2011/003263 WO2012004933A1 (ja) 2010-07-09 2011-06-09 オブジェクト関連付け装置、オブジェクト関連付け方法、プログラム及び記録媒体
JP2012523509A JP5643309B2 (ja) 2010-07-09 2011-06-09 オブジェクト関連付け装置、オブジェクト関連付け方法、プログラム及び記録媒体

Publications (2)

Publication Number Publication Date
JPWO2012004933A1 true JPWO2012004933A1 (ja) 2013-09-02
JP5643309B2 JP5643309B2 (ja) 2014-12-17

Family

ID=45440929

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012523509A Active JP5643309B2 (ja) 2010-07-09 2011-06-09 オブジェクト関連付け装置、オブジェクト関連付け方法、プログラム及び記録媒体

Country Status (4)

Country Link
US (1) US8885942B2 (ja)
JP (1) JP5643309B2 (ja)
CN (1) CN102483767B (ja)
WO (1) WO2012004933A1 (ja)

Families Citing this family (97)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8930331B2 (en) 2007-02-21 2015-01-06 Palantir Technologies Providing unique views of data based on changes or rules
US10747952B2 (en) 2008-09-15 2020-08-18 Palantir Technologies, Inc. Automatic creation and server push of multiple distinct drafts
US9547693B1 (en) 2011-06-23 2017-01-17 Palantir Technologies Inc. Periodic database search manager for multiple data sources
US9092482B2 (en) 2013-03-14 2015-07-28 Palantir Technologies, Inc. Fair scheduling for mixed-query loads
US8799240B2 (en) 2011-06-23 2014-08-05 Palantir Technologies, Inc. System and method for investigating large amounts of data
US8732574B2 (en) 2011-08-25 2014-05-20 Palantir Technologies, Inc. System and method for parameterizing documents for automatic workflow generation
US8504542B2 (en) 2011-09-02 2013-08-06 Palantir Technologies, Inc. Multi-row transactions
AU2011253977B2 (en) * 2011-12-12 2015-04-09 Canon Kabushiki Kaisha Method, system and apparatus for selecting an image captured on an image capture device
US9348677B2 (en) 2012-10-22 2016-05-24 Palantir Technologies Inc. System and method for batch evaluation programs
US9123086B1 (en) 2013-01-31 2015-09-01 Palantir Technologies, Inc. Automatically generating event objects from images
WO2014132537A1 (ja) 2013-03-01 2014-09-04 日本電気株式会社 情報処理装置、そのデータ処理方法、およびプログラム
US10037314B2 (en) 2013-03-14 2018-07-31 Palantir Technologies, Inc. Mobile reports
US8909656B2 (en) 2013-03-15 2014-12-09 Palantir Technologies Inc. Filter chains with associated multipath views for exploring large data sets
US8937619B2 (en) 2013-03-15 2015-01-20 Palantir Technologies Inc. Generating an object time series from data objects
US8917274B2 (en) 2013-03-15 2014-12-23 Palantir Technologies Inc. Event matrix based on integrated data
US9965937B2 (en) 2013-03-15 2018-05-08 Palantir Technologies Inc. External malware data item clustering and analysis
US8868486B2 (en) 2013-03-15 2014-10-21 Palantir Technologies Inc. Time-sensitive cube
US8788405B1 (en) 2013-03-15 2014-07-22 Palantir Technologies, Inc. Generating data clusters with customizable analysis strategies
US8799799B1 (en) 2013-05-07 2014-08-05 Palantir Technologies Inc. Interactive geospatial map
JP6119439B2 (ja) * 2013-06-06 2017-04-26 富士通株式会社 画像管理プログラム、画像管理方法及び画像管理装置
US9223773B2 (en) 2013-08-08 2015-12-29 Palatir Technologies Inc. Template system for custom document generation
JP6190887B2 (ja) * 2013-10-02 2017-08-30 株式会社日立製作所 画像検索システムおよび情報記録媒体
US8938686B1 (en) 2013-10-03 2015-01-20 Palantir Technologies Inc. Systems and methods for analyzing performance of an entity
US9116975B2 (en) 2013-10-18 2015-08-25 Palantir Technologies Inc. Systems and user interfaces for dynamic and interactive simultaneous querying of multiple data stores
US8924872B1 (en) 2013-10-18 2014-12-30 Palantir Technologies Inc. Overview user interface of emergency call data of a law enforcement agency
US9021384B1 (en) 2013-11-04 2015-04-28 Palantir Technologies Inc. Interactive vehicle information map
US8868537B1 (en) 2013-11-11 2014-10-21 Palantir Technologies, Inc. Simple web search
US9105000B1 (en) 2013-12-10 2015-08-11 Palantir Technologies Inc. Aggregating data from a plurality of data sources
US9734217B2 (en) 2013-12-16 2017-08-15 Palantir Technologies Inc. Methods and systems for analyzing entity performance
US10356032B2 (en) 2013-12-26 2019-07-16 Palantir Technologies Inc. System and method for detecting confidential information emails
US8832832B1 (en) 2014-01-03 2014-09-09 Palantir Technologies Inc. IP reputation
US9483162B2 (en) 2014-02-20 2016-11-01 Palantir Technologies Inc. Relationship visualizations
US9727376B1 (en) 2014-03-04 2017-08-08 Palantir Technologies, Inc. Mobile tasks
US8935201B1 (en) 2014-03-18 2015-01-13 Palantir Technologies Inc. Determining and extracting changed data from a data source
US9857958B2 (en) 2014-04-28 2018-01-02 Palantir Technologies Inc. Systems and user interfaces for dynamic and interactive access of, investigation of, and analysis of data objects stored in one or more databases
US9009171B1 (en) 2014-05-02 2015-04-14 Palantir Technologies Inc. Systems and methods for active column filtering
US9619557B2 (en) 2014-06-30 2017-04-11 Palantir Technologies, Inc. Systems and methods for key phrase characterization of documents
US9535974B1 (en) 2014-06-30 2017-01-03 Palantir Technologies Inc. Systems and methods for identifying key phrase clusters within documents
US9256664B2 (en) 2014-07-03 2016-02-09 Palantir Technologies Inc. System and method for news events detection and visualization
US9202249B1 (en) 2014-07-03 2015-12-01 Palantir Technologies Inc. Data item clustering and analysis
US9454281B2 (en) 2014-09-03 2016-09-27 Palantir Technologies Inc. System for providing dynamic linked panels in user interface
US9767172B2 (en) 2014-10-03 2017-09-19 Palantir Technologies Inc. Data aggregation and analysis system
US9501851B2 (en) 2014-10-03 2016-11-22 Palantir Technologies Inc. Time-series analysis system
US9785328B2 (en) 2014-10-06 2017-10-10 Palantir Technologies Inc. Presentation of multivariate data on a graphical user interface of a computing system
US9984133B2 (en) 2014-10-16 2018-05-29 Palantir Technologies Inc. Schematic and database linking system
US9229952B1 (en) 2014-11-05 2016-01-05 Palantir Technologies, Inc. History preserving data pipeline system and method
US9043894B1 (en) 2014-11-06 2015-05-26 Palantir Technologies Inc. Malicious software detection in a computing system
US9348920B1 (en) 2014-12-22 2016-05-24 Palantir Technologies Inc. Concept indexing among database of documents using machine learning techniques
US10552994B2 (en) 2014-12-22 2020-02-04 Palantir Technologies Inc. Systems and interactive user interfaces for dynamic retrieval, analysis, and triage of data items
US9367872B1 (en) 2014-12-22 2016-06-14 Palantir Technologies Inc. Systems and user interfaces for dynamic and interactive investigation of bad actor behavior based on automatic clustering of related data in various data structures
US9817563B1 (en) 2014-12-29 2017-11-14 Palantir Technologies Inc. System and method of generating data points from one or more data stores of data items for chart creation and manipulation
US9870205B1 (en) 2014-12-29 2018-01-16 Palantir Technologies Inc. Storing logical units of program code generated using a dynamic programming notebook user interface
US9335911B1 (en) 2014-12-29 2016-05-10 Palantir Technologies Inc. Interactive user interface for dynamic data analysis exploration and query processing
US9727560B2 (en) 2015-02-25 2017-08-08 Palantir Technologies Inc. Systems and methods for organizing and identifying documents via hierarchies and dimensions of tags
US10453026B2 (en) * 2015-03-06 2019-10-22 Walmart Apollo, Llc System and method for forecasting high-sellers using multivariate bayesian time series
WO2016145200A1 (en) * 2015-03-10 2016-09-15 Alibaba Group Holding Limited Method and apparatus for voice information augmentation and displaying, picture categorization and retrieving
CN106033418B (zh) 2015-03-10 2020-01-31 阿里巴巴集团控股有限公司 语音添加、播放方法及装置、图片分类、检索方法及装置
EP3611632A1 (en) 2015-03-16 2020-02-19 Palantir Technologies Inc. Displaying attribute and event data along paths
US9886467B2 (en) 2015-03-19 2018-02-06 Plantir Technologies Inc. System and method for comparing and visualizing data entities and data entity series
US9392008B1 (en) 2015-07-23 2016-07-12 Palantir Technologies Inc. Systems and methods for identifying information related to payment card breaches
US9454785B1 (en) 2015-07-30 2016-09-27 Palantir Technologies Inc. Systems and user interfaces for holistic, data-driven investigation of bad actor behavior based on clustering and scoring of related data
US9996595B2 (en) 2015-08-03 2018-06-12 Palantir Technologies, Inc. Providing full data provenance visualization for versioned datasets
US9456000B1 (en) 2015-08-06 2016-09-27 Palantir Technologies Inc. Systems, methods, user interfaces, and computer-readable media for investigating potential malicious communications
US10489391B1 (en) 2015-08-17 2019-11-26 Palantir Technologies Inc. Systems and methods for grouping and enriching data items accessed from one or more databases for presentation in a user interface
US9600146B2 (en) 2015-08-17 2017-03-21 Palantir Technologies Inc. Interactive geospatial map
US10853378B1 (en) 2015-08-25 2020-12-01 Palantir Technologies Inc. Electronic note management via a connected entity graph
US11150917B2 (en) 2015-08-26 2021-10-19 Palantir Technologies Inc. System for data aggregation and analysis of data from a plurality of data sources
US10706434B1 (en) 2015-09-01 2020-07-07 Palantir Technologies Inc. Methods and systems for determining location information
US9576015B1 (en) 2015-09-09 2017-02-21 Palantir Technologies, Inc. Domain-specific language for dataset transformations
US10296617B1 (en) 2015-10-05 2019-05-21 Palantir Technologies Inc. Searches of highly structured data
US9424669B1 (en) 2015-10-21 2016-08-23 Palantir Technologies Inc. Generating graphical representations of event participation flow
US10613722B1 (en) 2015-10-27 2020-04-07 Palantir Technologies Inc. Distorting a graph on a computer display to improve the computer's ability to display the graph to, and interact with, a user
US9542446B1 (en) 2015-12-17 2017-01-10 Palantir Technologies, Inc. Automatic generation of composite datasets based on hierarchical fields
US9823818B1 (en) 2015-12-29 2017-11-21 Palantir Technologies Inc. Systems and interactive user interfaces for automatic generation of temporal representation of data objects
US10268735B1 (en) 2015-12-29 2019-04-23 Palantir Technologies Inc. Graph based resolution of matching items in data sources
US9612723B1 (en) 2015-12-30 2017-04-04 Palantir Technologies Inc. Composite graphical interface with shareable data-objects
US10698938B2 (en) 2016-03-18 2020-06-30 Palantir Technologies Inc. Systems and methods for organizing and identifying documents via hierarchies and dimensions of tags
US10650558B2 (en) 2016-04-04 2020-05-12 Palantir Technologies Inc. Techniques for displaying stack graphs
US10007674B2 (en) 2016-06-13 2018-06-26 Palantir Technologies Inc. Data revision control in large-scale data analytic systems
US10324609B2 (en) 2016-07-21 2019-06-18 Palantir Technologies Inc. System for providing dynamic linked panels in user interface
US10719188B2 (en) 2016-07-21 2020-07-21 Palantir Technologies Inc. Cached database and synchronization system for providing dynamic linked panels in user interface
US10437840B1 (en) 2016-08-19 2019-10-08 Palantir Technologies Inc. Focused probabilistic entity resolution from multiple data sources
US9881066B1 (en) 2016-08-31 2018-01-30 Palantir Technologies, Inc. Systems, methods, user interfaces and algorithms for performing database analysis and search of information involving structured and/or semi-structured data
US10318630B1 (en) 2016-11-21 2019-06-11 Palantir Technologies Inc. Analysis of large bodies of textual data
US10552436B2 (en) 2016-12-28 2020-02-04 Palantir Technologies Inc. Systems and methods for retrieving and processing data for display
US10460602B1 (en) 2016-12-28 2019-10-29 Palantir Technologies Inc. Interactive vehicle information mapping system
US10475219B1 (en) 2017-03-30 2019-11-12 Palantir Technologies Inc. Multidimensional arc chart for visual comparison
US10956406B2 (en) 2017-06-12 2021-03-23 Palantir Technologies Inc. Propagated deletion of database records and derived data
US10403011B1 (en) 2017-07-18 2019-09-03 Palantir Technologies Inc. Passing system with an interactive user interface
US10929476B2 (en) 2017-12-14 2021-02-23 Palantir Technologies Inc. Systems and methods for visualizing and analyzing multi-dimensional data
US11599369B1 (en) 2018-03-08 2023-03-07 Palantir Technologies Inc. Graphical user interface configuration system
US10754822B1 (en) 2018-04-18 2020-08-25 Palantir Technologies Inc. Systems and methods for ontology migration
US10885021B1 (en) 2018-05-02 2021-01-05 Palantir Technologies Inc. Interactive interpreter and graphical user interface
WO2020022055A1 (ja) * 2018-07-24 2020-01-30 ソニー株式会社 情報処理装置および方法、並びにプログラム
CN110020581B (zh) * 2018-12-03 2020-06-09 阿里巴巴集团控股有限公司 一种基于多帧脸部图像的比对方法、装置和电子设备
CN109639405A (zh) * 2019-01-21 2019-04-16 王良 一种通过混沌信号对信息进行加密的通信系统
CN117148795B (zh) * 2023-08-15 2024-02-27 无锡禹龙工业自动化有限公司 一种基于大数据的工业设备自动化管理系统及方法

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002169810A (ja) * 2000-12-04 2002-06-14 Minolta Co Ltd 画像検索プログラムを記録したコンピュータ読み取り可能な記録媒体、画像検索方法および画像検索装置
US8406481B2 (en) * 2005-02-25 2013-03-26 Hysterical Sunset Limited Automated indexing for distributing event photography
JP2007114931A (ja) 2005-10-19 2007-05-10 Konica Minolta Holdings Inc 認証装置
JP2010026661A (ja) * 2008-07-16 2010-02-04 Noritsu Koki Co Ltd 画像処理装置、画像形成装置、画像処理方法及び画像処理プログラム
AU2008264197B2 (en) * 2008-12-24 2012-09-13 Canon Kabushiki Kaisha Image selection method

Also Published As

Publication number Publication date
JP5643309B2 (ja) 2014-12-17
CN102483767B (zh) 2015-10-21
US8885942B2 (en) 2014-11-11
CN102483767A (zh) 2012-05-30
WO2012004933A1 (ja) 2012-01-12
US20120170847A1 (en) 2012-07-05

Similar Documents

Publication Publication Date Title
JP5643309B2 (ja) オブジェクト関連付け装置、オブジェクト関連付け方法、プログラム及び記録媒体
JP5848336B2 (ja) 画像処理装置
US9141184B2 (en) Person detection system
US8583647B2 (en) Data processing device for automatically classifying a plurality of images into predetermined categories
JP6719206B2 (ja) 画像処理装置、画像処理方法、およびプログラム
US20120148118A1 (en) Method for classifying images and apparatus for the same
KR20080104034A (ko) 얼굴화상 등록 장치, 얼굴화상 등록 방법, 얼굴화상 등록 프로그램, 및 기록 매체
CN107431828A (zh) 用于识别相关媒体内容的方法和系统
US20120136823A1 (en) Audio classification device, method, program and integrated circuit
JP2009199322A (ja) 監視システム、人物検索方法
US8320609B2 (en) Device and method for attaching additional information
KR20220098030A (ko) 타깃 운동 궤적 구축 방법, 기기 및 컴퓨터 저장 매체
US20140233811A1 (en) Summarizing a photo album
JP6203188B2 (ja) 類似画像検索装置
JP6606374B2 (ja) 画像処理装置および方法およびプログラム
US20130328767A1 (en) Information processing apparatus, conference system, and information processing method
US8533196B2 (en) Information processing device, processing method, computer program, and integrated circuit
JP7435837B2 (ja) 情報処理システム、情報処理装置、情報処理方法、およびプログラム
JP6761243B2 (ja) 画像処理装置、画像処理方法、及びプログラム
US9373021B2 (en) Method, apparatus and system for outputting a group of images
US20200311771A1 (en) Information processing device, information processing method, and program recording medium
WO2010087451A1 (ja) 画像表示装置、画像表示方法、および画像表示プログラム
US20200074218A1 (en) Information processing system, information processing apparatus, and non-transitory computer readable medium
JP6700806B2 (ja) プログラム、情報処理装置および制御方法
CN110008364B (zh) 图像处理方法、装置和系统

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20131126

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20140606

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140812

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140902

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20141007

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20141030

R150 Certificate of patent or registration of utility model

Ref document number: 5643309

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150