JP5404290B2 - 情報処理装置及び情報処理方法 - Google Patents

情報処理装置及び情報処理方法 Download PDF

Info

Publication number
JP5404290B2
JP5404290B2 JP2009232494A JP2009232494A JP5404290B2 JP 5404290 B2 JP5404290 B2 JP 5404290B2 JP 2009232494 A JP2009232494 A JP 2009232494A JP 2009232494 A JP2009232494 A JP 2009232494A JP 5404290 B2 JP5404290 B2 JP 5404290B2
Authority
JP
Japan
Prior art keywords
metadata
search
content
photo
value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2009232494A
Other languages
English (en)
Other versions
JP2011081549A (ja
JP2011081549A5 (ja
Inventor
一 二木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2009232494A priority Critical patent/JP5404290B2/ja
Priority to US12/896,638 priority patent/US9189499B2/en
Publication of JP2011081549A publication Critical patent/JP2011081549A/ja
Publication of JP2011081549A5 publication Critical patent/JP2011081549A5/ja
Application granted granted Critical
Publication of JP5404290B2 publication Critical patent/JP5404290B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/58Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/587Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using geographical or spatial information, e.g. location
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/58Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/22Indexing; Data structures therefor; Storage structures
    • G06F16/2228Indexing structures
    • G06F16/2264Multidimensional index structures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/24Querying
    • G06F16/245Query processing
    • G06F16/2458Special types of queries, e.g. statistical queries, fuzzy queries or distributed queries
    • G06F16/2465Query processing support for facilitating data mining operations in structured databases
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/33Querying
    • G06F16/3331Query processing
    • G06F16/334Query execution
    • G06F16/3347Query execution using vector based model

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Databases & Information Systems (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Software Systems (AREA)
  • Computational Linguistics (AREA)
  • Library & Information Science (AREA)
  • Fuzzy Systems (AREA)
  • Mathematical Physics (AREA)
  • Probability & Statistics with Applications (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Processing Or Creating Images (AREA)

Description

本発明は情報処理装置及び情報処理方法に関し、特に、写真に地名や被写体のメタデータを付与するために用いて好適な技術に関する。
写真に撮影地名や被写体名などのメタデータを付与して管理する方法が一般化し始めている。例えば、Web上の写真共通サイトには、ユーザがメタデータを付与した写真が公開されている。Webで公開するような少数の写真だけを対象とするならば手作業でメタデータを付与することも可能であるが、例えば大量の旅行写真の全てに手作業でメタデータを付与するといった事はユーザの大きな負担となっている。
こうした状況に対し、類似した画像に付与されているメタデータを利用する手法が提案されている。例えば、特許文献1ではメタデータを付与したい写真をクエリとして写真共有サイトで類似画像検索を行い、検索結果の写真から複数のメタデータを抽出して、どのメタデータを付与するかをユーザに選択させる方法が提案されている。
また特許文献2では、メタデータを付与したい写真をクエリとして類似画像検索を行い、検索結果の画像が似ているとユーザが判断した場合に検索結果と同じメタデータを付与する方法が提案されている。
特開2002−024265号公報 特開平11−134344号公報
写真共有サイトなどで付与されているメタデータは、基本的にはユーザが手動で付与したものであり、ユーザの主観に基づくものである。そのため、地名や被写体名を表すメタデータが付与されていなかったり、あるいは撮影地や被写体に対する代表性に乏しい名称がメタデータとして付与されてしまったりすることが避けられない。したがって、画像の類似性に基づいてメタデータを付与する従来技術では、仮に類似度が非常に高い画像が見付かっても、撮影地名や被写体名として適切なメタデータが付与されることは期待できない場合があった。
同様の課題は、GPSデータに基づいて撮影地を判別して撮影地が近い写真に付与されているメタデータを利用する方法にも存在し、GPSにより正確に撮影地が判別できても適切なメタデータが付与されるとは限らない点に問題があった。
本発明は前述の問題点に鑑み、メタデータが付与されている写真との画像特徴量的な類似度を利用して写真にメタデータを付与する際に、画像を代表する適切なメタデータを付与できるようにすることを目的とする。
本発明の情報処理装置は、コンテンツにメタデータを付与する情報処理装置であって、メタデータが付与されているコンテンツを記憶装置に蓄積する蓄積手段と、メタデータを付与する対象コンテンツから、第1のメタデータのメタデータ値を取得する第1の取得手段と、前記第1の取得手段により取得した第1のメタデータ値を検索条件として、前記記憶装置に蓄積しているコンテンツから第1のメタデータで第1の検索を行う第1の検索手段と、前記第1の検索の結果集合に含まれる1または複数のコンテンツから、第1のメタデータとは異なる種類の第2のメタデータのメタデータ値を取得する第2の取得手段と、前記第2の取得手段により取得した第2のメタデータ値を検索条件として、前記記憶装置に蓄積しているコンテンツから第2のメタデータで第2の検索を行う第2の検索手段と、前記第1の検索の結果集合と、前記第2の検索の結果集合との間の重複度が所定の閾値を満たした場合、前記第2のメタデータ値を、前記メタデータを付与する対象のコンテンツのメタデータとして付与する付与手段とを備えることを特徴とする。
本発明によれば、類似画像検索やGPSデータの類似度を比較して得られるコンテンツ集合とメタデータ検索で得られるコンテンツ集合の近さを比較し、両者が近くなるメタデータを選択するようにした。これにより、代表性のあるメタデータ値を画像に対して付与することができる。
写真管理システム及び写真管理アプリケーションの構成例を示す図である。 写真サーバのモジュール構成を示す図である。 コンピュータシステムの構成例を示す図である。 データ構造の一例を説明する図である。 メタデータ付与処理の手順の第1の例を説明するフローチャートである。 メタデータ付与処理の手順の第2の例を説明するフローチャートである。 検索結果数と集合重複率の一例を説明する図である。 写真管理アプリケーションのモジュール構成の第2の例を示す図である。 メタデータ付与処理の手順の第3の例を説明するフローチャートである。 集合の近さの判定方法の一例を説明する図である。
(第1の実施形態)
以下、図面を参照しながら本発明の第1の実施形態を説明する。
図1(a)は、本発明を実施する写真管理システムの全体構成を説明する図である。図1(a)にて、101はユーザ端末で、PCや携帯機器などが用いられる。ユーザ端末101は、ユーザが撮影した写真データをコンテンツとして保存するための記憶装置を有する。また、保存した写真を管理するための写真管理アプリケーションが実行可能にインストールされている。
103は写真サーバである。写真サーバ103には、ネットワーク102を介して接続したユーザ端末101から写真データをアップロードすることができる。アップロードされた写真はコンテンツとして記憶装置104に蓄積され、写真サーバ103で利用される。また、写真サーバ103は本実施形態のメタデータ付与機能を有し、ユーザは写真管理アプリケーションを介してサーバのメタデータ付与機能を利用することができる。
図1(b)は、ユーザ端末101にインストールされている写真管理アプリケーションの機能モジュール構成を示す図である。
表示部111は、写真や各種ユーザインタフェースの表示を制御する。操作制御部112は、ユーザからの操作に応じた制御を行い、各機能を呼び出す。メタデータ管理部113は、写真に付与されるメタデータを管理し、記憶装置管理部115を介してメタデータの保管と読み出しを行う。
データ管理部114は写真データ本体を管理し、記憶装置管理部115を介して写真データの保管と読み出しを行う。記憶装置管理部115は、ユーザ端末101上の記憶装置104にアクセスしてデータの読書きを行う。ここで、記憶装置については本実施形態が規定するものではなく、ファイルシステムやデータベースなど任意の手段を利用することができる。通信部116はネットワークを介して写真サーバ103にアクセスする。なお、通信手段についても本実施形態が規定するものではない。
図2は、写真サーバ103のモジュール構成例を示す図である。メタデータ管理部201は、写真に付与されるメタデータの管理を行う。具体的には、写真からのメタデータ取得と写真へのメタデータ付与、及び記憶装置管理部207を介してメタデータの保管と読み出しを行う。データ管理部202は、写真データ本体を管理し、記憶装置管理部207を介して、写真データの保管と読み出しを行う。
類似画像検索部203は、第1の検索を行うモジュールであり、写真の画像特徴量に基づいて類似画像の検索を行う。また、類似画像検索に必要なインデクスの作成を行う。メタデータ検索部204は、第2の検索を行うモジュールであり、写真に付与されているメタデータの検索を行う。また、メタデータ検索に必要なインデクスの作成を行う。
検索結果比較部205は、メタデータ検索部204によるメタデータ検索の結果と、類似画像検索部203による類似画像検索の結果との比較を行う。操作制御部206は、ユーザ端末101上の写真管理アプリケーションから送信されたコマンドを解析し、コマンド処理に必要なモジュールの起動を制御する。記憶装置管理部207は、記憶装置104にアクセスしてデータの読書きを行う。通信部208は、ユーザ端末101上の写真管理アプリケーションとの通信を行う。
図3は、写真サーバ103に用いられるコンピュータシステムの構成例を示す図である。CPU301は、OS(Operating System)及び各種アプリケーションプログラムを実行し、コンピュータ装置各部の制御を行う。ROM302は、CPU301が実行するプログラムや演算用のパラメタのうちの固定的なデータを格納する。RAM303は、CPU301の作業領域やデータの一時記憶領域を提供する。ROM302及びRAM303は、バス304を介してCPU301に接続される。
また、キーボードなどの入力装置305、CRT、液晶ディスプレイなどの表示装置306、ハードディスク装置、MO、CD−ROM等の外部記憶装置307は、インタフェース308を介してバス304に接続されている。また、バス304は通信部309を介してネットワークと接続される。
図4(a)は、本実施形態で用いる写真データ400のデータ構造例を示す図である。写真データ400の構成は任意であるが、ここでは簡単のため被写体のメタデータのみ利用するものとする。また、ユーザ端末101上の写真管理アプリケーションと写真サーバ103で共通のデータ構造を用いるものとする。データID401はデータを一意に識別する識別子、メタデータ402は被写体のメタデータ、データ実体403は写真データの実体ファイルへのポインタである。
次に、図5、図6のフローチャートを参照して、写真にメタデータを付与する処理を説明する。ここでは、ユーザ端末101に保存されているメタデータが付与されていない画像にメタデータを付与する手順を説明する。
始めに、ユーザ端末101上の写真管理アプリケーションに対し、写真サーバ103を利用した写真へのメタデータ付与を指示する操作がユーザにより行われたか否かを判定する(S501)。この判定の結果、指示が行われた場合にはS502に進み、操作制御部112はメタデータを付与する写真データの入力を要求する。指示が行われない場合には、指示が行われるまで待機状態となる。
次に、S503に進み、ユーザ端末101に保存している写真データからメタデータを付与する写真データがユーザにより指定されるまで待機する。ここでは、写真データはデータ毎にファイルで保存されており、写真データのファイルパスを指定するものとする。S503の待機状態において、写真データが指定されたら、S504に進み、操作制御部112はメタデータ管理部113に対して写真サーバ103からのメタデータ付与を指示する。
メタデータ管理部113は、まず記憶装置管理部115に対して指定された写真データの取得を指示する。記憶装置管理部115は、指定されたファイルパスから写真データを読込む(S505)。次に、メタデータ管理部113は、通信部116に対して写真サーバ103への接続を指示する(S506)。ここで、接続先の写真サーバ103は、予め写真管理アプリケーションに登録されているものとする。また、写真サーバ103へのアクセスにユーザ認証を用いる場合などは、それに必要な認証情報も事前に写真管理アプリケーションに登録されているものとする。通信部116が写真サーバ103に接続すると、メタデータ管理部113は写真サーバ103に対してメタデータ付与コマンドを、通信部116を介して送信する(S507)。
図4(b)に、メタデータ付与コマンドのデータ構造例を示す。送信元識別子4001は、このコマンドを送信した写真管理アプリケーションの識別子である。操作種別412は写真サーバ103側で実行する操作を指定する識別子であり、ここでは「メタデータ付与」が設定されている。なお、操作種別には他にも「写真アップロード」や「検索」などのコマンドが設定可能であり、例えば「写真アップロード」コマンドではアップロードされた写真のインデクスが作成される。コマンドデータ413は操作を実行する際に必要となるデータで、ここではメタデータを付与する写真データが設定されている。
写真サーバ103でメタデータが付与されると、メタデータ付与コマンドへの応答メッセージが通信部116で受信される(S508)。通信部116は、応答メッセージからリターンコードとメタデータ値を抽出して、メタデータ管理部113にこれを返す(S509)。メタデータ管理部113は、通信部116から返されたメタデータ値を、第1のメタデータのメタデータ値として取得する処理(第1のメタデータ値を取得する第1の取得処理)を行う。そして、取得した第1のメタデータのメタデータ値を写真データ400のメタデータ402に設定し(S510)、記憶装置管理部115にメタデータの保存を指示する。記憶装置管理部115は、指定されたメタデータを記憶装置104に保存する(S511)。なお、付与されたメタデータ値を表示部111で表示するようにしてもよい。
以上が、ユーザ端末101におけるメタデータ付与処理の手順である。
続いて、図6、図7を参照して写真サーバ103側の処理について説明する。本処理は、S506及びS507によって起動される。
まず、S601において、通信部208が写真管理アプリケーションからの接続要求を受信したか判定する。受信していない場合には、受信するまで待機する。S601において、接続要求を受信すると、次に、通信部208が写真管理アプリケーションからメタデータ付与コマンドを受信したか判定する。この判定の結果、受信した場合にはS603に進み、受信していない場合には、受信するまで待機する(S602)。
S603においては、通信部208は受信したコマンドを操作制御部206に送る。操作制御部206は、通信部208から取得したコマンドを解析して、操作種別とコマンドデータとしてそれぞれ「メタデータ付与」と写真データとを抽出する(S604)。次に、メタデータ管理部201に対して復元した写真データへのメタデータ付与を指示する(S605)。
メタデータ付与の指示を受けたメタデータ管理部201は、まず操作制御部206から指定された写真データの類似画像検索を行う。類似画像検索部203に対し、指定された写真データをクエリ画像とした検索条件を生成し、類似画像検索を指示して、検索結果を取得する第1の取得処理を行う(S606)。類似画像検索部203は、指定されたクエリ画像から画像特徴量を抽出して(S607)、インデクスから類似画像検索を実行し(S608)、検索結果としてデータIDの集合をメタデータ管理部201に返す(S609)。
本実施形態においては、類似画像検索からメタデータ値の出現回数を集計している。ここでは、図7において、類似画像検索結果件数701に示すように、100件の検索結果が返されたものとする。なお、本実施形態の類似画像検索部203は、画像特徴量の類似度が所定の閾値を超える画像のみを検索結果として返すものとする。類似画像検索部203による類似画像検索の結果を取得したメタデータ管理部201は、次にメタデータ検索を実行する。
メタデータ管理部201は、まず、類似画像検索の検索結果のデータIDが示す各写真データから被写体のメタデータ値702を取得してメタデータ値の出現回数703を集計する(S610)。次に、出現回数の多かった順に取得したメタデータ値を一致条件とする検索クエリ(第2のメタデータのメタデータ値)を生成し、メタデータ検索部204に検索の実行を指示する(S611)。メタデータ検索部204は、写真サーバ103に蓄積されている全写真データのインデクスから、指定された検索クエリ(第2のメタデータ値)で検索を実行し(S612)、検索結果としてデータIDの集合をメタデータ管理部201に返す(S613)。
メタデータ管理部201は、メタデータ検索の検索結果を取得する第2の取得処理を行い、先に取得している類似画像検索の検索結果とメタデータ検索の検索結果との比較を検索結果比較部205に指示する(S614)。検索結果比較部205は、メタデータ管理部から指定された2つの検索結果の「近さ」を検証する。ここでは、検索結果としてデータIDの集合が得られているので、データIDの重複率を以って結果の近さを評価する。類似画像検索の検索結果件数をM(701)、メタデータ検索の検索結果件数をN(704)、両方の検索結果に重複して含まれるデータIDの件数をR(705)、重複率(706)の閾値をrとして、以下の式(1)
R/(M+N−R)> r・・・式(1)
を満たす場合に、メタデータ検索と類似画像検索の検索結果は「近い」と判定する。
検索結果比較部205は、判定結果と計算した重複率とをメタデータ管理部201に返す(S615)。メタデータ管理部201は、判定結果が「近い」であったら、そのメタデータ検索結果を得たメタデータ値を写真データのメタデータとして付与することを決定する。
次に、S616に進み、S610で出現回数を集計した際に、複数のメタデータ値が出現していた場合は、その取得したメタデータ値を全て処理したか判定する。この判定の結果、処理していない場合にはS610に戻って前述した処理を繰り返し実行する。複数のメタデータ値が出現していた場合は、それぞれのメタデータ値の検索結果に対して検索結果比較部205で比較を行う。そして、「近い」と判定されたものの中で重複率が最も高かったメタデータ値を写真データのメタデータとして付与することを決定する(S617)。
図7に、メタデータ値と結果件数、重複率の例を示す。この例では、メタデータ値の出現回数では“皇居”が最多であるが、重複率では“二重橋”が最高であるため、“二重橋”を付与するメタデータ値に決定する場合を示している。
写真データに付与するメタデータ値が決定したら、メタデータ管理部201は操作制御部206にメタデータ値を返す(S618)。メタデータ値を取得した操作制御部206は、写真管理アプリケーションから受信したメタデータ付与コマンドへの応答メッセージとしてこのメタデータ値とメタデータ付与成功を示すリターンコードの送信を通信部208に指示する(S619)。図4(c)に応答メッセージの構成例を示す。リターンコード421411には成功/失敗のいずれかが設定される。メッセージボディ422にはメタデータ値が設定される。
次に、S620において、メタデータ付与に成功したか否かを判定する。この判定の結果、成功した場合には、通信部208は、指定されたメタデータ値とリターンコードとを写真管理アプリケーションに送信する(S621)。また、S620の判定の結果、メタデータ付与に成功しなかった場合、すなわち、検索結果比較部205で近いと判定されたものが無かった場合は、付与できるメタデータが存在しない。この場合、応答メッセージとしてメタデータ付与失敗を示すリターンコードの送信を指示する(S622)。
以上が、写真サーバ103側でのメタデータ付与処理の手順である。なお、本実施形態ではS610においてメタデータ値の出現回数を集計し、出現回数の多かった順にメタデータ検索を行うとしたが、類似画像検索の適合度が高い写真に付与されているメタデータ値から順にメタデータ検索を行うとしてもよい。
前述した実施形態によれば、既に被写体のメタデータが付与されている写真を利用して、被写体として代表性のあるメタデータをユーザの写真に自動で付与することが可能であり、ユーザの写真管理の手間を削減することが可能である。
(第2の実施形態)
引き続いて、第2の実施形態の説明を行う。
前述した第1の実施形態においては、メタデータを付与するための機能ならびに装置は写真サーバ103が保持するとした。本実施形態においては、ユーザ端末101上の写真管理アプリケーションがこの機能を有する。
本実施形態における写真管理アプリケーションの機能モジュール構成図を図8に示す。
図8において、符号111〜116の各モジュールは図1(b)に示すモジュールと同じなので説明は省略する。
検索呼び出し部807は、写真サーバ103上の検索機能を、通信部116を介して実行する。検索結果比較部808は、写真サーバ103上の検索結果比較部205と同等の機能モジュールである。
続いて、図9のフローチャートを参照して、本実施形態におけるメタデータ付与の処理手順の一例を説明する。
まず、ユーザが写真管理アプリケーションにメタデータを付与する写真データを指定し、写真管理アプリケーションが写真データを記憶装置から読み込む処理(S901〜S905)は、第1の実施形態のS501〜S505と同等なのでここでの説明は省略する。
次に、メタデータ管理部113は、類似画像検索を行う。本実施形態においては、メタデータ管理部113は、検索呼び出し部807に対して指定された写真データをクエリ画像とした検索条件を生成し、類似画像検索を指示する(S906)。検索呼び出し部807は通信部116に写真サーバ103への接続を指示し(S907)、写真サーバ103に対して類似画像検索コマンドを通信部116を介して送信する(S908)。
写真サーバ103は、写真管理アプリケーションから受信した類似画像検索コマンドに従って類似画像検索を実行し、検索結果として写真データの集合を写真管理アプリケーションに返信する(S909)。ここで、類似画像検索の機能は第1の実施形態と同じである。類似画像検索の検索結果を取得したメタデータ管理部113は、続いてメタデータ検索を行う。取得した写真データの集合からメタデータ402を取得して検索の結果集合内でのメタデータ値の出現回数を集計する(S910)。ここで、メタデータ検索の機能は第1の実施形態と同じである。
次に、出現回数の多い順にメタデータ値を用いてメタデータ検索の検索クエリを生成し、 検索呼び出し部に対してメタデータ検索を指示する(S911)。検索呼び出し部807は、写真サーバ103に対してメタデータ検索コマンドを通信部を介して送信する。写真サーバ103は、写真管理アプリケーションから受信したメタデータ検索コマンドに従ってメタデータ検索を実行し、検索結果として写真データ400の集合を写真管理アプリケーションに返信する(S912)。
メタデータ検索の検索結果を取得したメタデータ管理部113は、先に取得している類似画像検索の検索結果とメタデータ検索の検索結果との比較を検索結果比較部808に指示する(S913)。これ以降、検索結果の重複率に応じて付与するメタデータ値を決定する処理手順(S914〜S916)は、基本的に第1の実施形態の手順に準じるのでここでの説明は省略する。
付与するメタデータ値が決定したら、メタデータ管理部113はこれを写真データに付与し(S917)、記憶装置管理部115にメタデータの保存を指示すると、記憶装置管理部115はメタデータを保存する(S918)。
以上が第2の実施形態におけるメタデータ付与手順の説明である。
(第3の実施形態)
前述した実施形態では、第1の検索を類似画像検索とし、また第2の検索をメタデータ検索としたが、本発明を実施可能な形態はこれに限定されるものではない。例えば、第1の検索をGPSデータを用いたメタデータ検索としてもよい。その場合、第1の検索のための検索クエリはGPSデータの値に対する範囲条件などを用いることが可能であり、そのクエリ生成手段を含む実施形態も本発明に含まれる。さらには、第1の検索を行うメタデータ検索と、第2の検索を行うメタデータ検索とは共通の手段であってもよい。
本実施形態によれば、撮影地と被写体の関連性が強い場合に、代表性のある被写体のメタデータを付与することが可能である。例えば、撮影可能なポイントが限られている風景写真へのメタデータ付与において特に有効である。
(第4の実施形態)
前述した実施形態では、メタデータを付与する写真をユーザが1枚選択する場合を説明したが、本発明を実施可能な形態はこれに限定されるものではない。複数枚の写真を一括で選択する方法や、あるいは写真データの保存されているフォルダを指定し、フォルダ内の写真に一括でメタデータを付与する方法を用いることもできる。
さらに、メタデータ付与の開始はユーザの指示によるものとして説明したが、例えばデジタルカメラとユーザ端末を接続してデジタルカメラから新しい写真を読み込んだ際に自動的にメタデータ付与を行うとしてもよい。
(第5の実施形態)
前述した実施形態では、メタデータ値を付与する処理の最初で類似画像検索を行うとしていたが、類似画像検索を行う前に、他の検索手段を用いて写真データを予め絞り込んでおくようにしても本発明は実施可能である。例えば、メタデータを付与する写真がGPSデータ付きの写真であり、さらに写真サーバに蓄積されている写真にもGPSデータが付いている場合、初めにGPSデータで絞り込みを行った上で類似画像検索を行うとしてもよい。
本実施形態によれば、類似画像検索の検索対象を予め撮影場所で絞り込んでおくことにより、類似画像検索の精度が低い場合にも検索結果として妥当な写真が得られることが期待でき、従って被写体として妥当なメタデータが付与されることが期待される。
また、類似画像検索の結果から明らかに適合度が低いものをユーザが取得除外対象に指定し、取得除外対象に指定された写真はメタデータ値の出現回数の集計から除外するとしてもよく、そのための手段を含む実施形態も本発明に含まれる。同様に、ユーザが取得対象に指定した写真のみからメタデータ値の出現回数を集計するようにしてもよい。
(第6の実施形態)
前述した実施形態では、付与するメタデータ値をシステムが1つに決定するとしたが、システムは複数のメタデータ値の候補リストを作成するとしてもよい。さらには、候補リストをユーザに提示し、ユーザが付与するメタデータを選択する方法や、メタデータ値に優先順位や信頼度をつけて複数のメタデータ値を付与するとしてもよい。その場合、例えば類似画像検索とメタデータ検索の結果集合の「近さ」に応じて、メタデータ値の順位や信頼度を算出することが可能である。
(第7の実施形態)
前述した実施形態では、検索の結果集合間の「近さ」を判定するのにデータIDの重複率を用いたが、本実施形態では別の指標に基づいて「近さ」を判定する。
図10(a)は、M個の画像特徴量とN個のメタデータ値が張る(M+N)次元パラメタ空間内で、類似画像検索の結果集合G1の分布の重心R1へのベクトルr1と、メタデータ検索の結果集合G2の分布の重心R2へのベクトルr2を求める。そして、重心間の距離Lを、以下の式(2)
L=|r1−r2|・・・式(2)
が所定の閾値よりも小さかった場合にG1とG2は「近い」と判定するものである。
また、図10(b)は、同じくM個の画像特徴量とN個のメタデータ値が張る(M+N)次元パラメタ空間内で、類似画像検索の結果集合G1の分布とメタデータ検索の結果集合G2の分布が正円にとなるようにパラメタを正規化する。その上で、一方の集合の重心が、他方の集合の分布内に含まれる場合に両者は「近い」と判定するものである。
なお、上記以外の任意の方法を用いて検索の結果集合間の「近さ」を判定する実施形態も本発明の範疇に含まれる。
(第8の実施形態)
前述した実施形態では、ユーザ端末と写真サーバとが、それぞれの側でメタデータを付与する方法と構成について説明したが、本発明を実施可能な方法及び構成はこれに限定されるものではない。例えば、写真サーバにアップロードされた写真データに対してメタデータを付与する形態によっても本発明は実施可能である。
また、ユーザ端末上に写真管理アプリケーションが実行可能にインストールされているものとしたが、本発明を実施可能なシステム構成はこれに限定されるものではない。例えば、ユーザ端末上ではWebブラウザを実行し、写真サーバをWebサーバとして動作させるとする方法も本発明の範疇に含まれる。
(第9の実施形態)
前述した実施形態は写真管理システムに関するものであったが、本発明を実施可能な形態はこれに限定されるものではない。
本実施形態は、被写体の名称を調べる写真図鑑システムとしても実施する場合である。本システムにおいてユーザは、例えば旅行先で撮影した名前の分らない動物や植物の名前を調べる。ユーザが写真を指定すると、本実施形態の写真図鑑システムは、指定された写真をクエリ画像として、前述の実施形態と同様に類似画像検索とメタデータ検索とを行い、両者の検索の結果集合が近くなるメタデータ値を名称(の候補)として提示する。
本実施形態によれば、検索の結果集合の「近さ」を評価することにより画像にとって代表的なメタデータ値を提示することが可能である。したがって、例えば犬の写真であればペットの名前のような固有名のメタデータ値を排して犬種のメタデータ値を提示することができる。あるいは、昆虫の写真であれば「蝶」や「カブトムシ」といった一般的すぎるメタデータ値を排して、「ツマムラサキマダラ」「オキナワコカブトムシ」といった品種名を提示することができる。なお、提示したメタデータ値を写真に付与するとしてもよい。
(その他の実施形態)
また、本発明は、以下の処理を実行することによっても実現される。即ち、前述した実施形態の機能を実現するソフトウェア(コンピュータプログラム)を、ネットワーク又は各種のコンピュータ読み取り可能な記録媒体を介してシステム或いは装置に供給する。そして、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。
201 メタデータ管理部、202 データ管理部、203 類似画像検索部、204 メタデータ検索部、205 検索結果比較部、206 操作制御部、207 記憶装置管理部、208 通信部

Claims (9)

  1. コンテンツにメタデータを付与する情報処理装置であって、
    メタデータが付与されているコンテンツを記憶装置に蓄積する蓄積手段と、
    メタデータを付与する対象コンテンツから、第1のメタデータのメタデータ値を取得する第1の取得手段と、
    前記第1の取得手段により取得した第1のメタデータ値を検索条件として、前記記憶装置に蓄積しているコンテンツから第1のメタデータで第1の検索を行う第1の検索手段と、
    前記第1の検索の結果集合に含まれる1または複数のコンテンツから、第1のメタデータとは異なる種類の第2のメタデータのメタデータ値を取得する第2の取得手段と、
    前記第2の取得手段により取得した第2のメタデータ値を検索条件として、前記記憶装置に蓄積しているコンテンツから第2のメタデータで第2の検索を行う第2の検索手段と、
    前記第1の検索の結果集合と、前記第2の検索の結果集合との間の重複度が所定の閾値を満たした場合、前記第2のメタデータ値を、前記メタデータを付与する対象のコンテンツのメタデータとして付与する付与手段と、
    を備えることを特徴とする情報処理装置。
  2. 前記第1のメタデータが画像特徴量であり、
    前記第1の検索を行う第1の検索手段は類似画像検索を行うことを特徴とする請求項1に記載の情報処理装置。
  3. 第1の検索手段が、類似画像検索を行い、
    前記第2の検索手段は、前記類似画像検索の適合度が高いコンテンツに付与されているメタデータ値を用いて第2の検索を行うことを特徴とする請求項2に記載の情報処理装置。
  4. 前記第2のメタデータ値の出現回数を集計する集計手段を更に備え、
    前記第2の検索手段は、前記出現回数を集計する集計手段において集計した出現回数が高いものを用いて第2の検索を行うことを特徴とする請求項1に記載の情報処理装置。
  5. 前記付与手段は、前記検索の結果集合の間の重複度に基づく情報を前記第2のメタデータ値に付与するとともに、複数のメタデータ値を第2のメタデータに付与することを特徴とする請求項1に記載の情報処理装置。
  6. 前記検索の結果集合の間の重複度に基づく情報は、メタデータ値の信頼度であることを特徴とする請求項5に記載の情報処理装置。
  7. 前記第1の検索の結果集合の中から、前記第2のメタデータ値の取得対象または取得除外対象とするコンテンツを指定する指定手段を更に備えることを特徴とする請求項1に記載の情報処理装置。
  8. コンテンツにメタデータを付与する情報処理方法であって、
    メタデータが付与されているコンテンツを記憶装置に蓄積する蓄積工程と、
    メタデータを付与する対象コンテンツから、第1のメタデータのメタデータ値を取得する第1の取得工程と、
    前記第1の取得工程において取得した第1のメタデータ値を検索条件として、前記記憶装置に蓄積しているコンテンツから第1のメタデータで第1の検索を行う第1の検索工程と、
    前記第1の検索の結果集合に含まれる1または複数のコンテンツから、第1のメタデータとは異なる種類の第2のメタデータのメタデータ値を取得する第2の取得工程と、
    前記第2の取得工程において取得した第2のメタデータ値を検索条件として、前記記憶装置に蓄積しているコンテンツから第2のメタデータで第2の検索を行う第2の検索工程と、
    前記第1の検索の結果集合と、前記第2の検索の結果集合との間の重複度が所定の閾値を満たした場合、前記第2のメタデータ値を、前記メタデータを付与する対象のコンテンツのメタデータとして付与する付与工程と、
    を備えることを特徴とする情報処理方法。
  9. コンテンツにメタデータを付与する情報処理方法の各工程をコンピュータに実行させるプログラムであって、
    メタデータが付与されているコンテンツを記憶装置に蓄積する蓄積工程と、
    メタデータを付与する対象コンテンツから、第1のメタデータのメタデータ値を取得する第1の取得工程と、
    前記第1の取得工程において取得した第1のメタデータ値を検索条件として、前記記憶装置に蓄積しているコンテンツから第1のメタデータで第1の検索を行う第1の検索工程と、
    前記第1の検索の結果集合に含まれる1または複数のコンテンツから、第1のメタデータとは異なる種類の第2のメタデータのメタデータ値を取得する第2の取得工程と、
    前記第2の取得工程において取得した第2のメタデータ値を検索条件として、前記記憶装置に蓄積しているコンテンツから第2のメタデータで第2の検索を行う第2の検索工程と、
    前記第1の検索の結果集合と、前記第2の検索の結果集合との間の重複度が所定の閾値を満たした場合、前記第2のメタデータ値を、前記メタデータを付与する対象のコンテンツのメタデータとして付与する付与工程と、
    をコンピュータに実行させることを特徴とするプログラム。
JP2009232494A 2009-10-06 2009-10-06 情報処理装置及び情報処理方法 Expired - Fee Related JP5404290B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2009232494A JP5404290B2 (ja) 2009-10-06 2009-10-06 情報処理装置及び情報処理方法
US12/896,638 US9189499B2 (en) 2009-10-06 2010-10-01 Information processing apparatus and information processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009232494A JP5404290B2 (ja) 2009-10-06 2009-10-06 情報処理装置及び情報処理方法

Publications (3)

Publication Number Publication Date
JP2011081549A JP2011081549A (ja) 2011-04-21
JP2011081549A5 JP2011081549A5 (ja) 2012-10-25
JP5404290B2 true JP5404290B2 (ja) 2014-01-29

Family

ID=43824004

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009232494A Expired - Fee Related JP5404290B2 (ja) 2009-10-06 2009-10-06 情報処理装置及び情報処理方法

Country Status (2)

Country Link
US (1) US9189499B2 (ja)
JP (1) JP5404290B2 (ja)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5418565B2 (ja) * 2011-09-30 2014-02-19 カシオ計算機株式会社 画像表示システム、画像表示装置、サーバ、画像表示方法及びプログラム
US9081798B1 (en) * 2012-03-26 2015-07-14 Amazon Technologies, Inc. Cloud-based photo management
JP5416253B2 (ja) * 2012-06-27 2014-02-12 株式会社Nttドコモ 関連コンテンツ検索装置及び関連コンテンツ検索方法
JP5931804B2 (ja) * 2013-06-18 2016-06-08 日本電信電話株式会社 Gui部品メタ情報付与装置およびその方法、並びに操作ログ自動生成装置
US9600720B1 (en) * 2014-03-18 2017-03-21 Amazon Technologies, Inc. Using available data to assist in object recognition
JP6208105B2 (ja) * 2014-09-18 2017-10-04 株式会社東芝 タグ付与装置、方法、及びプログラム
KR102436018B1 (ko) * 2018-01-23 2022-08-24 삼성전자주식회사 전자 장치 및 그 제어 방법
JP2020194472A (ja) * 2019-05-30 2020-12-03 オリンパス株式会社 サーバ、表示方法、作成方法、およびプログラム
JP7418237B2 (ja) * 2020-02-20 2024-01-19 帝人ファーマ株式会社 患者情報管理プログラム、観察者端末用プログラム、患者情報管理装置、観察者端末、及び患者情報管理システム

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11134344A (ja) 1997-10-27 1999-05-21 Nippon Telegr & Teleph Corp <Ntt> 画像分類蓄積方法および装置並びに画像検索方法および装置
JP2002024265A (ja) 2000-07-03 2002-01-25 Burittsua:Kk 情報検索装置およびその方法、並びに該方法に係るプログラムを記憶した記憶媒体
JP2007094552A (ja) * 2005-09-27 2007-04-12 Nippon Telegr & Teleph Corp <Ntt> コミュニティ抽出装置、コミュニティ抽出方法、プログラム、及び記録媒体
JP2008191936A (ja) * 2007-02-05 2008-08-21 Fujifilm Corp コンテンツ登録・検索システムの構築支援方法、およびコンテンツ登録・検索システムの構築支援装置
US8145677B2 (en) * 2007-03-27 2012-03-27 Faleh Jassem Al-Shameri Automated generation of metadata for mining image and text data
JP4987629B2 (ja) * 2007-08-28 2012-07-25 株式会社東芝 映像検索システム及び映像検索装置
JP2009128946A (ja) * 2007-11-19 2009-06-11 Canon Inc メタデータ付与装置及び方法
JP2009211554A (ja) * 2008-03-05 2009-09-17 Canon Inc 画像処理装置、画像処理方法、コンピュータプログラム、および記憶媒体

Also Published As

Publication number Publication date
US9189499B2 (en) 2015-11-17
US20110082886A1 (en) 2011-04-07
JP2011081549A (ja) 2011-04-21

Similar Documents

Publication Publication Date Title
JP5404290B2 (ja) 情報処理装置及び情報処理方法
KR102149017B1 (ko) 가이드형 사용자 동작들을 위한 시스템들 및 방법들
US8655889B2 (en) Autonomous mobile blogging
US8612428B2 (en) Image ranking based on popularity of associated metadata
JP4457988B2 (ja) 画像管理装置、画像管理方法およびコンピュータプログラム
JP2014137739A (ja) 情報処理装置、方法およびプログラム
TWI649664B (zh) Terminal device, server device, and program for recording an operation by an image
US20150288748A1 (en) Method and apparatus for processing web intent message and event in terminal using cloud server
US20130250131A1 (en) Image evaluating device, image evaluating method, image evaluating system, and program
JP2014109864A (ja) 情報処理装置、情報処理システム、その制御方法、及びプログラム
KR20130105550A (ko) 네트워크 시스템, 회원제 소셜 네트워크 서비스 시스템 및 화상 표시 방법
JP2020140557A (ja) 画像処理装置、制御方法、及びプログラム
JP5863375B2 (ja) 情報処理システム、画像処理システム、情報処理方法、およびプログラム
JP2012073956A (ja) 情報処理装置、情報処理装置の制御方法及び制御プログラム
JP2020140555A (ja) 画像処理装置、制御方法、及びプログラム
JP5262308B2 (ja) 評価装置、評価方法、評価プログラムおよび評価システム
KR102523006B1 (ko) 컨텐츠 목록 제공 방법, 장치 및 컴퓨터 프로그램
JP5523122B2 (ja) 画像管理装置、方法及びプログラム
JP2014016879A (ja) 文書処理装置及びプログラム
JP5708868B1 (ja) プログラム、情報処理装置及び方法
US9798578B2 (en) Enabling native application capabilities based on object capabilities
JP2004139210A (ja) 画像検索装置
JP2017054523A (ja) 情報処理装置、情報処理システム、その制御方法、及びプログラム
JP2017037437A (ja) 情報処理システム、情報処理装置、情報処理方法および情報処理プログラム
JP5428918B2 (ja) 文書配信装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120906

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120906

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130806

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130813

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130906

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20131001

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20131029

LAPS Cancellation because of no payment of annual fees