JP2013520725A - コンシューマー画像コレクション内の適応的イベント時系列 - Google Patents

コンシューマー画像コレクション内の適応的イベント時系列 Download PDF

Info

Publication number
JP2013520725A
JP2013520725A JP2012553936A JP2012553936A JP2013520725A JP 2013520725 A JP2013520725 A JP 2013520725A JP 2012553936 A JP2012553936 A JP 2012553936A JP 2012553936 A JP2012553936 A JP 2012553936A JP 2013520725 A JP2013520725 A JP 2013520725A
Authority
JP
Japan
Prior art keywords
event
time series
events
time
digital image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2012553936A
Other languages
English (en)
Other versions
JP2013520725A5 (ja
Inventor
ダス,マディラクシ
シー ルイ,アレクサンダー
Original Assignee
イーストマン コダック カンパニー
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by イーストマン コダック カンパニー filed Critical イーストマン コダック カンパニー
Publication of JP2013520725A publication Critical patent/JP2013520725A/ja
Publication of JP2013520725A5 publication Critical patent/JP2013520725A5/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/54Browsing; Visualisation therefor
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/30Scenes; Scene-specific elements in albums, collections or shared content, e.g. social network photos or video
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2218/00Aspects of pattern recognition specially adapted for signal processing
    • G06F2218/12Classification; Matching
    • G06F2218/16Classification; Matching by matching signal segments
    • G06F2218/20Classification; Matching by matching signal segments by applying autoregressive analysis

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Databases & Information Systems (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Evolutionary Computation (AREA)
  • Evolutionary Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Artificial Intelligence (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Television Signal Processing For Recording (AREA)

Abstract

デジタル画像コレクションのイベント時系列を統合する方法であって、デジタル画像コレクション内のイベントを検出するプロセッサを使用するステップであって、各イベントは時間枠に関連づけられる、ステップと;そのデジタル画像コレクション内で重要である検出イベントを決定するステップと;イベント時系列が重要イベントと他のイベントのクラスタ化された表示を示すように、イベント時系列を統合するステップであって、ユーザに異なる時間粒状性で利用可能になされる、ステップとを含む。統合されたイベント時系列は、また、出力を生成するため、画像を選択するのに使用される。

Description

本発明は、一般的にはデジタル画像処理の分野に関し、詳しくは、コンシューマー画像コレクションの効率的な管理及びイベントの検索のための、デジタル画像のグループの整理統合方法に関する。
デジタルカメラ、カメラ付携帯電話及びスキャナーの普及は、デジタル画像及び動画の急増をもたらし、大きな個人用マルチメディアデータベースを形成している。デジタル写真を撮ることは簡単で実際的には無料なので、コンシューマーは重要なイベントや特別な機会に写真を撮ることを全く制限していない。画像は頻繁に撮影され、コンシューマーの生活の日常的出来事になっている。一般的なユーザは何年ものデジタル画像や動画をすでに蓄積しているので、特定のイベントの間に撮られた画像や動画を見つけるようコレクションをブラウジングするのは、コンシューマーにとってはとても時間のかかるプロセスである。
画像をイベントにグループ化する研究は存在した。米国特許第6,606,411号(特許文献1)及び米国特許第6,351,556号(特許文献2)は、画像コンテンツを時間的イベントやサブイベントによりクラスタリングするアルゴリズムを開示する。前記2つの特許は、デジタル画像コレクションの画像と動画を時間的イベントやサブイベントにクラスタリングする方法を示している。用語”イベント“と”サブイベント“とは、客観的な意味において用いられ、特定の出来事のユーザの客観的な認識(イベントに対応)、及びそうした出来事の部分(サブイベントに対応)との一致を目的とするコンピュータを利用した手順のプロダクトを示す。画像を自動的に整理統合する他の方法が、米国特許第6,915,011号(特許文献3)に開示されている。検出されたイベントは、最も古くから最近まで時系列(タイムライン)で年代順に並べられる。
上記の方法を用いて、ユーザによって特定のイベントを位置づけるのに必要とされるブラウジングの量は、各画像サムネールの代わりに、時系列に沿ったイベントの代表を見ることにより減少され得る。しかしながら、一般的なユーザは毎年100を越えるイベントを創出することがあり、より大量の画像を撮影する人は、一年で数百の検出イベントを容易に越えることがある。全体のイベント時系列構造を構築する必要性は今もあり、そのイベント時系列構造は、ユーザの写真撮影行動と同様に、そのコレクションにおけるイベントの時間粒状性にも適応可能であって、さらに、全体のコレクション又はコレクション内の所定期間を要約するイベントのサブセットを選択することも可能である。
米国特許第6,606,411号 米国特許第6,351,556号 米国特許第6,915,011号
本発明の課題は、上述した画像コレクションの統合されたイベント時系列を提案することである。
本発明に従って、デジタル画像コレクションのイベント時系列を統合する方法が提案され、以下のステップを実行するプロセッサを使用する:
(a)デジタル画像コレクションのイベント及び各イベントに関連する時間枠(タイムスパン)を検出するステップと;
(b)デジタル画像コレクション内の重要なイベントを判定するステップと;
(c)前記イベント時系列を統合するステップであって、前記検出された重要なイベントの間にあるイベント時系列上の検出イベントが、前記イベント時系列上でクラスタへ分類される、ステップ。
一般的なユーザのコレクションにおける画像と動画の数は、急速に増加しており、各ユーザは様々な写真撮影行動を有するかもしれないので、ユーザのコレクションから画像と重要なイベントに効率的にアクセスし検索できることについては、重要な必要性が存在する。本発明においては、検出イベントに関してユーザの写真撮影行動は、時系列に翻訳され、その時系列には各時間ステップに対してデータポイントが存在する。そして、適応的なイベントベースの時系列が作成され、検出イベントの重要性とイベントの時間粒状性との両方が考慮に入れられる。
画像と動画の整理と検索は、一般のコンシューマーには問題である。ユーザにとって、自分の画像コレクションのイベント概要(オーバービュー)に簡易にアクセスしブラウジングするようにできることは有益である。先行文献で開示される技術は、コレクションの画像をイベントに分類することを可能にするが、個々のユーザの写真撮影行動に従って、仕立て上げることのできるイベント時系列を適応的に構築することはできない。その結果、そのユーザにとって重要なイベントを見つけてアクセスする効果的なメカニズムに欠ける。本発明は、様々な時間スケールで、効果的なイベントベースの時系列を作成し、検出イベントの重要性とそのイベントの時間粒状性の両方が考慮される。この統合されたイベント時系列は、画像のコレクションからアルバムやスライドショーのような作品出力を作成するとき、画像を選択し、重要性を判定するのに使用され得る。
本発明は、コンピュータシステムにおいて実施することができ、これは当業者にはよく知られているだろう。以下の説明では、本発明の幾つかの実施形態は、ソフトウェアプログラムとして説明されるだろう。当業者であれば、そうした方法の均等が、本発明の適用範囲内で、ハードウェア又はソフトウェアとして構成されることも可能であることは容易に認識するだろう。
画像操作アルゴリズム及びシステムはよく知られているので、本説明の説明は、詳しくは、本発明の方法の一部を形成する、又は、より直接的には一緒に協働するアルゴリズム及びシステムに向けられるだろう。そのアルゴリズムとシステムの他の側面、及び、画像信号を生成する及びそうでなければ処理するためのハードウェア又はソフトウェアは、本明細書では特に示されないか又は説明されないが、当業界において知られるそうしたシステム、アルゴリズム、コンポーネント、及び要素から選択されることができるだろう。以下の明細書で説明される記述を前提として、そのソフトウェア実施の全ては、従来のもので、そうした技術の通常の知識の範囲内である。コレクション内の動画は、本明細書の残りの部分では、用語“画像”に含まれる。
本発明は、コンピュータハードウェア及びコンピュータ制御の装置において実施することができる。例えば、本方法は、デジタルカメラ、マルチメディアスマートフォン、デジタルプリンタの中で、プリンタサーバー上で、キオスクで、及びパーソナルコンピュータ上で実施することができる。図1を参照すると、本発明を実施するコンピュータシステムが例示されている。本コンピュータシステムは、好ましい実施形態を例示する目的で示されるものであるが、本発明は、図示のコンピュータシステムに限定されず、如何なる電子処理システム上でも使用することができ、例えば、デジタルカメラ、ホームコンピュータ、キオスク、又は、デジタル画像処理用の他の如何なるシステムでも使用され得る。コンピュータ10は、マイクロプロセッサベースユニット20を含み(本明細書ではプロセッサとしても言及される)、ソフトウェアプログラムを受信し処理し、そして、他の処理機能を実行する。メモリユニット30は、ユーザが供給してコンピュータが生成したデータを保存し、そのデータは、コンピュータプログラムをランするとき、プロセッサ20によってアクセスされ得る。(モニターのような)表示装置70は、コンピュータ10に電気的に接続され、例えばグラフィカルユーザインターフェースを用いて、そのソフトウェアに関連する情報とデータを表示する。キーボード60も、そのコンピュータに接続される。入力用にキーボード60を使用する代替として、当業界でよく知られているように、マウスが、表示装置70上のセレクタを動かし、セレクタが重なっているアイテムを選択するために使用することができる。コンパクトディスク(CD)やDVDのような入力デバイス50は、コンピュータ10に挿入されて、ソフトウェアプログラム及び他の情報をコンピュータ10及びプロセッサ20に入力する。更に、当業界でよく知られるように、コンピュータ10はプログラムされることが可能で、そのソフトウェアプログラムは内部に保存される。加えて、(画像、音楽及び動画といった)メディアファイルを、コンピュータ10のメモリ30に転送することができ、それは、メモリカード、サムドライブ、CD及びDVDのような入力デバイスを使用して、又は、(カメラ、携帯電話、ビデオレコーダといった)キャプチャーデバイスを入力デバイスとしてコンピュータ10に直接接続することにより転送することができる。コンピュータ10は、電話回線又は無線接続のようなネットワーク接続80を有して、ローカルエリアネットワークやインターネットのような外部ネットワークに接続することができる。ソフトウェアプログラムとメディアファイルは、他のコンピュータやインターネットから、ネットワーク接続80を介してコンピュータ10へ転送することができる。
本発明は、ソフトウェアやハードウェアの組合せで実施することができ、物理的に接続された、又は、同じ物理的場所の範囲内にあるデバイスに限定されないことに留意すべきである。図1で示される1つ以上のデバイスは、遠隔に位置することができ、ネットワークを介して接続してもよい。その1つ以上のデバイスは、例えば無線周波数リンクのような無線で、直接に或いはネットワーク経由で接続することができる。
図2を参照すると、ユーザのデジタル画像コレクション105は、コンピュータ10のメモリの中に存在する。図の他のブロックは、ソフトウェアプログラムによって実施され、コンピュータ10のプロセッサ20によって実行される。デジタル画像コレクション105は、イベント検出器110及び重要イベント検出器115に供給される。イベント検出器110は、ユーザのデジタル画像コレクション105をイベント表示にグループ化する。好ましい実施形態では、デジタル画像コレクション105は、米国特許第6,606,411号と米国特許第6,351,556号で説明されるイベント及びサブイベント検出器を用いて、時間的イベント及びサブイベントにグループ化される。上記の2つの特許は、デジタル画像コレクション内の画像と動画を時間的イベントとサブイベントにクラスタリングする方法を示す。用語”イベント“と”サブイベント“は、客観的な意味に用いられ、特定の出来事(イベントに対応)のユーザの主観的認識とそれらの出来事の部分(サブイベントに対応)に一致することを目的とする、コンピュータを利用した手順のプロダクトを示す。短く要約すると、全体のコレクションにわたる近接画像間の時間差ヒストグラムの二平均クラスタリングに基づいて、コレクションの近接画像間の時差の閾値を判定することにより、画像のコレクションはイベントに分類される。画像は、境界では前のステップで決定された閾値よりも高い時間差を持つことに基づいて、イベントに対応するグループに分類される。各イベントに対して、(もしあれば)サブイベントが、米国特許第6,351,556号に開示されるように、連続画像のカラーヒストグラム情報を比較することにより決定される。これは、或る画像を多数のブロックに分割し、そして各ブロックに対してカラーヒストグラムを計算することにより達成される。ブロックベースのヒストグラム相関手順が、サブイベントの境界を検出するため、米国特許第6,351,556号で説明されるように用いられる。画像を自動的にイベントに整理する他の方法が、米国特許第6,915,011号に開示されている。短く要約すれば、上述の発明の一側面に従って、イベントクラスタリング方法は、前景と背景の部分(セグメンテーション)を使って、画像をグループから類似のイベントへクラスタリングする。始めに、各画像は複数のブロックに分割され、それによりブロックベースの画像を供給する。ブロック毎の比較を使うことで、各ブロックベースの画像は、少なくとも前景と背景とを含む複数の領域にセグメンテーション化される。1つ以上の明度、色、位置又はサイズの特徴がその領域から抽出され、その抽出された特徴は、グループの連続画像の前景と背景を含む領域の類似性を推定し比較するように使用される。その後、連続画像間の全体の類似性の基準が計算され、それにより、連続画像間の画像距離が供給され、イベントグループがその画像距離から範囲が定められる。イベント時間帯は、イベントの始まりから終わりの間の時間であり、その時系列では、イベントの始まりは、そのイベント内の最初の画像の撮影時間によって表され、終わりは、そのイベントの最後の画像の撮影時間(又は、そのイベントが動画クリップで終わる場合は、動画部分の撮影の終わり)によって表される。
図2を参照すると、重要イベント検出器115がデジタル画像コレクション105内の重要イベントを識別する。デジタル画像コレクション105は、重要イベント検出器115に供給される。検出器は、キャプチャーデバイス(例えばカメラ)によるデジタル画像コレクション105の画像ファイル内に保存されたEXIFメタデータから抽出された画像取得データ及び時間情報を使用し、そのデジタル画像コレクション105によってカバーされる時間間隔の各カレンダー(暦)日に撮影された画像の数を示す時系列を生成する。この時系列は、その系列に適合するモデルを見つけるよう分析される。時系列モデリングには、多くの充分に確立した方法が存在する("Introduction to Time Series and Forecasting”, Brockwell and Davis, Springer-Verlag 2002)。この状況に適したモデルは、ARIMA(Auto-Regressive Integrated Moving Average)モデルである(Brockwell and Davis, supra, pp 179-187)。ARIMAモデル(p、d、q)は、3つの主要なパラメータを有し、pは自己回帰コンポーネントの次数であり、qは移動平均コンポーネントの次数であり、dは定常性からの逸脱に対処するのに要する差分の次数である。コレクションの重要イベントは、その暦日に発生したものとして識別され、その重要イベントでは、その適合モデルと実際の時系列との間の誤差は所定の閾値よりも高く、即ち、その適合モデルは実際のデータを予測する能力がより低い。
図2を参照すると、イベント時系列統合器120は、イベント検出器110によって検出されたイベントと、重要イベント検出器115によって識別された重要イベントとを入力として受け取る。一実施形態では、イベント時系列統合器120は、時系列上に重要イベントを保持し、時系列上の近接する重要イベントの間に位置するイベントを、メタイベントといわれるクラスタに分類する。各イベントは、その時間帯(タイムスパン)によって特定される時系列の部分(セクション)を占める。一例として、図5の上段は、イベントと重要イベントとを有する或る時系列を示す。イベント時系列統合器は、図5の下段で示される出力を生成し、重要イベントの間のイベントはメタイベントにクラスタ化されている。その結果形成されるイベント時系列150は、減少した数の最上位グルーピングを有し、そのグルーピングは時系列上にメタイベント(イベントのクラスタ)と重要イベントとを含む。それ故、ユーザには、より統合された最上位ビュー(一覧)が提示され、その一方で関心のある潜在的イベント(重要イベント)を最上位ビューでアクセスできるように維持する。他のイベントは、メタイベントを拡張することによりアクセスでき、そのメタイベントは、カバーする継続時間によって表される(例えば、“2009年2月20日―4月2日”)。
米国特許第6,606,411号の方法は、数個のキーパラメータを供給し、如何なる所定の画像コレクションからも生成されるイベントやサブイベントの数を調整する。主要なパラメータ“粒状性”は、イベントクラスタリングの全体の粒状性を決定する。有効な値は[−1,1]の範囲にあり、0は“好適な”同調設定である。より大きな値は、そのアルゴリズムによって検出されるイベントの数を増加させ、より小さい値は、イベントの数を減少させる。実際の内部のメカニズムは、二平均クラスタリングの各種の閾値を調整するのに関係する。これらの閾値の幾つかは、全体的なヒストグラム比較のための上下の閾値、及び、複数ブロックヒストグラム比較のための上下の閾値を含み、2つのイベント又は2つのサブイベントを併合すべきかどうかの決定をする。検出されるイベントは、時系列内で、最も古いものから最近まで年代順に連続して並べられる。図6は、粒状性パラメータの様々な設定を使用して生成したイベントセットの一例である。そのグラフは、1年の期間の間に検出されたイベント数をプロットしている。示される例では、その丸一年の間の最終的なイベントの数は、供給される粒状性パラメータ設定に基づいて、10以下から170近くにまで変化する。
図3を参照すると、デジタル画像コレクション105は、イベント検出器215によって、[−1,1]の範囲をカバーする値の範囲の粒状性パラメータセットを用いて処理される。デジタル画像コレクション105は、また、重要イベント検出器115によって処理され、その出力はイベント時系列統合器320へ供給される。イベント時系列統合器320の実施形態では、時系列は、重要イベントの周りの時間枠へ分割される。その時間枠の境界は、任意の2つの近接する重要イベントの間の時間の中間点にある。重要イベントを含む各時間枠では、最小の粒状性設定(最も少ない数のイベントを生成)で検出されたイベントが選択され、検出されたイベントとして重要イベントも含む。例えば、図7を参照すると、上段3つの時系列は、異なる粒状性での重要イベント検出器115の出力を示す(粒状性1が最小で、粒状性3が最大)。
重要イベントは、ハイライトのイベントである。最下の列は、様々な時間枠を用いて統合されたイベント時系列350を示し、その時間枠内の重要イベントの正確な代表表示を規定する最小粒状性に基づいて、様々な粒状性設定からイベントを選択する。この方法は、重要イベントが生成された時系列350上で利用可能で、他のイベントがその重要イベントの周りで適切な粒状性で表されることを確実にする。
図4を参照すると、デジタル画像コレクション105は、イベント検出器215によって、[−1,1]の範囲をカバーする値の範囲での粒状性パラメータセットを用いて処理される。デジタル画像コレクション105は、また、様々な粒状性の時間ビンを用いて、重要イベント検出器115によって処理される。時間ユニットのセットが決定され、これらの時間ユニットは、数ヶ月(1シーズンを撮影)、1ヶ月、1週間、1日、又は数時間であってもよく、ユニットのサイズは、粒状性として言及される。様々な粒状性の時系列は、所定の時間ユニット又はビン内で撮影された画像の数をカウントすることにより生成される。様々な粒状性415でのイベント検出器215及び重要イベント検出器115の出力は、追加入力420とともに、時間粒状性セレクタ425に供給される。時間粒状性セレクタ425は、時間粒状性を選択し、その時間粒状性に対応するイベントと重要イベントのセットを、その入力セットから抽出する。その追加入力420は、ユーザアクション、システム要件、又はユーザの好みを含むことができる。選択されたイベントと重要イベントのセットは、上述のイベント時系列統合器320へ渡され、統合された時系列450を生成する。イベント時系列統合器120は、また、イベント時系列統合器320の代わりに使用することが可能で、各時間粒状性に対して、様々な統合された時系列を生成する。本発明の一実施形態では、その後、ユーザはこのイベント時系列のセットから時系列を選択することができる。追加入力420は、以下のように使用される。ブラウジングの応用例では、イベントや重要イベントは、ユーザがコレクションを閲覧するために選択する時間粒状性で選択される。例えば、ユーザが数週間の短い時間帯を見ている場合、より微細な(高い数の)粒状性設定がイベントや重要イベントを選択するのに用いられる。一方、ユーザがより長い時間帯(例えば5年を越えるコレクション)を見ている場合、より低い値の粒状性がイベントや重要イベントを選択するのに用いられる。表示能力に関するシステム要件は、また、統合されたイベント時系列上の上位のイベントの数に影響を与え、そしてそれ故、選択される粒状性に影響を与える。例えば、凡そ10のイベントがその表示装置に適合するなら、イベントや重要イベントの数がその数に近くなるように粒状性が選択される。ユーザは、また、或る一定の粒状性でイベントを見るための好みを設定することができ、そして、時間粒状性セレクタは、その所定のユーザに対して、この設定を選択する。
画像のコレクションから制作アルバム(ハードコピー)やスライドショー(ソフトコピー)を作成することの1つの課題は、含まれる画像の選択と、その各選択画像の上におかれるべき強調・重要度である。図8を参照すると、統合されたイベント時系列810(150,350又は450であってもよい)は、メディア選択モジュール820に供給され、そのメディア選択モジュール820は、デジタル画像コレクション105から、使用されるべき画像を選択する。メディア選択モジュール820は、また、出力仕様815を入力として受け取る。出力仕様815は、選択されるべき画像の数、及び、選択に使用されるべき時系列のセクションを含み、例えば、作品制作として写真カレンダーを生成するために、1年の時間帯から12枚の画像を選択する。メディア選択モジュール820は、以下のように、選択される時間帯内でイベントの優先順位をつける。重要イベント内の画像の数を或る重要度ファクター(例えば2.0)で乗算することにより増大させたのち、イベントは、イベント内の画像の数に比例して重み付けされる。出力仕様の画像の数は、イベントの重み付けに比例して、イベント内に分配される。n・・nをm個のイベントの画像カウントとすると:
重要イベントに対しては、n=(重要度ファクター*実際の画像カウント)で、その他のイベント(非重要イベント)に対しては、n=実際の画像カウントである。そして、任意のイベントkに割り当てられた重み付けは
Figure 2013520725
であり、このイベントに割り当てられた画像の数は(重み付け*出力仕様によって特定される画像の数)である。割り当てられた画像の部分の数は、整数に丸められる必要があることに留意すべきであり、それ故、幾つかのイベントは、それに割り当てられた0画像を受け取る(0.5未満の画像が割り当てられる場合)。
特定のイベントからの所定数の画像の選択は、等しい間隔でイベント画像をサンプリングすることに基づいて単純に行われる。この選択を実行するための、よりインテリジェントな方法も存在し、画像品質、多様性、及び、人々や対象物の存在のような意味特徴を考慮してなされるもので、このステップにおいて使用することができる。例えば、その選択は画像の技術的品質(A.Loui, M.Wood, A.Scalise, and J.Birkelund, “Multidimensional image value assessment and rating for automated albuming and retrieval, “Proc. IEEE Intern. Conf. on Image Processing (ICIP), San Diego, California, October 12-15, 2008)、又は、画像の審美的品質(C.Cerosaletti, and A.Loui,”Measuring the perceived aesthetic quality of photographic images, “Proc.1st International Workshop on Quality of Multimedia Experience (QoMEX), San Diego, California, July 29-31,2009)に基づいて行われることも可能である。しかしながら、これは、イベントレベルでの選択と重み付けメカニズムを提供しようとする本発明の焦点ではない。
選択された画像は、重要度オペレータ825に供給される。その重要度オペレータ825は、重要度スコアを生成して、選択されたセットから特定の画像をハイライトする。一実施形態では、非重要イベントからの画像は、初期設定の重要度スコアを有し、一方、重要イベントに属する選択された画像は、1.0より大きい重要度ファクターで初期設定スコアを乗算することによって、重要度スコアが割り当てられる。重要度スコアは、画像の技術的品質のスコア(A.Loui, M.Wood, A.Scalise, and J.Birkelund, “Multidimensional image value assessment and rating for automated albuming and retrieval, “Proc. IEEE Intern. Conf. on Image Processing (ICIP), San Diego, California, October 12-15, 2008)、画像の審美的品質のスコア(C.Cerosaletti, and A.Loui,”Measuring the perceived aesthetic quality of photographic images, “Proc.1st International Workshop on Quality of Multimedia Experience (QoMEX), San Diego, California, July 29-31,2009)、又はこれら2つのスコアの組合せに基づくことも可能である。出力作成モジュール850は、重要度スコアと画像選択とを使用し、画像の創造的な提示を実現する。(フォトブック、カレンダー、カードのような)ハードコピーには、重要度スコアは、出力における画像のサイズ、又はページにおける位置を目立たせることをコントロールできる。(デジタルフォトフレーム、コンピュータモニター、又は他の表示装置上のスライドショーのような)ソフトコピーには、重要度スコアは、その画像の上映時間を割り当てるように使用することができ、即ち、より高い重要度スコアを有する画像はより長い時間表示される。より高い重要度スコアは、また、両方の提示形態において、画像の周りの装飾ボックスのようにハイライトするトリガーを与えてもよい。
図1は、本発明を実施するシステムのブロックダイアグラムを示す。 図2は、図1によって実施される方法の全般的なフローチャートを示す。 図3は、図2の方法の一実施形態を示す、より詳細なフローチャートを示す。 図4は、図2の方法の第2の実施形態を示す、より詳細なフローチャートを示す。 図5は、図2のイベント時系列統合器120の入力及び出力の特定例を示す。 図6は、様々な粒状性設定215で生成されたイベントの特定例を示す。 図7は、図4のイベント時系列統合器320の入出力の特定例を示す。 図8は、出力生成用の統合されたイベント時系列を使用した例のフローチャートを示す。
10 コンピュータ
20 プロセッサ
30 メモリ
50 入力デバイス
60 キーボード
70 表示デバイス
80 ネットワーク接続
105 デジタル画像コレクション
110 イベント検出器
115 重要イベント検出器
120 イベント時系列統合器
150 統合されたイベント時系列
215 様々な粒状性でのイベント検出器
320 イベント時系列統合器
350 統合されたイベント時系列
415 様々な粒状性での重要イベント検出器
420 追加入力
425 時間粒状性セレクタ
450 統合されたイベント時系列
810 統合されたイベント時系列
815 出力仕様
820 メディア選択モジュール
825 重要度オペレータ
850 出力作成モジュール

Claims (11)

  1. デジタル画像コレクションのイベント時系列を統合する方法であって、該方法はプロセッサを用いて:
    (a)前記デジタル画像コレクション内のイベントと、各イベントの関連付けられた時間枠とを検出するステップと;
    (b)前記検出されたイベントが、前記デジタル画像コレクション内で重要であることを決定するステップと;
    (c)前記検出された重要イベントの間にある、前記イベント時系列上の検出されたイベントが、前記イベント時系列上のクラスタに分類されるよう、前記イベント時系列を統合するステップと、を実行する方法。
  2. 前記ステップ(a)は、選択された時間粒状性に基づいて、イベントを検出するステップを含む、請求項1記載の方法。
  3. ユーザが、少なくとも1つの検出されたイベントに関連する画像をブラウジングするステップを更に含む、請求項2記載の方法。
  4. デジタル画像コレクションのイベント時系列を統合する方法であって、各イベント時系列に対してプロセッサを用いて:
    (a)イベント時系列毎に異なる選択された時間粒状性に基づいて、デジタル画像コレクション内のイベントと、各イベントの関連する時間枠とを検出するステップと;
    (b)前記検出されたイベントが、各イベント時系列のデジタル画像コレクション内で重要であることを決定するステップと;
    (c)前記検出された重要イベントの間にある、前記イベント時系列上の検出されたイベントが、前記イベント時系列上のクラスタに分類されるよう、前記イベント時系列を統合するステップであって、それによって、複数のイベント時系列が生成され、各時系列は様々な時間粒状性を有する、ステップと、を実行する方法。
  5. ユーザがイベント時系列のセットから1つの時系列を選択するステップを更に含む、請求項4記載の方法。
  6. ユーザが前記選択された時系列の少なくとも1つの検出されたイベントに関連する画像をブラウジングすることを更に含む、請求項5記載の方法。
  7. デジタル画像コレクションのイベント時系列を統合する方法であって、該方法は、プロセッサを用いて:
    (a)様々な時間粒状性で、前記デジタル画像コレクション内のイベントと、各イベントの関連付けられた時間枠とを検出するステップと;
    (b)前記検出されたイベントが前記デジタル画像コレクション内において各時間粒状性で重要であることを決定するステップと;
    (c)前記イベント時系列上で時間枠毎にイベント検出の前記粒状性を選択するステップと;
    (d)各時間枠内のイベント時系列上の検出されたイベントが、前記時間枠の選択された前記粒状性に基づくよう、前記イベント時系列を統合するステップと、を実行する方法。
  8. イベント検出の前記時間粒状性の前記選択は、如何なる時間枠の間も重要イベントを保持する、最少数の検出されたイベントの選択に基づいてなされる、請求項7記載の方法。
  9. ハードコピー又はソフトコピー出力に使用される、デジタル画像コレクションから所定数の画像を選択する方法であって、該方法は、プロセッサを用いて:
    (a)前記デジタル画像コレクション内のイベントと、各イベントの関連付けられた時間枠とを検出するステップと;
    (b)前記検出されたイベントが、前記デジタル画像コレクション内で重要であることを決定するステップと;
    (c)前記イベントの重要性と前記イベントの範囲内の画像の数とに基づいて、各イベントに重み付けを割り当てるステップと;
    (d)前記割り当てられた重み付けに応じて、所定の画像の数を選択するステップと、を実行する方法。
  10. 重要度オペレータを用いて、重要度スコアを生成し、該スコアを用いて、前記出力の提示をコントロールするステップを更に含む、請求項9記載の方法。
  11. 前記ハードコピー出力には、アルバム、カレンダー、フォトブック、合成画、又はカードを含み、前記ソフトコピー出力には、スライドショー、デジタルフレーム、又は合成画を含む、請求項9記載の方法。
JP2012553936A 2010-02-23 2011-02-08 コンシューマー画像コレクション内の適応的イベント時系列 Pending JP2013520725A (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US12/710,666 2010-02-23
US12/710,666 US8718386B2 (en) 2010-02-23 2010-02-23 Adaptive event timeline in consumer image collections
PCT/US2011/024051 WO2011106149A1 (en) 2010-02-23 2011-02-08 Adaptive event timeline in consumer image collections

Publications (2)

Publication Number Publication Date
JP2013520725A true JP2013520725A (ja) 2013-06-06
JP2013520725A5 JP2013520725A5 (ja) 2014-03-27

Family

ID=44476188

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012553936A Pending JP2013520725A (ja) 2010-02-23 2011-02-08 コンシューマー画像コレクション内の適応的イベント時系列

Country Status (5)

Country Link
US (2) US8718386B2 (ja)
EP (1) EP2539856A4 (ja)
JP (1) JP2013520725A (ja)
CN (1) CN102770874B (ja)
WO (1) WO2011106149A1 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015033655A1 (ja) 2013-09-05 2015-03-12 富士フイルム株式会社 イベントの撮像画像配置装置ならびにその制御方法およびその制御プログラム
JP2018045623A (ja) * 2016-09-16 2018-03-22 富士フイルム株式会社 画像分類装置、画像分類方法及びプログラム

Families Citing this family (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11580155B2 (en) * 2011-03-28 2023-02-14 Kodak Alaris Inc. Display device for displaying related digital images
EP2707810A1 (en) * 2011-05-10 2014-03-19 Thomson Licensing Technique for synchronized content sharing
US9646394B2 (en) * 2012-06-14 2017-05-09 Ntrepid Corporation Case data visualization application
US8923570B2 (en) * 2012-06-19 2014-12-30 Intel Coporation Automated memory book creation
WO2014078952A1 (en) * 2012-11-20 2014-05-30 MySeat.com Media Inc. Method for privacy and event-based social networking
US11080318B2 (en) * 2013-06-27 2021-08-03 Kodak Alaris Inc. Method for ranking and selecting events in media collections
US20150142587A1 (en) * 2013-11-20 2015-05-21 Honeywell International Inc. System and Method of Dynamic Correlation View for Cloud Based Incident Analysis and Pattern Detection
US9866709B2 (en) 2013-12-13 2018-01-09 Sony Corporation Apparatus and method for determining trends in picture taking activity
CN107430483B (zh) * 2015-03-27 2021-03-23 谷歌有限责任公司 导航事件信息
US9691431B2 (en) 2015-10-16 2017-06-27 Google Inc. Generating videos of media items associated with a user
US20180336122A1 (en) * 2015-11-30 2018-11-22 Entit Software Llc Generating application flow entities
WO2017123203A1 (en) 2016-01-12 2017-07-20 Entit Software Llc Determining visual testing coverages
US10235366B2 (en) 2016-08-16 2019-03-19 Microsoft Technology Licensing, Llc Activity gallery view in communication platforms
US10229193B2 (en) * 2016-10-03 2019-03-12 Sap Se Collecting event related tweets
US10223175B2 (en) 2016-10-10 2019-03-05 International Business Machines Corporation Modifying a device based on an annotated time series of sensor readings
CN115052141B (zh) * 2017-09-28 2023-10-03 苹果公司 用于事件相机数据处理的系统和方法
US20190340305A1 (en) * 2018-05-07 2019-11-07 Shutterfly, Inc. Automated event detection and photo product creation
US11055405B1 (en) * 2019-04-30 2021-07-06 Splunk Inc. Anomaly event detection using frequent patterns
US20210192078A1 (en) 2019-12-23 2021-06-24 Apple Inc. User behavior model development with private federated learning

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007122111A (ja) * 2005-10-25 2007-05-17 Fujifilm Corp 重要度設定装置および方法並びにプログラム
JP2008065694A (ja) * 2006-09-08 2008-03-21 Fujifilm Corp 画像処理装置及び画像処理プログラム
JP2009077112A (ja) * 2007-09-20 2009-04-09 Seiko Epson Corp 画像再生装置、画像再生装置の制御方法および制御プログラム

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6606411B1 (en) * 1998-09-30 2003-08-12 Eastman Kodak Company Method for automatically classifying images into events
US6351556B1 (en) * 1998-11-20 2002-02-26 Eastman Kodak Company Method for automatically comparing content of images for classification into events
US6950989B2 (en) * 2000-12-20 2005-09-27 Eastman Kodak Company Timeline-based graphical user interface for efficient image database browsing and retrieval
US6915011B2 (en) * 2001-03-28 2005-07-05 Eastman Kodak Company Event clustering of images using foreground/background segmentation
US6847733B2 (en) * 2001-05-23 2005-01-25 Eastman Kodak Company Retrieval and browsing of database images based on image emphasis and appeal
US7184082B2 (en) * 2001-08-28 2007-02-27 Olympus Corporation Image displaying system, image displaying method, image printing system, and image printing method
US7428000B2 (en) * 2003-06-26 2008-09-23 Microsoft Corp. System and method for distributed meetings
US20050116954A1 (en) * 2003-12-01 2005-06-02 Ripps Michael E. Method and system for generating a family tree
US7653249B2 (en) * 2004-11-17 2010-01-26 Eastman Kodak Company Variance-based event clustering for automatically classifying images
US20070008321A1 (en) * 2005-07-11 2007-01-11 Eastman Kodak Company Identifying collection images with special events
US8117210B2 (en) * 2006-10-06 2012-02-14 Eastman Kodak Company Sampling image records from a collection based on a change metric

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007122111A (ja) * 2005-10-25 2007-05-17 Fujifilm Corp 重要度設定装置および方法並びにプログラム
JP2008065694A (ja) * 2006-09-08 2008-03-21 Fujifilm Corp 画像処理装置及び画像処理プログラム
JP2009077112A (ja) * 2007-09-20 2009-04-09 Seiko Epson Corp 画像再生装置、画像再生装置の制御方法および制御プログラム

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
JPN6014042969; MADIRAKSHI DAS ET AL: 'Detecting Significant Events in Personal Image Collections' Semantic Computing, 2009. ICSC '09. IEEE International Conference on , 20090914, p.116-123 *

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015033655A1 (ja) 2013-09-05 2015-03-12 富士フイルム株式会社 イベントの撮像画像配置装置ならびにその制御方法およびその制御プログラム
US9773171B2 (en) 2013-09-05 2017-09-26 Fujifilm Corporation Event taken-picture arrangement device, control method thereof and control program thereof
JP2018045623A (ja) * 2016-09-16 2018-03-22 富士フイルム株式会社 画像分類装置、画像分類方法及びプログラム

Also Published As

Publication number Publication date
EP2539856A1 (en) 2013-01-02
US20140133766A1 (en) 2014-05-15
EP2539856A4 (en) 2013-09-18
CN102770874A (zh) 2012-11-07
US8718386B2 (en) 2014-05-06
US20110206284A1 (en) 2011-08-25
WO2011106149A1 (en) 2011-09-01
CN102770874B (zh) 2015-02-18

Similar Documents

Publication Publication Date Title
JP2013520725A (ja) コンシューマー画像コレクション内の適応的イベント時系列
JP2013520725A5 (ja)
US20220004573A1 (en) Method for creating view-based representations from multimedia collections
US11875565B2 (en) Method of selecting important digital images
JP5548260B2 (ja) 消費者画像コレクション内の重要なイベントの検出
US8594440B2 (en) Automatic creation of a scalable relevance ordered representation of an image collection
US8811755B2 (en) Detecting recurring events in consumer image collections
AU2020200239A1 (en) System and method for user-behavior based content recommendations
JP2012507189A (ja) コンテンツベース・フィルタリング及びテーマベース・クラスタリングを用いたページ内へのイメージの配置
JP2012530287A (ja) 代表的な画像を選択するための方法及び装置
US10089532B2 (en) Method for output creation based on video content characteristics
US20210365490A1 (en) Method for ranking and selecting events in media collections
US20150006545A1 (en) System for ranking and selecting events in media collections
CN102150163A (zh) 交互式图像选择方法
KR102102164B1 (ko) 영상 전처리 방법, 장치 및 컴퓨터 프로그램
JP2010531561A (ja) マルチメディアファイルのサマリを自動的に生成する方法及び装置
US20150095825A1 (en) Person image display control apparatus, method of controlling same, and recording medium storing control program therefor
US20150095827A1 (en) Person image decision apparatus for electronic album, method of controlling same, and recording medium storing control program therefor

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20130404

A524 Written submission of copy of amendment under article 19 pct

Free format text: JAPANESE INTERMEDIATE CODE: A524

Effective date: 20140207

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140207

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140905

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20141014

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150108

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20150616