JP5548260B2 - 消費者画像コレクション内の重要なイベントの検出 - Google Patents

消費者画像コレクション内の重要なイベントの検出 Download PDF

Info

Publication number
JP5548260B2
JP5548260B2 JP2012516050A JP2012516050A JP5548260B2 JP 5548260 B2 JP5548260 B2 JP 5548260B2 JP 2012516050 A JP2012516050 A JP 2012516050A JP 2012516050 A JP2012516050 A JP 2012516050A JP 5548260 B2 JP5548260 B2 JP 5548260B2
Authority
JP
Japan
Prior art keywords
time
image
model
time series
events
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2012516050A
Other languages
English (en)
Other versions
JP2012530962A5 (ja
JP2012530962A (ja
Inventor
ダス マディラクシ
アレクサンダー シー ルイ
Original Assignee
インテレクチュアル ベンチャーズ ファンド 83 エルエルシー
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by インテレクチュアル ベンチャーズ ファンド 83 エルエルシー filed Critical インテレクチュアル ベンチャーズ ファンド 83 エルエルシー
Publication of JP2012530962A publication Critical patent/JP2012530962A/ja
Publication of JP2012530962A5 publication Critical patent/JP2012530962A5/ja
Application granted granted Critical
Publication of JP5548260B2 publication Critical patent/JP5548260B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/40Scenes; Scene-specific elements in video content
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/58Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Library & Information Science (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Processing Or Creating Images (AREA)
  • Image Analysis (AREA)

Description

本発明は、一般に、デジタル画像処理の分野に関し、詳細には、消費者画像コレクション内の重要なイベントを描写しているデジタル画像のグループを特定する方法に関する。
デジタルカメラおよびスキャナの急増により、デジタル画像の爆発的な増加がもたらされており、大きな個人的画像データベースを作り出している。デジタル写真を撮ることは容易であり、事実上無料であるので、消費者は、もはや写真撮影を大事なイベントや特別な行事に制限しない。画像は頻繁に取り込まれ、消費者の生活において日常的に生じるものである。典型的なユーザは、既に、長年のデジタル画像を集積しているので、そのコレクションを閲覧して、大事なイベント中に撮られた画像を見つけることは、消費者にとって、既に時間のかかる工程である。
画像をイベントに分類するという仕事がある。2003年8月12日に発行された、エー・ルイ(A.Loui)およびイー・パヴィに付与された、”A method for automatically classifying images into events”という名称の米国特許第6,606,411号と、2002年2月26日に発行された、エー・ルイおよびイー・パヴィに付与された、”A method for automatically comparing content of images for classfication into events”という名称の米国特許第6,351,556号とが、一時的なイベントおよびサブイベントにより画像コンテンツをクラスタ化するアルゴリズムを開示している。米国特許第6,606,411号によれば、イベントはむらの無い色分布を有し、したがって、これらの写真は、同一の背景と共に撮られた可能性が高い。各サブイベントでは、共に撮られた全ての背景領域について単一の色およびテクスチャ表現が計算される。上記の2つの特許は、デジタル画像コレクション(集合)内の画像および映像をどのようにしてクラスタ化し、一時的なイベントおよびサブイベントにするかを教示している。用語「イベント」および「サブイベント」は、客観的な意味では、(イベントに対応する)特定の出来事に関するユーザの主観的認識と、(サブイベントに対応する)それらの出来事の区分と、を一致させようとするコンピュータによる処理(computer mediated procedure)の産物を示すために用いられている。画像をイベントに自動的に整理する別の方法が、2005年7月5日に発行された、エー・ルイ、エム・ジャンソンおよびゼット・スン(Z.Sun)に付与された、”Event clustering of images using foreground and background segmentaion”という名称の米国特許第6,915,011号に開示されている。検出されたイベントは、最も古いものから最新のものまで時系列で整理される。
上記方法を使用して、各画像のサムネイルの代わりに時系列に沿ったイベントの代表を見ることにより、特定のイベントを突き止めるためにユーザによって必要とされる閲覧量を低減することが可能である。しかし、典型的なユーザは、依然として、1年の間に100を超えるそのようなイベントを生成する可能性があり、より多作の写真撮影者は、検出されるイベントが数百件を容易に超える可能性がある。これらのイベントの多くは、日常的な活動を描写しており、ユーザにより特定される大事なまたは特別な行事を描写していない。ユーザがそれらのコレクションの総覧を閲覧することを容易にする、(本書では重要なイベントとして示されている)大事なまたは特別なイベントの小さなセットを作り出す必要がある。さらに、重要なイベントは、特定のユーザの写真撮影行動にカスタマイズされる必要がある。例えば、特別な行事中以外にめったに写真を撮らない人は、それらの人の画像の大部分を重要なイベントに含めるべきであり、一方、毎日習慣的に多数の写真を撮る人は、取り込まれた画像すべてのうちのごく一部を重要なイベントに含めればよい。
欧州特許出願公開第0990996号明細書 欧州特許出願公開第1785896号明細書 米国特許出願公開第2008/033991号明細書 米国特許出願第6915011号明細書 米国特許出願第6606411号明細書 米国特許出願第6351556号明細書 米国特許出願公開第2003/0065409号明細書
Loui A. C. et al. "Automated event clustering and qualify screening of consumer pictures for digital albuming" IEEE TRANSACTIONS ON MULTIMEDIA, IEEESERVICE CENTER, PISCATAWAY, NJ, USLNKD-DOI:10.1109/TMM.2003.814723, vol. 5, no. 3, 2003-09-01, 390-402頁, XP002374762, ISSN: 1520-9210
本発明によれば、プロセッサを使用し、
(a)画像コレクションから画像カウント時系列を生成し、
(b)画像カウント時系列のモデルを計算し、
(c)画像カウント時系列およびモデルを使用して、重要なイベントを決定する
ステップを含む、デジタル画像コレクション内の重要なイベントを決定する方法が提供されている。
あらゆるユーザに、典型的な写真撮影行動があり、重要なイベントは、通常、この典型的な行動の範囲内に適合しないものである。本発明では、ユーザの写真撮影行動が時系列に変換され、各時間ステップに対してデータ点がある。次いで、時系列モデリング技術を使用し、異なる時間粒度(time granularity)でこのデータをモデル化する。このモデルは、ユーザの写真撮影行動を表し、ユーザごとに変化する。重要なイベントは、ユーザのデータに適合されたモデルの出力からの実際のデータの偏差により特定される。
画像および映像の整理および検索は、典型的な消費者にとって問題である。ユーザにとって、それらのコレクションの重要なイベントの総覧を閲覧することができることは有用である。先行技術で開示されている技術は、コレクション内の画像をイベントに分類することを可能にするが、そのようなイベントの重要性または有意性を確認することはできない。その結果、これらは、イベントのリストを閲覧した場合でも重要なイベントを見つけることが難しい程度までイベントの数をつり上げる、面白くないまたはありふれた日常的なイベントを含む。本発明は、重要である可能性が高い、コレクション内で検出されるイベントの小さなサブセット(部分集合)を特定する。重要なイベントの検出はまた、ユーザの写真撮影行動に合わせてカスタマイズされる。
本発明を実現するシステムのブロック図である。 図1により実現される方法の全体的な流れ図である。 図2のブロック110に示されている時系列生成器のより詳細な流れ図である。 図2の時系列モデリングブロック115のより詳細な流れ図である。 本発明に従ってもたらされた画像カウント時系列および分析の特定の例の図である。 本発明に従ってもたらされた画像カウント時系列および分析の特定の例の図である。 本発明に従ってもたらされた画像カウント時系列および分析の特定の例の図である。 図2のブロック120に示されている重要イベント検出器のより詳細な流れ図である。 本発明による時間粒度の選択方法の流れ図である。
本発明は、当業者に周知のように、コンピュータシステムにおいて実施されることが可能である。以下の記載では、本発明のいくつかの実施形態が、ソフトウェアプログラムとして記載される。そのような方法の均等物もまた、本発明の範囲内に入るハードウェアまたはソフトウェアと見なすことができることを、当業者なら容易に理解するであろう。
画像操作のアルゴリズムおよびシステムは周知であるため、本説明は、本発明の方法の一部を成す、またはそれとより直接的に協働するアルゴリズムおよびシステムを特に対象とする。本明細書に具体的に示されていないかまたは記載されていない、そのようなアルゴリズムおよびシステムの他の態様、ならびに関連する画像信号を生成しかつそれらを別途処理するハードウェアまたはソフトウェアは、当該技術分野で既知のそのようなシステム、アルゴリズム、構成要素、および要素から選択することができる。以下の詳述に記載されている説明を考えれば、その全てのソフトウェア実装は従来のものであり、当該技術分野の通常の技術の範囲内である。コレクション内の映像は、この明細書の以下の部分において、用語「画像」に含まれる。
本発明は、コンピュータハードウェアおよびコンピュータ制御機器において実施することができる。例えば、本方法は、デジタルカメラ、マルチメディアスマートフォン、デジタルプリンタ、インターネットサーバ、キオスク、およびパーソナルコンピュータにおいて実施することができる。図1を参照すると、本発明を実施するコンピュータシステムが示されている。コンピュータシステムが好適な実施形態を例示する目的で示されているが、本発明は、図示のコンピュータシステムに限定されず、デジタルカメラ、ホームコンピュータ、キオスク、またはデジタル画像を処理するための任意の他のシステムに見られるものなど、いかなる電子処理システムにおいても使用することができる。コンピュータ10は、ソフトウェアプログラムを受容し、処理し、かつ他の処理機能を実行するマイクロプロセッサを用いるユニット20(本明細書ではプロセッサとも呼ばれる)を含む。メモリユニット30は、コンピュータプログラムの実行時にプロセッサ20によりアクセスされる可能性がある、ユーザが供給したデータおよびコンピュータが生成したデータを格納する。(モニタなどの)表示装置70が、例えばグラフィカルユーザインターフェースによりソフトウェアに関連する情報およびデータを表示するために、コンピュータ10に電気的に接続されている。キーボード60もまた、コンピュータに接続されている。入力にキーボード60を使用する代わりに、当該技術分野で周知の通り、表示装置70上でセレクタを動かすためにかつセレクタが上に置かれているデータ項目を選択するために、マウスを使用することができる。コンパクトディスク(CD)およびDVDなどの入力装置50を、ソフトウェアプログラムおよび他の情報をコンピュータ10およびプロセッサ20に入力するために、コンピュータ10内に挿入することができる。さらに、当該技術分野で周知の通り、ソフトウェアプログラムを内部に格納するために、コンピュータ10をプログラムすることができる。さらに、(画像、音楽、および映像などの)メディアファイルを、メモリカード、サムドライブ、CDおよびDVDなどの入力装置50により、または(カメラ、携帯電話、ビデオレコーダなどの)キャプチャ装置を入力装置としてコンピュータ10に直接接続することにより、コンピュータ10のメモリ30へ転送することができる。コンピュータ10は、ローカルエリアネットワークまたはインターネットなどの外部ネットワークへ、電話線接続または無線接続80などネットワーク接続していてもよい。ソフトウェアプログラムおよびメディアファイルは、ネットワーク接続により、他のコンピュータまたはインターネットからそのコンピュータへ転送することができる。
また、本発明は、ソフトウェアまたはハードウェアの組合せにおいて実施することができ、物理的に接続されているかまたは同じ物理的位置内に位置する装置に限定されないことに留意されたい。図1に示されている装置の1つ以上は、遠隔的に突き止めることが可能であり、かつネットワークを介して接続することができる。その装置の1つ以上は、直接またはネットワークを介して、無線周波数リンクなどにより無線接続することができる。
図2を参照すると、ユーザのデジタル画像コレクション105は、コンピュータ10のメモリ30内にある。図の他のブロックは、ソフトウェアプログラムにより実施され、コンピュータ10のプロセッサ20により実行される。デジタル画像コレクション105は、時系列生成器110へ供給される。図3は、時系列生成工程のステップを示す。画像キャプチャの日付および時間の情報が、(カメラなどの)キャプチャ装置により、デジタル画像コレクション105の画像ファイル内に格納されているEXIFメタデータから抽出される(205)。数か月(季節のキャプチャ)、月、週、日または時間とすることができると考えられる時間単位のセットが決定され、その単位のサイズは粒度と呼ばれる。時間単位当たり1つの画像カウントが生成されるので、選択される時間単位の範囲は、画像コレクションのサイズにより制限される。信頼できる結果を生じるには少なくとも40から50のデータ点が必要なので、1年に亘るコレクションが、最大1週間の粒度に制限され、季節レベルの粒度が、10年以上に亘るコレクションを必要とすると考えられる。好適な実施形態では、使用される最小粒度は1日の部分(午前、午後、夜)であり、最大粒度は、画像コレクションのサイズにより決定される。少なくとも1年のユーザのコレクションを使用することが推奨される。アキュムレータ215が、単位ゼロにあるコレクションから開始して、各時間単位の画像数を数えて、画像カウント時系列のセットを生成する(225)。
図2を参照すると、画像カウント時系列は、その画像カウントに適合するモデルを見つけるために分析される(115)。図4は、適切なモデルを生成する時系列モデリングのステップを示す。時系列モデリングのための多くの十分に確立された方法がある(”Introduction to Time Series and Forecasting”ブロックウェルおよびデイビス、Springer−Verlag 2002参照)。画像カウント時系列は、通常、非定常性である(すなわち、それらの平均および標準偏差は、経時的に変化する可能性がある)。例えば、休暇および家族の集い中に連日写真撮影することがあり、平日中には連日ゼロ画像カウントである場合があるなど、写真はグループで撮られることが多いので、モデルは、データの以前の値との相関を取り込む自己回帰成分(auto−regressive component)を含む必要がある。モデルはまた、写真撮影行動の段階的変化を取り込むことができる移動平均成分(moving average component)を含む必要がある。この場合に適切なモデルは、自己回帰和分移動平均(ARIMA:Auto−Regressive Integrated Moving Average)モデルである(ブロックウェルおよびデイビス、上記、179〜187頁)。モデルARIMA(p、d、q)は、3つの主要パラメータを有する。pは、自己回帰成分の次数であり、qは、移動平均成分の次数であり、dは、定常性からの偏差を処理するために必要な差分の次数である。ARIMA(p、d、q)モデルは、
Figure 0005548260
により得られ、ここで、Lは、ラグ演算子であり、φは、モデルの自己回帰部分のパラメータであり、θは、移動平均部分のパラメータであり、εは、誤差項である。誤差項は、一般に、ゼロ平均を持つ正規分布からサンプルを抽出された、互いに独立で同一の分布に従う(iid:independent, identically distributed)変数と考えられる。
好適な実施形態では、各画像カウント時系列305について、第1のステップは、時系列モデルの次数を推定することである(310)。pおよびqの初期値が、データの自己相関プロット(ACF)と部分自己相関プロット(PACF)に基づいて決定される(ブロックウェルおよびデイビス、上記、94〜95頁)。ACFがゼロまで急激に降下したかまたはゼロまで降下する間に減衰振動を示した場合、pの初期値は、PACFがゼロまで降下する、ラグより小さい値であるように選択され、その場合、厳密なゼロ値の代わりに、ゼロ周辺の95%信頼区間帯を考慮することが通常である。ACFが1つ以上のスパイクを示した場合、qの初期値は、ACFがゼロになる(通常、ゼロ周辺の95%信頼帯の範囲内の)、ラグより小さい値であるように選択される。多数の消費者コレクションにおける実験に基づいて、ACFがゼロに降下しないかまたは高次差分を必要とする激しい非定常性を示しながら非常にゆっくり降下する事例は、この変域では認められなかった。その結果、dの初期推定は1に設定される。ある例が図5に示されている。図5(a)は、時間単位としての暦日で1年に亘る画像カウント時系列を示す。図5(b)はACFプロットを示し、図5(c)はPACFプロットを示す。実線の垂直線は95%信頼区間を示す。両方のプロットは、ラグの2まで有意な値を示し、その後、ゼロまで降下する。この情報に基づいて、p値およびq値は1に設定される。dの値はデフォルトレベルの1にある。
図4を参照すると、ARIMAモデルのセットが画像カウント時系列に適合されて(315)、次数パラメータの初期推定周辺の変動を含む。p+1/p/p−1,d+1/d/d−1,q+1/q/q−1の全ての組合せを有するモデルが生成される。これらの組合せの全てが、厳密にARIMA法であるとは限らない可能性があり、いくつかの次数がゼロである場合、それらは、AR、MA、またはARMAに退化する可能性があり、例えばd=0がARMA(p,q)モデルに対応することに留意されたい。モデルフィッティング工程は式(1)のφの値およびθの値を決定する。p個のφパラメータ、q個のθパラメータがあり、かつ付加パラメータは誤差項εの標準偏差であるので、決定される必要があるパラメータの数はp+q+1に等しいことに留意されたい。モデルフィッティング工程は、大抵の市販の統計分析ソフトウェアパッケージ(例えば、SAS CorporationのJMP)に実装されている。
実装では、ARIMAなどの混合型モデル(自己回帰成分と移動平均成分とを含む)は、特定することが難しく、多くの試行錯誤を含む。315において適合されたいくつかのモデルは、不適切なパラメータ推定およびデータへの不適切な適合に基づいて放棄されなければならない可能性がある。このことは、以下の2つの確認に基づいて、ステップ320において行われる。(1)315において適合されたARIMAモデルのためのモデルパラメータのいくつかは、2より小さいt値(t-Ratio)を有し、それは、パラメータ値がゼロである確率が5%より大きいことを示す。このことは、適合工程により生成されたパラメータ値の比較的低い信頼性を示し、これらのARIMAモデルは放棄される。(2)残差は、315において適合されたモデルと画像カウント時系列との間で計算される。残差は、モデルにより予測された値とその時点の実際の値との間の差として定義される。理想的な事例では、モデルがデータに良く適合した場合、残差は、おおよそiidである(互いに独立で同一の分布に従う)。残差がiidである場合、残差のACFプロットは、全てのラグについて95%信頼レベルの範囲内である値を有する。これが40のラグのうち3つより多くに関する事例ではない場合、または1つが95%領域の遠く外側に入った場合、iid仮説は拒絶される可能性がある(ブロックウェルおよびデイビス、上記、166〜167頁)。この場合、ARIMAモデルは、データにあまり良く適合せず、放棄される。
残りのモデルは全て、データに適合し、実行可能である。最良のモデルの特定は、適合度を決定するのに用いられる複数の基準に基づくことができる(ブロックウェルおよびデイビス、上記、171〜174頁)。好適な実施形態では、ブロックウェルおよびデイビス、上記、171頁に定義されている通り、赤池情報量基準(AICC:Akaike Information Criterion)が、適合度の尺度として用いられる。この基準は、ステップ320の後に残っているARIMAモデルに関して計算される(325)。AICCの最良(最低)値を示すモデルが選択される(330)。
ARIMAモデルは、経済市場および金融市場の予測に非常に一般的に使用されており、大抵の市販の統計分析ソフトウェアパッケージが、p値、d値、およびq値を特定することによりARIMAモデルにフィッティングする(適合させる)ツール(例えば、SAS corporationのJMP、Automatic Forecasting SystemsのAutobox、およびBusiness Forecast Systems Inc.のForecast Pro)、ならびにACFプロットおよびPACFプロットを分析しかつ前述の検定を実施するツールを含むことは、当業者に周知である。
図2を参照すると、ステップ330において選択されたARIMAモデルは、コレクション内の重要なイベントを決定するのに使用される重要イベント検出器120に供給される。図6は、重要イベント検出器120内で従われるステップを示す。図6を参照すると、選択されたARIMA410モデルの予測された出力は、そのモデルを生成するのに使用された画像カウント時系列405と比較される。残差は、各時間ステップにおいて、モデルの予測された出力と画像カウント時系列との間の差として計算される(415)。その残差の分散(σ)が計算され、この分散に基づいて閾値が決定される(420)。好適な実施形態では、σ/3の閾値が使用される。残差の絶対値が閾値より大きい場合の時間ステップが、「関心時間ステップ」として特定される(430)。隣接する関心時間ステップ同士を併合することにより、かつ最低閾値より上の画像カウントを有する時間ステップまたは併合された時間ステップのグループのみを維持することにより、重要なイベントが特定される(440)。その好適な実施形態では、この最低閾値は、画像カウント時系列の平均画像カウントである。
図7を参照すると、ステップ225において生成された画像カウント時系列の各々は、時系列モデリング115および重要イベント検出器120を経て、異なる時間粒度で重要なイベントを生成する(510)。これら重要なイベント510は、時間粒度セレクタ530に利用できるようにされ、この時間粒度セレクタ530は、追加入力520に基づいて使用するために重要なイベントのセットを選択する。追加入力は、ユーザ操作、システム要件、またはユーザ選択を含み得る。閲覧用途では、重要なイベントは、ユーザがコレクションを見ることを選択する時間粒度で選択することができる。例えば、ユーザが1日の短い時間間隔を見ている場合、最小粒度での重要なイベントが示されており、一方、ユーザが5年に亘るコレクションを見ている場合、週時間粒度での重要なイベントが適切である。また、表示能力の観点からのシステム要件が、重要なイベントの数、およびしたがって選択される粒度を決定する可能性がある。例えば、約10のイベントが表示部に適切な場合、粒度は、重要なイベントの数がその数に近くなるように選択される。また、ユーザが、ある粒度で重要なイベントを見るための選択を設定してもよい。
10 コンピュータ、20 プロセッサ、30 メモリ、50 入力装置、60 キーボード、70 表示装置、80 ネットワーク接続、105 デジタル画像コレクション、110 時系列生成器、115 時系列モデリングステップ、120 重要イベント検出器、205 日付/時間を抽出するステップ、215 時間単位に対するアキュムレータ、225 画像カウント時系列のグループ、305 画像カウント時系列、310 初期パラメータを推定するステップ、315 ARIMAモデルをフィッティングするステップ、320 実行可能なモデルを選択するステップ、325 適合度の尺度を計算するステップ、330 最良のARIMAモデルを選択するステップ、405 画像カウント時系列、410 ARIMAモデル、415 残差を計算するステップ、420 閾値を決定するステップ、430 関心時間ステップを特定するステップ、440 重要なイベントを特定するステップ、510 重要なイベント、520 追加入力、530 時間粒度セレクタ。

Claims (5)

  1. デジタル画像コレクション内の重要なイベントを決定する方法であって、プロセッサを使用し、
    a)前記画像コレクションから画像カウント時系列を生成するステップと
    b)前記画像カウント時系列のARIMA(p、d、q)モデルを計算するステップと
    c)前記画像カウント時系列および前記モデルを使用して重要なイベントを決定するステップと、をみ、
    前記ステップc)は、
    i)各時間単位での、前記モデルにより予測された画像カウントの出力と前記画像カウント時系列との間の差である残差の組を計算するステップと、
    ii)計算された閾値より上の残差を有する関心時間ステップを特定するステップと、
    iii)隣接する関心時間ステップを併合し、前記併合された隣接する関心時間ステップに画像カウント閾値を適用して、前記重要なイベントを決定するステップと、
    を含む
    ことを特徴とする方法。
  2. デジタル画像コレクション内の重要なイベントを決定する方法であって、プロセッサを使用し、
    a)異なる複数の時間粒度で、前記画像コレクションから画像カウント時系列を生成するステップと
    b)各時間粒度で、前記画像カウント時系列のARIMA(p、d、q)モデルを計算するステップと
    c)前記画像カウント時系列および前記モデルを使用して、各時間粒度で重要なイベントを決定するステップと
    d)ユーザ操作またはシステム要件に基づいて、前記重要なイベントを決定するステップと、を含み、
    前記ステップc)は、
    i)各時間単位での、前記モデルにより予測された画像カウントの出力と前記画像カウント時系列との間の差である残差の組を計算するステップと、
    ii)計算された閾値より上の残差を有する関心時間ステップを特定するステップと、
    iii)隣接する関心時間ステップを併合し、前記併合された隣接する関心時間ステップに画像カウント閾値を適用して、前記重要なイベントを決定するステップと、
    を含む
    ことを特徴とする方法。
  3. 請求項1に記載の方法であって、前記モデルは、適合度スコアを使用して、複数のモデ
    ルから選択されることを特徴とする方法。
  4. 請求項1に記載の方法であって、前記ステップa)の前記画像カウント時系列は、異なる複数の時間粒度で生成されることを特徴とする方法。
  5. 請求項に記載の方法であって、前記モデルは、適合度スコアを使用して、複数のモデルから選択されることを特徴とする方法。
JP2012516050A 2009-06-19 2010-06-04 消費者画像コレクション内の重要なイベントの検出 Expired - Fee Related JP5548260B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US12/487,686 US8340436B2 (en) 2009-06-19 2009-06-19 Detecting significant events in consumer image collections
US12/487,686 2009-06-19
PCT/US2010/001637 WO2010147623A1 (en) 2009-06-19 2010-06-04 Detecting significant events in consumer image collections

Publications (3)

Publication Number Publication Date
JP2012530962A JP2012530962A (ja) 2012-12-06
JP2012530962A5 JP2012530962A5 (ja) 2013-07-04
JP5548260B2 true JP5548260B2 (ja) 2014-07-16

Family

ID=42646272

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012516050A Expired - Fee Related JP5548260B2 (ja) 2009-06-19 2010-06-04 消費者画像コレクション内の重要なイベントの検出

Country Status (5)

Country Link
US (1) US8340436B2 (ja)
EP (1) EP2443568A1 (ja)
JP (1) JP5548260B2 (ja)
CN (1) CN102804178B (ja)
WO (1) WO2010147623A1 (ja)

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10430873B2 (en) 2009-03-02 2019-10-01 Kabbage, Inc. Method and apparatus to evaluate and provide funds in online environments
US7983951B2 (en) 2009-03-02 2011-07-19 Kabbage, Inc. Apparatus to provide liquid funds in the online auction and marketplace environment
US11257149B2 (en) 2009-03-02 2022-02-22 American Express Kabbage Inc. Method and apparatus to evaluate and provide funds in online environments
US20120053951A1 (en) * 2010-08-26 2012-03-01 Twenty-Ten, Inc. System and method for identifying a targeted prospect
US8634661B2 (en) 2011-09-07 2014-01-21 Intellectual Ventures Fund 83 Llc Event classification method using light source detection
US8634660B2 (en) 2011-09-07 2014-01-21 Intellectual Ventures Fund 83 Llc Event classification method using lit candle detection
JP5810920B2 (ja) * 2012-01-05 2015-11-11 富士通株式会社 コンテンツ再生装置、コンテンツ再生プログラム、及びコンテンツ再生方法
US11080318B2 (en) 2013-06-27 2021-08-03 Kodak Alaris Inc. Method for ranking and selecting events in media collections
US20160161375A1 (en) * 2014-12-05 2016-06-09 General Electric Company Text-mining approach for diagnostics and prognostics using temporal multidimensional sensor observations
US10078664B2 (en) 2014-12-05 2018-09-18 General Electric Company Searching for and finding data across industrial time series data
US20160202228A1 (en) * 2015-01-08 2016-07-14 International Business Machines Corporation Water quality monitoring and early event detection
CN113724744B (zh) * 2017-06-29 2023-05-05 杜比国际公司 用于使外部内容适配视频流的方法、系统和计算机可读媒体
CN109800359B (zh) * 2018-12-20 2021-08-17 北京百度网讯科技有限公司 信息推荐处理方法、装置、电子设备及可读存储介质

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6606411B1 (en) * 1998-09-30 2003-08-12 Eastman Kodak Company Method for automatically classifying images into events
US6351556B1 (en) * 1998-11-20 2002-02-26 Eastman Kodak Company Method for automatically comparing content of images for classification into events
US6915011B2 (en) * 2001-03-28 2005-07-05 Eastman Kodak Company Event clustering of images using foreground/background segmentation
JP2003030223A (ja) * 2001-07-12 2003-01-31 Fuji Photo Film Co Ltd 画像分類方法および装置並びにプログラム
US20030065409A1 (en) * 2001-09-28 2003-04-03 Raeth Peter G. Adaptively detecting an event of interest
US7653249B2 (en) * 2004-11-17 2010-01-26 Eastman Kodak Company Variance-based event clustering for automatically classifying images
JP4232774B2 (ja) 2005-11-02 2009-03-04 ソニー株式会社 情報処理装置および方法、並びにプログラム
JP2007199923A (ja) * 2006-01-25 2007-08-09 Fujifilm Corp 画像分類装置および方法並びにプログラム
US20080033991A1 (en) * 2006-08-03 2008-02-07 Jayanta Basak Prediction of future performance of a dbms
JP5010219B2 (ja) * 2006-09-08 2012-08-29 富士フイルム株式会社 画像処理装置、画像処理方法及び画像処理プログラム
EP1967996A1 (en) * 2007-03-09 2008-09-10 Omron Corporation Factor estimating support device and method of controlling the same, and factor estimating support program
JP5287716B2 (ja) * 2007-04-13 2013-09-11 日本電気株式会社 写真グループ化装置、写真グループ化方法、および写真グループ化用プログラム

Also Published As

Publication number Publication date
WO2010147623A1 (en) 2010-12-23
CN102804178A (zh) 2012-11-28
EP2443568A1 (en) 2012-04-25
US8340436B2 (en) 2012-12-25
JP2012530962A (ja) 2012-12-06
CN102804178B (zh) 2016-05-04
US20100322524A1 (en) 2010-12-23

Similar Documents

Publication Publication Date Title
JP5548260B2 (ja) 消費者画像コレクション内の重要なイベントの検出
US8718386B2 (en) Adaptive event timeline in consumer image collections
JP2013520725A5 (ja)
US8811755B2 (en) Detecting recurring events in consumer image collections
TWI223171B (en) System for classifying files of non-textual subject data, method for categorizing files of non-textual data and method for identifying a class for data file at a classification node
US10990827B2 (en) Imported video analysis device and method
US20210365490A1 (en) Method for ranking and selecting events in media collections
US11921737B2 (en) ETL workflow recommendation device, ETL workflow recommendation method and ETL workflow recommendation system
US20150006545A1 (en) System for ranking and selecting events in media collections
JP2006216026A (ja) ディジタル写真の時間的イベント・クラスタリングのための有効な方法
CN114035990B (zh) 一种面向Linux操作系统时序数据的实时异常检测方法
CN117235586B (zh) 酒店客户画像构建方法、系统、电子设备及存储介质
CN112631889A (zh) 针对应用系统的画像方法、装置、设备及可读存储介质
JP5217518B2 (ja) 関係情報取得システム、関係情報取得方法および関係情報取得用プログラム
US20150095825A1 (en) Person image display control apparatus, method of controlling same, and recording medium storing control program therefor
US20150095827A1 (en) Person image decision apparatus for electronic album, method of controlling same, and recording medium storing control program therefor
Das et al. Detecting significant events in personal image collections
US20220366462A1 (en) Recommendation system, and product recommendation method
JP7457667B2 (ja) モニタ調査装置及びモニタ調査方法
JP5987953B2 (ja) ウエブコンテンツの提供及びアクセス情報の収集のための装置
Ryu et al. A priority queue-based hierarchical photo clustering method using photo timestamps
CN114579873A (zh) 在数字化场景下的大数据用户画像处理方法及服务器
JP2004013241A (ja) 分析用データ作成方法及びその実施装置

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20130403

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130520

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20130520

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20131213

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140114

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140402

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140422

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140516

R150 Certificate of patent or registration of utility model

Ref document number: 5548260

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees