JP2011516966A - デジタル画像集合内に自動顔認識を組み込む方法および装置 - Google Patents

デジタル画像集合内に自動顔認識を組み込む方法および装置 Download PDF

Info

Publication number
JP2011516966A
JP2011516966A JP2011502952A JP2011502952A JP2011516966A JP 2011516966 A JP2011516966 A JP 2011516966A JP 2011502952 A JP2011502952 A JP 2011502952A JP 2011502952 A JP2011502952 A JP 2011502952A JP 2011516966 A JP2011516966 A JP 2011516966A
Authority
JP
Japan
Prior art keywords
face
image
images
name
user
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2011502952A
Other languages
English (en)
Inventor
ハートウィグ アダム,
ヨハネス ステファンズ,
キース キヨハラ,
ハルトムート ニーヴェン,
ブライアン ウエストファル,
トビアス マグナソン,
ギャビン ダグティー,
ヘンリー ベンジャミン,
マイケル ホロウィッツ,
ホン−キエン ケネス オング,
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Google LLC
Original Assignee
Google LLC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Google LLC filed Critical Google LLC
Publication of JP2011516966A publication Critical patent/JP2011516966A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/172Classification, e.g. identification

Abstract

デジタル画像の集合から顔画像データベースを作成および更新するための方法および装置を開示する。デジタル画像の集合からの1組の検出された顔は、それらに関連するデータとともに顔画像データベースに記憶される。第1組における各顔に対する少なくとも1つの顔認識テンプレートが計算され、その組における画像が顔認識テンプレートに従い類似グループにグループ分けされる。別の実施形態は、デジタル画像の集合において検出された複数の顔に名前を割り当てるための名前付けツールである。顔画像データベースは、デジタル画像の集合の画像において検出された顔画像に関連するデータを記憶する。

Description

(技術分野)
本発明は、概して、デジタル画像の集合に関し、より具体的には、デジタル画像の集合内での自動顔認識の使用に関する。
(背景)
デジタルカメラ、安価なデジタル記憶装置、およびインターネットを介した広範なネットワーク接続性は、分散した写真の集合の数、サイズおよびアクセスの大規模な成長をもたらした。しかしながら、デジタル写真およびデジタル写真の集合が成長するに従い、特定の特徴を含む特定の写真(複数可)の検索は、ますます煩雑となる。
個人がそのデジタル写真の集合をアルバム名または日付ごとにフォルダに整理することができる。しかしながら、これらのフォルダにまたがって写真にアクセスしたい場合が数多くあり得る。例えば、集合のうち特定の個人の写真を見付けたい場合があり得る。写真の内容に基づくそのような検索活動を促進するために、多くの技術を使用することができる。1つ以上のキーワードによる各写真のタグ付けは、そのような技術の一つである。
一般に、各写真のタグ付けはユーザにより行われ、ユーザは手作業でタグまたはタグワードを提供する。さらに、そのようなタグは、日付、アルバムまたはフォルダ情報等、各写真に関連した情報から派生し得る。しかしながら、これらの手法は、著しいユーザ入力を必要とし、一般に大量のデジタル写真の集合には良好に適合しない。自動顔認識技術を使用する写真の自動タグ付けは、大量の写真の集合の総合的なタグ付けを達成するための有望な手法である。
自動顔認識は、一般に、顔検出段階および顔認識段階の2段階で機能する。前者は、全体的な顔の特徴に基づき写真内の顔を自動的に選び出すことにより達成することができる。後者は、以前に認識された顔画像のうちの1つ以上に対する検出された顔の比較を含み得る。新たに検出された顔を比較することができる特定の顔の複数の識別および確認された画像が存在すれば、第2段階の正確性は増加する。
大量のデジタル画像の集合における自動顔認識の有効性は、ユーザにより識別および確認されるそれぞれの人物の十分な数および種類の顔画像がないために、また誤った識別のために制限され得る。デジタル写真の集合においてユーザが顔を識別および確認できるようにする現在利用可能なインタフェースは、ユーザが1度に多くの顔画像を識別することをより容易にすることを試みている。例えば、あるインタフェースは、特定の識別された人物に属する可能性のある顔画像を1つ以上の行に配設してユーザに提示し、システムが生成した分類をユーザが認めるかまたは拒否するかを聞くことができる。別のインタフェースは、写真において新たに検出された特定の顔に対する1つ以上の名前付けオプションをユーザに提示することができる。例えば、第1の場合において、ユーザは、リストされた集合に属さないそれぞれの個々の顔を削除する作業を課される。第2の場合において、ユーザは、それぞれの個々の画像を名前でタグ付けする作業を課される。上記の両方の場合において、画像を取り除き個々の画像に名前を付けるのがまだ煩雑である。1度に複数の画像を識別するタスクを便利および効率的とするには、自動顔認識をデジタル写真の集合全体にわたり実行することができるような、よりユーザに優しく効率的な方法が必要である。
ユーザは、プロセスのほとんどを自動化する柔軟な能力を必要とする。特定の人物のより多様な画像を利用した自動顔認識は、確認プロセスがユーザにとってより容易となり、それによってより多数の画像のタグ付けを促進するように、検出された顔画像をユーザ確認のために類別および配設することがより可能となる。
(概要)
本発明の実施形態は、デジタル画像の集合の整理に対する自動顔認識の統合に関する。一実施形態において、デジタル画像の集合から顔画像データベースを作成および更新するための方法が実施される。デジタル画像の集合からの画像において顔画像が検出される。検出された顔画像は、検出された顔画像のそれぞれに対して計算された顔認識テンプレートに基づき類似グループにグループ分けされる。検出された顔画像は、類似グループとしてユーザに表示され、表示された類似グループのそれぞれにおける個々の顔画像を認めるかまたは拒否するユーザ入力が受容される。類似グループのそれぞれは、受容されたユーザ入力に基づき更新され、更新された類似グループは、顔画像データベースに記憶される。
別の実施形態において、対象名、例えば人物の名前等がユーザから受容される。顔画像データベースに記憶された顔画像の少なくとも1つの名前を付けられた類似グループから第1組の顔画像が取得され、取得された類似グループと関連付けられた名前は、ユーザにより提供された対象名と実質的に一致する。第2組の顔画像が、関連した名前を有さず、第1組の顔画像の顔認識テンプレートと実質的に一致する顔認識テンプレートを有する顔画像データベースにおける類似グループから取得される。第1組および第2組は、クラスタとしてグラフィカルユーザインタフェースに表示される。第2組の表示された類似グループにおける個々の顔画像のメンバーシップを認めるかまたは拒絶するユーザ入力が受容され、第2組はユーザ入力に応じて更新される。一実施形態において、第1組はクラスタとして表示され、第2組はクラスタとして各類似グループとともに表示される。別の実施形態において、第1組は、グラフィカルユーザインタフェースの第1の領域に表示され、第2組は、第1組との類似性の順で配設された画像とともに第2の領域に表示される。
別の実施形態は、デジタル画像の集合において検出された複数の顔に名前を割り当てるための名前付けツールを含む。顔画像データベースは、デジタル画像の集合の画像において検出された顔画像に関連するデータを記憶する。さらに、名前付けツールは、グラフィカルユーザインタフェースと、デジタル画像の集合において顔を検出し、検出された顔に関連するデータを顔画像データベースに記憶する、顔検出モジュールと、顔画像データベース内の各顔画像に対する少なくとも1つの顔認識テンプレートを計算する、顔認識モジュールと、類似した顔画像が1つの類似グループに属するように、それぞれのテンプレートに従い顔画像データベース内の顔画像をグルー分けする、類似グループ分けモジュールとを含み得る。
さらに別の実施形態は、デジタル画像の集合にアクセスする方法を含む。システムは、対象名を得、対象名が割り当てられた顔画像データベース内の1組の顔画像を選択し、選択された顔画像と関連付けられたデジタル画像の集合からのデジタル画像を見付ける。一実施形態において、見付かったデジタル画像は、パーソナライズされたスライドショーとして表示され得る。
さらに別の実施形態は、複数のソース顔画像を使用して人物の画像を検索する方法を含む。システムは、対象名を受容し、対象名が割り当てられた顔画像データベースから一組の顔画像を選択し、選択されたソース画像の組を使用して顔認識により1つ以上のデジタル画像の集合を検索する。
別の実施形態は、デジタル画像の集合内の1組の画像への制限されたアクセスを提供する方法を含む。ユーザは、対象名を割り当てられた顔画像へのアクセスを認証される。対象名を割り当てられた1組の顔画像が選択され、ユーザは、画像の集合内のそれらの画像へのアクセスを許可される。
本発明のさらなる実施形態、特徴、および利点、ならびに本発明の様々な実施形態の構造および作用を、付随の図面を参照して以下で詳細に説明する。
図1は、本発明の実施形態のシステム図である。 図2は、本発明の一実施形態における、新たに検出された顔で顔画像データベースを更新する方法である。 図3は、本発明の一実施形態における、アルバムベースのルックアップを使用して顔に名前を付ける方法である。 図4は、一実施形態における、アルバムベースのルックアップに基き顔に名前を付けるグラフィカルユーザインタフェース(GUI)インスタンス図である。 図5は、本発明の一実施形態における、類似グループに名前を付ける最も近い名前の選択肢をユーザに提示する方法である。 図6は、本発明の一実施形態に従い類似グループ内の顔画像に名前を付けるために使用することができるフィルムストリップGUIベース名前付けツールのインスタンス図である。 図7は、一実施形態における、ユーザにより指定された対象のまだ名前を付けていない顔画像に名前を付ける方法である。 図8は、一実施形態における、ユーザにより指定された対象名のまだ名前を付けていない顔画像のすべてに名前を付けるGUIインスタンス図である。 図9は、一実施形態における、1つの領域おいて対象に割り当てられた画像を、別の領域においてまだ名前を付けていない類似の画像を閲覧および選択する方法である。 図10は、一実施形態における、ユーザにより指定された対象名のまだ名前を付けていない顔画像に名前を付ける別のGUIインスタンス図である。 図11は、本発明の一実施形態に従う、手動補助顔検出を実行するGUIインスタンス図である。 図12本発明の一実施形態に従う、手動補助顔検出を実行する方法である。 図13は、本発明の一実施形態による、パーソナライズされたスライドショーを表示する方法である。 図14は、本発明の一実施形態による、画像の集合内で対象を検索する方法である。 図15は、本発明の一実施形態による、ユーザの顔を含む可能性のある画像が画像の集合に追加される場合にユーザが通知される方法である。 図16は、本発明の一実施形態による、画像の集合の一部に対するユーザアクセスを制限する方法である。
本発明の特徴および利点は、図面と併せて考慮すると以下に記載の詳細な説明からより明らかとなる。図面において、類似の参照番号は、全般的に、同一、機能的に同様、および/または実質的に同様の要素を示す。一般に、要素が最初に現れる図面は、対応する参照番号の最も左側の桁(複数を含む)により示される。
(実施形態の詳細な説明)
本明細書において、特定の用途の例示的な実施形態を参照しながら本発明を説明するが、本発明はそれに限定されないことを理解されたい。当業者は、本明細書における教示を利用して、本発明の範囲内、および本発明が有意に実用的となる追加の分野の範囲内で、追加の修正、用途、および実施形態を認識する。
図1は、本発明の一実施形態による、自動顔認識をデジタル画像の集合に組み込むためのシステム100の図である。サーバ101は、ネットワーク130を介してクライアント120に接続される。サーバ101は、ソフトウェアモジュール102を備えてもよい。これらは、顔検出106、顔認識105、類似グループ104の作成および維持、ならびにサーバ側の画像レイアウト生成103のためのモジュールと、顔画像のデータベース108と、デジタル画像の集合107とを含み得る。一実施形態において、サーバ101は、1つの計算プラットフォームであってもよく、ソフトウェアモジュール102およびデータベース107〜108は、その同じプラットフォーム上に実装されていてもよい。
別の実施形態において、サーバ101は、1つ以上のネットワークにより相互接続された複数の計算プラットフォームを備えてもよい。ソフトウェアモジュール102およびデータベース107〜108は、サーバ101が備える計算プラットフォーム上に分散されてもよく、モジュール102およびデータベース107〜108の間の通信は、同じメッセージング機構、例えばHTTP、UDP、TCP、IP、またはこれらの任意の組合せを使用して行われてもよい。例えば、サーバ101は、ウェブクライアントまたはブラウザからの要求を受信およびそれに応答するウェブサーバと、ユーザに対し画像管理および自動顔認識機能を有効化し、ウェブサーバからのコマンドを受信する別個のアプリケーションサーバと、アプリケーションサーバと通信してデジタル画像107の集合および顔画像108のデータベースを有効化する1つ以上のデータベースサーバとを備えてもよい。ウェブサーバ、アプリケーションサーバ、およびデータベースサーバの使用を組み合わせたシステムは、当技術分野において周知である。
モジュール103〜106は、本発明の実施形態の実装における機能性を表す。102に示されるものより多い、または少ないモジュールをソフトウェアに実装して本発明の機能性を達成し得ることが、当業者には理解される。モジュール103〜106のそれぞれは、例えば、これに限定されないが、Java(登録商標)、C++、およびC等のコンピュータプログラミング言語の1つまたは組合せを使用して実装することができる。
いくつかの実施形態において、各データベース107および108は、1つ以上の相互接続されたデータベースを備えてもよい。例えば、デジタル画像の集合107は、デジタル画像の複数の分散した集合の集約を備えてもよく、分散した集合は、同じまたは異なるユーザにより所有され得る。例えば、集合は、1人以上のユーザのデジタル写真アルバムを備えてもよい。現在利用可能な例は、GoogleのPICASAウェブベースデジタル写真サービスにおける1組のユーザアルバムであってもよい。本明細書においてはデータベースと呼ばれるが、デジタル画像の集合107は、所望の画像を検索および取得する能力を伴った、デジタル画像を記憶する任意の機構として実装され得ることが、当業者には理解される。
顔画像108のデータベースは、1組のエントリを含んでもよく、各エントリは、集合107において検出される、本明細書において顔画像と呼ばれる顔に対応する。
データベース108内のエントリは、顔画像と、顔画像が検出された集合107における対応する画像へのポインタと、割り当てられた名前に対するタグ値を含む1つ以上のタグ値と、1つ以上の顔認識値と、類似グループの識別とを含み得る。タグおよび類似グループについて、以下でより詳細に説明する。
本明細書において使用される場合、「タグ」は、顔画像を識別または説明するために使用される単語または語句またはその他のデータを指す。「顔認識値」は、顔画像の中の単一の顔の指標に割り当てられる数値、または個々の顔の指標を含む因子に基づき計算された総合値のいずれかである。したがって、データベース108のエントリにおける1つ以上の顔認識値は、所定の組の顔の指標に対する個々の数値および総合値を含み得る。文献に記載されているいくつかの顔認識指標評価機構のいずれかを、データベース108内の顔画像に顔認識値を割り当てる上で使用することができる。これらの顔画像エントリのそれぞれにおけるこれらの顔認識値、例えば個々の指標の顔認識値の総合値の1つ以上は、類似グループを形成するための各画像の代表とみなすことができる。この代表値は、以降、「顔認識テンプレート」と呼ばれる。別の実施形態において、各エントリにおけるいくつかの顔認識値は、値のベクトルとみなすことができ、ベクトルに対して計算された対応する値は、対応する顔画像の代表的顔認識テンプレートとして使用することができる。さらに別の実施形態において、顔認識テンプレート自体が、顔の指標に対する個々の顔認識値を含むベクトルであってもよい。
いくつかの実施形態において、顔画像108のデータベース内のエントリは、顔画像を含有しなくてもよく、その代わりにエントリは、集合107内のそれぞれの画像内の顔画像の場所パラメータを含むことができる。例えば、場所パラメータは、所望の顔画像を包含する四角形の左下角部および右上角部に対する画素数を使用して、二次元で指定することができる。データベース108の各エントリに含まれる集合107内の対応する画像へのポインタは、様々な形態で実装され得る。例えば、これに限定されないが、ポインタは、集合107へのインデックス、対応する画像へのメモリ参照、または、集合107内の画像への参照をハッシュ化するテーブルに対するインデックス等の間接的参照であってもよい。
「類似グループ」は、本明細書において使用される場合、所定範囲内の顔認識テンプレート値を有する1組の画像である。例えば、2つの顔画像間の類似性は、2つの対応する顔認識テンプレート間のユークリッド距離により測定することができる。対応する顔認識テンプレートを使用する顔画像の類似グループの形成は、クラスタ化プロセスにより達成され得る。例えば、k平均クラスタ化またはc平均クラスタ化等の周知のクラスタ化技術を類似グループの形成おいて使用することができる。類似グループは、単一の人物の顔画像をグループ分けすることを意図している。
顔検出モジュール106は、多くのプログラミング言語のうちの1つ、例えばC言語を使用してソフトウェアに実装することができる。モジュール106は、画像を、またはユーザにより指定された画像を精査し、それらの画像内の顔を検出する。例えば、一実施形態において、ユーザがデジタル写真のアルバムを集合107に追加した場合、顔検出モジュール106は、そのアルバム内の各デジタル写真を精査し、顔を検出することができる。顔が検出されると、モジュール106は、検出された顔を包含する領域、例えば検出された顔画像を包含する四角形領域のデジタルコピーを作成し、顔画像のデータベース108内の対応するエントリに記憶することができる。集合107内で検出されたそれぞれの新たな顔に対し、顔検出モジュール106は、顔画像データベース108内に新たなエントリを形成するか、形成させることができる。いくつかの場合において、自動顔検出は、画像内のすべての顔を検出しない可能性がある。したがって、いくつかの実施形態において、ユーザは、特定の画像を処理するために特定的に顔検出モジュール106を起動することができる。これについては、手動補助顔検出に関して後述する。
当技術分野において、多くの顔検出技術が説明されている。例えば、米国特許第6,222,939号に記載のような、弾性バンチグラフマッチング、米国特許第6,917,703号に記載のようなゲーバージェット(gabor jets)に対するニューラルネットワークの使用、および米国特許第7,099,510号に記載のような増大されたプリミティブ機能を使用する顔検出等は、本明細書に記載の目的において使用することができる周知の顔検出技術のいくつかである。これらの技術のいくつかのうちのいずれかをモジュール106において使用して、本発明に従いながら集合107の画像内の顔を検出することができることが、当業者には理解される。
顔認識モジュール105は、データベース108内の顔画像を精査し、所定の組の顔の指標に顔認識値を割り当てる。モジュール105はまた、データベース108内の各顔画像に対する代表的顔認識テンプレートを計算する。上述したように、顔認識テンプレートは、単一の値または値のベクトルであってもよい。本発明の実施形態において使用可能な、顔認識のためのいくつかのアルゴリズムが、当技術分野において説明されている。例えば、M. Turk and A. Pentland, ’’Eigenfaces for Recognition’’, Journal of Cognitive Neuroscience, Vol. 3, No. 1, 1991, pp. 71−86に記載のように、テンプレート値は、主成分分析により得られた固有顔により画定されたサブスペースへの顔画像の投影により生成することができる。別の例示的技術は、米国特許第6,301,370号に記載のように、顔画像の局所的特徴から得られたゲーバージェットで構成されるテンプレートの作成であってもよい。
類似グループモジュール104は、顔検出モジュール105により顔識別テンプレートを割り当てられた顔画像のデータベース108内の顔画像の処理を含む。モジュール104は、所定の顔認識テンプレート値または値の範囲に基き、顔認識テンプレートを割り当てられた顔画像を類似グループにグループ分けすることができる。類似グループは、理想的には単一の人物の画像を共にグループ分けするように設計される。実際には、類似グループの効力は、ほとんどが顔認識テンプレートおよび類似グループを定義する値の境界等のいくつかの因子の正確性に依存する。
サーバ側画像レイアウト生成モジュール103は、顔画像のデータベース108とグラフィカルユーザインタフェース(GUI)121との間のインタフェースのサーバ側コンポーネントを含む。組み合わされたクライアント側画像レイアウト生成モジュール123およびサーバ側画像レイアウト生成モジュール103は、クライアント120とサーバ101との間でデータベース108からの顔画像および集合107からの画像を交換するためのユーザ入力を促進する機能性を含み得る。さらに、サーバ側モジュール103は、データベース108から顔画像を選択および取得する機能性、データベース108内のエントリで参照される集合107からの画像を取得する機能性、ならびに、クライアント120における所望のユーザの活動を可能にするために類似グループモジュール104、顔認識モジュール105、および顔検出モジュール106と相互作用する機能を含み得る。
クライアント120は、GUI121、1つ以上の入力デバイス122、およびクライアント側画像レイアウト生成モジュール123を備えることができる。クライアント120は、同じ計算プラットフォームにサーバ101として存在してもよく、または異なる計算プラットフォーム上に存在してもよい。本発明の機能性の達成において、100に示されていない他のソフトウェアおよびハードウェアモジュールを使用することができることも、当業者には認識される。GUI121は、コンピュータモニタならびに関連した表示ソフトウェアおよびハードウェアを含み得る。入力デバイス122は、キーボード、マウスまたは他の入力機構を含み得る。クライアント側画像レイアウト生成モジュール123は、上述の機能性に加えて、データベース108からの顔画像および集合107からの画像を、GUI121での表示のために処理する機能性、ならびに、GUI121の性能およびGUI121とのユーザインタラクションの最適化に必要な任意の機能性を含み得る。
クライアント側画像レイアウト生成モジュール123は、いくつかのプログラミング言語のうちの1つ、例えば、クライアント120がJava(登録商標)機能に対応している場合はJava(登録商標)により実装することができることが、当業者には認識される。サーバ側画像レイアウト生成モジュールはまた、サーバソフトウェアモジュール102に関して前述したように、多くの言語のうちの1つを使用して実装することができるが、実装言語およびソフトウェアプラットフォームは、クライアント側およびサーバ側画像レイアウトモジュール、それぞれ123および103のインタラクションを促進することを考慮して選択することができる。例えば、本発明がインタラクティブウェブアプリケーションを含み得る一実施形態において、モジュール123および103は、そのようなアプリケーション用に特別設計された言語、例えばAsynchronous Java(登録商標)Script and XML(AJAX)で実装され得る。
図2は、いくつかの実施形態における、顔画像のデータベース108を新たに検出された顔で更新するフローチャート200である。フローチャート200により定義されたプロセスは、一般に、サーバ101において実行される。段階201において、顔検出モジュール106は、デジタル画像の集合107に新たに追加された画像を処理する。顔検出モジュール106は、新たな画像を処理するために、多くの機構により、例えば、デジタル写真の新たなアルバムが集合107に追加されるたびに顔検出モジュール108を起動するソフトウェアトリガを実装することにより起動され得る。顔検出モジュール106は、顔検出モジュール106を含むサーバソフトウェアモジュール102の機能に関して上でさらに説明されている。
段階202において、集合107の新たな画像において検出された各顔に対し、顔画像のデータベース108内に対応するエントリが形成される。これらのエントリの形成は、顔検出モジュール106ソフトウェアにより行われてもよい。顔検出モジュール106に関して上で説明したように、データベース108内のエントリは、検出された顔画像のデジタルコピーを含んでも含まなくてもよい。
顔認識モジュール105は、段階203において、顔画像のデータベース108に新たに追加された顔画像を処理することができる。モジュール105による処理は、顔認識モジュール105を含むサーバ側ソフトウェアモジュール102に関して上で詳細に説明されている。段階203において、顔認識モジュール105の機能は、1組の所定の顔の指標の割り当て、および顔画像のそれぞれに対する顔認識テンプレートの形成を含み得る。
段階204において、類似グループモジュール104は、顔画像のデータベース108内の顔画像を処理する。モジュール104による処理は、類似グループモジュール104を含むサーバ側ソフトウェアモジュール102に関して上で詳細に説明されている。類似グループは、単一の人物に属する顔画像をグループ分けすることを意図している。この目的のため、類似グループモジュール104は、顔認識テンプレートにおける所定の範囲、および顔認識テンプレートの生成の正確性に依存し得る。類似グループモジュール104により処理が完了すると、データベース108内の顔画像は、顔認識値、顔認識テンプレートを割り当てられ、さらに類似グループへの一時的グループ分けが割り当てられている。
いくつかの実施形態において、ユーザが顔画像に名前を付けることを可能にすることは、概して2つの方向で進めることができ、すなわちユーザはアルバムに基づいて顔に名前を付けることができ、あるいはユーザは人物の名前を指定することにより顔に名前を付けることができる。図3は、一実施形態における、アルバムに基き顔画像に名前を付ける段階を示すフローチャート300である。例えば、この実施形態において、ユーザは、そのアルバム内のあらゆる画像におけるあらゆる顔に対し、顔画像に名前を付けることを選択している。段階301によって、ユーザは、それらの画像にある顔に名前を付けるための処理を望む1つ以上のアルバムを指定することができる。段階301の前に、ユーザがアルバムに基き顔に名前を付けることを選択し、集合107からの利用可能なアルバムのリストがまずユーザに提示される、1つ以上の他の段階(図示せず)が存在してもよい。段階301において受容された入力に基き、段階302において、処理されるアルバムが選択される。例えば、アルバムは、ユーザにより指定された順番で処理され得る。アルバムが選択されたら、例えば、モジュール103は、集合107内の選択されたアルバムにアクセスし、選択されたアルバム内の各画像に対し、その画像に対応するデータベース108内の顔画像を特定することができる。このようにして特定された顔画像は、選択されたアルバム内の画像に対する第1組にグループ分けされる。段階303〜305は、第1組の形成に関連した活動を表す。段階302〜307は、ユーザにより指定されたアルバム内の画像の処理において繰り返され、第1組の顔画像が形成される。段階307での処理ループの完了後に得られる第1組の顔画像は、ユーザにより指定されたアルバム内の検出された顔を含む。
段階308において、第1組の顔画像は、類似グループに従いソートされる。
このソーティングは、理想的には、段階301においてユーザにより指定されたアルバム内の任意の画像に存在する単一の人物の顔画像を共にグループ分けする。しかしながら、前述したように、類似グループの自動生成は、1人の人物のみの画像を類似グループにグループ分けする上で、また人物の顔画像を単一の類似グループ内にグループ分けする上で完全に正確ではない可能性がある。
段階309〜311において、類似グループごとに第1組の顔画像がGUI121上に表示される。例えば、類似グループは、行または図4に示されるような枠 401に表示されてもよく、ユーザ入力404が可能となる。ユーザ入力は、例えば、図4に示されるようなチェックボックス403により、示された類似グループに属するものとして表示された各顔画像を選択または選択解除するように可能とすることができる。また、各類似グループに名前を付けるためのユーザ入力は、これも図4に示されるような最も近い名前の最初のいくつかのプルダウンリスト402により容易化されてもよい。例えば、表示された類似グループを識別する名前を選択するための最も近い名前のリストは、顔認識テンプレート値を比較して、表示された類似グループから近い範囲内の類似グループのすでに名前が付けられた顔画像から派生してもよい。図5は、一実施形態における、最も近い名前の選択肢のリストを生成するための上述のような方法のフローチャートである。図5に示されるプロセスは、以下でより詳細に説明する。多くの他の技術を使用して最も近い名前のそのようなプルダウンリストを生成することができることが、当業者には理解される。
段階312〜313において、対応する類似グループ内の表示された顔画像のそれぞれの包含に関する、およびそれぞれの表示された類似グループに対する名前に関するユーザ入力が収集される。段階314において、顔画像のデータベースは、段階312〜313において収集されたユーザ入力に基き更新される。データベース108内のエントリの更新は、いくつかの実施形態において、顔認識テンプレートの更新を含み得る。更新はまた、いくつかの顔画像に対し割り当てられたタグの変更、および/または割り当てられた類似グループの変更を含み得る。図6は、グラフィカルユーザインタフェース600の別の例を示し、1組の顔画像(またはそれらの顔画像のサムネイル抽出)がフィルムストリップ形式601で表示される。フィルムストリップ形式で表示された顔画像は、顔画像のそれぞれのグループの代表画像を含み得る。フィルムストリップは、選択されたグループ分けレベル内の利用可能な代表顔画像のすべてを閲覧するために、いずれの方向にもスクロール可能である。例えば、図6に示されるように、フィルムストリップ601は、すべての利用可能なアルバム内の各類似グループの代表画像を表示してもよい。フィルムストリップ601内のサムネイル画像は、意味のある順番で配設され得る。例えば、サムネイルは、確認されるべきほとんどの顔画像とともにクラスタのサムネイル画像を表示し、次いでフィルムストリップ内の他のサムネイルは最初に表示されたクラスタとの類似性の順で配設することにより、顔画像クラスタの名前を付け確認する上でユーザの補助となるように配設され得る。次いでユーザは、フィルムストリップ601内のサムネイル画像の1つを選択して、対応する類似グループ602内の顔画像を表示することができる。次いでユーザは、例えば、図6における類似グループ602顔画像のそれぞれの真下のチェックボックス等の対応するチェックボックスを選択することにより、現在割り当てられている類似グループ内のそれらの画像のそれぞれの場所を確認することができる。また、図6に示されるように、ユーザは、類似グループに対し名前を割り当てるか、または現在割り当てられている名前を確認することができる。さらに、図6に示されているように、名前付けの選択肢の提案が表示されてもよい。提案603は、顔画像のデータベース108内の利用可能なすでに名前を付けられた顔画像に基くものであってもよい。
段階314の最後に、集合107内のユーザが指定したアルバム内の対応する画像を有したデータベース108内の顔画像は、特定の類似グループへの包含およびタグ名に関して更新されている。ユーザにより確認された対象名タグを有する顔画像は、本明細書において、「すでに名前を付けられた」顔画像と呼ばれる。
図5は、選択された類似グループに対する可能な名前のリストを生成するプロセス500を示す。段階501において、選択された類似グループに対する顔認識テンプレートが決定される。上述したように、各類似グループは、対応する顔認識テンプレートを有し得る。段階502において、顔画像のデータベース108内の利用可能なすでに名前を付けられた顔画像を含む類似グループが検索される。所定の範囲内の顔認識テンプレートを有する類似グループを使用して、それらの類似グループ内のすでに名前を付けられた画像から名前を得ることができる。段階503において、段階502で得られた所定の数までの名前を、選択された類似グループに対する可能な選択肢としてリストすることができる。リストは、複数の基準に従い、例えば選択された類似グループの顔認識テンプレートと、すでに名前を付けられた顔画像を有するそれぞれの類似グループとの間の差異に従い、順序付けることができる。
ユーザが顔画像に名前を付けるために選択することができる別の手法は、ユーザ名を指定し、指定された集合(例えば、システムにより最初に選択された集合107のサブセット)内の画像が指定されたユーザに属することを確認するように試みることである。図7におけるフローチャート700は、一実施形態における一連の段階であり、これを通してユーザは単一の人物に属する顔画像に名前を付けることができる。
段階701において、対象名は、ユーザからの入力としてシステムにより受容される。例えば、ユーザは、GUI121を使用して、顔画像に名前を付けたい対象の名前を、システムが生成したリストに入力するか、またはそこから選択することができる。次いで、例えば、クライアント側画像レイアウトモジュール123は、ユーザが指定した対象名をサーバ側画像レイアウト生成モジュール103に受け渡すことができる。対象名を受容した後、例えば、段階702のように、サーバ側モジュール103は、ユーザにより指定された対象名と一致する、データベース108内のすでに名前を付けた顔画像の、本明細書において第2組と呼ばれる組を生成することができる。その後、段階703において、モジュール103は、第2組における顔画像に対応する1つ以上の顔認識テンプレート値を決定することができる。例えば、現在データベース108内に分類されているため、第2組における顔画像は複数の類似グループに属するが、これらの画像は単一の対象名を割り当てられていてもよい。類似グループのそれぞれは、グループを定義する顔認識テンプレート値の固有の範囲を有し得る。段階703において、顔認識テンプレートに対する1組の値が決定される。段階704において、段階703で決定された顔認識テンプレートの範囲を使用して、顔認識テンプレート値が段階703で選択されたそれらの値に最も近い、まだ名前を付けられていない第3組の顔画像と呼ばれる組が選択される。その後、段階705において、第2組における顔画像(すでに名前を付けられた顔画像)および第3組における顔画像(名前を付けられていない顔画像)がGUI上に配設される。例えば、いくつかの実施形態において、第2組は画像の単一のクラスタとしてレイアウトされてもよく、第3組は、それぞれのクラスタが類似グループに対応した複数のクラスタとしてレイアウトされてもよい。第3組のクラスタは、いくつかの実施形態において、第2組の顔画像のクラスタへの近接性がそれぞれの顔認識テンプレートの近似を示すように、GUI上に整理されてもよい。図8は、一実施形態における、フローチャート700に従い生成されたGUI800である。例えば、第2組における画像を有するクラスタ801および第3組のクラスタ802〜808が、図8に示されるようにレイアウトされ得る。段階707において、示された類似グループへのそれぞれの表示された顔画像の包含に関するユーザ入力が受容され、指定された対象名で更新される画像の組へのそれぞれの表示された顔画像の包含に関するユーザ入力もまた受容される。段階708において、データベース108は、ユーザ入力に従い更新される。例えば、データベース108内の対応するエントリは、指定された対象名を割り当てるかまたはエントリから削除することにより更新することができ、エントリの類似グループ情報もまた更新することができる。
別の実施形態において、図9のフローチャート900のプロセスを使用して、ユーザが対象名に基き顔画像に名前を付けることができるようにしてもよい。段階901〜903は、フローチャート700の段階701〜704に対応し、同様の説明が適用される。段階901において、すでに名前を付けられた顔画像の、以降第4組と呼ばれる組が生成される。段階903において、まだ名前を付けられていない顔画像の、以降第5組と呼ばれる別の組が生成される。段階904において、第4組がGUIの領域に表示される。段階905において、第5組がGUIの別個の領域に表示され、第4組との類似性が低くなる順で個々の顔画像が配設され得る。図10は、一実施形態における、フローチャート900に従うGUIの例である。この実施形態において、第4組および第5組の顔画像は、異なるタブシートに表示され、図10に見られるように、1度に1つだけが見えるようにしてもよい(1001)。段階906において、指定された対象名を割り当てるべき個々の顔画像に関するユーザ入力が受容される。段階907において、データベース108は、ユーザ入力に従い更新される。例えば、ユーザにより選択されたまだ名前を付けられていない顔画像のそれぞれが、ここで対象名により更新されてもよい。同様に、すでに名前を付けられた顔画像のタブシート内の各顔画像に対し、対応するエントリを更新して、ユーザがそのように示した場合には対象名を削除することができる。図6は、ユーザにより指定された1つ以上の名前に基き類似クラスタを表示およびそれに名前を付けるために使用することができるユーザインタフェースを示す。
いくつかの状況において、顔検出プロセス自体は、いくつかの顔に対して失敗する可能性がある。例えば、顔検出モジュール106は、集合107内の画像において1つ以上の顔を検出しない可能性がある。この場合、一実施形態またはその実施形態において、本発明は、顔検出プロセスを手動で補助する機能を提供する。図11は、一実施形態における手動補助顔検出のGUIコンポーネントを示す。例えば、ユーザは、境界領域、この場合ではバウンディングボックス1101を、ユーザがシステムに検出および認識させたいそれぞれの顔の周りに描くことが可能となる。さらに、1102に示されるように、ユーザは、そのような画像に対し、追加の説明データ、例えば対象名を表示または入力することができる。図12は、そのプロセスを示したフローチャート1200を示す。
段階1201および1202において、集合107からの画像がGUIに示され、ユーザは1つ以上の顔の周りに境界領域を画定することができる。段階1203において、境界を付けられた領域は、例えば、顔検出モジュール106により処理される。自動顔検出および手動補助顔検出において、同じ顔検出技術に若干の修正を加えて使用することができることが、当業者には理解される。例えば、手動補助される場合、顔検出ソフトウェアは、単に、画定された領域内で識別された、顔の指標となる特徴により大きな重みを付けることができる。段階1204において顔が検出されると、段階1205は、ユーザが追加情報を、例えばデータベース108内の顔画像にタグを付けるための対象名を提供することができるようにする。段階1206において、顔データベース108は、検出された顔情報、およびおそらくは対象名を含むユーザが提供した情報で更新される。
別の実施形態において、顔認識および名前付けプロセスを補助するために性別検出が使用される。画像における性別検出の方法は、当技術分野において周知である。性別検出を使用して、すでにクラスタに割り当てられた顔画像の性別を決定することができる。クラスタ内の顔画像の性別を決定したら、システムはその情報を使用して、新たに追加された画像に対する顔検出結果にバイアスをかけることができる。例えば、システムは、新たな顔画像がクラスタに追加され、新たな画像の性別とすでにクラスタ内にある画像の性別が一致しない場合、ユーザを留まらせるかまたはユーザに通告することができる。クラスタ内の画像がすでにタグを付けられている別の実施形態において、辞書ルックアップを使用してクラスタ内の顔画像の性別を決定することができる。
別の実施形態において、本発明は、異なるエンティティにより維持される顔画像の集合を統合するシステムを提供する。顔画像の集合が異なるエンティティにより別個に維持される場合、特定の人物の顔画像は、別個の集合間で異なるタグ付けがなされ得る。例えば、第1の集合を有するユーザは、John Smithの顔画像を「John Smith」とタグ付けする可能性があり、一方、第2の集合を有する別のユーザは、John Smithの画像を「J. Smith」とタグ付けする可能性がある。すると、2つの集合の単純な集約により、集約された集合において異なるタグの下に同じ人物が現れる結果となる。本発明は、画像テンプレートの比較において追加の情報要素を比較することにより、別個の集合の顔画像を統合する方法を提供する。例えば、これに限定されないが、2つの集合がマージされる際、顔の特徴、画像から検出された性別、辞書検索から検出された性別、割り当てられた名前/タグ、年齢、人種、ポーズ、アクセサリー、地理上の座標および時間(使用可能な場合)、他の既知の顔画像との共起といった情報要素のいくつかまたはすべてが画像テンプレートに組み込まれ得る。統合された集合における顔画像に割り当てられるタグは、情報要素の組を比較する様々な方法により決定され得る。例えば、数値を各情報要素に割り当てることができ、一致する情報要素が所定の数値閾値を超える場合にはタグが自動的に消去され得、また一致する情報要素がそのような閾値を超えない場合は手動での介入により半自動的に消去され得る。
例示的用途
その実施形態のひとつにおいて、本発明は、顔画像データベース108および関連情報を利用して、パーソナライズされたサービスをユーザに提供する。例えば、図13は、パーソナライズされたスライドショーを実行するフローチャート1300を示す。段階1301において、ユーザは対象名を指定し、その後段階1302において、システムは対応する顔画像を特定する。次いで、段階1303〜1305において、それぞれの特定された顔画像に対し、システムは集合107内の対応する画像を特定し、GUI121においてそれをユーザに表示する。フローチャート1300を使用して、ユーザは、指定された対象に対応する顔画像を有する集合107内のすべてまたはいくつかの画像を表示させることができる。いくつかの実施形態において、集合107内の各画像における顔画像に関する情報を使用して、対応する画像を表示する際にそれらの顔画像に対して特殊効果を実行することができる。例えば、集合107内の対応する画像を表示させる時に顔画像に対するデータベース108に記憶された場所パラメータを使用して、表示の時点で顔の境界を特定するために追加の計算を行うことなく、画像のその領域をズームインまたは拡大することができる。
別の実施形態において、データベース108は、指定された人物の似顔絵(複数可)を含み得る画像を、外部画像集合に対し検索するために使用することができる。図14は、段階1401においてユーザから対象名を受容し、段階1402において一致する名前が割り当てられたデータベース108内の顔画像の組を特定するプロセスのフローチャート1400である。また、段階1402において、システムは、選択された顔画像に対応する1つ以上の顔認識テンプレートを決定することができ、これは段階1403における検索に使用することができる。段階1403において、外部画像集合が検索され、顔認識テンプレートの点で段階1402において選択された顔画像の1つに十分近い顔画像を含む任意の画像が識別され得る。例えば、検索は、各画像上での顔検出、続いて一組の所定の顔の指標に対する値を決定するための顔認識、次いで段階1402において選択された顔画像の1つ以上に対する整合プロセスを含み得る。一実施形態において、一致する顔画像が見付かったら、ユーザは、自動生成されたメッセージ、例えばユーザの登録された連絡先への自動生成された電子メールまたはテキストメッセージを含むいくつかの手段を介して警告され得る。別の実施形態において、一致する顔画像を有する画像を、集合107内に含めることができる。
別の実施形態において、対象は、自分の画像が表示される、および/または自分の画像が名前等の識別情報とともに表示されるのを拒否することが可能である。図15は、一実施形態における、ユーザ拒否システムにおける操作の例示的フローチャート1500を示す。段階1501において、1人のユーザ、例えば対象Xに関する表示イベントが生じる。表示イベントは、対象Xの顔画像を有する画像、および/または対象Xの情報を有する画像のタグの、画像の集合107への追加を含み得る。対象Xは、所定の特徴を有する表示イベントが生じた場合通知を受けるように予め登録されていてもよい。段階1502において、対象Xの優先傾向を含む構成情報に基き、対象Xが表示イベントを通知されるべきかが決定され得る。段階1503において、対象Xに通知が送信される。通知は、対象Xが使用可能なアドレスへの電子メールメッセージ、または対象Xが使用可能な1つ以上のアドレスへのインスタントメッセージを含む任意の形態で伝達され得る。メッセージは、リンク、例えば対象Xがさらなる情報を得る、および/またはその拒否を登録することになっているウェブページへのユニフォームリソースロケータ(URL)を含んでもよい。
通知を伝送したら、段階1504において、対象Xからの応答が受容され得る。応答は、通知メッセージ内で送られたURLに対象Xが訪問したことを含み得る。段階1505において、対象Xが拒否する上で依拠するのに十分な情報を得るように、通知を送信させる元となった画像および/またはタグが対象Xに表示される。例えば、いくつかの実施形態において、対象Xのタグと一致するタグを有する集合107内の画像のすべてが表示されてもよく、一方いくつかの他の実施形態は、Xへの通知を誘引した表示イベントの直接の原因であった画像およびタグのみを表示してもよい。段階1506において、Xの入力が受容される。対象Xは、一連のチェックボックスを使用して、または他の入力手段を使用して、自分の入力を登録することができる。受容された入力は、画像が削除されるべきか否か、指定されたタグが表示されるか否か、任意のタグの修正、Xが問題の画像のソースが通知されるのを望むか否か、およびXが問題の画像のソースを知らされたいか否かに関するXの選択を含み得る。段階1507において、Xの入力した選択は、Xに権限があるか、またはその他要求されたサービスを受けることができるかを決定するために検証され得る。例えば、1組の所定の基準を満たすユーザのみが画像の削除を要求することができてもよい。Xが画像(複数可)の削除、またはタグ情報の削除もしくは修正の要求を検証される場合、段階1508においてそのような変更が集合107および顔画像データベース108において達成される。例えば、Xとしてタグ付けされた画像の自動除去を要求する権限がXにある場合、画像および関連タグは集合107および/またはデータベース108から除去され得る。Xの権限のレベルに依存して、画像を削除させるXの要求により、集合107の所有者により画像を手動で除去するためにログ入力が行われることになってもよい。また、Xの権限に依存して、要求された任意のタグの変更は、自動的になされてもよく、または後に検討するために記録されてもよい。段階1509において、Xが適切な権限を有する場合、Xに問題の画像(複数可)を得た場所が知らされてもよい。最後に、段階1510において、問題の画像(複数可)のソースにXの拒否が通知されてもよい。例えば、Xの拒否および問題の画像(複数可)を含む電子メールが自動的にソースに生成されてもよい。さらに別の実施形態は、画像の集合に対する制限されたアクセスをユーザに提供するために、データベース108内の情報を使用することができる。例えば、ユーザは、自分の顔画像を有する集合107内の画像のみにアクセスすることができる。あるいは、ユーザは、自分の顔画像、または1つ以上の他の所定の組の人物の顔画像を含む1組のアルバムへのアクセスが与えられてもよい。例えば、一実施形態において、アルバムは、共有鍵に基いて制御することができ、鍵は所定の組の基準を満たすユーザにのみ配布される。図16のフローチャート1600は、一実施形態におけるそのような制限されたアクセスを実装するための段階を示す。段階1601において、ユーザは、自分の顔画像を有する画像へのアクセスが認証され得る。同様に、いくつかの実施形態において、ユーザは、1人以上の他の人物の画像へのアクセスが認証され得る。1人以上の他の人物の画像へアクセスするユーザの特権は、例えば、ユーザ識別子、予め定義されたユーザグループ、および/またはアルバム、画像もしくは対象名ごとに設定されたアクセス特権等に基き、システムにアクセス可能な構成ファイル内で定義することができる。段階1602において、一致する対象名を有するデータベース108内のすでに名前が付けられた顔画像が取得され得る。段階1603において、集合107は、段階1602において取得された顔画像のみに基いてアクセスされ得る。例えば、ユーザが集合107内の画像にアクセスしようとするたびに、そのアクセスは、段階1602において取得された顔画像が集合107内の選択された画像を参照していることを確かめることにより検証される。
別の実施形態において、本発明は、ユーザが顔画像にタグを割り当てる際に、ユーザが、タグ付けされている人物の顔画像を含む任意の画像に望ましい公開レベル(すなわちアクセスレベル)、および/またはその人物に指定された1つ以上のタグを表示するかどうかを指定することを可能にする。いくつかの実施形態において、1組の画像が公衆、ユーザの所定のグループ、または画像の所有者のみに表示され得るように、様々な許可レベルをアクセスレベルとして設定することができる。アクセスレベルに基き、選択されたタグとともに、またはタグなしで、同じ画像が表示され得る。また、画像がタグ付けされる際、タグ付けアプリケーションは、他のアプリケーションと相互作用して情報を交換することができる。例えば、1つ以上の顔画像のタグ付けの間、タグ付けアプリケーションは、連絡先リストアプリケーションまたは電子メールシステムと相互作用して、一方または両方のアプリケーションに有用となり得る情報を交換することができる。
概要および要約の項ではなく、発明を実施するための形態の項は、特許請求の範囲を解釈するために使用されることを目的とすることを理解されたい。概要および要約の項は、本発明者らにより企図されるように、本発明の例示的実施形態のすべてではないが1つ以上を説明し得るが、本発明および添付の特許請求の範囲を制限することを全く意図しない。
特定の機能の実装およびその関係を例示した機能的な基礎的要素の助けにより本発明を上で説明した。これらの機能的な基礎的要素の境界は、説明に便利なように本明細書において適宜画定されている。特定の機能およびその関係が適切に実行される限り、代替の境界を画定することができる。
特定の実施形態の上記説明は、当技術の範囲内の知識を適用することにより、必要以上の実験を行わずに、また本発明の一般的概念から逸脱せずに、他の者がそのような特定の実施形態を様々な用途に合わせ容易に修正および/または適合させることができるように、本発明の一般的性質を十分明らかとしている。したがって、そのような適合および修正は、本明細書に示された教示および指針に基き、開示された実施形態の同等物の意味および範囲内であることが意図される。本明細書における語法または用語は説明を目的としており、限定を目的とせず、本明細書の用語または語法は教示および指針に照らして当業者により解釈されるべきであることを理解されたい。
本発明の外延および範囲は、上述の例示的な実施形態のいずれによっても限定されるべきではなく、以下の請求項およびその同等物によってのみ定義されるべきである。

Claims (24)

  1. デジタル画像の集合から顔画像データベースを作成および更新するための方法であって、
    (a)該デジタル画像の集合からの画像において、第1組の顔画像を検出することと、
    (b)該第1組の顔画像を類似グループにグループ分けすることであって、該類似グループのそれぞれにおいて、顔画像の顔認識テンプレートが、所定の範囲内にある、ことと、
    (c)該類似グループの1つ以上をグラフィカルユーザインタフェースに表示することであって、該類似グループのそれぞれは、実質的に別個に表示される、ことと、
    (d)該表示された類似グループの1つ以上における個々の顔画像を確認または拒否するためのユーザ入力を受容することと、
    (e)該ユーザ入力により該表示された類似グループの1つ以上を更新することと
    を含む、方法。
  2. (f)前記更新された類似グループを前記顔画像データベースに記憶することをさらに含む、請求項1に記載の方法。
  3. (g)前記表示された類似グループの1つ以上に対する対象名を受容することと、
    (h)該対象名により該表示された類似グループの1つ以上を更新することと
    をさらに含む、請求項2に記載の方法。
  4. 前記段階(g)は、
    ユーザが、前記表示された類似グループのうちの少なくとも1つに対する名前をエントリのリストから選択することを可能にすることであって、該エントリのリストの各エントリは、名前および顔画像のうちの少なくとも1つを有し、該各エントリは、名前と関連した1つ以上の顔画像に対応し、該エントリのリストは、該表示された類似グループのうちの少なくとも1つへの類似性に従い順序付けられる、ことを含む、請求項3に記載の方法。
  5. 前記段階(c)は、
    (i)前記1つ以上の類似グループのそれぞれからの代表的な顔画像を、選択可能なフィルムストリップレイアウトで表示するステップと、
    (ii)ユーザ入力に基づいて、代表的顔画像を選択することと、
    (iii)該選択された代表的顔画像に対応する少なくとも1つの類似グループのうちの顔画像を表示することと
    を含む、請求項2に記載の方法。
  6. デジタル画像の集合から顔画像データベースを更新する方法であって、
    (a)ユーザから対象名を受容することと、
    (b)該顔画像データベースに記憶された顔画像の少なくとも1つの名前を付けられた類似グループから第1組の顔画像を取得することであって、該少なくとも1つの類似グループと関連付けられた名前は、対象名と実質的に一致する、ことと、
    (c)該第1組に対する第1の顔認識テンプレートを決定することと、
    (d)該顔画像データベースにおける1つ以上の名前を付けられていない類似グループから第2組の顔画像を取得することであって、該名前を付けられていない類似グループは関連した名前を有さず、該名前を付けられていない類似グループの顔認識テンプレートは該第1の顔認識テンプレートと実質的に一致する、ことと、
    (e)該第1組をグラフィカルユーザインタフェースに表示することと、
    (f)該第2組を該グラフィカルユーザインタフェースに表示することと、
    (g)該第2組に関連付けられたユーザ入力を受容することと、
    (h)該ユーザ入力に従い該第2組を更新することと
    を含む、方法。
  7. ステップ(e)は、
    (i)クラスタに配設された前記第1組をグラフィカルユーザインタフェースに表示することを含む、請求項6に記載の方法。
  8. ステップ(f)は、
    (i)前記第2組の各類似グループが別個のクラスタに配設された状態で、該第2組を前記グラフィカルユーザインタフェースに表示することを含む、請求項7に記載の方法。
  9. ユーザ入力を受容することは、
    (i)前記ユーザ入力に基づき1つ以上の顔画像を拒否することであって、該拒否された1つ以上の顔画像は、前記対象名を割り当てられない、ことと、
    (ii)該ユーザ入力に基づき前記第2組の1つ以上の類似グループを拒否することであって、該拒否された1つ以上の類似グループは、該対象名を割り当てられない、ことと、
    (iii)該ユーザ入力に基づき該第2組の1つ以上の類似グループを確認することと
    のうちの1つ以上をさらに含む、請求項6に記載の方法。
  10. 前記段階(h)は、
    (i)前記ユーザ入力に基づき前記第2組の類似グループの顔画像に前記対象名を割り当てることをさらに含む、請求項6に記載の方法。
  11. ステップ(e)は、
    (i)前記第1組を前記グラフィカルユーザインタフェースの第1の領域内に表示することを含む、請求項6に記載の方法。
  12. ステップ(f)は、
    (i)前記第2組を前記グラフィカルユーザインタフェースの第2の領域に表示することであって、該第2の組は、前記第1組との類似性に従い順序付けられる、ことを含む、請求項11に記載の方法。
  13. デジタル画像の集合において検出された複数の顔に名前を割り当てるための名前付けツールであって、
    (a)該デジタル画像の集合からの画像において検出された顔画像に関連するデータを記憶するように構成される、顔画像データベースと、
    (b)少なくとも1つのグラフィカルユーザインタフェースと、
    (c)該少なくとも1つのグラフィカルユーザインタフェースを通して、該データおよび該画像の一方または両方の操作を可能にする少なくとも1つのユーザ入力デバイスと、
    (d)該デジタル画像の集合の画像において顔を検出することと、該検出された顔に関連するデータを該顔画像データベースに記憶することとを行うように構成される、顔検出モジュールと、
    (e)該顔画像データベース内の各顔画像に対する少なくとも1つの顔認識テンプレートを計算するように構成される、顔認識モジュールと、
    (f)実質的に類似した顔画像が1つの類似グループに属するように、それぞれの顔認識テンプレートに従い該顔画像データベース内の顔画像をグループ分けするように構成される、類似性順位付けモジュールと、
    (g)類似グループに従い該顔画像をレイアウトするように構成される、表示レイアウト生成モジュールと
    を備え、該少なくとも1つのユーザ入力デバイス、該少なくとも1つのグラフィカルユーザインタフェース、該デジタル画像の集合、および該顔画像データベースは、該顔検出モジュール、該顔認識モジュール、該類似性順位付けモジュール、および該表示レイアウト生成モジュールに通信可能に結合される、名前付けツール。
  14. デジタル画像の集合からデジタル画像にアクセスする方法であって、
    (a)対象名を受容することと、
    (b)顔画像データベース内の第1組の顔画像を選択することであって、該第1組の中の顔画像は、該対象名を割り当てられる、ことと、
    (c)該デジタル画像の集合からデジタル画像を見付けることであって、該デジタル画像は、以前に該第1組の顔画像に関連付けられた、ことと
    を含む、方法。
  15. (d)前記デジタル画像を表示することと、
    (e)前記顔画像データベースに記憶されたデータを使用して、1つ以上の表示されたデジタル画像における少なくとも1つの顔に特殊効果を表示することと
    をさらに含む、請求項14に記載の方法。
  16. (d)前記対象名を割り当てられた顔画像にユーザがアクセスするのを認証することと、
    (e)前記第1組に以前に関連付けられた前記デジタル画像の集合の中の画像に該ユーザがアクセスするのを許可することと
    をさらに含む、請求項14に記載の方法。
  17. 複数のソース画像を使用して人物の画像を検索する方法であって、
    (a)対象名を受容することと、
    (b)該対象名を割り当てられる顔画像データベース内の第1組の顔画像を選択することと、
    (c)1つ以上のデジタル画像の集合を検索することであって、検索は、該第1組の顔画像を使用する自動顔認識を含む、ことと、
    を含む、方法。
  18. (d)一致画像が見付かった時に警告を生成することであって、該一致画像は、前記第1組の顔画像の中の少なくとも1つの顔画像に実質的に一致する顔画像を含む、ことをさらに含む、請求項17に記載の方法。
  19. (e)ユーザを前記対象名に関連付けることをさらに含む、請求項18に記載の方法。
  20. 前記警告を生成することは、
    (i)一致画像を見付けることであって、該一致画像は、前記第1の組の顔画像の中の少なくとも1つの顔画像に実質的に一致する顔画像を含む、ことと、
    (ii)掲載された画像において所定の種類の表示イベントのうちの少なくとも1つを検出することであって、該掲載された画像は、該少なくとも1つの顔画像に実質的に一致する一致顔画像を含む、ことと、
    (iii)該所定の種類の表示イベントのうちの前記少なくとも1つに関して前記ユーザに通知することと、
    (iv)該ユーザから入力選択を受容することと
    を含む、請求項19に記載の方法。
  21. (f)前記入力選択に基づき、1つ以上の場所から前記掲載された画像を自動的に削除することをさらに含む、請求項20に記載の方法。
  22. (f)前記入力選択に基づき、前記掲載された画像に割り当てられた1つ以上のタグを修正することをさらに含む、請求項20に記載の方法。
  23. (f)前記入力選択に基づき、前記少なくとも1つの画像を有する1つ以上のソースに通知することをさらに含む、請求項20に記載の方法。
  24. 一致画像を見付けることは、
    (i)前記少なくとも1つの画像において顔画像を検出することと、
    (ii)前記対象名を表す該顔画像を決定することと、
    (iii)該対象名および前記ユーザのうちの1つ以上を関連付けるタグを、該少なくとも1つの画像に割り当てることと
    を含む、請求項20に記載の方法。
JP2011502952A 2008-04-02 2009-04-01 デジタル画像集合内に自動顔認識を組み込む方法および装置 Pending JP2011516966A (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US4188308P 2008-04-02 2008-04-02
US61/041,883 2008-04-02
US5051408P 2008-05-05 2008-05-05
US61/050,514 2008-05-05
PCT/US2009/002014 WO2009123711A1 (en) 2008-04-02 2009-04-01 Method and apparatus to incorporate automatic face recognition in digital image collections

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2014128813A Division JP5869054B2 (ja) 2008-04-02 2014-06-24 デジタル画像集合内に自動顔認識を組み込む方法および装置

Publications (1)

Publication Number Publication Date
JP2011516966A true JP2011516966A (ja) 2011-05-26

Family

ID=40886267

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2011502952A Pending JP2011516966A (ja) 2008-04-02 2009-04-01 デジタル画像集合内に自動顔認識を組み込む方法および装置
JP2014128813A Active JP5869054B2 (ja) 2008-04-02 2014-06-24 デジタル画像集合内に自動顔認識を組み込む方法および装置

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2014128813A Active JP5869054B2 (ja) 2008-04-02 2014-06-24 デジタル画像集合内に自動顔認識を組み込む方法および装置

Country Status (6)

Country Link
US (2) US8358811B2 (ja)
EP (3) EP2618289A3 (ja)
JP (2) JP2011516966A (ja)
KR (1) KR101618735B1 (ja)
CN (1) CN101990667B (ja)
WO (1) WO2009123711A1 (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014016786A (ja) * 2012-07-09 2014-01-30 Canon Inc 画像処理装置、画像処理方法、及びプログラム
JP2014016784A (ja) * 2012-07-09 2014-01-30 Canon Inc 画像処理装置、画像処理方法、及びプログラム
JP6159491B1 (ja) * 2016-07-19 2017-07-05 株式会社オプティム 人物画特定システム、人物画特定方法及びプログラム
JP2021520016A (ja) * 2018-11-01 2021-08-12 ベイジン センスタイム テクノロジー デベロップメント カンパニー, リミテッド データベース更新方法及び装置、電子機器、並びにコンピュータ記憶媒体
JP7448664B2 (ja) 2020-01-06 2024-03-12 グーグル エルエルシー メディアコンテンツを検索およびインデックス付けするための埋め込みを共有するためのプライバシー制御

Families Citing this family (164)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8447077B2 (en) 2006-09-11 2013-05-21 Validity Sensors, Inc. Method and apparatus for fingerprint motion tracking using an in-line array
EP1800243B1 (en) 2004-10-04 2010-08-11 Validity Sensors, Inc. Fingerprint sensing assemblies comprising a substrate
CN104866553A (zh) * 2007-12-31 2015-08-26 应用识别公司 利用脸部签名来标识和共享数字图像的方法、系统和计算机程序
US9721148B2 (en) 2007-12-31 2017-08-01 Applied Recognition Inc. Face detection and recognition
US9639740B2 (en) 2007-12-31 2017-05-02 Applied Recognition Inc. Face detection and recognition
CN101990667B (zh) 2008-04-02 2013-08-28 谷歌公司 将自动人脸识别合并入数字图像集中的方法和装置
CN103402070B (zh) 2008-05-19 2017-07-07 日立麦克赛尔株式会社 记录再现装置及方法
JP2011524596A (ja) * 2008-06-17 2011-09-01 ジョステンス, インコーポレイテッド イヤーブック作成のためのシステムおよび方法
US9141863B2 (en) * 2008-07-21 2015-09-22 Facefirst, Llc Managed biometric-based notification system and method
US20100115036A1 (en) * 2008-10-31 2010-05-06 Nokia Coporation Method, apparatus and computer program product for generating a composite media file
US8457366B2 (en) 2008-12-12 2013-06-04 At&T Intellectual Property I, L.P. System and method for matching faces
US9727312B1 (en) * 2009-02-17 2017-08-08 Ikorongo Technology, LLC Providing subject information regarding upcoming images on a display
US9210313B1 (en) 2009-02-17 2015-12-08 Ikorongo Technology, LLC Display device content selection through viewer identification and affinity prediction
US10706601B2 (en) 2009-02-17 2020-07-07 Ikorongo Technology, LLC Interface for receiving subject affinity information
US20110052012A1 (en) * 2009-03-31 2011-03-03 Myspace Inc. Security and Monetization Through Facial Recognition in Social Networking Websites
JP2010259064A (ja) * 2009-04-03 2010-11-11 Olympus Imaging Corp 表示装置及び撮像装置
US8768313B2 (en) * 2009-08-17 2014-07-01 Digimarc Corporation Methods and systems for image or audio recognition processing
US8649602B2 (en) * 2009-08-18 2014-02-11 Cyberlink Corporation Systems and methods for tagging photos
JP5503921B2 (ja) * 2009-08-21 2014-05-28 ソニーモバイルコミュニケーションズ, エービー 情報端末、情報端末の情報制御方法及び情報制御プログラム
US8503739B2 (en) * 2009-09-18 2013-08-06 Adobe Systems Incorporated System and method for using contextual features to improve face recognition in digital images
US20110148857A1 (en) * 2009-12-23 2011-06-23 Microsoft Corporation Finding and sharing of digital images based on shared face models
US8416997B2 (en) * 2010-01-27 2013-04-09 Apple Inc. Method of person identification using social connections
US8645287B2 (en) * 2010-02-04 2014-02-04 Microsoft Corporation Image tagging based upon cross domain context
US9465993B2 (en) * 2010-03-01 2016-10-11 Microsoft Technology Licensing, Llc Ranking clusters based on facial image analysis
US20110243397A1 (en) 2010-03-30 2011-10-06 Christopher Watkins Searching digital image collections using face recognition
US8495057B2 (en) 2010-05-17 2013-07-23 Microsoft Corporation Image searching with recognition suggestion
US8270684B2 (en) * 2010-07-27 2012-09-18 Google Inc. Automatic media sharing via shutter click
US20120030575A1 (en) * 2010-07-27 2012-02-02 Cok Ronald S Automated image-selection system
JP5653131B2 (ja) 2010-08-25 2015-01-14 キヤノン株式会社 オブジェクト認識装置およびその認識方法
US8724910B1 (en) * 2010-08-31 2014-05-13 Google Inc. Selection of representative images
US8630494B1 (en) 2010-09-01 2014-01-14 Ikorongo Technology, LLC Method and system for sharing image content based on collection proximity
US8774528B2 (en) * 2010-09-24 2014-07-08 Kodak Alaris Inc. Method of selecting important digital images
US8824748B2 (en) * 2010-09-24 2014-09-02 Facebook, Inc. Auto tagging in geo-social networking system
KR101384446B1 (ko) * 2010-09-30 2014-04-10 후지츠 프론테크 가부시키가이샤 컴퓨터 판독가능한 기록 매체, 등록 장치, 및 등록 방법
US8744196B2 (en) * 2010-11-26 2014-06-03 Hewlett-Packard Development Company, L.P. Automatic recognition of images
US20120328168A1 (en) * 2011-01-31 2012-12-27 Andrea Dailey System and Method for Yearbook Creation
WO2012112992A2 (en) * 2011-02-18 2012-08-23 Google Inc. Facial recognition
US9251854B2 (en) 2011-02-18 2016-02-02 Google Inc. Facial detection, recognition and bookmarking in videos
US20120213404A1 (en) 2011-02-18 2012-08-23 Google Inc. Automatic event recognition and cross-user photo clustering
KR101770262B1 (ko) * 2011-03-16 2017-08-22 엘지전자 주식회사 전자 기기 및 전자 기기의 제어 방법
US8782136B1 (en) 2011-03-28 2014-07-15 Google Inc. System and method for providing access to data objects based on proximity
US9317530B2 (en) 2011-03-29 2016-04-19 Facebook, Inc. Face recognition based on spatial and temporal proximity
US8631084B2 (en) * 2011-04-29 2014-01-14 Facebook, Inc. Dynamic tagging recommendation
US9552376B2 (en) 2011-06-09 2017-01-24 MemoryWeb, LLC Method and apparatus for managing digital files
US20120314916A1 (en) * 2011-06-13 2012-12-13 Reagan Inventions, Llc Identifying and tagging objects within a digital image
US8831294B2 (en) 2011-06-17 2014-09-09 Microsoft Corporation Broadcast identifier enhanced facial recognition of images
US9195679B1 (en) 2011-08-11 2015-11-24 Ikorongo Technology, LLC Method and system for the contextual display of image tags in a social network
US9147047B1 (en) 2011-08-11 2015-09-29 West Corporation Image capture to enforce remote agent adherence
US8548207B2 (en) 2011-08-15 2013-10-01 Daon Holdings Limited Method of host-directed illumination and system for conducting host-directed illumination
US8903138B1 (en) 2011-09-06 2014-12-02 Google Inc. Face recognition using pre-templates
US8593452B2 (en) * 2011-12-20 2013-11-26 Apple Inc. Face feature vector construction
US9135410B2 (en) * 2011-12-21 2015-09-15 At&T Intellectual Property I, L.P. Digital rights management using a digital agent
WO2013100697A1 (en) * 2011-12-29 2013-07-04 Intel Corporation Method, apparatus, and computer-readable recording medium for authenticating a user
US9202105B1 (en) 2012-01-13 2015-12-01 Amazon Technologies, Inc. Image analysis for user authentication
CN103207870B (zh) * 2012-01-17 2020-06-02 华为技术有限公司 一种照片分类管理方法、服务器、装置及系统
US20130198836A1 (en) * 2012-01-31 2013-08-01 Google Inc. Facial Recognition Streamlined Login
US8824750B2 (en) 2012-03-19 2014-09-02 Next Level Security Systems, Inc. Distributive facial matching and notification system
US8666123B2 (en) 2012-04-26 2014-03-04 Google Inc. Creating social network groups
US20140233811A1 (en) * 2012-05-15 2014-08-21 Google Inc. Summarizing a photo album
US8891883B2 (en) 2012-05-15 2014-11-18 Google Inc. Summarizing a photo album in a social network system
KR101964348B1 (ko) * 2012-05-18 2019-04-01 삼성전자주식회사 미디어 기기에서의 콘텐츠 정렬 방법 및 장치와 그 방법에 대한 프로그램 소스를 저장한 기록 매체
US9483556B1 (en) 2012-05-25 2016-11-01 Google Inc. Aggregating photos captured at an event
US8855369B2 (en) 2012-06-22 2014-10-07 Microsoft Corporation Self learning face recognition using depth based tracking for database generation and update
US9665773B2 (en) * 2012-06-25 2017-05-30 Google Inc. Searching for events by attendants
US9391792B2 (en) 2012-06-27 2016-07-12 Google Inc. System and method for event content stream
US20140056489A1 (en) * 2012-08-22 2014-02-27 Google Inc. System and method for sharing media
US8856541B1 (en) 2013-01-10 2014-10-07 Google Inc. Liveness detection
US9396384B2 (en) 2013-03-13 2016-07-19 Intel Corporation User authentication via image manipulation
US9405771B2 (en) * 2013-03-14 2016-08-02 Microsoft Technology Licensing, Llc Associating metadata with images in a personal image collection
US9449216B1 (en) * 2013-04-10 2016-09-20 Amazon Technologies, Inc. Detection of cast members in video content
US9721175B2 (en) * 2013-05-08 2017-08-01 Jpmorgan Chase Bank, N.A. Systems and methods for high fidelity multi-modal out-of-band biometric authentication through vector-based multi-profile storage
US9760785B2 (en) 2013-05-08 2017-09-12 Jpmorgan Chase Bank, N.A. Systems and methods for high fidelity multi-modal out-of-band biometric authentication
US10235508B2 (en) 2013-05-08 2019-03-19 Jpmorgan Chase Bank, N.A. Systems and methods for high fidelity multi-modal out-of-band biometric authentication with human cross-checking
US10032091B2 (en) * 2013-06-05 2018-07-24 Emotient, Inc. Spatial organization of images based on emotion face clouds
CN105593901B (zh) 2013-06-28 2020-06-12 日本电气株式会社 训练数据生成设备、方法和程序以及人群状态识别设备、方法和程序
US9923855B2 (en) 2013-08-01 2018-03-20 Jpmorgan Chase Bank, N.A. Systems and methods for electronic message prioritization
US9892576B2 (en) 2013-08-02 2018-02-13 Jpmorgan Chase Bank, N.A. Biometrics identification module and personal wearable electronics network based authentication and transaction processing
US9910865B2 (en) 2013-08-05 2018-03-06 Nvidia Corporation Method for capturing the moment of the photo capture
US20150066941A1 (en) * 2013-08-30 2015-03-05 U-Me Holdings LLC Photo cataloging, storage and retrieval using relationships between people
US20150085146A1 (en) * 2013-09-23 2015-03-26 Nvidia Corporation Method and system for storing contact information in an image using a mobile device
US9829480B2 (en) 2013-09-26 2017-11-28 Alcohol Monitoring Systems, Inc. Remote breath alcohol monitor
CN103593650B (zh) * 2013-10-28 2017-01-25 浙江大学 一种基于表情识别系统生成艺术图像的方法
US9569656B2 (en) 2013-12-06 2017-02-14 Google Inc. Local real-time facial recognition
KR101480256B1 (ko) * 2013-12-13 2015-01-09 계명대학교 산학협력단 얼굴 영역의 위치를 고려한 화상 통신 장치 및 그 방법
CN103646199B (zh) * 2013-12-26 2016-06-15 中国电子科技集团公司第三研究所 一种基于九宫格密码和人脸图像的身份验证方法
KR101534808B1 (ko) * 2013-12-30 2015-07-08 주식회사 시어스랩 얼굴 인식 기술을 이용한 전자 앨범 관리 방법 및 시스템
US9635108B2 (en) 2014-01-25 2017-04-25 Q Technologies Inc. Systems and methods for content sharing using uniquely generated idenifiers
US10121060B2 (en) * 2014-02-13 2018-11-06 Oath Inc. Automatic group formation and group detection through media recognition
US9268793B2 (en) * 2014-03-12 2016-02-23 Google Inc. Adjustment of facial image search results
CN104933391B (zh) * 2014-03-20 2018-08-10 联想(北京)有限公司 用于进行面部识别的方法和装置、以及电子设备
US9614724B2 (en) 2014-04-21 2017-04-04 Microsoft Technology Licensing, Llc Session-based device configuration
US9639742B2 (en) 2014-04-28 2017-05-02 Microsoft Technology Licensing, Llc Creation of representative content based on facial analysis
US9773156B2 (en) 2014-04-29 2017-09-26 Microsoft Technology Licensing, Llc Grouping and ranking images based on facial recognition data
US9519826B2 (en) * 2014-05-08 2016-12-13 Shutterfly, Inc. Automatic image product creation for user accounts comprising large number of images
US9430667B2 (en) 2014-05-12 2016-08-30 Microsoft Technology Licensing, Llc Managed wireless distribution network
US10111099B2 (en) 2014-05-12 2018-10-23 Microsoft Technology Licensing, Llc Distributing content in managed wireless distribution networks
US9384335B2 (en) 2014-05-12 2016-07-05 Microsoft Technology Licensing, Llc Content delivery prioritization in managed wireless distribution networks
US9384334B2 (en) 2014-05-12 2016-07-05 Microsoft Technology Licensing, Llc Content discovery in managed wireless distribution networks
US9874914B2 (en) 2014-05-19 2018-01-23 Microsoft Technology Licensing, Llc Power management contracts for accessory devices
US10037202B2 (en) 2014-06-03 2018-07-31 Microsoft Technology Licensing, Llc Techniques to isolating a portion of an online computing service
KR102223205B1 (ko) 2014-06-11 2021-03-08 삼성전자주식회사 이미지 분류 장치, 이의 동작 방법 및 이를 포함하는 전자 시스템
US9367490B2 (en) 2014-06-13 2016-06-14 Microsoft Technology Licensing, Llc Reversible connector for accessory devices
US9460493B2 (en) 2014-06-14 2016-10-04 Microsoft Technology Licensing, Llc Automatic video quality enhancement with temporal smoothing and user override
US20150362989A1 (en) * 2014-06-17 2015-12-17 Amazon Technologies, Inc. Dynamic template selection for object detection and tracking
US9373179B2 (en) 2014-06-23 2016-06-21 Microsoft Technology Licensing, Llc Saliency-preserving distinctive low-footprint photograph aging effect
WO2015200350A1 (en) 2014-06-24 2015-12-30 Google Inc. Ranking and selecting images for display from a set of images
US10915618B2 (en) 2014-08-28 2021-02-09 Facetec, Inc. Method to add remotely collected biometric images / templates to a database record of personal information
US10614204B2 (en) 2014-08-28 2020-04-07 Facetec, Inc. Facial recognition authentication system including path parameters
US11256792B2 (en) 2014-08-28 2022-02-22 Facetec, Inc. Method and apparatus for creation and use of digital identification
US10803160B2 (en) 2014-08-28 2020-10-13 Facetec, Inc. Method to verify and identify blockchain with user question data
US10698995B2 (en) 2014-08-28 2020-06-30 Facetec, Inc. Method to verify identity using a previously collected biometric image/data
CA3186147A1 (en) 2014-08-28 2016-02-28 Kevin Alan Tussy Facial recognition authentication system including path parameters
CN104284252A (zh) * 2014-09-10 2015-01-14 康佳集团股份有限公司 一种自动生成电子相册的方法
KR102024867B1 (ko) 2014-09-16 2019-09-24 삼성전자주식회사 예제 피라미드에 기초하여 입력 영상의 특징을 추출하는 방법 및 얼굴 인식 장치
US20160092082A1 (en) * 2014-09-29 2016-03-31 Apple Inc. Visualizing Relationships Between Entities in Content Items
US9507996B2 (en) 2015-03-02 2016-11-29 International Business Machines Corporation Ensuring a desired distribution of images in a multimedia document utilizing facial signatures
US10121056B2 (en) 2015-03-02 2018-11-06 International Business Machines Corporation Ensuring a desired distribution of content in a multimedia document for different demographic groups utilizing demographic information
US10445391B2 (en) 2015-03-27 2019-10-15 Jostens, Inc. Yearbook publishing system
CN104852967B (zh) 2015-04-21 2018-03-27 小米科技有限责任公司 图片共享方法及装置
US9448704B1 (en) 2015-04-29 2016-09-20 Dropbox, Inc. Navigating digital content using visual characteristics of the digital content
JP6785305B2 (ja) 2015-07-15 2020-11-18 15 セカンズ オブ フェイム,インコーポレイテッド 顔認識及びコンテキストビデオストリームで個人を識別するためのビデオ解析技術のための装置及び方法
CN106371551A (zh) * 2015-07-20 2017-02-01 深圳富泰宏精密工业有限公司 人脸表情操作系统、方法及电子装置
CN106453209B (zh) * 2015-08-07 2020-01-21 阿里巴巴集团控股有限公司 一种身份验证方法和装置
CN105224838B (zh) * 2015-09-28 2018-02-09 广东欧珀移动通信有限公司 一种基于人脸识别的用户权限控制方法和系统
EP3274878A1 (en) 2015-09-28 2018-01-31 Google LLC Sharing images and image albums over a communication network
US10320861B2 (en) 2015-09-30 2019-06-11 Google Llc System and method for automatic meeting note creation and sharing using a user's context and physical proximity
AU2016342028B2 (en) 2015-10-21 2020-08-20 15 Seconds of Fame, Inc. Methods and apparatus for false positive minimization in facial recognition applications
EP3371742A4 (en) 2015-11-04 2019-06-26 Shutterfly, Inc. AUTOMATIC PICTURE PRODUCT POSITION FOR USER ACCOUNTS WITH A LARGE NUMBER OF IMAGES
CN105426485A (zh) * 2015-11-20 2016-03-23 小米科技有限责任公司 图像合并方法和装置、智能终端和服务器
CN105608425B (zh) * 2015-12-17 2019-02-15 小米科技有限责任公司 对照片进行分类存储的方法及装置
SG10201601838TA (en) * 2016-03-09 2017-10-30 Trakomatic Pte Ltd Method and system for visitor tracking at a pos area
US10127945B2 (en) * 2016-03-15 2018-11-13 Google Llc Visualization of image themes based on image content
US10198625B1 (en) 2016-03-26 2019-02-05 Videomining Corporation Association of unique person to a mobile device using repeat face image matching
USD987653S1 (en) 2016-04-26 2023-05-30 Facetec, Inc. Display screen or portion thereof with graphical user interface
US10083358B1 (en) 2016-07-26 2018-09-25 Videomining Corporation Association of unique person to point-of-sale transaction data
US9996773B2 (en) * 2016-08-04 2018-06-12 International Business Machines Corporation Face recognition in big data ecosystem using multiple recognition models
US10614436B1 (en) 2016-08-25 2020-04-07 Videomining Corporation Association of mobile device to retail transaction
WO2018045358A1 (en) 2016-09-05 2018-03-08 Google Llc Generating theme-based videos
JP2018081402A (ja) * 2016-11-15 2018-05-24 キヤノン株式会社 画像処理装置、画像処理方法、及びプログラム
CN110073347A (zh) * 2016-12-06 2019-07-30 电子湾有限公司 锚定搜索
US10095915B2 (en) 2017-01-25 2018-10-09 Chaim Mintz Photo subscription system and method using biometric identification
US11222227B2 (en) 2017-01-25 2022-01-11 Chaim Mintz Photo subscription system and method using biometric identification
WO2018212815A1 (en) 2017-05-17 2018-11-22 Google Llc Automatic image sharing with designated users over a communication network
US11169661B2 (en) * 2017-05-31 2021-11-09 International Business Machines Corporation Thumbnail generation for digital images
US20190065834A1 (en) * 2017-08-22 2019-02-28 Incode Technologies, Inc. Apparatus and method for configurable automated distribution of images
CN109947965B (zh) * 2017-09-04 2023-09-05 阿里巴巴集团控股有限公司 对象识别、数据集合的更新、数据处理方法与装置
CN108170750A (zh) * 2017-12-21 2018-06-15 深圳英飞拓科技股份有限公司 一种人脸数据库更新方法、系统及终端设备
US11735018B2 (en) 2018-03-11 2023-08-22 Intellivision Technologies Corp. Security system with face recognition
CN112074827A (zh) * 2018-04-27 2020-12-11 上海趋视信息科技有限公司 图像归档的系统和方法
KR102102405B1 (ko) 2018-06-08 2020-04-20 부산대학교 산학협력단 머신 러닝을 통한 영상 인식을 위한 장치 및 방법
CN109101542B (zh) * 2018-07-02 2021-02-02 深圳市商汤科技有限公司 图像识别结果输出方法及装置、电子设备和存储介质
US10936856B2 (en) 2018-08-31 2021-03-02 15 Seconds of Fame, Inc. Methods and apparatus for reducing false positives in facial recognition
CN111125390A (zh) * 2018-11-01 2020-05-08 北京市商汤科技开发有限公司 数据库更新方法和装置、电子设备、计算机存储介质
US20200151453A1 (en) * 2018-11-08 2020-05-14 International Business Machines Corporation Reducing overlap among a collection of photographs
WO2020113582A1 (en) 2018-12-07 2020-06-11 Microsoft Technology Licensing, Llc Providing images with privacy label
CN109753920B (zh) * 2018-12-29 2021-09-17 深圳市商汤科技有限公司 一种行人识别方法及装置
US10936178B2 (en) 2019-01-07 2021-03-02 MemoryWeb, LLC Systems and methods for analyzing and organizing digital photos and videos
US11010596B2 (en) 2019-03-07 2021-05-18 15 Seconds of Fame, Inc. Apparatus and methods for facial recognition systems to identify proximity-based connections
US11283937B1 (en) 2019-08-15 2022-03-22 Ikorongo Technology, LLC Sharing images based on face matching in a network
US11341351B2 (en) * 2020-01-03 2022-05-24 15 Seconds of Fame, Inc. Methods and apparatus for facial recognition on a user device
CN111797746A (zh) * 2020-06-28 2020-10-20 北京小米松果电子有限公司 人脸识别方法、装置及计算机可读存储介质
CN112817503B (zh) * 2021-01-18 2024-03-26 陈林斌 电子相框的智能显示方法、电子相框及可读存储介质
US11750666B2 (en) * 2021-04-22 2023-09-05 Bank Of America Corporation Dynamic group session data access protocols
WO2023129561A1 (en) * 2021-12-28 2023-07-06 Woods Jeremiah Consumption of a video feed from a remotely located camera device

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002207741A (ja) * 2001-01-12 2002-07-26 Minolta Co Ltd 画像データ検索装置、画像データ検索方法、画像データ検索プログラムおよび画像データ検索プログラムを記録したコンピュータ読み取り可能な記録媒体
JP2004258764A (ja) * 2003-02-24 2004-09-16 Nec Corp 人物情報管理システムおよび人物情報管理装置
JP2005032163A (ja) * 2003-07-11 2005-02-03 Nec Commun Syst Ltd 顔照合システム
JP2006244279A (ja) * 2005-03-04 2006-09-14 Mitsubishi Electric Corp 画像分類装置
JP2006243849A (ja) * 2005-02-28 2006-09-14 Toshiba Corp 機器制御装置及びその方法
JP2007026316A (ja) * 2005-07-20 2007-02-01 Yamaha Motor Co Ltd 画像管理装置、ならびに画像管理用コンピュータプログラムおよびそれを記録した記録媒体

Family Cites Families (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6222939B1 (en) 1996-06-25 2001-04-24 Eyematic Interfaces, Inc. Labeled bunch graphs for image analysis
US6301370B1 (en) 1998-04-13 2001-10-09 Eyematic Interfaces, Inc. Face recognition from video images
US7634662B2 (en) * 2002-11-21 2009-12-15 Monroe David A Method for incorporating facial recognition technology in a multimedia surveillance system
US6606398B2 (en) * 1998-09-30 2003-08-12 Intel Corporation Automatic cataloging of people in digital photographs
US7099510B2 (en) 2000-11-29 2006-08-29 Hewlett-Packard Development Company, L.P. Method and system for object detection in digital images
US6917703B1 (en) 2001-02-28 2005-07-12 Nevengineering, Inc. Method and apparatus for image analysis of a gabor-wavelet transformed image using a neural network
US8086867B2 (en) * 2002-03-26 2011-12-27 Northrop Grumman Systems Corporation Secure identity and privilege system
US20030210808A1 (en) * 2002-05-10 2003-11-13 Eastman Kodak Company Method and apparatus for organizing and retrieving images containing human faces
AU2003282943A1 (en) * 2002-10-11 2004-05-04 Digimarc Corporation Systems and methods for recognition of individuals using multiple biometric searches
US7286723B2 (en) * 2003-06-27 2007-10-23 Hewlett-Packard Development Company, L.P. System and method for organizing images
US7274822B2 (en) * 2003-06-30 2007-09-25 Microsoft Corporation Face annotation for photo management
JP2005080216A (ja) * 2003-09-03 2005-03-24 Casio Comput Co Ltd 画像処理装置、画像処理方法及びそのプログラム
US7822233B2 (en) * 2003-11-14 2010-10-26 Fujifilm Corporation Method and apparatus for organizing digital media based on face recognition
WO2005055138A2 (en) * 2003-11-26 2005-06-16 Yesvideo, Inc. Statical modeling of a visual image for use in determining similarity between visual images
KR100601997B1 (ko) * 2004-10-12 2006-07-18 삼성전자주식회사 인물기반 디지털 사진 클러스터링 방법 및 장치와 이를이용한 인물기반 디지털 사진 앨버밍 방법 및 장치
US7646895B2 (en) * 2005-04-05 2010-01-12 3Vr Security, Inc. Grouping items in video stream images into events
US7809722B2 (en) * 2005-05-09 2010-10-05 Like.Com System and method for enabling search and retrieval from image files based on recognized information
JP2007052646A (ja) * 2005-08-18 2007-03-01 Fujifilm Holdings Corp 画像検索装置、画像プリント装置、プリント注文システム、店頭プリント端末装置、撮像装置、画像検索プログラム及び方法
US7920745B2 (en) * 2006-03-31 2011-04-05 Fujifilm Corporation Method and apparatus for performing constrained spectral clustering of digital image data
US7907755B1 (en) * 2006-05-10 2011-03-15 Aol Inc. Detecting facial similarity based on human perception of facial similarity
CN100511230C (zh) * 2006-05-29 2009-07-08 北京万网志成科技有限公司 基于网页页面文本的图像检索及显示方法
US7684651B2 (en) * 2006-08-23 2010-03-23 Microsoft Corporation Image-based face search
CN101990667B (zh) 2008-04-02 2013-08-28 谷歌公司 将自动人脸识别合并入数字图像集中的方法和装置
US8036417B2 (en) * 2008-06-11 2011-10-11 Eastman Kodak Company Finding orientation and date of hardcopy medium

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002207741A (ja) * 2001-01-12 2002-07-26 Minolta Co Ltd 画像データ検索装置、画像データ検索方法、画像データ検索プログラムおよび画像データ検索プログラムを記録したコンピュータ読み取り可能な記録媒体
JP2004258764A (ja) * 2003-02-24 2004-09-16 Nec Corp 人物情報管理システムおよび人物情報管理装置
JP2005032163A (ja) * 2003-07-11 2005-02-03 Nec Commun Syst Ltd 顔照合システム
JP2006243849A (ja) * 2005-02-28 2006-09-14 Toshiba Corp 機器制御装置及びその方法
JP2006244279A (ja) * 2005-03-04 2006-09-14 Mitsubishi Electric Corp 画像分類装置
JP2007026316A (ja) * 2005-07-20 2007-02-01 Yamaha Motor Co Ltd 画像管理装置、ならびに画像管理用コンピュータプログラムおよびそれを記録した記録媒体

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014016786A (ja) * 2012-07-09 2014-01-30 Canon Inc 画像処理装置、画像処理方法、及びプログラム
JP2014016784A (ja) * 2012-07-09 2014-01-30 Canon Inc 画像処理装置、画像処理方法、及びプログラム
US9519842B2 (en) 2012-07-09 2016-12-13 Canon Kabushiki Kaisha Apparatus and method for managing an object extracted from image data
US9563823B2 (en) 2012-07-09 2017-02-07 Canon Kabushiki Kaisha Apparatus and method for managing an object extracted from image data
JP6159491B1 (ja) * 2016-07-19 2017-07-05 株式会社オプティム 人物画特定システム、人物画特定方法及びプログラム
WO2018015988A1 (ja) * 2016-07-19 2018-01-25 株式会社オプティム 人物画特定システム、人物画特定方法及びプログラム
US9922239B2 (en) 2016-07-19 2018-03-20 Optim Corporation System, method, and program for identifying person in portrait
JP2021520016A (ja) * 2018-11-01 2021-08-12 ベイジン センスタイム テクノロジー デベロップメント カンパニー, リミテッド データベース更新方法及び装置、電子機器、並びにコンピュータ記憶媒体
JP7133085B2 (ja) 2018-11-01 2022-09-07 ベイジン・センスタイム・テクノロジー・デベロップメント・カンパニー・リミテッド データベース更新方法及び装置、電子機器、並びにコンピュータ記憶媒体
JP7448664B2 (ja) 2020-01-06 2024-03-12 グーグル エルエルシー メディアコンテンツを検索およびインデックス付けするための埋め込みを共有するためのプライバシー制御

Also Published As

Publication number Publication date
EP2618289A3 (en) 2014-07-30
EP2618290A2 (en) 2013-07-24
KR101618735B1 (ko) 2016-05-09
CN101990667A (zh) 2011-03-23
US8897508B2 (en) 2014-11-25
EP2618289A2 (en) 2013-07-24
US20090252383A1 (en) 2009-10-08
JP5869054B2 (ja) 2016-02-24
US8358811B2 (en) 2013-01-22
US20130251217A1 (en) 2013-09-26
JP2014222519A (ja) 2014-11-27
EP2281248A1 (en) 2011-02-09
WO2009123711A1 (en) 2009-10-08
EP2618290A3 (en) 2014-08-06
CN101990667B (zh) 2013-08-28
KR20100129783A (ko) 2010-12-09

Similar Documents

Publication Publication Date Title
JP5869054B2 (ja) デジタル画像集合内に自動顔認識を組み込む方法および装置
US20220269715A1 (en) Facial based image organization and retrieval method
US9721148B2 (en) Face detection and recognition
US8473525B2 (en) Metadata generation for image files
US9639740B2 (en) Face detection and recognition
US20180046855A1 (en) Face detection and recognition
US8416997B2 (en) Method of person identification using social connections
US8027541B2 (en) Image organization based on image content
JP5524219B2 (ja) 対話式画像選択方法
US9030502B2 (en) System and method for organizing documents
JP2007507775A (ja) メディア項目のクラスタリングとクエリとを行う方法
US20170208069A1 (en) Masking restrictive access control in a networked environment
WO2007129474A1 (ja) 被写体認識装置、被写体認識プログラム、および画像検索サービス提供方法
US20220050867A1 (en) Image management with region-based metadata indexing
KR100827845B1 (ko) 인물 태그 제공 장치 및 방법
Cerosaletti et al. Approaches to consumer image organization based on semantic categories
US20170109803A1 (en) Method and system for visual search based user-specific and customizable inventory management system

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120330

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130627

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130705

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20131007

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20140227