JP2003233624A - デジタル画像化システムで情緒的な情報を生成及び使用する方法 - Google Patents

デジタル画像化システムで情緒的な情報を生成及び使用する方法

Info

Publication number
JP2003233624A
JP2003233624A JP2002371619A JP2002371619A JP2003233624A JP 2003233624 A JP2003233624 A JP 2003233624A JP 2002371619 A JP2002371619 A JP 2002371619A JP 2002371619 A JP2002371619 A JP 2002371619A JP 2003233624 A JP2003233624 A JP 2003233624A
Authority
JP
Japan
Prior art keywords
image
user
images
emotional
block
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2002371619A
Other languages
English (en)
Other versions
JP4441172B2 (ja
Inventor
Tomasz A Matraszek
アンドレイ マトラゼック トーマズ
Elena A Fedorovskaya
エイ フェドロフスカヤ エレナ
Serguei Endrikhovski
エンドリコフスキ セルジェイ
Kenneth Alan Parulski
アラン パルルスキ ケネス
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Eastman Kodak Co
Original Assignee
Eastman Kodak Co
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from US10/036,123 external-priority patent/US20030117651A1/en
Priority claimed from US10/036,157 external-priority patent/US7307636B2/en
Priority claimed from US10/036,113 external-priority patent/US20030128389A1/en
Application filed by Eastman Kodak Co filed Critical Eastman Kodak Co
Publication of JP2003233624A publication Critical patent/JP2003233624A/ja
Application granted granted Critical
Publication of JP4441172B2 publication Critical patent/JP4441172B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/58Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually

Abstract

(57)【要約】 【課題】 本発明の目的は、反応に基づいて画像を分類
するために、画像に対するユーザの反応に関した情緒的
な情報を活用することである。 【解決手段】 複数の記憶されたデジタル画像から少な
くとも一つのデジタル画像を分類するために情緒的な情
報を提供することと;ユーザ識別子を提供することと;
少なくとも一つのデジタル画像に情緒的な情報及びユー
ザ識別子を関連させること、並びに少なくとも一つのデ
ジタル画像の検索を容易にするために情緒的な情報及び
ユーザ識別子を使用することを含有する記憶されたデジ
タル画像において検索スキームを提供するための方法。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、デジタル画像を検
索するシステムに関し、より詳細には情緒的な情報に基
づいたデジタル画像を検索するシステムに関する。
【0002】
【従来の技術】デジタルカメラ若しくは走査された写真
フィルムのデジタル画像はホームコンピューターを用い
て見ることができ、保存でき、検索でき、印刷できる
か、又はここに参照として組み込まれている開示に記載
のように、見るためにウェブサイトにアップロードでき
る(例えば、特許文献1参照。)。ウェブブラウザを用
いて、かかるデジタル画像のグループは、例えばコダッ
クフォトネットサービスを用いて見ることができ、印刷
するために選択することができる。ユーザは生成される
各印刷の大きさを選択でき、各画像からなる印刷枚数を
選択できる。
【0003】画像は、人、場所、目的又は出来事が描写
される論文にしたがって、カテゴリーに組織化できるも
のもある(例えば、非特許文献1参照)。この論文は、
ユーザの収集で“最良”の画像を示すために使用され
る、“お気に入り”特質を含むある画像を記述するため
に使用される、メタデータ特質について記述する。しか
しながら、この論文では、どのユーザが、これが“お気
に入り”画像であることを示したか指定するお気に入り
特質とは関係ないために、“お気に入り”特質は1人の
ユーザの自分のPCの上の画像を検索することを支援す
るために単に使用することができる。PCが一人以上の
ユーザによって使用されるのであれば、FotoFil
eシステムは、ユーザが“お気に入り”としてどの画像
を標識したか区別できない。さらに、“お気に入り”特
質はデジタル画像ファイルとは別個のデータベースに記
憶される。さらに、デジタル画像ファイルが異なるシス
テムで使用される場合、例えば画像がCD−R若しくは
他の媒体を介して転送される場合か、又はオンラインの
フォトサービスプロバイダーにアップロードされる場
合、“お気に入り”特質の情報はもはや有効ではない。
【0004】画像に関する様々なタイプのメタデータが
標準化されている。例えば、国際標準化機構(ISO)
グループISO/IECJTC1/SC29/WG11
の“動画と音声のコード化(Coding of Mo
ving Picturesand Audio)”
は、動画を備えて記憶できる、様々なタイプのメタデー
タを定義する、MPEG−7を要求するドキュメント
(“MPEG−7 Requirements Doc
ument”)V.8,No.N2727,1999年
3月を開発した。さらに、デジタル画像化グループ(D
IG)はDIG35メタデータ規格を開発した。しかし
ながら、かかるいずれの詳細は、画像が特定のユーザに
おいてお気に入り画像であるかを示唆する、メタデータ
を定義しない。
【0005】ここに参照として組み入れられている開示
のように、アルバムページは同一ページの多くの画像を
配置することによってデジタル画像から生成できる(例
えば、特許文献2参照。)。かかるアルバムページは、
ページの画像のサイズと配置に関してカスタマイズで
き、アルバムページのサイズと仕上げに関してカスタマ
イズでき、さらに背景色又は使用されるパターンに関し
てカスタマイズできる。また、アルバムページのデジタ
ル画像を整理する方法がある(例えば、特許文献3参
照)。しかしながら、もしユーザが手動で介在せず、手
動で彼らの画像を調節しなければ、ユーザのお気に入り
画像をより大きくするか又はより顕著にすることによっ
て、この方法はユーザのお気に入り画像を自動的に特色
とすることができない。
【0006】
【特許文献1】米国特許第5,666,215号明細書
【特許文献2】米国特許第6,004,061号明細書
【特許文献3】米国特許出願公開第09/559,47
8号明細書
【特許文献4】米国特許第5,760,917号明細書
【非特許文献1】クチンスキー(Kuchinsky)
等著、「ホトファイル:消費者マルチメディア構成及び
検索システム(FotoFile: A Consum
er Multimedia Organizatio
n and Retrieval System)」
【非特許文献2】ピーター.J.ラング(Peter
J. Lang)等著「絵を見ること:情緒的行動、表
情、直感的行動及び行動的反応」(“Looking
at Pictures: Affective, f
acial, visceral, and beha
vioral reactions”)、1993年、
精神生理学(Psychophysiology)、3
0、p.261−273
【非特許文献3】イルファン エサ(Irfan Es
sa)等「ダイナミックモデルと移動エネルギーを用い
る顔の表情の認識」(“Facial Express
ion Recognition using a D
ynamic Modeland Motion En
ergy”)、MITメディア研究所知覚計算部門技術
レポート第307(MIT Media Labora
tory Perceptual Computing
Section TechnicalReport
No.307)、p.1−8
【発明が解決しようとする課題】本発明の目的は、反応
に基づいて画像を分類するために、画像に対するユーザ
の反応に関した情緒的な情報を活用することである。
【0007】
【課題を解決するための手段】かかる目的は、記憶され
たデジタル画像において検索スキームを提供するための
方法によって達成でき、その方法は下記の段階: a)複数の記憶されたデジタル画像から少なくとも一つ
のデジタル画像を分類するために情緒的な情報を提供す
ることと; b)ユーザ識別子を提供することと; c)少なくとも一つのデジタル画像に情緒的な情報及び
ユーザ識別子を関連させること、並びに d)少なくとも一つのデジタル画像の検索を容易にする
ために情緒的な情報及びユーザ識別子を使用することを
含む。
【0008】
【発明の実施の形態】本発明は、デジタル画像に関する
情緒的な情報とユーザ識別子を記憶するため、及びデジ
タル画像を検索し、アルバムページなどのハードコピー
出力の生成において情緒的な情報とユーザ識別子を使用
するための画像に関する情緒的な情報を決定するための
方法を定義する。本発明は、同一画像に対する異なる人
々の情緒的な反応を関連させる。ネットワーク化された
フォトシステムで使用される場合、人々はこれによって
共有することができ、より個人的な方法で画像を使用す
る。標準的な手法で情緒的な情報とユーザ識別子を記憶
することによって、特定の使用者における情緒的な情報
を用いて個人的なアルバムページなどの画像化製品を自
動的に生成することが可能である。
【0009】情緒的な情報は、画像に対する人の感情又
は情動に間する情報として本発明で定義される。この情
報は、通常、与えられた画像に対する人の主観的な反応
を描写するか又は表す。画像は静止画像であるか、又は
ビデオクリップなどの動画であり得る。情緒的な情報
は、画像が“お気に入り”かどうかのような画像にユー
ザが関連させた重要度のレベルを示すことができる。例
えば、ユーザは結婚式又はクリスマスパーティなどの行
事では多くの写真を撮る。かかる多くの写真のうちで
も、通常は数枚の写真を使用者は特別に気に入る。情緒
的な情報はまた、恐れ、怒り、幸福などの感情的な分野
を含むことができる。
【0010】情緒的な情報の簡素な実施例は、画像がユ
ーザにおいて“お気に入り”か又は“重要な”画像であ
ると確認されたかどうかを示す、画像と関連する“タ
グ”又は“フラッグ”である。かかるタグの欠損は、画
像がユーザにとってお気に入りであるか又は重要な画像
として識別することを示唆する。かかるタグは、画像を
“お気に入り”と“通常”の分野に分類する、二元性の
分類を表す。別の実施例において、お気に入りの画像は
レベルの範囲に分類される。例えば、画像は−10乃至
+10の範囲に分類でき、ここで0は未分類の画像にお
いて使用され、+10は“最もお気に入り”の画像にお
いて使用され、−10は“最も好ましくない”画像で使
用される。
【0011】異なるユーザが同一の画像に対して異なっ
た感情的反応を有することを本発明は認識する。したが
って、有用なことには、画像に関する情緒的な情報は特
定のユーザと関係するべきである。これは、情緒的な情
報に沿ったユーザ識別子を提供することによってなすこ
とができる。ユーザ識別子は、特定のユーザを識別する
ことを可能にする任意の型の情報であり得る。ユーザ識
別子は、グローバルな独特のID(GUID)、ユーザ
番号、ソーシャルセキュリティ番号などの個人的な識別
コードであり得る。ユーザ識別子はまた、完全な法的な
名前、ニックネーム、コンピューターのユーザ名、また
は同類のものであり得る。代替として、ユーザ識別子
は、表情の画像若しくは描写、指紋画像若しくは描写、
網膜走査、又は同類の情報を含むことができる。
【0012】特定の画像に対するユーザの感情的な反応
が時間の経過につれて変化できることを本発明は認識す
る。例えば、ユーザは家族で集まった時に撮った、彼等
の子供及び配偶者のお気に入りの写真を有するかもしれ
ない。後に彼等は離婚するかもしれない。この時、その
画像はユーザに幸福な想い出を提供する、同様のお気に
入りの写真ではなくなる。代わって、ユーザの悲しみ又
は怒りとなる、“憎ましい”写真である。したがって、
本発明の数多の実施態様において、日付又は期間は情緒
的な情報に関係する。加えて、異なる日付又は期間で提
供される、同一のユーザの情緒的な情報は、画像と関係
することができる。さらに与えられた画像に対するユー
ザの反応の履歴は、治療、診断又は遡及的な目的におい
て使用できる、人の反応の変化の分析を可能にする。
【0013】情緒的な情報は、例えばマウス、キーパッ
ド、若しくは音声認識を用い、ユーザによって手動で入
力できるか、又は自動的に集めることができる。
【0014】下記は、情緒的な情報を自動に集めるため
の手法の実施例であり、それらは、重要な画像であるこ
とを通常示唆する長期間において見つめている、画像を
見る長い時間、何回も画像が印刷されたか又は画像が電
子メールを介して他に送られたかなど、画像の扱いに関
する、他の行動/使用情報、ユーザが画像を見るように
ビデオカメラによって自動的に撮像できるユーザの表
情、ユーザが画像を見るようにビデオカメラによって記
憶される身体のジェスチャー、画像を見る間のユーザの
視線のようなユーザの眼球の動き、画像を見る間に記憶
されるユーザの声、画像を見る間に記憶される、入力装
置(例えば、ジョイスティック又はマウス)へのユーザ
の手の圧力、及びユーザが画像を見ることで記憶される
ユーザの生物測定的又は生理的な反応であり、それら
は、EMG、温度、GSR、心拍数、脳波EFG、脳の
画像化信号などを含有する、信号の任意の組み合わせと
なることができる。
【0015】下記は、情緒的な情報を手動で提供するユ
ーザのための方法の実施例であり、それらは、“お気に
入りの画像”タグを表すアイコンをユーザがマウスで
“クリック”すること、画像に対して主観的な反応(例
えば、面白い、悲しい、等)を描写する、キーワードを
ユーザがタイプすること、又はキーワードのグループか
らキーワードを選択すること、及びユーザが音声記憶
(例えば、“これは私の一番お気に入りの画像”などの
言葉)を備えた画像に注釈を付けること、である。
【0016】情緒的な情報は典型的には、ユーザが例え
ば彼等のホームコンピューターで彼等の自宅にて画像を
見るように、手動又は自動のいずれかで決定される。情
緒的な札付けは、情緒的な情報を決定し、画像に関する
情緒的な情報を記憶する工程として定義される。情緒的
な情報がユーザ識別子に関して保存される場合、“個人
的な情緒的情報”として周知である。情緒的な情報とユ
ーザ識別子は、画像に関する任意の情報において使用さ
れる用語である、“メタデータ”画像のタイプである。
他のタイプの画像メタデータの実施例は、画像撮像時
間、撮像装置、撮像位置、撮像日、画像撮像パラメータ
ー、画像編集歴、等を含む。
【0017】個人の情緒的な情報は、例えば、Exif
画像ファイル内のTIEF IFDを用いて、画像ファ
イル内の個人の情緒的情報を記憶することによってデジ
タル画像と関連できる。代替として、個人の情緒的な情
報は個別のデータベースに記憶できる。数多の実施態様
において、情報に対する許可のないアクセスを防ぐため
に、この情報はセキュリティ及びアクセス許可情報と共
に記憶される。
【0018】図1を参照するに、個人の情緒的な情報を
提供し、画像メタデータとして画像と関連し、画像と関
連する個人の情緒的な情報を記憶するための本発明と一
致してなるデスクトップコンピューターシステムを例示
する。次いで、個人の情緒的な情報は改良された画像の
検索を提供し、カスタマイズされた写真製品を提供する
ために使用される。
【0019】図1に描写のシステムは、ユーザの場所
(例えば、彼等の自宅)に位置するホームコンピュータ
ー10(関連の周辺機器を備える)を含む。ゲーム・コ
ンソール、インターネット専用設備、セット・トップ・
ボックス又はキオスク端末などのシステムはホームコン
ピューターシステム10に取って代わるかもしれないこ
とが理解される。ホームコンピューター10は、モデム
22又は他の通信インターフェイスを介して、インター
ネットサービスプロバイダー30などの通信サービスプ
ロバイダーに接続されている。ホームコンピューター1
0は、CPUマザーボード12、表示モニター14、及
びデジタルの静止又はデジタルの動画及び関連するメタ
データなどの高解像度の画像ファイルを記憶できるハー
ドドライブ記憶装置20を含む。メタデータは、例え
ば、特定の画像に関する音楽情報である、他のメタデー
タと同様に個人の情緒的な情報を含む。
【0020】ホームコンピューターは、スキャナー2
8、CDリーダー26、及びデジタルカメラを含有する
様々な画像入力の周辺機器を含む。スキャナー28は、
プリント又はフィルムを走査し、デジタル画像を生成す
るために使用される。CDリーダー26は、コダックピ
クチャーCD(示されていない)などのCD−Rディス
クからデジタル画像を入力するために使用される。ユー
ザはまた、モデム22を用いてサービスプロバイダーか
ら画像をダウンロードできる。ホームコンピューター1
0はまた、ユーザの自宅で画像の印刷を可能にするイン
クジェットプリンターなどのローカルプリンター(示さ
れていない)に接続できる。
【0021】デジタルカメラ24は、米国ニューヨーク
州ロチェスターのイーストマンコダックカンパニーによ
って製造されたKodak DC4800デジタルカメ
ラなどのデジタルスチルカメラであり得る。代替とし
て、デジタルカメラ24は、静止画像に加えて、動作と
音のビデオ・ファイルを記憶する、Kodak MC3
ポータブルマルチメディア装置などのデジタルビデオカ
メラである得る。デジタルカメラ24は、周知のユニバ
ーサルシリアルバス(USB)インターフェイス又はI
EEE1394インターフェイスなどの共通のインター
ファイスを採用するケーブルを介してホームコンピュー
ター10に接続する。代替として、デジタルカメラ24
は、周知のブルートゥースインターフェイス又はIEE
Eスタンダード802.15インターフェイスなどの無
線インターフェイスを用いてホームコンピューター10
に接続できる。代替として、コンパクトフラッシュ(登
録商標)(CompactFlash)カード及びカー
ドリーダー(示されていない)などの取り外し可能なメ
モリカードを用いて画像はデジタルカメラ24からホー
ムコンピューター10に転送できる。
【0022】情緒的な情報を提供するために、ホームコ
ンピューター10は、キーボード16及び、マウス又は
トラックボールなどのポインティング装置18に接続さ
れる。好ましい実施態様において、ポインティング装置
18はまた、GSR(電気皮膚反応)、手の温度及び心
拍率を含有するユーザの生理的な信号を検出できる、セ
ンサーを含む。センサーはまた、周囲の温度を検出す
る。
【0023】ホームコンピューター10は任意でビデオ
カメラ4に接続される。ビデオカメラはユーザ2の顔の
ビデオ画像を撮影し、ハードドライブ記憶20にこのビ
デオ情報を記憶する。ビデオカメラ4は、例えば、イー
ストマンコダックカンパニーから販売されているDV3
25のつながれたカメラである得る。そのカメラは、ユ
ニバーサルシリアルバス(USB)インターファイスな
どの共通のインターフェイスを採用するケーブルを介し
てホームコンピューター10と接続する。
【0024】ホームコンピューター10は、本発明と一
致して個人の情緒的な情報をつくり、使用するために適
切なソフトウェアを備えて提供される。このソフトウェ
アは典型的にはハードドライブ20に記憶され、CDリ
ーダー26によって読取りできるか、又はフレキシブル
ディスクドライブ(示されていない)を介してホームコ
ンピューター10にロードされるフレキシブルディスク
(示されていない)に提供できる、CD−ROMディス
ク(示されていない)を用いて提供される。代替とし
て、このソフトウェアはモデム22を介してインターネ
ットからダウンロードできる。
【0025】ホームコンピューター10は、図8に示さ
れるように、インターネットなどのネットワークに接続
される。図8に描写されるように、多くの異なるホーム
コンピューター10A、10B、10C及び10Dは、
様々なインターネットサービスプロバイダー(ISP
s)30A、30B、及び30Cによってインターネッ
トに接続される。ISPsはサービスプロバイダー40
に接続を提供する。IPSの30A乃至30Cは、モデ
ム32のバンクを含み、その一つはユーザのコンピュー
ター10のモデム22と通信するために接続される。次
ぎに、当業者に周知の装置と技術を用いてチャンネル3
6に通信を提供するために、モデム32はコンピュータ
ー/ルーター34と通信する。
【0026】サービスプロバイダー40は、一つ以上の
コンピューターと関連する周辺機器から構成される、イ
ンターネットサーバーなどのネットワークサーバー42
によってインターネットなどのチャンネル36に接続す
る。サービスプロバイダー40はまた、電子データベー
ス44を含む。電子データベース44は、異なる印刷サ
イズ、マグ及びTシャツなどの異なる出力フォーマット
を含み、アルバムページ上のデジタル画像の群を印刷す
る、多くの画像を産する製品のオプションを記載する情
報を提供する。電子データベース44はネットワークサ
ーバー42として同一のコンピューターに含まれること
ができるか、又は個別のコンピューターを活用できる
か、又は同一の物理的な部位若しくは異なる部位におい
て数多のコンピューターにわたって分配できる。
【0027】図8に示されるように、電子データベース
44は生産コントローラー52に接続される。生産コン
トローラー52は、写真製品の実施例となる、アルバム
ページ56又は個別のハードコピー印刷58を生成でき
る、一つ以上のカラーのハードコピープリンター54を
制御する。生産コントローラー52は、ユーザによって
アップロードされた一つ以上の画像を組み込むTシャ
ツ、コーヒーマグ、などを生成するために使用できる、
転送印刷を生成するためにトランスファープリンター
(示されていない)に任意に接続できる。生産コントロ
ーラー52はまた、輸送ラベル74を生成するために輸
送ラベルプリンター72を制御する、輸送システム70
を制御する。輸送ラベル74は、顧客又は顧客の指定者
に配送中(例えば、空輸、地上輸送など)に写真製品を
含み保護する、輸送コンテナ(例えば、パッキング物質
を含有するカードボードボックス)に付される。
【0028】ユーザによって写真製品が購入される時は
常に定期的(例えば、月ごと)に又は代替として、電子
データベース44は、顧客が認定されることによって提
供される、支払い識別子(例えば、クレジットカード又
はデビットカード番号)を確定するために、なされた任
意の購入における勘定、又は、ユーザの画像及び関連す
る個人の情緒的な情報の記憶におけるようなユーザにサ
ービスを提供する任意の毎月のサービス料金における勘
定の借り方に記入するために請求システム46と通信す
る。ブロック48に示されるように、請求書が発行され
る。借り方に記入される顧客取引口座は、当然のことと
して、遠隔の金融機関であり得る。
【0029】サービスプロバイダー40は、ユーザのコ
ンピューター10から遠隔である、典型的には別の都市
である、第二位置に位置する。サービスプロバイダー4
0の様々な位置は、単一の建物に位置できるか、若しく
は隣接する複合した建物に位置できるか、又は異なる都
市若しくはさらに異なる国の数多の場所上に地理的に分
散できる。例えば、電子データベース44とアルバム生
産コントローラー52は、異なる都市に位置するコンピ
ューターによって提供でき、及びインターネットなどの
適切なデジタル通信ネットワークを介して相互に接続で
きる。さらに、電子データベース44はそれ自体が数多
の異なる位置で数多のコンピューターに分配できる。
【0030】電子データベース44はまた、アップロー
ドされた画像と関連する個人の情緒的な情報の長期記憶
を提供する。この実施態様において、記憶された画像
は、参照としてここに組み入れられた開示である、例え
ば、本件出願人と同一出願人所有の発明者シェリダン
(Sheridan)による米国特許第5,760,9
17号明細書に記載のように、認可されたユーザによっ
てインターネットを介してアクセス可能(例えば、見る
ことができる)である。
【0031】電子データベース44は、顧客のコンピュ
ーター10を用いて遠隔位置で顧客によって選択でき、
カスタマイズできる、アルバム及び他の写真製品の異な
る特質を記載する情報を含む。電子データベース44は
また、例えば、様々な背景色を提供するようなアルバム
の特徴、又は構造、ページ数、ページキャプション、画
像キャプションなどの写真製品のオプションを描写する
情報を含む。アルバムページはカバーにおいて製本する
ことができるか、又は三つのリングバインダーのような
標準のバインダーにページが挿入されることを可能にす
るために穴を含むことができる。それらのアルバムの特
徴のオプションは、例えば、JAVA(登録商標) a
pplets、MPEG又はQuickTime mo
vies、或いは顧客が選択できる機能的な特徴を描写
する、Shockwaveファイルなどのソフトウェア
プログラムを介して実証することができる。
【0032】ホームコンピューター10A乃至10Dに
加えて、他のタイプの装置はチャンネル36を介して画
像を提供するか又はアクセスするために使用できる。そ
れらの装置は、無線PDA装置37、キオスク端末3
8、及び電子画フレーム装置39を含み、それらのすべ
てはISPs30A乃至Cの一つを介して通路36によ
りデータベース44から画像と関連する情緒的な情報を
検索できる。
【0033】図2を参照するに、図1と図8に関連して
記載されたシステムで実行される、本発明の実施態様を
例示する流れ図を示している。この実施態様は情緒的な
情報の自動及び手動決定の両者を含む。
【0034】ブロック110において、ユーザはCD−
ROMをホームコンピューター10のCDリーダー26
に挿入することによって画像の新規のセットを開く。好
ましい実施態様において、CD−ROMはまた、図2の
方法を実行する、ソフトウェアのアプリケーションを含
む。この場合、ソフトウェアはブロック112の部分と
して自動的にインストールされ、必要であれば、CPU
マザーボード12によって使用できる。
【0035】ブロック112において、ユーザによって
初回に画像が見られる場合、本発明の方法を実行するア
プリケーションは自動的に始められる。代替として、ユ
ーザはアプリケーションを手動で開始でき、デジタルカ
メラ24、スキャナー28から又はインターネットを含
有する他の画像の供給源から新規のセットをロードでき
る。
【0036】ブロック114において、ユーザは彼等の
個人的なIDとパスワードに入る。代替として、この段
階は、ユーザがコンピュータに“ログオン”する場合、
ホームコンピューター10のシステムを操作することに
よって自動的に提供できる。代替となる実施態様におい
て、ビデオカメラ4は、ユーザを自動的に決定するため
に顔を認識するソフトウェアとの関連して使用でき、ユ
ーザの氏名又は個人の識別コードなどの適切なユーザ識
別子を提供する。
【0037】ブロック118において、ホームコンピュ
ーター10は、ユーザが手動で情緒的な情報を提供した
いか、又は代わりにユーザが画像を見ている間に自動的
に情緒的な札つけを提供するシステムを有するかをユー
ザに問い合わせる。
【0038】ブロック120において、ユーザが自動の
情緒的な札付けを選択する場合、ホームコンピューター
10は、ユーザが画像を見る場合のユーザの感情の反応
を決定するために記憶できる、信号の選択を提供する。
このユーザの選択を可能にするためにモニター14に表
示されるスクリーンの実施例は図3Aに示される。3つ
の信号がデフォルトとしてマークされ、それらは、画像
に対して見ている時間、ビデオカメラ4によって記憶さ
れる顔の表情、及びポインティング装置18のセンサー
により検出される生理的な信号である。ハードウェアの
形態に依存して、他の信号は選択に列記されるかもしれ
ない。
【0039】ブロック122において、ユーザは情緒的
な情報を決定するためにどの信号が記憶されるかを選択
する。図3Bにおいて、見ている時間、顔の表情、及び
生理的なものを含有するユーザによって選択された信号
の実施例が示される。ユーザによって選択される生理的
な信号は、心拍率、手の温度、及び電気皮膚反応(GS
R)を含む。
【0040】ブロック124において、ホームコンピュ
ーター10はCD−ROM(又は他の画像供給源)から
第一画像を検索し、ブロック126ではホームコンピュ
ーター10はモニター14に画像を表示する。
【0041】ブロック128において、ホームコンピュ
ーター10は、ユーザがブロック122で選択した信号
(例えば、見ている時間、ユーザの顔のビデオ、及び生
理的な信号)を自動的に記憶する。
【0042】ブロック130において、ユーザは、彼等
が次ぎの画像に移動したいことを示すためにポインティ
ング装置18をクリックする。代替として、ユーザは、
キーボード16のキーを打つこと、マイクロホン(示さ
れていない)によって入力される音の指令を提供するこ
と、ビデオカメラ4によって撮像されたジェスチャーを
提供すること、又は他の入力装置を用いることなどの数
多の他の形態の入力を提供することができる。
【0043】ブロック132において、ホームコンピュ
ーター10は、これが画像セットの最終画像であるか決
定する。
【0044】ブロック134において、これが最終画像
ではない場合、ホームコンピューター10は画像セット
の次ぎの画像を検索し、ブロック126から132を繰
り返す。
【0045】ブロック136において、これが最終画像
である場合、ホームコンピューター10は、情緒的な情
報を合成し、情緒的なタグを合成するために、情緒的な
信号を分析する。この段階は、ユーザ2においてセット
の各画像の感情的な重要度を決定することを含む。好ま
しい実施態様において、ホームコンピューター10は、
ユーザの顔の表情(例えば、微笑み)、見ている時間及
び皮膚コンダクタンスに基づきセットの各画像に対する
肯定的な感情の重要性を評価する。
【0046】ホームコンピューター10は、周知の顔の
表情を検出するアルゴリズムを用いてビデオカメラ4に
よって記憶された顔の表情を検出できる。かかるアルゴ
リズムの一例は、イルファンA.エサとアレックス ペ
ントランド著の「ダイナミックモデルと移動エネルギー
を用いる顔の表情の認識」(“Facial Expr
ession Recognition using
a DynamicModel and Motion
Energy”)、1995年6月、the Pro
ceedings of the ICCV 95出
版、米国マサチューセッツ州、ケンブリッジである。検
出された微笑みは、肯定的な顔の表情である。
【0047】ブロック128において、ユーザ2の顔の
表情は、ユーザが画像セットを見て記憶される。次い
で、ビデオカメラ4からのビデオ信号のフレームは、顔
の表情を認識するソフトウェアを用いて処理され、少な
くとも二つの分野:肯定的及び非肯定的に分類される。
微笑がユーザの顔で検出される場合、肯定的な分野は選
定される。微笑がユーザの顔で検出されないのであれ
ば、非肯定的な分野が選定される。代替として、顔の表
情は、幸福、悲観、絶望、嫌悪、愛、等の幅広い範囲の
分野にさらに分類されて、例えば、特に肯定的、いくら
か肯定的、どちらでもない、わずかに否定的、及び非常
に否定的などにかかる分野における値の範囲を用いてさ
らに分類される。顔の認識の結果として、肯定的な分野
の画像はユーザのお気に入りの画像であると考慮され、
一方で非肯定的な分野の画像はユーザのお気に入りの画
像ではないと考慮される。
【0048】画像を見ている時間が長くなるにつれて、
その特定の画像に対する肯定的な画像の重要度の可能性
が高まる。ブロック126乃至134において、ユーザ
はモニター14で一度画像を見て、マウスをクリックす
ることで次ぎの画像に進む。2つの連続する画像間の時
間の間隔は、ホームコンピューター10によって決定さ
れ、情緒的な信号として記憶される。P.J.ラング、
M.K.グリーンワルド、M.M.ブラッドレイ、及び
A.O.ハム著の「絵を見ること:情緒的行動、表情、
直感的行動及び行動的反応」(“Looking at
Pictures: Affective, fac
ial, visceral, andbehavio
ral reactions”)、1993年、精神生
理学(Psychophysiology), 30,
p.261−273の論文は、平均して見ている時間
は、画像が観察者において誘い出す関心又は注意の程度
と直線的に関連することを報告している。この論文は、
第三者的な絵における関心の度合いに対して見ている時
間を比較する。本発明では、見ている時間の情報は、第
三者的な画像で一人以上のユーザにおいて選定される。
【0049】見ている時間とユーザの関心との関係は、
画像に対するユーザの関心の示唆として又は画像の重要
度として見ている時間を解釈するホームコンピューター
10によって使用される。特定の画像に関心のある相対
的な度合いは、セットのすべての画像での最大の見てい
る時間によって分割される(又は標準化される)この特
定の画像での見ている時間として決定される。関心の相
対的な度合いは、“重要”又は“お気に入り”画像とし
て系統的で連続的な手法でセットの画像をランク付けす
るためにホームコンピューター10によって使用され
る。最もお気に入りの画像は、特定のユーザにおいて高
い関心の相対的な度合いを有する画像である。
【0050】ユーザの困惑の結果、見ている時間が不適
切に判断されないことを保証するために、ビデオカメラ
4は、ユーザ2がモニター14に彼等の真っ直ぐな凝視
を向けること、ユーザ2が他のタスクで当惑していない
こと、又は部屋に残っていることを補償するために使用
できる。
【0051】皮膚コンダクタンスは、画像を見ることに
対する反応として測定される皮膚の電気コンダクタンス
の大きさである。この信号は生物測定センサーを使用し
て記憶される。皮膚コンダクタンスを検出し記憶できる
コンピューターマウスはIBM社によって開発された。
皮膚コンダクタンス又は電気皮膚反応が画像に対する関
心の度合いを反映することは、P.J.ラング、M.
K.グリーンワルド、M.M.ブラッドレイ、及びA.
O.ハム著の「絵を見ること:情緒的行動、表情、直感
的行動及び行動的反応」(“Looking at P
ictures:Affective, facia
l, visceral, and behavior
al reactions”)、1993年、精神生理
学(Psychophysiology), 30,
p.261−273の論文に記載されている。皮膚コン
ダクタンスは画像が視聴者において誘い出す覚醒に依存
して変わり、皮膚コンダクタンスが高ければ覚醒又は興
奮が高く、またその逆も正しく、皮膚コンダクタンスが
低ければ、覚醒も低い。したがって、画像開始前の皮膚
コンダクタンスと画像開始数秒以内に上昇した皮膚コン
ダクタンスの極値との差異である、皮膚コンダクタンス
反応の大きさの測定は、ある画像に対するユーザの関心
又は注意を決定するために使用できる。
【0052】ポインティング装置18を用いて記憶され
た皮膚コンダクタンスに基づいて、セットの各画像は関
心の度合いを選定される。値は、画像セットにおいて記
憶された最大の皮膚コンダクタンス反応によって分割さ
れた、特定の画像における皮膚コンダクタンスの大きさ
の関数である。セットの画像は、かかる値を用いること
によってお気に入りの画像としてランク付けできる。相
対的な皮膚コンダクタンスが低ければ、画像はより“お
気に入り”である。
【0053】さらに3つの情緒的な信号は、肯定的な関
心の不可欠な測定を獲得するために組み合わされる。セ
ットの各画像において、関心の相対的な度合いは、前述
に記載のように見ている時間(関心の度合い対見ている
時間、DItime)と皮膚コンダクタンス(関心の度
合い対皮膚コンダクタンス反応、DIskin_反応)
に基づいて獲得される。画像が顔の表情のアセスメント
に基づいて肯定的として分類されるならば、画像は肯定
的な反応(PR)における値1を選定する。画像が非肯
定的として分類されるならば、肯定的な反応における値
0を選定する。次いで、肯定的な関心(例えば、重要又
は“お気に入りの性質”)の測定は適切な関数を用いて
各画像で計算できる。かかる関数は3つすべての合計を
測定する: 肯定的な関心=DItime+DIskin_反応+P
R 他の適切な関数はかかる3つの測定を加重した合計を含
み、ここでその加重は画像セット全体にわたって各々の
標準化された(最大値によって分割された)信号内の標
準偏差に基づいて決定される。この場合、信号内の標準
偏差が高くなると、肯定的な関心の測定に対する信号の
寄与の重要性は高くなる。結果的に、与えられた信号の
標準偏差が低くなると、肯定的な関心の測定に対する対
応する信号の寄与の重要性は低くなる。この依存性の理
由は、特別の測定の標準偏差が与えられた測定に沿った
画像間の識別の度合いを反映するという推定から生じ
る。これは、最も高い標準偏差を備える信号がさらなる
識別力を有し、したがって肯定的な関心の不可欠な測定
を決定する際に考慮することはより重要であることを意
味する。
【0054】ブロック140において、ユーザがブロッ
ク118で手動の情緒的な札付けを選択すれば、画像セ
ットの画像は小さいサムネール画像としてモニター14
に表示される。ブロック142において、ユーザは手動
でお気に入りの画像を選択し、選択された画像において
情緒的な情報(例えば、肯定的な重要度の度合い/お気
に入り)に手動で入る。これは、ここに参照として組み
入れられた、本件出願人と同一出願人所有の発明者パル
スキ(Parulski)による発明の名称が「デジタ
ル画像のコレクションの個人的なメタデータを追加する
方法」(“Method for Adding Pe
rsonalized Metadata to a
Collection of Digital Ima
ges”)で2000年11月22日出願の米国特許出
願公開第09/721,222号明細書に記載された方
法を用いてなされるかもしれない。
【0055】ブロック146において、ブロック136
又は142からの情緒的な情報は、画像セットの対応す
る画像に関係する、個人の情緒的なタグを提供するため
に使用される。この関係は、セットの各画像ファイル内
の個人の情緒的なタグを含有することによって、又は各
タグに関連する対応する画像に対する名前又はポインタ
ーに沿った個別のデータベースで個人の情緒的なタグを
提供することによって達成できる。データベースはハー
ドドライブ20に記憶できる。個人の情緒的なタグは、
ブロック114に関連して既に記載のようなユーザ識別
子を含む。
【0056】個人の情緒的なタグの実例となる実施例
は、図4Aに示されている。図4Aは単一ユーザにおけ
る個人の情緒的なタグのファイルデータの構造を描写
し、個人の識別分野、2つの異なる時間で獲得した2つ
の情緒的な記憶、及び一つの行動記憶を含む。
【0057】個人の情緒的なタグ分野は、個人の情緒的
なタグデータを含有するようなファイルでデータ構造を
識別する。個人の識別コードは個人の識別分野に記憶さ
れる。この分野は、ユーザの情緒的な情報がこの個人の
情緒的なタグに記憶されるユーザを識別する。
【0058】情緒的な記憶は情緒的な情報を画像に対す
るユーザの反応の関して直接記憶する。これは、情緒的
な情報が集められたデータと位置を含む。第一の情緒的
な記憶は第一の位置分野と時間分野で特定された第一の
時間と位置で獲得された情緒的な情報を記憶し、第二の
情緒的な記憶は第二の位置分野と時間分野で特定された
第二の時間と位置で獲得された情緒的な情報を記憶す
る。情緒的な記憶の情緒分野は、画像が個人の識別分野
で記憶された個人の識別コードによって識別されるユー
ザによって見られた場合に決定される主観的な反応を記
憶する。簡素な実施態様において、浄書分野は−10乃
至10の範囲の“重要”又は“お気に入り”のランキン
グを記憶でき、ここで10は最もお気に入りであり、−
10は最もお気に入りでないことを意味する。代替とし
て、情緒分野は、検出された感情の強度を数量化する、
対応するランキングを備える基本的な感情(例えば、幸
福)を含むことができる。図2で既に記載のように、情
緒決定は自動検出又はユーザによる手動のエントリーの
結果となり得る。
【0059】個人の情緒的なタグに含まれる最低限必要
な情報は、対応する分野に記憶された個人の識別コード
と、情緒分野に記憶された少なくとも一つの主観的な反
応(情緒)から構成される。図4Aに示される他の任意
の分野は、情緒的な情報が集められ、時間分野に記憶さ
れた時間を含む。個人の情緒的なタグはまた、段階12
2においてユーザによって選択された情緒的な信号に関
する他の情緒的なデータを含むことができる。それらの
分野は、見ている時間の分野、生理的な温度分野、生理
的な心拍率分野、生理的なEFG分野、顔の表情の分
野、視線をトラッキングする分野、及び触覚圧力分野を
含む。
【0060】行動記憶は、画像がユーザによって見られ
る回数、画像がユーザによって印刷される回数、及び画
像がユーザによって電子メールで送られる回数を含有す
る、画像の使用法に関する情報を記憶する。
【0061】図4Bを参照するに、複数のユーザにおい
て個人の情緒的な情報を提供する、単一画像における情
緒的なメタデータのデータ構造の実施例を示す。個人の
情緒的なタグ1は、2000年8月1日に重要度が8
(−10乃至10までの範囲)の関連する画像を与え
る、情緒的な情報(手動又は自動のいずれか)が提供さ
れた第一のユーザ(ユーザ1)を示唆する。個人の情緒
的なタグ2は、2000年7月4日に重要度が4の関連
する同一画像を与える、情緒的な情報が提供された異な
るユーザ(ユーザ2)を示唆する。個人の情緒的なタグ
3は、2000年10月8日に重要度が−5の同一の関
連する画像を与える、情緒的な情報が提供された第一の
ユーザ(ユーザ1)を示唆する。
【0062】図4Cを参照するに、画像メタデータと画
像データを含む画像ファイルの実施例を示す。画像ファ
イルは、Exif/JPEGファイル、TIEFファイ
ル、JPEG2000画像ファイルなどのJPEG画像
ファイルであり得るか、又は多くの他の画像ファイルフ
ォーマットを利用する。画像メタデータは周知の撮像デ
バイスメタデータを含む。撮像装置メタデータは、例え
ばデジタルカメラのなどの画像が提供されるデジタル撮
像装置を含むことができ、さらに画像の撮影日とカメラ
レンズの焦点の長さ、f−ナンバー等の撮像装置のセッ
ティングを含むことができる。本発明の好ましい実施態
様と一致して、画像メタデータは一つ以上の個人の情緒
的なタグを含む。各個人の情緒的なタグは、個人の識別
分野に記憶されたユーザ識別子と重要な格付けなどの少
なくとも一つの情緒的な記憶を含む。単一の画像ファイ
ルは、複数の異なるユーザにおける複数の情緒的なタグ
を含むことができる。
【0063】図2のブロック148において、個人の情
緒的なタグは画像を検索又は印刷するために使用され
る。図5を参照するに、ホームコンピューター10での
検索システムの本発明の典型的の実施態様の流れ図を示
す。この実施態様において、個人の情緒的な情報は画像
検索工程を補助するために使用され、ブロック110に
関して既に記載された画像セットを利用する、アルバム
ページなどの写真製品を提供する工程を改良するために
使用される。画像の検索は、個人の情緒的な情報が生成
された直後になされるか、又は後になされることが理解
されるだろう。画像の検索に先だって、他のユーザが画
像の同一のセットにおいて情緒的な情報を提供し、その
結果、各画像は複数のユーザにおいて情緒的な情報と関
連することがさらに理解されるだろう。画像検索が後に
行なわれる場合、ブロック112に関して既に記載のよ
うに、ユーザは彼等の個人のIDとパスワードをエンタ
ーするために問い合わせされる。これは、適切なユーザ
の識別子がユーザにおいて適切な個人の情緒的な情報を
検索するために使用できるようになされる。
【0064】図5のブロック149において、検索ユー
ザは、ポインティング装置18を使用してモニター14
に表示された適切なメニュー項目(“画像検索”などの
メニュー項目)を選択することによって画像検索と利用
工程を開始する。
【0065】ブロック150において、ホームコンピュ
ーター10はモニター14に画像セットのサムネイル表
示を提供する。サムネイルは、特定ユーザにおける画像
の“重要度”の格付けにしたがって処理される。最も格
付けが高い画像は一番に表示され、最も格付けの低い画
像は最後に表示される。さらに格付けは、各関連した画
像と並んで表示できる。結果として、ユーザの個人の情
緒的な情報は、検索された画像の表示の順番を決定する
ために使用される。
【0066】ブロック152において、ユーザは格付け
の変更の希望があるか問い合わせされる。ユーザが肯定
的な反応を示せば、ブロック154においてユーザは格
付けを手動で調整する。ホームコンピューター10は、
格付けが手動で調整された各画像においてユーザの新規
の個人の情緒的な情報を保存する。
【0067】ブロック156において、ユーザは一つ以
上のサービスと関心の適用を選択する。それらは、カス
タマイズされたアルバムページを生成すること(ブロッ
ク158)、印刷においてサービスプロバイダー40に
画像若しくはアルバムページをアップロードすること
(ブロック160)、電子メールによってお気に入り画
像を送ること(ブロック162)、ピクチャーマップを
生成すること(ブロック164)、及びインターネット
を介して家族や友人と共有するためにローカルハードデ
ィスク20、又は遠隔サーバー(段階166)のユーザ
の収集に画像セット(関連する個人の情緒的なタグ)を
加えることを含む。
【0068】ブロック170において、ユーザは終了し
たか又は追加的なサービス若しくは製品を選択したいか
を問い合わせされる。ブロック172において、工程は
終了する。
【0069】図6は情緒的な情報を使用するアルバムペ
ージを生成するためのシステムの本発明の典型的な実施
態様の流れ図である。情緒的な情報は下記の手法でアル
バムページを生成するためにシステムによって使用で
き、それらはアルバムページに含まれるお気に入り画像
を検索すること、ページの中心に最もお気に入りの画像
を位置すること、ページにおいて他の画像よりも大き
い、最もお気に入りの画像をリサイズすること、及び重
要性を強調する(例えば、ボールドのフレーム化構造)
ために最もお気に入りの画像を取り囲む背景を変化する
こと、である。
【0070】図6の流れ図は、図5のブロック158で
ある、アルバムページを生成する工程をより詳細に記載
する。図6のブロック305において、ユーザはアルバ
ムページの数を特定し、各アルバムページにおける画像
を選択する。代替となる実施態様において、システム
は、メタデータに記憶された撮影日情報と日付にしたが
ってページに画像をグループ化するためにユーザによっ
て特定されたページ数を用い各ページにおいて画像を自
動的に選択できる。
【0071】ブロック310において、システムは選択
された画像からアルバムページの特定した数を自動的に
合成する。本発明の好ましい実施態様において、画像
は、ここで参照として組み入れられた開示である、本件
出願人と同一出願人所有の発明者サイモンによる200
0年4月27日出願の米国特許出願公開第09/55
9,478号明細書に記載のように強調された画像を用
いてアルバムページに自動的に組織化される。本発明に
おいて、最もお気に入りの画像は画像を強調するように
自動的に識別される。サイモン等の特許明細書に記載の
ように、強調画像はページの中心に位置し、ページにお
いて他の画像よりも大きい。最も重要な画像を強調する
この方法は、アルバムページの特定した数を生成するた
めに各アルバムページにおいて繰り返しできる。
【0072】ブロック310でアルバムページが自動的
に配置された後、ブロック312でユーザは配置を修正
したいかどうか問い合わせされる。次いで、ユーザはペ
ージ数を変更でき(ブロック314)、選択されたペー
ジで画像の数を変更でき(ブロック316)、選択され
たページでレイアウトを変更でき(ブロック318)、
及びページで画像サイズを変更(ブロック320)でき
る。ユーザはまた、ページに含むための異なる画像を選
択できる(ブロック322)。ユーザがアルバムページ
の外観に満足すると(ブロック324)、次いでユーザ
はアルバムページを局所的に印刷(ブロック330)す
るか、又は代わりにサービスプロバイダー40からイン
サルされたアルバムページを注文(ブロック328)す
るかどうかを決定(ブロック326)する。アルバムペ
ージは、ここに参照として組み入れられた開示である、
本件出願人と同一出願人所有の発明者マニコ(Mani
co)等による米国特許第6,004,061号明細書
に記載の方法を用いて合成できる。工程はブロック33
2で終了する。
【0073】図7Aを参照するに、合成されたアルバム
ページの実施例が示されている。5つの画像(P1乃至
P5)はフォーマット化され、ホームコンピューター1
0又はサービスプロバイダー40によってアルバムペー
ジに添付される。システムがアルバムページを自動的に
合成する場合、最もお気に入りの画像が特色とされる。
これは、ページの中心にこの最もお気に入りの画像(画
像P1)を位置付けすることによってなされる。これは
また、ページで他の画像よりもこの画像のサイズが大き
くなるように最もお気に入りの画像(P1)をフォーマ
ット化することによってなされる。さらにこれは、背景
フレームを提供することによって、又はこの特定の画像
に注意を注ぐ、別のタイプの背景の取り囲みを提供する
ことによってなされる。加えて、最もお気に入りの画像
の画像の寄与は、その重要性を強調するために修正でき
る。例えば、この画像は、画像の鮮明度、色の飽和等を
増大するために処理できる。
【0074】最もお気に入りの画像は、特定のユーザに
おける画像と関連する個人の情緒的な情報に基づいてア
ルバムページで選定された画像セットから自動的に選択
される。異なる個人の情緒的な情報を有する第二のユー
ザが同一のアルバムセットを含有するアルバムページを
要求する場合、異なる画像が第二のユーザにとって最も
お気に入りの画像であるために、異なる画像が特色とさ
れるだろう。このようにして、アルバムページのレイア
ウトは、特定のユーザの個人の情緒的な情報に基づき、
特定のユーザにおいて自動的にカスタマイズされる。
【0075】図7Bを参照するに、図5のブロック16
6で生成されたピクチャーマップの実施例が示される。
この実施例において、7つの画像(P1乃至P7)がフ
ォーマット化され、ピクチャーマップに配置される。一
つの典型的な実施態様において、システムは、画像と関
連したメタデータとして記憶された地理的な位置情報に
基づき適切なマップを自動的に選択する。かかるメタデ
ータは撮像時に自動的に生成(例えば、GPS−汎世界
測位システムを備えるデジタルカメラによって)できる
か、又はユーザによって手動で生成できる。メタデータ
によって特定された各々の異なる位置において、システ
ムはその位置において撮像された最もお気に入りの画像
を選択し、マップ上の適切な位置に位置付けする。最も
お気に入りの画像は、画像と関連する個人の情緒的な情
報に基づきシステムによって自動的に選択される。図7
Bにおいて、7つの位置は識別され、それらの位置に対
応する7つの最もお気に入りの画像(P1乃至P7)は
選択され、マップ上に位置付けされる。
【0076】図9を参照するに、インターネットなどの
通信ネットワークによりカスタマイズされた写真製品を
生成するために情緒的な情報を使用する本発明の典型的
な実施態様の流れ図を示している。本発明において、ア
ルバムページなどのカスタマイズされた写真製品は、画
像に関する個人の情緒的な情報に基づいて生成される。
【0077】ブロック510において、顧客はフォトサ
ービスプロバイダー40によって供給されたウェブサイ
トにログオンする(図8)。一般的に、顧客は図2で情
緒的な情報を生成したユーザとは同一人物でないかもし
れない。例えば、これは、家族の一人が、家族の他の者
又は友人のお気に入りの画像を用いて家族の他の者又は
友人に個人的な写真製品を生成する場合である。
【0078】ブロック512において、図2のブロック
114に関して既に記載のように、顧客は彼等の個人の
IDとパスワードにエンターする。
【0079】ブロック514において、顧客は拾い読み
したいお気に入りの画像を選択する。顧客は彼等のお気
に入りにより、及び/又は彼等の家族や友人によってお
気に入り画像の提供により拾い読みするために選択でき
る。他の人のお気に入り画像により拾い読みするため
に、顧客は、既に参照とした、本件出願人と同一出願人
所有の発明者シェリダンによる米国特許第5,760,
917号明細書に記載のように、アクセス許可を有する
べきである。それらのアクセス許可は、画像がアップロ
ードされデータベース44でユーザによって記憶される
場合に生成される。
【0080】ブロック516において、顧客は、日付及
び/又はイベント並びに関心ある画像を選択する(例え
ば、選択された画像をクリックすることによって)こと
によってお気に入りにより拾い読みする。ブロック51
8において、すべての選択された画像のサムネイルが表
示される。ブロック520と522において、顧客は画
像のそれらの選択を修正できる。
【0081】ブロック524において、顧客は一つ以上
の所望の製品を選択し、製品を受け取る予定である指名
人を選択する。ユーザが指名人のアクセス許可を有する
場合、サービスプロバイダーは指名人におけるユーザ識
別子を自動的に決定でき、その結果、指名人の個人の情
緒的な情報は、注文される写真製品をカスタマイズする
ために使用でき、例えば、贈り物としてその指名人に送
ることができる。
【0082】顧客が選択した画像を用いて、異なりカス
タマイズされた写真製品は生成できる。ブロック526
において、アルバムページが選択できる。ブロック52
8において、顧客が選択した画像を含有するカスタマイ
ズされたカレンダーは選択できる。ブロック530にお
いて、モンタージュ写真が選択できる。これは、創造的
な背景と多くの異なる画像を含有する大きなポスターで
ある。ブロック532において、顧客はピクチャーマッ
プを生成するために選択できる。ブロック540におい
て、写真製品の選択がなされるか又は追加的な写真製品
の選択を望むか、顧客はそのいずれかを決定する。
【0083】ブロック542において、指名人における
個人の情緒的な情報は、写真製品が組織化されるよう
に、最もお気に入りの画像を特徴付けるために使用され
る。図5の参照において既に記載のように、アルバムペ
ージ、カレンダー、又はモンタージュ写真が生成される
場合、個人の情緒的な情報は特色とされる一つ以上の特
にお気に入りの画像を選択するために使用される。それ
らの特色とされる画像は他の画像よりも大きく印刷さ
れ、写真製品においてより目立つ位置である。
【0084】ブロック546において、写真製品は生成
され顧客の指名人に送付されて、顧客はサービスプロバ
イダーによって請求される。
【0085】コンピュータープログラム製品は、例え
ば、磁気ディスク(フレキシブルディスクなどの)若し
くは磁気テープなどの磁気記憶媒体;光ディスク、光テ
ープ、若しくは機械が読取り可能なバーコードなどの光
記憶媒体;ランダムアクセスメモリ(RAM)若しくは
読取り専用メモリ(ROM)などの固体状電子記憶デバ
イス;又は任意の他の物理的デバイス若しくは本発明と
一致する方法を実行するためのインストラクションを有
するコンピュータープログラムを記憶するために採用さ
れる媒体である、一つ以上の記憶媒体を含むことができ
る。
【0086】
【発明の効果】デジタル画像に対するユーザの反応を分
類するために情緒的な情報を活用することが本発明の利
点である。
【0087】ユーザの反応が、マウス、キーパッド若し
くは音声認識を使用してユーザによって手動で入力でき
るか、又は与えられた画像がどのくらい長く見られてい
たかをユーザによって、ユーザの表情若しくは注視によ
って、或いはユーザの生理的な測定によって一つ以上決
定することによって自動的に決定できることは本発明の
追加的な利点である。
【0088】情緒的な情報が、ユーザの反応が情緒的な
情報によって提供されることを定義するユーザの識別子
と関係することが本発明のさらなる利点である。
【0089】同一のデジタル画像に多数のユーザの情緒
的な情報を関連させることが本発明のさらなる利点であ
る。
【図面の簡単な説明】
【図1】情緒的な情報をつくるためのホームコンピュー
ターシステムのブロック図の描写である。
【図2】情緒的な情報をつくるためのシステムの実施態
様を示す流れ図である。
【図3A】情緒的な情報をつくるための信号記憶を選択
するためのユーザインターフェイスの描写である。
【図3B】情緒的な情報をつくるための信号記憶を選択
するためのユーザインターフェイスの描写である。
【図4A】単一ユーザの個人的な情緒的なタグの実施例
である。
【図4B】複数の個人の情緒的なタグを備える複数のユ
ーザにおける情緒的なメタデータの実施例である。
【図4C】情緒的なメタデータを含有するイメージファ
イルの描写である。
【図5】デジタル画像化システムでの情緒的な情報を使
用するための典型的な方法の流れ図である。
【図6】アルバムページをつくるための流れ図である。
【図7A】情緒的な情報を用いて生成した、カスタマイ
ズ化されたアルバムページの描写である。
【図7B】情緒的な情報を用いて生成したピクチャーマ
ップの描写である。
【図8】情緒的な情報を使用するネットワーク化された
デジタルシステムのブロック図の描写である。
【図9】指名者においてサービスプロバイダーを用いて
カスタマイズ化された写真製品をつくるための流れ図の
描写である。
【符号の説明】
2 ユーザ 4 ビデオカメラ 10 ホームコンピューター 12 マザーボード 18 ポインティング装置 20 ハードドライブ記憶装置 24 デジタルカメラ
フロントページの続き (72)発明者 エレナ エイ フェドロフスカヤ アメリカ合衆国 ニューヨーク 14534 ピッツフォード イースト・ストリート 311 (72)発明者 セルジェイ エンドリコフスキ アメリカ合衆国 ニューヨーク 14620 ロチェスター サバーバン・コート 504 (72)発明者 ケネス アラン パルルスキ アメリカ合衆国 ニューヨーク 14617 ロチェスター インペリアル・サークル 225 Fターム(参考) 5B050 AA09 BA10 BA15 CA08 FA19 GA07 GA08 5B075 ND06 NK02 NK24 PP03 PP13

Claims (3)

    【特許請求の範囲】
  1. 【請求項1】 記憶されたデジタル画像において検索ス
    キームを提供するための方法であって、該方法は a)複数の前記記憶されたデジタル画像から少なくとも
    一つのデジタル画像を分類するために情緒的な情報を提
    供することと; b)ユーザ識別子を提供することと; c)少なくとも一つのデジタル画像に前記情緒的な情報
    及び前記ユーザ識別子を関連させること、並びに d)前記少なくとも一つのデジタル画像の検索を容易に
    するために前記情緒的な情報及び前記ユーザ識別子を使
    用することを含有することを特徴とする方法。
  2. 【請求項2】 前記情緒的な情報は、分類が実行された
    時間の範囲内の時間又は期間をさらに特定することを特
    徴とする請求項1に記載の方法。
  3. 【請求項3】 デジタル画像及び該デジタル画像に関す
    る情報を記憶するための画像ファイルであって、該画像
    ファイルは、 a)デジタル画像データと; b)ユーザ識別子と; c)前記デジタル画像に対する前記ユーザの感覚又は感
    情に関する情緒的な情報 を含有することを特徴とする画像ファイル。
JP2002371619A 2001-12-26 2002-12-24 デジタル画像化システムで情緒的な情報を生成及び使用する方法 Expired - Lifetime JP4441172B2 (ja)

Applications Claiming Priority (6)

Application Number Priority Date Filing Date Title
US10/036,123 US20030117651A1 (en) 2001-12-26 2001-12-26 Method for using affective information recorded with digital images for producing an album page
US10/036,157 US7307636B2 (en) 2001-12-26 2001-12-26 Image format including affective information
US036113 2001-12-26
US10/036,113 US20030128389A1 (en) 2001-12-26 2001-12-26 Method for creating and using affective information in a digital imaging system cross reference to related applications
US036157 2001-12-26
US036123 2001-12-26

Publications (2)

Publication Number Publication Date
JP2003233624A true JP2003233624A (ja) 2003-08-22
JP4441172B2 JP4441172B2 (ja) 2010-03-31

Family

ID=27364960

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002371619A Expired - Lifetime JP4441172B2 (ja) 2001-12-26 2002-12-24 デジタル画像化システムで情緒的な情報を生成及び使用する方法

Country Status (2)

Country Link
EP (2) EP1762949A3 (ja)
JP (1) JP4441172B2 (ja)

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005222502A (ja) * 2004-02-09 2005-08-18 Brother Ind Ltd 携帯端末装置、断片データ作成装置、断片データ作成システム及び統合ファイル作成システム
JP2005222494A (ja) * 2004-02-09 2005-08-18 Brother Ind Ltd 統合ファイル作成装置及び統合ファイル作成システム
JP2005222495A (ja) * 2004-02-09 2005-08-18 Brother Ind Ltd 断片データ作成装置及び断片データ作成システム
JP2005317004A (ja) * 2004-04-21 2005-11-10 Samsung Electronics Co Ltd デジタル写真の状況変化検出装置及び方法、デジタル写真アルバムの状況基盤クラスタリング装置及び方法、並びにコンピュータ読取可能な記録媒体
JP2007026279A (ja) * 2005-07-20 2007-02-01 Canon Inc オブジェクト編集装置、方法、及びプログラム
JP2007164272A (ja) * 2005-12-09 2007-06-28 Canon Inc 編集装置、編集方法及びプログラム
JP2008139924A (ja) * 2006-11-30 2008-06-19 Tamotsu Koyama 記憶ストックシステム
JP2009080525A (ja) * 2007-09-25 2009-04-16 Canon Inc 画像処理装置及びドキュメントデータ管理方法、プログラム、並びに記憶媒体
JP2009266157A (ja) * 2008-04-30 2009-11-12 Fujifilm Corp 画像出力装置及び画像出力方法
US7714906B2 (en) 2006-09-08 2010-05-11 Fujifilm Corporation Image processing apparatus and image processing program for creating first image groups based on photographing time and creating second image groups from the first image groups
US7945439B2 (en) 2006-06-09 2011-05-17 Sony Corporation Information processing apparatus, information processing method, and computer program
US8732175B2 (en) 2005-04-21 2014-05-20 Yahoo! Inc. Interestingness ranking of media objects
JP2017021737A (ja) * 2015-07-15 2017-01-26 Kddi株式会社 筋電信号を用いてアプリケーションに感情識別子を付与するプログラム、端末及びシステム
WO2018016464A1 (ja) * 2016-07-19 2018-01-25 富士フイルム株式会社 画像表示システム、並びにヘッドマウントディスプレイの制御装置とその作動方法および作動プログラム
US10210159B2 (en) 2005-04-21 2019-02-19 Oath Inc. Media object metadata association and ranking

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
FR2867644B1 (fr) * 2004-03-11 2006-08-25 Eastman Kodak Co Dispositif et procede pour associer des parametres psychophysiologiques a une image
US7580952B2 (en) 2005-02-28 2009-08-25 Microsoft Corporation Automatic digital image grouping using criteria based on image metadata and spatial information
CN102473178A (zh) * 2009-05-26 2012-05-23 惠普开发有限公司 用于实现对媒体对象的组织的方法和计算机程序产品
US9129604B2 (en) 2010-11-16 2015-09-08 Hewlett-Packard Development Company, L.P. System and method for using information from intuitive multimodal interactions for media tagging
US9363220B2 (en) 2012-03-06 2016-06-07 Apple Inc. Context-sensitive help for image viewing and editing application
US20130239051A1 (en) 2012-03-06 2013-09-12 Apple Inc. Non-destructive editing for a media editing application
US9131192B2 (en) 2012-03-06 2015-09-08 Apple Inc. Unified slider control for modifying multiple image properties
US20130239049A1 (en) * 2012-03-06 2013-09-12 Apple Inc. Application for creating journals
US9041727B2 (en) 2012-03-06 2015-05-26 Apple Inc. User interface tools for selectively applying effects to image
EP2821926A1 (en) * 2013-07-05 2015-01-07 Gemalto SA Method for managing data related to a user
JP2019047234A (ja) 2017-08-31 2019-03-22 ソニーセミコンダクタソリューションズ株式会社 情報処理装置、情報処理方法、およびプログラム

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5019975A (en) * 1986-08-08 1991-05-28 Fuji Photo Film Co., Ltd. Method for constructing a data base in a medical image control system
DE19802572A1 (de) * 1998-01-23 1999-08-05 Siemens Health Service Gmbh & Medizinische Systemarchitektur

Cited By (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4547926B2 (ja) * 2004-02-09 2010-09-22 ブラザー工業株式会社 断片データ作成装置及び断片データ作成システム
JP2005222494A (ja) * 2004-02-09 2005-08-18 Brother Ind Ltd 統合ファイル作成装置及び統合ファイル作成システム
JP2005222495A (ja) * 2004-02-09 2005-08-18 Brother Ind Ltd 断片データ作成装置及び断片データ作成システム
JP2005222502A (ja) * 2004-02-09 2005-08-18 Brother Ind Ltd 携帯端末装置、断片データ作成装置、断片データ作成システム及び統合ファイル作成システム
JP4547925B2 (ja) * 2004-02-09 2010-09-22 ブラザー工業株式会社 統合ファイル作成装置及び統合ファイル作成システム
JP4547927B2 (ja) * 2004-02-09 2010-09-22 ブラザー工業株式会社 携帯端末装置、断片データ作成装置及び統合ファイル作成システム
JP2005317004A (ja) * 2004-04-21 2005-11-10 Samsung Electronics Co Ltd デジタル写真の状況変化検出装置及び方法、デジタル写真アルバムの状況基盤クラスタリング装置及び方法、並びにコンピュータ読取可能な記録媒体
US10216763B2 (en) 2005-04-21 2019-02-26 Oath Inc. Interestingness ranking of media objects
US10210159B2 (en) 2005-04-21 2019-02-19 Oath Inc. Media object metadata association and ranking
US8732175B2 (en) 2005-04-21 2014-05-20 Yahoo! Inc. Interestingness ranking of media objects
JP2007026279A (ja) * 2005-07-20 2007-02-01 Canon Inc オブジェクト編集装置、方法、及びプログラム
JP2007164272A (ja) * 2005-12-09 2007-06-28 Canon Inc 編集装置、編集方法及びプログラム
US7945439B2 (en) 2006-06-09 2011-05-17 Sony Corporation Information processing apparatus, information processing method, and computer program
US7714906B2 (en) 2006-09-08 2010-05-11 Fujifilm Corporation Image processing apparatus and image processing program for creating first image groups based on photographing time and creating second image groups from the first image groups
JP2008139924A (ja) * 2006-11-30 2008-06-19 Tamotsu Koyama 記憶ストックシステム
JP2009080525A (ja) * 2007-09-25 2009-04-16 Canon Inc 画像処理装置及びドキュメントデータ管理方法、プログラム、並びに記憶媒体
JP2009266157A (ja) * 2008-04-30 2009-11-12 Fujifilm Corp 画像出力装置及び画像出力方法
JP2017021737A (ja) * 2015-07-15 2017-01-26 Kddi株式会社 筋電信号を用いてアプリケーションに感情識別子を付与するプログラム、端末及びシステム
WO2018016464A1 (ja) * 2016-07-19 2018-01-25 富士フイルム株式会社 画像表示システム、並びにヘッドマウントディスプレイの制御装置とその作動方法および作動プログラム
JPWO2018016464A1 (ja) * 2016-07-19 2019-04-25 富士フイルム株式会社 画像表示システム、並びにヘッドマウントディスプレイの制御装置とその作動方法および作動プログラム
US10705605B2 (en) 2016-07-19 2020-07-07 Fujifilm Corporation Image display system, and control apparatus for head-mounted display and operation method therefor

Also Published As

Publication number Publication date
EP1324227A2 (en) 2003-07-02
EP1762949A2 (en) 2007-03-14
JP4441172B2 (ja) 2010-03-31
EP1762949A3 (en) 2007-08-08
EP1324227A3 (en) 2005-12-21

Similar Documents

Publication Publication Date Title
US9082046B2 (en) Method for creating and using affective information in a digital imaging system
US7307636B2 (en) Image format including affective information
JP4441172B2 (ja) デジタル画像化システムで情緒的な情報を生成及び使用する方法
US20030117651A1 (en) Method for using affective information recorded with digital images for producing an album page
US11170042B1 (en) Method and apparatus for managing digital files
US7271809B2 (en) Method for using viewing time to determine affective information in an imaging system
US7003139B2 (en) Method for using facial expression to determine affective information in an imaging system
US7327505B2 (en) Method for providing affective information in an imaging system
US8897485B2 (en) Determining an interest level for an image
US8842882B2 (en) Individualizing generic communications
US8873851B2 (en) System for presenting high-interest-level images
US9014510B2 (en) Method for presenting high-interest-level images
US9014509B2 (en) Modifying digital images to increase interest level
US9336442B2 (en) Selecting images using relationship weights
US20040205286A1 (en) Grouping digital images using a digital camera
JP2012234577A (ja) 複数の出力生成物の自動化された生成
JP2013225347A (ja) ストーリー共有の自動化
WO2005124557A1 (ja) 電子文書閲覧システム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20051205

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20081111

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20090127

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20090130

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090511

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20090707

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20091105

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20091120

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20091215

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100108

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130115

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4441172

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

EXPY Cancellation because of completion of term