JP7204596B2 - 画像処理装置,画像処理方法,画像処理プログラムおよびそのプログラムを格納した記録媒体 - Google Patents

画像処理装置,画像処理方法,画像処理プログラムおよびそのプログラムを格納した記録媒体 Download PDF

Info

Publication number
JP7204596B2
JP7204596B2 JP2019121862A JP2019121862A JP7204596B2 JP 7204596 B2 JP7204596 B2 JP 7204596B2 JP 2019121862 A JP2019121862 A JP 2019121862A JP 2019121862 A JP2019121862 A JP 2019121862A JP 7204596 B2 JP7204596 B2 JP 7204596B2
Authority
JP
Japan
Prior art keywords
image
person
age
images
user
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019121862A
Other languages
English (en)
Other versions
JP2021009475A (ja
Inventor
徹也 松本
啓 山路
慎一郎 園田
伸也 田中
宏俊 吉澤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2019121862A priority Critical patent/JP7204596B2/ja
Priority to US16/893,124 priority patent/US11475567B2/en
Priority to CN202010532731.6A priority patent/CN112148910A/zh
Publication of JP2021009475A publication Critical patent/JP2021009475A/ja
Application granted granted Critical
Publication of JP7204596B2 publication Critical patent/JP7204596B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/54Browsing; Visualisation therefor
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/172Classification, e.g. identification
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/58Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/583Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/58Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/5866Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using information manually generated, e.g. tags, keywords, comments, manually generated location and time information
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/58Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/587Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using geographical or spatial information, e.g. location
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/22Matching criteria, e.g. proximity measures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/12Digital output to print unit, e.g. line printer, chain printer
    • G06F3/1201Dedicated interfaces to print systems
    • G06F3/1223Dedicated interfaces to print systems specifically adapted to use a particular technique
    • G06F3/1237Print job management
    • G06F3/1242Image or content composition onto a page
    • G06F3/1243Variable data printing, e.g. document forms, templates, labels, coupons, advertisements, logos, watermarks, transactional printing, fixed content versioning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • G06T7/0014Biomedical image inspection using an image reference approach
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/30Scenes; Scene-specific elements in albums, collections or shared content, e.g. social network photos or video
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/178Human faces, e.g. facial parts, sketches or expressions estimating age from face image; using age information for improving recognition

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Human Computer Interaction (AREA)
  • Databases & Information Systems (AREA)
  • Library & Information Science (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Health & Medical Sciences (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Computation (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Quality & Reliability (AREA)
  • Medical Informatics (AREA)
  • Processing Or Creating Images (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Image Analysis (AREA)

Description

この発明は,画像処理装置,画像処理方法,画像処理プログラムおよびそのプログラムを格納した記録媒体に関する。
所定の人物を主人公としてフォトブックなどを作成する場合に,同一人物であっても顔の変化があるために同一人物と認識されないことがある。このために,顔の経時的な変化に追随して正確な人物認識を行うことができるものが考えられている(特許文献1)。また,個体識別情報を人物単位で分類して人物が写っている画像を検索する際に効率的な画像検索を行うものも考えられている(特許文献2)。さらに,複数のユーザから収集された複数の画像からフォトアルバムのテーマに合致した画像を選別するものも考えられている(特許文献3)。
特開2015-069495号公報 特開2010-079519号公報 特開2018-005843号公報
多くの画像の中から2枚以上の画像をまとめようとする場合,撮影日時が近い画像,特定のイベントにおいて撮影された画像,好きな画像などでまとめることが多い。しかしながら,たとえば,父親の少年時代の画像と,その子供の少年時代の画像とを比較できれば,ユーザは新たな気づきや驚きを発見できる。このために,撮影した多くの画像を見直したり,撮影した画像をきっかけに新たなコミュニケーションが生まれたりすることがあり,多くの画像の活用促進につながることがある。
先行文献1に記載の発明は正確な人物認識を行うものであるから,親と子供の同年代の時代の画像などを見つけることは考えられていない。先行文献2に記載の発明は効率的な画像検索を行うものであるから,親と子供の同年代の時代の画像などを見つけることは考えられていない。先行文献3に記載の発明はフォトアルバムのテーマに合致した画像を選別するものであり,やはり親と子供の同年代の時代の画像などを見つけることは考えられていない。
この発明は,たとえば,親の少年時代の画像と,その親の子供の少年時代の画像のように,同じ年代に撮影された異なる人物の画像を見つけることを目的とする。
この発明による画像処理装置は,一のユーザがアクセスすることができる複数の画像が記録されている記録装置から画像を読み取る読取手段,複数の画像の中の任意の1枚を,第1画像として特定する第1画像特定手段,第1画像に写っている第1人物を認識する第1人物認識手段,第1画像の撮影日時における第1人物の年齢を推定する第1年齢推定手段,複数の画像の中から第1画像以外の任意の1枚を,第2画像として特定する第2画像特定手段,第2画像に写っている第2人物を認識する第2人物認識手段,第2画像の撮影日時における第2人物の年齢を推定する第2年齢推定手段,認識された第1人物と認識された第2人物とが同一人物であるか否かを判定する人物判定手段,推定された第1年齢と推定された第2年齢との差がしきい値の範囲内にあるか否かを判定する年齢差判定手段,および人物判定手段により第1人物と第2人物とが同一人物ではないと判定され,かつ,年齢差判定手段により第1年齢と第2年齢との差がしきい値の範囲内にあると判定されたときに,第1画像と第2画像とを画像組合せとして検出する画像組合せ検出手段を備えている。
この発明は,画像処理方法も提供している。すなわち,この方法は,読取手段が,一のユーザがアクセスすることができる複数の画像が記録されている記録装置から画像を読み取り,第1画像特定手段が,複数の画像の中の任意の1枚を,第1画像として特定し,第1人物認識手段が,第1画像に写っている第1人物を認識し,第1年齢推定手段が,第1画像の撮影日時における第1人物の年齢を推定し,第2画像特定手段が,複数の画像の中から第1画像以外の任意の1枚を,第2画像として特定し,第2人物認識手段が,第2画像に写っている第2人物を認識し,第2年齢推定手段が,第2画像の撮影日時における第2人物の年齢を推定し,人物判定手段が,認識された第1人物と認識された第2人物とが同一人物であるか否かを判定し,年齢差判定手段が,推定された第1年齢と推定された第2年齢との差がしきい値の範囲内にあるか否かを判定し,画像組合せ検出手段が,人物判定手段により第1人物と第2人物とが同一人物ではないと判定され,かつ,年齢差判定手段により第1年齢と第2年齢との差がしきい値の範囲内にあると判定されたときに,第1画像と第2画像とを画像組合せとして検出する。
この発明は,画像処理装置のコンピュータを制御するプログラムおよびそのプログラムを格納した記録媒体も提供している。
また,画像処理装置が,一のユーザがアクセスすることができる複数の画像が記録されている記録装置から画像を読み取る読取手段,およびプロセッサを備え,プロセッサが,複数の画像の中の任意の1枚を,第1画像として特定し,第1画像に写っている第1人物を認識し,第1画像の撮影日時における第1人物の年齢を推定し,複数の画像の中から第1画像以外の任意の1枚を,第2画像として特定し,第2画像に写っている第2人物を認識し,第2画像の撮影日時における第2人物の年齢を推定し,認識された第1人物と認識された第2人物とが同一人物であるか否かを判定し,推定された第1年齢と推定された第2年齢との差がしきい値の範囲内にあるか否かを判定し,第1人物と第2人物とが同一人物ではないと判定され,かつ,第1年齢と第2年齢との差がしきい値の範囲内にあると判定されたときに,第1画像と第2画像とを画像組合せとして検出するものでもよい。
第2画像特定手段は,たとえば,第1画像の撮影日からしきい値以上に撮影日が離れている画像を,第2画像として特定する。
また,第2画像特定手段は,第1画像が撮影された年と異なる年であって,かつ第1画像の撮影時期(例えば,撮影した季節,撮影月)と同一時期に撮影された画像を,第2画像として特定してもよいし,第1画像の構図と同一の構図をもつ画像を,第2画像として特定してもよい。
さらに,第2画像特定手段は,第1画像の撮影場所と同一場所において撮影された画像を,第2画像として特定してもよいし,第1画像に含まれている人物の親族または姻族の少なくとも一方が含まれている画像を,第2画像として特定してもよい。
さらに,第2画像特定手段は,たとえば,1画像の撮影時のイベントと同一のイベントにおいて撮影された画像を,第2画像として特定する。
画像組み合わせが少なくとも一つ検出されるまで,第1画像の特定または第2画像の特定の少なくとも一方を繰り返すように画像処理装置を制御する制御手段をさらに備えてもよい。
第1人物と第2人物との第1の類似度または第1画像と第2画像との第2の類似度の少なくとも一方を算出する類似度算出手段をさらに備えてもよい。この場合,画像組合せ検出手段は,たとえば,第1の類似度または第2の類似度がしきい値以上の場合に,第1画像と第2画像とを画像組合せとして検出する。
記録装置には,たとえば,特定の人物の親族または姻族が写っている画像が複数記録されている。
第1画像と第2画像とを隣接して表示するように表示装置を制御する表示制御手段をさらに備えてもよい。
第1画像と第2画像とを隣接してプリントするようにプリンタを制御するプリンタ制御手段をさらに備えてもよい。
第1画像特定手段は,たとえば,ユーザからの指令に応じて第1画像を特定する。
検出された第1画像に含まれる第1人物と第2画像に含まれる第2人物とは同一人物ではないが撮影時の年齢差がしきい値の範囲内にあるので,たとえば,親の少年時代の画像と,その親の子供の少年時代の画像のように,同じ年代に撮影された異なる人物の画像を見つけることができる。
画像処理システムの概要である。 ストレージ・サーバの電気的構成を示すブロック図である。 ハード・ディスクに格納されている画像の一例である。 ストレージ・サーバの処理手順を示すフローチャートである。 ストレージ・サーバの処理手順を示すフローチャートである。 ストレージ・サーバの処理手順を示すフローチャートである。 ハード・ディスクに格納されている画像の一例である。 ハード・ディスクに格納されている画像の一例である。 プリントの一例である。 第2画像の特定処理手順を示すフローチャートである。 第2画像の特定処理手順を示すフローチャートである。 第2画像の特定処理手順を示すフローチャートである。 第2画像の特定処理手順を示すフローチャートである。 第2画像の特定処理手順を示すフローチャートである。 第2画像の特定処理手順を示すフローチャートである。 第2画像の特定処理手順を示すフローチャートである。 第2画像の特定処理手順を示すフローチャートである。 第2画像の特定処理手順を示すフローチャートである。 画像組合せの決定処理手順を示すフローチャートである。
[第1実施例]
図1は,この発明の実施例を示すもので,画像処理システムの概要を示している。以下,年代(年齢層)が近いとは,年齢の差がしきい値の範囲内にある言葉として説明する。
画像処理システムには,n(nは複数)個のクライアント・コンピュータ1-nが含まれており,これらのn個のクライアント・コンピュータ1-nがインターネットに接続されている。また,画像処理システムには,ストレージ・サーバ10およびプリンタ・サーバ20も含まれており,これらのストレージ・サーバ10およびプリンタ・サーバ20のそれぞれは,n個のクライアント・コンピュータ1-nのそれぞれとインターネットを介して通信可能である。
クライアント・コンピュータ1-nはユーザが撮影した画像を表す画像ファイルをストレージ・サーバ10に送信するもので,ストレージ・サーバ10はユーザから送信された画像ファイルを受信し記憶するものである。プリンタ・サーバ20は後述のようにして決定された第1画像と第2画像とを隣接してプリントする(図9参照)。
図1においてはn個のクライアント・コンピュータ1-nが図示されているが,1個のクライアント・コンピュータのみが画像処理システムに含まれるようにしてもよい。クライアント・コンピュータの数に関係なく,複数のユーザがクライアント・コンピュータを用いて画像データをストレージ・サーバ10にアップロードできればよい。また,クライアント・コンピュータ1-nの代わりにスマートフォンなどの通信機器を利用してもよい。
また,プリンタ・サーバ20を利用せずに画像処理システムを構成してもよい。
図2は,ストレージ・サーバ10の電気的構成を示すブロック図である。
ストレージ・サーバ10(画像処理装置の一例である)の全体の動作はCPU(Central Processing Unit)11によって統括される。
ストレージ・サーバ10には,インターネットと接続するための通信装置12,メモリ・カード14にアクセスするためのメモリ・カード・リーダ・ライタ13,コンパクト・ディスク16に記録されているデータなどを読み取るコンパクト・ディスク・ドライブ15,ユーザから送信された画像ファイル等を記録するハード・ディスク18,およびハード・ディスク18に画像ファイルを書き込み,かつハード・ディスク18から画像ファイルを読み取るハード・ディスク・ドライブ17が含まれている。さらに,ストレージ・サーバ10には,メモリ19および表示装置19Aも含まれている。
コンパクト・ディスク16(可搬型記録媒体)には,ストレージ・サーバ10の動作を制御するプログラムが格納されており,コンパクト・ディスク16に記録されているプログラムがコンパクト・ディスク・ドライブ15によって読み取られて,ストレージ・サーバ10にインストールされる。プログラムはコンパクト・ディスク16から読み取られてストレージ・サーバ10にインストールされずに,インターネットなどのネットワークを介してストレージ・サーバ10において受信し,受信したプログラムがストレージ・サーバ10にインストールされるようにしてもよい。プリンタ・サーバ20にもストレージ・サーバ10と同様に,CPU,メモリ,ハード・ディスク,通信装置などが含まれている。
図3はハード・ディスク18に格納されている複数の画像を示している。
ハード・ディスク18には,ユーザU1の画像P1からP100,ユーザU2の画像P101からP200,ユーザU3の画像P201からP300など,複数のユーザの複数の画像が格納されている。ユーザU1,U2およびU3以外のユーザの画像についてもハード・ディスク18に格納されている。ユーザID,パスワードを利用することにより,ユーザU1は,ユーザU1の画像P1からP100にアクセスできるが,他のユーザ,たとえば,ユーザU2の画像P101からP200またはユーザU3の画像P201からP300などにはアクセスできない。他のユーザについても,自分の画像にはアクセスできるが,他のユーザの画像にはアクセスできないように管理されている。
この実施例は,一のユーザの画像と,一のユーザの撮影時の年齢と同じくらいの年齢の時に撮影された,一のユーザの親,子,兄,弟,姉,妹などの画像と,を見つけるものである。たとえば,一のユーザが誕生した時の画像と,その一のユーザの父親が誕生した時の画像と,を見つけたり,一のユーザの小学校の入学式の時の画像と,その一のユーザの父親の小学校の入学式の時の画像と,を見つけたりする。この実施例では,ユーザU1が一のユーザとされるが,他のユーザU2,U3などが一のユーザとされてもよい。
図4から図6は,ストレージ・サーバ10(画像処理装置)の処理手順を示すフローチャートである。
たとえば,ユーザU1がクライアント・コンピュータ1からストレージ・サーバ10に画像読み取り指令を送信し,ストレージ・サーバ10において画像読み取り指令が受信される。すると,ハード・ディスク18に格納されているユーザU1の画像P1からP100を表す画像ファイルがハード・ディスク・ドライブ17(読取手段の一例である)によって読み取られる(図4ステップ31)。画像P1からP100の中から第1画像がCPU11(第1画像特定手段の一例である)によって特定される(図4ステップ32)。
第1画像は,画像P1からP100のうち,最初に撮影された画像でもよいし,どのような画像でもよい。画像P1からP100のうち,人物が含まれている画像を見つけ,人物が含まれている画像の中から第1画像を特定してもよい。画像P1からP100を表す画像ファイルまたは画像P1からP100のうち,人物が含まれている画像を表す画像ファイルをストレージ・サーバ10からユーザU1が利用しているクライアント・コンピュータ1に送信し,クライアント・コンピュータ1に含まれる表示装置の表示画面に画像P1からP100または画像P1からP100のうち,人物が含まれている画像を表示し,ユーザU1にクライアント・コンピュータ1のマウス(第1画像特定手段の一例である)を用いて第1画像を選択させることにより第1画像を特定してもよい。ユーザU1が第1画像を選択した場合には,その第1画像の識別データがクライアント・コンピュータ1からストレージ・サーバ10に,クライアント・コンピュータ1の通信装置によって送信される。
ストレージ・サーバ10のCPU11またはユーザU1によって第1画像が特定されると,CPU11(第1人物認識手段の一例である)によって第1画像に含まれる人物(第1人物)が認識(検出)される(図4ステップ33)。第1画像に複数の人物が含まれていれば複数の人物がCPU11によって認識される。つづいて,第1画像を撮影した時の第1人物の年齢がCPU11(第1年齢推定手段の一例である)によって推定される(図4ステップ34)。第1画像を表す画像ファイルのヘッダに年齢を表すデータが記録されている場合には,そのデータから年齢が分かるし,年齢が既に分かっている人物の画像を多数読み込ませて,顔,体形および服装等と年齢との関係を学習させた学習済みモデルを備えたAI(人工知能,artificial intelligence)を利用して第1人物の年齢を推定してもよい(例えば特開2010-113526号公報,特開2010-257409号公報等に記載されている)。第1画像の中に第1人物の年齢についての情報がある場合(たとえば,第1人物に学年が記載されている名札があるなど)には,その情報を利用して第1人物の年齢がCPU11によって推定される。
図7および図8は,ユーザU1の画像P1からP100のうち,一部の画像を表している。図7および図8においては,撮影年順に一部の画像が示されている。
図7を参照して,画像P1は1962年に撮影されており,ユーザU1の父親U11が誕生した時の画像である。画像P12は1969年に撮影されており,ユーザU1の父親U11が小学校に入学した時の画像である。画像P12には,ユーザU1の父親U11と,ユーザU1の祖母U21が写っている。画像P33は1975年に撮影されており,ユーザU1の父親が小学校を卒業したときの画像である。画像P33にもユーザU1の父親U11と,ユーザU1の祖母U21が写っている。画像P44は1983年に撮影されており,ユーザU1の父親の成人式の時の画像である。画像P51は1990年に撮影されており,ユーザU1が誕生した時の画像であり,ユーザU1が写っている。
図8を参照して,画像P51は図7に示す画像P51と同じであり,ユーザU1が写っている。画像P72は1997年に撮影されており,ユーザU1が小学校に入学した時の画像である。画像P72には,ユーザU1と,ユーザU1の母親U10が写っている。画像P83は2003年に撮影されており,ユーザU1が小学校を卒業したときの画像である。画像P83にもユーザU1と,ユーザU1の母親U10が写っている。画像P94は2011年に撮影されており,ユーザU1の成人式の時の画像である。画像P100は2019年に撮影されており,ユーザU1の子供U31が誕生した時の画像であり,ユーザU1の子供U31が写っている。
画像P1からP100の撮影年は,画像P1から画像P100を表す画像ファイルのヘッダに撮影年についてのデータが記録されている場合には,そのデータから分かるし,画像ファイルのヘッダに撮影年のデータが記録されていない場合には,画像を解析することにより撮影年が推定される。例えば,撮影時の撮影日時写し込み機能によって画像に撮影日が写り込んでいるときは,解析により撮影日を取得することができる。撮影日が写り込んでいないときは,ランドマークとされる建物,写真の褪色の程度とデジタル化された日時との比較などから,撮影年を推定することができる。さらには,撮影日が既に分かっている画像を多数読み込ませて,ランドマークとされる建物の存在,写真の褪色の程度とデジタル化された日時との差異,その他写っている人物の服装,髪型,所持品などと撮影日との関係を学習させて学習済みモデルを作成することができる。この学習済みモデルを備えたAIを利用して撮影年が推定されてもよい(例えば特開2010-26713号公報,特表2011-525017号公報等に記載されている)。
このように,本発明にいう撮影日時は推定された日時も含む。推定日時は,アナログフィルム・プリントをデジタル化した際に推定されたものを含む。推定された日時の記録場所は,Exif(Exchangeable image file format)の所定領域でもよいし,種々の画像管理ソフトウェアあるいはアプリケーションが独自に持つ領域でもよい。要するに,各画像の確定または推定撮影日時であって,本発明の装置でアクセスし得る日時であればよい。
たとえば,第1画像として図8に示すユーザU1の小学校の入学式の画像P72がCPU11またはユーザU1によって特定されたものとする。画像P72には,ユーザU1とユーザU1の母親U10とが写っているから,小学校の入学式の画像P72に写っているユーザU1またはユーザU1の母親U10の年齢と同じ年齢の時に撮影された人物が写っている画像であって,ユーザU1またはユーザU1の母親U10以外の人物が写っている画像が見つけられる。
図5を参照して,CPU11(第2画像特定手段の一例である)によって第1画像P72以外の第2画像がユーザU1の画像P1からP100の中から特定される(ステップ35)。第1画像と同様に,第2画像に含まれる人物(第2人物)がCPU11(第2画像認識手段の一例である)によって認識され(図5ステップ36),第2人物の年齢がCPU11(第2年齢推定手段の一例である)によって推定される(図5ステップ37)。第2人物の年齢も,第2画像を表す画像ファイルのヘッダに年齢についてのデータが記録されていれば,そのデータから分かるし,その画像ファイルのヘッダに年齢についてのデータが記録されていなければ,第2画像をCPU11が解析し推定できる。本発明にいう年齢推定は,以下の3つの方法のいずれかで行うことが出来る。(1)写っている人物が特定され,画像の撮影日時と,当該人物の誕生日とが分かれば,年齢を正確に算出できる(本発明においてはこれも「年齢推定」の語の意義に含むものとする)。(2)誕生日が分かっており,上述のAIにより撮影年が推定出来れば,年齢を推定することができる。(3)写っている人物の顔,身長(他の人物との比較等により推定),および服装等から,上述のAIにより年齢を推定することができる。
つづいて,第1人物と第2人物とが同一人物かどうかがCPU11(人物判定手段の一例である)によって判断される(図5ステップ38)。同一人物でなければ(図5ステップ38でNO),第1人物の年齢(第1年齢)と第2人物の年齢(第2年齢)との差がしきい値の範囲内かどうかがCPU11(年齢差判定手段の一例である)によって判断される(図5ステップ39)。第1人物および第2人物のいずれも複数であり,かつ同人数の場合には,複数の第1人物と複数の第2人物とがすべて同一の場合に同一人物と判断される。第1人物および第2人物のいずれも複数であるが,第1人物の人数と第2人物の人数とが異なる場合には,一部に同一人物が含まれていたとしても第1人物と第2人物とは同一人物とは判断されない。第1人物および第2人物のいずれか一方が複数であり,いずれか他方が一人の場合には,第1人物と第2人物とは同一人物とは判断されない。
また,第1年齢と第2年齢との差がしきい値(たとえば,2歳)の範囲内であると,第1画像と第2画像との組み合わせがCPU11(画像組合せ検出手段の一例である)によって決定(検出)される(図5ステップ40)。第1人物および第2人物の少なくとも一方が複数である場合には,第1人物である複数の人物と第2人物である複数の人物とのすべての組み合わせにおいて第1年齢と第2年齢との差がしきい値の範囲内かどうかがCPU11によって判断される。一つの組み合わせでも第1年齢と第2年齢との差がしきい値の範囲内であると,第1画像と第2画像との組み合わせとしてCPU11によって決定される。
図8を参照して,第1画像がCPU11またはユーザU1により,ユーザU1が小学校の入学する時に撮影された画像P72と特定され,画像P83が第2画像としてCPU11により特定されたとすると,第1画像として特定された画像P72にはユーザU1とユーザU1の母親U10とが写っており,第2画像として特定された画像P83にはユーザU1とユーザU1の母親U10とが写っているから,第1人物と第2人物とが同一人物とCPU11によって判断される。このため,第1画像として特定された画像P72と第2画像として特定された画像P83とは,CPU11によって画像組合せと決定されない。
図8を参照して,第1画像がCPU11またはユーザU1により,ユーザU1が小学校の入学する時に撮影された画像P72と特定され,画像P94が第2画像としてCPU11により特定されたとすると,第1画像として特定された画像P72にはユーザU1とユーザU1の母親U10とが写っており,第2画像として特定された画像P94にはユーザU1が写っているから,CPU11によって第1人物と第2人物とが同一人物とは判断されない。第1画像として特定された画像P72に含まれるユーザU1の年齢(第1年齢であり,画像P72の撮影時の年齢)が6歳であり,ユーザU1の母親U10の年齢(第1年齢であり,画像P72の撮影時の年齢)が32歳であったとし,第2画像として特定された画像P94に含まれるユーザU1の年齢(第2年齢であり,画像P94の撮影時の年齢)が20歳であるとすると,年齢差はしきい値以内とならないので,画像P72と画像P94とは第1画像と2画像との組み合わせとしてCPU11によって決定されない。
第1画像がCPU11またはユーザU1により,図8に示すようにユーザU1が小学校の入学する時に撮影された画像P72と特定され,図7に示すように画像P12がCPU11により第2画像として特定されたとすると,第1画像として特定された画像P72にはユーザU1とユーザU1の母親U10とが写っており,第2画像として特定された画像P12にはユーザU1の父親U11とユーザU1の祖母U21とが写っているから,CPU11によって第1人物と第2人物とが同一人物とは判断されない。第1画像として特定された画像P72に含まれるユーザU1の年齢(第1年齢であり,画像P72の撮影時の年齢)が6歳であり,ユーザU1の母親U10の年齢(第1年齢であり,画像P72の撮影時の年齢)が32歳であったとし,第2画像として特定された画像P12に含まれるユーザU1の父親U11の年齢(第2年齢であり,画像P94の撮影時の年齢)が6歳であるとすると,祖母U21の年齢にかかわらず,年齢差がしきい値以内となり,画像P72と画像P12とは第1画像と第2画像との組み合わせとしてCPU11によって決定される。
第1人物と第2人物とが同一人物である(図5ステップ38でYES),または第1年齢と第2年齢との差がしきい値の範囲内でなければ(図5ステップ37でNO),少なくとも一つの画像組合せが見つかるまで処理を続けるようにストレージ・サーバ10が設定されていると,新たな第2画像が特定されて(図6ステップ41でYES,ステップ42),CPU11(制御手段の一例である)の制御のもとに処理が続けられる。
少なくとも一つの画像組合せが見つかったときに処理が終了するようにストレージ・サーバ10が設定されていると,第1画像と第2画像との組み合わせが見つかったことにより(図6ステップ41でYES),ストレージ・サーバ10の処理が終了するようにCPU11によって制御される。一つの画像組合せが見つかった場合でも,続けて処理が行われるようにストレージ・サーバ10が設定されていると,第1画像と第2画像との組み合わせが見つかっても処理が続行される(図6ステップ41でNO)。
特定されていない第2画像が残っている場合には(図6ステップ42でYES),次の第2画像がCPU11によって特定され(図5ステップ35),上述したように図5ステップ36から図6ステップ42までの処理が繰り返されるようにCPU11によって制御される。特定されていない第2画像が残っていない場合には(図6ステップ42でNO),特定されていない第1画像が残っており(図6ステップ43でYES),少なくとも一つの画像組合せが見つかった場合でも終了せずに処理を続けるようにストレージ・サーバ10が設定されていると(図6ステップ44でNO),次の第1画像がCPU11によって特定され(図4ステップ32),図4ステップ33からの処理が繰り返されるようにCPU11によって制御される。
少なくとも一つの画像組合せが検出されるとストレージ・サーバ10の処理が終了するように設定されていたり(図6ステップ41でYES),特定されていない第1画像が残っていなかったり(図6ステップ43でNO),特定されていない第1画像が残っていても処理を終了するようにストレージ・サーバ10が設定されていると(図6ステップ44でYES),図4から図6に示す処理は終了する。
上述の実施例においては,少なくとも一つの画像組合せが検出されるとストレージ・サーバ10の処理が終了するが(図6ステップ41でYES),終了せずに特定される第1画像を変えてステップ32からの処理が行われるようにしてもよい。第1画像ごとに,第1画像と第2画像との画像組合せが一つずつ決定されるようになる。
図9は,プリンタ・サーバ20においてプリントされたプリントの一例である。
上述のように,第1画像と第2画像との画像組合せとして画像P12と画像P72とが決定されたものとする。第1画像を表す画像ファイル,第2画像を表す画像ファイルおよびプリント指令がCPU11(プリンタ制御手段の一例である)の制御により,プリンタ・サーバ20に送信される。プリンタ・サーバ20においてプリント50が印刷される。プリント50の左側の領域51には第1画像として特定された画像P72が印刷されており,プリント50の右側の領域52には第2画像として特定された画像P12が印刷されている。
画像P72はユーザU1が6歳の時に撮影された画像であり,ユーザU1の小学校の入学式の時の画像である。画像P12はユーザU1の父親U11が6歳の時に撮影された画像であり,ユーザU1の父親U11の小学校の入学式の時の画像である。
年齢が同じ時に撮影された親子の画像P12とP72とがプリンタ・サーバ20によって隣接して印刷されているプリント50が得られる。プリント50はユーザU1に,たとえば郵送される。
図9に示す例では画像P12とP72とが隣接して印刷されているプリント50であるが,これらの画像P12とP72とをそれぞれ表す画像ファイル(または画像P12とP72とを隣接した一つの画像として表す画像ファイル)およびクライアント・コンピュータ1に含まれる表示装置の表示画面に画像P12とP72とが隣接して表示されるような指令を,ストレージ・サーバ10のCPU11(表示制御手段の一例である)において生成し,それらの画像ファイルと指令とをストレージ・サーバ10からクライアント・コンピュータ1に送信してもよい。クライアント・コンピュータ1に含まれる表示装置の表示画面に画像P12とP72とが隣接して表示される。ストレージ・サーバ10の表示装置19Aの表示画面にP12とP72とが隣接して表示されるように,CPU11(表示制御手段の一例である)により制御してもよい。
この実施例によると,同じ年代に撮影された異なる人物の画像を見つけることができる。上述の実施例においては,ユーザU1の画像と,その画像が撮影された時のユーザの年齢と同じ年齢の時(年齢差がしきい値以内であればよい)に撮影されたユーザU1の父親U11の画像と,が見つけられているが,同じ年齢の時に撮影された父親の画像と子供の画像だけでなく,同じ年齢の時に撮影された兄弟の画像などを見つけることもできる。
また,上述の実施例においては,ハード・ディスク18に格納される画像は,すべてユーザの親族または姻族の画像としてもよい。検出される第1画像と第2画像とが,親子,兄弟,姉妹,従妹などのように,親族または姻族の画像のみとなる。
[変形例]
図10および図11は,第2画像を特定する処理手順を示すフローチャートである。図10および図11に示す処理は,図5ステップ35の処理に対応する。
図10および図11に示す処理においては,第1画像の撮影日としきい値以上離れている撮影日の画像がCPU11によって第2画像と決定される。
特定された第1画像の撮影年月日が,その第1画像を表す画像ファイルのヘッダからCPU11によって読み取られる(ステップ61)。第1画像の撮影年月日を読み取ることができなかった場合には(ステップ62でNO),CPU11によって第1画像の撮影年月日が推定される(ステップ63)。AIを利用して撮影年月日を推定してもよいし,撮影年月日を推定できるような被写体が第1画像に含まれている場合には,その被写体を利用して撮影年月日が推定される。
CPU11によって,第1画像以外の画像の中から第2画像候補が特定され,その第2画像候補の撮影年月日が,第2画像を表す画像ファイルのヘッダからCPU11によって読み取られる(ステップ64)。第2画像候補の撮影年月日を読み取ることができなかった場合には(ステップ65でNO),CPU11によって第2画像候補の撮影年月日が推定される(ステップ66)。第2画像候補についても,AIを利用して撮影年月日を推定してもよいし,撮影年月日を推定できるような被写体が第2画像候補に含まれている場合には,その被写体を利用して撮影年月日が推定される。
第1画像の撮影日と第2画像候補の撮影日とがしきい値(たとえば,100日であるが他の値でもよい)以上離れていると(ステップ67でYES),第2画像候補が第2画像としてCPU11によって特定される(ステップ68)。第1画像の撮影日と第2画像候補の撮影日とがしきい値以上離れていないと(ステップ67でNO),別の第2画像候補がCPU11によって特定され,撮影年月日が読み取られる(ステップ64)。第2画像候補の特定は,どのようにしてもよく,撮影順でもランダムでもよい。
図12は,第2画像の特定処理の一部の処理手順を示すフローチャートであり,図11の処理手順に対応している。図12に示す処理手順は,図10に示す処理手順につづいて実施される。
図12においては,第1画像の撮影年と第2画像候補の撮影年とが異なるかどうかがCPU11によって判断される(ステップ71)。異なる場合には(ステップ71でYES),第1画像の撮影時期と第2画像候補の撮影時期とが同じかどうかがCPU11によって判断される(ステップ72)。撮影時期が同じの場合に(ステップ72でYES),CPU11によって第2画像候補が第2画像として特定される(ステップ73)。
入学式など,同じ時期に行われるイベントにおいて撮影された第1画像と第2画像とを見つけることができ,上述のように親の入学式または卒業式の時の画像と子供の入学式または卒業式の時の画像,兄の入学式または卒業式の時の画像と弟の入学式または卒業式の時の画像などを見つけることができる。同じ時期とは,一般的に同じ期間として感じられる期間であり,たとえば,同じ季節,同じ月などである。
図13は,第2画像を特定する処理手順を示すフローチャートである。図13に示す処理も,図5ステップ35の処理に対応する。
図13に示す処理手順は,第1画像の構図と同じような構図をもつ画像を第2画像とするものである。
CPU11によって特定された第1画像の構図がCPU11によって検出される(ステップ81)。多数の構図サンプルを記憶しておき,その構図サンプルとのマッチングにより構図検出を行ってもよいし,画像に含まれる被写体の位置,種類,大きさなどを検出し,検出された被写体の位置,種類,大きさなどから構図検出を行ってもよい。とくに,人物の位置,大きさなどを重要視して構図を検出するとよい。つづいて,CPU11によって第2画像候補が特定され,特定された第2画像候補の構図もCPU11によって検出される(ステップ82)。
第1画像の構図と第2画像候補の構図とがCPU11によって比較され,それらの2つの構図がほぼ同一である(構図の一致度がしきい値以上である)と(ステップ83でYES),第2画像候補が第2画像としてCPU11によって特定される(ステップ84)。第1画像の構図と第2画像候補の構図とが,ほぼ同一ではないと(ステップ83でNO),CPU11によって新たな第2画像候補が特定され,新たな第2画像候補の構図がCPU11によって検出される(ステップ82)。第1画像と新たな第2画像候補の構図とが比較される。
同じ年代に撮影された異なる人物の画像であって,構図も同じ画像を見つけることができる。
図14および図15も,第2画像を特定する処理手順を示すフローチャートである。図14および図15に示す処理も,図5ステップ35の処理に対応する。
図14および図15に示す処理は,第1画像の撮影場所と同一の撮影場所の画像を第2画像とする処理である。
第1画像の撮影場所{撮影位置を示すGPS(Global Positioning System)データなど}が,第1画像を表す画像ファイルのヘッダからCPU11によって読み取られる(ステップ91)。ヘッダに撮影場所が記録されていないなどの理由により,第1画像を表す画像ファイルのヘッダからCPU11によって第1画像の撮影場所が読み取れない場合には(ステップ92でNO),第1画像の撮影場所がCPU11によって推定される(ステップ93)。たとえば,第1画像に住所表示,場所を示す特徴となる被写体などが写っていれば,それらの被写体から撮影場所がCPU11によって推定される。
CPU11によって第2画像候補が特定されて,その第2画像候補の撮影場所が,第2画像候補を表す画像ファイルのヘッダからCPU11によって読み取られる(ステップ95)。ヘッダに撮影場所が記録されていないなどの理由により,第2画像候補を表す画像ファイルのヘッダからCPU11によって第2画像候補の撮影場所が読み取れない場合には(ステップ95でNO),第2画像候補の撮影場所がCPU11によって推定される(ステップ96)。
第1画像の撮影場所と第2画像候補の撮影場所とが同一(同一と見なされればよい)であれば(ステップ97でYES),第2画像候補が第2画像としてCPU11によって特定される(ステップ98)。第1画像の撮影場所と第2画像候補の撮影場所とが同一でなければ(ステップ97でNO),新たな第2画像候補がCPU11によって特定され,特定された新たな第2画像候補の撮影場所が読み取られたり,推定されたりする(ステップ94,96)。第1画像の撮影場所と新たな第2画像候補の撮影場所と比較される(ステップ97)。
同じ年代に撮影された異なる人物の画像であって,撮影場所も同じ画像を見つけることができる。たとえば,親子で同じ学校に通った場合には,同じ学校での子供の入学式,卒業式などの画像と,その同じ学校での子供の親の入学式,卒業式などの画像とを見つけることができる。
図16も,第2画像を特定する処理手順を示すフローチャートである。図16に示す処理も,図5ステップ35の処理に対応する。
図16に示す処理は,第1画像に含まれる人物の親族または姻族の少なくとも一方が含まれる画像を第2画像として特定する処理である。
第1画像を表す画像ファイルのヘッダから,第1画像についての親族,姻族についての情報がCPU11によって読み取られる(ステップ101)。CPU11によって第2画像候補が特定され,第2画像候補を表す画像ファイルのヘッダから第2画像候補に含まれている人物についての親族,姻族についての情報がCPU11によって読み取られる(ステップ102)。
第1画像から得られた親族,姻族についての情報と第2画像候補から得られた親族,姻族についての情報とから,第1画像に含まれる人物と第2画像候補に含まれる人物とが,同一親族または同一姻族の少なくとも一方を示しているかどうかがCPU11によって確認される(ステップ103)。同一親族または同一姻族の少なくとも一方を示していれば(ステップ103でYES),CPU11によって第2画像候補が第2画像として特定される(ステップ104)。同一親族または同一姻族のいずれでもなければ(ステップ103でNO),新たな第2画像候補がCPU11によって特定されて,新たな第2画像候補について,第1画像に含まれる人物と第2画像候補に含まれる人物とが,同一親族または同一姻族の少なくとも一方を示しているかどうかがCPU11によって確認される(ステップ103)。
上述の実施例においては,画像ファイルのヘッダに記録されている親族,姻族についての情報を利用して第1画像に含まれる人物と第2画像候補に含まれる人物とが,同一親族または同一姻族の少なくとも一方を示しているかどうかがCPU11によって確認されているが,あるユーザについての親族,姻族についての顔画像を表すデータをあらかじめストレージ・サーバ10のハード・ディスク18に,そのユーザに対応して記憶しておき,その顔画像を表すデータを用いて,AIを利用して第1画像に含まれる人物と第2画像候補に含まれる人物とが,親族または姻族の少なくとも一方かどうかを判断してもよい。
同じ年代に撮影された親族,姻族の人物の画像を見つけることができる。
図17および図18も,第2画像を特定する処理手順を示すフローチャートである。図17および図18に示す処理も,図5ステップ35の処理に対応する。
図17および図18に示す処理は,第1画像によって表されるイベントと同じイベントの画像を第2画像として特定する処理である。
第1画像が表しているイベントが,第1画像を表す画像ファイルのヘッダからCPU11によって読み取られる(ステップ111)。ヘッダにイベントが記録されていないなどの理由により,第1画像を表す画像ファイルのヘッダからCPU11によって第1画像が表しているイベントが読み取れない場合には(ステップ112でNO),第1画像のイベントがCPU11によって推定される(ステップ113)。たとえば,第1画像にイベントを表す被写体,イベント名などが写っていれば,その被写体,イベント名からイベントがCPU11によって推定される。
CPU11によって第2画像候補が特定されて,その第2画像候補によって表されるイベントが,第2画像候補を表す画像ファイルのヘッダからCPU11によって読み取られる(ステップ114)。ヘッダにイベントが記録されていないなどの理由により,第2画像候補を表す画像ファイルのヘッダからCPU11によって第2画像候補によって表されるイベントが読み取れない場合には(ステップ115でNO),第2画像候補によって表されるイベントがCPU11によって推定される(ステップ116)。
第1画像によって表されるイベントと第2画像候補によって表されるイベントとが同一(同一と見なされればよい)であれば(ステップ117でYES),第2画像候補が第2画像としてCPU11によって特定される(ステップ118)。第1画像によって表されるイベントと第2画像候補によって表されるイベントとが同一でなければ(ステップ117でNO),新たな第2画像候補がCPU11によって特定され,特定された新たな第2画像候補によって表されるイベントが読み取られたり,推定されたりする(ステップ114,116)。第1画像によって表されるイベントと新たな第2画像候補によって表されるイベントと比較される(ステップ117)。
同じ年代に撮影された異なる人物の画像であって,同じイベントを表す画像を見つけることができる。
図19は,第1画像と第2画像との画像組み合わせを決定する処理手順を示すフローチャートである。図19に示す処理手順は,図5ステップ40の処理手順に対応する。
図19に示す処理は,第1画像に含まれる第1人物と第2画像に含まれる第2人物とが類似し,かつ第1画像と第2画像とが類似している場合に,第1画像と第2画像とを画像組合せとして決定する処理である。第1画像と第2画像とが類似せずに,第1画像に含まれる第1人物と第2画像に含まれる第2人物とが類似している場合に,第1画像と第2画像とを画像組合せとして決定してもよいし,第1画像に含まれる第1人物と第2画像に含まれる第2人物とが類似せずに,第1画像と第2画像とが類似している場合に,第1画像と第画像とを画像組合せとして決定してもよい。
第1画像から第1人物が,すでに特定された第2画像(図5ステップ35)から第2人物が,CPU11によって検出され,第1人物と第2人物との類似度を表す第1の類似度がCPU11によって算出される(ステップ121)。算出された第1の類似度が第1のしきい値未満であると(ステップ122でNO),第1人物と第2人物とは似ていない(たとえば,親族ではなく,他人同士)と考えられ,別の第2画像がCPU11によって新たに特定される。
算出された第1の類似度が第1のしきい値以上であれば(ステップ122でYES),第1人物と第2人物とは似ている(たとえば,親族同士)と考えられ,第1画像と第2画像との類似度を表す第2の類似度がCPU11によって算出される(ステップ123)。算出された第2の類似度が第2のしきい値未満であると(ステップ124でNO),第1の類似度と第2の類似度とは似ていないと考えられ,別の第2画像がCPU11によって新たに特定される。
算出された第2の類似度が第2のしきい値以上であると(ステップ124でYES),第1の類似度と第2の類似度とは似ていると考えられ,第1画像と第2画像との画像組合せがCPU11によって決定される(ステップ125)。
同じ年代に撮影された異なる人物の画像であって,第1人物と類似した第2人物が含まれている第1画像と第2画像との画像組み合わせであり,かつ第1画像と第2画像とも類似している画像組合せを決定できるようになる。
上述の実施例において,画像処理システムの管理者は,ユーザの画像を解析することについてユーザから承諾を得るものとする。
上述の処理を実行する処理部には,ソフトウェアを実行して各種の処理部として機能するCPU11のほかに,FPGA(field-programmable gate array)などのように製造後に回路構成を変更可能なプログラマブル・ロジック・ディバイス,ASIC(application specific integrated circuit)などの特定の処理を実行させるために専用に設計された回路構成を有するプロセッサである専用電気回路などが含まれる。
1つの処理部は,これらの各種のプロセッサのうちの1つで構成されてもよいし,同種または異種の2つ以上のプロセッサの組合せ(たとえば,複数のFPGA,CPUとFPGAの組合せ)で構成されてもよい。複数の処理部を1つのプロセッサで構成する例としては,第1に,クライアント・コンピュータやサーバなどのコンピュータに代表されるように,1つ以上のCPUとソフトウェアの組合せで1つのプロセッサを構成し,このプロセッサが複数の処理部として機能する形態がある。第2に,システム・オン・チップなどに代表されるように,複数の処理部を含むシステム全体の機能を1つのIC(integrated circuit)チップで実現するプロセッサを使用する形態がある。このように,各種の処理部は,ハードウエア的な構造として各種のプロセッサを1つ以上用いて構成される。
さらに,これらの各種のプロセッサのハードウエア的な構造は,より具体的には,半導体素子などの回路素子を組合せた電気回路である。
1-n:コンピュータ,10:ストレージ・サーバ,11:CPU,12:通信装置,13:メモリ・カード・リーダ・ライタ,14:メモリ・カード,15:コンパクト・ディスク・ドライブ,16:コンパクト・ディスク,17:ハード・ディスク・ドライブ,18:ハード・ディスク,19:メモリ,19A:表示装置,20:プリンタ・サーバ,50:プリント,51:プリントの左側の領域,52:プリンタの右側の領域,P1-P300:画像,U1-U3:ユーザ,U10:母親,U11:父親,U21:祖母,U31:子供

Claims (14)

  1. 一のユーザがアクセスでる複数の画像の中の任意の1枚を,第1画像として特定する第1画像特定手段,
    上記第1画像に写っている第1人物を認識する第1人物認識手段,
    上記第1画像の撮影日時における上記第1人物の年齢を推定する第1年齢推定手段,
    上記複数の画像の中から上記第1画像以外の任意の1枚であって,上記第1画像の撮影日からしきい値以上に撮影日が離れている画像を,第2画像として特定する第2画像特定手段,
    上記第2画像に写っている第2人物を認識する第2人物認識手段,
    上記第2画像の撮影日時における上記第2人物の年齢を推定する第2年齢推定手段,
    上記認識された上記第1人物と上記認識された上記第2人物とが同一人物であるか否かを判定する人物判定手段,
    上記推定された第1年齢と上記推定された第2年齢との差がしきい値の範囲内にあるか否かを判定する年齢差判定手段
    上記人物判定手段により上記第1人物と上記第2人物とが同一人物ではないと判定され,かつ,上記年齢差判定手段により第1年齢と第2年齢との差がしきい値の範囲内にあると判定されたときに,上記第1画像と上記第2画像とを画像組合せとして検出する画像組合せ検出手段,および
    上記画像組合せ検出手段において上記画像組合せが少なくとも一つ検出されるまで,上記第1画像の特定または上記第2画像の特定の少なくとも一方を繰り返すように画像処理装置を制御する制御手段,
    を備えた画像処理装置。
  2. 上記第2画像特定手段は,
    上記第1画像が撮影された年と異なる年であって,かつ上記第1画像の撮影時期と同一時期に撮影された画像を,上記第2画像として特定する,
    請求項に記載の画像処理装置。
  3. 上記第2画像特定手段は,
    上記第1画像の構図と同一の構図をもつ画像を,上記第2画像として特定する,
    請求項1または2に記載の画像処理装置。
  4. 上記第2画像特定手段は,
    上記第1画像の撮影場所と同一場所において撮影された画像を,上記第2画像として特定する,
    請求項1からのうち,いずれか一項に記載の画像処理装置。
  5. 上記第2画像特定手段は,
    上記第1画像に含まれている人物の親族または姻族が含まれている画像を,上記第2画像として特定する,
    請求項1からのうち,いずれか一項に記載の画像処理装置。
  6. 上記第2画像特定手段は,
    上記1画像の撮影時のイベントと同一のイベントにおいて撮影された画像を,上記第2画像として特定する,
    請求項1からのうち,いずれか一項に記載の画像処理装置。
  7. 上記第1人物と上記第2人物との第1の類似度または上記第1画像と上記第2画像との第2の類似度の少なくとも一方を算出する類似度算出手段をさらに備え,
    上記画像組合せ検出手段は,
    上記第1の類似度または上記第2の類似度の少なくとも一方がしきい値以上の場合に,上記第1画像と上記第2画像とを上記画像組合せとして検出する,
    請求項1からのうち,いずれか一項に記載の画像処理装置。
  8. 上記複数の画像には,
    特定の人物の親族または姻族が写っている画像が含まれている
    請求項1からのうち,いずれか一項に記載の画像処理装置。
  9. 上記第1画像と上記第2画像とを隣接して表示するように表示装置を制御する表示制御手段,
    をさらに備えた請求項1からのうち,いずれか一項に記載の画像処理装置。
  10. 上記第1画像と上記第2画像とを隣接してプリントするようにプリンタを制御するプリンタ制御手段,
    をさらに備えた請求項1からのうち,いずれか一項に記載の画像処理装置。
  11. 上記第1画像特定手段は,
    ユーザからの指令に応じて上記第1画像を特定する,
    請求項1から10のうち,いずれか一項に記載の画像処理装置。
  12. 1画像特定手段が,一のユーザがアクセスできる複数の画像の中の任意の1枚を,第1画像として特定し,
    第1人物認識手段が,上記第1画像に写っている第1人物を認識し,
    第1年齢推定手段が,上記第1画像の撮影日時における上記第1人物の年齢を推定し,
    第2画像特定手段が,上記複数の画像の中から上記第1画像以外の任意の1枚であって,上記第1画像の撮影日からしきい値以上に撮影日が離れている画像を,第2画像として特定し,
    第2人物認識手段が,上記第2画像に写っている第2人物を認識し,
    第2年齢推定手段が,上記第2画像の撮影日時における上記第2人物の年齢を推定し,
    人物判定手段が,上記認識された上記第1人物と上記認識された上記第2人物とが同一人物であるか否かを判定し,
    年齢差判定手段が,上記推定された第1年齢と上記推定された第2年齢との差がしきい値の範囲内にあるか否かを判定し,
    画像組合せ検出手段が,上記人物判定手段により上記第1人物と上記第2人物とが同一人物ではないと判定され,かつ,上記年齢差判定手段により第1年齢と第2年齢との差がしきい値の範囲内にあると判定されたときに,上記第1画像と上記第2画像とを画像組合せとして検出
    制御手段が,上記画像組合せ検出手段において上記画像組合せが少なくとも一つ検出されるまで,上記第1画像の特定または上記第2画像の特定の少なくとも一方を繰り返すように制御する,
    画像処理方法。
  13. 画像処理装置のコンピュータを制御するプログラムであって,コンピュータが読み取り可能なプログラムにおいて,
    一のユーザがアクセスすることができる複数の画像が記録されている記録装置から画像
    を読み取らせ,
    上記複数の画像の中の任意の1枚を,第1画像として特定させ,
    上記第1画像に写っている第1人物を認識させ,
    上記第1画像の撮影日時における上記第1人物の年齢を推定させ,
    上記複数の画像の中から上記第1画像以外の任意の1枚であって,上記第1画像の撮影日からしきい値以上に撮影日が離れている画像を,第2画像として特定させ,
    上記第2画像に写っている第2人物を認識させ,
    上記第2画像の撮影日時における上記第2人物の年齢を推定させ,
    上記認識された上記第1人物と上記認識された上記第2人物とが同一人物であるか否かを判定させ,
    上記推定された第1年齢と上記推定された第2年齢との差がしきい値の範囲内にあるか否かを判定させ,
    上記第1人物と上記第2人物とが同一人物ではないと判定され,かつ,第1年齢と第2年齢との差がしきい値の範囲内にあると判定されたときに,上記第1画像と上記第2画像とを画像組合せとして検出させ
    上記画像組合せが少なくとも一つ検出されるまで,上記第1画像の特定または上記第2画像の特定の少なくとも一方を繰り返させるように画像処理装置のコンピュータを制御するプログラム。
  14. 請求項13に記載のプログラムを格納した記録媒体。
JP2019121862A 2019-06-28 2019-06-28 画像処理装置,画像処理方法,画像処理プログラムおよびそのプログラムを格納した記録媒体 Active JP7204596B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2019121862A JP7204596B2 (ja) 2019-06-28 2019-06-28 画像処理装置,画像処理方法,画像処理プログラムおよびそのプログラムを格納した記録媒体
US16/893,124 US11475567B2 (en) 2019-06-28 2020-06-04 Image processing apparatus, image processing method, image processing program, and recording medium storing program
CN202010532731.6A CN112148910A (zh) 2019-06-28 2020-06-11 图像处理装置、图像处理方法及存储有图像处理程序的记录介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019121862A JP7204596B2 (ja) 2019-06-28 2019-06-28 画像処理装置,画像処理方法,画像処理プログラムおよびそのプログラムを格納した記録媒体

Publications (2)

Publication Number Publication Date
JP2021009475A JP2021009475A (ja) 2021-01-28
JP7204596B2 true JP7204596B2 (ja) 2023-01-16

Family

ID=73891930

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019121862A Active JP7204596B2 (ja) 2019-06-28 2019-06-28 画像処理装置,画像処理方法,画像処理プログラムおよびそのプログラムを格納した記録媒体

Country Status (3)

Country Link
US (1) US11475567B2 (ja)
JP (1) JP7204596B2 (ja)
CN (1) CN112148910A (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20220343684A1 (en) * 2021-04-23 2022-10-27 Wrethink, Inc. Methods and apparatus for determining the date of a scanned photo from face data and using such date information

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012014376A (ja) 2010-06-30 2012-01-19 Casio Comput Co Ltd 画像処理装置及び方法、並びにプログラム
JP2016154366A (ja) 2011-03-14 2016-08-25 株式会社ニコン 電子機器およびプログラム

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20090310863A1 (en) 2008-06-11 2009-12-17 Gallagher Andrew C Finding image capture date of hardcopy medium
JP5228148B2 (ja) 2008-07-17 2013-07-03 国立大学法人豊橋技術科学大学 画像データから位置を推定する位置推定方法、位置推定装置及び位置推定プログラム
JP5164767B2 (ja) 2008-09-25 2013-03-21 キヤノン株式会社 画像処理装置、画像処理装置の制御方法及びプログラム
JP5210808B2 (ja) 2008-11-06 2013-06-12 Necソフト株式会社 年齢推定装置及び方法
JP4636190B2 (ja) * 2009-03-13 2011-02-23 オムロン株式会社 顔照合装置、電子機器、顔照合装置の制御方法、および顔照合装置制御プログラム
JP4742193B2 (ja) 2009-04-28 2011-08-10 Necソフト株式会社 年齢推定装置、年齢推定方法及びプログラム
JP2012104155A (ja) * 2012-02-03 2012-05-31 Casio Comput Co Ltd 画像処理装置及び方法、並びにプログラム
US8861804B1 (en) * 2012-06-15 2014-10-14 Shutterfly, Inc. Assisted photo-tagging with facial recognition models
US9465435B1 (en) * 2013-08-26 2016-10-11 Google Inc. Segmentation of a video based on user engagement in respective segments of the video
JP6081323B2 (ja) * 2013-09-05 2017-02-15 富士フイルム株式会社 イベントの撮像画像配置装置ならびにその制御方法およびその制御プログラム
JP5899179B2 (ja) 2013-09-30 2016-04-06 富士フイルム株式会社 人物認識装置、人物認識方法、人物認識プログラムおよびその記録媒体
JP6397439B2 (ja) * 2016-03-23 2018-09-26 セコム株式会社 属性推定装置
JP6660835B2 (ja) 2016-07-08 2020-03-11 富士フイルム株式会社 画像処理装置、画像処理方法、プログラムおよび記録媒体
CN107766782A (zh) * 2016-08-23 2018-03-06 中兴通讯股份有限公司 一种年龄群体分类的方法及装置
JP6869809B2 (ja) * 2017-05-29 2021-05-12 株式会社Nttドコモ 画像推定装置

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012014376A (ja) 2010-06-30 2012-01-19 Casio Comput Co Ltd 画像処理装置及び方法、並びにプログラム
JP2016154366A (ja) 2011-03-14 2016-08-25 株式会社ニコン 電子機器およびプログラム

Also Published As

Publication number Publication date
JP2021009475A (ja) 2021-01-28
US20200410680A1 (en) 2020-12-31
CN112148910A (zh) 2020-12-29
US11475567B2 (en) 2022-10-18

Similar Documents

Publication Publication Date Title
US10438000B1 (en) Using recognized backup images for recovery after a ransomware attack
US20170337170A1 (en) Creating a narrative description of media content and applications thereof
JP5386007B2 (ja) 画像クラスタリング方法
JP5351958B2 (ja) デジタルコンテンツ記録のための意味論的イベント検出
US11748401B2 (en) Generating congruous metadata for multimedia
JP5500303B1 (ja) 監視システム、監視方法、監視プログラム、ならびに該プログラムを記録した記録媒体
US8837787B2 (en) System and method for associating a photo with a data structure node
WO2021051547A1 (zh) 暴力行为检测方法及系统
US9947105B2 (en) Information processing apparatus, recording medium, and information processing method
JP7287511B2 (ja) 情報処理装置、容疑者情報生成方法及びプログラム
EP2864906A2 (en) Searching for events by attendants
CN111507332A (zh) 车辆vin码检测方法与设备
JP7204596B2 (ja) 画像処理装置,画像処理方法,画像処理プログラムおよびそのプログラムを格納した記録媒体
CN107506735A (zh) 照片归类方法以及归类系统
Myasnikov et al. Detection of sensitive textual information in user photo albums on mobile devices
Domingues et al. Deep learning-based facial detection and recognition in still images for digital forensics
AU2022100065A4 (en) Data integrity management in a computer network
JP2007213183A (ja) デジタル画像データの分類装置、デジタル画像データの分類方法およびデジタル画像データの分類プログラム
JP7553957B2 (ja) 寄付装置、寄付方法、およびコンピュータプログラム
WO2021152818A1 (ja) 顧客購買分析システム、顧客購買分析方法、およびプログラム
KR20170080493A (ko) 시청각 데이터를 포함하는 콘텐트를 선택하는 방법 및 대응하는 전자 디바이스, 시스템, 컴퓨터 판독가능 프로그램 제품 및 컴퓨터 판독가능 저장 매체
JP7529006B2 (ja) プログラム、検索装置、および検索方法
JP6975666B2 (ja) 人物特定システム及び人物特定方法
US11256907B2 (en) Classification of subjects within a digital image
JP7547465B2 (ja) 画像内容判定装置、画像内容判定装置の作動方法、及び画像内容判定プログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200420

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210830

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220531

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220621

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220817

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20221220

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221228

R150 Certificate of patent or registration of utility model

Ref document number: 7204596

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150