JPWO2012017620A1 - 画像分類装置、方法、プログラム、プログラムを記録する記録媒体及び集積回路 - Google Patents

画像分類装置、方法、プログラム、プログラムを記録する記録媒体及び集積回路 Download PDF

Info

Publication number
JPWO2012017620A1
JPWO2012017620A1 JP2012527581A JP2012527581A JPWO2012017620A1 JP WO2012017620 A1 JPWO2012017620 A1 JP WO2012017620A1 JP 2012527581 A JP2012527581 A JP 2012527581A JP 2012527581 A JP2012527581 A JP 2012527581A JP WO2012017620 A1 JPWO2012017620 A1 JP WO2012017620A1
Authority
JP
Japan
Prior art keywords
image
evaluation value
unit
image group
calculation unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2012527581A
Other languages
English (en)
Other versions
JP5739428B2 (ja
Inventor
山口 晃一郎
晃一郎 山口
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Panasonic Holdings Corp
Original Assignee
Panasonic Corp
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp, Matsushita Electric Industrial Co Ltd filed Critical Panasonic Corp
Priority to JP2012527581A priority Critical patent/JP5739428B2/ja
Publication of JPWO2012017620A1 publication Critical patent/JPWO2012017620A1/ja
Application granted granted Critical
Publication of JP5739428B2 publication Critical patent/JP5739428B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/55Clustering; Classification
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/58Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/5866Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using information manually generated, e.g. tags, keywords, comments, manually generated location and time information
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/58Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/583Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/58Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/587Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using geographical or spatial information, e.g. location

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Library & Information Science (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Processing Or Creating Images (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Image Analysis (AREA)
  • Television Signal Processing For Recording (AREA)

Abstract

1枚の画像からその画像の特徴を抽出し、抽出された特徴を用いてその画像を分類する従来の画像分類装置では、その画像が、その画像を含む画像グループに属する他の画像と異なる特徴を有している場合に、その画像の分類先が、その画像グループに属する他の画像の分類先と異なるカテゴリとなってしまうことがある。この問題を解決するために、本願発明に係る画像分類装置は、一つのイベントに関連して撮影された複数枚の画像からなる画像グループ単位でその画像グループに写る人物の重要度を示す指標である主役度を算出し、算出した主役度に基づいて、画像グループ単位で画像を互いに異なる分類先イベントのうちのいずれかの分類先イベントに分類する。

Description

本発明は、画像を分類する画像分類装置に関する。
デジタルスチルカメラやカメラ機能付き携帯電話機等のデジタル画像撮影機器が普及し、撮影された画像を記録するためのハードディスク等の記録媒体が安価に提供されている。
一般に、デジタル画像撮影機器等のユーザ(以下、単にユーザという。)は、撮影した各画像を、大容量のハードディスク等の記録媒体に蓄積している。
蓄積している画像が大量になると、蓄積している画像の中から目的の画像を探すのが難しくなるため、ユーザによる画像の検索を容易にする目的で、各画像をいくつかのカテゴリに分類することがある。
画像を分類する技術として、例えば、特許文献1、特許文献2に記載されているように、蓄積されているそれぞれの画像からその画像の特徴を抽出し、抽出された特徴を用いてそれぞれの画像をそれぞれの分類先に分類する技術が知られている。
特許第4232774号公報 特許第4315344号公報
一方、ユーザが画像を撮影する機会は、例えば、ピクニックや川釣りといった行事である場合が多く、また、ユーザが画像を鑑賞する場合には、ある行事で撮影された画像群を単位として画像を鑑賞する場合が多い。
従って、ある行事において撮影された画像の集合からなる画像グループに属する画像は、同一のカテゴリに分類されることが望まれる。
しかしながら、1枚の画像からその画像の特徴を抽出し、抽出された特徴を用いてその画像を分類する技術では、その画像が、その画像を含む画像グループに属する他の画像と異なる特徴を有している場合に、その画像の分類先が、その画像グループに属する他の画像の分類先と異なるカテゴリとなってしまうことがある。
例えば、分類先のカテゴリに、ピクニックというカテゴリと川釣りというカテゴリとがある場合において、ピクニックにいった時に撮影された画像からなる画像グループの中に川のほとりで遊んでいるシーンが撮影された画像があるときに、その川のほとりで遊んでいるシーンの画像だけが川釣りというカテゴリに分類され、その他の画像がピクニックというカテゴリに分類されてしまうこと等である。
そこで、本発明は係る問題に鑑みてなされたものであり、ある行事において撮影された画像グループに属する画像が、互いに異なるカテゴリに分類されてしまうことがないように、ある程度妥当性のある基準に基づいて画像を分類することができる画像分類装置を提供することを目的とする。
上記課題を解決するために本発明に係る画像分類装置は、一イベントに関連して逐次撮影された複数の画像からなる画像グループの中から、所定の特徴を有するオブジェクトが写っている画像を特定する画像特定部と、前記画像グループに含まれる画像それぞれの撮影時刻を反映した時間情報の集合における、前記画像特定部によって特定された画像それぞれの撮影時刻を反映した時間情報の分布に基づいて、前記所定の特徴を有するオブジェクトの評価値を算定する評価値算定部と、前記評価値算定部によって算定された評価値に基づいて、前記画像グループに関連する前記イベントを分類する画像グループ分類部とを備えることを特徴とする。
上述の構成を備える本発明に係る画像分類装置は、ある行事において撮影された画像グループに属する画像が、互いに異なるカテゴリに分類されてしまうことがないように画像を分類することができる。
画像分類装置100のハードウエア構成を示すハードウエアブロック図 画像分類装置100の機能構成を示す機能ブロック図 画像記憶部231のディレクトリ構造を示すディレクトリ構造図 画像特徴情報記憶部232に記憶されている画像特徴情報のデータ構造図 顔対応表記憶部235に記憶されている顔対応表のデータ構造図 主役度情報記憶部233に記憶されている主役度情報のデータ構造図 イベント特徴情報記憶部234に記憶されているイベント特徴情報のデータ構成図 画像グループ分類処理のフローチャート 顔対応表生成処理のフローチャート 多様性算出処理のフローチャート 主役度情報生成処理のフローチャート 家族のメンバーが参加するイベントで撮影された画像群の一例 家族のメンバーが参加するイベントで撮影された画像群の一例 第1変形多様性算出処理のフローチャート 第2変形多様性算出処理のフローチャート シーン分割処理のフローチャート 補足の変形例におけるイベント特徴情報のデータ構成図 変形例における画像分類装置の機能構成を示す機能ブロック図
<実施の形態1>
以下、本発明に係る画像分類装置の一実施形態として、一つのイベントに関連して撮影された複数枚の画像からなる画像グループ単位でその画像グループに写る人物の重要度を示す指標である主役度を算出し、算出した主役度に基づいて、画像グループ単位で画像を互いに異なる分類先イベントのうちのいずれかの分類先イベントに分類する画像分類装置について説明する。
ここで画像グループとは、ユーザによって指定された複数の画像からなる画像の集合のことであって、例えば、2009年初夏の六甲山への旅行というイベントにて撮影された画像の集合や、例えば、2010年の子供の誕生日に行われた誕生会というイベントにて撮影された画像の集合等である。
<構成>
<画像分類装置100のハードウエア構成>
図1は、画像分類装置100の主要なハードウエア構成を示すハードウエアブロック図である。
画像分類装置100は、システムLSI(Large Scale Integrated circuit)110と、ハードディスク装置130と、外部記録媒体読取書込装置140と、USB制御装置150と、出力装置160と、入力装置170と、通信装置180とから構成され、デジタル写真である画像を、JPEG(Joint Photographic Experts Group)方式で符号化されたデータとして記憶し、記憶する画像を分類する機能を有する。
また、画像分類装置100は、デジタルスチルカメラ192に代表される、画像を記録している機器と着脱可能なUSBケーブル195を介して接続し、画像を表示するためのディスプレイ193とモニタケーブル196を介して接続し、ネットワーク194と接続し、ユーザからの操作コマンドを受け付けるリモコン197と無線通信を行い、SDメモリカード191等で代表される外部記録媒体に対して、データの読み出しと書き込みとを行う機能を有する。
システムLSI110は、CPU101と、ROM102と、RAM103と、ハードディスク装置インターフェース104と、外部記録媒体読取書込装置インターフェース105と、USB(Universal Serial Bus)制御装置インターフェース106と、出力装置インターフェース107と、入力装置インターフェース108と、通信装置インターフェース109と、デコーダ111と、バスライン120とを1つの集積回路に集積したLSIであって、ハードディスク装置130、外部記録媒体読取書込装置140、USB制御装置150、出力装置160、入力装置170、通信装置180と接続する。
CPU101は、バスライン120と接続し、ROM102又はRAM103に記憶されているプログラムを実行することで、ROM102、RAM103、ハードディスク装置130、外部記録媒体読取書込装置140、USB制御装置150、出力装置160、入力装置170、通信装置180、デコーダ111を制御して、様々な機能、例えば、ハードディスク装置130から符号化された画像データを読み出して復号し、復号した画像データをディスプレイ193に出力する機能等を実現する。
ROM102はバスライン120と接続し、CPU101の動作を規定するプログラムと、CPUが利用するデータとを記憶する。
RAM103は、バスライン120と接続し、CPU101がプログラムを実行することに伴って発生するデータを一時的に記憶し、また、ハードディスク装置130、外部記録媒体読取書込装置140から読み取ったデータや書き込むデータ、通信装置180が受信したデータや送信するデータ等を一時的に記憶する。
デコーダ111は、符号化された画像データを復号する機能を有するDSP(Digital Signal Processor)であって、バスライン120と接続し、CPU101によって制御され、JPEGデコード機能を有する。
ハードディスク装置インターフェース104、外部記録媒体読取書込装置インターフェース105、USB制御装置インターフェース106、出力装置インターフェース107、入力装置インターフェース108、通信装置インターフェース109は、それぞれ、ハードディスク装置130、外部記録媒体読取書込装置140、USB制御装置150、出力装置160、入力装置170、通信装置180と、バスライン120との信号のやり取りを仲介するインターフェースである。
ハードディスク装置130は、ハードディスク装置インターフェース104と接続し、CPU101によって制御され、内蔵するハードディスクにデータを書き込む機能と、内蔵するハードディスクに書き込まれているデータを読み取る機能を有する。
外部記録媒体読取書込装置140は、外部記録媒体読取書込装置インターフェース105と接続し、CPU101によって制御され、外部記録媒体にデータを書き込む機能と、外部記録媒体に書き込まれているデータを読み取る機能とを有する。
ここで、外部記録媒体とは、DVD(Digital Versatile Disc)、DVD−R、DVD−RAM、BD(Blu-ray Disc)、BD−R、BD−RE、SDメモリカード191等であって、外部記録媒体読取書込装置140は、これら、DVD、BD等からのデータの読み取りや、DVD−R、BD−R、BD−RE、SDメモリカード等へのデータの書き込みと読み取りとをすることができる。
USB制御装置150は、USB制御装置インターフェース106と接続し、CPU101によって制御され、着脱可能なUSBケーブル195を介して外部機器にデータを書き込む機能と、外部機器に書き込まれているデータを読み取る機能とを有する。
ここで、外部機器とは、デジタルスチルカメラ192、パーソナルコンピュータ、カメラ機能付け携帯電話機等の、画像を記憶する機器であって、USB制御装置150は、USBケーブル195を介してこれら外部機器へのデータの書き込みと読み取りとをすることができる。
出力装置160は、出力装置インターフェース107と、モニタケーブル196とに接続し、CPU101によって制御され、モニタケーブル196を介してディスプレイ193に表示させるデータを出力する機能を有する。
入力装置170は、入力装置インターフェース108と接続し、CPU101によって制御され、リモコン197から無線で送信されるユーザからの操作コマンドを受け付け、受け付けた操作コマンドをCPU101に送信する機能を有する。
通信装置180は、通信装置インターフェース109と、ネットワーク194とに接続し、CPU101によって制御され、ネットワーク194を介して、外部通信機器とデータの送受信を行う機能を有する。
ここで、ネットワーク194とは、光通信回線、電話回線、無線回線等によって実現されており、外部通信機器や、インターネット等と接続している。
また、外部通信機器とは、外部ハードディスク装置等といった、画像や、CPU101の動作を規定するプログラム等を記憶する機器であって、通信装置180は、ネットワーク194を介してこれら外部通信機器からデータの読み取りをすることができる。
以上のようなハードウエアで実現される画像分類装置100は、CPU101が、ROM102又はRAM103に記憶されているプログラムを実行し、ROM102、RAM103、ハードディスク装置130、外部記録媒体読取書込装置140、USB制御装置150、出力装置160、入力装置170、通信装置180、デコーダ111を制御することで様々な機能を実現する。
以下、図面を用いて、画像分類装置100の機能構成を説明する。
<画像分類装置100の機能構成>
図2は、画像分類装置100の主要な機能ブロックの構成を示す機能ブロック図である。
画像分類装置100は、画像グループデータ受付部201、画像書込読出部202、画像特徴情報書込読出部203、主役度情報書込読出部204、画像特徴量抽出部205、主役度情報算出部206、画像グループ分類部208、イベント特徴情報書込読出部209、分類結果出力部210、イベント名情報受付部211、イベント特徴情報受付部212、サンプル画像受付部213、サンプル画像書込部214、画像記憶部231、画像特徴情報記憶部232、主役度情報記憶部233、イベント特徴情報記憶部234、顔対応表記憶部235とから構成される。
画像グループデータ受付部201は、画像書込読出部202と接続し、2枚以上の画像からなる画像グループ241の画像の指定を受け付け、指定された画像群を、1つの画像グループに含まれる画像群として読み込む機能を有する。
画像グループデータ受付部201が画像を受け付ける場合には、外部記録媒体読取書込装置140経由で外部記録媒体から画像を受け付ける場合と、USB制御装置150経由で外部機器から画像を受け付ける場合と、通信装置180経由で外部通信機器から画像を受け付ける場合とがある。
また、画像グループデータ受付部201は、画像を受け付ける際に、その画像を特定するための画像IDを付与する機能を有する。
画像記憶部231は、画像としてのデジタル写真を、JPEG方式で符号化された画像データとして記憶するための記憶領域であって、ハードディスク装置130に内蔵されているハードディスクの一部の領域として実装されている。
各画像データは、その画像が撮影された日時を含むメタデータと対応付けられており、画像記憶部231は、画像データとともに対応するメタデータを対応付けて記憶する。
画像記憶部231に記憶される各データは、ファイルシステム配下において、論理的にディレクトリ構造により管理されている。
図3は画像記憶部231のディレクトリ構造を示すディレクトリ構造図である。
同図に示されているように、画像記憶部231のディレクトリ構造は、最上位階層310と、第1ディレクトリ階層320と、第2ディレクトリ階層330との合計3階層からなっている。
第1ディレクトリ階層320には、誕生会ディレクトリ321、旅行ディレクトリ322、運動会ディレクトリ323等の複数の分類先イベントディレクトリと、実データ保管ディレクトリ324とが存在する。
ここで、分類先ディレクトリとは、画像グループの分類先である分類先イベントと同じ名前を持つディレクトリであって、同じ名前のディレクトリは1つしか存在しない。
実データ保管ディレクトリ324は、画像データとメタデータとを対応付けて保持するディレクトリであって、画像のデータとメタデータとはこの実データ保管ディレクトリ324のみに保持される。
第2ディレクトリ階層330には、2010年4月10日ディレクトリ331、2009年4月10日ディレクトリ332、六甲山2009初夏ディレクトリ等の複数のイベントディレクトリが存在する。
イベントディレクトリは、画像グループデータ受付部201が受け付けた画像群からなる画像グループに対応するディレクトリであって、実データ保管ディレクトリ324に保持されているデータのうち、その画像グループに属する全ての画像のデータのアドレスを示す情報が保持されることによって、その画像のデータがリンクされている状態となっているディレクトリである。
各イベントディレクトリは、対応する画像グループが分類されている分類先イベントに対応する分類先イベントディレクトリの下に存在している。
もし、複数の分類先イベントに分類されている画像グループが存在する場合には、分類されているイベントの数だけ、同一名称で同一の画像がリンクされているディレクトリが存在する。
再び図2に戻って、画像分類装置100の機能構成の説明を続ける。
画像書込読出部202は、画像グループデータ受付部201と、画像特徴量抽出部205と、主役度情報算出部206と、画像グループ分類部208とに接続し、画像記憶部231に記憶されている画像とメタデータとを読み出す機能と、画像記憶部231に画像とメタデータとを書き込む機能と、画像記憶部231のディレクトリ構造を変更する機能と、画像データのリンクを変更する機能とを有する。
画像特徴量抽出部205は、画像書込読出部202と画像特徴情報書込読出部203と接続し、以下の3つの機能を有する。
機能1:人の顔の特徴を示す予め定められた顔のモデルを保持し、保持する顔のモデルを参照することで、1枚の画像に含まれる顔の認識を試み、認識した顔の領域の面積と、認識した顔の位置と、認識した顔の向きとを算出し、認識した認識顔それぞれに、その認識顔を特定するための顔IDを、シーケンシャルに付与する機能。
ここで、顔のモデルとは、例えば、目、鼻、口等の顔を形成するパーツの輝度や、相対的な位置関係に関する情報等である。
機能2:画像に含まれる各画素について、その画素を構成する色成分、例えば、Red、Green、Blueの各輝度から、その画素の色が、例えば、黒、青、緑、白等のうちのいずれの色であるかを特定する機能と、特定された色のそれぞれに対して、その色に特定された画素数に対する画像に含まれる全画素数の比率とを、色特徴量として算出する機能。
ここで、ある画素が、例えば、黒であると特定する方法としては、例えば、その画素のRedの輝度と、Greenの輝度と、Blueの輝度とが、全て10%未満である場合に、その画素を黒であると特定するといった方法がある。
機能3:認識した顔の領域の面積、認識した顔の領域の位置、認識した顔の位置、認識した顔の向き、抽出した色特徴量等から、画像特徴情報(後述)を生成する機能。
画像特徴情報記憶部232は、画像特徴情報を記憶するための記憶領域であって、ハードディスク装置130に内蔵されているハードディスクの一部の領域として実装されている。
図4は、画像特徴情報記憶部232に記憶されている画像特徴情報のデータ構造を示す図である。
同図に示されているように、画像特徴情報は、対応する画像を特定するための画像ID401と、対応する画像に含まれる、画像特徴量抽出部205によって認識された顔(以下、認識顔という。)の特徴を示す顔特徴量402と、対応する画像の色の特徴を示す色特徴量403と、対応する画像が撮影された時刻を示す撮影時刻404とから構成される。
顔特徴量402は、さらに、認識顔を特定するための顔ID411と、画像の面積と認識顔の面積との比率を示す顔面積412と、画像の中心に対する認識顔の位置のずれの度合いを示す顔位置413と、認識顔の向きを示す顔向き414と、認識顔の領域の座標を示す座標415とから構成されている。
顔面積412は、画像の面積に対する認識顔の面積の比率であって、認識顔が画面全体に写っている場合に1となるように正規化されている。
顔位置413は、認識顔の位置を示す値であって、認識顔の位置が画像の中心のときに1となり、認識顔の位置が、画像の端のときに0となるように正規化されている。
例えば、顔の中心と画像の中心を線分で結び、その線分の長さをXとし、その線分を画像の中心から顔の中心に向かって画像の端まで伸ばしたときの長さをYとして、YからXを減算することで得られる値をYで除算することで、顔位置を求めることができる。
顔向き414は、画像の正面方向に対する認識顔の向いている角度を示す値であって、認識顔の向いている角度が画像平面に対して垂直のときに1となり、認識顔の向いている角度が画像平面に対して水平のときに0となるように正規化されている。
例えば、画像の正面方向に対する認識顔の向いている角度をX度とし、180からXを減算することで得られる値を180で除算することで、顔向きを求めることができる。
座標415は、認識顔の領域を取り囲む長方形のうち、最小面積の長方形の左上の頂点の座標と右下の頂点の座標との組からなる。
色特徴量403は、画像特徴量抽出部205によって算出された各色の画素数比率からなり、その画像に含まれる色の特徴を示すものである。
例えば、画像ID401が00001である画像に対応する画像特徴情報の色特徴量403は、赤421が10%、青422が20%、緑423が60%、白424が10%の画像であることを示している。
再び図2に戻って、画像分類装置100の機能構成の説明を続ける。
画像特徴情報書込読出部203は、画像特徴量抽出部205と、主役度情報算出部206とに接続し、画像特徴情報記憶部232に対して、画像特徴情報の読み出し、書き込みを行う機能を有する。
イベント名情報受付部211は、主役度情報算出部206と接続し、画像分類装置100を利用するユーザによって入力される、画像グループの名称であるイベント名を受け付ける機能を有する。
サンプル画像受付部213は、サンプル画像書込部214と接続し、特定の人物の顔が写っている画像とその人物を特定する名称とを受け付ける機能を有する。
サンプル画像受付部213が画像を受け付ける場合には、外部記録媒体読取書込装置140経由で外部記録媒体から画像を受け付ける場合と、USB制御装置150経由で外部機器から画像を受け付ける場合と、通信装置180経由で外部通信機器から画像を受け付ける場合とがある。
サンプル画像記憶部236は、画像としてのデジタル写真を、JPEG方式で符号化された画像データとして記憶するための記憶領域であって、ハードディスク装置130に内蔵されているハードディスクの一部の領域として実装されている。
各画像データは、その画像に写る人物を特定する名称と対応付けられている。
サンプル画像書込部214は、サンプル画像受付部213と接続し、サンプル画像受付部213によって受け付けられた画像と人物を特定する名称とを、サンプル画像記憶部236に書き込む機能を有する。
主役度情報算出部206は、画像書込読出部202と、画像特徴情報書込読出部203と、主役度情報書込読出部204と、イベント名情報受付部211とに接続し、以下の5つの機能を有する。
機能1:画像グループに属する画像に写る認識顔に対して、顔の特徴を抽出し、抽出された顔の特徴に基づいて、同一人物であると判断される認識顔が同一の集合になるように、認識顔を区分し、区分された各認識顔群の集合に、その集合を特定するためのラベルを付与する機能。
ここで、顔の特徴とは、例えば、目、鼻、口等の顔を形成するパーツの相対的な位置関係や、これらパーツの面積比率等のことである。
機能2:ラベルと、そのラベルによって特定される集合に属する認識顔との対応関係を示す顔対応表(後述)を生成して顔対応表記憶部235に書き込む機能。
機能3:ラベルを付与された人物毎に、その主役度(後述)を算定する機能。
機能4:画像グループに対して、その画像グループの画像に写るラベルを付与された人物の主役度に基づいて、プライベート度(後述)を算定する機能。
機能5:算定された主役度、算定されたプライベート度、イベント名情報受付部211によって受け付けられたイベント名等から主役度情報(後述)を生成する機能。
顔対応表記憶部235は、顔対応表を記憶するための記憶領域であって、ハードディスク装置130に内蔵されているハードディスクの一部の領域として実装されている。
図5は、顔対応表記憶部235に記憶されている顔対応表のデータ構造を示す図である。
同図に示されるように、顔対応表は、同一人物であるとして区分された認識顔の集団を特定するためのラベル501と、同一人物であるとして区分された認識顔の集団に属する認識顔のIDを示す顔ID502〜顔ID504等とが対応付けられているものである。
例えば、ラベル501が息子であるとして区分されている認識顔の集団は、顔ID0001、顔ID0003、顔ID0101等によって示される認識顔が属するものであることを示している。
再び図2に戻って、画像分類装置100の機能構成の説明を続ける。
主役度情報記憶部233は、主役度情報を記憶するための記憶領域であって、ハードディスク装置130に内蔵されているハードディスクの一部の領域として実装されている。
図6は、主役度情報記憶部233に記憶されている主役度情報のデータ構造を示す図である。
同図に示されるように、主役度情報は、画像グループを特定するための画像グループID601と、その画像グループに含まれる区分された認識顔の集団を特定するためのラベル602と、ラベル602に対応する多様性603と、ラベル602に対応する主役度604と、画像グループに対応するイベント名605と、画像グループに対応するプライベート度606とから構成される。
多様性603は、対応する画像グループID601によって特定される画像グループに含まれる画像それぞれの撮影時間の順番からなる集合における、対応するラベル602を付与された人物の写っている画像それぞれの撮影時刻の順番の分散度合いを示す情報であって、0〜1の値を取り、分散度合いが大きいほど、値が大きくなる。
多様性603の算出方法については、後程<多様性算出処理>で詳細に説明する。
主役度604は、対応する画像グループID601によって特定される画像グループにおいて、対応するラベル602を付与された人物の重要度を示す情報であって、0以上の値を取り、その人物の重要度が高いほど、値が大きくなる
主役度604の算出方法については、後程<主役度情報生成処理>で詳細に説明する。
プライベート度606は、対応する画像グループID601によって特定される画像グループにおいて、家族以外の人物の重要度に対する家族の人物の重要度を示す指標であって、“極めて高い”、“高い”、“普通”、“低い”のうちのいずれか1つの値となる。
プライベート度606の算出方法については、後程<プライベート度処理>で詳細に説明する。
再び図2に戻って、画像分類装置100の機能構成の説明を続ける。
主役度情報書込読出部204は、主役度情報算出部206と画像グループ分類部208と接続し、主役度情報記憶部233に記憶されている主役度情報を読み出す機能と、主役度情報記憶部233に主役度情報を書き込む機能とを有する。
イベント特徴情報記憶部234は、イベント特徴情報を記憶するための記憶領域であって、ハードディスク装置130に内蔵されているハードディスクの一部の領域として実装されている。
図7は、イベント特徴情報記憶部234に記憶されているイベント特徴情報のデータ構成を示す図である。
同図に示されるように、イベント特徴情報は、“誕生会”、“運動会”、“遠足”、“結婚式”、“旅行”といった分類先イベントのそれぞれを、(1)プライベート度701として取り得る4つの値である、極めて高い711と高い712と普通713と低い714とのうちのいずれか1つと、(2)重要人物を構成する4つの値である、息子721と母722と父723と家族全員824とのうちのいずれか1つとに対応付けているものである。
ここで、重要人物とは、画像グループにおいて、主役度の値が例えば3以上である人物のことであり、重要人物が家族全員とは、息子の主役度の値と母の主役度の値と父の主役度の値との全ての値が例えば3以上であることを示している。
例えば、分類先イベント“誕生会”は、プライベート度701が極めて高い711と重要人物702が息子721とに対応付けられており、プライベート度が極めて高く、重要人物が息子である分類先イベントであることがわかり、分類先イベント“旅行”は、プライベート度701が極めて高い711と重要人物702が家族全員724とに対応付けられており、プライベート度が極めて高く、重要人物が家族全員である分類先イベントであることがわかる。
再び図2に戻って、画像分類装置100の機能構成の説明を続ける。
イベント特徴情報書込読出部209は、画像グループ分類部208とイベント特徴情報受付部212とに接続し、イベント特徴情報記憶部234に記憶されているイベント情報を読み出す機能と、イベント特徴情報記憶部234にイベント特徴情報を書き込む機能とを有する。
イベント特徴情報受付部212は、イベント特徴情報書込読出部209と接続し、画像分類装置100を利用するユーザによって入力される、イベント特徴情報を受け付ける機能を有する。
画像グループ分類部208は、画像書込読出部202と、主役度情報書込読出部204と、イベント特徴情報書込読出部209と、分類結果出力部210とに接続し、主役度情報書込読出部204を介して、主役度情報記憶部233から主役度情報を読み出し、読み出した主役度情報と、イベント特徴情報記憶部234に記憶されているイベント特徴情報とに基づいて、読み出した主役度情報に対応する画像グループを、分類先イベントに分類する機能を有する。
分類結果出力部210は、画像グループ分類部208と接続し、画像グループ分類部が画像グループを分類した場合に、分類結果をディスプレイ193に表示させる機能を有する。
以上のように構成される画像分類装置100の行う動作について、以下、図面を用いて説明する。
<動作>
画像分類装置100の行う特徴的な動作に、画像グループに属する画像を入力され、入力された画像グループをイベントに分類する画像グループ分類処理がある。
また、画像グループ分類処理はさらに、顔対応表を生成する顔対応表生成処理と、多様性を算出する多様性算出処理と、主役度情報を生成する主役度情報生成処理とを含んでいる。
以下、それぞれの処理について、図面を用いて説明する。
<画像グループ分類処理>
図8は、画像分類装置100の行う画像グループ分類処理のフローチャートである。
リモコン197が、ユーザから画像グループ分類処理を開始する旨の操作を受け付けることで、画像分類装置100は画像グループ分類処理の処理を開始する。
画像グループ分類処理が開始されると、画像グループデータ受付部201は、1つの画像グループの画像の読み込みを開始し、イベント名情報受付部211は、その画像グループに属する画像が撮影されたイベントのイベント名の受け付けを開始する(ステップS800)。
画像グループデータ受付部201は、外部記録媒体読取書込装置140に装着された外部記録媒体から、又は、USB制御装置150に接続されたUSBケーブル195を介して外部機器から、もしくは、ネットワーク194に接続された通信装置180から、画像を読み込むことができる。
ここでは、例えば、外部記憶媒体としてのSDメモリカード191に記録されている画像グループの画像を、外部記録媒体読取書込装置140から読み込むものとする。
画像グループデータ受付部201は、SDメモリカード191に記録されている画像とその画像が撮影された日時を含むメタデータとの組を1組ずつ読み込んで、読み込んだ画像に対して、シーケンシャルに画像IDを付与し、画像データとメタデータと画像IDとを対応付けて、画像書込読出部202を用いて、画像記憶部231の実データ保管ディレクトリ324に書き込む。
イベント名情報受付部211は、ユーザからのリモコン197の操作によって、画像グループに属する画像が撮影されたイベントのイベント名を受け付ける。
画像グループに属する画像が全て画像記憶部231に書き込まれると、画像特徴量抽出部205は、画像書込読出部202を用いて、画像記憶部231から、画像グループデータ受付部201によって受け付けられた画像グループに属する画像を1枚ずつ読み出していく(ステップS810)。
画像特徴量抽出部205は、画像特徴算出制御部221によって読み出された1枚の画像について、保持する顔のモデルを参照することで、1枚の画像に含まれる顔の認識を試み、認識顔のそれぞれについて、顔特徴量を算出し、認識顔を特定するための顔IDを、各認識顔にシーケンシャルに付与する(ステップS820)。
ステップS820の処理が終わると、画像特徴量抽出部205は、画像に含まれる各画素について、その画素の色成分の各輝度から、その画素の色を特定し、特定された色のそれぞれに対して、画像に含まれる全画素数に対するその特定された色の画素数の比率を色特徴量403として算出する(ステップS830)。
ステップS830の処理が終わると、画像特徴量抽出部205は、算定した顔面積と顔位置と顔向きと座標と色特徴量と対象としている画像に対応付けられているメタデータに含まれる撮影時刻の情報とから、画像特徴情報を生成し、画像特徴情報書込読出部203を用いて画像特徴情報記憶部232に書き込む(ステップS840)。
画像特徴量抽出部205は、画像グループデータ受付部201が受け付けた1つの画像グループの全ての画像に対して、画像特徴情報の生成を終了していない場合(ステップS850:No)には、まだ画像特徴情報の算出を終了していない画像に対して、再びステップS810以降の処理を行う。
画像特徴量抽出部205は、画像グループデータ受付部201が受け付けた1つの画像グループの全ての画像に対して、画像特徴情報の生成を終了している場合(ステップS850:Yes)には、主役度情報算出部206は、画像特徴情報記憶部232が記憶している、画像グループデータ受付部201が読み込んだ画像グループに属する画像に対応する全ての画像特徴情報を、画像特徴情報書込読出部203を用いて読み出す。
主役度情報算出部206は、画像グループに属する画像に対応する全ての画像特徴情報を読み出すと、顔対応表を生成する顔対応表生成処理を行う(ステップS860)。
以下、主役度情報算出部206が行う、顔対応表生成処理について、図面を用いて説明する。
<顔対応表生成処理>
図9は、主役度情報算出部206が行う、顔対応表生成処理のフローチャートである。
主役度情報算出部206は、顔対応表生成処理を開始すると、読み出した全ての画像特徴情報から、認識顔の顔IDと、その顔IDによって特定される顔の領域の座標と、その顔IDを含む画像特徴情報に対応する画像IDとを抽出する(ステップS900)。
主役度情報算出部206は、画像書込読出部202を用いて画像記憶部231から、顔IDを含む画像特徴情報に含まれる画像IDによって特定される画像を読み出して、抽出された顔IDに対応する顔の領域の座標によって特定される顔の領域の全てに対して、顔の特徴を抽出する(ステップS910)。
主役度情報算出部206は、抽出した顔の特徴のうち、同じ顔の特徴を持つ顔の集団を同一人物の顔であると判断し、同一人物であると判断される認識顔が同一の集合になるように、認識顔を区分し、区分された各認識顔群の集合に、その集合を特定するためのラベルを付与して、顔対応表を生成する(ステップ920)。
ステップS920の処理が終わると、主役度情報算出部206は、画像グループ内の1つのラベルを選択し(ステップS930)、サンプル画像記憶部236に記憶されている画像(以下、サンプル画像と呼ぶ。)に写る人物の中に、そのラベルで特定される集合に区分された認識顔の特徴と一致する顔を有する人物がいるか否かを調べる(ステップS940)。
ここでは、例えば、サンプル画像記憶部236には、家族の一員である息子が写る画像と、家族の一員である母親が写る画像と、家族の一員である父親が写る画像とがサンプル画像として記憶されており、サンプル画像に写る人物を特定する名称として、それぞれ、息子、母、父であるとする。
ステップS940の処理において、一致する人物がいる場合に(ステップS940:Yes)、主役度情報算出部206は、選択しているラベルの名称を、サンプル画像記憶部236に記憶されている、一致するサンプル画像に写る人物を特定する名称に変更する(ステップS950)。
ステップS940の処理において、一致する人物がいない場合(ステップS940:No)、又は、ステップS950の処理が終了した場合に、主役度情報算出部206は、未だ選択していないラベルがあるか否かを調べる(ステップS960)。
ステップS960の処理において、未選択のラベルが存在する場合に(ステップS960:No)、主役度情報算出部206は、未選択ラベルのうちの1つのラベルを選択し(ステップS970)、再びステップS940の処理に戻って、ステップS940以降の処理を続ける。
ステップS960の処理において、未選択のラベルが存在しない場合に(ステップS960:Yes)、主役度情報算出部206は、生成した顔対応表を、顔対応表記憶部235に書き込んで(ステップS980)、顔対応表生成処理を終了する。
再び図8に戻って、画像グループ分類処理の説明を続ける。
顔対応生成処理、すなわち、ステップS860の処理が終了すると、主役度情報算出部206は、画像グループ内の各ラベルについての多様性を算出する多様性算出処理を行う(ステップS870)。
以下、主役度情報算出部206が行う、多様性算出処理について、図面を用いて説明する。
<多様性算出処理>
図10は、主役度情報算出部206が行う、多様性算出処理のフローチャートである。
主役度情報算出部206は、多様性算出処理を開始すると、画像グループ内の各ラベルについて、多様性の初期値を0とし(ステップS1000)、画像と対応付けられて画像記憶部231に記憶されているメタデータを参照して、画像グループに属する各画像に対して、撮影時刻順に並べる場合における順番を対応付ける(ステップS1005)。
ステップS1005の処理が終了すると、主役度情報算出部206は、画像グループ内の1つのラベルを選択し(ステップS1010)、選択したラベルの人物が写る画像の枚数を出現枚数とする(ステップS1015)。
ステップS1015の処理が終了すると、主役度情報算出部206は、画像グループに含まれる画像の枚数に2を加えた数を、出現枚数に1を加えた数で除算することで得られる値を算出し、算出した値を小数点第1位の位で四捨五入して基準値と算定する(ステップS1020)。
ステップS1020の処理が終了すると、主役度情報算出部206は、画像を撮影時刻順に並べる場合における最初の画像の前(すなわち、0番目)と、最後の画像の後ろ(すなわち、画像の枚数がn枚であれば、n+1番目)とに、選択したラベルの人物の写った画像があると設定する(ステップS1025)。
ステップS1025の処理が終了すると、主役度情報算出部206は、選択したラベルの人物が写る画像群において、撮影時刻順に連続する2枚の画像からなる組のそれぞれを連続画像組とする(ステップS1030)。
ステップS1030の処理が終了すると、主役度情報算出部206は、1つの連続画像組を選択し(ステップS1035)、選択した連続画像組の2枚の画像に対応付けられた順番の差を差分値として算定し(ステップS1040)、算定した差分値と基準値とを比較する(ステップS1045)。
ステップS1045の処理において、差分値が基準値以上の場合に(ステップS1045:Yes)、主役度情報算出部206は、選択しているラベルの多様性に、出現枚数に1を加えた数の逆数を加算して新たな多様性とする(ステップS1050)。
ステップS1050の処理が終了した場合、又は、ステップS1045の処理において、差分値が基準値以上でない場合に(ステップS1045:No)、主役度情報算出部206は、未だ選択していない連続画像組があるか否かを調べる(ステップS1055)。
ステップS1055の処理において、未選択の連続画像組が存在する場合に(ステップS1055:No)、主役度情報算出部206は、未選択連続画像組のうちの1つの連続画像組を選択し(ステップS1060)、再びステップS1040の処理に戻って、ステップS1040以降の処理を続ける。
ステップS1055の処理において、未選択の連続画像組が存在しない場合に(ステップS1055:Yes)、主役度情報算出部206は、未だ選択していないラベルがあるか否かを調べる(ステップS1065)。
ステップS1065の処理において、未選択ラベルが存在する場合に(ステップS1065:No)、主役度情報算出部206は、未選択ラベルのうちの1つのラベルを選択し(ステップS1070)、再びステップS1015の処理に戻って、ステップS1015以降の処理を続ける。
ステップS1065の処理において、未選択ラベルが存在しない場合に(ステップS1065:Yes)、主役度情報算出部206は、多様性算出処理を終了する。
再び図8に戻って、画像グループ分類処理の説明を続ける。
多様性算出処理、すなわち、ステップS870の処理が終了すると、主役度情報算出部206は、画像グループの主役度情報を生成して記憶する主役度情報生成処理を行う(ステップS880)。
以下、主役度情報算出部206が行う、主役度情報生成処理について、図面を用いて説明する。
<主役度情報生成処理>
図11は、主役度情報算出部206が行う、主役度情報生成処理のフローチャートである。
主役度情報算出部206は、主役度情報生成処理を開始すると、画像グループ内の1つのラベルを選択し(ステップS1100)、選択したラベルに属する顔ID毎に、顔面積と顔位置と顔向きと多様性を加算し、加算した値をその顔IDのサブ主役度として算出する(ステップS1105)。
ステップS1105の処理が終了すると、主役度情報算出部206は、算出したサブ主役度の総和を計算し、計算した値を主役度として算出し(ステップS1110)、未だ選択していないラベルがあるか否かを調べる(ステップS1115)。
ステップS1115の処理において、未選択ラベルが存在する場合に(ステップS1115:No)、主役度情報算出部206は、未選択ラベルのうちの1つのラベルを選択し(ステップS1120)、再びステップS1105の処理に戻って、ステップS1105以降の処理を続ける。
ステップS1115の処理において、未選択ラベルが存在しない場合に(ステップS1115:Yes)、主役度情報算出部206は、家族(ここでは、息子、母、父)の名称のラベルに対応する主役度の中の最大の主役度を家族主役度と算定し、家族の名称のラベル以外のラベルに対応する主役度の総和を他人主役度と算定し(ステップS1125)、他人主役度が家族主役度の10%以下か否かを調べる(ステップS1130)。
ステップS1130の処理において、他人主役度が家族主役度の10%以下の場合に(ステップS1130:Yes)、主役度情報算出部206は、プライベート度を“極めて高い”とする(ステップS1135)。
ステップS1130の処理において、他人主役度が家族主役度の10%以下でない場合に(ステップS1130:No)、主役度情報算出部206は、他人主役度が家族主役度の80%以下か否かを調べる(ステップS1140)。
ステップS1140の処理において、他人主役度が家族主役度の80%以下の場合に(ステップS1140:Yes)、主役度情報算出部206は、プライベート度を“高い”とする(ステップS1145)。
ステップS1140の処理において、他人主役度が家族主役度の80%以下でない場合に(ステップS1140:No)、主役度情報算出部206は、他人主役度が家族主役度の120%以下か否かを調べる(ステップS1150)。
ステップS1150の処理において、人主役度が家族主役度の120%以下の場合に(ステップS1150:Yes)、主役度情報算出部206は、プライベート度を“普通”とする(ステップS1155)。
ステップS1150の処理において、他人主役度が家族主役度の120%以下でない場合に(ステップS1160:No)、主役度情報算出部206は、プライベート度を“低い”とする。
ステップS1135の処理が終了した場合、ステップS1145の処理が終了した場合、ステップS1155の処理が終了した場合、又は、ステップS1160の処理が終了した場合に、主役度情報算出部206は、算出したラベルと、ラベルに対応する算出した多様性と、ラベルに対応する算出した主役度と、イベント名情報受付部211によって受け付けられたイベント名と、算出したプライベート度とから、主役度情報を生成し、主役度情報書込読出部204を用いて、生成した主役度情報を、主役度情報記憶部233に書き込み(ステップS1165)、主役度情報生成処理を終了する。
再び図8に戻って、画像グループ分類処理の説明を続ける。
主役度情報生成処理、すなわち、ステップS880の処理が終了すると、画像グループ分類部208は、主役度情報書込読出部204を用いて、先ほど書き込まれた主役度情報を読み出し、イベント特徴情報書込読出部209を用いて、イベント特徴情報記憶部234に記録されているイベント特徴情報を読み出す。
さらに、画像グループ分類部208は、読み出された主役度情報とイベント特徴情報とを比較して、イベント特徴情報に含まれる分類先イベントの中に、主役度情報に含まれる主役度とプライベート度との組み合わせと一致する分類先イベントを見つける場合には、その読み出された主役度情報に対応する画像グループが分類されるべき分類先イベントは、その見つけた分類先イベントであるとする。
画像グループ分類部208は、該当する分類先イベントを見つけなかった場合には、その読み出された主役度情報に対応する画像グループが分類されるべき分類先イベントは、その他のイベントという分類先イベントであるとする。
画像グループ分類部208は、分類されるべき分類先イベントを決定すると、画像書込読出部202を用いて、画像記憶部231の分類されるべき分類先イベントに対応するイベントディレクトリの下に、画像グループに対応付けられているイベント名と同一名称のイベントディレクトリを作成して、そのイベントディレクトリの下に、画像グループに属する全ての画像のデータのアドレスを示す情報を保持させることで、その画像グループに属する全ての画像のデータがリンクされている状態とすることで、画像グループを分類する(ステップS890)。
その後、分類結果出力部210は、画像グループ分類部208によって算出された分類されるべき分類先イベントの分類先イベント名を、画像グループに対応付けられたイベント名と共にディスプレイ193に表示させて、画像分類装置100は、その画像グループ分類処理を終了する。
<具体例>
以下、具体例を用いて説明を補足する。
図12は、家族のメンバーが参加するイベントで撮影された画像群の一例である。
ここでは、図12を用いて、多様性算出処理の動作についての補足説明を行う。
画像グループ1200は、例えば、家族の息子が参加した“2009年富士山ハイキング”というイベントで撮影された画像群からなる画像グループであって、画像1201〜画像1210によって構成されている。
また、画像1201〜画像1210は、この順番に撮影された画像であって、人物1221〜人物1224は家族の息子(ラベル:息子)であり、人物1231〜人物1234は同一の他人(ラベル:他人A)である。
画像グループ1200において、総枚数は10枚である。
息子は4枚の画像に写っているため、息子の出現枚数は4枚となり、息子の基準値は(10+2)÷(4+1)=2.4を小数点第1位の位で四捨五入した値である2となる。
息子の差分値は、順に、1、5、2、1、2となるため、息子の多様性は、{1÷(4+1)}×3=0.6となる。
他人Aも4枚の画像に写っているため、息子の場合と同様に、他人Aの出現枚数は4枚となり、他人Aの基準値は(10+2)÷(4+1)=2.4を小数点第1位の位で四捨五入した値である2となる。
他人Aの差分値は、順に、2、1、1、1、6となるため、他人の多様性は{1÷(4+1)}×2=0.4となる。
このように、写っている写真の分布がばらついている息子の方が、写っている写真の分布が偏っている他人Aよりも多様性は高くなる。
図13は、家族のメンバーが参加するイベントで撮影された画像群の一例である。
ここでは、図13を用いて、画像グループ分類部208の行う画像グループの分類処理についての補足説明を行う。
画像グループ1300は、例えば、家族で北海道に旅行にいくというイベント(イベント名:北海道2010春)で撮影された画像1301〜画像1304からなる画像グループであって、画像グループ1310は、例えば、息子の運動会というイベント(イベント名:2009年運動会)で撮影された画像1311〜画像1314からなる画像グループであって、画像グループ1320は、例えば、親戚の結婚式というイベント(イベント名:A子さん結婚式)で撮影された画像1321〜画像1324からなる画像グループである。
画像グループ1300において、人物1351〜人物1354は家族の息子であり、人物1361は家族の母親であり、人物1371は家族の父親であり、人物1390は他人である。
画像グループ1300では、他人は1枚しか写っておらず、かつ、小さく端の方に写っているため、他人主役度は小さくなる。
一方、息子、母親、父親は、比較的大きく中央付近に写っているため、それぞれの主役度は大きくなる。特に息子は全ての画像に写っているため、家族の主役度は大きくなる。
従って、画像グループ1300のプライベート度は“極めて高い”となり、重要人物は“家族全員”となる。
イベント特徴情報記憶部234に記憶されているイベント特徴情報(図7参照)によれば、プライベート度が“極めて高い”で重要人物が“家族全員”となる分類先イベントは“旅行”となっているため、イベント名“北海道2010春”というイベントで撮影された画像からなる画像グループ1300は、分類先イベント“旅行”に分類される。
画像グループ1310において、人物1355〜人物1358は家族の息子であり、人物1391、人物1392、人物1393、人物1394は他人であり、人物1341と人物1342とは同一の他人である。
画像グループ1310では、他人が多数写っているため、他人主役度は画像グループ1300の場合に比べて高い値となる。
一方、息子は、全画像で比較的大きく写っているため、息子の主役度(すなわち、家族主役度)は、他人主役度よりも高い値となる。
従って、画像グループ1310のプライベート度は“高い”となり、重要人物は“息子”となる。
イベント特徴情報記憶部234に記憶されているイベント特徴情報によれば、プライベート度が“高い”で重要人物が“息子”となる分類先イベントは“運動会”となっているため、イベント名“2009年運動会”というイベントで撮影された画像からなる画像グループ1310は、分類先イベント“運動会”に分類される。
画像グループ1320において、人物1362〜人物1364は家族の母親であり、人物1395、人物1396、人物1397、人物1398、人物1399は他人であり、人物1381〜人物1384は同一の他人であり、人物1386〜人物1388は同一の他人である。
画像グループ1320では、他人が中央付近に多数写っているため、他人主役度は画像グループ1310の場合に比べてさらに高い値となる。
一方、母親は、3枚の写真に写ってはいるが、比較的小さく端の方に写っているため、母の主役度(すなわち、家族主役度)は、他人主役度よりも低い値となる。
従って、画像グループ1320のプライベート度は“低い”となり、重要人物は“母”となる。
イベント特徴情報記憶部234に記憶されているイベント特徴情報によれば、プライベート度が“低い”で重要人物が“母”となる分類先イベントは“結婚式”となっているため、イベント名“A子さん結婚式”というイベントで撮影された画像からなる画像グループ1320は、分類先イベント“結婚式”に分類される。
<まとめ>
上述の画像分類装置100によれば、一つのイベントで撮影された画像群からなる画像グループを画像グループ単位で分類先イベントへ分類するため、一つのイベントで撮影された画像が、互いに異なる分類先イベントに分類されてしまうことがない。
<実施の形態2>
以下、本発明に係る画像分類装置の一実施形態として、実施の形態1で説明した画像分類装置100の一部を変形し、多様性算出処理のアルゴリズムが、画像分類装置100の行う多様性算出処理のアルゴリズムと異なるものとなっている、第1変形画像分類装置について説明する。
第1変形画像分類装置は、ハードウエア構成が画像分類装置100と同じである。
しかしながら、第1変形画像分類装置は、第1変形画像分類装置におけるROM102に記憶されているCPU105の動作を規定するプログラムの一部と、画像分類装置100におけるROM102に記憶されているCPU105の動作を規定するプログラムの一部とが互いに異なっているため、画像分類装置100における主役度情報算出部206が第1変形主役度情報算出部に変形され、画像分類装置100における多様性算出処理が、第1変形多様性算出処理に変形されたものとなっている。
以下、実施の形態2に係る第1変形画像分類装置について、画像分類装置100との相違点である第1変形多様性算出処理を中心に、図面を用いて説明する。
<第1変形多様性算出処理>
図14は、第1変形主役度情報算出部が行う、第1変形多様性算出処理のフローチャートである。
第1変形主役度情報算出部は、第1変形多様性算出処理を開始すると、画像グループ内の各ラベルについて、多様性の初期値を1とし(ステップS1400)、ステップS1405の処理とステップS1410の処理とを行う。
ステップS1405の処理とステップS1410の処理とは、それぞれ、実施の形態1における多様性算出処理(図10参照)のステップS1005の処理とステップS1010の処理と同様の処理なので、ここでは説明を省略する。
ステップS1410の処理が終わると、第1変形主役度情報算出部は、ステップS1425の処理〜ステップS1440の処理を行う。
ステップS1425の処理〜ステップS1440の処理は、それぞれ、実施の形態1における多様性算出処理のステップS1025の処理〜ステップS1040の処理と同様の処理なので、ここでは説明を省略する。
ステップS1440の処理が終わると、第1変形主役度情報算出部は、差分値の2乗の値を総数に1を加えた数の2乗の値で除算することで得られる値を、多様性から減算して新たな多様性とする(ステップS1450)。
ステップS1450の処理が終わると、第1変形主役度情報算出部は、ステップS1455の処理〜ステップS1470の処理を行う。
ステップS1455の処理〜ステップS1470の処理は、それぞれ、実施の形態1における多様性算出処理のステップS1055の処理〜ステップS1070の処理と同様の処理なので、ここでは説明を省略する。
ステップS1465の処理において、未選択ラベルが存在しない場合に(ステップS1465:Yes)、第1変形主役度情報算出部は、第1変形多様性算出処理を終了する。
<具体例>
以下、具体例を用いて説明を補足する。
ここでは、図12を用いて、第1変形多様性算出処理の動作についての補足説明を行う。
息子の差分値は、順に、1、5、2、1、2となるため、息子の多様性は、1−(1÷10)×(1÷10)−(5÷10)×(5÷10)−(2÷10)×(2÷10)−(1÷10)×(1÷10)−(2÷10)×(2÷10)=0.65となる。
他人Aの差分値は、順に、2、1、1、1、6となるため、他人の多様性は、1−(2÷10)×(2÷10)−(1÷10)×(1÷10)−(1÷10)×(1÷10)−(1÷10)×(1÷10)−(6÷10)×(6÷10)=0.59となる。
このように、写っている写真の分布がばらついている息子の方が、写っている写真の分布が偏っている他人Aよりも多様性は高くなる。
<まとめ>
上述の第1変形画像分類装置によれば、画像分類装置100と同様に、一つのイベントで撮影された画像群からなる画像グループを画像グループ単位で分類先イベントへ分類するため、一つのイベントで撮影された画像が、互いに異なる分類先イベントに分類されてしまうことがない。
<実施の形態3>
以下、本発明に係る画像分類装置の一実施形態として、実施の形態1で説明した画像分類装置100の一部を変形し、多様性算出処理のアルゴリズムが、画像分類装置100の行う多様性算出処理のアルゴリズムと異なるものとなっている、第2変形画像分類装置について説明する。
第2変形画像分類装置は、ハードウエア構成が画像分類装置100と同じである。
しかしながら、第2変形画像分類装置は、第2変形画像分類装置におけるROM102に記憶されているCPU105の動作を規定するプログラムの一部と、画像分類装置100におけるROM102に記憶されているCPU105の動作を規定するプログラムの一部とが互いに異なっているため、画像分類装置100における主役度情報算出部206が第2変形主役度情報算出部に変形され、画像分類装置100における多様性算出処理が、第2変形多様性算出処理に変形されたものとなっている。
この第2変形多様性算出処理には、画像グループに属する画像を、撮影されたシーン毎に区分する動作であるシーン分割処理が含まれている。
以下、実施の形態3に係る第2変形画像分類装置について、画像分類装置100との相違点である第2変形多様性算出処理を中心に、図面を用いて説明する。
<第2変形多様性算出処理>
図15は、第2変形主役度情報算出部が行う、第2変形多様性算出処理のフローチャートである。
第2変形主役度情報算出部は、第2変形多様性算出処理を開始すると、画像グループ内の各ラベルについて、多様性の初期値を0とし(ステップS1500)、画像グループに属する画像を、撮影されたシーン毎に区分するシーン分割処理を行う(ステップS1510)。
以下、第2変形主役度情報算出部が行う、シーン分割処理について、図面を用いて説明する。
<シーン分割処理>
図16は、第2変形主役度情報算出部が行う、シーン分割処理のフローチャートである。
このシーン分割処理は、同じシーンで撮影された画像は、最大の色特徴量が同じであるとの仮定に基づいて、各画像をその最大の色特徴量に基づいてシーンに区分するという処理である。
第2変形主役度情報算出部は、シーン分割処理を開始すると、撮影時刻順における1番目の画像を選択し(ステップS1600)、第1シーンを生成して、選択した1番目の画像を生成した第1シーンに区分し(ステップS1610)、撮影時刻順における次の画像が存在するか否かを調べる(ステップS1620)。
ステップS1620の処理において、次の画像が存在する場合に(ステップS1620:Yes)、第2変形主役度情報算出部は、画像特徴情報記憶部232に記憶されている画像特徴情報を参照して、選択中の画像の色特徴量における最大の色を一時的に記憶する(ステップS1630)。
ステップS1620の処理が終わると、第2変形主役度情報算出部は、撮影時刻順における次の画像を新たに選択し、画像特徴情報記憶部232に記憶されている画像特徴情報を参照して、新たに選択した画像の色特徴量における最大の色が、一時的に記憶している前回選択していた画像の色特徴量における最大の色と一致するか否かを調べる(ステップS1650)。
ステップS1650の処理において、色特徴量における最大の色が一致する場合に(ステップS1650:Yes)、第2変形主役度情報算出部は、選択中の画像を、前回選択していた画像と同じシーンに区分する(ステップS1660)。
ステップS1650の処理において、色特徴量における最大の色が一致しない場合に(ステップS1650:No)、第2変形主役度情報算出部は、新たなシーンを生成して、選択中の画像を生成し新たなシーンに区分する(ステップS1670)。
ステップS1620の処理において、次の画像が存在しない場合に(ステップS1620:No)、第2変形主役度情報算出部は、そのシーン分割処理を終了する。
再び図15に戻って、第2変形多様性算出処理の説明を続ける。
シーン分割処理、すなわち、ステップS1510の処理が終了すると、第2変形主役度情報算出部は、画像グループ内の1つのラベルを選択する(ステップS1520)。
ステップS1520の処理が終了すると、第2変形主役度情報算出部は、1つのシーンを選択し(ステップS1530)、選択したシーンに区分されている画像の中に、選択したラベルの人物が写っているか否かを調べる(ステップS1540)。
ステップS1540の処理において、選択したラベルの人物が写っている場合に(ステップS1540:Yes)、第2変形主役度情報算出部は、シーンの数の逆数を多様性に加算して新たな多様性とする(ステップS1550)。
ステップS1640の処理がした場合、又は、ステップS1540の処理において、選択したラベルの人物が写っていない場合に(ステップS1540:No)、第2変形主役度情報算出部は、未だ選択していないシーンが存在するか否かを調べる(ステップS1560)。
ステップS1560の処理において、未選択のシーンが存在する場合に(ステップS1560:No)、第2変形主役度情報算出部2は、未選択シーンのうちの1つのシーンを選択し(ステップS1570)、再びステップS1530の処理に戻って、ステップS1530以降の処理を続ける。
ステップS1560の処理において、未選択のシーンが存在しない場合に(ステップS1560:Yes)、第2変形主役度情報算出部は、未だ選択していないラベルが存在するか否かを調べる(ステップS1580)。
ステップS1580の処理において、未選択のラベルが存在する場合に(ステップS1580:No)、第2変形主役度情報算出部は、未選択ラベルのうちの1つのラベルを選択し(ステップS1590)、再びステップS1520の処理に戻って、ステップS1520以降の処理を続ける。
ステップS1580の処理において、未選択のラベルが存在しない場合に(ステップS1580:Yes)、第2変形主役度情報算出部は、その第2変形多様性算出処理を終了する。
<具体例>
以下、具体例を用いて説明を補足する。
ここでは、図12を用いて、第2変形多様性算出処理の動作についての補足説明を行う。
画像グループ1200において、画像1201〜画像1205は、第1シーンに区分されている画像であり、画像1206〜画像1208は、第2シーンに区分されている画像であり、画像1209と画像1210とは、第3シーンに区分されている画像であるとする。
息子は、第1シーンと第2シーンと第3シーンとに写っているため、息子の多様性は、(1÷3)×3=1となる。
他人Aは、第1シーンにだけ写っているため、他人Aの多様性は、(1÷3)×1=0.33となる。
このように、写っている写真の分布がばらついている息子の方が、写っている写真の分布が偏っている他人Aよりも多様性は高くなる。
<まとめ>
上述の第2変形画像分類装置によれば、画像分類装置100と同様に、一つのイベントで撮影された画像群からなる画像グループを画像グループ単位で分類先イベントへ分類するため、一つのイベントで撮影された画像が、互いに異なる分類先イベントに分類されてしまうことがない。
<発明の効果>
以上、本発明に係る画像分類装置の一実施形態として、実施の形態1、実施の形態2、
実施の形態3においてイベントを分類することができることを示したが、イベントの分類結果を用いることにより、ユーザに対して分類先が同一となるイベント群を提示、選択および再生可能としたり、分類先ごとに同一のアイコンを割当てることで、画像鑑賞におけるユーザ・ナビゲーションを容易とすることができる。また、画像グループをもとにユーザが電子アルバムを作成するアプリケーションにおいて、イベント分類の結果を用いることで、イベントの分類先ごとに、分類先に応じて、例えば、結婚式や運動会の分類先ごとに用意されたアルバムの背景画像、画像の配置情報、デコレーション用の画像やその配置を記述したテンプレートを自動選択し、ユーザに提示することが可能となる。
<補足>
以上、本発明に係る画像分類装置の一実施形態として、実施の形態1、実施の形態2、実施の形態3において、画像グループ分類処理を行う画像分類装置の例について説明したが、以下のように変形することも可能であり、本発明は上述した実施の形態で示した通りの画像分類装置に限られないことはもちろんである。
(1)実施の形態1において、画像分類装置100が記憶する画像として、JPEG方式で符号化されたデータとしたが、デジタル写真をデータとして記憶することができるものであれば、JPEG方式以外の符号化方式、例えばPNG(Portable Network Graphics)方式やGIF(Graphics Interchange Format)方式等で符号化されたものであっても構わないし、符号化されないビットマップ方式のデータであっても構わない。
また、コンテンツとしてデジタル写真を例として示したが、デジタルデータとして記憶することができる画像であれば、例えば、スキャナで読み取った絵画のデータ等であっても構わない。
(2)実施の形態1において、CPU101と、ROM102と、RAM103と、ハードディスク装置インターフェース104と、外部記録媒体読取書込装置インターフェース105と、USB制御装置インターフェース106と、出力装置インターフェース107と、入力装置インターフェース108と、通信装置インターフェース109と、デコーダ111と、バスライン120とが、システムLSI110に集積されているとしたが、システムLSI110と同じ機能を実現することができれば、必ずしも1つのLSIに統合されている必要はなく、複数の集積回路等で実現されていても構わない。
(3)実施の形態1において、デコーダ111は、DSPであるとしたが、符号化されたデータを復号する機能があれば、必ずしもDSPである必要はなく、例えば、CPU101が兼用する構成であっても構わないし、CPU101とは異なるCPUであっても構わないし、ASIC等で構成される専用回路であっても構わない。
(4)実施の形態1において、入力装置170は、リモコン197から無線で送信されるユーザからの操作コマンドを受け付ける機能を有する構成であるとしたが、ユーザからの操作コマンドを受け付ける機能があれば、必ずしもリモコン197から無線で送信される操作コマンドを受け付ける機能を有する構成でなくても、例えば、キーボードとマウスとを備え、キーボードとマウスとを介してユーザからの操作コマンドを受け付ける機能を有する構成であっても構わないし、ボタン群を備え、ボタン群を介してユーザからの操作コマンドを受け付ける機能を有する構成等であっても構わない。
(5)実施の形態1において、画像グループデータ受付部201が、2枚以上の画像の指定を受け付け、指定された画像群を、1つの画像グループに含まれる画像群とするとしたが、画像と画像グループとの対応付けを取ることができれば、例えば、画像グループデータ受付部201は、画像データと、画像グループに属する画像のリストとを受け取り、受け取ったリストに基づいて、画像と画像グループとを対応付けるといった構成であっても構わないし、例えば、画像グループデータ受付部201は、画像データと、その画像データが撮影された撮影時刻の情報と、撮影時刻の情報と画像グループとの対応関係の情報とを受け取り、受け取った撮影時刻の情報に基づいて、画像と画像グループとを対応付けるといった構成であっても構わない。
また、画像と画像グループとの対応付けを取ることができれば、必ずしもユーザによって指定されることによって対応付けを取る必要はなく、既存の技術を利用して、自動で画像と画像グループとの対応付けを行う構成としても構わない。
(6)実施の形態1において、画像グループデータ受付部201は、読み込んだ画像に対して、シーケンシャルに画像IDを付与するとしたが、重複を避けて付与することができれば、必ずしもシーケンシャルに画像IDを付与しなくても構わない。
(7)実施の形態1において、画像特徴量抽出部205は、人の顔の認識を試み、認識した認識顔のそれぞれに顔IDを付与するとしたが、認識を試みる対象は、対象物として特定することができる特徴を有するものであれば、必ずしも人の顔に限られる必要はなく、例えば、犬や猫といったペットの顔、特定の車種の車、特定の建築物等であっても構わない。
(8)実施の形態1において、顔のモデルは、例えば、目、鼻、口等の顔を形成するパーツの輝度や、相対的な位置関係に関する情報等であるとしたが、顔を認識することができる情報であれば、これら以外、例えば、目の色や、ほくろの位置、肌の色等といった顔の特徴を示すものであっても構わないし、複数の顔の特徴を表すものの組み合わせであっても構わない。
(9)実施の形態1において、画像特徴量抽出部205が特定する色として、黒、青、緑、白としたが、これらの色に限られる必要はなく、例えば、赤、黄等であっても構わない。
(10)実施の形態1において、プライベート度は“極めて高い”、“高い”、“普通”、“低い”の4段階のうちの1つの段階となるものとしているが、家族以外の人物の重要度に対する家族の人物の重要度を示す指標となるものであれば、必ずしも4段階のうちの1つの段階となるものに限られる必要はなく、例えば、10段階のうちの1つの段階となるものであっても構わないし、シームレスに数値で表現されるものであっても構わない。
また、プライベート度の場合分けを、他人主役度に対する家族主役度の比率に応じて行うとしたが、プライベート度の場合分けを一意に行うことができれば、必ずしも他人主役度に対する家族主役度の比率に応じて行う必要はなく、例えば、他人主役度の絶対値が0である場合に、プライベート度を“極めて高い”と決定するといったように、他人主役度の絶対値に応じてプライベート度の場合分けを行うとしても構わない。
さらには、プライベート度の場合分けを、例えば、ロジスティック回帰分析法、SVM(Support Vector Machine)法等の学習モデルを用いて行う手法によって行うとしても構わない。
(11)実施の形態1において、画像グループ分類部208は、プライベート度と重要人物とに基づいて画像グループを分類先イベントへ分類するとしたが、主役度を反映した指標に基づいて画像グループを分類先イベントへ分類することができれば、必ずしもプライベート度と重要人物とに基づいて分類する必要はなく、例えば、ある特定人物の主役度のみに基づいて画像グループを分類先イベントへ分類するとしても構わない。
図17は、画像グループ分類部208が、画像装置ユーザの主役度の値のみに基づいて、画像グループを分類イベントへ分類する例において、画像グループ分類部208が利用するイベント特徴情報のデータ構成を示すものである。
同図に示されるように、このイベント特徴情報は、ユーザの主役度である主役度1701と分類先イベント1702とを対応付けるものであって、例えば、主役度が1未満である画像グループは、分類先イベントとして“風景”に分類されるべきであることを示している。
また、画像グループの分類を、例えば、ロジスティック回帰分析法、SVM法等の学習モデルを用いて行う手法によって行うとしても構わないし、K−means法等のクラスタリング手法によって行うとしても構わない。
(12)実施の形態1において、基準値は、画像グループに含まれる画像の枚数に2を加えた数を、出現枚数に1を加えた数で除算することで得られる値を算出し、算出した値を小数点第1位の位で四捨五入して算定されるとしたが、画像グループに含まれる画像の枚数に2を加えた数を、出現枚数に1を加えた数で除算することで得られる値に基づくものであれば、必ずしも小数点第1位の位で四捨五入して算定される必要はなく、例えば、四捨五入せずに基準値として算定しても構わないし、小数点第2位以下の位を切り捨てることで算定するとしても構わない。
(13)実施の形態1において、家族主役度は、家族の名称(息子、母、父)のラベルに対応する主役度の中の最大の主役度であるとしたが、家族のメンバーの主役度を反映したものであれば、必ずしも家族の名称のラベルに対応する主役度の中の最大の主役度である必要はなく、例えば、家族のメンバーの主役度の総和であっても構わない。
また、他人主役度は、家族の名称のラベル以外のラベルに対応する主役度の総和であるとしたが、家族以外の人物の主役度を反映したものであれば、必ずしも家族の名称のラベル以外のラベルに対応する主役度の総和である必要はなく、例えば、家族以外の人物の主役度の中の最大の主役度であるとしても構わないし、複数の画像に顔が写っている家族以外の人物の主役度の総和であっても構わないし、複数の画像に顔が写っている家族以外の人物の人物の中の最大の主役度であるとしても構わないし、家族以外の主役度のうち、家族のメンバーの主役度よりも高い主役度である人物の主役度の総和であっても構わない。
(14)実施の形態1において、サブ主役度は、顔面積と顔位置と顔向きと多様性を加算したものであるとしたが、顔面積と顔位置と顔向きと多様性とのうちの少なくとも1つを反映したものであれば、必ずしもこれら全てを加算したものである必要はなく、例えば、顔面積と多様性とを加算したものであっても構わないし、顔面積と顔位置と顔向きと多様性とを重み付け加算することで得られるものであっても構わないし、顔面積と顔位置と顔向きと多様性とを加算して得られた値をその画像に含まれる認識顔の数で除算したものであっても構わないし、顔面積と顔位置と顔向きと多様性とを加算して得られた値をその画像に含まれる家族以外の認識顔の数で除算したものであっても構わない。
(15)実施の形態1において、画像特徴量抽出部205は、認識した顔それぞれに、その認識顔を特定するための顔IDを、シーケンシャルに付与するとしたが、重複を避けて付与することができれば、必ずしもシーケンシャルに付与しなくても構わない。
(16)実施の形態1において、色特徴量は、画像全体に対して特徴を示すものであるとしたが、画像の色の特徴を示すものであれば、例えば、画像の上半分といったような一部分に対すものであっても構わないし、画像の左10%の部分と画像の右10%の部分といったように複数の一部分に対するものであっても構わない。
(17)実施の形態1において、画像に写っている人物が家族であるか否かを、サンプル画像に写っている人物と比較することで決定するとしているが、特定の人物として識別することができれば、必ずしもサンプル画像に写っている人物と比較することで決定する必要はなく、例えば、複数の画像グループに登場する人物を家族として決定するとしても構わない。
(18)実施の形態1において、画像グループ分類部208は、分類されるべき分類先イベントを決定すると、分類されるべき分類先イベントに対応するイベントディレクトリの下に、画像グループに対応付けられているイベント名と同一名称のイベントディレクトリを作成して、そのイベントディレクトリの下に、画像グループに属する全ての画像のデータのリンクを張ることで、画像グループを分類するとしたが、画像グループに属する画像が同じ分類先イベントに対応付けられていれば、必ずしもリンクを張ることで画像グループを分類するとする必要はなく、例えば、画像グループに属する画像に、分類先イベントを特定するためのタグを付与するとしても構わない。
(19)実施の形態1において、主役度情報算出部206によって算出される多様性は、前述の多様性算出処理を行うことで算出されるものであるとしたが、例えば、前述の多様性算出処理を行うことで算出される多様性に対して、出現枚数に1を加えた数を出現枚数で除算することで得られる数を乗算することで得られる値であるというように、前述の多様性算出処理を行うことで算出される多様性を利用して算出されるものであれば、必ずしも前述の多様性算出処理を行うことで算出される多様性そのものに限られる必要はない。
ここで例示した、前述の多様性算出処理を行うことで算出される多様性に対して、出現枚数に1を加えた数を出現枚数で除算することで得られる数を乗算することで得られる値は、取り得る最大値が1となるように正規化されたものとなっている。
(20)実施の形態1乃至3で示した、画像グループ分類動作等を画像分類装置のCPU、及びそのCPUに接続された各種回路に実行させるためのプログラムコードからなる制御プログラムを、記録媒体に記録すること、又は各種通信路等を介して流通させ頒布することもできる。このような記録媒体には、ICカード、ハードディスク、光ディスク、フレキシブルディスク、ROM等がある。流通、頒布された制御プログラムはCPUに読み出され得るメモリ等に格納されることにより利用に供され、そのCPUがその制御プログラムを実行することにより各実施形態で示したような各種機能が実現されるようになる。なお、制御プログラムの一部を画像分類装置とは別個のプログラム実行可能な装置(CPU)に各種通信路等を介して送信して、その別個のプログラム実行可能な装置においてその制御プログラムの一部を実行させることとしてもよい。
(21)以下、さらに本発明の一実施形態に係る画像分類装置の構成及びその変形例と各効果について説明する。
(a)本発明の一実施形態に係る画像分類装置は、一イベントに関連して逐次撮影された複数の画像からなる画像グループの中から、所定の特徴を有するオブジェクトが写っている画像を特定する画像特定部と、前記画像グループに含まれる画像それぞれの撮影時刻を反映した時間情報の集合における、前記画像特定部によって特定された画像それぞれの撮影時刻を反映した時間情報の分布に基づいて、前記所定の特徴を有するオブジェクトの評価値を算定する評価値算定部と、前記評価値算定部によって算定された評価値に基づいて、前記画像グループに関連する前記イベントを分類する画像グループ分類部とを備えることを特徴とする。
ここで、所定の特徴を有するオブジェクトとは、例えば、特定の個人の顔、特定のペットの顔、特定の車種の車、特定の建築物等のことである。
上述の構成を備える画像分類装置は、画像を、一イベントに関連して撮影された複数の画像からなる画像グループ単位で分類する。
従って、あるイベントに関連して撮影された複数の画像が、互いに異なるカテゴリに分類されてしまうことがないように、画像を分類することができるようになる。
図18は、上記変形例における画像分類装置の機能構成を示す機能ブロック図である。
同図に示されるように、この画像分類装置は、画像特定部1801と評価値算定部1802と画像グループ分類部1803とから構成される。
画像特定部1801は、一イベントに関連して逐次撮影された複数の画像からなる画像グループの中から、所定の特徴を有するオブジェクトが写っている画像を特定する機能を有する。一例として、実施の形態1(図2参照)における、画像グループデータ受付部201と画像書込読出部202と画像特徴情報書込読出部203と画像特徴量抽出部205と主役度情報算出部206の一部(機能1と機能2とを実現する部分)とサンプル画像受付部213とサンプル画像書込部214と画像記憶部231と画像特徴情報記憶部232と顔対応表記憶部235とサンプル画像記憶部236として実現される。
評価値算定部1802は、画像グループに含まれる画像それぞれの撮影時刻を反映した時間情報の集合における、画像特定部1801によって特定された画像それぞれの撮影時刻を反映した時間情報の分布に基づいて、所定の特徴を有するオブジェクトの評価値を算定する機能を有する。一例として、実施の形態1における、主役度情報書込読出部204と主役度情報算出部206の一部(機能3と機能4と機能5とを実現する部分)とイベント名情報受付部211と主役度情報記憶部233として実現される。
画像グループ分類部1803は、評価値算定部1802によって算定された評価値に基づいて、画像グループに関連するイベントを分類する機能を有する。一例として、実施の形態1における、画像グループ分類部208とイベント特徴情報書込読出部209と分類結果出力部210とイベント特徴情報受付部212とイベント特徴情報記憶部234として実現される。
(b)また、前記画像部類装置は、前記画像分類装置を利用するユーザから、前記所定の特徴に係る情報を受け付ける情報受付手段と、前記情報受付手段によって受け付けられた情報から前記所定の情報を生成して記憶する記憶手段を備え、前記画像特定部は、前記画像の特定を、前記記憶手段に記憶されている所定の特徴を利用して行い、前記時間情報は、前記画像グループに含まれる各画像を撮影時刻順に並べる場合における順番であって、前記評価値算定部は、前記評価値の算定を、前記画像グループに含まれる画像それぞれの撮影時刻の順番からなる集合における、前記画像特定部によって特定された画像それぞれの撮影時刻の順番の分布に基づいて行うとしてもよい。
このような構成にすることによって、画像分類装置を利用するユーザは、所定の情報を生成するための情報を入力することができることができるようになるため、所定の情報をユーザの嗜好を反映したものとすることができるようになる。
さらには、各画像の撮影順さえわかっていれば、各画像の撮影時刻が正確にわかっていなくても、イベントを分類することができるようになる。
(c)また、前記画像分類装置は、前記画像グループに含まれる画像の枚数に2を加えた数を、前記画像特定部によって特定された画像の数に1を加えた数で除算することで得られる基準値を算定する基準値算定部と、前記画像特定部によって特定された画像の中で撮影時刻順に連続する2枚の画像の組である連続画像組のそれぞれについて、2枚の画像の、前記画像グループに含まれる画像における撮影時刻の順番の差である差分値を算定する差分値算定部とを備え、前記評価値算定部は、それぞれの連続画像組について前記基準値算定部によって算定された基準値と前記差分値算定部によって算定された差分値との比較を行い、前記基準値算定部によって算定された基準値よりも、前記差分値算定部によって算定された差分値の方が大きい連続画像組の数に基づいて、前記評価値の算定を行うとしてもよい。
このような構成にすることによって、四則演算と大小比較演算の組み合わせで評価値を算定することができるようになるので、評価値算定部の行う評価値の算定を、既知の手法の組み合わせで実現できるようになる。
(d)また、前記画像分類装置は、前記画像特定部によって特定された画像の中で撮影時刻順に連続する2枚の画像の組である連続画像組のそれぞれについて、2枚の画像の、前記画像グループに含まれる画像における撮影時刻の順番の差を2乗して得られる差分2乗値を算定する差分2乗値算定部を備え、前記評価値算定部は、前記画像特定部によって算定された差分2乗値の総和と、前記画像グループに含まれる画像の数とに基づいて、前記評価値の算定を行うとしてもよい。
このような構成にすることによって、四則演算の組み合わせで評価値を算定することができるようになるので、評価値算定部の行う評価値の算定を、既知の手法の組み合わせで実現できるようになる。
(e)また、前記画像分類装置は、同一シーンにおいて撮影された画像が同一のサブ画像グループとなるように、画像グループを構成する画像群を撮影時刻順に複数のサブ画像グループに区分するサブ画像グループ区分部を備え、前記評価値算定部は、前記評価値の算定を、前記画像特定部によって特定されたオブジェクトが写っている画像が属するサブ画像グループの数に基づいて行うとしてもよい。
このような構成にすることによって、所定の特徴を有するオブジェクトの写っている画像が含まれるシーンの数で評価値を算定することができるようになるので、評価値算定部の行う評価値の算定を、既知の手法の組み合わせで実現できるようになる。
(f)また、前記画像分類装置は、前記時間情報は撮影時刻であって、前記評価値算定部は、前記評価値の算定を、前記画像グループに含まれる画像それぞれの撮影時刻の集合における、前記画像特定部によって特定された画像それぞれの撮影時刻の分布に基づいて行うとしてもよい。
このような構成にすることによって、画像グループに属する各画像が、予め撮影時刻の情報を含むExif(Exchangeable Image File Format)ファイルに対応付けられているような場合には、新たに時間情報を生成しなくても、既に存在しているExifファイルに含まれる撮影時刻の情報をそのまま利用することができるようになる。
(g)また、前記画像分類装置は、前記画像グループの中から、前記所定の特徴とは別の特徴を有するオブジェクトが写っている画像を特定する比較用画像特定部と、
前記画像グループに含まれる画像それぞれの撮影時刻を反映した時間情報からなる集合における、前記比較用画像特定部によって特定された画像それぞれの撮影時刻を反映した時間情報の分布に基づいて、前記所定の特徴とは別の特徴を有するオブジェクトの比較用評価値を算定する比較用評価値算定部と、前記画像グループ分類部は、前記イベントの分類を、さらに、前記比較用評価値算定部によって算定された比較用算定値に基づいて行うとしてもよい。
このような構成にすることによって、所定の特徴を有するオブジェクトが1つである場合における評価値に基づいて行うイベントの分類よりも、よりきめ細かなイベントの分類ができるようになる。
(h)また、前記画像分類装置は、前記画像特定部によって特定された画像それぞれについて、前記所定の特徴を有するオブジェクトの面積を算定する面積算定部を備え、前記評価値算定部は、前記評価値の算定を、さらに、前記面積算定部によって算定された前記所定の特徴を有するオブジェクトの面積に基づいて行うとしてもよい。
このような構成にすることによって、例えば、所定の特徴を有するオブジェクトの面積が大きい程、評価値を大きくするというように、所定の特徴を有するオブジェクトの面積に応じて評価値を算定することができるようになる。
(i)また、前記画像分類装置は、前記画像特定部によって特定された画像それぞれについて、画像の中心と前記所定の特徴を有するオブジェクトの位置との差を算定する位置算定部を備え前記評価値算定部は、前記評価値の算定を、さらに、前記位置算定部によって算定された前記差に基づいて行うとしてもよい。
このような構成にすることによって、例えば、所定の特徴を有するオブジェクトの位置が画像の中心に近い程、評価値を大きくするというように、所定の特徴を有するオブジェクトの位置に応じて評価値を算定することができるようになる。
(j)また、前記画像分類装置は、前記所定の特徴を有するオブジェクトとは、所定の特徴を有する人の顔であって、前記画像特定部によって特定された画像それぞれについて、前記所定の特徴を有する人の顔の正面向き基準での角度を算定する顔角度算定部を備え、前記評価値算定部は、前記評価値の算定を、さらに、前記顔角度算定部によって算定された前記所定の特徴を有する人の顔の前記角度に基づいて行うとしてもよい。
このような構成にすることによって、例えば、所定の特徴を有する人の顔の向きが正面を向いている程、評価値を大きくするというように、所定の特徴を有する人の顔の向きに応じて評価値を算定することができるようになる。
本発明に係る画像分類装置は、複数のデジタル画像を記憶する機能を有する機器に広く適用することができる。
100 画像分類装置
201 画像グループデータ受付部
202 画像書込読出部
203 画像特徴情報書込読出部
204 主役度情報書込読出部
205 画像特徴量抽出部
206 主役度情報算出部
208 画像グループ分類部
209 イベント特徴情報書込読出部
210 分類結果出力部
211 イベント名情報受付部
212 イベント特徴情報受付部
213 サンプル画像受付部
214 サンプル画像書込部
231 画像記憶部
232 画像特徴情報記憶部
233 主役度情報記憶部
234 イベント特徴情報記憶部
235 顔対応表記憶部
236 サンプル画像記憶部

Claims (14)

  1. 一イベントに関連して逐次撮影された複数の画像からなる画像グループの中から、所定の特徴を有するオブジェクトが写っている画像を特定する画像特定部と、
    前記画像グループに含まれる画像それぞれの撮影時刻を反映した時間情報の集合における、前記画像特定部によって特定された画像それぞれの撮影時刻を反映した時間情報の分布に基づいて、前記所定の特徴を有するオブジェクトの評価値を算定する評価値算定部と、
    前記評価値算定部によって算定された評価値に基づいて、前記画像グループに関連する前記イベントを分類する画像グループ分類部とを備える
    ことを特徴とする画像分類装置。
  2. 前記画像分類装置を利用するユーザから、前記所定の特徴に係る情報を受け付ける情報受付手段と、
    前記情報受付手段によって受け付けられた情報から前記所定の情報を生成して記憶する記憶手段を備え、
    前記画像特定部は、前記画像の特定を、前記記憶手段に記憶されている所定の特徴を利用して行い、
    前記時間情報は、前記画像グループに含まれる各画像を撮影時刻順に並べる場合における順番であって、
    前記評価値算定部は、前記評価値の算定を、前記画像グループに含まれる画像それぞれの撮影時刻の順番からなる集合における、前記画像特定部によって特定された画像それぞれの撮影時刻の順番の分布に基づいて行う
    ことを特徴とする請求項1記載の画像分類装置。
  3. 前記画像グループに含まれる画像の枚数に2を加えた数を、前記画像特定部によって特定された画像の数に1を加えた数で除算することで得られる基準値を算定する基準値算定部と、
    前記画像特定部によって特定された画像の中で撮影時刻順に連続する2枚の画像の組である連続画像組のそれぞれについて、2枚の画像の、前記画像グループに含まれる画像における撮影時刻の順番の差である差分値を算定する差分値算定部とを備え、
    前記評価値算定部は、それぞれの連続画像組について前記基準値算定部によって算定された基準値と前記差分値算定部によって算定された差分値との比較を行い、前記基準値算定部によって算定された基準値よりも、前記差分値算定部によって算定された差分値の方が大きい連続画像組の数に基づいて、前記評価値の算定を行う
    ことを特徴とする請求項2記載の画像分類装置。
  4. 前記画像特定部によって特定された画像の中で撮影時刻順に連続する2枚の画像の組である連続画像組のそれぞれについて、2枚の画像の、前記画像グループに含まれる画像における撮影時刻の順番の差を2乗して得られる差分2乗値を算定する差分2乗値算定部を備え、
    前記評価値算定部は、前記画像特定部によって算定された差分2乗値の総和と、前記画像グループに含まれる画像の数とに基づいて、前記評価値の算定を行う
    ことを特徴とする請求項2記載の画像分類装置。
  5. 同一シーンにおいて撮影された画像が同一のサブ画像グループとなるように、画像グループを構成する画像群を撮影時刻順に複数のサブ画像グループに区分するサブ画像グループ区分部を備え、
    前記評価値算定部は、前記評価値の算定を、前記画像特定部によって特定されたオブジェクトが写っている画像が属するサブ画像グループの数に基づいて行う
    ことを特徴とする請求項1記載の画像分類装置。
  6. 前記時間情報は撮影時刻であって、
    前記評価値算定部は、前記評価値の算定を、前記画像グループに含まれる画像それぞれの撮影時刻の集合における、前記画像特定部によって特定された画像それぞれの撮影時刻の分布に基づいて行う
    ことを特徴とする請求項1記載の画像分類装置。
  7. 前記画像グループの中から、前記所定の特徴とは別の特徴を有するオブジェクトが写っている画像を特定する比較用画像特定部と、
    前記画像グループに含まれる画像それぞれの撮影時刻を反映した時間情報からなる集合における、前記比較用画像特定部によって特定された画像それぞれの撮影時刻を反映した時間情報の分布に基づいて、前記所定の特徴とは別の特徴を有するオブジェクトの比較用評価値を算定する比較用評価値算定部と、
    前記画像グループ分類部は、前記イベントの分類を、さらに、前記比較用評価値算定部によって算定された比較用算定値に基づいて行う
    ことを特徴とする請求項1記載の画像分類装置。
  8. 前記画像特定部によって特定された画像それぞれについて、前記所定の特徴を有するオブジェクトの面積を算定する面積算定部を備え、
    前記評価値算定部は、前記評価値の算定を、さらに、前記面積算定部によって算定された前記所定の特徴を有するオブジェクトの面積に基づいて行う
    ことを特徴とする請求項1記載の画像分類装置。
  9. 前記画像特定部によって特定された画像それぞれについて、画像の中心と前記所定の特徴を有するオブジェクトの位置との差を算定する位置算定部を備え
    前記評価値算定部は、前記評価値の算定を、さらに、前記位置算定部によって算定された前記差に基づいて行う
    ことを特徴とする請求項1記載の画像分類装置。
  10. 前記所定の特徴を有するオブジェクトとは、所定の特徴を有する人の顔であって、
    前記画像特定部によって特定された画像それぞれについて、前記所定の特徴を有する人の顔の正面向き基準での角度を算定する顔角度算定部を備え、
    前記評価値算定部は、前記評価値の算定を、さらに、前記顔角度算定部によって算定された前記所定の特徴を有する人の顔の前記角度に基づいて行う
    ことを特徴とする請求項1記載の画像分類装置。
  11. 一イベントに関連して逐次撮影された複数の画像からなる画像グループの中から、所定の特徴を有するオブジェクトが写っている画像を特定する画像特定部ステップ、
    前記画像グループに含まれる画像それぞれの撮影時刻を反映した時間情報の集合における、前記画像特定部によって特定された画像それぞれの撮影時刻を反映した時間情報の分布に基づいて、前記所定の特徴を有するオブジェクトの評価値を算定する評価値算定ステップと、
    前記評価値算定部によって算定された評価値に基づいて、前記画像グループに関連する前記イベントを分類する画像グループ分類ステップとを含む
    ことを特徴とする画像分類方法。
  12. 画像の分類をするための画像分類処理をコンピュータに実行させるための画像分類プログラムであって、
    前記画像分類処理は、
    一イベントに関連して逐次撮影された複数の画像からなる画像グループの中から、所定の特徴を有するオブジェクトが写っている画像を特定する画像特定部ステップ、
    前記画像グループに含まれる画像それぞれの撮影時刻を反映した時間情報の集合における、前記画像特定部によって特定された画像それぞれの撮影時刻を反映した時間情報の分布に基づいて、前記所定の特徴を有するオブジェクトの評価値を算定する評価値算定ステップと、
    前記評価値算定部によって算定された評価値に基づいて、前記画像グループに関連する前記イベントを分類する画像グループ分類ステップとを含む
    ことを特徴とする画像分類プログラム。
  13. 画像の分類をするための画像分類処理をコンピュータに実行させるための画像分類プログラムを記録した記録媒体であって、
    前記画像分類処理は、
    一イベントに関連して逐次撮影された複数の画像からなる画像グループの中から、所定の特徴を有するオブジェクトが写っている画像を特定する画像特定部ステップ、
    前記画像グループに含まれる画像それぞれの撮影時刻を反映した時間情報の集合における、前記画像特定部によって特定された画像それぞれの撮影時刻を反映した時間情報の分布に基づいて、前記所定の特徴を有するオブジェクトの評価値を算定する評価値算定ステップと、
    前記評価値算定部によって算定された評価値に基づいて、前記画像グループに関連する前記イベントを分類する画像グループ分類ステップとを含む
    ことを特徴とする記録媒体。
  14. 一イベントに関連して逐次撮影された複数の画像からなる画像グループの中から、所定の特徴を有するオブジェクトが写っている画像を特定する画像特定部と、
    前記画像グループに含まれる画像それぞれの撮影時刻を反映した時間情報の集合における、前記画像特定部によって特定された画像それぞれの撮影時刻を反映した時間情報の分布に基づいて、前記所定の特徴を有するオブジェクトの評価値を算定する評価値算定部と、
    前記評価値算定部によって算定された評価値に基づいて、前記画像グループに関連する前記イベントを分類する画像グループ分類部とを備える
    ことを特徴とする集積回路。
JP2012527581A 2010-08-04 2011-07-27 画像分類装置、方法、プログラム、プログラムを記録する記録媒体及び集積回路 Active JP5739428B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012527581A JP5739428B2 (ja) 2010-08-04 2011-07-27 画像分類装置、方法、プログラム、プログラムを記録する記録媒体及び集積回路

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2010175068 2010-08-04
JP2010175068 2010-08-04
PCT/JP2011/004251 WO2012017620A1 (ja) 2010-08-04 2011-07-27 画像分類装置、方法、プログラム、プログラムを記録する記録媒体及び集積回路
JP2012527581A JP5739428B2 (ja) 2010-08-04 2011-07-27 画像分類装置、方法、プログラム、プログラムを記録する記録媒体及び集積回路

Publications (2)

Publication Number Publication Date
JPWO2012017620A1 true JPWO2012017620A1 (ja) 2013-09-19
JP5739428B2 JP5739428B2 (ja) 2015-06-24

Family

ID=45559143

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012527581A Active JP5739428B2 (ja) 2010-08-04 2011-07-27 画像分類装置、方法、プログラム、プログラムを記録する記録媒体及び集積回路

Country Status (4)

Country Link
US (1) US9058342B2 (ja)
JP (1) JP5739428B2 (ja)
CN (1) CN102549579B (ja)
WO (1) WO2012017620A1 (ja)

Families Citing this family (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5469181B2 (ja) * 2010-01-25 2014-04-09 パナソニック株式会社 画像分類装置、方法、プログラム、プログラムを記録する記録媒体及び集積回路
KR20120085476A (ko) * 2011-01-24 2012-08-01 삼성전자주식회사 영상 재생 방법, 영상 재생 장치, 및 컴퓨터 판독가능 저장매체
JP5890325B2 (ja) * 2011-01-28 2016-03-22 パナソニック インテレクチュアル プロパティ コーポレーション オブアメリカPanasonic Intellectual Property Corporation of America 画像データ処理装置、方法、プログラム及び集積回路
KR101984584B1 (ko) * 2012-09-12 2019-05-31 엘지전자 주식회사 이동 단말기 및 이동 단말기 제어방법
CN103870798B (zh) * 2012-12-18 2017-05-24 佳能株式会社 对象检测方法、对象检测设备以及图像拾取设备
US9390076B2 (en) * 2013-06-06 2016-07-12 Microsoft Technology Licensing, Llc Multi-part and single response image protocol
JP5775124B2 (ja) * 2013-08-29 2015-09-09 ヤフー株式会社 サーバ、分布情報作成方法、およびプログラム
JP6018029B2 (ja) * 2013-09-26 2016-11-02 富士フイルム株式会社 撮像画像の主要顔画像決定装置ならびにその制御方法およびその制御プログラム
JP6667224B2 (ja) * 2015-08-07 2020-03-18 キヤノン株式会社 画像処理装置およびその制御方法、並びにプログラム
JP6606374B2 (ja) * 2015-08-07 2019-11-13 キヤノン株式会社 画像処理装置および方法およびプログラム
JP6660119B2 (ja) * 2015-08-07 2020-03-04 キヤノン株式会社 情報処理装置、情報処理方法、並びにプログラム
JP6367169B2 (ja) * 2015-09-28 2018-08-01 富士フイルム株式会社 画像処理装置、画像処理方法、プログラムおよび記録媒体
TWI603227B (zh) * 2016-12-23 2017-10-21 李雨暹 移動物件的虛擬訊息遠距管理方法與應用系統
US10984054B2 (en) * 2017-07-27 2021-04-20 Robert Bosch Gmbh Visual analytics system for convolutional neural network based classifiers
EP3706015A4 (en) 2017-12-05 2020-09-23 Huawei Technologies Co., Ltd. METHOD AND DEVICE FOR DISPLAYING A STORY ALBUM
JP7086818B2 (ja) * 2018-10-29 2022-06-20 富士フイルム株式会社 情報処理装置、情報処理方法、及びプログラム

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04232774A (ja) 1990-12-28 1992-08-21 Mitsubishi Paper Mills Ltd 改ざん防止用感圧記録シート
JPH04315344A (ja) 1991-04-15 1992-11-06 Nippon Telegr & Teleph Corp <Ntt> 符号誤り監視装置
JP4315344B2 (ja) * 2003-11-27 2009-08-19 富士フイルム株式会社 画像編集装置および方法並びにプログラム
JP2006295890A (ja) 2005-03-15 2006-10-26 Fuji Photo Film Co Ltd アルバム作成装置、アルバム作成方法、及びプログラム
JP4624841B2 (ja) * 2005-04-13 2011-02-02 オリンパスメディカルシステムズ株式会社 画像処理装置および当該画像処理装置における画像処理方法
WO2006112227A1 (ja) 2005-04-13 2006-10-26 Olympus Medical Systems Corp. 画像処理装置及び画像処理方法
JP2006345492A (ja) * 2005-05-12 2006-12-21 Fujifilm Holdings Corp アルバム作成装置、アルバム作成方法、及びプログラム
CN101253537B (zh) 2005-05-12 2012-10-10 富士胶片株式会社 影集制作装置、影集制作方法及程序
JP2007122110A (ja) * 2005-10-25 2007-05-17 Fujifilm Corp 画像分類装置および方法並びにプログラム
JP4232774B2 (ja) * 2005-11-02 2009-03-04 ソニー株式会社 情報処理装置および方法、並びにプログラム
JP2007317077A (ja) * 2006-05-29 2007-12-06 Fujifilm Corp 画像分類装置および方法ならびにプログラム
JP2008078713A (ja) * 2006-09-19 2008-04-03 Sony Corp 記録装置および方法、プログラム、並びに再生装置および方法
US8190634B2 (en) * 2006-10-10 2012-05-29 Canon Kabushiki Kaisha Image display controlling apparatus, method of controlling image display, and storage medium
JP2008250855A (ja) * 2007-03-30 2008-10-16 Sony Corp 情報処理装置および方法、並びにプログラム
US8180112B2 (en) * 2008-01-21 2012-05-15 Eastman Kodak Company Enabling persistent recognition of individuals in images
JP5032363B2 (ja) * 2008-02-27 2012-09-26 オリンパスイメージング株式会社 画像表示方法
US8055081B2 (en) * 2008-04-14 2011-11-08 Eastman Kodak Company Image classification using capture-location-sequence information
US8611677B2 (en) * 2008-11-19 2013-12-17 Intellectual Ventures Fund 83 Llc Method for event-based semantic classification
US20120124378A1 (en) 2010-11-12 2012-05-17 Xac Automation Corp. Method for personal identity authentication utilizing a personal cryptographic device

Also Published As

Publication number Publication date
WO2012017620A1 (ja) 2012-02-09
JP5739428B2 (ja) 2015-06-24
CN102549579A (zh) 2012-07-04
US20120170856A1 (en) 2012-07-05
CN102549579B (zh) 2016-06-08
US9058342B2 (en) 2015-06-16

Similar Documents

Publication Publication Date Title
JP5739428B2 (ja) 画像分類装置、方法、プログラム、プログラムを記録する記録媒体及び集積回路
JP5469181B2 (ja) 画像分類装置、方法、プログラム、プログラムを記録する記録媒体及び集積回路
US8488914B2 (en) Electronic apparatus and image processing method
US8732149B2 (en) Content output device, content output method, program, program recording medium, and content output integrated circuit
JP6323465B2 (ja) アルバム作成プログラム、アルバム作成方法およびアルバム作成装置
US9639962B2 (en) Apparatus and method of encoding and decoding image files with animation data
CN111465918B (zh) 在预览界面中显示业务信息的方法及电子设备
JP5890325B2 (ja) 画像データ処理装置、方法、プログラム及び集積回路
JP5250049B2 (ja) コンテンツ蓄積処理システム、コンテンツ蓄積処理方法、及び、半導体集積回路
JP2006236218A (ja) 電子アルバム表示システム、電子アルバム表示方法、及び電子アルバム表示プログラム
KR20080089191A (ko) 컨텐츠 관리 장치, 화상 표시 장치, 촬상 장치, 및,이들에서의 처리 방법 및 상기 방법을 컴퓨터에 실행시키는프로그램
JP2008204348A (ja) 情報処理装置、画像表示装置、および、これらにおける制御方法ならびに当該方法をコンピュータに実行させるプログラム
KR20110028877A (ko) Ui 제공방법 및 이를 적용한 디스플레이 장치
US20140050422A1 (en) Electronic Apparatus and Image Processing Method
JP4490214B2 (ja) 電子アルバム表示システム、電子アルバム表示方法、及び電子アルバム表示プログラム
US8244005B2 (en) Electronic apparatus and image display method
KR102426089B1 (ko) 전자 장치 및 전자 장치의 요약 영상 생성 방법
JP2006079460A (ja) 電子アルバム表示システム、電子アルバム表示方法、電子アルバム表示プログラム、画像分類装置、画像分類方法、及び画像分類プログラム
US8494347B2 (en) Electronic apparatus and movie playback method
US20110304644A1 (en) Electronic apparatus and image display method
US20110304779A1 (en) Electronic Apparatus and Image Processing Method
JP2011199906A (ja) 電子機器及び画像表示方法並びにプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140114

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20140606

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150303

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150311

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150331

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150423

R150 Certificate of patent or registration of utility model

Ref document number: 5739428

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250