JP4577173B2 - 情報処理装置および方法、並びにプログラム - Google Patents

情報処理装置および方法、並びにプログラム Download PDF

Info

Publication number
JP4577173B2
JP4577173B2 JP2005283369A JP2005283369A JP4577173B2 JP 4577173 B2 JP4577173 B2 JP 4577173B2 JP 2005283369 A JP2005283369 A JP 2005283369A JP 2005283369 A JP2005283369 A JP 2005283369A JP 4577173 B2 JP4577173 B2 JP 4577173B2
Authority
JP
Japan
Prior art keywords
node
image data
shooting
image
belonging
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2005283369A
Other languages
English (en)
Other versions
JP2007094762A (ja
Inventor
智彦 後藤
克浩 竹松
超 徐
理 花形
環 児嶋
卓之 大輪
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2005283369A priority Critical patent/JP4577173B2/ja
Priority to EP06120900A priority patent/EP1770599A3/en
Priority to US11/523,515 priority patent/US7693870B2/en
Priority to KR1020060093316A priority patent/KR20070036677A/ko
Priority to CNB2006101524495A priority patent/CN100429660C/zh
Publication of JP2007094762A publication Critical patent/JP2007094762A/ja
Application granted granted Critical
Publication of JP4577173B2 publication Critical patent/JP4577173B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/55Clustering; Classification
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/58Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F12/00Accessing, addressing or allocating within memory systems or architectures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/23Clustering techniques
    • G06F18/231Hierarchical techniques, i.e. dividing or merging pattern sets so as to obtain a dendrogram
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y10TECHNICAL SUBJECTS COVERED BY FORMER USPC
    • Y10STECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y10S707/00Data processing: database and file management or data structures
    • Y10S707/99941Database schema or data structure
    • Y10S707/99948Application of database or data structure, e.g. distributed, multimedia, or image

Description

本発明は、情報処理装置および方法、並びにプログラムに関し、特に、よりユーザの主観に沿った形で情報のグループ分けを行うことができるようにした情報処理装置および方法、並びにプログラムに関する。
近年、ディジタルカメラで撮影された画像をグループ分けする技術として様々なものが提案されている。
例えば、特許文献1および2には、撮影のときに得られた画像の撮影日の情報に基づいて、撮影された画像を、撮影日毎にグループ分けして管理する技術が開示されている。
特許文献3には、GPS(Global Positioning System)などにより得られた撮影位置の情報を画像と関連付けて記録しておき、それぞれの画像の撮影位置の距離に応じて画像をグループ分けして管理する技術が開示されている。この技術によれば、ある画像の撮影位置と近い位置で撮影が行われた場合、その先に撮影された画像と、後に撮影された画像は同じグループの画像として管理される。
特許文献4には、カレンダーに登録されたイベントの情報と、画像の撮影時に得られた撮影日の情報から、撮影された画像をイベント毎に管理する技術が開示されている。この技術によれば、例えば、所定の日付のイベントとして、ユーザが「旅行」をカレンダーに登録していた場合、その日付を撮影日とする画像は同じグループの画像として管理される。
特許文献5には、一定時間以内の間隔で撮影された画像を同じグループの画像として管理する技術が開示されている。この技術によれば、例えば、グループ分けの基準となる時間間隔が10分である場合、先に撮影が行われてから10分以内に撮影が行われたときには、先の撮影により得られた画像と、後の撮影により得られた画像は同じグループの画像として管理され、反対に、先の撮影が行われてから10分経過してから撮影が行われたときには、先の撮影により得られた画像と、後の撮影により得られた画像は異なるグループの画像として管理される。
特開2001−54041号公報 特開2001−51877号公報 特開2002−191015号公報 特開2003−298991号公報 特開平10−254746号公報
しかしながら、例えば、特許文献1および2に開示されているような技術においては、撮影日毎にグループ分けが行われることから、旅行などの、複数日に渡って行われるイベントで撮影された画像を1つのグループの画像として管理することができない。また、1日のうちに行われた複数のイベントで撮影された画像が混在する場合、異なるイベントで撮影された画像を、それぞれ異なるグループの画像として管理することができない。
また、特許文献3に開示されているように、GPSなどを用いて撮影位置の情報を得る必要がある技術においては、当然、撮影位置の情報を取得することができない場合にはグループ分けを行うことができず、例えば、撮影位置の情報を取得することができなかった画像はグループ化の対象からはずされてしまうことになる。
さらに、特許文献4に開示されている技術においては、ユーザは、外出先の名前などのイベント名をカレンダーに登録しておく必要があり、そのような作業は一般的に煩雑である。
また、特許文献5に開示されている技術においては、グループ分けの基準となる撮影間隔が一定の時間とされ、一定の間隔を基準として機械的にグループ分けがされてしまうことから、「この画像とこの画像の間でグループが分かれてほしい」という、ユーザの主観に沿った形でグループ分けを行うことが困難である。
例えば、グループ分けの基準となる一定の撮影間隔が10分である場合、結婚式などの1つのイベントで撮影された画像の全てが同じグループの画像としてグループ化されることがユーザにとっては望ましいところ、そのようなグループ化が行われるためには、ユーザは、結婚式がはじまり、最初に撮影を行ってからは、それ以降、常に、10分以内に撮影を行う必要がある。また、結婚式が終わったら、10分以上経過してから撮影を行わななければ、結婚式の最中に撮影した画像と、結婚式が終わってから撮影した画像が同じグループの画像となってしまう。
撮影間隔というのは、個人個人の撮影スタイルに大きく左右されるものであることから、10分などのように一定の時間間隔を基準としてグループ分けが行われる場合、ユーザの撮影スタイルが、結婚式が始まってから終わるまでの間に全部で10枚ほどしか撮影を行わないようなときには(1回1回の撮影を、10分以上の間隔を空けて行うときには)、2枚以上の画像からなるグループは形成されないことになる。
また、一定の時間間隔を基準としてグループ分けが行われる場合、グループ分けの基準が固定であり、従って、グループ分けの結果も固定であることから、仮に、グループ分けの結果がユーザの希望する粒度のものではない場合、「もう少し大きいまとまりでグループ化してほしい」、「もう少し小さいまとまりでグループ化してほしい」などというユーザの要求に対応することができない。
近年、ハードディスクやフラッシュメモリなどの記録媒体の大容量化が進んでおり、このような大容量の記録媒体を搭載したディジタルカメラを用いた場合、撮影した画像をパーソナルコンピュータなどの他のストレージ機器に移すことなく、ディジタルカメラの内部に撮影したまま貯め込んでおくことが予想され、また、ディジタルカメラに設けられる操作ボタンは、通常、機器の携帯性を確保するという点から比較的小さいものが用意され、それを用いて画像をグループ分けして管理することは困難であることから、撮影した画像のグループ化をディジタルカメラ内において適切な形で自動的に行うことに対する要求も高まっていくものと考えられる。
本発明はこのような状況に鑑みてなされたものであり、よりユーザの主観に沿った形で情報のグループ分けを行うことができるようにするものである。
本発明の一側面の情報処理装置は、撮影時刻の情報を属性情報として有する複数の画像データを取得する取得手段と、前記属性情報により表される、前記取得手段により取得された前記複数の画像データのそれぞれの撮影時刻に基づいて、撮影順で連続する、撮影時刻の時間間隔の最も短い2つの画像データが接続される第1のノードと、前記第1のノードとともに、前記第1のノードに属する2つの画像データのうちの撮影順で前の画像データの直前に撮影された画像データ、または撮影順で後の画像データの直後に撮影された画像データが接続される第2のノードと、前記第1のノードまたは前記第2のノードである他のノードが子のノードとして2つ接続される第3のノードとが、それぞれ複数接続されることによって構成される二分木構造を表す情報を作成し、作成した情報により表される前記二分木構造に含まれるそれぞれの前記第3のノードに注目し、注目する前記第3のノードに属する撮影順で連続する画像データ同士の撮影時刻の時間間隔の標準偏差を、前記属性情報により表されるそれぞれの画像データの撮影時刻に基づいて算出し、注目する前記第3のノードの2つの子のノードである第1の子のノード、前記第1の子のノードに属する画像データより後に撮影された画像データが属する第2の子のノードのうちの、前記第1の子のノードに属する撮影順で最後の画像データの撮影時刻と前記第2の子のノードに属する撮影順で最初の画像データの撮影時刻の時間間隔と、注目する前記第3のノードに属する撮影順で連続する画像データ同士の撮影時刻の時間間隔の平均との差の絶対値として求められる偏差を、前記属性情報により表されるそれぞれの画像データの撮影時刻に基づいて算出し、算出した前記偏差を前記標準偏差で除算し、除算結果の値が閾値より大きい場合には前記第1の子のノードに属する画像データと前記第2の子のノードに属する画像データがそれぞれ異なるグループの画像データになるように、前記除算結果の値が閾値より小さい場合には前記第1の子のノードに属する画像データと前記第2の子のノードに属する画像データが同じグループの画像データになるように、前記複数の画像データのグループ分けを行い、グループ分けの結果を表す情報を作成する演算手段とを備える。
前記演算手段には、複数の前記閾値を用いて、前記取得手段により取得された同じ前記複数の画像データを対象として粒度の異なるグループ分けの結果を求めさせることができる。
前記演算手段により求められたグループ分けの結果に基づいて、同じグループに属する画像データを一覧表示させる表示制御手段をさらに設けることができる。
前記表示制御手段には、さらに、それぞれのグループを1つのフォルダとして表示させ、表示させたフォルダの中からユーザにより選択されたフォルダにより表されるグループに属する画像データを一覧表示させることができる。
前記フォルダの名前として、ユーザにより入力された名前、または、グループに属する画像データが有する属性情報から得られる名前を設定する設定手段をさらに設けることができる。
本発明の一側面の情報処理方法は、撮影時刻の情報を属性情報として有する複数の画像データを取得し、前記属性情報により表される、取得した前記複数の画像データのそれぞれの撮影時刻に基づいて、撮影順で連続する、撮影時刻の時間間隔の最も短い2つの画像データが接続される第1のノードと、前記第1のノードとともに、前記第1のノードに属する2つの画像データのうちの撮影順で前の画像データの直前に撮影された画像データ、または撮影順で後の画像データの直後に撮影された画像データが接続される第2のノードと、前記第1のノードまたは前記第2のノードである他のノードが子のノードとして2つ接続される第3のノードとが、それぞれ複数接続されることによって構成される二分木構造を表す情報を作成し、作成した情報により表される前記二分木構造に含まれるそれぞれの前記第3のノードに注目し、注目する前記第3のノードに属する撮影順で連続する画像データ同士の撮影時刻の時間間隔の標準偏差を、前記属性情報により表されるそれぞれの画像データの撮影時刻に基づいて算出し、注目する前記第3のノードの2つの子のノードである第1の子のノード、前記第1の子のノードに属する画像データより後に撮影された画像データが属する第2の子のノードのうちの、前記第1の子のノードに属する撮影順で最後の画像データの撮影時刻と前記第2の子のノードに属する撮影順で最初の画像データの撮影時刻の時間間隔と、注目する前記第3のノードに属する撮影順で連続する画像データ同士の撮影時刻の時間間隔の平均との差の絶対値として求められる偏差を、前記属性情報により表されるそれぞれの画像データの撮影時刻に基づいて算出し、算出した前記偏差を前記標準偏差で除算し、除算結果の値が閾値より大きい場合には前記第1の子のノードに属する画像データと前記第2の子のノードに属する画像データがそれぞれ異なるグループの画像データになるように、前記除算結果の値が閾値より小さい場合には前記第1の子のノードに属する画像データと前記第2の子のノードに属する画像データが同じグループの画像データになるように、前記複数の画像データのグループ分けを行い、グループ分けの結果を表す情報を作成するステップを含む。
本発明の一側面のプログラムは、撮影時刻の情報を属性情報として有する複数の画像データを取得し、前記属性情報により表される、取得した前記複数の画像データのそれぞれの撮影時刻に基づいて、撮影順で連続する、撮影時刻の時間間隔の最も短い2つの画像データが接続される第1のノードと、前記第1のノードとともに、前記第1のノードに属する2つの画像データのうちの撮影順で前の画像データの直前に撮影された画像データ、または撮影順で後の画像データの直後に撮影された画像データが接続される第2のノードと、前記第1のノードまたは前記第2のノードである他のノードが子のノードとして2つ接続される第3のノードとが、それぞれ複数接続されることによって構成される二分木構造を表す情報を作成し、作成した情報により表される前記二分木構造に含まれるそれぞれの前記第3のノードに注目し、注目する前記第3のノードに属する撮影順で連続する画像データ同士の撮影時刻の時間間隔の標準偏差を、前記属性情報により表されるそれぞれの画像データの撮影時刻に基づいて算出し、注目する前記第3のノードの2つの子のノードである第1の子のノードと、前記第1の子のノードに属する画像データより後に撮影された画像データが属する第2の子のノードのうちの、前記第1の子のノードに属する撮影順で最後の画像データの撮影時刻と前記第2の子のノードに属する撮影順で最初の画像データの撮影時刻の時間間隔と、注目する前記第3のノードに属する撮影順で連続する画像データ同士の撮影時刻の時間間隔の平均との差の絶対値として求められる偏差を、前記属性情報により表されるそれぞれの画像データの撮影時刻に基づいて算出し、算出した前記偏差を前記標準偏差で除算し、除算結果の値が閾値より大きい場合には前記第1の子のノードに属する画像データと前記第2の子のノードに属する画像データがそれぞれ異なるグループの画像データになるように、前記除算結果の値が閾値より小さい場合には前記第1の子のノードに属する画像データと前記第2の子のノードに属する画像データが同じグループの画像データになるように、前記複数の画像データのグループ分けを行い、グループ分けの結果を表す情報を作成するステップを含む処理をコンピュータに実行させる。
本発明の一側面においては、撮影時刻の情報を属性情報として有する複数の画像データが取得され、前記属性情報により表される、取得された複数の画像データのそれぞれの撮影時刻に基づいて、撮影順で連続する、撮影時刻の時間間隔の最も短い2つの画像データが接続される第1のノードと、前記第1のノードとともに、前記第1のノードに属する2つの画像データのうちの撮影順で前の画像データの直前に撮影された画像データ、または撮影順で後の画像データの直後に撮影された画像データが接続される第2のノードと、前記第1のノードまたは前記第2のノードである他のノードが子のノードとして2つ接続される第3のノードとが、それぞれ複数接続されることによって構成される二分木構造を表す情報が作成される。また、作成した情報により表される前記二分木構造に含まれるそれぞれの前記第3のノードが注目され、注目する前記第3のノードに属する撮影順で連続する画像データ同士の撮影時刻の時間間隔の標準偏差が、前記属性情報により表されるそれぞれの画像データの撮影時刻に基づいて算出され、注目する前記第3のノードの2つの子のノードである第1の子のノード、前記第1の子のノードに属する画像データより後に撮影された画像データが属する第2の子のノードのうちの、前記第1の子のノードに属する撮影順で最後の画像データの撮影時刻と前記第2の子のノードに属する撮影順で最初の画像データの撮影時刻の時間間隔と、注目する前記第3のノードに属する撮影順で連続する画像データ同士の撮影時刻の時間間隔の平均との差の絶対値として求められる偏差が、前記属性情報により表されるそれぞれの画像データの撮影時刻に基づいて算出され、算出された前記偏差が前記標準偏差で除算され、除算結果の値が閾値より大きい場合には前記第1の子のノードに属する画像データと前記第2の子のノードに属する画像データがそれぞれ異なるグループの画像データになるように、前記除算結果の値が閾値より小さい場合には前記第1の子のノードに属する画像データと前記第2の子のノードに属する画像データが同じグループの画像データになるように、前記複数の画像データのグループ分けが行われ、グループ分けの結果を表す情報が作成される
本発明の一側面によれば、よりユーザの主観に沿った形で情報のグループ分けを行うことができる。
以下、本発明の実施の形態について図を参照して説明する。
図1および図2は、本発明の一実施形態に係るディジタルカメラ1の外観の例を示す図である。
図1はディジタルカメラ1の正面側(被写体から見た側)の外観を示し、図2は背面側(撮影者から見た側)の外観を示す。図1には、ディジタルカメラ1に内蔵される構成の一部も点線で示されている。
図1に示されるように、ディジタルカメラ1の正面のほぼ中央にはレンズ11が設けられ、このレンズ11により被写体の像が取り込まれる。ディジタルカメラ1の筐体上面には、被写体側から見て、その左側にシャッターボタン12が設けられ、右側にアンテナ13が設けられる。アンテナ13は、例えば、ディジタルカメラ1が他の機器と無線通信を行うときに用いられる。
図2に示されるように、ディジタルカメラ1の背面には、その広い範囲に渡って、LCD(Liquid Crystal Display)などよりなる表示装置14が設けられる。表示装置14には、撮影時、レンズ11により取り込まれている被写体の画像が表示され、撮影後、ユーザ操作に応じて、撮影して得られた画像(写真)が表示される。後述するように、ディジタルカメラ1においては、撮影して得られた画像がイベント単位でグループ化され、ユーザは、1つのグループを選択することによって、所定のイベントで撮影した画像を表示させることができる。
操作ボタン15は、十字キーや決定ボタンなどより構成され、表示装置14に表示されるカーソルを移動するときや、カーソルにより選択した項目を決定するときなどにユーザにより操作される。
以上のような外観構成を有するディジタルカメラ1には、CPU(Central Processing Unit),ROM(Read Only Memory),RAM(Random Access Memory)などより構成され、ディジタルカメラ1の全体の動作を制御する中央演算装置21、有線、または無線による通信を他の機器との間で行う通信装置22、ディジタルカメラ1の各部の駆動電源として用いられるバッテリ23、および、フラッシュメモリやハードディスクなどよりなる記録装置24が内蔵して設けられる。記録装置24は、ディジタルカメラ1に対して着脱可能なものとして構成されるようにしてもよい。
ここで、以上のような構成を有するディジタルカメラ1において行われる画像のグループ化(クラスタリング)について説明する。
図3は、画像のグループ(クラスタ)の例を示す図である。図3において、横軸は時間軸を示す。
図3は、時刻t1乃至t12のそれぞれのタイミングにおいて撮影された画像p1乃至p12がクラスタリングの対象とされている場合の例を示している。例えば、撮影され、記録装置24に記録されている画像全体がクラスタリングの対象とされる。図3の1つの四角形は1枚の画像を表す。
ディジタルカメラ1においては、それぞれの画像の撮影時刻の時間間隔が求められ、時間間隔の分布が、ある条件を満たす連続した画像から1つのクラスタが構成される。撮影されたそれぞれの画像には、EXIF(Exchangeable Image File Format)タグが属性情報として付加されており、このEXIFタグに含まれる撮影時刻の情報がクラスタリングに用いられる。
図3の例においては、クラスタを規定する条件として条件Aと条件Bが設定され、そのうちの条件Aにより、画像p1乃至p12全体からなる1つのクラスタが規定されている。条件Aにより規定されたクラスタにはイベント名「結婚式」が設定されている。
クラスタリングの詳細については後述するが、「結婚式」のイベント名が設定されているクラスタは、例えば、画像p1乃至p12のそれぞれの画像の撮影時刻の時間間隔のばらつきの程度が、ある閾値より小さいことなどから規定されたものである。
また、図3の例においては、条件Bにより、画像p1乃至p12のうちの画像p1乃至p3から1つのクラスタが規定され、画像p4乃至p7から1つのクラスタが規定されている。また、画像p8乃至p12から1つのクラスタが規定されている。
画像p1乃至p3からなるクラスタには「教会での挙式」、画像p4乃至p7からなるクラスタには「披露宴」、画像p8乃至p12からなるクラスタには「二次会」のイベント名がそれぞれ設定されている。
「教会での挙式」のイベント名が設定されているクラスタは、それを構成する画像p1乃至p3のそれぞれの撮影時刻の時間間隔のばらつきの程度が近いものであるのに対し、画像p3と、次に(時間軸上で次に)撮影時刻の時間間隔のばらつきの程度が近い画像のまとまりである画像p4乃至p7のうちの最初の画像である画像p4との時間間隔が比較的大きく、その部分で、撮影の頻度に変化があったと判断されたことから規定されたものである。
また、「披露宴」のイベント名が設定されているクラスタは、それを構成する画像p4乃至p7のそれぞれの撮影時刻の時間間隔のばらつきの程度が近いものであるのに対し、画像p7と、次に撮影時刻の時間間隔のばらつきの程度が近い画像のまとまりである画像p8乃至p12のうちの最初の画像である画像p8との時間間隔が比較的大きく、その部分で、撮影の頻度に変化があったと判断されたことから規定されたものである。
「二次会」のイベント名が設定されているクラスタは、それを構成する画像p8乃至p12のそれぞれの撮影時刻の時間間隔のばらつきの程度が近いものであるのに対し、画像p12と、次に撮影時刻の時間間隔のばらつきの程度が近い画像のまとまりのうちの最初の画像との時間間隔が比較的大きく、その部分で、撮影の頻度に変化があったと判断されたことから規定されたものである。
なお、「結婚式」、「教会での挙式」、「披露宴」、「二次会」のそれぞれのイベント名は、例えば、ユーザにより手動で設定されたものである。
このように、ディジタルカメラ1においては、同じ対象の画像をクラスタリングする条件として複数の条件が設定され、それぞれの条件に基づいて、異なる粒度のクラスタが規定される。図3の例においては、条件Aは粒度の低い(粗い)クラスタを規定する条件であり、条件Bは条件Aより粒度の高い(細かい)クラスタを規定する条件である。
以上のようにして規定されたそれぞれのクラスタに含まれる画像は仮想的に1つのフォルダによりまとめて管理され、階層構造を有する形でユーザに提示される。
図4は、階層構造の例を示す図である。
図4の例においては、「私の思い出」の名前が設定されたフォルダの下位の階層のフォルダとして、条件Aにより規定される「結婚式」のイベント名が設定されたクラスタを表すフォルダと、「北海道旅行」のイベント名が設定されたクラスタを表すフォルダが示されている。
また、「結婚式」のイベント名が設定されたクラスタを表すフォルダの下位の階層のフォルダとして、条件Bにより規定される「教会での挙式」、「披露宴」、「二次会」のそれぞれのイベント名が設定されたクラスタを表すフォルダが示されている。
さらに、「北海道旅行」のイベント名が設定されたクラスタを表すフォルダの下位の階層のフォルダとして、条件Bにより規定される「釧路湿原」、「札幌すすきの」、「稚内カニ」、「富良野」、「網走監獄」のそれぞれのイベント名が設定されたクラスタを表すフォルダが示されている。これらのフォルダにより表されるクラスタも、それぞれのクラスタを構成する画像の撮影時刻の時間間隔の分布により規定されたものである。
このように、ディジタルカメラ1においては、イベント毎にフォルダが作成され、作成されたフォルダにはそれぞれのイベントのときに撮影された画像が含められるから、ユーザは、階層構造を有するフォルダの中から所定のフォルダを選択することによって、イベント単位で画像を閲覧したり、整理したりすることができる。
例えば、ユーザは、撮影して得られた画像を、図5の上方に示されるように単に時系列順に閲覧するのではなく、白抜き矢印の先に示されるように、フォルダf11,f12,f122,f211,f212,f22のそれぞれに含まれる画像の順序で、すなわち、好みの粒度のフォルダを選択して、好みの順序で、画像を閲覧することができる。
図5の1つの楕円は1つのフォルダを表す。図5において、撮影して得られた画像全体がフォルダf1に含まれる画像とフォルダf2に含まれる画像に分けられ、このうちのフォルダf1に含まれる画像は、さらにフォルダf11に含まれる画像とフォルダf12に含まれる画像に分けられる。フォルダf11に含まれる画像は、フォルダf111に含まれる画像とフォルダf112に含まれる画像に分けられ、フォルダf12に含まれる画像は、フォルダf121に含まれる画像とフォルダf122に含まれる画像に分けられる。同様に、フォルダf2に含まれる画像も下位の階層のフォルダに含まれる画像に分けられる。
図6は、表示装置14に表示される閲覧画面の例を示す図である。
図6に示されるように、閲覧画面は、画面の左方に形成されるフォルダ表示領域14Aと、画面の右方に形成される画像表示領域14Bとから構成される。
フォルダ表示領域14Aは、以上のようにして規定されたそれぞれのクラスタを表すフォルダが階層表示される領域である。
図6の例においては、フォルダ表示領域14Aには、「伊豆ツーリング」、「結婚式」、「2004/01/01」、「白骨温泉旅行」、「2003/3/3〜3/8」のイベント名が設定されたフォルダ(クラスタを表すフォルダ)が同じ階層に表示されている。同じ階層のフォルダとして表示されているから、これらのフォルダにより表されるクラスタはそれぞれ同じ条件により規定されるものである。
また、これらのフォルダに設定されているイベント名のうち、「伊豆ツーリング」、「結婚式」、「白骨温泉旅行」はユーザにより手動で設定されたものであるが、「2004/01/01」と「2003/3/3〜3/8」は、例えば、そのフォルダに含まれる画像の撮影日の情報に基づいて、ディジタルカメラ1においてユーザの入力によらずに自動的に設定されたものである。それぞれの画像に付加されるEXIFタグには、撮影日の情報も含まれている。
すなわち、「2004/01/01」のイベント名が設定されたフォルダには、2004年1月1日に撮影された画像が含まれており、「2003/3/3〜3/8」のイベント名が設定されたフォルダには、2003年3月3日から3月8日までの間に撮影された画像が含まれている。
「伊豆ツーリング」の下に表示されている「2004/06/15〜06/16」の文字、「結婚式」の下に表示されている「2004/04/01」の文字も、それぞれのフォルダに含まれる画像の撮影日を表すものとして自動的に設定され、表示されるものである。
このようにして表示されるフォルダから、ユーザは、操作ボタン15を構成する十字キーの上下方向のボタンを押してカーソルC1を移動させ、所定のフォルダを選択することができる。
図6の例においては、「伊豆ツーリング」のイベント名が設定されたフォルダが選択され、その下に、下位の階層のクラスタを表すフォルダとして、「06/15午前」、「06/15午後」、「06/16」のイベント名が設定されたフォルダが表示されている。「06/15午前」、「06/15午後」、「06/16」のイベント名が設定されたフォルダもそれぞれ同じ階層のフォルダとして表示されているから、これらのフォルダにより表されるクラスタはそれぞれ同じ条件により規定されるものである。
また、図6の例においては、「伊豆ツーリング」の下位の階層のクラスタを表すフォルダの中から「06/15午前」のイベント名が設定されたフォルダがカーソルC1により選択されており、「06/15午前」のフォルダに含まれる画像が、画像表示領域14Bに一覧表示(サムネイル表示)されている。
図6の例においては、画像表示領域14Bには12枚の画像が一覧表示されている。また、そのうちの左上の画像がカーソルC2により選択されており、この画像のファイル名と撮影日時が閲覧画面の上方に表示されている。
ユーザは、カーソルC2を移動させて操作ボタン15を構成する決定ボタンを押すことによって、そのときカーソルC2により選択している画像を表示装置14の全体に拡大して表示させたりすることができる。
以上のようにして画像を管理し、閲覧画面を表示するディジタルカメラ1の動作についてはフローチャートを参照して後述する。
図7は、ディジタルカメラ1の機能構成例を示すブロック図である。図7に示す機能部のうちの少なくとも一部は、図1の中央演算装置21により所定のプログラムが実行されることによって実現される。
カメラ部31は、被写体からの光を集光するレンズ11、絞り等の光学系のモジュール、および、CCD(Charge Coupled Device)などの撮像素子により構成される。カメラ部31の撮像素子は、レンズ11を介して入射する被写体からの光を受光して光電変換を行い、(光の)受光量に応じた電気信号としてのアナログの画像信号をキャプチャ部32に出力する。
キャプチャ部32は、カメラ部31の撮像素子から供給された画像信号のA/D(Analog/Digital)変換を行い、A/D変換により得られたディジタル信号の画像データを画像DB33に出力し、記録させる。このとき、キャプチャ部32は、撮影時刻、撮影日などの情報を含むEXIFタグを、撮影された画像と対応付けて画像DB33に記録させる。
画像DB33は、キャプチャ部32から供給された画像をEXIFタグと対応付けて記録する。
タグ読み取り部34は、画像のクラスタリングを行うとき、画像DB33に記録されているEXIFタグから、クラスタリングの対象とするそれぞれの画像の撮影時刻を読み出し、読み出した撮影時刻を演算部35に出力する。画像のクラスタリングは、1枚の画像の撮影が行われる毎に行われるようにしてもよいし、ユーザによりクラスタリングを行うことが指示されたときなどの所定のタイミングで行われるようにしてもよい。
演算部35はクラスタリング部51と階層決定部52から構成される。クラスタリング部51は、クラスタDB37に記録されているクラスタデータを取得し、取得したクラスタデータと、タグ読み取り部34から供給された撮影時刻に基づいて画像のクラスタリングを行う。例えば、過去にクラスタリングが行われた画像も含めて、画像全体が二分木構造を有する形で管理されるクラスタリング結果がクラスタリング部51により取得される。
クラスタDB37に記録されているクラスタデータには、それまでに求められた、それぞれの画像がどのクラスタに属するのかを表す情報や、画像全体の二分木構造を表す情報が含まれる。
階層決定部52は、クラスタリング部51により取得されたクラスタリング結果である二分木構造を表す情報に基づいて、条件設定部36により設定された条件にあうクラスタを決定する。例えば、それぞれのクラスタがどの画像を含むのかを表す情報、あるいは、それぞれの画像がどのクラスタに属するのかを表す情報などが階層決定部52により取得され、画像全体の二分木構造を表すとともに、最終的なクラスタリングの結果を表すクラスタデータとしてクラスタDB37に記録される。
条件設定部36は、クラスタを規定する条件であるグループ化条件を設定し、階層決定部52に出力する。グループ化条件は、あらかじめ用意される複数の条件の中からユーザにより選択されることによって設定されるようにしてもよいし、複数のクラスタを1つのクラスタに結合したり、1つのクラスタを複数のクラスタに分割したりするなどの、ユーザにより行われたクラスタの編集の履歴が管理されている場合、ユーザが好むと考えられるクラスタの粒度が編集の履歴を用いて学習により求められ、そのような粒度のクラスタを得ることができるような条件が動的に設定されるようにしてもよい。
クラスタDB37は、階層決定部52から供給されたクラスタデータを、画像DB33に記録されている画像データと対応付けて記録する。クラスタリング結果により表されるそれぞれのクラスタには、イベント名設定部38から供給されたイベント名も対応付けて記録される。このように、ディジタルカメラ1においては、画像データ本体とクラスタデータは別々に管理されるようになされている。
イベント名設定部38は、ユーザにより設定されたイベント名をクラスタDB37に出力し、クラスタと対応付けて記録させる。また、イベント名設定部38は、ユーザによりイベント名が設定されない場合、クラスタDB37に記録されているクラスタデータを用いてそれぞれのクラスタに属する画像を識別し、識別した画像の撮影日や撮影時間帯(午前、午後など)を含むイベント名をクラスタと対応付けて記録させる。
閲覧ビュー表示部39は、クラスタDB37から読み出したクラスタデータと、それぞれのクラスタのイベント名に基づいて、それぞれのクラスタを表すフォルダを閲覧画面のフォルダ表示領域14Aに階層表示させる。また、閲覧ビュー表示部39は、フォルダ表示領域14Aに表示されるものの中から所定のフォルダが選択されたとき、選択されたフォルダに含まれる画像(選択されたフォルダにより表されるクラスタに含まれる画像)を、画像DB33に記録されているデータに基づいて画像表示領域14Bに一覧表示させる。
ネットワーク通信部40は、通信装置22を制御してディジタルカメラ1の外部の機器との間で通信を行い、例えば、画像DB33に記録されている画像データやクラスタDB37に記録されているクラスタデータを外部の機器に送信する。
ここで、演算部35により行われる処理の詳細について説明する。
例えば、100枚の画像p1乃至p100をクラスタリングの対象として、それらの画像をイベントクラスタA(グループ化条件Aを満たす画像のクラスタ)と、サブイベントクラスタB(グループ化条件Bを満たす画像のクラスタ)に分ける処理について説明する。
はじめに、図8乃至図16を参照して、クラスタリング部51により行われる二分木構造の作成について説明する。
図8乃至図16において、「p」の文字と数字がその中に書かれている1つの円は1枚の画像を表し、「n」の文字と数字がその中に書かれている1つの円は1つのノードを表す。また、図の右方は、左方より時間的に後の方向であるものとする。なお、ここでは、画像p1乃至p100を、撮影時刻順(画像p1が一番古く、画像p100が一番新しいデータ)にクラスタリングの対象とする場合について説明する。画像p1とp2をクラスタリングの対象とした後(二分木構造に組み込んだ後)で、画像p1よりも新しく、画像p2より古い画像p3を新たにクラスタリングの対象とするように、撮影時刻順にではなく、それぞれの画像を対象として行われるクラスタリングについては後述する。
クラスタリングがまだ行われていない状態で、最初の撮影により得られた画像p1がツリーに挿入されたとき(クラスタリングの対象とされたとき)、初期の状態ではツリーのルートとなるノードが存在しないから、図8に示されるように、画像p1自身がルートノードとなる。
画像p1に続けて撮影された画像p2がツリーに挿入されたとき、図9に示されるように、ノードn1が新たに作られ、画像p2の撮影時刻は画像p1の撮影時刻より後であるから、ノードn1には、画像p1が左の子ノードとして連結され、画像p2が右の子ノードとして連結される。ノードn1は画像p1に代えてルートノードとなる。
ノードn1の最小時刻として画像p1の撮影時刻が記録され、最大時刻として画像p2の撮影時刻が記録される。ノードの時刻として、そのノードを親のノードとする2つの子ノードの撮影時刻の平均値(中間の時刻)が記録されるようにしてもよい。
画像p2に続けて撮影された画像p3がツリーに挿入され、図10に示されるように、画像p3の撮影時刻と画像p2の撮影時刻の時間間隔tdp2p3が、画像p2の撮影時刻と画像p1の撮影時刻の時間間隔tdp1p2より小さいとき、図11に示されるように、ノードn2が新たに作られ、ノードn2には、その左の子ノードとして画像p2が連結され、右の子ノードとして画像p3が連結される。また、ノードn2が、画像p2の代わりに右の子ノードとしてノードn1に連結される。
ノードn2の最小時刻として画像p2の撮影時刻が記録され、最大時刻として画像p3の撮影時刻が記録される。また、このとき、ノードn2の親のノードであるノードn1の最大時刻が画像p3の撮影時刻で上書きされる。
画像p3に続けて撮影された画像p4がツリーに挿入され、図12に示されるように、画像p4の撮影時刻と画像p3の撮影時刻の時間間隔tdp3p4が、画像p3の撮影時刻と画像p2の撮影時刻の時間間隔tdp2p3より大きく、かつ、画像p4の撮影時刻とノードn2の最大時刻の時間間隔tdn2maxp4が、ノードn2の最小時刻と画像p1の撮影時刻の時間間隔tdp1n2minより大きいとき、図13に示されるように、ノードn3が新たにルートノードとして作られる。また、ノードn3には、その左の子ノードとしてノードn1が連結され、右の子ノードとして画像p4が連結される。
ノードn3の最小時刻としてノードn1の最小時刻が記録され、最大時刻として画像p4の撮影時刻が記録される。
画像p4に続けて撮影された画像p5がツリーに挿入され、図14に示されるように、画像p5の撮影時刻と画像p4の撮影時刻の時間間隔tdp4p5より、画像p4の撮影時刻とノードn1の最大時刻の時間間隔tdn1maxp4の方が大きいとき、図15に示されるように、ノードn4が新たに作られる。また、ノードn4には、その左の子ノードとして画像p4が連結され、右の子ノードとして画像p5が連結される。さらに、ノードn4が、画像p4の代わりに右の子ノードとしてノードn3に連結される。
ノードn4の最小時刻として画像p4の撮影時刻が記録され、最大時刻として画像p5の撮影時刻が記録される。また、このとき、ノードn4の親のノードであるノードn3の最大時刻が画像p5の撮影時刻で上書きされる。
この時点で、画像p1乃至p5の5枚の画像を含むノードn1乃至n4から二分木構造が形成された状態になる。
それぞれのノードに含まれる画像は、それぞれのノードに直接に、または他のノードを介して間接的に連結される画像であるから、図15に示されるようなツリーが作成されているとき、ノードn3に含まれる画像は画像p1乃至p5の5枚の画像となり、ノードn1に含まれる画像は画像p1乃至p3の3枚の画像となる。また、ノードn2に含まれる画像は画像p2およびp3の2枚の画像となり、ノードn4に含まれる画像は画像p4およびp5の2枚の画像となる。
このように、画像が新たに挿入される毎に、撮影時刻の時間間隔のより小さい画像同士、または、撮影時刻と設定された時刻の時間間隔のより小さい画像とノードが、同じノードにぶらさがるように連結されていく。
撮影が繰り返し行われ、画像p6乃至p100がツリーに挿入されたときも同様にして処理が行われ、最終的に、ルートノードnrootに画像p1乃至p100が含まれる、図16に示されるような二分木構造が得られる。
次に、図17乃至図23を参照して、階層決定部52により行われるグループ化条件に基づくクラスタリングについて説明する。
階層決定部52においては、二分木構造内のそれぞれのノードが注目され、ノード内の全ての画像の撮影時刻の時間間隔の標準偏差sdが下式(1)により算出される。
Figure 0004577173
Nは画像の撮影時刻の時間間隔の数であり、「ノードに含まれる画像の数−1」で表される。tdnは、N個の時間間隔のうちの、時間的に先のものから見てn番目の時間間隔である。「 ̄」が付されたtdはノード内の時間間隔tdの平均値である。
また、注目するノードを親のノードとする子ノード間の時間間隔の偏差dev(子ノード間の時間間隔と、撮影時刻の時間間隔の平均との差の絶対値)が下式(2)により算出される。
Figure 0004577173
Nは画像の撮影時刻の時間間隔の数であり、「ノードに含まれる画像の数−1」で表される。tdcは子ノード間の時間間隔である。「 ̄」が付されたtdはノード内の時間間隔tdの平均値である。なお、子ノード間の時間間隔とは、注目するノードを親のノードとする2つの子ノードのうちの時間的に先の子ノードに含まれる時間的に最後の画像の撮影時刻と、時間的に後の子ノードに含まれる時間的に最初の画像の撮影時刻の時間間隔である。具体例については後述する。
さらに、式(2)により算出された偏差devの、式(1)により算出された標準偏差sdに対する比が、分割パラメータthとして、注目するノードに設定される。分割パラメータthは下式(3)で表され、注目するノードを親のノードとする子ノードを、それぞれ異なるクラスタに属するものとして分割するか否かを判断する基準となるパラメータである。
Figure 0004577173
ここで、上式により求められる値について図17を参照して具体的に説明する。
図17は、クラスタリング部51により作成された二分木構造全体のうちの一部の、図15と同じ範囲の構造を示す図である。
図17において、td1は、画像p1の撮影時刻と画像p2の撮影時刻の時間間隔であり、td2は、画像p2の撮影時刻と画像p3の撮影時刻の時間間隔である。また、td3は、画像p3の撮影時刻と画像p4の撮影時刻の時間間隔であり、td4は、画像p4の撮影時刻と画像p5の撮影時刻の時間間隔である。
例えば、図17のうちのルートノードに最も近いノードであるノードn3が注目されている場合、はじめに、式(1)にそれぞれの値が代入され、標準偏差sdは下式(4)で表される。また、撮影時刻の時間間隔の平均値は下式(5)で表される。
Figure 0004577173
Figure 0004577173
偏差devは下式(6)で表される。
Figure 0004577173
すなわち、注目するノードn3を親のノードとする2つの子ノードはノードn1とn4であり、そのうちの時間的に先のノードn1に含まれる時間的に最後の画像p3の撮影時刻と、時間的に後のノードn4に含まれる時間的に最初の画像4の撮影時刻の時間間隔td3がノードn1とノードn4の時間間隔であり、それが、ノードn3に注目したときの偏差devの算出に用いられる。
式(4)により算出された標準偏差sdと、式(6)により算出された偏差devから、ノードn3に注目したときの分割パラメータthが算出され、ノードn3に設定される。
以上のようにして全てのノードに対する分割パラメータの設定が終了したとき、階層決定部52においては、次に、グループ化条件としての閾値が設定される。
例えば、グループ化条件Aとして閾値aが設定され、グループ化条件Bとして閾値bが設定された場合、「a=3.0」、「b=2.6」などのように、「a>b」の条件を満たすときには、図18に示されるように、「グループ化条件Aにより規定されるクラスタ>グループ化条件Bにより規定されるクラスタ」となる(グループ化条件Aにより規定されるクラスタの中に、グループ化条件Bにより規定されるクラスタがいくつかできることになる)。
図18の例においては、対象となる画像全体が、グループ化条件Aによりグループg1とg2の2つのクラスタに分けられ、グループ化条件Bによりグループg3乃至g7の5つのクラスタに分けられている。
すなわち、後述するように、設定されている分割パラメータの値が閾値より大きい場合に、その分割パラメータが設定されているノードの部分がクラスタの境界部分となるから、閾値が大きいほど、そのノードの部分はクラスタの境界部分となりにくく、従って、全体として見たときにクラスタの粒度は粗くなる。反対に、閾値が小さいほど、そのノードの部分はクラスタの境界部分となりやすく、従って、全体として見たときにクラスタの粒度は細かくなる。
なお、ある画像の撮影時刻と、次に撮影された画像の撮影時刻の時間間隔が30分以上ある場合(時間間隔td>30min)や1日以上ある場合(時間間隔td>1day)、その時間間隔のある部分がクラスタの境界部分となるようなグループ化条件、いわば、1つのクラスタに含まれる画像の撮影時刻の時間間隔の上限を規定するようなグループ化条件が設定されるようにしてもよい。これにより、撮影時刻の時間間隔が30分、あるいは1日以上ある画像同士はそれぞれ異なるクラスタに含まれる画像となる。
グループ化条件としての閾値が設定された後、階層決定部52においては、次に、設定された閾値と、上述したようにしてそれぞれのノードに設定された分割パラメータthに基づいてそれぞれのノードに分割フラグが設定される。
例えば、分割パラメータthが、グループ化条件Aとして設定された閾値aを越えるノードには1の値のグループA分割フラグが設定され、閾値aを越えないノードには0の値のグループA分割フラグが設定される。
分割フラグとして1の値が設定されていることは、その分割フラグが設定されているノードを親のノードとする子ノード間の時間間隔が、注目しているノード内全体の画像の撮影時刻の時間間隔より比較的大きいことを表す。反対に、分割フラグとして0の値が設定されていることは、その分割フラグが設定されているノードを親のノードとする子ノード間の時間間隔が、注目しているノード内全体の画像の撮影時刻の時間間隔とあまり変わらないことを表す。
グループA分割フラグの値の設定が終了したとき、二分木構造内のノードが昇順で(葉から根の方向に順に)注目され、子ノードの時間間隔がノード内全体の画像の撮影時刻の時間間隔より比較的大きいノード、すなわち、グループA分割フラグとして1の値が設定されているノードを境界として画像が区切られ、グループ化条件Aによりクラスタが規定される。
図19はグループA分割フラグの設定の例を示す図である。
図19の例においては、ルートノードに最も近いノードであるノードn10には、ノードn11とn12がそれぞれ左右の子ノードとして連結され、ノードn11には、ノードn13とn14がそれぞれ左右の子ノードとして連結される。また、ノードn12には、ノードn15とn16がそれぞれ左右の子ノードとして連結され、ノードn14には、ノードn17とn18がそれぞれ左右の子ノードとして連結される。
また、図19の例においては、これらのノードのうちのノードn10,n11,n12,n14のそれぞれにグループA分割フラグとして1の値が設定されており、それらのノードの部分を境界として、太線で示されるようにクラスタが分けられる。
なお、図19の右方に示されるように、ノードn13は画像p1乃至p17を含むノードであり、ノードn17は画像p18乃至p30を含むノードである。また、ノードn18は画像p31乃至p68を含むノードであり、ノードn15は画像p69乃至p93を含むノードである。ノードn16は画像p94乃至p100を含むノードである。
従って、グループA分割フラグの値として1が設定されているノードの部分を境界としてクラスタが分けられた場合、いまクラスタリングの対象とされている画像p1乃至p100は、図20に示されるようなそれぞれのクラスタ(イベントクラスタA)に分けられる。
すなわち、ノードn13に含まれる画像p1乃至p17からクラスタA1が構成され、ノードn17に含まれる画像p18乃至p30からクラスタA2が構成される。
また、ノードn18に含まれる画像p31乃至p68からクラスタA3が構成され、ノードn15に含まれる画像p69乃至p93からクラスタA4が構成される。さらに、ノードn16に含まれる画像p94乃至p100からクラスタA5が構成される。
以上のようにしてグループ化条件Aに基づくクラスタリングが行われ、グループ化条件Aにより規定されるそれぞれのクラスタがどの範囲の画像を含むのかを表す情報、あるいは、それぞれの画像がどのクラスタに属するのかを表す情報などが、グループ化条件Aに基づくクラスタリング結果として取得される。
グループ化条件Aに基づくクラスタリングが行われたとき、同様にして、グループ化条件Bに基づくグループ分けが行われる。
すなわち、階層決定部52においては、分割パラメータthが、グループ化条件Bとして設定された閾値bを越えるノードには1の値のグループB分割フラグが設定され、閾値bを越えないノードには0の値のグループB分割フラグが設定される。
グループB分割フラグの値の設定が終了したとき、二分木構造内のノードが昇順で注目され、子ノードの時間間隔がノード内全体の画像の撮影時刻の時間間隔より比較的大きいノード、すなわち、グループB分割フラグとして1の値が設定されているノードを境界として画像が区切られ、グループ化条件Bによりクラスタが規定される。
図21はグループB分割フラグの設定の例を示す図である。
図21の例においては、ルートノードに最も近いノードであるノードn10には、ノードn11が左の子ノードとして連結され、ノードn11には、ノードn13とn14がそれぞれ左右の子ノードとして連結される。また、ノードn14には、ノードn17とn18がそれぞれ左右の子ノードとして連結され、ノードn17には、ノードn19とn20がそれぞれ左右の子ノードとして連結される。さらに、ノードn18には、ノードn21とn22がそれぞれ左右の子ノードとして連結され、ノードn19には、ノードn23とn24がそれぞれ左右の子ノードとして連結される。
また、図21の例においては、これらのノードのうちのノードn10,n11,n14,n17,n18,n19のそれぞれにグループB分割フラグとして1の値が設定されており、それらのノードの部分を境界として、太線で示されるようにクラスタが分けられる。
なお、図21の右側に示されるように、ノードn13は画像p1乃至p17を含むノードであり、ノードn23は画像p18乃至p21を含むノードである。また、ノードn24は画像p22乃至p26を含むノードであり、ノードn20は画像p27乃至p30を含むノードである。ノードn21は画像p31乃至p57を含むノードであり、ノードn22は画像p58乃至p68を含むノードである。
従って、グループB分割フラグの値として1が設定されているノードの部分を境界としてクラスタが分けられた場合、いまクラスタリングの対象とされている画像p1乃至p100のうちの画像p1乃至p68は、図22に示されるようなそれぞれのクラスタ(サブイベントクラスタB)に分けられる。
すなわち、ノードn13に含まれる画像p1乃至p17からクラスタB1が構成され、ノードn23に含まれる画像p18乃至p21からクラスタB2が構成される。
また、ノードn24に含まれる画像p22乃至p26からクラスタB3が構成され、ノードn20に含まれる画像p27乃至p30からクラスタB4が構成される。さらに、ノードn21に含まれる画像p31乃至p57からクラスタB5が構成され、ノードn22に含まれる画像p58乃至p68からクラスタB6が構成される。
以上のようにしてグループ化条件Bに基づくクラスタリングが行われ、グループ化条件Bにより規定されるそれぞれのクラスタがどの範囲の画像を含むのかを表す情報、あるいは、それぞれの画像がどのクラスタに属するのかを表す情報などが、グループ化条件Bに基づくクラスタリング結果として取得される。取得されたクラスタリング結果はクラスタDB37に出力され、記録される。
図23は、グループ化条件Aに基づくクラスタリング結果(図20)と、グループ化条件Bに基づくクラスタリング結果(図22)を重ねて示す図である。
図23に示されるように、複数のグループ化条件に基づいてグループ化が行われた場合、クラスタリング結果のクラスタは入れ子関係を有する。
図23の例においては、クラスタA1とクラスタB1は同じ範囲の画像を含むクラスタであり、クラスタA2にはクラスタB2乃至B4が含まれる。また、クラスタA3にはクラスタB5とB6が含まれる。
図23に示されるような関係をそれぞれのクラスタが有する場合、例えば、クラスタA2を表すフォルダの下位の階層のフォルダとして、クラスタB2乃至B4を表すフォルダがそれぞれ表示され、クラスタA3を表すフォルダの下位の階層のフォルダとして、クラスタB5とB6を表すフォルダがそれぞれ表示される。
以上のように、演算部35においては、階層的なクラスタリングと、分散に基づくクラスタリング(画像全体の撮影間隔の平均を基準としたクラスタリング)が行われる。これにより、単に撮影間隔の近い画像同士が同じクラスタに含まれるようにクラスタリングが行われるのではなく、時間間隔が揃っている画像同士が同じクラスタに含まれるようにクラスタリングが行われることになる。
従って、撮影間隔の近い画像同士が同じクラスタに含まれるようにクラスタリングを行う場合に較べて、ユーザ個人の主観に沿った形でクラスタリングを行うことが可能となる。
ユーザが欲しいイベントの単位を見分け、そのイベント単位でクラスタを作成するためには、撮影間隔そのものではなく、撮影の頻度に注目する必要があり、その頻度が変わった部分をクラスタの境界部分とすることで、得られるクラスタは、よりイベントの単位に近づくことになる。撮影の頻度を知るためには、それまで撮った画像全体(クラスタリングの対象の画像全体)を統計的に分析することが必要となり、そのための手法として、上述したような階層的なクラスタリングと、分散に基づくクラスタリングが採用される。
また、それぞれの画像が階層構造を有する形で管理されていることから、グループ化条件としての閾値を変更することによって、複数のクラスタを1つのクラスタに結合したり、1つのクラスタを複数のクラスタに分割したりするなどの、クラスタの再構成をユーザは容易に行うことができる。上述したように、閾値を高くすることによって、クラスタの粒度を粗くすること、すなわち、複数のクラスタを1つのクラスタに結合することができ、反対に、閾値を低くすることによって、クラスタの粒度を細かくすること、すなわち、1つのクラスタを複数のクラスタに分割することができる。
これにより、例えば、スライドショー再生によって画像を閲覧しているときに、ビデオでいうチャプタージャンプと同様に、イベント単位(イベントクラスタ単位)でジャンプしたり、イベント内をさらにサブイベントに分けてサブイベント単位(サブイベントクラスタ単位)でジャンプしたりすることが可能となる。
さらに、画像全体の撮影間隔の平均を基準としてクラスタリングが行われることにより、撮影スタイルの個人差を考慮することなくグループ化条件を設定することが可能となる。すなわち、ユーザが、あまり頻繁に撮らない撮影スタイルの人であっても、頻繁に撮る撮影スタイルの人であっても、個別のグループ化条件を設定しておく必要がない。
例えば、30分未満の間に撮影された画像を同じクラスタの画像とする場合、先の画像を撮影してから30分以上の間隔が空いてしまうと、先に撮影した画像と次に撮影した画像はそれぞれ別のクラスタの画像とされることから、ユーザが、頻繁に撮影しない撮影スタイルの人であるときには(30分以上の間隔を空けて撮影するスタイルの人であるときには)、旅行中に撮った画像が1枚ずつ別のクラスタの画像とされてしまったりすることになる。
一方、1日の間に撮影された画像を同じクラスタの画像とするように、クラスタリングの基準となる時間間隔の設定を長くすると、午前と午後で全く違うイベントで撮影を行ったにもかかわらず、撮影した画像が全て同じクラスタの画像とされてしまったりすることになる。画像全体の撮影間隔の平均を基準としてクラスタリングが行われることにより、ユーザ個人の撮影スタイルに応じた形でのクラスタリングが可能となるから、このようなことが回避される。
次に、以上のような構成を有するディジタルカメラ1の処理について説明する。
はじめに、図24のフローチャートを参照して、クラスタデータを生成するディジタルカメラ1の処理について説明する。
筐体上面に設けられるシャッターボタン12がユーザにより押されたとき、ステップS1において、キャプチャ部32は、カメラ部31を構成する撮像素子から供給された画像信号のA/D変換を行うことによって被写体を撮影し、撮影により得られた画像データをEXIFタグと対応付けて画像DB33に記録させる。
ステップS2において、タグ読み取り部34は、撮影された画像のEXIFタグから撮影時刻を取得し、取得した撮影時刻を演算部35に出力する。すなわち、この例は、1枚の画像が撮影される毎にクラスタリングが行われる場合の例を示している。
ステップS3において、演算部35のクラスタリング部51は、タグ読み取り部34から供給された撮影時刻と、クラスタDB37に記録されているクラスタデータに基づいて、クラスタリングの対象となる画像全体からなる二分木構造を図8乃至図16を参照して説明したようにして作成する。
ステップS4において、階層決定部52は、二分木構造の所定の階層にある1つのノードに注目し、ステップS5に進み、注目するノード内の全ての画像の撮影時刻の時間間隔の標準偏差sdを算出する。
ステップS6において、階層決定部52は、注目するノードを親のノードとする子ノード間の時間間隔の偏差devを算出する。
ステップS7において、階層決定部52は、ステップS6で算出した偏差devの、ステップS5で算出した標準偏差sdに対する比を算出し、算出した比を分割パラメータthとして、いま注目しているノードに記録する。
ステップS8において、階層決定部52は、二分木構造の全てのノードに注目したか否かを判定し、注目していないと判定した場合、ステップS4に戻り、注目するノードを切り替えてそれ以降の処理を繰り返す。
一方、階層決定部52は、ステップS8において、二分木構成の全てのノードに注目したと判定した場合、ステップS9に進み、グループ化条件としての閾値を設定する。同じ画像を対象として異なる粒度のクラスタを求める場合、ここでは、複数のグループ化条件が設定される。
ステップS10において、階層決定部52は、ステップS9で設定したグループ化条件としての閾値と、それぞれのノードに設定された分割パラメータthを比較し、例えば、分割パラメータthが閾値を越えるノードには1の値の分割フラグを設定し、閾値を越えないノードには0の値の分割フラグを設定する。グループ化条件が複数設定されている場合、それぞれのグループ化条件について分割パラメータの設定が行われる。
ステップS11において、階層決定部52は、二分木構造のそれぞれのノードに昇順で注目し、分割フラグに1の値が設定されているノードを境界としてクラスタを分け、それぞれのクラスタの範囲を表すクラスタデータを作成する。
ステップS12において、階層決定部52は、作成したクラスタデータをクラスタDB37に保存させ、処理を終了させる。
次に、図25のフローチャートを参照して、閲覧画面を表示させるディジタルカメラ1の処理について説明する。
ステップS21において、閲覧ビュー表示部39は、クラスタデータをクラスタDB37から読み出し、ステップS22に進み、読み出したクラスタデータにより規定されるクラスタに含まれる画像のデータを画像DB33から読み出す。
ステップS23において、閲覧ビュー表示部39は、クラスタDB37から読み出したクラスタデータに基づいて、それぞれのクラスタの階層構造を表示させるとともに、画像DB33から読み出したデータに基づいて、所定のフォルダに含まれる画像を一覧表示させる。
これにより、表示装置14には図6に示されるような閲覧画面が表示され、ユーザは、所定のフォルダを選択することによってクラスタ単位で画像を確認することができる。
以上においては、上述したようなクラスタリングがディジタルカメラ内で行われるものとしたが、そのようなクラスタリングは、ディジタルカメラ以外の各種の機器において行われるようにすることができる。例えば、フォトビュワー、携帯端末、携帯電話機、ゲーム機器、パーソナルコンピュータ、ポータブルオーディオプレーヤ、写真・映像保存鑑賞機器などの、画像閲覧機能を搭載した機器において行われるようにすることができる。
図26は、パーソナルコンピュータとディジタルカメラ1が接続されている状態を示す図である。
図26の例においては、ディジタルカメラ1はクレードル101に設置され、このクレードル101はケーブルを介してパーソナルコンピュータ111に接続されている。ディジタルカメラ1とパーソナルコンピュータ111間においては、クレードル101とケーブルを介して相互に通信を行うことができるようになされている。なお、クレードル101を介して接続されるのではなく、ディジタルカメラ1とパーソナルコンピュータ111がケーブルや無線により直接接続されるようにしてもよい。
ユーザがクレードル101に設けられる同期ボタン101Aを押したとき、ディジタルカメラ1内に記録されている画像データがパーソナルコンピュータ111により取り込まれる。このとき、画像データに対応付けられているEXIFタグもパーソナルコンピュータ111により取り込まれる。
画像とEXIFタグを取り込んだパーソナルコンピュータ111においては、それぞれの画像のEXIFタグに含まれる撮影時刻に基づいて、上述したようなクラスタリングが行われる。クラスタリングの結果であるクラスタデータは、ディジタルカメラ1に転送されたり、図6に示されるような閲覧画面をパーソナルコンピュータ111において表示させるために用いられる。
すなわち、パーソナルコンピュータ111においては、図7に示される機能部のうち、タグ読み取り部34、演算部35(クラスタリング部51、階層決定部52)、条件設定部36、クラスタDB37が、少なくとも実現される。
パーソナルコンピュータ111から転送されたクラスタデータを受信したディジタルカメラ1においては、適宜、パーソナルコンピュータ111により作成されたクラスタデータに基づいて、図6に示されるような閲覧画面の表示が行われる。これにより、ディジタルカメラ1にクラスタリングを行う機能が搭載されていない場合であっても、ディジタルカメラ1において閲覧画面の表示が可能となる。
図27は、図26のパーソナルコンピュータ111の構成例を示すブロック図である。
CPU121は、ROM122、または記憶部128に記録されているプログラムに従って各種の処理を実行する。RAM123には、CPU121が実行するプログラムやデータなどが適宜記録される。これらのCPU121、ROM122、およびRAM123は、バス124により相互に接続されている。
なお、CPU121として、”Cell誕生”、日経エレクトロニクス、日経BP社、2005年2月28日、89頁乃至117頁に記載されているCellを採用することができる。
CPU121にはまた、バス124を介して入出力インターフェース125が接続されている。入出力インターフェース125には、キーボード、マウス、マイクロホンなどよりなる入力部126、ディスプレイ、スピーカなどよりなる出力部127が接続されている。CPU121は、入力部126から入力される指令に対応して各種の処理を実行する。そして、CPU121は、処理の結果を出力部127に出力する。
入出力インターフェース125に接続されている記憶部128は、例えばハードディスクからなり、CPU121が実行するプログラムや各種のデータを記録する。通信部129は、ディジタルカメラ1との間で通信を行い、ディジタルカメラ1から取り込んだ画像データやEXIFタグをCPU121などに出力する。通信部129においては、インターネットやローカルエリアネットワークなどのネットワークを介した外部の装置との通信なども行われる。
入出力インターフェース125に接続されているドライブ130は、磁気ディスク、光ディスク、光磁気ディスク、或いは半導体メモリなどのリムーバブルメディア131が装着されたとき、それらを駆動し、そこに記録されているプログラムやデータなどを取得する。取得されたプログラムやデータは、必要に応じて記憶部128に転送され、記録される。
ここで、図28のフローチャートを参照して、ディジタルカメラ1から取り込んだデータに基づいてクラスタリングを行うパーソナルコンピュータ111の処理について説明する。
この処理は、例えば、ディジタルカメラ1が設置されたクレードル101の同期ボタン101Aがユーザにより押されたときにパーソナルコンピュータ111において起動されるアプリケーション、または、ユーザによる操作によってパーソナルコンピュータ111上で直接起動されたアプリケーションにより行われる。このアプリケーションにより、例えば、図7に示される機能部のうちの一部が実現される。
ステップS31において、CPU121は、通信部129を制御して、画像データとEXIFタグをディジタルカメラ1から取得する。
ステップS32において、CPU121(CPU121により実現されるタグ読み取り部34、演算部35、条件設定部36)は、画像のクラスタリングを行う。ここでは、例えば、図24を参照して説明したような処理がCPU121により行われ、クラスタデータが取得される。
ステップS33において、CPU121は、取得したクラスタデータを通信部129からディジタルカメラ1に送信させ、処理を終了させる。
このように、上述したようなクラスタリングは、ディジタルカメラ1以外の各種の機器において行われるようにすることができる。
なお、画像データの属性情報であるEXIFタグの拡張部分にクラスタデータが記述される場合、パーソナルコンピュータ111により得られたクラスタデータは、画像データのEXIFタグに記述された形で、画像データとともにディジタルカメラ1に転送されるようにしてもよい。
また、このようなクラスタリングが、ネットワークを介して接続されるサーバにより実行され、そのサーバにより、Web上でのクラスタリングサービスが提供されるようにしてもよい。
図29は、クラスタリングサービスを実現する構成の例を示す図である。
図29においては、ディジタルカメラ1とサーバ141がインターネットなどのネットワーク142を介して接続され、ディジタルカメラ1とサーバ141が通信を行うことができるようになされている。
例えば、ディジタルカメラ1のユーザが所定の操作を行ったとき、ディジタルカメラ1内に記録されている画像データに対応付けられているEXIFタグがネットワーク142を介してサーバ141に送信される。なお、EXIFタグだけでなく、画像データ自体もディジタルカメラ1からサーバ141に送信されるようにしてもよい。
ディジタルカメラ1から送信されたEXIFタグを受信したサーバ141においては、それぞれのEXIFタグに含まれる撮影時刻に基づいて、上述したようなクラスタリングが行われる。クラスタリングの結果であるクラスタデータは、ネットワーク142を介してディジタルカメラ1に送信され、ディジタルカメラ1上で図6に示されるような閲覧画面を表示させるために用いられる。
このように、ネットワーク142を介して接続されるサーバ141上でクラスタリングが行われ、EXIFタグをや画像データを送信してきた機器に対してクラスタリング結果がサーバ141から返されるようなクラスタリングサービスが実現されるようにしてもよい。
ここで、クラスタリング部51により行われる二分木構造の作成の他の例について図30乃至図37を参照して説明する。
ここでは、それぞれの画像を、撮影時刻順にではなくクラスタリングの対象とする場合について説明する。例えば、ディジタルカメラ1で撮影された画像のクラスタリングを図26のパーソナルコンピュータ111に行わせた後に、人からもらった画像などの、他のディジタルカメラで撮影された画像をもパーソナルコンピュータ111に取り込み、それらの画像全体をクラスタリングさせる場合などに、撮影時刻順にではなく、それぞれの画像を対象としたクラスタリングが行われる。
例えば、図9に示されるように、ノードn1の左の子ノードとして画像p1が連結され、右の子ノードとして画像p2が連結されている状態で、画像p1よりも新しく、画像p2より古い画像である画像p3がツリーに新たに挿入された場合、図30に示されるように、画像p1の撮影時刻と画像p3の撮影時刻の時間間隔tdp1p3が、画像p2の撮影時刻と画像p3の撮影時刻の時間間隔tdp2p3より大きいときには、図31に示されるように、ノードn2が新たに作られる。ノードn2には、その左の子ノードとして画像p3が連結され、右の子ノードとして画像p2が連結される。また、ノードn2が、画像p2の代わりに右の子ノードとしてノードn1に連結される。
ノードn2の最小時刻として画像p3の撮影時刻が記録され、最大時刻として画像p2の撮影時刻が記録される。このとき、ノードn2の親のノードであるノードn1の最小時刻と最大時刻に変更はない(最小時刻は画像p1の撮影時刻、最大時刻は画像p2の撮影時刻のままとなる)。
一方、図9に示されるように、ノードn1の左の子ノードとして画像p1が連結され、右の子ノードとして画像p2が連結されている状態で、画像p1よりも新しく、画像p2より古い画像である画像p3がツリーに新たに挿入され、図32に示されるように、画像p1の撮影時刻と画像p3の撮影時刻の時間間隔tdp1p3が、画像p2の撮影時刻と画像p3の撮影時刻の時間間隔tdp2p3より小さいとき、図33に示されるように、ノードn2が新たに作られる。ノードn2には、その左の子ノードとして画像p1が連結され、右の子ノードとして画像p3が連結される。また、ノードn2が、画像p1の代わりに左の子ノードとしてノードn1に連結される。
ノードn2の最小時刻として画像p1の撮影時刻が記録され、最大時刻として画像p3の撮影時刻が記録される。このとき、ノードn2の親のノードであるノードn1の最小時刻と最大時刻に変更はない(最小時刻は画像p1の撮影時刻、最大時刻は画像p2の撮影時刻のままとなる)。
また、図9に示されるように、ノードn1の左の子ノードとして画像p1が連結され、右の子ノードとして画像p2が連結されている状態で、画像p1よりも古い画像である画像p3がツリーに新たに挿入された場合、図34に示されるように、画像p1の撮影時刻と画像p3の撮影時刻の時間間隔tdp1p3が、画像p1の撮影時刻と画像p2の撮影時刻の時間間隔tdp1p2より小さいときには、図35に示されるように、ノードn2が新たに作られる。ノードn2には、その左の子ノードとして画像p3が連結され、右の子ノードとして画像p1が連結される。また、ノードn2が、画像p1の代わりに左の子ノードとしてノードn1に連結される。
ノードn2の最小時刻として画像p3の撮影時刻が記録され、最大時刻として画像p1の撮影時刻が記録される。このとき、ノードn2の親のノードであるノードn1の最小時刻が画像p3の撮影時刻で上書きされる。ノードn1の最大時刻に変更はない(最大時刻は画像p2の撮影時刻のままとなる)。
一方、図9に示されるように、ノードn1の左の子ノードとして画像p1が連結され、右の子ノードとして画像p2が連結されている状態で、画像p1よりも古い画像である画像p3がツリーに新たに挿入され、図36に示されるように、画像p1の撮影時刻と画像p3の撮影時刻の時間間隔tdp1p3が、画像p1の撮影時刻と画像p2の撮影時刻の時間間隔tdp1p2より大きいときには、図37に示されるように、ノードn2が新たにルートノードとして作られる。また、ノードn2には、その左の子ノードとして画像p3が連結され、右の子ノードとしてノードn1が連結される。
ノードn2の最小時刻として画像p3の撮影時刻が記録され、最大時刻として画像p2の撮影時刻が記録される。このとき、ノードn1の最小時刻と最大時刻に変更はない(最小時刻は画像p1の撮影時刻、最大時刻は画像p2の撮影時刻のままとなる)。
画像p4以降が新たに挿入された場合も同様に、その画像p4が、クラスタリングが既に行われた画像の中で最も新しい画像である場合には、図8乃至図16を参照して説明したような処理が行われ、それ以外の場合には、図30乃至図37を参照して説明した処理が行われる。
以上においては、画像DB33に記録されている画像全体がクラスタリングの対象とされるものとしたが、画像DB33に記録されている画像のうちの一部の画像を対象としてクラスタリングが行われるようにしてもよい。
また、以上においては、クラスタリングの対象となる画像が静止画である場合について説明したが、動画を対象としてクラスタリングが行われるようにすることもできる。この場合、クラスタリングに用いられる時刻情報には、例えば、それぞれの動画に属性情報として付加された撮影開始時刻の情報が用いられる。
さらに、静止画や動画に限られず、時刻情報を属性情報として有する各種の情報を対象としてクラスタリングが行われるようにすることもできる。例えば、パーソナルコンピュータ上で扱われるテキストファイル、オーディオファイルなどには、それぞれ作成時刻や更新時刻の情報が属性情報として付加されているから、これらの時刻情報を用いることによっても、上述したようなクラスタリングを行うことができる。
上述した一連の処理は、ハードウエアにより実行させることもできるし、ソフトウエアにより実行させることもできる。一連の処理をソフトウエアにより実行させる場合には、そのソフトウエアを構成するプログラムが、専用のハードウエアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどに、プログラム記録媒体からインストールされる。
コンピュータにインストールされ、コンピュータによって実行可能な状態とされるプログラムを格納するプログラム記録媒体は、図27に示すように、磁気ディスク(フレキシブルディスクを含む)、光ディスク(CD-ROM(Compact Disc-Read Only Memory),DVD(Digital Versatile Disc)を含む)、光磁気ディスク、もしくは半導体メモリなどよりなるパッケージメディアであるリムーバブルメディア131、または、プログラムが一時的もしくは永続的に格納されるROM122や、記憶部128を構成するハードディスクなどにより構成される。プログラム記録媒体へのプログラムの格納は、必要に応じてルータ、モデムなどのインターフェースである通信部129を介して、ローカルエリアネットワーク、インターネット、ディジタル衛星放送といった、有線または無線の通信媒体を利用して行われる。
なお、本明細書において、プログラム記録媒体に格納されるプログラムを記述するステップは、記載された順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。
本発明の一実施形態に係るディジタルカメラの正面側の外観の例を示す図である。 本発明の一実施形態に係るディジタルカメラの背面側の外観の例を示す図である。 クラスタの例を示す図である。 階層構造の例を示す図である。 画像の閲覧順序について説明する図である。 閲覧画面の表示例を示す図である。 ディジタルカメラの機能構成例を示すブロック図である。 二分木構造の作成について説明する図である。 二分木構造の作成について説明する図8に続く図である。 二分木構造の作成について説明する図9に続く図である。 二分木構造の作成について説明する図10に続く図である。 二分木構造の作成について説明する図11に続く図である。 二分木構造の作成について説明する図12に続く図である。 二分木構造の作成について説明する図13に続く図である。 二分木構造の作成について説明する図14に続く図である。 二分木構造の作成について説明する図15に続く図である。 グループ化条件に基づくクラスタリングについて説明する図である。 クラスタの粒度の例を示す図である。 グループA分割フラグの設定の例を示す図である。 グループ化条件Aに基づくクラスタリング結果の例を示す図である。 グループB分割フラグの設定の例を示す図である。 グループ化条件Bに基づくクラスタリング結果の例を示す図である。 クラスタの入れ子関係を示す図である。 ディジタルカメラのクラスタデータ生成処理について説明するフローチャートである。 ディジタルカメラの閲覧画面表示制御処理について説明するフローチャートである。 パーソナルコンピュータとディジタルカメラが接続されている状態を示す図である。 パーソナルコンピュータの構成例を示すブロック図である。 パーソナルコンピュータのクラスタリング処理について説明する図である。 クラスタリングサービスを実現する構成の例を示す図である。 二分木構造の作成について説明する図である。 二分木構造の作成について説明する図30に続く図である。 二分木構造の作成について説明する図31に続く図である。 二分木構造の作成について説明する図32に続く図である。 二分木構造の作成について説明する図33に続く図である。 二分木構造の作成について説明する図34に続く図である。 二分木構造の作成について説明する図35に続く図である。 二分木構造の作成について説明する図36に続く図である。
符号の説明
1 ディジタルカメラ, 21 中央演算装置, 24 記録装置, 14 表示装置, 31 カメラ部, 32 キャプチャ部, 33 画像DB, 34 タグ読み取り部, 35 演算部, 36 条件設定部, 37 クラスタDB, 38 イベント名設定部, 39 閲覧ビュー表示部, 51 クラスタリング部, 52 階層決定部, 111 パーソナルコンピュータ

Claims (7)

  1. 撮影時刻の情報を属性情報として有する複数の画像データを取得する取得手段と、
    前記属性情報により表される、前記取得手段により取得された前記複数の画像データのそれぞれの撮影時刻に基づいて、撮影順で連続する、撮影時刻の時間間隔の最も短い2つの画像データが接続される第1のノードと、前記第1のノードとともに、前記第1のノードに属する2つの画像データのうちの撮影順で前の画像データの直前に撮影された画像データ、または撮影順で後の画像データの直後に撮影された画像データが接続される第2のノードと、前記第1のノードまたは前記第2のノードである他のノードが子のノードとして2つ接続される第3のノードとが、それぞれ複数接続されることによって構成される二分木構造を表す情報を作成し、作成した情報により表される前記二分木構造に含まれるそれぞれの前記第3のノードに注目し、注目する前記第3のノードに属する撮影順で連続する画像データ同士の撮影時刻の時間間隔の標準偏差を、前記属性情報により表されるそれぞれの画像データの撮影時刻に基づいて算出し、注目する前記第3のノードの2つの子のノードである第1の子のノード、前記第1の子のノードに属する画像データより後に撮影された画像データが属する第2の子のノードのうちの、前記第1の子のノードに属する撮影順で最後の画像データの撮影時刻と前記第2の子のノードに属する撮影順で最初の画像データの撮影時刻の時間間隔と、注目する前記第3のノードに属する撮影順で連続する画像データ同士の撮影時刻の時間間隔の平均との差の絶対値として求められる偏差を、前記属性情報により表されるそれぞれの画像データの撮影時刻に基づいて算出し、算出した前記偏差を前記標準偏差で除算し、除算結果の値が閾値より大きい場合には前記第1の子のノードに属する画像データと前記第2の子のノードに属する画像データがそれぞれ異なるグループの画像データになるように、前記除算結果の値が閾値より小さい場合には前記第1の子のノードに属する画像データと前記第2の子のノードに属する画像データが同じグループの画像データになるように、前記複数の画像データのグループ分けを行い、グループ分けの結果を表す情報を作成する演算手段と
    を備える情報処理装置。
  2. 前記演算手段は、複数の前記閾値を用いて、前記取得手段により取得された同じ前記複数の画像データを対象として粒度の異なるグループ分けの結果を求める
    請求項1に記載の情報処理装置。
  3. 前記演算手段により求められたグループ分けの結果に基づいて、同じグループに属する画像データを一覧表示させる表示制御手段をさらに備える
    請求項1に記載の情報処理装置。
  4. 前記表示制御手段は、さらに、それぞれのグループを1つのフォルダとして表示させ、表示させたフォルダの中からユーザにより選択されたフォルダにより表されるグループに属する画像データを一覧表示させる
    請求項3に記載の情報処理装置。
  5. 前記フォルダの名前として、ユーザにより入力された名前、または、グループに属する画像データが有する属性情報から得られる名前を設定する設定手段をさらに備える
    請求項4に記載の情報処理装置。
  6. 撮影時刻の情報を属性情報として有する複数の画像データを取得し、
    前記属性情報により表される、取得した前記複数の画像データのそれぞれの撮影時刻に基づいて、撮影順で連続する、撮影時刻の時間間隔の最も短い2つの画像データが接続される第1のノードと、前記第1のノードとともに、前記第1のノードに属する2つの画像データのうちの撮影順で前の画像データの直前に撮影された画像データ、または撮影順で後の画像データの直後に撮影された画像データが接続される第2のノードと、前記第1のノードまたは前記第2のノードである他のノードが子のノードとして2つ接続される第3のノードとが、それぞれ複数接続されることによって構成される二分木構造を表す情報を作成し、
    作成した情報により表される前記二分木構造に含まれるそれぞれの前記第3のノードに注目し
    注目する前記第3のノードに属する撮影順で連続する画像データ同士の撮影時刻の時間間隔の標準偏差を、前記属性情報により表されるそれぞれの画像データの撮影時刻に基づいて算出し、
    注目する前記第3のノードの2つの子のノードである第1の子のノード、前記第1の子のノードに属する画像データより後に撮影された画像データが属する第2の子のノードのうちの、前記第1の子のノードに属する撮影順で最後の画像データの撮影時刻と前記第2の子のノードに属する撮影順で最初の画像データの撮影時刻の時間間隔と、注目する前記第3のノードに属する撮影順で連続する画像データ同士の撮影時刻の時間間隔の平均との差の絶対値として求められる偏差を、前記属性情報により表されるそれぞれの画像データの撮影時刻に基づいて算出し、
    算出した前記偏差を前記標準偏差で除算し、
    除算結果の値が閾値より大きい場合には前記第1の子のノードに属する画像データと前記第2の子のノードに属する画像データがそれぞれ異なるグループの画像データになるように、前記除算結果の値が閾値より小さい場合には前記第1の子のノードに属する画像データと前記第2の子のノードに属する画像データが同じグループの画像データになるように、前記複数の画像データのグループ分けを行い、
    グループ分けの結果を表す情報を作成する
    ステップを含む情報処理方法。
  7. 撮影時刻の情報を属性情報として有する複数の画像データを取得し、
    前記属性情報により表される、取得した前記複数の画像データのそれぞれの撮影時刻に基づいて、撮影順で連続する、撮影時刻の時間間隔の最も短い2つの画像データが接続される第1のノードと、前記第1のノードとともに、前記第1のノードに属する2つの画像データのうちの撮影順で前の画像データの直前に撮影された画像データ、または撮影順で後の画像データの直後に撮影された画像データが接続される第2のノードと、前記第1のノードまたは前記第2のノードである他のノードが子のノードとして2つ接続される第3のノードとが、それぞれ複数接続されることによって構成される二分木構造を表す情報を作成し、
    作成した情報により表される前記二分木構造に含まれるそれぞれの前記第3のノードに注目し
    注目する前記第3のノードに属する撮影順で連続する画像データ同士の撮影時刻の時間間隔の標準偏差を、前記属性情報により表されるそれぞれの画像データの撮影時刻に基づいて算出し、
    注目する前記第3のノードの2つの子のノードである第1の子のノード、前記第1の子のノードに属する画像データより後に撮影された画像データが属する第2の子のノードのうちの、前記第1の子のノードに属する撮影順で最後の画像データの撮影時刻と前記第2の子のノードに属する撮影順で最初の画像データの撮影時刻の時間間隔と、注目する前記第3のノードに属する撮影順で連続する画像データ同士の撮影時刻の時間間隔の平均との差の絶対値として求められる偏差を、前記属性情報により表されるそれぞれの画像データの撮影時刻に基づいて算出し、
    算出した前記偏差を前記標準偏差で除算し、
    除算結果の値が閾値より大きい場合には前記第1の子のノードに属する画像データと前記第2の子のノードに属する画像データがそれぞれ異なるグループの画像データになるように、前記除算結果の値が閾値より小さい場合には前記第1の子のノードに属する画像データと前記第2の子のノードに属する画像データが同じグループの画像データになるように、前記複数の画像データのグループ分けを行い、
    グループ分けの結果を表す情報を作成する
    ステップを含む処理をコンピュータに実行させるプログラム。
JP2005283369A 2005-09-29 2005-09-29 情報処理装置および方法、並びにプログラム Expired - Fee Related JP4577173B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2005283369A JP4577173B2 (ja) 2005-09-29 2005-09-29 情報処理装置および方法、並びにプログラム
EP06120900A EP1770599A3 (en) 2005-09-29 2006-09-19 Information processing apparatus and method, and program used therewith
US11/523,515 US7693870B2 (en) 2005-09-29 2006-09-20 Information processing apparatus and method, and program used therewith
KR1020060093316A KR20070036677A (ko) 2005-09-29 2006-09-26 정보 처리 장치 및 방법, 및 프로그램
CNB2006101524495A CN100429660C (zh) 2005-09-29 2006-09-29 信息处理装置和方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005283369A JP4577173B2 (ja) 2005-09-29 2005-09-29 情報処理装置および方法、並びにプログラム

Publications (2)

Publication Number Publication Date
JP2007094762A JP2007094762A (ja) 2007-04-12
JP4577173B2 true JP4577173B2 (ja) 2010-11-10

Family

ID=37441795

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005283369A Expired - Fee Related JP4577173B2 (ja) 2005-09-29 2005-09-29 情報処理装置および方法、並びにプログラム

Country Status (5)

Country Link
US (1) US7693870B2 (ja)
EP (1) EP1770599A3 (ja)
JP (1) JP4577173B2 (ja)
KR (1) KR20070036677A (ja)
CN (1) CN100429660C (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2012169135A1 (en) 2011-06-08 2012-12-13 Sony Corporation Information processing device, information processing method and computer program product
WO2014034266A1 (ja) 2012-09-03 2014-03-06 ソニー株式会社 情報処理装置、情報処理方法、およびプログラム

Families Citing this family (43)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007122110A (ja) * 2005-10-25 2007-05-17 Fujifilm Corp 画像分類装置および方法並びにプログラム
US8326775B2 (en) * 2005-10-26 2012-12-04 Cortica Ltd. Signature generation for multimedia deep-content-classification by a large-scale matching system and method thereof
US8392415B2 (en) * 2005-12-12 2013-03-05 Canon Information Systems Research Australia Pty. Ltd. Clustering of content items
JP4987538B2 (ja) * 2007-03-29 2012-07-25 富士フイルム株式会社 アルバム作成装置、方法およびプログラム
JP5344517B2 (ja) 2007-03-30 2013-11-20 サントリーホールディングス株式会社 小胞体局在化シグナル付スフィンゴリピッドδ4−デサチュラーゼを用いた形質転換細胞におけるセラミドの製造方法
JP5287716B2 (ja) * 2007-04-13 2013-09-11 日本電気株式会社 写真グループ化装置、写真グループ化方法、および写真グループ化用プログラム
JP4564512B2 (ja) * 2007-04-16 2010-10-20 富士通株式会社 表示装置、表示プログラム、および表示方法
JP2008271417A (ja) * 2007-04-24 2008-11-06 Fujitsu Ten Ltd 画像調整方法
US8094948B2 (en) * 2007-04-27 2012-01-10 The Regents Of The University Of California Photo classification using optical parameters of camera from EXIF metadata
US8335384B2 (en) 2007-09-27 2012-12-18 JVC Kenwood Corporation Apparatus for and method of processing image information to group image data pieces based on shooting intervals
JP5167970B2 (ja) * 2007-09-27 2013-03-21 株式会社Jvcケンウッド 画像情報処理装置、画像情報処理方法、および画像情報処理用プログラム
JP4911008B2 (ja) * 2007-12-11 2012-04-04 株式会社Jvcケンウッド 画像データ記録装置および画像データ再生装置
KR101434564B1 (ko) 2008-02-13 2014-08-29 삼성전자 주식회사 촬영 정보 자동 추출 시스템 및 방법
JP5213164B2 (ja) * 2008-03-11 2013-06-19 株式会社ニコンシステム 画像評価装置
US8832598B2 (en) * 2008-05-09 2014-09-09 Ricoh Company, Limited File management apparatus, file management method, and computer program product
JP5077177B2 (ja) * 2008-09-30 2012-11-21 ソニー株式会社 情報処理装置、及びデータ伝送方法
JP2010087796A (ja) * 2008-09-30 2010-04-15 Sony Corp 撮像装置、及び撮像装置におけるデータ伝送方法
US8611677B2 (en) * 2008-11-19 2013-12-17 Intellectual Ventures Fund 83 Llc Method for event-based semantic classification
JP5523122B2 (ja) * 2009-03-16 2014-06-18 キヤノン株式会社 画像管理装置、方法及びプログラム
JP4854757B2 (ja) * 2009-04-02 2012-01-18 株式会社エヌ・ティ・ティ・ドコモ 携帯情報端末
WO2011007418A1 (ja) * 2009-07-14 2011-01-20 株式会社ビジョナリスト 画像データ表示システム及び画像データ表示プログラム
JP5446799B2 (ja) * 2009-12-04 2014-03-19 ソニー株式会社 情報処理装置、情報処理方法およびプログラム
US20110239163A1 (en) * 2009-12-04 2011-09-29 Daisuke Mochizuki Display screen control method, graphical user interface, information processing apparatus, information processing method, and program
TW201128566A (en) * 2010-02-06 2011-08-16 Chi Mei Comm Systems Inc Image processing system and method
CN101841530A (zh) * 2010-03-12 2010-09-22 北京工业大学 基于信任和本体论的隐私信息保护方法
CN101901211A (zh) * 2010-07-06 2010-12-01 北京科技大学 报表的处理方法
CN101894100A (zh) * 2010-07-06 2010-11-24 北京科技大学 报表的处理装置和系统
US9223783B2 (en) * 2010-08-08 2015-12-29 Qualcomm Incorporated Apparatus and methods for managing content
JP5083393B2 (ja) * 2010-09-16 2012-11-28 カシオ計算機株式会社 画像表示装置及びプログラム
JP5594532B2 (ja) * 2010-11-09 2014-09-24 ソニー株式会社 情報処理装置および方法、情報処理システム、並びに、プログラム
JP5699595B2 (ja) * 2010-12-24 2015-04-15 株式会社ニコン 画像処理装置、画像分類プログラム、及び、画像表示プログラム
JP5648473B2 (ja) 2010-12-27 2015-01-07 ソニー株式会社 電子機器、表示制御方法およびプログラム
JP5747678B2 (ja) 2011-06-17 2015-07-15 ソニー株式会社 情報処理装置、情報処理方法およびプログラム
CN103548041B (zh) * 2011-06-28 2016-06-29 国际商业机器公司 用于确定主观层级聚类中的每个特征的权重的信息处理装置、方法和程序
US9497249B2 (en) * 2011-08-08 2016-11-15 Sony Corporation Information processing apparatus, information processing method, program, and information processing system
JP5234206B2 (ja) * 2012-05-30 2013-07-10 ソニー株式会社 画像表示制御方法、画像表示装置及びプログラム
JP6116168B2 (ja) * 2012-09-14 2017-04-19 キヤノン株式会社 情報処理装置およびその方法
JP6081323B2 (ja) * 2013-09-05 2017-02-15 富士フイルム株式会社 イベントの撮像画像配置装置ならびにその制御方法およびその制御プログラム
TWI528197B (zh) * 2013-09-26 2016-04-01 財團法人資訊工業策進會 相片分群系統及相片分群方法與電腦可讀取記錄媒體
JP6381208B2 (ja) * 2013-12-26 2018-08-29 キヤノン株式会社 画像再生装置、画像再生方法、およびプログラム
CN105376651B (zh) * 2014-08-29 2018-10-19 北京金山安全软件有限公司 一种生成视频幻灯片的方法及装置
JP6465773B2 (ja) * 2015-08-07 2019-02-06 キヤノン株式会社 情報処理装置およびその制御方法、並びにプログラム
US10534671B1 (en) * 2016-06-28 2020-01-14 EMC IP Holding Company LLC Container image layer compaction

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000112997A (ja) * 1998-09-30 2000-04-21 Eastman Kodak Co 画像をイベントに自動的に分類する方法
JP2001228528A (ja) * 2000-02-18 2001-08-24 Fuji Photo Film Co Ltd 画像撮影装置、画像処理装置、及び画像管理方法
JP2003303211A (ja) * 2002-04-12 2003-10-24 Fuji Photo Film Co Ltd 画像表示制御装置
JP2003330942A (ja) * 2002-05-10 2003-11-21 Minolta Co Ltd ディジタルデータ検索装置

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3246384B2 (ja) 1997-03-13 2002-01-15 株式会社日立製作所 画像記録装置および画像記録方法
US6360227B1 (en) * 1999-01-29 2002-03-19 International Business Machines Corporation System and method for generating taxonomies with applications to content-based recommendations
JP3972527B2 (ja) 1999-08-06 2007-09-05 カシオ計算機株式会社 撮像装置及びフォルダの自動作成方法
JP4089097B2 (ja) 1999-08-09 2008-05-21 カシオ計算機株式会社 データ保存装置及びデータ記憶方法
US6862038B1 (en) * 2000-02-11 2005-03-01 Ipac Acquisition Subsidiary I, Llc Efficient image categorization
JP3982605B2 (ja) 2000-09-29 2007-09-26 カシオ計算機株式会社 撮影画像管理装置、撮影画像管理方法及び撮影画像管理プログラム
US6782377B2 (en) * 2001-03-30 2004-08-24 International Business Machines Corporation Method for building classifier models for event classes via phased rule induction
US7130864B2 (en) * 2001-10-31 2006-10-31 Hewlett-Packard Development Company, L.P. Method and system for accessing a collection of images in a database
JP3914747B2 (ja) * 2001-11-07 2007-05-16 オリンパス株式会社 画像検索装置
JP4061206B2 (ja) * 2002-03-11 2008-03-12 富士フイルム株式会社 代表画像生成装置
JP2003298991A (ja) 2002-03-29 2003-10-17 Fuji Photo Film Co Ltd 画像整理方法および装置並びにプログラム
AU2002345519A1 (en) * 2002-07-09 2004-02-02 Centre National De La Recherche Scientifique Annotation of digital images using text
JP2004120420A (ja) * 2002-09-26 2004-04-15 Fuji Photo Film Co Ltd 画像整理装置およびプログラム
KR100770637B1 (ko) * 2002-12-12 2007-10-29 후지필름 가부시키가이샤 디지털 카메라
JP2004355493A (ja) * 2003-05-30 2004-12-16 Canon Inc 画像処理装置
US7680340B2 (en) * 2003-11-13 2010-03-16 Eastman Kodak Company Method of using temporal context for image classification
JP4457660B2 (ja) * 2003-12-12 2010-04-28 パナソニック株式会社 画像分類装置、画像分類システム、画像分類に関するプログラム、およびそのプログラムを記録したコンピュータ読み取り可能な記録媒体
US7653249B2 (en) * 2004-11-17 2010-01-26 Eastman Kodak Company Variance-based event clustering for automatically classifying images
US20060294096A1 (en) * 2005-06-22 2006-12-28 Eastman Kodak Company Additive clustering of images into events using capture date-time information

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000112997A (ja) * 1998-09-30 2000-04-21 Eastman Kodak Co 画像をイベントに自動的に分類する方法
JP2001228528A (ja) * 2000-02-18 2001-08-24 Fuji Photo Film Co Ltd 画像撮影装置、画像処理装置、及び画像管理方法
JP2003303211A (ja) * 2002-04-12 2003-10-24 Fuji Photo Film Co Ltd 画像表示制御装置
JP2003330942A (ja) * 2002-05-10 2003-11-21 Minolta Co Ltd ディジタルデータ検索装置

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2012169135A1 (en) 2011-06-08 2012-12-13 Sony Corporation Information processing device, information processing method and computer program product
WO2014034266A1 (ja) 2012-09-03 2014-03-06 ソニー株式会社 情報処理装置、情報処理方法、およびプログラム

Also Published As

Publication number Publication date
CN1940936A (zh) 2007-04-04
EP1770599A2 (en) 2007-04-04
KR20070036677A (ko) 2007-04-03
US7693870B2 (en) 2010-04-06
EP1770599A3 (en) 2008-04-02
JP2007094762A (ja) 2007-04-12
US20070081088A1 (en) 2007-04-12
CN100429660C (zh) 2008-10-29

Similar Documents

Publication Publication Date Title
JP4577173B2 (ja) 情報処理装置および方法、並びにプログラム
JP4232774B2 (ja) 情報処理装置および方法、並びにプログラム
US11386140B2 (en) Story album display method and apparatus
JP4228320B2 (ja) 画像処理装置および方法、並びにプログラム
JP5289151B2 (ja) データ管理装置、その制御方法及びプログラム
JP2013225327A (ja) カメラへのユーザ入力に基づく画像値インデックス
US9277089B2 (en) Method to control image processing apparatus, image processing apparatus, and image file
JP2010506297A (ja) 画像レコードアクセス用異分類クラスタランキング
JP4901258B2 (ja) カメラ及びデータ表示方法
JP2005196529A (ja) 画像分類プログラム
KR20100101960A (ko) 디지털 카메라, 사진 분류 시스템 및 방법
JP2007235238A (ja) 代表画像選択装置および代表画像選択方法
JP6397253B2 (ja) 情報処理装置、情報処理装置の制御方法及び制御プログラム
JP6757449B2 (ja) 情報処理装置、情報処理装置の制御方法及び制御プログラム
JP4920534B2 (ja) スライドショー生成システム及びこのシステムを有するカメラ
JP2006350546A (ja) 情報処理装置、画像分類方法、および情報処理システム
JP5651975B2 (ja) 画像閲覧装置およびカメラ
JP5253590B2 (ja) 画像処理装置及びカメラ
JP5536003B2 (ja) 動画編集装置、動画編集方法、およびプログラム
JP5369881B2 (ja) 画像分類装置、画像分類方法及びそのプログラム
JP6550180B2 (ja) 情報処理装置、情報処理装置の制御方法及び制御プログラム
JP2017184021A (ja) コンテンツ提供装置及びコンテンツ提供プログラム
JP5387246B2 (ja) コンテンツ表示装置およびコンテンツ表示プログラム

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090728

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090918

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20100323

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100622

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20100701

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100727

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100809

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130903

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130903

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees