JP6738017B2 - 情報処理装置及びグループ化プログラム - Google Patents

情報処理装置及びグループ化プログラム Download PDF

Info

Publication number
JP6738017B2
JP6738017B2 JP2016156329A JP2016156329A JP6738017B2 JP 6738017 B2 JP6738017 B2 JP 6738017B2 JP 2016156329 A JP2016156329 A JP 2016156329A JP 2016156329 A JP2016156329 A JP 2016156329A JP 6738017 B2 JP6738017 B2 JP 6738017B2
Authority
JP
Japan
Prior art keywords
grouping
similarity
information processing
photograph
threshold
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2016156329A
Other languages
English (en)
Other versions
JP2018025910A (ja
Inventor
泰文 中村
泰文 中村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Client Computing Ltd
Original Assignee
Fujitsu Client Computing Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Client Computing Ltd filed Critical Fujitsu Client Computing Ltd
Priority to JP2016156329A priority Critical patent/JP6738017B2/ja
Publication of JP2018025910A publication Critical patent/JP2018025910A/ja
Application granted granted Critical
Publication of JP6738017B2 publication Critical patent/JP6738017B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Processing Or Creating Images (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Image Analysis (AREA)

Description

本発明は、情報処理装置及びグループ化プログラムに関する。
近年の、Information and Communication Technology(ICT:情報通信技術)の発展に伴い、撮影機能を備える情報処理装置やデジタルカメラが普及してきている。撮影機能を備える情報処理装置として、例えば、携帯電話、スマートフォン、Personal Computer
(PC)、ノートPC、タブレットPC、Personal Data Assistance(PDA)、ゲーム機等が例示される。上記情報処理装置やデジタルカメラの普及により、例えば、一般的な家庭においても、利用者(以下、ユーザとも称す)の関連する記念的なイベント時に限定されることなく、日常生活の中の些細な出来事を写真に記録する機会が増えてきている。
また、撮影技術の発展に伴い、シャッターボタンを押下している間、被写体の写真を100msといった所定間隔で撮影する連写機能の性能も向上してきている。例えば、表示デバイス面に接触させた指等の接触位置を検出するタッチパネル機能を有する上記情報処理装置においては、シャッターボタンをGraphical User Interface(GUI)部品として表示デバイス上に表示することができる。上記情報処理装置においては、表示デバイス上に表示されたシャッターボタンのGUI部品に指等を重畳させている間に被写体の連写撮影が可能になるため、ユーザの連写機能を用いた撮影機会の頻度も高まる傾向にある。
デジタルカメラや上記情報処理装置で撮影された写真は、メモリといった記録媒体上のデジタルデータとして保存できる。また、メモリ等に保存されたデジタルデータは、例えば、写真を撮影したデジタルカメラや上記情報処理装置を介して何時でも閲覧可能である。従来のフィルム式カメラと比較すると、デジタルカメラや上記情報処理装置で撮影された写真は、物理的な容積を取らず、撮影された画像データの閲覧・保存のためのコストも低い。デジタルカメラや上記情報処理装置のユーザは、気になる撮影機会に遭遇した場合には、遭遇した撮影機会に対する写真を手軽に撮影するようになってきている。この結果、デジタルカメラや上記情報処理装置で撮影された写真のデータ量は増大することになる。ユーザにおいては、例えば、メモリ上に保存・蓄積された写真を表示する一覧表示画面のスクロール操作を頻繁に繰り返し、所望の写真を検索した上で閲覧するといった手間が生じていた。
上記の手間を改善する先行技術として、連写された写真や同じ撮影場面で撮影された写真をグループ化し、該グループ化された写真を纏めて管理する、以下の特許文献1−4が存在している。
特開2000−112997号公報 特開2006−246209号公報 特開2012−138679号公報 特開2010−246090号公報
グループ化の手法として、例えば、撮影された画像間の類似度を求め、求めた類似度が所定の閾値を超える場合には、一つのグループとして纏めることが考えられる。画像間の
類似度は、例えば、画素や画像内の特徴的な部分をそれぞれに抽出し、画像同士で特徴的な部分が一致する割合として求められる。
しかし、求めた画像間の類似度により、グループ化の可否を判定するための閾値の決定は容易ではない。例えば、閾値が高い場合には、ユーザが同一グループに分類したい複数の画像が異なるグループに分類されるケースが生じ得る。また、例えば、閾値が低い場合には、ユーザが異なるグループに分類したい複数の画像が同一グループに分類されるケースが生じ得る。
さらに、閾値を高く設定してグループ化を行う際には、類似度を求める処理の処理量が増加することになる。処理量の増加は、複数の写真が含まれる写真群のグループ化を完了するまでの処理負担になる。
1つの側面では、本発明は、複数の写真に対するグループ化を完了するまでの処理負荷
を軽減しつつ、グループ化の精度を高めることが可能なグループ化処理の提供を目的とする。
上記技術は、次の情報処理装置の構成によって例示できる。すなわち、情報処理装置は、複数の写真の中の関連する写真をグループ化するために、第1および第1の写真のそれぞれの撮影日時から求められた時間差分の増加にしたがって、グループ分けの基準になる閾値を増加させる設定部と、第1の写真の特徴点と第2の写真の特徴点とを対応付けると共に、第1の写真と第2の写真との間で対応付けられた特徴点の数量が閾値を超えるか否かを判定する判定部と、閾値を超えると判定された場合には、第1および第2の写真をグループ化するグループ化部と、グループ化後の第3および第4の写真についてのグループ分離、または、グループ化の変更指示を受け付ける受付部と、グループ分離、または、グループ化の変更指示を受け付けた第3および第4の写真間の特徴点の数量と、第3および第4の写真のそれぞれの撮影日時から求められた時間差分に対応したグループ分けの基準になる閾値との差分が所定値未満の場合に、閾値に第3および第4の写真間の特徴点の数量を反映する変更部と、を備えることを特徴とする。
1つの側面では、複数の写真に対するグループ化を完了するまでの処理負荷を軽減しつつ、グループ化の精度を高めることが可能なグループ化処理が提供できる。
撮影時間間隔による写真間の相関性の説明図である。 グループ化のための類似度の閾値設定の一例を示す図である。 ユーザAの、一定期間の間に撮影された写真群を対象とした撮影時間の間隔毎の数量分布の一例を示す図である。 ユーザBの、一定期間の間に撮影された写真群を対象とした撮影時間の間隔毎の数量分布の一例を示す図である。 ユーザCの、一定期間の間に撮影された写真群を対象とした撮影時間の間隔毎の数量分布の一例を示す図である。 本実施形態の情報処理装置のハードウェア構成の一例を示す図である。 本実施形態の情報処理装置の処理ブロック構成の説明図である。 写真DBの一例を示す図である。 グループDBの一例を示す図である。 類似度閾値DBの一例を示す図である。 設定変更閾値テーブルの一例を示す図である。 本実施形態の情報処理装置の提供するグループ化処理を例示する全体フローチャートである。 類似度設定処理を例示するフローチャートである。 グループ化処理を例示するフローチャートである。 画像類似度判定処理を例示するフローチャートである。 類似度閾値変更処理を例示するフローチャートである。 変形例のグループ化処理を例示するフローチャートである。 変形例のグループ化処理の効果の説明図である。
以下、図面を参照して、一実施形態に係る情報処理装置について説明する。以下の実施形態の構成は例示であり、本情報処理装置は、以下の実施形態の構成には限定されない。以下、図1から図18の図面に基づいて、本実施形態の情報処理装置を説明する。
<実施形態>
(撮影時間間隔による写真間の相関性の検討)
先ず、デジタルデータとして、メモリ等に保存・蓄積された写真群のグループ化の精度を高めるため、撮影時間間隔による写真間の相関性について検討する。ここで、撮影時間間隔とは、グループ化の対象となる一の写真についての撮影時期と、他の写真についての撮影時期との差分時間をいう。撮影時期は、例えば、Exif形式でメモリ等に保存された撮像画像のExif情報に含まれる撮影日時から特定される。Exif情報の撮影日時には、西暦、月歴、日歴、時暦、分歴、秒歴が含まれる。なお、連写機能を用いて撮影された写真の撮像画像は、例えば、共通する撮影日時に撮影順となる連番を付与した識別名(ファイル名)でメモリ等に保存される。つまり、ファイル名に付与された撮影順の連番から、連写機能を用いて撮影された撮像画像の撮影時期を特定することが可能になる。以下では、Exif形式でメモリ等に保存・蓄積された写真群の撮像画像を、グループ化の対象となる撮像画像の一例として説明する。
また、写真間の相関性は、例えば、メモリ等に保存された撮像画像同士の類似度として表すことができる。撮像画像間の類似度は、例えば、画素や撮像画像内の特徴的な部分をそれぞれに抽出し、撮像画像同士で特徴的な部分が一致する割合として求めることができる。撮像画像内の特徴的な部分として、被写体の輪郭が例示される。
例えば、撮像画像Aから抽出された特徴的な部分と、撮像画像Bから抽出された特徴的な部分とが完全に合致する場合の類似度を「100パーセント」とする。この場合の、撮像画像Aと撮像画像Bとの間の相関性は、例えば、“1”として表すことができる。また、撮像画像Aと撮像画像Bとの間の類似度が「0パーセント」の場合には、両撮像画像間の相関性は、例えば、“0”として表すことができる。なお、メモリ等に保存・蓄積された写真群においては、撮影時間間隔を同一とする複数の写真が存在することが想定できる。撮影時間間隔を同一とする写真が複数に存在する場合には、それぞれの写真についての類似度を平均した値を撮影時間間隔毎の相関性とすることができる。
図1に、撮影時間間隔による写真間の相関性についての説明図を例示する。図1は、写真の撮影時間の間隔と、それら写真間の相関性とをグラフ化したものであり、縦軸は上述した相関性を表し、横軸は撮影時間間隔(分)を表す。また、図1の相関性曲線g1は、撮影時間の間隔の経過に伴って変化する写真間の相関性を表す。図1の相関性曲線g1に示すように、写真間の相関性は、相関性“1”と“0”との間で撮影時間間隔の経過に伴ってS字状の減少曲線を描くように変化する傾向にある。
図1の相関性曲線g1で表された、撮影時間間隔による相関性の変化傾向は、例えば、相関性の減少する傾斜に基づいて3つの領域に区分することができる。すなわち、撮影時間間隔の「0−T1」の区間に対応する相関性が“C1”以上となる第1領域である。また、撮影時間間隔の「T1−T2」の区間に対応する、相関性が“C1”未満であり、且つ、“C2”以上の第2領域、撮影時間間隔の「T2−T3」の区間に対応する相関性が“C2”未満の第3領域である。ここで、“C1”、“C2”は、例えば、撮影された全
ての写真数量から実験的に求められる減少傾向が変化する値である。図1に示す相関性曲線g1の減少傾斜は、第1領域、第3領域、第2領域の順に、傾斜する傾きが相対的に急になる。
第1領域においては、相関性曲線g1は、撮影時間間隔の「0−T1」の区間に対応する撮影時間の間隔の経過に伴って、相対的に最も緩やかに減少するように変化する。第1領域における相関性曲線g1の変化率は、例えば、((1−C1)/T1)で近似される。一般的に、一つの撮影機器で短い時間間隔で撮影された撮像画像については、同一の場所で同一の被写体を撮影している機会が主であると考えられる。このため、上記機会で撮影された撮影画像間の類似性は高い傾向にある。また、連写機能を使用した場合には、類似性の高い複数の撮像画像が短期間に撮影される。このため、短い時間間隔で撮影された撮像画像の、メモリ等に保存・蓄積された写真の総数量に対する割合(占有率)は相対的に高くなると考えられる。
なお、複数の撮影機器で撮影された写真がメモリ等に保存・蓄積されている場合において、同一の場所で同一の被写体を撮影している機会では、撮影された撮影画像間の類似性は高いと考えられる。一方、上記複数の撮影機器が別々の場所で同一時刻に撮影した場合には、それぞれの撮影機器で撮影された写真間の類似性はないものと考えられる。しかしながら、第1領域に対応する撮影時間間隔においては、上記複数の撮影機器が別々の場所で同一時刻に撮影した写真の占有率は相対的に小さいと考えられる。従って、第1領域に対応する撮影時間間隔の写真の総数量について、撮像画像間の類似度を平均した場合には、上記複数の撮影機器が別々の場所で同一時刻に撮影した写真間の類似度の、相関性の変化に対する寄与率は小さいと考えられる。
第2領域においては、相関性曲線g1は、撮影時間間隔の「T1−T2」の区間に対応する撮影時間の間隔の経過に伴って、相対的に最も急な傾斜で減少するように変化する。第2領域における相関性曲線g1の変化率は、例えば、((C1−C2)/(T2−T1))で近似される。撮影時間の間隔が第1領域より長い第2領域の区間では、同一の撮影機器で写真を撮影した場合であっても、異なる場所に移動して撮影された写真が含まれてくるものと考えられる。異なる場所で撮影された写真の撮像画像間では類似度が相対的に低下するため、撮影時間間隔の経過に沿って、相関性が減少するように変化する。
例えば、撮影した写真を撮影機器のモニターで写り具合を確認し、うまく撮れていない場合には再度同じ構図で撮影し直しをするようなケースを想定する。このケースでは、撮影し直しをするための期間として、撮影間隔は数十秒から数分程度の期間が経過するものと推定される。但し、同じ構図で撮影し直しているため、直前の撮像画像との間の類似性は高い傾向にある。また、集合写真においては、例えば、撮影者が入れ替わって写真を撮影するケースが想定される。このケースにおいても、撮影者の入れ替わりのための期間を要することになるが、直前に撮影された撮像画像との間の類似性は高い傾向にある。
しかしながら、例えば、撮影者が撮影機器と共に移動しながら撮影した場合には、撮影時間の間隔の経過に伴って異なる被写体が撮像画像に写り込むことになる。異なる被写体が写り込まれた撮像画像間の類似度は低下することになる。撮影時間の間隔が経過すればする程、異なる被写体を写し込んだ撮像画像の占める割合が増加するため、撮像画像間の類似度の平均値は低下すると推定される。この結果、第2領域における、撮影時間の間隔の経過に伴う相関性曲線g1の減少傾斜は、相対的に急な傾斜で減少すると考えられる。
第3領域においては、相関性曲線g1は、撮影時間間隔の「T2−T3」の区間に対応する撮影時間の間隔の経過に伴って、所定値(C2)の相関性が減少し“0”になるように変化する。第3領域における相関性曲線g1の変化率は、例えば、((C2)/(T3
−T2))で近似される。撮影時間の間隔が第2領域より長い第3領域の区間では、上述した、異なる被写体を写し込んだ撮像画像の占める割合の増加傾向が、撮影時間の間隔の経過に伴って強化されるものと考えられる。このため、同一の撮影機器で写真を撮影した場合であっても、第3領域の撮影時間間隔で撮影された写真間の相関性は、所定値(C2)から“0”に近づくように減少する。
なお、撮影し直しのための経過期間や、撮影者を入れ替えて撮影するための経過期間には、個人差が存在する。また、例えば、美術館やコンサート等の内部での撮影禁止のイベントに参加した場合、撮影可能な入口の前で撮影し、イベント終了後に出口で撮影するということが考えられる。入口と出口が共通する場合には、イベントの前後で撮影された撮像画像間の類似度は高く、撮影時間の間隔は、数時間ということもある。さらに、例えば、毎朝家を出るときに自分の姿を写真に収めて管理しているユーザの場合には、撮影時間間隔は24時間に近づくことになるが、撮影された写真間の類似度は高くなる。第3領域には、上述した類似度の高い撮像画像、撮影時間間隔が含まれるため、相関性の平均は低い値になりつつも、低値の相関性は存在する状態と考えられる。なお、撮影時間間隔が「T3」を超える場合では、撮像画像間の相関性はないものと考えられる。
図1の相関性曲線g1で表されるように、撮影時間間隔による写真間の相関性は、撮影時間間隔の経過に伴ってS字状の減少曲線を描くように変化する傾向がある。また、相関性曲線g1は、相関性の減少する傾斜の傾向に沿って、3つの領域に区分けすることが可能であり、それぞれの領域は、撮影時間間隔の経過順に、区間「0−T1」、「T1−T2」、「T2−T3」に対応付けされる。なお、撮影時間間隔がT3を超える領域においては、撮像画像間の相関性はないものと考えられる。次に、上記した撮影時間間隔による相関性の検討結果に基づいて、グループ化する際の撮像画像間の類似度の閾値について検討する。
(グループ化における類似度の検討)
図1の相関性曲線g1で表されるように、第1領域においては、撮影時間間隔の経過に伴い相関性が高い値で推移する。つまり、撮影時間間隔が「0−T1」の区間においては、撮像画像間の類似度が相対的に高い値に纏まることが期待できる。このため、グループ化する際の撮像画像間の類似度の閾値を相対的に高い値(例えば、相関性“C1”に対応する閾値)に設定することで、第1領域の写真群をグループ分けすることは可能である。しかし、撮影し直しや撮影者が入れ替わって撮影した集合写真等のように、ユーザにとって同一のグループ内に含めた方が好ましい写真は、第2領域の区間に含まれている。
また、撮影者が撮影機器と共に移動しながら撮影対象の風景を撮影した場合において、例えば、パノラマ写真のように、撮影者を中心として撮影方向を横方向にずらしながら、複数枚の写真に跨る景色を撮影することも考えられる。また、撮影対象の風景を撮影した場合において、ランドマーク周辺の景色を含めて撮影した後に、焦点距離をランドマークにズームさせて撮影することも考えられる。上記のケースでは、撮像画像間の景色の重なり度合いによって類似度は分散することになる。しかし、類似度を写真の数量で平均化した場合には、撮像画像間の類似度は所定の大きさ(例えば、相関性“C2”に対応する閾値以上)になる。
グループ分けの観点からは、第1領域および第2領域を含めてグループ化が可能なように、撮像画像間の類似度の閾値を相対的に低めに設定することが好ましいといえる。また、撮像画像間の類似度の閾値を相対的に高めに設定した場合には撮像画像間の類似度を求める処理量が増加し、処理負担となる。このため、グループ分けの処理負担の観点からも、撮像画像間の類似度を求める処理量を減らす、相対的に低めに設定された閾値は好ましいといえる。
但し、図1で検討した撮影時間間隔による写真間の相関性の減少傾斜は、例えば、ユーザの所有する撮影機器の数量、ユーザの撮影の趣向、撮影機器の性能(例えば、連写機能の有無)等によって変化する場合がある。このため、例えば、ユーザの管理(メモリ等に蓄積・保存された)する写真群の総数量についての撮影時間間隔による類似度を考慮した閾値を設定することで、グループ化の精度を高めることが可能になる。
第3領域においては、撮影時間間隔による写真間の相関性は、所定値(C2)を超えることはない。このため、グループ化のための、撮像画像間の類似度の閾値が低い場合には、例えば、他の場所で撮影された撮影画像が含まれてしまう蓋然性が高まる虞がある。第3領域においては、上記蓋然性を抑制し、グループ化の精度を高めるため、撮像画像間の類似度の閾値を相対的に高い値とする。
なお、撮像画像間の類似度の閾値を相対的に高い値に設定することで、撮像画像間の類似度を求める処理負荷は高くなる。しかし、第3領域に属する写真の数量は、第1および第2領域に属する写真の数量に比べて少ないものと推定できる。このため、第1領域、第2領域を含めたグループ化処理の総処理時間は相対的に抑制されることが期待できる。
第3領域に対応する撮影時間間隔以降(T3以降)においては、撮影時間間隔による写真間の相関性はないものと想定される。従って、第3領域に対応する撮影時間間隔以降(T3以降)においては、グループ化の処理対象から除外することでグループ分けの処理負担の軽減を図るものとする。
図2に、グループ化のための類似度の閾値の設定例を例示する。図2は、上記の、グループ化における撮像画像間の類似度の閾値についての検討結果をグラフ化した一例である。図2の縦軸は、撮像画像間の類似度の閾値を表し、横軸は撮影時間間隔(分)を表す。また、図2において、撮影時間間隔の経過に伴って推移する、グループ化のための撮像画像間の類似度の閾値g2は、太実線で表されている。
なお、図2の縦軸は正規化された類似度であり、撮像画像間の特徴的な部分同士が完全に合致する場合の類似度が「1.0」として表される。グループ化対象のメモリ等に保存・蓄積された写真間の類似度は、撮影時間間隔の経過に伴って類似度「1.0」と類似度「0.0」との間で変化する。既に説明したように、類似度「0.0」になる撮像画像間には相関性はない。
(類似度の閾値の例示)
図2に示すように、グループ化のための類似度の閾値g2は、撮像画像間の撮影時間間隔が[0−T1]、[T1−T2]に分類される場合には、相対的に低い閾値“S1”で推移させる。また、グループ化のための類似度の閾値g2は、撮像画像間の撮影時間間隔が[T2−T3]に分類される場合には、相対的に高い閾値“S2”で推移させる。なお、撮像画像間の撮影時間間隔が「T3」を超える場合には、類似度を求めるための比較処理は行わない。このため、図2の「T3」を超える撮影時間間隔領域においては、グループ化のための類似度の閾値g2は定義されない。
図2に示す、グループ化のための類似度の閾値g2は、例えば、ユーザ毎の撮影趣向や撮影機器の性能等によって変化する。このため、図2に示す、閾値“S1”、“S2”および撮影時間間隔の各区間の設定を、ユーザの管理(メモリ等に蓄積・保存された)する写真群の撮影時間間隔による相関性に基づいて決定することで、ユーザの意向に沿ったグループ分けが可能になる。
(ユーザ別の撮影時間間隔による数量分布の例示)
図3に、ユーザAの、一定期間の間に撮影された写真群を対象とした撮影時間の間隔毎の数量分布例を例示する。また、図4に、ユーザBの、一定期間の間に撮影された写真群を対象とした撮影時間の間隔毎の数量分布例を例示する。図5に、ユーザCの、一定期間の間に撮影された写真群を対象とした撮影時間の間隔毎の数量分布例を例示する。図3−図5の数量分布例において、縦軸は写真の数量を表し、横軸は一定期間の間に撮影された写真群を撮影時間順に並べたときに、直前に撮影された写真との時間間隔を表す。図3−図5に例示のように、撮影された写真群の数量分布は、撮影時間間隔毎のヒストグラムとして表される。なお、図3−図5の数量分布例において、撮影時間の間隔が1秒以下の場合は、撮影機器の連写機能を用いて撮影された写真である。
図3に例示の、ユーザAのヒストグラムにおいては、撮影時間の間隔として“1分以下”で表されるデータg4が数量分布のピークになる。また、撮影数量は、撮影時間の間隔として“10秒以下”で表されるデータg3、撮影時間の間隔として“2分以下”で表されるデータg5に偏って分布する。ユーザAのヒストグラムの偏りからは、撮影時間間隔が2分以下となる区間内に、一定期間の間に撮影された写真群の大半を占める数量が分布することが判る。また、撮影時間の間隔として“1秒以下”の分布数量は存在するものの、撮影された数量は相対的に小さい。ユーザAにおいては、連写機能を備えた撮影機器を有するものの、使用頻度が少ないことが推定される。
図4に例示の、ユーザBのヒストグラムにおいては、撮影時間の間隔として“10秒以下”で表されるデータg6が数量分布のピークになる。また、撮影数量は、撮影時間の間隔として“1分以下”で表されるデータg7に偏って分布する。ユーザBのヒストグラムの偏りから、撮影時間間隔が1分以下となる区間内に、一定期間の間に撮影された写真群の大半の数量が分布することが判る。なお、撮影時間の間隔として“1秒以下”の分布数量は存在しない。ユーザBの使用する撮影機器は、連写機能を持たないことが推定される。
図5に例示の、ユーザCのヒストグラムにおいては、撮影時間の間隔として“10秒以下”で表されるデータg9が数量分布のピークになる。また、撮影数量は、撮影時間の間隔として“1秒以下”で表されるデータg8、撮影時間の間隔として“1分以下”で表されるデータg10に偏って分布する。ユーザCにおいても、ヒストグラムの偏りから、撮影時間間隔が1分以下となる区間内に、一定期間の間に撮影された写真群の大半の数量が分布することが判る。なお、ヒストグラムにおいては、撮影時間の間隔として“1秒以下”で表されるデータg8は2番目のピークである。このことから、ユーザAにおいては、連写機能を備えた撮影機器を頻繁に活用していることが判る。
図3−図5に例示のヒストグラムから、写真を撮影するための撮影時間の間隔は数分以内に偏る傾向があることが判る。この偏りは、例えば、撮影のために撮影機器を取り出した場合には、撮影機会に対する撮影を継続し、該撮影機会に対する一連の撮影の終了と共に、取り出した撮影機器を収納するという動作に基づくものと推定される。
つまり、撮影機器を取り出してから収納するまでの期間に撮影された一連の写真は、ある程度の相関性を有すると想定できる。従って、撮影機器を取り出してから収納するまでの期間に関しては、撮像画像間の類似度の閾値を低め(例えば、図2の閾値“S1”)に設定することで、ユーザの意図に沿ったグループ分けが可能になると考えられる。
また、図3−図5のヒストグラムに例示のように、撮影機器を取り出してから収納するまでの期間に対応する、数分以内の範囲には、写真群の大半を占める数量が分布する。このため、撮像画像間の類似度の閾値を低めに設定することで、グループ化処理に係る処理
負荷を下げることが期待できる。
撮影時間の間隔が数分を超える場合には、図1を用いて検討したように、別の場面(異なる撮影機会)で撮影しているものと推定される。但し、撮影状況によっては撮影し直しや撮影者の入れ替わり等のように、同一の場面で撮影される場合もあり得る。この場合には、撮影された写真間の類似度は高くなる。従って、撮影時間の間隔が数分を超える期間においては、撮像画像間の類似度の閾値を高め(例えば、図2の閾値“S2”)に設定することで、類似度の高い写真を取り込んでグループ化することが可能になる。グループ化の精度として、ユーザの意図に沿ったグループ分けを満たす精度が期待できる。
〔装置構成〕
図6に、本実施形態の情報処理装置のハードウェア構成の一例を例示する。本実施形態の情報処理装置10は、例えば、撮影機器を介して撮影された写真群のグループ化機能を提供するPCやサーバといった情報処理装置である。但し、情報処理装置10は、撮影機器であるデジタルカメラや撮影機能を備えるスマートフォン等の情報処理装置であってもよい。本実施形態の情報処理装置10が提供するグループ化機能を実施可能なリソース環境を備える機器であればよい。
図6に例示の、本実施形態の情報処理装置10は、例えば、ユーザの管理する写真群を写真DB201に備える。写真DB201の写真群は、例えば、Exif形式のデジタルデータ(撮像画像)として格納される。情報処理装置10は、例えば、写真DB201を参照し、撮像画像のExif情報に含まれる撮影時刻情報に基づいて、撮像画像間の撮影時間の間隔を特定する。また、情報処理装置10は、撮影時間の間隔が特定された撮像画像間の類似度を特定する。撮像画像間の類似度は、例えば、画素や撮像画像内の特徴的な部分をそれぞれに抽出し、撮像画像同士で特徴的な部分が一致する割合として求めることができる。以下の説明では、撮像画像内の被写体の輪郭を上記特徴的な部分とし、撮像画像同士で該被写体の輪郭について一致する割合を類似度として説明を行う。
本実施形態の情報処理装置10は、撮影時間の間隔毎に求められた撮像画像間の類似度を対象として、写真DB201に登録された写真群についてグループ分けするための閾値判定を行う。但し、本実施形態の情報処理装置10は、図2等を用いて説明したように、処理対象となる撮像画像間の撮影時間の間隔が長くなるにつれて、グループ分けするための類似度の閾値を増加させる。
本実施形態の情報処理装置10は、類似度の閾値を増加させるため、写真DB201に登録された写真群の撮影時刻情報から、図3−図5を用いて説明した、撮影時間間隔毎の撮影数量(撮影頻度、発生頻度とも称す)の分布を特定する。撮影時間間隔毎の撮影数量の分布は、撮影時間間隔毎に撮影された写真の数量を累積したヒストグラムとして表される。情報処理装置10は、写真DB201に登録された写真群の、撮影時間間隔毎のヒストグラムから、閾値を増加変更するポイントになる撮影時間間隔を特定する。撮影時間間隔において、閾値を増加変更するポイントは、例えば、図2に例示する「T2」、「T3」である。
情報処理装置10は、撮影時間間隔毎のヒストグラムから特定された閾値を増加変更するポイント(「T2」、「T3」)を、例えば、類似度閾値DB202に格納する。なお、類似度閾値DB202には、上記ポイント(撮影時間間隔T2、T3)に関連付けされてグループ分けするための閾値(例えば、図2の閾値“S1”、“S2”)が予め登録される。グループ分けするための閾値は、例えば、撮像画像間の類似度を求める処理の方式に応じて予め登録される。そして、情報処理装置10は、類似度閾値DB202に登録された撮影時間間隔T2、T3、および、各撮影時間間隔に関連付けされた閾値に基づいて
、グループ分けするための判定処理の閾値を増加変更する。
情報処理装置10は、例えば、処理対象の撮像画像間の撮影時間の間隔が、撮影時間間隔T2以下の場合には、相対的に低い閾値S1に基づいて撮像画像間のグループ分けのための類似度判定処理を行う。また、情報処理装置10は、例えば、処理対象の撮像画像間の撮影時間の間隔が、撮影時間間隔T2を超え、且つ、撮影時間間隔T3隔以下の場合には、相対的に高い閾値S2に基づいて撮像画像間のグループ分けのための類似度判定処理を行う。なお、情報処理装置10は、処理対象の撮像画像間の撮影時間の間隔が撮影時間間隔T3を超える場合には、グループ分けのための類似度判定処理は行わない。撮像画像間の撮影時間の間隔が撮影時間間隔T3を超える場合には、撮影された写真間の相関性はないものと推定できるからである。グループ化された写真群は、例えば、グループを識別する識別番号に関連付けられて、グループDB203に格納される。グループDB203に格納された写真群は、例えば、グループを識別する識別番号毎に一覧表示されてユーザに提示される。
この結果、本実施形態の情報処理装置10においては、グループ化処理に係る処理負荷を下げることが可能になると共に、類似度の高い写真を取り込んでグループ化することが可能になる。本実施形態の情報処理装置10では、ユーザの意図に沿ったグループ分けが提供できる。本実施形態の情報処理装置10によれば、複数の写真に対するグループ化を完了するまでの処理を軽減しつつ、グループ化の精度を高めることが可能なグループ化処理が可能になる。
なお、情報処理装置10は、撮像画像間の類似度を求める際に、撮像画像について部分拡大(或いは、部分縮小)画像を複数に作成し、作成した部分拡大画像のそれぞれに基づいて類似度を求めるとしてもよい。例えば、ランドマーク周辺の景色を含めて撮影した写真と、ランドマークに焦点距離をズームさせて撮影した写真とを一つのグループに纏めることが可能になる。また、情報処理装置10は、上記の部分拡大画像(或いは、分縮小画像)を作成する際に、上記グループ分けのための類似度の判定閾値を用いて類似度を求める処理の負荷の軽減を図るとしてもよい。例えば、情報処理装置10は、作成した部分拡大画像に基づいて求められた類似度が、グループ分けのための類似度の判定閾値を超える場合には、撮像画像間のグループ化を早期に確定することができる。このため、情報処理装置10は、例えば、撮像画像間の類似度を求める処理量、グループ化の処理量を減らすことが可能になる。
さらに、情報処理装置10は、ユーザに提示されたグループ分けの結果に対する変更指示を受け付けるとしてもよい。情報処理装置10は、例えば、受け付けたユーザの変更指示が所定の条件を満たす場合には、変更指示に基づいてグループ分けをするための類似度の閾値を変更することが可能になる。情報処理装置10は、変更後の閾値に基づいて撮影された写真群のグループ化処理を行うことで、ユーザの意向に沿ったグループ分けが可能になる。情報処理装置10は、グループ化の精度を高めることができる。
図6に例示の情報処理装置10は、接続バスB1によって相互に接続されたCentral Processing Unit(CPU)11、主記憶部12、補助記憶部13、入力部14、出力部1
5、通信部16を有する。主記憶部12および補助記憶部13は、情報処理装置10が読み取り可能な記録媒体である。補助記憶部13には、写真DB201、類似度閾値DB202、グループDB203が保持される。また、補助記憶部13には、規定繰り返し回数204、規定縮小率205、類似度比較回数206、設定変更閾値207といった、グループ化機能を提供するための各種処理テーブルが格納される。
情報処理装置10は、CPU11が補助記憶部13に記憶されたプログラムを主記憶部
12の作業領域に実行可能に展開し、プログラムの実行を通じて周辺機器の制御を行う。これにより、情報処理装置10は、所定の目的に合致した処理を実行することができる。なお、補助記憶部13に格納された上記各種処理テーブルは、例えば、プログラム内に処理のためのテーブル値として記述されるとしてもよい。
CPU11は、情報処理装置10全体の制御を行う中央処理演算装置である。CPU11は、補助記憶部13に格納されたプログラムにしたがって処理を行う。主記憶部12は、CPU11がプログラムやデータをキャッシュしたり、作業領域を展開したりする記憶媒体である。主記憶部12は、例えば、フラッシュメモリ、Random Access Memory(RAM)やRead Only Memory(ROM)を含む。
補助記憶部13は、各種のプログラムおよび各種のデータを読み書き自在に記録媒体に格納する。補助記憶部13は、外部記憶装置とも呼ばれる。補助記憶部13には、例えば、Operating System(OS)、各種プログラム、各種テーブル等が格納される。OSは、例えば、通信部16を介して接続される外部装置等とのデータの受け渡しを行う通信インターフェースプログラムを含む。外部装置等には、例えば、図示しないネットワーク上のPCやサーバ、スマートフォンといった情報処理装置、外部記憶装置等が含まれる。ネットワークには、例えば、インターネットといった公衆ネットワーク、Local Area Network(LAN)等の有線ネットワーク、携帯電話網、無線LAN等の無線ネットワークが含まれる。
補助記憶部13は、例えば、Erasable Programmable ROM(EPROM)、ソリッドス
テートドライブ装置、ハードディスクドライブ(HDD、Hard Disk Drive)装置等であ
る。また、補助記憶部13としては、例えば、CDドライブ装置、DVDドライブ装置、BDドライブ装置等が提示できる。記録媒体としては、例えば、不揮発性半導体メモリ(フラッシュメモリ)を含むシリコンディスク、ハードディスク、CD、DVD、BD、Universal Serial Bus(USB)メモリ、Secure Digital(SD)メモリカード等がある。
入力部14は、ユーザからの操作指示等を受け付ける。入力部14は、例えば、入力ボタン、ポインティングデバイス、マイクロフォン等の入力デバイスである。入力部14には、キーボード、ワイヤレスリモコンといった入力デバイスが含まれるとしてもよい。ポインティングデバイスには、例えば、タッチパネル、マウス、トラックボール、ジョイスティックが含まれる。
出力部15は、CPU11で処理されるデータや情報、主記憶部12、補助記憶部13に記憶されるデータや情報を出力する。出力部15には、例えば、Liquid Crystal Display(LCD)、Plasma Display Panel(PDP)、Electroluminescence(EL)パネル
、有機ELパネル等の表示デバイスが含まれる。また、出力部15は、プリンタ、スピーカ等の出力デバイスであってもよい。通信部16は、例えば、情報処理装置10に接続するネットワーク等とのインターフェースである。
情報処理装置10は、CPU11が補助記憶部13に記憶されているOS、各種プログラムや各種データを主記憶部12に読み出して実行することで、対象プログラムの実行と共に図6に例示の各処理部の機能を提供する。情報処理装置10では、対象プログラムの実行と共に、撮影時間間隔取得部101、類似度閾値設定部102、画像類似度判定部103、グループ化部104、グループ変更指示受信部105、グループ閾値変更部106の機能が提供される。ここで、CPU11の対象プログラムの実行により提供される各処理部が「取得部」、「設定部」、「判定部」、「グループ化部」の一例である。
但し、上記各処理部の少なくとも一部の処理がDigital Signal Processor(DSP)、Appli
cation Specific Integrated Circuit(ASIC)等によって提供されてもよい。また、上記各処理部の少なくとも一部が、Field-Programmable Gate Array(FPGA)等の専用large scale integration(LSI)、その他のデジタル回路であってもよい。また、上記各処理部の
少なくとも一部にアナログ回路を含むとしてもよい。
また、情報処理装置10は、以上の各処理部が参照し、或いは、管理するデータの格納先として、写真DB201、類似度閾値DB202、グループDB203を補助記憶部13に備える。同様にして、情報処理装置10は、規定繰り返し回数204、規定縮小率205、類似度比較回数206、設定変更閾値テーブル207といった、グループ化機能を提供するための各種処理テーブルを補助記憶部13に備える。
なお、情報処理装置10の各処理部のうち、何れかが、他の情報処理装置に含まれてもよい。例えば、撮影時間間隔取得部101、類似度閾値設定部102、画像類似度判定部103を含む情報処理装置と、グループ化部104を含む情報処理装置とがネットワークを介して接続する。そして、グループ変更指示受信部105、グループ閾値変更部106を含む情報処理装置が、上記ネットワークに接続し、情報処理装置10として機能するとしてもよい。情報処理装置10の備える各DB、各種処理テーブルについても同様の接続形態が可能である。ネットワークに接続する複数の情報処理装置、複数の記憶装置を用いて、図6に示す各処理部等を提供することで情報処理装置10は、クラウドとして機能することができる。クラウドとして機能する情報処理装置10においては、処理負荷を分散することができる。
〔処理ブロック構成〕
図7に、情報処理装置10の処理ブロック構成の説明図を例示する。図7に例示の、撮影時間間隔取得部101は、例えば、写真DB201に登録された写真群の撮像画像を撮影時刻順に並べ、順序が前後する撮像画像間の撮影時間関間隔を取得する。撮影時間間隔取得部101は、取得した撮影時間間隔に基づいて、グループ化処理の対象となる撮像画像を特定する。グループ化処理の対象となる撮像画像は、例えば、撮影時間間隔が[0−T3]となる撮像画像である。撮影時間間隔取得部101は、特定した撮像画像間の類似度を求めるため、特定した撮像画像を画像類似度判定部103に引き渡す。
なお、撮影機器の連写機能を用いて撮影された写真群は、図1を用いて説明したように相互に高い相関性を有する。このため、撮影時間間隔取得部101は、例えば、連写された写真群をグループ分けのための一つの仮グループに纏めるとしてもよい。そして、撮影時間間隔取得部101は、連写された写真群の中の所定写真について、グループ化処理の対象となる撮影時間間隔の特定を行うとしてもよい。撮影時間間隔の特定を行うための所定写真は、例えば、連写開始時の写真、連写終了時の写真といったように、一連の連写写真の中の時間位置を予め定めておけばよい。情報処理装置10は、所定写真と撮影時間が前後する撮像画像間の類似度がグループ化のための判定閾値以上である場合には、所定写真の属する仮グループを一括りにして類似する他の撮像画像を含むグループに纏めることが可能になる。
類似度閾値設定部102は、例えば、写真DB201に登録された写真群の撮像画像を撮影時刻順に並べ、順序が前後する撮像画像間の撮影時間間隔を取得する。そして、類似度閾値設定部102は、撮影時間間隔毎の写真数量を計数し、撮影時間間隔毎のヒストグラムを作成する。類似度閾値設定部102は、作成した撮影時間間隔毎のヒストグラムから、グループ分けを行う判定閾値を増加変更するための閾値変更ポイントになる撮影時間間隔の値(例えば、図2の「T2」、「T3」)を決定する。類似度閾値設定部102は、決定した上記閾値変更ポイントの撮影時間間隔の値を類似度閾値DB202に格納する。なお、類似度閾値DB202には、ユーザ毎のグループ分けを行う判定閾値が予め登録
される。
上記閾値変更ポイントは、例えば、撮影時間間隔の短い順に写真数量を累積合計し、累積合計された写真数量の、写真DB201に登録された写真群の全体数量に占める割合(占有比率)によって決定することができる。類似度閾値設定部102は、例えば、累積合計された写真数量の、写真DB201に登録された写真群の全体数量に占める割合が5割、8割となる撮影時間間隔の値をそれぞれ上記閾値変更ポイント(「T2」、「T3」)に選定することができる。
なお、上記閾値変更ポイントは、例えば、図3−図5に例示する撮影時間間隔毎の数量分布パターンをユーザ毎に予め分析しておき、分析された数量分布パターンをユーザパターンとしてユーザ毎に保持する。そして、類似度閾値設定部102は、ユーザ毎に保持されたユーザパターンと作成した撮影時間間隔毎のヒストグラムとの合致度から、上記閾値変更ポイントを決定するとしてもよい。
図7に例示の、画像類似度判定部103は、例えば、撮影時間間隔取得部101から引き渡された撮像画像間の内容についての類似度を算出する。撮像画像間の内容についての類似度は、画素や撮像画像内の特徴的な部分をそれぞれに抽出し、撮像画像同士で特徴的な部分が一致する割合として求めることができる。撮像画像内の特徴的な部分として、被写体の輪郭が例示される。撮像画像間の類似度は、例えば、撮像画像Aから抽出された特徴的な部分と、撮像画像Bから抽出された特徴的な部分とが完全に合致する場合を“1”とする。撮像画像間の類似度は、“1”から“0”の間で変化する。
なお、撮像画像内の画素が撮像画像間で一致する面積を算出し、算出した面積の撮像画像内の占有する割合によって撮像画像間の類似度を算出する場合には、撮像画像間の類似度は“0”にならないケースが存在する。画素単位の類似度の判断では、全く異なる画像間であっても一致する画素部分が存在し得るからである。
また、画像類似度判定部103は、撮像画像から抽出された特徴的な部分について、該抽出された部分領域を段階的に縮小、或いは、拡大し、撮像画像間の部分一致を検出するとしてもよい。撮像画像間の部分一致は、例えば、縮小、或いは、拡大された部分領域と処理対象の撮像画像との間で行われる。
また、画像類似度判定部103は、類似度閾値DB202を参照し、比較対象の撮像画像間の撮影時間間隔に対する類似度の閾値を取得し、主記憶部12の所定の領域に一時的に記憶する。そして、画像類似度判定部103は、比較対象の撮像画像間に類似度が撮影時間間隔に対する閾値を超えた際に、処理を終了するとしてもよい。画像類似度判定部103は、撮影画像間の類似度を算出する際の処理負荷を軽減できる。
画像類似度判定部103は、撮像画像間の類似度が閾値以上の場合には、処理対象の撮像画像をグループ化部104に引き渡す。画像類似度判定部103は、例えば、処理対象の撮像画像に同一グループとして纏めるための識別情報を付与し、識別情報が付与された像画像をグループ化部104に引き渡す。
グループ化部104は、画像類似度判定部103から引き渡された撮像画像についてのグループ化を行う。撮像画像のグループ化は、例えば、画像類似度判定部103から引き渡された撮像画像に付与された、同一グループとして纏めるための識別情報に基づいて行われる。グループ化部104は、グループ化された処理の結果をグループDB203に格納する。グループDB203に格納されたグループ分けされた写真群は、例えば、写真DB201に登録された写真群を管理するユーザに提示される。
グループ変更指示受信部105は、ユーザに提示されたグループ分けの結果に対する変更指示を受け付ける。受け付けた変更指示は、例えば、主記憶部12の所定の領域に一時的に記憶される。グループ変更指示受信部105は、受け付けた変更指示をグループ閾値変更部106に引き渡す。なお、グループ分けの結果に対する変更指示は、例えば、2枚の撮像画像を指定し、指定された撮像画像に基づいてグループ統合、または、グループ離脱が指示されるものとする。
グループ閾値変更部106は、グループ変更指示受信部105から引き渡された変更指示内容を、グループDB203に格納されたグループ分けされた写真群に反映する。また、グループ閾値変更部106は、上記変更指示内容に基づいて、類似度閾値DB202に格納されたグループ分けのための判定閾値の変更を行う。グループ閾値変更部106は、例えば、指定された2枚の撮像画像間の撮影時間の間隔、および、撮像画像間の類似度に基づいて、上記判定閾値の変更を行う。
但し、ユーザから受け付けた変更指示内容においては、例えば、類似度が低い撮像画像をグループ内に含めるといった指示や、類似度の高い撮像画像をグループから分離するといった指示があり得る。このようなケースについてまで、類似度閾値DB202に格納された判定閾値に反映してしまうと、反映後のグループ化処理の処理精度に影響を及ぼす虞がある。
このため、情報処理装置10は、ユーザから受け付けた変更指示内容について、類似度閾値DB202に格納された上記判定閾値に反映するか否かを判断するための設定変更閾値テーブル207を備える。そして、情報処理装置10のグループ閾値変更部106は、設定変更閾値テーブル207に登録された閾値に基づいて、変更指示を受け付けた場合の指示内容を反映するか否かを判定する。
グループ閾値変更部106は、例えば、変更指示と共に指示された撮像画像間の類似度が設定変更閾値テーブル207に登録された閾値を超える場合には、変更指示内容を類似度閾値DB202に反映しない。また、グループ閾値変更部106は、例えば、変更指示と共に指示された撮像画像間の類似度が設定変更閾値テーブル207に登録された閾値以下の場合には、変更指示内容を類似度閾値DB202に反映する。
情報処理装置10は、上述の、ユーザに提示されたグループ分けの結果に対する変更指示を受け付けて反映する機能を有することで、グループ化処理を行うための最適な閾値を設定できる。また、情報処理装置10は、例えば、ユーザにとって不適切なグループ分けになっている場合には、変更指示内容に沿って上記判定閾値を変更することで、ユーザの意図するグループ分けの結果を提示することが可能になる。
〔DB構成〕
(写真DB)
図8に、写真DB201の一例を例示する。写真DB201には、ユーザの所有するデジタルカメラや撮影機能付きのスマートフォンといった撮影機器で撮影された写真群が登録される。写真DB201に登録される写真群は、例えば、Exif形式の撮像画像として格納される。
図8に示すように、写真DB201は、撮像写真毎のレコードを有する。各レコードは、「ファイル Index」、「ファイル名」、「格納先」、「撮影日時」のカラムを有する。「ファイルIndex」カラムには、登録された撮像画像を一意に識別する識別番号が格納さ
れる。識別番号は、例えば、写真DB201を備える情報処理装置10により自動的に採
番される。「ファイル名」カラムには、撮影機器によって撮像された写真のファイル名が格納される。「格納先」カラムには、ファイル名で識別される写真の撮像画像が格納されているフォルダへのパスが格納される。「撮影日時」カラムには、写真が撮影された撮影日時が格納される。「撮影日時」カラムの撮影日時は、例えば、4桁の西暦、2桁の月暦、2桁の日暦、に加え、それぞれ2桁の時暦、分暦、秒暦を示す時刻情報が付加される。撮影日時は、例えば、Exif情報、或いは、写真に付加されたタイムスタンプ等から特定される。
なお、撮像画像のExif情報には、撮影機器の機種名、メーカ名、解像度、シャッタースピード、絞り、撮影モード、焦点距離といった情報が含まれる。また、電子コンパスやGPS機能を有する撮影機器の場合には、撮影時における撮影方向、緯度・経度・標高といった位置情報が含まれる。写真DB201を管理する情報処理装置10は、例えば、撮像画像の登録の際に、上記情報をレコードに含めるとしてもよい。
(グループDB)
図9に、グループDB203の一例を例示する。グループDB203には、情報処理装置10によってグループ分けされた撮像画像が格納される。グループDB203に格納された撮像画像は、例えば、写真DB201に登録された写真群を管理するユーザに提示される。なお、以下に説明するグループDB203例では、写真DB201とは独立したデータベースとして説明するが、例えば、写真DB201のレコードを識別する「ファイル
Index」を参照するリレーショナルデータベース形式としてもよい。
図9に示すように、グループDB203は、撮像写真毎のレコードを有する。各レコードは、「ファイル Index」、「ファイル名」、「格納先」、「撮影日時」、「グループID」のカラムを有する。グループDB203では、各レコードの、「ファイル Index」、「ファイル名」、「格納先」、「撮影日時」カラムには、写真DB201と同じ値が格納される。「グループID」カラムには、当該レコードの撮像画像の属するグループを一意に識別する識別情報(グループID)が格納される。同一グループに属する撮像画像の「グループID」カラムには、同一のグループIDが格納される。
図9の例では、ファイル名“Photo000.jpg”の撮像画像およびファイル名“Photo001.jpg”の撮像画像の「グループID」カラムには、“GID00001”が格納されている。このため、ファイル名“Photo000.jpg”の撮像画像とファイル名“Photo001.jpg”の撮像画像とは、同一のグループに属することが判る。
なお、情報処理装置10は、グループ化の際に、グループに属さない単独の写真についてもグループIDを付与する。グループIDに関連付けられた写真群の一覧表示の際に、単一の写真が表示されることで、当該グループIDに属する他の写真は存在しないことが判る。図9の例では、ファイル名“Photo002.jpg”の撮像画像の「グループID」カラムに格納された“GID00002”は、他のレコードには存在しないため、ファイル名“Photo002.jpg”の撮像画像は単一の写真であることが判る。
(類似度閾値DB)
図10に、類似度閾値DB202の一例を例示する。類似度閾値DB202には、処理対象の撮像画像をグループ分けするための、撮像画像間の類似度についての閾値が格納される。上記閾値は、既に説明したように、閾値を増加変更するための閾値変更ポイントに関連付けられて類似度閾値DB202に格納される。なお、閾値変更ポイントは、写真が撮影された撮影時間間隔毎の数量分布のヒストグラムから特定される。図8に例示の類似度閾値DB202は、図3に例示の撮影時間間隔毎の数量分布のヒストグラムから特定された、ユーザAに対応する類似度閾値DB202例である。
図10に示すように、類似度閾値DB202は、閾値変更ポイントで区分けされる撮影時間間隔毎のレコードを有する。各レコードは、「時間(秒)」カラム、「閾値」カラムを有する。「時間(秒)」カラムには、写真が撮影された撮影時間間隔毎の数量分布のヒストグラムから特定された閾値変更ポイントの撮影時間間隔が格納される。閾値変更ポイントは、例えば、類似度閾値設定部102の処理により特定される。
「閾値」カラムには、処理対象の撮像画像をグループ分けするための、撮像画像間の類似度についての閾値が格納される。但し、撮像画像間の類似度についての閾値は、撮像画像間の類似度を求める際の処理方式によって異なるため、該処理方式に応じて予めプリセットされた値が登録される。なお、類似度閾値DB202に登録された上記閾値は、図7を用いて説明したように、ユーザの変更指示により変更が可能である。
図10の例では、撮影時間間隔が0秒から120秒の区間は、処理対象の撮像画像をグループ分けするための類似度の閾値が「0.12」であることを表している。同様にして、撮影時間間隔が120秒から600秒の区間は、処理対象の撮像画像をグループ分けするための類似度の閾値が「0.6」であることを表している。処理対象の撮像画像をグループ分けするための、撮像画像間の類似度についての閾値は、撮影時間間隔120秒、600秒を閾値変更ポイントとして増加変更されることが判る。なお、撮影時間間隔600秒を超える区間では、撮像画像間の類似度は判定しない。
(設定変更閾値)
図11に、設定変更閾値テーブル207の一例を例示する。設定変更閾値テーブル207には、ユーザから受け付けた変更指示内容を類似度閾値DB202に格納された閾値に反映するか否かを判断するための設定変更閾値が格納される。
図11に示すように、設定変更閾値テーブル207は、閾値変更ポイントで区分けされる撮影時間間隔毎のレコードを有する。各レコードは、「閾値変更ポイント(秒)」カラム、「グループ統合」カラム、「グループ分離」カラムを有する。「閾値変更ポイント(秒)」カラムには、類似度閾値DB202に登録された閾値変更ポイントの撮影時間間隔が格納される。
「グループ統合」カラムには、同一グループに統合変更する際の設定変更閾値が格納される。「グループ分離」カラムには、同一グループから分離変更する際の設定変更閾値が格納される。上記の各カラムに格納される設定変更閾値は、例えば、ユーザによって変更指示が行われた撮像画像間の類似度と、類似度閾値DB202に登録された閾値変更ポイントの閾値との差分値が格納される。情報処理装置10は、例えば、変更指示と共に指示された撮像画像間の類似度が設定変更閾値テーブル207に登録された閾値を超える場合には、変更指示内容を類似度閾値DB202に反映しない。
また、情報処理装置10は、例えば、変更指示と共に指示された撮像画像間の類似度が設定変更閾値テーブル207に登録された閾値以下の場合には、変更指示内容を類似度閾値DB202に反映する。例えば、情報処理装置10は、ユーザによって変更指示が行われた撮像画像間の類似度と、類似度閾値DB202に登録された閾値変更ポイントの閾値との差分値を解消するように、類似度閾値DB202に登録された閾値を増加減させる。閾値の変化方向は、グループ統合の場合には閾値を減少させる方向であり、グループ分離の場合には閾値を増加させる方向になる。
但し、設定変更閾値テーブル207に格納される設定変更閾値の値は、グループ統合またはグループ分離について、それぞれに異なる値を持つとしてもよく、同一の値を持つと
してもよい。図11の設定変更閾値テーブル207は、グループ統合およびグループ分離について同一の値を設定変更閾値とする場合の一例である。
〔処理フロー〕
以下、図12から図17例示のフローチャートを参照し、本実施形態の情報処理装置10の提供するグループ化処理を説明する。情報処理装置10は、CPU11が補助記憶部13に記憶されている各種プログラムや各種データを主記憶部12に読み出して実行することで、図12から図17例示の処理を行う。なお、情報処理装置10は、写真DB201、類似度閾値DB202、グループDB203を参照し、或いは、管理するデータの格納先として、図12から図17に例示の処理を行う。同様にして、情報処理装置10は、規定繰り返し回数204、規定縮小率205、類似度比較回数206、設定変更閾値テーブル207等の処理テーブルを参照し、図12から図17に例示の処理を行う。
(全体フロー)
図12は、本実施形態の情報処理装置10の提供するグループ化処理の全体フローチャートである。図12に例示のフローチャートにおいて、情報処理装置10の処理の開始は、例えば、写真DB201に登録された写真群へのグループ分けの指示のときが例示できる。また、情報処理装置10の処理の開始は、グループDB203のグループ分けが行われた写真群への変更指示のときが例示できる。情報処理装置10は、上記指示に基づいて、グループ化処理(S1)、類似度閾値変更処理(S2)を行う。また、S1のグループ化処理においては、情報処理装置10は、類似度設定処理、グループ化処理を行う。次に、図13を参照し、類似度設定処理を説明する。
(類似度設定処理)
図13は、類似度設定処理の一例を示すフローチャートである。情報処理装置10は、図13に例示の類似度設定処理により、写真DB201に登録された写真群の撮像画像をグループ分けするための閾値変更ポイントを決定する。
図13に例示のフローチャートにおいて、S11の処理では、情報処理装置10は、写真DB201を参照し、登録された写真群の撮像画像についての撮影日時情報を取得する。情報処理装置10は、取得した撮影日時情報に基づいて、登録された写真群の撮像画像を撮影時間順に整列する。
S12の処理では、情報処理装置10は、撮影時間順に整列させた撮像画像間の撮影時間間隔を算出する。情報処理装置10は、算出された撮影時間間隔に基づいて、撮影時間間隔毎の写真数量を発生頻度として計数し、撮影時間間隔毎のヒストグラムを作成する。
S13の処理では、情報処理装置10は、S12の処理で作成された撮影時間間隔毎のヒストグラムから、グループ分けを行うための閾値を変更する閾値変更ポイントになる撮影時間間隔を決定する。情報処理装置10は、撮影時間間隔の短い順に写真数量を累積合計し、累積合計された写真数量の、写真DB201に登録された写真群の全体数量に占める割合から上記閾値変更ポイントの撮影時間間隔を決定する。
例えば、情報処理装置10は、撮影時間間隔の短い順から累積合計された写真数量の、写真DB201に登録された写真群の全体数量に占める割合が5割となる撮影時間間隔を図2の「T2」として決定する。また、例えば、情報処理装置10は、撮影時間間隔の短い順から累積合計された写真数量の、写真DB201に登録された写真群の全体数量に占める割合が8割となる撮影時間間隔を図2の「T3」として決定する。情報処理装置10は、決定した閾値変更ポイントになる撮影時間間隔を類似度閾値DB202に格納する。S13の処理後、情報処理装置10は、図13の処理を終了する。
以上の類似度設定処理により、情報処理装置10は、写真DB201に撮像画像として登録された写真群に基づいて、グループ分けを行うための撮像画像間の類似度の閾値を変更する撮影時間間隔が決定できる。写真DB201に登録された写真群の撮像画像は、該写真群を撮影したユーザの撮影傾向を反映する。このため、本実施形態に係る情報処理装置10においては、相互に相関性のある写真群をグループ分けする際の類似度の閾値を、ユーザの撮影傾向に沿った撮影時間間隔で増加変更することができる。
(グループ化処理)
図14は、グループ化処理の一例を示すフローチャートである。情報処理装置10は、図14に例示のグループ化処理により、写真DB201に登録された写真群のグループ分けを行う。写真群のグループ分けは、類似度閾値DB202に登録された、閾値変更ポイントで増加変更する撮像画像間の類似度を判定する閾値に基づいて行われる。同一のグループに属する撮像画像には、該撮像画像が属するグループを識別する同一のグループIDが付与される。なお、グループに属さない単独の写真についてもグループIDが付与される。情報処理装置10は、グループIDが付与された写真群をグループDB203に格納する。
図14に例示のフローチャートにおいて、S21の処理では、情報処理装置10は、写真DB201を参照し、登録された写真群の撮像画像についての撮影日時情報を取得する。情報処理装置10は、取得した撮影日時情報に基づいて、登録された写真群の撮像画像を撮影時間順に整列する。
S22の処理では、情報処理装置10は、S21の処理で撮影時間順に整列された撮像画像の中から連続する2つの撮像画像を処理対象として抽出する。また、情報処理装置10は、抽出した撮像画像間の撮影時間間隔を取得する。情報処理装置10は、抽出した2つの撮像画像と該撮像画像間の撮影時間間隔とを対応付けて、主記憶部12の所定の領域に一時的に記憶する。情報処理装置10は、抽出した2つの撮像画像間の撮影時間間隔をS23の処理に引き渡す。また、情報処理装置10は、抽出した2つの撮像画像と該撮像画像間の撮影時間間隔とをS24の処理に引き渡す。
S23の処理では、情報処理装置10は、類似度閾値DB202を参照し、S22の処理で抽出された撮像画像間の撮影時間間隔に対応する類似度の閾値を取得する。情報処理装置10は、S22の処理で抽出された撮像画像間の撮影時間間隔に対応する類似度の閾値を主記憶部12の所定の領域に一時的に記憶する。情報処理装置10は、類似度閾値DB202から取得した類似度の閾値をS24の処理に引き渡す。なお、情報処理装置10は、S22の処理で抽出された撮像画像間の撮影時間間隔に対応する類似度の閾値が類似度閾値DB202に存在しない場合には、S24の処理に移行する。
S24の処理では、情報処理装置10は、S22の処理で抽出された撮像画像間の撮影時間間隔が、類似度閾値DB202に登録された閾値変更ポイントの最大撮影時間間隔(図10の例では、“600秒”)より小さいことを判定する。図1、2等を用いて説明したように、閾値変更ポイントの最大撮影時間間隔を超える場合には、撮像画像間の相関性はないものと見做せる。情報処理装置10は、閾値変更ポイントの最大撮影時間間隔を超える場合には、撮像画像間のグループ化処理の省略を行うことで処理負荷の軽減を図る。
情報処理装置10は、S22の処理で抽出された撮像画像間の撮影時間間隔が、類似度閾値DB202に登録された閾値変更ポイントの最大撮影時間間隔より小さい場合には(S24,Yes)、S25の処理に移行する。一方、情報処理装置10は、S22の処理で抽出された撮像画像間の撮影時間間隔が、類似度閾値DB202に登録された閾値変更
ポイントの最大撮影時間間隔より小さくない場合には(S24,No)、S28の処理に移行する。
S25の処理では、情報処理装置10は、S22の処理で抽出された撮像画像間に対する画像類似度判定処理を行う。画像類似度判定処理により、撮像画像同士の類似度が求められる。なお、S25の処理については、図15を用いて説明する。情報処理装置10は、S25の処理で求められた撮像画像間の類似度をS26の処理に引き渡す。
S26の処理では、情報処理装置10は、S25の処理により求められた撮像画像間の類似度と、類似度閾値DB202から取得した閾値との比較を行い、処理対象の撮像画像についてのグループ化の可否を判断する。情報処理装置10は、処理対象の撮像画像間の類似度が類似度閾値DB202から取得した閾値以上の場合には(S26,Yes)、S27の処理に移行する。一方、情報処理装置10は、処理対象の撮像画像間の類似度が類似度閾値DB202から取得した閾値未満の場合には(S26,No)、S28の処理に移行する。
S27の処理では、情報処理装置10は、処理対象の2つの撮像画像を同一グループに属するとして、該グループを識別するグループIDを上記撮像画像のそれぞれに付与する。情報処理装置10は、同一のグループIDが付与された処理対象の2つの撮像画像をグループDB203に格納する。S27の処理後、情報処理装置10は、S28の処理に移行する。
S28の処理では、情報処理装置10は、写真DB201に登録された全ての写真についてグループ化処理が行われたことを判断する。情報処理装置10は、写真DB201に登録された全ての写真についてグループ化処理が行われた場合には(S28,Yes)、図14の処理を終了する。一方、情報処理装置10は、写真DB201に登録された全ての写真についてグループ化処理が行われていない場合には(S28,No)、S22の処理に移行する。S22の処理に移行した情報処理装置10は、グループ化処理が未処理の写真を処理対象として、S22−S28の処理を繰り返す。
なお、情報処理装置10は、S26の、処理対象の撮像画像間の類似度が類似度閾値DB202から取得した閾値未満の場合において、処理対象の撮像画像のそれぞれにグループIDを付与するとしてもよい。例えば、S22−S28の処理を繰り返す場合において、グループIDが付与された単一の撮像画像と他の撮像画像とが類似度の閾値以上のときには、上記グループIDを用いてグループ分けが可能になる。
また、S28の、写真DB201に登録された全ての写真についてグループ化処理が行われたと判断する場合には、他の撮像画像との間で相関性を持たない上記グループIDが付与された単一の撮像画像を単独のグループに識別できる。なお、S28の、写真DB201に登録された全ての写真についてグループ化処理が行われたと判断する場合には、他の撮像画像との間で相関性を持たない単一の撮像画像について、グループIDを連番で付与し、グループDB203に登録するとしてもよい。
以上のグループ化処理により、情報処理装置10は、写真DB201に撮像画像として登録された写真群について、撮影時間間隔の経過と共に増加変更する類似度の閾値に基づいて、グループ分けを行うことができる。グループ分けされた写真群は、グループIDが付与されてグループDB203に格納される。情報処理装置10は、例えば、グループDB203に格納された写真群をグループID毎の一覧表示としてユーザに提示することができる。なお、類似度閾値DB202に格納された撮影時間間隔の経過と共に増加変更する類似度の閾値は、ユーザの撮影傾向を反映した撮影時間間隔に基づくものである。この
ため、情報処理装置10では、ユーザの撮影傾向を反映したグループ分けが提供できる。
(画像類似度判定処理)
次に、図15を参照して、図14のS25に示す画像類似度判定処理を説明する。図15は、画像類似度判定処理の一例を示すフローチャートである。なお、図15において、“入力画像A”とは、図14のS22の処理で処理対象として選定した2つの撮像画像の内、一方の撮像画像を表す。同様にして、“入力画像B”とは、図14のS22の処理で処理対象として選定した2つの撮像画像の内、他方の撮像画像を表す。
図15に例示のフローチャートにおいて、情報処理装置10は、入力画像Aについての特徴点を抽出する(S31)。また、情報処理装置10は、入力画像Bについての特徴点を抽出する(S32)。入力画像A、Bについての特徴点とは、例えば、それぞれの入力画像内に撮影された被写体の輪郭である。情報処理装置10は、それぞれの入力画像から抽出された特徴点をS33の処理に引き渡す。
S33の処理では、情報処理装置10は、入力画像Aにおける特徴点と入力画像Bにおける特徴点のマッチング度合(合致度)を算出する。マッチング度合は、例えば、パターンマッチングにより算出される。情報処理装置10は、例えば、入力画像Aと入力画像Bを重ね合わせ、それぞれの特徴点の画素値が同一になる数量を計数する。計数された画素値の同一になる数量は、主記憶部12の所定の領域に記憶される。そして、情報処理装置10は、例えば、入力画像Aの重ね合わせた位置を入力画像Bに対して相対的に左右方向および上下方向に順次ずらして上記画素値の同一となる数量の計数を繰り返す。情報処理装置10は、計数された画素値の同一になる数量と上下方向、左右方向の相対的なずらし量とを対応付けて記憶する。
情報処理装置10は、例えば、上記入力画像Aと入力画像Bとの間の重ね合わせによる左右方向および上下方向への画素値間の走査が終了した時点で、計数された特徴点の画素値が同一になる数量の中の、最大の一致数をマッチング度合に特定する。情報処理装置10は、入力画像Aと入力画像Bとの間で特定されたマッチング度合をS34の処理に引き渡す。
S34の処理では、情報処理装置10は、画像類似度判定に係る処理量を軽減させるため、S33の処理から引き渡されたマッチング度合が指定された閾値以上であるかを判定する。ここで、指定された閾値は、例えば、図14のS23の処理において、入力画像A、Bの撮影時間間隔に基づいて類似度閾値DB202から取得した閾値である。
情報処理装置10は、例えば、S33の処理から引き渡されたマッチング度合が、類似度閾値DB202から取得した閾値以上の場合には(S34、Yes)、該マッチング度合を入力画像A、B間の類似度として特定し、図15の処理を終了する。情報処理装置10においては、S35−S42の処理をスキップできるため、画像類似度判定処理に係る処理量が軽減される。この結果、情報処理装置10においては、図15に示す画像類似度判定処理の処理効率の向上が期待できる。
一方、情報処理装置10は、例えば、S33の処理から引き渡されたマッチング度合が、類似度閾値DB202から取得した閾値未満の場合には(S34、No)、S35の処理に移行する。S35−S42の処理では、入力画像A、Bから抽出された特徴点について、段階的に縮小、或いは、拡大してマッチング度合の算出が繰り返される。この結果、情報処理装置10においては、S35−S42の処理により、処理対象の撮像画像に対する画像類似度判定精度を高めることができる。
S35の処理では、情報処理装置10は、規定繰り返し回数204を参照し、S34の処理回数が規定の繰り返し回数に到達したかを判定する。規定繰り返し回数204には、入力画像A、Bから抽出された特徴点について縮小、或いは、拡大してマッチング度合を算出するための繰り返し回数が予め規定される。上記繰り返し回数の設定例として、例えば、「2回」、「5回」、「10回」といった値が例示される。
情報処理装置10は、S34の処理回数が規定の繰り返し回数に到達した場合には(S35,Yes)、S37の処理に移行する。一方、情報処理装置10は、S34の処理回数が規定の繰り返し回数に到達していない場合には(S35,No)、S36の処理に移行する。
S36の処理では、情報処理装置10は、規定縮小率205を参照し、入力画像Aを規定の縮小率で縮小し、特徴点を抽出する。縮小された入力画像Aについての特徴点の抽出は、S31の処理と同様である。情報処理装置10は、S36の処理で抽出された特徴点を入力画像Aの特徴点としてS33−S36の処理を繰り返す。
規定縮小率205には、入力画像Aを縮小、或いは、拡大するための処理倍率が予め規定される。処理倍率の設定例として、例えば、「0.9」、「1.1」といった値が例示される。なお、以下の説明では、規定縮小率205に規定される縮小、或いは、拡大するための処理倍率は、縮小率として説明する。
なお、S35−S36の処理において、例えば、規定繰り返し回数204の規定値が「10回」、規定縮小率205の規定縮小率が「0.9」とする。この場合においては、情報処理装置10では、入力画像間の特徴量についてのマッチングの比較が最大10回繰り返されることになる。また、情報処理装置10では、繰り返しの都度に一方の入力画像(例えば、入力画像A)が0.9倍に縮小された状態で、他方の入力画像Bとのマッチングの比較が行われることになる。
S31−S36の処理では、入力画像Bを固定倍率とし、入力画像Aを縮小しながら入力画像A,B間のマッチング度合を算出した。S37−S42の処理では、入力画像Aを固定倍率とし、入力画像Bを縮小しながら入力画像A,B間のマッチング度合を算出する。
情報処理装置10は、入力画像Bについての特徴点を抽出する(S37)。また、情報処理装置10は、入力画像Aについての特徴点を抽出する(S38)。情報処理装置10は、それぞれの入力画像から抽出された特徴点をS39の処理に引き渡す。
S39の処理では、情報処理装置10は、入力画像Bにおける特徴点と入力画像Aにおける特徴点のマッチング度合を算出する。マッチング度合の算出は、S33の処理と同様であるため、説明を省略する。情報処理装置10は、入力画像Bと入力画像Aとの間で特定されたマッチング度合をS40の処理に引き渡す。
S40の処理では、情報処理装置10は、S39の処理から引き渡されたマッチング度合が指定された閾値以上であるかを判定する。S34の処理と同様に、画像類似度判定に係る処理量を軽減させるためである。指定された閾値は、図14のS23の処理において、入力画像A、Bの撮影時間間隔に基づいて類似度閾値DB202から取得した閾値である。
情報処理装置10は、例えば、S39の処理から引き渡されたマッチング度合が、類似度閾値DB202から取得した閾値以上の場合には(S40、Yes)、該マッチング度
合を入力画像B、A間の類似度として特定し、図15の処理を終了する。情報処理装置10においては、S41−S42の処理をスキップできるため、画像類似度判定処理に係る処理量が軽減される。この結果、入力画像Aを固定倍率とし、入力画像Bを縮小しながら入力画像A,B間のマッチング度合を算出する場合においても、図15に示す画像類似度判定処理の処理効率の向上が期待できる。
一方、情報処理装置10は、例えば、S39の処理から引き渡されたマッチング度合が、類似度閾値DB202から取得した閾値未満の場合には(S40、No)、S41の処理に移行する。S41−S42の処理では、入力画像Aを固定倍率とし、入力画像Bを縮小しながら入力画像B、Aから抽出された特徴点について、段階的に縮小してマッチング度合の算出が繰り返される。情報処理装置10においては、S41−S42の処理により、処理対象の撮像画像に対する画像類似度判定精度を高めることができる。
S41の処理では、情報処理装置10は、規定繰り返し回数204を参照し、S40の処理回数が規定の繰り返し回数に到達したかを判定する。情報処理装置10は、S40の処理回数が規定の繰り返し回数に到達した場合には(S41,Yes)、図15の処理を終了する。一方、情報処理装置10は、S40の処理回数が規定の繰り返し回数に到達していない場合には(S41,No)、S42の処理に移行する。
S42の処理では、情報処理装置10は、規定縮小率205を参照し、入力画像Bを規定の縮小率で縮小し、特徴点を抽出する。縮小された入力画像Bについての特徴点の抽出は、S37の処理と同様である。情報処理装置10は、S42の処理で抽出された特徴点を入力画像Bの特徴点としてS39−S42の処理を繰り返す。
(類似度閾値変更処理)
次に、図16を参照して、図12のS2に示す類似度閾値変更処理を説明する。図16は、類似度閾値変更処理の一例を示すフローチャートである。図16の類似度閾値変更処理は、主にグループ変更指示受信部105、グループ閾値変更部106により行われる。なお、グループ分けの結果に対する変更指示は、例えば、2枚の撮像画像を指定し、指定された撮像画像に基づいてグループ統合、または、グループ離脱が指示されるものとする。
図16に例示のフローチャートにおいて、処理の開始は、グループDB203のグループ分けが行われた写真群への変更指示のときが例示できる。情報処理装置10は、グループ変更指示受信部105を介し、ユーザに提示されたグループ分けの結果に対する変更指示を受け付ける(S51)。グループ分けの結果に対する変更指示は、既に説明したように、2枚の撮像画像を指定し、指定された撮像画像に基づいてグループ統合、または、グループ離脱が指示される。情報処理装置10は、受け付けた変更指示内容である、指定された2枚の写真、グループ統合あるいはグループ離脱の指示を主記憶部12の所定の領域に一時的に記憶する。情報処理装置10は、上記変更指示内容をS52の処理に引き渡す。
S52の処理では、情報処理装置10は、S51の処理から引き渡された変更指示内容で指定された2枚の写真に基づいて撮像画像間の撮影時間間隔を算出する。そして、情報処理装置10は、類似度閾値DB202を参照し、上記撮影時間間隔の属する区間に対応する、グループ分けを行うための類似度の閾値を取得する。類似度閾値DB202から取得された上記閾値は、主記憶部12の所定の領域に一時的に記憶される。
S53の処理では、情報処理装置10は、変更が指示された2枚の写真の撮像画像に基づいて、撮像画像間の類似度を算出する。撮像画像間の類似度は、例えば、図15を用い
て説明した画像類似度判定処理により算出される。情報処理装置10は、変更が指示された2枚の写真から算出された撮像画像間の類似度をS54の処理に引き渡す。
S54の処理では、情報処理装置10は、S53の処理から引き渡された撮像画像間の類似度と、S52の処理で類似度閾値DB202から取得した類似度の閾値との差分値を算出する。情報処理装置10は、上記差分値が設定変更値テーブル207に登録された設定変更閾値より大きい場合には、指定された撮像画像間の類似度を、類似度閾値DB202に登録されたグループ分けを行うための類似度の閾値に反映させないためである。情報処理装置10は、算出された上記差分値を変更指示内容に対応付けて主記憶部12の所定の領域に一時的に記憶する。
S55の処理では、情報処理装置10は、変更指示内容から指定された2枚の写真についてのグループ統合、または、グループ離脱の指示を特定する。そして、情報処理装置10は、設定変更閾値テーブル207を参照し、上記指示に対応する撮影時間間隔の設定変更閾値を取得する。情報処理装置10は、取得した設定変更閾値をS56の処理に引き渡す。
S56の処理では、情報処理装置10は、S54の処理で算出された差分値とS55の処理から引き渡された設定変更閾値とを比較し、上記差分値と設定変更閾値との大小を判定する。情報処理装置10は、上記差分値が設定変更閾値以下の場合には(S56,Yes)、S57の処理に移行する。一方、情報処理装置10は、上記差分値が設定変更閾値を超える場合には(S56,No)、S58の処理に移行する。
S57の処理では、情報処理装置10は、グループ分けの変更指示が指定された2枚の写真の撮像画像に基づいて算出された類似度で、類似度閾値DB202に登録されたグループ分けのための類似度の閾値を書き換える。類似度閾値DB202では、上記撮像画像間の撮影時間間隔が属する区間の、グループ分けのための類似度の閾値が書き換えられる。S56の処理後、情報処理装置10は、S58の処理に移行する。
S58の処理では、情報処理装置10は、S51の処理で受け付けた変更指示内容に沿ってグループDB203に登録された写真群のグループ分けを書き換える。グループDB203の書換えにより、グループ分けの変更指示が指定された2枚の写真は、変更指示に沿って同一のグループに統合される。或いは、グループDB203の書換えにより、グループ分けの変更指示が指定された2枚の写真は、変更指示に沿って同一のグループから分離される。
なお、S58の処理においては、情報処理装置10は、例えば、書換え後の類似度閾値DB202に登録された類似度の閾値に基づいて、指定された撮像画像間の撮影時間間隔が属する区間の写真群について、再グループ化処理を行うとしてもよい。再グループ化処理により、指定された写真の属するグループについて、ユーザの意図を反映したグループ分けが可能になる。
以上の類似度閾値変更処理により、情報処理装置10は、グループDB203のグループ分けされた写真群について、グループ統合またはグループ分離といったユーザの意図を反映することができる。また、情報処理装置10は、指定された撮像画像間の類似度と指定された撮像画像間の撮影時間間隔が属する区間に対応する類似度の閾値との差分が設定変更閾値を超える場合には、類似度閾値DB202の書換えは行わない。この結果、類似度が低い撮像画像をグループ内に含めるといった指示や、類似度の高い撮像画像をグループから分離するといった指示による、グループ化処理の精度劣化を抑制することができる。
また、情報処理装置10は、指定された撮像画像間の類似度と指定された撮像画像間の撮影時間間隔が属する区間に対応する類似度の閾値との差分が設定変更閾値以下の場合には、類似度閾値DB202の書換えを行う。この結果、情報処理装置10は、類似度閾値DB202の書換え後のグループ化処理において、ユーザの意図を反映したグループ分けを提供することができる。
(変形例)
図14を用いて説明した、情報処理装置10のグループ化処理においては、撮影時間順に整列した写真の中から、連続する2つの写真を処理対象に設定し、グループ分けを行っていた。図14のグループ化処理の変形例として、例えば、情報処理装置10は、撮影時間順に隣り合っていない写真同士を処理対象としてグループ化処理を提供することが可能である。
例えば、撮影時間順に整列された写真群として撮像画像C1、C2、C3、C4、C5、…、CX(Xは、写真DB201に登録された写真数量)が存在しているとする。図14のグループ化処理では、撮像画像C1とC2、撮像画像C2とC3、撮像画像C3とC4、撮像画像C4とC5、…、撮像画像CX−1とCXといったように、連続する2つの写真を処理対象としてグループ化処理が行われた。変形例のグループ化処理においては、情報処理装置10は、例えば、撮像画像C1とC3、撮像画像C2とC4、撮像画像C3とC5、…、撮像画像CX−2とCXといったように、撮影時間順の順序について一つ間を開けた写真同士のグループ分けを行う。さらに、変形例の情報処理装置10は、上記順序について、2つ、3つ・・・・Xと、写真同士の撮影時間の間を増やし、グループ分けを行う。
なお、変形例のグループ化処理を提供する情報処理装置10においては、上記順序についての設定は、予めテーブル値(例えば、類似度比較回数206)として保持することができる。写真DB201に登録された写真群のグループ化を行うユーザは、例えば、情報処理装置10の性能、写真DB201に登録された写真数量から上記テーブル値を決定すればよい。
例えば、情報処理装置10は、類似度比較回数206に設定されたテーブル値が“1”の場合には、撮影時間順に連続する2つの写真を処理対象として、図14に示すグループ化処理を提供する。また、類似度比較回数206に設定されたテーブル値が“2”の場合には、情報処理装置10は、図14の処理に加え、上述した撮影時間順の順序について一つ間を開けた写真同士の類似度を判定しグループ分けを行う。
なお、類似度比較回数206に設定されたテーブル値が“2”以降については、情報処理装置10は、撮影時間順の順序について2、3、…、Xと間を増やした写真同士の類似度の判定処理を加えて、グループ分けを行うことになる。類似度比較回数206に設定されたテーブル値が“X”に場合には、例えば、写真DB201に登録された写真についての総当たりでの類似度の判定が行われ、グループ化処理が提供されることになる。
この結果、変形例のグループ化処理においては、例えば、同じ場所に留まって、撮影者を中心として撮影方向を様々に変化させながら撮影された複数枚に跨る景色の写真群を、同一のグループに纏めることが可能になる。なお、類似度比較回数206のテーブル値の増加に伴って、グループ分けを行うための類似度の判定処理の処理量が増加する。このため、写真DB201に登録された写真群のユーザは、例えば、情報処理装置10の性能、写真DB201に登録された写真数量から適切なテーブル値を選択し、選択したテーブル値を類似度比較回数206に設定すればよい。
図17に、変形例のグループ化処理のフローチャートを例示する。情報処理装置10は、例えば、図14に例示のS22の処理に替えて、S61−S62に示す処理を行う。また、変形例のグループ化処理においては、情報処理装置10は、図14に例示のS27の処理後に、S63の判定処理を行う。以下、S61−S63の処理について説明を行う。
図17に例示のフローチャートにおいて、S61の処理では、情報処理装置10は、撮影時間順に整列された写真の中から処理対象の写真を選択する。変形例のグループ化処理においては、上述したように、類似度比較回数が初回時には影時間順に整列された写真の中から連続する写真同士が処理対象に選択される。選択された写真は、S62の処理に引き渡される。
S62の処理では、情報処理装置10は、類似度比較回数を管理するためのカウンタ値を参照し、類似度比較回数に沿った処理対象の写真を撮影時間順に整列された写真の中から選択する。そして、類似度比較回数を管理するためのカウンタ値を“1”インクリメントする。なお、類似度比較回数を管理するためのカウンタ値の初期値は“1”である。なお、上記カウンタ値は、S28の処理により初期値にリセットされる。情報処理装置10は、類似度比較回数を管理するためのカウンタ値が初期値の場合には、S61の処理から引き渡された写真を対象にしてS23以降の処理を行う。
S63の処理では、情報処理装置10は、類似度比較回数206を参照し、類似度比較回数を管理するためのカウンタ値が類似度比較回数206に保持された設定値以上かを判定する。情報処理装置10は、類似度比較回数を管理するためのカウンタ値が類似度比較回数206に保持された設定値未満の場合には(S63、No)、S62の処理に移行する。S62の処理に移行した情報処理装置10は、類似度比較回数を管理するためのカウンタ値が類似度比較回数206に保持された設定値以上になるまで、S23−S27の処理を繰り返す。
一方、情報処理装置10は、類似度比較回数を管理するためのカウンタ値が類似度比較回数206に保持された設定値以上の場合には(S63、Yes)、S28の処理に移行する。S28の処理では、情報処理装置10は、写真DB201に登録された全ての処理対象写真を処理したしたかの判定が行われる。情報処理装置10は、写真DB201に登録された全ての処理対象写真を処理した場合には(S28,Yes)、図17の処理を終了する。一方、情報処理装置10は、写真DB201に登録された全ての処理対象写真を処理していない場合には(S28,No)、S61の処理に移行する。S61の処理に移行した情報処理装置10は、未処理の処理対象写真について、S62、S23−S278、S63の処理を繰り返す。
以上の変形例のグループ化処理により、情報処理装置10は、図18に示す撮影時間順に整列させた写真群をグループ分けすることができる。図18は、変形例のグループ化処理の効果を説明する説明図である。図18において、写真D1、写真E1、写真D2、写真D3、写真E2のそれぞれは、撮影時間順に整列されたものと想定する。写真D1、写真D2、写真D3は類似しており、写真E1、写真E2は類似しているとする。また、類似度比較回数206に保持された設定値は“3”とする。
変形例のグループ化処理により、情報処理装置10は、図18のR1で結び付けられた写真間(写真D1と写真E1、写真E1と写真D2、写真D2と写真D3、写真D3と写真E2)の類似度を判定する。また、情報処理装置10は、図18のR2で結び付けられた(一つ間を開けた)写真間(写真D1と写真D2、写真E1と写真D3、写真D2と写真E2)の類似度を判定する。また、情報処理装置10は、図18のR3で結び付けられ
た(二つ間を開けた)写真間(写真D1と写真D3、写真E1と写真E2)の類似度を判定する。
変形例のグループ化処理の結果、情報処理装置10は、類似する写真D1、写真D2、写真D3をグループgr1に纏めることができ、類似する写真E1、写真E2をグループgr2に纏めることができる。変形例のグループ化処理により、情報処理装置10は、撮影時間順に隣り合っていない写真同士についてもグループ分けを行うことができる。
《コンピュータが読み取り可能な記録媒体》
コンピュータその他の機械、装置(以下、コンピュータ等)に上記何れかの機能を実現させるプログラムをコンピュータ等が読み取り可能な記録媒体に記録することができる。そして、コンピュータ等に、この記録媒体のプログラムを読み込ませて実行させることにより、その機能を提供させることができる。
ここで、コンピュータ等が読み取り可能な記録媒体とは、データやプログラム等の情報を電気的、磁気的、光学的、機械的、または化学的作用によって蓄積し、コンピュータ等から読み取ることができる記録媒体をいう。このような記録媒体のうちコンピュータ等から取り外し可能なものとしては、例えばフレキシブルディスク、光磁気ディスク、CD−ROM、CD−R/W、DVD、ブルーレイディスク、DAT、8mmテープ、フラッシュメモリなどのメモリカード等がある。また、コンピュータ等に固定された記録媒体としてハードディスクやROM等がある。
《その他》
以上の実施形態は、さらに以下の付記と呼ぶ態様を含む。以下の各付記に含まれる構成要素は、他の付記に含まれる構成と組み合わせることができる。
(付記1)
複数の写真の中の関連する写真をグループ化するために、第1および第2の写真のそれぞれの撮影日時から求められた時間差分の増加にしたがって、グループ分けの基準になる閾値を増加させる設定部と、
前記第1の写真の特徴点と第2の写真の特徴点とを対応付けると共に、前記第1の写真と前記第2の写真との間で対応付けられた特徴点の数量が前記閾値を超えるか否かを判定する判定部と、
前記閾値を超えると判定された場合には、前記第1および第2の写真をグループ化するグループ化部と、
を備えることを特徴とする情報処理装置。
(付記2)
前記判定部は、第1の写真の特徴点と第2の写真の特徴点との間に対応付け可能な特徴点が存在しない場合には、前記第1の写真の倍率を変更した第1の倍率変更写真から特徴点を特定し、前記第1の倍率変更写真の特徴点と前記第2の写真の特徴点との間で対応付けられた特徴点の数量に基づいて前記閾値を超えるか否かを判定する、付記1に記載の情報処理装置。
(付記3)
前記判定部は、第1の写真の特徴点と第2の写真の特徴点との間に対応付け可能な特徴点が存在しない場合には、前記第2の写真の倍率を変更した第2の倍率変更写真から特徴点を特定し、前記第2の倍率変更写真の特徴点と前記第1の写真の特徴点との間で対応付けられた特徴点の数量に基づいて前記閾値を超えるか否かを判定する、付記1または2に記載の情報処理装置。
(付記4)
前記時間差分の変化に対して前記閾値が複数段階に設けられ、
前記設定部は、前記複数の写真のそれぞれの撮影日時から求められた時間差分に対応す
る数量分布の累積値が所定値を超えるごとに前記閾値を変化させる、付記1に記載の情報処理装置。
(付記5)
グループ化後の第3および第4の写真についてのグループ分離、または、グループ化の変更指示を受け付ける受付部と、
前記グループ分離、または、グループ化の変更指示を受け付けた前記第3および第4の写真間の特徴点の数量と、前記第3および第4の写真のそれぞれの撮影日時から求められた時間差分に対応したグループ分けの基準になる閾値との差分が所定値未満の場合に、前記閾値に前記第3および第4の写真間の特徴点の数量を反映する変更部と、をさらに備える請求項1から4の何れか一項に記載の情報処理装置。
(付記6)
コンピュータに、
複数の写真の中の関連する写真をグループ化するために、第1および第2の写真のそれぞれの撮影日時から求められた時間差分の増加にしたがって、グループ分けの基準になる閾値を増加させる設定ステップと、
前記第1の写真の特徴点と第2の写真の特徴点とを対応付けると共に、前記第1の写真と前記第2の写真との間で対応付けられた特徴点の数量が前記閾値を超えるか否かを判定する判定ステップと、
前記閾値を超えると判定された場合には、前記第1および第2の写真をグループ化するグループ化ステップと、
を実行させることを特徴とするグループ化プログラム。
(付記7)
前記判定ステップは、第1の写真の特徴点と第2の写真の特徴点との間に対応付け可能な特徴点が存在しない場合には、前記第1の写真の倍率を変更した第1の倍率変更写真から特徴点を特定し、前記第1の倍率変更写真の特徴点と前記第2の写真の特徴点との間で対応付けられた特徴点の数量に基づいて前記閾値を超えるか否かを判定する、付記6に記載のグループ化プログラム。
(付記8)
前記判定ステップは、第1の写真の特徴点と第2の写真の特徴点との間に対応付け可能な特徴点が存在しない場合には、前記第2の写真の倍率を変更した第2の倍率変更写真から特徴点を特定し、前記第2の倍率変更写真の特徴点と前記第1の写真の特徴点との間で対応付けられた特徴点の数量に基づいて前記閾値を超えるか否かを判定する、付記6または7に記載のグループ化プログラム。
(付記9)
前記時間差分の変化に対して前記閾値が複数段階に設けられ、
前記設定ステップは、前記複数の写真のそれぞれの撮影日時から求められた時間差分に対応する数量分布の累積値が所定値を超えるごとに前記閾値を変化させる、付記6に記載のグループ化プログラム。
(付記10)
グループ化後の前記第3よび第4写真についてのグループ分離、または、グループ化の変更指示を受け付ける受付ステップと、
前記グループ分離、または、グループ化の変更指示を受け付けた前記第3よび第4写真間の特徴点の数量と、前記第3および第4の写真のそれぞれの撮影日時から求められた時間差分に対応したグループ分けの基準になる閾値との差分が所定値未満の場合に、前記閾値に前記第3および第4の写真間の特徴点の数量を反映する変更ステップと、をさらに実行させる付記6から9の何れか一の付記に記載のグループ化プログラム。
(付記11)
コンピュータが、
複数の写真の中の関連する写真をグループ化するために、第1および第2の写真のそれぞれの撮影日時から求められた時間差分の増加にしたがって、グループ分けの基準になる閾値を増加させる設定ステップと、
前記第1の写真の特徴点と第2の写真の特徴点とを対応付けると共に、前記第1の写真と前記第2の写真との間で対応付けられた特徴点の数量が前記閾値を超えるか否かを判定する判定ステップと、
前記閾値を超えると判定された場合には、前記第1および第2の写真をグループ化するグループ化ステップと、
を実行することを特徴とするグループ化方法。
(付記12)
前記判定ステップは、第1の写真の特徴点と第2の写真の特徴点との間に対応付け可能な特徴点が存在しない場合には、前記第1の写真の倍率を変更した第1の倍率変更写真から特徴点を特定し、前記第1の倍率変更写真の特徴点と前記第2の写真の特徴点との間で対応付けられた特徴点の数量に基づいて前記閾値を超えるか否かを判定する、付記11に記載のグループ化方法。
(付記13)
前記判定ステップは、第1の写真の特徴点と第2の写真の特徴点との間に対応付け可能な特徴点が存在しない場合には、前記第2の写真の倍率を変更した第2の倍率変更写真から特徴点を特定し、前記第2の倍率変更写真の特徴点と前記第1の写真の特徴点との間で対応付けられた特徴点の数量に基づいて前記閾値を超えるか否かを判定する、付記11または12に記載のグループ化方法。
(付記14)
前記時間差分の変化に対して前記閾値が複数段階に設けられ、
前記設定ステップは、前記複数の写真のそれぞれの撮影日時から求められた時間差分に対応する数量分布の累積値が所定値を超えるごとに前記閾値を変化させる、付記11に記載のグループ化方法。
(付記15)
グループ化後の前記第3よび第4写真についてのグループ分離、または、グループ化の変更指示を受け付ける受付ステップと、
前記グループ分離、または、グループ化の変更指示を受け付けた前記第3よび第4写真間の特徴点の数量と、前記第3および第4の写真のそれぞれの撮影日時から求められた時間差分に対応したグループ分けの基準になる閾値との差分が所定値未満の場合に、前記閾値に前記第3および第4の写真間の特徴点の数量を反映する変更ステップと、をさらに実行する付記11から14の何れか一の付記に記載のグループ化方法。
10 情報処理装置
11 CPU
12 主記憶部
13 補助記憶部
14 入力部
15 出力部
16 通信部
101 撮影時間間隔取得部
102 類似度閾値設定部
103 画像類似度判定部
104 グループ化部
105 グループ変更指示部
106 グループ閾値変更部
201 写真DB
202 類似度閾値DB
203 グループDB
204 規定繰り返し回数
205 規定縮小率
206 類似度比較回数
207 設定変更閾値テーブル
B1 接続バス

Claims (5)

  1. 複数の写真の中の関連する写真をグループ化するために、第1および第2の写真のそれぞれの撮影日時から求められた時間差分の増加にしたがって、グループ分けの基準になる閾値を増加させる設定部と、
    前記第1の写真の特徴点と第2の写真の特徴点とを対応付けると共に、前記第1の写真と前記第2の写真との間で対応付けられた特徴点の数量が前記閾値を超えるか否かを判定する判定部と、
    前記閾値を超えると判定された場合には、前記第1および第2の写真をグループ化するグループ化部と、
    グループ化後の第3および第4の写真についてのグループ分離、または、グループ化の変更指示を受け付ける受付部と、
    前記グループ分離、または、グループ化の変更指示を受け付けた前記第3および第4の写真間の特徴点の数量と、前記第3および第4の写真のそれぞれの撮影日時から求められた時間差分に対応したグループ分けの基準になる閾値との差分が所定値未満の場合に、前記閾値に前記第3および第4の写真間の特徴点の数量を反映する変更部と、
    を備えることを特徴とする情報処理装置。
  2. 前記判定部は、第1の写真の特徴点と第2の写真の特徴点との間に対応付け可能な特徴点が存在しない場合には、前記第1の写真の倍率を変更した第1の倍率変更写真から特徴点を特定し、前記第1の倍率変更写真の特徴点と前記第2の写真の特徴点との間で対応付けられた特徴点の数量に基づいて前記閾値を超えるか否かを判定する、請求項1に記載の情報処理装置。
  3. 前記判定部は、第1の写真の特徴点と第2の写真の特徴点との間に対応付け可能な特徴点が存在しない場合には、前記第2の写真の倍率を変更した第2の倍率変更写真から特徴点を特定し、前記第2の倍率変更写真の特徴点と前記第1の写真の特徴点との間で対応付けられた特徴点の数量に基づいて前記閾値を超えるか否かを判定する、請求項1または2に記載の情報処理装置。
  4. 前記時間差分の変化に対して前記閾値が複数段階に設けられ、
    前記設定部は、前記複数の写真のそれぞれの撮影日時から求められた時間差分に対応する数量分布の累積値が所定値を超えるごとに前記閾値を変化させる、請求項1に記載の情報処理装置。
  5. コンピュータに、
    複数の写真の中の関連する写真をグループ化するために、第1および第2の写真のそれぞれの撮影日時から求められた時間差分の増加にしたがって、グループ分けの基準になる閾値を増加させる設定ステップと、
    前記第1の写真の特徴点と第2の写真の特徴点とを対応付けると共に、前記第1の写真と前記第2の写真との間で対応付けられた特徴点の数量が前記閾値を超えるか否かを判定する判定ステップと、
    前記閾値を超えると判定された場合には、前記第1および第2の写真をグループ化するグループ化ステップと、
    グループ化後の第3および第4の写真についてのグループ分離、または、グループ化の変更指示を受け付ける受付ステップと、
    前記グループ分離、または、グループ化の変更指示を受け付けた前記第3および第4の写真間の特徴点の数量と、前記第3および第4の写真のそれぞれの撮影日時から求められた時間差分に対応したグループ分けの基準になる閾値との差分が所定値未満の場合に、前記閾値に前記第3および第4の写真間の特徴点の数量を反映する変更ステップと、
    を実行させることを特徴とするグループ化プログラム。
JP2016156329A 2016-08-09 2016-08-09 情報処理装置及びグループ化プログラム Expired - Fee Related JP6738017B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2016156329A JP6738017B2 (ja) 2016-08-09 2016-08-09 情報処理装置及びグループ化プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016156329A JP6738017B2 (ja) 2016-08-09 2016-08-09 情報処理装置及びグループ化プログラム

Publications (2)

Publication Number Publication Date
JP2018025910A JP2018025910A (ja) 2018-02-15
JP6738017B2 true JP6738017B2 (ja) 2020-08-12

Family

ID=61194052

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016156329A Expired - Fee Related JP6738017B2 (ja) 2016-08-09 2016-08-09 情報処理装置及びグループ化プログラム

Country Status (1)

Country Link
JP (1) JP6738017B2 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7272988B2 (ja) * 2020-03-27 2023-05-12 トヨタ自動車株式会社 情報処理装置、情報処理方法、及び、システム
JP7521349B2 (ja) * 2020-09-23 2024-07-24 日本電気株式会社 解析装置、解析方法および解析プログラム
KR102760237B1 (ko) * 2021-09-01 2025-01-24 김병석 이미지 획득 장치 및 그 방법

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6606411B1 (en) * 1998-09-30 2003-08-12 Eastman Kodak Company Method for automatically classifying images into events
JP2006004132A (ja) * 2004-06-17 2006-01-05 Konica Minolta Holdings Inc 画像認識方法、画像認識装置および画像認識プログラム
JP5699595B2 (ja) * 2010-12-24 2015-04-15 株式会社ニコン 画像処理装置、画像分類プログラム、及び、画像表示プログラム
JP6280382B2 (ja) * 2013-03-08 2018-02-14 キヤノン株式会社 画像処理装置および画像処理方法
JP2015184760A (ja) * 2014-03-20 2015-10-22 株式会社ニコン 電子機器及び類似性判定用プログラム

Also Published As

Publication number Publication date
JP2018025910A (ja) 2018-02-15

Similar Documents

Publication Publication Date Title
EP2192498B1 (en) Image processing apparatus, image displaying method, and image displaying program
US8665345B2 (en) Video summary including a feature of interest
CN100563304C (zh) 对象确定装置、摄像装置以及监视装置
US9001230B2 (en) Systems, methods, and computer-readable media for manipulating images using metadata
JP5299912B2 (ja) 撮像装置及び画像ファイルのデータ構造
CN101510978A (zh) 图像显示设备、图像显示方法、程序和记录介质
JP6738017B2 (ja) 情報処理装置及びグループ化プログラム
US20140125831A1 (en) Electronic device and related method and machine readable storage medium
JP2014095979A (ja) 電子機器、画像データ処理方法およびプログラム
JP2015128259A (ja) 画像処理装置、撮影装置、撮影システム、画像処理方法、コンピュータプログラム
US20110050913A1 (en) Method of controlling digital photographing apparatus having memory, recording medium for recording the method, and digital photographing apparatus
JP2003141130A (ja) 画像検索装置
JP2015198300A (ja) 情報処理装置、撮像装置、画像管理システム
US9767587B2 (en) Image extracting apparatus, image extracting method and computer readable recording medium for recording program for extracting images based on reference image and time-related information
JP6521715B2 (ja) 撮像装置、その制御方法、および制御プログラム
US10447935B2 (en) Image generating apparatus, image generating method and computer readable recording medium for recording program for generating new image from images related to reference image
CN101595722A (zh) 多画幅摄影术
US8682834B2 (en) Information processing apparatus and information processing method
TWI424738B (zh) The method of adjusting the resolution
JP2017184021A (ja) コンテンツ提供装置及びコンテンツ提供プログラム
JP2013153321A (ja) 撮像装置及び撮像方法並びにプログラム
JP2011175427A (ja) 画像閲覧機能付き携帯電話装置
JP5916275B2 (ja) 撮像装置、方法、及び、プログラム
JP6362735B2 (ja) 撮像装置、撮像装置の制御方法及び制御プログラム
JP4227638B2 (ja) 画像処理装置及び方法、並びにプログラム

Legal Events

Date Code Title Description
RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20180706

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20180710

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20180912

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190307

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200210

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200218

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200324

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200616

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200629

R150 Certificate of patent or registration of utility model

Ref document number: 6738017

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees