JP2014229178A - 電子機器および表示制御方法、プログラム - Google Patents
電子機器および表示制御方法、プログラム Download PDFInfo
- Publication number
- JP2014229178A JP2014229178A JP2013109796A JP2013109796A JP2014229178A JP 2014229178 A JP2014229178 A JP 2014229178A JP 2013109796 A JP2013109796 A JP 2013109796A JP 2013109796 A JP2013109796 A JP 2013109796A JP 2014229178 A JP2014229178 A JP 2014229178A
- Authority
- JP
- Japan
- Prior art keywords
- group
- images
- face
- image
- representative
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/172—Classification, e.g. identification
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/30—Scenes; Scene-specific elements in albums, collections or shared content, e.g. social network photos or video
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Theoretical Computer Science (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Human Computer Interaction (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Controls And Circuits For Display Device (AREA)
- Processing Or Creating Images (AREA)
Abstract
【課題】所望の人物の画像を容易に取得できる電子機器を実現する。
【解決手段】実施形態によれば、電子機器は、検出手段、分類手段および表示手段を具備する。検出手段は、複数の画像から複数の顔画像を検出する。分類手段は、前記複数の顔画像に基づいて、第1顔に対応する1以上の画像を第1グループとし、第2顔に対応する1以上の画像を第2グループとする。表示手段は、前記第1グループに分類された画像の数がしきい値以上であり、前記第2グループに分類された画像の数が前記しきい値未満である場合、前記第1グループに関連づけられる代表画像を、前記第2グループに関連づけられる代表画像と区別可能に画面に表示する。
【選択図】図7
【解決手段】実施形態によれば、電子機器は、検出手段、分類手段および表示手段を具備する。検出手段は、複数の画像から複数の顔画像を検出する。分類手段は、前記複数の顔画像に基づいて、第1顔に対応する1以上の画像を第1グループとし、第2顔に対応する1以上の画像を第2グループとする。表示手段は、前記第1グループに分類された画像の数がしきい値以上であり、前記第2グループに分類された画像の数が前記しきい値未満である場合、前記第1グループに関連づけられる代表画像を、前記第2グループに関連づけられる代表画像と区別可能に画面に表示する。
【選択図】図7
Description
本発明の実施形態は、画像の管理を支援する電子機器、および該機器に適用される表示制御方法、プログラムに関する。
カメラ機能を有する各種の電子機器の普及や、記憶メディアの容量の増大によって、一般のユーザであっても、多数の画像ファイル(写真ファイル)を扱う機会が増えている。
そのため、ユーザが多数の画像ファイルから所望の画像ファイルを探し出すことを支援する各種の画像管理ソフトウェアが提案されている。このような画像管理ソフトウェアでは、例えば、複数の画像を、画像が生成された日付に基づく順序で表示することができる。ユーザは、日付を手掛かりにして、表示された複数の画像から所望の画像を探し出すことができる。
ところで、このような複数の画像は、各画像に含まれる顔画像に基づいて表示されることがある。例えば、複数の画像は、類似する顔画像(すなわち、同一の人物の顔画像)を含む画像群毎にまとめて表示される。ユーザは、顔画像(人物)を手掛かりにして、所望の人物の画像を探し出すことができる。
しかし、管理対象の多数の画像から多数の人物の顔画像が検出される場合には、それら多数の人物の顔画像から、手掛かりとなる顔画像を探し出すことが困難である可能性がある。
本発明の一形態は、所望の人物の画像を容易に取得できる電子機器および表示制御方法、プログラムを提供することを目的とする。
実施形態によれば、電子機器は、検出手段、分類手段および表示手段を具備する。検出手段は、複数の画像から複数の顔画像を検出する。分類手段は、前記複数の顔画像に基づいて、第1顔に対応する1以上の画像を第1グループとし、第2顔に対応する1以上の画像を第2グループとする。表示手段は、前記第1グループに分類された画像の数がしきい値以上であり、前記第2グループに分類された画像の数が前記しきい値未満である場合、前記第1グループに関連づけられる代表画像を、前記第2グループに関連づけられる代表画像と区別可能に画面に表示する。
以下、実施の形態について図面を参照して説明する。
図1は、一実施形態に係る電子機器の外観を示す斜視図である。この電子機器は、タブレットコンピュータ、ノートブック型パーソナルコンピュータ、スマートフォン、PDA、またはデジタルカメラのような各種電子機器に内蔵される組み込みシステムとして実現され得る。以下では、この電子機器がタブレットコンピュータ10として実現されている場合を想定する。タブレットコンピュータ10は、タブレットまたはスレートコンピュータとも称される携帯型電子機器であり、図1に示すように、本体11とタッチスクリーンディスプレイ17とを備える。タッチスクリーンディスプレイ17は、本体11の上面に重ね合わせるように取り付けられている。
図1は、一実施形態に係る電子機器の外観を示す斜視図である。この電子機器は、タブレットコンピュータ、ノートブック型パーソナルコンピュータ、スマートフォン、PDA、またはデジタルカメラのような各種電子機器に内蔵される組み込みシステムとして実現され得る。以下では、この電子機器がタブレットコンピュータ10として実現されている場合を想定する。タブレットコンピュータ10は、タブレットまたはスレートコンピュータとも称される携帯型電子機器であり、図1に示すように、本体11とタッチスクリーンディスプレイ17とを備える。タッチスクリーンディスプレイ17は、本体11の上面に重ね合わせるように取り付けられている。
本体11は、薄い箱形の筐体を有している。タッチスクリーンディスプレイ17には、フラットパネルディスプレイと、フラットパネルディスプレイの画面上のペンまたは指の接触位置を検出するように構成されたセンサとが組み込まれている。フラットパネルディスプレイは、例えば、液晶表示装置(LCD)であってもよい。センサとしては、例えば、静電容量方式のタッチパネル、電磁誘導方式のデジタイザなどを使用することができる。
また、本体11には、本体11の背面側から画像(写真)を撮影するためのカメラモジュールが設けられている。
また、本体11には、本体11の背面側から画像(写真)を撮影するためのカメラモジュールが設けられている。
図2は、タブレットコンピュータ10のシステム構成の例を示す図である。
タブレットコンピュータ10は、図2に示されるように、CPU101、システムコントローラ102、主メモリ103、グラフィクスコントローラ104、BIOS−ROM105、不揮発性メモリ106、無線通信デバイス107、エンベデッドコントローラ(EC)108、カメラモジュール109、カードコントローラ110、等を備える。
タブレットコンピュータ10は、図2に示されるように、CPU101、システムコントローラ102、主メモリ103、グラフィクスコントローラ104、BIOS−ROM105、不揮発性メモリ106、無線通信デバイス107、エンベデッドコントローラ(EC)108、カメラモジュール109、カードコントローラ110、等を備える。
CPU101は、タブレットコンピュータ10内の各種モジュールの動作を制御するプロセッサである。CPU101は、ストレージデバイスである不揮発性メモリ106から主メモリ103にロードされる各種ソフトウェアを実行する。これらソフトウェアには、オペレーティングシステム(OS)201、および各種アプリケーションプログラムが含まれている。アプリケーションプログラムには、画像管理プログラム202が含まれている。この画像管理プログラム202は、例えば、カメラモジュール109を用いて撮影された画像(画像ファイル)、不揮発性メモリ106に格納された画像、外部記憶媒体や外部記憶装置から取り込まれた画像(インポートされた画像)等を管理する機能を有する。
また、CPU101は、BIOS−ROM105に格納された基本入出力システム(BIOS)も実行する。BIOSは、ハードウェア制御のためのプログラムである。
システムコントローラ102は、CPU101のローカルバスと各種コンポーネントとの間を接続するデバイスである。システムコントローラ102には、主メモリ103をアクセス制御するメモリコントローラも内蔵されている。また、システムコントローラ102は、PCI EXPRESS規格のシリアルバスなどを介してグラフィクスコントローラ104との通信を実行する機能も有している。
グラフィクスコントローラ104は、本タブレットコンピュータ10のディスプレイモニタとして使用されるLCD17Aを制御する表示コントローラである。このグラフィクスコントローラ104によって生成される表示信号はLCD17Aに送られる。LCD17Aは、表示信号に基づいて画面イメージを表示する。このLCD17A上にはタッチパネル17Bが配置されている。
無線通信デバイス107は、無線LANまたは3G移動通信などの無線通信を実行するように構成されたデバイスである。EC108は、電力管理のためのエンベデッドコントローラを含むワンチップマイクロコンピュータである。EC108は、ユーザによるパワーボタンの操作に応じて本タブレットコンピュータ10を電源オンまたは電源オフする機能を有している。
カメラモジュール109は、例えば、ユーザが、タッチスクリーンディスプレイ17の画面上に表示されたボタン(グラフィカルオブジェクト)をタッチ(タップ)したことに応じて、画像を撮影する。
カードコントローラ110は、カードスロット25に挿入された記録メディア25Aとの通信を実行する。カードコントローラ110は、例えば、記録メディア25AであるSDカードに格納された画像ファイルを読み出して不揮発性メモリ106に格納する際の通信等を実行する。
上述したように、タブレットコンピュータ10によって実行される画像管理プログラム202は、複数の画像(画像ファイル)を管理する機能を有する。画像管理プログラム202は、例えば、複数の画像を人物に基づいて分類することができる。
例えば、図3に示すように、複数の画像の各々に含まれる顔画像を用いて、同一の人物の顔であると推定される顔画像を含む画像が、同一のグループ(クラスタ)に分類される。グループ31に属する複数の画像は、代表画像31Aの人物の顔であると推定される顔画像を含む画像である。グループ32に属する複数の画像は、代表画像32Aの人物の顔であると推定される顔画像を含む画像である。また、グループ33に属する複数の画像は、代表画像33Aの人物の顔であると推定される顔画像を含む画像である。同様に、グループ34,35,36に属する画像は、代表画像34A,35A,36Aの人物の顔であると推定される顔画像を含む画像である。
図4に示すように、図3の分類結果に基づいて、画像が分類されたグループ毎の代表画像(人物)のリスト41を画面に表示することもできる。この代表画像のリスト41は、複数の画像が分類された複数のグループ31〜36に関連付けられる複数の代表画像(例えば、顔画像)31A〜36Aを含む。
しかし、多数の画像から検出された人物の代表画像31A〜33Aと、他の人物に比べて極端に少ない数の画像(例えば、1枚だけ)から検出された人物の代表画像34A〜36Aとが、区別されずにリスト41に表示されている場合、複数の画像を人物(顔画像)に基づいて分類したにも関わらず、煩雑な内容のリスト41が表示されてしまう可能性がある。例えば、リスト41に多数の人物(例えば、100人)の代表画像が含まれる場合には、リスト41から所望の人物の代表画像を探し出すことは、ユーザにとって非常に煩わしい作業となり得る。
そのため本実施形態では、図5に示すように、複数の画像が分類された複数のグループ31〜36に関連付けられる複数の代表画像31A〜36Aを、各グループに分類された画像の数に基づいて表示する。例えば、複数のグループ31〜36に関連付けられる複数の代表画像31A〜36Aが、複数のグループ31〜36の内、分類された画像の数がしきい値以上であるグループ(第1グループ)と、分類された画像の数が当該しきい値未満であるグループ(第2グループ)とで、ユーザが識別できるように表示される。
図5に示すリスト42では、分類された画像の数が2枚以上であるグループ31〜33と、分類された画像の数が2枚未満(すなわち、1枚)であるグループ34〜36とが識別可能に表示されている。より具体的には、分類された画像の数が2枚以上であるグループ31〜33に関連付けられる代表画像31A〜33Aは、第1階層(上位層)に表示されている。そして、分類された画像の数が2枚未満であるグループ34〜36に関連付けられる代表画像34A〜36Aは第1階層には表示されず、その代わりに、グループ34〜36をまとめて表す「その他」の代表画像39が第1階層に表示されている。
さらに、分類された画像の数が5枚以上であるグループ31,32に関連付けられる代表画像31A,32Aは、分類された画像の数が5枚未満であるグループ33に関連付けられる代表画像33A、およびグループ34,35,36をまとめて表す「その他」の代表画像39よりも大きく表示されている。
リスト42に含まれる代表画像31A,32A,33Aの内の一つが選択されたことに応じて、画面には、選択された代表画像に関連付けられるグループに属する画像の一覧が表示される。
また、図6に示すように、「その他」を示す代表画像39が選択されたことに応じて、画面には、当該代表画像39に対応するグループ34,35,36(すなわち、代表画像39にまとめられたグループ34,35,36)に関連付けられる代表画像34A,35A,36Aを含む第2階層(下位層)のリスト43が表示される。つまり、グループ34,35,36に関連付けられる代表画像34A,35A,36Aは、「その他」を示す代表画像39の下位層に含まれている。そして、リスト43に含まれる代表画像34A,35A,36Aの内の一つが選択されたことに応じて、画面には、選択された代表画像に関連付けられるグループに属する画像が表示される。
分類された画像の数が多いグループは、ユーザ自身の画像を含むグループや、ユーザにとって身近な(重要な)人物のグループ(例えば、家族や友人のグループ)であることが想定される。また、分類された画像の数が少ないグループは、ユーザとの関連性が低い人物のグループ(例えば、たまたま写り込んだ人のグループ)であることが想定される。そのため、上述したように、グループに分類された画像の数に基づいて、ユーザが探し出す可能性が高い人物(グループ)の代表画像を、そうでないグループ(人物)の代表画像よりも目立つように表示する。これにより、ユーザは、所望の人物の画像を容易に取得することができる。
図7は、本タブレットコンピュータ10によって実行される画像管理プログラム202の機能構成の例を示す。画像管理プログラム202は、例えば、顔検出部51、特徴量算出部52、クラスタリング部53、評価値算出部54、表示形態決定部55、および表示制御部56を備える。画像管理プログラム202は、コンピュータ10に内蔵または外部接続される記憶装置や記憶メディア、コンピュータ10にネットワークを介して接続される別のコンピュータ内の記憶装置、等に格納される複数の画像(写真)を管理対象とすることができる。
顔検出部51は、管理対象の複数の画像(写真)から複数の顔画像を検出する。顔画像は、1つの画像に複数含まれ得、また1つの画像に1つも含まれないこともある。顔検出部51は、例えば、画像に含まれる複数の画素の画素値を用いて、当該画像内の、顔画像が含まれると推定される領域(顔画像領域)を検出する。この顔画像領域は、例えば、顔画像に外接する矩形領域である。
顔検出部51は、検出された顔画像領域を示すデータを特徴量算出部52に出力する。この顔画像領域を示すデータは、例えば、その顔画像領域の、画像(写真)上での位置やサイズを含む。
特徴量算出部52は、検出された顔画像領域に含まれる画素の画素値を用いて、当該顔画像の特徴量(例えば、顔画像領域内の物体の色や形状を表す特徴量)を算出する。顔検出部51によって複数の画像から複数の顔画像が検出されている場合、特徴量算出部52は、それら複数の顔画像に対応する複数の特徴量を算出する。
また、特徴量算出部52は、算出された特徴量を用いて、顔画像の正面度と鮮明度とを算出する。顔画像の正面度は、顔画像が正面を向いている度合いを示し、例えば、真正面を向いている顔画像では高い値が設定され、横向きの顔画像では低い値が設定される。顔画像の鮮明度は、顔画像の鮮明さを示し、例えば、焦点が合っている顔画像では高い値が設定され、焦点が合っていない顔画像(いわゆる、ピンボケの顔画像)では低い値が設定される。
クラスタリング部53は、検出された複数の顔画像に基づいて、それら複数の顔画像を含む複数の画像(写真)を複数のグループ(クラスタ)31〜36に分類する。より具体的には、クラスタリング部53は、特徴量算出部52によって算出された顔画像の特徴量に基づいて、各々が顔画像を含む複数の画像(写真)をクラスタリングする。クラスタリング部53は、複数の顔画像を類似する顔画像毎に分類することによって、その顔画像を含む画像(写真)をグループ31〜36に分類する。つまり、クラスタリング部53は、同一の人物の顔であると推定される顔画像含む画像(写真)を同一のグループに分類する。例えば、クラスタリング部53は、検出された複数の顔画像に基づいて、第1顔(第1の人物の顔)に対応する1以上の画像を第1グループとし、第2顔(第2の人物の顔)に対応する1以上の画像を第2グループとし、……第n顔(第nの人物の顔)に対応する1以上の画像を第nグループとする。
なお、複数の顔画像を含む1つの画像は、複数のグループに分類され得る。クラスタリング部53は、例えば、複数の画像の内の第1画像(写真)から、第1顔に対応する画像と第2顔に対応する画像とが検出された場合、この第1画像(写真)を、第1グループと、第2グループとの双方に分類する。また、クラスタリング部53は、複数の画像の内の第2画像(写真)から、第1顔に対応する画像、または第2顔に対応する画像の少なくとも一方が検出された場合であっても、第1顔に対応する画像、または第2顔に対応する画像の撮影状態によっては、第1グループ、または第2グループに分類しなくてもよい。この第1顔に対応する画像、または第2顔に対応する画像の撮影状態とは、第1顔に対応する画像、または第2顔に対応する画像の位置、またはフォーカス(例えば、顔に焦点が合っていて、鮮明であるかどうか)の少なくとも一方である。この撮影状態は、例えば、後述する評価値算出部54によって算出される顔画像の評価値に基づいて判定されてもよい。クラスタリング部53は、例えば、第1顔に対応する画像の評価値がしきい値未満である場合に、第2画像を第1グループに分類せず、また第2顔に対応する画像の評価値がしきい値未満である場合に、第2画像を第2グループに分類しない。
クラスタリング部53は、分類結果に基づき、各グループに対応するグループデータのエントリを生成する。なお、クラスタリング部53は、予め用意された人物毎の顔画像の特徴量を用いて、各グループに対応する人物を認識してしてもよい。
図8は、グループデータ(クラスタデータとも称する)の一構成例を示す。グループデータは、複数のグループ(クラスタ)に対応する複数のエントリを含む。複数のグループのそれぞれには、例えば、同一の人物であると推定された顔画像を含む、1以上の画像(写真)が分類されている。したがって、あるグループには、ある人物が関連付けられているとも云える。
各エントリは、例えば、グループ番号、名前、画像数、等を含む。あるグループに対応するエントリにおいて、「グループ番号」は、そのグループに付与された番号(識別情報)を示す。「名前」は、そのグループに付与された名前、例えば、当該グループに関連付けられる人物の名前を示す。「画像数」は、そのグループに分類された画像の数を示す。
なお、顔画像の検出および分類(クラスタリング)の方法は、上述した方法に限らず、あらゆる方法を利用することができる。
次いで、評価値算出部54は、顔画像の評価値(以下、顔画像評価値とも称する)とグループの評価値(以下、グループ評価値とも称する)とを算出する。より具体的には、評価値算出部54は、顔画像の位置、サイズ、正面度、鮮明度、等を用いて、顔画像評価値を算出する。顔画像評価値は、例えば、画像(写真)内での顔画像の重要性(例えば、中央付近に写っているか、大きなサイズで写っているか)や、顔画像の質(例えば、正面を向いているか、鮮明に写っているか)に基づく値である。したがって、例えば、画像上での位置が中央(中心)付近である顔画像、画像上でのサイズが大きい顔画像(所定サイズ以上の顔画像)、正面度が高い顔画像、鮮明度が高い顔画像、等には、高い顔画像評価値が設定される。
また、評価値算出部54は、グループに属する画像の枚数と、当該グループに属する画像内の顔画像の顔画像評価値とを用いて、グループ評価値を算出する。グループ評価値は、画像を管理しているユーザにとってのグループの重要性や、グループに属する画像の質を表す。したがって、グループ評価値には、例えば、グループに分類された画像の数が多く、またそのグループに属する画像内の顔画像の顔画像評価値が高いほど、高い値が設定される。なお、グループに含まれる画像内に複数の顔画像が含まれる場合には、それら複数の顔画像の内、そのグループに対応する顔画像(そのグループに対応する人物の顔画像)の顔画像評価値が用いられる。また、算出されたグループ評価値は、上述したグループデータ内の対応するエントリに含まれてもよい。
特徴量算出部54とクラスタリング部53と評価値算出部54とは、上述した処理結果を用いて顔画像データのエントリを生成する。
図9は、顔画像データの一構成例を示す。顔画像データは、複数の顔画像に対応する複数のエントリを含む。各エントリは、例えば、顔画像ID、画像ID、グループ番号、位置、サイズ、正面度、鮮明度、評価値、等を含む。ある顔画像に対応するエントリにおいて、「顔画像ID」は、その顔画像に付与された識別情報を示す。「画像ID」は、その顔画像を含む画像の識別情報を示す。「グループ番号」は、その顔画像を含む画像が分類されたグループの番号(識別情報)を示す。
「位置」は、その顔画像の画像上での位置(例えば、X座標とY座標)を示す。「サイズ」は、その顔画像の画像上でのサイズを示す。この「サイズ」は、例えば、顔画像を含む矩形(顔画像を内包する矩形)のサイズを示す。「正面度」は、顔画像が正面を向いている度合いを示す。「鮮明度」は、その顔画像の鮮明さを示す。「鮮明度」には、例えば、フォーカス(焦点)が合っている度合い、ノイズが生じている度合い、コントラスト、等のような画質に関する種々の値に基づく値が設定される。「評価値」は、その顔画像の評価値を示す。「評価値」には、例えば、「位置」、「サイズ」、「正面度」、「鮮明度」に示される値等に基づいて算出された顔画像評価値が設定される。
表示形態決定部55は、複数の画像が分類された複数のグループ31〜36に関連付けられる複数の代表画像の表示形態を、グループデータと顔画像データの少なくとも一方を用いて決定する。グループに関連付けられる代表画像は、例えば、そのグループに属する複数の画像に含まれる複数の顔画像の内の一つの顔画像である。また、この代表画像は、グループ毎に予め決定された画像であってもよい。表示形態決定部55は、例えば、複数の画像が分類された複数のグループ31〜36に関連付けられる複数の代表画像の表示形態を、各グループに分類された画像の数と、各グループのグループ評価値の少なくとも一方に基づいて決定する。
表示形態決定部55は、図5を参照して上述したように、例えば、複数のグループ31〜36に関連付けられる複数の代表画像31A〜36Aが、複数のグループ31〜36の内、分類された画像の数がしきい値以上である第1グループと、分類された画像の数が当該しきい値未満である第2グループとで識別可能である表示形態を決定する。つまり、表示形態決定部55は、第1グループに分類された画像の数がしきい値以上であり、第2グループに分類された画像の数がしきい値未満である場合、第1グループに関連づけられる代表画像が、第2グループに関連づけられる代表画像と区別可能に画面に表示される表示形態を決定する。
より具体的には、表示形態決定部55は、例えば、分類された画像の数が第1しきい値(図5の例では、2枚)以上であるグループ31〜33に関連付けられる代表画像31A〜33Aが、第1階層(上位層)に表示されることを決定する。そして、表示形態決定部55は、分類された画像の数が当該第1しきい値(2枚)未満であるグループ34〜36に関連付けられる代表画像34A〜36Aが、第1階層に表示されず、この第1階層よりも下位の第2階層(下位層)に表示されることを決定し、また、グループ34〜36をまとめて表す「その他」の画像39が第1階層に表示されることを決定する。
さらに、表示形態決定部55は、分類された画像の数が第2しきい値(図5の例では、5枚)以上であるグループ31,32に関連付けられる代表画像31A,32Aが、分類された画像の数が第2しきい値(5枚)未満であるグループ33に関連付けられる代表画像33A、およびグループ34〜36をまとめて表す「その他」の画像39よりも大きく表示されることを決定する。
なお、表示形態決定部55は、グループに分類された画像の数ではなく、評価値算出部54によって算出されたグループ評価値を用いて、グループに関連付けられる代表画像の表示形態を決定してもよい。表示形態決定部55は、例えば、複数のグループ31〜36に関連付けられる複数の代表画像31A〜36Aが、複数のグループ31〜36の内、グループ評価値がしきい値以上である第1グループと、グループ評価値が当該しきい値未満である第2グループとで識別可能である表示形態を決定する。つまり、表示形態決定部55は、第1グループのグループ評価値がしきい値以上であり、第2グループのグループ評価値がしきい値未満である場合、第1グループに関連づけられる代表画像が、第2グループに関連づけられる代表画像と区別可能に画面に表示される表示形態を決定する。
より具体的には、表示形態決定部55は、例えば、グループ評価値が第1しきい値以上であるグループ31〜33に関連付けられる代表画像31A〜33Aが、第1階層(上位層)に表示されることを決定する。そして、表示形態決定部55は、グループ評価値が当該第1しきい値未満であるグループ34〜36に関連付けられる代表画像34A〜36Aが第2階層(下位層)に表示されることを決定し、また、グループ34〜36をまとめて表す「その他」の画像39が第1階層に表示されることを決定する。
さらに、表示形態決定部55は、グループ評価値が第2しきい値以上であるグループ31,32に関連付けられる代表画像31A,32Aが、グループ評価値が第2しきい値(5枚)未満であるグループ33に関連付けられる代表画像33A、およびグループ34〜36をまとめて表す「その他」の画像39よりも大きく表示されることを決定する。
表示制御部56は、表示形態決定部55によって決定された表示形態に基づいて、各グループに関連付けられる代表画像(代表顔画像)のリストを表示する。表示制御部56は、例えば、表示形態決定部55によって決定された階層およびサイズに基づき、各グループに関連付けられる代表画像の少なくとも一部を含む、第1階層のリスト42を表示する。
なお、グループ31〜36に関連付けられる代表画像31A〜36Aの一覧は、グループ評価値がしきい値以上である第1グループと、グループ評価値が当該しきい値未満である第2グループとが識別できれば、どのような表示形態で表示されもよい。また、このグループ評価値には、各グループに属する画像の数が用いられてもよい。
第1グループと第2グループとを識別するための表示形態には、例えば、第1グループの代表画像が第2グループの代表画像よりも目立つように、第1グループの代表画像を上位層に表示し、第2グループの代表画像を下位層に表示すること、第1グループの代表画像を第1サイズで表示し、第2グループの代表画像を第1サイズよりも小さい第2サイズで表示すること、第1グループの代表画像上に所定のマークや枠を描画すること、第1グループの代表画像にエフェクトを施すこと、第1グループの代表画像だけを表示し、第2グループの代表画像を表示しないこと、第1グループの代表画像を含むリストと第2グループの代表画像を含むリストとを分離して表示すること、等が含まれる。表示形態決定部55は、代表画像31A〜36Aを表示するために、このような表示形態の少なくとも一つを用いることを決定する。
さらに、図10に示すように、表示形態決定部55と表示制御部56とは、グループ評価値がしきい値以上であるグループ31,32(第1グループ)に関連付けられる代表画像31A,32Aを、画面45(LCD17Aの画面に表示されるウィンドウ)の中心を含む第1領域内に表示し、グループ評価値が当該しきい値未満である33〜36(第2グループ)に関連付けられる代表画像33A〜36Aを、その第1領域を除く領域に表示してもよい。表示形態決定部55と表示制御部56とは、例えば、グループ評価値がしきい値以上であるグループ31,32に関連付けられる代表画像31A,32Aを、画面45の中心付近に大きく表示し、グループ評価値が当該しきい値未満である33〜36に関連付けられる代表画像33A〜36Aを、グループ評価値が小さいほど画面45の中心から離れた位置に表示する。代表画像33A〜36Aはさらに、グループ評価値が小さいほど小さなサイズで表示されてもよい。
また、特徴量算出部52は、1つの画像(写真)から複数の顔画像が検出される場合に、1つの画像から検出される顔画像(人物)の組合せを検出してもよい。表示形態決定部55と表示制御部56とは、上記の画面45において、1つの画像から検出される頻度が高い顔画像の組合せ(すなわち、1つの画像内での共起確率が高い顔画像の組合せ)に基づいて、その組合せの顔画像に対応するグループに関連付けられる代表画像を、画面45上の近い位置(例えば、隣り合う位置)に表示することができる。
これにより、グループ間の関係、すなわち、グループに対応する人物間の関係を考慮して、代表画像が画面45に表示されることにより、所望の人物をより探し出しやすくなるので、その所望の人物の画像を容易に取得することができる。
これにより、グループ間の関係、すなわち、グループに対応する人物間の関係を考慮して、代表画像が画面45に表示されることにより、所望の人物をより探し出しやすくなるので、その所望の人物の画像を容易に取得することができる。
次いで、図11のフローチャートを参照して、タブレットコンピュータ10によって実行される顔クラスタリング処理の手順の例を説明する。
まず、顔検出部51は、複数の画像(複数の写真)の各々に含まれている顔画像を検出する(ブロックB11)。特徴量算出部52は、検出された顔画像に含まれる画素の画素値を用いて、当該顔画像の特徴量を算出する(ブロックB12)。特徴量算出部52は、顔検出部51によって複数の画像から複数の顔画像が検出されている場合、それら複数の顔画像に対応する複数の特徴量を算出する。
そして、クラスタリング部53は、算出された特徴量に基づいて、複数の顔画像をクラスタリングする(ブロックB13)。クラスタリング部53は、複数の顔画像を、類似する顔画像毎のクラスタ(グループ)に分類する、つまり、同一の人物の顔であると推定される顔画像を同一のクラスタに分類する。
また、図12のフローチャートを参照して、タブレットコンピュータ10によって実行される表示制御処理の手順の例を説明する。ここでは、各クラスタ(グループ)に、1枚以上の画像が分類されていることを想定する。
まず、表示形態決定部55は、処理対象のクラスタ(グループ)の番号を示す変数nに0を設定する(ブロックB21)。つまり、表示形態決定部55は、第n(=0)クラスタを処理対象のクラスタに決定する。
そして、表示形態決定部55は、第nクラスタに含まれる顔画像が1枚であるか否かを判定する(ブロックB22)。第nクラスタに含まれる顔画像が1枚である場合(ブロックB22のYES)、表示形態決定部55は、第nクラスタを、第2階層(下位層)に表示されるアイテムに追加する(ブロックB23)。つまり、表示形態決定部55は、第nクラスタに関連付けられる代表画像を、第2階層に表示することを決定する。
一方、第nクラスタに含まれる顔画像が1枚でない場合(ブロックB22のNO)、表示形態決定部55は、第nクラスタに含まれる画像の枚数がしきい値よりも多いか否かを判定する(ブロックB24)。
第nクラスタに含まれる画像の枚数がしきい値よりも多い場合(ブロックB24のYES)、表示形態決定部55は、第nクラスタを、第1サイズで第1階層に表示されるアイテムに追加する(ブロックB25)。つまり、表示形態決定部55は、第nクラスタに関連付けられる代表画像を、第1サイズで第1階層に表示することを決定する。
第nクラスタに含まれる画像の枚数がしきい値以下である場合(ブロックB24のNO)、表示形態決定部55は、第nクラスタを、第1サイズよりも小さい第2サイズで、第1階層に表示されるアイテムに追加する(ブロックB26)。つまり、表示形態決定部55は、第nクラスタに関連付けられる代表画像を、第2サイズで第1階層に表示することを決定する。
次いで、表示形態決定部55は、nに1を加算し(ブロックB27)、このnがクラスタの総数未満であるか否かを判定する(ブロックB28)。nがクラスタの総数未満である場合(ブロックB27のYES)、ブロックB22に戻り、新たな第nクラスタを処理する。
一方、nがクラスタの総数以上である場合(ブロックB28のNO)、すなわち、全てのクラスタの処理が完了している場合、表示制御部56は、決定された階層およびサイズに基づいて、各クラスタに関連付けられる代表画像(顔画像)のリストを表示する(ブロックB29)。
以上説明したように、本実施形態によれば、所望の人物の画像を容易に取得することができる。分類された画像の数が多いグループ(またはグループ評価値が高いグループ)は、ユーザ自身の画像を含むグループや、ユーザにとって身近な(重要な)人物のグループ(例えば、家族や友人のグループ)であることが想定される。また、分類された画像の数が少ないグループは、ユーザとの関連性が低い人物のグループ(例えば、たまたま写り込んだ人のグループ)であることが想定される。
本実施形態の顔検出部51は、複数の画像から複数の顔画像を検出する。クラスタリング部53は、検出された複数の顔画像に基づいて、複数の画像を複数のグループに分類する。そして、表示形態決定部55および表示制御部56は、複数のグループの内、分類された画像の数がしきい値以上である第1グループと、分類された画像の数が前記しきい値未満である第2グループとが区別されるように、複数のグループに関連付けられる複数の代表画像を画面に表示する。
このように、本実施形態では、各グループに分類された画像の数に基づいて、対応する代表画像が区別できるように、例えば、ユーザが探し出す可能性が高い人物(第1グループ)の代表画像を、そうでない人物(第2グループ)の代表画像よりも目立つように表示する。これにより、ユーザは、所望の人物の画像を容易に取得することができる。
なお、図11および図12のフローチャートで説明した本実施形態の処理手順は全てソフトウェアによって実行することができる。このため、この処理手順を実行するプログラムを格納したコンピュータ読み取り可能な記憶媒体を通じてこのプログラムを通常のコンピュータにインストールして実行するだけで、本実施形態と同様の効果を容易に実現することができる。
本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
202…画像管理プログラム、51…顔検出部、52…特徴量算出部、53…クラスタリング部、54…評価値算出部、55…表示形態決定部、56…表示制御部。
Claims (15)
- 複数の画像から複数の顔画像を検出し、
前記複数の顔画像に基づいて、第1顔に対応する1以上の画像を第1グループとし、第2顔に対応する1以上の画像を第2グループとし、
前記第1グループに分類された画像の数がしきい値以上であり、前記第2グループに分類された画像の数が前記しきい値未満である場合、前記第1グループに関連づけられる代表画像を、前記第2グループに関連づけられる代表画像と区別可能に画面に表示する表示制御方法。 - 前記第1グループに関連づけられる代表画像を、前記第2グループに関連づけられる代表画像よりも大きく表示する請求項1記載の表示制御方法。
- 前記第2グループに関連づけられる代表画像を前記画面に表示しない請求項1記載の表示制御方法。
- 前記第1グループに関連づけられる代表画像を第1階層に表示し、前記第2グループに関連づけられる代表画像を、前記第1階層よりも下位の第2階層に表示する請求項1記載の表示制御方法。
- 前記複数の画像の内の第1画像から、前記第1顔に対応する画像と前記第2顔に対応する画像とが検出された場合、当該第1画像を、前記第1グループと、前記第2グループとの双方に分類することを含む請求項1記載の表示制御方法。
- 前記複数の画像の内の第2画像から、前記第1顔に対応する画像、または前記第2顔に対応する画像の少なくとも一方が検出された場合であっても、前記第1顔に対応する画像、または前記第2顔に対応する画像の撮影状態によっては、前記第1グループ、または前記第2グループに分類しない請求項1記載の表示制御方法。
- 前記第1顔に対応する画像、または前記第2顔に対応する画像の撮影状態とは、前記第1顔に対応する画像、または前記第2顔に対応する画像の位置、またはフォーカスの少なくとも一方である請求項6記載の表示制御方法。
- 複数の画像から複数の顔画像を検出する検出手段と、
前記複数の顔画像に基づいて、第1顔に対応する1以上の画像を第1グループとし、第2顔に対応する1以上の画像を第2グループとする分類手段と、
前記第1グループに分類された画像の数がしきい値以上であり、前記第2グループに分類された画像の数が前記しきい値未満である場合、前記第1グループに関連づけられる代表画像を、前記第2グループに関連づけられる代表画像と区別可能に画面に表示する表示制御手段とを具備する電子機器。 - 前記表示制御手段は、前記第1グループに関連づけられる代表画像を、前記第2グループに関連づけられる代表画像よりも大きく表示する請求項8記載の電子機器。
- 前記表示制御手段は、前記第2グループに関連づけられる代表画像を前記画面に表示しない請求項8記載の電子機器。
- 前記表示制御手段は、前記第1グループに関連づけられる代表画像を第1階層に表示し、前記第2グループに関連づけられる代表画像を、前記第1階層よりも下位の第2階層に表示する請求項8記載の電子機器。
- コンピュータにより実行されるプログラムであって、前記プログラムは、
複数の画像から複数の顔画像を検出する手順と、
前記複数の顔画像に基づいて、第1顔に対応する1以上の画像を第1グループとし、第2顔に対応する1以上の画像を第2グループとする手順と、
前記第1グループに分類された画像の数がしきい値以上であり、前記第2グループに分類された画像の数が前記しきい値未満である場合、前記第1グループに関連づけられる代表画像を、前記第2グループに関連づけられる代表画像と区別可能に画面に表示する手順とを、前記コンピュータに実行させるプログラム。 - 前記表示する手順は、前記第1グループに関連づけられる代表画像を、前記第2グループに関連づけられる代表画像よりも大きく表示する請求項12記載のプログラム。
- 前記表示する手順は、前記第2グループに関連づけられる代表画像を前記画面に表示しない請求項12記載のプログラム。
- 前記表示する手順は、前記第1グループに関連づけられる代表画像を第1階層に表示し、前記第2グループに関連づけられる代表画像を、前記第1階層よりも下位の第2階層に表示する請求項12記載のプログラム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013109796A JP2014229178A (ja) | 2013-05-24 | 2013-05-24 | 電子機器および表示制御方法、プログラム |
US14/101,122 US9129150B2 (en) | 2013-05-24 | 2013-12-09 | Electronic apparatus and display control method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013109796A JP2014229178A (ja) | 2013-05-24 | 2013-05-24 | 電子機器および表示制御方法、プログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2014229178A true JP2014229178A (ja) | 2014-12-08 |
Family
ID=51935413
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2013109796A Pending JP2014229178A (ja) | 2013-05-24 | 2013-05-24 | 電子機器および表示制御方法、プログラム |
Country Status (2)
Country | Link |
---|---|
US (1) | US9129150B2 (ja) |
JP (1) | JP2014229178A (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2017520809A (ja) * | 2015-04-08 | 2017-07-27 | 小米科技有限責任公司Xiaomi Inc. | アルバム表示方法及び装置 |
JP2022523243A (ja) * | 2019-08-30 | 2022-04-21 | シェンチェン センスタイム テクノロジー カンパニー リミテッド | 画像処理方法及び装置、電子機器並びに記憶媒体 |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105335714B (zh) * | 2015-10-28 | 2019-06-14 | 小米科技有限责任公司 | 照片处理方法、装置和设备 |
CN105426904B (zh) * | 2015-10-28 | 2019-07-02 | 小米科技有限责任公司 | 照片处理方法、装置和设备 |
CN106778381B (zh) * | 2016-11-30 | 2020-06-05 | 宇龙计算机通信科技(深圳)有限公司 | 一种重要信息处理方法及终端 |
WO2019061285A1 (zh) * | 2017-09-29 | 2019-04-04 | 深圳传音通讯有限公司 | 一种智能终端的录像方法及录像系统 |
CN107977674B (zh) | 2017-11-21 | 2020-02-18 | Oppo广东移动通信有限公司 | 图像处理方法、装置、移动终端及计算机可读存储介质 |
CN108255406A (zh) * | 2018-01-25 | 2018-07-06 | 努比亚技术有限公司 | 人物相册封面生成方法、移动终端及计算机可读存储介质 |
US11763538B2 (en) * | 2018-08-31 | 2023-09-19 | Canon Kabushiki Kaisha | Image processing apparatus and electronic apparatus |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003203090A (ja) * | 2002-01-07 | 2003-07-18 | Ricoh Co Ltd | 画像空間表示方法 |
JP2005107885A (ja) * | 2003-09-30 | 2005-04-21 | Casio Comput Co Ltd | 画像分類装置及び画像分類プログラム |
JP2006079461A (ja) * | 2004-09-10 | 2006-03-23 | Fuji Photo Film Co Ltd | 電子アルバム表示システム、画像分類装置、電子アルバム表示方法、画像分類方法、及びプログラム |
JP2008090698A (ja) * | 2006-10-04 | 2008-04-17 | Fujifilm Corp | 画像分類装置および方法ならびにプログラム |
JP2012079337A (ja) * | 2011-12-19 | 2012-04-19 | Fujifilm Corp | 画像整理装置および方法ならびにプログラム |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7076503B2 (en) * | 2001-03-09 | 2006-07-11 | Microsoft Corporation | Managing media objects in a database |
JP2003058559A (ja) | 2001-08-17 | 2003-02-28 | Hitachi Ltd | 文書分類方法、検索方法、分類システム及び検索システム |
US7146576B2 (en) * | 2001-10-30 | 2006-12-05 | Hewlett-Packard Development Company, L.P. | Automatically designed three-dimensional graphical environments for information discovery and visualization |
US8351661B2 (en) * | 2009-12-02 | 2013-01-08 | At&T Intellectual Property I, L.P. | System and method to assign a digital image to a face cluster |
WO2011089884A1 (ja) * | 2010-01-25 | 2011-07-28 | パナソニック株式会社 | 画像分類装置、方法、プログラム、プログラムを記録する記録媒体及び集積回路 |
JP5744660B2 (ja) | 2010-08-26 | 2015-07-08 | キヤノン株式会社 | データ検索結果の表示方法およびデータ検索結果の表示装置、プログラム |
JP5265653B2 (ja) | 2010-12-16 | 2013-08-14 | ヤフー株式会社 | サーバ、プログラム、ネットワークシステム及びアイコン表示方法 |
US20130239031A1 (en) * | 2012-03-06 | 2013-09-12 | Apple Inc. | Application for viewing images |
-
2013
- 2013-05-24 JP JP2013109796A patent/JP2014229178A/ja active Pending
- 2013-12-09 US US14/101,122 patent/US9129150B2/en not_active Expired - Fee Related
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003203090A (ja) * | 2002-01-07 | 2003-07-18 | Ricoh Co Ltd | 画像空間表示方法 |
JP2005107885A (ja) * | 2003-09-30 | 2005-04-21 | Casio Comput Co Ltd | 画像分類装置及び画像分類プログラム |
JP2006079461A (ja) * | 2004-09-10 | 2006-03-23 | Fuji Photo Film Co Ltd | 電子アルバム表示システム、画像分類装置、電子アルバム表示方法、画像分類方法、及びプログラム |
JP2008090698A (ja) * | 2006-10-04 | 2008-04-17 | Fujifilm Corp | 画像分類装置および方法ならびにプログラム |
JP2012079337A (ja) * | 2011-12-19 | 2012-04-19 | Fujifilm Corp | 画像整理装置および方法ならびにプログラム |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2017520809A (ja) * | 2015-04-08 | 2017-07-27 | 小米科技有限責任公司Xiaomi Inc. | アルバム表示方法及び装置 |
US9953212B2 (en) | 2015-04-08 | 2018-04-24 | Xiaomi Inc. | Method and apparatus for album display, and storage medium |
JP2022523243A (ja) * | 2019-08-30 | 2022-04-21 | シェンチェン センスタイム テクノロジー カンパニー リミテッド | 画像処理方法及び装置、電子機器並びに記憶媒体 |
Also Published As
Publication number | Publication date |
---|---|
US20140348398A1 (en) | 2014-11-27 |
US9129150B2 (en) | 2015-09-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2014229178A (ja) | 電子機器および表示制御方法、プログラム | |
US11113523B2 (en) | Method for recognizing a specific object inside an image and electronic device thereof | |
KR101927438B1 (ko) | 홀 영역을 가지는 전자 장치 및 전자 장치의 홀 영역 제어방법 | |
US10366519B2 (en) | Operating method for image and electronic device supporting the same | |
CN109753159B (zh) | 用于控制电子装置的方法和设备 | |
KR102039427B1 (ko) | 스마트 글라스 | |
EP2869275B1 (en) | Information processing device, information processing method, and program | |
EP3547218B1 (en) | File processing device and method, and graphical user interface | |
CN108024009B (zh) | 一种电子设备及其方法 | |
CN104081438B (zh) | 姓名气泡处理 | |
US11086497B2 (en) | Electronic apparatus and notification displaying method for electronic apparatus | |
US10409395B2 (en) | Method for determining display orientation and electronic apparatus using the same and computer readable recording medium | |
WO2019105457A1 (zh) | 图像处理方法、计算机设备和计算机可读存储介质 | |
CN105446619B (zh) | 用于识别物体的装置和方法 | |
US20150002431A1 (en) | Method and apparatus for operating lock screen of electronic device | |
TW201905760A (zh) | 全景影像的顯示方法及其電子裝置 | |
US9582169B2 (en) | Display device, display method, and program | |
WO2016006090A1 (ja) | 電子機器、方法及びプログラム | |
KR20200127928A (ko) | 전자장치에서 이미지 내의 특정 객체를 인식하기 위한 방법 및 장치 | |
US20170123637A1 (en) | Electronic device and method for managing image | |
CN110688035B (zh) | 相册处理方法、相册处理装置及移动终端 | |
US20180074697A1 (en) | Method for outputting screen according to force input and electronic device supporting the same | |
CN111190483B (zh) | 一种照片展示方法、装置、存储介质及终端 | |
KR20110113501A (ko) | 차단 이미지를 이용한 정보 표시 방법 및 장치 | |
WO2018157363A1 (zh) | 一种屏幕的切换方法和终端 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20160318 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20170119 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20170131 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20180123 |