JP7171349B2 - 画像処理装置、画像処理方法、プログラムおよび記録媒体 - Google Patents

画像処理装置、画像処理方法、プログラムおよび記録媒体 Download PDF

Info

Publication number
JP7171349B2
JP7171349B2 JP2018184349A JP2018184349A JP7171349B2 JP 7171349 B2 JP7171349 B2 JP 7171349B2 JP 2018184349 A JP2018184349 A JP 2018184349A JP 2018184349 A JP2018184349 A JP 2018184349A JP 7171349 B2 JP7171349 B2 JP 7171349B2
Authority
JP
Japan
Prior art keywords
image
tag information
equal
images
threshold value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018184349A
Other languages
English (en)
Other versions
JP2020052948A (ja
Inventor
壮也 臼杵
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2018184349A priority Critical patent/JP7171349B2/ja
Priority to US16/564,179 priority patent/US11176378B2/en
Priority to CN201910908243.8A priority patent/CN110968724A/zh
Publication of JP2020052948A publication Critical patent/JP2020052948A/ja
Application granted granted Critical
Publication of JP7171349B2 publication Critical patent/JP7171349B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/58Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/583Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/35Categorising the entire scene, e.g. birthday party or wedding scene
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/51Indexing; Data structures therefor; Storage structures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/58Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/5866Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using information manually generated, e.g. tags, keywords, comments, manually generated location and time information
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/10Terrestrial scenes

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Library & Information Science (AREA)
  • Multimedia (AREA)
  • Software Systems (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Processing Or Creating Images (AREA)

Description

本発明は、画像群に含まれる各々の画像にタグ情報を付与する画像処理装置、画像処理方法、プログラムおよび記録媒体に関する。
SNS(Social Networking Service:ソーシャル・ネットワーキング・サービス)を利用して、ユーザが所有する画像を、SNSを利用する任意のユーザに公開したり、共有相手のみと共有したりすることが行われている。その際、各々の画像には、タグ情報が付与される場合がある。タグ情報は、画像群の中から所望の画像を検索して表示する、および画像の内容を表す情報として画像に関連付けて表示するなどの目的で利用されている。
タグ情報は、各々の画像に写っている被写体等に応じて、SNSのプログラム等によって自動で付与されるか、あるいは各々のユーザが手動で付与することができる。また、各々の画像には、1以上のタグ情報を付与することができる。
例えば、電車が写っている画像には、「乗り物」、「電車」および「4000系の電車」等のタグ情報が付与される。また、電車が写っている画像において、予期せずに、例えば女の子が一緒に写っている場合、「人物」、「子供」および「女の子」等のタグ情報も付与される。このように、各々の画像には、被写体の重要度に関わらず、その画像に写っている被写体に応じて様々なタグ情報が付与される場合がある。
ここで、本発明に関連性のある先行技術文献として、特許文献1~3がある。
特許文献1には、画像を取得して解析を行い、その解析結果に基づくタグ情報を画像に付与し、複数のユーザが所有する画像における、共通タグ情報の付与率を第1付与率として算出し、各ユーザが所有する画像における、共通タグ情報の付与率を第2付与率として算出し、共通タグ情報の第1付与率と第2付与率との差に基づいて、各ユーザが所有する画像に付与された共通タグ情報の順位を決定することが記載されている。
特許文献2には、2つの被写体についての主従関係を決定し、第1の被写体を従とし、第2の被写体を主とする関係が存在する場合に、第1の被写体を従とし第2の被写体を主とする関係が存在しない場合よりも高い主従関係値を算出し、複数の被写体のうち第1の被写体を従とする被写体の数が多いほど低い主従関係値を算出し、主従関係値に基づいて、被写体ごとに被写体評価値を算出する被写体評価システムが記載されている。
特許文献3には、画像データを取得してメモリに格納し、メモリに格納された画像データから複数の特徴量を取得し、各特徴量における重要度を決定することが記載されている。また、特許文献3には、重要度の決定手順として、特徴量が数値として取得可能な特徴量の場合に、ヒストグラムを作成して、値の度数(頻度)を求め、度数の高い値を重要度の高い値と決定することが記載されている。
特開2017-059101号公報 特開2017-068434号公報 特開2010-250635号公報
近年、スマートフォンの普及が目覚ましく、SNS等において、公開および共有された画像群の一覧等をスマートフォンのディスプレイに表示させて閲覧するユーザが増えている。しかし、スマートフォンのディスプレイの表示領域は比較的狭く、画像の一覧に含まれる各々の画像に付与された全てのタグ情報を、その画像に関連付けてディスプレイに表示させるのは難しい場合がある。
また、画像群を表示させる場合、その画像群の内容に応じて、各々の画像に適したタグ情報を表示させる必要がある。例えば、ユーザが、画像群の中から、電車が写っている画像に絞り込んで表示させた場合、そのユーザは、全ての画像に電車が写っていることを知っている。この場合、「電車」のタグ情報を表示させるよりも、「4000系の電車」等のタグ情報を表示させる方が望ましい。
このように、従来の技術では、画像に写っている被写体等に応じて、様々なタグ情報を画像に付与することはできるが、画像群に含まれる画像を表示させる場合に、各々の画像に関連付けて、そのユーザにとって適したタグ情報を表示させることができなかった。
従って、本発明の目的は、画像群に含まれる画像を一覧表示させる場合に、各々の画像に関連付けて、各々の画像に適切なタグ情報を表示させることができる画像処理装置、画像処理方法、プログラムおよび記録媒体を提供することにある。
上記目的を達成するために、本発明は、第1ユーザが所有する画像群の入力を受け付ける画像受付部と、
画像群に含まれる各々の画像を解析する画像解析部と、
各々の画像の解析結果に基づいて、各々の画像に付与すべきタグ情報を設定するタグ情報設定部と、
各々の画像について、画像に付与すべきタグ情報のうち、画像群に含まれる全ての画像に付与すべき全てのタグ情報の総出現回数に対する、画像に付与すべきタグ情報の出現回数の割合が、第1閾値以上、第2閾値以下であるタグ情報を、主タグ情報として、画像に付与するタグ情報付与部と、を備える、画像処理装置を提供する。
ここで、タグ情報設定部は、各々の画像について、同じカテゴリに含まれ、かつ抽象度が異なる複数のタグ情報のうち、抽象度が異なる2以上のタグ情報を、画像に付与すべきタグ情報として設定し、
タグ情報付与部は、画像に付与すべき、抽象度が異なる2以上のタグ情報のうち、割合が、第1閾値以上、第2閾値以下であるタグ情報を、主タグ情報として、画像に付与することが好ましい。
さらに、画像群に含まれる画像に付与されたタグ情報に基づいて、各々の画像に付与されたタグ情報の抽象度を設定する抽象度設定部を備え、
抽象度設定部は、第1タグ情報および第2タグ情報が同じカテゴリに含まれるタグ情報であり、第1タグ情報が付与された画像には第2タグ情報が付与されているのに対して、第2タグ情報が付与された画像には第1タグ情報が付与されていない場合が閾値以上ある場合に、第1タグ情報および第2タグ情報の抽象度が異なり、第2タグ情報が第1タグ情報よりも抽象度が高いタグ情報であると設定し、
タグ情報設定部は、画像群に含まれる画像に付与され、抽象度が設定されたタグ情報を抽象度が異なる複数のタグ情報として用いて、各々の画像に付与すべきタグ情報を設定することが好ましい。
また、タグ情報付与部は、各々の画像について、画像に付与すべきタグ情報の中に、割合が、第1閾値以上、第2閾値以下である2以上のタグ情報がある場合に、割合が、第1閾値以上、第2閾値以下である2以上のタグ情報を、主タグ情報として、画像に付与することが好ましい。
また、タグ情報付与部は、各々の画像について、画像に付与すべきタグ情報の中に、割合が、第1閾値以上、第2閾値以下である2以上のタグ情報がある場合に、割合が、第1閾値以上、第2閾値以下である2以上のタグ情報のうち、抽象度が最大のタグ情報のみを、主タグ情報として、画像に付与することが好ましい。
また、タグ情報付与部は、各々の画像について、画像に付与すべきタグ情報の中に、割合が、第1閾値以上、第2閾値以下である2以上のタグ情報がある場合に、割合が、第1閾値以上、第2閾値以下である2以上のタグ情報のうち、割合が最小のタグ情報のみを、主タグ情報として、画像に付与することが好ましい。
また、タグ情報付与部は、各々の画像について、画像に付与すべきタグ情報の中に、割合が、第1閾値以上、第2閾値以下であるタグ情報がない場合に、割合が第1閾値未満であるタグ情報のうち、割合が最大のタグ情報のみを、主タグ情報として、画像に付与することが好ましい。
さらに、画像の絞込条件を設定する指示に応じて、画像群に含まれる画像の中から、絞込条件に一致する画像グループに絞り込む画像絞込部を備え、
タグ情報付与部は、画像グループに含まれる各々の画像について、画像に付与すべきタグ情報のうち、画像グループに含まれる全ての画像に付与すべき全てのタグ情報の総出現回数に対する、画像に付与すべきタグ情報の出現回数の割合が、第3閾値以上、第4閾値以下であるタグ情報を、主タグ情報として、画像に付与することが好ましい。
画像受付部は、さらに、第1ユーザが所有する新たな画像の入力を受け付けて画像群に加え、
画像解析部は、さらに、新たな画像を解析し、
タグ情報設定部は、さらに、新たな画像の解析結果に基づいて、新たな画像に付与すべきタグ情報を設定し、
タグ情報付与部は、新たな画像を含む、画像群に含まれる各々の画像について、画像に付与すべきタグ情報のうち、割合が、第1閾値以上、第2閾値以下であるタグ情報を、主タグ情報として、画像に付与することが好ましい。
さらに、第1ユーザと、第2ユーザと、の間で画像を共有する画像共有部を備え、
第2ユーザが所有する画像が、第1ユーザに対して共有された場合、画像受付部は、第1ユーザが所有する画像群として、共有された画像を含めることが好ましい。
さらに、画像群に含まれる少なくとも一部の画像をディスプレイに表示させる画像表示部を備え、
画像表示部は、ディスプレイに表示された画像に関連付けて、ディスプレイに表示された画像に付与された主タグ情報を表示させることが好ましい。
また、タグ情報設定部は、各々の画像に写っている人物の感情を表すタグ情報を、各々の画像に付与すべきタグ情報として設定することが好ましい。
また、タグ情報設定部は、撮影者の感情を設定する指示に応じて、各々の画像を撮影した人物の感情を表すタグ情報を、各々の画像に付与すべきタグ情報として設定することが好ましい。
また、タグ情報付与部は、各々の画像について、画像に付与すべきタグ情報のうち、主タグ情報として画像に付与したタグ情報以外のタグ情報を、画像に付与することが好ましい。
また、本発明は、画像受付部が、第1ユーザが所有する画像群の入力を受け付けるステップと、
画像解析部が、画像群に含まれる各々の画像を解析するステップと、
タグ情報設定部が、各々の画像の解析結果に基づいて、各々の画像に付与すべきタグ情報を設定するステップと、
タグ情報付与部が、各々の画像について、画像に付与すべきタグ情報のうち、画像群に含まれる全ての画像に付与すべき全てのタグ情報の総出現回数に対する、画像に付与すべきタグ情報の出現回数の割合が、第1閾値以上、第2閾値以下であるタグ情報を、主タグ情報として、画像に付与するステップと、を含む、画像処理方法を提供する。
ここで、各々の画像について、同じカテゴリに含まれ、かつ抽象度が異なる複数のタグ情報のうち、抽象度が異なる2以上のタグ情報を、画像に付与すべきタグ情報として設定し、
画像に付与すべき、抽象度が異なる2以上のタグ情報のうち、割合が、第1閾値以上、第2閾値以下であるタグ情報を、主タグ情報として、画像に付与することが好ましい。
さらに、画像絞込部が、画像の絞込条件を設定する指示に応じて、画像群に含まれる画像の中から、絞込条件に一致する画像グループに絞り込むステップを含み、
画像グループに含まれる各々の画像について、画像に付与すべきタグ情報のうち、画像グループに含まれる全ての画像に付与すべき全てのタグ情報の総出現回数に対する、画像に付与すべきタグ情報の出現回数の割合が、第3閾値以上、第4閾値以下であるタグ情報を、主タグ情報として、画像に付与することが好ましい。
画像受付部が、さらに、第1ユーザが所有する新たな画像の入力を受け付けて画像群に加えるステップと、
画像解析部が、さらに、新たな画像を解析するステップと、
タグ情報設定部が、さらに、新たな画像の解析結果に基づいて、新たな画像に付与すべきタグ情報を設定するステップと、を含み
新たな画像を含む、画像群に含まれる各々の画像について、画像に付与すべきタグ情報のうち、割合が、第1閾値以上、第2閾値以下であるタグ情報を、主タグ情報として、画像に付与することが好ましい。
さらに、画像表示部が、画像群に含まれる少なくとも一部の画像をディスプレイに表示させるステップを含み、
ディスプレイに表示された画像に関連付けて、ディスプレイに表示された画像に付与された主タグ情報を表示させることが好ましい。
また、本発明は、上記のいずれかの画像処理方法の各々のステップをコンピュータに実行させるためのプログラムを提供する。
また、本発明は、上記のいずれかの画像処理方法の各々のステップをコンピュータに実行させるためのプログラムが記録されたコンピュータ読み取り可能な記録媒体を提供する。
また、本発明は、第1ユーザが所有する画像群の入力を受け付ける画像受付部と、
画像群に含まれる各々の画像を解析する画像解析部と、
各々の画像の解析結果に基づいて、各々の画像に付与すべきタグ情報を設定するタグ情報設定部と、
各々の画像について、画像に付与すべきタグ情報のうち、画像群に含まれる全ての画像に付与すべき全てのタグ情報の総出現回数に対する、画像に付与すべきタグ情報の出現回数の割合が、第1閾値以上、第2閾値以下であるタグ情報を、主タグ情報として、画像に付与するタグ情報付与部と、を備え、
画像受付部、画像解析部、タグ情報設定部およびタグ情報付与部は、専用のハードウェアまたはプログラムを実行するプロセッサによって構成される、画像処理装置を提供する。
さらに、画像群に含まれる画像に付与されたタグ情報に基づいて、各々の画像に付与されたタグ情報の抽象度を設定する抽象度設定部を備え、
抽象度設定部は、第1タグ情報および第2タグ情報が同じカテゴリに含まれるタグ情報であり、第1タグ情報が付与された画像には第2タグ情報が付与されているのに対して、第2タグ情報が付与された画像には第1タグ情報が付与されていない場合が閾値以上ある場合に、第1タグ情報および第2タグ情報の抽象度が異なり、第2タグ情報が第1タグ情報よりも抽象度が高いタグ情報であると設定し、
タグ情報設定部は、画像群に含まれる画像に付与され、抽象度が設定されたタグ情報を抽象度が異なる複数のタグ情報として用いて、各々の画像に付与すべきタグ情報を設定し、
抽象度設定部は、専用のハードウェアまたはプログラムを実行するプロセッサによって構成されることが好ましい。
さらに、画像の絞込条件を設定する指示に応じて、画像群に含まれる画像の中から、絞込条件に一致する画像グループに絞り込む画像絞込部を備え、
タグ情報付与部は、画像グループに含まれる各々の画像について、画像に付与すべきタグ情報のうち、画像グループに含まれる全ての画像に付与すべき全てのタグ情報の総出現回数に対する、画像に付与すべきタグ情報の出現回数の割合が、第3閾値以上、第4閾値以下であるタグ情報を、主タグ情報として、画像に付与し、
画像絞込部は、専用のハードウェアまたはプログラムを実行するプロセッサによって構成されることが好ましい。
さらに、第1ユーザと、第2ユーザと、の間で画像を共有する画像共有部を備え、
第2ユーザが所有する画像が、第1ユーザに対して共有された場合、画像受付部は、第1ユーザが所有する画像群として、共有された画像を含め、
画像共有部は、専用のハードウェアまたはプログラムを実行するプロセッサによって構成されることが好ましい。
さらに、画像群に含まれる少なくとも一部の画像をディスプレイに表示させる画像表示部を備え、
画像表示部は、ディスプレイに表示された画像に関連付けて、ディスプレイに表示された画像に付与された主タグ情報を表示させ、
画像表示部は、専用のハードウェアまたはプログラムを実行するプロセッサによって構成されることが好ましい。
本発明によれば、第1ユーザが所有する画像群に含まれる各々の画像について、その画像に付与すべきタグ情報のうち、前述の割合が、第1閾値以上、第2閾値以下であるタグ情報を、主タグ情報として、画像に付与することにより、第1ユーザにとって必要性が高い主タグ情報を画像に付与することができる。
また、各々の画像について、同じカテゴリに含まれ、かつ抽象度が異なる複数のタグ情報のうち、抽象度が異なる2以上のタグ情報を、画像に付与すべきタグ情報として設定することにより、第1ユーザが所有する画像群において、適切な抽象度の主タグ情報を、画像群に含まれる各々の画像に付与することができる。
本発明に係る画像処理システムの構成を表す一実施形態のブロック図である。 クライアントの構成を表す一実施形態のブロック図である。 「乗り物」のカテゴリに含まれるタグ情報を表す一実施形態の概念図である。 画像群に含まれる画像に主タグ情報を付与する場合の画像処理システムの動作を表す一実施形態のフローチャートである。 画像群の中から、画像グループに絞り込む場合の画像処理システムの動作を表す一実施形態のフローチャートである。 新たな画像が入力された場合の画像処理システムの動作を表す一実施形態のフローチャートである。
以下に、添付の図面に示す好適実施形態に基づいて、本発明の画像処理装置、画像処理方法、プログラムおよび記録媒体を詳細に説明する。
図1は、本発明に係る画像処理システムの構成を表す一実施形態のブロック図である。図1に示す画像処理システム10は、サーバ12と、ネットワーク16を介して各々サーバ12に接続された複数のクライアント14と、を備えている。
サーバ12は、画像処理システム10を利用する複数のユーザが所有する画像群を取得し、複数のユーザの各々が所有する画像群に含まれる各々の画像を、任意のユーザに公開する、共有相手のみと共有する、または非公開に設定する機能等を有する。
サーバ12は、1台に限らず、複数台であってもよく、制御装置、記憶装置および通信装置等を有する、ワークステーション等によって構成される。
クライアント14は、本実施形態の画像処理装置であり、ユーザが所有する画像群に含まれる各々の画像にタグ情報を付与する機能等を有する。
クライアント14は、制御装置、入力装置、記憶装置、通信装置およびディスプレイ等を有する、デスクトップPC(パーソナルコンピュータ)、ノートPC、タブレットPC、あるいは、携帯電話およびスマートフォン等の携帯端末等によって構成される。
図2は、クライアントの構成を表す一実施形態のブロック図である。図2に示すクライアント14は、指示取得部18と、画像受付部20と、画像解析部22と、タグ情報設定部24と、タグ情報付与部26と、抽象度設定部28と、画像絞込部30と、画像表示部32と、画像共有部34と、通信部36と、ディスプレイ38と、を備えている。
以下、第1ユーザが所有するクライアント14について説明する。
第1ユーザは、画像処理システム10を利用する全てのユーザのうちの任意の一人のユーザである。ユーザとは、画像処理システム10における1アカウントを使用する者を指し、通常は自然人1人が相当するが、家族で1アカウントを共同利用している際は、自然人2人以上であり得る。本実施形態では、第1ユーザのクライアント14について説明するが、第1ユーザ以外の他のユーザが所有するクライアント14についても同様の構成および機能を有する。
第1ユーザのクライアント14において、まず、指示取得部18は、キーボード、マウス、タッチパネル等の入力装置を利用して第1ユーザから入力される各種の指示を取得する。
第1ユーザは、ディスプレイ38に表示された画面を見ながら、入力装置を用いて指示を入力する。
第1ユーザが入力する指示には、特に制限はないが、画像群を指定する指示、撮影者の感情を設定する指示、閾値を設定する指示、画像の絞込条件を設定する指示、画像を表示する指示、画像群に含まれる画像の中から画像を選択する指示、画像の共有相手を設定する指示、および画像を公開する、共有する、または非公開に設定する指示等が含まれる。
続いて、画像受付部20は、画像群を指定する指示に応じて、第1ユーザが所有する画像群の入力を受け付ける。言い換えると、画像受付部20は、第1ユーザが所有する画像群を取得する。
第1ユーザが所有する画像群には、特に制限はないが、第1ユーザのクライアント14の記憶装置に格納された画像群、USB(Universal Serial Bus)メモリ、SD(Secure Digital)メモリ、CD(Compact Disc)、DVD(Digital Versatile Disc)およびHD(Hard Disk)等の外部記録媒体に記録された画像群、オンラインストレージに格納された画像群、SNSに投稿された画像群等が含まれる。また、画像には、静止画像だけではなく動画像も含まれる。
画像群に含まれる各々の画像には、属性情報およびタグ情報等の付帯情報を付与することができる。
属性情報は、画像の属性を表す情報であり、例えばExif(Exchangeable image file format)情報等を例示することができる。Exif情報は、画像の撮影条件に関する情報であり、例えば画像の撮影日時、撮影場所(位置情報)、焦点距離、露出等の情報を含む。Exif情報は、デジタルカメラ等によって撮影された画像(画像データ)のヘッダ情報として付与される。
タグ情報は、画像の属性情報、画像に写っている被写体(人物および人物以外のオブジェクト)、および画像から読み取られるシーン、イベント、感情等を表す名称である。
例えば、画像の撮影年が2018年である場合、「2018年」というタグ情報が画像に付与され、画像の撮影場所が東京である場合、「東京」というタグ情報が画像に付与される。また、被写体として「肉」および複数の「人物」が画像に写っている場合、「肉」、「人物」、「飲み会」および「女子会」等のタグ情報が画像に付与される。画像に写っている「人物」が笑顔であれば、「笑顔」および「楽しい」等のタグ情報が画像に付与される。
また、感情については、ウェアラブル端末における心拍数、呼吸数、血圧、心電図、体温および発汗等の測定および検知、ならびに、ゴーグル型端末における瞳孔の開き具合の測定および検知等から測定することもできる。
タグ情報は、画像の解析結果に基づいて、後述するタグ情報付与部26によって自動で付与されるか、または、第1ユーザが手動で画像に付与することもできる。
続いて、画像解析部22は、第1ユーザが所有する画像群に含まれる各々の画像を解析する。
画像解析は、特に限定されないが、明るさ判定、色評価、ボケブレ評価、属性情報の解析、画像に写っている被写体を認識する被写体認識、シーン認識(夜景、海、砂浜、空、…)、およびイベント検出(運動会、結婚式、卒業式、…)等を含む。
被写体認識は、顔検出、人物認識(顔認識)、およびオブジェクト認識(肉、果物、花、ケーキ、…)等を含む。
続いて、タグ情報設定部24は、各々の画像の解析結果に基づいて、各々の画像に付与すべきタグ情報を設定する。
タグ情報設定部24は、例えば各々の画像の属性情報、各々の画像に写っている被写体、各々の画像のシーン、イベント、および各々の画像に写っている人物の感情を表すタグ情報等を、各々の画像に付与すべきタグ情報として設定することができる。また、タグ情報設定部24は、撮影者の感情を設定する指示に応じて、各々の画像を撮影した人物の感情を表すタグ情報を、各々の画像に付与すべきタグ情報として設定することもできる。
続いて、タグ情報付与部26は、画像群に含まれる各々の画像について、タグ情報設定部24によって設定された画像に付与すべきタグ情報のうち、画像群に含まれる全ての画像に付与すべき全てのタグ情報の総出現回数に対する、画像に付与すべきタグ情報の出現回数の割合(画像群におけるタグ情報の付与率)が、第1閾値以上、第2閾値以下であるタグ情報を、主タグ情報として、画像に付与する。また、タグ情報付与部26は、各々の画像について、画像に付与すべきタグ情報のうち、主タグ情報として画像に付与したタグ情報以外のタグ情報を、画像に付与することもできる。
主タグ情報は、画像がディスプレイ38に表示された場合に、その画像に関連付けて表示されるタグ情報である。また、主タグ情報を含む、画像に付与された全てのタグ情報は、例えば画像の絞り込みを行う際の絞込条件等として使用することができる。
前述のように、スマートフォンのディスプレイの表示領域は比較的狭く、画像に付与された全てのタグ情報を、その画像に関連付けてディスプレイに表示させるのが難しい場合がある。これに対し、画像に関連付けて、その画像の主タグ情報のみを表示させることにより、ディスプレイの表示領域が狭い場合であっても、全てのタグ情報を表示させる場合よりも、タグ情報を見やすく表示させることができる。
タグ情報のカテゴリとは、例えば「乗り物」、「食べ物」および「飲み物」等のように、同じ特徴を有するタグ情報が含まれる範囲を表す。図3に示すように、例えば「乗り物」のカテゴリのタグ情報には、「電車」、「飛行機」および「自動車」等のタグ情報が含まれる。また、例えば「電車」のカテゴリのタグ情報には、「4000系の電車」、「3000系の電車」および「2000系の電車」等のタグ情報が含まれる。
また、タグ情報の抽象度とは、タグ情報の表現が上位概念化されている度合いを表す。例えば、「乗り物」のカテゴリのタグ情報の場合、「乗り物」、「電車」および「4000系の電車」のタグ情報の抽象度は、それぞれ、大中小となる。言い換えると、「乗り物」、「電車」および「4000系の電車」のタグ情報は、それぞれ、上位概念、中位概念および下位概念のタグ情報であり、その間には上下関係(包含関係)があるとも言える。
第1閾値および第2閾値は、それぞれ、割合の下限値および上限値である。第1閾値および第2閾値は、例えば画像処理システム10において、あらかじめ設定された値であり、20%および50%のように、固定値としてもよいし、画像群に応じて可変値としてもよい。あるいは、閾値を設定する指示に応じて、第1閾値および第2閾値を設定してもよい。第1ユーザは、例えばスライダバーを用いて、第1閾値および第2閾値を設定することができる。後述する、閾値、第3閾値および第4閾値についても同様である。
続いて、抽象度設定部28は、画像群に含まれる画像に付与されたタグ情報に基づいて、各々の画像に付与されたタグ情報の抽象度を設定する。
画像処理システム10において、カテゴリ毎に、抽象度が異なる複数のタグ情報が、あらかじめ用意されていない場合であっても、例えば画像受付部によって受け付けられた画像群に含まれる各々の画像に既にタグ情報が付与されている場合、抽象度設定部28は、画像群に含まれる画像に既に付与されているタグ情報に基づいて、各々の画像に付与されたタグ情報の抽象度、つまり、タグ情報の上下関係を設定することができる。
例えば、「電車」のタグ情報が付与された画像には、高頻度で「乗り物」のタグ情報が付与されていると考えられる。一方、「乗り物」のタグ情報が付与された画像には、必ずしも「電車」のタグ情報が付与されているとは限らず、「飛行機」および「自動車」等のタグ情報が付与されている場合もある。このような状況が多数存在する場合、「電車」よりも「乗り物」の方が、抽象度が高いタグ情報であると言える。
これに応じて、抽象度設定部28は、第1タグ情報および第2タグ情報が、同じカテゴリに含まれるタグ情報であり、第1タグ情報が付与された画像には第2タグ情報が付与されているのに対して、第2タグ情報が付与された画像には第1タグ情報が付与されていない場合が閾値以上ある場合に、第1タグ情報および第2タグ情報の抽象度が異なり、第2タグ情報が第1タグ情報よりも抽象度が高いタグ情報であると設定することができる。
この場合、タグ情報設定部24は、画像群に含まれる画像に付与され、抽象度設定部28によって抽象度が設定されたタグ情報を抽象度が異なる複数のタグ情報として用いて、各々の画像に付与すべきタグ情報を設定することができる。
続いて、画像絞込部30は、画像の絞込条件を設定する指示に応じて、画像群に含まれる画像の中から、絞込条件に一致する画像グループに絞り込む。
絞込条件は、任意のキーワード、タグ情報およびExif情報等を含む。また、画像グループには、1の画像のみが含まれていてもよいし、2以上の画像が含まれていてもよい。
続いて、画像表示部32は、画像を表示する指示に応じて、画像群に含まれる少なくとも一部の画像をディスプレイ38に表示させる。画像表示部32は、例えば画像群に含まれる画像、または画像絞込部30によって絞り込まれた画像グループに含まれる画像をディスプレイ38に表示させる。また、画像表示部32は、ディスプレイ38に表示された画像に関連付けて、ディスプレイ38に表示された画像に付与された主タグ情報を表示させることができる。
続いて、画像共有部34は、第1ユーザと、第2ユーザと、の間で画像を共有する。
第2ユーザは、画像処理システム10を利用する全てのユーザのうち、第1ユーザ以外の任意の一人のユーザまたは複数のユーザである。
画像共有部34は、画像を公開する、または非公開に設定する指示に応じて、画像を選択する指示によって選択された画像を、任意のユーザに公開する、または非公開に設定する。また、画像共有部34は、画像を共有する指示に応じて、画像を選択する指示によって選択された画像を、共有相手を設定する指示によって設定された共有相手のみと共有する。
続いて、通信部36は、クライアント14が有する通信装置であり、サーバ12が有する通信装置との間で各種のデータの送受信を行う。
通信部36は、例えばクライアント14の記憶装置に格納された画像(画像データ)を、クライアント14からネットワーク16を介してサーバ12へアップロードしたり、サーバ12の記憶装置に格納された画像を、サーバ12からネットワーク16を介してクライアント14へダウンロードしたりする。
次に、図4に示すフローチャートを参照して、画像群に含まれる画像に主タグ情報を付与する場合の画像処理システム10の動作を説明する。
第1ユーザが所有するクライアント14において、まず、画像受付部20により、画像群を指定する指示に応じて、第1ユーザが所有する画像群の入力が受け付けられる(S1)。画像群は、クライアント14の記憶装置に格納される。また、画像群は、クライアント14からネットワーク16を介してサーバ12へアップロードされ、サーバ12の記憶装置に格納される。
続いて、画像解析部22により、画像群に含まれる各々の画像の解析が行われる(S2)。
続いて、タグ情報設定部24により、各々の画像の解析結果に基づいて、各々の画像に付与すべきタグ情報が設定される(S3)。
続いて、タグ情報付与部26により、各々の画像について、その画像に付与すべきタグ情報のうち、総出現回数に対する出現回数の割合が、第1閾値以上、第2閾値以下であるタグ情報が、主タグ情報として、その画像に付与される(S4)。
これにより、第1ユーザが所有する画像群において、第1ユーザにとって必要性が高い主タグ情報を、画像群に含まれる各々の画像に付与することができる。
次に、タグ情報付与部26による主タグ情報の付与方法について説明する。
タグ情報付与部26は、各々の画像について、画像に付与すべきタグ情報の中に、割合が、第1閾値以上、第2閾値以下である2以上のタグ情報がある場合に、これら2以上のタグ情報の両方を、主タグ情報として、画像に付与することができる。例えば、割合が、第1閾値以上、第2閾値以下である「電車」および「4000系の電車」のタグ情報がある場合、「電車」および「4000系の電車」のタグ情報の両方を、主タグ情報として、画像に付与する。
また、より抽象度が高いタグ情報を優先する場合、タグ情報付与部26は、割合が、第1閾値以上、第2閾値以下である2以上のタグ情報のうち、抽象度が最大のタグ情報のみを、主タグ情報として、画像に付与してもよい。同様に、割合が、第1閾値以上、第2閾値以下である「電車」および「4000系の電車」のタグ情報がある場合、より抽象度が高い「電車」のタグ情報のみを、主タグ情報として、画像に付与する。
あるいは、より抽象度が低いタグ情報の方を優先する場合、タグ情報付与部26は、割合が、第1閾値以上、第2閾値以下である2以上のタグ情報のうち、抽象度が最小のタグ情報のみを、主タグ情報として、画像に付与してもよい。同様に、割合が、第1閾値以上、第2閾値以下である「電車」および「4000系の電車」のタグ情報がある場合、より抽象度が低い「4000系の電車」のタグ情報のみを、主タグ情報として、画像に付与する。
一方、タグ情報付与部26は、各々の画像について、画像に付与すべきタグ情報の中に、割合が、第1閾値以上、第2閾値以下であるタグ情報がない場合に、割合が第1閾値未満であるタグ情報のうち、割合が最大のタグ情報のみを、主タグ情報として、画像に付与してもよい。つまり、割合が第1閾値未満のタグ情報の中でも、割合が、より高いタグ情報、つまり、第1ユーザにとっての興味度がより高いタグ情報を、主タグ情報として、画像に付与する。
なお、画像受付部20によって画像群の入力が受け付けられた直後に、画像の解析、タグ情報の設定、およびタグ情報の付与等を行ってもよいし、あるいは画像受付部20によって画像群の入力が受け付けられた後、画像処理システム10によって何も処理が行われていない期間、例えば夜間等に、画像の解析、タグ情報の設定、およびタグ情報の付与等を行ってもよい。
また、第1ユーザが所有する画像群だけでなく、画像処理システム10を利用する2以上のユーザが所有する画像群の入力を受け付け、2以上のユーザが所有する画像群において、画像の解析、タグ情報の設定、および主タグ情報の付与等を行ってもよい。
ここで、割合が第1閾値未満のタグ情報が付与された画像は少数であり、第1ユーザにとって、画像群の中では興味度が低い画像と考えられる。従って、割合が第1閾値未満のタグ情報を主タグ情報として画像に付与する必要性は低い。
一方、割合が第2閾値を超えるタグ情報が付与された画像は多数であり、第1ユーザにとって、画像群の中では興味度が高い画像と考えられる。しかし、割合が第2閾値を超えるタグ情報は、多数の画像に付与され、かつ第1ユーザにとっても、割合が第2閾値を超えるタグ情報が付与された多数の画像があることは既知と考えられるため、割合が第2閾値を超えるタグ情報を、主タグ情報として、画像に付与する必要性も低い。
例えば、第1ユーザが所有する画像群の中に、「乗り物」の画像のみが含まれている場合に、第1ユーザにとって、各々の画像が「乗り物」の画像であることは既知であり、「乗り物」のタグ情報を、主タグ情報として、画像に付与する必要性は低い。言い換えると、第1ユーザにとっては、「乗り物」よりも、「電車」または「4000系の電車」等のタグ情報を、主タグ情報として、画像に付与する必要性が高い。
割合が、第1閾値以上、第2閾値以下であるタグ情報が付与された画像は、第1ユーザにとって、画像群の中では興味度が高い画像と考えられる。また、割合が、第1閾値以上、第2閾値以下であるタグ情報が付与された画像があることは、第1ユーザにとって既知ではないと考えられるため、割合が、第1閾値以上、第2閾値以下であるタグ情報を、主タグ情報として設定することにより、第1ユーザにとって必要性が高い主タグ情報を画像に付与することができる。
例えば、第1ユーザが所有する画像群の中に、「乗り物」の画像のみが含まれている場合に、「乗り物」のタグ情報の割合は第2閾値を超え、「電車」のタグ情報の割合は、第1閾値以上、第2閾値以下であり、「4000系の電車」のタグ情報の割合は第1閾値未満であるとする。この場合、「電車」のタグ情報を、主タグ情報として、画像に付与することにより、第1ユーザにとって必要性が高い主タグ情報を画像に付与することができる。
タグ情報設定部24は、本実施形態の場合、各々の画像について、同じカテゴリに含まれ、かつ抽象度が異なる複数のタグ情報のうち、抽象度が異なる2以上のタグ情報を、画像に付与すべきタグ情報として設定する。
この場合、タグ情報付与部26は、画像に付与すべき、抽象度が異なる2以上のタグ情報のうち、総出現回数に対する出現回数の割合が、第1閾値以上、第2閾値以下であるタグ情報を、主タグ情報として、画像に付与する。つまり、タグ情報設定部24は、画像処理システム10において、あらかじめ用意され、カテゴリ毎に、抽象度が異なる複数のタグ情報の中から、各々の画像に付与すべきタグ情報を設定する。
これにより、第1ユーザが所有する画像群において、適切な抽象度の主タグ情報を、画像群に含まれる各々の画像に付与することができる。
続いて、画像表示部32により、画像を表示する指示に応じて、画像群に含まれる画像がディスプレイ38に表示され、ディスプレイ38に表示された画像に関連付けて、その画像に付与された主タグ情報が表示される(S5)。
これにより、第1ユーザは、画像群に含まれる画像をディスプレイ38に表示し、ディスプレイ38に表示された画像、および画像に付与された適切な抽象度の主タグ情報を確認することができる。
次に、図5に示すフローチャートを参照して、画像群の中から、画像グープに絞り込む場合の画像処理システム10の動作を説明する。
この場合、画像絞込部30により、画像の絞込条件を設定する指示に応じて、画像群に含まれる画像の中から、絞込条件に一致する画像グループに絞り込まれる(S6)。
続いて、タグ情報付与部26により、画像グループに含まれる各々の画像について、画像に付与すべきタグ情報のうち、画像グループに含まれる全ての画像に付与すべき全てのタグ情報の総出現回数に対する、画像に付与すべきタグ情報の出現回数の割合が、第3閾値以上、第4閾値以下であるタグ情報が、主タグ情報として、画像に付与される(S7)。
これにより、絞り込まれた画像グループにおいて、第1ユーザにとって必要性が高い主タグ情報を、画像グループに含まれる各々の画像に付与することができる。
画像グループで用いられる第3閾値および第4閾値は、画像群で用いられる第1閾値および第2閾値に相当するものである。このように、主タグ情報を付与する際に用いられる画像の母集団が変わった場合、母集団に応じて閾値を変えてもよい。また、主タグ情報を付与する際に用いられる画像の母集団が変わった場合、これに応じて、主タグ情報として、各々の画像に付与されるタグ情報も変わる。
続いて、画像表示部32により、画像絞込部30によって絞り込まれた画像グループに含まれる画像がディスプレイ38に表示され、ディスプレイ38に表示された画像に関連付けて、その画像に付与された主タグ情報が表示される(S8)。
これにより、第1ユーザは、絞込条件によって絞り込まれた画像グループに含まれる画像をディスプレイ38に表示し、ディスプレイ38に表示された画像、および画像に付与された適切な抽象度の主タグ情報を確認することができる。なお図示しないが、第1ユーザが、ディスプレイ38に表示された1枚の画像を選択し閲覧する場合は、ディスプレイ38上に表示スペースが比較的残っていると考えられることから、主タグ情報のみならず、他の全てのタグ情報も表示することが好ましい。
次に、図6に示すフローチャートを参照して、新たな画像が入力された場合の画像処理システム10の動作を説明する。
この場合、画像受付部20により、新たな画像の入力が受け付けられて、第1ユーザが所有する画像群に加えられる(S9)。
続いて、画像解析部22により、新たな画像が解析される(S10)。
続いて、タグ情報設定部24により、新たな画像の解析結果に基づいて、新たな画像に付与すべきタグ情報が設定される(S11)。
続いて、タグ情報付与部26により、新たな画像を含む、第1ユーザが所有する画像群に含まれる各々の画像について、画像に付与すべきタグ情報のうち、総出現回数に対する出現回数の割合が、第1閾値以上、第2閾値以下であるタグ情報が、主タグ情報として、画像に付与される(S12)。
新たな画像が入力された場合、主タグ情報を付与する際に用いられる画像の母集団が変わるため、これに応じて、主タグ情報として、各々の画像に付与されるタグ情報も変わる。例えば、第1ユーザの趣味が「電車」であり、「電車」の画像が多かったが、趣味が「飛行機」に変わった場合、画像群の中に占める「飛行機」の画像の割合が次第に多くなる。これに応じて、主タグ情報として、各々の画像に付与されるタグ情報も変わる。
続いて、画像表示部32により、新たな画像を含む、第1ユーザが所有する画像群に含まれる画像がディスプレイ38に表示され、ディスプレイ38に表示された画像に関連付けて、その画像に付与された主タグ情報が表示される(S13)。
これにより、第1ユーザは、新たな画像を含む、第1ユーザが所有する画像群に含まれる画像をディスプレイ38に表示し、ディスプレイ38に表示された画像、および画像に付与された適切な抽象度の主タグ情報を確認することができる。
また、画像処理システム10においては、画像共有部34により、第1ユーザと、第2ユーザと、の間で画像が共有される場合がある。
例えば、第2ユーザが所有する画像が、第1ユーザに対して共有された場合、画像受付部20は、第1ユーザが所有する画像群として、共有された画像を含めることができる。この場合、共有された画像についても、第1ユーザが所有する画像群と同様に扱われ、画像の解析、タグ情報の設定、および主タグ情報の付与、画像および主タグ情報の表示等の処理が行われる。
これにより、第1ユーザは、共有された画像を含めて、第1ユーザが所有する画像群に含まれる画像をディスプレイ38に表示し、ディスプレイ38に表示された画像、および画像に付与された適切な抽象度の主タグ情報を確認することができる。
なお、本発明の画像処理装置をクライアント14のみで実現することは必須ではなく、クライアント14が備える複数の構成要素のうちの1以上の構成要素をサーバ12が備える構成としていてもよい。
本発明の装置において、指示取得部18、画像受付部20、画像解析部22、タグ情報設定部24、タグ情報付与部26、抽象度設定部28、画像絞込部30、画像表示部32、画像共有部34、および通信部36等の各種の処理を実行する処理部(Processing Unit)のハードウェア的な構成は、専用のハードウェアであってもよいし、プログラムを実行する各種のプロセッサまたはコンピュータであってもよい。
各種のプロセッサには、ソフトウェア(プログラム)を実行して各種の処理部として機能する汎用的なプロセッサであるCPU(Central Processing Unit)、FPGA(Field Programmable Gate Array)等の製造後に回路構成を変更可能なプロセッサであるプログラマブルロジックデバイス(Programmable Logic Device:PLD)、ASIC(Application Specific Integrated Circuit)等の特定の処理をさせるために専用に設計された回路構成を有するプロセッサである専用電気回路等が含まれる。
1つの処理部を、これら各種のプロセッサのうちの1つで構成してもよいし、同種または異種の2つ以上のプロセッサの組み合わせ、例えば、複数のFPGAの組み合わせ、または、FPGAおよびCPUの組み合わせ等によって構成してもよい。また、複数の処理部を、各種のプロセッサのうちの1つで構成してもよいし、複数の処理部のうちの2以上をまとめて1つのプロセッサを用いて構成してもよい。
例えば、サーバおよびクライアント等のコンピュータに代表されるように、1つ以上のCPUとソフトウェアの組み合わせで1つのプロセッサを構成し、このプロセッサが複数の処理部として機能する形態がある。また、システムオンチップ(System on Chip:SoC)等に代表されるように、複数の処理部を含むシステム全体の機能を1つのIC(Integrated Circuit)チップで実現するプロセッサを使用する形態がある。
さらに、これらの各種のプロセッサのハードウェア的な構成は、より具体的には、半導体素子などの回路素子を組み合わせた電気回路(Circuitry)である。
また、本発明の方法は、例えば、その各々のステップをコンピュータに実行させるためのプログラムにより実施することができる。また、このプログラムが記録されたコンピュータ読み取り可能な記録媒体を提供することもできる。
以上、本発明について詳細に説明したが、本発明は上記実施形態に限定されず、本発明の主旨を逸脱しない範囲において、種々の改良や変更をしてもよいのはもちろんである。
10 画像処理システム
12 サーバ
14 クライアント
16 ネットワーク
18 指示取得部
20 画像受付部
22 画像解析部
24 タグ情報設定部
26 タグ情報付与部
28 抽象度設定部
30 画像絞込部
32 画像表示部
34 画像共有部
36 通信部
38 ディスプレイ

Claims (19)

  1. 第1ユーザが所有する画像群の入力を受け付ける画像受付部と、
    前記画像群に含まれる各々の画像を解析する画像解析部と、
    前記各々の画像の解析結果に基づいて、前記各々の画像に付与すべきタグ情報を設定するタグ情報設定部と、
    前記各々の画像について、前記画像に付与すべきタグ情報のうち、前記画像群に含まれる全ての画像に付与すべき全てのタグ情報の総出現回数に対する、前記画像に付与すべきタグ情報の出現回数の割合が、第1閾値以上、第2閾値以下であるタグ情報を、主タグ情報として、前記画像に付与するタグ情報付与部と、を備え
    前記タグ情報設定部は、前記各々の画像について、同じカテゴリに含まれ、かつ抽象度が異なる複数のタグ情報のうち、前記抽象度が異なる2以上のタグ情報を、前記画像に付与すべきタグ情報として設定し、
    前記タグ情報付与部は、前記画像に付与すべき、前記抽象度が異なる2以上のタグ情報の中に、前記割合が、前記第1閾値以上、前記第2閾値以下である2以上のタグ情報がある場合に、前記割合が、前記第1閾値以上、前記第2閾値以下であるタグ情報を、前記主タグ情報として、前記画像に付与する、画像処理装置。
  2. さらに、前記画像群に含まれる画像に付与されたタグ情報に基づいて、前記各々の画像に付与されたタグ情報の抽象度を設定する抽象度設定部を備え、
    前記抽象度設定部は、第1タグ情報および第2タグ情報が同じカテゴリに含まれるタグ情報であり、前記第1タグ情報が付与された画像には前記第2タグ情報が付与されているのに対して、前記第2タグ情報が付与された画像には前記第1タグ情報が付与されていない場合が閾値以上ある場合に、前記第1タグ情報および前記第2タグ情報の抽象度が異なり、前記第2タグ情報が前記第1タグ情報よりも抽象度が高いタグ情報であると設定し、
    前記タグ情報設定部は、前記画像群に含まれる画像に付与され、前記抽象度が設定されたタグ情報を前記抽象度が異なる複数のタグ情報として用いて、前記各々の画像に付与すべきタグ情報を設定する、請求項に記載の画像処理装置。
  3. 前記タグ情報付与部は、前記各々の画像について、前記画像に付与すべきタグ情報の中に、前記割合が、前記第1閾値以上、前記第2閾値以下である2以上のタグ情報がある場合に、前記割合が、前記第1閾値以上、前記第2閾値以下である2以上のタグ情報を、前記主タグ情報として、前記画像に付与する、請求項1または2に記載の画像処理装置。
  4. 前記タグ情報付与部は、前記各々の画像について、前記画像に付与すべきタグ情報の中に、前記割合が、前記第1閾値以上、前記第2閾値以下である2以上のタグ情報がある場合に、前記割合が、前記第1閾値以上、前記第2閾値以下である2以上のタグ情報のうち、前記抽象度が最大のタグ情報のみを、前記主タグ情報として、前記画像に付与する、請求項またはに記載の画像処理装置。
  5. 前記タグ情報付与部は、前記各々の画像について、前記画像に付与すべきタグ情報の中に、前記割合が、前記第1閾値以上、前記第2閾値以下である2以上のタグ情報がある場合に、前記割合が、前記第1閾値以上、前記第2閾値以下である2以上のタグ情報のうち、前記割合が最小のタグ情報のみを、前記主タグ情報として、前記画像に付与する、請求項またはに記載の画像処理装置。
  6. 前記タグ情報付与部は、前記各々の画像について、前記画像に付与すべきタグ情報の中に、前記割合が、前記第1閾値以上、前記第2閾値以下であるタグ情報がない場合に、前記割合が前記第1閾値未満であるタグ情報のうち、前記割合が最大のタグ情報のみを、前記主タグ情報として、前記画像に付与する、請求項1ないしのいずれか一項に記載の画像処理装置。
  7. さらに、画像の絞込条件を設定する指示に応じて、前記画像群に含まれる画像の中から、絞込条件に一致する画像グループに絞り込む画像絞込部を備え、
    前記タグ情報付与部は、前記画像グループに含まれる各々の画像について、前記画像に付与すべきタグ情報のうち、前記画像グループに含まれる全ての画像に付与すべき全てのタグ情報の総出現回数に対する、前記画像に付与すべきタグ情報の出現回数の割合が、第3閾値以上、第4閾値以下であるタグ情報を、前記主タグ情報として、前記画像に付与する、請求項1ないしのいずれか一項に記載の画像処理装置。
  8. 前記画像受付部は、さらに、前記第1ユーザが所有する新たな画像の入力を受け付けて前記画像群に加え、
    前記画像解析部は、さらに、前記新たな画像を解析し、
    前記タグ情報設定部は、さらに、前記新たな画像の解析結果に基づいて、前記新たな画像に付与すべきタグ情報を設定し、
    前記タグ情報付与部は、前記新たな画像を含む、前記画像群に含まれる各々の画像について、前記画像に付与すべきタグ情報のうち、前記割合が、前記第1閾値以上、前記第2閾値以下であるタグ情報を、前記主タグ情報として、前記画像に付与する、請求項1ないしのいずれか一項に記載の画像処理装置。
  9. さらに、前記第1ユーザと、第2ユーザと、の間で画像を共有する画像共有部を備え、
    前記第2ユーザが所有する画像が、前記第1ユーザに対して共有された場合、前記画像受付部は、前記第1ユーザが所有する画像群として、前記共有された画像を含める、請求項1ないしのいずれか一項に記載の画像処理装置。
  10. さらに、前記画像群に含まれる少なくとも一部の画像をディスプレイに表示させる画像表示部を備え、
    前記画像表示部は、前記ディスプレイに表示された画像に関連付けて、前記ディスプレイに表示された画像に付与された前記主タグ情報を表示させる、請求項1ないしのいずれか一項に記載の画像処理装置。
  11. 前記タグ情報設定部は、前記各々の画像に写っている人物の感情を表すタグ情報を、前記各々の画像に付与すべきタグ情報として設定する、請求項1ないし1のいずれか一項に記載の画像処理装置。
  12. 前記タグ情報設定部は、撮影者の感情を設定する指示に応じて、前記各々の画像を撮影した人物の感情を表すタグ情報を、前記各々の画像に付与すべきタグ情報として設定する、請求項1ないし1のいずれか一項に記載の画像処理装置。
  13. 前記タグ情報付与部は、前記各々の画像について、前記画像に付与すべきタグ情報のうち、前記主タグ情報として前記画像に付与したタグ情報以外のタグ情報を、前記画像に付与する、請求項1ないし1のいずれか一項に記載の画像処理装置。
  14. 画像受付部が、第1ユーザが所有する画像群の入力を受け付けるステップと、
    画像解析部が、前記画像群に含まれる各々の画像を解析するステップと、
    タグ情報設定部が、前記各々の画像の解析結果に基づいて、前記各々の画像に付与すべきタグ情報を設定するステップと、
    タグ情報付与部が、前記各々の画像について、前記画像に付与すべきタグ情報のうち、前記画像群に含まれる全ての画像に付与すべき全てのタグ情報の総出現回数に対する、前記画像に付与すべきタグ情報の出現回数の割合が、第1閾値以上、第2閾値以下であるタグ情報を、主タグ情報として、前記画像に付与するステップと、を含み、
    前記各々の画像について、同じカテゴリに含まれ、かつ抽象度が異なる複数のタグ情報のうち、前記抽象度が異なる2以上のタグ情報を、前記画像に付与すべきタグ情報として設定し、
    前記画像に付与すべき、前記抽象度が異なる2以上のタグ情報の中に、前記割合が、前記第1閾値以上、前記第2閾値以下である2以上のタグ情報がある場合に、前記割合が、前記第1閾値以上、前記第2閾値以下であるタグ情報を、前記主タグ情報として、前記画像に付与する、画像処理方法。
  15. さらに、画像絞込部が、画像の絞込条件を設定する指示に応じて、前記画像群に含まれる画像の中から、絞込条件に一致する画像グループに絞り込むステップを含み、
    前記画像グループに含まれる各々の画像について、前記画像に付与すべきタグ情報のうち、前記画像グループに含まれる全ての画像に付与すべき全てのタグ情報の総出現回数に対する、前記画像に付与すべきタグ情報の出現回数の割合が、第3閾値以上、第4閾値以下であるタグ情報を、前記主タグ情報として、前記画像に付与する、請求項1に記載の画像処理方法。
  16. 前記画像受付部が、さらに、前記第1ユーザが所有する新たな画像の入力を受け付けて前記画像群に加えるステップと、
    前記画像解析部が、さらに、前記新たな画像を解析するステップと、
    前記タグ情報設定部が、さらに、前記新たな画像の解析結果に基づいて、前記新たな画像に付与すべきタグ情報を設定するステップと、を含み
    前記新たな画像を含む、前記画像群に含まれる各々の画像について、前記画像に付与すべきタグ情報のうち、前記割合が、前記第1閾値以上、前記第2閾値以下であるタグ情報を、前記主タグ情報として、前記画像に付与する、請求項14または15に記載の画像処理方法。
  17. さらに、画像表示部が、前記画像群に含まれる少なくとも一部の画像をディスプレイに表示させるステップを含み、
    前記ディスプレイに表示された画像に関連付けて、前記ディスプレイに表示された画像に付与された前記主タグ情報を表示させる、請求項1ないし1のいずれか一項に記載の画像処理方法。
  18. 請求項1ないし1のいずれか一項に記載の画像処理方法の各々のステップをコンピュータに実行させるためのプログラム。
  19. 請求項1ないし1のいずれか一項に記載の画像処理方法の各々のステップをコンピュータに実行させるためのプログラムが記録されたコンピュータ読み取り可能な記録媒体。
JP2018184349A 2018-09-28 2018-09-28 画像処理装置、画像処理方法、プログラムおよび記録媒体 Active JP7171349B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2018184349A JP7171349B2 (ja) 2018-09-28 2018-09-28 画像処理装置、画像処理方法、プログラムおよび記録媒体
US16/564,179 US11176378B2 (en) 2018-09-28 2019-09-09 Image processing device, image processing method,program, and recording medium
CN201910908243.8A CN110968724A (zh) 2018-09-28 2019-09-24 图像处理装置、图像处理方法及记录介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018184349A JP7171349B2 (ja) 2018-09-28 2018-09-28 画像処理装置、画像処理方法、プログラムおよび記録媒体

Publications (2)

Publication Number Publication Date
JP2020052948A JP2020052948A (ja) 2020-04-02
JP7171349B2 true JP7171349B2 (ja) 2022-11-15

Family

ID=69947923

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018184349A Active JP7171349B2 (ja) 2018-09-28 2018-09-28 画像処理装置、画像処理方法、プログラムおよび記録媒体

Country Status (3)

Country Link
US (1) US11176378B2 (ja)
JP (1) JP7171349B2 (ja)
CN (1) CN110968724A (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6934001B2 (ja) * 2018-09-27 2021-09-08 富士フイルム株式会社 画像処理装置、画像処理方法、プログラムおよび記録媒体
JP7484802B2 (ja) 2021-04-14 2024-05-16 トヨタ自動車株式会社 情報処理装置、プログラム及び情報処理方法
CN113488144B (zh) * 2021-07-14 2023-11-07 内蒙古匠艺科技有限责任公司 一种切片图像处理方法

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009157460A (ja) 2007-12-25 2009-07-16 Hitachi Ltd 情報提示装置及び方法
WO2010047337A1 (ja) 2008-10-20 2010-04-29 株式会社キャメロット 情報処理装置の動作制御システム及び動作制御方法
JP2012155524A (ja) 2011-01-26 2012-08-16 Olympus Corp キーワード付与装置、プログラム及び情報記憶媒体
JP2013140520A (ja) 2012-01-05 2013-07-18 Fujitsu Ltd 画像再生装置、画像再生プログラム、及び画像再生方法

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001076120A (ja) * 1999-08-31 2001-03-23 Fuji Xerox Co Ltd 画像処理装置及び画像処理方法
JP2010250635A (ja) 2009-04-17 2010-11-04 Seiko Epson Corp 画像サーバー、画像検索方法および画像管理方法
US20170193009A1 (en) * 2015-12-31 2017-07-06 Entefy Inc. Systems and methods for filtering of computer vision generated tags using natural language processing
KR102411281B1 (ko) * 2015-06-02 2022-06-21 삼성전자주식회사 전자 장치 및 전자 장치의 이미지 파일 생성 방법
JP6367168B2 (ja) * 2015-09-18 2018-08-01 富士フイルム株式会社 画像処理装置、画像処理方法、プログラムおよび記録媒体
JP6440604B2 (ja) 2015-09-29 2018-12-19 富士フイルム株式会社 被写体評価システム,被写体評価方法,被写体評価プログラムおよびそのプログラムを格納した記録媒体
JP6696344B2 (ja) * 2016-07-29 2020-05-20 富士ゼロックス株式会社 情報処理装置及びプログラム
CN109478311A (zh) * 2016-07-30 2019-03-15 华为技术有限公司 一种图像识别方法及终端
CN110192386B (zh) * 2017-01-31 2021-06-11 株式会社Ntt都科摩 信息处理设备和信息处理方法
WO2018212815A1 (en) * 2017-05-17 2018-11-22 Google Llc Automatic image sharing with designated users over a communication network
US10949669B2 (en) * 2017-08-22 2021-03-16 Kreatar, Llc Augmented reality geolocation using image matching

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009157460A (ja) 2007-12-25 2009-07-16 Hitachi Ltd 情報提示装置及び方法
WO2010047337A1 (ja) 2008-10-20 2010-04-29 株式会社キャメロット 情報処理装置の動作制御システム及び動作制御方法
JP2012155524A (ja) 2011-01-26 2012-08-16 Olympus Corp キーワード付与装置、プログラム及び情報記憶媒体
US20130304743A1 (en) 2011-01-26 2013-11-14 Olympus Corporation Keyword assignment device, information storage device, and keyword assignment method
JP2013140520A (ja) 2012-01-05 2013-07-18 Fujitsu Ltd 画像再生装置、画像再生プログラム、及び画像再生方法

Also Published As

Publication number Publication date
JP2020052948A (ja) 2020-04-02
US11176378B2 (en) 2021-11-16
CN110968724A (zh) 2020-04-07
US20200104600A1 (en) 2020-04-02

Similar Documents

Publication Publication Date Title
US9478054B1 (en) Image overlay compositing
US10599955B2 (en) Visual representations of photo albums
JP7171349B2 (ja) 画像処理装置、画像処理方法、プログラムおよび記録媒体
US8873851B2 (en) System for presenting high-interest-level images
US8660378B2 (en) Image evaluating device for calculating an importance degree of an object and an image, and an image evaluating method, program, and integrated circuit for performing the same
KR20190084278A (ko) 이미지들을 공유하기 위한 자동 제안들
US20030156304A1 (en) Method for providing affective information in an imaging system
US20030165270A1 (en) Method for using facial expression to determine affective information in an imaging system
WO2015122195A1 (ja) 印象分析装置、ゲーム装置、健康管理装置、広告支援装置、印象分析システム、印象分析方法、プログラム、及びプログラム記録媒体
JP7343660B2 (ja) 画像処理装置、画像処理方法、プログラムおよび記録媒体
WO2014004864A1 (en) Determining how interested a particular person is in an image
CN113870133B (zh) 多媒体显示及匹配方法、装置、设备及介质
JP7307607B2 (ja) メディアベースのコンテンツシェアを容易にする方法、コンピュータプログラム及びコンピューティングデバイス
JP6941800B2 (ja) 感情推定装置、感情推定方法及びプログラム
JP6922400B2 (ja) ファッション分析プログラム、ファッション分析装置及びファッション分析方法
US20140233811A1 (en) Summarizing a photo album
US9621505B1 (en) Providing images with notifications
US20170061642A1 (en) Information processing apparatus, information processing method, and non-transitory computer readable medium
US20200092484A1 (en) Image display control apparatus, image display control method, program, and recording medium
US20120215879A1 (en) Generating A Graphical Representation Of A User
US11144763B2 (en) Information processing apparatus, image display method, and non-transitory computer-readable storage medium for display control
JP6934001B2 (ja) 画像処理装置、画像処理方法、プログラムおよび記録媒体
CN106537417B (zh) 总结相册
US11210771B2 (en) Image evaluation apparatus, image evaluation method, and image evaluation program using impression values of representative images
JP2022080436A (ja) 撮影システム、サーバ、通信端末、撮影方法、プログラムおよび記録媒体

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200722

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210721

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20211005

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20220419

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220719

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20220719

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20220729

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20220802

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20221004

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221102

R150 Certificate of patent or registration of utility model

Ref document number: 7171349

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150