JP6161224B1 - 人物情報表示装置、人物情報表示方法及び人物情報表示プログラム - Google Patents

人物情報表示装置、人物情報表示方法及び人物情報表示プログラム Download PDF

Info

Publication number
JP6161224B1
JP6161224B1 JP2016255739A JP2016255739A JP6161224B1 JP 6161224 B1 JP6161224 B1 JP 6161224B1 JP 2016255739 A JP2016255739 A JP 2016255739A JP 2016255739 A JP2016255739 A JP 2016255739A JP 6161224 B1 JP6161224 B1 JP 6161224B1
Authority
JP
Japan
Prior art keywords
information
person
feature
unit
feature information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016255739A
Other languages
English (en)
Other versions
JP2018106631A (ja
Inventor
博 長山
博 長山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
AMBASS INC.
Original Assignee
AMBASS INC.
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by AMBASS INC. filed Critical AMBASS INC.
Priority to JP2016255739A priority Critical patent/JP6161224B1/ja
Application granted granted Critical
Publication of JP6161224B1 publication Critical patent/JP6161224B1/ja
Priority to PCT/JP2017/043270 priority patent/WO2018123440A1/ja
Priority to US16/062,691 priority patent/US10657417B2/en
Publication of JP2018106631A publication Critical patent/JP2018106631A/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/172Classification, e.g. identification
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/213Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods
    • G06F18/2135Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods based on approximation criteria, e.g. principal component analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/217Validation; Performance evaluation; Active pattern learning techniques
    • G06F18/2178Validation; Performance evaluation; Active pattern learning techniques based on feedback of a supervisor
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/0482Interaction with lists of selectable items, e.g. menus
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/40Scenes; Scene-specific elements in video content
    • G06V20/41Higher-level, semantic clustering, classification or understanding of video scenes, e.g. detection, labelling or Markovian modelling of sport events or news items
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/432Content retrieval operation from a local storage medium, e.g. hard-disk
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • H04N21/472End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content
    • H04N21/4722End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content for requesting additional data associated with the content
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/765Interface circuits between an apparatus for recording and another apparatus
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/91Television signal processing therefor
    • H04N5/93Regeneration of the television signal or of selected parts thereof

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Databases & Information Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Human Computer Interaction (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Software Systems (AREA)
  • Computational Linguistics (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Television Signal Processing For Recording (AREA)

Abstract

【課題】動画に表示されている人物を示す情報をより早くより正確に提供するための人物情報表示装置等を提供することを目的とする。【解決手段】本願に開示する人物情報表示装置は、動画像データから人物の顔の特徴を抽出する特徴抽出部と、予め記憶された複数人の顔の特徴情報の中から、特徴抽出部が抽出した顔の特徴と一致する特徴情報を抽出する一致情報抽出部と、一致情報抽出部が抽出した複数の特徴情報が類似する場合には、類似する複数の特徴情報のうち、ユーザの入力又は所定の基準に応じて選択された特徴情報を除外候補に設定する除外候補設定部と、一致情報抽出部が抽出した特徴情報であって除外候補設定部が除外候補に設定した特徴情報に対応する人物を示す情報と、一致情報抽出部が抽出した特徴情報であって除外候補に設定されていない特徴情報に対応する人物を示す情報とを表示部に表示させる人物情報出力部とを備える。【選択図】図1

Description

本発明は、人物情報表示装置、人物情報表示方法及び人物情報表示プログラムに関する。より詳しくは、動画像に表示されている人物を示す情報を表示する装置、方法及びプログラムに関する。
従来、動画像データから被写体を抽出する装置が知られている(例えば、特許文献1)。近年、働き方、生活スタイルの多様化に伴って、インターネットを主軸としたVOD(Video On Demand)が注目されている。例えば、テレビ番組のVODとして、IP同時放送や見逃し番組が提供されている。こうしたVODのコンテンツは、決まった時間に放送される従来のテレビ番組とは異なり、ユーザによって積極的に選択されることにより視聴されることになる。したがって、より多くのユーザの興味を引くために、各コンテンツに対する各種の番組情報を提供する必要がある。番組情報の中でも出演者の情報は、ユーザが特に知りたい情報の1つである。
したがって、出演者の情報を番組情報として提供するために、VODの各コンテンツに出演している出演者情報を各コンテンツと関連付けて作成する作業が行われている。
特開2011−39797号公報
しかしながら、各コンテンツの出演者情報は番組制作会社等から予め提供されない場合がある。また、提供された場合であってもその情報が誤っている場合もある。したがって、出演者情報を各コンテンツに関連付けるためには、各コンテンツの被写体を確認して出演者を特定し、番組情報として登録する必要がある。しかしながら、人的運用でこの作業を行う場合、非常に多くの時間がかかる。また、公開期間が限定される可能性があるVODでは、公開が確定する前の動画についても、公開が確定してからでは作業が間に合わなくなる可能性があるため、先に出演者の特定及び登録の作業を行う場合がある。この場合、動画が公開されないことになると、上記作業が無駄になってしまう。したがって、この無駄をなくすためには、公開が確定してからでも作業が間に合うように、作業時間を短縮させる必要がある。
また、出演者情報はコンテンツと共に一般に公開されることを前提としている。したがって、公開情報に誤りが生じないように正確な情報を提供する必要がある。
以上に鑑みて、本発明は、動画に表示されている人物を示す情報をより早くより正確に提供するための人物情報表示装置等を提供することを目的とする。
本願に開示する人物情報表示装置は、動画像データから人物の顔の特徴を抽出する特徴抽出部と、予め記憶された複数人の顔の特徴情報の中から、特徴抽出部が抽出した顔の特徴と一致する特徴情報を抽出する一致情報抽出部と、一致情報抽出部が抽出した複数の特徴情報が類似する場合には、類似する複数の特徴情報のうち、ユーザの入力又は所定の基準に応じて選択された特徴情報を除外候補に設定する除外候補設定部と、一致情報抽出部が抽出した特徴情報であって除外候補設定部が除外候補に設定した特徴情報に対応する人物を示す情報と、一致情報抽出部が抽出した特徴情報であって除外候補に設定されていない特徴情報に対応する人物を示す情報とを表示部に表示させる人物情報出力部とを備える。
本願の一観点によれば、動画に表示されている人物を示す情報をより早くより正確に提供することができる。
第1の実施形態に係る人物情報表示装置の機能ブロック図である。 第1の実施形態に係る動画像記憶部と人物情報記憶部と類似関係記憶部のデータ構成図である。 第1の実施形態に係る人物情報表示装置の動作を示すフローチャートである。 第1の実施形態における類似人物情報の表示態様の一例を示す説明図である。 第1の実施形態における出演者確認リストの表示態様の一例を示す説明図である。 第2の実施形態に係る人物情報表示装置の機能ブロック図である。 第2の実施形態における類似人物情報の表示態様の一例を示す説明図である。 第3の実施形態に係る人物情報表示装置の動作を示すフローチャートである。 第3の実施形態における出演者確認リストの表示態様の一例を示す説明図である。 第5の実施形態に係る人物情報表示装置の動作を示すフローチャートである。
[第1の実施形態]
以下、本発明の実施の形態を添付の図により説明する。
図1は、第1の実施形態に係る人物情報表示装置1の機能ブロック図である。人物情報表示装置1は、例えば、PC等のコンピュータによって実現される。人物情報表示装置1は、各種の情報を記憶する記憶部5と、装置全体を制御する制御部6と、入力手段を介して外部からの入力を受け付ける入力部7と、各種の情報を表示する表示部8とを備えている。
記憶部5は、例えば、ハードディスク、メインメモリ、フラッシュメモリ、その他の各種メモリ等の記憶手段によって実現され、各種のプログラム、各種のデータ等を記憶する。
記憶部5は、動画像データを記憶する動画像記憶部11と、人物の顔の特徴情報を記憶する人物情報記憶部12と、類似する人物を示す類似関係情報を記憶する類似関係記憶部14と、動画像データから抽出した顔の特徴を記憶する動画特徴情報記憶部15とを備えている。
図2に示すように、動画像記憶部11は、例えば、VODによって提供されるシリーズものの動画の動画像データ17を予め記憶している。本実施形態では、タイトル「×××××」によって特定される5話構成のドラマの動画像データ17を記憶している。すなわち、上記ドラマを構成する1話〜5話のそれぞれの動画は同一シリーズを構成する動画である。ここで、説明のため、同一のシリーズを構成する複数の動画像データ17をシリーズ構成動画用動画像データ17aと呼ぶ。図2に示すように、動画像データ17は複数のシリーズ構成動画用動画像データ17aを備えており、動画像記憶部11は、複数のシリーズ構成動画用動画像データ17aを記憶している。
また、人物情報記憶部12は、人物の顔の特徴情報21等を含む人物情報20を予め記憶している。本実施形態では、特徴情報21として顔画像を予め記憶している。顔画像は例えば、顔の写真又は顔の静止画を想定している。また、各特徴情報21を識別する個人ID22が各特徴情報21に割り当てられている。本実施形態において、個人ID22は数字によって構成されているが、文字、記号又はそれらと数字の組み合わせ等によって構成してもよい。人物情報20は、個人ID22と、特徴情報21が示す人物の氏名23を備えている。また、人物情報20は、特徴情報21が除外候補に設定されているかを示す除外候補情報25を有している。除外候補とは、出演者情報から除外される人物の候補である。また、出演者情報とは、動画像データ17に表示されている人物に関する情報である。本実施形態において、出演者情報は、動画像データ17に出演している人物に関する情報であり、後述のように、各動画と対応付けて公開されることになる出演者の情報である。
本実施形態では、除外候補のタイプとして、シリーズ除外候補25aと単発除外候補25bを設けている。
シリーズ除外候補25aとは、同一シリーズを構成するすべてのシリーズ構成動画用動画像データ17aにおいて出演者情報から除外される人物の候補である。
同一のシリーズを構成する複数のシリーズ構成動画用動画像データ17aの少なくとも1つにおいてシリーズ除外候補25aに設定された特徴情報21は、同一シリーズを構成する他のシリーズ構成動画用動画像データ17aを対象とする処理において、後述の一致情報抽出部43が抽出する特徴情報21から除外される。
例えば、上記1話のシリーズ構成動画用動画像データ17aの処理において、シリーズ除外候補25aに設定された特徴情報21は、他の2話〜5話のシリーズ構成動画用動画像データ17aの処理において、後述の一致情報抽出部43が抽出する特徴情報21から除外されることになる。
また、単発除外候補25bとは、1つのシリーズ構成動画用動画像データ17aについてのみ出演者情報から除外される人物の候補である。単発除外候補25bは、例えば、上記1話のシリーズ構成動画用動画像データ17aについてのみ特徴情報21を除外候補に設定し、他の2話〜5話については、除外候補に設定しない場合等において用いられる設定である。なお、単発除外候補25bは、対象となるシリーズ構成動画用動画像データ17aについての後述する処理が終了すると、自動的に解除されるように設定してもよいし、どのシリーズ構成動画用動画像データ17aについての除外候補設定であるかが後述の除外候補設定部48によって識別できるように設定してもよい。
図2において、説明のため、除外候補に設定されていることをチェックマークによって示している。チェックマークが付された人物は除外候補ということになる。図2の例では、個人ID22「000004」の特徴情報21が単発除外候補25bに設定されている。なお、図2の例においてチェックマークによって示す設定状態は、現在処理対象の動画像データ17に適用される設定である。したがって、例えば、上記1話のシリーズ構成動画用動画像データ17aの処理を実行する際に図2に示す設定状態が使用される場合には、個人ID22「000004」の特徴情報21は上記1話のシリーズ構成動画用動画像データ17aについて除外候補に設定されていることになる。
また、人物情報20は、除外確定情報26を備えている。除外確定情報26は、出演者情報から除外することが確定した人物を示す情報である。後述のように、除外候補に設定された人物を出演者情報から除外するかがユーザによって決定され、ユーザによる除外確定情報26の入力により、除外確定情報26が人物情報記憶部12に記憶される。
さらに、人物情報20は、特徴情報21の適用範囲を示す適用範囲情報28を記憶している。本実施形態において、適用範囲情報28は、特徴情報21が特定のシリーズのみに使用できるものなのか、すべての動画像データ17について使用できるものなのかを示す情報である。なお、使用できるとは、後述の一致情報抽出部43の抽出対象となることを意味している。
図2の例では、説明のため、特徴情報21が特定のシリーズのみに使用できるものであることをチェックマークによって示している。チェックマークが付されていない特徴情報21はすべての動画像データ17について使用できる。
図2の例では、個人ID22「000002」の特徴情報21が特定のシリーズのみに使用できるものに設定されている。前述のように、図2の例においてチェックマークによって示す設定状態は、現在処理対象の動画像データ17に適用される設定である。したがって、上記1話のシリーズ構成動画用動画像データ17aの処理を実行する際に図2に示す設定状態が使用される場合には、上記特定のシリーズは、上記1話〜5話のシリーズ構成動画用動画像データ17aによって構成されるドラマ「×××××」である。
よって、図2の例では、個人ID22「000002」の特徴情報21は、上記1話〜5話のシリーズ構成動画用動画像データ17aの処理においては、後述の一致情報抽出部43の抽出対象となるが、それ以外の動画像データ17の処理においては、一致情報抽出部43の抽出対象から除外されることになる。
なお、適用範囲情報28の設定は、対象となる特定のシリーズを構成するすべてのシリーズ構成動画用動画像データ17aについての後述する処理が終了すると、その他の動画像データ17の処理において後述の一致情報抽出部43の抽出対象から特徴情報21が自動的に除外されるように設定してもよいし、どのシリーズが適用対象なのかを後述の抽出対象指定部44によって識別できるように設定してもよい。
加えて、人物情報20は、顔画像の公開の可否を示す顔画像公開許可情報31と、公開用画像32と、公開用のその他の情報33を記憶している。顔画像公開許可情報31は、特徴情報21として使用した顔画像が公開してもよい画像であるのかを示す情報である。公開用画像32は、出演者情報を公開する際に公開される画像である。本実施形態では、顔画像公開許可情報31によって、特徴情報21として使用した顔画像が公開不可である場合に、その特徴情報21が示す人物の画像として公開される画像である。公開用画像32は、例えば、人物のイラストやシルエット像を表示した画像であってもよい。公開用のその他の情報33は、例えば、人物のプロフィールや他の出演番組等、出演者情報として公開する情報である。
特徴情報21、氏名23、除外候補情報25、除外確定情報26、適用範囲情報28、顔画像公開許可情報31、公開用画像32、公開用のその他の情報33は、すべて、個人ID22に対応付けられている。
類似関係記憶部14は、どの特徴情報21がどの特徴情報21と類似しているかを示す類似関係情報36を予め記憶している。類似関係情報36は、個人ID22と、その個人ID22に対応付けられた類似人物の個人ID37を備えている。類似人物とは、特徴情報21が類似する人物である。すなわち、顔の特徴が類似している人物を類似人物とし、その個人ID22を類似関係情報36として記憶している。前述のように、個人ID22は各特徴情報21を識別し、各特徴情報21に割り当てられている。
図2に示す例では、個人ID22「000001」によって識別される特徴情報21と類似する特徴情報21は、個人ID22「000064」,「139167」,「233891」によって識別される特徴情報21である。したがって、個人ID22「000001」によって識別される人物は、個人ID22「000064」,「139167」,「233891」のそれぞれによって識別される各人物と類似していることになる。
また、図2の例では、個人ID22「000002」に対応付けられた類似人物の個人ID37はないため、人物情報20の中に、個人ID22「000002」によって識別される特徴情報21と類似する特徴情報21は存在しないということになる。
本実施形態においては、人物情報20に収録されている特徴情報21について予め互いの類似関係を判定し、類似関係情報36として類似関係記憶部14に記憶しておく。特徴情報21の類似関係の判定は、例えば、画像の特徴点の情報を用いた画像マッチングによって行う。制御部6は、特徴情報21として記憶された複数の顔画像から特徴点を抽出し、抽出した特徴点を比較し、予め設定された類似度の閾値に応じてどの顔画像とどの顔画像が類似するかを判定する。特徴点は、一例として、顔画像において階調変化の強い箇所において抽出され、目、鼻、唇等の各パーツの位置や形状を示す。なお、特徴情報21の類似関係の判定においては、どのような画像マッチング判定処理を実行してもよい。例えば、OpenCV等の既存の画像処理ライブラリを利用して、各顔画像の類似関係を判定してもよい。
なお、類似関係情報36を予め別のコンピュータを用いて作成し、類似関係記憶部14に記憶しておいてもよい。
なお、上記のように画像マッチングによって類似であると判定した特徴情報21について、類似する特徴情報21の個人ID22を類似関係情報36として記憶しておいてもよいし、画像マッチング以外の方法で類似であると判定された類似する特徴情報21の個人ID22を類似関係情報36として記憶しておいてもよい。
また、ユーザが類似であると判断した人物の特徴情報21の類似関係を類似関係情報36に記憶しておいてもよい。例えば、ものまね芸人の特徴情報21と当該ものまね芸人が真似している本人の特徴情報21を互いに類似するものとして類似関係情報36に記憶しておいてもよい。
また例えば、後述のように、一人の人物に対して複数の特徴情報21が記憶されているときに、それらの特徴情報21を互いに類似するものとして類似関係情報36に記憶しておいてもよい。
動画特徴情報記憶部15は、動画像データ17から後述の特徴抽出部42が抽出した人物の顔の特徴を記憶する。ここでは、説明のため、動画像データ17から抽出された人物の顔の特徴を動画特徴情報と呼ぶ。
制御部6(図1)は、例えば、プロセッサ、CPU等の演算手段によって実現され、各種のメモリ、ハードディスク等の記憶手段と協働して機能し、各種のプログラムを実行する。
制御部6は、メイン制御部41と、動画像データ17から人物の顔の特徴を抽出する特徴抽出部42と、上記顔の特徴と一致する特徴情報21を抽出する一致情報抽出部43と、特徴情報21の適用範囲を指定する抽出対象指定部44と、特徴情報21に対応する人物を示す情報を表示部8に表示させる人物情報出力部45とを備えている。
また、制御部6は、複数の特徴情報21が類似するかを判定する類似人物判定部46と、後述の類似人物情報60を表示部8に表示させる類似人物出力部47と、特徴情報21を除外候補に設定する除外候補設定部48と、除外を確定する除外確定設定部49と、時間に関する情報を算出する時間情報算出部51とを備えている。
メイン制御部41は、各種のプログラムを実行して、各種構成部及び各機能部間の制御及び装置全体の制御を実行する。
特徴抽出部42は、動画像データ17から人物の顔の画像部分を特定して動画像データ17に表示されている顔の特徴(上記動画特徴情報)を抽出する。本実施形態において、特徴抽出部42は、顔の特徴点の情報を動画特徴情報として動画像データ17から抽出する。なお、動画像データ17から顔の特徴を抽出するためには、どのような顔認識アルゴリズムを用いてもよい。例えば、前述のように、OpenCV等の既存の画像処理ライブラリを利用してもよい。
一致情報抽出部43は、予め記憶された複数人の顔の特徴情報21の中から、特徴抽出部42が抽出した動画特徴情報と一致する特徴情報21を抽出する。なお、ここでの一致とは、許容可能な誤差を含むものである。また、所定の閾値内の類似度である場合に一致とみなしてもよい。
本実施形態では、一致情報抽出部43は、人物情報記憶部12に記憶された特徴情報21の中から上記動画特徴情報と一致する特徴情報21を抽出する。一致する特徴情報21の抽出は、例えば、画像の特徴点の情報を用いた画像マッチングによって行う。一致情報抽出部43は、特徴情報21として記憶された顔画像から顔の特徴点を抽出し、抽出した特徴点と、上記動画特徴情報が示す特徴点を比較することによって、動画像データ17から抽出した顔の特徴と一致する特徴情報21を抽出する。
なお、前述の画像マッチングと同様に、どのような画像マッチング判定処理を実行してもよいし、既存の画像処理ライブラリを利用してもよい。
抽出対象指定部44は、特定のシリーズを構成する複数の動画像データ17について抽出対象となる特徴情報21を指定する。例えば、抽出対象指定部44は、ユーザの入力に応じて選択された特徴情報21を、特定のシリーズの動画像データ17のみにおいて抽出対象となる特徴情報21に指定する。また、抽出対象指定部44は指定したことを示す適用範囲情報28を人物情報記憶部12に記憶する。
図2においては、説明のため、特定のシリーズの動画像データ17のみにおいて抽出対象となる特徴情報21に指定されたことをチェックマークによって示している。図2の例では、前述のように、適用範囲情報28においてチェックマークが付された個人ID22「000002」の特徴情報21が、特定のシリーズの動画像データ17のみにおいて一致情報抽出部43の抽出対象となる特徴情報21である。
人物情報出力部45は、一致情報抽出部43が抽出した特徴情報21に対応する人物を示す情報を表示部8に表示させる。また、人物情報出力部45は、除外候補設定部48が除外候補に設定した特徴情報21に対応する人物を示す情報と、除外候補に設定されていない特徴情報21に対応する人物を示す情報とを表示部8に表示させる。
本実施形態において、人物情報出力部45は、除外候補設定部48が除外候補に設定した特徴情報21に対応する人物を示す情報の表示態様を、除外候補に設定されていない特徴情報21に対応する人物を示す情報の表示態様とは異ならせて表示部8に表示させる。
類似人物判定部46は、予め記憶された類似する人物を示す類似関係情報36に基づいて、一致情報抽出部43が抽出した複数の特徴情報21が類似するかを判定する。本実施形態では、類似関係記憶部14に記憶された類似関係情報36に基づいて、類似人物判定部46が上記判定を行う。
また、類似人物判定部46は、1つの顔の特徴と一致する特徴情報21として、一致情報抽出部43が複数の特徴情報21を抽出した場合には、一致情報抽出部43が抽出した複数の特徴情報21を類似すると判定する。
類似人物出力部47は、一致情報抽出部43が抽出した複数の特徴情報21が類似する場合には、類似する複数の特徴情報21にそれぞれ対応する人物を示す情報を類似人物情報60として表示部8に表示させる。
除外候補設定部48は、ユーザの入力又は所定の基準に応じて選択された特徴情報21を除外候補に設定する。また、除外候補設定部48は、類似人物出力部47が表示した類似人物情報60に対応する特徴情報21のうち、ユーザの入力又は所定の基準に応じて選択された特徴情報21を除外候補に設定する。なお、上記所定の基準は、予め設定された基準である。
除外確定設定部49は、除外候補に設定された人物のうち、ユーザの入力によって選択された人物を除外確定に設定する。除外確定に設定された人物は、公開される出演者情報(以下、「公開出演者情報」という。)において、出演者から除外され、除外確定に設定された人物を示す情報は公開されない。
時間情報算出部51は、各人物の出演時間等、各種の時間情報を算出する。
入力部7は、キーボード、マウス等の各種入力手段によって、外部からのデータ等を人物情報表示装置1に入力する。
表示部8は、液晶ディスプレイ、有機ELディスプレイ等の表示画面8aを備え、表示画面に各種の動画、画像、データ、情報等を表示する。
次に、人物情報表示装置1の動作について説明する。人物情報表示装置1の処理の流れを示すフローチャートを図3に示す。
まず、動画像データ17から顔の特徴を特徴抽出部42が抽出する(ステップ1)。ステップ1において、特徴抽出部42は、動画像データ17を動画像記憶部11から読み出す。本実施形態では、動画像記憶部11に複数の動画像データ17が記憶されている場合、そのうちの1つを選択して読み出す。すなわち、図2に示す例では、上記1話〜5話のシリーズ構成動画用動画像データ17aのいずれか1つを読み出す。ここでは、上記1話のシリーズ構成動画用動画像データ17aを読み出す場合を想定して説明する。
本実施形態において、特徴抽出部42は、シリーズ構成動画用動画像データ17aのキーフレームから顔の特徴を抽出する。まず、読み出したシリーズ構成動画用動画像データ17aから特徴抽出部42が複数のキーフレームを抽出する。このとき、メイン制御部41は、各キーフレームのキーフレーム番号も特定する。なお、キーフレーム番号は再生時刻に対応している。
次いで、特徴抽出部42は、抽出した各キーフレームから人物の顔の画像部分を特定して動画像データ17に表示されている顔の特徴(上記動画特徴情報)を抽出する。ここでは、前述のように、顔の特徴点を動画特徴情報として抽出する。特徴抽出部42は、抽出した動画特徴情報を動画特徴情報記憶部15に記憶する。また、抽出された各動画特徴情報がどのキーフレームから抽出されたかを識別する情報を特徴抽出部42が動画特徴情報記憶部15に記憶する。例えば、各動画特徴情報を抽出したキーフレームのキーフレーム番号と対応付けて、特徴抽出部42が各動画特徴情報を動画特徴情報記憶部15に記憶する。
次いで、ステップ1において抽出された動画特徴情報と一致する特徴情報21を一致情報抽出部43が抽出する(ステップ2)。ステップ2において、一致する特徴情報21の抽出は、例えば前述のように、画像の特徴点の情報を用いた画像マッチングによって行う。一致情報抽出部43は、人物情報記憶部12から特徴情報21として記憶された顔画像を読み出し、読み出した顔画像から顔の特徴点を抽出する。また、一致情報抽出部43は、動画特徴情報記憶部15から特徴抽出部42が抽出した動画特徴情報を読み出す。次いで、一致情報抽出部43は、特徴情報21の顔画像から抽出した特徴点と、上記動画特徴情報が示す特徴点を比較することによって、シリーズ構成動画用動画像データ17aから抽出した顔の特徴と一致する特徴情報21を抽出する。
次に、ステップ2において一致情報抽出部43が抽出した特徴情報21からメイン制御部41が除外候補以外の特徴情報21を抽出する(ステップ3)。図2の例では、個人ID22「000004」の特徴情報21が除外候補(図2の例では、単発除外候補25b)に設定されている。したがって、一致情報抽出部43が抽出した複数の特徴情報21に個人ID22「000004」によって識別される特徴情報21が含まれている場合には、個人ID22「000004」の特徴情報21以外の特徴情報21をメイン制御部41が抽出することになる。
次いで、ステップ3において抽出された特徴情報21に類似人物があるかを類似人物判定部46が判定する(ステップ5)。本実施形態では、類似人物の判定として2つのパターンを想定している。1つ目のパターンは、類似関係記憶部14に記憶された類似関係情報36を用いて類似人物判定部46が類似関係を判定するものである。
この場合、類似人物判定部46は、予め記憶された類似する人物を示す類似関係情報36に基づいて、一致情報抽出部43が抽出した複数の特徴情報21が類似するかを判定する。
まず、類似人物判定部46は、類似関係記憶部14から類似関係情報36を読み出す。そして、読み出した類似関係情報36に基づいて、ステップ3において抽出された特徴情報21の中に、互いに類似する特徴情報21があるかを類似人物判定部46が判定する。
図2の例では、個人ID22「000001」によって識別される特徴情報21と類似する特徴情報21は、個人ID22「000064」,「139167」,「233891」によって識別される特徴情報21である。例えば、ステップ3において抽出された特徴情報21の中に、個人ID22「000001」によって識別される特徴情報21と、個人ID22「139167」によって識別される特徴情報21が含まれていた場合には、類似人物判定部46は、類似関係情報36に基づいて、個人ID22「000001」の特徴情報21と、個人ID22「139167」の特徴情報21が類似すると判定する。これにより、ステップ3において抽出された特徴情報21に類似人物があると類似人物判定部46が判定したことになる。
また、2つ目のパターンは、類似関係情報36を用いないで類似人物判定部46が類似関係を判定するものである。
この2つ目のパターンにおいて、類似人物判定部46は、1つの顔の特徴(動画特徴情報)と一致する特徴情報21として、一致情報抽出部43が複数の特徴情報21を抽出した場合には、一致情報抽出部43が抽出した複数の特徴情報21を類似すると判定する。
この例においては、ステップ3において抽出した特徴情報21と一致した動画特徴情報について、1つの動画特徴情報(1人の顔の特徴)と一致する特徴情報21を一致情報抽出部43がステップ2において複数抽出したかを類似人物判定部46が判定する。複数抽出したと判定された場合には、その複数の特徴情報21が類似するものであると類似人物判定部46が判定する。
1人の顔の特徴に複数の特徴情報21が一致するということは、それらの複数の特徴情報21は1人の顔の特徴とどちらも一致すると判定される程度に互いに類似していると考えられるからである。
前述のように、ステップ1において特徴抽出部42は複数のキーフレームから顔の特徴を抽出している。したがって、類似人物判定部46は、1つのキーフレームにおける一人の顔の特徴に対して、特徴抽出部42が複数の特徴情報21を抽出した場合には、一致情報抽出部43が抽出した複数の特徴情報21を類似すると判定する。
類似人物判定部46が1つの動画特徴情報に対して複数抽出された特徴情報21が類似すると判定すると、ステップ3において抽出された特徴情報21に類似人物があると類似人物判定部46が判定したことになる。
ステップ5において類似人物判定部46が類似人物ありと判定した場合には、類似する複数の特徴情報21にそれぞれ対応する人物(類似人物)を示す情報を類似人物情報60として類似人物出力部47が表示部8に表示させる(ステップ6)。
図4に示すように、類似人物情報60は、ステップ5において類似していると判定された特徴情報21(顔画像)と、その特徴情報21を識別する個人ID22と、個人ID22に対応付けられた氏名23を含む。類似人物出力部47は、特徴情報21と個人ID22と氏名23とを人物情報記憶部12から読み出し、表示部8の表示画面8aに表示させる。
また、本実施形態では、類似人物情報60と共に、除外候補設定入力受付部62と、表示時間情報63と、表示時刻情報64と、表示時間比率情報65とが表示部8の表示画面8aに表示される。
除外候補設定部48は、除外候補設定入力受付部62を表示部8に表示させる。
除外候補設定入力受付部62は、シリーズ除外候補設定入力受付部62aと、単発除外候補設定入力受付部62bとを備えている。シリーズ除外候補設定入力受付部62aと、単発除外候補設定入力受付部62bは、それぞれ、各特徴情報21に対応付けられて設けられている。
シリーズ除外候補設定入力受付部62aと、単発除外候補設定入力受付部62bは、例えば、チェックボックスを備え、ユーザがチェックボックスをチェックすることにより、対応する特徴情報21を除外候補設定部48がシリーズ除外候補25a又は単発除外候補25bに設定する。
表示時間情報63は、特徴情報21に対応する人物が動画像データ17において表示されている時間(表示時間)の長さを示す情報である。なおこの例ででは、現在の処理対象である1話のシリーズ構成動画用動画像データ17aにおける表示時間である。
時間情報算出部51は、上記類似人物の表示時間の長さを算出し、表示時間情報63として表示部8に表示させる。例えば、時間情報算出部51は、複数の類似人物の各人物について、それぞれの特徴情報21に一致すると判定された動画特徴情報を動画特徴情報記憶部15からすべて抽出し、それらと対応付けられた各キーフレーム番号を特定する。次いで、特定したキーフレーム番号の数、すなわち、上記動画特徴情報が表示されているキーフレームの数に応じて、特徴情報21に対応する人物の表示時間の長さを時間情報算出部51が算出する。
図4に示す例では、個人ID22「000001」によって識別される特徴情報21に対応する人物の表示時間(出演時間)は10分間であり、個人ID22「139167」によって識別される特徴情報21に対応する人物の表示時間は50分間である。
表示時刻情報64は、特徴情報21に対応する人物が動画像データ17において表示される時刻(表示時刻)を示す情報である。時間情報算出部51は、上記人物の表示時刻を特定し、表示時刻情報64として表示部8に表示させる。
例えば、時間情報算出部51は、複数の類似人物の各人物について、それぞれの特徴情報21に一致すると判定された動画特徴情報を動画特徴情報記憶部15からすべて抽出し、それらと対応付けられた各キーフレーム番号を特定する。次いで、特定したキーフレーム番号に応じて、各キーフレームの表示時刻を特定することにより、各人物の表示時刻(出演時刻)を特定する。
表示時間比率情報65は、類似人物情報60が示す複数の人物について、それぞれの人物の表示時間の長さの比率(表示時間比率)を示す情報である。
時間情報算出部51は、類似人物の表示時間情報63に基づいて、表示時間比率を算出して表示部8に表示させる。
図4に示す例では、個人ID22「000001」の人物の表示時間情報63によって示される表示時間が10分間であり、個人ID22「139167」の人物の表示時間情報63によって示される表示時間が50分間であるため、時間情報算出部51は、個人ID22「000001」の人物と個人ID22「139167」の人物の表示時間比率(出演時間比率)を1:5と算出している。
また、本実施形態では、類似人物出力部47は、類似人物情報60が示す複数の人物のうち、表示時間の長さに関する所定の基準を満たす人物を特定する情報を表示部8に表示させる。
例えば、上記表示時間の長さに関する所定の基準として、「上記類似人物の表示時間の長さの合計に対するそれぞれの人物の表示時間の長さの比率が所定の比率以上である」という基準を設定する。
この場合、図4の例では、類似人物情報60が示す個人ID22「000001」の人物と個人ID22「139167」の人物の表示時間の長さの合計に対するそれぞれの人物の表示時間の長さの比率が所定の比率以上である人物を特定する情報を類似人物出力部47が表示部8に表示させる。ここでは、説明のため、上記所定の比率を例えば、30%と設定する。類似人物出力部47は、表示時間比率情報65に基づいて、上記表示時間の長さの比率が30%以上である人物として個人ID22「139167」の人物を特定する。次いで、類似人物出力部47は、表示時間の長さに関する所定の基準を満たす人物を特定する情報として特定標識66(図4の例では、星型のマーク)を個人ID22「139167」の特徴情報21の近傍に表示させ、特定した人物が個人ID22「139167」の人物であることを示している。
なお、上記表示時間の長さに関する所定の基準は、表示時間の長さに関するものであればどのような基準でもよく、例えば、「類似人物のうち表示時間の長さが最も長い」という基準でもよいし、「類似人物のうち表示時間の長さの比率が最も大きい」という基準でもよいし、「表示時間の長さが所定の長さ以上である」という基準でもよい。
ステップ6において類似人物情報60等が表示部8に表示されると、除外候補設定入力受付部62がユーザの入力を受け付ける(ステップ7)。ユーザは表示画面8aに表示された類似人物情報60を閲覧して、特徴情報21を除外候補に設定する人物を選択し、選択した人物の特徴情報21に対応付けられたシリーズ除外候補設定入力受付部62a又は単発除外候補設定入力受付部62bのいずれかのチェックボックスにマウス等の入力手段を介してチェックを入れる。これにより、除外候補設定入力受付部62がユーザの入力を受け付けることになる。
ユーザは、除外候補に設定する人物の選択に際して、表示時間情報63、表示時間比率情報65、特定標識66等の表示された各種の情報を参考にすることができる。また、ユーザは、表示時刻情報64に基づいて、類似人物情報60によって示される人物が動画像データ17に表示されている場面に速やかにアクセスし、動画に表示されている人物を確認することができる。
なお、類似人物情報60が示す複数の人物の特徴情報21を除外候補に設定するように、複数の除外候補設定入力受付部62のチェックボックスにユーザがチェックを入力してもよい。また、除外候補設定入力受付部62のチェックボックスにユーザがチェックを入力せず、類似人物情報60が示す複数の人物の特徴情報21のどちらも除外候補に設定されない状態でステップ7の処理を終了させてステップ9の処理に進んでもよい。
除外候補設定入力受付部62がユーザの入力を受け付けると、除外候補設定部48は、ユーザの入力に応じて選択された特徴情報21を除外候補に設定する。
例えば、図4の例では、「類似人物の表示時間の長さの合計に対するそれぞれの人物の表示時間の長さの比率が30%以上である」という基準を満たす人物として、個人ID22「139167」の特徴情報21が特定され、特定標識66が個人ID22「139167」の人物を示す情報に付されている。したがって、個人ID22「139167」の人物の方が個人ID22「000001」の人物よりも出演者である可能性が高いと推測できる。よって、ユーザは、個人ID22「000001」の特徴情報21を除外設定にすることを選択することができる。例えば、図4の例において、個人ID22「000001」の特徴情報21に対応付けられたシリーズ除外候補設定入力受付部62aのチェックボックスをユーザがチェックすると、除外候補設定部48は個人ID22「000001」の特徴情報21をシリーズ除外候補25aに設定し、その設定情報を人物情報記憶部12に記憶する。図2の例では、個人ID22「000001」のシリーズ除外候補25aの欄にチェックが入ることになる。
ステップ7においてユーザの入力に応じて選択された特徴情報21を除外候補設定部48が除外候補に設定すると、人物情報出力部45が出演者確認リストを表示部8に表示させる(ステップ9)。
なお、図3に示すように、ステップ5において類似人物なしと判定された場合には、ステップ6及びステップ7の処理を実行せずにステップ9の処理を実行することになる。
出演者確認リストは、一致情報抽出部43が抽出した特徴情報21に対応する人物を示す情報を含んでいる。すなわち、人物情報出力部45は、一致情報抽出部43が抽出した特徴情報21に対応する人物を示す情報を表示部8に表示させる。このとき、ステップ3において類似判定のための抽出対象から除外した特徴情報21についても表示部8に表示させる。
一致情報抽出部43が抽出した特徴情報21に対応する人物を示す情報には除外設定された人物と除外設定されていない人物がどちらも含まれている。したがって、人物情報出力部45は、除外候補設定部48が除外候補に設定した特徴情報21に対応する人物を示す情報と、除外候補に設定されていない特徴情報21に対応する人物を示す情報とを表示部8に表示させることになる。
図5に示すように、出演者確認リスト70は、一致情報抽出部43が抽出した特徴情報21と、その特徴情報21を識別する個人ID22と、個人ID22に対応付けられた氏名23を含む。これらの情報は、一致情報抽出部43が抽出した特徴情報21に対応する人物を示す情報であり、除外候補に設定した特徴情報21に対応する人物を示す情報と、除外候補に設定されていない特徴情報21に対応する人物を示す情報とが含まれている。
人物情報出力部45は、特徴情報21と個人ID22と氏名23とを人物情報記憶部12から読み出し、表示部8の表示画面8aに表示させる。
また、出演者確認リスト70には、表示時間情報63と、表示時刻情報64とが含まれている。表示時間情報63と表示時刻情報64は、ステップ6において前述した方法と同様の方法により、時間情報算出部51によって算出されて表示部8の表示画面8aに表示される。
なお、ステップ6及びステップ9において時間情報算出部51が表示時間情報63と表示時刻情報64とを算出する代わりに、一致情報抽出部43が抽出した特徴情報21のすべてについてステップ2において時間情報算出部51が表示時間情報63と表示時刻情報64を算出するように構成してもよい。この場合、算出した表示時間情報63と表示時刻情報64とを時間情報算出部51が記憶部5に記憶し、ステップ6及びステップ9において時間情報算出部51が記憶部5から表示時間情報63と表示時刻情報64とを読み出して表示部8に表示させてもよい。
また、出演者確認リスト70には、除外候補設定入力受付部62と、除外確定入力受付部72と、除外候補解除入力受付部73とが設けられている。これらの入力受付部は、各人物の特徴情報21に対応付けられている。
除外候補に設定されている特徴情報21の人物には、除外確定入力受付部72と、除外候補解除入力受付部73とが設けられている。除外確定入力受付部72がユーザの入力を受け付けると、対応する特徴情報21を除外確定設定部49が除外確定に設定する。また、除外候補解除入力受付部73がユーザの入力を受け付けると、対応する特徴情報21を除外候補設定部48が除外候補から解除する。除外確定入力受付部72と、除外候補解除入力受付部73は、例えば、チェックボックスを備え、ユーザがチェックボックスをチェックすることにより、ユーザの入力が受け付けられる。
除外候補に設定されていない特徴情報21の人物には、ユーザの選択によって除外候補設定を行うことができるように、除外候補設定入力受付部62が設けられている。
本実施形態において、人物情報出力部45は、除外候補設定部48が除外候補に設定した特徴情報21に対応する人物を示す情報の表示態様を、除外候補に設定されていない特徴情報21に対応する人物を示す情報の表示態様とは異ならせて表示部8に表示させる。
図5の例では、除外候補に設定した特徴情報21に対応する人物を示す情報を特定する禁止標識75を人物情報出力部45が表示画面8aに表示させている。これにより、除外候補設定部48が除外候補に設定した特徴情報21に対応する人物を示す情報の表示態様を、除外候補に設定されていない特徴情報21に対応する人物を示す情報の表示態様とは異ならせている。
図5の例においては、前述のステップ7において、個人ID22「000001」の特徴情報21がシリーズ除外候補25aに設定された場合を想定している。したがって、図5では個人ID22「000001」の特徴情報21に対応する人物を示す情報に禁止標識75が付されている。また、図2を参照して前述したように、個人ID22「000004」の特徴情報21も単発除外候補25bに設定されている。したがって、個人ID22「000004」の特徴情報21に対応する人物を示す情報にも禁止標識75が付されている。
また、人物情報出力部45は、一致情報抽出部43が抽出した特徴情報21に対応する人物を示す情報を、表示時間の長さに基づく順序で表示部8に表示させる。
図5の例では、表示時間が長い順に表示させている。したがって、図5の左端に位置する個人ID22「138716」の人物の表示時間(出演時間)が最も長く、右端に位置する個人ID22「000001」の人物の表示時間(出演時間)が最も短い。
ユーザは、表示画面8aに表示された出演者確認リスト70を閲覧して、除外候補に設定された人物を公開出演者情報から除外するかどうかを決定する。ユーザが除外すると決定した人物について、除外確定入力受付部72がユーザの入力を受け付けると、対応する特徴情報21を除外確定設定部49が除外確定に設定する。
例えば、図5の例において、個人ID22「000001」の特徴情報21に対応付けられた除外確定入力受付部72のチェックボックスをユーザがチェックすると、除外確定情報26が入力されたことになる。除外確定設定部49は入力された除外確定情報26に基づいて個人ID22「000001」の特徴情報21を除外確定に設定し、その設定情報を人物情報記憶部12に記憶する。図2の例では、個人ID22「000001」の除外確定の欄にチェックが入ることになる。
また、除外候補に設定された人物のうち、出演者情報から除外しないとユーザが決定した人物について、除外候補解除入力受付部73がユーザの入力を受け付けると、対応する特徴情報21を除外候補設定部48が除外候補から解除する。すなわち、対応する特徴情報21が除外候補ではなくなる。対応する特徴情報21を除外候補設定部48が除外候補から解除すると、禁止標識75の表示を人物情報出力部45が非表示にする。
例えば、図5の例において、個人ID22「000004」の特徴情報21に対応付けられた除外候補解除入力受付部73のチェックボックスをユーザがチェックすると、除外候補設定部48は個人ID22「000004」の特徴情報21を除外候補から解除し、その情報を人物情報記憶部12に記憶する。図2の例では、個人ID22「000004」の単発除外候補25bの欄のチェックマークが消去されることになる。個人ID22「000004」の特徴情報21が除外候補から解除されると、個人ID22「000004」の特徴情報21(顔画像)の横に表示されている禁止標識75を人物情報出力部45が非表示にする。
また、除外候補が解除されると、対応する人物の除外確定入力受付部72と除外候補解除入力受付部73のチェックボックスの表示を、メイン制御部41が除外候補設定入力受付部62のチェックボックスの表示に切り替えて表示画面8aに表示させる。したがって、表示画面8aに表示されている出演者確認リスト70において、除外候補が解除された人物は、除外候補に設定されていない他の人物と同様の表示態様で表示されることになる。
このように、表示画面8aに表示された出演者確認リスト70において、ユーザの入力に応じて、除外候補の設定が切り替えられると、各人物を示す情報の表示態様も切り替えられることになる。
なお、除外候補に設定されていない人物をなんらかの理由で除外候補に設定する必要が生じた場合には、除外候補設定入力受付部62がユーザの入力を受け付けることにより、対応する特徴情報21を除外候補設定部48が除外候補に設定する。対応する特徴情報21が除外候補に設定されると、出演者確認リスト70におけるその人物の表示が除外候補の人物の表示に切り替わり、人物情報出力部45によってその人物に禁止標識75が表示される。
ユーザは、除外候補の人物の表示に切り替えられた人物について、前述の除外候補の人物と同様に、除外確定か除外候補解除かを選択してその指示を入力する。
ユーザによる出演者確認リスト70の確認の結果、除外候補に設定されなかった人物の情報は公開出演者情報(不図示)に掲載され、除外確定に設定された人物の情報は公開出演者情報に掲載されない。公開出演者情報(不図示)は、例えば、顔画像(特徴情報21)、氏名23及び公開用のその他の情報33を含んでいてもよい。また、公開出演者情報に掲載する情報をメイン制御部41が人物情報記憶部12から読み出して表示部8に表示させ、公開出演者情報を作成してもよい。
また、顔画像(特徴情報21)の公開が許可されていない場合には、顔画像(特徴情報21)に代えて、公開用画像32をメイン制御部41が人物情報記憶部12から読み出して表示部8に表示させ、公開出演者情報に含めてもよい。
前述の例では、1話のシリーズ構成動画用動画像データ17a(図2)を読み出す場合を想定して説明したが、第2話〜第5話の動画像データ17aについても、それぞれ同様の処理を行うことになる。
前述のように、同一のシリーズを構成する複数のシリーズ構成動画用動画像データ17aの少なくとも1つにおいてシリーズ除外候補25aに設定された特徴情報21は、同一シリーズを構成する他のシリーズ構成動画用動画像データ17aを対象とする処理において、後述の一致情報抽出部43が抽出する特徴情報21から除外される。
例えば、前述のステップ7において、個人ID22「000001」の特徴情報21がシリーズ除外候補25aに設定され、図5において表示された出演者確認リスト70において除外候補の設定が解除されなかった場合には、個人ID22「000001」の特徴情報21に対するシリーズ除外候補25aの設定は維持される。この場合、他の2話〜5話のシリーズ構成動画用動画像データ17aの処理において、個人ID22「000001」の特徴情報21は、ステップ2における一致情報抽出部43の抽出対象から除外されることになる。
また、特定のシリーズを構成する複数の動画像データ17aについて抽出対象となる特徴情報21を抽出対象指定部44が指定している場合、上記特定のシリーズ以外の動画像データ17についてステップ2の処理を行う際には、一致情報抽出部43の抽出対象から上記の特徴情報21が除外される。
すなわち、抽出対象指定部44が抽出対象となる特徴情報21を指定した場合、抽出対象指定部44が指定した特徴情報21は、特定のシリーズを構成する複数の動画像データ(シリーズ構成動画用動画像データ17a)以外の動画像データ17おいて一致情報抽出部43が抽出する特徴情報21から除外される。
図2の例では、適用範囲情報28によって示されるように、個人ID22「000002」の特徴情報が特定のシリーズの動画像データ17のみに使用される特徴情報21に設定されている。
したがって、前述のように、ドラマ「×××××」を構成する1話〜5話のシリーズ構成動画用動画像データ17aの処理が終了すると、それ以後に実行するその他の動画像データ17の処理において、一致情報抽出部43の抽出対象から特徴情報21が除外される。
以上に説明したように、第1の実施形態に係る人物情報表示装置1は、動画像データ17から人物の顔の特徴を抽出する特徴抽出部42と、予め記憶された複数人の顔の特徴情報21の中から、特徴抽出部42が抽出した顔の特徴と一致する特徴情報21を抽出する一致情報抽出部43を備えている。
したがって、人物情報表示装置1によれば、動画像データ17に表示されている人物をより迅速に抽出することができる。
また、前述のように、除外候補設定部48は、一致情報抽出部43が抽出した複数の特徴情報21が類似する場合には、類似する複数の特徴情報21のうち、ユーザの入力に応じて選択された特徴情報21を除外候補に設定している。
よって、顔の特徴が類似している人物について、誤抽出に該当する可能性がある人物をユーザの入力に応じて選択することにより、誤抽出に該当する可能性がある人物を除外候補に設定することができる。また、誤抽出以外にも、例えば、表示時間(出演時間)が短い等、なんらかの理由で公開出演者情報に含める必要がない人物を除外候補に設定することができる。
したがって、より正確で適切な公開出演者情報を作成することができる。
また、動画像データ17に表示されている顔は、様々な角度、大きさ、表情等を有している。加えて、動画であるため、一人の人物の顔の特徴が場面によって変化したり、髪型やメイクに応じて顔の特徴が変化したりする可能性も考えられる。
したがって、一致情報抽出部43が一致するとして抽出した特徴情報21の中には、実際には動画像データ17に表示されていない人物の特徴情報21が存在している可能性も考えられる。よって、正確な公開出演者情報を作成するためには、一致情報抽出部43が抽出した抽出結果に誤りがないかを確認する必要がある。
これに関し、人物情報表示装置1は前述のように、除外候補設定部48を備えており、誤抽出の可能性がある人物の特徴情報21を除外候補設定部48が除外候補に設定することができる。そして、ユーザは、人物情報出力部45によって表示された上記情報(上記例では、出演者確認リスト70)に基づいて、公開出演者情報(不図示)から除外候補に設定された人物を除外するのかどうかを判断することができる。したがって、より正確な上記公開出演者情報を作成することができる。
以上のように、人物情報表示装置1によれば、動画に表示されている人物を示す情報をより早くより正確に提供することができる。
さらに、人物情報出力部45は、除外候補設定部48が除外候補に設定した特徴情報21に対応する人物を示す情報の表示態様を、除外候補に設定されていない特徴情報21に対応する人物を示す情報の表示態様とは異ならせて表示させる。
したがって、ユーザは、表示された人物の情報において、どの人物が除外候補に設定されているのかを迅速に直感的に把握することができる。
また、シリーズ除外候補25aについて前述したように、人物情報表示装置1においては、同一のシリーズを構成する複数の動画像データ(シリーズ構成動画用動画像データ17a)の少なくとも1つにおいて除外候補設定部48が特徴情報21を除外候補(前述の例では、シリーズ除外候補25a)に設定した場合に、除外候補に設定された特徴情報21は、同一のシリーズを構成する他の動画像データ(シリーズ構成動画用動画像データ17a)において一致情報抽出部43が抽出する特徴情報21から除外される。
これにより、同一のシリーズを構成する他の動画について、より迅速な処理を実行することができる。
人物情報表示装置1において、類似人物判定部46は、予め記憶された類似する人物を示す類似関係情報36に基づいて、一致情報抽出部43が抽出した複数の特徴情報21が類似するかを判定する。
したがって、特徴情報21が類似するかを類似人物判定部46が迅速に判定することができる。
また、類似人物判定部46は、1つの顔の特徴と一致する特徴情報21として、一致情報抽出部43が複数の特徴情報21を抽出した場合には、一致情報抽出部43が抽出した複数の特徴情報21を類似すると判定する。
1つの顔の特徴と一致する特徴情報21が複数抽出された場合、抽出された複数の特徴情報21は誤抽出された特徴情報21を含んでいる可能性がある。
したがって、誤抽出された可能性のある特徴情報21を除外候補に設定することができるため、より正確な公開出演者情報を作成することができる。
さらに、類似人物出力部47は、一致情報抽出部43が抽出した複数の特徴情報21が類似する場合には、類似する複数の特徴情報21にそれぞれ対応する人物(類似人物)を示す情報を類似人物情報60として表示部8に表示させる。
これにより、ユーザは類似人物に関する情報を容易に把握することができる。
また、時間情報算出部51は、類似人物情報60が示す複数の人物について、動画像データ17(上記例では、シリーズ構成動画用動画像データ17a)における上記人物のそれぞれの表示時間の長さを示す表示時間情報63を算出して表示部8に表示させる。
したがって、ユーザは、類似人物情報60として表示された各人物の表示時間の長さを考慮して、除外候補に設定する人物を選択することができる。
さらに、類似人物出力部47は、類似人物情報60が示す複数の人物のうち、動画像データ17における表示時間の長さに関する所定の基準を満たす人物を特定する情報を表示部8に表示させている。
したがって、ユーザは類似人物情報60として表示された人物のうち、表示時間の長さに関する所定の基準を満たす人物を迅速に把握することができる。そして、その情報に基づいて、除外候補に設定する人物を選択することができる。
また、人物情報出力部45は、一致情報抽出部43が抽出した特徴情報21に対応する人物を示す情報を、表示時間の長さに基づく順序で表示部8に表示させている。
これにより、ユーザは、一致情報抽出部43が抽出した特徴情報21に対応する複数の人物について、表示時間の長さに基づく差異を迅速に直感的に把握することができる。そして、その情報に基づいて、公開出演者情報から除外する人物を決定することができる。
また、人物情報表示装置1は、特定のシリーズを構成する複数の動画像データ17aについて抽出対象となる特徴情報21を指定する抽出対象指定部44を備えている。
したがって、所望の特徴情報21の適用範囲を特定のシリーズの動画像データ17に限定することができる。例えば、特定のシリーズの動画において、そのシリーズの動画の役柄に特有の特殊メイク等が顔に施されている場合、その特殊メイク等が顔に施されている状態における顔の特徴情報21を人物情報記憶部12に記憶し、そのシリーズのシリーズ構成動画用動画像データ17aについてのみ抽出対象となる特徴情報21に設定することができる。
[第2の実施形態]
図6に、第2の実施形態に係る人物情報表示装置100の機能ブロック図を示す。人物情報表示装置100の各機能部の一部は、第1の実施形態に係る人物情報表示装置1と同様である。ここでは、主として、前述した第1の実施形態と異なる点について説明する。図6において、第1の実施形態と同様の構成要素には、同じ符号を付している。
人物情報表示装置100は、前述した人物情報表示装置1の機能を有しており、図1に示す人物情報表示装置1の各機能部を備えている。第1の実施形態の人物情報表示装置1と異なる点は、人物情報表示装置100が、アップ度算出部152を備えている点である。人物情報表示装置100において、制御部106は、前述の人物情報表示装置1の制御部6が有する各機能部に加えて、アップ度算出部152を備えている。
アップ度算出部152は、動画像データ17のフレーム(この例では、キーフレーム)に占める人物の顔の面積の比率であるアップ度を算出する。また、アップ度算出部152は、アップ度に基づく情報を表示部8に表示させる。
次に人物情報表示装置100の動作について説明する。
人物情報表示装置100は、前述の図3のフローチャートに示す処理のうち、ステップ6の処理において、人物情報表示装置1と異なる処理を実行する。その他のステップ(ステップ1〜ステップ5,ステップ7及びステップ9)における処理は、人物情報表示装置1について前述した処理と同様である。ここでは、主として人物情報表示装置1と異なる処理について説明する。
人物情報表示装置100は、第1の実施形態と同様に、ステップ1〜ステップ5の処理を実行する。ステップ1〜ステップ5の処理は、第1の実施形態と同様であるため、説明を省略する。
ステップ5において類似人物判定部46が類似人物ありと判定した場合には、類似する複数の特徴情報21にそれぞれ対応する人物(類似人物)を示す情報を類似人物情報60として類似人物出力部47が表示部8に表示させる(ステップ6)。
図7に個人ID22「000003」の人物と個人ID22「587695」の人物が類似人物である場合の類似人物情報60を示す。図7に示すように、類似人物情報60は、ステップ5において類似していると判定された特徴情報21と、その特徴情報21を識別する個人IDと、個人IDに対応付けられた氏名23を含む。また、類似人物情報60と共に、除外候補設定入力受付部62が表示部8の表示画面8aに表示される。類似人物情報60及び除外候補設定入力受付部62の表示及び構成については、人物情報表示装置1について前述したものと同様である。
第1の実施形態と異なる点として、人物情報表示装置100においては、類似人物情報60と共に、アップ度に基づく情報163が表示される。この例では、アップ度に基づく情報163として、アップ場面合計時間163aとアップ場面合計時間比率163bが表示される。また、アップ度に基づく情報163に加えて、アップ場面のキーフレーム番号164が表示されている。
アップ場面とは、動画像データ17において人物の顔がアップに表示(大きく表示)されている場面である。この例では、アップ度が所定の閾値以上であるキーフレームをアップ場面としている。
アップ度は、動画像データ17のフレーム(この例では、キーフレーム)に占める上記類似人物の顔の面積の比率である。
アップ度算出部152は、アップ度を算出する。まず、アップ度算出部152は、複数の類似人物の各人物について、それぞれの特徴情報21に一致すると判定された動画特徴情報を動画特徴情報記憶部15からすべて抽出し、それぞれの動画特徴情報に対応する顔の画像部分の面積を特定する。次いで、顔の画像部分の面積(顔の面積)がキーフレームの面積に占める比率をアップ度として算出する。
次いで、アップ度算出部152は、アップ度を用いてアップ度に基づく情報163を算出する。この例では、類似人物情報60が示す各人物について、シリーズ構成動画用動画像データ17aにおいて所定の閾値以上のアップ度で表示されている表示時間の合計時間をアップ度算出部152がアップ場面合計時間163aとして算出して表示画面8aに表示させる。アップ度算出部152は、アップ度が所定の閾値以上であるキーフレームの数に基づいて、上記表示時間の合計時間を算出する。
また、アップ度算出部152は、類似人物情報60が示す複数の人物について、それぞれの人物のアップ場面合計時間163aの比率を算出し、アップ場面合計時間比率163bとして表示画面8aに表示させる。
図7の例では、個人ID22「000003」の人物のアップ場面合計時間163aが1分25秒間であり、個人ID22「587695」の人物のアップ場面合計時間163aが36分50秒間であるため、両者のアップ場面合計時間比率163bは、1:26である。
また、この例では、アップ度が所定の閾値以上であるキーフレームのキーフレーム番号をアップ場面キーフレーム番号164としてアップ度算出部152が表示画面8aに表示させる。上記キーフレーム番号については、アップ度を算出する際に読み出された上記動画特徴情報と共に、動画特徴情報記憶部15からアップ度算出部152によって読み出されている。
なお、キーフレーム番号に代えて、キーフレーム番号と対応付けられたキーフレームの再生時刻を表示画面8aに表示させてもよい。
また、類似人物出力部47は、類似人物情報60が示す複数の人物のうち、アップ度に関する所定の基準を満たす人物を特定する情報を表示部8に表示させる。この例では、「類似人物のうち最もアップ場面合計時間163aが長い」という基準を設定して説明する。なお、前述のように、アップ場面合計時間163aはアップ度を用いて算出されているため上記基準はアップ度に関する基準である。
この場合、個人ID22「587695」の人物のアップ場面合計時間163aの方が、個人ID22「000003」の人物のアップ場面合計時間163aよりも長いため、類似人物出力部47が個人ID22「587695」の人物を特定する情報を表示画面8aに表示させる。
この例では、類似人物出力部47は、特定した人物を示す情報として特定標識166(図7の例では、星型のマーク)を個人ID22「587695」の特徴情報21の近傍に表示させ、特定した人物が個人ID22「587695」の人物であることを示している。
なお、上記アップ度に関する所定の基準は、アップ度に関するものであればどのような基準でもよい。上記アップ度に関する所定の基準には、アップ度を用いて設定された基準が含まれる。例えば、「アップ場面合計時間比率163bが所定の閾値以上である」という基準を設定してもよい。
ステップ6において類似人物情報60等が表示部8に表示されると、除外候補設定入力受付部62がユーザの入力を受け付ける(ステップ7)。ステップ7の処理は、第1の実施形態と同様であるため、説明を省略する。なお、ステップ7においてユーザは、アップ場面キーフレーム番号164に基づいて、類似人物情報60によって示される人物が所定の閾値以上のアップ度で表示されている場面に速やかにアクセスし、動画像データ17に表示されている人物を確認することができる。
また、図7の例では、「類似人物のうち最もアップ場面合計時間163aが長い」という基準を満たす人物として、個人ID22「587695」の特徴情報21が特定され、特定標識166が個人ID22「587695」の人物を示す情報に付されている。したがって、個人ID22「587695」の人物の方が個人ID22「000003」の人物よりも出演者である可能性が高いと推測できる。よって、ユーザは、例えば、個人ID22「000003」の特徴情報21を除外設定にすることを選択することができる。
次に、ステップ9に進むと、第1の実施形態と同様に、人物情報出力部45が出演者確認リスト70を表示部8に表示させる。ステップ9の処理は、第1の実施形態と同様であるため、説明を省略する。
なお、前述した図5の例では、出演者確認リスト70において、一致情報抽出部43が抽出した特徴情報21に対応する人物を示す情報を、表示時間が長い順に人物情報出力部45が表示部8に表示させている。
この表示順に関し、本実施形態においては、アップ度に基づく順序を採用してもよい。一例として、人物情報出力部45は、一致情報抽出部43が抽出した特徴情報21に対応する人物を示す情報を、アップ度算出部152が算出したアップ度に基づく順序で表示部8に表示させる。例えば、一致情報抽出部43が抽出した特徴情報21に対応する人物を示す情報を、アップ度を用いて算出したアップ場面合計時間163aが長い順に表示させてもよい。
また、他の例として、人物情報出力部45は、一致情報抽出部43が抽出した特徴情報21に対応する人物を示す情報を、動画像データ17における各人物の表示時間の長さ及びアップ度に基づく順序で表示部8に表示させる。
例えば、動画像データ17における各人物の表示時間の長さが長く、且つ、アップ度を用いて算出した各人物のアップ場面合計時間163aが長い順に表示させる場合、各人物の表示時間の長さとアップ場面合計時間163aの長さを標準化して、総合順位を算出し、総合順位の順に表示させてもよい。なお、総合順位の算出の際には、各人物の表示時間の長さとアップ場面合計時間163aの長さのそれぞれに所望の重み付けを行ってもよい。
また、各人物について、表示時間の長さとアップ場面合計時間163aの長さとをそれぞれ別個に順位付け、その順位の合計に基づいて総合順位を算出し、総合順位の順に表示させてもよい。
また、前述した図5の例では、出演者確認リスト70において、表示時間情報63及び表示時刻情報64を表示しているが、これに加えて、図7に例示したようなアップ度に基づく情報163を表示してもよい。また、表示時間情報63及び表示時刻情報64に代えて、アップ度に基づく情報163を表示してもよい。なお、出演者確認リスト70にアップ度に基づく情報163を表示する場合、アップ度算出部152は、一致情報抽出部43が抽出した特徴情報21に対応するすべての人物(出演者確認リスト70に表示されるすべての人物)について、それぞれの人物のアップ度に基づく情報163を算出して表示画面8aに表示させてもよい。
第2の実施形態に係る人物情報表示装置100では、アップ度算出部152が、動画像データ17のフレーム(この例では、キーフレーム)に占める人物の顔の面積の比率であるアップ度を算出し、算出したアップ度に基づく情報163を表示部8に表示させている。
したがって、ユーザは、類似人物情報60として表示された各人物のアップ度を考慮して、除外候補に設定する人物を選択することができる。
また、第2の実施形態において、アップ度に基づく情報163としてアップ場面合計時間163aとアップ場面合計時間比率163bが表示されている。
例えば、アップ場面合計時間163aが長い方が、人物の顔がアップに表示されている度合が高いと推測することができる。したがって、除外候補に設定する人物を選択する際の指標として、アップ場面合計時間163aとアップ場面合計時間比率163bを用いることができる。
また、人物情報表示装置において、類似人物出力部47は、類似人物情報60が示す複数の人物のうち、アップ度算出部152が算出したアップ度に関する所定の基準を満たす人物を特定する情報を表示部8に表示させている。
したがって、ユーザは類似人物情報60として表示された人物のうち、アップ度に関する所定の基準を満たす人物を迅速に把握することができる。そして、その情報に基づいて、除外候補に設定する人物を選択することができる。
さらに、表示順の一例として前述したように、人物情報出力部45が、一致情報抽出部43が抽出した特徴情報21に対応する人物を示す情報を、アップ度算出部152が算出したアップ度に基づく順序で表示部8に表示させる。
これにより、ユーザは、一致情報抽出部43が抽出した特徴情報21に対応する複数の人物について、アップ度に基づく差異を迅速に直感的に把握することができる。そして、その情報に基づいて、公開出演者情報から除外する人物を決定することができる。
また、表示順の他の例として前述したように、人物情報出力部45は、一致情報抽出部43が抽出した特徴情報21に対応する人物を示す情報を、動画像データ17における各人物の表示時間の長さ及びアップ度に基づく順序で表示部8に表示させる。
これにより、ユーザは、一致情報抽出部43が抽出した特徴情報21に対応する複数の人物について、表示時間の長さ及びアップ度に基づく差異を迅速に直感的に把握することができる。そして、その情報に基づいて、公開出演者情報から除外する人物を決定することができる。
[第3の実施形態]
第3の実施形態に係る人物情報表示装置の構成は、図1に示す第1の実施形態に係る人物情報表示装置1の構成と同様である。したがって、第1の実施形態と同様の構成要素及び符号を用いて説明する。
前述のように第1の実施形態において、除外候補設定部48は、類似人物について、ユーザの入力に応じて選択された特徴情報21を除外候補に設定している。しかしながら、以下に説明する第3の実施形態において、除外候補設定部48は、類似人物について、所定の基準に応じて自動的に選択された特徴情報21を除外候補に設定している。
第3の実施形態に係る人物情報表示装置1は、図8のフローチャートに示す処理を実行する。図8に示すステップ1〜ステップ5の処理は、第1の実施形態において図3を参照して説明した処理と同様である。
ここでは、主として、前述した第1の実施形態と異なる点について説明する。
人物情報表示装置1は、第1の実施形態と同様に、ステップ1〜ステップ5の処理を実行する。ステップ1〜ステップ5の処理は、第1の実施形態と同様であるため、説明を省略する。
ステップ5において類似人物判定部46が類似人物ありと判定した場合には、ステップ16の処理に進む。ステップ16において、除外候補設定部48は、類似する複数の特徴情報21にそれぞれ対応する人物(類似人物)のうち、所定の基準を満たす人物の特徴情報21を除外候補に設定する。
例えば、除外候補設定部48は、類似人物のうち、動画像データ17における表示時間の長さに関する所定の基準を満たす人物に対応する特徴情報21を選択して、除外候補に設定する。
ここでは、上記表示時間の長さに関する所定の基準として、「上記類似人物の表示時間の長さの合計に対するそれぞれの人物の表示時間の長さの比率が所定の比率以下である」という基準を用いた場合について説明する。
この場合、第1の実施形態と同様に、図4に例示した個人ID22「000001」の人物と個人ID22「139167」の人物が類似人物であるとすると、類似人物情報60が示す個人ID22「000001」の人物と個人ID22「139167」の人物の表示時間の長さの合計に対するそれぞれの人物の表示時間の長さの比率が所定の比率以下である人物の特徴情報21を除外候補設定部48が除外候補に設定する。
ここでは、説明のため、上記所定の比率を例えば、20%と設定する。除外候補設定部48は、表示時間比率情報65に基づいて、上記表示時間の長さの比率が20%以下である個人ID22「000001」の人物の特徴情報21を選択し、個人ID22「000001」の特徴情報21を除外候補に設定する。
なお、上記表示時間の長さに関する所定の基準は、どのような基準でもよく、例えば、「類似人物のうち表示時間の長さが最も短い」という基準でもよいし、「類似人物のうち表示時間の長さの比率が最も小さい」という基準でもよいし、「表示時間の長さが所定の長さ以下である」という基準でもよい。
第1の実施形態と異なり、ステップ16の段階では、類似人物情報60は表示部8の表示画面8aに表示されない。したがって、第3の実施形態においては、図4に例示した表示は表示されない。
ステップ16において所定の基準に応じて選択された特徴情報21を除外候補設定部48が除外候補に設定すると、除外候補に設定された人物を含む出演者確認リスト270が表示される(ステップ19)。なお、図8に示すように、ステップ5において類似人物なしと判定された場合には、ステップ16の処理を実行せずにステップ9の処理を実行することになる。
第1の実施形態におけるステップ9の処理と異なる点は、一致情報抽出部43が抽出した特徴情報21に対応する人物を示す情報を人物情報出力部45が表示部8に表示させると共に、類似人物出力部47が、上記類似人物を示す情報を類似人物情報260として表示部8に表示させることである。
したがって、図9に示すように、表示画面8aに表示される出演者確認リスト270には、人物情報出力部45が表示させた上記人物を示す情報と、類似人物出力部47が表示させた類似人物情報260が共に表示されることになる。
なお、図9の例では、類似人物情報260は、一致情報抽出部43が抽出した特徴情報21に対応する人物を示す情報と重複するため、類似人物情報260を類似人物出力部47によって表示させてもよいし、人物情報出力部45によって表示させてもよい。
また、類似人物出力部47は、類似人物がどの人物であるかを示す特定標識272を表示部8の表示画面8aに表示させる。図9の例では、類似人物を特定する特定標識272として太枠を表示させている。太枠は個人ID22「139167」の特徴情報21(顔画像)と個人ID22「000001」の特徴情報21(顔画像)を囲んでいる。これにより、個人ID22「139167」の人物と個人ID22「000001」の人物が類似人物であることを示している。
また、第1の実施形態と同様に、除外候補に設定した特徴情報21に対応する人物を示す情報を特定する禁止標識75を人物情報出力部45が表示画面8aに表示させる。
なお、ステップ16におけるその他の処理に関しては、第1の実施形態におけるステップ9の処理と同様である。
また、第1の実施形態と同様に、出演者確認リスト270には、除外候補設定入力受付部62と、除外確定入力受付部72と、除外候補解除入力受付部73とが設けられており、ユーザの入力を受け付けるように構成されている。自動的に除外候補に設定された類似人物(図9の例では、個人ID22「000001」の人物)が実際には出演しているとユーザが判断した場合には、除外候補解除入力受付部73を介して除外候補の設定を解除することができる。
以上のように、第3の実施形態において、除外候補設定部48は、一致情報抽出部43が抽出した複数の特徴情報21が類似する場合には、類似する複数の特徴情報21のうち、所定の基準に応じて選択された特徴情報21を除外候補に設定している。
よって、顔の特徴が類似している人物について、誤抽出に該当する可能性がある人物を選択するための所定の基準を設定することにより、誤抽出に該当する可能性がある人物を除外候補に設定することができる。また、誤抽出以外にも、例えば、表示時間(出演時間)が短い等、なんらかの理由で公開出演者情報に含める必要がない人物を除外候補に設定することができる。
したがって、より正確で適切な公開出演者情報を作成することができる。また、除外候補に設定する特徴情報21を所定の基準に応じて選択することにより、除外候補の設定をより迅速に行うことができる。
また、除外候補設定部48は、動画像データ17における表示時間の長さに関する所定の基準を満たす人物に対応する特徴情報21を選択して、除外候補に設定している。
したがって、表示時間の長さを考慮して除外候補の設定を行うことができる。
[第4の実施形態]
第4の実施形態に係る人物情報表示装置の構成は、図6に示す第2の実施形態に係る人物情報表示装置100の構成と同様である。したがって、第2の実施形態と同様の構成要素及び符号を用いて説明する。
また、第4の実施形態に係る人物情報表示装置100は、第3の実施形態において説明した図8のフローチャートに示す処理と同様の処理を実行する。第3の実施形態のステップ16においては、表示時間の長さに関する基準を設定した場合の態様について説明しているが、第4の実施形態では、アップ度に関する基準を設定した場合のステップ16の処理について説明する。
ここでは、主として第2の実施形態及び第3の実施形態と異なる点について説明する。
図8のステップ16において、除外候補設定部48は、類似する複数の特徴情報21にそれぞれ対応する人物(類似人物)のうち、所定の基準を満たす人物の特徴情報21を除外候補に設定する。
例えば、除外候補設定部48は、アップ度算出部152が算出したアップ度に関する所定の基準を満たす人物に対応する特徴情報21を選択して、除外候補に設定する。
ここでは、「類似人物のうち最もアップ場面合計時間163aが短い」という基準を用いた場合について説明する。なお、アップ度及びアップ場面合計時間163aの算出方法については第2の実施形態において前述しているので説明を省略する。
この場合、第2の実施形態と同様に、図7に例示した個人ID22「000003」の人物と個人ID22「587695」の人物が類似人物であるとすると、個人ID22「000003」の人物のアップ場面合計時間163aの方が個人ID22「587695」の人物のアップ場面合計時間163aよりも短いため、除外候補設定部48は、個人ID22「000003」の人物の特徴情報21を選択し、個人ID22「000003」の特徴情報21を除外候補に設定する。
なお、上記アップ度に関する所定の基準は、どのような基準でもよく、例えば、「アップ場面合計時間比率163bが所定の閾値以下である」という基準でもよい。また、第3の実施形態と同様に、ステップ16の段階では、類似人物情報60は表示部8の表示画面8aに表示されない。したがって、第4の実施形態においては、図7に例示した表示は表示されない。
ステップ16において所定の基準に応じて選択された特徴情報21を除外候補設定部48が除外候補に設定すると、除外候補に設定された人物を含む出演者確認リスト270が表示される(ステップ19)。ステップ19における処理は、第3の実施形態において前述したため省略する。
なお、前述のように、個人ID22「000003」の人物と個人ID22「587695」の人物が類似人物である場合、出演者確認リスト270には、個人ID22「000003」の人物と個人ID22「587695」の人物が含まれることになる。この場合、個人ID22「000003」の人物と個人ID22「587695」の人物に関する情報は、図9に表示された個人ID22「139167」の人物と個人ID22「000001」の人物に関する情報と同様に、類似人物情報260として表示される。
また、図9に表示された類似人物情報260と同様に、類似人物を特定する特定標識272として、個人ID22「000003」の特徴情報21(顔画像)と個人ID22「587695」の特徴情報21(顔画像)を囲む太枠が表示される。
また、前述した図9の例では、出演者確認リスト270において、表示時間情報63及び表示時刻情報64を表示しているが、これに加えて、図7に例示したようなアップ度に基づく情報163を表示してもよい。また、表示時間情報63及び表示時刻情報64に代えて、アップ度に基づく情報163を表示してもよい。なお、出演者確認リスト270にアップ度に基づく情報163を表示する場合、アップ度算出部152は、一致情報抽出部43が抽出した特徴情報21に対応するすべての人物(出演者確認リスト270に表示されるすべての人物)について、それぞれの人物のアップ度に基づく情報163を算出して表示画面8aに表示させてもよい。
以上のように、第4の実施形態において、除外候補設定部48は、アップ度算出部152が算出したアップ度に関する所定の基準を満たす人物に対応する特徴情報21を選択して、除外候補に設定している。
したがって、アップ度を考慮して除外候補の設定を行うことができる。
[第5の実施形態]
第5の実施形態に係る人物情報表示装置の構成は、図6に示す第2の実施形態に係る人物情報表示装置100の構成と同様である。したがって、第2の実施形態と同様の構成要素及び符号を用いて説明する。
前述の第3の実施形態及び第4の実施形態では、ステップ5において類似人物があるかを判定してから、ステップ16において類似人物について、所定の基準に応じて選択された特徴情報21を除外候補設定部48が除外候補に設定している。
これに対して、第5の実施形態では、所定の基準に応じて選択された特徴情報21を除外候補設定部48が除外候補に設定してしてから、類似人物があるかの判定を行う態様について説明する。
ここでは、主として既述の各実施形態と異なる点について説明する。
第5の実施形態に係る人物情報表示装置100は、図10のフローチャートに示す処理を実行する。図10に示すステップ1及びステップ2の処理は、第1の実施形態において図3を参照して説明した処理と同様であるため、説明を省略する。
ステップ2において一致情報抽出部43が一致する特徴情報21を抽出すると、除外候補設定部48は、一致情報抽出部43が抽出した複数の特徴情報21にそれぞれ対応する人物のうち、所定の基準を満たす人物の特徴情報21を除外候補に設定する(ステップ26)。
例えば、第3の実施形態において前述したように、動画像データ17における表示時間の長さに関する所定の基準を満たす人物に対応する特徴情報21を除外候補設定部48が選択して除外候補に設定してもよい。なお、上記表示時間の長さの算出方法については第1の実施形態において前述しているので説明を省略する。
一例として、「表示時間の長さが所定の長さ以下である」という基準を設定した場合、表示時間の長さが所定の長さ以下の人物の特徴情報21を除外候補設定部48が除外候補に設定する。
また、他の例として、第4の実施形態において前述したように、アップ度算出部152が算出したアップ度に関する所定の基準を満たす人物に対応する特徴情報21を除外候補設定部48が選択して除外候補に設定してもよい。なお、アップ度の算出方法及びアップ度に関する所定の基準については第2の実施形態において前述しているので説明を省略する。
例えば、「アップ場面合計時間比率163bが所定の閾値以下である」という基準を設定した場合、アップ場面合計時間比率163bが所定の閾値以下である人物の特徴情報21を除外候補設定部48が除外候補に設定する。この場合、例えば、一致情報抽出部43が抽出した特徴情報21に対応するすべての人物について、それぞれの人物のアップ場面合計時間比率163bをアップ度算出部152が算出する。なお、アップ場面合計時間比率163bの算出方法については、第2の実施形態において前述しているので説明を省略する。
ステップ26において除外候補設定部48が除外候補を設定すると、ステップ27において抽出された特徴情報21に類似人物があるかを類似人物判定部46が判定する(ステップ28)。類似人物判定部46による類似人物の判定については既述の実施形態において前述しているので説明を省略する。
なお、本実施形態では、除外候補に設定した特徴情報21を除外せずに、ステップ27において抽出された特徴情報21に類似人物があるかを類似人物判定部46が判定している。
ステップ28においては、第1の実施形態及び第2の実施形態において説明した図3のステップ5〜ステップ7の処理と同様に、類似人物情報60を類似人物出力部47が表示部8に表示させ、除外候補設定入力受付部62がユーザの入力を受け付ける処理を実行してもよい。このとき、類似人物の中に特徴情報21が除外候補に設定されている人物が含まれている場合には、表示された類似人物情報60において、図5及び図9を参照して前述した禁止標識75を類似人物出力部47が表示部8に表示させてもよい。禁止標識75は、前述のように、除外候補に設定した特徴情報21に対応する人物を示す情報を特定するための標識であり、除外候補に設定した特徴情報21に対応する人物を示す情報に付されて表示される。
この場合、類似人物情報60の表示画面8aにおいて、除外候補解除入力受付部73がユーザの入力を受け付け、除外候補の設定を解除できるように構成してもよい。
また、他の例として、ステップ28において類似人物情報60を表示部8に表示させないで後述のステップ29の処理に進んでもよい。
なお、本実施形態では、ステップ26において所定の基準を満たす人物の特徴情報21が除外候補に設定されているため、上記所定の基準を満たす類似人物が除外候補に設定されていることになる。したがって、類似する複数の特徴情報21についても、所定の基準に応じて選択された特徴情報21を除外候補設定部48が除外候補に設定していることになる。
ステップ28における処理が完了すると、除外候補に設定された人物を含む出演者確認リスト70,270を人物情報出力部45が表示部8に表示させる(ステップ29)。ステップ29における処理は、既述の実施形態において前述した図3のステップ9又は図8のステップ19と同様であるため説明を省略する。なお、ステップ28において類似人物情報60を表示部8に表示させなかった場合には、図9の例に示すように、出演者確認リスト270において類似人物を特定する特定標識272を表示するように構成してもよい。
以上のように、第5の実施形態においては、一致情報抽出部43が抽出した複数の特徴情報21にそれぞれ対応する人物のうち、所定の基準を満たす人物の特徴情報21を除外候補設定部48が除外候補に設定している。
したがって、より迅速に除外候補の設定を実行することができる。
一例として、動画像データ17全体の長さに比べて表示時間の長さが極めて短い(例えば、2時間ドラマの動画像データ17において10秒等)人物は、特徴情報21が誤抽出された人物である可能性が考えられる。また、誤抽出でない場合であっても、エキストラ等、公開出演者情報に掲載する必要のない人物である可能性がある。同様に、アップ度を用いて算出されたアップ場面合計時間163aが他と比べて極めて短い人物も誤抽出された人物又は公開出演者情報に掲載する必要のない人物である可能性がある。したがって、上記所定の基準として、例えば、表示時間の長さ又はアップ度に関する基準を用いて、除外候補の設定を行うことができる。
[第6の実施形態]
第6の実施形態に係る人物情報表示装置は、既述の実施形態における制御部6,106が不一致特徴出力部(不図示)を備えるように構成されたものである。
不一致特徴出力部は、特徴抽出部42が抽出した顔の特徴(動画特徴情報)のうち特徴情報21と一致しなかった動画特徴情報に対応する顔の画像を、動画像データ17から切り出して表示部8に表示させる。
例えば、不一致特徴出力部は、上記の一致しなかった動画特徴情報を動画特徴情報記憶部15からすべて抽出し、それぞれの動画特徴情報に対応する顔の画像を動画像データ17から切り出して、切り出した顔の画像を表示部8の表示画面8aに表示させる。
これにより、一致情報抽出部43が一致する特徴情報21を抽出しなかった人物の顔をユーザが把握することができる。
上記の一致しなかった動画特徴情報に対応する人物は、人物情報記憶部12に記憶された特徴情報21に含まれていない人物であるか、又は、記憶された特徴情報21に含まれている人物であるが一致する特徴情報21が抽出されなかった人物であることが想定される。
上記の一致しなかった動画特徴情報に対応する人物が記憶された特徴情報21に含まれていない人物であるとユーザが判断した場合、入力部7を介したユーザの入力に応じて、上記の切り出した顔の画像を当該人物の顔の特徴情報21としてメイン制御部41が人物情報記憶部12に記憶し、その特徴情報21を識別する識別子(個人ID22)を割り当てる。また、ユーザが入力した氏名23等の当該人物に関する情報をメイン制御部41が上記個人ID22及び特徴情報21と対応付けて人物情報記憶部12に記憶する。すなわち、図2に示す人物情報20に新しいレコードが追加されることになる。
この場合、人物情報出力部45が新たに追加された人物に関する情報を出演者確認リスト70,270に表示させるように構成してもよい。すなわち、不一致特徴出力部が表示部8に表示させた上記画像に対応する人物を示す情報を人物情報出力部45が表示部8に表示させるように構成してもよい。
また、上記の一致しなかった動画特徴情報に対応する人物が、記憶された特徴情報21に含まれている人物であるとユーザが判断した場合、上記の一致しなかった動画特徴情報に対応する人物の個人ID22をユーザが入力部7を介して入力し、入力された個人ID22の人物を示す情報を人物情報出力部45が出演者確認リスト70,270に表示させるように構成してもよい。
さらに、入力部7を介したユーザの入力に応じて、上記の切り出した顔の画像を上記人物の別の特徴情報21としてメイン制御部41が人物情報記憶部12に記憶するように構成してもよい。この場合、一人の人物について複数の特徴情報21が記憶されることになる。これにより、例えば、動画像データ17に表示された当該人物に特殊メイク等が施されており予め記憶された特徴情報21と動画像データ17の動画特徴情報が一致しない場合に、その特殊メイク等が施されている状態の顔の画像をその人物の特徴情報21として追加登録しておくことができる。したがって、追加登録した後の処理において、特殊メイク等が施されている上記人物の顔の特徴と一致する特徴情報21を一致情報抽出部43が抽出することができる。
また、アニメの登場人物の顔画像を、その登場人物の声優をしている人物の特徴情報21として追加登録しておくこともできる。
また、上記追加登録を行う際に、新しい特徴情報21を追加しようとする人物の個人ID22をユーザが入力部を介して入力すると、類似人物判定部46が類似関係記憶部14に記憶された類似関係情報36に基づいて、入力された個人ID22の人物を示す情報と、入力された個人ID22の特徴情報と類似する特徴情報に対応する人物を示す情報とを類似人物情報60,260として表示部8の表示画面8aに表示させるように構成してもよい。
これにより、ユーザは新しい特徴情報21を追加しようとする人物と似た人物を把握することができる。したがって、新しい特徴情報21を似た人物に誤って対応付けないようにユーザに注意喚起することができる。
また、追加登録した新しい特徴情報21には、新しい特徴情報21を追加しようとする人物の個人ID22とは異なる個人ID22を付与してもよいし、新しい特徴情報21を追加しようとする人物の個人ID22と対応付けられた他の識別子を付与してもよい。これにより、1人の人物に対応付けられた複数の特徴情報21をそれぞれ識別することができる。また、前述のように、1人の人物に対応付けられた複数の特徴情報21を互いに類似するものとして、類似関係情報36に予め記憶しておいてもよい。このとき、図2を参照して前述したように、各特徴情報21を識別する識別子を用いて、各特徴情報21の類似関係を類似関係情報36として類似関係記憶部14に記憶しておいてもよい。
なお、第6の実施形態において、記憶部5が不一致特徴記憶部(不図示)を備えるように構成してもよい。この場合、不一致特徴出力部は、切り出した上記顔の画像を不一致特徴記憶部に記憶する。切り出した上記顔の画像を氏名23等の人物を示す情報と対応付ける作業をユーザが行う際には、メイン制御部41が不一致特徴記憶部から上記顔の画像を読み出して表示部8の表示画面8aに表示させる。
また、切り出した上記顔の画像を特徴情報21として人物情報記憶部12に記憶する代わりに、切り出した上記顔の画像の人物を示す他の画像を用意し、特徴情報21として人物情報記憶部12に記憶してもよい。
また、新しい特徴情報21を人物情報記憶部12に記憶する際に、前述の抽出対象指定部44による特徴情報21の指定を実行し、新しい特徴情報21が特定のシリーズの動画像データ17においてのみ抽出対象となるように設定してもよい。
[他の実施形態]
以上、本発明の実施形態について述べたが、本発明は既述の実施形態に限定されるものではなく、各種の変形及び変更が可能である。
例えば、既述の実施形態では、人物情報出力部45は、除外候補設定部48が除外候補に設定した特徴情報21に対応する人物を示す情報の表示態様を、除外候補に設定されていない特徴情報21に対応する人物を示す情報の表示態様とは異ならせて表示部8に表示させているが、これらの情報を同一の表示態様で表示部8に表示させるように構成してもよい。
また、図5及び図9の例では、除外候補設定部48が除外候補に設定した特徴情報21に対応する人物を示す情報と、除外候補に設定されていない特徴情報21に対応する人物を示す情報とを同一画面に表示しているが、これらの情報を切り分けて、それぞれ別の画面に表示するように構成してもよい。
既述の実施形態では、除外候補に設定した特徴情報21に対応する人物を示す情報を特定する禁止標識75の表示によって、除外候補の人物と除外候補でない人物の表示態様を異ならせているが、どのような方法で表示態様を異ならせてもよい。
例えば、除外候補に設定した特徴情報21に対応する人物の顔画像を白黒表示し、除外候補に設定していない特徴情報21に対応する人物の顔画像をカラーで表示してもよい。
また、除外候補に設定されていない特徴情報21に対応する人物を示す情報に「出演している」等の文字情報を表示してもよいし、除外候補に設定されている特徴情報21に対応する人物を示す情報に「除外候補」等の文字情報を表示してもよい。
また、除外候補に設定した特徴情報21に対応する人物を示す情報と、除外候補に設定していない特徴情報21に対応する人物を示す情報をそれぞれ別のウィンドウに表示させ、除外候補に設定した特徴情報21に対応する人物を示す情報を特定する標識、文字等を除外候補に設定した特徴情報21に対応する人物を示す情報と同じウィンドウに表示させてもよい。
以上のように、除外候補に設定した特徴情報21に対応する人物を示す情報と、除外候補に設定されていない特徴情報21に対応する人物を示す情報をユーザが区別して視認できるどのような表示態様を採用してもよい。
また、既述の実施形態において前述した各処理を組み合わせて実行してもよい。
例えば、アップ度に関する所定の基準と、動画像データ17における表示時間の長さに関する所定の基準とをどちらも用いて、前述の各処理を実行してもよい。この場合、例えば、アップ度に関する所定の基準と上記表示時間の長さに関する所定の基準とのどちらの基準をも満たす人物の特徴情報を除外候補に設定してもよい。
また、既述の実施形態の類似人物情報60,260又は出演者確認リスト70,270において、アップ度に基づく情報163と表示時間情報63と表示時刻情報64とを表示画面8aに共に表示させてもよい。
また、既述の実施形態においては、アップ度に関する所定の基準を用いる処理と、表示時間の長さに関する所定の基準を用いる処理について記載したが、どのような基準を用いてもよい。例えば、アップ度又は表示時間に無関係な他の所定の基準を用いてもよい。
また、特徴情報21の類似の判定方法として、既述の判定方法以外の方法を採用してもよい。
既述の実施形態において、類似関係情報36は予め作成されて類似関係記憶部14に記憶されているが、類似関係情報36を予め作成しない方法を採用してもよい。この場合、例えば、一致情報抽出部43が抽出した複数の特徴情報21がそれぞれ互いに類似するかを、類似人物判定部46が画像マッチングにより判定するように構成してもよい。
既述の実施形態において、1つの顔の特徴と一致する特徴情報21として、一致情報抽出部43が複数の特徴情報21を抽出した場合には、それらの抽出された複数の特徴情報21を互いに類似するものとして、類似関係情報36に記憶してもよい。この場合、メイン制御部41が上記抽出された複数の特徴情報21の類似関係を類似関係情報36として類似関係記憶部14に記憶するように構成してもよい。このとき、図2を参照して前述したように、各特徴情報21を識別する識別子を用いて、各特徴情報21の類似関係を類似関係情報36として類似関係記憶部14に記憶しておいてもよい。
これにより、ある動画像データ17の処理において、1つの顔の特徴と一致する特徴情報21として抽出された複数の特徴情報21を、他の動画像データ17の処理においても類似人物判定部46によって類似すると判定することができる。
既述の実施形態においては、類似人物出力部47が類似人物情報60,260を表示部8に表示させているが、類似人物出力部47を設けずに、類似人物情報60,260を表示部8に表示させない構成を採用してもよい。
図4及び図7の例では、類似人物として2名の人物を示しているが、2名以上の人物を示す類似人物情報60を表示してもよい。一例として、少なくとも1つの特徴情報21と類似する特徴情報21に対応する人物を示す情報を類似人物情報60として表示してもよい。この場合、例えば、人物Aの特徴情報21に類似する特徴情報21に対応する人物Bと、人物Aの特徴情報21に類似する特徴情報21に対応する人物Cと、人物Aとの3名を示す情報を類似人物情報60として表示してもよい。
第1の実施形態において、1つの動画特徴情報(1人の顔の特徴)と一致する複数の特徴情報21が抽出され、抽出された複数の特徴情報21に対応する人物を示す情報が類似人物情報60として表示された場合には、ユーザに注意を促すメッセージをメイン制御部41が表示部8に表示させてもよい。前述のように、上記ケースの場合は、複数の特徴情報21に誤抽出された特徴情報21が含まれている可能性があるからである。
第1の実施形態において、類似人物の動画像データ17における表示時間の長さの合計に対するそれぞれの人物の表示時間の長さの比率が30%以上である人物は、誤抽出ではない可能性がある。したがって、類似人物の中に、上記表示時間の長さの比率が30%以上であると特定された人物が複数人いる場合には、顔の特徴が類似する複数の人物が共にその動画に出演している可能性が考えられる。よって、上記表示時間の長さの比率が30%以上であると特定された人物が複数人いる場合には、ユーザに注意を促すメッセージをメイン制御部41が表示部8に表示させてもよい。
例えば既述の実施形態において、各人物について、アップ度が高い方から所定の枚数のキーフレームを抽出し、抽出した所定の枚数のキーフレームのアップ度の平均値をアップ度算出部152が算出し、アップ度に関する情報163として表示部8に表示させてもよい。また、アップ度に関する所定の基準として上記平均値を用いた基準を設定してもよい。
また、他の例として、アップ度が所定の閾値以上である連続するキーフレームの表示時間の長さをアップ度算出部152が算出し、アップ度に関する情報163として表示部8に表示させてもよい。また、アップ度に関する所定の基準として上記連続するキーフレームの表示時間の長さを用いた基準を設定してもよい。連続するキーフレームの表示時間の長さは、人物の顔がアップの状態のまま連続して表示されている時間の長さを示している。
既述の実施形態において、処理の対象とする動画像データ17はどのような動画像データであってもよい。例えば、VODの動画像データ17でもよいし、VOD以外の動画像データ17でもよい。
また、既述の実施形態においては、シリーズ構成動画用動画像データ17aを処理の対象としているが、シリーズものではない単発の動画の動画像データ17を対象としてもよい。
第1の実施形態において、時間情報算出部51が表示時間情報63を算出して表示部8に表示させているが、時間情報算出部51を設けずに、表示時間情報63を表示部8に表示させない構成を採用してもよい。また、前述の抽出対象指定部44及び不一致特徴出力部を設けずに、人物情報表示装置1,100を構成してもよい。
既述の実施形態において、各処理により、抽出、算出又は作成等されたデータを記憶部5に記憶し、記憶部5から適宜読み出して使用してもよい。例えば、一致情報抽出部43が抽出した特徴情報21を一致情報抽出部43が記憶部5に記憶し、制御部6に含まれる各機能部が記憶部5から一致情報抽出部43が抽出した特徴情報21を読み出して使用するように構成してもよい。
また、既述の実施形態において除外確定設定部49を設けずに、除外確定設定を行わない構成を採用してもよい。例えば、出演者確認リスト70,270において除外候補の設定が解除されなかった場合に、除外候補に設定されている特徴情報21に対応する人物を公開出演者情報(不図示)から除外するように構成してもよい。この場合、除外候補に設定された人物を示す情報は公開出演者情報から除外されて公開されない。
また、除外候補に設定された人物のうち、ユーザの入力によって選択された人物を除外確定設定部49が除外確定に設定するときに、ユーザの入力を受け付ける入力画面を表示させて、除外確定の設定をその出演者確認リスト70,270に対応する動画像データ(シリーズ構成動画用動画像データ17a)のみに適用させるのか、その動画像データと同一のシリーズの動画像データ(シリーズ構成動画用動画像データ17a)のすべてに適用させるのかをユーザに選択させるように構成してもよい。
例えば、ユーザの入力により、除外確定の設定をその出演者確認リスト70,270に対応する動画像データ17aのみに適用させることが選択された場合には、除外確定の設定は、次の動画像データ17aを処理するときには解除されて、除外確定の設定が解除された人物の特徴情報21は一致情報抽出部43の抽出対象となる。
また、ユーザの入力により、除外確定の設定を同一のシリーズの動画像データ17aのすべてに適用させることが選択された場合には、上記同一のシリーズを構成する他の動画像データ17aの処理において、除外確定に設定された人物の特徴情報21が一致情報抽出部43の抽出対象から除外されるように構成してもよい。
第5の実施形態において、図10のステップ28の処理の前に、一致情報抽出部43が抽出した特徴情報21からメイン制御部41が除外候補以外の特徴情報21を抽出するステップ27(不図示)を実行するように構成してもよい。この場合、ステップ26において用いた所定の基準を満たす特徴情報21は、すでに除外候補に設定されており、上記ステップ27において類似人物の抽出対象から外されることになる。したがって、ステップ28では、ステップ26とは異なる所定の基準を用いることになる。
既述の実施形態では、特徴情報21として顔画像を用いているが、顔画像以外の情報を用いてもよい。例えば、顔画像から抽出した特徴点の情報を特徴情報21として人物情報記憶部12に予め記憶しておいてもよい。
特徴情報21として又は特徴情報21の作成のために用いる顔画像は、どのような人物の顔画像であってもよく、例えば、俳優、女優、タレント、芸人、アーティスト、著名人等、テレビ番組又は映像作品等に出演する可能性のある人物の顔画像であってもよい。
また、アニメの動画像データについて、声優の公開出演者情報を作成するために、アニメの登場人物の顔画像を、その登場人物の声優をしている人物の特徴情報21として、人物情報記憶部12に記憶しておいてもよい。
また、特定の団体の記録動画や家族、友人等とのプライベート動画等を処理の対象とする場合には、団体の構成員や家族、友人等の顔画像を特徴情報21として、人物情報記憶部12に記憶しておいてもよい。
人物情報20は、どのような情報を含んでいてもよい。例えば、各人物の声を各人物の特徴情報21を対応付けて人物情報記憶部12に記憶しておいてもよい。この場合、動画像データから音声を抽出し人物情報記憶部12に記憶した各人物の音声と比較して、人物特定の精度を高めるように構成してもよい。
公開出演者情報には、どのような情報が含まれていてもよい。例えば、既述した情報に加えて、氏名23等と対応付けられた役名等を公開出演者情報に含めてもよい。
人物情報表示装置1,100を構成する前述の各機能部は、単体のコンピュータに備えられていてもよいし、通信ネットワークを介して通信可能な複数のコンピュータに分散して備えられていてもよい。
例えば、サーバとして機能するコンピュータに動画像記憶部11と人物情報記憶部12と類似関係記憶部14を設け、上記サーバと通信可能な端末のコンピュータに動画特徴情報記憶部15と制御部6,106に含まれる各機能部を設けてもよい。また、上記サーバと通信可能な端末のコンピュータの表示部8に各種情報を表示するように構成してもよい。
なお、既述の実施形態において、「対応付けられ」とは、直接又は間接的に、各データが関連付けられ又は紐づけられていることを含む。
例えば、人物情報表示装置1,100の機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより各種処理を行ってもよい。なお、ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウェアを含むものとする。
また、「コンピュータシステム」は、WWWシステムを利用している場合であれば、ホームページ提供環境(あるいは表示環境)も含むものとする。
また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD−ROM、DVD等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムを送信する場合の通信線のように、短時間の間、動的にプログラムを保持するもの、その場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリのように、一定時間プログラムを保持しているものも含むものとする。また上記プログラムは、前述した機能の一部を実現するためのものであっても良く、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであっても良い。
既述の実施形態に関し、さらに以下の付記を開示する。
(付記1)
動画像データから人物の顔の特徴を抽出する特徴抽出部と、
予め記憶された複数人の顔の特徴情報の中から、前記特徴抽出部が抽出した前記顔の特徴と一致する前記特徴情報を抽出する一致情報抽出部と、
前記一致情報抽出部が抽出した複数の前記特徴情報が類似する場合には、類似する前記複数の特徴情報のうち、ユーザの入力又は所定の基準に応じて選択された前記特徴情報を除外候補に設定する除外候補設定部と、
前記一致情報抽出部が抽出した前記特徴情報であって前記除外候補設定部が前記除外候補に設定した前記特徴情報に対応する人物を示す情報と、前記一致情報抽出部が抽出した前記特徴情報であって前記除外候補に設定されていない前記特徴情報に対応する人物を示す情報とを前記表示部に表示させる人物情報出力部と
を備える人物情報表示装置。
(付記2)
前記人物情報出力部は、前記一致情報抽出部が抽出した前記特徴情報であって前記除外候補設定部が前記除外候補に設定した前記特徴情報に対応する人物を示す情報の表示態様を、前記一致情報抽出部が抽出した前記特徴情報であって前記除外候補に設定されていない前記特徴情報に対応する人物を示す情報の表示態様とは異ならせて前記表示部に表示させる付記1記載の人物情報表示装置。
(付記3)
同一のシリーズを構成する複数の前記動画像データの少なくとも1つにおいて前記除外候補設定部が前記特徴情報を前記除外候補に設定した場合に、前記除外候補に設定された前記特徴情報は、前記同一のシリーズを構成する他の前記動画像データにおいて前記一致情報抽出部が抽出する前記特徴情報から除外される付記1又は付記2記載の人物情報表示装置。
(付記4)
予め記憶された類似する人物を示す類似関係情報に基づいて、前記一致情報抽出部が抽出した複数の前記特徴情報が類似するかを判定する類似人物判定部をさらに備え、
前記除外候補設定部は、前記類似人物判定部が類似すると判定した前記複数の特徴情報のうち、ユーザの入力又は予め設定された所定の基準に応じて選択された前記特徴情報を除外候補に設定する付記1から付記3のいずれか1つに記載の人物情報表示装置。
(付記5)
1つの前記顔の特徴と一致する前記特徴情報として、前記一致情報抽出部が複数の前記特徴情報を抽出した場合には、前記一致情報抽出部が抽出した前記複数の特徴情報を類似すると判定する類似人物判定部をさらに備え、
前記除外候補設定部は、前記類似人物判定部が類似すると判定した前記複数の特徴情報のうち、ユーザの入力又は予め設定された所定の基準に応じて選択された前記特徴情報を除外候補に設定する付記1から付記4のいずれか1つに記載の人物情報表示装置。
(付記6)
前記一致情報抽出部が抽出した複数の前記特徴情報が類似する場合には、類似する前記複数の特徴情報にそれぞれ対応する人物を示す情報を類似人物情報として前記表示部に表示させる類似人物出力部をさらに備え、
前記除外候補設定部は、前記類似人物出力部が表示させた前記類似人物情報に対応する前記特徴情報のうち、ユーザの入力又は予め設定された所定の基準に応じて選択された前記特徴情報を前記除外候補に設定する付記1から付記5のいずれか1つに記載の人物情報表示装置。
(付記7)
前記類似人物情報が示す複数の人物について、前記動画像データにおける前記人物のそれぞれの表示時間の長さを示す表示時間情報を算出して前記表示部に表示させる時間情報算出部をさらに備える付記6記載の人物情報表示装置。
(付記8)
前記一致情報抽出部が抽出した複数の前記特徴情報が類似する場合には、類似する前記複数の特徴情報にそれぞれ対応する人物を示す情報を類似人物情報として前記表示部に表示させる類似人物出力部をさらに備え、
前記類似人物出力部は、前記類似人物情報が示す複数の前記人物のうち、前記動画像データにおける表示時間の長さに関する所定の基準を満たす人物を特定する情報を前記表示部に表示させる付記1から付記7のいずれか1つに記載の人物情報表示装置。
(付記9)
前記動画像データのフレームに占める前記人物の顔の面積の比率であるアップ度を算出し、算出した前記アップ度に基づく情報を前記表示部に表示させるアップ度算出部をさらに備える付記1から付記8のいずれか1つに記載の人物情報表示装置。
(付記10)
前記一致情報抽出部が抽出した複数の前記特徴情報が類似する場合には、類似する前記複数の特徴情報にそれぞれ対応する人物を示す情報を類似人物情報として前記表示部に表示させる類似人物出力部をさらに備え、
前記類似人物出力部は、前記類似人物情報が示す複数の前記人物のうち、前記アップ度算出部が算出した前記アップ度に関する所定の基準を満たす人物を特定する情報を前記表示部に表示させる付記9記載の人物情報表示装置。
(付記11)
前記除外候補設定部は、前記動画像データにおける表示時間の長さに関する所定の基準を満たす人物に対応する前記特徴情報を選択して、前記除外候補に設定する付記1から付記10のいずれか1つに記載の人物情報表示装置。
(付記12)
前記動画像データのフレームに占める前記人物の顔の面積の比率であるアップ度を算出するアップ度算出部をさらに備え、
前記除外候補設定部は、前記アップ度算出部が算出した前記アップ度に関する所定の基準を満たす人物に対応する前記特徴情報を選択して、前記除外候補に設定する付記1から付記11のいずれか1つに記載の人物情報表示装置。
(付記13)
前記動画像データのフレームに占める前記人物の顔の面積の比率であるアップ度を算出するアップ度算出部をさらに備え、
前記人物情報出力部は、前記一致情報抽出部が抽出した前記特徴情報に対応する人物を示す情報を、前記アップ度算出部が算出した前記アップ度に基づく順序で前記表示部に表示させる付記1から付記12のいずれか1つに記載の人物情報表示装置。
(付記14)
前記動画像データのフレームに占める前記人物の顔の面積の比率であるアップ度を算出するアップ度算出部をさらに備え、
前記人物情報出力部は、前記一致情報抽出部が抽出した前記特徴情報に対応する人物を示す情報を、前記動画像データにおける前記人物の表示時間の長さ及び前記アップ度に基づく順序で前記表示部に表示させる付記1から付記13のいずれか1つに記載の人物情報表示装置。
(付記15)
前記特徴抽出部が抽出した前記顔の特徴のうち前記特徴情報と一致しなかった前記顔の特徴に対応する顔の画像を、前記動画像データから切り出して前記表示部に表示させる不一致特徴出力部をさらに備える付記1から付記14のいずれか1つに記載の人物情報表示装置。
(付記16)
特定のシリーズを構成する複数の前記動画像データについて抽出対象となる前記特徴情報を指定する抽出対象指定部をさらに備え、
前記抽出対象指定部が前記抽出対象となる前記特徴情報を指定した場合、前記抽出対象指定部が指定した前記特徴情報は、前記特定のシリーズを構成する複数の前記動画像データ以外の前記動画像データおいて前記一致情報抽出部が抽出する前記特徴情報から除外される付記1から付記15のいずれか1つに記載の人物情報表示装置。
(付記17)
人物の情報を表示する人物情報表示装置における人物情報表示方法であって、
前記人物情報表示装置の特徴抽出部が、動画像データから人物の顔の特徴を抽出する特徴抽出ステップと、
前記人物情報表示装置の一致情報抽出部が、予め記憶された複数人の顔の特徴情報の中から、前記特徴抽出部が抽出した前記顔の特徴と一致する前記特徴情報を抽出する一致情報抽出ステップと、
前記人物情報表示装置の除外候補設定部が、前記一致情報抽出部が抽出した複数の前記特徴情報が類似する場合には、類似する前記複数の特徴情報のうち、ユーザの入力又は所定の基準に応じて選択された前記特徴情報を除外候補に設定する除外候補設定ステップと、
前記人物情報表示装置の人物情報出力部が、前記一致情報抽出部が抽出した前記特徴情報であって前記除外候補設定部が前記除外候補に設定した前記特徴情報に対応する人物を示す情報と、前記一致情報抽出部が抽出した前記特徴情報であって前記除外候補に設定されていない前記特徴情報に対応する人物を示す情報とを前記表示部に表示させる人物情報出力ステップと
を含む人物情報表示方法。
(付記18)
人物の情報を表示する人物情報表示装置における人物情報表示プログラムであって、
前記人物情報表示装置の特徴抽出部が、動画像データから人物の顔の特徴を抽出する特徴抽出ステップと、
前記人物情報表示装置の一致情報抽出部が、予め記憶された複数人の顔の特徴情報の中から、前記特徴抽出部が抽出した前記顔の特徴と一致する前記特徴情報を抽出する一致情報抽出ステップと、
前記人物情報表示装置の除外候補設定部が、前記一致情報抽出部が抽出した複数の前記特徴情報が類似する場合には、類似する前記複数の特徴情報のうち、ユーザの入力又は所定の基準に応じて選択された前記特徴情報を除外候補に設定する除外候補設定ステップと、
前記人物情報表示装置の人物情報出力部が、前記一致情報抽出部が抽出した前記特徴情報であって前記除外候補設定部が前記除外候補に設定した前記特徴情報に対応する人物を示す情報と、前記一致情報抽出部が抽出した前記特徴情報であって前記除外候補に設定されていない前記特徴情報に対応する人物を示す情報とを前記表示部に表示させる人物情報出力ステップと
を前記人物情報表示装置において実行させる人物情報表示プログラム。
1,100 人物情報表示装置
8 表示部
17 動画像データ
17a シリーズ構成動画用動画像データ
21 特徴情報
36 類似関係情報
42 特徴抽出部
43 一致情報抽出部
44 抽出対象指定部
45 人物情報出力部
46 類似人物判定部
47 類似人物出力部
48 除外候補設定部
51 時間情報算出部
152 アップ度算出部

Claims (17)

  1. 動画像データに表示されている人物に関する情報である出演者情報を作成するために人物の情報を表示する人物情報表示装置であって、
    前記動画像データから人物の顔の特徴を抽出する特徴抽出部と、
    予め記憶された複数人の顔の特徴情報の中から、前記特徴抽出部が抽出した前記顔の特徴と一致する前記特徴情報を抽出する一致情報抽出部と、
    前記一致情報抽出部が抽出した複数の前記特徴情報のうち、互いに類似する特徴情報がある場合には、前記互いに類似する特徴情報のうち、ユーザの入力又は所定の基準に応じて選択された前記特徴情報を、前記出演者情報から除外される人物の候補である除外候補に設定する除外候補設定部と、
    前記一致情報抽出部が抽出した前記特徴情報であって前記除外候補設定部が前記除外候補に設定した前記特徴情報に対応する人物を示す情報と、前記一致情報抽出部が抽出した前記特徴情報であって前記除外候補に設定されていない前記特徴情報に対応する人物を示す情報とを表示部に表示させる人物情報出力部と
    を備え
    前記人物情報出力部は、前記一致情報抽出部が抽出した前記特徴情報であって前記除外候補設定部が前記除外候補に設定した前記特徴情報に対応する人物を示す情報の表示態様を、前記一致情報抽出部が抽出した前記特徴情報であって前記除外候補に設定されていない前記特徴情報に対応する人物を示す情報の表示態様とは異ならせて前記表示部に表示させる人物情報表示装置。
  2. 同一のシリーズを構成する複数の前記動画像データの少なくとも1つにおいて前記除外候補設定部が前記特徴情報を前記除外候補に設定した場合に、前記除外候補に設定された前記特徴情報は、前記同一のシリーズを構成する他の前記動画像データにおいて前記一致情報抽出部が抽出する前記特徴情報から除外される請求項1記載の人物情報表示装置。
  3. 予め記憶された互いに類似する人物を示す類似関係情報に基づいて、前記一致情報抽出部が抽出した複数の前記特徴情報のうち、互いに類似する特徴情報があるかを判定する類似人物判定部をさらに備え、
    前記除外候補設定部は、前記類似人物判定部が互いに類似する特徴情報があると判定した場合には、前記互いに類似する特徴情報のうち、ユーザの入力又は予め設定された所定の基準に応じて選択された前記特徴情報を前記除外候補に設定する請求項1又は請求項2記載の人物情報表示装置。
  4. 1つの前記顔の特徴と一致する前記特徴情報として、前記一致情報抽出部が複数の前記特徴情報を抽出した場合には、前記一致情報抽出部が抽出した前記複数の特徴情報が互いに類似すると判定する類似人物判定部をさらに備え、
    前記除外候補設定部は、前記類似人物判定部が互いに類似すると判定した前記複数の特徴情報のうち、ユーザの入力又は予め設定された所定の基準に応じて選択された前記特徴情報を前記除外候補に設定する請求項1から請求項のいずれか1項記載の人物情報表示装置。
  5. 前記一致情報抽出部が抽出した複数の前記特徴情報のうち、互いに類似する特徴情報がある場合には、前記互いに類似する特徴情報にそれぞれ対応する人物を示す情報を類似人物情報として前記表示部に表示させる類似人物出力部をさらに備え、
    前記除外候補設定部は、前記類似人物出力部が表示させた前記類似人物情報に対応する前記特徴情報のうち、ユーザの入力又は予め設定された所定の基準に応じて選択された前記特徴情報を前記除外候補に設定する請求項1から請求項のいずれか1項記載の人物情報表示装置。
  6. 前記類似人物情報が示す複数の人物について、前記動画像データにおける前記人物のそれぞれの表示時間の長さを示す表示時間情報を算出して前記表示部に表示させる時間情報算出部をさらに備える請求項記載の人物情報表示装置。
  7. 前記一致情報抽出部が抽出した複数の前記特徴情報のうち、互いに類似する特徴情報がある場合には、前記互いに類似する特徴情報にそれぞれ対応する人物を示す情報を類似人物情報として前記表示部に表示させる類似人物出力部をさらに備え、
    前記類似人物出力部は、前記類似人物情報が示す複数の前記人物のうち、前記動画像データにおける表示時間の長さに関する所定の基準を満たす人物を特定する情報を前記表示部に表示させる請求項1から請求項のいずれか1項記載の人物情報表示装置。
  8. 前記動画像データのフレームに占める前記人物の顔の面積の比率であるアップ度を算出し、算出した前記アップ度に基づく情報を前記表示部に表示させるアップ度算出部をさらに備える請求項1から請求項のいずれか1項記載の人物情報表示装置。
  9. 前記一致情報抽出部が抽出した複数の前記特徴情報のうち、互いに類似する特徴情報がある場合には、前記互いに類似する特徴情報にそれぞれ対応する人物を示す情報を類似人物情報として前記表示部に表示させる類似人物出力部をさらに備え、
    前記類似人物出力部は、前記類似人物情報が示す複数の前記人物のうち、前記アップ度算出部が算出した前記アップ度に関する所定の基準を満たす人物を特定する情報を前記表示部に表示させる請求項記載の人物情報表示装置。
  10. 前記除外候補設定部は、前記動画像データにおける表示時間の長さに関する所定の基準を満たす人物に対応する前記特徴情報を選択して、前記除外候補に設定する請求項1から請求項のいずれか1項記載の人物情報表示装置。
  11. 前記動画像データのフレームに占める前記人物の顔の面積の比率であるアップ度を算出するアップ度算出部をさらに備え、
    前記除外候補設定部は、前記アップ度算出部が算出した前記アップ度に関する所定の基準を満たす人物に対応する前記特徴情報を選択して、前記除外候補に設定する請求項1から請求項10のいずれか1項記載の人物情報表示装置。
  12. 前記動画像データのフレームに占める前記人物の顔の面積の比率であるアップ度を算出するアップ度算出部をさらに備え、
    前記人物情報出力部は、前記一致情報抽出部が抽出した前記特徴情報に対応する人物を示す情報を、前記アップ度算出部が算出した前記アップ度に基づく順序で前記表示部に表示させる請求項1から請求項11のいずれか1項記載の人物情報表示装置。
  13. 前記動画像データのフレームに占める前記人物の顔の面積の比率であるアップ度を算出するアップ度算出部をさらに備え、
    前記人物情報出力部は、前記一致情報抽出部が抽出した前記特徴情報に対応する人物を示す情報を、前記動画像データにおける前記人物の表示時間の長さ及び前記アップ度に基づく順序で前記表示部に表示させる請求項1から請求項12のいずれか1項記載の人物情報表示装置。
  14. 前記特徴抽出部が抽出した前記顔の特徴のうち前記特徴情報と一致しなかった前記顔の特徴に対応する顔の画像を、前記動画像データから切り出して前記表示部に表示させる不一致特徴出力部をさらに備える請求項1から請求項13のいずれか1項記載の人物情報表示装置。
  15. 特定のシリーズを構成する複数の前記動画像データについて抽出対象となる前記特徴情報を指定する抽出対象指定部をさらに備え、
    前記抽出対象指定部が前記抽出対象となる前記特徴情報を指定した場合、前記抽出対象指定部が指定した前記特徴情報は、前記特定のシリーズを構成する複数の前記動画像データ以外の前記動画像データおいて前記一致情報抽出部が抽出する前記特徴情報から除外される請求項1から請求項14のいずれか1項記載の人物情報表示装置。
  16. 動画像データに表示されている人物に関する情報である出演者情報を作成するために人物の情報を表示する人物情報表示装置における人物情報表示方法であって、
    前記人物情報表示装置の特徴抽出部が、前記動画像データから人物の顔の特徴を抽出する特徴抽出ステップと、
    前記人物情報表示装置の一致情報抽出部が、予め記憶された複数人の顔の特徴情報の中から、前記特徴抽出部が抽出した前記顔の特徴と一致する前記特徴情報を抽出する一致情報抽出ステップと、
    前記人物情報表示装置の除外候補設定部が、前記一致情報抽出部が抽出した複数の前記特徴情報のうち、互いに類似する特徴情報がある場合には、前記互いに類似する特徴情報のうち、ユーザの入力又は所定の基準に応じて選択された前記特徴情報を、前記出演者情報から除外される人物の候補である除外候補に設定する除外候補設定ステップと、
    前記人物情報表示装置の人物情報出力部が、前記一致情報抽出部が抽出した前記特徴情報であって前記除外候補設定部が前記除外候補に設定した前記特徴情報に対応する人物を示す情報と、前記一致情報抽出部が抽出した前記特徴情報であって前記除外候補に設定されていない前記特徴情報に対応する人物を示す情報とを表示部に表示させる人物情報出力ステップと
    を含み、
    前記人物情報出力ステップにおいて、前記人物情報出力部は、前記一致情報抽出部が抽出した前記特徴情報であって前記除外候補設定部が前記除外候補に設定した前記特徴情報に対応する人物を示す情報の表示態様を、前記一致情報抽出部が抽出した前記特徴情報であって前記除外候補に設定されていない前記特徴情報に対応する人物を示す情報の表示態様とは異ならせて前記表示部に表示させる人物情報表示方法。
  17. 動画像データに表示されている人物に関する情報である出演者情報を作成するために人物の情報を表示する人物情報表示装置における人物情報表示プログラムであって、
    前記人物情報表示装置の特徴抽出部が、前記動画像データから人物の顔の特徴を抽出する特徴抽出ステップと、
    前記人物情報表示装置の一致情報抽出部が、予め記憶された複数人の顔の特徴情報の中から、前記特徴抽出部が抽出した前記顔の特徴と一致する前記特徴情報を抽出する一致情報抽出ステップと、
    前記人物情報表示装置の除外候補設定部が、前記一致情報抽出部が抽出した複数の前記特徴情報のうち、互いに類似する特徴情報がある場合には、前記互いに類似する特徴情報のうち、ユーザの入力又は所定の基準に応じて選択された前記特徴情報を、前記出演者情報から除外される人物の候補である除外候補に設定する除外候補設定ステップと、
    前記人物情報表示装置の人物情報出力部が、前記一致情報抽出部が抽出した前記特徴情報であって前記除外候補設定部が前記除外候補に設定した前記特徴情報に対応する人物を示す情報と、前記一致情報抽出部が抽出した前記特徴情報であって前記除外候補に設定されていない前記特徴情報に対応する人物を示す情報とを表示部に表示させる人物情報出力ステップと
    を前記人物情報表示装置において実行させ、
    前記人物情報出力ステップにおいて、前記人物情報出力部は、前記一致情報抽出部が抽出した前記特徴情報であって前記除外候補設定部が前記除外候補に設定した前記特徴情報に対応する人物を示す情報の表示態様を、前記一致情報抽出部が抽出した前記特徴情報であって前記除外候補に設定されていない前記特徴情報に対応する人物を示す情報の表示態様とは異ならせて前記表示部に表示させる人物情報表示プログラム。
JP2016255739A 2016-12-28 2016-12-28 人物情報表示装置、人物情報表示方法及び人物情報表示プログラム Active JP6161224B1 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2016255739A JP6161224B1 (ja) 2016-12-28 2016-12-28 人物情報表示装置、人物情報表示方法及び人物情報表示プログラム
PCT/JP2017/043270 WO2018123440A1 (ja) 2016-12-28 2017-12-01 人物情報表示装置、人物情報表示方法及び人物情報表示プログラム
US16/062,691 US10657417B2 (en) 2016-12-28 2017-12-01 Person information display apparatus, a person information display method, and a person information display program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016255739A JP6161224B1 (ja) 2016-12-28 2016-12-28 人物情報表示装置、人物情報表示方法及び人物情報表示プログラム

Publications (2)

Publication Number Publication Date
JP6161224B1 true JP6161224B1 (ja) 2017-07-12
JP2018106631A JP2018106631A (ja) 2018-07-05

Family

ID=59308983

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016255739A Active JP6161224B1 (ja) 2016-12-28 2016-12-28 人物情報表示装置、人物情報表示方法及び人物情報表示プログラム

Country Status (3)

Country Link
US (1) US10657417B2 (ja)
JP (1) JP6161224B1 (ja)
WO (1) WO2018123440A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7148857B2 (ja) 2018-06-06 2022-10-06 日本電気株式会社 情報処理システム、情報処理方法及びプログラム

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7197763B2 (ja) * 2018-07-31 2022-12-28 キヤノンマーケティングジャパン株式会社 情報処理装置、処理方法、プログラム

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008257460A (ja) * 2007-04-04 2008-10-23 Sony Corp 情報処理装置、情報処理方法、およびプログラム
JP2009232250A (ja) * 2008-03-24 2009-10-08 Panasonic Corp 番組情報表示装置および番組情報表示方法
JP2010257449A (ja) * 2009-03-31 2010-11-11 Sogo Keibi Hosho Co Ltd 人物検索装置、人物検索方法、及び人物検索プログラム
JP2013509094A (ja) * 2009-10-23 2013-03-07 マイクロソフト コーポレーション ビデオセッションの自動ラベリング
JP2014086926A (ja) * 2012-10-24 2014-05-12 Nec Personal Computers Ltd 情報機器、及びプログラム
JP2014139733A (ja) * 2013-01-21 2014-07-31 Sony Corp 情報処理装置および方法、並びにプログラム

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009076982A (ja) * 2007-09-18 2009-04-09 Toshiba Corp 電子機器および顔画像表示方法
JP4909856B2 (ja) * 2007-09-27 2012-04-04 株式会社東芝 電子機器および表示方法
JP4909854B2 (ja) * 2007-09-27 2012-04-04 株式会社東芝 電子機器および表示処理方法
JP4496263B2 (ja) 2008-10-23 2010-07-07 株式会社東芝 情報処理装置およびコンテンツ表示方法
JP2010239507A (ja) 2009-03-31 2010-10-21 Toshiba Corp 動画処理装置
JP2011039797A (ja) 2009-08-11 2011-02-24 Sony Ericsson Mobile Communications Ab タイトル自動付加装置、タイトル自動付加方法、タイトル自動付加プログラム、及び携帯端末装置
JP2012123676A (ja) 2010-12-09 2012-06-28 Canon Inc 個人認証装置
KR20130088493A (ko) 2012-01-31 2013-08-08 삼성전자주식회사 Ui 제공 방법 및 이를 적용한 영상 수신 장치
JP2014238712A (ja) 2013-06-07 2014-12-18 三菱電機株式会社 コンテンツ分析装置、コンテンツ分析方法及びコンテンツ分析プログラム
US10339367B2 (en) * 2016-03-29 2019-07-02 Microsoft Technology Licensing, Llc Recognizing a face and providing feedback on the face-recognition process
US10796178B2 (en) * 2016-12-15 2020-10-06 Beijing Kuangshi Technology Co., Ltd. Method and device for face liveness detection

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008257460A (ja) * 2007-04-04 2008-10-23 Sony Corp 情報処理装置、情報処理方法、およびプログラム
JP2009232250A (ja) * 2008-03-24 2009-10-08 Panasonic Corp 番組情報表示装置および番組情報表示方法
JP2010257449A (ja) * 2009-03-31 2010-11-11 Sogo Keibi Hosho Co Ltd 人物検索装置、人物検索方法、及び人物検索プログラム
JP2013509094A (ja) * 2009-10-23 2013-03-07 マイクロソフト コーポレーション ビデオセッションの自動ラベリング
JP2014086926A (ja) * 2012-10-24 2014-05-12 Nec Personal Computers Ltd 情報機器、及びプログラム
JP2014139733A (ja) * 2013-01-21 2014-07-31 Sony Corp 情報処理装置および方法、並びにプログラム

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7148857B2 (ja) 2018-06-06 2022-10-06 日本電気株式会社 情報処理システム、情報処理方法及びプログラム

Also Published As

Publication number Publication date
US20190236408A1 (en) 2019-08-01
US10657417B2 (en) 2020-05-19
JP2018106631A (ja) 2018-07-05
WO2018123440A1 (ja) 2018-07-05

Similar Documents

Publication Publication Date Title
US10423656B2 (en) Tag suggestions for images on online social networks
US10019779B2 (en) Browsing interface for item counterparts having different scales and lengths
JP5358083B2 (ja) 人物画像検索装置及び画像検索装置
US8285006B2 (en) Human face recognition and user interface system for digital camera and video camera
CN103686344B (zh) 增强视频系统及方法
US10795560B2 (en) System and method for detection and visualization of anomalous media events
CN106021496A (zh) 视频搜索方法及视频搜索装置
KR20090024969A (ko) 컨텐트에서의 등장 인물간의 관계에 대한 정보 생성 방법및 그 장치
US11971927B1 (en) System and method for contextual data selection from electronic media content
JP2018081630A (ja) 検索装置、検索方法およびプログラム
JP6161224B1 (ja) 人物情報表示装置、人物情報表示方法及び人物情報表示プログラム
JP2019003585A (ja) 要約映像生成装置およびそのプログラム
CN108388836A (zh) 一种用于获取视频语义信息的方法与装置
JP2012194691A (ja) 識別器の再学習方法、再学習のためのプログラム、及び画像認識装置
JP6588607B2 (ja) リコメンド装置、リコメンド方法、プログラムおよび記録媒体
Kim et al. Key Color generation for affective multimedia production: an initial method and its application
CN111949813A (zh) 交友请求方法、装置、计算机设备和存储介质
KR102262702B1 (ko) 샷 변화패턴을 이용한 동영상 생성 시스템
CN113539234A (zh) 语音合成方法、装置、系统及存储介质
JP6394463B2 (ja) 楽曲検索システム、および楽曲検索プログラム
US20200188795A1 (en) Player identification system and method
JP2006157688A (ja) 映像シーンに対する意味ラベル付与方法及び装置及びプログラム
JP2015232913A (ja) 拡張現実装置、方法、及びプログラム
JP6376019B2 (ja) 楽曲リスト生成システム、および楽曲リスト生成プログラム
WO2023120263A1 (ja) 情報処理装置及び情報処理方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20161228

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20161228

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20170307

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170316

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170511

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170609

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170612

R150 Certificate of patent or registration of utility model

Ref document number: 6161224

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250