JP6161224B1 - 人物情報表示装置、人物情報表示方法及び人物情報表示プログラム - Google Patents
人物情報表示装置、人物情報表示方法及び人物情報表示プログラム Download PDFInfo
- Publication number
- JP6161224B1 JP6161224B1 JP2016255739A JP2016255739A JP6161224B1 JP 6161224 B1 JP6161224 B1 JP 6161224B1 JP 2016255739 A JP2016255739 A JP 2016255739A JP 2016255739 A JP2016255739 A JP 2016255739A JP 6161224 B1 JP6161224 B1 JP 6161224B1
- Authority
- JP
- Japan
- Prior art keywords
- information
- person
- feature
- unit
- feature information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims description 43
- 230000007717 exclusion Effects 0.000 claims abstract description 363
- 238000000605 extraction Methods 0.000 claims abstract description 214
- 230000001815 facial effect Effects 0.000 claims abstract description 50
- 239000000284 extract Substances 0.000 claims abstract description 49
- 238000004364 calculation method Methods 0.000 claims description 49
- 238000012790 confirmation Methods 0.000 description 67
- 230000008569 process Effects 0.000 description 28
- 239000000203 mixture Substances 0.000 description 14
- 230000015654 memory Effects 0.000 description 8
- 230000006870 function Effects 0.000 description 7
- 238000010586 diagram Methods 0.000 description 5
- 230000008859 change Effects 0.000 description 4
- 238000004891 communication Methods 0.000 description 3
- 230000004044 response Effects 0.000 description 3
- 230000008921 facial expression Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
- 239000002699 waste material Substances 0.000 description 1
- 210000000707 wrist Anatomy 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/172—Classification, e.g. identification
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/213—Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods
- G06F18/2135—Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods based on approximation criteria, e.g. principal component analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/217—Validation; Performance evaluation; Active pattern learning techniques
- G06F18/2178—Validation; Performance evaluation; Active pattern learning techniques based on feedback of a supervisor
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
- G06F3/0482—Interaction with lists of selectable items, e.g. menus
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/40—Scenes; Scene-specific elements in video content
- G06V20/41—Higher-level, semantic clustering, classification or understanding of video scenes, e.g. detection, labelling or Markovian modelling of sport events or news items
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/432—Content retrieval operation from a local storage medium, e.g. hard-disk
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/44—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/47—End-user applications
- H04N21/472—End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content
- H04N21/4722—End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content for requesting additional data associated with the content
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/76—Television signal recording
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/76—Television signal recording
- H04N5/765—Interface circuits between an apparatus for recording and another apparatus
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/76—Television signal recording
- H04N5/91—Television signal processing therefor
- H04N5/93—Regeneration of the television signal or of selected parts thereof
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Theoretical Computer Science (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Databases & Information Systems (AREA)
- Data Mining & Analysis (AREA)
- Human Computer Interaction (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Computational Biology (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Software Systems (AREA)
- Computational Linguistics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
- Television Signal Processing For Recording (AREA)
Abstract
Description
したがって、出演者の情報を番組情報として提供するために、VODの各コンテンツに出演している出演者情報を各コンテンツと関連付けて作成する作業が行われている。
また、出演者情報はコンテンツと共に一般に公開されることを前提としている。したがって、公開情報に誤りが生じないように正確な情報を提供する必要がある。
以上に鑑みて、本発明は、動画に表示されている人物を示す情報をより早くより正確に提供するための人物情報表示装置等を提供することを目的とする。
以下、本発明の実施の形態を添付の図により説明する。
図1は、第1の実施形態に係る人物情報表示装置1の機能ブロック図である。人物情報表示装置1は、例えば、PC等のコンピュータによって実現される。人物情報表示装置1は、各種の情報を記憶する記憶部5と、装置全体を制御する制御部6と、入力手段を介して外部からの入力を受け付ける入力部7と、各種の情報を表示する表示部8とを備えている。
記憶部5は、動画像データを記憶する動画像記憶部11と、人物の顔の特徴情報を記憶する人物情報記憶部12と、類似する人物を示す類似関係情報を記憶する類似関係記憶部14と、動画像データから抽出した顔の特徴を記憶する動画特徴情報記憶部15とを備えている。
シリーズ除外候補25aとは、同一シリーズを構成するすべてのシリーズ構成動画用動画像データ17aにおいて出演者情報から除外される人物の候補である。
同一のシリーズを構成する複数のシリーズ構成動画用動画像データ17aの少なくとも1つにおいてシリーズ除外候補25aに設定された特徴情報21は、同一シリーズを構成する他のシリーズ構成動画用動画像データ17aを対象とする処理において、後述の一致情報抽出部43が抽出する特徴情報21から除外される。
例えば、上記1話のシリーズ構成動画用動画像データ17aの処理において、シリーズ除外候補25aに設定された特徴情報21は、他の2話〜5話のシリーズ構成動画用動画像データ17aの処理において、後述の一致情報抽出部43が抽出する特徴情報21から除外されることになる。
図2において、説明のため、除外候補に設定されていることをチェックマークによって示している。チェックマークが付された人物は除外候補ということになる。図2の例では、個人ID22「000004」の特徴情報21が単発除外候補25bに設定されている。なお、図2の例においてチェックマークによって示す設定状態は、現在処理対象の動画像データ17に適用される設定である。したがって、例えば、上記1話のシリーズ構成動画用動画像データ17aの処理を実行する際に図2に示す設定状態が使用される場合には、個人ID22「000004」の特徴情報21は上記1話のシリーズ構成動画用動画像データ17aについて除外候補に設定されていることになる。
図2の例では、説明のため、特徴情報21が特定のシリーズのみに使用できるものであることをチェックマークによって示している。チェックマークが付されていない特徴情報21はすべての動画像データ17について使用できる。
図2の例では、個人ID22「000002」の特徴情報21が特定のシリーズのみに使用できるものに設定されている。前述のように、図2の例においてチェックマークによって示す設定状態は、現在処理対象の動画像データ17に適用される設定である。したがって、上記1話のシリーズ構成動画用動画像データ17aの処理を実行する際に図2に示す設定状態が使用される場合には、上記特定のシリーズは、上記1話〜5話のシリーズ構成動画用動画像データ17aによって構成されるドラマ「×××××」である。
よって、図2の例では、個人ID22「000002」の特徴情報21は、上記1話〜5話のシリーズ構成動画用動画像データ17aの処理においては、後述の一致情報抽出部43の抽出対象となるが、それ以外の動画像データ17の処理においては、一致情報抽出部43の抽出対象から除外されることになる。
特徴情報21、氏名23、除外候補情報25、除外確定情報26、適用範囲情報28、顔画像公開許可情報31、公開用画像32、公開用のその他の情報33は、すべて、個人ID22に対応付けられている。
図2に示す例では、個人ID22「000001」によって識別される特徴情報21と類似する特徴情報21は、個人ID22「000064」,「139167」,「233891」によって識別される特徴情報21である。したがって、個人ID22「000001」によって識別される人物は、個人ID22「000064」,「139167」,「233891」のそれぞれによって識別される各人物と類似していることになる。
また、図2の例では、個人ID22「000002」に対応付けられた類似人物の個人ID37はないため、人物情報20の中に、個人ID22「000002」によって識別される特徴情報21と類似する特徴情報21は存在しないということになる。
なお、類似関係情報36を予め別のコンピュータを用いて作成し、類似関係記憶部14に記憶しておいてもよい。
また、ユーザが類似であると判断した人物の特徴情報21の類似関係を類似関係情報36に記憶しておいてもよい。例えば、ものまね芸人の特徴情報21と当該ものまね芸人が真似している本人の特徴情報21を互いに類似するものとして類似関係情報36に記憶しておいてもよい。
また例えば、後述のように、一人の人物に対して複数の特徴情報21が記憶されているときに、それらの特徴情報21を互いに類似するものとして類似関係情報36に記憶しておいてもよい。
制御部6は、メイン制御部41と、動画像データ17から人物の顔の特徴を抽出する特徴抽出部42と、上記顔の特徴と一致する特徴情報21を抽出する一致情報抽出部43と、特徴情報21の適用範囲を指定する抽出対象指定部44と、特徴情報21に対応する人物を示す情報を表示部8に表示させる人物情報出力部45とを備えている。
また、制御部6は、複数の特徴情報21が類似するかを判定する類似人物判定部46と、後述の類似人物情報60を表示部8に表示させる類似人物出力部47と、特徴情報21を除外候補に設定する除外候補設定部48と、除外を確定する除外確定設定部49と、時間に関する情報を算出する時間情報算出部51とを備えている。
特徴抽出部42は、動画像データ17から人物の顔の画像部分を特定して動画像データ17に表示されている顔の特徴(上記動画特徴情報)を抽出する。本実施形態において、特徴抽出部42は、顔の特徴点の情報を動画特徴情報として動画像データ17から抽出する。なお、動画像データ17から顔の特徴を抽出するためには、どのような顔認識アルゴリズムを用いてもよい。例えば、前述のように、OpenCV等の既存の画像処理ライブラリを利用してもよい。
本実施形態では、一致情報抽出部43は、人物情報記憶部12に記憶された特徴情報21の中から上記動画特徴情報と一致する特徴情報21を抽出する。一致する特徴情報21の抽出は、例えば、画像の特徴点の情報を用いた画像マッチングによって行う。一致情報抽出部43は、特徴情報21として記憶された顔画像から顔の特徴点を抽出し、抽出した特徴点と、上記動画特徴情報が示す特徴点を比較することによって、動画像データ17から抽出した顔の特徴と一致する特徴情報21を抽出する。
なお、前述の画像マッチングと同様に、どのような画像マッチング判定処理を実行してもよいし、既存の画像処理ライブラリを利用してもよい。
図2においては、説明のため、特定のシリーズの動画像データ17のみにおいて抽出対象となる特徴情報21に指定されたことをチェックマークによって示している。図2の例では、前述のように、適用範囲情報28においてチェックマークが付された個人ID22「000002」の特徴情報21が、特定のシリーズの動画像データ17のみにおいて一致情報抽出部43の抽出対象となる特徴情報21である。
本実施形態において、人物情報出力部45は、除外候補設定部48が除外候補に設定した特徴情報21に対応する人物を示す情報の表示態様を、除外候補に設定されていない特徴情報21に対応する人物を示す情報の表示態様とは異ならせて表示部8に表示させる。
また、類似人物判定部46は、1つの顔の特徴と一致する特徴情報21として、一致情報抽出部43が複数の特徴情報21を抽出した場合には、一致情報抽出部43が抽出した複数の特徴情報21を類似すると判定する。
類似人物出力部47は、一致情報抽出部43が抽出した複数の特徴情報21が類似する場合には、類似する複数の特徴情報21にそれぞれ対応する人物を示す情報を類似人物情報60として表示部8に表示させる。
除外確定設定部49は、除外候補に設定された人物のうち、ユーザの入力によって選択された人物を除外確定に設定する。除外確定に設定された人物は、公開される出演者情報(以下、「公開出演者情報」という。)において、出演者から除外され、除外確定に設定された人物を示す情報は公開されない。
時間情報算出部51は、各人物の出演時間等、各種の時間情報を算出する。
入力部7は、キーボード、マウス等の各種入力手段によって、外部からのデータ等を人物情報表示装置1に入力する。
表示部8は、液晶ディスプレイ、有機ELディスプレイ等の表示画面8aを備え、表示画面に各種の動画、画像、データ、情報等を表示する。
まず、動画像データ17から顔の特徴を特徴抽出部42が抽出する(ステップ1)。ステップ1において、特徴抽出部42は、動画像データ17を動画像記憶部11から読み出す。本実施形態では、動画像記憶部11に複数の動画像データ17が記憶されている場合、そのうちの1つを選択して読み出す。すなわち、図2に示す例では、上記1話〜5話のシリーズ構成動画用動画像データ17aのいずれか1つを読み出す。ここでは、上記1話のシリーズ構成動画用動画像データ17aを読み出す場合を想定して説明する。
本実施形態において、特徴抽出部42は、シリーズ構成動画用動画像データ17aのキーフレームから顔の特徴を抽出する。まず、読み出したシリーズ構成動画用動画像データ17aから特徴抽出部42が複数のキーフレームを抽出する。このとき、メイン制御部41は、各キーフレームのキーフレーム番号も特定する。なお、キーフレーム番号は再生時刻に対応している。
この場合、類似人物判定部46は、予め記憶された類似する人物を示す類似関係情報36に基づいて、一致情報抽出部43が抽出した複数の特徴情報21が類似するかを判定する。
まず、類似人物判定部46は、類似関係記憶部14から類似関係情報36を読み出す。そして、読み出した類似関係情報36に基づいて、ステップ3において抽出された特徴情報21の中に、互いに類似する特徴情報21があるかを類似人物判定部46が判定する。
この2つ目のパターンにおいて、類似人物判定部46は、1つの顔の特徴(動画特徴情報)と一致する特徴情報21として、一致情報抽出部43が複数の特徴情報21を抽出した場合には、一致情報抽出部43が抽出した複数の特徴情報21を類似すると判定する。
この例においては、ステップ3において抽出した特徴情報21と一致した動画特徴情報について、1つの動画特徴情報(1人の顔の特徴)と一致する特徴情報21を一致情報抽出部43がステップ2において複数抽出したかを類似人物判定部46が判定する。複数抽出したと判定された場合には、その複数の特徴情報21が類似するものであると類似人物判定部46が判定する。
1人の顔の特徴に複数の特徴情報21が一致するということは、それらの複数の特徴情報21は1人の顔の特徴とどちらも一致すると判定される程度に互いに類似していると考えられるからである。
類似人物判定部46が1つの動画特徴情報に対して複数抽出された特徴情報21が類似すると判定すると、ステップ3において抽出された特徴情報21に類似人物があると類似人物判定部46が判定したことになる。
図4に示すように、類似人物情報60は、ステップ5において類似していると判定された特徴情報21(顔画像)と、その特徴情報21を識別する個人ID22と、個人ID22に対応付けられた氏名23を含む。類似人物出力部47は、特徴情報21と個人ID22と氏名23とを人物情報記憶部12から読み出し、表示部8の表示画面8aに表示させる。
除外候補設定部48は、除外候補設定入力受付部62を表示部8に表示させる。
除外候補設定入力受付部62は、シリーズ除外候補設定入力受付部62aと、単発除外候補設定入力受付部62bとを備えている。シリーズ除外候補設定入力受付部62aと、単発除外候補設定入力受付部62bは、それぞれ、各特徴情報21に対応付けられて設けられている。
シリーズ除外候補設定入力受付部62aと、単発除外候補設定入力受付部62bは、例えば、チェックボックスを備え、ユーザがチェックボックスをチェックすることにより、対応する特徴情報21を除外候補設定部48がシリーズ除外候補25a又は単発除外候補25bに設定する。
時間情報算出部51は、上記類似人物の表示時間の長さを算出し、表示時間情報63として表示部8に表示させる。例えば、時間情報算出部51は、複数の類似人物の各人物について、それぞれの特徴情報21に一致すると判定された動画特徴情報を動画特徴情報記憶部15からすべて抽出し、それらと対応付けられた各キーフレーム番号を特定する。次いで、特定したキーフレーム番号の数、すなわち、上記動画特徴情報が表示されているキーフレームの数に応じて、特徴情報21に対応する人物の表示時間の長さを時間情報算出部51が算出する。
図4に示す例では、個人ID22「000001」によって識別される特徴情報21に対応する人物の表示時間(出演時間)は10分間であり、個人ID22「139167」によって識別される特徴情報21に対応する人物の表示時間は50分間である。
例えば、時間情報算出部51は、複数の類似人物の各人物について、それぞれの特徴情報21に一致すると判定された動画特徴情報を動画特徴情報記憶部15からすべて抽出し、それらと対応付けられた各キーフレーム番号を特定する。次いで、特定したキーフレーム番号に応じて、各キーフレームの表示時刻を特定することにより、各人物の表示時刻(出演時刻)を特定する。
表示時間比率情報65は、類似人物情報60が示す複数の人物について、それぞれの人物の表示時間の長さの比率(表示時間比率)を示す情報である。
時間情報算出部51は、類似人物の表示時間情報63に基づいて、表示時間比率を算出して表示部8に表示させる。
図4に示す例では、個人ID22「000001」の人物の表示時間情報63によって示される表示時間が10分間であり、個人ID22「139167」の人物の表示時間情報63によって示される表示時間が50分間であるため、時間情報算出部51は、個人ID22「000001」の人物と個人ID22「139167」の人物の表示時間比率(出演時間比率)を1:5と算出している。
例えば、上記表示時間の長さに関する所定の基準として、「上記類似人物の表示時間の長さの合計に対するそれぞれの人物の表示時間の長さの比率が所定の比率以上である」という基準を設定する。
この場合、図4の例では、類似人物情報60が示す個人ID22「000001」の人物と個人ID22「139167」の人物の表示時間の長さの合計に対するそれぞれの人物の表示時間の長さの比率が所定の比率以上である人物を特定する情報を類似人物出力部47が表示部8に表示させる。ここでは、説明のため、上記所定の比率を例えば、30%と設定する。類似人物出力部47は、表示時間比率情報65に基づいて、上記表示時間の長さの比率が30%以上である人物として個人ID22「139167」の人物を特定する。次いで、類似人物出力部47は、表示時間の長さに関する所定の基準を満たす人物を特定する情報として特定標識66(図4の例では、星型のマーク)を個人ID22「139167」の特徴情報21の近傍に表示させ、特定した人物が個人ID22「139167」の人物であることを示している。
ユーザは、除外候補に設定する人物の選択に際して、表示時間情報63、表示時間比率情報65、特定標識66等の表示された各種の情報を参考にすることができる。また、ユーザは、表示時刻情報64に基づいて、類似人物情報60によって示される人物が動画像データ17に表示されている場面に速やかにアクセスし、動画に表示されている人物を確認することができる。
例えば、図4の例では、「類似人物の表示時間の長さの合計に対するそれぞれの人物の表示時間の長さの比率が30%以上である」という基準を満たす人物として、個人ID22「139167」の特徴情報21が特定され、特定標識66が個人ID22「139167」の人物を示す情報に付されている。したがって、個人ID22「139167」の人物の方が個人ID22「000001」の人物よりも出演者である可能性が高いと推測できる。よって、ユーザは、個人ID22「000001」の特徴情報21を除外設定にすることを選択することができる。例えば、図4の例において、個人ID22「000001」の特徴情報21に対応付けられたシリーズ除外候補設定入力受付部62aのチェックボックスをユーザがチェックすると、除外候補設定部48は個人ID22「000001」の特徴情報21をシリーズ除外候補25aに設定し、その設定情報を人物情報記憶部12に記憶する。図2の例では、個人ID22「000001」のシリーズ除外候補25aの欄にチェックが入ることになる。
なお、図3に示すように、ステップ5において類似人物なしと判定された場合には、ステップ6及びステップ7の処理を実行せずにステップ9の処理を実行することになる。
一致情報抽出部43が抽出した特徴情報21に対応する人物を示す情報には除外設定された人物と除外設定されていない人物がどちらも含まれている。したがって、人物情報出力部45は、除外候補設定部48が除外候補に設定した特徴情報21に対応する人物を示す情報と、除外候補に設定されていない特徴情報21に対応する人物を示す情報とを表示部8に表示させることになる。
図5に示すように、出演者確認リスト70は、一致情報抽出部43が抽出した特徴情報21と、その特徴情報21を識別する個人ID22と、個人ID22に対応付けられた氏名23を含む。これらの情報は、一致情報抽出部43が抽出した特徴情報21に対応する人物を示す情報であり、除外候補に設定した特徴情報21に対応する人物を示す情報と、除外候補に設定されていない特徴情報21に対応する人物を示す情報とが含まれている。
また、出演者確認リスト70には、表示時間情報63と、表示時刻情報64とが含まれている。表示時間情報63と表示時刻情報64は、ステップ6において前述した方法と同様の方法により、時間情報算出部51によって算出されて表示部8の表示画面8aに表示される。
除外候補に設定されている特徴情報21の人物には、除外確定入力受付部72と、除外候補解除入力受付部73とが設けられている。除外確定入力受付部72がユーザの入力を受け付けると、対応する特徴情報21を除外確定設定部49が除外確定に設定する。また、除外候補解除入力受付部73がユーザの入力を受け付けると、対応する特徴情報21を除外候補設定部48が除外候補から解除する。除外確定入力受付部72と、除外候補解除入力受付部73は、例えば、チェックボックスを備え、ユーザがチェックボックスをチェックすることにより、ユーザの入力が受け付けられる。
除外候補に設定されていない特徴情報21の人物には、ユーザの選択によって除外候補設定を行うことができるように、除外候補設定入力受付部62が設けられている。
図5の例では、除外候補に設定した特徴情報21に対応する人物を示す情報を特定する禁止標識75を人物情報出力部45が表示画面8aに表示させている。これにより、除外候補設定部48が除外候補に設定した特徴情報21に対応する人物を示す情報の表示態様を、除外候補に設定されていない特徴情報21に対応する人物を示す情報の表示態様とは異ならせている。
図5の例においては、前述のステップ7において、個人ID22「000001」の特徴情報21がシリーズ除外候補25aに設定された場合を想定している。したがって、図5では個人ID22「000001」の特徴情報21に対応する人物を示す情報に禁止標識75が付されている。また、図2を参照して前述したように、個人ID22「000004」の特徴情報21も単発除外候補25bに設定されている。したがって、個人ID22「000004」の特徴情報21に対応する人物を示す情報にも禁止標識75が付されている。
図5の例では、表示時間が長い順に表示させている。したがって、図5の左端に位置する個人ID22「138716」の人物の表示時間(出演時間)が最も長く、右端に位置する個人ID22「000001」の人物の表示時間(出演時間)が最も短い。
例えば、図5の例において、個人ID22「000001」の特徴情報21に対応付けられた除外確定入力受付部72のチェックボックスをユーザがチェックすると、除外確定情報26が入力されたことになる。除外確定設定部49は入力された除外確定情報26に基づいて個人ID22「000001」の特徴情報21を除外確定に設定し、その設定情報を人物情報記憶部12に記憶する。図2の例では、個人ID22「000001」の除外確定の欄にチェックが入ることになる。
例えば、図5の例において、個人ID22「000004」の特徴情報21に対応付けられた除外候補解除入力受付部73のチェックボックスをユーザがチェックすると、除外候補設定部48は個人ID22「000004」の特徴情報21を除外候補から解除し、その情報を人物情報記憶部12に記憶する。図2の例では、個人ID22「000004」の単発除外候補25bの欄のチェックマークが消去されることになる。個人ID22「000004」の特徴情報21が除外候補から解除されると、個人ID22「000004」の特徴情報21(顔画像)の横に表示されている禁止標識75を人物情報出力部45が非表示にする。
このように、表示画面8aに表示された出演者確認リスト70において、ユーザの入力に応じて、除外候補の設定が切り替えられると、各人物を示す情報の表示態様も切り替えられることになる。
ユーザは、除外候補の人物の表示に切り替えられた人物について、前述の除外候補の人物と同様に、除外確定か除外候補解除かを選択してその指示を入力する。
また、顔画像(特徴情報21)の公開が許可されていない場合には、顔画像(特徴情報21)に代えて、公開用画像32をメイン制御部41が人物情報記憶部12から読み出して表示部8に表示させ、公開出演者情報に含めてもよい。
前述のように、同一のシリーズを構成する複数のシリーズ構成動画用動画像データ17aの少なくとも1つにおいてシリーズ除外候補25aに設定された特徴情報21は、同一シリーズを構成する他のシリーズ構成動画用動画像データ17aを対象とする処理において、後述の一致情報抽出部43が抽出する特徴情報21から除外される。
例えば、前述のステップ7において、個人ID22「000001」の特徴情報21がシリーズ除外候補25aに設定され、図5において表示された出演者確認リスト70において除外候補の設定が解除されなかった場合には、個人ID22「000001」の特徴情報21に対するシリーズ除外候補25aの設定は維持される。この場合、他の2話〜5話のシリーズ構成動画用動画像データ17aの処理において、個人ID22「000001」の特徴情報21は、ステップ2における一致情報抽出部43の抽出対象から除外されることになる。
すなわち、抽出対象指定部44が抽出対象となる特徴情報21を指定した場合、抽出対象指定部44が指定した特徴情報21は、特定のシリーズを構成する複数の動画像データ(シリーズ構成動画用動画像データ17a)以外の動画像データ17おいて一致情報抽出部43が抽出する特徴情報21から除外される。
したがって、前述のように、ドラマ「×××××」を構成する1話〜5話のシリーズ構成動画用動画像データ17aの処理が終了すると、それ以後に実行するその他の動画像データ17の処理において、一致情報抽出部43の抽出対象から特徴情報21が除外される。
したがって、人物情報表示装置1によれば、動画像データ17に表示されている人物をより迅速に抽出することができる。
よって、顔の特徴が類似している人物について、誤抽出に該当する可能性がある人物をユーザの入力に応じて選択することにより、誤抽出に該当する可能性がある人物を除外候補に設定することができる。また、誤抽出以外にも、例えば、表示時間(出演時間)が短い等、なんらかの理由で公開出演者情報に含める必要がない人物を除外候補に設定することができる。
したがって、より正確で適切な公開出演者情報を作成することができる。
したがって、一致情報抽出部43が一致するとして抽出した特徴情報21の中には、実際には動画像データ17に表示されていない人物の特徴情報21が存在している可能性も考えられる。よって、正確な公開出演者情報を作成するためには、一致情報抽出部43が抽出した抽出結果に誤りがないかを確認する必要がある。
これに関し、人物情報表示装置1は前述のように、除外候補設定部48を備えており、誤抽出の可能性がある人物の特徴情報21を除外候補設定部48が除外候補に設定することができる。そして、ユーザは、人物情報出力部45によって表示された上記情報(上記例では、出演者確認リスト70)に基づいて、公開出演者情報(不図示)から除外候補に設定された人物を除外するのかどうかを判断することができる。したがって、より正確な上記公開出演者情報を作成することができる。
以上のように、人物情報表示装置1によれば、動画に表示されている人物を示す情報をより早くより正確に提供することができる。
したがって、ユーザは、表示された人物の情報において、どの人物が除外候補に設定されているのかを迅速に直感的に把握することができる。
これにより、同一のシリーズを構成する他の動画について、より迅速な処理を実行することができる。
したがって、特徴情報21が類似するかを類似人物判定部46が迅速に判定することができる。
1つの顔の特徴と一致する特徴情報21が複数抽出された場合、抽出された複数の特徴情報21は誤抽出された特徴情報21を含んでいる可能性がある。
したがって、誤抽出された可能性のある特徴情報21を除外候補に設定することができるため、より正確な公開出演者情報を作成することができる。
これにより、ユーザは類似人物に関する情報を容易に把握することができる。
したがって、ユーザは、類似人物情報60として表示された各人物の表示時間の長さを考慮して、除外候補に設定する人物を選択することができる。
したがって、ユーザは類似人物情報60として表示された人物のうち、表示時間の長さに関する所定の基準を満たす人物を迅速に把握することができる。そして、その情報に基づいて、除外候補に設定する人物を選択することができる。
これにより、ユーザは、一致情報抽出部43が抽出した特徴情報21に対応する複数の人物について、表示時間の長さに基づく差異を迅速に直感的に把握することができる。そして、その情報に基づいて、公開出演者情報から除外する人物を決定することができる。
したがって、所望の特徴情報21の適用範囲を特定のシリーズの動画像データ17に限定することができる。例えば、特定のシリーズの動画において、そのシリーズの動画の役柄に特有の特殊メイク等が顔に施されている場合、その特殊メイク等が顔に施されている状態における顔の特徴情報21を人物情報記憶部12に記憶し、そのシリーズのシリーズ構成動画用動画像データ17aについてのみ抽出対象となる特徴情報21に設定することができる。
図6に、第2の実施形態に係る人物情報表示装置100の機能ブロック図を示す。人物情報表示装置100の各機能部の一部は、第1の実施形態に係る人物情報表示装置1と同様である。ここでは、主として、前述した第1の実施形態と異なる点について説明する。図6において、第1の実施形態と同様の構成要素には、同じ符号を付している。
アップ度算出部152は、動画像データ17のフレーム(この例では、キーフレーム)に占める人物の顔の面積の比率であるアップ度を算出する。また、アップ度算出部152は、アップ度に基づく情報を表示部8に表示させる。
人物情報表示装置100は、前述の図3のフローチャートに示す処理のうち、ステップ6の処理において、人物情報表示装置1と異なる処理を実行する。その他のステップ(ステップ1〜ステップ5,ステップ7及びステップ9)における処理は、人物情報表示装置1について前述した処理と同様である。ここでは、主として人物情報表示装置1と異なる処理について説明する。
ステップ5において類似人物判定部46が類似人物ありと判定した場合には、類似する複数の特徴情報21にそれぞれ対応する人物(類似人物)を示す情報を類似人物情報60として類似人物出力部47が表示部8に表示させる(ステップ6)。
図7に個人ID22「000003」の人物と個人ID22「587695」の人物が類似人物である場合の類似人物情報60を示す。図7に示すように、類似人物情報60は、ステップ5において類似していると判定された特徴情報21と、その特徴情報21を識別する個人IDと、個人IDに対応付けられた氏名23を含む。また、類似人物情報60と共に、除外候補設定入力受付部62が表示部8の表示画面8aに表示される。類似人物情報60及び除外候補設定入力受付部62の表示及び構成については、人物情報表示装置1について前述したものと同様である。
アップ場面とは、動画像データ17において人物の顔がアップに表示(大きく表示)されている場面である。この例では、アップ度が所定の閾値以上であるキーフレームをアップ場面としている。
アップ度算出部152は、アップ度を算出する。まず、アップ度算出部152は、複数の類似人物の各人物について、それぞれの特徴情報21に一致すると判定された動画特徴情報を動画特徴情報記憶部15からすべて抽出し、それぞれの動画特徴情報に対応する顔の画像部分の面積を特定する。次いで、顔の画像部分の面積(顔の面積)がキーフレームの面積に占める比率をアップ度として算出する。
また、アップ度算出部152は、類似人物情報60が示す複数の人物について、それぞれの人物のアップ場面合計時間163aの比率を算出し、アップ場面合計時間比率163bとして表示画面8aに表示させる。
また、この例では、アップ度が所定の閾値以上であるキーフレームのキーフレーム番号をアップ場面キーフレーム番号164としてアップ度算出部152が表示画面8aに表示させる。上記キーフレーム番号については、アップ度を算出する際に読み出された上記動画特徴情報と共に、動画特徴情報記憶部15からアップ度算出部152によって読み出されている。
なお、キーフレーム番号に代えて、キーフレーム番号と対応付けられたキーフレームの再生時刻を表示画面8aに表示させてもよい。
この場合、個人ID22「587695」の人物のアップ場面合計時間163aの方が、個人ID22「000003」の人物のアップ場面合計時間163aよりも長いため、類似人物出力部47が個人ID22「587695」の人物を特定する情報を表示画面8aに表示させる。
この例では、類似人物出力部47は、特定した人物を示す情報として特定標識166(図7の例では、星型のマーク)を個人ID22「587695」の特徴情報21の近傍に表示させ、特定した人物が個人ID22「587695」の人物であることを示している。
ステップ6において類似人物情報60等が表示部8に表示されると、除外候補設定入力受付部62がユーザの入力を受け付ける(ステップ7)。ステップ7の処理は、第1の実施形態と同様であるため、説明を省略する。なお、ステップ7においてユーザは、アップ場面キーフレーム番号164に基づいて、類似人物情報60によって示される人物が所定の閾値以上のアップ度で表示されている場面に速やかにアクセスし、動画像データ17に表示されている人物を確認することができる。
また、図7の例では、「類似人物のうち最もアップ場面合計時間163aが長い」という基準を満たす人物として、個人ID22「587695」の特徴情報21が特定され、特定標識166が個人ID22「587695」の人物を示す情報に付されている。したがって、個人ID22「587695」の人物の方が個人ID22「000003」の人物よりも出演者である可能性が高いと推測できる。よって、ユーザは、例えば、個人ID22「000003」の特徴情報21を除外設定にすることを選択することができる。
なお、前述した図5の例では、出演者確認リスト70において、一致情報抽出部43が抽出した特徴情報21に対応する人物を示す情報を、表示時間が長い順に人物情報出力部45が表示部8に表示させている。
この表示順に関し、本実施形態においては、アップ度に基づく順序を採用してもよい。一例として、人物情報出力部45は、一致情報抽出部43が抽出した特徴情報21に対応する人物を示す情報を、アップ度算出部152が算出したアップ度に基づく順序で表示部8に表示させる。例えば、一致情報抽出部43が抽出した特徴情報21に対応する人物を示す情報を、アップ度を用いて算出したアップ場面合計時間163aが長い順に表示させてもよい。
例えば、動画像データ17における各人物の表示時間の長さが長く、且つ、アップ度を用いて算出した各人物のアップ場面合計時間163aが長い順に表示させる場合、各人物の表示時間の長さとアップ場面合計時間163aの長さを標準化して、総合順位を算出し、総合順位の順に表示させてもよい。なお、総合順位の算出の際には、各人物の表示時間の長さとアップ場面合計時間163aの長さのそれぞれに所望の重み付けを行ってもよい。
また、各人物について、表示時間の長さとアップ場面合計時間163aの長さとをそれぞれ別個に順位付け、その順位の合計に基づいて総合順位を算出し、総合順位の順に表示させてもよい。
したがって、ユーザは、類似人物情報60として表示された各人物のアップ度を考慮して、除外候補に設定する人物を選択することができる。
例えば、アップ場面合計時間163aが長い方が、人物の顔がアップに表示されている度合が高いと推測することができる。したがって、除外候補に設定する人物を選択する際の指標として、アップ場面合計時間163aとアップ場面合計時間比率163bを用いることができる。
したがって、ユーザは類似人物情報60として表示された人物のうち、アップ度に関する所定の基準を満たす人物を迅速に把握することができる。そして、その情報に基づいて、除外候補に設定する人物を選択することができる。
これにより、ユーザは、一致情報抽出部43が抽出した特徴情報21に対応する複数の人物について、アップ度に基づく差異を迅速に直感的に把握することができる。そして、その情報に基づいて、公開出演者情報から除外する人物を決定することができる。
これにより、ユーザは、一致情報抽出部43が抽出した特徴情報21に対応する複数の人物について、表示時間の長さ及びアップ度に基づく差異を迅速に直感的に把握することができる。そして、その情報に基づいて、公開出演者情報から除外する人物を決定することができる。
第3の実施形態に係る人物情報表示装置の構成は、図1に示す第1の実施形態に係る人物情報表示装置1の構成と同様である。したがって、第1の実施形態と同様の構成要素及び符号を用いて説明する。
前述のように第1の実施形態において、除外候補設定部48は、類似人物について、ユーザの入力に応じて選択された特徴情報21を除外候補に設定している。しかしながら、以下に説明する第3の実施形態において、除外候補設定部48は、類似人物について、所定の基準に応じて自動的に選択された特徴情報21を除外候補に設定している。
ここでは、主として、前述した第1の実施形態と異なる点について説明する。
人物情報表示装置1は、第1の実施形態と同様に、ステップ1〜ステップ5の処理を実行する。ステップ1〜ステップ5の処理は、第1の実施形態と同様であるため、説明を省略する。
例えば、除外候補設定部48は、類似人物のうち、動画像データ17における表示時間の長さに関する所定の基準を満たす人物に対応する特徴情報21を選択して、除外候補に設定する。
この場合、第1の実施形態と同様に、図4に例示した個人ID22「000001」の人物と個人ID22「139167」の人物が類似人物であるとすると、類似人物情報60が示す個人ID22「000001」の人物と個人ID22「139167」の人物の表示時間の長さの合計に対するそれぞれの人物の表示時間の長さの比率が所定の比率以下である人物の特徴情報21を除外候補設定部48が除外候補に設定する。
ここでは、説明のため、上記所定の比率を例えば、20%と設定する。除外候補設定部48は、表示時間比率情報65に基づいて、上記表示時間の長さの比率が20%以下である個人ID22「000001」の人物の特徴情報21を選択し、個人ID22「000001」の特徴情報21を除外候補に設定する。
第1の実施形態と異なり、ステップ16の段階では、類似人物情報60は表示部8の表示画面8aに表示されない。したがって、第3の実施形態においては、図4に例示した表示は表示されない。
第1の実施形態におけるステップ9の処理と異なる点は、一致情報抽出部43が抽出した特徴情報21に対応する人物を示す情報を人物情報出力部45が表示部8に表示させると共に、類似人物出力部47が、上記類似人物を示す情報を類似人物情報260として表示部8に表示させることである。
したがって、図9に示すように、表示画面8aに表示される出演者確認リスト270には、人物情報出力部45が表示させた上記人物を示す情報と、類似人物出力部47が表示させた類似人物情報260が共に表示されることになる。
なお、図9の例では、類似人物情報260は、一致情報抽出部43が抽出した特徴情報21に対応する人物を示す情報と重複するため、類似人物情報260を類似人物出力部47によって表示させてもよいし、人物情報出力部45によって表示させてもよい。
また、第1の実施形態と同様に、除外候補に設定した特徴情報21に対応する人物を示す情報を特定する禁止標識75を人物情報出力部45が表示画面8aに表示させる。
なお、ステップ16におけるその他の処理に関しては、第1の実施形態におけるステップ9の処理と同様である。
よって、顔の特徴が類似している人物について、誤抽出に該当する可能性がある人物を選択するための所定の基準を設定することにより、誤抽出に該当する可能性がある人物を除外候補に設定することができる。また、誤抽出以外にも、例えば、表示時間(出演時間)が短い等、なんらかの理由で公開出演者情報に含める必要がない人物を除外候補に設定することができる。
したがって、より正確で適切な公開出演者情報を作成することができる。また、除外候補に設定する特徴情報21を所定の基準に応じて選択することにより、除外候補の設定をより迅速に行うことができる。
したがって、表示時間の長さを考慮して除外候補の設定を行うことができる。
第4の実施形態に係る人物情報表示装置の構成は、図6に示す第2の実施形態に係る人物情報表示装置100の構成と同様である。したがって、第2の実施形態と同様の構成要素及び符号を用いて説明する。
また、第4の実施形態に係る人物情報表示装置100は、第3の実施形態において説明した図8のフローチャートに示す処理と同様の処理を実行する。第3の実施形態のステップ16においては、表示時間の長さに関する基準を設定した場合の態様について説明しているが、第4の実施形態では、アップ度に関する基準を設定した場合のステップ16の処理について説明する。
ここでは、主として第2の実施形態及び第3の実施形態と異なる点について説明する。
例えば、除外候補設定部48は、アップ度算出部152が算出したアップ度に関する所定の基準を満たす人物に対応する特徴情報21を選択して、除外候補に設定する。
ここでは、「類似人物のうち最もアップ場面合計時間163aが短い」という基準を用いた場合について説明する。なお、アップ度及びアップ場面合計時間163aの算出方法については第2の実施形態において前述しているので説明を省略する。
この場合、第2の実施形態と同様に、図7に例示した個人ID22「000003」の人物と個人ID22「587695」の人物が類似人物であるとすると、個人ID22「000003」の人物のアップ場面合計時間163aの方が個人ID22「587695」の人物のアップ場面合計時間163aよりも短いため、除外候補設定部48は、個人ID22「000003」の人物の特徴情報21を選択し、個人ID22「000003」の特徴情報21を除外候補に設定する。
なお、上記アップ度に関する所定の基準は、どのような基準でもよく、例えば、「アップ場面合計時間比率163bが所定の閾値以下である」という基準でもよい。また、第3の実施形態と同様に、ステップ16の段階では、類似人物情報60は表示部8の表示画面8aに表示されない。したがって、第4の実施形態においては、図7に例示した表示は表示されない。
なお、前述のように、個人ID22「000003」の人物と個人ID22「587695」の人物が類似人物である場合、出演者確認リスト270には、個人ID22「000003」の人物と個人ID22「587695」の人物が含まれることになる。この場合、個人ID22「000003」の人物と個人ID22「587695」の人物に関する情報は、図9に表示された個人ID22「139167」の人物と個人ID22「000001」の人物に関する情報と同様に、類似人物情報260として表示される。
また、図9に表示された類似人物情報260と同様に、類似人物を特定する特定標識272として、個人ID22「000003」の特徴情報21(顔画像)と個人ID22「587695」の特徴情報21(顔画像)を囲む太枠が表示される。
したがって、アップ度を考慮して除外候補の設定を行うことができる。
第5の実施形態に係る人物情報表示装置の構成は、図6に示す第2の実施形態に係る人物情報表示装置100の構成と同様である。したがって、第2の実施形態と同様の構成要素及び符号を用いて説明する。
前述の第3の実施形態及び第4の実施形態では、ステップ5において類似人物があるかを判定してから、ステップ16において類似人物について、所定の基準に応じて選択された特徴情報21を除外候補設定部48が除外候補に設定している。
これに対して、第5の実施形態では、所定の基準に応じて選択された特徴情報21を除外候補設定部48が除外候補に設定してしてから、類似人物があるかの判定を行う態様について説明する。
ここでは、主として既述の各実施形態と異なる点について説明する。
第5の実施形態に係る人物情報表示装置100は、図10のフローチャートに示す処理を実行する。図10に示すステップ1及びステップ2の処理は、第1の実施形態において図3を参照して説明した処理と同様であるため、説明を省略する。
例えば、第3の実施形態において前述したように、動画像データ17における表示時間の長さに関する所定の基準を満たす人物に対応する特徴情報21を除外候補設定部48が選択して除外候補に設定してもよい。なお、上記表示時間の長さの算出方法については第1の実施形態において前述しているので説明を省略する。
一例として、「表示時間の長さが所定の長さ以下である」という基準を設定した場合、表示時間の長さが所定の長さ以下の人物の特徴情報21を除外候補設定部48が除外候補に設定する。
例えば、「アップ場面合計時間比率163bが所定の閾値以下である」という基準を設定した場合、アップ場面合計時間比率163bが所定の閾値以下である人物の特徴情報21を除外候補設定部48が除外候補に設定する。この場合、例えば、一致情報抽出部43が抽出した特徴情報21に対応するすべての人物について、それぞれの人物のアップ場面合計時間比率163bをアップ度算出部152が算出する。なお、アップ場面合計時間比率163bの算出方法については、第2の実施形態において前述しているので説明を省略する。
なお、本実施形態では、除外候補に設定した特徴情報21を除外せずに、ステップ27において抽出された特徴情報21に類似人物があるかを類似人物判定部46が判定している。
この場合、類似人物情報60の表示画面8aにおいて、除外候補解除入力受付部73がユーザの入力を受け付け、除外候補の設定を解除できるように構成してもよい。
また、他の例として、ステップ28において類似人物情報60を表示部8に表示させないで後述のステップ29の処理に進んでもよい。
したがって、より迅速に除外候補の設定を実行することができる。
一例として、動画像データ17全体の長さに比べて表示時間の長さが極めて短い(例えば、2時間ドラマの動画像データ17において10秒等)人物は、特徴情報21が誤抽出された人物である可能性が考えられる。また、誤抽出でない場合であっても、エキストラ等、公開出演者情報に掲載する必要のない人物である可能性がある。同様に、アップ度を用いて算出されたアップ場面合計時間163aが他と比べて極めて短い人物も誤抽出された人物又は公開出演者情報に掲載する必要のない人物である可能性がある。したがって、上記所定の基準として、例えば、表示時間の長さ又はアップ度に関する基準を用いて、除外候補の設定を行うことができる。
第6の実施形態に係る人物情報表示装置は、既述の実施形態における制御部6,106が不一致特徴出力部(不図示)を備えるように構成されたものである。
不一致特徴出力部は、特徴抽出部42が抽出した顔の特徴(動画特徴情報)のうち特徴情報21と一致しなかった動画特徴情報に対応する顔の画像を、動画像データ17から切り出して表示部8に表示させる。
例えば、不一致特徴出力部は、上記の一致しなかった動画特徴情報を動画特徴情報記憶部15からすべて抽出し、それぞれの動画特徴情報に対応する顔の画像を動画像データ17から切り出して、切り出した顔の画像を表示部8の表示画面8aに表示させる。
これにより、一致情報抽出部43が一致する特徴情報21を抽出しなかった人物の顔をユーザが把握することができる。
上記の一致しなかった動画特徴情報に対応する人物が記憶された特徴情報21に含まれていない人物であるとユーザが判断した場合、入力部7を介したユーザの入力に応じて、上記の切り出した顔の画像を当該人物の顔の特徴情報21としてメイン制御部41が人物情報記憶部12に記憶し、その特徴情報21を識別する識別子(個人ID22)を割り当てる。また、ユーザが入力した氏名23等の当該人物に関する情報をメイン制御部41が上記個人ID22及び特徴情報21と対応付けて人物情報記憶部12に記憶する。すなわち、図2に示す人物情報20に新しいレコードが追加されることになる。
この場合、人物情報出力部45が新たに追加された人物に関する情報を出演者確認リスト70,270に表示させるように構成してもよい。すなわち、不一致特徴出力部が表示部8に表示させた上記画像に対応する人物を示す情報を人物情報出力部45が表示部8に表示させるように構成してもよい。
また、アニメの登場人物の顔画像を、その登場人物の声優をしている人物の特徴情報21として追加登録しておくこともできる。
これにより、ユーザは新しい特徴情報21を追加しようとする人物と似た人物を把握することができる。したがって、新しい特徴情報21を似た人物に誤って対応付けないようにユーザに注意喚起することができる。
また、新しい特徴情報21を人物情報記憶部12に記憶する際に、前述の抽出対象指定部44による特徴情報21の指定を実行し、新しい特徴情報21が特定のシリーズの動画像データ17においてのみ抽出対象となるように設定してもよい。
以上、本発明の実施形態について述べたが、本発明は既述の実施形態に限定されるものではなく、各種の変形及び変更が可能である。
例えば、既述の実施形態では、人物情報出力部45は、除外候補設定部48が除外候補に設定した特徴情報21に対応する人物を示す情報の表示態様を、除外候補に設定されていない特徴情報21に対応する人物を示す情報の表示態様とは異ならせて表示部8に表示させているが、これらの情報を同一の表示態様で表示部8に表示させるように構成してもよい。
また、図5及び図9の例では、除外候補設定部48が除外候補に設定した特徴情報21に対応する人物を示す情報と、除外候補に設定されていない特徴情報21に対応する人物を示す情報とを同一画面に表示しているが、これらの情報を切り分けて、それぞれ別の画面に表示するように構成してもよい。
例えば、除外候補に設定した特徴情報21に対応する人物の顔画像を白黒表示し、除外候補に設定していない特徴情報21に対応する人物の顔画像をカラーで表示してもよい。
また、除外候補に設定されていない特徴情報21に対応する人物を示す情報に「出演している」等の文字情報を表示してもよいし、除外候補に設定されている特徴情報21に対応する人物を示す情報に「除外候補」等の文字情報を表示してもよい。
また、除外候補に設定した特徴情報21に対応する人物を示す情報と、除外候補に設定していない特徴情報21に対応する人物を示す情報をそれぞれ別のウィンドウに表示させ、除外候補に設定した特徴情報21に対応する人物を示す情報を特定する標識、文字等を除外候補に設定した特徴情報21に対応する人物を示す情報と同じウィンドウに表示させてもよい。
以上のように、除外候補に設定した特徴情報21に対応する人物を示す情報と、除外候補に設定されていない特徴情報21に対応する人物を示す情報をユーザが区別して視認できるどのような表示態様を採用してもよい。
例えば、アップ度に関する所定の基準と、動画像データ17における表示時間の長さに関する所定の基準とをどちらも用いて、前述の各処理を実行してもよい。この場合、例えば、アップ度に関する所定の基準と上記表示時間の長さに関する所定の基準とのどちらの基準をも満たす人物の特徴情報を除外候補に設定してもよい。
また、既述の実施形態の類似人物情報60,260又は出演者確認リスト70,270において、アップ度に基づく情報163と表示時間情報63と表示時刻情報64とを表示画面8aに共に表示させてもよい。
既述の実施形態において、類似関係情報36は予め作成されて類似関係記憶部14に記憶されているが、類似関係情報36を予め作成しない方法を採用してもよい。この場合、例えば、一致情報抽出部43が抽出した複数の特徴情報21がそれぞれ互いに類似するかを、類似人物判定部46が画像マッチングにより判定するように構成してもよい。
これにより、ある動画像データ17の処理において、1つの顔の特徴と一致する特徴情報21として抽出された複数の特徴情報21を、他の動画像データ17の処理においても類似人物判定部46によって類似すると判定することができる。
図4及び図7の例では、類似人物として2名の人物を示しているが、2名以上の人物を示す類似人物情報60を表示してもよい。一例として、少なくとも1つの特徴情報21と類似する特徴情報21に対応する人物を示す情報を類似人物情報60として表示してもよい。この場合、例えば、人物Aの特徴情報21に類似する特徴情報21に対応する人物Bと、人物Aの特徴情報21に類似する特徴情報21に対応する人物Cと、人物Aとの3名を示す情報を類似人物情報60として表示してもよい。
また、他の例として、アップ度が所定の閾値以上である連続するキーフレームの表示時間の長さをアップ度算出部152が算出し、アップ度に関する情報163として表示部8に表示させてもよい。また、アップ度に関する所定の基準として上記連続するキーフレームの表示時間の長さを用いた基準を設定してもよい。連続するキーフレームの表示時間の長さは、人物の顔がアップの状態のまま連続して表示されている時間の長さを示している。
また、既述の実施形態においては、シリーズ構成動画用動画像データ17aを処理の対象としているが、シリーズものではない単発の動画の動画像データ17を対象としてもよい。
例えば、ユーザの入力により、除外確定の設定をその出演者確認リスト70,270に対応する動画像データ17aのみに適用させることが選択された場合には、除外確定の設定は、次の動画像データ17aを処理するときには解除されて、除外確定の設定が解除された人物の特徴情報21は一致情報抽出部43の抽出対象となる。
また、ユーザの入力により、除外確定の設定を同一のシリーズの動画像データ17aのすべてに適用させることが選択された場合には、上記同一のシリーズを構成する他の動画像データ17aの処理において、除外確定に設定された人物の特徴情報21が一致情報抽出部43の抽出対象から除外されるように構成してもよい。
また、アニメの動画像データについて、声優の公開出演者情報を作成するために、アニメの登場人物の顔画像を、その登場人物の声優をしている人物の特徴情報21として、人物情報記憶部12に記憶しておいてもよい。
また、特定の団体の記録動画や家族、友人等とのプライベート動画等を処理の対象とする場合には、団体の構成員や家族、友人等の顔画像を特徴情報21として、人物情報記憶部12に記憶しておいてもよい。
公開出演者情報には、どのような情報が含まれていてもよい。例えば、既述した情報に加えて、氏名23等と対応付けられた役名等を公開出演者情報に含めてもよい。
例えば、サーバとして機能するコンピュータに動画像記憶部11と人物情報記憶部12と類似関係記憶部14を設け、上記サーバと通信可能な端末のコンピュータに動画特徴情報記憶部15と制御部6,106に含まれる各機能部を設けてもよい。また、上記サーバと通信可能な端末のコンピュータの表示部8に各種情報を表示するように構成してもよい。
なお、既述の実施形態において、「対応付けられ」とは、直接又は間接的に、各データが関連付けられ又は紐づけられていることを含む。
例えば、人物情報表示装置1,100の機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより各種処理を行ってもよい。なお、ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウェアを含むものとする。
また、「コンピュータシステム」は、WWWシステムを利用している場合であれば、ホームページ提供環境(あるいは表示環境)も含むものとする。
(付記1)
動画像データから人物の顔の特徴を抽出する特徴抽出部と、
予め記憶された複数人の顔の特徴情報の中から、前記特徴抽出部が抽出した前記顔の特徴と一致する前記特徴情報を抽出する一致情報抽出部と、
前記一致情報抽出部が抽出した複数の前記特徴情報が類似する場合には、類似する前記複数の特徴情報のうち、ユーザの入力又は所定の基準に応じて選択された前記特徴情報を除外候補に設定する除外候補設定部と、
前記一致情報抽出部が抽出した前記特徴情報であって前記除外候補設定部が前記除外候補に設定した前記特徴情報に対応する人物を示す情報と、前記一致情報抽出部が抽出した前記特徴情報であって前記除外候補に設定されていない前記特徴情報に対応する人物を示す情報とを前記表示部に表示させる人物情報出力部と
を備える人物情報表示装置。
前記人物情報出力部は、前記一致情報抽出部が抽出した前記特徴情報であって前記除外候補設定部が前記除外候補に設定した前記特徴情報に対応する人物を示す情報の表示態様を、前記一致情報抽出部が抽出した前記特徴情報であって前記除外候補に設定されていない前記特徴情報に対応する人物を示す情報の表示態様とは異ならせて前記表示部に表示させる付記1記載の人物情報表示装置。
同一のシリーズを構成する複数の前記動画像データの少なくとも1つにおいて前記除外候補設定部が前記特徴情報を前記除外候補に設定した場合に、前記除外候補に設定された前記特徴情報は、前記同一のシリーズを構成する他の前記動画像データにおいて前記一致情報抽出部が抽出する前記特徴情報から除外される付記1又は付記2記載の人物情報表示装置。
予め記憶された類似する人物を示す類似関係情報に基づいて、前記一致情報抽出部が抽出した複数の前記特徴情報が類似するかを判定する類似人物判定部をさらに備え、
前記除外候補設定部は、前記類似人物判定部が類似すると判定した前記複数の特徴情報のうち、ユーザの入力又は予め設定された所定の基準に応じて選択された前記特徴情報を除外候補に設定する付記1から付記3のいずれか1つに記載の人物情報表示装置。
1つの前記顔の特徴と一致する前記特徴情報として、前記一致情報抽出部が複数の前記特徴情報を抽出した場合には、前記一致情報抽出部が抽出した前記複数の特徴情報を類似すると判定する類似人物判定部をさらに備え、
前記除外候補設定部は、前記類似人物判定部が類似すると判定した前記複数の特徴情報のうち、ユーザの入力又は予め設定された所定の基準に応じて選択された前記特徴情報を除外候補に設定する付記1から付記4のいずれか1つに記載の人物情報表示装置。
前記一致情報抽出部が抽出した複数の前記特徴情報が類似する場合には、類似する前記複数の特徴情報にそれぞれ対応する人物を示す情報を類似人物情報として前記表示部に表示させる類似人物出力部をさらに備え、
前記除外候補設定部は、前記類似人物出力部が表示させた前記類似人物情報に対応する前記特徴情報のうち、ユーザの入力又は予め設定された所定の基準に応じて選択された前記特徴情報を前記除外候補に設定する付記1から付記5のいずれか1つに記載の人物情報表示装置。
前記類似人物情報が示す複数の人物について、前記動画像データにおける前記人物のそれぞれの表示時間の長さを示す表示時間情報を算出して前記表示部に表示させる時間情報算出部をさらに備える付記6記載の人物情報表示装置。
前記一致情報抽出部が抽出した複数の前記特徴情報が類似する場合には、類似する前記複数の特徴情報にそれぞれ対応する人物を示す情報を類似人物情報として前記表示部に表示させる類似人物出力部をさらに備え、
前記類似人物出力部は、前記類似人物情報が示す複数の前記人物のうち、前記動画像データにおける表示時間の長さに関する所定の基準を満たす人物を特定する情報を前記表示部に表示させる付記1から付記7のいずれか1つに記載の人物情報表示装置。
前記動画像データのフレームに占める前記人物の顔の面積の比率であるアップ度を算出し、算出した前記アップ度に基づく情報を前記表示部に表示させるアップ度算出部をさらに備える付記1から付記8のいずれか1つに記載の人物情報表示装置。
前記一致情報抽出部が抽出した複数の前記特徴情報が類似する場合には、類似する前記複数の特徴情報にそれぞれ対応する人物を示す情報を類似人物情報として前記表示部に表示させる類似人物出力部をさらに備え、
前記類似人物出力部は、前記類似人物情報が示す複数の前記人物のうち、前記アップ度算出部が算出した前記アップ度に関する所定の基準を満たす人物を特定する情報を前記表示部に表示させる付記9記載の人物情報表示装置。
前記除外候補設定部は、前記動画像データにおける表示時間の長さに関する所定の基準を満たす人物に対応する前記特徴情報を選択して、前記除外候補に設定する付記1から付記10のいずれか1つに記載の人物情報表示装置。
前記動画像データのフレームに占める前記人物の顔の面積の比率であるアップ度を算出するアップ度算出部をさらに備え、
前記除外候補設定部は、前記アップ度算出部が算出した前記アップ度に関する所定の基準を満たす人物に対応する前記特徴情報を選択して、前記除外候補に設定する付記1から付記11のいずれか1つに記載の人物情報表示装置。
前記動画像データのフレームに占める前記人物の顔の面積の比率であるアップ度を算出するアップ度算出部をさらに備え、
前記人物情報出力部は、前記一致情報抽出部が抽出した前記特徴情報に対応する人物を示す情報を、前記アップ度算出部が算出した前記アップ度に基づく順序で前記表示部に表示させる付記1から付記12のいずれか1つに記載の人物情報表示装置。
前記動画像データのフレームに占める前記人物の顔の面積の比率であるアップ度を算出するアップ度算出部をさらに備え、
前記人物情報出力部は、前記一致情報抽出部が抽出した前記特徴情報に対応する人物を示す情報を、前記動画像データにおける前記人物の表示時間の長さ及び前記アップ度に基づく順序で前記表示部に表示させる付記1から付記13のいずれか1つに記載の人物情報表示装置。
前記特徴抽出部が抽出した前記顔の特徴のうち前記特徴情報と一致しなかった前記顔の特徴に対応する顔の画像を、前記動画像データから切り出して前記表示部に表示させる不一致特徴出力部をさらに備える付記1から付記14のいずれか1つに記載の人物情報表示装置。
特定のシリーズを構成する複数の前記動画像データについて抽出対象となる前記特徴情報を指定する抽出対象指定部をさらに備え、
前記抽出対象指定部が前記抽出対象となる前記特徴情報を指定した場合、前記抽出対象指定部が指定した前記特徴情報は、前記特定のシリーズを構成する複数の前記動画像データ以外の前記動画像データおいて前記一致情報抽出部が抽出する前記特徴情報から除外される付記1から付記15のいずれか1つに記載の人物情報表示装置。
人物の情報を表示する人物情報表示装置における人物情報表示方法であって、
前記人物情報表示装置の特徴抽出部が、動画像データから人物の顔の特徴を抽出する特徴抽出ステップと、
前記人物情報表示装置の一致情報抽出部が、予め記憶された複数人の顔の特徴情報の中から、前記特徴抽出部が抽出した前記顔の特徴と一致する前記特徴情報を抽出する一致情報抽出ステップと、
前記人物情報表示装置の除外候補設定部が、前記一致情報抽出部が抽出した複数の前記特徴情報が類似する場合には、類似する前記複数の特徴情報のうち、ユーザの入力又は所定の基準に応じて選択された前記特徴情報を除外候補に設定する除外候補設定ステップと、
前記人物情報表示装置の人物情報出力部が、前記一致情報抽出部が抽出した前記特徴情報であって前記除外候補設定部が前記除外候補に設定した前記特徴情報に対応する人物を示す情報と、前記一致情報抽出部が抽出した前記特徴情報であって前記除外候補に設定されていない前記特徴情報に対応する人物を示す情報とを前記表示部に表示させる人物情報出力ステップと
を含む人物情報表示方法。
人物の情報を表示する人物情報表示装置における人物情報表示プログラムであって、
前記人物情報表示装置の特徴抽出部が、動画像データから人物の顔の特徴を抽出する特徴抽出ステップと、
前記人物情報表示装置の一致情報抽出部が、予め記憶された複数人の顔の特徴情報の中から、前記特徴抽出部が抽出した前記顔の特徴と一致する前記特徴情報を抽出する一致情報抽出ステップと、
前記人物情報表示装置の除外候補設定部が、前記一致情報抽出部が抽出した複数の前記特徴情報が類似する場合には、類似する前記複数の特徴情報のうち、ユーザの入力又は所定の基準に応じて選択された前記特徴情報を除外候補に設定する除外候補設定ステップと、
前記人物情報表示装置の人物情報出力部が、前記一致情報抽出部が抽出した前記特徴情報であって前記除外候補設定部が前記除外候補に設定した前記特徴情報に対応する人物を示す情報と、前記一致情報抽出部が抽出した前記特徴情報であって前記除外候補に設定されていない前記特徴情報に対応する人物を示す情報とを前記表示部に表示させる人物情報出力ステップと
を前記人物情報表示装置において実行させる人物情報表示プログラム。
8 表示部
17 動画像データ
17a シリーズ構成動画用動画像データ
21 特徴情報
36 類似関係情報
42 特徴抽出部
43 一致情報抽出部
44 抽出対象指定部
45 人物情報出力部
46 類似人物判定部
47 類似人物出力部
48 除外候補設定部
51 時間情報算出部
152 アップ度算出部
Claims (17)
- 動画像データに表示されている人物に関する情報である出演者情報を作成するために人物の情報を表示する人物情報表示装置であって、
前記動画像データから人物の顔の特徴を抽出する特徴抽出部と、
予め記憶された複数人の顔の特徴情報の中から、前記特徴抽出部が抽出した前記顔の特徴と一致する前記特徴情報を抽出する一致情報抽出部と、
前記一致情報抽出部が抽出した複数の前記特徴情報のうち、互いに類似する特徴情報がある場合には、前記互いに類似する特徴情報のうち、ユーザの入力又は所定の基準に応じて選択された前記特徴情報を、前記出演者情報から除外される人物の候補である除外候補に設定する除外候補設定部と、
前記一致情報抽出部が抽出した前記特徴情報であって前記除外候補設定部が前記除外候補に設定した前記特徴情報に対応する人物を示す情報と、前記一致情報抽出部が抽出した前記特徴情報であって前記除外候補に設定されていない前記特徴情報に対応する人物を示す情報とを表示部に表示させる人物情報出力部と
を備え、
前記人物情報出力部は、前記一致情報抽出部が抽出した前記特徴情報であって前記除外候補設定部が前記除外候補に設定した前記特徴情報に対応する人物を示す情報の表示態様を、前記一致情報抽出部が抽出した前記特徴情報であって前記除外候補に設定されていない前記特徴情報に対応する人物を示す情報の表示態様とは異ならせて前記表示部に表示させる人物情報表示装置。 - 同一のシリーズを構成する複数の前記動画像データの少なくとも1つにおいて前記除外候補設定部が前記特徴情報を前記除外候補に設定した場合に、前記除外候補に設定された前記特徴情報は、前記同一のシリーズを構成する他の前記動画像データにおいて前記一致情報抽出部が抽出する前記特徴情報から除外される請求項1記載の人物情報表示装置。
- 予め記憶された互いに類似する人物を示す類似関係情報に基づいて、前記一致情報抽出部が抽出した複数の前記特徴情報のうち、互いに類似する特徴情報があるかを判定する類似人物判定部をさらに備え、
前記除外候補設定部は、前記類似人物判定部が互いに類似する特徴情報があると判定した場合には、前記互いに類似する特徴情報のうち、ユーザの入力又は予め設定された所定の基準に応じて選択された前記特徴情報を前記除外候補に設定する請求項1又は請求項2記載の人物情報表示装置。 - 1つの前記顔の特徴と一致する前記特徴情報として、前記一致情報抽出部が複数の前記特徴情報を抽出した場合には、前記一致情報抽出部が抽出した前記複数の特徴情報が互いに類似すると判定する類似人物判定部をさらに備え、
前記除外候補設定部は、前記類似人物判定部が互いに類似すると判定した前記複数の特徴情報のうち、ユーザの入力又は予め設定された所定の基準に応じて選択された前記特徴情報を前記除外候補に設定する請求項1から請求項3のいずれか1項記載の人物情報表示装置。 - 前記一致情報抽出部が抽出した複数の前記特徴情報のうち、互いに類似する特徴情報がある場合には、前記互いに類似する特徴情報にそれぞれ対応する人物を示す情報を類似人物情報として前記表示部に表示させる類似人物出力部をさらに備え、
前記除外候補設定部は、前記類似人物出力部が表示させた前記類似人物情報に対応する前記特徴情報のうち、ユーザの入力又は予め設定された所定の基準に応じて選択された前記特徴情報を前記除外候補に設定する請求項1から請求項4のいずれか1項記載の人物情報表示装置。 - 前記類似人物情報が示す複数の人物について、前記動画像データにおける前記人物のそれぞれの表示時間の長さを示す表示時間情報を算出して前記表示部に表示させる時間情報算出部をさらに備える請求項5記載の人物情報表示装置。
- 前記一致情報抽出部が抽出した複数の前記特徴情報のうち、互いに類似する特徴情報がある場合には、前記互いに類似する特徴情報にそれぞれ対応する人物を示す情報を類似人物情報として前記表示部に表示させる類似人物出力部をさらに備え、
前記類似人物出力部は、前記類似人物情報が示す複数の前記人物のうち、前記動画像データにおける表示時間の長さに関する所定の基準を満たす人物を特定する情報を前記表示部に表示させる請求項1から請求項6のいずれか1項記載の人物情報表示装置。 - 前記動画像データのフレームに占める前記人物の顔の面積の比率であるアップ度を算出し、算出した前記アップ度に基づく情報を前記表示部に表示させるアップ度算出部をさらに備える請求項1から請求項7のいずれか1項記載の人物情報表示装置。
- 前記一致情報抽出部が抽出した複数の前記特徴情報のうち、互いに類似する特徴情報がある場合には、前記互いに類似する特徴情報にそれぞれ対応する人物を示す情報を類似人物情報として前記表示部に表示させる類似人物出力部をさらに備え、
前記類似人物出力部は、前記類似人物情報が示す複数の前記人物のうち、前記アップ度算出部が算出した前記アップ度に関する所定の基準を満たす人物を特定する情報を前記表示部に表示させる請求項8記載の人物情報表示装置。 - 前記除外候補設定部は、前記動画像データにおける表示時間の長さに関する所定の基準を満たす人物に対応する前記特徴情報を選択して、前記除外候補に設定する請求項1から請求項9のいずれか1項記載の人物情報表示装置。
- 前記動画像データのフレームに占める前記人物の顔の面積の比率であるアップ度を算出するアップ度算出部をさらに備え、
前記除外候補設定部は、前記アップ度算出部が算出した前記アップ度に関する所定の基準を満たす人物に対応する前記特徴情報を選択して、前記除外候補に設定する請求項1から請求項10のいずれか1項記載の人物情報表示装置。 - 前記動画像データのフレームに占める前記人物の顔の面積の比率であるアップ度を算出するアップ度算出部をさらに備え、
前記人物情報出力部は、前記一致情報抽出部が抽出した前記特徴情報に対応する人物を示す情報を、前記アップ度算出部が算出した前記アップ度に基づく順序で前記表示部に表示させる請求項1から請求項11のいずれか1項記載の人物情報表示装置。 - 前記動画像データのフレームに占める前記人物の顔の面積の比率であるアップ度を算出するアップ度算出部をさらに備え、
前記人物情報出力部は、前記一致情報抽出部が抽出した前記特徴情報に対応する人物を示す情報を、前記動画像データにおける前記人物の表示時間の長さ及び前記アップ度に基づく順序で前記表示部に表示させる請求項1から請求項12のいずれか1項記載の人物情報表示装置。 - 前記特徴抽出部が抽出した前記顔の特徴のうち前記特徴情報と一致しなかった前記顔の特徴に対応する顔の画像を、前記動画像データから切り出して前記表示部に表示させる不一致特徴出力部をさらに備える請求項1から請求項13のいずれか1項記載の人物情報表示装置。
- 特定のシリーズを構成する複数の前記動画像データについて抽出対象となる前記特徴情報を指定する抽出対象指定部をさらに備え、
前記抽出対象指定部が前記抽出対象となる前記特徴情報を指定した場合、前記抽出対象指定部が指定した前記特徴情報は、前記特定のシリーズを構成する複数の前記動画像データ以外の前記動画像データおいて前記一致情報抽出部が抽出する前記特徴情報から除外される請求項1から請求項14のいずれか1項記載の人物情報表示装置。 - 動画像データに表示されている人物に関する情報である出演者情報を作成するために人物の情報を表示する人物情報表示装置における人物情報表示方法であって、
前記人物情報表示装置の特徴抽出部が、前記動画像データから人物の顔の特徴を抽出する特徴抽出ステップと、
前記人物情報表示装置の一致情報抽出部が、予め記憶された複数人の顔の特徴情報の中から、前記特徴抽出部が抽出した前記顔の特徴と一致する前記特徴情報を抽出する一致情報抽出ステップと、
前記人物情報表示装置の除外候補設定部が、前記一致情報抽出部が抽出した複数の前記特徴情報のうち、互いに類似する特徴情報がある場合には、前記互いに類似する特徴情報のうち、ユーザの入力又は所定の基準に応じて選択された前記特徴情報を、前記出演者情報から除外される人物の候補である除外候補に設定する除外候補設定ステップと、
前記人物情報表示装置の人物情報出力部が、前記一致情報抽出部が抽出した前記特徴情報であって前記除外候補設定部が前記除外候補に設定した前記特徴情報に対応する人物を示す情報と、前記一致情報抽出部が抽出した前記特徴情報であって前記除外候補に設定されていない前記特徴情報に対応する人物を示す情報とを表示部に表示させる人物情報出力ステップと
を含み、
前記人物情報出力ステップにおいて、前記人物情報出力部は、前記一致情報抽出部が抽出した前記特徴情報であって前記除外候補設定部が前記除外候補に設定した前記特徴情報に対応する人物を示す情報の表示態様を、前記一致情報抽出部が抽出した前記特徴情報であって前記除外候補に設定されていない前記特徴情報に対応する人物を示す情報の表示態様とは異ならせて前記表示部に表示させる人物情報表示方法。 - 動画像データに表示されている人物に関する情報である出演者情報を作成するために人物の情報を表示する人物情報表示装置における人物情報表示プログラムであって、
前記人物情報表示装置の特徴抽出部が、前記動画像データから人物の顔の特徴を抽出する特徴抽出ステップと、
前記人物情報表示装置の一致情報抽出部が、予め記憶された複数人の顔の特徴情報の中から、前記特徴抽出部が抽出した前記顔の特徴と一致する前記特徴情報を抽出する一致情報抽出ステップと、
前記人物情報表示装置の除外候補設定部が、前記一致情報抽出部が抽出した複数の前記特徴情報のうち、互いに類似する特徴情報がある場合には、前記互いに類似する特徴情報のうち、ユーザの入力又は所定の基準に応じて選択された前記特徴情報を、前記出演者情報から除外される人物の候補である除外候補に設定する除外候補設定ステップと、
前記人物情報表示装置の人物情報出力部が、前記一致情報抽出部が抽出した前記特徴情報であって前記除外候補設定部が前記除外候補に設定した前記特徴情報に対応する人物を示す情報と、前記一致情報抽出部が抽出した前記特徴情報であって前記除外候補に設定されていない前記特徴情報に対応する人物を示す情報とを表示部に表示させる人物情報出力ステップと
を前記人物情報表示装置において実行させ、
前記人物情報出力ステップにおいて、前記人物情報出力部は、前記一致情報抽出部が抽出した前記特徴情報であって前記除外候補設定部が前記除外候補に設定した前記特徴情報に対応する人物を示す情報の表示態様を、前記一致情報抽出部が抽出した前記特徴情報であって前記除外候補に設定されていない前記特徴情報に対応する人物を示す情報の表示態様とは異ならせて前記表示部に表示させる人物情報表示プログラム。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016255739A JP6161224B1 (ja) | 2016-12-28 | 2016-12-28 | 人物情報表示装置、人物情報表示方法及び人物情報表示プログラム |
PCT/JP2017/043270 WO2018123440A1 (ja) | 2016-12-28 | 2017-12-01 | 人物情報表示装置、人物情報表示方法及び人物情報表示プログラム |
US16/062,691 US10657417B2 (en) | 2016-12-28 | 2017-12-01 | Person information display apparatus, a person information display method, and a person information display program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016255739A JP6161224B1 (ja) | 2016-12-28 | 2016-12-28 | 人物情報表示装置、人物情報表示方法及び人物情報表示プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP6161224B1 true JP6161224B1 (ja) | 2017-07-12 |
JP2018106631A JP2018106631A (ja) | 2018-07-05 |
Family
ID=59308983
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016255739A Active JP6161224B1 (ja) | 2016-12-28 | 2016-12-28 | 人物情報表示装置、人物情報表示方法及び人物情報表示プログラム |
Country Status (3)
Country | Link |
---|---|
US (1) | US10657417B2 (ja) |
JP (1) | JP6161224B1 (ja) |
WO (1) | WO2018123440A1 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7148857B2 (ja) | 2018-06-06 | 2022-10-06 | 日本電気株式会社 | 情報処理システム、情報処理方法及びプログラム |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7197763B2 (ja) * | 2018-07-31 | 2022-12-28 | キヤノンマーケティングジャパン株式会社 | 情報処理装置、処理方法、プログラム |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008257460A (ja) * | 2007-04-04 | 2008-10-23 | Sony Corp | 情報処理装置、情報処理方法、およびプログラム |
JP2009232250A (ja) * | 2008-03-24 | 2009-10-08 | Panasonic Corp | 番組情報表示装置および番組情報表示方法 |
JP2010257449A (ja) * | 2009-03-31 | 2010-11-11 | Sogo Keibi Hosho Co Ltd | 人物検索装置、人物検索方法、及び人物検索プログラム |
JP2013509094A (ja) * | 2009-10-23 | 2013-03-07 | マイクロソフト コーポレーション | ビデオセッションの自動ラベリング |
JP2014086926A (ja) * | 2012-10-24 | 2014-05-12 | Nec Personal Computers Ltd | 情報機器、及びプログラム |
JP2014139733A (ja) * | 2013-01-21 | 2014-07-31 | Sony Corp | 情報処理装置および方法、並びにプログラム |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009076982A (ja) * | 2007-09-18 | 2009-04-09 | Toshiba Corp | 電子機器および顔画像表示方法 |
JP4909856B2 (ja) * | 2007-09-27 | 2012-04-04 | 株式会社東芝 | 電子機器および表示方法 |
JP4909854B2 (ja) * | 2007-09-27 | 2012-04-04 | 株式会社東芝 | 電子機器および表示処理方法 |
JP4496263B2 (ja) | 2008-10-23 | 2010-07-07 | 株式会社東芝 | 情報処理装置およびコンテンツ表示方法 |
JP2010239507A (ja) | 2009-03-31 | 2010-10-21 | Toshiba Corp | 動画処理装置 |
JP2011039797A (ja) | 2009-08-11 | 2011-02-24 | Sony Ericsson Mobile Communications Ab | タイトル自動付加装置、タイトル自動付加方法、タイトル自動付加プログラム、及び携帯端末装置 |
JP2012123676A (ja) | 2010-12-09 | 2012-06-28 | Canon Inc | 個人認証装置 |
KR20130088493A (ko) | 2012-01-31 | 2013-08-08 | 삼성전자주식회사 | Ui 제공 방법 및 이를 적용한 영상 수신 장치 |
JP2014238712A (ja) | 2013-06-07 | 2014-12-18 | 三菱電機株式会社 | コンテンツ分析装置、コンテンツ分析方法及びコンテンツ分析プログラム |
US10339367B2 (en) * | 2016-03-29 | 2019-07-02 | Microsoft Technology Licensing, Llc | Recognizing a face and providing feedback on the face-recognition process |
US10796178B2 (en) * | 2016-12-15 | 2020-10-06 | Beijing Kuangshi Technology Co., Ltd. | Method and device for face liveness detection |
-
2016
- 2016-12-28 JP JP2016255739A patent/JP6161224B1/ja active Active
-
2017
- 2017-12-01 WO PCT/JP2017/043270 patent/WO2018123440A1/ja active Application Filing
- 2017-12-01 US US16/062,691 patent/US10657417B2/en active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008257460A (ja) * | 2007-04-04 | 2008-10-23 | Sony Corp | 情報処理装置、情報処理方法、およびプログラム |
JP2009232250A (ja) * | 2008-03-24 | 2009-10-08 | Panasonic Corp | 番組情報表示装置および番組情報表示方法 |
JP2010257449A (ja) * | 2009-03-31 | 2010-11-11 | Sogo Keibi Hosho Co Ltd | 人物検索装置、人物検索方法、及び人物検索プログラム |
JP2013509094A (ja) * | 2009-10-23 | 2013-03-07 | マイクロソフト コーポレーション | ビデオセッションの自動ラベリング |
JP2014086926A (ja) * | 2012-10-24 | 2014-05-12 | Nec Personal Computers Ltd | 情報機器、及びプログラム |
JP2014139733A (ja) * | 2013-01-21 | 2014-07-31 | Sony Corp | 情報処理装置および方法、並びにプログラム |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7148857B2 (ja) | 2018-06-06 | 2022-10-06 | 日本電気株式会社 | 情報処理システム、情報処理方法及びプログラム |
Also Published As
Publication number | Publication date |
---|---|
US20190236408A1 (en) | 2019-08-01 |
US10657417B2 (en) | 2020-05-19 |
JP2018106631A (ja) | 2018-07-05 |
WO2018123440A1 (ja) | 2018-07-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10423656B2 (en) | Tag suggestions for images on online social networks | |
US10019779B2 (en) | Browsing interface for item counterparts having different scales and lengths | |
JP5358083B2 (ja) | 人物画像検索装置及び画像検索装置 | |
US8285006B2 (en) | Human face recognition and user interface system for digital camera and video camera | |
CN103686344B (zh) | 增强视频系统及方法 | |
US10795560B2 (en) | System and method for detection and visualization of anomalous media events | |
CN106021496A (zh) | 视频搜索方法及视频搜索装置 | |
KR20090024969A (ko) | 컨텐트에서의 등장 인물간의 관계에 대한 정보 생성 방법및 그 장치 | |
US11971927B1 (en) | System and method for contextual data selection from electronic media content | |
JP2018081630A (ja) | 検索装置、検索方法およびプログラム | |
JP6161224B1 (ja) | 人物情報表示装置、人物情報表示方法及び人物情報表示プログラム | |
JP2019003585A (ja) | 要約映像生成装置およびそのプログラム | |
CN108388836A (zh) | 一种用于获取视频语义信息的方法与装置 | |
JP2012194691A (ja) | 識別器の再学習方法、再学習のためのプログラム、及び画像認識装置 | |
JP6588607B2 (ja) | リコメンド装置、リコメンド方法、プログラムおよび記録媒体 | |
Kim et al. | Key Color generation for affective multimedia production: an initial method and its application | |
CN111949813A (zh) | 交友请求方法、装置、计算机设备和存储介质 | |
KR102262702B1 (ko) | 샷 변화패턴을 이용한 동영상 생성 시스템 | |
CN113539234A (zh) | 语音合成方法、装置、系统及存储介质 | |
JP6394463B2 (ja) | 楽曲検索システム、および楽曲検索プログラム | |
US20200188795A1 (en) | Player identification system and method | |
JP2006157688A (ja) | 映像シーンに対する意味ラベル付与方法及び装置及びプログラム | |
JP2015232913A (ja) | 拡張現実装置、方法、及びプログラム | |
JP6376019B2 (ja) | 楽曲リスト生成システム、および楽曲リスト生成プログラム | |
WO2023120263A1 (ja) | 情報処理装置及び情報処理方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20161228 |
|
A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20161228 |
|
A975 | Report on accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A971005 Effective date: 20170307 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20170316 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20170511 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20170609 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20170612 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6161224 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |