JP2017004431A - 顔認識システム、顔認識サーバ及び顔認識方法 - Google Patents

顔認識システム、顔認識サーバ及び顔認識方法 Download PDF

Info

Publication number
JP2017004431A
JP2017004431A JP2015120455A JP2015120455A JP2017004431A JP 2017004431 A JP2017004431 A JP 2017004431A JP 2015120455 A JP2015120455 A JP 2015120455A JP 2015120455 A JP2015120455 A JP 2015120455A JP 2017004431 A JP2017004431 A JP 2017004431A
Authority
JP
Japan
Prior art keywords
face
feature amount
image data
face image
face recognition
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015120455A
Other languages
English (en)
Other versions
JP6573311B2 (ja
Inventor
正茂 常野
Masashige Tsuneno
正茂 常野
馨 鶴海
Kaoru Tsurumi
馨 鶴海
寛夫 齊藤
Norio Saito
寛夫 齊藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Management Co Ltd
Original Assignee
Panasonic Intellectual Property Management Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Management Co Ltd filed Critical Panasonic Intellectual Property Management Co Ltd
Priority to JP2015120455A priority Critical patent/JP6573311B2/ja
Priority to PCT/JP2016/002567 priority patent/WO2016203717A1/ja
Priority to US15/578,920 priority patent/US10592731B2/en
Publication of JP2017004431A publication Critical patent/JP2017004431A/ja
Priority to JP2019143929A priority patent/JP6905653B2/ja
Application granted granted Critical
Publication of JP6573311B2 publication Critical patent/JP6573311B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/52Surveillance or monitoring of activities, e.g. for recognising suspicious objects
    • G06V20/53Recognition of crowd images, e.g. recognition of crowd congestion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/168Feature extraction; Face representation
    • G06V40/171Local features and components; Facial parts ; Occluding parts, e.g. glasses; Geometrical relationships
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/172Classification, e.g. identification
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • General Health & Medical Sciences (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Abstract

【課題】複雑な判断を行うことなく、同一の人物が重複して含まれないように統計処理する。
【解決手段】顔認識サーバ30内の顔特徴量抽出部32は、カメラ装置10によって撮像領域に対して撮像された映像に現れる顔を含む顔画像データの特徴量を抽出する。保存部35は、撮像領域を通過した顔を含む顔画像データの特徴量を事前通過比較元顔特徴量データメモリ41に保存する。統計部37は、カメラ装置10により撮像され、顔特徴量抽出部32により抽出された顔画像データの特徴量に対し、所定値以上に類似度の高い特徴量が、カメラ装置10による撮像時刻より所定時間前までに事前通過比較元顔特徴量データメモリ41に保存されていない場合、顔特徴量抽出部32により抽出された顔画像データの特徴量を統計処理する。
【選択図】図1

Description

本発明は、カメラ装置により撮像された映像を用いて、人物の顔を認識する顔認識システム、顔認識サーバ及び顔認識方法に関する。
従来、店舗内に設定された撮像領域に出現した人物の客層を判定する際、人物の行動形態から分析対象となる顧客であるか否かを判定し、該当しない人物を分析対象から排除することで、店舗に来店した顧客の客層を精度良く分析する客層分析システムが知られている(例えば、特許文献1参照)。
この客層分析システムでは、例えば店舗の出入口の近傍の案内待ちエリアから客席に向かう顧客を正面から撮像するように撮像領域が設定される。客席に向かって移動する行動と異なる行動をとる人物を検出し、その人物を分析対象から排除することで、店員など顧客以外の人物が分析対象に含まれ、同一の顧客が重複して分析対象に含まれることを避ける。
特開2014−232495号公報
しかしながら、特許文献1の構成では、人物が所定の行動形態をとらない場合には、その人物を分析対象から排除できるが、人物が所定の行動形態をとっているか否かを判定するためには、複雑な判断処理が必要であった。
また、人物が所定の行動形態をとっていると判断できた場合でも、同じ人物が所用で店舗の出入口を2回以上往復すると、重複して集計してしまうことが考えられた。また特許文献1の構成では、人物が所定の行動形態をとらない場合には、その人物が分析対象の顧客であっても、分析対象から排除されてしまうことが考えられた。
本発明は、上述した従来の状況に鑑みて案出され、複雑な判断を行うことなく、同一の人物が重複して含まれないように効率的に統計処理できる顔認識システム、顔認識サーバ及び顔認識方法を提供することを目的とする。
本発明は、カメラ装置と顔認識サーバとが接続された顔認識システムであって、前記顔認識サーバは、前記カメラ装置により撮像領域が撮像された映像データを基に、前記映像データに現れる人物の顔を有する顔画像データの特徴量を抽出する特徴量抽出部と、前記特徴量抽出部により抽出された前記顔画像データの特徴量を顔特徴量メモリに保存する保存部と、前記特徴量抽出部により抽出された前記顔画像データの特徴量との間の類似度が所定値以上となる前記顔画像データの特徴量が、前記カメラ装置の撮像時刻より所定時間を超えて前記顔特徴量メモリに保存された場合に、前記特徴量抽出部により抽出された前記顔画像データの特徴量を用いて、統計処理する統計処理部と、を備える、顔認識システムである。
また、本発明は、カメラ装置が接続された顔認識サーバであって、前記カメラ装置により撮像領域が撮像された映像データを基に、前記映像データに現れる人物の顔を有する顔画像データの特徴量を抽出する特徴量抽出部と、前記特徴量抽出部により抽出された前記顔画像データの特徴量を顔特徴量メモリに保存する保存部と、前記特徴量抽出部により抽出された前記顔画像データの特徴量との間の類似度が所定値以上となる前記顔画像データの特徴量が、前記カメラ装置の撮像時刻より所定時間を超えて前記顔特徴量メモリに保存された場合に、前記特徴量抽出部により抽出された前記顔画像データの特徴量を用いて、統計処理する統計処理部と、を備える、顔認識サーバである。
また、本発明は、カメラ装置と顔認識サーバとが接続された顔認識システムにおける顔認識方法であって、前記カメラ装置により撮像領域が撮像された映像データを基に、前記映像データに現れる人物の顔を有する顔画像データの特徴量を抽出する処理と、抽出された前記顔画像データの特徴量を顔特徴量メモリに保存する処理と、抽出された顔画像データの特徴量との間の類似度が所定値以上となる前記顔画像データの特徴量が、前記カメラ装置の撮像時刻より所定時間を超えて前記顔特徴量メモリに保存された場合に、抽出された前記顔画像データの特徴量を用いて、統計処理する処理と、を実行する、顔認識方法である。
本発明によれば、複雑な判断を行うことなく同一の人物が重複して含まれないように統計処理できる。
本実施形態の顔認識システムの内部構成の一例を詳細に示すブロック図 本実施形態の顔認識サーバにおける顔検出処理の動作手順の一例を説明するフローチャート ユーザ端末のディスプレイに表示されるUI画面の一例を示す説明図 本実施形態の変形例の顔認識システムの内部構成の一例を詳細に示すブロック図
以下、適宜図面を参照しながら、本発明に顔認識システム、顔認識サーバ及び顔認識方法を具体的に開示した実施形態(以下、「本実施形態」という)を詳細に説明する。但し、必要以上に詳細な説明は省略する場合がある。例えば、既によく知られた事項の詳細説明や実質的に同一の構成に対する重複説明を省略する場合がある。これは、以下の説明が不必要に冗長になるのを避け、当業者の理解を容易にするためである。なお、添付図面及び以下の説明は、当業者が本開示を十分に理解するために提供されるのであって、これらにより特許請求の範囲に記載の主題を限定することは意図されていない。
図1は、本実施形態の顔認識システム5の内部構成の一例を詳細に示すブロック図である。図1に示す顔認識システム5は、複数台のカメラ装置10、顔認識サーバ30及びユーザ端末60が接続された構成を有する。
各カメラ装置10は、予め設定された店舗内等の所定の場所を撮像領域として撮像する。各カメラ装置10は、撮像された映像に現れる、この撮像領域を通過する人物の顔を含む顔画像データを取得する。各カメラ装置10は、撮像部11、顔検出部12、顔切出し部13及び通信部14を有する。なお、本実施形態のカメラ装置10は、1台であってもよいし、複数台であってもよい。
撮像部は、CCD(電荷結合素子:Charge Couples Device)イメージセンサやCMOS(相補性金属酸化膜半導体:Complementary Metal-Oxide Semiconductor)イメージセンサ等の撮像素子を有し、予め設定された撮像領域から入射する光を受光面に結像し、その光学像を電気信号に変換する。これにより、撮像領域の映像を表す映像データのフレームが得られる。
顔検出部12は、撮像部11によって撮像された映像に含まれる顔を検出する。この顔検出処理は、例えば目、鼻、口等の顔のパーツを検出する方法、肌色を検出する方法、頭髪を検出する方法、首や肩などの部分を検出する方法等、公知の技術を用いて、顔を検出する処理である。また、顔検出処理方法として、統計的学習に基づくパターン認識技術を用いてもよい。
顔切出し部13は、顔検出部12によって検出された顔を含む顔画像データを、撮像部11によって撮像された映像のフレームから切り出す。切り出される顔画像データは、撮像された顔を含む程度の大きさを有する矩形の画像を含むデータである。顔検出部12及び顔切出し部13は、例えばCPU(Central Processing Unit)、MPU(Micro Processing Unit)又はDSP(Digital Signal Processor)等のプロセッサ16によって実行される機能である。プロセッサ16は、例えば内部メモリに記憶されたアプリケーションプログラムを実行することで、顔検出部12及び顔切出し部13の機能を実現する。
通信部14は、有線若しくは無線で顔認識サーバ30と接続され、顔切出し部13によって切り出された顔画像データを顔認識サーバ30に送信する。例えばカメラ装置10がネットワークカメラである場合、通信部14はIP(Internet Protocol)ネットワークを介して顔画像データを送信可能である。
顔認識サーバ30は、各カメラ装置10から受信した顔画像データに含まれる顔を予め登録された顔と照合して認識する。顔認識サーバ30は、通信部31、顔特徴量抽出部32、顔特徴量比較部33、撮像時刻比較部34、保存部35、事前通過比較元顔特徴量データメモリ41及び顔画像データメモリ42を有する。
通信部31は、カメラ装置10から顔画像データを受信し、また、ユーザ端末60からの要求(例えば後述する検索要求)に応じて、当該要求に合致する検索結果(つまり、統計データ)をユーザ端末60に送信する。
特徴量抽出部の一例としての顔特徴量抽出部32は、通信部31が受信した顔画像データから顔の特徴量(以下、単に「顔特徴量」という)を抽出する。顔特徴量抽出処理は、公知の技術を用いて、例えば眼の位置、目と鼻と口の位置関係、しわの寄り方等の特徴量を抽出する処理である。
顔特徴量比較部33は、顔特徴量抽出部32によって抽出された顔特徴量と、事前通過比較元顔特徴量データメモリ41に登録されている顔特徴量とを比較し、これらの類似度が所定値以上に高いか否かを判別する。また、これらの類似度が所定値以上に高くない場合(つまり、類似度が所定値未満である場合)、顔特徴量比較部33は、類似度が低いと判定する。なお、類似度が高いと判定する際の所定値(第1閾値)に対し、類似度が低いと判定する際の所定値(第2閾値)は、同じ値でもよいし、第1閾値より低い値であってもよい。
顔特徴量メモリの一例としての事前通過比較元顔特徴量データメモリ41は、カメラ装置10から送られた顔画像データから、顔特徴量抽出部32によって抽出された顔特徴量が所定の保存条件を満たす場合に、この顔特徴量を、撮像領域を通過した人物の顔を含む顔画像データの特徴量として、一定期間において保存する。このとき、顔画像データの特徴量の他、撮像時刻や撮像領域(位置)の情報も付属情報として保存される。
なお、一定期間の開始は、カメラ装置10によって画像データが撮像された撮像時刻であり、この撮像時刻は、例えば画像データのヘッダに含まれる。また、一定期間は、撮像領域の環境に合わせて、ユーザ端末60の操作に応じて任意に設定・変更可能である。例えば撮像領域がレストラン等の店舗内である場合、一定期間は一例として2時間に設定される。また、撮像領域がオフィスビル内である場合、一定期間は一例として6〜7時間に設定される。この一定期間は、顔認識サーバ30に事前に設定されてもよいし、管理者等のユーザがユーザ端末60を操作して顔認識サーバ30に対し一定期間の値を送信することで設定されてもよい。
顔画像データメモリ42は、事前通過比較元顔特徴量データメモリ41に登録された顔特徴量の顔画像データを、顔特徴量と同様、一定期間、顔特徴量に紐付けて保存する。ここでは、一定期間が経過し、事前通過比較元顔特徴量データメモリ41に保存された顔特徴量が消去されると、顔画像データメモリ42に保存された、顔特徴量に対応する顔画像データも同時に消去されるが、画像データを消去することなく、より長い期間(例えば1年等)保存しておいてもよい。消去することなく、画像データを相当量蓄積しておくことで、ビッグデータとして活用することも可能になる。
撮像時刻比較部34は、顔特徴量抽出部32によって抽出された顔特徴量と、事前通過比較元顔特徴量データメモリ41に登録されている顔特徴量との類似度が所定値(第1閾値)以上に高い場合、カメラ装置10から受信した顔画像データの撮像時刻を取得する。前述したように、撮像時刻は顔画像データのヘッダ情報に記述されている。
また、撮像時刻比較部34は、この登録された顔特徴量は、顔特徴量抽出部32によって顔特徴量が抽出された顔画像データの撮像時刻から所定時間前までに、事前通過比較元顔特徴量データメモリ41に保存されたものであるか否かを判別する。所定時間は、後述する統計処理を行う際、同一の人物を重複して計数(ダブルカウント)しないようにするために設定される時間であり、撮像領域の環境に合わせて適正な値に設定される。例えば、事前通過比較元顔特徴量データメモリ41に顔特徴量を保存可能な一定期間が24時間である場合、所定時間はそれにより短い2時間等に設定される。なお、一定期間と所定時間とが同じ期間であってもよく、この場合、所定時間より前の顔特徴量は、事前通過比較元顔特徴量データメモリ41に存在しなくなるので、撮像時刻比較部34を省くことも可能である。
保存部35は、事前通過比較元顔特徴量データメモリ41及び顔画像データメモリ42に接続され、顔画像データの特徴量を事前通過比較元顔特徴量データメモリ41に保存し、この特徴量に対応する顔画像データを顔画像データメモリ42に保存する。なお、後述するように、顔特徴量を統計処理しない場合でも、この顔特徴量に対応する顔画像データが保存条件を満たす場合には、顔特徴量は保存される。
顔認識サーバ30は、更に、年齢性別判定部36、統計部37、保存部38、統計データ検索部39及び年齢性別統計データメモリ43を有する。年齢性別判定部36は、顔特徴量抽出部32によって抽出された顔特徴量を基に、公知の技術を用いて年齢及び性別を推定する。推定される年齢は、ある程度の年齢幅で表現されてもよいし、代表値で表現されてもよい。
統計処理部の一例としての統計部37は、年齢及び性別を統計の対象とする統計処理を行う。この統計処理では、例えばカメラ装置10によって撮像された映像に含まれる顔の数が年齢及び性別毎に集計され、年齢性別統計データとして登録される。統計処理は、単に年齢及び性別毎に人数(顔の数)をカウントアップする以外に、全体の人数の中に占める各年齢層の比率や男女の比率等を算出する処理等を含めてもよい。その他、統計処理は、後述する検索条件(年月日、期間、場所、年齢、性別、カメラID等)のAND条件又はOR条件に従って、検索可能なように集計し、年齢性別統計データとしてもよい。なお、年齢性別統計データは、少なくとも年齢と性別とに分類された統計データであり、それ以外の要素で細分類されてもよい。保存部38は、年齢性別統計データメモリ43に接続され、統計部37で統計処理された年齢性別統計データを年齢性別統計データメモリ43に保存する。年齢性別統計データメモリ43は、年齢性別統計データを長期間に亘って保存し、統計データを利用する際に用いられる。
統計データ検索部39は、ユーザ端末60からの要求に従って、所定の検索条件で年齢性別統計データメモリ43を検索し、この検索結果をユーザ端末60に返信する。
ユーザ端末60は、顔認識サーバ30に対し、各種の設定や要求を行う汎用のコンピュータ装置であり、通信部61、制御部62、ディスプレイ63及び操作部64を有する。通信部61は、顔認識サーバ30と有線又は無線で接続され、通信可能である。例えば、通信部61は顔認識サーバ30とIPネットワークを介して接続される。
制御部62は、ユーザ端末60の動作を統括的に制御し、アプリケーションを実行し、顔認識サーバ30に対して、ユーザの入力操作に応じた検索処理を要求する。ディスプレイ63は各種の情報を表示し、後述する検索条件や検索結果等をUI画面に表示する。操作部64は、キーボードやマウス等であり、検索条件等、ユーザからの入力操作を受け付ける。
なお、ユーザ端末60が携帯可能なタブレット端末で構成される場合、操作部64はディスプレイ63とともにタッチパネルとして一体化されており、ディスプレイ63の画面に直接入力操作可能である。
上記構成を有する顔認識システム5の動作を示す。
図2は、本実施形態の顔認識サーバ30における顔検出処理の動作手順の一例を説明するフローチャートである。顔認識サーバ30内の通信部31は、カメラ装置10から送られた顔画像データを受信する(S1)。
顔特徴量抽出部32は、受信した顔画像データから顔特徴量を抽出する(S2)。顔特徴量として、例えば眼の位置、目と鼻と口の位置関係、しわの寄り方等の特徴量が抽出される。顔特徴量比較部33は、顔特徴量抽出部32によって抽出された顔特徴量と、事前通過比較元顔特徴量データメモリ41に登録されている顔特徴量とを比較し(S3)、これらの類似度が所定値(第1閾値)以上に高いか否かを判別する(S4)。
類似度が所定値以上に高くない場合(つまり、類似度が低いと判断された場合)、保存部35は、顔特徴量抽出部32によって抽出された顔特徴量を事前通過比較元顔特徴量データメモリ41に保存する(S7)。年齢性別判定部36は、顔特徴量抽出部32によって抽出された顔特徴量を基に、公知の技術を用いて年齢及び性別を推定し、統計部37は、推定された、年齢及び性別を統計の対象とする統計処理を行う(S8)。この統計処理は、抽出された顔特徴量から推定される、人物の年齢及び性別毎に区分された年齢性別統計データのデータ数を値1増加(カウントアップ)させるように計数する。
保存部38は、統計部37によって統計処理された年齢性別統計データを年齢性別統計データメモリ43に保存する(S9)。
一方、ステップS4で類似度が所定値(第1閾値)以上に高いと判断された場合、撮像時刻比較部34は、顔特徴量抽出部32によって顔特徴量が抽出された顔画像データの撮像時刻と、事前通過比較元顔特徴量データメモリ41に登録された顔特徴量の撮像時刻とを比較し(S5)、事前通過比較元顔特徴量データメモリ41に保存された類似度の高い特徴量が、顔特徴量抽出部32によって顔特徴量が抽出された顔画像データの撮像時刻から所定時間前まで(所定時間の範囲内)に保存されたか否かを判別する(S6)。
所定時間の範囲外である場合(S6,NO)、新たな顔画像データの顔特徴量であるとして、統計部37は、ステップS8において、前述した統計処理を行う。一方、ステップS6で所定時間の範囲内であると判断された場合(S6,YES)、統計部37は、抽出された顔特徴量が既に保存済みであると判断する。そして、統計部37は、この顔特徴量の顔画像データが保存条件を満たすか否かを判別する(S10)。保存条件を満たさない場合(S10,NO)、顔認識サーバ30は、この顔特徴量を事前通過比較元顔特徴量データメモリ41に保存することなく廃棄する(S11)。一方、顔画像データが保存条件を満たす場合(S10,YES)、保存部35は、この顔特徴量を事前通過比較元顔特徴量データメモリ41に保存する(S12)。
ここで、保存条件として、例えば最初の画像のみ保存することが設定されている場合、ステップS10で判断される顔画像データは最初の画像ではないので、これに対応する顔特徴量は保存されず、廃棄されることになる。また、顔画像データに含まれる顔の向きが正面で、かつ、顔が大きく映っていることが保存条件である場合、顔画像データがこの保存条件に該当しないと、これに対応する顔特徴量は廃棄される。また、全て保存することが保存条件である場合、画像データにかかわらず、顔特徴量は全て保存される。なお、この保存条件は、保存部35に事前に設定される他、動作の途中でユーザ端末60からの設定情報によって変更されてもよい。
上記ステップS1〜S12までの処理で、年齢性別統計データ及び顔特徴量の保存が完了すると、統計データ検索部39は、ユーザ端末60からの要求を受け付け、この要求に従って、年齢性別統計データメモリ43に登録されている年齢性別統計データを検索し、該当する年齢性別統計データをユーザ端末60に返信する(S13)。この後、顔認識サーバ30は本動作を終了する。
ユーザ端末60は、顔認識サーバ30に対し年齢性別統計データを検索する要求を行い、この検索結果を顔認識サーバ30から受信する。図3はユーザ端末60のディスプレイ63に表示されるUI(ユーザインタェース)画面を示す図である。ディスプレイ63の画面の左側には、ユーザが年齢性別統計データメモリ43に登録されている年齢性別統計データを検索するための検索条件が表示されている。
ここでは、検索条件として、撮像した年月日、時間帯(期間)、場所、年齢、性別、カメラID等のキーワードを選択可能である。ユーザは、各検索項目の入力ボックスにチェックマークを入力することで、これらの検索項目を、事前に設定されたAND条件あるいはOR条件で検索可能である。
ユーザ端末60は、ユーザが設定した検索条件を顔認識サーバ30に送信すると、統計データ検索部39は、この検索条件に従って年齢性別統計データメモリ43に登録されている年齢性別統計データを検索する。顔認識サーバ30は、検索条件に合致する人物の顔特徴量を、年齢性別統計データメモリ43から抽出し、また、顔画像データメモリ42に登録されている、この顔特徴量に紐付けられた顔画像データを顔画像データメモリ42から抽出する。顔認識サーバ30は、抽出した顔特徴量及び顔画像データをユーザ端末60に送信する。
この結果、ユーザ端末60のディスプレイ63の画面の右側には、検索条件に合致する人物の顔特徴量及び顔画像データが表示される。ここでは、検索結果として、3名の人物の顔特徴量TK1,TK2,TK3及び顔画像データG1,G2,G3が表示されている。
以上により、本実施形態の顔認識システム5では、顔認識サーバ30内の顔特徴量抽出部32は、カメラ装置10によって撮像領域に対して撮像された映像に現れる顔を含む顔画像データの顔特徴量を抽出する。保存部35は、撮像領域を通過した顔を含む顔画像データの顔特徴量を事前通過比較元顔特徴量データメモリ41に保存する。統計部37は、カメラ装置10により撮像され、顔特徴量抽出部32により抽出された顔画像データの顔特徴量に対し、所定値以上に類似度の高い顔特徴量が、カメラ装置10による撮像時刻より所定時間前までに事前通過比較元顔特徴量データメモリ41に保存されていない場合、顔特徴量抽出部32により抽出された顔画像データの顔特徴量を統計処理する。
これにより、顔認識サーバ30は、撮像時刻に近い時刻に保存された類似度の高い顔特徴量を同一の人物のものと判断し、この撮像時刻に得られた顔特徴量は統計処理されないので、複雑な判断を行うことなく同一の人物が重複して含まれないように効率的に統計処理できる。また、顔認識システム5では、カメラ装置10で映像フレームから切り出された顔画像データが顔認識サーバ30に伝送されるので、映像データを伝送する場合と比べ、データ伝送量を少なくすることができる。
また、類似度の高い顔特徴量が所定時間前までに事前通過比較元顔特徴量データメモリ41に保存されている場合、カメラ装置10によって撮像された顔画像データが所定の保存条件を満たしていないと、保存部35は、顔特徴量抽出部32によって抽出された顔画像データの顔特徴量を破棄する。これにより、不要な顔特徴量を省き、保存されるデータ量を削減できる。
また、カメラ装置10によって撮像された顔画像データが所定の保存条件を満たしていると、顔特徴量抽出部32によって抽出された顔画像データの顔特徴量を事前通過比較元顔特徴量データメモリ41に保存する。これにより、有効な顔特徴量のデータが増え、顔特徴量の類似度の判定精度が向上する。
また、統計部37は、カメラ装置10により撮像され、顔特徴量抽出部32により抽出された顔画像データの顔特徴量に対し、所定値(第2閾値)に達しない類似度の低い顔特徴量が、事前通過比較元顔特徴量データメモリ41に保存されている場合、顔特徴量抽出部32により抽出された顔像データの顔特徴量を統計処理する。これにより、初めての人物の顔を見逃すことなく、統計処理できる。
また、所定時間は、レストランやビル内等、撮像領域の環境に合わせて設定可能である。これにより、撮像領域の環境によらず、同一の人物が重複して含まれないように統計処理できる。
また、顔認識サーバ30は、ユーザ端末60(端末装置)からの要求に応じて、年齢性別統計データメモリ43に登録された年齢性別統計データ(統計処理された顔画像データの特徴量)を検索し、この検索結果をユーザ端末60に返信する。これにより、ユーザの利用に貢献でき、様々な活用が期待される。
(本実施形態の変形例)
図4は、本実施形態の変形例の顔認識システム5Aの内部構成の一例を詳細に示すブロック図である。本実施形態と同一の構成要素については同一の符号を付すことで、その説明を省略する。本実施形態の変形例の顔認識システム5Aでは、カメラ装置10Aは、上記した本記実施形態と異なり、撮像部11及び通信部14だけを有し、撮像部11で撮像された画像データを、通信部14によりそのまま顔認識サーバ30Aに送信するだけである。
顔認識サーバ30Aは、上記本実施形態と異なり、プロセッサ40内に顔検出部52及び顔切出し部53を有する。顔検出部52は、カメラ装置10Aから送信された画像データ(映像)に対し、上記本実施形態の顔検出部12と同様、映像に含まれる顔を検出する。顔切出し部53は、上記本実施形態の顔切出し部13と同様、顔検出部52によって検出された顔を含む顔画像データを映像のフレームから切り出す。
このように、本実施形態の変形例の顔認識システム5Aでは、顔認識サーバ30Aに負荷のかかる処理を効率的に集中させるので、カメラ装置10Aの負荷を軽減できる。このように、カメラ装置10Aは、撮像した画像データ(映像)を顔認識サーバ30に送信するだけであるので、簡易な構成で済み、例えば撮像領域にカメラ装置10Aが既設であっても利用可能である。また、本実施形態の変形例の顔認識システム5Aでは、カメラ装置10Aは汎用のネットワークカメラでも利用可能である。
以上、図面を参照しながら各種の実施形態について説明したが、本発明はかかる例に限定されないことは言うまでもない。当業者であれば、特許請求の範囲に記載された範疇内において、各種の変更例又は修正例に想到し得ることは明らかであり、それらについても当然に本発明の技術的範囲に属するものと了解される。
本発明は、カメラ装置により撮像された映像を用いる際、複雑な判断を行うことなく同一の人物が重複して含まれないように効率的に統計処理でき、有用である。
5、5A 顔認識システム
10、10A カメラ装置
11 撮像部
12、52 顔検出部
13、53 顔切出し部
14 通信部
16、40、66 プロセッサ
30、30A 顔認識サーバ
31 通信部
32 顔特徴量抽出部
33 顔特徴量比較部
34 撮像時刻比較部
35、38 保存部
36 年齢性別判定部
37 統計部
39 統計データ検索部
41 事前通過比較元顔特徴量データメモリ
42 顔画像データメモリ
43 年齢性別統計データメモリ
60 ユーザ端末
61 通信部
62 制御部
63 ディスプレイ
64 操作部
TK1、TK2、TK3 顔特徴量
G1、G2、G3 顔画像データ

Claims (8)

  1. カメラ装置と顔認識サーバとが接続された顔認識システムであって、
    前記顔認識サーバは、
    前記カメラ装置により撮像領域が撮像された映像データを基に、前記映像データに現れる人物の顔を有する顔画像データの特徴量を抽出する特徴量抽出部と、
    前記特徴量抽出部により抽出された前記顔画像データの特徴量を顔特徴量メモリに保存する保存部と、
    前記特徴量抽出部により抽出された前記顔画像データの特徴量との間の類似度が所定値以上となる前記顔画像データの特徴量が、前記カメラ装置の撮像時刻より所定時間を超えて前記顔特徴量メモリに保存された場合に、前記特徴量抽出部により抽出された前記顔画像データの特徴量を用いて、統計処理する統計処理部と、を備える、
    顔認識システム。
  2. 請求項1に記載の顔認識システムであって、
    前記顔認識サーバは、前記特徴量抽出部により抽出された前記顔画像データの特徴量との間の類似度が所定値以上となる前記顔画像データの特徴量が、前記カメラ装置の撮像時刻より所定時間を超えずに前記顔特徴量メモリに保存された場合に、前記カメラ装置により撮像された前記映像データに対応する前記顔画像データが所定の保存条件を満たさないと、前記特徴量抽出部により抽出された前記顔画像データの特徴量を破棄する、
    顔認識システム。
  3. 請求項2に記載の顔認識システムであって、
    前記顔認識サーバは、前記カメラ装置により撮像された前記映像データに対応する前記顔画像データが前記所定の保存条件を満たす場合に、前記特徴量抽出部により抽出された前記顔画像データの特徴量を前記顔特徴量メモリに保存する、
    顔認識システム。
  4. 請求項1に記載の顔認識システムであって、
    前記顔認識サーバは、前記特徴量抽出部により抽出された前記顔画像データの特徴量との間の類似度が前記所定値以上となる前記顔画像データの特徴量が前記顔特徴量メモリに保存されていない場合に、前記特徴量抽出部により抽出された前記顔画像データの特徴量を用いて、統計処理する、
    顔認識システム。
  5. 請求項1〜4のうちいずれか一項に記載の顔認識システムであって、
    前記所定時間は、前記撮像領域の周囲の環境に合わせて任意に設定可能である、
    顔認識システム。
  6. 請求項1〜5のうちいずれか一項に記載の顔認識システムであって、
    端末装置、が更に接続され、
    前記顔認識サーバは、前記端末装置からの検索要求に応じて、前記統計処理部により統計処理された前記顔画像データの特徴量を検索し、前記検索要求に合致した検索結果を前記端末装置に送信する、
    顔認識システム。
  7. カメラ装置が接続された顔認識サーバであって、
    前記カメラ装置により撮像領域が撮像された映像データを基に、前記映像データに現れる人物の顔を有する顔画像データの特徴量を抽出する特徴量抽出部と、
    前記特徴量抽出部により抽出された前記顔画像データの特徴量を顔特徴量メモリに保存する保存部と、
    前記特徴量抽出部により抽出された前記顔画像データの特徴量との間の類似度が所定値以上となる前記顔画像データの特徴量が、前記カメラ装置の撮像時刻より所定時間を超えて前記顔特徴量メモリに保存された場合に、前記特徴量抽出部により抽出された前記顔画像データの特徴量を用いて、統計処理する統計処理部と、を備える、
    顔認識サーバ。
  8. カメラ装置と顔認識サーバとが接続された顔認識システムにおける顔認識方法であって、
    前記カメラ装置により撮像領域が撮像された映像データを基に、前記映像データに現れる人物の顔を有する顔画像データの特徴量を抽出する処理と、
    抽出された前記顔画像データの特徴量を顔特徴量メモリに保存する処理と、
    抽出された顔画像データの特徴量との間の類似度が所定値以上となる前記顔画像データの特徴量が、前記カメラ装置の撮像時刻より所定時間を超えて前記顔特徴量メモリに保存された場合に、抽出された前記顔画像データの特徴量を用いて、統計処理する処理と、を実行する、
    顔認識方法。
JP2015120455A 2015-06-15 2015-06-15 顔認識システム、顔認識サーバ及び顔認識方法 Active JP6573311B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2015120455A JP6573311B2 (ja) 2015-06-15 2015-06-15 顔認識システム、顔認識サーバ及び顔認識方法
PCT/JP2016/002567 WO2016203717A1 (ja) 2015-06-15 2016-05-27 顔認識システム、顔認識サーバ及び顔認識方法
US15/578,920 US10592731B2 (en) 2015-06-15 2016-05-27 Facial recognition system, facial recognition server, and facial recognition method
JP2019143929A JP6905653B2 (ja) 2015-06-15 2019-08-05 顔認識システム、顔認識サーバ及び顔認識方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015120455A JP6573311B2 (ja) 2015-06-15 2015-06-15 顔認識システム、顔認識サーバ及び顔認識方法

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2019143929A Division JP6905653B2 (ja) 2015-06-15 2019-08-05 顔認識システム、顔認識サーバ及び顔認識方法

Publications (2)

Publication Number Publication Date
JP2017004431A true JP2017004431A (ja) 2017-01-05
JP6573311B2 JP6573311B2 (ja) 2019-09-11

Family

ID=57545829

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015120455A Active JP6573311B2 (ja) 2015-06-15 2015-06-15 顔認識システム、顔認識サーバ及び顔認識方法

Country Status (3)

Country Link
US (1) US10592731B2 (ja)
JP (1) JP6573311B2 (ja)
WO (1) WO2016203717A1 (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106844492B (zh) * 2016-12-24 2018-06-29 深圳云天励飞技术有限公司 一种人脸识别的方法、客户端、服务器及系统
CN107357799B (zh) * 2017-05-17 2020-04-24 广州视源电子科技股份有限公司 评估人脸识别系统注册上限的方法及装置
CN107590474B (zh) * 2017-09-21 2020-08-14 Oppo广东移动通信有限公司 解锁控制方法及相关产品
CN109784187B (zh) * 2018-12-19 2022-12-13 新大陆数字技术股份有限公司 人脸识别的优化方法及装置
WO2020232697A1 (zh) * 2019-05-23 2020-11-26 深圳大学 一种在线人脸聚类的方法及系统
CN112232103A (zh) * 2019-07-15 2021-01-15 北京蜂盒科技有限公司 一种面部识别方法及系统及储存介质及终端及服务器
KR20210085696A (ko) * 2019-12-31 2021-07-08 삼성전자주식회사 전자 장치의 움직임을 결정하는 방법 및 이를 사용하는 전자 장치
IT202000002590A1 (it) * 2020-02-10 2021-08-10 Matteo Sozzi Metodo e sistema per il controllo dell’erogazione di servizi di ristorazione a una pluralità di utenti

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008262435A (ja) * 2007-04-13 2008-10-30 Hitachi Ltd 顔認証、及び顧客状況情報を利用した営業支援システム
JP2008287657A (ja) * 2007-05-21 2008-11-27 Sankyo Co Ltd 年齢認証システム
US20130070974A1 (en) * 2011-09-16 2013-03-21 Arinc Incorporated Method and apparatus for facial recognition based queue time tracking
JP2015072578A (ja) * 2013-10-02 2015-04-16 株式会社東芝 人物特定装置、人物特定方法及びプログラム

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7254257B2 (en) * 2002-03-04 2007-08-07 Samsung Electronics Co., Ltd. Method and apparatus of recognizing face using component-based 2nd-order principal component analysis (PCA)/independent component analysis (ICA)
JP5438859B1 (ja) 2013-05-30 2014-03-12 パナソニック株式会社 客層分析装置、客層分析システムおよび客層分析方法
US9661283B2 (en) 2014-12-24 2017-05-23 Panasonic Intellectual Property Management Co., Ltd. Wearable camera
JP5861073B1 (ja) 2014-12-24 2016-02-16 パナソニックIpマネジメント株式会社 ウェアラブルカメラ

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008262435A (ja) * 2007-04-13 2008-10-30 Hitachi Ltd 顔認証、及び顧客状況情報を利用した営業支援システム
JP2008287657A (ja) * 2007-05-21 2008-11-27 Sankyo Co Ltd 年齢認証システム
US20130070974A1 (en) * 2011-09-16 2013-03-21 Arinc Incorporated Method and apparatus for facial recognition based queue time tracking
JP2015072578A (ja) * 2013-10-02 2015-04-16 株式会社東芝 人物特定装置、人物特定方法及びプログラム

Also Published As

Publication number Publication date
US20180157898A1 (en) 2018-06-07
US10592731B2 (en) 2020-03-17
JP6573311B2 (ja) 2019-09-11
WO2016203717A1 (ja) 2016-12-22

Similar Documents

Publication Publication Date Title
JP6573311B2 (ja) 顔認識システム、顔認識サーバ及び顔認識方法
US8938092B2 (en) Image processing system, image capture apparatus, image processing apparatus, control method therefor, and program
JP6013241B2 (ja) 人物認識装置、及び方法
WO2017181769A1 (zh) 一种人脸识别方法、装置和系统、设备、存储介质
TWI496092B (zh) 臉部認證裝置、人物影像檢索系統、臉部認證裝置控制程式、電腦可讀取之記錄媒體、及臉部認證裝置之控制方法
CN111742376A (zh) 信息处理方法、信息处理程序以及信息处理系统
WO2016203718A1 (ja) 顔認識システム、顔認識サーバ及び顧客情報提示方法
JP2015097000A (ja) 画像認識装置及び画像認識装置に対するデータ登録方法
JP6568476B2 (ja) 情報処理装置、情報処理方法およびプログラム
JP2020046928A (ja) 情報処理装置、情報処理システム、情報処理方法及びプログラム
JP7238902B2 (ja) 情報処理装置、情報処理方法、およびプログラム
CN111626240B (zh) 一种人脸图像识别方法、装置、设备及可读存储介质
EP3487151A1 (en) Information processing apparatus, monitoring system, method, and non-transitory computer-readable storage medium
JP5423740B2 (ja) 映像提供装置、映像利用装置、映像提供システム、映像提供方法、および、コンピュータ・プログラム
US10438085B2 (en) Image analysis apparatus, image analysis method, and storage medium
JP2022003526A (ja) 情報処理装置、検出システム、情報処理方法、及びプログラム
US11620728B2 (en) Information processing device, information processing system, information processing method, and program
JP6905653B2 (ja) 顔認識システム、顔認識サーバ及び顔認識方法
JP6180906B2 (ja) 顔認識ゲートシステム
JP7298729B2 (ja) 情報処理システム、情報処理装置、情報処理方法、およびプログラム
JP2023026630A (ja) 情報処理システム、情報処理装置、情報処理方法、およびプログラム
JP6815667B1 (ja) 情報処理装置、情報処理方法、プログラム及びカメラシステム
JP6339708B2 (ja) 顔認識ゲートシステム、管理装置及び顔認識プログラム
JP6267350B2 (ja) データ処理装置、データ処理システム、データ処理方法及びプログラム
JP6713153B1 (ja) 情報処理装置、情報処理方法、プログラム及びカメラシステム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180517

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190709

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20190731

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190808

R151 Written notification of patent or utility model registration

Ref document number: 6573311

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250