JP2023036690A - 顔照合システム、顔照合方法、及びプログラム - Google Patents

顔照合システム、顔照合方法、及びプログラム Download PDF

Info

Publication number
JP2023036690A
JP2023036690A JP2022198283A JP2022198283A JP2023036690A JP 2023036690 A JP2023036690 A JP 2023036690A JP 2022198283 A JP2022198283 A JP 2022198283A JP 2022198283 A JP2022198283 A JP 2022198283A JP 2023036690 A JP2023036690 A JP 2023036690A
Authority
JP
Japan
Prior art keywords
face
unit
matching
image
face image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2022198283A
Other languages
English (en)
Other versions
JP7447978B2 (ja
Inventor
典明 早勢
Noriaki Hayase
宏 手塚
Hiroshi Tezuka
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Publication of JP2023036690A publication Critical patent/JP2023036690A/ja
Application granted granted Critical
Publication of JP7447978B2 publication Critical patent/JP7447978B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/172Classification, e.g. identification
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/30Authentication, i.e. establishing the identity or authorisation of security principals
    • G06F21/31User authentication
    • G06F21/32User authentication using biometric data, e.g. fingerprints, iris scans or voiceprints
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q20/00Payment architectures, schemes or protocols
    • G06Q20/38Payment protocols; Details thereof
    • G06Q20/40Authorisation, e.g. identification of payer or payee, verification of customer or shop credentials; Review and approval of payers, e.g. check credit lines or negative lists
    • G06Q20/401Transaction verification
    • G06Q20/4014Identity check for transactions
    • G06Q20/40145Biometric identity checks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/30Determination of transform parameters for the alignment of images, i.e. image registration
    • G06T7/38Registration of image sequences
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/50Maintenance of biometric data or enrolment thereof
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30168Image quality inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • G06T2207/30201Face

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Security & Cryptography (AREA)
  • Human Computer Interaction (AREA)
  • Multimedia (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Business, Economics & Management (AREA)
  • General Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Computer Hardware Design (AREA)
  • Accounting & Taxation (AREA)
  • Finance (AREA)
  • Strategic Management (AREA)
  • General Business, Economics & Management (AREA)
  • Quality & Reliability (AREA)
  • Collating Specific Patterns (AREA)
  • Image Analysis (AREA)

Abstract

【課題】短時間で円滑に顔照合を行うことができる顔照合システム、顔照合方法、及びプログラムを提供する。【解決手段】顔照合システムは、認証対象者を含む画像から顔画像を検出顔画像として検出する顔検出部と、認証対象者を識別する識別情報と、当該認証対象者の登録顔画像とを関連付けて記憶する記憶部と、認証対象者を識別する識別情報を取得すると、取得より前に撮影された画像から顔検出部が検出した検出顔画像と、取得した識別情報に対応する登録顔画像とを照合する顔照合部とを備える。【選択図】図2

Description

本発明は、顔照合システム、顔照合方法、及び記録媒体に関する。
近時、本人確認を行う場面において、人間の身体的特徴や行動的特徴に関する情報である生体情報を用いて認証を行う生体認証が利用されるようになっている。生体認証のひとつである顔認証は、認証対象者の心理的抵抗が少ない、離れた場所からでも認証が可能である、不正に対する心理的抑止効果がある等の利点を有している。
顔認証技術は、様々な分野における本人確認に利用されている。例えば、テーマパーク等の施設の入場口に設置されるゲートシステムにおいて、その年間パス等のチケットを利用する来場者の本人確認に顔認証技術が利用されている(非特許文献1)。
日本電気株式会社、"顔認証:ゲートシステム"、[online]、[平成28年2月12日検索]、インターネット<URL:http://jpn.nec.com/ad/usj/entry.html>
従来のゲートシステムにおける顔認証技術では、ゲート装置の読み取り部に来場者がチケットの情報を読み取らせた着券後に、顔照合を行うため、施設のスタッフがカメラを操作して来場者の顔画像を撮影する必要がある。このように、従来のゲートシステムでは、チケットの情報を読み取らせてから入場するまでの間に、来場者の顔画像を撮影する作業を要するため、顔認証による本人確認を行うべき来場者が施設の入場口に滞留してしまう場合がある。
本発明は、短時間で円滑に顔照合を行うことができる顔照合システム、顔照合方法、及び記録媒体を提供することを目的とする。
本発明の一観点によれば、認証対象者を含む画像から顔画像を検出顔画像として検出する顔検出部と、前記認証対象者を識別する識別情報と、当該認証対象者の登録顔画像とを関連付けて記憶する記憶部と、前記認証対象者を識別する識別情報を取得すると、前記取得より前に撮影された画像から前記顔検出部が検出した前記検出顔画像と、取得した識別情報に対応する前記登録顔画像とを照合する顔照合部と、を備える顔照合システムが提供される。
本発明の他の観点によれば、認証対象者を含む画像から顔画像を検出顔画像として検出し、前記認証対象者を識別する識別情報を取得すると、前記取得より前に撮影された画像から検出した前記検出顔画像と、取得した識別情報と関連付けられて登録されている登録顔画像とを照合する顔照合方法が提供される。
本発明のさらに他の観点によれば、コンピュータ装置に、認証対象者を含む画像から顔画像を検出顔画像として検出し、前記認証対象者を識別する識別情報を取得すると、前記取得より前に撮影された画像から検出した前記検出顔画像と、取得した識別情報と関連付けられて登録されている登録顔画像とを照合することを実行させることを特徴とするプログラムが記録された記録媒体が提供される。
本発明によれば、短時間で円滑に顔照合を行うことができる。
図1は、本発明の第1実施形態による顔照合システムを示す概略図である。 図2は、本発明の第1実施形態による顔照合システムの機能構成を示すブロック図である。 図3は、本発明の第1実施形態による顔照合システムにおける固定カメラにより撮影された画像の例を示す概略図である。 図4は、本発明の第1実施形態による顔照合システムにおける顔照合装置の記憶部に一時的に保存される検出顔画像に関する各種データの例を示す概略図である。 図5は、本発明の第1実施形態による顔照合システムにおけるN:1照合の処理の例を示す概略図である。 図6は、本発明の第1実施形態による顔照合システムにおける顔照合装置のハードウェア構成の一例を示すブロック図である。 図7は、本発明の第1実施形態による顔照合システムにおけるデータセンタサーバのハードウェア構成の一例を示すブロック図である。 図8は、本発明の第1実施形態による顔照合方法を示すシーケンス図である。 図9は、本発明の第1実施形態による顔照合方法を示すフローチャート(その1)である。 図10は、本発明の第1実施形態による顔照合方法を示すフローチャート(その2)である。 図11は、本発明の第1実施形態による顔照合システムにおける固定カメラにより撮影された画像の他の例を示す概略図である。 図12は、本発明の第2実施形態による顔照合システムの機能構成を示すブロック図である。 図13は、本発明の第2実施形態による顔照合システムにおけるN:1照合の処理の例を示す概略図である。 図14Aは、本発明の第3実施形態による顔照合システムにおける固定カメラにより撮影された異なる画像の例を示す概略図である。 図14Bは、本発明の第3実施形態による顔照合システムにおける固定カメラにより撮影された異なる画像の例を示す概略図である。 図15は、本発明の第3実施形態による顔照合システムの機能構成を示すブロック図である。 図16は、本発明の第4実施形態による顔照合システムにおける登録顔画像の自動更新を示すフローチャートである。 図17Aは、本発明の第4実施形態による顔照合システムにおける登録顔画像の自動更新における各種データを示す概略図である。 図17Bは、本発明の第4実施形態による顔照合システムにおける登録顔画像の自動更新における各種データを示す概略図である。 図17Cは、本発明の第4実施形態による顔照合システムにおける登録顔画像の自動更新における各種データを示す概略図である。 図18は、本発明の第5実施形態による顔照合方法を示すフローチャートである。 図19は、本発明の第6実施形態による顔照合方法を示すフローチャートである。 図20は、本発明の第6実施形態による顔照合方法において表示部に表示する照合画面の例を示す概略図である。 図21は、本発明の第7実施形態による顔照合システムの機能構成を示すブロック図である。 図22は、本発明の第8実施形態による顔照合システムを示す概略図である。 図23は、本発明の第8実施形態による顔照合システムの機能構成を示すブロック図である。 図24は、本発明の第8実施形態による顔照合方法を示すフローチャートである。 図25は、コンピュータ装置の例を示す概略図である。 図26は、本発明の他の実施形態による顔照合システムの機能構成を示すブロック図である。 図27は、本発明の他の実施形態による顔照合装置の機能構成を示すブロック図である。 図28は、本発明のさらに他の実施形態による顔照合システムの機能構成を示すブロック図である。
[第1実施形態]
本発明の第1実施形態による顔照合システム及び顔照合方法について図1乃至図11を用いて説明する。
まず、本実施形態による顔照合システムについて図1乃至図7を用いて説明する。図1は、本実施形態による顔照合システムを示す概略図である。図2は、本実施形態による顔照合システムの機能構成を示すブロック図である。図3は、本実施形態による顔照合システムにおける固定カメラにより撮影された画像の例を示す概略図である。図4は、本実施形態による顔照合システムにおける顔照合装置の記憶部に一時的に保存される検出顔画像に関する各種データの例を示す概略図である。図5は、本実施形態による顔照合システムにおけるN:1照合の処理の例を示す概略図である。図6は、本実施形態による顔照合システムにおける顔照合装置のハードウェア構成の一例を示すブロック図である。図7は、本実施形態による顔照合システムにおけるデータセンタサーバのハードウェア構成の一例を示すブロック図である。
本実施形態による顔照合システムは、施設の入場口において、入場チケットを利用して施設の場内に入場しようとする来場者を認証対象者として、顔照合により本人確認を行うものである。施設は、例えば、テーマパーク、イベント会場、競技場、コンサート会場等である。来場者が利用する入場チケットは、その種別が特に限定されるものではないが、例えば、年間パス、年間パスポート等と呼ばれる1年間等の特定の期間に何度でも入場可能な入場チケットである。入場チケットは、紙チケットであっても電子チケットであってもよく、その入場チケットを識別する識別情報が読み取り可能に記録されている媒体であればよい。以下では、来場者が年間パスを利用して施設の場内に入場しようとする際に、顔照合による本人確認を行う場合について説明する。
図1及び図2に示すように、本実施形態による顔照合システム1は、ゲート装置10と、固定カメラ20と、顔照合装置30と、データセンタサーバ40とを含んでいる。ゲート装置10、固定カメラ20、及び顔照合装置30は、施設の入場口50に設置されている。一方、データセンタサーバ40は、例えば、入場口50から離れた地にあるデータセンタ内に設置されている。
ゲート装置10等が設置された入場口50には、屋根502が設置されている。屋根には、照明器504が設けられている。また、屋根502には、ゲート装置10の上に位置するように、入場口50であることを表示する案内板508が設けられている。
顔照合装置30及びデータセンタサーバ40は、それぞれネットワーク60を介してネットワーク接続されており、ネットワーク60を介して互いに通信可能になっている。ネットワーク60は、その種別が特に限定されるものではないが、例えば、WAN(Wide Area Network)、LAN(Local Area Network)である。
また、ゲート装置10及び固定カメラ20は、それぞれケーブル接続等により顔照合装置30に通信可能に直接ローカル接続されている。ゲート装置10及び固定カメラ20と顔照合装置30との接続は、有線方式であっても無線方式であってもよい。
年間パスは、ウェブチケットストア、チケットブースで購入することが可能になっている。ネットワーク60には、ウェブチケットストアを提供するウェブサーバ70と、チケットブース端末80とが接続されている。ウェブサーバ70及びチケットブース端末80は、それぞれネットワーク60を介して、データセンタサーバ40と通信可能になっている。ウェブサーバ70は、例えば、入場口50から離れた地にあるデータセンタ内に設置されている。チケットブース端末80は、例えば、入場口50に隣接するチケットブース内に設置されている。
次に、本実施形態における顔照合システム1における各構成要素について詳述する。
ゲート装置10は、本体部102と、柵104と、ゲート106と、読み取り部108と、手元カメラ110と、ゲート制御部112とを有している。
本体部102及び柵104は、互いに対向するように設置されている。本体部102と柵104との間は、来場者が通行して施設の場内に入場する通路114となっている。通路114は、場外側が入口114aであり、場内側が出口114bである。本体部102は、通路114の入口114aから出口114bに向かって右側に設置されている。一方、柵104は、通路114の入口114aから出口114bに向かって左側に設置されている。
ゲート106は、通路114側の本体部102の側壁に、待機時に通路114を遮蔽するように設けられている。ゲート106は、通路114を遮蔽する待機時の閉鎖状態から開放されることにより、来場者が通路114を通行して施設の場内に入場することを可能にする。ゲート106は、例えば、3本バーが回転するターンスタイルのゲートである。なお、ゲートとしては、これに限定されるものではなく、種々の方式のものを用いることができる。例えば、ゲート106として、通路114に対して両側から設けられた2枚のフラッパー又は片側から設けられた1枚のフラッパーが開閉するフラッパーゲートを用いることもできる。
後述するように、ゲート106は、顔照合による本人確認に成功した場合に開放される。これにより、その来場者は、通路114を通行して施設の場内に入場することができる。
なお、ゲート106は、待機時に開放状態であり、顔照合による本人確認に成功した場合に開放状態を維持し、顔照合による本人確認に失敗した場合に閉鎖されるものであってもよい。
読み取り部108は、本体部102の上部におけるゲート106よりも通路114の入口114a側の部分に設けられている。読み取り部108は、来場者が所持する年間パスに記録された情報を年間パスから読み取るものである。具体的には、年間パスには、その年間パスを一意に特定する識別情報であるID(Identification)情報が記録されている。読み取り部108は、ID情報を年間パスから読み取る。読み取り部108が読み取るID情報は、例えば、年間パスの会員番号、シリアル番号である。年間パスは、認証対象者である来場者が所持し、その来場者が施設の場内に入場する際に必要となる媒体であって、これを一意に特定するID情報が記録されたものである。ここで、媒体は、カード、紙、スマートフォン等、認証対象者を識別する情報を有しているものであればよい。後述するように、データセンタサーバ40には、年間パスのID情報に関連付けられてその年間パスを購入した購入者に関する情報が蓄積されている。
読み取り部108は、年間パスのID情報の記録方式に応じた読み取り方式を有している。例えば、年間パスが、バーコード等の一次元コード、QRコード(登録商標)等の二次元コードにID情報が記録されているものである場合、読み取り部108は、バーコードリーダ、QRコードリーダ等のコードリーダである。また、例えば、年間パスが、RFID(Radio Frequency Identification)による非接触ICカード又は非接触ICタグにID情報が記録されているものである場合、読み取り部108は、RFIDリーダである。
読み取り部108は、読み取り部108に年間パスの着券があると、年間パスに記録されたID情報を年間パスから読み取る。なお、ここで、着券とは、認証対象者である来場者が、年間パスに記録されたID情報を含む情報を読み取り部108に読み取らせることをいう。
読み取り部108は、年間パスから読み取ったID情報を後述のゲート制御部112に送信する。なお、認証対象者を特定する識別情報は、年間パス等の媒体が記憶するID情報に限られない。認証対象者を特定する識別情報は、例えば、指紋、静脈、虹彩等、認証対象者の生体情報等も含み、認証対象者を特定できる情報であればよい。この場合、読み取り部108は、指紋、静脈、虹彩等、認証対象者の生体情報を読み取ることができる指紋スキャナー、静脈スキャナー、カメラ等でもよい。
手元カメラ110は、本体部102の上部におけるゲート106付近の部分に設けられている。手元カメラ110は、例えば、デジタルビデオカメラであり、施設のスタッフの操作により、認証対象者である来場者の顔画像を撮影してその顔画像を取得することができる。手元カメラは、後述するように、固定カメラ20により撮影された顔画像に基づく顔照合に失敗した場合に用いられる他の撮影部である。なお、手元カメラ110は、来場者の顔画像を取得することができればよく、デジタルスチルカメラであってもよい。
手元カメラ110は、撮影した来場者の顔画像の画像データを後述のゲート制御部112に送信する。
ゲート制御部112は、ゲート装置10の動作を制御するものである。ゲート制御部112には、読み取り部108が通信可能に接続されている。また、ゲート制御部112には、ゲート106が制御可能に接続されている。また、ゲート制御部112には、手元カメラ110が通信可能に接続されている。
ゲート制御部112には、読み取り部108により読み取られた年間パスのID情報が読み取り部108から送信される。ゲート制御部112は、読み取り部108から送信された年間パスのID情報を顔照合装置30に送信する。
また、ゲート制御部112は、後述の顔照合装置30から送信される照合結果信号に基づき、ゲート106の開閉を制御する。
また、ゲート制御部112には、手元カメラ110により撮影された来場者の顔画像の画像データが手元カメラ110から送信される。ゲート制御部112は、手元カメラ110から送信された顔画像の画像データを顔照合装置30に送信する。
固定カメラ20は、ゲート装置10に対して施設の場内の側に設置された支柱202の上端部に固定されている。固定カメラ20は、ゲート装置10の前の場所を撮影する撮影部であり、施設の場外の側を向く向きが固定されている。固定カメラ20は、入場口50における地表面から例えば200cm程度の人の頭上に位置する高さに固定されており、ゲート装置10の前の場所に向けて斜め下を向いている。なお、固定カメラ20の固定方式は、支柱202による方式に限定されるものではない。例えば、固定カメラ20は、入場口50における屋根502から吊り下げられて固定されていてもよい。
上記のように固定された固定カメラ20は、読み取り部108を含むゲート装置10の設置場所への入口側であるゲート装置10の前の場所を撮影するようになっている。すなわち、固定カメラ20は、読み取り部108の設置場所への入口側を撮影するようになっている。これにより、固定カメラ20は、読み取り部108の設置場所への入口側であるゲート装置10の前の場所にいる来場者Vを撮影することができる。したがって、固定カメラ20は、認証対象者を含む画像を撮影することができる。
固定カメラ20は、例えば、デジタルビデオカメラであり、所定のフレームレートで動画を撮影して、そのフレームレートに同期した所定の周期で複数枚の画像を連続的に取得することが可能になっている。固定カメラ20は、例えば、15fpsで動画を撮影し、1秒間に15フレームの画像を連続的に取得することが可能になっている。
なお、固定カメラ20は、デジタルスチルカメラであってもよい。この場合、固定カメラ20は、所定の撮影間隔で静止画像を連続撮影して、所定の周期で複数枚の画像を連続的に取得するように構成することができる。
また、固定カメラ20は、可視光カメラであってもよいし、赤外線カメラであってもよい。固定カメラ20が赤外線カメラである場合、入場口50における屋根502には、可視光を含む照明光を発する通常の照明器504のほか、赤外線を発する赤外線照明器506を設けることができる。赤外線照明器506の下で固定カメラ20として赤外線カメラを用いることにより、周囲の明るさの影響を低減しつつ、固定カメラ20により撮影された顔画像に基づく顔照合を行うことができる。
また、固定カメラ20は、縦長の画像を撮影するように縦向きに設置されている。これにより、固定カメラ20は、低身長の来場者から高身長の来場者にわたる幅広い身長の来場者の顔を含む画像を撮影することができる。具体的には、固定カメラ20は、例えば、身長99cm~220cmの来場者の顔を含む画像を撮影することができる。なお、固定カメラ20は、必ずしも縦向きに設置されている必要はなく、横長の画像を撮影するように横向きに設置されていてもよい。
固定カメラ20により撮影される画像には、ゲート装置10の前の場所にいる複数人の来場者の顔が含まれうる。
固定カメラ20は、上記のようにして所定の周期で取得した複数枚の画像の画像データを、その周期に同期して顔照合装置30に送信する。
顔照合装置30は、顔照合制御部302と、記憶部304と、表示部306とを有している。
顔照合制御部302は、固定カメラ20により撮影された顔画像に基づく顔照合を行うものである。顔照合制御部302は、画像データ取得部308と、顔検出部310と、顔特徴量抽出部312と、顔照合部314とを含んでいる。
画像データ取得部308は、所定の周期で固定カメラ20から送信される画像の画像データを順次取得する。なお、画像データ取得部308は、取得した画像データに対して補正処理等の画像処理を行うことができる。
顔検出部310は、画像データ取得部308により順次取得される画像データの画像のそれぞれについて顔検出を行う。これにより、顔検出部310は、画像データ取得部308により順次取得される画像データの画像から、ゲート装置10の前の場所にいる来場者の顔画像を検出顔画像として検出する。顔検出部310が顔検出に用いるアルゴリズムとしては、特に限定されるものではなく、種々のアルゴリズムを用いることができる。
図3は、固定カメラ20により撮影された1フレームの画像の例を示している。図3に示すように、1フレームの画像Iには、ゲート装置10の前の場所にいる1人の来場者V1が撮影されている。顔検出部310は、このように固定カメラ20により撮影された画像Iから、図3中の矩形状の検出枠316で示すように、来場者V1の顔画像を検出する。
なお、固定カメラ20により撮影された1フレームの画像には、ゲート装置10の前の場所にいる複数人の来場者が撮影される場合がある。また、固定カメラ20により撮影された異なるフレームの画像に同一人物が撮影される場合もある。これらの場合については後述する。
顔特徴量抽出部312は、顔検出部310により検出された顔画像のそれぞれについて、顔画像の特徴量である顔特徴量を抽出する。なお、以下では、顔検出部310により検出された顔画像を検出顔画像ともいう。顔特徴量は、ベクトル量であり、顔画像の特徴を表現するスカラ量の成分の組み合わせである。特徴量の成分としては、特に限定されるものではなく、種々の種類のものを用いることができる。例えば、特徴量の成分として、目、鼻、口等の顔の器官の中心又は端点に設定した特徴点間の距離や角度等の位置関係、顔の輪郭線の曲率、顔表面の色分布や濃淡値等を用いることができる。特徴量の成分数も、特に限定されるものではなく、要求される照合精度、処理速度等に応じて適宜設定することができる。
また、顔特徴量抽出部312は、検出顔画像の画像データである顔画像データを、その検出顔画像から抽出した顔特徴量とともに両者を関連づけて記憶部304に一時的に保存する。さらに、顔特徴量抽出部312は、検出顔画像のそれぞれについて、顔画像データ及びその顔特徴量とともに、その画像データを特定する番号である検出番号と、その検出顔画像が撮影された撮影時刻とを関連づけて記憶部304に一時的に保存する。
記憶部304には、リレーショナルデータベースが構成されている。記憶部304のリレーショナルデータベースには、上述のように顔特徴量抽出部312により抽出された顔特徴量が、検出番号、撮影時刻、及び顔画像データと関連付けられて一時的に保存される。互いに関連付けられたこれらのデータは、リレーショナルデータベース管理システム(Relational Database Management System、RDBMS)により管理される。RDBMSとしては、特に限定されるものではないが、例えばMicrosoft(登録商標)SQL Serverが用いられている。
図4は、顔特徴量抽出部312により記憶部304に一時的に保存される検出顔画像に関する各種データの例を示す概略図である。図4に示すように、記憶部304には、検出顔画像のそれぞれについて、検出番号、撮影時刻、顔画像データ、及び顔特徴量が互いに関連付けられて一時的に保存される。
記憶部304には、検出顔画像のそれぞれについて、その撮影時刻から一定の期間だけ、顔特徴量及びこれに関連するデータが保存される。撮影時刻から一定の時間を経過した検出顔画像の顔特徴量及びこれに関連するデータは、記憶部304のリレーショナルデータベースから順次削除されていく。例えば、記憶部304には、固定カメラ20により直近の過去3分間に撮影された検出顔画像の顔特徴量及びこれに関連するデータが一時的に保存される。
顔照合部314は、ゲート装置10の読み取り部108に年間パスの着券があると、年間パスを読み取り部108に着券した来場者について、顔照合による本人確認を行う。
顔照合部314には、着券された年間パスから読み取り部108により読み取られたID情報が送信される。顔照合部314は、送信されたID情報を取得し、ネットワーク60を介して後述のデータセンタサーバ40から、そのID情報と関連付けられて登録されている登録顔画像の顔特徴量をオンラインで取得する。こうして顔照合部314により取得された登録顔画像の人物は、着券された年間パスを正当に利用することができる正当な利用者である。年間パスの正当な利用者は、例えば、その年間パスを購入した購入者である。
また、顔照合部314は、記憶部304のリレーショナルデータベースを参照して、ID情報の取得より前である着券前の所定の期間に含まれる撮影時刻と関連付けられたN枚の検出顔画像の顔特徴量をオフラインで取得する。すなわち、顔照合部314は、読み取り部108がID情報を年間パスから読み取る前に固定カメラ20により撮影されたN枚の検出顔画像の顔特徴量を取得する。なお、Nは通常2以上の整数であり、顔照合部314が取得する検出顔画像は複数枚である。ただし、Nが1であり、顔照合部314が取得する検出顔画像が1枚である場合もありうる。検出顔画像を取得する着券前の所定の期間は、着券直前の期間とすることができ、要求される照合精度、処理速度等に応じてその長さを適宜設定することができる。例えば、検出顔画像を取得する着券前の所定の期間は、着券直前の数秒間に設定することができる。
顔照合部314は、年間パスの着券前に撮影されたN枚の検出顔画像の顔特徴量のそれぞれと、登録顔画像の顔特徴量とを順次照合する照合処理を行う。ここでの照合処理は、最大N枚の検出顔画像と1枚の登録顔画像との間の照合を行うため、N:1照合という。このように、顔照合部314は、ID情報の取得より前に撮影された画像から顔検出部310が検出した検出顔画像と、取得したID情報に対応する登録顔画像とを照合する。
顔照合部314は、N:1照合に際して、検出顔画像の顔特徴量と登録顔画像の顔特徴量との間の類似度に応じて照合スコアを算出する。照合スコアは、検出顔画像の顔特徴量と登録顔画像の顔特徴量との間の類似度が高いほど大きな値となる。顔照合部314は、ある検出顔画像についての照合の結果、照合スコアが所定の閾値未満の場合に照合が不一致であると判定し、次の検出顔画像の顔特徴量と登録顔画像の顔特徴量との照合を行う。一方、顔照合部314は、ある検出顔画像についての照合の結果、照合スコアが所定の閾値以上の場合に照合が一致したと判定し、照合処理を終了する。
N枚の検出顔画像について登録顔画像との顔特徴量の照合を行う順序は、特に限定されるものではない。例えば、N枚の検出顔画像について、撮影時刻の古い順若しくは新しい順に、又はランダムに登録顔画像との顔特徴量の照合を行うことができる。また、N枚の検出顔画像のそれぞれについて優先度を求めておき、優先度に基づいて登録顔画像との顔特徴量の照合を行う順序を決定することもできる。なお、優先度に基づいて登録顔画像との顔特徴量の照合を行う順序を決定する場合については、第2実施形態において説明する。
図5は、本実施形態における顔照合部314によるN:1照合の処理の例を示す概略図である。図5に示すように、着券前の所定の期間に撮影されたN枚の検出顔画像の顔特徴量を、着券のあった年間パスのID情報と関連付けられて登録されている登録顔画像の顔特徴量と順次照合する。N枚の検出顔画像について登録顔画像との顔特徴量の照合を行う順序は、例えば、撮影時刻の古い順とすることができる。
顔照合部314による照合が一致した場合、着券された年間パスの正当な利用者が、着券前にゲート装置10の前の来場者の中にいたことになる。このため、年間パスの正当な利用者が年間パスを着券したと推定することができる。したがって、この場合、顔照合による本人確認に成功したことになる。
一方、顔照合部314による照合がいずれも不一致であった場合、着券された年間パスの正当な利用者が、着券前にゲート装置10の前の来場者の中にいなかったことになる。したがって、この場合、顔照合による本人確認に失敗したことになる。
表示部306には、顔照合部314による照合結果等を表示することができる。施設のスタッフは、表示部306の表示を見ることにより照合結果等を確認することができる。
顔照合部314は、上記照合結果を示す信号である照合結果信号をゲート装置10に送信する。具体的には、顔照合部314は、顔照合部314による照合が一致したことを示す信号である照合一致信号、又は顔照合部314による照合がいずれも不一致であったことを示す信号である照合不一致信号をゲート装置10に送信する。
上述した顔照合装置30は、例えばコンピュータ装置により構成される。顔照合装置30のハードウェア構成の一例について図6を用いて説明する。なお、顔照合装置30は、単一の装置により構成されていてもよいし、有線又は無線で接続された2つ以上の物理的に分離された装置により構成されていてもよい。
顔照合装置30は、図6に示すように、CPU(Central Processing Unit)3002と、ROM(Read Only Memory)3004と、RAM(Random Access Memory)3006と、HDD(Hard Disk Drive)3008とを有している。また、顔照合装置30は、通信インターフェース(I/F(Interface))3010を有している。また、顔照合装置30は、ディスプレイコントローラ3012と、ディスプレイ3014とを有している。さらに、顔照合装置30は、入力装置3016を有している。CPU3002、ROM3004、RAM3006、HDD3008、及び通信I/F3010、ディスプレイコントローラ3012、及び入力装置3016は、共通のバスライン3018に接続されている。
CPU3002は、顔照合装置30の全体の動作を制御する。また、CPU3002は、上記顔照合制御部302における画像データ取得部308、顔検出部310、顔特徴量抽出部312、及び顔照合部314の各部の機能を実現するプログラムを実行する。CPU3002は、HDD3008等に記憶されたプログラムをRAM3006にロードして実行することにより、顔照合制御部302における各部の機能を実現する。
ROM3004は、ブートプログラム等のプログラムが記憶されている。RAM3006は、CPU3002がプログラムを実行する際のワーキングエリアとして使用される。また、HDD3008には、CPU3002が実行するプログラムが記憶されている。
また、HDD3008は、上記記憶部304の機能を実現する記憶装置である。なお、記憶部304の機能を実現する記憶装置は、HDD3008に限定されるものではない。種々の記憶装置を記憶部304の機能を実現するものとして用いることができる。
通信I/F3010は、ネットワーク60に接続されている。通信I/F3010は、ネットワーク60に接続されたデータセンタサーバ40との間のデータの通信を制御する。
ディスプレイコントローラ3012は、表示部306として機能するディスプレイ3014が接続されている。ディスプレイコントローラ3012は、顔照合部314による照合結果をディスプレイ3014に表示させる。
入力装置3016は、例えば、キーボード、マウス等である。また、入力装置3016は、ディスプレイ3014に組み込まれたタッチパネルであってもよい。施設のスタッフは、入力装置3016を介して、顔照合装置30の設定を行ったり、処理の実行の指示を入力したりすることができる。
なお、顔照合装置30のハードウェア構成は、上述した構成に限定されるものではなく、種々の構成とすることができる。
ゲート装置10のゲート制御部112は、顔照合部314から送信される照合結果信号に基づき、ゲート106の開閉を制御する。すなわち、ゲート制御部112は、顔照合部314から照合一致信号が送信された場合、ゲート106を開放させる。これにより、着券した来場者は、本人確認に成功した者として、ゲート装置10の通路114を通行して施設の場内に入場することができる。ゲート制御部112は、来場者が通路114を通行した後、ゲート106を閉鎖状態とする。
一方、ゲート制御部112は、顔照合部314から照合不一致信号が送信された場合、ゲート106の閉鎖状態を維持する。この際、ゲート制御部112は、ゲート装置10に設けられた不図示の警報器の警告音を鳴らしたり、警告灯を点灯させたりすること等により照合結果がいずれも不一致であることを示す警告を出すことができる。
データセンタサーバ40は、制御部402と、記憶部404とを有している。
制御部402は、データセンタサーバ40の動作を制御するものである。
記憶部404は、発行された年間パスのID情報と関連付けられて登録されている登録顔画像及びその顔特徴量が蓄積されている。
制御部402は、顔照合部314からの要求に応じて、着券があった年間パスのID情報と関連付けられて登録されている登録顔画像の顔特徴量を顔照合部314に提供する。
登録顔画像は、ウェブサーバ70により提供されるウェブストアで年間パスを購入する際に、購入者の端末からウェブサーバ70にアップロードすることができる。ウェブサーバ70にアップロードされた登録顔画像は、ウェブサーバ70からデータセンタサーバ40に送信される。登録顔画像が送信されたデータセンタサーバ40において、制御部402は、送信された登録顔画像を記憶部404に蓄積する。
また、チケットブースで年間パスを購入した購入者は、施設への初回の来場時に、ゲート装置10の手元カメラ110で登録顔画像を撮影することができる。手元カメラ110で撮影された登録顔画像は、顔照合装置30により、ネットワーク60を介してデータセンタサーバ40に送信され、その記憶部404に蓄積される。
また、チケットブースで年間パスを購入した購入者は、そのままチケットブースの手元カメラ(図示せず)で登録顔画像を撮影するようにしてもよい。チケットブースの手元カメラで撮影された登録顔画像は、チケットブース端末80により、ネットワーク60を介してデータセンタサーバ40に送信され、その記憶部404に蓄積される。
上記のようにしてデータセンタサーバ40の記憶部404に蓄積される登録顔画像については、顔照合装置30の顔特徴量抽出部312により抽出される顔特徴量と同様の顔特徴量が抽出されている。顔特徴量の抽出は、顔特徴量抽出部として機能する制御部402によって行われる。抽出された顔特徴量は、制御部402により、その登録顔画像が関連付けられた年間パスのID情報と関連付けられて記憶部404に蓄積される。
記憶部404には、リレーショナルデータベースが構成されている。記憶部404のリレーショナルデータベースには、上述のように、登録顔画像の顔特徴量が、年間パスのID情報、及び登録顔画像の顔画像データと関連付けられて保存される。互いに関連付けられたこれらのデータは、RDBMSにより管理される。RDBMSとしては、特に限定されるものではないが、例えばMicrosoft(登録商標)SQL Serverが用いられている。
なお、記憶部404のリレーショナルデータベースには、上記のほか、例えば、年間パスの正当な利用者である年間パスの購入者の氏名、連絡先等の情報が、年間パスのID情報と関連付けられて保存されている。
上述したデータセンタサーバ40は、例えばコンピュータ装置により構成される。データセンタサーバ40のハードウェア構成の一例について図7を用いて説明する。なお、データセンタサーバ40は、単一の装置により構成されていてもよいし、有線又は無線で接続された2つ以上の物理的に分離された装置により構成されていてもよい。
データセンタサーバ40は、図7に示すように、CPU4002と、ROM4004と、RAM4006と、HDD4008とを有している。また、データセンタサーバ40は、通信I/F4010を有している。CPU4002、ROM4004、RAM4006、HDD4008、及び通信I/F4010は、共通のバスライン4012に接続されている。
CPU4002は、データセンタサーバ40の全体の動作を制御する。また、CPU4002は、上記制御部402の機能を実現するプログラムを実行する。CPU4002は、HDD4008等に記憶されたプログラムをRAM4006にロードして実行することにより、制御部402の機能を実現する。
ROM4004は、ブートプログラム等のプログラムが記憶されている。RAM4006は、CPU4002がプログラムを実行する際のワーキングエリアとして使用される。また、HDD4008には、CPU4002が実行するプログラムが記憶されている。
また、HDD4008は、上記記憶部404の機能を実現する記憶装置である。なお、記憶部404の機能を実現する記憶装置は、HDD4008に限定されるものではない。種々の記憶装置を記憶部404の機能を実現するものとして用いることができる。
通信I/F4010は、ネットワーク60に接続されている。通信I/F4010は、ネットワーク60に接続された顔照合装置30との間のデータの通信を制御する。
なお、データセンタサーバ40のハードウェア構成は、上述した構成に限定されるものではなく、種々の構成とすることができる。
上述のように、本実施形態による顔照合システム1は、読み取り部108が年間パスからID情報を読み取る着券前に固定カメラ20により撮影された検出顔画像と、着券された年間パスのID情報と関連付けられて登録されている登録顔画像とを照合する。すなわち、本実施形態による顔照合システム1では、登録顔画像と照合すべき照合対象の画像である検出顔画像が、年間パスの着券前に予め取得されている。
このため、本実施形態によれば、来場者が年間パスを着券した後に、登録顔画像と照合すべき照合対象の画像としてその来場者の顔画像を施設のスタッフにより撮影する必要がない。また、来場者は、その顔画像の撮影を意識する必要がなく、撮影のために顔の位置合わせ等の特別の動作を行う必要もない。したがって、本実施形態によれば、短時間で円滑に顔照合を行うことができる。
次に、上記本実施形態による顔照合システム1を用いた本実施形態による顔照合方法についてさらに図8乃至図10を用いて説明する。
まず、本実施形態による顔照合方法の全体のフローについて図8を用いて説明する。図8は、本実施形態による顔照合方法を示すシーケンス図である。
固定カメラ20は、読み取り部108の設置場所への入口側であるゲート装置10の前の場所を撮影し、所定の周期で複数枚の画像を連続的に取得する(ステップS102)。また、固定カメラ20は、所定の周期で取得した複数枚の画像の画像データを、その周期に同期して顔照合装置30に送信する(ステップS104)。
画像データが送信される顔照合装置30において、画像データ取得部308は、固定カメラ20から送信される画像データを順次取得する。顔検出部310は、各画像について顔検出を行って顔画像を検出顔画像として検出する(ステップS106)。顔特徴量抽出部312は、各検出顔画像について顔特徴量を抽出して一時的に保存する(ステップS108)。
固定カメラ20及び顔照合装置30では、上記ステップS102~S108が繰り返し行われる。
一方、ゲート装置10において、年間パスの着券があると、読み取り部108は、着券のあった年間パスのID情報を読み取る(ステップS110)。続いて、ゲート制御部112は、読み取り部108により読み取られたID情報を顔照合装置30に送信する(ステップS112)。
ID情報が送信された顔照合装置30において、顔照合部314は、データセンタサーバ40にネットワーク60を介してID情報を送信して(ステップS114)、そのID情報と関連付けられて登録されている登録顔画像の顔特徴量を要求する。これにより、顔照合部314は、そのID情報と関連付けられて登録されている登録顔画像の顔特徴量をデータセンタサーバ40からネットワーク60を介してオンラインで取得する(ステップS116)。
また、顔照合部314は、その記憶部304のリレーショナルデータベースを参照して、着券前の所定の期間に含まれる撮影時刻と関連付けられたN枚の検出顔画像の顔特徴量をオフラインで取得する(ステップS118)。すなわち、顔照合部314は、読み取り部108がID情報を年間パスから読み取る前に撮影されたN枚の検出顔画像の顔特徴量を取得する。
なお、上記のステップS116及びステップS118は、どちらが先に行われてもよく、同時に行われてもよい。
次いで、顔照合部314は、取得した検出顔画像の顔特徴量及び登録顔画像の顔特徴量に基づき、N:1照合を行う(ステップS120)。
N:1照合を行った顔照合部314は、照合結果を示す照合結果信号をゲート装置10に送信する(ステップS122)。
照合結果信号が送信されたゲート装置10では、ゲート制御部112が、照合結果信号に基づき、ゲート106の開閉を制御する(ステップS124)。
ゲート装置10の読み取り部108に年間パスの着券があるたびに、ステップS110~S124が繰り返し行われる。
次に、本実施形態による顔照合方法における処理の詳細について図9及び図10を用いて説明する。図9及び図10は、それぞれ本実施形態による顔照合方法を示すフローチャートである。
まず、固定カメラ20による撮影から検出顔画像の顔特徴量を一時的に保存するまでの処理の詳細について図9を用いて説明する。
顔照合装置30には、固定カメラ20により撮影された画像の画像データが周期的に送信される。画像データ取得部308は、固定カメラ20から画像データが送信されるタイミングか否かを判定する(ステップS202)。画像データが送信されるタイミングでなければ(ステップS202、NO)、そのタイミングの到来を待機する。
固定カメラ20から画像データが送信されるタイミングであれば(ステップS202、YES)、画像データ取得部308は、固定カメラ20から送信される画像データを取得する(ステップS204)。画像データ取得部308は、次のステップS206の前に、取得した画像データに対して補正処理等の画像処理を行うことができる。
次いで、顔検出部310は、画像データ取得部308により取得される画像データの画像について顔検出を行い、その画像から、ゲート装置10の前の場所にいる来場者の顔画像を検出する(ステップS206)。顔画像が検出されなければ(ステップS208、NO)、ステップS202に戻り、固定カメラ20による次の画像データの送信を待機する。
顔検出部310により顔画像が検出されると(ステップS208、YES)、顔特徴量抽出部312は、検出された顔画像である検出顔画像について顔特徴量を抽出する(ステップS210)。
また、顔特徴量抽出部312は、検出顔画像の顔画像データを、その検出顔画像から抽出した顔特徴量とともに両者を関連づけて記憶部304に一時的に保存する(ステップS212)。この際、顔特徴量抽出部312は、検出顔画像について、顔画像データ及びその顔特徴量とともに、その画像データを特定する番号である検出番号と、その検出顔画像が撮影された撮影時刻とを関連づけて一時的に保存する。
上記図9に示す処理は、本実施形態による顔照合システム1が稼動している間、固定カメラ20から画像データが送信されるタイミングが到来するたびに繰り返し行われる。
次に、年間パスの着券があってからゲート制御までの処理について図10を用いて説明する。
ゲート装置10において、読み取り部108は、年間パスが着券されるまで待機する(ステップS302、NO)。着券を待機する間、ゲート106は、閉鎖状態となっている。
来場者により読み取り部108に年間パスが着券されると(ステップS302、YES)、読み取り部108は、年間パスに記録されたID情報を年間パスから読み取る(ステップS306)。
続いて、ゲート制御部112は、読み取り部108により読み取られたID情報を顔照合装置30に送信する(ステップS306)。
顔照合装置30において、顔照合部314は、ゲート制御部112から送信されたID情報を、ネットワーク60を介してデータセンタサーバ40に送信して、登録顔画像の顔特徴量を要求する。これにより、顔照合部314は、ネットワーク60を介してデータセンタサーバ40から、送信したID情報と関連付けられて登録されている登録顔画像の顔特徴量をオンラインで取得する(ステップS308)。
また、顔照合部314は、記憶部304のリレーショナルデータベースを参照して、年間パスの着券前の所定の期間に含まれる撮影時刻と関連付けられたN枚の検出顔画像の顔特徴量をオフラインで取得する(ステップS310)。
顔照合部314は、取得したN枚の検出顔画像の顔特徴量のそれぞれと、取得した登録顔画像の顔特徴量とを順次照合するN:1照合を行う(ステップS312)。顔照合部314は、ある検出顔画像についての照合の結果、照合スコアが所定の閾値未満の場合に照合が不一致であると判定し、次の検出顔画像の顔特徴量と登録顔画像の顔特徴量との照合を行う。一方、顔照合部314は、ある検出顔画像についての照合の結果、照合スコアが所定の閾値以上の場合に照合が一致したと判定し、照合処理を終了する。
顔照合部314による照合が一致した場合(ステップS314、YES)、顔照合部314は、顔照合部314による照合が一致したことを示す照合一致信号をゲート装置10に送信する(ステップS316)。
ゲート装置10において、ゲート制御部112は、顔照合部314から照合一致信号が送信されると、ゲート106を開放させる(ステップS318)。これにより、着券した来場者は、本人確認に成功した者として、ゲート装置10の通路114を通行して施設の場内に入場することができる。
ゲート制御部112は、来場者が通路114を通行した後、ゲート106を閉鎖状態とする(ステップS320)。
一方、顔照合部314による照合がいずれも不一致であった場合(ステップS314、NO)、顔照合部314は、顔照合部314による照合がいずれも不一致であったことを示す照合不一致信号をゲート装置10に送信する(ステップS322)。
ゲート装置10において、ゲート制御部112は、顔照合部314から照合不一致信号が送信されると、ゲート106の閉鎖状態を維持する(ステップS324)。この際、ゲート制御部112は、ゲート装置10に設けられた不図示の警報器の警告音を鳴らしたり、警告灯を点灯させたりすること等により警告を出す(ステップS326)。この結果、着券した来場者は、本人確認に失敗した者として、この段階では、施設の場内に入場することができない。この場合、例えば、施設のスタッフにより本人確認が改めて行われる等の対処がなされる。
上記図10に示す処理は、本実施形態による顔照合方法を行っている間、ゲート装置10の読み取り部108に着券があるたびに繰り返し行われる。
このように、本実施形態によれば、年間パスの着券前に固定カメラ20により撮影された画像から検出された検出顔画像の顔特徴量と、着券された年間パスのID情報と関連付けられて登録されている登録顔画像の顔特徴量とを照合する。したがって、本実施形態によれば、短時間で円滑に顔照合を行うことができる。
なお、上記では、図3に示すように、固定カメラ20により撮影された1フレームの画像に1人の来場者が撮影されている場合を例に説明したが、固定カメラ20により撮影された1フレームの画像には、複数人の来場者が撮影される場合もありうる。
図11は、固定カメラ20により撮影された1フレームの画像の他の例を示している。図11に示すように、1フレームの画像Iには、ゲート装置10の前の場所にいる3人の来場者Vp、Vq、Vrが撮影されている。このように、固定カメラ20により撮影された1フレームの画像Iに、複数人の来場者が撮影されている場合がある。このような場合、顔検出部310は、固定カメラ20により撮影された画像Iから、図11中の検出枠316p、316q、316rで示すように、複数人の来場者Vp、Vq、Vrのそれぞれの顔画像を検出する。こうして1フレームの画像から検出された複数の検出顔画像は、それぞれ登録顔画像と照合すべき照合対象の画像として上記と同様に処理される。
[第2実施形態]
本発明の第2実施形態による顔照合システム及び顔照合方法について図12及び図13を用いて説明する。図12は、本実施形態による顔照合システムの機能構成を示すブロック図である。図13は、本実施形態による顔照合システムにおけるN:1照合の処理の例を示す概略図である。なお、上記第1実施形態による顔照合システム及び顔照合方法と同様の構成要素については同一の符号を付し説明を省略し又は簡略にする。
本実施形態による顔照合システムの基本的構成は、第1実施形態による顔照合システムの構成とほぼ同様である。本実施形態による顔照合システムは、顔照合装置30が、検出顔画像についてN:1照合を行う際の優先度を算出する優先度算出部をさらに有する点で、第1実施形態による顔照合システムとは異なっている。
図12に示すように、本実施形態による顔照合システム2において、顔照合装置30の顔照合制御部302が、優先度算出部318をさらに有している。
優先度算出部318は、顔検出部310により検出された検出顔画像のそれぞれについて、登録顔画像との顔特徴量の照合を行う順序を決定するための優先度を算出する。優先度算出部318は、種々の要素に基づき優先度を算出することができる。
優先度算出部318が優先度を算出するための要素としては、固定カメラ20により撮影された画像における検出顔画像の位置関係が例示される。固定カメラ20により撮影された画像においてゲート装置10の読み取り部108により近い位置の検出顔画像の人物ほど、読み取り部108に年間パスを着券する可能性がより高い。したがって、固定カメラ20により撮影された画像において読み取り部108により近い位置の検出顔画像ほど、優先度をより高く設定することができる。
また、優先度算出部318が優先度を算出するための要素として、検出顔画像の顔らしさを評価する評価値である顔らしさスコアを例示することができる。例えば、顔らしさスコアは、その値がより高いほど、検出顔画像がより顔らしいことを示している。したがって、顔らしさスコアがより高い検出顔画像ほど、優先度をより高く設定することができる。
また、優先度算出部318が優先度を算出するための要素として、検出顔画像の品質が例示される。検出顔画像の品質がより高いほど、精度のより高い照合を行うことができる。したがって、品質がより高い検出顔画像ほど、優先度をより高く設定することができる。
優先度算出部318は、上述したような要素のうちのいずれか又は要素の組み合わせに基づき、優先度を算出することができる。例えば、優先度の値は、優先度がより高いほど小さな値とすることができる。
優先度算出部318は、検出顔画像のそれぞれについて、算出した優先度を、記憶部304に構成されているリレーショナルデータベースに、検出番号、撮影時刻、及び顔画像データと関連付けて保存する。
なお、本実施形態においても、顔照合装置30は、図6に示すハードウェア構成と同様のハードウェア構成を有することができる。この場合、CPU3002は、優先度算出部318の機能を実現するプログラムを実行する。
図13は、本実施形態における顔照合部314によるN:1照合の処理の例を示す概略図である。顔照合部314は、図13に示すように、年間パスの着券前の所定の期間に撮影されたN枚の検出顔画像の顔特徴量を、優先度が高い順に、着券のあった年間パスのID情報と関連付けられて登録されている登録顔画像の顔特徴量と順次照合する。
このように、本実施形態では、N枚の検出顔画像について登録顔画像との顔特徴量の照合を行う順序を、優先度の高い順とするので、N:1照合を効率よく行うことができる。したがって、本実施形態によれば、より短時間でより円滑に顔照合を行うことができる。
[第3実施形態]
本発明の第3実施形態による顔照合システム及び顔照合方法について図14A、図14B及び図15を用いて説明する。図14A及び図14Bは、本実施形態による顔照合システムにおける固定カメラにより撮影された異なる画像の例を示す概略図である。図15は、本実施形態による顔照合システムの機能構成を示すブロック図である。なお、上記第1及び第2実施形態による顔照合システム及び顔照合方法と同様の構成要素については同一の符号を付し説明を省略し又は簡略にする。
本実施形態による顔照合システムの基本的構成は、第1実施形態による顔照合システムの構成とほぼ同様である。本実施形態による顔照合システムは、顔照合装置30が、固定カメラ20により撮影された異なるフレームの画像に同一人物の来場者が撮影されている場合の処理を行う同一人物処理部をさらに有する点で、第1実施形態による顔照合システムとは異なっている。
固定カメラ20によりゲート装置10の前の場所を撮影している場合、異なるフレームの画像に、同一人物の来場者が撮影される場合がある。
図14A及び図14Bは、それぞれ固定カメラ20により連続して撮影された異なるフレームの画像Im、Inを示している。画像Inは、画像Imよりも新しいフレームの画像である。画像Imに、来場者Vs、Vt、Vuが撮影されている。一方、画像Imよりも新しい画像Inにも、画像Imに撮影されていた来場者Vsが撮影されている。
本実施形態では、このように異なるフレームの画像に同一人物の来場者が撮影された場合に、検出顔画像を同一人物ごとに分類する。そして、その同一人物の検出顔画像について、品質等に基づく優先度を求め、優先度の高い順に登録顔画像との顔特徴量の照合を行う。これにより、より効率的なN:1照合を行うことができる。
図15に示すように、本実施形態による顔照合システム3において、顔照合装置30の顔照合制御部302が、同一人物処理部320をさらに有している。
同一人物処理部320は、顔検出部310により検出された検出顔画像のそれぞれ同一人物ごとに分類する。さらに、同一人物処理部320は、同一人物ごとに分類された複数の検出顔画像について、登録顔画像との顔特徴量の照合を行う順序を決定するための優先度を算出する。同一人物処理部320は、第2実施形態による優先度算出部318と同様に、検出顔画像の位置関係、顔らしさスコア、品質等の要素に基づき、優先度を算出することができる。
なお、本実施形態においても、顔照合装置30は、図6に示すハードウェア構成と同様のハードウェア構成を有することができる。この場合、CPU3002は、同一人物処理部320の機能を実現するプログラムを実行する。
顔照合部314は、N:1照合の際に、同一人物に分類された複数の検出顔画像については、優先度の高い順に登録顔画像との顔特徴量の照合を行う。
このように、本実施形態によれば、N:1照合の際に、同一人物に分類された検出顔画像については、優先度の高い順に登録顔画像との顔特徴量の照合を行うので、N:1照合を効率よく行うことができる。したがって、本実施形態によれば、より短時間でより円滑に顔照合を行うことができる。
なお、上記では、第1実施形態による顔照合システムの構成に加えて同一人物処理部320をさらに有する場合について説明したが、これに限定されるものではない。第2実施形態による顔照合システムの構成に加えて同一人物処理部320をさらに有するようにすることもできる。
[第4実施形態]
本発明の第4実施形態による顔照合システム及び顔照合方法について図16、図17A、図17B及び図17Cを用いて説明する。図16は、本実施形態による顔照合システムにおける登録顔画像の自動更新を示すフローチャートである。図17A、図17B及び図17Cは、本実施形態による顔照合システムにおける登録顔画像の自動更新における各種データを示す概略図である。なお、上記第1乃至第3実施形態による顔照合システム及び顔照合方法と同様の構成要素については同一の符号を付し説明を省略し又は簡略にする。
本実施形態による顔照合システムの基本的構成は、第1実施形態による顔照合システムの構成とほぼ同様である。本実施形態による顔照合システムは、顔照合装置30の顔照合部314による照合が一致した場合に、その照合結果に基づき、データセンタサーバ40に保存されている登録顔画像を更新するものである。
以下、本実施形態による顔照合システムにおける登録顔画像の更新処理について図16、図17A、図17B及び図17Cを用いて説明する。
顔照合装置30において、顔照合部314は、N:1照合の結果、照合が一致した場合に、その照合結果を保存する(ステップS402)。顔照合部314は、照合結果を記憶部304に保存することもできるし、記憶部304とは別個に設けられた記憶部に保存することもできる。
図17Aは、顔照合部314が保存する照合結果の例を示している。図17(Aに示すように、着券された年間パスのID情報と、登録顔画像との照合が一致した検出顔画像の画像データと、その検出顔画像の顔特徴量と、照合スコアとを関連付けて保存する。照合結果は、着券があった年間パスのID情報ごとに保存される。なお、顔照合部314は、さらに、例えば、照合が一致した検出顔画像の顔らしさスコアその他の情報もあわせて関連付けて保存することができる。
次いで、顔照合部314は、保存した照合結果を、定期又は不定期にデータセンタサーバ40に送信する(ステップS404)。例えば、顔照合部314は、日次で照合結果をデータセンタサーバ40に送信することができる。
照合結果が送信されるデータセンタサーバ40において、制御部402は、送信された照合結果を保存する(ステップS406)。制御部402は、照合結果を記憶部404に保存することもできるし、記憶部404とは別個に設けられた記憶部に保存することもできる。
次いで、制御部402は、保存した照合結果を、定期又は不定期に処理する。具体的には、制御部402は、ID情報に関連付けられた検出顔画像を、そのID情報に関連付けられた登録顔画像として新たに追加して記憶部404に保存する(ステップS408)。また、新たに追加した登録顔画像の顔特徴量も、そのID情報に関連付けて記憶部404に保存する。こうして、同一のID情報について、複数の登録顔画像及びその顔特徴量が関連付けられて保存されて登録される。このように、制御部402は、登録顔画像との照合が一致した検出顔画像を新たな登録顔画像として追加登録して、登録顔画像を追加更新する更新部として機能する。
図17Bは、同一のID情報に関連付けられて登録された複数の登録顔画像及びその顔特徴量を示している。図17Bに示すように、制御部402は、既存の登録顔画像に加えて、新たな登録顔画像として、照合が一致した検出顔画像を顔特徴量とともに追加保存する。
次いで、制御部402は、同一のID情報に関連付けられて保存された複数の登録顔画像の優先度を更新する(ステップS410)。制御部402は、第2実施形態による優先度算出部318と同様に顔らしさスコア等に基づき優先度を算出して、複数の登録顔画像の優先度を更新することができる。
図17Cは、図17Bに示す複数の登録顔画像について優先度を算出した場合を示している。
こうして優先度が更新された複数の登録顔画像は、優先度の高い順に、顔照合装置30の顔照合部314によるN:1照合が行われる。
上記図16に示す処理は、本実施形態による顔照合システムが稼働している間、繰り返し行われる。
このように、本実施形態によれば、顔照合装置30の顔照合部314による照合結果に基づき、データセンタサーバ40に保存されている登録顔画像を更新するので、顔照合の精度を高く維持することができる。
なお、上記では、第1実施形態による顔照合システムにおいて登録顔画像を更新するも場合について説明したが、これに限定されるものではない。第2及び第3実施形態による顔照合システムにおいても上記と同様に登録顔画像を更新することができる。
[第5実施形態]
本発明の第5実施形態による顔照合システム及び顔照合方法について図18を用いて説明する。図18は、本実施形態による顔照合方法を示すフローチャートである。なお、上記第1乃至第4実施形態による顔照合システム及び顔照合方法と同様の構成要素については同一の符号を付し説明を省略し又は簡略にする。
本実施形態では、第1実施形態による顔照合システムにおいて、固定カメラ20により撮影された画像に基づく顔照合による本人確認に失敗した場合に、手元カメラ110により来場者の顔画像を撮影して顔照合を行う。以下、本実施形態による顔照合方法について図18を用いて説明する。
本実施形態でも、第1実施形態と同様に、固定カメラ20により撮影された画像に基づき、顔照合による本人確認が行われる。図18に示すように、ステップS302~S314、照合が一致した場合のステップS316~S320、及び照合がいずれも不一致であった場合のステップS322~S326は、第1実施形態と同様に行われるので、説明を省略する。
固定カメラ20により撮影された画像に基づく顔照合による本人確認に失敗して警告が出されると(ステップS326)、施設のスタッフは、ゲート装置10の手元カメラ110を用いて、その本人確認に失敗した来場者の顔を撮影する(ステップS502)。なお、以下では、手元カメラ110により撮影された来場者の顔の顔画像を手元顔画像ともいう。
手元カメラ110により手元顔画像が撮影されると、ゲート制御部112は、手元顔画像の画像データを顔照合装置30に送信する。
顔照合装置30において、顔特徴量抽出部312は、送信された手元顔画像の顔特徴量を抽出する。
次いで、顔照合部314は、顔特徴量抽出部312により抽出された手元顔画像の顔特徴量と、着券があった年間パスのID情報に関連付けられて登録されている登録顔画像の顔特徴量とを照合する(ステップS504)。
手元顔画像に基づく顔照合部314による照合が一致した場合(ステップS506、YES)、ステップS316に移行して、ゲート106を開放する(ステップS318)。着券した来場者は、手元顔画像に基づく顔照合により本人確認に成功した者として、ゲート装置10の通路114を通行して施設の場内に入場することができる。その後、ゲート106を閉鎖状態とする(ステップS320)。
一方、手元顔画像に基づく顔照合部314による照合が不一致であった場合(ステップS506、NO)、着券した来場者は、手元顔画像に基づく顔照合による本人確認にも失敗した者として、施設のスタッフにより対処がなされる(ステップS508)。例えば、施設のスタッフによる対処として、施設のスタッフにより改めて本人確認が行われる。
本実施形態のように、固定カメラ20による検出顔画像に基づく顔照合による本人確認が失敗した場合には、手元カメラ110による手元顔画像に基づく顔照合による本人確認を行うことができる。
なお、上記では、第1実施形態による顔照合システムにおいて手元カメラ110による手元顔画像に基づく顔照合を行う場合について説明したが、これに限定されるものではない。第2乃至第4実施形態による顔照合システムにおいても上記と同様に手元カメラ110による手元顔画像に基づく顔照合を行うことができる。
[第6実施形態]
本発明の第6実施形態による顔照合システム及び顔照合方法について図19及び図20を用いて説明する。図19は、本実施形態による顔照合方法を示すフローチャートである。図20は、本実施形態による顔照合方法において表示部に表示する照合画面の例を示す概略図である。なお、上記第1乃至第5実施形態による顔照合システム及び顔照合方法と同様の構成要素については同一の符号を付し説明を省略し又は簡略にする。
本実施形態では、第1実施形態による顔照合システムにおいて、固定カメラ20により撮影された画像に基づく顔照合による本人確認に失敗した場合に、施設のスタッフの目視により登録顔画像と検出顔画像とをマニュアルで照合する。以下、本実施形態による顔照合方法について図19及び図20を用いて説明する。
本実施形態でも、第1実施形態と同様に、固定カメラ20により撮影された画像に基づき、顔照合による本人確認が行われる。図19に示すように、ステップS302~S314、照合が一致した場合のステップS316~S320、及び照合がいずれも不一致であった場合のステップS322~S326は、第1実施形態と同様に行われるので、説明を省略する。
固定カメラ20により撮影された画像に基づく顔照合による本人確認に失敗して警告が出されると(ステップS326)、顔照合装置30において、顔照合部314は、施設のスタッフに対して照合画面を表示部306に表示する(ステップS602)。具体的には、顔照合部314は、N:1照合を行った登録顔画像とN枚の検出顔画像とを表示した照合画面を表示部306に表示する。
図20は、表示部306に表示される照合画面の例を示している。図20に示すように、照合画面322には、登録顔画像とともに、顔照合部314による照合が一致しなかったN枚の検出顔画像が表示されている。N枚の検出顔画像は、いずれも顔照合部314による照合の結果、照合が不一致であると判定されたものである。このように、表示部306に表示される照合画面322には、登録顔画像と、顔照合部314による照合が一致しなかったN枚の検出顔画像とが、施設のスタッフが目視により照合できるように表示される。
施設のスタッフは、表示部306に表示された照合画面を見て、マニュアルで照合を行う(ステップS604)。具体的には、施設のスタッフは、照合画面に表示されているN枚の検出顔画像の中から、あわせて表示されている登録顔画像の人物と同一人物であると判断される検出顔画像を選択する。表示部306は、例えば、タッチパネルで構成され、入力部としても機能するものになっている。この場合、施設のスタッフは、照合画面に表示されている検出顔画像をタッチして、選択結果を顔照合装置30に入力することができる。なお、マウス、キーボード等の他の入力部により選択結果を顔照合装置30に入力することもできる。
マニュアル照合の結果、照合が一致した場合(ステップS606、YES)、すなわち登録顔画像の人物と同一人物であると判断される検出顔画像が選択された場合、ステップS316に移行して、ゲート106を開放する(ステップS318)。着券した来場者は、施設のスタッフによるマニュアル照合に基づく顔照合により本人確認に成功した者として、ゲート装置10の通路114を通行して施設の場内に入場することができる。その後、ゲート106を閉鎖状態とする(ステップS320)。
一方、マニュアル照合の結果、照合が不一致であった場合(ステップS606、NO)、すなわち、登録顔画像の人物と同一人物であると判断される検出顔画像がない場合、施設のスタッフにより本人確認が改めて行われる等の対処がなされる(ステップS608)。
上記のようにマニュアル照合において施設のスタッフにより選択された検出顔画像は、新しい登録顔画像として登録することができる。この場合、顔照合装置30の顔照合部314は、選択された検出顔画像の画像データ及びその顔特徴量をデータセンタサーバ40に送信する。
データセンタサーバ40において、制御部402は、送信された検出顔画像を新しい登録顔画像として、着券があった年間パスのID情報と関連付けて記憶部404に保存する。その際、制御部402は、新しい登録顔画像の顔特徴量もあわせて、着券があった年間パスのID情報と関連付けて記憶部404に保存する。
本実施形態のように、固定カメラ20による検出顔画像に基づく顔照合による本人確認が失敗した場合には、施設のスタッフの目視によるマニュアル照合に基づいて本人確認を行うことができる。
なお、上記では、第1実施形態による顔照合システムにおいて施設のスタッフの目視によるマニュアル照合を行う場合について説明したが、これに限定されるものではない。第2乃至第5実施形態による顔照合システムにおいても上記と同様に施設のスタッフの目視によるマニュアル照合を行うことができる。
[第7実施形態]
本発明の第7実施形態による顔照合システム及び顔照合方法について図21を用いて説明する。図21は、本実施形態による顔照合システムの機能構成を示すブロック図である。なお、上記第1乃至第6実施形態による顔照合システム及び顔照合方法と同様の構成要素については同一の符号を付し説明を省略し又は簡略にする。
本実施形態による顔照合システムの基本的構成は、第1実施形態による顔照合システムの構成とほぼ同様である。本実施形態による顔照合システムは、データセンタサーバ40の記憶部404に蓄積されている情報の一部が顔照合装置30に保存されている。この点で、本実施形態による顔照合システムは、第1実施形態による顔照合システムとは異なっている。
図21に示すように、本実施形態による顔照合システム4において、記憶部324をさらに有している。なお、記憶部324は、記憶部304と同一の記憶装置により構成されていてもよい。
記憶部324は、発行された年間パスのID情報と関連付けられて登録されている登録顔画像及びその顔特徴量が保存されている。記憶部324に保存されている登録顔画像及びその顔特徴量は、データセンタサーバ40の記憶部404に蓄積されている登録顔画像及びその顔特徴量の一部である。
記憶部324には、リレーショナルデータベースが構成されている。記憶部324のリレーショナルデータベースには、上述のように、登録顔画像の顔特徴量が、年間パスのID情報、及び登録顔画像の顔画像データと関連付けられて保存される。互いに関連付けられたこれらのデータは、RDBMSにより管理される。RDBMSとしては、特に限定されるものではないが、例えばMicrosoft(登録商標)SQL Serverが用いられている。
本実施形態においても、第1実施形態と同様に、まず、顔照合部314は、着券があった年間パスのID情報と関連付けられて登録されている登録顔画像の顔特徴量をデータセンタサーバ40からネットワーク60を介してオンラインで取得することを試みる。
この際、顔照合装置30がオフライン状態にある等の理由により、顔照合装置30がネットワーク60を介してデータセンタサーバ40に接続することができないことがある。顔照合装置30がデータセンタサーバ40に接続することができなければ、顔照合部314は、ネットワーク60を介してデータセンタサーバ40から登録顔画像の顔特徴量をオンラインで取得することができない。
この場合、顔照合部314は、顔照合装置30が有する記憶部324のリレーショナルデータベースを参照して、着券があった年間パスのID情報に関連付けられて登録されている登録顔画像の顔特徴量をオフラインで取得する。
顔照合部314は、顔照合装置30が有する記憶部324から取得した登録顔画像を用いて、第1実施形態と同様にN:1照合を行うことができる。
このように、本実施形態によれば、顔照合装置30が、年間パスのID情報と関連付けられて登録されている登録顔画像及びその顔特徴量が保存されている記憶部324をオフラインで有する。したがって、本実施形態によれば、データセンタサーバ40から登録顔画像の顔特徴量をオンラインで取得することができない場合であっても顔照合を行うことができる。
[第8実施形態]
本発明の第8実施形態による顔照合システム及び顔照合方法について図22乃至図24を用いて説明する。なお、上記第1乃至第7実施形態による顔照合システム及び顔照合方法と同様の構成要素については同一の符号を付し説明を省略し又は簡略にする。
まず、本実施形態による顔照合システムについて図22及び図23を用いて説明する。図22は、本実施形態による顔照合システムを示す概略図である。図23は、本実施形態による顔照合システムの機能構成を示すブロック図である。
上記第1乃至第8実施形態では、施設の入場口において入場チケットを利用して施設の場内に入場しようとする来場者を認証対象者として顔照合により本人確認を行う場合について説明した。しかしながら、顔照合による本人確認を行う場面はこれに限定されるものではない。本実施形態では、店舗におけるレジ端末が設置されたレジカウンタ等の会計場所において、クレジットカード、デビットカード、電子マネー等による電子決済を行う買物客を認証対象者として、顔照合により本人確認を行う場合について説明する。
図22及び図23に示すように、本実施形態による顔照合システム5は、レジ端末810と、固定カメラ20と、顔照合装置30と、データセンタサーバ40と、電子決済サーバ820とを含んでいる。レジ端末810、固定カメラ20、及び顔照合装置30は、店舗の会計場所850に設置されている。一方、データセンタサーバ40は、例えば、会計場所850から離れた地にあるデータセンタ内に設置されている。また、電子決済サーバ820は、例えば、電子決済のシステムを提供する事業者のサーバである。
顔照合装置30及びデータセンタサーバ40は、第1実施形態と同様に、それぞれネットワーク60を介してネットワーク接続されており、ネットワーク60を介して互いに通信可能になっている。
また、レジ端末810及び電子決済サーバ820は、それぞれネットワーク60を介してネットワーク接続されており、ネットワーク60を介して互いに通信可能になっている。
また、レジ端末810及び固定カメラ20は、それぞれケーブル接続等により顔照合装置30に通信可能に直接ローカル接続されている。レジ端末810及び固定カメラ20と顔照合装置30との接続は、有線方式であっても無線方式であってもよい。
次に、本実施形態における顔照合システム5における各構成要素について詳述する。
レジ端末810は、買物客が購入する購入商品の価格情報その他の情報を読み取り、購入商品について会計処理を行うものである。レジ端末810は、後述するように、顔照合により本人確認に成功した場合に通知される電子決済情報に基づき、会計処理を実行する。
レジ端末810には、読み取り部830が接続されている。読み取り部830は、レジ端末810に隣接してレジ端末810の近傍に設置されている。読み取り部830は、買物客が所持する店舗の会員カードに記録された情報を読み取るものである。具体的には、会員カードには、その会員カードを一意に特定するID情報が記録されている。読み取り部830は、ID情報を会員カードから読み取る。読み取り部830が読み取るID情報は、例えば、会員カードの会員番号である。店舗を利用する買物客は、店舗の利用に際して会員カードを所持しており、会計に際して会員カードを読み取り部830に読み取らせる。会員カードは、認証対象者である買物客が所持し、その買物客が会計をする際に必要となる媒体であって、これを一意に特定するID情報が記録されたものである。後述するように、データセンタサーバ40には、会員カードのID情報に関連付けられてその会員カードの発行を受けた会員登録者に関する情報が蓄積されている。
読み取り部830は、会員カードのID情報の記録方式に応じた読み取り方式を有している。例えば、会員カードが、バーコード等の一次元コード、QRコード(登録商標)等の二次元コードにID情報が記録されているものである場合、読み取り部830は、バーコードリーダ、QRコードリーダ等のコードリーダである。また、例えば、会員カードが、RFIDによる非接触ICカード又は非接触ICタグにID情報が記録されているものである場合、読み取り部830は、RFIDリーダである。
読み取り部830は、読み取り部830に会員カードの着券があると、会員カードに記録されたID情報を会員カードから読み取る。なお、ここで、着券とは、認証対象者である買物客が、会員カードに記録されたID情報を含む情報を読み取り部830に読み取らせることをいう。
読み取り部830は、会員カードから読み取ったID情報をレジ端末810に送信する。レジ端末810は、読み取り部830から送信された会員カードのID情報を顔照合装置30に送信する。
また、レジ端末810は、後述の顔照合装置30から送信される電子決済情報に基づき、会計処理を実行する。
固定カメラ20は、レジ端末810に対して会計場所850の出口側に設置された支柱202の上端部に固定されている。固定カメラ20は、レジ端末810の前の場所を撮影するものであり、会計場所850の入口側を向く向きが固定されている。固定カメラ20は、会計場所850における地表面から例えば200cm程度の人の頭上に位置する高さに固定されており、レジ端末810の前の場所に向けて斜め下を向いている。なお、固定カメラ20の固定方式は、支柱202による方式に限定されるものではない。例えば、固定カメラ20は、天井から吊り下げられて固定されていてもよい。
上記のように固定された固定カメラ20は、レジ端末810及び読み取り部830の設置場所への入口側であるレジ端末810の前の場所を撮影するようになっている。これにより、固定カメラ20は、読み取り部830の設置場所への入口側であるレジ端末810の前の場所にいる買物客Cを撮影することができる。
固定カメラ20のその他の点は、上記第1実施形態と同様であるので説明を省略する。
顔照合装置30は、第1実施形態と同様に、顔照合制御部302と、記憶部304と、表示部306とを有している。顔照合制御部302は、画像データ取得部308と、顔検出部310と、顔特徴量抽出部312と、顔照合部314とを含んでいる。
画像データ取得部308は、第1実施形態と同様に、所定の周期で固定カメラ20から送信される画像の画像データを順次取得する。
顔検出部310は、第1実施形態と同様に、画像データ取得部308により順次取得される画像データの画像のそれぞれについて顔検出を行う。なお、本実施形態では、レジ端末810の前の場所にいる買物客の顔画像を検出する。
顔特徴量抽出部312は、第1実施形態と同様に、顔検出部310により検出された検出顔画像のそれぞれについて、顔特徴量を抽出する。また、顔特徴量抽出部312は、第1実施形態と同様に、顔特徴量抽出部312は、検出顔画像のそれぞれについて、顔画像データ、顔特徴量、検出番号、及び撮影時刻を関連づけて記憶部304に一時的に保存する。
記憶部304には、第1実施形態と同様に、リレーショナルデータベースが構成されており、検出顔画像のそれぞれについて、その撮影時刻から一定の時間だけ、顔特徴量及びこれに関連するデータが保存される。
顔照合部314は、レジ端末810に接続された読み取り部830に会員カードの着券があると、読み取り部830に会員カードを着券した買物客について、顔照合による本人確認を行う。
顔照合部314には、着券された会員カードから読み取り部830により読み取られたID情報が送信される。顔照合部314は、送信されたID情報を取得し、ネットワーク60を介して後述のデータセンタサーバ40から、そのID情報と関連付けられて登録されている登録顔画像の顔特徴量を取得する。こうして顔照合部314により取得された登録顔画像の人物は、着券された会員カードを正当に利用することができる正当な利用者である。会員カードの正当な利用者は、例えば、その会員カードの発行を受けた会員登録者である。
また、顔照合部314は、第1実施形態と同様に、記憶部304のリレーショナルデータベースを参照して、着券前の所定の期間に含まれる撮影時刻と関連付けられたN枚の検出顔画像の顔特徴量を取得する。すなわち、顔照合部314は、読み取り部830がID情報を会員カードから読み取る前に固定カメラ20により撮影されたN枚の検出顔画像の顔特徴量を取得する。
顔照合部314は、第1実施形態と同様に、会員カードの着券前に撮影されたN枚の検出顔画像の顔特徴量のそれぞれと、登録顔画像の顔特徴量とを順次照合するN:1照合を行う。
顔照合部314による照合が一致した場合、着券された会員カードの正当な利用者が、着券前にレジ端末810の前の買物客の中にいたことになる。このため、会員カードの正当な利用者が会員カードを着券したと推定することができる。したがって、この場合、顔照合による本人確認に成功したことになる。
一方、顔照合部314による照合がいずれも不一致であった場合、着券された会員カードの正当な利用者が、着券前にレジ端末810の前の買物客の中にいなかったことになる。したがって、この場合、顔照合による本人確認に失敗したことになる。
表示部306には、顔照合部314による照合結果等を表示することができる。店舗のスタッフは、表示部306の表示を見ることにより照合結果等を確認することができる。
顔照合部314は、上記照合結果を示す信号である照合結果信号をレジ端末810に送信する。具体的には、顔照合部314は、顔照合部314による照合が一致したことを示す信号である照合一致信号、又は顔照合部314による照合がいずれも不一致であったことを示す信号である照合不一致信号をレジ端末810に送信する。
さらに、顔照合部314は、照合が一致した場合に、ネットワーク60を介して後述のデータセンタサーバ40から決済手段情報を取得する。決済情報は、照合が一致した会員カードのID情報に関連付けられて保存されている電子決済を実行するための情報であり、例えば、クレジットカード番号、電子マネーのID情報である。顔照合部314は、取得した決済手段情報を、照合一致信号とともにレジ端末810に送信する。
レジ端末810は、顔照合部314から照合一致信号が送信された場合に、電子決済を後述の電子決済サーバ820に要求する。この場合、レジ端末810は、照合一致信号とともに送信される決済手段情報と、購入商品の会計金額とを含む情報である電子決済情報を電子決済サーバ820に送信する。
一方、レジ端末810は、顔照合部314から照合不一致信号が送信された場合、レジ端末810を操作する店舗のスタッフに対して、警告表示、警告音等により電子決済ができないことを示す警告を通知する。
データセンタサーバ40は、第1実施形態と同様に、制御部402と、記憶部404とを有している。
記憶部404は、発行された会員カードのID情報と関連付けられて登録されている登録顔画像及びその顔特徴量が蓄積されている。さらに、記憶部404には、会員カードのID情報に関連付けられた決済手段情報が保存されている。
制御部402は、顔照合部314からの要求に応じて、着券があった会員カードのID情報と関連付けられて登録されている登録顔画像の顔特徴量を顔照合部314に提供する。さらに、制御部402は、顔照合部314からの要求に応じて、着券があった会員カードのID情報と関連付けられた決済手段情報を顔照合部314に提供する。
登録顔画像は、例えば、店舗の会員カードを買物客が取得する際に、店舗内の端末、買物客の端末等からデータセンタサーバ40にアップロードすることができる。データセンタサーバ40において、制御部402は、アップロードされた登録顔画像を記憶部404に蓄積する。
上記のようにしてデータセンタサーバ40の記憶部404に蓄積される登録顔画像については、第1実施形態と同様に、顔特徴量が抽出されて記憶部404に蓄積される。
記憶部404には、第1実施形態と同様に、リレーショナルデータベースが構成されており、登録顔画像の顔特徴量が、会員カードのID情報、及び登録顔画像の顔画像データと関連付けられて保存される。さらに、記憶部404には、会員カードのID情報に関連付けられて決済手段情報が保存されている。
なお、記憶部404のリレーショナルデータベースには、上記のほか、例えば、会員カードの正当な利用者である会員登録者の氏名、連絡先等の情報が、会員カードのID情報と関連付けられて保存されている。
電子決済サーバ820は、クレジットカード、電子マネー等による電子決済を行う。電子決済サーバ820は、レジ端末810から送信される電子決済情報に基づき、買物客が購入した商品について電子決済を実行する。
上述のように、本実施形態による顔照合システム5は、読み取り部830が会員カードからID情報を読み取る着券前に固定カメラ20により撮影された検出顔画像と、着券された会員カードのID情報と関連付けられて登録されている登録顔画像とを照合する。すなわち、本実施形態による顔照合システム5では、登録顔画像と照合すべき照合対象の画像である検出顔画像が、会員カードの着券前に予め取得されている。
このため、本実施形態によれば、買物客が会員カードを着券した後に、登録顔画像と照合すべき照合対象の画像としてその買物客の顔画像を店舗のスタッフにより撮影する必要がない。また、買物客は、その顔画像の撮影を意識する必要がなく、撮影のために顔の位置合わせ等の特別の動作を行う必要もない。したがって、本実施形態によれば、短時間で円滑に顔照合を行うことができる。
次に、本実施形態による顔照合システム5を用いた本実施形態による顔照合方法についてさらに図24を用いて説明する。図24は、本実施形態による顔照合方法を示すフローチャートである。
固定カメラ20は、読み取り部830の設置場所への入口側であるレジ端末810の前の場所を撮影し、所定の周期で複数枚の画像を連続的に取得する。固定カメラ20による撮影から検出顔画像の顔特徴量を一時的に保存するまでの処理は、固定カメラ20による撮影場所が異なる点を除き、第1実施形態の図9に示す処理と同様であるので説明を省略する。
以下、会員カードの着券があってから電子的決済の実行までの処理について図24を用いて説明する。
レジ端末810において、読み取り部830は、会員カードが着券されるまで待機する(ステップS702、NO)。
買物客により読み取り部830に会員カードが着券されると(ステップS702、YES)、読み取り部830は、会員カードに記録されたID情報を会員カードから読み取る(ステップS704)。
続いて、レジ端末810は、読み取り部830により読み取られたID情報を顔照合装置30に送信する(ステップS706)。
顔照合装置30において、顔照合部314は、レジ端末810から送信されたID情報を、ネットワーク60を介してデータセンタサーバ40に送信して、登録顔画像の顔特徴量を要求する。これにより、顔照合部314は、ネットワーク60を介してデータセンタサーバ40から、送信したID情報と関連付けられて登録されている登録顔画像の顔特徴量をオンラインで取得する(ステップS708)。
また、顔照合部314は、記憶部304のリレーショナルデータベースを参照して、会員カードの着券前の所定の期間に含まれる撮影時刻と関連付けられたN枚の検出顔画像の顔特徴量をオフラインで取得する(ステップS710)。すなわち、顔照合部314は、読み取り部830がID情報を会員カードから読み取る前に固定カメラ20により撮影されたN枚の検出顔画像の顔特徴量を取得する。
顔照合部314は、第1実施形態と同様に、取得したN枚の検出顔画像の顔特徴量のそれぞれと、取得した登録顔画像の顔特徴量とを順次照合するN:1照合を行う(ステップS712)。
顔照合部314による照合が一致した場合(ステップS714、YES)、顔照合部314は、ネットワーク60を介してデータセンタサーバ40から決済手段情報を取得する(ステップS716)。続いて、顔照合部314は、取得した決済手段情報とともに、顔照合部314による照合が一致したことを示す照合一致信号をレジ端末810に送信する(ステップS718)。
レジ端末810は、顔照合部314から照合一致信号が送信されると、送信された決済手段情報と、購入商品の会計金額とを含む電子決済情報を電子決済サーバ820に送信する(ステップS720)。
電子決済サーバ820は、レジ端末810から送信された電子決済情報に基づき、買物客が購入した商品について電子決済を実行する(ステップS722)。
一方、顔照合部314による照合がいずれも不一致であった場合(ステップS714、NO)、顔照合部314は、顔照合部314による照合がいずれも不一致であったことを示す照合不一致信号をレジ端末810に送信する(ステップS724)。
レジ端末810は、顔照合部314から照合不一致信号が送信されると、レジ端末810を操作する店舗のスタッフに対して、警告表示、警告音等により電子決済ができないことを示す警告を通知する(ステップS726)。
上記図24に示す処理は、本実施形態による顔照合方法を行っている間、レジ端末810に接続された読み取り部830に着券があるたびに繰り返し行われる。
このように、本実施形態によれば、会員カードの着券前に固定カメラ20により撮影された画像から検出された検出顔画像の顔特徴量と、着券された会員カードのID情報と関連付けられて登録されている登録顔画像の顔特徴量とを照合する。したがって、本実施形態によれば、短時間で円滑に顔照合を行うことができる。
なお、上記店舗におけるレジ端末が設置された会計場所で顔照合により本人確認を行う場合においても、さらに、上記第2乃至第7実施形態と同様に顔照合システムを構成し、第2乃至第7実施形態と同様の処理を行うこともできる。
[第9実施形態]
本発明の第9実施形態によるコンピュータ装置について図25を用いて説明する。本実施形態では、上記第1乃至第8実施形態による顔照合システムにおける各部の処理を実現するために用いられるコンピュータ装置について説明する。
図25は、上記第1乃至第8実施形態による顔照合システムにおける各部の処理を実現するために用いられるコンピュータ装置の例を示している。図25に示すコンピュータ装置1000は、特に限定されるものではなく、様々な種類、形態のものであってよい。例えば、コンピュータ装置1000は、ラップトップ型コンピュータ、デスクトップ型コンピュータ、ワークステーション、パーソナルデジタルアシスタント、サーバ、ブレードサーバ、メインフレーム、組み込みシステム等である。
コンピュータ装置1000は、プロセッサ1002と、メモリ1004と、記憶装置1006とを有している。また、コンピュータ装置1000は、高速インターフェースを含む高速コントローラ1008、及び低速インターフェースを含む低速コントローラ1010を有している。高速コントローラ1008には、メモリ1004及び高速拡張ポート1012が接続されている。また、高速コントローラ1008には、ディスプレイ1016等の外部入出力装置が接続されている。一方、低速コントローラ1010には、低速拡張ポート1014及び記憶装置1006が接続されている。
プロセッサ1002、メモリ1004、記憶装置1006、高速コントローラ1008、低速コントローラ1010、及び高速拡張ポート1012は、種々のバスにより相互に接続されている。また、プロセッサ1002、メモリ1004、記憶装置1006、高速コントローラ1008、低速コントローラ1010、及び高速拡張ポート1012は、共通のマザーボード上に実装することもできるし、また、他の形態で適宜実装することもできる。
プロセッサ1002は、例えばCPUであり、コンピュータ装置1000内で実行する命令を処理することができる。そのような命令には、ディスプレイ1016等の外部入出力装置上にGUI(Graphical User Interface)のグラフィック情報を表示するための、メモリ1004内又は記憶装置1006内に格納された命令が含まれる。
また、複数のプロセッサ、複数のバス、又は複数のプロセッサ及び複数のバスを、複数のメモリ及び複数のタイプのメモリとともに適宜使用することができる。また、複数のコンピュータ装置1000を、必要な処理の一部を行う各装置と接続することができる。例えば、複数のコンピュータ装置1000を、サーババンク、ブレードサーバのグループ、又はマルチプロセッサシステムとして互いに接続することができる。
メモリ1004は、コンピュータ装置1000内の情報を格納する。例えば、メモリ1004は、揮発性メモリユニット、不揮発性メモリユニットである。メモリ1004は、他のコンピュータ可読媒体であってもよく、例えば、磁気ディスク、光ディスク等であってもよい。
記憶装置1006は、コンピュータ装置1000用のマスストレージを構成することができる。記憶装置1006は、例えば、フロッピー(登録商標)ディスク装置、ハードディスク装置、光ディスク装置、テープ装置、フラッシュメモリその他のソリッドステートメモリ装置、ディスクアレイ等のコンピュータ可読媒体である。また、記憶装置1006は、そのようなコンピュータ可読媒体を含むことができる。記憶装置1006は、ストレージエリアネットワーク、他の構成の装置を含む。コンピュータプログラム製品は、情報担体において明確に具現化されうる。コンピュータプログラム製品は、実行されると上述のような1つ又は複数の処理を実行する命令も格納することができる。情報担体は、メモリ1004、記憶装置1006、プロセッサ1002上のメモリ、又は伝搬信号等のコンピュータ可読媒体若しくは機械可読媒体である。
高速コントローラ1008は、コンピュータ装置1000に対する帯域幅を集中的に使用する処理を管理する。一方、低速コントローラ1010は、帯域幅を集中的に使用する程度の低い処理を管理する。ただし、このような機能の割り振りは、例示的なものにすぎず、これに限定されるものではない。また、高速コントローラ1008の一部又は全部は、プロセッサ1002に内蔵されていてもよい。
高速コントローラ1008は、メモリ1004、及び種々の拡張カードを受け入れることができる高速拡張ポート1012に接続されている。また、高速コントローラ1008は、例えばグラフィックスプロセッサ又はアクセラレータを介して、ディスプレイ1016に接続されている。
また、低速コントローラ1010は、記憶装置1006及び低速拡張ポート1014に接続されている。低速拡張ポート1014は、例えば、USB(Universal Serial Bus)、Bluetooth(登録商標)、有線又は無線のイーサネット(登録商標)等の種々の規格の通信ポートを含むことができる。低速拡張ポート1014には、キーボード、ポインティングデバイス、スキャナー等の一又は複数の入出力装置を接続することができる。また、低速拡張ポート1014には、例えば、ネットワークアダプタを介して、スイッチ、ルータ等の一又は複数のネットワーク機器を接続することができる。
コンピュータ装置1000は、数多くの異なる形態で実施することができる。例えば、コンピュータ装置1000は、標準的なサーバ、又はそのようなサーバのグループの形態の複数台で実施することができる。また、コンピュータ装置1000は、ラックサーバシステムの一部としても実施することもできる。さらに、コンピュータ装置1000は、ラップトップ型コンピュータ、デスクトップ型コンピュータ等のパーソナルコンピュータの形態で実施することができる。
上述したコンピュータ装置1000は、上記実施形態におけるゲート装置10の一部として機能することができる。この場合、コンピュータ装置1000のプロセッサ1002は、ゲート装置10のゲート制御部112の機能を実現するプログラムを実行することにより、ゲート制御部112として機能することができる。
また、コンピュータ装置1000は、上記実施形態における顔照合装置30として機能することができる。この場合、コンピュータ装置1000のプロセッサ1002は、顔照合装置30における顔照合制御部302の機能を実現するプログラムを実行することにより、顔照合制御部302として機能することができる。すなわち、プロセッサ1002は、画像データ取得部308、顔検出部310、顔特徴量抽出部312、顔照合部314、優先度算出部318、及び同一人物処理部320の各部の機能を実現するプログラムを実行する。これにより、プロセッサ1002は、画像データ取得部308、顔検出部310、顔特徴量抽出部312、顔照合部314、優先度算出部318、及び同一人物処理部320の各部として機能することができる。また、コンピュータ装置1000の記憶装置1006は、顔照合装置30の記憶部304、324として機能することができる。
また、コンピュータ装置1000は、上記実施形態におけるデータセンタサーバ40として機能することができる。この場合、コンピュータ装置1000のプロセッサ1002は、データセンタサーバ40における制御部402の機能を実現するプログラムを実行することにより、制御部402として機能することができる。また、コンピュータ装置1000の記憶装置1006は、データセンタサーバ40の記憶部404として機能することができる。
なお、コンピュータ装置1000のプロセッサ1002に実行させるプログラムの一部又は全部は、これを記録したDVD-ROM(Digital Versatile Disc-Read Only Memory)、CD-ROM(Compact Disc-Read Only Memory)、USBメモリその他のフラッシュメモリ等のコンピュータ読み取り可能な記録媒体により提供することができる。
[他の実施形態]
上記各実施形態において説明した顔照合システムは、他の実施形態によれば、図26に示すように構成することもできる。図26は、他の実施形態による顔照合システムの機能構成を示すブロック図である。
図26に示すように、他の実施形態による顔照合システム5000は、認証対象者が所持する媒体から識別情報を読み取る読み取り部5002と、読み取り部5002の設置場所への入口側を撮影して画像を取得する撮影部5004とを有している。また、顔照合システム5000は、撮影部5004により取得された画像から顔画像を検出顔画像として検出する顔検出部5006を有している。さらに、顔照合システム5000は、顔検出部5006により検出された検出顔画像と、読み取り部5002により読み取られた識別情報と関連付けられて登録されている登録顔画像とを照合する顔照合部5008を有している。顔照合部5008は、読み取り部5002が識別情報を読み取る前に撮影部5004により撮影された検出顔画像と登録顔画像とを照合する。
また、上記各実施形態において説明した顔照合装置は、他の実施形態によれば、図27に示すように構成することもできる。図27は、他の実施形態による顔照合装置の機能構成を示すブロック図である。
図27に示すように、他の実施形態による顔照合装置6000は、画像から顔画像を検出顔画像として検出する顔検出部6002を有している。顔検出部6002が検出顔画像を検出する画像は、認証対象者から識別情報を読み取る読み取り部の設置場所への入口側を撮影して画像を取得する撮影部により取得されたものである。さらに、顔照合装置6000は、顔検出部6002により検出された検出顔画像と、読み取り部により読み取られた識別情報と関連付けられて登録されている登録顔画像とを照合する顔照合部6004を有している。顔照合部6004は、読み取り部が識別情報を読み取る前に撮影部により撮影された検出顔画像と登録顔画像とを照合する。
また、上記各実施形態において説明した顔照合システムは、さらに他の実施形態によれば、図28に示すように構成することもできる。図28は、さらに他の実施形態による顔照合システムの機能構成を示すブロック図である。
図28に示すように、さらに他の実施形態による顔照合システム7000は、認証対象者を含む画像から顔画像を検出顔画像として検出する顔検出部7002を有している。また、顔照合システム7000は、認証対象者を識別する識別情報と、当該認証対象者の登録顔画像とを関連付けて記憶する記憶部7004を有している。さらに、顔照合システム7000は、認証対象者を識別する識別情報を取得すると、その取得より前に撮影された画像から顔検出部7002が検出した検出顔画像と、取得した識別情報に対応する登録顔画像とを照合する顔照合部7006を有している。
[変形実施形態]
本発明は、上記実施形態に限らず、種々の変形が可能である。
例えば、上記実施形態では、施設の場内に入場しようとする来場者を認証対象者として、また、電子決済を行う買物客を認証対象者として、それぞれ顔照合による本人確認を行う場面を例に説明したが、これらに限定されるものではない。認証対象者とは、施設への入場者、出入国検査時の入国者等、何かの権限を備えているか確認する対象の人を指す。顔照合による本人確認を行う場面は、例えば、出入国管理、入退室管理等において顔照合により本人確認を行う場面であってもよい。
また、上記実施形態では、撮影部として固定カメラ20を用いる場合を例に説明したが、撮影部として機能するカメラはこれに限定されるものではない。例えば、固定カメラ20に代えて、パン機能、チルト機能等により向きの変更が可能な可動カメラを撮影部として用いることもできる。可動カメラの場合、自動制御又は遠隔操作によりその向きを変更することができる。
また、上記実施形態では、年間パス、会員カードの情報を読み取り部108、830に読み取らせる認証対象者による着券があってから顔照合による本人確認を行う場合を例に説明したが、これに限定されるものではない。例えば、読み取り部108、830は、着券という認証対象者の行為を必要とすることなく、無線通信等により、認証対象者が所持する媒体からその媒体を一意に特定するID情報等の識別情報を読み取るように構成することもできる。
上記実施形態の一部又は全部は、以下の付記のようにも記載されうるが、以下には限られない。
(付記1)
認証対象者を含む画像から顔画像を検出顔画像として検出する顔検出部と、
前記認証対象者を識別する識別情報と、当該認証対象者の登録顔画像とを関連付けて記憶する記憶部と、
前記認証対象者を識別する識別情報を取得すると、前記取得より前に撮影された画像から前記顔検出部が検出した前記検出顔画像と、取得した識別情報に対応する前記登録顔画像とを照合する顔照合部と、
を備える顔照合システム。
(付記2)
前記顔検出部は、複数フレームの画像から複数の前記検出顔画像を検出し、
前記顔照合部が、前記複数の検出顔画像と前記登録顔画像とを照合することを特徴とする付記1記載の顔照合システム。
(付記3)
前記複数の検出顔画像について前記登録顔画像と照合を行う順序を決定するための優先度を算出する優先度算出部をさらに有し、
前記顔照合部が、前記優先度算出部により算出された前記優先度が高い順に、前記複数の検出顔画像を前記登録顔画像と照合することを特徴とする付記2記載の顔照合システム。
(付記4)
前記複数の検出顔画像を同一人物ごとに分類し、前記同一人物に分類された前記検出顔画像について前記登録顔画像と照合を行う順序を決定するための優先度を算出する同一人物処理部をさらに有し、
前記顔照合部が、前記同一人物処理部により算出された前記優先度が高い順に、前記同一人物に分類された前記検出顔画像を前記登録顔画像と照合することを特徴とする付記2又は3に記載の顔照合システム。
(付記5)
前記登録顔画像との照合が一致した前記検出顔画像を、新たな登録顔画像として登録する更新部をさらに有することを特徴とする付記1乃至4のいずれかに記載の顔照合システム。
(付記6)
前記認証対象者を含む画像を撮影する撮影部と、
前記検出顔画像と前記登録顔画像との照合が一致しなかった場合に、前記認証対象者の顔画像を撮影して前記認証対象者の顔画像を取得する他の撮影部をさらに有し、
前記顔照合部が、前記他の撮影部により取得された前記認証対象者の前記顔画像と前記登録顔画像とを照合することを特徴とする付記1乃至5のいずれかに記載の顔照合システム。
(付記7)
前記検出顔画像と前記登録顔画像との照合が一致しなかった場合に、前記検出顔画像と前記登録顔画像とを表示する表示部をさらに有することを特徴とする付記1乃至5のいずれかに記載の顔照合システム。
(付記8)
前記顔照合部が、前記検出顔画像と照合する前記登録顔画像をオフラインで取得することを特徴とする付記1乃至7のいずれかに記載の顔照合システム。
(付記9)
前記認証対象者を含む画像を撮影する撮影部をさらに有し、
前記撮影部が、縦長の前記画像を撮影するように縦向きに設置されている付記1乃至8のいずれかに記載の顔照合システム。
(付記10)
認証対象者を含む画像から顔画像を検出顔画像として検出し、
前記認証対象者を識別する識別情報を取得すると、前記取得より前に撮影された画像から検出した前記検出顔画像と、取得した識別情報と関連付けられて登録されている登録顔画像とを照合する顔照合方法。
(付記11)
複数フレームの画像から複数の前記検出顔画像を検出し、
前記複数の検出顔画像と前記登録顔画像とを照合することを特徴とする付記10記載の顔照合方法。
(付記12)
コンピュータ装置に、
認証対象者を含む画像から顔画像を検出顔画像として検出し、
前記認証対象者を識別する識別情報を取得すると、前記取得より前に撮影された画像から検出した前記検出顔画像と、取得した識別情報と関連付けられて登録されている登録顔画像とを照合する
ことを実行させることを特徴とするプログラムが記録された記録媒体。
以上、実施形態を参照して本発明を説明したが、本発明は上記実施形態に限定されものではない。本発明の構成や詳細には、本発明のスコープ内で当業者が理解し得る様々な変更をすることができる。
この出願は、2016年2月26日に出願された日本出願特願2016-036406を基礎とする優先権を主張し、その開示の全てをここに取り込む。
1、2、3、4、5…顔照合システム
10…ゲート装置
20…固定カメラ
30…顔照合装置
40…データセンタサーバ
108…読み取り部
110…手元カメラ
112…ゲート制御部
302…顔照合制御部
304…記憶部
308…画像データ取得部
310…顔検出部
312…顔特徴量抽出部
314…顔照合部
318…優先度算出部
320…同一人物処理部
324…記憶部
402…制御部
404…記憶部
810…レジ端末
830…読み取り部

Claims (14)

  1. 複数フレームの画像から顔画像を検出顔画像として検出する顔検出部と、
    認証対象者から生体情報である識別情報を読み取る読み取り部と、
    前記識別情報から前記認証対象者を特定する特定部と、
    前記特定部で特定された前記認証対象者に対応する登録顔画像と、前記検出顔画像とを照合する顔照合部と、を備える顔照合システム。
  2. 前記検出顔画像から照合を行う検出顔画像を選定する選定部をさらに有し、
    前記選定部は、撮像された前記検出顔画像の中から、前記識別情報を取得したことに基づいて、所定の期間に取得された検出顔画像を照合を行う検出顔画像として選定する請求項1に記載の顔照合システム。
  3. 前記顔検出部は、複数フレームの画像から複数の前記検出顔画像を検出し、
    前記顔照合部が、前記複数の検出顔画像と前記登録顔画像とを照合することを特徴とする請求項1又は2に記載の顔照合システム。
  4. 前記複数の検出顔画像について前記登録顔画像と照合を行う順序を決定するための優先度を算出する優先度算出部をさらに有し、
    前記顔照合部が、前記優先度算出部により算出された前記優先度が高い順に、前記複数の検出顔画像を前記登録顔画像と照合することを特徴とする請求項3記載の顔照合システム。
  5. 前記複数の検出顔画像を同一人物ごとに分類し、前記同一人物に分類された前記検出顔画像について前記登録顔画像と照合を行う順序を決定するための優先度を算出する同一人物処理部をさらに有し、
    前記顔照合部が、前記同一人物処理部により算出された前記優先度が高い順に、前記同一人物に分類された前記検出顔画像を前記登録顔画像と照合することを特徴とする請求項3又は4に記載の顔照合システム。
  6. 前記登録顔画像との照合が一致した前記検出顔画像を、新たな登録顔画像として登録する更新部をさらに有することを特徴とする請求項1乃至5のいずれか1項に記載の顔照合システム。
  7. 前記認証対象者を含む画像を撮影する撮影部と、
    前記検出顔画像と前記登録顔画像との照合が一致しなかった場合に、前記認証対象者の顔画像を撮影して前記認証対象者の顔画像を取得する他の撮影部をさらに有し、
    前記顔照合部が、前記他の撮影部により取得された前記認証対象者の前記顔画像と前記登録顔画像とを照合することを特徴とする請求項1乃至6のいずれか1項に記載の顔照合システム。
  8. 前記検出顔画像と前記登録顔画像との照合が一致しなかった場合に、前記検出顔画像と前記登録顔画像とを表示する表示部をさらに有することを特徴とする請求項1乃至6のいずれか1項に記載の顔照合システム。
  9. 前記顔照合部が、前記検出顔画像と照合する前記登録顔画像をオフラインで取得することを特徴とする請求項1乃至8のいずれか1項に記載の顔照合システム。
  10. 前記認証対象者を含む画像を撮影する撮影部をさらに有し、
    前記撮影部が、縦長の前記画像を撮影するように縦向きに設置されている請求項1乃至9のいずれか1項に記載の顔照合システム。
  11. 前記検出顔画像を保存する記憶部を有し、
    前記記憶部は、前記認証対象者を識別する前記識別情報と、当該認証対象者の前記登録顔画像とを関連付けて記憶することを特徴とする請求項1乃至10のいずれか1項に記載の顔照合システム。
  12. 前記顔照合部は、前記取得より所定期間前に撮影された前記画像のうちから品質に応じて前記検出顔画像を特定することを特徴とする請求項1乃至11のいずれか1項に記載の顔照合システム。
  13. 複数フレームの画像から顔画像を検出顔画像として検出し、
    認証対象者から生体情報である識別情報を読み取り、
    前記識別情報から前記認証対象者を特定し、
    特定された前記認証対象者に対応する登録顔画像と、前記検出顔画像とを照合する顔照合方法。
  14. コンピュータ装置に、
    複数フレームの画像から顔画像を検出顔画像として検出し、
    認証対象者から生体情報である識別情報を読み取り、
    前記識別情報から前記認証対象者を特定し、
    特定された前記認証対象者に対応する登録顔画像と、前記検出顔画像とを照合する
    ことを実行させることを特徴とするプログラム。
JP2022198283A 2016-02-26 2022-12-13 顔照合システム、顔照合方法、及びプログラム Active JP7447978B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2016036406 2016-02-26
JP2016036406 2016-02-26
JP2020181056A JP7196893B2 (ja) 2016-02-26 2020-10-29 顔照合システム、顔照合方法、及びプログラム

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2020181056A Division JP7196893B2 (ja) 2016-02-26 2020-10-29 顔照合システム、顔照合方法、及びプログラム

Publications (2)

Publication Number Publication Date
JP2023036690A true JP2023036690A (ja) 2023-03-14
JP7447978B2 JP7447978B2 (ja) 2024-03-12

Family

ID=59685527

Family Applications (3)

Application Number Title Priority Date Filing Date
JP2018501767A Active JP6787391B2 (ja) 2016-02-26 2017-02-23 顔照合システム、顔照合方法、及びプログラム
JP2020181056A Active JP7196893B2 (ja) 2016-02-26 2020-10-29 顔照合システム、顔照合方法、及びプログラム
JP2022198283A Active JP7447978B2 (ja) 2016-02-26 2022-12-13 顔照合システム、顔照合方法、及びプログラム

Family Applications Before (2)

Application Number Title Priority Date Filing Date
JP2018501767A Active JP6787391B2 (ja) 2016-02-26 2017-02-23 顔照合システム、顔照合方法、及びプログラム
JP2020181056A Active JP7196893B2 (ja) 2016-02-26 2020-10-29 顔照合システム、顔照合方法、及びプログラム

Country Status (6)

Country Link
US (4) US11055513B2 (ja)
EP (2) EP3671633A1 (ja)
JP (3) JP6787391B2 (ja)
CN (1) CN108701225B (ja)
HK (1) HK1256918A1 (ja)
WO (1) WO2017146160A1 (ja)

Families Citing this family (58)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9721078B2 (en) * 2011-06-29 2017-08-01 Alclear Llc System and method for user enrollment in a secure biometric verification system
US10275587B2 (en) 2015-05-14 2019-04-30 Alclear, Llc Biometric ticketing
US20190057249A1 (en) * 2016-02-26 2019-02-21 Nec Corporation Face recognition system, face matching apparatus, face recognition method, and storage medium
US11151481B1 (en) * 2016-09-28 2021-10-19 Amazon Technologies, Inc. Ticketless entry and tracking
CA3195818A1 (en) 2017-07-28 2019-01-31 Alclear, Llc Intelligent gallery management for biometrics
US20190034934A1 (en) 2017-07-28 2019-01-31 Alclear, Llc Biometric payment
US10991168B2 (en) 2017-10-22 2021-04-27 Todd Martin System and method for image recognition registration of an athlete in a sporting event
CN108427911B (zh) * 2018-01-30 2020-06-23 阿里巴巴集团控股有限公司 一种身份验证方法、系统、装置及设备
US10949517B2 (en) 2018-02-27 2021-03-16 Alclear, Llc Identification system enrollment and validation and/or authentication
EP3770846A4 (en) * 2018-03-22 2021-03-31 NEC Corporation INFORMATION ACQUISITION SYSTEM, INFORMATION ACQUISITION DEVICE, SERVER, INFORMATION TERMINAL AND INFORMATION ACQUISITION PROCESS
US11295566B2 (en) 2018-05-01 2022-04-05 Alclear, Llc Biometric exit with an asset
US10713476B2 (en) * 2018-05-03 2020-07-14 Royal Caribbean Cruises Ltd. High throughput passenger identification in portal monitoring
EP3788809A1 (en) * 2018-05-03 2021-03-10 Telefonaktiebolaget Lm Ericsson (Publ) Device enrollment using serialized application
CN108960892B (zh) * 2018-06-05 2020-12-29 北京市商汤科技开发有限公司 信息处理方法及装置、电子设备及存储介质
WO2020075307A1 (ja) * 2018-10-12 2020-04-16 日本電気株式会社 ゲート装置、ゲート装置の制御方法及び記録媒体
CN113168678A (zh) 2018-11-21 2021-07-23 日本电气株式会社 信息提供系统、信息提供控制设备、信息提供方法、信息提供控制方法和存储介质
CN109672858A (zh) * 2018-11-23 2019-04-23 深圳奥比中光科技有限公司 3d人脸识别监控系统
US11615350B2 (en) 2018-11-29 2023-03-28 Alclear, Llc Interaction between a network identity service and account-based service applications
US11159321B2 (en) 2018-12-19 2021-10-26 Alclear, Llc Digital notarization using a biometric identification service
US11582228B2 (en) 2018-12-28 2023-02-14 Alclear, Llc Distributed identity system with local identification
US11321989B2 (en) 2018-12-28 2022-05-03 Alclear, Llc Local cache-based identification system
US11227155B2 (en) 2019-01-23 2022-01-18 Alclear, Llc Remote biometric identification and lighting
US11741203B1 (en) 2019-03-01 2023-08-29 Alclear, Llc Mobile identity information controlled device
JP7054847B2 (ja) * 2019-03-04 2022-04-15 パナソニックIpマネジメント株式会社 顔認証登録装置および顔認証登録方法
JP6998568B2 (ja) * 2019-03-04 2022-01-18 パナソニックIpマネジメント株式会社 顔認証システムおよび顔認証方法
JP6749623B1 (ja) * 2019-03-19 2020-09-02 株式会社クリューシステムズ 認証方法、そのシステム及び管理サーバ
WO2020194585A1 (ja) * 2019-03-27 2020-10-01 日本電気株式会社 照合装置、制御方法、及びプログラム
US10523671B1 (en) 2019-04-03 2019-12-31 Alclear, Llc Mobile enrollment using a known biometric
JP7187377B2 (ja) * 2019-04-23 2022-12-12 株式会社日立製作所 物体情報登録装置及び物体情報登録方法
US10534956B1 (en) 2019-04-25 2020-01-14 Alclear, Llc Using identity information to facilitate interaction with people moving through areas
CN110084020A (zh) * 2019-05-11 2019-08-02 北京京投亿雅捷交通科技有限公司 一种人脸识别乘客信息系统及实现方法
WO2020241852A1 (ja) * 2019-05-30 2020-12-03 playground株式会社 チケット発券システム、検札装置、およびプログラム
JP2021005316A (ja) * 2019-06-27 2021-01-14 キヤノン株式会社 システム、システムの制御方法、及びプログラム
US11630890B2 (en) 2019-07-29 2023-04-18 Alclear, Llc Biometric template translation
CN112581671A (zh) * 2019-09-29 2021-03-30 杭州海康威视数字技术股份有限公司 门禁控制方法、装置及门禁系统
CN111368622B (zh) * 2019-10-18 2024-01-12 杭州海康威视系统技术有限公司 人员识别方法及装置、存储介质
KR20210047025A (ko) * 2019-10-21 2021-04-29 엘지전자 주식회사 지능형 디바이스 및 그의 사용자 선택 방법
JP7276591B2 (ja) 2020-02-18 2023-05-18 日本電気株式会社 ゲート装置
US11593795B1 (en) 2020-02-27 2023-02-28 Alclear, Llc Identity information controlled financial account device
WO2021186708A1 (ja) * 2020-03-19 2021-09-23 日本電気株式会社 訪問推進装置、システム、方法及びプログラムが格納された非一時的なコンピュータ可読媒体
TWI722872B (zh) * 2020-04-17 2021-03-21 技嘉科技股份有限公司 人臉辨識裝置以及人臉辨識方法
US11868456B2 (en) 2020-05-13 2024-01-09 Secure Identity, Llc Modular biometric station with cohesive form factor
JP2021189739A (ja) * 2020-05-29 2021-12-13 パナソニックIpマネジメント株式会社 情報処理装置、情報処理方法及びプログラム
WO2021250845A1 (ja) * 2020-06-11 2021-12-16 富士通株式会社 認証方法、情報処理装置、及び認証プログラム
CN111814702A (zh) * 2020-07-13 2020-10-23 安徽兰臣信息科技有限公司 一种基于成年人脸和儿童照特征空间映射关系的儿童人脸识别方法
JP2022053683A (ja) * 2020-09-25 2022-04-06 グローリー株式会社 画像処理装置、画像処理システム、画像処理方法およびプログラム
CA3132547A1 (en) * 2020-10-02 2022-04-02 Spectrum Brands, Inc. Untrusted user management in electronic locks
CN114331449B (zh) * 2020-10-09 2024-02-02 腾讯科技(深圳)有限公司 人脸支付方法、装置和设备及计算机存储介质
CN113011307A (zh) * 2021-03-15 2021-06-22 东北大学 一种基于深度残差网络的人脸识别身份认证方法
CN113569670B (zh) * 2021-07-15 2023-09-01 尤利卡(江苏)集成电气有限公司 一种变电站监控系统
US11527101B1 (en) 2021-08-11 2022-12-13 Alclear, Llc Biometric gallery management using wireless identifiers
US20230138613A1 (en) * 2021-10-28 2023-05-04 Kenneth McClendon Automated Rental Systems and Methods
CN114495294A (zh) * 2021-12-03 2022-05-13 华中科技大学鄂州工业技术研究院 一种地铁闸机无感支付方法、装置及存储介质
US11869294B2 (en) 2022-03-09 2024-01-09 Secure Identity, Llc Providing digital identifications generated for checkpoint validation based on biometric identification
US11625665B1 (en) * 2022-03-29 2023-04-11 Todd Martin Contactless authorized event entry and item delivery system and method
WO2024069712A1 (ja) * 2022-09-26 2024-04-04 日本電気株式会社 情報処理システム、情報処理方法、及び、記録媒体
WO2024127955A1 (ja) * 2022-12-16 2024-06-20 パナソニックIpマネジメント株式会社 管理装置、管理システム及び管理方法
CN116343313B (zh) * 2023-05-30 2023-08-11 乐山师范学院 一种基于眼部特征的人脸识别方法

Family Cites Families (38)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5432864A (en) 1992-10-05 1995-07-11 Daozheng Lu Identification card verification system
US7039221B1 (en) 1999-04-09 2006-05-02 Tumey David M Facial image verification utilizing smart-card with integrated video camera
JP2001266152A (ja) 2000-03-17 2001-09-28 Toshiba Corp 顔画像認識装置および顔画像認識方法
JP2002352291A (ja) 2001-05-28 2002-12-06 Toshiba Corp 入場管理装置および入場管理方法
US6758394B2 (en) * 2001-07-09 2004-07-06 Infonox On The Web Identity verification and enrollment system for self-service devices
TWI299471B (en) * 2001-08-24 2008-08-01 Toshiba Kk Person recognition apparatus
JP2003317100A (ja) * 2002-02-22 2003-11-07 Matsushita Electric Ind Co Ltd 情報端末装置、認証システム、及び登録・認証方法
JP4314016B2 (ja) * 2002-11-01 2009-08-12 株式会社東芝 人物認識装置および通行制御装置
US7817013B2 (en) 2003-09-05 2010-10-19 Honeywell International Inc. Distributed stand-off ID verification compatible with multiple face recognition systems (FRS)
JP4369187B2 (ja) 2003-09-18 2009-11-18 三菱電機株式会社 個人識別装置
US7162533B2 (en) 2004-04-30 2007-01-09 Microsoft Corporation Session description message extensions
JP4487247B2 (ja) * 2004-06-10 2010-06-23 富士フイルム株式会社 人物画像検索装置
JP2006236244A (ja) * 2005-02-28 2006-09-07 Toshiba Corp 顔認証装置および入退場管理装置
JP4367424B2 (ja) * 2006-02-21 2009-11-18 沖電気工業株式会社 個人識別装置,個人識別方法
JP2007334623A (ja) * 2006-06-15 2007-12-27 Toshiba Corp 顔認証装置、顔認証方法、および入退場管理装置
JP4984728B2 (ja) 2006-08-07 2012-07-25 パナソニック株式会社 被写体照合装置および被写体照合方法
JP2008146137A (ja) 2006-12-06 2008-06-26 Seiko Epson Corp 画像認識装置、電子機器、画像認識方法、制御プログラム及び記録媒体
JPWO2009016846A1 (ja) * 2007-08-02 2010-10-14 パナソニック株式会社 虹彩認証装置および虹彩認証システム
JP5745790B2 (ja) * 2010-07-22 2015-07-08 Necエンベデッドプロダクツ株式会社 入退出管理システム
JP5561063B2 (ja) 2010-09-24 2014-07-30 株式会社デンソーウェーブ Icカードの認証システム及びicカードの認証方法
JP5794410B2 (ja) 2010-12-20 2015-10-14 日本電気株式会社 認証カード、認証システム、ガイダンス方法及びプログラム
WO2012112992A2 (en) * 2011-02-18 2012-08-23 Google Inc. Facial recognition
US20130129159A1 (en) 2011-11-22 2013-05-23 Ronald Huijgens Face recognition method and apparatus
JP5937823B2 (ja) 2011-12-28 2016-06-22 グローリー株式会社 画像照合処理装置、画像照合処理方法及び画像照合処理プログラム
JP5766625B2 (ja) * 2012-01-16 2015-08-19 株式会社東芝 カメラ装置
JP5955031B2 (ja) 2012-02-29 2016-07-20 セコム株式会社 顔画像認証装置
JP5845976B2 (ja) 2012-03-05 2016-01-20 沖電気工業株式会社 偏波モード分散発生装置
JP2013196043A (ja) * 2012-03-15 2013-09-30 Glory Ltd 特定人物監視システム
JP5872343B2 (ja) 2012-03-22 2016-03-01 西日本電信電話株式会社 電源タップ用親機、及び電源タップ制御システム
JP2014067345A (ja) 2012-09-27 2014-04-17 Panasonic Corp 情報処理装置
JP2014067315A (ja) 2012-09-27 2014-04-17 Canon Inc 認証装置、認証方法、および、そのプログラム
KR20140055819A (ko) * 2012-11-01 2014-05-09 삼성전자주식회사 얼굴인식장치 및 그 제어방법
JP6150509B2 (ja) 2012-12-07 2017-06-21 セコム株式会社 顔認証装置
US20150081581A1 (en) 2013-09-19 2015-03-19 Zzzoom, LLC Secure delivery of packages
JP2016036406A (ja) 2014-08-05 2016-03-22 株式会社大一商会 遊技機
US20160275518A1 (en) * 2015-03-19 2016-09-22 ecoATM, Inc. Device recycling systems with facial recognition
US9996749B2 (en) * 2015-05-29 2018-06-12 Accenture Global Solutions Limited Detecting contextual trends in digital video content
CN110020581B (zh) * 2018-12-03 2020-06-09 阿里巴巴集团控股有限公司 一种基于多帧脸部图像的比对方法、装置和电子设备

Also Published As

Publication number Publication date
HK1256918A1 (zh) 2019-10-04
EP3422291B1 (en) 2023-11-22
EP3671633A1 (en) 2020-06-24
US20230222837A1 (en) 2023-07-13
JPWO2017146160A1 (ja) 2018-12-27
JP7196893B2 (ja) 2022-12-27
EP3422291A1 (en) 2019-01-02
US10977483B2 (en) 2021-04-13
WO2017146160A1 (ja) 2017-08-31
JP2021015627A (ja) 2021-02-12
JP7447978B2 (ja) 2024-03-12
US11631278B2 (en) 2023-04-18
CN108701225B (zh) 2023-04-04
US11948398B2 (en) 2024-04-02
CN108701225A (zh) 2018-10-23
US11055513B2 (en) 2021-07-06
EP3422291A4 (en) 2019-09-11
JP6787391B2 (ja) 2020-11-18
US20190050631A1 (en) 2019-02-14
US20190278975A1 (en) 2019-09-12
US20210200999A1 (en) 2021-07-01

Similar Documents

Publication Publication Date Title
JP7196893B2 (ja) 顔照合システム、顔照合方法、及びプログラム
JP7359230B2 (ja) 顔照合システム、顔照合装置、顔照合方法、及び記録媒体
JP5785667B1 (ja) 人物特定システム
CN111401159A (zh) 酒店鉴权管理方法、系统、酒店管理系统以及用户终端
US20160125404A1 (en) Face recognition business model and method for identifying perpetrators of atm fraud
JP5260233B2 (ja) 追跡装置、追跡方法及び追跡プログラム
JP2017151832A (ja) 待ち時間算出システム
JP2022059626A (ja) チケット発券システム、検札装置、およびプログラム
JP7505557B2 (ja) 情報処理装置、顔認証促進システム、情報処理方法、プログラム
Gohringer The application of face recognition in airports
JP2013190934A (ja) 窓口認証システム、窓口認証サーバー、プログラムおよび窓口認証方法
AU2024201525B2 (en) Gate system, gate apparatus, image processing method therefor, program, and arrangement method for gate apparatus
JP2024000712A (ja) 認証用データ作成装置、認証用データ作成方法、および認証用データ作成プログラム
CN115461741A (zh) 认证方法、认证程序以及认证装置
JP2022073249A (ja) 情報処理システム、情報処理システムの制御方法、およびプログラム
JP2024065337A (ja) 通行管理プログラム、通行管理方法、および通行管理装置
JP2022054997A (ja) 認証システム
Maniyar et al. Biometric Recognition Technique for ATM System

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20221213

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20231031

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231222

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240130

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240212

R151 Written notification of patent or utility model registration

Ref document number: 7447978

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151