JP2022048234A - 情報処理システム、顧客特定装置、情報処理方法及びプログラム - Google Patents

情報処理システム、顧客特定装置、情報処理方法及びプログラム Download PDF

Info

Publication number
JP2022048234A
JP2022048234A JP2022007731A JP2022007731A JP2022048234A JP 2022048234 A JP2022048234 A JP 2022048234A JP 2022007731 A JP2022007731 A JP 2022007731A JP 2022007731 A JP2022007731 A JP 2022007731A JP 2022048234 A JP2022048234 A JP 2022048234A
Authority
JP
Japan
Prior art keywords
customer
payment
image
information
settlement
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2022007731A
Other languages
English (en)
Inventor
慎太郎 山田
Shintaro Yamada
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Publication of JP2022048234A publication Critical patent/JP2022048234A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q20/00Payment architectures, schemes or protocols
    • G06Q20/08Payment architectures
    • G06Q20/20Point-of-sale [POS] network systems
    • G06Q20/204Point-of-sale [POS] network systems comprising interface for record bearing medium or carrier for electronic funds transfer or payment credit
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q20/00Payment architectures, schemes or protocols
    • G06Q20/08Payment architectures
    • G06Q20/20Point-of-sale [POS] network systems
    • G06Q20/202Interconnection or interaction of plural electronic cash registers [ECR] or to host computer, e.g. network details, transfer of information from host to ECR or from ECR to ECR
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q20/00Payment architectures, schemes or protocols
    • G06Q20/38Payment protocols; Details thereof
    • G06Q20/40Authorisation, e.g. identification of payer or payee, verification of customer or shop credentials; Review and approval of payers, e.g. check credit lines or negative lists
    • G06Q20/401Transaction verification
    • G06Q20/4014Identity check for transactions
    • G06Q20/40145Biometric identity checks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00Commerce
    • G06Q30/06Buying, selling or leasing transactions
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • G06V40/166Detection; Localisation; Normalisation using acquisition arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/172Classification, e.g. identification
    • GPHYSICS
    • G07CHECKING-DEVICES
    • G07GREGISTERING THE RECEIPT OF CASH, VALUABLES, OR TOKENS
    • G07G1/00Cash registers
    • GPHYSICS
    • G07CHECKING-DEVICES
    • G07GREGISTERING THE RECEIPT OF CASH, VALUABLES, OR TOKENS
    • G07G1/00Cash registers
    • G07G1/0036Checkout procedures
    • GPHYSICS
    • G07CHECKING-DEVICES
    • G07GREGISTERING THE RECEIPT OF CASH, VALUABLES, OR TOKENS
    • G07G1/00Cash registers
    • G07G1/12Cash registers electronically operated

Landscapes

  • Business, Economics & Management (AREA)
  • Engineering & Computer Science (AREA)
  • Accounting & Taxation (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Finance (AREA)
  • Strategic Management (AREA)
  • General Business, Economics & Management (AREA)
  • Development Economics (AREA)
  • Economics (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Human Computer Interaction (AREA)
  • Multimedia (AREA)
  • Computer Security & Cryptography (AREA)
  • Marketing (AREA)
  • Cash Registers Or Receiving Machines (AREA)
  • Financial Or Insurance-Related Operations Such As Payment And Settlement (AREA)

Abstract

【課題】本発明は、顔認証処理を用いた会計中における顔認証処理の待ち時間を抑制することを課題とする。【解決手段】本発明によれば、第1のカメラにより生成された顔の画像を取得する取得部11と、取得した画像と、顔の特徴量を登録したデータベース情報とに基づき、代金を支払う第1の顧客を特定する特定部12と、特定した第1の顧客に対する決済処理を行う決済手段(精算部21)と、を備える情報処理システムを提供する。特定部12は、第1の顧客に対する決済処理を開始する操作がなされると、画像の中の所定のエリアに含まれる次に決済処理を行う顧客を特定する処理を開始する。【選択図】図14

Description

本発明は、情報処理システム、顧客特定装置、情報処理方法及びプログラムに関する。
特許文献1に、会計作業に顔認証処理を用いる情報処理システムが開示されている。当該情報処理システムは、来店者の顔情報を含む情報を取得し、取得した情報に含まれる来店者の顔情報と会員データベースに登録済みの各会員の登録顔情報とを用いて顔認証を実施することが開示されている。
特開2016-126749号公報
顔認証処理においては、登録されている情報が多いほど認証処理に時間がかかる。結果、会計中に、顔認証処理の待ち時間が発生し得る。本発明は、顔認証処理を用いた会計中における顔認証処理の待ち時間を抑制することを目的とする。
本発明によれば、
第1のカメラにより生成された顔の画像を取得する取得手段と、
取得した前記画像と、顔の特徴量を登録したデータベース情報とに基づき、代金を支払う第1の顧客を特定する特定手段と、
特定した前記第1の顧客に対する決済処理を行う決済手段と、
を備え、
前記特定手段は、前記第1の顧客に対する決済処理を開始する操作がなされると、前記画像の中の所定のエリアに含まれる次に決済処理を行う顧客を特定する処理を開始する、
情報処理システムが提供される。
また、本発明によれば、
第1のカメラにより生成された顔の画像を取得する取得手段と、
取得した前記画像と、顔の特徴量を登録したデータベース情報とに基づき、代金を支払う第1の顧客を特定する特定手段と、
特定した前記第1の顧客に対する決済処理を行う決済手段と、を備え、
前記特定手段は、前記第1の顧客に対する決済処理を開始する操作がなされると、前記画像の中の所定のエリアに含まれる次に決済処理を行う顧客を特定する処理を開始する、
情報処理システムが提供される。
また、本発明によれば、
第1のカメラにより生成された顔の画像を取得する取得手段と、
取得した前記画像と、顔の特徴量を登録したデータベース情報とに基づき、代金を支払う第1の顧客を特定する特定手段と、
特定された前記顧客に対応する該顧客を識別する情報を精算装置に通知する通知手段と、
を備え、
前記特定手段は、前記第1の顧客に対する決済処理を開始する操作がなされると、前記画像の中の所定のエリアに含まれる次に決済処理を行う顧客を特定する処理を開始する、
顧客特定装置が提供される。
また、本発明によれば、
コンピュータが、
第1のカメラにより生成された顔の画像を取得する取得工程と、
取得した前記画像と、顔の特徴量を登録したデータベース情報とに基づき、代金を支払う第1の顧客を特定する特定工程と、
特定した前記第1の顧客に対する決済処理を行う決済工程と、
を実行し、
前記特定工程では、前記第1の顧客に対する決済処理を開始する操作がなされると、前記画像の中の所定のエリアに含まれる次に決済処理を行う顧客を特定する処理を開始する、
情報処理方法が提供される。
また、本発明によれば、
コンピュータを、
第1のカメラにより生成された顔の画像を取得する取得手段、
取得した前記画像と、顔の特徴量を登録したデータベース情報とに基づき、代金を支払う第1の顧客を特定する特定手段、
特定した前記第1の顧客に対する決済処理を行う決済手段、
として機能させ、
前記特定手段は、前記第1の顧客に対する決済処理を開始する操作がなされると、前記画像の中の所定のエリアに含まれる次に決済処理を行う顧客を特定する処理を開始する、
プログラムが提供される。
本発明によれば、顔認証処理を用いた会計中における顔認証処理の待ち時間を抑制できる。
上述した目的、およびその他の目的、特徴および利点は、以下に述べる好適な実施の形態、およびそれに付随する以下の図面によってさらに明らかになる。
本実施形態の情報処理システムの機能ブロック図の一例である。 本実施形態のシステム及び装置のハードウエア構成の一例を概念的に示す図である。 本実施形態の顧客特定装置の機能ブロック図の一例である。 本実施形態のデータベース情報の一例を模式的に示す図である。 本実施形態の顧客特定装置により生成される情報の一例を模式的に示す図である。 本実施形態の顧客特定装置の処理の流れの一例を示すフローチャートである。 本実施形態の顧客特定装置の処理の流れの一例を示すフローチャートである。 本実施形態の情報処理システムの実現例を説明するための図である。 本実施形態の情報処理システムの実現例を説明するための図である。 会計作業の一例を説明するための図である。 本実施形態の顧客特定装置の処理を説明するための図である。 本実施形態の情報処理システムによる画面表示の一例である。 本実施形態の情報処理システムによる画面表示の一例である。 本実施形態の情報処理システムの機能ブロック図の一例である。 本実施形態の情報処理システムの機能ブロック図の一例である。 本実施形態の精算装置の機能ブロック図の一例である。 本実施形態の情報処理システムの処理の流れの一例を示すシーケンス図である。 本実施形態のデータベース情報の一例を模式的に示す図である。
<第1の実施形態>
まず、本実施形態の情報処理システムの概要を説明する。本実施形態の情報処理システムは、精算対象の商品を登録する処理(登録処理)や決済処理等を行う装置である。本実施形態の情報処理システムは、例えばPOS(point of sales)レジスターである。POSレジスターは、店員に操作されることを前提としたものであってもよいし、顧客に操作されることを前提としたものであってもよい。
本実施形態の情報処理システムは、顔認証処理を利用した決済処理を行うことができる。
顔認証処理とは、顧客の顔の画像を使って、その顧客を特定する処理である。すなわち、情報処理システムは、顧客を撮影した画像と、顧客の外観の特徴量を登録したデータベースとを利用して代金を支払う顧客(第1の顧客)を特定する。そして、情報処理システムは、特定した顧客に対応する電子マネー情報やポイント情報を利用して、決済処理を行う。
なお、情報処理システムは、決済処理を開始する操作がなされる前の所定のタイミングから、画像を用いた顧客の特定処理(以降の説明における認証処理と同一)を開始する。このため、決済処理を開始する操作がなされるまでに、顧客の特定を終了することが期待される。結果、顔認証処理を用いた会計中における顔認証処理の待ち時間を抑制できる。
次に、情報処理システムの構成を説明する。まず、情報処理システムのハードウエア構成の一例について説明する。本実施形態の情報処理システムが備える各機能部は、任意のコンピュータのCPU(Central Processing Unit)、メモリ、メモリにロードされるプログラム、そのプログラムを格納するハードディスク等の記憶ユニット(あらかじめ装置を出荷する段階から格納されているプログラムのほか、CD(Compact Disc)等の記憶媒体やインターネット上のサーバ等からダウンロードされたプログラムをも格納できる)、ネットワーク接続用インターフェイスを中心にハードウエアとソフトウエアの任意の組合せによって実現される。そして、その実現方法、装置にはいろいろな変形例があることは、当業者には理解されるところである。
図2は、本実施形態の情報処理システムのハードウエア構成を例示するブロック図である。図2に示すように、情報処理システムは、プロセッサ1A、メモリ2A、入出力インターフェイス3A、周辺回路4A、バス5Aを有する。周辺回路4Aには、様々なモジュールが含まれる。
バス5Aは、プロセッサ1A、メモリ2A、周辺回路4A及び入出力インターフェイス3Aが相互にデータを送受信するためのデータ伝送路である。プロセッサ1Aは、例えばCPU(Central Processing Unit) やGPU(Graphics Processing Unit)などの演算処理装置である。メモリ2Aは、例えばRAM(Random Access Memory)やROM(Read Only Memory)などのメモリである。入出力インターフェイス3Aは、入力装置(例:キーボード、マウス、マイク、物理キー、タッチパネルディスプレイ、コードリーダ等)、外部装置、外部サーバ、外部センサ等から情報を取得するためのインターフェイスや、出力装置(例:ディスプレイ、スピーカ、プリンター、メーラ等)、外部装置、外部サーバ等に情報を出力するためのインターフェイスなどを含む。プロセッサ1Aは、各モジュールに指令を出し、それらの演算結果をもとに演算を行うことができる。
次に、情報処理システムの機能構成を説明する。図14に、情報処理システム100の機能ブロック図の一例を示す。図示するように、情報処理システム100は、取得部11と、特定部12と、精算部21とを有する。図15に示すように、情報処理システムは、さらに判定部14を有してもよい。また、図示しないが、情報処理システム100は、さらに表示制御部を有してもよい。
精算部21は、精算対象の商品を登録する処理(登録処理)を行う手段(登録手段)と、決済処理を行う手段(決済手段)とを有する。
まず、精算部21による登録処理を説明する。精算部21は、精算対象の商品を識別する情報を入力する手段を有する。当該入力は、コードリーダ、物理キー、タッチパネルディスプレイ、マイク、カメラ等のあらゆる装置を介して実現される。
例えば、商品に付された商品を識別する情報を示すコードをコードリーダで読み取ることで、商品を識別する情報の入力がなされてもよい。その他、物理キーやタッチパネルディスプレイの操作により、商品を識別する情報の入力がなされてもよい。その他、マイクを介して音声で商品を識別する情報の入力がなされてもよい。その他、精算対象の商品を撮影するカメラと、商品の外観の特徴量や画像に含まれるコード(商品に付された商品を識別する情報)に基づきカメラが生成した画像に含まれる商品を特定する手段とを用いて、商品を識別する情報の入力がなされてもよい。
精算部21は、精算対象の商品を識別する情報に対応する商品情報(例:価格等)を、予め用意された商品マスタから取得することができる。そして、精算部21は、精算対象の1つまたは複数の商品の価格の合計を算出する精算処理を実施することができる。精算部21は、さらに、精算対象の商品を識別する情報や算出した合計等をディスプレイ等に表示することができる。ここで、情報処理システムは、ディスプレイ等の表示部の表示を制御する表示制御部を備えることもできる。
次に、精算部21による決済処理を説明する。決済処理は、支払金額が決定したものを選択された支払い方法(現金、クレジットカード、ポイントなど)によって、売買取引を完了させることである。精算部21は、顔認証処理により特定された顧客に対応する電子マネー情報やポイント情報を利用して、決済処理を行うことができる。すなわち、精算部21は、以下で説明する特定部12により特定された顧客を識別する情報を取得すると、当該顧客に対応する電子マネー情報やポイント情報をサーバから取得することができる。そして、精算部21は、当該電子マネー情報やポイント情報を利用して、決済処理を行うことができる。すなわち、精算対象の商品の価格の合計分を電子マネーやポイントで支払う決済処理や、今回の買い物で付与されるポイントをポイント情報で示される残ポイントに加える決済処理を行ってもよい。また、会社等の組織内部に設置された店舗内の情報処理システム100である場合、当該組織内で顧客を識別する情報(例:社員番号)に支払金額を対応付けて蓄積していき、給料から天引きする決済処理を行ってもよい。
なお、精算部21は、現金、クレジットカード、その他の電子マネーやポイント等を用いた決済処理を行うことができてもよい。例えば、特定部12により顧客が特定されなかった場合、例示したその他の方法で決済処理を行ってもよい。
精算部21は、登録処理及び決済処理をこの順に行う。精算部21は、少なくとも1つの商品を登録する登録処理の後に決済処理を開始する操作がなされると、それに応じて決済処理を開始する。
決済処理を開始する操作は、例えば、「決済処理の開始」に対応する物理キーの押下であってもよい。その他、当該操作は、例えば、タッチパネルエリア上の「決済処理の開始」に対応するエリアへの操作(例:タッチ)であってもよい。その他、当該操作は、マイクを介して「決済処理の開始」に対応する所定のワードを入力するものあってもよい。なお、ここでの例示はあくまで一例であり、これらに限定されない。
取得部11は、顧客を撮像するカメラ(第1のカメラ)により生成された顧客の顔を含む画像を取得する。第1のカメラは、情報処理システム100の付近に位置する顧客、より詳細には会計中の顧客の顔を撮影するよう設置される。第1のカメラは動画像を連続的に撮影してもよいし、所定のタイミングで静止画像を撮影してもよい。すなわち、取得部11は、所定時間間隔で連続的に生成された複数のフレームの画像を第1のカメラから取得してもよいし、あるタイミングで生成された1つの画像を第1のカメラから取得してもよい。つまり、取得部11は、異なるタイミングで撮像された画像を複数取得することもできる。
特定部12は、複数の人物の顔の特徴量を登録したデータベース情報(図4参照)及び取得部11により取得された画像に基づき、顧客を特定することができる。例えば、特定部12は、代金を支払う第1の顧客を特定する。図4のデータベース情報は、顧客を識別する情報(顧客氏名、顧客会員番号、社員番号等)と、顧客の顔の特徴量とを対応付けている。図4のデータベース情報は、さらに、各顧客の顔の写真を有してもよい。
特定部12は、取得部11により取得された画像の中から人物を抽出するとともに、その人物の外観の特徴量を抽出する。そして、特定部12は、画像内で抽出した人物の特徴量と、データベース情報に含まれる複数の人物各々の外観の特徴量とを照合し、類似度が基準値以上の人物を特定する。
類似度が基準値以上の人物をデータベース情報内で特定できた場合、特定結果としてその人物を識別する情報を出力する。一方、類似度が基準値以上の人物をデータベース情報内で特定できなかった場合、特定結果として「該当者なし」を出力する。当該照合処理の詳細は特段制限されず、あらゆる技術を採用して実現できる。
なお、特定部12は、第1の顧客に対する決済処理を開始する操作がなされる前に、第1の顧客を特定するための認証処理を開始することができる。このため、第1の顧客に対する決済処理を開始する操作がなされる前に、第1の顧客を特定することが可能となる。
例えば、特定部12は、第1の顧客に対する商品の登録処理が開始された場合に、それに応じて、第1の顧客を特定するための認証処理を開始してもよい。図15に示す判定部14が、第1の顧客に対する商品の登録処理が開始されたことを判定してもよい。判定部14は、例えば、最初の商品の登録がなされた場合に、商品の登録処理が開始されたと判定することができる。なお、特定部12は、決済処理を開始する操作がなされる前のその他の操作に応じて、第1の顧客を特定するための認証処理を開始してもよい。例えば、特定部12は、第1の顧客の前の顧客(第2の顧客)に対する会計処理(登録処理、精算処理、及び決済処理等)中に起きる所定のイベント(例:決済処理を開始する操作、レシートやクーポンが出力されたこと、釣銭を払い出したこと)をトリガとして、第1の顧客を特定するための認証処理を開始してもよい。例えば、特定部12は、第1の顧客より前に決済処理が行われる第2の顧客に対して決済処理を開始する操作がなされた場合に、当該第1の顧客の特定を開始してもよい。ここで、第2の顧客は、第1の顧客の直前の顧客であっても良いし、所定人数前の顧客であっても良い。
第1のカメラが動画像を撮影している場合、特定部12は、認証処理を開始すると、所定のフレームの画像(例:その時点で最新のフレームの画像)を処理対象として決定し、当該画像に含まれる人物を特定する処理を行う。以降、特定部12は、所定時間おきのその後のフレームの画像各々を処理対象とし、各画像に含まれる人物を特定する処理を継続してもよい。すなわち、特定部12は、画像に含まれる人物を特定する処理を開始した後、その後に生成された複数のフレームの画像(所定時間おきのフレームの画像)を順に処理して、各画像に含まれる人物を特定してもよい。
この場合、特定部12は、予め定められた終了タイミングで、第1の顧客に対する認証処理を終了する。終了タイミングは、第1の顧客に対する決済処理を開始する操作がなされたタイミングであってもよいし、次の顧客に対する登録処理が開始されたタイミングであってもよいし、その他であってもよい。つまり、特定部12は、第1の顧客に対する認証処理を終了した後に、第1の顧客の次の顧客(第3の顧客)に対する処理を開始する構成とすることができる。また、特定部12は、第1の顧客に対する認証処理を終了したと略同時に、第1の顧客の次の顧客(第3の顧客)に対する処理を開始する構成とすることもできる。
第1のカメラが動画像を撮影している場合、第1の顧客に対応して、複数の特定結果が蓄積されることとなる(図5参照)。すなわち、フレーム毎に、特定結果(抽出した人物を識別する情報又は該当者なし)が蓄積される。上述した精算部21は、複数の特定結果の中の所定の特定結果を用いて、上述した決済処理を行うことができる。例えば、精算部21は、第1の顧客に対する決済処理を開始する操作がなされた時点で最新の特定結果(例:その時点までに蓄積された特定結果の中の最新の特定結果、または、その時点までに取得された画像の中の最新の画像に基づく特定結果)を用いて、決済処理を行ってもよい。そして、最新の特定結果が該当者なしである場合または特定する処理が終了していない場合(第1の顧客が特定できていない)、所定の検索条件で抽出した他の特定結果を用いて、決済処理を行ってもよい。他の特定結果としては、最新のフレームより1つ前のフレームの特定結果であってもよいし、特定結果が抽出した人物を識別できているフレームの中で最新のフレームの結果であってもよい。他の特定結果も該当者なしである場合、所定の検索条件でさらに他の特定結果を抽出してもよい。そして、所定数連続で抽出した特定結果が該当者なしである場合、精算部21は、顔認証処理を利用した決済処理と異なる方法で、決済処理を行ってもよい。また、第1の顧客に対する決済処理を開始する操作がなされた時点で最新の画像において第1の顧客を特定できていない場合、精算部21は、当該最新の画像より前に取得した画像で特定した第1の顧客に対する決済処理を行ってもよい。
次に、第1のカメラが静止画像を撮影している場合、取得部11は、所定のタイミング(特定部12が認証処理を開始するタイミング)で、第1のカメラに画像を要求してもよい。そして、特定部12は、上記要求に応じて第1のカメラが生成した静止画像を処理対象とし、当該画像に含まれる人物を特定する処理を行ってもよい。類似度が基準値以上の人物をデータベース情報内で特定できなかった場合、取得部11及び特定部12は、画像の要求及び画像に含まれる人物の特定を、類似度が基準値以上の人物をデータベース情報内で特定できるまで、所定回数を上限として繰り返してもよい。そして、類似度が基準値以上の人物をデータベース情報内で特定できた場合、特定結果としてその人物を識別する情報を出力してもよい。一方、所定回数繰り返しても類似度が基準値以上の人物をデータベース情報内で特定できなかった場合、特定結果として「該当者なし」を出力してもよい。特定結果として人物を識別する情報が出力された場合、上述した精算部21は、当該情報を用いた上記決済処理を行う。一方、特定結果として該当者なしが出力された場合、精算部21は、顔認証処理を利用した決済処理と異なる方法で決済処理を行う。
次に、図17のシーケンス図を用いて、本実施形態の情報処理システム100の処理の流れの一例を説明する。ここでは、取得部11が動画像を取得する場合の処理を説明する。
情報処理システム100は、登録・決済処理と、認証処理とを並行して行う。まず、登録・決済処理において、商品の登録処理が開始されると(S30)、その旨が認証処理に通知される(S31)。これに応じて、認証処理では、顧客を特定する処理を開始する。具体的には、画像を取得し(S34)、その画像に含まれる人物を特定する処理を行う(S35)。そして、特定結果(抽出した人物を識別する情報又は該当者なし)を蓄積する(S36)。認証処理では、S37の通知を受けるまで、S34乃至S36を繰り返す。
一方、登録・決済処理では、S30の商品の登録処理の開始以降も、商品の登録を受付ける(S32)。決済処理を開始する操作がなされない間(S33のNo)、商品の登録を受付ける(S32)。決済処理を開始する操作がなされると(S33のYes)、その旨が認証処理に通知される(S37)。
認証処理では、例えばS37の通知に応じて、その顧客を特定する処理(S34乃至S36)を終了する。そして、それまでに蓄積した特定結果(画像解析した各フレームに、人物を識別する情報又は該当者なしを対応付けたもの)の中から所定の特定結果(所定のフレームに対応付けられた人物を識別する情報又は該当者なし)を抽出し(S38)、登録・決済処理に通知する(S39)。
例えば、S37の通知がなされた時点で最新の特定結果を抽出してもよい。そして、最新の特定結果が人物を識別する情報である場合、その特定結果を登録・決済処理に通知してもよい。一方、最新の特定結果が該当者なしである場合、所定の検索条件で他の特定結果を抽出してもよい。そして、他の特定結果が人物を識別する情報である場合、その特定結果を登録・決済処理に通知してもよい。一方、他の特定結果が該当者なしである場合、所定の検索条件で他の特定結果をさらに抽出してもよい。そして、所定数連続で特定結果が該当者なしである場合、該当者なしを登録・決済処理に通知してもよい。
登録・決済処理では、S39で取得した特定結果に基づき、決済処理を行う(S40)。特定結果として人物を識別する情報を取得した場合、例えば、その人物を識別する情報に対応する電子マネー情報やポイント情報をサーバから取得し、当該電子マネー情報やポイント情報を利用して決済処理を行うことができる。一方、特定結果として該当者なしを取得した場合、例えば、その他の方法で決済処理を行うことができる。
ここで、図12及び図13を用いて、情報処理システム100のディスプレイに表示される画面の一例を説明する。当該表示は、表示制御部により制御される。まず、登録処理中の画面Dを、図12及び図13の左側に示している。登録処理中の画面Dには、登録された商品の情報(名称、個数、単価等)の一覧や、合計金額等が表示されている。この例の場合、図示する「お会計」エリアのタッチ操作が、決済処理を開始する操作となる。
決済処理を開始する操作がなされると、それに応じて画面が遷移する。S39で取得した特定結果が人物を識別する情報である場合には、例えばその人物を識別する情報を用いた決済処理を行うこととなる。この決済処理の間、図13の右側に示すような当該決済処理に対応した画面(決済処理中であることを通知する画面)をディスプレイに表示することができる。ここで、表示制御部は、当該決済処理に対応した画面(決済処理中であることを通知する画面)をディスプレイに表示させることができる。
なお、登録・決済処理では、S39で取得した人物を識別する情報(特定結果)を用いた決済処理を開始する前に、第1のカメラが生成した画像、及び、特定結果に対応する人物の画像(予め特徴量とともに登録されている画像)をディスプレイに表示し、認証結果に問題ないか否かをオペレータに問い合わせてもよい。そして、問題ない旨の入力を受付けると、それに応じて、その人物の識別情報を用いた決済処理を行ってもよい。
一方、S39で取得した特定結果が該当者なしである場合には、情報処理システム100は、図12の右側に示すように、支払方法の選択を受ける画面をディスプレイに表示してもよい。以降、選択に応じた決済処理を行うことができる。
以上説明した本実施形態の情報処理システム100によれば、決済処理を開始する操作がなされる前、例えば商品の登録処理が開始されると、画像を用いた顧客を特定する処理を開始することができる。このため、精算対象の商品を登録する処理と並行して、顧客を特定する処理を行うことができる。かかる場合、決済処理を開始する操作がなされた時点で、顧客の特定が完了していることが期待される。そして、決済処理を開始する操作がなされると、それに応じて、その時点で得られている特定結果を用いて決済処理を開始することができる。結果、顔認証処理を用いた会計中における顔認証処理の待ち時間を抑制できる。
また、本実施形態の情報処理システム100は、動画像に含まれる複数のフレームの画像各々を処理して各々に含まれる人物を特定し、その中の所定の特定結果に基づき決済処理を行うことができる。かかる場合、あるタイミングで顧客を特定できなかった場合でも、他のタイミングで顧客を特定できた場合には、その特定結果を利用して決済処理を行うことができる。結果、利便性が向上する。
<第2の実施形態>
まず、図1を用いて、本実施形態の情報処理システム100の全体像及び概要を説明する。図示するように、情報処理システム100は、顧客特定装置10と精算装置20とを有する。情報処理システム100は、顧客特定装置10と精算装置20との協働した処理により、所定の処理を実現する。後で実現例を説明するが、顧客特定装置10と精算装置20とは、物理的及び/又は論理的に一体となって構成されてもよいし、物理的及び/又は論理的に分かれて構成されてもよい。
精算装置20は、精算対象の商品を登録する処理(登録処理)、及び、決済処理を行う。オペレータ(店員又は顧客)は、所定の入力装置を介して精算対象の商品を精算装置20に登録する。そして、オペレータは、商品の登録が完了すると、所定の入力装置を介して決済処理を開始する操作を行う。
顧客特定装置10は、精算装置20付近に設置された第1のカメラにより生成された画像と、複数の人物各々の外観の特徴量を登録したデータベース情報とに基づき、会計中の顧客を特定する。顧客特定装置10は、精算装置20に対して決済処理を開始する操作がなされる前に、顧客を特定する処理を開始することができる。そして、顧客特定装置10は、特定結果(抽出した人物を識別する情報又は該当者なし)を精算装置20に通知する。
精算装置20は、顧客特定装置10から取得した特定結果(抽出した人物を識別する情報又は該当者なし)を利用して、決済処理を行う。例えば、精算装置20は、所定のデータベースから、人物を識別する情報に対応する電子マネー情報やポイント情報等を取得し、取得した情報を利用して決済処理を行う。また、会社等の組織内部に設置された店舗内の情報処理システム100である場合、当該組織内で顧客を識別する情報(例:社員番号)に支払金額を対応付けて蓄積していき、給料から天引きする決済処理を行ってもよい。なお、精算装置20は、現金、クレジットカード、その他の電子マネーやポイント等を用いた決済処理を行うことができてもよい。例えば、画像を用いた処理で顧客を特定できなかった場合、例示したその他の方法で決済処理を行ってもよい。
このような本実施形態の情報処理システム100によれば、決済処理を開始する操作がなされる前に、画像を用いた顧客を特定する処理を開始することができる。このため、精算対象の商品を登録する処理等と並行して、顧客を特定する処理を行うことができる。かかる場合、決済処理を開始する操作がなされた時点で、顧客の特定が完了していることが期待される。そして、決済処理を開始する操作がなされると、それに応じて、その時点で特定されている顧客の識別情報を用いた決済処理を開始することができる。結果、顔認証処理を用いた会計中における顔認証処理の待ち時間を抑制できる。
次に、顧客特定装置10及び精算装置20の構成を説明する。まず、顧客特定装置10及び精算装置20のハードウエア構成の一例について説明する。本実施形態の顧客特定装置10及び精算装置20が備える各機能部は、任意のコンピュータのCPU、メモリ、メモリにロードされるプログラム、そのプログラムを格納するハードディスク等の記憶ユニット(あらかじめ装置を出荷する段階から格納されているプログラムのほか、CD等の記憶媒体やインターネット上のサーバ等からダウンロードされたプログラムをも格納できる)、ネットワーク接続用インターフェイスを中心にハードウエアとソフトウエアの任意の組合せによって実現される。そして、その実現方法、装置にはいろいろな変形例があることは、当業者には理解されるところである。
図2は、本実施形態の顧客特定装置10及び精算装置20のハードウエア構成を例示するブロック図である。図1に示すように、顧客特定装置10及び精算装置20は、プロセッサ1A、メモリ2A、入出力インターフェイス3A、周辺回路4A、バス5Aを有する。周辺回路4Aには、様々なモジュールが含まれる。なお、顧客特定装置10及び精算装置20を物理的及び/又は論理的に分けて構成する場合、顧客特定装置10及び精算装置20各々が図1に示すようなハードウエア構成を備える。
バス5Aは、プロセッサ1A、メモリ2A、周辺回路4A及び入出力インターフェイス3Aが相互にデータを送受信するためのデータ伝送路である。プロセッサ1Aは、例えばCPUやGPUなどの演算処理装置である。メモリ2Aは、例えばRAMやROMなどのメモリである。入出力インターフェイス3Aは、入力装置(例:キーボード、マウス、マイク、物理キー、タッチパネルディスプレイ、コードリーダ等)、外部装置、外部サーバ、外部センサ等から情報を取得するためのインターフェイスや、出力装置(例:ディスプレイ、スピーカ、プリンター、メーラ等)、外部装置、外部サーバ等に情報を出力するためのインターフェイスなどを含む。プロセッサ1Aは、各モジュールに指令を出し、それらの演算結果をもとに演算を行うことができる。
次に、精算装置20の機能構成を説明する。図16に、精算装置20の機能ブロック図の一例を示す。図示するように、精算装置20は精算部21を有する。図示しないが、精算装置20は、さらに表示制御部を有してもよい。精算部21及び表示制御部の機能は、第1の実施形態で説明した精算部21の機能と同様である。
なお、精算装置20は、顧客特定装置10との間で情報のやりとりを行うよう構成される。例えば、精算装置20は、顧客特定装置10から顧客を識別する情報を取得する。
また、精算装置20は、所定の操作がなされたことを顧客特定装置10に通知する。一例として、精算装置20は、ある顧客に対する会計処理(登録処理及び決済処理等)の中で、決済処理を開始する操作がなされる前に行われる所定の操作がなされると、それに応じてその操作がなされことを顧客特定装置10に通知してもよい。例えば、精算装置20は、当該顧客に対する会計処理の中で最初の商品登録がなされたことを、顧客特定装置10に通知してもよい。他の一例として、精算装置20は、決済処理を開始する操作がなされたことを顧客特定装置10に通知してもよい。
次に、顧客特定装置10の機能構成を説明する。図3に、顧客特定装置10の機能ブロック図の一例を示す。図示するように、顧客特定装置10は、取得部11と、特定部12と、通知部13とを有する。
取得部11の構成は、第1の実施形態で説明した取得部11の構成と同様である。特定部12の構成は、第1の実施形態で説明した特定部12の構成と同様である。
通知部13は、特定部12による特定結果を精算装置20に通知する。例えば、通知部13は、特定部12により特定された「顧客(第1の顧客)を識別する情報」や、「該当者なし」等の特定結果を精算装置20に通知する。尚、「該当者なし」の場合には、通知しない構成とすることもできる。また、顧客を識別する情報の変わりに、クレジットカードの番号を通知する構成としても良い。さらに、他の決済方法がある場合には、特定した顧客に対応する決済方法を通知しても良い。
次に、図17のシーケンス図を用いて、本実施形態の情報処理システム100の処理の流れの一例を説明する。ここでは、取得部11が動画像を取得する場合の処理を説明する。なお、図示する登録・決済処理は、精算装置20の処理である。図示する認証処理は、顧客特定装置10の処理である。
情報処理システム100は、精算装置20による登録・決済処理と、顧客特定装置10による認証処理とを並行して行う。まず、精算装置20は、商品の登録処理が開始されると(S30)、その旨を顧客特定装置10に通知する(S31)。これに応じて、顧客特定装置10は、顧客を特定する処理を開始する。具体的には、顧客特定装置10は、画像を取得し(S34)、その画像に含まれる人物を特定する処理を行う(S35)。そして、顧客特定装置10は、特定結果(抽出した人物を識別する情報又は該当者なし)を蓄積する(S36)。顧客特定装置10は、S37の通知を受けるまで、S34乃至S36を繰り返す。
一方、精算装置20は、S30の商品の登録処理の開始以降も、商品の登録を受付ける(S32)。決済処理を開始する操作がなされない間(S33のNo)、精算装置20は、商品の登録を受付ける(S32)。決済処理を開始する操作がなされると(S33のYes)、精算装置20は、その旨を顧客特定装置10に通知する(S37)。
顧客特定装置10は、例えばS37の通知に応じて、その顧客を特定する処理(S34乃至S36)を終了する。次いで、顧客特定装置10の通知部13は、それまでに蓄積された特定結果の中から所定の特定結果を抽出し(S38)、抽出した特定結果を精算装置20に通知する(S39)。
例えば、通知部13は、S37の通知がなされた時点で最新の特定結果を抽出してもよい。そして、最新の特定結果が人物を識別する情報である場合、通知部13は、その特定結果を精算装置20に通知してもよい。一方、最新の特定結果が該当者なしである場合、通知部13は、所定の検索条件で他の特定結果を抽出してもよい。そして、他の特定結果が人物を識別する情報である場合、通知部13は、その特定結果を精算装置20に通知してもよい。一方、他の特定結果が該当者なしである場合、通知部13は、所定の検索条件で他の特定結果をさらに抽出してもよい。そして、所定数連続で特定結果が該当者なしである場合、通知部13は、該当者なしを精算装置20に通知してもよい。
精算装置20は、S39で取得した特定結果に基づき、決済処理を行う(S40)。特定結果として人物を識別する情報を取得した場合、精算装置20は、例えば、その人物を識別する情報に対応する電子マネー情報やポイント情報をサーバから取得し、当該電子マネー情報やポイント情報を利用して決済処理を行うことができる。一方、特定結果として該当者なしを取得した場合、精算装置20は、例えば、その他の方法で決済処理を行うことができる。
ここで、図12及び図13を用いて、精算装置20のディスプレイに表示される画面の一例を説明する。まず、登録処理中の画面Dを、図12及び図13の左側に示している。登録処理中の画面Dには、登録された商品の情報(名称、個数、単価等)の一覧や、合計金額等が表示されている。この例の場合、図示する「お会計」エリアのタッチ操作が、決済処理を開始する操作となる。
決済処理を開始する操作がなされると、それに応じて画面が遷移する。S39で取得した特定結果が人物を識別する情報である場合には、例えばその人物を識別する情報を用いた決済処理を行うこととなる。この決済処理の間、図13の右側に示すような当該決済処理に対応した画面(決済処理中であることを通知する画面)をディスプレイに表示することができる。
なお、精算装置20は、S39で取得した人物を識別する情報(特定結果)を用いた決済処理を開始する前に、第1のカメラが生成した画像、及び、特定結果に対応する人物の画像(予め特徴量とともに登録されている画像)をディスプレイに表示し、認証結果に問題ないか否かをオペレータに問い合わせてもよい。そして、精算装置20は、問題ない旨の入力を受付けると、それに応じて、その人物の識別情報を用いた決済処理を行ってもよい。
一方、S39で取得した特定結果が該当者なしである場合には、精算装置20は、図12の右側に示すように、支払方法の選択を受ける画面をディスプレイに表示してもよい。以降、精算装置20は、選択に応じた決済処理を行うことができる。
次に、図6のフローチャートを用いて、本実施形態の顧客特定装置10の処理の流れの一例を説明する。当該処理例は、取得部11が第1のカメラから動画像を取得する場合の例である。
まず、顧客特定装置10は、画像に含まれる人物を特定する処理を開始するための通知待ち状態となる(S20)。そして、精算装置20から所定の通知を受けると(S20のYes)、画像に含まれる人物を特定する処理を開始する。なお、画像に含まれる人物を特定する処理を開始するための通知は、例えば、ある顧客に対する会計処理(登録処理及び決済処理等)の中で、決済処理を開始する操作がなされる前に行われる所定の操作がなされたことの通知(例:最初の商品登録がなされたことを示す通知))である。
S21では、特定部12は、処理対象とする画像を取得部11から取得する。S22では、特定部12は、S21で取得した画像、及び、複数の人物各々の外観の特徴量を登録したデータベース情報に基づき、画像に含まれる人物を特定する。その後、画像に含まれる人物を特定する処理を終了するための通知がない場合(S23のNo)、再びS21に戻り、次のフレームの画像を取得する。以降、同様の処理を繰り返す。結果、S22での特定結果が蓄積されていく。
そして、画像に含まれる人物を特定する処理を終了するための通知を精算装置20から受けると(S23のYes)、S24に進む。画像に含まれる人物を特定する処理を終了するための通知は、例えば、決済処理を開始する操作がなされたことの通知である。
S24では、通知部13は、それまでに蓄積された特定結果の中の所定の特定結果を精算装置20に通知する。その後、S20に戻って、再び、画像に含まれる人物を特定する処理を開始するための通知待ち状態となる。
次に、図7のフローチャートを用いて、本実施形態の顧客特定装置10の処理の流れの一例を説明する。当該処理例は、取得部11が第1のカメラから静止画像を取得する場合の例である。
まず、顧客特定装置10は、画像に含まれる人物を特定する処理を開始するための通知待ち状態となる(S10)。そして、精算装置20から所定の通知を受けると(S10のYes)、画像に含まれる人物を特定する処理を開始する。なお、画像に含まれる人物を特定する処理を開始するための通知は、例えば、ある顧客に対する会計処理(登録処理及び決済処理等)の中で、決済処理を開始する操作がなされる前に行われる所定の操作がなされたことの通知(例:最初の商品登録がなされたことを示す通知))である。
S11では、取得部11は、第1のカメラに画像を要求し、当該要求に応じて撮影された画像を第1のカメラから取得する。そして、特定部12は、取得部11から当該画像を取得する。
S12では、特定部12は、S11で取得した画像、及び、複数の人物各々の外観の特徴量を登録したデータベース情報に基づき、画像に含まれる人物を特定する。S13では、通知部13は、特定部12による特定結果を精算装置20に通知する。その後、S10に戻って、再び、画像に含まれる人物を特定する処理を開始するための通知待ち状態となる。
次に、顧客特定装置10及び精算装置20により実現される本実施形態の情報処理システム100の実現例を説明する。
顧客特定装置10及び精算装置20は物理的及び/又は論理的に一体となった1つの装置で実現されてもよい。例えば、1つのPOSレジスターにより、顧客特定装置10及び精算装置20が実現されてもよい。
その他、図8に示すように、物理的及び/又は論理的に分かれたPOSレジスター1と付属装置2とにより、顧客特定装置10及び精算装置20が実現されてもよい。POSレジスター1と付属装置2とは、有線及び/又は無線で互いに通信可能に構成される。POSレジスター1と付属装置2とは、図示するように1対1で接続されてもよいし、1つの付属装置2に対して複数のPOSレジスター1が接続されてもよい。
図8の例の場合、POSレジスター1により精算装置20が実現され、付属装置2により顧客特定装置10が実現されてもよい。
その他、POSレジスター1により精算装置20と、顧客特定装置10の一部機能とが実現され、付属装置2により顧客特定装置10の他の一部機能が実現されてもよい。例えば、POSレジスター1により、顧客特定装置10の取得部11と、特定部12の一部機能(例:画像から人物を抽出する機能、及び、その人物の特徴量を抽出する機能)とが実現されてもよい。そして、付属装置2により、特定部12の他の一部機能(例:画像から抽出された人物の特徴量と、複数の人物各々の外観の特徴量を登録したデータベース情報とを照合する機能)と、通知部13とが実現されてもよい。
その他、図9に示すように、物理的及び/又は論理的に分かれたPOSレジスター1とサーバ3とにより、顧客特定装置10及び精算装置20が実現されてもよい。POSレジスター1とサーバ3とは、有線及び/又は無線で互いに通信可能に構成される。図示するように、1つのサーバ3に対して複数のPOSレジスター1が接続される。
図9の例の場合、POSレジスター1により精算装置20が実現され、サーバ3により顧客特定装置10が実現されてもよい。
その他、POSレジスター1により精算装置20と、顧客特定装置10の一部機能とが実現され、サーバ3により顧客特定装置10の他の一部機能が実現されてもよい。例えば、POSレジスター1により、顧客特定装置10の取得部11と、特定部12の一部機能(例:画像から人物を抽出する機能、及び、その人物の特徴量を抽出する機能)とが実現されてもよい。そして、サーバ3により、特定部12の他の一部機能(例:画像から抽出された人物の特徴量と、複数の人物各々の外観の特徴量を登録したデータベース情報とを照合する機能)と、通知部13とが実現されてもよい。
ここで、変形例を説明する。情報処理システム100は、顧客を特定しやすい状態で撮影できるようにするため、第1のカメラの方に顧客の顔を向かせる手段を有してもよい。例えば、情報処理システム100は、第1のカメラの付近に設置されたディスプレイに所定の情報を表示することで、第1のカメラの方に顧客の顔を向けさせてもよい。例えば、ディスプレイに選択画面を表示させることにより、顧客の顔を第1のカメラの方に向けさせることとしても良い。具体的には、レジ袋の有無の選択画面を表示させ、顧客の顔の向きを変えるような構成としても良い。さらに、レジ袋の有無を表示するタイミングとしては、精算装置20が、顧客特定装置10に顧客を特定する処理を開始させるための通知をした後に実施されることが好ましい。その他、情報処理システム100は、第1のカメラの付近に設置されたスピーカから所定の音声を出力することで、第1のカメラの方に顧客の意識を向けさせてもよい。その他、情報処理システム100は、第1のカメラの付近に設置されたランプを点灯したり点滅したりすることで、第1のカメラの方に顧客の意識を向けさせてもよい。
他の変形例を説明する。情報処理システム100は、他の位置に設置された第2のカメラにより生成された画像を取得する第2の取得部と、複数の人物各々の外観の特徴量を登録したデータベース情報とに基づき、店舗に来店している人物を特定する第2の特定部をさらに有してもよい。そして、顧客特定装置10の特定部12は、第2の特定部により特定された人物群の上記データベース情報に基づき、第1のカメラにより生成された画像に含まれる人物を特定してもよい。かかる場合、第1のカメラにより生成された画像に含まれる人物を特定するために照合する情報の数を減らすことができる。結果、照合処理の速度を向上させることができる。
第2のカメラは、店舗内の任意の場所に設置される。例えば、第2のカメラは店舗の出入口に設置されてもよい。なお、顧客特定装置10が前段階特定部を有してもよいし、顧客特定装置10及び精算装置20と物理的及び/又は論理的に分かれた他の装置が前段階特定部を有してもよい。この場合、顧客特定装置10と他の装置とは有線及び/又は無線で互いに通信可能に構成される。
尚、情報処理システム100は、上記第2の取得部及び第2の特定部に加えて、顧客データベースおよびデータベース生成部をさらに備える構成とすることもできる。第2の特定部は、第2のカメラから取得された画像の中から人物を抽出するとともに、その人物の外観の特徴量を抽出する。そして、第2の特定部は、画像内で抽出した人物の特徴量と、データベース情報に含まれる複数の人物各々の外観の特徴量とを照合し、類似度が基準値以上の人物を特定する。データベース生成部は、第2の特定部で特定された人物を識別する情報(氏名、会員番号、社員番号等)と、人物の顔の特徴量とを対応付けて顧客データベースに記憶させる。顧客データベースは、第2のカメラが設置されている店舗に来店した顧客を識別する情報(氏名、会員番号、社員番号等)と、その顧客の顔の特徴量を対応付けて記憶する。尚、顧客データベースは、これまで来店したことがある顧客すべてを記憶する構成であっても良いし、顧客の退店を検知し、顧客の退店時に顧客データベースから削除する構成であっても良いし、所定期間(1日や1週間など)の期間で顧客データベースに記憶されている情報を削除する構成とすることもできる。特定部12は、構築された顧客データベースと、第1のカメラから取得した顧客の顔画像に基づいて、顧客を特定する。
他の変形例を説明する。取得部11が第1のカメラから取得した画像は、一時的に顧客特定装置10の記憶装置内に記憶される。そして、顧客特定装置10は、所定のタイミングで、当該記憶装置内から画像を消去してもよい。例えば、通知部13により精算装置20への特定結果の通知がなされると、それに応じて、それまでに記憶装置に蓄積された画像を消去してもよい。このようにすることで、来店者の個人情報が保護される。
他の変形例を説明する。情報処理システム100は、複数の人物各々の外観の特徴量を登録したデータベース情報において、複数の人物各々の画像(登録画像)をさらに記憶してもよい。そして、情報処理システム100は、第1のカメラにより生成された画像、及び、顧客特定装置10により特定された人物の登録画像を並べてディスプレイ(例:精算装置20のディスプレイ)に表示してもよい。ディスプレイは、精算装置20を操作するオペレータ(店員又は顧客)に向けられたものであってもよいし、店員が精算装置20を操作している間、待っている顧客に向けられたものであってもよい。これにより、店員や顧客が、情報処理システム100による顧客の認識間違いを検知できる。
他の変形例を説明する。情報処理システム100は、図18に示すように、顧客ごとに顧客が指定した支払方法を登録しておいてもよい。そして、情報処理システム100は、画像を用いて特定した顧客を識別する情報に対応する決済方法で、決済処理を行ってもよい。
なお、ここで説明した変形例はいずれも、他の実施形態においても適用可能である。
以上説明した本実施形態の情報処理システム100によれば、第1の実施形態と同様の作用効果が得られる。また、図8及び図9に示すように、POSレジスター1と他の装置(付属装置2又はサーバ3)とで情報処理システム100を実現する構成とすることで、顔認証処理を実行する機能を有さない既存のPOSレジスター1を利用することができる。結果、新たなシステムを導入する費用を抑えることができる。
<第3の実施形態>
本実施形態は、第2の実施形態の変形例である。図6等を用いて説明した第2の実施形態では、顧客特定装置10が動画像を処理して得られた複数の特定結果を蓄積し、所定のタイミングでその中から1つを抽出して精算装置20に通知する例を説明した。本実施形態では、顧客特定装置10は動画像を連続的に処理することで得られた複数の特定結果を精算装置20に送信してもよい。そして、精算装置20内の記憶装置に複数の特定結果が蓄積されてもよい。かかる場合、精算装置20が、任意のタイミング(決済処理を開始する操作がなされたタイミング)で、蓄積された複数の特定結果の中から1つを抽出し、抽出した特定結果を用いて決済処理を行う。複数の特定結果の中から1つを抽出する処理は、上述した通知部13による処理と同様である。本実施形態の情報処理システム100も第1及び第2の実施形態と同様の作用効果を実現できる。
<第4の実施形態>
本実施形態の顧客特定装置10は、決済処理を開始する操作がなされたことの通知を精算装置20から受けると、当該通知に応じて、取得部11により取得された画像内の所定のエリアに含まれる人物を次の顧客(次に決済処理を行う顧客)として特定する処理を開始する点で、第2及び第3の実施形態と異なる。顧客特定装置10のその他の構成及び精算装置20の構成は、第2及び第3の実施形態と同様である。
図10を用いて、会計処理の流れの一例を説明する。精算装置20はカウンターに設置される。精算装置20を操作する店員と、会計中の顧客は、カウンターを挟んで対峙する。会計中の顧客は、精算装置20や店員の前に位置する。図では、会計処理の順番待ちの顧客が示されている。図中、矢印で、会計処理が終了した顧客の移動方向、及び、それに応じた次の顧客の移動方向を示している。
次の順番の顧客は、例えば前の顧客が決済処理を開始すると、前の顧客との間の距離を保ちながら図示する矢印の向きに少しずつ移動し、例えばカウンターの図中右端付近においてあった精算対象の商品を精算装置20の方に移動させたりする。そして、前の顧客がカウンターの前からいなくなると、さらに矢印の方向に移動して精算装置20や店員の前に位置する。
本実施形態では、第1のカメラは、精算装置20や店員の前にいる会計中の顧客のみならず、当該位置よりも順番待ちの顧客がいる側を含んで撮影するよう設置される。
そして、特定部12は、決済処理を開始する操作がなされたことの通知を精算装置20から受けると、当該通知に応じて、取得部11により取得された画像内の所定のエリアに含まれる人物を次の顧客として特定する処理を開始する。
所定のエリアは、次の顧客がうつりこんでくるエリア(フェードインしてくるエリア)である。所定のエリアは、第1のカメラの設置位置や向き、会計中の顧客がいる位置、次の順番の顧客がいる位置等に応じて決定される。例えば、図10の関係で、図中下側から上側に向かって第1のカメラが撮影する場合、図11に示すフレーム画像Fの中のエリアA2(右側のエリア)を、上記所定のエリアとすることができる。なお、エリアA1(左側のエリア)には、前の顧客がうつっている可能性がある。
第1のカメラが動画像を撮影する場合、特定部12は、エリアA2内で人物を特定後、特定した人物の動きを監視してもよい。そして、当該人物がエリアA1内に移動すると、それ以降、人物を特定する処理の対象エリアを、エリアA2から画像全体に切り替えてもよい。
なお、本実施形態の構成を、第1の実施形態の情報処理システム100に採用することもできる。
以上説明した本実施形態によれば、第1乃至第3の実施形態と同様の作用効果を実現できる。また、本実施形態の情報処理システム100によれば、第1乃至第3の実施形態で説明したタイミングよりも早いタイミングで、顧客を特定する処理を開始することができる。このため、より早い段階で、顧客を特定することができる。結果、より確実に、顔認証処理を用いた会計中に、顔認証処理の待ち時間を抑制できる。
上記の実施形態の一部または全部は、以下の付記の要にも記載されうるが、以下には限られない。
1. 第1のカメラにより生成された顔の画像を取得する取得手段と、
取得した前記画像と、顔の特徴量を登録したデータベース情報とに基づき、代金を支払う第1の顧客を特定する特定手段と、
特定した前記第1の顧客に対する決済処理を行う決済手段と、
を備え、
前記特定手段は、前記決済処理の開始操作がなされる前に前記第1の顧客を特定する、情報処理システム。
2. 1に記載の情報処理システムにおいて、
前記特定手段は、前記第1の顧客が購入する商品の登録処理が開始された場合に、当該第1の顧客の特定を開始する情報処理システム。
3. 1に記載の情報処理システムにおいて、
前記特定手段は、前記第1の顧客より前に決済処理が行われる第2の顧客に対して決済処理を開始する操作がなされた場合に、当該第1の顧客の特定を開始する情報処理システム。
4. 1から3のいずれかに記載の情報処理システムにおいて、
前記特定手段が前記第1の顧客を特定できなかった場合、決済方法を選択する画面を表示させる表示制御手段をさらに備える情報処理システム。
5. 1から4のいずれかに記載の情報処理システムにおいて、
前記取得手段は、異なるタイミングで撮像された複数の前記画像を前記第1のカメラから取得し、
前記決済手段は、前記第1の顧客に対する決済処理の開始操作がなされた時点における最新の画像で特定した前記第1の顧客に対する決済処理を行う情報処理システム。
6. 5に記載の情報処理システムにおいて、
前記決済手段は、前記特定手段が前記最新の画像で前記第1の顧客を特定できていない場合、当該最新の画像より前に取得した前記画像で特定した前記第1の顧客に対する決済処理を行う情報処理システム。
7. 1から6のいずれか1項に記載の情報処理システムにおいて、
前記第1のカメラとは異なる位置に設置された第2のカメラから顔の画像を取得する第2取得手段と、
前記第2のカメラから取得した前記画像と、前記データベース情報とに基づき、店舗に来店中の顧客を特定するための顧客データベースを生成する生成手段をさらに備え、
前記特定手段は、前記生成手段が生成した顧客データベースの情報に基づき、前記第1の顧客を特定する情報処理システム。
8. 第1のカメラにより生成された顔の画像を取得する取得手段と、
取得した前記画像と、顔の特徴量を登録したデータベース情報とに基づき、代金を支払う第1の顧客を特定する特定手段と、
特定した前記第1の顧客に対する決済処理を行う決済手段と、を備え、
前記特定手段は、前記第1の顧客が購入する商品の登録処理が開始された場合に、前記第1の顧客を特定する、情報処理システム。
9. 第1のカメラにより生成された顔の画像を取得する取得手段と、
取得した前記画像と、顔の特徴量を登録したデータベース情報とに基づき、代金を支払う第1の顧客を特定する特定手段と、
特定された前記第1の顧客に対応する該顧客を識別する情報を精算装置に通知する通知手段と、
を備え、
前記特定手段は、決済処理の開始操作がなされる前に前記第1の顧客を特定する、顧客特定装置。
10. コンピュータが、
第1のカメラにより生成された顔の画像を取得する取得工程と、
取得した前記画像と、顔の特徴量を登録したデータベース情報とに基づき、代金を支払う第1の顧客を特定する特定工程と、
特定した前記第1の顧客に対する決済処理を行う決済工程と、
を実行し、
前記特定工程では、前記決済処理の開始操作がなされる前に前記第1の顧客を特定する、情報処理方法。
11. コンピュータを、
第1のカメラにより生成された顔の画像を取得する取得手段、
取得した前記画像と、顔の特徴量を登録したデータベース情報とに基づき、代金を支払う第1の顧客を特定する特定手段、
特定した前記第1の顧客に対する決済処理を行う決済手段、
として機能させ、
前記特定手段は、前記決済処理の開始操作がなされる前に前記第1の顧客を特定する、プログラム。
12. コンピュータが、
第1のカメラにより生成された顔の画像を取得する取得工程と、
取得した前記画像と、顔の特徴量を登録したデータベース情報とに基づき、代金を支払う第1の顧客を特定する特定工程と、
特定した前記第1の顧客に対する決済処理を行う決済工程と、を実行し、
前記特定工程では、前記第1の顧客が購入する商品の登録処理が開始された場合に、前記第1の顧客を特定する、情報処理方法。
13. コンピュータを、
第1のカメラにより生成された顔の画像を取得する取得手段、
取得した前記画像と、顔の特徴量を登録したデータベース情報とに基づき、代金を支払う第1の顧客を特定する特定手段、
特定した前記第1の顧客に対する決済処理を行う決済手段、として機能させ、
前記特定手段は、前記第1の顧客が購入する商品の登録処理が開始された場合に、前記第1の顧客を特定する、プログラム。
14. コンピュータが、
第1のカメラにより生成された顔の画像を取得する取得工程と、
取得した前記画像と、顔の特徴量を登録したデータベース情報とに基づき、代金を支払う第1の顧客を特定する特定工程と、
特定された前記顧客に対応する該顧客を識別する情報を前記精算装置に通知する通知工程と、
を実行し、
前記特定工程では、前記決済処理の開始操作がなされる前に前記第1の顧客を特定する、顧客特定方法。
15. コンピュータを、
第1のカメラにより生成された顔の画像を取得する取得手段、
取得した前記画像と、顔の特徴量を登録したデータベース情報とに基づき、代金を支払う第1の顧客を特定する特定手段、
特定された前記顧客に対応する該顧客を識別する情報を前記精算装置に通知する通知手段、
として機能させ、
前記特定手段は、前記決済処理の開始操作がなされる前に前記第1の顧客を特定する、プログラム。
以上、実施形態を参照して本願発明を説明したが、本願発明は上記実施形態に限定されるものではない。本願発明の構成や詳細には、本願発明のスコープ内で当業者が理解し得る様々な変更をすることができる。
この出願は、2016年12月20日に出願された日本出願特願2016-246537号を基礎とする優先権を主張し、その開示の全てをここに取り込む。

Claims (7)

  1. 第1のカメラにより生成された顔の画像を取得する取得手段と、
    取得した前記画像と、顔の特徴量を登録したデータベース情報とに基づき、代金を支払う第1の顧客を特定する特定手段と、
    特定した前記第1の顧客に対する決済処理を行う決済手段と、を備え、
    前記特定手段は、前記第1の顧客に対する決済処理を開始する操作がなされると、前記画像の中の所定のエリアに含まれる次に決済処理を行う顧客を特定する処理を開始する、
    情報処理システム。
  2. 請求項1に記載の情報処理システムにおいて、
    認証結果に関する情報と、決済に関する情報とを表示させる表示制御手段をさらに備え、
    前記決済手段は、決済処理を行う旨の入力を受付けると、特定した前記第1の顧客に対する決済処理を行う情報処理システム。
  3. 請求項1又は2に記載の情報処理システムにおいて、
    前記表示制御手段は、前記第1のカメラが生成した前記第1の顧客の顔の画像と、前記データベース情報が有する前記第1の顧客の顔の画像と、を精算装置に表示させる情報処理システム。
  4. 請求項1に記載の情報処理システムにおいて、
    予め、顧客毎に顧客が指定した決済方法が登録されており、
    前記決済手段は、前記第1の顧客に紐付けて登録されている前記決済方法で前記第1の顧客に対する決済処理を行う情報処理システム。
  5. 第1のカメラにより生成された顔の画像を取得する取得手段と、
    取得した前記画像と、顔の特徴量を登録したデータベース情報とに基づき、代金を支払う第1の顧客を特定する特定手段と、
    特定された前記顧客に対応する該顧客を識別する情報を精算装置に通知する通知手段と、を備え、
    前記特定手段は、前記第1の顧客に対する決済処理を開始する操作がなされると、前記画像の中の所定のエリアに含まれる次に決済処理を行う顧客を特定する処理を開始する、
    顧客特定装置。
  6. コンピュータが、
    第1のカメラにより生成された顔の画像を取得する取得工程と、
    取得した前記画像と、顔の特徴量を登録したデータベース情報とに基づき、代金を支払う第1の顧客を特定する特定工程と、
    特定した前記第1の顧客に対する決済処理を行う決済工程と、
    を実行し、
    前記特定工程では、前記第1の顧客に対する決済処理を開始する操作がなされると、前記画像の中の所定のエリアに含まれる次に決済処理を行う顧客を特定する処理を開始する、
    情報処理方法。
  7. コンピュータを、
    第1のカメラにより生成された顔の画像を取得する取得手段、
    取得した前記画像と、顔の特徴量を登録したデータベース情報とに基づき、代金を支払う第1の顧客を特定する特定手段、
    特定した前記第1の顧客に対する決済処理を行う決済手段、として機能させ、
    前記特定手段は、前記第1の顧客に対する決済処理を開始する操作がなされると、前記画像の中の所定のエリアに含まれる次に決済処理を行う顧客を特定する処理を開始する、
    プログラム。
JP2022007731A 2016-12-20 2022-01-21 情報処理システム、顧客特定装置、情報処理方法及びプログラム Pending JP2022048234A (ja)

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2016246537 2016-12-20
JP2016246537 2016-12-20
JP2018557531A JP7298865B2 (ja) 2016-12-20 2017-09-05 情報処理システム、顧客特定装置、情報処理方法及びプログラム
PCT/JP2017/031891 WO2018116536A1 (ja) 2016-12-20 2017-09-05 情報処理システム、顧客特定装置、情報処理方法及びプログラム

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2018557531A Division JP7298865B2 (ja) 2016-12-20 2017-09-05 情報処理システム、顧客特定装置、情報処理方法及びプログラム

Publications (1)

Publication Number Publication Date
JP2022048234A true JP2022048234A (ja) 2022-03-25

Family

ID=62626247

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2018557531A Active JP7298865B2 (ja) 2016-12-20 2017-09-05 情報処理システム、顧客特定装置、情報処理方法及びプログラム
JP2022007731A Pending JP2022048234A (ja) 2016-12-20 2022-01-21 情報処理システム、顧客特定装置、情報処理方法及びプログラム

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2018557531A Active JP7298865B2 (ja) 2016-12-20 2017-09-05 情報処理システム、顧客特定装置、情報処理方法及びプログラム

Country Status (4)

Country Link
US (1) US20190303946A1 (ja)
JP (2) JP7298865B2 (ja)
CN (1) CN110088813A (ja)
WO (1) WO2018116536A1 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7163144B2 (ja) * 2018-11-13 2022-10-31 グローリー株式会社 商品販売システム、ショッピングカート及び商品販売方法
CN109858343B (zh) * 2018-12-24 2021-07-06 深圳云天励飞技术有限公司 一种基于人脸识别的控制方法、装置及存储介质
JP2020197758A (ja) * 2019-05-30 2020-12-10 パナソニックIpマネジメント株式会社 精算装置および精算方法
US20230394475A1 (en) 2020-11-05 2023-12-07 Nec Corporation Payment assistance apparatus, payment assistance system, payment assistance method, and non-transitory computer-readable medium
JP2023002025A (ja) * 2021-06-22 2023-01-10 東芝テック株式会社 顧客確認サーバー、顧客確認システム及び顧客確認プログラム
JP2023077805A (ja) * 2021-11-25 2023-06-06 東芝テック株式会社 決済者監視装置及びそのプログラム、決済者監視方法

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013045132A (ja) * 2011-08-22 2013-03-04 Casio Comput Co Ltd 売上データ処理装置及びプログラム
JP2016126749A (ja) * 2014-12-29 2016-07-11 東芝テック株式会社 情報処理システムおよび情報処理プログラム

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20050129334A1 (en) * 2003-12-12 2005-06-16 Wilder Daniel V. Event photo retrieval system and method
JP5666772B2 (ja) * 2008-10-14 2015-02-12 Necソリューションイノベータ株式会社 情報提供装置、情報提供方法及びプログラム
US10402847B2 (en) * 2009-11-20 2019-09-03 Mobisave Llc System and method of electronically verifying required proof-of-performance to secure promotional rewards
CN102339441A (zh) * 2010-07-25 2012-02-01 俞建峰 基于人脸识别技术的电子消费管理系统
JP5311239B2 (ja) * 2011-06-17 2013-10-09 カシオ計算機株式会社 売上データ処理装置及びプログラム
JP5349554B2 (ja) * 2011-09-05 2013-11-20 東芝テック株式会社 情報処理装置及びプログラム
CN203012869U (zh) * 2012-10-12 2013-06-19 成都掌握移动信息技术有限公司 一种基于人脸识别的刷卡机
CN104361324A (zh) * 2014-11-15 2015-02-18 安徽省新方尊铸造科技有限公司 一种基于虹膜识别技术的超市快捷支付系统
CN105741451B (zh) * 2014-12-29 2019-02-05 东芝泰格有限公司 信息处理系统及信息处理方法
CN105528701B (zh) * 2015-12-09 2021-03-30 北京京东尚科信息技术有限公司 用于基于人脸识别实现产品提取的方法和设备
CN105488925B (zh) * 2016-01-11 2018-10-19 靳玉清 一种多功能移动pos机及其应用方法
CN205644837U (zh) * 2016-04-20 2016-10-12 宁波大学 一种基于面部识别的超市终端设备

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013045132A (ja) * 2011-08-22 2013-03-04 Casio Comput Co Ltd 売上データ処理装置及びプログラム
JP2016126749A (ja) * 2014-12-29 2016-07-11 東芝テック株式会社 情報処理システムおよび情報処理プログラム

Also Published As

Publication number Publication date
JP7298865B2 (ja) 2023-06-27
JPWO2018116536A1 (ja) 2019-10-24
CN110088813A (zh) 2019-08-02
US20190303946A1 (en) 2019-10-03
WO2018116536A1 (ja) 2018-06-28

Similar Documents

Publication Publication Date Title
JP2022048234A (ja) 情報処理システム、顧客特定装置、情報処理方法及びプログラム
EP3696779A1 (en) Information processing apparatus
JP7163604B2 (ja) 精算システム、精算方法及びプログラム
US10497017B2 (en) Method and system for distributing and tracking effectiveness of product recommendations
JP6672597B2 (ja) 情報処理システム、情報処理方法、およびプログラム
US20160300247A1 (en) Sales data processing apparatus, server and method for acquiring attribute information
JP7310969B2 (ja) 情報処理システム、顧客特定装置、情報処理方法及びプログラム
JP2022075720A (ja) 情報処理装置、プログラムおよび画像処理方法
JP7298594B2 (ja) 店舗管理装置および店舗管理方法、プログラム
JP7391513B2 (ja) 商品登録装置及び情報処理プログラム
JP7343230B2 (ja) 商品販売データ処理装置及びプログラム
JP2023088960A (ja) 情報処理装置、及び店舗システム
JP6942984B2 (ja) 情報処理システム、情報処理装置、情報処理方法および情報処理プログラム
JP6582478B2 (ja) 会計装置、会計方法、及び、プログラム
TWI760521B (zh) 智慧商店購物系統及使用其之購物方法
US20180276636A1 (en) Point-of-sale terminal having a dynamically set user interface
JP7366099B2 (ja) 監視装置及びプログラム
WO2021066000A1 (ja) 店舗システム、店舗サーバ及び店舗システムの処理方法
JP7070674B2 (ja) 登録システム、登録方法及びプログラム
JP6977286B2 (ja) 販売システム、サーバ、販売システムの処理方法、サーバの処理方法及びプログラム
US20220092573A1 (en) Portable terminal and information processing method for a portable terminal
US20230091825A1 (en) Checkout apparatus and checkout method
JP5971319B2 (ja) データ処理装置及びプログラム
JP2022149539A (ja) 情報処理装置、プログラム、および行動分析システム
JP2022098820A (ja) 商品販売データ処理システム、及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220121

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230124

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230320

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20230425

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230608

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20230616

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20230714