JP2022090881A - チェックアウト装置、監視装置および監視プログラム - Google Patents

チェックアウト装置、監視装置および監視プログラム Download PDF

Info

Publication number
JP2022090881A
JP2022090881A JP2020203454A JP2020203454A JP2022090881A JP 2022090881 A JP2022090881 A JP 2022090881A JP 2020203454 A JP2020203454 A JP 2020203454A JP 2020203454 A JP2020203454 A JP 2020203454A JP 2022090881 A JP2022090881 A JP 2022090881A
Authority
JP
Japan
Prior art keywords
processor
product
camera
checkout device
person
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2020203454A
Other languages
English (en)
Inventor
唯志 竹野
Tadashi Takeno
景太 山崎
Keita Yamazaki
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba TEC Corp
Original Assignee
Toshiba TEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba TEC Corp filed Critical Toshiba TEC Corp
Priority to JP2020203454A priority Critical patent/JP2022090881A/ja
Priority to US17/461,430 priority patent/US20220180343A1/en
Publication of JP2022090881A publication Critical patent/JP2022090881A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/188Capturing isolated or intermittent images triggered by the occurrence of a predetermined event, e.g. an object reaching a predetermined position
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06KGRAPHICAL DATA READING; PRESENTATION OF DATA; RECORD CARRIERS; HANDLING RECORD CARRIERS
    • G06K7/00Methods or arrangements for sensing record carriers, e.g. for reading patterns
    • G06K7/10Methods or arrangements for sensing record carriers, e.g. for reading patterns by electromagnetic radiation, e.g. optical sensing; by corpuscular radiation
    • G06K7/14Methods or arrangements for sensing record carriers, e.g. for reading patterns by electromagnetic radiation, e.g. optical sensing; by corpuscular radiation using light without selection of wavelength, e.g. sensing reflected white light
    • G06K7/1404Methods for optical code recognition
    • G06K7/1408Methods for optical code recognition the method being specifically adapted for the type of code
    • G06K7/14131D bar codes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q20/00Payment architectures, schemes or protocols
    • G06Q20/08Payment architectures
    • G06Q20/20Point-of-sale [POS] network systems
    • G06Q20/206Point-of-sale [POS] network systems comprising security or operator identification provisions, e.g. password entry
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q20/00Payment architectures, schemes or protocols
    • G06Q20/08Payment architectures
    • G06Q20/20Point-of-sale [POS] network systems
    • G06Q20/208Input by product or record sensing, e.g. weighing or scanner processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/52Surveillance or monitoring of activities, e.g. for recognising suspicious objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • GPHYSICS
    • G07CHECKING-DEVICES
    • G07GREGISTERING THE RECEIPT OF CASH, VALUABLES, OR TOKENS
    • G07G1/00Cash registers
    • G07G1/0036Checkout procedures
    • GPHYSICS
    • G07CHECKING-DEVICES
    • G07GREGISTERING THE RECEIPT OF CASH, VALUABLES, OR TOKENS
    • G07G3/00Alarm indicators, e.g. bells
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast

Abstract

【課題】 商品登録処理および会計処理を含む一連の処理中において人物の存在を監視することができるチェックアウト装置、監視装置および監視プログラムを提供する。【解決手段】 実施形態によれば、チェックアウト装置は、カメラインターフェースとプロセッサとを有する。カメラインターフェースは、人物が商品の情報を登録する登録作業と商品の精算金額を決済する作業とを行うための作業エリアを撮影範囲に含むカメラが撮影した画像を取得する。プロセッサは、人物の登録作業に応じて商品の情報を登録する登録処理と登録処理で登録した情報に基づいて商品の精算金額を決済する会計処理とを行い、登録処理を開始してから会計処理が終了するまでの間にカメラが撮影する画像において人物が作業エリアに存在しないことを検知した場合にアラートを出力する。【選択図】図2

Description

本発明の実施形態は、チェックアウト装置、監視装置および監視プログラムに関する。
従来、商品を購入する顧客自身の操作によって商品の登録および決済を行うセルフレジ(セルフチェックアウト装置)がある。従来のセルフレジには、会計処理へ移行しようとする場合に未登録の商品があれば、顧客に対してアラートを通知する機能を有するものがある。
しかしながら、従来のセルフレジでは、商品の情報を登録する商品登録処理および会計処理を含む一連の処理中において継続的に顧客の存在を監視することは行っていない。このため、セルフレジで商品の登録を開始した顧客がセルフレジを会計処理に移行させずに立ち去ってしまうような場合にアラートを発することができない。
特開2018-116525号公報
本発明が解決しようとする課題は、商品登録処理および会計処理を含む一連の処理中において人物の存在を監視することができるチェックアウト装置、監視装置および監視プログラムを提供することである。
実施形態によれば、チェックアウト装置は、カメラインターフェースとプロセッサとを有する。カメラインターフェースは、人物が商品の情報を登録する登録作業と商品の精算金額を決済する作業とを行うための作業エリアを撮影範囲に含むカメラが撮影した画像を取得する。プロセッサは、人物の登録作業に応じて商品の情報を登録する登録処理と登録処理で登録した情報に基づいて商品の精算金額を決済する会計処理とを行い、登録処理を開始してから会計処理が終了するまでの間にカメラが撮影する画像において人物が作業エリアに存在しないことを検知した場合にアラートを出力する。
図1は、第1実施形態に係るチェックアウト装置における外観の構成例を示す図である。 図2は、第1実施形態に係るチェックアウト装置における制御系の構成例を示すブロック図である。 図3は、第1実施形態に係るチェックアウト装置に接続されるアテンダント端末の構成例を示すブロック図である。 図4は、第1実施形態に係るチェックアウト装置における商品登録処理と会計処理との動作例を説明するためのフローチャートである。 図5は、第1実施形態に係るチェックアウト装置における人物監視処理の動作例を説明するためのフローチャートである。 図6は、第1実施形態に係るアテンダント端末のディスプレイに表示するアラートの表示例を示す図である。 図7は、第2実施形態に係る監視装置を含むチェックアウトシステムの構成例を示すブロック図である。 図8は、第2実施形態に係る監視装置における制御系の構成例を示すブロック図である。 図9は、第2実施形態に係る監視装置における人物監視処理の動作例を説明するためのフローチャートである。
以下、第1および第2の実施形態について、図面を参照しながら説明する。
(第1の実施形態)
まず、第1実施形態に係るチェックアウト装置2について説明する。
図1は、第1実施形態に係るチェックアウト装置2における外観の構成例を示す図である。
図1に示すチェックアウト装置2は、商品登録(読取)処理および会計処理を実行する装置である。実施形態において、チェックアウト装置2は、利用者自身の操作によって、当該利用者が購入する商品に対する商品登録処理および会計処理を行うセルフチェックアウト装置(セルフレジ)であるものとする。
図1に示すように、チェックアウト装置2は、本体10と、本体10の左右に配置された第1の商品載置台11と第2の商品載置台12とを備える。第1の商品載置台11は登録処理前の商品を載置する商品置き場である。また、第2の商品載置台12は登録処理後の商品を載置するものとする。ただし、登録処理前の商品は、ショッピングカート(以下、カート)に入れた状態で所定位置(商品置き場)に配置されるようにしても良い。この場合、登録処理前の商品を入れたカートを配置する所定位置は、セキュリティカメラ4の撮影範囲内になるものであれば良い。
第1の商品載置台11は、本体10に向かって本体10の右側に配置する。例えば、第1の商品載置台11には、利用者が購入しようとする商品(登録処理前の商品)を入れたかご(容器)が載置される。また、第1の商品載置台11は、利用者が購入しようとする商品(登録処理前の商品)が直接載置されるものとしても良い。
また、第2の商品載置台12は、本体10に向かって本体10の左側に配置する。第2の商品載置台12は、第1の商品載置台11から取り出されて登録処理がなされた商品が載置される。例えば、第2の商品載置台12は、本体10のバーコードが読み取られた商品、或は、キー操作により商品を示す情報(商品情報)を入力した商品(登録処理後の商品)が載置される。図2に示す構成例では、第2の商品載置台12は、上部に支柱を介して一時置き台121を設ける。一時置き台121は、例えば、商品を買い物袋に入れる前に一時的に載置するために使用される。一時置き台121には、左右に離間させて2本の保持アーム122が設けられる。保持アーム122は、買い物袋(レジ袋)を開口させた状態で係止する。
本体10には、ディスプレイ21、カードリーダライタ(RW)22、プリンタ23、スピーカ24、スキャナ25、ハンドスキャナ26、および、現金処理機27が設けられる。さらに、本体10には、それぞれ支柱を介してカメラ28と警告灯29とが設けられる。
ディスプレイ21は、表示デバイス211とタッチセンサ212とを含むタッチパネルである。表示デバイス211は、操作案内、顧客が選択可能なアイコン(タッチキー)、或は、アラートとして警告のメッセージなどを表示する。表示デバイス211は、例えば、LCD(Liquid Crystal Display)である。タッチセンサ212は、表示デバイス211の表示画面(操作画面)における人のタッチ位置を検出する。タッチセンサ212は、検知したタッチ位置を示す情報を処理部としての後述するプロセッサへと送る。
例えば、表示デバイス211は、顧客のタッチ操作により支払い方法(現金、カード)などの選択指示や各種情報を入力するためのGUI(Graphical User Interface)を表示する。また、表示デバイス211は、案内画面、情報入力画面、商品登録画面、精算画面などを表示する。案内画面は、顧客に操作方法を知らせるための案内(メッセージ)を表示する画面である。情報入力画面は、例えば、バーコードが付されていない商品の情報を入力するための操作画面である。商品登録画面は、登録した商品に関する情報を表示する画面である。商品登録画面では、例えば、スキャナ25又はハンドスキャナ26が読み取ったバーコードによって識別した商品、および、キー操作で指定された商品などの情報を表示する。精算画面は、商品の代金を顧客が支払う会計処理において、購入する商品(登録した商品)の合計金額、預かり金額、および、釣り銭額などを表示する画面である。
カードリーダライタ(RW)22は、カードを処理する。カードリーダライタ22は、カード挿入口を有する。カードリーダライタ22は、カードに記録されたデータを読み取る機能とカードへデータを書き込む機能とを有する。カードリーダライタ49は、磁気情報を記録する磁気カードであっても良いし、接触式あるいは非接触式のICカードであっても良い。また、カードリーダライタ22は、複数種のカードを処理する機構を有するものであっても良い。
例えば、カードリーダライタ22は、カード挿入口に挿入される精算用のクレジットカード又は会員カードなどのカードを処理する。精算(決済)用のカードとしては、クレジットカード、デビットカード、電子マネーカード、プリペイドカードなどがある。また、会員カードとしては、会員情報を記録したメンバーズカード、或は、サービスとして利用可能なポイントを記録したポイントカードなどがある。
プリンタ23は、レシートを印刷する。プリンタ23は、レシート発行口を有する。プリンタ23は、レシート用紙に対して各種の文字列や画像などを印刷することによりレシートを発行する。プリンタ23は、例えばサーマルプリンタやドットインパクトプリンタなどを実現される。例えば、プリンタ23は、会計処理が完了した場合に、処理内容(会計内容)を印刷したレシートを作成し、作成したレシートをレシート発行口231から排出する。
スピーカ24は、アラートしての警告音、或は、メッセージとしての音声などの音を出力する。
スキャナ25およびハンドスキャナ26は、商品を識別する情報を読み取るものである。本実施形態において、スキャナ25およびハンドスキャナ26は、商品を識別する情報として商品に付されたバーコードを読み取るものとする。スキャナ25は、商品に付されたバーコードが相対するように、顧客が翳す商品のバーコードの画像を光学的に読み取る。ハンドスキャナ26は、顧客によって手持ちで操作されるもので、商品に付されたバーコードに近接されることによりバーコードの画像を光学的に読み取る。なお、スキャナ25およびハンドスキャナ26は、商品を認識する情報を読み取るものであれば良く、例えば、バーコード以外の情報を読み取るものであっても良い。
現金処理機27は、現金を処理するものである。現金処理機27は、紙幣投入口、紙幣排出口、硬貨投入口および硬貨排出口などを有する。現金処理機27は、紙幣投入口271に投入された紙幣を処理する。現金処理機27は、釣銭としての紙幣を紙幣排出口272から排出する。現金処理機27は、硬貨投入口273に投入された硬貨を受け入れて処理する。現金処理機27は、釣銭としての硬貨を硬貨排出口274から排出する。
カメラ28は、利用者が商品登録処理と会計処理とに伴う作業を行うエリア(作業エリア)を撮影する。例えば、カメラ28は、第1の商品載置台11と第2の商品載置台12とが撮影範囲に含まれるように設置する。カメラ28は、商品登録処理に伴う利用者の動作(作業)として、利用者が第1の商品載置台11に載置された商品(登録処理前の商品)を取り出してから商品登録処理後の商品を第2の商品載置台12に載置するまでの動作を撮影する。また、カメラ28は、会計処理に伴う利用者の動作(作業)として、利用者がディスプレイ21を操作して現金又はカードなどを用いて商品の精算金額を決済するための動作を撮影する。カメラ28は、上述したような商品登録処理に伴う利用者の動作(作業)と会計処理に伴う利用者の動作(作業)とを利用者が行う作業エリアを撮影するように設定する。カメラ28が撮影した画像(映像)は、データメモリ43などに保存しておくことにより、エラーが発生した場合などに状況を確認するために使用できる。
また、カメラ28は、商品登録処理の開始および会計処理の終了を検出するための画像を撮影するようにしても良い。例えば、カメラ28は、商品登録処理前(未登録)の商品を撮影するように設定する。カメラ28が撮影した画像において利用者が商品登録処理のために未登録の商品をピックアップしたことを検出することで、商品登録処理が開始されたことを検出できる。また、カメラ28は、レシート発行口を含む領域を撮影するように設定する。この場合、カメラ28が撮影した画像においてレシート発行口からレシートが排出されたことを検出することで、会計処理が終了したことを検出することもできる。
次に、第1実施形態に係るチェックアウト装置2における制御系の構成について説明する。
図2は、第1実施形態に係るチェックアウト装置2における制御系の構成例を示すブロック図である。
図2に示す構成例において、チェックアウト装置2の本体10は、制御ユニット30を有する。制御ユニット30は、例えば、コンピュータで実現される。制御ユニット30には、ディスプレイ21、カードリーダライタ22、プリンタ23、スピーカ24、スキャナ25、ハンドスキャナ26、現金処理機27、カメラ28および警告灯29などが電気的に接続される。また、制御ユニット30は、プロセッサ40、ROM(read-only memory)41、RAM(random-access memory)42、データメモリ43、および、各種のインターフェース(IF)44~53を有する。
プロセッサ40は、プログラムを実行することにより種々の処理を実行する。プロセッサ40は、例えば、CPU(central processing unit)である。プロセッサ40は、ROM41又はデータメモリ43が記憶するプログラムを実行することにより各種の処理機能を実現する。例えば、プロセッサ40は、商品の登録(入力)処理用のプログラムを実行することにより、登録モードとして商品の商品情報を登録(入力)する商品登録処理を実行する。プロセッサ40は、会計処理用のプログラムを実行することにより、会計モードとして商品の代金を決済する会計処理を実行する。
ROM41は、不揮発性のメモリであり、プログラムおよびデータを記憶する。例えば、ROM41は、オペレーティングシステム、ミドルウェア、アプリケーションなどのプログラムを記憶する。また、ROM41は、プロセッサ40が各種の処理を実行する場合に参照するデータを記憶しても良い。
RAM42は、作業用のデータを記憶する。RAM42は、いわゆるワークエリアとして利用されるメモリである。RAM42は、プロセッサ40が各種の処理を実行する場合に参照するデータ、或は、一時的に使用するデータなどを適宜記憶する。
データメモリ43は、データを記憶するメモリである。データメモリ43は、書き換え可能な不揮発性のメモリである。データメモリ43は、例えばEEPROM(登録商標)(electric erasable programmable read-only memory)、HDD(hard disk drive)、あるいはSSD(solid state drive)などで構成する。データメモリ43は、プロセッサ40が各種の処理を実行する場合に使用するデータ、或は、プロセッサ40による処理で生成されたデータを保存する。また、データメモリ43は、プロセッサ40が実行する各種のプログラムを記憶しても良い。例えば、データメモリ43は、登録処理用のプログラム、会計処理用のプログラムを記憶しても良い。
また、RAM42あるいはデータメモリ43は、商品登録処理において登録した商品(登録商品)に関する情報を記憶する。RAM42あるいはデータメモリ43は、例えば、登録商品に関する情報をリスト形式のデータ(登録商品リスト)として記録しても良い。また、RAM42あるいはデータメモリ43は、カメラ28が撮影する撮影画像を記憶する。データメモリ43は、例えば、カメラ28が撮影する撮影画像に撮影時刻を示すタイムスタンプのデータを付加した映像データを記憶しても良い。
プロセッサ40は、スキャナIF44を介してスキャナ25に接続する。プロセッサ40は、スキャナIF44を介してスキャナ25が読み取る画像(スキャン画像)を取得する。また、プロセッサ40は、スキャナIF45を介してハンドスキャナ26に接続する。プロセッサ40は、スキャナIF45を介してハンドスキャナ26が読み取る画像(スキャン画像)を取得する。プロセッサ40は、スキャナ25又はハンドスキャナ26のスキャン画像に含まれるバーコードをデコードすることによりバーコードが示す商品を識別する。
プロセッサ40は、表示IF46を介してディスプレイ21に接続する。プロセッサ40は、表示IF46を介してディスプレイ21の表示デバイス211が表示する表示内容を制御する。また、プロセッサ40は、表示IF46を介してディスプレイ21のタッチセンサ212が検知するタッチ位置を示す情報を取得する。例えば、プロセッサ40は、登録処理前(未登録)の商品が存在することを報知するためのアラート或はインジケータとしてのメッセージをディスプレイ21に表示する。また、プロセッサ40は、タッチ位置を示す情報によりディスプレイ21に表示した各アイコン(タッチキー)への入力を検知する。
プロセッサ40は、カードIF47を介してカードリーダライタ22に接続する。プロセッサ40は、カードIF47を介してカードリーダライタ22によるカードに対する処理を制御する。例えば、プロセッサ40は、カードリーダライタ22が処理するクレジットカードによる精算処理を実行する。
プロセッサ40は、プリンタIF48を介してプリンタ23に接続する。プロセッサ40は、プリンタIF48を介してプリンタ23を制御する。例えば、プロセッサ40は、プリンタ23により会計処理の結果を示すレシートを発行する。
プロセッサ40は、音声IF49を介してスピーカ24に接続する。プロセッサ40は、音声IF49を介してスピーカ24から出力する音を制御する。例えば、プロセッサ40は、登録処理前の商品が存在することを報知するためのアラートとしての音(ブザー)をスピーカ24により出力する。
プロセッサ40は、入出金IF50を介して現金処理機27に接続する。プロセッサ40は、入出金IF50を介して現金処理機27を制御する。例えば、プロセッサ40は、顧客が入金した現金を現金処理機27が計数し、現金処理機27が計数した入金金額を示す情報を取得する。また、プロセッサ40は、入金した金額と登録済みの商品の合計金額(商品代金)とから算出した釣銭を現金処理機27によって放出する制御を行う。
プロセッサ40は、カメラIF51を介してカメラ28に接続する。プロセッサ40は、カメラIF51を介してカメラ28が撮影する撮影画像を取得する。例えば、プロセッサ40は、商品登録処理が開始された場合にカメラ28が撮影する撮影画像の取得を開始する。また、プロセッサ40は、商品登録処理中および会計処理中において継続的に(例えば所定周期で)カメラ28が撮影する撮影画像を取得する。プロセッサ40は、会計処理が終了した場合にカメラ28が撮影する撮影画像の取得を終了する。
プロセッサ40は、警告灯IF52を介して警告灯29に接続する。プロセッサ40は、利用者の立ち去りなどを検知した場合、警告灯IF52を介して警告灯29に警告を示す明かりを点灯させる。
プロセッサ40は、通信IF53を介して外部装置に接続する。通信IF53は、外部装置とネットワーク通信を行うための通信インターフェースであっても良いし、外部装置とローカルに接続するインターフェースであっても良い。通信IF53は、無線通信用のインターフェースであっても良いし、有線通信用のインターフェースであっても良い。また、通信IF53は、1つの通信インターフェースであっても良いし、複数の通信インターフェースであっても良い。
例えば、プロセッサ40は、通信IF53を介して外部装置としてのアテンダント端末3に接続する。アテンダント端末3は、監視対象とするチェックアウト装置2の利用状況などを示す情報を係員に報知する。アテンダント端末3は、チェックアウト装置2に接続される。複数のチェックアウト装置2を監視対象とする場合、アテンダント端末3は、監視対象とする複数のチェックアウト装置2における利用状況などを一元的に監視する。アテンダント端末3は、監視対象となるチェックアウト装置2の利用状況を示す情報を表示するディスプレイ70(図3参照)を有する。この場合、プロセッサ40は、通信IF53を介してアテンダント端末3に動作状況を示す情報を送信する。例えば、プロセッサ40は、チェックアウト装置2による商品の登録状況あるいは会計処理の実行状況などの利用状況を示す情報をアテンダント端末3へ送信する。また、プロセッサ40は、処理中の利用者の立ち去りなどを検知した場合、通信IF53を介してアテンダント端末3へアラートを送信する。
また、プロセッサ40は、通信IF53を介して管理サーバなどのコンピュータに接続するようにしても良い。例えば、プロセッサ40は、通信IF53によりチェックアウト装置2で登録された商品あるいは会計済みとなった商品を示す情報を管理サーバへ送信する。また、プロセッサ40は、通信IF53を介して通信するストアコンピュータから商品に関する情報などを適宜取得するようにしても良い。
次に、第1実施形態に係るチェックアウト装置2に通信接続されるアテンダント端末3の構成について説明する。
図3は、第1実施形態に係るアテンダント端末3における制御系の構成例を示すブロック図である。
図3に示す構成例において、アテンダント端末3は、ディスプレイ70を具備する。アテンダント端末3は、ディスプレイを有するコンピュータなどで実現される。アテンダント端末3は、プロセッサ60、ROM(read-only memory)61、RAM(random-access memory)62、データメモリ63、表示インターフェース(IF)64、および、通信インターフェース(IF)65を有する。
プロセッサ60は、プログラムを実行することにより種々の処理を実行する。プロセッサ60は、例えば、CPU(central processing unit)である。プロセッサ60は、ROM61又はデータメモリ63が記憶するプログラムを実行することにより各種の処理機能を実現する。例えば、プロセッサ60は、監視用のプログラムを実行することによりチェックアウト装置2からのアラートの通知に応じてディスプレイ70にアラートを表示したり、カメラ28が撮影した画像を表示したりする。
ROM61は、不揮発性のメモリであり、プログラムおよびデータを記憶する。例えば、ROM61は、オペレーティングシステム、ミドルウェア、アプリケーションなどのプログラムを記憶する。また、ROM61は、プロセッサ60が各種の処理を実行する場合に参照するデータを記憶しても良い。
RAM62は、作業用のデータを記憶する。RAM62は、いわゆるワークエリアとして利用されるメモリである。RAM62は、プロセッサ60が各種の処理を実行する場合に参照するデータ、或は、一時的に使用するデータなどを適宜記憶する。
データメモリ63は、データを記憶するメモリである。データメモリ63は、書き換え可能な不揮発性のメモリである。データメモリ63は、例えばEEPROM(登録商標)(electric erasable programmable read-only memory)、HDD(hard disk drive)、あるいはSSD(solid state drive)などで構成する。データメモリ63は、プロセッサ60が各種の処理を実行する場合に使用するデータ、或は、プロセッサ60による処理で生成されたデータを保存する。また、データメモリ63は、プロセッサ60が実行する各種のプログラムを記憶しても良い。
プロセッサ60は、表示IF64を介してディスプレイ70に接続する。プロセッサ60は、表示IF66を介してディスプレイ70の表示デバイスが表示する表示内容を制御する。また、ディスプレイ70は、タッチセンサ内蔵の表示装置であっても良い。この場合、プロセッサ60は、表示IF64を介してディスプレイ70のタッチセンサが検知するタッチ位置を示す情報を取得するようにしても良い。例えば、プロセッサ60は、タッチ位置を示す情報によりディスプレイ70に表示した各アイコン(タッチキー)への入力を検知する。
プロセッサ60は、通信IF65を介してチェックアウト装置2に接続する。通信IF65は、チェックアウト装置2と通信する通信インターフェースであれば良い。例えば、通信IFは、LAN(local area network)などのネットワークを介してチェックアウト装置2と通信するための通信インターフェースである。例えば、プロセッサ60は、通信IF65を介してチェックアウト装置2から商品登録処理あるいは会計処理の処理内容を示す情報を取得する。また、プロセッサ60は、通信IF65を介してチェックアウト装置2から利用者の立ち去りなどのアラートを取得する。また、プロセッサ60は、通信IF65を介してカメラ28が撮影した撮影画像をチェックアウト装置2から取得するようにしても良い。
次に、第1実施形態に係るチェックアウト装置2による商品登録処理および会計処理を含む動作について説明する。
図6は、第1実施形態に係るチェックアウト装置2による商品登録処理および会計処理を含む動作例を説明するためのフローチャートである。
ここで、利用者は、購入する商品を持ってチェックアウト装置2の前に訪れるものとする。利用者は、チェックアウトの対象とする商品(登録前の商品)を所定の位置にセットする。例えば、利用者は、チェックアウトの対象とする商品(対象商品)を入れたカゴ(容器)を商品置き場としての第1の商品載置台11上に載置する。また、利用者は、購入する商品を第1の商品載置台11上に直接載置しても良い。また、利用者は、購入する商品を入れたカートを商品置き場としての所定位置に配置するようにしても良い。
購入する商品を商品置き場にセットした後、利用者は、所定の操作によりチェックアウト処理又は商品登録処理の開始を指示する。例えば、利用者は、ディスプレイ21に表示されるタッチキーをタッチすることにより商品登録処理の開始を指示する。また、商品登録処理の開始は、利用者の動きに応じてプロセッサ40が認識するようにしても良い。例えば、プロセッサ40は、カメラ28が撮影する画像を解析することにより利用者の動きを認識し、認識した利用者の動きに応じて商品登録処理の開始を判断しても良い。
チェックアウト装置2のプロセッサ40は、商品登録処理の開始指示に応じて対象となる商品の商品情報を登録(入力)する商品登録処理を実行する(ACT11)。商品登録処理(登録モード)において、プロセッサ40は、利用者の操作に応じてスキャナ25又はハンドスキャナ26が読み取るバーコードにより個々の商品を識別する。バーコードにより商品が識別できた場合、プロセッサ40は、識別した商品に関する情報(商品情報)を登録する。
また、商品登録処理において、プロセッサ40は、商品を利用者が指定する商品として登録しても良い。例えば、プロセッサ40は、取り出した商品をディスプレイ21に表示するタッチキーを利用者が操作して指定する商品として登録しても良い。商品の登録が完了したと判断した利用者は、会計処理への移行(商品登録処理の終了)を指示する。例えば、利用者は、ディスプレイ21に表示されるタッチキーを操作することにより会計処理への移行を指示する。
会計処理への移行(又は、商品登録処理の終了)が指示された場合(ACT12、YES)、プロセッサ40は、登録された商品に対する会計処理へ移行する。会計処理へ移行すると、プロセッサ40は、登録された全商品の精算金額の合計金額を決済する会計処理を実行する(ACT13)。例えば、プロセッサ40は、登録された各商品の精算金額を特定し、各商品の精算金額の合計金額を算出する。プロセッサ40は、算出した合計金額をディスプレイ21に表示し、利用者から合計金額を収受する処理を行う。商品の合計金額の収受が完了すると、プロセッサ40は、プリンタ23により精算内容を印字したレシートを発行し、レシート発行口231からレシートを排出する。プロセッサ40は、プリンタ23に精算内容を示すレシートを発行させ、商品登録処理により登録した商品に対する会計処理を終了する。
登録した商品に対する会計処理を終了する場合、プロセッサ40は、当該利用者が続けて別の商品の登録および会計を実施するか否かを判断する(ACT14)。当該利用者は、続けて別の商品登録処理を実行する場合、所定の操作により次の商品登録処理の開始を指示する。例えば、プロセッサ40は、会計処理を終了してから所定期間において当該利用者による次の商品に対する登録処理の開始指示を受付ける。所定期間において次の商品に対する登録処理の開始が指示された場合、プロセッサ40は、ACT11へ戻り、上述した商品登録処理を実行する。また、所定期間内に次の商品に対する登録処理の開始が指示されない場合、プロセッサ40は、当該利用者に対する一連の処理を終了する。
また、プロセッサ40は、会計処理を終了してから当該利用者が所定領域(例えば、作業エリア)から立ち去るまで、次の商品に対する登録処理の開始指示を受付けるようにしても良い。当該利用者が所定領域から立ち去ったか否かは、プロセッサ40がカメラ28の撮影画像から検出するようにしても良い。プロセッサ40は、当該利用者が所定領域から立ち去った場合、あるいは、当該利用者による一連の処理の終了指示が入力された場合、当該利用者に対する処理を終了する。
次に、第1実施形態に係るチェックアウト装置2における人物監視処理(人物の立ち去り検知処理)について説明する。
図5は、第1実施形態に係るチェックアウト装置2による人物監視処理(人物の立ち去り検知処理)の動作例を説明するためのフローチャートである。
チェックアウト装置2のプロセッサ40は、待機状態において、商品登録処理の開始を受付ける。上述したように、プロセッサ40は、利用者によるチェックアウト処理又は商品登録処理の開始指示を受けた場合、商品登録処理の開始を判断する。また、プロセッサ40は、カメラ28が撮影する画像から検出される利用者の動きに応じて商品登録処理の開始を判断しても良い。
商品登録処理を開始すると(ACT21、YES)、プロセッサ40は、カメラIF51を介してカメラ28が撮影する画像の取得を開始する(ACT22)。例えば、プロセッサ40は、監視対象とする作業エリアを含む撮影範囲をカメラ28が撮影した画像(映像)を所定周期で取得する。
プロセッサ40は、カメラIF51を介して取得するカメラ28が撮影した画像に基づいて作業エリアに利用者が存在するか否かをチェックする(ACT23)。プロセッサ40は、カメラ28が撮影した画像を解析することにより作業エリアに利用者が存在しているかを判断する存在チェックを行う。例えば、プロセッサ40は、OpenPoseのような骨格推定技術を用いて利用者が作業エリアに存在するか否かを判定する。また、プロセッサ40は、SSD(Single Shot MultiBox Detector)のような物体検出技術を用いて利用者が作業エリアに存在するか否かを判定するようにしても良い。
プロセッサ40は、カメラ28が撮影した画像に基づく利用者の存在チェックの結果に基づいて利用者が立ち去ったか否かを判断する(ACT24)。例えば、プロセッサ40は、作業エリアに利用者が存在しないことを検出した場合に利用者が立ち去ったものと判断する。また、プロセッサ40は、利用者が作業エリアに存在しない期間が所定期間を超えた場合に利用者が立ち去ったと判断するようにしても良い。
利用者が立ち去ったと判断した場合(ACT24、YES)、プロセッサ40は、アラートを出力する(ACT26)。プロセッサ40は、アラートの通知として、警告灯29を点灯させる。また、プロセッサ40は、通信IF53を介してアテンダント端末3に未会計の利用者が立ち去ったことを検知したことを示すアラートを通知する。アテンダント端末3は、チェックアウト装置2からのアラートの通知に応じて利用者が立ち去ったことを検知したことをディスプレイ70に表示する。これにより、アテンダント端末で監視を行う監視員は、利用者の立ち去りが検知されたチェックアウト装置を認識でき、当該利用者の行動を目視で確認することができる。
図6は、アテンダント端末3のディスプレイ70に表示する警告画面の表示例を示す図である。
図6に示す表示例では、アテンダント端末3は、「セルフPOS端末No.3(チェックアウト装置)で未会計のお客様の立ち去りを検知しました。」という警告のメッセージをディスプレイ70に表示する。また、図6に示す表示例において、アテンダント端末3は、警告のメッセージと共に、セキュリティ担当者への転送(通知)を指示する転送ボタンを表示する。
アテンダント端末3のプロセッサ60は、転送ボタンを指示されると、上述したような警告のメッセージなどを含むアラートをセキュリティ担当者に通報する。例えば、セキュリティ担当者の連絡先は、通信IF65を介して通信可能な宛先として予めデータメモリ63などに記憶されているものとする。この場合、プロセッサ60は、転送ボタンへの指示に応じて、データメモリ63に記憶されているセキュリティ担当者の連絡先へ警告のメッセージを含むアラートを転送(送信)する。
なお、プロセッサ40は、通信IF53を介して通信可能な店員やセキュリティ担当者等の係員が所持するモバイル端末へアラートを通知する構成としても良い。この場合、プロセッサ40は、通信IF53を介して係員が所持するモバイル端末に利用者が立ち去ったことを検知したことを示すアラートを通知する。係員が所持するモバイル端末は、例えば、チェックアウト装置2からのアラートの通知に応じて利用者が立ち去ったことを検知したことを画面上にポップアップ表示する。これにより、モバイル端末を所持する係員は、利用者の立ち去りを認識でき、当該利用者の行動を目視で確認するなどの対応が可能となる。
利用者が立ち去ったことを検出していない場合(利用者が作業エリアに存在することを検出した場合)(ACT24、NO)、プロセッサ40は、会計処理が終了したか否かをチェックする(ACT25)。例えば、プロセッサ40は、商品登録処理で登録した商品に対する精算金額の収受が完了した場合、会計処理が終了したものと判断する。また、プロセッサ40は、精算金額の収受後にプリンタ23がレシートを発行した場合に会計処理が終了したものと判断するようにしても良い。また、プロセッサ40は、プリンタ23がレシート発行口231から排出したレシートが取り去れた場合に会計処理が終了したものと判断するようにしても良い。
会計処理が完了していない場合(ACT25、NO)、プロセッサ40は、ACT22へ戻り、上述した処理を繰り返し実行する。会計処理が完了した場合(ACT25、YES)、プロセッサ40は、商品登録処理および会計処理中における利用者の立ち去りを検知する監視処理を終了する。
なお、プロセッサ40は、作業エリアにおける人の存在の有無にかかわらずに、カメラ28が撮影した画像をデータメモリ43に記憶するようにしても良い。この場合、プロセッサ40は、データメモリ43に記憶する撮影画像に撮影時刻を対応づけて記録する。さらに、プロセッサ40は、作業エリアに人が存在することが検出された時刻(作業エリアに人が進入してきた時刻)をデータメモリ43に記録しておくようにしても良い。
以上のように、第1実施形態に係るチェックアウト装置は、商品登録処理が開始されてから会計処理が終了するまでの間、カメラが撮影する映像から利用者の立ち去りを監視する。チェックアウト装置は、商品登録処理の開始から会計処理の完了までの間にカメラが撮影する映像において利用者が所定領域(作業エリア)に存在するか否かを検出する。チェックアウト装置は、商品登録処理を開始した利用者が会計処理の完了までの間に所定領域から立ち去ったことを検出した場合にアラートを出力する。
これにより、チェックアウト装置は、会計処理への移行時でなくても、商品登録処理を開始した利用者が会計処理を終了せずに立ち去ったことを報知することができる。
また、チェックアウト装置は、カメラが撮影する画像から作業エリアにおける人物の存在の有無を検出する。このため、チェックアウト装置は、遮蔽物などで検出不可となる人感センサによる人物検知とは異なり、作業エリアが広範囲であっても利用者に立ち去りを確実に検出できる。
(第2実施形態)
次に、第2実施形態について説明する。
上述した第1実施形態は、チェックアウト装置2が利用者の立ち去りを検知(監視)する機能を有するものとした。これに対して、第2実施形態は、チェックアウト装置2とは別に設ける監視装置が利用者の立ち去りを検知(監視)するチェックアウトシステムを構成するものとする。
図7は、第2実施形態に係るチェックアウトシステム101の構成例を示すブロック図である。
図7に示すように、チェックアウトシステム101は、チェックアウト装置2およびアテンダント端末3に加えて、監視カメラ104、および、監視装置(画像解析装置)105を有する。
チェックアウト装置2は、第1実施形態で説明した図1および図2に示すものと同様なハードウエア構成を有するものであって良い。ただし、第2実施形態では、第1実施形態で説明した人物監視処理に相当する処理を監視装置105が実行する。このため、第2実施形態に係るチェックアウト装置2は、第1実施形態で説明した構成のうち人物監視処理を行うための構成を省略して良い。
アテンダント端末3は、第1実施形態で説明した図1および図3に示すものと同様なハードウエア構成を有するものであって良い。ただし、第2実施形態に係るアテンダント端末3は、通信IF66を介して監視装置105とも通信するものとする。つまり、アテンダント端末3のプロセッサ60は、通信IF66を介してチェックアウト装置2および監視装置105と通信する。第2実施形態に係るアテンダント端末3のプロセッサ60は、通信IF66を介して監視装置105からアラートなどを取得する。例えば、プロセッサ60は、通信IF66を介して監視装置105から利用者が立ち去った旨のアラートを受信した場合、ディスプレイ70に図6に示すような警告を表示する。
監視カメラ104は、第1実施形態で説明したカメラ28と同様に、作業エリアを撮影範囲に含む画像を撮影するものである。監視カメラ104は、作業エリアを撮影するものであれば良い。監視カメラ104は、チェックアウト装置2とは別に設けられるものであっても良い。この場合、監視カメラ104は、図7に示すように、監視装置105に通信接続される。また、監視カメラ104は、第1実施形態で説明したようなチェックアウト装置2が備えるカメラ28であっても良い。この場合、監視装置105は、監視対象とするチェックアウト装置2に設けられたカメラ28から画像を取得する構成とする。なお、以下の第2実施形態の説明では、監視カメラ104は、図7に示すように、チェックアウト装置2とは別に設けられ、監視装置105に接続されるものとする。
監視カメラ104は、監視対象とするチェックアウト装置2に商品登録処理と会計処理とを実行させる利用者が作業を行う所定領域(作業エリア)を撮影する。例えば、監視カメラ104は、監視対象とするチェックアウト装置2の第1の商品載置台11と第2の商品載置台12とが撮影範囲に含まれるように設置する。
監視カメラ104は、商品登録処理に伴う動作として、利用者が登録処理前(未登録)の商品を取り出してから商品登録処理後の商品を第2の商品載置台12に載置するまでの動作を撮影する。また、監視カメラ104は、会計処理に伴う利用者の動作として、利用者が現金又はカードなどを用いて商品の精算金額を決済するための動作を撮影する。監視カメラ104は、上述したような商品登録処理に伴う動作と会計処理に伴う動作とを利用者が行う作業エリアを撮影するように設定する。
また、監視カメラ104は、監視対象とするチェックアウト装置2における商品登録処理の開始および会計処理の終了を検出するための画像を撮影する。例えば、監視カメラ104は、商品登録処理の開始として、利用者が商品登録処理のために未登録の商品をピックアップしたことを検出するための画像を撮影する。監視カメラ104は、商品登録処理の開始として、利用者がディスプレイ21に対して商品登録処理の開始を指示する動作を行ったことを検出するための画像を撮影するようにしても良い。また、監視カメラ104は、会計処理の終了として、レシート発行口231からレシートが排出されたことを検出するための画像を撮影する。また、監視カメラ104は、会計処理の終了として、利用者がディスプレイ21に対して会計処理の実行又は終了を指示する動作を行ったことを検出するための画像を撮影するようにしても良い。
監視装置105は、監視カメラ104が撮影する撮影画像を解析する画像解析装置である。監視装置105は、監視カメラ104およびアテンダント端末3に通信接続される。監視装置105は、監視カメラ104が撮影する画像を解析することによりチェックアウト装置2の作業エリアに利用者が存在するか否かを検知する。監視装置105は、作業エリアにおける利用者の存在チェックの結果からチェックアウト装置2で商品登録処理および会計処理を実行中の利用者が立ち去ったことを検知する。監視装置105は、チェックアウト装置2で処理中の利用者が立ち去ったことを検知した場合、アテンダント端末3又はチェックアウト装置2へアラートを通知する。
また、監視装置105は、監視カメラ104が撮影する画像から監視対象とするチェックアウト装置2における商品登録処理の開始および会計処理の終了を検出する。
例えば、監視装置105は、商品登録処理の開始として、監視カメラ104が撮影する画像から利用者が商品登録処理のために未登録の商品をピックアップしたことを検出する。また、監視装置105は、商品登録処理の開始として、監視カメラ104が撮影する画像から利用者がディスプレイ21に対して商品登録処理の開始を指示する動作を行ったことを検出するようにしても良い。
また、監視装置105は、会計処理の終了として、監視カメラ104が撮影する画像からレシート発行口231からレシートが排出されたことを検出する。監視装置105は、会計処理の終了として、監視カメラ104が撮影する画像から利用者がディスプレイ21に対して会計処理の実行又は終了を指示する動作を行ったことを検出するようにしても良い。
なお、図7に示す構成例において、監視装置105は、チェックアウト装置2に通信接続する構成とする。この場合、監視装置105は、チェックアウト装置2から商品登録処理の開始を示す情報、および、会計処理の終了を示す情報を取得するようにしても良い。ただし、監視装置105は、監視カメラ104が撮影する画像から商品登録処理の開始および会計処理の終了を検出する場合、チェックアウト装置2と通信しない構成としても良い。すなわち、監視装置105は、チェックアウト装置2とは独立した装置として、商品登録処理および会計処理の実行中に利用者が立ち去ったことを検知する構成することもできる。
次に、第2実施形態に係る監視装置105における制御系の構成について説明する。
図8は、第2実施形態に係る監視装置105における制御系の構成例を示すブロック図である。
図8に示す構成例において、監視装置105は、例えば、コンピュータで実現される。監視装置105は、監視カメラ104、チェックアウト装置2およびアテンダント端末3に通信接続される。
監視装置105は、プロセッサ110、ROM(read-only memory)111、RAM(random-access memory)112、データメモリ113、画像インターフェース(IF)114、および、通信インターフェース(IF)115、116を有する。
プロセッサ110は、プログラムを実行することにより種々の処理を実行する。プロセッサ110は、例えば、CPU(central processing unit)である。プロセッサ110は、ROM111又はデータメモリ113が記憶するプログラムを実行することにより各種の処理機能を実現する。
例えば、プロセッサ40は、画像解析用のプログラムを実行することにより、監視カメラ104から取得する画像からチェックアウト装置2の作業エリアにおける人物の有無を検知する。また、プロセッサ40は、動作認識用のプログラムを実行することにより、監視カメラ104から取得する画像から人物の動作などを認識する処理を実行する。例えば、プロセッサ40は、利用者又はチェックアウト装置2の動作を認識することにより商品登録処理の開始および会計処理の終了を検出する。
ROM111は、不揮発性のメモリであり、プログラムおよびデータを記憶する。例えば、ROM111は、オペレーティングシステム、ミドルウェア、アプリケーションなどのプログラムを記憶する。また、ROM111は、プロセッサ110が各種の処理を実行する場合に参照するデータを記憶しても良い。
RAM112は、作業用のデータを記憶する。RAM112は、いわゆるワークエリアとして利用されるメモリである。RAM112は、プロセッサ110が各種の処理を実行する場合に参照するデータ、或は、一時的に使用するデータなどを適宜記憶する。
データメモリ113は、データを記憶するメモリである。データメモリ113は、書き換え可能な不揮発性のメモリである。データメモリ43は、例えばEEPROM(登録商標)(electric erasable programmable read-only memory)、HDD(hard disk drive)、あるいはSSD(solid state drive)などで構成する。データメモリ113は、プロセッサ110が各種の処理を実行する場合に使用するデータ、或は、プロセッサ110による処理で生成されたデータを保存する。
例えば、データメモリ113は、監視カメラ104が撮影した画像を一定期間分保存する。さらに、データメモリ113は、監視カメラ104が撮影した画像のうち画像解析処理によってアテンダント端末3に表示させるべきと判定された一連の画像を保存する。また、データメモリ113は、プロセッサ110が実行する各種のプログラムを記憶しても良い。例えば、データメモリ43は、画像解析処理用のプログラム、動作認識用のプログラムなどのプログラムを記憶しても良い。
プロセッサ110は、画像IF114を介して監視カメラ104に接続する。プロセッサ110は、画像IF114を介して監視カメラ104が撮影した画像(撮影画像)を取得する。なお、チェックアウト装置2が具備するカメラ28を監視カメラ104として利用するようにしても良い。この場合、プロセッサ110は、通信IF115を介してチェックアウト装置2からカメラ28が撮影する画像を取得するようにすれば良い。
プロセッサ110は、通信IF115を介してチェックアウト装置2に接続する。プロセッサ110は、通信IF115を介してチェックアウト装置2から商品登録処理の開始および会計処理の終了を示す信号を取得しても良い。また、プロセッサ110は、監視カメラ104が撮影した撮影画像に対する解析結果として得られた利用者の状況(例えば、作業エリアにおける人物の有無など)を示す情報をチェックアウト装置2へ送信するようにしても良い。
プロセッサ110は、通信IF116を介してアテンダント端末3に接続する。プロセッサ110は、通信IF116を介してアテンダント端末3に人物監視処理の結果や画像解析処理の結果として得られた情報を送信する。例えば、プロセッサ110は、商品登録処理を開始した利用者が会計処理を終了せずにチェックアウト装置2の作業エリアから立ち去った場合、アテンダント端末3へアラートを送信する。また、プロセッサ110は、アラートと共に監視カメラ104が撮影した撮影画像などの情報をアテンダント端末3へ送信するようにしても良い。
なお、通信IF115および通信IF116は、LAN(local area network)などのネットワークを介してチェックアウト装置2およびアテンダント端末3と通信するための1つの通信インターフェースであっても良い。
次に、第2実施形態に係る監視装置105の動作について説明する。
図9は、第2実施形態に係る監視装置105によるチェックアウト装置2の利用者の立ち去り検知処理(人物検知処理)の動作例を説明するためのフローチャートである。
以下の説明において、監視装置105が監視対象するチェックアウト装置2は、第1実施形態でした図4に示すような商品登録処理および会計処理を行うものとする。また、監視カメラ104は、監視装置105が監視対象するチェックアウト装置2の作業エリアを含む撮影範囲の画像を撮影するものとする。
待機状態において、監視装置105のプロセッサ110は、画像IF114を介して監視対象のチェックアウト装置2における商品登録処理の開始を検知する処理を実行する(ACT31-33)。図9に示す動作例において、プロセッサ110は、画像IF114を介してチェックアウト装置2における商品登録処理の開始を検出するための画像を監視カメラ104から取得する(ACT31)。
プロセッサ110は、監視カメラ104から取得する画像に基づいて商品登録処理の開始を検知する処理(商品登録開始の検知処理)を実行する(ACT32)。
例えば、プロセッサ110は、監視カメラ104が撮影する画像から利用者が商品登録処理のために未登録の商品をピックアップしたことを検出する。プロセッサ110は、利用者が商品登録処理のために未登録の商品をピックアップしたことを検出した場合に商品登録処理が開始されたものと判定する。また、監視装置105は、監視カメラ104が撮影する画像から利用者がチェックアウト装置2のディスプレイ21に対して商品登録処理の開始を指示する動作を行ったことを検出するようにしても良い。この場合、プロセッサ110は、利用者が商品登録処理の開始を指示する動作を行ったことを検出した場合に商品登録処理が開始されたものと判定する。
なお、プロセッサ110は、通信IF115を介してチェックアウト装置2から商品登録処理の開始を示す信号を取得するようにしても良い。この場合、プロセッサ110は、ACT31および32に代わる処理として、チェックアウト装置2から商品登録処理の開始を示す信号を取得したか否かを判定する処理を行う。
商品登録処理の開始を検出していない場合(ACT33、NO)、プロセッサ110は、ACT31へ戻り、上述した処理を繰り返し実行する。
商品登録処理の開始を検出した場合(ACT33、YES)プロセッサ110は、画像IF114を介して監視対象とするチェックアウト装置2の作業エリアを含む範囲を撮影した画像を監視カメラ104から取得する(ACT34)。例えば、プロセッサ110は、監視対象とする作業エリアを含む撮影範囲を監視カメラ104が撮影した画像(映像)を所定周期で取得する。
プロセッサ110は、画像IF114を介して取得する監視カメラ104が撮影した画像に基づいて作業エリアに利用者が存在するか否かをチェックする(ACT35)。プロセッサ110は、監視カメラ104が撮影した画像を解析することにより監視対象の作業エリアに利用者が存在しているかを判断する存在チェックを行う。例えば、プロセッサ110は、OpenPoseのような骨格推定技術を用いて利用者が作業エリアに存在するか否かを判定する。また、プロセッサ110は、SSDのような物体検出技術を用いて利用者が作業エリアに存在するか否かを判定するようにしても良い。
プロセッサ110は、監視カメラ104が撮影した画像に基づく利用者の存在チェックの結果に基づいて利用者が立ち去ったか否かを判断する(ACT36)。例えば、プロセッサ110は、作業エリアに利用者が存在しないことを検出した場合に利用者が立ち去ったものと判断する。また、プロセッサ110は、利用者が作業エリアに存在しない期間が所定期間を超えた場合に利用者が作業エリアから立ち去ったと判断するようにしても良い。
利用者が立ち去ったと判断した場合(ACT36、YES)、プロセッサ110は、アラートを出力する(ACT40)。プロセッサ110は、通信IF116を介してアテンダント端末3に未会計の利用者が立ち去ったことを検知したことを示すアラートを通知する。アテンダント端末3は、チェックアウト装置2からのアラートの通知に応じて利用者が立ち去ったことを検知したことをディスプレイ70に表示する。例えば、アテンダント端末3は、第1実施形態で説明した図6に示すような警告画面をディスプレイ70に表示する。また、プロセッサ110は、アラートの通知を監視対象とするチェックアウト装置2へ通知し、当該チェックアウト装置2の警告灯29を点灯させるようにしても良い。
なお、プロセッサ110は、通信IF115又は116を介して通信可能とする店員やセキュリティ担当者などの係員が所持するモバイル端末にアラートを通知しても良い。この場合、モバイル端末は、例えば、監視装置105からのアラートの通知に応じて利用者が立ち去ったことを検知したことを画面上にポップアップ表示するようにする。これにより、モバイル端末を所持する係員は、監視装置105からのアラートによって、利用者の立ち去りを認識でき、当該利用者の行動を目視で確認することが可能となる。
利用者が立ち去ったと判断していない場合(利用者が作業エリアに存在する場合)(ACT36、NO)、プロセッサ110は、監視対象のチェックアウト装置2における会計処理の終了を検出する処理を実行する(ACT37-39)。図9に示す例において、プロセッサ110は、画像IF114を介してチェックアウト装置2における会計処理の終了を検出するための画像を監視カメラ104から取得する(ACT37)。
プロセッサ110は、監視カメラ104から取得する画像に基づいて会計処理の終了を検知する処理(会計終了の検知処理)を実行する(ACT38)。
例えば、プロセッサ110は、監視カメラ104が撮影する画像からレシート発行口231からレシートが排出されたことを検出する。この場合、プロセッサ110は、レシート発行口231からレシートが排出されたことを検出した場合にチェックアウト装置2での会計処理が終了したものと判定する。また、プロセッサ110は、監視カメラ104が撮影する画像から利用者がディスプレイ21に対して会計処理の実行又は終了を指示する動作を行ったことを検出するようにしても良い。この場合、プロセッサ110は、利用者が会計処理の実行又は終了を指示する動作を行ったことを検出した場合にチェックアウト装置2での会計処理が終了したものと判定する。
なお、プロセッサ110は、通信IF115を介してチェックアウト装置2から会計処理の終了を示す情報を取得するようにしても良い。この場合、プロセッサ110は、ACT37-38に代わる処理として、チェックアウト装置2から会計処理の終了を示す信号を取得したか否かを判定する処理を行う。
会計処理が終了したことを検出していない場合(ACT39、NO)、プロセッサ110は、ACT34へ戻り、上述した処理を繰り返し実行する。会計処理が終了したことを検出した場合(ACT39、YES)、プロセッサ110は、商品登録処理および会計処理を含む一連の処理中における利用者の立ち去りを検知する人物監視処理を終了する。
なお、プロセッサ110は、作業エリアにおける人の存在の有無にかかわらずに、監視カメラ104が撮影した画像をデータメモリ113に記憶するようにしても良い。この場合、プロセッサ110は、データメモリ113に記憶する撮影画像に撮影時刻を対応づけて記録する。さらに、プロセッサ110は、作業エリアに人が存在することが検出された時刻(作業エリアに人が進入してきた時刻)などをデータメモリ113に記録しておくようにしても良い。
以上のように、第2実施形態に係る監視装置は、監視対象のチェックアウト装置において商品登録処理が開始されてから会計処理が完了するまでの間、監視カメラが撮影する映像に基づいて利用者の立ち去りを監視する。監視装置は、監視対象のチェックアウト装置における商品登録処理の開始から会計処理の完了までの間に監視カメラが撮影する映像を取得する。監視装置は、監視カメラが撮影する画像に基づいて利用者が所定領域(作業エリア)に存在するか否かを検出する。監視装置は、チェックアウト装置で商品登録処理を開始した利用者が会計処理の完了までの間に利用者の立ち去りを検知した場合にアラートを出力する。
これにより、監視装置は、チェックアウト装置で商品登録処理を開始した利用者が会計処理を終了せずに立ち去ったことを報知することができる。また、監視装置は、監視カメラが撮影する画像に基づいて、チェックアウト装置の作業エリアに人物が存在するか否かを検出できる。このため、監視装置は、チェックアウト装置の作業エリアを俯瞰的に撮影する監視カメラの映像により利用者の立ち去りを検知できる。この結果、監視装置は、遮蔽物などで検出不可となる人感センサによる人物検知とは異なり、作業エリアが広範囲であっても利用者に立ち去りを確実に検出できる。
さらに、第1および第2実施形態では、装置内部に本発明を実施する機能が予め記録されている場合で説明をしたが、これに限らず同様の機能をネットワークから装置にダウンロードしても良いし、同様の機能を記録媒体に記憶させたものを装置にインストールしても良い。記録媒体としては、CD-ROM等プログラムを記憶でき、且つ装置が読み取り可能な記録媒体であれば、その形態はいずれの形態であっても良い。またこのように予めインストールやダウンロードにより得る機能は装置内部のOS(オペレーティングシステム)等と協動してその機能を実現させるものであっても良い。
本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
2…チェックアウト装置、3…アテンダント端末、40…プロセッサ、51…カメラインターフェース、52…警告灯インターフェース、53…通信インターフェース、101…チェックアウトシステム、104…監視カメラ104…監視装置(画像解析装置)、110…プロセッサ、114…画像インターフェース、115、116…通信インターフェース。

Claims (6)

  1. 人物が商品の情報を登録する登録作業と前記商品の精算金額を決済する作業とを行うための作業エリアを撮影範囲に含むカメラが撮影した画像を取得するカメラインターフェースと、
    前記人物の登録作業に応じて商品の情報を登録する登録処理と前記登録処理で登録した情報に基づいて前記商品の精算金額を決済する会計処理とを行い、前記登録処理を開始してから前記会計処理が終了するまでの間に前記カメラが撮影する画像において前記人物が前記作業エリアに存在しないことを検知した場合にアラートを出力するプロセッサと、
    を有するチェックアウト装置。
  2. さらに、監視員が目視するディスプレイを具備するアテンダント端末と通信する通信インターフェースを有し、
    前記プロセッサは、前記登録処理を開始してから前記会計処理が終了するまでの間に前記カメラが撮影する画像から前記人物が前記作業エリアに存在しないことを検知した場合に前記チェックアウト装置における会計を終了していない人物が立ち去ったことを前記アテンダント端末に報知させる、
    請求項1に記載のチェックアウト装置。
  3. チェックアウト装置に対して人物が商品の情報を登録させる登録作業と前記商品の精算金額を決済する作業とを行うための作業エリアを撮影範囲に含むカメラが撮影した画像を取得するカメラインターフェースと、
    人物が前記チェックアウト装置に対する登録作業を開始してから前記チェックアウト装置が前記商品の精算金額を決済する会計処理を終了するまでの間に前記カメラが撮影する画像において前記人物が前記作業エリアから立ち去ったことを検知した場合にアラートを出力するプロセッサと、を有する、
    監視装置。
  4. 前記プロセッサは、前記登録作業の開始、および、前記会計処理の終了を前記カメラが撮影する画像から検知する、
    請求項3に記載の監視装置。
  5. さらに、前記チェックアウト装置と通信する通信インターフェースを有し、
    前記プロセッサは、前記チェックアウト装置から通知される情報に基づいて前記登録作業の開始および前記会計処理の終了を検知する、
    請求項3に記載の監視装置。
  6. コンピュータに
    チェックアウト装置に対して人物が商品の情報を登録させる登録作業と登録した商品の精算金額を決済する作業とを行うための作業エリアを撮影範囲に含むカメラが撮影した画像を取得させ、
    人物が前記チェックアウト装置に対して前記登録作業を開始してから前記チェックアウト装置が前記商品の精算金額を決済する会計処理を終了するまでの間に前記カメラが撮影する画像において前記人物が前記作業エリアから立ち去ったことを検出した場合にアラートを出力させる、
    ことを実行させる監視プログラム。
JP2020203454A 2020-12-08 2020-12-08 チェックアウト装置、監視装置および監視プログラム Pending JP2022090881A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2020203454A JP2022090881A (ja) 2020-12-08 2020-12-08 チェックアウト装置、監視装置および監視プログラム
US17/461,430 US20220180343A1 (en) 2020-12-08 2021-08-30 Checkout apparatus, monitoring apparatus, and monitoring method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020203454A JP2022090881A (ja) 2020-12-08 2020-12-08 チェックアウト装置、監視装置および監視プログラム

Publications (1)

Publication Number Publication Date
JP2022090881A true JP2022090881A (ja) 2022-06-20

Family

ID=81848087

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020203454A Pending JP2022090881A (ja) 2020-12-08 2020-12-08 チェックアウト装置、監視装置および監視プログラム

Country Status (2)

Country Link
US (1) US20220180343A1 (ja)
JP (1) JP2022090881A (ja)

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7209891B1 (en) * 1999-02-08 2007-04-24 Ncr Corporation Method and apparatus for operating a configurable remote supervisor terminal of a self-service retail checkout system
JP6115034B2 (ja) * 2012-07-10 2017-04-19 株式会社寺岡精工 Posシステム、登録装置及びプログラム
JP2018116525A (ja) * 2017-01-19 2018-07-26 東芝テック株式会社 チェックアウト装置
JP2018136731A (ja) * 2017-02-22 2018-08-30 東芝テック株式会社 情報処理装置およびプログラム
JP2019193089A (ja) * 2018-04-24 2019-10-31 東芝テック株式会社 映像解析装置

Also Published As

Publication number Publication date
US20220180343A1 (en) 2022-06-09

Similar Documents

Publication Publication Date Title
JP6310885B2 (ja) 商品情報処理装置
US11676124B2 (en) Checkout apparatus
JP2021120910A (ja) チェックアウト装置およびプログラム
JP6967886B2 (ja) チェックアウト装置およびチェックアウトシステム
EP3352152A1 (en) Checkout apparatus and checkout method
JP7034615B2 (ja) チェックアウト装置およびプログラム
EP3293713A1 (en) Settlement apparatus and method of settling a transaction using the same
US20220058609A1 (en) Image analysis apparatus, monitoring system, and checkout system
KR20230077629A (ko) 결제자 감시 장치 및 그 프로그램, 결제자 감시 방법
EP3901878A1 (en) Commodity reading device and commodity reading method
CN115691009A (zh) 信息处理系统、信息处理装置及存储介质
JP2022090881A (ja) チェックアウト装置、監視装置および監視プログラム
US10977638B2 (en) Settlement apparatus, control program therefor, and checkout system
US20220189265A1 (en) Checkout apparatus and number-of-commodities check method
JP6367778B2 (ja) 決済装置及びその制御プログラム
JP2022088173A (ja) 商品読取装置および商品読取プログラム
JP6585239B2 (ja) チェックアウトシステム及びその制御方法
EP4109369A1 (en) Self-service checkout device and program
JP7200201B2 (ja) 決済装置及びその制御プログラム
JP6808789B2 (ja) 決済装置及びその制御プログラム
US20230259944A1 (en) Monitoring apparatus, settlement apparatus, and programs
JP2022123010A (ja) チェックアウトシステム、決済装置及びその制御プログラム

Legal Events

Date Code Title Description
RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20230104

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230616

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20240222

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240305

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240501