JP2022012399A - Information processing device, method for controlling information processing device, and program - Google Patents

Information processing device, method for controlling information processing device, and program Download PDF

Info

Publication number
JP2022012399A
JP2022012399A JP2020114212A JP2020114212A JP2022012399A JP 2022012399 A JP2022012399 A JP 2022012399A JP 2020114212 A JP2020114212 A JP 2020114212A JP 2020114212 A JP2020114212 A JP 2020114212A JP 2022012399 A JP2022012399 A JP 2022012399A
Authority
JP
Japan
Prior art keywords
balance
product
information
user
customer
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2020114212A
Other languages
Japanese (ja)
Inventor
明弘 浜名
Akihiro Hamana
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2020114212A priority Critical patent/JP2022012399A/en
Priority to US17/359,177 priority patent/US20220005009A1/en
Publication of JP2022012399A publication Critical patent/JP2022012399A/en
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00Commerce
    • G06Q30/06Buying, selling or leasing transactions
    • G06Q30/0601Electronic shopping [e-shopping]
    • G06Q30/0631Item recommendations
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q20/00Payment architectures, schemes or protocols
    • G06Q20/08Payment architectures
    • G06Q20/20Point-of-sale [POS] network systems
    • G06Q20/201Price look-up processing, e.g. updating
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q20/00Payment architectures, schemes or protocols
    • G06Q20/08Payment architectures
    • G06Q20/20Point-of-sale [POS] network systems
    • G06Q20/204Point-of-sale [POS] network systems comprising interface for record bearing medium or carrier for electronic funds transfer or payment credit
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q20/00Payment architectures, schemes or protocols
    • G06Q20/30Payment architectures, schemes or protocols characterised by the use of specific devices or networks
    • G06Q20/32Payment architectures, schemes or protocols characterised by the use of specific devices or networks using wireless devices
    • G06Q20/322Aspects of commerce using mobile devices [M-devices]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q20/00Payment architectures, schemes or protocols
    • G06Q20/30Payment architectures, schemes or protocols characterised by the use of specific devices or networks
    • G06Q20/36Payment architectures, schemes or protocols characterised by the use of specific devices or networks using electronic wallets or electronic money safes
    • G06Q20/367Payment architectures, schemes or protocols characterised by the use of specific devices or networks using electronic wallets or electronic money safes involving electronic purses or money safes
    • G06Q20/3676Balancing accounts
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q20/00Payment architectures, schemes or protocols
    • G06Q20/38Payment protocols; Details thereof
    • G06Q20/40Authorisation, e.g. identification of payer or payee, verification of customer or shop credentials; Review and approval of payers, e.g. check credit lines or negative lists
    • G06Q20/403Solvency checks
    • G06Q20/4037Remote solvency checks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00Commerce
    • G06Q30/02Marketing; Price estimation or determination; Fundraising
    • G06Q30/0281Customer communication at a business location, e.g. providing product or service information, consulting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/52Surveillance or monitoring of activities, e.g. for recognising suspicious objects

Abstract

To solve the problem that, in the case that a user performs a settlement of a commodity with the electronic money having an upper limit when leaving a shop in which commodities are sold in an unmanned manner, the user has to return a commodity to an original place in the shop where the commodity was placed because settlement cannot be performed dues to balance shortage of electronic money.SOLUTION: Balance information showing the balance of electronic money is acquired from a storage device held by a user, and a total amount of commodities obtained by the user is specified by using an image picked up by imaging means for imaging the inside of a shop. If the specified total amount exceeds the balance, information for making the user recognize that the total amount exceeds the balance is outputted to the user.SELECTED DRAWING: Figure 7

Description

本発明は、情報処理装置、情報処理装置の制御方法、およびプログラムに関するものである。 The present invention relates to an information processing apparatus, a control method of the information processing apparatus, and a program.

従来、スーパーマーケットや量販店等の店舗では、陳列された商品を客が選び、レジコーナーで店員が精算処理を行うことが一般的であったが、人件費や設備費を抑えるためにレジの台数を増やせず、レジ付近が混雑するという課題があった。特許文献1では、店内に設置された複数のカメラで客を撮影して客の識別を行い、また客の行動を撮影して、どの客がどの商品を所持しているかを認識し、客が退店する際に客が事前に登録した決済手段により自動で決済が行われるようにしている。これにより、現金の受け渡しを行わないため、客側は買い物にかかる時間を短縮することができる。 In the past, in stores such as supermarkets and mass merchandisers, it was common for customers to select the displayed products and have the clerk perform the settlement process at the cash register corner, but the number of cash registers to reduce labor costs and equipment costs. There was a problem that the area around the cash register was crowded without increasing the number of items. In Patent Document 1, a plurality of cameras installed in a store are used to photograph a customer to identify the customer, and the behavior of the customer is photographed to recognize which customer possesses which product. When leaving the store, payment is automatically made by the payment method registered in advance by the customer. As a result, since cash is not delivered, the customer side can shorten the time required for shopping.

特開2019-145054JP-A-2019-14504

しかしながら、特許文献1において、上限のある電子マネーによって決済を行う場合、客がいざ決済をしようとしたときに電子マネーが残高不足で決済ができず、客が商品を店舗内の元にあった場所に戻しに行くという手間が発生する可能性がある。 However, in Patent Document 1, when payment is made using electronic money with an upper limit, when the customer tries to make a payment, the electronic money cannot be settled due to insufficient balance, and the customer has the product in the store. It can be a hassle to go back to the place.

本発明は、上限のある電子マネーによる決済処理を行う際に電子マネーの残高が不足することを、未然に防ぐことが可能な技術を提供することを目的とする。 An object of the present invention is to provide a technique capable of preventing a shortage of the balance of electronic money when performing a payment process using electronic money having an upper limit.

上述の課題を解決するため、本発明は、ユーザが所持する記憶装置から電子マネーの残高を示す残高情報を取得する取得手段と、店舗内を撮像する撮像手段により撮像された画像を用いて、前記ユーザが手に取った商品の合計金額を特定する特定手段と、前記特定手段により特定された合計金額が、前記取得手段により取得した前記残高情報により示される残高を超える場合に、前記ユーザにその旨を認識させるための情報を出力する出力手段とを備えることを特徴とする。 In order to solve the above-mentioned problems, the present invention uses an acquisition means for acquiring balance information indicating the balance of electronic money from a storage device possessed by the user and an image captured by an image pickup means for imaging the inside of the store. When the specific means for specifying the total amount of goods picked up by the user and the total amount specified by the specific means exceed the balance indicated by the balance information acquired by the acquisition means, the user is notified. It is characterized by including an output means for outputting information for recognizing that fact.

本発明によれば、上限のある電子マネーによる決済処理を行う際に電子マネーの残高が不足することを、未然に防ぐことができる。 According to the present invention, it is possible to prevent the balance of electronic money from becoming insufficient when performing payment processing using electronic money having an upper limit.

第1の実施形態に係る店舗の一例を示す模式図である。It is a schematic diagram which shows an example of the store which concerns on 1st Embodiment. 第1の実施形態に係る画像処理装置およびそれに接続された部材の機能および構成の一例を示すブロック図である。It is a block diagram which shows an example of the function and composition of the image processing apparatus which concerns on 1st Embodiment and the member connected | movement | movement | apparatus, and the member connected to it. 第1の実施形態に係る画像処理装置のハードウェア構成の一例を示す図である。It is a figure which shows an example of the hardware composition of the image processing apparatus which concerns on 1st Embodiment. 第1の実施形態に係る画像処理装置で管理する人物と貨幣情報の関連を表すデータ構造の一例である。It is an example of a data structure showing the relationship between a person managed by the image processing apparatus according to the first embodiment and monetary information. 第1の実施形態に係る画像処理装置で管理する人物と商品の関連を表すデータ構造の一例である。It is an example of a data structure showing the relationship between a person and a product managed by the image processing apparatus according to the first embodiment. 第1の実施形態に係る画像処理装置で管理する店舗内にある商品に関する情報のデータ構造の一例である。It is an example of the data structure of the information about the product in the store managed by the image processing apparatus which concerns on 1st Embodiment. 第1の実施形態に係る画像処理装置からの通知指示により端末装置の表示機能で残高不足であることを通知する一例である。This is an example of notifying that the balance is insufficient in the display function of the terminal device by the notification instruction from the image processing device according to the first embodiment. 第1の実施形態に係る画像処理装置が、客が来店してから退店するまでの間に実行する処理の一例を示すフローチャート図である。It is a flowchart which shows an example of the process which the image processing apparatus which concerns on 1st Embodiment executes from the time when a customer comes to a store to the time when a customer leaves a store. 第2の実施形態に係る画像処理装置からの通知指示により端末装置の表示機能で店舗内に残高で購入できる商品がないことを通知する一例である。This is an example of notifying that there is no product that can be purchased with the balance in the store by the display function of the terminal device by the notification instruction from the image processing device according to the second embodiment. 第2の実施形態に係る画像処理装置が、客が来店してから退店するまでの間に実行する処理の一例を示すフローチャート図である。It is a flowchart which shows an example of the process which the image processing apparatus which concerns on 2nd Embodiment executes from the time when a customer comes to a store to the time when a customer leaves a store. 第3の実施形態に係る画像処理装置からの通知指示により端末装置の表示機能で残高不足であることを通知する一例である。This is an example of notifying that the balance is insufficient in the display function of the terminal device by the notification instruction from the image processing device according to the third embodiment. 第3の実施形態に係る画像処理装置が、客が来店してから退店するまでの間に実行する処理の一例を示すフローチャート図である。It is a flowchart which shows an example of the process which the image processing apparatus which concerns on 3rd Embodiment executes from the time when a customer comes to a store to the time when a customer leaves a store. 第4の実施形態に係る画像処理装置からの通知指示により端末装置の表示機能で残高不足であることを通知する一例である。This is an example of notifying that the balance is insufficient in the display function of the terminal device by the notification instruction from the image processing device according to the fourth embodiment. 第4の実施形態に係る画像処理装置が、客が来店してから退店するまでの間に実行する処理の一例を示すフローチャート図である。It is a flowchart which shows an example of the process which the image processing apparatus which concerns on 4th Embodiment executes from the time when a customer comes to a store to the time when a customer leaves a store.

以下に、図面を参照して、本発明の実施形態の一例を詳しく説明する。なお、以下の実施形態はあくまで例示であり、本発明の範囲を限定する趣旨のものではない。図面においては、同一もしくは同様の構成に同一の参照番号を付与し、重複した説明は省略する。 Hereinafter, an example of an embodiment of the present invention will be described in detail with reference to the drawings. The following embodiments are merely examples, and are not intended to limit the scope of the present invention. In the drawings, the same or similar configurations are given the same reference numbers, and duplicate explanations are omitted.

<第1の実施形態>
図1は、第1の実施形態に係る店舗100の一例を示す模式図である。店舗100には、店舗入口101、店舗出口105、店舗用カメラ108、音声通知装置109、商品棚110が設置されており、店舗100には客111がいる。
<First Embodiment>
FIG. 1 is a schematic diagram showing an example of a store 100 according to the first embodiment. The store 100 is provided with a store entrance 101, a store exit 105, a store camera 108, a voice notification device 109, and a product shelf 110, and the store 100 has a customer 111.

客111は、表示機能を有しネットワークに接続可能なスマートフォン等の端末装置(記憶装置)112を携帯している。なお、端末装置112は、ICカードでも良い。その場合、
店舗入口101には、貨幣情報読取装置102、入口部カメラ103、入口ゲート104が備えられている。さらに、店舗出口105には、出口部カメラ106、出口ゲート107が備えられている。なお、店舗入口101と店舗出口105は、それぞれ複数設置されていてもよい。
The customer 111 carries a terminal device (storage device) 112 such as a smartphone that has a display function and can be connected to a network. The terminal device 112 may be an IC card. In that case,
The store entrance 101 is provided with a money information reading device 102, an entrance camera 103, and an entrance gate 104. Further, the store exit 105 is provided with an exit camera 106 and an exit gate 107. A plurality of store entrances 101 and a plurality of store exits 105 may be installed.

店舗入口101では、客(ユーザ)111の入店処理として、貨幣情報読取装置102により客111の端末装置112から貨幣情報(客111が、入店時点で利用可能な電子マネーの上限金額)や端末装置112の端末情報を読み取る。そして、入口部カメラ103にて、貨幣情報読取装置102にて貨幣情報を読み取った客111を撮影し、入口ゲート104を開扉する。 At the store entrance 101, as a process of entering the store of the customer (user) 111, money information (the upper limit amount of electronic money that the customer 111 can use at the time of entering the store) and money information (the upper limit amount of electronic money that the customer 111 can use at the time of entering the store) and the money information from the terminal device 112 of the customer 111 by the currency information reading device 102. Read the terminal information of the terminal device 112. Then, the entrance camera 103 takes a picture of the customer 111 who has read the money information by the money information reading device 102, and the entrance gate 104 is opened.

店舗100内では、店舗用カメラ108の映像データを解析して、客111が所持している商品を認識する。 In the store 100, the video data of the store camera 108 is analyzed to recognize the product possessed by the customer 111.

店舗出口105では、出口部カメラ106の映像データを解析して客111を検出すると、客111の退店処理として、客111の貨幣情報と所持している商品に基づいて決済処理を行い、出口ゲート107を開扉する。 At the store exit 105, when the customer 111 is detected by analyzing the video data of the exit camera 106, the store exit process is performed based on the monetary information of the customer 111 and the product possessed by the customer 111, and the exit is processed. Open the gate 107.

図2は、第1の実施形態に係る画像処理装置(情報処理装置)200およびそれに接続された部材の機能および構成の一例を示すブロック図である。ここに示す各ブロックは、ハードウェア的には、コンピュータのCPUをはじめとする素子や機械装置で実現でき、ソフトウェア的にはコンピュータプログラム等によって実現されるが、ここでは、それらの連携によって実現される機能ブロックを記載している。したがって、これらの機能ブロックはハードウェア、ソフトウェアの組合せによって様々なかたちで実現できることは、本明細書に触れた当業者には理解されるところである。 FIG. 2 is a block diagram showing an example of the functions and configurations of the image processing device (information processing device) 200 according to the first embodiment and the members connected to the image processing device (information processing device) 200. Each block shown here can be realized by an element such as a computer CPU or a mechanical device in terms of hardware, and by a computer program or the like in terms of software, but here, it is realized by their cooperation. The functional blocks are described. Therefore, it is understood by those skilled in the art who have touched this specification that these functional blocks can be realized in various forms by combining hardware and software.

画像処理装置200は、撮像装置201(図1における各種カメラに該当)、貨幣情報読取装置102、音声通知装置109、端末装置112とインターネットなどのネットワーク(図1では不図示)を介して接続される。また、各種動作を行う動作部202、動作部202の各種動作の設定をする設定部212、データを記憶する記憶部213を有する。さらに、動作部202は、画像取得部203、検出部204、貨幣情報関連付け部207、商品関連付け部208、決済判定部209、通知指示部210、決済部211を有する。 The image processing device 200 is connected to the image pickup device 201 (corresponding to various cameras in FIG. 1), the money information reading device 102, the voice notification device 109, the terminal device 112, and the Internet via a network (not shown in FIG. 1). To. Further, it has an operation unit 202 that performs various operations, a setting unit 212 that sets various operations of the operation unit 202, and a storage unit 213 that stores data. Further, the operation unit 202 includes an image acquisition unit 203, a detection unit 204, a money information association unit 207, a product association unit 208, a settlement determination unit 209, a notification instruction unit 210, and a settlement unit 211.

画像取得部203は、撮像装置201から画像を取得し、記憶部213に記憶する。 The image acquisition unit 203 acquires an image from the image pickup device 201 and stores it in the storage unit 213.

検出部204は、人物検出部205と商品検出部206により構成される。人物検出部205は、画像に含まれる人物を検出する。商品検出部206は、画像に含まれる人物が手に取った商品を検出する。また、商品検出部206は、検出した商品を時系列的に連続した複数の画像で追尾することで、客111がその商品を商品棚110から取ったのか、それともその商品を商品棚110に戻したのかを特定する。 The detection unit 204 includes a person detection unit 205 and a product detection unit 206. The person detection unit 205 detects a person included in the image. The product detection unit 206 detects a product picked up by a person included in the image. Further, the product detection unit 206 tracks the detected product with a plurality of consecutive images in chronological order, so that the customer 111 picks up the product from the product shelf 110 or returns the product to the product shelf 110. Identify the product.

貨幣情報関連付け部207は、貨幣情報読取装置102から貨幣情報を取得し、人物検出部205で検出した貨幣情報の持ち主である人物の情報と関連付けて記憶部213に記憶する。この人物と貨幣情報の関連を表すデータの管理については、図4を参照して後述する。 The money information association unit 207 acquires money information from the money information reading device 102, associates it with the information of the person who owns the money information detected by the person detection unit 205, and stores it in the storage unit 213. The management of data representing the relationship between this person and monetary information will be described later with reference to FIG.

商品関連付け部208は、商品検出部206で検出した商品の情報と商品を手に取った人物の情報を関連付けて記憶部213に記憶する。この人物と商品の関連を表すデータの管理については、図5を参照して後述する。 The product association unit 208 associates the information of the product detected by the product detection unit 206 with the information of the person who picks up the product and stores it in the storage unit 213. The management of data representing the relationship between the person and the product will be described later with reference to FIG.

決済判定部209は、商品関連付け部208により人物に対して関連付けられた商品の情報に変更があった場合に、貨幣情報関連付け部207により人物に対して関連付けられた貨幣情報に基づいて、商品の合計金額が決済可能な金額であるかどうかを判定する。 When the information of the product associated with the person by the product association unit 208 is changed, the settlement determination unit 209 of the product is based on the monetary information associated with the person by the money information association unit 207. Determine if the total amount is settleable.

通知指示部(出力部)210は、決済判定部209により決済可能な金額ではないと判定された場合に、客111に最も近い音声通知装置109と端末装置112に所定の通知を行うよう指示する。この際、音声通知装置109に対しては音声による通知を指示し、端末装置112に対しては端末装置112の表示機能による通知を指示する。なお、他の実施形態として、音声通知装置109、または端末装置112のいずれか一方への通知指示でも良いが。ただし、端末装置112がICカードの場合、通知指示部210は、音声通知装置109に対して音声による通知を指示する。 The notification instruction unit (output unit) 210 instructs the voice notification device 109 and the terminal device 112 closest to the customer 111 to give a predetermined notification when the payment determination unit 209 determines that the amount cannot be settled. .. At this time, the voice notification device 109 is instructed to be notified by voice, and the terminal device 112 is instructed to be notified by the display function of the terminal device 112. As another embodiment, a notification instruction may be given to either the voice notification device 109 or the terminal device 112. However, when the terminal device 112 is an IC card, the notification instruction unit 210 instructs the voice notification device 109 to notify by voice.

決済部211は、貨幣情報関連付け部207により人物に対して関連付けられた貨幣情報と商品の合計金額に基づいて、図示しない外部の電子マネーの決済を行うサーバへ決済の要求を行う。 The settlement unit 211 makes a settlement request to an external electronic money settlement server (not shown) based on the total amount of money information and goods associated with the person by the currency information association unit 207.

図3は、第1の実施形態に係る画像処理装置200のハードウェア構成の一例を示す図である。画像処理装置200は、CPU301、ROM302、RAM303、ハードディスクドライブ(HDD)304、入力装置305、表示デバイス306、ディスクドライブ307、ネットワークインタフェース308を有する。ネットワークインタフェース308は、ネットワーク309に接続されている。 FIG. 3 is a diagram showing an example of the hardware configuration of the image processing apparatus 200 according to the first embodiment. The image processing device 200 includes a CPU 301, a ROM 302, a RAM 303, a hard disk drive (HDD) 304, an input device 305, a display device 306, a disk drive 307, and a network interface 308. The network interface 308 is connected to the network 309.

CPU301は、画像処理装置200を統括制御する制御装置である。 The CPU 301 is a control device that controls the image processing device 200 in an integrated manner.

ROM302は、CPU301が画像処理装置200を制御するためのプログラムを記憶する。なお、ROM302に代えて、2次記憶装置を設けてもよい。 The ROM 302 stores a program for the CPU 301 to control the image processing device 200. A secondary storage device may be provided instead of the ROM 302.

RAM303は、CPU301がROM302から読み出したプログラムを展開し、処理を実行するためのメモリである。また、RAM303は、一時記憶メモリとして各種処理の対象となるデータを一時記憶するための記憶領域としても使用される。 The RAM 303 is a memory for expanding a program read from the ROM 302 by the CPU 301 and executing processing. The RAM 303 is also used as a temporary storage memory as a storage area for temporarily storing data to be processed in various ways.

HDD304は、画像データや処理の対象となるデータを格納する。CPU301は、HDD304から画像データや処理の対象となるデータを読み出す。 The HDD 304 stores image data and data to be processed. The CPU 301 reads out image data and data to be processed from the HDD 304.

入力装置305は、数値等のデータ入力用のキーボード、表示デバイス306の表示領域の表示位置を指示するためのポインティングデバイス、マウス、およびタッチパネル等を有する。 The input device 305 includes a keyboard for inputting data such as numerical values, a pointing device for instructing a display position of a display area of the display device 306, a mouse, a touch panel, and the like.

表示デバイス306は、画像や領域枠を表示するディスプレイ等のデバイスである。 The display device 306 is a device such as a display that displays an image or an area frame.

ディスクドライブ307は、CD、DVD、ブルーレイディスク、またはフレキシブルディスク内の画像データを読み出し、CPU301はディスクドライブ307を介して画像データを取得する。なお、CPU301が画像データをHDD304またはネットワークインタフェース308から入力する場合には、ディスクドライブ307はなくてもよい。 The disc drive 307 reads the image data in the CD, DVD, Blu-ray disc, or flexible disc, and the CPU 301 acquires the image data via the disc drive 307. When the CPU 301 inputs image data from the HDD 304 or the network interface 308, the disk drive 307 may not be necessary.

ネットワークインタフェース308は、ネットワーク309を介して通信を行う回路である。CPU301は、ネットワーク309を介して外部装置(例えば、撮像装置201)から画像データを取得する。CPU301は、ネットワーク309を介して外部の音声通知装置109、端末装置112に指示を送信する。 The network interface 308 is a circuit that communicates via the network 309. The CPU 301 acquires image data from an external device (for example, the image pickup device 201) via the network 309. The CPU 301 transmits an instruction to the external voice notification device 109 and the terminal device 112 via the network 309.

以上のように、画像処理装置200のハードウェア構成は、一般的なPC(パーソナルコンピュータ)に搭載されるハードウェア構成要素と同様のハードウェア構成要素を有している。そのため、画像処理装置200で実現される各種機能を、PC上で動作するソフトウェアとして実装することが可能である。画像処理装置200は、CPU301がプログラムを実行することにより、画像処理装置の種々の機能を実現することができる。 As described above, the hardware configuration of the image processing apparatus 200 has the same hardware components as those mounted on a general PC (personal computer). Therefore, it is possible to implement various functions realized by the image processing apparatus 200 as software that operates on a PC. The image processing device 200 can realize various functions of the image processing device by executing a program by the CPU 301.

図4は、第1の実施形態に係る画像処理装置200で管理する人物と貨幣情報の関連を表すデータ構造の一例である。 FIG. 4 is an example of a data structure showing a relationship between a person managed by the image processing apparatus 200 according to the first embodiment and monetary information.

人物識別子401は、客111を識別するための識別子である。人物識別子401は、店舗入口101の入口部カメラ103により撮影された画像データから、人物検出部205が客111を検出した際に発行される。 The person identifier 401 is an identifier for identifying the customer 111. The person identifier 401 is issued when the person detection unit 205 detects the customer 111 from the image data taken by the entrance camera 103 of the store entrance 101.

貨幣情報402は、人物識別子401により示される客111が利用可能な電子マネーの上限金額(残高情報)である。貨幣情報402は、店舗入口101の貨幣情報読取装置102により客111の端末装置112から読み取られ、貨幣情報関連付け部207により取得される。 The monetary information 402 is an upper limit amount (balance information) of electronic money that can be used by the customer 111 indicated by the person identifier 401. The money information 402 is read from the terminal device 112 of the customer 111 by the money information reading device 102 of the store entrance 101, and is acquired by the money information associating unit 207.

端末情報403は、人物識別子401により示される客111が所持する端末を識別するための識別子である。端末情報403は、店舗入口101の貨幣情報読取装置102により客111の端末装置112から読み取られ、貨幣情報関連付け部207により取得される。また、図4には図示していないが、電子マネーの残高が不足していたときに端末装置112に通知するための情報も画像処理装置200で管理される。端末装置112に通知するための情報とは、例えば端末装置112で閲覧可能な電子メールのメールアドレスである。また、お店の専用アプリケーションが端末装置112にインストールされている場合には、当該アプリケーションに通知するために必要となる情報である。 The terminal information 403 is an identifier for identifying a terminal possessed by the customer 111 indicated by the person identifier 401. The terminal information 403 is read from the terminal device 112 of the customer 111 by the money information reading device 102 of the store entrance 101, and is acquired by the money information associating unit 207. Further, although not shown in FIG. 4, information for notifying the terminal device 112 when the balance of electronic money is insufficient is also managed by the image processing device 200. The information for notifying the terminal device 112 is, for example, an e-mail address of an e-mail that can be viewed on the terminal device 112. Further, when a store-dedicated application is installed in the terminal device 112, it is information necessary for notifying the application.

図5は、第1の実施形態に係る画像処理装置200で管理する人物と商品の関連を表すデータ構造の一例である。 FIG. 5 is an example of a data structure showing the relationship between a person and a product managed by the image processing apparatus 200 according to the first embodiment.

人物識別子501は、客111を識別するための識別子であり、人物識別子401と同様である。 The person identifier 501 is an identifier for identifying the customer 111, and is the same as the person identifier 401.

商品502は、客111が手に取った商品である。商品502は、商品検出部206により検出される。 The product 502 is a product picked up by the customer 111. The product 502 is detected by the product detection unit 206.

価格503は、商品502の価格である。この価格503をはじめとした店舗内にある商品に関する情報の管理については、図6を参照して後述する。 The price 503 is the price of the product 502. The management of information on the products in the store, including the price 503, will be described later with reference to FIG.

個数504は、客111が手に取った商品の数である。個数504は、商品検出部206により検出される。 The number 504 is the number of products picked up by the customer 111. The number 504 is detected by the product detection unit 206.

合計金額505は、客111が手に取った商品の合計金額である。 The total amount of money 505 is the total amount of goods picked up by the customer 111.

図6は、第1の実施形態に係る画像処理装置200で管理する店舗100内にある商品に関する情報のデータ構造の一例である。 FIG. 6 is an example of a data structure of information about a product in a store 100 managed by the image processing device 200 according to the first embodiment.

商品種別601は、商品の種類である。商品602は、同一の商品種別601の中で各商品を識別するための識別子であり、商品502と同様である。価格603は、商品602の価格であり、価格503と同様である。 The product type 601 is a product type. The product 602 is an identifier for identifying each product in the same product type 601 and is the same as the product 502. The price 603 is the price of the product 602, which is the same as the price 503.

図7は、第1の実施形態に係る画像処理装置200からの通知指示により端末装置112の表示機能で残高不足であることを通知する一例である。 FIG. 7 is an example of notifying that the balance is insufficient by the display function of the terminal device 112 by the notification instruction from the image processing device 200 according to the first embodiment.

701は、端末装置112の表示部である。702は、表示部701に表示される客111に対して残高不足であることを通知するメッセージである。メッセージは、画像処理装置200から端末装置112に電子メールを用いて通知指示する場合には、客が電子メールを開くことにより表示される。また、画像処理装置200から端末装置112に、専用アプリケーションを用いて通知指示する場合には、専用アプリケーションによるプッシュ通知により表示される。 Reference numeral 701 is a display unit of the terminal device 112. Reference numeral 702 is a message notifying the customer 111 displayed on the display unit 701 that the balance is insufficient. When the image processing device 200 gives a notification instruction to the terminal device 112 by e-mail, the message is displayed by the customer opening the e-mail. Further, when the image processing device 200 gives a notification instruction to the terminal device 112 using the dedicated application, the notification is displayed by the push notification by the dedicated application.

なお、他の実施形態として、専用アプリケーションを用いて画像処理装置200から端末装置112に通知指示する場合には、専用アプリケーションを介して、端末装置112が有するバイブレーション機能を動作させることで通知しても良い。 As another embodiment, when the image processing device 200 gives a notification instruction to the terminal device 112 using the dedicated application, the notification is given by operating the vibration function of the terminal device 112 via the dedicated application. Is also good.

図8は、第1の実施形態に係る画像処理装置200が、客111が来店してから退店するまでの間に実行する処理の一例を示すフローチャート図である。図8に示す各処理は画像処理装置200が有する各機能部により実行される。 FIG. 8 is a flowchart showing an example of processing executed by the image processing apparatus 200 according to the first embodiment from the time when the customer 111 comes to the store to the time when the customer 111 leaves the store. Each process shown in FIG. 8 is executed by each functional unit included in the image processing device 200.

ステップS801にて、画像処理装置200は、貨幣情報読取装置102から客111の貨幣情報402と端末情報403とを取得する。 In step S801, the image processing device 200 acquires the money information 402 and the terminal information 403 of the customer 111 from the money information reading device 102.

ステップS802にて、画像処理装置200は、入口部カメラ103からステップS801で貨幣情報402を取得した客111が撮影された画像データを取得する。 In step S802, the image processing device 200 acquires image data taken by the customer 111 who acquired the monetary information 402 in step S801 from the entrance camera 103.

ステップS803にて、画像処理装置200は、ステップS802で取得した画像データを解析して、客111を検出する。そして、客111を識別するための人物識別子401を発行する。 In step S803, the image processing device 200 analyzes the image data acquired in step S802 to detect the customer 111. Then, the person identifier 401 for identifying the customer 111 is issued.

ステップS804にて、画像処理装置200は、ステップS803にて発行した人物識別子401、ステップS802で取得した貨幣情報402、および端末情報403を関連付けて記憶する。 In step S804, the image processing apparatus 200 stores the person identifier 401 issued in step S803, the monetary information 402 acquired in step S802, and the terminal information 403 in association with each other.

ステップS805にて、画像処理装置200は、ステップS806で解析を行うために、店舗用カメラ108から店舗100内が撮影された画像データを取得する。また、出口部カメラ106から店舗出口105辺りが撮影された画像データを取得する。 In step S805, the image processing device 200 acquires image data taken in the store 100 from the store camera 108 in order to perform analysis in step S806. In addition, image data taken around the store exit 105 is acquired from the exit camera 106.

ステップS806にて、画像処理装置200は、ステップS805で取得した画像データを解析する。 In step S806, the image processing apparatus 200 analyzes the image data acquired in step S805.

ステップS807にて、画像処理装置200は、ステップS806における解析の結果、客111が手に取った商品502を検出した場合、または店舗出口105にて客111を検出した場合はステップS808に進む。一方で、画像処理装置200は、どちらも検出しなかった場合はステップS805に戻る。 In step S807, the image processing apparatus 200 proceeds to step S808 when the product 502 picked up by the customer 111 is detected as a result of the analysis in step S806, or when the customer 111 is detected at the store exit 105. On the other hand, if neither is detected by the image processing apparatus 200, the process returns to step S805.

ステップS808にて、画像処理装置200は、ステップS806における解析の結果、客111が手に取った商品502を検出した場合、客111が商品502を、商品棚110から取る、または戻す動作を行っているため、ステップS809に進む。一方で、画像処理装置200は、ステップS806で店舗出口105にて客111を検出した場合は、決済であると判断し、ステップS812に進む。 In step S808, when the image processing apparatus 200 detects the product 502 picked up by the customer 111 as a result of the analysis in step S806, the image processing apparatus 200 performs an operation of picking up the product 502 from the product shelf 110 or returning the product 502. Therefore, the process proceeds to step S809. On the other hand, when the image processing apparatus 200 detects the customer 111 at the store exit 105 in step S806, it determines that the payment has been made and proceeds to step S812.

ステップS809にて、画像処理装置200は、ステップS803にて発行した人物識別子401、ステップS806で検出した商品502の情報を関連付けて記憶する。なお、ステップS806における解析の結果、客111が商品502を商品棚110に戻す動作を行っていた場合、ステップS809にて、画像処理装置200は、戻した商品502に関して、客111との関連付けを解除する。 In step S809, the image processing device 200 stores the information of the person identifier 401 issued in step S803 and the information of the product 502 detected in step S806 in association with each other. As a result of the analysis in step S806, when the customer 111 is operating to return the product 502 to the product shelf 110, in step S809, the image processing device 200 associates the returned product 502 with the customer 111. To release.

ステップS810にて、画像処理装置200は、客111の貨幣情報402に基づいて、商品の合計金額505が決済可能な金額であるかどうかを判定する。商品の合計金額505が決済可能な金額である場合はステップS805に戻り、そうではない場合はステップS811に進む。 In step S810, the image processing device 200 determines whether or not the total amount of goods 505 is a receivable amount based on the monetary information 402 of the customer 111. If the total amount of goods 505 is a receivable amount, the process returns to step S805, and if not, the process proceeds to step S811.

ステップS811にて、画像処理装置200は、客111に最も近い音声通知装置109と端末装置112に客111に対して残高不足であることを通知するための指示を送信する。この際、音声通知装置109に対しては音声による通知を指示し、端末装置112に対しては端末装置112の表示機能による通知を指示する。指示の送信後はステップS805に戻る。 In step S811, the image processing device 200 transmits an instruction to notify the customer 111 that the balance is insufficient to the voice notification device 109 and the terminal device 112 closest to the customer 111. At this time, the voice notification device 109 is instructed to be notified by voice, and the terminal device 112 is instructed to be notified by the display function of the terminal device 112. After transmitting the instruction, the process returns to step S805.

ステップS812にて、画像処理装置200は、客111の貨幣情報402と商品の合計金額505に基づいて、図示しない外部の電子マネーの決済を行うサーバへ決済の要求を送信し、処理を終了する。 In step S812, the image processing device 200 transmits a payment request to an external electronic money payment server (not shown) based on the monetary information 402 of the customer 111 and the total amount of the product 505, and ends the processing. ..

以上、第1の実施形態によると、電子マネーによる決済処理を行うより前に、電子マネーの残高が不足することを通知することができるため、客は、電子マネーをチャージしたり、商品を戻したりする等の対応をとることが可能となる。すなわち、電子マネーによる決済処理を行う際に電子マネーの残高が不足することを、未然に防ぐことができる。 As described above, according to the first embodiment, it is possible to notify that the balance of the electronic money is insufficient before the payment processing by the electronic money is performed, so that the customer can charge the electronic money or return the product. It is possible to take measures such as taking measures such as. That is, it is possible to prevent the balance of electronic money from becoming insufficient when performing payment processing using electronic money.

<第2の実施形態>
第2の実施形態では、上述した第1の実施形態の処理に加えて、店舗100内に電子マネーの残高で購入可能な商品がない場合に、客111に対してその旨を通知する方法について説明する。なお、以下では第1の実施形態と同様の内容については説明を省略し、第2の実施形態に特有の内容について説明する。
<Second embodiment>
In the second embodiment, in addition to the processing of the first embodiment described above, when there is no product that can be purchased with the balance of electronic money in the store 100, the method of notifying the customer 111 to that effect. explain. In the following, the same contents as those of the first embodiment will be omitted, and the contents peculiar to the second embodiment will be described.

図9は、第2の実施形態に係る画像処理装置200からの通知指示により端末装置112の表示機能で店舗100内に電子マネーの残高で購入できる商品がないことを通知する一例である。 FIG. 9 is an example of notifying that there is no product that can be purchased with the balance of electronic money in the store 100 by the display function of the terminal device 112 by the notification instruction from the image processing device 200 according to the second embodiment.

902は、客111に対して店舗100内に残高で購入できる商品がないことを通知するメッセージである。メッセージは、画像処理装置200から端末装置112に電子メールを用いて通知指示する場合には、客が電子メールを開くことにより表示される。また、画像処理装置200から端末装置112に、専用アプリケーションを用いて通知指示する場合には、専用アプリケーションによるプッシュ通知により表示される。 902 is a message notifying the customer 111 that there is no product that can be purchased with the balance in the store 100. When the image processing device 200 gives a notification instruction to the terminal device 112 by e-mail, the message is displayed by the customer opening the e-mail. Further, when the image processing device 200 gives a notification instruction to the terminal device 112 using the dedicated application, the notification is displayed by the push notification by the dedicated application.

図10は、第2の実施形態に係る画像処理装置200が、客111が来店してから退店するまでの間に実行する処理の一例を示すフローチャート図である。図10では、図8の処理にステップS1013とステップS1014の処理を加えている。 FIG. 10 is a flowchart showing an example of processing executed by the image processing apparatus 200 according to the second embodiment from the time when the customer 111 comes to the store to the time when the customer 111 leaves the store. In FIG. 10, the processes of steps S1013 and S1014 are added to the processes of FIG.

ステップS1013にて、画像処理装置200は、客111の貨幣情報402と商品の合計金額505に基づいて、店舗100内に電子マネーの残高で購入できる商品があるかどうかを判定する。なお、この判定を行うために、店舗100内で最も安い商品の価格に関するデータを事前に画像処理装置200で保持しておく。店舗100内に残高で購入できる商品がある場合はステップS805に戻り、そうではない場合はステップS1014に進む。 In step S1013, the image processing device 200 determines whether or not there is a product that can be purchased with the balance of electronic money in the store 100 based on the monetary information 402 of the customer 111 and the total amount of the product 505. In order to make this determination, the image processing device 200 holds data on the price of the cheapest product in the store 100 in advance. If there is a product that can be purchased with the balance in the store 100, the process returns to step S805, and if not, the process proceeds to step S1014.

ステップS1014にて、画像処理装置200は、客111に最も近い音声通知装置109と端末装置112に客111に対して店舗100内に残高で購入できる商品がないことを通知するための指示を送信する。この際、音声通知装置109に対しては音声による通知を指示し、端末装置112に対しては端末装置112の表示機能による通知を指示する。指示の送信後はステップS805に戻る。 In step S1014, the image processing device 200 transmits an instruction to the voice notification device 109 and the terminal device 112 closest to the customer 111 to notify the customer 111 that there is no product that can be purchased with a balance in the store 100. do. At this time, the voice notification device 109 is instructed to be notified by voice, and the terminal device 112 is instructed to be notified by the display function of the terminal device 112. After transmitting the instruction, the process returns to step S805.

以上、第2の実施形態によると、客は、商品を手に取ってから、次の商品を手に取る前に、これ以上、いまの電子マネーの残高で購入可能な商品がないことを知ることが可能となる。 As described above, according to the second embodiment, the customer knows that there is no more product that can be purchased with the current balance of electronic money after picking up the product and before picking up the next product. It becomes possible.

<第3の実施形態>
上述した第1の実施形態では、商品の合計金額505が決済可能な金額ではない場合に、客111に対して残高不足であることのみを通知した。第3の実施形態では、残高不足であることに加えて、残高内で商品の合計金額が最大となる商品の組合せを通知する方法について説明する。なお、以下では第1の実施形態と同様の内容については説明を省略し、第3の実施形態に特有の内容について説明する。
<Third embodiment>
In the first embodiment described above, when the total amount of goods 505 is not the amount that can be settled, the customer 111 is only notified that the balance is insufficient. In the third embodiment, in addition to the insufficient balance, a method of notifying the combination of products that maximizes the total price of the products in the balance will be described. In the following, the same contents as those of the first embodiment will be omitted, and the contents peculiar to the third embodiment will be described.

図11は、第3の実施形態に係る画像処理装置200からの通知指示により端末装置112の表示機能で残高不足であることを通知する一例である。 FIG. 11 is an example of notifying that the balance is insufficient by the display function of the terminal device 112 by the notification instruction from the image processing device 200 according to the third embodiment.

1102は、客111に対して残高不足であること、および残高内(残高以下)で商品の合計金額が最大となる商品の組合せを通知するメッセージである。メッセージは、画像処理装置200から端末装置112に電子メールを用いて通知指示する場合には、客が電子メールを開くことにより表示される。また、画像処理装置200から端末装置112に、専用アプリケーションを用いて通知指示する場合には、専用アプリケーションによるプッシュ通知により表示される。 Reference numeral 1102 is a message notifying the customer 111 that the balance is insufficient and the combination of products that maximizes the total price of the products within the balance (less than or equal to the balance). When the image processing device 200 gives a notification instruction to the terminal device 112 by e-mail, the message is displayed by the customer opening the e-mail. Further, when the image processing device 200 gives a notification instruction to the terminal device 112 using the dedicated application, the notification is displayed by the push notification by the dedicated application.

図12は、第3の実施形態に係る画像処理装置200が、客111が来店してから退店するまでの間に実行する処理の一例を示すフローチャート図である。図12では、図8の処理にステップS1213の処理を加えている。 FIG. 12 is a flowchart showing an example of processing executed by the image processing apparatus 200 according to the third embodiment from the time when the customer 111 comes to the store to the time when the customer 111 leaves the store. In FIG. 12, the process of step S1213 is added to the process of FIG.

ステップS1213にて、画像処理装置200は、客111の貨幣情報402と商品の価格503に基づいて、残高内で商品の合計金額が最大となる商品の組合せを求める。そして、求めた商品の組合せを、ステップS811での通知指示に使用する。 In step S1213, the image processing device 200 obtains a combination of products having the maximum total price of the products in the balance based on the monetary information 402 of the customer 111 and the price 503 of the products. Then, the obtained combination of products is used for the notification instruction in step S811.

以上、第3の実施形態によると、客は現在の電子マネーの残高を最大限に利用して購入可能な商品の組み合わせを知ることが可能となる。 As described above, according to the third embodiment, the customer can know the combination of products that can be purchased by making the maximum use of the current balance of electronic money.

<第4の実施形態>
上述した第1の実施形態では、商品の合計金額505が決済可能な金額ではない場合に、客111に対して残高不足であることのみを通知した。第4の実施形態では、残高不足であることに加えて、店舗100内に価格より安い代替商品が存在する場合は、代替商品を含めた商品の組合せを通知する方法について説明する。なお、以下では第1の実施形態と同様の内容については説明を省略し、第4の実施形態に特有の内容について説明する。
<Fourth Embodiment>
In the first embodiment described above, when the total amount of goods 505 is not the amount that can be settled, the customer 111 is only notified that the balance is insufficient. In the fourth embodiment, in addition to the insufficient balance, when there is an alternative product lower than the price in the store 100, a method of notifying the combination of the products including the alternative product will be described. In the following, the same contents as those of the first embodiment will be omitted, and the contents peculiar to the fourth embodiment will be described.

図13は、第4の実施形態に係る画像処理装置200からの通知指示により端末装置112の表示機能で残高不足であることを通知する一例である。 FIG. 13 is an example of notifying that the balance is insufficient by the display function of the terminal device 112 by the notification instruction from the image processing device 200 according to the fourth embodiment.

1302は、客111に対して残高不足であること、および店舗100内に価格より安い代替商品(類似商品)が存在する場合に代替商品を含めた商品の組合せを通知するメッセージである。メッセージは、画像処理装置200から端末装置112に電子メールを用いて通知指示する場合には、客が電子メールを開くことにより表示される。また、画像処理装置200から端末装置112に、専用アプリケーションを用いて通知指示する場合には、専用アプリケーションによるプッシュ通知により表示される。 Reference numeral 1302 is a message notifying the customer 111 that the balance is insufficient and that the combination of products including the substitute product is notified when the substitute product (similar product) having a price lower than the price exists in the store 100. When the image processing device 200 gives a notification instruction to the terminal device 112 by e-mail, the message is displayed by the customer opening the e-mail. Further, when the image processing device 200 gives a notification instruction to the terminal device 112 using the dedicated application, the notification is displayed by the push notification by the dedicated application.

図14は、第4の実施形態に係る画像処理装置200が、客111が来店してから退店するまでの間に実行する処理の一例を示すフローチャート図である。図14では、図8の処理にステップS1413の処理を加えている。 FIG. 14 is a flowchart showing an example of processing executed by the image processing apparatus 200 according to the fourth embodiment from the time when the customer 111 comes to the store to the time when the customer 111 leaves the store. In FIG. 14, the process of step S1413 is added to the process of FIG.

ステップS1413にて、画像処理装置200は、客111の貨幣情報402と商品502、および図6にて上述した店舗内にある商品に関する情報に基づいて、店舗100内に商品の種類が同じで価格がより安い代替商品が存在するかどうかを特定する。そして、代替商品が存在する場合は、代替商品を含めた商品の組合せを求める。そして、ステップS811での通知指示に使用する。 In step S1413, the image processing device 200 has the same product type and price in the store 100 based on the monetary information 402 and the product 502 of the customer 111 and the information about the product in the store described above in FIG. Identify if there is a cheaper alternative. Then, if there is an alternative product, a combination of products including the alternative product is obtained. Then, it is used for the notification instruction in step S811.

以上、第4の実施形態によると、客は残高が不足した場合に、購入する商品の数を減らすことなく、買い物をすることが可能となる。 As described above, according to the fourth embodiment, when the balance is insufficient, the customer can shop without reducing the number of products to be purchased.

<第5の実施形態>
上述した各実施形態では、客111が手に取った商品502を検出した後に、商品の合計金額505が決済可能な金額であるかを判定する。第5の実施形態では、客111が商品502を手に取る前に、商品502を手に取ったと仮定した場合に商品の合計金額505が決済可能な金額であるかを判定する。
<Fifth Embodiment>
In each of the above-described embodiments, after the product 502 picked up by the customer 111 is detected, it is determined whether the total price of the products 505 is a settleable amount. In the fifth embodiment, before the customer 111 picks up the product 502, it is determined whether the total price of the product 505 is the amount that can be settled if it is assumed that the customer 111 picks up the product 502.

具体的には、画像処理装置200は、客111の手の移動方向を検出し、客111の手と、客111の手が移動した先にある商品502との距離が所定距離になったら、客111が手に取った商品502とみなす。そして、画像処理装置200は、図8のステップS808以降の処理を実行する。 Specifically, the image processing device 200 detects the moving direction of the customer 111's hand, and when the distance between the customer 111's hand and the product 502 to which the customer 111's hand has moved reaches a predetermined distance, It is regarded as the product 502 picked up by the customer 111. Then, the image processing apparatus 200 executes the processing after step S808 in FIG.

以上、第5の実施形態によると、電子マネーの残高が不足している場合に、客は商品を手に取る前に残高不足を知ることが可能となるため、商品を商品棚に戻す手間を省くことが可能となる。 As described above, according to the fifth embodiment, when the balance of electronic money is insufficient, the customer can know the balance shortage before picking up the product, so that it takes time and effort to return the product to the product shelf. It can be omitted.

以上、本発明をその好適な実施形態に基づいて詳述してきたが、本発明はこれら特定の実施形態に限られるものではなく、本発明の要旨を逸脱しない範囲の様々な形態も本発明に含まれる。また、上述の実施形態の一部を適宜組み合わせてもよい。 Although the present invention has been described in detail based on the preferred embodiments thereof, the present invention is not limited to these specific embodiments, and various embodiments within the range not deviating from the gist of the present invention are also included in the present invention. included. In addition, some of the above-described embodiments may be combined as appropriate.

それから、上述の実施形態の機能を実現するソフトウェアのプログラムを、記録媒体から直接、或いは有線/無線通信を用いてプログラムを実行可能なコンピュータを有するシステム又は装置に供給し、そのプログラムを実行する場合も本発明に含む。従って、本発明の機能処理をコンピュータで実現するために、該コンピュータに供給、インストールされるプログラムコード自体も本発明を実現するものである。つまり、本発明の機能処理を実現するためのコンピュータプログラム自体も本発明に含まれる。その場合、プログラムの機能を有していれば、オブジェクトコード、インタプリタにより実行されるプログラム、OSに供給するスクリプトデータ等、プログラムの形態を問わない。 Then, when a software program that realizes the functions of the above-described embodiment is supplied to a system or device having a computer capable of executing the program directly from a recording medium or by using wired / wireless communication, the program is executed. Is also included in the present invention. Therefore, in order to realize the functional processing of the present invention on a computer, the program code itself supplied and installed on the computer also realizes the present invention. That is, the computer program itself for realizing the functional processing of the present invention is also included in the present invention. In that case, as long as it has the function of the program, the form of the program such as the object code, the program executed by the interpreter, the script data supplied to the OS, etc. does not matter.

プログラムを供給するための記録媒体としては、例えば、ハードディスク、磁気テープ等の磁気記録媒体、光/光磁気記憶媒体、不揮発性の半導体メモリでもよい。また、プログラムの供給方法としては、コンピュータネットワーク上のサーバに本発明を形成するコンピュータプログラムを記憶し、接続のあったクライアントコンピュータがコンピュータプログラムをダウンロードしてプログラムするような方法も考えられる。 The recording medium for supplying the program may be, for example, a hard disk, a magnetic recording medium such as a magnetic tape, an optical / optical magnetic storage medium, or a non-volatile semiconductor memory. Further, as a method of supplying the program, a method is conceivable in which the computer program forming the present invention is stored in a server on the computer network, and the connected client computer downloads and programs the computer program.

200 画像処理装置
202 動作部
203 画像取得部
204 検出部
205 人体検出部
206 商品検出部
207 貨幣情報関連付け部
208 商品関連付け部
209 決済判定部
210 通知指示部
211 決済部
212 設定部
213 記憶部
200 Image processing device 202 Operation unit 203 Image acquisition unit 204 Detection unit 205 Human body detection unit 206 Product detection unit 207 Money information association unit 208 Product association unit 209 Payment judgment unit 210 Notification instruction unit 211 Payment unit 212 Setting unit 213 Storage unit

Claims (9)

ユーザが所持する記憶装置から電子マネーの残高を示す残高情報を取得する取得手段と、
店舗内を撮像する撮像手段により撮像された画像を用いて、前記ユーザが手に取った商品の合計金額を特定する特定手段と、
前記特定手段により特定された合計金額が、前記取得手段により取得した前記残高情報により示される残高を超える場合に、前記ユーザにその旨を認識させるための情報を出力する出力手段と
を備えることを特徴とする情報処理装置。
An acquisition means for acquiring balance information indicating the balance of electronic money from a storage device owned by the user, and
A specific means for specifying the total amount of goods picked up by the user using an image captured by an image pickup means for imaging the inside of the store, and a specific means for specifying the total price of the product picked up by the user.
When the total amount of money specified by the specific means exceeds the balance indicated by the balance information acquired by the acquisition means, it is provided with an output means for outputting information for making the user recognize that fact. An information processing device that features it.
前記店舗にある各商品の金額を管理する管理手段を更に備え、
前記出力手段は、前記残高が、前記管理手段で管理するいずれの商品の金額よりも少ない場合に、購入可能な商品がないことを前記ユーザに認識させるための情報を、更に出力することを特徴とする請求項1に記載の情報処理装置。
Further equipped with a management means for managing the amount of each product in the store,
The output means further outputs information for making the user recognize that there is no product that can be purchased when the balance is less than the amount of any product managed by the management means. The information processing apparatus according to claim 1.
前記出力手段は、前記合計金額が前記残高を超える場合に、前記ユーザが手に取った商品のうち、前記残高以下となる商品の組み合わせの情報を更に出力することを特徴とする請求項1または2に記載の情報処理装置。 1. 2. The information processing apparatus according to 2. 前記出力手段は、前記合計金額が前記残高を超える場合に、前記ユーザが手に取った商品のうち、前記残高以下となる商品の組み合わせであって、前記残高内で商品の合計金額が最大となる商品の組合せの情報を出力することを特徴とする請求項3に記載の情報処理装置。 The output means is a combination of products whose total amount is equal to or less than the balance among the products picked up by the user when the total amount exceeds the balance, and the total amount of the products within the balance is the maximum. The information processing apparatus according to claim 3, further comprising outputting information on a combination of products. 前記出力手段は、前記合計金額が前記残高を超える場合に、前記ユーザが手に取った商品と類似する商品であって、前記ユーザが手に取った商品よりも金額が安い商品の情報を更に出力することを特徴とする請求項1乃至4のいずれか1項に記載の情報処理装置。 The output means further provides information on a product similar to the product picked up by the user when the total amount exceeds the balance, and the price is cheaper than the product picked up by the user. The information processing apparatus according to any one of claims 1 to 4, wherein the information processing apparatus is to be output. 前記出力手段は、音声による通知を行う音声通知手段、または前記記憶装置に対して出力することを特徴とする請求項1乃至5のいずれか1項に記載の情報処理装置。 The information processing device according to any one of claims 1 to 5, wherein the output means is a voice notification means that gives a voice notification, or outputs to the storage device. 前記記憶装置が、無線通信を行う機能を備えたICカードである場合、前記出力手段は、前記音声通知手段を介して出力することを特徴とする請求項6に記載の情報処理装置。 The information processing device according to claim 6, wherein when the storage device is an IC card having a function of performing wireless communication, the output means outputs via the voice notification means. ユーザが所持する記憶装置から電子マネーの残高を示す残高情報を取得する取得工程と、
店舗内を撮像する撮像手段により撮像された画像を用いて、前記ユーザが手に取った商品の合計金額を特定する特定工程と、
前記特定工程で特定された合計金額が、前記取得工程で取得した前記残高情報により示される残高を超える場合に、前記ユーザにその旨を認識させるための情報を出力する出力工程と
を有することを特徴とする情報処理装置の制御方法。
The acquisition process of acquiring balance information indicating the balance of electronic money from the storage device owned by the user, and
A specific process for specifying the total amount of products picked up by the user using an image captured by an imaging means that images the inside of the store, and a specific process.
When the total amount of money specified in the specific step exceeds the balance indicated by the balance information acquired in the acquisition step, it has an output step of outputting information for making the user recognize that fact. A characteristic control method for information processing equipment.
コンピュータを、請求項1乃至7のいずれか1項に記載の情報処理装置の各手段として機能させるためのプログラム。 A program for making a computer function as each means of the information processing apparatus according to any one of claims 1 to 7.
JP2020114212A 2020-07-01 2020-07-01 Information processing device, method for controlling information processing device, and program Pending JP2022012399A (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2020114212A JP2022012399A (en) 2020-07-01 2020-07-01 Information processing device, method for controlling information processing device, and program
US17/359,177 US20220005009A1 (en) 2020-07-01 2021-06-25 Apparatus, method for controlling the same, and storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020114212A JP2022012399A (en) 2020-07-01 2020-07-01 Information processing device, method for controlling information processing device, and program

Publications (1)

Publication Number Publication Date
JP2022012399A true JP2022012399A (en) 2022-01-17

Family

ID=79167166

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020114212A Pending JP2022012399A (en) 2020-07-01 2020-07-01 Information processing device, method for controlling information processing device, and program

Country Status (2)

Country Link
US (1) US20220005009A1 (en)
JP (1) JP2022012399A (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7113151B1 (en) * 2022-01-25 2022-08-04 Kddi株式会社 Information processing device and information processing method

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10679274B2 (en) * 2016-09-16 2020-06-09 Conduent Business Services, Llc Method and system for data processing to recommend list of physical stores in real-time
US20180182025A1 (en) * 2016-12-22 2018-06-28 Capital One Services, Llc Systems and methods for visualizing in-budget products and services
US20190244161A1 (en) * 2018-02-02 2019-08-08 Microsoft Technology Licensing, Llc Inventory control
US20210319420A1 (en) * 2020-04-12 2021-10-14 Shenzhen Malong Technologies Co., Ltd. Retail system and methods with visual object tracking

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7113151B1 (en) * 2022-01-25 2022-08-04 Kddi株式会社 Information processing device and information processing method

Also Published As

Publication number Publication date
US20220005009A1 (en) 2022-01-06

Similar Documents

Publication Publication Date Title
JP7130355B2 (en) Check device and check program
JP7038543B2 (en) Information processing equipment, systems, control methods for information processing equipment, and programs
CN102456123B (en) Commodity information reading apparatus
JP6261197B2 (en) Display control apparatus, display control method, and program
JP2005115504A (en) Image retrieval system and image database
WO2014020794A1 (en) Information processing device, and screen setting method
WO2020170854A1 (en) Self-pos system, self-pos terminal device, control method, and non-transitory computer-readable medium having control program stored thereon
JP7140223B2 (en) Payment processor, method and program
JP2010140287A (en) Purchase action analysis device, method and computer program
JP7367168B2 (en) Product data processing system and its program
JP4209413B2 (en) Customer trend collection system and customer trend collection program
JP6557702B2 (en) Customer analysis system
JP6520218B2 (en) INFORMATION PROCESSING APPARATUS AND INFORMATION PROCESSING PROGRAM
JP2008021226A (en) Sales data processing device and program
JP2022012399A (en) Information processing device, method for controlling information processing device, and program
JP6112156B2 (en) Behavior analysis apparatus and behavior analysis program
CN104835269A (en) Reading apparatus and checkout system
JP2011076222A (en) Merchandise information presentation system
JP2021179910A (en) Image processing device, control method for image processing device, system, and program
US20170083891A1 (en) Information processing apparatus and information processing method
JP2022110707A (en) Monitoring device, monitoring system, and monitoring method
TW201108135A (en) Visual security for point of sale terminals
JP2016024601A (en) Information processing apparatus, information processing system, information processing method, commodity recommendation method, and program
WO2023032000A1 (en) Processing device, processing method, and program
JP2019168818A (en) Merchandise information acquisition device, merchandise information acquisition method, and program

Legal Events

Date Code Title Description
RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20200731