JP2020074082A - Commodity registration device, program, and control method - Google Patents

Commodity registration device, program, and control method Download PDF

Info

Publication number
JP2020074082A
JP2020074082A JP2019187702A JP2019187702A JP2020074082A JP 2020074082 A JP2020074082 A JP 2020074082A JP 2019187702 A JP2019187702 A JP 2019187702A JP 2019187702 A JP2019187702 A JP 2019187702A JP 2020074082 A JP2020074082 A JP 2020074082A
Authority
JP
Japan
Prior art keywords
product
unit
detection
recognition
target area
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2019187702A
Other languages
Japanese (ja)
Inventor
和記 土持
Kazunori Tsuchimochi
和記 土持
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Priority to JP2019187702A priority Critical patent/JP2020074082A/en
Publication of JP2020074082A publication Critical patent/JP2020074082A/en
Priority to JP2020219020A priority patent/JP7444454B2/en
Pending legal-status Critical Current

Links

Images

Abstract

To provide a technology that can check if commodities are recognized by a device that registers commodities to be purchased.SOLUTION: A commodity registration device 2000 comprises a recognition part 2020, imaging part 2040, detection part 2060, and determination part 2080. The recognition part 2020 recognizes commodities. The imaging part 2040 photographs a movement of a customer to create a customer image. The detection part 2060 detects that the commodities are arranged in a detection target area by using the customer image. The detection target area is a space including an area where commodities are recognized by the recognition part 2020. When the commodities are detected to be arranged in the detection target area, the determination part 2080 determines whether the commodities are recognized by the recognition part 2020.SELECTED DRAWING: Figure 1

Description

本発明は、商品登録装置、プログラム、及び制御方法に関する。   The present invention relates to a product registration device, a program, and a control method.

スーパーマーケット等の店舗において、顧客が自分で操作するレジ端末が運用され始めている。顧客は、購入する商品に付されているバーコードなどをレジ端末に読み取らせることで、購入する商品の登録を行う。その後、顧客は、画面に表示される代金をレジ端末に投入することで、登録した商品を購入する。   In stores such as supermarkets, cashier terminals operated by customers themselves are beginning to be used. The customer registers the product for purchase by causing the cashier terminal to read the barcode attached to the product for purchase. After that, the customer purchases the registered merchandise by inserting the price displayed on the screen into the cashier terminal.

このようなレジ端末に関連する技術を開示する文献として、特許文献１がある。特許文献１は、商品のスキャンが行われたことを確認する発明を開示している。具体的には特許文献１の発明は、（１）買い物かごから商品が取り出されたこと、及び（２）収納袋に商品が納められたことを検出する。そしてこの発明は、（１）と（２）の間に商品がスキャンされなかった場合に、エラー警告を報知する。   Patent Document 1 is a document disclosing a technique related to such a cashier terminal. Patent Document 1 discloses an invention for confirming that a product has been scanned. Specifically, the invention of Patent Document 1 detects (1) that a product has been taken out of a shopping cart, and (2) that the product has been placed in a storage bag. Then, the present invention issues an error warning when the product is not scanned between (1) and (2).

特開２０１１−５４０３８号公報JP, 2011-54038, A

顧客が自分で操作するレジ端末において、商品の登録が正しく行われない場合がある。例えば、顧客がレジ端末のバーコードリーダに商品をかざしたものの、バーコードリーダなどの動作不良により、商品の登録が行われないことがある。複数の商品を購入する際に一部の商品が誤って登録されなかった場合、顧客は、一部の商品が登録されていないことに気づかない可能性がある。その結果、顧客が意図せず商品を不正に持ち出すことになってしまい、顧客と店舗との間のトラブルにつながるおそれがある。   In some cases, the customer does not properly register the product at the cashier terminal operated by the customer. For example, although a customer holds a product over a bar code reader of a cashier terminal, the product may not be registered due to a malfunction of the bar code reader or the like. If some products are not accidentally registered when purchasing multiple products, the customer may not be aware that some products are not registered. As a result, the customer may unintentionally take out the product illegally, which may lead to a trouble between the customer and the store.

ここで、前述の特許文献１の技術は、買い物かご及びレジ袋の使用を前提としている。そのため、特許文献１の発明は、買い物かごや収納袋が用意されていない小規模な店舗では利用できない。また一般に、顧客は、購入する商品の数が少ない場合、買い物かごや収納袋を利用しないことが多い。このような場合、特許文献１の発明は利用できない。   Here, the technique of Patent Document 1 described above is premised on the use of a shopping basket and a shopping bag. Therefore, the invention of Patent Document 1 cannot be used in a small-scale store where a shopping basket or a storage bag is not prepared. In general, customers often do not use a shopping basket or a storage bag when the number of products to be purchased is small. In such a case, the invention of Patent Document 1 cannot be used.

本発明は、上記の課題に鑑みてなされたものである。本発明の目的は、購入する商品を登録する装置において、商品が認識されたことを確認できる技術を提供することである。   The present invention has been made in view of the above problems. An object of the present invention is to provide a technique capable of confirming that a product has been recognized in a device that registers a product to be purchased.

本発明の商品登録装置は、商品を認識する認識手段と、顧客の動作を撮像して画像を生成する撮像手段と、前記撮像手段によって生成された画像を用いて、前記認識手段によって商品が認識されるエリアである認識エリアと異なるエリアを含む検出対象エリア内の商品を検出する検出手段と、前記検出手段の検出結果をトリガとして、商品が前記認識手段によって認識されたか否かを判定する判定処理を行う判定手段と、を有する。   The product registration device of the present invention uses a recognition unit for recognizing a product, an imaging unit for imaging a customer's action to generate an image, and an image generated by the imaging unit for recognizing a product by the recognition unit. Detection means for detecting a product in a detection target area including an area different from the recognition area, which is an area to be recognized, and a determination for determining whether or not the product is recognized by the recognition means, using the detection result of the detection means as a trigger. Determination means for performing processing.

本発明のプログラムは、コンピュータを、本発明の商品登録装置として動作させる。   The program of the present invention causes a computer to operate as the product registration apparatus of the present invention.

本発明の制御方法は、コンピュータによって実行される。当該制御方法は、商品を認識する認識ステップと、顧客の動作を撮像して画像を生成する撮像ステップと、前記撮像ステップによって生成された画像を用いて、前記認識ステップによって商品が認識されるエリアである認識エリアと異なるエリアを含む検出対象エリア内の商品を検出する検出ステップと、前記検出ステップにおける検出結果をトリガとして、商品が前記認識ステップによって認識されたか否かを判定する判定処理を行う判定ステップと、を有する。   The control method of the present invention is executed by a computer. The control method includes a recognition step of recognizing a product, an imaging step of imaging a customer's action to generate an image, and an area where the product is recognized by the recognition step using the image generated by the imaging step. And a detection step of detecting a product in a detection target area including an area different from the recognition area, and a determination process of determining whether or not the product is recognized by the recognition step, using the detection result in the detection step as a trigger. And a determining step.

購入する商品を登録する装置において、商品が認識されたことを確認できる技術が提供される。   A technique for confirming that a product has been recognized is provided in a device that registers a product to be purchased.

実施形態１に係る商品登録装置を例示するブロック図である。FIG. 3 is a block diagram illustrating a product registration device according to the first embodiment. 商品登録装置を具体的に例示する図である。It is a figure which illustrates a goods registration device concretely. 商品登録装置を正面から見た図である。It is the figure which looked at the goods registration device from the front. 実施形態１の商品登録装置によって実行される処理の流れを例示するフローチャートである。6 is a flowchart illustrating a flow of processing executed by the product registration device according to the first embodiment. 商品登録装置の実装に用いられる計算機のハードウエア構成を例示するブロック図である。It is a block diagram which illustrates the hardware constitutions of the computer used for mounting of a goods registration device. 実施形態２に係る商品登録装置を例示するブロック図である。It is a block diagram which illustrates the goods registration device concerning Embodiment 2. 実施形態２の商品登録装置によって実行される処理の流れを例示するフローチャートである。9 is a flowchart illustrating the flow of processing executed by the product registration device according to the second embodiment. ２つの商品が認識部に認識される様子を例示する第１の図である。It is a 1st figure which illustrates a mode that two recognition products recognize by a recognition part. ２つ商品のうち、１つの商品が認識エリア８０を通過しない様子を例示する図である。It is a figure which illustrates a mode that one product of two products does not pass recognition area 80. ２つの商品が認識部に認識される様子を例示する第２の図である。It is a 2nd figure which illustrates a mode that two recognition products are recognized by the recognition part. 実施形態３の商品登録装置によって実行される処理の流れを例示するフローチャートである。9 is a flowchart illustrating the flow of processing executed by the product registration device according to the third embodiment. 実施形態４の商品登録装置によって実行される処理の流れを例示するフローチャートである。9 is a flowchart illustrating the flow of processing executed by the product registration device according to the fourth embodiment.

以下、本発明の実施の形態について、図面を用いて説明する。尚、すべての図面において、同様な構成要素には同様の符号を付し、適宜説明を省略する。   Embodiments of the present invention will be described below with reference to the drawings. In all the drawings, the same reference numerals are given to the same components, and the description thereof will be omitted as appropriate.

［実施形態１］
図１は、実施形態１に係る商品登録装置２０００を例示するブロック図である。図１において、各ブロックは、ハードウエア単位の構成ではなく、機能単位の構成を表している。 [Embodiment 1]
FIG. 1 is a block diagram illustrating a product registration device 2000 according to the first embodiment. In FIG. 1, each block does not represent a hardware-based configuration but a functional-based configuration.

商品登録装置２０００は、認識部２０２０、撮像部２０４０、検出部２０６０、及び判定部２０８０を有する。認識部２０２０は商品を認識する。撮像部２０４０は顧客の動作を撮像して画像を生成する。以下、撮像部２０４０によって生成される画像を、顧客画像と表記する。検出部２０６０は、顧客画像を用いて、検出対象エリアの中に商品が配置されたことを検出する。検出対象エリアは、認識部２０２０によって商品が認識されるエリア（以下、認識エリア）を含む空間である。判定部２０８０は、検出対象エリアの中に商品が配置されたことが検出された場合に、商品が認識部２０２０によって認識されたか否かを判定する。   The product registration device 2000 has a recognition unit 2020, an imaging unit 2040, a detection unit 2060, and a determination unit 2080. The recognition unit 2020 recognizes the product. The image capturing unit 2040 captures the movement of the customer and generates an image. Hereinafter, the image generated by the imaging unit 2040 will be referred to as a customer image. The detection unit 2060 detects that the product is placed in the detection target area using the customer image. The detection target area is a space including an area in which the recognition unit 2020 recognizes a product (hereinafter, a recognition area). The determination unit 2080 determines whether the product is recognized by the recognition unit 2020 when it is detected that the product is placed in the detection target area.

図２は、商品登録装置２０００を具体的に例示する図である。カメラ１０は撮像部２０４０の一形態であるカメラである。筐体２０は、リーダ４０の筐体である。リーダ４０は、認識部２０２０の一形態であるバーコードリーダである。リーダ４０は、商品５０に付されているバーコードを読み取ることで、商品５０を認識する。リーダ４０によって認識された商品は、精算対象の商品として登録される。台６０は、商品や商品かごを置くための台である。なお、カメラ１０は、筐体２０の中に収められていてもよい。   FIG. 2 is a diagram specifically illustrating the product registration device 2000. The camera 10 is a camera that is one form of the imaging unit 2040. The case 20 is the case of the reader 40. The reader 40 is a barcode reader which is one form of the recognition unit 2020. The reader 40 recognizes the product 50 by reading the barcode attached to the product 50. The product recognized by the reader 40 is registered as a product to be paid for. The platform 60 is a platform for placing products and product baskets. The camera 10 may be housed in the housing 20.

図３は、商品登録装置２０００を正面から見た図である。検出対象エリア７０は、前述の検出対象エリアを表す。認識エリア８０は、リーダ４０が商品を認識できる（バーコードを読み取ることができる）空間を表す。前述した通り、検出対象エリア７０は認識エリア８０を含む。例えば検出対象エリア７０は、図３のように、正面から見た場合に筐体２０を全て含む。   FIG. 3 is a front view of the product registration device 2000. The detection target area 70 represents the above-mentioned detection target area. The recognition area 80 represents a space in which the reader 40 can recognize a product (a barcode can be read). As described above, the detection target area 70 includes the recognition area 80. For example, the detection target area 70 includes all the housings 20 when viewed from the front, as shown in FIG.

検出部２０６０は、カメラ１０によって生成される顧客画像を利用して、商品５０が検出対象エリア７０の中に配置されたことを検出する。判定部２０８０は、この検出が行われた場合に、商品５０が認識されたか否か（商品５０のバーコードが読み取られたか否か）を判定する。   The detection unit 2060 uses the customer image generated by the camera 10 to detect that the product 50 is placed in the detection target area 70. The determination unit 2080 determines whether or not the product 50 is recognized (whether or not the barcode of the product 50 is read) when this detection is performed.

なお、後述するように、認識部２０２０が商品を認識する方法は、商品に付されたバーコードを読み取る方法に限定されない。   As will be described later, the method by which the recognition unit 2020 recognizes the product is not limited to the method of reading the barcode attached to the product.

＜作用・効果＞
顧客の操作ミスなどにより、商品が認識部２０２０の認識エリアの外を通過してしまうと、認識部２０２０によって商品認識されない。また、認識部２０２０の動作エラーなどにより、商品が認識部２０２０に認識されないこともある。これらの場合、顧客は、商品が認識されなかった商品の代金を支払わないこととなってしまい、顧客と店舗との間でトラブルが生じてしまう恐れがある。 <Action / effect>
When the product passes outside the recognition area of the recognition unit 2020 due to a customer's operation error or the like, the recognition unit 2020 does not recognize the product. Further, the product may not be recognized by the recognition unit 2020 due to an operation error of the recognition unit 2020. In these cases, the customer will not pay the price of the product for which the product is not recognized, which may cause a trouble between the customer and the store.

そこで、本実施形態の商品登録装置２０００は、認識部２０２０の認識エリアを含む検出対象エリアの中に商品が配置されたことを検出する。こうすることで、商品が認識部２０２０の認識エリア及びその付近を通過したことを検出することができる。   Therefore, the product registration device 2000 of the present embodiment detects that the product is placed in the detection target area including the recognition area of the recognition unit 2020. By doing so, it is possible to detect that the product has passed the recognition area of the recognition unit 2020 and the vicinity thereof.

さらに、商品登録装置２０００は、検出対象エリアの中に商品が配置されたことを検出した後に、認識部２０２０によって商品が認識されたか否かを判定する。認識部２０２０によって商品が認識されなかった場合、商品が認識部２０２０の認識エリア又はその付近を通過したにも関わらず、商品が認識されていないことになる。そのため、この場合には、前述した顧客の操作ミスや認識部２０２０の動作エラーが起こった可能性がある。   Further, the product registration device 2000 determines whether or not the recognition unit 2020 recognizes the product after detecting that the product is placed in the detection target area. If the recognition unit 2020 does not recognize the product, it means that the product has not been recognized even though the product has passed through the recognition area of the recognition unit 2020 or the vicinity thereof. Therefore, in this case, there is a possibility that the customer's operation error or the operation error of the recognition unit 2020 described above occurs.

本実施形態の商品登録装置２０００によれば、このように顧客の操作ミスや認識部２０２０の動作エラーなどが起こった可能性がある状況を把握することができる。そのため、顧客と店員との間でトラブルが生じたりすることを防ぐことができる。   According to the product registration device 2000 of the present embodiment, it is possible to grasp the situation in which there is a possibility that a customer operation error, an operation error of the recognition unit 2020, or the like has occurred. Therefore, it is possible to prevent a trouble from occurring between the customer and the store clerk.

さらに、本実施形態の商品登録装置２０００によれば、検出対象エリアに商品が配置されたことの検出に応じて、商品が認識されたか否かの判定が行われるため、買い物かごや収納袋が利用されない状況においても、商品が商品登録装置２０００によって認識されたか否かの確認が可能である。   Further, according to the product registration device 2000 of the present embodiment, it is determined whether or not the product is recognized in accordance with the detection that the product is placed in the detection target area. Therefore, the shopping cart or the storage bag is used. Even in a situation where the product is not registered, it is possible to confirm whether or not the product has been recognized by the product registration device 2000.

以下、本実施形態の商品登録装置２０００について、さらに詳細に説明する。   Hereinafter, the product registration device 2000 of this embodiment will be described in more detail.

＜処理の流れ＞
図４は、実施形態１の商品登録装置２０００によって実行される処理の流れを例示するフローチャートである。撮像部２０４０は、顧客の動作を撮像して顧客画像を生成する（Ｓ１０２）。検出部２０６０は、顧客画像を用いて、商品が検出対象エリア内に配置されたか否かを判定する（Ｓ１０４）。商品が検出対象エリア内に配置されていない場合（Ｓ１０６：ＮＯ）、図４の処理はＳ１０２に戻る。一方、商品が検出対象エリア内に配置された場合（Ｓ１０６：ＹＥＳ）、図４の処理はＳ１０８に進む。 <Process flow>
FIG. 4 is a flowchart illustrating the flow of processing executed by the product registration device 2000 according to the first embodiment. The image capturing unit 2040 captures a customer's action to generate a customer image (S102). The detection unit 2060 determines whether or not the product is placed in the detection target area using the customer image (S104). When the product is not placed in the detection target area (S106: NO), the process of FIG. 4 returns to S102. On the other hand, when the product is placed in the detection target area (S106: YES), the process of FIG. 4 proceeds to S108.

Ｓ１０８において、判定部２０８０は、商品が認識部２０２０によって認識されたか否かを判定する。   In S108, the determination unit 2080 determines whether the product is recognized by the recognition unit 2020.

＜ハードウエア構成例＞
商品登録装置２０００は、ハードウエア（例：ハードワイヤードされた電子回路など）のみで実現されてもよいし、ハードウエアとソフトウエアとの組み合わせ（例：電子回路とそれを制御するプログラムの組み合わせなど）で実現されてもよい。 <Example of hardware configuration>
The merchandise registration device 2000 may be realized only by hardware (eg, hard-wired electronic circuit, etc.), or a combination of hardware and software (eg, combination of electronic circuit and program for controlling the same). ) May be realized.

商品登録装置２０００は、例えばレジ端末などの専用端末を用いて実装される。ただし商品登録装置２０００は、このような専用端末ではなく、PC（Personal Computer）やサーバマシンなどの種々の汎用計算機を用いて実装されてもよい。   The product registration device 2000 is implemented by using a dedicated terminal such as a cashier terminal. However, the merchandise registration device 2000 may be implemented using various general-purpose computers such as a PC (Personal Computer) and a server machine, instead of such a dedicated terminal.

図５は、商品登録装置２０００の実装に用いられる計算機１０００のハードウエア構成を例示するブロック図である。計算機１０００は、バス１０２０、プロセッサ１０４０、メモリ１０６０、ストレージ１０８０、及び入出力インタフェース１１００を有する。バス１０２０は、プロセッサ１０４０、メモリ１０６０、ストレージ１０８０、及び入出力インタフェース１１００が、相互にデータを送受信するためのデータ伝送路である。ただし、プロセッサ１０４０などを互いに接続する方法は、バス接続に限定されない。プロセッサ１０４０は、例えば CPU (Central Processing Unit) や GPU (Graphics Processing Unit) などの演算処理装置である。メモリ１０６０は、例えば RAM (Random Access Memory) や ROM (Read Only Memory) などのメモリである。ストレージ１０８０は、例えばハードディスク、SSD (Solid State Drive)、又はメモリカードなどの記憶装置である。また、ストレージ１０８０は、RAM や ROM 等のメモリであってもよい。   FIG. 5 is a block diagram illustrating the hardware configuration of the computer 1000 used to implement the product registration apparatus 2000. The computer 1000 has a bus 1020, a processor 1040, a memory 1060, a storage 1080, and an input / output interface 1100. The bus 1020 is a data transmission path for the processor 1040, the memory 1060, the storage 1080, and the input / output interface 1100 to exchange data with each other. However, the method of connecting the processors 1040 and the like to each other is not limited to bus connection. The processor 1040 is an arithmetic processing device such as a CPU (Central Processing Unit) or a GPU (Graphics Processing Unit). The memory 1060 is a memory such as a RAM (Random Access Memory) or a ROM (Read Only Memory). The storage 1080 is a storage device such as a hard disk, an SSD (Solid State Drive), or a memory card. Further, the storage 1080 may be a memory such as a RAM or a ROM.

入出力インタフェース１１００は、計算機１０００と入出力デバイスとを接続するためのインタフェースである。計算機１０００は、入出力インタフェース１１００を介して、カメラ１０及びリーダ４０と接続されている。カメラ１０は、撮像部２０４０を実装するための撮像素子を有するカメラである。また、リーダ４０は、認識部２０２０を実装するためのリーダである。ただし、後述するように、認識部２０２０はカメラを用いて実装される場合もある。なお、カメラ１０やリーダ４０は、計算機１０００の内部に組み込まれていてもよい。また、計算機１０００は、入出力インタフェース１１００を介して、キーボード、マウス、又はディスプレイなどの入出力デバイスとさらに接続されていてもよい。   The input / output interface 1100 is an interface for connecting the computer 1000 and an input / output device. The computer 1000 is connected to the camera 10 and the reader 40 via the input / output interface 1100. The camera 10 is a camera having an image pickup device for mounting the image pickup unit 2040. The reader 40 is a reader for mounting the recognition unit 2020. However, as will be described later, the recognition unit 2020 may be mounted using a camera. The camera 10 and the reader 40 may be incorporated in the computer 1000. The computer 1000 may be further connected to an input / output device such as a keyboard, a mouse, or a display via the input / output interface 1100.

ストレージ１０８０は、商品登録装置２０００の機能を実現するためのプログラムを記憶している。具体的には、ストレージ１０８０は、検出部２０６０及び判定部２０８０の機能を実現するプログラムモジュールを記憶している。また、ストレージ１０８０は、カメラ１０やリーダ４０を制御するためのプログラムモジュールを含んでいてもよい。プロセッサ１０４０は、これら各プログラムモジュールを実行することで、各機能構成部の機能を実現する。ここでプロセッサ１０４０は、上記各モジュールを実行する際、これらのモジュールをメモリ１０６０上に読み出してから実行してもよいし、メモリ１０６０上に読み出さずに実行してもよい。   The storage 1080 stores a program for realizing the function of the product registration device 2000. Specifically, the storage 1080 stores a program module that realizes the functions of the detection unit 2060 and the determination unit 2080. Further, the storage 1080 may include a program module for controlling the camera 10 and the reader 40. The processor 1040 implements the function of each functional component by executing each of these program modules. Here, when executing the above-mentioned modules, the processor 1040 may execute these modules after reading them on the memory 1060, or may execute them without reading them on the memory 1060.

計算機１０００のハードウエア構成は図５に示した構成に限定されない。例えば、各プログラムモジュールはメモリ１０６０に格納されてもよい。この場合、計算機１０００は、ストレージ１０８０を備えていなくてもよい。   The hardware configuration of the computer 1000 is not limited to the configuration shown in FIG. For example, each program module may be stored in memory 1060. In this case, the computer 1000 does not have to include the storage 1080.

＜認識部２０２０の詳細＞
認識部２０２０の具体的な実装方法は、認識部２０２０が商品を認識する方法によって異なる。例えば認識部２０２０は、商品に付された商品情報シンボルを読み取ることで、その商品を認識する。商品情報シンボルは、商品に関する情報を特定するシンボルである。ここで、シンボルとは、バーコード、２次元コード（ＱＲコード（登録商標）など）、又は文字列シンボルなどである。なお、ここでいう文字列には、数値列も含まれる。そして、商品情報シンボルは、商品情報を特定する情報（商品情報のＩＤなど）が符号化されたバーコード等、又は商品情報を特定する情報を表す文字列シンボルなどである。 <Details of the recognition unit 2020>
The specific mounting method of the recognition unit 2020 differs depending on the method by which the recognition unit 2020 recognizes the product. For example, the recognition unit 2020 recognizes the product by reading the product information symbol attached to the product. The product information symbol is a symbol that specifies information about a product. Here, the symbol is a barcode, a two-dimensional code (QR code (registered trademark) or the like), a character string symbol, or the like. The character string referred to here also includes a numerical value string. The product information symbol is a barcode or the like in which information identifying product information (such as an ID of product information) is encoded, or a character string symbol representing information identifying product information.

商品情報シンボルを読み取る認識部２０２０の具体的な実装方法は、商品情報シンボルとして何を用いるかによって異なる。例えば商品情報シンボルがバーコードである場合、認識部２０２０はバーコードリーダを有する。また例えば、商品情報シンボルが２次元コードである場合、認識部２０２０は、２次元コードリーダを有する。また例えば、商品情報シンボルが文字列シンボルである場合、認識部２０２０は、この文字列を撮像する撮像素子と、撮像された文字列シンボルを解析して商品のＩＤなどを割り出す処理部とを有する。なお、文字列シンボルの解析には、文字列解析に関する様々な既知の技術を用いることができる。これら既知の技術に関する説明は省略する。   The specific mounting method of the recognition unit 2020 that reads the product information symbol differs depending on what is used as the product information symbol. For example, when the product information symbol is a barcode, the recognition unit 2020 has a barcode reader. Further, for example, when the product information symbol is a two-dimensional code, the recognition unit 2020 has a two-dimensional code reader. Further, for example, when the product information symbol is a character string symbol, the recognition unit 2020 includes an image sensor that captures the character string, and a processing unit that analyzes the captured character string symbol to determine the product ID and the like. .. Note that various known techniques related to character string analysis can be used for analyzing character string symbols. A description of these known techniques will be omitted.

なお、商品情報シンボルとして複数の種類のシンボルが用いられる場合、認識部２０２０は、これら複数の種類のシンボルそれぞれを読み取るためのリーダ等を有する。例えば、商品情報シンボルとしてバーコード及び２次元コードが用いられる場合、認識部２０２０は、バーコードリーダ及び２次元コードリーダを有する。   When a plurality of types of symbols are used as the product information symbols, the recognition unit 2020 has a reader or the like for reading each of the plurality of types of symbols. For example, when a barcode and a two-dimensional code are used as the product information symbol, the recognition unit 2020 has a barcode reader and a two-dimensional code reader.

認識部２０２０は、商品を撮像して商品の画像を生成し、その画像に対してオブジェクト認識を行うことで、商品を認識してもよい。この場合、認識部２０２０は、商品を撮像して画像を生成する撮像素子を有する。ここで、画像に写っている商品を認識する方法には、オブジェクト認識に関する種々の既知の技術を利用できる。そのため、認識部２０２０が商品の画像から商品を認識する具体的な方法については省略する。   The recognition unit 2020 may recognize the product by capturing an image of the product, generating an image of the product, and performing object recognition on the image. In this case, the recognition unit 2020 has an image sensor that images a product and generates an image. Here, as a method for recognizing a product shown in an image, various known techniques regarding object recognition can be used. Therefore, a specific method for the recognition unit 2020 to recognize the product from the image of the product will be omitted.

＜撮像部２０４０の詳細＞
撮像部２０４０は、顧客の動作を撮像して顧客画像を生成する撮像素子を有する。ここで、撮像部２０４０は、静止画像を撮像してもよいし、動画を撮像してもよい。後者の場合、顧客画像は動画を構成する各フレームである。 <Details of the imaging unit 2040>
The image capturing unit 2040 has an image sensor that captures a customer's action to generate a customer image. Here, the image capturing unit 2040 may capture a still image or a moving image. In the latter case, the customer image is each frame forming a moving image.

撮像部２０４０が撮像を行うタイミングは様々である。例えば撮像部２０４０は、繰り返し撮像を行ってもよい。撮像部２０４０が繰り返し撮像を行う頻度は、例えば一般的な動画のフレームレートと同じ 1/30 秒である。   There are various timings at which the image capturing unit 2040 captures an image. For example, the image capturing unit 2040 may repeatedly capture images. The frequency at which the image capturing unit 2040 repeatedly captures images is 1/30 seconds, which is the same as the frame rate of a general moving image, for example.

また例えば撮像部２０４０は、顧客の動作が行われるタイミング及びその前後のみ撮像を行ってもよい。例えば認識部２０２０の付近に人の検出を行う赤外線センサなどを設ける。撮像部２０４０は、この赤外線センサからの通知を受けることで、認識部２０２０の付近に顧客がいることを把握することができる。そこで例えば、撮像部２０４０は、この赤外線センサによって認識部２０２０の付近に顧客がいることが検出された時から、この赤外線センサによって顧客が検出されなくなるまでの間、撮像を行う。   Further, for example, the image capturing unit 2040 may capture images only at the timing when the customer's operation is performed and before and after the timing. For example, an infrared sensor for detecting a person is provided near the recognition unit 2020. By receiving the notification from the infrared sensor, the imaging unit 2040 can recognize that there is a customer near the recognition unit 2020. Therefore, for example, the imaging unit 2040 performs imaging from the time when the infrared sensor detects that a customer is near the recognition unit 2020 until the customer is no longer detected by the infrared sensor.

ここで、認識部２０２０が、撮像素子を用いて構成されているとする。例えば、前述した２次元コードリーダは、２次元コードを撮像する撮像素子を含む。また、認識部２０２０がオブジェクト認識を行う場合も、認識部２０２０は撮像素子を有する。このとき、撮像部２０４０の撮像素子の解像度は、認識部２０２０の撮像素子の解像度よりも低くてよい。これは、２次元コードなどの商品情報シンボルを検出したり、オブジェクト認識によって商品を認識したりするために必要となる画像の解像度に比べ、検出対象エリア内に商品があるか否かの検出に必要となる画像の解像度の方が小さいためである。このように撮像部２０４０の撮像素子の解像度を低くすることで、商品登録装置２０００の製造コストを安くすることができる。ただし、撮像部２０４０の撮像素子の解像度は、認識部２０２０の撮像素子の解像度以上であってもよい。   Here, it is assumed that the recognition unit 2020 is configured using an image sensor. For example, the above-described two-dimensional code reader includes an image pickup device that picks up an image of a two-dimensional code. Also, when the recognition unit 2020 performs object recognition, the recognition unit 2020 has an image sensor. At this time, the resolution of the image sensor of the image capturing unit 2040 may be lower than the resolution of the image sensor of the recognizing unit 2020. This is for detecting whether or not there is a product in the detection target area compared to the resolution of the image necessary for detecting the product information symbol such as a two-dimensional code or recognizing the product by object recognition. This is because the required image resolution is smaller. By lowering the resolution of the image sensor of the image capturing unit 2040 in this way, the manufacturing cost of the product registration device 2000 can be reduced. However, the resolution of the image pickup device of the image pickup unit 2040 may be equal to or higher than the resolution of the image pickup device of the recognition unit 2020.

また、認識部２０２０が商品を撮像して商品を認識する場合、認識部２０２０は、撮像部２０４０と一体に設けられてもよい。例えばこの場合、認識部２０２０と撮像部２０４０は、１つのカメラなどを用いて実装される。また、認識部２０２０と撮像部２０４０とを別々のカメラなどで実装し、これらを同じ筐体に収めてもよい。   When the recognition unit 2020 images a product and recognizes the product, the recognition unit 2020 may be provided integrally with the imaging unit 2040. For example, in this case, the recognition unit 2020 and the imaging unit 2040 are mounted using one camera or the like. Further, the recognition unit 2020 and the image pickup unit 2040 may be mounted by different cameras or the like, and these may be housed in the same housing.

＜検出部２０６０の詳細＞
検出部２０６０は、顧客画像の解析を行う（図４のＳ１０４）。具体的には、検出部２０６０は、顧客画像を解析することで、商品が検出対象エリア内に配置されたことを検出する処理（以下、検出処理）を行う。 <Details of detection unit 2060>
The detection unit 2060 analyzes the customer image (S104 in FIG. 4). Specifically, the detection unit 2060 performs processing (hereinafter, detection processing) for detecting that the product is placed in the detection target area by analyzing the customer image.

＜＜検出処理の詳細＞＞
検出対象エリアは、例えば撮像部２０４０の撮像範囲である。この場合、検出対象エリアは、顧客画像に写っている範囲全部となる。そこで検出部２０６０は、顧客画像に商品が写っている場合、商品が検出対象エリア内に配置されたと判断する。なお、画像内に商品が写っているか否かの判断には、画像から所定のオブジェクトを検出する様々な既知の技術を利用できる。これら既知の技術に関する説明は省略する。 << Details of detection processing >>
The detection target area is, for example, the imaging range of the imaging unit 2040. In this case, the detection target area is the entire range shown in the customer image. Therefore, the detection unit 2060 determines that the product is placed in the detection target area when the product is shown in the customer image. Note that various known techniques for detecting a predetermined object from an image can be used to determine whether or not a product is shown in the image. A description of these known techniques will be omitted.

検出対象エリアは、撮像部２０４０の撮像範囲の一部であってもよい。例えば、撮像部２０４０が撮像のために有するレンズが、広角レンズのように、中心から離れるほど画像に映る景色がゆがむレンズであるとする。この場合、中心から大きく離れた範囲に写っている物は大きくゆがむため、その物が商品であるか否かを判別することが難しい。そこでこのような場合などにおいて、検出対象エリアは、顧客画像の中心から所定範囲に限定されてもよい。検出部２０６０は、顧客画像の内、この所定範囲内の部分について解析を行うことで、その所定範囲内に商品が写っているか否かを判別する。そして、撮像部２０４０は、この所定範囲内に商品が写っている場合、商品が検出対象エリア内に配置されたと判断する。   The detection target area may be a part of the imaging range of the imaging unit 2040. For example, it is assumed that the lens that the image capturing unit 2040 has for capturing an image, like a wide-angle lens, is a lens that distorts the scenery that appears in the image as it moves away from the center. In this case, since an object reflected in a range far from the center is greatly distorted, it is difficult to determine whether or not the object is a product. Therefore, in such a case, the detection target area may be limited to a predetermined range from the center of the customer image. The detection unit 2060 determines whether or not the product appears in the predetermined range by analyzing the portion within the predetermined range of the customer image. Then, the imaging unit 2040 determines that the product is placed in the detection target area when the product is included in the predetermined range.

「検出対象エリアをどのような範囲にするか」に関する設定は、予め検出部２０６０に設定されていてもよいし、商品登録装置２０００の内部又は外部に設けられている記憶部に記憶されていてもよい。後者の場合、検出部２０６０は、この記憶部から上記設定を読み出す。   The setting regarding “what range the detection target area is set to” may be set in the detection unit 2060 in advance, or may be stored in a storage unit provided inside or outside the product registration device 2000. Good. In the latter case, the detection unit 2060 reads the above setting from this storage unit.

撮像部２０４０が繰り返し撮像を行う場合、複数の顧客画像に同じ商品が複数回写ることがある。このよう場合、検出部２０６０は、複数の顧客画像に写った商品が同じ商品であることを把握できる必要がある。さもないと、例えば顧客が認識部２０２０にある商品を認識させる様子が２回撮像された場合に、検出部２０６０は、「検出対象エリアに商品が配置された」という検出を２回行ってしまう。   When the image capturing unit 2040 repeatedly captures images, the same product may be captured multiple times in multiple customer images. In such a case, the detection unit 2060 needs to be able to recognize that the products shown in a plurality of customer images are the same product. Otherwise, for example, when the situation in which the customer recognizes the product in the recognition unit 2020 is imaged twice, the detection unit 2060 detects twice that "the product has been placed in the detection target area". ..

そこで検出部２０６０は、ある商品が、顧客の一連の動作に基づいて複数の顧客画像に写っている場合、これら複数の顧客画像を一群の顧客画像として扱う。そして、検出部２０６０は、これら一群の顧客画像について、「検出対象に商品が配置された」という検出を１回だけ行う。   Therefore, when a certain product appears in a plurality of customer images based on a series of customer actions, the detection unit 2060 handles the plurality of customer images as a group of customer images. Then, the detection unit 2060 performs the detection “the product has been placed in the detection target” only once for the group of customer images.

顧客の一連の動作は、「商品を認識部２０２０に近づけ、認識部２０２０に認識させ、その商品を認識部２０２０から遠ざける」という一連の動作である。例えばこの動作は、商品が認識部２０２０の前を横切るように商品を移動させる動作などである。なお、この顧客の一連の動作は、顧客の進行方向に商品を横切らせる動作であってもよいし、その逆の方向に商品を横切らせる動作であってもよい。   The series of operations by the customer is a series of operations of “moving the product closer to the recognition unit 2020, causing the recognition unit 2020 to recognize the product, and moving the product away from the recognition unit 2020”. For example, this operation is an operation of moving the product so that the product crosses in front of the recognition unit 2020. The series of operations by the customer may be an operation of traversing the product in the traveling direction of the customer or an operation of traversing the product in the opposite direction.

前述した「一群の顧客画像」について説明する。顧客が商品を認識部２０２０に認識させる際、「ある商品が検出対象エリアに入る」及び「その商品が検出対象エリアから出る」という２つの変化が起こる。そこで、検出部２０６０は、時系列で撮像された複数の顧客画像のうち、ある商品が初めて検出対象エリア内に写っている顧客画像を、一群の顧客画像に含まれる第１顧客画像とする。また、検出部２０６０は、第１顧客画像以降に撮像された顧客画像であり、その商品が最後に検出対象エリアに写っている顧客画像（その商品が初めて検出対象エリア内に写らなくなった顧客画像の１つ前の顧客画像）を、一群の顧客画像に含まれる第２顧客画像とする。そして、検出部２０６０は、第１顧客画像、第２顧客画像、及びこれらの撮像時点の間の時点に撮像された各顧客画像の集合を、一群の顧客画像とする。   The above-mentioned “group of customer images” will be described. When the customer causes the recognition unit 2020 to recognize the product, two changes occur: “a product enters the detection target area” and “the product exits the detection target area”. Therefore, the detection unit 2060 sets, as the first customer image included in the group of customer images, the customer image in which a certain product is first shown in the detection target area among the plurality of customer images captured in time series. In addition, the detection unit 2060 is a customer image captured after the first customer image, and the customer image in which the product is finally captured in the detection target area (the customer image in which the product is no longer captured in the detection target area for the first time). (The customer image immediately before) is the second customer image included in the group of customer images. Then, the detection unit 2060 regards the first customer image, the second customer image, and a set of each customer image captured between these image capturing times as a group of customer images.

検出部２０６０が検出処理を行うタイミングは様々である。例えば検出部２０６０は、顧客画像が生成される度に、その顧客画像を用いて検出処理を行う。この場合、撮像部２０４０によって生成される全ての顧客画像が、検出処理に用いられる。   There are various timings at which the detection unit 2060 performs the detection processing. For example, the detection unit 2060 performs detection processing using the customer image each time the customer image is generated. In this case, all the customer images generated by the imaging unit 2040 are used for the detection process.

また例えば、検出部２０６０は、前述した赤外線センサ等によって、顧客が商品登録装置２０００の付近にいることが検出されてから、顧客がその赤外線センサ等によって検出されなくなるまでの間のみ、検出処理を行ってもよい。この場合、撮像部２０４０によって生成される顧客画像のうち、顧客が商品登録装置２０００の付近にいることが検出されてから、顧客がその赤外線センサ等によって検出されなくなるまでの間に生成された顧客画像のみが、検出処理に用いられる。   In addition, for example, the detection unit 2060 performs the detection processing only after the infrared sensor or the like described above detects that the customer is near the product registration device 2000 until the customer is no longer detected by the infrared sensor or the like. You can go. In this case, in the customer image generated by the image capturing unit 2040, the customer generated from the time when it is detected that the customer is near the product registration device 2000 until the customer is no longer detected by the infrared sensor or the like. Only the image is used in the detection process.

前述したように、検出対象エリアは、認識エリア（認識部２０２０が商品を認識するエリア）を含む領域である必要がある。商品登録装置２０００の管理者等は、この要件が満たされるように、予め認識部２０２０、撮像部２０４０、又は検出部２０６０の設定を行ったり、これらを構成するハードウエアを適宜選択する。   As described above, the detection target area needs to be an area including the recognition area (the area where the recognition unit 2020 recognizes the product). The administrator or the like of the product registration device 2000 sets the recognition unit 2020, the imaging unit 2040, or the detection unit 2060 in advance or appropriately selects the hardware configuring these so that this requirement is satisfied.

例えば、管理者等は、認識部２０２０や撮像部２０４０の設置方向を適切に設定する。具体的には、管理者等は、認識部２０２０を構成するリーダなどの向き、撮像部２０４０を構成するカメラなどの向き、又はこれら双方を適切に設定することで、認識エリアが検出対象エリアに含まれるようにする。   For example, the administrator or the like appropriately sets the installation direction of the recognition unit 2020 and the imaging unit 2040. Specifically, the administrator or the like appropriately sets the orientation of the reader or the like configuring the recognition unit 2020, the orientation of the camera or the like configuring the imaging unit 2040, or both of them, so that the recognition area becomes the detection target area. To be included.

また例えば管理者等は、認識部２０２０を構成するリーダなどが商品情報シンボルを読み取る範囲が、撮像部２０４０を構成するカメラなどの画角より狭くなるように、認識部２０２０と撮像部２０４０の実装に用いるリーダやカメラなどを適宜選択する。   Further, for example, the manager or the like mounts the recognition unit 2020 and the imaging unit 2040 so that the range in which the reader or the like included in the recognition unit 2020 reads the product information symbol is narrower than the angle of view of the camera or the like included in the imaging unit 2040. The reader, camera, etc. used for are properly selected.

また例えば、認識部２０２０が撮像した商品を認識する場合、管理者等は、認識部２０２０が商品を認識するために解析する画像の範囲、検出部２０６０に設定する検出対象エリア、又はこれら双方を適切に設定することで、認識エリアが検出対象エリアに含まれるようにする。   In addition, for example, when the recognition unit 2020 recognizes a product imaged, the administrator or the like determines the range of an image analyzed by the recognition unit 2020 to recognize the product, the detection target area set in the detection unit 2060, or both of them. By properly setting, the recognition area is included in the detection target area.

＜判定部２０８０の詳細＞
判定部２０８０は、認識部２０２０による認識の結果、及び検出部２０６０による検出の結果に基づいて、判定を行う。例えば判定部２０８０は、以下のいずれかの判定処理を行う。 <Details of determination unit 2080>
The determination unit 2080 makes a determination based on the recognition result by the recognition unit 2020 and the detection result by the detection unit 2060. For example, the determination unit 2080 performs one of the following determination processes.

＜＜判定処理１＞＞
判定部２０８０は、検出対象エリア内に商品が配置されたことが検出されてから所定時間以内に、商品が認識部２０２０に認識されたか否かを判定する。判定部２０８０は、上記所定時間以内に商品が認識部２０２０に認識された場合、「検出対象エリア内に商品が配置されたことが検出された後に、商品が認識部２０２０に認識された」と判定する。一方、判定部２０８０は、上記所定時間以内に商品が認識部２０２０に認識されたなかった場合、「検出対象エリア内に商品が配置されたことが検出された場合に、商品が認識部２０２０に認識されなかった」と判定する。なお、上記所定時間は、例えば 0.5 秒である。 << Judgment process 1 >>
The determination unit 2080 determines whether or not the product is recognized by the recognition unit 2020 within a predetermined time after it is detected that the product is placed in the detection target area. When the recognition unit 2020 recognizes the product within the predetermined time, the determination unit 2080 says that “the product is recognized by the recognition unit 2020 after it is detected that the product is placed in the detection target area”. judge. On the other hand, when the product is not recognized by the recognition unit 2020 within the predetermined time, the determination unit 2080 determines that “when the product is detected to be placed in the detection target area, the product is recognized by the recognition unit 2020. It was not recognized. " The predetermined time is 0.5 seconds, for example.

通常、検出対象エリア内に配置された商品は、その後すぐに認識部２０２０によって認識される。そのため、検出対象エリア内に配置されたにも関わらず、0.5 秒などの所定時間が経過しても商品が認識されない場合、前述した顧客の操作ミスや認識部２０２０の動作エラーなどが起こった可能性がある。そこで判定部２０８０は、このような場合に、「商品が認識されなかった」と判定する。   Usually, the product placed in the detection target area is recognized by the recognition unit 2020 immediately after that. Therefore, if the product is not recognized within a predetermined area such as 0.5 seconds despite being placed in the detection target area, the customer's operation error or the operation error of the recognition unit 2020 described above may have occurred. There is a nature. Therefore, the determination unit 2080 determines that “the product has not been recognized” in such a case.

＜＜判定処理２＞＞
また例えば、判定部２０８０は、検出対象エリア内に商品が配置されたことが検出された後から、再度検出対象エリア内に商品が配置されたことが検出される前の期間に、商品が認識部２０２０に認識されなかったか否かを判定する。判定部２０８０は、上記期間に商品が認識された場合、「検出対象エリア内に商品が配置されたことが検出された場合に、商品が認識部２０２０に認識された」と判定する。一方、判定部２０８０は、上記期間に商品が認識されなかった場合、「検出対象エリア内に商品が配置されたことが検出された場合に、商品が認識部２０２０に認識されなかった」と判定する。 << determination process 2 >>
Further, for example, the determination unit 2080 recognizes the product in a period after it is detected that the product is placed in the detection target area and before it is detected that the product is placed in the detection target area again. It is determined whether or not the part 2020 has not been recognized. When the product is recognized in the above period, the determination unit 2080 determines that “the product is recognized by the recognition unit 2020 when it is detected that the product is placed in the detection target area”. On the other hand, when the product is not recognized in the above period, the determination unit 2080 determines that “the product is not recognized by the recognition unit 2020 when it is detected that the product is placed in the detection target area”. To do.

商品を複数購入する場合、例えば顧客は、各商品を順に認識部２０２０に認識させる。そのため、ある商品が検出対象エリア内に配置された場合、その商品が認識部２０２０に認識された後に、次の商品が検出対象エリア内に配置される。よって、ある商品が検出対象エリアに配置された後、次の商品が検出対象エリア内に配置される前に、商品が認識部２０２０に認識されなかった場合、前述した顧客の操作ミスや認識部２０２０の動作エラーなどが起こった可能性がある。そこで、判定部２０８０は、このような場合に、「商品が認識されなかった」と判定する。   When purchasing a plurality of products, for example, the customer causes the recognition unit 2020 to recognize each product in order. Therefore, when a certain product is placed in the detection target area, the next product is placed in the detection target area after the recognition unit 2020 recognizes the product. Therefore, when a product is not recognized by the recognition unit 2020 after a certain product is placed in the detection target area and before the next product is placed in the detection target area, the customer's operation error or recognition unit described above is detected. An operation error or the like of 2020 may have occurred. Therefore, in such a case, the determination unit 2080 determines that “the product has not been recognized”.

＜＜その他＞＞
認識部２０２０によって商品が認識されたことを判定部２０８０が把握する方法は様々である。例えば認識部２０２０は、商品を認識した際、判定部２０８０に対してシグナルを送信する。判定部２０８０は、このシグナルを受け取ることで、商品が認識されたことを把握する。 << Other >>
There are various methods by which the determination unit 2080 recognizes that the product has been recognized by the recognition unit 2020. For example, the recognition unit 2020 transmits a signal to the determination unit 2080 when it recognizes a product. The determination unit 2080 recognizes that the product has been recognized by receiving this signal.

また例えば、認識部２０２０が、商品を認識した際に、認識した情報などを記憶部に記憶するとする。この場合、判定部２０８０は、この記憶部にアクセスし、認識部２０２０によって認識された情報が記憶されているか否かを判定することで、認識部２０２０によって商品が認識されたか否かを判定する。   Further, for example, when the recognition unit 2020 recognizes a product, the recognized information and the like are stored in the storage unit. In this case, the determination unit 2080 determines whether or not the recognition unit 2020 recognizes the product by accessing the storage unit and determining whether or not the information recognized by the recognition unit 2020 is stored. ..

判定部２０８０は、「検出対象エリアに商品が配置された場合」に、商品が認識されたか否かの判定を行う。そこで、判定部２０８０は、検出対象エリアに商品が配置された時点を把握する。検出対象エリアに商品が配置された時点は、例えばその商品を撮像した顧客画像の撮像時点によって表される。判定部２０８０は、判定部２０８０によって「検出対象エリアに商品が配置された」と検出された際、その検出に対応する顧客画像の撮像時点を取得することで、検出対象エリアに商品が配置された時点を把握する。   The determination unit 2080 determines whether or not the product has been recognized “when the product is placed in the detection target area”. Therefore, the determination unit 2080 grasps the time when the product is placed in the detection target area. The time at which the product is placed in the detection target area is represented by, for example, the time at which the customer image of the product is captured. When the determination unit 2080 detects that “the product has been placed in the detection target area”, the determination unit 2080 acquires the image capturing time of the customer image corresponding to the detection, so that the product is placed in the detection target area. Know when.

なお、前述したように同じ商品が複数の顧客画像に写っている場合、例えば検出部２０６０は、それら複数の顧客画像の撮像時点の内、最も早い撮像時点を、検出対象エリアに商品が配置された時点として扱う。   In addition, when the same product is reflected in a plurality of customer images as described above, for example, the detection unit 2060 arranges the product in the detection target area at the earliest imaging time point among the imaging times of the plurality of customer images. Treated as when

［実施形態２］
図６は、実施形態２に係る商品登録装置２０００を例示するブロック図である。図６において、各ブロックは、ハードウエア単位の構成ではなく、機能単位の構成を表している。 [Embodiment 2]
FIG. 6 is a block diagram illustrating a product registration device 2000 according to the second embodiment. In FIG. 6, each block represents a functional unit, not a hardware unit.

実施形態２の商品登録装置２０００は警告部２１００を有する。警告部２１００は、判定部２０８０によって、「検出対象エリアの中に商品が配置された場合に、商品が認識部２０２０によって認識されなかった」と判定された場合に、警告処理を行う（後述する図７のＳ２０２及びＳ２０４）。   The product registration device 2000 according to the second embodiment includes a warning unit 2100. The warning unit 2100 performs a warning process when the determination unit 2080 determines that “the product was not recognized by the recognition unit 2020 when the product was placed in the detection target area” (described later). (S202 and S204 of FIG. 7).

警告部２１００が行う警告処理は様々である。例えば警告部２１００が行う警告処理は、アラーム音の出力である。この場合、商品登録装置２０００は、アラーム音を出力するスピーカなどを有する。また例えば、警告部２１００が行う警告処理は、パトランプの点灯である。この場合、商品登録装置２０００は、このパトランプを有する。   There are various warning processes performed by the warning unit 2100. For example, the warning process performed by the warning unit 2100 is output of an alarm sound. In this case, the product registration device 2000 has a speaker or the like that outputs an alarm sound. Further, for example, the warning process performed by the warning unit 2100 is lighting of a patrol lamp. In this case, the product registration device 2000 has this patrol lamp.

また例えば、警告部２１００が行う警告処理は、商品登録装置２０００に接続されているディスプレイや管理者（店員など）用の端末のディスプレイに、警告を表すポップアップウインドウなどを表示する処理である。ここで、商品登録装置２０００に接続されているディスプレイは、精算金額などの情報を顧客に提示するディスプレイである。   Further, for example, the warning process performed by the warning unit 2100 is a process of displaying a pop-up window or the like indicating a warning on the display connected to the product registration device 2000 or the display of a terminal for a manager (such as a store clerk). Here, the display connected to the merchandise registration device 2000 is a display for presenting information such as the settlement amount to the customer.

さらに警告部２１００は、警告処理として、顧客が商品登録装置２０００を操作できないようにする処理を行ってもよい。例えばこの処理は、認識部２０２０が商品を認識できないようにする処理や、商品登録装置２０００が顧客から代金の投入を受け付けないようにする処理である。   Further, the warning unit 2100 may perform a process for preventing the customer from operating the product registration device 2000 as a warning process. For example, this process is a process for preventing the recognition unit 2020 from recognizing a product, or a process for preventing the product registration device 2000 from accepting payment of a price from a customer.

＜処理の流れ＞
図７は、実施形態２の商品登録装置２０００によって実行される処理の流れを例示するフローチャートである。なお、実施形態２の商品登録装置２０００が行う処理と実施形態１の商品登録装置２０００が行う処理は、Ｓ１０２からＳ１０８が共通している。そのため、図７において、Ｓ１０８より前の処理は省略している。 <Process flow>
FIG. 7 is a flowchart exemplifying the flow of processing executed by the product registration device 2000 of the second embodiment. The process performed by the product registration device 2000 of the second embodiment and the process performed by the product registration device 2000 of the first embodiment are common to S102 to S108. Therefore, in FIG. 7, the processing before S108 is omitted.

検出対象エリア内に商品が配置されたことが検出された場合に、商品が認識されたとき（Ｓ２０２：ＹＥＳ）、図７の処理はＳ１０２に進む。一方、検出対象エリア内に商品が配置されたことが検出された場合に、商品が認識されなかったとき（Ｓ２０２：ＮＯ）、警告部２１００は警告処理を行う（Ｓ２０４）。   When it is detected that the product is placed in the detection target area and the product is recognized (S202: YES), the process of FIG. 7 proceeds to S102. On the other hand, when it is detected that the product is placed in the detection target area and the product is not recognized (S202: NO), the warning unit 2100 performs a warning process (S204).

＜ハードウエア構成＞
例えば実施形態２の商品登録装置２０００は、実施形態１の商品登録装置２０００と同様に、図５の計算機１０００を用いて実装される。本実施形態において、ストレージ１０８０に記憶される各プログラムモジュールには、本実施形態で説明した各機能を実現するプログラムがさらに含まれる。また、ストレージ１０８０は、警告部２１００を実現するプログラムモジュールをさらに記憶する。プロセッサ１０４０は、このプログラムモジュールを実行することで、警告部２１００の機能を実現する。 <Hardware configuration>
For example, the product registration apparatus 2000 of the second embodiment is implemented by using the computer 1000 of FIG. 5, like the product registration apparatus 2000 of the first embodiment. In this embodiment, each program module stored in the storage 1080 further includes a program that realizes each function described in this embodiment. The storage 1080 further stores a program module that realizes the warning unit 2100. The processor 1040 realizes the function of the warning unit 2100 by executing this program module.

＜作用・効果＞
本実施形態によれば、「検出部２０６０によって検出対象エリアの中に商品が配置されたことが検出された場合に、商品が認識部２０２０によって認識されなかった」という状況において、警告が行われる。こうすることで、前述した顧客の操作ミスや認識部２０２０の動作エラーなどが起こった可能性がある場合に警告が行われるため、店員や顧客はこれらの可能性があることを明確に把握することできる。よって、顧客が操作ミスを把握して操作をやり直すことができる。また、商品が認識されていないことを店員が顧客に伝えるなどという対処も可能となる。 <Action / effect>
According to the present embodiment, a warning is issued in a situation where “the recognition unit 2020 does not recognize the product when the detection unit 2060 detects that the product is placed in the detection target area”. .. By doing this, a warning is issued when there is a possibility that the customer's operation error or the operation error of the recognition unit 2020 described above may have occurred, so the clerk or customer clearly understands these possibilities. You can do it. Therefore, the customer can recognize the operation mistake and perform the operation again. In addition, it is possible to deal with the situation such that the clerk informs the customer that the product is not recognized.

［実施形態３］
実施形態３に係る商品登録装置２０００は、実施形態１の商品登録装置２０００と同様に、図１で表される。下記で説明する点を除き、実施形態２の商品登録装置２０００は、実施形態１の商品登録装置２０００と同様の構成を有する。 [Third Embodiment]
The product registration device 2000 according to the third embodiment is represented in FIG. 1 similarly to the product registration device 2000 of the first embodiment. The product registration device 2000 of the second embodiment has the same configuration as the product registration device 2000 of the first embodiment, except for the points described below.

複数の商品が、同時又は近いタイミングで、認識部２０２０に認識されることがある。図８は、２つの商品が認識部２０２０に認識される様子を例示する第１の図である。この場合、商品５０−１と商品５０−２がほぼ同時に認識エリア８０を通過するため、これら２つの商品がほぼ同時に認識部２０２０によって認識される。   A plurality of products may be recognized by the recognition unit 2020 at the same time or at a close timing. FIG. 8 is a first diagram illustrating an example of how the recognition unit 2020 recognizes two products. In this case, since the product 50-1 and the product 50-2 pass through the recognition area 80 almost at the same time, these two products are recognized by the recognition unit 2020 at almost the same time.

ここで、複数の商品を認識部２０２０に認識させる場合、例えば顧客が、「一部の商品が認識部２０２０の認識エリアを通過しないように商品を移動させてしまい、一部の商品が認識部２０２０に認識されない」という操作ミスが生じる可能性がある。図９は、２つ商品のうち、１つの商品が認識エリア８０を通過しない様子を例示する図である。具体的には、商品５０−１は認識エリア８０を通過していない。そのため、商品５０−１は認識部２０２０によって認識されない。また、認識部２０２０の動作エラーなどにより、一部の商品が認識されないという状況も生じうる。   Here, in the case where the recognition unit 2020 is made to recognize a plurality of products, for example, the customer says, “Some products have been moved so as not to pass through the recognition area of the recognition unit 2020, and some products are recognized. There is a possibility that an operation error "not recognized by 2020" occurs. FIG. 9 is a diagram illustrating a state in which one of the two products does not pass through the recognition area 80. Specifically, the product 50-1 does not pass through the recognition area 80. Therefore, the product 50-1 is not recognized by the recognition unit 2020. In addition, a situation may occur in which some products are not recognized due to an operation error of the recognition unit 2020.

そこで実施形態３の判定部２０８０は、検出対象エリア７０内に配置された商品の数を考慮して判定を行う。具体的には、検出部２０６０は、検出対象エリア内に商品が配置されたことを検出した際に、検出対象エリアに配置されている商品の数（以下、商品数）を割り出す（図１１のＳ３０２）。そして判定部２０８０は、検出部２０６０によって検出対象エリア内に商品が配置されたことが検出された場合に、検出部２０６０によって割り出された商品数の商品が認識部２０２０によって認識されたか否かを判定する（図１１のＳ３０４）。以下、検出対象エリア内に同時に配置されている複数の商品を、商品群を表記する。   Therefore, the determination unit 2080 according to the third embodiment makes the determination in consideration of the number of products arranged in the detection target area 70. Specifically, when the detection unit 2060 detects that a product is placed in the detection target area, the detection unit 2060 determines the number of products (hereinafter, the number of products) placed in the detection target area (see FIG. 11). S302). Then, the determination unit 2080 determines whether or not the recognition unit 2020 has recognized the number of products determined by the detection unit 2060 when the detection unit 2060 detects that the product is placed in the detection target area. Is determined (S304 in FIG. 11). Hereinafter, a plurality of products arranged at the same time in the detection target area will be referred to as a product group.

＜商品数を割り出す方法＞
前述したように、検出部２０６０は、検出対象エリア内に商品が配置されたことを検出した際に、商品数を割り出す（図１１のＳ３０２）。検出部２０６０が商品数を割り出す方法は様々である。例えば検出部２０６０は、顧客画像を対象にオブジェクト認識を行うことで、商品群に含まれる各商品を表す領域を検出する。そして、検出部２０６０は、検出した領域の個数を、商品数とする。ここで、画像に対してオブジェクト認識処理を行うことで、所定のオブジェクトを検出したり、そのオブジェクトの個数を割り出す方法には、既知の様々な技術を利用できる。検出部２０６０は、このような様々な既知の技術を利用できる。そのため、検出部２０６０が商品数を割り出す処理は、例示した処理に限定されにない。なお、既知の技術に関する説明は省略する。 <How to determine the number of products>
As described above, the detection unit 2060 determines the number of products when detecting that the products are arranged in the detection target area (S302 in FIG. 11). There are various methods by which the detection unit 2060 calculates the number of products. For example, the detection unit 2060 detects an area representing each product included in the product group by performing object recognition on the customer image. Then, the detection unit 2060 sets the number of detected areas as the number of products. Here, various known techniques can be used as a method of detecting a predetermined object or calculating the number of the objects by performing the object recognition processing on the image. The detection unit 2060 can use such various known techniques. Therefore, the process in which the detection unit 2060 calculates the number of products is not limited to the illustrated process. Note that description of known techniques is omitted.

＜商品群の検出方法＞
検出部２０６０は、実施形態１の検出部２０６０と同様に、顧客画像を解析することで、検出対象エリア内に商品群が配置されたことを検出する。 <Product group detection method>
Like the detection unit 2060 of the first embodiment, the detection unit 2060 analyzes the customer image to detect that the product group is placed in the detection target area.

ただし、商品群に含まれる各商品は、異なるタイミングで検出対象エリアに入る場合もある。図１０は、２つの商品５０が認識部２０２０に認識される様子を例示する第２の図である。図１０において、２つの商品５０は、異なるタイミングで検出対象エリア７０に入る。例えば図１０のような状況は、顧客が、左手に持った商品と右手に持った商品をそれぞれ認識部２０２０に認識させようとした場合などに起こりうる。   However, each product included in the product group may enter the detection target area at different timings. FIG. 10 is a second diagram exemplifying how the recognition unit 2020 recognizes two products 50. In FIG. 10, the two products 50 enter the detection target area 70 at different timings. For example, the situation illustrated in FIG. 10 may occur when the customer tries to make the recognition unit 2020 recognize the product held in the left hand and the product held in the right hand.

そこで検出部２０６０は、ある商品が検出対象エリア内に配置されたことを検出した後、その商品が検出対象エリア内にある間に、さらに別の商品が検出対象エリア内に配置された場合、これらの複数の商品を１つの商品群として扱う。そして、検出部２０６０は、この１つの商品群について１回のみ、「商品が検出対象エリア内に配置された」と検出する。   Therefore, when the detection unit 2060 detects that a certain product is placed in the detection target area and then another product is placed in the detection target area while the product is in the detection target area, These plural products are treated as one product group. Then, the detection unit 2060 detects that “the product is placed in the detection target area” only once for this one product group.

＜判定部２０８０の動作＞
判定部２０８０は、認識部２０２０による認識の結果、及び検出部２０６０による検出の結果に基づいて、判定を行う（図１１のＳ３０４）。例えば判定部２０８０は、以下のいずれかの判定を行う。 <Operation of determination unit 2080>
The determination unit 2080 makes a determination based on the recognition result by the recognition unit 2020 and the detection result by the detection unit 2060 (S304 in FIG. 11). For example, the determination unit 2080 makes one of the following determinations.

＜＜判定処理１＞＞
例えば判定部２０８０は、検出対象エリア内に商品が配置されたことが検出されてから所定時間以内に、商品数の商品が認識部２０２０に認識されたか否かを判定する。判定部２０８０は、上記所定時間以内に、商品数の商品が認識された場合、「検出対象エリア内に商品が配置されたことが検出された場合に、商品数の商品が認識部２０２０に認識された」と判定する。一方、判定部２０８０は、上記所定時間以内に商品が認識されなかったか、又は上記所定時間以内に認識された商品の数が商品数未満であった場合に、「検出対象エリア内に商品が配置されたことが検出された場合に、商品数の商品が認識部２０２０に認識されなかった」と判定する。 << Judgment process 1 >>
For example, the determination unit 2080 determines whether or not the recognition unit 2020 has recognized the number of products of the product within a predetermined time after it is detected that the product is placed in the detection target area. The determination unit 2080 recognizes, when the product of the number of products is recognized within the predetermined time, “When the product is detected to be placed in the detection target area, the recognition unit 2020 recognizes the product of the product number. It was determined that it was done. On the other hand, when the product is not recognized within the predetermined time or the number of products recognized within the predetermined time is less than the number of products, the determination unit 2080 determines that “the product is placed in the detection target area. If it is detected that the product has been recognized, the recognition unit 2020 has not recognized the product of the number of products. ”

＜＜判定処理２＞＞
また例えば、判定部２０８０は、検出対象エリア内に商品が配置されたことが検出された後から、再度検出対象エリア内に商品が配置されたことが検出される前の期間に、商品数の商品が認識部２０２０に認識されたか否かを判定する。判定部２０８０は、上記期間に、商品数の商品が認識された場合、「検出対象エリア内に商品が配置されたことが検出された場合に、商品数の商品が認識部２０２０に認識された」と判定する。一方、判定部２０８０は、上記期間に商品が認識されなかったか、又は上記期間に認識された商品の数が商品数未満であった場合に、「検出対象エリア内に商品が配置されたことが検出された場合に、商品数の商品が認識部２０２０に認識されなかった」と判定する。 << determination process 2 >>
Further, for example, the determination unit 2080 determines the number of products in the period after it is detected that the products are arranged in the detection target area and before it is detected that the products are arranged in the detection target area again. It is determined whether the product is recognized by the recognition unit 2020. The determination unit 2080 determines that when the number of products is recognized during the above period, “the number of products is recognized by the recognition unit 2020 when it is detected that the products are arranged in the detection target area. Is determined. On the other hand, when the product is not recognized in the above period or the number of products recognized in the above period is less than the number of products, the determination unit 2080 determines that “the product has been placed in the detection target area. When it is detected, the recognition unit 2020 has not recognized the number of products. ”

＜認識された商品の数を把握する方法＞
判定部２０８０が、認識部２０２０によって認識された商品の数を把握する方法は様々である。例えば、判定部２０８０が、商品を認識した認識部２０２０からシグナルを受信する場合、判定部２０８０は、受信したシグナルの個数と同じ数の商品が認識されたと把握する。また、認識部２０２０が、認識された商品に関する情報を記憶部に記憶する場合、判定部２０８０は、この記憶部にアクセスし、記憶部に記憶されている商品に関する情報の個数を調べることで、認識された商品の数を把握する。 <How to know the number of recognized products>
There are various methods by which the determination unit 2080 recognizes the number of products recognized by the recognition unit 2020. For example, when the determination unit 2080 receives a signal from the recognition unit 2020 that has recognized the product, the determination unit 2080 recognizes that the same number of products as the received signals have been recognized. Further, when the recognition unit 2020 stores the information about the recognized product in the storage unit, the determination unit 2080 accesses the storage unit and checks the number of pieces of information about the product stored in the storage unit, Understand the number of recognized products.

＜処理の流れ＞
図１１は、実施形態３の商品登録装置２０００によって実行される処理の流れを例示するフローチャートである。実施形態３の商品登録装置２０００が行う処理と実施形態１の商品登録装置２０００が行う処理は、Ｓ１０２からＳ１０６が共通している。そのため、図１１において、Ｓ１０６より前の処理は省略している。 <Process flow>
FIG. 11 is a flowchart illustrating the flow of processing executed by the product registration device 2000 of the third embodiment. The process performed by the product registration device 2000 of the third embodiment and the process performed by the product registration device 2000 of the first embodiment are common from S102 to S106. Therefore, in FIG. 11, the processing before S106 is omitted.

検出部２０６０は、検出対象エリアの中に商品が配置された商品の商品数を割り出す（Ｓ３０２）。判定部２０８０は、検出対象エリアの中に商品が配置されたことが検出された場合に、商品数の商品が認識部２０２０によって認識されたか否かを判定する（Ｓ３０４）。   The detection unit 2060 calculates the number of products for which the products are arranged in the detection target area (S302). The determination unit 2080 determines whether or not the recognition unit 2020 has recognized the number of products in the case where it is detected that the products are arranged in the detection target area (S304).

＜ハードウエア構成＞
例えば実施形態３の商品登録装置２０００は、実施形態１の商品登録装置２０００と同様に、図５の計算機１０００を用いて実装される。本実施形態において、ストレージ１０８０に記憶される各プログラムモジュールには、本実施形態で説明した各機能を実現するプログラムがさらに含まれる。 <Hardware configuration>
For example, the product registration apparatus 2000 of the third embodiment is implemented by using the computer 1000 of FIG. 5, like the product registration apparatus 2000 of the first embodiment. In this embodiment, each program module stored in the storage 1080 further includes a program that realizes each function described in this embodiment.

＜作用・効果＞
本実施形態によれば、同時又は近いタイミングで複数の商品が認識部２０２０の認識エリア又はその付近を通過する場合において、それら商品の個数を考慮した判定が行われる。
そのため、「顧客がまとめて認識部２０２０に認識させようとした商品のうち、一部の商品が認識部２０２０に認識されなかった」という状況を把握することができる。よって、本実施形態の商品登録装置２０００によれば、実施形態１の商品登録装置２０００と比較し、顧客と店員との間でトラブルが生じたりすることを、より高い精度で防ぐことができる。 <Action / effect>
According to this embodiment, when a plurality of products pass through the recognition area of the recognition unit 2020 or the vicinity thereof at the same time or at a close timing, the determination is performed in consideration of the number of these products.
Therefore, it is possible to grasp the situation that "a part of the products that the customer has tried to make the recognition unit 2020 collectively recognize is not recognized by the recognition unit 2020". Therefore, according to the product registration device 2000 of the present embodiment, it is possible to prevent a trouble between a customer and a store clerk with higher accuracy than the product registration device 2000 of the first embodiment.

［実施形態４］
実施形態４の商品登録装置２０００は、実施形態２の商品登録装置２０００と同様に、図６で表される。 [Embodiment 4]
The product registration device 2000 of the fourth embodiment is represented in FIG. 6 as with the product registration device 2000 of the second embodiment.

実施形態４の警告部２１００は、判定部２０８０によって、「検出対象エリア内に商品が配置されたことが検出された場合に、商品数の商品が認識部２０２０に認識されなかった」と判定された場合に、警告処理を行う（図１２のＳ４０４）。その他の点（警告処理の内容など）について、実施形態４の警告部２１００は、実施形態２の警告部２１００と同様である。   In the warning unit 2100 of the fourth embodiment, the determination unit 2080 determines that “when the product is detected to be placed in the detection target area, the recognition unit 2020 does not recognize the product of the number of products”. If so, a warning process is performed (S404 in FIG. 12). In other respects (contents of warning processing, etc.), the warning unit 2100 of the fourth embodiment is the same as the warning unit 2100 of the second embodiment.

また実施形態４の商品登録装置２０００は、警告部２１００を有する点を除き、実施形態３の商品登録装置２０００と同様である。   The product registration device 2000 of the fourth embodiment is the same as the product registration device 2000 of the third embodiment except that the product registration device 2000 has a warning unit 2100.

＜処理の流れ＞
図１２は、実施形態４の商品登録装置２０００によって実行される処理の流れを例示するフローチャートである。なお、実施形態４の商品登録装置２０００が行う処理と実施形態３の商品登録装置２０００が行う処理は、Ｓ１０２からＳ１０８及びＳ３０２からＳ３０４が共通している。そのため、図１２において、Ｓ３０４より前の処理は省略している。 <Process flow>
FIG. 12 is a flowchart illustrating the flow of processing executed by the product registration device 2000 according to the fourth embodiment. The process performed by the product registration device 2000 of the fourth embodiment and the process performed by the product registration device 2000 of the third embodiment are common to S102 to S108 and S302 to S304. Therefore, in FIG. 12, the processes before S304 are omitted.

検出対象エリア内に商品が配置されたことが検出された場合に、商品数の商品が認識されたとき（Ｓ４０２：ＹＥＳ）、図１２の処理はＳ１０２に進む。一方、検出対象エリア内に商品が配置されたことが検出された場合に、商品数の商品が認識されなかったとき（Ｓ４０２：ＮＯ）、警告部２１００は警告処理を行う（Ｓ４０４）。   When it is detected that the products are arranged in the detection target area and the number of products is recognized (S402: YES), the process of FIG. 12 proceeds to S102. On the other hand, when it is detected that the products are arranged in the detection target area and the number of products is not recognized (S402: NO), the warning unit 2100 performs a warning process (S404).

＜ハードウエア構成＞
例えば実施形態４の商品登録装置２０００は、実施形態３の商品登録装置２０００と同様に、図５の計算機１０００を用いて実装される。本実施形態において、ストレージ１０８０に記憶される各プログラムモジュールには、本実施形態で説明した各機能を実現するプログラムがさらに含まれる。また、本実施形態のストレージ１０８０は、実施形態２のストレージ１０８０と同様に、警告部２１００を実現するプログラムモジュールをさらに記憶する。プロセッサ１０４０は、このプログラムモジュールを実行することで、警告部２１００の機能を実現する。 <Hardware configuration>
For example, the product registration apparatus 2000 of the fourth embodiment is implemented by using the computer 1000 of FIG. 5, similarly to the product registration apparatus 2000 of the third embodiment. In this embodiment, each program module stored in the storage 1080 further includes a program that realizes each function described in this embodiment. Further, the storage 1080 of the present exemplary embodiment further stores a program module that realizes the warning unit 2100, similarly to the storage 1080 of the second exemplary embodiment. The processor 1040 realizes the function of the warning unit 2100 by executing this program module.

＜作用・効果＞
本実施形態によれば、「検出部２０６０によって検出対象エリアの中に商品が配置されたことが検出された場合に、商品数の商品が認識部２０２０によって認識されなかった」という状況において、警告処理が行われる。こうすることで、実施形態３で説明した操作ミスなどが生じた場合に警告が行われるため、店員や顧客がこの状況の発生を明確に把握することできる。よって、顧客が操作ミスを把握して操作をやり直すことができる。また、商品が認識されていないことを店員が顧客に伝えるなどという対処も可能となる。 <Action / effect>
According to the present embodiment, a warning is issued in a situation where “the recognition unit 2020 does not recognize the number of products when the detection unit 2060 detects that a product is placed in the detection target area”. Processing is performed. By doing so, a warning is issued when the operation error described in the third embodiment occurs, so that the store clerk or the customer can clearly understand the occurrence of this situation. Therefore, the customer can recognize the operation mistake and perform the operation again. In addition, it is possible to deal with the situation such that the clerk informs the customer that the product is not recognized.

以上、図面を参照して本発明の実施形態について述べたが、これらは本発明の例示であり、上記以外の様々な構成を採用することもできる。   Although the embodiments of the present invention have been described above with reference to the drawings, these are merely examples of the present invention, and various configurations other than the above may be adopted.

以下、参考形態の例を付記する。
１． 商品を認識する認識手段と、
顧客の動作を撮像して画像を生成する撮像手段と、
前記撮像手段によって生成された画像を用いて、前記認識手段によって前記商品が認識されるエリアである認識エリアを含む検出対象エリアの中に商品が配置されたことを検出する検出手段と、
前記検出手段によって前記検出対象エリアの中に商品が配置されたことが検出された場合に、商品が前記認識手段によって認識されたか否かを判定する判定処理を行う判定手段と、
を有する商品登録装置。
２． 前記判定処理は、前記検出手段によって前記検出対象エリアの中に商品が配置されたことが検出されてから所定時間以内に、前記商品が前記認識手段によって認識されたか否かを判定する処理である、１．に記載の商品登録装置。
３． 前記判定処理は、前記検出手段によって前記検出対象エリアの中に商品が配置されたことが検出された後、再度前記検出手段によって前記検出対象エリアの中に商品が配置される前に、商品が前記認識手段によって認識されたか否かを判定する処理である、１．に記載の商品登録装置。
４． 前記判定処理により、検出手段によって前記検出対象エリアの中に商品が配置されたことが検出された後に、商品が前記認識手段によって認識されなかったと判定された場合に、警告処理を行う警告手段を有する１．に記載の商品登録装置。
５． 前記検出手段は、前記検出対象エリアの中に配置された商品の数を割り出し、
前記判定処理は、前記検出手段によって前記検出対象エリアの中に商品が配置されたことが検出された場合に、前記商品の数の商品が前記認識手段によって認識されたか否かを判定する処理である、１．に記載の商品登録装置。
６． 前記判定処理は、前記検出手段によって前記検出対象エリアの中に商品が配置されたことが検出されてから所定時間以内に、前記商品の数の商品が前記認識手段によって認識されたか否かを判定する処理である、５．に記載の商品登録装置。
７． 前記判定処理は、前記検出手段によって前記検出対象エリアの中に商品が配置されたことが検出された後、再度前記検出手段によって前記検出対象エリアの中に商品が配置される前に、前記商品の数の商品が前記認識手段によって認識されたか否かを判定する処理である、５．に記載の商品登録装置。
８． 前記検出手段によって前記検出対象エリアの中に商品が配置されたことが検出された後に、前記商品の数の商品が前記認識手段によって認識されなかった場合に、警告処理を行う警告手段を有する５．に記載の商品登録装置。
９． 前記認識手段は、商品を撮像して画像を生成し、
前記撮像手段の撮像素子の解像度は前記認識手段の撮像素子の解像度よりも低い１．乃至８．いずれか一つに記載の商品登録装置。
１０． コンピュータを、１．乃至９．いずれか一つに記載の商品登録装置として動作させるプログラム。
１１． コンピュータによって実行される制御方法であって、
商品を認識する認識ステップと、
顧客の動作を撮像して画像を生成する撮像ステップと、
前記撮像ステップによって生成された画像を用いて、前記認識ステップによって商品が認識されるエリアである認識エリアを含む検出対象エリアの中に商品が配置されたことを検出する検出ステップと、
前記検出ステップによって前記検出対象エリアの中に商品が配置されたことが検出された場合に、商品が前記認識ステップによって認識されたか否かを判定する判定処理を行う判定ステップと、
を有する制御方法。
１２． 前記判定処理は、前記検出ステップによって前記検出対象エリアの中に商品が配置されたことが検出されてから所定時間以内に、商品が前記認識ステップによって認識されたか否かを判定する処理である、１１．に記載の制御方法。
１３． 前記判定処理は、前記検出ステップによって前記検出対象エリアの中に商品が配置されたことが検出された後、再度前記検出ステップによって前記検出対象エリアの中に商品が配置される前に、商品が前記認識ステップによって認識されたか否かを判定する処理である、１１．に記載の制御方法。
１４． 前記判定処理により、検出ステップによって前記検出対象エリアの中に商品が配置されたことが検出された後に、商品が前記認識ステップによって認識されなかったと判定された場合に、警告処理を行う警告ステップを有する１１．に記載の制御方法。
１５． 前記検出ステップは、前記検出対象エリアの中に配置された商品の数を割り出し、
前記判定処理は、前記検出ステップによって前記検出対象エリアの中に商品が配置されたことが検出された場合に、商品の数の商品が前記認識ステップによって認識されたか否かを判定する処理である、１１．に記載の制御方法。
１６． 前記判定処理は、前記検出ステップによって前記検出対象エリアの中に商品が配置されたことが検出されてから所定時間以内に、前記商品の数の商品が前記認識ステップによって認識されたか否かを判定する処理である、１５．に記載の制御方法。
１７． 前記判定処理は、前記検出ステップによって前記検出対象エリアの中に商品が配置されたことが検出された後、再度前記検出ステップによって前記検出対象エリアの中に商品が配置される前に、前記商品の数の商品が前記認識ステップによって認識されたか否かを判定する処理である、１５．に記載の制御方法。
１８． 前記検出ステップによって前記検出対象エリアの中に商品が配置されたことが検出された後に、前記商品の数の商品が前記認識ステップによって認識されなかった場合に、警告処理を行う警告ステップを有する１５．に記載の制御方法。
１９． 前記認識ステップは、商品を撮像して画像を生成し、
前記撮像ステップで用いられる撮像素子の解像度は前記認識ステップで用いられる撮像素子の解像度よりも低い１１．乃至１８．いずれか一つに記載の制御方法。 Hereinafter, an example of the reference mode will be additionally described.
1. Recognition means for recognizing products,
An image pickup means for picking up an image of the movement of the customer to generate an image;
Detection means for detecting that a product is placed in a detection target area including a recognition area, which is an area where the product is recognized by the recognition means, using the image generated by the imaging means;
When it is detected that the product is arranged in the detection target area by the detection unit, a determination unit that performs a determination process of determining whether or not the product is recognized by the recognition unit,
A merchandise registration device having.
2. The determination process is a process of determining whether or not the product is recognized by the recognition unit within a predetermined time after the detection unit detects that the product is placed in the detection target area. 1. Item registration device described in.
3. In the determination process, after the detection unit detects that the product is placed in the detection target area, and before the detection unit again places the product in the detection target area, the product is This is a process of determining whether or not it has been recognized by the recognition means. Item registration device described in.
4. By the determination processing, when it is determined that the product is not recognized by the recognition unit after the detection unit detects that the product is placed in the detection target area, a warning unit that performs a warning process is provided. Have 1. Item registration device described in.
5. The detection means calculates the number of products arranged in the detection target area,
The determination process is a process of determining whether or not the number of products has been recognized by the recognition unit when the detection unit detects that a product is placed in the detection target area. Yes, 1. Item registration device described in.
6. The determination process determines whether or not the number of products has been recognized by the recognition unit within a predetermined time after the detection unit detects that a product is placed in the detection target area. This is the processing to be performed. Item registration device described in.
7. In the determination process, after the detection unit detects that the product is arranged in the detection target area, and before the detection unit again arranges the product in the detection target area, the product 4. It is a process of determining whether or not the number of products has been recognized by the recognition means. Item registration device described in.
8. After the detection unit detects that a product is placed in the detection target area, if the recognition unit does not recognize the number of products of the number of products, there is a warning unit that performs a warning process. ． Item registration device described in.
9. The recognition means captures an image of a product to generate an image,
The resolution of the image pickup device of the image pickup means is lower than the resolution of the image pickup device of the recognition means. Through 8. The product registration device described in any one of the items.
10. Connect the computer to 1. Through 9. A program that operates as any one of the product registration devices.
11. A control method executed by a computer,
A recognition step to recognize the product,
An image capturing step of capturing an image of a customer's action and generating an image;
Using the image generated by the imaging step, a detection step of detecting that the product is arranged in a detection target area including a recognition area that is an area where the product is recognized by the recognition step,
When it is detected that the product is placed in the detection target area by the detection step, a determination step of performing a determination process of determining whether the product has been recognized by the recognition step,
And a control method.
12. The determination process is a process of determining whether or not a product is recognized by the recognition step within a predetermined time after it is detected that the product is placed in the detection target area by the detection step, 11. Control method described in.
13. In the determination process, after the detection step detects that the product is placed in the detection target area, and before the detection step again places the product in the detection target area, 11. This is a process of determining whether or not it has been recognized in the recognition step. Control method described in.
14. By the determination process, when it is determined that the product is not recognized by the recognition step after it is detected that the product is placed in the detection target area by the detection step, a warning step that performs a warning process is performed. Have 11. Control method described in.
15. The detecting step calculates the number of products arranged in the detection target area,
The determination process is a process of determining whether or not the number of products has been recognized by the recognition step, when the detection step detects that a product is placed in the detection target area. , 11. Control method described in.
16. The determination process determines whether or not as many products as the number of products have been recognized by the recognition step within a predetermined time after the detection step detects that a product has been placed in the detection target area. 15. The process of Control method described in.
17. In the determination processing, the product is placed in the detection target area by the detection step, and then the product is placed in the detection target area again by the detection step. 15. It is a process of determining whether or not the number of products has been recognized by the recognition step. Control method described in.
18. After the detection step detects that a product has been placed in the detection target area, if the number of products is not recognized by the recognition step, there is a warning step that performs a warning process. ． Control method described in.
19. The recognition step captures an image of a product to generate an image,
11. The resolution of the image sensor used in the imaging step is lower than the resolution of the image sensor used in the recognition step. Through 18. The control method described in any one.

１０ カメラ
２０ 筐体
４０ リーダ
５０ 商品
６０ 台
７０ 検出対象エリア
８０ 認識エリア
１０００ 計算機
１０２０ バス
１０４０ プロセッサ
１０６０ メモリ
１０８０ ストレージ
１１００ 入出力インタフェース
２０００ 商品登録装置
２０２０ 認識部
２０４０ 撮像部
２０６０ 検出部
２０８０ 判定部
２１００ 警告部 10 camera 20 housing 40 reader 50 product 60 units 70 detection target area 80 recognition area 1000 computer 1020 bus 1040 processor 1060 memory 1080 storage 1100 input / output interface 2000 product registration device 2020 recognition unit 2040 imaging unit 2060 detection unit 2080 determination unit 2100 warning Department

Claims (11)

商品を認識する認識手段と、
顧客の動作を撮像して画像を生成する撮像手段と、
前記撮像手段によって生成された画像を用いて、前記認識手段によって前記商品が認識されるエリアである認識エリアと異なるエリアを含む検出対象エリア内の商品を検出する検出手段と、
前記検出手段の検出結果をトリガとして、商品が前記認識手段によって認識されたか否かを判定する判定処理を行う判定手段と、
を有する商品登録装置。 Recognition means for recognizing products,
An image pickup means for picking up an image of the movement of the customer to generate an image;
Detecting means for detecting a product in a detection target area including an area different from a recognition area, which is an area where the product is recognized by the recognition means, using the image generated by the imaging means;
With the detection result of the detection means as a trigger, determination means for performing determination processing for determining whether or not a product has been recognized by the recognition means,
A product registration device having a. 前記判定処理は、前記検出手段によって前記検出対象エリア内の商品が検出されてから所定時間以内に、商品が前記認識手段によって認識されたか否かを判定する処理である、請求項１に記載の商品登録装置。   The determination process according to claim 1, wherein the determination process is a process of determining whether or not the product is recognized by the recognition unit within a predetermined time after the detection unit detects the product in the detection target area. Product registration device. 前記判定処理は、前記検出手段によって前記検出対象エリア内の商品が検出された後、再度前記検出手段によって前記検出対象エリアの中に商品が配置される前に、前記商品が前記認識手段によって認識されたか否かを判定する処理である、請求項１に記載の商品登録装置。   In the determination processing, the product is recognized by the recognition unit after the detection unit detects the product in the detection target area and before the detection unit again places the product in the detection target area. The product registration device according to claim 1, which is a process of determining whether or not the product registration has been performed. 前記判定処理により、検出手段によって前記検出対象エリア内の商品が検出された後に、前記商品が前記認識手段によって認識されなかったと判定された場合に、警告処理を行う警告手段を有する請求項１に記載の商品登録装置。   The alarm device according to claim 1, further comprising a warning unit that performs a warning process when it is determined that the product has not been recognized by the recognition unit after the detection unit detects the product in the detection target area by the determination process. The product registration device described. 前記検出手段は、前記検出対象エリア内で検出された商品の数を割り出し、
前記判定処理は、前記検出手段によって前記検出対象エリア内の商品が検出された場合に、前記商品の数の商品が前記認識手段によって認識されたか否かを判定する処理である、請求項１に記載の商品登録装置。 The detection means calculates the number of products detected in the detection target area,
The determination process is a process of determining whether or not the number of products has been recognized by the recognition unit when the detection unit detects a product in the detection target area. The product registration device described. 前記判定処理は、前記検出手段によって前記検出対象エリア内の商品が検出されてから所定時間以内に、前記商品の数の前記商品が前記認識手段によって認識されたか否かを判定する処理である、請求項５に記載の商品登録装置。   The determination process is a process of determining whether or not the number of the products has been recognized by the recognition unit within a predetermined time after the detection unit detects a product in the detection target area, The product registration device according to claim 5. 前記判定処理は、前記検出手段によって前記検出対象エリア内の商品が検出された後、再度前記検出手段によって前記検出対象エリア内の商品が検出される前に、前記商品の数の商品が前記認識手段によって認識されたか否かを判定する処理である、請求項５に記載の商品登録装置。   In the determination process, after the detection unit detects the product in the detection target area and before the detection unit detects the product in the detection target area again, the number of products of the product is recognized. The product registration device according to claim 5, which is a process of determining whether or not the product has been recognized by the means. 前記検出手段によって前記検出対象エリア内の商品が検出された後に、前記商品の数の前記商品が前記認識手段によって認識されなかった場合に、警告処理を行う警告手段を有する請求項５に記載の商品登録装置。   6. The alarm unit according to claim 5, further comprising a warning unit that performs a warning process when the recognition unit does not recognize the number of the products after the products in the detection target area are detected by the detection unit. Product registration device. 前記認識手段は、前記商品を撮像して画像を生成し、
前記撮像手段の撮像素子の解像度は前記認識手段の撮像素子の解像度よりも低い請求項１乃至８いずれか一項に記載の商品登録装置。 The recognition means captures an image of the product to generate an image,
The product registration device according to claim 1, wherein a resolution of an image sensor of the image capturing unit is lower than a resolution of an image sensor of the recognizing unit. コンピュータを、請求項１乃至９いずれか一項に記載の商品登録装置として動作させるプログラム。   A program for causing a computer to operate as the product registration device according to claim 1. コンピュータによって実行される制御方法であって、
商品を認識する認識ステップと、
顧客の動作を撮像して画像を生成する撮像ステップと、
前記撮像ステップによって生成された画像を用いて、前記認識ステップによって商品が認識されるエリアである認識エリアを含む検出対象エリア内の商品を検出する検出ステップと、
前記検出ステップにおける検出結果をトリガとして、商品が前記認識ステップによって認識されたか否かを判定する判定処理を行う判定ステップと、
を有する制御方法。 A control method executed by a computer,
A recognition step to recognize the product,
An image capturing step of capturing an image of a customer's action and generating an image;
A detection step of detecting a product in a detection target area including a recognition area, which is an area in which the product is recognized in the recognition step, using the image generated in the imaging step;
A determination step of performing a determination process of determining whether or not the product has been recognized by the recognition step, using the detection result in the detection step as a trigger,
And a control method.
JP2019187702A 2019-10-11 2019-10-11 Commodity registration device, program, and control method Pending JP2020074082A (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2019187702A JP2020074082A (en) 2019-10-11 2019-10-11 Commodity registration device, program, and control method
JP2020219020A JP7444454B2 (en) 2019-10-11 2020-12-28 Product registration system, product registration device, control method for product registration device, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019187702A JP2020074082A (en) 2019-10-11 2019-10-11 Commodity registration device, program, and control method

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2015060188A Division JP6648408B2 (en) 2015-03-23 2015-03-23 Product registration device, program, and control method

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2020219020A Division JP7444454B2 (en) 2019-10-11 2020-12-28 Product registration system, product registration device, control method for product registration device, and program

Publications (1)

Publication Number Publication Date
JP2020074082A true JP2020074082A (en) 2020-05-14

Family

ID=70610557

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019187702A Pending JP2020074082A (en) 2019-10-11 2019-10-11 Commodity registration device, program, and control method

Country Status (1)

Country Link
JP (1) JP2020074082A (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022049658A1 (en) * 2020-09-02 2022-03-10 日本電気株式会社 Information processing device, information processing method, and program

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007206996A (en) * 2006-02-02 2007-08-16 Nippon Signal Co Ltd:The Barcode reader and self-checkout register system using the same
JP2013145526A (en) * 2012-01-16 2013-07-25 Toshiba Tec Corp Information processor, store system and program
JP2014132501A (en) * 2014-04-16 2014-07-17 Nec Infrontia Corp Self-pos device and operation method therefor

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007206996A (en) * 2006-02-02 2007-08-16 Nippon Signal Co Ltd:The Barcode reader and self-checkout register system using the same
JP2013145526A (en) * 2012-01-16 2013-07-25 Toshiba Tec Corp Information processor, store system and program
JP2014132501A (en) * 2014-04-16 2014-07-17 Nec Infrontia Corp Self-pos device and operation method therefor

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022049658A1 (en) * 2020-09-02 2022-03-10 日本電気株式会社 Information processing device, information processing method, and program
JP7468672B2 (en) 2020-09-02 2024-04-16 日本電気株式会社 Information processing device, information processing method, and program

Similar Documents

Publication Publication Date Title
JP6204491B2 (en) Verification of fraud in self-checkout terminals
JP6686290B2 (en) System and method
JP6648408B2 (en) Product registration device, program, and control method
US8342401B2 (en) Code reading apparatus and control method
JP2012053708A (en) Store system, sales registration device and program
US20120054052A1 (en) Store system, sales registration apparatus, and control method
JP2020074082A (en) Commodity registration device, program, and control method
JP6443184B2 (en) Checkout system, product registration device, checkout device, program, and checkout method
JP6481467B2 (en) Product registration apparatus, settlement system, program, and control method
JP6891389B2 (en) Product registration device, program, control method, and settlement system
JP7444454B2 (en) Product registration system, product registration device, control method for product registration device, and program
WO2021176840A1 (en) Registration checking device, control method, and program
JP2022111378A (en) Information processing device, information processing method, program, and information processing system
US20190378389A1 (en) System and Method of Detecting a Potential Cashier Fraud
JP6398331B2 (en) Information processing apparatus, control method, and program
JP2012256313A (en) Code reading device, and program
JP6702461B2 (en) Product registration device, settlement system, program, and control method
WO2019181035A1 (en) Registration system, registration method, and program
JP6696554B2 (en) Payment system and payment method
US8448861B2 (en) Code reading apparatus and control method
JP2023067926A (en) Information processor and control method
JP7318753B2 (en) Information processing program, information processing method, and information processing apparatus
JP6532114B1 (en) INFORMATION PROCESSING APPARATUS, INFORMATION PROCESSING METHOD, AND PROGRAM
EP4113458A1 (en) Information processing program, information processing method, and information processing apparatus
JP5255027B2 (en) Code reader and program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20191011

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200630

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200826

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20200929

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201228

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20201228

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20210121

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20210126

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20210219

C211 Notice of termination of reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C211

Effective date: 20210224

C22 Notice of designation (change) of administrative judge

Free format text: JAPANESE INTERMEDIATE CODE: C22

Effective date: 20210309

C22 Notice of designation (change) of administrative judge

Free format text: JAPANESE INTERMEDIATE CODE: C22

Effective date: 20210413

C23 Notice of termination of proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C23

Effective date: 20210427

C03 Trial/appeal decision taken

Free format text: JAPANESE INTERMEDIATE CODE: C03

Effective date: 20210608

C30A Notification sent

Free format text: JAPANESE INTERMEDIATE CODE: C3012

Effective date: 20210608