JP7371748B2 - Image identification cash register device, image identification cash register system, information presentation method, and program - Google Patents

Image identification cash register device, image identification cash register system, information presentation method, and program Download PDF

Info

Publication number
JP7371748B2
JP7371748B2 JP2022163937A JP2022163937A JP7371748B2 JP 7371748 B2 JP7371748 B2 JP 7371748B2 JP 2022163937 A JP2022163937 A JP 2022163937A JP 2022163937 A JP2022163937 A JP 2022163937A JP 7371748 B2 JP7371748 B2 JP 7371748B2
Authority
JP
Japan
Prior art keywords
product
display
information
customer
store clerk
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022163937A
Other languages
Japanese (ja)
Other versions
JP2022179689A (en
Inventor
壮馬 白石
浩太 岩元
秀雄 横井
二徳 高田
恵美 北川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Priority to JP2022163937A priority Critical patent/JP7371748B2/en
Publication of JP2022179689A publication Critical patent/JP2022179689A/en
Application granted granted Critical
Publication of JP7371748B2 publication Critical patent/JP7371748B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G07CHECKING-DEVICES
    • G07GREGISTERING THE RECEIPT OF CASH, VALUABLES, OR TOKENS
    • G07G1/00Cash registers
    • G07G1/01Details for indicating

Description

本発明は、店舗業務を支援する技術に関する。 The present invention relates to technology for supporting store operations.

下記特許文献1には、レジカウンター上に店員用の表示器と顧客用の表示器とを設け、顧客用の表示器に、登録された商品に関する情報やその他の広告情報を出力する技術が開示されている。 Patent Document 1 listed below discloses a technology in which a display for clerks and a display for customers are provided on a checkout counter, and information about registered products and other advertising information is output to the display for customers. has been done.

特開2008-217488号公報JP2008-217488A

店舗は、より多くの顧客を獲得するために、質の高い接客サービスを提供して顧客満足度の向上に努める必要がある。ここで、レジカウンターでの接客サービスの質は、顧客満足度への影響度合いが特に高いと言える。 In order to acquire more customers, stores need to provide high-quality customer service and strive to improve customer satisfaction. Here, it can be said that the quality of customer service at the checkout counter has a particularly high degree of influence on customer satisfaction.

本発明は、上記の課題に鑑みてなされたものである。本発明の目的の一つは、レジカウンターでの接客サービスの質を向上させる技術を提供することである。 The present invention has been made in view of the above problems. One of the objects of the present invention is to provide a technology that improves the quality of customer service at checkout counters.

本発明の画像識別レジ装置は、
ディスプレイ上に載置された商品の画像を用いて、前記商品を識別する商品識別手段と、
識別された前記商品に対して店員が行うべき作業を示す店員用表示情報を前記ディスプレイ上に出力する表示制御手段と、
を備え、
前記店員用表示情報は、前記商品の温めを行うか否かを顧客に確認するように促す指示、及び保冷剤の要否を顧客に確認するように促す指示の少なくとも一つを含む。
The image identification cash register device of the present invention includes:
Product identification means for identifying the product using an image of the product placed on a display;
display control means that outputs display information for a store clerk on the display indicating the work that the store clerk should do with respect to the identified product;
Equipped with
The store clerk display information includes at least one of an instruction to prompt the customer to confirm whether or not to heat the product, and an instruction to urge the customer to confirm whether or not an ice pack is required.

本発明の画像識別レジシステムは、
表示面が商品の載置面として利用されるディスプレイと、
前記ディスプレイ上に載置された商品を撮影し、前記商品の画像を生成する撮像装置と、
前記商品の画像を用いて、前記商品を識別する商品識別手段と、
識別された前記商品に対して店員が行うべき作業を示す店員用表示情報を前記ディスプレイ上に出力する表示制御手段と、
を備え、
前記店員用表示情報は、前記商品の温めを行うか否かを顧客に確認するように促す指示、及び保冷剤の要否を顧客に確認するように促す指示の少なくとも一つを含む。
The image identification cash register system of the present invention includes:
A display whose display surface is used as a product placement surface;
an imaging device that photographs a product placed on the display and generates an image of the product;
Product identification means for identifying the product using an image of the product;
display control means that outputs display information for a store clerk on the display indicating the work that the store clerk should do with respect to the identified product;
Equipped with
The store clerk display information includes at least one of an instruction to prompt the customer to confirm whether or not to heat the product, and an instruction to urge the customer to confirm whether or not an ice pack is required.

本発明の情報提示方法は、
コンピュータが、
ディスプレイ上に載置された商品の画像を用いて、前記商品を識別し、
識別された前記商品に対して店員が行うべき作業を示す店員用表示情報を前記ディスプレイ上に出力する、
ことを含み、
前記店員用表示情報は、前記商品の温めを行うか否かを顧客に確認するように促す指示、及び保冷剤の要否を顧客に確認するように促す指示の少なくとも一つを含む。
The information presentation method of the present invention includes:
The computer is
identifying the product using an image of the product placed on the display;
Outputting display information for a store clerk on the display indicating the work that the store clerk should do with respect to the identified product;
including that
The store clerk display information includes at least one of an instruction to prompt the customer to confirm whether or not to heat the product, and an instruction to urge the customer to confirm whether or not an ice pack is required.

本発明のプログラムは、コンピュータに上述の情報提示方法を実行させる。 The program of the present invention causes a computer to execute the above-described information presentation method.

本発明によれば、レジカウンターでの接客サービスの質を向上させることができる。 According to the present invention, the quality of customer service at the checkout counter can be improved.

上述した目的、およびその他の目的、特徴および利点は、以下に述べる好適な実施の形態、およびそれに付随する以下の図面によってさらに明らかになる。 The above-mentioned objects, and other objects, features, and advantages will become more apparent from the preferred embodiments described below and the accompanying drawings.

第1実施形態における画像識別レジシステムの構成例を示す図である。1 is a diagram showing a configuration example of an image identification register system in a first embodiment; FIG. 画像識別レジシステム1のハードウエア構成を例示するブロック図である。1 is a block diagram illustrating the hardware configuration of an image identification register system 1. FIG. 第1実施形態の画像識別レジシステムにより実行される処理の流れを例示するシーケンス図である。FIG. 2 is a sequence diagram illustrating the flow of processing executed by the image identification register system of the first embodiment. 商品情報記憶部が記憶する情報の一例を示す図である。It is a figure which shows an example of the information which a product information storage part memorize|stores. 画像識別レジ装置のメモリに記憶される購入商品リストの一例を示す図である。FIG. 3 is a diagram showing an example of a purchased product list stored in the memory of the image identification cash register device. 店員用表示情報記憶部が記憶する情報の一例を示す図である。It is a figure which shows an example of the information which the display information storage part for store clerks memorize|stores. 第2実施形態の画像識別レジシステムにより実行される処理の流れを例示するシーケンス図である。FIG. 7 is a sequence diagram illustrating the flow of processing executed by the image identification register system of the second embodiment. 第3実施形態における画像識別レジシステムの構成例を示す図である。It is a figure showing an example of composition of an image identification register system in a 3rd embodiment. 店員用表示情報および顧客用表示情報を出力する向きの一例を示す図である。It is a figure showing an example of the direction in which display information for store clerks and display information for customers are output. 第3実施形態の画像識別レジシステムにより実行される処理の流れを例示するフローチャートである。It is a flowchart which illustrates the flow of processing performed by the image identification register system of a 3rd embodiment. 店員用表示情報および顧客用表示情報の出力例を示す図である。It is a figure which shows the output example of the display information for store clerks, and the display information for customers.

以下、本発明の実施形態について、図面を用いて説明する。尚、すべての図面において、同様な構成要素には同様の符号を付し、適宜説明を省略する。また、特に説明する場合を除き、各ブロック図において、各ブロックは、ハードウエア単位の構成ではなく、機能単位の構成を表している。 Embodiments of the present invention will be described below with reference to the drawings. Note that in all the drawings, similar components are denoted by the same reference numerals, and descriptions thereof will be omitted as appropriate. Furthermore, unless otherwise specified, each block in each block diagram represents a configuration of a functional unit rather than a configuration of a hardware unit.

[第1実施形態]
〔システム構成〕
図1は、第1実施形態における画像識別レジシステム1の構成例を示す図である。なお、図1はあくまで例示であり、本発明に係る画像識別レジシステム1は図1に描かれる構成に限定されない。図1に示されるように、画像識別レジシステム1は、画像識別レジ装置10、撮像装置30、およびディスプレイ40を含んで構成される。画像識別レジ装置10は、図示しない配線等によって撮像装置30、およびディスプレイ40と接続されている。また、画像識別レジ装置10には、会計処理を行うための会計処理用機器(図示せず)が接続されている。会計処理機器は、例えば、バーコードスキャナ、キャッシャ、ドロワ、自動釣銭機、レシートプリンタ、キーボードやマウスなどの入力機器、スピーカーなどの出力機器などである。
[First embodiment]
〔System configuration〕
FIG. 1 is a diagram showing a configuration example of an image identification register system 1 in the first embodiment. Note that FIG. 1 is merely an example, and the image identification register system 1 according to the present invention is not limited to the configuration depicted in FIG. 1. As shown in FIG. 1, the image identification cash register system 1 includes an image identification cash register device 10, an imaging device 30, and a display 40. The image identification register device 10 is connected to an imaging device 30 and a display 40 via wiring (not shown) or the like. Furthermore, an accounting processing device (not shown) for performing accounting processing is connected to the image identification cash register device 10. Accounting processing devices include, for example, barcode scanners, cashiers, drawers, automatic change machines, receipt printers, input devices such as keyboards and mice, and output devices such as speakers.

ディスプレイ40は、店舗の業務(例えば、商品の精算業務など)で利用する様々な画像をその表示面上に表示する。なお、ディスプレイ40は、指やタッチペンなどを用いたタッチ操作による入力を受け付ける機能を有するタッチパネルディスプレイであってもよい。ディスプレイ40の表示面は、図示されるように、商品Pを載置する載置面としても利用される。ここで、商品Pは、購入対象の商品である。 The display 40 displays various images used in store operations (for example, product checkout operations) on its display surface. Note that the display 40 may be a touch panel display having a function of receiving input by touch operation using a finger, a touch pen, or the like. The display surface of the display 40 is also used as a placement surface on which the product P is placed, as shown in the figure. Here, the product P is a product to be purchased.

図1に示されるように、撮像装置30は、ディスプレイ40を撮像範囲に含むように配置されている。撮像装置30は、ディスプレイ40の表示面上に載置された商品Pを撮影して、商品Pが写っている画像を生成する。撮像装置30により生成された画像は、画像識別レジ装置10に送信される。 As shown in FIG. 1, the imaging device 30 is arranged so that the display 40 is included in the imaging range. The imaging device 30 photographs the product P placed on the display surface of the display 40 and generates an image showing the product P. The image generated by the imaging device 30 is transmitted to the image identification register device 10.

図1に例示されるように、本実施形態の画像識別レジ装置10は、商品識別部110および表示制御部120を備える。 As illustrated in FIG. 1, the image identification cash register device 10 of this embodiment includes a product identification section 110 and a display control section 120.

商品識別部110は、ディスプレイ40上に載置された商品Pの画像を撮像装置30から取得する。また、商品識別部110は、ディスプレイ上に載置された商品Pの画像を用いて、商品Pを識別する。具体的には、表示制御部120は、ディスプレイ上に載置された商品Pの画像解析することにより、当該商品Pの識別結果および当該商品Pの位置の識別結果などを取得することができる。ここで、商品識別部110は、既知の物体認識技術(例えば、パターンマッチングや機械学習により構築された識別器など)を用いて、撮像装置30により生成された画像に写っている商品およびその商品の位置を識別することができる。また、撮像装置30により生成された画像に複数の商品が写っている場合であっても、商品識別部110は、既知の物体認識アルゴリズムを用いて、それらの商品をそれぞれ個別に識別することができる。そして、商品識別部110は、識別した商品に関する情報(商品情報)を、各商品の商品情報を記憶する商品情報記憶部112から取得する。そして、商品識別部110は、商品の識別結果に基づいて取得される商品情報を用いて、購入対象商品のリストを生成する。商品識別部110により生成される購入対象商品のリストは、画像識別レジ装置10のメモリなどに記憶される。 The product identification unit 110 acquires an image of the product P placed on the display 40 from the imaging device 30. Further, the product identification unit 110 identifies the product P using the image of the product P placed on the display. Specifically, the display control unit 120 can obtain the identification result of the product P, the identification result of the position of the product P, etc. by analyzing the image of the product P placed on the display. Here, the product identification unit 110 uses known object recognition technology (for example, a classifier constructed by pattern matching or machine learning) to identify the products shown in the image generated by the imaging device 30 and the products. can identify the location of Further, even if multiple products are included in the image generated by the imaging device 30, the product identification unit 110 can individually identify each of the products using a known object recognition algorithm. can. The product identification unit 110 then acquires information regarding the identified product (product information) from the product information storage unit 112 that stores product information for each product. The product identification unit 110 then generates a list of products to be purchased using the product information acquired based on the product identification results. The list of products to be purchased generated by the product identification unit 110 is stored in the memory of the image identification register device 10 or the like.

表示制御部120は、商品識別部110による商品の識別結果に基づいて、店員向けの表示情報(以下、「店員用表示情報」と表記)をディスプレイ40上に出力する。店員用表示情報は、商品識別部110により識別された単体の商品または複数の商品の組み合わせに応じて店員が行うべき作業を示す情報を含んでいる。 The display control unit 120 outputs display information for store staff (hereinafter referred to as “display information for store staff”) on the display 40 based on the product identification result by the product identification unit 110. The display information for the store clerk includes information indicating the work that the store clerk should perform according to the single product or the combination of multiple products identified by the product identification unit 110.

一例として、店員用表示情報は、電子レンジなどを使って商品の温めを行うか否かを顧客に確認するように促す指示を含む。表示制御部120は、例えばお弁当といった温めが必要な商品が商品識別部110により識別された場合に、このような店員用表示情報を店員用表示情報記憶部122から取得してディスプレイ40上に出力する。他の一例として、店員用表示情報は、保冷剤の要否を顧客に確認するように促す指示を含む。表示制御部120は、例えばアイスなどの熱に弱いなど商品が商品識別部110により識別された場合に、このような店員用表示情報を店員用表示情報記憶部122から取得してディスプレイ40上に出力する。また、他の一例として、店員用表示情報は、顧客が購入した商品を複数の袋に分けて入れるか否かを顧客に確認するように促す指示を含む。表示制御部120は、例えば、食品と共に非食品が商品識別部110により識別された場合、このような店員用表示情報を店員用表示情報記憶部122から取得してディスプレイ40上に出力する。また、表示制御部120は、例えば、アイスなどの熱に弱い商品と共にホットドリンクなどの熱を持った商品が商品識別部110により識別された場合に、このような店員用表示情報を店員用表示情報記憶部122から取得してディスプレイ40上に出力してもよい。なお、これらはあくまで一例であり、店員用表示情報はここで挙げた例に制限されない。 As an example, the display information for store staff includes an instruction prompting the customer to confirm whether or not to heat the product using a microwave oven or the like. When the product identification unit 110 identifies a product that requires heating, such as a lunch box, the display control unit 120 acquires such salesperson display information from the salesclerk display information storage unit 122 and displays it on the display 40. Output. As another example, the display information for store staff includes an instruction prompting the customer to confirm whether or not an ice pack is necessary. For example, when a product such as ice cream that is sensitive to heat is identified by the product identification unit 110, the display control unit 120 acquires such salesperson display information from the salesclerk display information storage unit 122 and displays it on the display 40. Output. Further, as another example, the display information for the store clerk includes an instruction prompting the customer to confirm whether or not to put the products purchased by the customer into multiple bags. For example, when food and non-food products are identified by product identification section 110, display control section 120 acquires such store clerk display information from store clerk display information storage section 122 and outputs it on display 40. In addition, for example, when the product identification unit 110 identifies a heat-sensitive product such as ice cream as well as a heat-sensitive product such as a hot drink, the display control unit 120 displays such display information for the store staff. It may also be acquired from the information storage unit 122 and output on the display 40. Note that these are just examples, and the display information for clerks is not limited to the examples given here.

〔ハードウエア構成例〕
画像識別レジシステム1は、各機能構成部を実現するハードウエア(例:ハードワイヤードされた電子回路など)で実現されてもよいし、ハードウエアとソフトウエアとの組み合わせ(例:電子回路とそれを制御するプログラムの組み合わせなど)で実現されてもよい。以下、画像識別レジシステム1がハードウエアとソフトウエアとの組み合わせで実現される場合について、さらに説明する。
[Hardware configuration example]
The image identification cash register system 1 may be realized by hardware (e.g., hard-wired electronic circuits) that realizes each functional component, or may be realized by a combination of hardware and software (e.g., an electronic circuit and its It may also be realized by a combination of programs that control the A case in which the image identification register system 1 is realized by a combination of hardware and software will be further described below.

図2は、画像識別レジシステム1のハードウエア構成を例示するブロック図である。 FIG. 2 is a block diagram illustrating the hardware configuration of the image identification register system 1. As shown in FIG.

画像識別レジ装置10は、バス1010、プロセッサ1020、メモリ1030、ストレージデバイス1040、入出力インタフェース1050、及びネットワークインタフェース1060を有する。 The image identification cash register device 10 has a bus 1010, a processor 1020, a memory 1030, a storage device 1040, an input/output interface 1050, and a network interface 1060.

バス1010は、プロセッサ1020、メモリ1030、ストレージデバイス1040、入出力インタフェース1050、及びネットワークインタフェース1060が、相互にデータを送受信するためのデータ伝送路である。ただし、プロセッサ1020などを互いに接続する方法は、バス接続に限定されない。 The bus 1010 is a data transmission path through which the processor 1020, memory 1030, storage device 1040, input/output interface 1050, and network interface 1060 exchange data with each other. However, the method of connecting the processors 1020 and the like to each other is not limited to bus connection.

プロセッサ1020は、CPU(Central Processing Unit) やGPU(Graphics Processing Unit)などで実現されるプロセッサである。 The processor 1020 is a processor implemented by a CPU (Central Processing Unit), a GPU (Graphics Processing Unit), or the like.

メモリ1030は、RAM(Random Access Memory)などで実現される主記憶装置である。 The memory 1030 is a main storage device implemented by RAM (Random Access Memory) or the like.

ストレージデバイス1040は、HDD(Hard Disk Drive)、SSD(Solid State Drive)、メモリカード、又はROM(Read Only Memory)などで実現される補助記憶装置である。ストレージデバイス1040は画像識別レジ装置10の各機能(商品識別部110および表示制御部120など)を実現するプログラムモジュールを記憶している。プロセッサ1020がこれら各プログラムモジュールをメモリ1030上に読み込んで実行することで、そのプログラムモジュールに対応する各機能が実現される。 The storage device 1040 is an auxiliary storage device realized by a HDD (Hard Disk Drive), an SSD (Solid State Drive), a memory card, a ROM (Read Only Memory), or the like. The storage device 1040 stores program modules that implement each function of the image identification register device 10 (product identification section 110, display control section 120, etc.). When the processor 1020 reads each of these program modules onto the memory 1030 and executes them, each function corresponding to the program module is realized.

入出力インタフェース1050は、画像識別レジ装置10と各種入出力デバイスとを接続するためのインタフェースである。図2では、画像識別レジ装置10は、撮像装置30およびディスプレイ40と、入出力インタフェース1050を介して接続されている。撮像装置30は、例えば、CCD(Charge Coupled Device)イメージセンサやCMOS(Complementary Metal Oxide Semiconductor)イメージセンサを搭載するカメラである。撮像装置30は、図示されるように、ディスプレイ40(およびディスプレイ40上に載置される商品P)を撮像範囲に含むように設置される。撮像装置30は、ディスプレイ40上に載置された商品Pを撮影して、その商品Pが写る画像を生成する。ディスプレイ40は、一般的な表示用のデバイスである。ディスプレイ40は、タッチ機能付きのディスプレイ(タッチパネルディスプレイ)であってもよい。なお、ディスプレイ40は、商品Pの載置面としても利用される。そのため、ディスプレイ40の表示面としては、好ましくは、LCD(Liquid Crystal Display)、PDP(Plasma Display Panel)、有機EL(Electro Luminescence)などの平面型ディスプレイが利用される。また、入出力インタフェース1050には、図示しない会計処理用機器が接続されている。会計処理用機器は、例えば、バーコードスキャナ、キャッシャ、ドロワ、自動釣銭機、レシートプリンタ、キーボードやマウスなどの入力機器、スピーカーなどの出力機器を含む。また、会計処理用機器として、店員専用または顧客専用のディスプレイ(ディスプレイ40とは異なるディスプレイ)が、入出力インタフェース1050を介して画像識別レジ装置10と接続されていてもよい。 The input/output interface 1050 is an interface for connecting the image identification register device 10 and various input/output devices. In FIG. 2, the image identification register device 10 is connected to the imaging device 30 and the display 40 via an input/output interface 1050. The imaging device 30 is, for example, a camera equipped with a CCD (Charge Coupled Device) image sensor or a CMOS (Complementary Metal Oxide Semiconductor) image sensor. As illustrated, the imaging device 30 is installed so that the imaging range includes the display 40 (and the product P placed on the display 40). The imaging device 30 photographs the product P placed on the display 40 and generates an image showing the product P. Display 40 is a general display device. The display 40 may be a display with a touch function (touch panel display). Note that the display 40 is also used as a surface on which the product P is placed. Therefore, as the display surface of the display 40, a flat display such as an LCD (Liquid Crystal Display), a PDP (Plasma Display Panel), or an organic EL (Electro Luminescence) is preferably used. Furthermore, an accounting processing device (not shown) is connected to the input/output interface 1050. Accounting processing devices include, for example, barcode scanners, cashiers, drawers, automatic change machines, receipt printers, input devices such as keyboards and mice, and output devices such as speakers. Further, as a checkout processing device, a display exclusively for store staff or for customers (a display different from display 40) may be connected to image identification register device 10 via input/output interface 1050.

ネットワークインタフェース1060は、画像識別レジ装置10をネットワークに接続するためのインタフェースである。このネットワークは、例えばLAN(Local Area Network)やWAN(Wide Area Network)である。ネットワークインタフェース1060がネットワークに接続する方法は、無線接続であってもよいし、有線接続であってもよい。 Network interface 1060 is an interface for connecting image identification cash register device 10 to a network. This network is, for example, a LAN (Local Area Network) or a WAN (Wide Area Network). The method by which the network interface 1060 connects to the network may be a wireless connection or a wired connection.

図2は、あくまで一例であり、画像識別レジシステム1のハードウエア構成は図2の例に制限されない。例えば、画像識別レジ装置10は、ネットワークインタフェース1060を介して、撮像装置30およびディスプレイ40と接続されていてもよい。 FIG. 2 is just an example, and the hardware configuration of the image identification register system 1 is not limited to the example of FIG. 2. For example, the image identification register device 10 may be connected to the imaging device 30 and the display 40 via the network interface 1060.

〔処理の流れ〕
図3を用いて、本実施形態の画像識別レジシステム1により実行される処理の流れを説明する。図3は、第1実施形態の画像識別レジシステム1により実行される処理の流れを例示するシーケンス図である。
[Processing flow]
The flow of processing executed by the image identification register system 1 of this embodiment will be explained using FIG. 3. FIG. 3 is a sequence diagram illustrating the flow of processing executed by the image identification register system 1 of the first embodiment.

まず、商品識別部110は、撮像装置30により生成された撮影画像を取得する(S102)。例えば、撮像装置30は、イメージセンサのセンシング結果(撮影画像)を、商品識別部110に常時出力している。また、撮像装置30は、商品識別部110の指示に応じて、画像を生成するように構成されていてもよい。そして、商品識別部110は、撮像装置30から取得した撮影画像の中に商品が存在するか否かを判定する(S104)。例えば、商品識別部110は、取得された撮影画像(または撮影画像から抽出される特徴量)を商品識別エンジン(図示せず)に入力して得られる出力結果に基づいて、撮影画像の中に商品が存在するか否かを判定することができる。その他にも、商品識別部110は、エッジ特徴量などを用いて撮影画像の中から物体の領域を検出した後、テンプレートマッチングなどを行って当該物体が商品か否かを判定してもよい。 First, the product identification unit 110 acquires a captured image generated by the imaging device 30 (S102). For example, the imaging device 30 constantly outputs the sensing results (photographed images) of the image sensor to the product identification section 110. Furthermore, the imaging device 30 may be configured to generate images in response to instructions from the product identification unit 110. Then, the product identification unit 110 determines whether a product exists in the captured image acquired from the imaging device 30 (S104). For example, the product identification unit 110 inputs the acquired photographed image (or the feature amount extracted from the photographed image) into a product identification engine (not shown), and based on the output result obtained, the It is possible to determine whether a product exists. Alternatively, the product identification unit 110 may detect an object area from a photographed image using an edge feature amount or the like, and then perform template matching or the like to determine whether the object is a product.

撮影画像の中に商品が存在しない場合(S104:NO)、商品識別部110は、撮像装置30により生成される新たな撮影画像を取得し、その新たな撮影画像の中に商品が存在する否かを判定する。 If the product does not exist in the captured image (S104: NO), the product identification unit 110 acquires a new captured image generated by the imaging device 30, and determines whether or not the product exists in the new captured image. Determine whether

一方、撮影画像の中に商品が存在する場合(S104:YES)、商品識別部110は、商品識別エンジンから、撮影画像内の商品の識別結果(例えば、商品ID(Identifier)や商品名など)と、当該商品の位置の識別結果を取得することができる。更に、商品識別部110は、商品の識別結果に基づいて、その商品の商品情報を取得することができる(S106)。商品識別部110は、例えば図4に示すような商品情報記憶部112から、識別した商品の商品情報を取得することができる。 On the other hand, if the product exists in the captured image (S104: YES), the product identification unit 110 receives the product identification result (for example, product ID (Identifier), product name, etc.) in the captured image from the product identification engine. Then, the identification result of the position of the product can be obtained. Furthermore, the product identification unit 110 can acquire product information of the product based on the product identification result (S106). The product identification unit 110 can acquire product information of the identified product from a product information storage unit 112 as shown in FIG. 4, for example.

図4は、商品情報記憶部112が記憶する情報の一例を示す図である。図4の例では、商品情報記憶部112は、商品ID、商品名、商品の価格、および商品のカテゴリ(分類)を含む商品情報を記憶している。なお、図4に例示される商品情報はあくまで一例である。商品情報は、例えば、商品に適用される特典に関する情報(値引きの額やロイヤリティプログラムのポイント数など)などを更に含んでいてもよい。具体的な例として、S106の処理で、商品識別エンジンを用いた商品の識別結果として、商品ID「000101」および商品ID「100001」が取得できたとする。この場合、商品識別部110は、これらの商品IDに基づいて、商品名「焼肉弁当」、価格「500円」、カテゴリ「食品/弁当類」という商品情報と、商品名「食器用洗剤」、価格「250円」、カテゴリ「日用品」という商品情報と、を取得することができる。 FIG. 4 is a diagram showing an example of information stored in the product information storage section 112. In the example of FIG. 4, the product information storage unit 112 stores product information including a product ID, a product name, a product price, and a product category (classification). Note that the product information illustrated in FIG. 4 is just an example. The product information may further include, for example, information regarding benefits applied to the product (amount of discount, number of loyalty program points, etc.). As a specific example, assume that in the process of S106, product ID "000101" and product ID "100001" are obtained as product identification results using the product identification engine. In this case, the product identification unit 110 identifies product information such as product name "Yakiniku Bento", price "500 yen", category "Food/Lunch", product name "Dishwashing detergent", and product information based on these product IDs. It is possible to obtain product information including a price of "250 yen" and a category of "daily necessities."

そして、商品識別部110は、S106で取得した商品情報を、メモリ1030などに保持されている購入商品リストに追加する(S108)。メモリ1030には、例えば図5に例示されるような購入商品リストが記憶される。図5は、メモリ1030に記憶される購入商品リストの一例を示す図である。図5に例示されるように、購入商品リストは、商品の識別結果に基づいて取得された商品情報を含んでいる。 The product identification unit 110 then adds the product information acquired in S106 to the purchased product list held in the memory 1030 or the like (S108). The memory 1030 stores a purchased product list as illustrated in FIG. 5, for example. FIG. 5 is a diagram showing an example of a purchased product list stored in memory 1030. As illustrated in FIG. 5, the purchased product list includes product information acquired based on product identification results.

表示制御部120は、メモリ1030などに記憶されている購入商品リストに含まれている商品情報に基づいて、ディスプレイ40上に出力すべき店員用表示情報を選択する(S110)。表示制御部120は、例えば、図6に例示されるような店員用表示情報記憶部122から、店員用表示情報を取得することができる。 The display control unit 120 selects the display information for the store clerk to be output on the display 40 based on the product information included in the purchased product list stored in the memory 1030 or the like (S110). The display control unit 120 can acquire the salesperson display information from the salesperson display information storage unit 122 as illustrated in FIG. 6, for example.

図6は、店員用表示情報記憶部122が記憶する情報の一例を示す図である。図6の例では、店員用表示情報記憶部122は、各種店員用表示情報と対応付けて、その店員用表示情報の選択条件に関する情報を記憶している。図6において、選択条件は、「温めが必要」、「熱に弱い」、「食品と非食品」といった、商品の属性に基づいて設定されている。つまり、図6の例において、各々の店員用表示情報は、商品の属性に関連付けて記憶されていると言える。 FIG. 6 is a diagram showing an example of information stored in the store clerk display information storage section 122. In the example of FIG. 6, the store clerk display information storage section 122 stores information regarding selection conditions for store clerk display information in association with various store clerk display information. In FIG. 6, the selection conditions are set based on attributes of the product, such as "needs heating," "susceptible to heat," and "food and non-food." That is, in the example of FIG. 6, it can be said that each store clerk display information is stored in association with the attribute of the product.

図6に例示されている店員用表示情報Aは、商品の温めの要否を顧客に確認するように促す指示に関する情報である。この店員用表示情報Aの選択条件は「温めが必要な商品が購入商品リストに含まれている」である。なお、表示制御部120は、「温めが必要な商品が購入商品リストに含まれているか否か」について、例えば、S106の処理で取得された商品情報に含まれる、商品のカテゴリに関する情報に基づいて判断できる。例えば、図5に示される購入商品リストがメモリ1030に記憶されている場合、表示制御部120は、商品名「焼肉弁当」のカテゴリ「食品/弁当類」に基づいて、当該商品を温めが必要な商品と判断することができる。この場合、表示制御部120は、店員用表示情報Aを店員用表示情報記憶部122から取得する。 The display information A for store clerks illustrated in FIG. 6 is information regarding an instruction to prompt the customer to confirm whether or not warming the product is necessary. The selection condition for this display information A for clerks is that "products that require heating are included in the purchased product list." Note that the display control unit 120 determines whether or not a product that requires warming is included in the purchased product list based on, for example, information regarding the product category included in the product information acquired in the process of S106. You can judge by For example, when the purchased product list shown in FIG. It can be determined that the product is of good quality. In this case, the display control unit 120 acquires the salesperson display information A from the salesperson display information storage unit 122.

また、図6に例示されている店員用表示情報Bは、保冷剤の要否を顧客に確認するように促す指示に関する情報である。この店員用表示情報Bの選択条件は「熱に弱い商品が購入商品リストに含まれている」である。表示制御部120は、店員用表示情報Aの場合と同様に、店員用表示情報Bの選択要否を、商品のカテゴリに関する情報に基づいて判断できる。例えば、図5に示される購入商品リストがメモリ1030に記憶されている場合、表示制御部120は、選択条件が満たされないため、店員用表示情報Bは不要と判断できる。 Further, the display information B for the store clerk illustrated in FIG. 6 is information regarding an instruction to prompt the customer to confirm whether or not an ice pack is necessary. The selection condition for this display information B for clerks is that "a product that is sensitive to heat is included in the list of purchased products." As in the case of the display information A for salesclerks, the display control unit 120 can determine whether selection of the display information B for salesclerks is necessary based on information regarding the product category. For example, if the purchased product list shown in FIG. 5 is stored in the memory 1030, the display control unit 120 can determine that the salesperson display information B is unnecessary because the selection conditions are not satisfied.

また、図6に例示されている店員用表示情報Cは、食品と非食品で袋を分けるかを顧客に確認するように促す指示に関する情報である。この店員用表示情報Cの選択条件は「食品および非食品が購入商品リストに含まれている」である。なお、表示制御部120は、「食品および非食品が購入商品リストに含まれているか否か」について、例えば、S106の処理で取得された商品情報に含まれる、商品のカテゴリに関する情報に基づいて判断できる。例えば、図5に示される購入商品リストがメモリ1030に記憶されている場合、表示制御部120は、商品名「焼肉弁当」のカテゴリ「食品/弁当類」と、商品名「食器用洗剤」のカテゴリ「日用品」に基づいて、食品および非食品が購入リストに含まれていると判断することができる。この場合、表示制御部120は、店員用表示情報Cを店員用表示情報記憶部122から取得する。 Further, the display information C for store clerks illustrated in FIG. 6 is information regarding an instruction to prompt the customer to confirm whether to separate bags into food and non-food items. The selection condition for this display information C for clerks is that "food and non-food items are included in the list of purchased products." Note that the display control unit 120 determines whether "foods and non-foods are included in the purchased product list" based on, for example, information regarding product categories included in the product information acquired in the process of S106. I can judge. For example, if the purchased product list shown in FIG. Based on the category "Daily Necessities", it can be determined that food and non-food items are included in the purchase list. In this case, the display control unit 120 acquires the salesperson display information C from the salesperson display information storage unit 122.

ディスプレイ40上に出力すべき店員用表示情報を選択する流れは、上述の例に限定されない。例えば、店員用表示情報記憶部122は、各店員用表示情報と商品IDとを互いに関連付けて記憶していてもよい。この場合、表示制御部120は、購入商品リストに含まれる個々の商品ID、および、個々の商品IDの組み合わせに基づいて、ディスプレイ40上に出力すべき店員用表示情報を特定することができる。 The flow of selecting the store clerk display information to be output on the display 40 is not limited to the above example. For example, the store clerk display information storage section 122 may store each store clerk display information and product ID in association with each other. In this case, the display control unit 120 can specify the store clerk display information to be output on the display 40 based on the individual product IDs included in the purchased product list and the combination of the individual product IDs.

図3に戻り、表示制御部120は、選択した店員用表示情報の出力指示をディスプレイ40に送信する(S112)。ディスプレイ40は、S112の出力指示に応じて、店員用表示情報を出力する(S114)。 Returning to FIG. 3, the display control unit 120 transmits an instruction to output the selected store clerk display information to the display 40 (S112). The display 40 outputs display information for the store clerk in response to the output instruction in S112 (S114).

店員は、このようにディスプレイ40上に出力される店員用表示情報を確認することにより、自身が行うべき作業を容易に把握することができる。そして、店員が、ディスプレイ40上の情報に従って作業を適切に行うことにより、店員の作業漏れを防止して、質の高い接客サービスを顧客に提供することができる。 By checking the display information for the store clerk output on the display 40 in this way, the store clerk can easily understand the work to be performed by the store clerk. By having the store clerk perform work appropriately in accordance with the information on the display 40, it is possible to prevent the store clerk from omitting work and provide high-quality customer service to the customer.

[第2実施形態]
図1にされるような画像識別レジシステム1において、顧客もディスプレイ40を視認可能な位置に立つ。本実施形態の画像識別レジシステム1は、顧客に有用な表示情報(以下、「顧客用表示情報」と表記)をディスプレイ40上に表示させる構成を更に備える。
[Second embodiment]
In the image identification cash register system 1 as shown in FIG. 1, a customer also stands in a position where the display 40 can be viewed. The image identification cash register system 1 of this embodiment further includes a configuration for displaying display information useful for customers (hereinafter referred to as "display information for customers") on the display 40.

〔システム構成〕
本実施形態の画像識別レジシステム1は、第1実施形態と同様の構成(例:図1)を有する。本実施形態において、表示制御部120は、商品識別部110による商品の識別結果に基づいて、顧客用表示情報をディスプレイ40上に更に出力する。
〔System configuration〕
The image identification register system 1 of this embodiment has a configuration similar to that of the first embodiment (eg, FIG. 1). In this embodiment, the display control unit 120 further outputs customer display information on the display 40 based on the product identification result by the product identification unit 110.

ここで、顧客用表示情報は、レジ業務の状況を示す情報を含む。具体的には、顧客用表示情報は、商品識別部110による商品の識別結果(例えば、商品名、商品の数、商品の価格、商品の数、商品に適用される特典に関する情報など)を含む。また、顧客用表示情報は、顧客の購買意欲を促進する情報を含む。具体的には、顧客用表示情報は、商品識別部110により識別された商品の関連商品の広告などを含む。 Here, the customer display information includes information indicating the status of cashier operations. Specifically, the customer display information includes product identification results by the product identification unit 110 (for example, product name, number of products, price of the product, number of products, information regarding benefits applied to the product, etc.) . Moreover, the display information for customers includes information that promotes the customer's desire to purchase. Specifically, the customer display information includes advertisements for products related to the product identified by the product identification unit 110.

〔処理の流れ〕
図7を用いて本実施形態の画像識別レジシステム1により実行される処理の流れを説明する。図7は、第2実施形態の画像識別レジシステム1により実行される処理の流れを例示するシーケンス図である。
[Processing flow]
The flow of processing executed by the image identification register system 1 of this embodiment will be explained using FIG. 7. FIG. 7 is a sequence diagram illustrating the flow of processing executed by the image identification register system 1 of the second embodiment.

S202からS210までの処理は、図3のS102からS110までの処理と同様である。本実施形態の表示制御部120は、図3のS102からS110までの処理と同様の処理に加えて、次の処理を実行する。すなわち、表示制御部120は、商品識別部110による商品の識別結果に基づいて、顧客用表示情報を生成する(S212)。一例として、表示制御部120は、商品識別部110による商品の識別結果を用いて、購入対象の商品として識別された商品のリストおよびそれら商品の合計金額を含む顧客用表示情報を生成する。他の一例として、表示制御部120は、商品識別部110による商品の識別結果を用いて、その商品に関連する商品の広告情報を含む顧客用表示情報を生成する。なお、商品の広告情報は、例えば、ストレージデバイス1040などに、各商品の識別情報と関連付けて記憶されている。 The processing from S202 to S210 is similar to the processing from S102 to S110 in FIG. The display control unit 120 of this embodiment executes the following process in addition to the same process as the process from S102 to S110 in FIG. 3. That is, the display control unit 120 generates customer display information based on the product identification result by the product identification unit 110 (S212). As an example, the display control unit 120 uses the product identification result by the product identification unit 110 to generate customer display information including a list of products identified as products to be purchased and the total price of those products. As another example, the display control unit 120 uses the product identification result by the product identification unit 110 to generate customer display information including advertisement information for products related to the product. Note that the product advertisement information is stored in, for example, the storage device 1040 in association with the identification information of each product.

そして、表示制御部120は、S210の処理で選択された店員用表示情報およびS212で生成された顧客用表示情報の出力指示をディスプレイ40に送信する(S214)。ディスプレイ40は、S214の出力指示に応じて、店員用表示情報および顧客用表示情報を出力する(S216)。 Then, the display control unit 120 transmits an instruction to output the store clerk display information selected in the process of S210 and the customer display information generated in S212 to the display 40 (S214). The display 40 outputs the display information for the store clerk and the display information for the customer in response to the output instruction in S214 (S216).

本実施形態では、商品識別部110の識別結果に基づく顧客用表示情報がディスプレイ40上に更に出力される。一例として、レジ業務の状況(例えば、購入対象として識別された商品など)を示す顧客用表示情報が、ディスプレイ40上に表示される。このような顧客用表示情報によって顧客はレジ業務の状況を把握できる。そのため、店員のレジ業務に誤りがあっても即座に気づくことができるという点で、顧客に安心感を与えることができる。他の一例として、顧客の購買意欲を促進する情報(例えば、関連商品の広告情報)を含む顧客用表示情報が、ディスプレイ40上に表示される。このような顧客用表示情報を介して顧客に対してお薦め商品などをアピールすることにより、店舗の売上を増加させる効果が期待できる。 In this embodiment, customer display information based on the identification result of the product identification section 110 is further output on the display 40. As an example, customer display information indicating the status of the cash register operation (for example, products identified as items to be purchased) is displayed on the display 40. Such customer display information allows the customer to grasp the status of the cash register operation. Therefore, even if there is an error in the cashier's cash register operations, it can be noticed immediately, giving customers peace of mind. As another example, customer display information including information that promotes the customer's desire to purchase (for example, advertising information for related products) is displayed on the display 40. By appealing to customers about recommended products and the like through such display information for customers, it is possible to expect the effect of increasing store sales.

[第3実施形態]
図1にされるような画像識別レジシステム1では、店員と顧客はそれぞれ異なる位置に立った状態でレジ業務が進むと想定される。例えば、店員と顧客が、ディスプレイ40が設けられたカウンターを介して対面した状態で、レジ業務が進むと想定される。この場合において、視認性の観点から、店員用表示情報および顧客用表示情報を適切な向きでディスプレイ40上に出力すべきである。
[Third embodiment]
In the image identification cash register system 1 as shown in FIG. 1, it is assumed that the cash register work is performed with the clerk and the customer standing in different positions. For example, it is assumed that a cash register operation is performed with a store clerk and a customer facing each other through a counter provided with the display 40. In this case, from the viewpoint of visibility, the display information for clerks and the display information for customers should be output on the display 40 in appropriate orientations.

〔システム構成例〕
図8は、第3実施形態における画像識別レジシステム1の構成例を示す図である。本実施形態において、画像識別レジ装置10は、店員位置取得部130および顧客位置取得部140を更に有する。
[System configuration example]
FIG. 8 is a diagram showing a configuration example of the image identification register system 1 in the third embodiment. In this embodiment, the image identification cash register device 10 further includes a clerk position acquisition section 130 and a customer position acquisition section 140.

店員位置取得部130は、店員の位置を示す情報(以下、「店員位置情報」と表示)を取得する。一例として、店員位置取得部130は、撮像装置30または図示しない他の撮像装置により生成された画像を解析し、店員位置情報を取得することができる。具体的には、店員位置取得部130は、まず、既知の物体認識アルゴリズムを用いて、画像の中から人物と認識される領域(人物領域)を検出する。そして、店員位置取得部130は、検出された人物領域の中から、予め登録された店員の特徴(店員の顔の特徴または店舗の制服の特徴など)にマッチする領域を特定する。そして、店員位置取得部130は、特定された領域に対応する位置の情報を店員位置情報として取得することができる。なおこの場合において、店員の特徴は、ストレージデバイス1040などに予め登録されている。或いは、画像識別レジシステム1において、店員の作業場所が予め定められている場合、店員位置取得部130は、その作業場所の内部または近傍に存在する人物領域に対応する位置の情報を、店員位置情報として取得してもよい。他の一例として、店員位置取得部130は、図示しないセンサ(例えば、赤外線センサ)などを用いて、店員位置情報を取得することができる。なおこの場合において、店員位置情報を取得するためのセンサは、店員がいると想定される位置をセンシング範囲に含むように設けられる。例えば、店員位置情報を取得するためのセンサは、ディスプレイ40が設けられたカウンターの縁部のうち、店員の作業場所側の縁部に設置される。 The clerk position acquisition unit 130 acquires information indicating the position of the clerk (hereinafter referred to as "clerk position information"). As an example, the store clerk position acquisition unit 130 can analyze an image generated by the imaging device 30 or another imaging device (not shown) and acquire store clerk position information. Specifically, the store clerk position acquisition unit 130 first detects an area recognized as a person (person area) from the image using a known object recognition algorithm. Then, the store clerk position acquisition unit 130 identifies an area that matches the store clerk's pre-registered characteristics (such as the facial features of the store clerk or the characteristics of the store's uniform) from among the detected human regions. The clerk position acquisition unit 130 can then acquire information on the position corresponding to the specified area as clerk position information. Note that in this case, the store clerk's characteristics are registered in advance in the storage device 1040 or the like. Alternatively, in the image identification cash register system 1, when a clerk's work place is predetermined, the clerk position acquisition unit 130 acquires information on a position corresponding to a person area existing inside or near the work place as the clerk's position. It may be obtained as information. As another example, the store clerk position acquisition unit 130 can acquire store clerk position information using a sensor (for example, an infrared sensor), which is not shown. In this case, the sensor for acquiring store clerk position information is provided so that the sensing range includes the position where the store clerk is assumed to be. For example, a sensor for acquiring store clerk position information is installed on the edge of the counter where the display 40 is provided, on the side of the store clerk's work place.

顧客位置取得部140は、顧客の位置を示す情報(以下、「顧客位置情報」と表示)を取得する。一例として、顧客位置取得部140は、撮像装置30または図示しない他の撮像装置により生成された画像を解析し、顧客位置情報を取得することができる。具体的には、顧客位置取得部140は、店員位置取得部130と同様に、まず、既知の物体認識アルゴリズムを用いて、画像の中から人物と認識される領域(人物領域)を検出する。そして、顧客位置取得部140は、検出された人物領域の中から、予め登録された店員の特徴(店員の顔の特徴または店舗の制服の特徴など)にマッチしない領域を特定する。そして、顧客位置取得部140は、特定された領域に対応する位置の情報を顧客位置情報として取得することができる。或いは、画像識別レジシステム1において、顧客の待機場所が予め定められている場合、顧客位置取得部140は、その待機場所の内部または近傍に存在する人物領域に対応する位置の情報を、顧客位置情報として取得してもよい。他の一例として、顧客位置取得部140は、図示しないセンサ(例えば、赤外線センサ)などを用いて、顧客位置情報を取得することができる。なおこの場合において、顧客位置情報を取得するためのセンサは、顧客がいると想定される位置をセンシング範囲に含むように設けられる。例えば、顧客位置情報を取得するためのセンサは、ディスプレイ40が設けられたカウンターの縁部のうち、顧客の待機場所側の縁部に設置される。 The customer location acquisition unit 140 acquires information indicating the customer's location (hereinafter referred to as "customer location information"). As an example, the customer location acquisition unit 140 can analyze an image generated by the imaging device 30 or another imaging device (not shown) and acquire customer location information. Specifically, like the clerk position acquisition unit 130, the customer position acquisition unit 140 first detects an area recognized as a person (person area) from the image using a known object recognition algorithm. Then, the customer position acquisition unit 140 identifies, from among the detected human regions, regions that do not match the store clerk's pre-registered characteristics (such as the store clerk's facial features or store uniform characteristics). The customer location acquisition unit 140 can then acquire location information corresponding to the specified area as customer location information. Alternatively, in the image identification cash register system 1, when a customer's waiting place is predetermined, the customer position acquisition unit 140 acquires position information corresponding to a person area existing inside or near the waiting place as the customer's position. It may be obtained as information. As another example, the customer location acquisition unit 140 can acquire customer location information using a sensor (for example, an infrared sensor), which is not shown. In this case, the sensor for acquiring customer location information is provided so that the sensing range includes the location where the customer is assumed to be. For example, a sensor for acquiring customer position information is installed at the edge of the counter where the display 40 is provided, on the side of the customer's waiting area.

本実施形態の表示制御部120は、店員位置情報によって示される店員の位置に基づいて、店員用表示情報を出力する向きを決定する。また、本実施形態の表示制御部120は、顧客位置情報によって示される顧客の位置に基づいて、顧客用表示情報を出力する向きを決定する。例えば、店員用表示情報および顧客用表示情報を出力する向きは、ディスプレイ40が設けられたカウンターの周囲の領域毎に決められている(例:図9)。図9は、店員用表示情報および顧客用表示情報を出力する向きの一例を示す図である。図9の例では、ディスプレイ40が設けられたカウンターの周囲に4つ領域(領域A~D)が設定されている。領域Aに対応する向きは、図面で上に向かう方向dである。また、領域Bに対応する向きは、図面で右に向かう方向dである。また、領域Cに対応する向きは、図面で下に向かう方向dである。また、領域Dに対応する向きは、図面で左に向かう方向dである。このような情報の出力方向を特定する情報は、例えば、ストレージデバイス1040に記憶されている。表示制御部120は、店員位置情報が示す位置に基づいて、店員が存在する領域を識別することができる。そして、表示制御部120は、店員が存在する領域として識別した領域に対応する方向を、店員用表示情報を出力する方向として決定することができる。同様に、表示制御部120は、顧客位置情報が示す位置に基づいて、顧客が存在する領域を識別することができる。そして、表示制御部120は、顧客が存在する領域として識別した領域に対応する方向を、顧客用表示情報を出力する方向として決定することができる。 The display control unit 120 of this embodiment determines the direction in which the store clerk display information is output based on the store clerk's position indicated by the store clerk position information. Furthermore, the display control unit 120 of this embodiment determines the direction in which the customer display information is output based on the customer's position indicated by the customer position information. For example, the direction in which the store clerk display information and the customer display information are output is determined for each area around the counter where the display 40 is provided (eg, FIG. 9). FIG. 9 is a diagram illustrating an example of the direction in which display information for clerks and display information for customers are output. In the example of FIG. 9, four areas (areas A to D) are set around the counter where the display 40 is provided. The direction corresponding to area A is the upward direction dA in the drawing. Further, the direction corresponding to region B is a direction dB toward the right in the drawing. Further, the direction corresponding to the region C is the downward direction dC in the drawing. Further, the direction corresponding to the region D is a direction dD toward the left in the drawing. Information specifying the output direction of such information is stored in the storage device 1040, for example. The display control unit 120 can identify the area where the store clerk exists based on the position indicated by the store clerk location information. Then, the display control unit 120 can determine the direction corresponding to the area identified as the area where the store clerk is present as the direction in which the store clerk display information is output. Similarly, the display control unit 120 can identify the area where the customer exists based on the location indicated by the customer location information. Then, the display control unit 120 can determine the direction corresponding to the area identified as the area where the customer is present as the direction in which the customer display information is output.

〔ハードウエア構成例〕
本実施形態の画像識別レジシステム1は、第1実施形態と同様のハードウエア構成(例:図2)を有する。本実施形態のストレージデバイス1040は、上述の店員位置取得部130および顧客位置取得部140の機能を実現するプログラムモジュールを更に記憶している。プロセッサ1020が、これらのプログラムモジュールをメモリ1030上に読み出して実行することにより、本実施形態の店員位置取得部130および顧客位置取得部140の機能が実現される。
[Hardware configuration example]
The image identification register system 1 of this embodiment has the same hardware configuration as that of the first embodiment (eg, FIG. 2). The storage device 1040 of this embodiment further stores a program module that implements the functions of the above-described store clerk location acquisition section 130 and customer location acquisition section 140. When the processor 1020 reads these program modules onto the memory 1030 and executes them, the functions of the clerk position acquisition unit 130 and the customer position acquisition unit 140 of this embodiment are realized.

〔処理の流れ〕
図10を用いて本実施形態の画像識別レジシステム1により実行される処理の流れを説明する。図10は、第3実施形態の画像識別レジシステム1により実行される処理の流れを例示するフローチャートである。
[Processing flow]
The flow of processing executed by the image identification register system 1 of this embodiment will be explained using FIG. 10. FIG. 10 is a flowchart illustrating the flow of processing executed by the image identification register system 1 of the third embodiment.

店員位置取得部130および顧客位置取得部140は、それぞれ、店員位置情報および顧客位置情報を取得する(S302)。表示制御部120は、店員位置情報が示す位置に基づいて、店員用表示情報の出力位置および向きを決定する(S304)。また、表示制御部120は、顧客位置情報が示す位置に基づいて、顧客用表示情報の出力位置および向きを決定する(S306)。そして、表示制御部120は、これらの処理の結果に基づいて、店員用表示情報および顧客用表示情報の出力指示を生成し、当該出力指示をディスプレイ40に送信する。そして、店員用表示情報および顧客用表示情報が、それぞれ決定され向きでディスプレイ40上に出力される(例:図11)。図11は、店員用表示情報および顧客用表示情報の出力例を示す図である。図11の例では、店員用表示情報が図中dで示す向きで出力され、かつ、顧客用表示情報が図中dの向きで出力されている様子が描かれている。 The clerk position acquisition unit 130 and the customer position acquisition unit 140 acquire clerk position information and customer position information, respectively (S302). The display control unit 120 determines the output position and orientation of the store clerk display information based on the position indicated by the store clerk position information (S304). Furthermore, the display control unit 120 determines the output position and direction of the customer display information based on the position indicated by the customer position information (S306). Then, the display control unit 120 generates an output instruction for store clerk display information and customer display information based on the results of these processes, and transmits the output instruction to the display 40. Then, the display information for clerks and the display information for customers are output on the display 40 in the determined orientations (eg, FIG. 11). FIG. 11 is a diagram showing an example of output of display information for clerks and display information for customers. In the example of FIG. 11, the display information for store clerks is outputted in the direction indicated by dA in the figure, and the display information for customers is outputted in the direction indicated by dC in the figure.

以上、本実施形態によれば、ディスプレイ40が設けられたカウンターに対する店員および顧客の位置に応じて、店員用表示情報および顧客用表示情報をそれぞれ適切な向きでディスプレイ40上に出力することができる。これにより、店員用表示情報および顧客用表示情報の視認性が低下することを防止できる。 As described above, according to the present embodiment, the display information for the clerk and the display information for the customer can be output on the display 40 in appropriate orientations depending on the positions of the clerk and the customer with respect to the counter where the display 40 is provided. . Thereby, it is possible to prevent the visibility of the display information for clerks and the display information for customers from decreasing.

以上、図面を参照して本発明の実施形態について述べたが、これらは本発明の例示であり、上記以外の様々な構成を採用することもできる。 Although the embodiments of the present invention have been described above with reference to the drawings, these are merely examples of the present invention, and various configurations other than those described above may also be adopted.

例えば、本発明は、店員用のディスプレイと顧客用のディスプレイがそれぞれ備えられた、従来のレジ端末にも適用可能である。この場合、表示制御部120は、店員用表示情報および顧客用表示情報を、それぞれ、店員用のディスプレイおよび顧客用のディスプレイに出力すればよい。なお、店員用のディスプレイおよび顧客用のディスプレイがそれぞれ備えられている従来のレジに本発明を適用する場合には、表示制御部120は、上述の1枚のディスプレイ40が利用される場合と異なり、それぞれの情報の出力向きを特定する必要はない。 For example, the present invention can also be applied to conventional cash register terminals each equipped with a display for clerks and a display for customers. In this case, the display control unit 120 may output the store clerk display information and the customer display information to the store clerk display and the customer display, respectively. Note that when the present invention is applied to a conventional cash register that is equipped with a display for clerks and a display for customers, the display control unit 120 differs from the case where the single display 40 described above is used. , there is no need to specify the output direction of each piece of information.

また、上述の説明で用いたシーケンス図およびフローチャートでは、複数の工程(処理)が順番に記載されているが、複数の工程(処理)の実行順序はその記載の順番に制限されない。各実施形態では、図示される工程の順番を内容的に支障のない範囲で変更することができる。また、上述の各実施形態は、内容が相反しない範囲で組み合わせることができる。 Further, in the sequence diagrams and flowcharts used in the above description, a plurality of steps (processes) are described in order, but the execution order of the plurality of steps (processes) is not limited to the order of the description. In each embodiment, the order of the illustrated steps can be changed within a range that does not affect the content. Furthermore, the above-described embodiments can be combined as long as the contents do not conflict with each other.

上記の実施形態の一部または全部は、以下の付記のようにも記載されうるが、以下に限られない。
1.
ディスプレイ上に載置された商品の画像を用いて、前記商品を識別する商品識別手段と、
識別された前記商品に対して店員が行うべき作業を示す店員用表示情報を前記ディスプレイ上に出力する表示制御手段と、
を備える画像識別レジ装置。
2.
前記店員の位置を示す店員位置情報を取得する店員位置取得手段を更に備え、
前記表示制御手段は、
前記店員位置情報によって示される位置に基づいて前記店員用表示情報を出力する向きを決定する、
1.に記載の画像識別レジ装置。
3.
前記表示制御手段は、前記商品の識別結果に基づく顧客用表示情報を前記ディスプレイ上に更に出力する、
1.または2.に記載の画像識別レジ装置。
4.
顧客の位置を示す顧客位置情報を取得する顧客位置取得手段を更に備え、
前記表示制御手段は、
前記顧客位置情報によって示される位置に基づいて前記顧客用表示情報を出力する向きを決定する、
3.に記載の画像識別レジ装置。
5.
表示面が商品の載置面として利用されるディスプレイと、
前記ディスプレイ上に載置された商品を撮影し、前記商品の画像を生成する撮像装置と、
前記商品の画像を用いて、前記商品を識別する商品識別手段と、
識別された前記商品に対して店員が行うべき作業を示す店員用表示情報を前記ディスプレイ上に出力する表示制御手段と、
を備える画像識別レジシステム。
6.
前記店員の位置を示す店員位置情報を取得する店員位置取得手段を更に備え、
前記表示制御手段は、
前記店員位置情報によって示される位置に基づいて前記店員用表示情報を出力する向きを決定する、
5.に記載の画像識別レジシステム。
7.
前記表示制御手段は、前記商品の識別結果に基づく顧客用表示情報を前記ディスプレイ上に更に出力する、
5.または6.に記載の画像識別レジシステム。
8.
顧客の位置を示す顧客位置情報を取得する顧客位置取得手段を更に備え、
前記表示制御手段は、
前記顧客位置情報によって示される位置に基づいて前記顧客用表示情報を出力する向きを決定する、
7.に記載の画像識別レジシステム。
9.
コンピュータが、
ディスプレイ上に載置された商品の画像を用いて、前記商品を識別し、
識別された前記商品に対して店員が行うべき作業を示す店員用表示情報を前記ディスプレイ上に出力する、
ことを含む情報提示方法。
10.
前記コンピュータが、
前記店員の位置を示す店員位置情報を取得し、
前記店員位置情報によって示される位置に基づいて前記店員用表示情報を出力する向きを決定する、
ことを含む9.に記載の情報提示方法。
11.
前記コンピュータが、
前記商品の識別結果に基づく顧客用表示情報を前記ディスプレイ上に更に出力する、
ことを含む9.または10.に記載の情報提示方法。
12.
前記コンピュータが、
顧客の位置を示す顧客位置情報を取得し、
前記顧客位置情報によって示される位置に基づいて前記顧客用表示情報を出力する向きを決定する、
ことを含む11.に記載の情報提示方法。
13.
コンピュータに、9.から12のいずれか1つに記載の情報提示方法を実行させるプログラム。
Part or all of the above embodiments may be described as in the following additional notes, but are not limited to the following.
1.
Product identification means for identifying the product using an image of the product placed on a display;
display control means that outputs display information for a store clerk on the display indicating the work that the store clerk should do with respect to the identified product;
An image identification cash register device comprising:
2.
Further comprising a clerk position acquisition means for acquiring clerk position information indicating the position of the store clerk,
The display control means includes:
determining the direction in which the store clerk display information is output based on the position indicated by the store clerk position information;
1. The image identification cash register device described in .
3.
The display control means further outputs customer display information on the display based on the identification result of the product.
1. or 2. The image identification cash register device described in .
4.
further comprising a customer location acquisition means for acquiring customer location information indicating the customer's location,
The display control means includes:
determining the direction in which the customer display information is output based on the position indicated by the customer position information;
3. The image identification cash register device described in .
5.
A display whose display surface is used as a product placement surface;
an imaging device that photographs a product placed on the display and generates an image of the product;
Product identification means for identifying the product using an image of the product;
display control means that outputs display information for a store clerk on the display indicating the work that the store clerk should do with respect to the identified product;
Image identification cash register system.
6.
Further comprising a clerk position acquisition means for acquiring clerk position information indicating the position of the store clerk,
The display control means includes:
determining the direction in which the store clerk display information is output based on the position indicated by the store clerk position information;
5. Image identification cash register system described in .
7.
The display control means further outputs customer display information on the display based on the identification result of the product.
5. or 6. Image identification cash register system described in .
8.
further comprising a customer location acquisition means for acquiring customer location information indicating the customer's location,
The display control means includes:
determining the direction in which the customer display information is output based on the position indicated by the customer position information;
7. Image identification cash register system described in .
9.
The computer is
identifying the product using an image of the product placed on the display;
Outputting display information for a store clerk on the display indicating the work that the store clerk should do with respect to the identified product;
information presentation methods, including
10.
The computer,
Obtaining store clerk location information indicating the location of the store clerk,
determining the direction in which the store clerk display information is output based on the position indicated by the store clerk position information;
9. Information presentation method described in .
11.
The computer,
further outputting customer display information on the display based on the identification result of the product;
9. or 10. Information presentation method described in .
12.
The computer,
Obtain customer location information indicating the customer's location,
determining the direction in which the customer display information is output based on the position indicated by the customer position information;
11. Information presentation method described in .
13.
To the computer, 9. A program for executing the information presentation method according to any one of 12 to 12.

Claims (7)

ディスプレイ上に載置された商品の画像を用いて、前記商品を識別する商品識別手段と、
識別された前記商品に対して店員が行うべき作業を示す店員用表示情報を前記ディスプレイ上に出力する表示制御手段と、
を備え、
前記店員用表示情報は、前記商品の温めを行うか否かを顧客に確認するように促す指示、及び保冷剤の要否を顧客に確認するように促す指示の少なくとも一つを含む画像識別レジ装置。
Product identification means for identifying the product using an image of the product placed on a display;
display control means that outputs display information for a store clerk on the display indicating the work that the store clerk should do with respect to the identified product;
Equipped with
The store clerk display information includes an image identification register including at least one of an instruction to prompt the customer to confirm whether or not to heat the product, and an instruction to prompt the customer to confirm whether or not an ice pack is required. Device.
前記店員の位置を示す店員位置情報を取得する店員位置取得手段を更に備え、
前記表示制御手段は、
前記店員位置情報によって示される位置に基づいて前記店員用表示情報を出力する向きを決定する、
請求項1に記載の画像識別レジ装置。
Further comprising a clerk position acquisition means for acquiring clerk position information indicating the position of the store clerk,
The display control means includes:
determining the direction in which the store clerk display information is output based on the position indicated by the store clerk position information;
The image identification register device according to claim 1.
前記表示制御手段は、前記商品の識別結果に基づく顧客用表示情報を前記ディスプレイ上に更に出力する、
請求項1または2に記載の画像識別レジ装置。
The display control means further outputs customer display information on the display based on the identification result of the product.
The image identification register device according to claim 1 or 2.
顧客の位置を示す顧客位置情報を取得する顧客位置取得手段を更に備え、
前記表示制御手段は、
前記顧客位置情報によって示される位置に基づいて前記顧客用表示情報を出力する向きを決定する、
請求項3に記載の画像識別レジ装置。
further comprising a customer location acquisition means for acquiring customer location information indicating the customer's location,
The display control means includes:
determining the direction in which the customer display information is output based on the position indicated by the customer position information;
The image identification register device according to claim 3.
表示面が商品の載置面として利用されるディスプレイと、
前記ディスプレイ上に載置された商品を撮影し、前記商品の画像を生成する撮像装置と、
前記商品の画像を用いて、前記商品を識別する商品識別手段と、
識別された前記商品に対して店員が行うべき作業を示す店員用表示情報を前記ディスプレイ上に出力する表示制御手段と、
を備え、
前記店員用表示情報は、前記商品の温めを行うか否かを顧客に確認するように促す指示、及び保冷剤の要否を顧客に確認するように促す指示の少なくとも一つを含む画像識別レジシステム。
A display whose display surface is used as a product placement surface;
an imaging device that photographs a product placed on the display and generates an image of the product;
Product identification means for identifying the product using an image of the product;
display control means that outputs display information for a store clerk on the display indicating the work that the store clerk should do with respect to the identified product;
Equipped with
The store clerk display information includes an image identification register including at least one of an instruction to prompt the customer to confirm whether or not to heat the product, and an instruction to prompt the customer to confirm whether or not an ice pack is required. system.
コンピュータが、
ディスプレイ上に載置された商品の画像を用いて、前記商品を識別し、
識別された前記商品に対して店員が行うべき作業を示す店員用表示情報を前記ディスプレイ上に出力する、
ことを含み、
前記店員用表示情報は、前記商品の温めを行うか否かを顧客に確認するように促す指示、及び保冷剤の要否を顧客に確認するように促す指示の少なくとも一つを含む情報提示方法。
The computer is
identifying the product using an image of the product placed on the display;
Outputting display information for a store clerk on the display indicating the work that the store clerk should do with respect to the identified product;
including that
The display information for store staff includes an information presentation method including at least one of an instruction to prompt the customer to confirm whether or not to heat the product, and an instruction to urge the customer to confirm whether or not an ice pack is required. .
コンピュータに、請求項6に記載の情報提示方法を実行させるプログラム。 A program that causes a computer to execute the information presentation method according to claim 6.
JP2022163937A 2018-03-29 2022-10-12 Image identification cash register device, image identification cash register system, information presentation method, and program Active JP7371748B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2022163937A JP7371748B2 (en) 2018-03-29 2022-10-12 Image identification cash register device, image identification cash register system, information presentation method, and program

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2020508769A JP7160087B2 (en) 2018-03-29 2018-03-29 Image identification cash register device, image identification cash register system, information presentation method, and program
PCT/JP2018/013474 WO2019186973A1 (en) 2018-03-29 2018-03-29 Image identification register device, image identification register system, information presentation method, and program
JP2022163937A JP7371748B2 (en) 2018-03-29 2022-10-12 Image identification cash register device, image identification cash register system, information presentation method, and program

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2020508769A Division JP7160087B2 (en) 2018-03-29 2018-03-29 Image identification cash register device, image identification cash register system, information presentation method, and program

Publications (2)

Publication Number Publication Date
JP2022179689A JP2022179689A (en) 2022-12-02
JP7371748B2 true JP7371748B2 (en) 2023-10-31

Family

ID=68058629

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2020508769A Active JP7160087B2 (en) 2018-03-29 2018-03-29 Image identification cash register device, image identification cash register system, information presentation method, and program
JP2022163937A Active JP7371748B2 (en) 2018-03-29 2022-10-12 Image identification cash register device, image identification cash register system, information presentation method, and program

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2020508769A Active JP7160087B2 (en) 2018-03-29 2018-03-29 Image identification cash register device, image identification cash register system, information presentation method, and program

Country Status (2)

Country Link
JP (2) JP7160087B2 (en)
WO (1) WO2019186973A1 (en)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015082253A (en) 2013-10-23 2015-04-27 東芝テック株式会社 Commodity sales data processing device and program
JP2016105225A (en) 2014-12-01 2016-06-09 カシオ計算機株式会社 Commodity ordering apparatus, commodity ordering method, commodity price output device, commodity price output method, price information output device and price information output method
US20170017944A1 (en) 2015-07-15 2017-01-19 Toshiba Tec Kabushiki Kaisha Commodity-sales-data processing apparatus, commodity-sales-data processing method, and computer-readable storage medium

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4387843B2 (en) * 2004-03-19 2009-12-24 Necインフロンティア株式会社 Packing support system and method
JP2008045884A (en) * 2006-08-10 2008-02-28 Ishida Co Ltd Article inspection apparatus
JP2009163330A (en) * 2007-12-28 2009-07-23 Toshiba Tec Corp Merchandise sales data processor and computer program
JP5114294B2 (en) * 2008-05-30 2013-01-09 シャープ株式会社 Merchandise sales data processing apparatus and control program thereof
JP6261197B2 (en) * 2013-06-17 2018-01-17 キヤノン株式会社 Display control apparatus, display control method, and program
US9105026B1 (en) * 2013-09-30 2015-08-11 Square, Inc. Rolling interface transition for mobile display
JP6866888B2 (en) * 2016-03-04 2021-04-28 日本電気株式会社 Information processing device, screen display method, and program

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015082253A (en) 2013-10-23 2015-04-27 東芝テック株式会社 Commodity sales data processing device and program
JP2016105225A (en) 2014-12-01 2016-06-09 カシオ計算機株式会社 Commodity ordering apparatus, commodity ordering method, commodity price output device, commodity price output method, price information output device and price information output method
US20170017944A1 (en) 2015-07-15 2017-01-19 Toshiba Tec Kabushiki Kaisha Commodity-sales-data processing apparatus, commodity-sales-data processing method, and computer-readable storage medium

Also Published As

Publication number Publication date
JPWO2019186973A1 (en) 2021-03-11
JP2022179689A (en) 2022-12-02
WO2019186973A1 (en) 2019-10-03
JP7160087B2 (en) 2022-10-25

Similar Documents

Publication Publication Date Title
US10740743B2 (en) Information processing device and screen setting method
CN105608808A (en) Information processing apparatus, store system and method
WO2019123714A1 (en) Information processing device, merchandise recommendation method, and program
JP2017204013A (en) Advertisement display system, display control apparatus, and advertisement display method
JP2008257462A (en) Commodity sales registration data processor
US20190108503A1 (en) Reading apparatus, reading method, and computer readable medium
JP2014075090A (en) Display position analysis system
JP5788424B2 (en) Store system
JP2014052806A (en) Information processor and program
JP7371748B2 (en) Image identification cash register device, image identification cash register system, information presentation method, and program
CN112154488B (en) Information processing apparatus, control method, and program
US20150220964A1 (en) Information processing device and method of setting item to be returned
JP2018136621A (en) Information processor and program
JP6319440B2 (en) Information processing apparatus, information processing method, and program
JP2017084377A (en) Information processing apparatus and program
JP2018025882A (en) Image processing device and control method thereof, display device, computer program
JP2016024601A (en) Information processing apparatus, information processing system, information processing method, commodity recommendation method, and program
JP7020538B2 (en) Accounting equipment, accounting systems, product identification methods, and programs
JP7215560B2 (en) Processing device, processing method and program
JP2019168818A (en) Merchandise information acquisition device, merchandise information acquisition method, and program
JP5849078B2 (en) Display control apparatus and program
WO2022269755A1 (en) Information processing device, unprofitable product determination assistance method, and program
JP7468508B2 (en) Information processing device, information processing method, program, and information processing system
JP2018055233A (en) Information processing device, control method and program
JP6165806B2 (en) Store system

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20221012

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230620

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230919

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231002

R151 Written notification of patent or utility model registration

Ref document number: 7371748

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151