JP6947283B2 - 店舗装置、店舗システム、画像取得方法、およびプログラム - Google Patents
店舗装置、店舗システム、画像取得方法、およびプログラム Download PDFInfo
- Publication number
- JP6947283B2 JP6947283B2 JP2020502774A JP2020502774A JP6947283B2 JP 6947283 B2 JP6947283 B2 JP 6947283B2 JP 2020502774 A JP2020502774 A JP 2020502774A JP 2020502774 A JP2020502774 A JP 2020502774A JP 6947283 B2 JP6947283 B2 JP 6947283B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- product
- display
- learning
- mode
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/08—Logistics, e.g. warehousing, loading or distribution; Inventory or stock management
- G06Q10/087—Inventory or stock management, e.g. order filling, procurement or balancing against orders
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/217—Validation; Performance evaluation; Active pattern learning techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q20/00—Payment architectures, schemes or protocols
- G06Q20/08—Payment architectures
- G06Q20/18—Payment architectures involving self-service terminals [SST], vending machines, kiosks or multimedia terminals
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q20/00—Payment architectures, schemes or protocols
- G06Q20/08—Payment architectures
- G06Q20/20—Point-of-sale [POS] network systems
- G06Q20/203—Inventory monitoring
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q20/00—Payment architectures, schemes or protocols
- G06Q20/08—Payment architectures
- G06Q20/20—Point-of-sale [POS] network systems
- G06Q20/208—Input by product or record sensing, e.g. weighing or scanner processing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q30/00—Commerce
- G06Q30/018—Certifying business or products
- G06Q30/0185—Product, service or business identity fraud
-
- G—PHYSICS
- G07—CHECKING-DEVICES
- G07G—REGISTERING THE RECEIPT OF CASH, VALUABLES, OR TOKENS
- G07G1/00—Cash registers
- G07G1/0036—Checkout procedures
- G07G1/0045—Checkout procedures with a code reader for reading of an identifying code of the article to be registered, e.g. barcode reader or radio-frequency identity [RFID] reader
- G07G1/0054—Checkout procedures with a code reader for reading of an identifying code of the article to be registered, e.g. barcode reader or radio-frequency identity [RFID] reader with control of supplementary check-parameters, e.g. weight or number of articles
- G07G1/0063—Checkout procedures with a code reader for reading of an identifying code of the article to be registered, e.g. barcode reader or radio-frequency identity [RFID] reader with control of supplementary check-parameters, e.g. weight or number of articles with means for detecting the geometric dimensions of the article of which the code is read, such as its size or height, for the verification of the registration
Landscapes
- Business, Economics & Management (AREA)
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Accounting & Taxation (AREA)
- General Business, Economics & Management (AREA)
- Strategic Management (AREA)
- Finance (AREA)
- Economics (AREA)
- Data Mining & Analysis (AREA)
- Entrepreneurship & Innovation (AREA)
- Marketing (AREA)
- Development Economics (AREA)
- Software Systems (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- General Engineering & Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Operations Research (AREA)
- Quality & Reliability (AREA)
- Medical Informatics (AREA)
- Tourism & Hospitality (AREA)
- Human Resources & Organizations (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Evolutionary Biology (AREA)
- Bioinformatics & Computational Biology (AREA)
- Geometry (AREA)
- Cash Registers Or Receiving Machines (AREA)
- Image Analysis (AREA)
Description
ディスプレイの表示面上に載置された商品が写る画像を撮像装置から取得する画像取得手段と、
顧客が購入する商品を登録する商品登録モードと、商品を識別するための識別器の学習用画像を収集する画像収集モードと、を切り替えるモード切替手段と、
前記商品登録モードのとき、前記画像に基づいて前記識別器が識別した商品を購入対象の商品として登録する商品登録手段と、
前記画像収集モードのとき、前記ディスプレイの表示面に所定の背景画像を表示させる表示制御手段と、
前記背景画像と前記商品とが写る画像を前記学習用画像として所定の記憶装置に記憶させる画像収集手段と、
を備える。
表示面が商品の載置面として利用されるディスプレイと、
前記ディスプレイの表示面上に載置された商品が写る画像を生成する撮像装置と、
前記撮像装置により生成された画像を取得する画像取得手段と、
顧客が購入する商品を登録する商品登録モードと、商品を識別するための識別器の学習用画像を収集する画像収集モードと、を切り替えるモード切替手段と、
前記商品登録モードのとき、前記画像に基づいて前記識別器が識別した商品を購入対象の商品として登録する商品登録手段と、
前記画像収集モードのとき、前記ディスプレイの表示面に所定の背景画像を表示させる表示制御手段と、
前記背景画像と前記商品とが写る画像を前記学習用画像として所定の記憶装置に記憶させる画像収集手段と、
を備える。
コンピュータが、
ディスプレイの表示面上に載置された商品が写る画像を撮像装置から取得し、
顧客が購入する商品を登録する商品登録モードと、商品を識別するための識別器の学習用画像を収集する画像収集モードと、を切り替え、
前記商品登録モードのとき、前記画像に基づいて前記識別器が識別した商品を購入対象の商品として登録し、
前記画像収集モードのとき、前記ディスプレイの表示面に所定の背景画像を表示させ、
前記背景画像と前記商品とが写る画像を前記学習用画像として所定の記憶装置に記憶させる、
ことを含む。
〔システム構成例〕
図1は、第1実施形態の店舗システム1の構成例を示す図である。なお、図1はあくまで例示であり、本発明に係る店舗システム1は図1に描かれる構成に限定されない。図1に示されるように、店舗システム1は、店舗装置10、会計処理用機器20、撮像装置30、およびディスプレイ40を含んで構成される。店舗装置10は、図示しない配線等によって会計処理用機器20、撮像装置30、およびディスプレイ40と接続されている。
店舗システム1は、各機能構成部を実現するハードウエア(例:ハードワイヤードされた電子回路など)で実現されてもよいし、ハードウエアとソフトウエアとの組み合わせ(例:電子回路とそれを制御するプログラムの組み合わせなど)で実現されてもよい。以下、店舗システム1がハードウエアとソフトウエアとの組み合わせで実現される場合について、さらに説明する。
図3および図4を用いて、本実施形態の店舗システム1により実行される処理の流れを説明する。図3は、第1実施形態の店舗システム1が商品登録モード時に実行する処理の流れを例示する図である。また、図4は、第1実施形態の店舗システム1が画像収集モード時に実行する処理の流れを例示する図である。
まず、図3を用いて、商品登録モード時の処理の流れについて説明する。
次に、図4を用いて、画像収集モード時の処理の流れについて説明する。
本実施形態は、以下の点を除き、第1実施形態と同様の構成を有する。
本実施形態の店舗システム1は、例えば図1に示されるような構成と同様の構成を有する。本実施形態の表示制御部140は、画像収集モードのとき、ディスプレイ40の表示面に、それぞれ内容の異なる複数の背景画像を切り替えて表示させる。そして、本実施形態の画像収集部150は、上記複数の背景画像のいずれかと、ディスプレイ40の表示面上に載置された商品Pと、が写る複数の学習用画像を取得する。
本実施形態の店舗システム1は、第1実施形態と同様のハードウエア構成(例:図2)を有する。本実施形態のストレージデバイス1040は、上述の表示制御部140の機能を実現するプログラムモジュールを更に記憶している。プロセッサ1020が、これらのプログラムモジュールをメモリ1030上に読み出して実行することにより、本実施形態の表示制御部140の機能が実現される。
本実施形態の大まかな処理の流れは、図4に示すものと同様である。本実施形態では、S206の処理において、表示制御部140は、複数の背景画像を所定のタイミングで切り替えて表示させる描画データをディスプレイ40に送信する。そして、ディスプレイ40は、表示制御部140から受信した描画データに基づいて、複数の背景画像を切り替えながら表示する。これにより、S212の処理において、画像取得部110は、複数の背景画像のいずれかと、ディスプレイ40の表示面上に載置された商品Pと、が写る複数の画像を取得することができる。そして、S214の処理において、画像収集部150は、このように取得された複数の画像を、商品識別エンジンの学習用画像として所定の記憶装置(例えば、ストレージデバイス1040など)に記憶させる。
本実施形態は、以下の点を除き、上述の各実施形態と同様の構成を有する。
図6は、第3実施形態の店舗システム1の構成例を示す図である。本実施形態において、店舗装置10は、ディスプレイ40の表示面上に載置された商品Pの位置を取得する位置情報取得部160を更に備える。位置情報取得部160は、例えば、様々な物体検出アルゴリズムを用いて、画像取得部110により取得された画像の中から、ディスプレイ40の表示面に載置された物体(商品P)の位置を検出することができる。そして、本実施形態の表示制御部140は、商品登録モードにおいて商品の位置に応じて表示する情報を、位置情報取得部160により取得された商品Pの位置に基づいて、ディスプレイ40の表示面に更に表示させる。
本実施形態は、以下の点を除き、上述の各実施形態と同様である。
図8は、第4実施形態の店舗システム1の構成例を示す図である。なお、図8の例では、第3実施形態の構成をベースとしている。本実施形態では、店舗装置10は、学習部170を更に備える。学習部170は、画像収集部150により収集された学習用画像を用いて、商品識別エンジン(識別器)の学習を行う。
本実施形態の店舗システム1は、第1実施形態と同様のハードウエア構成(例:図2)を有する。本実施形態のストレージデバイス1040は、上述の学習部170の機能を実現するプログラムモジュールを更に記憶している。プロセッサ1020が、これらのプログラムモジュールをメモリ1030上に読み出して実行することにより、本実施形態の学習部170の機能が実現される。
図9を用いて、本実施形態の店舗システム1により実行される処理の流れを説明する。図9は、第4実施形態の店舗システム1により実行される学習処理の流れを例示するフローチャートである。
本実施形態は、以下の点を除き、第4実施形態と同様である。
図10は、第5実施形態の店舗システム1の構成例を示す図である。本実施形態において、画像収集部150は、抽出部152および画像生成部154を更に備える。抽出部152は、撮像装置30により生成された撮影画像から、商品の領域を示す部分画像(以下、「商品領域画像」と表記)を抽出する。なお、抽出部152の動作の具体例については、後述する。画像生成部154は、抽出部152により抽出された商品領域画像を所定のベース画像に合成することにより学習用画像を生成し、所定の記憶装置に記憶させる。ここで、ベース画像は任意の画像である。例えば、ベース画像は、単色無地の画像、幾何学的パターンや文字などを含む画像、および、自然画像などである。ベース画像は、ここで例示したような画像を任意に組み合わせた画像であってもよい。ここで例示したようなベース画像は、ストレージデバイス1040に予め記憶されている。なお、複数種類のベース画像がストレージデバイス1040に記憶されていてもよい。また、所定の記憶装置は、例えば、ハードディスクドライブのような不揮発性の記憶装置であってもよいし、RAM(Random Access Memory)のような揮発性の記憶装置であってもよい。
本実施形態の店舗システム1は、第1実施形態と同様のハードウエア構成(例:図2)を有する。本実施形態のストレージデバイス1040は、上述の抽出部152およびが画像生成部154の機能を実現するプログラムモジュールを更に記憶している。プロセッサ1020が、これらのプログラムモジュールをメモリ1030上に読み出して実行することにより、本実施形態の抽出部152および画像生成部154の機能が実現される。
図11を用いて、本実施形態の店舗システム1により実行される処理の流れを説明する。図11は、第5実施形態の店舗システム1の処理の流れを例示するシーケンス図である。
図12は、撮影画像から商品領域画像を抽出する第1の手法の例示する図である。図12の手法では、表示制御部140は、それぞれ互いに内容の異なる複数の背景画像として、それぞれ互いに色の異なる無地の画像をディスプレイ40に表示させる。図12では、それぞれ、赤(図中斜線部)、白(図中無地部)、青(図中縦線部)を地色とする3枚の背景画像(1a〜1c)を用いる例が示されている。これらの画像は、例えば、ストレージデバイス1040に記憶されている。なお、図12はあくまで例示であり、背景画像の色の組み合わせや色の数は図12の例に制限されない。この場合、画像収集部150は、赤色の背景画像(1a)および商品Pが写っている撮影画像(2a)と、白色の背景画像(1b)および商品Pが写っている撮影画像(2b)と、青色の背景画像(1c)および商品Pが写っている撮影画像(2c)を取得することができる。ここで、商品Pはディスプレイ40の表示面上に載置されている。そのため3枚の撮影画像(2a〜2c)を比べた場合、商品Pの載置されている領域については、ディスプレイ40の表示面のよりも色の変化が明らかに小さくなる。すなわち、複数の撮影画像をそれぞれ比較した場合、商品Pが載置されている領域の輝度の変化量は、それ以外の領域(すなわち、ディスプレイ40の表示面)の輝度の変化量よりも明らかに小さくなる。よって、抽出部152は、複数の撮影画像間での輝度の変化量を利用して、商品領域画像を抽出することができる。具体的には、抽出部152は、まず、3枚の撮影画像(2a〜2c)それぞれの各ピクセルについて輝度の分散値を算出する。次に、抽出部152は、所定の閾値を用いて、3枚の撮影画像(2a〜2c)間で輝度の分散値が当該閾値を超えているピクセルの集合領域(背景領域)と、輝度の変化量が当該閾値未満のピクセルの集合領域(前景領域、すなわち、商品の領域)と、をそれぞれ特定する。この所定の閾値は、例えば、抽出部152のプログラムモジュール内で定義されている。次に、抽出部152は、上記のように特定した結果を用いて、背景領域をマスクするマスク画像M1を生成する。そして、抽出部152は、生成したマスク画像M1を用いて、撮影画像から商品Pの領域を示す商品領域画像P1を抽出する。抽出部152は、生成したマスク画像M1および抽出した商品Pの商品領域画像P1を、その商品Pを識別する情報(例えば、商品名や商品識別番号など)と対応付けて、ストレージデバイス1040や他の記憶装置などに記憶する。
図13は、撮影画像から商品領域画像を抽出する第2の手法を例示する図である。図13の手法では、表示制御部140は、所定の背景画像として、既知の背景画像(1d)をディスプレイ40に表示させる。既知の背景画像(1d)は、例えば、ストレージデバイス1040に記憶されている。既知の背景画像(1d)を表示させたディスプレイ40上に商品Pを載置した後で撮像装置30が撮影を行うことにより、画像収集部150は、図示するような撮影画像(2d)を取得することができる。ここで、商品Pはディスプレイ40の表示面上に載置されている。そのため、撮影画像(2d)において、既知の背景画像(1d)の一部領域は商品Pで隠されることになる。つまり、抽出部152は、撮影画像(2d)のうち、既知の背景画像(1d)と異なるピクセルの集合領域を、商品の領域として特定することができる。また、抽出部152は、撮影画像(2d)のうち、既知の背景画像(1d)と等しいピクセルの集合領域を背景領域として特定することができる。そして、抽出部152は、上記のように特定した結果を用いて、背景領域をマスクするマスク画像M2を生成する。そして、抽出部152は、生成したマスク画像M2を用いて、撮影画像から商品Pの領域を示す商品領域画像P2を抽出する。抽出部152は、生成したマスク画像M2および抽出した商品Pの商品領域画像P2を、その商品Pを識別する情報(例えば、商品名や商品識別番号など)と対応付けて、ストレージデバイス1040や他の記憶装置などに記憶する。
図14は、撮影画像から商品領域画像を抽出する第3の手法の例示する図である。図14の手法では、表示制御部140は、所定の背景画像として、既知の背景画像(1e)をディスプレイ40に表示させる。なお、第3の手法は、既知の背景画像として無地の画像を用いている点で、第2の手法とは異なる。既知の背景画像(1e)は、例えば、ストレージデバイス1040に記憶されている。既知の背景画像(1e)を表示させたディスプレイ40上に商品Pを載置した後で撮像装置30が撮影を行うことにより、画像収集部150は、図示するような撮影画像(2e)を取得することができる。ここで、商品Pはディスプレイ40の表示面上に載置されている。そのため、撮影画像(2e)において、既知の背景画像(1e)の一部領域は商品Pで隠されることになる。更に、既知の背景画像(1e)が無地であることから、抽出部152は、撮影画像(2e)のうち、既知の背景画像(1e)と色の異なるピクセルの集合領域を、商品の領域として特定することができる。また、抽出部152は、撮影画像(2e)のうち、既知の背景画像(1e)と同色のピクセルの集合領域を背景領域として特定することができる。そして、抽出部152は、上記のように特定した結果を用いて、背景領域をマスクするマスク画像M3を生成する。そして、抽出部152は、生成したマスク画像M3を用いて、撮影画像から商品Pの領域を示す商品領域画像P3を抽出する。抽出部152は、生成したマスク画像M3および抽出した商品Pの商品領域画像P3を、その商品Pを識別する情報(例えば、商品名や商品識別番号など)と対応付けて、ストレージデバイス1040や他の記憶装置などに記憶する。
図16は、撮影画像から商品領域画像を抽出する第4の手法を例示する図である。図16の手法では、表示制御部140は、所定の背景画像として、動画(1g)をディスプレイ40に表示させる。なお、図16では、2つの図形(円と三角形)が時間と共に移動する動画(1g)が例示されている。なお、表示制御部140は、図16の例に限らず、任意の動画を表示させることができる。この場合、画像収集部150は、例えば、図中の符号2gで示すような、複数の撮影画像を取得することができる。ここで、商品Pはディスプレイ40の表示面上に載置されている。そのため、撮影画像(2g)において、動画(1g)の中で移動する図形の少なくとも一部が、商品Pにより隠されることがある(例:2g(2))。つまり、複数の撮影画像において、商品Pが載置されている領域は、背景の動画部分と比較して動きが小さくなる。よって、抽出部152は、複数の撮影画像において、動きの少ないピクセルの集合領域(継続して止まっている物体の領域)を、商品の領域として特定することができる。具体的には、抽出部152は、オプティカルフローや背景差分などを用いて、商品の領域を特定することができる。また、抽出部152は、一定以上の動きのあるピクセルの集合領域を背景領域として特定することができる。そして、上記のように特定した結果を用いて、背景領域をマスクするマスク画像M4を生成する。そして、抽出部152は、生成したマスク画像M4を用いて、撮影画像から商品Pの領域を示す商品領域画像P4を抽出する。抽出部152は、生成したマスク画像M4および抽出した商品Pの商品領域画像P4を、その商品Pを識別する情報(例えば、商品名や商品識別番号など)と対応付けて、ストレージデバイス1040や他の記憶装置などに記憶する。
1.
ディスプレイの表示面上に載置された商品が写る画像を撮像装置から取得する画像取得手段と、
顧客が購入する商品を登録する商品登録モードと、商品を識別するための識別器の学習用画像を収集する画像収集モードと、を切り替えるモード切替手段と、
前記商品登録モードのとき、前記画像に基づいて前記識別器が識別した商品を購入対象の商品として登録する商品登録手段と、
前記画像収集モードのとき、前記ディスプレイの表示面に所定の背景画像を表示させる表示制御手段と、
前記背景画像と前記商品とが写る画像を前記学習用画像として所定の記憶装置に記憶させる画像収集手段と、
を備える店舗装置。
2.
前記表示制御手段は、前記画像収集モードのとき、前記ディスプレイの表示面に、それぞれ内容の異なる複数の背景画像を切り替えて表示させ、
前記画像収集手段は、前記複数の背景画像のいずれかと前記ディスプレイに載置された商品とが写る複数の画像を、前記学習用画像として所定の記憶装置に記憶させる、
1.に記載の店舗装置。
3.
前記表示制御手段は、前記複数の背景画像として、それぞれ互いに色の異なる無地の画像を表示させる、
2.に記載の店舗装置。
4.
前記ディスプレイの表示面上に載置された商品の位置を取得する位置取得手段を更に備え、
前記表示制御手段は、前記商品登録モードにおいて商品の存在位置に応じて表示する情報を、前記位置取得手段により取得された商品の位置に基づいて更に表示させる、
1.から3.のいずれか1つに記載の店舗装置。
5.
前記画像収集手段により収集された学習用画像を用いて、前記識別器の学習を行う学習手段を更に備える、
1.から4.のいずれか1つに記載の店舗装置。
6.
前記学習手段は、
前記学習用画像から、前記ディスプレイ上に載置された商品の領域を示す商品領域画像を抽出し、
抽出した前記商品領域画像を用いて前記識別器の学習を行う、
5.に記載の店舗装置。
7.
前記学習手段は、
前記学習用画像の中から、前記ディスプレイ上に載置された商品の存在位置を示す情報を検出し、
前記学習用画像における前記情報の検出位置に基づいて、前記商品領域画像を抽出する、
6.に記載の店舗装置。
8.
表示面が商品の載置面として利用されるディスプレイと、
前記ディスプレイの表示面上に載置された商品が写る画像を生成する撮像装置と、
前記撮像装置により生成された画像を取得する画像取得手段と、
顧客が購入する商品を登録する商品登録モードと、商品を識別するための識別器の学習用画像を収集する画像収集モードと、を切り替えるモード切替手段と、
前記商品登録モードのとき、前記画像に基づいて前記識別器が識別した商品を購入対象の商品として登録する商品登録手段と、
前記画像収集モードのとき、前記ディスプレイの表示面に所定の背景画像を表示させる表示制御手段と、
前記背景画像と前記商品とが写る画像を前記学習用画像として所定の記憶装置に記憶させる画像収集手段と、
を備える店舗システム。
9.
前記表示制御手段は、前記画像収集モードのとき、前記ディスプレイの表示面に、それぞれ内容の異なる複数の背景画像を切り替えて表示させ、
前記画像収集手段は、前記複数の背景画像のいずれかと前記ディスプレイに載置された商品とが写る複数の画像を、前記学習用画像として所定の記憶装置に記憶させる、
8.に記載の店舗システム。
10.
前記表示制御手段は、前記複数の背景画像として、それぞれ互いに色の異なる無地の画像を表示させる、
9.に記載の店舗システム。
11.
前記ディスプレイの表示面上に載置された商品の位置を取得する位置取得手段を更に備え、
前記表示制御手段は、前記商品登録モードにおいて商品の存在位置に応じて表示する情報を、前記位置取得手段により取得された商品の位置に基づいて更に表示させる、
8.から10.のいずれか1つに記載の店舗システム。
12.
前記画像収集手段により収集された学習用画像を用いて、前記識別器の学習を行う学習手段を更に備える、
8.から11.のいずれか1つに記載の店舗システム。
13.
前記学習手段は、
前記学習用画像から、前記ディスプレイ上に載置された商品の領域を示す商品領域画像を抽出し、
抽出した前記商品領域画像を用いて前記識別器の学習を行う、
12.に記載の店舗システム。
14.
前記学習手段は、
前記学習用画像の中から、前記ディスプレイ上に載置された商品の存在位置を示す情報を検出し、
前記学習用画像における前記情報の検出位置に基づいて、前記商品領域画像を抽出する、
13.に記載の店舗システム。
15.
コンピュータが、
ディスプレイの表示面上に載置された商品が写る画像を撮像装置から取得し、
顧客が購入する商品を登録する商品登録モードと、商品を識別するための識別器の学習用画像を収集する画像収集モードと、を切り替え、
前記商品登録モードのとき、前記画像に基づいて前記識別器が識別した商品を購入対象の商品として登録し、
前記画像収集モードのとき、前記ディスプレイの表示面に所定の背景画像を表示させ、
前記背景画像と前記商品とが写る画像を前記学習用画像として所定の記憶装置に記憶させる、
ことを含む画像取得方法。
16.
前記コンピュータが、
前記画像収集モードのとき、前記ディスプレイの表示面に、それぞれ内容の異なる複数の背景画像を切り替えて表示させ、
前記複数の背景画像のいずれかと前記ディスプレイに載置された商品とが写る複数の画像を、前記学習用画像として所定の記憶装置に記憶させる、
ことを含む15.に記載の画像取得方法。
17.
前記コンピュータが、
前記複数の背景画像として、それぞれ互いに色の異なる無地の画像を表示させる、
ことを含む16.に記載の画像取得方法。
18.
前記コンピュータが、
前記ディスプレイの表示面上に載置された商品の位置を取得し、
前記商品登録モードにおいて商品の存在位置に応じて表示する情報を、前記取得された商品の位置に基づいて更に表示させる、
ことを含む15.から17.のいずれか1つに記載の画像取得方法。
19.
前記コンピュータが、
前記収集された学習用画像を用いて、前記識別器の学習を行う、
ことを含む15.から18.のいずれか1つに記載の画像取得方法。
20.
前記コンピュータが、
前記学習用画像から、前記ディスプレイ上に載置された商品の領域を示す商品領域画像を抽出し、
抽出した前記商品領域画像を用いて前記識別器の学習を行う、
ことを含む19.に記載の画像取得方法。
21.
前記コンピュータが、
前記学習用画像の中から、前記ディスプレイ上に載置された商品の存在位置を示す情報を検出し、
前記学習用画像における前記情報の検出位置に基づいて、前記商品領域画像を抽出する、
ことを含む20.に記載の画像取得方法。
22.
コンピュータに、15.から21.のいずれか1つに記載の画像取得方法を実行させるプログラム。
Claims (10)
- ディスプレイの表示面上に載置された商品が写る画像を撮像装置から取得する画像取得手段と、
顧客が購入する商品を登録する商品登録モードと、商品を識別するための識別器の学習用画像を収集する画像収集モードと、を切り替えるモード切替手段と、
前記商品登録モードのとき、前記画像に基づいて前記識別器が識別した商品を購入対象の商品として登録する商品登録手段と、
前記画像収集モードのとき、前記ディスプレイの表示面に所定の背景画像を表示させる表示制御手段と、
前記背景画像と前記商品とが写る画像を前記学習用画像として所定の記憶装置に記憶させる画像収集手段と、
を備える店舗装置。 - 前記表示制御手段は、前記画像収集モードのとき、前記ディスプレイの表示面に、それぞれ内容の異なる複数の背景画像を切り替えて表示させ、
前記画像収集手段は、前記複数の背景画像のいずれかと前記ディスプレイに載置された商品とが写る複数の画像を、前記学習用画像として所定の記憶装置に記憶させる、
請求項1に記載の店舗装置。 - 前記表示制御手段は、前記複数の背景画像として、それぞれ互いに色の異なる無地の画像を表示させる、
請求項2に記載の店舗装置。 - 前記ディスプレイの表示面上に載置された商品の位置を取得する位置取得手段を更に備え、
前記表示制御手段は、前記商品登録モードにおいて商品の存在位置に応じて表示する情報を、前記位置取得手段により取得された商品の位置に基づいて更に表示させる、
請求項1から3のいずれか1項に記載の店舗装置。 - 前記画像収集手段により収集された学習用画像を用いて、前記識別器の学習を行う学習手段を更に備える、
請求項1から4のいずれか1項に記載の店舗装置。 - 前記学習手段は、
前記学習用画像から、前記ディスプレイ上に載置された商品の領域を示す商品領域画像を抽出し、
抽出した前記商品領域画像を用いて前記識別器の学習を行う、
請求項5に記載の店舗装置。 - 前記学習手段は、
前記学習用画像の中から、前記ディスプレイ上に載置された商品の存在位置を示す情報を検出し、
前記学習用画像における前記情報の検出位置に基づいて、前記商品領域画像を抽出する、
請求項6に記載の店舗装置。 - 表示面が商品の載置面として利用されるディスプレイと、
前記ディスプレイの表示面上に載置された商品が写る画像を生成する撮像装置と、
前記撮像装置により生成された画像を取得する画像取得手段と、
顧客が購入する商品を登録する商品登録モードと、商品を識別するための識別器の学習用画像を収集する画像収集モードと、を切り替えるモード切替手段と、
前記商品登録モードのとき、前記画像に基づいて前記識別器が識別した商品を購入対象の商品として登録する商品登録手段と、
前記画像収集モードのとき、前記ディスプレイの表示面に所定の背景画像を表示させる表示制御手段と、
前記背景画像と前記商品とが写る画像を前記学習用画像として所定の記憶装置に記憶させる画像収集手段と、
を備える店舗システム。 - コンピュータが、
ディスプレイの表示面上に載置された商品が写る画像を撮像装置から取得し、
顧客が購入する商品を登録する商品登録モードと、商品を識別するための識別器の学習用画像を収集する画像収集モードと、を切り替え、
前記商品登録モードのとき、前記画像に基づいて前記識別器が識別した商品を購入対象の商品として登録し、
前記画像収集モードのとき、前記ディスプレイの表示面に所定の背景画像を表示させ、
前記背景画像と前記商品とが写る画像を前記学習用画像として所定の記憶装置に記憶させる、
ことを含む画像取得方法。 - コンピュータに、請求項9に記載の画像取得方法を実行させるプログラム。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2018/008145 WO2019167278A1 (ja) | 2018-03-02 | 2018-03-02 | 店舗装置、店舗システム、画像取得方法、およびプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2019167278A1 JPWO2019167278A1 (ja) | 2021-03-04 |
JP6947283B2 true JP6947283B2 (ja) | 2021-10-13 |
Family
ID=67806049
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020502774A Active JP6947283B2 (ja) | 2018-03-02 | 2018-03-02 | 店舗装置、店舗システム、画像取得方法、およびプログラム |
Country Status (3)
Country | Link |
---|---|
US (1) | US20210004644A1 (ja) |
JP (1) | JP6947283B2 (ja) |
WO (1) | WO2019167278A1 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023234062A1 (ja) * | 2022-05-31 | 2023-12-07 | 京セラ株式会社 | データ取得装置、データ取得方法、及びデータ取得台 |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4913719B2 (ja) * | 2007-12-28 | 2012-04-11 | 東芝テック株式会社 | 商品販売データ処理装置及びコンピュータプログラム |
US8571298B2 (en) * | 2008-12-23 | 2013-10-29 | Datalogic ADC, Inc. | Method and apparatus for identifying and tallying objects |
JP5518918B2 (ja) * | 2012-02-29 | 2014-06-11 | 東芝テック株式会社 | 情報処理装置、店舗システム及びプログラム |
JP5915851B2 (ja) * | 2012-03-12 | 2016-05-11 | 大日本印刷株式会社 | 会計管理システム及びレジシステム |
JP6177068B2 (ja) * | 2013-09-24 | 2017-08-09 | 株式会社ブレイン | 店舗システム |
WO2015140855A1 (ja) * | 2014-03-20 | 2015-09-24 | 日本電気株式会社 | Pos端末装置、posシステム、画像処理方法及びプログラムが格納された非一時的なコンピュータ可読媒体 |
JP6387821B2 (ja) * | 2014-12-18 | 2018-09-12 | カシオ計算機株式会社 | 商品登録装置、商品登録方法、および、商品画像提供システム |
JP6565252B2 (ja) * | 2015-03-23 | 2019-08-28 | 日本電気株式会社 | 情報処理装置、情報処理方法、およびプログラム |
US10198722B2 (en) * | 2015-07-15 | 2019-02-05 | Toshiba Tec Kabushiki Kaisha | Commodity-sales-data processing apparatus, commodity-sales-data processing method, and computer-readable storage medium |
JP6556003B2 (ja) * | 2015-09-25 | 2019-08-07 | シャープ株式会社 | 商品情報入力機能を備えた複合機 |
JP6734580B2 (ja) * | 2016-03-10 | 2020-08-05 | 株式会社ブレイン | 物品識別システム |
-
2018
- 2018-03-02 WO PCT/JP2018/008145 patent/WO2019167278A1/ja active Application Filing
- 2018-03-02 JP JP2020502774A patent/JP6947283B2/ja active Active
- 2018-03-02 US US16/977,279 patent/US20210004644A1/en not_active Abandoned
Also Published As
Publication number | Publication date |
---|---|
US20210004644A1 (en) | 2021-01-07 |
JPWO2019167278A1 (ja) | 2021-03-04 |
WO2019167278A1 (ja) | 2019-09-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10762486B2 (en) | Information processing apparatus, information processing method, and non-transitory storage medium | |
JP6801676B2 (ja) | 情報処理装置、情報処理方法、及び、プログラム | |
JP6549558B2 (ja) | 売上登録装置、プログラム及び売上登録方法 | |
EP3021299A1 (en) | Information processing apparatus, store system and method | |
US20140067574A1 (en) | Information processing apparatus and information processing method | |
US9412045B2 (en) | Commodity registration apparatus and commodity registration method | |
JP2008257462A (ja) | 商品販売登録データ処理装置 | |
CN111046683B (zh) | 读取装置及控制方法、计算机可读存储介质、电子设备 | |
JP2013089090A (ja) | 情報処理装置及びプログラム | |
US9208383B2 (en) | Commodity recognition apparatus and method for recognizing commodity by the same | |
JP6947283B2 (ja) | 店舗装置、店舗システム、画像取得方法、およびプログラム | |
JP7501907B2 (ja) | 画像収集装置、画像収集システム、画像収集方法、およびプログラム | |
US20180240093A1 (en) | Information processing apparatus and information processing method | |
JP7006767B2 (ja) | 画像識別レジ装置、画像識別レジシステム、会計処理方法、およびプログラム | |
JP6981538B2 (ja) | 画像識別レジ装置、画像識別レジシステム、商品情報表示方法、およびプログラム | |
JP7248010B2 (ja) | 登録システム、登録方法及びプログラム | |
JP6532114B1 (ja) | 情報処理装置、情報処理方法、およびプログラム | |
JP2019168818A (ja) | 商品情報取得装置、商品情報取得方法、およびプログラム | |
JP7322945B2 (ja) | 処理装置、処理方法及びプログラム | |
JP7078105B2 (ja) | 会計装置、会計システム、商品識別方法、およびプログラム | |
JP7020538B2 (ja) | 会計装置、会計システム、商品識別方法、およびプログラム | |
EP2960831A1 (en) | Information processing apparatus and information processing method | |
US20230186736A1 (en) | Processing system, processing method, and non-transitory storage medium |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200826 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200826 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20210817 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210830 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6947283 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |