JP7444652B2 - 商品管理装置及び商品管理システム - Google Patents

商品管理装置及び商品管理システム Download PDF

Info

Publication number
JP7444652B2
JP7444652B2 JP2020046121A JP2020046121A JP7444652B2 JP 7444652 B2 JP7444652 B2 JP 7444652B2 JP 2020046121 A JP2020046121 A JP 2020046121A JP 2020046121 A JP2020046121 A JP 2020046121A JP 7444652 B2 JP7444652 B2 JP 7444652B2
Authority
JP
Japan
Prior art keywords
product
distance
shelf
acquisition unit
area
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020046121A
Other languages
English (en)
Other versions
JP2021149245A (ja
Inventor
崇行 澤田
哲也 信岡
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba TEC Corp
Original Assignee
Toshiba TEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba TEC Corp filed Critical Toshiba TEC Corp
Priority to JP2020046121A priority Critical patent/JP7444652B2/ja
Priority to US17/149,315 priority patent/US11367176B2/en
Publication of JP2021149245A publication Critical patent/JP2021149245A/ja
Application granted granted Critical
Publication of JP7444652B2 publication Critical patent/JP7444652B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/764Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/22Matching criteria, e.g. proximity measures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • G06T7/0008Industrial image inspection checking presence/absence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/52Surveillance or monitoring of activities, e.g. for recognising suspicious objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30232Surveillance
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30242Counting objects in image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/07Target detection

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • Computing Systems (AREA)
  • Software Systems (AREA)
  • Medical Informatics (AREA)
  • Quality & Reliability (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • General Engineering & Computer Science (AREA)
  • Cash Registers Or Receiving Machines (AREA)
  • Biodiversity & Conservation Biology (AREA)
  • Biomedical Technology (AREA)
  • Molecular Biology (AREA)

Description

本発明の実施形態は、商品管理装置及び商品管理システムに関する。
近年、店舗において、レジつまりチェックアウトレーンが不要なレジレス店舗が現れている。このレジレス店舗では、買物客が商品を棚から取り出す、つまりピックアップすると、その商品が自動的に購入リストに登録される。そして、買物客の退店時に、この購入リストの内容に基づいて会計処理が行われる。
このようなレジレス店舗を実現するためには、商品棚から取り出された商品の識別と個数の検知を行うことが必要である。
特開2017-157216号公報
本発明の実施形態が解決しようとする課題は、商品棚から取り出された商品の識別と個数の検知を行うことができる商品管理装置及び商品管理システムを提供しようとするものである。
一実施形態において、商品管理装置は、第1の取得部、第2の取得部、特定部、第3の取得部算出部及び対応付け部を備える。第1の取得部は、奥行方向に延びる各領域に陳列された商品列を奥行方向の第1端側へ移動させる移動機構を備える商品棚の第1端側を撮影する1以上のカメラから撮影データを取得する。第2の取得部は、商品棚の各領域に陳列された商品列において奥行方向の第1端側とは反対側の第2端側に位置する商品から基準位置までの距離を領域毎に測定する複数の距離センサから距離データを取得する。特定部は、第1の取得部で取得された撮影データ及び第2の取得部で取得された距離データに基づいて、商品棚の距離変化の生じた領域から取られた商品を特定する。第3の取得部は、記憶部から特定部で特定された商品のサイズ情報を取得する。算出部は、第3の取得部で取得された商品のサイズ情報及び第2の取得部で取得された距離データに基づいて、商品棚の距離変化の生じた領域から取られた商品の数を求める。対応付け部は、商品棚の各領域に陳列された商品列の商品を判別する指示に応じて、第1の取得部で取得された撮影データに基づいて商品を判別し、距離センサと商品とを対応付ける。
商品管理装置を備える商品管理システムの一実施形態のハードウェア構成を示すブロック図。 商品管理装置が備える記憶部に記憶される対応付けテーブルのレコードの構成の一例を示す図。 各種商品が陳列される商品棚を正面側から見た模式図。 商品棚を側面方向から側板を透過して見た模式図。 商品管理装置におけるプロセッサの要部制御手順を示す流れ図。 カメラからの撮影データの一例を示す模式図。 商品取り出し前の商品列の状態を示す模式図。 商品取り出し後の商品列の状態を示す模式図。 カメラからの撮影データの一例を示す模式図。 商品取り出し前の商品列の状態を示す模式図。 商品取り出し後の商品列の状態を示す模式図。 他の実施形態における商品棚を正面側から見た模式図。 他の実施形態における商品棚を側面方向から側板を透過して見た模式図。 さらに別の実施形態における商品棚を側面方向から側板を透過して見た模式図。
以下、商品棚から取り出された商品の識別と個数の検知を行うことができる商品管理装置及び商品管理システムの実施形態について、図面を用いて説明する。
図1は、店舗に設けられる商品管理装置1を備える商品管理システムの一実施形態のハードウェア構成を示すブロック図である。商品管理システムは、この商品管理装置1に加えて、複数の距離センサ2、複数のカメラ3及び商品データベース4を備える。各距離センサ2は、移動機構5に設けられている。なお、図1では、データベースをDBと略記している。
商品管理装置1は、プロセッサ11、記憶部12、表示インタフェース13、操作インタフェース14、商品データインタフェース15、上位システムインタフェース16、距離センサ群インタフェース17、カメラ群インタフェース18及びシステム伝送路19を備えている。また、特に図示はしていないが、現在時刻を計時する時計を備える。なお、図1では、インタフェースをI/Fと略記している。プロセッサ11、記憶部12、表示インタフェース13、操作インタフェース14、商品データインタフェース15、上位システムインタフェース16、距離センサ群インタフェース17及びカメラ群インタフェース18は、それぞれシステム伝送路19と接続している。システム伝送路19は、アドレスバス、データバス、制御信号線等を含む。商品管理装置1では、プロセッサ11及び記憶部12がシステム伝送路19で接続されて、商品管理装置1を制御するための情報処理を行うコンピュータが構成される。
表示インタフェース13は、表示装置131と接続している。操作インタフェース14は、入力装置141と接続している。商品データインタフェース15は、商品データベース4と接続している。距離センサ群インタフェース17は、複数の距離センサ2と接続している。カメラ群インタフェース18は、複数のカメラ3と接続している。
商品管理装置1のプロセッサ11は、上記コンピュータの中枢部分に相当する。プロセッサ11は、オペレーティングシステムまたはアプリケーションプログラムに従って、商品管理装置1としての各種の機能を実現するべく各部を制御する。プロセッサ11は、例えばCPU(Central Processing Unit)である。
記憶部12は、上記コンピュータの主記憶部分に相当する。記憶部12は、不揮発性のメモリ領域及び揮発性のメモリ領域を含む。記憶部12は、不揮発性のメモリ領域ではオペレーティングシステムまたはアプリケーションプログラムを記憶する。記憶部12は、プロセッサ11が各部を制御するための処理を実行する上で必要なデータを揮発性のメモリ領域で記憶する。例えば、記憶部12は、後述する対応付けテーブルを記憶する。プロセッサは、記憶部12の揮発性のメモリ領域を、データが適宜書き換えられるワークエリアとして使用する。不揮発性のメモリ領域は、例えばROM(Read Only Memory)である。不揮発性メモリ領域は、EEPROM(Electric Erasable Programmable Read-Only Memory)、HDD(Hard Disc Drive)またはSSD(Solid State Drive)等の周知の記憶デバイスを単独で、あるいは複数組み合わせて用いても良い。揮発性のメモリ領域は、例えばRAM(Random Access Memory)である。
図2は、記憶部12に記憶される対応付けテーブル121のレコードの構成の一例を示す図である。1つのレコードは、領域IDに対応付けて、距離センサID、カメラID、商品コード及び厚み情報を記憶する。この対応付けテーブル121は、どの商品がどの商品棚のどの陳列位置に陳列されているのかを示す棚割データである。
ここで、領域IDは、商品が陳列される商品棚の陳列位置を個々に識別するために、陳列領域毎に設定された一意の識別コードである。従って、対応付けテーブル121は、店舗に設けられた全商品棚における陳列領域の個数分のレコードを有する。商品棚の増減や、各商品棚における棚の段数の増減、各段における領域の設定に応じて、対応付けテーブル121のレコード数は増減する。
距離センサIDは、距離センサ2を個々に識別するために距離センサ2毎に設定された一意の識別コードである。後述するように、距離センサ2は、陳列領域毎に設置されるため、領域IDと距離センサIDとは1対1に対応する。
カメラIDは、カメラ3を個々に識別するためにカメラ3毎に設定された一意の識別コードである。後述するように、カメラ3も距離センサ2と同様に、陳列領域毎に設置されるため、領域IDとカメラIDとは1対1に対応する。
商品コードは、各商品を個々に識別するために商品毎に設定された一意の識別コードである。対応付けテーブル121が記憶する商品コードは、領域IDで特定される陳列領域に陳列されている商品を示す。従って、対応付けテーブル121の各レコードの商品コードは、棚割により陳列領域に陳列される商品が入れ替えられる毎に、書き換えられる。
厚み情報は、商品コードで示される商品のサイズ情報である。商品を陳列する際、どの面を買物客に正対させるのかにより、当該商品が陳列領域に占める左右方向、上下方向、奥行方向のサイズが変わってくる。厚み情報は、商品の陳列形態に応じた奥行方向のサイズ情報である。従って、対応付けテーブル121の各レコードの厚み情報は、棚割により陳列領域に陳列される商品が入れ替えられる毎に、書き換えられる。
表示インタフェース13は、プロセッサ11が表示装置131へ表示データを伝達するためのインタフェースである。表示装置131は、液晶ディスプレイや有機ELディスプレイであって良い。プロセッサ11は、表示インタフェース13を介して、表示装置131に表示データに基づく各種の情報を表示させることができる。
操作インタフェース14は、プロセッサ11が入力装置141等の入力装置からの入力データを受け取るためのインタフェースである。入力装置141は、キーボードやマウスなどを含む。入力装置141は、表示装置131の表示画面上に配置されたタッチパネルであっても良い。入力装置141で行われた操作に対応する入力データは、操作インタフェース14を介してプロセッサ11に伝達される。入力装置141は、例えば、プロセッサ11に対し後述する画像撮影指示や終了指示を行うために使用されることができる。
商品データインタフェース15は、プロセッサ11が商品データベース4にアクセスするためのインタフェースである。プロセッサ11は、商品データインタフェース15を介して、商品データベース4から商品に関する情報を取得する。なお、図1では、商品データベース4は、商品管理装置1の外部に構成されるものとしているが、商品管理装置1の記憶部12に記憶していても良い。商品データベース4は、各商品の商品コードと関連付けて、商品情報を記憶する記憶部である。商品情報は、外観特徴量データ、陳列形態に応じた複数のサイズ情報、等の商品自体に関する情報である。サイズ情報は、例えば、商品が直方体である場合、3辺のサイズ情報を含む。
上位システムインタフェース16は、プロセッサ11が会計システムや店舗システム等の図示しない上位システムとの間でデータ授受を行うためのインタフェースである。プロセッサ11は、上位システムインタフェース16を介して、上位システムにデータを送信し、また、上位システムからデータを受信する。なお、上位システムインタフェース16は、有線または無線による通信インタフェースであっても良い。そうすることで、プロセッサ11は、上位システムインタフェース16を介して、LAN(Local Area Network)やインターネット等のネットワークに接続された、上位システムを構成する他の機器とデータ通信を行うことができる。
距離センサ群インタフェース17は、プロセッサ11が複数の距離センサ2との間でデータ授受を行うためのインタフェースである。距離センサ2は、内蔵メモリを有し、一定時間分の距離データを保持可能なものがある。このような距離センサ2を使用する場合、プロセッサ11は、距離センサ群インタフェース17を介して距離センサ2に距離を問合せ、距離センサ2は、その問合せに対して距離変化の有無と、距離データを返す。この場合の距離データは、現時点での距離、変化前後の距離、もしくは距離変位量である。また、距離センサ2は、距離変化が有った際に、自発的に距離変化通知と共に距離データを出力するものもある。さらに、距離センサ2には、内蔵メモリを有せず、単にその時点での距離を示す測定データを距離データとして出力するものもある。本実施形態では、プロセッサ11からの問合せに対して距離変化の有無と距離変位量を含む距離データとを返却するタイプの距離センサ2を使用するものとして説明する。
カメラ群インタフェース18は、プロセッサ11が複数のカメラ3それぞれからの撮影データを受け取るためのインタフェースである。
以下、各種商品が陳列される商品棚における複数の距離センサ2及び複数のカメラ3の配置関係を説明する。
図3は、商品棚6を正面側から見た模式図であり、図4は、商品棚6を側面方向から側板を透過して見た模式図である。図3及び図4では、天板61と底板62との間を2つの棚板63で仕切った3段構成の商品棚6を例示している。そして各段は、左右及び中央の3つの陳列領域に分けられている。各陳列領域は、底板62及び棚板63の奥行方向に延びている。この1つの陳列領域に、1種類の商品72が商品列71として並べて陳列される。
各陳列領域の商品72が陳列される面には、各陳列領域に陳列された商品列71を自動的に前出しする、すなわち、奥行方向の正面側へ移動させる移動機構5が配置されている。以下、この正面側を第1端側と称する。移動機構5は、その陳列領域に陳列された商品72を第1端側に向けて押圧する押圧板51を有する。この押圧板51は、レール52によって移動方向が規制され、陳列領域の第1端側とこれとは反対側の第2端側との間を摺動する。押圧板51は、バネ等の図示しない付勢部材によって第1端側へ向けて付勢されており、この付勢力によって商品列71の商品72を第1端側に向けて押圧する。底板62及び棚板63の第1端側の端部は、ストッパ621及び631として立ち上がっている。ストッパ621及び631は、最前のすなわち最も第1端側の商品72の第1端側の方向への移動を制限する。このように最も第1端側の商品72はストッパ621または631によって第1端側方向への移動が規制され、最も第2端側の商品72は押圧板51によって第1の方向へ向けて押圧される。これにより、商品列71の商品72は隙間なく配列される。
距離センサ2は、各陳列領域に陳列された商品列71において奥行方向の第1端側とは反対側の第2端側に位置する商品72から基準位置までの距離を陳列領域毎に測定する。基準位置は、例えば、商品棚6の背面板64の位置である。そのため、距離センサ2は、各陳列領域に対応させて背面板64に取り付けられている。距離センサ2は、例えば、図4に一点鎖線で示すように、超音波やレーザ、赤外線等の光を利用して対象物までの距離を計測する。
カメラ3も、各陳列領域に対応して、商品棚6の天板61及び棚板63それぞれに、上記第1端側を撮影するように取り付けられている。カメラ3は、例えばCCD(Charge Coupled Device)カメラである。カメラ3は、少なくとも第1端側に位置する商品72を撮影可能であれば、その取り付け位置及び取り付け角度を特に限定しない。
図5は、商品管理装置1におけるプロセッサ11の要部制御手順を示す流れ図である。以下、この図を用いて、商品管理装置1の動作について説明する。なお、以下に説明する動作の手順及びその内容は一例である。同様な結果が得られるのであれば、その手順及び内容は限定されるものではない。
まず、プロセッサ11は、操作インタフェース14を介して入力装置141より画像撮影指示を受けたか否か判断する(ACT11)。店員等の商品管理装置1の使用者は、棚割によって商品72の陳列位置の変更を行った際に、入力装置141を操作して、この画像撮影指示を発生させることができる。ここで、画像撮影指示を受けていない場合(ACT11のNO)、プロセッサ11は、以下に説明するような、商品72の取り出し検出及びその取り出された商品72の個数算出のための、距離センサID毎のループ処理へ進む。
これに対して、画像撮影指示を受けた場合(ACT11のYES)、プロセッサ11は、カメラ群インタフェース18を介して、各カメラ3から撮影データを取得し、記憶部12に一時保存する(ACT12)。かくして、プロセッサ11は、1以上のカメラから撮影データを取得する第1の取得部として機能する。
次に、プロセッサ11は、取得した各撮影データから、対応する陳列領域に陳列されている商品列71の商品72を識別する(ACT13)。図6は、カメラ3からの撮影データの一例を示す模式図である。例えば、プロセッサ11は、この撮影データに対して既知の画像認識を行って商品72の特徴量を抽出する。そして、プロセッサ11は、商品データインタフェース15を介して、その特徴量により商品データベース4を検索して、該当する外観特徴量を持つ商品を特定する。なお、撮影データに基づく商品の特定手法は、これに限定するものではなく、機械学習等、どのような手法を採用しても構わない。プロセッサ11は、こうして特定した商品の商品IDを、対応付けテーブル121の、その撮影データの発生元であるカメラ3のカメラIDを記憶しているレコードへ記憶する。対応付けテーブル121は、前述したように、距離センサIDとカメラIDとを対応付けて記憶している。かくして、プロセッサ11は、距離センサ2と商品72とを対応付ける対応付け部として機能する。
また、プロセッサ11は、上記商品の識別の際、その商品がどの向きで陳列されているのかを知ることができる。例えば、商品が直方体の場合、商品データベース4は、外観特徴量データとして、その商品の前後左右上下の6面の特徴量データを記憶している。従って、撮影データ中の商品を識別する際、その商品が何れであるかだけでなく、カメラ3がその商品の何れの面を撮影したのかも識別することができる。プロセッサ11は、この識別結果に基づき、商品データベース4より、陳列領域の奥行方向における各商品72のサイズ情報、つまり厚み情報を取得する(ACT14)。かくして、プロセッサ11は、商品72のサイズ情報を取得する第3の取得部として機能する。そして、プロセッサ11は、この取得した厚み情報を、対応付けテーブル121の、その撮影データの発生元であるカメラ3のカメラIDを記憶しているレコードへ記憶する。
以上のようにして、棚割に応じた対応付けテーブル121の更新が行われる。
ACT14の処理終了後、あるいは棚割を行っておらず画像撮影指示を受けていない場合(ACT11のNO)、プロセッサ11は、以下の距離センサID毎のループ処理を実施する。このループ処理は、距離センサID毎つまり陳列領域毎に、商品72の取り出し検出及びその取り出された商品72の個数算出を、全ての距離センサIDに対して行うものである。
まず、プロセッサ11は、当該距離センサIDで示される距離センサ2に対し、距離センサ群インタフェース17を介して問合せる。そして、プロセッサ11は、その距離センサ2から、距離変化検知の応答が有ったか否か判断する(ACT15)。距離変化検知の応答が無かった場合(ACT15のNO)、プロセッサ11は、当該距離センサIDについては、この距離センサID毎のループの処理が終了するまで待機する。
これに対して、距離センサ2から距離変化検知の応答が有った場合(ACT15のYES)、プロセッサ11は、距離センサ2から距離変位量を示す距離データを取得すると共に、距離変位発生時刻を取得して、記憶部12に一時記憶する(ACT16)。かくして、プロセッサ11は、距離データを取得する第2の取得部として機能する。なお、距離変位発生時刻は、現在時刻を図示しない時計によって取得することができる。
次に、プロセッサ11は、対応付けテーブル121から、距離センサIDに対応する陳列領域に陳列されている商品列71の商品72の商品コードと厚み情報を選択する(ACT17)。かくして、プロセッサ11は、商品棚6から取り出された商品72を特定する特定部として機能する。
そして、プロセッサ11は、ACT16で取得した距離変位量をACT17で選択した厚み情報で除算することで、取り出された商品72の個数を算出する(ACT18)。かくして、プロセッサ11は、取り出された商品72の数を求める算出部として機能する。
例えば、ある商品72の3辺のサイズが、100cm×150cm×50cmだったとする。そして、図6に示すような撮影データから、当該商品72の奥行方向のサイズ情報つまり厚み情報として、例えば50cmが取得される。図7は、この場合の商品72の取り出し前の商品列71の状態を示す模式図であり、図8は、同じく商品72の取り出し後の商品列71の状態を示す模式図である。図7に示すように、商品棚6の棚板63に商品72が4個陳列されている取り出し前の状態で、距離センサ2では110cmの距離が測定されていたとする。そして、商品72が取り出されたとき、距離センサ2で測定された距離が210cmに変化したとする。このような場合、距離変位量は、210cm-110cm=100cmである。一方、カメラ3の撮影データから判別された商品72の厚み情報は、奥行サイズである50cmである。よって、プロセッサ11は、100cm/50cm=2と算出し、商品72の取り出個数は2個であると求めることができる。
図9乃至図11は、商品72が別の向きで並べて陳列されていた場合を示している。すなわち、図9は、カメラ3からの撮影データの一例を示す模式図であり、図10は、商品72を取り出し前の商品列71の状態を示す模式図であり、図11は、商品72を取り出し後の商品列71の状態を示す模式図である。この場合、距離変位量は同じく100cmであるが、厚み情報としては100cmが取得される。よって、プロセッサ11は、100cm/100cm=1と算出し、商品72の取り出個数は1個であると求めることができる。
以上のようにして取り出した商品の個数が算出されたならば、プロセッサ11は、距離変位発生時刻を示す時刻情報と、取り出された商品72の商品コードと、算出した個数を示す個数情報と、を上位システムインタフェース16を介して上位システムへ出力する(ACT19)。
以上のACT15乃至ACT19の処理を全ての距離センサIDについて行ったならば、プロセッサ11は、この距離センサID毎のループ処理を終了する。
そして、プロセッサ11は、操作インタフェース14を介して入力装置141より終了指示を受けたか否か判断する(ACT20)。店員等の商品管理装置1の使用者は、入力装置141を操作して、この終了指示を発生させることができる。これにより、例えば、棚割による商品72の陳列位置を変更する際に、商品管理装置1の動作を一時的に停止させることができる。ここで、終了指示を受けていない場合(ACT20のNO)、プロセッサ11は、ACT1の処理へ進む。また、終了指示を受けた場合には(ACT20のYES)、プロセッサ11は、動作を終了する。
かかる構成の商品管理装置1においては、プロセッサ11は、奥行方向に延びる各陳列領域に並べて陳列された商品列71を奥行方向の第1端側へ移動させる移動機構5を備える商品棚6の第1端側を撮影する1以上のカメラ3から撮影データを取得する。またプロセッサ11は、商品棚6の各陳列領域に陳列された商品列71において奥行方向の第1端側とは反対側の第2端側に位置する商品72から基準位置までの距離を陳列領域毎に測定する複数の距離センサ2から距離データを取得する。そして、プロセッサ11は、それら取得された撮影データ及び距離データに基づいて、商品棚6の距離変化の生じた陳列領域から取られた商品72を特定する。また、プロセッサ11は、商品データベース4から取得して対応付けテーブル121に記憶されている特定された商品72のサイズ情報である厚み情報を取得する。そして、プロセッサ11は、その取得された商品72のサイズ情報及び取得された距離データに基づいて、商品棚6の距離変化の生じた領域から取られた商品72の数を求める。
従って、商品管理装置1のプロセッサ11は、商品棚6から取り出された商品72の識別と個数の検知を行うことができる。
また、プロセッサ11は、商品72の棚割りの変更に応じて発せられる、商品棚6の各陳列領域に陳列された商品列71の商品72を判別する指示に応じて、1以上のカメラ3から撮影データを取得して、その取得された撮影データに基づいて商品72を判別し、距離センサ2の距離センサIDと商品72の商品コードとを対応付けて、対応付けテーブル121に登録する。
商品棚6から取り出された商品72の識別と個数の検知を行うには、商品陳列の棚割データが既知情報として必要である。しかし、棚割が変更されると、棚割データは実状に追随できない。従来、棚割が行われる毎に、その新しい棚割に応じた棚割データを人手により入力することが必要であった。これに対して、本実施形態では、棚割が行われた際には入力装置141から指示を入力するだけで、プロセッサ11が、カメラ3の撮影データに基づいて、自動的に棚割データを更新することができる。
この場合、プロセッサ11は、判別した商品72のサイズ情報である厚み情報を商品データベース4から取得し、距離センサID及び商品コードと厚み情報とを対応付けて、対応付けテーブル121に登録する。こうして、プロセッサ11は、商品72のサイズ情報を自動的に取得して、棚割データを更新することができる。そして、プロセッサ11は、この対応付けされた距離センサIDと商品コードと厚み情報とを参照して、商品72の特定及び商品72の厚み情報の取得を行う。
また、このとき、プロセッサ11は、取得された撮影データに基づいて商品72の商品列71における陳列形態を判別し、商品データベース4が記憶する各商品72についての陳列形態に応じた奥行方向の複数のサイズ情報のなかから、判別した陳列形態に対応する奥行方向のサイズ情報を取得する。
すなわち、商品72がどの向きで陳列されるのかによって、奥行方向のサイズ情報は異なる。プロセッサ11は、商品72の陳列向きを判別して、その向きに対応するサイズ情報を取得し、厚み情報として対応付けテーブル121に登録することができる。
以上、商品棚6から取り出された商品の72識別と個数の検知を行うことができる商品管理装置1及びそれを備える商品管理システムの実施形態について説明したが、かかる実施形態はこれに限定されるものではない。
図12は、他の実施形態における商品棚6を正面側から見た模式図であり、図13は、他の実施形態における商品棚6を側面方向から側板を透過して見た模式図である。このように、陳列領域毎に複数台のカメラ3を設ける代わりに、天井8に取り付けた1台のカメラ3のみ使用するようにしても良い。この1台のカメラ3は、一つの商品棚6の全ての陳列領域を撮影範囲とするよう、その取り付け位置及び取り付け角度が調整される。この場合、記憶部12の対応付けテーブル121では、一つのカメラIDが複数の領域ID及び距離センサIDに対応付けられる。公知の画像認識により、プロセッサ11は、一つの撮影データから商品棚6における陳列位置と商品72との関係を判別することができる。
また、各陳列領域に陳列された商品列71を自動的に前出しする移動機構5についても、様々な構成のものを使用することができる。図14は、さらに別の実施形態における商品棚6を側面方向から側板を透過して見た模式図である。このように、移動機構5は、単純に、商品棚6の底板62及び棚板63を背面板64から前方に向けて傾斜させただけのものであっても良い。このように商品陳列領域に傾斜を設けたことで、商品72が自重により前出しされる。
また、上記実施形態では、プロセッサ11からの問合せに対して距離変化の有無と距離変位量を含む距離データとを返却するタイプの距離センサ2を使用する場合を説明した。しかしながら、その他のタイプの距離センサ2が使用されることができる。例えば、内蔵メモリを有せず、単にその時点での距離を示す測定データを距離データとして出力する距離センサ2を使用して良い。この場合、例えば記憶部12の対応付けテーブル121の各レコードまたは対応付けテーブル121以外に、2回分の距離データを記憶するエリアを設ける。そして、プロセッサ11は、各距離センサ2からの距離データを定期的に取得して、取得した距離データをその2つのエリアに交互に記憶する。その記憶の際に、プロセッサ11は、2つの距離データを比較することで距離変位の有無及び距離変位量を知ることができる。
また、上記実施形態では、プロセッサ11は、全ての距離センサIDについて、距離センサID毎に商品72の取り出し検出及び個数算出を行っている。しかしながら、プロセッサ11は、距離変化があった距離センサ2についてのみ個数算出を行うようにしても良い。この場合、距離センサID毎のループではなく、以下のような処理になる。なお、距離センサ2は、距離変化が有った際に、自発的に距離変化通知と共に距離データを出力するタイプのものを使用する。すなわち、プロセッサ11は、距離変化が有った距離センサ2からの距離変化通知を受けて、それに対応する商品72の個数を算出する。
なお、各実施形態は、商品棚6から取り出された商品72の個数を算出するものとして説明した。しかしながら、買物客が一旦取り出した商品72を元の陳列位置に戻した場合も、同様の構成及び処理によって、その返却個数も算出することができることは言うまでもない。
この他、各実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態及びその変形は、発明の範囲に含まれると共に、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
1…商品管理装置、 2…距離センサ、 3…カメラ、 4…商品データベース(商品DB)、 5…移動機構、 6…商品棚、 8…天井、 11…プロセッサ、 12…記憶部、 13…表示インタフェース(表示I/F)、 14…操作インタフェース(操作I/F)、 15…商品データインタフェース(商品データI/F)、 16…上位システムインタフェース(上位システムI/F)、 17…距離センサ群インタフェース(距離センサ群I/F)、 18…カメラ群インタフェース(カメラ群I/F)、 19…システム伝送路、 51…押圧板、 52…レール、 61…天板、 62…底板、 63…棚板、 64…背面板、 71…商品列、 72…商品、 121…対応付けテーブル、 131…表示装置、 141…入力装置、 621,631…ストッパ。

Claims (4)

  1. 奥行方向に延びる各領域に陳列された商品列を前記奥行方向の第1端側へ移動させる移動機構を備える商品棚の前記第1端側を撮影する1以上のカメラから撮影データを取得する第1の取得部と、
    前記商品棚の前記各領域に陳列された前記商品列において前記奥行方向の前記第1端側とは反対側の第2端側に位置する商品から基準位置までの距離を領域毎に測定する複数の距離センサから距離データを取得する第2の取得部と、
    前記第1の取得部で取得された前記撮影データ及び前記第2の取得部で取得された前記距離データに基づいて、前記商品棚の距離変化の生じた領域から取られた商品を特定する特定部と、
    記憶部から前記特定部で特定された前記商品のサイズ情報を取得する第3の取得部と、
    前記第3の取得部で取得された前記商品のサイズ情報及び前記第2の取得部で取得された前記距離データに基づいて、前記商品棚の距離変化の生じた領域から取られた前記商品の数を求める算出部と、
    前記商品棚の前記各領域に陳列された前記商品列の前記商品を判別する指示に応じて、前記第1の取得部で取得された前記撮影データに基づいて前記商品を判別し、前記距離センサと前記商品とを対応付ける、対応付け部と、
    を備える商品管理装置。
  2. 前記対応付け部は、前記判別した前記商品の前記サイズ情報を前記記憶部から取得し、前記距離センサ及び前記商品と前記サイズ情報とを対応付け、
    前記特定部及び前記第3の取得部は、前記対応付け部で対応付けされた前記距離センサと前記商品と前記サイズ情報とを参照して、前記商品の特定及び前記商品の前記サイズ情報の取得を行う、
    請求項記載の商品管理装置。
  3. 前記対応付け部は、前記第1の取得部で取得された前記撮影データに基づいて前記商品の前記商品列における陳列形態を判別し、前記記憶部が記憶する各商品についての陳列形態に応じた前記奥行方向の複数のサイズ情報のなかから、前記判別した陳列形態に対応する前記奥行方向のサイズ情報を取得する、請求項記載の商品管理装置。
  4. 奥行方向に延びる各領域に陳列された商品列を前記奥行方向の第1端側へ移動させる移動機構を備える商品棚の、前記各領域に陳列された前記商品列において、前記奥行方向の前記第1端側とは反対側の第2端側に位置する商品から基準位置までの距離を領域毎に測定する複数の距離センサと、
    前記商品棚から取られた商品の個数を算出する商品管理装置と、
    を備え、
    前記商品管理装置は、
    前記商品棚の前記第1端側を撮影する1以上のカメラから撮影データを取得する第1の取得部と、
    前記複数の距離センサから距離データを取得する第2の取得部と、
    前記第1の取得部で取得された前記撮影データ及び前記第2の取得部で取得された前記距離データに基づいて、前記商品棚の距離変化の生じた領域から取られた商品を特定する特定部と、
    記憶部から前記特定部で特定された前記商品のサイズ情報を取得する第3の取得部と、
    前記第3の取得部で取得された前記商品のサイズ情報及び前記第2の取得部で取得された前記距離データに基づいて、前記商品棚の距離変化の生じた領域から取られた前記商品の数を求める算出部と、
    前記商品棚の前記各領域に陳列された前記商品列の前記商品を判別する指示に応じて、前記第1の取得部で取得された前記撮影データに基づいて前記商品を判別し、前記距離センサと前記商品とを対応付ける、対応付け部と、
    を備える、
    商品管理システム。
JP2020046121A 2020-03-17 2020-03-17 商品管理装置及び商品管理システム Active JP7444652B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2020046121A JP7444652B2 (ja) 2020-03-17 2020-03-17 商品管理装置及び商品管理システム
US17/149,315 US11367176B2 (en) 2020-03-17 2021-01-14 Commodity management device and commodity management system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020046121A JP7444652B2 (ja) 2020-03-17 2020-03-17 商品管理装置及び商品管理システム

Publications (2)

Publication Number Publication Date
JP2021149245A JP2021149245A (ja) 2021-09-27
JP7444652B2 true JP7444652B2 (ja) 2024-03-06

Family

ID=77748293

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020046121A Active JP7444652B2 (ja) 2020-03-17 2020-03-17 商品管理装置及び商品管理システム

Country Status (2)

Country Link
US (1) US11367176B2 (ja)
JP (1) JP7444652B2 (ja)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012074014A (ja) 2010-08-31 2012-04-12 Ns Solutions Corp 拡張現実提供システム、情報処理端末、情報処理装置、拡張現実提供方法、情報処理方法、及びプログラム
JP2019079322A (ja) 2017-10-25 2019-05-23 東芝テック株式会社 商品管理装置及び商品管理プログラム
JP2020019588A (ja) 2018-07-31 2020-02-06 大日本印刷株式会社 棚在庫管理システムおよび消費者動向分析システム

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3422309A4 (en) * 2016-02-29 2020-02-26 Signpost Corporation INFORMATION PROCESSING SYSTEM
US11106941B2 (en) * 2018-07-16 2021-08-31 Accel Robotics Corporation System having a bar of relocatable distance sensors that detect stock changes in a storage area
US11600019B2 (en) * 2019-09-23 2023-03-07 International Business Machines Corporation Image-based inventory estimation

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012074014A (ja) 2010-08-31 2012-04-12 Ns Solutions Corp 拡張現実提供システム、情報処理端末、情報処理装置、拡張現実提供方法、情報処理方法、及びプログラム
JP2019079322A (ja) 2017-10-25 2019-05-23 東芝テック株式会社 商品管理装置及び商品管理プログラム
JP2020019588A (ja) 2018-07-31 2020-02-06 大日本印刷株式会社 棚在庫管理システムおよび消費者動向分析システム

Also Published As

Publication number Publication date
JP2021149245A (ja) 2021-09-27
US11367176B2 (en) 2022-06-21
US20210295498A1 (en) 2021-09-23

Similar Documents

Publication Publication Date Title
US20190304132A1 (en) Device for detecting positional relationship among objects
CN111315670B (zh) 货架标签检测装置、货架标签检测方法、以及记录介质
US10542219B2 (en) Information collecting apparatus, information collecting system and information collecting method
JP7448065B2 (ja) 店舗装置、店舗システム、店舗管理方法、プログラム
JP2019200697A (ja) 棚管理システムおよびプログラム
CN101533312B (zh) 自动校准的触摸系统及方法
US11049373B2 (en) Storefront device, storefront management method, and program
WO2016084305A1 (ja) モニタリング装置、モニタリングシステムおよびモニタリング方法
JP6705075B2 (ja) 商品陳列情報集計システム
JP6896401B2 (ja) 物品認識装置
WO2017163879A1 (ja) 行動分析装置、行動分析システム、行動分析方法及びプログラム
JP2018131331A (ja) 物品管理装置及び物品管理方法
JP2019040227A (ja) 在庫管理システム
JP2015138349A (ja) 商品読取装置、販売データ処理装置および制御プログラム
JP7444652B2 (ja) 商品管理装置及び商品管理システム
EP3168784A1 (en) Object recognition apparatus and method for managing data used for object recognition
US20170161712A1 (en) Display device of a point-of-sale terminal and control method thereof
CN112449106B (zh) 架板拍摄装置及信息处理装置
JP6853031B2 (ja) 情報処理装置、情報処理システム、情報処理方法、及び、プログラム
JP2020191590A (ja) 画像処理装置、システム、画像処理装置の制御方法、及び、プログラム
JP6804891B2 (ja) チェックアウトシステム及びプログラム
CN112532874B (zh) 生成平面热力图的方法、装置、存储介质和电子设备
JP6313701B2 (ja) 商品販売データ処理システムおよびそのプログラム
JP2023175284A (ja) データ処理装置及びプログラム
JP7464460B2 (ja) 情報処理装置、分布状況検知システム、分布状況検知方法およびコンピュータプログラム

Legal Events

Date Code Title Description
RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20230104

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230217

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20231031

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20231114

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240112

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240130

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240222

R150 Certificate of patent or registration of utility model

Ref document number: 7444652

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150