JP7220221B2 - 販売エリアのゴンドラの商品レイアウトを該ゴンドラの想定商品レイアウトを表すリアログラムデータベースと照合する方法、この方法を実行するコード命令を含むコンピュータプログラム製品、及び売り場のゴンドラの商品レイアウトを確認するシステム - Google Patents

販売エリアのゴンドラの商品レイアウトを該ゴンドラの想定商品レイアウトを表すリアログラムデータベースと照合する方法、この方法を実行するコード命令を含むコンピュータプログラム製品、及び売り場のゴンドラの商品レイアウトを確認するシステム Download PDF

Info

Publication number
JP7220221B2
JP7220221B2 JP2020537855A JP2020537855A JP7220221B2 JP 7220221 B2 JP7220221 B2 JP 7220221B2 JP 2020537855 A JP2020537855 A JP 2020537855A JP 2020537855 A JP2020537855 A JP 2020537855A JP 7220221 B2 JP7220221 B2 JP 7220221B2
Authority
JP
Japan
Prior art keywords
gondola
product
electronic shelf
image
database
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020537855A
Other languages
English (en)
Other versions
JP2020534630A (ja
Inventor
ティエリ ガドゥ、
フランソワ ロビン、
アンドレアス レッスル、
トーマス シュヴァルツ、
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
SES Imagotag SA
Original Assignee
SES Imagotag SA
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by SES Imagotag SA filed Critical SES Imagotag SA
Publication of JP2020534630A publication Critical patent/JP2020534630A/ja
Application granted granted Critical
Publication of JP7220221B2 publication Critical patent/JP7220221B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/08Logistics, e.g. warehousing, loading or distribution; Inventory or stock management
    • G06Q10/087Inventory or stock management, e.g. order filling, procurement or balancing against orders
    • G06Q10/0875Itemisation or classification of parts, supplies or services, e.g. bill of materials
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/08Logistics, e.g. warehousing, loading or distribution; Inventory or stock management
    • G06Q10/087Inventory or stock management, e.g. order filling, procurement or balancing against orders
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/58Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/583Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/06Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • G06Q10/063Operations research, analysis or management
    • G06Q10/0631Resource planning, allocation, distributing or scheduling for enterprises or organisations
    • G06Q10/06316Sequencing of tasks or work
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/10Office automation; Time management

Landscapes

  • Engineering & Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Theoretical Computer Science (AREA)
  • Human Resources & Organizations (AREA)
  • Economics (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Strategic Management (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Library & Information Science (AREA)
  • Marketing (AREA)
  • General Business, Economics & Management (AREA)
  • Tourism & Hospitality (AREA)
  • Quality & Reliability (AREA)
  • Operations Research (AREA)
  • Development Economics (AREA)
  • Data Mining & Analysis (AREA)
  • General Engineering & Computer Science (AREA)
  • Finance (AREA)
  • Accounting & Taxation (AREA)
  • Databases & Information Systems (AREA)
  • Educational Administration (AREA)
  • Game Theory and Decision Science (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Cash Registers Or Receiving Machines (AREA)
  • Image Analysis (AREA)
  • Display Racks (AREA)

Description

本発明は、販売エリアで販売される商品のレイアウトの管理の分野に関する。
売り場の棚は通常、ゴンドラで構成され、販売中の商品は各ゴンドラに複数段並べられる。
一般に、棚は、価格、重量あたりの価格、商品名などの販売される商品に関する情報を表示するため、棚の外縁に沿って配置された棚札、好ましくは電子棚札も備える。
電子棚札(electronic shelf label、以下ESLと呼ぶ)の場合、1つのESLの画面に表示される情報は、低周波であれ高周波であれ、無線周波により遠隔制御される。販売中の各商品に関する表示情報は、例えば札データベースに含まれるデータベースの中央ファイルの更新に従って、リアルタイムで更新できる。中央ファイルにおいて、一意の商品識別子で識別される各商品は、価格、商品名、重量あたりの価格などの複数のデータと関連付けられており、これらは、全てのESL画面が中央データに含まれる最新の関連情報を表示するように継続的に更新可能である。特定の電子棚札と対応する商品との間のリンクは、通常、中央ファイルにおける各ESLに固有の札識別子と商品識別子との関連付けによって識別される。実際には、販売中の商品は棚の所定の領域、一般に、対応するESLの直下又は直上に位置する。以下、所与のESLに対応する棚の領域を、そのESLの「一致領域」と呼ぶ。商品関連情報を表示するESLに関して、対応する一致領域にはその商品が1つ以上含まれ、棚の該領域内に1列以上並べられる。陳列される商品の列数は、売り場の商品の「フェイス情報」の一部である。
このように、売り場の顧客には、法的要件に準拠した有効な情報が常に提供される。購入品の支払いの清算時に効果的に使用される情報は、同じ中央ファイルから取得されるため、顧客が選択した際に棚のESLに表示される情報と、支払い時に使用される情報との間の齟齬が回避される。また、棚にESLが設置されている売り場では、中央ファイル内の製品情報の変更が自動的且つ非常に迅速に棚の消費者に表示される情報に変換されるが、電子棚札がない場合は手動でそれぞれ変更する必要がある。
売り場の商品のレイアウトは、売り場のプラノグラム(棚割計画)データベースで表すことができる。プラノグラムデータベースには、販売中の商品の識別子と、その商品を収容する売り場の棚の領域との間のリンクが含まれる。このようなプラノグラムデータベースは通常、EAN番号などの商品識別子と、売り場内の位置(棚の領域など)の識別子とを照合する相関表の形式をとる。通常、プラノグラムデータベースは、視覚的プラノグラム、すなわち、棚の配置の2次元的又は3次元的視覚表現によって拡張され、商品は、棚に面した顧客の目に入るであろう商品の前面、すなわち「正面図」で視覚的に認識できる。
しかしながら、標準的なケースでは、売り場を開く際、その売り場に必ずしも適合しない汎用モデルに従って、プラノグラムデータベースや対応する視覚的プラノグラムを売り場に対して作成する場合がある。これは特に、店舗の大きさに対応したモデルである。特定の製品への棚の領域の割り当ては、プラノグラムデータベースが初期化された後、最終的に変更される可能性がある。近年、「リアログラム」、すなわち、棚スペースの割り当てに加えられた変更、又は棚札の割り当てに加えられた変更を考慮したプラノグラムを作成する努力がなされてきた。電子棚札が設置された売り場では、典型的に、ESLが別の製品に再割り当てされるたびに「リアログラムデータベース」が更新される。したがって、リアログラムデータベースは、(全ての商品が棚に適切に想定された向きで置かれていた場合)信頼性がある最新の棚の現実表現となり、リアログラムデータベースと売り場の実際の棚との間には齟齬が生じない。
信頼性の高いリアログラムデータベースを維持するためには、紙棚札ではなく、電子棚札を使用することが非常に望ましい。実際、電子棚札は、売り場の中央ファイルに従った商品情報の自動更新を可能にするだけでなく、棚札と商品識別子の関連付けに加えられた変更をリアログラムデータベースに反映させることもできる。また、ESLは通常、売り場の担当者が意図しない限り、変更できない棚の特定の位置に固定される。したがって、所与のESLが別の製品に再割り当てされると、棚札の再割り当てにより、その棚札に対応する棚の領域のリアログラムデータベースに存在する情報が影響を受け得る。
信頼性の高い完全なリアログラムデータベースを提供することで、売り場の顧客又は売り場の従業員の両者に向けた、売り場内の商品の位置情報アプリケーションの開発が可能となる。どちらの場合も、商品に関する最新のレイアウト情報(棚の対応領域が空か満杯か、棚が適切な商品リファレンスで満たされているか、商品が棚に十分に置かれているかなど)を有することは、店舗の収益や品出しの作業効率を向上させるために重要である。顧客にとっては、商品の入手可能性の最適化や品出し時間の短縮により満足度が向上し、売り場の魅力が向上する。棚出しや在庫管理に関わる従業員にとっては、これにより生産性が向上する。
対処すべき最初の問題は、売り場で販売される商品が不足することである。売り場で通常入手可能な特定の品目を購入しようとする顧客が、その品目が売り場にないことに気付く状況は、販売機会を逃したことによる損失と、不満を感じた顧客が一時的又は永久的に競合他社の別の売り場に乗り換えるリスクが生じるという2つのレベルで不利である。
理論上、全ての商品の販売が清算時に中央在庫管理ファイルに直ちに反映され、販売中の各品目がその入手可能度が臨界閾値を下回るとすぐに補充される場合、商品不足は起こらない。商品不足を回避するためのもう1つの重要な要素は、フェイス(すなわち、棚の所与の領域に対する、行の長さ、及び商品の列数)が製品の実際の消費率に適合していることである。フェイスは、製品の季節性や変動する需要を考慮して変更する必要がある。フェイスが実際の消費率と比較して少なすぎる場合、商品不足を回避するには製品を非常に高い頻度で補充する必要がある。フェイス情報はリアログラムの情報の一部であるため、空スペース、ゴンドラに現在存在する商品、フェイス情報等を含む(ただしこれらには限定されない)、ゴンドラの現在の状態に関する信頼性の高い情報を提供する方法が望まれる。
尚、中央在庫管理ファイルは、供給や清算などの、売り場の情報システムの他の機能と常に完全に同期しているわけではない。顧客は、探している製品の棚が空になっているのを依然として頻繁に目にする。顧客は、空の製品スロットの近くに配置された棚札から、製品がないことを理解するため、これは非常に不便である。
商品レイアウト管理用の既知のシステムには、棚の正面視で空の領域を検出できるものがある。しかしながら、既知のシステムでは、リアログラムデータベースにある情報を利用しないため、検出された空の領域は対応する商品リファレンスには自動的に関連付けされない。したがって、既知のシステムでは、商品不足を効率的に管理することはできない。
別の問題は、棚で入手可能な商品とリアログラムの計画レイアウトとの一致である。ここで重要なのは、棚の所与の領域について、その領域のリアログラムに含まれる想定商品リファレンスと、実際にその領域にある商品とが一致しているかである。商品リファレンスが誤って陳列されている、フェイスが間違っている(例えば、棚に2列あるべき特定の商品が1列のみである)など、想定レイアウトに準拠していない商品のレイアウトは、売り場の効率に悪影響を及ぼす。上述のように、想定したものと異なるフェイスは、実際のフェイスが多すぎる場合はゴンドラのスペースの無駄になり、実際のフェイスが少なすぎる場合は商品不足が生じやすい。また、売り場で販売されているブランドには、商品を棚に表示する方法について特定の要件を有している場合がある。
商品レイアウト管理に関する上記の問題を考慮すると、売り場の売上高を最大15%増加する余地があると推定される。商品不足の回避は、約3%~5%の収益増加に相当し、売り場で実際に入手可能な製品が、リアログラムデータベースの情報に対して正しい場所にあり、顧客が簡単に追跡可能であることで、5%の増加が見込まれる。また、(複数の売り場に対して1つの想定プラノグラムではなく)特定の売り場ごとに専用化された信頼性の高いリアログラムデータベースを設けることで、3%~5%の増加が見込まれる。
したがって、売り場で販売中の商品のレイアウト情報を検出し、売り場の担当者に問題を通知して、棚にない商品を注文及び/又は再注文する、あるいは、レイアウトがリアログラムデータベースで入手可能な情報と一致していない場合にレイアウトを再調整するなど、迅速な対応を可能とする解決法が必要とされる。
以下で説明する解決法では、商品のレイアウトが売り場のデータベースに存在する情報と一致しているかを確認するシステムによって、前述の従来技術の欠点が解消される。このシステムにより、画像認識により不一致(商品が入手可能であるはずの棚の領域が空である、商品のフェイスが間違っている、商品の正面図が間違っているなど)を直接追跡することができる。
上記の目的のため、第1の態様によると、本発明は、
販売エリアのゴンドラの商品レイアウトを、該ゴンドラの想定商品レイアウトを表すリアログラムデータベースと照合する方法であって、
各ゴンドラは、少なくとも1つの電子棚札を備え、各電子棚札は、1つの製品スロットフィールドを有するゴンドラの一致領域に対応しており、スロットフィールドは、
ゴンドラ番号と、
1つの特定のゴンドラ内の電子棚札の連続した行のうち1つに対応する行番号と、
1つの特定の行内の連続した電子棚札のうち1つに対応する札番号と、を含み、
上記方法は、コンピュータにより実施される、
撮像装置によりゴンドラの画像を取得するステップと、
取得したゴンドラの画像上の電子棚札を自動検出するステップと、
取得した画像上の電子棚札の行を自動検出するステップと、
取得した画像上で視認可能な所与の電子棚札に関して、該電子棚札の行番号及び札番号を決定し、対応する製品スロットフィールドを決定するステップと、
取得した画像上の電子棚札に対応するゴンドラの一致領域を決定するステップと、
取得した画像を用いた画像認識により、ゴンドラの一致領域に陳列された商品のレイアウト情報を検出するステップと、
各スロットフィールドと商品識別子とが関連付けられたリアログラムデータベースにアクセスするステップと、
決定されたスロットフィールドに関連付けられた商品識別子をリアログラムデータベースにおいて識別するステップと、
識別商品に関して、検出されたレイアウト情報をリアログラムデータベースに記憶された想定レイアウト情報と照合するステップと、を含むことを特徴とする方法に関する。
ここで提供されるシステムは、ゴンドラの各領域が、該領域のすぐ近く、例えば該領域の下に位置するゴンドラの行(row)に設けられた電子棚札(又はESL)に対応するという事実を利用する。取得したゴンドラの画像、通常はゴンドラの正面図から、棚の所与の領域に陳列される商品のレイアウト情報を自動画像認識で検出できる。このレイアウト情報は、電子棚札又はESLを介して、以下で「スロットフィールド」と呼ばれる、データベースにおけるゴンドラの領域の識別子に対応させることができる。実際、取得した画像上でESLを自動認識することで、本システムはゴンドラの領域に対応するスロットフィールドを識別することができる。
本方法は、限定的ではないが、有利には、単独で、又は任意の技術的に実現可能な組み合わせに従って、以下の特徴によって完成される。
上記方法は、棚の画像の取得後、取得した画像において、ゴンドラの少なくとも1つの空の領域を画像認識により識別するステップを更に含み、
所与の電子棚札に関して、ゴンドラの一致領域で検出されたレイアウト情報が、該一致領域が空であるという情報である場合、その識別商品がゴンドラにおいて品切れであると判定される。
上述の方法において、空の領域の識別は、ゴンドラの行又はゴンドラの背面の所定のパターンに対する色認識によって実行される。
上記方法は、商品画像データベースにおいて識別商品に関連付けられた事前登録画像を取得するステップを更に含み、事前登録画像は、商品識別子に関する想定正面図であり、
上記方法は、ゴンドラの一致領域の実際の正面図に対応する取得した画像の区画と、事前登録画像の想定正面図との間の類似度を算出することを更に含み、
類似度の値からゴンドラの正面図が不一致であると判定されたスロットフィールド及び/又は商品識別子のリストを出力する。
上記方法は、リアログラムデータベースにおいて、決定されたスロットフィールドの想定フェイス情報を取得するステップと、
上記スロットフィールドにより識別される商品スロットに関して、画像認識により、取得した画像上で視認可能な実際のフェイス情報と、想定フェイス情報とが一致しているか検出するステップと、を更に含む。
上述の方法において、想定フェイス情報は、ゴンドラ内の同一商品の品目の連続する列の数である。
上記方法は、ゴンドラの空の領域を強調する視覚信号、及び/又は、
ゴンドラで検出された空の商品スロットに関連付けられた商品識別子及び/又はスロットフィールドが補充される必要があることを示す視覚的な警告、及び/又は、
想定正面図と一致しないゴンドラの領域を強調する視覚信号、及び/又は、
想定フェイスと一致しないゴンドラの領域を強調する視覚信号とともに、
グラフィカルインターフェースにゴンドラの表現を表示するステップを更に含む。
取得した画像上の電子棚札の自動検出は、電子棚札が有し得る形状の所定のセットに対するパターン認識によって実行される。
取得した画像上で検出された所与の電子棚札に関して、該電子棚札の直上、且つ、該電子棚札の右隣りの電子棚札との間に位置する取得した画像の区画を、該電子棚札に対応するゴンドラの一致領域の画像として定めることで、一致領域が画定される。
第2の態様によると、商品レイアウトを確認するための上記方法を実行するコード命令を含む、コンピュータプログラム製品が提供される。
別の態様によると、本発明は、売り場のゴンドラの商品レイアウトを確認するシステムであって、本システムは、
ゴンドラに配置された複数の電子棚札と、
一意の札識別子によって識別された各電子棚札が1つの商品識別子に関連付けられた札データベースと通信するように構成されたサーバであって、電子棚札は、1つの製品スロットフィールドを有するゴンドラの一致領域に対応しており、サーバは、各スロットフィールドが商品識別子に関連付けられたリアログラムデータベースとも通信するように構成されたものであるサーバと、
ゴンドラの画像を取得可能な撮像装置と、を備え、
サーバは、
撮像装置によって提供されたゴンドラの画像上で電子棚札を自動認識し、
電子棚札に対応するスロットフィールドと、電子棚札に対応するゴンドラの一致領域とを決定し、
画像上でゴンドラの所与の領域において視認可能な商品のレイアウト情報を検出し、
検出されたレイアウト情報をリアログラムデータベースに記憶された情報と照合するように更に構成された、システムを提供する。
上述したシステムは、限定的ではないが、有利には、単独で、又は任意の技術的に実現可能な組み合わせに従って、以下の特徴を有することができる。
サーバは、各商品識別子と、識別商品の想定正面図である事前登録画像とが関連付けられた商品画像データベースと通信するように更に構成され、また、サーバは、検出されるレイアウト情報を作成する実際の正面図に対応する取得した画像の区画と、想定正面図とを比較可能である。
取得した画像上でのレイアウト情報の検出は、ゴンドラの空の領域の自動認識を含む。
取得した画像上で検出可能なレイアウト情報は、ゴンドラの領域内で視認可能な、ゴンドラの領域内の列数を含む、実際のフェイスを含み、
サーバは、実際のフェイスと、リアログラムデータベースにおいて取得される想定フェイス情報とを比較可能である。
以下、本発明の他の特徴、目的、及び利点を、以下の添付の図面を参照して、詳細に説明するが、これらは単なる例示であり、本発明を限定するものではない。
電子棚札、中央サーバ、及び携帯端末を含む、先行技術による既知の価格表示システムを示す図である。 棚の商品レイアウトを確認する方法のステップを概略的に示す図である。 棚の空の領域を検出する、特定の実施形態における商品レイアウト確認方法のステップを概略的に示す図である。 図3に示される方法の棚札検出ステップの概略図である。 図3に示される方法の行検出ステップ及び棚札計数ステップの概略図である。 図3に示される方法の空棚領域検出ステップの概略図である。 図3に示される方法の一部として、検出された空の領域に対応するスロットフィールドに関連付けられた商品が品切れであることを判定するステップの概略図である。 複数のゴンドラが判別された、売り場の棚の代替的な概略図である。 棚の所与の領域で視認可能な実際の正面図と、想定正面図とが比較される、別の実施形態による商品レイアウト確認方法を概略的に示す図である。 売り場の棚に関連するリアログラムデータベースと商品画像データベースの例示的な表現を概略的に示す図である。 特定のフェイス情報(棚の特定の領域における製品の列数)が検出され、想定フェイス情報と比較される、更に別の実施形態による商品レイアウト確認方法を概略的に表す図である。 図11に示される方法の一部として、棚の所与の領域における製品の列数を取得するステップの概略図である。 図11に示される方法の一部として、検出された製品の列数と想定数を照合するステップの概略図である。
以下、売り場の自動化棚レイアウト管理に部分的又は完全に関連するいくつかの方法が説明される。以下に説明される添付図面において、類似する要素は、同一の参照番号によって示される。
以下、ゴンドラの一致領域に「対応する」電子棚札又はESLについて述べる場合、この電子棚札はゴンドラの該領域において顧客が入手可能な製品に関する情報を表示することが意図されていることを意味する。これは、ESLが特定の商品識別子の商品情報を表示している場合、ゴンドラの対応する領域に、その商品の品目が特定の数含まれている必要があることを意味する。したがって、「ゴンドラの領域」は、1列又は複数列の同一製品を収容できる、あるいは収容できない、ゴンドラの地理的区画として定義される。この領域は、通常、ゴンドラの隣り合う行の間の、特定の長さを有する水平方向の区画に位置する。
後述する商品レイアウト確認システムは、取得した画像上で視認できるゴンドラの「一致領域」と、画像上で視認できるESLとの対応を単独で判別することができる。このシステムは、所与のESLから開始される、ゴンドラの一致領域の自動認識(すなわち、ゴンドラの該領域が視認可能な画像の区画の認識)に関して、所定の規則を利用できる。
以下、ゴンドラに配置され、検出された所与のESLに関して、該ESLの直上、且つ、該ESLとその右隣りのESLとの間に位置する、取得したゴンドラの画像の区画をゴンドラの一致領域の画像とし、このように画定される一致領域を識別する条件について検討する。またその逆、すなわち、ゴンドラの所与の領域に関して、対応するESLが、該ゴンドラの領域の直下の行、且つ、該領域の左側に位置する最も近いESLである場合について検討する。
尚、ゴンドラの各領域は、以下で「製品スロットフィールド」又は「スロットフィールド」と呼ばれる一意の特定の番号で識別される。以下、スロットフィールドを定義するための特定の態様について説明する。スロットフィールドに「対応する」ESLについて述べる場合、このESLは該スロットフィールドによって識別されるゴンドラの一致領域に陳列される製品に関する情報を表示することが意図されていることを意味する。
また、以下では、ゴンドラに陳列される商品の「レイアウト情報」の検出について述べる。レイアウト情報とは、広義には、ゴンドラの画像(通常は棚の正面図)を使用した自動認識から推測できる、ゴンドラで販売されている商品の状態に関する全ての情報を意味する。レイアウト情報としては、例えば、ゴンドラの領域が空状態か否か(棚に商品がないかどうか)や、ゴンドラ内で視認可能な同一製品の列数などが挙げられる。
図1は、顧客に価格情報を表示するために販売エリアに展開可能な電子棚札管理システムを例示的且つ非限定的に示す概略図である。このシステムは、出願人の代理で提出された国際公開第2017/017366号に記載されたシステムと類似する。このシステムは、ゴンドラに設置された電子棚札サブシステム1、中央サーバ2、及び読取装置3を備える。中央サーバ2は、ローカル又はリモートネットワークを介して、図1には示されない表示システムと付加的に通信することができる。また、中央サーバ2は、商品のレイアウトを監視するため、任意の撮像方法で、売り場のゴンドラの写真を撮ることができる1つ又は複数の撮像装置とも通信する。読取装置3と中央サーバ2との間の通信は、Wi-Fi、3G、4G、又はDECTなどの任意の通信ネットワークに従って実行することができる。
電子棚札(以下ESLとも呼ぶ)は、販売エリア全体の棚に優先的に配置される。図1では、販売中の商品を陳列する棚の縁に位置する棚レール13に3つのESL10、11、12が配置されている。各ESLは、製品情報を表示するための液晶表示画面などのディスプレイ14を備える。この情報は通常、法的要件に準拠した商品の価格と、キロあたりの価格などの他の必要な情報 を含む。各ESLは、例えばバーコードを介して、ESLの筐体上に表示可能な一意の札識別子により識別される。この札識別子は、通常、特定の英数字の羅列である。札識別子は、売り場の各棚札を誤りなく識別する。また、各電子棚札は、それ自体がEANコードなどの特定の商品識別子によって識別可能な1つの販売中の商品に対応している。
ESLは、好ましくは、販売エリア全体に展開され、これにより、エリア全体で提供される価格情報を中央サーバ2に記憶された情報と一致させることができる。
棚札10などのESLと、図1に示した電子棚札管理システムの他の構成要素との間の通信は、次のように動作させることができる。ESLは、中央サーバ2に接続された中央ステーションが発信する無線周波数信号にエンコードされた商品情報を受信できる無線周波数通信モジュールを備える。ESLは通常、アンテナと、NFCチップ又はRFIDチップを備える。また、ESLは、送信されたデータを記憶するためのメモリと、スクリーン14にデータを表示するためのマイクロコントローラを備える。読取装置3は、ESLの無線周波数周辺機器による無線通信を介してESLと通信することができる。このように、読取装置3は、ESLの設置時に、ESLを商品識別子に関連付けるのに使用することができる。読取装置3は、バーコードを用いてESLの札識別子を光学的に認識するモジュールも備えている。
その結果、棚札管理システムの構成要素1、2、3の全ては、無線通信を介した通信が可能となる。
中央サーバ2は、例えば、一意の札識別子と商品のEAN番号との相関表の形式である、電子棚札(ESL10、11、12など)と販売中の商品との関連付け情報を含む札データベースDBを少なくとも有する。ここで、中央サーバ2は、リアログラムデータベースPと商品画像データベースAも備えている。しかしながら、データベースAは、以下で説明する方法全てに必要なわけではない。
リアログラムデータベースPは、製品スロットフィールド、売り場で販売中の商品の商品識別子、及び売り場の棚に設けられたESLの札識別子間の関連付け情報を含む。製品スロットフィールドは、棚の製品スロットを明確に識別できるものであれば任意の形式でよい。
以下において、製品スロットフィールドは(図1には示されない)3つの数値インデックスで構成される。第1のインデックスiは、売り場のゴンドラに対応する。ゴンドラは、1つの棚又は並列に積み重ねられた複数の棚から構成される。第2のインデックスjは、ゴンドラiの特定の行に対応する。以下において、行は、1つのゴンドラ内の一番下の行(行0)から一番上の行まで連番で数えられる。第3のインデックスkは、行j内の特定の電子棚札に対応する。以下において、ESLは、左端のESL(ESL1)から右端のESLまで行に沿って(すなわち、棚レールに沿って)連番で数えられる。3つ一組のインデックスi、j、kの組み合わせ(i,j,k)により、単一の電子棚札を明確に識別することができる。
リアログラムデータベースPで製品スロットフィールド(i,j,k)に関連付けられた商品識別子は、Pijkで指定される。製品スロットフィールド(i,j,k)に関連付けられた、売り場の1つのESLを識別する一意の札識別子は、Lijkで表される。したがって、札データベースDBでは、一意の札識別子Lijkが商品識別子Pijkに関連付けられる。以下、図10を参照して、リアログラムデータベースPのグラフィック表現について説明する。
商品画像データベースAは、各商品識別子(EAN番号など)を、その識別子によって識別された商品の正面図の想定画像に対応する任意のフォーマットの数値画像に関連付ける。
また、中央サーバは、価格情報や顧客に表示する他の情報、在庫情報などの管理情報を含む売り場の運営に必要な情報と、各商品識別子とを関連付けた商品情報にアクセスする。
札データベースDB、商品画像データベースA、及びリアログラムデータベースPは、売り場の単一ファイルに内包されてもよく、別々のファイルに内包されてもよい。複数の売り場の管理は、単一の中央ファイルによって遠隔で管理してもよく、各売り場が独自のファイル又はファイルセットを有していてもよい。
また、任意ではあるが、リアログラムデータベースPは、札データベースDBに存在する情報に対して、リアルタイムで更新されることが非常に有利である。これは、棚において予め決められた位置を有し、その位置に固定された所与のESLに関して、このESLが、図1に示すように、棚の棚レール13に固定されており、したがって所与のスロットフィールド(i,j,k)に対応しているため、このESLに関する情報が、札データベースDBにおいて(新たな商品識別子への関連付け、又は前に関連付けられた商品識別子とは異なる新たな商品識別子への再関連付けによって)変更された場合、それに応じてリアログラムデータベースPの情報が変更され、その結果、対応するスロットフィールド(i,j,k)も新しい商品識別子に関連付けられることを意味する。例えば、リアログラムは、札識別子とスロットフィールドとの間の関連付けを含むことができるため、特定の札識別子が札データベースDBにおいて新たな商品識別子と再関連付けされると、この変更がリアログラムデータベースPに直ちに反映される。
次に、図2を参照して、棚内の商品のレイアウトを、(前述した広義の)レイアウト情報の検出という形で確認する方法について説明する。
ステップ210では、顧客に示される商品のフェイスが見えるゴンドラiを含む、1つ又は複数のゴンドラの数値画像を中央サーバ2と通信する撮像装置によって取得する。ゴンドラiの画像Iが得られ、中央サーバ2のメモリに記憶される。
ステップ220では、画像I上に存在する全てのESLが自動検出される。この取得画像上の電子棚札の自動検出は、通常、中央サーバ2のメモリに記憶された、電子棚札が有し得る形状の所定のセットに対するパターン認識によって行われる。
画像上で視認可能な全ての電子棚札が抽出された後、行検出ステップ221(すなわち、同一の棚レール14に位置する連続したESLのセットの検出)を実行することができる。行jは、前のステップ220で検出された、ほぼ一直線上のESLのセットごとに検出される。次いで、行に対して、一番下の行から一番上の行まで、0から番号を振ることができる。
ステップ222では、各行jで検出された棚札に対して、左端の棚札から右端の棚札まで、連番で1から番号が振られる。
ここで、中央サーバ2は、ゴンドラiで視認可能な行jがいくつあるか、また、各行に対応する各棚レール上に棚札がいくつ配置されているかを把握する。したがって、サーバは、図1を参照して定義したスロットフィールド(i,j,k)を、取得した画像I上で視認可能な各ESLに属性付けることができる。
以降の図2の方法の全ステップ、すなわちステップ230~260は、取得された画像上で視認可能な単一の所与のESLについて説明される。しかしながら、これらのステップは、必要に応じて何度実行されてもよい。特に、商品のフェイスの間違いや、棚の品切れ領域などの事象を自動検出するために、棚全体のESLごとに、又は、棚の地理的区画のESLごとに繰り返すことができる。
ステップ230では、スロットフィールド(i,j,k)に対応する所与のESLから開始して、このESLに対応する画像I上で視認可能な棚の一致領域を、サーバにより識別することができる。このステップで、サーバは所定の条件を使用する。尚、例示的な条件としては、所与のESLの直上、且つ、該ESLとその右隣りのESLとの間に位置する棚の領域を、そのESLに対応する棚の領域とする。当業者であれば、サーバにより一致領域の認識がどのように実行できるかを理解するのに困難はないであろう。
次に、ステップ240で、サーバは、棚の決定領域に関するレイアウト情報を検出する。以下、このようなレイアウト情報の検出を実行する特定の態様について、いくつかの実施形態に対応する複数種類のレイアウト情報と関連して、更に詳細に説明する。
ここで、システムは、検出されたレイアウト情報と、上記所与のESLに対応するスロットフィールド(i,j,k)を対応させることができる。実際、システムは、前のステップ222の結果、棚内のESLの順序を把握しているため、視認可能なESLにそれぞれ対応するスロットフィールド(i,j,k)を確立することができる。図2の方法では、所与のESLのスロットフィールドは、ステップ222の終わりとステップ250の始まりとの間の任意の時点でサーバによって決定される。
次に、ステップ250で、リアログラムデータベースPで利用可能な情報を参照する。ここでの目的は、ステップ240で検出されたレイアウト情報を特定の商品識別子に結び付けることである。尚、リアログラムデータベースPには、スロットフィールド(i,j,k)と、商品のEAN番号などの商品識別子Pijkとの関連付けが含まれている。ステップ250では、スロットフィールド(i,j,k)に対して商品識別子Pijkが取得される。この製品スロットフィールドに関連して取得される識別子は、製品スロットフィールドに対応する棚の領域内に置かれ、販売可能であると想定される商品に対応する。
最後に、ステップ260で、検出されたレイアウト情報が確認される。一般には、ステップ230で決定された棚の領域に陳列されることが想定される商品の商品識別子Pijkがわかっている場合、その商品識別子Pijkに関してリアログラムデータベースPで利用可能な情報を参照することや、商品の想定正面図などの商品レイアウトに関する他の情報に商品識別子Pijkが関連付けられた他のデータベースを参照することができる(後述する図10に関する説明参照)。
図2の方法により、棚内の商品のレイアウトを管理する非常に単純で効果的な手段が提供される。例えば、本方法は、棚の検出可能なESLごとに、定期的に実行することができる。棚の商品に関して検出されたレイアウト情報と、リアログラムデータベースの想定情報との間のリンクは、ESLを介して自動的に行われるため、手動入力の必要はほとんどない。ステップ260での確認の結果が否定的だった、不備のある商品、又は不備のあるスロットフィールドのリストは、オペレータに自動的に提供されるため、商品のレイアウトを修正するために適切な行動をとることができる。
次に、方法200の例示的な実施形態について説明する。本実施形態は、図3及び図4~7に参照される、特定のゴンドラi内の空の領域を検出するための方法300に関する。
ここで検出されるレイアウト情報は、単に、棚の所与の領域における商品の有無である。また、この特定の実施形態では、レイアウト情報は、所与のESLだけでなく、取得された画像で検出された各ESLについて検出される。
つまり、本方法は、ゴンドラi全体で実行され、ゴンドラi内の全ての空の領域を検出する。
しかしながら、本方法は、検出されたESLの総数のうち、任意のESLのセットに対して実行することもできる。
ステップ310~322は、上記のステップ210~222と同様である。したがって、ステップ310~322の結果、サーバは、ゴンドラiの取得画像Iを留保し、ゴンドラ内のESLの行jと各行のESLの順序とともに、ゴンドラ上の全てのESLを検出する。
ESL検出ステップ320を参照すると、中央サーバ2の表示システムは、検出の結果をリアルタイムで表示することができる。例示的な表示(ビュー)が図4に示される。このビューでは、ESLに対応する画像Iの検出区画が点線で示されており、そのうちESL10は棚13に位置する。ゴンドラiは複数の棚レール13を含み、各棚レール13には複数のESLが配置されている。本方法のこの段階では、ESLに対応する画像Iの部分全てがパターン認識によって抽出される。ESLの形状に対応する取得画像I上の全ての形状が、中央サーバ2によって1つの電子棚札として認識される。
次にステップ321を参照すると、行に対して、一番下の行から一番上の行まで、0から番号を振ることができる。ステップ322では、各行jの検出された棚札に対して、左端の棚札から右端の棚札まで1から連番で番号が振られる。この操作の結果が図5に示される。説明のため、特定の電子棚札10、より正確には一番下の行の左から2番目の棚札が抜粋されている。
再び図3を参照すると、方法300は、画像I上で視認可能な棚の空の領域を検出する補足的なステップ330を含む。このステップでは、棚の全ての空の領域が識別される。ここでは、空の製品スロットの識別は、ステップ320、321、322での棚札と行の検出後に実行されているが、棚札と行の検出前に、空の製品スロットの検出に対応する画像Iの区画を検出することも可能である。
画像の読み取りと空の領域の検出には、いくつかの態様を使用することができる。空きスロットの検出は、棚の背面又は棚の行の所定のパターンに対する色認識によって実行することができる。例えば、各棚の上面が鮮やかな薄緑色で、棚の上面が見える角度で撮影したとされる画像Iがある場合、ステップ330では、鮮やかな薄緑色の区画の検出を行う。空でない領域に対応する画像の区画が空の領域と混同されるのを回避するため、棚の上面を特定のパターンで覆い、ステップ330で、このパターンを有する画像Iの区画の検出を行ってもよい。また、ステップ330で、明度が低い区画を画像Iから探すこともできる。ゴンドラiの照明が作動している場合、品目を含む製品スロットは、空の製品スロットよりも画像I上での外観が明るくなる。
空の領域を識別するステップ330の間、サーバは、中央サーバ2の検出の進行に応じて、ゴンドラの画像Iの処理結果をユーザに表示することができる。ステップ330による画像Iの処理結果は、図6に概略的に示される。
説明のため、棚の特定の空の領域30が図6に抜粋されている。この空の領域は、ゴンドラiの行4の4番目の位置にある。
ステップ330の結果として、中央サーバ2は、一方で、棚の空の領域に対応する画像Iの区画を抽出し、一方で、行jを検出して、画像I上に存在する各棚札を製品スロットフィールド(i,j,k)に関連付けることができる。
次に、空の領域を、品切れの商品、又はシステム内で欠落しているリアログラムリファレンスと対応させる必要がある。ここで、方法300の一部として、サーバは、図7のESL10を含む視認可能な各ESLについてステップ340~351を実行する。
ESL10は、行4の左から4番目の棚札であり、インデックスk=4に相当する。また、撮像装置が特定のゴンドラ又は複数のゴンドラの画像を撮るように設定されているため、ゴンドラ番号がiであることが既にわかっている。したがって、ESL10の対応する製品スロットフィールドは(i,4,4)である。
ステップ340で、サーバは、図5でスポットされたESL10に対応する画像I上で視認可能な一致領域(すなわち棚の領域)(図7において参照番号30で示される)を求める。
次に、ステップ341で、サーバは、ESL10について、対応する棚の領域(すなわち、領域30)が空であるかどうかを確立することができる。図6の場合、領域30は実際に空の区画として検出されている。
次に、ステップ350で、リアログラムデータベースPを参照することにより、サーバは、スロットフィールド(i,4,4)に関連付けられた商品識別子Pi44を取得する。
最後に、ステップ351で、棚の領域30が空であるため、商品Pi44が棚にないと判定される。
あるいは、所与のESLに対応する棚の領域がステップ341で空であることが判明し、ステップ350でサーバが関連する商品識別子の取得に失敗した場合、棚の該領域が商品に関連付けられておらず、リアログラムリファレンスに欠落がある可能性がある。この場合、リアログラムを完成させる必要があることを担当者に警告するために、特定の警告を実施することができる。
ステップ320で予め検出された全てのESLに対してステップ340~351が実行された後、品切れの商品PijkのリストL、又は棚の空の領域に対応するスロットフィールドのリストをユーザに提供することができる。
ステップ351の後、任意に、中央サーバ2のグラフィカルインターフェースにより、空の製品スロットを通知する信号とともに、棚の視覚表現を端末ユーザに表示することができる。この棚の視覚表現は、図4~7の表現に相当するものであってもよく、他の棚の任意の視覚表現でもよい。
上記の視覚表現としては、例えば、長方形又は円などの特定の記号を含む、棚の空の製品スロットを強調する視覚的信号を用いることができる。あるいは、中央サーバ2は、検出された空の領域に関連するスロットフィールドを補充する必要があるというポップアップメッセージなどの視覚的警告を送ることもできる。これに代わって、端末ユーザへ棚の視覚表現をせず、空の領域に対応するスロットフィールドを数値形式で端末ユーザに提供することもできる。
図8は、売り場のゴンドラの別の種類の視覚表現を示している。ここでは、並置された複数のゴンドラi=1,2,3,4が示されている。2番目のゴンドラ内の行インデックスj=7に対応する行が強調表示されている。この行内には、棚札k=1からk=9が示されている。複数のゴンドラの空の領域を合わせて監視するため、ユーザは、方法300によって検出された空の領域を強調表示する視覚信号及び/又は警告メッセージとともに、この複数のゴンドラの共同視覚表現を有利に用いることができる。
このように、図3の方法300は、空の領域を自動検出する非常に単純な方法を提供する。本方法を実行する中央サーバ2は、適切なアクションをとるため、在庫管理用システムとインターフェースで接続することができる。本方法は単純な画像読み取りに基づいているため、非常に簡単である。
次に、図9を参照して第2の実施形態について説明する。商品画像データベースAの想定正面図に対して不一致な棚内正面図を検出するための方法900が提供される。この特定の実施形態では、「レイアウト情報」は、棚の所定の領域で視認可能な品目の正面図である。
まず、図3の方法のステップ310と同様に、ステップ910で、ゴンドラiを含む、1つ又は複数のゴンドラの画像Iを取得する。その結果、ゴンドラiの画像Iが得られ、中央サーバ2のメモリに記憶される。
取得した画像Iに基づき、図3の方法の前述のステップ320~322と同様に、取得画像上のESLの認識及びESLの順序付けのステップ920が実行される。
次に、図3の方法のステップ340と同様に、ステップ930で、所与のESLに対応する棚の一致領域が決定される。有利には、ステップ930~960は、ステップ920で検出された全てのESLに対して実行される。
一方、取得した画像Iの行が自動検出され、各行内の棚札が数えられているため、ステップ931で、検討される電子棚札をスロットフィールド(i,j,k)と照合することができる。これに代わって、ESLを棚の領域に対応させる前にスロットフィールドを決定してもよい(すなわち、ステップ930と931は逆でもよい)。
最後に、ステップ932で、サーバは、棚の決定領域内で、商品の実際の正面図に対応する画像Iの区画を抽出する。決定領域に品目が1列しか含まれていない場合、実際の正面図は、列の一番目の品目の前面となる。
棚の決定領域に品目が複数列含まれている場合、単一の棚の領域に対して複数の実際の正面図が考慮され、それぞれの実際の正面図に対して次の比較ステップ960が繰り返されるか、あるいは、品目の列のうち1つだけが考慮され、実際の正面図が1つだけ取得される。
次に、方法900では、所与のESL及び対応する棚の領域に対して、ステップ940~960が実行される。
ステップ940では、図3の方法のステップ350と同様に、スロットフィールド(i,j,k)に対応する領域にどの商品が陳列されるべきか決定するために、リアログラムデータベースPが参照される。これにより、リアログラムデータベースPから商品識別子Pijkが取得される。
次に、ステップ950で、中央サーバ2は、商品画像データベースAを参照する。商品画像データベースAにおいて、決定された商品識別子Pijkに関連付けられた事前登録画像が取得される。この画像は、決定された商品識別子Pijkの想定正面図に相当する。この画像は、通常、製品スロットフィールドと商品識別子との関連付けを示すために、リアログラムデータベースPの視覚表現で使用される正面図の画像である。
ステップ960では、取得された画像I上で視認可能な実際の正面図と商品画像データベースAから取得された想定正面図との間の類似度が計算される。このステップ960の目的は、棚の商品スロットに陳列されている商品の実際の正面図が、想定正面図と一致しているか判定することである。特に、商品スロットに陳列されている商品が、リアログラムで想定されているものとは別のリファレンスに対応している状況を検出することができる。
このように、リアログラムで計画されている商品の想定配置と、売り場での実際の商品の配置との間に不一致が生じている棚の領域を追跡することができるため、不一致を自動検出し、容易に修正することができる。
このステップでは、決定された領域において適切な商品が顧客に示されているが、想定正面図を伴っていない状況を検出することもできる。例えば、領域内の品目の前面が正しい位置にない場合、想定正面図との類似度は低くなる。
実際には、製品スロットフィールド(i,j,k)の実際の正面図に対応する取得画像Iの区画のピクセルと、実際の正面図に対応する取得画像Iの区画の寸法と一致するように再調整された、商品データベースAに含まれる適合された想定正面図の事前登録画像のピクセルとを比較することができる。
ステップ960では、 画像を比較し、類似度を計算するための他の既知の手法を実施してもよい。特に、画像I上の実際の正面図と想定正面図との間の明度や向きの変化を考慮するように、単純なピクセル比較よりも賢いアルゴリズムを利用することができる。
添付の図10に例が示されている。左端の画像Iは、取得されたゴンドラiの画像Iの一部に対応する。画像上では、特定の商品の正面図40、ここではマンゴージュースのボトルの正面図が視認できる。
ステップ930で、この商品の正面図が製品スロットフィールド(i,0,8)(ゴンドラi、下から1つ目の行、左端の棚札から8番目の電子棚札)に対応することが決定される。
図10の中央の画像で模式的に表されるリアログラムデータベースPでは、スロットフィールド(i,0,8)は、実際には商品リファレンス「マンゴージュース」に対応する商品識別子に関連付けられている。リアログラムデータベースPには、商品に関連付けられたフェイス情報や価格などの他の商品情報を含めることができる(後述の図11の説明を参照)。
右端の画像は、リアログラムデータベースPと商品画像データベースAの組み合わせの結果であり、想定されるゴンドラiの完全なビューに相当する。実際には、この視覚表現に示されている全ての製品スロットは、その領域のスロットフィールドに関連してリログラムデータベースPに商品識別子が登録されている商品の想定正面図を含む。
実際の正面図40に示されるマンゴージュースについては、スロットフィールド(i,0,8)に関して、右端の画像に示される想定正面図41が左端の画像の商品の正面図40と類似であるため、ステップ960でこの正面図は一致している判定される。想定正面図41及び実際の正面図40は、異なる明度条件及び異なる視野角によってわずかに異なる場合がある。実際の正面図と想定正面図との間の類似度を計算する際、画像Iの撮影時の上記の条件を考慮することができる。
画像I上で検出された全ての製品スロット、又は、検出された製品スロットの一部のみについて、ステップ940~960が完了した後、対応する製品スロットで提供された正面図が想定正面図と一致していないと判定されたスロットフィールド及び/又は商品識別子のリストLを出力することができる。このリストでは不一致だった製品の正面図が強調される。
類似度の下限値を中央サーバ2に事前に登録し、この類似度を超えていれば実際の正面図が一致していると見なし、対応する製品スロットフィールド及び/又は商品識別子を不一致な製品正面図を強調するリストに含めないようにすることもできる。
不一致な正面図に対応するスロットフィールド及び/又は商品識別子の出力リストは、検出された不一致を端末ユーザに警告する視覚信号を提供するステップ970で使用することができる。例えば、図10の右端の画像に示される表現は、不一致な正面図に対応する強調区画を含むことができる。
図9の不一致なフェイスを検出する方法は、図2の空の製品スロットを検出する方法と完全に独立していることに留意されたい。しかしながら、2つの方法は有利に組み合わせることもできる。例えば、空き領域を検出した後、残りの製品スロットのいくつか又は全てについて類似度の計算を行うことができる。最終的に警告が端末ユーザに送信され、空の領域(及び対応する商品識別子)、及び、実際の正面図が想定正面図と一致しない領域の両方が通知される。
これに代わって、実際の正面図と想定正面図との間の類似度の計算は、対応する棚の領域が空であるという決定を含むこともできる。後者の場合、領域が空であるかどうか、また、商品の正面図が一致しているかどうかの2つの判定が一緒に行われる。
最後に、図11及び図12、13を参照して、第3の実施形態について説明する。本実施形態は、リアログラムデータベースPに含まれる想定フェイス情報に対して、不一致な棚内商品フェイスを検出する方法1100に関する。
この特定の実施形態では、「レイアウト情報」は、棚の所定の領域内の品目の列数である。これに代わって、他の種類のフェイス情報(例えば、特定の製品専用の棚の領域の長さ)も考えられる。
前述の方法900と同様、方法1100は、不一致な商品正面図を検出するため、有利には、棚の視認可能なESLごとに実行することができるが、これに代わって、所与の1つのESL又は指定されたESLのセットのみに対して実行することもできる。
ステップ1110~1131は、方法900のステップ910~931と同様である。つまり、ESLが画像認識によって検出、順序付けされ、所与のESLについて、棚の対応する領域が決定され、対応するスロットフィールド(i,j,k)が決定される。
その後、棚の決定領域で視認可能な品目の列数を自動認識するステップ1132が実行される。
理論上、棚の決定領域全体に対応するESLは1つであるため、決定領域内に陳列される品目の列は、全て同じ製品である必要がある。さもなければ、前述の方法900は、リアログラムデータベースPに含まれる情報に関して、実際の正面図の1つが間違っているという結果を返すはずである。ここでは、領域内の全ての列の品目が同じ商品であることを前提とする。
後続のステップ1140は、方法900のステップ940と同様であり、リアログラムデータベースPにおいて、予め決定されたスロットフィールド(i,j,k)に関連付けられた商品識別子Pijkが決定される。
次に、ステップ1150で、棚の決定領域内の商品Pijkの想定列数が、リアログラムデータベースP(又は、フェイス情報が商品識別子に関連付けられた、サーバが通信可能な他の任意のデータベース)から取得される。
最後に、ステップ1160で、取得された想定列数が、実際に検出された列数と比較される。
方法900のステップ970と同様に、ステップ1170では、想定フェイスと一致しないと判定された、棚の区画を強調する視覚信号及び/又は商品識別子のリストL及び/又はスロットフィールドのリストを端末ユーザに提供することができる。
不一致な商品フェイスを検出するための方法1100の実施例が、図12以降の添付図面に示される。
この図では、図4~7を参照して上述したものと同じゴンドラiが考慮されている。ここでは、別のESL11について考える。このESLは、下から3番目の行(j=3)の2つ目(k=2)に位置する。図12に示されるように、棚札11は、同じ製品の複数の列に対応する。
方法1100の過程でESL11に到達すると、ステップ1132の結果として、商品3列を含む、スロットフィールド(i,2,2)に対応するESL11の棚の一致領域が検出される。
次に、ステップ1140で、撮影されたゴンドラ内の商品の想定配置を表すリアログラムデータベースPを参照することにより、商品識別子Pi22が決定される。
図13を参照すると、ステップ1150で、サーバは、リアログラムデータベースPから、スロットフィールド(i,2,2)の想定フェイス情報として、想定製品の列数を取得する。この場合、想定列数は4であり、ステップ1150において、実際のフェイスが想定フェイスと一致しないと判定される。したがって、実際に検出されたフェイス情報は、リアログラムデータベースに記憶されている想定フェイスと一致しない。
上記の3つの実施形態による方法300、900、及び1100は、別々に且つ独立して説明されているが、不一致な商品レイアウトに関して起こりうる複数の事象を検出するために有利に組み合わせることができる。また、当業者であれば、棚の取得画像上で、好ましくは手入力せずに自動化された方法で読み取り可能な他の種類のレイアウト情報が、本発明の実施形態として考えられることを容易に理解するであろう。
更に、上記の方法はいずれも、販売エリアの棚の商品レイアウトに関連するパフォーマンス指標を決定するためのシステムと非常に有利に結び付けることができる。
例えば、前述の方法の1つに含まれるサーバは、売り場の全てのゴンドラ、又は棚の全ての領域の満足度指数を計算するように構成されてもよい。このような満足度指数は、商品が存在するか、商品が想定された商品リファレンスに準拠しているか、実際のフェイスが想定されたフェイスに準拠しているか、陳列されている商品が想定されたレイアウトに対して正しい向きに配列されているかどうか、の順で重要ないくつかの基準を考慮に入れることができる。

Claims (15)

  1. 販売エリアのゴンドラの商品レイアウトを、該ゴンドラの想定商品レイアウトを表すリアログラムデータベース(P)と照合する方法であって、
    前記ゴンドラは、複数の電子棚札(10)を備え、各電子棚札(10)は、1つの製品スロットフィールド(i,j,k)を有する前記ゴンドラの一致領域に対応しており、前記製品スロットフィールドは、
    前記ゴンドラに割り当てられたゴンドラ番号(i)と、
    1つの特定のゴンドラ(i)内の電子棚札の連続した行(1,…,j,…)のうち1つに対応する行番号(j)と、
    1つの特定の行(j)内の連続した電子棚札(10)のうち1つに対応する札番号(k)と、
    を含み、
    前記方法(200)は、コンピュータにより実施される、
    撮像装置によって取得した前記ゴンドラの画像(I)における一直線上の電子棚札のセット(1,…,j,…)を検出するステップと、
    検出された電子棚札の各セットに行番号を振り当て、検出された電子棚札の各セットの各電子棚札を検出された行番号に関連付けるステップと、
    検出された電子棚札の各セットの各電子棚札に札番号を割り当てるステップと、
    検出されたセットの電子棚札に関して、前記ゴンドラに割り当てられた前記ゴンドラ番号(i)と、前記電子棚札に関連する前記行番号(j)と、前記電子棚札に振り当てられた札番号(k)とを含む対応する前記製品スロットフィールド(i,j,k)を決定するステップと、
    前記取得した画像(I)上の前記電子棚札に対応する前記ゴンドラの前記一致領域を決定するステップと、
    前記取得した画像(I)を用いた画像認識により、前記ゴンドラの領域に陳列された商品のレイアウト情報を検出するステップと、
    製品スロットフィールドと商品識別子とが関連付けられたリアログラムデータベース(P)にアクセスするステップと、
    前記決定されたスロットフィールド(i,j,k)に関連付けられた商品識別子(Pijk)を前記リアログラムデータベース(P)において識別するステップと、
    識別商品(Pijk)に関して、前記検出されたレイアウト情報と前記リアログラムデータベースに記憶された想定レイアウトとが一致しているか確認するステップと、
    を含むことを特徴とする方法。
  2. 各電子棚札は、札データベース(DB)において、1つの商品識別子に関連付けされ、
    特定の対応するスロットフィールドを有する所与の電子棚札が、前記札データベース(DB)において特定の商品識別子に関連付け又は再関連付けされると、該対応するスロットフィールド(i,j,k)も、前記リアログラムデータベース(P)において前記特定の商品識別子に関連付け又は再関連付けされ、前記札データベースに対して前記リアログラムデータベース(P)がリアルタイムで更新される、請求項1に記載の方法。
  3. 前記ゴンドラの画像(I)の取得(310)後、前記取得した画像(I)において、前記ゴンドラの少なくとも1つの空の領域(30)を画像認識により識別するステップ(322)を更に含み、
    前記所与の電子棚札(10)に関して、前記ゴンドラの前記一致領域で検出された前記レイアウト情報が、該一致領域が空であるという情報である場合、前記識別商品(Pijk)が前記ゴンドラにおいて品切れであると判定される(350)、請求項1又は2に記載の方法。
  4. 前記空の領域(30)の識別は、棚の行又は棚の背面の所定のパターンに対する色認識によって実行される、請求項3に記載の方法。
  5. 商品画像データベース(A)において前記識別商品(Pijk)に関連付けられた事前登録画像(41)を取得するステップ(950)を更に含み、前記事前登録画像は、前記商品識別子(Pijk)に関する想定正面図であり、
    前記方法は、前記レイアウト情報を検出するのに用いた前記ゴンドラの前記一致領域の実際の正面図に対応する前記取得した画像(40)の区画と、前記事前登録画像(41)の前記想定正面図との間の類似度を算出すること(960)を更に含み、
    前記類似度の値から前記正面図が不一致であると判定されたスロットフィールド(i,j,k)のリスト及び/又は商品識別子(Pijk)のリスト(L)を出力する(970)、請求項1~4のいずれか一項に記載の方法。
  6. 前記リアログラムデータベース(P)において、前記決定されたスロットフィールド(i,j,k)の想定フェイス情報を取得するステップ(1150)と、
    画像認識により、前記ゴンドラ(31)の前記一致領域に関して、前記取得した画像(I)上で視認可能な実際のフェイス情報と、前記想定フェイス情報とが一致しているか確認するステップ(1160)と、を更に含む、請求項1~5のいずれか一項に記載の方法。
  7. 前記想定フェイス情報は、前記ゴンドラに陳列する同一商品(Pijk)の連続する列の数である、請求項6に記載の方法。
  8. 前記ゴンドラの空の領域(30)を強調する視覚信号、及び/又は、
    前記ゴンドラで検出された空の領域に関連付けられた商品識別子(Pijk)及び/又はスロットフィールド(i,j,k)が補充される必要があることを示す視覚的な警告、及び/又は、
    想定正面図と一致しない前記ゴンドラの領域を強調する視覚信号、及び/又は、
    想定フェイスと一致しない前記ゴンドラ(31)の領域を強調する視覚信号とともに、
    グラフィカルインターフェースによりユーザにゴンドラ(1)の表現を表示可能である(260,970,1170)、請求項1~7のいずれか一項に記載の方法。
  9. 前記取得した画像(I)上の前記電子棚札の検出は、前記電子棚札が有し得る形状の所定のセットに対するパターン認識によって実行される、請求項1~8のいずれか一項に記載の方法。
  10. 前記取得した画像(I)上で検出された所与の電子棚札(10)に関して、該電子棚札の直上、且つ、該電子棚札の右隣りの電子棚札との間に位置する前記取得した画像(I)の区画を、該電子棚札(10)に対応するゴンドラの前記一致領域の画像として定めることで、前記一致領域が画定される、請求項1~9のいずれか一項に記載の方法。
  11. コンピュータ装置のサーバ上で実行される、請求項1~10のいずれか一項に記載の方法を実行するコード命令を含む、コンピュータプログラム製品。
  12. 売り場のゴンドラ(1)の商品レイアウトを確認するシステムであって、前記システムは、
    前記ゴンドラに配置された複数の電子棚札(10)と、
    一意の札識別子によって識別された各電子棚札(10)が1つの商品識別子に関連付けられた札データベース(DB)と通信するように構成されたサーバ(2)であって、前記電子棚札は、1つの製品スロットフィールド(i,j,k)を有する前記ゴンドラの一致領域に対応しており、前記サーバは、各製品スロットフィールド(i,j,k)が商品識別子(Pijk)に関連付けられたリアログラムデータベース(P)とも通信するように構成されたものである前記サーバと、
    前記ゴンドラ(1)の画像(I)を取得可能な撮像装置と、
    を備え、
    前記サーバは、
    ゴンドラ番号が割り当てられた前記ゴンドラの画像であって撮像装置によって取得した前記画像における電子棚札を検出するステップと、
    前記取得した画像における一直線上の電子棚札のセットを検出することを含み、前記取得した画像において電子棚札の行を検出するステップと、
    電子棚札の検出した行のそれぞれに行番号を割り当てるとともに、電子棚札の検出した行における電子棚札のそれぞれを前記取得した行の前記行番号に関連付けるステップと、
    電子棚札の前記検出した行のそれぞれにおいて、電子棚札の前記検出した行における検出した電子棚札のそれぞれに札番号を割り当てるステップと、
    前記取得した画像において視認可能な所与の電子棚札に関して、前記ゴンドラに割り当てられた前記ゴンドラ番号と、前記所与の電子棚札に関連付けられた前記行番号と、前記所与の電子棚札に割り振られた前記札番号とに基づいて、対応する製品スロットフィールドを決定するステップと、
    前記取得した画像において前記電子棚札に対応する前記ゴンドラの前記一致領域であって、前記電子棚札と前記取得した同じ行内の連続した電子棚札との間に位置する一致領域を決定するステップと、
    前記取得した画像を用いた画像認識により、前記ゴンドラの前記一致領域に陳列された商品のレイアウト情報を検出するステップと、
    各製品スロットフィールドと商品識別子とが関連付けられたリアログラムデータベースにアクセスするステップと、
    前記決定された製品スロットフィールドに関連付けられた前記商品識別子を前記リアログラムデータベースにおいて識別するステップと、
    前記識別商品に関して、前記検出されたレイアウト情報と前記リアログラムデータベースに記憶された想定レイアウトとが一致しているか確認するステップと、
    を行うように更に構成されることを特徴とするシステム。
  13. 前記サーバは、各商品識別子(Pijk)と、識別商品の想定正面図である事前登録画像(41)とが関連付けられた商品画像データベース(A)と通信するように更に構成され、前記サーバは、検出されるレイアウト情報に対応する実際の正面図に対応する取得した画像(40)の区画と、前記想定正面図とを比較可能である、請求項12に記載のシステム。
  14. 取得した前記画像上で検出可能な前記レイアウト情報は、前記ゴンドラの空の領域(30)の自動認識を含む、請求項12又は13に記載のシステム。
  15. 取得した前記画像上で検出可能な前記レイアウト情報は、前記ゴンドラの領域内で視認可能な、前記ゴンドラの前記領域内の列数を含む、実際のフェイスを含み、
    前記サーバは、前記実際のフェイスと、前記リアログラムデータベース(P)において取得される想定フェイス情報とを比較可能である、請求項12~14のいずれか一項に記載のシステム。
JP2020537855A 2017-09-19 2018-09-18 販売エリアのゴンドラの商品レイアウトを該ゴンドラの想定商品レイアウトを表すリアログラムデータベースと照合する方法、この方法を実行するコード命令を含むコンピュータプログラム製品、及び売り場のゴンドラの商品レイアウトを確認するシステム Active JP7220221B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
FR1758650 2017-09-19
FR1758650A FR3071341B1 (fr) 2017-09-19 2017-09-19 Procede mis en oeuvre par camera de controle de disposition d'articles pour des etageres equipees d'etiquettes electroniques de gondole
PCT/EP2018/075221 WO2019057716A1 (en) 2017-09-19 2018-09-18 METHOD FOR CONTROLLING ARRANGEMENT OF ARTICLES IMPLEMENTED BY CAMERA FOR SHELVES EQUIPPED WITH SHELF ELECTRONIC TAGS

Publications (2)

Publication Number Publication Date
JP2020534630A JP2020534630A (ja) 2020-11-26
JP7220221B2 true JP7220221B2 (ja) 2023-02-09

Family

ID=61003079

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020537855A Active JP7220221B2 (ja) 2017-09-19 2018-09-18 販売エリアのゴンドラの商品レイアウトを該ゴンドラの想定商品レイアウトを表すリアログラムデータベースと照合する方法、この方法を実行するコード命令を含むコンピュータプログラム製品、及び売り場のゴンドラの商品レイアウトを確認するシステム

Country Status (9)

Country Link
US (1) US11989684B2 (ja)
EP (1) EP3685327B1 (ja)
JP (1) JP7220221B2 (ja)
KR (1) KR102638616B1 (ja)
CN (1) CN111684477A (ja)
AU (1) AU2018336847A1 (ja)
CA (1) CA3076228A1 (ja)
FR (1) FR3071341B1 (ja)
WO (1) WO2019057716A1 (ja)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111295684A (zh) * 2017-10-30 2020-06-16 松下知识产权经营株式会社 货架监视装置、货架监视方法及货架监视程序
DE102018129886A1 (de) * 2018-11-27 2020-05-28 Chep Technology Pty Ltd. Warenbevorratungssystem
TWI799712B (zh) * 2019-06-05 2023-04-21 聯詠科技股份有限公司 具有貨物資訊的操作方法和其非暫時性電腦可讀取媒體及電腦程式產品
WO2021030924A1 (zh) * 2019-08-16 2021-02-25 浙江汉朔电子科技有限公司 货架物品识别方法、装置及系统
CN113643083A (zh) * 2020-04-27 2021-11-12 京东方科技集团股份有限公司 一种商品标记及展示方法、服务器、终端及商品展示系统
USD980322S1 (en) * 2020-07-23 2023-03-07 Elite Creative Solutions, Llc Tag for an electronic shelf display
JP2022053849A (ja) * 2020-09-25 2022-04-06 東芝テック株式会社 画像処理装置及び画像処理システム並びにその制御プログラム
CN112883955B (zh) * 2021-03-10 2024-02-02 洛伦兹(北京)科技有限公司 货架布局检测方法、装置及计算机可读存储介质
FR3122763A1 (fr) * 2021-05-07 2022-11-11 Captana Gmbh Procédé automatisé de réglage d’un paramètre de visualisation d’un dispositif d’imagerie en magasin
FR3122764A1 (fr) * 2021-05-07 2022-11-11 Captana Gmbh Dispositif d’imagerie d’étagère pour un support d’étagère et un système d’étagère comprenant le dispositif d’imagerie d’étagère
FR3122762A1 (fr) * 2021-05-07 2022-11-11 Captana Gmbh Séparateur pour un support de rayon, comprenant un émetteur de lumière

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011096038A (ja) 2009-10-30 2011-05-12 Seiko Instruments Inc 位置情報取得装置および位置情報取得方法
WO2017017366A1 (fr) 2015-07-27 2017-02-02 Store Electronic Systems Procédé de mise à jour de données d'association entre des articles et des emplacements
WO2017083424A1 (en) 2015-11-09 2017-05-18 Simbe Robotics, Inc. Method for tracking stock level within a store

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7693757B2 (en) * 2006-09-21 2010-04-06 International Business Machines Corporation System and method for performing inventory using a mobile inventory robot
US8189855B2 (en) * 2007-08-31 2012-05-29 Accenture Global Services Limited Planogram extraction based on image processing
US8630924B2 (en) * 2007-08-31 2014-01-14 Accenture Global Services Limited Detection of stock out conditions based on image processing
KR20110000789A (ko) * 2009-06-29 2011-01-06 (주)쓰리디미디어솔루션코리아 이미지 인식 기술을 이용하여 매장 진열 상품을 자동으로 정량화 하는 방법과 시스템
JP2011096039A (ja) * 2009-10-30 2011-05-12 Seiko Instruments Inc 情報表示システム、管理サーバ及び電子棚札システム
JP2012126532A (ja) * 2010-12-16 2012-07-05 Japan Tobacco Inc 商品管理装置、商品管理方法およびプログラム
JP6301743B2 (ja) * 2014-06-05 2018-03-28 東芝テック株式会社 棚札管理装置およびその制御プログラム
US10176452B2 (en) * 2014-06-13 2019-01-08 Conduent Business Services Llc Store shelf imaging system and method
US9483704B2 (en) * 2014-12-10 2016-11-01 Ricoh Co., Ltd. Realogram scene analysis of images: superpixel scene analysis
EP3032460A1 (en) * 2014-12-10 2016-06-15 Ricoh Company, Ltd. Realogram scene analysis of images: superpixel scene analysis
US9442958B2 (en) * 2014-12-24 2016-09-13 International Business Machines Corporation Product identification via image analysis
MX364903B (es) * 2015-05-16 2019-05-10 Tata Consultancy Services Ltd Procedimiento y sistema de comprobación del cumplimiento de un planograma basado en análisis visual.
US9864969B2 (en) * 2015-06-26 2018-01-09 Toshiba Tec Kabushiki Kaisha Image processing apparatus for generating map of differences between an image and a layout plan
US10592854B2 (en) * 2015-12-18 2020-03-17 Ricoh Co., Ltd. Planogram matching
KR20170091298A (ko) * 2016-02-01 2017-08-09 (주)노스브릿지 Esl 시스템 및 그 관리 방법
JP6238028B2 (ja) 2016-03-11 2017-11-29 パナソニックIpマネジメント株式会社 商品モニタリング装置、商品モニタリングシステムおよび商品モニタリング方法
CN106296088A (zh) * 2016-08-09 2017-01-04 王茂 基于物联网的托盘物流管理系统的工作方法
US10832436B2 (en) * 2018-04-05 2020-11-10 Symbol Technologies, Llc Method, system and apparatus for recovering label positions

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011096038A (ja) 2009-10-30 2011-05-12 Seiko Instruments Inc 位置情報取得装置および位置情報取得方法
WO2017017366A1 (fr) 2015-07-27 2017-02-02 Store Electronic Systems Procédé de mise à jour de données d'association entre des articles et des emplacements
WO2017083424A1 (en) 2015-11-09 2017-05-18 Simbe Robotics, Inc. Method for tracking stock level within a store

Also Published As

Publication number Publication date
FR3071341B1 (fr) 2019-09-20
CN111684477A (zh) 2020-09-18
EP3685327B1 (en) 2022-03-30
JP2020534630A (ja) 2020-11-26
KR102638616B1 (ko) 2024-02-21
US20200234227A1 (en) 2020-07-23
FR3071341A1 (fr) 2019-03-22
WO2019057716A1 (en) 2019-03-28
KR20200108271A (ko) 2020-09-17
US11989684B2 (en) 2024-05-21
EP3685327A1 (en) 2020-07-29
AU2018336847A1 (en) 2020-05-07
CA3076228A1 (en) 2019-03-28

Similar Documents

Publication Publication Date Title
JP7220221B2 (ja) 販売エリアのゴンドラの商品レイアウトを該ゴンドラの想定商品レイアウトを表すリアログラムデータベースと照合する方法、この方法を実行するコード命令を含むコンピュータプログラム製品、及び売り場のゴンドラの商品レイアウトを確認するシステム
US20210398200A1 (en) Selectively withholding alerts in one retail store in response to events in other retail stores
US10902240B2 (en) Monitoring shelves with pressure and light sensors
US10387947B2 (en) Location assignment system and method
EP3754545A1 (en) Automatically monitoring retail products based on captured images
US20190149725A1 (en) Using augmented reality for image capturing a retail unit
US9886678B2 (en) Graphic representations of planograms
RU2695503C1 (ru) Способ обновления данных соответствия между товарами и местами
EP3695365A1 (en) Method for initializing or updating a realogram database for a shelf space, using optical signals emitted by electronic shelf labels
WO2019230925A1 (ja) 物品管理システム、物品管理装置、物品管理方法及び記録媒体
US20140244392A1 (en) Graphical Recognition Inventory Management and Marketing System
US20230122649A1 (en) Methods and systems for tracking carts and retail products in a shopping space
CN104112216A (zh) 存货管理与行销的图像辨识方法
JP2008287570A (ja) 広告提供システムおよび広告提供方法
TW201433992A (zh) 存貨管理與行銷之圖像辨識系統
CN109871725A (zh) 一种物联网电子价签系统
JP2007172143A (ja) 商品情報表示システム及び情報端末装置
US20210357895A1 (en) Information processing system, information processing device, information processing method, and recording medium storing program
JP4590837B2 (ja) 商品陳列棚システムおよび欠品商品情報表示プログラム
CA3212251A1 (en) Systems and methods for inventory management
JP2024021979A (ja) 商品情報処理装置および商品情報処理システム
CN116090968A (zh) 一种用于提高小客户仓管出库拣货效率的方法及装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210521

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220531

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20220829

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221007

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230110

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230130

R150 Certificate of patent or registration of utility model

Ref document number: 7220221

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533