JP7142026B2 - 商品配置適合結果の判定 - Google Patents

商品配置適合結果の判定 Download PDF

Info

Publication number
JP7142026B2
JP7142026B2 JP2019552273A JP2019552273A JP7142026B2 JP 7142026 B2 JP7142026 B2 JP 7142026B2 JP 2019552273 A JP2019552273 A JP 2019552273A JP 2019552273 A JP2019552273 A JP 2019552273A JP 7142026 B2 JP7142026 B2 JP 7142026B2
Authority
JP
Japan
Prior art keywords
shelf
feature
data processing
item
processing hardware
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019552273A
Other languages
English (en)
Other versions
JP2020518044A (ja
Inventor
ムルシー,ガナパ・サシドハラ
ユーセフ,ダニエル・ブライアン
Original Assignee
ケロッグ カンパニー
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ケロッグ カンパニー filed Critical ケロッグ カンパニー
Publication of JP2020518044A publication Critical patent/JP2020518044A/ja
Application granted granted Critical
Publication of JP7142026B2 publication Critical patent/JP7142026B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/08Logistics, e.g. warehousing, loading or distribution; Inventory or stock management
    • G06Q10/087Inventory or stock management, e.g. order filling, procurement or balancing against orders
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • G06T7/001Industrial image inspection using an image reference approach
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/44Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/52Surveillance or monitoring of activities, e.g. for recognising suspicious objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • G06T2207/30128Food products
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/24Aligning, centring, orientation detection or correction of the image
    • G06V10/247Aligning, centring, orientation detection or correction of the image by affine transforms, e.g. correction due to perspective effects; Quadrilaterals, e.g. trapezoids

Landscapes

  • Engineering & Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Economics (AREA)
  • Quality & Reliability (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Development Economics (AREA)
  • Strategic Management (AREA)
  • Tourism & Hospitality (AREA)
  • Marketing (AREA)
  • General Business, Economics & Management (AREA)
  • Human Resources & Organizations (AREA)
  • Operations Research (AREA)
  • Finance (AREA)
  • Accounting & Taxation (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)
  • Stacking Of Articles And Auxiliary Devices (AREA)
  • Details Of Garments (AREA)
  • Display Racks (AREA)

Description

本開示は、小売商品在庫管理および商品配置適合結果の判定に関する。
背景
小売業者は、これまで長い間、消費者を引き付けて在庫を売りさばくために、様々な在庫管理手法および小売戦略を用いてきた。その手法のうちの1つはプラノグラムである。プラノグラムは、商品配置を最適化するとともに在庫管理を把握し続けることを目指すものであり、今日の商品取り引きの不可欠な部分である。プラノグラムは、小規模の小売業者から大規模の店に至るまで、小売業界の全体にわたって広く使用されている。一般に、プラノグラムは、小売スペース内の商品の配置をマッピングするダイアグラムである。小売業者は、商品の売上げを把握するとともに消費者の視覚的な焦点を利用するためのツールとして、プラノグラムを使用する。プラノグラムを用いることにより、小売業者は、焦点を作り出し、焦点を理解し、それによって焦点を利用して売上げを伸ばすことができる。また、プラノグラムは、どの商品を扱うかを商品卸売業者が評価するための分析ツール、および、市場に出ている新商品または成熟商品の魅力を製造業者が理解するための分析ツールを提供することもできる。公知の小売商品在庫管理のシステムおよび方法が、意図した目的のために一応は満足できるものであることは分かっているが、依然として、当該技術を継続的に改善する必要がある。
概要
本開示の一態様は、商品適合に関する方法を提供する。この方法は、陳列棚上の商品の典型的な配置を規定するプラノグラムをデータ処理ハードウェアで受信するステップと、陳列棚の上面を撮影するように配置された視野を有する撮像装置から、少なくとも1つの画像をデータ処理ハードウェアで受信するステップとを含む。方法はさらに、データ処理ハードウェアが、少なくとも1つの画像に基づいて、商品が陳列棚に置かれているか否かを判定するステップを含む。商品が陳列棚に置かれている場合、方法は、データ処理ハードウェアが陳列棚上の商品の実際の配置を判定するステップと、データ処理ハードウェアが、商品の実際の配置を、プラノグラムで規定される商品の典型的な配置と比較するステップとを含む。方法はさらに、データ処理ハードウェアが、商品の実際の配置と商品の典型的な配置との比較に基づいて、プラノグラム適合結果を判定するステップと、プラノグラム適合結果をデータ処理ハードウェアからネットワークに通知するステップとを含む。
本開示の実現例は、以下のオプションの特徴のうちの1つまたは複数を含んでもよい。ある実現例では、商品が陳列棚にない場合、方法は、データ処理ハードウェアが商品の在庫状況を在庫切れと判定するステップを含む。商品が陳列棚に置かれている場合、方法は、データ処理ハードウェアが商品の在庫状況を在庫有りと判定するステップを含んでもよい。方法はさらに、商品の在庫状況をデータ処理ハードウェアからネットワークに通知するステップを含んでもよい。
商品が陳列棚に置かれている場合、方法は、データ処理ハードウェアが陳列棚上の商品の数量を判定するステップと、商品の数量をデータ処理ハードウェアからネットワークに通知するステップと含んでもよい。方法はさらに、商品の実際の配置をデータ処理ハードウェアからネットワークに通知するステップを含んでもよい。陳列棚の上面は特徴部パターンを形成し、少なくとも1つの画像は陳列棚の上面のうちの少なくとも一部を表わしてもよい。商品が陳列棚に置かれているか否かを判定するステップは、少なくとも1つの画像内に撮影された陳列棚の上面の露出特徴部の数量を判定するステップを含んでもよい。陳列棚上の商品の実際の配置を判定するステップは、少なくとも1つの画像内に撮影された陳列棚の上面の露出特徴部の対応位置を特定するステップを含んでもよい。
ある例では、方法は、データ処理ハードウェアが少なくとも1つの画像から露出特徴部のエッジを検出するステップと、データ処理ハードウェアが、露出特徴部の検出されたエッジに基づいて、露出特徴部を近似するステップとを含む。方法はさらに、データ処理ハードウェアが、近似された露出特徴部を特徴部パターンと比較するステップと、近似された露出特徴部が特徴部パターンの実際の特徴部に対応しているか否かを、データ処理ハードウェアが判定するステップとを含んでもよい。近似された露出特徴部の各々について、近似された露出特徴部が特徴部パターンのそれぞれの実際の特徴部に対応している場合、方法は、データ処理ハードウェアが露出特徴部の数量のカウントをインクリメントするステップと、データ処理ハードウェアが特徴部パターンにおける実際の特徴部の対応位置を特定するステップとを含んでもよい。少なくとも1つの特徴部は多角形であってもよい。方法はさらに、データ処理ハードウェアが少なくとも1つの画像に画像補正ルーチンを実行するステップを含んでもよく、画像補正ルーチンは、少なくとも1つの画像の少なくとも樽型収差を補正してもよい。
本開示の別の態様は、データ処理ハードウェアと、当該データ処理ハードウェアと通信可能なメモリハードウェアとを備えるシステムを提供する。メモリハードウェアは、データ処理ハードウェア上で実行されると当該データ処理ハードウェアに動作を行なわせる命令を格納する。動作は、陳列棚上の商品の典型的な配置を規定するプラノグラムを受信するステップと、陳列棚の上面を撮影するように配置された視野を有する撮像装置から、少なくとも1つの画像を受信するステップと、少なくとも1つの画像に基づいて、商品が陳列棚に置かれているか否かを判定するステップとを含む。商品が陳列棚に置かれている場合、動作は、陳列棚上の商品の実際の配置を判定するステップと、商品の実際の配置を、プラノグラムで規定される商品の典型的な配置と比較するステップとを含む。動作はさらに、商品の実際の配置と商品の典型的な配置との比較に基づいて、プラノグラム適合結果を判定するステップと、プラノグラム適合結果をデータ処理ハードウェアからネットワークに通知するステップとを含む。
この態様は、以下のオプションの特徴のうちの1つまたは複数を含んでもよい。ある実現例では、動作は、商品が陳列棚にない場合、商品の在庫状況を在庫切れと判定するステップと、商品が陳列棚に置かれている場合、商品の在庫状況を在庫有りと判定するステップと、商品の在庫状況をデータ処理ハードウェアからネットワークに通知するステップとを含む。商品が陳列棚に置かれている場合、動作は、陳列棚上の商品の数量を判定するステップと、商品の数量をネットワークに通知するステップとを含む。
ある例では、動作は、商品の実際の配置をデータ処理ハードウェアからネットワークに通知するステップを含む。陳列棚の上面は特徴部パターンを形成し、少なくとも1つの画像は陳列棚の上面のうちの少なくとも一部を表わしてもよい。商品が陳列棚に置かれているか否かを判定するステップは、少なくとも1つの画像内に撮影された陳列棚の上面の露出特徴部の数量を判定するステップを含んでもよい。陳列棚上の商品の実際の配置を判定するステップは、少なくとも1つの画像内に撮影された陳列棚の上面の露出特徴部の対応位置を特定するステップを含んでもよい。
ある実現例では、動作は、少なくとも1つの画像から露出特徴部のエッジを検出するステップと、露出特徴部の検出されたエッジに基づいて露出特徴部を近似するステップとを含む。動作はさらに、近似された露出特徴部を特徴部パターンと比較するステップと、近似された露出特徴部が特徴部パターンの実際の特徴部に対応しているか否かを判定するステップとを含んでもよい。近似された露出特徴部の各々について、近似された露出特徴部が特徴部パターンのそれぞれの実際の特徴部に対応している場合、動作は、露出特徴部の数量のカウントをインクリメントするステップと、特徴部パターンにおける実際の特徴部の対応位置を特定するステップとを含む。少なくとも1つの特徴部は多角形であってもよい。ある例では、動作は、少なくとも1つの画像に画像補正ルーチンを実行するステップを含み、画像補正ルーチンは、少なくとも1つの画像の少なくとも樽型収差を補正する。
本開示の1つまたは複数の実現例の詳細を、添付の図面および以下の説明で述べる。他の態様、特徴、および利点は、以下の説明、図面、および特許請求の範囲から明らかになるであろう。
図面の説明
例示的な陳列棚環境の概略図である。 例示的な陳列棚の斜視図である。 撮像装置によって得られた図2の陳列棚の例示的な画像が樽型収差を有する斜視図である。 画像補正ルーチン後の図3Aの画像の斜視図である。 商品が置かれた状態の例示的な陳列棚の上面図である。 商品が置かれた状態の例示的な陳列棚の上面図である。 商品が置かれた状態の例示的な陳列棚の上面図である。 商品が置かれた状態の例示的な陳列棚の上面図である。 例示的な小売プラノグラムの予想図である。 商品検出および/またはプラノグラム適合の方法のための例示的なフローチャート動作手順である。 商品検出および/またはプラノグラム適合の方法のための例示的なフローチャート動作手順である。 本明細書に記載のシステムおよび方法を実現するために使用可能な例示的なコンピューティングデバイスを示す概略図である。
様々な図面において、同様の参照記号は同様の要素を示す。
詳細な説明
商品のストックおよび在庫管理のために、小売業者は一般的に陳列棚環境を用いる。陳列棚環境は、多くの場合プラノグラムに従って商品を配置した任意の数の棚を含み得る。しかしながら、時間が経つと、小売スペース内の顧客等は移動する場合もあるし、あるいはプラノグラムに従った典型的な商品の配置に対して商品の位置を変更する場合もある。プラノグラムは、有利に活用して消費者の店内での意思決定を形作るために作成された重要なツールであるため、プラノグラムで表わされた商品配置は小売業者の実際の商品配置に反映されるべきである。本開示は、陳列棚上の商品配置を検知し、商品配置に基づいて適合結果フィードバックを提供するためのシステムおよび方法を提供する。
図1は、例示的な陳列棚環境100内で陳列棚200と対話するユーザ10を示す。陳列棚環境100は、陳列棚200を撮影可能な視野F,300を有する撮像装置300を備える。ユーザ10は、陳列棚200の商品12を選択することができる。ユーザ10は、商品12を購入し、手に取り、チェックし、または他の目的で商品12を扱うために陳列棚200から商品12を移動させる消費者(例えば、食料品店の買い物客)の場合もある。追加的または代替的には、ユーザ10は、商品12を陳列棚200に置くことによって商品12をストックする小売店従業員または販売員の場合もある。陳列棚200の商品12は、プラノグラム500に従って配置され得る(例えば、図5)。一般に、プラノグラム500とは、陳列棚200に陳列される商品12の典型的な配置を規定するダイアグラムのことである。
ある実現例では、陳列棚環境100は、陳列棚200上に配置された表示画面110を備える。表示画面110は、商品12に関する広告、商品12のメーカーに関する広告、または商品12を販売する小売店に関する広告などのメディアコンテンツ112を表示することができる。メディアコンテンツ112は、商品12の在庫状況Sに関する場合もある。例えば、陳列棚200上で、ある種類の商品12の在庫量が別の商品よりも多い場合、メディアコンテンツ112は、より在庫の多い種類の商品12を広告する。追加的または代替的には、メディアコンテンツ112は、ユーザ10の関心を維持するために、より在庫の少ない種類の商品12を広告する。ある例では、表示画面110がユーザ10の視野F内でメディアコンテンツ112を表示できるように、表示画面110を陳列棚200上に配置する。一例として、表示画面110はユーザ10の目の高さLにある。追加的または代替的には、陳列棚環境100は2つ以上の表示画面110を備え、それらの2つ以上の表示画面110のうちの1つをユーザ10が商品モニタ画面として使用してもよい。例えば、撮像装置300は、撮像装置300からのリアルタイム映像、または少なくとも1つの画像310(例えば、最新の画像310)を、商品モニタ画面に提供する。
ある例では、陳列棚環境100は2つ以上の陳列棚200、200a~eを備え、それらの2つ以上の陳列棚200、200a~eのそれぞれが撮像装置300、300a~eを有する。より多くの商品12を収容し、および/または、商品12の実際の配置Pを最適化するために、2つ以上の陳列棚200、200a~eが陳列ラックを形成してもよい。例えば、陳列ラックの商品12は2種類以上の商品12を含む。2種類以上の商品12を置く場合、小売業者は、最もよく売れる種類の商品12をユーザ10が最も取りやすいようにしようとするかもしれない。2つ以上の陳列棚200、200a~eを置く場合、小売業者は、最もよく売れる種類の商品の実際の配置Pがユーザ10の視野F内(例えば、200、200b)またはユーザ10の目の高さL(例えば、200、200a)となるように、最もよく売れる種類の商品12を陳列棚200、200aまたは陳列棚200、200bに配置することができる。
図1をさらに参照すると、陳列棚環境100は、電源120と、ネットワーク150に接続されたコンピューティングデバイス130とを備える。電源120は、陳列棚環境100内の電子機器(例えば、表示画面110、撮像装置300、コンピューティングデバイス130など)に電力を供給する。電源120は、小売業者または陳列棚環境100の構成(例えば、陳列棚200であるか、または2つ以上の陳列棚200、200a~eであるか)に応じて、単一のユニットであってもよいし、複数のユニットであってもよい。コンピューティングデバイス130は、データ処理ハードウェア132およびメモリハードウェア134を備える。コンピューティングデバイス130は、スイッチまたはルーター140を介してネットワーク150に接続されてもよい。コンピューティングデバイス130は画像データをネットワーク150に送信し、その画像データをリモートコンピュータ170がアクセス可能なサーバ160上に格納してもよい。リモートコンピュータ170は、パーソナルコンピュータ170、170a、ラップトップコンピュータ170、170b、または携帯機器170、170cであってもよい。例えば、小売流通業者であるユーザ10がリモートコンピュータ170を使用することにより、小売業者の陳列棚環境100が常に確実にプラノグラム500に適合するようにしてもよい。追加的または代替的には、ネットワーク150を用いることにより、あるユーザ10(例えば、小売流通業者)が別のユーザ10(例えば、小売業者)にプラノグラム適合結果、または陳列棚環境100内の商品12に関する他の問題について注意喚起することが可能になる。ある実現例では、コンピューティングデバイス130がプラノグラム適合結果レポートを作成し、そのプラノグラム適合結果レポートをネットワーク150および/またはサーバ160に通知してもよい。
図2を参照すると、陳列棚200は、商品12を支持するための陳列棚ベース部210を少なくとも備える。陳列棚ベース部210の上面212は、特徴部パターン214を有する。特徴部パターン214は、少なくとも1つの特徴部215によって形成される。ある例では、少なくとも1つの特徴部215は、多角形である。例えば図2では、少なくとも1つの特徴部215は三角形である。追加的または代替的には、少なくとも1つの特徴部215と上面212とが互いに対比色を有する(例えば、前者が黒で後者が白)。ある例では、陳列棚200は、当該陳列棚200内の商品12を包囲する少なくとも1つの側面200sをさらに備える。一例として、図2に示す陳列棚200は、後側面200sと前側面200sとを有する。陳列棚200は、商品12を実際の配置Pに導くための棚仕切り220を備えてもよい。ある実現例では、図2のように、棚仕切り220は商品12を拘束するための側面220、200s3~4としても機能する。
ある実現例では、小売業者は、陳列棚環境100として機能する棚システムを後付けする。例えば、小売業者は、ペグボード陳列棚およびペグボード側面を有する棚ユニット(例えば、ゴンドラ棚)をしばしば用いる。ペグボード陳列棚のペグボード陳列棚ベース部は、付属品を固定するための円形部または多角形部などのペグボード形状部を含む。このような棚システムを後付けするために、ペグボード形状部を特徴部パターン214として受信および解釈するようにコンピューティングデバイス130をプログラムしてもよい。
図2をさらに参照すると、撮像装置300は、陳列棚200の上面212のうちの少なくとも一部を撮影するように配置されている。そうすることによって、撮像装置300は、特徴部パターン214のうちの少なくとも一部を撮影することができる。ある例では、図2のように、撮像装置300は陳列棚200の上方に配置されている。例えば、撮像装置300は、陳列棚200の上方の別の陳列棚200、200aの下面、陳列棚200の後側面200s、または陳列棚200の任意の支持構造物に取り付けられてもよい。
図3Aおよび図3Bは、撮像装置300によって撮影された少なくとも1つの画像310の例である。撮像装置300は、カメラ(例えば、ビデオカメラまたはスチルカメラ)もしくはセンサ、またはカメラおよびセンサを組み合わせたものであってもよい。撮像装置300は、当該撮像装置300の視野Fから少なくとも1つの画像310を撮影するように構成されている。ある例では、撮像装置300は、視野F内で陳列棚200を撮影するために広角レンズを用いる。その結果として、撮像装置300が広角レンズで撮影した少なくとも1つの画像310には、樽型収差Vが発生する場合がある。図3Aは、樽型収差Vを有する少なくとも1つの画像310の一例を示すものである。ある例では、コンピューティングデバイス130またはリモートコンピュータ170が、画像補正ルーチンによって樽型収差Vを補正する。画像補正ルーチンは、少なくとも1つの画像310に樽型収差補正フィルタをかけることによって樽型収差Vを補正してもよい。画像補正ルーチンを使用すれば、樽型収差Vがある場合と比較して、陳列棚環境100の要素(例えば、陳列棚200、商品12、商品12の実際の配置、少なくとも1つの特徴部215、および/または特徴部パターン214など)のデータ処理ルーチンによる認識性が向上し得る。図3Bは、画像Vが画像補正ルーチンによって補正された少なくとも1つの画像310の一例を示すものである。この図から、データ処理ルーチンによる陳列棚環境100の要素の認識性が向上し得ることが分かる。例えば、図3Bの補正画像Vの商品12は、図3Aのような樽型収差Vのある少なくとも1つの画像310内の商品12と比較して、実際の配置Pが誤って解釈される可能性が低い。追加的または代替的には、撮像装置300は、商品12のリアルタイム映像またはライブ映像をユーザ10に提供してもよい。例えば、表示画面110またはリモートコンピュータ170は、撮像装置300から、または撮像装置300と通信可能なコンピューティングデバイス130を介して、ライブ映像を受信する。安全のために、ライブ映像にはパスワードまたは暗号化キーなどのセキュアなアクセスが要求されてもよい。
図4A~図4Dは、期間tにわたって撮像装置300によって撮影された陳列棚200の例示的な画像310、310a~dを示す。ある例では、撮像装置300が周期的に画像を撮影するように、不連続の時間間隔で少なくとも1つの画像310を撮影するように撮像装置300に命令する。撮像装置300が少なくとも1つの画像310を撮影すると、撮像装置300は当該少なくとも1つの画像310をコンピューティングデバイス130、サーバ160、またはリモートコンピュータ170に送り、格納してもよい。格納する際に、上記少なくとも1つの画像310を、棚ユニット情報(例えば、棚のシリアル番号、棚番号、棚の位置)などの画像情報、日付情報(例えば、年、月、日)、および/またはタイムスタンプでタグ付けしてもよい。図4A~図4Dには、陳列棚200のうち、商品12が商品列12、12a~g(棚仕切り220によって仕切られた各種類の商品に対応)を形成する部分が少なくとも含まれている。ある例では、陳列棚200のうちの少なくとも一部は、その上面212に、特徴部パターン214の少なくとも1つの特徴部215を有する。
図4Aは、陳列棚200が在庫満杯Sfullである画像310、310aを示す。図4Aは、期間tのうち、ユーザ10が陳列棚200への商品12を満杯に補充した直後の第1の期間tを示す。陳列棚環境100の方法600は、少なくとも1つの画像310(例えば、画像310、310a)に基づいて陳列棚200の在庫状況Sを判定することを含む。ある実現例では、陳列棚200の在庫状況Sを詳細に示す(例えば、在庫状況Sを陳列棚200における在庫または在庫切れの割合で示す)。他の例では、在庫状況Sは、単に陳列棚200の商品12が在庫有りSinか在庫切れSoutかを示すのみである。図4Aは、陳列棚200の在庫状況が在庫有りSinまたは在庫満杯Sfullの例である。というのは、画像310、310aには少なくとも1つの特徴部215がないからである。
図4Bは、期間tのうちの第2の期間tにおける陳列棚200の画像310、310bを示す。画像310、310bに関連して、方法600は、商品列12、12d,f,gに関する種類の商品12が在庫切れSoutである旨を受信側(例えば、クライアント装置)に通知することを含む。方法600は、定量的な在庫情報(例えば、商品列12、12a~gの各々の在庫商品12または不足商品12の数量Qなど)を通知してもよい。例えば、第1の商品列12、12aでは、商品12は1つ在庫があり、3つ不足している。一方、第4の商品列12、12dでは、在庫がなく(例えば、在庫切れSout)、4つ不足している。
図4Cは、期間tのうちの第3の期間tにおける陳列棚200の画像310、310cを示す。画像310、310cは画像310、310bとほぼ同じであるが、第4の商品列12、12dに商品12、12が誤って置かれているという点で異なる。方法600は、誤って置かれた商品12、12を特定することを含み、ある例では、商品12の実際の配置Pに関するプラノグラム適合結果620の注意喚起またはフィードバックを与えることを含む。
図4Dは、第4の期間tにおける陳列棚200の画像310、310dを示す。画像310、310dは、第5の商品列12、12e以外のすべての商品列12、12a~gで在庫切れSoutであり、第5の商品列12、12eでは商品12の在庫が1つあり、3つ不足していることを示す。陳列棚200の商品12が在庫切れSoutである場合、方法600は、在庫状況Sをネットワーク150に通知するように構成されている。
図5は、少なくとも1つの陳列棚200に対応する少なくとも1つの典型的な陳列棚200の例示的なプラノグラム500である。ある例では、例えば陳列棚200が2つ以上の陳列棚200、200a~eを含む場合、プラノグラム500は2つ以上の典型的な陳列棚200、200a~eを含む。プラノグラム500は、各典型的な陳列棚200上に、典型的な配置Pの少なくとも1つの典型的な商品12を示す。この典型的な配置Pは、陳列棚200上の商品12の実際の配置Pに対応するものである。例えば、典型的な陳列棚の前部の典型的な商品12は、数量Qを有する陳列棚200の商品列に対応する。ある例では、プラノグラム500は、典型的な陳列棚200を2次元的に示した正面図であり、典型的な商品12の数量Qをプラノグラム500内のメモとして示してもよい。追加的または代替的には、プラノグラム500は、図5に示す例のように、典型的な陳列棚200の斜視図である。斜視図の場合、典型的な商品12の数量Qは、典型的な商品12の奥行きによって視覚化され得る。
図6Aおよび図6Bは、商品検出および/またはプラノグラム適合の方法600のための例示的な動作手順を示す。図4Aから図4Dに関連して説明したように、方法600は、商品12の実際の配置Pに関して商品または適合結果に関係する少なくとも定量的な在庫情報を提供することを含んでもよい。動作602で、方法600は、陳列棚200上の商品12の典型的な配置Pを規定するプラノグラム500と、撮像装置300からの少なくとも1つの画像310とを受信することを含む。方法600はさらに、動作604で、上記少なくとも1つの画像310に基づいて、商品12が陳列棚200に置かれているか否かを判定することを含む。商品12が陳列棚200に置かれている場合、方法600は動作610に進む。一方、商品12が陳列棚200に置かれていない場合、方法600は動作606に進む。
動作606で、方法600は、商品12が陳列棚200にないと判定することを含む。方法600は、上記少なくとも1つの画像310において商品12が陳列棚200にないことを理由に商品12の在庫状況Sが在庫切れSoutであると判定することを含む。方法600は、動作608で、商品12の在庫状況Sが在庫切れSoutである旨をネットワーク150に通知することを含んでもよい。
方法600は、動作610~618の実行を含んでもよい。動作610~618は、商品12が陳列棚200に置かれている場合に行なわれてもよい。商品12が陳列棚200に置かれている場合、方法600は、動作610で、陳列棚200上の商品12の実際の配置Pを判定することを含む。商品12が陳列棚200に置かれている場合、方法600は、商品12の在庫状況Sが在庫有りSinであると判定し、必要に応じて、その商品12の在庫状況Sをネットワーク150に通知することを含んでもよい。追加的または代替的には、方法600が商品12の実際の配置Pを判定した場合、方法600は、商品12の実際の配置Pをネットワーク150に通知することを含んでもよい。
動作612で、方法600は、商品12の実際の配置Pを、プラノグラム500で規定される商品12の典型的な配置Pと比較することを含む。実際の配置Pが典型的な配置Pと同じであると方法600が判定すると、方法600は動作616に進んでもよい。一方、実際の配置Pが典型的な配置Pとは異なると方法600が判定すると、方法600は動作614に進んでもよい。
動作614および616の双方において、方法600はプラノグラム適合結果620をネットワーク150に通知してもよい。動作614では、実際の配置Pが典型的な配置Pとは異なるので、方法600はプラノグラム適合結果620が不適合である旨をネットワーク150に通知する。動作616では、実際の配置Pが典型的な配置Pと同じであるので、方法600はプラノグラム適合結果620が適合である旨をネットワーク150に通知する。
動作618で、方法600は、陳列棚200上の商品12の数量Qを判定することを含んでもよい。方法600が数量Qを判定した場合、方法600はその数量Qをネットワーク150に通知してもよい。動作618は、商品12が陳列棚200に置かれていると方法600が判定した後、任意の時点で行なわれてもよい。
図6Bは、陳列棚200に置かれている商品12の実際の配置Pを判定するための方法600の例示的な動作手順を示す。動作610aで、方法600は、上記少なくとも1つの画像310内に撮影された陳列棚200の上面212の露出特徴部215の数量Qを判定することを含む。動作610bで、方法600は、上記少なくとも1つの画像310内に撮影された陳列棚200の上面212の露出特徴部215の対応位置を特定することを含む。動作610cで、方法600は、上記少なくとも1つの画像310から露出特徴部215のエッジEを検出することを含む。動作610dで、方法600は、露出特徴部215の検出されたエッジEに基づいて、露出特徴部215の近似物を判定することを含んでもよい。動作610eで、方法600は、露出特徴部215の近似物を特徴部パターン214と比較することを含んでもよい。露出特徴部215の近似物が特徴部パターン214の実際の特徴部215に対応している場合、方法600は動作610gに進んでもよい。
方法600は、特徴部パターン214の実際の特徴部215に対応する露出特徴部215の近似物の各々について、露出特徴部215の数量Qのカウントをインクリメントすることを含んでもよい。追加的または代替的には、方法600は、特徴部パターン214の実際の特徴部215に対応する露出特徴部215の近似物の各々について、特徴部パターン214の実際の特徴部215の対応位置を特定することを含んでもよい。
ある例では、方法600は、商品12が陳列棚200に置かれているか否か、および/または陳列棚200上の商品12の実際の配置Pを判定するための、棚スペース検出アルゴリズムを実行することを含む。棚スペース検出アルゴリズムを実行する場合、方法600は、特徴部パターン214の特徴部215、特徴部215の対応エッジ長さE、特徴部近似係数Aなどの入力、およびそれらの各入力についての対応許容差などを受信することを含んでもよい。方法600が各入力について許容差なしで実行する場合、方法600は、各入力についてのデフォルト許容差を受信することを含んでもよい。ある例では、方法600は、少なくとも1つの画像310を受信し、当該少なくとも1つの画像310をグレースケール画像に変換する。これにより、方法600のエッジ検出が単純化される。ある実現例では、方法600は、単純チェーン近似を用いて露出特徴部215のエッジEを検出することを含む。特徴部近似係数Aの入力がある場合、方法600は、検出判定によって得られたエッジEを閉特徴部に変換し、特徴部215と比較することを含んでもよい。
追加的または代替的には、方法600は、入力された特徴部215よりもエッジEの数が多い、または少ない閉特徴部を排除することを含む。例えば、図2~図4では特徴部215が3つのエッジを有する三角形であるので、方法600は、エッジE検出判定によって得られた閉特徴部のうちエッジ数が3つよりも多い、または少ない閉特徴部を排除することを含んでもよい。さらに、方法600が特徴部215の対応エッジ長さEなどの入力を受信することを含む場合、方法600は、各閉特徴部215に対応する面積を算出することを含んでもよい。各閉特徴部215の面積を用いて、方法600は、特徴部215の面積と相関関係のない面積で定義される閉特徴部215を排除することを含んでもよい。方法600の検出によって判定した外れ値の閉特徴部215を制限した後、方法600は、残りの閉特徴部を、特徴部パターン214の特徴部215または露出特徴部215の有効な検出とみなす1つまたは複数の動作を含んでもよい。
ある実現例では、方法600は、当該方法600に関係する詳細事項を出力し、陳列棚環境100(例えば、コンピューティングデバイス130、サーバ160、またはリモートコンピュータ170)がその詳細事項にアクセスできるようにすることを含む。この詳細事項は、方法600の出力(例えば、商品12の実際の配置P、プラノグラム適合結果620、露出特徴部215の数量、商品12の在庫状況S、もしくは実際の特徴部215の位置など)、または方法600の入力(例えば、特徴部パターン214の特徴部215、特徴部215の対応エッジ長さE、特徴部近似係数A、もしくはそれらの各入力についての対応許容差など)を含み得る。方法600は、任意のデータシリアライゼーションフォーマット(例えば、JavaScript Object Notation(JSON)、Extensible Markup Language(XML)など)で詳細事項を出力することを含んでもよい。
追加的または代替的には、方法600は、陳列棚環境100内の商品12について最適なプラノグラム500を生成することを含む。例えば、ユーザ10は、陳列棚環境100に関する棚ユニット情報を含む入力を与える。棚番号および棚の位置などの棚情報が与えられると、方法600は、プラノグラム優先順位に従って各陳列棚200をランク付けすることを含んでもよい。その場合、方法600は、期間tにわたって撮像装置300によって撮影された画像310(例えば、310、310a~d)内の商品12の実際の配置Pに基づいて、品切れ率を判定することを含んでもよい。対応する品切れ率に応じて、方法600は、陳列棚環境100内の各種類の商品12に対して重要度の順位を付与することを含んでもよい。例えば、方法600は、期間t中の品切れ率が高い第1の商品12に対して、期間t中の品切れ率が低い第2の商品よりも高い重要度の順位を付与することを含んでもよい(例えば、閾値品切れ率を基準とする)。各陳列棚200の重要度の順位およびプラノグラム優先順位を用いて、方法600は、各種類の商品12について最適なプラノグラム500を判定することを含み得る。
ソフトウェアアプリケーション(すなわち、ソフトウェアリソース)は、コンピューティングデバイスにタスクを行なわせるコンピュータソフトウェアのことを指す場合がある。ある例では、ソフトウェアアプリケーションは「アプリケーション」、「アプリ」、または「プログラム」と呼ばれる場合もある。アプリケーションの例として、システム診断アプリケーション、システム管理アプリケーション、システム保守アプリケーション、文書処理アプリケーション、表計算アプリケーション、メッセージングアプリケーション、メディアストリーミングアプリケーション、ソーシャルネットワーキングアプリケーション、およびゲームアプリケーションが含まれるが、それらに限定されない。
図7は、本明細書に記載のシステムおよび方法を実現するために使用可能な例示的なコンピューティングデバイス700を示す概略図である。コンピューティングデバイス700は、ラップトップコンピュータ、デスクトップコンピュータ、ワークステーション、PDA(Personal Digital Assistant)、サーバ、ブレードサーバ、メインフレームおよび他の適切なコンピュータなどの様々な形態のデジタルコンピュータを表わすように意図されている。図示された要素、それらの接続および関係並びにそれらの機能は、例示的なものに過ぎず、本明細書に記載および/または請求される発明の実施を限定するものではない。
コンピューティングデバイス700は、プロセッサ710と、メモリ720と、記憶装置730と、メモリ720および高速拡張ポート750に接続する高速インターフェイス/コントローラ740と、低速バス770および記憶装置730に接続する低速インターフェイス/コントローラ760とを含む。要素710、720、730、740、750および760は、様々なバスを使用して相互に接続され、共通のマザーボード上に実装されてもよいし、または適切な他の方法で実装されてもよい。プロセッサ710は、命令(メモリ720または記憶装置730に格納された命令を含む)を処理してコンピューティングデバイス700内で実行し、外部の入出力装置(例えば、高速インターフェイス740に接続されたディスプレイ580)のグラフィカルユーザインターフェイス(GUI)にグラフィック情報を表示することができる。他の実現例では、複数のメモリおよび複数種類のメモリと共に複数のプロセッサおよび/または複数のバスを適宜使用することもできる。また、複数のコンピューティングデバイス700を互いに接続し、各デバイスが必要な動作の一部(例えば、サーババンク、一群のブレードサーバ、またはマルチプロセッサシステム)を提供するようにしてもよい。
メモリ720は、情報をコンピューティングデバイス700に非一時的に格納する。メモリ720は、コンピュータ可読媒体、揮発性メモリユニット、または不揮発性メモリユニットであってもよい。非一時的なメモリ720は、コンピューティングデバイス700によって使用されるように、プログラム(例えば、一連の命令)またはデータ(例えば、プログラム状態情報)を一時的または永続的に格納するための物理デバイスであってもよい。不揮発性メモリの例として、フラッシュメモリおよび読取専用メモリ(ROM)/プログラマブル読取専用メモリ(PROM)/消去可能なプログラマブル読取専用メモリ(EPROM)/電子的に消去可能なプログラマブル読取専用メモリ(EEPROM)(例えば、起動プログラムなど、典型的にはファームウェアに使用される)が含まれるが、これらに限定されない。揮発性メモリの例として、ランダムアクセスメモリ(RAM)、ダイナミックランダムアクセスメモリ(DRAM)、スタティックランダムアクセスメモリ(SRAM)、相変化メモリ(PCM)およびディスクまたはテープが含まれるが、これらに限定されない。
記憶装置730は、コンピューティングデバイス700に大容量の記憶を提供することができる。ある実現例では、記憶装置730は、コンピュータ可読媒体である。様々な実現例では、記憶装置730は、例えば、フロッピー(登録商標)ディスク装置、ハードディスク装置、光ディスク装置、もしくはテープ装置、またはフラッシュメモリもしくは他の同様の固体メモリデバイス、または多数の装置(記憶エリアネットワークまたは他の構成における装置を含む)であってもよい。さらなる実現例では、コンピュータプログラム製品は、情報キャリアに有形的に具現化される。コンピュータプログラム製品は、実行されると上述したような1つまたは複数の方法を実行する命令を含む。情報キャリアは、例えば、メモリ720、記憶装置730、またはプロセッサ710上のメモリなどのコンピュータ可読媒体または機械可読媒体である。
高速コントローラ740は、コンピューティングデバイス700の高帯域幅を要する動作を管理し、低速コントローラ760は、低帯域幅を要する動作を管理する。このような機能の割り当ては、例示に過ぎない。ある実現例では、高速コントローラ740は、メモリ720、ディスプレイ780(例えば、グラフィックプロセッサまたはアクセラレータを介する)、および高速拡張ポート750(様々な拡張カード(図示せず)を挿入可能である)に連結される。ある実現例では、低速コントローラ760は、記憶装置730および低速拡張ポート790に連結される。低速拡張ポート790は、様々な通信ポート(例えば、USB、ブルートゥース(登録商標)、イーサネット(登録商標)、無線イーサネット)を含み得るものであるが、例えば、キーボード、ポインティングデバイス、スキャナなどの1つまたは複数の入出力装置に連結されてもよく、または、例えばネットワークアダプタを介してスイッチまたはルータなどのネットワーキング装置に連結されてもよい。
図示のように、コンピューティングデバイス700は、複数の異なる形態で実現されてもよい。例えば、コンピューティングデバイス700は、標準サーバ700aとして、もしくは一群のサーバ700aで複数回実現されてもよく、ラップトップコンピュータ700bとして実現されてもよく、またはラックサーバシステム700cの一部として実現されてもよい。
本明細書に記載のシステムおよび技術の様々な実装は、デジタル電子回路および/または光回路、集積回路、特別に設計されたASIC(特定用途向け集積回路)、コンピュータハードウェア、ファームウェア、ソフトウェアおよび/またはそれらの組み合わせで実現することができる。これらの様々な実装は、プログラマブルシステム上で実行可能および/または解釈可能な1つまたは複数のコンピュータプログラムによる実装を含み得る。このプログラマブルシステムは、記憶システムとの間でデータおよび命令を送受信するように連結された少なくとも1つの専用または汎用のプログラマブルプロセッサ、少なくとも1つの入力装置、および少なくとも1つの出力装置を含む。
これらのコンピュータプログラム(プログラム、ソフトウェア、ソフトウェアアプリケーションまたはコードとしても知られる)は、プログラマブルプロセッサのための機械命令を含み、高度な手続き型プログラミング言語および/またはオブジェクト指向プログラミング言語、および/またはアセンブリ言語/機械言語で実装されてもよい。本明細書で使用される「機械可読媒体」および「コンピュータ可読媒体」という用語は、プログラマブルプロセッサに機械命令および/またはデータを提供するために使用される任意のコンピュータプログラム製品、非一時的なコンピュータ可読媒体、装置および/またはデバイス(例えば、磁気ディスク、光ディスク、メモリ、プログラマブル論理デバイス(PLD))を指すものであり、機械命令を機械可読信号として受信する機械可読媒体を含む。「機械可読信号」という用語は、機械命令および/またはデータをプログラマブルプロセッサに提供するために使用される任意の信号を指すものである。
本明細書に記載のプロセスおよび論理フローは、1つまたは複数のプログラマブルプロセッサが1つまたは複数のコンピュータプログラムを実行し、入力データを処理して出力を生成することによって機能を実行することによって、行なわれてもよい。プロセスおよび論理フローは、専用論理回路、例えば、FPGA(フィールドプログラマブルゲートアレイ)またはASIC(特定用途向け集積回路)によって行なわれてもよい。コンピュータプログラムの実行に好適なプロセッサは、例えば、汎用マイクロプロセッサ、専用マイクロプロセッサ、およびあらゆる種類のデジタルコンピュータの1つまたは複数のプロセッサなどである。一般的に、プロセッサは、読取専用メモリもしくはランダムアクセスメモリ、またはその両方から、命令およびデータを受信する。コンピュータの必須要素は、命令を実行するためのプロセッサと、命令およびデータを格納するための1つまたは複数のメモリデバイスである。一般的に、コンピュータは、データを格納するための1つまたは複数の大容量記憶装置(例えば、磁気ディスク、光磁気ディスク、または光ディスク)を含むか、またはデータを送受信するように動作可能にそのような大容量記憶装置に結合される。しかしながら、コンピュータは、このような装置を備えなくてもよい。コンピュータプログラム命令およびデータの格納に好適なコンピュータ可読媒体は、あらゆる形態の不揮発性メモリ、媒体、およびメモリデバイスを含む。例えば、半導体メモリデバイス(例えば、EPROM、EEPROM、およびフラッシュメモリデバイスなど)、磁気ディスク(例えば、内蔵ハードディスク、またはリムーバブルディスクなど)、光磁気ディスク、ならびにCD-ROMディスクおよびDVD-ROMディスクなどが含まれる。プロセッサおよびメモリは、専用論理回路で補足されてもよく、または専用論理回路に組み込んでもよい。
ユーザとの対話を可能にするために、本開示の1つまたは複数の態様を実現するコンピュータは、ユーザに情報を表示するための表示装置(例えば、CRT(ブラウン管)モニタ、LCD(液晶ディスプレイ)モニタ、またはタッチ画面など)、および、必要に応じて、ユーザがコンピュータに入力を与えるために用いるキーボードおよびポインティングデバイス(例えば、マウスまたはトラックボール)を含んでもよい。ユーザとの対話を可能にするために他の種類の装置を用いてもよい。例えば、ユーザに与えるフィードバックは、任意の形態の感覚フィードバック(例えば、視覚フィードバック、聴覚フィードバック、または触覚フィードバック)であってもよく、ユーザから受け付ける入力は、任意の形態(例えば、音響入力、音声入力、または触覚入力)であってもよい。さらに、コンピュータは、ユーザが使用しているデバイスとの間で文書を送受信することによって、ユーザと対話することができる。例えば、コンピュータは、ユーザのクライアント装置上のウェブブラウザから受信した要求に応答して、そのウェブブラウザにウェブページを送信することによって、ユーザと対話することができる。
いくつかの実現例を説明したが、本開示の精神および範囲から逸脱することなく、様々な変更が可能であることが理解されるであろう。よって、以下の特許請求の範囲には他の実現例も含まれる。

Claims (22)

  1. 方法(600)であって、
    陳列棚環境内の陳列棚(200)上の商品(12)の典型的な配置(P)を規定するプラノグラム(500)をデータ処理ハードウェア(132)で受信するステップを含み、前記陳列棚環境は、前記陳列棚(200)と、前記陳列棚(200)の上に配置された表示画面(110)とを備え、ユーザの視野において、前記表示画面(110)は、メディアコンテンツ(112)を表示し、さらに、
    前記陳列棚(200)の上に位置し、かつ前記陳列棚(200)の上面(212)を撮影するように配置された視野(F)を有する撮像装置(300)から、少なくとも1つの画像(310)を前記データ処理ハードウェア(132)で受信するステップを含み、
    前記陳列棚(200)の前記上面(212)は、少なくとも1つの多角形特徴部を含む特徴部パターン(214)を形成し、前記少なくとも1つの画像(310)は、複数の露出特徴部によって、前記陳列棚(200)の上面(212)のうちの少なくとも一部を表わし、さらに、
    前記データ処理ハードウェア(132)が、前記少なくとも1つの画像(310)に基づいて、
    前記少なくとも1つの画像(310)内に撮影された前記陳列棚(200)の前記上面(212)の前記複数の露出特徴部の数量および対応位置を特定し、
    前記複数の露出特徴部の1つ以上のエッジを検出し、
    検出された前記1つ以上のエッジを閉特徴部に変換し、
    前記商品(12)が前記陳列棚(200)に置かれているか否かを判定するために、前記閉特徴部を前記少なくとも1つの多角形特徴部と比較する、
    ことによって、前記商品(12)が前記陳列棚(200)に置かれているか否かを判定するステップを含み、
    前記商品(12)が前記陳列棚(200)に置かれている場合、
    前記データ処理ハードウェア(132)が前記陳列棚(200)上の前記商品(12)の実際の配置(P)を判定するステップと、
    前記データ処理ハードウェア(132)が、前記商品(12)の実際の配置(P)を、前記プラノグラム(500)で規定される前記商品(12)の典型的な配置(P)と比較するステップと、
    前記データ処理ハードウェア(132)が、前記商品(12)の実際の配置(P)と前記商品(12)の典型的な配置(P)との前記比較に基づいて、プラノグラム適合結果(620)を判定するステップと、
    前記プラノグラム適合結果(620)を前記データ処理ハードウェア(132)からネットワーク(150)に通知するステップとを含み、
    前記商品(12)が前記陳列棚(200)にない場合、
    前記データ処理ハードウェア(132)が前記商品(12)の在庫状況(S)を在庫切れと判定するステップと、
    前記商品(12)の在庫状況を、前記データ処理ハードウェア(132)から前記ネットワーク(150)に通知するステップとを含み、方法(600)は、さらに、
    前記商品(12)とは異なる商品(12)が前記陳列棚(200)に置かれている場合、前記商品(12)の前記実際の配置(P)に関するプラノグラム適合結果(620)を前記データ処理ハードウェア(132)から前記ネットワーク(150)に通知するステップを含む、方法(600)。
  2. 前記商品(12)が前記陳列棚(200)に置かれている場合、前記データ処理ハードウェア(132)が前記商品(12)の在庫状況(S)を在庫有りと判定するステップと、
    前記商品(12)の在庫状況(S)を前記データ処理ハードウェア(132)から前記ネットワーク(150)に通知するステップとをさらに含む、請求項1に記載の方法(600)。
  3. 前記メディアコンテンツ(112)は、前記陳列棚(200)に置かれた前記商品(12)のうち、より在庫量の多い商品、および/または、より在庫量の少ない商品に関する広告コンテンツを含む、請求項1または2に記載の方法(600)。
  4. 前記商品(12)が前記陳列棚(200)に置かれている場合、
    前記データ処理ハードウェア(132)が前記陳列棚(200)上の前記商品(12)の数量(Q)を判定するステップと、
    前記商品(12)の数量(Q)を前記データ処理ハードウェア(132)から前記ネットワーク(150)に通知するステップとをさらに含む、請求項1~3のいずれか1項に記載の方法(600)。
  5. 前記商品(12)の実際の配置(P)を前記データ処理ハードウェア(132)から前記ネットワーク(150)に通知するステップをさらに含む、請求項1~3のいずれか1項に記載の方法(600)。
  6. 前記閉特徴部を前記少なくとも1つの多角形特徴部と比較することは、各閉特徴部に対して、それぞれの閉特徴部のエッジの数を前記少なくとも1つの多角形特徴部のエッジの数と比較することを含み、
    前記商品(12)が前記陳列棚(200)に置かれているかどうかを判定することは、さらに、前記それぞれの閉特徴部のエッジの数が前記少なくとも1つの多角形特徴部のエッジの数とは異なる場合に、前記商品(12)が前記陳列棚(200)に置かれていると判定することを含む、請求項1~5のいずれか1項に記載の方法(600)。
  7. 前記陳列棚(200)上の前記商品(12)の実際の配置(P)を判定するステップは、前記少なくとも1つの画像(310)内に撮影された前記陳列棚(200)の上面(212)の前記複数の露出特徴部(215)の対応位置を特定するステップを含む、請求項1~6のいずれか1項に記載の方法(600)。
  8. 前記データ処理ハードウェア(132)が前記少なくとも1つの画像(310)に画像補正ルーチンを実行するステップをさらに含み、
    前記画像補正ルーチンは、前記少なくとも1つの画像(310)の少なくとも樽型収差(V)を補正する、請求項1~7のいずれか1項に記載の方法(600)。
  9. 前記メディアコンテンツ(112)は、前記陳列棚(200)に置かれた前記商品(12)、前記陳列棚(200)に置かれた前記商品(12)の製造者、または、前記陳列棚(200)に置かれた前記商品(12)を販売する小売店に関する広告コンテンツを含む、請求項1~8のいずれか1項に記載の方法(600)。
  10. 前記メディアコンテンツ(112)は、前記撮像装置(300)からの少なくとも1つの画像を含む、請求項1~9のいずれか1項に記載の方法(600)。
  11. 前記閉特徴部を前記少なくとも1つの多角形特徴部と比較して前記商品(12)が前記陳列棚(200)に置かれているかどうかを判定することは、各閉特徴部に対して、それぞれの閉特徴部の面積を前記少なくとも1つの多角形特徴部の面積と比較することを含み、
    前記それぞれの閉特徴部の面積が前記少なくとも1つの多角形特徴部の面積とは異なる場合に、前記商品(12)が前記陳列棚(200)に置かれていると判定される、請求項1~10のいずれか1項に記載の方法(600)。
  12. システムであって、
    データ処理ハードウェア(132)と、
    前記データ処理ハードウェア(132)と通信可能なメモリハードウェア(134)とを備え、
    前記メモリハードウェア(134)は、前記データ処理ハードウェア(132)上で実行されると前記データ処理ハードウェア(132)に動作を行なわせる命令を格納し、
    前記動作は、
    陳列棚環境内の陳列棚(200)上の商品(12)の典型的な配置(P)を規定するプラノグラム(500)を受信するステップを含み、前記陳列棚環境は、前記陳列棚と、前記陳列棚(200)の上に配置された表示画面(110)とを備え、ユーザの視野において、前記表示画面(110)は、メディアコンテンツ(112)を表示し、さらに、
    前記陳列棚(200)の上に位置し、かつ前記陳列棚(200)の上面(212)を撮影するように配置された視野(F)を有する撮像装置(300)から、少なくとも1つの画像(310)を受信するステップと、
    前記少なくとも1つの画像(310)に基づいて、
    前記少なくとも1つの画像(310)内に撮影された前記陳列棚(200)の前記上面(212)の前記複数の露出特徴部の数量および対応位置を特定し、
    前記複数の露出特徴部の1つ以上のエッジを検出し、
    検出された前記1つ以上のエッジを閉特徴部に変換し、
    前記商品(12)が前記陳列棚(200)に置かれているか否かを判定するために、前記閉特徴部を前記少なくとも1つの多角形特徴部と比較する、ことによって、前記商品(12)が前記陳列棚(200)に置かれているか否かを判定するステップと、
    前記商品(12)が前記陳列棚(200)に置かれている場合、
    前記陳列棚(200)上の前記商品(12)の実際の配置(P)を判定するステップと、
    前記商品(12)の実際の配置(P)を、前記プラノグラム(500)で規定される前記商品(12)の典型的な配置(P)と比較するステップと、
    前記商品(12)の実際の配置(P)と前記商品(12)の典型的な配置(P)との前記比較に基づいて、プラノグラム適合結果(620)を判定するステップと、
    前記プラノグラム適合結果(620)を前記データ処理ハードウェア(132)からネットワーク(150)に通知するステップとを含み、
    システムは、前記商品(12)とは異なる商品(12)が前記陳列棚(200)に置かれている場合、前記商品(12)の前記実際の配置(P)に関するプラノグラム適合結果(620)を前記データ処理ハードウェア(132)から前記ネットワーク(150)に通知するステップをさらに含む、システム。
  13. 前記動作はさらに、
    前記商品(12)が前記陳列棚(200)にない場合、前記商品(12)の在庫状況(S)を在庫切れと判定するステップと、
    前記商品(12)が前記陳列棚(200)に置かれている場合、前記商品(12)の在庫状況(S)を在庫有りと判定するステップと、
    前記商品(12)の在庫状況(S)を前記データ処理ハードウェア(132)から前記ネットワーク(150)に通知するステップとを含む、請求項12に記載のシステム。
  14. 前記メディアコンテンツ(112)は、前記陳列棚(200)に置かれた前記商品(12)のうち、より在庫量の多い商品、および/または、より在庫量の少ない商品に関する広告コンテンツを含む、請求項12または13に記載のシステム。
  15. 前記商品(12)が前記陳列棚(200)に置かれている場合、
    前記陳列棚(200)上の前記商品(12)の数量(Q)を判定するステップと、
    前記商品(12)の数量(Q)を前記ネットワーク(150)に通知するステップとをさらに含む、請求項12から14のいずれか1項に記載のシステム。
  16. 前記動作は、前記商品(12)の実際の配置(P)を前記データ処理ハードウェア(132)から前記ネットワーク(150)に通知するステップをさらに含む、請求項12~15のいずれか1項に記載のシステム。
  17. 前記閉特徴部を前記少なくとも1つの多角形特徴部と比較することは、各閉特徴部に対して、それぞれの閉特徴部のエッジの数を前記少なくとも1つの多角形特徴部のエッジの数と比較することを含み、
    前記商品(12)が前記陳列棚(200)に置かれているかどうかを判定することは、さらに、前記それぞれの閉特徴部のエッジの数が前記少なくとも1つの多角形特徴部のエッジの数とは異なる場合に、前記商品(12)が前記陳列棚(200)に置かれていると判定することを含む、請求項12~16のいずれか1項に記載のシステム。
  18. 前記陳列棚(200)上の前記商品(12)の実際の配置(P)を判定するステップは、前記少なくとも1つの画像(310)内に撮影された前記陳列棚(200)の上面(212)の前記複数の露出特徴部(215)の対応位置を特定するステップを含む、請求項12~17のいずれか1項に記載のシステム。
  19. 前記動作はさらに、前記少なくとも1つの画像(310)に画像補正ルーチンを実行するステップをさらに含み、
    前記画像補正ルーチンは、前記少なくとも1つの画像(310)の少なくとも樽型収差を補正する、請求項12~18のいずれか1項に記載のシステム。
  20. 前記メディアコンテンツ(112)は、前記陳列棚(200)に置かれた前記商品(12)、前記陳列棚(200)に置かれた前記商品(12)の製造者、または、前記陳列棚(200)に置かれた前記商品(12)を販売する小売店に関する広告コンテンツを含む、請求項12~19のいずれか1項に記載のシステム。
  21. 前記メディアコンテンツ(112)は、前記撮像装置(300)からの少なくとも1つの画像を含む、請求項12~20のいずれか1項に記載のシステム。
  22. 前記閉特徴部を前記少なくとも1つの多角形特徴部と比較して前記商品(12)が前記陳列棚(200)に置かれているかどうかを判定することは、各閉特徴部に対して、それぞれの閉特徴部の面積を前記少なくとも1つの多角形特徴部の面積と比較することを含み、
    前記それぞれの閉特徴部の面積が前記少なくとも1つの多角形特徴部の面積とは異なる場合に、前記商品(12)が前記陳列棚(200)に置かれていると判定される、請求項12~21のいずれか1項に記載のシステム。
JP2019552273A 2017-03-21 2018-03-15 商品配置適合結果の判定 Active JP7142026B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US15/464,777 2017-03-21
US15/464,777 US10643177B2 (en) 2017-03-21 2017-03-21 Determining product placement compliance
PCT/US2018/022671 WO2018175203A1 (en) 2017-03-21 2018-03-15 Determining product placement compliance

Publications (2)

Publication Number Publication Date
JP2020518044A JP2020518044A (ja) 2020-06-18
JP7142026B2 true JP7142026B2 (ja) 2022-09-26

Family

ID=61906852

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019552273A Active JP7142026B2 (ja) 2017-03-21 2018-03-15 商品配置適合結果の判定

Country Status (10)

Country Link
US (2) US10643177B2 (ja)
EP (1) EP3602436B1 (ja)
JP (1) JP7142026B2 (ja)
CN (1) CN110546661B (ja)
AU (1) AU2018239923B2 (ja)
BR (1) BR112019019573A2 (ja)
CA (1) CA3057073C (ja)
ES (1) ES2954444T3 (ja)
MX (1) MX2019011179A (ja)
WO (1) WO2018175203A1 (ja)

Families Citing this family (29)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10831431B2 (en) 2017-04-18 2020-11-10 Anthony, Inc. Shelving display
US11093896B2 (en) * 2017-05-01 2021-08-17 Symbol Technologies, Llc Product status detection system
US11449059B2 (en) 2017-05-01 2022-09-20 Symbol Technologies, Llc Obstacle detection for a mobile automation apparatus
DE112018002314T5 (de) 2017-05-01 2020-01-23 Symbol Technologies, Llc Verfahren und vorrichtung zur erkennung eines objektstatus
US11600084B2 (en) 2017-05-05 2023-03-07 Symbol Technologies, Llc Method and apparatus for detecting and interpreting price label text
US11506483B2 (en) 2018-10-05 2022-11-22 Zebra Technologies Corporation Method, system and apparatus for support structure depth determination
US11090811B2 (en) 2018-11-13 2021-08-17 Zebra Technologies Corporation Method and apparatus for labeling of support structures
DE102018129886A1 (de) * 2018-11-27 2020-05-28 Chep Technology Pty Ltd. Warenbevorratungssystem
US11416000B2 (en) 2018-12-07 2022-08-16 Zebra Technologies Corporation Method and apparatus for navigational ray tracing
US11079240B2 (en) 2018-12-07 2021-08-03 Zebra Technologies Corporation Method, system and apparatus for adaptive particle filter localization
CA3028708A1 (en) 2018-12-28 2020-06-28 Zih Corp. Method, system and apparatus for dynamic loop closure in mapping trajectories
US11080566B2 (en) 2019-06-03 2021-08-03 Zebra Technologies Corporation Method, system and apparatus for gap detection in support structures with peg regions
US11151743B2 (en) 2019-06-03 2021-10-19 Zebra Technologies Corporation Method, system and apparatus for end of aisle detection
US11341663B2 (en) 2019-06-03 2022-05-24 Zebra Technologies Corporation Method, system and apparatus for detecting support structure obstructions
US11402846B2 (en) 2019-06-03 2022-08-02 Zebra Technologies Corporation Method, system and apparatus for mitigating data capture light leakage
US11662739B2 (en) 2019-06-03 2023-05-30 Zebra Technologies Corporation Method, system and apparatus for adaptive ceiling-based localization
US11960286B2 (en) 2019-06-03 2024-04-16 Zebra Technologies Corporation Method, system and apparatus for dynamic task sequencing
WO2021039314A1 (ja) * 2019-08-28 2021-03-04 日本電気株式会社 店舗管理システム、店舗管理方法、コンピュータプログラム及び記録媒体
US11507103B2 (en) 2019-12-04 2022-11-22 Zebra Technologies Corporation Method, system and apparatus for localization-based historical obstacle handling
US11107238B2 (en) 2019-12-13 2021-08-31 Zebra Technologies Corporation Method, system and apparatus for detecting item facings
CN111260299B (zh) * 2020-02-18 2023-07-18 中国联合网络通信集团有限公司 货品盘点及管理方法、装置、电子设备及存储介质
US11423354B2 (en) * 2020-03-05 2022-08-23 Zebra Technologies Corporation Smart shelf systems and methods of operating the same
CN111428621A (zh) * 2020-03-20 2020-07-17 京东方科技集团股份有限公司 货架交互方法、装置和货架
US11822333B2 (en) 2020-03-30 2023-11-21 Zebra Technologies Corporation Method, system and apparatus for data capture illumination control
US11714926B1 (en) 2020-05-29 2023-08-01 The Hershey Company Product display design and manufacturing using a product display design model
US11450024B2 (en) 2020-07-17 2022-09-20 Zebra Technologies Corporation Mixed depth object detection
US11593915B2 (en) 2020-10-21 2023-02-28 Zebra Technologies Corporation Parallax-tolerant panoramic image generation
CN113034531A (zh) * 2021-04-02 2021-06-25 广州绿怡信息科技有限公司 设备摆放检测方法及装置
US11954882B2 (en) 2021-06-17 2024-04-09 Zebra Technologies Corporation Feature-based georegistration for mobile computing devices

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003230131A (ja) 2002-02-04 2003-08-15 Fujitsu Ltd 陳列状態監視方法及び陳列状態監視プログラム
WO2013089042A1 (ja) 2011-12-16 2013-06-20 日本電気株式会社 情報処理システム、情報処理方法、情報処理装置およびその制御方法と制御プログラム、通信端末およびその制御方法と制御プログラム
JP2015156211A (ja) 2014-01-17 2015-08-27 パナソニック インテレクチュアル プロパティ コーポレーション オブアメリカPanasonic Intellectual Property Corporation of America 商品演出方法、および、情報表示方法
JP2016042307A (ja) 2014-08-18 2016-03-31 富士通株式会社 陳列状況管理方法、陳列状況管理プログラムおよび情報処理装置

Family Cites Families (42)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7450760B2 (en) * 2005-05-18 2008-11-11 Scanr, Inc. System and method for capturing and processing business data
CA2584683A1 (en) * 2006-04-20 2007-10-20 Optosecurity Inc. Apparatus, method and system for screening receptacles and persons
US7693757B2 (en) * 2006-09-21 2010-04-06 International Business Machines Corporation System and method for performing inventory using a mobile inventory robot
US8189855B2 (en) 2007-08-31 2012-05-29 Accenture Global Services Limited Planogram extraction based on image processing
US8630924B2 (en) * 2007-08-31 2014-01-14 Accenture Global Services Limited Detection of stock out conditions based on image processing
US7949568B2 (en) * 2007-08-31 2011-05-24 Accenture Global Services Limited Determination of product display parameters based on image processing
US8091782B2 (en) * 2007-11-08 2012-01-10 International Business Machines Corporation Using cameras to monitor actual inventory
JP5397751B2 (ja) * 2009-03-19 2014-01-22 株式会社ニコン カメラおよび画像補正方法
US8577136B1 (en) * 2010-12-28 2013-11-05 Target Brands, Inc. Grid pixelation enhancement for in-stock analytics
US9785898B2 (en) * 2011-06-20 2017-10-10 Hi-Tech Solutions Ltd. System and method for identifying retail products and determining retail product arrangements
US9129277B2 (en) * 2011-08-30 2015-09-08 Digimarc Corporation Methods and arrangements for identifying objects
US20130092312A1 (en) * 2011-10-14 2013-04-18 Kellogg Company Methods for forming composite structures
US9672226B2 (en) * 2011-10-27 2017-06-06 Agency For Science, Technology And Research Method to identify an object and a system for doing the same
US20130235206A1 (en) 2012-03-12 2013-09-12 Numerex Corp. System and Method of On-Shelf Inventory Management
US8941645B2 (en) 2012-05-11 2015-01-27 Dassault Systemes Comparing virtual and real images in a shopping experience
US20140006117A1 (en) * 2012-06-29 2014-01-02 International Business Machines Corporation Personalized reorder point based advertisement
US9031872B1 (en) * 2013-03-12 2015-05-12 Target Brands, Inc. Digital sign with incorrectly stocked item identification
US9259891B2 (en) * 2013-06-14 2016-02-16 Electronic Imaging Services, Inc. Pad of labels and labels for use on store shelves in a retail environment
US9886678B2 (en) * 2013-09-25 2018-02-06 Sap Se Graphic representations of planograms
WO2015136847A1 (ja) * 2014-03-12 2015-09-17 日本電気株式会社 陳列状況解析装置、陳列状況解析方法およびプログラム記録媒体
WO2016019352A2 (en) 2014-07-31 2016-02-04 Internet Connectivity Group, Inc. Dynamic merchandising communication system
KR102260805B1 (ko) * 2014-08-06 2021-06-07 삼성전자주식회사 이미지 검색 장치 및 그 방법
JP2016077840A (ja) * 2014-10-17 2016-05-16 長谷川 裕司 商品説明動画自動再生システム
US9536167B2 (en) * 2014-12-10 2017-01-03 Ricoh Co., Ltd. Realogram scene analysis of images: multiples for scene analysis
US9710926B2 (en) * 2015-01-30 2017-07-18 Hewlett-Packard Development Company, L.P. Image processing of a retail shelf area
JP2016194833A (ja) * 2015-03-31 2016-11-17 富士通株式会社 商品陳列位置の判定処理方法、商品陳列位置の判定処理プログラム、及び商品陳列位置の判定処理装置
KR101569411B1 (ko) * 2015-04-01 2015-11-27 주식회사 피엘케이 테크놀로지 보행자 인식 장치 및 그 방법
WO2016179065A1 (en) * 2015-05-04 2016-11-10 Sunrise R&D Holdings, Llc Systems and methods for controlling shelf display units and for graphically presenting information on shelf display units
US10885493B2 (en) * 2015-05-16 2021-01-05 Tata Consultancy Services Limited Method and system for planogram compliance check based on visual analysis
US20180181906A1 (en) 2015-06-17 2018-06-28 Panasonic Intellectual Property Management Co., Ltd. Stock management apparatus, method and system
US9858481B2 (en) * 2015-11-23 2018-01-02 Lexmark International, Inc. Identifying consumer products in images
JP6624911B2 (ja) * 2015-12-03 2019-12-25 キヤノン株式会社 計測装置、計測方法および物品の製造方法
US10592854B2 (en) * 2015-12-18 2020-03-17 Ricoh Co., Ltd. Planogram matching
US10417696B2 (en) * 2015-12-18 2019-09-17 Ricoh Co., Ltd. Suggestion generation based on planogram matching
CN105701635A (zh) * 2016-03-15 2016-06-22 江阴中科今朝科技有限公司 基于移动互联网技术的物流货物实时跟踪管理系统
US10152213B2 (en) * 2016-09-01 2018-12-11 Adobe Systems Incorporated Techniques for selecting objects in images
US10552787B2 (en) * 2016-09-04 2020-02-04 International Business Machines Corporation Store planogram to image registrations
WO2018075894A1 (en) * 2016-10-21 2018-04-26 Sungal Corporation Discrete gravity feed merchandise advancement seats and assembly combinations
CN110226137A (zh) * 2016-11-25 2019-09-10 格罗弗治公司 借助图像跟踪进行制造
JP6896401B2 (ja) * 2016-11-25 2021-06-30 東芝テック株式会社 物品認識装置
US20180165711A1 (en) * 2016-12-13 2018-06-14 Frito-Lay North America, Inc. Smart Product Display Systems and Related Methods Providing Consumer Behavior Analytics
US11151372B2 (en) * 2019-10-09 2021-10-19 Elsevier, Inc. Systems, methods and computer program products for automatically extracting information from a flowchart image

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003230131A (ja) 2002-02-04 2003-08-15 Fujitsu Ltd 陳列状態監視方法及び陳列状態監視プログラム
WO2013089042A1 (ja) 2011-12-16 2013-06-20 日本電気株式会社 情報処理システム、情報処理方法、情報処理装置およびその制御方法と制御プログラム、通信端末およびその制御方法と制御プログラム
JP2015156211A (ja) 2014-01-17 2015-08-27 パナソニック インテレクチュアル プロパティ コーポレーション オブアメリカPanasonic Intellectual Property Corporation of America 商品演出方法、および、情報表示方法
JP2016042307A (ja) 2014-08-18 2016-03-31 富士通株式会社 陳列状況管理方法、陳列状況管理プログラムおよび情報処理装置

Also Published As

Publication number Publication date
CN110546661A (zh) 2019-12-06
US20200219046A1 (en) 2020-07-09
ES2954444T3 (es) 2023-11-22
US11587029B2 (en) 2023-02-21
WO2018175203A1 (en) 2018-09-27
AU2018239923A1 (en) 2019-10-10
AU2018239923B2 (en) 2021-02-04
CA3057073A1 (en) 2018-09-27
EP3602436B1 (en) 2023-06-21
CA3057073C (en) 2022-06-14
BR112019019573A2 (pt) 2020-04-14
CN110546661B (zh) 2023-07-18
JP2020518044A (ja) 2020-06-18
US20180276596A1 (en) 2018-09-27
MX2019011179A (es) 2020-02-07
EP3602436A1 (en) 2020-02-05
US10643177B2 (en) 2020-05-05

Similar Documents

Publication Publication Date Title
JP7142026B2 (ja) 商品配置適合結果の判定
US11640576B2 (en) Shelf monitoring device, shelf monitoring method, and shelf monitoring program
US10002307B2 (en) Suggestion generation based on data extraction
WO2020048492A1 (zh) 商品状态识别
WO2019165892A1 (zh) 自动售货方法、装置和计算机可读存储介质
US10860634B2 (en) Artificial intelligence system and method for generating a hierarchical data structure
US20170178310A1 (en) Linear Grouping of Recognized Items in an Image
US20150199627A1 (en) Method and apparatus for optimizing a multi-dimensional space
CA2950801A1 (en) Planogram matching
US20170178061A1 (en) Planogram Generation
US20100262281A1 (en) Relationship analysis method, relationship analysis program, and relationship analysis apparatus
US11205245B2 (en) Method of improving visual recognition of an item and item display system
US11222039B2 (en) Methods and systems for visual data manipulation
Satapathy et al. Smart Shelfie--Internet of Shelves: For Higher On-Shelf Availability
Das et al. An integrated inventory model with delay in payment for deteriorating item under Weibull distribution and advertisement cum price-dependent demand
WO2019064926A1 (ja) 情報処理装置、情報処理方法、およびプログラム
US11715278B2 (en) Real time tracking of shelf activity supporting dynamic shelf size, configuration and item containment
US20220198356A1 (en) System and method for product rearrangement in retail environment based on position adjacency awareness plan
US20230162122A1 (en) Systems and methods for providing insight regarding retail store performance and store layout
US20240020627A1 (en) Sparse Data Driven Inventory Intelligence for Optimizing Traditional Trade
US20230274226A1 (en) Retail shelf image processing and inventory tracking system
US20230274227A1 (en) Retail shelf image processing and inventory tracking system
US20230274410A1 (en) Retail shelf image processing and inventory tracking system
WO2014049305A1 (en) Method and apparatus for optimizing a visualization of a multi-dimensional space
WO2014049301A1 (en) Method and apparatus for spatially locating a unit in a multi dimensional space

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20191119

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200925

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20201013

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201211

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210316

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210608

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20210824

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211223

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20211223

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20220128

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20220201

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20220325

C211 Notice of termination of reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C211

Effective date: 20220329

C22 Notice of designation (change) of administrative judge

Free format text: JAPANESE INTERMEDIATE CODE: C22

Effective date: 20220510

C13 Notice of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: C13

Effective date: 20220621

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220711

C23 Notice of termination of proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C23

Effective date: 20220719

C302 Record of communication

Free format text: JAPANESE INTERMEDIATE CODE: C302

Effective date: 20220721

C03 Trial/appeal decision taken

Free format text: JAPANESE INTERMEDIATE CODE: C03

Effective date: 20220816

C30A Notification sent

Free format text: JAPANESE INTERMEDIATE CODE: C3012

Effective date: 20220816

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220912

R150 Certificate of patent or registration of utility model

Ref document number: 7142026

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533