JP7476967B2 - 学習データ生成装置、学習データ生成システム、学習データ生成方法および学習データ生成プログラム - Google Patents

学習データ生成装置、学習データ生成システム、学習データ生成方法および学習データ生成プログラム Download PDF

Info

Publication number
JP7476967B2
JP7476967B2 JP2022539961A JP2022539961A JP7476967B2 JP 7476967 B2 JP7476967 B2 JP 7476967B2 JP 2022539961 A JP2022539961 A JP 2022539961A JP 2022539961 A JP2022539961 A JP 2022539961A JP 7476967 B2 JP7476967 B2 JP 7476967B2
Authority
JP
Japan
Prior art keywords
shelf
product
image
learning data
data generation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022539961A
Other languages
English (en)
Other versions
JPWO2022024366A5 (ja
JPWO2022024366A1 (ja
Inventor
莉奈 富田
裕司 田原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Publication of JPWO2022024366A1 publication Critical patent/JPWO2022024366A1/ja
Publication of JPWO2022024366A5 publication Critical patent/JPWO2022024366A5/ja
Application granted granted Critical
Publication of JP7476967B2 publication Critical patent/JP7476967B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/52Surveillance or monitoring of activities, e.g. for recognising suspicious objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • G06T7/74Determining position or orientation of objects or cameras using feature-based methods involving reference images or patches
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/77Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
    • G06V10/774Generating sets of training patterns; Bootstrap methods, e.g. bagging or boosting
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/08Logistics, e.g. warehousing, loading or distribution; Inventory or stock management
    • G06Q10/087Inventory or stock management, e.g. order filling, procurement or balancing against orders
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • G06T2207/30128Food products
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30242Counting objects in image

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Artificial Intelligence (AREA)
  • Health & Medical Sciences (AREA)
  • Computing Systems (AREA)
  • Databases & Information Systems (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • Signal Processing (AREA)
  • Image Analysis (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Description

本開示は、学習データ生成装置、学習データ生成方法、学習データ生成システムおよび学習データ生成プログラムに関する。
現在、人手不足による店舗従業員の確保の問題は深刻さを増している。そのような環境の中で、商品の在庫管理、陳列棚の商品補充作業などを省力化し、従業員の負担を軽減するための技術の開発が望まれている。
店舗において、商品棚等に陳列された商品の欠品および陳列乱れを検知するために、陳列された商品の画像を学習させた学習モデルを用いて検知する手法が知られている。
尚、商品の欠品や陳列乱れを検知する学習モデルを生成するには、大量の商品画像(教師データ)が必要となるが、質の良い教師データを大量に入手するのは困難である。
特許文献1は、機械学習を用いた画像解析システムにおいて、背景画像と物体画像を合成して学習用の画像を生成する手法について開示する。
特許文献2は、ベクトルモデルや3Dモデル等のデータから機械学習訓練用の画像を、ニューラルネットワークを用いて生成する手法について開示する。
特開2014-178957号公報 特開2019-159630号公報
しかしながら、特許文献1および2は、店舗における商品の欠品や陳列乱れの検知のための技術を開示しない。店舗における商品の画像データを取得するには、店舗毎に撮影条件を設定する必要がある。例えば、ある特定の商品の画像を撮影するにおいても、店舗毎に、使用する棚が異なったり、棚は同じでも陳列する際の商品の向きや陳列の手法が異なったりする。よって、一か所で撮影された画像を学習データとして学習モデルを学習させると、各店舗における商品の欠品や陳列乱れの検知において、誤認識が発生しやすく、検知精度が落ちる。また、質の良い学習用画像を、店舗毎に大量にかつ効率よく撮影することは困難である。
本開示の目的の1つは、上記の課題を解決し、店舗において商品を検知するための学習モデルの学習にあたり、商品の誤認識を防止する学習データを生成する技術を提供することである。
本開示の一態様における学習データ生成装置は、
商品を陳列する棚の一区画である棚画像を取得する棚画像取得部と、
前記棚に陳列される商品の商品画像を取得する商品画像取得部と、
前記棚画像と前記商品画像とを合成して学習データを生成する合成部と、を備え、
前記合成部は、前記棚の形状または前記商品の形状の少なくともいずれか一つに応じて、前記商品画像の陳列を異ならせて前記棚画像に合成する。
本開示の一態様における学習データ生成システムは、
上記に記載の学習データ生成装置と、
前記棚画像を撮影し、前記学習データ生成装置に向けて送信する第1カメラと、
前記商品画像を撮影し、前記学習データ生成装置に向けて送信する第2カメラと
を備える。
本開示の一態様における学習データ生成方法は、
商品を陳列する棚の一区画である棚画像を取得し、
前記棚に陳列される商品の商品画像を取得し、
前記棚画像と前記商品画像とを合成して学習データを生成すること、を備え、
前記合成においては、前記棚の形状または前記商品の形状の少なくともいずれか一つに応じて、前記商品画像の陳列を異ならせて前記棚画像に合成する。
本開示の一態様における学習データ生成プログラムは、
商品を陳列する棚の一区画である棚画像を取得し、
前記棚に陳列される商品の商品画像を取得し、
前記棚画像と前記商品画像とを合成して学習データを生成すること、を備え、
前記合成においては、前記棚の形状または前記商品の形状の少なくともいずれか一つに応じて、前記商品画像の陳列を異ならせて前記棚画像に合成する
ことをコンピュータに実現させる。
プログラムは非一時的なコンピュータ読み取り可能な記録媒体に格納されていてもよい。
なお、以上の構成要素の任意の組合せ、本開示の表現を方法、装置、システム、記録媒体、コンピュータプログラムなどの間で変換したものもまた、本開示の態様として有効である。
また、本開示の各種の構成要素は、必ずしも個々に独立した存在である必要はない。複数の構成要素が一個の部材として形成されていること、一つの構成要素が複数の部材で形成されていること、ある構成要素が他の構成要素の一部であること、ある構成要素の一部と他の構成要素の一部とが重複していること、等でもよい。
また、本開示の方法およびコンピュータプログラムには複数の手順を順番に記載してあるが、その記載の順番は複数の手順を実行する順番を限定するものではない。このため、本開示の方法およびコンピュータプログラムを実施するときには、その複数の手順の順番は内容的に支障のない範囲で変更することができる。
さらに、本開示の方法およびコンピュータプログラムの複数の手順は個々に相違するタイミングで実行されることに限定されない。このため、ある手順の実行中に他の手順が発生してもよい。ある手順の実行タイミングと他の手順の実行タイミングとの一部ないし全部が重複してもよい。
さらに、本開示の方法およびコンピュータプログラムの複数の手順は個々に相違するタイミングで実行されることに限定されない。このため、ある手順の実行中に他の手順が発生してもよい。ある手順の実行タイミングと他の手順の実行タイミングとの一部ないし全部が重複してもよい。
本開示の効果は、店舗において商品を検知するための学習モデルの学習にあたり、商品の誤認識を防止する学習データを生成できることである。
本開示の第1実施形態に係る学習データ生成システムの構成例を概念的に示すブロック図である。 本開示の第1実施形態に係る学習データ生成装置および学習装置の内部構成例を示す図である。 棚画像情報のデータ構造の一例を示す図である。 棚画像の一例を示す図である。ある。 陳列棚画像の一例を示す図である。 陳列棚画像の一例を示す図である。 商品画像情報のデータ構造の一例を示す図である。 商品画像の一例を示す図である。 複数の角度から撮影された商品画像の例を示す図である。 合成画像の一例を示す図である。 合成画像の一例を示す図である。 仕切りに沿って陳列される商品の一例を示す図である。 本開示の第1実施形態に係る学習データ生成装置の動作の一例を示すフローチャートである。 本開示の第2実施形態に係る学習データ生成システムの構成例を示すブロック図である。 配置パターンの一例を示す図である。 本開示の第2実施形態に係る学習データ生成装置の動作の一例を示すフローチャートである。 本開示の第3実施形態に係る学習データ生成装置の構成例を示すブロック図である。 学習データ生成システムの各装置を実現するコンピュータのハードウェア構成例を示すブロック図である。
以下、本開示の実施の形態について、図面を用いて説明する。尚、すべての図面において、同様な構成要素には同様の符号を付し、適宜説明を省略する。以下の各図において、本開示の本質に関わらない部分の構成については省略してあり、図示されていない。
実施形態において「取得」とは、自装置が他の装置や記録媒体に格納されているデータまたは情報を取りに行くこと(能動的な取得)、および、自装置に他の装置から出力されるデータまたは情報を入力されること(受動的な取得)の少なくとも一方を含む。能動的な取得の例は、他の装置にリクエストまたは問い合わせしてその返信を受信すること、及び、他の装置や記録媒体にアクセスして読み出すこと等がある。また、受動的な取得の例は、配信(または、送信、プッシュ通知等)される情報を受信すること等がある。さらに、「取得」とは、受信したデータまたは情報の中から選択して取得すること、または、配信されたデータまたは情報を選択して受信することであってもよい。
<第1実施形態>
(学習データ生成システム)
図1は、本開示の第1実施形態に係る学習データ生成システム100の構成例を概念的に示すブロック図である。学習データ生成システム100は、学習データ生成装置1と、学習装置2と、カメラ3、4と、を含む。カメラ3およびカメラ4と学習データ生成装置1との間は通信ネットワーク5を介して接続されてもよい。学習データ生成装置1と学習装置2とは同じハードウェアに備えられてもよいし、別のハードウェアとして存在してもよい。カメラ3、4は同一のカメラであってもよいし、更に多くのカメラを使用してもよい。
カメラ3(第1カメラとも称呼する)は、店舗毎に備えられる、商品棚を撮影するためのカメラである。カメラ3は魚眼レンズを備えた広域を撮影するカメラであってもよい。カメラ3は店舗内を移動する機構を備えたカメラでもよい。カメラ3は、店舗の店員が所持するカメラであってもよい。カメラ3は商品棚の一区画である棚画像を撮影する(図1参照)。
カメラ4(第2カメラとも称呼する)は、商品の画像を撮影するためのカメラである。カメラ4は、特定の撮影場所において、まとめて商品の撮影を行ってもよいし、店舗毎に商品の撮影を行ってもよい。カメラ4は、店舗の店員が所持するカメラであってもよい。
学習データ生成システム100の動作について説明する。カメラ3が撮影した商品棚の棚画像、カメラ4が撮影した商品画像は、学習データ生成装置1に送られる。学習データ生成装置1は棚画像と商品画像とを合成して、学習データを生成する。学習装置2は学習モデルを備え、生成された学習データを学習モデルに学習させる。学習モデルは、商品の欠品、陳列乱れなどの検知を行うための学習を行う。
(学習データ生成装置)
次に、図2を参照して学習データ生成装置1および学習装置2の内部構造について説明する。
学習データ生成装置1は、棚画像取得部11、商品画像取得部12、棚画像記憶部13、商品画像記憶部14、合成部15および合成画像記憶部16を備えている。
棚画像取得部11は、カメラ3にて撮影された、商品を陳列するための商品棚の一区画である棚画像を取得する。具体的に、棚画像取得部11は、カメラ3から取得された棚画像を取得すると、当該棚画像に関連する棚画像情報を生成し、棚画像と棚画像情報とを紐づけて棚画像記憶部13に格納する。棚画像情報とは、例えば図3に示すように、棚画像ID(Identifier)、撮影日時、店舗名(店舗ID)、位置ID、仕切りの有無である。
棚画像IDとは、棚画像をユニークに識別するための識別子である。例えば、撮影順の連番であってもよい。
撮影日時とは、カメラ3が当該棚画像を撮影した日時である。撮影日時はカメラ3のタイムスタンプ機能から取得してもよい。棚画像の撮影日時を含めることにより、合成部15は合成のために棚画像を取得する際に最新の撮影日時の棚画像を選択できる。また合成部15は、ある店舗で特定の期間に使用されていた棚画像を取得したい場合、当該撮影日時を基に、当該棚画像を取得することができる。
店舗名(店舗ID)とは、店舗名または店舗をユニークに識別するための識別子である。位置IDとは、店舗内における棚画像の位置を特定するための識別子である。例えば、ある店舗に、10個の棚(棚番号1-10)があり、図4に示す棚が図6に示す商品棚(ホットショーケース。棚番号1とする)の右下の6番の位置に配置されるとする。この場合、位置IDは「1(棚番号)-6(位置番号)」となる。
仕切りの有無とは、商品棚に陳列台を仕切るための仕切り(レールなど)が有る(図5参照)か、仕切りが無い(図6参照)かを示す情報である。具体例として仕切りの有無には、仕切りがあれば「1」、仕切りが無ければ「0」と入力される。尚、画像情報のうち撮影日時以外の情報は、棚画像取得部11に予め設定されていてもよい。
商品画像取得部12は、カメラ4にて撮影された、商品棚に陳列されるべき商品の商品画像を取得する。商品画像取得部12は、商品画像を取得する際、当該商品画像に関連する商品画像情報(図7参照)を生成し、商品画像と商品画像情報とを紐づけて商品画像記憶部14に格納する。
商品画像情報は、例えば図7に示すように、商品画像ID、商品名、撮影日時、向きおよび商品の形状を含む。商品画像IDは、商品画像(図8参照)をユニークに識別するための識別子である。商品名は、商品の名称(例えば図8であればハッシュドポテト)である。撮影日時は当該商品画像を撮影した日時である。向きは、商品が撮影された配置(例えば図8であれば真上から見た横置きの配置)である。例えば図9に示すように、斜め配置、縦置き配置、斜めの2つ重ね置き配置などを含めてよい。商品の形状は、商品がどの陳列に適した形状かを示す情報である。
商品の形状としては、形が明確なもの(形がかわりにくいもの)と、形状があいまいなもの(形が変わりやすいもの)を含む。形が明確なもの、例えば表面が硬い商品(缶ジュース等)は列状に配置するほうが好ましいため、商品の形状としては、例えば「硬い_列状配置」と記載される。形があいまいなもの、例えば崩れないように空気入りでパッキング包装された商品(生菓子等)はランダム配置が好ましいため、商品の形状としては、例えば「柔らかい_ランダム配置」と記載される。この他、商品を積み重ねて陳列することが可能を示す情報を記載してもよい。尚、商品画像情報のうち、撮影日時はカメラ4のタイムスタンプ機能から取得し、他の情報は設計者が画像撮影する際に手入力してよい。
棚画像記憶部13は、棚画像取得部11から取得する棚画像および棚画像情報を格納する。
商品画像記憶部14は、商品画像取得部12から取得する商品画像および商品画像情報を格納する。
合成部15は、ある店舗における学習データを合成する際、当該店舗の識別子(店舗名および店舗IDの少なくとも片方)に紐づけられた棚画像を棚画像記憶部13から取得する。合成部15は、棚画像と商品画像とを合成して学習データを生成する。合成部15は、商品棚の形状および商品の形状の少なくとも一方に応じて、商品画像の陳列を異ならせて棚画像に合成する。
商品棚の形状は、前記商品を陳列させるための凹凸を有する凹凸の形状と、平面の形状とを含む。当該凹凸とは、例えば、陳列のための仕切り(例えばレール)である。具体例として、図5に示す商品棚(冷蔵ショーケース)には商品陳列のための仕切りがある。尚、図6に示す商品棚(ホットショーケース)には商品陳列のための仕切りが無く、平面の形状である。
商品の形状は、商品画像情報(図7)に含まれる情報であり、形が明確なもの(例えば表面が硬い商品缶ジュースなど)と、形状があいまいなもの(例えば空気入りでパッキング包装された商品生菓子など)を含む。形が明確なものは、列状に配置するほうが好ましい。形があいまいなものは、ランダム配置が好ましい。
合成部15は、商品棚の形状または商品の形状の少なくとも一方に応じて、商品画像の陳列を異ならせて棚画像に合成する。例えば棚台に、当該凹凸(仕切り)を備える棚(図5参照)や、商品の形状が明確なもの(図7参照)については、合成部15は、仕切りに沿って列状に配置される商品画像を合成する。例えば棚台に当該仕切りを備えない平面の棚(図6参照)や、商品の形状があいまいなもの(図7参照)については、合成部15は、棚画像にランダムに配置される商品画像を合成する。合成部15は、棚画像情報(図3)および商品画像情報(図7)を取得することにより、仕切りの有無や商品の形状を判断する。
例えば、商品「ハッシュドポテト」を、商品棚(図5のホットショーケース参照)に陳列した画像を合成するとする。この場合、合成部15は棚画像記憶部13から当該商品棚の棚画像(図4参照)と棚画像情報を、商品画像記憶部14からハッシュドポテトの商品画像と商品画像情報を取得する。
合成部15は、当該棚画像情報の内、仕切りの有無が「0(無)」であると、商品画像を棚画像上にランダムに配置して重畳する。例えば、図10は、合成部15が棚画像に商品画像一つを重畳した合成画面であり、図11は、合成部15が、棚画像に商品画像2つをランダムに重畳した合成画面である。
合成部15は、当該棚画像情報の内、仕切りの有無が「1(有)」であると、商品画像を棚画像に規則的に、例えば列状に、配置する。例えば、図12は、合成部15が棚画像に商品画像4つを手前から奥に一列に並べて重畳した合成画面である。
尚、合成部15は、取得した商品画像情報に含まれる商品形状が「柔らかい_ランダム配置」だった場合に、上記のように棚画像に商品画像をランダムに重畳して、合成画面を生成してもよい。合成部15は、仕切りの有無および商品形状の両方を判断してから、合成のための陳列を決定してもよい。
合成画像記憶部16は、合成部15が生成した学習データを格納する。
学習装置2は、学習部21および学習モデル記憶部22を備えている。
学習部21は、合成画像記憶部16から学習データを取得し、学習モデル記憶部22に格納される学習モデルに取得した学習データを用いて学習させる。
学習モデル記憶部22は、学習モデルを格納する。学習モデルは店舗毎、商品毎、商品棚毎、またはこれらの組合せにより生成されて良い。
(学習データ生成装置の動作)
学習データ生成システム100における学習データ生成装置1の動作を図13に示すフローチャートを参照して説明する。尚、棚画像記憶部13には予めカメラ3が撮影した各店舗の商品棚の商品画像が、商品画像記憶部14には予めカメラ4が撮影した複数の商品の商品画像が格納されているものとする。また、以下の説明においては、店舗Aにおける商品棚Bの棚画像Cに、特定の商品Dを合成した画像を生成するものとする。
まずステップS101において、合成部15は棚画像を取得する。具体的に、合成部15は、棚画像記憶部13から、店舗Aの店舗ID(例えば、A)および商品棚B-棚画像Cの位置ID(例えば、B-C)を基に、該当する棚画像を取得する。
ステップS102において、合成部15は、商品画像記憶部14から、商品Dの商品ID(例えば、D)を基に商品Dの商品画像を取得する。このとき合成部15は、商品Dの商品画像と共に、当該商品画像情報を取得する。
ステップS103において、合成部15は、当該棚画像と当該商品画像とを合成して学習データを生成する。この際、合成部15は、商品棚の形状および商品の形状の少なくとも一方に応じて、商品画像の陳列を異ならせて棚画像に合成する。具体的に合成部15は、取得した商品画像情報に含まれる仕切りの有無を示す情報を基に、この棚画像に仕切りがあるか否かを判断する。仕切りが無いと判断された場合、合成部15は、棚画像C上に商品Dの画像をランダムに並べて合成する(図11参照)。仕切りが有ると判断された場合、合成部15は、棚画像C上に商品Dの画像を列状(例えば、手前から奥まで一列)に並べて合成する(図12参照)。合成部15は、商品の形状を基に、商品をランダムに並べて合成するか、列状に並べて合成するかを決めてもよい。
ステップS104において、合成部15は合成した画像を合成画像記憶部16に格納する。
尚、この後、学習装置2の学習部21は、適宜、合成画像記憶部16に格納される合成画像を取得し、学習モデルに学習させる。
以上により、学習データ生成システム100における学習データ生成装置1の動作を終了する。
(第1実施形態の効果)
本開示の第1実施形態によると、店舗において商品を検知するための学習モデルの学習にあたり、商品の誤認識を防止する学習データを生成できる。これは、棚画像取得部11が商品を陳列する棚の一区画である棚画像を取得し、商品画像取得部12が棚に陳列される商品の商品画像を取得し、合成部15が棚画像と商品画像とを合成して学習データを生成し、合成部15は、棚の形状および商品の形状の少なくとも一方に応じて、商品画像の陳列を異ならせて棚画像に合成するからである。
このように合成することにより、様々な陳列状態を実物の画像を用いて再現した大量の学習データを生成することができるため、画像認識精度を向上させることができる。
<第2実施形態>
第1実施形態においては、棚画像と商品画像の合成において、配置パターンについて触れていない。しかし、ある商品の陳列にはある程度の配置パターンがあるため、当該配置パターンに沿って合成を行った方が更に実践に即した学習データを生成することができる。よって第2実施形態においては、配置パターンを基に棚画像および商品画像を合成する手法について説明する。
(学習データ生成システム)
図14は、本開示の第2実施形態に係る学習データ生成システム200の構成例を概念的に示すブロック図である。学習データ生成システム200は、第1実施形態と同様に、学習データ生成装置1aと、学習装置2と、カメラ3、4と、を含む。
学習データ生成装置1aは、棚画像取得部11、商品画像取得部12、棚画像記憶部13、商品画像記憶部14、合成部35、パターン記憶部37および合成画像記憶部16を備えている。
パターン記憶部37は、商品の配置のパターンを格納する。当該配置のパターンは、各店舗からアンケート回答などにて取得してもよいし、各店舗に設置されたカメラから陳列された商品画像を取得し、当該画像を機械学習して求めてもよい。配置のパターンとは、例えば、平置き、重ね置き、縦重ね、横重ね、斜め重ね、右詰め、左詰めなどであり、これらの組合せであってもよい。
合成部35は、パターン記憶部37に格納されるパターンを基に、棚画像と商品画像とを合成して学習データを生成する。ある店舗において、商品棚の形状が「仕切り無しのホットショーケース」で、当該商品棚内における商品「コロッケ」が「右に詰めて」「斜めに重ねる」パターンで陳列され、かつ、左側から商品が取られるとする。この場合、合成部35は、この配置パターンをパターン記憶部37から取得し、取得した配置パターンに従って、図15に示すような棚画像および商品画像(左は商品数3個の画像、右は商品数2個の画像)を学習データとして合成する。これにより学習モデルの検知精度をより高めることができる。
その他の装置および部は第1実施形態と同様である。
(学習データ生成装置の動作)
学習データ生成システム200における学習データ生成装置1aの動作を図16に示すフローチャートを参照して説明する。尚、棚画像記憶部13には予めカメラ3が撮影した各店舗の商品棚の商品画像が、商品画像記憶部14には予めカメラ4が撮影した複数の商品の商品画像が、パターン記憶部37には各店舗における商品毎の配置パターンが格納されているものとする。以下の説明においては、店舗Aにおける商品棚Bの棚画像Cに、特定の商品Dを合成した画像を生成するものとする。
まずステップS201において、合成部35は棚画像を取得する。具体的に、合成部35は、棚画像記憶部13から、店舗Aの店舗ID(例えば、A)および商品棚B-棚画像Cの位置ID(例えば、B-C)を基に、該当する棚画像を取得する。
ステップS202において、合成部35は、商品画像記憶部14から、商品Dの商品ID(例えば、D)を基に商品Dの商品画像を取得する。このとき合成部35は、商品Dの商品画像と共に、当該商品画像情報を取得する。
ステップS203において、合成部35は、パターン記憶部37から当該商品の配置パターンを取得する。合成部35は、取得した棚画像の形状(例えば、仕切りの有無)および商品の形状の少なくとも片方と、取得した配置パターンとに従って、棚画像と商品画像とを合成し、学習データを生成する。
ステップS204において、合成部35は合成した画像を合成画像記憶部16に格納する。
尚、この後、学習装置2の学習部21は、適宜、合成画像記憶部16に格納される合成画像を取得し、学習モデルに学習させる。
以上により、学習データ生成システム200における学習データ生成装置1aの動作を終了する。
(第2実施形態の効果)
本開示の第2実施形態によると、店舗において商品を検知するための学習モデルの学習にあたり、商品の誤認識を防止する学習データを生成できる。これは、棚画像取得部11が商品を陳列する棚の一区画である棚画像を取得し、商品画像取得部12が棚に陳列される商品の商品画像を取得し、合成部35が棚の形状および商品の形状の少なくとも片方とパターン記憶部37に格納されるパターンとを基に、棚画像と商品画像とを合成して学習データを生成するからである。
<第3実施形態>
本開示の第3実施形態に係る学習データ生成装置40について図17を参照して説明する。学習データ生成装置40は、第1実施形態および第2実施形態の最小構成態様である。学習データ生成装置40は、棚画像取得部41、商品画像取得部42および合成部43を備える。
棚画像取得部41は、商品を陳列する棚の一区画である棚画像を取得する。商品画像取得部42は、棚に陳列される商品の商品画像を取得する。合成部43は、棚画像と商品画像とを合成して学習データを生成し、さらに合成部43が棚の形状および商品の形状の少なくとも一方に応じて、商品画像の陳列を異ならせて棚画像に合成する。
本開示の第3実施形態に係る学習データ生成装置40によると、店舗において商品を検知するための学習モデルの学習にあたり、商品の誤認識を防止する学習データを生成できる。これは、棚画像取得部41が商品を陳列する棚の一区画である棚画像を取得し、商品画像取得部42が棚に陳列される商品の商品画像を取得し、合成部43が棚画像と商品画像とを合成して学習データを生成し、合成部43は、棚の形状および商品の形状の少なくとも一方に応じて、商品画像の陳列を異ならせて棚画像に合成するからである。
<ハードウェア構成>
本発明の各実施形態において、学習データ生成システム100、200に含まれる各装置の各構成要素は、機能単位のブロックを示している。各装置(学習データ生成装置1、1a、40など)の各構成要素の一部又は全部は、例えば図18に示すような情報処理装置500とプログラムとの任意の組み合わせにより実現される。情報処理装置500は、一例として、以下のような構成を含む。
・CPU(Central Processing Unit)501
・ROM(Read Only Memory)502
・RAM(Random Access Memory)503
・RAM503にロードされるプログラム504
・プログラム504を格納する記憶装置505
・記録媒体506の読み書きを行うドライブ装置507
・通信ネットワーク509と接続する通信インターフェース508
・データの入出力を行う入出力インターフェース510
・各構成要素を接続するバス511
各実施形態における各装置の各構成要素は、これらの機能を実現するプログラム504をCPU501が取得して実行することで実現される。各装置の各構成要素の機能を実現するプログラム504は、例えば、予め記憶装置505やRAM503に格納されており、必要に応じてCPU501が読み出す。なお、プログラム504は、通信ネットワーク509を介してCPU501に供給されてもよいし、予め記録媒体506に格納されており、ドライブ装置507が当該プログラムを読み出してCPU501に供給してもよい。
各装置の実現方法には、様々な変形例がある。例えば、各装置は、構成要素毎にそれぞれ別個の情報処理装置500とプログラムとの任意の組み合わせにより実現されてもよい。また、各装置が備える複数の構成要素が、一つの情報処理装置500とプログラムとの任意の組み合わせにより実現されてもよい。
また、各装置の各構成要素の一部又は全部は、その他の汎用または専用の回路、プロセッサ等やこれらの組み合わせによって実現される。これらは、単一のチップによって構成されてもよいし、バスを介して接続される複数のチップによって構成されてもよい。
各装置の各構成要素の一部又は全部は、上述した回路等とプログラムとの組み合わせによって実現されてもよい。
各装置の各構成要素の一部又は全部が複数の情報処理装置や回路等により実現される場合には、複数の情報処理装置や回路等は、集中配置されてもよいし、分散配置されてもよい。例えば、情報処理装置や回路等は、クライアントアンドサーバシステム、クラウドコンピューティングシステム等、各々が通信ネットワークを介して接続される形態として実現されてもよい。
上記の実施形態の一部又は全部は、以下の付記のようにも記載されうるが、以下には限られない。
[付記1]
商品を陳列する棚の一区画である棚画像を取得する棚画像取得部と、
前記棚に陳列される商品の商品画像を取得する商品画像取得部と、
前記棚画像と前記商品画像とを合成して学習データを生成する合成部と、を備え、
前記合成部は、前記棚の形状または前記商品の形状の少なくともいずれか一つに応じて、前記商品画像の陳列を異ならせて前記棚画像に合成する
学習データ生成装置。
[付記2]
前記棚の形状は、前記商品を陳列させるための凹凸を有する凹凸の形状と、平面の形状とを含み、
前記合成は、前記凹凸の形状の棚においては前記棚画像に列状に配置される前記商品画像を合成し、前記平面の形状の棚においては前記棚画像にランダムに配置される前記商品画像を合成する
付記1に記載の学習データ生成装置。
[付記3]
前記棚画像を格納する棚画像記憶部をさらに備え、
前記棚画像は、前記棚を使用する店舗を識別する識別子に紐づけられて格納され、
前記合成部は、ある店舗における学習データを合成する際、当該店舗の識別子に紐づけられた前記棚画像を前記棚画像記憶部から取得する
付記1に記載の学習データ生成装置。
[付記4]
前記棚画像は、前記棚の内における商品の位置を識別する位置識別子に紐づけられて前記棚画像記憶部に格納され、
前記合成部は、前記棚内の特定の位置における学習データを合成する際、当該位置識別子に紐づけられた前記棚画像を前記棚画像記憶部から取得する
付記3に記載の学習データ生成装置。
[付記5]
前記商品画像を格納する商品画像記憶部をさらに備え、
前記合成部は、ある商品に関する学習データを合成する際、当該商品の前記商品画像を前記商品画像記憶部から取得する
付記1に記載の学習データ生成装置。
[付記6]
前記商品画像記憶部は、前記商品が複数の異なる角度から撮影された前記商品画像を格納する
付記5に記載の学習データ生成装置。
[付記7]
前記棚画像と前記商品画像との合成のパターンを格納するパターン記憶部をさらに備え、
前記合成部は、前記パターン記憶部に格納される前記パターンを基に、前記棚画像と前記商品画像とを合成して学習データを生成する
付記1または付記2に記載の学習データ生成装置。
[付記8]
付記1乃至付記7のいずれかに記載の学習データ生成装置と、
前記棚画像を撮影し、前記学習データ生成装置に向けて送信する第1カメラと、
前記商品画像を撮影し、前記学習データ生成装置に向けて送信する第2カメラと
を備える学習データ生成システム。
[付記9]
商品を陳列する棚の一区画である棚画像を取得し、
前記棚に陳列される商品の商品画像を取得し、
前記棚画像と前記商品画像とを合成して学習データを生成すること、を備え、
前記合成においては、前記棚の形状または前記商品の形状の少なくともいずれか一つに応じて、前記商品画像の陳列を異ならせて前記棚画像に合成する
学習データ生成方法。
[付記10]
前記棚の形状は、前記商品を陳列させるための凹凸を有する凹凸の形状と、平面の形状とを含み、
前記合成においては、前記凹凸の形状の棚においては前記棚画像に列状に配置される前記商品画像を合成し、前記平面の形状の棚においては前記棚画像にランダムに配置される前記商品画像を合成する
付記9に記載の学習データ生成方法。
[付記11]
前記棚画像は、前記棚を使用する店舗を識別する識別子に紐づけられて格納され、
前記合成においては、ある店舗における学習データを合成する際、当該店舗の識別子に紐づけられた前記棚画像を棚画像記憶手段から取得する
付記9に記載の学習データ生成方法。
[付記12]
前記合成においては、前記棚内の特定の位置における学習データを合成する際、前記棚の内における商品の位置を識別する位置識別子に紐づけられた前記棚画像を前記棚画像記憶手段から取得する
付記11に記載の学習データ生成方法。
[付記13]
前記合成においては、ある商品に関する学習データを合成する際、当該商品の前記商品画像を商品画像記憶手段から取得する
付記9に記載の学習データ生成方法。
[付記14]
前記商品画像記憶手段は、前記商品が複数の異なる角度から撮影された前記商品画像を格納する
付記13に記載の学習データ生成方法。
[付記15]
前記合成においては、前記棚画像と前記商品画像との合成のパターンを格納するパターン記憶手段に格納される前記パターンを基に、前記棚画像と前記商品画像とを合成して学習データを生成する
付記9または付記10に記載の学習データ生成方法。
[付記16]
商品を陳列する棚の一区画である棚画像を取得し、
前記棚に陳列される商品の商品画像を取得し、
前記棚画像と前記商品画像とを合成して学習データを生成すること、を備え、
前記合成においては、前記棚の形状または前記商品の形状の少なくともいずれか一つに応じて、前記商品画像の陳列を異ならせて前記棚画像に合成する
ことをコンピュータに実現させる学習データ生成プログラムを格納する記録媒体。
[付記17]
前記棚の形状は、前記商品を陳列させるための凹凸を有する凹凸の形状と、平面の形状とを含み、
前記合成においては、前記凹凸の形状の棚においては前記棚画像に列状に配置される前記商品画像を合成し、前記平面の形状の棚においては前記棚画像にランダムに配置される前記商品画像を合成する
付記16に記載の記録媒体。
[付記18]
前記棚画像は、前記棚を使用する店舗を識別する識別子に紐づけられて格納され、
前記合成においては、ある店舗における学習データを合成する際、当該店舗の識別子に紐づけられた前記棚画像を棚画像記憶手段から取得する
付記16に記載の記録媒体。
[付記19]
前記合成においては、前記棚内の特定の位置における学習データを合成する際、前記棚の内における商品の位置を識別する位置識別子に紐づけられた前記棚画像を前記棚画像記憶手段から取得する
付記18に記載の記録媒体。
[付記20]
前記合成においては、ある商品に関する学習データを合成する際、当該商品の前記商品画像を商品画像記憶手段から取得する
付記16に記載の記録媒体。
[付記21]
前記商品画像記憶手段は、前記商品が複数の異なる角度から撮影された前記商品画像を格納する
付記20に記載の記録媒体。
[付記22]
前記合成においては、前記棚画像と前記商品画像との合成のパターンを格納するパターン記憶手段に格納される前記パターンを基に、前記棚画像と前記商品画像とを合成して学習データを生成する
付記16または付記17に記載の記録媒体。
以上、実施形態および実施例を参照して本願発明を説明したが、本願発明は上記実施形態および実施例に限定されるものではない。本願発明の構成や詳細には、本願発明のスコープ内で当業者が理解し得る様々な変更をすることができる。
1 学習データ生成装置
1a 学習データ生成装置
2 学習装置
3 カメラ
4 カメラ
5 通信ネットワーク
11 棚画像取得部
12 商品画像取得部
13 棚画像記憶部
14 商品画像記憶部
15 合成部
16 合成画像記憶部
21 学習部
22 学習モデル記憶部
35 合成部
37 パターン記憶部
40 学習データ生成装置
41 棚画像取得部
42 商品画像取得部
43 合成部
100 学習データ生成システム
200 学習データ生成システム
500 情報処理装置
501 CPU
502 ROM
503 RAM
504 プログラム
505 記憶装置
506 記録媒体
507 ドライブ装置
508 通信インターフェース
509 通信ネットワーク
510 入出力インターフェース
511 バス

Claims (10)

  1. 商品を陳列する棚の一区画である棚画像を取得する棚画像取得手段と、
    前記棚に陳列される商品の商品画像を取得する商品画像取得手段と、
    前記棚画像と前記商品画像とを合成して学習データを生成する合成手段と、
    前記棚画像を格納する棚画像記憶手段と、を備え、
    前記棚画像は、前記棚を使用する店舗を識別する識別子に紐づけられて格納され、
    前記合成手段は、ある店舗における学習データを合成する際、当該店舗の識別子に紐づけられた前記棚画像を前記棚画像記憶手段から取得し、前記棚の形状または前記商品の形状の少なくともいずれか一つに応じて、前記商品画像の陳列を異ならせて、取得した前記棚画像に合成する
    学習データ生成装置。
  2. 前記棚の形状は、前記商品を陳列させるための凹凸を有する凹凸の形状と、平面の形状とを含み、
    前記合成手段は、前記凹凸の形状の棚においては前記棚画像に列状に配置される前記商品画像を合成し、前記平面の形状の棚においては前記棚画像にランダムに配置される前記商品画像を合成する
    請求項1に記載の学習データ生成装置。
  3. 前記棚画像は、前記棚の内における商品の位置を識別する位置識別子に紐づけられて前記棚画像記憶手段に格納され、
    前記合成手段は、前記棚内の特定の位置における学習データを合成する際、当該位置識別子に紐づけられた前記棚画像を前記棚画像記憶手段から取得する
    請求項1または2に記載の学習データ生成装置。
  4. 前記商品画像を格納する商品画像記憶手段をさらに備え、
    前記合成手段は、ある商品に関する学習データを合成する際、当該商品の前記商品画像を前記商品画像記憶手段から取得する
    請求項1から3のいずれかに記載の学習データ生成装置。
  5. 前記商品画像記憶手段は、前記商品が複数の異なる角度から撮影された前記商品画像を格納する
    請求項に記載の学習データ生成装置。
  6. 前記棚画像と前記商品画像との合成のパターンを格納するパターン記憶手段をさらに備え、
    前記合成手段は、前記パターン記憶手段に格納される前記パターンを基に、前記棚画像と前記商品画像とを合成して学習データを生成する
    請求項1から5のいずれかに記載の学習データ生成装置。
  7. 請求項1から6のいずれかに記載の学習データ生成装置と、
    前記棚画像を撮影し、前記学習データ生成装置に向けて送信する第1カメラと、
    前記商品画像を撮影し、前記学習データ生成装置に向けて送信する第2カメラと
    を備える学習データ生成システム。
  8. 商品を陳列する棚の一区画である棚画像を取得し、
    前記棚に陳列される商品の商品画像を取得し、
    前記棚画像と前記商品画像とを合成して学習データを生成すること、を備え、
    前記棚を使用する店舗を識別する識別子に紐づけられて格納され、
    前記合成においては、ある店舗における学習データを合成する際、当該店舗の識別子に紐づけられた前記棚画像を棚画像記憶手段から取得し、前記棚の形状または前記商品の形状の少なくともいずれか一つに応じて、前記商品画像の陳列を異ならせて、取得した前記棚画像に合成する
    学習データ生成方法。
  9. 前記合成においては、前記棚内の特定の位置における学習データを合成する際、前記棚の内における商品の位置を識別する位置識別子に紐づけられた前記棚画像を前記棚画像記憶手段から取得する
    請求項に記載の学習データ生成方法。
  10. 商品を陳列する棚の一区画である棚画像を取得し、
    前記棚に陳列される商品の商品画像を取得し、
    前記棚画像と前記商品画像とを合成して学習データを生成すること、を備え、
    前記合成においては、前記棚の形状または前記商品の形状の少なくともいずれか一つに応じて、前記商品画像の陳列を異ならせて前記棚画像に合成する
    ことをコンピュータに実現させる学習データ生成プログラム。
JP2022539961A 2020-07-31 2020-07-31 学習データ生成装置、学習データ生成システム、学習データ生成方法および学習データ生成プログラム Active JP7476967B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2020/029494 WO2022024366A1 (ja) 2020-07-31 2020-07-31 学習データ生成装置、学習データ生成システム、学習データ生成方法および記録媒体

Publications (3)

Publication Number Publication Date
JPWO2022024366A1 JPWO2022024366A1 (ja) 2022-02-03
JPWO2022024366A5 JPWO2022024366A5 (ja) 2023-04-14
JP7476967B2 true JP7476967B2 (ja) 2024-05-01

Family

ID=80035325

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022539961A Active JP7476967B2 (ja) 2020-07-31 2020-07-31 学習データ生成装置、学習データ生成システム、学習データ生成方法および学習データ生成プログラム

Country Status (3)

Country Link
US (1) US20230281992A1 (ja)
JP (1) JP7476967B2 (ja)
WO (1) WO2022024366A1 (ja)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017182653A (ja) 2016-03-31 2017-10-05 パナソニックIpマネジメント株式会社 商品モニタリング装置、商品モニタリングシステムおよび商品モニタリング方法
WO2018186398A1 (ja) 2017-04-07 2018-10-11 日本電気株式会社 学習データ生成装置、学習データ生成方法、および記録媒体
JP2019125144A (ja) 2018-01-16 2019-07-25 株式会社富士通アドバンストエンジニアリング 商品情報管理プログラム、方法及び装置、並びに商品管理プログラム、方法及び装置

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7124281B2 (ja) * 2017-09-21 2022-08-24 株式会社リコー プログラム、情報処理装置、画像処理システム

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017182653A (ja) 2016-03-31 2017-10-05 パナソニックIpマネジメント株式会社 商品モニタリング装置、商品モニタリングシステムおよび商品モニタリング方法
WO2018186398A1 (ja) 2017-04-07 2018-10-11 日本電気株式会社 学習データ生成装置、学習データ生成方法、および記録媒体
JP2019125144A (ja) 2018-01-16 2019-07-25 株式会社富士通アドバンストエンジニアリング 商品情報管理プログラム、方法及び装置、並びに商品管理プログラム、方法及び装置

Also Published As

Publication number Publication date
US20230281992A1 (en) 2023-09-07
WO2022024366A1 (ja) 2022-02-03
JPWO2022024366A1 (ja) 2022-02-03

Similar Documents

Publication Publication Date Title
US10685496B2 (en) Saving augmented realities
US10440352B2 (en) Image processing apparatus and method
Bagdanov et al. The florence 2d/3d hybrid face dataset
JP2020530167A5 (ja)
US10547822B2 (en) Image processing apparatus and method to generate high-definition viewpoint interpolation image
US20140240354A1 (en) Augmented reality apparatus and method
CN109949347A (zh) 人体跟踪方法、装置、系统、电子设备和存储介质
JP2010517130A (ja) レンチキュラ印刷のための方法およびシステム
US11557060B2 (en) Systems and methods for scanning three-dimensional objects
CN114419289B (zh) 一种基于Unity的虚拟场景货架陈列方法及系统
KR20180126146A (ko) 2.5차원 이미지를 활용한 가상 전시 공간 시스템 및 제공 방법
JP2019534511A (ja) 自由動作fvvアプリケーションのためのマルチレイヤuvマップに基づくテクスチャレンダリング
CN106203225A (zh) 基于深度的图像元素删除
JP7476967B2 (ja) 学習データ生成装置、学習データ生成システム、学習データ生成方法および学習データ生成プログラム
JP7459947B2 (ja) 商品検知装置、商品検知システム、商品検知方法および商品検知プログラム
JPH10111951A (ja) 画像処理方法および装置および記憶媒体
JP6623565B2 (ja) 棚割情報生成装置、棚割情報生成システム、棚割情報生成方法、撮像装置、およびプログラム
WO2018033952A1 (ja) パノラマ画像合成解析システム、パノラマ画像合成解析方法及びプログラム
RU2011135244A (ru) Процессор сигналов, способ обработки сигналов, устройство отображения и программный продукт
JP2008191751A (ja) 配置シミュレーションシステム
KR102453296B1 (ko) 정보 처리장치, 그 제어방법 및 컴퓨터 프로그램
JP7380863B2 (ja) 画像記憶装置、画像記憶方法、及びプログラム
JP2012146214A (ja) 写真画像データの作成方法及びそれを利用したインターネット接続環境における商品販売促進システム
JP2017058657A (ja) 情報処理装置、制御方法、コンピュータプログラム及び記憶媒体
KR100897305B1 (ko) 요소 영상을 이용한 3차원 집적 영상 방법, 시스템 및 이를실행하는 프로그램이 기록된 기록매체

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230110

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230110

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240319

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240401