JP7355111B2 - 学習データ生成装置、学習データ生成方法、及び、プログラム - Google Patents
学習データ生成装置、学習データ生成方法、及び、プログラム Download PDFInfo
- Publication number
- JP7355111B2 JP7355111B2 JP2021550982A JP2021550982A JP7355111B2 JP 7355111 B2 JP7355111 B2 JP 7355111B2 JP 2021550982 A JP2021550982 A JP 2021550982A JP 2021550982 A JP2021550982 A JP 2021550982A JP 7355111 B2 JP7355111 B2 JP 7355111B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- rectangle
- identification model
- learning data
- region
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
- G06T7/75—Determining position or orientation of objects or cameras using feature-based methods involving models
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T11/00—2D [Two Dimensional] image generation
- G06T11/60—Editing figures and text; Combining figures or text
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T11/00—2D [Two Dimensional] image generation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/22—Image preprocessing by selection of a specific region containing or referencing a pattern; Locating or processing of specific regions to guide the detection or recognition
- G06V10/225—Image preprocessing by selection of a specific region containing or referencing a pattern; Locating or processing of specific regions to guide the detection or recognition based on a marking or identifier characterising the area
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/25—Determination of region of interest [ROI] or a volume of interest [VOI]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
- G06V10/774—Generating sets of training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V2201/00—Indexing scheme relating to image or video recognition or understanding
- G06V2201/07—Target detection
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Physics & Mathematics (AREA)
- Multimedia (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Computation (AREA)
- Health & Medical Sciences (AREA)
- Computing Systems (AREA)
- Databases & Information Systems (AREA)
- Artificial Intelligence (AREA)
- General Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- Software Systems (AREA)
- Image Analysis (AREA)
Description
対象物を含み当該対象物のラベルが付与された対象物画像と、非対象物を含む非対象物画像とを用いて、画像に含まれる対象物を識別する識別モデルを生成する識別モデル生成手段と、
前記対象物画像を前記識別モデルに入力し、前記対象物を含むと予測される領域である注目領域を検出する注目領域検出手段と、
前記注目領域に外接する矩形を生成する矩形生成手段と、
前記対象物のラベル及び前記矩形を含む学習データを出力する学習データ出力手段と、
前記対象物画像における前記矩形をマスクしてマスク画像を生成し、前記識別モデルに再入力する画像マスク手段と、を備え、
当該マスク画像が前記識別モデルにより前記対象物と認識された場合、前記注目領域検出手段は前記マスク画像から前記注目領域を検出し、前記矩形生成手段は前記マスク画像から検出された注目領域に基づいて矩形を再生成する。
識別モデル生成手段が、対象物を含み当該対象物のラベルが付与された対象物画像と、非対象物を含む非対象物画像とを用いて、画像に含まれる対象物を識別する識別モデルを生成し、
注目領域検出手段が、前記対象物画像を前記識別モデルに入力し、前記対象物を含むと予測される領域である注目領域を検出し、
矩形生成手段が、前記注目領域に外接する矩形を生成し、
学習データ出力手段が、前記対象物のラベル及び前記矩形を含む学習データを出力し、
画像マスク手段が、前記対象物画像における前記矩形をマスクしてマスク画像を生成し、前記識別モデルに再入力し、
当該マスク画像が前記識別モデルにより前記対象物と認識された場合、前記注目領域検出手段は前記マスク画像から前記注目領域を検出し、前記矩形生成手段は前記マスク画像から検出された注目領域に基づいて矩形を再生成する。
対象物を含み当該対象物のラベルが付与された対象物画像と、非対象物を含む非対象物画像とを用いて、画像に含まれる対象物を識別する識別モデルを生成し、
前記対象物画像を前記識別モデルに入力し、前記対象物を含むと予測される領域である注目領域を検出し、
前記注目領域に外接する矩形を生成し、
前記対象物のラベル及び前記矩形を含む学習データを出力し、
前記対象物画像における前記矩形をマスクしてマスク画像を生成し、前記識別モデルに再入力し、
当該マスク画像が前記識別モデルにより前記対象物と認識された場合、前記マスク画像から前記注目領域を検出し、前記マスク画像から検出された注目領域に基づいて矩形を再生成する処理をコンピュータに実行させる。
[概要説明]
以下に説明する実施形態では、新たな画像の撮影を行うことなく、既存の画像データに基づいて物体検出装置の学習に用いられる学習データを生成する。一般的に、物体検出装置は、画像に含まれる1又は複数の対象物の領域を検出し、その対象物のラベル及びその領域の位置を出力する。検出すべき対象物は予め決められている。例えば、「人」、「犬」、「猫」が対象物と決められている場合、物体検出装置は、画像からそれら3つの対象物を検出し、対象物毎にそのラベルと、画像における対象物の位置とを出力する。なお、一般的に、対象物の位置としては、画像においてその対象物が占める領域を示す矩形、具体的には対象物に外接する矩形を示す座標が用いられる。
(ハードウェア構成)
図1は、第1実施形態に係る学習データ生成装置のハードウェア構成を示すブロック図である。図示のように、学習データ生成装置10は、インタフェース(I/F)12と、プロセッサ13と、メモリ14と、記録媒体15と、データベース(DB)16と、を備える。
次に、学習データ生成装置の機能構成について説明する。図2は、第1実施形態に係る学習データ生成装置の機能構成を示すブロック図である。図示のように、学習データ生成装置10は、識別モデル生成部21と、識別モデル22と、注目領域検出部23と、矩形生成部24と、学習データ生成部25と、を備える。
次に、第1実施形態に係る学習データ生成装置10による学習データ生成処理について説明する。図4は、第1実施形態による学習データ生成処理のフローチャートである。この処理は、図1に示すプロセッサ13が、予め用意されたプログラムを実行し、図2に示す各要素として動作することにより実施される。
次に、第2実施形態の学習データ生成装置について説明する。第1実施形態では、特徴マップの注目領域に外接する矩形を学習データとして出力しているが、実際には、特徴マップの注目領域に基づいて生成された矩形が、対象物の位置を正しく示していないことが起こりうる。具体的には、以下の2つのケースが考えられる。
図5に、この場合の対象物画像の例を示す。この例では、対象物が「飛行機」であるとする。この対象物画像の場合、正しい矩形は、飛行機全体に対応する矩形40である。ところが、対象物画像を識別モデルに入力して得られた特徴マップでは、飛行機の一部(右翼の付け根の部分)のみが注目領域として検出されており、その結果得られた矩形41は飛行機の一部にしか対応していない。
図6は、この場合の対象物画像の例を示す。この例では、複数の飛行機が一団となって飛行しており、複数(本例では5つ)の飛行機の領域全体が1つの矩形41として検出されている。このような場合、理想的には、個々の飛行機の領域40を矩形として検出できることが望ましい。
図7は、第2実施形態に係る学習データ生成装置の機能構成を示すブロック図である。なお、第2実施形態に係る学習データ生成装置のハードウェア構成は図1に示すものと同様である。図示のように、第2実施形態に係る学習データ生成装置10aは、図2に示す第1実施形態の学習データ生成装置10の構成に加えて、矩形調整部26を備える。矩形調整部26は、本発明の画像マスク部及び画像切り出し部の一例である。なお、矩形調整部26以外の、識別モデル生成部21、識別モデル22、注目領域検出部23、矩形生成部24及び学習データ生成部25は、基本的に第1実施形態と同様に動作する。
次に、第2実施形態による学習データ生成処理について説明する。この処理は、図1に示すプロセッサ13が、予め用意されたプログラムを実行し、図7に示す各要素として動作することにより実施される。
次に、第3実施形態について説明する。図9は、第3実施形態に係る学習データ生成装置30の機能構成を示すブロック図である。なお、第3実施形態の学習データ生成装置30のハードウェア構成は図1と同様である。学習データ生成装置30は、識別モデル生成部31と、注目領域検出部32と、矩形生成部33と、学習データ出力部34と、を備える。
対象物を含み当該対象物のラベルが付与された対象物画像と、非対象物を含む非対象物画像とを用いて、画像に含まれる対象物を識別する識別モデルを生成する識別モデル生成部と、
前記対象物画像を前記識別モデルに入力し、前記対象物を含むと予測される領域である注目領域を検出する注目領域検出部と、
前記注目領域に基づいて、前記対象物に外接する矩形を生成する矩形生成部と、
前記対象物のラベル及び前記矩形を含む学習データを出力する学習データ出力部と、
を備える学習データ生成装置。
前記対象物画像における前記矩形をマスクしてマスク画像を生成し、前記識別モデルに再入力する画像マスク部を備え、
当該マスク画像が前記識別モデルにより前記対象物と認識された場合、前記注目領域検出部は前記マスク画像から前記注目領域を検出し、前記矩形生成部は前記マスク画像から検出された注目領域に基づいて矩形を再生成する付記1に記載の学習データ生成装置。
前記対象物画像における前記矩形を切り出して切り出し画像を生成し、前記識別モデルに再入力する画像切り出し部を備え、
当該切り出し画像が前記識別モデルにより前記対象物と認識された場合、前記識別モデル生成部は当該切り出し画像を用いて前記識別モデルを再学習し、前記注目領域検出部は再学習された識別モデルを用いて前記切り出し画像から前記注目領域を検出し、前記矩形生成部は前記切り出し画像から検出された注目領域に基づいて矩形を再生成する付記1又は2に記載の学習データ生成装置。
前記注目領域検出部は、前記対象物画像が入力された際に識別モデルが生成する特徴量に基づいて、前記対象物画像全体に対応する特徴マップを生成し、当該特徴マップ内の閾値以上の値を有する領域を前記注目領域として検出する付記1乃至3のいずれか一項に記載の学習データ生成装置。
対象物を含み当該対象物のラベルが付与された対象物画像と、非対象物を含む非対象物画像とを用いて、画像に含まれる対象物を識別する識別モデルを生成し、
前記対象物画像を前記識別モデルに入力し、前記対象物を含むと予測される領域である注目領域を検出し、
前記注目領域に基づいて、前記対象物に外接する矩形を生成し、
前記対象物のラベル及び前記矩形を含む学習データを出力する学習データ生成方法。
前記対象物画像における前記矩形をマスクしてマスク画像を生成し、前記識別モデルに再入力し、
当該マスク画像が前記識別モデルにより前記対象物と認識された場合、前記マスク画像から前記注目領域を検出し、前記マスク画像から検出された注目領域に基づいて矩形を再生成する付記5に記載の学習データ生成方法。
前記対象物画像における前記矩形を切り出して切り出し画像を生成し、前記識別モデルに再入力し、
当該切り出し画像が前記識別モデルにより前記対象物と認識された場合、当該切り出し画像を用いて前記識別モデルを再学習し、再学習された識別モデルを用いて前記切り出し画像から前記注目領域を検出し、前記切り出し画像から検出された注目領域に基づいて矩形を再生成する付記5又は6に記載の学習データ生成方法。
前記注目領域の検出は、前記対象物画像が入力された際に識別モデルが生成する特徴量に基づいて、前記対象物画像全体に対応する特徴マップを生成し、当該特徴マップ内の閾値以上の値を有する領域を前記注目領域として検出することにより行われる付記5乃至7のいずれか一項に記載の学習データ生成方法。
対象物を含み当該対象物のラベルが付与された対象物画像と、非対象物を含む非対象物画像とを用いて、画像に含まれる対象物を識別する識別モデルを生成し、
前記対象物画像を前記識別モデルに入力し、前記対象物を含むと予測される領域である注目領域を検出し、
前記注目領域に基づいて、前記対象物に外接する矩形を生成し、
前記対象物のラベル及び前記矩形を含む学習データを出力する処理をコンピュータに実行させるプログラムを記録した記録媒体。
21 識別モデル生成部
22 識別モデル
23 注目領域検出部
24 矩形生成部
25 学習データ生成部
Claims (7)
- 対象物を含み当該対象物のラベルが付与された対象物画像と、非対象物を含む非対象物画像とを用いて、画像に含まれる対象物を識別する識別モデルを生成する識別モデル生成手段と、
前記対象物画像を前記識別モデルに入力し、前記対象物を含むと予測される領域である注目領域を検出する注目領域検出手段と、
前記注目領域に外接する矩形を生成する矩形生成手段と、
前記対象物のラベル及び前記矩形を含む学習データを出力する学習データ出力手段と、
前記対象物画像における前記矩形をマスクしてマスク画像を生成し、前記識別モデルに再入力する画像マスク手段と、を備え、
当該マスク画像が前記識別モデルにより前記対象物と認識された場合、前記注目領域検出手段は前記マスク画像から前記注目領域を検出し、前記矩形生成手段は前記マスク画像から検出された注目領域に基づいて矩形を再生成する学習データ生成装置。 - 前記対象物画像における前記矩形を切り出して切り出し画像を生成し、前記識別モデルに再入力する画像切り出し手段を備え、
当該切り出し画像が前記識別モデルにより前記対象物と認識された場合、前記識別モデル生成手段は当該切り出し画像を用いて前記識別モデルを再学習し、前記注目領域検出手段は再学習された識別モデルを用いて前記切り出し画像から前記注目領域を検出し、前記矩形生成手段は前記切り出し画像から検出された注目領域に基づいて矩形を再生成する請求項1に記載の学習データ生成装置。 - 前記注目領域検出手段は、前記対象物画像が入力された際に識別モデルが生成する特徴量に基づいて、前記対象物画像全体に対応する特徴マップを生成し、当該特徴マップ内の閾値以上の値を有する領域を前記注目領域として検出する請求項1又は2に記載の学習データ生成装置。
- 識別モデル生成手段が、対象物を含み当該対象物のラベルが付与された対象物画像と、非対象物を含む非対象物画像とを用いて、画像に含まれる対象物を識別する識別モデルを生成し、
注目領域検出手段が、前記対象物画像を前記識別モデルに入力し、前記対象物を含むと予測される領域である注目領域を検出し、
矩形生成手段が、前記注目領域に外接する矩形を生成し、
学習データ出力手段が、前記対象物のラベル及び前記矩形を含む学習データを出力し、
画像マスク手段が、前記対象物画像における前記矩形をマスクしてマスク画像を生成し、前記識別モデルに再入力し、
当該マスク画像が前記識別モデルにより前記対象物と認識された場合、前記注目領域検出手段は前記マスク画像から前記注目領域を検出し、前記矩形生成手段は前記マスク画像から検出された注目領域に基づいて矩形を再生成する学習データ生成方法。 - 画像切り出し手段が、前記対象物画像における前記矩形を切り出して切り出し画像を生成し、前記識別モデルに再入力し、
当該切り出し画像が前記識別モデルにより前記対象物と認識された場合、当該切り出し画像を用いて前記識別モデルを再学習し、再学習された識別モデルを用いて前記切り出し画像から前記注目領域を検出し、前記切り出し画像から検出された注目領域に基づいて矩形を再生成する請求項4に記載の学習データ生成方法。 - 前記注目領域の検出は、前記対象物画像が入力された際に識別モデルが生成する特徴量に基づいて、前記対象物画像全体に対応する特徴マップを生成し、当該特徴マップ内の閾値以上の値を有する領域を前記注目領域として検出することにより行われる請求項4又は5に記載の学習データ生成方法。
- 対象物を含み当該対象物のラベルが付与された対象物画像と、非対象物を含む非対象物画像とを用いて、画像に含まれる対象物を識別する識別モデルを生成し、
前記対象物画像を前記識別モデルに入力し、前記対象物を含むと予測される領域である注目領域を検出し、
前記注目領域に外接する矩形を生成し、
前記対象物のラベル及び前記矩形を含む学習データを出力し、
前記対象物画像における前記矩形をマスクしてマスク画像を生成し、前記識別モデルに再入力し、
当該マスク画像が前記識別モデルにより前記対象物と認識された場合、前記マスク画像から前記注目領域を検出し、前記マスク画像から検出された注目領域に基づいて矩形を再生成する処理をコンピュータに実行させるプログラム。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2019/039699 WO2021070258A1 (ja) | 2019-10-08 | 2019-10-08 | 学習データ生成装置、学習データ生成方法、及び、記録媒体 |
Publications (3)
Publication Number | Publication Date |
---|---|
JPWO2021070258A1 JPWO2021070258A1 (ja) | 2021-04-15 |
JPWO2021070258A5 JPWO2021070258A5 (ja) | 2022-05-27 |
JP7355111B2 true JP7355111B2 (ja) | 2023-10-03 |
Family
ID=75437386
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021550982A Active JP7355111B2 (ja) | 2019-10-08 | 2019-10-08 | 学習データ生成装置、学習データ生成方法、及び、プログラム |
Country Status (3)
Country | Link |
---|---|
US (1) | US20220366603A1 (ja) |
JP (1) | JP7355111B2 (ja) |
WO (1) | WO2021070258A1 (ja) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2012094564A1 (en) * | 2011-01-06 | 2012-07-12 | Veveo, Inc. | Methods of and systems for content search based on environment sampling |
US11657230B2 (en) * | 2020-06-12 | 2023-05-23 | Adobe Inc. | Referring image segmentation |
-
2019
- 2019-10-08 US US17/765,484 patent/US20220366603A1/en active Pending
- 2019-10-08 JP JP2021550982A patent/JP7355111B2/ja active Active
- 2019-10-08 WO PCT/JP2019/039699 patent/WO2021070258A1/ja active Application Filing
Non-Patent Citations (1)
Title |
---|
Ali Diba, et al.,"Weakly Supervised Cascaded Convolutional Networks",arXiv:1611.08258v1,version v1,[online], arXiv (Cornell University),2016年11月24日,Pages 1-10,[令和元年12月6日検索], インターネット, <URL: https://arxiv.org/abs/1611.08258v1> and <URL: https://arxiv.org/pdf/1611.08258v1.pdf>. |
Also Published As
Publication number | Publication date |
---|---|
US20220366603A1 (en) | 2022-11-17 |
WO2021070258A1 (ja) | 2021-04-15 |
JPWO2021070258A1 (ja) | 2021-04-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10410353B2 (en) | Multi-label semantic boundary detection system | |
CN108805170B (zh) | 形成用于全监督式学习的数据集 | |
JP2022505762A (ja) | 画像セマンティックセグメンテーションネットワークのトレーニング方法、装置、機器及びコンピュータプログラム | |
US20150278710A1 (en) | Machine learning apparatus, machine learning method, and non-transitory computer-readable recording medium | |
KR20190088094A (ko) | 자동 학습 데이터 생성을 통한 모델 학습 시스템 및 방법 | |
WO2020072918A1 (en) | Automated system to measure multi-animal body part dynamics | |
KR20200077321A (ko) | 약한 지도학습 객체 검출기에 기반한 의미론적 객체 영역 분할 방법 및 시스템 | |
JP7355111B2 (ja) | 学習データ生成装置、学習データ生成方法、及び、プログラム | |
EP3937076A1 (en) | Activity detection device, activity detection system, and activity detection method | |
CN112231034A (zh) | 结合rpa和ai的软件界面元素的识别方法与装置 | |
KR20220122456A (ko) | 영상 데이터에 포함된 개인식별정보 비식별화 방법 및 이를 수행하는 장치 | |
CN112541394A (zh) | 黑眼圈及鼻炎识别方法、系统及计算机介质 | |
CN115393598A (zh) | 一种基于非显著区域对象挖掘的弱监督语义分割方法 | |
CN110009038B (zh) | 筛查模型的训练方法、装置及存储介质 | |
CN111104539A (zh) | 细粒度车辆图像检索方法、装置及设备 | |
KR20210050771A (ko) | 이미지 기반의 사용자 인터페이스 객체 탐지 시스템 및 방법 | |
EP4099225A1 (en) | Method for training a classifier and system for classifying blocks | |
WO2021245896A1 (ja) | 分割認識方法、分割認識装置及びプログラム | |
Pavan et al. | Human Action Recognition in Still Images Using SIFT Key Points | |
Ravinder et al. | An approach for gesture recognition based on a lightweight convolutional neural network | |
CN111782847A (zh) | 图像处理方法、装置和计算机可读存储介质 | |
KR102599192B1 (ko) | 객체 검출 방법 및 이를 실행하기 위하여 기록매체에 기록된 컴퓨터 프로그램 | |
US20240144635A1 (en) | Techniques For Unsupervised Anomaly Classification Using An Artificial Intelligence Model | |
Tran et al. | Weighted Box Fusion Ensembling for Lung Disease Detection | |
JP7166423B1 (ja) | 弱教師あり客体認識装置及び方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220317 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220317 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230314 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230512 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230822 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230904 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 7355111 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |