JP7113217B2 - 照合装置、照合方法、及びプログラム - Google Patents
照合装置、照合方法、及びプログラム Download PDFInfo
- Publication number
- JP7113217B2 JP7113217B2 JP2017222192A JP2017222192A JP7113217B2 JP 7113217 B2 JP7113217 B2 JP 7113217B2 JP 2017222192 A JP2017222192 A JP 2017222192A JP 2017222192 A JP2017222192 A JP 2017222192A JP 7113217 B2 JP7113217 B2 JP 7113217B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- search target
- matching
- area
- matching area
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
- G06F16/58—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
- G06F16/583—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/22—Matching criteria, e.g. proximity measures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/25—Determination of region of interest [ROI] or a volume of interest [VOI]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/74—Image or video pattern matching; Proximity measures in feature spaces
- G06V10/75—Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
- G06V10/751—Comparing pixel values or logical combinations thereof, or feature values having positional relevance, e.g. template matching
- G06V10/7515—Shifting the patterns to accommodate for positional errors
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/52—Surveillance or monitoring of activities, e.g. for recognising suspicious objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/60—Type of objects
- G06V20/62—Text, e.g. of license plates, overlay texts or captions on TV images
- G06V20/63—Scene text, e.g. street names
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/60—Type of objects
- G06V20/62—Text, e.g. of license plates, overlay texts or captions on TV images
- G06V20/625—License plates
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Engineering & Computer Science (AREA)
- Library & Information Science (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Computation (AREA)
- Health & Medical Sciences (AREA)
- Computing Systems (AREA)
- General Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- Software Systems (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Life Sciences & Earth Sciences (AREA)
- Evolutionary Biology (AREA)
- Image Analysis (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Description
街中にある複数の監視カメラで生成された複数の撮影画像の中から、検索対象(例えば、車)を含む撮影画像を特定する場合、撮影画像内の検索対象に対応する被写体を検索対象と照合する方法がある。例えば、検索対象が車の場合、車全体が比較し、照合される。しかし、形状が類似している場合等のように車全体が類似している場合がある。この場合、複数の撮影画像において検索対象の車が写っている撮影画像を特定すること、すなわち、検索対象と同一の車の候補を絞り込むことが難しい場合があった。また、別の照合方法では、撮影画像の中から特徴部分を取得して、取得した特徴部分を検索対象の特徴部分と照合する方法がある。例えば、検索対象が車の場合、車のナンバープレートの数字が特徴部分として使用される。この場合、撮影画像から抽出したナンバープレートの数字が、検索対象のナンバープレートの数字と比較される。しかし、例えば、撮影画像の解像度が低い場合、又は照明が暗い状態で撮影画像が生成された場合、ナンバープレートの数字が撮影画像から読み取れないことがある。この場合、数字を比較することができない。よって、従来は、撮影画像の画質等によって照合ができない場合があった。
以下、第1実施形態について、図面を参照しながら説明する。本実施形態では、検索対象が車である例を説明する。具体的には、本実施形態では、照合の一例として、街中にある監視カメラによって生成された撮影画像を検索対象である特定の車の画像と照合して、検索対象の車が写っている撮影画像を特定する例について説明する。
図1は、本開示の第1実施形態の照合装置の構成を示している。照合装置10と複数の監視カメラ20(撮像装置の一例)とによって、照合システム1を構成する。照合システム1は、複数の撮影画像を検索対象の画像と照合する。照合装置10は、パソコン及びタブレット端末等の種々の情報処理装置である。監視カメラ20は、CCDイメージセンサ、CMOSイメージセンサ、又はNMOSイメージセンサなどの画像センサを備える。複数の監視カメラ20は、街中に配置されていて、異なる場所を撮影する。照合装置10は、各監視カメラ20によって生成された撮影画像を取得して、取得した撮影画像を検索対象である車の画像と照合する。
1.2.1 全体動作
図4及び図5を用いて、照合装置10の全体動作を説明する。図4は、照合装置10の制御部130の全体動作を説明するためのフローチャートである。図5は、監視カメラ20が生成した撮影画像vの一例を示している。
照合は、撮影画像から数字を読み出すことなく、撮影画像自体と検索対象の画像自体を用いて実施する。画像自体を比較して照合することにより、例えば、撮影画像から文字を読み取れない又は文字がオクルージョンによって遮蔽されているような場合でも、検索対象と撮影画像との照合が可能になる。これにより、照合機会が増える。よって、文字自体を読み取れない場合であっても、照合結果を出力することができる。例えば、低解像度やオクルージョン等の理由により、車のナンバープレートの文字や数字自体を読み取ることができない場合でも、画像自体による照合によれば、画像自体の比較によって例えば類似度を算出することができる。
撮影画像vの各局所領域R2の画像の特徴量を、特徴部分の種類毎にそれぞれ対応するクエリ情報Q12の局所領域QR2の画像の特徴量と照合する。そして、検索対象の車と撮影画像内の車が同一であるという判定結果の数と、検索対象の車と撮影画像内の車が異なるという判定結果の数に応じて、検索対象の車と撮影画像内の車の類似度を算出する。例えば、同一であるという判定結果の数が同一でないという判定結果の数よりも多い場合に、撮影画像に写っている車と検索対象の車とが同一であると決定する。
(B)信頼度に基づく方法
特徴部分の種類に応じて、信頼度を予め設定する。例えば、ナンバープレート、広告、ロゴの順に信頼度を高く設定する。別の例では、局所領域R2の探索成功率に応じて信頼度を設定する。そして、撮影画像vから探索できた複数の特徴部分の中で、最も信頼度が高い特徴部分の特徴量を使用した照合に基づいて、検索対象の車と撮影画像内の車の類似度を決定する。さらに別の例では、「信頼度=類似度」として、探索できた複数の特徴部分のそれぞれの特徴量を使用して類似度を算出し、算出した類似度の中で最も高い類似度を、検索対象の車と撮影画像内の車の類似度として決定してもよい。
(C)学習による方法
複数の特徴部分の照合の結果を使用した機械学習によって予めモデルを生成し、そのモデルを使用して検索対象の車と撮影画像内の車の類似度を算出する。
(D)新たなベクトルを生成して使用する方法
各特徴部分の特徴量を結合した結合ベクトルを新たに生成する。例えば、特徴部分の種類に基づく順番で各特徴量を結合する。このときに、特徴部分の種類に応じた重み又は特徴部分の探索成功率に応じた重みを各特徴量に乗算してもよい。また、各特徴量の組み合わせ方を学習させてもよい。また、重み付き加算平均を用いてもよい。さらに、各特徴部分のベクトルから照合に適した新たなベクトルを出力するニューラルネットワークを学習して、得られた新たなベクトルを用いてもよい。このような方法によって生成した新たなベクトルを用いた照合により、検索対象の車と撮影画像内の車の類似度を算出する。
本実施形態の照合装置10は、検索対象の全体領域QR1の画像(検索対象画像の一例)を格納する記憶部120と、監視カメラ20(撮像装置の一例)によって生成された撮影画像を取得する画像取得部110(取得部の一例)と、撮影画像において検索対象が含まれるか否かを特定する制御部130と、を備える。本実施形態において、検索対象は車である。制御部130は、撮影画像において、車の外形全体(検索対象の少なくとも一部に類似する被写体の一例)を含む全体領域R1(第1の照合領域の一例)、及び/又は車の特徴部分(検索対象の少なくとも一部に類似する被写体の一例)を含む局所領域R2(第2の照合領域の一例)を探索する。制御部130は、探索結果に応じて、検索対象画像の全体領域QR1及び/又は局所領域QR2を選択して撮影画像と照合することにより、撮影画像において検索対象が含まれるか否かを特定する。
第2実施形態は、照合装置10の動作が第1実施形態と異なる。第1実施形態では、撮影画像vにおいて局所領域R2の探索に成功した場合は局所領域R2の特徴量に基づいて照合を行い、全体領域R1の探索に成功した場合は全体領域R1の特徴量に基づいて照合を行った。本実施形態では、全体領域R1と局所領域R2の探索の両方に成功した場合、全体領域R1と局所領域R2の両方の特徴量に基づいて照合を行う。本実施形態の照合装置10の構成は、第1実施形態の図1に示す構成と同一である。
第1実施形態では、クエリ情報Q12が記憶部120に予め格納されていた。本実施形態では、照合装置10は、画像取得部110によって取得された撮影画像に基づいてクエリ情報Q12を生成する。例えば、照合装置10は、複数の監視カメラ20によって生成された複数の撮影画像のうちの少なくとも1つの撮影画像からクエリ情報Q12を生成し、クエリ情報Q12の生成に使用していない別の撮影画像をクエリ情報Q12と照合する。
以上のように、本出願において開示する技術の例示として、上記実施形態を説明した。しかしながら、本開示における技術は、これに限定されず、適宜、変更、置き換え、付加、省略などを行った実施形態にも適用可能である。そこで、以下、他の実施形態を例示する。
(1)本開示の照合装置は、検索対象を示す検索対象画像を格納する記憶部と、撮像装置によって生成された撮影画像を取得する取得部と、撮影画像において検索対象が含まれるか否かを特定する制御部と、を備え、制御部は、撮影画像において、検索対象の少なくとも一部に類似する被写体を含む照合領域を探索し、探索結果に応じて、検索対象画像の全体及び/又は検索対象画像の一部を選択して撮影画像と照合することにより、撮影画像において検索対象が含まれるか否かを特定する。
10 照合装置
20 監視カメラ
110 画像取得部
120 記憶部
130 制御部
131 領域探索部
132 特徴量抽出部
133 照合部
134 識別部
134a 種類特定部
134b 位置特定部
135 クエリ情報生成部
140 入力部
150 出力部
Q12 クエリ情報
Q12a 全体画像情報
Q12b 局所画像情報
Claims (8)
- 検索対象を示す検索対象画像を格納する記憶部と、
撮像装置によって生成された撮影画像を取得する取得部と、
前記撮影画像において、前記検索対象の少なくとも一部に類似する被写体を含む照合領域を探索し、前記探索結果に応じて、前記検索対象画像の全体及び/又は前記検索対象画像の一部を選択して前記撮影画像と照合することにより、前記撮影画像において前記検索対象が含まれるか否かを特定する制御部と、を備え、
前記検索対象画像の一部は、前記検索対象に特有の特徴部分を含み、
前記検索対象の前記特徴部分は、ナンバープレート、ロゴ、広告、模様、文字、及び運転手の服のうちの少なくとも1つを含み、
前記照合領域は、前記検索対象の全体に類似する第1の被写体を含む第1の照合領域と、前記検索対象の前記特徴部分に類似する第2の被写体を含む第2の照合領域とを含み、
前記制御部は、前記探索により、
前記第1の照合領域及び前記第2の照合領域の両方を特定できたときは、前記第1の照合領域及び前記第2の照合領域を前記検索対象画像の全体及び一部と照合し、
前記第1の照合領域を特定できずに前記第2の照合領域を特定できたときは、前記第2の照合領域と前記検索対象画像の一部とを照合し、
前記第1の照合領域が特定できて前記第2の照合領域を特定できなかったときは、前記第1の照合領域と前記検索対象画像の全体とを照合する、
照合装置。 - 前記撮影画像において前記検索対象が含まれるか否かの特定において、前記制御部は、前記照合により、前記検索対象の全体と前記第1の被写体との類似度、及び/又は前記検索対象の前記特徴部分と前記第2の被写体との類似度を算出する、
請求項1に記載の照合装置。 - 前記制御部は、前記検索対象画像の全体の特徴量及び一部の特徴量と、前記撮影画像の前記第1の照合領域内の特徴量及び前記第2の照合領域内の特徴量とに基づいて、前記照合を行う、
請求項1に記載の照合装置。 - 前記取得部は、1つ以上の撮像装置から複数の撮影画像を取得し、
前記制御部は、
前記複数の撮影画像のうちの少なくとも1つに基づいて前記検索対象画像を生成して前記記憶部に格納し、
前記複数の撮影画像のうち前記検索対象画像の生成に使用していない撮影画像の中から、前記検索対象を含む撮影画像を特定する、
請求項1に記載の照合装置。 - 前記検索対象は車である、
請求項1に記載の照合装置。 - 前記制御部は、前記撮影画像において、前記ナンバープレートの領域を探索し、前記探索により前記ナンバープレートの領域を特定できなかった場合に、前記検索対象の全体又は前記ナンバープレート以外の特徴部分の領域を探索し、
前記ナンバープレート以外の特徴部分は、前記ロゴ、前記広告、前記模様、前記文字、及び前記運転手の服のうちの少なくとも1つを含む、
請求項1に記載の照合装置。 - コンピュータにより実行される照合方法であって、
検索対象を示す検索対象画像を記憶部から取得する第1ステップ、
撮像装置によって生成された撮影画像を前記撮像装置から取得する第2ステップ、
前記撮影画像において、前記検索対象の少なくとも一部に類似する被写体を含む照合領域を探索する第3ステップ、及び、
前記探索結果に応じて、前記検索対象画像の全体及び/又は前記検索対象画像の一部を選択して前記撮影画像と照合することにより、前記撮影画像において前記検索対象が含まれるか否かを特定する第4ステップを含み、
前記検索対象画像の一部は、前記検索対象に特有の特徴部分を含み、
前記検索対象の前記特徴部分は、ナンバープレート、ロゴ、広告、模様、文字、及び運転手の服のうちの少なくとも1つを含み、
前記照合領域は、前記検索対象の全体に類似する第1の被写体を含む第1の照合領域と、前記検索対象の前記特徴部分に類似する第2の被写体を含む第2の照合領域とを含み、
前記第4ステップでは、前記探索により、
前記第1の照合領域及び前記第2の照合領域の両方を特定できたときは、前記第1の照合領域及び前記第2の照合領域を前記検索対象画像の全体及び一部と照合し、
前記第1の照合領域を特定できずに前記第2の照合領域を特定できたときは、前記第2の照合領域と前記検索対象画像の一部とを照合し、
前記第1の照合領域が特定できて前記第2の照合領域を特定できなかったときは、前記第1の照合領域と前記検索対象画像の全体とを照合する、
照合方法。 - 請求項7に記載の照合方法をコンピュータに実行させるプログラム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017222192A JP7113217B2 (ja) | 2017-11-17 | 2017-11-17 | 照合装置、照合方法、及びプログラム |
US16/181,384 US10872260B2 (en) | 2017-11-17 | 2018-11-06 | Collation device, collation method, and recording medium |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017222192A JP7113217B2 (ja) | 2017-11-17 | 2017-11-17 | 照合装置、照合方法、及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2019095855A JP2019095855A (ja) | 2019-06-20 |
JP7113217B2 true JP7113217B2 (ja) | 2022-08-05 |
Family
ID=66533071
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017222192A Active JP7113217B2 (ja) | 2017-11-17 | 2017-11-17 | 照合装置、照合方法、及びプログラム |
Country Status (2)
Country | Link |
---|---|
US (1) | US10872260B2 (ja) |
JP (1) | JP7113217B2 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7459769B2 (ja) * | 2020-11-25 | 2024-04-02 | オムロン株式会社 | 埋設物情報管理装置およびこれを備えた埋設物情報管理システム、埋設物情報管理方法、埋設物情報管理プログラム |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2012164228A (ja) | 2011-02-08 | 2012-08-30 | Fujitsu Ltd | 車両認識装置、車両認識方法および車両認識プログラム |
JP2013084130A (ja) | 2011-10-11 | 2013-05-09 | Fujitsu Ltd | 画像認識システムおよび画像認識方法 |
US20130132166A1 (en) | 2011-11-17 | 2013-05-23 | Xerox Corporation | Smart toll network for improving performance of vehicle identification systems |
JP2014002534A (ja) | 2012-06-18 | 2014-01-09 | Toshiba Corp | 車種判別装置及び車種判別方法 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2006082644A1 (ja) | 2005-02-03 | 2006-08-10 | Fujitsu Limited | 車両画像データ生成プログラムおよび車両画像データ生成装置 |
JP6168303B2 (ja) * | 2012-01-30 | 2017-07-26 | 日本電気株式会社 | 情報処理システム、情報処理方法、情報処理装置およびその制御方法と制御プログラム、通信端末およびその制御方法と制御プログラム |
US20180268238A1 (en) * | 2017-03-14 | 2018-09-20 | Mohammad Ayub Khan | System and methods for enhancing license plate and vehicle recognition |
-
2017
- 2017-11-17 JP JP2017222192A patent/JP7113217B2/ja active Active
-
2018
- 2018-11-06 US US16/181,384 patent/US10872260B2/en active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2012164228A (ja) | 2011-02-08 | 2012-08-30 | Fujitsu Ltd | 車両認識装置、車両認識方法および車両認識プログラム |
JP2013084130A (ja) | 2011-10-11 | 2013-05-09 | Fujitsu Ltd | 画像認識システムおよび画像認識方法 |
US20130132166A1 (en) | 2011-11-17 | 2013-05-23 | Xerox Corporation | Smart toll network for improving performance of vehicle identification systems |
JP2014002534A (ja) | 2012-06-18 | 2014-01-09 | Toshiba Corp | 車種判別装置及び車種判別方法 |
Also Published As
Publication number | Publication date |
---|---|
US20190156137A1 (en) | 2019-05-23 |
US10872260B2 (en) | 2020-12-22 |
JP2019095855A (ja) | 2019-06-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9626551B2 (en) | Collation apparatus and method for the same, and image searching apparatus and method for the same | |
Fathy et al. | Face-based active authentication on mobile devices | |
WO2021012484A1 (zh) | 基于深度学习的目标跟踪方法、装置及计算机可读存储介质 | |
Dibeklioglu et al. | Like father, like son: Facial expression dynamics for kinship verification | |
JP6472184B2 (ja) | オブジェクト識別装置、オブジェクト識別方法及びプログラム | |
Sarkar et al. | Deep feature-based face detection on mobile devices | |
EP2336949B1 (en) | Apparatus and method for registering plurality of facial images for face recognition | |
JP2014182480A (ja) | 人物認識装置、及び方法 | |
CN105981046A (zh) | 使用拼接和裁剪的指纹认证 | |
JP5963609B2 (ja) | 画像処理装置、画像処理方法 | |
Eweiwi et al. | Temporal key poses for human action recognition | |
JP7107598B2 (ja) | 認証用顔画像候補判定装置、認証用顔画像候補判定方法、プログラム、および記録媒体 | |
CN110472504A (zh) | 一种人脸识别的方法和装置 | |
JP6128910B2 (ja) | 学習装置、学習方法及びプログラム | |
WO2019033567A1 (zh) | 眼球动作捕捉方法、装置及存储介质 | |
JP7287511B2 (ja) | 情報処理装置、容疑者情報生成方法及びプログラム | |
WO2020052513A1 (zh) | 图像识别和行人再识别方法及装置,电子和存储设备 | |
CN113033271A (zh) | 利用人工智能模块学习脸部辨识的处理方法 | |
WO2015064292A1 (ja) | 画像の特徴量に関する処理システム、処理方法及びプログラム | |
JP7113217B2 (ja) | 照合装置、照合方法、及びプログラム | |
JP2007179224A (ja) | 情報処理装置および方法、並びにプログラム | |
WO2018173848A1 (ja) | オブジェクト追跡システム、インテリジェント撮像装置、オブジェクト特徴量抽出装置、オブジェクト特徴量抽出方法及び記憶媒体 | |
JP2013218605A (ja) | 画像認識装置、画像認識方法及びプログラム | |
CN111860559A (zh) | 图像处理方法、装置、电子设备和存储介质 | |
CN108596127A (zh) | 一种指纹识别方法、身份验证方法及装置和身份核验机 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20201105 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20210915 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210928 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20211111 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220308 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220407 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20220419 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220509 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 7113217 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |