JP7029654B2 - 投影撮像システム、計測装置および投影撮像方法 - Google Patents
投影撮像システム、計測装置および投影撮像方法 Download PDFInfo
- Publication number
- JP7029654B2 JP7029654B2 JP2017136253A JP2017136253A JP7029654B2 JP 7029654 B2 JP7029654 B2 JP 7029654B2 JP 2017136253 A JP2017136253 A JP 2017136253A JP 2017136253 A JP2017136253 A JP 2017136253A JP 7029654 B2 JP7029654 B2 JP 7029654B2
- Authority
- JP
- Japan
- Prior art keywords
- frame
- image data
- image
- projection
- pattern
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B11/00—Measuring arrangements characterised by the use of optical techniques
- G01B11/24—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
- G01B11/25—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
- G01B11/2536—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object using several gratings with variable grating pitch, projected on the object with the same angle of incidence
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B11/00—Measuring arrangements characterised by the use of optical techniques
- G01B11/24—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
- G01B11/25—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
- G01B11/2513—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object with several lines being projected in more than one direction, e.g. grids, patterns
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B11/00—Measuring arrangements characterised by the use of optical techniques
- G01B11/24—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
- G01B11/25—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/521—Depth or shape recovery from laser ranging, e.g. using interferometry; from the projection of structured light
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/529—Depth or shape recovery from texture
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/75—Circuitry for compensating brightness variation in the scene by influencing optical camera components
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/74—Projection arrangements for image reproduction, e.g. using eidophor
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N9/00—Details of colour television systems
- H04N9/12—Picture reproducers
- H04N9/31—Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
- H04N9/3179—Video signal processing therefor
- H04N9/3185—Geometric adjustment, e.g. keystone or convergence
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N9/00—Details of colour television systems
- H04N9/12—Picture reproducers
- H04N9/31—Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
- H04N9/3191—Testing thereof
- H04N9/3194—Testing thereof including sensor feedback
Description
<投影撮像システム構成>
本発明の実施の形態1に係る投影撮像システム1の構成について、図1を参照しながら、以下に詳細に説明する。
本実施の形態に係る計測装置13の構成について、図1を参照しながら、以下に詳細に説明する。
本の実施の形態に係る投影撮像方法について、図2を参照しながら、以下に詳細に説明する。
次に、本実施の形態に係るキーフレームとブレンドフレームの判別方法について、図3から図6を参照しながら、以下に詳細に説明する。
このように、本実施の形態では、各フレーム画像の画素値の振幅に基づいて各撮像フレームがキーフレームかブレンドフレームかを判別し、少なくともキーフレームの画像データを抽出する。これにより、投影装置と撮像装置との間で同期を取ることなく、空間コード化法に基づく計測に必要な画像データを高速に取得することができる。
本発明の実施の形態2に係る投影撮像システムの構成及び計測装置の構成は図1と同一構成であるので、その説明を省略する。
本実施の形態に係る投影撮像方法について、図8、図9、図10を参照しながら、以下に詳細に説明する。
次に、本実施の形態に係るキーフレームとブレンドフレームの判別方法について、図9を参照しながら、以下に詳細に説明する。
このように、本実施の形態では、連続する3つのフレーム画像のうちの2つについて、白と黒とが反転している画素数に基づいて各撮像フレームがキーフレームかブレンドフレームかを判別し、少なくともキーフレームの画像データを抽出する。これにより、投影装置と撮像装置との間で同期を取ることなく、空間コード化法に基づく計測に必要な画像データを高速に取得することができる。
本発明の実施の形態3に係る投影撮像システムの構成及び計測装置の構成は図1と同一構成であるので、その説明を省略する。また、本実施の形態に係る投影撮像方法は、図2と同一方法であるので、その説明を省略する。
本実施の形態に係るキーフレームとブレンドフレームとを判別する方法について、図11から図12を参照しながら、以下に詳細に説明する。
このように、本実施の形態では、各フレーム画像の画素値の範囲に基づいて各撮像フレームがキーフレームかブレンドフレームかを判別し、少なくともキーフレームの画像データを抽出する。これにより、投影装置と撮像装置との間で同期を取ることなく、空間コード化法に基づく計測に必要な画像データを高速に取得することができる。
上記実施の形態1乃至3では、キーフレームとブレンドフレームとを判別した後、ブレンドフレームの画像データを使用せず、判別処理によって抽出されたキーフレームの画像データのみを用いて計測用のフレーム画像を生成する場合について説明した。
本実施の形態に係るフレーム画像生成方法について、図13及び図14を参照しながら、以下に詳細に説明する。
このように、本実施の形態によれば、ブレンドフレームの画像データを加工してキーフレームの画像データを生成する。これにより、判別したキーフレームの画像データと生成したキーフレームの画像データとを加算して、疑似的に露光時間を長くしたキーフレームの画像データを得ることができるため、ノイズを低減したキーフレームの画像データを得ることができる。
本発明の実施の形態5では、撮像によってはキーフレームが得られない場合について説明する。本実施の形態に係る投影撮像システムの構成及び計測装置の構成は図1と同一構成であるので、その説明を省略する。
本実施の形態に係る投影撮像方法について、図15及び図16を参照しながら、以下に詳細に説明する。
計測装置13は、撮像装置12のフレームレートが投影装置11のフレームレートの2倍以上の場合には、各投影フレームに対して複数のキーフレームの画像データを得ることができるため、得られた複数のキーフレームの画像データを投影フレーム毎に加算してもよい。例えば、計測装置13は、図17に示すように、投影装置11が60Hzのフレームレートで画像を投影し、撮像装置12が180Hzのフレームレートで撮像する際に、投影フレーム毎に得られる2枚のキーフレームの画像データを加算する。
2 対象物
11 投影装置
12 撮像装置
13 計測装置
131 出力部
132 入力部
133 画像バッファ
134 記憶部
135 CPU
1351 投影パターン生成部
1352 判別基準計算部
1353 計測情報計算用画像生成部
1354 計測情報計算部
Claims (12)
- 複数種類のパターン画像を投影フレーム単位で切り替えて投影する投影装置と、
前記パターン画像が投影された対象物を撮像し、撮像フレーム単位の画像データを生成する撮像装置と、
前記各撮像フレームが、単一の前記パターン画像を撮像した画像データのキーフレームか、1フレームの露光期間中に切り替わった2つの前記パターン画像を撮像した画像データのブレンドフレームかを判別し、少なくとも前記キーフレームの画像データを用いて空間コード化法に基づく計測を行う計測装置と、
を具備する投影撮像システム。 - 前記計測装置は、
各撮像フレームの画像データの画素値の振幅と振幅閾値との大小関係に基づいて、前記撮像フレームが前記キーフレームか前記ブレンドフレームかを判定する、
請求項1に記載の投影撮像システム。 - 前記計測装置は、
3枚の連続する撮像フレームの画像データのうちの2つの画像データについて、各画素の画素値と第1閾値との比較により、白と黒とが反転している画素数を計測し、
前記反転している画素数と第2閾値との大小関係に基づいて、前記撮像フレームが前記キーフレームか前記ブレンドフレームかを判定する、
請求項1に記載の投影撮像システム。 - 前記計測装置は、
各撮像フレームの画像データのヒストグラムにおける画素値の範囲と基準範囲との関係、および、最大画素値の画素数と基準数との大小関係に基づいて、前記撮像フレームが前記キーフレームか前記ブレンドフレームかを判定する、
請求項1に記載の投影撮像システム。 - 複数種類のパターン画像を投影フレーム単位で切り替えて投影する投影装置と、
前記パターン画像が投影された対象物を撮像し、撮像フレーム単位の画像データを生成する撮像装置と、
単一の前記パターン画像を撮像した画像データの第1キーフレームを取得し、1フレームの露光期間中に切り替わった2つの前記パターン画像を撮像した画像データのブレンドフレームから単一の前記パターン画像を撮像した画像データの第2キーフレームを生成し、前記第1キーフレームと前記第2キーフレームとを合成した画像データを用いて、空間コード化法に基づく計測を行う計測装置と、
を具備する投影撮像システム。 - 複数種類のパターン画像を投影フレーム単位で切り替えて投影する投影装置と、
前記パターン画像が投影された対象物を撮像し、撮像フレーム単位の画像データを生成
する撮像装置と、
1フレームの露光期間中に切り替わった2つの前記パターン画像を撮像した画像データのブレンドフレームが、白と黒とを反転させた一対のパターン画像を撮像した画像データの第1ブレンドフレームか、前記第1ブレンドフレーム以外の第2ブレンドフレームかを判別し、
前記第1ブレンドフレームと前記第2ブレンドフレームとで異なる処理により、前記キーフレームの画像データを生成し、前記キーフレームの画像データを用いて、空間コード化法に基づく計測を行う計測装置と、
を具備する投影撮像システム。 - 前記計測装置は、
濃い灰色と薄い灰色の2色からなる前記第1ブレンドフレームの画像データにおいて、前記濃い灰色の画素値と前記薄い灰色の画素値の、一方を白の画素値に変換し、他方を黒の画素値に変換することにより、前記キーフレームの画像データを生成する、
請求項6に記載の投影撮像システム。 - 前記計測装置は、
白、黒、濃い灰色および薄い灰色の4色からなる前記第2ブレンドフレームの画像データにおいて、前記濃い灰色の画素値と前記薄い灰色の画素値の、一方を白の画素値に変換し、他方を黒の画素値に変換することにより、前記キーフレームの画像データを生成する、
請求項6または7に記載の投影撮像システム。 - 複数種類のパターン画像を投影フレーム単位で切り替えて投影する投影装置に投影パターンを出力する出力部と、
前記パターン画像が投影された対象物を撮像し、撮像フレーム単位の画像データを生成する撮像装置から前記画像データを入力する入力部と、
前記各撮像フレームが、単一の前記パターン画像を撮像した画像データのキーフレームか、1フレームの露光期間中に切り替わった2つの前記パターン画像を撮像した画像データのブレンドフレームかを判別し、少なくとも前記キーフレームの画像データを用いて、空間コード化法に基づく計測を行うプロセッサと、
を具備する計測装置。 - 複数種類のパターン画像を投影フレーム単位で切り替えて投影する投影装置に投影パターンを出力する出力部と、
前記パターン画像が投影された対象物を撮像し、撮像フレーム単位の画像データを生成する撮像装置から前記画像データを入力する入力部と、
単一の前記パターン画像を撮像した画像データの第1キーフレームを取得し、1フレームの露光期間中に切り替わった2つの前記パターン画像を撮像した画像データのブレンドフレームから単一の前記パターン画像を撮像した画像データの第2キーフレームを生成し、前記第1キーフレームと前記第2キーフレームとを合成した画像データを用いて、空間コード化法に基づく計測を行うプロセッサと、
を具備する計測装置。 - 複数種類のパターン画像を投影フレーム単位で切り替えて投影し、
前記パターン画像が投影された対象物を撮像し、
撮像フレーム単位の画像データを生成し、
前記各撮像フレームが、単一の前記パターン画像を撮像した画像データのキーフレームか、1フレームの露光期間中に切り替わった2つの前記パターン画像を撮像した画像データのブレンドフレームかを判別し、
少なくとも前記キーフレームの画像データを用いて、空間コード化法に基づく計測を行う、
投影撮像方法。 - 複数種類のパターン画像を投影フレーム単位で切り替えて投影し、
前記パターン画像が投影された対象物を撮像し、
撮像フレーム単位の画像データを生成し、
単一の前記パターン画像を撮像した画像データの第1キーフレームを取得し、1フレームの露光期間中に切り替わった2つの前記パターン画像を撮像した画像データのブレンドフレームから単一の前記パターン画像を撮像した画像データの第2キーフレームを生成し、
前記第1キーフレームと前記第2キーフレームとを合成した画像データを用いて、空間コード化法に基づく計測を行う、
投影撮像方法。
Priority Applications (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017136253A JP7029654B2 (ja) | 2017-07-12 | 2017-07-12 | 投影撮像システム、計測装置および投影撮像方法 |
PCT/JP2018/022140 WO2019012884A1 (ja) | 2017-07-12 | 2018-06-11 | 投影撮像システム、計測装置および投影撮像方法 |
EP18832357.0A EP3637046A4 (en) | 2017-07-12 | 2018-06-11 | PROJECTION IMAGING SYSTEM, MEASURING DEVICE AND PROJECTION IMAGING METHOD |
CN201880046041.0A CN110892227B (zh) | 2017-07-12 | 2018-06-11 | 投影摄像系统、测量装置以及投影摄像方法 |
US16/629,483 US11371837B2 (en) | 2017-07-12 | 2018-06-11 | Projection imaging system, measurement device, and projection imaging method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017136253A JP7029654B2 (ja) | 2017-07-12 | 2017-07-12 | 投影撮像システム、計測装置および投影撮像方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2019020157A JP2019020157A (ja) | 2019-02-07 |
JP7029654B2 true JP7029654B2 (ja) | 2022-03-04 |
Family
ID=65002150
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017136253A Active JP7029654B2 (ja) | 2017-07-12 | 2017-07-12 | 投影撮像システム、計測装置および投影撮像方法 |
Country Status (5)
Country | Link |
---|---|
US (1) | US11371837B2 (ja) |
EP (1) | EP3637046A4 (ja) |
JP (1) | JP7029654B2 (ja) |
CN (1) | CN110892227B (ja) |
WO (1) | WO2019012884A1 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11223808B1 (en) * | 2020-06-30 | 2022-01-11 | Christie Digital Systems Usa, Inc. | Device, system and method for generating a mapping of projector pixels to camera pixels and/or object positions using alternating patterns |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002131031A (ja) | 2000-10-27 | 2002-05-09 | Ricoh Co Ltd | 三次元形状計測方法および三次元形状計測装置 |
US20090238449A1 (en) | 2005-11-09 | 2009-09-24 | Geometric Informatics, Inc | Method and Apparatus for Absolute-Coordinate Three-Dimensional Surface Imaging |
JP2013124941A (ja) | 2011-12-15 | 2013-06-24 | Samsung Yokohama Research Institute Co Ltd | 測距装置、及び測距方法 |
WO2015134961A1 (en) | 2014-03-07 | 2015-09-11 | Brown University | Method and system for unsynchronized structured lighting |
WO2017060993A1 (ja) | 2015-10-07 | 2017-04-13 | 日立マクセル株式会社 | 映像表示装置およびこれに用いる操作検出方法 |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004289613A (ja) | 2003-03-24 | 2004-10-14 | Olympus Corp | 3次元撮像装置、投光ユニット及び3次元再構成システム、並びに、3次元撮像方法及び投光ユニットの投光方法 |
JP5400107B2 (ja) * | 2011-08-16 | 2014-01-29 | Ckd株式会社 | 基板検査装置 |
JP5847568B2 (ja) | 2011-12-15 | 2016-01-27 | Ckd株式会社 | 三次元計測装置 |
JP2014032159A (ja) | 2012-08-06 | 2014-02-20 | Canon Inc | 投影撮像システム及び投影撮像システムの制御方法 |
JP6320051B2 (ja) * | 2014-01-17 | 2018-05-09 | キヤノン株式会社 | 三次元形状計測装置、三次元形状計測方法 |
CN107429998B (zh) | 2015-03-30 | 2018-10-02 | 富士胶片株式会社 | 距离图像获取装置以及距离图像获取方法 |
CN105761243A (zh) * | 2016-01-28 | 2016-07-13 | 四川川大智胜软件股份有限公司 | 基于结构光投影的三维全脸照相系统及其照相方法 |
-
2017
- 2017-07-12 JP JP2017136253A patent/JP7029654B2/ja active Active
-
2018
- 2018-06-11 EP EP18832357.0A patent/EP3637046A4/en not_active Withdrawn
- 2018-06-11 WO PCT/JP2018/022140 patent/WO2019012884A1/ja unknown
- 2018-06-11 US US16/629,483 patent/US11371837B2/en active Active
- 2018-06-11 CN CN201880046041.0A patent/CN110892227B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002131031A (ja) | 2000-10-27 | 2002-05-09 | Ricoh Co Ltd | 三次元形状計測方法および三次元形状計測装置 |
US20090238449A1 (en) | 2005-11-09 | 2009-09-24 | Geometric Informatics, Inc | Method and Apparatus for Absolute-Coordinate Three-Dimensional Surface Imaging |
JP2013124941A (ja) | 2011-12-15 | 2013-06-24 | Samsung Yokohama Research Institute Co Ltd | 測距装置、及び測距方法 |
WO2015134961A1 (en) | 2014-03-07 | 2015-09-11 | Brown University | Method and system for unsynchronized structured lighting |
WO2017060993A1 (ja) | 2015-10-07 | 2017-04-13 | 日立マクセル株式会社 | 映像表示装置およびこれに用いる操作検出方法 |
Also Published As
Publication number | Publication date |
---|---|
US11371837B2 (en) | 2022-06-28 |
WO2019012884A1 (ja) | 2019-01-17 |
EP3637046A4 (en) | 2020-07-01 |
CN110892227B (zh) | 2022-04-26 |
CN110892227A (zh) | 2020-03-17 |
JP2019020157A (ja) | 2019-02-07 |
EP3637046A1 (en) | 2020-04-15 |
US20210131799A1 (en) | 2021-05-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10306141B2 (en) | Image processing apparatus and method therefor | |
US8854412B2 (en) | Real-time automatic scene relighting in video conference sessions | |
US20200043225A1 (en) | Image processing apparatus and control method thereof | |
KR100981003B1 (ko) | 동체화상추출장치 및 프로그램을 기록한 컴퓨터 판독 가능한 기록매체 | |
JP6833415B2 (ja) | 画像処理装置、画像処理方法、及びプログラム | |
KR20150108774A (ko) | 비디오 시퀀스를 프로세싱하는 방법, 대응하는 디바이스, 컴퓨터 프로그램 및 비일시적 컴퓨터 판독가능 매체 | |
KR20150145725A (ko) | Ldr 비디오 시퀀스의 동적 범위 확장을 위한 방법 및 장치 | |
JP2008118555A (ja) | 画像処理装置、撮像装置、及び画像処理方法 | |
JP6412386B2 (ja) | 画像処理装置およびその制御方法、プログラムならびに記録媒体 | |
JP2013165487A (ja) | 画像処理装置、撮像装置、およびプログラム | |
JP2003134385A (ja) | 画像合成装置 | |
WO2020090176A1 (ja) | 画像処理装置および画像処理方法 | |
US10832386B2 (en) | Image processing apparatus, image processing method, and storage medium | |
JP6541501B2 (ja) | 画像処理装置、撮像装置、及び画像処理方法 | |
JP7029654B2 (ja) | 投影撮像システム、計測装置および投影撮像方法 | |
JP2017152866A (ja) | 画像処理装置及び画像処理方法 | |
JP2006325274A (ja) | 撮像装置 | |
JP2018182700A (ja) | 画像処理装置およびその制御方法、プログラム、並びに記憶媒体 | |
JP2018182699A (ja) | 画像処理装置およびその制御方法、プログラム、並びに記憶媒体 | |
KR20150101343A (ko) | 영상 투사 시스템 | |
JP2017157043A (ja) | 画像処理装置、撮像装置、及び、画像処理方法 | |
JP6921606B2 (ja) | 画像処理装置、画像処理方法およびプログラム | |
JP6120632B2 (ja) | 画像処理装置、画像処理方法、及び画像処理プログラム | |
JP2006031171A (ja) | 擬似的3次元データ生成方法、装置、プログラム、および記録媒体 | |
JP6873815B2 (ja) | 画像処理装置、撮像装置、画像処理方法、プログラム、および、記憶媒体 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20190625 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20191018 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200529 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210622 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210820 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20220111 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220203 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 7029654 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |