JP2020013216A - 装置、制御方法、及びプログラム - Google Patents
装置、制御方法、及びプログラム Download PDFInfo
- Publication number
- JP2020013216A JP2020013216A JP2018133471A JP2018133471A JP2020013216A JP 2020013216 A JP2020013216 A JP 2020013216A JP 2018133471 A JP2018133471 A JP 2018133471A JP 2018133471 A JP2018133471 A JP 2018133471A JP 2020013216 A JP2020013216 A JP 2020013216A
- Authority
- JP
- Japan
- Prior art keywords
- image
- camera
- cameras
- virtual viewpoint
- mask
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims description 76
- 238000009434 installation Methods 0.000 claims description 4
- 230000007717 exclusion Effects 0.000 claims description 3
- 230000006866 deterioration Effects 0.000 abstract 1
- 238000004040 coloring Methods 0.000 description 75
- 239000000470 constituent Substances 0.000 description 36
- 238000010586 diagram Methods 0.000 description 18
- 230000000007 visual effect Effects 0.000 description 4
- 239000003086 colorant Substances 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 238000003384 imaging method Methods 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 2
- 230000006835 compression Effects 0.000 description 2
- 238000007906 compression Methods 0.000 description 2
- 238000009877 rendering Methods 0.000 description 2
- 238000010187 selection method Methods 0.000 description 2
- 244000035744 Hura crepitans Species 0.000 description 1
- 230000004931 aggregating effect Effects 0.000 description 1
- 230000000386 athletic effect Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 239000003550 marker Substances 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T15/00—3D [Three Dimensional] image rendering
- G06T15/10—Geometric effects
- G06T15/20—Perspective computation
- G06T15/205—Image-based rendering
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T15/00—3D [Three Dimensional] image rendering
- G06T15/04—Texture mapping
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T15/00—3D [Three Dimensional] image rendering
- G06T15/10—Geometric effects
- G06T15/20—Perspective computation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/536—Depth or shape recovery from perspective effects, e.g. by using vanishing points
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/97—Determining parameters from multiple pictures
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/111—Transformation of image signals corresponding to virtual viewpoints, e.g. spatial image interpolation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/243—Image signal generators using stereoscopic image cameras using three or more 2D image sensors
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Computer Graphics (AREA)
- Geometry (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Computing Systems (AREA)
- Software Systems (AREA)
- Studio Devices (AREA)
- Image Analysis (AREA)
- Closed-Circuit Television Systems (AREA)
- Image Processing (AREA)
Abstract
Description
本実施形態では、3次元モデルを構成する点に色付けを行う際、色付けに使用される撮影画像の候補の中から外れ値を持つ撮影画像を除外した後に、撮影画像の選択、色付けを行う。
以下、本実施形態における画像生成システムについて、図1を用いて説明する。図1は、野球場やサッカースタジアム等の競技場、コンサートホール、等の施設に複数のカメラ及びマイクを設置し、撮影及び集音を行うシステムの概略構成を示す図である。
以下、本実施形態における画像生成装置の構成について、図2を用いて説明する。まず、画像生成装置122のソフトウェア構成について、図2(a)を用いて説明する。
以下、本実施形態における仮想視点画像を生成する処理について、図3を用いて説明する。図3は、仮想視点画像を1フレーム生成する処理の流れを示すフローチャートである。
以下、互いに異なる位置に設置した複数のカメラを用いて同一の撮影対象領域を撮影することで取得される撮影画像の中から、3次元モデルの構成点への色付けに使う撮影画像を選択する処理(色付け用画像選択処理とする)について説明する。色付け用画像選択処理は、図3のS302で実行される。
本実施形態により、例えば図6に示すようなケースで構成点610に色付けを行う際、オブジェクト(ゴールネット)602の色のような本来付けるべきでない色を3次元モデルに付けてしまうカメラを除外した上で、色付けすることが可能となる。よって、より高品質な仮想視点画像を生成することが可能となる。なお、本実施形態では、オブジェクトの位置情報等に基づいて構成点610を撮影できない(不可視の)カメラを除外し、不可視のカメラ以外の中からさらに画素値が例外値となるカメラを除外するものとした。このようにして残った候補のカメラから色付けに用いるカメラを選択することで、構成点610を正しく撮影しているカメラを選択できる可能性が高くなる。ただしこれに限らず、不可視のカメラの除外と、画素値が例外値となるカメラの、何れか一方を行わなくてもよい。この方法によれば、除外のための判定に係る処理を削減することができる。
本実施形態では、3次元モデルの構成点の色付けに使う撮影画像を選択する際に、予め設定されたマスク情報を利用する。尚、以下では既述の実施形態との差分について主に説明し、既述の実施形態と同様の内容については説明を適宜省略する。
以下、本実施形態における画像生成装置122のソフトウェア構成について、図8を用いて説明する。尚、本実施形態における画像生成装置122のハードウェア構成については、第1の実施形態と同様である。
以下、本実施形態における色付け用画像選択処理について、図10を用いて説明する。尚、本実施形態における仮想視点画像を生成する処理の全体フローは第1の実施形態と同様であるため(図3参照)、説明を省略する。図10に示す色付け用画像選択処理は、図3のS302で実行される。
本実施形態によれば、例外値判定の対象となるカメラをマスク情報に基づいて絞り込むため、第1の実施形態より短時間で、複数の撮影画像の中から色付け用画像を選択することが可能である。
本実施形態では第2の実施形態と同様に、3次元モデルの構成点の色付けに使う撮影画像を選択する際に、予め設定されたマスク情報を利用する。但し、本実施形態では、第2の実施形態で説明したマスク種別の情報に加え、色の情報についてもマスク情報として設定し、該設定したマスク情報を利用することで、より高速な撮影画像の選択を可能とする。尚、本実施形態におけるソフトウェア構成、及び、色付け用画像の選択処理のフローについては、第2の実施形態と同様である(図8、図10参照)。
本実施形態によれば、第2の実施形態より短時間で、複数の撮影画像の中から色付け用画像を選択することが可能である。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
208 撮影画像選択部
204 3次元モデル色付け部
205 仮想視点画像生成部
Claims (13)
- 目標オブジェクトを複数のカメラにより複数の方向から撮影することで得られる画像に基づき、該目標オブジェクトを含む仮想視点画像を生成する装置であって、
前記複数のカメラによる撮影に基づく複数の画像の中から、前記目標オブジェクトにおける特定位置が他のオブジェクトにより遮蔽されていない画像を、当該画像の画素値に基づいて選択する選択手段と、
前記選択手段により選択された画像に基づき、前記仮想視点画像における前記特定位置に対応する画素の値を決定する決定手段と、
前記決定手段により決定された画素の値に基づき、前記仮想視点画像を生成する生成手段と
を有することを特徴とする装置。 - 前記複数のカメラの夫々について、設置位置から前記特定位置が可視か判定することで、可視か否かを示す可視判定情報を導出する導出手段を更に有することを特徴とする請求項1に記載の装置。
- 前記選択手段は、前記可視判定情報に基づき、前記画像を選択することを特徴とする請求項2に記載の装置。
- 前記特定位置に対応する画素値が例外値となる画像を、前記選択手段による選択候補から除外する除外手段を更に有することを特徴とする請求項1乃至3の何れか1項に記載の装置。
- 前記複数のカメラによる撮影に基づく複数の画像に基づき、前記特定位置に対応する複数の画素値の平均値を算出する算出手段と、
前記複数のカメラによる撮影に基づく画像の夫々について、前記特定位置に対応する画素値と前記算出した平均値との間の差が所定の閾値以上が判定することで、該画素値が前記例外値か判定する判定手段と
を更に有することを特徴とする請求項4に記載の装置。 - 前記撮影に基づく画像におけるオクルージョン領域を指定するマスク情報を設定する設定手段を更に有し、
前記選択手段は、前記マスク情報を用いて前記画像を選択することを特徴とする請求項5の何れか1項に記載の装置。 - 前記マスク情報は、マスクが有るか無いか、及び、マスクが有る場合のマスク種別を示す情報を含むことを特徴とする請求項6に記載の装置。
- 前記マスク情報は、前記マスクの領域に対応する色に関する情報を更に含むことを特徴とする請求項7に記載の装置。
- 前記複数のカメラによる撮影に基づく画像の夫々について、前記特定位置に対応する画素値と前記マスクの領域に対応する色の値とを比較した結果に基づいて、前記選択手段は、前記画像を選択することを特徴とする請求項8に記載の装置。
- 前記複数のカメラの夫々に対する前記マスク情報が保持されたリストを作成する作成手段を更に有し、
前記選択手段は、前記リストを用いて前記画像を選択することを特徴とする請求項6乃至9の何れか1項に記載の装置。 - 前記作成手段は、前記複数のカメラによる撮影に基づく画像の夫々について、前記特定位置に対応する画素が、前記オクルージョン領域であることを示すマスク領域に属するか判定することで、前記リストを作成することを特徴とする請求項10に記載の装置。
- 目標オブジェクトを複数のカメラにより複数の方向から撮影することで得られる画像に基づき、該目標オブジェクトを含む仮想視点画像を生成する装置の制御方法であって、
前記複数のカメラによる撮影に基づく複数の画像の中から、前記目標オブジェクトにおける特定位置が他のオブジェクトにより遮蔽されていない画像を、当該画像の画素値に基づいて選択する選択ステップと、
前記選択ステップにより選択された画像に基づき、前記仮想視点画像における前記特定位置に対応する画素の値を決定する決定ステップと、
前記決定ステップにより決定された画素の値に基づき、前記仮想視点画像を生成する生成ステップと
を有することを特徴とする制御方法。 - コンピュータに、請求項12に記載の方法を実行させるための、プログラム。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018133471A JP7179515B2 (ja) | 2018-07-13 | 2018-07-13 | 装置、制御方法、及びプログラム |
PCT/JP2019/026682 WO2020013077A1 (ja) | 2018-07-13 | 2019-07-04 | 装置、制御方法、及びプログラム |
US17/144,663 US11557081B2 (en) | 2018-07-13 | 2021-01-08 | Image processing apparatus, control method for an image processing apparatus, and medium |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018133471A JP7179515B2 (ja) | 2018-07-13 | 2018-07-13 | 装置、制御方法、及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020013216A true JP2020013216A (ja) | 2020-01-23 |
JP7179515B2 JP7179515B2 (ja) | 2022-11-29 |
Family
ID=69142562
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018133471A Active JP7179515B2 (ja) | 2018-07-13 | 2018-07-13 | 装置、制御方法、及びプログラム |
Country Status (3)
Country | Link |
---|---|
US (1) | US11557081B2 (ja) |
JP (1) | JP7179515B2 (ja) |
WO (1) | WO2020013077A1 (ja) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112967199A (zh) * | 2021-03-05 | 2021-06-15 | 北京字跳网络技术有限公司 | 图像处理方法和装置 |
JP2021117876A (ja) * | 2020-01-29 | 2021-08-10 | Kddi株式会社 | 画像処理装置、方法及びプログラム |
WO2022019149A1 (ja) * | 2020-07-21 | 2022-01-27 | ソニーグループ株式会社 | 情報処理装置、3dモデル生成方法、情報処理方法およびプログラム |
KR20220066760A (ko) * | 2020-11-16 | 2022-05-24 | 주식회사 핏투게더 | 선수 추적 방법, 선수 추적 장치 및 선수 추적 시스템 |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP3912089A4 (en) | 2019-02-28 | 2022-12-07 | Stats Llc | SYSTEM AND METHOD FOR RE-IDENTIFYING PLAYERS IN BROADCAST VIDEO |
JP2020197497A (ja) * | 2019-06-05 | 2020-12-10 | 株式会社ソニー・インタラクティブエンタテインメント | 三次元計測装置、三次元計測方法およびプログラム |
JP7500231B2 (ja) | 2020-03-05 | 2024-06-17 | キヤノン株式会社 | 画像生成システム、その制御方法及びプログラム。 |
JP2022014358A (ja) | 2020-07-06 | 2022-01-19 | キヤノン株式会社 | 情報処理装置、情報処理装置の制御方法およびプログラム |
CN112967200A (zh) * | 2021-03-05 | 2021-06-15 | 北京字跳网络技术有限公司 | 图像处理方法、装置、电子设备、介质和计算机程序产品 |
JP2022184354A (ja) * | 2021-06-01 | 2022-12-13 | キヤノン株式会社 | 画像処理装置、画像処理方法及びプログラム |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH10191396A (ja) * | 1996-12-26 | 1998-07-21 | Matsushita Electric Ind Co Ltd | 中間視点画像生成方法および視差推定方法および画像伝送方法 |
JP2006024141A (ja) * | 2004-07-09 | 2006-01-26 | Sony Corp | 画像処理装置及び方法、プログラム |
JP2009116532A (ja) * | 2007-11-05 | 2009-05-28 | Nippon Telegr & Teleph Corp <Ntt> | 仮想視点画像生成方法および仮想視点画像生成装置 |
JP2009211335A (ja) * | 2008-03-04 | 2009-09-17 | Nippon Telegr & Teleph Corp <Ntt> | 仮想視点画像生成方法、仮想視点画像生成装置、仮想視点画像生成プログラムおよびそのプログラムを記録したコンピュータ読み取り可能な記録媒体 |
JP2013061850A (ja) * | 2011-09-14 | 2013-04-04 | Canon Inc | ノイズ低減のための画像処理装置及び画像処理方法 |
JP2015045920A (ja) * | 2013-08-27 | 2015-03-12 | 日本電信電話株式会社 | 仮想視点映像生成装置、仮想視点映像生成方法、及び仮想視点映像生成プログラム |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5373931B2 (ja) | 2012-03-22 | 2013-12-18 | 日本電信電話株式会社 | 仮想視点画像生成方法,仮想視点画像生成装置および仮想視点画像生成プログラム |
US8619082B1 (en) * | 2012-08-21 | 2013-12-31 | Pelican Imaging Corporation | Systems and methods for parallax detection and correction in images captured using array cameras that contain occlusions using subsets of images to perform depth estimation |
EP3016076A1 (en) * | 2014-10-31 | 2016-05-04 | Thomson Licensing | Method and apparatus for removing outliers from a main view of a scene during 3D scene reconstruction |
US10846836B2 (en) * | 2016-11-14 | 2020-11-24 | Ricoh Company, Ltd. | View synthesis using deep convolutional neural networks |
JP7072378B2 (ja) | 2017-12-13 | 2022-05-20 | キヤノン株式会社 | 画像生成装置およびその制御方法、画像生成システム、プログラム |
-
2018
- 2018-07-13 JP JP2018133471A patent/JP7179515B2/ja active Active
-
2019
- 2019-07-04 WO PCT/JP2019/026682 patent/WO2020013077A1/ja active Application Filing
-
2021
- 2021-01-08 US US17/144,663 patent/US11557081B2/en active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH10191396A (ja) * | 1996-12-26 | 1998-07-21 | Matsushita Electric Ind Co Ltd | 中間視点画像生成方法および視差推定方法および画像伝送方法 |
JP2006024141A (ja) * | 2004-07-09 | 2006-01-26 | Sony Corp | 画像処理装置及び方法、プログラム |
JP2009116532A (ja) * | 2007-11-05 | 2009-05-28 | Nippon Telegr & Teleph Corp <Ntt> | 仮想視点画像生成方法および仮想視点画像生成装置 |
JP2009211335A (ja) * | 2008-03-04 | 2009-09-17 | Nippon Telegr & Teleph Corp <Ntt> | 仮想視点画像生成方法、仮想視点画像生成装置、仮想視点画像生成プログラムおよびそのプログラムを記録したコンピュータ読み取り可能な記録媒体 |
JP2013061850A (ja) * | 2011-09-14 | 2013-04-04 | Canon Inc | ノイズ低減のための画像処理装置及び画像処理方法 |
JP2015045920A (ja) * | 2013-08-27 | 2015-03-12 | 日本電信電話株式会社 | 仮想視点映像生成装置、仮想視点映像生成方法、及び仮想視点映像生成プログラム |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2021117876A (ja) * | 2020-01-29 | 2021-08-10 | Kddi株式会社 | 画像処理装置、方法及びプログラム |
JP7197526B2 (ja) | 2020-01-29 | 2022-12-27 | Kddi株式会社 | 画像処理装置、方法及びプログラム |
WO2022019149A1 (ja) * | 2020-07-21 | 2022-01-27 | ソニーグループ株式会社 | 情報処理装置、3dモデル生成方法、情報処理方法およびプログラム |
KR20220066760A (ko) * | 2020-11-16 | 2022-05-24 | 주식회사 핏투게더 | 선수 추적 방법, 선수 추적 장치 및 선수 추적 시스템 |
KR102544972B1 (ko) | 2020-11-16 | 2023-06-20 | 주식회사 핏투게더 | 선수 추적 방법, 선수 추적 장치 및 선수 추적 시스템 |
CN112967199A (zh) * | 2021-03-05 | 2021-06-15 | 北京字跳网络技术有限公司 | 图像处理方法和装置 |
Also Published As
Publication number | Publication date |
---|---|
JP7179515B2 (ja) | 2022-11-29 |
US20210133944A1 (en) | 2021-05-06 |
US11557081B2 (en) | 2023-01-17 |
WO2020013077A1 (ja) | 2020-01-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7179515B2 (ja) | 装置、制御方法、及びプログラム | |
US10742951B2 (en) | Image generation apparatus and method of generating virtual view-point image | |
US11677925B2 (en) | Information processing apparatus and control method therefor | |
JP2019083402A (ja) | 画像処理装置、画像処理システム、画像処理方法、及びプログラム | |
JP2019191989A (ja) | 仮想視点画像を生成するシステム、方法及びプログラム | |
JP2018191254A (ja) | 画像処理装置、画像処理方法、情報処理装置、撮像装置および画像処理システム | |
KR20170138800A (ko) | 멀티 스티커를 이용한 영상 생성 방법 및 장치 | |
JP2016063248A (ja) | 画像処理装置および画像処理方法 | |
JP6812181B2 (ja) | 画像処理装置、画像処理方法、及び、プログラム | |
US20240185480A1 (en) | Image processing system, image processing method, and storage medium | |
JP6821398B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2021119459A (ja) | 生成装置、生成方法 | |
US11295453B2 (en) | Image processing apparatus, transmission method, and storage medium | |
JP7190849B2 (ja) | 画像生成装置、画像生成装置の制御方法及びプログラム | |
EP3926949A1 (en) | Control apparatus, control method, and program | |
US20230291865A1 (en) | Image processing apparatus, image processing method, and storage medium | |
JP2019075740A (ja) | 画像処理システム、画像処理装置、画像伝送方法、及び、プログラム | |
JP2023167486A (ja) | 画像処理装置、画像処理方法およびプログラム | |
JP2021034921A (ja) | 画像処理装置、画像処理装置の制御方法、システム、およびプログラム | |
JP2021093648A (ja) | 画像データ処理装置、画像データ処理方法、及びプログラム | |
JP2020046944A (ja) | 画像処理装置、制御方法、及びプログラム | |
JP2023019086A (ja) | 伝送制御装置、伝送制御装置の動作方法及びプログラム | |
JP2021184522A (ja) | 画像処理装置、画像処理方法およびプログラム | |
JP2024035420A (ja) | 情報処理装置、情報処理方法、プログラム | |
JP2019080183A (ja) | 画像伝送装置、画像伝送方法、及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210708 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220510 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220705 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20221018 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20221116 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 7179515 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |