JPWO2020152810A1 - カメラ情報算出装置、システム、カメラ情報算出方法およびプログラム - Google Patents
カメラ情報算出装置、システム、カメラ情報算出方法およびプログラム Download PDFInfo
- Publication number
- JPWO2020152810A1 JPWO2020152810A1 JP2020567303A JP2020567303A JPWO2020152810A1 JP WO2020152810 A1 JPWO2020152810 A1 JP WO2020152810A1 JP 2020567303 A JP2020567303 A JP 2020567303A JP 2020567303 A JP2020567303 A JP 2020567303A JP WO2020152810 A1 JPWO2020152810 A1 JP WO2020152810A1
- Authority
- JP
- Japan
- Prior art keywords
- camera
- information
- marker
- coordinate system
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000004364 calculation method Methods 0.000 title claims abstract description 150
- 238000006243 chemical reaction Methods 0.000 claims description 128
- 238000012937 correction Methods 0.000 claims description 17
- 238000012545 processing Methods 0.000 claims description 10
- 239000003550 marker Substances 0.000 description 341
- 238000001514 detection method Methods 0.000 description 102
- 230000006870 function Effects 0.000 description 51
- 238000010586 diagram Methods 0.000 description 25
- 230000002093 peripheral effect Effects 0.000 description 17
- 238000013500 data storage Methods 0.000 description 12
- 238000003384 imaging method Methods 0.000 description 12
- 238000000034 method Methods 0.000 description 11
- 238000004088 simulation Methods 0.000 description 11
- 239000011159 matrix material Substances 0.000 description 7
- 238000004891 communication Methods 0.000 description 5
- 238000012986 modification Methods 0.000 description 5
- 230000004048 modification Effects 0.000 description 5
- 230000003287 optical effect Effects 0.000 description 3
- 239000000284 extract Substances 0.000 description 2
- 230000001133 acceleration Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000010191 image analysis Methods 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B11/00—Measuring arrangements characterised by the use of optical techniques
- G01B11/02—Measuring arrangements characterised by the use of optical techniques for measuring length, width or thickness
- G01B11/03—Measuring arrangements characterised by the use of optical techniques for measuring length, width or thickness by measuring coordinates of points
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B37/00—Panoramic or wide-screen photography; Photographing extended surfaces, e.g. for surveying; Photographing internal surfaces, e.g. of pipe
- G03B37/04—Panoramic or wide-screen photography; Photographing extended surfaces, e.g. for surveying; Photographing internal surfaces, e.g. of pipe with cameras or projectors providing touching or overlapping fields of view
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B15/00—Special procedures for taking photographs; Apparatus therefor
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
- G06T7/74—Determining position or orientation of objects or cameras using feature-based methods involving reference images or patches
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/66—Remote control of cameras or camera parts, e.g. by remote control devices
- H04N23/661—Transmitting camera control signals through networks, e.g. control via the Internet
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/90—Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/60—Noise processing, e.g. detecting, correcting, reducing or removing noise
- H04N25/61—Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4"
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30204—Marker
- G06T2207/30208—Marker matrix
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N2201/00—Indexing scheme relating to scanning, transmission or reproduction of documents or the like, and to details thereof
- H04N2201/32—Circuits or arrangements for control or supervision between transmitter and receiver or between image input and image output device, e.g. between a still-image camera and its memory or between a still-image camera and a printer device
- H04N2201/3201—Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title
- H04N2201/3204—Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title of data relating to a user, sender, addressee, machine or electronic recording medium
- H04N2201/3205—Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title of data relating to a user, sender, addressee, machine or electronic recording medium of identification information, e.g. name or ID code
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N2201/00—Indexing scheme relating to scanning, transmission or reproduction of documents or the like, and to details thereof
- H04N2201/32—Circuits or arrangements for control or supervision between transmitter and receiver or between image input and image output device, e.g. between a still-image camera and its memory or between a still-image camera and a printer device
- H04N2201/3201—Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title
- H04N2201/3225—Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title of data relating to an image, a page or a document
- H04N2201/3253—Position information, e.g. geographical position at time of capture, GPS data
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Theoretical Computer Science (AREA)
- Studio Devices (AREA)
- Length Measuring Devices By Optical Means (AREA)
- Image Analysis (AREA)
Abstract
Description
上述の実施形態では、移動カメラ40が、上述の第1の基準座標系カメラ情報および第2の基準座標系カメラ情報を算出する「カメラ情報算出装置」として機能していたが、移動カメラ40とは別の装置が「カメラ情報算出装置」として機能する形態であってもよい。例えば図14に示すように、「カメラ情報算出装置」として機能するサーバ100が移動カメラ40とは別に設けられる形態であってもよい。図14に示すように、本変形例のシステム2は、データサーバ10、サーバ100、第1のカメラ20、第2のカメラ30、移動カメラ40を備える。サーバ100は、ネットワーク50を介して、データサーバ10、第1のカメラ20、第2のカメラ30、および、移動カメラ40の各々と通信可能に接続される。
上述の実施形態では、第1のカメラ20により撮像された第1の画像に含まれる「第1の被写体」の一例として、第1の識別情報に対応する第1のパターン(第1のマーカー70)を例に挙げて説明した。ただし、これに限らず、例えば第1のマーカー70が設けられず、第1のマーカー70以外の被写体を第1の被写体とする形態であってもよい。つまり、第1のカメラ20の撮像領域に存在し、かつ、第1のカメラ20の第1の画像と移動カメラ40の動画像とに共通に含まれる第1のマーカー70以外の被写体、例えばサイズ・形状が良く知られた物体、または、地面と壁との境目などを第1の被写体とすることもできる。
上述の実施形態では、任意の位置・向きで設置可能な2台のカメラと、2台のカメラそれぞれと1対1に対応する2つのマーカーとが設けられていたが、カメラおよびマーカーの数は2つに限られるものではない。例えば3台以上の任意の位置・向きで設置可能なカメラと、3台以上のカメラそれぞれと1対1に対応する3つ以上のマーカーとが設けられる形態であってもよい。また、任意の位置・向きで設置可能なカメラから少なくとも1つのマーカーが撮像できれば、マーカーはカメラに対して1対1ではなく、カメラより少なく設けられる形態であってもよい。このような形態であっても、上述の実施形態と同様の方法を実施可能である。これにより、3台以上のカメラごとに、移動カメラ40により最初に検出されたマーカーを基準とする移動カメラ40側の基準座標系における該カメラの位置を特定するカメラ情報を算出することができる。
上述の実施形態のシステム1は、店舗内(屋内)に適用されているが、これに限らず、例えば屋外に適用することもできる。例えば信号機の付近に固定カメラを設置し、カメラが搭載された車を移動カメラとして運用する形態であってもよい。
10 データサーバ
20 第1のカメラ
30 第2のカメラ
40 移動カメラ
50 ネットワーク
100 サーバ
111 移動カメラ情報取得部
112 出力部
401 画像取得部
402 点・線分特徴検出部
403 内部パラメータ算出部
404 マーカー検出部
405 外部パラメータ算出部
406 空間特徴検出部
407 照合部
408 情報変換部
409 記憶部
410 シミュレーション部
421 算出部
422 マーカー情報変換部
423 空間特徴情報変換部
441 変換済み情報取得部
442 マーカー情報・空間特徴情報変換部
443 差分検出部
444 再計算部
445 補正部
501 第1の算出部
502 第2の算出部
511 第1の位置形状変換部
512 第2の位置形状変換部
521 第1の特徴情報変換部
522 第2の特徴情報変換部
531 第3の位置形状変換部
532 第4の位置形状変換部
533 第3の特徴情報変換部
534 第4の特徴情報変換部
Claims (9)
- 第1のカメラにより撮像される第1の被写体を含む第1の画像と、第3のカメラにより撮像される前記第1の被写体を含む第1の動画像とに基づいて、前記第1のカメラの位置を示す第1のカメラ位置情報を算出する第1の算出部と、
前記第1のカメラと離間して配置される第2のカメラにより撮像される第2の被写体を含む第2の画像と、前記第3のカメラにより撮像される前記第2の被写体を含む第2の動画像とに基づいて、前記第2のカメラの位置を示す第2のカメラ位置情報を算出する第2の算出部と、を備える、
カメラ情報算出装置。 - 前記第1のカメラ位置情報は、前記第1ないし第3のカメラに共通の基準座標系と、前記第1のカメラの座標系との対応関係を示す情報であり、
前記第2のカメラ位置情報は、前記基準座標系と、前記第2のカメラの座標系との対応関係を示す情報である、
請求項1に記載のカメラ情報算出装置。 - 前記第1の画像に含まれる前記第1の被写体の位置および形状の情報を前記基準座標系に合わせて変換して第1の変換済情報を出力し、
前記第2の画像に含まれる前記第2の被写体の位置および形状の情報を前記基準座標系に合わせて変換して第2の変換済情報を出力する第1の変換部と、
前記第1の動画像に含まれる前記第1の被写体の位置および形状の情報を前記基準座標系に合わせて変換して第3の変換済情報を出力し、
前記第2の動画像に含まれる前記第2の被写体の位置および形状の情報を前記基準座標系に合わせて変換して第4の変換済情報を出力する第2の変換部と、
前記第1の変換済情報と前記第3の変換済情報とを比較して第1の差分を検出し、
前記第2の変換済情報と前記第4の変換済情報とを比較して第2の差分を検出する差分検出部と、を備える、
請求項2に記載のカメラ情報算出装置。 - 前記第1の差分に基づいて前記第1のカメラ位置情報を補正し、前記第2の差分に基づいて前記第2のカメラ位置情報を補正する補正部を備える、
請求項3に記載のカメラ情報算出装置。 - 前記第1の動画像の撮像領域の少なくとも一部と、前記第2の動画像の撮像領域の少なくとも一部とが重複している、
請求項1乃至4のうちの何れか1項に記載のカメラ情報算出装置。 - 第1の被写体を含む第1の画像を撮像する第1のカメラと、
第2の被写体を含む第2の画像を撮像する第2のカメラと、
前記第1の被写体を含む第1の動画像と、前記第2の被写体を含む第2の動画像とを撮像すると共に、前記第1の画像と前記第1の動画像とに基づいて、前記第1のカメラの位置を示す第1のカメラ位置情報を算出する第1算出部と、前記第2の画像と前記第2の動画像とに基づいて、前記第2のカメラの位置を示す第2のカメラ位置情報を算出する第2算出部とを有する第3のカメラと、を備える、
システム。 - 第1の被写体を含む第1の画像を撮像する第1のカメラと、
第2の被写体を含む第2の画像を撮像する第2のカメラと、
前記第1の被写体を含む第1の動画像と、前記第2の被写体を含む第2の動画像とを撮像する第3のカメラと、
前記第1の画像と前記第1の動画像とに基づいて、前記第1のカメラの位置を示す第1のカメラ位置情報を算出する第1算出部と、前記第2の画像と前記第2の動画像とに基づいて、前記第2のカメラの位置を示す第2のカメラ位置情報を算出する第2算出部とを有するサーバと、を備える、
システム。 - 第1のカメラにより撮像される第1の被写体を含む第1の画像と、第3のカメラにより撮像される前記第1の被写体を含む第1の動画像とに基づいて、前記第1のカメラの位置を示す第1のカメラ位置情報を算出し、
前記第1のカメラと離間して配置される第2のカメラにより撮像される第2の被写体を含む第2の画像と、前記第3のカメラにより撮像される前記第2の被写体を含む第2の動画像とに基づいて、前記第2のカメラの位置を示す第2のカメラ位置情報を算出する、
処理をコンピュータが実行するカメラ情報算出方法。 - 第1のカメラにより撮像される第1の被写体を含む第1の画像と、第3のカメラにより撮像される前記第1の被写体を含む第1の動画像とに基づいて、前記第1のカメラの位置を示す第1のカメラ位置情報を算出し、
前記第1のカメラと離間して配置される第2のカメラにより撮像される第2の被写体を含む第2の画像と、前記第3のカメラにより撮像される前記第2の被写体を含む第2の動画像とに基づいて、前記第2のカメラ位置情報を算出する、
処理をコンピュータに実行させるためのプログラム。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2019/002137 WO2020152810A1 (ja) | 2019-01-23 | 2019-01-23 | カメラ情報算出装置、システム、カメラ情報算出方法およびプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2020152810A1 true JPWO2020152810A1 (ja) | 2021-12-02 |
JP7310835B2 JP7310835B2 (ja) | 2023-07-19 |
Family
ID=71736855
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020567303A Active JP7310835B2 (ja) | 2019-01-23 | 2019-01-23 | カメラ情報算出装置、システム、カメラ情報算出方法およびプログラム |
Country Status (4)
Country | Link |
---|---|
US (1) | US20210348915A1 (ja) |
JP (1) | JP7310835B2 (ja) |
CN (1) | CN113330275B (ja) |
WO (1) | WO2020152810A1 (ja) |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005241323A (ja) * | 2004-02-25 | 2005-09-08 | Advanced Telecommunication Research Institute International | 撮像システム及び校正方法 |
WO2008087974A1 (ja) * | 2007-01-16 | 2008-07-24 | Panasonic Corporation | データ処理装置、方法、記録媒体 |
US20080240612A1 (en) * | 2007-03-30 | 2008-10-02 | Intel Corporation | Non-overlap region based automatic global alignment for ring camera image mosaic |
JP2015204512A (ja) * | 2014-04-14 | 2015-11-16 | パナソニックIpマネジメント株式会社 | 情報処理装置、情報処理方法、カメラ、受信装置、受信方法 |
WO2017149869A1 (ja) * | 2016-02-29 | 2017-09-08 | ソニー株式会社 | 情報処理装置、方法、プログラム及びマルチカメラシステム |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP1330790B1 (en) * | 2000-08-28 | 2008-02-27 | Cognitens Ltd. | Accurately aligning images in digital imaging systems by matching points in the images |
JP4708752B2 (ja) * | 2004-09-28 | 2011-06-22 | キヤノン株式会社 | 情報処理方法および装置 |
JP4960754B2 (ja) * | 2007-04-25 | 2012-06-27 | キヤノン株式会社 | 情報処理装置、情報処理方法 |
JP6237326B2 (ja) * | 2014-02-25 | 2017-11-29 | 富士通株式会社 | 姿勢推定装置、姿勢推定方法及び姿勢推定用コンピュータプログラム |
US11361466B2 (en) * | 2018-11-30 | 2022-06-14 | Casio Computer Co., Ltd. | Position information acquisition device, position information acquisition method, recording medium, and position information acquisition system |
CN113226952B (zh) * | 2018-12-27 | 2023-04-18 | 日本电气通信系统株式会社 | 物品位置管理装置、物品位置管理系统、物品位置管理方法和程序 |
JP7124840B2 (ja) * | 2020-03-24 | 2022-08-24 | カシオ計算機株式会社 | 情報処理装置、情報処理システム、情報処理方法及びプログラム |
-
2019
- 2019-01-23 WO PCT/JP2019/002137 patent/WO2020152810A1/ja active Application Filing
- 2019-01-23 JP JP2020567303A patent/JP7310835B2/ja active Active
- 2019-01-23 CN CN201980089997.3A patent/CN113330275B/zh active Active
-
2021
- 2021-07-20 US US17/381,071 patent/US20210348915A1/en active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005241323A (ja) * | 2004-02-25 | 2005-09-08 | Advanced Telecommunication Research Institute International | 撮像システム及び校正方法 |
WO2008087974A1 (ja) * | 2007-01-16 | 2008-07-24 | Panasonic Corporation | データ処理装置、方法、記録媒体 |
US20080240612A1 (en) * | 2007-03-30 | 2008-10-02 | Intel Corporation | Non-overlap region based automatic global alignment for ring camera image mosaic |
JP2015204512A (ja) * | 2014-04-14 | 2015-11-16 | パナソニックIpマネジメント株式会社 | 情報処理装置、情報処理方法、カメラ、受信装置、受信方法 |
WO2017149869A1 (ja) * | 2016-02-29 | 2017-09-08 | ソニー株式会社 | 情報処理装置、方法、プログラム及びマルチカメラシステム |
Also Published As
Publication number | Publication date |
---|---|
WO2020152810A1 (ja) | 2020-07-30 |
CN113330275B (zh) | 2023-05-09 |
US20210348915A1 (en) | 2021-11-11 |
JP7310835B2 (ja) | 2023-07-19 |
CN113330275A (zh) | 2021-08-31 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6394005B2 (ja) | 投影画像補正装置、投影する原画像を補正する方法およびプログラム | |
JP6465789B2 (ja) | デプスカメラの内部パラメータを算出するプログラム、装置及び方法 | |
US8508527B2 (en) | Apparatus and method of building map for mobile robot | |
WO2014061372A1 (ja) | 画像処理装置、画像処理方法および画像処理プログラム | |
JP2004334819A (ja) | ステレオキャリブレーション装置とそれを用いたステレオ画像監視装置 | |
US20160343136A1 (en) | Data-processing system and method for calibration of a vehicle surround view system | |
JP2016197287A (ja) | 情報処理装置、情報処理方法、プログラム | |
JP2016103230A (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JPWO2018235163A1 (ja) | キャリブレーション装置、キャリブレーション用チャート、チャートパターン生成装置、およびキャリブレーション方法 | |
JP2004340840A (ja) | 距離測定装置、距離測定方法、及び距離測定プログラム | |
JP2006252473A (ja) | 障害物検出装置、キャリブレーション装置、キャリブレーション方法およびキャリブレーションプログラム | |
JP6836561B2 (ja) | 画像処理装置及び画像処理方法 | |
JP6282098B2 (ja) | キャリブレーション装置及び方法 | |
CN107808398B (zh) | 摄像头参数算出装置以及算出方法、程序、记录介质 | |
KR20180105875A (ko) | 단일 영상을 이용한 카메라 캘리브레이션 방법 및 이를 위한 장치 | |
WO2014045508A1 (ja) | 検査装置、検査方法、および検査プログラム | |
JP6282377B2 (ja) | 3次元形状計測システムおよびその計測方法 | |
KR20200142391A (ko) | 광학식 위치 추적 시스템의 3차원 마커 좌표 추정 방법 | |
JPWO2018154634A1 (ja) | 投写型表示装置、投写型表示装置の制御方法、及びプログラム | |
JP2009216503A (ja) | 三次元位置姿勢計測方法および装置 | |
JP6374812B2 (ja) | 三次元モデル処理装置およびカメラ校正システム | |
JP2009216480A (ja) | 三次元位置姿勢計測方法および装置 | |
KR20100081881A (ko) | 데이터 매칭 장치, 데이터 매칭 방법, 및 이를 이용한 이동로봇 | |
JP6531395B2 (ja) | 三次元形状測定装置、三次元形状測定方法、及び、プログラム | |
JPWO2020152810A1 (ja) | カメラ情報算出装置、システム、カメラ情報算出方法およびプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20211209 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20221004 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20221128 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230117 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230320 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230606 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230619 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7310835 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |