JP2016213535A - カメラキャリブレーション装置、方法及びプログラム - Google Patents
カメラキャリブレーション装置、方法及びプログラム Download PDFInfo
- Publication number
- JP2016213535A JP2016213535A JP2015092617A JP2015092617A JP2016213535A JP 2016213535 A JP2016213535 A JP 2016213535A JP 2015092617 A JP2015092617 A JP 2015092617A JP 2015092617 A JP2015092617 A JP 2015092617A JP 2016213535 A JP2016213535 A JP 2016213535A
- Authority
- JP
- Japan
- Prior art keywords
- dimensional image
- camera
- reference object
- setting state
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
- Studio Devices (AREA)
Abstract
【解決手段】カメラキャリブレーション装置10は、参照物体21の参照像26の登録部11と、カメラ22a、22bのパン・チルト・ズームのいずれかによる変化の検知部12と、参照物体21及び被写体23(23x、23y)が共に写っている二次元画像25(25a、25b)を取得するデータ取得部13と、カメラ22の設定状態の変更を検知した場合、二次元画像に写っている参照物体を参照像に基づいて識別する識別部14と、識別された参照物体の二次元画像における位置情報27を導出する導出部15と、位置情報に基づいてカメラパラメータ28を算出する算出部16と、カメラパラメータを更新する更新部18と、更新後のカメラパラメータに基づいて、二次元画像に写っている被写体の三次元像を生成する生成部19を備える。
【選択図】図1
Description
この三次元像の奥行情報を高精度化するためには、カメラの焦点距離、歪み係数、光軸中心等の内部パラメータと、カメラの位置、姿勢等の外部パラメータと、で規定されるカメラパラメータを、最適に設定する必要がある。
従来のカメラキャリブレーションは、被写体に代えて、姿勢を変化させた参照物体を撮影し、各撮影画像における参照物体の特徴点の座標位置を割り出して、カメラパラメータを算出していた(非特許文献1参照)。
したがって、作業エリアの撮影範囲を変更しようとして、カメラに対し、パン(左右振り)、チルト(上下振り)、ズームの制御を行うと、最適なカメラパラメータが変化するため、カメラキャリブレーションを再度行う必要がある。
このために、上記従来手法に基づくカメラキャリブレーションを再実施する場合、被写体は作業を中断する必要があり、作業効率が低下する課題がある。
以下、本発明の実施形態を添付図面に基づいて説明する。
図1に示すように、カメラキャリブレーション装置10は、参照物体21の形状をデジタル情報化した参照像26(図2)を登録する登録部11と、複数のカメラ22(22a,22b)のうち少なくとも一つのカメラ22の設定状態がパン・チルト・ズームのうちいずれかの操作により変更したことを検知する検知部12と、複数のカメラ22(22a,22b)の各々が撮影した参照物体21及び被写体23(23x,23y)が共に写っている二次元画像25(25a,25b)を取得するデータ取得部13と、カメラ22の設定状態の変更を検知した場合、二次元画像25に写っている参照物体21を参照像26(図2)に基づいて識別する識別部14と、識別された参照物体21の二次元画像25における位置情報27を導出する導出部15と、変更後の設定状態で導出された各々の位置情報27に基づいてカメラパラメータ28を算出する算出部16と、変更前の設定状態で算出されたカメラパラメータを変更後の設定状態で算出されたカメラパラメータ28に更新する更新部18と、更新後のカメラパラメータ28に基づいて、二次元画像25に写っている被写体23(23x,23y)の三次元像を生成する生成部19と、を備えている。
各々のカメラ22(22a,22b)は、図示略の回転雲台やステージなどに設置され、パン(左右振り)及びチルト(上下振り)の制御により、向きを変更することができる。さらに、ズーム制御により、二次元画像25を拡大、縮小することができる。
なお二次元画像25(25a,25b)に写り込む被写体23と参照物体21とが互いに重なり合わないように、撮像空間24内における参照物体21の配置位置が調整されている必要がある。
カメラキャリブレーション装置10は、撮影スタジオ20の撮像空間24の外側に配置されている。
また、装置10は、構成要素の各機能を独立して発揮する別々のモジュールを、ネットワーク又は専用線で相互に接続し、組み合わせて構成することもできる。
この際、カメラ22(22a,22b)のパン・チルト・ズームの制御は、二次元画像25に参照物体21及び被写体23(23x,23y)が共に写るように、所定の設定状態に固定されている。
参照物体21は、六角柱の形状を有し、六角形の上面を構成する六つの正三角形と側面とが、隣接するもの同士で色が互い違いとなるよう黒と白に色分けされている。
また、参照物体21の個数も一つであることを例示しているが、複数を配置してもよい。この場合、複数の相対位置関係を表わした参照像26を登録しておく必要がある。
このカメラ22の設定状態が変更されたということは、外部パラメータ又は内部パラメータが変更されたことになるために、これらを改めて導出する必要がある。
識別部14は、所得した二次元画像25(25a,25b)と登録部11に登録されている参照画像26a,26b…26hとのマッチングを行なう。
さまざまな視点で撮影した参照画像26a,26b…26hも同様に特徴量を算定しておく。
この他にもマッチングは、二次元画像25をラスタスキャンし、同じ位置の画素の輝度値の差の絶対値の総和(SAD:Sum of Absolute Difference)や同じ位置の画素の輝度値の差の二乗和(SSD:Sum of Squared Difference)を求め、最小値をとる誤差を評価することで、写り込んでいる参照物体21を識別することができる。
さらには、画像の輝度分布や輝度勾配に基づく特徴量(例えば、輝度勾配分布やHOG特徴量(Histograms of Oriented Gradients)など)に基づいて二次元画像25に写り込んでいる参照物体21を識別することができる。
算出部16は、変更後のカメラ22(22a,22b)の設定状態で導出された各々の位置情報27に基づいて、カメラパラメータ28を算出する。
図3に示すように、カメラパラメータは、内部パラメータ(内部パラメータ行列A、カメラレンズ歪み係数)とカメラ間の位置・姿勢関係を表す外部パラメータ行列RTとから構成される。
外部パラメータ行列RTにおけるrは三次元回転行列を表わし、tは並進ベクトルを表わしている。
さらに算出部16は、参照物体21の各頂点間の寸法が既知であるために、各頂点の位置情報27から、カメラ22のズーム機能に係るパラメータを導出することができる。
つまり、ズーム制御を行うと、二次元画像25に占める参照物体21のサイズが変化する性質を利用している。
これにより、カメラ22のパン・チルト・ズームの設定状態を変更した場合、カメラキャリブレーションが付随して実行され、カメラパラメータが自動更新されるために、作業を中断することなく、被写体23の三次元計測を継続することができる。
まず、入力手段(図示略)で入力作業することにより、参照物体21の形状をデジタル情報化した参照像26(図2)を登録する(S11)。またこれと前後して、撮影スタジオ20の撮像空間24内に参照物体21を配置する(S12)。
そして、カメラ撮影を開始して(S14)、二次元画像25(25a,25b)のデータを取得する(S15)。
初期状態では、カメラパラメータ28がまだ存在していないので(S16 No)、取得した二次元画像25に写っている参照物体21を参照像26に基づいて識別し、その位置情報を導出する(S18)。
そして、この更新部18から取得したカメラパラメータ28に基づいて(S20)、二次元画像25(25a,25b)に写っている被写体23の三次元像を生成し、表示装置33に表示する(S21,S22 No)。
一方、動いている被写体23が二次元画像25(25a,25b)からフレームアウト等したために、複数のうち少なくとも一つのカメラ22のパン・チルト・ズームの設定を変更した場合は(S17 Yes)、カメラパラメータ28が再度算出され更新される(S18,S19)。
そして、この更新されたカメラパラメータ28を取得して(S20)、二次元画像25(25a,25b)に写っている被写体23の三次元像を生成し、表示装置33に表示する(S21,S22 No)。
そして、以上のフローを撮影が終了するまで繰り返す(S22 No,END)
第2実施形態におけるカメラキャリブレーション装置は、第1実施形態における参照像26が複数の参照画像(図2)から構成されているのに対し、参照像26が参照物体21の三次元モデル(図示略)であることとした。
なお、第2実施形態におけるカメラキャリブレーション装置の構成及び処理のフローは、第1実施形態と同様であるため、以下において説明しない部分については、図1、図4に基づいてすでにした説明が援用される。
識別部14(図1)は、取得した二次元画像25から画像特徴量として輝度勾配情報等を算出し、画像の特徴点やエッジ41を抽出する。
登録部11には、参照物体21の三次元形状を表現した三次元モデル(例えば、3D−CADモデルなど)が登録されている。
二次元画像25から抽出されたエッジ41等に対し、登録されている三次元モデルの投影像が重なる位置をサーチし、二次元画像25における参照物体21の位置情報27を導出する。
エッジ間距離44は、例えば図5に示すように、片方のエッジ端からもう一方のエッジに垂線を下ろしたときの距離や、エッジ端からもう一方のエッジ端までの距離として算出することができる。
エッジ間の傾きの誤差43は、エッジ同士41,42のなす角として求めることができる。
また、上述の位置合わせ処理は、一つの方法のみを用いて行うこともできるし、複数を組み合わせて行うことも可能である。
さらに、内部パラメータとして算出されているレンズ歪みを用いて三次元モデルを歪ませて二次元画像25に投影することにより、レンズ歪みを考慮した位置合わせを行うことができる。
第3実施形態におけるカメラキャリブレーション装置は、二次元画像25に写っている背景にも基づいてカメラパラメータ28を算出することとした。
図6のフローチャートに基づいて第3実施形態の説明を行う。
あらかじめカメラキャリブレーションがなされている状態で、図6左側の処理フロー(S31)〜(S34)に沿って背景領域の特徴点の3次元位置を抽出しておき、図6右側の処理フロー(S41)〜(S45)に沿ってカメラキャリブレーションを行う。
背景領域に含まれる特徴点を複数抽出し(S32)、ステレオカメラの三角測量の原理により、その3次元位置を算出する(S33)。そして、算出した各特徴点の3次元位置情報を、記憶装置に保存する(S34)。
背景領域特徴点抽出処理により、記憶しておいた特徴点位置と同じ部分から特徴点を抽出する(S42)。これは、新たに画像から抽出される特徴点と、記憶しておいた特徴点のマッチングを行い、同一の対象物体から抽出される特徴点を特定してもよいし、背景領域の特徴点をトラッキングするようにしておいてもよい。
また、特徴点のトラッキングする場合は、Lucas−Kanade法などの特徴点トラッキング処理を用いることで実現できる。
次に、記憶装置に保存していた各特徴点の3次元位置情報を読み込む(S43)。
次に、現在の二次元画像25上での特徴点の位置情報と、保存していた特徴点の3次元位置情報とを用いて、カメラキャリブレーションを実行し(S44)、カメラパラメータを記憶する(S45)。
Claims (7)
- 参照物体の形状をデジタル情報化した参照像を登録する登録部と、
複数のカメラのうち少なくとも一つのカメラの設定状態がパン・チルト・ズームのうちいずれかの操作により変更したことを検知する検知部と、
複数のカメラの各々が撮影した前記参照物体及び被写体が共に写っている二次元画像を取得するデータ取得部と、
前記設定状態の変更を検知した場合、前記二次元画像に写っている前記参照物体を前記参照像に基づいて識別する識別部と、
識別された前記参照物体の前記二次元画像における位置情報を導出する導出部と、
前記変更後の設定状態で導出された各々の前記位置情報に基づいてカメラパラメータを算出する算出部と、
前記変更前の設定状態で算出されたカメラパラメータを、前記変更後の設定状態で算出されたカメラパラメータに、更新する更新部と、
更新後の前記カメラパラメータに基づいて、前記二次元画像に写っている被写体の三次元像を生成する生成部と、を備えることを特徴とするカメラキャリブレーション装置。 - 請求項1に記載のカメラキャリブレーション装置において、
前記参照像は、前記参照物体を異なる方向から撮影した複数の参照画像から構成されていることを特徴とするカメラキャリブレーション装置。 - 請求項1に記載のカメラキャリブレーション装置において、
前記参照像は、前記参照物体の三次元モデルであることを特徴とするカメラキャリブレーション装置。 - 請求項1から請求項3のいずれか1項に記載のカメラキャリブレーション装置において、
前記識別部は、前記二次元画像に写っている前記参照物体の輝度勾配にも基づいて前記識別を実行することを特徴とするカメラキャリブレーション装置。 - 請求項1から請求項4のいずれか1項に記載のカメラキャリブレーション装置において、
前記算出部は、前記二次元画像に写っている背景にも基づいて前記カメラパラメータを算出することを特徴とするカメラキャリブレーション装置。 - 参照物体の形状をデジタル情報化した参照像を登録するステップと、
複数のカメラのうち少なくとも一つのカメラの設定状態がパン・チルト・ズームのうちいずれかの操作により変更したことを検知するステップと、
複数のカメラの各々が撮影した前記参照物体及び被写体が共に写っている二次元画像を取得するステップと、
前記設定状態の変更を検知した場合、前記二次元画像に写っている前記参照物体を前記参照像に基づいて識別するステップと、
識別された前記参照物体の前記二次元画像における位置情報を導出するステップと、
前記変更後の設定状態で導出された各々の前記位置情報に基づいてカメラパラメータを算出するステップと、
前記変更前の設定状態で算出されたカメラパラメータを、前記変更後の設定状態で算出されたカメラパラメータに、更新するステップと、
更新後の前記カメラパラメータに基づいて、前記二次元画像に写っている被写体の三次元像を生成するステップと、を含むことを特徴とするカメラキャリブレーション方法。 - コンピュータに、
参照物体の形状をデジタル情報化した参照像を登録するステップ、
複数のカメラのうち少なくとも一つのカメラの設定状態がパン・チルト・ズームのうちいずれかの操作により変更したことを検知するステップ、
複数のカメラの各々が撮影した前記参照物体及び被写体が共に写っている二次元画像を取得するステップ、
前記設定状態の変更を検知した場合、前記二次元画像に写っている前記参照物体を前記参照像に基づいて識別するステップ、
識別された前記参照物体の前記二次元画像における位置情報を導出するステップ、
前記変更後の設定状態で導出された各々の前記位置情報に基づいてカメラパラメータを算出するステップ、
前記変更前の設定状態で算出されたカメラパラメータを、前記変更後の設定状態で算出されたカメラパラメータに、更新するステップ、
更新後の前記カメラパラメータに基づいて、前記二次元画像に写っている被写体の三次元像を生成するステップ、を実行させることを特徴とするカメラキャリブレーションプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015092617A JP6615486B2 (ja) | 2015-04-30 | 2015-04-30 | カメラキャリブレーション装置、方法及びプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015092617A JP6615486B2 (ja) | 2015-04-30 | 2015-04-30 | カメラキャリブレーション装置、方法及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2016213535A true JP2016213535A (ja) | 2016-12-15 |
JP6615486B2 JP6615486B2 (ja) | 2019-12-04 |
Family
ID=57551744
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015092617A Active JP6615486B2 (ja) | 2015-04-30 | 2015-04-30 | カメラキャリブレーション装置、方法及びプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6615486B2 (ja) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2017135495A (ja) * | 2016-01-26 | 2017-08-03 | 株式会社日立製作所 | ステレオカメラおよび撮像システム |
CN111713094A (zh) * | 2019-07-10 | 2020-09-25 | 深圳市大疆创新科技有限公司 | 云台及拍摄装置控制方法和装置 |
JP2021012180A (ja) * | 2019-07-09 | 2021-02-04 | 株式会社Mujin | 走査システムのための自動カメラキャリブレーションを実行する方法及びシステム |
CN113834425A (zh) * | 2020-06-23 | 2021-12-24 | 华晨宝马汽车有限公司 | 用于在中心物流库中对物体进行三维测量的方法和装置 |
CN116993830A (zh) * | 2023-08-17 | 2023-11-03 | 广州赋安数字科技有限公司 | 一种动态摄像头坐标映射的自动校准方法 |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH09170914A (ja) * | 1995-12-19 | 1997-06-30 | Canon Inc | 画像計測方法及び画像計測装置 |
JP2003067726A (ja) * | 2001-08-27 | 2003-03-07 | Sanyo Electric Co Ltd | 立体モデル生成装置及び方法 |
WO2004061387A1 (ja) * | 2002-12-27 | 2004-07-22 | Hiroshi Arisawa | 多視点ビデオキャプチャシステム |
JP2008232776A (ja) * | 2007-03-20 | 2008-10-02 | Fujifilm Corp | 3次元形状計測装置および方法並びにプログラム |
JP2010181209A (ja) * | 2009-02-03 | 2010-08-19 | Toyota Motor Corp | カメラの自動キャリブレーション装置及び自動キャリブレーション方法 |
JP2011129082A (ja) * | 2009-11-20 | 2011-06-30 | 3D Media Co Ltd | 3次元物体認識装置及び3次元物体認識方法 |
JP2014026670A (ja) * | 2013-10-21 | 2014-02-06 | Canon Inc | 情報処理装置、その処理方法及びプログラム |
JP2014164483A (ja) * | 2013-02-25 | 2014-09-08 | Kddi Corp | データベース生成装置、カメラ姿勢推定装置、データベース生成方法、カメラ姿勢推定方法、およびプログラム |
-
2015
- 2015-04-30 JP JP2015092617A patent/JP6615486B2/ja active Active
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH09170914A (ja) * | 1995-12-19 | 1997-06-30 | Canon Inc | 画像計測方法及び画像計測装置 |
JP2003067726A (ja) * | 2001-08-27 | 2003-03-07 | Sanyo Electric Co Ltd | 立体モデル生成装置及び方法 |
WO2004061387A1 (ja) * | 2002-12-27 | 2004-07-22 | Hiroshi Arisawa | 多視点ビデオキャプチャシステム |
JP2008232776A (ja) * | 2007-03-20 | 2008-10-02 | Fujifilm Corp | 3次元形状計測装置および方法並びにプログラム |
JP2010181209A (ja) * | 2009-02-03 | 2010-08-19 | Toyota Motor Corp | カメラの自動キャリブレーション装置及び自動キャリブレーション方法 |
JP2011129082A (ja) * | 2009-11-20 | 2011-06-30 | 3D Media Co Ltd | 3次元物体認識装置及び3次元物体認識方法 |
JP2014164483A (ja) * | 2013-02-25 | 2014-09-08 | Kddi Corp | データベース生成装置、カメラ姿勢推定装置、データベース生成方法、カメラ姿勢推定方法、およびプログラム |
JP2014026670A (ja) * | 2013-10-21 | 2014-02-06 | Canon Inc | 情報処理装置、その処理方法及びプログラム |
Cited By (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2017135495A (ja) * | 2016-01-26 | 2017-08-03 | 株式会社日立製作所 | ステレオカメラおよび撮像システム |
WO2017130650A1 (ja) * | 2016-01-26 | 2017-08-03 | 株式会社日立製作所 | ステレオカメラおよび撮像システム |
US10652521B2 (en) | 2016-01-26 | 2020-05-12 | Hitachi, Ltd. | Stereo camera and image pickup system |
JP2021012180A (ja) * | 2019-07-09 | 2021-02-04 | 株式会社Mujin | 走査システムのための自動カメラキャリブレーションを実行する方法及びシステム |
US11074722B2 (en) | 2019-07-09 | 2021-07-27 | Mujin, Inc. | Method and system for performing automatic camera calibration for a scanning system |
CN111713094A (zh) * | 2019-07-10 | 2020-09-25 | 深圳市大疆创新科技有限公司 | 云台及拍摄装置控制方法和装置 |
US11323622B2 (en) | 2019-07-10 | 2022-05-03 | SZ DJI Technology Co., Ltd. | Gimbal, method and apparatus for controlling photographing apparatus |
CN111713094B (zh) * | 2019-07-10 | 2022-10-25 | 深圳市大疆创新科技有限公司 | 云台及拍摄装置控制方法和装置 |
CN113834425A (zh) * | 2020-06-23 | 2021-12-24 | 华晨宝马汽车有限公司 | 用于在中心物流库中对物体进行三维测量的方法和装置 |
CN113834425B (zh) * | 2020-06-23 | 2024-03-26 | 华晨宝马汽车有限公司 | 用于在中心物流库中对物体进行三维测量的方法和装置 |
CN116993830A (zh) * | 2023-08-17 | 2023-11-03 | 广州赋安数字科技有限公司 | 一种动态摄像头坐标映射的自动校准方法 |
Also Published As
Publication number | Publication date |
---|---|
JP6615486B2 (ja) | 2019-12-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5989113B2 (ja) | 1つまたは複数のチェッカーボードパターンの画像を用いた自動カメラキャリブレーションの方法および装置 | |
US20200007842A1 (en) | Methods for automatic registration of 3d image data | |
JP6615486B2 (ja) | カメラキャリブレーション装置、方法及びプログラム | |
JP6363863B2 (ja) | 情報処理装置および情報処理方法 | |
JP5580164B2 (ja) | 光学情報処理装置、光学情報処理方法、光学情報処理システム、光学情報処理プログラム | |
JP6507730B2 (ja) | 座標変換パラメータ決定装置、座標変換パラメータ決定方法及び座標変換パラメータ決定用コンピュータプログラム | |
JP6735592B2 (ja) | 画像処理装置及びその制御方法、画像処理システム | |
US20150304617A1 (en) | System for performing distortion correction and calibration using pattern projection, and method using the same | |
JP6352208B2 (ja) | 三次元モデル処理装置およびカメラ校正システム | |
US9349073B2 (en) | Apparatus and method for image matching between multiview cameras | |
CN107808398B (zh) | 摄像头参数算出装置以及算出方法、程序、记录介质 | |
EP3093822B1 (en) | Displaying a target object imaged in a moving picture | |
JP2005326247A (ja) | 校正装置及び校正方法並びに校正プログラム | |
JP2019533232A (ja) | パターン検出 | |
JP6594170B2 (ja) | 画像処理装置、画像処理方法、画像投影システムおよびプログラム | |
JP2012185772A (ja) | 非固定ズームカメラを用いた自由視点映像の合成画質高精度化方法およびプログラム | |
JP2015171143A (ja) | カラーコード化された構造によるカメラ較正の方法及び装置、並びにコンピュータ可読記憶媒体 | |
US20220156977A1 (en) | Calibration apparatus, calibration method, and non-transitory computer readable medium storing program | |
JP2020122769A (ja) | 評価方法、評価プログラム及び情報処理装置 | |
JP7298687B2 (ja) | 物体認識装置及び物体認識方法 | |
JP2016114445A (ja) | 3次元位置算出装置およびそのプログラム、ならびに、cg合成装置 | |
JP5728399B2 (ja) | 計測装置、方法及びプログラム | |
JP2016156702A (ja) | 撮像装置および撮像方法 | |
JP4996585B2 (ja) | 画像校正評価装置及び画像校正評価プログラム | |
CN110232656B (zh) | 一种解决特征点不足的图像拼接优化方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A712 Effective date: 20171127 |
|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A711 Effective date: 20171128 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180220 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20181130 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20181218 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190122 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190528 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190726 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20191008 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20191106 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6615486 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |