JP2021028813A - 情報処理装置及び方法 - Google Patents
情報処理装置及び方法 Download PDFInfo
- Publication number
- JP2021028813A JP2021028813A JP2019148268A JP2019148268A JP2021028813A JP 2021028813 A JP2021028813 A JP 2021028813A JP 2019148268 A JP2019148268 A JP 2019148268A JP 2019148268 A JP2019148268 A JP 2019148268A JP 2021028813 A JP2021028813 A JP 2021028813A
- Authority
- JP
- Japan
- Prior art keywords
- omnidirectional
- image
- data
- images
- cube map
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Image Processing (AREA)
- Studio Devices (AREA)
- Traffic Control Systems (AREA)
- Image Analysis (AREA)
Abstract
Description
全方位カメラを移動車両に搭載して撮影することにより、全天球360°のパノラマ動画像を得て、適宜に再生することが行われている。
ディープラーニングによる物体検知に於いて、比較的知られた実装であるSSDやYOLOでは、膨大な教師画像を用いた学習済モデルを使った転移学習によって、最小限の計算量で、オリジナルデータによるモデル構築が可能となっている。
入力パターンから所定の物体及びその下位カテゴリに於ける特定物体を区別して認識する技術が特開2010−262601号公報(特許文献2)に記載されており、同公報には、走行シーンから道路標識及び看板を認識して強調表示するアプリケーションに於いて特定の看板を区別して強調表示することも記載されている。
表示画像に対して、適切な位置に付加画像を挿入できる画像処理システムが、特開2019−102091号公報(特許文献3)に記載されている。また、同公報には、エクイレクタングラー形式の画像からキューブ投影を行うことについても記載されている。
複数の全天球パノラマ画像から、ユーザ所望の検索条件を満たす画像を検索し得る技術が、特開2017−138719号公報(特許文献4)に記載されている。
しかし、全方位カメラによって記録される写像方式(エクイレクタングラー形式等)では、XY方向の位置によって変形量が異なるため、そのままでは、パターンマッチングや物体検出等の画像処理に於いて、既存の実装技術、汎用的で蓄積量の大きなデータセットや、最新の研究成果を活用することが困難であった。
全方位カメラ20を用いた撮影により得られる全方位動画像から全方位フレーム画像を順に取り出す画像取得手段41と、
前記画像取得手段41により順に取り出される全方位フレーム画像をキューブマップに変換する画像形式変換手段42と、
前記画像形式変換手段42により変換されたキューブマップの各方位の要素画像に対して各々ディープラーニングによる物体検出を行う物体検出手段43と、
前記物体検出手段43により検出された物体を、当該要素画像の方位及び当該要素画像内の位置と、当該のキューブマップが基づく全方位フレーム画像とに対応付けて、所定の記憶手段51のレコードに格納するデータ制御手段47と、
前記物体検出手段43による物体検出処理後のキューブマップを全方位フレーム画像に復元して全方位動画像内の原位置に設定する動画像復元手段49と、
を有することを特徴とする全方位動画像処理装置。
全方位動画像は、例えば、ドームマスター形式の動画像や、エクイレクタングラー形式の動画像等の公知の全天球動画像である。
キューブマップは、一般に、前、後、左、右、上、下の6方位の要素画像(図2内・右欄,参照)から成るが、例えば、ドームマスター形式の動画像の場合等、下画像が無い5方位の要素画像で構成されてもよい。
検出された物体の位置(要素画像内の座標値)は、例えば、当該の物体が前方の要素画像(例:図2・右欄内の前画像,参照)にて検出された場合は、当該「前画像」での座標値であるが、動画像復元手段49により復元される際に、全方位フレーム画像での座標値に変換されて、この座標値も同様に格納されてもよい。
データ制御手段47は、検出された物体の名称も併せて記録するものとする。ディープラーニングによる物体検出では、検出対象の物体が何であるかを示す情報を持っているため、その名称(又は名称に対応するID)も併せて記録するものとする。
[2]構成2
構成1に於いて、
前記物体検出手段43は、キューブマップの各方位の要素画像に対して各々ディープラーニングによる物体検出を行うとともに当該物体の状態を検出し、
前記データ制御手段47は、検出された物体の状態を併せて格納する、
ことを特徴とする全方位動画像処理装置。
物体の状態とは、例えば、橋梁等の構造物の止め具(ボルト等)の破損状態、錆びの状態、錆びが壁面上で垂れている状態、ひび割れ、等である。
構成1又は2に於いて、
さらに、前記全方位カメラ20と同期するGPS受信機10から入力されるGPSデータと、前記全方位動画像のフレームレートとに基づいて、前記画像取得手段41により順に取り出される全方位フレーム画像の各々に対応する時刻データ及び位置データを求めるGPS情報演算手段45を有し、
前記データ制御手段47は、前記GPS情報演算手段45により求めた時刻データ及び位置データを、当該の全方位フレーム画像に対応付けて当該のレコードに格納する、
ことを特徴とする全方位動画像処理装置。
例えば、全方位動画像のフレームレートが30[fps]であれば、30枚の全方位フレーム画像の各々について、時刻データ及び位置データ(緯度・経度)が求められ、対応付けて格納される。
[4]構成4
構成1〜3の何れかに於いて、
前記ディープラーニングが基づく教師データは、道路及び/又は線路に関連する構造物とその状態の画像である、
ことを特徴とする全方位動画像処理装置。
ディープラーニングによる物体検知は、キューブマップの要素画像に対して行われるため、汎用的なデータセットや画像のフォーマット、実装技術、最新の研究成果が、活用され得る。
道路及び/又は線路に関連する構造物とは、例えば、橋梁及びその構成部材各部、トンネルの天井や壁面、路面や線路の状態、各種の標識や路程、等である。
また、状態とは、構造物の止め具(ボルト等)の破損状態、錆びの状態、錆びが壁面上で垂れている状態、ひび割れ、等である。
全方位カメラ20を用いた撮影により得られる全方位動画像から全方位フレーム画像を順に取り出すステップと、
順に取り出される全方位フレーム画像をキューブマップに変換するステップと、
変換されたキューブマップの各方位の要素画像に対して各々ディープラーニングによる物体検出を行うステップと、
検出された物体を当該の方位の要素画像及び当該要素画像内の位置と、当該のキューブマップが基づく全方位フレーム画像とに対応付けて、所定の記憶手段51のレコードに格納するステップと、
物体検出処理後のキューブマップを全方位フレーム画像に復元して全方位動画像内の原位置に設定するステップと、
を順に実行することを特徴とする全方位動画像処理方法。
構成2は、構成1に於いて、前記物体検出手段43は、キューブマップの各方位の要素画像に対して各々ディープラーニングによる物体検出を行うとともに当該物体の状態を検出し、前記データ制御手段47は、検出された物体の状態を併せて格納する、ことを特徴とする全方位動画像処理装置であるため、さらに良好且つ的確に、メンテナンスを行うことができる。
構成3は、構成1又は2に於いて、さらに、前記全方位カメラ20と同期するGPS受信機10から入力されるGPSデータと、前記全方位動画像のフレームレートとに基づいて、前記画像取得手段41により順に取り出される全方位フレーム画像の各々に対応する時刻データ及び位置データを求めるGPS情報演算手段45を有し、前記データ制御手段47は、前記GPS情報演算手段45により求めた時刻データ及び位置データを、当該の全方位フレーム画像に対応付けて当該のレコードに格納する全方位動画像処理装置であるため、高速移動中に撮影した映像であっても、所望の物体の検出位置を正確に知ることができ、メンテナンス等に有用である。また、同一場所の同一物体の状況を、例えば1カ月後等の時間をおいて比較できるため、メンテナンス等に有用である。つまり、同一場所の同一物体の経時的な状態変化を観察できるため、メンテナンス等に有用である。
構成4は、構成1〜3の何れかに於いて、前記ディープラーニングが基づく教師データは、道路及び/又は線路に関連する構造物とその状態の画像である、ことを特徴とする全方位動画像処理装置であるため、公知のデータセットを大量に用いることができ、さらに良好且つ的確にメンテナンスに活用することができる。
図示の全方位動画像処理装置は、GPS受信機10と、全方位カメラ20と、制御装置40と、記憶装置50を有する。
GPS受信機10と全方位カメラ20とは、同期して駆動される。即ち、GPS受信機10がGPS衛星をFIXしたときに出力開始されるデータが、全方位カメラ20から出力される動画像の最初のフレームに対応するように、制御される。
全方位カメラ20から前述のように出力されて、制御装置40へ入力される全方位動画像(エクイレクタングラー形式の動画像)は、まず、画像取得部41にて処理されて、順に、全方位フレーム画像(静止画像)が取り出される。
本実施の形態では、30[fps]のフレームレートであるため、1秒当たり30枚の全方位フレーム画像が順に取り出される。
図2に、エクイレクタングラー形式からキューブマップ形式に変換される様子を例示する。エクイレクタングラー形式の画像(全方位フレーム画像)は、ディスプレイ上では360°ぐるりと一周され得るが、図2の左欄の画像は、プリントアウトされたものであるため、歪んだ状態で描かれている。
このディープラーニングでは、対象の画像が要素画像であるため、XY方向の位置によって変形量が異なるという問題が無い。このため、既存の実装技術や、汎用的であり、したがって蓄積量が非常に大きく、且つ、その蓄積量が増加中のデータセット、最新の研究成果を活用することができる。先述のように、2018年春頃から、一般的なコンピュータ装置によるリアルタイム処理(30[fps]以上)が可能となっているため、これを利用することができ、短時間で精度の高い検出が可能となる。
物体としては、ここでは、橋梁、橋梁を構成する各部の部材、トンネル、トンネルの壁部、天井、その構成部材、標識等、道路に於いてメンテナンスが必要とされる各部が対象とされる。線路の場合も同様である。また、これら各部の状態も併せて検出される。例えば、橋梁等の各部材を固定するボルト等の破損状況や錆びの状態、ボルト等の錆びが壁面上を伝って垂れ下がっている模様、道路面や壁面のひび割れ等も検出される。言い換えれば、教師データとして、これら各部及びその状態の画像が用いられる。
上述のように、検出された物体の位置(座標値)も保持されるため、図1内の下欄右に示すように、検出された物体の位置に、当該物体の名称等を併せて表示することが可能となる。この表示は、適宜、例えば、ハイライト表示等の強調表示としてもよい。なお、%表示されている数値は、当該の物体である確率を示す。
即ち、物体検出部43にてディープラーニングによる物体検出が行われたキューブマップの各要素画像(前、後、左、右、上、下の各画像)は、次に、動画像復元部49へ送られて、まず、全方位フレーム画像(静止画像)に変換され、さらに、元のエクイレクタングー形式の動画像(全方位動画像)に復元される。
この復元された全方位動画像のフレーム(全方位フレーム画像)の各々に、対応する日時刻データ・位置データ(緯度・経度)が、それぞれ対応付けられる。また、こうして対応付けられた日時刻データ・位置データ(緯度・経度)は、記憶装置50のデータベース51の対応するレコードに、図4の如く格納される。
また、日時刻データと位置データも併せて記録されるため、例えば、1月等の間を空けて同一場所の同一物体を比較した場合、その状態の変化(ボルト等の破損が拡大しているか否か,錆びが増加しているか否か,路面や壁面のひび割れが拡大しているか否か等)を容易に知ることができ、メンテナンス等に役立てることができる。
例えば、或る検索キーワード(物体の名称及び/又は日,物体とその状態等)を入力すると、(当該の日に)当該の物体が写っている場所が、地図上に表示される。或いは、物体の名称とその状態を入力すると、当該の物体に当該の状態が生じている場所が、地図上に表示される。
また、地図上の場所を選択する操作入力等に応じて、その要素画像(キューブマップの前/後/左/右/上/下の要素画像)が表示され、当該の要素画像中に当該の物体やその状態が表示される。さらに、所要の操作入力等に応じて、当該の物体の強調表示や拡大表示が行われる。強調表示とは、例えば、当該の物体の名称を、当該の物体の位置に表示して、見易くする等である。必要に応じて、ハイライト表示としてもよい。
なお、上記の表示は、操作入力により指定された場合に行ってもよく、操作入力が無くとも、予め定めた順番に表示するように制御してもよい。また、これらをユーザが適宜に選択可能にしてもよい。
15 GPSロガー
20 全方位カメラ
40 制御装置
41 画像取得手段
42 画像形式変換手段
43 物体検出手段
45 GPS情報演算手段
47 データ制御手段
49 動画像復元手段
50 記憶装置
51 データベース
移動車両に搭載した全方位カメラ20及びGPS受信機10から得られるデータに基づいてデータベース51を作成する情報処理装置であって、
前記全方位カメラ20を用いた撮影により得られる全方位動画像から全方位フレーム画像を順に取り出して前記移動車両から見た各方位(前,後,左,右,上,下)の要素画像から成るキューブマップに変換する画像処理手段41,42と、
前記画像処理手段42により変換されたキューブマップの前記各方位の要素画像に対して各々ディープラーニングによる物体検出を行う物体検出手段43と、
前記GPS受信機10から得られるGPSデータと前記全方位動画像のフレームレートに基づいて、前記画像処理手段41により順に取り出される全方位フレーム画像の各々に対応する時刻データ及び位置データを求めるGPS情報演算手段45と、
前記物体検出手段43により検出された物体及びその状態と、当該物体が検出された要素画像の方位(前/後/左/右/上/下)と、当該要素画像が基づく全方位フレーム画像と、当該全方位フレーム画像に対応する時刻データ及び位置データを、相互に対応付けて所定のデータベース51のレコードに格納するデータ制御手段47と、
を有することを特徴とする情報処理装置。
全方位動画像は、例えば、ドームマスター形式の動画像や、エクイレクタングラー形式の動画像等の公知の全天球動画像である。
キューブマップは、一般に、前、後、左、右、上、下の6方位の要素画像(図2内・右欄,参照)から成るが、例えば、ドームマスター形式の動画像の場合等、下画像が無い5方位の要素画像で構成されてもよい。
データ制御手段47は、検出された物体の位置(要素画像内の座標値)をも、データベース51に格納してもよい。例えば、当該の物体が前方の要素画像(例:図2・右欄内の前画像,参照)にて検出された場合は、当該「前画像」での座標値をも格納してよい。動画像復元手段49により復元される際に、全方位フレーム画像での座標値に変換して、この座標値も同様に格納してもよい。
データ制御手段47は、検出された物体の名称も併せて記録する。ディープラーニングによる物体検出では、検出対象の物体が何であるかを示す情報を持っているため、その名称(又は名称に対応するID)も併せて記録する。
物体の状態とは、例えば、橋梁等の構造物の止め具(ボルト等)の破損状態、錆びの状態、錆びが壁面上で垂れている状態、ひび割れ、等である。
[2]構成2
構成1に於いて、
前記ディープラーニングが基づく教師データは、道路又は線路を走行する移動車両から見た前記各方位の何れかに位置するべき物体とその状態の画像である、
ことを特徴とする情報処理装置。
ディープラーニングによる物体検知は、キューブマップの要素画像に対して行われるため、汎用的なデータセットや画像のフォーマット、実装技術、最新の研究成果が、活用され得る。
道路又は線路を走行する移動車両から見た前記各方位の何れかに位置するべき物体とは、例えば、橋梁及びその構成部材各部、トンネルの天井や壁面、路面や線路の状態、各種の標識や路程、等である。
また、状態とは、構造物の止め具(ボルト等)の破損状態、錆びの状態、錆びが壁面上で垂れている状態、ひび割れ、等である。
移動車両に搭載した全方位カメラ20及びGPS受信機10から得られるデータに基づいてデータベース51を作成する情報処理方法であって、
前記全方位カメラ20を用いた撮影により得られる全方位動画像から全方位フレーム画像を順に取り出して前記移動車両から見た各方位の要素画像から成るキューブマップに変換する画像処理ステップと、
前記画像処理ステップで変換されたキューブマップの各方位の要素画像に対して各々ディープラーニングによる物体検出を行う検出ステップと、
前記GPS受信機10から得られるGPSデータと前記全方位動画像のフレームレートに基づいて、前記画像処理ステップにより順に取り出される全方位フレーム画像の各々に対応する時刻データ及び位置データを求める演算ステップと、
前記検出ステップで検出された物体及びその状態と、当該物体が検出された要素画像の方位と、当該要素画像が基づく全方位フレーム画像と、当該全方位フレーム画像に対応する時刻データ及び位置データを、相互に対応付けて所定のデータベース51のレコードに格納する格納ステップと、
を実行することを特徴とする情報処理方法。
全方位カメラ20で撮影した全方位動画像に基づいて、つまり、全方位動画像から得るキューブマップを用いることにより、汎用的なデータセットや画像のフォーマット、実装技術、最新の研究成果を活用して、ディープラーニングにより精度良く所望の物体を検出することができ、メンテナンス等に好適に用いることができる。
また、高速移動中に撮影した映像であっても、所望の物体の検出位置を正確に知ることができ、メンテナンス等に有用である。また、同一場所の同一物体の状況を、例えば1カ月後等の時間をおいて比較できるため、メンテナンス等に有用である。つまり、同一場所の同一物体の経時的な状態変化を観察できるため、メンテナンス等に有用である。
構成2は、構成1に於いて、前記ディープラーニングが基づく教師データは、道路又は線路を走行する移動車両から見た前記各方位の何れかに位置するべき物体とその状態の画像であることを特徴とする情報処理装置であるため、公知のデータセットを大量に用いることができ、さらに良好且つ的確にメンテナンスに活用することができる。
Claims (5)
- 全方位カメラを用いた撮影により得られる全方位動画像から全方位フレーム画像を順に取り出す画像取得手段と、
前記画像取得手段により順に取り出される全方位フレーム画像をキューブマップに変換する画像形式変換手段と、
前記画像形式変換手段により変換されたキューブマップの各方位の要素画像に対して各々ディープラーニングによる物体検出を行う物体検出手段と、
前記物体検出手段により検出された物体を、当該要素画像の方位及び当該要素画像内の位置と、当該のキューブマップが基づく全方位フレーム画像とに対応付けて、所定の記憶手段のレコードに格納するデータ制御手段と、
前記物体検出手段による物体検出処理後のキューブマップを全方位フレーム画像に復元して全方位動画像内の原位置に設定する動画像復元手段と、
を有することを特徴とする全方位動画像処理装置。 - 請求項1に於いて、
前記物体検出手段は、キューブマップの各方位の要素画像に対して各々ディープラーニングによる物体検出を行うとともに当該物体の状態を検出し、
前記データ制御手段は、検出された物体の状態を併せて格納する、
ことを特徴とする全方位動画像処理装置。 - 請求項1又は請求項2に於いて、
さらに、前記全方位カメラと同期するGPS受信機から入力されるGPSデータと、前記全方位動画像のフレームレートとに基づいて、前記画像取得手段により順に取り出される全方位フレーム画像の各々に対応する時刻データ及び位置データを求めるGPS情報演算手段を有し、
前記データ制御手段は、前記GPS情報演算手段により求めた時刻データ及び位置データを、当該の全方位フレーム画像に対応付けて当該のレコードに格納する、
ことを特徴とする全方位動画像処理装置。 - 請求項1〜請求項3の何れかに於いて、
前記ディープラーニングが基づく教師データは、道路及び/又は線路に関連する構造物とその状態の画像である、
ことを特徴とする全方位動画像処理装置。 - 全方位カメラを用いた撮影により得られる全方位動画像から全方位フレーム画像を順に取り出すステップと、
順に取り出される全方位フレーム画像をキューブマップに変換するステップと、
変換されたキューブマップの各方位の要素画像に対して各々ディープラーニングによる物体検出を行うステップと、
検出された物体を当該の方位の要素画像及び当該要素画像内の位置と、当該のキューブマップが基づく全方位フレーム画像とに対応付けて、所定の記憶手段のレコードに格納するステップと、
物体検出処理後のキューブマップを全方位フレーム画像に復元して全方位動画像内の原位置に設定するステップと、
を順に実行することを特徴とする全方位動画像処理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019148268A JP6704134B1 (ja) | 2019-08-12 | 2019-08-12 | 情報処理装置及び方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019148268A JP6704134B1 (ja) | 2019-08-12 | 2019-08-12 | 情報処理装置及び方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP6704134B1 JP6704134B1 (ja) | 2020-06-03 |
JP2021028813A true JP2021028813A (ja) | 2021-02-25 |
Family
ID=70858253
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019148268A Active JP6704134B1 (ja) | 2019-08-12 | 2019-08-12 | 情報処理装置及び方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6704134B1 (ja) |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002357557A (ja) * | 2001-06-04 | 2002-12-13 | Riosu Corp:Kk | 道路や周辺施設等の管理システム |
-
2019
- 2019-08-12 JP JP2019148268A patent/JP6704134B1/ja active Active
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002357557A (ja) * | 2001-06-04 | 2002-12-13 | Riosu Corp:Kk | 道路や周辺施設等の管理システム |
Non-Patent Citations (1)
Title |
---|
井上慶彦 外2名: "全方位カメラを用いた物体検出とトラッキング −視覚障害者支援システムの実現に向けて−", 情報処理学会 研究報告, vol. Vo1.2018-CVIM-212, No.20, JPN6019049681, 3 May 2018 (2018-05-03), pages 1 - 6, ISSN: 0004177187 * |
Also Published As
Publication number | Publication date |
---|---|
JP6704134B1 (ja) | 2020-06-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP3432212B2 (ja) | 画像処理装置及び方法 | |
JP4717760B2 (ja) | 物体認識装置および映像物体測位装置 | |
US8036827B2 (en) | Cognitive change detection system | |
EP2261604B1 (en) | Computer arrangement for and method of calculating motion vectors using range sensor data | |
US11430199B2 (en) | Feature recognition assisted super-resolution method | |
KR20150014264A (ko) | 교통 사고 현장 재현 장치 및 방법 | |
JP6950832B2 (ja) | 位置座標推定装置、位置座標推定方法およびプログラム | |
JP2009134719A (ja) | イメージデータセットにおける遮られた物体を明らかにするシステム及び方法 | |
CN103679730A (zh) | 基于gis的视频摘要生成方法 | |
JP2022514891A (ja) | 教師あり機械学習のための画像の自動ラベリングのためのシステムおよび方法 | |
KR100489890B1 (ko) | 스테레오 비디오 또는/및 지리객체의 상세정보 제공 장치및 그방법 | |
CN112750203A (zh) | 模型重建方法、装置、设备及存储介质 | |
KR102463698B1 (ko) | 도로표지판의 위치정보 데이터베이스 구축 시스템 및 그 방법과 이를 이용한 차량의 위치 추정 장치 및 그 방법 | |
JP6704134B1 (ja) | 情報処理装置及び方法 | |
JPH099197A (ja) | 連続ステレオ画像データ記録装置 | |
KR100550430B1 (ko) | 3차원 정보를 이용한 이동체의 주행 안내장치 및 방법 | |
CN101204088A (zh) | 元数据添加装置和元数据添加方法 | |
JP2001034632A (ja) | 画像検索方法 | |
JP6509546B2 (ja) | 画像検索システム及び画像検索方法 | |
JP2008099076A (ja) | 道路維持管理システムに用いる道路画像の取得方法 | |
KR101323099B1 (ko) | 모자이크 영상 생성 장치 | |
JP2003051021A (ja) | 情報更新装置、情報取得装置および情報更新処理装置 | |
JP2019174989A (ja) | 画像圧縮方法及び画像圧縮装置 | |
JP2019121821A (ja) | 撮影システム | |
CN115619944A (zh) | 一种三维场景加载方法、装置和设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190812 |
|
A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20190812 |
|
A975 | Report on accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A971005 Effective date: 20191206 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20191206 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20191224 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200223 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20200414 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20200414 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6704134 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |