JP6548518B2 - 情報処理装置および情報処理方法 - Google Patents
情報処理装置および情報処理方法 Download PDFInfo
- Publication number
- JP6548518B2 JP6548518B2 JP2015167238A JP2015167238A JP6548518B2 JP 6548518 B2 JP6548518 B2 JP 6548518B2 JP 2015167238 A JP2015167238 A JP 2015167238A JP 2015167238 A JP2015167238 A JP 2015167238A JP 6548518 B2 JP6548518 B2 JP 6548518B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- distance
- position information
- search range
- block matching
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C3/00—Measuring distances in line of sight; Optical rangefinders
- G01C3/02—Details
- G01C3/06—Use of electric means to obtain final indication
- G01C3/08—Use of electric radiation detectors
- G01C3/085—Use of electric radiation detectors with electronic parallax measurement
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
- G06T7/74—Determining position or orientation of objects or cameras using feature-based methods involving reference images or patches
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C3/00—Measuring distances in line of sight; Optical rangefinders
- G01C3/02—Details
- G01C3/06—Use of electric means to obtain final indication
- G01C3/08—Use of electric radiation detectors
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T1/00—General purpose image data processing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/55—Depth or shape recovery from multiple images
- G06T7/593—Depth or shape recovery from multiple images from stereo images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/60—Analysis of geometric attributes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10004—Still image; Photographic image
- G06T2207/10012—Stereo images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10028—Range image; Depth image; 3D point clouds
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20021—Dividing image into blocks, subimages or windows
Landscapes
- Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Radar, Positioning & Navigation (AREA)
- Electromagnetism (AREA)
- Remote Sensing (AREA)
- Geometry (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
- Measurement Of Optical Distance (AREA)
- Length Measuring Devices By Optical Means (AREA)
Description
Δx=Z×w/W
ここでWはカメラの横方向の画素数、wは距離Zが単位長さのときの実空間の横方向の視野範囲であり視角によって定まる。距離Lだけ離れたカメラで撮影された同一の対象物は、その画像上でおよそ下記のような画素数上の視差Dを有する。
D=L/Δx=L×(W/w)×(1/Z)=C/Z
ここでCはカメラおよびそのセッティングにより定まる値であり、運用時は定数とみなせる。
Dmin=C/(Ze+ΔZb)
となる。最も手前にある場合、すなわちZ=Ze−ΔZfの場合の視差が最も大きく表れ、上述した式からその視差Dmaxは、
Dmax=C/(Ze−ΔZf)
となる。
Claims (14)
- 既知の間隔を有する左右のカメラで同一空間を撮影したステレオ画像のデータを取得する画像取得部と、
前記ステレオ画像の一方に設定した参照ブロックに対し他方に設定した探索範囲内で類似度の高い領域を検出するブロックマッチングを行うことにより対応点を検出し、その視差に基づき対象物のカメラからの距離を含む位置の情報を生成し出力する位置情報生成部と、
を備え、
前記位置情報生成部は、所定の探索範囲で前記ステレオ画像に対しブロックマッチングを行うことにより被写体のカメラからの距離を取得して、当該距離を画像平面に画素値として表した奥行き画像を生成したうえ、それに基づき距離値のヒストグラムを生成し、しきい値以上の画素数を有する距離に基づき対象物の前記位置の概略値を取得する距離概略値取得部を含み、当該位置の概略値に基づき、前記探索範囲の開始位置および長さを調整して決定したうえで前記ブロックマッチングを行うことにより、同じ対象物の最終的な前記位置の情報を生成することを特徴とする情報処理装置。 - 前記距離概略値取得部が行うブロックマッチングは、その結果を用いて探索範囲を調整して行うブロックマッチングと比較し、低解像度のステレオ画像を用いる、より簡易な類似度計算手法を用いる、低頻度で実施する、のうち少なくともいずれかであることを特徴とする請求項1に記載の情報処理装置。
- 前記位置情報生成部は、前記距離概略値取得部が行ったブロックマッチングにより生成した奥行き画像のうち、前記対象物の領域を、その結果を用いて探索範囲を調整して行ったブロックマッチングにより生成した奥行き画像のデータに置換することにより、最終的な位置の情報を生成することを特徴とする請求項1または2に記載の情報処理装置。
- 前記位置情報生成部は、前記距離概略値取得部が行ったブロックマッチング時に、対応するブロックを決定した根拠となった類似度と、探索範囲を調整して行ったブロックマッチング時に、対応するブロックを決定した根拠となった類似度とを比較し、後者が大きければ奥行き画像のデータを置換することを特徴とする請求項3に記載の情報処理装置。
- 既知の間隔を有する左右のカメラで同一空間を撮影したステレオ画像のデータを取得する画像取得部と、
前記ステレオ画像の一方に設定した参照ブロックに対し他方に設定した探索範囲内で類似度の高い領域を検出するブロックマッチングを行うことにより対応点を検出し、その視差に基づき対象物のカメラからの距離を含む位置の情報を生成し出力する位置情報生成部と、
を備え、
前記位置情報生成部は、実空間に仮想的な検知面を設定し、それをステレオ画像の一方の画像に投影してなる検知領域と、他方の画像において前記検知領域に対応する領域を、前記検知面のカメラからの距離に対応する視差分だけ視差を解消する方向に平行移動させた視差補正領域とを設定し、ステレオ画像のうち前記検知領域と前記視差補正領域内の画像をマッチングすることで、前記検知面の位置に対象物が存在するか否かをマッチング評価値の高い画素の数に基づき判定し、その判定結果に基づき対象物の前記位置の概略値を取得する距離概略値取得部を含み、当該位置の概略値に基づき、前記探索範囲の開始位置および長さを調整して決定したうえで前記ブロックマッチングを行うことにより、同じ対象物の最終的な前記位置の情報を生成することを特徴とする情報処理装置。 - 既知の間隔を有する左右のカメラで同一空間を撮影したステレオ画像のデータを取得する画像取得部と、
前記ステレオ画像の一方に設定した参照ブロックに対し他方に設定した探索範囲内で類似度の高い領域を検出するブロックマッチングを行うことにより対応点を検出し、その視差に基づき対象物のカメラからの距離を含む位置の情報を生成し出力する位置情報生成部と、
を備え、
前記位置情報生成部は、カメラからの距離が既知の所定位置にユーザを移動させる指示を表示装置またはスピーカーから出力させ、当該所定位置にユーザが移動した時点を判定することにより対象物の前記位置の概略値を取得する距離概略値取得部を含み、当該位置の概略値に基づき、前記探索範囲の開始位置および長さを調整して決定したうえで前記ブロックマッチングを行うことにより、同じ対象物の最終的な前記位置の情報を生成することを特徴とする情報処理装置。 - 前記位置情報生成部は、異なる複数の前記位置の概略値に対し、それぞれに対応する位置および長さに探索範囲を調整して前記ブロックマッチングを行うことにより、検出された対応点に基づきカメラからの距離を取得して、当該距離を画像平面に画素値として表した複数の奥行き画像を生成し、それらを合成することにより、最終的な前記位置の情報を生成することを特徴とする請求項1、5、または6に記載の情報処理装置。
- 前記複数の位置の概略値は前景および背景の位置に対応し、背景に対するブロックマッチングは、前景に対するブロックマッチングと比較し、低解像度のステレオ画像を用いる、より簡易な類似度計算手法を用いる、低頻度で実施する、のうち少なくともいずれかであることを特徴とする請求項7に記載の情報処理装置。
- 各位置の概略値に対応するブロックマッチング時に、対応するブロックを決定した根拠となった類似度を互いに比較し、類似度が大きい方のブロックマッチングにより生成された奥行き画像のデータを採用することにより奥行き画像を合成することを特徴とする請求項7または8に記載の情報処理装置。
- 前記位置の情報に基づき所定の情報処理を行い出力データを生成する出力情報生成部をさらに備えたことを特徴とする請求項1から9のいずれかに記載の情報処理装置。
- 既知の間隔を有する左右のカメラで同一空間を撮影したステレオ画像のデータを撮像装置から取得するステップと、
前記ステレオ画像の一方に設定した参照ブロックに対し他方に設定した探索範囲内で類似度の高い領域を検出するブロックマッチングを行うことにより対応点を検出し、その視差に基づき対象物のカメラからの距離を含む位置の情報を生成し出力するステップと、
を含み、
前記位置の情報を生成するステップは、所定の探索範囲で前記ステレオ画像に対しブロックマッチングを行うことにより被写体のカメラからの距離を取得して、当該距離を画像平面に画素値として表した奥行き画像を生成したうえ、それに基づき距離値のヒストグラムを生成し、しきい値以上の画素数を有する距離に基づき対象物の前記位置の概略値を取得するステップを含み、当該位置の概略値に基づき、前記探索範囲の開始位置および長さを調整して決定したうえで前記ブロックマッチングを行うことにより、同じ対象物の最終的な前記位置の情報を生成することを特徴とする情報処理装置による情報処理方法。 - 既知の間隔を有する左右のカメラで同一空間を撮影したステレオ画像のデータを撮像装置から取得するステップと、
前記ステレオ画像の一方に設定した参照ブロックに対し他方に設定した探索範囲内で類似度の高い領域を検出するブロックマッチングを行うことにより対応点を検出し、その視差に基づき対象物のカメラからの距離を含む位置の情報を生成し出力するステップと、
を含み、
前記位置の情報を生成するステップは、実空間に仮想的な検知面を設定し、それをステレオ画像の一方の画像に投影してなる検知領域と、他方の画像において前記検知領域に対応する領域を、前記検知面のカメラからの距離に対応する視差分だけ視差を解消する方向に平行移動させた視差補正領域とを設定し、ステレオ画像のうち前記検知領域と前記視差補正領域内の画像をマッチングすることで、前記検知面の位置に対象物が存在するか否かをマッチング評価値の高い画素の数に基づき判定し、その判定結果に基づき対象物の前記位置の概略値を取得するステップを含み、当該位置の概略値に基づき、前記探索範囲の開始位置および長さを調整して決定したうえで前記ブロックマッチングを行うことにより、同じ対象物の最終的な前記位置の情報を生成することを特徴とする情報処理装置による情報処理方法。 - 既知の間隔を有する左右のカメラで同一空間を撮影したステレオ画像のデータを撮像装置から取得するステップと、
前記ステレオ画像の一方に設定した参照ブロックに対し他方に設定した探索範囲内で類似度の高い領域を検出するブロックマッチングを行うことにより対応点を検出し、その視差に基づき対象物のカメラからの距離を含む位置の情報を生成し出力するステップと、
を含み、
前記位置の情報を生成するステップは、カメラからの距離が既知の所定位置にユーザを移動させる指示を表示装置またはスピーカーから出力させ、当該所定位置にユーザが移動した時点を判定することにより対象物の前記位置の概略値を取得するステップを含み、当該位置の概略値に基づき、前記探索範囲の開始位置および長さを調整して決定したうえで前記ブロックマッチングを行うことにより、同じ対象物の最終的な前記位置の情報を生成することを特徴とする情報処理装置による情報処理方法。 - 既知の間隔を有する左右のカメラで同一空間を撮影したステレオ画像のデータを取得する機能と、
前記ステレオ画像の一方に設定した参照ブロックに対し他方に設定した探索範囲内で類似度の高い領域を検出するブロックマッチングを行うことにより対応点を検出し、その視差に基づき対象物のカメラからの距離を含む位置の情報を生成し出力する機能と、
をコンピュータに実現させ、
前記位置の情報を生成する機能は、所定の探索範囲で前記ステレオ画像に対しブロックマッチングを行うことにより被写体のカメラからの距離を取得して、当該距離を画像平面に画素値として表した奥行き画像を生成したうえ、それに基づき距離値のヒストグラムを生成し、しきい値以上の画素数を有する距離に基づき対象物の前記位置の概略値を取得する機能、または、実空間に仮想的な検知面を設定し、それをステレオ画像の一方の画像に投影してなる検知領域と、他方の画像において前記検知領域に対応する領域を、前記検知面のカメラからの距離に対応する視差分だけ視差を解消する方向に平行移動させた視差補正領域とを設定し、ステレオ画像のうち前記検知領域と前記視差補正領域内の画像をマッチングすることで、前記検知面の位置に対象物が存在するか否かをマッチング評価値の高い画素の数に基づき判定し、その判定結果に基づき対象物の前記位置の概略値を取得する機能、または、カメラからの距離が既知の所定位置にユーザを移動させる指示を表示装置またはスピーカーから出力させ、当該所定位置にユーザが移動した時点を判定することにより対象物の前記位置の概略値を取得する機能、を含み、当該位置の概略値に基づき、前記探索範囲の開始位置および長さを調整して決定したうえでブロックマッチングを行うことにより、同じ対象物の最終的な前記位置の情報を生成することを特徴とするコンピュータプログラム。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015167238A JP6548518B2 (ja) | 2015-08-26 | 2015-08-26 | 情報処理装置および情報処理方法 |
US15/740,639 US10559089B2 (en) | 2015-08-26 | 2016-08-19 | Information processing apparatus and information processing method |
EP16839200.9A EP3343500B1 (en) | 2015-08-26 | 2016-08-19 | Image processing device and image processing method |
PCT/JP2016/074207 WO2017033853A1 (ja) | 2015-08-26 | 2016-08-19 | 情報処理装置および情報処理方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015167238A JP6548518B2 (ja) | 2015-08-26 | 2015-08-26 | 情報処理装置および情報処理方法 |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2017045283A JP2017045283A (ja) | 2017-03-02 |
JP2017045283A5 JP2017045283A5 (ja) | 2017-11-09 |
JP6548518B2 true JP6548518B2 (ja) | 2019-07-24 |
Family
ID=58100144
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015167238A Active JP6548518B2 (ja) | 2015-08-26 | 2015-08-26 | 情報処理装置および情報処理方法 |
Country Status (4)
Country | Link |
---|---|
US (1) | US10559089B2 (ja) |
EP (1) | EP3343500B1 (ja) |
JP (1) | JP6548518B2 (ja) |
WO (1) | WO2017033853A1 (ja) |
Families Citing this family (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10192323B2 (en) * | 2016-04-08 | 2019-01-29 | Orbital Insight, Inc. | Remote determination of containers in geographical region |
JP6899673B2 (ja) * | 2017-03-15 | 2021-07-07 | 日立Astemo株式会社 | 物体距離検出装置 |
CN108230383B (zh) * | 2017-03-29 | 2021-03-23 | 北京市商汤科技开发有限公司 | 手部三维数据确定方法、装置及电子设备 |
JP2018206063A (ja) * | 2017-06-05 | 2018-12-27 | 株式会社東海理化電機製作所 | 画像認識装置及び画像認識方法 |
KR20190013224A (ko) * | 2017-08-01 | 2019-02-11 | 엘지전자 주식회사 | 이동 단말기 |
WO2019082797A1 (ja) * | 2017-10-23 | 2019-05-02 | パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ | 再構成方法および再構成装置 |
JP6857147B2 (ja) * | 2018-03-15 | 2021-04-14 | 株式会社日立製作所 | 三次元画像処理装置、及び三次元画像処理方法 |
JP7098365B2 (ja) * | 2018-03-15 | 2022-07-11 | キヤノン株式会社 | 画像処理装置、画像処理方法およびプログラム |
JP7034781B2 (ja) * | 2018-03-16 | 2022-03-14 | キヤノン株式会社 | 画像処理装置、画像処理方法、及びプログラム |
CN108629809B (zh) * | 2018-04-26 | 2020-08-28 | 浙江大学 | 一种精确高效的立体匹配方法 |
WO2020047863A1 (zh) * | 2018-09-07 | 2020-03-12 | 深圳配天智能技术研究院有限公司 | 一种测量距离的方法及装置 |
JP7078173B2 (ja) * | 2019-03-14 | 2022-05-31 | オムロン株式会社 | 画像処理装置及び3次元計測システム |
US11348271B2 (en) | 2019-03-14 | 2022-05-31 | Omron Corporation | Image processing device and three-dimensional measuring system |
JP7334051B2 (ja) * | 2019-04-04 | 2023-08-28 | 東芝デベロップメントエンジニアリング株式会社 | 画像処理装置 |
JP7293100B2 (ja) * | 2019-12-17 | 2023-06-19 | 日立Astemo株式会社 | カメラシステム |
CN113573039A (zh) * | 2020-04-29 | 2021-10-29 | 思特威(上海)电子科技股份有限公司 | 目标深度值获取方法及双目系统 |
CN111724421B (zh) * | 2020-06-29 | 2024-01-09 | 深圳市慧鲤科技有限公司 | 图像处理方法及装置、电子设备及存储介质 |
WO2023136050A1 (ja) * | 2022-01-14 | 2023-07-20 | パナソニックIpマネジメント株式会社 | 画像処理装置および画像処理方法 |
JP2023166832A (ja) * | 2022-05-10 | 2023-11-22 | 日立Astemo株式会社 | 画像処理装置及び画像処理方法 |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
SG64486A1 (en) * | 1997-03-27 | 1999-04-27 | Sony Corp | Method and apparatus for information processing computer readable medium and authoring system |
JP4005679B2 (ja) * | 1997-11-19 | 2007-11-07 | 富士重工業株式会社 | 自律走行車の周囲環境認識装置 |
JP2001346031A (ja) * | 2000-06-05 | 2001-12-14 | Fuji Photo Film Co Ltd | 画像合成方法及び装置 |
EP1967942A1 (en) | 2005-10-26 | 2008-09-10 | Sony Computer Entertainment America, Inc. | System and method for interfacing and computer program |
JP5098369B2 (ja) | 2007-03-06 | 2012-12-12 | コニカミノルタホールディングス株式会社 | 距離画像生成装置、距離画像生成方法及びプログラム |
JP2008309637A (ja) * | 2007-06-14 | 2008-12-25 | Konica Minolta Holdings Inc | 障害物計測方法、障害物計測装置及び障害物計測システム |
JP2012002683A (ja) * | 2010-06-17 | 2012-01-05 | Fuji Electric Co Ltd | ステレオ画像処理方法およびステレオ画像処理装置 |
JP5792662B2 (ja) * | 2011-03-23 | 2015-10-14 | シャープ株式会社 | 視差算出装置、距離算出装置及び視差算出方法 |
JP2012008584A (ja) | 2011-08-05 | 2012-01-12 | Toshiba Corp | 映像表示装置、通知方法、及び位置判定装置 |
JP6186184B2 (ja) * | 2013-06-21 | 2017-08-23 | 株式会社ソニー・インタラクティブエンタテインメント | 画像処理装置、画像処理システム、および画像処理方法 |
WO2019082797A1 (ja) * | 2017-10-23 | 2019-05-02 | パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ | 再構成方法および再構成装置 |
-
2015
- 2015-08-26 JP JP2015167238A patent/JP6548518B2/ja active Active
-
2016
- 2016-08-19 EP EP16839200.9A patent/EP3343500B1/en active Active
- 2016-08-19 US US15/740,639 patent/US10559089B2/en active Active
- 2016-08-19 WO PCT/JP2016/074207 patent/WO2017033853A1/ja unknown
Also Published As
Publication number | Publication date |
---|---|
JP2017045283A (ja) | 2017-03-02 |
US20180189975A1 (en) | 2018-07-05 |
EP3343500B1 (en) | 2021-06-30 |
EP3343500A1 (en) | 2018-07-04 |
EP3343500A4 (en) | 2019-12-04 |
WO2017033853A1 (ja) | 2017-03-02 |
US10559089B2 (en) | 2020-02-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6548518B2 (ja) | 情報処理装置および情報処理方法 | |
CN104380338B (zh) | 信息处理器以及信息处理方法 | |
US10293252B2 (en) | Image processing device, system and method based on position detection | |
US9542755B2 (en) | Image processor and image processing method | |
US10365767B2 (en) | Augmented reality image processing apparatus and method, and program | |
US9460337B2 (en) | Information processor and information processing method | |
US9767611B2 (en) | Information processing apparatus and method for estimating depth values using an approximate plane | |
US9148637B2 (en) | Face detection and tracking | |
US10063838B2 (en) | Information processor, information processing method, and computer program | |
WO2015122079A1 (ja) | 情報処理装置および情報処理方法 | |
US9785854B2 (en) | Information processor, information processing method, and computer program | |
CN110998659A (zh) | 图像处理系统、图像处理方法、及程序 | |
US11710273B2 (en) | Image processing | |
JP6300560B2 (ja) | 情報処理装置および情報処理方法 | |
CN110678905A (zh) | 用于处理深度图的装置及方法 | |
KR20120092960A (ko) | 가상 캐릭터 제어 시스템 및 방법 | |
JP6165650B2 (ja) | 情報処理装置および情報処理方法 | |
KR20150129990A (ko) | 효율적인 스테레오 매칭의 수행 장치 및 방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20170929 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20170929 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20181204 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190201 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20190604 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20190625 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6548518 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |