JP6385241B2 - 画像処理装置、画像処理方法およびプログラム - Google Patents
画像処理装置、画像処理方法およびプログラム Download PDFInfo
- Publication number
- JP6385241B2 JP6385241B2 JP2014218392A JP2014218392A JP6385241B2 JP 6385241 B2 JP6385241 B2 JP 6385241B2 JP 2014218392 A JP2014218392 A JP 2014218392A JP 2014218392 A JP2014218392 A JP 2014218392A JP 6385241 B2 JP6385241 B2 JP 6385241B2
- Authority
- JP
- Japan
- Prior art keywords
- light field
- field data
- data
- focal plane
- amount
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003672 processing method Methods 0.000 title claims description 3
- 230000009467 reduction Effects 0.000 claims description 32
- 238000000034 method Methods 0.000 claims description 20
- 238000001514 detection method Methods 0.000 claims description 15
- 238000003384 imaging method Methods 0.000 description 17
- 230000006870 function Effects 0.000 description 9
- 230000003287 optical effect Effects 0.000 description 9
- 238000010586 diagram Methods 0.000 description 7
- 238000004364 calculation method Methods 0.000 description 6
- 230000008569 process Effects 0.000 description 6
- 210000001747 pupil Anatomy 0.000 description 6
- 238000006243 chemical reaction Methods 0.000 description 5
- 238000005259 measurement Methods 0.000 description 3
- 230000015572 biosynthetic process Effects 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 238000013500 data storage Methods 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 238000001454 recorded image Methods 0.000 description 2
- 238000004590 computer program Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 230000011218 segmentation Effects 0.000 description 1
- 238000003786 synthesis reaction Methods 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/207—Image signal generators using stereoscopic image cameras using a single 2D image sensor
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/73—Deblurring; Sharpening
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/111—Transformation of image signals corresponding to virtual viewpoints, e.g. spatial image interpolation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/128—Adjusting depth or disparity
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10052—Images from lightfield camera
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Studio Devices (AREA)
- Automatic Focus Adjustment (AREA)
- Transforming Light Signals Into Electric Signals (AREA)
Description
LFデータ = N×M …(1)
なお、このようなLFデータに基づいて合成される最終出力画素データの数はマイクロレンズの数であるNと同一の数となる。
(2)後ピンのときには、撮像光学系が結像する位置として、A像用画素がP5、B像用画素がP9のML下の画素になる。この時、相関演算で求められるA像用画素群とB像用画素群の像ずれ量N(2)が発生する。
(3)前ピンのときには、撮像光学系と結像する位置として、A像用画素がP9、B像用画素がP5のML下の画素になる。この時、相関演算で求められるA像用画素群とB像用画素群の像ずれ量はN(3)は、後ピンとは逆方向の像ずれ量が発生する。
d = N × K…(3)
K値は前述の通り、基準となる分割画素との相対的なずれ量を求める組み合わせの数だけ存在している。本実施例では基準となる分割画素を1Aとすると、1Aと、1Aを除く35画素の列1〜6と行A〜Fで示される座標の分割画素の組み合わせだけ存在しており、それぞれをK2A〜K6Fとする。
N2A=dc/K2A…(4)
上述した例では、撮影画像から被写体の位置を検出し、その検出結果から被写体のデフォーカス範囲を判定しているが、このような構成の代わりに被写体距離とリフォーカス可能範囲を直接設定する構成にしてもよい。例えば、4m先の被写体のリフォーカス可能範囲を1mに設定する、あるいは5mの先の被写体のリフォーカス可能範囲を50cmに設定するなどのように設定できる種種のユーザー設定手段を設ける構成にしてもよい。設定された被写体距離とリフォーカス可能範囲から仮想焦点面の位置と加算画素数を決定することで、本発明のLFデータのデータ量の削減可能となる。
Claims (16)
- 複数の視差画像を含むライトフィールドデータを取得するデータ取得手段と、
前記ライトフィールドデータの仮想焦点面を設定する設定手段と、
前記ライトフィールドデータから、焦点面が前記仮想焦点面に移動されたライトフィールドデータを生成する再構成手段と、
前記生成されたライトフィールドデータのデータ削減量を、前記生成されたライトフィールドデータのリフォーカス可能範囲に従って決定する決定手段と、
前記データ削減量に従って前記生成されたライトフィールドデータのデータ量を削減する削減手段と、を備えることを特徴とする画像処理装置。 - 前記再構成手段による前記仮想焦点面におけるライトフィールドデータの生成は、前記取得されたライトフィールドデータの焦点面に対する前記仮想焦点面のデフォーカス量に基づいたシフト量に従った前記取得されたライトフィールドデータの並び替えであることを特徴とする請求項1に記載の画像処理装置。
- 前記データ削減量はライトフィールドデータの複数の分割画素を含む単位画素セルの画素データの加算画素数であり、前記決定手段は、前記生成されたライトフィールドデータにおける前記リフォーカス可能範囲と前記加算画素数との関係に従って前記データ削減量を決定し、前記削減手段は、前記決定された加算画素数に従って、前記生成されたライトフィールドデータの前記単位画素セルの画素データを加算することを特徴とする請求項1又は2に記載の画像処理装置。
- 前記加算画素数は、前記単位画素セルが、水平画素数をN、垂直画素数をMとして分割数がN×Mの前記分割画素からなる場合、前記分割数を変更するための分割単位に含まれる前記分割画素の数であることを特徴とする請求項3に記載の画像処理装置。
- 前記決定手段が決定する前記データ削減量は、前記生成されたライトフィールドデータのリフォーカス可能範囲が被写体の位置の遠端と近端を含むことができる最も大きい加算画素数であることを特徴とする請求項4に記載の画像処理装置。
- 前記設定手段は、前記取得されたライトフィールドデータから被写体の位置を検出する被写体検出手段を有し、前記仮想焦点面は、前記被写体の位置に従って前記仮想焦点面を設定することを特徴とする請求項1から5のいずれか1項に記載の画像処理装置。
- 前記設定手段は、前記仮想焦点面と前記生成されたライトフィールドデータのリフォーカス可能範囲を設定するユーザー設定手段を有することを特徴とする請求項1から5のいずれか1項に記載の画像処理装置。
- 複数の視差画像を含むライトフィールドデータを取得するデータ取得手段と、
前記ライトフィールドデータのデータ量を削減したライトフィールドデータの生成を指示する指示手段と、
前記ライトフィールドデータから、前記指示手段による指示に応じて、焦点面が仮想焦点面に移動されたライトフィールドデータを生成する再構成手段と、
前記生成されたライトフィールドデータの複数の分割画素を含む単位画素セルの画素データの加算を行うことでデータ量を削減したライトフィールドデータを生成する削減手段と、を有し、
前記再構成手段は、前記ライトフィールドデータを用いて検出された特定の被写体が生成後のライトフィールドデータのリフォーカス可能範囲に含まれるような仮想焦点面を設定し、
前記削減手段は、前記特定の被写体が生成後のリフォーカス可能範囲に含まれるような加算方法でデータ量を削減したライトフィールドデータを生成することを特徴とする画像処理装置。 - 複数の視差画像を含むライトフィールドデータを取得するデータ取得手段と、
前記ライトフィールドデータのデータ量を削減したライトフィールドデータの生成を指示する指示手段と、
前記ライトフィールドデータから、前記指示手段による指示に応じて、焦点面が仮想焦点面に移動されたライトフィールドデータを生成する再構成手段と、
前記生成されたライトフィールドデータの複数の分割画素を含む単位画素セルの画素データの加算を行うことでデータ量を削減したライトフィールドデータを生成する削減手段と、を有し、
前記再構成手段は、指定された被写体距離の範囲が生成後のライトフィールドデータのリフォーカス可能範囲に含まれるような仮想焦点面を設定し、
前記削減手段は、前記指定された被写体距離の範囲が生成後のリフォーカス可能範囲に含まれるような加算方法でデータ量を削減したライトフィールドデータを生成することを特徴とする画像処理装置。 - 複数の視差画像を含むライトフィールドデータを取得するデータ取得工程と、
前記ライトフィールドデータの仮想焦点面を設定する設定工程と、
前記ライトフィールドデータから、焦点面が前記仮想焦点面に移動されたライトフィールドデータを生成する再構成工程と、
前記生成されたライトフィールドデータのデータ削減量を、前記生成されたライトフィールドデータのリフォーカス可能範囲に従って決定する決定工程と、
前記データ削減量に従って前記生成されたライトフィールドデータのデータ量を削減する削減工程と、
を備えることを特徴とする画像処理方法。 - 複数の視差画像を含むライトフィールドデータを取得するデータ取得工程と、
前記ライトフィールドデータのデータ量を削減したライトフィールドデータの生成を指示する指示工程と、
前記ライトフィールドデータから、前記指示工程における指示に応じて、焦点面が仮想焦点面に移動されたライトフィールドデータを生成する再構成工程と、
前記生成されたライトフィールドデータの複数の分割画素を含む単位画素セルの画素データの加算を行うことでデータ量を削減したライトフィールドデータを生成する削減工程と、を有し、
前記再構成工程では、前記ライトフィールドデータを用いて検出された特定の被写体が生成後のライトフィールドデータのリフォーカス可能範囲に含まれるような仮想焦点面を設定し、
前記削減工程では、前記特定の被写体が生成後のリフォーカス可能範囲に含まれるような加算方法でデータ量を削減したライトフィールドデータを生成することを特徴とする画像処理方法。 - 複数の視差画像を含むライトフィールドデータを取得するデータ取得工程と、
前記ライトフィールドデータのデータ量を削減したライトフィールドデータの生成を指示する指示工程と、
前記ライトフィールドデータから、前記指示工程による指示に応じて、焦点面が仮想焦点面に移動されたライトフィールドデータを生成する再構成工程と、
前記生成されたライトフィールドデータの複数の分割画素を含む単位画素セルの画素データの加算を行うことでデータ量を削減したライトフィールドデータを生成する削減工程と、を有し、
前記再構成工程では、指定された被写体距離の範囲が生成後のライトフィールドデータのリフォーカス可能範囲に含まれるような仮想焦点面を設定し、
前記削減工程では、前記指定された被写体距離の範囲が生成後のリフォーカス可能範囲に含まれるような加算方法でデータ量を削減したライトフィールドデータを生成することを特徴とする画像処理方法。 - 画像処理装置を制御するプログラムであり、
コンピュータを、
複数の視差画像を含むライトフィールドデータを取得するデータ取得手段、
前記ライトフィールドデータの仮想焦点面を設定する設定手段、
前記ライトフィールドデータから、焦点面が前記仮想焦点面に移動されたライトフィールドデータを生成する再構成手段、
前記生成されたライトフィールドデータのデータ削減量を、前記生成されたライトフィールドデータのリフォーカス可能範囲に従って決定する決定手段、
前記データ削減量に従って前記生成されたライトフィールドデータのデータ量を削減する削減手段、
として機能させることを特徴とするプログラム。 - 画像処理装置を制御するプログラムであり、
コンピュータを、
複数の視差画像を含むライトフィールドデータを取得するデータ取得手段、
前記ライトフィールドデータのデータ量を削減したライトフィールドデータの生成を指示する指示手段、
前記ライトフィールドデータから、前記指示手段による指示に応じて、焦点面が仮想焦点面に移動されたライトフィールドデータを生成する再構成手段、
前記生成されたライトフィールドデータの複数の分割画素を含む単位画素セルの画素データの加算を行うことでデータ量を削減したライトフィールドデータを生成する削減手段であって、
前記再構成手段は、前記ライトフィールドデータを用いて検出された特定の被写体が生成後のライトフィールドデータのリフォーカス可能範囲に含まれるような仮想焦点面を設定し、
前記削減手段は、前記特定の被写体が生成後のリフォーカス可能範囲に含まれるような加算方法でデータ量を削減したライトフィールドデータを生成するもの、
として機能させることを特徴とするプログラム。 - 画像処理装置を制御するプログラムであり、
コンピュータを、
複数の視差画像を含むライトフィールドデータを取得するデータ取得手段、
前記ライトフィールドデータのデータ量を削減したライトフィールドデータの生成を指示する指示手段、
前記ライトフィールドデータから、前記指示手段による指示に応じて、焦点面が仮想焦点面に移動されたライトフィールドデータを生成する再構成手段、
前記生成されたライトフィールドデータの複数の分割画素を含む単位画素セルの画素データの加算を行うことでデータ量を削減したライトフィールドデータを生成する削減手段であって、前記再構成手段は、指定された被写体距離の範囲が生成後のライトフィールドデータのリフォーカス可能範囲に含まれるような仮想焦点面を設定し、
前記削減手段は、前記指定された被写体距離の範囲が生成後のリフォーカス可能範囲に含まれるような加算方法でデータ量を削減したライトフィールドデータを生成するもの、
として機能させることを特徴とするプログラム。 - 請求項14又は15に記載のプログラムを格納したコンピュータが読み取り可能な記憶媒体。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014218392A JP6385241B2 (ja) | 2014-10-27 | 2014-10-27 | 画像処理装置、画像処理方法およびプログラム |
US14/920,086 US9686530B2 (en) | 2014-10-27 | 2015-10-22 | Image processing apparatus and image processing method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014218392A JP6385241B2 (ja) | 2014-10-27 | 2014-10-27 | 画像処理装置、画像処理方法およびプログラム |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2016086306A JP2016086306A (ja) | 2016-05-19 |
JP2016086306A5 JP2016086306A5 (ja) | 2017-11-30 |
JP6385241B2 true JP6385241B2 (ja) | 2018-09-05 |
Family
ID=55793023
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014218392A Active JP6385241B2 (ja) | 2014-10-27 | 2014-10-27 | 画像処理装置、画像処理方法およびプログラム |
Country Status (2)
Country | Link |
---|---|
US (1) | US9686530B2 (ja) |
JP (1) | JP6385241B2 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110673121A (zh) * | 2019-09-26 | 2020-01-10 | 北京航空航天大学 | 光场相机前置镜焦平面定位方法和装置 |
Families Citing this family (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8761534B2 (en) * | 2012-02-16 | 2014-06-24 | Ricoh Co., Ltd. | Optimization of plenoptic imaging systems |
EP3193305B1 (en) * | 2016-01-12 | 2018-09-12 | Continental Automotive GmbH | Method and device for displaying a front-view of a vehicle's surrounding and respective vehicle |
CN109076148B (zh) | 2016-04-12 | 2021-02-05 | 奎蒂安特有限公司 | 日常场景重建引擎 |
JP6701023B2 (ja) * | 2016-07-29 | 2020-05-27 | キヤノン株式会社 | 撮像装置、画像処理方法、画像処理システム、及び画像処理プログラム |
JP7237450B2 (ja) * | 2018-01-23 | 2023-03-13 | キヤノン株式会社 | 画像処理装置、画像処理方法、プログラム、記憶媒体及び撮像装置 |
JP7363765B2 (ja) * | 2018-03-06 | 2023-10-18 | ソニーグループ株式会社 | 画像処理装置、および撮像装置、並びに画像処理方法 |
CA3097202A1 (en) | 2018-05-02 | 2019-11-07 | Quidient, Llc | A codec for processing scenes of almost unlimited detail |
JP7199169B2 (ja) * | 2018-07-05 | 2023-01-05 | キヤノン株式会社 | 画像処理装置、画像処理方法、及びプログラム |
LT3841444T (lt) * | 2018-08-24 | 2023-05-10 | naiture GmbH & Co. KG | Nešančioji sistema, apimanti nešiklį ir mobilųjį įrenginį, skirtą dirvai apdirbti ir (arba) manipuliavimui su augalija ir gyvūnija, ir tam skirtas būdas |
JP2020141226A (ja) * | 2019-02-27 | 2020-09-03 | キヤノン株式会社 | 画像処理装置、画像処理方法、及びプログラム |
US11906628B2 (en) | 2019-08-15 | 2024-02-20 | Apple Inc. | Depth mapping using spatial multiplexing of illumination phase |
US20210055419A1 (en) * | 2019-08-20 | 2021-02-25 | Apple Inc. | Depth sensor with interlaced sampling structure |
CN111182312B (zh) * | 2020-01-03 | 2021-10-29 | 杭州电子科技大学 | 一种分级残差光场视频编码方法 |
US11763472B1 (en) | 2020-04-02 | 2023-09-19 | Apple Inc. | Depth mapping with MPI mitigation using reference illumination pattern |
US11558569B2 (en) | 2020-06-11 | 2023-01-17 | Apple Inc. | Global-shutter image sensor with time-of-flight sensing capability |
US11893668B2 (en) | 2021-03-31 | 2024-02-06 | Leica Camera Ag | Imaging system and method for generating a final digital image via applying a profile to image information |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP2244484B1 (en) * | 2009-04-22 | 2012-03-28 | Raytrix GmbH | Digital imaging method for synthesizing an image using data recorded with a plenoptic camera |
US8941750B2 (en) * | 2011-12-27 | 2015-01-27 | Casio Computer Co., Ltd. | Image processing device for generating reconstruction image, image generating method, and storage medium |
US8811769B1 (en) * | 2012-02-28 | 2014-08-19 | Lytro, Inc. | Extended depth of field and variable center of perspective in light-field processing |
JP5459337B2 (ja) * | 2012-03-21 | 2014-04-02 | カシオ計算機株式会社 | 撮像装置、画像処理方法及びプログラム |
JP6053329B2 (ja) | 2012-05-28 | 2016-12-27 | キヤノン株式会社 | 撮像装置及びその制御方法 |
JP6016516B2 (ja) * | 2012-08-13 | 2016-10-26 | キヤノン株式会社 | 画像処理装置およびその制御方法、画像処理プログラム、並びに撮像装置 |
JP6071374B2 (ja) * | 2012-09-21 | 2017-02-01 | キヤノン株式会社 | 画像処理装置、画像処理方法およびプログラムならびに画像処理装置を備えた撮像装置 |
JP2014147062A (ja) * | 2013-01-07 | 2014-08-14 | Canon Inc | 撮像装置およびその制御方法、並びにプログラム |
JPWO2015132831A1 (ja) * | 2014-03-03 | 2017-03-30 | パナソニックIpマネジメント株式会社 | 撮像装置 |
-
2014
- 2014-10-27 JP JP2014218392A patent/JP6385241B2/ja active Active
-
2015
- 2015-10-22 US US14/920,086 patent/US9686530B2/en active Active
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110673121A (zh) * | 2019-09-26 | 2020-01-10 | 北京航空航天大学 | 光场相机前置镜焦平面定位方法和装置 |
Also Published As
Publication number | Publication date |
---|---|
US9686530B2 (en) | 2017-06-20 |
US20160119606A1 (en) | 2016-04-28 |
JP2016086306A (ja) | 2016-05-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6385241B2 (ja) | 画像処理装置、画像処理方法およびプログラム | |
JP5907595B2 (ja) | 撮像装置 | |
JP6546474B2 (ja) | 撮像装置およびその制御方法 | |
JP6271990B2 (ja) | 画像処理装置、画像処理方法 | |
JP6347675B2 (ja) | 画像処理装置、撮像装置、画像処理方法、撮像方法及びプログラム | |
JP6095266B2 (ja) | 画像処理装置及びその制御方法 | |
JP6557499B2 (ja) | 焦点検出装置およびその制御方法、撮像装置、プログラム、ならびに記憶媒体 | |
JP2014211491A (ja) | 焦点検出装置、焦点検出方法およびプログラム、並びに撮像装置 | |
US9451175B2 (en) | Imaging apparatus, information processing device, image pickup method, and non-transitory computer-readable storage medium storing a program therefor for obtaining light field information | |
JPWO2013111415A1 (ja) | 画像処理装置および画像処理方法 | |
JP2020009180A (ja) | 画像処理装置、撮像装置、画像処理方法、及びプログラム | |
JP6645711B2 (ja) | 画像処理装置、画像処理方法、プログラム | |
JP6053276B2 (ja) | 撮像装置およびその制御方法、画像処理装置 | |
JP5924943B2 (ja) | 撮像装置および撮像装置の制御方法 | |
WO2014077024A1 (ja) | 画像処理装置、画像処理方法および画像処理プログラム | |
JP6210836B2 (ja) | 撮像装置、撮像制御装置、その制御方法およびプログラム | |
JP5553862B2 (ja) | 撮像装置および撮像装置の制御方法 | |
JP6585890B2 (ja) | 画像処理装置、画像処理方法およびプログラム、並びに撮像装置 | |
JP6478520B2 (ja) | 画像処理装置及びその制御方法、撮像装置及びその制御方法、プログラム、記憶媒体 | |
JP6278503B2 (ja) | 撮像装置、制御方法およびプログラム | |
JP2014110442A (ja) | 撮像装置 | |
JP6305454B2 (ja) | 撮像装置 | |
JP5911276B2 (ja) | 撮像装置およびその制御方法、画像処理装置 | |
WO2024053522A1 (ja) | 画像処理装置および画像処理方法 | |
JP6433474B2 (ja) | 撮像装置およびその制御方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20171018 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20171018 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20180705 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20180710 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20180807 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6385241 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |