JP6347675B2 - 画像処理装置、撮像装置、画像処理方法、撮像方法及びプログラム - Google Patents
画像処理装置、撮像装置、画像処理方法、撮像方法及びプログラム Download PDFInfo
- Publication number
- JP6347675B2 JP6347675B2 JP2014118114A JP2014118114A JP6347675B2 JP 6347675 B2 JP6347675 B2 JP 6347675B2 JP 2014118114 A JP2014118114 A JP 2014118114A JP 2014118114 A JP2014118114 A JP 2014118114A JP 6347675 B2 JP6347675 B2 JP 6347675B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- unit
- images
- similarity
- imaging
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000012545 processing Methods 0.000 title claims description 98
- 238000003384 imaging method Methods 0.000 title claims description 87
- 238000003672 processing method Methods 0.000 title claims 2
- 230000015572 biosynthetic process Effects 0.000 claims description 19
- 238000003786 synthesis reaction Methods 0.000 claims description 18
- 230000002194 synthesizing effect Effects 0.000 claims description 15
- 239000000203 mixture Substances 0.000 claims description 8
- 238000000034 method Methods 0.000 description 60
- 230000008569 process Effects 0.000 description 50
- 238000010586 diagram Methods 0.000 description 19
- 230000006870 function Effects 0.000 description 18
- 230000014509 gene expression Effects 0.000 description 16
- 238000001514 detection method Methods 0.000 description 14
- 239000011159 matrix material Substances 0.000 description 14
- 230000008602 contraction Effects 0.000 description 12
- 238000000605 extraction Methods 0.000 description 8
- 230000009466 transformation Effects 0.000 description 8
- 230000003287 optical effect Effects 0.000 description 6
- 230000002146 bilateral effect Effects 0.000 description 5
- 238000012937 correction Methods 0.000 description 4
- 238000006243 chemical reaction Methods 0.000 description 3
- 238000001914 filtration Methods 0.000 description 3
- 238000011156 evaluation Methods 0.000 description 2
- 239000000284 extract Substances 0.000 description 2
- 238000009499 grossing Methods 0.000 description 2
- 230000008878 coupling Effects 0.000 description 1
- 238000010168 coupling process Methods 0.000 description 1
- 238000005859 coupling reaction Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000010339 dilation Effects 0.000 description 1
- 230000003628 erosive effect Effects 0.000 description 1
- 238000011835 investigation Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000000877 morphologic effect Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
- H04N5/265—Mixing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration by the use of more than one image, e.g. averaging, subtraction
-
- G06T5/73—
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/74—Image or video pattern matching; Proximity measures in feature spaces
- G06V10/75—Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
- G06V10/751—Comparing pixel values or logical combinations thereof, or feature values having positional relevance, e.g. template matching
- G06V10/7515—Shifting the patterns to accommodate for positional errors
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/45—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from two or more image sensors being of different type or operating in different modes, e.g. with a CMOS sensor for moving images in combination with a charge-coupled device [CCD] for still images
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/743—Bracketing, i.e. taking a series of images with varying exposure conditions
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/95—Computational photography systems, e.g. light-field imaging systems
- H04N23/951—Computational photography systems, e.g. light-field imaging systems by using two or more images to influence resolution, frame rate or aspect ratio
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10004—Still image; Photographic image
- G06T2207/10012—Stereo images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10141—Special mode during image acquisition
- G06T2207/10148—Varying focus
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20212—Image combination
- G06T2207/20221—Image fusion; Image merging
Description
本実施例では、複数の撮像部を備えた多眼方式による多視点撮像装置を用いてフォーカスブラケット撮影を行い、取得された画像データを用いて被写界深度拡大処理を行う例について説明する。まず、本実施例の構成について説明する。図1(a)は、本実施例で用いられる多視点撮像装置である、多眼カメラ100(以下、カメラ100とする)の一例を示す図である。カメラ100は、撮像ボタン101及び撮像部102〜105を備えている。ユーザが撮像ボタン101を押すと、撮像部102〜105は同時に撮影を開始し、同一の被写体を複数の視点位置から同時に撮影した画像(デジタルデータ)を得ることができる。なお、ここでは撮像部の数を4個としたが、撮像部の数は4個に限定されず、撮像装置が複数の撮像部を有する限りにおいてその数によらず本発明は適用可能である。また、各撮像部の配置は図1(a)に示したものに限定されず、例えば図1(b)に示すように各撮像部を配置するようにしてもよい。図1(a)と図1(b)いずれも各撮像部の光軸がたがいに平行になるように配置(較正)されている。
実施例1では、被写界深度拡大画像の生成に用いる各画像の合焦領域に基づいて画像合成の重みを変える一例について説明した。実施例2では、より自然なボケ味を有する被写界深度拡大画像を生成する方法について説明する。本実施例では、ステップS504の被写界深度拡大処理の内容が実施例1と異なっている。本実施例のカメラ100の構成は実施例1と同様であるので、説明を省略し、以下、本実施例のカメラ100で行われる被写界深度拡大処理について、図13に示すフローチャートを参照して説明する。なお、実施例1と同様の処理については、図12と同じ符号を付して説明を省略する。
ImgShift’j(x,y)=Wj(x,y)・ImgShiftj(x,y)+(1−Wj(x,y))・ImgFilterj(x,y) (式11)
式11で表わされる補正シフト画像は、シフト後の画像A〜Cの非合焦領域を、フィルタ処理済みの画像Wで置き換えたものである。シフト後の画像A〜Cは、合焦領域が画像Wと重なるように位置合わせを行った画像であるため、非合焦領域において画像Wと位置ずれが生じているが、式11で示される合成処理によって、全ての領域において画像Wに重なるような画像に補正される。また、合成に用いられたフィルタ処理済みの画像Wには、フィルタ処理の参照画像として用いられたシフト後の画像A〜Cのボケ状態が反映されているため、補正シフト画像にも画像A〜Cのボケ状態の情報が残っている。合成部1105は、フィルタ処理部1104から入力されたフィルタ処理済みの画像Wおよびシフト後の画像A〜Cの画素値と、重み値を式11に代入して3枚の補正シフト画像を生成し、ステップS1303に進む。
g1 (k)(x,y)=h(x,y;k)*g1(x,y) (式13)
ここで、h(x,y;k)は以下の式14で表わされる点像分布関数である。
Output(x,y)=MEDIAN(g1,2’(x,y),g1,3’(x,y),g2,3’(x,y)) (式17)
MEDIAN(A,B,C)は与えられた画素値A、B、Cの中央値を出力とする関数である。g1,2’(x,y)、g1,3’(x,y)、g2,3’(x,y)は、近景・中景・遠景の3つの距離のうち、それぞれ2つの距離に概ね合焦している。このため、g1,2’(x,y)、g1,3’(x,y)、g2,3’(x,y)の同一座標における画素値の中央値を取ることで、近景・中景・遠景の全てに合焦した画像情報の画素値を取得することができる。合成部1105は、3枚の被写界深度部分拡大画像の画素値を式17に代入し、生成された出力画像を表示制御部306や外部メモリ制御部311などに出力して処理を終了する。
上記の実施例では、得られた複数の画像を合成して被写界深度拡大画像を生成する場合に、どの領域にどの画像の画素値をあてはめるかをカメラ100が自動的に決定する例について述べたが、画素値の割り当てが他の方法で決定されるようにしてもよい。例えば、上記の実施例の方法で位置合わせおよび合成を行った画像をユーザに対して表示し、表示した画像に基づいてユーザが各画像の合成の重みを微調整できるようにしてもよい。そのような捜査の為のユーザインタフェースの例として、合成において最も重みが大きい画像が切り替わる境界をユーザに対して表示し、ユーザがその境界に対して変形命令を入力することで、重みづけの仕方を変えられるように設計してもよい。例えば、境界を移動させることで位置ごとに各画像に与える重みの傾斜を変化させたり、境界をぼかすことで境界における重みに連続性を持たせたりできるようにしてもよい。
102〜105 撮像部
302 CPU
303 RAM
304 ROM
308 撮像制御部
313 画像処理部
Claims (7)
- 第一の絞り値で第一の距離にピントを合わせて撮像された第一の画像と、第二の絞り値で第一の距離とは異なる第二の距離にピントを合わせて撮像された第二の画像と、前記第一の絞り値と前記第二の絞り値とよりも大きな第三の絞り値で撮像された第三の画像とを取得する取得手段と、
前記第一の画像と前記第二の画像とを、前記第三の画像に基づいて位置合わせする位置合わせ手段と、
前記位置合わせ手段により位置合わせされた前記第一の画像と前記第二の画像とを合成することで、前記第一の画像および前記第二の画像よりも被写界深度の深い合成画像を生成する合成手段を有し、
前記合成手段は、前記位置合わせ手段により位置合わせされた前記第一の画像と前記第三の画像との間および、前記位置合わせ手段により位置合わせされた前記第二の画像と前記第三の画像との間で、画像中の同じ位置に対応する画像領域ごとに、画像の類似度合いを示すパラメータを算出する算出手段を有し、
前記合成手段は、前記パラメータに基づいて前記合成画像を生成
することを特徴とする画像処理装置。 - 前記位置合わせ手段は、前記第一の画像中の、前記第一の距離に存在する被写体が、前記第三の画像中の、前記第一の距離に存在する被写体に重なり、前記第二の画像中の、前記第二の距離に存在する被写体が、前記第三の画像中の、前記第二の距離に存在する被写体に重なるように、前記第一の画像と前記第二の画像とをシフトすることを特徴とする請求項1に記載の画像処理装置。
- 前記合成手段は、前記第一の画像と前記第三の画像との間の類似度合いが前記第二の画像と前記第三の画像との類似度合いよりも高い画像領域では、前記合成における前記第一の画像の重みを前記第二の画像の重みよりも大きくし、前記第二の画像と前記第三の画像との類似度合いが前記第一の画像と前記第三の画像との間の類似度合いよりも高い画像領域では、前記合成における前記第三の画像の重みを前記第一の画像の重みよりも大きくすることを特徴とする請求項1または2に記載の画像処理装置。
- 前記合成手段は、前記第一の画像と前記第二の画像と前記第三の画像とを合成することで前記合成画像を生成し、前記第一の画像と前記第三の画像との間の類似度合いと、前記第二の画像と前記第三の画像との間の類似度合いの少なくとも一方が所定の閾値を超えている画像領域では、前記合成における前記第三の画像の重みを、前記第一の画像および前記第二の画像の重みよりも小さくし、前記第一の画像と前記第三の画像との間の類似度合いと、前記第二の画像と前記第三の画像との間の類似度合いのどちらもが所定の閾値を超えない画像領域では、前記合成における前記第三の画像の重みを、前記第一の画像および前記第二の画像の重みよりも大きくすることを特徴とする請求項3に記載の画像処理装置。
- 請求項1乃至4のいずれか一項に記載の画像処理装置としての機能を有し、前記第一の画像を撮像する第一の撮像部と、前記第二の画像を撮像する第二の撮像部と、前記第三の画像を撮像する第三の撮像部とを更に有することを特徴とする撮像装置。
- 第一の絞り値で第一の距離にピントを合わせて撮像された第一の画像と、第二の絞り値で第一の距離とは異なる第二の距離にピントを合わせて撮像された第二の画像と、前記第一の絞り値と前記第二の絞り値とよりも大きな第三の絞り値で撮像された第三の画像とを取得するステップと、
前記第一の画像と前記第二の画像とを、前記第三の画像に基づいて位置合わせするステップと、
前記位置合わせステップにより位置合わせされた前記第一の画像と前記第三の画像との間および、前記位置合わせ手段により位置合わせされた前記第二の画像と前記第三の画像との間で、画像中の同じ位置に対応する画像領域ごとに、画像の類似度合いを示すパラメータを算出する算出ステップと、
前記パラメータに基づいて、前記位置合わせ手段により位置合わせされた前記第一の画像と前記第二の画像とを合成することで、前記第一の画像および前記第二の画像よりも被写界深度の深い合成画像を生成する合成ステップと
を含むことを特徴とする画像処理方法。 - コンピュータを請求項1乃至4のいずれか一項に記載の画像処理装置の各手段として機能させることを特徴とするプログラム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014118114A JP6347675B2 (ja) | 2014-06-06 | 2014-06-06 | 画像処理装置、撮像装置、画像処理方法、撮像方法及びプログラム |
US14/728,390 US9607240B2 (en) | 2014-06-06 | 2015-06-02 | Image processing apparatus, image capturing apparatus, image processing method, image capturing method, and non-transitory computer-readable medium for focus bracketing |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014118114A JP6347675B2 (ja) | 2014-06-06 | 2014-06-06 | 画像処理装置、撮像装置、画像処理方法、撮像方法及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2015231220A JP2015231220A (ja) | 2015-12-21 |
JP6347675B2 true JP6347675B2 (ja) | 2018-06-27 |
Family
ID=54770561
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014118114A Active JP6347675B2 (ja) | 2014-06-06 | 2014-06-06 | 画像処理装置、撮像装置、画像処理方法、撮像方法及びプログラム |
Country Status (2)
Country | Link |
---|---|
US (1) | US9607240B2 (ja) |
JP (1) | JP6347675B2 (ja) |
Families Citing this family (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9667857B2 (en) * | 2014-10-09 | 2017-05-30 | Panasonic Intellectual Property Management Co., Ltd. | Imaging apparatus with adjustable noise level reduction |
US20160307350A1 (en) * | 2015-04-14 | 2016-10-20 | Magor Communications Corporation | View synthesis - panorama |
WO2016203282A1 (en) * | 2015-06-18 | 2016-12-22 | The Nielsen Company (Us), Llc | Methods and apparatus to capture photographs using mobile devices |
NL2017933A (en) * | 2015-12-18 | 2017-06-26 | Asml Netherlands Bv | Focus monitoring arrangement and inspection apparatus including such an arrangement |
US9633445B1 (en) * | 2016-01-20 | 2017-04-25 | Motorola Mobility Llc | Calculating a sharpness value |
US10863077B2 (en) * | 2016-09-12 | 2020-12-08 | Huawei Technologies Co., Ltd. | Image photographing method, apparatus, and terminal |
JP6997969B2 (ja) * | 2016-11-07 | 2022-01-18 | 日本電気株式会社 | 画像合成システム、画像合成方法、および画像合成プログラム記録媒体 |
JP6838994B2 (ja) * | 2017-02-22 | 2021-03-03 | キヤノン株式会社 | 撮像装置、撮像装置の制御方法およびプログラム |
CN108513097A (zh) * | 2017-02-27 | 2018-09-07 | 杭州海康威视数字技术股份有限公司 | 一种多目摄像装置和监控系统 |
JP6800797B2 (ja) * | 2017-03-31 | 2020-12-16 | キヤノン株式会社 | 撮像装置、画像処理装置、撮像装置の制御方法およびプログラム |
JP7158841B2 (ja) * | 2017-11-08 | 2022-10-24 | キヤノン株式会社 | 撮像装置、撮像方法、プログラム、記録媒体および画像処理装置 |
JP2019161462A (ja) * | 2018-03-13 | 2019-09-19 | キヤノン株式会社 | 制御装置、画像処理システム、制御方法、及びプログラム |
CN110830756B (zh) * | 2018-08-07 | 2022-05-17 | 华为技术有限公司 | 一种监控方法与装置 |
US11405547B2 (en) * | 2019-02-01 | 2022-08-02 | Electronics And Telecommunications Research Institute | Method and apparatus for generating all-in-focus image using multi-focus image |
US11399129B2 (en) * | 2019-07-30 | 2022-07-26 | Gopro, Inc. | Image capture device with extended depth of field |
WO2021039160A1 (ja) * | 2019-08-30 | 2021-03-04 | パナソニックIpマネジメント株式会社 | 応力解析装置 |
JP2021121067A (ja) * | 2020-01-30 | 2021-08-19 | キヤノン株式会社 | 画像処理装置、撮像装置、画像処理方法、プログラムおよび記録媒体 |
US11494944B2 (en) * | 2020-11-18 | 2022-11-08 | Disney Enterprises, Inc. | Automatic low contrast detection |
CN115330834B (zh) * | 2022-07-13 | 2023-06-20 | 广东交通职业技术学院 | 一种运动目标检测方法、系统、装置及存储介质 |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
AT406800B (de) * | 1998-03-09 | 2000-09-25 | Bauer Fritz | Steuerungssystem für ein objektiv einer kamera |
JP2002084412A (ja) * | 2000-09-07 | 2002-03-22 | Minolta Co Ltd | 画像処理装置及び画像処理方法 |
JP4997043B2 (ja) | 2007-09-27 | 2012-08-08 | 富士フイルム株式会社 | 撮像装置、方法およびプログラム |
US9094675B2 (en) * | 2008-02-29 | 2015-07-28 | Disney Enterprises Inc. | Processing image data from multiple cameras for motion pictures |
JP5843599B2 (ja) * | 2011-12-19 | 2016-01-13 | キヤノン株式会社 | 画像処理装置および撮像装置並びにその方法 |
TWI605418B (zh) * | 2013-04-15 | 2017-11-11 | 晨星半導體股份有限公司 | 影像編輯方法以及影像處理裝置 |
US9241111B1 (en) * | 2013-05-30 | 2016-01-19 | Amazon Technologies, Inc. | Array of cameras with various focal distances |
-
2014
- 2014-06-06 JP JP2014118114A patent/JP6347675B2/ja active Active
-
2015
- 2015-06-02 US US14/728,390 patent/US9607240B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
JP2015231220A (ja) | 2015-12-21 |
US20150358542A1 (en) | 2015-12-10 |
US9607240B2 (en) | 2017-03-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6347675B2 (ja) | 画像処理装置、撮像装置、画像処理方法、撮像方法及びプログラム | |
JP7003238B2 (ja) | 画像処理方法、装置、及び、デバイス | |
Wadhwa et al. | Synthetic depth-of-field with a single-camera mobile phone | |
JP4513906B2 (ja) | 画像処理装置、画像処理方法、プログラム及び記録媒体 | |
JP2017006330A (ja) | 医療用画像処理装置、医療用画像処理方法、及び、医療用観察システム | |
CN102227746A (zh) | 立体图像处理装置、方法、记录介质和立体成像设备 | |
JP5766077B2 (ja) | ノイズ低減のための画像処理装置及び画像処理方法 | |
JP2015197745A (ja) | 画像処理装置、撮像装置、画像処理方法及びプログラム | |
JP6452360B2 (ja) | 画像処理装置、撮像装置、画像処理方法およびプログラム | |
US11282176B2 (en) | Image refocusing | |
JP2018174502A (ja) | 撮像装置、画像処理装置、撮像装置の制御方法およびプログラム | |
JP2018107526A (ja) | 画像処理装置、撮像装置、画像処理方法およびコンピュータのプログラム | |
JP2012195797A (ja) | パンフォーカス画像生成装置 | |
JP2010279054A (ja) | 撮像装置、画像処理装置、撮像方法、及び画像処理方法 | |
WO2016113805A1 (en) | Image processing method, image processing apparatus, image pickup apparatus, program, and storage medium | |
JP6648916B2 (ja) | 撮像装置 | |
JP6218520B2 (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JP6762779B2 (ja) | 画像処理装置、撮像装置、画像処理方法、及びプログラム | |
JP6961423B2 (ja) | 画像処理装置、撮像装置、画像処理装置の制御方法、プログラムおよび記録媒体 | |
Alzayer et al. | DC2: Dual-Camera Defocus Control by Learning To Refocus | |
JP4271648B2 (ja) | 画像合成装置、撮像手段、およびプログラム | |
JP6556033B2 (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JP7458723B2 (ja) | 画像処理装置、撮像装置、制御方法、およびプログラム | |
JP2020086216A (ja) | 撮像制御装置、撮像装置及び撮像制御プログラム | |
JP6833772B2 (ja) | 画像処理装置、撮像装置、画像処理方法およびプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20170605 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20180214 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20180220 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180418 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20180501 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20180529 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6347675 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |