JP6160187B2 - 分析装置、分析プログラム及び分析システム - Google Patents
分析装置、分析プログラム及び分析システム Download PDFInfo
- Publication number
- JP6160187B2 JP6160187B2 JP2013081475A JP2013081475A JP6160187B2 JP 6160187 B2 JP6160187 B2 JP 6160187B2 JP 2013081475 A JP2013081475 A JP 2013081475A JP 2013081475 A JP2013081475 A JP 2013081475A JP 6160187 B2 JP6160187 B2 JP 6160187B2
- Authority
- JP
- Japan
- Prior art keywords
- dimensional coordinate
- analysis
- candidate
- captured image
- feature amount
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Classifications
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/36—Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
- G02B21/365—Control or image processing arrangements for digital or video microscopes
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/36—Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
- G02B21/365—Control or image processing arrangements for digital or video microscopes
- G02B21/367—Control or image processing arrangements for digital or video microscopes providing an output produced by processing a plurality of individual source images, e.g. image tiling, montage, composite images, depth sectioning, image comparison
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/55—Depth or shape recovery from multiple images
- G06T7/571—Depth or shape recovery from multiple images from focus
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
- G06T7/74—Determining position or orientation of objects or cameras using feature-based methods involving reference images or patches
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/60—Type of objects
- G06V20/69—Microscopic objects, e.g. biological cells or cellular parts
- G06V20/693—Acquisition
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10056—Microscopic image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30024—Cell structures in vitro; Tissue sections in vitro
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Theoretical Computer Science (AREA)
- Optics & Photonics (AREA)
- Analytical Chemistry (AREA)
- Chemical & Material Sciences (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Biomedical Technology (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Microscoopes, Condenser (AREA)
- Image Analysis (AREA)
- Investigating Or Analysing Materials By Optical Means (AREA)
Description
上記二次元座標検出部は、分析対象物を含む分析試料が複数の焦点位置で撮像された撮像画像群について、各撮像画像における分析対象物の座標の候補である二次元座標候補を検出する。
上記三次元座標特定部は、上記二次元座標候補の撮像画像間の位置関係に基づいて、分析対象物の三次元座標の候補である三次元座標候補を特定する。
上記第2の特徴量は、上記第1の画素数より多い第2の画素数の画素間の輝度差分であってもよい。
上記二次元座標検出部は、分析対象物を含む分析試料が複数の焦点位置で撮像された撮像画像群について、各撮像画像における分析対象物の座標の候補である二次元座標候補を検出する。
上記三次元座標特定部は、上記二次元座標候補の撮像画像間の位置関係に基づいて、分析対象物の三次元座標の候補である三次元座標候補を特定する。
上記分析装置は、上記顕微鏡撮像装置によって分析対象物を含む分析試料が複数の焦点位置で撮像された撮像画像群について、各撮像画像における分析対象物の座標の候補である二次元座標候補を検出する二次元座標検出部と、上記二次元座標候補の撮像画像間の位置関係に基づいて、分析対象物の三次元座標の候補である三次元座標候補を特定する三次元座標特定部とを備える。
上記制御装置は、上記三次元座標候補を利用して、上記顕微鏡撮像装置を制御する。
図1は、本実施形態に係る分析システム100の構成を示す模式図である。同図に示すように、分析システム100は、顕微鏡撮像装置110、分析装置120及び制御装置130から構成されている。また、図1には、ウェルWに収容された分析試料Sを示す。分析試料Sは分析対象物Bを含み、分析対象物Bは例えば浮遊細胞であり、分析試料Sは例えば細胞培養液である。
分析装置120は、撮像画像群に画像処理を施す。なお、分析装置120が処理する撮像画像群は、撮像機構113から供給されたものに限られず、別途準備された撮像画像群であってもよい。図3は分析装置120の機構的構成を示すブロック図であり、図4は分析装置120の動作を示すフローチャートである。同3に示すように、分析装置120は、二次元座標検出部121、三次元座標特定部122及び評価部123を有する。これらの構成は、プロセッサ等のハードウェアとソフトウェアの協働によって実現される機能的構成である。各構成についは、分析装置120の動作と合わせて説明する。
各画素についてその周囲の8画素であるものとすることができる。
f=a×P+Q [式1]
なお、aは任意の係数である。
制御装置130は、顕微鏡撮像装置110を制御する。具体的には、制御装置130は、顕微鏡光学系111、XYZステージ112、撮像機構113等を制御することによって、分析試料Sに対する顕微鏡光学系111の視野範囲を調整し、撮像機構113に顕微鏡光学系111を介して観測試料を撮像させるものとすることができる。
上記実施形態に係る分析システムの変形例について説明する。
分析対象物を含む分析試料が複数の焦点位置で撮像された撮像画像群について、各撮像画像における分析対象物の座標の候補である二次元座標候補を検出する二次元座標検出部と、
上記二次元座標候補の撮像画像間の位置関係に基づいて、分析対象物の三次元座標の候補である三次元座標候補を特定する三次元座標特定部と
を具備する分析装置。
上記(1)に記載の分析装置であって、
評価関数を用いて上記三次元座標候補に位置する物体像と分析対象物像の類似性を評価する評価部
をさらに具備する分析装置。
上記(1)又は(2)に記載の分析装置であって、
上記三次元座標特定部は、上記二次元座標候補の焦点深度方向における連続数に基づいて上記三次元座標候補を特定する
分析装置。
上記(1)から(3)のうちいずれか一つに記載の分析装置であって、
上記二次元座標検出部は、上記撮像画像の特徴量を、分析対象物の特徴量を表すテンプレートと比較することによって上記二次元座標候補を検出する
分析装置。
上記(1)から(4)のうちいずれか一つに記載の分析装置であって、
上記二次元座標検出部は、上記撮像画像から第1の特徴量を抽出し、上記第1の特徴量に基づいて予備的二次元座標候補を検出し、上記予備的二次元座標候補の周囲に比較範囲を設定し、上記比較範囲に含まれる上記撮像画像から第2の特徴量を抽出し、上記第2の特徴量を上記テンプレートと比較することによって上記二次元座標候補を検出する
分析装置。
上記(1)から(5)のうちいずれか一つに記載の分析装置であって、
上記第1の特徴量は、第1の画素数の画素間の輝度差分であり、
上記第2の特徴量は、上記第1の画素数より多い第2の画素数の画素間の輝度差分である
分析装置。
上記(1)から(6)のうちいずれか一つに記載の分析装置であって、
上記第2の特徴量が上記テンプレートに最も適合するときの、上記比較範囲に含まれる上記撮像画像の上記第2の特徴量と上記テンプレートの特徴量の差分を利用した評価関数を用いて、上記三次元座標候補に位置する物体像と分析対象物像の類似性を評価する評価部
をさらに具備する分析装置。
上記(1)から(7)のうちいずれか一つに記載の分析装置であって、
上記二次元座標検出部は、上記第2の特徴量が上記テンプレートに最も適合するときの上記比較範囲に含まれる上記撮像画像の中央部と周辺部の輝度差を算出し、上記輝度差を利用して上記二次元座標候補を検証する
分析装置。
上記(1)から(8)のうちいずれか一つに記載の分析装置であって、
上記評価部は、上記第2の特徴量と上記テンプレートの差分に加え、上記輝度差を利用した評価関数を用いて、上記三次元座標候補に位置する物体像と分析対象物像の類似性を評価する
分析装置。
分析対象物を含む分析試料が複数の焦点位置で撮像された撮像画像群について、各撮像画像における分析対象物の座標の候補である二次元座標候補を検出する二次元座標検出部と、
上記二次元座標候補の撮像画像間の位置関係に基づいて、分析対象物の三次元座標の候補である三次元座標候補を特定する三次元座標特定部と
として情報処理装置を機能させる分析プログラム。
顕微鏡撮像装置と、
上記顕微鏡撮像装置によって分析対象物を含む分析試料が複数の焦点位置で撮像された撮像画像群について、各撮像画像における分析対象物の座標の候補である二次元座標候補を検出する二次元座標検出部と、上記二次元座標候補の撮像画像間の位置関係に基づいて、分析対象物の三次元座標の候補である三次元座標候補を特定する三次元座標特定部とを備える分析装置と、
上記三次元座標候補を利用して、上記顕微鏡撮像装置を制御する制御装置と
を具備する分析システム。
110…顕微鏡撮像装置
120…分析装置
121…二次元座標検出部
122…三次元座標特定部
123…評価部
130…制御装置
Claims (9)
- 分析対象物を含む分析試料が複数の焦点位置で撮像された撮像画像群について、各撮像画像における分析対象物の座標の候補である二次元座標候補を検出する二次元座標検出部と、
前記二次元座標候補の撮像画像間の位置関係に基づいて、分析対象物の三次元座標の候補である三次元座標候補を特定する三次元座標特定部と
を具備し、
前記二次元座標検出部は、前記撮像画像から第1の特徴量を抽出し、前記第1の特徴量に基づいて予備的二次元座標候補を検出し、前記予備的二次元座標候補の周囲に比較範囲を設定し、前記比較範囲に含まれる前記撮像画像から第2の特徴量を抽出し、前記第2の特徴量を分析対象物の特徴量を表すテンプレートと比較することによって前記二次元座標候補を検出し、前記第2の特徴量が前記テンプレートに最も適合するときの前記比較範囲に含まれる前記撮像画像の中央部と周辺部の輝度差を算出し、前記輝度差を利用して前記二次元座標候補を検証する
分析装置。 - 請求項1に記載の分析装置であって、
評価関数を用いて前記三次元座標候補に位置する物体像と分析対象物像の類似性を評価する評価部
をさらに具備する分析装置。 - 請求項1又は2に記載の分析装置であって、
前記三次元座標特定部は、前記二次元座標候補の焦点深度方向における連続数に基づいて前記三次元座標候補を特定する
分析装置。 - 請求項1に記載の分析装置であって、
前記第1の特徴量は、第1の画素数の画素間の輝度差分であり、
前記第2の特徴量は、前記第1の画素数より多い第2の画素数の画素間の輝度差分である
分析装置。 - 請求項4に記載の分析装置であって、
前記第2の特徴量が前記テンプレートに最も適合するときの、前記比較範囲に含まれる前記撮像画像の前記第2の特徴量と前記テンプレートの特徴量の差分を利用した評価関数を用いて、前記三次元座標候補に位置する物体像と分析対象物像の類似性を評価する評価部
をさらに具備する分析装置。 - 請求項5に記載の分析装置であって、
前記評価部は、前記第2の特徴量と前記テンプレートの差分に加え、前記輝度差を利用した評価関数を用いて、前記三次元座標候補に位置する物体像と分析対象物像の類似性を評価する
分析装置。 - 分析対象物を含む分析試料が複数の焦点位置で撮像された撮像画像群について、各撮像画像における分析対象物の座標の候補である二次元座標候補を検出する二次元座標検出部と、
前記二次元座標候補の撮像画像間の位置関係に基づいて、分析対象物の三次元座標の候補である三次元座標候補を特定する三次元座標特定部と、
評価部と
を具備し、
前記二次元座標検出部は、前記撮像画像から第1の画素数の画素間の輝度差分である第1の特徴量を抽出し、前記第1の特徴量に基づいて予備的二次元座標候補を検出し、前記予備的二次元座標候補の周囲に比較範囲を設定し、前記比較範囲に含まれる前記撮像画像から前記第1の画素数より多い第2の画素数の画素間の輝度差分である第2の特徴量を抽出し、前記第2の特徴量を分析対象物の特徴量を表すテンプレートと比較することによって前記二次元座標候補を検出し、前記第2の特徴量が前記テンプレートに最も適合するときの前記比較範囲に含まれる前記撮像画像の中央部と周辺部の輝度差を算出し、前記輝度差を利用して前記二次元座標候補を検証し、
前記評価部は、前記第2の特徴量が前記テンプレートに最も適合するときの、前記比較範囲に含まれる前記撮像画像の前記第2の特徴量と前記テンプレートの特徴量の差分を利用した評価関数を用いて、前記三次元座標候補に位置する物体像と分析対象物像の類似性を評価する
分析装置。 - 分析対象物を含む分析試料が複数の焦点位置で撮像された撮像画像群について、各撮像画像における分析対象物の座標の候補である二次元座標候補を検出する二次元座標検出部と、
前記二次元座標候補の撮像画像間の位置関係に基づいて、分析対象物の三次元座標の候補である三次元座標候補を特定する三次元座標特定部と
として情報処理装置を機能させる分析プログラムであって、
前記二次元座標検出部は、前記撮像画像から第1の特徴量を抽出し、前記第1の特徴量に基づいて予備的二次元座標候補を検出し、前記予備的二次元座標候補の周囲に比較範囲を設定し、前記比較範囲に含まれる前記撮像画像から第2の特徴量を抽出し、前記第2の特徴量を分析対象物の特徴量を表すテンプレートと比較することによって前記二次元座標候補を検出し、前記第2の特徴量が前記テンプレートに最も適合するときの前記比較範囲に含まれる前記撮像画像の中央部と周辺部の輝度差を算出し、前記輝度差を利用して前記二次元座標候補を検証する
分析プログラム。 - 顕微鏡撮像装置と、
前記顕微鏡撮像装置によって分析対象物を含む分析試料が複数の焦点位置で撮像された撮像画像群について、各撮像画像における分析対象物の座標の候補である二次元座標候補を検出する二次元座標検出部と、前記二次元座標候補の撮像画像間の位置関係に基づいて、分析対象物の三次元座標の候補である三次元座標候補を特定する三次元座標特定部とを備える分析装置と、
前記三次元座標候補を利用して、前記顕微鏡撮像装置を制御する制御装置と
を具備し、
前記二次元座標検出部は、前記撮像画像から第1の特徴量を抽出し、前記第1の特徴量に基づいて予備的二次元座標候補を検出し、前記予備的二次元座標候補の周囲に比較範囲を設定し、前記比較範囲に含まれる前記撮像画像から第2の特徴量を抽出し、前記第2の特徴量を分析対象物の特徴量を表すテンプレートと比較することによって前記二次元座標候補を検出し、前記第2の特徴量が前記テンプレートに最も適合するときの前記比較範囲に含まれる前記撮像画像の中央部と周辺部の輝度差を算出し、前記輝度差を利用して前記二次元座標候補を検証する
分析システム。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013081475A JP6160187B2 (ja) | 2013-04-09 | 2013-04-09 | 分析装置、分析プログラム及び分析システム |
US14/226,429 US9678325B2 (en) | 2013-04-09 | 2014-03-26 | Analysis apparatus, analysis program, and analysis system |
CN201410132589.0A CN104101294B (zh) | 2013-04-09 | 2014-04-02 | 分析装置、分析程序以及分析系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013081475A JP6160187B2 (ja) | 2013-04-09 | 2013-04-09 | 分析装置、分析プログラム及び分析システム |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2014203038A JP2014203038A (ja) | 2014-10-27 |
JP2014203038A5 JP2014203038A5 (ja) | 2016-04-14 |
JP6160187B2 true JP6160187B2 (ja) | 2017-07-12 |
Family
ID=51654143
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2013081475A Expired - Fee Related JP6160187B2 (ja) | 2013-04-09 | 2013-04-09 | 分析装置、分析プログラム及び分析システム |
Country Status (3)
Country | Link |
---|---|
US (1) | US9678325B2 (ja) |
JP (1) | JP6160187B2 (ja) |
CN (1) | CN104101294B (ja) |
Families Citing this family (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP3076219B1 (en) * | 2014-01-07 | 2020-04-08 | Sony Corporation | Analysis system, analysis program, and analysis method |
CN104537712B (zh) * | 2015-01-04 | 2017-04-19 | 成都思达特电器有限公司 | 一种建立待喷涂工件的三维喷涂节点的方法 |
US9928403B2 (en) * | 2016-02-09 | 2018-03-27 | Molecular Devices, Llc | System and method for image analysis of multi-dimensional data |
CN106954041A (zh) * | 2017-03-08 | 2017-07-14 | 阔地教育科技有限公司 | 一种跟踪控制方法及系统 |
DE102017214189A1 (de) * | 2017-08-15 | 2019-02-21 | Carl Zeiss Microscopy Gmbh | Verfahren zum Betrieb einer Mikroskopieranordnung und Mikroskopieranordnung mit einem ersten Mikroskop und mindestens einem weiteren Mikroskop |
US11481964B2 (en) * | 2018-04-27 | 2022-10-25 | Hewlett-Packard Development Company, L.P. | Three dimensional volume imaging |
US10885631B2 (en) * | 2019-02-01 | 2021-01-05 | Essen Instruments, Inc. | Label-free cell segmentation using phase contrast and brightfield imaging |
US11803963B2 (en) | 2019-02-01 | 2023-10-31 | Sartorius Bioanalytical Instruments, Inc. | Computational model for analyzing images of a biological specimen |
JPWO2021124866A1 (ja) * | 2019-12-19 | 2021-06-24 |
Family Cites Families (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0792090A (ja) * | 1993-09-27 | 1995-04-07 | Suzuki Motor Corp | 蛍光抗体判定装置 |
US7338168B2 (en) * | 2001-07-06 | 2008-03-04 | Palantyr Research, Llc | Particle analyzing system and methodology |
KR100438212B1 (ko) * | 2002-08-09 | 2004-07-01 | 학교법인고려중앙학원 | 전자현미경을 사용해서 물체의 3차원 공간 데이터를추출하는 방법 및 그 장치 |
US7415148B2 (en) * | 2003-08-04 | 2008-08-19 | Raytheon Company | System and method for detecting anomalous targets including cancerous cells |
CN100403768C (zh) * | 2005-03-02 | 2008-07-16 | 松下电器产业株式会社 | 图像生成法、物体检测法、物体检测装置及图像生成程序 |
WO2008105881A2 (en) * | 2006-04-14 | 2008-09-04 | The Regents Of The University Of California | Determining orientation of cilia in connective tissue |
JP5293733B2 (ja) * | 2008-02-28 | 2013-09-18 | 株式会社ニコン | 顕微鏡装置および細胞培養装置 |
JP2010169823A (ja) | 2009-01-21 | 2010-08-05 | Nikon Corp | 細胞観察画像の画像処理方法、画像処理プログラム及び画像処理装置 |
JP2011017964A (ja) * | 2009-07-10 | 2011-01-27 | Nikon Corp | 培養観察装置 |
JP5530126B2 (ja) * | 2009-07-24 | 2014-06-25 | オリンパス株式会社 | 三次元細胞画像解析システム及びそれに用いる三次元細胞画像解析装置 |
-
2013
- 2013-04-09 JP JP2013081475A patent/JP6160187B2/ja not_active Expired - Fee Related
-
2014
- 2014-03-26 US US14/226,429 patent/US9678325B2/en active Active
- 2014-04-02 CN CN201410132589.0A patent/CN104101294B/zh active Active
Also Published As
Publication number | Publication date |
---|---|
CN104101294B (zh) | 2018-06-05 |
US20140300723A1 (en) | 2014-10-09 |
US9678325B2 (en) | 2017-06-13 |
CN104101294A (zh) | 2014-10-15 |
JP2014203038A (ja) | 2014-10-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6160187B2 (ja) | 分析装置、分析プログラム及び分析システム | |
US11754392B2 (en) | Distance determination of a sample plane in a microscope system | |
US8000511B2 (en) | System for and method of focusing in automated microscope systems | |
US11156823B2 (en) | Digital microscope apparatus, method of searching for in-focus position thereof, and program | |
Wang et al. | Autofocusing and polar body detection in automated cell manipulation | |
EP2775349B1 (en) | A method for determining an in-focus position and a vision inspection system | |
AU2011357735B2 (en) | Fast auto-focus in microscopic imaging | |
US20190072751A1 (en) | Systems and methods for detection of blank fields in digital microscopes | |
JP2016517515A (ja) | 細胞診標本を観察および解析するためのシステムおよび方法 | |
CN103582697A (zh) | 图像处理装置、图像处理方法和图像处理系统 | |
TW202223471A (zh) | 用於自動對焦顯微鏡系統之深度學習模組 | |
JP5513038B2 (ja) | 三次元細胞画像解析装置 | |
US20220179187A1 (en) | System and method for rapid focusing and analysis using a micro-camera array microscope | |
JP2010216920A (ja) | 細胞画像解析装置 | |
JP5530126B2 (ja) | 三次元細胞画像解析システム及びそれに用いる三次元細胞画像解析装置 | |
WO2013025173A1 (en) | A method and system for tracking motion of microscopic objects within a three-dimensional volume | |
JP2014157158A (ja) | 細胞観察方法、三次元細胞画像解析システム及びそれに用いる三次元細胞画像解析装置 | |
CN115060367A (zh) | 基于显微高光谱成像平台的全玻片数据立方体采集方法 | |
US9658444B2 (en) | Autofocus system and autofocus method for focusing on a surface | |
JP2022121167A (ja) | 画像処理装置、画像処理装置の制御方法およびプログラム | |
KR102085755B1 (ko) | 시냅스 영상 촬영 장치 및 그의 구동 방법 | |
WO2021166089A1 (ja) | 評価支援装置、評価支援システム、評価支援方法およびプログラム | |
TWI470300B (zh) | 影像對焦方法與自動對焦顯微裝置 | |
Osibote et al. | Autofocusing for tuberculosis detection using fluorescence microscopy |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20160229 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20160229 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20161216 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20170207 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20170331 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20170516 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20170529 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6160187 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |