JP6576035B2 - 眼科装置、視細胞検出方法およびプログラム - Google Patents
眼科装置、視細胞検出方法およびプログラム Download PDFInfo
- Publication number
- JP6576035B2 JP6576035B2 JP2014254601A JP2014254601A JP6576035B2 JP 6576035 B2 JP6576035 B2 JP 6576035B2 JP 2014254601 A JP2014254601 A JP 2014254601A JP 2014254601 A JP2014254601 A JP 2014254601A JP 6576035 B2 JP6576035 B2 JP 6576035B2
- Authority
- JP
- Japan
- Prior art keywords
- candidate
- point
- photoreceptor cell
- feature amount
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B3/00—Apparatus for testing the eyes; Instruments for examining the eyes
- A61B3/0016—Operational features thereof
- A61B3/0025—Operational features thereof characterised by electronic signal processing, e.g. eye models
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B3/00—Apparatus for testing the eyes; Instruments for examining the eyes
- A61B3/0016—Operational features thereof
- A61B3/0041—Operational features thereof characterised by display arrangements
- A61B3/0058—Operational features thereof characterised by display arrangements for multiple images
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B3/00—Apparatus for testing the eyes; Instruments for examining the eyes
- A61B3/10—Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions
- A61B3/1025—Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions for confocal scanning
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B3/00—Apparatus for testing the eyes; Instruments for examining the eyes
- A61B3/10—Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions
- A61B3/12—Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions for looking at the eye fundus, e.g. ophthalmoscopes
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B3/00—Apparatus for testing the eyes; Instruments for examining the eyes
- A61B3/10—Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions
- A61B3/14—Arrangements specially adapted for eye photography
Landscapes
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Engineering & Computer Science (AREA)
- Medical Informatics (AREA)
- Surgery (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Heart & Thoracic Surgery (AREA)
- Physics & Mathematics (AREA)
- Molecular Biology (AREA)
- Ophthalmology & Optometry (AREA)
- Animal Behavior & Ethology (AREA)
- General Health & Medical Sciences (AREA)
- Public Health (AREA)
- Veterinary Medicine (AREA)
- Signal Processing (AREA)
- Eye Examination Apparatus (AREA)
Description
本実施例ではAO−SLO装置により網膜を撮影したAO−SLO像から視細胞(例えば、錐体)を検出する際に画像の輝度値に基づき取得された候補点間の相互の位置関係を考慮して検出点を選択することで視細胞検出を行うアルゴリズムに関して説明する。
図1は本実施例に係る画像処理装置10の機能構成を示したものである。画像処理装置10は不図示のCPUが不図示のROMに記憶されたプログラムを実行することで図1に示す画像取得部100、情報取得部110、制御部120、画像処理部140および出力部150として機能する。また、画像処理部140は位置合わせ部141、検出部142、特徴取得部143、配置情報取得部144および評価部145を備える。位置合わせ部141、検出部142、特徴取得部143、配置情報取得部144および評価部145もCPUがプログラムを実行することにより実現される。
図3に本実施例で用いたAO−SLO装置により取得した複数のAO−SLO像とWF−SLO像を模式的に示す。図3はWF−SLO像上に複数のサイズのAO−SLO像が位置合わせされた状態の一例を示している。なお、AO−SLO装置では、固視灯の位置を変えることで被検眼が異なる位置を凝視した状態で撮影することにより網膜の異なる位置の撮影を行うことができる。図4に固視灯の提示位置を操作する固視灯マップを示す。
被検眼の撮影プロトコルは被検眼の着目したい疾病等によって異なるが、標準プロトコルの一例では図3に示すように、最初に黄斑を中心としたWF−SLO像を撮影し、その後網膜の複数の位置を解像度の異なるAO−SLO像を組み合わせながら撮影を行う。なお、AO−SLO像の撮影時間及びフレームレートは変更することが可能である。ここでは一例としてフレームレートが毎秒32フレーム、撮影時間が1秒で32枚の画像より構成される。
次に、図2のフローチャートを参照して本実施形態の画像処理装置10の処理手順を説明する。
ステップS210において、情報取得部110は不図示のDB(Data Base)等から被検眼の情報を取得する。そして、情報取得部110は取得した被検眼の情報を制御部120を通じて記憶部130に保存する。ここで被検眼の情報とは、被験者のID、生年月日などの患者情報、被検眼の眼軸長等の計測データ、過去に撮影された画像などを含む。
ステップS210において、画像取得部100はAO−SLO装置により撮影された被検眼網膜の平面画像(WF−SLO像、AO−SLO像)を取得する。そして、画像取得部100は取得した平面画像を制御部120を通じて記憶部130に保存する。なお、画像取得部100は、平面画像をAO−SLO装置から直接取得することとしてもよいし、DB等に保存された平面画像をDB等から取得することとしてもよい。例えば、ステップS210で取得した患者IDをキーワードに任意の患者の平面画像をDBから検索・取得することとしてもよい。
ステップS230において、位置合わせ部141はステップS220で取得されたAO−SLO像とWF−SLO像との位置合わせを行う。そしてWF−SLO像上で指定された中心窩の位置とWF−SLO像に位置合わせされたAO−SLO像との関係からAO−SLO像の中心窩からの距離を求める。
ステップS240において、検出部142は、ステップS230で中心窩からの距離が求められたAO−SLO像から視細胞の候補となる点を検出する。
ステップS250において、特徴取得部143は、ステップS240で取得した視細胞の候補点の特徴量を算出する。特徴量とは様々な種類が考えられるが、ここでは一例として候補点の周りの輝度プロファイルの幾何形状に基づいた特徴量に着目する。すなわち、特徴取得部143は第1候補点の輝度に基づいて第1特徴量とは異なる第2特徴量を取得する第2取得手段の一例に相当する。
ステップS260において、配置情報取得部144はステップS240で取得した視細胞の候補点の配置を考慮した特徴量を算出する。なお、ステップS260で算出される特徴量を第1特徴量、ステップS250で算出される特徴量を第2特徴量という場合がある。
ステップS510において、配置情報取得部144はステップS240で取得した視細胞の候補点のうちで、1の候補点の近傍よりも近い位置に存在する候補点を除去する。ここで近傍とは、AO−SLO像の中心窩からの距離に対して想定される視細胞間の距離に基づく距離(または領域)とする。具体的には、視細胞の密度Dと視細胞の理想的な配置状態とされるhoneycomb状に配置された場合の隣接する視細胞間の距離LDとは以下の関係がある。
ステップS520において、配置情報取得部144はステップS510で候補点の削除(以下、近傍除去という場合がある)を行った後の候補点を用いてボロノイ解析を行う。ボロノイ解析とは図6に示したように、対象となる点の集合に対し、2点間の垂直二等分線によって画像内の領域を分割する解析法のことで、各検出点に属する領域はボロノイ領域、対応する検出点は母点、母点と隣接する検出点を隣接点、ボロノイ領域の頂点をボロノイ点と呼ぶ。
ステップS530において、配置情報取得部144はステップS520で取得したボロノイ解析結果に基づき、候補点の配置を考慮した候補点の特徴量を算出する。
ステップS270において、評価部145はステップS240で取得した視細胞の候補点からステップS250、ステップS260で取得した特徴量に基づき視細胞の検出点を求める。
さらに、ステップS260で取得された候補点の配置に基づく特徴量に関しては、母点と隣接点との距離の平均値が、ステップS510で取得した視細胞間の距離LDと近いほど、当該母点は視細胞らしく、さらに母点と隣接点との距離の分散は小さい方が視細胞らしい。
S=0.8*SLoG+0.2*Svoronoi
但し、
S=0.8*SLoG+0.2*Ssize
但し、
ステップS280において出力部150はステップS220で取得したAO−SLO像及びステップS270で取得した視細胞の検出点を制御部120を通じて記憶部130から取得する。そして、出力部150は外部の不図示のモニタ等にAO−SLO像上に検出点を重畳して表示してユーザーに示すと同時に不図示のDBなどに保存する。
実施例1では候補点の配置に基づく特徴量とAO−SLO像より求めた特徴量の双方を用い視細胞を検出する例を示した。
ステップS760において、評価部145はステップS240で取得した視細胞の候補点に対するステップS250で取得した特徴量に基づき候補点が視細胞を示す点であるか否かを判定する。すなわち、ステップS250における特徴取得部143は第1特徴量と異なる第2特徴量を第1候補点および第2候補点から取得する第2取得手段の一例に相当する。
S=0.8*SLoG+0.2*Ssize
そして、視細胞であるか否かの判定の閾値はすべての検出点に対して0.5とする。評価部145は、各検出点のスコアが0.5より大きければ視細胞であると判定し、0.5以下であればノイズと判定する。なお、本実施形態では閾値を0.5としているが他の値としてもよい。
ステップS770において、評価部145は、ステップS760で取得した視細胞の検出点とノイズ点とを取得し、各ノイズ点に対して視細胞の検出点との配置情報を取得する。
ステップS810において、配置情報取得部144はS510と同様の方法でステップS770で取得したノイズ点のうち1のノイズ点の近傍よりも近い位置に存在するノイズ点を除去する。今後、近傍点が除去された後のノイズ点を第二候補点と呼ぶ。近傍という文言の定義は実施例1と同様である。
ステップS820において、配置情報取得部144はステップS760で取得した視細胞の検出点(以下、第一視細胞検出点という場合がある)同士の、最近接視距離を取得する。
ステップS830において、配置情報取得部144はステップS520と同様の方法で、S810で取得した各第二候補点およびS760で取得した第一視細胞検出点を合わせた点に対してのボロノイ解析を行う。
ステップS840において、配置情報取得部144はステップS530と同様の方法でS830で取得した各第二候補点のボロノイ解析結果から配置に基づく特徴量を算出する。
ステップS780において、評価部145は、ステップS820で取得したMFNNDおよびステップS840で取得した第二候補点の特徴量に基づき、第二候補点の中から新たに視細胞として検出する点を選択する。
0.4*LD<NND,
MFNND<Lave<3*MFNND,
K<0.3*LD,
ここでは、ステップS840で取得したNNDが0.4*LDよりも大きいこと、ステップS840で取得した第二候補点と第一視細胞検出点との距離の平均値LaveがステップS820で取得したMFNNDより大きく0.3*MFNNDより小さいことを判定条件としている。さらに、第二候補点と第一視細胞検出点との距離の分散Lが0.3*LDよりも小さいことを判定条件としている。視細胞が理想的な配置にはなっていないことを考慮してステップS840で取得したNNDは0.4*LDより大きいことを条件としている。すなわち、LDに対して1より小さな係数を乗算している。但し、LDに対して乗算する係数を過剰に小さくすると、NNDが過剰に小さい場合(第二候補点が明らかにノイズの場合)にも第二候補点は視細胞の可能性があると判定されてしまう。そこで、本実施例ではLDに対して乗算する係数を上記の値としている。また、平均値Laveについての判定式は、ステップS820で取得したMFNNDは最頻出のNNDであるためステップS820で取得されるNNDにはMFNNDよりも大きいNNDが含まれていることを考慮しMFNNDに乗算する係数を決定している。
ステップS790において出力部150は、ステップS220で取得したAO−SLO像、ステップS760で取得した第一視細胞検出点、ステップS780で取得した第二視細胞検出点を、制御部120を通じて記憶部130から取得する。そして外部の不図示のモニタ等に、AO−SLO像上に検出点を重畳して表示すると同時に、不図示のDBなどに保存する。
実施例2では、候補点の中でノイズと判定されたものの中から配置情報に基づき視細胞がありそうな場所に存在する点を再度選択する例を示した。本実施例では、ノイズと判定された候補点があるか否かに関わらず、配置情報に基づき誤検出の可能性が高い検出点を除去したり、視細胞がありそうな場所に新たに検出点を設定する例を示す。
ステップS970において、配置情報取得部144は、ステップS760で取得した視細胞の検出点(第一視細胞検出点)を取得し、その配置状態から配置エネルギーを算出する。図10を用いてより詳細なステップを説明する。図10はボロノイ解析の結果を示す図であり、601は母点、602はボロノイ領域、603はボロノイ点、604は隣接点を示している。
ステップS1010において、配置情報取得部144は、ステップS760で取得した第一視細胞検出点間の平均距離を求める。具体的には、第一視細胞検出点のボロノイ解析を行い、全母点と隣接点間の距離の分布を求め、最も頻度の高い距離を平均距離とする。ここで、第一視細胞検出点にはノイズや未検出点などの擬陽性、擬陰性が存在するため、母点と隣接点間の距離には正しくない値も含まれている。しかし、最も頻度の高い距離を求めることでより正しい値が取得できると考える。ここで求めた、全母点と隣接点間の距離の分布で最も頻度の高い距離を以下では隣接平均距離LNとする。
ステップS1020において、配置情報取得部144は、ステップS1010で取得した第一視細胞検出点間の平均距離及びボロノイ解析結果を取得し、第一視細胞検出点の配置エネルギーを算出する。
ステップS1030において、配置情報取得部144は、ステップS1020で取得した配置エネルギーを、最も小さくする視細胞の配置を求める。
ΔEADD=−f(xa)
ここで関数fとしては、xAを中心としたガウシアンなどが考えられる。より単純に、LNの2倍程度の範囲に限定し、距離の逆数に相当する値としてもよい。
ステップS980において、出力部150は、ステップS220で取得したAO−SLO像、ステップS760で取得した視細胞の検出点(第一視細胞検出点)、ステップS970で取得した削除候補点や追加候補点を、制御部120を通じて記憶部130から取得する。そして外部の不図示のモニタ等に、AO−SLO像上に重畳して表示すると同時に、不図示のDBなどに保存する。
実施例1〜3では、検出対象領域に視細胞が存在している場合の例を示したが、血管などの構造物や疾病等の存在により、視細胞が存在しない領域が画像内に広がっている場合がある。そのような場合は、検出対象外とする領域をマスクし、それ以外の領域で処理を行う方が適している。
ステップS235において、検出部142は、ステップS220で取得されたAO−SLO像から、視細胞が描出されていない領域をマスク領域として取得する。
実施例1〜4の中では、対象となるAO−SLO像全体について処理を行う例を示した。しかし、画像の画角が広い場合や、もしくは中心窩近くの視細胞密度などの変化が大きい領域を解析対象とする場合には、画像全体を対象とすると精度が悪くなる場合がある。例としては、ステップS720でNNDの分布からMFNNDを求めているが、中心窩近くの密度が非常に高い領域と、中心窩より離れた領域ではその値は大きく異なる。
本発明の目的は、前述した実施形態の機能を実現するソフトウェアのプログラムコードを記憶した記憶媒体を、システムあるいは装置に供給する。そして、そのシステムあるいは装置のコンピュータ(またはCPUやMPU)が記憶媒体に格納されたプログラムコードを読出し実行することによっても、達成されることは言うまでもない。
100 画像取得部
110 情報取得部
120 制御部
130 記憶部
140 画像処理部
150 出力部
141 位置合わせ部
142 検出部
143 特徴取得部
144 配置情報取得部
145 評価部
601 母点
602 ボロノイ領域
603 ボロノイ点
604 隣接点
Claims (10)
- 被検眼の眼底画像を取得する画像取得手段と、
前記眼底画像の輝度値に基づき、前記眼底画像から複数の視細胞の候補点を取得する候補取得手段と、
前記複数の候補点のそれぞれが視細胞であるか否かを判定する判定手段と、
前記複数の候補点に含まれる隣接する候補点間の距離に基づいて第1特徴量を取得する第1取得手段と、
前記眼底画像の輝度値に基づいて第2特徴量を取得する第2取得手段とを有し、
前記判定手段が、前記第2特徴量に基づいて視細胞ではないと判定した候補点を、該候補点と該候補点に隣接する視細胞であると判定した候補点との前記第1特徴量に基づいて視細胞であるか否かを再判定することを特徴とする眼科装置。 - 前記第1取得手段は、前記眼底画像が取得された前記被検眼の眼底における位置と中心窩との距離および前記隣接する候補点間の距離に基づいて前記第1特徴量を取得することを特徴とする請求項1記載の眼科装置。
- 前記第1取得手段は、前記眼底画像が取得された前記被検眼の眼底における位置と中心窩との距離に基づいて得られる視細胞間の基準距離および前記隣接する候補点間の距離に基づいて前記第1特徴量を取得することを特徴とする請求項2記載の眼科装置。
- 前記第1取得手段は、前記隣接する候補点間の距離と、前記基準距離との差に基づいて前記第1特徴量を取得することを特徴とする請求項3記載の眼科装置。
- 前記第1特徴量は、前記差が小さいほど、前記判定手段によって判定対象の候補点が視細胞であると判定され易くなる値に変化することを特徴とする請求項4記載の眼科装置。
- 前記第1取得手段は、前記判定対象の候補点と前記判定対象の候補点に隣接する2以上の視細胞であると判定した候補点との距離の平均値に基づいて前記第1特徴量を取得することを特徴とする請求項1記載の眼科装置。
- 前記眼底画像のうち所定の領域をマスクするマスク処理部を更に備え、
前記候補取得手段は、前記眼底画像のうち前記マスク処理部によってマスクされている領域以外の領域から前記複数の視細胞の候補点を取得することを特徴とする請求項1乃至6の何れか1項に記載の眼科装置。 - 前記判定手段によって前記視細胞であると判定された候補点と前記眼底画像を表示部に表示させる表示制御手段を更に備えたことを特徴とする請求項1乃至7の何れか1項に記載の眼科装置。
- 被検眼の眼底画像を取得する画像取得工程と、
前記眼底画像の輝度値に基づき、前記眼底画像から複数の視細胞の候補点を取得する候補取得工程と、
前記複数の候補点に含まれる隣接する候補点間の距離に基づいて第1特徴量を取得する第1取得工程と、
前記眼底画像の輝度値に基づいて第2特徴量を取得する第2取得工程と、
前記第2特徴量に基づいて前記複数の候補点のそれぞれが視細胞である否かを判定する第1判定工程と
前記第2特徴量に基づいて視細胞ではないと判定した候補点を、該候補点と該候補点に隣接する視細胞であると判定した候補点との前記第1特徴量に基づいて視細胞であるか否かを判定する第2判定工程と、を備えることを特徴とする視細胞検出方法。 - 請求項9記載の視細胞検出方法をコンピュータに実行させることを特徴とするプログラム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014254601A JP6576035B2 (ja) | 2014-12-16 | 2014-12-16 | 眼科装置、視細胞検出方法およびプログラム |
US14/963,782 US9918624B2 (en) | 2014-12-16 | 2015-12-09 | Ophthalmic apparatus, photoreceptor cell detection method and program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014254601A JP6576035B2 (ja) | 2014-12-16 | 2014-12-16 | 眼科装置、視細胞検出方法およびプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2016112268A JP2016112268A (ja) | 2016-06-23 |
JP6576035B2 true JP6576035B2 (ja) | 2019-09-18 |
Family
ID=56128068
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014254601A Active JP6576035B2 (ja) | 2014-12-16 | 2014-12-16 | 眼科装置、視細胞検出方法およびプログラム |
Country Status (2)
Country | Link |
---|---|
US (1) | US9918624B2 (ja) |
JP (1) | JP6576035B2 (ja) |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4909377B2 (ja) * | 2009-06-02 | 2012-04-04 | キヤノン株式会社 | 画像処理装置及びその制御方法、コンピュータプログラム |
JP2014121452A (ja) | 2012-12-21 | 2014-07-03 | Canon Inc | 眼底撮像方法、および眼底撮像装置 |
JP6230262B2 (ja) * | 2012-12-28 | 2017-11-15 | キヤノン株式会社 | 画像処理装置及び画像処理方法 |
JP6128841B2 (ja) * | 2012-12-28 | 2017-05-17 | キヤノン株式会社 | 画像処理装置 |
-
2014
- 2014-12-16 JP JP2014254601A patent/JP6576035B2/ja active Active
-
2015
- 2015-12-09 US US14/963,782 patent/US9918624B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
US20160174831A1 (en) | 2016-06-23 |
US9918624B2 (en) | 2018-03-20 |
JP2016112268A (ja) | 2016-06-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10349826B2 (en) | Image processing apparatus, image processing method, and storage medium | |
Niemeijer et al. | Automated measurement of the arteriolar-to-venular width ratio in digital color fundus photographs | |
US11080850B2 (en) | Glaucoma diagnosis method using fundus image and apparatus for the same | |
US9585560B2 (en) | Image processing apparatus, image processing method, and program | |
JP5955163B2 (ja) | 画像処理装置および画像処理方法 | |
EP3671536B1 (en) | Detection of pathologies in ocular images | |
TWI694809B (zh) | 檢測眼球運動的方法、其程式、該程式的記憶媒體以及檢測眼球運動的裝置 | |
Aquino | Establishing the macular grading grid by means of fovea centre detection using anatomical-based and visual-based features | |
CN103717122A (zh) | 眼科诊断支持设备和眼科诊断支持方法 | |
US10176614B2 (en) | Image processing device, image processing method, and program | |
JP6207225B2 (ja) | 画像処理装置及び画像処理方法 | |
US20140185889A1 (en) | Image Processing Apparatus and Image Processing Method | |
JP4915737B2 (ja) | 画像解析システム、及び画像解析プログラム | |
JP2008022928A (ja) | 画像解析装置及び画像解析プログラム | |
Selvathi et al. | Fundus image classification using wavelet based features in detection of glaucoma | |
KR102318194B1 (ko) | 안저 이미지를 이용한 시신경병증 예측 장치 및 시신경병증 예측 결과 제공 방법 | |
Kumar et al. | Automatic detection of red lesions in digital color retinal images | |
Lu et al. | Parapapillary atrophy and optic disc region assessment (PANDORA): retinal imaging tool for assessment of the optic disc and parapapillary atrophy | |
JP2010158279A (ja) | 眼底画像解析システム、及び眼底画像解析プログラム | |
JP6576035B2 (ja) | 眼科装置、視細胞検出方法およびプログラム | |
WO2022115777A2 (en) | System and methods of predicting parkinson's disease based on retinal images using machine learning | |
CN113487582A (zh) | 图像评估方法及装置、计算机可读存储介质及电子设备 | |
Martinez-Perez et al. | Evaluation of a portable retinal imaging device: towards a comparative quantitative analysis for morphological measurements of retinal blood vessels | |
Sadhukhan et al. | Optic disc segmentation in retinal fundus images using fully convolutional network and removal of false-positives based on shape features | |
JP2005261799A (ja) | 眼科用画像処理装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20171205 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20180928 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20181009 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20181206 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190129 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190311 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20190723 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20190820 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6576035 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |