JP2020039851A - 画像処理装置、画像処理方法、及びプログラム - Google Patents
画像処理装置、画像処理方法、及びプログラム Download PDFInfo
- Publication number
- JP2020039851A JP2020039851A JP2019068663A JP2019068663A JP2020039851A JP 2020039851 A JP2020039851 A JP 2020039851A JP 2019068663 A JP2019068663 A JP 2019068663A JP 2019068663 A JP2019068663 A JP 2019068663A JP 2020039851 A JP2020039851 A JP 2020039851A
- Authority
- JP
- Japan
- Prior art keywords
- image
- unit
- display
- learned model
- control unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000012545 processing Methods 0.000 title claims abstract description 315
- 238000003672 processing method Methods 0.000 title claims description 11
- 230000006872 improvement Effects 0.000 claims abstract description 243
- 230000009467 reduction Effects 0.000 claims abstract description 11
- 238000003384 imaging method Methods 0.000 claims description 136
- 238000000034 method Methods 0.000 claims description 121
- 230000008569 process Effects 0.000 claims description 74
- 210000004204 blood vessel Anatomy 0.000 claims description 33
- 230000004044 response Effects 0.000 claims description 20
- 238000006243 chemical reaction Methods 0.000 claims description 4
- 238000009499 grossing Methods 0.000 claims description 2
- 238000003745 diagnosis Methods 0.000 abstract description 51
- FCKYPQBAHLOOJQ-UHFFFAOYSA-N Cyclohexane-1,2-diaminetetraacetic acid Chemical compound OC(=O)CN(CC(O)=O)C1CCCCC1N(CC(O)=O)CC(O)=O FCKYPQBAHLOOJQ-UHFFFAOYSA-N 0.000 description 203
- 238000004458 analytical method Methods 0.000 description 100
- 238000012014 optical coherence tomography Methods 0.000 description 92
- 239000010410 layer Substances 0.000 description 54
- 230000003287 optical effect Effects 0.000 description 47
- 230000008859 change Effects 0.000 description 32
- 230000004048 modification Effects 0.000 description 32
- 238000012986 modification Methods 0.000 description 32
- 238000010801 machine learning Methods 0.000 description 30
- 238000003860 storage Methods 0.000 description 30
- 238000005259 measurement Methods 0.000 description 23
- 230000007704 transition Effects 0.000 description 20
- 230000006870 function Effects 0.000 description 12
- 238000013528 artificial neural network Methods 0.000 description 11
- 238000007689 inspection Methods 0.000 description 11
- 230000011218 segmentation Effects 0.000 description 11
- 238000009826 distribution Methods 0.000 description 9
- 239000013307 optical fiber Substances 0.000 description 9
- 210000001525 retina Anatomy 0.000 description 9
- 206010025421 Macule Diseases 0.000 description 7
- 238000013527 convolutional neural network Methods 0.000 description 7
- 230000008520 organization Effects 0.000 description 7
- 230000002159 abnormal effect Effects 0.000 description 6
- 239000006185 dispersion Substances 0.000 description 6
- 230000002207 retinal effect Effects 0.000 description 6
- 210000004027 cell Anatomy 0.000 description 5
- 238000013135 deep learning Methods 0.000 description 5
- 238000001514 detection method Methods 0.000 description 5
- 210000002445 nipple Anatomy 0.000 description 5
- 239000013598 vector Substances 0.000 description 5
- 238000012790 confirmation Methods 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 4
- 239000000835 fiber Substances 0.000 description 4
- 230000003902 lesion Effects 0.000 description 4
- 230000015654 memory Effects 0.000 description 4
- 230000003595 spectral effect Effects 0.000 description 4
- 239000002344 surface layer Substances 0.000 description 4
- 238000012549 training Methods 0.000 description 4
- 230000017531 blood circulation Effects 0.000 description 3
- 210000003161 choroid Anatomy 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 238000005286 illumination Methods 0.000 description 3
- 238000002156 mixing Methods 0.000 description 3
- 230000010287 polarization Effects 0.000 description 3
- 238000011946 reduction process Methods 0.000 description 3
- 230000002123 temporal effect Effects 0.000 description 3
- 238000012360 testing method Methods 0.000 description 3
- 230000002792 vascular Effects 0.000 description 3
- 206010047642 Vitiligo Diseases 0.000 description 2
- 230000004913 activation Effects 0.000 description 2
- 238000002583 angiography Methods 0.000 description 2
- 230000015572 biosynthetic process Effects 0.000 description 2
- 238000011156 evaluation Methods 0.000 description 2
- 238000002372 labelling Methods 0.000 description 2
- 230000007774 longterm Effects 0.000 description 2
- 210000004072 lung Anatomy 0.000 description 2
- 238000010606 normalization Methods 0.000 description 2
- 210000003733 optic disk Anatomy 0.000 description 2
- 210000000056 organ Anatomy 0.000 description 2
- 238000003825 pressing Methods 0.000 description 2
- 210000001747 pupil Anatomy 0.000 description 2
- 238000013441 quality evaluation Methods 0.000 description 2
- 230000005855 radiation Effects 0.000 description 2
- 230000000306 recurrent effect Effects 0.000 description 2
- 230000002441 reversible effect Effects 0.000 description 2
- 238000010408 sweeping Methods 0.000 description 2
- 238000003786 synthesis reaction Methods 0.000 description 2
- 210000004127 vitreous body Anatomy 0.000 description 2
- 238000012935 Averaging Methods 0.000 description 1
- 208000003098 Ganglion Cysts Diseases 0.000 description 1
- 208000010412 Glaucoma Diseases 0.000 description 1
- 208000005400 Synovial Cyst Diseases 0.000 description 1
- 206010064930 age-related macular degeneration Diseases 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 230000004397 blinking Effects 0.000 description 1
- 210000000601 blood cell Anatomy 0.000 description 1
- 210000004556 brain Anatomy 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 210000000038 chest Anatomy 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 239000000470 constituent Substances 0.000 description 1
- 239000002872 contrast media Substances 0.000 description 1
- 230000008878 coupling Effects 0.000 description 1
- 238000010168 coupling process Methods 0.000 description 1
- 238000005859 coupling reaction Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000006866 deterioration Effects 0.000 description 1
- 230000010339 dilation Effects 0.000 description 1
- 238000000799 fluorescence microscopy Methods 0.000 description 1
- 238000001506 fluorescence spectroscopy Methods 0.000 description 1
- 238000002599 functional magnetic resonance imaging Methods 0.000 description 1
- 210000004220 fundus oculi Anatomy 0.000 description 1
- 210000003128 head Anatomy 0.000 description 1
- 210000002216 heart Anatomy 0.000 description 1
- 238000010191 image analysis Methods 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 210000000936 intestine Anatomy 0.000 description 1
- 230000004410 intraocular pressure Effects 0.000 description 1
- 230000001678 irradiating effect Effects 0.000 description 1
- 210000003734 kidney Anatomy 0.000 description 1
- 230000031700 light absorption Effects 0.000 description 1
- 238000012886 linear function Methods 0.000 description 1
- 210000004185 liver Anatomy 0.000 description 1
- 208000002780 macular degeneration Diseases 0.000 description 1
- 238000002595 magnetic resonance imaging Methods 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 230000028161 membrane depolarization Effects 0.000 description 1
- 238000003058 natural language processing Methods 0.000 description 1
- 210000004126 nerve fiber Anatomy 0.000 description 1
- 210000000496 pancreas Anatomy 0.000 description 1
- 230000000737 periodic effect Effects 0.000 description 1
- 210000000608 photoreceptor cell Anatomy 0.000 description 1
- 238000011176 pooling Methods 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 230000000717 retained effect Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 210000003786 sclera Anatomy 0.000 description 1
- 230000006403 short-term memory Effects 0.000 description 1
- 238000002603 single-photon emission computed tomography Methods 0.000 description 1
- 238000012706 support-vector machine Methods 0.000 description 1
- 230000001629 suppression Effects 0.000 description 1
- 238000003325 tomography Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/70—Denoising; Smoothing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/044—Recurrent networks, e.g. Hopfield networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/60—Image enhancement or restoration using machine learning, e.g. neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/90—Dynamic range modification of images or parts thereof
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/90—Dynamic range modification of images or parts thereof
- G06T5/92—Dynamic range modification of images or parts thereof based on global image properties
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10072—Tomographic images
- G06T2207/10101—Optical tomography; Optical coherence tomography [OCT]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20212—Image combination
- G06T2207/20224—Image subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30041—Eye; Retina; Ophthalmic
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- General Engineering & Computer Science (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Biomedical Technology (AREA)
- Life Sciences & Earth Sciences (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Eye Examination Apparatus (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
Abstract
Description
以下、図1乃至7を参照して、本発明の実施例1に係る光干渉断層撮像装置(OCT装置)及び画像処理方法について説明する。図1は、本実施例に係るOCT装置の概略構成を示す。
上述のように、学習済モデルを用いて画質向上処理を行った画像では、現実には存在しない組織が描出されてしまったり、本来存在している組織が消えてしまったりする。そのため、当該画像に基づいて操作者が画像診断を行うことにより誤診断が生じてしまう場合がある。そこで、表示制御部250は、画質向上処理後のOCTA画像や断層画像等を表示部270に表示させる際に、当該画像が学習済モデルを用いて画質向上処理を行った画像である旨をともに表示させてもよい。この場合には、操作者による誤診断の発生を抑制することができる。なお、学習済モデルを用いて取得した高画質画像である旨が理解できる態様であれば、表示の態様については任意であってよい。
実施例1では一回の撮影(検査)で得られたOCTA画像や断層画像等に対して画質向上処理を適用する例について述べた。これに対し、複数回の撮影(検査)で得られた複数のOCTA画像や断層画像等に対して、学習済モデルを用いた画質向上処理を適用することもできる。変形例2では、図8(a)及び(b)を参照して、複数のOCTA画像や断層画像等に対して、学習済モデルを用いた画質向上処理を適用した画像を同時に表示させる構成について説明する。
学習済モデルは、学習の傾向に従って入力データに対応する可能性の高い出力データを出力する。これに関連して、学習済モデルは、画質の傾向が似た画像群を教師データとして学習を行うと、当該似た傾向の画像に対して、より効果的に高画質化した画像を出力することができる。そこで、実施例2では、撮影部位等の撮影条件やEn−Face画像の生成範囲毎にグルーピングされたペア群で構成された教師データを用いて学習した複数の学習済モデルによって画質向上処理を行うことで、より効果的に画質向上処理を行う。
実施例2では、選択部925が、撮影条件やEn−Face画像の生成範囲等に応じて適切な学習済モデルを自動的に選択した。これに対し、操作者が画像に適用する画質向上処理を手動で選択することを望む場合もある。そのため、選択部925は、操作者の指示に応じて、学習済モデルを選択してもよい。
実施例1及び2では、画質向上部224は、断層画像やOCTA画像を撮影した後、自動的に画質向上処理を実行した。しかしながら、画質向上部224が実行する学習済モデルを用いた画質向上処理は、処理に長時間を要する場合がある。また、モーションコントラスト生成部222によるモーションコントラストデータの生成及びEn−Face画像生成部223によるOCTA画像の生成にも時間を要する。そのため、撮影後に画質向上処理が完了するのを待ってから画像を表示する場合には、撮影から表示までに長時間を要する場合がある。
実施例1では、画質向上処理前後のOCTA画像を切り替えて表示する例について述べた。これに対し、実施例4では、画質向上処理前後の画像の比較を行う。
また、比較部1426が画質向上処理前後の画像の比較を行い、表示制御部250が比較部1426による比較結果に応じて、表示部270に警告を表示させてもよい。より具体的には、比較部1426が算出した、画質向上処理前後の画像における画素値の差分が所定値よりも大きい場合に、表示制御部250が表示部270に警告を表示させる。このような構成によれば、生成された高画質画像において、学習済モデルによって、現実には存在しない組織が生成されてしまったり、本来存在している組織が消されてしまったりした場合に、操作者に注意を促すことができる。なお、差分と所定値の比較は、比較部1426によって行われてもよいし、表示制御部250によって行われてもよい。また、差分に代えて差分の平均値等の統計的な値が所定値と比較されてもよい。
次に、図20(a)及び(b)を参照して、実施例5に係る画像処理装置(制御部200)について説明する。本実施例では、画質向上部224での処理結果を表示制御部250が表示部270に表示を行う例について説明を行う。なお、本実施例では、図20(a)及び(b)を用いて説明を行うが表示画面はこれに限らない。経過観察のように、異なる日時で得た複数の画像を並べて表示する表示画面においても同様に高画質化処理(画質向上処理)は適用可能である。また、撮影確認画面のように、検者が撮影直後に撮影成否を確認する表示画面においても同様に高画質化処理は適用可能である。表示制御部250は、画質向上部224が生成した複数の高画質画像や高画質化を行っていない低画質画像を表示部270に表示させることができる。これにより、検者の指示に応じて低画質画像、高画質画像をそれぞれ出力することができる。
上述した様々な実施例及び変形例において、表示制御部250は、画質向上部224によって生成された高画質画像と入力画像のうち、検者からの指示に応じて選択された画像を表示部270に表示させることができる。また、表示制御部250は、検者からの指示に応じて、表示部270上の表示を撮影画像(入力画像)から高画質画像に切り替えてもよい。すなわち、表示制御部250は、検者からの指示に応じて、低画質画像の表示を高画質画像の表示に変更してもよい。また、表示制御部250は、検者からの指示に応じて、高画質画像の表示を低画質画像の表示に変更してもよい。
上述した様々な実施例及び変形例におけるレポート画面において、所望の層の層厚や各種の血管密度等の解析結果を表示させてもよい。また、視神経乳頭部、黄斑部、血管領域、神経線維束、硝子体領域、黄斑領域、脈絡膜領域、強膜領域、篩状板領域、網膜層境界、網膜層境界端部、視細胞、血球、血管壁、血管内壁境界、血管外側境界、神経節細胞、角膜領域、隅角領域、シュレム管等の少なくとも1つを含む注目部位に関するパラメータの値(分布)を解析結果として表示させてもよい。このとき、例えば、各種のアーチファクトの低減処理が適用された医用画像を解析することで、精度の良い解析結果を表示させることができる。なお、アーチファクトは、例えば、血管領域等による光吸収により生じる偽像領域や、プロジェクションアーチファクト、被検眼の状態(動きや瞬き等)によって測定光の主走査方向に生じる正面画像における帯状のアーチファクト等であってもよい。また、アーチファクトは、例えば、被検者の所定部位の医用画像上に撮影毎にランダムに生じるような写損領域であれば、何でもよい。また、上述したような様々なアーチファクト(写損領域)の少なくとも1つを含む領域に関するパラメータの値(分布)を解析結果として表示させてもよい。また、ドルーゼン、新生血管、白斑(硬性白斑)、シュードドルーゼン等の異常部位等の少なくとも1つを含む領域に関するパラメータの値(分布)を解析結果として表示させてもよい。
上述した様々な実施例及び変形例におけるプレビュー画面において、ライブ動画像の少なくとも1つのフレーム毎に上述した学習済モデルが用いられるように構成されてもよい。このとき、プレビュー画面において、異なる部位や異なる種類の複数のライブ動画像が表示されている場合には、各ライブ動画像に対応する学習済モデルが用いられるように構成されてもよい。これにより、例えば、ライブ動画像であっても、処理時間を短縮することができるため、検者は撮影開始前に精度の高い情報を得ることができる。このため、例えば、再撮影の失敗等を低減することができるため、診断の精度や効率を向上させることができる。なお、複数のライブ動画像は、例えば、XYZ方向のアライメントのための前眼部の動画像、及び眼底観察光学系のフォーカス調整やOCTフォーカス調整のための眼底の正面動画像であってよい。また、複数のライブ動画像は、例えば、OCTのコヒーレンスゲート調整(測定光路長と参照光路長との光路長差の調整)のための眼底の断層動画像等であってもよい。
上述した様々な実施例及び変形例においては、学習済モデルが追加学習中である場合、追加学習中の学習済モデル自体を用いて出力(推論・予測)することが難しい可能性がある。このため、追加学習中の学習済モデルに対する医用画像の入力を禁止することがよい。また、追加学習中の学習済モデルと同じ学習済モデルをもう一つ予備の学習済モデルとして用意してもよい。このとき、追加学習中には、予備の学習済モデルに対して医用画像の入力が実行できるようにすることがよい。そして、追加学習が完了した後に、追加学習後の学習済モデルを評価し、問題なければ、予備の学習済モデルから追加学習後の学習済モデルに置き換えればよい。また、問題があれば、予備の学習済モデルが用いられるようにしてもよい。
上述した様々な実施例及び変形例において、検者からの指示は、手動による指示(例えば、ユーザーインターフェース等を用いた指示)以外にも、音声等による指示であってもよい。このとき、例えば、機械学習により得た音声認識モデル(音声認識エンジン、文字認識用の学習済モデル)を含む機械学習モデルが用いられてもよい。また、手動による指示は、キーボードやタッチパネル等を用いた文字入力等による指示であってもよい。このとき、例えば、機械学習により得た文字認識モデル(文字認識エンジン、文字認識用の学習済モデル)を含む機械学習モデルが用いられてもよい。また、検者からの指示は、ジェスチャー等による指示であってもよい。このとき、機械学習により得たジェスチャー認識モデル(ジェスチャー認識エンジン、ジェスチャー認識用の学習済モデル)を含む機械学習モデルが用いられてもよい。
上述した様々な実施例及び変形例において、高画質画像等は、検者からの指示に応じて記憶部に保存されてもよい。このとき、高画質画像等を保存するための検者からの指示の後、ファイル名の登録の際に、推奨のファイル名として、ファイル名のいずれかの箇所(例えば、最初の箇所、最後の箇所)に、高画質化用の学習済モデルを用いた処理(高画質化処理)により生成された画像であることを示す情報(例えば、文字)を含むファイル名が、検者からの指示に応じて編集可能な状態で表示されてもよい。
上述した様々な実施例及び変形例において、上述したような種々の学習済モデルのうち、第1の種類の学習済モデルで得た画像(例えば、高画質画像、解析マップ等の解析結果を示す画像、物体認識結果を示す画像、セグメンテーション結果を示す画像)を、第1の種類とは異なる第2の種類の学習済モデルに入力してもよい。このとき、第2の種類の学習済モデルの処理による結果(例えば、解析結果、診断結果、物体認識結果、セグメンテーション結果)が生成されるように構成されてもよい。
なお、上記実施例及び変形例におけるモーションコントラストデータの生成処理は、断層画像の輝度値に基づいて行われる構成に限られない。上記各種処理は、OCT撮影部100で取得された干渉信号、干渉信号にフーリエ変換を施した信号、該信号に任意の処理を施した信号、及びこれらに基づく断層画像等を含む断層データに対して適用されてよい。これらの場合も、上記構成と同様の効果を奏することができる。
また、上述した様々な実施例及び変形例による画像処理装置又は画像処理方法によって処理される画像は、任意のモダリティ(撮影装置、撮影方法)を用いて取得された医用画像を含む。処理される医用画像は、任意の撮影装置等で取得された医用画像や、上記実施例及び変形例による画像処理装置又は画像処理方法によって作成された画像を含むことができる。
本発明は、上述の実施例の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
Claims (33)
- 学習済モデルを用いて、被検眼の第1の画像から、該第1の画像と比べてノイズ低減及びコントラスト強調のうちの少なくとも一つがなされた第2の画像を生成する、画質向上部と、
表示部に前記第1の画像と前記第2の画像とを切り替えて、並べて、又は重ねて表示させる表示制御部と、
を備える、画像処理装置。 - 複数の学習済モデルから、前記画質向上部によって用いられる学習済モデルを選択する選択部を更に備える、請求項1に記載の画像処理装置。
- 前記第1の画像は、被検眼の深さ方向の範囲における情報に基づいて生成された正面画像であり、
前記選択部は、前記第1の画像を生成するための深さ方向の範囲に基づいて、前記画質向上部によって用いられる学習済モデルを選択する、請求項2に記載の画像処理装置。 - 前記選択部は、前記第1の画像における表示部位及び前記第1の画像を生成するための深さ方向の範囲に基づいて、前記画質向上部によって用いられる学習済モデルを選択する、請求項3に記載の画像処理装置。
- 前記選択部は、前記表示部位を含む撮影部位及び前記第1の画像を生成するための深さ方向の範囲に基づいて、前記画質向上部によって用いられる学習済モデルを選択する、請求項4に記載の画像処理装置。
- 前記選択部は、前記第1の画像の撮影条件に基づいて、前記画質向上部によって用いられる学習済モデルを選択する、請求項2に記載の画像処理装置。
- 前記選択部は、操作者からの指示に応じて、前記画質向上部によって用いられる学習済モデルを選択する、請求項2に記載の画像処理装置。
- 前記選択部は、操作者からの指示に応じて、前記画質向上部によって用いられる学習済モデルを変更する、請求項2乃至7のいずれか一項に記載の画像処理装置。
- 前記表示制御部は、操作者からの指示に応じて、前記第1の画像及び前記第2の画像を切り替えて、前記表示部に表示させる、請求項1乃至8のいずれか一項に記載の画像処理装置。
- 学習済モデルを用いて、被検眼の第1の画像から、該第1の画像に対して画質向上処理を行った第2の画像を生成する、画質向上部と、
操作者からの指示に応じて、表示部に前記第1の画像と前記第2の画像とを切り替えて表示させる表示制御部と、
を備える、画像処理装置。 - 前記画質向上部は、複数の前記第1の画像から、複数の前記第2の画像を生成し、
前記表示制御部は、前記表示部に、前記複数の第1の画像と前記複数の第2の画像とを切り替えて表示させる、請求項1乃至10のいずれか一項に記載の画像処理装置。 - 前記第1の画像を取得する取得部を更に備え、
前記表示制御部は、
前記取得部による前記第1の画像の取得直後に前記表示部に前記第1の画像を表示させ、
前記画質向上部によって前記第2の画像が生成された後に、表示されている前記第1の画像を前記第2の画像に切り替えて前記表示部に表示させる、請求項1乃至11のいずれか一項に記載の画像処理装置。 - 前記第1の画像は、被検眼の深さ方向の範囲におけるモーションコントラストデータに基づいて生成された正面画像であり、
前記表示制御部は、
前記取得部による前記第1の画像の取得前に、被検眼の深さ方向における断層データに基づいて生成された正面画像である第3の画像を表示し、
前記取得部による前記第1の画像の取得直後に、表示されている前記第3の画像を前記第1の画像に切り替えて前記表示部に表示させる、請求項12に記載の画像処理装置。 - 前記第1の画像は、被検眼の深さ方向の範囲における情報に基づいて生成された正面画像であり、
操作者からの指示に応じて第1の画像の前記深さ方向の範囲が変更されると、前記表示制御部は、前記表示部に並べて表示されている前記第1の画像と前記第2の画像を、前記変更された深さ方向の範囲に基づく第1の画像と該第1の画像から生成された第2の画像に変更して表示させる、請求項1乃至8のいずれか一項に記載の画像処理装置。 - 前記表示制御部は、操作者からの指示に応じて、前記表示部に並べて表示されている前記第1の画像及び前記第2の画像のいずれかを拡大表示させる、請求項1乃至8及び14のいずれか一項に記載の画像処理装置。
- 前記表示制御部は、前記第1の画像及び前記第2の画像の少なくとも一方に透明度を設定し、前記表示部に前記第1の画像及び前記第2の画像を重ねて表示させる、請求項1乃至8のいずれか一項に記載の画像処理装置。
- 学習済モデルを用いて、被検眼の深さ方向の範囲における情報に基づいて生成された正面画像である第1の画像から、該第1の画像と比べてノイズ低減及びコントラスト強調のうちの少なくとも一つがなされた第2の画像を生成する、画質向上部と、
前記第1の画像を生成するための深さ方向の範囲に基づいて、複数の学習済モデルから、前記画質向上部によって用いられる学習済モデルを選択する選択部と、
を備える、画像処理装置。 - 前記第1の画像は、被検眼の輝度の正面画像及び被検眼の正面血管画像のいずれかである、請求項3乃至12及び14乃至17のいずれか一項に記載の画像処理装置。
- 前記第1の画像と前記第2の画像を比較し、比較結果に基づいて色付けされたカラーマップ画像を生成する比較部を更に備え、
前記カラーマップ画像は、前記第1の画像又は前記第2の画像に重畳表示される、請求項1乃至18のいずれか一項に記載の画像処理装置。 - 学習済モデルを用いて、被検眼の第1の画像から、該第1の画像と比べてノイズ低減及びコントラスト強調のうちの少なくとも一つがなされた第2の画像を生成する、画質向上部と、
前記第1の画像と前記第2の画像を比較する比較部と、
前記比較部による比較結果に基づいて表示部の表示を制御する表示制御部と、
を備える、画像処理装置。 - 前記比較部は、前記第1の画像と前記第2の画像の差分を算出し、該差分に基づいて色分けされたカラーマップ画像を生成し、
前記表示制御部は前記カラーマップ画像を前記表示部に表示させる、請求項20に記載の画像処理装置。 - 前記表示制御部は、前記第1の画像又は前記第2の画像に前記カラーマップ画像を重畳表示させる、請求項21に記載の画像処理装置。
- 前記表示制御部は、操作者の指示に応じて、前記第1の画像又は前記第2の画像に前記カラーマップ画像を重畳表示させる、請求項21に記載の画像処理装置。
- 前記表示制御部は、複数の前記第1の画像又は複数の前記第2の画像に対応する前記カラーマップ画像を重畳表示させる、請求項21乃至23のいずれか一項に記載の画像処理装置。
- 前記比較部は前記第1の画像と前記第2の画像の差分を算出し、
前記表示制御部は前記差分が所定の値よりも大きい場合に前記表示部に警告を表示させる、請求項20に記載の画像処理装置。 - 前記比較部は前記第1の画像と前記第2の画像の差分を算出し、
前記表示制御部は、前記差分が所定の値よりも大きい場合には、前記表示部に前記第2の画像を表示させない、請求項20に記載の画像処理装置。 - 前記学習済モデルの学習データは、重ね合わせ処理、最大事後確率推定処理、平滑化フィルタ処理及び階調変換処理のうちの一つの処理により得られた画像を含む、請求項1乃至26のいずれか一項に記載の画像処理装置。
- 前記学習済モデルの学習データは、前記第1の画像の撮影に用いられる撮影装置よりも高性能な撮影装置によって撮影された画像、又は前記第1の画像の撮影工程よりも工数の多い撮影工程で取得された画像を含む、請求項1乃至26のいずれか一項に記載の画像処理装置。
- 学習済モデルを用いて、被検眼の第1の画像から、該第1の画像と比べてノイズ低減及びコントラスト強調のうちの少なくとも一つがなされた第2の画像を生成する工程と、
表示部に前記第1の画像と前記第2の画像とを切り替えて、並べて、又は重ねて表示させる工程と、
を含む、画像処理方法。 - 学習済モデルを用いて、被検眼の第1の画像から、該第1の画像に対して画質向上処理を行った第2の画像を生成する工程と、
操作者からの指示に応じて、表示部に前記第1の画像と前記第2の画像とを切り替えて表示させる工程と、
を含む、画像処理方法。 - 学習済モデルを用いて、被検眼の深さ方向の範囲における情報に基づいて生成された正面画像である第1の画像から、該第1の画像と比べてノイズ低減及びコントラスト強調の うちの少なくとも一つがなされた第2の画像を生成する工程と、
複数の学習済モデルから、前記第1の画像を生成するための深さ方向の範囲に基づいて、前記第2の画像の生成に用いられる学習済モデルを選択する工程と、
を含む、画像処理方法。 - 学習済モデルを用いて、被検眼の第1の画像から、該第1の画像と比べてノイズ低減及びコントラスト強調のうちの少なくとも一つがなされた第2の画像を生成する工程と、
前記第1の画像と前記第2の画像を比較する工程と、
前記第1の画像と前記第2の画像の比較結果に基づいて表示部の表示を制御する工程と、
を含む、画像処理方法。 - プロセッサーによって実行されると、該プロセッサーに請求項29乃至32のいずれか一項に記載の画像処理方法の各工程を実行させる、プログラム。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201980057669.5A CN112638234A (zh) | 2018-09-06 | 2019-06-14 | 图像处理装置、图像处理方法和程序 |
PCT/JP2019/023650 WO2020049828A1 (ja) | 2018-09-06 | 2019-06-14 | 画像処理装置、画像処理方法、及びプログラム |
US17/182,402 US20210183019A1 (en) | 2018-09-06 | 2021-02-23 | Image processing apparatus, image processing method and computer-readable medium |
JP2023061097A JP7488934B2 (ja) | 2018-09-06 | 2023-04-05 | 画像処理装置、画像処理装置の作動方法、及びプログラム |
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018166817 | 2018-09-06 | ||
JP2018166817 | 2018-09-06 |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2023061097A Division JP7488934B2 (ja) | 2018-09-06 | 2023-04-05 | 画像処理装置、画像処理装置の作動方法、及びプログラム |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2020039851A true JP2020039851A (ja) | 2020-03-19 |
JP2020039851A5 JP2020039851A5 (ja) | 2021-02-04 |
JP7305401B2 JP7305401B2 (ja) | 2023-07-10 |
Family
ID=69797054
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019068663A Active JP7305401B2 (ja) | 2018-09-06 | 2019-03-29 | 画像処理装置、画像処理装置の作動方法、及びプログラム |
Country Status (3)
Country | Link |
---|---|
US (1) | US20210183019A1 (ja) |
JP (1) | JP7305401B2 (ja) |
CN (1) | CN112638234A (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2021183017A (ja) * | 2020-05-21 | 2021-12-02 | キヤノン株式会社 | 情報処理装置、情報処理方法、およびプログラム |
JP7469738B2 (ja) | 2020-03-30 | 2024-04-17 | ブラザー工業株式会社 | 学習済みの機械学習モデル、および、画像生成装置、機械学習モデルのトレーニング方法 |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112822973A (zh) * | 2018-10-10 | 2021-05-18 | 佳能株式会社 | 医学图像处理装置、医学图像处理方法和程序 |
JP7250653B2 (ja) * | 2018-10-10 | 2023-04-03 | キヤノン株式会社 | 画像処理装置、画像処理方法及びプログラム |
US11890550B2 (en) * | 2020-01-02 | 2024-02-06 | Mattel, Inc. | Electrical tomography-based object recognition |
WO2024055229A1 (zh) * | 2022-09-15 | 2024-03-21 | 华为技术有限公司 | 图像处理方法、装置、系统及智能设备 |
Citations (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH06180569A (ja) * | 1992-09-30 | 1994-06-28 | Hudson Soft Co Ltd | 画像処理装置 |
JP2015198757A (ja) * | 2014-04-08 | 2015-11-12 | 株式会社トーメーコーポレーション | 断層撮影装置 |
JP2017077413A (ja) * | 2015-10-21 | 2017-04-27 | 株式会社ニデック | 眼科解析装置、眼科解析プログラム |
JP2017094097A (ja) * | 2015-11-27 | 2017-06-01 | 株式会社東芝 | 医用画像処理装置、x線コンピュータ断層撮像装置及び医用画像処理方法 |
WO2017143300A1 (en) * | 2016-02-19 | 2017-08-24 | Optovue, Inc. | Methods and apparatus for reducing artifacts in oct angiography using machine learning techniques |
JP2018005841A (ja) * | 2016-07-08 | 2018-01-11 | 株式会社トプコン | 医用画像処理方法及び医用画像処理装置 |
US20180012359A1 (en) * | 2016-07-06 | 2018-01-11 | Marinko Venci Sarunic | Systems and Methods for Automated Image Classification and Segmentation |
JP2018033717A (ja) * | 2016-08-31 | 2018-03-08 | 株式会社トプコン | 眼科装置 |
JP2018055516A (ja) * | 2016-09-30 | 2018-04-05 | キヤノン株式会社 | 画像処理方法、画像処理装置、撮像装置、画像処理プログラム、および、記憶媒体 |
WO2018069768A2 (en) * | 2016-10-13 | 2018-04-19 | Translatum Medicus, Inc. | Systems and methods for detection of ocular disease |
JP2018068748A (ja) * | 2016-10-31 | 2018-05-10 | キヤノン株式会社 | 情報処理装置、情報処理方法およびプログラム |
JP2018077786A (ja) * | 2016-11-11 | 2018-05-17 | 株式会社東芝 | 画像処理装置、画像処理方法、プログラム、運転制御システム、および、車両 |
US20180214087A1 (en) * | 2017-01-30 | 2018-08-02 | Cognizant Technology Solutions India Pvt. Ltd. | System and method for detecting retinopathy |
Family Cites Families (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3725460B2 (ja) * | 2000-10-06 | 2005-12-14 | 株式会社ソニー・コンピュータエンタテインメント | 画像処理装置、画像処理方法、記録媒体、コンピュータプログラム、半導体デバイス |
JP4233932B2 (ja) * | 2003-06-19 | 2009-03-04 | 日立建機株式会社 | 作業機械の作業支援・管理システム |
JP2006033667A (ja) * | 2004-07-21 | 2006-02-02 | Hitachi Ltd | Osd表示装置 |
JP4310317B2 (ja) * | 2006-02-06 | 2009-08-05 | キヤノン株式会社 | 可視成分割合算出方法、およびそれを用いた光学機器 |
JP2011013334A (ja) * | 2009-06-30 | 2011-01-20 | Yamaha Corp | 画像表示装置 |
JP2011028371A (ja) * | 2009-07-22 | 2011-02-10 | Fujitsu Ltd | 移動体検知装置および移動体検知方法 |
JP2013090194A (ja) * | 2011-10-19 | 2013-05-13 | Sony Corp | サーバ装置、画像送信方法、端末装置、画像受信方法、プログラムおよび画像処理システム |
JP6226510B2 (ja) * | 2012-01-27 | 2017-11-08 | キヤノン株式会社 | 画像処理システム、処理方法及びプログラム |
JP6744073B2 (ja) * | 2015-06-22 | 2020-08-19 | キヤノンメディカルシステムズ株式会社 | 超音波診断装置および超音波画像診断表示システム |
JP6840520B2 (ja) * | 2016-12-01 | 2021-03-10 | キヤノン株式会社 | 画像処理装置、撮像装置、画像処理方法及びプログラム |
JP6736490B2 (ja) * | 2017-01-17 | 2020-08-05 | キヤノン株式会社 | 画像処理装置、光干渉断層撮像装置、システム、画像処理方法、及びプログラム |
GB2610712B (en) * | 2018-06-15 | 2023-07-19 | Canon Kk | Medical image processing apparatus, optical coherence tomography apparatus, learned model, learning apparatus, medical image processing method and program |
JP7073961B2 (ja) * | 2018-07-24 | 2022-05-24 | コニカミノルタ株式会社 | 動態画像解析装置、動態画像解析方法及びプログラム |
JP7229881B2 (ja) * | 2018-08-14 | 2023-02-28 | キヤノン株式会社 | 医用画像処理装置、学習済モデル、医用画像処理方法及びプログラム |
-
2019
- 2019-03-29 JP JP2019068663A patent/JP7305401B2/ja active Active
- 2019-06-14 CN CN201980057669.5A patent/CN112638234A/zh active Pending
-
2021
- 2021-02-23 US US17/182,402 patent/US20210183019A1/en active Pending
Patent Citations (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH06180569A (ja) * | 1992-09-30 | 1994-06-28 | Hudson Soft Co Ltd | 画像処理装置 |
JP2015198757A (ja) * | 2014-04-08 | 2015-11-12 | 株式会社トーメーコーポレーション | 断層撮影装置 |
JP2017077413A (ja) * | 2015-10-21 | 2017-04-27 | 株式会社ニデック | 眼科解析装置、眼科解析プログラム |
JP2017094097A (ja) * | 2015-11-27 | 2017-06-01 | 株式会社東芝 | 医用画像処理装置、x線コンピュータ断層撮像装置及び医用画像処理方法 |
WO2017143300A1 (en) * | 2016-02-19 | 2017-08-24 | Optovue, Inc. | Methods and apparatus for reducing artifacts in oct angiography using machine learning techniques |
US20180012359A1 (en) * | 2016-07-06 | 2018-01-11 | Marinko Venci Sarunic | Systems and Methods for Automated Image Classification and Segmentation |
JP2018005841A (ja) * | 2016-07-08 | 2018-01-11 | 株式会社トプコン | 医用画像処理方法及び医用画像処理装置 |
JP2018033717A (ja) * | 2016-08-31 | 2018-03-08 | 株式会社トプコン | 眼科装置 |
JP2018055516A (ja) * | 2016-09-30 | 2018-04-05 | キヤノン株式会社 | 画像処理方法、画像処理装置、撮像装置、画像処理プログラム、および、記憶媒体 |
WO2018069768A2 (en) * | 2016-10-13 | 2018-04-19 | Translatum Medicus, Inc. | Systems and methods for detection of ocular disease |
JP2018068748A (ja) * | 2016-10-31 | 2018-05-10 | キヤノン株式会社 | 情報処理装置、情報処理方法およびプログラム |
JP2018077786A (ja) * | 2016-11-11 | 2018-05-17 | 株式会社東芝 | 画像処理装置、画像処理方法、プログラム、運転制御システム、および、車両 |
US20180214087A1 (en) * | 2017-01-30 | 2018-08-02 | Cognizant Technology Solutions India Pvt. Ltd. | System and method for detecting retinopathy |
Non-Patent Citations (2)
Title |
---|
DEVALLA SRIPAD KRISHNA: "DRUNET: A Dilated-Residual U-Net Deep Learning Network to Digitally Stain Optic Nerve Head Tissues i", [ONLINE], JPN6019033169, 1 March 2018 (2018-03-01), pages 1 - 19, ISSN: 0004833941 * |
SHEET DEBDOOT: "DEEP LEARNING OF TISSUE SPECIFIC SPECKLE REPRESENTATIONS IN OPTICAL COHERENCE TOMOGRAPHY AND DEEPER", 2015 IEEE 12TH INTERNATIONAL SYMPOSIUM ON BIOMEDICAL IMAGING (ISBI), JPN6019033168, April 2015 (2015-04-01), pages 777 - 780, XP033179567, ISSN: 0004833942, DOI: 10.1109/ISBI.2015.7163987 * |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7469738B2 (ja) | 2020-03-30 | 2024-04-17 | ブラザー工業株式会社 | 学習済みの機械学習モデル、および、画像生成装置、機械学習モデルのトレーニング方法 |
JP2021183017A (ja) * | 2020-05-21 | 2021-12-02 | キヤノン株式会社 | 情報処理装置、情報処理方法、およびプログラム |
Also Published As
Publication number | Publication date |
---|---|
JP7305401B2 (ja) | 2023-07-10 |
US20210183019A1 (en) | 2021-06-17 |
CN112638234A (zh) | 2021-04-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7229881B2 (ja) | 医用画像処理装置、学習済モデル、医用画像処理方法及びプログラム | |
US11935241B2 (en) | Image processing apparatus, image processing method and computer-readable medium for improving image quality | |
JP7341874B2 (ja) | 画像処理装置、画像処理方法、及びプログラム | |
US20210104313A1 (en) | Medical image processing apparatus, medical image processing method and computer-readable medium | |
JP7269413B2 (ja) | 医用画像処理装置、医用画像処理システム、医用画像処理方法及びプログラム | |
JP7305401B2 (ja) | 画像処理装置、画像処理装置の作動方法、及びプログラム | |
US11922601B2 (en) | Medical image processing apparatus, medical image processing method and computer-readable medium | |
JP7374615B2 (ja) | 情報処理装置、情報処理方法及びプログラム | |
WO2020183791A1 (ja) | 画像処理装置および画像処理方法 | |
JP2021037239A (ja) | 領域分類方法 | |
JP7362403B2 (ja) | 画像処理装置および画像処理方法 | |
WO2020138128A1 (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JP2021122559A (ja) | 画像処理装置、画像処理方法及びプログラム | |
WO2020075719A1 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2021164535A (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JP7488934B2 (ja) | 画像処理装置、画像処理装置の作動方法、及びプログラム | |
JP2021069667A (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2019208845A (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP7446730B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP7086708B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2023010308A (ja) | 画像処理装置および画像処理方法 | |
JP2022121202A (ja) | 画像処理装置および画像処理方法 | |
JP2020174862A (ja) | 眼科撮影装置及びその制御方法 | |
JP2019198384A (ja) | 画像処理装置、画像処理方法及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20201216 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20201216 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220201 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220329 |
|
RD01 | Notification of change of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7421 Effective date: 20220630 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220726 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220914 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20230105 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230405 |
|
C60 | Trial request (containing other claim documents, opposition documents) |
Free format text: JAPANESE INTERMEDIATE CODE: C60 Effective date: 20230405 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20230413 |
|
C21 | Notice of transfer of a case for reconsideration by examiners before appeal proceedings |
Free format text: JAPANESE INTERMEDIATE CODE: C21 Effective date: 20230418 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230530 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230628 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 7305401 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |