JP2020116378A - 深層学習ベースの画像再構成のためのシステムおよび方法 - Google Patents
深層学習ベースの画像再構成のためのシステムおよび方法 Download PDFInfo
- Publication number
- JP2020116378A JP2020116378A JP2019222767A JP2019222767A JP2020116378A JP 2020116378 A JP2020116378 A JP 2020116378A JP 2019222767 A JP2019222767 A JP 2019222767A JP 2019222767 A JP2019222767 A JP 2019222767A JP 2020116378 A JP2020116378 A JP 2020116378A
- Authority
- JP
- Japan
- Prior art keywords
- image
- ray
- organ
- volume
- projection images
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title abstract description 62
- 238000013135 deep learning Methods 0.000 title abstract description 39
- 210000000056 organ Anatomy 0.000 claims abstract description 128
- 238000004422 calculation algorithm Methods 0.000 claims abstract description 120
- 239000002131 composite material Substances 0.000 claims description 36
- 238000012549 training Methods 0.000 claims description 30
- 238000013528 artificial neural network Methods 0.000 claims description 29
- 238000011524 similarity measure Methods 0.000 claims description 28
- 238000013507 mapping Methods 0.000 claims description 11
- 230000006835 compression Effects 0.000 claims description 10
- 238000007906 compression Methods 0.000 claims description 10
- 230000002708 enhancing effect Effects 0.000 claims description 6
- 238000012937 correction Methods 0.000 claims description 5
- 230000008569 process Effects 0.000 description 31
- 230000015654 memory Effects 0.000 description 29
- 238000009607 mammography Methods 0.000 description 22
- 238000003384 imaging method Methods 0.000 description 20
- 210000000481 breast Anatomy 0.000 description 18
- 238000012545 processing Methods 0.000 description 16
- 238000013527 convolutional neural network Methods 0.000 description 12
- 238000012360 testing method Methods 0.000 description 11
- 238000010801 machine learning Methods 0.000 description 9
- 230000001537 neural effect Effects 0.000 description 6
- 208000004434 Calcinosis Diseases 0.000 description 5
- 238000003745 diagnosis Methods 0.000 description 5
- 238000010191 image analysis Methods 0.000 description 5
- 238000011176 pooling Methods 0.000 description 5
- 238000004458 analytical method Methods 0.000 description 4
- 230000006399 behavior Effects 0.000 description 4
- 238000004891 communication Methods 0.000 description 4
- 230000003902 lesion Effects 0.000 description 4
- 210000002569 neuron Anatomy 0.000 description 4
- 230000005855 radiation Effects 0.000 description 4
- 238000012552 review Methods 0.000 description 4
- 238000013459 approach Methods 0.000 description 3
- 238000013473 artificial intelligence Methods 0.000 description 3
- 230000003190 augmentative effect Effects 0.000 description 3
- 230000002308 calcification Effects 0.000 description 3
- 238000004195 computer-aided diagnosis Methods 0.000 description 3
- 230000000593 degrading effect Effects 0.000 description 3
- 238000001514 detection method Methods 0.000 description 3
- 230000008929 regeneration Effects 0.000 description 3
- 238000011069 regeneration method Methods 0.000 description 3
- 238000012216 screening Methods 0.000 description 3
- 230000009466 transformation Effects 0.000 description 3
- 206010006187 Breast cancer Diseases 0.000 description 2
- 208000026310 Breast neoplasm Diseases 0.000 description 2
- 206010073306 Exposure to radiation Diseases 0.000 description 2
- 206010028980 Neoplasm Diseases 0.000 description 2
- 230000005856 abnormality Effects 0.000 description 2
- 230000008901 benefit Effects 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 2
- 230000003139 buffering effect Effects 0.000 description 2
- 230000000875 corresponding effect Effects 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 230000018109 developmental process Effects 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 238000011156 evaluation Methods 0.000 description 2
- 238000000605 extraction Methods 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 230000007774 longterm Effects 0.000 description 2
- 230000001902 propagating effect Effects 0.000 description 2
- 238000007637 random forest analysis Methods 0.000 description 2
- 229930091051 Arenine Natural products 0.000 description 1
- 201000011510 cancer Diseases 0.000 description 1
- 238000002591 computed tomography Methods 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 238000007405 data analysis Methods 0.000 description 1
- 238000013479 data entry Methods 0.000 description 1
- 230000007812 deficiency Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000006073 displacement reaction Methods 0.000 description 1
- 239000003814 drug Substances 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 210000002364 input neuron Anatomy 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 238000003062 neural network model Methods 0.000 description 1
- 238000002601 radiography Methods 0.000 description 1
- 230000000306 recurrent effect Effects 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 238000007493 shaping process Methods 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 208000024891 symptom Diseases 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
- 238000013526 transfer learning Methods 0.000 description 1
- 230000001131 transforming effect Effects 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
- 238000002604 ultrasonography Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T11/00—2D [Two Dimensional] image generation
- G06T11/003—Reconstruction from projections, e.g. tomography
- G06T11/008—Specific post-processing after tomographic reconstruction, e.g. voxelisation, metal artifact correction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
- G06T17/10—Constructive solid geometry [CSG] using solid primitives, e.g. cylinders, cubes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2200/00—Indexing scheme for image data processing or generation, in general
- G06T2200/24—Indexing scheme for image data processing or generation, in general involving graphical user interfaces [GUIs]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10072—Tomographic images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10116—X-ray image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2210/00—Indexing scheme for image generation or computer graphics
- G06T2210/41—Medical
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2211/00—Image generation
- G06T2211/40—Computed tomography
- G06T2211/408—Dual energy
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2211/00—Image generation
- G06T2211/40—Computed tomography
- G06T2211/436—Limited angle
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2211/00—Image generation
- G06T2211/40—Computed tomography
- G06T2211/441—AI-based methods, deep learning or artificial neural networks
Landscapes
- Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Geometry (AREA)
- Computer Graphics (AREA)
- Software Systems (AREA)
- Apparatus For Radiation Diagnosis (AREA)
Abstract
Description
図1は、対象のオブジェクトの1つ以上の画像を取得するための典型的な撮像システム100を示している。典型的なシステム100は、検出器145に面するX線ビームソース140を含む。X線ビームソースまたはエミッタ140と、検出器145とは、アーム144によって接続されている。対象のオブジェクト132を、検出器145とソース140との間に配置することができる。図1の例において、X線ソース140は、単一の検出器145の上方を、円弧を描くように移動する。検出器145と、円弧(破線を参照)を辿るX線ソース140’および140’’の複数の位置とが、破線/実線にて、一部分の斜視図に示されている。図1の例に示される構成において、検出器145は図示の位置に固定され、X線ソース140のみが移動する。角度aは、ゼロ方向と他の方向(141および142など)とによって囲まれる投影角度である。この構成を使用して、乳房(例えば、対象のオブジェクト132)の組織の複数のビューを、少なくとも1つのX線ソース140によって取得することができる。aが最も小さい投影またはゼロ方向に最も近い投影は、近似により、中央投影またはゼロ投影と呼ばれる。
エラー=ΣTraining_SetΣx,y[Output(x,y)−FFDM(x,y)]2(式1)
などのエラー測定値または類似度指標として定量化することができる。
[実施態様1]
命令を含んでいる少なくとも1つのコンピュータ可読記憶媒体であって、
前記命令は、実行時に、少なくとも1つのプロセッサに、少なくとも
器官の複数の二次元(2D)トモシンセシス投影画像を、X線エミッタを前記器官に対する複数の向きへと回転させ、前記複数の2Dトモシンセシス投影画像の各々の投影画像について前記エミッタから第1のレベルのX線エネルギ投入を放射することによって取得するステップ(1110)と、
前記複数の2Dトモシンセシス投影画像から前記器官の三次元(3D)ボリュームを再構成するステップ(1120)と、
第2のレベルのX線エネルギ投入で前記器官のX線画像を取得するステップ(1130)と、
合成2D画像生成アルゴリズムを、前記複数の二次元(2D)トモシンセシス投影画像または前記再構成された3Dボリュームの少なくとも一方から、前記合成2D画像と前記X線画像との間の類似度指標に基づいて生成するステップ(1140)と、
前記合成2D画像生成アルゴリズムをインスタンス化するモデルを展開するステップ(1150)と
を実行させる、少なくとも1つのコンピュータ可読記憶媒体。
[実施態様2]
前記X線画像は、前記複数の2Dトモシンセシス投影画像のジオメトリにフィットするように位置合わせされる、実施態様1に記載の少なくとも1つのコンピュータ可読記憶媒体。
[実施態様3]
前記器官の前記複数の2Dトモシンセシス投影画像および前記器官の前記X線画像は、前記器官の同じ圧迫の最中に取得される、実施態様1に記載の少なくとも1つのコンピュータ可読記憶媒体。
[実施態様4]
前記複数の2Dトモシンセシス投影画像および前記X線画像はさらに、前記X線エミッタから放射されたX線を受け取る検出器にて取得され、
前記命令は、実行時に、前記少なくとも1つのプロセッサに、
前記複数の2D投影画像または前記X線画像の少なくとも一方にダイナミックレンジ補正係数を適用するステップ
をさらに実行させる、実施態様1に記載の少なくとも1つのコンピュータ可読記憶媒体。
[実施態様5]
前記再構成された3Dボリュームの各々の平面は、前記X線画像のジオメトリに一致する、実施態様1に記載の少なくとも1つのコンピュータ可読記憶媒体。
[実施態様6]
前記命令は、実行時に、前記少なくとも1つのプロセッサに、
前記合成2D画像の各ピクセルを前記再構成された3Dボリューム内の少なくとも1つのボクセルにマッピングするステップと、
前記合成2D画像をグラフィカルディスプレイ上に生成されたグラフィカルユーザインターフェース(GUI)に表示するステップと、
前記X線画像内の対象のオブジェクトのユーザ選択を受け付けるステップと、
前記3Dボリュームを通る少なくとも1つの平面を識別するステップと、
前記少なくとも1つの識別された平面を前記グラフィカルディスプレイ上に表示するステップと
をさらに実行させる、実施態様1に記載の少なくとも1つのコンピュータ可読記憶媒体。
[実施態様7]
前記命令は、実行時に、前記少なくとも1つのプロセッサに、
前記再構成された3Dボリュームの領域を抽出するステップと、
前記再構成された3Dボリュームから抽出された前記領域で前記合成2D画像を強化するステップと、
前記抽出された領域の位置で前記再構成された3Dボリュームへの前記合成2D画像のマッピングを強化するステップと
をさらに実行させる、実施態様1に記載の少なくとも1つのコンピュータ可読記憶媒体。
[実施態様8]
前記命令は、実行時に、前記少なくとも1つのプロセッサに、
前記再構成された3Dボリュームの領域を抽出するステップと、
前記再構成された3Dボリュームから抽出された前記領域で前記X線画像を強化するステップと
をさらに実行させ、
前記合成2D画像生成アルゴリズムは、前記再構成された3Dボリュームから、前記合成2D画像と前記強化されたX線画像との間の類似度指標に基づいて生成される、実施態様1に記載の少なくとも1つのコンピュータ可読記憶媒体。
[実施態様9]
前記X線画像を取得するためのエネルギは、前記複数の二次元(2D)トモシンセシス投影画像を取得するためのエネルギよりも大きい、実施態様1に記載の少なくとも1つのコンピュータ可読記憶媒体。
[実施態様10]
前記合成2D画像生成アルゴリズムを生成するステップは、前記合成2D画像生成アルゴリズムが前記合成2D画像と前記X線画像との間の類似度指標を最小化する傾向であるように、トレーニングモデルを使用して前記合成2D画像生成アルゴリズムを決定するステップを含む、実施態様1に記載の少なくとも1つのコンピュータ可読記憶媒体。
[実施態様11]
前記モデルは、人工ニューラルネットワークモデルを含む、実施態様1に記載の少なくとも1つのコンピュータ可読記憶媒体。
[実施態様12]
命令を含んでいる少なくとも1つのコンピュータ可読記憶媒体であって、
前記命令は、実行時に、少なくとも1つのプロセッサに、少なくとも
器官の複数の二次元(2D)トモシンセシス投影画像を、X線エミッタを前記器官に対する複数の向きへと回転させ、前記複数の2Dトモシンセシス投影画像の各々の投影画像について前記エミッタから第1のレベルのX線エネルギ投入を放射することによって取得するステップ(1210)と、
第2のレベルのX線エネルギ投入で前記器官のX線画像を取得するステップ(1220)と、
ボリューム再構成アルゴリズムを、前記複数の二次元(2D)トモシンセシス投影画像から、少なくとも前記ボリューム再投影と前記X線画像との間の類似度指標に基づいて生成するステップ(1230)と、
前記ボリューム再構成アルゴリズムをインスタンス化するモデルを展開するステップ(1240)と
を実行させる、少なくとも1つのコンピュータ可読記憶媒体。
[実施態様13]
前記ボリューム再構成アルゴリズムを生成するステップは、前記ボリューム再構成アルゴリズムが前記ボリューム再構成アルゴリズムを使用して形成されるボリューム再投影と前記X線画像との間の前記類似度指標を最小化する傾向であるように、トレーニングモデルを使用して前記ボリューム再構成アルゴリズムを決定するステップを含む、実施態様12に記載の少なくとも1つのコンピュータ可読記憶媒体。
[実施態様14]
前記X線画像は、前記複数の2Dトモシンセシス投影画像のジオメトリにフィットするように位置合わせされる、実施態様12に記載の少なくとも1つのコンピュータ可読記憶媒体。
[実施態様15]
前記器官の前記複数の2Dトモシンセシス投影画像および前記器官の前記X線画像は、前記器官の同じ圧迫の最中に取得される、実施態様12に記載の少なくとも1つのコンピュータ可読記憶媒体。
[実施態様16]
前記複数の2Dトモシンセシス投影画像および前記X線画像はさらに、前記X線エミッタから放射されたX線を受け取る検出器にて取得され、
前記命令は、実行時に、前記少なくとも1つのプロセッサに、
前記複数の2D投影画像または前記X線画像の少なくとも一方にダイナミックレンジ補正係数を適用するステップ
をさらに実行させる、実施態様12に記載の少なくとも1つのコンピュータ可読記憶媒体。
[実施態様17]
前記ボリューム再投影の各々の平面は、前記X線画像のジオメトリに一致する、実施態様12に記載の少なくとも1つのコンピュータ可読記憶媒体。
[実施態様18]
前記モデルは、人工ニューラルネットワークモデルを含む、実施態様12に記載の少なくとも1つのコンピュータ可読記憶媒体。
[実施態様19]
命令を含んでいる少なくとも1つのコンピュータ可読記憶媒体であって、
前記命令は、実行時に、少なくとも1つのプロセッサに、少なくとも
器官の複数の二次元(2D)トモシンセシス投影画像を、X線エミッタを前記器官に対する複数の向きへと回転させ、前記複数の投影画像の各々の投影画像について前記エミッタから第1のレベルのX線エネルギ投入を放射することによって取得するステップ(1310)と、
第2のレベルのX線エネルギ投入で前記器官のX線画像を取得するステップ(1320)と、
画像強化アルゴリズムを、前記複数の2Dトモシンセシス投影画像からの中央トモシンセシス投影から、前記画像強化アルゴリズムの出力と前記X線画像との間の類似度指標に基づいて生成するステップ(1330)と、
前記画像強化アルゴリズムをインスタンス化するモデルを展開するステップ(1340)と
を実行させる、少なくとも1つのコンピュータ可読記憶媒体。
[実施態様20]
前記画像強化アルゴリズムを生成するステップは、前記画像強化アルゴリズムを前記画像強化アルゴリズムの前記出力と前記X線画像との間の前記類似度指標を最小化する傾向の前記中央トモシンセシス投影から生成するステップを含む、実施態様19に記載の少なくとも1つのコンピュータ可読記憶媒体。
[実施態様21]
命令を含んでいる少なくとも1つのコンピュータ可読記憶媒体であって、
前記命令は、実行時に、少なくとも1つのプロセッサに、少なくとも
器官の複数の二次元(2D)トモシンセシス投影画像を、X線エミッタを前記器官に対する複数の向きへと回転させ、前記複数の投影画像の各々の投影画像について前記エミッタから第1のレベルのX線エネルギ投入を放射することによって取得するステップ(1410)と、
前記複数の2D投影画像を劣化させ、前記第1のレベルのX線エネルギ投入よりも低いレベルのX線エネルギ投入で取得されたように見える一式の劣化させたトモシンセシス投影画像を形成するステップ(1420)と、
画像強化アルゴリズムを、前記画像強化アルゴリズムの出力と前記元の投影との間の類似度指標を最小化する傾向の前記一式の劣化させたトモシンセシス投影画像から生成するステップ(1430)と、
前記画像強化アルゴリズムをインスタンス化するモデルを展開するステップ(1440)と
を実行させる、少なくとも1つのコンピュータ可読記憶媒体。
[実施態様22]
命令を含んでいる少なくとも1つのコンピュータ可読記憶媒体であって、
前記命令は、実行時に、少なくとも1つのプロセッサに、少なくとも
器官の複数の二次元(2D)トモシンセシス投影画像を、X線エミッタを前記器官に対する複数の向きへと回転させ、前記複数の投影画像の各々の投影画像について前記エミッタから第1のレベルのX線エネルギ投入を放射することによって取得するステップ(1510)と、
前記複数の2Dトモシンセシス投影画像から前記器官の元の三次元(3D)ボリュームを再構成するステップ(1520)と、
前記複数の2D投影画像を劣化させ、前記第1のレベルのX線エネルギ投入よりも低いレベルのX線エネルギ投入で取得されたように見える一式の劣化させたトモシンセシス投影画像を形成するステップ(1530)と、
ボリューム再構成アルゴリズムを、前記ボリューム再構成アルゴリズムの出力と前記元の3Dボリュームとの間の類似度指標を最小化する傾向の前記一式の劣化させたトモシンセシス投影画像から生成するステップ(1540)と、
前記ボリューム再構成アルゴリズムをインスタンス化するモデルを展開するステップ(1550)と
を実行させる、少なくとも1つのコンピュータ可読記憶媒体。
[実施態様23]
前記再構成された3Dボリュームから抽出された前記領域は、オペレータまたはコンピュータ支援検出システムの少なくとも一方によってもたらされる、実施態様8に記載の少なくとも1つのコンピュータ可読記憶媒体。
101 投影ビュー
102 投影ビュー
103 投影ビュー
104 投影ビュー
105 ゼロ投影
106 投影ビュー
107 投影ビュー
108 投影ビュー
109 投影ビュー
131 点状のオブジェクト
132 対象のオブジェクト
133 圧迫パドル
140 X線ビームソース、X線エミッタ、X線ソース
140’ X線ソース
140’’ X線ソース
141 方向
142 方向
143 ゼロ方向
144 アーム
145 検出器
150 処理ユニット
155 データ取得ライン
160 メモリユニット
165 アーカイブライン
170 ディスプレイユニット、ディスプレイ
180 ユーザインターフェース
181 マンモグラフィ技術者
185 信号ライン
202 下部支持体
204 圧迫支持体
300 画像処理システム
310 画像取得ユニット
320 データストア
330 トレーナ
340 モデラ
350 出力プロセッサ
360 フィードバックユニット
410 入力プロセッサ
420 トレーニングネットワーク
429 ネットワーク
430 出力検証器
440 フィードバックプロセッサ
450 プリプロセッサ
460 展開されたモデル、ネットワークモデル
470 ポストプロセッサ
500 深層学習ニューラルネットワーク
510 入力
512 入力
514 入力
516 入力
520 入力層、第1の層
522 ノード
524 ノード
526 ノード
530 ニューラル接続
532 接続
534 接続
540 隠れ層、第2の層
542 ノード
544 ノード
546 ノード
548 ノード
550 ニューラル接続
552 接続
554 接続
560 隠れ層、第3の層
562 ノード
564 ノード
566 ノード
568 ノード
570 ニューラル接続
572 接続
574 接続
580 出力層
582 出力ノード
590 出力
600 畳み込みニューラルネットワーク、畳み込み
602 入力の一部またはウィンドウ
604 畳み込み
606 特徴マップ
610 特徴マップ、入力
612 畳み込み
614 特徴マップ
616 サブサンプリング
618 特徴マップ
620 畳み込み
622 分類層
624 出力層
626 接続
700 画像解析畳み込みニューラルネットワーク
702 入力画像データ
704 畳み込み層
710 特徴
712 特徴
714 特徴
716 特徴
718 特徴
720 特徴
722 特徴
730 画像、第2の畳み込み層
732 画像
734 画像
736 画像
738 画像
740 画像
742 画像
744 画像
746 画像
748 画像
750 部分
752 部分
754 部分
800 深層学習ネットワークの適用の構成、パッケージ
810 生データ、入力定義、入力、生画像データ
820 深層学習ネットワーク
830 画像、出力定義
900 トレーニング
910 DBT取得
920 ボリューム画像データ
930 最大プーリング層
940 完全接続層
950 出力
960 FFDM画像
970 真のFFDMコンボ取得
1010 追加のDBT取得
1020 新たなボリューム
1030 合成2D画像
1100 方法
1200 方法
1300 方法
1350 方法
1400 方法
1450 方法
1500 方法
1600 プロセッサプラットフォーム
1612 プロセッサ
1613 ローカルメモリ
1614 揮発性メモリ
1616 不揮発性メモリ
1618 バス
1620 インターフェース回路
1622 入力装置
1624 出力装置
1626 ネットワーク
1628 大容量記憶装置
1632 符号化された命令
O 器官、オブジェクト
Claims (15)
- 命令を含んでいる少なくとも1つのコンピュータ可読記憶媒体であって、
前記命令は、実行時に、少なくとも1つのプロセッサに、少なくとも
器官の複数の二次元(2D)トモシンセシス投影画像を、X線エミッタを前記器官に対する複数の向きへと回転させ、前記複数の2Dトモシンセシス投影画像の各々の投影画像について前記エミッタから第1のレベルのX線エネルギ投入を放射することによって取得するステップ(1110)と、
前記複数の2Dトモシンセシス投影画像から前記器官の三次元(3D)ボリュームを再構成するステップ(1120)と、
第2のレベルのX線エネルギ投入で前記器官のX線画像を取得するステップ(1130)と、
合成2D画像生成アルゴリズムを、前記複数の二次元(2D)トモシンセシス投影画像または前記再構成された3Dボリュームの少なくとも一方から、前記合成2D画像と前記X線画像との間の類似度指標に基づいて生成するステップ(1140)と、
前記合成2D画像生成アルゴリズムをインスタンス化するモデルを展開するステップ(1150)と
を実行させる、少なくとも1つのコンピュータ可読記憶媒体。 - 前記X線画像は、前記複数の2Dトモシンセシス投影画像のジオメトリにフィットするように位置合わせされる、請求項1に記載の少なくとも1つのコンピュータ可読記憶媒体。
- 前記器官の前記複数の2Dトモシンセシス投影画像および前記器官の前記X線画像は、前記器官の同じ圧迫の最中に取得される、請求項1に記載の少なくとも1つのコンピュータ可読記憶媒体。
- 前記複数の2Dトモシンセシス投影画像および前記X線画像はさらに、前記X線エミッタから放射されたX線を受け取る検出器にて取得され、
前記命令は、実行時に、前記少なくとも1つのプロセッサに、
前記複数の2D投影画像または前記X線画像の少なくとも一方にダイナミックレンジ補正係数を適用するステップ
をさらに実行させる、請求項1に記載の少なくとも1つのコンピュータ可読記憶媒体。 - 前記再構成された3Dボリュームの各々の平面は、前記X線画像のジオメトリに一致する、請求項1に記載の少なくとも1つのコンピュータ可読記憶媒体。
- 前記命令は、実行時に、前記少なくとも1つのプロセッサに、
前記合成2D画像の各ピクセルを前記再構成された3Dボリューム内の少なくとも1つのボクセルにマッピングするステップと、
前記合成2D画像をグラフィカルディスプレイ上に生成されたグラフィカルユーザインターフェース(GUI)に表示するステップと、
前記X線画像内の対象のオブジェクトのユーザ選択を受け付けるステップと、
前記3Dボリュームを通る少なくとも1つの平面を識別するステップと、
前記少なくとも1つの識別された平面を前記グラフィカルディスプレイ上に表示するステップと
をさらに実行させる、請求項1に記載の少なくとも1つのコンピュータ可読記憶媒体。 - 前記命令は、実行時に、前記少なくとも1つのプロセッサに、
前記再構成された3Dボリュームの領域を抽出するステップと、
前記再構成された3Dボリュームから抽出された前記領域で前記合成2D画像を強化するステップと、
前記抽出された領域の位置で前記再構成された3Dボリュームへの前記合成2D画像のマッピングを強化するステップと
をさらに実行させる、請求項1に記載の少なくとも1つのコンピュータ可読記憶媒体。 - 前記命令は、実行時に、前記少なくとも1つのプロセッサに、
前記再構成された3Dボリュームの領域を抽出するステップと、
前記再構成された3Dボリュームから抽出された前記領域で前記X線画像を強化するステップと
をさらに実行させ、
前記合成2D画像生成アルゴリズムは、前記再構成された3Dボリュームから、前記合成2D画像と前記強化されたX線画像との間の類似度指標に基づいて生成される、請求項1に記載の少なくとも1つのコンピュータ可読記憶媒体。 - 前記X線画像を取得するためのエネルギは、前記複数の二次元(2D)トモシンセシス投影画像を取得するためのエネルギよりも大きい、請求項1に記載の少なくとも1つのコンピュータ可読記憶媒体。
- 前記合成2D画像生成アルゴリズムを生成するステップは、前記合成2D画像生成アルゴリズムが前記合成2D画像と前記X線画像との間の類似度指標を最小化する傾向であるように、トレーニングモデルを使用して前記合成2D画像生成アルゴリズムを決定するステップを含む、請求項1に記載の少なくとも1つのコンピュータ可読記憶媒体。
- 前記モデルは、人工ニューラルネットワークモデルを含む、請求項1に記載の少なくとも1つのコンピュータ可読記憶媒体。
- 命令を含んでいる少なくとも1つのコンピュータ可読記憶媒体であって、
前記命令は、実行時に、少なくとも1つのプロセッサに、少なくとも
器官の複数の二次元(2D)トモシンセシス投影画像を、X線エミッタを前記器官に対する複数の向きへと回転させ、前記複数の2Dトモシンセシス投影画像の各々の投影画像について前記エミッタから第1のレベルのX線エネルギ投入を放射することによって取得するステップ(1210)と、
第2のレベルのX線エネルギ投入で前記器官のX線画像を取得するステップ(1220)と、
ボリューム再構成アルゴリズムを、前記複数の二次元(2D)トモシンセシス投影画像から、少なくとも前記ボリューム再投影と前記X線画像との間の類似度指標に基づいて生成するステップ(1230)と、
前記ボリューム再構成アルゴリズムをインスタンス化するモデルを展開するステップ(1240)と
を実行させる、少なくとも1つのコンピュータ可読記憶媒体。 - 前記ボリューム再構成アルゴリズムを生成するステップは、前記ボリューム再構成アルゴリズムが前記ボリューム再構成アルゴリズムを使用して形成されるボリューム再投影と前記X線画像との間の前記類似度指標を最小化する傾向であるように、トレーニングモデルを使用して前記ボリューム再構成アルゴリズムを決定するステップを含む、請求項12に記載の少なくとも1つのコンピュータ可読記憶媒体。
- 前記複数の2Dトモシンセシス投影画像および前記X線画像はさらに、前記X線エミッタから放射されたX線を受け取る検出器にて取得され、
前記命令は、実行時に、前記少なくとも1つのプロセッサに、
前記複数の2D投影画像または前記X線画像の少なくとも一方にダイナミックレンジ補正係数を適用するステップ
をさらに実行させる、請求項12に記載の少なくとも1つのコンピュータ可読記憶媒体。 - 命令を含んでいる少なくとも1つのコンピュータ可読記憶媒体であって、
前記命令は、実行時に、少なくとも1つのプロセッサに、少なくとも
器官の複数の二次元(2D)トモシンセシス投影画像を、X線エミッタを前記器官に対する複数の向きへと回転させ、前記複数の投影画像の各々の投影画像について前記エミッタから第1のレベルのX線エネルギ投入を放射することによって取得するステップ(1310)と、
第2のレベルのX線エネルギ投入で前記器官のX線画像を取得するステップ(1320)と、
画像強化アルゴリズムを、前記複数の2Dトモシンセシス投影画像からの中央トモシンセシス投影から、前記画像強化アルゴリズムの出力と前記X線画像との間の類似度指標に基づいて生成するステップ(1330)と、
前記画像強化アルゴリズムをインスタンス化するモデルを展開するステップ(1340)と
を実行させる、少なくとも1つのコンピュータ可読記憶媒体。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US16/235,046 | 2018-12-28 | ||
US16/235,046 US11227418B2 (en) | 2018-12-28 | 2018-12-28 | Systems and methods for deep learning-based image reconstruction |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020116378A true JP2020116378A (ja) | 2020-08-06 |
JP7237809B2 JP7237809B2 (ja) | 2023-03-13 |
Family
ID=69055800
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019222767A Active JP7237809B2 (ja) | 2018-12-28 | 2019-12-10 | 深層学習ベースの画像再構成のためのシステムおよび方法 |
Country Status (4)
Country | Link |
---|---|
US (2) | US11227418B2 (ja) |
EP (1) | EP3675043B1 (ja) |
JP (1) | JP7237809B2 (ja) |
CN (1) | CN111383338B (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20220075728A (ko) * | 2020-11-30 | 2022-06-08 | 동의대학교 산학협력단 | 의료용 이미지의 3차원 메쉬 생성을 위한 장치 및 방법 |
Families Citing this family (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10679384B2 (en) | 2017-09-29 | 2020-06-09 | General Electric Company | Systems and methods for deep learning-based image reconstruction |
US11227418B2 (en) * | 2018-12-28 | 2022-01-18 | General Electric Company | Systems and methods for deep learning-based image reconstruction |
JP7387270B2 (ja) * | 2019-03-06 | 2023-11-28 | キヤノンメディカルシステムズ株式会社 | 医用画像処理装置、学習方法、x線診断装置、医用画像処理方法、およびプログラム |
JP7313192B2 (ja) * | 2019-05-27 | 2023-07-24 | キヤノンメディカルシステムズ株式会社 | 診断支援装置、及び、x線ct装置 |
CN111956248A (zh) * | 2020-09-03 | 2020-11-20 | 上海联影医疗科技股份有限公司 | 一种x射线成像方法、装置、设备及存储介质 |
CN111915511B (zh) * | 2020-07-06 | 2024-08-02 | 中兴飞流信息科技有限公司 | 一种图像增强模型在线更新系统 |
CN112150600B (zh) * | 2020-09-24 | 2023-03-17 | 上海联影医疗科技股份有限公司 | 一种容积重建图像生成方法、装置、系统及存储介质 |
US20220189011A1 (en) * | 2020-12-16 | 2022-06-16 | Nvidia Corporation | End-to-end training for a three-dimensional tomography reconstruction pipeline |
US20230248323A1 (en) * | 2022-02-09 | 2023-08-10 | GE Precision Healthcare LLC | Fast and Low Memory Usage Convolutional Neural Network for Tomosynthesis Data Processing and Feature Detection |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2014128576A (ja) * | 2012-11-30 | 2014-07-10 | Canon Inc | 画像処理装置、画像処理方法、及びプログラム |
JP2016533803A (ja) * | 2013-10-24 | 2016-11-04 | アンドリュー ピー. スミス, | X線誘導胸部生検をナビゲートするためのシステムおよび方法 |
JP2016534802A (ja) * | 2013-10-30 | 2016-11-10 | コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. | 医療画像を表示する方法及び装置 |
JP2017143943A (ja) * | 2016-02-16 | 2017-08-24 | 富士フイルム株式会社 | 放射線画像処理装置、方法およびプログラム |
US20180130201A1 (en) * | 2016-11-10 | 2018-05-10 | General Electric Company | Combined medical imaging |
Family Cites Families (44)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5413477A (en) | 1992-10-16 | 1995-05-09 | Gas Research Institute | Staged air, low NOX burner with internal recuperative flue gas recirculation |
US6990222B2 (en) | 2001-11-21 | 2006-01-24 | Arnold Ben A | Calibration of tissue densities in computerized tomography |
US8571289B2 (en) * | 2002-11-27 | 2013-10-29 | Hologic, Inc. | System and method for generating a 2D image from a tomosynthesis data set |
US7831296B2 (en) | 2002-11-27 | 2010-11-09 | Hologic, Inc. | X-ray mammography with tomosynthesis |
WO2005009206A2 (en) | 2003-06-25 | 2005-02-03 | Besson Guy M | Dynamic multi-spectral imaging system |
US7653229B2 (en) | 2003-12-23 | 2010-01-26 | General Electric Company | Methods and apparatus for reconstruction of volume data from projection data |
US7323688B2 (en) | 2004-06-29 | 2008-01-29 | Siemens Medical Solutions Usa, Inc. | Nuclear imaging system using rotating scintillation bar detectors with slat collimation and method for imaging using the same |
US8989349B2 (en) | 2004-09-30 | 2015-03-24 | Accuray, Inc. | Dynamic tracking of moving targets |
EP1882449A4 (en) * | 2005-05-18 | 2010-05-05 | Hitachi Medical Corp | RADIOGRAPHY DEVICE AND IMAGE PROCESSING PROGRAM |
JP4820666B2 (ja) * | 2006-03-01 | 2011-11-24 | 株式会社東芝 | X線撮像装置及びその方法 |
US7630533B2 (en) * | 2007-09-20 | 2009-12-08 | Hologic, Inc. | Breast tomosynthesis with display of highlighted suspected calcifications |
US8559671B2 (en) | 2008-12-18 | 2013-10-15 | The Regents Of The University Of California | Training-free generic object detection in 2-D and 3-D using locally adaptive regression kernels |
US20140072108A1 (en) | 2010-07-16 | 2014-03-13 | David P. Rohler | Methods and apparatus for extended low contrast detectability for radiographic imaging systems |
US20110142316A1 (en) | 2009-10-29 | 2011-06-16 | Ge Wang | Tomography-Based and MRI-Based Imaging Systems |
WO2011100511A2 (en) * | 2010-02-11 | 2011-08-18 | University Of Michigan | Methods for microcalification detection of breast cancer on digital tomosynthesis mammograms |
WO2011106433A1 (en) * | 2010-02-24 | 2011-09-01 | Accuray Incorporated | Gantry image guided radiotherapy system and related treatment delivery methods |
US20150213633A1 (en) | 2011-04-06 | 2015-07-30 | The Trustees Of Columbia University In The City Of New York | System, method and computer-accessible medium for providing a panoramic cone beam computed tomography (cbct) |
US20130051516A1 (en) * | 2011-08-31 | 2013-02-28 | Carestream Health, Inc. | Noise suppression for low x-ray dose cone-beam image reconstruction |
US10734116B2 (en) | 2011-10-04 | 2020-08-04 | Quantant Technology, Inc. | Remote cloud based medical image sharing and rendering semi-automated or fully automated network and/or web-based, 3D and/or 4D imaging of anatomy for training, rehearsing and/or conducting medical procedures, using multiple standard X-ray and/or other imaging projections, without a need for special hardware and/or systems and/or pre-processing/analysis of a captured image data |
US9449403B2 (en) | 2011-10-19 | 2016-09-20 | Siemens Aktiengesellschaft | Out of plane artifact reduction in digital breast tomosynthesis and CT |
JP2015520846A (ja) | 2012-05-01 | 2015-07-23 | アナロジック コーポレイション | Ct密度画像とスパースマルチエネルギーデータを用いてボクセルセットのz−有効値を決定する方法およびシステム{determinationofz−effectivevalueforsetofvoxelsusingctdensityimageandsparsemulti−energydata} |
US10433740B2 (en) | 2012-09-12 | 2019-10-08 | Heartflow, Inc. | Systems and methods for estimating ischemia and blood flow characteristics from vessel geometry and physiology |
US9117262B2 (en) * | 2012-11-30 | 2015-08-25 | Adobe Systems Incorporated | Learned piece-wise patch regression for image enhancement |
US9494534B2 (en) | 2012-12-21 | 2016-11-15 | Carestream Health, Inc. | Material differentiation with phase contrast imaging |
US8855395B2 (en) | 2013-01-02 | 2014-10-07 | Carestream Health, Inc. | Conditional likelihood material decomposition and methods of using the same |
US9129362B2 (en) * | 2013-05-22 | 2015-09-08 | Siemens Aktiengesellschaft | Semantic navigation and lesion mapping from digital breast tomosynthesis |
KR102264462B1 (ko) * | 2013-10-09 | 2021-06-15 | 홀로직, 인크. | 편평화된 유방의 두께 방향을 포함하는 공간 해상도를 향상시키는 x선 유방 영상합성 |
US10610182B2 (en) | 2014-01-15 | 2020-04-07 | Alara Systems, Inc | Converting low-dose to higher dose 3D tomosynthesis images through machine-learning processes |
US9730660B2 (en) | 2014-01-15 | 2017-08-15 | Alara Systems, Inc. | Converting low-dose to higher dose mammographic images through machine-learning processes |
DE102015204957A1 (de) * | 2014-03-27 | 2015-10-01 | Siemens Aktiengesellschaft | Bildgebendes Tomosynthesesystem, insbesondere Mammographiesystem |
WO2015195570A2 (en) | 2014-06-16 | 2015-12-23 | Loma Linda University | Radiography and computed tomography with high-energy electron beams |
FR3022792A1 (fr) | 2014-06-25 | 2016-01-01 | Commissariat Energie Atomique | Procede de production d'un fantome physique radiometrique d'un organisme biologique et fantome physique produit par ce procede. |
US10022098B2 (en) * | 2014-07-09 | 2018-07-17 | Siemens Aktiengesellschaft | Method and device for generating a low-dose X-ray image preview, imaging system and computer program product |
GB2533632B (en) | 2014-12-24 | 2018-01-03 | Gen Electric | Method and system for obtaining low dose tomosynthesis and material decomposition images |
GB2533801B (en) | 2014-12-31 | 2018-09-12 | Gen Electric | Method and system for tomosynthesis projection images enhancement |
US10674973B2 (en) | 2015-04-24 | 2020-06-09 | Rush University Medical Center | Radiation therapy system and methods of use thereof |
US9934566B2 (en) * | 2015-07-14 | 2018-04-03 | Siemens Healthcare Gmbh | 3-D vessel tree surface reconstruction method |
US10235606B2 (en) * | 2015-07-22 | 2019-03-19 | Siemens Healthcare Gmbh | Method and system for convolutional neural network regression based 2D/3D image registration |
US9984478B2 (en) * | 2015-07-28 | 2018-05-29 | PME IP Pty Ltd | Apparatus and method for visualizing digital breast tomosynthesis and other volumetric images |
US10368822B2 (en) * | 2015-08-31 | 2019-08-06 | General Electric Company | Iterative X-ray imaging optimization method and system |
US9998487B2 (en) * | 2016-04-25 | 2018-06-12 | General Electric Company | Domain level threat detection for industrial asset control system |
DE102016215109A1 (de) * | 2016-08-12 | 2018-02-15 | Siemens Healthcare Gmbh | Verfahren und Datenverarbeitungseinheit zum Optimieren eines Bildrekonstruktionsalgorithmus |
US10679384B2 (en) | 2017-09-29 | 2020-06-09 | General Electric Company | Systems and methods for deep learning-based image reconstruction |
US11227418B2 (en) * | 2018-12-28 | 2022-01-18 | General Electric Company | Systems and methods for deep learning-based image reconstruction |
-
2018
- 2018-12-28 US US16/235,046 patent/US11227418B2/en active Active
-
2019
- 2019-12-10 JP JP2019222767A patent/JP7237809B2/ja active Active
- 2019-12-17 CN CN201911307347.XA patent/CN111383338B/zh active Active
- 2019-12-27 EP EP19219939.6A patent/EP3675043B1/en active Active
-
2021
- 2021-10-29 US US17/515,119 patent/US20220051456A1/en not_active Abandoned
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2014128576A (ja) * | 2012-11-30 | 2014-07-10 | Canon Inc | 画像処理装置、画像処理方法、及びプログラム |
JP2016533803A (ja) * | 2013-10-24 | 2016-11-04 | アンドリュー ピー. スミス, | X線誘導胸部生検をナビゲートするためのシステムおよび方法 |
JP2016534802A (ja) * | 2013-10-30 | 2016-11-10 | コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. | 医療画像を表示する方法及び装置 |
JP2017143943A (ja) * | 2016-02-16 | 2017-08-24 | 富士フイルム株式会社 | 放射線画像処理装置、方法およびプログラム |
US20180130201A1 (en) * | 2016-11-10 | 2018-05-10 | General Electric Company | Combined medical imaging |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20220075728A (ko) * | 2020-11-30 | 2022-06-08 | 동의대학교 산학협력단 | 의료용 이미지의 3차원 메쉬 생성을 위한 장치 및 방법 |
KR102615255B1 (ko) | 2020-11-30 | 2023-12-19 | 동의대학교 산학협력단 | 의료용 이미지의 3차원 메쉬 생성을 위한 장치 및 방법 |
Also Published As
Publication number | Publication date |
---|---|
US20200211240A1 (en) | 2020-07-02 |
EP3675043B1 (en) | 2024-01-24 |
JP7237809B2 (ja) | 2023-03-13 |
EP3675043A1 (en) | 2020-07-01 |
CN111383338B (zh) | 2023-11-03 |
US20220051456A1 (en) | 2022-02-17 |
CN111383338A (zh) | 2020-07-07 |
US11227418B2 (en) | 2022-01-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7237809B2 (ja) | 深層学習ベースの画像再構成のためのシステムおよび方法 | |
KR102229853B1 (ko) | 환자 특정적 딥러닝 이미지 잡음제거 방법들 및 시스템들 | |
JP7169986B2 (ja) | オブジェクトグリッド増強を用いて高次元画像データから低次元画像データを合成するためのシステムおよび方法 | |
CN110121749B (zh) | 用于图像采集的深度学习医疗系统和方法 | |
CN110621231B (zh) | 用于分层次多级特征图像合成和表示的系统以及方法 | |
JP5138910B2 (ja) | 投影画像を用いた3dcadのシステム及び方法 | |
US11210779B2 (en) | Detection and quantification for traumatic bleeding using dual energy computed tomography | |
US10448915B2 (en) | System and method for characterizing anatomical features | |
US7978886B2 (en) | System and method for anatomy based reconstruction | |
US20060210131A1 (en) | Tomographic computer aided diagnosis (CAD) with multiple reconstructions | |
CN111563523A (zh) | 利用机器训练的异常检测的copd分类 | |
CN111540025A (zh) | 预测用于图像处理的图像 | |
KR20240013724A (ko) | 다중 펄스 x-선 소스 이동 단층합성 영상화 시스템을 사용한 인공 지능 훈련 | |
JP2022502177A (ja) | 高密度要素抑制による合成乳房組織画像発生のためのシステムおよび方法 | |
EP3928285A1 (en) | Systems and methods for calcium-free computed tomography angiography | |
US20230394717A1 (en) | System and Method for Improved Artefact Correction in Reconstructed 2D/3D Images | |
CN114730476A (zh) | 有限角度重建的网络确定 | |
Sumathi et al. | Harnessing Deep Learning (DL) for Image Inpainting in Healthcare System-Methods and Challenges | |
US20240095907A1 (en) | Deep learning based systems and methods for detecting breast diseases | |
US20240193763A1 (en) | System and Method for Projection Enhancement for Synthetic 2D Image Generation | |
EP4350629A1 (en) | Artifact-driven data synthesis in computed tomography | |
Sumathi et al. | 10 Harnessing Deep | |
Prabhavalkar et al. | Lung Nodule Detection and Classification: Methods and Challenges | |
Jabbar et al. | Investigating Deep Learning Methods for Detecting Lung Adenocarcinoma on the TCIA Dataset | |
CN117078529A (zh) | 消除次生伪影的处理计算机断层图像的方法及电子设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20201222 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20210520 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20210524 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20211130 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20211214 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220310 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220314 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220713 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20221005 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230201 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230301 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7237809 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |