JP2021052999A - 評価システム、評価方法、学習方法、学習済みモデル、プログラム - Google Patents

評価システム、評価方法、学習方法、学習済みモデル、プログラム Download PDF

Info

Publication number
JP2021052999A
JP2021052999A JP2019178086A JP2019178086A JP2021052999A JP 2021052999 A JP2021052999 A JP 2021052999A JP 2019178086 A JP2019178086 A JP 2019178086A JP 2019178086 A JP2019178086 A JP 2019178086A JP 2021052999 A JP2021052999 A JP 2021052999A
Authority
JP
Japan
Prior art keywords
human body
ray image
evaluation
evaluation value
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019178086A
Other languages
English (en)
Other versions
JP7369437B2 (ja
Inventor
修平 鳥羽
Shuhei Toba
修平 鳥羽
義英 三谷
Yoshihide Mitani
義英 三谷
仁二 高尾
Masaji Takao
仁二 高尾
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mie University NUC
Original Assignee
Mie University NUC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mie University NUC filed Critical Mie University NUC
Priority to JP2019178086A priority Critical patent/JP7369437B2/ja
Publication of JP2021052999A publication Critical patent/JP2021052999A/ja
Application granted granted Critical
Publication of JP7369437B2 publication Critical patent/JP7369437B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Apparatus For Radiation Diagnosis (AREA)
  • Image Processing (AREA)

Abstract

【課題】課題は、カテーテル検査の施行により得られる人体の評価値を、より低侵襲で正確に得ることができる、評価システム、評価方法、学習方法、学習済みモデル、及び、プログラムを提供することである。【解決手段】評価システム10は、取得部22と、評価部24とを備える。取得部22は、評価対象の人体のX線画像を取得する。評価部24は、人体のX線画像とカテーテル検査の施行により得られる人体の評価値との入出力関係を学習した学習済みモデルM11を用いて、取得部22で取得された評価対象の人体のX線画像に基づいて評価対象の人体の評価値を得る。【選択図】 図1

Description

本開示は、一般に、評価システム、評価方法、学習方法、学習済みモデル、及び、プログラムに関する。本開示は、特に、X線画像を利用する評価システム、評価方法、学習方法、学習済みモデル、及び、プログラムに関する。
先天性心疾患の治療方針の決定や手術適応の判断に重要な指標(評価値)として、肺体血流比(Qp/Qs)、肺血管抵抗(Rp)、肺動脈圧(PAP)等がある。肺体血流比(Qp/Qs)、肺血管抵抗(Rp)、肺動脈圧(PAP)等の正確な評価にはカテーテル検査が用いられる。しかし、カテーテル検査の施行における患者への侵襲が大きいため、特に重篤な新生児等においてはカテーテル検査が施行できず、治療方針の決定に苦慮することが多い。
カテーテル検査よりも低侵襲な方法として、心臓超音波検査や心臓MRI(Magnetic Resonance Imaging)から肺体血流比(Qp/Qs)を予測する方法及び胸部CT(Computed Tomography)やMRIから肺動脈圧(PAP)を予測する方法が提案されている(非特許文献1−3参照)。
しかし、心臓超音波検査は対象が心房中隔欠損症や心室中隔欠損症など一部の疾患に限られる。心臓MRIは長時間の安静を要し、解像度や心拍数の問題から体格の小さな小児では評価が難しい。胸部CTは造影剤投与を要し、移動の問題から特に重篤な小児には施行できない場合がある。結果として、肺血管抵抗(Rp)、肺動脈圧(PAP)等の指標(評価値)を正確に得ることが難しい場合が多い。
課題は、カテーテル検査の施行により得られる人体の評価値を、より低侵襲で正確に得ることができる、評価システム、評価方法、学習方法、学習済みモデル、及び、プログラムを提供することである。
本開示の一態様の評価システムは、取得部と、評価部とを備える。前記取得部は、評価対象の人体のX線画像を取得する。前記評価部は、人体のX線画像とカテーテル検査の施行により得られる前記人体の評価値との入出力関係を学習した学習済みモデルを用いて、前記取得部で取得された前記評価対象の人体のX線画像に基づいて前記評価対象の人体の評価値を得る。
本開示の別の態様の評価方法は、取得ステップと、評価ステップとを含む。前記取得ステップは、評価対象の人体のX線画像を取得するステップである。前記評価ステップは、人体のX線画像とカテーテル検査の施行により得られる前記人体の評価値との入出力関係を学習した学習済みモデルを用いて、前記取得部で取得された前記評価対象の人体のX線画像に基づいて前記評価対象の人体の評価値を得るステップである。
本開示の別の態様の学習方法は、人体のX線画像とカテーテル検査の施行により得られる前記人体の評価値とを含む学習用データを含む学習用データセットにより、人工知能のプログラムに、X線画像と評価値との関係を学習させる、学習方法である。
本開示の別の態様の学習済みモデルは、前記学習方法により生成された、学習済みモデルである。
本開示の別の態様のプログラムは、前記評価方法を、1以上のプロセッサに実行させるためのプログラムである。
本開示の別の態様のプログラムは、前記学習方法を、1以上のプロセッサに実行させるためのプログラムである。
本開示の態様によれば、カテーテル検査の施行により得られる人体の評価値を、より低侵襲で正確に得ることができる、という効果を奏する。
図1は、一実施形態の評価システムの概略説明図である。 図2は、人体のX線画像の説明図である。 図3は、トリミング処理がされた人体のX線画像の説明図である。 図4は、コントラスト処理がされた人体のX線画像の説明図である。 図5は、シェイピング処理がされた人体のX線画像の説明図である。 図6は、機械学習のモデルの概略説明図である。 図7は、人体の評価値の、実測値と予測値との相関関係を示すグラフである。 図8は、上記評価システムの動作のフローチャートである。
(1)実施形態
(1.1)概要
図1は、本実施形態の評価システム10を概略的に示す。本実施形態の評価システム10は、図2に示すような人体のX線画像P10から、カテーテル検査の施行により得られる人体の評価値を求めるシステムである。
本実施形態の評価システム10は、図1に示すように、取得部22と、評価部24とを備える。取得部22は、評価対象の人体のX線画像P10(図2参照)を取得する。評価部24は、人体のX線画像とカテーテル検査の施行により得られる人体の評価値との入出力関係を学習した学習済みモデルM11を用いて、取得部22で取得された評価対象の人体のX線画像に基づいて評価対象の人体の評価値を得る。
本実施形態の評価システム10では、学習済みモデルM11を用いて、人体のX線画像から人体の評価値を得る。そのため、カテーテル検査を施行する必要がない。また、人体のX線画像の撮影は、カテーテル検査よりも低侵襲であり、心臓超音波検査、心臓MRI、胸部CTよりも非常に簡易で対象の人体の状態に影響され難い。したがって、本実施形態の評価システム10によれば、カテーテル検査の施行により得られる人体の評価値を、より低侵襲で正確に得ることができる。
(1.2)詳細
上述したように、本実施形態の評価システム10は、図2に示すような人体のX線画像P10から、カテーテル検査の施行により得られる人体の評価値を求めるシステムである。
X線画像P10は、X線撮影、又は、コンピュータX線撮影により得られる画像である。本実施形態では、X線画像P10は、人体の体幹部(胴部)を含むX線画像である。より詳細には、X線画像P10は、人体の胸部を含むX線画像である。したがって、X線画像P10は、いわゆる、胸部X線画像である。胸部X線画像は、対象が小児である場合には胸腹部X線画像といわれることもある。なお、X線画像P10は、人体の胸部のX線撮影により得られるものに限らず、人体の胸部を含む部位のX線撮影により得られた画像から抽出されるものであってもよい。
評価値は、カテーテル検査の施行により得られる人体に関する値である。本実施形態では、評価値は、肺体血流比である。肺体血流比は、カテーテル検査で導くことができる指標である。特に、肺体血流比は、体血流量(Qs)に対する肺血流量(Qp)の比で表される。肺血流量(Qp)及び体血流量(Qs)の算出には、Fick法が用いられる。具体的には、肺血流量(Qp)は、酸素消費量/(肺静脈血酸素含有量−肺動脈血酸素含有量)で算出され、体血流量(Qs)は、酸素消費量/(大動脈血酸素含有量−混合静脈血酸素含有量)で算出される。肺体血流比(Qp/Qs)は、先天性心疾患における重要な血行動態指標である。肺体血流比が1を超える場合は肺血流量の増加を意味し、肺体血流比が1未満の場合は肺血流量の減少を意味する。
以下、本実施形態の評価システム10について図1〜図8を参照して説明する。評価システム10は、図1に示すように、推論部20と、学習部30とを備える。
推論部20は、いわゆる、推論フェーズのためのシステムである。推論部20は、図1に示すように、入力部21と、取得部22と、補正部23と、評価部24と、出力部25と、モデル格納部26とを含む。
入力部21は、評価対象の人体のX線画像P10の入力のためのインタフェースとして機能する。入力部21は、通信インタフェースを備えてよく、有線通信又は無線通信により、評価対象の人体のX線画像P10の入力が可能であってよい。例えば、入力部21は、X線撮影装置から、有線通信又は無線通信により、評価対象の人体のX線画像P10を受け取ることができる。また、入力部21は、メモリ(例えば、USBメモリ)用のポートを有していてよく、メモリを通じてX線画像P10を受け取ってよい。なお、入力部21は、評価システム10を操作するための入力装置を備え得る。入力装置は、例えば、タッチパッド及び/又は1以上のボタンを有してよい。
出力部25は、評価対象の人体の評価値の出力のためのインタフェースとして機能する。出力部25は、情報を表示するための画像表示装置を備え得る。画像表示装置は、液晶ディスプレイや有機ELディスプレイ等の薄型のディスプレイ装置である。また、出力部25は、通信インタフェースを備えてよく、有線通信又は無線通信により、評価対象の人体の評価値の出力が可能であってよい。
なお、入力部21のタッチパッドと出力部25の画像表示装置とでタッチパネルが構成されてもよい。
モデル格納部26は、評価部24での評価値の算出に使用される学習済みモデルM11を格納する。学習済みモデルM11は、人体のX線画像とカテーテル検査の施行により得られる人体の評価値との入出力関係を学習した学習済みモデルである。学習済みモデルM11については後に詳述する。なお、モデル格納部26は、情報を記憶するための記憶装置である。モデル格納部26は、ROM(Read Only Memory)、RAM(Random Access Memory)、EEPROM(Electrically Erasable Programmable Read Only Memory)等である。
取得部22は、評価対象の人体のX線画像P10を取得する。本実施形態では、取得部22は、入力部21を通じて、評価対象の人体のX線画像P10を取得する。
補正部23は、取得部22で取得された評価対象の人体のX線画像P10に補正処理を行う。補正処理は、回転処理、トリミング処理、コントラスト処理、及び、シェイピング処理を含む。
回転処理は、取得部22で取得された評価対象の人体のX線画像P10を所定の向きを向くように回転させる処理である。回転処理は、X線画像の撮影条件による人体の向きのばらつきを是正することを一つの目的とする処理である。本実施形態では、所定の向きは、X線画像P10における人体の向きが頭側が上向きとなる向きである。一例として、図2に示すX線画像P10では、X線画像P10における人体の向きは頭側が右向きとなっている。回転処理では、図2に示すX線画像P10を、左回りに90度回転させることで、X線画像P10における人体の向きが頭側が上向きとなるようにする(図3に示すX線画像P11参照)。回転処理によれば、人体の向きが異なる複数のX線画像を、人体の向きが同じ複数のX線画像に変換することが可能であり、人体の向きによる評価値の精度への影響を低減し得る。よって、カテーテル検査の施行により得られる人体の評価値を、より正確に得ることができ得る。なお、回転処理で行う画像の回転自体には従来周知の画像処理技術を適用できるから、詳細な説明は省略する。
トリミング処理は、取得部22で取得された評価対象の人体のX線画像P10から特定部分を抽出する処理である。換言すれば、トリミング処理は、取得部22で取得された評価対象の人体のX線画像P10から特定部分以外を除去して特定部分を残す処理である。トリミング処理は、X線画像のうち評価値の算出に関与する可能性が高い部分(領域)を抽出することを一つの目的とする処理である。本実施形態では、評価値は、肺体血流比であり、これは、人体の心臓、肺及びその周辺の領域に関連すると考えられる。そのため、トリミング処理では、人体の心臓、肺及びその周辺を特定部分として残し、他の部分を除去する。一例として、図3は、X線画像P10に回転処理及びトリミング処理を行って得られたX線画像P11を示す。図2及び図3を対比すれば、トリミング処理によって、X線画像P10から人体の頭頸部、左右上肢及び腹部を除去されていることがわかる。トリミング処理によれば、評価値の算出に関与する可能性が低い部分を除去して評価値の算出に関与する可能性が高い部分だけを抽出できる。よって、カテーテル検査の施行により得られる人体の評価値を、より正確に得ることができ得る。なお、トリミング処理で行う画像からの特定部分の抽出自体には従来周知の画像処理技術を適用できるから、詳細な説明は省略する。
コントラスト処理は、取得部22で取得された評価対象の人体のX線画像P10のコントラストを調整する処理である。コントラスト処理は、X線画像のコントラストを改善することで、評価値の算出の精度を向上させることを一つの目的とする処理である。本実施形態では、コントラスト処理は、取得部22で取得された評価対象の人体のX線画像P10のコントラストを向上させる処理である。例えば、コントラスト処理では、X線画像のコントラストが規定値以上とする。一例として、規定値は、X線画像における肺の部分が鮮明となるように適宜設定され得る。一例として、図4は、X線画像(X線画像P10に回転処理及びトリミング処理を行って得られたX線画像)P11にコントラスト処理を行って得られたX線画像P12を示す。図3及び図4を対比すれば、コントラスト処理によって、X線画像P12において明暗及び輪郭が明確になる。よって、カテーテル検査の施行により得られる人体の評価値を、より正確に得ることができ得る。なお、コントラスト処理で行う画像のコントラストの調整自体には従来周知の画像処理技術を適用できるから、詳細な説明は省略する。
シェイピング処理は、取得部22で取得された評価対象の人体のX線画像P10のサイズを学習済みモデルM11に適合するサイズに変更する処理である。シェイピング処理は、X線画像を学習済みモデルM11で扱いやすくすることで、評価値の算出の精度を向上させることを一つの目的とする処理である。つまり、シェイピング処理は、X線画像のサイズを、学習済みモデルM11に入力する画像のサイズに合わせる処理を行う。本実施形態では、X線画像に特定色の領域を付加して、X線画像のサイズを学習済みモデルM11に入力する画像のサイズに合わせる。一例として、図5は、シェイピング処理後のX線画像P13を示す。X線画像P13は、3つの領域R10,R11,R12を含む。領域R10は、X線画像(X線画像P10に回転処理、トリミング処理、及びコントラスト処理を行って得られたX線画像)P12に対応する。領域R11,R12は、特定色の領域である。特定色は、学習済みモデルM11での評価値の算出への影響が低い色であることが望ましい。本実施形態では、特定色は黒色である。X線画像P13は、長方形のX線画像P12(領域R10)の上下に領域R11,12を付加することで、正方形とした画像である。X線画像のサイズが学習済みモデルM11の入力する画像のサイズに合わない場合でも、シェイピング処理によって、X線画像の縦横比を変更することなくサイズを調整可能である。よって、カテーテル検査の施行により得られる人体の評価値を、より正確に得ることができ得る。更に、特定色は、学習済みモデルM11での評価値の算出への影響が少ない色であるから、シェイピング処理によって、逆に評価値の算出の精度が低下してしまう可能性も低減できる。
評価部24は、人体のX線画像とカテーテル検査の施行により得られる人体の評価値との入出力関係を学習した学習済みモデルM11を用いて、取得部22で取得された評価対象の人体のX線画像P10に基づいて評価対象の人体の評価値を得る。本実施形態では、評価システム10は、補正部23を備えており、補正部23でX線画像P10には補正処理がされる。これによって、補正部23からは、図5に示すようなX線画像P13が評価部24に与えられる。評価部24は、取得部22を通じて評価対象の人体のX線画像を受け取ると、学習済みモデルM11に、受け取ったX線画像を入力して、評価値を出力させる。評価部24は、評価値が得られると、出力部25により表示する。
学習部30は、いわゆる、学習フェーズのためのシステムである。学習部30は、図1に示すように、収集部31と、生成部32とを含む。
収集部31は、学習済みモデルM11を生成するための学習用データを収集し、蓄積する。これによって、学習用データを含む学習用データセットが得られる。本実施形態では、収集部31は、入力部21を通じて、学習用データを得ることが可能である。学習用データセットは、複数の学習用データを含む。学習用データは、同一人物に関しての、人体のX線画像と、カテーテル検査の施行により得られる人体の評価値とを含む。
生成部32は、収集部31で収集された学習用データを含む学習用データセットにより、学習済みモデルM11を生成する。つまり、生成部32は、学習用データを含む学習用データセットを用いた教師あり学習により、人工知能のプログラム(アルゴリズム)に、X線画像と評価値との関係を学習させる。学習用データセットには、X線画像とカテーテル検査の施行により得られる人体の評価値とを含む学習用データが複数含まれている。人工知能のプログラムは、機械学習のモデルであって、例えば、階層モデルの一種であるニューラルネットワークが用いられる。
図6は、学習済みモデルM11に用いられる機械学習のモデル40の概略図を示す。モデル40は、画像の入力に対して、数値を出力するように構成されている。モデル40は、入力層41と、複数のコンボリューション層42,44,・・・と、複数のプーリング層43,45,・・・と、グローバルアベレージプーリング層46と、全結合層47と、出力層48とを備える。モデル40では、入力層41にX線画像の画素値が入力される。全結合層47の活性化関数は、線形関数であり、グローバルアベレージプーリング層46からの複数の値を合算して単一の値として、出力層48に与える。出力層48からは、学習済みモデルM11により得られた評価値が出力される。なお、コンボリューション層42,44,・・・、プーリング層43,45,・・・、及び、グローバルアベレージプーリング層46自体は従来周知の構成であってよいから、詳細な説明は省略する。なお、図6のモデル40は、実際の機械学習のモデルを単純化したものであって、図6には図示されていない種々の層が含まれ得る。種々の層の例としては、複数のコンボリューション層の結果を結合するコンカット(Concat)層、一時的にモデルの一部(のニューロン)の学習をストップし過学習を抑制するドロップアウト(Dropout)層等が挙げられる。
生成部32は、機械学習のモデル40に学習用データセットを用いて教師ありの機械学習(例えば、深層学習)を行わせることで、学習済みモデルM11を生成する。なお、学習済みモデルM11の生成にあたっては、X線画像に補正部23での補正処理と同じ処理を行っている。つまり、補正部23と同等の補正処理がされたX線画像を用いて、機械学習を行っている。これによって、カテーテル検査の施行により得られる人体の評価値を、より正確に得ることができる。また、生成部32は、収集部31が新たに収集した学習用データセットを用いて再学習を行うことで、学習済みモデルM11の性能の向上を図ってよい。このように、学習済みモデルM11は、学習部30により生成される。学習部30で生成された学習済みモデルM11は、学習部30から推論部20に与えられ、モデル格納部26に格納(記憶)される。
ここで、学習済みモデルM11によりX線画像から得られる評価値(本実施形態では、肺体血流比)である予測値とX線画像との相関関係を確かめるために、学習済みモデルM11で得られる評価値(本実施形態では、肺体血流比)である予測値とカテーテル検査の施行により得られた評価値(本実施形態では、肺体血流比)である実測値との関係を確認した。図7は、予測値と実測値との関係を示す。図7からわかるように、予測値と実測値とは、直線L10で近似できている。また、直線L10の傾きは、予測値と実測値とが一致する場合の直線L20に近い。図7のグラフから、X線画像と評価値(予測値)との間には相関関係があることが確認された。
なお、本実施形態の評価システム10は、1以上のプロセッサ(マイクロプロセッサ)と1以上のメモリとを含むコンピュータシステムにより実現され得る。つまり、1以上のプロセッサが1以上のメモリに記憶された1以上のプログラム(アプリケーション)を実行することで、評価システム10(特に、取得部22、補正部23、評価部24、収集部31、及び生成部32)として機能する。なお、取得部22、補正部23、評価部24、収集部31、及び生成部32は、実体のある構成を表しているわけではなく、コンピュータシステムにより実現される機能を表している。また、コンピュータシステムで実行されるプログラムは、ここではコンピュータシステムのメモリに予め記録されているが、インターネット等の電気通信回線を通じて、又はメモリカード等の非一時的な記録媒体に記録されて提供されてもよい。
(1.3)動作
次に、評価システム10の動作について図8のフローチャートを参照して簡単に説明する。まず、評価システム10では、評価対象の人体のX線画像P10が入力部21に入力されると、取得部22が、この評価対象の人体のX線画像P10を取得する(S11)。そして、評価システム10では、補正部23によって、評価対象の人体のX線画像P10に対して、回転処理(S12)、トリミング処理(S13)、コントラスト処理(S14)、及びシェイピング処理(S15)が行われる。この後に、評価部24が、補正処理がされたX線画像P13を、学習済みモデルM11に入力して、学習済みモデルM11から評価値を得る(S16)。評価部24は、学習済みモデルM11から得られた評価値を、出力部25により出力する(S17)。
(1.4)まとめ
このように、評価システム10は、取得部22と、評価部24とを備える。評価システム10は、取得部22と、評価部24とを備える。取得部22は、評価対象の人体のX線画像P10を取得する。評価部24は、人体のX線画像とカテーテル検査の施行により得られる人体の評価値との入出力関係を学習した学習済みモデルM11を用いて、取得部22で取得された評価対象の人体のX線画像P10に基づいて評価対象の人体の評価値を得る。本実施形態の評価システム10によれば、カテーテル検査の施行により得られる人体の評価値を、より低侵襲で正確に得ることができる。
換言すれば、評価システム10は、次の方法(評価方法)を実行しているといえる。評価方法は、取得ステップと、評価ステップとを含む。取得ステップは、評価対象の人体のX線画像P10を取得するステップである。評価ステップは、学習済みモデルM11を用いて、取得ステップで取得された評価対象の人体のX線画像に基づいて評価対象の人体の評価値を得るステップである。学習済みモデルM11は、人体のX線画像とカテーテル検査の施行により得られる人体の評価値との入出力関係を学習した学習済みモデルである。この評価方法によれば、評価システム10と同様に、カテーテル検査の施行により得られる人体の評価値を、より低侵襲で正確に得ることができる。
評価システム10は、1以上のプロセッサにより実現されている。つまり、評価システム10は、1以上のプロセッサがプログラム(評価プログラム)を実行することにより実現される。このプログラムは、1以上のプロセッサに、評価方法を実行させるためのプログラム(コンピュータプログラム)である。このようなプログラムによれば、評価方法と同様に、カテーテル検査の施行により得られる人体の評価値を、より低侵襲で正確に得ることができる。
また、評価システム10は、学習部30を有しており、次の方法(学習方法)を実行しているといえる。学習方法は、人体のX線画像とカテーテル検査の施行により得られる人体の評価値とを含む学習用データを含む学習用データセットにより、人工知能のプログラムに、X線画像と評価値との関係を学習させる学習方法である。この学習方法によれば、カテーテル検査の施行により得られる人体の評価値をX線画像から推論するモデル(学習済みモデルM11)を生成することができる。また、このような学習方法により生成された学習済みモデルM11によれば、カテーテル検査の施行により得られる人体の評価値を、より低侵襲で正確に得ることができる。
評価システム10は、1以上のプロセッサにより実現されている。つまり、評価システム10は、1以上のプロセッサがプログラム(学習プログラム)を実行することにより実現される。このプログラムは、1以上のプロセッサに、学習方法を実行させるためのプログラム(コンピュータプログラム)である。このようなプログラムによれば、学習方法と同様に、カテーテル検査の施行により得られる人体の評価値をX線画像から推論するモデル(学習済みモデルM11)を生成することができる。そして、学習済みモデルM11によれば、カテーテル検査の施行により得られる人体の評価値を、より低侵襲で正確に得ることができる。
(2)変形例
本開示の実施形態は、上記実施形態に限定されない。上記実施形態は、本開示の目的を達成できれば、設計等に応じて種々の変更が可能である。以下に、上記実施形態の変形例を列挙する。
上記実施形態では、評価値は、肺体血流比である。しかし、評価値の例としては、肺体血流比の他に、肺血管抵抗、肺動脈圧、右室圧、及び左房圧が挙げられる。肺血管抵抗(Rp)は、カテーテル検査で肺血流量(Qp)と同様に導くことができる指標である。肺血管抵抗は、肺への血液の流れやすさを反映しており、先天性心疾患における病態の把握、手術適応の判断に重要である。肺血管抵抗の単位はum2(unit・m2)であり、肺血管抵抗の正常値は2um2以下であれば正常であると考えられる。肺動脈圧(PAP)は、カテーテル検査で直接測定可能な圧で、右室から肺動脈へ駆出される血圧と、肺血管の状態(肺血管抵抗)を反映する。肺動脈圧は、先天性心疾患や肺高血圧症における病態の把握に重要である。肺動脈圧の単位はmmHgであり、肺動脈圧の正常値は平均20mmHg以下である。右室圧(RVP)は、カテーテル検査で直接測定可能な圧であり、右室の流出路に狭窄がある場合や、左室と右室に交通がある場合に上昇する。右室圧は、先天性心疾患における病態の把握に重要である。右室圧の単位はmmHgであり、右室圧の正常値は収縮期で35mmHg以下である。左房圧(LAP)は、カテーテル検査で測定可能な圧で、左心不全や僧帽弁疾患等により左房→左室→全身の血流が流れにくくなると上昇する。左房圧は、心不全患者の病態把握に重要である。左房圧の単位はmmHgであり、左房圧の正常値は15mmHg以下である。
一変形例では、補正部23は、評価システム10のユーザの操作に応じて、回転処理、トリミング処理、コントラスト処理、及びシェイピング処理を行ってもよい。つまり、これら補正処理は、手動で行えてもよい。
上記実施形態では、補正部23は、回転処理、トリミング処理、及びコントラスト処理をこの順番で行うが、順番は特に限定されない。例えば、トリミング処理は、回転処理より前に行われてもよいし、コントラスト処理が最初に行われてよい。
上記実施形態では、回転処理において、所定の向きは、X線画像P10における人体の向きが頭側が上向きとなる向きであるが、これに限定されない。所定の向きは、複数のX線画像において人体の向きを同じにするためのものであるから、適宜設定してよい。
上記実施形態では、トリミング処理において、特定部分は、人体の心臓、肺、及びその周辺であるが、これに限定されない。上述したように、特定部分は、X線画像のうち評価値の算出に関与する可能性が高い部分であることが望まれるため、評価値によって、適宜設定してよい。評価値が、肺血管抵抗、肺動脈圧、右室圧、又は左房圧である場合においても、特定部分は、人体の心臓、肺、及びその周辺であってよい。また、特定部分は、X線画像において学習済みモデルM11の注目した注目部分に基づいても決定し得る。注目部分は、機械学習の可視化ツール(Grad-CAM、Guided backpropagation)を利用して特定し得る。
一変形例では、シェイピング処理は、取得部22で取得された評価対象の人体のX線画像P10自体の拡大又は縮小をする処理を含んでいてよい。また、シェイピング処理は、X線画像の周囲の全部に特定色の領域を付加してもよい。つまり、シェイピング処理は、X線画像の周囲の少なくとも一部に特定色の領域を付加してよい。なお、特定色は、上記実施形態では黒であるが、白であってもよい。また、特定色は、その他の色であってもよい。
一変形例では、補正部23は、回転処理、トリミング処理、コントラスト処理、及び、シェイピング処理の少なくとも一つを含んでいればよい。また、補正部23は、補正処理は、回転処理、トリミング処理、コントラスト処理、及び、シェイピング処理のすべてを含んでいる場合であっても、取得部22が取得したX線画像P10の状態によって、回転処理、トリミング処理、コントラスト処理、及び、シェイピング処理の少なくとも一つを省略してよい。つまり、取得部22が取得したX線画像P10に補正の必要がなければ、補正部23では補正処理を省略してよい。
一変形例では、評価システム10は補正部23を備えていなくてもよい。この場合には、評価部24は、学習済みモデルM11に、取得部22を通じて受け取ったX線画像P10を入力して、評価値を出力させる。評価部24は、評価値が得られると、出力部25により表示する。
一変形例では、評価部24は、評価値に基づいた判定を行ってもよい。一例として、評価部24は、X線画像P10を学習済みモデルM11に入力して得た評価値に基づいて、X線画像P10に対応する人体の疾患の診断を行ってもよい。評価値が肺体血流比である場合には、評価値に基づいて、心房中隔欠損症かどうかの判定が可能となり得る。例えば、評価部24は、学習済みモデルM11から得た評価値を閾値と比較して、疾患の有無の判定を行ってよい。あるいは、評価部24は、学習済みモデルM11から得た評価値を複数の閾値と比較し、疾患の分類を行うことが可能である。そして、評価部24は、評価値に基づいた判定の結果を出力部25により表示してよい。また、評価値は、肺体血流比に限らず、肺血管抵抗、肺動脈圧、右室圧、又は左房圧であってもよく、これらの値に関連する疾患についての判定が可能となり得る。
一変形例では、モデル40において、入力層41とグローバルアベレージプーリング層46との間の構造としては、周知のニューラルネットワーク(例えば畳み込みニューラルネットワーク)の構造を採用し得る。例えば、入力層41とグローバルアベレージプーリング層46との間には、Inceptionモジュール(Inception-v3等)や、Batch normalization等の種々の構造・機能が含まれ得る。また、モデル40は、グローバルアベレージプーリング層46を有していなくてもよい。また、全結合層47の活性化関数は、シグモイド関数に置換されてもよい。要するに、モデル40は、図6に示す構造に限定されず、画像を入力として、単一の数量(数値)を出力とするようになっていればよい。
一変形例では、生成部32は、学習済みモデルM11の生成にあたって、データ拡張(Data Augmentation)を行ってよい。つまり、生成部32は、収集部31で収集されたX線画像に対して加工をすることで、機械学習に用いられるX線画像の数を増やしてよい。これによって、機械学習の効果の向上が期待できる。一例として、生成部32は、X線画像に対して、回転処理(例えば、左右20度以下の回転処理)、鏡面像(左右鏡面像)の生成処理、拡大処理、縮小処理、水平シフト処理、垂直シフト処理、ズーム処理等をランダムに実行し、一枚のX線画像から複数枚のX線画像を生成してよい。
一変形例では、評価システム10は、必ずしも学習部30を備えている必要はない。また、学習部30は、学習済みモデルM11を生成するための学習システムとして、評価システム10とは分離して単独で用いられ得る。
一変形例では、評価システム10は、複数のコンピュータにより構成されていてもよい。例えば、評価システム10の機能(特に、取得部22、補正部23、評価部24、収集部31、及び生成部32)は、複数の装置に分散されていてもよい。更に、評価システム10の機能の少なくとも一部が、例えば、クラウド(クラウドコンピューティング)によって実現されていてもよい。
以上述べた評価システム10の実行主体は、コンピュータシステムを含んでいる。コンピュータシステムは、ハードウェアとしてのプロセッサ及びメモリを有する。コンピュータシステムのメモリに記録されたプログラムをプロセッサが実行することによって、本開示における評価システム10の実行主体としての機能が実現される。プログラムは、コンピュータシステムのメモリに予め記録されていてもよいが、電気通信回線を通じて提供されてもよい。また、プログラムは、コンピュータシステムで読み取り可能なメモリカード、光学ディスク、ハードディスクドライブ等の非一時的な記録媒体に記録されて提供されてもよい。コンピュータシステムのプロセッサは、半導体集積回路(IC)又は大規模集積回路(LSI)を含む1乃至複数の電子回路で構成される。LSIの製造後にプログラムされる、フィールド・プログラマブル・ゲート・アレイ(FGPA)、ASIC(application specific integrated circuit)、又はLSI内部の接合関係の再構成又はLSI内部の回路区画のセットアップができる再構成可能な論理デバイスも同じ目的で使うことができる。複数の電子回路は、1つのチップに集約されていてもよいし、複数のチップに分散して設けられていてもよい。複数のチップは、1つの装置に集約されていてもよいし、複数の装置に分散して設けられていてもよい。
(3)態様
上記実施形態及び変形例から明らかなように、本開示は、下記の態様を含む。以下では、実施形態との対応関係を明示するためだけに、符号を括弧付きで付している。
第1の態様は、評価システム(10)であって、取得部(22)と、評価部(24)とを備える。前記取得部(22)は、評価対象の人体のX線画像(P10)を取得する。前記評価部(24)は、学習済みモデル(M11)を用いて、前記取得部(22)で取得された前記評価対象の人体のX線画像(P10)に基づいて前記評価対象の人体の評価値を得る。前記学習済みモデル(M11)は、人体のX線画像とカテーテル検査の施行により得られる前記人体の評価値との入出力関係を学習した学習済みモデルである。この態様によれば、カテーテル検査の施行により得られる人体の評価値を、より低侵襲で正確に得ることができる。
第2の態様は、第1の態様に基づく評価システム(10)である。第2の態様では、前記X線画像は、体幹部を含むX線画像である。この態様によれば、カテーテル検査の施行により得られる人体の評価値を、より低侵襲で正確に得ることができる。
第3の態様は、第2の態様に基づく評価システム(10)である。第3の態様では、前記X線画像は、胸部を含むX線画像である。この態様によれば、カテーテル検査の施行により得られる人体の評価値を、より低侵襲で正確に得ることができる。
第4の態様は、第1〜第3の態様のいずれか一つに基づく評価システム(10)である。第4の態様では、前記評価値は、肺体血流比、肺血管抵抗、肺動脈圧、右室圧、及び左房圧の少なくとも一つを含む。この態様によれば、カテーテル検査の施行により得られる人体の評価値を、より低侵襲で正確に得ることができる。
第5の態様は、第1の態様に基づく評価システム(10)である。第5の態様では、前記X線画像は、胸部X線画像である。前記評価値は、肺体血流比である。この態様によれば、カテーテル検査の施行により得られる人体の評価値を、より低侵襲で正確に得ることができる。
第6の態様は、第1〜第5の態様のいずれか一つに基づく評価システム(10)である。第6の態様では、前記評価システム(10)は、前記取得部(22)で取得された前記評価対象の人体のX線画像(P10)に補正処理を行う補正部(23)を更に備える。前記評価部(24)は、前記補正部(23)で補正処理がされたX線画像(P11〜P13)に基づいて前記評価対象の人体の評価値を得る。この態様によれば、カテーテル検査の施行により得られる人体の評価値を、より正確に得ることができる。
第7の態様は、第6の態様に基づく評価システム(10)である。第7の態様では、前記補正処理は、回転処理と、トリミング処理と、コントラスト処理との少なくとも一つを含む。前記回転処理は、前記取得部(22)で取得された前記評価対象の人体のX線画像(P10)を所定の向きを向くように回転させる処理である。前記トリミング処理は、前記取得部(22)で取得された前記評価対象の人体のX線画像(P10)から特定部分を抽出する処理である。前記コントラスト処理は、前記取得部(22)で取得された前記評価対象の人体のX線画像(P10)のコントラストを調整する処理である。この態様によれば、カテーテル検査の施行により得られる人体の評価値を、より正確に得ることができる。
第8の態様は、第6又は第7の態様に基づく評価システム(10)である。第8の態様では、前記補正処理は、前記取得部(22)で取得された前記評価対象の人体のX線画像(P10)のサイズを前記学習済みモデル(M11)に適合するサイズに変更するシェイピング処理を含む。この態様によれば、カテーテル検査の施行により得られる人体の評価値を、より正確に得ることができる。
第9の態様は、第8の態様に基づく評価システム(10)である。第9の態様では、前記シェイピング処理は、前記取得部(22)で取得された前記評価対象の人体のX線画像(P10)の周囲の少なくとも一部に特定色の領域を付加する処理を含む。この態様によれば、カテーテル検査の施行により得られる人体の評価値を、より正確に得ることができる。
第10の態様は、第9の態様に基づく評価システム(10)である。第10の態様では、前記特定色は、黒色又は白色である。この態様によれば、カテーテル検査の施行により得られる人体の評価値を、より正確に得ることができる。
第11の態様は、評価方法であって、取得ステップと、評価ステップとを含む。前記取得ステップは、評価対象の人体のX線画像(P10)を取得するステップである。前記評価ステップは、学習済みモデル(M11)を用いて、前記取得ステップで取得された前記評価対象の人体のX線画像に基づいて前記評価対象の人体の評価値を得るステップである。前記学習済みモデル(M11)は、人体のX線画像とカテーテル検査の施行により得られる前記人体の評価値との入出力関係を学習した学習済みモデルである。この態様によれば、カテーテル検査の施行により得られる人体の評価値を、より低侵襲で正確に得ることができる。
第12の態様は、学習方法であって、人体のX線画像とカテーテル検査の施行により得られる前記人体の評価値とを含む学習用データを含む学習用データセットにより、人工知能のプログラムに、X線画像と評価値との関係を学習させる学習方法である。この態様によれば、カテーテル検査の施行により得られる人体の評価値を、より低侵襲で正確に得ることができる。
第13の態様は、学習済みモデルであって、第12の態様の学習方法により生成された学習済みモデルである。この態様によれば、カテーテル検査の施行により得られる人体の評価値を、より低侵襲で正確に得ることができる。
第14の態様は、プログラムであって、第11の態様の評価方法を、1以上のプロセッサに実行させるための、プログラムである。この態様によれば、カテーテル検査の施行により得られる人体の評価値を、より低侵襲で正確に得ることができる。
第15の態様は、プログラムであって、第12の態様の学習方法を、1以上のプロセッサに実行させるための、プログラムである。この態様によれば、カテーテル検査の施行により得られる人体の評価値を、より低侵襲で正確に得ることができる。
10 評価システム
22 取得部
23 補正部
24 評価部
M11 学習済みモデル
P10,P11,P12,P13 X線画像
R11,R12 領域

Claims (15)

  1. 評価対象の人体のX線画像を取得する取得部と、
    人体のX線画像とカテーテル検査の施行により得られる前記人体の評価値との入出力関係を学習した学習済みモデルを用いて、前記取得部で取得された前記評価対象の人体のX線画像に基づいて前記評価対象の人体の評価値を得る評価部と、
    を備える、
    評価システム。
  2. 前記X線画像は、体幹部を含むX線画像である、
    請求項1の評価システム。
  3. 前記X線画像は、胸部を含むX線画像である、
    請求項2の評価システム。
  4. 前記評価値は、肺体血流比、肺血管抵抗、肺動脈圧、右室圧、及び左房圧の少なくとも一つを含む、
    請求項1〜3のいずれか一つの評価システム。
  5. 前記X線画像は、胸部X線画像であり、
    前記評価値は、肺体血流比である、
    請求項1の評価システム。
  6. 前記取得部で取得された前記評価対象の人体のX線画像に補正処理を行う補正部を更に備え、
    前記評価部は、前記補正部で補正処理がされたX線画像に基づいて前記評価対象の人体の評価値を得る、
    請求項1〜5のいずれか一つの評価システム。
  7. 前記補正処理は、
    前記取得部で取得された前記評価対象の人体のX線画像を所定の向きを向くように回転させる回転処理と、
    前記取得部で取得された前記評価対象の人体のX線画像から特定部分を抽出するトリミング処理と、
    前記取得部で取得された前記評価対象の人体のX線画像のコントラストを調整するコントラスト処理と、
    の少なくとも一つを含む、
    請求項6の評価システム。
  8. 前記補正処理は、前記取得部で取得された前記評価対象の人体のX線画像のサイズを前記学習済みモデルに適合するサイズに変更するシェイピング処理を含む、
    請求項6又は7の評価システム。
  9. 前記シェイピング処理は、前記取得部で取得された前記評価対象の人体のX線画像の周囲の少なくとも一部に特定色の領域を付加する処理を含む、
    請求項8の評価システム。
  10. 前記特定色は、黒色又は白色である、
    請求項9の評価システム。
  11. 評価対象の人体のX線画像を取得する取得ステップと、
    人体のX線画像とカテーテル検査の施行により得られる前記人体の評価値との入出力関係を学習した学習済みモデルを用いて、前記取得ステップで取得された前記評価対象の人体のX線画像に基づいて前記評価対象の人体の評価値を得る評価ステップと、
    を含む、
    評価方法。
  12. 人体のX線画像とカテーテル検査の施行により得られる前記人体の評価値とを含む学習用データを含む学習用データセットにより、人工知能のプログラムに、X線画像と評価値との関係を学習させる、
    学習方法。
  13. 請求項12の学習方法により生成された、
    学習済みモデル。
  14. 請求項11の評価方法を、1以上のプロセッサに実行させるための、
    プログラム。
  15. 請求項12の学習方法を、1以上のプロセッサに実行させるための、
    プログラム。
JP2019178086A 2019-09-27 2019-09-27 評価システム、評価方法、学習方法、学習済みモデル、プログラム Active JP7369437B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2019178086A JP7369437B2 (ja) 2019-09-27 2019-09-27 評価システム、評価方法、学習方法、学習済みモデル、プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019178086A JP7369437B2 (ja) 2019-09-27 2019-09-27 評価システム、評価方法、学習方法、学習済みモデル、プログラム

Publications (2)

Publication Number Publication Date
JP2021052999A true JP2021052999A (ja) 2021-04-08
JP7369437B2 JP7369437B2 (ja) 2023-10-26

Family

ID=75271666

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019178086A Active JP7369437B2 (ja) 2019-09-27 2019-09-27 評価システム、評価方法、学習方法、学習済みモデル、プログラム

Country Status (1)

Country Link
JP (1) JP7369437B2 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023190732A1 (ja) * 2022-03-29 2023-10-05 バイエル アクチェンゲゼルシャフト 機械学習モデルに入力する医用画像を生成するためのコンピュータ実装方法、コンピュータプログラム、学習済み機械学習モデルの作成方法、および装置
WO2023220150A1 (en) * 2022-05-12 2023-11-16 Canon U.S.A., Inc. Artificial intelligence catheter optical connection or disconnection evaluation, including deep machine learning and using results thereof
JP7424423B1 (ja) 2022-07-20 2024-01-30 コニカミノルタ株式会社 動態画像解析装置、プログラム及び動態画像解析方法

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH107563A (ja) * 1996-02-28 1998-01-13 Pfizer Inc 病的状態の抑制方法
US20080243007A1 (en) * 2007-03-28 2008-10-02 Cardiac Pacemakers, Inc. Pulmonary Artery Pressure Signals And Methods of Using
US20150065864A1 (en) * 2013-09-04 2015-03-05 Puneet Sharma Method and System for Functional Assessment of Renal Artery Stenosis from Medical Images
US20150112182A1 (en) * 2013-10-17 2015-04-23 Siemens Aktiengesellschaft Method and System for Machine Learning Based Assessment of Fractional Flow Reserve
US20160235373A1 (en) * 2015-02-13 2016-08-18 Siemens Aktiengesellschaft Plaque vulnerability assessment in medical imaging
JP2017501775A (ja) * 2013-12-04 2017-01-19 コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. 機能性狭窄解析を向上させる局所ffr推定及び視覚化
WO2018016113A1 (ja) * 2016-07-19 2018-01-25 ラドウィスプ プライベート リミテッド 診断支援プログラム
US20190159737A1 (en) * 2015-08-14 2019-05-30 Elucid Bioimaging Inc. Methods and systems for utilizing quantitative imaging

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH107563A (ja) * 1996-02-28 1998-01-13 Pfizer Inc 病的状態の抑制方法
US20080243007A1 (en) * 2007-03-28 2008-10-02 Cardiac Pacemakers, Inc. Pulmonary Artery Pressure Signals And Methods of Using
US20150065864A1 (en) * 2013-09-04 2015-03-05 Puneet Sharma Method and System for Functional Assessment of Renal Artery Stenosis from Medical Images
US20150112182A1 (en) * 2013-10-17 2015-04-23 Siemens Aktiengesellschaft Method and System for Machine Learning Based Assessment of Fractional Flow Reserve
JP2017501775A (ja) * 2013-12-04 2017-01-19 コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. 機能性狭窄解析を向上させる局所ffr推定及び視覚化
US20160235373A1 (en) * 2015-02-13 2016-08-18 Siemens Aktiengesellschaft Plaque vulnerability assessment in medical imaging
US20190159737A1 (en) * 2015-08-14 2019-05-30 Elucid Bioimaging Inc. Methods and systems for utilizing quantitative imaging
WO2018016113A1 (ja) * 2016-07-19 2018-01-25 ラドウィスプ プライベート リミテッド 診断支援プログラム

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023190732A1 (ja) * 2022-03-29 2023-10-05 バイエル アクチェンゲゼルシャフト 機械学習モデルに入力する医用画像を生成するためのコンピュータ実装方法、コンピュータプログラム、学習済み機械学習モデルの作成方法、および装置
WO2023220150A1 (en) * 2022-05-12 2023-11-16 Canon U.S.A., Inc. Artificial intelligence catheter optical connection or disconnection evaluation, including deep machine learning and using results thereof
JP7424423B1 (ja) 2022-07-20 2024-01-30 コニカミノルタ株式会社 動態画像解析装置、プログラム及び動態画像解析方法

Also Published As

Publication number Publication date
JP7369437B2 (ja) 2023-10-26

Similar Documents

Publication Publication Date Title
US11847781B2 (en) Systems and methods for medical acquisition processing and machine learning for anatomical assessment
US10299862B2 (en) Three-dimensional quantitative heart hemodynamics in medical imaging
US20220012890A1 (en) Model-Based Deep Learning for Globally Optimal Surface Segmentation
WO2019211307A1 (en) Modality-agnostic method for medical image representation
Li et al. Automatic detection of atherosclerotic plaque and calcification from intravascular ultrasound images by using deep convolutional neural networks
JP2019504659A (ja) 自動化された心臓ボリュームセグメンテーション
US9462952B2 (en) System and method for estimating artery compliance and resistance from 4D cardiac images and pressure measurements
WO2021186592A1 (ja) 診断支援装置及びモデル生成装置
JP7369437B2 (ja) 評価システム、評価方法、学習方法、学習済みモデル、プログラム
Andreassen et al. Mitral annulus segmentation using deep learning in 3-D transesophageal echocardiography
Kim et al. Automatic segmentation of the left ventricle in echocardiographic images using convolutional neural networks
CN116864109B (zh) 一种医学影像人工智能辅助诊断系统
EP3923810A1 (en) Prediction of coronary microvascular dysfunction from coronary computed tomography
Laumer et al. Weakly supervised inference of personalized heart meshes based on echocardiography videos
CN115861172A (zh) 基于自适应正则化光流模型的室壁运动估计方法及装置
Li et al. Segmentation of human aorta using 3D nnU-net-oriented deep learning
CN114565711A (zh) 基于深度学习的心脏图像重建方法及系统
Lu et al. Collaborative multi-metadata fusion to improve the classification of lumbar disc herniation
Ragnarsdottir et al. Interpretable prediction of pulmonary hypertension in newborns using echocardiograms
KR102254365B1 (ko) 의료영상 처리 방법
CN116309346A (zh) 医学图像的检测方法、装置、设备、存储介质及程序产品
Chauhan et al. Image Processing for Automated Diagnosis of Cardiac Diseases
Benjamins et al. Hybrid cardiac imaging: the role of machine learning and artificial intelligence
Guo et al. ELTS-Net: An enhanced liver tumor segmentation network with augmented receptive field and global contextual information
Qayyum et al. Transforming Heart Chamber Imaging: Self-Supervised Learning for Whole Heart Reconstruction and Segmentation

Legal Events

Date Code Title Description
A80 Written request to apply exceptions to lack of novelty of invention

Free format text: JAPANESE INTERMEDIATE CODE: A80

Effective date: 20191002

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220516

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230228

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230228

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230501

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230620

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230821

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230912

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231006

R150 Certificate of patent or registration of utility model

Ref document number: 7369437

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150