JP7657635B2 - 画像処理装置、学習装置、放射線画像撮影システム、画像処理方法、学習方法、画像処理プログラム、及び学習プログラム - Google Patents

画像処理装置、学習装置、放射線画像撮影システム、画像処理方法、学習方法、画像処理プログラム、及び学習プログラム Download PDF

Info

Publication number
JP7657635B2
JP7657635B2 JP2021058343A JP2021058343A JP7657635B2 JP 7657635 B2 JP7657635 B2 JP 7657635B2 JP 2021058343 A JP2021058343 A JP 2021058343A JP 2021058343 A JP2021058343 A JP 2021058343A JP 7657635 B2 JP7657635 B2 JP 7657635B2
Authority
JP
Japan
Prior art keywords
group
tomographic
virtual
images
radiation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021058343A
Other languages
English (en)
Other versions
JP2022155027A (ja
Inventor
航 福田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2021058343A priority Critical patent/JP7657635B2/ja
Priority to US17/697,971 priority patent/US12056875B2/en
Priority to DE102022107325.4A priority patent/DE102022107325A1/de
Publication of JP2022155027A publication Critical patent/JP2022155027A/ja
Application granted granted Critical
Publication of JP7657635B2 publication Critical patent/JP7657635B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/003Reconstruction from projections, e.g. tomography
    • G06T11/006Inverse problem, transformation from projection-space into object-space, e.g. transform methods, back-projection, algebraic methods
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10072Tomographic images
    • G06T2207/10081Computed x-ray tomography [CT]
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30068Mammography; Breast
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2211/00Image generation
    • G06T2211/40Computed tomography
    • G06T2211/436Limited angle
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2211/00Image generation
    • G06T2211/40Computed tomography
    • G06T2211/441AI-based methods, deep learning or artificial neural networks

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Quality & Reliability (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • General Health & Medical Sciences (AREA)
  • Algebra (AREA)
  • Mathematical Analysis (AREA)
  • Mathematical Optimization (AREA)
  • Mathematical Physics (AREA)
  • Pure & Applied Mathematics (AREA)
  • Apparatus For Radiation Diagnosis (AREA)
  • Image Analysis (AREA)

Description

本開示は、画像処理装置、学習装置、放射線画像撮影システム、画像処理方法、学習方法、画像処理プログラム、及び学習プログラムに関する。
照射角度が異なる複数の照射位置の各々から被写体に向けて放射線を照射して照射位置が異なる複数の被写体の投影画像を撮影する、いわゆるトモシンセシス撮影が知られている。トモシンセシス撮影により得られた複数の投影画像から断層画像を生成する技術が知られている。
断層画像を生成するための投影画像の数が十分ではない場合、生成される断層画像にアーチファクトが発生する場合がある。そのため、投影画像の数が十分ではない場合であっても、高画質の断層画像を得られる技術が望まれている。例えば、特許文献1には、投影データの一部が破損または欠落している場合に、学習済みモデルである訓練済みニューラルネットワークを用いて欠落データを生成して、再構成に用いる技術が記載されている。
特表2020-506742号
上記従来の技術では、ニューラルネットワークの訓練には、欠落や破損がなく、十分な数の投影画像が必要とされる。上記従来の技術ではCT(Computed Tomography)を前提としており、CTにおいては、十分な数の投影画像が得られる。
しかしながら、トモシンセシス撮影を行う放射線画像撮影装置では、CTに比べて、放射線を照射する照射角度範囲が狭く、学習済みモデルを学習させるために十分な投影画像を用意するのは困難であるという問題があった。
本開示は、以上の事情を鑑みて成されたものであり、トモシンセシス撮影による投影画像に応じた学習データにより学習された学習済みモデルにより高画質の断層画像を生成することができる画像処理装置、学習装置、放射線画像撮影システム、画像処理方法、学習方法、画像処理プログラム、及び学習プログラムを提供することを目的とする。
上記目的を達成するために本開示の第1の態様の画像処理装置は、照射角度が異なる複数の照射位置の各々から被写体に向けて放射線を順次照射して得られた複数の投影画像を処理する画像処理装置であって、少なくとも1つのプロセッサを備え、プロセッサは、複数の投影画像を取得し、複数の投影画像から被写体の複数の断層面を表す断層画像群を生成し、3次元構造を表す3次元データである正解データと、3次元データを用い、3次元構造に対して複数の仮想的な照射位置から放射線の疑似投影をすることによって、3次元構造が投影された複数の仮想投影画像から生成された仮想断層画像群との組で構成される学習データを用いて機械学習モデルを機械学習させることによって生成された学習済みモデルであって、断層画像群を入力とし、推定断層画像群を出力する断層画像推定モデルに、生成した断層画像群を入力し、断層画像推定モデルから出力された推定断層画像群を取得する。
本開示の第2の態様の画像処理装置は、第1の態様の画像処理装置において、正解データである3次元データは、各々異なる断層面に対応する複数の正解断層画像を表す画像データである。
本開示の第3の態様の画像処理装置は、第1の態様または第2の態様の画像処理装置において、被写体は乳房である。
上記目的を達成するために本開示の第4の態様の学習装置は、少なくとも1つのプロセッサを備え、プロセッサは、3次元構造を表す3次元データを用い、3次元構造に対して複数の仮想的な照射位置から放射線の疑似投影をすることによって、3次元構造が投影された複数の仮想投影画像を生成し、複数の仮想投影画像から仮想断層画像群を生成し、3次元データである正解データと、仮想断層画像群との組で構成される学習データを用いて機械学習モデルを機械学習させることによって、断層画像群を入力とし、推定断層画像群を出力する断層画像推定モデルを生成する。
本開示の第5の態様の学習装置は、第4の態様の学習装置において、吸収係数に応じた放射線の減弱をシミュレーションして複数の仮想投影画像を生成する。
本開示の第6の態様の学習装置は、第4の態様または第5の態様の学習装置において、正解データである3次元データは、各々異なる断層面に対応する複数の正解断層画像を表す画像データである。
本開示の第7の態様の学習装置は、第4の態様から第6の態様のいずれか1態様の学習装置において、プロセッサは、前記断層画像群の各断層画像の生成に用いられる投影画像を生成する放射線検出器に到達すると仮定した放射線の線量に、到達線量に応じたノイズ成分を付与した複数の仮想投影画像を生成する。
本開示の第8の態様の学習装置は、第4の態様から第7の態様のいずれか1態様の学習装置において、プロセッサは、複数の仮想投影画像から、FBP法または逐次再構成法を用いて仮想断層画像群を生成する。
本開示の第9の態様の学習装置は、第4の態様から第8の態様のいずれか1態様の学習装置において、複数の仮想的な照射位置は、トモシンセシス撮影における放射線の照射位置を模擬した位置である。
本開示の第10の態様の学習装置は、第4の態様から第9の態様のいずれか1態様の学習装置において、3次元構造は乳房を表す構造であり、断層画像群は、乳房を被写体として撮影された投影画像から生成された断層画像群である。
また、上記目的を達成するために本開示の第11の態様の放射線画像撮影システムは、放射線を発生する放射線源と、照射角度が異なる複数の照射位置の各々から被写体に向けて放射線を照射して照射位置毎に被写体の投影画像を撮影するトモシンセシス撮影を行う放射線画像撮影装置と、本開示の画像処理装置と、本開示の学習装置と、を備える。
また、上記目的を達成するために本開示の第12の態様の画像処理方法は、照射角度が異なる複数の照射位置の各々から被写体に向けて放射線を順次照射して得られた複数の投影画像を処理する画像処理方法であって、複数の投影画像を取得し、複数の投影画像から被写体の複数の断層面を表す断層画像群を生成し、3次元構造を表す3次元データである正解データと、3次元データを用い、3次元構造に対して複数の仮想的な照射位置から放射線の疑似投影をすることによって、3次元構造が投影された複数の仮想投影画像から生成された仮想断層画像群との組で構成される学習データを用いて機械学習モデルを機械学習させることによって生成された学習済みモデルであって、断層画像群を入力とし、推定断層画像群を出力する断層画像推定モデルに、生成した断層画像群を入力し、断層画像推定モデルから出力された推定断層画像群を取得する処理をコンピュータが実行する画像処理方法である。
また、上記目的を達成するために本開示の第13の態様の学習方法は、3次元構造を表す3次元データを用い、3次元構造に対して複数の仮想的な照射位置から放射線の疑似投影をすることによって、3次元構造が投影された複数の仮想投影画像を生成し、複数の仮想投影画像から仮想断層画像群を生成し、3次元データである正解データと、仮想断層画像群との組で構成される学習データを用いて機械学習モデルを機械学習させることによって、断層画像群を入力とし、推定断層画像群を出力する断層画像推定モデルを生成する処理をコンピュータが実行する学習方法である。
また、上記目的を達成するために本開示の第14の態様の画像処理プログラムは、照射角度が異なる複数の照射位置の各々から被写体に向けて放射線を順次照射して得られた複数の投影画像を処理する画像処理プログラムであって、複数の投影画像を取得し、複数の投影画像から被写体の複数の断層面を表す断層画像群を生成し、3次元構造を表す3次元データである正解データと、3次元データを用い、3次元構造に対して複数の仮想的な照射位置から放射線の疑似投影をすることによって、3次元構造が投影された複数の仮想投影画像から生成された仮想断層画像群との組で構成される学習データを用いて機械学習モデルを機械学習させることによって生成された学習済みモデルであって、断層画像群を入力とし、推定断層画像群を出力する断層画像推定モデルに、生成した断層画像群を入力し、断層画像推定モデルから出力された推定断層画像群を取得する処理をコンピュータに実行させるためのものである。
また、上記目的を達成するために本開示の第15の態様の学習プログラムは、3次元構造を表す3次元データを用い、3次元構造に対して複数の仮想的な照射位置から放射線の疑似投影をすることによって、3次元構造が投影された複数の仮想投影画像を生成し、複数の仮想投影画像から仮想断層画像群を生成し、3次元データである正解データと、仮想断層画像群との組で構成される学習データを用いて機械学習モデルを機械学習させることによって、断層画像群を入力とし、推定断層画像群を出力する断層画像推定モデルを生成する処理をコンピュータに実行させるためのものである。
本開示によれば、トモシンセシス撮影による投影画像に応じた学習データにより学習された学習済みモデルにより高画質の断層画像を生成することができる。
実施形態の放射線画像撮影システムにおける全体の構成の一例を概略的に表した構成図である。 トモシンセシス撮影の一例を説明するための図である。 実施形態のマンモグラフィ装置、コンソール、及び支援装置の構成の一例を表したブロック図である。 断層画像推定モデルの運用フェーズを説明するための図である。 断層画像推定モデルの学習フェーズを説明するための図である。 実施形態の支援装置の機能の一例を表す機能ブロック図である。 支援装置の仮想投影画像生成部における再投影方法の一例を説明するための図である。 複数の学習データによる断層画像推定モデルの学習の一例を説明するための図である。 実施形態の支援装置による学習処理の流れの一例を表したフローチャートである。 実施形態のコンソールの機能の一例を表す機能ブロック図である。 実施形態のコンソールによる画像処理の流れの一例を表したフローチャートである。
以下、図面を参照して本発明の実施形態を詳細に説明する。なお、本実施形態は本発明を限定するものではない。
まず、本実施形態の放射線画像撮影システムにおける、全体の構成の一例について説明する。図1には、本実施形態の放射線画像撮影システム1における、全体の構成の一例を表す構成図が示されている。図1に示すように、本実施形態の放射線画像撮影システム1は、マンモグラフィ装置10、コンソール12、及び支援装置14を備える。
まず、本実施形態のマンモグラフィ装置10について説明する。図1には、本実施形態のマンモグラフィ装置10の外観の一例を表す側面図が示されている。なお、図1は、被検者の左側からマンモグラフィ装置10を見た場合の外観の一例を示している。
本実施形態のマンモグラフィ装置10は、コンソール12の制御に応じて動作し、被検者の乳房を被写体として、乳房に放射線R(例えば、X線)を照射して乳房の放射線画像を撮影する装置である。なお、マンモグラフィ装置10は、被検者が起立している状態(立位状態)のみならず、被検者が椅子(車椅子を含む)等に座った状態(座位状態)において、被検者の乳房を撮影する装置であってもよい。
また、本実施形態のマンモグラフィ装置10は、放射線源29を放射線検出器20の検出面20Aの法線方向に沿った照射位置として撮影を行う通常撮影と、放射線源29を複数の照射位置の各々に移動させて撮影を行う、いわゆるトモシンセシス撮影とを行う機能を有している。
放射線検出器20は、被写体である乳房を通過した放射線Rを検出する。詳細には、放射線検出器20は、被検者の乳房及び撮影台24内に進入して放射線検出器20の検出面20Aに到達した放射線Rを検出し、検出した放射線Rに基づいて放射線画像を生成し、生成した放射線画像を表す画像データを出力する。以下では、放射線源29から放射線Rを照射して、放射線検出器20により放射線画像を生成する一連の動作を「撮影」という場合がある。本実施形態の放射線検出器20の検出面20Aには、放射線検出器20により生成される放射線画像に対応するi個の画素(図7の画素21(i=1、2、・・・、)参照)がマトリクス状に配置されている。本実施形態の放射線検出器20の種類は、特に限定されず、例えば、放射線Rを光に変換し、変換した光を電荷に変換する間接変換方式の放射線検出器であってもよいし、放射線Rを直接電荷に変換する直接変換方式の放射線検出器であってもよい。
図1に示すように、放射線検出器20は、撮影台24の内部に配置されている。本実施形態のマンモグラフィ装置10では、撮影を行う場合、撮影台24の撮影面24A上には、被検者の乳房がユーザによってポジショニングされる。
撮影を行う際に乳房を圧迫するために用いられる圧迫板38は、撮影台24に設けられた圧迫ユニット36に取り付けられる。詳細には、圧迫ユニット36には、圧迫板38を撮影台24に近づく方向または離れる方向(以下、「上下方向」という)に移動する圧迫板駆動部(図示省略)が設けられている。圧迫板38の支持部39は、圧迫板駆動部に着脱可能に取り付けられ、圧迫板駆動部により上下方向に移動し、撮影台24との間で被検者の乳房を圧迫する。本実施形態の圧迫板38が、本開示の圧迫部材の一例である。
図1に示すように本実施形態のマンモグラフィ装置10は、撮影台24と、アーム部33と、基台34と、軸部35と、を備えている。アーム部33は、基台34によって、上下方向(Z軸方向)に移動可能に保持される。また、軸部35によりアーム部33が基台34に対して回転をすることが可能である。軸部35は、基台34に対して固定されており、軸部35とアーム部33とが一体となって回転する。
軸部35及び撮影台24の圧迫ユニット36にそれぞれギアが設けられ、このギア同士の噛合状態と非噛合状態とを切替えることにより、撮影台24の圧迫ユニット36と軸部35とが連結されて一体に回転する状態と、軸部35が撮影台24と分離されて空転する状態とに切り替えることができる。なお、軸部35の動力の伝達・非伝達の切り替えは、上記ギアに限らず、種々の機械要素を用いることができる。
アーム部33と撮影台24は、軸部35を回転軸として、別々に、基台34に対して相対的に回転可能となっている。本実施形態では、基台34、アーム部33、及び撮影台24の圧迫ユニット36にそれぞれ係合部(図示省略)が設けられ、この係合部の状態を切替えることにより、アーム部33、及び撮影台24の圧迫ユニット36の各々が基台34に連結される。軸部35に連結されたアーム部33、及び撮影台24の一方または両方が、軸部35を中心に一体に回転する。
マンモグラフィ装置10においてトモシンセシス撮影を行う場合、放射線照射部28の放射線源29は、アーム部33の回転により順次、照射角度が異なる複数の照射位置の各々に移動される。放射線源29は、放射線Rを発生する放射線管(図示省略)を有しており、放射線源29の移動に応じて、放射線管が複数の照射位置の各々に移動される。図2には、トモシンセシス撮影の一例を説明するための図を示す。なお、図2では、圧迫板38の図示を省略している。本実施形態では、図2に示すように放射線源29は、予め定められた角度βずつ照射角度が異なる照射位置19(t=1、2、・・・、図2では最大値は7)、換言すると放射線検出器20の検出面20Aに対する放射線Rの照射角度が異なる位置に移動される。各照射位置19において、コンソール12の指示により放射線源29から放射線Rが被写体Uに向けて照射され、放射線検出器20により放射線画像が撮影される。放射線画像撮影システム1では、放射線源29を照射位置19の各々に移動させて、各照射位置19で放射線画像の撮影を行うトモシンセシス撮影を行った場合、図2の例では7枚の放射線画像が得られる。なお、以下では、トモシンセシス撮影において、各照射位置19において撮影された放射線画像を他の放射線画像と区別して述べる場合は「投影画像」という。また、投影画像及び後述する断層画像等の種類によらず放射線画像について総称する場合、単に「放射線画像」という。また、以下では、各照射位置19で撮影された投影画像等、照射位置19と対応する画像等については、各画像を表す符号に、照射位置19を表す符号「t」を付与して記載する。
なお、図2に示すように、放射線Rの照射角度とは、放射線検出器20の検出面20Aの法線CLと、放射線軸RCとがなす角度αのことをいう。放射線軸RCは、各照射位置19における放射線源29の焦点と検出面20Aの中心等予め設定された位置とを結ぶ軸をいう。また、ここでは、放射線検出器20の検出面20Aは、撮影面24Aに略平行な面とする。以下では、図2に示すように、トモシンセシス撮影における照射角度を異ならせる所定範囲を「照射角度範囲」という。
一方、マンモグラフィ装置10において、通常撮影を行う場合、放射線照射部28の放射線源29は、照射角度αが0度である照射位置19(法線方向に沿った照射位置19、図2では照射位置19)のままとされる。コンソール12の指示により放射線源29から放射線Rが照射され、放射線検出器20により放射線画像が撮影される。
また、図3には、実施形態のマンモグラフィ装置10、コンソール12、及び支援装置14の構成の一例を表したブロック図が示されている。図3に示すように本実施形態のマンモグラフィ装置10は、制御部40、記憶部42、I/F(Interface)部44、操作部46、及び線源移動部47をさらに備えている。制御部40、記憶部42、I/F部44、操作部46、及び線源移動部47はシステムバスやコントロールバス等のバス49を介して相互に各種情報の授受が可能に接続されている。
制御部40は、コンソール12の制御に応じて、マンモグラフィ装置10の全体の動作を制御する。制御部40は、CPU(Central Processing Unit)40A、ROM(Read Only Memory)40B、及びRAM(Random Access Memory)40Cを備える。ROM40Bには、CPU40Aで実行される、放射線画像の撮影に関する制御を行うための撮影プログラム41等を含む各種のプログラム等が予め記憶されている。RAM40Cは、各種データを一時的に記憶する。
記憶部42には、放射線検出器20により撮影された放射線画像の画像データや、その他の各種情報等が記憶される。記憶部42の具体例としては、HDD(Hard Disk Drive)やSSD(Solid State Drive)等が挙げられる。I/F部44は、無線通信または有線通信により、コンソール12との間で各種情報の通信を行う。マンモグラフィ装置10で放射線検出器20により撮影された放射線画像の画像データは、I/F部44を介してコンソール12に無線通信または有線通信によって送信される。
本実施形態の制御部40、記憶部42、及びI/F部44の各々は撮影台24内部に設けられている。
また、操作部46は、例えば、マンモグラフィ装置10の撮影台24等に複数のスイッチとして設けられている。なお、操作部46は、タッチパネル式のスイッチとして設けられていてもよいし、医師及び技師等のユーザが足で操作するフットスイッチとして設けられていてもよい。
線源移動部47は、上述したようにトモシンセシス撮影を行う場合に、制御部40の制御に応じて放射線源29を照射位置19の各々に移動させる機能を有する。具体的には、線源移動部47は、撮影台24に対してアーム部33を回転させることにより照射位置19の各々に放射線源29を移動させる。本実施形態の線源移動部47は、アーム部33内部に設けられている。
一方、本実施形態の支援装置14は、コンソール12における画像処理を支援する機能を有している。
本実施形態の支援装置14は、一例として、サーバーコンピュータである。図3に示すように、支援装置14は、制御部60、記憶部62、I/F部64、操作部66、及び表示部68を備えている。制御部60、記憶部62、I/F部64、操作部66、及び表示部68はシステムバスやコントロールバス等のバス69を介して相互に各種情報の授受が可能に接続されている。
本実施形態の制御部60は、支援装置14の全体の動作を制御する。制御部60は、CPU60A、ROM60B、及びRAM60Cを備える。ROM60Bには、CPU60Aで実行される学習プログラム61を含む各種のプログラム等が予め記憶されている。RAM60Cは、各種データを一時的に記憶する。本実施形態の支援装置14が、本開示の学習装置の一例であり、本実施形態のCPU60Aが、本開示の学習装置におけるプロセッサの一例である。また、本実施形態の学習プログラム61が、本開示の学習プログラムの一例である。
記憶部62には、詳細を後述する断層画像推定モデル63を含む各種情報等が記憶される。記憶部62の具体例としては、HDDやSSD等が挙げられる。
操作部66は、断層画像推定モデル63の生成等に関する指示や各種情報等をユーザが入力するために用いられる。操作部66は特に限定されるものではなく、例えば、各種スイッチ、タッチパネル、タッチペン、及びマウス等が挙げられる。表示部68は、各種情報を表示する。なお、操作部66と表示部68とを一体化してタッチパネルディスプレイとしてもよい。
I/F部64は、無線通信または有線通信により、コンソール12及びPACS(Picture Archiving and Communication Systems)との間で各種情報の通信を行う。本実施形態の放射線画像撮影システム1では、マンモグラフィ装置10で撮影された放射線画像の画像データは、コンソール12が、I/F部54を介して無線通信または有線通信によりマンモグラフィ装置10から受信する。
本実施形態の支援装置14の、コンソール12における画像処理を支援する機能について説明する。本実施形態の支援装置14は、コンソール12による画像処理を支援する機能を有する。具体的には、支援装置14は、コンソール12が画像処理において断層画像を生成するために用いる断層画像推定モデル63を生成する機能を有する。
断層画像推定モデル63は、例えばディープラーニングを用いた断層画像の推定アルゴリズムである。断層画像推定モデル63として、例えば、畳み込みニューラルネットワーク(CNN:Convolutional Neural Network)の一種であるR-CNN(Regional CNN)または、全層畳み込みネットワーク(FCN:Fully Convolution Network)の一種であるU-net等により構成される断層画像推定モデルを用いることができる。図4に示すように断層画像推定モデル63は、トモシンセシス撮影において得られた複数の投影画像90から生成された断層画像群96を入力とし、照射位置19を用いて複数の投影画像90から生成された複数の断層画像を推定した推定断層画像群92を出力する。
図5に示すように、断層画像推定モデル63は、正解データ102と、仮想断層画像群98との組で構成される学習データ100を用いて機械学習モデルを機械学習させることによって生成された学習済みモデルである。
図5を参照して、断層画像推定モデル63を機械学習により学習させる学習フェーズの一例を説明する。断層画像推定モデル63は、学習データ100により学習される。学習データ100は、仮想投影画像91から生成された仮想断層画像群98と、正解データ102との組で構成される。正解データ102は、乳房の3次元構造110を表す3次元データであり、各々異なる断層面に対応する複数の正解断層画像を表す画像データである。なお、正解データ102である正解断層画像のスライス厚、換言すると、正解断層画像の各断層面の高さは任意とすることができる。
正解データ102としては、トモシンセシス撮影における照射角度範囲よりも広い照射角度範囲により得られたサイノグラムであることが好ましく、被写体を撮影した完全なサイノグラムであることがより好ましい。一例として、本実施形態では、正解データ102として、CT(Computed Tomography)により得られた被写体の複数の断層画像であるCT画像を用いている。仮想投影画像91は、乳房の3次元構造110に対して複数の仮想的な照射位置から放射線Rの疑似投影をすることによって、3次元構造110が投影された仮想的に得られる複数の投影画像である。
学習フェーズにおいて、断層画像推定モデル63には、学習データ100の仮想断層画像群98が入力される。断層画像推定モデル63は、仮想断層画像群98に応じた推定断層画像群92を出力する。推定断層画像群92と正解データ102とに基づいて、損失関数を用いた損失演算がなされる。そして、損失演算の結果に応じて断層画像推定モデル63の各種係数の更新設定がなされ、更新設定にしたがって断層画像推定モデル63が更新される。
学習フェーズにおいては、学習データ100の仮想断層画像群98の断層画像推定モデル63への入力、断層画像推定モデル63からの推定断層画像群92の出力、推定断層画像群92と正解データ102とに基づく損失演算、更新設定、及び断層画像推定モデル63の更新の一連の処理が繰り返し行われる。
図6には、本実施形態の支援装置14における、断層画像推定モデル63を生成する機能に係る構成の一例の機能ブロック図が示されている。図6に示すように支援装置14は、3次元データ取得部80、仮想投影画像生成部82、仮想断層画像群生成部83、及び断層画像推定モデル生成部84を備える。一例として本実施形態の支援装置14は、制御部60のCPU60AがROM60Bに記憶されている学習プログラム61を実行することにより、CPU60Aが3次元データ取得部80、仮想投影画像生成部82、仮想断層画像群生成部83、及び断層画像推定モデル生成部84として機能する。
3次元データ取得部80は、正解データ102として用いる3次元データを取得する機能を有する。上述したように本実施形態では、正解データ102としてCT画像を用いているため、3次元データ取得部80は、乳房の複数の断層面を表す複数のCT画像を取得する。具体的には本実施形態の3次元データ取得部80は、乳房の3次元構造110をCT撮影により得られた複数のCT画像を表す画像データを3次元データとして取得する。なお、3次元データの取得先は特に限定されない。例えば、3次元データ取得部80が、PACSから、乳房を撮影対象としたCT画像を3次元データとして取得する形態としてもよい。また例えば、3次元データ取得部80が、放射線画像撮影システム1の外部のCT画像の撮影装置(図示省略)から乳房を撮影対象としたCT画像を3次元データとして取得する形態としてもよい。3次元データ取得部80は、取得した複数のCT画像を表す画像データを仮想投影画像生成部82に出力する。
仮想投影画像生成部82は、3次元データ取得部80が取得した3次元データを用い、3次元構造110に対して複数の仮想的な照射位置から放射線Rの疑似投影をすることによって、3次元構造110が投影された複数の仮想投影画像91を生成する機能を有する。
上述したように本実施形態の3次元データはCT画像であるため、仮想投影画像生成部82は、CT画像から、3次元構造110に対して複数の仮想的な照射位置から放射線Rの疑似投影をすることによって、3次元構造110が投影された複数の仮想投影画像91を生成する。仮想投影画像91の生成に用いられる複数の仮想的な照射位置は、トモシンセシス撮影における放射線の照射位置19を模擬した位置である。一例として本実施形態では、仮想的な照射位置を、照射位置19と同様としている。
CT画像の画素値は、撮影に用いた放射線のエネルギに応じた吸収係数に対応している。CT画像の撮影における放射線の吸収係数と、トモシンセシス撮影における放射線Rの吸収係数とは、一般的に異なっている。そのため、一例として本実施形態の仮想投影画像生成部82は、CT画像の画素値を、トモシンセシス撮影における放射線Rのエネルギに応じた吸収係数に補正して再投影することにより、複数の仮想的な照射位置19から再投影することにより、複数の仮想投影画像91を生成する。
仮想投影画像生成部82における再投影方法の一例について図7を参照して説明する。図7に示すように、3次元構造110に対して複数のボクセル94(j=1、2、・・・、J)を仮想的に設定する。複数のボクセル94は、例えば、CT画像のスライス厚等に応じて設定される。図7には、照射位置19に位置する放射線源29から放射線検出器20の画素21に照射される放射線Rの経路X が示されている。経路をX と、3次元構造110の各ボクセル94とが交差するボクセル94毎の交差長をw ijとし、ボクセル94毎の吸収係数をμ=(μ,μ,・・・,μ)とすると、照射位置19から放射線Rを照射した場合に、放射線検出器20のi番目の画素21で検出されたフォトン数p は、吸収係数に応じた放射線の減弱に基づく下記(1)式で表される。
・・・(1)
仮想投影画像生成部82は、仮想的な照射位置19毎に、放射線検出器20の各画素21のフォトン数p を、上記(1)式を用いたシミュレーションにより導出し、投影画像90を生成する。
なお、仮想投影画像生成部82は、トモシンセシス撮影において実際に照射される放射線Rに応じたノイズを考慮して仮想投影画像91を生成することが好ましい。
例えば、放射線Rの発生がポアソン分布に従うことが知られているため、仮想投影画像生成部82は、放射線検出器20に到達すると仮定した放射線Rの線量に、到達線量に応じたノイズ成分を付与することにより、ノイズを考慮した仮想投影画像91を生成してもよい。
また、仮想投影画像生成部82は、トモシンセシス撮影において発生する散乱線を考慮して仮想投影画像91を生成することが好ましい。例えば、仮想投影画像生成部82は、仮想的な照射位置19から照射され被写体を透過した放射線Rによる散乱線成分を、上記(1)式により得られた仮想投影画像91に付与することにより、散乱線を考慮した仮想投影画像91を生成してもよい。散乱線成分は、例えば、3次元構造110の放射線Rが透過する方向の厚み、すなわち被写体の体厚に応じた散乱の特性を表す畳みこみカーネルに基づいたシミュレーションやモンテカルロシミュレーション等により導出することができる。
また、仮想投影画像生成部82は、トモシンセシス撮影における撮影条件を反映させて仮想投影画像91を生成することが好ましい。例えば、トモシンセシス撮影におけるエネルギ分布を反映させることが好ましい。トモシンセシス撮影において用いた放射線源29の陽極及びフィルタ(いずれも図示省略)により照射される放射線Rのエネルギ分布が定まる。そのため、仮想投影画像生成部82は、撮影条件に応じて定まるエネルギ分布と吸収係数の放射線エネルギ依存から透過放射線量を導出することが好ましい。
仮想投影画像生成部82は、生成した複数の仮想投影画像91を表す画像データを仮想断層画像群生成部83に出力する。
仮想断層画像群生成部83は、仮想投影画像生成部82が生成した複数の仮想投影画像91から複数の仮想的な照射位置19を用いて仮想断層画像群98を生成する機能を有する。仮想断層画像群生成部83が仮想断層画像群98を生成する方法は特に限定されず、公知の手法を用いることができる。例えば、FBP(Filter Back Projection)法や逐次近似再構成法等の逆投影法により再構成を行ってもよく、公知の技術を適用することができる。なお、FBP法を用いた場合、処理演算にかかる時間を短くすることができる。一方、逐次近似再構成法を用いた場合、ノイズが少なく、アーチファクトが少ない仮想断層画像群98が得られる。学習フェーズにおいては、運用フェーズに比べて処理演算に時間がかかってしまってもよい。そのため、逐次近似再構成法を用いて再構成行うことが好ましく、仮想断層画像群98の画質を向上させることができる。仮想断層画像群生成部83が生成する仮想断層画像群98のスライス厚、換言すると仮想断層画像群98の各断層面の高さは特に限定されず、任意とすることができるが、正解データ102である正解断層画像のスライス厚と同様とすることが好ましい。
仮想断層画像群生成部83は、生成した仮想断層画像群98を表す画像データを、断層画像推定モデル生成部84に出力する。
断層画像推定モデル生成部84は、正解データ102と、仮想断層画像群98との組で構成される学習データ100を用いて機械学習モデルを機械学習させることによって、断層画像群96を入力とし、推定断層画像群92を出力する断層画像推定モデル63を生成する機能を有する。
まず、断層画像推定モデル生成部84は、学習データ100を用意する。上述したようにCT画像の撮影における放射線の吸収係数と、トモシンセシス撮影における放射線Rの吸収係数とは異なっている。そのため、CT画像とマンモグラフィ装置10により撮影された放射線画像とは見た目が異なる。具体的には、同一の乳房の断層面を表す画像であっても、CT画像と、マンモグラフィ装置10によるトモシンセシス撮影により得られた投影画像から生成された断層画像とでは、撮影における吸収係数が異なるため見た目が異なる。
そこで本実施形態では、3次元データ取得部80が取得した3次元データであるCT画像そのものを正解データ102として用いるのではなく、CT画像を放射線画像の吸収係数に応じて補正した画像を正解データ102として用いる。そのため、断層画像推定モデル生成部84は、3次元データ取得部80が取得した3次元データであるCT画像の画素値を、トモシンセシス撮影における放射線Rのエネルギに応じた吸収係数に補正して正解データ102を生成する。断層画像推定モデル生成部84は、仮想断層画像群生成部83が生成した仮想断層画像群98と、正解データ102とを組にして学習データ100とする。
なお、図8に示すように断層画像推定モデル63の学習には、複数の学習データ100を用いる。そのため、本実施形態の支援装置14では、3次元データ取得部80、仮想投影画像生成部82、仮想断層画像群生成部83、及び断層画像推定モデル生成部84により複数の学習データ100を用意する。学習データ100を構成する正解データ102は、トモシンセシス撮影の対象となる乳房を3次元構造110として想定した3次元データである。そのため、本実施形態では、様々な状態の乳房を3次元構造110とした正解データ102により学習データ100を構成する。例えば、図8に示すように、腫瘤等が存在しない、いわゆる正常な状態の乳房を3次元構造110とした正解データ102と、仮想断層画像群98との組で構成される学習データ100や、腫瘤が存在する状態の乳房を3次元構造110とした正解データ102と、仮想断層画像群98との組で構成される学習データ100等を含む複数の学習データ100が機械学習に用いられる。
さらに断層画像推定モデル生成部84は、学習データ100を用いて機械学習モデルを機械学習させることによって、断層画像推定モデル63を生成する。図6を参照して上述したように、断層画像推定モデル生成部84は、学習データ100の仮想断層画像群98の断層画像推定モデル63への入力、断層画像推定モデル63からの推定断層画像群92の出力、推定断層画像群92と正解データ102とに基づく損失演算、更新設定、及び断層画像推定モデル63の更新の一連の処理を繰り返し行うことにより、断層画像推定モデル63を生成する。損失演算における損失関数としては、例えば、推定断層画像群92及び正解断層画像である正解データ102において、断層面の高さが同一である断層画像同士の対応する画素の画素値の差の合計値を適用してもよい。
なお、断層画像推定モデル63から出力される推定断層画像群92のスライス厚、換言すると各推定断層画像の断層面の高さは、任意とすることができる。なお、推定断層画像群92のスライス厚は、正解データ102である正解断層画像のスライス厚と同様とすることが好ましい。
断層画像推定モデル生成部84は、生成した断層画像推定モデル63を記憶部62に記憶させる。
次に、図9を参照して、本実施形態の支援装置14の学習フェーズにおける作用を説明する。CPU60AがROM60Bに記憶されている学習プログラム61を実行することによって、図9に示す学習処理が実行される。
図9のステップS100で3次元データ取得部80は、上述したように、正解データ102として用いる3次元データとしてCT画像の画像データを取得する。
次のステップS102で仮想投影画像生成部82は、上記ステップS100で取得した3次元データを用い、複数の仮想投影画像91を生成する。上述したように仮想投影画像生成部82は、上記ステップS100で取得したCT画像を用い、上記(1)式を適用して、3次元構造110に対して複数の仮想的な照射位置19から放射線Rの疑似投影をすることによって、3次元構造110が投影された複数の仮想投影画像91を生成する。
次のステップS104で仮想断層画像群生成部83は、上記ステップS102で生成した複数の仮想投影画像91から仮想断層画像群98を生成する。上述したように、仮想断層画像群生成部83は、上記ステップS102で生成した複数の仮想投影画像91から複数の仮想的な照射位置19から、FBP法や逐次近似再構成法等の逆投影法により仮想断層画像群98を生成する
次のステップS106で断層画像推定モデル生成部84は、複数の学習データ100を用意する。上述したように、断層画像推定モデル生成部84は、上記ステップS100で取得したCT画像を補正して得た正解データ102と、上記ステップS104で生成した仮想断層画像群98とを組にした学習データ100を複数、用意する。
次のステップS108で断層画像推定モデル生成部84は、上記ステップS106で用意した学習データ100を用いて断層画像推定モデル63の学習を行う。上述したように断層画像推定モデル生成部84は、仮想断層画像群98の断層画像推定モデル63への入力、推定断層画像群92の出力、推定断層画像群92と正解データ102とに基づく損失演算、更新設定、及び断層画像推定モデル63の更新の一連の処理を繰り返し行うことにより、断層画像推定モデル63の学習を行う。断層画像推定モデル生成部84は、学習済みの断層画像推定モデル63を記憶部62に記憶させる。ステップS108の処理が終了すると、図9に示した学習処理が終了する。
上記のようにして支援装置14における学習フェーズにより生成された断層画像推定モデル63は、コンソール12で実行される画像処理における運用フェーズにおいて用いられる。
一方、図3に示すように本実施形態のコンソール12は、無線通信LAN(Local Area Network)等を介してRIS(Radiology Information System)等から取得した撮影オーダ及び各種情報と、操作部56等によりユーザにより行われた指示等とを用いて、マンモグラフィ装置10の制御を行う機能を有している。
本実施形態のコンソール12は、一例として、サーバーコンピュータである。図3に示すように、コンソール12は、制御部50、記憶部52、I/F部54、操作部56、及び表示部58を備えている。制御部50、記憶部52、I/F部54、操作部56、及び表示部58はシステムバスやコントロールバス等のバス59を介して相互に各種情報の授受が可能に接続されている。
本実施形態の制御部50は、コンソール12の全体の動作を制御する。制御部50は、CPU50A、ROM50B、及びRAM50Cを備える。ROM50Bには、CPU50Aで実行される画像生成プログラム51を含む各種のプログラム等が予め記憶されている。RAM50Cは、各種データを一時的に記憶する。本実施形態のコンソール12が、本開示の画像処理装置の一例であり、本実施形態のCPU50Aが、本開示の画像処理装置におけるプロセッサの一例である。また、本実施形態の画像生成プログラム51が、本開示の学習プログラムの一例である。
記憶部52には、マンモグラフィ装置10で撮影された放射線画像の画像データや、その他の各種情報等が記憶される。記憶部52の具体例としては、HDDやSSD等が挙げられる。
操作部56は、放射線Rの照射指示を含む放射線画像の撮影等に関する指示や各種情報等をユーザが入力するために用いられる。操作部56は特に限定されるものではなく、例えば、各種スイッチ、タッチパネル、タッチペン、及びマウス等が挙げられる。表示部58は、各種情報を表示する。なお、操作部56と表示部58とを一体化してタッチパネルディスプレイとしてもよい。
I/F部54は、無線通信または有線通信により、マンモグラフィ装置10、支援装置14、RIS、及びPACSとの間で各種情報の通信を行う。本実施形態の放射線画像撮影システム1では、マンモグラフィ装置10で撮影された放射線画像の画像データは、コンソール12が、I/F部54を介して無線通信または有線通信によりマンモグラフィ装置10から受信する。
本実施形態のコンソール12は、断層画像推定モデル63を用いて複数の投影画像90から断層画像を生成する機能を有する。図10には、本実施形態のコンソール12における、断層画像推定モデル63を用いて複数の投影画像90から断層画像を生成する機能に係る構成の一例の機能ブロック図が示されている。図10に示すようにコンソール12は、投影画像取得部70、断層画像群生成部72、推定断層画像群取得部73、及び表示制御部74を備える。一例として本実施形態のコンソール12は、制御部50のCPU50AがROM50Bに記憶されている画像生成プログラム51を実行することにより、CPU50Aが投影画像取得部70、断層画像群生成部72、推定断層画像群取得部73、及び表示制御部74として機能する。
投影画像取得部70は、複数の投影画像90を取得する機能を有する。具体的には本実施形態の投影画像取得部70は、マンモグラフィ装置10におけるトモシンセシス撮影により得られた複数の投影画像90を表す画像データを取得する。投影画像取得部70は、取得した複数の投影画像90を表す画像データを断層画像群生成部72に出力する。
断層画像群生成部72は、投影画像取得部70が取得した複数の投影画像90から複数の照射位置19に基づいて被写体の複数の断層面を表す断層画像群96を生成する機能を有する。断層画像群生成部72が断層画像群96を生成する方法は特に限定されず、公知の手法を用いることができる。例えば、FBP法や逐次近似再構成法等の逆投影法により再構成を行ってもよく、公知の技術を適用することができる。なお、断層画像群生成部72が断層画像群96を生成する方法は、支援装置14の仮想断層画像群生成部83が仮想断層画像群98を生成する方法と同様であってもよいし、異なっていてもよいが、同様の方法であることが好ましい。断層画像群生成部72は、生成した断層画像群96を表す画像データを推定断層画像群取得部73に出力する。
推定断層画像群取得部73は、断層画像推定モデル63から出力される推定断層画像群92を取得する機能を有する。
上述した図4に示したように、推定断層画像群取得部73は、断層画像群生成部72が生成した断層画像群96を、断層画像推定モデル63に入力する。具体的には、本実施形態の断層画像群生成部72は、I/F部54を介して、支援装置14に断層画像群96を表す画像データを出力する。支援装置14では、コンソール12から入力された断層画像群96を断層画像推定モデル63に入力する。図4に示したように断層画像推定モデル63は、入力された断層画像群96に応じて推定断層画像群92を出力する。推定断層画像群取得部73は、支援装置14の断層画像推定モデル63から出力された推定断層画像群92を表す画像データI/F部64及びI/F部54を介して取得する。
推定断層画像群取得部73は、取得した推定断層画像群92を表す画像データを表示制御部74に出力する。
表示制御部74は、推定断層画像群取得部73が取得した推定断層画像群92を表示部58に表示させる機能を有する。なお、推定断層画像群92の表示先は、表示部58に限定されない。例えば、放射線画像撮影システム1の外部の読影装置等が表示先であってもよい。
次に、図11を参照して、本実施形態のコンソール12の運用フェーズにおける作用を説明する。一例として本実施形態のマンモグラフィ装置10は、トモシンセシス撮影が終了すると、撮影された複数の投影画像90の画像データをコンソール12に出力する。コンソール12は、マンモグラフィ装置10から入力された複数の投影画像90の画像データを記憶部52に記憶させる。コンソール12は、トモシンセシス撮影により得られた複数の投影画像を用いて断層画像を生成し、表示部58等に表示させるために、図11に示した画像処理を実行する。CPU50AがROM50Bに記憶されている画像生成プログラム51を実行することによって、図11に示す画像処理が実行される。
図11のステップS200で投影画像取得部70は、各々撮影された照射位置19を表す情報が対応付けられた複数の投影画像90を取得する。上述したように本実施形態の投影画像取得部70は、記憶部52から複数の投影画像90の画像データを取得する。
次のステップS202で断層画像群生成部72は、上記ステップS200で取得した複数の投影画像90から断層画像群96を生成する。上述したように本実施形態の断層画像群生成部72は、投影画像取得部70が取得した複数の投影画像90から複数の照射位置19に基づいて被写体の複数の断層面を表す断層画像群96を生成する。
次のステップS204で推定断層画像群取得部73は、支援装置14の断層画像推定モデル63に上記ステップS202で生成した断層画像群96を入力する。上述したように、推定断層画像群取得部73が、上記ステップS202で生成した断層画像群96を表す画像データを支援装置14に出力することにより、支援装置14の断層画像推定モデル63に複数の投影画像90が入力される。上述したように、断層画像群96が入力された断層画像推定モデル63からは、推定断層画像群92が出力される。
そこで、次のステップS206で推定断層画像群取得部73は、上述したように、支援装置14の断層画像推定モデル63から出力された推定断層画像群92を取得する。
次のステップS208で表示制御部74は、上記ステップS206で取得した推定断層画像群92である断層画像を表示部58に表示させる。ステップS208の処理が終了すると、図11に示した画像処理が終了する。
以上、説明したように、上記各形態のコンソール12は、照射角度が異なる照射位置19の各々から被写体に向けて放射線Rを順次照射して得られた複数の投影画像90を処理する運用フェーズを実行する画像処理装置である。コンソール12は、CPU50Aを備える。CPU50Aは、複数の投影画像90を取得し、複数の投影画像90から被写体の複数の断層面を表す断層画像群96を生成する。CPU50Aは、断層画像推定モデル63に、生成した断層画像群96を入力し、断層画像推定モデル63から出力された推定断層画像群92を取得する。
支援装置14は、断層画像推定モデル63の機械学習を行う学習フェーズを実行する学習装置である。支援装置14は、CPU60Aを備える。CPU60Aは、3次元構造110を表す3次元データを用い、3次元構造110に対して複数の仮想的な照射位置19から放射線Rの疑似投影をすることによって、3次元構造110が投影された複数の仮想投影画像91を生成する。CPU60Aは、複数の仮想投影画像91から仮想断層画像群98を生成する。CPU60Aは、3次元データである正解データ102と、仮想断層画像群98との組で構成される学習データ100を用いて機械学習モデルを機械学習させることによって、断層画像群96を入力とし、推定断層画像群92を出力する断層画像推定モデル63を生成する。
マンモグラフィ装置10により得られる投影画像90をFBP(Filter Back Projection)法や逐次近似再構成法等の逆投影法により再構成して得られた断層画像は、照射角度範囲が制限される。そのため、例えば、照射角度範囲の制限が緩和され、いわゆる完全なサイノグラムにより生成されるCT画像に比べて断層画像の画質が低い場合がある。これに対して、上記形態のコンソール12は、3次元データである正解データ102と、正解データ102に基づいて疑似投影をすることにより得られた複数の仮想投影画像91から生成された仮想断層画像群98との組で構成される学習データ100を用いて機械学習された断層画像推定モデル63を用いて、トモシンセシス撮影により得られた投影画像90から断層画像を生成する。従って、上記形態によれば、トモシンセシス撮影による投影画像90に応じた学習データ100により学習された断層画像推定モデル63により高画質の断層画像を生成することができる。すなわち、上記形態によれば、比較的少ない枚数の投影画像90に応じた学習データ100により学習された断層画像推定モデル63により高画質の断層画像を生成することができる。
なお、上記形態では、本開示の被写体の一例として乳房を適用した形態について説明したが、被写体は乳房に限定されない。例えば、被写体は胸部や腹部等であってもよいし、放射線画像撮影装置はマンモグラフィ装置以外の放射線画像撮影装置を適用する形態であってもよい。なお、被写体が乳房であり、マンモグラフィ装置10により得られた投影画像90には、比較的多くのノイズが重畳される。そのため、上記形態のように、マンモグラフィ装置10により実際に得られた投影画像90に代わり仮想投影画像91を用い、仮想投影画像91から生成された仮想断層画像群98を学習データ100として用いることで、より精度よく、高画質の推定断層画像群92を出力する断層画像推定モデル63を生成することができる。
また、上記形態では、正解データ102に用いる3次元データとして、CT画像を用いた形態について説明したが正解データ102として用いる3次元データはCT画像に限定されず、被写体の3次元構造110を表す3次元データであればよい。例えば、デジタルファントムにより被写体の3次元構造110を模擬して得られた3次元データであってもよい。デジタルファントムは、被写体の臨床解剖学的構造を模倣する物体を表す数字的構築物であり、放射線Rの吸収係数に対応した画素値を有する構造が3次元空間に配置されることにより構成される。デジタルファントムを用いた3次元データとしては、例えば、CT画像と同様に、放射線検出器20に到達する放射線量に応じた画素値を有する画像を表す画像データを適用することができる。また、学習データ100として用いる複数の正解データ102は、複数種類の3次元データを含んでいてもよく、例えば、CT画像を用いた3次元データと、デジタルファントムによる3次元データとを含んでいてもよい。
また、上記形態では、CT画像は一般的な放射線画像と見た目が異なるため、正解データ102として、CT画像を放射線画像の吸収係数に応じて補正した画像を用いる形態について説明したが、正解データ102は本形態に限定されない。例えば、CT画像そのものであってもよく、3次元構造110を表す3次元データそのものであってもよい。
また、上記形態では、支援装置14が1種類の断層画像推定モデル63を生成する形態について説明したが、本形態に限定されず、複数種類の断層画像推定モデル63を生成する形態としてもよい。例えば、乳腺量により画像の見え方が大きく異なるため、支援装置14が乳腺含有率や乳腺カテゴリ毎に、断層画像推定モデル63を生成する形態としてもよい。この場合、支援装置14は、乳腺含有率または乳腺カテゴリが異なる複数種類の3次元構造110を用意し、3次元構造110の種類毎に、正解データ102と、仮想投影画像91から生成された仮想断層画像群98との組で構成される学習データ100を用いて機械学習を行うことにより乳腺含有率または乳腺カテゴリに応じた複数種類の断層画像推定モデル63を生成することができる。
また例えば、一連の照射位置19毎に、断層画像推定モデル63を生成する形態としてもよい。この場合、例えば、支援装置14は、照射角度範囲がー30度~+30度であり、照射角度を5度刻みとした仮想的な照射位置19により得られた仮想投影画像91から生成された仮想断層画像群98と正解データ102との組で構成される学習データ100を用いて断層画像推定モデル63を生成する。また例えば、支援装置14は、照射角度範囲が―30度~+30度であり、照射角度を3度刻みとした仮想的な照射位置19により得られた仮想投影画像91から生成された仮想断層画像群98と正解データ102との組で構成される学習データ100を用いて断層画像推定モデル63を生成する。また例えば、支援装置14は、照射角度範囲が-15度~+15度であり、照射角度を5度刻みとした仮想的な照射位置19により得られた仮想投影画像91から生成された仮想断層画像群98と正解データ102との組で構成される学習データ100を用いて断層画像推定モデル63を生成する。このように支援装置14は、照射角度範囲、または複数の照射位置19に応じた複数種類の断層画像推定モデル63を生成する形態としてもよい。
また例えば、支援装置14が右乳房の用の断層画像推定モデル63と、左乳房用の断層画像推定モデル63とを生成する形態としてもよい。この場合、支援装置14は、右乳房に対応する3次元構造110に対応する正解データ102と、仮想投影画像91から生成された仮想断層画像群98との組で構成される学習データ100のみを用いて機械学習を行うことにより右乳房用の断層画像推定モデル63を生成することができる。また支援装置14は、左乳房に対応する3次元構造110に対応する正解データ102と、仮想投影画像91から生成された仮想断層画像群98との組で構成される学習データ100のみを用いて機械学習を行うことにより左乳房用の断層画像推定モデル63を生成することができる。
また、上記形態では、支援装置14が学習フェーズを実行する学習装置の一例であり、コンソール12が運用フェーズを実行する画像処理装置の一例である形態について説明したが、学習装置及び画像処理装置の各々として動作する装置は支援装置14及びコンソール12に限定されない。例えば、学習装置及び画像処理装置の機能を1台の装置が備えていてもよい。具体例としては、コンソール12が、学習フェーズを実行する学習装置及び運用フェーズを実行する画像処理装置の機能を有していてもよい。また、コンソール12が有する、投影画像取得部70、断層画像群生成部72、推定断層画像群取得部73、及び表示制御部74の機能の一部または全部をコンソール12以外の、例えばマンモグラフィ装置10、支援装置14、及び外部の装置等が備えていてもよい。また、支援装置14が有する、支援装置14が有する3次元データ取得部80、仮想投影画像生成部82、仮想断層画像群生成部83、及び断層画像推定モデル生成部84の機能の位一部または全部を支援装置14以外の、例えばマンモグラフィ装置10、コンソール12、及び外部の装置等が備えていてもよい。
また、上記形態において、例えば、投影画像取得部70、断層画像群生成部72、推定断層画像群取得部73、及び表示制御部74といった各種の処理を実行する処理部(processing unit)のハードウェア的な構造、及び3次元データ取得部80、仮想投影画像生成部82、仮想断層画像群生成部83、及び断層画像推定モデル生成部84といった各種の処理を実行する処理部(processing unit)のハードウェア的な構造としては、次に示す各種のプロセッサ(processor)を用いることができる。上記各種のプロセッサには、前述したように、ソフトウェア(プログラム)を実行して各種の処理部として機能する汎用的なプロセッサであるCPUに加えて、FPGA(Field Programmable Gate Array)等の製造後に回路構成を変更可能なプロセッサであるプログラマブルロジックデバイス(Programmable Logic Device:PLD)、ASIC(Application Specific Integrated Circuit)等の特定の処理を実行させるために専用に設計された回路構成を有するプロセッサである専用電気回路等が含まれる。
1つの処理部は、これらの各種のプロセッサのうちの1つで構成されてもよいし、同種又は異種の2つ以上のプロセッサの組み合わせ(例えば、複数のFPGAの組み合わせや、CPUとFPGAとの組み合わせ)で構成されてもよい。また、複数の処理部を1つのプロセッサで構成してもよい。
複数の処理部を1つのプロセッサで構成する例としては、第1に、クライアント及びサーバ等のコンピュータに代表されるように、1つ以上のCPUとソフトウェアの組み合わせで1つのプロセッサを構成し、このプロセッサが複数の処理部として機能する形態がある。第2に、システムオンチップ(System On Chip:SoC)等に代表されるように、複数の処理部を含むシステム全体の機能を1つのIC(Integrated Circuit)チップで実現するプロセッサを使用する形態がある。このように、各種の処理部は、ハードウェア的な構造として、上記各種のプロセッサの1つ以上を用いて構成される。
更に、これらの各種のプロセッサのハードウェア的な構造としては、より具体的には、半導体素子などの回路素子を組み合わせた電気回路(circuitry)を用いることができる。
また、上記各形態では、撮影プログラム41がROM40Bに予め記憶(インストール)されており、また画像生成プログラム51がROM50Bに予め記憶(インストール)され、さらに学習プログラム61がROM60Bに予め記憶(インストール)されている態様を説明したが、これに限定されない。撮影プログラム41、画像生成プログラム51、及び学習プログラム61の各々は、CD-ROM(Compact Disc Read Only Memory)、DVD-ROM(Digital Versatile Disc Read Only Memory)、及びUSB(Universal Serial Bus)メモリ等の記録媒体に記録された形態で提供されてもよい。また、撮影プログラム41、画像生成プログラム51、及び学習プログラム61の各々は、ネットワークを介して外部装置からダウンロードされる形態としてもよい。
1 放射線画像撮影システム
10 マンモグラフィ装置
12 コンソール
14 支援装置
19~19、19 照射位置
20 放射線検出器、20A 検出面
21 画素
24 撮影台、24A 撮影面
28 放射線照射部
29 放射線源
33 アーム部
34 基台
35 軸部
36 圧迫ユニット
38 圧迫板
39 支持部
40A、50A、60A CPU、40B、50B、60B ROM、40C、50C、60C RAM
41 撮影プログラム
42、52、62 記憶部
44、54、64 I/F部
46、56、66 操作部
47 線源移動部
49、59、69 バス
51 画像生成プログラム
58、68 表示部
61 学習プログラム
63 断層画像推定モデル
70 投影画像取得部
72 断層画像群生成部
73 推定断層画像群取得部
74 表示制御部
80 3次元データ取得部
82 仮想投影画像生成部
83 仮想断層画像群生成部
84 断層画像推定モデル生成部
90、90 投影画像
91、91 仮想投影画像
92 推定断層画像群
94、94 ボクセル
96 断層画像群
98 仮想断層画像群
100 学習データ
102 正解データ
110 3次元構造
CL 法線
R 放射線、RC 放射線軸
U 被写体
ij 交差長
経路
α、β 角度

Claims (15)

  1. 照射角度が異なる複数の照射位置の各々から被写体に向けて放射線を順次照射して得られた複数の投影画像を処理する画像処理装置であって、
    少なくとも1つのプロセッサを備え、
    前記プロセッサは、
    前記複数の投影画像を取得し、
    前記複数の投影画像から前記被写体の複数の断層面を表す断層画像群を生成し、
    3次元構造を表す3次元データである正解データと、前記3次元データを用い、前記3次元構造に対して複数の仮想的な照射位置から放射線の疑似投影をすることによって、前記3次元構造が投影された複数の仮想投影画像から生成された仮想断層画像群との組で構成される学習データを用いて機械学習モデルを機械学習させることによって生成された学習済みモデルであって、断層画像群を入力とし、推定断層画像群を出力する断層画像推定モデルに、生成した前記断層画像群を入力し、
    前記断層画像推定モデルから出力された推定断層画像群を取得する
    画像処理装置。
  2. 前記正解データである前記3次元データは、各々異なる断層面に対応する複数の正解断層画像を表す画像データである
    請求項1に記載の画像処理装置。
  3. 前記被写体は乳房である
    請求項1または請求項2に記載の画像処理装置。
  4. 少なくとも1つのプロセッサを備え、
    前記プロセッサは、
    3次元構造を表す3次元データを用い、前記3次元構造に対して複数の仮想的な照射位置から放射線の疑似投影をすることによって、前記3次元構造が投影された複数の仮想投影画像を生成し、
    前記複数の仮想投影画像から仮想断層画像群を生成し、
    前記3次元データである正解データと、前記仮想断層画像群との組で構成される学習データを用いて機械学習モデルを機械学習させることによって、断層画像群を入力とし、推定断層画像群を出力する断層画像推定モデルを生成する
    学習装置。
  5. 前記プロセッサは、
    吸収係数に応じた放射線の減弱をシミュレーションして前記複数の仮想投影画像を生成する
    請求項4に記載の学習装置。
  6. 前記正解データである前記3次元データは、各々異なる断層面に対応する複数の正解断層画像を表す画像データである
    請求項4または請求項5に記載の学習装置。
  7. 前記プロセッサは、
    前記断層画像群の各断層画像の生成に用いられる投影画像を生成する放射線検出器に到達すると仮定した放射線の線量に、到達線量に応じたノイズ成分を付与した前記複数の仮想投影画像を生成する
    請求項4から請求項6のいずれか1項に記載の学習装置。
  8. 前記プロセッサは、
    前記複数の仮想投影画像から、FBP法または逐次再構成法を用いて前記仮想断層画像群を生成する
    請求項4から請求項7のいずれか1項に記載の学習装置。
  9. 前記複数の仮想的な照射位置は、トモシンセシス撮影における放射線の照射位置を模擬した位置である
    請求項4から請求項8のいずれか1項に記載の学習装置。
  10. 前記3次元構造は乳房を表す構造であり、
    前記断層画像群は、乳房を被写体として撮影された投影画像から生成された断層画像群である
    請求項4から請求項9のいずれか1項に記載の学習装置。
  11. 放射線を発生する放射線源と、
    照射角度が異なる複数の照射位置の各々から被写体に向けて放射線を照射して前記照射位置毎に前記被写体の投影画像を撮影するトモシンセシス撮影を行う放射線画像撮影装置と、
    プロセッサが、3次元構造を表す3次元データを用い、前記3次元構造に対して複数の仮想的な照射位置から放射線の疑似投影をすることによって、前記3次元構造が投影された複数の仮想投影画像を生成し、前記複数の仮想投影画像から仮想断層画像群を生成し、前記3次元データである正解データと、前記仮想断層画像群との組で構成される学習データを用いて機械学習モデルを機械学習させることによって、断層画像群を入力とし、推定断層画像群を出力する断層画像推定モデルを生成する学習装置と、
    照射角度が異なる複数の照射位置の各々から被写体に向けて放射線を順次照射して得られた複数の投影画像を処理する画像処理装置であって、プロセッサが、前記複数の投影画像を取得し、前記複数の投影画像から前記被写体の複数の断層面を表す断層画像群を生成して前記学習装置により学習された前記断層画像推定モデルに入力し、前記断層画像推定モデルから出力された推定断層画像群を取得する画像処理装置と、
    を備えた放射線画像撮影システム。
  12. 照射角度が異なる複数の照射位置の各々から被写体に向けて放射線を順次照射して得られた複数の投影画像を処理する画像処理方法であって、
    前記複数の投影画像を取得し、
    前記複数の投影画像から前記複数の照射位置に基づいて前記被写体の複数の断層面を表す断層画像群を生成し、
    3次元構造を表す3次元データである正解データと、前記3次元データを用い、前記3次元構造に対して複数の仮想的な照射位置から放射線の疑似投影をすることによって、前記3次元構造が投影された複数の仮想投影画像から生成された仮想断層画像群との組で構成される学習データを用いて機械学習モデルを機械学習させることによって生成された学習済みモデルであって、断層画像群を入力とし、推定断層画像群を出力する断層画像推定モデルに、生成した前記断層画像群を入力し、
    前記断層画像推定モデルから出力された推定断層画像群を取得する
    処理をコンピュータが実行する画像処理方法。
  13. 3次元構造を表す3次元データを用い、前記3次元構造に対して複数の仮想的な照射位置から放射線の疑似投影をすることによって、前記3次元構造が投影された複数の仮想投影画像を生成し、
    前記複数の仮想投影画像から前記複数の仮想的な照射位置を用いて仮想断層画像群を生成し、
    前記3次元データである正解データと、前記仮想断層画像群との組で構成される学習データを用いて機械学習モデルを機械学習させることによって、断層画像群を入力とし、推定断層画像群を出力する断層画像推定モデルを生成する
    処理をコンピュータが実行する学習方法。
  14. 照射角度が異なる複数の照射位置の各々から被写体に向けて放射線を順次照射して得られた複数の投影画像を処理する画像処理プログラムであって、
    前記複数の投影画像を取得し、
    前記複数の投影画像から前記被写体の複数の断層面を表す断層画像群を生成し、
    3次元構造を表す3次元データである正解データと、前記3次元データを用い、前記3次元構造に対して複数の仮想的な照射位置から放射線の疑似投影をすることによって、前記3次元構造が投影された複数の仮想投影画像から生成された仮想断層画像群との組で構成される学習データを用いて機械学習モデルを機械学習させることによって生成された学習済みモデルであって、断層画像群を入力とし、推定断層画像群を出力する断層画像推定モデルに、生成した前記断層画像群を入力し、
    前記断層画像推定モデルから出力された推定断層画像群を取得する
    処理をコンピュータに実行させるための画像処理プログラム。
  15. 3次元構造を表す3次元データを用い、前記3次元構造に対して複数の仮想的な照射位置から放射線の疑似投影をすることによって、前記3次元構造が投影された複数の仮想投影画像を生成し、
    前記複数の仮想投影画像から仮想断層画像群を生成し、
    前記3次元データである正解データと、前記仮想断層画像群との組で構成される学習データを用いて機械学習モデルを機械学習させることによって、断層画像群を入力とし、推定断層画像群を出力する断層画像推定モデルを生成する
    処理をコンピュータに実行させるための学習プログラム。
JP2021058343A 2021-03-30 2021-03-30 画像処理装置、学習装置、放射線画像撮影システム、画像処理方法、学習方法、画像処理プログラム、及び学習プログラム Active JP7657635B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2021058343A JP7657635B2 (ja) 2021-03-30 2021-03-30 画像処理装置、学習装置、放射線画像撮影システム、画像処理方法、学習方法、画像処理プログラム、及び学習プログラム
US17/697,971 US12056875B2 (en) 2021-03-30 2022-03-18 Image processing device, learning device, radiography system, image processing method, learning method, image processing program, and learning program
DE102022107325.4A DE102022107325A1 (de) 2021-03-30 2022-03-29 Bildverarbeitungsgerät, lernvorrichtung, röntgensystem, bildverarbeitungsverfahren, lernverfahren, bildverarbeitungsprogramm und lernprogramm

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2021058343A JP7657635B2 (ja) 2021-03-30 2021-03-30 画像処理装置、学習装置、放射線画像撮影システム、画像処理方法、学習方法、画像処理プログラム、及び学習プログラム

Publications (2)

Publication Number Publication Date
JP2022155027A JP2022155027A (ja) 2022-10-13
JP7657635B2 true JP7657635B2 (ja) 2025-04-07

Family

ID=83282659

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021058343A Active JP7657635B2 (ja) 2021-03-30 2021-03-30 画像処理装置、学習装置、放射線画像撮影システム、画像処理方法、学習方法、画像処理プログラム、及び学習プログラム

Country Status (3)

Country Link
US (1) US12056875B2 (ja)
JP (1) JP7657635B2 (ja)
DE (1) DE102022107325A1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7413216B2 (ja) * 2020-09-15 2024-01-15 富士フイルム株式会社 学習装置、方法およびプログラム、学習済みモデル、並びに放射線画像処理装置、方法およびプログラム
US12178621B2 (en) * 2022-02-09 2024-12-31 GE Precision Healthcare LLC Fast and low memory usage convolutional neural network for tomosynthesis data processing and feature detection
US12121382B2 (en) * 2022-03-09 2024-10-22 GE Precision Healthcare LLC X-ray tomosynthesis system providing neural-net guided resolution enhancement and thinner slice generation

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20170071562A1 (en) 2014-01-15 2017-03-16 Alara Systems, Inc Converting low-dose to higher dose 3d tomosynthesis images through machine-learning processes
US20190139276A1 (en) 2017-11-06 2019-05-09 Samsung Electronics Co., Ltd. Method and apparatus for generating x-ray tomographic image data
JP2020116377A (ja) 2019-01-18 2020-08-06 キヤノンメディカルシステムズ株式会社 医用処理装置、医用処理方法及び記憶媒体
JP2020127597A (ja) 2019-02-08 2020-08-27 キヤノンメディカルシステムズ株式会社 医用画像処理装置、x線診断装置、およびプログラム
WO2020175446A1 (ja) 2019-02-28 2020-09-03 富士フイルム株式会社 学習方法、学習システム、学習済みモデル、プログラム及び超解像画像生成装置
JP2020141867A (ja) 2019-03-06 2020-09-10 キヤノンメディカルシステムズ株式会社 医用画像処理装置、学習方法、x線診断装置、医用画像処理方法、およびプログラム
JP2020192006A (ja) 2019-05-27 2020-12-03 キヤノンメディカルシステムズ株式会社 診断支援装置、及び、x線ct装置
JP7542478B2 (ja) 2021-03-30 2024-08-30 富士フイルム株式会社 画像処理装置、学習装置、放射線画像撮影システム、画像処理方法、学習方法、画像処理プログラム、及び学習プログラム

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2496126A (en) * 2011-10-31 2013-05-08 Univ Antwerpen Dynamic tomography angle selection using information function
US11039805B2 (en) 2017-01-05 2021-06-22 General Electric Company Deep learning based estimation of data for use in tomographic reconstruction

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20170071562A1 (en) 2014-01-15 2017-03-16 Alara Systems, Inc Converting low-dose to higher dose 3d tomosynthesis images through machine-learning processes
US20190139276A1 (en) 2017-11-06 2019-05-09 Samsung Electronics Co., Ltd. Method and apparatus for generating x-ray tomographic image data
JP2020116377A (ja) 2019-01-18 2020-08-06 キヤノンメディカルシステムズ株式会社 医用処理装置、医用処理方法及び記憶媒体
JP2020127597A (ja) 2019-02-08 2020-08-27 キヤノンメディカルシステムズ株式会社 医用画像処理装置、x線診断装置、およびプログラム
WO2020175446A1 (ja) 2019-02-28 2020-09-03 富士フイルム株式会社 学習方法、学習システム、学習済みモデル、プログラム及び超解像画像生成装置
JP2020141867A (ja) 2019-03-06 2020-09-10 キヤノンメディカルシステムズ株式会社 医用画像処理装置、学習方法、x線診断装置、医用画像処理方法、およびプログラム
JP2020192006A (ja) 2019-05-27 2020-12-03 キヤノンメディカルシステムズ株式会社 診断支援装置、及び、x線ct装置
JP7542478B2 (ja) 2021-03-30 2024-08-30 富士フイルム株式会社 画像処理装置、学習装置、放射線画像撮影システム、画像処理方法、学習方法、画像処理プログラム、及び学習プログラム

Also Published As

Publication number Publication date
DE102022107325A1 (de) 2022-10-06
JP2022155027A (ja) 2022-10-13
US20220318998A1 (en) 2022-10-06
US12056875B2 (en) 2024-08-06

Similar Documents

Publication Publication Date Title
US7142633B2 (en) Enhanced X-ray imaging system and method
KR101728046B1 (ko) 단층 영상 복원 장치 및 그에 따른 단층 영상 복원 방법
JP5635730B2 (ja) 画像から関心のある特徴部を抽出するためのシステム及び方法
KR102220226B1 (ko) 컴퓨터 단층 촬영 장치 및 그에 따른 ct 영상 복원 방법
US20160078647A1 (en) Metal artifacts reduction in cone beam reconstruction
JP7657635B2 (ja) 画像処理装置、学習装置、放射線画像撮影システム、画像処理方法、学習方法、画像処理プログラム、及び学習プログラム
CN115209808B (zh) 学习完毕模型的制作方法、图像生成方法以及图像处理装置
JP7403585B2 (ja) 計算機式断層写真法画像再構成のためのシステム及び方法
US20220383564A1 (en) Image generation device, image generation program, learning device, learning program, image processing device, and image processing program
JP7542478B2 (ja) 画像処理装置、学習装置、放射線画像撮影システム、画像処理方法、学習方法、画像処理プログラム、及び学習プログラム
Tseng et al. Cone-beam breast CT using an offset detector: effect of detector offset and image reconstruction algorithm
US11270477B2 (en) Systems and methods for tailored image texture in iterative image reconstruction
JP2021168788A (ja) 医用画像処理装置および医用画像処理方法
US9836862B2 (en) Methods and systems for contrast enhanced imaging with single energy acquisition
JP2025010394A (ja) 推定装置、方法およびプログラム
EP4193927A1 (en) Methods and system for simulated radiology studies based on prior imaging data
EP3574475A1 (en) System for the detection and display of metal obscured regions in cone beam ct
JP7703428B2 (ja) 画像処理装置、画像処理方法、及び画像処理プログラム
CN118628432A (zh) 医用图像处理方法、x射线诊断装置及训练完成模型的生成方法
JP7674126B2 (ja) 画像処理装置、放射線画像撮影システム、画像処理方法、及び画像処理プログラム
CN110364247A (zh) 用于生成断层摄影图像的装置和方法
JP7376447B2 (ja) 制御装置、制御方法、及び制御プログラム
Shaheen et al. The influence of position within the breast on microcalcification detectability in continuous tube motion digital breast tomosynthesis
CN119672136A (zh) 用于从单能量成像系统生成双能量图像的方法和系统
KR20160072004A (ko) 단층 촬영 장치 및 그에 따른 단층 영상 복원 방법

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20231207

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20240726

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240806

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20241007

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20241126

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20250127

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20250304

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20250326

R150 Certificate of patent or registration of utility model

Ref document number: 7657635

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150