JP7275961B2 - 教師画像生成プログラム、教師画像生成方法、および教師画像生成システム - Google Patents

教師画像生成プログラム、教師画像生成方法、および教師画像生成システム Download PDF

Info

Publication number
JP7275961B2
JP7275961B2 JP2019136501A JP2019136501A JP7275961B2 JP 7275961 B2 JP7275961 B2 JP 7275961B2 JP 2019136501 A JP2019136501 A JP 2019136501A JP 2019136501 A JP2019136501 A JP 2019136501A JP 7275961 B2 JP7275961 B2 JP 7275961B2
Authority
JP
Japan
Prior art keywords
image
tumor
shadow
teacher
synthesizing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019136501A
Other languages
English (en)
Other versions
JP2021019677A (ja
Inventor
正樹 石原
明燮 鄭
信浩 宮▲崎▼
康貴 森脇
浩明 武部
孝之 馬場
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2019136501A priority Critical patent/JP7275961B2/ja
Publication of JP2021019677A publication Critical patent/JP2021019677A/ja
Application granted granted Critical
Publication of JP7275961B2 publication Critical patent/JP7275961B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Magnetic Resonance Imaging Apparatus (AREA)
  • Image Processing (AREA)
  • Medical Treatment And Welfare Office Work (AREA)
  • Apparatus For Radiation Diagnosis (AREA)

Description

本発明は、教師画像生成プログラム、教師画像生成方法、および教師画像生成システムに関する。
従来、医療分野において、検査技師と呼ばれる医療従事者が、モダリティ装置を利用し、被験者のいずれかの部位の医用画像を撮像することがある。医用画像は、例えば、CT(Computed Tomography)画像やMRI(Magnetic Resonance Imaging)画像などである。その後、医師が、撮像された医用画像を確認し、被験者の健康状態や病状などを診断する診断作業を実施することがある。
先行技術としては、例えば、脳の立体模型を利用して、被験者の脳画像データの取得条件と同一の条件および異なる条件のそれぞれにより撮像した画像間の差分をPixelごとに計算して求めた変換係数により、被験者の脳画像データを補正するものがある。また、例えば、重ねた映像のサイズより拡張されたテンプレート映像を各映像にサブトラクトさせテンプレート映像の外のピクセルを除去し、オブジェクトの中で最も多いピクセルで構成されたオブジェクトだけを認識して抽出する技術がある。
特開2003-107161号公報 特開2003-180679号公報
ここで、医用画像に映る腫瘍の陰影を自動検出し、医師による診断作業を支援することが望まれるが、従来技術では、医用画像に映る腫瘍の陰影を自動検出する検出モデルの検出精度を向上させることが難しい。例えば、肺癌単独で罹患中の被験者の医用画像に加えて、肺癌を含む合併症を罹患中の被験者の医用画像を、教師画像として用意しなければ、医用画像に映る肺癌による腫瘍の陰影を自動検出する検出モデルの検出精度を向上させることができない。
1つの側面では、本発明は、医用画像に映る腫瘍の陰影を自動検出する検出モデルの検出精度を向上させることを目的とする。
1つの実施態様によれば、第1疾患により気腔を生じた肺の断面を撮像した第1画像上の気腔領域を検出し、前記第1画像と、前記第1疾患と合併症を形成し得る第2疾患による腫瘍の陰影を示す第2画像とに基づいて、前記第1画像上に前記第2画像を配置した際に、前記腫瘍の陰影のうち、検出した前記気腔領域と重複する部分を非表示として、前記第1画像に前記第2画像を合成した第3画像を生成し、生成した前記第3画像を出力する教師画像生成プログラム、教師画像生成方法、および教師画像生成システムが提案される。
一態様によれば、医用画像に映る腫瘍の陰影を自動検出する検出モデルの検出精度を向上させることが可能になる。
図1は、実施の形態にかかる教師画像生成方法の一実施例を示す説明図である。 図2は、医用画像処理システム200の一例を示す説明図である。 図3は、教師画像生成装置100のハードウェア構成例を示すブロック図である。 図4は、画像DB203の記憶内容の一例を示す説明図である。 図5は、腫瘍DB204の記憶内容の一例を示す説明図である。 図6は、モダリティ装置201のハードウェア構成例を示すブロック図である。 図7は、医師用端末202のハードウェア構成例を示すブロック図である。 図8は、教師画像生成装置100の機能的構成例を示すブロック図である。 図9は、実施例1における各機能部の動作の流れの一例を示す説明図である。 図10は、肺気腫の肺画像に肺癌の腫瘍画像を合成する一例を示す説明図である。 図11は、間質性肺炎の肺画像に肺癌の腫瘍画像を合成する一例を示す説明図である。 図12は、実施例2における各機能部の動作の流れの一例を示す説明図である。 図13は、肺画像に腫瘍画像を重ねて合成する合成例1を示す説明図(その1)である。 図14は、肺画像に腫瘍画像を重ねて合成する合成例1を示す説明図(その2)である。 図15は、肺画像に腫瘍画像を重ねて合成する合成例2を示す説明図である。 図16は、肺画像に腫瘍画像を重ねて合成する合成例3を示す説明図である。 図17は、画像グループごとに生成された検出モデルの検出精度を評価する一例を示す説明図である。 図18は、実施例3における各機能部の動作の流れの一例を示す説明図である。 図19は、合成例1における合成処理手順の一例を示すフローチャートである。 図20は、合成例2における合成処理手順の一例を示すフローチャートである。 図21は、合成例3における合成処理手順の一例を示すフローチャートである。 図22は、モデル生成処理手順の一例を示すフローチャートである。
以下に、図面を参照して、本発明にかかる教師画像生成プログラム、教師画像生成方法、および教師画像生成システムの実施の形態を詳細に説明する。
(実施の形態にかかる教師画像生成方法の一実施例)
図1は、実施の形態にかかる教師画像生成方法の一実施例を示す説明図である。図1において、教師画像生成装置100は、医療分野において、被験者のいずれかの部位の医用画像に基づく医師による被験者に対する診断作業を支援するためのコンピュータである。
医用画像は、被験者の健康状態や病状などを診断するための医療用の画像である。医用画像は、例えば、CT画像やMRI画像などである。医用画像は、例えば、検査技師と呼ばれる医療従事者によってモダリティ装置を利用して撮像される。医用画像は、例えば、被験者のいずれかの部位の断面を撮像して得られた断面画像である。
医師は、被験者のいずれかの部位の医用画像を確認し、被験者の健康状態や病状などを診断する診断作業を実施する。部位は、例えば、肺である。医師は、例えば、被験者の肺の断面を撮像した医用画像を確認し、当該医用画像に映る腫瘍の陰影を発見し、被験者の健康状態や病状などを診断する診断作業を実施する。腫瘍は、例えば、肺癌により生じる病変である。
この際、医師が、被験者の医用画像に基づいて、被験者の健康状態や病状などを診断することが難しい場合があるという第1の問題がある。
ここで、例えば、肺癌の腫瘍は、単中心性であり、肺癌の腫瘍の周辺が正常な肺組織であれば、球状に発育する性質を有する。このため、肺癌単独で罹患中の被験者の医用画像では、肺癌の腫瘍の陰影に、単中心性であり球状に発育するという肺癌の腫瘍が有する性質に基づく、典型的な画像特徴が現れる傾向がある。
一方で、例えば、肺癌の腫瘍は、肺癌の腫瘍の周辺に、肺気腫の気腔がある場合には、肺気腫の気腔の中には発育せず、肺気腫の気腔の壁に沿って発育する性質を有する。このため、肺気腫と肺癌との合併症を罹患中の被験者の医用画像では、肺癌の腫瘍の陰影に、典型的な画像特徴が現れにくくなる傾向がある。
これらの性質から、被験者が、肺気腫と肺癌との合併症を罹患中である場合には、医師は、肺気腫と肺癌との合併症を罹患中の被験者の医用画像を確認しても、医用画像に映る肺癌の腫瘍の陰影を発見することが難しくなる。このため、医師は、被験者が肺癌であるか否かを診断することが難しい。かかる第1の問題については、例えば、下記参考文献1~4を参照することができる。
参考文献1:斉藤彰俊, 小澤克良, and 宮澤正久. “肺線維症に重なる浸潤影のCT像を呈した肺扁平上皮癌の1例.” 肺癌 44.7 (2004): 785-789.
参考文献2:Yoshida, Rika, Hiroaki Arakawa, and Yasushi Kaji. “Lung cancer in chronic interstitial pneumonia: early manifestation from serial CT observations.” American Journal of Roentgenology 199.1 (2012): 85-90.
参考文献3:宮本篤, “肺癌診断のピットフォール:呼吸器疾患合併肺癌”, 第42回肺癌診断会講演資料 (2016年)
参考文献4:“画像診断まとめ”、[online]、[令和1年7月5日検索]、インターネット<URL:https://遠隔画像診断.jp/archives/19371>
また、医師が、肺癌単独で罹患中の被験者の医用画像と、肺気腫と肺癌との合併症を罹患中の被験者の医用画像とのいずれを確認する場合でも、医師のスキルに依存して、医用画像に映る肺癌の腫瘍の陰影を見落とすことがあり得るという第2の問題がある。
また、近年、被験者に対する1回の撮像作業において、モダリティ装置を利用して撮像される被験者の医用画像の数が膨大になる傾向があり、被験者に対する診断作業を実施する際にかかる医師の作業負担は、増大する傾向があるという第3の問題がある。例えば、CT画像やMRI画像は、数mm間隔で人体の断面を撮像するため、被験者の医用画像の数が膨大になりやすい。具体的には、被験者の医用画像の数は、数千枚になる。
また、医師が人手不足になりやすいという第4の問題がある。
これらの問題に対し、医用画像に映る腫瘍の陰影を自動検出し、医師による診断作業を支援し、被験者の健康状態や病状などを診断しやすくし、被験者に対する診断作業を実施する際にかかる医師の作業負担を低減することが望まれる。このため、医用画像に映る腫瘍の陰影を自動検出する検出モデルを生成することが望まれ、かかる検出モデルの検出精度を向上させることが望まれる。
また、肺癌の死亡率は他の癌と比べて高い傾向があり、肺癌の発見が遅れるほど肺癌の死亡率は高くなる傾向がある。例えば、肺癌のステージ1では5年生存率は80%であるが、肺癌のステージ4では5年生存率は5%未満となる。また、肺癌単独の発症リスクに比べて肺気腫や間質性肺炎などと合併する合併肺癌の発症リスクは高くなる傾向がある。例えば、肺気腫と合併する合併肺癌の発症リスクは、肺癌単独の発症リスクの2~4倍になり、間質性肺炎と合併する合併肺癌の発症リスクは、肺癌単独の発症リスクの7~14倍になる。発症リスクについては、例えば、下記参考文献5を参照することができる。
参考文献5:de Torres, Juan P., et al. “Assessing the relationship between lung cancer risk and emphysema detected on low-dose CT of the chest.” Chest 132.6 (2007): 1932-1938.
このように、被験者の生命を守る観点からも、医用画像に映る腫瘍の陰影を自動検出する検出モデルを用意することは好ましく、かかる検出モデルの検出精度を向上させることは好ましいと考えられる。特に、医用画像に映る肺癌の腫瘍の陰影を自動検出する検出モデルを用意することが好ましいと考えられる。
しかしながら、従来では、医用画像に映る腫瘍の陰影には様々な画像特徴が現れるため、機械学習により腫瘍の陰影を自動検出する検出モデルの検出精度を向上させることが難しい。例えば、肺癌単独で罹患中の被験者の医用画像に加えて、肺癌を含む合併症を罹患中の被験者の医用画像を、教師画像として大量に用意しなければ、医用画像に映る肺癌による腫瘍の陰影を自動検出する検出モデルの検出精度を向上させることができない。
これに対し、腫瘍の陰影を示す画像を、そのまま、腫瘍の陰影が映っていない被験者の肺の断面を撮像した医用画像に貼り付けることにより、人工の教師画像を生成し、検出モデルの検出精度を向上させようとする手法が考えられる。この手法では、腫瘍の陰影を示す画像を、そのまま、腫瘍の陰影が映っていない被験者の肺の断面を撮像した医用画像に貼り付けるため、腫瘍の陰影が、実際にあり得る態様にならず、検出モデルの検出精度を向上させにくいという問題がある。この手法については、例えば、下記参考文献6を参照することができる。
参考文献6:安倍和弥, et al. “人工症例画像の CAD 開発への有効性検証と客観的評価基準としての活用の提案.” Medical Imaging Technology 35.2 (2017): 110-120.
そこで、本実施の形態では、合併症を罹患中にあり得る態様で、腫瘍の陰影が映る人工の医用画像を、教師画像として生成することにより、医用画像に映る腫瘍の陰影を自動検出する検出モデルの検出精度を向上させる教師画像生成方法について説明する。
図1において、教師画像生成装置100は、第1画像を記憶する。第1画像は、第1疾患により気腔を生じた肺の断面を撮像した医用画像である。第1画像は、例えば、CT画像である。図1の例では、第1画像は、医用画像101である。第1疾患は、気腔を生じる疾患である。気腔は、空気を含む空間である。第1疾患は、例えば、呼吸器疾患である。第1疾患は、具体的には、肺気腫や間質性肺炎などである。
また、教師画像生成装置100は、第2画像を記憶する。第2画像は、第1疾患と合併症を形成し得る第2疾患による腫瘍の陰影を示す画像である。第2画像は、例えば、第2疾患による腫瘍の陰影が映る医用画像から切り出された、第2疾患による腫瘍の陰影が映る部分画像である。第2画像は、例えば、CT画像である。図1の例では、第2画像は、医用画像103から切り出された部分画像102である。第2疾患は、腫瘍を生じる疾患である。第2疾患は、例えば、肺癌である。
(1-1)教師画像生成装置100は、第1疾患により気腔を生じた肺の断面を撮像した第1画像上の気腔領域を検出する。教師画像生成装置100は、例えば、第1画像の各画素のCT値に基づいて、空気に対応するCT値である気腔領域を検出する。図1の例では、教師画像生成装置100は、医用画像101上の気腔領域を検出する。
(1-2)教師画像生成装置100は、第1画像と第2画像とに基づいて、第1画像上に第2画像を配置した際に、腫瘍の陰影のうち、検出した気腔領域と重複する部分を非表示として、第1画像に第2画像を合成した第3画像を生成する。第3画像は、例えば、腫瘍が、腫瘍の周辺に気腔がある場合には、気腔の中には発育せず、気腔の壁に沿って発育する性質が反映された、合併症を罹患中にあり得る態様で腫瘍の陰影が映る医用画像になる。図1の例では、教師画像生成装置100は、医用画像101に部分画像102を合成した人工の医用画像104を生成する。
(1-3)教師画像生成装置100は、生成した第3画像を出力する。これにより、教師画像生成装置100は、人工の教師画像として、合併症を罹患中にあり得る態様で腫瘍の陰影が映る第3画像を得ることができる。そして、教師画像生成装置100は、第3画像を、医用画像に映る腫瘍の陰影を自動検出する検出モデルを生成する際に利用可能にし、検出モデルを生成する際に利用可能な教師画像の数を増大させることができる。図1の例では、教師画像生成装置100は、人工の医用画像104を出力する。
結果として、教師画像生成装置100は、第3画像を利用して、検出モデルの検出精度を向上可能にすることができる。教師画像生成装置100は、例えば、医療従事者が、合併症を罹患中にあり得る態様で腫瘍の陰影が映る医用画像を用意することが難しい場合でも、第3画像を利用して、検出モデルの検出精度を向上可能にすることができる。
(1-4)教師画像生成装置100は、少なくとも第3画像に基づいて、検出モデルを生成する。教師画像生成装置100は、例えば、医療従事者が用意した実際の医用画像と、生成した第3画像とに基づいて、検出モデルを生成する。図1の例では、教師画像生成装置100は、人工の医用画像104と、実際の医用画像105とに基づいて、検出モデルを生成する。これにより、教師画像生成装置100は、被験者の医用画像に映る腫瘍の陰影を精度よく検出可能な検出モデルを得ることができ、医師による診断作業に利用可能にすることができる。
ここで、例えば、気腔領域に関わらず、第1の画像に第2の画像をそのまま合成した人工の医用画像106と、実際の医用画像105とに基づいて、検出モデルを生成する従来装置が考えられるが、従来装置では、検出モデルの検出精度を向上させることが難しい。具体的には、従来装置では、人工の医用画像106に映る腫瘍の陰影が実際にあり得る態様ではないため、検出モデルの検出精度を向上させることが難しい。これに対し、教師画像生成装置100は、実際にあり得る態様で腫瘍の陰影が映る医用画像104に基づき、検出モデルの検出精度を向上させることができる。
このため、教師画像生成装置100は、医師による診断作業を支援することができ、診断作業にかかる医師の作業負担の低減化を図ることができ、医師が、被験者の健康状態や病状などを正しく診断しやすくすることができる。教師画像生成装置100は、例えば、医師が、被験者の医用画像に映る肺癌の腫瘍の陰影を発見しやすくし、被験者が、肺癌であるか否かを診断しやすくすることができる。
また、教師画像生成装置100は、医用画像に映る肺癌の腫瘍の陰影を発見成功する確率の、医師のスキルへの依存度合いの低減化を図ることができる。教師画像生成装置100は、医師のスキルに依存せずに、医師が、医用画像に映る肺癌の腫瘍の陰影を見落とさずに発見しやすくすることができる。また、教師画像生成装置100は、被験者が肺癌であることを比較的早期に発見しやすくすることができ、被験者の肺癌を治療しやすくすることができ、被験者の生命を守りやすくすることができる。
ここでは、教師画像生成装置100が、生成した第3画像に基づいて、検出モデルを生成する場合について説明したが、これに限らない。例えば、教師画像生成装置100が、検出モデルを生成する他のコンピュータに、生成した第3画像を送信する場合があってもよい。
(医用画像処理システム200の一例)
次に、図2を用いて、図1に示した教師画像生成装置100を適用した、医用画像処理システム200の一例について説明する。
図2は、医用画像処理システム200の一例を示す説明図である。図2において、医用画像処理システム200は、教師画像生成装置100と、モダリティ装置201と、1以上の医師用端末202とを含む。
医用画像処理システム200において、教師画像生成装置100とモダリティ装置201とは、有線または無線により直接接続される。また、教師画像生成装置100とモダリティ装置201とは、有線または無線のネットワーク210を介して接続されてもよい。また、教師画像生成装置100と医師用端末202とは、有線または無線のネットワーク210を介して接続される。ネットワーク210は、例えば、LAN(Local Area Network)、WAN(Wide Area Network)、インターネットなどである。
教師画像生成装置100は、画像DB(DataBase)203と腫瘍DB204とを有する。画像DB203は、症例画像となる医用画像を記憶する。画像DB203の記憶内容の一例については、例えば、図4を用いて後述する。腫瘍DB204は、腫瘍の陰影の医用画像上の位置を特定する情報を記憶する。腫瘍DB204の記憶内容の一例については、例えば、図5を用いて後述する。
教師画像生成装置100は、例えば、被験者のいずれかの部位の断面を撮像した医用画像を、モダリティ装置201から受信し、症例画像として画像DB203を用いて記憶する。教師画像生成装置100は、腫瘍の陰影の医用画像上の位置が既知である場合には、医用画像に対応付けて、腫瘍の陰影の医用画像上の位置を特定する情報を、腫瘍DB204を用いて記憶する。
教師画像生成装置100は、例えば、画像DB203に記憶された医用画像に、腫瘍の陰影を示す腫瘍画像を合成した合成画像を、人工の症例画像として生成し、画像DB203を用いて記憶する。教師画像生成装置100は、生成した合成画像に対応付けて、腫瘍の陰影の合成画像上の位置を特定する情報を、腫瘍DB204を用いて記憶する。
教師画像生成装置100は、画像DB203に記憶された症例画像に基づいて、検出モデルを生成する。検出モデルは、例えば、ニューラルネットワークにより表現される。検出モデルは、例えば、数式または木構造などにより表現される場合があってもよい。
教師画像生成装置100は、医師用端末202と通信し、検出モデルを利用して、いずれかの医用画像に映る腫瘍の陰影を検出し、検出モデルによる検出結果を、医師用端末202に送信する。教師画像生成装置100は、例えば、サーバやPC(Personal Computer)などである。教師画像生成装置100は、例えば、PACS(Picture Archiving and Communication Systems)を実現する。
モダリティ装置201は、主に検査技師に用いられるコンピュータである。検査技師は、例えば、診療科の医師からの検査指示に応じて、モダリティ装置201を利用し、被験者のいずれかの部位の断面を撮像する検査作業を実施する。モダリティ装置201は、例えば、検査技師の操作入力に応じて、被験者のいずれかの部位の断面を撮像した医用画像を、教師画像生成装置100に送信する。モダリティ装置201は、例えば、CR、CT、MRI、RIなどに関する画像機器である。
医師用端末202は、主に医師に用いられるコンピュータである。医師は、例えば、医師用端末202を利用し、教師画像生成装置100にアクセスし、検出モデルを利用し、被験者の医用画像に基づいて、被験者の健康状態や病状などを診断し、被験者の所見を作成する。
医師用端末202は、例えば、医師の操作入力に応じて、教師画像生成装置100にアクセスし、いずれかの医用画像についての検出モデルによる検出結果を取得し、ディスプレイに表示する。医師用端末202は、例えば、医師の操作入力に応じて、表示した検出結果に基づく被験者の所見を作成する。医師用端末202は、例えば、PCなどである。
ここでは、教師画像生成装置100が、画像DB203を有する場合について説明したが、これに限らない。例えば、教師画像生成装置100と通信可能な他のコンピュータが、画像DB203を有し、教師画像生成装置100が、被験者のいずれかの部位の断面を撮像した医用画像を、他のコンピュータから取得する場合があってもよい。また、教師画像生成装置100が、生成した合成画像を、教師画像生成装置100と通信可能な他のコンピュータに送信し、他のコンピュータが、受信した合成画像を、画像DB203を用いて記憶する場合があってもよい。
ここでは、教師画像生成装置100が、腫瘍DB204を用いて、腫瘍の陰影の医用画像上の位置を特定する情報を記憶する場合について説明したが、これに限らない。例えば、教師画像生成装置100が、腫瘍DB204を有さず、医用画像に対応付けて、当該医用画像上に腫瘍の陰影が映っているか否かを記憶する場合があってもよい。
ここでは、教師画像生成装置100が、検出モデルを生成する場合について説明したが、これに限らない。例えば、教師画像生成装置100と通信可能な他のコンピュータが、検出モデルを生成する場合があってもよい。
ここでは、教師画像生成装置100と、モダリティ装置201とが別の装置である場合について説明したが、これに限らない。例えば、教師画像生成装置100と、モダリティ装置201とが一体である場合があってもよい。また、ここでは、教師画像生成装置100と、医師用端末202とが別の装置である場合について説明したが、これに限らない。例えば、教師画像生成装置100と、医師用端末202とが一体である場合があってもよい。
(教師画像生成装置100のハードウェア構成例)
次に、図3を用いて、教師画像生成装置100のハードウェア構成例について説明する。
図3は、教師画像生成装置100のハードウェア構成例を示すブロック図である。図3において、教師画像生成装置100は、CPU(Central Processing Unit)301と、メモリ302と、通信I/F(Interface)303と、記録媒体I/F304と、記録媒体305とを有する。また、各構成部は、バス300によってそれぞれ接続される。
ここで、CPU301は、教師画像生成装置100の全体の制御を司る。メモリ302は、例えば、ROM(Read Only Memory)、RAM(Random Access Memory)およびフラッシュROMなどを有する。具体的には、例えば、フラッシュROMやROMが各種プログラムを記憶し、RAMがCPU301のワークエリアとして使用される。メモリ302に記憶されるプログラムは、CPU301にロードされることで、コーディングされている処理をCPU301に実行させる。
通信I/F303は、通信回線を通じてネットワーク210に接続され、ネットワーク210を介して他のコンピュータに接続される。そして、通信I/F303は、ネットワーク210と内部のインターフェースを司り、他のコンピュータからのデータの入出力を制御する。また、通信I/F303は、有線または無線により、他のコンピュータに直接接続され、他のコンピュータと内部のインターフェースを司り、他のコンピュータからのデータの入出力を制御する場合があってもよい。通信I/F303は、例えば、モデムやLANアダプタなどである。
記録媒体I/F304は、CPU301の制御に従って記録媒体305に対するデータのリード/ライトを制御する。記録媒体I/F304は、例えば、ディスクドライブ、SSD(Solid State Drive)、USB(Universal Serial Bus)ポートなどである。記録媒体305は、記録媒体I/F304の制御で書き込まれたデータを記憶する不揮発メモリである。記録媒体305は、例えば、ディスク、半導体メモリ、USBメモリなどである。記録媒体305は、教師画像生成装置100から着脱可能であってもよい。
教師画像生成装置100は、上述した構成部のほか、例えば、キーボード、マウス、ディスプレイ、プリンタ、スキャナ、マイク、スピーカーなどを有してもよい。また、教師画像生成装置100は、記録媒体I/F304や記録媒体305を複数有していてもよい。また、教師画像生成装置100は、記録媒体I/F304や記録媒体305を有していなくてもよい。
(画像DB203の記憶内容)
次に、図4を用いて、画像DB203の記憶内容の一例について説明する。画像DB203は、例えば、図3に示した教師画像生成装置100のメモリ302や記録媒体305などの記憶領域により実現される。
図4は、画像DB203の記憶内容の一例を示す説明図である。図4に示すように、画像DB203は、画像No.と、画像データとのフィールドを有する。画像DB203は、症例画像ごとに各フィールドに情報を設定することにより、症例画像情報がレコード400-aとして記憶される。aは、任意の整数である。図4の例では、aは、1である。
画像No.のフィールドには、症例画像を識別する画像No.が設定される。画像データのフィールドには、画像No.によって識別される症例画像が設定される。
(腫瘍DB204の記憶内容)
次に、図5を用いて、腫瘍DB204の記憶内容の一例について説明する。腫瘍DB204は、例えば、図3に示した教師画像生成装置100のメモリ302や記録媒体305などの記憶領域により実現される。
図5は、腫瘍DB204の記憶内容の一例を示す説明図である。図5に示すように、腫瘍DB204は、画像No.と、X座標と、Y座標と、幅と、高さとのフィールドを有する。腫瘍DB204は、症例画像ごとに各フィールドに情報を設定することにより、腫瘍位置情報がレコード500-bとして記憶される。bは、任意の整数である。図5の例では、bは、1である。
画像No.のフィールドには、症例画像を識別する画像No.が設定される。X座標のフィールドには、腫瘍の陰影の、画像No.によって識別される症例画像上の位置を特定する情報として、腫瘍の陰影を囲む矩形のいずれかの頂点のX座標の値が設定される。Y座標のフィールドには、腫瘍の陰影の、画像No.によって識別される症例画像上の位置を特定する情報として、腫瘍の陰影を囲む矩形のいずれかの頂点のY座標の値が設定される。
幅のフィールドには、腫瘍の陰影の、画像No.によって識別される症例画像上の位置を特定する情報として、腫瘍の陰影を囲む矩形の幅が設定される。高さのフィールドには、腫瘍の陰影の、画像No.によって識別される症例画像上の位置を特定する情報として、腫瘍の陰影を囲む矩形の高さが設定される。
(モダリティ装置201のハードウェア構成例)
次に、図6を用いて、図2に示した医用画像処理システム200に含まれるモダリティ装置201のハードウェア構成例について説明する。
図6は、モダリティ装置201のハードウェア構成例を示すブロック図である。図6において、モダリティ装置201は、CPU601と、メモリ602と、通信I/F603と、記録媒体I/F604と、記録媒体605と、撮像装置606と、入力装置607とを有する。また、各構成部は、バス600によってそれぞれ接続される。
ここで、CPU601は、モダリティ装置201の全体の制御を司る。メモリ602は、例えば、ROM、RAMおよびフラッシュROMなどを有する。具体的には、例えば、フラッシュROMやROMが各種プログラムを記憶し、RAMがCPU601のワークエリアとして使用される。メモリ602に記憶されるプログラムは、CPU601にロードされることで、コーディングされている処理をCPU601に実行させる。
通信I/F603は、通信回線を通じてネットワーク210に接続され、ネットワーク210を介して他のコンピュータに接続される。そして、通信I/F603は、ネットワーク210と内部のインターフェースを司り、他のコンピュータからのデータの入出力を制御する。通信I/F603は、有線または無線により、他のコンピュータに直接接続され、他のコンピュータと内部のインターフェースを司り、他のコンピュータからのデータの入出力を制御する場合があってもよい。通信I/F603は、例えば、モデムやLANアダプタなどである。
記録媒体I/F604は、CPU601の制御に従って記録媒体605に対するデータのリード/ライトを制御する。記録媒体I/F604は、例えば、ディスクドライブ、SSD、USBポートなどである。記録媒体605は、記録媒体I/F604の制御で書き込まれたデータを記憶する不揮発メモリである。記録媒体605は、例えば、ディスク、半導体メモリ、USBメモリなどである。記録媒体605は、モダリティ装置201から着脱可能であってもよい。
撮像装置606は、被験者の医用画像を撮像する。撮像装置606は、例えば、CT、MRI、CR(Computed Radiography)、RI(Radioisotope)などに関する画像機器である。入力装置607は、文字、数字、各種指示などの入力のためのキーを有し、データの入力を行う。入力装置607は、キーボードやマウスなどであってもよく、また、タッチパネル式の入力パッドやテンキーなどであってもよい。
モダリティ装置201は、上述した構成部のほか、例えば、プリンタ、スキャナ、マイク、スピーカーなどを有してもよい。また、モダリティ装置201は、記録媒体I/F604や記録媒体605を複数有していてもよい。また、モダリティ装置201は、記録媒体I/F604や記録媒体605を有していなくてもよい。
(医師用端末202のハードウェア構成例)
次に、図7を用いて、図2に示した医用画像処理システム200に含まれる医師用端末202のハードウェア構成例について説明する。
図7は、医師用端末202のハードウェア構成例を示すブロック図である。図7において、医師用端末202は、CPU701と、メモリ702と、通信I/F703と、記録媒体I/F704と、記録媒体705と、ディスプレイ706と、入力装置707とを有する。また、各構成部は、バス700によってそれぞれ接続される。
ここで、CPU701は、医師用端末202の全体の制御を司る。メモリ702は、例えば、ROM、RAMおよびフラッシュROMなどを有する。具体的には、例えば、フラッシュROMやROMが各種プログラムを記憶し、RAMがCPU701のワークエリアとして使用される。メモリ702に記憶されるプログラムは、CPU701にロードされることで、コーディングされている処理をCPU701に実行させる。
通信I/F703は、通信回線を通じてネットワーク210に接続され、ネットワーク210を介して他のコンピュータに接続される。そして、通信I/F703は、ネットワーク210と内部のインターフェースを司り、他のコンピュータからのデータの入出力を制御する。通信I/F703は、例えば、モデムやLANアダプタなどである。
記録媒体I/F704は、CPU701の制御に従って記録媒体705に対するデータのリード/ライトを制御する。記録媒体I/F704は、例えば、ディスクドライブ、SSD、USBポートなどである。記録媒体705は、記録媒体I/F704の制御で書き込まれたデータを記憶する不揮発メモリである。記録媒体705は、例えば、ディスク、半導体メモリ、USBメモリなどである。記録媒体705は、医師用端末202から着脱可能であってもよい。
ディスプレイ706は、カーソル、アイコンあるいはツールボックスをはじめ、文書、画像、機能情報などのデータを表示する。ディスプレイ706は、例えば、CRT(Cathode Ray Tube)、液晶ディスプレイ、有機EL(Electroluminescence)ディスプレイなどである。入力装置707は、文字、数字、各種指示などの入力のためのキーを有し、データの入力を行う。入力装置707は、キーボードやマウスなどであってもよく、また、タッチパネル式の入力パッドやテンキーなどであってもよい。
医師用端末202は、上述した構成部のほか、例えば、プリンタ、スキャナ、マイク、スピーカーなどを有してもよい。また、医師用端末202は、記録媒体I/F704や記録媒体705を複数有していてもよい。また、医師用端末202は、記録媒体I/F704や記録媒体705を有していなくてもよい。
(教師画像生成装置100の機能的構成例)
次に、図8を用いて、教師画像生成装置100の機能的構成例について説明する。
図8は、教師画像生成装置100の機能的構成例を示すブロック図である。教師画像生成装置100は、記憶部800と、取得部801と、気腔検出部802と、マスク処理部803と、合成処理部804と、画像格納部805と、機械学習部806と、自動検出部807と、出力部808とを含む。
記憶部800は、例えば、図3に示したメモリ302や記録媒体305などの記憶領域によって実現される。以下では、記憶部800が、教師画像生成装置100に含まれる場合について説明するが、これに限らない。例えば、記憶部800が、教師画像生成装置100とは異なる装置に含まれ、記憶部800の記憶内容が教師画像生成装置100から参照可能である場合があってもよい。
取得部801~出力部808は、制御部の一例として機能する。取得部801~出力部808は、具体的には、例えば、図3に示したメモリ302や記録媒体305などの記憶領域に記憶されたプログラムをCPU301に実行させることにより、または、通信I/F303により、その機能を実現する。各機能部の処理結果は、例えば、図3に示したメモリ302や記録媒体305などの記憶領域に記憶される。
記憶部800は、各機能部の処理において参照され、または更新される各種情報を記憶する。記憶部800は、医用画像を記憶する。医用画像は、例えば、症例画像となる。医用画像は、例えば、被験者のいずれかの部位の断面を撮像した断面画像である。
記憶部800は、例えば、第1画像を記憶する。第1画像は、過去の被験者に関する医用画像である。第1画像は、例えば、第1疾患により気腔を生じた肺の断面を撮像した医用画像である。第1画像は、具体的には、CT画像である。第1疾患は、気腔を生じる疾患である。気腔は、空気を含む空間である。第1疾患は、例えば、呼吸器疾患である。第1疾患は、具体的には、肺気腫や間質性肺炎などである。記憶部800は、具体的には、第1画像を、画像DB203を用いて記憶する。
記憶部800は、例えば、第2画像を記憶する。第2画像は、第2疾患による腫瘍の陰影を示す画像である。第2画像は、例えば、第2疾患による腫瘍の陰影が映る医用画像から切り出された、第2疾患による腫瘍の陰影が映る部分画像である。第2画像は、例えば、CT画像である。第2画像は、第1画像よりも小さいことが好ましい。第2疾患は、第1疾患と合併症を形成し得る。ここで、第2疾患は、第1疾患と併発すれば、第1疾患と合併症を形成し得るものとして扱ってもよい。第2疾患は、腫瘍を生じる疾患である。第2疾患は、例えば、肺癌である。記憶部800は、例えば、肺癌以外の腫瘍の陰影が映る医用画像を、肺癌の腫瘍の陰影が映る第2画像として流用して記憶してもよい。記憶部800は、具体的には、第2画像を、画像DB203を用いて記憶する。
記憶部800は、例えば、人工の症例画像となる、第1画像と第2画像とを合成して得られた第3画像を記憶する。第3画像は、例えば、合成処理部804によって生成される。記憶部800は、具体的には、第3画像を、画像DB203を用いて記憶する。
記憶部800は、例えば、第4画像を記憶する。第4画像は、今回の被験者に関する医用画像である。今回の被験者は、例えば、医用画像に基づく医師による診断作業の対象となる被験者である。第4画像は、例えば、第1疾患により気腔を生じた肺の断面を撮像した医用画像である。第4画像は、具体的には、CT画像である。記憶部800は、具体的には、第4画像を、画像DB203を用いて記憶する。
記憶部800は、例えば、人工の症例画像となる、第4画像と第2画像とを合成した第5画像を記憶する。第5画像は、例えば、合成処理部804によって生成される。記憶部800は、具体的には、第5画像を、画像DB203を用いて記憶する。
記憶部800は、例えば、実際の症例画像となる、腫瘍の陰影が映る肺の断面を撮像した第6画像を記憶する。記憶部800は、具体的には、第6画像を、画像DB203を用いて記憶する。
記憶部800は、例えば、第1画像に対応付けて、腫瘍の陰影が映る第1画像上の位置を特定する情報を記憶する。記憶部800は、具体的には、第1画像に対応付けて、腫瘍の陰影が映る第1画像上の位置を特定する情報を、腫瘍DB204を用いて記憶する。
記憶部800は、例えば、第3画像に対応付けて、腫瘍の陰影が映る第3画像上の位置を特定する情報を記憶する。記憶部800は、具体的には、第3画像に対応付けて、腫瘍の陰影が映る第3画像上の位置を特定する情報を、腫瘍DB204を用いて記憶する。
記憶部800は、例えば、第5画像に対応付けて、腫瘍の陰影が映る第5画像上の位置を特定する情報を記憶する。記憶部800は、具体的には、第5画像に対応付けて、腫瘍の陰影が映る第5画像上の位置を特定する情報を、腫瘍DB204を用いて記憶する。
記憶部800は、例えば、第6画像に対応付けて、腫瘍の陰影が映る第6画像上の位置を特定する情報を記憶する。記憶部800は、具体的には、第6画像に対応付けて、腫瘍の陰影が映る第6画像上の位置を特定する情報を、腫瘍DB204を用いて記憶する。
記憶部800は、検出モデルを記憶する。検出モデルは、入力された被験者の肺の断面を撮像した症例画像に映る腫瘍の陰影を検出した結果を出力する。検出モデルは、例えば、症例画像に映る腫瘍の陰影を検出し、検出した腫瘍の陰影の症例画像上の位置を特定する情報を、検出した結果として出力してもよい。また、検出モデルは、症例画像に、腫瘍の陰影が映っているか否かを示す情報を、検出した結果として出力してもよい。検出モデルは、例えば、機械学習部806によって生成される。
取得部801は、各機能部の処理に用いられる各種情報を取得する。取得部801は、取得した各種情報を、記憶部800に記憶し、または、各機能部に出力する。また、取得部801は、記憶部800に記憶しておいた各種情報を、各機能部に出力してもよい。取得部801は、例えば、ユーザの操作入力に基づき、各種情報を取得する。取得部801は、例えば、教師画像生成装置100とは異なる装置から、各種情報を受信してもよい。
取得部801は、例えば、第1画像を取得する。取得部801は、具体的には、第1画像を、モダリティ装置201から受信することにより取得する。取得部801は、例えば、第2画像を取得する。取得部801は、具体的には、ユーザの操作入力に基づき、第2画像の入力を受け付けることにより、第2画像を取得する。取得部801は、具体的には、第2画像を、いずれかの医用画像から切り出すことにより取得してもよい。
取得部801は、例えば、第4画像を取得する。取得部801は、具体的には、第4画像を、モダリティ装置201から受信することにより取得する。取得部801は、例えば、実際の症例画像となる第6画像を取得する。取得部801は、具体的には、第6画像を、モダリティ装置201から受信することにより取得する。
取得部801は、例えば、第2画像を合成する第1画像上の位置の指定を受け付ける。取得部801は、例えば、第2画像を合成する第4画像上の位置の指定を受け付ける。
取得部801は、いずれかの機能部の処理を開始する開始トリガーを受け付ける。開始トリガーは、例えば、ユーザによる所定の操作入力があったことである。開始トリガーは、例えば、他のコンピュータから、所定の情報を受信したことであってもよい。所定の情報は、例えば、所定の医用画像である。
取得部801は、例えば、気腔検出部802の処理を開始する生成トリガーを受け付け、気腔検出部802に出力する。取得部801は、具体的には、第1画像や第4画像などの医用画像をモダリティ装置201から受信したことを、生成トリガーとして受け付け、気腔検出部802に出力する。取得部801は、具体的には、ユーザによる所定の操作入力に基づき、生成指示の入力を受け付けたことを、学習トリガーとして受け付け、機械学習部806に出力する。
取得部801は、例えば、機械学習部806の処理を開始する学習トリガーを受け付け、機械学習部806に出力する。取得部801は、具体的には、ユーザによる所定の操作入力に基づき、学習指示の入力を受け付けたことを、学習トリガーとして受け付け、機械学習部806に出力する。
取得部801は、例えば、自動検出部807の処理を開始する検出トリガーを受け付け、自動検出部807に出力する。取得部801は、具体的には、自動検出部807の処理対象となり得る第4画像をモダリティ装置201から受信したことを、検出トリガーとして受け付け、自動検出部807に出力する。取得部801は、具体的には、ユーザによる所定の操作入力に基づき、検出指示の入力を受け付けたことを、学習トリガーとして受け付け、機械学習部806に出力する。
気腔検出部802は、医用画像上の気腔領域を検出する。気腔検出部802は、例えば、第1画像上の気腔領域を検出する。気腔検出部802は、具体的には、第1画像の各画素のCT値に基づいて、第1画像上にある、空気に対応するCT値である画素の集まりである気腔領域を検出する。これにより、気腔検出部802は、腫瘍が発育しない領域を特定することができ、合成処理部804が、合併症を罹患中にあり得る態様で腫瘍の陰影が映る人工の症例画像を生成しやすくすることができる。
気腔検出部802は、例えば、第4画像上の気腔領域を検出する。気腔検出部802は、具体的には、第4画像の各画素のCT値に基づいて、第4画像上にある、空気に対応するCT値である画素の集まりである気腔領域を検出する。これにより、気腔検出部802は、腫瘍が発育しない領域を特定することができ、合成処理部804が、合併症を罹患中にあり得る態様で腫瘍の陰影が映る人工の症例画像を生成しやすくすることができる。
気腔検出部802は、マスク画像を生成する。気腔検出部802は、例えば、第1画像上の気腔領域を特定するマスク画像を生成する。気腔検出部802は、具体的には、第1画像と同じ大きさで、第1画像上の気腔領域を抜き出したマスク画像を生成する。以下の説明では、抜き出した気腔領域を「マスク領域」と表記する場合がある。これにより、気腔検出部802は、第1画像と第2画像とを合成する前処理を実施することができる。
気腔検出部802は、例えば、第4画像上の気腔領域を特定するマスク画像を生成する。気腔検出部802は、具体的には、第4画像と同じ大きさで、第4画像上の気腔領域を抜き出したマスク画像を生成する。以下の説明では、抜き出した気腔領域を「マスク領域」と表記する場合がある。これにより、気腔検出部802は、第4画像と第2画像とを合成する前処理を実施することができる。
マスク処理部803は、第2画像に、第1画像上の気腔領域を特定するマスク画像を重ねて、第2画像のうち、第1画像上の気腔領域と重複しない部分を抽出する。マスク処理部803は、第2画像に、第1画像上の気腔領域を特定するマスク画像を重ねて加工することにより、第2画像のうち第1画像上の気腔領域と重複しない部分を抽出してもよい。
マスク処理部803は、例えば、第1画像上に第2画像を配置した際に、腫瘍の陰影のうち、検出した気腔領域と重複する部分が非表示となるように、第2画像に、第1画像上の気腔領域を特定するマスク画像を重ねて加工する。これにより、マスク処理部803は、第1画像と第2画像とを合成する前処理を実施することができ、第1画像に第2画像を合成する際に利用可能な、マスク画像を重ねて加工した第2画像を得ることができる。
マスク処理部803は、例えば、指定された第1画像上の位置に第2画像を配置した際に、腫瘍の陰影のうち、検出した気腔領域と重複する部分が非表示となるように、第2画像に、第1画像上の気腔領域を特定するマスク画像を重ねて加工する。これにより、マスク処理部803は、第1画像と第2画像とを合成する前処理を実施することができ、指定された第1画像上の位置に第2画像を合成する際に利用可能な、マスク画像を重ねて加工した第2画像を得ることができる。
マスク処理部803は、例えば、第1画像上の検出した気腔領域の近傍に第2画像を配置した際に、腫瘍の陰影のうち、検出した気腔領域と重複する部分が非表示となるように、第2画像に、第1画像上の気腔領域を特定するマスク画像を重ねて加工する。これにより、マスク処理部803は、第1画像と第2画像とを合成する前処理を実施することができ、第1画像上の検出した気腔領域の近傍に第2画像を合成する際に利用可能な、マスク画像を重ねて加工した第2画像を得ることができる。
マスク処理部803は、例えば、腫瘍の陰影を拡大または縮小する。そして、マスク処理部803は、第1画像上に第2画像を配置した際に、拡大または縮小した腫瘍の陰影のうち、検出した気腔領域と重複する部分が非表示となるように、第2画像に、第1画像上の気腔領域を特定するマスク画像を重ねて加工する。
マスク処理部803は、具体的には、第2画像を拡大または縮小することにより、腫瘍の陰影を拡大または縮小する。そして、マスク処理部803は、第1画像上に第2画像を配置した際に、拡大または縮小した腫瘍の陰影のうち、検出した気腔領域と重複する部分が非表示となるように、第2画像に、第1画像上の気腔領域を特定するマスク画像を重ねて加工する。これにより、マスク処理部803は、第1画像と第2画像とを合成する前処理を実施することができ、腫瘍の陰影を拡大または縮小して第2画像を第1画像に合成する際に利用可能な、マスク画像を重ねて加工した第2画像を得ることができる。
マスク処理部803は、例えば、腫瘍の陰影の透過率を変更する。そして、マスク処理部803は、第1画像上に第2画像を配置した際に、透過率を変更した腫瘍の陰影のうち、検出した気腔領域と重複する部分が非表示となるように、第2画像に、第1画像上の気腔領域を特定するマスク画像を重ねて加工する。
マスク処理部803は、具体的には、第2画像の透過率を変更することにより、腫瘍の陰影の透過率を変更する。そして、マスク処理部803は、第1画像上に第2画像を配置した際に、透過率を変更した腫瘍の陰影のうち、検出した気腔領域と重複する部分が非表示となるように、第2画像に、第1画像上の気腔領域を特定するマスク画像を重ねて加工する。これにより、マスク処理部803は、第1画像と第2画像とを合成する前処理を実施することができ、腫瘍の陰影の透過率を変更して第2画像を第1画像に合成する際に利用可能な、マスク画像を重ねて加工した第2画像を得ることができる。
マスク処理部803は、第2画像に、第4画像上の気腔領域を特定するマスク画像を重ねて、第2画像のうち、第4画像上の気腔領域と重複しない部分を抽出する。マスク処理部803は、第2画像に、第4画像上の気腔領域を特定するマスク画像を重ねて加工することにより、第2画像のうち、第4画像上の気腔領域と重複しない部分を抽出してもよい。
マスク処理部803は、例えば、第4画像上に第2画像を配置した際に、腫瘍の陰影のうち、検出した第4画像上の気腔領域と重複する部分が非表示となるように、第2画像に、第4画像上の気腔領域を特定するマスク画像を重ねて加工する。これにより、マスク処理部803は、第4画像と第2画像とを合成する前処理を実施することができ、第4画像に第2画像を合成する際に利用可能な、マスク画像を重ねて加工した第2画像を得ることができる。
マスク処理部803は、例えば、指定された第4画像上の位置に第2画像を配置した際に、腫瘍の陰影のうち、検出した気腔領域と重複する部分が非表示となるように、第2画像に、第4画像上の気腔領域を特定するマスク画像を重ねて加工する。これにより、マスク処理部803は、第4画像と第2画像とを合成する前処理を実施することができ、指定された第4画像上の位置に第2画像を合成する際に利用可能な、マスク画像を重ねて加工した第2画像を得ることができる。
マスク処理部803は、例えば、第4画像上の検出した気腔領域の近傍に第2画像を配置した際に、腫瘍の陰影のうち、検出した気腔領域と重複する部分が非表示となるように、第2画像に、第4画像上の気腔領域を特定するマスク画像を重ねて加工する。これにより、マスク処理部803は、第4画像と第2画像とを合成する前処理を実施することができ、第4画像上の検出した気腔領域の近傍に第2画像を合成する際に利用可能な、マスク画像を重ねて加工した第2画像を得ることができる。
マスク処理部803は、例えば、腫瘍の陰影を拡大または縮小する。そして、マスク処理部803は、第4画像上に第2画像を配置した際に、拡大または縮小した腫瘍の陰影のうち、検出した気腔領域と重複する部分が非表示となるように、第2画像に、第4画像上の気腔領域を特定するマスク画像を重ねて加工する。
マスク処理部803は、具体的には、第2画像を拡大または縮小することにより、腫瘍の陰影を拡大または縮小する。そして、マスク処理部803は、第4画像上に第2画像を配置した際に、拡大または縮小した腫瘍の陰影のうち、検出した気腔領域と重複する部分が非表示となるように、第2画像に、第4画像上の気腔領域を特定するマスク画像を重ねて加工する。これにより、マスク処理部803は、第4画像と第2画像とを合成する前処理を実施することができ、腫瘍の陰影を拡大または縮小して第2画像を第4画像に合成する際に利用可能な、マスク画像を重ねて加工した第2画像を得ることができる。
マスク処理部803は、例えば、腫瘍の陰影の透過率を変更する。そして、マスク処理部803は、第4画像上に第2画像を配置した際に、透過率を変更した腫瘍の陰影のうち、検出した気腔領域と重複する部分が非表示となるように、第2画像に、第4画像上の気腔領域を特定するマスク画像を重ねて加工する。
マスク処理部803は、具体的には、第2画像の透過率を変更することにより、腫瘍の陰影の透過率を変更する。そして、マスク処理部803は、第4画像上に第2画像を配置した際に、透過率を変更した腫瘍の陰影のうち、検出した気腔領域と重複する部分が非表示となるように、第2画像に、第4画像上の気腔領域を特定するマスク画像を重ねて加工する。これにより、マスク処理部803は、第4画像と第2画像とを合成する前処理を実施することができ、腫瘍の陰影の透過率を変更して第2画像を第4画像に合成する際に利用可能な、マスク画像を重ねて加工した第2画像を得ることができる。
合成処理部804は、第1画像に第2画像を合成することにより、第1画像に第2画像を合成した第3画像を生成する。合成処理部804は、第1画像に第2画像を複数合成することにより、第1画像に第2画像を複数合成した第3画像を生成してもよい。
合成処理部804は、例えば、第1画像と第2画像とに基づいて、第1画像上に第2画像を配置した際に、腫瘍の陰影のうち、検出した気腔領域と重複する部分を非表示として、第3画像を生成する。合成処理部804は、具体的には、第1画像に第2画像を合成する際に利用可能な、マスク画像を重ねて加工した第2画像を、第1画像に重ねて合成することにより、第3画像を生成する。
第1画像に第2画像を合成する一例については、具体的には、図9~図11を用いて後述する。これにより、合成処理部804は、合併症を罹患中にあり得る態様で腫瘍の陰影が映る人工の症例画像を生成することができる。
合成処理部804は、指定された第1画像上の位置に第2画像を合成した第3画像を生成する。合成処理部804は、例えば、指定された第1画像上の位置に第2画像を配置した際に、腫瘍の陰影のうち、検出した気腔領域と重複する部分を非表示として、第3画像を生成する。合成処理部804は、具体的には、指定された第1画像上の位置に第2画像を合成する際に利用可能な、マスク画像を重ねて加工した第2画像を、第1画像に重ねて合成することにより、第3画像を生成する。
指定された第1画像上の位置に第2画像を合成する一例については、具体的には、図12および図14を用いて後述する。これにより、合成処理部804は、合併症を罹患中にあり得る態様で腫瘍の陰影が映る人工の症例画像を生成することができる。
合成処理部804は、第1画像上の検出した気腔領域の近傍に第2画像を合成した第3画像を生成する。合成処理部804は、例えば、第1画像上の検出した気腔領域の近傍に第2画像を配置した際に、腫瘍の陰影のうち、検出した気腔領域と重複する部分を非表示として、第3画像を生成する。合成処理部804は、具体的には、第1画像上の検出した気腔領域の近傍に第2画像を合成する際に利用可能な、マスク画像を重ねて加工した第2画像を、第1画像に重ねて合成することにより、第3画像を生成する。
第1画像上の検出した気腔領域の近傍に第2画像を合成する一例については、具体的には、図12および図13を用いて後述する。これにより、合成処理部804は、合併症を罹患中にあり得る態様で腫瘍の陰影が映る人工の症例画像を生成することができる。
合成処理部804は、腫瘍の陰影を拡大または縮小して第2画像を第1画像に合成した第3画像を生成する。合成処理部804は、例えば、第1画像上に第2画像を配置した際に、拡大または縮小した腫瘍の陰影のうち、検出した気腔領域と重複する部分を非表示として、第3画像を生成する。合成処理部804は、具体的には、腫瘍の陰影を拡大または縮小して第2画像を第1画像に合成する際に利用可能な、マスク画像を重ねて加工した第2画像を、第1画像に重ねて合成することにより、第3画像を生成する。
腫瘍の陰影を拡大または縮小して第2画像を第1画像に合成する一例については、具体的には、図12および図15を用いて後述する。これにより、合成処理部804は、合併症を罹患中にあり得る態様で腫瘍の陰影が映る人工の症例画像を生成することができる。
合成処理部804は、腫瘍の陰影の透過率を変更して第2画像を第1画像に合成した第3画像を生成する。合成処理部804は、例えば、第1画像上に第2画像を配置した際に、透過率を変更した腫瘍の陰影のうち、検出した気腔領域と重複する部分を非表示として、第3画像を生成する。合成処理部804は、具体的には、腫瘍の陰影の透過率を変更して第2画像を第1画像に合成する際に利用可能な、マスク画像を重ねて加工した第2画像を、第1画像に重ねて合成することにより、第3画像を生成する。
腫瘍の陰影の透過率を変更して第2画像を第1画像に合成する一例については、具体的には、図12および図16を用いて後述する。これにより、合成処理部804は、合併症を罹患中にあり得る態様で腫瘍の陰影が映る人工の症例画像を生成することができる。
合成処理部804は、第4画像に第2画像を合成することにより、第4画像に第2画像を合成した第5画像を生成する。合成処理部804は、第4画像に第2画像を複数合成することにより、第4画像に第2画像を複数合成した第5画像を生成してもよい。
合成処理部804は、例えば、第4画像と第2画像とに基づいて、第4画像上に第2画像を配置した際に、腫瘍の陰影のうち、検出した気腔領域と重複する部分を非表示として、第5画像を生成する。合成処理部804は、具体的には、第4画像に第2画像を合成する際に利用可能な、マスク画像を重ねて加工した第2画像を、第4画像に重ねて合成することにより、第5画像を生成する。
第4画像に第2画像を合成する一例については、具体的には、図18を用いて後述する。これにより、合成処理部804は、合併症を罹患中にあり得る態様で腫瘍の陰影が映る人工の症例画像を生成することができる。
合成処理部804は、指定された第4画像上の位置に第2画像を合成した第5画像を生成する。合成処理部804は、例えば、指定された第4画像上の位置に第2画像を配置した際に、腫瘍の陰影のうち、検出した気腔領域と重複する部分を非表示として、第5画像を生成する。合成処理部804は、具体的には、指定された第4画像上の位置に第2画像を合成する際に利用可能な、マスク画像を重ねて加工した第2画像を、第4画像に重ねて合成することにより、第5画像を生成する。これにより、合成処理部804は、合併症を罹患中にあり得る態様で腫瘍の陰影が映る人工の症例画像を生成することができる。
合成処理部804は、第4画像上の検出した気腔領域の近傍に第2画像を合成した第5画像を生成する。合成処理部804は、例えば、第4画像上の検出した気腔領域の近傍に第2画像を配置した際に、腫瘍の陰影のうち、検出した気腔領域と重複する部分を非表示として、第5画像を生成する。合成処理部804は、具体的には、第4画像上の検出した気腔領域の近傍に第2画像を合成する際に利用可能な、マスク画像を重ねて加工した第2画像を、第4画像に重ねて合成することにより、第5画像を生成する。これにより、合成処理部804は、合併症を罹患中にあり得る態様で腫瘍の陰影が映る人工の症例画像を生成することができる。
合成処理部804は、腫瘍の陰影を拡大または縮小して第2画像を第4画像に合成した第5画像を生成する。合成処理部804は、例えば、第4画像上に第2画像を配置した際に、拡大または縮小した腫瘍の陰影のうち、検出した気腔領域と重複する部分を非表示として、第5画像を生成する。合成処理部804は、具体的には、腫瘍の陰影を拡大または縮小して第2画像を第4画像に合成する際に利用可能な、マスク画像を重ねて加工した第2画像を、第4画像に重ねて合成することにより、第5画像を生成する。これにより、合成処理部804は、合併症を罹患中にあり得る態様で腫瘍の陰影が映る人工の症例画像を生成することができる。
合成処理部804は、腫瘍の陰影の透過率を変更して第2画像を第4画像に合成した第5画像を生成する。合成処理部804は、例えば、第4画像上に第2画像を配置した際に、透過率を変更した腫瘍の陰影のうち、検出した気腔領域と重複する部分を非表示として、第5画像を生成する。合成処理部804は、具体的には、腫瘍の陰影の透過率を変更して第2画像を第4画像に合成する際に利用可能な、マスク画像を重ねて加工した第2画像を、第4画像に重ねて合成することにより、第5画像を生成する。これにより、合成処理部804は、合併症を罹患中にあり得る態様で腫瘍の陰影が映る人工の症例画像を生成することができる。
画像格納部805は、生成した第3画像を記憶部800に格納する。画像格納部805は、例えば、第3画像を、腫瘍の陰影の第3画像上の位置を特定する情報と対応付けて記憶部800に格納する。第3画像は、例えば、学習データを形成する入力データに対応する。腫瘍の陰影の位置を特定する情報は、例えば、学習データを形成する正解データに対応する。画像格納部805は、具体的には、第3画像を、腫瘍の陰影の第3画像上の位置を特定する情報と対応付けて、腫瘍DB204に格納する。これにより、画像格納部805は、検出モデルの生成に利用可能に、学習データを格納しておくことができる。
画像格納部805は、例えば、第3画像を、腫瘍の陰影が映っていることを示す情報と対応付けて記憶部800に格納する。画像格納部805は、具体的には、第3画像を、腫瘍の陰影が映っていることを示す情報と対応付けて、腫瘍DB204に格納する。腫瘍の陰影が映っていることを示す情報は、例えば、学習データを形成する正解データに対応する。これにより、画像格納部805は、検出モデルの生成に利用可能に、学習データを格納しておくことができる。
機械学習部806は、人工の症例画像と、実際の症例画像との少なくとも人工の症例画像に基づいて、検出モデルを生成する。機械学習部806は、例えば、人工の症例画像となる第3画像に基づいて、検出モデルを生成する。これにより、機械学習部806は、検出モデルを利用し、医用画像に映る腫瘍の陰影を検出可能にすることができる。
機械学習部806は、例えば、人工の症例画像となる第3画像と、人工の症例画像となる第5画像とに基づいて、検出モデルを生成する。これにより、機械学習部806は、被験者に適合する検出モデルを生成することができる。機械学習部806は、例えば、当該被験者に関する医用画像に映る腫瘍の陰影を検出しやすい検出モデルを生成することができる。
機械学習部806は、人工の症例画像を1以上含み、かつ、実際の症例画像を1以上含む画像グループを複数生成し、生成した画像グループごとに、当該画像グループに基づいて、検出モデルを生成し、検出モデルの検出精度を評価してもよい。
機械学習部806は、例えば、人工の症例画像となる第3画像を1以上含み、かつ、実際の症例画像となる第6画像を1以上含む画像グループを複数生成し、生成した画像グループごとに、当該画像グループに基づいて、検出モデルを生成する。そして、機械学習部806は、画像グループごとに生成した検出モデルについて、入力された被験者の肺の断面を撮像した画像に映る腫瘍の陰影を検出する検出精度を評価する。
機械学習部806は、具体的には、画像グループを複数生成し、生成した画像グループごとに、当該画像グループに基づいて、検出モデルを生成する。そして、機械学習部806は、画像グループごとに生成した検出モデルについて、検出精度の評価値を算出する。検出モデルの検出精度を評価する一例については、具体的には、図12および図17を用いて後述する。これにより、機械学習部806は、複数の検出モデルのそれぞれの検出モデルを評価し、いずれの検出モデルが好ましいかを判断可能にすることができる。
自動検出部807は、検出モデルを利用し、医用画像に映る腫瘍の陰影を検出する。自動検出部807は、例えば、検出モデルに第4画像を入力することにより、検出モデルが出力する第4画像に映る腫瘍の陰影を検出した結果を取得する。これにより、自動検出部807は、医用画像に映る腫瘍の陰影を、ユーザが把握可能にすることができる。
自動検出部807は、検出精度を評価した結果に基づいて、いずれかの検出モデルを選択し、選択した検出モデルを利用し、医用画像に映る腫瘍の陰影を検出してもよい。自動検出部807は、例えば、評価値が最大の検出モデルを選択し、選択した検出モデルに第4画像を入力することにより、選択した検出モデルが出力する第4画像に映る腫瘍の陰影を検出した結果を取得する。これにより、自動検出部807は、医用画像に映る腫瘍の陰影を、ユーザが把握可能にすることができる。
出力部808は、いずれかの機能部の処理結果を出力する。出力形式は、例えば、ディスプレイへの表示、プリンタへの印刷出力、通信I/F303による外部装置への送信、または、メモリ302や記録媒体305などの記憶領域への記憶である。これにより、出力部808は、いずれかの機能部の処理結果をユーザに通知可能にし、教師画像生成装置100の利便性の向上を図ることができる。
出力部808は、生成した第3画像を出力する。出力部808は、例えば、第3画像を、腫瘍の陰影の第3画像上の位置を特定する情報と対応付けて、他のコンピュータに送信する。また、出力部808は、例えば、第3画像を、腫瘍の陰影が映っていることを示す情報と対応付けて、他のコンピュータに送信してもよい。これにより、出力部808は、他のコンピュータで、検出モデルの検出精度を向上可能にすることができる。
出力部808は、生成した第5画像を出力する。出力部808は、例えば、第5画像を、腫瘍の陰影の第5画像上の位置を特定する情報と対応付けて、他のコンピュータに送信する。また、出力部808は、例えば、第5画像を、腫瘍の陰影が映っていることを示す情報と対応付けて、他のコンピュータに送信してもよい。これにより、出力部808は、他のコンピュータで、検出モデルの検出精度を向上可能にすることができる。
出力部808は、生成した検出モデルを出力する。出力部808は、例えば、検出モデルを、他のコンピュータに送信する。これにより、出力部808は、他のコンピュータで、検出モデルを利用可能にすることができ、医用画像に映る腫瘍の陰影を検出可能にすることができる。
出力部808は、検出精度を評価した結果に基づいて、いずれかの検出モデルを選択し、選択した検出モデルを出力してもよい。出力部808は、例えば、評価値が最大の検出モデルを選択し、選択した検出モデルを、他のコンピュータに送信する。これにより、出力部808は、他のコンピュータで、検出モデルを利用可能にすることができ、医用画像に映る腫瘍の陰影を検出可能にすることができる。
ここでは、気腔検出部802が、マスク画像を生成し、マスク処理部803が、マスク画像を重ねて第2画像を加工し、合成処理部804が、第1画像や第4画像に、加工した第2画像を合成する場合について説明したが、これに限らない。合成処理部804が、第3画像や第5画像を生成可能であれば、気腔検出部802が、マスク画像を生成せず、マスク処理部803が、第2画像を加工しない場合があってもよい。例えば、合成処理部804が、第2画像に基づき、第1画像上の腫瘍の陰影を合成する合成先の領域が透過するように、第1画像を加工し、第2画像に、加工した第1画像を重ねて合成することにより、第3画像を生成する場合があってもよい。
ここでは、教師画像生成装置100が、画像格納部805~自動検出部807を有し、検出モデルを生成し、検出モデルを利用して医用画像に映る腫瘍の陰影を検出する場合について説明したが、これに限らない。例えば、教師画像生成装置100が、画像格納部805~自動検出部807を有さない場合があってもよい。この場合、教師画像生成装置100が、合成処理部804により生成した第3画像などを、画像格納部805~自動検出部807を有する他のコンピュータに送信し、検出モデルを生成させ、検出モデルを利用して医用画像に映る腫瘍の陰影を検出させる。
教師画像生成装置100が、検出モデルを生成せず、検出モデルを利用して医用画像に映る腫瘍の陰影を検出しない場合については、図9~図11を用いて後述する実施例1に対応する。一方で、教師画像生成装置100が、検出モデルを生成し、検出モデルを利用して医用画像に映る腫瘍の陰影を検出する場合については、図12~図17を用いて後述する実施例2、および、図18を用いて後述する実施例3に対応する。
(医用画像処理システム200の実施例1)
次に、図9~図11を用いて、医用画像処理システム200の実施例1について説明する。実施例1は、教師画像生成装置100が、検出モデルを生成せず、検出モデルを利用して医用画像に映る腫瘍の陰影を検出しない場合に対応する。まず、図9を用いて、実施例1における各機能部の動作の流れの一例について説明する。
図9は、実施例1における各機能部の動作の流れの一例を示す説明図である。図9において、呼吸器疾患の肺画像群901は、気腔検出部802と合成処理部804とに入力される。肺癌の腫瘍画像群902は、マスク処理部803に入力される。
気腔検出部802は、肺画像群901のそれぞれの肺画像上の気腔領域を検出する。気腔検出部802は、それぞれの肺画像について、当該肺画像上の気腔領域をマスク領域として示す、当該肺画像に対応するマスク画像を生成する。気腔検出部802は、それぞれの肺画像に対応するマスク画像を集めたマスク画像群910を、マスク処理部803に出力する。
マスク処理部803は、マスク画像群910のマスク画像と、腫瘍画像群902の腫瘍画像との組み合わせごとに、当該腫瘍画像に当該マスク画像を重ねて合成し、当該腫瘍画像のうち当該マスク画像のマスク領域と重複しない部分にある画素の画素値を抽出する。マスク処理部803は、例えば、腫瘍画像とマスク画像のいずれかの位置とが重なるように、腫瘍画像にマスク画像を重ねて合成することにより、当該腫瘍画像のうち当該マスク画像のマスク領域と重複しない部分にある画素の画素値を抽出する。
合成処理部804は、それぞれの肺画像について、当該肺画像に対応するマスク画像を合成した腫瘍画像を重ねて合成し、腫瘍画像の画素値を、当該肺画像の画素値に合成し、人工の合併肺癌画像を生成する。合成処理部804は、生成した合併肺癌画像を集めた合併肺癌画像群920を出力する。次に、図10を用いて、肺気腫の肺画像に肺癌の腫瘍画像を合成する一例について説明する。
図10は、肺気腫の肺画像に肺癌の腫瘍画像を合成する一例を示す説明図である。図10において、気腔検出部802は、肺気腫の肺画像1001上の気腔領域を検出する。ここで、肺画像1001上で同じ黒色の部分でも、CT値は異なる場合がある。気腔検出部802は、肺画像1001と同じ大きさで、検出した肺画像1001上の気腔領域を抜き出したマスク画像1002を生成する。マスク処理部803は、腫瘍画像1003にマスク画像1002を重ねて合成する。合成処理部804は、肺画像1001上に、マスク画像1002を合成した腫瘍画像1003を重ねて合成し、合併肺癌画像1010を生成する。
これにより、教師画像生成装置100は、合併肺癌の腫瘍が、肺気腫による蜂巣肺の気腔内には発育せず、気腔の壁に沿って発育する傾向があることを反映した、合併肺癌画像1010を得ることができる。また、教師画像生成装置100は、合併肺癌画像1010を、他のコンピュータに出力することができる。このため、教師画像生成装置100は、他のコンピュータで、検出モデルの検出精度を向上可能にすることができ、医用画像に映る腫瘍の陰影を精度よく検出可能な検出モデルを生成可能にすることができる。
結果として、教師画像生成装置100は、医師が用意可能な、実際の合併肺癌画像の数が比較的少なくても、人工の合併肺癌画像を利用して、他のコンピュータで、医用画像に映る腫瘍の陰影を精度よく検出可能な検出モデルを生成可能にすることができる。そして、教師画像生成装置100は、検出モデルにより医用画像に映る腫瘍の陰影を自動で検出可能であるため、医師の作業負担の低減化を図ることができ、医師が腫瘍の陰影の見落とすことを防止し、被験者の生存率の向上を図ることができる。
ここで、教師画像生成装置100は、合併肺癌画像1010に合併肺癌の状況を反映するため、肺画像1001に合成する肺癌の腫瘍に関する各種パラメータを、自動または手動で調整可能であってもよい。パラメータは、例えば、腫瘍の位置、大きさ、配合率、数などである。例えば、教師画像生成装置100は、図13および図14を用いて後述する合成例1、図15を用いて後述する合成例2、または、図16を用いて後述する合成例3のように、合併肺癌画像1010を生成する。次に、図11を用いて、間質性肺炎の肺画像に肺癌の腫瘍画像を合成する一例について説明する。
図11は、間質性肺炎の肺画像に肺癌の腫瘍画像を合成する一例を示す説明図である。図11において、気腔検出部802は、間質性肺炎の肺画像1101上の気腔領域を検出する。ここで、肺画像1101上で同じ黒色の部分でも、CT値は異なる場合がある。気腔検出部802は、肺画像1101と同じ大きさで、検出した肺画像1101上の気腔領域を抜き出したマスク画像1102を生成する。マスク処理部803は、腫瘍画像1103にマスク画像1102を重ねて合成する。合成処理部804は、肺画像1101上に、マスク画像1102を合成した腫瘍画像1103を重ねて合成し、合併肺癌画像1110を生成する。
これにより、教師画像生成装置100は、合併肺癌の腫瘍が、間質性肺炎による蜂巣肺の気腔内には発育せず、気腔の壁に沿って発育する傾向があることを反映した、合併肺癌画像1110を得ることができる。教師画像生成装置100は、合併肺癌画像1110を、他のコンピュータに出力することができる。このため、教師画像生成装置100は、他のコンピュータで、検出モデルの検出精度を向上可能にすることができ、医用画像に映る腫瘍の陰影を精度よく検出可能にすることができる。
結果として、教師画像生成装置100は、医師が用意可能な、実際の合併肺癌画像の数が比較的少なくても、人工の合併肺癌画像を利用して、他のコンピュータで、医用画像に映る腫瘍の陰影を精度よく検出可能な検出モデルを生成可能にすることができる。そして、教師画像生成装置100は、検出モデルにより医用画像に映る腫瘍の陰影を自動で検出可能であるため、医師の作業負担の低減化を図ることができ、医師が腫瘍の陰影の見落とすことを防止し、被験者の生存率の向上を図ることができる。
ここで、教師画像生成装置100は、合併肺癌画像1110に合併肺癌の状況を反映するため、肺画像1101に合成する肺癌の腫瘍に関する各種パラメータを、自動または手動で調整可能であってもよい。パラメータは、例えば、腫瘍の位置、大きさ、配合率、数などである。例えば、教師画像生成装置100は、図13および図14を用いて後述する合成例1、図15を用いて後述する合成例2、または、図16を用いて後述する合成例3のように、合併肺癌画像1110を生成する。
(医用画像処理システム200の実施例2)
次に、図12~図17を用いて、医用画像処理システム200の実施例2について説明する。実施例2は、教師画像生成装置100が、検出モデルを生成し、検出モデルを利用して医用画像に映る腫瘍の陰影を検出する場合に対応する。まず、図12を用いて、実施例2における各機能部の動作の流れの一例について説明する。
図12は、実施例2における各機能部の動作の流れの一例を示す説明図である。図12において、呼吸器疾患の肺画像群1201は、気腔検出部802と合成処理部804とに入力される。肺癌の腫瘍画像群1202は、マスク処理部803に入力される。実際の合併肺癌画像群1203は、画像格納部805に入力される。検出対象の症例画像1204は、自動検出部807に入力される。
気腔検出部802は、肺画像群1201のそれぞれの肺画像上の気腔領域を検出する。気腔検出部802は、それぞれの肺画像について、当該肺画像上の気腔領域をマスク領域として示す、当該肺画像に対応するマスク画像を生成する。気腔検出部802は、それぞれの肺画像に対応するマスク画像を集めたマスク画像群1210を、マスク処理部803に出力する。
マスク処理部803は、マスク画像群1210のマスク画像と腫瘍画像群1202の腫瘍画像との組み合わせごとに、当該腫瘍画像に当該マスク画像を重ねて合成し、当該腫瘍画像のうち当該マスク画像のマスク領域と重複しない部分にある画素の画素値を抽出する。マスク処理部803は、例えば、腫瘍画像とマスク画像のいずれかの位置とが重なるように、腫瘍画像にマスク画像を重ねて合成することにより、当該腫瘍画像のうち当該マスク画像のマスク領域と重複しない部分にある画素の画素値を抽出する。
合成処理部804は、それぞれの肺画像について、当該肺画像に対応するマスク画像を合成した腫瘍画像を重ねて合成し、腫瘍画像の画素値を、当該肺画像の画素値に合成し、人工の合併肺癌画像を生成する。合成処理部804は、生成した合併肺癌画像を集めた人工の合併肺癌画像群1220を、画像格納部805に出力する。マスク処理部803および合成処理部804は、具体的には、図13および図14を用いて後述する合成例1、図15を用いて後述する合成例2、または、図16を用いて後述する合成例3のように、人工の合併肺癌画像を生成する。
画像格納部805は、実際の合併肺癌画像群1203の実際の合併肺癌画像と、人工の合併肺癌画像群1220の人工の合併肺癌画像とを組み合わせた画像グループを1以上生成し、機械学習部806に出力する。機械学習部806は、受信した画像グループごとに、当該画像グループに基づいて、医用画像に映る腫瘍の陰影を検出する検出モデルを生成する。機械学習部806は、画像グループごとに、当該画像グループに基づいて、当該画像グループに対応する検出モデルの検出精度を評価した評価値を算出する。機械学習部806は、評価値が最大である検出モデルを、自動検出部807に出力する。
自動検出部807は、受信した検出モデルを利用して、検出対象の症例画像1204に映る腫瘍の陰影を検出し、検出した腫瘍の陰影の位置を特定する腫瘍位置情報1230を出力する。次に、図13および図14を用いて、教師画像生成装置100が、肺画像に腫瘍画像を重ねて合成する合成例1について説明する。合成例1は、教師画像生成装置100が、腫瘍画像を合成する肺画像上の位置の指定を受け付ける場合に対応する。
図13および図14は、肺画像に腫瘍画像を重ねて合成する合成例1を示す説明図である。図13において、教師画像生成装置100は、区画分けした肺画像1300をディスプレイに表示する。教師画像生成装置100は、ユーザの操作入力に基づき、肺画像1300上で、腫瘍画像を合成する領域1302の指定を受け付ける。教師画像生成装置100は、指定の領域1302のうち、マスク領域1301が存在する区画を除いた残余の領域を、合成領域1303として特定する。図13の例では、合成領域1303を、右下がりの斜め線によるハッチで示す。
教師画像生成装置100は、合成領域1303のいずれかの区画を、腫瘍画像を合成する位置に決定する。教師画像生成装置100は、肺画像1300上の決定した位置に、腫瘍画像を合成する。これにより、教師画像生成装置100は、ユーザの所望の位置に、腫瘍画像を合成し、ユーザの意図を反映した人工の合併肺癌画像を生成することができる。次に、図14の説明に移行する。
図14において、教師画像生成装置100は、区画分けした肺画像1400をディスプレイに表示する。教師画像生成装置100は、ユーザの操作入力に基づき、肺画像1400上で、腫瘍画像を合成する領域1402の指定を受け付ける。教師画像生成装置100は、指定の領域1402のうち、マスク領域1401が存在する区画を除いた残余の領域を、合成領域1403として特定する。図14の例では、合成領域1403を、右下がりの斜め線によるハッチで示す。
教師画像生成装置100は、合成領域1403のそれぞれの区画を、マスク領域1401に近い区画ほど、選択される確率が高いように設定した上で、合成領域のいずれかの区画を選択し、腫瘍画像を合成する位置に決定する。図14の例では、選択される確率が比較的高い区画を、クロスのハッチで示し、選択される確率が比較的低い区画を、右下がりの斜め線によるハッチで示す。教師画像生成装置100は、肺画像1400上の決定した位置に、腫瘍画像を合成する。
これにより、教師画像生成装置100は、ユーザの所望の位置に、腫瘍画像を合成し、ユーザの意図を反映した人工の合併肺癌画像を生成することができる。また、教師画像生成装置100は、腫瘍が発育しやすいマスク領域1401に近い位置に、腫瘍画像を合成し、実態に合った合併肺癌画像を生成することができ、検出モデルの検出精度を向上させやすくすることができる。次に、図15を用いて、教師画像生成装置100が、肺画像に腫瘍画像を重ねて合成する合成例2について説明する。合成例2は、教師画像生成装置100が、腫瘍画像を拡大または縮小してから肺画像に合成する場合に対応する。
図15は、肺画像に腫瘍画像を重ねて合成する合成例2を示す説明図である。図15において、教師画像生成装置100は、図13と同様に、肺画像1500上の合成領域を特定し、合成領域のいずれかの区画を、腫瘍画像を合成する位置に決定する。教師画像生成装置100は、腫瘍画像から切り出した腫瘍抽出画像1510を、複数の倍率でリスケールする。倍率は、例えば、0.8のn乗倍である。nは、例えば、-10~10の整数である。教師画像生成装置100は、肺画像1500上の決定した位置に、リスケールした腫瘍抽出画像それぞれを合成した、人工の合併肺癌画像を生成する。
教師画像生成装置100は、例えば、肺画像1500上の決定した位置に、リスケールした腫瘍抽出画像1511を配置した状態1520において、腫瘍抽出画像1511のうち、合成領域からはみ出た部分を特定する。そして、教師画像生成装置100は、肺画像1500上の決定した位置に、はみ出た部分を削除した状態の腫瘍抽出画像1511を合成した、人工の合併肺癌画像1530を生成する。
これにより、教師画像生成装置100は、肺癌のステージにより腫瘍の大きさが異なる場合があることを反映した、人工の合併肺癌画像を生成することができ、検出モデルの検出精度を向上させやすくすることができる。次に、図16を用いて、教師画像生成装置100が、肺画像に腫瘍画像を重ねて合成する合成例3について説明する。合成例3は、教師画像生成装置100が、透過率を変更して腫瘍画像を肺画像に合成する場合に対応する。
図16は、肺画像に腫瘍画像を重ねて合成する合成例3を示す説明図である。図16において、教師画像生成装置100は、図13と同様に、肺画像1600上の合成領域を特定し、合成領域のいずれかの区画を、腫瘍画像を合成する位置に決定する。教師画像生成装置100は、腫瘍画像から切り出した腫瘍抽出画像を、複数の透過率に設定する。この際、教師画像生成装置100は、例えば、アルファブレンディングを利用する。
透過率は、例えば、0%~90%の10%刻みである。図16の例では、説明の便宜上、0%~90%のそれぞれの透過率に設定した腫瘍抽出画像を、黒い背景色である領域1610に重ねて例示している。例えば、透過率を50%に設定した腫瘍抽出画像1611や透過率を0%に設定した腫瘍抽出画像1612などを例示している。
教師画像生成装置100は、肺画像1600上の決定した位置に、透過率を設定した腫瘍抽出画像それぞれを合成した、人工の合併肺癌画像を生成する。教師画像生成装置100は、例えば、肺画像1600上の決定した位置に、透過率を50%に設定した腫瘍抽出画像1611を合成した、人工の合併肺癌画像1620を生成する。また、教師画像生成装置100は、例えば、肺画像1600上の決定した位置に、透過率を0%に設定した腫瘍抽出画像1612を合成した、人工の合併肺癌画像1630を生成する。
これにより、教師画像生成装置100は、肺癌のステージにより腫瘍の浸潤度に応じた映り具合が異なる場合があることを反映した、人工の合併肺癌画像を生成することができ、検出モデルの検出精度を向上させやすくすることができる。次に、図17を用いて、教師画像生成装置100が、画像グループごとに生成された検出モデルの検出精度を評価する一例について説明する。
図17は、画像グループごとに生成された検出モデルの検出精度を評価する一例を示す説明図である。図17において、複数の画像グループのそれぞれの画像グループに基づいて検出モデルを生成し、生成した検出モデルの検出精度を評価した評価値を算出する。複数の画像グループは、例えば、それぞれ、100枚ごとの異なる枚数の人工の合併肺癌画像を含み、同じ枚数の実際の合併肺癌画像を含む。
教師画像生成装置100は、例えば、人工の合併肺癌画像を含まず、実際の合併肺癌画像を1000枚含む画像グループ1701について検出モデルを生成し、生成した検出モデルの検出精度を評価した評価値を算出する。また、教師画像生成装置100は、例えば、人工の合併肺癌画像を2000枚含み、かつ、実際の合併肺癌画像を1000枚含む画像グループ1702について検出モデルを生成し、生成した検出モデルの検出精度を評価した評価値を算出する。
そして、教師画像生成装置100は、グラフ1700上で、実際の合併肺癌画像の枚数に対する人工の合併肺癌画像の枚数の割合の変化に応じた、評価値の変化を示す特性曲線1710を特定し、評価値が最大である検出モデルを特定する。教師画像生成装置100は、特定した検出モデルを出力する。また、教師画像生成装置100は、評価値が最大となる、実際の合併肺癌画像の枚数に対する人工の合併肺癌画像の枚数の割合を記憶し、次回の検出モデルを生成する際に参照し、次回の検出モデルを生成する際に用いる画像グループを生成してもよい。これにより、教師画像生成装置100は、検出モデルの検出精度の向上を図ることができる。
ここでは、教師画像生成装置100が、複数の画像グループを用意してから、それぞれの画像グループに基づいて検出モデルを生成し、生成した検出モデルの検出精度を評価した評価値を算出する場合について説明したが、これに限らない。例えば、教師画像生成装置100が、人工の合併肺癌画像を100枚生成する都度、生成済みの人工の合併肺癌画像を含む画像グループを生成し、画像グループに基づいて生成した検出モデルの検出精度を評価した評価値を算出する場合があってもよい。そして、教師画像生成装置100は、算出した評価値に基づいて、いずれかのタイミングで人工の合併肺癌画像を生成することを停止し、いずれかの検出モデルを出力するようにしてもよい。
教師画像生成装置100は、例えば、評価値が閾値を超えたタイミングで、人工の合併肺癌画像を生成することを停止し、評価値が閾値を超えた検出モデルを出力する。これにより、教師画像生成装置100は、処理量の低減化を図ることができる。教師画像生成装置100は、例えば、図17のように予め2000枚の人工の合併肺癌画像を用意しなくても、検出モデルを出力することができる。
教師画像生成装置100は、例えば、今回生成した検出モデルの評価値が、直前に生成した検出モデルの評価値より小さくなったタイミングで、人工の合併肺癌画像を生成することを停止し、直前に生成した検出モデルを出力する。これにより、教師画像生成装置100は、処理量の低減化を図ることができる。教師画像生成装置100は、例えば、図17のように予め2000枚の人工の合併肺癌画像を用意しなくても、検出モデルを出力することができる。
(医用画像処理システム200の実施例3)
次に、図18を用いて、医用画像処理システム200の実施例3について説明する。実施例3は、教師画像生成装置100が、検出モデルを生成する際に、検出対象の症例画像を利用する場合に対応する。まず、図18を用いて、実施例3における各機能部の動作の流れの一例について説明する。
図18は、実施例3における各機能部の動作の流れの一例を示す説明図である。図18において、呼吸器疾患の肺画像群1801は、気腔検出部802と合成処理部804とに入力される。肺癌の腫瘍画像群1802は、マスク処理部803に入力される。実際の合併肺癌画像群1803は、画像格納部805に入力される。検出対象の症例画像1804は、気腔検出部802と合成処理部804と自動検出部807とに入力される。
気腔検出部802は、肺画像群1801のそれぞれの肺画像上の気腔領域を検出する。気腔検出部802は、それぞれの肺画像について、当該肺画像上の気腔領域をマスク領域として示す、当該肺画像に対応するマスク画像を生成する。
気腔検出部802は、症例画像1804上の気腔領域を検出する。気腔検出部802は、症例画像1804について、当該症例画像1804上の気腔領域をマスク領域として示す、当該症例画像1804に対応するマスク画像を生成する。気腔検出部802は、それぞれの肺画像に対応するマスク画像、および、症例画像1804に対応するマスク画像を集めたマスク画像群1810を、マスク処理部803に出力する。
マスク処理部803は、マスク画像群1810のマスク画像と腫瘍画像群1802の腫瘍画像との組み合わせごとに、当該腫瘍画像に当該マスク画像を重ねて合成し、当該腫瘍画像のうち当該マスク画像のマスク領域と重複しない部分にある画素の画素値を抽出する。マスク処理部803は、例えば、腫瘍画像とマスク画像のいずれかの位置とが重なるように、腫瘍画像にマスク画像を重ねて合成することにより、当該腫瘍画像のうち当該マスク画像のマスク領域と重複しない部分にある画素の画素値を抽出する。
合成処理部804は、それぞれの肺画像について、当該肺画像に対応するマスク画像を合成した腫瘍画像を重ねて合成し、腫瘍画像の画素値を、当該肺画像の画素値に合成し、人工の合併肺癌画像を生成する。合成処理部804は、生成した合併肺癌画像を集めた人工の合併肺癌画像群1820を、画像格納部805に出力する。マスク処理部803および合成処理部804は、合成例1、合成例2、または、合成例3のように、人工の合併肺癌画像を生成する。
マスク処理部803は、マスク画像群1810のマスク画像と腫瘍画像群1802の腫瘍画像との組み合わせごとに、当該腫瘍画像に当該マスク画像を重ねて合成し、当該腫瘍画像のうち当該マスク画像のマスク領域と重複しない部分にある画素の画素値を抽出する。マスク処理部803は、例えば、腫瘍画像とマスク画像のいずれかの位置とが重なるように、腫瘍画像にマスク画像を重ねて合成することにより、当該腫瘍画像のうち当該マスク画像のマスク領域と重複しない部分にある画素の画素値を抽出する。
合成処理部804は、それぞれの症例画像1804について、当該症例画像1804に対応するマスク画像を合成した腫瘍画像を重ねて合成し、腫瘍画像の画素値を、当該症例画像1804の画素値に合成し、人工の合併肺癌画像を生成する。合成処理部804は、生成した合併肺癌画像を集めた人工の合併肺癌画像群1820を、画像格納部805に出力する。
画像格納部805は、実際の合併肺癌画像群1803の実際の合併肺癌画像と、人工の合併肺癌画像群1820の人工の合併肺癌画像とを組み合わせた画像グループを1以上生成し、機械学習部806に出力する。機械学習部806は、受信した画像グループごとに、当該画像グループに基づいて、医用画像に映る腫瘍の陰影を検出する検出モデルを生成する。機械学習部806は、画像グループごとに、当該画像グループに基づいて、当該画像グループに対応する検出モデルの検出精度を評価した評価値を算出する。機械学習部806は、評価値が最大である検出モデルを、自動検出部807に出力する。
自動検出部807は、受信した検出モデルを利用して、検出対象の症例画像1804に映る腫瘍の陰影を検出し、検出した腫瘍の陰影の位置を特定する腫瘍位置情報1830を出力する。これにより、教師画像生成装置100は、いずれかの被験者の症例画像1804に基づき、当該被験者の今後の症例画像に映る腫瘍の陰影を検出することに適した検出モデルを得ることができる。このため、教師画像生成装置100は、症例画像1804、または、同じ被験者の今後の症例画像に映る腫瘍の陰影を精度よく検出可能にすることができる。
(合成例1における合成処理手順)
次に、図19を用いて、教師画像生成装置100が実行する、合成例1における合成処理手順の一例について説明する。合成処理は、例えば、図3に示したCPU301と、メモリ302や記録媒体305などの記憶領域と、通信I/F303とによって実現される。
図19は、合成例1における合成処理手順の一例を示すフローチャートである。図19において、教師画像生成装置100は、背景画像となる呼吸器疾患画像を表示する(ステップS1901)。そして、教師画像生成装置100は、ユーザの操作入力に基づき、腫瘍の陰影を示す腫瘍画像を合成する領域の指定を受け付ける(ステップS1902)。
次に、教師画像生成装置100は、指定の領域から気腔部分に対応するマスク領域を除外した合成領域を生成する(ステップS1903)。そして、教師画像生成装置100は、合成領域に基づいて、腫瘍の陰影を示す腫瘍画像を合成する位置を決定する(ステップS1904)。
次に、教師画像生成装置100は、決定した位置に基づいて、腫瘍画像からマスク領域以外の画素値を抽出し、呼吸器疾患画像に合成することにより、人工症例画像を取得する(ステップS1905)。この際、教師画像生成装置100は、腫瘍画像のうち、合成領域からはみ出した部分は除去する。そして、教師画像生成装置100は、合成処理を終了する。これにより、教師画像生成装置100は、合併症にあり得る態様で腫瘍の陰影が映る人工症例画像を取得することができ、検出モデルの検出精度を向上させやすくすることができる。
(合成例2における合成処理手順)
次に、図20を用いて、教師画像生成装置100が実行する、合成例2における合成処理手順の一例について説明する。合成処理は、例えば、図3に示したCPU301と、メモリ302や記録媒体305などの記憶領域と、通信I/F303とによって実現される。
図20は、合成例2における合成処理手順の一例を示すフローチャートである。図20において、教師画像生成装置100は、背景画像となる呼吸器疾患画像を表示する(ステップS2001)。そして、教師画像生成装置100は、ユーザの操作入力に基づき、腫瘍の陰影を示す腫瘍画像を合成する領域の指定を受け付ける(ステップS2002)。
次に、教師画像生成装置100は、指定の領域から気腔部分に対応するマスク領域を除外した合成領域を生成する(ステップS2003)。そして、教師画像生成装置100は、合成領域に基づいて、腫瘍の陰影を示す腫瘍画像を合成する位置を決定する(ステップS2004)。
次に、教師画像生成装置100は、腫瘍画像を複数の比率でリスケールし、サイズの異なるn枚の腫瘍画像を生成する(ステップS2005)。そして、教師画像生成装置100は、i枚目の腫瘍画像を選択する(ステップS2006)。iの初期値は、1である。
次に、教師画像生成装置100は、決定した位置に基づいて、i枚目の腫瘍画像からマスク領域以外の画素値を抽出し、呼吸器疾患画像に合成することにより、人工症例画像を取得する(ステップS2007)。そして、教師画像生成装置100は、iをインクリメントする(ステップS2008)。
次に、教師画像生成装置100は、i>nであるか否かを判定する(ステップS2009)。ここで、i>nではない場合(ステップS2009:No)、教師画像生成装置100は、ステップS2006の処理に戻る。
一方で、i>nである場合(ステップS2009:Yes)、教師画像生成装置100は、合成処理を終了する。これにより、教師画像生成装置100は、肺癌のステージにより腫瘍の大きさが異なることを反映した、合併症にあり得る態様で腫瘍の陰影が映る人工症例画像を取得することができ、検出モデルの検出精度を向上させやすくすることができる。
(合成例3における合成処理手順)
次に、図21を用いて、教師画像生成装置100が実行する、合成例3における合成処理手順の一例について説明する。合成処理は、例えば、図3に示したCPU301と、メモリ302や記録媒体305などの記憶領域と、通信I/F303とによって実現される。
図21は、合成例3における合成処理手順の一例を示すフローチャートである。図21において、教師画像生成装置100は、背景画像となる呼吸器疾患画像を表示する(ステップS2101)。そして、教師画像生成装置100は、ユーザの操作入力に基づき、腫瘍の陰影を示す腫瘍画像を合成する領域の指定を受け付ける(ステップS2102)。
次に、教師画像生成装置100は、指定の領域から気腔部分に対応するマスク領域を除外した合成領域を生成する(ステップS2103)。そして、教師画像生成装置100は、合成領域に基づいて、腫瘍の陰影を示す腫瘍画像を合成する位置を決定する(ステップS2104)。
次に、教師画像生成装置100は、腫瘍画像の透過率を調整し、透過率の異なるm枚の腫瘍画像を生成する(ステップS2105)。そして、教師画像生成装置100は、i枚目の腫瘍画像を選択する(ステップS2106)。iの初期値は、1である。
次に、教師画像生成装置100は、決定した位置に基づいて、i枚目の腫瘍画像からマスク領域以外の画素値を抽出し、呼吸器疾患画像に合成することにより、人工症例画像を取得する(ステップS2107)。そして、教師画像生成装置100は、iをインクリメントする(ステップS2108)。
次に、教師画像生成装置100は、i>mであるか否かを判定する(ステップS2109)。ここで、i>mではない場合(ステップS2109:No)、教師画像生成装置100は、ステップS2106の処理に戻る。
一方で、i>mである場合(ステップS2109:Yes)、教師画像生成装置100は、合成処理を終了する。これにより、教師画像生成装置100は、肺癌のステージにより腫瘍の映り度合いが異なることを反映した、合併症にあり得る態様で腫瘍の陰影が映る人工症例画像を取得することができ、検出モデルの検出精度を向上させやすくすることができる。
(モデル生成処理手順)
次に、図22を用いて、教師画像生成装置100が実行する、モデル生成処理手順の一例について説明する。モデル生成処理は、例えば、図3に示したCPU301と、メモリ302や記録媒体305などの記憶領域と、通信I/F303とによって実現される。
図22は、モデル生成処理手順の一例を示すフローチャートである。図22において、教師画像生成装置100は、人工症例画像を異なる枚数含む、l個の画像グループを生成する(ステップS2201)。
次に、教師画像生成装置100は、x番目の画像グループを選択する(ステップS2202)。そして、教師画像生成装置100は、選択した画像グループのNl枚の人工症例画像に、N枚の実症例画像を組み合わせて、モデルMlを生成する(ステップS2203)。
次に、教師画像生成装置100は、モデルMlの精度Plを算出する(ステップS2204)。そして、教師画像生成装置100は、xをインクリメントする(ステップS2205)。xの初期値は、1である。
次に、教師画像生成装置100は、x>lであるか否かを判定する(ステップS2206)。ここで、x>lではない場合(ステップS2206:No)、教師画像生成装置100は、ステップS2202の処理に戻る。一方で、x>lである場合(ステップS2206:Yes)、教師画像生成装置100は、精度Plが最大であるモデルMlを出力する(ステップS2207)。そして、教師画像生成装置100は、モデル生成処理を終了する。これにより、教師画像生成装置100は、特定の被験者に関する医用画像に映る腫瘍の陰影を検出しやすい検出モデルを生成することができる。
ここで、教師画像生成装置100は、図19~図22の各フローチャートの一部ステップの処理を省略してもよい。例えば、教師画像生成装置100が、腫瘍画像を合成する領域の指定を受け付けず、自動で腫瘍画像を合成する領域を選択する場合には、ステップS2002,S2102の処理などは省略可能である。
以上説明したように、教師画像生成装置100によれば、第1画像上の気腔領域を検出することができる。教師画像生成装置100によれば、第1画像と第2画像とに基づいて、第1画像上に第2画像を配置した際に、腫瘍の陰影のうち、検出した気腔領域と重複する部分を非表示として、第3画像を生成して出力することができる。これにより、教師画像生成装置100は、合併症時にあり得る態様で、肺癌の腫瘍の陰影が映る人工の症例画像を生成することができ、検出モデルの検出精度を向上しやすくすることができる。また、教師画像生成装置100は、医用画像処理システム200の利便性を向上させることができる。
教師画像生成装置100によれば、肺気腫または間質性肺炎に関する第1画像と、肺癌に関する第2画像とを利用することができる。これにより、教師画像生成装置100は、肺気腫または間質性肺炎と、肺癌との合併症時にあり得る態様で、肺癌の腫瘍の陰影が映る人工の症例画像を生成することができ、検出モデルの検出精度を向上しやすくすることができる。
教師画像生成装置100によれば、第3画像を、腫瘍の陰影の第3画像上の位置を特定する情報と対応付けて出力することができる。これにより、教師画像生成装置100は、検出モデルの生成に利用する学習データの形式で、第3画像を出力することができる。
教師画像生成装置100によれば、第2画像を合成する第1画像上の位置の指定を受け付けることができる。教師画像生成装置100によれば、指定された第1画像上の位置に第2画像を配置した際に、腫瘍の陰影のうち、検出した気腔領域と重複する部分を非表示として、第3画像を生成することができる。これにより、教師画像生成装置100は、ユーザの意図を反映した人工の症例画像を生成することができる。
教師画像生成装置100によれば、第1画像上の検出した気腔領域の近傍に第2画像を配置した際に、腫瘍の陰影のうち、検出した気腔領域と重複する部分を非表示として、第3画像を生成することができる。これにより、教師画像生成装置100は、気腔領域の近傍に、腫瘍が発育しやすいことを反映した、人工の症例画像を生成することができる。
教師画像生成装置100によれば、腫瘍の陰影を拡大または縮小し、第1画像上に第2画像を配置した際に、拡大または縮小した腫瘍の陰影のうち、検出した気腔領域と重複する部分を非表示として、第3画像を生成することができる。これにより、教師画像生成装置100は、肺癌のステージにより腫瘍の大きさが異なる場合があることを反映した、人工の合併肺癌画像を生成することができ、検出モデルの検出精度を向上させやすくすることができる。
教師画像生成装置100によれば、腫瘍の陰影の透過率を変更し、第1画像上に第2画像を配置した際に、透過率を変更した腫瘍の陰影のうち、検出した気腔領域と重複する部分を非表示として、第3画像を生成することができる。これにより、教師画像生成装置100は、肺癌のステージにより腫瘍の映り具合が異なる場合があることを反映した、人工の合併肺癌画像を生成することができ、検出モデルの検出精度を向上させやすくすることができる。
教師画像生成装置100によれば、第1画像に第2画像を複数合成することができる。これにより、教師画像生成装置100は、肺癌の腫瘍が複数発育する場合があることを反映した、人工の合併肺癌画像を生成することができ、検出モデルの検出精度を向上させやすくすることができる。
教師画像生成装置100によれば、第3画像に基づいて、入力された被験者の肺の断面を撮像した画像に映る腫瘍の陰影を検出した結果を出力する検出モデルを生成することができる。これにより、教師画像生成装置100は、腫瘍の陰影を検出可能にすることができる。
教師画像生成装置100によれば、被験者の肺の断面を撮像した第4画像上の気腔領域を検出することができる。教師画像生成装置100によれば、第4画像と第2画像とに基づいて、第4画像上に第2画像を配置した際に、腫瘍の陰影のうち、検出した第4画像上の気腔領域と重複する部分を非表示として、第5画像を生成することができる。教師画像生成装置100によれば、第3画像と、生成した第5画像とに基づいて、入力された被験者の肺の断面を撮像した画像に映る腫瘍の陰影を検出した結果を出力する検出モデルを生成することができる。これにより、教師画像生成装置100は、特定の被験者に適した検出モデルを生成することができる。
教師画像生成装置100によれば、第3画像を1以上含み、かつ、腫瘍の陰影が映る肺の断面を撮像した第6画像を1以上含む画像グループを複数生成することができる。教師画像生成装置100によれば、生成した画像グループごとに、当該画像グループに基づいて、入力された被験者の肺の断面を撮像した画像に映る腫瘍の陰影を検出した結果を出力する検出モデルを生成することができる。教師画像生成装置100によれば、画像グループごとに生成した検出モデルについて、入力された被験者の肺の断面を撮像した画像に映る腫瘍の陰影を検出する検出精度を評価した結果を出力することができる。これにより、教師画像生成装置100は、検出精度が比較的高い検出モデルを生成することができる。
教師画像生成装置100によれば、第3画像を、腫瘍の陰影が第3画像に映っていることを示す情報と対応付けて出力することができる。これにより、教師画像生成装置100は、検出モデルの生成に利用する学習データの形式で第3画像を出力することができる。
なお、本実施の形態で説明した教師画像生成方法は、予め用意されたプログラムをパーソナル・コンピュータやワークステーション等のコンピュータで実行することにより実現することができる。本実施の形態で説明した教師画像生成プログラムは、ハードディスク、フレキシブルディスク、CD-ROM、MO、DVD等のコンピュータで読み取り可能な記録媒体に記録され、コンピュータによって記録媒体から読み出されることによって実行される。また、本実施の形態で説明した教師画像生成プログラムは、インターネット等のネットワークを介して配布してもよい。
上述した実施の形態に関し、さらに以下の付記を開示する。
(付記1)第1疾患により気腔を生じた肺の断面を撮像した第1画像上の気腔領域を検出し、
前記第1画像と、前記第1疾患と合併症を形成し得る第2疾患による腫瘍の陰影を示す第2画像とに基づいて、前記第1画像上に前記第2画像を配置した際に、前記腫瘍の陰影のうち、検出した前記気腔領域と重複する部分を非表示として、前記第1画像に前記第2画像を合成した第3画像を生成し、
生成した前記第3画像を出力する、
処理をコンピュータに実行させることを特徴とする教師画像生成プログラム。
(付記2)前記第1疾患は、肺気腫または間質性肺炎であり、
前記第2疾患は、肺癌である、ことを特徴とする付記1に記載の教師画像生成プログラム。
(付記3)前記出力する処理は、
前記第3画像を、前記腫瘍の陰影の前記第3画像上の位置を特定する情報と対応付けて出力する、ことを特徴とする付記1または2に記載の教師画像生成プログラム。
(付記4)前記第2画像を合成する前記第1画像上の位置の指定を受け付ける、
処理を前記コンピュータに実行させ、
前記生成する処理は、
指定された前記第1画像上の位置に前記第2画像を配置した際に、前記腫瘍の陰影のうち、検出した前記気腔領域と重複する部分を非表示として、前記第1画像に前記第2画像を合成した前記第3画像を生成する、ことを特徴とする付記1~3のいずれか一つに記載の教師画像生成プログラム。
(付記5)前記生成する処理は、
前記第1画像上の検出した前記気腔領域の近傍に前記第2画像を配置した際に、前記腫瘍の陰影のうち、検出した前記気腔領域と重複する部分を非表示として、前記第1画像に前記第2画像を合成した前記第3画像を生成する、ことを特徴とする付記1~4のいずれか一つに記載の教師画像生成プログラム。
(付記6)前記生成する処理は、
前記腫瘍の陰影を拡大または縮小し、前記第1画像上に前記第2画像を配置した際に、拡大または縮小した前記腫瘍の陰影のうち、検出した前記気腔領域と重複する部分を非表示として、前記第1画像に前記第2画像を合成した前記第3画像を生成する、ことを特徴とする付記1~5のいずれか一つに記載の教師画像生成プログラム。
(付記7)前記生成する処理は、
前記腫瘍の陰影の透過率を変更し、前記第1画像上に前記第2画像を配置した際に、透過率を変更した前記腫瘍の陰影のうち、検出した前記気腔領域と重複する部分を非表示として、前記第1画像に前記第2画像を合成した前記第3画像を生成する、ことを特徴とする付記1~6のいずれか一つに記載の教師画像生成プログラム。
(付記8)前記生成する処理は、
前記第1画像に前記第2画像を複数合成する、ことを特徴とする付記1~7のいずれか一つに記載の教師画像生成プログラム。
(付記9)前記第3画像に基づいて、入力された被験者の肺の断面を撮像した画像に映る腫瘍の陰影を検出した結果を出力するモデルを生成する、
処理を前記コンピュータに実行させることを特徴とする付記1~8のいずれか一つに記載の教師画像生成プログラム。
(付記10)被験者の肺の断面を撮像した第4画像上の気腔領域を検出し、
前記第4画像と前記第2画像とに基づいて、前記第4画像上に前記第2画像を配置した際に、前記腫瘍の陰影のうち、検出した前記第4画像上の気腔領域と重複する部分を非表示として、前記第4画像に前記第2画像を合成した第5画像を生成し、
前記第3画像と、生成した前記第5画像とに基づいて、入力された前記被験者の肺の断面を撮像した画像に映る腫瘍の陰影を検出した結果を出力するモデルを生成する、
処理を前記コンピュータに実行させることを特徴とする付記1~9のいずれか一つに記載の教師画像生成プログラム。
(付記11)前記第3画像を1以上含み、かつ、腫瘍の陰影が映る肺の断面を撮像した第6画像を1以上含む画像グループを複数生成し、
生成した前記画像グループごとに、当該画像グループに基づいて、入力された被験者の肺の断面を撮像した画像に映る腫瘍の陰影を検出した結果を出力するモデルを生成し、
前記画像グループごとに生成した前記モデルについて、入力された被験者の肺の断面を撮像した画像に映る腫瘍の陰影を検出する検出精度を評価した結果を出力する、
処理を前記コンピュータに実行させることを特徴とする付記1~10のいずれか一つに記載の教師画像生成プログラム。
(付記12)前記出力する処理は、
前記第3画像を、前記腫瘍の陰影が前記第3画像に映っていることを示す情報と対応付けて出力する、ことを特徴とする付記1~11のいずれか一つに記載の教師画像生成プログラム。
(付記13)第1疾患により気腔を生じた肺の断面を撮像した第1画像上の気腔領域を検出し、
前記第1画像と、前記第1疾患と合併症を形成し得る第2疾患による腫瘍の陰影を示す第2画像とに基づいて、前記第1画像上に前記第2画像を配置した際に、前記腫瘍の陰影のうち、検出した前記気腔領域と重複する部分を非表示として、前記第1画像に前記第2画像を合成した第3画像を生成し、
生成した前記第3画像を出力する、
処理をコンピュータが実行することを特徴とする教師画像生成方法。
(付記14)第1疾患により気腔を生じた肺の断面を撮像した第1画像上の気腔領域を検出し、
前記第1画像と、前記第1疾患と合併症を形成し得る第2疾患による腫瘍の陰影を示す第2画像とに基づいて、前記第1画像上に前記第2画像を配置した際に、前記腫瘍の陰影のうち、検出した前記気腔領域と重複する部分を非表示として、前記第1画像に前記第2画像を合成した第3画像を生成し、
生成した前記第3画像を出力する、
ことを特徴とする教師画像生成システム。
100 教師画像生成装置
101,103~106 医用画像
102 部分画像
200 医用画像処理システム
201 モダリティ装置
202 医師用端末
203 画像DB
204 腫瘍DB
210 ネットワーク
300,600,700 バス
301,601,701 CPU
302,602,702 メモリ
303,603,703 通信I/F
304,604,704 記録媒体I/F
305,605,705 記録媒体
606 撮像装置
607,707 入力装置
706 ディスプレイ
800 記憶部
801 取得部
802 気腔検出部
803 マスク処理部
804 合成処理部
805 画像格納部
806 機械学習部
807 自動検出部
808 出力部
901,1201,1801 肺画像群
902,1202,1802 腫瘍画像群
910,1210,1810 マスク画像群
920,1203,1220,1803,1820 合併肺癌画像群
1001,1101,1300,1400,1500,1600 肺画像
1002,1102 マスク画像
1003,1103 腫瘍画像
1010,1110,1530,1620,1630 合併肺癌画像
1204,1804 症例画像
1301,1401 マスク領域
1302,1402 領域
1510,1511,1611,1612 腫瘍抽出画像
1520 状態
1701,1702 画像グループ
1710 特性曲線

Claims (13)

  1. 第1疾患により気腔を生じた肺の断面を撮像した第1画像上の気腔領域を検出し、
    前記第1画像と、前記第1疾患と合併症を形成し得る第2疾患による腫瘍の陰影を示す第2画像とに基づいて、前記第2画像が示す前記腫瘍の陰影を前記第1画像上のいずれかの位置に合成する際に前記第1画像上の前記いずれかの位置において前記第2画像が示す前記腫瘍の陰影のうち検出した前記気腔領域と重複しない部分のみを前記第1画像上の前記いずれかの位置に合成した第3画像を生成し、
    生成した前記第3画像を出力する、
    処理をコンピュータに実行させることを特徴とする教師画像生成プログラム。
  2. 前記第1疾患は、肺気腫または間質性肺炎であり、
    前記第2疾患は、肺癌である、ことを特徴とする請求項1に記載の教師画像生成プログラム。
  3. 前記出力する処理は、
    前記第3画像を、前記腫瘍の陰影の前記第3画像上の位置を特定する情報と対応付けて出力する、ことを特徴とする請求項1または2に記載の教師画像生成プログラム。
  4. 前記第1画像上で、前記第2画像が示す前記腫瘍の陰影を合成する位置の指定を受け付ける、
    処理を前記コンピュータに実行させ、
    前記生成する処理は、
    前記第2画像が示す前記腫瘍の陰影を前記第1画像上の前記指定を受け付けた位置に合成する際に前記第1画像上の前記指定を受け付けた位置において前記第2画像が示す前記腫瘍の陰影のうち検出した前記気腔領域と重複しない部分のみを前記第1画像上の前記指定を受け付けた位置に合成した前記第3画像を生成する、ことを特徴とする請求項1~3のいずれか一つに記載の教師画像生成プログラム。
  5. 前記生成する処理は、
    前記第2画像が示す前記腫瘍の陰影を前記第1画像上の検出した前記気腔領域の近傍の位置に合成する際に前記第1画像上の前記近傍の位置において前記第2画像が示す前記腫瘍の陰影のうち検出した前記気腔領域と重複しない部分のみを前記第1画像上の前記近傍の位置に合成した前記第3画像を生成する、ことを特徴とする請求項1~4のいずれか一つに記載の教師画像生成プログラム。
  6. 前記生成する処理は、
    前記第2画像が示す前記腫瘍の陰影を拡大または縮小し、拡大または縮小した前記腫瘍の陰影を前記第1画像上のいずれかの位置に合成する際に前記第1画像上の前記いずれかの位置において拡大または縮小した前記腫瘍の陰影のうち検出した前記気腔領域と重複しない部分のみを前記第1画像上の前記いずれかの位置に合成した前記第3画像を生成する、ことを特徴とする請求項1~5のいずれか一つに記載の教師画像生成プログラム。
  7. 前記生成する処理は、
    前記第2画像が示す前記腫瘍の陰影の透過率を変更し、透過率を変更した前記腫瘍の陰影を前記第1画像上のいずれかの位置に合成する際に前記第1画像上の前記いずれかの位置において透過率を変更した前記腫瘍の陰影のうち検出した前記気腔領域と重複しない部分のみを前記第1画像上の前記いずれかの位置に合成した前記第3画像を生成する、ことを特徴とする請求項1~6のいずれか一つに記載の教師画像生成プログラム。
  8. 前記生成する処理は、
    前記第1画像に前記第2画像が示す前記腫瘍の陰影を複数合成する、ことを特徴とする請求項1~7のいずれか一つに記載の教師画像生成プログラム。
  9. 前記第3画像に基づいて、入力された被験者の肺の断面を撮像した画像に映る腫瘍の陰影を検出した結果を出力するモデルを生成する、
    処理を前記コンピュータに実行させることを特徴とする請求項1~8のいずれか一つに記載の教師画像生成プログラム。
  10. 被験者の肺の断面を撮像した第4画像上の気腔領域を検出し、
    前記第4画像と前記第2画像とに基づいて、前記第2画像が示す前記腫瘍の陰影を前記第4画像上のいずれかの位置に合成する際に前記第4画像上の前記いずれかの位置において前記第2画像が示す前記腫瘍の陰影のうち検出した前記気腔領域と重複しない部分のみを前記第4画像上の前記いずれかの位置に合成した第5画像を生成し、
    前記第3画像と、生成した前記第5画像とに基づいて、入力された前記被験者の肺の断面を撮像した画像に映る腫瘍の陰影を検出した結果を出力するモデルを生成する、
    処理を前記コンピュータに実行させることを特徴とする請求項1~9のいずれか一つに記載の教師画像生成プログラム。
  11. 前記第3画像を1以上含み、かつ、腫瘍の陰影が映る肺の断面を撮像した第6画像を1以上含む画像グループを複数生成し、
    生成した前記画像グループごとに、当該画像グループに基づいて、入力された被験者の肺の断面を撮像した画像に映る腫瘍の陰影を検出した結果を出力するモデルを生成し、
    前記画像グループごとに生成した前記モデルについて、入力された被験者の肺の断面を撮像した画像に映る腫瘍の陰影を検出する検出精度を評価した結果を出力する、
    処理を前記コンピュータに実行させることを特徴とする請求項1~10のいずれか一つに記載の教師画像生成プログラム。
  12. 第1疾患により気腔を生じた肺の断面を撮像した第1画像上の気腔領域を検出し、
    前記第1画像と、前記第1疾患と合併症を形成し得る第2疾患による腫瘍の陰影を示す第2画像とに基づいて、前記第2画像が示す前記腫瘍の陰影を前記第1画像上のいずれかの位置に合成する際に前記第1画像上の前記いずれかの位置において前記第2画像が示す前記腫瘍の陰影のうち検出した前記気腔領域と重複しない部分のみを前記第1画像上の前記いずれかの位置に合成した第3画像を生成し、
    生成した前記第3画像を出力する、
    処理をコンピュータが実行することを特徴とする教師画像生成方法。
  13. 第1疾患により気腔を生じた肺の断面を撮像した第1画像上の気腔領域を検出し、
    前記第1画像と、前記第1疾患と合併症を形成し得る第2疾患による腫瘍の陰影を示す第2画像とに基づいて、前記第2画像が示す前記腫瘍の陰影を前記第1画像上のいずれかの位置に合成する際に前記第1画像上の前記いずれかの位置において前記第2画像が示す前記腫瘍の陰影のうち検出した前記気腔領域と重複しない部分のみを前記第1画像上の前記いずれかの位置に合成した第3画像を生成し、
    生成した前記第3画像を出力する、
    ことを特徴とする教師画像生成システム。
JP2019136501A 2019-07-24 2019-07-24 教師画像生成プログラム、教師画像生成方法、および教師画像生成システム Active JP7275961B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2019136501A JP7275961B2 (ja) 2019-07-24 2019-07-24 教師画像生成プログラム、教師画像生成方法、および教師画像生成システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019136501A JP7275961B2 (ja) 2019-07-24 2019-07-24 教師画像生成プログラム、教師画像生成方法、および教師画像生成システム

Publications (2)

Publication Number Publication Date
JP2021019677A JP2021019677A (ja) 2021-02-18
JP7275961B2 true JP7275961B2 (ja) 2023-05-18

Family

ID=74573040

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019136501A Active JP7275961B2 (ja) 2019-07-24 2019-07-24 教師画像生成プログラム、教師画像生成方法、および教師画像生成システム

Country Status (1)

Country Link
JP (1) JP7275961B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023090090A1 (ja) * 2021-11-22 2023-05-25 富士フイルム株式会社 学習データ生成装置及び方法、並びに、学習モデル生成装置及び方法

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105705090A (zh) 2013-10-21 2016-06-22 苹果公司 传感器和应用
JP2017510406A (ja) 2014-03-27 2017-04-13 リべレイン テクノロジーズ エルエルシー 画像内における血管構造の抑制
WO2017150497A1 (ja) 2016-03-02 2017-09-08 地方独立行政法人神奈川県立病院機構 肺野病変の診断支援装置、該装置の制御方法及びプログラム
JP2018094020A (ja) 2016-12-12 2018-06-21 キヤノンメディカルシステムズ株式会社 超音波診断装置及び医用画像処理装置
JP2019030591A (ja) 2017-08-09 2019-02-28 キヤノン株式会社 画像処理装置、画像処理方法およびプログラム

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105705090A (zh) 2013-10-21 2016-06-22 苹果公司 传感器和应用
JP2017510406A (ja) 2014-03-27 2017-04-13 リべレイン テクノロジーズ エルエルシー 画像内における血管構造の抑制
WO2017150497A1 (ja) 2016-03-02 2017-09-08 地方独立行政法人神奈川県立病院機構 肺野病変の診断支援装置、該装置の制御方法及びプログラム
JP2018094020A (ja) 2016-12-12 2018-06-21 キヤノンメディカルシステムズ株式会社 超音波診断装置及び医用画像処理装置
JP2019030591A (ja) 2017-08-09 2019-02-28 キヤノン株式会社 画像処理装置、画像処理方法およびプログラム

Also Published As

Publication number Publication date
JP2021019677A (ja) 2021-02-18

Similar Documents

Publication Publication Date Title
US8334878B2 (en) Medical image processing apparatus and medical image processing program
CN111563523B (zh) 利用机器训练的异常检测的copd分类
JP5222082B2 (ja) 情報処理装置およびその制御方法、データ処理システム
US7388974B2 (en) Medical image processing apparatus
US8189888B2 (en) Medical reporting system, apparatus and method
CN102855618B (zh) 用于图像产生和图像分析的方法
US20200226752A1 (en) Apparatus and method for processing medical image
JP5665903B2 (ja) 画像処理装置及び方法、画像処理システム、並びにプログラム
JP4911029B2 (ja) 異常陰影候補検出方法、異常陰影候補検出装置
JP2008521468A (ja) デジタル医療画像分析
EP2100275A2 (en) Comparison workflow automation by registration
EP2116974A1 (en) Statistics collection for lesion segmentation
US11996182B2 (en) Apparatus and method for medical image reading assistant providing representative image based on medical use artificial neural network
JP2010167042A (ja) 医用診断支援装置及びその制御方法、並びに、プログラム
CN112529834A (zh) 病理图像模式在3d图像数据中的空间分布
JP2007151645A (ja) 医用画像診断支援システム
JP2013103023A (ja) 画像診断支援装置および画像診断支援方法
JP5539478B2 (ja) 情報処理装置および情報処理方法
Reeves et al. A public image database to support research in computer aided diagnosis
JP7170000B2 (ja) 学習システム、方法及びプログラム
JP7275961B2 (ja) 教師画像生成プログラム、教師画像生成方法、および教師画像生成システム
JP2006325640A (ja) 異常陰影候補の表示方法及び医用画像処理システム
WO2020235461A1 (ja) 異常検出方法、異常検出プログラム、異常検出装置、サーバ装置及び情報処理方法
JP2006340835A (ja) 異常陰影候補の表示方法及び医用画像処理システム
US11080866B2 (en) Dynamic image processing method and dynamic image processing device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220407

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230131

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230131

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230329

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230404

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230417

R150 Certificate of patent or registration of utility model

Ref document number: 7275961

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150