JP7457011B2 - 異常検出方法、異常検出プログラム、異常検出装置、サーバ装置及び情報処理方法 - Google Patents

異常検出方法、異常検出プログラム、異常検出装置、サーバ装置及び情報処理方法 Download PDF

Info

Publication number
JP7457011B2
JP7457011B2 JP2021520757A JP2021520757A JP7457011B2 JP 7457011 B2 JP7457011 B2 JP 7457011B2 JP 2021520757 A JP2021520757 A JP 2021520757A JP 2021520757 A JP2021520757 A JP 2021520757A JP 7457011 B2 JP7457011 B2 JP 7457011B2
Authority
JP
Japan
Prior art keywords
region
lung
shadow
chest
ray image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021520757A
Other languages
English (en)
Other versions
JPWO2020235461A1 (ja
Inventor
堅司 近藤
順 小澤
浩彦 木村
春海 伊藤
雅人 田中
真一 藤本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Panasonic Holdings Corp
Original Assignee
Panasonic Corp
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp, Matsushita Electric Industrial Co Ltd filed Critical Panasonic Corp
Publication of JPWO2020235461A1 publication Critical patent/JPWO2020235461A1/ja
Application granted granted Critical
Publication of JP7457011B2 publication Critical patent/JP7457011B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus for radiation diagnosis, e.g. combined with radiation therapy equipment
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/12Edge-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/13Edge detection
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/40ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/20ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for computer-aided diagnosis, e.g. based on medical expert systems
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/30ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for calculating health indices; for individual health risk assessment
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10116X-ray image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20021Dividing image into blocks, subimages or windows
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30048Heart; Cardiac
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30061Lung
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30101Blood vessel; Artery; Vein; Vascular

Description

本開示は、医用画像の処理技術に関し、さらに詳しくは胸部X線画像における異常状態の検出技術に関する。
近年、医用画像における病変領域を検出したり、所見や病名を推定する装置、および/または、ソフトウェア等が開発されている。そのような装置、および/または、ソフトウェアを用いた診断は、コンピュータ支援診断(CAD)と呼ばれる。CADは、医師の読影作業の負担を軽減することができると期待されている。
胸部疾患を診断する方法のなかで、胸部X線画像を用いた診断方法は最も一般的である。胸部X線画像を撮影する機器は安価で普及率が高く、胸部撮像のコストも安価だからである。
胸部X線画像のCAD技術の例は、病変を示す画像を機械学習させて病変領域を検出する技術(非特許文献1参照)、胸部を連続撮影して得た複数のフレーム画像を用いて異常領域を検出する技術(特許文献1参照)を含む。
特許文献1は、複数のフレーム画像のそれぞれにおける肺領域を複数の小領域に分割し、複数のフレーム画像間において対応する小領域毎に画像解析を行って、小領域毎に換気の状態が異常であるか否か、小領域毎に血流の状態が異常であるか否かを判定する技術を開示する。
X.Wang,Y.Peng,L.Lu,Z.Lu,M.Bagheri,R.Summers, Chest X-Ray8: Hospital-Scale Chest X-Ray Database and Benchmarks on Weakly-Supervised Classification and Localization of Common Thorax Diseases, CVPR2017 O.Ronneberger, P.Fischer, and T.Brox, U-Net:Convolutional Networks for Biomedical Image Segmentation, Medical Image Computing and Computer-Assisted Intervention(MICCAI), Springer, LNCS, Vol.9351: 234--241, 2015 L.Long, E.Shelhamer, T.Darrell, Fully Convolutional Networks for Semantic Segmentation, In CVPR. 2015. Jinwon An, Sungzoon Cho, Variational Autoenconder based Anomaly Detection using Reconstruction Probability, December 27, 2015 SNU Data Mining Center 2015-2 Special Lecture on IE 「医用画像における円形・線状パターン検出のためのフィルタバンク構築」電子情報通信学会論文誌D-II Vol.J87-D-II No.1 pp175-185
国際公開第2009/090894号
しかしながら、上記従来の特許文献1に記載の技術では、肺領域を抽出する際、胸部X線画像の各画素の信号値から濃度ヒストグラムを作成し、判別分析法などによって閾値を求め、求めた閾値より高信号の領域を肺領域の候補として抽出していた。よって、更なる改善が必要とされていた。
本開示の一態様は、
コンピュータが、胸部X線画像を取得し、
前記コンピュータが、前記取得した胸部X線画像において、X線透過率の範囲が異なる複数の解剖学的構造の画像の境界線を、モデルを用いて検出し、前記モデルは前記検出前に機械学習を用いて構築され、
前記コンピュータが、検出された前記境界線を基に、前記取得した胸部X線画像において、肺と心臓とが重なる第1肺領域および肺と肝臓とが重なる第2肺領域のうち少なくとも一方を含む第3肺領域を設定し、
前記コンピュータが、前記第3肺領域に含まれる領域に存在する少なくとも1つの肺血管の太さおよび密度の少なくとも一方を表す血管指標を抽出し、
前記コンピュータが、前記血管指標と、前記血管指標を抽出した方法を用いて正常状態の胸部X線画像の前記第3肺領域に含まれる領域に相当する領域から予め抽出された指標を用いた基準指標と、に基づいて前記第3肺領域に含まれる領域が異常状態であるか否かを判定し、
前記第3肺領域に含まれる領域が異常状態であると判定されると、前記コンピュータが、前記判定を表す情報を出力する異常検出方法である。
尚、この包括的又は具体的な態様は、装置、システム、集積回路、コンピュータプログラム又はコンピュータ読み取り可能な記録媒体で実現されてもよく、装置、システム、方法、集積回路、コンピュータプログラム及びコンピュータ読み取り可能な記録媒体の任意な組み合わせで実現されてもよい。コンピュータ読み取り可能な記録媒体は、例えばCD-ROM(Compact Disc-Read Only Memory)等の不揮発性の記録媒体を含む。
上記態様により、更なる改善が実現できる。本開示の一態様における更なる利点および効果は、明細書および図面から明らかにされる。かかる利点および/または効果は、いくつかの実施形態並びに明細書および図面に記載された特徴によってそれぞれ提供されるが、1つまたはそれ以上の同一の特徴を得るために必ずしも全てが提供される必要はない。
第1実施形態における異常表示制御装置のブロック図 第1実施形態における院内ネットワーク構成のブロック図 第1実施形態におけるフローチャート 下行大動脈の陰影を含む胸部X線画像を示す図 下行大動脈の陰影のマスク画像を示す図 胸部X線画像にマスク画像を重畳した画像を示す図 右背側肺底の陰影を含む胸部X線画像を示す図 右背側肺底の陰影のマスク画像を示す図 胸部X線画像にマスク画像を重畳した画像を示す図 第1胸椎を含む胸部X線画像を示す図 第1胸椎のマスク画像を示す図 胸部X線画像にマスク画像を重畳した画像を示す図 U-Netのアーキテクチャを概略的に示す図 肺と肝臓とが重なる領域を設定する方法およびその領域の一例を示す図 肺と肝臓とが重なる領域を設定する方法およびその領域の一例を示す図 肺と心臓とが重なる領域を設定する方法およびその領域の一例を示す図 肺と心臓とが重なる領域を設定する方法およびその領域の一例を示す図 肺と胃とが重なる領域を設定する方法およびその領域の一例を示す図 肺と胃とが重なる領域を設定する方法およびその領域の一例を示す図 右背側肺底陰影の推定方法を説明する図 胸部X線画像上で肺が存在する領域を示す図 心臓と重なる肺領域、および、肝臓と重なる肺領域を示す図 肺血管、気管および気管支を示す図 設定した局所領域の一例を示す図 設定した局所領域の一例を示す図 設定した局所領域の一例を示す図 肺血管の太さと密度の変化を説明する図 人体の肺血管、気管、および気管支を示す図 図16における各領域の外接矩形を示す図 領域の外接矩形を基準とした正規化座標系を示す図 領域の外接矩形を基準とした正規化座標系を示す図 領域の外接矩形を基準とした正規化座標系を示す図 図19の胸部X線画像において局所領域の重心位置の例を示す図 異常検知を行う対象の胸部X線画像を示す図 正常モデルの胸部X線画像を示す図 基準指標の一例である確率密度関数を概略的に示す図 次元削減による異常検出方法を説明する図 積層オートエンコーダのネットワーク構成を示す図 変分オートエンコーダのネットワーク構成を示す図 第1実施形態におけるディスプレイの表示例を示す図 ディスプレイの別の表示例を示す図 ディスプレイのさらに別の表示例を示す図 ディスプレイのさらに別の表示例を示す図 図1と異なる構成の異常表示制御装置のブロック図 第2実施形態における院内ネットワーク構成のブロック図 胸部X線画像正面像とCTスライス画像とを示す図 胸部X線画像正面像と胸部X線画像側面像とを示す図
(本開示に係る一態様を発明するに至った経緯)
まず、本開示に係る一態様を発明するに至った経緯が説明される。特許文献1は、肺領域を抽出する際、胸部X線画像の各画素の信号値から濃度ヒストグラムを作成し、判別分析法等によって閾値を求め、求めた閾値より高信号の領域を肺領域の候補として抽出し、候補領域の境界付近でエッジ検出を行って、肺領域の境界線を決定することを開示している。しかしながら、胸部X線画像において、肺と心臓とが重なる領域の画素の信号値は、肺と他の臓器との重なりがない領域の画素の信号値ほど高くないし、肺と肝臓とが重なる領域の画素の信号値は、肺と他の臓器との重なりがない領域の画素の信号値ほど高くない。この点が図39、および、図40を用いて説明される。
図39では、胸部X線画像正面像Ixpと、胸部X線画像Ixpの位置L1における断面を表すコンピュータ断層撮影(CT)のスライス画像Islと、が並べて示されている。スライス画像Islには、右肺RL,左肺LL、心臓HT、下行大動脈AOが示されている。一点鎖線L2は、胸部X線画像Ixpとスライス画像Islとの対応する右肺の右端を結ぶ線である。なお、本明細書では、左右を指定する場合、胸部X線画像を基準とせず、被写体人物の体を基準とすることとする。一点鎖線L3は、胸部X線画像Ixpとスライス画像Islとの対応する右心房の右端を結ぶ線である。一点鎖線L4は、胸部X線画像Ixpとスライス画像Islとの対応する下行大動脈の左端を結ぶ線である。一点鎖線L5は、胸部X線画像Ixpとスライス画像Islとの対応する左心室の左端を結ぶ線である。一点鎖線L6は、胸部X線画像Ixpとスライス画像Islとの対応する左肺の左端を結ぶ線である。胸部X線画像Ixpでは、領域RL0および領域LL0は、肺のX線吸収値が低いために画素の信号値が低くなっており、それぞれ、右肺が存在する領域、および、左肺が存在する領域として知られている。しかし、スライス画像Islを見ると、心臓HTの腹側および背側にも、それぞれ、右肺RLおよび左肺LLが存在していることが分かる。よって、胸部X線画像Ixpにおいて、肺と心臓とが重なる領域に存在する肺の病変を見逃すことを防止するために、当該領域、すなわち、肺と心臓とが重なる領域、に対して画像診断を行うことは重要である。
図40では、胸部X線画像正面像Ixpと、胸部X線画像側面像Ixp2と、が並べて示されている。胸部X線画像側面像Ixp2には、側面像において右肺が存在する領域RLが破線で示され、側面像において左肺が存在する領域LLが実線で示されている。一点鎖線L7は、胸部X線画像正面像Ixpと胸部X線画像側面像Ixp2との対応する右肺および左肺の上端を結ぶ線である。一点鎖線L8は、胸部X線画像正面像Ixpと胸部X線画像側面像Ixp2との対応する右横隔膜ドームの上端を結ぶ線である。一点鎖線L9は、胸部X線画像正面像Ixpと胸部X線画像側面像Ixp2との対応する左横隔膜ドームの上端を結ぶ線である。一点鎖線L10は、胸部X線画像正面像Ixpと胸部X線画像側面像Ixp2との対応する右肺(背側)の下端を結ぶ線である。実線L11は、胸部X線画像正面像Ixpと胸部X線画像側面像Ixp2との対応する左肺(背側)の下端を結ぶ線である。上述のように、胸部X線画像正面像Ixpでは、領域RL0および領域LL0は、肺のX線吸収値が低いために画素の信号値が低くなっており、それぞれ、右肺が存在する領域、および、左肺が存在する領域として知られている。しかし、胸部X線画像側面像Ixp2を見ると、一点鎖線L8よりも下に右肺が存在し、一点鎖線L9よりも下に左肺が存在していることが分かる。なお、図40には示されていないが、右肺の下には横隔膜を隔てて肝臓が存在し、左肺の下には横隔膜を隔てて胃などが存在している。よって、胸部X線画像正面像Ixpにおいて、肺と他の臓器とが重なる領域に存在する肺の病変を見逃すことを防止するために、当該領域、すなわち、肺と他の臓器とが重なる領域に対して画像診断を行うことは重要である。他の臓器は、肝臓または胃であってもよい。
このため、特許文献1が開示する肺領域の境界線を決定する方法では、胸部X線画像において、肺と心臓とが重なる領域における異常の検出、および、肺と肝臓とが重なる領域における異常の検出は困難である。そこで、本発明者は、胸部X線画像に描出される様々な線構造(境界線の一例に相当)に着目し、肺と心臓とが重なる領域、および/または、肺と肝臓とが重なる領域において、異常の有無を判定可能な、以下の発明の各態様を想到するに至った。
本開示の第1態様は、
コンピュータが、胸部X線画像を取得し、
前記コンピュータが、前記取得した胸部X線画像において、X線透過率の範囲が異なる複数の解剖学的構造の画像の境界線を、モデルを用いて検出し、前記モデルは前記検出前に機械学習を用いて構築され、
前記コンピュータが、検出された前記境界線を基に、前記取得した胸部X線画像において、肺と心臓とが重なる第1肺領域および肺と肝臓とが重なる第2肺領域のうち少なくとも一方を含む第3肺領域を設定し、
前記コンピュータが、前記第3肺領域に含まれる領域に存在する少なくとも1つの肺血管の太さおよび密度の少なくとも一方を表す血管指標を抽出し、
前記コンピュータが、前記血管指標と、前記血管指標を抽出した方法を用いて正常状態の胸部X線画像の前記第3肺領域に含まれる領域に相当する領域から予め抽出された指標を用いた基準指標と、に基づいて前記第3肺領域に含まれる領域が異常状態であるか否かを判定し、
前記第3肺領域に含まれる領域が異常状態であると判定されると、前記コンピュータが、前記判定を表す情報を出力する、異常検出方法である。
この第1態様では、胸部X線画像に描出される様々な境界線に着目して、境界線が検出されている。このため、境界線に基づき、肺と心臓とが重なる第1肺領域、および/または、肺と肝臓とが重なる第2肺領域を含む第3肺領域を設定することが可能である。したがって、第1態様によれば、第3肺領域に含まれる領域において異常の有無を判定することができる。第3肺領域に含まれる領域に異常があると判定されると、判定を表す情報が出力される。このため、有益な情報をユーザに提供することができる。その結果、第1態様の異常検出方法は、読影医に有益な情報を提供するだけでなく、臨床医又は放射線技師の診断又は自己学習、及び、医学生の教育又は自己学習に利用することが可能である。第1態様の異常検出方法によれば、従来の胸部X線画像の診断支援技術における異常検知技術では、異常検知対象領域に含められていない場合が多かった、第1肺領域(胸部X線画像において肺と心臓とが重なる領域)、および/または、第2肺領域(胸部X線画像において肺と肝臓とが重なる領域)に対して、血管指標に基づいて、異常検知を行うことができる。
上記第1態様において、例えば、
前記検出では、左室陰影、下行大動脈陰影、左横隔膜ドーム陰影、椎体の左境界線、椎体の右境界線、右房陰影、右横隔膜ドーム陰影のうち少なくとも2つの境界線が検出され、
前記設定では、前記第1肺領域を含む前記第3肺領域が設定され、前記第1肺領域は、前記検出で検出された境界線のうち少なくとも2つで挟まれる領域により設定されてもよい。
この態様によれば、検出された境界線に基づいて、より精度良く、胸部X線画像において肺と心臓とが重なる領域である第1肺領域を設定することができる。
上記第1態様において、例えば、
前記検出では、前記左室陰影、前記下行大動脈陰影、前記左横隔膜ドーム陰影、前記椎体の左境界線、前記椎体の右境界線、前記右房陰影、前記右横隔膜ドーム陰影のうち少なくとも前記左室陰影、前記下行大動脈陰影、前記左横隔膜ドーム陰影、前記椎体の右境界線、前記右房陰影の境界線が検出され、
前記設定では、前記第1肺領域は、前記検出で検出された境界線のうち前記左室陰影、前記下行大動脈陰影、前記左横隔膜ドーム陰影で挟まれる領域と、前記椎体の右境界線、前記右房陰影で挟まれる領域とにより設定されてもよい。
この態様によれば、検出された境界線に基づいて、より精度良く、胸部X線画像において肺と心臓とが重なる領域である第1肺領域を設定することができる。
上記第1態様において、例えば、
前記検出では、前記左室陰影、前記下行大動脈陰影、前記左横隔膜ドーム陰影、前記椎体の左境界線、前記椎体の右境界線、前記右房陰影、前記右横隔膜ドーム陰影のうち少なくとも前記椎体の左境界線、前記左室陰影、前記左横隔膜ドーム陰影、前記椎体の右境界線、前記右房陰影の境界線が検出され、
前記設定では、前記第1肺領域は、前記検出で検出された境界線のうち前記椎体の左境界線、前記左室陰影、前記左横隔膜ドーム陰影で挟まれる領域と、前記椎体の右境界線、前記右房陰影で挟まれる領域とにより設定されてもよい。
この態様によれば、検出された境界線に基づいて、より精度良く、胸部X線画像において肺と心臓とが重なる領域である第1肺領域を設定することができる。
上記第1態様において、例えば、
前記設定では、前記第1肺領域は、前記検出で検出された境界線と、隣り合う前記境界線を接続する補間線と、によって囲まれた、閉じた領域として設定されてもよい。
この態様によれば、検出された複数の境界線で閉じた領域が形成されなくても、より確実に、胸部X線画像において肺と心臓とが重なる領域である第1肺領域を設定することができる。
上記第1態様において、例えば、
前記検出では、右横隔膜ドーム陰影、右背側肺底陰影、椎体の右境界線のうち少なくとも2つの境界線が検出され、
前記設定では、前記第2肺領域を含む前記第3肺領域が設定され、前記第2肺領域は、前記検出で検出された境界線のうち少なくとも2つで挟まれる領域により設定されてもよい。
この態様によれば、検出された境界線に基づいて、より精度良く、胸部X線画像において肺と肝臓とが重なる領域である第2肺領域を設定することができる。
上記第1態様において、例えば、
前記検出では、前記右横隔膜ドーム陰影、前記右背側肺底陰影、前記椎体の右境界線のうち少なくとも前記右横隔膜ドーム陰影、前記右背側肺底陰影の境界線が検出され、
前記設定では、前記第2肺領域は、前記検出で検出された境界線のうち前記右横隔膜ドーム陰影、前記右背側肺底陰影で挟まれる領域により設定されてもよい。
この態様によれば、検出された境界線に基づいて、より精度良く、胸部X線画像において肺と肝臓とが重なる領域である第2肺領域を設定することができる。
上記第1態様において、例えば、
前記検出では、前記右横隔膜ドーム陰影、前記右背側肺底陰影、前記椎体の右境界線の境界線が検出され、
前記設定では、前記第2肺領域は、前記検出で検出された前記右横隔膜ドーム陰影、前記右背側肺底陰影、前記椎体の右境界線で挟まれる領域により設定されてもよい。
この態様によれば、検出された境界線に基づいて、より精度良く、胸部X線画像において肺と肝臓とが重なる領域である第2肺領域を設定することができる。
上記第1態様において、例えば、
前記設定では、前記第2肺領域は、前記検出で検出された境界線と、隣り合う前記境界線を接続する補間線と、によって囲まれた、閉じた領域として設定されてもよい。
この態様によれば、検出された複数の境界線で閉じた領域が形成されなくても、より確実に、胸部X線画像において肺と肝臓とが重なる領域である第2肺領域を設定することができる。
上記第1態様において、例えば、
前記検出で前記右背側肺底陰影が検出された場合には、前記コンピュータが、前記右背側肺底陰影の検出結果の確からしさを表す信頼度を算出し、
前記信頼度が所定の第1閾値以下であれば、前記コンピュータが、前記検出で検出された前記右背側肺底陰影以外の境界線の位置に基づいて、前記右背側肺底陰影を推定し、
前記第2肺領域の設定では、前記信頼度が前記第1閾値よりも高ければ、前記検出で検出された前記右背側肺底陰影が利用され、前記信頼度が前記第1閾値以下であれば、前記推定で推定された前記右背側肺底陰影が利用されてもよい。
この態様によれば、右背側肺底陰影の検出結果の確からしさを表す信頼度が第1閾値以下と低くても、推定された右背側肺底陰影を利用して、第2肺領域を設定することができる。
上記第1態様において、例えば、
前記第2肺領域の設定において、前記推定で推定された前記右背側肺底陰影が利用されている場合は、前記出力では、右肺底を含む領域への注意を促す情報が出力されてもよい。
この態様によれば、ユーザに対して、右肺底を含む領域に注意を向けさせることができる。
上記第1態様において、例えば、
前記第3肺領域は、さらに、前記第1肺領域の下側に位置する第4肺領域を含み、
前記検出では、さらに、前記境界線として左背側肺底陰影が検出されてもよい。
この態様によれば、従来の胸部X線画像の診断支援技術における異常検知技術では、異常検知対象領域に含められていない場合が多かった、第1肺領域(胸部X線画像において肺と心臓とが重なる領域)の下側に位置する第4肺領域に対して、血管指標に基づいて、異常検知を行うことができる。
上記第1態様において、例えば、
前記検出では、左横隔膜ドーム陰影、前記左背側肺底陰影、椎体の左境界線のうち前記左背側肺底陰影を含む少なくとも2つの境界線が検出され、
前記設定では、前記第4肺領域を含む前記第3肺領域が設定され、前記第4肺領域は、前記検出で検出された境界線のうち少なくとも2つで挟まれる領域により設定されてもよい。
この態様によれば、検出された境界線に基づいて、より精度良く、胸部X線画像において第1肺領域の下側に位置する第4肺領域を設定することができる。
上記第1態様において、例えば、
前記検出では、左横隔膜ドーム陰影、前記左背側肺底陰影、椎体の左境界線のうち少なくとも前記左横隔膜ドーム陰影、前記左背側肺底陰影の境界線が検出され、
前記設定では、前記第4肺領域は、前記検出で検出された境界線のうち前記左横隔膜ドーム陰影、前記左背側肺底陰影で挟まれる領域により設定されてもよい。
この態様によれば、検出された境界線に基づいて、より精度良く、胸部X線画像において第1肺領域の下側に位置する第4肺領域を設定することができる。
上記第1態様において、例えば、
前記検出では、左横隔膜ドーム陰影、前記左背側肺底陰影、椎体の左境界線の境界線が検出され、
前記設定では、前記第4肺領域は、前記検出で検出された前記左横隔膜ドーム陰影、前記左背側肺底陰影、前記椎体の左境界線で挟まれる領域により設定されてもよい。
この態様によれば、検出された境界線に基づいて、より精度良く、胸部X線画像において第1肺領域の下側に位置する第4肺領域を設定することができる。
上記第1態様において、例えば、
前記設定では、前記第4肺領域は、前記検出で検出された境界線と、隣り合う前記境界線を接続する補間線と、によって囲まれた、閉じた領域として設定されてもよい。
この態様によれば、検出された複数の境界線で閉じた領域が形成されなくても、より確実に、胸部X線画像において第1肺領域の下側に位置する第4肺領域を設定することができる。
上記第1態様において、例えば、
前記コンピュータが、前記検出における前記左背側肺底陰影の検出結果の確からしさを表す信頼度を算出し、
前記信頼度が所定の第2閾値以下であれば、前記コンピュータが、前記検出で検出された前記左背側肺底陰影以外の境界線の位置に基づいて、前記左背側肺底陰影を推定し、
前記第4肺領域の設定では、前記信頼度が前記第2閾値よりも高ければ、前記検出で検出された前記左背側肺底陰影が利用され、前記信頼度が前記第2閾値以下であれば、前記推定で推定された前記左背側肺底陰影が利用されてもよい。
この態様によれば、左背側肺底陰影の検出結果の確からしさを表す信頼度が第2閾値以下と低くても、推定された左背側肺底陰影を利用して、第4肺領域を設定することができる。
上記第1態様において、例えば、
前記第4肺領域の設定において、前記推定で推定された前記左背側肺底陰影が利用されている場合は、前記出力では、さらに、左肺底を含む領域への注意を促す情報が出力されてもよい。
この態様によれば、ユーザに対して、左肺底を含む領域に注意を向けさせることができる。
上記第1態様において、例えば、
前記出力では、前記判定を表す情報として、異常状態であると判定された、前記第3肺領域に含まれる領域の画像と、前記第3肺領域に含まれる領域の異常状態の内容と、が出力されて、ディスプレイに表示されてもよい。
この態様によれば、有益な情報をユーザに提示することができる。
上記第1態様において、例えば、
前記コンピュータが、さらに、前記設定で設定された前記第3肺領域内において複数の局所領域1~nを分割設定し、前記複数の局所領域1~nは前記第3肺領域に含まれる領域を含み、前記nは2以上の自然数であり、
前記抽出では、前記血管指標として、局所領域iに存在する少なくとも1つの肺血管の太さおよび密度の少なくとも一方を表す血管指標iが抽出され、前記iは1からnまでの自然数であり、
前記判定では、前記血管指標iと、前記血管指標iを抽出した方法を用いて正常状態の胸部X線画像の前記局所領域iに相当する領域から予め抽出された指標を用いた基準指標iと、に基づいて、前記局所領域iが異常状態であるか否かが判定され、
前記出力では、異常状態であると判定された局所領域jの画像と、前記局所領域jの異常状態の内容と、が前記ディスプレイに表示され、前記jは1以上でn以下の自然数であってもよい。
この態様によれば、第3肺領域内において複数の局所領域が分割設定され、複数の局所領域毎に異常状態であるか否かが判定されているため、異常と判定される領域の分解能を向上することができる。
上記第1態様において、例えば、
前記コンピュータが、さらに、前記複数の局所領域1~nのうち、前記取得した胸部X線画像における肺門部からの2次元距離に応じて、それぞれ異なる局所領域を含む複数のグループ1~mを生成し、前記mは2以上の自然数であり、
前記抽出では、前記血管指標として、グループkに存在する少なくとも1つの肺血管の太さおよび密度の少なくとも一方を表す血管指標kが抽出され、前記kは1からmまでの自然数であり、
前記判定では、前記血管指標kと、前記血管指標kを抽出した方法を用いて正常状態の胸部X線画像の前記グループkに相当する領域から予め抽出された指標を用いた基準指標kと、に基づいて、前記グループkが異常状態であるか否かが判定され、
前記出力では、異常状態であると判定されたグループhの画像と、前記グループhの異常状態の内容と、が前記ディスプレイに表示され、前記hは1以上でm以下の自然数であってもよい。
この態様によれば、肺血管の太さおよび密度が類似した局所領域がグループ化されるので、グループ毎に、より精度良く血管指標を求めることができる。また、予め求められる基準指標については、基準指標を求めるための例えば学習用の画像数が少ない場合でも、基準指標を求めるための画像数を局所領域の画像数より増やすことができ、基準指標が求めやすくなる。
上記第1態様において、例えば、
前記モデルは、画素単位で予測を行うニューラルネットワークを使用して、正常状態の胸部X線画像である学習用胸部X線画像を入力データとし、前記学習用胸部X線画像における境界線を示す画像を教師データとして、前記学習用胸部X線画像から前記境界線が検出されるように機械学習されたモデルであってもよい。
この態様では、画素単位で予測を行うニューラルネットワークを使用して、正常状態の胸部X線画像である学習用胸部X線画像を入力データとし、学習用胸部X線画像における境界線を示す画像を教師データとして、学習用胸部X線画像から境界線が検出されるように機械学習されたモデルを用いて、境界線が検出される。したがって、画素単位で予測が行われるため、境界線を高精度で検出することができる。
上記第1態様において、例えば、
前記基準指標は、前記血管指標を抽出した方法を用いて正常状態の胸部X線画像の前記第3肺領域に含まれる領域に相当する領域から予め抽出された指標の確率密度関数、または前記血管指標を抽出した方法を用いて正常状態の胸部X線画像の前記第3肺領域に含まれる領域に相当する領域から予め抽出された指標について予め設定された閾値であってもよい。
この態様によれば、確率密度関数または閾値を用いて、より精度良く、異常検知を行うことができる。
本開示の第2態様は、
コンピュータを、
胸部X線画像を取得する取得部、
前記取得した胸部X線画像において、X線透過率の範囲が異なる複数の解剖学的構造の画像の境界線を、モデルを用いて検出する検出部、前記モデルは前記検出前に機械学習を用いて構築され、
検出された前記境界線を基に、前記取得した胸部X線画像において、肺と心臓とが重なる第1肺領域および肺と肝臓とが重なる第2肺領域のうち少なくとも一方を含む第3肺領域を設定する設定部、
前記第3肺領域に含まれる領域に存在する少なくとも1つの肺血管の太さおよび密度の少なくとも一方を表す血管指標を抽出し、抽出した前記血管指標と、前記血管指標を抽出した方法を用いて正常状態の胸部X線画像の前記第3肺領域に含まれる領域に相当する領域から予め抽出された指標を用いた基準指標と、に基づいて前記第3肺領域に含まれる領域が異常状態であるか否かを判定する判定部、
前記第3肺領域に含まれる領域が異常状態であると判定されると、前記判定部の判定結果を表す情報を出力する出力制御部、
として機能させる異常検出プログラムである。
この第2態様では、胸部X線画像に描出される様々な境界線に着目して、境界線が検出されている。このため、線構造に基づき、肺と心臓とが重なる第1肺領域、および/または、肺と肝臓とが重なる第2肺領域を含む第3肺領域を設定することが可能である。したがって、第2態様によれば、第3肺領域に含まれる領域において異常の有無を判定することができる。第3肺領域に含まれる領域に異常があると判定されると、判定結果を表す情報が出力される。このため、有益な情報をユーザに提供することができる。その結果、第2態様の異常検出プログラムは、読影医に有益な情報を提供するだけでなく、臨床医又は放射線技師の診断又は自己学習、及び、医学生の教育又は自己学習に利用することが可能である。第2態様の異常検出プログラムによれば、従来の胸部X線画像の診断支援技術における異常検知技術では、異常検知対象領域に含められていない場合が多かった、第1肺領域(胸部X線画像において肺と心臓とが重なる領域)、および/または、第2肺領域(胸部X線画像において肺と肝臓とが重なる領域)に対して、血管指標に基づいて、異常検知を行うことができる。
本開示の第3態様は、
胸部X線画像を取得する取得部と、
前記取得した胸部X線画像において、X線透過率の範囲が異なる複数の解剖学的構造の画像の境界線を、モデルを用いて検出する検出部と、前記モデルは前記検出前に機械学習を用いて構築され、
検出された前記境界線を基に、前記取得した胸部X線画像において、肺と心臓とが重なる第1肺領域および肺と肝臓とが重なる第2肺領域のうち少なくとも一方を含む第3肺領域を設定する設定部と、
前記第3肺領域に含まれる領域に存在する少なくとも1つの肺血管の太さおよび密度の少なくとも一方を表す血管指標を抽出し、抽出した前記血管指標と、前記血管指標を抽出した方法を用いて正常状態の胸部X線画像の前記第3肺領域に含まれる領域に相当する領域から予め抽出された指標を用いた基準指標と、に基づいて前記第3肺領域に含まれる領域が異常状態であるか否かを判定する判定部と、
前記第3肺領域に含まれる領域が異常状態であると判定されると、前記判定部の判定結果を表す情報を出力する出力制御部と、
を備える異常検出装置である。
この第3態様では、胸部X線画像に描出される様々な境界線に着目して、境界線が検出されている。このため、線構造に基づき、肺と心臓とが重なる第1肺領域、および/または、肺と肝臓とが重なる第2肺領域を含む第3肺領域を設定することが可能である。したがって、第3態様によれば、第3肺領域に含まれる領域において異常の有無を判定することができる。第3肺領域に含まれる領域に異常があると判定されると、判定結果を表す情報が出力される。このため、有益な情報をユーザに提供することができる。その結果、第3態様の異常検出装置は、読影医に有益な情報を提供するだけでなく、臨床医又は放射線技師の診断又は自己学習、及び、医学生の教育又は自己学習に利用することが可能である。第3態様の異常検出装置によれば、従来の胸部X線画像の診断支援技術における異常検知技術では、異常検知対象領域に含められていない場合が多かった、第1肺領域(胸部X線画像において肺と心臓とが重なる領域)、および/または、第2肺領域(胸部X線画像において肺と肝臓とが重なる領域)に対して、血管指標に基づいて、異常検知を行うことができる。
本開示の第4態様は、
胸部X線画像を取得する取得部と、
前記取得した胸部X線画像において、X線透過率の範囲が異なる複数の解剖学的構造の画像の境界線を、モデルを用いて検出する検出部と、前記モデルは前記検出前に機械学習を用いて構築され、
検出された前記境界線を基に、前記取得した胸部X線画像において、肺と心臓とが重なる第1肺領域および肺と肝臓とが重なる第2肺領域のうち少なくとも一方を含む第3肺領域を設定する設定部と、
前記第3肺領域に含まれる領域に存在する少なくとも1つの肺血管の太さおよび密度の少なくとも一方を表す血管指標を抽出し、抽出した前記血管指標と、前記血管指標を抽出した方法を用いて正常状態の胸部X線画像の前記第3肺領域に含まれる領域に相当する領域から予め抽出された指標を用いた基準指標と、に基づいて前記第3肺領域に含まれる領域が異常状態であるか否かを判定する判定部と、
前記第3肺領域に含まれる領域が異常状態であると判定されると、前記判定部の判定結果を表す情報を出力する出力制御部と、
を備えるサーバ装置である。
この第4態様では、肺と心臓とが重なる第1肺領域、および/または、肺と肝臓とが重なる第2肺領域を含む第3肺領域が設定され、基準指標と血管指標とに基づいて第3肺領域に含まれる領域が異常状態であるか否かが判定される。したがって、第4態様によれば、第3肺領域に含まれる領域において異常の有無を判定することができる。第3肺領域に含まれる領域に異常があると判定されると、判定部の判定結果を表す情報が、外部の端末装置に送信される。このため、有益な情報を端末装置のユーザに提供することができる。その結果、第4態様のサーバ装置は、読影医に有益な情報を提供するだけでなく、臨床医又は放射線技師の診断又は自己学習、及び、医学生の教育又は自己学習に利用することが可能である。第4態様のサーバ装置によれば、従来の胸部X線画像の診断支援技術における異常検知技術では、異常検知対象領域に含められていない場合が多かった、第1肺領域(胸部X線画像において肺と心臓とが重なる領域)、および/または、第2肺領域(胸部X線画像において肺と肝臓とが重なる領域)に対して、血管指標に基づいて、異常検知を行うことができる。
本開示の第5態様は、
コンピュータが、胸部X線画像を取得し、
前記コンピュータが、前記取得した胸部X線画像において、肺と心臓とが重なる第1肺領域および/または前記肺と肝臓とが重なる第2肺領域を含む第3肺領域に含まれる領域が異常状態を示しているか否かを判定し、
前記第3肺領域に含まれる領域が異常状態を示していると判定されると、前記コンピュータが、前記第3肺領域に含まれる領域が異常であることを表す情報を出力する異常検出方法である。
この第5態様では、取得した胸部X線画像において、肺と心臓とが重なる第1肺領域、および/または、肺と肝臓とが重なる第2肺領域を含む第3肺領域に含まれる領域において異常の有無を判定することができる。第3肺領域に含まれる領域に異常があると判定されると、第3肺領域に含まれる領域が異常であることを表す情報が出力される。このため、有益な情報をユーザに提供することができる。その結果、第5態様の異常検出方法は、読影医に有益な情報を提供するだけでなく、臨床医又は放射線技師の診断又は自己学習、及び、医学生の教育又は自己学習に利用することが可能である。第5態様の異常検出方法によれば、従来の胸部X線画像の診断支援技術における異常検知技術では、異常検知対象領域に含められていない場合が多かった、第1肺領域(胸部X線画像において肺と心臓とが重なる領域)、および/または、第2肺領域(胸部X線画像において肺と肝臓とが重なる領域)に対して、異常検知を行うことができる。
上記第5態様において、例えば、
前記コンピュータが、さらに、前記取得した胸部X線画像において、肺の画像と心臓の画像との第1境界線および/または前記肺の画像と肝臓の画像との第2境界線を検出し、
前記コンピュータが、さらに、前記第1境界線および/または前記第2境界線を基に、前記取得した胸部X線画像において、前記第3肺領域を設定し、
前記コンピュータが、さらに、前記第3肺領域に含まれる領域における、血管の密度を示す血管指標を抽出し、
前記判定では、前記血管指標と、正常状態の胸部X線画像の前記第3肺領域に含まれる領域に相当する領域における血管の密度を示す基準指標と、に基づいて前記第3肺領域に含まれる領域が異常状態を示しているか否かが判定されてもよい。
この態様によれば、正常状態の胸部X線画像の第3肺領域に含まれる領域に相当する領域における血管の密度を示す基準指標を用いているので、より精度良く、異常検知を行うことができる。
本開示の第6態様は、
コンピュータが、胸部X線画像を取得し、
前記コンピュータが、前記取得した胸部X線画像において、X線透過率の範囲が異なる複数の解剖学的構造の画像の境界線を、モデルを用いて検出し、前記モデルは前記検出前に機械学習を用いて構築され、
前記コンピュータが、検出された前記境界線を基に、前記取得した胸部X線画像において、肺と心臓とが重なる第1肺領域および肺と肝臓とが重なる第2肺領域のうち少なくとも一方を含む第3肺領域を設定し、
前記コンピュータが、前記第3肺領域に含まれる領域に存在する少なくとも1つの肺血管の太さおよび密度の少なくとも一方を表す血管指標を抽出し、
前記コンピュータが、前記抽出した血管指標を出力する、情報処理方法である。
この第6態様では、胸部X線画像に描出される様々な境界線に着目して、境界線が検出されている。このため、境界線に基づき、肺と心臓とが重なる第1肺領域、および/または、肺と肝臓とが重なる第2肺領域を含む第3肺領域を設定することが可能である。したがって、第6態様によれば、第3肺領域に含まれる領域に存在する少なくとも1つの肺血管の太さおよび密度の少なくとも一方を表す血管指標を抽出することができる。抽出された血管指標は、出力される。このため、第3肺領域に含まれる領域における血管指標をユーザに提供することができる。その結果、ユーザは、第3肺領域に含まれる領域における血管指標を利用することができる。例えば、ユーザは、第3肺領域に含まれる領域における血管指標を用いて、胸部X線画像における第3肺領域に含まれる領域における肺血管の状態を客観的な数値により把握することができる。よって、ユーザは、より精度よく、肺血管の状態が異常か否かを診断することが可能になる。
(実施の形態)
以下、本開示の実施の形態が、図面を参照しながら説明される。なお、各図面において、同じ構成要素には同じ符号が用いられ、適宜、説明は省略される。
(第1実施形態)
図1は、第1実施形態における、胸部X線画像の異常表示制御方法を実行する異常表示制御装置100の構成を概略的に示すブロック図である。図2は、医療機関内のネットワーク構成410を概略的に示すブロック図である。
図2に示されるように、医療機関内のネットワーク構成410は、イントラネットワーク400を含む。異常表示制御装置100と、医用画像管理システム200と、胸部X線画像撮影装置300と、がイントラネットワーク400に接続されている。医用画像管理システム200は、胸部X線画像、コンピュータ断層撮影(CT)画像、核磁気共鳴画像法(MRI)によって生成された画像等を保存し、管理する。胸部X線画像撮影装置300は、患者又は健康診断受診者の胸部X線画像を撮影する。胸部X線画像撮影装置300により撮影された胸部X線画像は、医用画像管理システム200に送信されて保存される。
なお、異常表示制御装置100と、医用画像管理システム200と、胸部X線画像撮影装置300とは、必ずしも、同一の医療機関内のイントラネットワーク400上に接続されている必要はない。異常表示制御装置100、及び、医用画像管理システム200は、医療機関の外部に設けられたデータセンター、プライベートクラウドサーバ、パブリッククラウドサーバなどの上で動作するソフトウェアであってもよい。胸部X線画像撮影装置300は、病院内に設置されていても良いし、または、健康診断等で使用される巡回車の中に設置されても良い。医用画像管理システム200は、例えば画像保存通信システム(PACS)である。
図1に示されるように、異常表示制御装置100(異常検出装置の一例に相当)は、正常モデル格納部105、画像メモリ106、通信部107、ディスプレイ108、中央演算処理装置(CPU)120、メモリ121を備えている。異常表示制御装置100は、例えばパーソナルコンピュータで構成される。
通信部107は、イントラネットワーク400を介して、医用画像管理システム200等と通信を行う。正常モデル格納部105は、例えばハードディスク又は半導体メモリ等により構成される。正常モデル格納部105は、予め定義された複数の局所領域(後述)のそれぞれが正常状態を示す場合の、指標の確率密度関数(図30を参照して後述)を特定する情報、および、指標を計算するための式を格納する。確率密度関数を特定する情報については後述する。指標を計算するための式とは、(i)局所領域から線構造(後述)を抽出するアルゴリズムおよび抽出した線構造から得られる指標の計算式、または、(ii)局所領域の画像を次元圧縮するアルゴリズム(後述される主成分分析、または積層オートエンコーダ、または変分オートエンコーダ等)および前記アルゴリズムから局所領域の画像の再構成誤差を計算する式、を指す。指標は、本実施形態では、後述のように、血管の太さ、および/または、血管の密度であり、「血管指標」とも称される。
画像メモリ106は、例えばハードディスク又は半導体メモリ等により構成される。画像メモリ106は、取得された対象胸部X線画像を格納する。ディスプレイ108は、例えば、液晶モニタにより構成され、ユーザである医師又は放射線技師が、読影対象の胸部X線画像である対象胸部X線画像を表示する。また、ディスプレイ108は、対象胸部X線画像が撮影された患者のカルテ情報、画像診断の結果を記入するレポート入力画面などを表示する。
メモリ121は、例えば半導体メモリ等により構成される。メモリ121は、例えばリードオンリーメモリ(ROM)、ランダムアクセスメモリ(RAM)、電気的に消去書き換え可能なROM(EEPROM)などを含む。メモリ121のROMは、CPU120を動作させる第1実施形態の制御プログラムを記憶する。
CPU120は、メモリ121に記憶されている第1実施形態の制御プログラムを実行することによって、検出部101、肺領域設定部102、局所領域設定部103、異常判定部104、表示制御部122、通信制御部123として機能する。検出部101は、画像メモリ106に保存されている対象胸部X線画像を読み出し、読み出した対象胸部X線画像に含まれる複数の線構造を検出する。肺領域設定部102は、検出部101により検出された複数の線構造のうち、少なくとも2つの線構造で囲まれた領域を肺領域として設定する。肺領域は、胸部X線画像において、肺の一部の領域でもよく、肺の全ての領域でもよい。局所領域設定部103は、設定された肺領域を分割して、肺領域の内部に複数の局所領域を設定する。異常判定部104は、局所領域設定部103で設定されたそれぞれの局所領域について指標を算出し、正常モデル格納部105に格納された、対応する局所領域が正常状態である場合の指標の確率密度関数と、算出した指標と、を比較することにより、異常状態であるか否かを局所領域ごとに判定する。表示制御部122、通信制御部123の機能は、それぞれ、後述される。
図3は、第1実施形態に係る異常表示制御装置100により実行される処理手順を概略的に示すフローチャートである。ステップS50において、通信制御部123(取得部の一例に相当)は、通信部107を介して、読影対象の胸部X線画像である対象胸部X線画像を医用画像管理システム200から取得し、取得した対象胸部X線画像を画像メモリ106に保存する。ステップS100において、検出部101は、対象胸部X線画像を画像メモリ106から読み出して、その対象胸部X線画像から、予め定義された2個以上の線構造を検出する。
ここで、人体の解剖学的構造(例えば心臓等の内臓)が胸部X線画像に描出される領域または境界線、または、人体の解剖学的構造の一部が胸部X線画像に描出される領域または境界線、または、X線透過率が互いに異なる人体の複数の解剖学的構造間の境界が胸部X線画像に描出される境界線、が「構造物」と定義される。特に、構造物の中でも、前記境界線、線状に描出される人体の解剖学的構造、および線状に描出される人体の解剖学的構造の一部、が「線構造」と定義される。線構造ではない構造物、すなわち、線状とは見做せない構造物が「領域構造」と定義される。線構造であっても、画像上では幅として1画素よりも大きいものがあるため「線構造」と「領域構造」との差は不明確になる恐れがある。そこで、例えば、以下のようにして「線構造」と「領域構造」とを区別することができる。
(i)抽出した構造物の画像(例えば図4B、図5B)を適切な閾値で二値化する。
(ii)二値化後の構造物の画像に対して幅1画素になるまで細線化処理を行う。
(iii)細線化処理前の画像における構造物の面積に対する、細線化処理後の画像における構造物の面積の比を計算し、比が予め定めた閾値以上であれば、その構造物は「線構造」と判定し、そうでなければ「領域構造」と判定する。この閾値は、構造物が線状であると見做せるような適切な値に設定されればよい。線構造の例が図4A~4Cと図5A~5Cとに示され、領域構造の例が図6A~6Cに示される。
図4Aは、下行大動脈の陰影(即ち、下行大動脈のX線透過率と肺実質のX線透過率との違いにより描出される境界線)を含む胸部X線画像Ixを示す図である。図4Bは、下行大動脈の陰影のマスク画像Pxを示す図である。図4Cは、図4Aの胸部X線画像Ixに図4Bのマスク画像Pxを重畳して表示した画像を示す図である。図5Aは、右背側肺底の陰影(即ち、肺実質の背側底部のX線透過率と腹側臓器のX線透過率との違いにより描出される境界線)を含む胸部X線画像Ixを示す図である。図5Bは、右背側肺底の陰影のマスク画像Pyを示す図である。図5Cは、図5Aの胸部X線画像Ixに図5Bのマスク画像Pyを重畳して表示した画像を示す図である。図6Aは、第一胸椎が投影された領域を含む胸部X線画像Ixを示す図である。図6Bは、第1胸椎のマスク画像Pzを示す図である。図6Cは、図6Aの胸部X線画像Ixに図6Bのマスク画像Pzを重畳して表示した画像を示す図である。
マスク画像は、対応する胸部X線画像において構造物が存在する領域を黒色、対応する胸部X線画像において構造物が存在しない領域を白色で表現した二値画像である。なお、構造物が存在する領域を白色、構造物が存在しない領域を黒色で表現してもよい。なお、構造物が存在する領域を人が画像から判定しづらい場合は、マスク画像を、存在可能性を表す中間値を用いて多値(グレースケール)画像として表現してもよい。多値画像の設定方法としては、例えば、1名のマスク画像の作成者が、自らの自信に応じて、自信あり~自信なしを複数段階で設定してもよいし、複数の作成者がそれぞれ二値で作成したマスク画像を平均化することにより作成してもよい。複数胸部X線画像と当該胸部X線画像に対応するマスク画像との組は、機械学習により検出部101を構築する際に使用され、マスク画像は機械学習を行う際の教師データである。マスク画像は、医学知識を持った人により作成される。機械学習が完了して構築された検出部101は、画像メモリ106に保存されている対象胸部X線画像を読み出し、読み出した対象胸部X線画像に含まれる複数の線構造を検出し、検出した線構造の領域を表すマスク画像を出力する。本実施形態および以下の実施形態において、検出部101は、「モデル」の一例に相当する。
本実施の形態では、検出部101として、非特許文献2に開示されるU-Netが用いられる。U-Netは、セマンティックセグメンテーションを行って、入力画像を画素単位で複数の領域に分割する。
図7は、U-Netのアーキテクチャを概略的に示す図である。U-Netは、図7に示されるようなエンコーダECD及びデコーダDCDを備える畳み込みニューラルネットワークであり、U-Netの入力層ILに入力画像が入力されると、U-Netの出力層OLから出力画像が出力される。U-Netを機械学習させるための入力データと教師データたるマスク画像との組は、例えば、図4Aに示す画像と図4Bに示す画像との組、図5Aに示す画像と図5Bに示す画像との組、または、図6Aに示す画像と図6Bに示す画像との組である。
対象胸部X線画像から下行大動脈の陰影を検出する検出部101を構築する際に用いられるU-Netの学習データは、例えば、(入力データ=図4Aに示す胸部X線画像Ix、教師データ=図4Bに示すマスク画像Px)である。対象胸部X線画像を、下行大動脈の陰影を検出する機械学習済みの検出部101に入力すると、検出部101は、入力された対象胸部X線画像から下行大動脈の陰影を検出する。
対象胸部X線画像から右背側肺底の陰影を検出する検出部101を構築する際に用いられるU-Netの学習データは、例えば、(入力データ=図5Aに示す胸部X線画像Ix、教師データ=図5Bに示すマスク画像Py)である。対象胸部X線画像を、右背側肺底の陰影を検出する機械学習済みの検出部101に入力すると、検出部101は、入力された対象胸部X線画像から右背側肺底の陰影を検出する。
対象胸部X線画像から第1胸椎を検出する検出部101を構築する際に用いられるU-Netの学習データは、例えば、(入力データ=図6Aに示す胸部X線画像Ix、教師データ=図6Bに示すマスク画像Pz)である。第1胸椎を検出する機械学習済みの検出部101は、画像メモリ106に保存されている対象胸部X線画像を読み出し、読み出した対象胸部X線画像に含まれる第1胸椎を検出し、第1胸椎の領域画像を出力する。
検出部101は、N(Nは1以上の整数)個の機械学習が完了したU-Net、つまり、機械学習が完了した第1のU-Net、・・・、機械学習が完了した第NのU-Netであってもよい。
胸部X線画像とそれに対応するマスク画像との組をN個、つまり、胸部X線画像とそれに対応するマスク画像との第1の組、・・・、胸部X線画像とそれに対応するマスク画像との第Nの組を準備して、第1のU-Netを胸部X線画像とそれに対応するマスク画像との第1の組を用いて機械学習させ、・・・、第NのU-Netを胸部X線画像とそれに対応するマスク画像との第Nの組を用いて機械学習させてもよい。これにより、機械学習が完了したN個のU-Netが構築できる。
検出部101は、1個の機械学習が完了したU-Netであってもよい。当該U-Netを構築するために、胸部X線画像とそれに対応するマスク画像とのN個の組を用いて、当該U-Netを機械学習させてもよい。つまり、N個の線構造を1個のU-Netで検出するMulti-class segmentationとしてU-Netを構築してもよい。なお、セマンティックセグメンテーションを行う人工ニューラルネットワークとして、U-Netに代えて、非特許文献3に開示されるような他のニューラルネットワークが用いられてもよい。
図3に戻って、ステップS200において、肺領域設定部102(設定部の一例に相当)は、検出された線構造を用いて、胸部X線画像において、肺が投影された領域である肺領域を設定する。図8から図13に、肺領域設定部102により、胸部X線画像における肺領域が設定された例を示す。
図8、図9は、胸部X線画像において、肺と肺以外の臓器、例えば肝臓と、横隔膜とが重なる領域を設定する方法およびその領域の一例を示す図である。図10、図11は、胸部X線画像において、肺と肺以外の臓器、例えば心臓と、が重なる領域を設定する方法およびその領域の一例を示す図である。図12、図13は、胸部X線画像において、肺と肺以外の臓器、例えば胃と、が重なる領域を設定する方法およびその領域の一例を示す図である。
図8において、画像Ixは医師が診断する診断対象の胸部X線画像であり(本実施形態において処理される処理対象と言うこともできる)、画像Ixpは画像Ixにおける領域Rxを拡大表示した画像である。また、線構造Px1、Px2,Px3は、検出部101が検出した線構造であり、それぞれ、右横隔膜ドーム陰影、右背側肺底陰影、椎体の右境界線である。肺領域設定部102は、これらの検出部101が検出した線構造を用いて、画像Ixpにおいて、肺と肺以外の臓器、例えば肝臓および横隔膜と、が重なる領域を設定する。肺領域設定部102は、各線構造が途中で途切れている場合は、線構造の端と、その端から最も近い自身の線構造上の点と、を直線の補間線で接続し、線構造同士の間が離れている場合は、線構造の端と、その端から最も近い他の線構造上の点と、を直線の補間線で接続する。線構造Px1の2つの端点のうち線構造Px2に最も近い端点A1と、線構造Px2上の点のうち端点A1に最も近い点B1と、を結ぶ直線が補間線Paである。線構造Px1の2つの端点のうち線構造Px3に最も近い端点A2と、線構造Px3上の点のうち端点A2に最も近い点B2と、を結ぶ直線が補間線Pbである。これにより、線構造Px1,Px2,Px3および補間線Pa,Pbで囲まれる閉じた領域Ax1が定義される。肺領域設定部102は、この領域Ax1を肺の画像を示す領域に含まれる領域として設定する。同様に、図9から図13には、肺領域設定の他の例が示される。
図9において、画像Ixは医師が診断する診断対象の胸部X線画像であり(本実施形態において処理される処理対象と言うこともできる)、画像Ixpは画像Ixにおける領域Rxを拡大表示した画像である。また、線構造Px1、Px2は、検出部101が検出した線構造であり、それぞれ、右横隔膜ドーム陰影、右背側肺底陰影である。肺領域設定部102は、これらの検出部101が検出した線構造を用いて、画像Ixpにおいて、肺と肺以外の臓器、例えば肝臓および横隔膜と、が重なる領域を設定する。肺領域設定部102は、各線構造が途中で途切れている場合は、線構造の端と、その端から最も近い自身の線構造上の点と、を直線の補間線で接続し、線構造同士の間が離れている場合は、線構造の端と、その端から最も近い他の線構造上の点と、を直線の補間線で接続する。線構造Px1の2つの端点のうち線構造Px2に最も近い端点A1と、線構造Px2上の点のうち端点A1に最も近い点B1と、を結ぶ直線が補間線Paである。線構造Px1の2つの端点のうち線構造Px2に最も近い他の端点A2と、線構造Px2上の点のうち端点A2に最も近い点B3と、を結ぶ直線が補間線Pcである。これにより、線構造Px1,Px2および補間線Pa,Pcで囲まれる閉じた領域Ax2が定義される。肺領域設定部102は、この領域Ax2を肺の画像を示す領域に含まれる領域として設定する。
図10において、画像Ixは医師が診断する診断対象の胸部X線画像であり(本実施形態において処理される処理対象と言うこともできる)、画像Ixpは画像Ixにおける領域Rxを拡大表示した画像である。また、線構造Px1、Px3、Px4、Px6,Px7,Px8は、検出部101が検出した線構造であり、それぞれ、右横隔膜ドーム陰影、椎体の右境界、右房陰影、下行大動脈陰影、左室陰影、左横隔膜ドーム陰影である。肺領域設定部102は、これらの検出部101が検出した線構造を用いて、画像Ixpにおいて、肺と肺以外の臓器、例えば心臓と、が重なる領域を設定する。肺領域設定部102は、各線構造が途中で途切れている場合は、線構造の端と、その端から最も近い自身の線構造上の点と、を直線の補間線で接続し、線構造同士の間が離れている場合は、線構造の端と、その端から最も近い他の線構造上の点と、を直線の補間線で接続する。線構造Px4の2つの端点のうち線構造Px3に最も近い端点A4と、線構造Px3上の点のうち端点A4に最も近い点B4と、を結ぶ直線が補間線Pdである。線構造Px4の2つの端点のうち線構造Px3に最も近い他の端点A5と、線構造Px3上の点のうち端点A5に最も近い点B5と、を結ぶ直線が補間線Peである。線構造Px7の2つの端点のうち線構造Px6に最も近い端点A6と、線構造Px6上の点のうち端点A6に最も近い点B6と、を結ぶ直線が補間線Pfである。線構造Px6の2つの端点のうち線構造Px8に最も近い端点A7と、線構造Px8上の点のうち端点A7に最も近い点B7と、を結ぶ直線が補間線Pgである。これにより、線構造Px4,Px3および補間線Pd,Peで囲まれる閉じた領域Ax3と、線構造Px6,Px7,Px8および補間線Pf,Pgで囲まれる閉じた領域Ax4と、が定義される。肺領域設定部102は、これらの領域Ax3,Ax4を肺の画像を示す領域に含まれる領域として設定する。
図11において、画像Ixは医師が診断する診断対象の胸部X線画像であり(本実施形態において処理される処理対象と言うこともできる)、画像Ixpは画像Ixにおける領域Rxを拡大表示した画像である。また、線構造Px1、Px3、Px4、Px5,Px7,Px8は、検出部101が検出した線構造であり、それぞれ、右横隔膜ドーム陰影、椎体の右境界、右房陰影、椎体の左境界、左室陰影、左横隔膜ドーム陰影である。肺領域設定部102は、これらの検出部101が検出した線構造を用いて、画像Ixpにおいて、肺と肺以外の臓器、例えば心臓と、が重なる領域を設定する。肺領域設定部102は、各線構造が途中で途切れている場合は、線構造の端と、その端から最も近い自身の線構造上の点と、を直線の補間線で接続し、線構造同士の間が離れている場合は、線構造の端と、その端から最も近い他の線構造上の点と、を直線の補間線で接続する。線構造Px4の2つの端点のうち線構造Px3に最も近い端点A4と、線構造Px3上の点のうち端点A4に最も近い点B4と、を結ぶ直線が補間線Pdである。線構造Px4の2つの端点のうち線構造Px3に最も近い他の端点A5と、線構造Px3上の点のうち端点A5に最も近い点B5と、を結ぶ直線が補間線Peである。線構造Px7の2つの端点のうち線構造Px5に最も近い端点A8と、線構造Px5上の点のうち端点A8に最も近い点B8と、を結ぶ直線が補間線Phである。線構造Px8の2つの端点のうち線構造Px5に最も近い端点A9と、線構造Px5上の点のうち端点A9に最も近い点B9と、を結ぶ直線が補間線Piである。これにより、線構造Px4,Px3および補間線Pd,Peで囲まれる閉じた領域Ax3と、線構造Px5,Px7,Px8および補間線Ph,Piで囲まれる閉じた領域Ax5と、が定義される。肺領域設定部102は、これらの領域Ax3,Ax5を肺の画像を示す領域に含まれる領域として設定する。なお、検出部101により検出された線構造同士が接続されている場合には、補間線は不要となる。
図12において、画像Ixは医師が診断する診断対象の胸部X線画像であり(本実施形態において処理される処理対象と言うこともできる)、画像Ixpは画像Ixにおける領域Rxを拡大表示した画像である。また、線構造Px5、Px9,Px10は、検出部101が検出した線構造であり、それぞれ、椎体の左境界線、左横隔膜ドーム陰影、左背側肺底陰影である。肺領域設定部102は、これらの検出部101が検出した線構造を用いて、画像Ixpにおいて、肺と肺以外の臓器、例えば胃および横隔膜と、が重なる領域を設定する。肺領域設定部102は、各線構造が途中で途切れている場合は、線構造の端と、その端から最も近い自身の線構造上の点と、を直線の補間線で接続し、線構造同士の間が離れている場合は、線構造の端と、その端から最も近い他の線構造上の点と、を直線の補間線で接続する。線構造Px10の2つの端点のうち線構造Px5に最も近い端点A10と、線構造Px5上の点のうち端点A10に最も近い点B10と、を結ぶ直線が補間線Pjである。線構造Px10の2つの端点のうち線構造Px9に最も近い他の端点A11と、線構造Px9上の点のうち端点A11に最も近い点B11と、を結ぶ直線が補間線Pkである。線構造Px9の2つの端点のうち線構造Px5に最も近い端点A12と、線構造Px5上の点のうち端点A12に最も近い点B12と、を結ぶ直線が補間線Plである。これにより、線構造Px5,Px9,Px10および補間線Pj,Pk,Plで囲まれる閉じた領域Ax6が定義される。肺領域設定部102は、この領域Ax6を肺の画像を示す領域に含まれる領域として設定する。
図13において、画像Ixは医師が診断する診断対象の胸部X線画像であり(本実施形態において処理される処理対象と言うこともできる)、画像Ixpは画像Ixにおける領域Rxを拡大表示した画像である。また、線構造Px9、Px10は、検出部101が検出した線構造であり、それぞれ、左横隔膜ドーム陰影、左背側肺底陰影である。肺領域設定部102は、これらの検出部101が検出した線構造を用いて、画像Ixpにおいて、肺と肺以外の臓器、例えば胃および横隔膜と、が重なる領域を設定する。肺領域設定部102は、各線構造が途中で途切れている場合は、線構造の端と、その端から最も近い自身の線構造上の点と、を直線の補間線で接続し、線構造同士の間が離れている場合は、線構造の端と、その端から最も近い他の線構造上の点と、を直線の補間線で接続する。線構造Px10の2つの端点のうち線構造Px9に最も近い端点A10と、線構造Px9上の点のうち端点A10に最も近い点B13と、を結ぶ直線が補間線Pmである。線構造Px10の2つの端点のうち線構造Px9に最も近い他の端点A11と、線構造Px9上の点のうち端点A11に最も近い点B11と、を結ぶ直線が補間線Pkである。これにより、線構造Px9,Px10および補間線Pk,Pmで囲まれる閉じた領域Ax7が定義される。肺領域設定部102は、この領域Ax7を肺の画像を示す領域に含まれる領域として設定する。
なお、線構造Px2(右背側肺底陰影、図8、図9)、線構造Px10(左背側肺底陰影、図12、図13)は、X線量などの撮影時の設定値、コントラスト変換などの撮影後の画像処理時の設定値、被写体の人物の体格(特に肥満による腹部脂肪でのX線散乱)によっては、ステップS100(図3)での線構造検出に必要な輝度コントラストが不足し、線構造検出に失敗する可能性がある。そこで、肺領域設定部102は、検出部101が検出した線構造の確からしさを表す信頼度を算出してもよい。
算出した信頼度が所定の閾値(第1閾値)よりも高ければ、肺領域設定部102は、肺と他の臓器、例えば横隔膜および肝臓とが重なる領域(第2肺領域の一例に相当)の設定には、検出部101が検出した線構造(例えば、右背側肺底陰影)を利用する。一方、算出した信頼度が所定の閾値より高くなければ、肺領域設定部102は、検出部101が検出した、他の所定の解剖学的構造の位置に基づいて、別途、線構造(例えば、右背側肺底陰影)を推定し、推定した線構造(例えば、右背側肺底陰影)を利用して、上記第2肺領域を設定してもよい。
算出した信頼度が所定の閾値(第2閾値)よりも高ければ、肺領域設定部102は、肺と他の臓器、例えば横隔膜および胃等の腹部臓器とが重なる領域(第4肺領域の一例に相当)の設定には、検出部101が検出した線構造(例えば、左背側肺底陰影)を利用する。一方、算出した信頼度が所定の閾値より高くなければ、肺領域設定部102は、検出部101が検出した、他の所定の解剖学的構造の位置に基づいて、別途、線構造(例えば、左背側肺底陰影)を推定し、推定した線構造(例えば、左背側肺底陰影)を利用して、上記第4肺領域を設定してもよい。
なお、推定する線構造として、右背側肺底陰影および左背側肺底陰影に限らず、他の線構造でもよい。他の線構造としては、例えば、左右の横隔膜ドームを推定してもよい。左右の横隔膜ドームを推定する理由は、特に女性の場合、胸部X線画像において、乳房の陰影と左右の横隔膜ドームとが重なることに起因して、左右の横隔膜ドーム検出の信頼度が低下する場合があるからである。左横隔膜ドームを推定する理由は、さらに、胸部X線画像において、男女を問わず、画像に写る胃泡が、左横隔膜ドームの付近に位置することに起因して、左横隔膜ドーム検出の信頼度が低下する場合があるからである。
検出部101が検出した線構造の確からしさを表す信頼度として、例えば、ニューラルネットワークの出力層の値を利用することができる。例えば図7で表されるU-Netでは、機械学習時には、ユーザは、出力層OLに検出したいマスク画像を教師データとして設定する。具体的には、ユーザは、例えば図4Bの黒色で表されるマスク画像Pxの領域を値1.0とし、白色で表される背景領域を値0.0とする教師データを出力層OLに設定する。機械学習済みのU-Net(つまり下行大動脈の陰影を検出する検出部101)において、未知の胸部X線画像を入力層ILに入力して、図4Bの解剖学的構造を検出させたとき、U-Netの出力層OLに出力される出力値は画素毎に0.0~1.0の値をとる。この場合、出力値が1.0に近い程、U-Netが自信を持っていると解釈し、出力値が0.0に近い程、U-Netが自信を持てていないと解釈することもできる。よって、出力値が0.0<出力値≦1.0の範囲である、画像上で互いに近い領域を、ある解剖学的構造に対応する領域と見なし、それらの値の平均値を、その解剖学的構造の信頼度として利用することができる。
代替的に、肺領域設定部102は、線構造の位置または面積などの指標を、予め多数の正常症例を基に求めた、位置または面積などの指標の確率密度関数と比較することで、検出部101が検出した線構造の確からしさを表す信頼度を算出することができる。
例えば、線構造の位置の指標は、次のようにして求められる。すなわち、予め、図4B、図5B、図6Bに示されるような二値マスク画像を学習用として大量に用意しておく。構造物Pp毎に、かつサンプルj毎に、マスク領域の重心座標(GXpj,GYpj)を算出しておき、この二次元重心座標を位置の指標とする。肺領域設定部102は、このようにして学習用の二値マスク画像から算出した重心座標(GXpj,GYpj)の二次元確率密度関数と比較することで、検出部101が検出した線構造の確からしさを表す信頼度を算出することができる。
なお、胸部X線画像撮影装置300における撮影時の位置ずれ、被写体の体格差を吸収するため、肺に比べて疾患による影響を受けづらく、かつ、撮影時の被写体の姿勢によっても影響を受けづらい骨(肋骨、胸椎など)を検出した後、標準的な位置及び体格に正規化して、正規化された重心座標(NGXpj,NGYpj)の二次元確率密度関数と比較してもよい。
肺領域設定部102は、検出部101により検出された構造物Ppのマスク画像から重心座標を算出する。肺領域設定部102は、算出した重心座標と、正常モデル格納部105に保存されている、構造物Ppに対応する重心座標の二次元確率密度関数とを比較することにより、検出部101が検出した線構造の確からしさを表す信頼度を算出する。
例えば、線構造の面積の指標は、次のようにして求められる。すなわち、予め、図4B、図5B、図6Bに示されるような二値マスク画像を学習用として大量に用意しておく。構造物Pp毎に、かつサンプルj毎に、マスク画像の面積Apjが算出される。この面積が指標とされる。このようにして学習用の二値マスク画像から算出した面積Apjの一次元確率密度関数が求められて、正常モデル格納部105に予め格納される。
肺領域設定部102は、検出部101により検出された構造物Ppのマスク画像から面積を算出する。肺領域設定部102は、算出した面積と、正常モデル格納部105に保存されている、構造物Ppに対応する面積の一次元確率密度関数とを比較することにより、検出部101が検出した線構造の確からしさを表す信頼度を算出する。面積としては、構造物Ppを構成する画素の面積を用いることができる。代替的に、面積として、構造物Ppを構成する画素の個数を用いてもよい。
検出対象が線構造の場合には、肺領域設定部102は、面積に代えて、検出部101が検出した線構造の領域を細線化処理した後の線長を利用して信頼度を算出しても良い。また、検出対象が左背側肺底または右背側肺底の場合には、肺領域設定部102は、胸部X線画像において、左背側肺底が存在すると推定できる左横隔膜ドーム陰影より下方付近の領域、または、右背側肺底が存在すると推定できる右横隔膜ドーム陰影より下方付近の領域に対し、画素値の標準偏差などでコントラストが十分あるか否か(例えば、画素値の標準偏差が所定値以上であるか否か)を判定することで、検出部101が検出した線構造の確からしさを表す信頼度を算出してもよい。
図14は、胸部X線画像において右背側肺底陰影の推定方法を説明する図である。図14には、胸部X線画像Ixpにおいて、画素の濃淡値の閾値処理で得られる肺の画像を示す領域が、右肺の領域RL0、左肺の領域LL0として示されている。図14を用いて、検出部101が検出した他の所定の解剖学的構造の位置に基づいて、右背側肺底陰影を推定する方法が説明される。例えば、予め右横隔膜ドーム陰影と右背側肺底陰影との位置関係を多数の正常症例から求めて、メモリ121に保存しておく。そして、図14に示されるように、肺領域設定部102は、まず、検出部101が検出した右横隔膜ドーム陰影Px1から、上記位置関係に基づき、右背側肺底の存在確率が所定値以上の領域APを求める。次に、肺領域設定部102は、領域APの下端線を、右背側肺底陰影Px2として、推定する。
また、左背側肺底陰影は、胃泡(胃の中の空気やガス)の存在により、右背側肺底陰影よりも、さらに検出しづらい。このため、左背側肺底陰影の信頼度が閾値(第2閾値)以下の場合は、肺領域設定部102は、上述の図14に示される方法を用いて、左背側肺底陰影を推定してもよい。代替的に、肺領域設定部102は、椎骨(胸椎と腰椎)の画像を示す領域である領域VT(図16)の中心線を直線と見なした場合の右背側肺底陰影の線対称となる線を、左背側肺底陰影として推定しても良い。
図15、図16は、胸部X線画像で肺が存在する領域を概略的に示す図である。図17は、肺血管BV、気管TRおよび気管支BRを概略的に示す図である。
図15を用いて、肺領域が説明される。図15では、胸部X線画像Ixpにおいて、画素の濃淡値の閾値処理で得られる肺の画像を示す領域が、領域RL0、領域LL0として示されている。胸部X線画像の熟練読影医は、実際の肺の画像を示す領域である肺領域は、図15において、領域RL0、領域LL0、及び、境界線RLB1、RLB2、LLB1、LLB2を含む線により囲まれた領域を含む領域であると認識する。よって、肺癌や肺炎などの診断では、領域RL0、領域LL0、及び、境界線RLB1、LLB1、RLB2、LLB2を含む線により特定される領域を含む領域を肺領域として診断することが重要である。なお、本実施形態における図3のステップS200において、肺領域設定部102は、領域RL0、および/または、領域LL0を、例えば、特許文献1に記載の技術により、抽出してもよい。
図16を用いて本開示が対象とする肺領域設定の別の例について説明される。図16において、領域VTは椎骨(胸椎と腰椎)の画像を示す領域である。図15における右肺を示す領域RL0、左肺を示す領域LL0以外の肺領域が、図16では、肺の画像を示す領域に含まれる領域であって、検出された線構造を用いて決定された領域RL1,RL2、LL1,LL2である。肺の診断では肺に存在する肺血管の走行に着目することが重要となる。図17に示されるように、肺血管は、正常であれば、中枢の肺門部から末梢の胸膜に向けて、分岐をしながら、太さが細くなっていく。また、現在の胸部X線撮像技術では、末梢の胸膜近辺の血管は視認できない。疾患により、正常時の状態よりも血管が太くなったり、細くなったりする等の変化を、診断対象の胸部X線画像における血管の太さおよび密度の少なくとも一方と、正常時のそれとの差異を利用することにより、異常検知を行うことができる。血管の密度は、例えば、画像の局所領域の面積に対する、同領域において血管が占める面積の割合である。血管の太さについては、例えば、局所領域から血管が占める領域を二値画像として検出した後、1以上の連結領域としてラベリングを行い、連結領域毎に二値画像処理における主軸方向として線の走行方向を特定し、走行方向と直交する方向の長さを線幅として求め、全ての連結領域に対する線幅の平均値とすることができる。血管が占める領域の二値画像の生成には、「非特許文献5」で開示された線状パタン強調を行った後に二値化をすればよい。
図16に戻る。図16における領域VTには、実際には、図15のように肺の領域を示す境界線RLB1、LLB1等が存在している。しかし、それらの領域においては、椎骨の画像パタンにより肺血管の画像が視認しづらい。
胸部X線画像Ixpにおいて、領域RL1(第2肺領域の一例に相当、第3肺領域の一例に相当)は、肺と他の臓器、例えば横隔膜および肝臓とが重なる領域であるが、横隔膜および肝臓はX線吸収率がほぼ一様なため、人体においてそれらの背中側に薄く重なる肺領域(図16の胸部X線画像Ixp上では領域RL1に相当)に関しては、胸部X線画像において血管領域とその周辺(即ち肺実質)とのコントラストが付きやすい。そのため、この領域RL1では、画像診断のために血管領域の情報を利用することができる。
同様に、胸部X線画像Ixpにおいて、領域RL2(第1肺領域の一例に相当、第3肺領域の一例に相当)は、肺と他の臓器、例えば心臓(特に右房)とが重なる領域であり、領域LL1(第1肺領域の一例に相当、第3肺領域の一例に相当)は、肺と他の臓器、例えば心臓(特に左室)とが重なる領域である。心臓はX線吸収率がほぼ一様なため、人体においてその背中側に薄く重なる肺領域(図16の胸部X線画像Ixp上では領域RL2,LL1に相当)に関しては、胸部X線画像において血管領域とその周辺(即ち肺実質)とのコントラストが付きやすい。そのため、この領域RL2,LL1では、画像診断のために血管領域の情報を利用することができる。
胸部X線画像Ixpにおいて、領域LL2(第4肺領域の一例に相当)は、肺と他の臓器、例えば横隔膜および胃等の腹部臓器とが重なる領域である。胃の中に空気やガスが存在する場合は、肺血管が見づらくなる場合があるが、人体においてその背中側に薄く重なる肺領域(図16の胸部X線画像Ixp上では領域LL2に相当)に関しても、画像診断のために血管領域の情報を利用することができる。よって、本開示では、特に領域RL1,RL2,LL1,LL2に対し、肺血管走行のパタンに着目して、異常検知が行われる。
図3に戻り、ステップS300において、局所領域設定部103は、肺領域設定部102で設定された肺領域、つまり図16における領域RL1,RL2,LL1,LL2のそれぞれを分割して、複数の局所領域を設定する。
図18、図19、図20は、それぞれ、設定された複数の局所領域の一例を概略的に示す図である。図21は、肺血管の太さおよび密度の変化を概略的に示す図である。なお、図21では、胸部X線画像の肺領域の一部において、X線照射方向に奥行きを持って体内に存在する肺血管が、2次元の胸部X線画像上に投影されたときの状態が、模式的に示されている。図22は、人体の肺血管、気管、および気管支を示す図である。なお、図22においては、肺門の位置を概略的に楕円で示している。
図18では、図16に示される領域RL1において隣接する局所領域の境界を示す線は、胸部X線画像Ixpにおいて右肺門部CHLR(後述)からの2次元距離がほぼ一定であり、領域RL2において隣接する局所領域の境界を示す線は、胸部X線画像Ixpにおいて右肺門部CHLRからの2次元距離がほぼ一定であり、領域LL1において隣接する局所領域の境界を示す線は、胸部X線画像Ixpにおいて左肺門部CHLL(後述)からの2次元距離がほぼ一定であり、領域LL2において隣接する局所領域の境界を示す線は、胸部X線画像Ixpにおいて左肺門部CHLLからの2次元距離がほぼ一定である。
なお、図22に示されるように、人体の肺血管、気管、および気管支を表現した図における、左右の肺門HLL,HLRは、左右の肺において、気管支BR、肺動脈、肺静脈が出入りする領域である。胸部X線画像Ixpでは、肺動脈のX線吸収率が高いため、画像処理によって、胸部X線画像Ixpにおける肺動脈の領域を容易に検出できる。本開示では、局所領域設定部103は、図18、図19、図20において、画像処理によって検出された左右の肺に対する肺動脈の領域と、領域VTの境界線との交点を、それぞれ、左肺門部CHLLおよび右肺門部CHLRの位置として検出している。胸部X線画像において、中央陰影(図示省略)の中の気管および気管支は、周囲の中央陰影よりもX線吸収率が低いため、画像処理によって容易に検出できる。そこで、局所領域設定部103は、図18、図19、図20において、画像処理によって検出された左右の肺に対する気管支と、領域VTの境界線との交点を、それぞれ、左肺門部CHLLおよび右肺門部CHLRの位置として検出してもよい。上記中央陰影は、胸部X線画像における、左右の肺に挟まれた領域のことであり、図18、図19、図20では、領域VT、心臓を示す領域(領域RL2および領域LL1)および下行大動脈を示す領域(図示省略)を含む領域である。
図18において、領域RL1は局所領域RL11,RL12,RL13を含む。局所領域RL11と局所領域RL12との境界線は、右肺門部CHLRからの2次元距離がほぼ等しい点の集合(つまり右肺門部CHLRを中心とする円弧)で形成されている。局所領域RL12と局所領域RL13との境界線は、右肺門部CHLRからの2次元距離がほぼ等しい点の集合で形成されている。図18において、領域RL2は局所領域RL21,RL22,RL23を含む。局所領域RL21と局所領域RL22との境界線は、右肺門部CHLRからの2次元距離がほぼ等しい点の集合で形成されている。局所領域RL22と局所領域RL23との境界線は、右肺門部CHLRからの2次元距離がほぼ等しい点の集合で形成されている。
図18において、領域LL1は局所領域LL11,LL12,LL13を含む。局所領域LL11と局所領域LL12との境界線は、左肺門部CHLLからの2次元距離がほぼ等しい点の集合(つまり左肺門部CHLLを中心とする円弧)で形成されている。局所領域LL12と局所領域LL13との境界線は、左肺門部CHLLからの2次元距離がほぼ等しい点の集合で形成されている。図18において、領域LL2は局所領域LL21,LL22,LL23を含む。局所領域LL21と局所領域LL22との境界線は、左肺門部CHLLからの2次元距離がほぼ等しい点の集合で形成されている。局所領域LL22と局所領域LL23との境界線は、左肺門部CHLLからの2次元距離がほぼ等しい点の集合で形成されている。
図18の例では、領域RL1,RL2,LL1が、それぞれ、第3肺領域の一例に相当し、局所領域RL11,RL12,RL13,RL21,RL22,RL23,LL11,LL12,LL13が、複数の局所領域1~nの一例に相当する。すなわち図18の例では、n=9である。
局所領域設定部103は、図19に示されるように、肺門部を通る直線で局所領域を分割してもよい。図19において、局所領域RL11は、右肺門部CHLRを通る第1の直線群で、局所領域RL111,RL112,RL113という3つの領域に分割される。局所領域RL12は、右肺門部CHLRを通る第2の直線群で、局所領域RL121,RL122,RL123,RL124という4つの領域に分割される。局所領域RL13は、右肺門部CHLRを通る第3の直線群で、局所領域RL131,RL132,RL133という3つの領域に分割される。
局所領域LL11は、左肺門部CHLLを通る直線で、局所領域LL111,LL112という2つの領域に分割される。局所領域LL12は、左肺門部CHLLを通る直線で、局所領域LL121,LL122という2つの領域に分割される。局所領域LL13は、左肺門部CHLLを通る直線で、局所領域LL121,LL122という2つの領域に分割される。局所領域LL21は、左肺門部CHLLを通る第4の直線群で、局所領域LL211,LL212,LL213という3つの領域に分割される。局所領域LL22は、左肺門部CHLLを通る第5の直線群で、局所領域LL221,LL222,LL223という3つの領域に分割される。局所領域LL23は、左肺門部CHLLを通る直線で、局所領域LL231,LL232という2つの領域に分割される。
局所領域設定部103は、図20に示されるように、領域RL1,RL2,LL1,LL2のそれぞれを、胸部X線画像Ixpに設定されたX軸に平行な1または複数の直線、および/または胸部X線画像Ixpに設定されたY軸に平行な1または複数の直線を用いて、格子状に分割してもよい。図20において、局所領域設定部103は、分割した局所領域に対して、肺門部CHLR,CHLLからの局所領域の重心への2次元距離に応じてグループ化してもよい。この場合には、正常モデル(つまり多数の正常症例に基づき作成された標準的な肺の画像)に基づいて予め求められる基準指標(図30を参照して後述)は、グループ毎に求められて、正常モデル格納部105に予め保存される。
例えば、図20において、局所領域設定部103は、第1グループに局所領域LL1G1と局所領域LL1G2とを含め、第2グループに局所領域LL1G3と局所領域LL1G4とを含めてもよい。局所領域設定部103は、第3グループに局所領域RL1G1と局所領域RL1G2とを含め、第4グループに局所領域RL1G3と局所領域RL1G4と局所領域RL1G5とを含め、第5グループに局所領域RL1G6と局所領域RL1G7とを含め、第6グループに局所領域RL1G8と局所領域RL1G9とを含めてもよい。局所領域設定部103は、第7グループに局所領域LL2G1と局所領域LL2G2とを含め、第8グループに局所領域LL2G3と局所領域LL2G4とを含め、第9グループに局所領域LL2G5と局所領域LL2G6とを含め、第10グループに局所領域LL2G7と局所領域LL2G8とを含めてもよい。図20の例では、局所領域設定部103は、第1グループから第10グループまでの10個のグループを生成しており、これら10個のグループが、複数のグループ1~mの一例に相当する。すなわち図20の例では、m=10である。
このように局所領域をグループ化して、局所領域のグループ毎に正常モデルの基準指標を求めると、正常モデルを用いて基準指標を求める際の胸部X線画像の画像数が一定としたとき、局所領域毎に正常モデルの基準指標を求める場合に比べて基準指標を求めるための局所画像数が増加することになり、求めた正常モデルの基準指標の統計的信頼性が増すことになる。
ここで、局所領域に分割することによる利点が説明される。図21のように肺の中枢である肺門から末梢である胸膜に向かうに従い、肺血管の径は細くなり、かつ、肺血管は分岐をして、肺血管の本数が多くなる。但し、径がある程度細くなると、胸部X線画像Ibvでは肺血管の領域を描出できなくなる。よって、肺門からの距離がほぼ一定な領域を同一の局所領域として分割することで、その局所領域内では、血管の径(つまり血管の太さ)および血管の密度(例えば、画像の局所領域の面積に対する、同領域において血管が占める面積の割合)がほぼ揃うことになる。その結果、肺門からの距離がほぼ同じである範囲の局所領域での正常状態を良く定義できることとなり、正常モデルの基準指標を用いた異常検知に適するという利点がある。
また、図19、図20に示されるように、細かく分割した局所領域を設定すると、本実施形態では、後述のように局所領域ごとに異常判定されているため、異常判定する領域の分解能を向上することができる。
図3に戻って、ステップS400において、異常判定部104は、局所領域設定部103で設定された複数の局所領域から1つの局所領域iを選択する。ステップS500において、異常判定部104は、肺血管の太さおよび密度を表す指標(血管指標の一例に相当)を抽出する。異常判定部104は、肺血管の太さおよび密度のいずれか一方を表す指標を抽出してもよい。異常判定部104は、肺血管の太さおよび密度の少なくとも一方を表す指標を抽出すればよい。この指標の抽出には、さまざまな技術が適用可能である。
例えば、血管の領域を抽出した後、別途、当該血管の太さおよび密度の少なくとも一方を表す特徴量を抽出することができる。血管の抽出には、非特許文献5に記載の、ヘッセ行列の各画素から計算された最大固有値を用いて線状構造物を抽出する方法を適用することができる。また、ヘッセ行列の各要素を生成する帯域分割フィルタバンクを構築することにより、各解像度レベルでの線状構造物の抽出が可能となり、大きさの異なる血管領域を抽出することができる。また、帯域分割フィルタバンクにより各解像度レベルでの線状構造物を抽出した後、前景(線状構造物)の画素値と背景の画素値との比により、各解像度レベルでの密度が算出できる。例えば、上記の方法で、肺血管の太さおよび密度の少なくとも一方を表す指標を抽出可能である。フィルタバンクの個数をFB個、密度として1次元(スカラー)の値を用いる場合、各局所領域からFB次元の特徴量が抽出できる。
明示的に、肺血管に関する指標、つまり特徴量を抽出するのではなく、局所領域の画像そのものから、肺血管の太さおよび密度の少なくとも一方を表す指標を含むことを期待して、画像を次元圧縮することで、少数次元の特徴量を抽出することもできる。この手法については、後述のステップS700で説明される。
図3に戻り、ステップS600において、異常判定部104は、正常モデル格納部105から、診断対象の肺の画像に含まれる局所領域iに対応する正常モデルの局所領域の基準指標を抽出する。局所領域設定部103により設定された局所領域と、正常モデル格納部105に格納されている正常モデルの局所領域との対応付けについては、種々の方法を採用することができる。
例えば、正常モデル格納部105に基準指標を予め格納する際に、設定される局所領域に、当該局所領域が図16で示すような肺領域における位置を示すインデックスを付加してもよい。インデックスとして、例えば、図16における領域RL0,RL1,RL2などの外接矩形に対する、当該局所領域の中心座標の相対位置を利用することができる。
図23は、図16における領域RL0,RL1,RL2それぞれの外接矩形CQR0,CQR1,CQR2を示す図である。基準とする外接矩形のX座標の始点を0、終点を1とし、上記外接矩形のY座標の始点を0、終点を1としたときの、局所領域の正規化中心座標(x,y)を定義できる。
図24、図25、図26は、領域RL0,RL1,RL2それぞれの外接矩形CQR0,CQR1,CQR2を基準とした正規化座標系をそれぞれ示す図である。局所領域の正規化中心座標として、当該局所領域が含まれる領域の座標系における、局所領域画像(局所領域内を1、局所領域外を0とする二値画像)の重心位置を用いることができる。
図27は、図19の胸部X線画像において局所領域の重心位置の例を示す図である。例えば、図27において、局所領域RL123の重心位置RL123Cの座標は、図25に示される領域RL1の正規化座標系(外接矩形CQR1を基準とした正規化座標系)で表現する。同様に、図27において、局所領域RL22の重心位置RL22Cの座標は、図26に示される領域RL2の正規化座標系(外接矩形CQR2を基準とした正規化座標系)で表現する。
ここで、0<x<1、かつ、0<y<1である。正常モデル作成時の異なる正常症例間の局所領域の対応付け、あるいは、異常検知時の異常検知対象(つまり医師の診断対象)の局所領域と正常モデルの局所領域との対応付けは、この正規化中心座標(x,y)との距離が最小となる対象を探索することで決定できる。例えば、異常検知時の異常検知対象の局所領域と正常モデルの局所領域との対応付けを行う際について、図28、図29を用いて説明される。
図28は、異常検知を行う対象(つまり医師の診断対象)の胸部X線画像Ixpを示す図である。図29は、正常モデルの胸部X線画像Ixrを示す図である。異常検知を行う診断対象の胸部X線画像Ixp(図28)において、正規化中心座標が点P(0.3,0.8)である局所領域RPと、正常モデル上での、指標比較対象の局所領域を特定する場合について考える。この場合、正常モデルの胸部X線画像Ixr(図29)において、点Q1~Q4のうち、点Pとの距離が最小となる正規化中心座標は点Q4(0.4,0.85)である。よって、局所領域RPの指標と、局所領域RQ4の基準指標とを比較する。
正常モデル作成時における、異なる正常症例間の局所領域の対応付けも同様に行う。この時、正常モデル作成用の複数の正常症例の中から、局所領域の分割方法を決めるための基準症例を1つ選定し、他の正常症例の局所領域は、全て基準症例における局所領域に対応づける。基準症例の選定方法としては、位置分解能を重視して、局所領域の分割数が最も多いものを選定することができる。
局所領域設定部103は、局所領域を設定する際に、異なる胸部X線画像に対しても、肺門からの距離に応じた分割数、及び、肺門からの距離方向と直交する方向の分割数を一定とした局所領域の分割を行い、互いに対応する局所領域に同じインデックスを付加してもよい。この場合、異常判定部104は、「正常モデル」に付加されているインデックスと「異常検知対象の胸部X線画像」に付加されているインデックスとを比較することにより、正常モデル格納部105から、「異常検知対象の胸部X線画像」に含まれる局所領域に対応する、「正常モデル」における局所領域の基準指標を抽出することができる。
正常モデルを作成する際には、上記説明では正規化座標系を導入することで実質的に、肺の画像の大きさおよび位置が正規化されている。そこで、異常判定部104は、診断対象の肺の画像の大きさおよび位置を正規化した上で、正常モデル格納部105に格納された正常モデル(つまり多数の正常症例に基づき作成された標準的な肺の画像)と診断対象の肺の画像とを重ね合わせたときに、正常モデルに含まれる複数の局所領域のうち、診断対象の肺の画像に含まれる局所領域iと重なる面積が最も大きいものを、局所領域iに対応する局所領域であると判断してもよい。
ステップS700において、異常判定部104(判定部の一例に相当)は、ステップS500で抽出した指標と、ステップS600で抽出した基準指標とを比較し、比較結果に基づいて診断対象の肺の画像に含まれる局所領域iが異常状態であるか否かを判定する。また、異常判定部104は、異常判定結果、つまり異常状態と判定した局所領域及び異常の内容をメモリ121に保存する。
なお、上記では、異常検知を行う対象の胸部X線画像上の局所領域に対応する局所領域として、正常モデルにおける正規化中心座標が最も近い局所領域を選び、その選んだ局所領域の基準指標を異常判定に用いたが、これに限られない。例えば、異常検知を行う対象の胸部X線画像上の局所領域の正規化中心座標と、距離が近い、正常モデルにおける局所領域の正規化中心座標を複数選び、その選んだ複数の局所領域の基準指標を用いて、同距離の近さに応じて新たに1つの基準指標を合成してもよい。
正常モデルにおける複数の局所領域の選び方として、異常検知を行う対象の胸部X線画像上の局所領域の正規化中心座標との距離が一定値未満の正規化中心座標を含む局所領域、または、同距離が小さいものから順に一定個の正規化中心座標を含む局所領域を選ぶことができる。例えば、図28、図29において、異常検知を行う対象の胸部X線画像上の局所領域の正規化中心座標との距離が小さいものから3個選ぶとする。この場合、異常検知を行う対象の胸部X線画像Ixp(図28)の正規化中心座標Pに対応する、正常モデルの胸部X線画像Ixr(図29)の正規化中心座標は、正規化中心座標Q4,Q3,Q1が選ばれる。すなわち、局所領域RQ1,RQ2,RQ3,RQ4のうち、正規化中心座標Q4,Q3,Q1を含む局所領域RQ4,RQ3,RQ1が選ばれる。そして、局所領域RQ4,RQ3,RQ1それぞれの基準指標を、距離の逆数で重みづけ合成することにより、新たな基準指標が計算できる。
基準指標については、予め正常な症例の胸部X線画像を多数枚用意し、それらの各画像から、ステップS500の方法で、局所領域毎に指標(本実施形態では、血管の太さおよび密度を表す血管指標)の確率密度関数を計算する。複数の局所領域に対応する複数の指標の確率密度関数を、それぞれ基準指標として正常モデル格納部105に予め保存しておく。
図30は、指標の確率密度関数PDFの一例を概略的に示す図である。多数の正常症例の胸部X線画像から所定のアルゴリズムで指標を求め、求めた指標の頻度をプロットすると、図30に示される指標の確率密度関数PDFが得られる。本実施形態では、図30に示される指標の確率密度関数PDFが、基準指標として、正常モデル格納部105に保存されている。指標の確率密度関数PDFは、局所領域ごとに予め求められている。異常判定部104は、局所領域毎に、例えば図30のような確率密度関数PDFを用いて異常状態か否かを判定する。図30では1次元指標の確率密度関数を示しているが、複数次元の指標、例えばFB次元の特徴量である場合は、図30の横軸の「指標」はベクトルとなり、確率密度関数PDFは、例えばFB次元の多次元空間における正規分布を表す。異常判定部104は、対象とする指標に関し、上述の指標の確率密度関数PDFに対し、局所領域から抽出された指標に対応する確率の値で正常らしさを判定する。例えば図30においては、抽出された指標P1、P2の正常らしさは、それぞれQ1、Q2である。そこで、異常判定部104は、指標P2は正常らしい、と判定し、指標P1は異常らしい、と判定する。
ここで、図30に示されるように確率密度関数が1次元の場合は、確率密度関数の最頻値または平均値(正規分布として近似している場合には両者は一致する)と比較した指標の大小により、指標が大きすぎて異常なのか、小さすぎて異常なのかを判定することができる。確率密度関数が多次元の場合は、確率密度関数の最頻値または平均値の多次元空間上の位置に対する、指標の多次元空間上の位置により、特定の次元の指標が小さすぎて異常なのか、大きすぎて異常なのかを判定することができる。これを利用すると、例えば、異常理由が、幅の「より広い/同じ/より狭い」血管が「増えている/減っている」と分類できる。
確率密度関数PDFを表す方法としては、比較的少数のパラメータによるパラメトリックモデルを用いて表す方法、特定の関数型を仮定せず、個々のデータにより分布の形を特定するノンパラメトリックモデルを用いて表す方法などがある。局所領域から抽出される指標が少数次元であれば、異常判定部104は、この確率密度関数を用いて異常状態か否かを判定する。例えばパラメトリックモデルを用いる場合は、基準指標として、確率密度関数を表すパラメータ(例えば正規分布の平均及び標準偏差)を正常モデル格納部105に格納する。
血管の太さおよび密度を表す特徴量を抽出した場合には、血管の太さが正常状態よりも太くなっている/細くなっている/異なる、血管の密度が正常状態よりも小さくなっている/大きくなっている/異なる、のように、異常の内容を設定することができる。例えば、肺炎による浸潤影、または、肺癌による結節影または腫瘤影が存在する局所領域では、血管パタンが見えづらくなり、血管の密度が正常状態よりも小さくなる。例えば、蜂巣肺化している局所領域では、通常の血管パタンが見えなくなり、蜂巣肺の壁のパタンが血管の代わりに抽出され、正常時の血管影の太さまたは密度よりも異なった値となる。例えば、心不全により胸膜肥厚が起こっている局所領域では、正常状態では血管パタンが見えない領域で、胸膜肥厚のパタンが血管の代わりに抽出され、正常時の血管影の太さまたは密度よりも異なった値となる。
一方、局所領域から抽出される指標が高次元の場合は、次元削減による異常判定方法を用いることができる。これは、前のステップS500で触れた、局所領域の画像そのものから、肺血管の太さおよび密度の少なくとも一方を表す指標を含むことを期待して、画像を次元圧縮することで、少数次元の特徴量を抽出する場合に利用できる。
図31は、次元削減時の再構成誤差を利用した異常判定方法を説明する図である。正常モデルの基準指標を求める機械学習時に、学習用データセットが分布する元の高次元オリジナル空間HDOSから、次元が削減された低次元部分空間LDPSを求めておく。ここで、正常データで学習用データセットを構成して低次元部分空間LDPSを求めた場合、得られた低次元部分空間LDPSは、正常データの特徴を反映した空間になっていると考えられる。局所領域から抽出される指標を、この低次元部分空間LDPSに投影した際、元の学習データと素性が近ければ(すなわち正常データであれば)、所定の閾値未満の再構成誤差ER1が得られることとなる。一方、異常なデータであれば、所定の閾値以上の再構成誤差ER2が得られることとなる。異常判定部104は、これを利用して、異常状態であるか否かの判定を行う。再構成誤差は、局所領域から抽出される指標を低次元部分空間LDPSに投影した(つまり次元圧縮した)際のベクトルと、元の高次元オリジナル空間HDOSにおけるベクトルとの距離で計算できる。次元削減を行う方法としては、主成分分析、積層オートエンコーダ、変分オートエンコーダ等の手法を用いることができる。
図32は、積層オートエンコーダ1200のネットワーク構成を示す図である。積層オートエンコーダ1200は、図32に示されるように、入力層IL、出力層OL、2以上の中間層MLを備え、中間層MLのニューロン数を入力層IL、出力層OLに比べて絞った砂時計型のフィードフォワードネットワークである。積層オートエンコーダ1200では、入力を再現するような出力を得るように、入力データ自身を教師データとして学習する。学習終了後には、中間層MLは、学習データセットの素性を良く表現できるような特徴表現になっている。このため、例えば中間層ML(i)の出力を次元削減データとすることができる。
図33は、変分オートエンコーダ1300のネットワーク構成を示す図である。変分オートエンコーダ1300は、図33に示されるように、入力層IL、出力層OL、2以上の中間層を備え、積層オートエンコーダ1200(図32)と同様に、中間層のニューロン数を入力層IL、出力層OLに比べて絞った砂時計型のネットワークである。変分オートエンコーダは、例えば非特許文献4に開示されている。図33は、非特許文献4の図2又は図3に相当する。
変分オートエンコーダ1300では、エンコーダECDが、画像xを入力として、画像xを生成する基となる潜在変数LVであるzの分布qφ(z|x)のパラメータを出力する。デコーダDCDは、分布qφ(z|x)からサンプリングしたzを基に、生成画像の分布pθ(x|z)を出力する。変分オートエンコーダ1300における学習は、データセットの各点xの対数周辺尤度logpθ(x)の変分下界の最大化により行われる。非特許文献4では、学習アルゴリズムは、アルゴリズム3として、説明されている。
変分オートエンコーダ1300を用いた異常判定は、以下のようにして行われる。対象胸部X線画像yを学習済のエンコーダECDに入力し、潜在変数LVの値がzの分布f(z|y)を得る。この分布からサンプリングして潜在変数zを得て、得られた潜在変数zを用いて対象胸部X線画像yの尤度pθ(y|z)を求める。異常判定部104は、その尤度pθ(y|z)により、異常または正常を判定する。非特許文献4では、判定アルゴリズムは、アルゴリズム4として、説明されている。
主成分分析の場合は、正常モデルの基準指標として、次元削減を行う行列を正常モデル格納部105に格納する。積層オートエンコーダ、変分オートエンコーダの場合は、正常モデルの基準指標として、学習後のネットワーク構造およびパラメータを正常モデル格納部105に格納する。
次元削減による手法の場合は、異常判定部104は、再構成誤差から異常理由を求めることが難しいため、異常判定結果として、異常状態と判定した局所領域を示す情報のみをメモリ121に保存する。
図3に戻り、ステップS800において、異常判定部104は、全ての局所領域が選択されたか否かを判定する。全ての局所領域が選択されていれば(ステップS800でYES)、処理はステップS900に進む。一方、全ての局所領域が未だ選択されていなければ(ステップS800でNO)、処理はステップS400に戻り、次の局所領域が選択されて、以上のステップが繰り返される。ステップS900において、表示制御部122は、ステップS700で異常状態であると判定された局所領域および異常の内容をディスプレイ108に表示する。
図34Aは、ディスプレイ108の表示例を概略的に示す図である。図34Aに示されるように、表示制御部122は、対象胸部X線画像Ixと、異常状態と判定された局所領域AB1,AB2,AB3と、異常状態の内容を表すメッセージMsとをディスプレイ108に表示する。局所領域の名称及びメッセージMsは、予め定義されてメモリ121に保存されている。図34Aの例では、局所領域AB1,AB2,AB3は、それぞれ、局所領域jの一例に相当する。
図34Bは、ディスプレイ108の別の表示例を概略的に示す図である。図34Bの例では、表示制御部122は、対象胸部X線画像Ixと、異常状態と判定された局所領域LL1G1,LL1G2と、異常状態の内容を表すメッセージMsとをディスプレイ108に表示する。図20を用いて説明されたように、局所領域設定部103は、局所領域LL1G1,LL1G2を第1グループに含めている。すなわち、図34Bの例では、局所領域LL1G1,LL1G2を含む第1グループは、グループhの一例に相当する。
図35は、ディスプレイ108のさらに別の表示例を概略的に示す図である。上述のように、肺領域設定部102は、検出部101が検出した線構造の確からしさを表す信頼度を算出し、算出した信頼度が所定の閾値より高くなければ、検出部101が検出した、他の所定の解剖学的構造の位置に基づいて、別途、線構造を推定し、推定した線構造を利用して、肺領域を設定してもよい。その場合は、設定した肺領域の境界が正しくない可能性がある。このため、図35に示されるように、表示制御部122は、ディスプレイ108に表示するメッセージMsとして、異常状態の内容に加えて、処理対象領域が同定できなかったこと(すなわち処理対象領域が推定した線構造で構成されていること)、および、領域境界付近を注意して確認するように促す文言、などを表示してもよい。
図35において、領域APは、図14を用いて説明されたように、検出部101が検出した右横隔膜ドーム陰影Px1(例えば図8)から、右横隔膜ドーム陰影と右背側肺底陰影との位置関係に基づき求められた、右背側肺底の存在確率が所定値以上の領域である。本実施形態では、領域APのような、所定の透明度を有するぼかし画像が、線構造ごとに予め作成されて、メモリ121に保存されている。すなわち、右背側肺底用のぼかし画像(図35の領域AP)を表すデータと、左背側肺底用のぼかし画像(図示省略)を表すデータと、がメモリ121に予め保存されている。表示制御部122は、肺領域設定部102が算出した信頼度が所定の閾値以下の場合に、ぼかし画像を表すデータをメモリ121から読み出す。表示制御部122は、ぼかし画像と、胸部X線画像と、を例えばアルファブレンディングにより重ね合わせて、ディスプレイ108に表示する。
代替的に、表示制御部122は、さらに、推定した右背側肺底陰影Px2を表す領域APの下端線(図14)も、ディスプレイ108に表示してもよい。さらに代替的に、表示制御部122は、検出部101が検出した右背側肺底陰影Px10(例えば図12)の信頼度が閾値以上の場合にも、表示制御部122は、領域AP(図35)をディスプレイ108に表示してもよい。さらに代替的に、表示制御部122は、領域AP(図35)をディスプレイ108に表示するか否かを、異常表示制御装置100が備える操作パネル(図示省略)の操作によって、ユーザが選択できるようにしてもよい。
図36は、ディスプレイ108のさらに別の表示例を概略的に示す図である。図36の実施形態では、例えば、予め左横隔膜ドーム陰影と左背側肺底陰影との位置関係を多数の正常症例から求めて、メモリ121に保存しておく。図36において、領域BPは、検出部101が検出した左背側肺底陰影Px10(例えば図12)から、上記位置関係に基づき求められた、左横隔膜ドームの存在確率が所定値以上の領域である。表示制御部122は、さらに、推定した領域BPの上端線をディスプレイ108に表示してもよい。
以上のように、本開示の第1実施形態によれば、胸部X線画像において、肺と心臓とが重なる領域、および、肺と肝臓とが重なる領域に対して、異常の有無を判定することができる。
また、どの位置の局所領域がどのように正常状態と異なるかという情報をユーザに提示できる。したがって、ユーザにとって有益であり、読影医だけでなく、臨床医及び放射線技師の診断及び自己学習、または医学生の教育及び自己学習にも利用可能である。
また、例えば図18に示されるように、領域RL1,RL2,LL1,LL2が分割されて局所領域RL21等が設定されているので、異常と判定される領域の分解能を向上することができる。
(第1実施形態の変形例)
上記第1実施形態では、例えば図18に示されるように、領域RL1,RL2,LL1,LL2が分割されて局所領域RL21等が設定され、局所領域毎に、異常状態であるか否かが判定されているが、これに限られない。例えば、領域RL1,RL2,LL1,LL2を分割せずに、異常判定部104は、領域RL1,RL2,LL1,LL2毎に、異常状態であるか否かを判定してもよい。
図37は、図1と異なる構成の異常表示制御装置を示すブロック図である。図37に示されるように、異常表示制御装置100(異常検出装置の一例に相当)は、正常モデル格納部105、画像メモリ106、通信部107、ディスプレイ108、CPU120、メモリ121を備えている。異常表示制御装置100は、例えばパーソナルコンピュータで構成される。
メモリ121のROMは、CPU120を動作させる第1実施形態の変形例の制御プログラムを記憶する。CPU120は、メモリ121に記憶されている第1実施形態の変形例の制御プログラムを実行することによって、検出部101、肺領域設定部102、異常判定部104、表示制御部122、通信制御部123として機能する。このように、図37の実施形態では、CPU120は局所領域設定部を含まない。
正常モデル格納部105は、上記第1実施形態のように予め定義された複数の局所領域の基準指標ではなくて、予め定義された領域RL1,RL2,LL1,LL2の基準指標を格納する。すなわち、図37の実施形態では、領域RL1,RL2,LL1,LL2に含まれる、ある程度幅をもった血管の径(つまり血管の太さ)または血管の密度(つまり、画像の局所領域の面積に対する、同領域において血管が占める面積の割合)の範囲で、基準指標が定義されることになる。
異常判定部104は、領域RL1,RL2,LL1,LL2から、肺血管の太さおよび密度の少なくとも一方を表す血管指標を抽出する。異常判定部104は、抽出された血管指標と、正常モデル格納部105から抽出された基準指標とを比較して、領域RL1,RL2,LL1,LL2毎に、異常状態であるか否かを判定する。
図37の実施形態では、領域RL1,RL2、LL1,LL2において異常と判定された場合は、その内部での異常箇所は特定できない。しかし、図37の実施形態でも、上記第1実施形態と同様に、胸部X線画像において、肺と心臓とが重なる領域、肺と肝臓および横隔膜とが重なる領域、および、肺と横隔膜および胃とが重なる領域に対して、異常の有無を判定することができる。
(第2実施形態)
図38は、第2実施形態における、医療機関内のネットワーク構成410Aを概略的に示すブロック図である。第2実施形態では、図38に示されるように、サーバ装置500と、表示制御装置600と、医用画像管理システム200と、胸部X線画像撮影装置300と、が医療機関のイントラネットワーク400に接続されている。
なお、サーバ装置500と、表示制御装置600と、医用画像管理システム200と、胸部X線画像撮影装置300とは、必ずしも、同一の医療機関内のイントラネットワーク400上に接続されている必要はない。表示制御装置600、及び、医用画像管理システム200は、医療機関の外部に設けられたデータセンター、プライベートクラウドサーバ、パブリッククラウドサーバなどの上で動作するソフトウェアであってもよい。
図38に示されるように、サーバ装置500は、正常モデル格納部105、画像メモリ106、通信部107、CPU130、メモリ131を備えている。メモリ131は、例えば半導体メモリ等により構成される。メモリ131は、例えばROM、RAM、EEPROMなどを含む。メモリ131のROMは、CPU130を動作させる制御プログラムを記憶する。
CPU130は、メモリ131に記憶されている制御プログラムを実行することによって、検出部101、肺領域設定部102、局所領域設定部103、異常判定部104(判定部の一例に相当)、通信制御部123A(取得部の一例に相当)として機能する。通信制御部123Aは、通信部107を介して、対象胸部X線画像を医用画像管理システム200から取得し、取得した対象胸部X線画像を画像メモリ106に保存する。通信制御部123Aは、通信部107を介して、検出部101の検出結果と、異常判定部104の判定結果とを、表示制御装置600へ送信する。
表示制御装置600(端末装置の一例に相当)は、例えば、タブレット型コンピュータで構成され、医師又は放射線技師などの医療従事者が保持する。図38に示されるように、表示制御装置600は、CPU140と、メモリ141と、画像メモリ142と、通信部143と、ディスプレイ108と、を備える。
メモリ141は、例えば半導体メモリ等により構成される。メモリ141は、例えばROM、RAM、EEPROMなどを含む。メモリ141のROMは、CPU140を動作させる制御プログラムを記憶する。CPU140は、メモリ141に記憶されている制御プログラムを実行することによって、表示制御部122、通信制御部123Bとして機能する。
通信制御部123Bは、通信部143を介して、サーバ装置500から送信された対象胸部X線画像のデータを受信し、受信したデータを画像メモリ142に格納する。また、通信制御部123Bは、通信部143を介して、サーバ装置500から送信された、異常状態と判定された局所領域のデータと、異常の内容を表すメッセージとを受信して、受信したデータおよびメッセージをメモリ141に格納する。表示制御部122は、サーバ装置500から送信された情報に基づき、図34~図36と同様の画面を、ディスプレイ108に表示する。この第2実施形態によれば、上記第1実施形態と同様の効果を得ることができる。上記各実施形態において、異常状態と判定された局所領域AB1,AB2,AB3と、異常状態の内容を表すメッセージMsとは、異常判定部104の判定結果を表す情報の一例に相当する。
(その他)
(1)上記各実施形態では、肺領域設定部102は、例えば図16に示されるように、胸部X線画像Ixpにおいて、肺と心臓とが重なる領域RL2,LL1、肺と肝臓および横隔膜とが重なる領域RL1、および、肺と横隔膜および胃とが重なる領域LL2を設定しているが、これに限られない。肺領域設定部102は、胸部X線画像Ixpにおいて、肺と心臓とが重なる領域RL2,LL1、肺と肝臓および横隔膜とが重なる領域RL1、および、肺と横隔膜および胃とが重なる領域LL2のいずれか一つまたは二つを設定してもよい。すなわち、肺領域設定部102は、胸部X線画像Ixpにおいて、肺と心臓とが重なる領域RL2,LL1、肺と肝臓および横隔膜とが重なる領域RL1、および、肺と横隔膜および胃とが重なる領域LL2の少なくとも一つを設定していればよい。
(2)上記各実施形態では、例えば図34に示されるように、表示制御部122は、異常状態であると判定された局所領域および異常の内容をディスプレイ108に表示しているが、これに限られない。表示制御部122(出力制御部の一例に相当)は、例えば、異常表示制御装置100に設けられた着脱可能なメモリに、異常状態であると判定された局所領域および異常の内容を出力してもよい。上記着脱可能なメモリは、例えば、ユニバーサルシリアルバス(USB)メモリ、書き込み可能なコンパクトディスク(CD-R)、書き換え可能CD(CD-RW)、書き込み可能なディジタル多用途ディスク(DVD-R)等である。この実施形態でも、ユーザに対して有益な情報を提供することができる。
(3)上記各実施形態では、正常モデル格納部105には、例えば、指標の確率密度関数PDF(図30)が、基準指標として保存されている。代替的に、正常モデル格納部105には、基準指標として、指標の閾値が保存されていてもよい。この指標の閾値は、例えば図30の横軸に示される第1値TH1および第2値TH2である。この場合、異常判定部104は、指標PがTH1≦P≦TH2であれば、正常らしい、と判定し、指標PがP<TH1またはTH2<Pであれば、異常らしい、と判定する。
(4)上記各実施形態において、図3のステップS600,S700,S800,S900に代えて、表示制御部122は、ステップS500で抽出された指標を、ディスプレイ108に表示してもよく、あるいは、上記着脱可能なメモリに出力してもよい。この実施形態によれば、ステップS500で抽出された指標をユーザに提供することができる。その結果、ユーザは、ステップS500で抽出された指標を利用することができる。例えば、ユーザは、ステップS500で抽出された指標を用いて、胸部X線画像の局所領域における肺血管の状態を客観的な数値により把握することができる。よって、ユーザは、より精度よく、肺血管の状態が異常か否かを診断することが可能になる。
本開示によれば、読影対象である胸部X線画像の診断支援システム、および医学生又は研修医のための読影教育システムに利用可能である。
100,100A 異常表示制御装置
101 検出部
102 肺領域設定部
103 局所領域設定部
104 異常判定部
105,105A 正常モデル格納部
106 画像メモリ
107 通信部
108 ディスプレイ
121,121A メモリ
122 表示制御部
123 通信制御部
200 医用情報管理システム
300 胸部X線画像撮影装置
400 イントラネットワーク
500 サーバ装置

Claims (28)

  1. コンピュータが、胸部X線画像を取得し、
    前記コンピュータが、前記取得した胸部X線画像において、X線透過率の範囲が異なる複数の解剖学的構造の画像の境界線を、モデルを用いて検出し、前記モデルは前記検出前に機械学習を用いて構築され、
    前記コンピュータが、検出された前記境界線を基に、前記取得した胸部X線画像において、肺と心臓とが重なる第1肺領域および肺と肝臓とが重なる第2肺領域のうち少なくとも一方を含む第3肺領域を設定し、
    前記コンピュータが、前記第3肺領域に含まれる領域に存在する少なくとも1つの肺血管の太さおよび密度の少なくとも一方を表す血管指標を抽出し、
    前記コンピュータが、前記血管指標と、前記血管指標を抽出した方法を用いて正常状態の胸部X線画像の前記第3肺領域に含まれる領域に相当する領域から予め抽出された指標を用いた基準指標と、に基づいて前記第3肺領域に含まれる領域が異常状態であるか否かを判定し、
    前記第3肺領域に含まれる領域が異常状態であると判定されると、前記コンピュータが、前記判定を表す情報を出力する、
    異常検出方法。
  2. 前記検出では、左室陰影、下行大動脈陰影、左横隔膜ドーム陰影、椎体の左境界線、椎体の右境界線、右房陰影、右横隔膜ドーム陰影のうち少なくとも2つの境界線が検出され、
    前記設定では、前記第1肺領域を含む前記第3肺領域が設定され、前記第1肺領域は、前記検出で検出された境界線のうち少なくとも2つで挟まれる領域により設定される、
    請求項1に記載の異常検出方法。
  3. 前記検出では、前記左室陰影、前記下行大動脈陰影、前記左横隔膜ドーム陰影、前記椎体の左境界線、前記椎体の右境界線、前記右房陰影、前記右横隔膜ドーム陰影のうち少なくとも前記左室陰影、前記下行大動脈陰影、前記左横隔膜ドーム陰影、前記椎体の右境界線、前記右房陰影の境界線が検出され、
    前記設定では、前記第1肺領域は、前記検出で検出された境界線のうち前記左室陰影、前記下行大動脈陰影、前記左横隔膜ドーム陰影で挟まれる領域と、前記椎体の右境界線、前記右房陰影で挟まれる領域とにより設定される、
    請求項2に記載の異常検出方法。
  4. 前記検出では、前記左室陰影、前記下行大動脈陰影、前記左横隔膜ドーム陰影、前記椎体の左境界線、前記椎体の右境界線、前記右房陰影、前記右横隔膜ドーム陰影のうち少なくとも前記椎体の左境界線、前記左室陰影、前記左横隔膜ドーム陰影、前記椎体の右境界線、前記右房陰影の境界線が検出され、
    前記設定では、前記第1肺領域は、前記検出で検出された境界線のうち前記椎体の左境界線、前記左室陰影、前記左横隔膜ドーム陰影で挟まれる領域と、前記椎体の右境界線、前記右房陰影で挟まれる領域とにより設定される、
    請求項2または3に記載の異常検出方法。
  5. 前記設定では、前記第1肺領域は、前記検出で検出された境界線と、隣り合う前記境界線を接続する補間線と、によって囲まれた、閉じた領域として設定される、
    請求項2から4のいずれかに記載の異常検出方法。
  6. 前記検出では、右横隔膜ドーム陰影、右背側肺底陰影、椎体の右境界線のうち少なくとも2つの境界線が検出され、
    前記設定では、前記第2肺領域を含む前記第3肺領域が設定され、前記第2肺領域は、前記検出で検出された境界線のうち少なくとも2つで挟まれる領域により設定される、
    請求項1から5のいずれかに記載の異常検出方法。
  7. 前記検出では、前記右横隔膜ドーム陰影、前記右背側肺底陰影、前記椎体の右境界線のうち少なくとも前記右横隔膜ドーム陰影、前記右背側肺底陰影の境界線が検出され、
    前記設定では、前記第2肺領域は、前記検出で検出された境界線のうち前記右横隔膜ドーム陰影、前記右背側肺底陰影で挟まれる領域により設定される、
    請求項6に記載の異常検出方法。
  8. 前記検出では、前記右横隔膜ドーム陰影、前記右背側肺底陰影、前記椎体の右境界線の境界線が検出され、
    前記設定では、前記第2肺領域は、前記検出で検出された前記右横隔膜ドーム陰影、前記右背側肺底陰影、前記椎体の右境界線で挟まれる領域により設定される、
    請求項6または7に記載の異常検出方法。
  9. 前記設定では、前記第2肺領域は、前記検出で検出された境界線と、隣り合う前記境界線を接続する補間線と、によって囲まれた、閉じた領域として設定される、
    請求項6から8のいずれかに記載の異常検出方法。
  10. 前記検出で前記右背側肺底陰影が検出された場合には、前記コンピュータが、前記右背側肺底陰影の検出結果の確からしさを表す信頼度を算出し、
    前記信頼度が所定の第1閾値以下であれば、前記コンピュータが、前記検出で検出された前記右背側肺底陰影以外の境界線の位置に基づいて、前記右背側肺底陰影を推定し、
    前記第2肺領域の設定では、前記信頼度が前記第1閾値よりも高ければ、前記検出で検出された前記右背側肺底陰影が利用され、前記信頼度が前記第1閾値以下であれば、前記推定で推定された前記右背側肺底陰影が利用される、
    請求項6から9のいずれかに記載の異常検出方法。
  11. 前記第2肺領域の設定において、前記推定で推定された前記右背側肺底陰影が利用されている場合は、前記出力では、右肺底を含む領域への注意を促す情報が出力される、
    請求項10に記載の異常検出方法。
  12. 前記第3肺領域は、さらに、前記第1肺領域の下側に位置する第4肺領域を含み、
    前記検出では、さらに、前記境界線として左背側肺底陰影が検出される、
    請求項1から11のいずれかに記載の異常検出方法。
  13. 前記検出では、左横隔膜ドーム陰影、前記左背側肺底陰影、椎体の左境界線のうち前記左背側肺底陰影を含む少なくとも2つの境界線が検出され、
    前記設定では、前記第4肺領域を含む前記第3肺領域が設定され、前記第4肺領域は、前記検出で検出された境界線のうち少なくとも2つで挟まれる領域により設定される、
    請求項12に記載の異常検出方法。
  14. 前記検出では、左横隔膜ドーム陰影、前記左背側肺底陰影、椎体の左境界線のうち少なくとも前記左横隔膜ドーム陰影、前記左背側肺底陰影の境界線が検出され、
    前記設定では、前記第4肺領域は、前記検出で検出された境界線のうち前記左横隔膜ドーム陰影、前記左背側肺底陰影で挟まれる領域により設定される、
    請求項12または13に記載の異常検出方法。
  15. 前記検出では、左横隔膜ドーム陰影、前記左背側肺底陰影、椎体の左境界線の境界線が検出され、
    前記設定では、前記第4肺領域は、前記検出で検出された前記左横隔膜ドーム陰影、前記左背側肺底陰影、前記椎体の左境界線で挟まれる領域により設定される、
    請求項12または13に記載の異常検出方法。
  16. 前記設定では、前記第4肺領域は、前記検出で検出された境界線と、隣り合う前記境界線を接続する補間線と、によって囲まれた、閉じた領域として設定される、
    請求項13から15のいずれかに記載の異常検出方法。
  17. 前記コンピュータが、前記検出における前記左背側肺底陰影の検出結果の確からしさを表す信頼度を算出し、
    前記信頼度が所定の第2閾値以下であれば、前記コンピュータが、前記検出で検出された前記左背側肺底陰影以外の境界線の位置に基づいて、前記左背側肺底陰影を推定し、
    前記第4肺領域の設定では、前記信頼度が前記第2閾値よりも高ければ、前記検出で検出された前記左背側肺底陰影が利用され、前記信頼度が前記第2閾値以下であれば、前記推定で推定された前記左背側肺底陰影が利用される、
    請求項13から16のいずれかに記載の異常検出方法。
  18. 前記第4肺領域の設定において、前記推定で推定された前記左背側肺底陰影が利用されている場合は、前記出力では、さらに、左肺底を含む領域への注意を促す情報が出力される、
    請求項17に記載の異常検出方法。
  19. 前記出力では、前記判定を表す情報として、異常状態であると判定された、前記第3肺領域に含まれる領域の画像と、前記第3肺領域に含まれる領域の異常状態の内容と、が出力されて、ディスプレイに表示される、
    請求項1から18のいずれかに記載の異常検出方法。
  20. 前記コンピュータが、さらに、前記設定で設定された前記第3肺領域内において複数の局所領域1~nを分割設定し、前記複数の局所領域1~nは前記第3肺領域に含まれる領域を含み、前記nは2以上の自然数であり、
    前記抽出では、前記血管指標として、局所領域iに存在する少なくとも1つの肺血管の太さおよび密度の少なくとも一方を表す血管指標iが抽出され、前記iは1からnまでの自然数であり、
    前記判定では、前記血管指標iと、前記血管指標iを抽出した方法を用いて正常状態の胸部X線画像の前記局所領域iに相当する領域から予め抽出された指標を用いた基準指標iと、に基づいて、前記局所領域iが異常状態であるか否かが判定され、
    前記出力では、異常状態であると判定された局所領域jの画像と、前記局所領域jの異常状態の内容と、が前記ディスプレイに表示され、前記jは1以上でn以下の自然数である、
    請求項19に記載の異常検出方法。
  21. 前記コンピュータが、さらに、前記複数の局所領域1~nのうち、前記取得した胸部X線画像における肺門部からの2次元距離に応じて、それぞれ異なる局所領域を含む複数のグループ1~mを生成し、前記mは2以上の自然数であり、
    前記抽出では、前記血管指標として、グループkに存在する少なくとも1つの肺血管の太さおよび密度の少なくとも一方を表す血管指標kが抽出され、前記kは1からmまでの自然数であり、
    前記判定では、前記血管指標kと、前記血管指標kを抽出した方法を用いて正常状態の胸部X線画像の前記グループkに相当する領域から予め抽出された指標を用いた基準指標kと、に基づいて、前記グループkが異常状態であるか否かが判定され、
    前記出力では、異常状態であると判定されたグループhの画像と、前記グループhの異常状態の内容と、が前記ディスプレイに表示され、前記hは1以上でm以下の自然数である、
    請求項20に記載の異常検出方法。
  22. 前記モデルは、画素単位で予測を行うニューラルネットワークを使用して、正常状態の胸部X線画像である学習用胸部X線画像を入力データとし、前記学習用胸部X線画像における境界線を示す画像を教師データとして、前記学習用胸部X線画像から前記境界線が検出されるように機械学習されたモデルである、
    請求項1から21のいずれかに記載の異常検出方法。
  23. 前記基準指標は、前記血管指標を抽出した方法を用いて正常状態の胸部X線画像の前記第3肺領域に含まれる領域に相当する領域から予め抽出された指標の確率密度関数、または前記血管指標を抽出した方法を用いて正常状態の胸部X線画像の前記第3肺領域に含まれる領域に相当する領域から予め抽出された指標について予め設定された閾値である、
    請求項1から22のいずれかに記載の異常検出方法。
  24. コンピュータを、
    胸部X線画像を取得する取得部、
    前記取得した胸部X線画像において、X線透過率の範囲が異なる複数の解剖学的構造の画像の境界線を、モデルを用いて検出する検出部、前記モデルは前記検出前に機械学習を用いて構築され、
    検出された前記境界線を基に、前記取得した胸部X線画像において、肺と心臓とが重なる第1肺領域および肺と肝臓とが重なる第2肺領域のうち少なくとも一方を含む第3肺領域を設定する設定部、
    前記第3肺領域に含まれる領域に存在する少なくとも1つの肺血管の太さおよび密度の少なくとも一方を表す血管指標を抽出し、抽出した前記血管指標と、前記血管指標を抽出した方法を用いて正常状態の胸部X線画像の前記第3肺領域に含まれる領域に相当する領域から予め抽出された指標を用いた基準指標と、に基づいて前記第3肺領域に含まれる領域が異常状態であるか否かを判定する判定部、
    前記第3肺領域に含まれる領域が異常状態であると判定されると、前記判定部の判定結果を表す情報を出力する出力制御部、
    として機能させる異常検出プログラム。
  25. 胸部X線画像を取得する取得部と、
    前記取得した胸部X線画像において、X線透過率の範囲が異なる複数の解剖学的構造の画像の境界線を、モデルを用いて検出する検出部と、前記モデルは前記検出前に機械学習を用いて構築され、
    検出された前記境界線を基に、前記取得した胸部X線画像において、肺と心臓とが重なる第1肺領域および肺と肝臓とが重なる第2肺領域のうち少なくとも一方を含む第3肺領域を設定する設定部と、
    前記第3肺領域に含まれる領域に存在する少なくとも1つの肺血管の太さおよび密度の少なくとも一方を表す血管指標を抽出し、抽出した前記血管指標と、前記血管指標を抽出した方法を用いて正常状態の胸部X線画像の前記第3肺領域に含まれる領域に相当する領域から予め抽出された指標を用いた基準指標と、に基づいて前記第3肺領域に含まれる領域が異常状態であるか否かを判定する判定部と、
    前記第3肺領域に含まれる領域が異常状態であると判定されると、前記判定部の判定結果を表す情報を出力する出力制御部と、
    を備える異常検出装置。
  26. 胸部X線画像を取得する取得部と、
    前記取得した胸部X線画像において、X線透過率の範囲が異なる複数の解剖学的構造の画像の境界線を、モデルを用いて検出する検出部と、前記モデルは前記検出前に機械学習を用いて構築され、
    検出された前記境界線を基に、前記取得した胸部X線画像において、肺と心臓とが重なる第1肺領域および肺と肝臓とが重なる第2肺領域のうち少なくとも一方を含む第3肺領域を設定する設定部と、
    前記第3肺領域に含まれる領域に存在する少なくとも1つの肺血管の太さおよび密度の少なくとも一方を表す血管指標を抽出し、抽出した前記血管指標と、前記血管指標を抽出した方法を用いて正常状態の胸部X線画像の前記第3肺領域に含まれる領域に相当する領域から予め抽出された指標を用いた基準指標と、に基づいて前記第3肺領域に含まれる領域が異常状態であるか否かを判定する判定部と、
    前記第3肺領域に含まれる領域が異常状態であると判定されると、前記判定部の判定結果を表す情報を出力する出力制御部と、
    を備えるサーバ装置。
  27. コンピュータが、胸部X線画像を取得し、
    前記コンピュータが、前記取得した胸部X線画像において、肺と心臓とが重なる第1肺領域および/または前記肺と肝臓とが重なる第2肺領域を含む第3肺領域に含まれる領域が異常状態を示しているか否かを判定し、
    前記第3肺領域に含まれる領域が異常状態を示していると判定されると、前記コンピュータが、前記第3肺領域に含まれる領域が異常であることを表す情報を出力し、
    前記コンピュータが、さらに、前記取得した胸部X線画像において、肺の画像と心臓の画像との第1境界線および/または前記肺の画像と肝臓の画像との第2境界線を検出し、
    前記コンピュータが、さらに、前記第1境界線および/または前記第2境界線を基に、前記取得した胸部X線画像において、前記第3肺領域を設定し、
    前記コンピュータが、さらに、前記第3肺領域に含まれる領域における、血管の密度を示す血管指標を抽出し、
    前記判定では、前記血管指標と、正常状態の胸部X線画像の前記第3肺領域に含まれる領域に相当する領域における血管の密度を示す基準指標と、に基づいて前記第3肺領域に含まれる領域が異常状態を示しているか否かが判定される、
    異常検出方法。
  28. コンピュータが、胸部X線画像を取得し、
    前記コンピュータが、前記取得した胸部X線画像において、X線透過率の範囲が異なる複数の解剖学的構造の画像の境界線を、モデルを用いて検出し、前記モデルは前記検出前に機械学習を用いて構築され、
    前記コンピュータが、検出された前記境界線を基に、前記取得した胸部X線画像において、肺と心臓とが重なる第1肺領域および肺と肝臓とが重なる第2肺領域のうち少なくとも一方を含む第3肺領域を設定し、
    前記コンピュータが、前記第3肺領域に含まれる領域に存在する少なくとも1つの肺血管の太さおよび密度の少なくとも一方を表す血管指標を抽出し、
    前記コンピュータが、前記抽出した血管指標を出力する、
    情報処理方法。
JP2021520757A 2019-05-22 2020-05-15 異常検出方法、異常検出プログラム、異常検出装置、サーバ装置及び情報処理方法 Active JP7457011B2 (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
JP2019096123 2019-05-22
JP2019096123 2019-05-22
JP2020072407 2020-04-14
JP2020072407 2020-04-14
PCT/JP2020/019397 WO2020235461A1 (ja) 2019-05-22 2020-05-15 異常検出方法、異常検出プログラム、異常検出装置、サーバ装置及び情報処理方法

Publications (2)

Publication Number Publication Date
JPWO2020235461A1 JPWO2020235461A1 (ja) 2020-11-26
JP7457011B2 true JP7457011B2 (ja) 2024-03-27

Family

ID=73458916

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021520757A Active JP7457011B2 (ja) 2019-05-22 2020-05-15 異常検出方法、異常検出プログラム、異常検出装置、サーバ装置及び情報処理方法

Country Status (4)

Country Link
US (1) US11935234B2 (ja)
JP (1) JP7457011B2 (ja)
CN (1) CN113348485A (ja)
WO (1) WO2020235461A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2022132822A (ja) * 2021-03-01 2022-09-13 東洋製罐株式会社 異常検知に関する方法、プログラム、装置及びシステム
WO2022185644A1 (ja) * 2021-03-03 2022-09-09 富士フイルム株式会社 画像処理装置、画像処理装置の作動方法、画像処理装置の作動プログラム、並びに学習方法

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005246032A (ja) 2004-02-04 2005-09-15 Fuji Photo Film Co Ltd 異常陰影検出方法および装置並びにプログラム
JP2018196693A (ja) 2017-05-25 2018-12-13 コニカミノルタ株式会社 動態解析システム

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TW514513B (en) * 1996-02-06 2002-12-21 Deus Technologies Inc Method for the detection of lung nodule in radiological images using digital image processing and artificial neural network
WO2003070102A2 (en) * 2002-02-15 2003-08-28 The Regents Of The University Of Michigan Lung nodule detection and classification
US7876936B2 (en) * 2006-01-31 2011-01-25 Mevis Medical Solutions, Inc. Method for segmenting arteries and veins
JP5136562B2 (ja) 2008-01-15 2013-02-06 コニカミノルタエムジー株式会社 動態画像診断支援システム
US9259290B2 (en) * 2009-06-08 2016-02-16 MRI Interventions, Inc. MRI-guided surgical systems with proximity alerts
US9603668B2 (en) * 2014-07-02 2017-03-28 Covidien Lp Dynamic 3D lung map view for tool navigation inside the lung
US10445462B2 (en) * 2016-10-12 2019-10-15 Terarecon, Inc. System and method for medical image interpretation
US11908584B2 (en) * 2017-05-15 2024-02-20 Ne Scientific, Llc Methods and systems for modeling a necrotized tissue volume in an ablation procedure
US20190320934A1 (en) * 2018-04-18 2019-10-24 Siemens Healthcare Gmbh Medical image acquisition with sequence prediction using deep learning

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005246032A (ja) 2004-02-04 2005-09-15 Fuji Photo Film Co Ltd 異常陰影検出方法および装置並びにプログラム
JP2018196693A (ja) 2017-05-25 2018-12-13 コニカミノルタ株式会社 動態解析システム

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
CAMPADELLI Paola et al.,A Fully Automated Method for Lung Nodule Detection From Postero-Anterior Chest Radiographs,IEEE Transactions on Medical Imaging,2006年,Vol. 25, No. 12,Pages. 1588-1603
松坂匡芳 他,弾性輪郭モデルを用いた胸部X線像の肺輪郭線抽出,Medical Imaging Technology,1996年,Vol. 14, No. 6,Pages. 680-690
近藤堅司 他,深層学習を用いた胸部X線画像からの解剖学的構造の領域検出,生体医工学,2018年12月10日,Vol. 56, No. 6,Pages. 243-251

Also Published As

Publication number Publication date
CN113348485A (zh) 2021-09-03
US20220028072A1 (en) 2022-01-27
WO2020235461A1 (ja) 2020-11-26
US11935234B2 (en) 2024-03-19
JPWO2020235461A1 (ja) 2020-11-26

Similar Documents

Publication Publication Date Title
JP6877868B2 (ja) 画像処理装置、画像処理方法および画像処理プログラム
US20190021677A1 (en) Methods and systems for classification and assessment using machine learning
CN111563523B (zh) 利用机器训练的异常检测的copd分类
KR101874348B1 (ko) 피검체의 흉부 pa 영상의 판독을 지원하는 방법 및 이를 이용한 장치
US9014485B2 (en) Image reporting method
JP5643304B2 (ja) 胸部トモシンセシスイメージングにおけるコンピュータ支援肺結節検出システムおよび方法並びに肺画像セグメント化システムおよび方法
JP2020503603A (ja) 解剖学的画像処理における確率的セグメンテーションのためのシステム及び方法
EP3828818A1 (en) Method and system for identifying pathological changes in follow-up medical images
US20210327563A1 (en) Salient visual explanations of feature assessments by machine learning models
EP3796210A1 (en) Spatial distribution of pathological image patterns in 3d image data
US20170221204A1 (en) Overlay Of Findings On Image Data
US20210151171A1 (en) Apparatus and method for medical image reading assistant providing representative image based on medical use artificial neural network
US20240008801A1 (en) System and method for virtual pancreatography pipepline
JP7457011B2 (ja) 異常検出方法、異常検出プログラム、異常検出装置、サーバ装置及び情報処理方法
US11475568B2 (en) Method for controlling display of abnormality in chest x-ray image, storage medium, abnormality display control apparatus, and server apparatus
Singh et al. Semantic segmentation of bone structures in chest X-rays including unhealthy radiographs: A robust and accurate approach
CN112862786B (zh) Cta影像数据处理方法、装置及存储介质
CN114387380A (zh) 用于生成3d医学图像数据的基于计算机的可视化的方法
JP2020188960A (ja) 胸部x線画像の異常表示制御方法、異常表示制御プログラム、異常表示制御装置、及びサーバ装置
KR102647251B1 (ko) 하지 정렬 평가 방법 및 이를 이용한 하지 정렬 평가용 디바이스
EP4356837A1 (en) Medical image diagnosis system, medical image diagnosis system evaluation method, and program
REBELO SEMI-AUTOMATIC APPROACH FOR EPICARDIAL FAT SEGMENTATION AND QUANTIFICATION ON NON-CONTRAST CARDIAC CT
WO2021197176A1 (en) Systems and methods for tumor characterization
Amor Bone segmentation and extrapolation in Cone-Beam Computed Tomography
van der Heijden et al. GENERATION OF LUNG CT IMAGES USING SEMANTIC LAYOUTS

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220215

AA64 Notification of invalidation of claim of internal priority (with term)

Free format text: JAPANESE INTERMEDIATE CODE: A241764

Effective date: 20220215

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230327

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20231205

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240202

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240227

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240314

R151 Written notification of patent or utility model registration

Ref document number: 7457011

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151