JP2024043567A - 特徴分離に基づく病理画像特徴抽出器の訓練方法、訓練装置、電子機器、記憶媒体及び病理画像分類システム - Google Patents
特徴分離に基づく病理画像特徴抽出器の訓練方法、訓練装置、電子機器、記憶媒体及び病理画像分類システム Download PDFInfo
- Publication number
- JP2024043567A JP2024043567A JP2023006834A JP2023006834A JP2024043567A JP 2024043567 A JP2024043567 A JP 2024043567A JP 2023006834 A JP2023006834 A JP 2023006834A JP 2023006834 A JP2023006834 A JP 2023006834A JP 2024043567 A JP2024043567 A JP 2024043567A
- Authority
- JP
- Japan
- Prior art keywords
- feature
- domain
- image
- loss
- image block
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000012549 training Methods 0.000 title claims abstract description 75
- 238000000926 separation method Methods 0.000 title claims abstract description 64
- 238000000034 method Methods 0.000 title claims abstract description 39
- 230000007170 pathology Effects 0.000 title claims abstract description 35
- 238000000605 extraction Methods 0.000 claims abstract description 7
- 230000001575 pathological effect Effects 0.000 claims description 62
- 230000006870 function Effects 0.000 claims description 29
- 238000010276 construction Methods 0.000 claims description 8
- 238000004590 computer program Methods 0.000 claims description 7
- 238000007781 pre-processing Methods 0.000 claims description 5
- 230000001172 regenerating effect Effects 0.000 claims description 5
- 230000011218 segmentation Effects 0.000 claims description 5
- 125000004122 cyclic group Chemical group 0.000 claims description 4
- 238000004364 calculation method Methods 0.000 claims description 3
- 230000008685 targeting Effects 0.000 abstract description 3
- 230000000694 effects Effects 0.000 abstract description 2
- 230000008520 organization Effects 0.000 abstract 2
- 238000005457 optimization Methods 0.000 abstract 1
- 210000001519 tissue Anatomy 0.000 description 86
- 206010028980 Neoplasm Diseases 0.000 description 15
- 238000003745 diagnosis Methods 0.000 description 15
- 201000011510 cancer Diseases 0.000 description 11
- 238000010606 normalization Methods 0.000 description 9
- 210000004027 cell Anatomy 0.000 description 8
- 230000008569 process Effects 0.000 description 7
- 238000012545 processing Methods 0.000 description 7
- 230000003902 lesion Effects 0.000 description 5
- 208000010507 Adenocarcinoma of Lung Diseases 0.000 description 4
- 238000010586 diagram Methods 0.000 description 4
- 239000000284 extract Substances 0.000 description 4
- 201000005249 lung adenocarcinoma Diseases 0.000 description 4
- 201000005243 lung squamous cell carcinoma Diseases 0.000 description 4
- 208000037170 Delayed Emergence from Anesthesia Diseases 0.000 description 3
- 206010058467 Lung neoplasm malignant Diseases 0.000 description 3
- 230000002776 aggregation Effects 0.000 description 3
- 238000004220 aggregation Methods 0.000 description 3
- 238000004422 calculation algorithm Methods 0.000 description 3
- 238000002591 computed tomography Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 201000005202 lung cancer Diseases 0.000 description 3
- 208000020816 lung neoplasm Diseases 0.000 description 3
- 238000002156 mixing Methods 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 239000013598 vector Substances 0.000 description 3
- ORILYTVJVMAKLC-UHFFFAOYSA-N Adamantane Natural products C1C(C2)CC3CC1CC2C3 ORILYTVJVMAKLC-UHFFFAOYSA-N 0.000 description 2
- 206010027476 Metastases Diseases 0.000 description 2
- 230000004913 activation Effects 0.000 description 2
- 238000013473 artificial intelligence Methods 0.000 description 2
- 230000007423 decrease Effects 0.000 description 2
- 238000013135 deep learning Methods 0.000 description 2
- 238000013136 deep learning model Methods 0.000 description 2
- 238000002372 labelling Methods 0.000 description 2
- 230000009401 metastasis Effects 0.000 description 2
- 230000000877 morphologic effect Effects 0.000 description 2
- 210000004940 nucleus Anatomy 0.000 description 2
- 230000000717 retained effect Effects 0.000 description 2
- 230000009466 transformation Effects 0.000 description 2
- 210000004881 tumor cell Anatomy 0.000 description 2
- 230000005856 abnormality Effects 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 230000002411 adverse Effects 0.000 description 1
- 239000002246 antineoplastic agent Substances 0.000 description 1
- 229940041181 antineoplastic drug Drugs 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000002512 chemotherapy Methods 0.000 description 1
- 238000003759 clinical diagnosis Methods 0.000 description 1
- 238000004195 computer-aided diagnosis Methods 0.000 description 1
- 238000002790 cross-validation Methods 0.000 description 1
- 238000013480 data collection Methods 0.000 description 1
- 238000000354 decomposition reaction Methods 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 201000010099 disease Diseases 0.000 description 1
- 208000037265 diseases, disorders, signs and symptoms Diseases 0.000 description 1
- 230000002068 genetic effect Effects 0.000 description 1
- PCHJSUWPFVWCPO-UHFFFAOYSA-N gold Chemical compound [Au] PCHJSUWPFVWCPO-UHFFFAOYSA-N 0.000 description 1
- 230000036541 health Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 239000012535 impurity Substances 0.000 description 1
- 230000002427 irreversible effect Effects 0.000 description 1
- 210000004072 lung Anatomy 0.000 description 1
- 210000004324 lymphatic system Anatomy 0.000 description 1
- 210000000056 organ Anatomy 0.000 description 1
- 238000010827 pathological analysis Methods 0.000 description 1
- 230000035755 proliferation Effects 0.000 description 1
- 238000001959 radiotherapy Methods 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 238000007619 statistical method Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000001356 surgical procedure Methods 0.000 description 1
- 231100000331 toxic Toxicity 0.000 description 1
- 230000002588 toxic effect Effects 0.000 description 1
- 238000000844 transformation Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B6/00—Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
- A61B6/52—Devices using data or image processing specially adapted for radiation diagnosis
- A61B6/5211—Devices using data or image processing specially adapted for radiation diagnosis involving processing of medical diagnostic data
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B6/00—Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
- A61B6/52—Devices using data or image processing specially adapted for radiation diagnosis
- A61B6/5288—Devices using data or image processing specially adapted for radiation diagnosis involving retrospective matching to a physiological signal
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0012—Biomedical image inspection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/90—Determination of colour characteristics
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/25—Determination of region of interest [ROI] or a volume of interest [VOI]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/764—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
- G06V10/774—Generating sets of training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
Landscapes
- Engineering & Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Medical Informatics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Multimedia (AREA)
- Evolutionary Computation (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Artificial Intelligence (AREA)
- Computing Systems (AREA)
- Databases & Information Systems (AREA)
- Software Systems (AREA)
- Radiology & Medical Imaging (AREA)
- High Energy & Nuclear Physics (AREA)
- Heart & Thoracic Surgery (AREA)
- Biophysics (AREA)
- Veterinary Medicine (AREA)
- Optics & Photonics (AREA)
- Pathology (AREA)
- Biomedical Technology (AREA)
- Public Health (AREA)
- Molecular Biology (AREA)
- Surgery (AREA)
- Animal Behavior & Ethology (AREA)
- Physiology (AREA)
- Quality & Reliability (AREA)
- Image Analysis (AREA)
- Investigating Or Analysing Biological Materials (AREA)
- Medical Treatment And Welfare Office Work (AREA)
Abstract
Description
特徴分離に基づく病理画像特徴抽出器の訓練方法であって、当該方法は、具体的には、
訓練データセットを構築するステップであって、前記訓練データセットの各サンプルが病理画像の分割に基づいて取得された2つの画像ブロックを含むステップと、
特徴抽出器の訓練のための特徴分離ネットワークを構築するステップであって、前記特徴分離ネットワークは、
入力された画像ブロックをエンコードして組織構造情報特徴を得るための組織構造エンコーダEsと、
入力された画像ブロックをエンコードして色情報特徴を得るための色エンコーダEcと、
入力された組織構造情報特徴が同一のドメインにあるか否かを判別するための組織構造判別器Dsと、
入力された組織構造情報特徴及び色情報特徴を画像ブロックに再生成するための生成器Gと、
実画像ブロックと生成された画像ブロックが同一のドメインにあるか否かを区別するためのドメイン判別器Dと、を含むステップと、
訓練データセットに基づき、各サンプルを特徴分離ネットワークの入力として、損失関数を最小化することを目標として訓練して特徴分離ネットワークのパラメータを最適化し、訓練済みの組織構造エンコーダを、病理画像特徴抽出器とするステップであって、前記損失関数Ltotalは、以下のように表され、
Ltotal=-λadv,sLadv,s-λadv,domainLadv,domain+λrecon Lrecon+λlatent,s Llatent,s+λlatent,c Llatent,c+λccLcc
ここで、Ladv,sは、元のサンプルの2つの画像ブロックx及びyが属するドメインと組織構造判別器Dsにより判別されたドメインとの間の損失を含む、組織構造の敵対的損失を表し、
Ladv,domainは、元のサンプルの2つの画像ブロックx及びyに対応するXドメインのドメイン敵対的損失及びYドメインのドメイン敵対的損失を含む、ドメイン敵対的損失を表し、
Lreconは、各元のサンプルの2つの画像ブロックの自己再構築損失を表し、
Llatent,sは、変換画像ブロックと対応する元のサンプルの画像ブロックの組織構造情報特徴の組織構造情報整合性損失を表し、Llatent,cは、変換画像ブロックと対応する元のサンプルの画像ブロックの色情報特徴の色情報整合性損失を表し、
前記変換画像ブロックは、サンプルにおける2つの画像ブロックの色情報特徴を交換した後、生成器Gに基づいて再生成されたものであり、
Lccは、変換画像ブロックが組織構造エンコーダEs、色エンコーダEcによりエンコードされ、生成器Gにより再生成された画像ブロックと元のサンプルの画像ブロックの循環整合性損失を表し、
λadv,s、λadv,domain、λrecon、λlatent,s、λlatent,c及びλccは、それぞれ対応する損失の重みを表す、ステップと、を含む。
Ladv,s(Es,Ds)=Ex[1/2log Ds(Es(x))+1/2log(1-Ds(Es(x)))]+Ey[1/2log Ds(Es(y))+1/2log(1-Ds(Es(y)))]
ここで、Es(・)は、組織構造エンコーダEsの出力を表し、Ds(・)は、組織構造判別器Dsの出力を表し、x及びyは、各サンプルの2つの画像ブロックを表し、E[・]は、数学的期待である。
Lcc(Ec,Es,G)=Ex,y[||G(Es(v),Ec(u))-x||1+||G(Es(u),Ec(v))-y||1]
ここで、Es(・)は、組織構造エンコーダEsの出力を表し、x及びyは、各サンプルの2つの画像ブロックを表し、E[・]は、数学的期待であり、||・||1は、L1ノルムの算出を表し、G(・)は、生成器Gの出力を表し、Ec(・)は、色エンコーダEcの出力を表し、u及びvは、変換画像ブロックを表し、以下に表され、
u=G(Es(y),Ec(x)),v=G(Es(x),Ec(y))。
訓練データセットを構築するためのデータ取得モジュールであって、前記訓練データセットの各サンプルが病理画像の分割に基づいて取得された2つの画像ブロックを含むデータ取得モジュールと、
特徴抽出器の訓練のための特徴分離ネットワークを構築するための特徴分離ネットワーク構築モジュールであって、前記特徴分離ネットワークは、
入力された画像ブロックをエンコードして組織構造情報特徴を得るための組織構造エンコーダEsと、
入力された画像ブロックをエンコードして色情報特徴を得るための色エンコーダEcと、
入力された組織構造情報特徴が同一のドメインにあるか否かを判別するための組織構造判別器Dsと、
入力された組織構造情報特徴及び色情報特徴を画像ブロックに再生成するための生成器Gと、
実画像ブロックと生成された画像ブロックが同一のドメインにあるか否かを区別するためのドメイン判別器Dと、を含む特徴分離ネットワーク構築モジュールと、
訓練データセットに基づき、各サンプルを特徴分離ネットワークの入力として、損失関数を最小化することを目標として訓練して特徴分離ネットワークのパラメータを最適化し、訓練済みの組織構造エンコーダを、病理画像特徴抽出器とする訓練モジュールであって、前記損失関数Ltotalは、以下のように表され、
Ltotal=λadv,sLadv,s-λadv,domainLadv,domain+λrecon Lrecon+λlatent,s Llatent,s+λlatent,c Llatent,c+λccLcc
ここで、Ladv,sは、元のサンプルの2つの画像ブロックx及びyが属するドメインと組織構造判別器Dsにより判別されたドメインとの間の損失を含む、組織構造の敵対的損失を表し、
Ladv,domainは、元のサンプルの2つの画像ブロックx及びyに対応するXドメインのドメイン敵対的損失及びYドメインのドメイン敵対的損失を含む、ドメイン敵対的損失を表し、
Lreconは、各元のサンプルの2つの画像ブロックの自己再構築損失を表し、
Llatent,sは、変換画像ブロックと対応する元のサンプルの画像ブロックの組織構造情報特徴の組織構造情報整合性損失を表し、Llatent,cは、変換画像ブロックと対応する元のサンプルの画像ブロックの色情報特徴の色情報整合性損失を表し、
前記変換画像ブロックは、サンプルにおける2つの画像ブロックの色情報特徴を交換した後、生成器Gに基づいて再生成されたものであり、
Lccは、変換画像ブロックが組織構造エンコーダEs、色エンコーダEcによりエンコードされ、生成器Gにより再生成された画像ブロックと元のサンプルの画像ブロックの循環整合性損失を表し、
λadv,s、λadv,domain、λrecon、λlatent,s、λlatent,c及びλccは、それぞれ対応する損失の重みを表す、訓練モジュールと、を含む。
分類すべき病理画像を複数の画像ブロックに分割するためのデータ前処理ユニットと、
上記特徴分離に基づく病理画像特徴抽出器の訓練方法により訓練して得られた特徴抽出器であって、各画像ブロックに対して組織構造情報特徴を抽出するための特徴抽出器と、
特徴抽出器により抽出された各画像ブロックの組織構造情報特徴に基づいて分類を行い、分類すべき病理画像の分類結果を得るための分類ユニットと、を含む。
(1)本発明は、複数の敵対的生成ネットワークを含む特徴分離ネットワークを提供し、当該特徴分離ネットワークは、いかなるペアデータを使用せずに訓練し、全スライド病理画像を色情報特徴及び組織構造情報特徴に分離分解し、染色剤の配合比、組織固定時間、スキャナなどの人為的要因による色差異情報を除去し、画像中のより深い階層の細胞と細胞間の構造、形態学的特徴などの診断に関連する不純物のない組織構造情報のみを保持することができる。また、訓練の過程に異なる病理画像の複数のドメインをカバーし、異なるドメインの変化を導入し、異なるセンターからの全スライド病理画像に適応することができ、より強い汎化性能及びより高いロバスト性を有する。
ステップS1において、訓練データセットを構築し、前記訓練データセットの各サンプルは病理画像を分割することで取得された2つの画像ブロックを含む。
入力された画像ブロックをエンコードして組織構造情報特徴を得るための組織構造エンコーダEsと、
入力された画像ブロックをエンコードして色情報特徴を得るための色エンコーダEcと、
入力された組織構造情報特徴が同一のドメインにあるか否かを判別するための組織構造判別器Dsと、
入力された組織構造情報特徴及び色情報特徴を画像ブロックに再生成するための生成器Gと、
実画像ブロックと生成された画像ブロックが同一のドメインにあるか否かを区別するためのドメイン判別器Dと、を含む。
ステップS3.1において、各サンプルの2つの小さな画像ブロックをx、yと表記し、ここで、画像ブロックxは、Xドメインに属し、画像ブロックyは、Yドメインに属する。組織構造エンコーダEs及び色エンコーダEcにそれぞれ送信して特徴分離を行い、対応する組織構造情報特徴hs,x、hs,y及び色情報特徴hc,x、hc,yを得る。ここで、組織構造エンコーダEs及び色エンコーダEcは、いずれも従来のエンコーダであり、主に畳み込み層、残差ブロック、及び全結合層などから構成され、例示的に、組織構造エンコーダEsは、3つの畳み込み層と4つの残差ブロックから構成され、色エンコーダEcは、4つの畳み込み層と1つの全結合層から構成されてもよい。組織構造エンコーダEsは、画像を共有の組織構造ドメインSにマッピングし、色エンコーダEcは、画像を異なる色ドメインにマッピングし、以下の式であり、
hs,x=Es(x),hc,x=Ec(x),hs,y=Es(y),hc,y=Ec(y)
式において、Es(・)、Ec(・)は、それぞれ組織構造エンコーダEs及び色エンコーダEcの出力を表す。
Ladv,s(Es,Ds)=Ex[1/2log Ds(Es(x))+1/2log(1-Ds(Es(x)))]+Ey[1/2log Ds(Es(y))+1/2log(1-Ds(Es(y)))]
ここで、E[・]は、数学的期待であり、Ds(・)は、組織構造判別器Dsの出力を表す。
u=G(Es(y),Ec(x))=G(hs,y,hc,x),v=G(Es(x),Ec(y))=G(hs,x,hc,y)
ここで、G(・)は、生成器Gの出力を表す。
hs,u=Es(u),hc,u=Ec(u),hs,v=Es(v),hc,v=Ec(v)
画像ブロックu及び画像ブロックvの組織構造情報特徴hs,u、hs,vは、それぞれ画像ブロックy及び画像ブロックxが2回の組織構造エンコーダEs及び1回の生成器Gを介することで得られ、画像ブロックu及び画像ブロックvの色情報特徴hc,u、hc,vは、それぞれ画像ブロックx及び画像ブロックyが2回の色エンコーダEc及び1回の生成器Gを介することで得られる。理論上、hc,u、hc,vは、それぞれhc,x及びhc,yと同じであるべきであり、hs,u、hs,vは、それぞれhs,y及びhs,xと同じであるべきである。この仮定に基づき、hc,u、hc,v及びhc,x、hc,yにより潜在空間の色情報整合性損失(consistency loss)Llatent,cを算出することができ、hs,u、hs,v及びhs,y、hs,xにより潜在空間の組織構造情報整合性損失Llatent,cを算出することができ、BCE損失を潜在空間の色情報整合性損失関数及び組織構造情報整合性損失関数として選択することができる。
xcc=G(hs,v,hc,u),ycc=G(hs,u,hc,v)
2つのI2I変換後に生成された画像ブロックxcc及びyccは、元の画像ブロックx及びyと同じであるべきであり、この制約を強制実行するために、循環整合性損失Lccを構築し、例示的に、以下のように表され、
Lcc(Ec,Es,G)=Ex,y[||G(Es(v),Ec(u))-x||1+||G(Es(u),Ec(v))-y||1]
ここで、||・||1は、L1ノルムの算出を表す。
Ltotal=-λadv,sLadv,s-λadv,domainLadv,domain+λreconLrecon+λlatent,sLlatent,s+λlatent,cLlatent,c+λccLcc
ここで、λadv,s、λadv,domain、λrecon、λlatent,s、λlatent,c及びλccは、それぞれ対応する損失の重みを表し、例示的に、λadv,s=1、λadv,domain=1、λrecon=10、λlatent,s=10、λlatent,c=10、λcc=10と設定することができる。
前述特徴分離に基づく病理画像特徴抽出器の訓練方法の実施例に対応して、本発明は、さらに、特徴分離に基づく病理画像特徴抽出器の訓練装置の実施例を提供する。
訓練データセットを構築するためのデータ取得モジュールであって、前記訓練データセットの各サンプルが病理画像の分割に基づいて取得された2つの画像ブロックを含む取得モジュールと、
特徴抽出器の訓練のための特徴分離ネットワークを構築するための特徴分離ネットワーク構築モジュールであって、前記特徴分離ネットワークは、
入力された画像ブロックをエンコードして組織構造情報特徴を得るための組織構造エンコーダEsと、
入力された画像ブロックをエンコードして色情報特徴を得るための色エンコーダEcと、
入力された組織構造情報特徴が同一のドメインにあるか否かを判別するための組織構造判別器Dsと、
入力された組織構造情報特徴及び色情報特徴を画像ブロックに再生成するための生成器Gと、
実画像ブロックと生成された画像ブロックが同一のドメインにあるか否かを区別するためのドメイン判別器Dと、を含む特徴分離ネットワーク構築モジュールと、
訓練データセットに基づき、各サンプルを特徴分離ネットワークの入力として、損失関数を最小化することを目標として訓練して特徴分離ネットワークのパラメータを最適化し、訓練済みの組織構造エンコーダを、病理画像特徴抽出器とするための訓練モジュールであって、前記損失関数Ltotalは、以下のように表され、
Ltotal=λadv,sLadv,s-λadv,domainLadv,domain+λreconLrecon+λlatent,sLlatent,s+λlatent,cLlatent,c+λccLcc
ここで、Ladv,sは、元のサンプルの2つの画像ブロックx及びyが属するドメインと組織構造判別器Dsにより判別されたドメインとの間の損失を含む、組織構造の敵対的損失を表し、
Ladv,domainは、元のサンプルの2つの画像ブロックx及びyに対応するXドメインのドメイン敵対的損失及びYドメインのドメイン敵対的損失を含む、ドメイン敵対的損失を表し、
Lreconは、各元のサンプルの2つの画像ブロックの自己再構築損失を表し、
Llatent,sは、変換画像ブロックと対応する元のサンプルの画像ブロックの組織構造情報特徴の組織構造情報整合性損失を表し、Llatent,cは、変換画像ブロックと対応する元のサンプルの画像ブロックの色情報特徴の色情報整合性損失を表し、
前記変換画像ブロックは、サンプルにおける2つの画像ブロックの色情報特徴を交換した後、生成器Gに基づいて再生成されたものであり、
Lccは、変換画像ブロックが組織構造エンコーダEs、色エンコーダEcによりエンコードされ、生成器Gにより再生成された画像ブロックと元のサンプルの画像ブロックとの循環整合性損失を表し、
λadv,s、λadv,domain、λrecon、λlatent,s、λlatent,c及びλccは、それぞれ対応する損失の重みを表す、訓練モジュールと、を含む。
分類すべき病理画像を複数の画像ブロックに分割するためのデータ前処理ユニットと、
前述の実施例に記載の特徴分離に基づく病理画像特徴抽出器の訓練方法により訓練して得られた特徴抽出器であって、各画像ブロックに対して組織構造情報特徴を抽出するための特徴抽出器と、
特徴抽出器により抽出された各画像ブロックの組織構造情報特徴に基づいて分類を行い、分類すべき病理画像の分類結果を得るための分類ユニットと、を含む。
ステップS1において、肺癌の全スライド病理画像データセットを構築し、オープンソースデータセットTCGA(The Cancer Genome Atlas)及びTCIA(The Cancer Immunome Atlas)から、肺腺癌1524枚及び肺扁平上皮癌1476枚の合計3000枚の肺癌の全スライド病理画像を、2つの分類のデータ量分布を均一に保つように収集する。画像に対してラベル付けし、肺腺癌のWSIを0と、肺扁平上皮癌のWSIを1とラベル付けし、全てのデータは、いかなるピクセル、パッチ、又はROIレベルのラベルを含まない。
ステップS4.1において、全ての小さな画像ブロックの組織構造情報特徴hs,kをゲーテッド注意モジュールに送信し、各小さな画像ブロックの注意スコアakを得、
は、要素ごとに2つの行列を乗算することを表す。
L=-flog(prob)-(1-f)log(1-prob)
ここで、f∈{0,1}は、病理画像の実ラベルを表し、本実施例では、0が肺腺癌、1が肺扁平上皮癌を表す。
ステップS1において、患者の肺の全スライド病理画像を取得し、
ステップS2において、データ前処理ユニットを用いて、訓練する時に各全スライド病理画像に対して前処理を行う方法で前処理を行い、K枚の小さな画像ブロックを得、
ステップS3において、訓練済みの特徴抽出器を用いて、全ての小さな画像ブロックの組織構造情報特徴hs,kを抽出し、
ステップS4において、訓練済みのマルチインスタンス分類ネットワークに入力して分類結果を得る。
Claims (8)
- 訓練データセットを構築するステップであって、前記訓練データセットの各サンプルが病理画像の分割に基づいて取得された2つの画像ブロックを含むステップと、
特徴抽出器の訓練のための特徴分離ネットワークを構築するステップであって、前記特徴分離ネットワークは、
入力された画像ブロックをエンコードして組織構造情報特徴を得るための組織構造エンコーダEsと、
入力された画像ブロックをエンコードして色情報特徴を得るための色エンコーダEcと、
入力された組織構造情報特徴が同一のドメインにあるか否かを判別するための組織構造判別器Dsと、
入力された組織構造情報特徴及び色情報特徴を画像ブロックに新たに生成するための生成器Gと、
実画像ブロックと生成された画像ブロックが同一のドメインにあるか否かを区別するためのドメイン判別器Dと、を含むステップと、
訓練データセットに基づき、各サンプルを特徴分離ネットワークの入力として、損失関数を最小化することを目標として訓練して特徴分離ネットワークのパラメータを最適化し、訓練済みの組織構造エンコーダを、病理画像特徴抽出器とするステップであって、前記損失関数Ltotalは、以下のように表され、
Ltotal=-λadv,sLadv,s-λadv,domainLadv,domain+λreconLrecon+λlatent,sLlatent,s+λlatent,cLlatent,c+λccLcc
ここで、Ladv,sは組織構造の敵対的損失を表し、組織構造エンコーダEsと組織構造判別器Dsの敵対的損失を含み、
Ladv,domainは、元のサンプルの2つの画像ブロックx及びyに対応するXドメインのドメイン敵対的損失及びYドメインのドメイン敵対的損失を含む、ドメイン敵対的損失を表し、
Lreconは、各元のサンプルの2つの画像ブロックの自己再構築損失を表し、
Llatent,sは、変換画像ブロックと対応する元のサンプルの画像ブロックの組織構造情報特徴の組織構造情報整合性損失を表し、
Llatent,cは、変換画像ブロックと対応する元のサンプルの画像ブロックの色情報特徴の色情報整合性損失を表し、
前記変換画像ブロックは、サンプルにおける2つの画像ブロックの色情報特徴を交換した後、生成器Gに基づいて再生成されたものであり、
Lccは、変換画像ブロックが組織構造エンコーダEs、色エンコーダEcによりエンコードされ、生成器Gにより再生成された画像ブロックと元のサンプルの画像ブロックの循環整合性損失を表し、
λadv,s、λadv,domain、λrecon、λlatent,s、λlatent,c及びλccは、それぞれ対応する損失の重みを表す、ステップと、を含む、
ことを特徴とする特徴分離に基づく病理画像特徴抽出器の訓練方法。 - 前記組織構造の敵対的損失は、以下のように表され、
Ladv,s(Es,Ds)=Ex[1/2log Ds(Es(x))+1/2log(1-Ds(Es(x)))]+Ey[1/2log Ds(Es(y))+1/2log(1-Ds(Es(y)))]
ここで、Es(・)は、組織構造エンコーダEsの出力を表し、Ds(・)は、組織構造判別器Dsの出力を表し、x及びyは、各サンプルの2つの画像ブロックを表し、E[・]は、数学的期待である、
ことを特徴とする請求項1に記載の方法。 - 自己再構築損失Lrecon、ドメイン敵対的損失Ladv,domain、色情報整合性損失Llatent,c及び組織構造情報整合性損失Llatent,sは、BCE損失関数又はMSE損失関数を採用する、
ことを特徴とする請求項1に記載の方法。 - 前記循環整合性損失Lccは、以下のように表され、
Lcc(Ec,Es,G)=Ex,y[||G(Es(v),Ec(u))-x||1+||G(Es(u),Ec(v))-y||1]
ここで、Es(・)は、組織構造エンコーダEsの出力を表し、x及びyは、各サンプルの2つの画像ブロックを表し、E[・]は、数学的期待であり、||・||1は、L1ノルムの算出を表し、G(・)は、生成器Gの出力を表し、Ec(・)は、色エンコーダEcの出力を表し、u及びvは、変換画像ブロックを表し、以下の式、
u=G(Es(y),Ec(x)),v=G(Es(x),Ec(y))、で表される、
ことを特徴とする請求項1に記載の方法。 - 訓練データセットを構築するためのデータ取得モジュールであって、前記訓練データセットの各サンプルが病理画像の分割に基づいて取得された2つの画像ブロックを含む取得モジュールと、
特徴抽出器の訓練のための特徴分離ネットワークを構築するための特徴分離ネットワーク構築モジュールであって、前記特徴分離ネットワークは、
入力された画像ブロックをエンコードして組織構造情報特徴を得るための組織構造エンコーダEsと、
入力された画像ブロックをエンコードして色情報特徴を得るための色エンコーダEcと、
入力された組織構造情報特徴が同一のドメインにあるか否かを判別するための組織構造判別器Dsと、
入力された組織構造情報特徴及び色情報特徴を画像ブロックに再生成するための生成器Gと、
実画像ブロックと生成された画像ブロックが同一のドメインにあるか否かを区別するためのドメイン判別器Dと、を含む特徴分離ネットワーク構築モジュールと、
訓練データセットに基づき、各サンプルを特徴分離ネットワークの入力として、損失関数を最小化することを目標として訓練して特徴分離ネットワークのパラメータを最適化し、訓練済みの組織構造エンコーダを、病理画像特徴抽出器とするための訓練モジュールであって、前記損失関数Ltotalは、以下のように表され、
Ltotal=-λadv,sLadv,s-λadv,domainLadv,domain+λreconLrecon+λlatent,sLlatent,s+λlatent,cLlatent,c+λccLcc
ここで、Ladv,sは、元のサンプルの2つの画像ブロックx及びyが属するドメインと組織構造判別器Dsにより判別されたドメインとの間の損失を含む、組織構造の敵対的損失を表し、
Ladv,domainは、元のサンプルの2つの画像ブロックx及びyに対応するXドメインのドメイン敵対的損失及びYドメインのドメイン敵対的損失を含む、ドメイン敵対的損失を表し、
Lreconは、各元のサンプルの2つの画像ブロックの自己再構築損失を表し、
Llatent,sは、変換画像ブロックと対応する元のサンプルの画像ブロックの組織構造情報特徴の組織構造情報整合性損失を表し、Llatent,cは、変換画像ブロックと対応する元のサンプルの画像ブロックの色情報特徴の色情報整合性損失を表し、
前記変換画像ブロックは、サンプルにおける2つの画像ブロックの色情報特徴を交換した後、生成器Gに基づいて再生成されたものであり、
Lccは、変換画像ブロックが組織構造エンコーダEs、色エンコーダEcによりエンコードされ、生成器Gにより再生成された画像ブロックと元のサンプルの画像ブロックの循環整合性損失を表し、
λadv,s、λadv,domain、λrecon、λlatent,s、λlatent,c及びλccは、それぞれ対応する損失の重みを表す、訓練モジュールと、を含む、
ことを特徴とする特徴分離に基づく病理画像特徴抽出器の訓練装置。 - メモリと、プロセッサと、メモリに記憶され、プロセッサで実行可能なコンピュータプログラムとを含む電子機器であって、前記プロセッサは、前記コンピュータプログラムを実行する時、請求項1~4のいずれか1項に記載の特徴分離に基づく病理画像特徴抽出器の訓練方法を実施する、
ことを特徴とする電子機器。 - コンピュータ実行可能命令を含む記憶媒体であって、前記コンピュータ実行可能命令は、コンピュータプロセッサにより実行される時、請求項1~4のいずれか1項に記載の特徴分離に基づく病理画像特徴抽出器の訓練方法が実施される、
ことを特徴とするコンピュータ実行可能命令を含む記憶媒体。 - 分類すべき病理画像を複数の画像ブロックに分割するためのデータ前処理ユニットと、
請求項1~4のいずれか1項に記載の特徴分離に基づく病理画像特徴抽出器の訓練方法により訓練して得られた特徴抽出器であって、各画像ブロックに対して組織構造情報特徴を抽出するための特徴抽出器と、
特徴抽出器により抽出された各画像ブロックの組織構造情報特徴に基づいて分類を行い、分類すべき病理画像の分類結果を得るための分類ユニットと、を含む、
ことを特徴とする病理画像分類システム。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211138097.3A CN115222752B (zh) | 2022-09-19 | 2022-09-19 | 基于特征解耦的病理图像特征提取器训练方法及装置 |
CN202211138097.3 | 2022-09-19 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP7244974B1 JP7244974B1 (ja) | 2023-03-23 |
JP2024043567A true JP2024043567A (ja) | 2024-04-01 |
Family
ID=83617646
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2023006834A Active JP7244974B1 (ja) | 2022-09-19 | 2023-01-19 | 特徴分離に基づく病理画像特徴抽出器の訓練方法、訓練装置、電子機器、記憶媒体及び病理画像分類システム |
Country Status (2)
Country | Link |
---|---|
JP (1) | JP7244974B1 (ja) |
CN (1) | CN115222752B (ja) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116741347B (zh) * | 2023-05-12 | 2024-06-04 | 中山大学附属第一医院 | 一种病理图像patches提取与深度学习建模方法 |
CN116386856B (zh) | 2023-06-05 | 2023-10-20 | 之江实验室 | 基于医生决策模式识别的多标签疾病辅助诊断系统 |
CN116883397B (zh) * | 2023-09-06 | 2023-12-08 | 佳木斯大学 | 一种应用于解剖病理学的自动精益方法及系统 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2018186052A1 (ja) * | 2017-04-07 | 2018-10-11 | 株式会社日立ハイテクノロジーズ | 画像診断支援装置及び画像診断支援システム、並びに画像診断支援方法 |
WO2022168412A1 (ja) * | 2021-02-05 | 2022-08-11 | 株式会社日立製作所 | 画像処理装置、画像処理方法及びプログラム |
Family Cites Families (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110415184B (zh) * | 2019-06-28 | 2022-12-20 | 南开大学 | 一种基于正交元空间的多模态图像增强方法 |
JP7344149B2 (ja) * | 2020-02-07 | 2023-09-13 | キオクシア株式会社 | 最適化装置及び最適化方法 |
CN111476294B (zh) * | 2020-04-07 | 2022-03-22 | 南昌航空大学 | 一种基于生成对抗网络的零样本图像识别方法及系统 |
US20220084204A1 (en) * | 2020-09-11 | 2022-03-17 | Nvidia Corporation | Labeling images using a neural network |
CN112863529B (zh) * | 2020-12-31 | 2023-09-22 | 平安科技(深圳)有限公司 | 基于对抗学习的说话人语音转换方法及相关设备 |
CN113449786A (zh) * | 2021-06-22 | 2021-09-28 | 华东师范大学 | 基于风格迁移的强化学习对抗防御方法 |
CN113361489B (zh) * | 2021-07-09 | 2022-09-16 | 重庆理工大学 | 基于解耦表示的人脸正面化模型构建方法和训练方法 |
CN114299324B (zh) * | 2021-12-01 | 2024-03-29 | 万达信息股份有限公司 | 一种基于多尺度域对抗网络的病理图像分类方法及系统 |
CN114638767B (zh) * | 2022-05-18 | 2022-08-16 | 山东师范大学 | 基于生成对抗网络的腹腔镜影像除烟方法 |
CN114898159B (zh) * | 2022-06-01 | 2024-03-08 | 西北工业大学 | 基于解耦表征生成对抗网络的sar图像可解释性特征提取方法 |
-
2022
- 2022-09-19 CN CN202211138097.3A patent/CN115222752B/zh active Active
-
2023
- 2023-01-19 JP JP2023006834A patent/JP7244974B1/ja active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2018186052A1 (ja) * | 2017-04-07 | 2018-10-11 | 株式会社日立ハイテクノロジーズ | 画像診断支援装置及び画像診断支援システム、並びに画像診断支援方法 |
WO2022168412A1 (ja) * | 2021-02-05 | 2022-08-11 | 株式会社日立製作所 | 画像処理装置、画像処理方法及びプログラム |
Also Published As
Publication number | Publication date |
---|---|
CN115222752B (zh) | 2023-01-24 |
CN115222752A (zh) | 2022-10-21 |
JP7244974B1 (ja) | 2023-03-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Mei et al. | SANet: A slice-aware network for pulmonary nodule detection | |
Duran-Lopez et al. | PROMETEO: A CNN-based computer-aided diagnosis system for WSI prostate cancer detection | |
Yu et al. | A systematic survey of deep learning in breast cancer | |
JP2024043567A (ja) | 特徴分離に基づく病理画像特徴抽出器の訓練方法、訓練装置、電子機器、記憶媒体及び病理画像分類システム | |
CN113724880A (zh) | 一种异常脑连接预测系统、方法、装置及可读存储介质 | |
CN112801168B (zh) | 一种肿瘤影像的病灶区域预测分析方法、系统及终端设备 | |
Wang et al. | Information bottleneck-based interpretable multitask network for breast cancer classification and segmentation | |
CN111882538A (zh) | 一种区分肺结核与肿瘤信息的处理系统及信息处理方法 | |
CN115497623A (zh) | 一种基于影像、病理和基因多组学的肺癌预后预测系统 | |
Zhang et al. | RFI-GAN: A reference-guided fuzzy integral network for ultrasound image augmentation | |
Elayaraja et al. | An efficient approach for detection and classification of cancer regions in cervical images using optimization based CNN classification approach | |
Shi et al. | Automatic detection of pulmonary nodules in CT images based on 3D Res-I network | |
CN115564756A (zh) | 医学图像病灶定位显示方法与系统 | |
Tyagi et al. | An amalgamation of vision transformer with convolutional neural network for automatic lung tumor segmentation | |
Xu et al. | A High‐Precision Classification Method of Mammary Cancer Based on Improved DenseNet Driven by an Attention Mechanism | |
Tang et al. | NSCGCN: A novel deep GCN model to diagnosis COVID-19 | |
Kumari et al. | Data efficient deep learning for medical image analysis: A survey | |
Gengtian et al. | EfficientNet-Based Deep Learning Approach for Breast Cancer Detection With Mammography Images | |
Balannolla et al. | Detection and Classification of Lung Carcinoma using CT scans | |
Xu et al. | Lung segmentation in chest X‐ray image using multi‐interaction feature fusion network | |
Sakli et al. | Deep Learning Methods for Brain Tumor Segmentation | |
Ravi et al. | MDNN: Predictive Modeling of Breast Cancer Subtypes Using Modified Deep Neural Networks | |
Shen et al. | Classification of Benign-Malignant Pulmonary Nodules Based on Multi-view Improved Dense Network | |
Shui et al. | A three-path network with multi-scale selective feature fusion, edge-inspiring and edge-guiding for liver tumor segmentation | |
Shijitha et al. | Efficient Morphological Segmentation of Brain Hemorrhage Stroke Lesion Through MultiResUNet. |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20230210 |
|
A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20230210 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230228 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230303 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7244974 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |