JPWO2018128091A1 - 画像解析プログラム及び画像解析方法 - Google Patents

画像解析プログラム及び画像解析方法 Download PDF

Info

Publication number
JPWO2018128091A1
JPWO2018128091A1 JP2018560360A JP2018560360A JPWO2018128091A1 JP WO2018128091 A1 JPWO2018128091 A1 JP WO2018128091A1 JP 2018560360 A JP2018560360 A JP 2018560360A JP 2018560360 A JP2018560360 A JP 2018560360A JP WO2018128091 A1 JPWO2018128091 A1 JP WO2018128091A1
Authority
JP
Japan
Prior art keywords
cell nucleus
parameter
image
pathological diagnosis
candidate
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2018560360A
Other languages
English (en)
Inventor
勇介 三村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Konica Minolta Inc
Original Assignee
Konica Minolta Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Konica Minolta Inc filed Critical Konica Minolta Inc
Publication of JPWO2018128091A1 publication Critical patent/JPWO2018128091A1/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N33/00Investigating or analysing materials by specific methods not covered by groups G01N1/00 - G01N31/00
    • G01N33/48Biological material, e.g. blood, urine; Haemocytometers
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/211Selection of the most significant subset of features
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/69Microscopic objects, e.g. biological cells or cellular parts
    • G06V20/695Preprocessing, e.g. image segmentation
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/20ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for computer-aided diagnosis, e.g. based on medical expert systems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30024Cell structures in vitro; Tissue sections in vitro

Abstract

診断者への負担を軽減しつつ、病理診断用画像から診断者に対応した細胞核領域を適切に抽出することができる画像解析プログラム及び画像解析方法を提供する。表示部と操作部と記憶部とを備え、診断目的毎の細胞核の判定基準を定める第1のパラメータと診断者毎の細胞核の判定基準を定める第2のパラメータとを用いて病理診断用画像の解析を行う病理診断用画像解析装置では、組織標本を撮影した病理診断用画像を取得し、第1のパラメータを用いて病理診断用画像から複数の細胞核の候補領域を抽出し、第2のパラメータを用いて、抽出した複数の細胞核の候補領域から1又は複数の細胞核領域を再抽出し、表示部に再抽出した1又は複数の細胞核領域を識別可能にした病理診断用画像を表示させる。

Description

本発明は、画像解析プログラム及び画像解析方法に関し、特に、病理診断用画像から診断者に対応した診断対象を抽出する画像解析プログラム及び画像解析方法に関する。
医学的診断の1つとして病理診断がある。病理診断では、病理医は人体から採取した組織片から病気を診断し、治療や手術の要不要を臨床医に伝える。そして、患者の状態と病理診断の結果に応じて、内科医は薬物治療の方針を決定し、外科医は手術を行うか否かを決定する。
この病理診断では、臓器摘出や針生検によって得た組織検体を厚さ数μm程度に薄切して組織標本を作成し、光学顕微鏡を用いて拡大観察することが広く行われている。この組織標本は、例えば、採取した組織を固定するため脱水し、パラフィンブロック化した後、薄片の厚さに薄切りし、パラフィンを取り除くことによって作製されるが、組織標本は光をほとんど吸収及び散乱せず無色透明に近いため、観察に先立って色素による染色を施すのが一般的である。
染色手法としては種々のものが提案されており、特に組織標本に関して、ヘマトキシリン及びエオジンの2つの色素を用いるヘマトキシリン・エオジン染色(HE染色)が標準的に用いられている。ヘマトキシリン染色により細胞核・石灰部・軟骨組織・細菌・粘液が青藍色〜淡青色に染色され、エオジン染色により細胞質・間質・各種線維・赤血球・角化細胞が赤〜濃赤色に染色される。病理医は、染色された組織標本の顕微鏡画像の中で、細胞核の大きさや形の変化、組織としてのパターンの変化などの形態学的な情報や染色情報に基づいて診断を行っている。
また、画像のデジタル化技術の発達に伴い、病理診断の分野においても、顕微鏡やデジタルカメラ等を用いてデジタルカラー画像として入力された病理診断用画像に対して画像処理を行うことにより、病理医が病理診断を行う際に必要となる情報(特に細胞核)を抽出又は計測して表示する装置が普及してきている。
このような病理診断を支援する装置における画像処理方法に関して、例えば、下記特許文献1には、入力画像に存在する対象物の輪郭を初期設定する設定ステップと、上記設定ステップで初期設定された輪郭上に位置する輪郭点のエネルギーを算出するとともに、その輪郭点を周辺領域に位置する点に移動した場合における当該周辺領域に位置する点のエネルギーを算出するエネルギー算出ステップと、上記エネルギー算出ステップで算出されたエネルギーの極小探索を実施して、そのエネルギーの極小点に輪郭点を移動する移動ステップとを備えた画像処理方法が開示されている。この画像処理方法において、上記エネルギー算出ステップ及び移動ステップは、相互の処理結果に基づいて処理を繰り返す一方、上記エネルギー算出ステップはエネルギーを算出する際、初期段階ではぼかされた入力画像からエネルギーを算出し、段階的にぼかしが少ない入力画像からエネルギーを算出する。
また、下記特許文献2には、学習データを取得する学習データ取得手段と、前記学習データを基に複数の推論手段候補を作成する推論手段候補作成手段と、前記学習データを基に、前記複数の推論手段候補の性能を評価する推論性能評価手段と、前記学習データを基に、前記複数の推論手段候補の夫々が提示する情報の妥当性を評価する情報妥当性評価手段と、前記複数の推論手段候補の性能と前記複数の推論手段候補の夫々が提示する情報の妥当性とを基に前記複数の推論手段候補から推論手段を選択する推論手段選択手段と、を備える医療診断支援装置が開示されている。
特開2000−331143号公報 特開2014−147659号公報
病理診断用画像から細胞核の領域を抽出する技術は様々な手法が存在する。病理診断用画像から細胞核の領域を抽出する技術として一般的な手法が機械学習である。機械学習により病理診断用画像から細胞核の領域を抽出する場合、学習サンプルとして様々な病理診断用画像内の細胞核の領域を機械に教える必要があるが、病理診断用画像の細胞核領域を用いて機械学習を行う場合、下記の問題点が存在する。
まず、第1の問題は、診断目的によって細胞核の判定基準が異なることである。すなわち、同じ病理診断用画像でも、診断目的によってどのような細胞核の領域を抽出するのか、どのような細胞核の領域を抽出対象から除外するのかが異なる。そのため、この診断目的が分からずに判定された細胞核に基づいて機械学習を行うと、機械学習の精度が悪化する原因となる。
また、第2の問題は、病理医によって細胞核の判定基準にばらつきがあるということである。すなわち、病理診断のための組織検体は、検体の作製法や染色手法などによって状態が変化し、更に撮影条件などによって病理診断用画像も大きく変化する。そのため、病理医により、病理診断用画像内の細胞核を判定する基準に大きなばらつきが生じる。従って、同じ組織検体の病理診断用画像を用いて機械学習を行おうとしても、組織検体の状態や細胞核の判定基準によって細胞核の抽出結果が変化するため、機械学習の精度が悪化する原因となる。
このような問題があるため、病理診断を支援する装置によりユーザにとって有益な機械学習を行うためには、診断目的毎の細胞核の判定基準や病理医などの診断者毎の細胞核の判定基準に対応した学習を行い、パラメータを診断目的毎及び病理医毎に適切な値に設定する必要がある。そのためには膨大なパラメータ数及び膨大な工数の機械学習が必要になり、診断者の負担が増大し、また、機械学習に時間がかかる。
本発明は、上記問題点に鑑みてなされたものであって、その主たる目的は、診断者の負担を軽減しつつ、病理診断用画像から診断者に対応した細胞核領域を適切に抽出することができる画像解析プログラム及び画像解析方法を提供することにある。
本発明の一側面は、表示部と操作部と記憶部とを備え、前記記憶部に保存された、診断目的毎の細胞核の判定基準を定める第1のパラメータと診断者毎の細胞核の判定基準を定める第2のパラメータとを用いて、病理診断用画像の解析を行う装置で動作する画像解析プログラムであって、前記装置に、組織標本を撮影した病理診断用画像を取得し、前記第1のパラメータを用いて、前記病理診断用画像から複数の細胞核の候補領域を抽出する第1の病理診断用画像解析処理、前記第2のパラメータを用いて、前記抽出した複数の細胞核の候補領域から1又は複数の細胞核領域を再抽出する第2の病理診断用画像解析処理、前記表示部に、前記再抽出した1又は複数の細胞核領域を識別可能にした前記病理診断用画像を表示させる第1の表示制御処理、を実行させる。
本発明の一側面は、表示部と操作部と記憶部とを備え、前記記憶部に保存された、診断目的毎の細胞核の判定基準を定める第1のパラメータと診断者毎の細胞核の判定基準を定める第2のパラメータとを用いて、病理診断用画像の解析を行う装置における画像解析方法であって、組織標本を撮影した病理診断用画像を取得し、前記第1のパラメータを用いて、前記病理診断用画像から複数の細胞核の候補領域を抽出する第1の病理診断用画像解析処理と、前記第2のパラメータを用いて、前記抽出した複数の細胞核の候補領域から1又は複数の細胞核領域を再抽出する第2の病理診断用画像解析処理と、前記表示部に、前記再抽出した1又は複数の細胞核領域を識別可能にした前記病理診断用画像を表示させる第1の表示制御処理と、を実行する。
本発明の画像解析プログラム及び画像解析方法によれば、診断者の負担を軽減しつつ、病理診断用画像から診断者に対応した細胞核領域を適切に抽出することができる。
その理由は、病理診断用画像の解析を行う装置において、以下の制御を行うからである。すなわち、この装置では、組織標本を撮影した病理診断用画像を取得し、診断目的毎の細胞核の判定基準を定める第1のパラメータを用いて、病理画像から複数の細胞核の候補領域を抽出し、診断者毎の細胞核の判定基準を定める第2のパラメータを用いて、抽出した複数の細胞核の候補領域から1又は複数の細胞核領域を再抽出し、表示部に、再抽出した1又は複数の細胞核領域を識別可能にした病理診断用画像を表示させるからである。
本発明の一実施の形態に係る病理診断用画像解析装置の概略動作を説明する模式図である。 本発明の第1の実施例に係る病理診断用画像処理システムの構成を示す模式図である。 本発明の第1の実施例に係る病理診断用画像解析装置の構成を示すブロック図である。 本発明の第1の実施例に係る病理診断用画像解析装置の構成を示すブロック図である。 本発明の第1の実施例に係る病理診断用画像解析装置の動作を示すフローチャート図である。 本発明の第1の実施例に係る候補領域表示画面(死細胞判定)の一例を示す図である。 本発明の第1の実施例に係る候補領域表示画面(サイズ設定)の一例を示す図である。 本発明の第1の実施例に係る候補領域表示画面(濃度設定)の一例を示す図である。 本発明の第1の実施例に係る候補領域表示画面(エッジ強度設定)の一例を示す図である。 本発明の第1の実施例に係る候補領域表示画面(特徴量設定)の一例を示す図である。 本発明の第2の実施例に係る病理診断用画像解析装置の動作を示すフローチャート図である。 本発明の第2の実施例に係るサンプル画像表示画面(サイズ設定)の一例を示す図である。 本発明の第2の実施例に係るサンプル画像表示画面(濃度設定)の一例を示す図である。 本発明の第2の実施例に係るサンプル画像表示画面(エッジ強度設定)の一例を示す図である。 従来の病理診断用画像解析手順を示すフローチャート図である。 病理診断用画像から細胞核を抽出する場合における、画像の色合いが変化する要因を説明するテーブルである。 病理診断用画像から細胞核を抽出する場合における、画像の色合いが異なる画像例を示す図である。 病理診断用画像から細胞核を抽出する場合における、画像の色合いが異なる画像例を示す図である。 病理診断用画像から細胞核を抽出する場合における、診断目的による細胞核の判定基準の差異を説明する図である。 病理診断用画像から細胞核を抽出する場合における、診断目的による細胞核の判定基準の差異(死細胞の場合)を説明する図である。 病理診断用画像から細胞核を抽出する場合における、病理医による細胞核の判定基準のばらつきを説明する図である。 病理診断用画像から細胞核を抽出する場合における、病理医による細胞核の判定基準のばらつき(重畳した細胞核の分割の場合)を説明する図である。 病理診断用画像から細胞核を抽出する場合における、病理医による細胞核の判定基準のばらつき(重畳した細胞核の分割の場合)を説明する図である。
背景技術で示したように、病理診断を支援する装置が機械学習により病理診断用画像から細胞核を抽出する場合、診断目的による細胞核の判定基準の差異や病理医による細胞核の判定基準のばらつきに対応しなければいけない。しかしながら、診断目的に応じて多くの機械学習パラメータを用意するとパラメータの数は膨大となり、さらに病理医による細胞核の判定基準のばらつきまで考慮して機械学習を行うと、病理医の負担や再学習の時間が増大し、大きな問題となる。この問題について、図面を参照して説明する。
図14は、従来の病理診断用画像の解析手順を示すフローチャート図である。従来は、病理診断を支援する装置に病理診断用画像が入力されると(S301)、この装置は、その病理診断用画像を解析して細胞核領域を抽出し(S302)、抽出した細胞核領域を最終結果として表示している(S303)。すなわち、従来の病理診断用画像の解析では、病理診断を支援する装置により、予め用意した機械学習パラメータを用いて病理診断用画像の中から細胞核領域を抽出し、それを最終結果として表示しているが、この方法では、診断目的による細胞核の判定基準の差異や病理医による細胞核の判定基準のばらつきを反映した抽出結果を得ることができない。
図15は、病理診断用画像の色合いが変化する要因を列挙したテーブルである。病理診断用画像の色合いが変化する要因には、組織に関する要因、染色に関する要因、撮影に関する要因などがある。組織に関する要因には、がん種、組織の採取方法、がん状態、切片の厚さなどがあり、染色に関する要因には、染色方法、賦活化条件、染色時間、染色液などがあり、撮影に関する要因には、明るさ、ピント、露光条件、顕微鏡のスペック、色補正などがある。
図16A、16Bは、画像の色合いが異なる病理診断用画像の例である。図16A、16Bは共に同じ乳がんの病理診断用画像であるが、色合い(図では白黒2値で示しているため、色合いは濃淡で表現されている。)が全く違う画像となっている。
図17は、診断目的による細胞核の判定基準の差異を説明するための病理診断用画像の例である。図中の実線で囲んだ部分A1は、病理医が通常細胞核と判定する部分である。一方、図中の破線で囲んだ部分A2は、細胞の細胞膜の部分である。この部分A2は、診断に際して細胞膜まで観察する場合は抽出する必要があるが、細胞膜は観察しない場合は抽出する必要はない。
図18は、診断目的による細胞核の判定基準の差異を説明するための病理診断用画像の他の例であり、死細胞に着目して撮影された画像である。図中の矢印で示す部分は、細胞核ではあるが、細胞核が断裂し始めているので、この細胞核を含む細胞は死細胞と考えられる。上記と同様に、診断に際して死細胞まで観察する場合はこの部分を抽出する必要があるが、死細胞は観察しない場合は抽出する必要はない。
図19は、病理医による細胞核の判定基準のばらつきを説明するための病理診断用画像の例である。図中の矢印で示す部分(薄く色が変化している部分)は、病理医によって細胞核として抽出するかどうかの判定が分かれる。
図20A、20Bは、病理医による細胞核の判定基準のばらつきを説明するための病理診断用画像の他の例であり、図20Aは元画像、図20Bは元画像に対して重畳した細胞核を分割する線を追記した例である。図20Aの元画像の中心の細胞(矢印で示す部分)は、病理医によって、図20Bの実線で囲んだ部分を1個の細胞核として判定する場合や、実線で囲んだ部分を破線で分割して2個の細胞核として判定する場合がある。
このように、診断目的によって病理診断用画像から抽出すべき細胞核領域が異なり、診断目的が同じであっても病理医によって抽出すべき細胞核領域が異なる。また、上述したように、病理診断用画像の色合いが変化する要因は多数あり、病理診断用画像の色合いが異なると細胞の見え方も大きく変化する。そのため、従来の病理診断を支援する装置では、診断目的や病理医により抽出結果のばらつきが更に大きくなり、病理診断用画像から抽出すべき細胞核領域が抽出されなくなったり、抽出する必要のない細胞核領域まで抽出されてしまったりすることになる。
そこで、本発明の一実施の形態では、病理診断用画像から機械学習を用いて細胞核の領域を抽出する手法において、機械学習により、細胞核の判定基準を定めるパラメータを診断目的毎に用意しておく。この際、病理医などの診断者毎の判定基準に合わせようと機械学習を再度行うと、診断者の負担が大きくなり、学習に時間がかかる。そこで、図1に示すように、病理診断用画像から診断目的に応じて細胞核領域を抽出するための機械学習パラメータ(診断目的毎の細胞核の判定基準を定める第1のパラメータP1)とは別に、診断者による判定基準の変化に対応できるパラメータ(診断者毎の細胞核の判定基準を定める第2のパラメータP2)を準備しておく。以下、第1のパラメータP1と第2のパラメータP2を、それぞれ、基本パラメータ及び詳細パラメータと呼ぶ。そして、図1に示すように、病理診断用画像解析装置APにより、組織標本を撮影した病理診断用画像IMG0を取得し、基本パラメータを用いて病理診断用画像IMG0から複数の細胞核の候補領域を抽出した結果に対して、詳細パラメータを用いて更に1又は複数の細胞核領域の抽出を行う。すなわち、診断者による細胞核の判定基準のばらつきに対応するための細胞核領域の再抽出は、基本パラメータを用いて病理診断用画像から細胞核の候補領域を抽出した結果に対してのみ行う。そして、再抽出した細胞核領域を識別可能にした病理診断用画像IMG1を表示する。これにより、診断者の負担を軽減しつつ、病理診断用画像から診断者に対応した細胞核領域を適切に抽出できるようにする。
具体的には、表示部と操作部と記憶部とを備え、記憶部に保存された基本パラメータと詳細パラメータとを用いて、病理診断用画像の解析を行う病理診断用画像解析装置において、以下の処理を行う。この病理診断用画像解析装置では、組織標本を撮影した病理診断用画像を取得し、基本パラメータを用いて、病理診断用画像から複数の細胞核の候補領域を抽出する第1の病理診断用画像解析処理、詳細パラメータを用いて、抽出した複数の細胞核の候補領域から1又は複数の細胞核領域を再抽出する第2の病理診断用画像解析処理、表示部に、再抽出した1又は複数の細胞核領域を識別可能にした病理診断用画像を表示させる第1の表示制御処理を実行する。
以上の処理において、病理診断用画像解析装置は、基本パラメータを用いて病理診断用画像から抽出した細胞核の候補領域や予め用意された細胞核のサンプル画像に対する診断者の操作結果に基づき、詳細パラメータを診断者に対応した値に修正してもよい。これにより、診断者による細胞核の判定のばらつきに対応するための再学習を、より限られた数の学習サンプルを用いて行うことができるため、診断者の負担を軽減すると共に、機械学習にかかる工数を削減することができる。例えば、病理診断用画像解析装置は、第1の病理診断用画像解析処理の後に、表示部に、抽出した複数の細胞核の候補領域のうち1又は複数の候補領域を選択又は追記可能に表示させる第2の表示制御処理、操作部による、細胞核の候補領域に対する選択操作又は追記操作を受け付ける操作制御処理、1又は複数の細胞核の候補領域に対する選択結果又は追記結果に基づいて、詳細パラメータを修正して記憶部に保存するパラメータ修正処理を実行して、第2の病理診断用画像解析処理において、修正した詳細パラメータを用いて、抽出した複数の細胞核の候補領域から1又は複数の細胞核領域を再抽出してもよい。又は、病理診断用画像解析装置は、第1の病理診断用画像解析処理の前に、表示部に、1又は複数の細胞核のサンプル画像を選択又は追記可能に表示させる第2の表示制御処理、操作部による、サンプル画像に対する選択操作又は追記操作を受け付ける操作制御処理、サンプル画像に対する選択結果又は追記結果に基づいて、詳細パラメータを修正して記憶部に保存するパラメータ修正処理を実行して、第2の病理診断用画像解析処理において、修正した詳細パラメータを用いて、抽出した複数の細胞核の候補領域から1又は複数の細胞核領域を再抽出してもよい。
上記した本発明の実施の形態についてさらに詳細に説明すべく、本発明の第1の実施例に係る画像解析プログラム及び画像解析方法について、図2乃至図9を参照して説明する。図2は、本実施例の病理診断用画像処理システムの構成を示す模式図であり、図3A、3Bは、病理診断用画像解析装置の構成を示すブロック図である。また、図4は、病理診断用画像解析装置の動作を示すフローチャート図であり、図5乃至図9は、詳細パラメータを修正するための候補領域表示画面の一例である。
図2に示すように、本実施例の病理診断用画像処理システム10は、病理診断用画像取得装置20と病理診断用画像解析装置30とで構成され、これらはイーサネット(登録商標)、トークンリング、FDDI(Fiber-Distributed Data Interface)等の規格により定められるLAN(Local Area Network)等の通信ネットワーク40を介して接続されている。なお、病理診断用画像取得装置20で取得した病理診断用画像の画像データをUSB(Universal Serial Bus)メモリなどを介して病理診断用画像解析装置30に提供する場合は、病理診断用画像取得装置20と病理診断用画像解析装置30とを通信ネットワーク40で接続する必要はない。
病理診断用画像取得装置20は、臓器摘出や針生検によって得た組織検体を厚さ数μm程度に薄切して作製した組織標本を撮影する光学顕微鏡と、光学顕微鏡で撮影した病理診断用画像を表示するモニタと、これらを制御すると共に、病理診断用画像の画像データを生成して出力する制御部などで構成される。
また、病理診断用画像解析装置30は、パーソナルコンピュータなどのコンピュータ装置であり、図3Aに示すように、制御部31と記憶部35とネットワークI/F部36と表示部37と操作部38などで構成される。
制御部31は、CPU(Central Processing Unit)32と、ROM(Read Only Memory)33やRAM(Random Access Memory)34などのメモリとで構成され、これらはバスを介して接続されている。ROM33は、プログラムなどを記憶する。RAM34は、CPU32による制御に必要なデータ及び制御動作時に一時記憶が必要なデータ等を記憶する。そして、CPU32は、ROM33や記憶部35に記憶した制御プログラムをRAM34に展開して実行することにより、病理診断用画像解析装置30全体の動作を制御する。
上記制御部31は、図3Bに示すように、パラメータ設定部31a、病理診断用画像解析部31b、表示制御部31c、操作制御部31d、パラメータ修正部31eなどとして機能する。
パラメータ設定部31aは、病理診断用画像から診断目的に応じた細胞核の候補領域を抽出するためのパラメータ(診断目的毎の細胞核判定の基準を定める基本パラメータ)や、抽出した細胞核の候補領域の中から病理医などの診断者(以下、病理医とする。)に応じた細胞核領域を抽出するためのパラメータ(病理医毎の細胞核判定の基準を定める詳細パラメータ)を設定し、記憶部35などに保存する。上記基本パラメータには、例えば、細胞核のサイズ、細胞核の染色の濃度、細胞核の輪郭のエッジ強度、尤度比などの特徴量の数値などのうち1又は複数を用いることができ、詳細パラメータには、例えば、細胞核のサイズ、細胞核の染色の濃度、細胞核の輪郭のエッジ強度、尤度比などの特徴量の数値、死細胞と判定するパターンなどのうち1又は複数を用いることができる。なお、パラメータの初期値には、予め用意された標準的な値を設定してもよいし、病理医等に操作部38を用いてパラメータの初期値を選択又は入力させてもよい。また、詳細パラメータは、基本パラメータに含まれる構成としてもよいし、一部が基本パラメータと重複する構成としてもよいし、基本パラメータと重複しない構成としてもよい。また、詳細パラメータが基本パラメータに含まれるか、又は、一部が基本パラメータと重複する場合は、その詳細パラメータの初期値は基本パラメータと同じ値にしてもよい。
病理診断用画像解析部31bは、病理診断用画像取得装置20から組織標本を撮影した病理診断用画像を取得し、取得した病理診断用画像に対して、弛緩法、ゼロ交点胞、Canny胞、非極値抑制エッジ強調法などの公知の手法を用いてエッジを強調し、強調した画像からHough変換やSNAKE法などの公知の手法を用いて輪郭を抽出する。そして、抽出した輪郭に対して、上述した基本パラメータを用いて画像処理を行うことにより、病理診断用画像から診断目的に応じた複数の細胞核の候補領域を抽出する。また、抽出した細胞核の候補領域に対して、上述した詳細パラメータを用いて画像処理を行うことにより、病理医に応じた1又は複数の細胞核領域を抽出する。
表示制御部31cは、病理診断用画像解析部31bが複数の細胞核の候補領域を抽出したら、抽出した細胞核の候補領域を分類し、詳細パラメータを病理医などの診断者に対応した値に設定するためのグループを作成する。このとき、複数のグループに同じ細胞核の候補領域が含まれていてもよい。そして、各グループの細胞核の候補領域を選択可能に(すなわち、病理医などの診断者が、各グループの細胞核の候補領域から1又は複数を選択できるように)表示部37に表示させる。また、抽出した細胞核の候補領域のうち詳細パラメータを病理医などの診断者に対応した値に設定するための1又は複数の細胞核の候補領域を特定し、特定した細胞核の候補領域を追記可能に(すなわち、病理医などの診断者が、特定した細胞核の候補領域に対して操作部38を用いて書き込みができるように)表示部37に表示させる。また、病理診断用画像解析部31bが細胞核の候補領域の中から病理医に応じた細胞核領域を抽出したら、表示制御部31cは、抽出した細胞核領域を識別可能にした病理診断用画像を最終結果として表示部37に表示させる。抽出した細胞核領域を識別可能にするには、例えば、抽出した細胞核領域を強調した病理診断用画像を表示部37に表示させてもよい。抽出した細胞核領域を強調する方法としては、病理診断用画像の強調する領域の明るさや色を変更したり、強調する領域を点滅させたり、強調する領域を示す枠やマーカを病理診断用画像と共に表示するなどの方法を用いることができる。また、抽出した細胞核領域を識別可能にする為に、病理診断用画像全体を表示部37に表示させる代わりに、抽出した細胞核領域を表示部37に表示させてもよい。また、表示制御部31cは、必要に応じて、基本パラメータや詳細パラメータの設定や選択を行うための画面を表示部37に表示させる。
操作制御部31dは、表示部37に表示された各グループの細胞核の候補領域に対して病理医により操作部38を用いて選択操作が行われたら、この選択操作を受け付け、選択結果をパラメータ修正部31eに通知する。また、表示部37に表示された細胞核の候補領域に対して病理医により操作部38を用いて追記操作が行われたら、この追記操作を受け付け、追記結果をパラメータ修正部31eに通知する。また、必要に応じて、基本パラメータや詳細パラメータの設定操作や選択操作を受け付ける。
パラメータ修正部31eは、操作制御部31dから病理医による細胞核の候補領域の選択結果や追記結果を受け取り、選択された細胞核の候補領域と選択されなかった細胞核の候補領域との差異に基づいて詳細パラメータを病理医に対応した値に修正したり、追記内容に基づいて詳細パラメータを病理医に対応した値に修正したりし、修正した詳細パラメータを記憶部35などに保存する。例えば、病理医による細胞核の候補領域の選択結果を受け取った場合、パラメータ修正部31eは、詳細パラメータに含まれる細胞核のサイズ、細胞核の染色の濃度、細胞核の輪郭のエッジ強度、尤度比などの特徴量の値を、選択された細胞核の候補領域における値と選択されなかった細胞核の候補領域における値との間の値(任意の中間の値)に設定する。また、詳細パラメータに含まれる死細胞と判定するパターンを、選択された細胞核の候補領域から抽出されたパターンに設定する。また、病理医による細胞核の候補領域への追記結果を受け取った場合、パラメータ修正部31eは、詳細パラメータに含まれる細胞核の輪郭のエッジ強度を、分割線で分割される細胞核間の濃度差に設定する。
なお、上記パラメータ設定部31a、病理診断用画像解析部31b、表示制御部31c、操作制御部31d、パラメータ修正部31eはハードウェアとして構成してもよいし、コンピュータ読み取り可能な記録媒体に記録され、実行時に、制御部31をパラメータ設定部31a、病理診断用画像解析部31b、表示制御部31c、操作制御部31d、パラメータ修正部31eとして機能させるソフトウェア(画像解析プログラム)として構成し、当該画像解析プログラムをCPU32に実行させるようにしてもよい。
記憶部35は、HDD(Hard Disk Drive)やSSD(Solid State Drive)などで構成され、CPU32が各部を制御するためのプログラム、自装置の処理機能に関する情報、病理診断用画像の画像データ、基本パラメータや詳細パラメータなどを格納する。
ネットワークI/F部36は、NIC(Network Interface Card)やモデムなどで構成され、通信ネットワーク40を介して繋がっている病理診断用画像取得装置20との接続を確立し、病理診断用画像取得装置20から病理診断用画像の画像データなどを受信する。
表示部37は、LCD(Liquid Crystal Display)や有機EL(Electro Luminescence)ディスプレイなどのハードウェアで構成され、上述した表示制御部31cの指示に従って、各グループの細胞核の候補領域を選択可能に表示する画面や、細胞核の候補領域を追記可能に表示する画面、抽出した細胞核を最終結果として表示する画面、基本パラメータや詳細パラメータの設定や選択を行うための画面などを表示する。
操作部38は、キーボードやマウス、表示部37上に形成された、透明電極が格子状に配列されたタッチセンサなどの入力装置で構成され、細胞核の候補領域の選択操作や追記操作、基本パラメータや詳細パラメータの設定操作や選択操作などを可能にする。
なお、図2及び図3A、3Bは本実施例の病理診断用画像処理システム10や病理診断用画像解析装置30の一例であり、その構成や制御内容は適宜変更可能である。例えば、図3A、3Bの病理診断用画像解析装置30では、病理診断用画像解析装置30が基本パラメータを用いた細胞核の候補領域の抽出及び詳細パラメータを用いた細胞核領域の再抽出を行うものとしたが、病理診断用画像解析装置30と通信可能に接続された別の装置に病理診断用画像解析装置30の機能の一部を持たせておき、上記処理の一部を、この装置に行わせてもよい。例えば、別の装置(例えば、クラウド上のサーバ装置)に、病理診断用画像解析部31bの機能の一部を持たせておき、基本パラメータを用いた細胞核の候補領域の抽出はこの装置で行い、病理診断用画像解析装置30は詳細パラメータを用いた細胞核領域の再抽出のみを行うようにしてもよい。
以下、病理診断用画像解析装置30の具体的な動作について説明する。CPU32は、ROM33又は記憶部35に記憶した画像解析プログラムをRAM34に展開して実行することにより、図4のフローチャート図に示す各ステップの処理を実行する。なお、以下の説明において、制御部31(パラメータ設定部31a)は、予め基本パラメータ及び詳細パラメータを設定して記憶部35などに記憶しているものとする。
まず、病理診断用画像解析装置30の制御部31(病理診断用画像解析部31b)は、病理診断用画像取得装置20から組織標本を撮影した病理診断用画像を取得する(S101)。そして、公知の手法を用いて病理診断用画像から輪郭を抽出し、抽出した輪郭に基づき、予め設定した基本パラメータを用いて、病理診断用画像から複数の細胞核の候補領域を抽出する(S102)。
次に、制御部31(表示制御部31c)は、抽出した複数の細胞核の候補領域を表示部37に選択可能又は追記可能に表示し(S103)、制御部31(操作制御部31d)は、詳細パラメータを病理医に対応した値に修正するための、病理医による操作部38を用いた細胞核の候補領域の選択操作又は細胞核の候補領域への追記操作を受け付ける(S104)。なお、詳細パラメータは、上述したように、細胞核のサイズ、細胞核の染色の濃度、細胞核の輪郭のエッジ強度、尤度比などの特徴量の値、死細胞と判定するパターンなどである。
例えば、制御部31(表示制御部31c)は、表示部37に候補領域選択画面50を表示することにより、抽出した細胞核の候補領域を表示部37に選択可能又は追記可能に表示し、制御部31(操作制御部31d)は、病理医による操作部38を用いた細胞核の候補領域の選択操作又は細胞核の候補領域への追記操作を受け付ける。一例として、制御部31(表示制御部31c)は、図5に示す候補領域選択画面50Aのように、抽出した細胞核の候補領域の中から、死細胞と判定可能な細胞核の候補領域を特定し、特定した細胞核の候補領域を表示部37に選択可能に表示して、病理医に操作部38を用いて死細胞と判定する細胞核の候補領域を選択させる。ここで、死細胞と判定可能な細胞核の候補領域の特定は、例えば、予め、細胞核のサイズ、細胞核の形状、細胞核の染色の濃度、細胞核の輪郭のエッジ強度、尤度比などの特徴量の値、死細胞と判定する構造のパターンなどの少なくとも1つを用いて所定の基準を決めておき、この所定の基準に基づき、抽出した細胞核の候補領域の中から死細胞の細胞核である蓋然性の高い細胞核の候補領域を抽出することにより、行うことができる。候補領域選択画面50Aの左及び中央の候補領域の細胞核は断裂し始めているので、この細胞核を含む細胞を死細胞と判定し、候補領域選択画面50Aの右の候補領域の細胞核は断裂ではなく空胞変形なので、この細胞核を含む細胞は死細胞ではないと判定する場合は、病理医は、候補領域選択画面50Aの左及び中央の2つの細胞核の候補領域を選択する。別の例として、制御部31(表示制御部31c)は、図6に示す候補領域選択画面50Bのように、抽出した細胞核の候補領域の中から、様々な細胞核のサイズの候補領域を表示部37に選択可能に表示して、病理医に操作部38を用いて細胞核として抽出するサイズの候補領域を選択させる。さらに別の例として、制御部31(表示制御部31c)は、図7に示す候補領域選択画面50Cのように、抽出した細胞核の候補領域の中から、様々な細胞核の染色の濃度の候補領域を表示部37に選択可能に表示して、病理医に操作部38を用いて細胞核として抽出する濃度の候補領域を選択させる。さらに別の例として、制御部31(表示制御部31c)は、図5〜7に示す例と同様に、抽出した細胞核の候補領域の中から、様々な細胞核の輪郭のエッジ強度の候補領域を表示部37に選択可能に表示して、病理医に操作部38を用いて細胞核として抽出するエッジ強度の候補領域を選択させる。もしくは、図8に示す候補領域選択画面50Dのように、抽出した細胞核の候補領域の中から、細胞核が重畳している1又は複数の候補領域(図8の元画像を参照)を追記可能に表示部37に表示して、病理医に修正例を参照して、表示された候補領域に対して操作部38を用いて重畳している細胞核の分割線を追記させる。さらに別の例として、制御部31(表示制御部31c)は、図9に示す候補領域選択画面50Eのように、抽出した細胞核の候補領域の中から、尤度比などの特徴量が様々な値の候補領域を表示部37に選択可能に表示して、病理医に操作部38を用いて細胞核として抽出する候補領域を選択させる。
図4に戻って、制御部31(パラメータ修正部31e)は、記憶部35などから予め設定した詳細パラメータを読み出し、病理医が細胞核の候補領域に対して選択又は追記した結果に基づいて、詳細パラメータを病理医に対応した値に修正して記憶部35などに保存する(S105)。例えば、制御部31(パラメータ修正部31e)は、図5に示す候補領域選択画面50Aで選択された候補領域を解析して死細胞と判定するためのパターンを抽出し、そのパターンを詳細パラメータに反映させてこの詳細パラメータを修正する。具体的には、詳細パラメータに、選択された候補領域から抽出したパターン(例えば、死細胞の特徴を示す構造の輪郭パターン)を設定する。このとき、詳細パラメータに、選択された候補領域から抽出したパターンを追加したり、詳細パラメータとして既に設定されているパターンを選択された候補領域から抽出したパターンと置き換えてもよい。また、制御部31(パラメータ修正部31e)は、図6に示す候補領域選択画面50Bで選択された候補領域と選択されなかった候補領域とを比較し、その間の細胞核のサイズを詳細パラメータに反映させて、この詳細パラメータを修正する。具体的には、詳細パラメータを、選択された候補領域における細胞核のサイズと選択されなかった候補領域における細胞核のサイズとの間の値に設定する。また、制御部31(パラメータ修正部31e)は、図7に示す候補領域選択画面50Cで選択された候補領域と選択されなかった候補領域とを比較し、その間の細胞核の染色の濃度を詳細パラメータに反映させて修正する。具体的には、詳細パラメータを、選択された候補領域における細胞核の染色の濃度と選択されなかった候補領域における細胞核の染色の濃度との間の値に設定する。また、制御部31(パラメータ修正部31e)は、図8に示す候補領域選択画面50Dで追記された分割線で分割される細胞核間の濃度差に基づいて、細胞核の輪郭のエッジ強度を特定し、そのエッジ強度を詳細パラメータに反映させて修正する。具体的には、詳細パラメータを、追記された分割線で分割される細胞核間の濃度差に設定する。もしくは、候補領域選択画面50に細胞核の輪郭のエッジ強度の異なる複数のサンプル画像が選択可能に表示された場合、候補領域選択画面50で選択された候補領域と選択されなかった候補領域とを比較し、詳細パラメータを、選択された候補領域における細胞核の輪郭のエッジ強度と選択されなかった候補領域における細胞核の輪郭のエッジ強度との間の値に設定してもよい。また、制御部31(パラメータ修正部31e)は、図9に示す候補領域選択画面50Eで選択された候補領域と選択されなかった候補領域とを比較し、その間の特徴量の数値を詳細パラメータに反映させて修正する。具体的には、詳細パラメータを、選択された候補領域における細胞核から算出される特徴量と選択されなかった候補領域における細胞核から算出される特徴量との間の値に設定する。
次に、制御部31(病理診断用画像解析部31b)は、修正した詳細パラメータを用いて、抽出した細胞核の候補領域の中から、病理医の細胞核の判定基準に対応する1又は複数の細胞核領域を再抽出する(S106)。そして、制御部31(表示制御部31c)は、表示部37に、再抽出した細胞核領域を識別可能にした病理診断用画像を最終結果として表示させ(S107)、一連の病理診断用画像解析処理を終了する。
以上説明したように、病理診断用画像解析装置30の制御部31は、基本パラメータを用いて病理診断用画像から複数の細胞核の候補領域を抽出し、抽出した細胞核の候補領域のうち1又は複数の候補領域を表示部37に選択又は追記可能に表示させ、病理医による選択又は追記結果に基づいて詳細パラメータを病理医に対応した値に修正して記憶部35などに保存し、修正した詳細パラメータを用いて細胞核の候補領域の中から病理医が希望する1又は複数の細胞核領域を再抽出する。これにより、病理医への負担を軽減しつつ、病理診断用画像から病理医に応じた細胞核領域を適切に抽出することができる。
次に、本発明の第2の実施例に係る画像解析プログラム及び画像解析方法について、図10乃至図13を参照して説明する。図10は、病理診断用画像解析装置の動作を示すフローチャート図であり、図11乃至図13は、詳細パラメータを設定するためのサンプル画像表示画面の一例である。
前記した第1の実施例では、基本パラメータを用いて抽出した細胞核の候補領域を選択可能又は追記可能に表示部37に表示し、表示された候補領域に対する病理医による選択結果又は追記結果に基づいて詳細パラメータを修正したが、細胞核の候補領域の抽出前に、詳細パラメータを設定するために予め設けた設問(細胞核のサンプル画像)を提示して病理医に回答してもらい、その回答結果に基づいて詳細パラメータを病理医に対応した値に修正することも可能である。
その場合、病理診断用画像解析装置30の基本構成は第1の実施例の図3A、3Bに示す構成と同様であるが、表示制御部31c、操作制御部31d、パラメータ修正部31eは以下のように動作する。
表示制御部31cは、病理医毎の判定基準を設定するために予め用意された細胞核のサンプル画像を分類し、詳細パラメータを病理医などの診断者に対応した値に設定するためのグループを作成する。このとき、複数のグループに同じ細胞核のサンプル画像が含まれていてもよい。そして、各グループの細胞核のサンプル画像を選択可能に表示部37に表示させる。また、詳細パラメータを病理医などの診断者に対応した値に設定するための1又は複数の細胞核のサンプル画像を特定し、特定した細胞核のサンプル画像を追記可能に表示部37に表示させる。また、病理診断用画像解析部31bが細胞核の候補領域の中から病理医に応じた細胞核領域を抽出したら、抽出した細胞核領域を識別可能にした病理診断用画像を最終結果として表示部37に表示させる。また、必要に応じて、基本パラメータや詳細パラメータの設定や選択を行うための画面を表示部37に表示させる。なお、細胞核のサンプル画像は、以前に抽出した候補領域の中から選択してもよいし、細胞核を模式的に表したイラストなどとしてもよい。
操作制御部31dは、表示部37に表示された各グループの細胞核のサンプル画像に対して、病理医により操作部38を用いて選択操作が行われたら、この選択操作を受け付け、選択結果をパラメータ修正部31eに通知する。また、表示部37に表示された細胞核のサンプル画像に対して病理医により操作部38を用いて追記操作が行われたら、この追記操作を受け付け、追記結果をパラメータ修正部31eに通知する。また、必要に応じて、基本パラメータや詳細パラメータの設定操作や選択操作を受け付ける。
パラメータ修正部31eは、操作制御部31dから病理医による細胞核のサンプル画像の選択結果や追記結果を受け取り、選択された細胞核のサンプル画像と選択されなかった細胞核のサンプル画像との差異に基づいて詳細パラメータを病理医に対応した値に修正したり、追記内容に基づいて詳細パラメータを病理医に対応した値に修正したりし、修正した詳細パラメータを記憶部35などに保存する。例えば、病理医による細胞核のサンプル画像の選択結果を受け取った場合、パラメータ修正部31eは、詳細パラメータに含まれる細胞核のサイズ、細胞核の染色の濃度、細胞核の輪郭のエッジ強度、尤度比などの特徴量の値を、選択された細胞核のサンプル画像における値と選択されなかった細胞核のサンプル画像における値のとの間の値(任意の中間の値)に設定する。また、詳細パラメータに含まれる死細胞と判定するパターンを、選択された細胞核のサンプル画像から抽出されたパターンに設定する。また、病理医による細胞核のサンプル画像への追記結果を受け取った場合、パラメータ修正部31eは、詳細パラメータに含まれる細胞核の輪郭のエッジ強度を、分割線で分割される細胞核間の濃度差に設定する。
以下、病理診断用画像解析装置30の具体的な動作について説明する。CPU32は、ROM33又は記憶部35に記憶した画像解析プログラムをRAM34に展開して実行することにより、図10のフローチャート図に示す各ステップの処理を実行する。なお、以下の説明において、詳細パラメータを診断者に対応した値に設定するために使用する細胞核のサンプル画像は予め記憶部35などに記憶されているものとする。
まず、病理診断用画像解析装置30の制御部31(表示制御部31c)は、表示部37に、予め記憶部35などに記憶した細胞核のサンプル画像を選択可能又は追記可能に表示し(S201)、制御部31(操作制御部31d)は、詳細パラメータを病理医に対応した値に修正するための、操作部38によるサンプル画像の選択操作又はサンプル画像への追記操作を受け付ける(S202)。なお、詳細パラメータは、上述したように、細胞核のサイズ、細胞核の染色の濃度、細胞核の輪郭のエッジ強度、尤度比などの特徴量の値、死細胞と判定するパターンなどである。
例えば、制御部31(表示制御部31c)は、表示部37にサンプル画像表示画面51を表示することにより、1又は複数の細胞核のサンプル画像を選択可能又は追記可能に表示し、制御部31(操作制御部31d)は、病理医による操作部38を用いた細胞核のサンプル画像の選択操作又は細胞核のサンプル画像への追記操作を受け付ける。一例として、制御部31(表示制御部31c)は、図11に示すサンプル画像表示画面51Aのように、様々な細胞核のサイズのサンプル画像を表示部37に選択可能に表示して、病理医に操作部38を用いて細胞核として抽出するサイズのサンプル画像を選択させる。また、図12に示すサンプル画像表示画面51Bのように、様々な細胞核の染色の濃度のサンプル画像を表示部37に選択可能に表示して、病理医に操作部38を用いて細胞核として抽出する濃度のサンプル画像を選択させる。また、図13に示すサンプル画像表示画面51Cのように、重畳している細胞核の1又は複数のサンプル画像(図13の問題を参照)を表示部37に追記可能に表示して、病理医に回答例を参照して、表示されたサンプル画像に対して操作部38を用いて重畳している細胞核を分割する分割線を追記させる。なお、図11乃至図13では、サンプル画像として実際の病理診断用画像を例示しているが、細胞核のサイズ、細胞核の染色の濃度、細胞核の輪郭のエッジ強度、尤度比などの特徴量の値、死細胞と判定するパターンなどを病理医に対応した値に設定するための模式図を表示部37に表示してもよい。また、図11乃至図13では、細胞核のサイズ、細胞核の染色の濃度、細胞核の輪郭のエッジ強度を設定するためのサンプル画像表示画面を表示部37に例示しているが、同様に、制御部31(表示制御部31c)により、細胞核から算出される特徴量が異なる複数のサンプル画像、細胞核の輪郭のエッジ強度が異なる複数のサンプル画像又は死細胞と判定可能な複数のサンプル画像を表示部37に選択可能に表示して、病理医に操作部38を用いて細胞核として抽出するサンプル画像を選択させてもよい。
図10に戻って、制御部31(パラメータ修正部31e)は、記憶部35などから予め設定した詳細パラメータを読み出し、病理医が複数のサンプル画像に対して選択又は追記した結果に基づいて、詳細パラメータを病理医に対応した値に修正して記憶部35などに保存する(S203)。例えば、制御部31(パラメータ修正部31e)は、図11に示すサンプル画像表示画面51Aで選択されたサンプル画像と選択されなかったサンプル画像とを比較し、その間の細胞核のサイズを詳細パラメータに反映させて、この詳細パラメータを修正する。具体的には、詳細パラメータを、選択されたサンプル画像における細胞核のサイズと選択されなかったサンプル画像における細胞核のサイズとの間の値に設定する。また、制御部31(パラメータ修正部31e)は、図12に示すサンプル画像表示画面51Bで選択されたサンプル画像と選択されなかったサンプル画像とを比較し、その間の細胞核の染色の濃度を詳細パラメータに反映させて修正する。具体的には、詳細パラメータを、選択されたサンプル画像における細胞核の染色の濃度と選択されなかったサンプル画像における細胞核の染色の濃度との間の値に設定する。また、制御部31(パラメータ修正部31e)は、図13に示すサンプル画像表示画面51Cで追記された分割線で分割される細胞核間の濃度差に基づいて、細胞核の輪郭のエッジ強度を特定し、そのエッジ強度を詳細パラメータに反映させて修正する。具体的には、詳細パラメータを、追記された分割線で分割される細胞核間の濃度差に設定する。もしくは、サンプル画像表示画面51に細胞核の輪郭のエッジ強度の異なる複数のサンプル画像が選択可能に表示された場合、サンプル画像表示画面51で選択されたサンプル画像と選択されなかったサンプル画像とを比較し、詳細パラメータを、選択されたサンプル画像における細胞核の輪郭のエッジ強度と選択されなかったサンプル画像における細胞核の輪郭のエッジ強度との間の値に設定してもよい。また、サンプル画像表示画面51に特徴量の異なる複数のサンプル画像が選択可能に表示された場合、制御部31(パラメータ修正部31e)は、サンプル画像表示画面51で選択されたサンプル画像と選択されなかったサンプル画像とを比較し、その間の特徴量を詳細パラメータに反映させて修正する。具体的には、詳細パラメータを、選択されたサンプル画像における細胞核から算出される特徴量と選択されなかったサンプル画像における細胞核から算出される特徴量との間の値に設定する。また、サンプル画像表示画面51に死細胞と判定可能な複数のサンプル画像が選択可能に表示された場合、制御部31(パラメータ修正部31e)は、サンプル画像表示画面51で選択されたサンプル画像を解析して死細胞と判定するためのパターンを抽出し、そのパターンを詳細パラメータに反映させて修正してもよい。具体的には、詳細パラメータに、選択されたサンプル画像から抽出したパターン(例えば、死細胞の特徴を示す構造の輪郭パターン)を設定する。このとき、詳細パラメータに、選択されたサンプル画像から抽出したパターンを追加したり、詳細パラメータとして既に設定されているパターンを選択されたサンプル画像から抽出したパターンと置き換えてもよい。
次に、制御部31(病理診断用画像解析部31b)は、病理診断用画像取得装置20から組織標本を撮影した病理診断用画像を取得し(S204)、公知の手法を用いて病理診断用画像から輪郭を抽出し、抽出した輪郭を用いて、予め設定した基本パラメータを用いて画像処理を行うことにより、病理診断用画像から診断目的に応じた複数の細胞核の候補領域を抽出する(S205)。
次に、制御部31(病理診断用画像解析部31b)は、修正した詳細パラメータを用いて、抽出した複数の細胞核の候補領域の中から、病理医の細胞核の判定基準に対応する1又は複数の細胞核領域を再抽出する(S206)。そして、制御部31(表示制御部31c)は、表示部37に、再抽出した細胞核領域を識別可能にした病理診断用画像を最終結果として表示させ(S207)、一連の病理診断用画像解析処理を終了する。
以上説明したように、病理診断用画像解析装置30の制御部31は、予め設けた細胞核のサンプル画像を表示部37に選択又は追記可能に表示させ、病理医による選択又は追記結果に基づいて詳細パラメータを病理医に対応した値に修正して記憶部35などに保存した後、基本パラメータを用いて病理診断用画像から複数の細胞核の候補領域を抽出し、修正した詳細パラメータを用いて細胞核の候補領域の中から病理医が希望する1又は複数の細胞核領域を再抽出する。これにより、病理医への負担を軽減しつつ、病理診断用画像から病理医に応じた細胞核領域を適切に抽出することができる。
なお、本発明は上記実施例に限定されるものではなく、本発明の趣旨を逸脱しない限りにおいて、病理診断用画像解析装置30の構成や制御内容は適宜変更可能である。
例えば、上記各実施例で示した病理診断用画像は一例であり、病理診断に使用する画像であればよい。
また、第1の実施例では、病理診断用画像解析装置30の制御部31は、細胞核の候補領域を抽出した後に詳細パラメータを病理医に対応した値に修正し、第2の実施例では、細胞核の候補領域を抽出する前に詳細パラメータを病理医に対応した値に修正したが、細胞核の候補領域を抽出する前後において、2段階で詳細パラメータを病理医に対応した値に修正するようにしてもよい。
また、上記各実施例では、病理診断用画像の解析に関して記載したが、任意の1又は複数のコンピュータ装置により、ユーザに応じて判断の基準が異なる任意の画像を解析する場合に対して、本発明の画像解析方法を同様に適用することができる。
本発明は、病理診断用画像から病理医などの診断者に対応した細胞核などの診断対象を抽出する画像解析プログラム、当該画像解析プログラムを記録した記録媒体及び画像解析方法に利用可能である。
10 病理診断用画像処理システム
20 病理診断用画像取得装置
30、AP 病理診断用画像解析装置
31 制御部
31a パラメータ設定部
31b 病理診断用画像解析部
31c 表示制御部
31d 操作制御部
31e パラメータ修正部
32 CPU
33 ROM
34 RAM
35 記憶部
36 ネットワークI/F部
37 表示部
38 操作部
40 通信ネットワーク
50、50A、50B、50C、50D、50E 候補領域表示画面
51、51A、51B、51C サンプル画像表示画面

Claims (18)

  1. 表示部と操作部と記憶部とを備え、前記記憶部に保存された、診断目的毎の細胞核の判定基準を定める第1のパラメータと診断者毎の細胞核の判定基準を定める第2のパラメータとを用いて、病理診断用画像の解析を行う装置で動作する画像解析プログラムであって、
    前記装置に、
    組織標本を撮影した病理診断用画像を取得し、前記第1のパラメータを用いて、前記病理診断用画像から複数の細胞核の候補領域を抽出する第1の病理診断用画像解析処理、
    前記第2のパラメータを用いて、前記抽出した複数の細胞核の候補領域から1又は複数の細胞核領域を再抽出する第2の病理診断用画像解析処理と、
    前記表示部に、前記再抽出した1又は複数の細胞核領域を識別可能にした前記病理診断用画像を表示させる第1の表示制御処理と、を実行させる、
    画像解析プログラム。
  2. 前記装置に、
    前記第1の病理診断用画像解析処理の後に、更に、
    前記表示部に、前記抽出した複数の細胞核の候補領域のうち1又は複数の候補領域を選択又は追記可能に表示させる第2の表示制御処理、
    前記操作部による、前記1又は複数の候補領域に対する選択操作又は追記操作を受け付ける操作制御処理、
    前記1又は複数の候補領域に対する選択結果又は追記結果に基づいて、前記第2のパラメータを修正して前記記憶部に保存するパラメータ修正処理、を実行させ、
    前記第2の病理診断用画像解析処理では、修正した前記第2のパラメータを用いて、前記抽出した複数の細胞核の候補領域から前記1又は複数の細胞核領域を再抽出する、
    請求項1に記載の画像解析プログラム。
  3. 前記装置に、
    前記第1の病理診断用画像解析処理の前に、更に、
    前記表示部に、1又は複数の細胞核のサンプル画像を選択又は追記可能に表示させる第2の表示制御処理、
    前記操作部による、前記サンプル画像に対する選択操作又は追記操作を受け付ける操作制御処理、
    前記サンプル画像に対する選択結果又は追記結果に基づいて、前記第2のパラメータを修正して前記記憶部に保存するパラメータ修正処理、を実行させ、
    前記第2の病理診断用画像解析処理では、修正した前記第2のパラメータを用いて、前記抽出した複数の細胞核の候補領域から前記1又は複数の細胞核領域を再抽出する、
    請求項1に記載の画像解析プログラム。
  4. 前記第2のパラメータは、細胞核のサイズであり、
    前記第2の表示制御処理では、前記表示部に、前記細胞核のサイズが異なる複数の候補領域又はサンプル画像を選択可能に表示させ、
    前記パラメータ修正処理では、前記第2のパラメータを、選択された候補領域又はサンプル画像における前記細胞核のサイズと選択されなかった候補領域又はサンプル画像における前記細胞核のサイズとの間の値に設定する、
    請求項2又は3に記載の画像解析プログラム。
  5. 前記第2のパラメータは、細胞核の染色の濃度であり、
    前記第2の表示制御処理では、前記表示部に、前記細胞核の染色の濃度が異なる複数の候補領域又はサンプル画像を選択可能に表示させ、
    前記パラメータ修正処理では、前記第2のパラメータを、選択された候補領域又はサンプル画像における前記細胞核の染色の濃度と選択されなかった候補領域又はサンプル画像における前記細胞核の染色の濃度との間の値に設定する、
    請求項2又は3に記載の画像解析プログラム。
  6. 前記第2のパラメータは、細胞核から算出される特徴量であり、
    前記第2の表示制御処理では、前記表示部に、前記細胞核から算出される特徴量が異なる複数の候補領域又はサンプル画像を選択可能に表示させ、
    前記パラメータ修正処理では、前記第2のパラメータを、選択された候補領域又はサンプル画像における前記細胞核から算出される特徴量と選択されなかった候補領域又はサンプル画像における前記細胞核から算出される特徴量との間の値に設定する、
    請求項2又は3に記載の画像解析プログラム。
  7. 前記第2のパラメータは、細胞核の輪郭のエッジ強度であり、
    前記第2の表示制御処理では、前記表示部に、前記細胞核の輪郭のエッジ強度が異なる複数の候補領域又はサンプル画像を選択可能に表示させ、
    前記パラメータ修正処理では、前記第2のパラメータを、選択された候補領域又はサンプル画像における前記細胞核の輪郭のエッジ強度と選択されなかった候補領域又はサンプル画像における前記細胞核の輪郭のエッジ強度との間の値に設定する、
    請求項2又は3に記載の画像解析プログラム。
  8. 前記第2のパラメータは、細胞核の輪郭のエッジ強度であり、
    前記第2の表示制御処理では、前記表示部に、1又は複数の候補領域又はサンプル画像を、分割線を追記可能に表示させ、
    前記パラメータ修正処理では、前記第2のパラメータを、追記された前記分割線で分割される細胞核間の濃度差に設定する、
    請求項2又は3に記載の画像解析プログラム。
  9. 前記第2のパラメータは、死細胞と判定するパターンであり、
    前記第2の表示制御処理では、前記表示部に、前記死細胞と判定可能な複数の候補領域又はサンプル画像を選択可能に表示させ、
    前記パラメータ修正処理では、前記第2のパラメータを、選択された候補領域又はサンプル画像から抽出されるパターンに設定する、
    請求項2又は3に記載の画像解析プログラム。
  10. 表示部と操作部と記憶部とを備え、前記記憶部に保存された、診断目的毎の細胞核の判定基準を定める第1のパラメータと診断者毎の細胞核の判定基準を定める第2のパラメータとを用いて、病理診断用画像の解析を行う装置における画像解析方法であって、
    組織標本を撮影した病理診断用画像を取得し、前記第1のパラメータを用いて、前記病理診断用画像から複数の細胞核の候補領域を抽出する第1の病理診断用画像解析処理と、
    前記第2のパラメータを用いて、前記抽出した複数の細胞核の候補領域から1又は複数の細胞核領域を再抽出する第2の病理診断用画像解析処理と、
    前記表示部に、前記再抽出した1又は複数の細胞核領域を識別可能にした前記病理診断用画像を表示させる第1の表示制御処理と、を実行する、
    画像解析方法。
  11. 前記第1の病理診断用画像解析処理の後に、更に、
    前記表示部に、前記抽出した複数の細胞核の候補領域のうち1又は複数の候補領域を選択又は追記可能に表示させる第2の表示制御処理と、
    前記操作部による、前記1又は複数の候補領域に対する選択操作又は追記操作を受け付ける操作制御処理と、
    前記1又は複数の候補領域に対する選択結果又は追記結果に基づいて、前記第2のパラメータを修正して前記記憶部に保存するパラメータ修正処理と、を実行し、
    前記第2の病理診断用画像解析処理では、修正した前記第2のパラメータを用いて、前記抽出した複数の細胞核の候補領域から前記1又は複数の細胞核領域を再抽出する、
    請求項10に記載の画像解析方法。
  12. 前記第1の病理診断用画像解析処理の前に、更に、
    前記表示部に、細胞核のサンプル画像を選択又は追記可能に表示させる第2の表示制御処理と、
    前記操作部による、前記サンプル画像に対する選択操作又は追記操作を受け付ける操作制御処理と、
    前記サンプル画像に対する選択結果又は追記結果に基づいて、前記第2のパラメータを修正して前記記憶部に保存するパラメータ修正処理と、を実行し、
    前記第2の病理診断用画像解析処理では、修正した前記第2のパラメータを用いて、前記抽出した複数の細胞核の候補領域から前記1又は複数の細胞核領域を再抽出する、
    請求項10に記載の画像解析方法。
  13. 前記第2のパラメータは、細胞核のサイズであり、
    前記第2の表示制御処理では、前記表示部に、前記細胞核のサイズが異なる複数の候補領域又はサンプル画像を選択可能に表示させ、
    前記パラメータ修正処理では、前記第2のパラメータを、選択された候補領域又はサンプル画像における前記細胞核のサイズと選択されなかった候補領域又はサンプル画像における前記細胞核のサイズとの間の値に設定する、
    請求項11又は12に記載の画像解析方法。
  14. 前記第2のパラメータは、細胞核の染色の濃度であり、
    前記第2の表示制御処理では、前記表示部に、前記細胞核の染色の濃度が異なる複数の候補領域又はサンプル画像を選択可能に表示させ、
    前記パラメータ修正処理では、前記第2のパラメータを、選択された候補領域又はサンプル画像における前記細胞核の染色の濃度と選択されなかった候補領域又はサンプル画像における前記細胞核の染色の濃度との間の値に設定する、
    請求項11又は12に記載の画像解析方法。
  15. 前記第2のパラメータは、細胞核から算出される特徴量であり、
    前記第2の表示制御処理では、前記表示部に、前記細胞核から算出される特徴量が異なる複数の候補領域又はサンプル画像を選択可能に表示させ、
    前記パラメータ修正処理では、前記第2のパラメータを、選択された候補領域又はサンプル画像における前記細胞核から算出される特徴量と選択されなかった候補領域又はサンプル画像における前記細胞核から算出される特徴量との間の値に設定する、
    請求項11又は12に記載の画像解析方法。
  16. 前記第2のパラメータは、細胞核の輪郭のエッジ強度であり、
    前記第2の表示制御処理では、前記表示部に、前記細胞核の輪郭のエッジ強度が異なる複数の候補領域又はサンプル画像を選択可能に表示させ、
    前記パラメータ修正処理では、前記第2のパラメータを、選択された候補領域又はサンプル画像における前記細胞核の輪郭のエッジ強度と選択されなかった候補領域又はサンプル画像における前記細胞核の輪郭のエッジ強度との間の値に設定する、
    請求項11又は12に記載の画像解析方法。
  17. 前記第2のパラメータは、細胞核の輪郭のエッジ強度であり、
    前記第2の表示制御処理では、前記表示部に、1又は複数の候補領域又はサンプル画像を、分割線を追記可能に表示させ、
    前記パラメータ修正処理では、前記第2のパラメータを、追記された前記分割線で分割される細胞核間の濃度差に設定する、
    請求項11又は12に記載の画像解析方法。
  18. 前記第2のパラメータは、死細胞と判定するパターンであり、
    前記第2の表示制御処理では、前記表示部に、前記死細胞と判定可能な複数の候補領域又はサンプル画像を選択可能に表示させ、
    前記パラメータ修正処理では、前記第2のパラメータを、選択された候補領域又はサンプル画像から抽出されるパターンに設定する、
    請求項11又は12に記載の画像解析方法。
JP2018560360A 2017-01-05 2017-12-22 画像解析プログラム及び画像解析方法 Pending JPWO2018128091A1 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2017000298 2017-01-05
JP2017000298 2017-01-05
PCT/JP2017/046063 WO2018128091A1 (ja) 2017-01-05 2017-12-22 画像解析プログラム及び画像解析方法

Publications (1)

Publication Number Publication Date
JPWO2018128091A1 true JPWO2018128091A1 (ja) 2019-11-07

Family

ID=62791339

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018560360A Pending JPWO2018128091A1 (ja) 2017-01-05 2017-12-22 画像解析プログラム及び画像解析方法

Country Status (4)

Country Link
US (1) US20200005014A1 (ja)
EP (1) EP3567546A4 (ja)
JP (1) JPWO2018128091A1 (ja)
WO (1) WO2018128091A1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11449991B2 (en) 2018-03-08 2022-09-20 Konica Minolta, Inc. Image processing method, image processing apparatus, and storage medium
JP2021124861A (ja) * 2020-02-04 2021-08-30 ソニーグループ株式会社 解析装置、解析方法、解析プログラム及び診断支援システム
JP2024061696A (ja) * 2021-03-24 2024-05-08 ソニーグループ株式会社 医療用画像解析装置、医療用画像解析方法及び医療用画像解析システム

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09509487A (ja) * 1994-02-14 1997-09-22 ニューロメディカル システムズ インコーポレイテッド 細胞試料自動分類装置及び方法
JP2010151566A (ja) * 2008-12-25 2010-07-08 Hitachi High-Technologies Corp 粒子画像解析方法及び装置
JP2011181015A (ja) * 2010-03-03 2011-09-15 Olympus Corp 診断情報配信装置および病理診断システム
JP2014235494A (ja) * 2013-05-31 2014-12-15 富士ゼロックス株式会社 画像処理装置及びプログラム
JP2016181098A (ja) * 2015-03-24 2016-10-13 株式会社Screenホールディングス 領域検出装置および領域検出方法

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000331143A (ja) 1999-05-14 2000-11-30 Mitsubishi Electric Corp 画像処理方法
JP4496860B2 (ja) * 2004-06-30 2010-07-07 株式会社ニコン 細胞識別装置、細胞識別方法、細胞識別用プログラム、および細胞解析装置
JP5365011B2 (ja) * 2008-01-29 2013-12-11 日本電気株式会社 病理診断支援装置、病理診断支援方法、およびプログラム
US8340389B2 (en) * 2008-11-26 2012-12-25 Agilent Technologies, Inc. Cellular- or sub-cellular-based visualization information using virtual stains
US8335374B2 (en) * 2009-08-12 2012-12-18 Genetix Corporation Image segmentation
JP5376024B1 (ja) * 2012-08-23 2013-12-25 富士ゼロックス株式会社 画像処理装置、プログラム及び画像処理システム
JP5668090B2 (ja) 2013-01-09 2015-02-12 キヤノン株式会社 医療診断支援装置及び医療診断支援方法
US10801015B2 (en) * 2013-03-15 2020-10-13 The Broad Institute, Inc. Systems and methods for culturing epithelial cells
SE537088C2 (sv) * 2013-05-08 2015-01-07 Cellavision Ab Grafiskt användargränssnitt för analys av röda blodkroppar
JP5804220B1 (ja) * 2014-03-27 2015-11-04 コニカミノルタ株式会社 画像処理装置および画像処理プログラム
EP3779779A1 (en) * 2014-08-04 2021-02-17 Ventana Medical Systems, Inc. Image analysis system using context features
US10451554B2 (en) * 2015-02-23 2019-10-22 Konica Minolta, Inc. Image processing device, image processing method, and recording medium storing computer readable image processing program
US9928403B2 (en) * 2016-02-09 2018-03-27 Molecular Devices, Llc System and method for image analysis of multi-dimensional data
JP6639325B2 (ja) * 2016-05-18 2020-02-05 富士フイルム株式会社 撮像装置および方法
US10489633B2 (en) * 2016-09-27 2019-11-26 Sectra Ab Viewers and related methods, systems and circuits with patch gallery user interfaces

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09509487A (ja) * 1994-02-14 1997-09-22 ニューロメディカル システムズ インコーポレイテッド 細胞試料自動分類装置及び方法
JP2010151566A (ja) * 2008-12-25 2010-07-08 Hitachi High-Technologies Corp 粒子画像解析方法及び装置
JP2011181015A (ja) * 2010-03-03 2011-09-15 Olympus Corp 診断情報配信装置および病理診断システム
JP2014235494A (ja) * 2013-05-31 2014-12-15 富士ゼロックス株式会社 画像処理装置及びプログラム
JP2016181098A (ja) * 2015-03-24 2016-10-13 株式会社Screenホールディングス 領域検出装置および領域検出方法

Also Published As

Publication number Publication date
EP3567546A1 (en) 2019-11-13
WO2018128091A1 (ja) 2018-07-12
US20200005014A1 (en) 2020-01-02
EP3567546A4 (en) 2019-11-13

Similar Documents

Publication Publication Date Title
US11842556B2 (en) Image analysis method, apparatus, program, and learned deep learning algorithm
JP7422825B2 (ja) 顕微鏡スライド画像のための焦点重み付き機械学習分類器誤り予測
JP6799146B2 (ja) 視覚化されたスライド全域画像分析を提供するためのデジタル病理学システムおよび関連するワークフロー
JP7458519B2 (ja) 画像解析方法、画像解析装置、プログラム、学習済み深層学習アルゴリズムの製造方法および学習済み深層学習アルゴリズム
CN114945954A (zh) 使用深度学习进行显微图像的数字染色的方法和系统
RU2690224C2 (ru) Обследующее устройство для обработки и анализа изображения
JP6791245B2 (ja) 画像処理装置、画像処理方法及び画像処理プログラム
CN114972548A (zh) 用于显示生物标本的多个图像的图像处理系统和方法
JP5469070B2 (ja) 生物検体を処理するための複数の波長を用いる方法およびシステム
US11645753B2 (en) Deep learning-based multi-site, multi-primitive segmentation for nephropathology using renal biopsy whole slide images
Wright et al. The effect of quality control on accuracy of digital pathology image analysis
WO2017150194A1 (ja) 画像処理装置、画像処理方法及びプログラム
CA3002902C (en) Systems and methods of unmixing images with varying acquisition properties
US10591402B2 (en) Image processing apparatus, image processing method, and image processing program
JP2018512072A (ja) 自動化スライド全域解析の品質管理
WO2018128091A1 (ja) 画像解析プログラム及び画像解析方法
CN108352062A (zh) 用于组织识别的方法和设备
CN110189293A (zh) 细胞图像处理方法、装置、存储介质及计算机设备
JP2013174823A (ja) 画像処理装置、顕微鏡システム、及び画像処理方法
Foucart et al. Artifact identification in digital pathology from weak and noisy supervision with deep residual networks
US20200074628A1 (en) Image processing apparatus, imaging system, image processing method and computer readable recoding medium
Abinaya et al. A systematic review: Intellectual detection and prediction of cancer using dl techniques
Zhang et al. Automated Scoring System of HER2 in Pathological Images under the Microscope
Sivakumar A Systematic Review: Intellectual Detection and Prediction of Cancer using DL Techniques

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20191118

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20191122

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200928

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20211116

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20220510