WO2018131091A1 - 画像処理装置、画像処理方法、及び画像処理プログラム - Google Patents

画像処理装置、画像処理方法、及び画像処理プログラム Download PDF

Info

Publication number
WO2018131091A1
WO2018131091A1 PCT/JP2017/000624 JP2017000624W WO2018131091A1 WO 2018131091 A1 WO2018131091 A1 WO 2018131091A1 JP 2017000624 W JP2017000624 W JP 2017000624W WO 2018131091 A1 WO2018131091 A1 WO 2018131091A1
Authority
WO
WIPO (PCT)
Prior art keywords
staining
image
stained
unit
target
Prior art date
Application number
PCT/JP2017/000624
Other languages
English (en)
French (fr)
Inventor
金子 善興
武 大塚
禎 李
Original Assignee
オリンパス株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by オリンパス株式会社 filed Critical オリンパス株式会社
Priority to PCT/JP2017/000624 priority Critical patent/WO2018131091A1/ja
Priority to JP2018561134A priority patent/JPWO2018131091A1/ja
Publication of WO2018131091A1 publication Critical patent/WO2018131091A1/ja
Priority to US16/460,174 priority patent/US11037294B2/en

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • G01N15/1433
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N33/00Investigating or analysing materials by specific methods not covered by groups G01N1/00 - G01N31/00
    • G01N33/48Biological material, e.g. blood, urine; Haemocytometers
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/0004Microscopes specially adapted for specific applications
    • G02B21/0008Microscopes having a simple construction, e.g. portable microscopes
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/36Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
    • G02B21/365Control or image processing arrangements for digital or video microscopes
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B26/00Optical devices or arrangements for the control of light using movable or deformable optical elements
    • G02B26/007Optical devices or arrangements for the control of light using movable or deformable optical elements the movable or deformable optical element controlling the colour, i.e. a spectral characteristic, of the light
    • G02B26/008Optical devices or arrangements for the control of light using movable or deformable optical elements the movable or deformable optical element controlling the colour, i.e. a spectral characteristic, of the light in the form of devices for effecting sequential colour changes, e.g. colour wheels
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/136Segmentation; Edge detection involving thresholding
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/162Segmentation; Edge detection involving graph-based methods
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N15/00Investigating characteristics of particles; Investigating permeability, pore-volume, or surface-area of porous materials
    • G01N15/10Investigating individual particles
    • G01N15/14Electro-optical investigation, e.g. flow cytometers
    • G01N2015/1486Counting the particles
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N31/00Investigating or analysing non-biological materials by the use of the chemical methods specified in the subgroup; Apparatus specially adapted for such methods
    • G01N31/22Investigating or analysing non-biological materials by the use of the chemical methods specified in the subgroup; Apparatus specially adapted for such methods using chemical indicators
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/06Means for illuminating specimens
    • G02B21/08Condensers
    • G02B21/086Condensers for transillumination only
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10056Microscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30024Cell structures in vitro; Tissue sections in vitro
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/10Image enhancement or restoration by non-spatial domain filtering

Abstract

画像処理装置3は、2種以上の染色が施された標本を撮像した染色標本画像から各染色の単染色画像をそれぞれ算出する単染色画像算出部361と、対象とする染色の単染色画像から当該対象とする染色による染色領域を抽出する抽出処理を特異性が高い染色から順に実行する染色領域抽出部366と、対象とする染色の単染色画像から当該対象とする染色よりも特異性が高い全ての染色の染色領域を除いて当該単染色画像を修正する修正処理を特異性が最も高い第1染色を除く少なくとも1種の第2染色全てについて特異性が高い染色から順に実行する単染色画像修正部367と、染色領域に基づいて画像解析を行う解析部368とを備える。染色領域抽出部366は、第2染色による染色領域を抽出する際、対象とする染色の単染色画像に対して修正処理が実行された修正単染色画像から当該対象とする染色による染色領域を抽出する。

Description

画像処理装置、画像処理方法、及び画像処理プログラム
 本発明は、染色された標本を撮像した染色標本画像を処理する画像処理装置、画像処理方法、及び画像処理プログラムに関する。
 被写体に固有の物理的性質を表す物理量の一つに分光透過率がある。分光透過率は、各波長における入射光に対する透過光の割合を表す物理量であり、照明光の変化に依存するRGB値等の色情報とは異なり、外因的影響によって値が変化しない物体固有の情報である。このため、分光透過率は、被写体自体の色を再現するための情報として様々な分野で利用されている。例えば、生体組織標本、特に病理標本を用いた病理診断の分野では、標本を撮像した画像の解析に分光特性値の一例として分光透過率が利用されている。
 病理診断の一つとして、病変部位の組織を採取して顕微鏡で観察することにより、病気の診断または病変の拡大の程度を調べる組織診が知られている。この組織診は、生検(バイオプシー)とも呼ばれ、臓器摘出によって得たブロック標本や針生検によって得た病理標本を厚さ数ミクロン程度に薄切りした後、様々な所見を得るために顕微鏡を用いて拡大観察することが広く行われている。なかでも、光学顕微鏡を用いた透過観察は、機材が比較的安価で取扱いが容易である上、歴史的に古くから行われてきたこともあって、最も普及している観察方法の一つである。この場合、薄切りされた標本は、光を殆ど吸収及び散乱せず、無色透明に近いため、観察に先立って色素による染色を施すのが一般的である。
 染色手法としては、種々のものが提案されており、その総数は100種類以上にも達するが、特に病理標本に関しては、色素として青紫色のヘマトキシリンと赤色のエオジンの2つを用いるヘマトキシリン-エオジン染色(以下、「HE染色」と記載)が標準的に用いられている。
 ヘマトキシリンは、植物から採取された天然の物質であり、それ自身には染色性はない。しかし、その酸化物であるヘマチンは、好塩基性の色素であり、負に帯電した物質と結合する。細胞核に含まれるデオキシリボ核酸(DNA)は、構成要素として含むリン酸基によって負に帯電しているため、ヘマチンと結合して青紫色に染色される。なお、前述の通り、染色性を有するのはヘマトキシリンではなく、その酸化物であるヘマチンであるが、色素の名称としてはヘマトキシリンを用いるのが一般的であるため、以下それに従う。
 一方、エオジンは、好酸性の色素であり、正に帯電した物質と結合する。アミノ酸やタンパク質が正負どちらに帯電するかは、pH環境に影響を受け、酸性下では正に帯電する傾向が強くなる。このため、エオジン溶液に酢酸を加えて用いることがある。細胞質に含まれるタンパク質は、エオジンと結合して赤から薄赤に染色される。
 HE染色後の標本(以下、染色標本と記載)では、細胞核や骨組織等が青紫色に、細胞質や結合組織、赤血球等が赤色に染色され、容易に視認することができるようになる。この結果、観察者は、細胞核等の組織を構成する要素の大きさや位置関係等を把握することができ、染色標本の状態を形態学的に判断することが可能となる。
 染色標本の観察は、観察者の目視によるものの他、当該染色標本をマルチバンド撮像して外部装置の表示画面に表示することによっても行われている。表示画面に表示する場合には、撮像したマルチバンド画像から染色標本上の各点の分光透過率を推定する処理や、推定した分光透過率を基に染色標本を染色している色素の色素量を推定する処理等が行われ、表示用の染色標本のRGB画像である表示画像が合成される。
 染色標本のマルチバンド画像から当該染色標本上の各点の分光透過率を推定する手法としては、例えば、主成分分析による推定法や、ウィナー(Wiener)推定による推定法等が挙げられる。ウィナー推定は、ノイズの重畳された観測信号から原信号を推定する線形フィルタ手法の一つとして広く知られており、観測対象の統計的性質とノイズ(観測ノイズ)の特性とを考慮して誤差の最小化を行う手法である。カメラからの信号には、何らかのノイズが含まれるため、ウィナー推定は原信号を推定する手法として極めて有用である。
 以下、染色標本のマルチバンド画像から表示画像を合成する従来の方法について説明する。
 先ず、染色標本のマルチバンド画像を撮像する。例えば、16枚のバンドパスフィルタをフィルタホイールで回転させて切り替えながら、面順次方式でマルチバンド画像を撮像する。これにより、染色標本上の各点において16バンドの画素値を有するマルチバンド画像が得られる。なお、色素は、本来、観察対象となる染色標本内に3次元的に分布しているが、通常の透過観察系ではそのまま3次元像として捉えることはできず、染色標本内を透過した照明光をカメラの撮像素子上に投影した2次元像として観察される。したがって、ここでいう各点は、投影された撮像素子の各画素に対応する染色標本上の点を意味している。
 ここで、撮像されたマルチバンド画像の任意の点(画素)xについて、バンドbにおける画素値g(x,b)と、対応する染色標本上の点の分光透過率t(x,λ)との間には、カメラの応答システムに基づく以下の式(1)の関係が成り立つ。
Figure JPOXMLDOC01-appb-M000001
 式(1)において、λは波長、f(b,λ)はb番目のバンドパスフィルタの分光透過率、s(λ)はカメラの分光感度特性、e(λ)は照明の分光放射特性、n(b)はバンドbにおける観測ノイズをそれぞれ表す。bはバンドを識別する通し番号であり、ここでは1≦b≦16を満たす整数値である。実際の計算では、式(1)を波長方向に離散化した以下の式(2)が用いられる。
Figure JPOXMLDOC01-appb-M000002
 式(2)において、波長方向のサンプル点数をD、バンド数をB(ここではB=16)とすれば、G(x)は、点xにおける画素値g(x,b)に対応するB行1列の行列である。同様に、T(x)は、t(x,λ)に対応するD行1列の行列、Fは、f(b,λ)に対応するB行D列の行列である。一方Sは、D行D列の対角行列であり、対角要素がs(λ)に対応している。同様に、Eは、D行D列の対角行列であり、対角要素がe(λ)に対応している。Nは、n(b)に対応するB行1列の行列である。なお、式(2)では、行列を用いて複数のバンドに関する式を集約しているため、バンドを表す変数bが記述されていない。また、波長λに関する積分は、行列の積に置き換えられている。
 ここで、表記を簡単にするため、以下の式(3)で定義される行列Hを導入する。この行列Hは、システム行列とも呼ばれる。
Figure JPOXMLDOC01-appb-M000003
 よって、式(2)は、以下の式(4)に置き換えられる。
Figure JPOXMLDOC01-appb-M000004
 次に、ウィナー推定を用いて、撮像したマルチバンド画像から染色標本上の各点における分光透過率を推定する。分光透過率の推定値(以下、分光透過率データと記載)T^(x)は、以下の式(5)で計算することができる。なお、T^は、Tの上に推定値を示す記号「^(ハット)」が付いていることを示す。
Figure JPOXMLDOC01-appb-M000005
 式(5)において、Wは、以下の式(6)で表され、「ウィナー推定行列」あるいは「ウィナー推定に用いる推定オペレータ」と呼ばれる。
Figure JPOXMLDOC01-appb-M000006
 式(6)において、RSSは、D行D列の行列であり、染色標本の分光透過率の自己相関行列を表す。また、RNNは、B行B列の行列であり、撮像に使用するカメラのノイズの自己相関行列を表す。なお、任意の行列Xに対し、行列XTは行列Xの転置行列を表し、行列X-1は行列Xの逆行列を表す。システム行列Hを構成する行列F、S、E、すなわち、バンドパスフィルタの分光透過率、カメラの分光感度特性、及び照明の分光放射特性と、行列RSSと、行列RNNとは予め取得しておく。
 以上のように分光透過率データT^(x)を推定した後、当該分光透過率データT^(x)を基に対応する染色標本上の点(以下、標本点と記載)における色素量を推定する。ここでは、推定の対象とする色素は、ヘマトキシリン、細胞質を染色したエオジン、赤血球を染色したエオジンまたは染色されていない赤血球本来の色素の3種類であり、それぞれH色素、E色素、R色素と略記する。なお、厳密には、染色を施さない状態であっても赤血球はそれ自身特有の色を有しており、HE染色後は、赤血球自身の色と染色過程において変化したエオジンの色とが重畳して観察される。このため、正確には両者を併せたものをR色素と呼称する。
 一般に、光を透過する物質では、波長λ毎の入射光の強度I(λ)と射出光の強度I(λ)との間に、以下の式(7)で表されるランベルト・ベール(Lambert-beer)の法則が成り立つことが知られている。
Figure JPOXMLDOC01-appb-M000007
 式(7)において、k(λ)は波長に依存して決まる物質固有の値、dは物質の厚さをそれぞれ表す。ここで、式(7)の左辺は分光透過率t(λ)を意味しているため、式(7)は、以下の式(8)に置き換えられる。
Figure JPOXMLDOC01-appb-M000008
 また、分光吸光度a(λ)は、以下の式(9)で表される。
Figure JPOXMLDOC01-appb-M000009
 よって、式(8)は、以下の式(10)に置き換えられる。
Figure JPOXMLDOC01-appb-M000010
 HE染色された染色標本がH色素、E色素、及びR色素の3種類の色素で染色されている場合、ランベルト・ベールの法則により各波長λにおいて、以下の式(11)が成立する。
Figure JPOXMLDOC01-appb-M000011
 式(11)において、kH(λ)、kE(λ)、及びkR(λ)は、それぞれH色素、E色素、及びR色素に対応するk(λ)を表し、例えば、染色標本を染色している各色素の色素スペクトル(以下、「基準色素スペクトル」と記載)である。また、dH、dE、及びdRは、マルチバンド画像の各画素位置に対応する各標本点におけるH色素、E色素、及びR色素の仮想的な厚さを表す。本来、色素は、染色標本中に分散して存在するため、厚さという概念は正確ではないが、染色標本が単一の色素で染色されていると仮定した場合と比較して、どの程度の量の色素が存在しているかを表す相対的な色素量の指標となる。すなわち、dH、dE、及びdRは、それぞれH色素、E色素、及びR色素の色素量を表していると言える。なお、kH(λ)、kE(λ)、及びkR(λ)は、H色素、E色素、及びR色素を用いてそれぞれ個別に染色した染色標本を予め用意し、その分光透過率を分光器で測定することによって、ランベルト・ベールの法則から容易に求めることができる。
 ここで、位置xにおける分光透過率をt(x,λ)とし、分光吸光度をa(x,λ)とすると、式(9)は、以下の式(12)に置き換えられる。
Figure JPOXMLDOC01-appb-M000012
 そして、式(5)を用いて推定された分光透過率データT^(x)の波長λにおける推定分光透過率をt^(x,λ)、推定分光吸光度をa^(x,λ)とすると、式(12)は、以下の式(13)に置き換えられる。なお、t^は、tの上に記号「^」が付いていることを示し、a^は、aの上に記号「^」が付いていることを示す。
Figure JPOXMLDOC01-appb-M000013
 式(13)において未知変数はdH、dE、及びdRの3つであるから、少なくとも3つの異なる波長λについて式(13)を連立させれば、これらを解くことができる。より精度を高めるために、4つ以上の異なる波長λに対して式(13)を連立させ、重回帰分析を行ってもよい。例えば、3つの波長λ1,λ2,λ3について式(13)を連立させた場合、以下の式(14)のように行列表記することができる。
Figure JPOXMLDOC01-appb-M000014
 ここで、式(14)を以下の式(15)に置き換える。
Figure JPOXMLDOC01-appb-M000015
 式(15)において、波長方向のサンプル点数をDとすれば、A^(x)はa^(x,λ)に対応するD行1列の行列であり、Kはk(λ)に対応するD行3列の行列、d(x)は点xにおけるdH、dE、及びdRに対応する3行1列の行列である。なお、A^は、Aの上に記号「^」が付いていることを示す。
 そして、式(15)に従い、最小二乗法を用いて色素量dH,dE,dRを算出する。最小二乗法とは単回帰式において誤差の二乗和を最小にするようにd(x)を決定する方法であり、以下の式(16)で算出することができる。
Figure JPOXMLDOC01-appb-M000016
 式(16)において、d^(x)は、推定された色素量である。推定された色素量dH^,dE^,dR^を式(12)に代入すれば、復元した復元分光吸光度a~(x,λ)は、以下の式(17)で求められる。なお、a~は、aの上に記号「~(チルダ)」が付いていることを示す。
Figure JPOXMLDOC01-appb-M000017
 よって、色素量推定における推定誤差e(λ)は、推定分光吸光度a^(x,λ)と復元分光吸光度a~(x,λ)から以下の式(18)で求められる。
Figure JPOXMLDOC01-appb-M000018
 以下、e(λ)を残差スペクトルと記載する。式(17),(18)を用いて、推定分光吸光度a^(x,λ)は、以下の式(19)でも表される。
Figure JPOXMLDOC01-appb-M000019
 色素量dH^,dE^,dR^が求まれば、これを修正することで、染色標本における色素量の変化をシミュレートすることができる。ここで、染色法によって染色された色素量dH^,dE^を修正する。赤血球本来の色である色素量dR^は修正しない。すなわち、補正色素量dH^*,dE^*は、適当な係数αH,αEを用いて以下の式(20),(21)で求められる。
Figure JPOXMLDOC01-appb-M000020
Figure JPOXMLDOC01-appb-M000021
 補正色素量dH^*,dE^*を式(17)に代入すれば、新たな復元分光吸光度α~*(x,λ)は、以下の式(22)から求められる。
Figure JPOXMLDOC01-appb-M000022
 また、残差スペクトルe(λ)を含める場合、新たな推定分光吸光度α^*(x,λ)は、以下の式(23)から求められる。
 新たな復元分光吸光度α~*(x,λ)または新たな推定分光吸光度α^*(x,λ)を式(10)に代入すれば、新たな分光透過率t(x,λ)は、以下の式(24)から求められる。
Figure JPOXMLDOC01-appb-M000024
 式(24)において、分光吸光度a(x,λ)は、新たな復元分光吸光度α~*(x,λ)または新たな推定分光吸光度α^*(x,λ)のいずれかを意味する。
 式(24)を式(1)に代入すると、新たな画素値g(x,b)は、以下の式(25)から求めることができる。この場合、観測ノイズn(b)をゼロとして計算してよい。
Figure JPOXMLDOC01-appb-M000025
 ここで、式(25)を以下の式(26)に置き換える。
Figure JPOXMLDOC01-appb-M000026
 式(26)において、G(x)はg(x,b)に対応するB行1列の行列、T(x)はt(x,b)に対応するD行1列の行列である。よって、色素量を仮想的に変化させた染色標本の画素値G(x)を合成することができる。以上の手順により、染色標本の色素量を仮想的に調整することができる。
 ランベルト・ベールの法則は、屈折や散乱が無いと仮定した場合に半透明物体を透過する光の減衰を定式化したものであるが、実際の染色標本では屈折も散乱も起こり得る。そのため、染色標本による光の減衰をランベルト・ベールの法則のみでモデル化した場合、このモデル化に伴った誤差が生じる。しかしながら、生体標本内での屈折や散乱を含めたモデルの構築は、極めて困難であり、実用上は実行不可能である。そこで、屈折や散乱の影響を含めたモデル化の誤差である残差スペクトルを加えることで、物理モデルによる不自然な色変動を引き起こさないようにすることができる。
 近年では、上述した式(1)~(26)を利用して、染色標本のマルチバンド画像から染色標本を染色している複数の染色色素のうち、対象とする1つの染色色素による染色状態を表した単染色画像を算出する技術が提案されている(例えば、特許文献1参照)。なお、当該複数の染色色素としては、上述したH色素及びE色素の他、EGFR受容体を認識するEGFR抗体を用い、DAB反応による発色(以下、DAB色素と記載)等が採用されている。
 そして、特許文献1に記載の技術によれば、H色素による染色状態を表した単染色画像(以下、H色素量画像と記載)を閾値処理して陰性細胞を抽出するとともに、DAB色素による染色状態を表した単染色画像(以下、DAB色素量画像と記載)を閾値処理して陽性細胞を抽出することで、陽性陰性判定を行うことができる。ここで、細胞の抽出方法としては、例えば、単染色画像における画素値(色素量)のヒストグラムに大津の方法等を用いて閾値を自動算出して二値化することにより、細胞を抽出する方法を例示することができる。
特許第5490568号公報
 図18ないし図22は、従来の課題を説明する図である。具体的に、図18は、マルチバンド画像(染色標本画像)100を示す図である。なお、図18において、最も濃い部分は、H色素及びDAB色素により可視化された陽性細胞PCである。また、次に濃い部分は、H色素により可視化された陰性細胞NCである。図19は、図18に示したマルチバンド画像100から算出したDAB色素量画像200を示す図である。なお、図19では、白に近付くにしたがって、DAB色素の色素量が多い部分を示している。図20は、図18に示したマルチバンド画像100から算出したH色素量画像300を示す図である。なお、図20では、白に近付くにしたがって、H色素の色素量が多い部分を示している。図21は、H色素量画像300における画素値(色素量)のヒストグラムを示す図である。なお、図21において、横軸は色素量を示し、縦軸は頻度を示している。また、図21の(a)は、H色素量画像300全体のヒストグラムを示している。図21の(b)は、図21の(a)に示したヒストグラムにおいて、画素値(色素量)の一部の範囲(0.01~0.1)のみを抽出したヒストグラムである。図21の(c)は、図21の(a)に示したヒストグラムにおいて、画素値(色素量)の一部の範囲(0.1~2)のみを抽出したヒストグラムである。図22は、図21に示したヒストグラムに大津の方法等を用いて閾値を自動算出して二値化し、H色素によるH染色領域ArH´(白で示した部分)を抽出した画像400を示す図である。
 ところで、マルチバンド画像においてバンド数が少ない場合には、情報が少ないため、算出する単染色画像の精度が低下してしまう。例えば、染色標本に対してDAB色素で陽性細胞PCを可視化する細胞核免疫染色とH色素で陰性細胞NCを可視化する細胞核対比染色が施されている場合には、H色素量画像300において、陽性細胞PC領域でH色素が過検出される傾向にある(図18~図20)。すなわち、H色素量画像300における画素値(色素量)のヒストグラムにおいて、高色素量範囲にアーチファクトが生じる(図21)。このため、H色素量画像300における画素値のヒストグラムに大津の方法等を用いて閾値を自動算出した場合には、当該ヒストグラムにアーチファクトが存在するため、好適に閾値を算出することができない。結果として、図18に示したマルチバンド画像100や図19に示したDAB色素量画像200と図22に示したH染色領域ArH´とを比較して分かるように、陽性細胞PCを陰性細胞NCとして抽出してしまう場合があり、好適に細胞を抽出することができない、という問題がある。
 本発明は、上記に鑑みてなされたものであって、好適に細胞を抽出することができる画像処理装置、画像処理方法、及び画像処理プログラムを提供することを目的とする。
 上述した課題を解決し、目的を達成するために、本発明に係る画像処理装置は、2種以上の染色が施された標本を撮像した染色標本画像から各染色による染色状態をそれぞれ表した単染色画像をそれぞれ算出する単染色画像算出部と、対象とする染色の前記単染色画像から当該対象とする染色による染色領域を抽出する抽出処理を前記2種以上の染色全てについて標的部位に対する特異性が高い染色から順に実行する染色領域抽出部と、対象とする染色の前記単染色画像から当該対象とする染色よりも前記特異性が高い全ての染色の前記染色領域を除いて当該単染色画像を修正する修正処理を前記2種以上の染色のうち前記特異性が最も高い第1染色を除く少なくとも1種の第2染色全てについて前記特異性が高い染色から順に実行する単染色画像修正部と、前記染色領域に基づいて画像解析を行う解析部とを備え、前記染色領域抽出部は、前記第2染色による前記染色領域を抽出する際、対象とする染色の前記単染色画像に対して前記修正処理が実行された修正単染色画像から当該対象とする染色による前記染色領域を抽出することを特徴とする。
 また、本発明に係る画像処理装置では、上記発明において、前記2種以上の染色の前記特異性に基づいて、前記抽出処理及び前記修正処理での前記2種以上の染色の処理順位を設定する処理順位設定部をさらに備えることを特徴とする。
 また、本発明に係る画像処理装置では、上記発明において、前記2種以上の染色の前記特異性を示す特異性情報を記憶する記憶部をさらに備え、前記処理順位設定部は、前記特異性情報に基づいて、前記処理順位を設定することを特徴とする。
 また、本発明に係る画像処理装置では、上記発明において、前記染色標本画像には、前記2種以上の染色の前記特異性を示す特異性情報が付加されており、前記処理順位設定部は、前記特異性情報に基づいて、前記処理順位を設定することを特徴とする。
 また、本発明に係る画像処理装置では、上記発明において、前記染色領域抽出部は、対象とする染色の前記単染色画像における画素値のヒストグラムを固定割合及び自動算出値の一方の閾値で二値化することで当該対象の染色による前記染色領域を抽出することを特徴とする。
 また、本発明に係る画像処理装置では、上記発明において、前記解析部は、前記染色領域に基づいて対象の染色で染色された細胞の数を計数することを特徴とする。
 また、本発明に係る画像処理装置では、上記発明において、前記染色領域を示す画像、及び前記細胞の数の少なくとも一方を表示する表示部をさらに備えることを特徴とする。
 また、本発明に係る画像処理装置では、上記発明において、前記単染色画像算出部は、前記染色標本画像に基づいて各染色の画素毎の色素量をそれぞれ推定する色素量推定部と、前記色素量推定部で推定された前記各染色の画素毎の色素量に基づいて当該各染色の前記単染色画像をそれぞれ算出する算出部とを備えることを特徴とする。
 また、本発明に係る画像処理装置では、上記発明において、前記単染色画像算出部は、前記染色標本画像から各画素の分光透過率を推定する分光透過率推定部をさらに備え、前記色素量推定部は、前記分光透過率推定部で推定された前記分光透過率を用いて前記各染色の画素毎の色素量をそれぞれ推定することを特徴とする。
 本発明に係る画像処理方法は、2種以上の染色が施された標本を撮像した染色標本画像から各染色による染色状態をそれぞれ表した単染色画像をそれぞれ算出する単染色画像算出ステップと、対象とする染色の前記単染色画像から当該対象とする染色による染色領域を抽出する抽出処理を前記2種以上の染色全てについて標的部位に対する特異性が高い染色から順に実行する染色領域抽出ステップと、対象とする染色の前記単染色画像から当該対象とする染色よりも前記特異性が高い全ての染色の前記染色領域を除いて当該単染色画像を修正する修正処理を前記2種以上の染色のうち前記特異性が最も高い第1染色を除く少なくとも2種の第2染色全てについて前記特異性が高い染色から順に実行する単染色画像修正ステップと、前記染色領域に基づいて画像解析を行う解析ステップとを備え、前記染色領域抽出ステップでは、前記第2染色による前記染色領域を抽出する際、対象とする染色の前記単染色画像に対して前記修正処理が実行された修正単染色画像から当該対象とする染色による前記染色領域を抽出することを特徴とする。
 本発明に係る画像処理プログラムは、上述した画像処理方法を画像処理装置に実行させることを特徴とする。
 本発明に係る画像処理装置、画像処理方法、及び画像処理プログラムによれば、好適に細胞を抽出することができる、という効果を奏する。
図1は、本実施の形態1に係る撮像システムの構成を示すブロック図である。 図2は、図1に示した撮像装置の構成を模式的に示す図である。 図3は、図2に示したRGBカメラの分光感度特性の一例を示す図である。 図4は、図2に示した第1フィルタの分光特性の一例を示す図である。 図5は、図2に示した第2フィルタの分光特性の一例を示す図である。 図6は、図1に示した撮像システムの動作を示すフローチャートである。 図7は、図6に示したステップS2の処理手順を示すフローチャートである。 図8は、図7に示した単染色画像算出ステップS2Aの処理手順を示すフローチャートである。 図9は、図7に示した染色領域抽出ステップS2Cで算出されたDAB色素量画像の画素値のヒストグラムの一例を示す図である。 図10は、図7に示した染色領域抽出ステップS2CでDAB染色領域が抽出された画像の一例を示す図である。 図11は、図7に示した単染色画像修正ステップS2Dで算出されたH修正色素量画像の一例を示す図である。 図12は、図7に示した染色領域抽出ステップS2Eで算出されたH修正色素量画像の画素値のヒストグラムの一例を示す図である。 図13は、図7に示した染色領域抽出ステップS2EでH染色領域が抽出された画像の一例を示す図である。 図14は、本実施の形態2に係る画像処理方法を示すフローチャートである。 図15は、細胞核免疫染色、細胞質免疫染色、及び細胞核対比染色の3種の染色が施された染色標本のマルチバンド画像(染色標本画像)の一例を示す図である。 図16は、図14に示した単染色画像修正ステップS2Jで算出された第2修正色素量画像の一例を示す図である。 図17は、図14に示した単染色画像修正ステップS2Lで算出された第3修正色素量画像の一例を示す図である。 図18は、従来の課題を説明する図である。 図19は、従来の課題を説明する図である。 図20は、従来の課題を説明する図である。 図21は、従来の課題を説明する図である。 図22は、従来の課題を説明する図である。
 以下、図面を参照して、本発明を実施するための形態(以下、実施の形態)について説明する。なお、以下に説明する実施の形態によって本発明が限定されるものではない。さらに、図面の記載において、同一の部分には同一の符号を付している。
  (実施の形態1)
 〔撮像システムの概略構成〕
 図1は、本実施の形態1に係る撮像システム1の構成を示すブロック図である。
 撮像システム1は、2種以上の染色が施された染色標本を撮像し、当該撮像による染色標本画像を処理するシステムである。
 ここで、染色標本に施された2種以上の染色は、抗体としてKi-67、ER、あるいはPgR等を用いる細胞核免疫染色、抗体としてHER2等を用いる細胞膜免疫染色、抗体としてセロトニン等を用いる細胞質免疫染色、色素としてヘマトキシリン(H)を用いる細胞核対比染色、色素としてエオジン(E)を用いる細胞質対比染色等を例示することができる。
 そして、撮像システム1は、図1に示すように、撮像装置2と、画像処理装置3とを備える。
 〔撮像装置の構成〕
 図2は、撮像装置2の構成を模式的に示す図である。
 撮像装置2は、2種以上の染色が施された染色標本Sのマルチバンド画像(本発明に係る染色標本画像に相当)を取得する装置である。この撮像装置2は、図2に示すように、ステージ21と、照明部22と、結像レンズ23と、RGBカメラ24と、フィルタ部25とを備える。
 ステージ21は、染色標本Sが載置される部分であり、画像処理装置3による制御の下、移動することで染色標本Sの観察箇所を変更可能に構成されている。
 照明部22は、画像処理装置3による制御の下、ステージ21上に載置された染色標本Sに照明光を照射する。
 結像レンズ23は、染色標本Sに照射され、当該染色標本Sを透過した透過光をRGBカメラ24に結像させる。
 図3は、RGBカメラ24の分光感度特性の一例を示す図である。
 RGBカメラ24は、CCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)等の撮像素子を備え、画像処理装置3による制御の下、染色標本Sを透過した透過光を撮像する。このRGBカメラ24は、例えば、図3に示すR(赤),G(緑),B(青)の各バンドの分光感度特性を有する。
 図4は、第1フィルタ252の分光特性の一例を示す図である。図5は、第2フィルタ253の分光特性の一例を示す図である。
 フィルタ部25は、結像レンズ23からRGBカメラ24に至る光路上に配設され、RGBカメラ24に結像する光の波長帯域を所定範囲に制限する。このフィルタ部25は、画像処理装置3による制御の下、回転可能とするフィルタホイール251と、当該フィルタホイール251に設けられ、R,G,Bの各バンドの透過波長領域を2分するように、それぞれ異なる分光特性(例えば、図4,図5の分光特性)を有する第1,第2フィルタ252,253とを備える。
 そして、撮像装置2は、画像処理装置3による制御の下、以下に示すように、染色標本Sのマルチバンド画像を取得する。
 先ず、撮像装置2は、照明部22からRGBカメラ24に至る光路上に第1フィルタ252を位置付けるとともに、照明部22から染色標本Sに照明光を照射する。そして、RGBカメラ24は、染色標本Sを透過し、第1フィルタ252及び結像レンズ23を介した透過光を撮像する(第1の撮像)。
 次に、撮像装置2は、照明部22からRGBカメラ24に至る光路上に第2フィルタ253を位置付け、第1の撮像と同様にして第2の撮像を行う。
 これにより、第1,第2の撮像でそれぞれ異なる3バンドの画像を取得し、合計で6バンドのマルチバンド画像を取得する。
 なお、フィルタ部25に設けるフィルタの数は、2枚に限らず、3枚以上のフィルタを設けて、さらに多くのバンドの画像を取得しても構わない。また、撮像装置2は、フィルタ部25を省略して、RGBカメラ24によりRGB画像のみを取得するように構成しても構わない。さらに、フィルタ部25の代わりに、分光特性を変えることができる液晶チューナブルフィルタや音響光学チューナブルフィルタを採用しても構わない。また、分光特性の異なる複数の光を切り替えて染色標本Sに照射することで、マルチバンド画像を取得しても構わない。
 〔画像処理装置の構成〕
 画像処理装置3は、撮像装置2で取得された染色標本Sのマルチバンド画像を処理する装置である。この画像処理装置3は、図1に示すように、画像取得部31と、制御部32と、記憶部33と、入力部34と、表示部35と、演算部36とを備える。
 画像取得部31は、撮像システム1の態様に応じて適宜構成される。例えば、撮像装置2を画像処理装置3に接続する場合、画像取得部31は、撮像装置2から出力されたマルチバンド画像(画像データ)を取り込むインターフェースによって構成される。また、撮像装置2によって取得されたマルチバンド画像を保存しておくサーバを設置する場合、画像取得部31は、当該サーバと接続される通信装置等により構成され、当該サーバとデータ通信を行ってマルチバンド画像を取得する。あるいは、画像取得部31を、可搬型の記録媒体を着脱自在に装着し、当該記録媒体に記録されたマルチバンド画像を読み出すリーダ装置によって構成しても構わない。
 制御部32は、CPU(Central Processing Unit)等を用いて構成されている。この制御部32は、画像取得部31や撮像装置2の動作を制御してマルチバンド画像を取得する画像取得制御部321を有する。そして、制御部32は、入力部34から入力される入力信号、画像取得部31から入力されるマルチバンド画像、及び記憶部33に格納されているプログラムやデータ等に基づいて画像取得部31及び撮像装置2の動作を制御する。
 記憶部33は、更新記録可能なフラッシュメモリ等のROM(Read Only Memory)やRAM(Random Access Memory)等の各種ICメモリ、内蔵若しくはデータ通信端子で接続されたハードディスク、若しくはCD-ROM等の情報記憶装置及び当該情報記憶装置に対する情報の書込読取装置等によって構成されている。この記憶部33は、図1に示すように、画像処理プログラムを記憶するプログラム記憶部331と、画像取得部31で取得されたマルチバンド画像、当該画像処理プログラムの実行中に使用される画像データや各種パラメータ等を記憶する画像データ記憶部332と、例えば以下の表1に示す特異性情報を記憶する特異性情報記憶部333とを備える。
 特異性情報は、演算部36での後述する抽出処理及び修正処理での処理順位を設定する際に用いられる情報であり、染色の標的とする標的部位に対する特異性が高い(結合力が強い)染色から順に順位付けされた情報である。
 具体的に、特異性情報では、表1に示すように、細胞核免疫染色が最も高い順位とされ、細胞膜免疫染色、細胞質免疫染色、細胞核対比染色、及び細胞質対比染色の順に順位が下がるように設定されている。なお、下記表1は、一例であり、個々に製造された抗体により、順位は、変化する。例えば、セロトニンが順位1で、Ki-67が順位3になることも、製造された抗体により決定される。
Figure JPOXMLDOC01-appb-T000027
 以下、染色標本Sに施された2種以上の染色のうち、順位の最も高い(特異性が最も高い)染色を第1染色と記載し、その他の染色を第2染色と記載する。
 入力部34は、例えば、キーボードやマウス、タッチパネル、各種スイッチ等の各種入力装置によって構成され、操作入力に応じた入力信号を制御部32に出力する。例えば、入力部34には、ユーザ操作に応じて、染色標本Sに施された染色の種別が入力される。そして、制御部32は、当該入力された染色の種別を示す情報をメタデータとして画像データ記憶部332に記憶されたマルチバンド画像に付加する。
 表示部35は、LCD(Liquid Crystal Display)やEL(Electro Luminescence)ディスプレイ、CRT(Cathode Ray Tube)ディスプレイ等の表示装置によって実現され、制御部32から入力される表示信号を基に各種画面を表示する。
 演算部36は、CPU等を用いて構成されている。この演算部36は、画像データ記憶部332に記憶されたマルチバンド画像を読み出し、当該マルチバンド画像に付加されたメタデータにより、染色標本Sに施された染色の種別を認識する。そして、演算部36は、認識した各染色に応じて、当該マルチバンド画像に画像処理を施す。この演算部36は、図1に示すように、単染色画像算出部361と、処理順位設定部365と、染色領域抽出部366と、単染色画像修正部367と、解析部368とを備える。
 単染色画像算出部361は、マルチバンド画像から各染色による染色状態をそれぞれ表した単染色画像をそれぞれ算出する。この単染色画像算出部361は、図1に示すように、分光透過率推定部362と、色素量推定部363と、算出部364とを備える。
 分光透過率推定部362は、マルチバンド画像から各画素の分光透過率を推定する。
 色素量推定部363は、分光透過率推定部362で推定された分光透過率を用いて各染色の画素毎の色素量をそれぞれ推定する。
 算出部364は、色素量推定部363で推定された各染色の画素毎の色素量に基づいて当該各染色の単染色画像をそれぞれ算出する。
 処理順位設定部365は、特異性情報記憶部333に記憶された特異性情報に基づいて、染色領域抽出部366の抽出処理、及び単染色画像修正部367の修正処理での染色標本Sに施された各染色の処理順位を設定する。
 染色領域抽出部366は、対象とする染色の単染色画像から当該対象とする染色による染色領域を抽出する処理を染色標本Sに施された各染色全てについて処理順位設定部365で設定された処理順位の順に実行する。また、染色領域抽出部366は、第2染色による染色領域を抽出する際、対象とする染色の単染色画像に対して単染色画像修正部367で修正処理が実行された修正単染色画像から当該対象とする染色による染色領域を抽出する。
 単染色画像修正部367は、対象とする染色の単染色画像から、当該対象とする染色よりも処理順位設定部365で設定された処理順位の高い全ての染色の染色領域を除いて当該単染色画像を修正する修正処理を第2染色全てについて当該処理順位の順に実行する。
 解析部368は、染色領域抽出部366で抽出された染色領域に基づいて画像解析を行う。
 〔撮像システムの動作〕
 次に、上述した撮像システム1の動作について説明する。
 図6は、撮像システム1の動作を示すフローチャートである。
 先ず、画像取得制御部321は、撮像装置2の動作を制御し、染色標本Sのマルチバンド画像を取得する(ステップS1)。撮像装置2で取得されたマルチバンド画像は、画像取得部31を介して、記憶部33(画像データ記憶部332)に記憶される。
 以下では、染色標本Sに対して、細胞核免疫染色及び細胞核対比染色の2種の染色が施されているものとする。すなわち、撮像装置2で取得されたマルチバンド画像100は、例えば、図18に示すように、DAB色素及びH色素により、陽性細胞PC及び陰性細胞NCがそれぞれ可視化されたものとなる。以下では、説明の便宜上、当該細胞核免疫染色をDAB染色と記載し、当該細胞核対比染色をH染色と記載する。
 ステップS1の後、演算部36は、画像データ記憶部332に記憶されたマルチバンド画像100を読み出し、当該マルチバンド画像100に付加されたメタデータにより、染色標本Sに施された染色の種別(ここでは、DAB染色及びH染色)を認識する。そして、演算部36は、認識した各染色に応じて、マルチバンド画像100に画像処理を施す(ステップS2)。
 図7は、ステップS2の処理手順を示すフローチャートである。なお、図7に示すフローチャートは、本発明に係る画像処理方法に相当する。
 単染色画像算出部361は、マルチバンド画像100からDAB染色及びH染色の各染色による染色状態をそれぞれ表した単染色画像をそれぞれ算出する(ステップS2A:単染色画像算出ステップ)。
 なお、本実施の形態1では、単染色画像算出部361は、単染色画像として、画素値を色素量とした色素量画像を算出する。
 図8は、単染色画像算出ステップS2Aの処理手順を示すフローチャートである。
 分光透過率推定部362は、例えばウィナー推定(上述した式(1)~(6))により、マルチバンド画像100から各画素の分光透過率を推定する(ステップS2A1)。
 ステップS2A1の後、色素量推定部363は、例えばランベルト・ベールの法則(上述した式(7)~(16))により、分光透過率推定部362で推定された分光透過率を用いてDAB染色及びH染色の各染色の画素毎の色素量をそれぞれ推定する(ステップS2A2)。
 ステップS2A2の後、算出部364は、色素量推定部363で推定されたDAB染色の画素毎の色素量を各画素値としたDAB色素量画像200(図19)、及び色素量推定部363で推定されたH染色の画素毎の色素量を各画素値としたH色素量画像300(図20)をそれぞれ算出する(ステップS2A3)。
 ステップS2Aの後、処理順位設定部365は、特異性情報記憶部333に記憶された特異性情報に基づいて、DAB染色及びH染色の処理順位を設定する(ステップS2B)。すなわち、処理順位設定部365は、ステップS2Bにおいて、DAB染色(第1染色)を1番目の処理順位とし、H染色(第2染色)を2番目の処理順位とする。
 ステップS2Bの後、染色領域抽出部366は、処理順位設定部365で1番目の処理順位として設定されたDAB染色(第1染色)のDAB色素量画像200からDAB染色によるDAB染色領域を抽出する抽出処理を実行する(ステップS2C:染色領域抽出ステップ)。
 図9は、染色領域抽出ステップS2Cで算出されたDAB色素量画像200の画素値のヒストグラムの一例を示す図である。なお、図9の(a)~(c)は、図21の(a)~(c)にそれぞれ対応したヒストグラムである。図10は、染色領域抽出ステップS2CでDAB染色領域ArD(白で示した部分)が抽出された画像500の一例を示す図である。
 具体的に、染色領域抽出部366は、ステップS2Cにおいて、DAB色素量画像200の画素値のヒストグラム(図9)を算出する。そして、染色領域抽出部366は、当該算出したヒストグラムに大津の方法やK-means法等を用いて閾値を自動算出して二値化し、DAB染色によるDAB染色領域ArD(図10)を抽出する。
 図11は、単染色画像修正ステップS2Dで算出されたH修正色素量画像301の一例を示す図である。なお、図11では、白に近付くにしたがって、H色素の色素量が多い部分を示している。
 ステップS2Cの後、単染色画像修正部367は、処理順位設定部365で2番目の処理順位として設定されたH染色(第2染色)のH色素量画像300から、処理順位設定部365で1番目の処理順位として設定されたDAB染色(第1染色)のDAB染色領域ArDを除いてH色素量画像300を修正したH修正色素量画像301(図11)を算出する(ステップS2D:単染色画像修正ステップ)。
 なお、H修正色素量画像301において、除かれたDAB染色領域ArDは、その後の処理(ステップS2E)において処理対象にはならない部分である。
 ステップS2Dの後、染色領域抽出部366は、処理順位設定部365で2番目の処理順位として設定されたH染色(第2染色)のH修正色素量画像301からH染色によるH染色領域を抽出する抽出処理を実行する(ステップS2E:染色領域抽出ステップ)。
 図12は、染色領域抽出ステップS2Eで算出されたH修正色素量画像301の画素値のヒストグラムの一例を示す図である。なお、図12の(a)~(c)は、図21の(a)~(c)にそれぞれ対応したヒストグラムである。図13は、染色領域抽出ステップS2EでH染色領域ArH(白で示した部分)が抽出された画像600の一例を示す図である。
 具体的に、染色領域抽出部366は、ステップS2Eにおいて、H修正色素量画像301の画素値のヒストグラム(図12)を算出する。そして、染色領域抽出部366は、当該算出したヒストグラムに大津の方法やK-means法等を用いて閾値を自動算出して二値化し、H染色によるH染色領域ArH(図13)を抽出する。
 ステップS2Eの後、解析部368は、DAB染色領域ArD及びH染色領域Hに基づいて画像解析を行う(ステップS2F:解析ステップ)。
 例えば、解析部368は、ステップS2Fにおいて、DAB染色領域ArDに対して、膨張、収縮、穴埋め等のモフォロジー処理を行うことで、陽性細胞の形状を補正するとともに、当該陽性細胞を計数する。また、解析部368は、H染色領域ArHに対して、上述したモフォロジー処理を行うことで、陰性細胞の形状を補正するとともに、当該陰性細胞を計数する。そして、解析部368は、陽性陰性判定を行う。
 ステップS2の後、制御部32は、演算部36による処理結果(DAB染色領域ArDやH染色領域ArHを示す画像、陽性細胞及び陰性細胞の各計数値、陽性陰性判定の結果等)を表示部35に表示させる(ステップS3)。
 以上説明した本実施の形態1によれば、以下の効果を奏する。
 本実施の形態1に係る画像処理装置3は、対象とする色素量画像から当該対象とする染色による染色領域を抽出する抽出処理を染色標本Sに施された各染色全てについて特異性が高い染色から順に実行する。また、画像処理装置3は、対象とする染色の色素量画像から当該対象とする染色よりも特異性が高い全ての染色の染色領域を除いて当該色素量画像を修正する修正処理を染色標本Sに施された各染色のうち特異性が最も高い第1染色を除く少なくとも1種の第2染色全てについて特異性が高い染色から順に実行する。さらに、画像処理装置3は、第2染色による染色領域を抽出する際、対象とする染色の色素量画像に対して修正処理が実行された修正単染色画像から当該対象とする染色による染色領域を抽出する。そして、画像処理装置3は、抽出した染色領域に基づいて画像解析を行う。
 すなわち、画像処理装置3では、図12に示したヒストグラムと図21に示したヒストグラムとを比較して分かるように、H染色領域ArHを抽出する際に用いるH修正色素量画像301において、高色素量範囲に存在していたアーチファクトを除去することができる。このため、H修正色素量画像301における画素値のヒストグラムに大津の方法等を用いれば、好適に閾値を自動算出することができる。
 したがって、本実施の形態1に係る画像処理装置3によれば、図13に示したH染色領域ArHと図22に示したH染色領域ArH´とを比較して分かるように、H染色領域ArHを好適に抽出し、陽性細胞PCを陰性細胞NCとして抽出してしまう場合がない。すなわち、好適に細胞を抽出することができる、という効果を奏する。
 また、本実施の形態1に係る画像処理装置3は、特異性情報記憶部333に記憶された特異性情報に基づいて、抽出処理及び修正処理での染色標本Sに施された各染色の処理順位を設定する。このため、抽出処理及び修正処理において、適切な処理順位で処理を行うことができ、染色領域を適切に抽出し、かつ、修正色素量画像を適切に算出することができる。
 また、本実施の形態1に係る画像処理装置3は、色素量画像を算出する際、ウィナー推定等によりマルチバンド画像から各画素の分光透過率を推定し、ランベルト・ベールの法則により当該分光透過率を用いて各染色の画素毎の色素量を推定する。このため、各染色の画素毎の色素量を精度良く推定することができる。
(実施の形態2)
 次に、本実施の形態2について説明する。
 以下の説明では、上述した実施の形態1と同様の構成及びステップには同一符号を付し、その詳細な説明は省略または簡略化する。
 上述した実施の形態1では、染色標本Sに対して2種の染色が施された場合での演算部36の処理について説明した。
 本実施の形態2では、染色標本Sに対して3種の染色が施された場合での演算部36の処理について説明する。
 図14は、本実施の形態2に係る画像処理方法を示すフローチャートである。なお、図14は、図7に対応したステップS2の処理手順を示すフローチャートである。図15は、細胞核免疫染色、細胞質免疫染色、及び細胞核対比染色の3種の染色が施された染色標本Sのマルチバンド画像(染色標本画像)700の一例を示す図である。
 以下では、染色標本Sに対して、細胞核免疫染色、細胞質免疫染色、及び細胞核対比染色の3種の染色が施されているものとする。すなわち、撮像装置2で取得されたマルチバンド画像700には、例えば、図15に示すように、細胞核免疫染色St1により可視化された部分と、細胞質免疫染色St2により可視化された部分と、細胞核対比染色St3により可視化された部分とが存在する。
 ステップS2において、先ず、単染色画像算出部361は、上述した実施の形態1で説明したステップS2Aと同様の処理により、マルチバンド画像700から細胞核免疫染色St1、細胞質免疫染色St2、及び細胞核対比染色St3の各染色による染色状態をそれぞれ表した単染色画像をそれぞれ算出する(ステップS2G:単染色画像算出ステップ)。すなわち、単染色画像算出部361は、ステップS2Gにおいて、細胞核免疫染色St1の画素毎の色素量を各画素値とした第1色素量画像(図示略)、細胞質免疫染色St2の画素毎の色素量を各画素値とした第2色素量画像(図示略)、及び細胞核対比染色St3の画素毎の色素量を各画素値とした第3色素量画像(図示略)をそれぞれ算出する。
 ステップS2Gの後、処理順位設定部365は、上述した実施の形態1で説明したステップS2Bと同様の処理により、特異性情報記憶部333に記憶された特異性情報に基づいて、細胞核免疫染色St1、細胞質免疫染色St2、及び細胞核対比染色St3の処理順位を設定する(ステップS2H)。すなわち、処理順位設定部365は、ステップS2Hにおいて、細胞核免疫染色(第1染色)St1を1番目の処理順位とし、細胞質免疫染色(第2染色)St2を2番目の処理順位とし、細胞核対比染色(第2染色)St3を3番目の処理順位とする。
 ステップS2Hの後、染色領域抽出部366は、上述した実施の形態1で説明したステップS2Cと同様の処理により、処理順位設定部365で1番目の処理順位として設定された細胞核免疫染色(第1染色)St1の第1色素量画像から細胞核免疫染色St1による第1染色領域Ar1(図16参照)を抽出する抽出処理を実行する(ステップS2I:染色領域抽出ステップ)。
 図16は、単染色画像修正ステップS2Jで算出された第2修正色素量画像800の一例を示す図である。
 ステップS2Iの後、単染色画像修正部367は、上述した実施の形態1で説明したステップS2Dと同様の処理により、処理順位設定部365で2番目の処理順位として設定された細胞質免疫染色(第2染色)St2の第2色素量画像から、処理順位設定部365で1番目の処理順位として設定された細胞核免疫染色St1の第1染色領域Ar1を除いて当該第2色素量画像を修正した第2修正色素量画像800(図16)を算出する(ステップS2J:単染色画像修正ステップ)。
 なお、第2修正色素量画像800において、除かれた第1染色領域Ar1は、その後の処理(ステップS2K)において処理対象にならない部分である。
 ステップS2Jの後、染色領域抽出部366は、上述した実施の形態1で説明したステップS2Eと同様の処理により、処理順位設定部365で2番目の処理順位として設定された細胞質免疫染色(第2染色)St2の第2修正色素量画像800から細胞質免疫染色St2による第2染色領域Ar2(図17参照)を抽出する抽出処理を実行する(ステップS2K:染色領域抽出ステップ)。
 図17は、単染色画像修正ステップS2Lで算出された第3修正色素量画像900の一例を示す図である。
 ステップS2Kの後、単染色画像修正部367は、上述したステップS2Jと同様の処理により、処理順位設定部365で3番目の処理順位として設定された細胞核対比染色(第2染色)St3の第3色素量画像から、処理順位設定部365で1,2番目の処理順位としてそれぞれ設定された細胞核免疫染色St1及び細胞質免疫染色St2の第1,第2染色領域Ar1,Ar2を除いて当該第3色素量画像を修正した第3修正色素量画像900(図17)を算出する(ステップS2L:単染色画像修正ステップ)。
 なお、第3修正色素量画像900において、除かれた第1,第2染色領域Ar1,Ar2は、その後の処理(ステップS2M)において処理対象にならない部分である。
 ステップS2Lの後、染色領域抽出部366は、ステップS2I,S2Kと同様の処理により、処理順位設定部365で3番目の処理順位として設定された細胞核対比染色(第2染色)St3の第3修正色素量画像900から細胞核対比染色St3による第3染色領域Ar3(図17)を抽出する抽出処理を実行する(ステップS2M:染色領域抽出ステップ)。
 ステップS2Mの後、解析部368は、上述した実施の形態1で説明したステップS2Fと同様に、第1~第3染色領域Ar1~Ar3に基づいて画像解析を行う(ステップS2N:解析ステップ)。
 以上説明した本実施の形態2のように染色標本Sに3種の染色が施されている場合であっても、上述した実施の形態1と同様の効果を奏する。
(その他の実施形態)
 ここまで、本発明を実施するための形態を説明してきたが、本発明は上述した実施の形態1,2によってのみ限定されるべきものではない。
 上述した実施の形態1,2では、本発明に係る単染色画像として、色素量を画素値とした色素量画像を採用していたが、これに限らない。
 例えば、ステップS2A3において、各染色の画素毎の色素量をそれぞれ推定した後、当該色素量から、上述した式(17)~(26)により、RGB値を画素値(G(x))とした単染色色再現画像を算出し、当該単染色色再現画像を本発明に係る単染色画像として採用しても構わない。なお、対象とする染色の単染色色再現画像を算出する際には、上述した式(20)や式(21)において、当該対象とする染色の色素量に対する係数αを1とし、その他の染色の色素量に対する係数αを0とする。
 また、上述した単染色色再現画像に対して各バンドの平均値を算出し、得られたグレースケール画像を本発明に係る単染色画像として採用しても構わない。
 さらに、マルチバンド画像における各画素の画素値から直接、ルックアップテーブルや変換行列を用いて、RGB値を画素値とした各染色の単染色色再現画像をそれぞれ算出し、当該単染色色再現画像を本発明に係る単染色画像として採用しても構わない。
 上述した実施の形態1,2では、ステップS2A3において、マルチバンド画像から各画素の分光透過率を推定し、当該分光透過率を用いて各染色の画素毎の色素量をそれぞれ推定していたが、これに限らない。
 例えば、マルチバンド画像における各画素の画素値から直接、ルックアップテーブルや、回帰分析で求めた色素量推定行列を用いて、各染色の画素毎の色素量をそれぞれ推定しても構わない。
 上述した実施の形態1,2では、画像処理装置3は、マルチバンド画像に付加されたメタデータから染色標本Sに施された染色の種別を認識し、特異性情報記憶部333に記憶された特異性情報に基づいて、抽出処理及び修正処理での各染色の処理順位を設定していたが、これに限らない。
 例えば、入力部34には、ユーザ操作に応じて、染色標本Sに施された染色の種別の他、特異性情報が入力される。そして、制御部32は、当該入力された染色の種別を示す情報及び特異性情報をメタデータとして画像データ記憶部332に記憶されたマルチバンド画像に付加する。すなわち、処理順位設定部365は、メタデータ(染色の種別を示す情報、及び特異性情報)に基づいて、抽出処理及び修正処理での各染色の処理順位を設定する。このため、このように構成した場合には、特異性情報記憶部333を省略することができる。
 また、入力部34には、ユーザ操作に応じて、染色標本Sに施された染色の種別の他、各染色の処理順位が入力される。そして、制御部32は、当該入力された染色の種別を示す情報及び各染色の処理順位を示す情報をメタデータとして画像データ記憶部332に記憶されたマルチバンド画像に付加する。すなわち、染色領域抽出部366及び単染色画像修正部367は、当該メタデータに記載の処理順位にしたがって抽出処理及び修正処理をそれぞれ実行する。このため、このように構成した場合には、処理順位設定部365及び特異性情報記憶部333を省略することができる。
 上述した実施の形態1,2では、画像処理装置3は、マルチバンド画像に付加されたメタデータから染色標本Sに施された染色の種別を認識していたが、これに限らない。
 例えば、マルチバンド画像の色分布等から染色標本Sに施された染色の種別を判定しても構わない。
 上述した実施の形態1,2において、染色標本Sに施す染色の組み合わせは、実施の形態1,2で説明した組み合わせに限らず、その他の組み合わせを採用しても構わない。また、当該染色の種類も4種以上としても構わない。
 上述した実施の形態1,2では、ステップS2C,S2E,S2I,S2K,S2Mにおいて、算出したヒストグラムに大津の方法等を用いて閾値を自動算出していたが、これに限らない。例えば、全画素数に対して色素量の上位5~20%程度の固定割合を当該閾値として採用しても構わない。
 1 撮像システム
 2 撮像装置
 3 画像処理装置
 21 ステージ
 22 照明部
 23 結像レンズ
 24 RGBカメラ
 25 フィルタ部
 31 画像取得部
 32 制御部
 33 記憶部
 34 入力部
 35 表示部
 36 演算部
 100,700 マルチバンド画像
 200 DAB色素量画像
 251 フィルタホイール
 252,253 第1,第2フィルタ
 300 H色素量画像
 301 H修正色素量画像
 321 画像取得制御部
 331 プログラム記憶部
 332 画像データ記憶部
 333 特異性情報記憶部
 361 単染色画像算出部
 362 分光透過率推定部
 363 色素量推定部
 364 算出部
 365 処理順位設定部
 366 染色領域抽出部
 367 単染色画像修正部
 368 解析部
 400,500,600 画像
 800,900 第2,第3修正色素量画像
 Ar1~Ar3 第1~第3染色領域
 ArD DAB染色領域
 ArH,ArH´ H染色領域
 NC 陰性細胞
 PC 陽性細胞
 S 染色標本
 St1 細胞核免疫染色
 St2 細胞質免疫染色
 St3 細胞核対比染色

Claims (11)

  1.  2種以上の染色が施された標本を撮像した染色標本画像から各染色による染色状態をそれぞれ表した単染色画像をそれぞれ算出する単染色画像算出部と、
     対象とする染色の前記単染色画像から当該対象とする染色による染色領域を抽出する抽出処理を前記2種以上の染色全てについて標的部位に対する特異性が高い染色から順に実行する染色領域抽出部と、
     対象とする染色の前記単染色画像から当該対象とする染色よりも前記特異性が高い全ての染色の前記染色領域を除いて当該単染色画像を修正する修正処理を前記2種以上の染色のうち前記特異性が最も高い第1染色を除く少なくとも1種の第2染色全てについて前記特異性が高い染色から順に実行する単染色画像修正部と、
     前記染色領域に基づいて画像解析を行う解析部とを備え、
     前記染色領域抽出部は、
     前記第2染色による前記染色領域を抽出する際、対象とする染色の前記単染色画像に対して前記修正処理が実行された修正単染色画像から当該対象とする染色による前記染色領域を抽出する
     ことを特徴とする画像処理装置。
  2.  前記2種以上の染色の前記特異性に基づいて、前記抽出処理及び前記修正処理での前記2種以上の染色の処理順位を設定する処理順位設定部をさらに備える
     ことを特徴とする請求項1に記載の画像処理装置。
  3.  前記2種以上の染色の前記特異性を示す特異性情報を記憶する記憶部をさらに備え、
     前記処理順位設定部は、
     前記特異性情報に基づいて、前記処理順位を設定する
     ことを特徴とする請求項2に記載の画像処理装置。
  4.  前記染色標本画像には、
     前記2種以上の染色の前記特異性を示す特異性情報が付加されており、
     前記処理順位設定部は、
     前記特異性情報に基づいて、前記処理順位を設定する
     ことを特徴とする請求項2に記載の画像処理装置。
  5.  前記染色領域抽出部は、
     対象とする染色の前記単染色画像における画素値のヒストグラムを固定割合及び自動算出値の一方の閾値で二値化することで当該対象の染色による前記染色領域を抽出する
     ことを特徴とする請求項1~4のいずれか一つに記載の画像処理装置。
  6.  前記解析部は、
     前記染色領域に基づいて対象の染色で染色された細胞の数を計数する
     ことを特徴とする請求項1~5のいずれか一つに記載の画像処理装置。
  7.  前記染色領域を示す画像、及び前記細胞の数の少なくとも一方を表示する表示部をさらに備える
     ことを特徴とする請求項6に記載の画像処理装置。
  8.  前記単染色画像算出部は、
     前記染色標本画像に基づいて各染色の画素毎の色素量をそれぞれ推定する色素量推定部と、
     前記色素量推定部で推定された前記各染色の画素毎の色素量に基づいて当該各染色の前記単染色画像をそれぞれ算出する算出部とを備える
     ことを特徴とする請求項1~7のいずれか一つに記載の画像処理装置。
  9.  前記単染色画像算出部は、
     前記染色標本画像から各画素の分光透過率を推定する分光透過率推定部をさらに備え、
     前記色素量推定部は、
     前記分光透過率推定部で推定された前記分光透過率を用いて前記各染色の画素毎の色素量をそれぞれ推定する
     ことを特徴とする請求項8に記載の画像処理装置。
  10.  2種以上の染色が施された標本を撮像した染色標本画像から各染色による染色状態をそれぞれ表した単染色画像をそれぞれ算出する単染色画像算出ステップと、
     対象とする染色の前記単染色画像から当該対象とする染色による染色領域を抽出する抽出処理を前記2種以上の染色全てについて標的部位に対する特異性が高い染色から順に実行する染色領域抽出ステップと、
     対象とする染色の前記単染色画像から当該対象とする染色よりも前記特異性が高い全ての染色の前記染色領域を除いて当該単染色画像を修正する修正処理を前記2種以上の染色のうち前記特異性が最も高い第1染色を除く少なくとも1種の第2染色全てについて前記特異性が高い染色から順に実行する単染色画像修正ステップと、
     前記染色領域に基づいて画像解析を行う解析ステップとを備え、
     前記染色領域抽出ステップでは、
     前記第2染色による前記染色領域を抽出する際、対象とする染色の前記単染色画像に対して前記修正処理が実行された修正単染色画像から当該対象とする染色による前記染色領域を抽出する
     ことを特徴とする画像処理方法。
  11.  請求項10に記載の画像処理方法を画像処理装置に実行させる
     ことを特徴とする画像処理プログラム。
PCT/JP2017/000624 2017-01-11 2017-01-11 画像処理装置、画像処理方法、及び画像処理プログラム WO2018131091A1 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
PCT/JP2017/000624 WO2018131091A1 (ja) 2017-01-11 2017-01-11 画像処理装置、画像処理方法、及び画像処理プログラム
JP2018561134A JPWO2018131091A1 (ja) 2017-01-11 2017-01-11 画像処理装置、画像処理方法、及び画像処理プログラム
US16/460,174 US11037294B2 (en) 2017-01-11 2019-07-02 Image processing device, image processing method, and computer-readable recording medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2017/000624 WO2018131091A1 (ja) 2017-01-11 2017-01-11 画像処理装置、画像処理方法、及び画像処理プログラム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
US16/460,174 Continuation US11037294B2 (en) 2017-01-11 2019-07-02 Image processing device, image processing method, and computer-readable recording medium

Publications (1)

Publication Number Publication Date
WO2018131091A1 true WO2018131091A1 (ja) 2018-07-19

Family

ID=62839568

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2017/000624 WO2018131091A1 (ja) 2017-01-11 2017-01-11 画像処理装置、画像処理方法、及び画像処理プログラム

Country Status (3)

Country Link
US (1) US11037294B2 (ja)
JP (1) JPWO2018131091A1 (ja)
WO (1) WO2018131091A1 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019171909A1 (ja) * 2018-03-08 2019-09-12 コニカミノルタ株式会社 画像処理方法、画像処理装置及びプログラム
JPWO2019008935A1 (ja) * 2017-07-05 2020-05-21 コニカミノルタ株式会社 画像処理装置及び画像処理方法並びにこれを用いた病理診断支援システム

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012037432A (ja) * 2010-08-09 2012-02-23 Olympus Corp 顕微鏡システム、標本観察方法およびプログラム
WO2012043498A1 (ja) * 2010-09-30 2012-04-05 日本電気株式会社 情報処理装置、情報処理システム、情報処理方法、プログラム及び記録媒体
JP2012122852A (ja) * 2010-12-08 2012-06-28 Olympus Corp 画像処理装置、画像処理方法および画像処理プログラム
WO2016104308A1 (ja) * 2014-12-25 2016-06-30 コニカミノルタ株式会社 細胞画像解析方法及び細胞画像解析装置

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5508792B2 (ja) * 2009-09-01 2014-06-04 オリンパス株式会社 画像処理方法、画像処理装置および画像処理プログラム
JP5490568B2 (ja) 2010-02-26 2014-05-14 オリンパス株式会社 顕微鏡システム、標本観察方法およびプログラム
JP2011181015A (ja) * 2010-03-03 2011-09-15 Olympus Corp 診断情報配信装置および病理診断システム
US9786050B2 (en) * 2013-03-15 2017-10-10 The Board Of Trustees Of The University Of Illinois Stain-free histopathology by chemical imaging
EP3251087B1 (en) * 2015-01-29 2018-11-28 Ventana Medical Systems, Inc. Dot detection, color classification of dots and counting of color classified dots
US10430943B2 (en) * 2016-10-07 2019-10-01 Sony Corporation Automated nuclei area/number estimation for IHC image analysis

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012037432A (ja) * 2010-08-09 2012-02-23 Olympus Corp 顕微鏡システム、標本観察方法およびプログラム
WO2012043498A1 (ja) * 2010-09-30 2012-04-05 日本電気株式会社 情報処理装置、情報処理システム、情報処理方法、プログラム及び記録媒体
JP2012122852A (ja) * 2010-12-08 2012-06-28 Olympus Corp 画像処理装置、画像処理方法および画像処理プログラム
WO2016104308A1 (ja) * 2014-12-25 2016-06-30 コニカミノルタ株式会社 細胞画像解析方法及び細胞画像解析装置

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPWO2019008935A1 (ja) * 2017-07-05 2020-05-21 コニカミノルタ株式会社 画像処理装置及び画像処理方法並びにこれを用いた病理診断支援システム
US11238268B2 (en) * 2017-07-05 2022-02-01 Konica Minolta, Inc. Image processing device, image processing method, and pathological diagnosis assistance system using same
JP7215418B2 (ja) 2017-07-05 2023-01-31 コニカミノルタ株式会社 画像処理装置及び画像処理方法並びにこれを用いた病理診断支援システム
WO2019171909A1 (ja) * 2018-03-08 2019-09-12 コニカミノルタ株式会社 画像処理方法、画像処理装置及びプログラム
US11449991B2 (en) 2018-03-08 2022-09-20 Konica Minolta, Inc. Image processing method, image processing apparatus, and storage medium

Also Published As

Publication number Publication date
US11037294B2 (en) 2021-06-15
JPWO2018131091A1 (ja) 2019-12-19
US20190325577A1 (en) 2019-10-24

Similar Documents

Publication Publication Date Title
JP4740068B2 (ja) 画像処理装置、画像処理方法、および画像処理プログラム
JP5478084B2 (ja) 画像処理システム、画像処理装置および画像処理端末
JP5075648B2 (ja) 画像処理装置、画像処理プログラムおよび画像処理方法
JP5178226B2 (ja) 画像処理装置および画像処理プログラム
JP5738564B2 (ja) 画像処理システム
JP5117274B2 (ja) 画像処理装置および画像処理プログラム
JP2010169467A (ja) 画像処理装置、データセット生成装置、画像処理プログラムおよびデータセット生成プログラム
US9406118B2 (en) Stain image color correcting apparatus, method, and system
JP5137481B2 (ja) 画像処理装置、画像処理プログラム、および画像処理方法
JP2010156612A (ja) 画像処理装置、画像処理プログラム、画像処理方法およびバーチャル顕微鏡システム
JP5305618B2 (ja) 画像処理装置および画像処理プログラム
US11037294B2 (en) Image processing device, image processing method, and computer-readable recording medium
JP2008304205A (ja) 分光特性推定装置および分光特性推定プログラム
JP5210571B2 (ja) 画像処理装置、画像処理プログラムおよび画像処理方法
US20140043461A1 (en) Image processing device, image processing method, image processing program, and virtual microscope system
JP2010169592A (ja) 画像処理装置および画像処理プログラム
US20210174147A1 (en) Operating method of image processing apparatus, image processing apparatus, and computer-readable recording medium
JP2009014354A (ja) 画像処理装置および画像処理プログラム
JP5687541B2 (ja) 画像処理装置、画像処理方法、画像処理プログラムおよびバーチャル顕微鏡システム
WO2018193635A1 (ja) 画像処理システム、画像処理方法、及び画像処理プログラム

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 17891783

Country of ref document: EP

Kind code of ref document: A1

WWE Wipo information: entry into national phase

Ref document number: 2018561134

Country of ref document: JP

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 17891783

Country of ref document: EP

Kind code of ref document: A1