JP5687541B2 - 画像処理装置、画像処理方法、画像処理プログラムおよびバーチャル顕微鏡システム - Google Patents

画像処理装置、画像処理方法、画像処理プログラムおよびバーチャル顕微鏡システム Download PDF

Info

Publication number
JP5687541B2
JP5687541B2 JP2011072437A JP2011072437A JP5687541B2 JP 5687541 B2 JP5687541 B2 JP 5687541B2 JP 2011072437 A JP2011072437 A JP 2011072437A JP 2011072437 A JP2011072437 A JP 2011072437A JP 5687541 B2 JP5687541 B2 JP 5687541B2
Authority
JP
Japan
Prior art keywords
dye
spectrum
amount
change
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2011072437A
Other languages
English (en)
Other versions
JP2012207961A (ja
Inventor
武 大塚
武 大塚
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2011072437A priority Critical patent/JP5687541B2/ja
Priority to US13/429,831 priority patent/US8929639B2/en
Publication of JP2012207961A publication Critical patent/JP2012207961A/ja
Application granted granted Critical
Publication of JP5687541B2 publication Critical patent/JP5687541B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/36Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
    • G02B21/365Control or image processing arrangements for digital or video microscopes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/69Microscopic objects, e.g. biological cells or cellular parts
    • G06V20/695Preprocessing, e.g. image segmentation

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Chemical & Material Sciences (AREA)
  • Analytical Chemistry (AREA)
  • Optics & Photonics (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biomedical Technology (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Theoretical Computer Science (AREA)
  • Investigating Or Analysing Materials By Optical Means (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Description

本発明は、画像処理装置、画像処理方法、画像処理プログラムおよびバーチャル顕微鏡システムに関するものである。
被写体に固有の物理的性質を表す物理量の一つに、分光透過率スペクトルがある。分光透過率は、各波長における入射光に対する透過光の割合を表す物理量であり、照明光の変化に依存するRGB値等の色情報とは異なり、外因的影響によって値が変化しない物体固有の情報である。このため、分光透過率は、被写体自体の色を再現するための情報として様々な分野で利用されている。例えば、生体組織標本、特に病理標本を用いた病理診断の分野では、標本を撮像した画像の解析に分光特性値の一例として分光透過率が利用されている。以下、病理診断における分光透過率の利用例について、さらに詳細に説明する。
病理診断における病理検査の一つとして、病変部位の組織を採取して顕微鏡で観察することにより、病気の診断または病変の拡大の程度を調べる組織診が知られている。この組織診は、生検(バイオプシー)とも呼ばれ、臓器摘出によって得たブロック標本や針生検によって得た病理標本を、厚さ数ミクロン程度に薄切りした後、様々な所見を得るために顕微鏡を用いて拡大観察することが広く行われている。なかでも、光学顕微鏡を用いた透過観察は、機材が比較的安価で取り扱いが容易である上、歴史的に古くから行われてきたこともあって、最も普及している観察方法の一つである。この場合、薄切りされた標本は、光を殆ど吸収および散乱せず無色透明に近いため、観察に先立って色素による染色を施すのが一般的である。
染色手法としては、種々のものが提案されており、その総数は100種類以上にも達するが、特に病理標本に関しては、色素として青紫色のヘマトキシリンと赤色のエオジンの2つを用いるヘマトキシリン−エオジン染色(以下、「HE染色」と称す)が標準的に用いられている。
ヘマトキシリンは、植物から採取された天然の物質であり、それ自身には染色性はない。しかし、その酸化物であるヘマチンは、好塩基性の色素であり、負に帯電した物質と結合する。細胞核に含まれるデオキシリボ核酸(DNA)は、構成要素として含むリン酸基によって負に帯電しているため、ヘマチンと結合して青紫色に染色される。なお、前述の通り、染色性を有するのはヘマトキシリンではなく、その酸化物であるヘマチンであるが、色素の名称としてはヘマトキシリンを用いるのが一般的であるため、以下それに従う。
一方、エオジンは、好酸性の色素であり、正に帯電した物質と結合する。アミノ酸やタンパク質が正負どちらに帯電するかは、pH環境に影響を受け、酸性下では正に帯電する傾向が強くなる。このため、エオジン溶液に酢酸を加えて用いることがある。細胞質に含まれるタンパク質は、エオジンと結合して赤から薄赤に染色される。
HE染色後の標本(染色標本)では、細胞核や骨組織等が青紫色に、細胞質や結合組織、赤血球等が赤色に染色され、容易に視認できるようになる。その結果、観察者は、細胞核等の組織を構成する要素の大きさや位置関係等を把握でき、標本の状態を形態学的に判断することが可能となる。
染色された標本の観察は、観察者の目視によるものの他、この染色された標本をマルチバンド撮像して外部装置の表示画面に表示することによっても行われている。表示画面に表示する場合には、撮像したマルチバンド画像から標本各点の分光透過率を推定する処理や、推定した分光透過率をもとに標本を染色している色素の色素量を推定する処理等が行われ、表示用の標本のRGB画像である表示画像が合成される。
標本のマルチバンド画像から標本各点の分光透過率を推定する手法としては、例えば、主成分分析による推定法や、ウィナー(Wiener)推定による推定法等が挙げられる。ウィナー推定は、ノイズの重畳された観測信号から原信号を推定する線形フィルタ手法の一つとして広く知られており、観測対象の統計的性質とノイズ(観測ノイズ)の特性とを考慮して誤差の最小化を行う手法である。カメラからの信号には、何らかのノイズが含まれるため、ウィナー推定は原信号を推定する手法として極めて有用である。
以下、標本のマルチバンド画像から表示画像を合成する従来の方法について説明する。
先ず、標本のマルチバンド画像を撮像する。例えば、16枚のバンドパスフィルタをフィルタホイールで回転させて切り替えながら、面順次方式でマルチバンド画像を撮像する。これにより、標本の各点において16バンドの画素値を有するマルチバンド画像が得られる。なお、色素は、本来、観察対象となる標本内に3次元的に分布しているが、通常の透過観察系ではそのまま3次元像として捉えることはできず、標本内を透過した照明光をカメラの撮像素子上に投影した2次元像として観察される。したがって、ここでいう各点は、投影された撮像素子の各画素に対応する標本上の点を意味している。
ここで、撮像されたマルチバンド画像の任意の点(画素)xについて、バンドbにおける画素値g(x,b)と、対応する標本上の点の分光透過率t(x,λ)との間には、カメラの応答システムに基づく次式(1)の関係が成り立つ。
Figure 0005687541
式(1)において、λは波長、f(b,λ)はb番目のフィルタの分光透過率、s(λ)はカメラの分光感度特性、e(λ)は照明の分光放射特性、n(b)はバンドbにおける観測ノイズをそれぞれ表す。bはバンドを識別する通し番号であり、ここでは1≦b≦16を満たす整数値である。実際の計算では、式(1)を波長方向に離散化した次式(2)が用いられる。
G(x)=FSET(x)+N ・・・(2)
式(2)において、波長方向のサンプル点数をD、バンド数をB(ここではB=16)とすれば、G(x)は、点xにおける画素値g(x,b)に対応するB行1列の行列である。同様に、T(x)は、t(x,λ)に対応するD行1列の行列、Fは、f(b,λ)に対応するB行D列の行列である。一方、Sは、D行D列の対角行列であり、対角要素がs(λ)に対応している。同様に、Eは、D行D列の対角行列であり、対角要素がe(λ)に対応している。Nは、n(b)に対応するB行1列の行列である。なお、式(2)では、行列を用いて複数のバンドに関する式を集約しているため、バンドを表す変数bが記述されていない。また、波長λに関する積分は、行列の積に置き換えられている。
ここで、表記を簡単にするため、次式(3)で定義される行列Hを導入する。この行列Hはシステム行列とも呼ばれる。
H=FSE ・・・(3)
よって、式(2)は、次式(4)に置き換えられる。
G(x)=HT(x)+N ・・・(4)
次に、ウィナー推定を用いて、撮像したマルチバンド画像から標本各点における分光透過率を推定する。分光透過率の推定値(分光透過率データ)T^(x)は、次式(5)で計算することができる。なお、T^は、Tの上に推定値を表す記号「^(ハット)」が付いていることを示す。
Figure 0005687541
ここで、Wは次式(6)で表され、「ウィナー推定行列」あるいは「ウィナー推定に用いる推定オペレータ」と呼ばれる。
W=RSS(HRSS+RNN−1 ・・・(6)
ただし、():転置行列、()−1:逆行列
式(6)において、RSSは、D行D列の行列であり、標本の分光透過率の自己相関行列を表す。また、RNNは、B行B列の行列であり、撮像に使用するカメラのノイズの自己相関行列を表す。
このようにして分光透過率データT^(x)を推定したら、次に、このT^(x)をもとに対応する標本上の点(標本点)における色素量を推定する。推定の対象とする色素は、ヘマトキシリン、細胞質を染色したエオジン、赤血球を染色したエオジンまたは染色されていない赤血球本来の色素の3種類であり、それぞれ色素H,色素E,色素Rと略記する。なお、厳密には、染色を施さない状態であっても、赤血球はそれ自身特有の色を有しており、HE染色後は、赤血球自身の色と染色過程において変化したエオジンの色が重畳して観察される。このため、正確には両者を併せたものを色素Rと呼称する。
一般に、光を透過する物質では、波長λ毎の入射光の強度I0(λ)と射出光の強度I(λ)との間に、次式(7)で表されるランベルト・ベール(Lambert-Beer)の法則が成り立つことが知られている。
Figure 0005687541
式(7)において、k(λ)は波長に依存して決まる物質固有の値、dは物質の厚さをそれぞれ表す。
ここで、式(7)の左辺は、分光透過率t(λ)を意味している。したがって、式(7)は次式(8)に置き換えられる。
t(λ)=e−k(λ)・d ・・・(8)
また、分光吸光度a(λ)は次式(9)で表される。
a(λ)=k(λ)・d ・・・(9)
したがって、式(8)は次式(10)に置き換えられる。
t(λ)=e−a(λ) ・・・(10)
ここで、HE染色された標本が、色素H,色素E,色素Rの3種類の色素で染色されている場合、ランベルト・ベールの法則により各波長λにおいて次式(11)が成立する。
Figure 0005687541
式(11)において、k(λ),k(λ),k(λ)は、それぞれ色素H,色素E,色素Rに対応するk(λ)を表し、例えば、標本を染色している各色素のスペクトルである。また、d,d,dは、マルチバンド画像の各画像位置に対応する標本各点における色素H,色素E,色素Rの仮想的な厚さを表す。なお、色素は標本中に分散して存在するため、厚さという概念は正確ではないが、標本が単一の色素で染色されていると仮定した場合と比較して、どの程度の量の色素が存在しているかを表す相対的な色素量の指標となる。すなわち、d,d,dは、それぞれ色素H,色素E,色素Rの色素量を表していると言える。なお、k(λ),k(λ),k(λ)は、色素H,色素E,色素Rを用いてそれぞれ個別に染色した標本を予め用意し、その分光透過率を分光器で測定することによって、ランベルト・ベールの法則から容易に求めることができる。
ここで、位置xにおける分光透過率をt(x,λ)とし、分光吸光度をa(x,λ)とすると、式(9)は次式(12)に置き換えられる。
a(x,λ)=k(λ)・d+k(λ)・d+k(λ)・d ・・・(12)
そして、式(5)を用いて推定された分光透過率T^(x)の波長λにおける推定分光透過率をt^(x,λ)、推定分光吸光度をa^(x,λ)とすると、式(12)は次式(13)に置き換えられる。なお、t^は、tの上に記号「^」が付いていることを示し、a^は、aの上に記号「^」が付いていることを示す。
Figure 0005687541
式(13)において、未知変数は、d,d,dの3つであるから、少なくとも3つの異なる波長λについて式(13)を連立させれば、これらを解くことができる。より精度を高めるために、4つ以上の異なる波長λに対して式(13)を連立させ、重回帰分析を行ってもよい。例えば、3つの波長λ,λ,λについて式(13)を連立させた場合、次式(14)のように行列表記できる。
Figure 0005687541
ここで、式(14)を次式(15)に置き換える。
Figure 0005687541
式(15)において、波長方向のサンプル点数をDとすれば、A^(x)は、a^(x,λ)に対応するD行1列の行列であり、Kは、k(λ)に対応するD行3列の行列、d(x)は、点xにおけるd,d,dに対応する3行1列の行列である。なお、A^は、Aの上に記号「^」が付いていることを示す。
そして、式(15)に従い、最小二乗法を用いて色素量d,d,dを算出する。最小二乗法とは、単回帰式において誤差の二乗和を最小にするようにd(x)を決定する方法であり、次式(16)で算出できる。なお、式(16)において、d^(x)は、推定された色素量である。
Figure 0005687541
さらに、式(16)により推定された色素量d^,d^,d^を、式(12)に代入すれば、復元した分光吸光度a(x,λ)は、次式(17)で求められる。なお、aは、aの上に記号「(チルダ)」が付いていることを示す。
Figure 0005687541
したがって、色素量推定における推定誤差e(λ)は、推定分光吸光度a^(x,λ)と復元した分光吸光度a(x,λ)とから次式(18)で求められる。以下、e(λ)を残差スペクトルと称す。
Figure 0005687541
また、推定分光吸光度a^(x,λ)は、式(17)および式(18)を用いて、次式(19)で表される。
Figure 0005687541
ランベルト・ベールの法則は、屈折や散乱が無いと仮定した場合に、半透明物体を透過する光の減衰を定式化したものである。しかし、実際の染色標本では、屈折も散乱も起こり得る。そのため、染色標本による光の減衰を、ランベルト・ベールの法則のみでモデル化すると、モデル化に伴った誤差が生じることになる。
しかしながら、生体標本内での屈折や散乱を含めたモデルの構築は、極めて困難であり、実用上は実行不可能である。そこで、屈折や散乱の影響を含めたモデル化の誤差である残差スペクトルを加えることで、物理モデルによる不自然な色変動を引き起こさないようにしている。
また、E染色の色素のスペクトルは、組織の違いによって、高波長または低波長にシフトする現象が実験的に確認されており、そのシフト量を算出する方法も提案されている(例えば、非特許文献1参照)。この非特許文献1に開示の方法では、色素量推定時にE染色のシフトを1次近似することで、シフト量を算出している。そして、算出したシフト量に基づいて、細胞質と線維とを分類している。
宮澤 知克他「HE染色標本の吸光度スペクトルのシフトを用いた線維組織の領域抽出」Optics & Photonics Japan 2008 講演予稿集,P354-355,Nov.2008.
ところが、色素のスペクトルは、組織の違いによって、高波長または低波長にシフトする現象の他にも、波長方向に鮮鋭または緩慢に変化するという現象が実験的に確認されている。図15(a)および(b)は、色素のスペクトルがシフトする場合と、色素のスペクトルが波長方向に鮮鋭または緩慢に変化する場合とを模式的に示したもので、横軸は波長を示し、縦軸は吸光度を示す。このように、色素のスペクトルが波長方向に鮮鋭または緩慢に変化すると、色素量の推定値が変化して、標本の解析精度が低下することになる。
図16(a)および(b)は、HE染色標本における筋線維およびコラーゲン線維のそれぞれの吸光度スペクトルの一例を示す図で、横軸は波長を示し、縦軸は吸光度を示す。図16(a),(b)において、実線は計測値を示し、破線はランベルト・ベールの法則に基づいて従来の方法で色素量を推定した場合の吸光度スペクトルの推定値を示す。
図16(a),(b)から明らかなように、吸光度スペクトルの推定値は、E染色のピーク波長である510nm〜550nmにおいて、筋線維では計測値より多くなり、また、コラーゲン線維では計測値より小さくなる。図17(a),(b)は、図16(a),(b)に示した筋線維およびコラーゲン線維における吸光度スペクトルの実測値と推定値との残差スペクトルを示す。これは、何らかの要因によって、組織の違いにより色素のスペクトルが波長方向に鮮鋭または緩慢に変化していることを表す。
そのため、上記の非特許文献1に開示のように、色素のスペクトルのシフト量を算出し、そのシフト量に基づいて細胞質と線維とを分類すると、分類の精度つまり標本の解析精度が低下する場合がある。その結果、染色標本のバーチャルスライド画像を取得するバーチャル顕微鏡システムにおいても、同様に標本の解析精度が低下することになる。
したがって、かかる点に鑑みてなされた本発明の目的は、対象標本の現象に即して、対象標本画像を高精度で解析できる画像処理装置、画像処理方法、画像処理プログラムおよびバーチャル顕微鏡システムを提供することにある。
上記目的を達成する第1の観点に係る画像処理装置の発明は、
染色標本を撮像した染色標本画像を処理する画像処理装置であって、
前記染色標本の染色に使用される色素のスペクトルを記憶する色素のスペクトル記憶部と、
前記色素のスペクトル記憶部に記憶された前記色素のスペクトルに基づいて、当該色素のスペクトルの波長方向の傾きの変化の割合を表す変化特性を算出する変化特性算出部と、
前記色素のスペクトル記憶部に記憶された前記色素のスペクトルと前記変化特性算出部で算出された前記変化特性とに基づいて、前記染色標本画像の各画素の画素値から色素量および前記変化特性に基づく変化量を推定する色素量・変化量推定部と
前記色素のスペクトル、前記変化特性、前記色素量および前記変化量に基づいて、前記色素のスペクトルおよび前記色素量をそれぞれ補正する色素のスペクトル・色素量補正部と、
前記補正された色素のスペクトルおよび前記補正された色素量に基づいて前記染色標本画像を解析する演算部と、
を備えることを特徴とするものである。
第2の観点に係る発明は、第1の観点に係る画像処理装置において、
前記変化特性算出部は、
前記色素のスペクトルを2階微分した2階微分スペクトルを前記変化特性として算出する、ことを特徴とするものである。
の観点に係る発明は、第1または2の観点に係る画像処理装置において、
前記変化量に基づいて前記染色標本画像の各画素を分類する分類部をさらに備え、
前記分類部による分類結果に基づいて前記染色標本画像を解析するように構成したことを特徴とするものである。
の観点に係る発明は、第の観点に係る画像処理装置において、
前記染色標本は、HE染色標本であり、
前記色素のスペクトルは、E色素のスペクトルであり、
前記分類部は、前記変化量に基づいて筋線維またはコラーゲン繊維の少なくとも一つを分類する、
ことを特徴とするものである。
の観点に係る発明は、第またはの観点に係る画像処理装置において、
前記分類部による分類結果に基づいて表示用画像を作成する表示用画像作成部をさらに備える、ことを特徴とするものである。
の観点に係る発明は、第1〜のいずれか一の観点に係る画像処理装置において、
前記演算部は、
前記染色標本画像の各画素の画素値に基づいて分光スペクトルを推定するスペクトル推定部をさらに備え、
前記色素量・変化量推定部は、前記スペクトル推定部で推定された前記分光スペクトルに基づいて前記色素量および前記変化量を推定する、ことを特徴とするものである。
の観点に係る発明は、第1〜のいずれか一の観点に係る画像処理装置において、
前記変化特性算出部は、前記色素のスペクトルに基づいて前記変化特性とは異なる変化を表す変化特性を含む複数の変化特性を算出し、
前記色素量・変化量推定部は、前記色素のスペクトルと前記変化特性算出部で算出された前記複数の変化特性とに基づいて、前記変化量を含む複数の異なる変化量を推定し、
前記演算部は、前記複数の変化量に基づいて前記染色標本画像を解析する、ことを特徴とするものである。
さらに、上記目的を達成する第の観点に係る画像処理方法の発明は、
染色標本を撮像した染色標本画像を処理する画像処理方法であって、
前記染色標本の染色に使用される色素のスペクトルを取得するステップと、
取得された前記色素のスペクトルに基づいて、少なくとも当該色素のスペクトルの波長方向の傾きの変化の割合を表す変化特性を算出するステップと、
前記色素のスペクトルと前記変化特性とに基づいて、前記染色標本画像の各画素の画素値から色素量および前記変化特性に基づく変化量を推定するステップと、
前記色素のスペクトル、前記変化特性、前記色素量および前記変化量に基づいて、前記色素のスペクトルおよび前記色素量をそれぞれ補正するステップと、
前記補正された色素のスペクトルおよび前記補正された色素量に基づいて前記染色標本画像を解析するステップと、
を含むことを特徴とするものである。
さらに、上記目的を達成する第の観点に係る画像処理プログラムの発明は、
染色標本を撮像した染色標本画像を処理する画像処理プログラムであって、
前記染色標本の染色に使用される色素のスペクトルを取得する処理と、
取得された前記色素のスペクトルに基づいて、少なくとも当該色素のスペクトルの波長方向の傾きの変化の割合を表す変化特性を算出する処理と、
前記色素のスペクトルと前記変化特性とに基づいて、前記染色標本画像の各画素の画素値から色素量および前記変化特性に基づく変化量を推定する処理と、
前記色素のスペクトル、前記変化特性、前記色素量および前記変化量に基づいて、前記色素のスペクトルおよび前記色素量をそれぞれ補正する処理と、
前記補正された色素のスペクトルおよび前記補正された色素量に基づいて前記染色標本画像を解析する処理と、
をコンピュータに実行させることを特徴とするものである。
さらに、上記目的を達成する第10の観点に係るバーチャル顕微鏡システムの発明は、
染色標本のバーチャルスライド画像を取得するバーチャル顕微鏡システムであって、
顕微鏡を用いて前記染色標本を撮像して染色標本画像を取得する画像取得部と、
前記染色標本の染色に使用される色素のスペクトルを記憶する色素のスペクトル記憶部と、
前記色素のスペクトル記憶部に記憶された前記色素のスペクトルに基づいて、当該色素のスペクトルの波長方向の傾きの変化の割合を表す変化特性を算出する変化特性算出部と、
前記色素のスペクトル記憶部に記憶された前記色素のスペクトルと前記変化特性算出部で算出された前記変化特性とに基づいて、前記染色標本画像の各画素の画素値から色素量および前記変化特性に基づく変化量を推定する色素量・変化量推定部と
前記色素のスペクトル、前記変化特性、前記色素量および前記変化量に基づいて、前記色素のスペクトルおよび前記色素量をそれぞれ補正する色素のスペクトル・色素量補正部と、
前記補正された色素のスペクトルおよび前記補正された色素量に基づいて前記染色標本を解析する演算部と、を備え、
前記演算部で解析された染色標本画像に基づいて前記染色標本のバーチャルスライド画像を取得するように構成した、ことを特徴とするものである。
本発明によると、対象標本の現象に即して、対象標本画像を高精度で解析することが可能となる。
本発明の第1実施の形態に係る画像処理装置の要部の機能構成を示すブロック図である。 図1に示した画像処理装置の動作の概要を示すフローチャートである。 図1の色素のスペクトル記憶部に記憶されるE染色の色素のスペクトルにおける正規化吸光度特性と、1次微分スペクトルおよび2次微分スペクトルの各変化特性との関係を示す図である。 図2の画像解析処理の概要を示すフローチャートである。 本発明の第2実施の形態に係る画像処理装置の要部の機能構成を示すブロック図である。 図5に示した画像処理装置の動作の概要を示すフローチャートである。 本発明の第3実施の形態に係る画像処理装置の要部の機能構成を示すブロック図である。 図7に示した画像処理装置の動作の概要を示すフローチャートである。 本発明の第4実施の形態に係る画像処理装置の要部の機能構成を示すブロック図である。 図9に示した画像取得部の概略構成を示す図である。 図10に示したRGBカメラの分光感度特性を示す図である。 図10に示したフィルタ部を構成する各光学フィルタの分光透過率特性を示す図である。 図9に示した画像処理装置の動作の概要を示すフローチャートである。 本発明の第5実施の形態に係るバーチャル顕微鏡システムの要部の機能構成を示すブロック図である。 色素のスペクトルがシフトする場合と、色素のスペクトルが波長方向に鮮鋭または緩慢に変化する場合とを模式的に示す図である。 HE染色標本における筋線維およびコラーゲン線維のそれぞれの吸光度スペクトルの実測値と、従来の方法で色素量を推定した場合の吸光度スペクトルの推定値との一例を示す図である。 図16に示した筋線維およびコラーゲン線維における吸光度スペクトルの実測値と推定値との残差スペクトルを示す図である。
以下、本発明の好適実施の形態について、図を参照して詳細に説明する。なお、本発明は、以下の実施の形態によって限定されるものではない。また、図面の記載において、同一部分には同一の符号を付している。
(第1実施の形態)
図1は、本発明の第1実施の形態に係る画像処理装置の要部の機能構成を示すブロック図である。この画像処理装置は、顕微鏡とパーソナルコンピュータ等のコンピュータから構成されるもので、画像取得部110、入力部270、表示部290、演算部250、記憶部230、および各部を制御する制御部210を備える。
画像取得部110は、例えば液晶チューナブルフィルタや音響チューナブルフィルタを備えるマルチスペクトルカメラを用いて構成され、対象標本(染色標本)をマルチスペクトルカメラにより撮像して、対象標本のマルチスペクトル画像を取得する。
入力部270は、例えば、キーボードやマウス、タッチパネル、各種スイッチ等の入力装置によって実現されるものであり、操作入力に応じた入力信号を制御部210に出力する。
表示部290は、LCD(Liquid Crystal Display)やEL(Electro Luminescence)ディスプレイ、CRT(Cathode Ray Tube)ディスプレイ等の表示装置によって実現されるものであり、制御部210から入力される表示信号をもとに各種画面を表示する。
演算部250は、変化特性算出部2501、色素量・変化量推定部2503および解析部2505を有し、CPU等のハードウェアによって実現される。
記憶部230は、画像処理装置を動作させる画像処理プログラムを記憶するプログラム記憶部231と、対象標本の染色に用いる染色方法による各色素のスペクトルk(λ),k(λ),k(λ)を記憶する色素のスペクトル記憶部233とを含み、画像処理プログラムの実行中に使用されるデータ等を格納する。なお、色素のスペクトル記憶部233に記憶される各色素のスペクトルk(λ),k(λ),k(λ)は、上述したように、色素H,色素E,色素Rを用いてそれぞれ個別に染色した標本から測定された分光透過率に基づいて、例えばランベルト・ベールの法則により算出される。この記憶部230は、更新記憶可能なフラッシュメモリ等のROMやRAMといった各種ICメモリ、内蔵あるいはデータ通信端子で接続されたハードディスク、CD−ROM等の情報記憶媒体およびその読取装置等によって実現される。
制御部210は、画像取得部110の動作を制御して対象標本の画像を取得する画像取得制御部211を含み、入力部270から入力される入力信号や画像取得部110から入力される画像、記憶部230に格納されているプログラムやデータ等に基づいて画像処理装置を構成する各部への指示やデータの転送等を行い、全体の動作を統括的に制御する。この制御部210は、CPU等のハードウェアによって実現される。
以下、本実施の形態に係る画像処理装置の動作について説明する。
図2は、本実施の形態に係る画像処理装置の動作の概要を示すフローチャートである。本実施の形態に係る画像処理装置では、先ず、変化特性算出処理を実行して、色素のスペクトルの波長方向の傾きの変化の割合を表す変化特性を算出する(ステップS201)。その後、画像解析処理を実行して、変化特性算出処理で算出された変化特性に基づいて対象標本画像(染色標本画像)を解析する(ステップS203)。
変化特性算出処理においては、制御部210は、記憶部230の色素のスペクトル記憶部233に記憶されているE染色の色素のスペクトルk(λ)を読み出し、その読み出した色素のスペクトルk(λ)を、演算部250の変化特性算出部2501において、例えばラプラシアンフィルタを用いて2階微分して変化特性k″(λ)を算出する。つまり、色素のスペクトルk(λ)を2階微分して算出した2階微分スペクトルを、変化特性k″(λ)とする。ここで、他の染色の変化特性を求めたい場合は、変化特性算出部2501において、その色素のスペクトルを2階微分してもよい。また、同時に、色素のスペクトルk(λ)を1階微分してk′(λ)を算出する等、異なる変化を表す複数の変化特性を算出してもよい。この変化特性算出処理での算出結果は、記憶部230に記憶する。
図3は、色素のスペクトル記憶部233に記憶されるE染色の色素のスペクトルにおける正規化吸光度特性と、当該色素のスペクトルに関して変化特性算出部2501において算出される1次微分スペクトルおよび2次微分スペクトルの各変化特性との関係を示す図である。
図4は、図2の画像解析処理の概要を示すフローチャートである。画像解析処理においては、制御部210は、先ず、画像取得制御部211により画像取得部110の動作を制御して対象標本を撮像し、対象標本のスペクトルT^(x)を取得する(ステップS401)。次に、制御部210は、演算部250の色素量・変化量推定部2503において、画素毎にスペクトルT^(x)に基づいて、色素量と変化量とを推定する(ステップS403)。ここで、変化量とは、色素のスペクトルが波長方向に鮮鋭または緩慢に変化する度合いを表している。
この際に、対象標本の染色に用いた染色方法の各色素のスペクトルk(λ),k(λ),k(λ)と変化特性k″(λ)とに基づいて、対象標本画像の任意の点xに対応する標本点における各染色方法の色素量と変化量とを推定する。具体的には、対象標本画像の点xにおける分光透過率の推定値T^(x)に基づいて、点xに対応する対象標本の標本点に固定された色素量d^を、次式(20)に基づいて推定する。なお、d^は、dの上に記号「^」が付いていることを示す。
Figure 0005687541
次に、d^Δλを、次式(21)に基づいて置き換える。
Figure 0005687541
そして、次式(22)に基づいて、変化量Δλを算出する。
Figure 0005687541
また、色素のスペクトルの波長方向のシフト量Δλを同時に推定してもよい。この場合は、次式(23)に基づいて、色素量d^を推定する。
Figure 0005687541
次に、d^Δλを、次式(24)に基づいて置き換える。
Figure 0005687541
そして、次式(25)に基づいて、シフト量Δλを算出する。
Figure 0005687541
これにより、各変化の相関を反映して色素量、シフト量、変化量を推定することができる。
その後、制御部210は、演算部250の解析部2505において、変化量Δλに基づいて対象標本画像を解析する(ステップS405)。ここで、解析方法は、様々な方法が想定される。例えば、変化特性k″(λ)と変化量Δλとに基づいて、後述するように、色素量推定の精度を向上させる。また、変化量Δλに基づいて、クラス分類処理により画像を複数の領域に分類する。
このように、本実施の形態に係る画像処理装置によれば、色素のスペクトルが鮮鋭または緩慢に変化する現象である色素のスペクトルの変化特性を定量化して対象標本画像の解析に反映するようにしたので、対象標本の現象に即した定量的な値に基づいて対象標本画像を高精度で解析することが可能となる。また、複数の変化量を同時に算出する場合は、各変化の相関を反映して、各変化量を推定できるので、対象標本画像をより高精度で解析することが可能となる。
(第2実施の形態)
図5は、本発明の第2実施の形態に係る画像処理装置の要部の機能構成を示すブロック図である。この画像処理装置は、第1実施の形態に示した構成において、変化量に基づいて色素量および色素のスペクトルを補正して対象標本画像を解析するものである。そのため、演算部250には、図1の解析部1505に代えて、色素のスペクトル・色素量補正部2505aが設けられている。その他の構成は、第1実施の形態と同様であるので説明を省略する。
図6は、本実施の形態に係る画像処理装置の動作の概要を示すフローチャートであり、図2における画像解析処理の概要を示すものである。本実施の形態による画像解析処理においては、第1実施の形態と同様にして、対象標本を撮像してスペクトルT^(x)を取得し(ステップS401)、さらに、色素量と変化量とを推定したら(ステップS403)、次に、色素のスペクトル・色素量補正部2505aにおいて、色素のスペクトルと、変化特性と、色素量と、変化量とに基づいて、補正された色素のスペクトルと補正された色素量(補正色素量)とを算出する(ステップS405a)。
以下、ステップS405aの処理について説明する。先ず、色素のスペクトルk(λ)と、変化特性k″(λ)と、色素量d^と、変化量Δλとに基づいて対象画像の任意の点xにおけるE染色のスペクトルa (x,λ)を、次式(26)に基づいて算出(補正)する。
Figure 0005687541
さらに、シフトの変化特性k′(λ)およびシフト量Δλを算出した場合は、k′(λ)およびΔλに基づいて、E染色のスペクトルa (x,λ)を、次式(27)に基づいて算出してもよい。
Figure 0005687541
なお、シフト量Δλは、波長方向のシフトを表すので、E染色のスペクトルa (x,λ)は、次式(28)に基づいて算出してもよい。
Figure 0005687541
次に、E色素のスペクトルk(λ)とE染色のスペクトルa (x,λ)とに基づいて、補正した色素量(補正色素量)d を次式(29)から算出する。
Figure 0005687541
上式(29)は、点xにおけるE染色のスペクトルa (x,λ)を波長方向に積分した値を、色素のスペクトルk(λ)を波長方向に積分した値で割ることで、吸光度空間における相対的な量を算出することを意味している。
次に、E染色のスペクトルa (x,λ)と補正色素量d とに基づいて、補正したE色素のスペクトルk (λ)を次式(30)から算出する。なお、kは、kの上に記号「」が付いていることを示す。
Figure 0005687541
こうすることで、補正したE色素のスペクトルk (λ)とE色素のスペクトルk(λ)とを、吸光度空間において等価としている。
このように、本実施の形態に係る画像処理装置によれば、対処標本の色素のスペクトルが変化する現象に即して、色素量および色素のスペクトルを補正することができる。これにより、対象標本画像を高精度で解析することが可能となる。
(第3実施の形態)
図7は、本発明の第3実施の形態に係る画像処理装置の要部の機能構成を示すブロック図である。この画像処理装置は、第1実施の形態に示した構成において、変化量に基づいて画素を分類するものである。そのため、演算部250には、図1の解析部1505に代えて、変化量に基づいて画素を分類する分類部2505bが設けられている。また、演算部250には、分類部2505bによる画素の分類結果に基づいて表示用の画像を作成する表示用画像作成部2507が設けられている。その他の構成は、第1実施の形態と同様であるので説明を省略する。
図8は、本実施の形態に係る画像処理装置の動作の概要を示すフローチャートであり、図2の画像解析処理の概要を示すものである。本実施の形態による画像解析処理においては、第1実施の形態と同様にして、対象標本を撮像してスペクトルT^(x)を取得し(ステップS401)、さらに、色素量と変化量とを推定したら(ステップS403)、次に、分類部2505bにおいて、変化量Δλに基づいて画素を判別する(ステップS405b)。
ここで、E染色の変化量は。筋線維とコラーゲン線維とを比較すると、相対的に筋線維の方が大きい。したがって、例えば、変化量Δλが閾値以上の場合、当該画素は筋線維と判別し、変化量Δλが閾値未満の場合、当該画素はコラーゲン線維と判別する。なお、クラス分類処理、例えば、K-means法で、画素を分類してもよい。また、色素量d^やd^と変化量Δλとに基づいて、画素を分類してもよい。こうすることで、d^が多い細胞核や色素量d^が少ない腔の画素を除くことができる。
ここで、K-means法は、非階層型クラスタリング手法の単純な手法であり、K平均法とも呼ばれている。K-means法は、一般に、以下の流れで実行され、クラスタの平均を用いて、データを与えられたクラスタ数K個に分類する。
(1)データの数をn、クラスタの数をKとしておく。
(2)各データに対してランダムにクラスタを割り振る。
(3)割り振ったデータをもとに各クラスタの中心を計算する。計算は通常割り当てられたデータの各要素の平均が使用される。
(4)各データと各クラスタの中心との距離を求めて、当該データを最も近い中心のクラスタに割り当て直す。
(5)上記の処理で全てのデータのクラスタの割り当てが変化しなかった場合は処理を終了する。それ以外の場合は新しく割り振られたクラスタから各クラスタの中心を再計算して上記の処理を繰り返す。
K-means法による分類結果は、最初のクラスタのランダムな割り振りに大きく依存するので、例えば、データの最小値から最大値の範囲を均等に分割してクラスタを割り振ってもよい。これにより、結果を常に同等の値に収束させることができる。
次に、制御部210は、分類部2505bによる画素の分類結果に基づいて、表示用画像作成部2507により表示用画像を作成して、表示部290に表示する(ステップS407)。具体的には、分類結果に基づいて、筋線維とコラーゲン線維とをそれぞれ目視で判別できるように、例えば、異なる色で色付けしたり、異なるテクスチャを重畳したりして、表示用画像を作成して表示する。
このように、本実施の形態に係る画像処理装置によれば、変化量に基づいて画素を分類するので、色素量以外で、かつ、対象標本の現象に即した特徴量で画素を分類できる。具体的には、筋線維またはコラーゲン繊維を分類することができる。しかも、分類結果を画像として表示するので、目視で分類結果を確認することができる。これにより、対象標本画像を高精度で、かつ容易に解析することが可能となる。
(第4実施の形態)
図9は、本発明の第4実施の形態に係る画像処理装置の要部の機能構成を示すブロック図である。この画像処理装置は、第1実施の形態に示した構成において、画素値からスペクトルを推定するものである。そのため、演算部250には、スペクトル推定部2509が付加されている。また、画像取得部110aは、後述するようにRGBカメラおよびフィルタ部を用いて構成されている。その他の構成は、第1実施の形態と同様であるので説明を省略する。
図10は、画像取得部110aの概略構成図である。画像取得部110aは、マルチバンド画像(ここでは、6バンド画像)を取得するもので、RGBカメラ111と、該RGBカメラ111に結像する光の波長帯域を所定範囲に制限するためのフィルタ部113とを備える。
RGBカメラ111は、CCD(Charge Coupled Devices)やCMOS(Complementary Metal Oxide Semiconductor)等の撮像素子等を備え、例えば図11に示すようなR(赤),G(緑),B(青)の各バンドの分光感度特性を有する。フィルタ部113は、RGBカメラ111に結像する光の波長帯域を所定範囲に制限するもので、回転式のフィルタ切り替え部1131を備える。フィルタ切り替え部1131は、R,G,Bの各バンドの透過波長領域を2分するように、それぞれ異なる分光透過率特性を有する2枚の光学フィルタ1133a,1133bを保持する。図12(a)は、一方の光学フィルタ1133aの分光透過率特性を示し、図12(b)は、他方の光学フィルタ1133bの分光透過率特性を示す。
そして、制御部210により、先ず、例えば光学フィルタ1133aを、照明部140からRGBカメラ111に至る光路上に位置させて、照明部140により受光位置移動部130上に載置された対象標本131を照明し、その透過光を結像レンズ120および光学フィルタ1133aを経てRGBカメラ111に結像させて第1の撮像を行う。次いで、制御部210により、フィルタ切り替え部1131を回転させて、光学フィルタ1133bを照明部140からRGBカメラ111に至る光路上に位置させて、同様にして第2の撮像を行う。
これにより、第1の撮像および第2の撮像でそれぞれ異なる3バンドの画像を得て、合計で6バンドのマルチバンド画像を得る。取得された対象標本131の画像は、記憶部230に格納される。なお、フィルタ部113に設ける光学フィルタの数は、2枚に限定されるものではなく、3枚以上の光学フィルタを用いて、さらに多くのバンドの画像を得ることも可能である。また、画像取得部110は、フィルタ部113を省略して、RGBカメラ111によりRGB画像のみを取得するように構成しもよい。
図13は、本実施の形態に係る画像処理装置の動作の概要を示すフローチャートであり、図2の画像解析処理の概要を示すものである。本実施の形態による画像解析処理においては、第1実施の形態と同様にして、対象標本を撮像してスペクトルT^(x)を取得したら(ステップS401)、次に、演算部250のスペクトル推定部2509において、画素値に基づいてスペクトルを推定する(ステップS409)。つまり、上述した式(5)により、推定対象画素の画素値G(x)から、対応する対象標本の標本点における分光透過率の推定値T^(x)を算出する。式(5)を再掲する。
Figure 0005687541
その後、スペクトル推定部2509で推定した分光透過率の推定値T^(x)に基づいて、色素量・変化量推定部2503において、第1実施の形態の場合と同様に、色素量と変化量とを推定し(ステップS403)、さらに、解析部2505において、変化量Δλに基づいて対象標本画像を解析する(ステップS405)。
このように、本実施の形態に係る画像処理装置によれば、対象標本131を撮像した対象標本画像の各画素の画素値から分光スペクトルを推定するようにしたので、多バンド画像だけでなく、RGB画像のような対象標本画像でも精度よく解析することが可能となる。したがって、画像取得部110aを簡単に構成できる利点もある。
(第5実施の形態)
図14は、本発明の第5実施の形態に係るバーチャル顕微鏡システムの要部の機能構成を示すブロック図である。このバーチャル顕微鏡システムは、染色標本のバーチャルスライド画像を取得するもので、顕微鏡装置400とホストシステム600とを備える。
顕微鏡装置400は、対象標本Sが載置される電動ステージ410と、側面視略コの字状を有し、電動ステージ410を支持するとともにレボルバ460を介して対物レンズ470を保持する顕微鏡本体440と、顕微鏡本体440の底部後方に配設された光源480と、顕微鏡本体440の上部に載置された鏡筒490とを備える。また、鏡筒490には、対象標本Sの標本像を目視観察するための双眼部510と、対象標本Sの標本像を撮像するためのTVカメラ520とが取り付けられている。すなわち、顕微鏡装置400は、図9の画像取得部110aに相当する。ここで、対物レンズ470の光軸方向をZ方向とし、Z方向と垂直な平面をXY平面として定義する。
電動ステージ410は、XYZ方向に移動自在に構成されている。すなわち、電動ステージ410は、モータ421およびこのモータ421の駆動を制御するXY駆動制御部423によってXY平面内で移動自在である。XY駆動制御部423は、顕微鏡コントローラ530の制御のもと、図示しないXY位置の原点センサによって電動ステージ410のXY平面における所定の原点位置を検知し、この原点位置を基点としてモータ421の駆動量を制御することによって、対象標本S上の観察箇所を移動させる。そして、XY駆動制御部423は、観察時の電動ステージ410のX位置およびY位置を適宜顕微鏡コントローラ530に出力する。
また、電動ステージ410は、モータ431およびこのモータ431の駆動を制御するZ駆動制御部433によってZ方向に移動自在である。Z駆動制御部433は、顕微鏡コントローラ530の制御のもと、図示しないZ位置の原点センサによって電動ステージ410のZ方向における所定の原点位置を検知し、この原点位置を基点としてモータ431の駆動量を制御することによって、所定の高さ範囲内の任意のZ位置に対象標本Sを焦準移動させる。そして、Z駆動制御部433は、観察時の電動ステージ410のZ位置を適宜顕微鏡コントローラ530に出力する。
レボルバ460は、顕微鏡本体440に対して回転自在に保持され、対物レンズ470を対象標本Sの上方に配置する。対物レンズ470は、レボルバ460に対して倍率(観察倍率)の異なる他の対物レンズとともに交換自在に装着されており、レボルバ460の回転に応じて観察光の光路上に挿入されて対象標本Sの観察に用いる対物レンズ470が択一的に切り換えられるようになっている。
顕微鏡本体440は、底部において対象標本Sを透過照明するための照明光学系を内設している。この照明光学系は、光源480から射出された照明光を集光するコレクタレンズ451、照明系フィルタユニット452、視野絞り453、開口絞り454、照明光の光路を対物レンズ470の光軸に沿って偏向させる折曲げミラー455、コンデンサ光学素子ユニット456、トップレンズユニット457等が、照明光の光路に沿って適所に配置されて構成される。光源480から射出された照明光は、照明光学系によって対象標本Sに照射され、その透過光が観察光として対物レンズ470に入射する。
また、顕微鏡本体440は、その上部においてフィルタユニット500を内設している。フィルタユニット500は、標本像として結像する光の波長帯域を所定範囲に制限するための2枚以上の光学フィルタ503を回転自在に保持し、この光学フィルタ503を、適宜対物レンズ470後段において観察光の光路上に挿入する。このフィルタユニット500は、図10に示したフィルタ部113に相当する。なお、ここでは、光学フィルタ503を対物レンズ470の後段に配置する場合を例示したが、これに限定されずるものではなく、光源480からTVカメラ520に至る光路上のいずれかの位置に配置することとしてよい。対物レンズ470を経た観察光は、このフィルタユニット500を経由して鏡筒490に入射する。
鏡筒490は、フィルタユニット500を経た観察光の光路を切り換えて双眼部510またはTVカメラ520へと導くビームスプリッタ491を内設している。対象標本Sの標本像は、ビームスプリッタ491によって双眼部510内に導入され、接眼レンズ511を介して検鏡者に目視観察される。あるいはTVカメラ520によって撮像される。TVカメラ520は、標本像(詳細には対物レンズ470の視野範囲の標本像)を撮像するCCDやCMOS等の撮像素子を備えて構成され、撮像した標本像の画像データをホストシステム600に出力する。すなわち、TVカメラ520は、図10に示したRGBカメラ111に相当する。
さらに、顕微鏡装置400は、顕微鏡コントローラ530とTVカメラコントローラ540とを備える。顕微鏡コントローラ530は、ホストシステム600の制御のもと、顕微鏡装置400を構成する各部の動作を統括的に制御する。例えば、顕微鏡コントローラ530は、レボルバ460を回転させて観察光の光路上に配置する対物レンズ470を切り換える処理や、切り換えた対物レンズ470の倍率等に応じた光源480の調光制御や各種光学素子の切り換え、あるいはXY駆動制御部423やZ駆動制御部433に対する電動ステージ410の移動指示等、対象標本Sの観察に伴う顕微鏡装置400の各部の調整を行うとともに、各部の状態を適宜ホストシステム600に通知する。
TVカメラコントローラ540は、ホストシステム600の制御のもと、自動ゲイン制御のON/OFF切換、ゲインの設定、自動露出制御のON/OFF切換、露光時間の設定等を行ってTVカメラ520を駆動し、TVカメラ520の撮像動作を制御する。
一方、ホストシステム600は、第1〜4実施の形態のいずれかに示した、入力部270、表示部290、演算部250、記憶部230および制御部210を含んでいる。このホストシステム600は、CPUやビデオボード、メインメモリ(RAM)等の主記憶装置、ハードディスクや各種記憶媒体等の外部記憶装置、通信装置、表示装置や印刷装置等の出力装置、入力装置、あるいは外部入力を接続するインターフェース装置等を備えた公知のハードウェア構成で実現でき、例えばワークステーションやパソコン等の汎用コンピュータを利用することができる。
本実施の形態に係るバーチャル顕微鏡システムは、ホストシステム600の記憶部に記憶されている画像処理プログラムを含むVS画像生成プログラムに従って、顕微鏡装置400を含む各部の動作を制御する。これにより、顕微鏡装置400のTVカメラ520によって部分的にマルチバンド撮像された対象標本Sの複数の対象標本画像が、上記第1〜4実施の形態で説明したようにそれぞれ処理されて、VS(Virtual Slide)画像が生成される。このVS画像データ(マルチバンド画像データ)は、ホストシステム600の記憶部に格納される。
ここで、VS画像生成プログラムとは、対象標本のVS画像を生成する処理を実現するためのプログラムである。また、VS画像とは、顕微鏡装置400によってマルチバンド撮像された1枚以上の画像を繋ぎ合せて生成される画像であり、例えば高倍率の対物レンズ470を用いて対象標本Sを部分毎に撮像した複数の高解像画像を繋ぎ合せて生成された画像であって、対象標本Sの全域を映した広視野でかつ高精細のマルチバンド画像のことを言う。
ホストシステム600は、第1〜4実施の形態に示した入力部270から入力される入力信号や、顕微鏡コントローラ530から入力される顕微鏡装置400の各部の状態、TVカメラ520から入力される画像データ、第1〜4実施の形態に示した記憶部230に記録されているプログラムやデータ等をもとにホストシステム600を構成する各部への指示やデータの転送等を行う。また、ホストシステム600は、顕微鏡コントローラ530やTVカメラコントローラ540に対する顕微鏡装置400の各部の動作指示を行い、バーチャル顕微鏡システム全体の動作を統括的に制御する。
したがって、本実施の形態に係るバーチャル顕微鏡システムによれば、第1〜4実施の形態で説明した画像処理装置と同様の効果を奏することができる。
なお、本発明は、上記実施の形態にのみ限定されるものではなく、幾多の変形または変更が可能である。例えば、第1〜4実施の形態では、画像取得部に対象標本の撮像機能を持たせて、対象標本の画像を取得するようにしたが、撮像機能を設けることなく、別途撮像して得られた対象標本の染色画像データを、記録媒体を介して、あるいは通信回線を介して取り込むようにしてもよい。
また、本発明は、上述した画像処理装置やバーチャル顕微鏡システムに限らず、これらの処理を実質的に実行する画像処理方法、画像処理プログラム、プログラムを記録した記憶媒体としても実現し得るものである。したがって、本発明は、これらも包含するものと理解されたい。
110,110a 画像取得部
210 制御部
230 記憶部
233 色素のスペクトル記憶部
250 演算部
2501 変化特性算出部
2503 色素量・変化量推定部
2505 解析部
2505a 色素のスペクトル・色素量補正部
2505b 分類部
2507 表示用画像作成部
2509 スペクトル推定部
270 入力部
290 表示部
400 顕微鏡装置
600 ホストシステム

Claims (10)

  1. 染色標本を撮像した染色標本画像を処理する画像処理装置であって、
    前記染色標本の染色に使用される色素のスペクトルを記憶する色素のスペクトル記憶部と、
    前記色素のスペクトル記憶部に記憶された前記色素のスペクトルに基づいて、当該色素のスペクトルの波長方向の傾きの変化の割合を表す変化特性を算出する変化特性算出部と、
    前記色素のスペクトル記憶部に記憶された前記色素のスペクトルと前記変化特性算出部で算出された前記変化特性とに基づいて、前記染色標本画像の各画素の画素値から色素量および前記変化特性に基づく変化量を推定する色素量・変化量推定部と
    前記色素のスペクトル、前記変化特性、前記色素量および前記変化量に基づいて、前記色素のスペクトルおよび前記色素量をそれぞれ補正する色素のスペクトル・色素量補正部と、
    前記補正された色素のスペクトルおよび前記補正された色素量に基づいて前記染色標本画像を解析する演算部と、
    を備えることを特徴とする画像処理装置。
  2. 前記変化特性算出部は、
    前記色素のスペクトルを2階微分した2階微分スペクトルを前記変化特性として算出する、ことを特徴とする請求項1に記載の画像処理装置。
  3. 前記演算部は、
    前記変化量に基づいて前記染色標本画像の各画素を分類する分類部をさらに備え、
    前記分類部による分類結果に基づいて前記染色標本画像を解析するように構成したことを特徴とする請求項1または2に記載の画像処理装置。
  4. 前記染色標本は、HE染色標本であり、
    前記色素のスペクトルは、E色素のスペクトルであり、
    前記分類部は、前記変化量に基づいて筋線維またはコラーゲン繊維の少なくとも一つを分類する、
    ことを特徴とする請求項に記載の画像処理装置。
  5. 前記分類部による分類結果に基づいて表示用画像を作成する表示用画像作成部をさらに備える、ことを特徴とする請求項またはに記載の画像処理装置。
  6. 前記演算部は、
    前記染色標本画像の各画素の画素値に基づいて分光スペクトルを推定するスペクトル推定部をさらに備え、
    前記色素量・変化量推定部は、前記スペクトル推定部で推定された前記分光スペクトルに基づいて前記色素量および前記変化量を推定する、ことを特徴とする請求項1〜のいずれか一項に記載の画像処理装置。
  7. 前記変化特性算出部は、前記色素のスペクトルに基づいて前記変化特性とは異なる変化を表す変化特性を含む複数の変化特性を算出し、
    前記色素量・変化量推定部は、前記色素のスペクトルと前記変化特性算出部で算出された前記複数の変化特性とに基づいて、前記変化量を含む複数の異なる変化量を推定し、
    前記演算部は、前記複数の変化量に基づいて前記染色標本画像を解析する、ことを特徴とする請求項1〜のいずれか一項に記載の画像処理装置。
  8. 染色標本を撮像した染色標本画像を処理する画像処理方法であって、
    前記染色標本の染色に使用される色素のスペクトルを取得するステップと、
    取得された前記色素のスペクトルに基づいて、少なくとも当該色素のスペクトルの波長方向の傾きの変化の割合を表す変化特性を算出するステップと、
    前記色素のスペクトルと前記変化特性とに基づいて、前記染色標本画像の各画素の画素値から色素量および前記変化特性に基づく変化量を推定するステップと、
    前記色素のスペクトル、前記変化特性、前記色素量および前記変化量に基づいて、前記色素のスペクトルおよび前記色素量をそれぞれ補正するステップと、
    前記補正された色素のスペクトルおよび前記補正された色素量に基づいて前記染色標本画像を解析するステップと、
    を含むことを特徴とする画像処理方法。
  9. 染色標本を撮像した染色標本画像を処理する画像処理プログラムであって、
    前記染色標本の染色に使用される色素のスペクトルを取得する処理と、
    取得された前記色素のスペクトルに基づいて、少なくとも当該色素のスペクトルの波長方向の傾きの変化の割合を表す変化特性を算出する処理と、
    前記色素のスペクトルと前記変化特性とに基づいて、前記染色標本画像の各画素の画素値から色素量および前記変化特性に基づく変化量を推定する処理と、
    前記色素のスペクトル、前記変化特性、前記色素量および前記変化量に基づいて、前記色素のスペクトルおよび前記色素量をそれぞれ補正する処理と、
    前記補正された色素のスペクトルおよび前記補正された色素量に基づいて前記染色標本画像を解析する処理と、
    をコンピュータに実行させるための画像処理プログラム。
  10. 染色標本のバーチャルスライド画像を取得するバーチャル顕微鏡システムであって、
    顕微鏡を用いて前記染色標本を撮像して染色標本画像を取得する画像取得部と、
    前記染色標本の染色に使用される色素のスペクトルを記憶する色素のスペクトル記憶部と、
    前記色素のスペクトル記憶部に記憶された前記色素のスペクトルに基づいて、当該色素のスペクトルの波長方向の傾きの変化の割合を表す変化特性を算出する変化特性算出部と、
    前記色素のスペクトル記憶部に記憶された前記色素のスペクトルと前記変化特性算出部で算出された前記変化特性とに基づいて、前記染色標本画像の各画素の画素値から色素量および前記変化特性に基づく変化量を推定する色素量・変化量推定部と
    前記色素のスペクトル、前記変化特性、前記色素量および前記変化量に基づいて、前記色素のスペクトルおよび前記色素量をそれぞれ補正する色素のスペクトル・色素量補正部と、
    前記補正された色素のスペクトルおよび前記補正された色素量に基づいて前記染色標本を解析する演算部と、を備え、
    前記演算部で解析された染色標本画像に基づいて前記染色標本のバーチャルスライド画像を取得するように構成した、ことを特徴とするバーチャル顕微鏡システム。
JP2011072437A 2011-03-29 2011-03-29 画像処理装置、画像処理方法、画像処理プログラムおよびバーチャル顕微鏡システム Expired - Fee Related JP5687541B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2011072437A JP5687541B2 (ja) 2011-03-29 2011-03-29 画像処理装置、画像処理方法、画像処理プログラムおよびバーチャル顕微鏡システム
US13/429,831 US8929639B2 (en) 2011-03-29 2012-03-26 Image processing apparatus, image processing method, image processing program, and virtual microscope system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011072437A JP5687541B2 (ja) 2011-03-29 2011-03-29 画像処理装置、画像処理方法、画像処理プログラムおよびバーチャル顕微鏡システム

Publications (2)

Publication Number Publication Date
JP2012207961A JP2012207961A (ja) 2012-10-25
JP5687541B2 true JP5687541B2 (ja) 2015-03-18

Family

ID=46927317

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011072437A Expired - Fee Related JP5687541B2 (ja) 2011-03-29 2011-03-29 画像処理装置、画像処理方法、画像処理プログラムおよびバーチャル顕微鏡システム

Country Status (2)

Country Link
US (1) US8929639B2 (ja)
JP (1) JP5687541B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5178226B2 (ja) * 2008-02-08 2013-04-10 オリンパス株式会社 画像処理装置および画像処理プログラム

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008215820A (ja) * 2007-02-28 2008-09-18 Tokyo Institute Of Technology スペクトルを用いた解析方法
JP5478084B2 (ja) * 2009-01-23 2014-04-23 オリンパス株式会社 画像処理システム、画像処理装置および画像処理端末
US20100201800A1 (en) * 2009-02-09 2010-08-12 Olympus Corporation Microscopy system
JP5508792B2 (ja) * 2009-09-01 2014-06-04 オリンパス株式会社 画像処理方法、画像処理装置および画像処理プログラム
WO2011126486A1 (en) * 2010-04-08 2011-10-13 Metso Automation Inc. Method of modeling the coloring process in moving web manufacturing

Also Published As

Publication number Publication date
US20120250960A1 (en) 2012-10-04
US8929639B2 (en) 2015-01-06
JP2012207961A (ja) 2012-10-25

Similar Documents

Publication Publication Date Title
JP5498129B2 (ja) バーチャル顕微鏡システム
JP5738564B2 (ja) 画像処理システム
JP4740068B2 (ja) 画像処理装置、画像処理方法、および画像処理プログラム
US20100272334A1 (en) Microscope System, Specimen Observation Method, and Computer Program Product
JP5117274B2 (ja) 画像処理装置および画像処理プログラム
US8306317B2 (en) Image processing apparatus, method and computer program product
JP5826561B2 (ja) 顕微鏡システム、標本画像生成方法及びプログラム
JP5653733B2 (ja) 画像処理装置、画像処理方法、画像処理プログラムおよびバーチャル顕微鏡システム
US20100195903A1 (en) Image processing device, data-set generating device, computer readable storage medium storing image processing program and computer readable storage medium storing data-set generating program
JP2010156612A (ja) 画像処理装置、画像処理プログラム、画像処理方法およびバーチャル顕微鏡システム
JP5178226B2 (ja) 画像処理装置および画像処理プログラム
US20180128681A1 (en) Image processing device, imaging system, image processing method, and computer-readable recording medium
JP5137481B2 (ja) 画像処理装置、画像処理プログラム、および画像処理方法
JP5305618B2 (ja) 画像処理装置および画像処理プログラム
JP5752985B2 (ja) 画像処理装置、画像処理方法、画像処理プログラムおよびバーチャル顕微鏡システム
US11037294B2 (en) Image processing device, image processing method, and computer-readable recording medium
JP2008304205A (ja) 分光特性推定装置および分光特性推定プログラム
JP5687541B2 (ja) 画像処理装置、画像処理方法、画像処理プログラムおよびバーチャル顕微鏡システム
WO2020075226A1 (ja) 画像処理装置の作動方法、画像処理装置、及び画像処理装置の作動プログラム
WO2018193635A1 (ja) 画像処理システム、画像処理方法、及び画像処理プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140311

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20141014

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20141015

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20141208

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150106

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150122

R151 Written notification of patent or utility model registration

Ref document number: 5687541

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees