以下、図面を参照し、本発明の好適な実施の形態について詳細に説明する。本実施の形態では、観察対象とする染色標本としてH&E染色された病理標本(生体組織標本)を例示する。そして、この染色標本を被写体としてマルチバンド撮像し、得られたマルチバンド画像をもとに染色標本の各点(標本点)の色素量を推定する画像処理装置について説明する。なお、この実施の形態によって本発明が限定されるものではない。また、図面の記載において、同一部分には同一の符号を付して示している。
ここで、本実施の形態では、前述のようにH&E染色された染色標本を観察対象とする。このため、染色標本を染色している色素は、色素Hおよび色素Eであるが、実際の染色標本内には、これら染色色素の吸収成分の他に、無染色時において吸収成分を持つ例えば赤血球等の組織が存在し得る。すなわち、赤血球は、染色を施さない状態であってもそれ自身が特有の色を有しており、H&E染色後において赤血球自身の色として観察される。そこで、以下では、染色色素を色素H、色素Eおよび赤血球自身の色(以下、「色素R」と表記する。)の3種類として説明する。
(実施の形態1)
図1は、実施の形態1における画像処理装置1の機能構成を示すブロック図である。実施の形態1の画像処理装置1は、染色標本画像を撮像する染色標本画像撮像部11と、操作部12と、表示部13と、画像処理部14と、記憶部16と、装置各部を制御する制御部17とを備える。ここで、染色標本画像撮像部11を除く構成は、例えばワークステーションやパソコン等の汎用コンピュータを用いて実現できる。
染色標本画像撮像部11は、撮像対象の染色標本の観察像をマルチバンド撮像するマルチバンドカメラで構成され、例えば、チューナブルフィルタや二次元CCDカメラ、チューナブルフィルタを透過する光の波長を調整するフィルタ制御器、二次元CCDカメラを制御するカメラ制御器等で構成される。実施の形態1では、観察対象の染色標本(以下、観察対象の染色標本を「観察染色標本」と呼ぶ。)や単一の染色色素で染色された単一染色標本、染色が施されていない無染色標本を撮像対象とする。ここで、無染色標本は、全体として無色透明で、赤血球の領域においてその色を有するものであり、色素Rのみで染色された単一染色標本に相当する。以下、無染色標本を、「R単一染色標本」と呼ぶ。すなわち、実施の形態1で撮像対象とする単一染色標本は、色素Hのみで染色された単一染色標本(以下、「H単一染色標本」と呼ぶ。)、色素Eのみで染色された単一染色標本(以下、「E単一染色標本」と呼ぶ。)および無染色標本であるR単一染色標本の3種類である。
ここで、染色標本画像撮像部11は、染色標本を透過観察可能な光学顕微鏡と接続されている。この光学顕微鏡は、照明光を射出する光源や対物レンズ、染色標本を載置して対物レンズの光軸方向およびこの光軸方向と垂直な面内を移動する電動ステージ、電動ステージ上の染色標本を透過照明するための照明光学系、対物レンズ、染色標本の観察像を結像させるための観察光学系等を備え、照明光学系によって光源からの照明光を染色標本に照射するとともに、対物レンズと協働し、観察光学系によって染色標本の観察像を結像させる。
染色標本画像撮像部11は、この光学顕微鏡によって観察される染色標本の観察像をチューナブルフィルタを介して二次元CCDカメラの撮像素子上に投影し、マルチバンド撮像して染色標本画像を得る。チューナブルフィルタは、透過光の波長を電気的に調整可能なフィルタであって、実施の形態1では、1〔nm〕以上の任意の幅(以下、「選択波長幅」と呼ぶ。)の波長帯域を選択可能なものを用いる。例えば、ケンブリッジリサーチアンドインストルメンテーション社製の液晶チューナブルフィルタ「VariSpec(バリスペック)」等、市販のものを適宜用いることができる。例えば、染色標本画像撮像部11は、このチューナブルフィルタによって所定の選択波長幅毎に順次波長帯域を選択しながら染色標本の観察像を撮像することで、染色標本画像をマルチバンド画像として得る。
この染色標本画像撮像部11によって得られる染色標本画像の画素値は、チューナブルフィルタが選択した波長帯域における光の強度に相当し、染色標本の各標本点について選択した波長帯域の画素値が得られる。ここで、染色標本の各標本点とは、投影された撮像素子の各画素に対応する染色標本上の各位置のことであり、以下では、染色標本上の各標本点が染色標本画像の各画素位置に対応しているものとする。
なお、染色標本画像撮像部11の構成としてチューナブルフィルタを用いた構成を例示したが、これに限定されるものではなく、撮像対象とする染色標本の各標本点における光の強度情報が取得できればよい。例えば、特開平7−120324号公報に開示されている撮像方式を用い、所定枚数(例えば16枚)のバンドパスフィルタをフィルタホイールで回転させて切り替えながら、面順次方式で染色標本をマルチバンド撮像する構成としてもよい。
操作部12は、例えば、キーボードやマウス、タッチパネル、各種スイッチ等によって実現されるものであり、操作入力に応じた操作信号を制御部17に出力する。表示部13は、LCDやELディスプレイ等のフラットパネルディスプレイ、あるいはCRTディスプレイ等の表示装置によって実現されるものであり、制御部17から入力される表示信号に従って各種画面を表示する。
画像処理部14は、CPU等のハードウェアによって実現される。この画像処理部14は、分光特性取得手段および単一染色分光特性取得手段としてのスペクトル取得部141と、色素分光特性取得手段としての基準スペクトル取得部142と、色素量推定手段としての色素量推定部148と、表示画像生成手段としての表示画像生成部149とを含む。
スペクトル取得部141は、染色標本画像撮像部11が撮像した染色標本画像を構成する各画素位置のスペクトルを取得する。
基準スペクトル取得部142は、観察染色標本を染色している染色色素(色素H、色素Eおよび色素R)の基準スペクトルを取得する。なお、色素Rの基準スペクトルについては、予め設定しておいた固定値を用いる構成としてもよい。この基準スペクトル取得部142は、基準領域設定手段としての基準領域設定部143と、スペクトル特徴算出手段としての基準領域特徴算出部144と、特徴差分算出手段としての特徴差分算出部145と、クラス分類手段としての単一染色クラス分類処理部146と、色素分光特性算出手段としての基準スペクトル算出部147とを備える。
基準領域設定部143は、基準領域候補選択部171による選択入力依頼に応答して操作部12から入力されたユーザ操作に従って、H単一染色標本の染色標本画像(以下、「H単一染色標本画像」と呼ぶ。)中のH基準領域を設定し、E単一染色標本の染色標本画像(以下、「E単一染色標本画像」と呼ぶ。)中のE基準領域を設定し、R単一染色標本の染色標本画像(以下、「R単一染色標本画像」と呼ぶ。)中のR基準領域を設定する。
基準領域特徴算出部144は、基準領域設定部143が設定したH基準領域、E基準領域およびR基準領域のスペクトル特徴を算出する。
特徴差分算出部145は、H基準領域のスペクトル特徴をもとにH基準領域の領域外の各画素の特徴差分を算出し、E基準領域のスペクトル特徴をもとにE基準領域の領域外の各画素の特徴差分を算出し、R基準領域のスペクトル特徴をもとにR基準領域の領域外の各画素の特徴差分を算出する。
単一染色クラス分類処理部146は、H基準領域の領域外の各画素の特徴差分をもとにH単一染色標本画像内の各画素を複数の階層レベルに振り分け、複数の色素クラスにクラス分類する。また、単一染色クラス分類処理部146は、E基準領域の領域外の各画素の特徴差分をもとにE単一染色標本画像内の各画素を複数の階層レベルに振り分け、複数の色素クラスにクラス分類する。そして、単一染色クラス分類処理部146は、R基準領域の領域外の各画素の特徴差分をもとにR単一染色標本画像内の各画素を複数の階層レベルに振り分け、複数の色素クラスにクラス分類する。
基準スペクトル算出部147は、単一染色クラス分類処理部146がクラス分類した色素クラス毎に基準スペクトルを算出し、色素H、色素Eおよび色素Rそれぞれについて色素クラス毎の複数の基準スペクトルを得る。
色素量推定部148は、スペクトル取得部141が観察染色標本の染色標本画像の各画素位置について取得したスペクトルをもとに、基準スペクトル取得部142が取得した色素H、色素Eおよび色素Rそれぞれの色素クラス毎の複数の基準スペクトルを用いて観察染色標本の色素量を推定する。表示画像生成部149は、観察染色標本の表示用の画像(表示画像)を生成する。
記憶部16は、更新記憶可能なフラッシュメモリ等のROMやRAMといった各種ICメモリ、内蔵或いはデータ通信端子で接続されたハードディスク、CD−ROM等の情報記憶媒体およびその読取装置等によって実現されるものである。この記憶部16には、画像処理装置1を動作させ、この画像処理装置1が備える種々の機能を実現するためのプログラムや、このプログラムの実行中に使用されるデータ等が一時的または永続的に記憶される。また、観察染色標本上の各標本位置における色素量を推定するための画像処理プログラム161が記憶される。
制御部17は、CPU等のハードウェアによって実現される。この制御部17は、操作部12から入力される操作信号や染色標本画像撮像部11から入力される画像データ、記憶部16に記憶されるプログラムやデータ等に基づいて画像処理装置1を構成する各部への指示やデータの転送等を行い、画像処理装置1全体の動作を統括的に制御する。
また、制御部17は、基準領域候補選択手段としての基準領域候補選択部171と、色素クラス選択依頼手段としての色素選択入力依頼部173と、表示処理手段としての画像表示処理部175とを含む。基準領域候補選択部171は、染色色素毎にシーズ領域の指定入力を依頼する処理を行い、操作部12を介して例えば病理医や臨床検査技師等のユーザによるシーズ領域の指定操作を受け付ける。そして、基準領域候補選択部171は、指定操作されたシーズ領域をもとに各染色色素の基準領域(H基準領域、E基準領域およびR基準領域)の候補領域(基準領域候補)を選択する。色素選択入力依頼部173は、表示対象色素の選択入力を依頼する処理を行い、操作部12を介してユーザによる表示対象色素の選択操作を受け付ける。画像表示処理部175は、例えば観察染色標本の表示画像等を表示部13に表示する処理を行う。
図2は、実施の形態1の画像処理装置1が行う処理手順を示すフローチャートである。なお、ここで説明する処理は、記憶部16に記憶された画像処理プログラム161に従って画像処理装置1の各部が動作することによって実現される。
実施の形態1では、図2に示すように先ず、制御部17が染色標本画像撮像部11の動作を制御し、観察染色標本、H単一染色標本、E単一染色標本およびR単一染色標本を順次マルチバンド撮像する(ステップa1)。得られた観察染色標本、H単一染色標本、E単一染色標本およびR単一染色標本それぞれの染色標本画像の画像データは、記憶部16に記憶される。
続いて、スペクトル取得部141が、観察染色標本の染色標本画像(以下、「観察染色標本画像」と呼ぶ。)、H単一染色標本画像、E単一染色標本画像およびR単一染色標本画像それぞれについて、各画素位置のスペクトルを取得する(ステップa3)。例えば、スペクトル取得部141は、観察染色標本画像、H単一染色標本画像、E単一染色標本画像およびR単一染色標本画像の各染色標本画像を順次処理対象とする。そして、処理対象の染色標本画像を構成する画素毎に対応する染色標本上の標本点におけるスペクトルを推定することによって、各画素位置のスペクトルを取得する。
ここで、詳細なスペクトル推定の手順について説明する。染色標本上の標本点における分光透過率t(x,λ)は、背景技術で次式(1)に示したように、マルチバンド撮像した染色標本画像の位置ベクトルxで表される任意の画素位置(x)の画素値I(x,λ)を背景(照明光)のマルチバンド画像の対応する画素位置(x)の画素値I0(x,λ)で除算することによって得られる。
実際には、波長λは離散的にしか観測できない。このため、波長方向のサンプル点数をMとすると、分光透過率t(x,λ)は、次式(5)に示すようにM次元のベクトルとして表される。[]tは、転置行列を表す。
得られた分光透過率t(x,λ)は、次式(6)に従って分光吸光度a(x,λ)に変換できる。以下、分光吸光度を単に「吸光度」と呼ぶ。
a(x,λ)=−log(t(x,λ)) ・・・(6)
実施の形態1では、スペクトル取得部141は、式(5)に従って分光透過率t(x,λ)を算出し、式(6)に従って分光透過率t(x,λ)を吸光度a(x,λ)に変換する処理を観察染色標本画像、H単一染色標本画像、E単一染色標本画像およびR単一染色標本画像の各染色標本画像の全ての画素について行い、各画素位置(x)のスペクトルとして吸光度a(x,λ)を取得する。取得した観察染色標本画像、H単一染色標本画像、E単一染色標本画像およびR単一染色標本画像それぞれの各画素位置(x)のスペクトル(吸光度a(x,λ))のデータは、取得過程で算出した各画素位置(x)の分光透過率t(x,λ)のデータとともに記憶部16に記憶される。
その後、図2に示すように、スペクトル取得部141は、取得した各染色標本画像それぞれの各画素位置のスペクトルをもとに、観察染色標本、H単一染色標本、E単一染色標本およびR単一染色標本それぞれのRGB画像を合成する(ステップa5)。合成した観察染色標本、H単一染色標本、E単一染色標本およびR単一染色標本それぞれのRGB画像の画像データは、記憶部16に記憶され、適宜表示部13に表示処理されてユーザに提示される。なお、以下では、各単一染色標本のRGB画像を「単一染色RGB画像」と呼び、観察染色標本のRGB画像を「観察染色RGB画像」と呼ぶ。
具体的には、スペクトル取得部141は、観察染色標本画像、H単一染色標本画像、E単一染色標本画像およびR単一染色標本画像の各染色標本画像を順次処理対象とする。そして、処理対象の染色標本画像の各画素位置についてスペクトルを取得する過程で算出した分光透過率をRGB値に変換し、RGB画像を合成する。染色標本画像上の任意の画素位置(x)における分光透過率をT(x)とすると、RGB値GRGB(x)は、次式(7)で表される。
GRGB(x)=HT(x) ・・・(7)
ここで、式(7)のHは、次式(8)で定義される行列である。この行列Hはシステム行列とも呼ばれており、Fはチューナブルフィルタの分光透過率、Sはカメラの分光感度特性、Eは照明の分光放射特性をそれぞれ表す。
H=FSE ・・・(8)
続いて、図2に示すように、基準スペクトル取得処理に移る(ステップa7)。図3は、基準スペクトル取得処理の詳細な処理手順を示すフローチャートである。
図3に示すように、基準スペクトル取得処理では先ず、基準領域候補選択部171が、ユーザ操作に従って染色色素毎に基準領域候補を選択する(ステップb1)。例えば、基準領域候補選択部171は、基準領域選択画面を表示部13に表示し、色素H、色素Eおよび色素Rそれぞれのシーズ領域の指定入力依頼をユーザに通知する処理を行う。そして、基準領域候補選択部171は、この指定入力依頼の通知に応答してユーザが各染色色素について操作入力したシーズ領域をもとに基準領域候補を選択し、その選択情報を基準領域設定部143に通知する。
図4は、基準領域選択画面の一例を示す図である。図4に示すように、基準領域選択画面は、単一染色画像表示部W11を備える。この単一染色画像表示部W11には、図2のステップa5で選択対象の染色色素(選択対象色素)について合成された単一染色RGB画像が表示される。ここで、選択対象色素は、染色色素メニューM11で選択できるようになっている。すなわち、染色色素メニューM11には、色素H、色素Eまたは色素Rを択一的に選択可能なラジオボタンRB111,RB113,RB115が配置されており、図4に例示するようにラジオボタンRB111によって色素Hを選択すると、単一染色画像表示部W11には色素Hの単一染色RGB画像が表示される。同様に、ラジオボタンRB113によって色素Eを選択すると色素Eの単一染色RGB画像が、ラジオボタンRB115によって色素Rを選択すると色素Rの単一染色RGB画像が、それぞれ単一染色画像表示部W11に表示される。
また、基準領域選択画面は、選択モードメニューM13と、manual設定メニューM15と、グラフモードメニューM17とを備える。この他、基準領域選択画面には、操作を確定するOKボタンB11が配置されている。
選択モードメニューM13には、基準領域候補の選択モードとして「manual」「learning」「image process」のいずれか1つを択一的に選択可能なラジオボタンRB131,RB133,RB135が配置されている。「manual」は、ユーザ操作に従って基準領域候補を手動で選択する選択モードであり、例えばユーザが単一染色画像表示部W11上で指定したシーズ領域を選択対象色素の基準領域候補として選択する。「learning」は、予め学習された学習条件をもとに選択対象色素の基準領域候補を自動選択する選択モードである。「image process」は、予め設定された選出条件をもとに選択対象色素の基準領域候補を自動選択する選択モードである。
manual設定メニューM15では、選択モードの1つである「manual」に関する設定を行う。例えば、manual設定メニューM15には、ブロックサイズを入力する入力ボックスIB151と、ブロック数を入力する入力ボックスIB153とが配置されており、それぞれ所望の値を設定することができる。ブロックサイズは、単一染色画像表示部W11上で指定するシーズ領域のサイズであり、図4中に例示するように例えば入力ボックスIB151に「2」を入力した場合には、1つのシーズ領域は2×2画素のサイズとされる。また、シーズ領域は複数個指定することができるようになっており、その数がブロック数に相当する。ユーザは、所望のブロック数を入力ボックスIB153に入力する(図4では「1」)。
また、選択モードが「manual」の場合、単一染色画像表示部W11上でシーズ領域を指定すると、該当する画素位置ついて取得されているスペクトルがグラフ表示部W13においてグラフ表示されるようになっている。グラフモードメニューM17では、このグラフ表示部W13におけるグラフ表示に関する設定を行う。例えば、グラフモードメニューM17には、グラフ表示部W13において単一染色画像表示部W11上で指定したシーズ領域のスペクトル平均グラフを表示させるためのチェックボックスCB171が配置されている。チェックボックスCB171をチェックしない場合には、シーズ領域を構成する各画素位置のスペクトルグラフがグラフ表示される。例えば、manual設定メニューM15の入力ボックスIB151の入力値が「2」の場合には、シーズ領域は4画素で構成されており、該当する4つの画素位置についてそれぞれ波長毎に取得されているスペクトルをプロットしたスペクトルグラフが表示される。一方、チェックボックスCB171をチェックした場合には、これらシーズ領域を構成する各画素位置のスペクトルグラフと併せて、そのスペクトルの波長毎の平均値をプロットしたスペクトル平均グラフが表示される。例えば、図4中のグラフ表示部W13では、破線で示す各画素位置のスペクトルグラフと、実線で示すスペクトル平均グラフとが表示されている。
また、グラフモードメニューM17には、グラフ表示部W13に表示させるスペクトルグラフの種類として吸光度グラフまたは分光透過率グラフを択一的に選択可能なラジオボタンRB171,RB173が配置されている。ラジオボタンRB171によって吸光度を選択すれば、シーズ領域の各画素位置について取得されているスペクトルである吸光度がグラフ表示される。一方、ラジオボタンRB173によって分光透過率を選択した場合には、吸光度を取得する過程で算出した分光透過率がグラフ表示される。
例えば、選択モードとして「manual」を選び、基準領域候補を選択する場合の操作手順としては、ユーザは先ず、操作部12を構成するマウスによって単一染色画像表示部W11上の所望の位置をクリックし、シーズ領域を指定する。このとき、単一染色画像表示部W11上には、指定した(クリックした)位置にシーズ領域を示すマーカMK11が表示されるようになっている。また、グラフ表示部W13には、シーズ領域を構成する各画素位置のスペクトルがグラフ表示される。一旦指定したシーズ領域は、単一染色画像表示部W11上で例えばマーカMK11をドラッグ&ドロップ操作する等して移動させることが可能である。これによれば、ユーザは、グラフ表示部W13にてスペクトルを確認しながらシーズ領域を指定できる。また、ブロック数として2以上の値を入力している場合には、単一染色画像表示部W11上の別の位置を再度クリックすることで、新たなシーズ領域を指定する。操作を確定する場合には、OKボタンB11をクリックする。
以上のようにして操作を確定すると、基準領域候補選択部171は、図3のステップb1の処理として、指定されたシーズ領域(単一染色画像表示部W11上のマーカMK11の画素位置)を選択対象色素の基準領域候補として選択する。このとき、基準領域候補選択部171は、基準候補領域の選択情報を画像処理部14の基準領域設定部143に通知する。ここで、基準領域候補の選択情報は、例えば選択対象色素(色素H、色素Eまたは色素R)の識別情報や基準領域候補の画素位置等を含む。
なお、ここでは、基準領域候補選択部171が、ユーザが指定したシーズ領域を基準領域候補として選択する場合について例示した。これに対し、基準領域候補選択部171が、選択対象色素の単一染色RGB画像の画素毎に、ユーザが指定したシーズ領域との類似度を判定するようにしてもよい。類似度は、例えば、選択対象色素の単一染色RGB画像の各画素について、その輝度値とシーズ領域の輝度値との差分を求めることによって判定することができる。シーズ領域が複数の画素で構成されている場合には、各画素の輝度値をシーズ領域の輝度値平均や輝度値分散と比較することによって類似度を判定することとしてもよい。また、各画素の色分布をシーズ領域の色分布と比較して類似度を判定することとしてもよい。あるいは、各画素の画素位置ついて取得されているスペクトルの分光波形(スペクトルグラフ)をシーズ領域の画素の画素位置について取得されているスペクトルの分光波形(スペクトルグラフ)と比較して類似度を判定することとしてもよい。
そして、基準領域候補選択部171が、選択対象色素の単一染色RGB画像の各画素のうち、シーズ領域との類似度が高いと判定した画素について、類似度を高いと判定した他の画素との連結数を連結面積として計数するようにしてもよい。そして、この連結面積が所定面積以上(類似度が高いと判定した画素の連結数が所定数以上)である画素の領域を基準領域候補として選択するようにしてもよい。
また、図4の基準領域選択画面において、選択モードメニューM13にて選択モードとして「learning」を選んだ場合には、内部処理として所定の学習条件に従い画素位置を抽出する処理が行われ、基準領域候補が選択される。学習条件としては、例えば、各染色色素によって特徴的に染色される組織の代表的な分光特性パターンや、特徴的に染色される組織の色情報等が予め学習処理によって学習された内容が設定される。
また、選択モードとして「image process」を選んだ場合には、内部処理として所定の選出条件を満足する画素位置を抽出する処理が行われ、基準領域候補が選択される。選出条件は、選択対象色素の単一染色RGB画像の画素値をもとに設定できる。例えば、単一染色RGB画像を構成する各画素の輝度平均値を選出条件としてもよいし、ヒストグラムを生成して分布最頻度値を算出し、選出条件としてもよい。あるいは、これらを組み合わせた選出条件としてもよい。また、RGB値によって定まるその他の値を適宜用いて選出条件を設定することとしてもよい。
そして、基準領域候補が選択されると、続いて、図3に示すように、基準領域設定部143が、各染色色素の基準領域を設定する(ステップb3)。例えば、基準領域設定部143は、基準領域候補選択部171から通知された基準領域候補の選択情報をもとに、この選択情報に設定されている選択対象色素の単一染色RGB画像中で、その基準領域候補と画素値が類似する画素を探索する処理を行い、選択対象色素の基準領域を設定する。
具体的な処理手順としては先ず、基準領域設定部143は、選択対象色素の単一染色RGB画像の各画素値をRB色空間に写像する。このとき、基準領域候補が複数の画素位置で構成されている場合には、例えば基準領域候補を構成する各画素の写像点の平均値(基準領域候補の各画素のRB色空間における座標値の平均値)を算出し、基準領域候補代表点とする。
続いて、基準領域設定部143は、基準領域候補以外の各画素を順次処理対象とし、基準領域候補の写像点(または基準領域候補代表点)と処理対象の画素の写像点との距離Distを算出する。そして、得られた距離Distを処理対象の画素についての類似度として得る。ここで、基準領域候補の写像点(または基準領域候補代表点)をS(R,B)とし、処理対象の画素(xi,yi)(i=1,2,・・・,n)の写像点(RG色空間における座標値)をs(ri,bi)(i=1,2,・・・,n)とすると、s(ri,bi)とS(R,B)との距離Distは、次式(9)で表される。nは、処理対象とする基準領域候補以外の画素の数を表す。
そして、基準領域設定部143は、得られた基準領域候補以外の各画素の類似度を閾値処理し、類似度が高い画素(例えば類似度が所定の閾値以上の画素)を抽出する。そして、基準領域設定部143は、ここで抽出した画素および基準領域候補の各画素で構成される領域を基準領域とする。閾値処理で用いる閾値SThは、単一染色RGB画像中の基準領域候補の画素値をもとに設定する。例えば、基準領域候補が複数の画素位置で構成されている場合には、各画素の写像点(RB色空間における座標値)の分散V(S)を求め、次式(10)に従って設定する。fは係数であり、任意に設定できる。
なお、類似度の算出方法は、上記した手法に限定されるものではなく、適宜選択して用いることができる。例えば、輝度値の類似度や色分布の類似度、あるいはスペクトルの類似度等を算出する。このとき1つの類似度を算出することとしてもよいし、これら複数の類似度を組み合わせて総合的な類似度を算出してもよい。
以上のようにして設定された選択対象色素の基準領域は、表示部13に確認表示されてユーザに提示されるようになっている。例えば基準領域候補選択部171が、基準領域確認画面を表示部13に表示する処理を行う。またこのとき、基準領域候補選択部171は、基準領域の修正入力依頼をユーザに通知する処理を行う。
図5は、基準領域確認画面の一例を示す図である。図5に示すように、基準領域確認画面は、単一染色画像表示部W21と、基準領域表示部W23とを備える。単一染色画像表示部W21には、選択対象色素(図5では色素H)の単一染色RGB画像が表示される。また、基準領域表示部W23には、単一染色RGB画像中の基準領域を識別表示した基準領域識別画像が表示される。例えば、基準領域外の画素値を所定の色(例えば白)に置き換えて基準領域外の各画素を非表示とした画像が表示される。
この基準領域確認画面は、修正モードメニューM21を備え、設定された基準領域に過不足があり不十分と判断した場合に修正できるようになっている。修正モードメニューM21には、基準領域の修正モードとして「追加」または「削除」を択一的に選択可能なラジオボタンRB211,RB213が配置されている。また、この他、基準領域確認画面には、操作を確定する確定ボタンB21が配置されている。
例えばユーザは、基準領域表示部W23の基準領域識別画像によって基準領域の設定漏れが生じていると判断した場合には、ラジオボタンRB211を選択した上で、例えば単一染色画像表示部W21上の基準領域として追加したい画素(追加画素)の位置をクリックする。一方、基準領域表示部W23の基準領域識別画像によって基準領域が過剰に設定されていると判断した場合には、ラジオボタンRB213を選択した上で、例えば単一染色画像表示部W21上の基準領域から除外したい画素(除外画素)の位置をクリックする。操作を確定する場合には、確定ボタンB21をクリックする。
そして、以上のようにして修正入力依頼の通知に応答して修正操作が入力されると(図3のステップb5:Yes)、基準領域候補選択部171が、修正情報を基準領域設定部143に通知するようになっている。ここで、修正情報は、選択対象色素の識別情報や、追加画素として指定された画素位置、除外画素として指定された画素位置等を含む。基準領域設定部143は、この修正情報に従って選択対象色素の基準領域を修正する(ステップb7)。
例えば、基準領域設定部143は、修正情報に追加画素が設定されている場合には、選択対象色素の単一染色RGB画像の画素値をもとに、追加画素と類似する画素であって、追加画素と連結する画素を抽出する。例えば、追加画素の隣接画素から順番にその輝度値を閾値処理する。閾値は、例えば追加画素の輝度値をもとに設定する。そして、追加画素と輝度値が類似する画素を、追加画素と連結している限り抽出する。基準領域設定部143は、このようにして抽出した画素を基準領域に追加する。一方、基準領域設定部143は、修正情報に除外画素が設定されている場合には、選択対象色素の単一染色RGB画像の画素値をもとに、除外画素と類似する画素であって、除外画素と連結する画素を抽出する。例えば、除外画素の隣接画素から順番にその輝度値を閾値処理する。閾値は、例えば除外画素の輝度値をもとに設定する。そして、除外画素と輝度値が類似する画素を、除外画素と連結している限り抽出する。基準領域設定部143は、このようにして抽出した画素を基準領域から除外する。
最終的に、基準領域設定部143は、以上のようにして各染色色素について設定・修正した基準領域を構成する各画素の画素位置に、基準領域ラベルを付与する。すなわち、選択対象色素を色素Hとして設定した基準領域であるH基準領域の画素位置に基準領域ラベルLHを付与する。同様に、選択対象色素を色素Eとして設定した基準領域であるE基準領域の画素位置に基準領域ラベルLEを付与し、選択対象色素を色素Rとして設定した基準領域であるR基準領域の画素位置に基準領域ラベルLRを付与する。
ここで、各染色色素の基準領域(H基準領域、E基準領域およびR基準領域)は、該当する染色色素の単一染色標本内において代表的な領域であるのが望ましく、図4の基準領域選択画面でユーザが指定するシーズ領域が、この代表的な領域であるのが望ましい。例えば、色素Hは、標本内の組織のうち、特に核を染色する。このため、ユーザによってH単一染色標本画像中の核の位置がシーズ領域として指定され、H単一染色標本画像中の核の領域がH基準領域として設定されるのが望ましい。一方、色素Eは、細胞質を染色する。このため、ユーザによってE単一染色標本画像中の細胞質の位置がシーズ領域として指定され、E単一染色標本画像中の細胞質の領域がH基準領域として設定されるのが望ましい。ただし、これに限定されるものではなく、組織に関わらずユーザが所望する位置をシーズ領域として指定することとしてよい。
続いて、図3に示すように、基準スペクトル取得部142が、染色色素を順次処理染色色素としてループAの処理を実行する(ステップb9〜ステップb25)。実施の形態1では、色素H、色素Eおよび色素RについてそれぞれループAの処理を行う。
すなわち、ループAでは先ず、基準領域特徴算出部144が、ステップb3で設定しステップb7で修正した処理染色色素について設定した基準領域(処理染色色素の基準領域ラベルが付与された画素位置)のスペクトル特徴を算出する(ステップb11)。例えば、処理染色色素が色素Hの場合には、H基準領域である基準領域ラベルLHが付与された画素位置のスペクトル特徴を算出する。同様に、処理染色色素が色素Eの場合には、E基準領域である基準領域ラベルLEが付与された画素位置のスペクトル特徴を算出する。また、処理染色色素が色素Rの場合には、R基準領域である基準領域ラベルLRが付与された画素位置のスペクトル特徴を算出する。
ここで、具体的な算出手順の一例として、吸光度空間における基準領域の主成分をもとにスペクトル特徴を算出する手法について説明する。先ず、基準領域特徴算出部144は、吸光度空間において基準領域の主成分分析を行う。この主成分分析では、処理染色色素の基準領域を構成する画素(処理染色色素の基準領域ラベルが付与された画素位置の画素)についてスペクトル取得部141が取得したスペクトルを用いる。これら基準領域内の画素をi(i=1,2,3,・・・,n)とし、スペクトルの波長数をDとすると、吸光度ベクトルA(λ)は、次式(11)で表される。
また、吸光度ベクトルA(λ)の平均ベクトルG(λ)は、次式(12)で表される。
そして、吸光度ベクトルA(λ)の分散共分散行列Sは、次式(13)で表される。分散共分散行列Sは、D×D次元の行列である。
基準領域特徴算出部144は、この分散共分散行列Sをもとに次式(14)の固有方程式を解き、固有値ed(d=1,2,・・・,D)を得る。eは実数を表し、Xは固有ベクトルを表す。
SX=eX ・・・(14)
そして、得られた固有値edを値の大きい順に第1主成分、第2主成分、・・・、第D主成分とし、主成分毎に固有値edに属する固有ベクトルXp(p=1,2,3,・・・,D)を算出する。ここで算出される固有ベクトルXpは、次式(15)で表される。
そして、算出した主成分毎の固有ベクトルXpを係数とし、対応する主成分の単位ベクトルεi(i=1,2,・・・,D)に乗じた式である次式(16)に示す主成分の式Zpを得る。
Zp=xp1・ε1+xp2・ε2+・・・+xpD・εD+x0 ・・・(16)
この主成分の式Zpは、基準領域における吸光度分布の特性(すなわち基準領域の特性)を表している。ここで、上位の主成分ほど情報量が多いため、その特性表現における寄与度が高い。そこで、基準領域特徴算出部144は、続いて、以上のようにして得た主成分分析の結果をもとに基準領域の特性を十分に表現可能な上位所定数の主成分を判別する。例えば、寄与率Ri(i=1,2,・・・,D)を閾値処理して主成分数Kを決定することによって行う。先ず、次式(17)に従って各主成分の寄与率Riを算出する。
そして、算出した各主成分の寄与率Riを順次閾値処理し、主成分数Kを決定する。ここで、閾値処理の際に用いる閾値をThとすると、主成分数Kは次式(18)で決定できる。決定した第1主成分〜第D主成分および主成分数Kのデータは、記憶部16に記憶される。
Ri+1>Th≧Riならば、K=i ・・・(18)
なお、主成分数Kの決定方法は、上記した手法に限定されるものではない。例えば、Kの値を予め固定値として設定しておく構成としてもよい。あるいは、ユーザ操作に従ってKの値を可変に設定する構成としてもよい。ユーザ操作に従って設定する場合には、制御部17は、主成分分析の結果を表示部13に表示する処理を行うようにしてもよい。例えば、各主成分の固有ベクトルXpをグラフ表示した主成分分析結果画面を表示部13に表示処理し、併せて主成分数Kの入力を受け付けるようにしてもよい。図6は、主成分分析の結果得られた固有ベクトルXpの一例をグラフ表示した図である。図6では、第1〜第5の5つの主成分について得た固有ベクトルXpについてその要素xpをプロットしたグラフを示している。このように各主成分の固有ベクトルXpをグラフ表示すれば、ユーザは、そのグラフ形状を確認しながら主成分数Kを決定することができる。
ここで、各主成分の固有ベクトルXpは、そのグラフ形状が処理染色色素のスペクトルの波形(既知)と類似しているほど、処理染色色素の特性に関する情報量を多く含んでいる。なお、下位の主成分ほど、ノイズ成分が多く含まれる。したがって、各主成分のグラフ形状は、ユーザにとって、主成分数Kを決定する際の判断材料となる。
以上のようにして処理染色色素の基準領域について第1主成分〜第D主成分を取得し、主成分数Kを決定したならば、続いて基準領域特徴算出部144は、処理染色色素の基準領域を構成する画素を(x,y)とし、基準領域内の画素(x,y)それぞれについてスペクトル差分△d(x,y)を算出する。例えば、基準領域内の画素(x,y)のスペクトルから、基準領域の特性を十分に表現可能であるとして決定した上位K個の主成分(第1主成分〜第K主成分)で再現される基準領域内の画素(x,y)の吸光度成分(以下、第1主成分〜第K主成分で再現される吸光度成分を「1〜K主成分スペクトル」と呼ぶ。)を差し引いて、基準領域内の画素(x,y)のスペクトル差分△d(x,y)とする。
ここで、画素(x,y)のスペクトルは、第1主成分〜第D主成分で再現される画素(x,y)の吸光度成分(以下、第1主成分〜第D主成分で再現される吸光度成分を「1〜D主成分スペクトル」と呼ぶ。)に相当する。したがって、スペクトル差分△d(x,y)は、第1主成分〜第D主成分から上位K個の第1主成分〜第K主成分を除いた第K+1主成分〜第D主成分で再現される画素(x,y)の吸光度成分(以下、第K+1主成分〜第D主成分で再現される吸光度成分を「K+1〜D主成分スペクトル」と呼ぶ。)に相当する。このスペクトル差分△d(x,y)は、次式(19)で表される。
このスペクトル差分△d(x,y)の具体的な算出式を示す。画素(x,y)における1〜D主成分スペクトルABS(λd)(x,y)は、各主成分の固有ベクトルXpを用いた次式(20)で表される。
ABS(λd)(x,y)=c1X1+c2X2+・・・+cDXD ・・・(20)
ここで、式(20)中の各係数cp(p=1,2,・・・,D)は、次式(21)で表される。
スペクトル差分△d(x,y)は、第K+1主成分〜第D主成分の固有ベクトルXpと式(21)中の第K+1主成分〜第D主成分についての各係数cpを用いた次式(22)で表される。
そして、基準領域特徴算出部144は、このスペクトル差分△d(x,y)の平均値△d ̄を算出し、基準領域のスペクトル特徴とする。なお、△d ̄は、△dの上に平均値を表す記号「 ̄」が付いていることを示す。算出した基準領域のスペクトル特徴(スペクトル差分△d(x,y)の平均値△d ̄)のデータは、記憶部16に記憶される。
以上のように、実施の形態1では、基準領域特徴算出部144は、基準領域について主成分分析を行い、得られた主成分のうちの下位の第K+1主成分〜第D主成分をもとにスペクトル特徴(スペクトル差分△d(x,y)の平均値△d ̄)を算出する。これによれば、基準領域の特性をほぼ表現可能な上位K個の第1主成分〜第K主成分では表現できない特性(第1主成分〜第K主成分には含まれない情報によって表現される特性)を表すスペクトル成分を抽出することができ、これを基準領域のスペクトル特徴とすることができる。
なお、基準領域のスペクトル特徴の算出方法は、上記した手法に限定されるものではない。例えば、処理染色色素の単一染色標本画像について取得されているスペクトル(吸光度)をもとに、この吸光度を二次微分することで基準領域を特徴付ける波形を取得し、取得した波形をもとに特徴的な波長を検出することとしてもよい。例えば、波形変化が大きい波長を特徴的な波長として検出することとしてもよい。そして、検出した波長の二次微分値をスペクトル特徴としてもよい。波長i(i=1,2,・・・,D)における吸光度をa(i)とすると、その二次微分値Sd(i)(i=1,2,・・・,D)は、次式(23)で表される。
Sd(i)=a(i−1)+a(i+1)−2a(i) ・・・(23)
ここで、吸光度の二次微分値は、特徴的な波形だけでなくノイズ成分についても強調してしまう。このため、ノイズが強調されて発生したアーチファクトを特徴点として誤検出する可能性がある。この誤検出を防止するため、二次微分値の移動平均Ma(i)を次式(24)に従って算出するようにしてもよい。そして、算出した移動平均Ma(i)をもとに特徴的な波形を有する波長の検出を行い、スペクトル特徴を得るようにしてもよい。
あるいは、事前にRGB値あるいは輝度値毎にスペクトルを測定しておくこととしてもよい。そして、測定しておいたRGB値あるいは輝度値毎のスペクトルから、基準領域内の各画素のRGB値あるいは輝度値に応じたスペクトルを選択してスペクトル特徴として用いることとしてもよい。
スペクトル特徴を算出したならば、続いて、図3に示すように、特徴差分算出部145が、処理染色色素の基準領域外の画素(処理染色色素の基準領域ラベルが付与されていない画素位置の画素)を(x,y)とし、画素(x,y)それぞれについて特徴差分ωd(x,y)を算出する(ステップb13)。
例えば先ず、基準領域について得た第1主成分〜第D主成分の主成分空間に対し、基準領域外の画素(x,y)について取得されているスペクトルを写像する。これにより、基準領域外の画素(x,y)の1〜D主成分スペクトルを得る。そして、上記した基準領域特徴算出部144による処理手順と同様に、得られた1〜D主成分スペクトルから、基準領域の特性を十分に表現可能であるとしてステップb11の算出過程で決定した上位K個の第1主成分〜第K主成分で再現される基準領域外の画素(x,y)の1〜K主成分スペクトルを減算し、得られた値をスペクトル差分δd(x,y)とする。
このスペクトル差分δd(x,y)は、第K+1主成分〜第D主成分で再現される画素(x,y)のK+1〜D主成分スペクトルに相当し、次式(25)で表される。
このスペクトル差分δd(x,y)の値が小さい基準領域外の画素(x,y)ほど、その特性が基準領域と類似しているとして判別できる。図7は、特徴差分特徴差分ωd(x,y)の算出手順を説明する図であり、横軸を波長とし、図3のステップb11で基準領域特徴算出部144が算出した基準領域のスペクトル特徴(スペクトル差分△d(x,y)の平均値△d ̄)の値をプロットしたグラフG31と、基準領域外の1つの画素(x,y)について以上のように算出したスペクトル差分δd(x,y)の値をプロットしたグラフG33とを示している。図7に示すように、特徴差分算出部145は、基準領域のスペクトル特徴である△d ̄と、基準領域外の画素(x,y)について算出したスペクトル差分δd(x,y)との差分を波長毎に算出し、特徴差分ωd(x,y)とする。
具体的には、特徴差分算出部145は、基準領域のスペクトル特徴である△d ̄と基準領域外の各画素(x,y)のスペクトル差分δd(x,y)との差分を次式(26)に従って算出する。算出した基準領域外の各画素(x,y)の特徴差分ωd(x,y)のデータは、記憶部16に記憶される。
なお、スペクトル特徴の算出方法の変形例として上記したように、吸光度を二次微分することで特徴的な波形を検出し、その二次微分値をスペクトル特徴とする場合には、検出した波長についてのみ特徴差分を算出すればよい。
処理染色色素について基準領域外の各画素の特徴差分ωd(x,y)を算出したならば、続いて、単一染色クラス分類処理部146が、処理染色色素の単一染色標本画像内の各画素を所定数の階層レベルに振り分けてクラス分類する。
具体的には、単一染色クラス分類処理部146は先ず、図3に示すように、処理染色色素の基準領域外の各画素についてステップb13で算出されている波長毎の特徴差分ωd(x,y)の値をもとに、例えばその値の絶対値が最大となる波長λを特徴波長λmaxとして検出する(ステップb15)。
続いて、単一染色クラス分類処理部146は、基準領域外の画素毎に、その特徴波長λmaxにおける特徴差分の絶対値|ω(x,y)|maxを閾値処理する。そして、基準領域外の画素のうち、所定の閾値より値が大きい画素を後順のステップb19で行う階層レベルの振分対象から除外する(ステップb17)。なお、閾値処理で用いる閾値は、予め固定値として設定しておく構成としてもよいし、ユーザ操作に従って可変に設定する構成としてもよい。
このように、特徴波長λmaxにおける特徴差分の絶対値|ω(x,y)|maxを閾値処理することで、特徴差分が大きい画素を後順のステップb19で階層レベルに振り分けないようにし、ステップb23で基準スペクトルを算出する際に参照しないようにすることができる。なお、処理染色色素の単一染色RGB画像を適宜表示部13に表示処理し、ユーザ操作に従って振分対象から除外する画素を選択する構成としてもよい。
そして、単一染色クラス分類処理部146は、処理染色色素の単一染色標本画像内の振分対象の画素(基準領域外の画素であって、ステップb17で振分対象から除外されていない画素)を所定数jの階層レベルstepi(i=1,2,・・・,j)に振り分ける(ステップb19)。ここで、iは階層番号を表す。なお、jの値は、例えば予め設定される固定値(ここではj=2)とする。なお、jの値はユーザ操作に従って可変に設定する構成としてもよい。
具体的な処理手順としては先ず、次式(27)に従い、階層レベルstepi毎の範囲条件である特徴差分量value(i)(i=1,2,・・・,j)を決定する。ここで、|ω|maxは、振分対象の画素それぞれの特徴波長λmaxにおける特徴差分の絶対値|ω(x,y)|maxのうちの最大値を表す。
そして、決定した階層レベルstepi毎の特徴差分量value(i)をもとに、振分対象の各画素をいずれかの階層レベルに振り分ける。例えば、振分対象の画素を順次処理対象とし、処理対象の画素の特徴波長λmaxにおける特徴差分の絶対値|ω(x,y)|maxが含まれる階層レベルの階層番号τを次式(28),(29)に従って決定する。特徴差分量value(i−1)max(i=1,2,・・・,j)は、value(i−1)の上限値であり、特徴差分量value(i)max(i=1,2,・・・,j)は、value(i)の上限値である。
そして、処理対象の画素を決定した階層番号τの階層レベルに振り分ける。そして、処理対象の画素に決定した階層レベルを表す階層ラベルstepLτを付与する。
その後、単一染色クラス分類処理部146は、図3に示すように、基準領域内の各画素をステップb19で振り分けた階層レベルstepiとは別の階層レベルに振り分け、最終的に処理染色色素の単一染色標本画像内をj+1個の色素クラスにクラス分類する(ステップb21)。このとき、処理染色色素の単一染色標本画像の各画素位置に、その画素が属する色素クラスのクラスラベルLk(k=0,1,・・・,j)を付与する。
本例では、前述のようにj=2であるため、処理染色色素の単一染色標本画像内は3つの色素クラスにクラス分類される。すなわち、例えば、クラスラベルL0を基準領域内の各画素に付与し、ステップb19で振り分けた2つの階層レベルにそれぞれ属する各画素(階層ラベルstepLτが付与された画素)に対し、クラスラベルL1,L2を付与する。図8は、クラス分類結果の一例を示す図である。図8では、クラスラベルL0が付与された色素H0の色素クラスを実線で、クラスラベルL1が付与された色素H1の色素クラスを一点鎖線で、クラスラベルL2が付与された色素H2の色素クラスを二点鎖線で示している。ここで、色素H0の色素クラスは、H基準領域内の各画素を振り分けた階層レベルの色素クラスであり、色素H1,H2の各色素クラスは、H基準領域外の各画素を振り分けた2つの階層レベル毎の色素クラスである。これによって、H単一染色標本画像内をそのスペクトルに従って色素H0,H1,H2の3つの色素クラスに細分化することができる。
なお、本例では、式(27),(28),(29)に従い、決定した階層レベルstepi毎の特徴差分量value(i)をもとに、振分対象の各画素をいずれかの階層レベルに振り分けることとした。そして、これら階層レベルとは別の階層レベルに基準領域内の各画素を振り分けることとした。そして、処理染色色素の単一染色標本画像内を、振分対象の各画素を振り分けた各階層レベル毎の色素クラスと、基準領域内の各画素を振り分けた色素クラスとにクラス分類することとした。ここで、この手法は、ステップb3において基準領域設定部143が各染色色素の基準領域を過不足なく設定したことを前提としている。しかしながら、このときの基準領域の設定が不十分な場合、本来は基準領域として設定すべき画素が、基準領域外の各画素(振分対象の各画素)に含まれることとなる。そこで、このような基準領域設定部143によるステップb3の処理で基準領域として設定しきれなかった(ユーザが見落とした)基準領域外の画素を判別し、基準領域内の画素を振り分けた色素クラスに振り分けるようにしてもよい。
この場合には、例えば、上記した例と同様に3つの色素クラスにクラス分類する場合であれば、j=3とする。そして、上記した式(27)にかえて次式(30)を用い、階層レベルstepi毎の範囲条件である特徴差分量value(i−1)(i=1,2,・・・,j)を決定する。
そして、決定した階層レベルstepi毎の特徴差分量value(i−1)をもとに、基準領域外の各画素(振分対象の各画素)を次式(28),(31)に従っていずれかの階層レベルに振り分ける。
その後、ステップb21の処理にかえて、基準領域内の各画素をτ=0である階層レベルstep0に振り分け、処理染色色素の単一染色標本画像内を各階層レベル毎のj個の色素クラスにクラス分類する。このようにすれば、基準領域外の画素のうちの階層レベルstep0に振り分けられた画素を基準領域の画素として修正できる。したがって、基準領域外の画素のうちの本来基準領域内の画素とすべき画素を、基準領域として設定された画素と同一の色素クラスにクラス分類することができる。
なお、基準領域内の各画素を階層レベルstep0に振り分ける前に、階層レベルstep0に振り分けられた基準領域外の画素位置を表示部13に確認表示し、ユーザに提示するようにしてもよい。例えば、選択対象色素の単一染色RGB画像上で、既に基準領域として設定されている画素位置と、階層レベルstep0に振り分けられた画素位置とを識別可能に表示するようにしてもよい。また、これと併せて、階層レベルstep0に振り分けられた画素を基準領域内の画素と同じ色素クラスにクラス分類するか否かのユーザによる判断操作の入力を促すようにしてもよい。これによれば、階層レベルstep0に振り分けられた基準領域外の画素を基準領域の画素とするか否かを最終的にユーザが判断できるので、基準領域の画素の正確性が向上する。
また、本例では、図3のステップb13において、特徴差分算出部145が、基準領域外の画素を対象として特徴差分を算出することとした。これに対し、処理染色色素の単一染色標本画像を構成する全ての画素を対象として特徴差分を算出することとしてもよい。そしてこの場合には、ステップb21において、単一染色クラス分類処理部146が、算出した特徴差分をもとに、処理染色色素の単一染色標本画像内の各画素を所定数の色素クラスに分類することとしてもよい。
また、図8に示すクラス分類結果を表示部13に表示処理してユーザに提示する構成としてもよい。そして、各色素クラスの領域に対して新たな領域を追加する操作や各色素クラスの領域から一部を除外する操作、複数の階層レベルの1つの階層レベルとして色素クラスを統合する操作等を受け付け、クラス分類結果を修正する構成としてもよい。
また、ここでは、波長毎の特徴差分ωd(x,y)の絶対値が最大となる波長を特徴波長λmaxをとすることとした。これに対し、予め特徴波長とする特定の波長あるいは波長帯域を設定しておく構成としてもよい。このとき、染色色素毎に特徴波長を設定しておくこととしてもよい。例えば、染色色素毎にその染色色素について特徴的な波長あるいは波長帯域を特徴波長として設定しておくこととしてもよい。これによれば、短波長付近や長波長付近で発生しやすいノイズによる影響を抑えることができる。
また、図3のステップb17において特徴波長λmaxにおける特徴差分の絶対値|ω(x,y)|maxを閾値処理することとしたが、本処理を行わずに、基準領域外の全ての画素を振分対象として階層レベルに振り分ける構成としてもよい。
処理染色色素の単一染色標本画像内を複数の色素クラスにクラス分類したならば、続いて、図3に示すように、基準スペクトル算出部147が、分類した色素クラス毎に基準スペクトルki(i=1,2,・・・,m)を算出する(ステップb23)。例えば、基準スペクトル算出部147は、各色素クラスを順次処理対象とする。そして、基準スペクトル算出部147は、処理対象の色素クラスに属する各画素について取得されているスペクトルの平均値を算出し、処理対象の色素クラスについての基準スペクトルkiとする。算出した色素クラス毎の基準スペクトルkiは、そのクラスに割り当てられたクラスラベルLk(k=0,1,・・・,j)と対応付けられて記憶部16に記憶される。ここでの処理によって、基準領域内の各画素を振り分けた色素クラスについて得た基準スペクトルkiが、第1の色素分光特性値に相当する。そして、基準領域外の各画素を振り分けた色素クラスについて得た基準スペクトルkiが、第2の色素分光特性値に相当する。その後、処理染色色素についてのループAの処理を終える。
図9は、基準スペクトルkiの一例を示す図であり、横軸を波長、縦軸を吸光度として色素Hについて取得した3つの基準スペクトルki(i=0,1,2)を示している。より詳細には、図9では、H基準領域内の各画素を振り分けた階層レベルの色素クラス(色素H0)、およびH基準領域外の各画素を振り分けた2つの階層レベル毎の色素クラス(色素H1および色素H2)の3つの色素クラスについて取得した3つの基準スペクトルkiを示している。この場合には、色素Hは、色素H0,H1,H2の各色素クラスに対応する3つの基準スペクトルkiによって特徴付けられる。
最終的に、基準スペクトル取得部142は、図9で色素Hについて例示したような色素クラス毎の複数の基準スペクトルkiを、各染色色素それぞれについて取得する。すなわち、基準スペクトル取得部142は、色素H、色素Eおよび色素Rの各染色色素をそれぞれ処理染色色素としてループAの処理を行い、その後、図2のステップa7にリターンしてステップa9に移行する。
そして、ステップa9では、色素量推定部148が、観察染色標本画像の各画素位置について取得されているスペクトル(吸光度a(x,λ))をもとに、ステップa7の基準スペクトル取得処理で各染色色素についてそれぞれ取得した色素クラス毎の複数の基準スペクトルkiを用いて観察染色標本の各染色色素の色素量を色素クラス単位で推定する。
ここで、色素Hについてその色素クラス毎に取得した複数の基準スペクトルkiをkHi(i=0,1,・・・,mH)、色素Eについてその色素クラス毎に取得した複数の基準スペクトルkiをkEi(i=0,1,・・・,mE)、色素Rについてその色素クラス毎に取得した複数の基準スペクトルkiをkRi(i=0,1,・・・,mR)と表記する。
背景技術で式(2)に示して説明したように、分光透過率t(x,λ)に関しては、ランベルト・ベールの法則が成り立つ。また、分光透過率t(x,λ)は、上記した式(6)を用いて吸光度a(x,λ)に変換できる。色素量推定部148は、これらの式を適用して色素量を推定するが、このとき、色素Hの色素クラス毎のmH個の基準スペクトルkHi、色素Eの色素クラス毎のmE個の基準スペクトルkEi、色素Rの色素クラス毎のmR個の基準スペクトルkRiを用いて、各色素クラスを表す色素H0〜色素HmH、色素E0〜色素EmEおよび色素R0〜色素RmRそれぞれの色素量を推定する。すなわち、ランベルト・ベールの法則によれば、観察染色標本画像の各画素(x,y)に対応する観察染色標本上の各標本点における吸光度a(x,λ)は、次式(32)で表される。
各画素(x,y)に対応する観察染色標本上の各標本点における色素クラス(色素H0〜色素HmH,色素E0〜色素EmE,色素R0〜色素RmR)の色素量は、例えば背景技術で式(3)に示して説明した手法を適用し、重回帰分析を行うことで推定(算出)することができる。このようにして色素クラス単位で推定した各染色色素(色素H、色素Eおよび色素R)の色素量のデータは、記憶部16に記憶される。
以上のように色素量を推定したならば、図2に示すように、画像表示処理に移る(ステップa11)。この画像表示処理では、ステップa9で推定した色素量をもとに観察染色標本の表示用の画像(表示画像)を生成し、表示部13に表示する処理を行う。図10は、実施の形態1における画像表示処理の詳細な処理手順を示すフローチャートである。
画像表示処理では先ず、画像表示処理部175が、図2のステップa5で合成された観察染色標本のRGB画像(観察染色RGB画像)を表示画像として表示部13に表示する処理を行う(ステップc1)。
続いて、色素選択入力依頼部173が、表示対象色素の選択入力依頼の通知を表示部13に表示する処理を行い、この選択入力依頼の通知に応答して表示対象色素の選択操作が入力されず、表示対象色素の選択がない間は(ステップc3:No)、ステップc9に移行する。
一方、ユーザによる表示対象色素の選択操作が入力された場合には(ステップc3:Yes)、表示画像生成部149が、観察染色RGB画像をもとに、表示対象色素によって染色されている観察染色標本上の領域(表示対象色素を含む画素位置)を識別可能に表した表示画像を生成する(ステップc5)。例えば、表示画像生成部149は、図2のステップa9で観察染色標本画像の画素毎に推定された観察染色標本上の各標本点における色素量をもとに、表示対象色素を含む(表示対象色素の色素量が“0”ではない)画素位置を選出し、表示対象色素染色領域とする。ここで、表示対象色素は、色素クラス単位で選択できるようになっており、色素クラス(表示対象色素クラス)が選択された場合には、選択された色素クラスについての色素量を含む(その色素クラスについての色素量が“0”ではない)画素位置を選出して表示対象色素染色領域を設定する。そして、表示画像生成部149は、観察染色RGB画像をもとに、表示対象色素染色領域内の画素をその他の画素と識別可能に表した表示画像を生成する。
続いて画像表示処理部175が、ステップc5で生成された表示画像を表示部13に表示する処理を行い(ステップc7)、その後ステップc9に移行する。このとき、ステップc5で生成された表示画像を、既に表示処理されている表示画像にかえて表示処理することとしてもよいし、これらを並べて表示処理する構成としてもよい。
そして、ステップc9では、画像表示の終了判定を行い、終了しない間は(ステップc9:No)、ステップc3に戻って表示対象色素の選択操作を受け付ける。例えばユーザによって画像表示の終了操作が入力された場合には終了すると判定する(ステップc9:Yes)。この場合には図2のステップa11にリターンし、その後処理を終える。
ここで、ユーザが表示画像を観察する際の操作例について説明する。図11は、実施の形態1における表示画像の観察画面の一例を示す図である。図11に示す観察画面は、2つの画像表示部W41,W43を備える。また、観察画面は、表示対象色素を選択するための色素H選択メニューM41、色素E選択メニューM43および色素R選択メニューM45を備え、染色色素毎に色素クラス単位で表示対象色素の選択が可能となっている。すなわち、色素H選択メニューM41には、色素Hを表示とするか非表示とするかを択一的に選択可能なラジオボタンRB411,RB412が配置されるとともに、表示する場合の表示対象色素として色素H0、色素H1および色素H2をそれぞれ個別に選択するためのチェックボックスCB411〜CB413が配置されている。図11では、ラジオボタンRB411によって色素Hについて表示が選択されており、チェックボックスCB411がチェックされて表示対象色素として色素クラスである色素H0が選択されている。なお、表示対象色素として色素Hを選択したい場合には、チェックボックスCB411〜CB413を全てチェックすればよい。色素E選択メニューM43および色素R選択メニューM45も同様に構成され、各染色色素がその色素クラス単位で個別に選択できるようになっている。
そして、図11中に向かって左側の画像表示部W41には、例えば観察染色RGB画像が表示される。一方、向かって右側の画像表示部W43には、表示対象色素染色領域を識別表示した表示対象色素識別画像が表示される。この表示対象色素識別画像は、図10のステップc5の処理で生成される表示画像の一例であり、例えば、表示対象色素染色領域を表示し、それ以外の領域を非表示とした画像として生成される。表示対象色素として色素クラスが選択されている場合には、選択されている色素クラス以外の色素クラスを非表示とした(選択されている色素クラスについての色素量を含まない領域を非表示とした)画像が生成される。図11では、観察染色RGB画像中の色素H0について設定した表示対象色素染色領域を表示し、それ以外の画素を非表示とした表示対象色素識別画像が表示されている。この場合の内部処理としては例えば、表示画像生成部149は、色素H選択メニューM41、色素E選択メニューM43および色素R選択メニューM45で選択されている表示対象色素をもとに表示対象色素領域を設定し、設定した表示対象色素染色領域外の画素値を所定の色(例えば白)に置き換えて表示対象色素識別画像を生成する。
さらに、観察画面は、画像表示部W43に表示される表示対象色素識別画像の描画モードを指定する描画メニューM47を備える。例えば、図11の例では、描画モードとして「なし」「輪郭」「色」「パターン」のいずれか1つを択一的に選択可能なラジオボタンが配置されている。図11に例示するように、描画メニューM47にて「なし」を選択すると、表示対象色素識別画像がそのまま表示対象色素表示部W43に表示される。「輪郭」を選択すると、表示対象色素識別画像中で、表示対象色素毎の表示対象色素染色領域が輪郭線で囲まれて識別表示される。「色」を選択すると、表示対象色素識別画像中で、表示対象色素毎の表示対象色素染色領域が所定の描画色に置き換えられて識別表示される。描画色は、表示対象色素毎に予め設定しておく。「パターン」を選択すると、表示対象色素識別画像中で、表示対象色素毎の表示対象色素染色領域が所定の塗り潰しパターンで識別表示される。塗り潰しパターンは、表示対象色素毎に予め設定しておく。例えば、色素選択メニューM41,M43,M45で表示対象色素を2つ以上選択した場合に、この描画メニューM47で「色」や「パターン」を選択すれば、各表示対象色素それぞれの表示対象色素染色領域を識別可能に表示させることができる。また、描画メニューM47には、ユーザ設定ボタンB47が配置されており、クリックすることで表示対象色素に割り当てる色や塗り潰しパターン、あるいは描画メニューM47で提示する識別表示項目の編集等が行える。
図12は、描画メニューM47にて「パターン」を選択した場合の観察画面の一例を示す図である。図12の例では、色素H選択メニューM41および色素E選択メニューM43で表示対象色素として選択されている色素H0、色素H2および色素E0の表示対象色素染色領域を、色素H0,H2,E0に割り当てられている塗り潰しパターンで表した表示対象色素識別画像が画像表示部W43に表示されている。
なお、識別表示の方法は、上記したものに限定されるものではない。例えば、表示対象色素を含む各画素位置について、その色合いを色素量の値に応じて段階的に変化させるといったことも可能である。
以上説明したように、実施の形態1によれば、H単一染色標本画像をもとに各画素位置のスペクトルを取得し、取得したスペクトルをもとに、色素Hを複数の色素クラスにクラス分類して色素クラス毎に段階的な複数の基準スペクトルを取得することができる。このとき、H単一染色標本画像内の各画素を、H基準領域の画素について取得されているスペクトルとの特徴差分をもとにクラス分類でき、H単一染色標本画像内を適切にクラス分類して色素Hについての複数の基準スペクトルを取得することができる。
同様に、E単一染色標本画像をもとに各画素位置のスペクトルを取得し、取得したスペクトルをもとに、色素Eを複数の色素クラスにクラス分類して色素クラス毎に段階的な複数の基準スペクトルを取得することができる。そしてこのとき、E単一染色標本画像内の各画素を、E基準領域の画素について取得されているスペクトルとの特徴差分をもとにクラス分類でき、E単一染色標本画像内を適切にクラス分類して色素Eについての複数の基準スペクトルを取得することができる。
また、R単一染色標本画像をもとに各画素位置のスペクトルを取得し、取得したスペクトルをもとに、色素Rを複数の色素クラスにクラス分類して色素クラス毎に段階的な複数の基準スペクトルを取得することができる。そしてこのとき、R単一染色標本画像内の各画素を、R基準領域の画素について取得されているスペクトルとの特徴差分をもとにクラス分類でき、E単一染色標本画像内を適切にクラス分類して色素Rについての複数の基準スペクトルを取得することができる。
そして、観察染色標本画像の各画素について取得したスペクトルをもとに、取得した色素クラス毎の段階的な複数の基準スペクトルを用いて観察染色標本上の標本点における染色色素の色素量を色素クラス毎に推定することができる。
これによれば、色素量推定に用いる各染色色素の基準スペクトルを複数に細分化できるので、実際に観察対象の染色標本を染色している染色色素の色素分光特性値が変動する場合であっても、その色素量を精度良く推定することができる。
また、測定機器等を用いて基準スペクトルを予め取得する場合のように、ユーザが単一染色標本上の基準スペクトルとする画素位置を選ぶ必要がない。これによれば、ユーザの手間を省くことができるとともに、基準スペクトルとする画素位置を選んだユーザによって各染色色素の基準スペクトルがバラつき、その信頼性が低下するという事態も生じない。
また、ユーザ操作に従って、色素クラス単位で表示対象色素を選択することができる。そして、色素クラス単位で推定した各染色色素の色素量をもとに、選択した表示対象色素を含む(表示対象色素として色素クラスを選択した場合にはその色素クラスについての色素量を含む)観察染色標本画像の画素位置を選出し、表示対象色素によって染色されている観察染色標本上の領域(表示対象色素を含む画素位置)を識別可能に表した表示画像を生成することができる。したがって、観察染色標本内を視認性良く表した画像をユーザに提示することができる。これによれば、ユーザによる観察効率を向上させることができる。ユーザにとっては、観察したい所望の染色色素を色素クラス単位で選択することによって、観察染色標本中の所望の染色色素の領域を色素クラス単位で個別にあるいは組み合わせて視認性良く観察できる。
なお、上記した実施の形態1では、観察染色標本の色素量を推定する際、その都度基準スペクトル取得処理を行うこととした。これに対し、この基準スペクトル取得処理を色素量の推定の度に行うこととせずに、所望の取得タイミングで事前に行う構成としてもよい。そして、観察染色標本の色素量を推定する際には、事前に基準スペクトル取得処理を行うことによって予め取得しておいた異なる染色状態での複数の基準スペクトルを読み出して用いることとしてもよい。図13は、本変形例において基準スペクトルを取得する際に行う処理手順を示すフローチャートである。また、図14は、本変形例において観察染色標本の色素量を推定する際に行う処理手順を示すフローチャートである。
図13に示すように、本変形例において事前に行う基準スペクトルを取得する際の処理では、先ず、制御部17が染色標本画像撮像部11の動作を制御し、H単一染色標本、E単一染色標本およびR単一染色標本を順次マルチバンド撮像する(ステップd1)。続いて、スペクトル取得部141が、H単一染色標本画像、E単一染色標本画像およびR単一染色標本画像それぞれについて各画素位置のスペクトルを取得する(ステップd3)。その後、スペクトル取得部141は、取得した各単一染色標本画像それぞれの各画素位置のスペクトルをもとに、H単一染色標本、E単一染色標本およびR単一染色標本それぞれのRGB画像を合成する(ステップd5)。
そして、上記した実施の形態1で図3に示して説明した基準スペクトル取得処理を行い、観察染色標本を染色している各染色色素(色素H、色素Eおよび色素R)それぞれについて色素クラス毎の複数の基準スペクトルを得る(ステップd7)。取得された各染色色素の色素クラス毎の基準スペクトルは記憶部16に記憶され、色素量を推定する際に読み出されて用いられる。
すなわち、図14に示すように、本変形例において色素量を推定する際の処理では、先ず制御部17が染色標本画像撮像部11の動作を制御し、観察染色標本を順次マルチバンド撮像する(ステップe1)。続いて、スペクトル取得部141が、観察染色標本画像の各画素位置のスペクトルを取得する(ステップe3)。その後、スペクトル取得部141は、取得した観察染色標本画像の各画素位置のスペクトルをもとに、観察染色標本のRGB画像を合成する(ステップe5)。
続いて、色素量推定部148が、事前に取得されて記憶部16に記憶されている各染色色素の色素クラス毎の基準スペクトルを読み出す(ステップe7)。そして、色素量推定部148は、観察染色標本画像の各画素位置について取得されているスペクトルをもとに、読み出した染色色素それぞれの色素クラス毎の複数の基準スペクトルを用いて観察染色標本の各染色色素の色素量を色素クラス単位で推定する(ステップe9)。その後、上記した実施の形態1で図10に示して説明した画像表示処理を行う(ステップe11)。
また、予め染色標本に含まれる組織毎に染色色素およびその含有分布を学習しておけば、観察染色標本内の組織をサポートベクターマシン(SVM)等によって判別することも可能である。具体的には、細胞質、線維領域、核、核周囲の細胞質といった組織毎に、各組織を染色する染色色素およびその含有比率を予め学習し、教師データとして記憶しておく。
例えば、細胞質の染色色素が色素Hおよび色素Eであり、これらの含有比率を学習した場合には、これら染色色素の種類および含有比率を既知データとして記憶しておく。ここで、例えば、細胞質を染色している色素Hを色素H_b、色素Eを色素E_aと表記する。同様に、線維領域、核、核周囲の細胞質についても学習した結果を既知データとして記憶しておくが、例えば、線維領域を染色している色素Hを色素H_c、色素Eを色素E_aと表記し、核を染色している色素HをH_a、色素EをE_bと表記し、核周囲の細胞質を染色している色素HをH_b、色素Eを色素E_aと表記する。なお、これら色素H_a,H_b,H_c,E_a,E_bの分光特性値(スペクトル)は、例えば予め測定する等しておく。
そして、色素H_a,H_b,H_c,E_a,E_bが上記した実施の形態1を適用して分類したいずれかの色素クラスに該当する場合には、これら各色素と該当する色素クラスとが対応するものとして対応関係を設定しておく。一方、これら色素H_a,H_b,H_c,E_a,E_bがいずれの色素クラスにも該当しない場合には、例えば最小二乗誤差が最小となる色素クラスを選択することによって、各色素H_a,H_b,H_c,E_a,E_bを該当する染色色素のいずれかの色素クラスと対応付ける。例えば、細胞質の色素H_bを色素H1、色素E_aを色素E0の色素クラスとそれぞれ対応付ける。同様に、線維領域の色素H_cを色素H2、色素E_aを色素E0と対応付ける。また、核の色素H_aを色素H0、色素E_bを色素E1と対応付ける。また、核周囲の細胞質の色素H_bを色素H3、色素E_aを色素E0と対応付ける。これらの対応付けはあくまでも例示であるが、このように対応関係を設定しておけば、実際に色素量推定を行った結果得られる各画素位置の色素クラス毎の色素量およびその含有比率から、各画素が属する組織を判定することができる。また、この場合には、このようにして画素毎に判定した組織をもとに、観察染色標本内の組織毎の領域を表した画像を生成して表示部13に表示処理するようにしてもよい。あるいは、観察染色RGB画像上で組織毎の領域を組織の領域を識別表示するようにしてもよい。
(実施の形態2)
図15は、実施の形態2における画像処理装置1bの機能構成を示すブロック図である。なお、図15において、実施の形態1で説明した画像処理装置1と同様の構成については同一の符号を付して示している。
図15に示すように、実施の形態2の画像処理装置1bは、染色標本画像撮像部11と、操作部12と、表示部13と、画像処理部14bと、記憶部16bと、制御部17bとを備える。
画像処理部14bは、スペクトル取得部141と、基準スペクトル取得部142と、色素量推定部148と、色素量補正手段としての色素量補正部150bと、分光特性合成手段としてのスペクトル合成部151bと、表示画像生成手段としての表示画像生成部149bとを含む。色素量補正部150bは、色素量調整入力依頼部177bによる調整入力依頼に応答して操作部12から入力されたユーザ操作に従って、色素量推定部148が推定した色素H、色素Eおよび色素Rの色素量を色素クラス単位で補正する。スペクトル合成部151bは、色素量補正部150bによる補正後の色素H、色素Eおよび色素Rの色素クラス毎の色素量をもとに分光透過率t(x,λ)を合成する。
また、記憶部16bには、観察染色標本上の各標本位置における色素量を推定し補正するための画像処理プログラム161bが記憶される。
そして、制御部17bは、基準領域候補選択部171と、色素クラス選択依頼手段としての色素選択入力依頼部173と、色素量調整入力依頼部177bと、表示処理手段としての画像表示処理部175bとを含む。色素量調整入力依頼部177bは、色素量の調整入力を依頼する処理を行い、操作部12を介してユーザによる色素量の調整操作を受け付ける。
この実施の形態2の画像処理装置1bは、実施の形態1において図2に示した処理手順において、ステップa11の画像表示処理にかえて図16に示す画像表示処理を行う。なお、画像処理装置1bが行う処理は、記憶部16bに記憶された画像処理プログラム161bに従って画像処理装置1bの各部が動作することによって実現される。
画像表示処理では先ず、図16に示すように、画像表示処理部175bが、実施の形態1で説明した図2のステップa5で合成されている観察染色RGB画像を表示画像として表示部13に表示する処理を行う(ステップf1)。
続いて、色素選択入力依頼部173が、表示対象色素の選択入力依頼の通知を表示部13に表示する処理を行う。そして、この選択入力依頼の通知に応答して表示対象色素の選択操作が入力された場合には(ステップf3:Yes)、色素量補正部150bが、表示対象色素以外の色素を非表示として色素量を補正する(ステップf5)。例えば、実施の形態1で説明した図2のステップa9で観察染色標本画像の画素毎に推定された色素量のうち、表示対象色素以外の色素の色素量を例えば全て“0”に置き換えて補正する。ここで、表示対象色素は、実施の形態1と同様に色素クラス単位で選択できるようになっており、色素量の補正は、色素クラス単位で行う。
続いて、スペクトル合成部151bが、補正後の色素H、色素Eおよび色素Rの色素クラス毎の色素量をもとに分光透過率t(x,λ)を合成する(ステップf7)。例えば、スペクトル合成部151bは、次式(33)に従い、実施の形態1で示した図3の基準スペクトル取得処理で取得した色素クラス毎の複数の基準スペクトルを用いて画素位置(x)における分光透過率t(x,λ)を新たに合成する。
続いて、表示画像生成部149bが、新たに合成した各画素位置(x)の分光透過率t(x,λ)をRGB値に変換し、RGB画像を合成することによって表示画像を生成する(ステップf9)。分光透過率t(x,λ)をRGB値に変換する処理は、図2のステップa3の手順と同様に、実施の形態1で上記した式(7),(8)を用いて行う。ここで合成されるRGB画像は、表示対象色素のみの染色状態を表した(表示対象色素の色素量のみを視覚化した)画像である。
続いて画像表示処理部175bが、ステップf9で生成された表示画像を表示部13に表示する処理を行い(ステップf11)、その後ステップf23に移行する。このとき、ステップf9で生成された表示画像を、既に表示されている表示画像にかえて表示処理することとしてもよいし、これらを並べて表示処理する構成としてもよい。
また、以上のようにして表示画像を表示している間、表示対象色素についての色素量の調整操作を受け付けるようになっている。例えば、色素量調整入力依頼部177bは、色素量の調整入力依頼の通知を表示部13に表示する処理を行い、この調整入力依頼の通知に応答して色素量の調整操作が入力されると(ステップf13:Yes)、入力された調整量を色素量補正部150bに通知する。
そして、色素量補正部150bが、表示対象色素の色素量を、色素量調整入力依頼部177bから通知された調整量に従って補正する(ステップf15)。その後、スペクトル合成部151bが、補正後の色素H、色素Eおよび色素Rの色素クラス毎の色素量をもとに、ステップf7と同様の手順で上記した式(33)に従って新たに分光透過率t(x,λ)を合成する(ステップf17)。そして、表示画像生成部149bが、新たに合成した各画素位置の分光透過率t(x,λ)を、ステップf9と同様の手順で上記した式(7),(8)を用いてRGB値に変換し、RGB画像を合成することによって表示画像を生成する(ステップf19)。
続いて画像表示処理部175bが、ステップf19で生成された表示画像を表示部13に表示する処理を行い(ステップf21)、その後ステップf23に移行する。このとき、ステップf19で生成された表示画像を、既に表示されている表示画像にかえて表示処理することとしてもよいし、これらを並べて表示処理する構成としてもよい。
そして、ステップf23では、画像表示の終了判定を行い、終了しない間は(ステップf23:No)、ステップf3に戻って表示対象色素の選択操作を受け付ける。例えばユーザによって画像表示の終了操作が入力された場合には終了すると判定する(ステップf23:Yes)。
ここで、ユーザが表示画像を観察する際の操作例について説明する。図17は、実施の形態2における表示画像の観察画面の一例を示す図である。図17に示す観察画面は、3つの画像表示部W51,W53,W55を備える。また、観察画面は、実施の形態1と同様に表示対象色素を選択するための色素H選択メニューM51、色素E選択メニューM53および色素R選択メニューM55を備え、染色色素毎に色素クラス単位で表示対象色素の選択が可能となっている。
そして、図17中に向かって左側の画像表示部W51には、例えば観察染色RGB画像が表示される。一方、向かって中央および右側の画像表示部W53,W55には、それぞれ表示対象色素の色素量のみを表した表示対象色素染色画像が表示される。この表示対象色素染色画像は、図16のステップf9の処理で生成される表示画像に相当し、図17では、表示対象色素として選択されている色素H0のみの染色状態を表した画像が表示される。
さらに、観察画面は、色素量調整メニューM57を備え、表示対象色素の色素量を調整するためのスライダーバーSB57や、スライダーバーSB57での操作を確定するOKボタンB57等が配置されている。例えば、画像表示部W53や画像表示部W55に表示されている表示対象色素染色画像を観察・診断中に、表示対象色素の染色状態を濃くしたい、あるいは薄くしたいといった場合に、ユーザは、この色素量調整メニューM57においてスライダーバーSB57を操作し、表示対象色素の色素量の調整量を入力する。図17中、右側の画像表示部W55に表示されている表示対象色素染色画像は、スライダーバーSB57を用い、中央の画像表示部W53に表示されている表示対象色素染色画像よりも色素H0の色素量を薄く調整することによって表示させた画像である。
以上説明したように、実施の形態2によれば、実施の形態1と同様の効果を奏するとともに、ユーザの調整操作に従って推定した表示対象色素の色素量を色素クラス単位で補正することができる。そして、補正後の各染色色素の色素量をもとに各画素位置のスペクトルを合成し、RGB画像を合成することによって表示画像を生成することができる。あるいは、表示対象色素以外の色素の色素量をゼロに補正することで、表示対象色素の色素量のみを視覚化した画像を表示画像として生成することができる。したがって、各染色色素による染色状態をユーザ操作に従って色素クラス単位で補正し、観察染色標本内を視認性良く表した画像をユーザに提示することができる。ユーザにとっては、所望の染色色素を色素クラス単位で選択して色素量を調整したり、観察・診断に不要な染色色素あるいは観察・診断に不要な色素クラスの色素を除く等して、各染色色素による染色状態を色素クラス単位で個別に調整して視認性良く観察でき、診断精度が向上する。
また、上記した各実施の形態では、H&E染色が施された染色標本を観察対象とする場合について説明し、H&E染色された染色標本を対象としているため、色素H、色素Eおよび色素Rの色素量を推定する場合を例示した。これに対し、本発明は、他の染色色素で染色された標本に対しても同様に適用することができ、その色素量を推定できる。また、上記した各実施の形態における色素Rのように、標本自体が有する固有の色についても同様に扱うことができる。