JP2015114172A - 画像処理装置、顕微鏡システム、画像処理方法、及び画像処理プログラム - Google Patents

画像処理装置、顕微鏡システム、画像処理方法、及び画像処理プログラム Download PDF

Info

Publication number
JP2015114172A
JP2015114172A JP2013255413A JP2013255413A JP2015114172A JP 2015114172 A JP2015114172 A JP 2015114172A JP 2013255413 A JP2013255413 A JP 2013255413A JP 2013255413 A JP2013255413 A JP 2013255413A JP 2015114172 A JP2015114172 A JP 2015114172A
Authority
JP
Japan
Prior art keywords
shape
image
tissue
organelle
image processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2013255413A
Other languages
English (en)
Inventor
康伸 五十嵐
Yasunobu Igarashi
康伸 五十嵐
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Software Technology Co Ltd
Original Assignee
Olympus Software Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Software Technology Co Ltd filed Critical Olympus Software Technology Co Ltd
Priority to JP2013255413A priority Critical patent/JP2015114172A/ja
Publication of JP2015114172A publication Critical patent/JP2015114172A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Investigating Or Analysing Materials By Optical Means (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)
  • Investigating Or Analysing Biological Materials (AREA)

Abstract

【課題】生体から採取した組織標本の画像に写った繊維状組織又は管状組織の境界の認識精度を向上させる画像処理装置等を提供する。
【解決手段】生体から採取された標本の画像を取得する画像取得部12と、該画像に写った核の形状を個別に認識する単一核認識部151と、該核の形状に基づいて、画像に写った繊維状組織又は管状組織の形状を認識する組織認識部152とを備える。
【選択図】図1

Description

本発明は、生体標本の顕微鏡観察画像に写った繊維状組織又は管状組織の形状を認識する画像処理装置、顕微鏡システム、画像処理方法、及び画像処理プログラムに関する。
従来、生体観察や病理診断においては、生体から採取した組織標本の顕微鏡観察画像に写った組織が有する特徴に基づいて、生体の状態や病状を判断することが行われている。例えば、特許文献1には、染色された組織標本の画像から、画素の輝度値に基づいて細胞核領域、細胞質領域、腺腔領域をそれぞれ抽出し、これらの各領域の形状の特徴を示す基本特徴量を計測し、輝度値及び基本特徴量に基づき、組織標本の病状に応じて限定的に出現する特殊領域がこれらの各領域に存在するか否かを確認する技術が開示されている。
特開2009−180539号公報
上記特許文献1においては、生体の状態や病状の判断にあたって、病状の確認に利用される特殊領域以外の領域の特徴、例えば、組織の境界や該境界内部の領域の特徴は考慮されておらず、精度の良い境界認識も行われていない。しかしながら、組織の境界によって特定される該組織の形状や、境界によって区切られる領域ごと(内部領域及び外部領域)の特徴も、病理診断等においては重要な判断要素となることがある。例えば、繊維状組織や管状組織の境界を精度良く認識することができれば、それらの境界情報を種々の診断に利用できる、或いは新しい解剖学的知見が得られる可能性がある。
本発明は上記に鑑みてなされたものであり、生体から採取した組織標本の画像に写った繊維状組織又は管状組織の境界の認識精度を向上させる画像処理装置、顕微鏡システム、画像処理方法、及び画像処理プログラムを提供することを目的とする。
上述した課題を解決し、目的を達成するために、本発明に係る画像処理装置は、生体から採取した組織標本の画像を取得する画像取得部と、前記画像に写った所定の細胞小器官の形状を個別に認識する細胞小器官認識部と、前記所定の細胞小器官の形状に基づいて、前記画像に写った繊維状組織又は管状組織の形状を認識する組織認識部と、を備えることを特徴とする。
上記画像処理装置において、前記細胞小器官認識部は、前記画像を構成する各画素が前記所定の細胞小器官を表す画素であるか否かを判定し、前記所定の細胞小器官を表すと判定された画素の領域である細胞小器官領域の形状を認識する細胞小器官形状認識部と、前記細胞小器官領域の形状を定量化した情報である細胞小器官情報を生成する細胞小器官情報生成部と、を備えることを特徴とする。
上記画像処理装置において、前記細胞小器官情報は、前記細胞小器官領域の形状を直線に近似したときの該直線の傾き又は該直線と所定の角度をなす直線の傾きであることを特徴とする。
上記画像処理装置において、前記直線は、前記細胞小器官領域の形状を回帰分析により近似した一次関数によって表される直線、又は前記細胞小器官領域の形状の慣性主軸であることを特徴とする。
上記画像処理装置において、前記組織認識部は、前記画像から抽出された複数の前記細胞小器官領域についてそれぞれ生成された前記細胞小器官情報の統計情報を算出する統計情報算出部と、前記統計情報算出部により算出された前記統計情報に基づいて、前記繊維状組織又は前記管状組織の形状を認識する組織形状認識部と、を備えることを特徴とする。
上記画像処理装置において、前記統計情報は、平均値、中央値、最頻値、分散、標準偏差、尖度、歪度、エントロピー及び分布関数のうちの少なくとも1つであることを特徴とする。
上記画像処理装置において、前記組織形状認識部は、前記画像内における前記繊維状組織又は前記管状組織の形状を推定し、該推定した前記繊維状組織又は前記管状組織の形状を定量化した形状情報と、前記統計情報算出部によって算出された前記統計情報の算出結果とを比較することにより、前記繊維状組織又は前記管状組織の形状を認識する、ことを特徴とする。
上記画像処理装置において、前記組織形状認識部は、前記細胞小器官領域の形状を事前知識として用いて前記繊維状組織又は前記管状組織の形状を認識することを特徴とする。
上記画像処理装置において、前記所定の細胞小器官は、核又はミトコンドリアであることを特徴とする。
上記画像処理装置において、前記繊維状組織又は前記管状組織は、神経、筋、腱、及び血管のうちの少なくとも1つであることを特徴とする。
本発明に係る顕微鏡システムは、前記画像処理装置と、生体から採取した組織標本の拡大像を生成する顕微鏡装置と、前記拡大像を撮像することにより画像を生成して前記画像取得部に入力する撮像部と、を備えることを特徴とする。
本発明に係る画像処理方法は、生体から採取した組織標本の画像を処理する画像処理装置が実行する画像処理方法において、演算部が、画像データを読み込むことにより前記画像を取得する画像取得ステップと、前記演算部が、前記画像に写った所定の細胞小器官の形状を個別に認識する細胞小器官認識ステップと、前記演算部が、前記所定の細胞小器官の形状に基づいて、前記画像に写った繊維状組織又は管状組織の形状を認識する組織認識ステップと、を含むことを特徴とする。
本発明に係る画像処理プログラムは、体から採取した組織標本の画像を取得する画像取得ステップと、前記画像に写った所定の細胞小器官の形状を個別に認識する細胞小器官認識ステップと、前記所定の細胞小器官の形状に基づいて、前記画像に写った繊維状組織又は管状組織の形状を認識する組織認識ステップと、をコンピュータに実行させることを特徴とする。
本発明によれば、画像内で認識された細胞小器官の形状をもとに繊維状組織又は管状組織の形状を認識するので、繊維状組織又は管状組織の形状の認識精度を向上させることが可能となる。
図1は、本発明の実施の形態1に係る画像処理装置の構成例を示すブロック図である。 図2は、複数の神経繊維を拡大して示す模式図である。 図3は、1本の神経繊維の一部を拡大して示す模式図である。 図4は、図3に示す領域R2を拡大して示す模式図である。 図5は、複数の神経繊維を、該神経繊維が伸びる方向とほぼ直交する面で切断した場合の断面を示す模式図である。 図6は、複数の神経繊維を、該神経繊維が伸びる方向とほぼ直交する面に対して傾斜した面で切断した場合の断面を示す模式図である。 図7は、図1に示す画像処理装置の動作を示すフローチャートである。 図8は、図1に示す単一核認識部が実行する核認識処理を示すフローチャートである。 図9は、LSM法を核領域の形状の認識方法に適用した例を説明するための模式図である。 図10は、LSM法を核領域の形状の認識方法に適用した例を説明するための模式図である。 図11は、LSM法を核領域の形状の認識方法に適用した例を説明するための模式図である。 図12は、LSM法を核領域の形状の認識方法に適用した例を説明するための模式図である。 図13は、処理対象の画像から認識された核領域を示す模式図である。 図14は、図1に示す組織認識部が実行する組織認識処理を示すフローチャートである。 図15は、2種類のレベルセット関数における符号の組み合わせに応じて分類される4つの領域を示す模式図である。 図16は、核領域が黒画素によって示された二値化画像の例を示す模式図である。 図17は、本発明の実施の形態2に係る画像処理方法を説明するための模式図である。 図18は、本発明の実施の形態4に係る顕微鏡システムの構成を示す模式図である。
以下、本発明に係る画像処理装置、顕微鏡システム、画像処理方法、及び画像処理プログラムの実施の形態について、図面を参照しながら詳細に説明する。なお、これらの実施の形態により本発明が限定されるものではない。また、各図面の記載において、同一部分には同一の符号を付して示している。
(実施の形態1)
図1は、本発明の実施の形態1に係る画像処理装置の構成を示すブロック図である。図1に示すように、実施の形態1に係る画像処理装置10は、当該画像処理装置10に対する指示や情報の入力する際に用いられる入力部11と、処理対象の画像に対応する画像情報(画像データ)を取得する画像取得部12と、処理対象の画像や種々の演算結果を出力する出力部13と、記憶部14と、入力された画像に所定の演算処理を施す演算部15と、これらの各部の動作を制御する制御部16とを備える。また、画像処理装置10に、出力部13から出力された画像や演算結果、その他各種情報を画面に表示する表示装置17を接続しても良い。
入力部11は、キーボード、各種ボタン、各種スイッチ等の入力デバイスや、マウスやタッチパネル等のポインティングデバイスを含み、これらのデバイスに対する操作に応じた信号を制御部16に入力する。
画像取得部12は、例えば顕微鏡装置に取り付けられた撮像装置(カメラ)やサーバ等(いずれも図示せず)から出力された画像データを当該画像処理装置10に取り込むインタフェースである。画像取得部12は、撮像装置から画像データを直接、リアルタイムに取り込んでも良いし、サーバに一旦保存された画像データを随時取り込んでも良い。
ここで、撮像装置は、撮像素子が有する各画素においてR(赤)、G(緑)、B(青)の各バンドにおける画素レベル(画素値)を持つカラー画像を生成可能なカメラを用いて構成される。また、撮像装置は、RGB色空間で表された画素値を、YCbCr色空間で表された画素値に変換した画像データを生成しても良い。画像取得部12は、このような画像データを撮像装置等から取得して記憶部14に記憶させる。
記憶部14は、更新記録可能なフラッシュメモリ、RAM、ROM等の半導体メモリや、内蔵若しくはデータ通信端子で接続されたハードディスク、MO、CD−R、DVD−R等の記録媒体及び該記録媒体に記録された情報を読み取る読取装置等によって構成される。記憶部14は、画像取得部12が取り込んだ画像データや、演算部15及び制御部16がそれぞれ実行する各種プログラム及び各種設定情報を記憶する。具体的には、記憶部14は、生体から採取した組織標本の顕微鏡観察画像から繊維状組織又は管状組織の輪郭を認識する画像処理プログラムを記憶するプログラム記憶部141と、画像取得部12が取得した画像データを記憶する画像データ記憶部142とを備える。
演算部15は、例えばCPU等のハードウェアによって構成され、プログラム記憶部141に記憶された画像処理プログラムを読み込むことにより、所定の画像処理を実行する。具体的には、演算部15は、画像データ記憶部142に記憶された画像データに対し、必要に応じ、前処理としてホワイトバランス処理、デモザイキング、色変換、濃度変換(ガンマ変換等)、平滑化(ノイズ除去等)、鮮鋭化(エッジ強調等)等の画像処理を施すことにより画像を生成し、生成した画像から繊維状組織又は管状組織の輪郭を認識する画像処理を実行する。演算部15の詳細な構成については、後述する。
制御部16は、例えばCPU等のハードウェアによって構成され、プログラム記憶部141に記憶された各種制御プログラムを読み込むことにより、該プログラム記憶部141に記憶された各種設定情報や入力部11から入力された情報に基づいて、当該画像処理装置10を統括的に制御する。
表示装置17は、例えば、LCD、ELディスプレイ、CRTディスプレイ等の表示装置によって構成され、画像処理装置10の出力部13から出力された画像や、該画像から抽出された繊維状組織又は管状組織に関する情報等を画面に表示する。
なお、実施の形態1においては、表示装置17を画像処理装置10の外部に設けているが、表示装置17を画像処理装置10の内部に設けても良い。
次に、演算部15の詳細な構成について説明する。
図1に示すように、演算部15は、画像データ記憶部142に記憶された画像データを読み出し、該画像データに対応する画像から、標本内に存在する所定の細胞小器官、具体的には核の形状を個別に認識する細胞小器官認識部の一例としての単一核認識部151と、該単一核認識部151により認識された核の形状に基づいて、当該標本内に存在する繊維状組織又は管状組織の形状を認識する組織認識部152とを備える。
ここで、繊維状組織とは、上皮組織、結合組織、筋組織、神経組織のことである。具体例としては、筋繊維、筋肉繊維、筋原繊維、筋束、腱、神経繊維、神経繊維束等が挙げられる。より詳細には、弾性繊維、膠原繊維、平滑筋、横紋筋、内臓筋、心筋、骨格筋、靭帯、アキレス腱、無髄無鞘神経繊維、無髄有鞘神経繊維、有髄無鞘神経繊維、有髄有鞘神経繊維等の細長い形状をなす組織のことである。一般に、筋や腱のように、一定の方向に絶えず引っ張る力がかかるような部位においては、力のかかる方向と平行に繊維が緻密に配列される。また、管状組織には、血管、リンパ管、水管、消化管、胆管、気管、輸尿管、細尿管、尿管、マルピーギ管、腎管、原腎管、輸卵管、輸精管、産卵管等が含まれる。
図2は、繊維状組織の一例としての複数の神経繊維を拡大して示す模式図である。図2に示す1本の神経繊維(輪郭BFによって画定される領域)は、軸索や神経突起の単体又は集合体からなり、神経繊維の束又は神経繊維束と表現する場合もある。本出願において神経繊維という場合、神経繊維の束(神経繊維束)を含むものとする。図2においては、神経繊維が伸びる方向(長手方向)をZ方向としている。ここで、生体組織の形態観察において一般的に用いられる染色方法として、ヘマトキシリン・エオジン染色(以下、HE染色という)が知られている。HE染色においては、細胞小器官の1つである核がヘマトキシリンにおいて青紫色に染色され、細胞質がエオジンによって赤色に染色される。それに加えて、ミトコンドリアもエオジンに好適に染色される。これは、ミトコンドリアの外膜や内膜に含まれる様々なたんぱく質の量が他の細胞小器官と比べて多いためと考えられる。
図3は、図2に示す神経繊維のうち、1本の神経繊維(神経繊維束)の一部(例えば領域R1)を拡大して示す模式図である。図3(a)は該標本のYZ平面における断面を示し、図3(b)は該標本のXZ平面における断面を示す。
図4は、図3に示す神経繊維の一部(例えば領域R2)を拡大して示す模式図である。図3及び図4に示すように、神経繊維においては、染色されたミトコンドリアが、繊維が伸びる方向に沿って存在していることが観察される。
また、図示はしないが、筋繊維を同様に染色して観察した場合には、染色された核が、筋繊維が伸びる方向に沿って存在していることが観察される。
図5は、複数の神経繊維を、該神経繊維が伸びる方向とほぼ直交する面(例えば図2においては、L1−L1線を通る面)で切断した場合の断面を示す模式図である。この場合、図5に示すように、切断面における神経繊維の輪郭BFの形状は、概ね円に近い形状となる。
図6は、複数の神経繊維を、該神経繊維が伸びる方向とほぼ直交する面に対して傾斜した面(例えば図2においては、L2−L2線を通る面)で切断した場合の断面を示す模式図である。この場合、切断面における神経繊維の輪郭BFの形状は、切断面の傾斜に応じて扁平な形状となる。
本願発明者は、このように、種々の繊維状組織や管状組織の標本を様々な面で切断し、各切断面における顕微鏡観察像を鋭意観察した結果、切断面における繊維状組織や管状組織の輪郭形状と、同じ切断面において観察される細胞小器官、具体的には、核やミトコンドリアの形状とに相関があることを見出した。例えば、図5において、核N1やミトコンドリアN2の形状は、その周囲に示す神経繊維の輪郭BFの形状と同様に、概ね円形状をなしている。それに対し、図6において、核N1やミトコンドリアN2の形状は、その周囲に示す神経繊維の輪郭BFの形状と同様に、扁平な形状をなしている。
このような観察結果から、本願発明者は、繊維状組織や管状組織の輪郭を認識する際に、核やミトコンドリアといった細胞小器官の形状に関する情報を利用することで、認識精度を向上させることができる本願発明に想到した。
再び図1を参照すると、単一核認識部151は、処理対象である画像を構成する各画素が核を表す画素であるか否かを判定し、核を表すと判定された画素の領域である核領域の形状を認識する細胞小器官形状認識部の一例としての核形状認識部151aと、認識された核領域の形状を定量化した情報である核情報を生成する細胞小器官情報生成部の一例としての核情報生成部151bとを備える。
また、組織認識部152は、単一核認識部151によって算出された核領域の核情報の統計情報を算出する統計情報算出部としての統計値算出部152aと、核情報の統計情報の算出結果に基づいて、画像内の繊維状組織又は管状組織の形状を認識する組織形状認識部152bとを備える。
次に、画像処理装置10の動作について説明する。図7は、画像処理装置10の動作を示すフローチャートである。なお、以下においては、標本の観察画像内に存在する繊維状組織の形状を認識する場合を説明するが、管状組織についても同様の手法により形状を認識することができる。また、以下においては、細胞小器官の一例として核の形状に基づいて繊維状組織の形状を認識する場合を説明するが、核の形状の代わりに、ミトコンドリア等、繊維状組織や管状組織が伸びる方向に沿って存在する他の細胞小器官の形状に基づいて、同様に繊維状組織や管状組織の形状を認識することも可能である。
まず、ステップS10において、演算部15は、画像データ記憶部142から画像データを読み込むことにより、処理対象の画像(生体の組織標本の観察画像)を取得する。処理対象の画像は、生体から採取された検体に、少なくとも核及び繊維状組織を染色可能な染色処理(例えば、ヘマトキリシン・エオジン(HE)染色)が施された標本を、顕微鏡装置に設けられた撮像装置で撮像することによって取得されたものである。
続くステップS11において、単一核認識部151は、ステップS10において取得された画像に対し、必要に応じて、ホワイトバランス処理、デモザイキング、色変換、濃度変換(ガンマ変換等)、平滑化(ノイズ除去等)、鮮鋭化(エッジ強調等)等の前処理(画像処理)を施した上で、画像内に存在する核の領域を個別に認識する処理を行う。図8は、単一核認識部151が実行する核認識処理を示すフローチャートである。
ステップS111において、核形状認識部151aは、画像を構成する画素が核を表す画素であるか否かを画素毎に判定し、核を表す画素からなる核領域の形状を認識する。核を表す画素であるか否かの判定は、例えば、各画素の画素値、又は該画素値から算出される色情報(色差、色比、色相等)に基づいて行われる。具体的には、HE染色が施された標本においては、核が青紫色に染色されるので、画素値から算出される色特徴量が青紫色の色特徴量の範囲に含まれる画素が、核を表す画素であると判定される。
続いて、核形状認識部151aは、核を表す画素と判定した画素群からなる領域、即ち核領域の形状を認識する。核領域の形状の認識方法としては、公知の種々の方法が挙げられる。具体的には、二値化法、p−タイル法、微分ヒストグラム法、モード法、可変閾値法、対応領域探索法、テンプレートマッチング法等の一般的画像解析方法や、動的輪郭法(スネーク法)、領域成長法(極値収束法、分水嶺法)、領域競合法、領域拡張法、分割・統合法、グラフカット法等の輪郭検出方法や、判別分析、因子分析、主成分分析、独立成分分析、決定木、ニューラルネットワーク、自己組織化マップ、ノンパラメトリック手法、遺伝的アルゴリズム、サポートベクターマシーン、ブースティング、ベイズ判別、機械学習、クラスタリング、クラシフィケーション等のパターン認識(識別)方法を用いることができる。
実施の形態1においては、一例として、レベルセット(Level Set Method:LSM)法を用いて核領域の形状を認識する。LSM法とは、画像内において認識対象(例えば、核や繊維)と背景(認識対象外である血球、間質、上皮等)が明確に分離されていない状況であっても、認識対象と背景との境界を認識することができる技術である。LSM法においては、認識対象の輪郭(例えば、核領域の輪郭)の初期値を設定すると共に、エネルギー関数(又は評価関数)を設定し、該エネルギー関数が最小化されるように輪郭を更新することで、輪郭を初期値から認識対象の境界に近づける手法である。
以下においては、図9〜図12を参照しながら、チャン(Chan)らが提案した領域依存のエネルギー関数で定義されるLSM法を核領域の形状認識に適用した例を説明する。なお、エネルギー関数で定義されるLSM法については、特許第4614149号公報、及び、チャン(Chan)等による「Active Contours Without Edges」(IEEE TRANSACTIONS ON IMAGE PROCESSING, Vol. 10, No. 2(2001年2月)、第266〜277頁)も参照されたい。
LSM法においては、図9に示すように、3次元のレベルセット関数φ(x,y,t)のゼロ等位面SA、即ち、φ=0となる面において、次式(1)によって与えられる2次元の輪郭C(x,y,t)を表現する。
Figure 2015114172
ここで、座標(x,y)は、演算部15における処理対象の画像上の各画素位置(ピクセル)を示す。また、符号tは時間(又はレベルセット関数φを更新するイタレーション)を示す。以下、レベルセット関数φ(x,y,t)を単に関数φとも記し、輪郭C(x,y,t)を単に輪郭Cとも記す。
図10は、レベルセット関数φ(x,y,t)をゼロ等位面SAで切った切り口、即ち輪郭Cを概略的に示す図である。次式(2−1)〜(2−3)に示すように、図10に示す領域Ωは輪郭Cの内側の領域を示し、領域Ω*は輪郭Cの外側の領域を示す。
Figure 2015114172
ここでは、説明を簡単にするために、図10に示すように、処理対象の画像内に形状認識の対象である1つの核領域Nuが存在し、輪郭Cが核領域Nuの外側に初期設定されたものとする。また、核領域Nuと背景との境界を符号Bで示す。なお、以下の説明は、核領域Nuが複数個存在する場合であっても、同様に成立する。
核形状認識部151aは、関数φによって与えられる輪郭Cを境界Bと一致させることで、核領域Nuの境界Bを認識することができる。具体的には、核形状認識部151aは、レベルセット関数φに適当な初期値を与え、次式(3)に示すようにエネルギー関数Eが最小となるようにレベルセット関数φを更新することにより、核領域Nuの境界Bを認識する。
Figure 2015114172
図11は、エネルギー関数Eを示すグラフである。図11に示す横軸は、輪郭Cが取り得る形状を定量化した値を示す。このエネルギー関数Eは、輪郭Cが核領域Nuの境界に沿っている程度指標であり、輪郭Cが核領域Nuの境界に完全に沿っているときに極小(C=C(Nu))となる。
ここで、核領域Nuと背景との境界B近傍における輝度変化が明瞭でない場合においても、境界Bを認識できるように、次式(4)によって与えられるエネルギー式を利用する。
Figure 2015114172
式(4)に示す符号Einは、輪郭Cの内側におけるエネルギー関数(以下、内部エネルギー関数と言う)であり、次式(5)によって与えられる。
Figure 2015114172
式(5)における積分区間は処理対象の画像全体であり、符号αは、内部エネルギー関数Einの重みパラメータを示す。
一方、式(4)に示す符号Eoutは、輪郭Cにおける外側のエネルギー関数(以下、外部エネルギー関数と言う)であり、次式(6)によって与えられる。
Figure 2015114172
式(6)における積分区間は処理対象の画像全体であり、符号βは、外部エネルギー関数Eoutの重みパラメータを示す。また、式(6)に示す項λ11(φ)は、境界Cの内側の領域Ωを積分した成分を示し、項λ22(φ)は、境界Cの外側の領域Ω*を積分した成分である。符号λ1及びλ2は、領域Ω及び領域Ω*をそれぞれ基準としたときの輪郭Cの適合度の重みパラメータを示す。
式(5)及び(6)に示す符号Iは、画像中の座標(x,y)の輝度値I(x,y)を示す。また、次式(7−1)及び(7−2)に示すように、符号Iin及びIoutは、領域Ω及び領域Ω*における輝度値の面積平均をそれぞれ示す。
Figure 2015114172
なお、輝度値I及び輝度値の面積平均Iin,Ioutは、輝度値からなる1次元空間(グレー空間)だけでなく、RGB画素値からなる3次元カラー空間(RGB空間)等、任意の空間で定義しても良い。また、2次元以上で定義する場合には、各次元に重みをつけることもできる。
式(5)及び(6)に示す符号H(φ)は、次式(8)によって与えられるヘビサイド関数を示す。
Figure 2015114172
式(8)に示すヘビサイド関数を利用すると、1次元のデルタ関数は、次式(9)のように表すことができる。
Figure 2015114172
関数φの空間変化が小さければ、内部エネルギー関数Einは小さくなる。即ち、内部エネルギー関数Einは、輪郭Cを含む関数φの形状を滑らかにする機能、即ちスムーザーの機能を有する。
輪郭Cが核領域Nuの境界Bと一致している場合、外部エネルギー関数Eoutは最小値となる。即ち、外部エネルギー関数Eout=0を取る。つまり、外部エネルギー関数Eoutは、境界Bを認識する機能、即ちディテクターの機能を有する。
図12(a)〜(d)は、核領域Nuと輪郭Cとの関係を示す模式図である。ここで、核領域Nuと背景BGとの境界Bを境として、境界Bの内部の領域(核領域Nu)における輝度、及び境界Bの外部の領域(背景BG)における輝度はそれぞれ一定であるものと仮定し、外部エネルギー関数Eoutはこの仮定を前提として計算される。
図12(a)は、輪郭Cが境界Bの外側に設定されている場合を示し、F1(φ)>0、且つF2(φ)≒0となる。従って、この場合、輪郭Cは境界Bと一致しないと判断される。
図12(b)は、輪郭Cが境界Bの内側に設定されている場合を示し、F1(φ)≒0、且つF2(φ)>0となる。従って、この場合、輪郭Cは境界Bと一致しないと判断される。
図12(c)は、輪郭Cが境界Bの外側と内側とに跨っている場合を示し、F1(φ)>0、且つF2(φ)>0となる。従って、この場合、輪郭Cは境界Bと一致しないと判断される。
図12(d)は、輪郭Cが境界Bとほぼ一致している場合を示し、F1(φ)≒0、且つF2(φ) ≒0となる。従って、この場合、外部エネルギー関数Eoutは最小値となり、輪郭Cが検出されたことになる。
このような機能を有するエネルギー関数E(φ)(式(3)参照)は、輪郭Cを滑らかにすると同時に、輪郭Cを、初期設定された位置及び形状から核領域Nuの境界Bに近似する位置及び形状に変化させる。この式(3)は、式(4)〜(6)をオイラー・ラグランジェ方程式に対して最急降下法を用いて解くことにより、次式(10)として表すことができる。
Figure 2015114172
さらに、関数φの曲率κ(φ)は、次式(11)によって与えられる。
Figure 2015114172
式(10)を、空間的、時間的に離散化することにより、関数φを更新しつつ演算を繰り返す(イタレーション)ことができる。そして、連続する2回の演算により得られた関数φの値の差が閾値φthよりも小さくなれば、式(10)が収束したと判定し、そのときの輪郭Cの形状を、核領域Nuの形状として認識する。
このようにLSM法を利用することで、核領域Nuと背景BGとの境界Bが明瞭に区別できない場合であっても、境界Bを認識することができる。また、画像内に複数の核が存在する場合であっても、核の形状を個別に認識することができる。
さらに、核形状認識部151aは、認識した核の形状に対して、収縮、膨張、排他的収縮、排他的膨張、オープニング、クロージング、トップハット、ボトムハット、穴埋め、孤立穴除去、孤立点除去、細線化、スケルトン等のモルフォロジー処理や例外処理等の後処理(画像処理)を施しても良い。
以下においては一例として、図13に示すように、処理対象の画像M1から複数の核領域Nun(n=1、2、…)が認識されたものとして説明する。
図8に示すステップS111に続くステップS112において、核情報生成部151bは、核領域Nunの形状を定量化することにより核情報を生成する。核情報としては、例えば、核領域Nunを特定の形状に近似することによって得られるパラメータが用いられる。具体的には、核領域Nunの形状を3次元的な二次曲面(円柱、円錐、楕円体等の切断面)や、二次曲線(円、楕円)や、直線等に近似して得られた多項式の係数を核情報として用いることができる。或いは、多項式そのものや、パラメータの解析値を核情報として用いても良い。また、多項式の代わりに、ガウス分布や正規分布の分布関数、フーリエ変換、フーリエ記述子、回転子、位相回転子、ウェーブレット変換を用いて近似し、それらの式そのもの、パラメータ、パラメータの解析値を核情報として用いても良い。
また、核情報として、核領域Nunの形状そのものを表す特徴量や、該特徴量の解析値を用いることもできる。具体的には、面積、周囲長、中心値、質量中心値、円形度、真円度、複雑度、針状比、伸長度、オイラー数、連結成分の数、穴の数、多重連結成分の数、凸凹度、フィルタ処理を行うことにより算出された核領域の局所的な形状を表す特徴量、同時生起行列、フラクタル特徴量、高次局所自己相関特徴、歪度、尖度、長軸径、短軸径、最大径、最小径、対角幅、定方向径(フェレー径、クラムバイン径)、平均径(ヘイウッド径、マーテン径)、相当径(面積円相当径、周長円相当径)、有効径、最大弦長、投影長、等分径、外接円又は内接円の径、外接長方形又は内接長方形の径、外接楕円又は内接楕円の径、所定の軸に対するこれらの径の角度、核領域のモーメント情報を用いて正規化された楕円の偏心率及び長軸又は短軸の長さ及び所定の軸に対する角度、核領域Nun内に存在する凸包のピクセルの比率(Solidity)、核領域Nun内のピクセル数と境界全体のピクセル数との割合、核の極値点、トポロジー特徴量、ホモロジー特徴量等の特徴量等が挙げられる。
実施の形態1においては、一例として、核領域Nunの形状を直線に近似して得られたパラメータを核情報として利用する。即ち、図13に示すように、画像M1において認識された各核領域Nunに対し、回帰分析等の公知の手法により、当該画像M1のXY座標において各核領域Nunの形状を近似する1次関数Y=anX+bnを求める。この1次関数の傾きを表すパラメータanが、当該核領域Nunの核情報として用いられる。このパラメータanは、該1次関数とX軸とのなす角度(X軸からの回転角)ωを用いて、an=tanωと表すこともできる。
その後、画像処理装置10の動作はメインルーチンに戻る。
図7に示すステップS11に続くステップS12において、組織認識部152は、ステップS10において取得された画像に対し、必要に応じて、ホワイトバランス処理、デモザイキング、色変換、濃度変換(ガンマ変換等)、平滑化(ノイズ除去等)、鮮鋭化(エッジ強調等)等の前処理(画像処理)を施した上で、ステップS11において認識された核領域Nunの形状に基づいて、繊維状組織の輪郭形状を認識する処理を行う。図14は、組織認識部152が実行する組織認識処理を示すフローチャートである。
まず、ステップS121において、統計値算出部152aは、ステップS11において生成された核情報の統計値を算出する。統計値としては、平均値、中央値、最頻値、分散、標準偏差、尖度、歪度、エントロピー等が用いられる。或いは、統計値の代わりに核情報の分布関数等の統計情報を用いても良い。例えばステップS11において、画像M1から複数の核領域Nunが認識され、各核領域Nunに対して1次関数の傾きを表すパラメータanが算出された場合、パラメータanの統計値S(an)が算出される。
続くステップS122において、組織形状認識部152bは、繊維状組織の輪郭形状を推定する。繊維状組織の輪郭形状の推定方法としては、例えば、上述したLSM法を用いても良いし、その他の公知の一般的画像解析方法、輪郭検出方法、パターン認識方法を用いても良い。
ステップS123において、組織形状認識部152bは、ステップS122において推定した繊維状組織の輪郭形状を、評価関数を用いて評価する。より詳細には、まず、組織形状認識部152bは、ステップS112における核情報の生成と同様の手法で、推定した繊維状組織の輪郭形状を定量化した形状パラメータを算出する。例えば、上述したように、核領域Nunの形状を近似した直線の傾きを核情報として算出した場合、推定した繊維状組織の輪郭形状を直線に近似し、その傾きを算出する。
続いて、組織形状認識部152bは、評価関数として、ステップS121において算出した核情報の統計値(例えば、パラメータanの統計値S(an))と、推定した繊維状組織の輪郭形状の形状パラメータ(例えば、輪郭形状を近似した直線の傾き)との差分の絶対値を算出する。そして、算出した差分の絶対値が所定の閾値以下であるか否かを判定する。
評価関数の値(差分の絶対値)が所定の閾値よりも大きい場合(ステップS124:No)、処理はステップS122に戻る。この場合、組織形状認識部152bは、繊維状組織の輪郭形状の推定をやり直す。
一方、評価関数の値(差分の絶対値)が所定の閾値以下である場合(ステップS124:Yes)、組織形状認識部152bは、推定した輪郭形状を、繊維状組織の輪郭形状として認識し、輪郭情報を生成する(ステップS125)。この際、組織形状認識部152bは、認識した組織形状に対して、収縮、膨張、排他的収縮、排他的膨張、オープニング、クロージング、トップハット、ボトムハット、穴埋め、孤立穴除去、孤立点除去、細線化、スケルトン等のモルフォロジー処理や例外処理等の後処理(画像処理)を施しても良い。
その後、処理はメインルーチンに戻る。
ステップS12に続くステップS13において、演算部15は、生成した輪郭情報を出力して、表示装置17に表示させると共に、該輪郭情報を処理対象の画像データと関連づけて記憶部14に記憶させる。
その後、当該処理対象の画像に対する画像処理装置10の動作は終了する。
以上説明したように、実施の形態1によれば、画像内において認識された核領域の形状をもとに、繊維状組織の輪郭形状を推定し、評価関数を用いて推定した輪郭形状を評価するので、繊維状組織の輪郭形状を効率良く、且つ従来よりも精度良く認識することが可能となる。
なお、上記ステップS123においては、評価関数として、核情報の統計値と、推定した繊維状組織の輪郭形状の形状パラメータとの差分の絶対値を用いたが、評価関数はこの例に限定されない。例えば、両者の差分の2乗を評価関数としても良い。或いは、推定した輪郭形状の内側に含まれる核領域Nunの形状パラメータの分散、標準偏差、尖度、歪度、エントロピーを評価関数としても良いし、該形状パラメータの分布関数そのものを評価関数としても良い。
また、上記ステップS112においては、核領域Nunの形状を近似した直線の傾きを核情報として用いたが、該近似した直線と直交する直線の傾きや、該近似した直線と所定の角度をなす直線の傾きを核情報として用いても良い。この場合、ステップS123においても、推定した繊維状組織の輪郭形状を近似した直線と直交する直線の傾きや、該近似した直線と所定の角度をなす直線の傾きを用いて、推定した繊維状組織の輪郭形状を評価する。
(変形例1)
次に、本発明の実施の形態の変形例1について説明する。
上記実施の形態1においては、画像内に存在する核領域の形状を認識する際に(図8のステップS111参照)、背景が1種類であるという前提で、核領域と背景との境界を認識する演算を行った。しかしながら、実際の生体標本の顕微鏡観察画像においては、認識対象である核領域の他に、血球、間質、上皮等の種々の要素が存在するため、これらの各々と核領域とを分離する必要がある。そこで、本変形例1においては、2種類以上の背景に対して核領域の境界を認識可能なLSM法を説明する。なお、背景を2種類以上に分離する手法については、ベッセ(Vese)等による「A Multiphase Level Set Framework for Image Segmentation Using the Mumford and Shah Model」(International Journal of Computer Vision, 50(3)(2002年)、第271〜293頁)、及び、ヘ(He)等による「Local and Global Gaussian Mixture Models for Hematoxylin and Eosin Stained Histology Image Segmentation」(Hybrid Intelligent Systems (HIS)、2010 10th International Conference on IEEE(2010年)、第223〜228頁)も参照されたい。また、変形例1に係る画像処理装置の構成及び動作は、全体として実施の形態1と同様である(図1及び図7参照)。
式(4)に示すエネルギー関数E(φ)におけるレベルセット関数φを、次式(12)に示すように2種類のレベルセット関数φ1、φ2に拡張する。この場合、式(5)、(6)はそれぞれ、次式(13)、(14)に変形される。
Figure 2015114172
図15は、2種類のレベルセット関数における符号の組み合わせに応じて分類される4つの領域を示す模式図である。図15に示すように、処理対象の画像M2内の領域は、2種類のレベルセット関数φ1、φ2における符号の組み合わせに応じて、4つの領域R11(φ1≧0且つφ2≧0)、R10(φ1≧0且つφ2<0)、R01(φ<0且つφ2≧0)、R00(φ1<0且つφ2<0)に分類することができる。各領域R11、R10、R01、R00に含まれる画素の画素値の面積平均c11、c10、c01、c00は、次式(15−1)〜(15−4)によって与えられる。
Figure 2015114172
(15−1)〜(15−4)において、符号Iは各画素の画素値を示し、符号mean(I)は、当該領域に含まれる画素の画素値Iの面積平均を示す関数である。なお、画素値I及び画素値Iの面積平均c11、c10、c01、c00は、輝度値からなる1次元空間(グレー空間)だけでなく、RGB画素値からなる3次元カラー空間(RGB空間)等、任意の空間で定義しても良い。また、2次元以上で定義する場合には、各次元に重みをつけることもできる。
式(12)によって与えられるエネルギー関数E(φ1,φ2)が最小化されるようにレベルセット関数φ1及びφ2を更新すると、レベルセット関数φ1とφ2の符号の組み合わせに応じて分類される4つの領域R11、R10、R01、R00を用いて、4つの境界を示すことができる。これにより、HE染色が施された標本の画像を、核、血球、間質、及び上皮の4種類の領域に分類することができる。
(変形例2)
次に、本発明の実施の形態1の変形例2について説明する。
上記実施の形態1においては、LSM法を用いて核領域と背景との境界を認識する方法を説明した。これに対してさらに、認識した境界をもとに、核領域と背景とに二値のラベルを付与することにより、画像内を二値化し、それによって得られた二値化画像から、核情報として核領域の慣性主軸方向を検出することができる。なお、二値化画像から形状の特徴を求める手法については、CG−ARTS協会、「ディジタル画像処理」第2版(2009年)、第182〜183頁も参照されたい。
例えば図16に示すように、核領域が黒画素によって示された二値化画像M3が得られた場合、形状の特徴は、次式(16)に示すように、pq次モーメントM(p,q)によって与えられる。
Figure 2015114172
式(16)において、符号i及びjはそれぞれ、画像内のX軸及びY軸において黒画素が存在する位置を示す。例えば、モーメントM(0,0)は、黒画素があったときに1が加算されるので、核領域Nuの面積を与える。また、M(1,0)は、X軸における1次モーメントであり、M(0,1)は、Y軸における1次モーメントである。従って、核領域Nuの重心(gX,gY)は、次式(17)によって与えられる。
Figure 2015114172
さらに、核領域Nuの慣性主軸PAの方向を、重心(gX,gY)を通る直線とすると、次式(18)が成り立つ。
Figure 2015114172
従って、式(18)を解くことにより、核領域Nuの慣性主軸PAの方向(X軸からの回転角ω)を得ることができる。
なお、核情報としては、核領域の慣性主軸PAの方向の代わりに、該慣性主軸PAと直交する方向を用いることもできる。或いは、該直交する方向以外にも、慣性主軸に対して所定の角度をなす方向を用いても良い。
(実施の形態2)
次に、本発明の実施の形態2について説明する。
上記実施の形態1においては、LSM法等により繊維状組織の輪郭形状を推定し、該輪郭形状を評価する際に核情報を用いた。それに対し、本実施の形態2においては、繊維状組織の輪郭形状を推定する際に(図14のステップS122参照)核情報を用いる手法を説明する。なお、実施の形態2に係る画像処理装置及び画像処理方法は、全体として実施の形態1と同様である(図1及び図7参照)。
一般に、LSM法においては、画像中の画素が持つ情報として画素値(輝度値)を用いて演算が行われる。しかしながら、本実施の形態2においては、核領域に含まれる画素については、画素が持つ情報として、画素値(輝度値)の代わりに当該核領域の慣性主軸方向の情報を用いる。なお、慣性主軸方向の角度統計手法については、石原秀至、「角度データの統計処理基礎」、第4回定量生物学の会 チュートリアル(2012年1月7日)も参照されたい。
図17は、本発明の実施の形態2に係る画像処理方法を説明するための模式図である。例えば図17に示すように、処理対象の画像M4から複数の核領域Nunが検出され、各核領域Nunの慣性主軸方向の情報(直線の傾き)が算出された場合、組織認識部152は、各核領域Nunの重心位置に最も近い画素に、該慣性主軸方向の情報を付加する。慣性主軸方向の情報は、例えば、画像内の座標系(XY座標)における2次元ベクトルV(vX,vY)によって表される。なお、各ベクトルV(vX,vY)は、ベクトルの長さ√(vX 2+vY 2)が全ての核領域Nunの間で同じ長さとなるように予め規格化される。また、各領域Nunの重心位置に最も近い画素ではなく、該慣性主軸方向の情報を付加されなかった画素のベクトルV(vX,vY)の値は、(0,0)等の定数を代入しても良いし、近辺の画素が持つベクトルV(vX,vY)の値を用いて内挿、外挿、補間、又は推定をする、或いは、近辺の画素のベクトルV(vX,vY)にフィルタをかけた結果の値を代入するなどして求めても良い。内挿、外挿、補間、又は推定の方法としては、0次補間(最近傍補間、最近傍点補間)、線形補間(直線補間、1次補間)、放物線補間(2次補間)、多項式補間、キュービック補間(3次補間)、キュービックコンボリューション、ラグランジュ補間、スプライン補間、シンク関数を用いた補間、ランツォシュ補間、カーネル密度推定等が挙げられる。
組織認識部152は、このように核領域Nunの慣性主軸方向の情報が付加された画像に対し、必要に応じて、ホワイトバランス処理、デモザイキング、色変換、濃度変換(ガンマ変換等)、平滑化(ノイズ除去等)、鮮鋭化(エッジ強調等)等の前処理(画像処理)を施した上で、LSM法を適用する。
上述したようなベクトル値を有する画素に対してLSM法を適用すると、慣性主軸方向(ベクトルV)が近い画素同士をまとめるように輪郭BFが認識される。ここで、繊維状組織内に含まれる核同士は互いに慣性主軸方向が近いので、このようにして認識された輪郭BFを繊維状組織の輪郭として認識することができる。従って、この手法を、実施の形態1と組み合わせることで、繊維状組織の認識性能をさらに向上させることもできる。
また、LSM法の他にも、認識した輪郭BF内に含まれる核領域Nunの慣性主軸方向(ベクトルV)の標準偏差や分散が小さくなるように輪郭BFを更新することで、輪郭BFを認識しても良い。或いは、慣性主軸方向の分布関数に基づいて決定される特徴に基づき、例えばエントロピーが最小化されるように輪郭BFを更新することで、輪郭BFを認識しても良い。
なお、LSM法においては、計算を簡単にするために、実施の形態1における式(4)〜(6)を、次式(19)〜(21)のように変形しても良い。
Figure 2015114172
このうち、式(21)における輝度値Iの代わりにベクトルVが代入される。この際、ベクトルVの和、差、及び平均は、角度統計に従ってベクトルとして算出される。また、絶対値はベクトルの長さとして算出される。
本実施の形態2においても、実施の形態1の変形例1と同様に、複数種類のレベルセット関数を用いてLSM法の演算を行っても良い。
(実施の形態3)
次に、本発明の実施の形態3について説明する。
本実施の形態3においては、繊維状組織の輪郭形状を推定する際に(図14のステップS122参照)、事前知識を用いる手法を説明する。なお、事前知識を用いた画像認識の手法については、フッセネガー(Fussenegger)等による「A Multiphase Level Set Based Segmentation Framework with Pose Invariant Shape Priors」(Computer Vision−ACCV 2006, Springer Berlin Heidelberg(2006年)、第395〜404頁)も参照されたい。また、実施の形態3に係る画像処理装置及び画像処理方法は、全体として実施の形態1と同様である(図1及び図7参照)。
ここで、繊維状組織の断面における輪郭形状は、概ね円形又は楕円形をなしている。しかしながら、観察対象である生体標本の作成条件(染色法、切断面等)や顕微鏡における観察条件(検鏡法、倍率等)は観察の都度異なるため、事前知識として、楕円の大きさ、傾き、及び位置を予め指定することは困難である。そこで、本実施の形態3においては、事前知識として用いる楕円の情報に対し、拡大縮小、回転、移動の自由度を与えて繊維状組織の境界を認識する方法を説明する。
まず、上述したエネルギー関数E(φ)の式(4)を、次式(22)のように変形する。
Figure 2015114172
このうち、右辺の第1項及び第2項は、式(5)、(6)で与えられる。
また、右辺の第3項Eshapeは、事前知識に関する項であり、次式(23)によって与えられる。
Figure 2015114172
式(23)において、符号φは、楕円形状を表す事前知識が作り得るレベルセット関数を示す。また、符号Aは、レベルセット関数φ、φ0間での変換を与える演算子(ベクター又は行列)であり、具体的には、式(24)に示すように、拡大又は縮小の倍率s、回転角θ、及び平行移動の移動量Tによって構成される。また、符号γは、第3項Eshapeの重みパラメータを示す。
このようなエネルギー関数E(φ)を、最急降下法を用いて解くと、次式(25)が得られる。
Figure 2015114172
ただし、倍率s、回転角θ、移動量Tは、次式(26)〜(28)に示す自己無撞着方程式に従って更新する。
Figure 2015114172
これらの式(25)〜(28)によって得られるレベルセット関数φの輪郭C(図9参照)が、楕円形状の情報を事前知識として用いた場合における境界認識結果(即ち、繊維状組織の輪郭)を示す。
このように、繊維状組織の輪郭が楕円形状に近いと予測される場合には、事前知識を用いることで、輪郭の認識性能を向上させることができる。また、事前知識を用いる手法を他の実施の形態と組み合わせることで、輪郭の認識性能を向上させることもできる。事前知識の組み合わせ方法の例としては、上述したレベルセット関数として組み合わせる方法の他にも、事前知識をパラメータ、目標値、正解値、参照値、参考値、修正値、引数として用いる方法が挙げられる。また、事前知識を用いて形状を認識する手法は、ステップS11において核領域の形状を認識する際にも適用することができる。
(変形例3)
次に、実施の形態3の変形例について説明する。
上記実施の形態3においては、演算子Aを構成する倍率s、回転角θ、及び移動量Tを、自己無撞着方程式に従って更新したが、このうちの回転角θについては、以下に説明する方法によって更新しても良い。
例えば、レベルセット関数φを更新する際のイタレーションごとに、レベルセット関数φの輪郭C内の核領域の慣性主軸方向(X軸からの回転角ω、図16参照)を算出し、該回転角ωの平均値と事前知識としての楕円の慣性主軸方向が一致するように、回転角θを更新させる。或いは、回転角ωの平均値と事前知識としての楕円の慣性主軸方向との差分が小さくなるように、回転角θを更新しても良い。それにより、輪郭C内の核領域の慣性主軸方向と、楕円形状を事前知識として認識した繊維状組織の輪郭の慣性主軸方向とを近づけることができる。このように、輪郭C内の核領域の慣性主軸方向と、繊維状組織の輪郭の慣性主軸方向とが近い場合、実施の形態3の変形例を他の実施の形態(例えば実施の形態1)と組み合わせることで、繊維状組織の認識性能を向上させることができる。
また、事前知識としての楕円の慣性主軸方向との比較対象として、回転角ωの平均値の代わりに、回転角ωの中央値、最頻値、尖度、歪度、エントロピー等の統計値や、分布関数そのものを用いても良い。
このような回転角θの更新方法も、事前知識を用いて核領域の形状を認識する際に適用することができる。
(実施の形態4)
次に、本発明の実施の形態4について説明する。
図18は、本実施の形態4に係る顕微鏡システムの構成を示す図である。図18に示すように、本実施の形態4に係る顕微鏡システムは、画像処理装置10と、生体から採取した組織標本の拡大像を生成する顕微鏡装置20と、該顕微鏡装置20が生成した拡大像を撮像することにより画像データを生成して画像処理装置10に入力する撮像部30とを備える。
図18に示すように、顕微鏡装置20は、略C字形のアーム200と、該アーム200上に三眼鏡筒ユニット201を介して支持された鏡筒202及び接眼レンズユニット203と、アーム200に設けられた落射照明ユニット210及び透過照明ユニット220と、組織標本Sが載置されるステージ231を含む電動ステージユニット230と、鏡筒202の一端側に三眼鏡筒ユニット201を介してステージ231と対向するように設けられ、組織標本Sからの観察光を結像する対物レンズ240とを備える。
三眼鏡筒ユニット201は、対物レンズ240から入射した観察光を、ユーザが組織標本Sを直接観察するための接眼レンズユニット203と、後述する撮像部30との方向に分岐する。
落射照明ユニット210は、落射照明用光源211及び落射照明光学系212を備え、組織標本Sに対して落射照明光を照射する。落射照明光学系212は、落射照明用光源211から出射した照明光を集光して、観察光学系204の光軸Lの方向に導く種々の光学部材(フィルタユニット、シャッタ、視野絞り、開口絞り等)を含む。
透過照明ユニット220は、透過照明用光源221及び透過照明光学系222を備え、組織標本Sに対して透過照明光を照射する。透過照明光学系222は、透過照明用光源221から出射した照明光を集光して光軸Lの方向に導く種々の光学部材(フィルタユニット、シャッタ、視野絞り、開口絞り等)を含む。
これらの落射照明ユニット210及び透過照明ユニット220は、検鏡法に応じていずれかが選択されて使用される。なお、顕微鏡装置20に、落射照明ユニット210と透過照明ユニット220とのいずれか一方のみを設けることとしても良い。
電動ステージユニット230は、ステージ231と、該ステージ231を駆動させるステージ駆動部232とを備える。ステージ駆動部232は、例えばモータによって構成され、ステージ231を光軸Lと直交する面内(即ちxy平面内)において移動させる。また、ステージ駆動部232は、ステージ231をz軸に沿って移動させることにより、対物レンズ240を組織標本Sに対して合焦させる。なお、ステージ駆動部232の代わりに調節ツマミ等を用いて、ユーザがステージ231を手動で移動させる構成としても良い。
対物レンズ240は、倍率が互いに異なる複数の対物レンズ(例えば、対物レンズ240、241)を保持可能なレボルバ242に取り付けられている。レボルバ242を回転させ、ステージ231と対向する対物レンズ240、241を変更することにより、撮像倍率を変化させることができる。
撮像部30は、例えばCCDやCMOS等からなる撮像素子31を備え、撮像素子31が備える各画素においてR(赤)、G(緑)、B(青)の各バンドにおける画素レベル(画素値)を持つカラー画像を撮像可能なカメラを用いて構成される。撮像部30は、観察光学系204(鏡筒202)の一端に設けられ、観察光学系204を介して撮像素子31の受光面に入射した観察光を光電変換することにより、観察光学系204の視野に対応する画像を表す画像データを生成し、画像処理装置10の画像取得部12(図1参照)に入力する。
以上説明した実施の形態1〜4及びこれらの変形例はそのままに限定されるものではなく、各実施の形態1〜4及びこれらの変形例に開示されている複数の構成要素を適宜組み合わせることによって、種々の発明を形成することができる。例えば、実施の形態に示される全構成要素からいくつかの構成要素を除外して形成しても良い。或いは、異なる実施の形態に示した構成要素を適宜組み合わせて形成しても良い。
10 画像処理装置
11 入力部
12 画像取得部
13 出力部
14 記憶部
15 演算部
16 制御部
17 表示装置
151 単一核認識部
151a 核形状認識部
151b 核情報生成部
152 組織認識部
152a 統計値算出部
152b 組織形状認識部
20 顕微鏡装置
200 アーム
201 三眼鏡筒ユニット
202 鏡筒
203 接眼レンズユニット
204 観察光学系
210 落射照明ユニット
211 落射照明用光源
212 落射照明光学系
220 透過照明ユニット
221 透過照明用光源
222 透過照明光学系
230 電動ステージユニット
231 ステージ
232 ステージ駆動部
240、241 対物レンズ
242 レボルバ
30 撮像部
31 撮像素子

Claims (13)

  1. 生体から採取した組織標本の画像を取得する画像取得部と、
    前記画像に写った所定の細胞小器官の形状を個別に認識する細胞小器官認識部と、
    前記所定の細胞小器官の形状に基づいて、前記画像に写った繊維状組織又は管状組織の形状を認識する組織認識部と、
    を備えることを特徴とする画像処理装置。
  2. 前記細胞小器官認識部は、
    前記画像を構成する各画素が前記所定の細胞小器官を表す画素であるか否かを判定し、前記所定の細胞小器官を表すと判定された画素の領域である細胞小器官領域の形状を認識する細胞小器官形状認識部と、
    前記細胞小器官領域の形状を定量化した情報である細胞小器官情報を生成する細胞小器官情報生成部と、
    を備えることを特徴とする請求項1に記載の画像処理装置。
  3. 前記細胞小器官情報は、前記細胞小器官領域の形状を直線に近似したときの該直線の傾き又は該直線と所定の角度をなす直線の傾きであることを特徴とする請求項2に記載の画像処理装置。
  4. 前記直線は、前記細胞小器官領域の形状を回帰分析により近似した一次関数によって表される直線、又は前記細胞小器官領域の形状の慣性主軸であることを特徴とする請求項3に記載の画像処理装置。
  5. 前記組織認識部は、
    前記画像から抽出された複数の前記細胞小器官領域についてそれぞれ生成された前記細胞小器官情報の統計情報を算出する統計情報算出部と、
    前記統計情報算出部により算出された前記統計情報に基づいて、前記繊維状組織又は前記管状組織の形状を認識する組織形状認識部と、
    を備えることを特徴とする請求項2〜4のいずれか1項に記載の画像処理装置。
  6. 前記統計情報は、平均値、中央値、最頻値、分散、標準偏差、尖度、歪度、エントロピー及び分布関数のうちの少なくとも1つであることを特徴とする請求項5に記載の画像処理装置。
  7. 前記組織形状認識部は、前記画像内における前記繊維状組織又は前記管状組織の形状を推定し、該推定した前記繊維状組織又は前記管状組織の形状を定量化した形状情報と、前記統計情報算出部によって算出された前記統計情報の算出結果とを比較することにより、前記繊維状組織又は前記管状組織の形状を認識する、
    ことを特徴とする請求項5又は6に記載の画像処理装置。
  8. 前記組織形状認識部は、前記細胞小器官領域の形状を事前知識として用いて前記繊維状組織又は前記管状組織の形状を認識することを特徴とする請求項5〜7のいずれか1項に記載の画像処理装置。
  9. 前記所定の細胞小器官は、核又はミトコンドリアであることを特徴とする請求項1〜8のいずれか1項に記載の画像処理装置。
  10. 前記繊維状組織又は前記管状組織は、神経、筋、腱、及び血管のうちの少なくとも1つであることを特徴とする請求項1〜9のいずれか1項に記載の画像処理装置。
  11. 請求項1〜10のいずれか1項に記載の画像処理装置と、
    生体から採取した組織標本の拡大像を生成する顕微鏡装置と、
    前記拡大像を撮像することにより画像データを生成して前記画像取得部に入力する撮像部と、
    を備えることを特徴とする顕微鏡システム。
  12. 生体から採取した組織標本の画像を処理する画像処理装置が実行する画像処理方法において、
    演算部が、画像データを読み込むことにより前記画像を取得する画像取得ステップと、
    前記演算部が、前記画像に写った所定の細胞小器官の形状を個別に認識する細胞小器官認識ステップと、
    前記演算部が、前記所定の細胞小器官の形状に基づいて、前記画像に写った繊維状組織又は管状組織の形状を認識する組織認識ステップと、
    を含むことを特徴とする画像処理方法。
  13. 生体から採取した組織標本の画像を取得する画像取得ステップと、
    前記画像に写った所定の細胞小器官の形状を個別に認識する細胞小器官認識ステップと、
    前記所定の細胞小器官の形状に基づいて、前記画像に写った繊維状組織又は管状組織の形状を認識する組織認識ステップと、
    をコンピュータに実行させることを特徴とする画像処理プログラム。
JP2013255413A 2013-12-10 2013-12-10 画像処理装置、顕微鏡システム、画像処理方法、及び画像処理プログラム Pending JP2015114172A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013255413A JP2015114172A (ja) 2013-12-10 2013-12-10 画像処理装置、顕微鏡システム、画像処理方法、及び画像処理プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013255413A JP2015114172A (ja) 2013-12-10 2013-12-10 画像処理装置、顕微鏡システム、画像処理方法、及び画像処理プログラム

Publications (1)

Publication Number Publication Date
JP2015114172A true JP2015114172A (ja) 2015-06-22

Family

ID=53528099

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013255413A Pending JP2015114172A (ja) 2013-12-10 2013-12-10 画像処理装置、顕微鏡システム、画像処理方法、及び画像処理プログラム

Country Status (1)

Country Link
JP (1) JP2015114172A (ja)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2016152242A1 (ja) * 2015-03-25 2016-09-29 株式会社日立ハイテクノロジーズ 細胞診断支援装置、細胞診断支援方法、遠隔診断支援システム、サービス提供システム、及び画像処理方法
JP2020092941A (ja) * 2018-12-14 2020-06-18 キヤノンメディカルシステムズ株式会社 超音波診断装置、医用情報処理装置、医用情報処理プログラム
CN111445490A (zh) * 2020-02-21 2020-07-24 于兴虎 一种显微操作系统目标前景提取方法及系统
JP2021533505A (ja) * 2018-12-29 2021-12-02 ベイジン センスタイム テクノロジー デベロップメント カンパニー, リミテッド 深層モデルの訓練方法及びその装置、電子機器並びに記憶媒体
CN117611654A (zh) * 2024-01-24 2024-02-27 深圳市爱贝科精密工业股份有限公司 一种主轴热伸长测试方法及测试装置
JP7473893B2 (ja) 2020-03-24 2024-04-24 株式会社ブレイン 診断支援方法及びそのシステム

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2016152242A1 (ja) * 2015-03-25 2016-09-29 株式会社日立ハイテクノロジーズ 細胞診断支援装置、細胞診断支援方法、遠隔診断支援システム、サービス提供システム、及び画像処理方法
US10453192B2 (en) 2015-03-25 2019-10-22 Hitachi High-Technologies Corporation Cytologic diagnosis support apparatus, cytologic diagnosis support method, remote diagnosis support system, service providing system, and image processing method
JP2020092941A (ja) * 2018-12-14 2020-06-18 キヤノンメディカルシステムズ株式会社 超音波診断装置、医用情報処理装置、医用情報処理プログラム
JP7258538B2 (ja) 2018-12-14 2023-04-17 キヤノンメディカルシステムズ株式会社 超音波診断装置、医用情報処理装置、医用情報処理プログラム
US11712219B2 (en) 2018-12-14 2023-08-01 Canon Medical Systems Corporation Ultrasonic wave diagnostic apparatus, medical information processing apparatus, and computer program product
JP2021533505A (ja) * 2018-12-29 2021-12-02 ベイジン センスタイム テクノロジー デベロップメント カンパニー, リミテッド 深層モデルの訓練方法及びその装置、電子機器並びに記憶媒体
JP7158563B2 (ja) 2018-12-29 2022-10-21 ベイジン・センスタイム・テクノロジー・デベロップメント・カンパニー・リミテッド 深層モデルの訓練方法及びその装置、電子機器並びに記憶媒体
CN111445490A (zh) * 2020-02-21 2020-07-24 于兴虎 一种显微操作系统目标前景提取方法及系统
CN111445490B (zh) * 2020-02-21 2023-10-20 于兴虎 一种显微操作系统目标前景提取方法及系统
JP7473893B2 (ja) 2020-03-24 2024-04-24 株式会社ブレイン 診断支援方法及びそのシステム
CN117611654A (zh) * 2024-01-24 2024-02-27 深圳市爱贝科精密工业股份有限公司 一种主轴热伸长测试方法及测试装置
CN117611654B (zh) * 2024-01-24 2024-04-16 深圳市爱贝科精密工业股份有限公司 一种主轴热伸长测试方法及测试装置

Similar Documents

Publication Publication Date Title
JP7422825B2 (ja) 顕微鏡スライド画像のための焦点重み付き機械学習分類器誤り予測
Smal et al. Particle filtering for multiple object tracking in dynamic fluorescence microscopy images: Application to microtubule growth analysis
JP2015114172A (ja) 画像処理装置、顕微鏡システム、画像処理方法、及び画像処理プログラム
JP6791245B2 (ja) 画像処理装置、画像処理方法及び画像処理プログラム
US7649682B2 (en) Method for self-monitoring a microscope system, microscope system, and software for self-monitoring a microscope system
WO2017150194A1 (ja) 画像処理装置、画像処理方法及びプログラム
JP2022506135A (ja) ヒトの寄与を組み込む反復的深層学習フローを使用した顕微鏡画像内の3d細胞間構造のセグメント化
CN110736747A (zh) 一种细胞液基涂片镜下定位的方法及系统
CN112348059A (zh) 基于深度学习的多种染色病理图像分类方法及系统
WO2021150973A1 (en) Intelligent automated imaging system
Kanwal et al. Quantifying the effect of color processing on blood and damaged tissue detection in whole slide images
Xiang et al. Autofocus of whole slide imaging based on convolution and recurrent neural networks
Kromp et al. Deep Learning architectures for generalized immunofluorescence based nuclear image segmentation
Roudot et al. u-track 3D: measuring and interrogating dense particle dynamics in three dimensions
JP2014235033A (ja) 画像処理装置及びプログラム
Sáez et al. Neuromuscular disease classification system
Lee et al. Tri-view two-photon microscopic image registration and deblurring with convolutional neural networks
WO2013025173A1 (en) A method and system for tracking motion of microscopic objects within a three-dimensional volume
JP2023537978A (ja) デジタル病理学のためのアクティブラーニングシステム
CN115428037A (zh) 活细胞生物样品荧光图像采集方法和系统
CN114004806A (zh) 一种乳腺肿瘤检测模型的训练方法及乳腺肿瘤检测方法
US20200074628A1 (en) Image processing apparatus, imaging system, image processing method and computer readable recoding medium
WO2021067507A1 (en) Building computational transfer functions on 3d light microscopy images using deep learning
CN111369553A (zh) 一种样本玻片扫描和图像处理方法及数字显微镜系统
WO2015089564A1 (en) Thickness estimation for microscopy