JP2017521779A - 画像解析を用いた核のエッジの検出 - Google Patents

画像解析を用いた核のエッジの検出 Download PDF

Info

Publication number
JP2017521779A
JP2017521779A JP2016575788A JP2016575788A JP2017521779A JP 2017521779 A JP2017521779 A JP 2017521779A JP 2016575788 A JP2016575788 A JP 2016575788A JP 2016575788 A JP2016575788 A JP 2016575788A JP 2017521779 A JP2017521779 A JP 2017521779A
Authority
JP
Japan
Prior art keywords
pixel
image
pixels
voting
tensor
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016575788A
Other languages
English (en)
Other versions
JP6660313B2 (ja
Inventor
チュッカ,スリニヴァス
シェフドテル,クリストフ
ワーン,シウジョーン
Original Assignee
ベンタナ メディカル システムズ, インコーポレイテッド
ベンタナ メディカル システムズ, インコーポレイテッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ベンタナ メディカル システムズ, インコーポレイテッド, ベンタナ メディカル システムズ, インコーポレイテッド filed Critical ベンタナ メディカル システムズ, インコーポレイテッド
Publication of JP2017521779A publication Critical patent/JP2017521779A/ja
Application granted granted Critical
Publication of JP6660313B2 publication Critical patent/JP6660313B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/12Edge-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/13Edge detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/136Segmentation; Edge detection involving thresholding
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/194Segmentation; Edge detection involving foreground-background segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10056Microscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20021Dividing image into blocks, subimages or windows
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20036Morphological image processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20076Probabilistic image processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20112Image segmentation details
    • G06T2207/20164Salient point detection; Corner detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30024Cell structures in vitro; Tissue sections in vitro

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Quality & Reliability (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Abstract

前景検出のための局所適応的閾値画像を生成するためのシステム及び方法であって、画像領域内の初期エッジ画素の近傍の画素に対してテンソル投票を行うことで、核のエッジ又は境界画素を示す顕著性エッジ強度画像又はレイヤを生成して、真のエッジを精製することを含む動作を行う、システム及び方法が取り上げられる。さらに、初期エッジ画素又は精製されたエッジ画素ごとに前景画素及び背景画素をサンプリングし、背景及び前景両方の、顕著性(又は勾配の大きさ)で変調されたヒストグラムについてヒストグラムを生成し、画像のブロックごとに閾値範囲を決定し、各ブロックにおける閾値範囲に基づいて各画素における閾値を補間することによって、画像の複数の領域又はブロックのそれぞれについて、適応的な閾値画像が決定される。その結果の局所適応的閾値画像と入力画像を比較することによって、著しく改善した前景を抽出することが可能になる。

Description

[001]本主題の開示は、デジタル病理に関する。より詳細には、本主題の開示は、デジタル病理における核セグメント化のための閾値処理方法に関する。
[002]核セグメント化は、多数のデジタル病理用途にとって主要な構成要素である。核又は細胞のマスクを、これらの構造を含む画像から抽出するために多大な努力がなされており、これは、これらの構造の効率的な特性評価に必須である。一般的な核セグメント化フレームワークは、大局的又は局所的閾値処理方法[1]に基づく単離核又は核クラスタの前景検出から開始する。次いで、核クラスタは、分水嶺(watershed)変換[2、3、4]の一種、たとえば、距離変換[8]により生成される核種(nucleus seed)を用いてクラスタを妥当な部分領域に分割するための競争領域成長処理(competitive region growing process)、放射対称性変換の一種[5,6]又はハフ変換の一種[7]などを用いて、いくつかの核に分割される。通常、前景画定が正確な場合、クラスタ化された核の分離は妥当となる。前景検出のための既存の閾値処理方法は、前景(すなわち、単離核又は核クラスタ)が局所的及び/又は大局的に背景(すなわち、空領域又は不特定の染色領域)よりも一貫して明るい(又は暗い)という仮定に依存している。しかしながら、実際には、核又は核クラスタの強度は、同一の画像(又は視野)にわたって大きく変動する。たとえば、画像内の不特定の染色は、単離核又は核クラスタと同じ強度レベルを有する場合がある。従来技術は、主に、エッジ検出フィルタ及び/又は強度統計量に基づく閾値処理を利用しており、これらは、様々な組織密度及び染色のために、完全に効果的ではなかった。たとえば、以下を参照されたい:M.Sezgin及びB.Sankur、「Survey over image thresholding techniques and quantitative performance evaluation(画像閾値処理技法及び定量的性能評価に関する調査)」、Journal of Electronic Imaging、Vol.13、No.1、146〜165頁、2004年;L.Vincent及びP.Soille、「Watersheds in digital spaces:an efficient algorithm based on immersion simulations(デジタル空間における分水嶺:浸水シミュレーションに基づく効率的なアルゴリズム)」、IEEE Transactions on Pattern Analysis and Machine Intelligence、Vol.13、No.6、583〜598頁、1991年;L.Najman及びM.Schmitt、「Geodesic saliency of watershed contours and hierarchical segmentation(分水嶺輪郭の測地線顕著性(saliency)及び階層的セグメント化)」、IEEE Transactions on Pattern Analysis and Machine Intelligence、Vol.18、No.12、1163〜1173頁、1996年;J.Cousty、G.Bertrand、L.Najman、及びM.Couprie、「Watershed Cuts:Minimum Spanning Forests and the Drop of Water Principle(分水嶺カット:最小全域森及び水滴原理)」、IEEE Transactions on Pattern Analysis and Machine Intelligence、Vol.31、No.8、1362〜1374頁、2009年;Hidefumi Kobatake及びShigeru Hashimoto、「Convergence Index Filter for Vector Fields(ベクトル場用の集中度フィルタ)」、IEEE Transactions on Medical Imaging、Vol.8、No.8、1029〜1038頁、1999年8月;Bahram Parvin、Qing Yang、Ju Han、Hang Chang、Bjorn Rydberg及びMary Helen Barcellos−Hoff、「Iterative Voting for Inference of Structural Saliency and Characterization of Subcellular Events(構造的顕著性の推定及び細胞内現象の特性評価のための反復投票)」、IEEE Transactions on Image Processing、Vol.16、No.3、615〜623頁、2007年3月;Duda、R.O.及びP.E.Hart、「Use of the Hough Transformation to Detect Lines and Curves in Pictures(ハフ変換を用いた画像内の直線及び曲線の検出)」、Comm.ACM、Vol.15、11〜15頁、1959年;J.Canny、「A computational approach to edge detection(エッジ検出に対する計算的手法)」、IEEE Trans. Pattern Analysis and Machine Intelligence、Vol.8、No.6、679〜698頁、1986年;G.Guy及びG.Medioni、「Inferring global perceptual contours from local features(局所的特徴からの大局的知覚輪郭の推定)」、in International Journal of Computer Vision、1996年、vol.20、113〜133頁;L.A.Loss、G.Bebis、M.Nicolescu、A.Skurikhin、「An iterative multi−scale tensor voting scheme for perceptual grouping of natural shapes in cluttered backgrounds(雑然とした背景における自然形状の知覚的なグループ化のための反復的マルチスケールテンソル投票方式)」、in Computer Vision and Image Understanding、2009年、vol.113、126〜149頁。
[003]参考文献:
・[1]:M.Sezgin及びB.Sankur:「Survey over image thresholding techniques and quantitiative performance evaluation(画像閾値処理技法及び定量的性能評価に関する調査)」、Journal Electronic Imaging、Vol.13(1) 、146〜165頁、2004年
・[2]:Luc Vincent及びPierre Soille:「Watersheds in Digital Spaces:An Efficient Algorithm Based on Immersion Simulations(デジタル空間における分水嶺:浸水シミュレーションに基づく効率的なアルゴリズム)」、IEEE TRANSACTIONS ON PATTERN ANALYSIS AND MACHINE INTELLIGENCE、VOL.13、NO 6、1991年6月
・[3]:Laurent Najman及びMichel Schmitt:「Geodesic Saliency of Watershed Contours and Hierarchical Segmentation(分水嶺輪郭の測地線顕著性及び階層的セグメント化)」、IEEE TRANSACTIONS ON PATTERN ANALYSIS AND MACHINE INTELLIGENCE;VOL.18、NO 12、1996年12月
・[4]:Jean Cousty、Gilles Bertrand、Laurent Najman及びMichel Couprie:「Watershed cuts: minimum spanning forests and the drop of water principle(分水嶺カット:最小全域森及び水滴原理)」、SUBMITTED TO IEEE PAMI、2007年、REVISED 2008年
・[5]:H.Kobatake及びS.Hashimoto、「Convergence index filter for vector fields(ベクトル場用の集中度フィルタ)」、IEEE Transactions on Medical Imaging、Vol.8(8) 、1029〜1038頁、1999年
・[6]:G.Loy及びA.Zelinsky、「Fast radial symmetry for detecting points of interest(注目点検出のための高速放射対称性)」、IEEE Transactions on Pattern Analysis and Machine Intelligence、Vol 25(8)、959〜973頁、2003年
・[7]:Richardt O.Duda及びPeter E.Hart:「Use of the Hough Transformation To Detect Lines and Curves in Pictures(ハフ変換を用いた画像内の直線及び曲線の検出)」、Grahics and Image Processing、Editor:W. Newman、1972年、11〜15頁
・[8]:A.RosenFeld及びJ.Pfaltz、「Distance functions in digital pictures(デジタル画像における距離関数)」、Pattern Recognition、Vol.1、33〜61頁、1968年
[004]本発明は、デジタル病理用途において細胞核の境界を決定するのに驚くほど有効である。従来技術の技法は画像に存在する核の約60%しか回復しないのに対して、本発明の技法は90%を超えて回復することができる。
[005]本発明の一実施形態では、従来技術の技法が、エッジ検出の開始点となり得る。そして、本発明は、テンソル投票を累積して「顕著性画像」とも呼ばれる顕著性エッジ画像を生成し、これを用いて画像に存在するエッジの精製された推定値を提供することで、この初期推定値を精製する。識別されたエッジは、ヒステリシス閾値処理及び多重応答抑制(multi−response suppression)によってさらに精製することができる。
[006]本明細書で使用される「顕著性」という用語は、特定の画素が特定の細胞核の輪郭を表すエッジの一部である信頼性又は確率に関する尺度である。
[007]本発明の他の実施形態は、精製されたエッジ画像をエッジマスクとして、顕著性エッジ画像を重み画像として用いて、エッジ画素を囲む小領域(「ブロック」)内の重み付けられた原画像画素のヒストグラムを形成し、それによって前景ヒストグラム及び背景ヒストグラムを生成することで、この方法を拡張することができる。原画像のその領域内のエッジにおいて使用するための、「最適な閾値」とも呼ばれる「最適な閾値レベル」は、前景及び背景画素サンプルの分類誤差を最小化するヒストグラムの最頻値の間の強度レベル(「強度閾値」)を選択することで得られる。これは、顕著性エッジ画像は一度計算されるが、局所閾値の精度を向上するために二度使用できるという利点を有し得る。したがって、比較的限られた計算量で、精度を大きく向上することができる。
[008]マスクは、たとえば、画素あたり1ビットからなる画像とすることができる。特定のビット、たとえば「0」を有するマスクの一部の領域は、マスク用ビットとみなされ、マスクがマッピングされる他の画像の画素の強度値を隠蔽、削除又は抑制するために使用することができる。たとえば、閾値処理された顕著性エッジ画像をエッジマスクとして用いることは、顕著性値が最小値未満である全画素が、初期画像702に重ねて背景ノイズ信号を除去することが可能なマスク画素として表されたマスクを生成することを示唆し得る。
[009]さらに他の実施形態では、前述のヒストグラムの技法は、画像のタイル化された部分領域(「ブロック」)に適用することができ、核の内部及び外部の領域の境界を識別するのに使用可能なエッジ閾値レベルを、隣接するタイル(「ブロック」)で発見される閾値の滑らかな補間として決定することができる。
[0010]本発明の他の改良版は、帯域制限操作可能(steerable)フィルタ理論をテンソル投票動作に組み込むことができ、その結果、高密度の投票セットをコンピュータにより、高速フーリエ変換(FFT)処理を用いて黙示的なベクトル畳み込みを行うことによって、より迅速かつ効率的に扱うことが可能になる。「An Efficient Method for Tensor Voting Using Steerable Filters(操作可能フィルタを用いたテンソル投票のための効率的な方法)」、Erik Frankenら、Techniche Universiteit Eindhovenを参照されたい。
[0011]本発明のさらに他の改良版は、画像物体に関する領域固有の知識を組み込んで、物体の非対称性又は好ましい境界の方向もしくは形状を構成するようにテンソル投票場を調整する又は制約することができる。細胞核を検査するデジタル病理の分野での一例は、核境界の外側の画素に比べて核内部の画像強度がより高い、閉じたほぼ円形の領域を優先することであってよい。そのような優先は、好適な非対称性を介してテンソル投票場に組み込むことができる。
[0012]したがって、テンソル投票場により制御される投票処理は、実施形態によれば、(疑いのある)核の内部の方向において、前記画素により反対方向に(すなわち、疑いのある核の外部の方向に)行われる投票より高くてもよい投票を行うことになる。どの方向に核の内部が存在するかという疑いは、たとえば、投票を行った画素の強度勾配から導出することができる。したがって、本発明の実施形態による投票処理は、少なくとも、投票画素から同じ距離を有するが、投票画素の強度勾配により与えられる方向に関して反対方向に存在する近傍画素に関して対称ではない。したがって、この非対称性は、識別すべき核種の特徴を組み込んでいる。たとえば、複数の基準組織を特定のバイオマーカー及び/又は核固有の染色剤で標識化することができ、基準スライドにおける核の平均的な半径又は直径を測定することで、判定すべき核種の典型的な半径又は直径を経験的に決定することができる。
[0013]Medioniは、顕著な画像特徴を識別するための数学的技法を開発して、コンピュータに心理学のゲシュタルトの感覚を与え、これにより、干渉ノイズ、不明瞭な境界画素、重なり合った形状などが存在するにもかかわらず、直線、曲線、形状などを画像内で識別することが可能になる。「Tensor Voting:Theory and Applications(テンソル投票:理論及び応用)」、Gerard Medioniら、Institute for Robotics and Intelligent Systems、USC。彼の方法は、画像の各画素におけるテンソル値に関して画像を記述することに基づいている。テンソルは、各画素の場所における画像の総合的な性質を記述する。2次元画像について、ボール状及びスティック状のテンソル特性が、各画素において様々な角度で適用される。ある境界曲線に沿って存在する画素はスティック状の特徴を有し、ここで、画素が境界に属すると信じた上で、スティックは境界の接線又は法線を示し得、その長さはハリ感(sense of firmness)を示し得る。いずれの境界に属するとも思われない孤立した画素は、ボール状と記述することができ、これは方向感覚及び境界への所属がほとんどないことを意味する。
[0014]実施形態によれば、初期デジタル画像の各画素は、「スティック状テンソル値」とも呼ばれるスティック状成分と、「ボール状テンソル値」とも呼ばれるボール状成分とを備えるテンソルとして表される。実施形態によれば、投票画素により被投票画素(複数の投票を集計して集計された投票が得られる投票画素の近傍の画素)へ行われる投票の「量」(又は「重み」)は、2つの画素間の距離と共に低下する。加えて、投票画素により被投票画素へ行われる投票の「量」は、投票画素及び被投票画素を接続する曲線の黙示的な曲率の基準曲率とのずれと共に低下する。基準曲率は、識別すべき核種に典型的な曲率とすることができる。投票画素及び被投票画素を接続する弧は、真円の線分曲線とすることができ、識別すべき核種の典型的な曲率からの前記弧の曲率のいかなるずれも、投票画素から被投票画素へ行われる投票の低下につながり得る。
[0015]境界を構成すると考えられるあらゆる画素においてスティック状テンソル値を定義することで、スティック状テンソル値を有する画素により行われる投票に基づいて近傍画素の境界への所属を判定することができる。しかしながら、投票は、距離と、投票場所の画素及び投票画素の間の可能な曲線の黙示的な曲率と共に低下する。投票は、画素におけるテンソル総和を介して累積され、その結果は、スティック状属性及びボール状属性のレベルを示唆する固有値を有する他のテンソルを生成する。スティック状属性を取得することで、原画像から境界曲線の存在を強調するのに役立つ顕著性エッジ画像を形成することができる。その顕著性エッジ画像を用いて、原画像に対する改良されたエッジマスク(「精製されたエッジ画像」)を作成することができる。
[0016]Medioniのこの話題への関心は、機械視覚(machine vision)、場面における直線境界の識別、及びノイズのある画像からの3D物体の再構成を対象としていた。機械視覚は、典型的には、ロボット工場組立作業、及び自律車両誘導に適用される。本発明のこれらの技法への関心は、非常に異なっており、デジタル病理用途、特に、染色された組織スライド画像において細胞核を識別することを対象としたこの方法の変形につながる。
[0017]本主題の開示は、単離核及び核クラスタを含む前景特徴を検出するための局所適応的閾値画像を生成するためのシステム及び方法を提示する。本明細書に記載のシステム、方法、及びコンピュータプログラムは、強度値が高いことが、画素が核又は核クラスタのエッジ上に存在する確率が高いこと示す、浮動小数点の数の2次元配列を備える顕著性エッジ画像を作成することを含む動作を行う。顕著性エッジ画像を生成することは、選択された画素(「初期投票画素」として使用される「初期エッジ画素」)の周辺の近傍画素にテンソル投票を行って、顕著なエッジ画素を決定することで可能になる。その結果の顕著性エッジ画像は、画素が核エッジ画素であるか否かの指示子として、従来技術よりも有効である。「顕著なエッジ画素」は、核の輪郭に属すると識別/予測されたエッジ画素とすることができ、ここで、「顕著なエッジ画素」を識別するために、テンソルで生成された顕著性情報が使用される。顕著性エッジ画像は、顕著なエッジ画素が強調された画像とすることができる。たとえば、顕著性エッジ画像内の画素の強度値は、前記画素に行われた投票の総和であるテンソル値が与えられた場合に、前記画素が核又は核クラスタのエッジ画素である確率と相関し得る。
[0018]次いで、顕著性エッジ画像を用いて、多重応答抑制及びヒステリシス閾値処理により、精製されたエッジを生成する。精製されたエッジが与えられると、初期デジタル画像を複数のブロックに分割することができ、複数のブロックのそれぞれについて、(たとえば精製されたエッジの)各エッジ画素における画像勾配方向に沿った前景及び背景画素をサンプリングすることができ、これらに基づいて背景画素のヒストグラム及び前景画素のヒストグラムを生成することができる。我々はこれらを顕著性で変調されたヒストグラムと呼び、その理由は、各前景画素が、前景及び背景画素をサンプリングするための開始点として使用されるエッジ画素の顕著性値により重み付けられるためである。
[0019]デジタル画像において、単離核又は核クラスタは、典型的には、非核画素よりも明るい(すなわち、より高い強度値を有する)。非核画素は、スライドの空領域又は不特定の染色領域を表し得る。染色、標識化及び/又は組織調製手法に応じて、これは逆であってもよく、核画素は一貫して非核画素より暗い。「前景画素」とは、核の中に存在すると予測される/疑いのある画素である。「背景画素」とは、核の中に存在しないと予測される/期待される画素である。本発明の実施形態は、画素を前景画素又は背景画素として分類するために2つの分類手法の組み合わせを使用し、第1の分類手法は、サンプリングステップにおいてエッジ画素の近傍の画素を選択することを備え、ここで、前記エッジ画素の勾配の方向と、勾配に対する選択された画素の位置とによって、前記選択された画素の分類の結果が決まる。第2の分類手法は、強度値が所与の強度閾値を上回る又は下回る画素を2つの異なるクラス、すなわち前景及び背景に分類することを備える。2つの手法は、閾値ベースの前景及び背景画素セットと、第1の手法により識別された前景及び背景画素セットとの間の「誤差」(ずれ)を最小化する最適な強度閾値が特定されるまで、第2の分類手法を複数回異なる閾値を用いて実行することで、組み合わせることができる。
[0020]実施形態によれば、第1の手法による前景及び背景画素のサンプリングと、最適な強度閾値の特定とは、初期デジタル画像の複数のブロックの各ブロックに対して、別々に行われる。
[0021]実施形態によれば、画像のブロックごとの閾値範囲は、前景及び背景両方のヒストグラムに基づいて背景及び前景画素分類についての誤差を最小化することで決定される。各画素における閾値は、各画素における閾値範囲に基づいて補間することで得られ、閾値範囲は、ブロックの中心又はブロック内の全エッジ画素の中心において想定される。その結果は局所適応的閾値画像であり、その生成のために、各画素における強度を、ソース又は入力画像の対応する画素について補間された閾値と比較することができる。ソース画像を局所適応的閾値画像と比較することによって、さらに頑健かつ高精度な前景が得られる。
[0022]一例示的実施形態では、本主題の開示は、各初期投票画素の近傍の画素に対してテンソル投票動作を行うことと、各画素における複数の投票を累積して各画素についての顕著性値を決定することと、エッジ画素を強調した顕著性エッジ強度画像を生成することとを含む動作を行うためにプロセッサにより実行されるコンピュータ実行可能命令を記憶するための、非一時的コンピュータ可読媒体である。一部の実施形態では、テンソル投票動作は、検出すべき構造に関する、核の大きさに限定されない領域知識と、エッジ上の勾配がほぼ同じ位置を指し示すという事実とを組み込む非対称テンソル投票場を使用することができる。
[0023]他の例示的実施形態では、本主題の開示は、初期画像を読み出すことと、初期画像をエッジ検出フィルタでフィルタリングして初期エッジ画像を生成することと、初期投票画素(IVP)となる初期エッジ画像内の複数の画素を選択することと、IVPをトークン化してIVPごとのテンソル要素トークンを生成することと、各IVPについてのテンソル要素トークンにより示唆されるIVPテンソルと位置合わせされたそのIVPについての重み付けられたテンソル投票場(WTVF)を形成することと、IVPからの複数のWTVFを各近傍画素におけるテンソル総和へ累積して、近傍画素にテンソル投票動作を行うことと、各画素における累積されたテンソル総和の固有値を決定することと、画素における固有値に基づいて原画像のエッジ画素を強調した顕著性エッジ強度画像を生成することと、主要固有ベクトルに基づいて多重応答抑制を顕著性エッジ画像に実施し、次いで抑制された顕著性画像のヒステリシス閾値処理を実施して、精製されたエッジマスクを生成することとを含み得る動作を実施するために処理システムにより実行される、物体境界の画定を行うためのコンピュータ実行可能命令を有する、有形非一時的コンピュータ可読媒体である。
[0024]「初期投票画素」(IVP:initial voting pixel)とは、近傍の他の複数の画素にテンソル投票を行う画素である。
[0025]「テンソル値」とは、本明細書では「集約テンソル値」又は「テンソル総和」とも呼ばれるが、特定の被投票画素に行われる複数の投票の要素別総和の結果である。各投票はテンソルである。テンソル値は、2×2行列の形を有することができる。
[0026]画素の「強度勾配」、「画像勾配」又は「勾配ベクトル」とは、たとえば、初期デジタル画像などの画像内の画素の強度の方向性の変化を示すデータ構造である。画像勾配は、画像から情報を抽出するために使用することができる。たとえば、この勾配は、画像内の各画素における、画像強度関数とも呼ばれる2変数関数を示すデータ構造により表現することができ、ここで2つの変数は、画像702のx(水平)及びy(垂直)画素座標である。特定の画素の「勾配ベクトル」又は「強度勾配ベクトル」は、水平及び垂直方向の微分により成分が与えられる2Dベクトルであり、ここで勾配ベクトルは、最大の可能な強度増加の方向を指し示し、勾配ベクトルの長さは、その方向の変化率に対応する。
[0027]被投票画素における固有値に基づいて顕著性エッジ強度画像を生成することは、第1及び第2の固有値を比較して、画素がエッジ画素、接合画素(junction pixel)又は外れ値のいずれであるかを判定することを備えることができる。顕著性エッジ強度画像において、精製されたエッジ画素のみが強調される。「被投票画素」とは、(「初期投票画素」−IVPとなる)その近傍の投票を受け取る画素である。一部の実施形態によれば、画素Pの強調は、前記画素Pに行われた全投票を集計して、集計の結果のテンソル値を用いて顕著性値を計算することを備える。前記画素Pの顕著性値は、画素Pがエッジ画素である尤度を示す。強調は、画素Pに顕著性値と相関する強度値を割り当てることをさらに備える。割り当ては、付加的な画像、たとえば顕著性エッジ画像において行うことができる。
[0028]主要固有値に基づいて顕著性エッジ画像に多重応答抑制を行うことは、J.Canny、「A computational approach to edge detection(エッジ検出に対する計算的手法)」、IEEE Trans.Pattern Analysis and Machine Intelligence、Vol.8、No.6、679〜698ページ、1986年に従って実施することができる。これにより、抑制された顕著性エッジ画像が計算される。多重応答抑制のさらなる例は、当技術分野で知られている。
[0029]実施形態によれば、次のステップにおいて、ヒステリシス閾値処理を抑制された顕著性エッジ画像に適用して、図8Bに示された精製されたエッジ画像を生成し、精製されたエッジ画像から精製されたエッジマスクを生成することができる。エッジ検出のためにヒステリシス閾値処理を用いることは、2つの閾値を用いることを備える。高い閾値で処理されたエッジに接続された、低い閾値で処理されたエッジは保持される。高い閾値で処理されたエッジに接続されていない低い閾値で処理されたエッジは除去される。ヒステリシス閾値処理は、J.Canny、「A computational approach to edge detection(エッジ検出に対する計算的手法)」、IEEE Trans.Pattern Analysis and Machine Intelligence、Vol.8、No.6、679〜698ページ、1986年に従って実施することができる。ヒステリシス閾値処理のさらなる例は、当技術分野で知られている。
[0030]いくつかの実施形態では、これらのステップの実行は、初期画像の一部の領域で不明瞭であるか又は断片化しており、初期エッジ画像内でエッジの一部でないこともある顕著な境界を検出することで、物体の境界の画定を生成するのに有効であり得る。
[0031]他の実施形態によれば、動作は、精製されたエッジマスクの各画素の近傍にわたって顕著性値により重み付けられた前景及び背景画素強度値の局所ヒストグラムを初期画像から生成することと、局所ヒストグラムの統計分析からヒステリシスエッジ検出閾値を決定することと、精製されたエッジマスクの下で初期画像にヒステリシスエッジ検出閾値を適用して物体境界を決定することとをさらに含むことができる。これらの動作は、境界に沿った画像特性を利用して顕著な境界を精製するのに有効であり得る。たとえば、各画素の近傍は、前記画素と同じブロックに含まれる全画素からなることができる。複数の重なり合わない画素ブロックを、初期画像において、たとえば画素ブロックのグリッドとして自動的に決定することができる。局所ヒストグラムは、前記ブロック専用に計算された前景ヒストグラム及び背景ヒストグラムの情報を含むことができる。一方の閾値は、前景ヒストグラムの画素の最小強度値とすることができ他方の閾値は、背景ヒストグラムの画素の最大強度値とすることができる。前記2つの閾値は、ヒステリシスエッジ検出閾値として使用することができる。
[0032]さらに他の例示的実施形態では、本主題の開示は、プロセッサと、プロセッサに結合されたメモリであって、プロセッサにより実行された場合に、デジタル画像により構成される複数の画像ブロック(又は「ブロック」)に対する閾値範囲を決定することと、複数の画像ブロックのそれぞれに対する閾値範囲に基づいて適応的閾値画像を生成することと、適応的閾値画像に基づいて画像から前景を抽出することとを備える動作をプロセッサに行わせるコンピュータ実行可能命令を記憶するための、メモリとを含み、各画像ブロックが、テンソル投票動作により決定される複数のエッジ画素を備える、デジタル病理用のシステムである。
[0033]さらに他の例示的実施形態では、本主題の開示は、非対称投票場を生成して画像の領域内の真の核境界を決定するステップと、初期エッジ点又は顕著性エッジ点、及び顕著性エッジ方向又は勾配方向に基づいて、真の核境界上の画素ごとに前景画素及び背景画素をサンプリングするステップと、画像の各領域に対して、顕著性又は勾配で変調された背景及び前景ヒストグラムを生成するステップと、前景及び背景ヒストグラムを用いて、画像の各領域に対する閾値範囲を計算するステップと、画像の複数の領域に対応する複数の閾値範囲の補間に基づいて閾値画像を生成するステップとを備える、方法である。
[0034]一態様では、本発明は、デジタル病理用の画像処理システムに関する。システムは、プロセッサと、プロセッサに結合されたメモリとを備える。メモリは、生物学的組織サンプルのデジタル画像と、プロセッサにより実行された場合に、生物学的組織サンプルのデジタル画像内の細胞核の境界を識別するための動作をプロセッサに行わせるコンピュータ実行可能命令とを記憶する。前記動作は:
− プロセッサにより、デジタル画像内の1つ又は複数の初期エッジを識別し、識別された初期エッジ内の画素を初期投票画素として使用することと、
− プロセッサにより、テンソル投票場を用いて、初期投票画素のそれぞれの近傍にある画素に対してテンソル投票動作を行うことと、
− プロセッサにより、近傍画素のそれぞれに対する複数の投票を累積して、前記近傍画素に対するテンソル値を決定することであって、投票の量が、前記近傍画素が初期投票画素と同じ核のエッジ画素である可能性が高いかを示し、テンソル値が、近傍に前記近傍画素が存在する全ての初期投票画素により行われた全ての投票の総和である、決定することと、
− プロセッサにより、決定されたテンソル値のそれぞれを分解して、分解されたテンソル値の固有値及び固有ベクトルを決定することと、
− プロセッサにより、決定された固有値及び固有ベクトルを評価して精製されたエッジ画素を識別することであって、精製されたエッジ画素が細胞核の境界を表す、識別することと、
− プロセッサにより、細胞核の境界を表す識別された精製されたエッジ画素を選択的に含む顕著性エッジ強度画像を生成することと
を備える。
[0035]デジタル病理の分野でテンソル投票を用いることは、たとえば適切な染色剤及び/又はバイオマーカーで染色された細胞又は核を用いた場合に、細胞核を検出するための、たとえば細胞を計数する又は癌を細分類(subtyping)するための、非常に高精度かつ計算的に効率的な方法を提供するという有利な効果を有し得る。
[0036]実施形態によれば、テンソル投票場は、核の1つ又は複数の特徴で符号化される。テンソル投票場は、投票が計算される初期投票画素の強度勾配に沿って非対称である、非対称テンソル投票場である。核の特徴は、判定すべき核種の核内画素の典型的な強度値が核外画素の典型的な強度値より高いか低いかに関する情報を含む。テンソル投票場による初期投票画素の投票の計算が:
− プロセッサにより、初期投票画素におけるデジタル画像の強度勾配の方向を特定することと、
− 投票動作に、第1の近傍画素に対して第2の近傍画素よりも高い投票を行わせることであって、第1及び第2の近傍画素が投票画素から等しく離れて存在し、第1の近傍画素が、強度勾配の特定された方向によれば、核の内側の方向に存在し、第2の近傍画素が、強度勾配の特定された方向によれば、核の外側の方向に存在する、行わせることと
を備えるように、符号化が行われる。
[0037]核の内外の画素の強度は、使用される核染色剤及び/又は背景染色剤、並びに/あるいは検出すべき核種に依存し得る。たとえば、一部の染色剤及び実験設定は、核内画素が核外画素より高い強度を有するように、核の内側を染色することができる。一部の染色剤及び実験設定は、反対の効果を有していてもよい。実施形態によれば、デジタル画像内の核を染色するのに使用される特定の染色剤によって、核外画素よりも核内画素の強度値が高くなるか又は低くなるかという情報を用いて、強度勾配の方向を特定し、これは常に核の内部を指し示すように選択される。したがって、(基準スライド及び対応するデジタル画像などから導出される)特定の核種への特定の染色剤の効果に関する情報を用いて、強度勾配の方向を決定し、想定される核の内部の方向に存在する近傍画素に対して、想定される核の内部から離れる方向に存在する近傍画素よりも高い投票を行うテンソル投票場を計算する。
[0038]実施形態によれば、投票を行うことが:
− 1つの初期投票画素及び1つの近傍画素について投票角度θを特定することであって、投票角度θが、線と、1つの初期投票画素における強度勾配に垂直な方向との間の角度であり、線が初期投票画素及び1つの近傍画素を接続し、強度勾配がデジタル画像の強度値の勾配を表し、強度勾配が、判定すべき核種の内部に典型的な強度値の方向を指し示す、特定することと、
− 投票角度が以下の角度範囲:
、又は、
、又は、
の1つに属さなければ、1つの近傍画素に零投票を行うことと
を備える。上記で与えられた角度範囲は、単位円の中心として用いられる投票画素の強度勾配に沿って対称でない角度範囲の多数の可能な例のうちの1つにすぎない。
[0039]実施形態によれば、決定された固有値及び固有ベクトルの評価が、評価される固有値及び固有ベクトルが決定された画素がエッジ画素、接合画素、又は外れ値のいずれであるかを判定することを備える。この情報を用いて、顕著性エッジ強度画像におけるエッジ画素を選択的に強調する。
[0040]実施形態によれば、各画素の決定された固有ベクトルは、第1の(主要)固有ベクトル及び第2の(副次)固有ベクトルを含む。前記画素の決定された固有値は、第1の(主要)固有値及び第2の(副次)固有値を含む。第1の固有値は第1の固有ベクトルの固有値であり、第2の固有値は第2の固有ベクトルの固有値である。第1の固有値及び第2の固有値の差の大きさは、画素のテンソル値へのテンソルスティック成分の寄与に相関する。第2の固有値の大きさは、画素のテンソル値へのテンソルボール成分の寄与に相関する。初期投票画素がエッジ画素、接合画素、又は外れ値のいずれであるかの判定は、前記画素の第1及び第2の固有値を比較することを備える。第1の固有値が第2の固有値より大きく、第2の固有値がほぼ零である場合に、画素はエッジ画素と識別される。第1の固有値が第2の固有値とほぼ同じ大きさであり、両方の固有値の大きさが最小の大きさを上回る場合に、画素は接合画素と識別される。第1及び第2の固有値が両方ともほぼ零である場合に、画素は外れ値と識別される。
[0041]実施形態によれば、画素ごとに決定されたテンソル値は、前記画素についての顕著性値を表す。顕著性値は、前記画素が核のエッジのメンバーである確率に比例する。
[0042]
[0043]実施形態によれば、テンソル投票場の実装は、テンソル投票場を用いて、初期投票画素の1つの、その近傍画素の1つへの各投票を計算するプログラム論理を実装することを備える。
[0044]実施形態によれば、テンソル投票場は、核の1つ又は複数の特徴で符号化される。特徴情報は、内側の核が外側より明るいか又は暗いかの情報を含む。この情報を用いて、強度勾配が核の内側又は外側のいずれを指し示すかを前記情報から推定する。実施形態によれば、核の特徴は、境界を検出すべき核種の半径を含む。たとえば、判定すべき核種の典型的な半径の範囲を用いて、テンソル投票場の曲率制約を計算することができ、これもやはり、1つ又は複数の核の特徴を符号化するテンソル投票場により行われる投票に影響を同様に与える。
[0045]実施形態によれば、核の複数の特徴、たとえば典型的な半径、想定される核の内部の方向を指し示す指示子として使用可能な強度勾配の方向によって、テンソル投票場を変調することができ、特定の近傍画素に行われる投票の重みに影響を与えることができる。また、真の核のエッジ画素の強度勾配がほぼ同じ位置を指し示すことは、テンソル投票場で符号化され得る検出すべき核種の特徴の1つとすることができる。
[0046]実施形態によれば、初期投票画素の1つの、その近傍画素の1つへの各投票の計算は:
− 1つの初期投票画素における強度勾配を識別することであって、強度勾配がデジタル画像の強度値の勾配を表し、強度勾配が、判定すべき核種の内部に典型的な強度値の方向を指し示す、識別することと、
− 1つの初期投票画素及び近傍画素の1つを接続する円の弧を計算することであって、弧が幾何学的中心を有し、幾何学的中心が、方向が強度勾配の方向と同一である線上に存在し、強度勾配の方向が指し示す前記線の半分に存在する、計算することと、
− 1つの近傍画素に行われる投票の量を、前記1つの近傍画素から初期投票画素までの距離に比例して減少させることと、及び/又は、
− 弧の曲率が、事前定義されたずれ閾値を超えて、識別すべき核種の典型的なエッジ曲率からずれている場合に、1つの近傍画素に行われる投票の量を減少させることと
を備える。
[0047]実施形態によれば、弧の曲率が下側曲率閾値未満であるか又は上側曲率閾値を超える場合に、1つの近傍画素へ行われる投票は零である。たとえば、下側曲率閾値Kminは、
に従って最大核半径に依存することができ、ここでrmaxは、識別すべき核種の半径の上側閾値である。上側曲率閾値Kmaxは、
に従って最小核半径に依存することができ、ここでrminは、識別すべき核種の半径の下側閾値である。
[0048]実施形態によれば、初期投票画素の1つによりその近傍画素の1つへ行われる個々の投票(S)が
に従って計算され、
− lが、1つの初期投票画素及び1つの近傍画素の間のユークリッド距離であり、
− θが、線と、1つの初期投票画素(O、316)における強度勾配(318)に垂直な方向との間の投票角度であり、線が初期投票画素及び1つの近傍画素を接続し、強度勾配がデジタル画像(702)の強度値の勾配を表し、強度勾配が、判定すべき核種の内部に典型的な強度値の方向を指し示し、
− sが
に従って計算され、弧(317)の長さを表し、弧が1つの初期投票画素及び1つの近傍画素を接続し、弧が、幾何学的中心(C)を有する円の弧であり、
− Kが
に従って計算される投票曲率であり、
− σが、前記1つの初期投票画素により行われる投票の量の減衰速度を決定する拡大係数であり、投票の量が、1つの近傍画素から1つの近傍画素までの距離に比例して低下する。
[0049]実施形態によれば、動作は:
− 精製されたエッジ画素を用いて前景画素及び背景画素をサンプリングすることであって、前景画素が核内画素の候補であり、背景画素が核外画素の候補であり、前景及び背景画素が、識別された精製されたエッジ画素の近傍にあるデジタル画像の画素を選択することでサンプリングされ、前景画素及び背景画素がエッジの異なる側から選択される、サンプリングすることと、
− サンプリングされた前景画素の強度値についての前景ヒストグラムを生成することと、
− サンプリングされた背景画素の強度値についての背景ヒストグラムを生成することと、
− 前景及び背景ヒストグラムを評価して最適な強度閾値を特定することであって、最適な強度閾値が、強度値が強度閾値を下回る又は上回ることに応じて、サンプリングされた画素を2つの別々の画素セットへ、前記2つの別々の画素セットが前景及び背景画素サンプルからのずれが最小となるように分離することが可能な強度閾値である、特定することと
をさらに備える。
[0050]実施形態によれば、動作は、前景画像の画素のそれぞれと、背景画像の画素のそれぞれとに重みを割り当てることをさらに備える。重みは、前記サンプリングされた前景及び背景画素の間に存在し、前景画素及び背景画素がその両側からサンプリングされた、識別された精製されたエッジ画素の顕著性値に比例する。あるいは、重みは、前記サンプリングされた前景及び背景画素の間に存在し、前景画素及び背景画素がその両側からサンプリングされた、識別された精製されたエッジ画素の強度勾配の大きさに比例する。
[0051]最適な強度閾値は、強度値が強度閾値を下回る又は上回ることに応じて、及びサンプリングされた画素の重みに応じて、サンプリングされた画素を2つの別々の画素セットへ、前記2つの別々の画素セットが前景及び背景画素サンプルからのずれが最小となるように分離することが可能なように特定される。
[0052]実施形態によれば、精製されたエッジ画素を用いて前景画素及び背景画素をサンプリングすることは、精製されたエッジ画素のそれぞれに対して:
− 前記精製されたエッジ画素における強度勾配を特定することであって、強度勾配が、判定すべき核種の内部に典型的な強度値の方向を指し示す、特定することと、
− 特定された強度勾配の方向の前記精製されたエッジ画素から事前定義された距離に存在する第1の画素を、サンプリングされた前景画素の1つとして選択することと、
− 特定された強度勾配の反対方向の前記精製されたエッジ画素から事前定義された距離に存在する第2の画素を、サンプリングされた背景画素の1つとして選択することと
を備える。
[0053]実施形態によれば、動作は、デジタル画像を複数の部分領域に分割することと、前景及び背景画素のサンプリングと、最適な強度閾値の決定とを、複数の部分領域のそれぞれについて別々に行うこととをさらに備える。部分領域は、たとえば、分離した画素ブロックの形態を有してもよいが、他の形態も可能である。
[0054]実施形態によれば、システムのプロセッサは、初期画像の各画素において複数の部分領域の最適な強度閾値を補間し、前記画素のそれぞれに、その補間された最適な強度閾値を割り当てる。
[0055]実施形態によれば、プロセッサは、デジタル画像の画素の強度値を、それぞれ割り当てられた補間された最適な強度閾値と比較し、前景画像マスクを自動的に生成する。前景画像マスクは、識別すべき核の中に存在しないと予測される全画素を選択的にマスクし隠蔽する。予測は、画素の強度値が、前記画素に割り当てられた補間された強度閾値を下回るか又は上回るかのいずれであると判明したかに依存する。次いで、プロセッサは、前景画像マスクをデジタル画像に適用して、核の中に存在しないと予測されるデジタル画像の全画素を除去又は隠蔽する。
[0056]実施形態によれば、画像分析システムのプロセッサは、複数の事前定義された角度(たとえば、0°、2°、4°、...)のそれぞれについて、単一の計算ステップにおいて、それぞれのテンソル投票場を計算する。計算されたテンソル投票場のそれぞれは、画像の各画素における強度勾配の方向に関する情報を組み込み、前記画素に対する複数の近傍画素それぞれの相対位置を組み込む。各計算されたテンソル投票場は、画素の強度勾配の大きさに関する情報を組み込まない(「有さない」)。
[0057]テンソル投票動作は、複数の計算されるテンソル投票場の計算の後に行われる。初期投票画素の1つによりその近傍画素の1つへ投票を行うことは:
− 1つの初期投票画素について、IVP勾配角度を特定することであって、IVP勾配角度が、画像のx軸と、1つの初期投票画素における強度勾配の方向との間の角度である、特定することと、
− 特定されたIVP勾配角度と同一であるか、又は特定されたIVP勾配角度に最も類似した角度について計算された複数の計算されたテンソル投票場の1つを特定することと、
− 特定されたテンソル投票場をデジタル画像のグリッドと位置合わせすることであって、テンソル場の中心が投票画素に位置し、及び/又はテンソル投票場が計算された角度が、特定されたIVP勾配角度と位置合わせされるように実行され得る、位置合わせすることと、
− 特定されたテンソル投票場に組み込まれた1つの初期投票画素及び1つの近傍画素の相対位置を用いて、投票を計算するために分解されるテンソル値を特定することと
を備える。
[0058]したがって、計算されたテンソル投票場は、事前計算されたテンソル投票場である。事前計算されたテンソル投票場は、強度勾配の方向に関する情報を組み込むが、それぞれの画素の強度勾配の大きさに関する情報を組み込まない。これには、事前計算されたテンソル投票場を再利用して、勾配の配向が事前計算されたテンソル投票場の角度に対応する複数の初期投票画素の投票の計算を加速できるという利点がある。画像において、典型的には、勾配方向が同一又は非常に類似している多数の画素が存在するが、勾配の大きさは非常に異なり得る。
[0059]テンソル投票場が事前計算される場合、曲率及び弧長は、投票処理で再計算される必要がなくなる。テンソル投票場が事前計算されない場合、曲率及び弧長は、IVP−近傍画素のペアごとに計算されることになる。
[0060]初期投票画素の勾配の大きさを有さない/組み込まない特定の角度についてのテンソル投票場を事前計算することによって、実際の投票計算中の時間及びCPU資源消費を大幅に減少させることができる。
[0061]実施形態によれば、識別されたテンソル投票場を用いて、1つの投票画素の1つの近傍画素への投票を計算することは:
− 前記1つの初期投票画素について、1つの初期投票画素の強度勾配の大きさ(又は一般的には単調関数)によって、識別されたテンソル投票場を重み付けすることであって、たとえば識別されたテンソル投票場に強度勾配の大きさを乗じることで実施可能な、重み付けすることと、
− 識別された重み付けられたテンソル投票場を用いて、特定の初期投票画素の特定の近傍画素への投票を計算することと
を備える。テンソル投票場を用いて投票を計算することは、たとえば当技術分野で知られているようなものに従って実施することができる(G.Guy及びG.Medioni並びにG.Bebis、M.Nicolescu、A.Skurikhinの論文を引用した、本出願の[0077]で与えられた参考文献を参照されたい)。これにより、実施形態によれば、検出すべき核種の1つ又は複数の特徴に関する情報を組み込んだ非対称なテンソル投票場が使用される。勾配方向情報を選択的に組み込むが勾配大きさ情報を組み込まないテンソル投票場の事前計算によって、投票処理を加速することができる。これは、複数の組織スライドから得られるデジタル画像のリアルタイム画像分析の文脈において特に重要である。
[0062]実施形態によれば、動作は、多重応答抑制を顕著性エッジ画像に実施し、次いで抑制された顕著性エッジ画像のヒステリシス閾値処理を実施して、デジタル画像に対する精製されたエッジマスクを生成することをさらに備える。
[0063]一部の実施形態によれば、初期エッジは、Canny(エッジ検出)フィルタを初期画像に適用することで識別される。
[0064]実施形態によれば、動作は、帯域制限操作可能フィルタの実装を用いてテンソル投票を計算することで、テンソル投票場を計算することをさらに備え、ここで帯域制限操作可能フィルタを用いることで、テンソル投票の畳み込みを高速フーリエ変換と共に行うことが可能になる。
[0065]実施形態によれば、動作は:
− 各初期投票画素における初期画像内での強度勾配を計算することと、
− 初期投票画素における画像勾配を分析して、各初期投票画素のテンソル値のスティックテンソル成分を生成することであって、画素における強度勾配の方向が、その画素におけるスティックテンソル成分の方向として使用され、前記画素における強度勾配の勾配値が、その画素におけるスティックテンソル成分の強度に使用される、生成することと
をさらに備える。
[0066]実施形態によれば、初期画像はグレースケール画像である。
[0067]実施形態によれば、初期画像は複数のカラーチャネルを含む。
[0068]実施形態によれば、動作は、色分解、分離又は逆混合からなるグループから選択される方法を用いて、複数のカラーチャネルから1つのカラーチャネルを抽出することをさらに備える。
[0069]さらなる態様では、本発明は、生物学的組織サンプルのデジタル画像内の細胞核の境界を自動的に識別するための方法に関する。方法は、デジタル病理画像分析システムのプロセッサにより実行される。方法は:
− プロセッサにより、デジタル画像内の1つ又は複数の初期エッジを識別し、識別された初期エッジ内の画素を初期投票画素として使用するステップと、
− プロセッサにより、初期投票画素のそれぞれの近傍にある画素に対してテンソル投票動作を行うステップと、
− プロセッサにより、近傍画素のそれぞれに対する複数の投票を累積して、前記近傍画素に対するテンソル値を決定するステップであって、投票の量が、前記近傍画素が初期投票画素と同じ核のエッジ画素である可能性が高いかを示し、テンソル値が、近傍に前記近傍画素が存在する全ての初期投票画素により行われた全ての投票の総和である、決定するステップと、
− プロセッサにより、決定されたテンソル値のそれぞれを分解して、分解されたテンソル値の固有値及び固有ベクトルを決定するステップと、
− プロセッサにより、決定された固有値及び固有ベクトルを評価して精製されたエッジ画素を識別するステップであって、精製されたエッジ画素が細胞核の境界を表す、識別するステップと、
− プロセッサにより、細胞核の境界を表す識別された精製されたエッジ画素を選択的に含む顕著性エッジ強度画像(806)を生成するステップと
を備える。
[0070]実施形態によれば、方法は、本明細書に記載のデジタル病理画像分析システムの実施形態により実行される動作及びステップを備える。
[0071]さらなる態様では、本発明は、処理システムにより実行するためのコンピュータ実行可能命令を有する有形非一時的コンピュータ可読媒体に関する。システムは、複数の異なる実施形態に関して本明細書で説明されるデジタル病理画像分析システムとすることができる。コンピュータ実行可能命令は、生物学的組織サンプルの画像化分析のために物体境界の画定を行うためのものであって、実行された場合に、処理システムに上述の方法を実施させる。
本主題の開示の一例示的実施形態による適応的閾値処理のためのシステムの図である。 本主題の開示の一例示的実施形態によるエッジに基づく適応的閾値処理のための方法の図である。 本主題の開示の一例示的実施形態によるテンソル投票のための方法の図である。 本主題の開示の一例示的実施形態による減衰関数の図である。 本主題の開示の一例示的実施形態による標準的な投票場の図である。 本主題の開示の一例示的実施形態による局所閾値を生成するための方法の図である。 本主題の開示の一例示的実施形態による局所閾値を生成するための方法の図である。 本主題の開示の一例示的実施形態による局所閾値を生成するための方法の図である。 図5Aは従来技術の方法と対比した本主題の開示の開示された例示的実施形態についての検出された核の図である。図5Bは従来技術の方法と対比した本主題の開示の開示された例示的実施形態についての検出された核の図である。 本発明による前景検出のためのフローチャートである。 図7Aは入力グレースケール画像の図である。図7Bは初期エッジ検出画像の図である。 図8Aは本発明による顕著性エッジ画像8Aの図である。図8Bは本発明による精製されたエッジ画像8Bの図である。図8Cは本発明による顕著性エッジ強度画像8Cの図である。 角度別のテンソル投票場の図である。
[0072]本明細書に記載のシステム、方法、及びコンピュータプログラムは、エッジベースのセグメント化動作を行って、たとえば、核を識別する。本発明による核セグメント化のための前景検出の方法は、勾配ベースエッジ検出と、テンソル投票と、テンソル場事前計算と、局所ヒストグラム生成と、閾値決定とのモジュールを含み、これにより、図7に示されるような、改良された核検出をもたらす画像を生成する。図6に、本発明による前景検出のためのフローチャートを示し、図6に示されたステップは以下で詳細に説明される。
[0073]勾配ベースエッジ検出
[0074]一般的に、本発明によるシステムの一例示的実施形態では、原/初期画像702又は画像データのセットがシステムに入力される。システムが原画像又は画像データ(図7A図示)を受信した後、勾配ベースエッジ検出モジュールを用いて、画像内の構造、たとえば、原/初期画像内の全ての構造又は実質的に全ての構造のエッジを検出する(S660)。勾配ベースエッジ検出方法は、当技術分野でよく知られている。
[0075]本発明の一例示的実施形態では、Cannyエッジ検出方法[8]を用いて勾配ベースエッジ検出を行うことで、初期エッジ検出画像704に描かれたエッジを初期画像702において検出する。しかしながら、他の勾配ベースエッジ検出方法を使用してもよい。勾配ベースエッジ検出モジュールから生成される画像は、図7Bに示された初期エッジ検出画像704である。当技術分野で知られている勾配ベースエッジ検出モジュールから検出されたエッジがノイズ(たとえば、髪の毛、気泡、埃、壊れた核などに由来するアーティファクト)を含むことは珍しくない。初期エッジ検出画像におけるノイズの結果、本発明による核を検出する方法は、真の核エッジ画素を強化し、画像から非核エッジ画素を抑制する追加のステップを含む。
[0076]テンソル投票
[0077]初期エッジ検出画像704が生成された後、テンソル投票を初期エッジ画像704に対して、たとえば初期エッジ画像内の全て又は実質的に全ての画素に対して行って、より高感度かつ詳細な精製されたエッジ画像804を生成する(S661)。テンソル投票方法は、概して、(初期エッジ画像704の)各初期エッジ画素に近接する又はその周辺の領域内の画素について、近接画素(「近傍画素」とも呼ばれる)のそれぞれが同じ核のエッジ画素である可能性が高いかを判定する(すなわち、投票する)ことを含む。テンソル投票の概念は当技術分野で知られているが、本発明のテンソル投票の方法は、たとえば、同じ核のエッジ上の画素が互いに投票するように設計される。本発明におけるテンソル投票処理は、テンソル投票場を用いて実装される。テンソル投票場は、核の大きさ及び形状、並びに核周辺の画像強度分布に関する事前情報を組み込むように設計され、これらは代表的な画像を探索することで得られる。これによってテンソル投票場が非対称となり、当技術分野における通常の応用から逸脱する。テンソル投票方式の例が、たとえば、G.Guy及びG.Medioni、「Inferring global perceptual contours from local features(局所的特徴からの大局的知覚輪郭の推定)」、International Journal of Computer Vision、1996年、vol.20、113〜133頁、並びに、L.A.Loss、G.Bebis、M.Nicolescu、A.Skurikhin、「An iterative multi−scale tensor voting scheme for perceptual grouping of natural shapes in cluttered backgrounds(雑然とした背景における自然形状の知覚的なグループ化のための反復的マルチスケールテンソル投票方式)」、Computer Vision and Image Understanding、2009年、vol.113、126〜149頁に与えられている。
[0078]実施形態によれば、生成されたテンソル投票場によって、各(初期)エッジ画素は、2×2行列である投票をその近傍の画素に対してそのテンソル投票場に基づいて行うことができる。他方、初期画像702の各画素は、近傍の初期エッジ画素のそれぞれから投票を受け取り累積する。その結果は、各画素が2×2行列をその値として有するテンソル画像である。したがって、テンソル画像(図示せず)は初期画像702の派生物であり、ここで各画素(又は画素の少なくとも一部)はテンソル総和(「テンソル値」)を割り当てており、テンソル総和は、前記画素へその近傍により行われた投票を集計することで得られる。
[0079]テンソル分析
[0080]テンソル画像が生成された後、テンソル分析を行って、図8Aに示された顕著性エッジ画像と、主要固有ベクトル画像(図示せず)とを生成する。
[0081]テンソル画像の各画素において、固有ベクトル及びそれぞれの固有値を、前記画素について計算されたテンソル値(「テンソル総和」)に基づいて計算することができる。固有ベクトルは、主要固有ベクトルとも呼ばれる第1の固有ベクトルと、副次固有ベクトルとも呼ばれる第2の固有ベクトルとを含むことができる。主要固有ベクトルの固有値は、主要固有値である。副次固有ベクトルの固有値は、副次固有値である。顕著性エッジ画像の各画素の値は、2つの固有値の絶対差として計算される。
[0082]主要固有ベクトル画像の各画素の値は、大きい固有値、すなわち「主要固有値」に対応する固有ベクトルである。したがって、実施形態によれば、主要固有ベクトル画像は、テンソル画像から、各画素に対して2つの固有値を決定し、固有値の大きい方を主要固有値として特定し、特定された主要固有ベクトルに対応する固有ベクトルを主要固有ベクトル画像の各画素を表すデータ値として用いることで計算される。
[0083]顕著性エッジ画像及び主要固有ベクトル画像に基づいて、図8Bに示された精製されたエッジ画像804が、多重応答抑制及びヒステリシス閾値処理を用いて生成され、これは偽のエッジ及び見逃されたエッジが少ない。
[0084]実施形態によれば、精製されたエッジマスクが精製されたエッジ画像804から生成され、ここで精製されたエッジ画像804のエッジに属さない全ての画素がマスク画素である。
[0085]図8Cに示された顕著性エッジ強度画像806が、精製されたエッジマスクに属さない顕著性エッジ画像804の画素をゼロにすることで生成され、精製されたエッジマスクは、エッジ画素が存在する場所だけでなく、エッジ画素が真のエッジ画素である尤度を示す。
[0086]局所ヒストグラム生成
[0087]顕著性エッジ強度画像806が生成された後、どの画素が核画素であるか、及びどれがそうでないか(核画素とは、決定された核エッジ画素だけでなく、核の任意の画素を指す)を確定するために利用される局所閾値を確定するために、局所ヒストグラム410、412が生成される。
[0088]本発明の一例示的実施形態では、顕著性エッジ画像8Aが、画素のブロックに分割される(S662)。ブロックの大きさは、ほぼ細胞核の直径であることが好ましい。たとえば、各ブロックは、幅が核の直径の半分及び2倍の間にある四角形とすることができる。ブロック(画素の四角形)の代わりに、画像の任意の他の形の部分領域、たとえば長方形、三角形、多角形などを用いることができる。
[0089]各ブロックの各エッジ画素408について、候補前景画素404及び候補背景画素406が、そのエッジ画素の勾配方向に基づいてサンプリングされる(S663)。サンプリング処理は、図4Bの図の説明でさらに詳細に説明される。本発明の我々の実施形態によれば、核は一般的には背景より明るく、前景画素は勾配方向(暗から明)に沿ってサンプリングされ、背景画素は反対方向でサンプリングされる。核がより暗い場合には、選択は逆の方法で行われる。
[0090]ブロックごとに、背景画素の局所ヒストグラム(「背景ヒストグラム」410)と、前景画素の局所ヒストグラム(「前景ヒストグラム」412)とが生成される。顕著性エッジ画像802のエッジ画素の強度値(ひいては、エッジ画素408に行われた全ての投票の総和として計算される前記画素408の顕著性値)を、前景画素及び背景画素に対する重みとして用いて、2つのヒストグラムを生成する(S664)。重み無しヒストグラムでは、各強度値(又は強度値ビン)は、前記特定の強度値を有する特定の画素セット内の画素の確率を割り当てている。たとえば、確率は、前記強度値を有する画素セットの画素の数をヒストグラムが生成された画素セットの画素の総数で割ることによって、計算することができる。重み付きヒストグラムでは、特定の強度値を有する画素の数を入力として用いて、検査されるセット内の画素が前記強度値を有する確率を計算するだけでなく、前記画素に割り当てられた重みを入力として用いて、確率分布を表すヒストグラムを生成する。
[0091]閾値決定
[0092]ヒストグラムが決定された後、閾値決定モジュールは、2つのヒストグラム(すなわち、前景ヒストグラム及び背景ヒストグラム)に基づいて、前景及び背景のサンプルについての分類誤差を最小化する、ブロックに対する最適な閾値を決定する(S665)。閾値は、初期画像画素の強度値であり、顕著性値ではない。エッジ画素を有さない画像ブロックについて、ブロック内の最大強度が計算され、閾値として使用される。ブロックごとに計算される閾値が、前記ブロックの中心における閾値として使用される(S666)。
[0093]ブロックごとの局所閾値が生成された後、画像の画素ごとの閾値が、グリッド構造又は三角形分割(triangulation)を介したリニア又はバイリニアの補間(S667)により生成される。補間の結果、初期画像の各画素は、補間された閾値に対応し、これを割り当てている。
[0094]結果生成
[0095]次に、結果決定モジュールは、顕微鏡画像取得システムから直接的に得られる、又は明視野顕微鏡画像取得システム(たとえばVentana iScan CoreoもしくはiScan HT)から得られるカラー画像から色分解によって間接的に得られるモノクロ画像とすることができる、原入力グレースケール画像702に対して決定された閾値を適用して、前景画像を生成する(S668)。さらに、検出された前景を用いて、分水嶺アルゴリズムの変形[2、3、4]に基づいて個々の核をセグメント化する。
[0096]図1に、本主題の開示の一例示的実施形態による適応的閾値処理のためのシステムを示す。システム100は、アッセイ、顕微鏡、及びスキャナの任意の組み合わせを含む、ソース画像を生成するためのソース101を備える。ソース101はメモリ103と通信可能であり、メモリ103は、インターフェース107に結合されたプロセッサ105により実行される複数の処理モジュール又は論理演算を含む。たとえば、生物標本などのサンプルは、メモリ103に結合された顕微鏡、カメラ、スキャナ、又は他の撮像デバイスにより撮像するためにスライドに載せることができ、標本の画像の分析は、本開示によるメモリ103に記憶された複数のモジュールの1つ又は複数を実行するプロセッサ105により実施される。分析は、標本の識別及び研究のためのものとすることができる。たとえば、生物学的又は病理学的システムは、生体情報を得るために、たとえば組織及び細胞構造、核、タンパク質の存在、タンパク質断片又は癌もしくは他の疾患を示す他のマーカーを検出するために、あるいは他の目的、たとえばゲノムDNA検出、メッセンジャーRNA検出、タンパク質検出、ウイルスの検出、遺伝子の検出、又はその他のために、標本を研究することができる。
[0097]標本は、たとえば、譲受人であるVentana Medical Systems社のDiscovery(商標)自動スライド染色プラットフォームなどの、自動染色/アッセイプラットフォームによって染色することができる。結果のスライド又はアッセイは、光源により照明し、カメラなどの撮像システムにより撮像することができる。光源は狭帯域光源、たとえばレーザ、又は明視野顕微鏡を介して見るためのRGB白色光を含むことができる。また、カメラプラットフォームは、1つ又は複数の対物レンズ及びデジタル撮像装置、並びにスペクトルフィルタのセットを有する顕微鏡を含むことができる。異なる波長の画像をキャプチャするための他の技法を用いてもよい。染色された生物標本を撮像するのに適したカメラプラットフォームは、当技術分野で知られていて、たとえばZeiss、Canon、Applied Spectral Imagingなどの企業から市販されており、そのようなプラットフォームは、本主題の開示のシステム、方法及び装置での使用に容易に適応可能である。
[0098]画像702は、無線によって、有線接続、たとえばソース101及びコンピュータ107の間のケーブル接続を介して、コンピュータネットワークを介して、又はコンピュータ間でデジタル情報を転送するのに一般的に使用される任意の他の媒体を用いて、メモリ又はコンピュータ可読媒体103に供給することができる。画像を、ネットワークを介してネットワークサーバ又はデータベースに供給して、記憶しコンピュータ107により後で取り出せるようにすることもできる。プロセッサ105及びメモリ103に加えて、コンピュータ107は入力及び出力デバイス、たとえばキーボード、マウス、スタイラス、及びディスプレイ/タッチスクリーンをさらに含む。以下の議論で説明されるように、プロセッサ105はメモリ103に記憶されたモジュールを実行して、画像の分析、画像又はそのような画像から得られる画像データのモルフォロジー処理、定量分析、及びユーザ操作コンピュータ107への定量的/グラフィカルな結果の表示を行う。
[0099]メモリ103に記憶されたモジュールは、勾配検出モジュール111、テンソル場計算モジュール112、テンソル投票モジュール113、局所ヒストグラム生成モジュール114、閾値決定モジュール115、及び結果生成モジュール116を含む。これらのモジュールにより行われる動作は本明細書に記載のものに限定されず、モジュールの並び、構成、及び総数は変化してもよく、現在説明されている実施形態は単に例示の目的のためのものにすぎない。
[00100]たとえば、勾配検出モジュール111を実行して、画像の1つ又は複数の画素又は領域が対象構造のエッジの存在に対応する又はこれを示すことを決定することができる。異なる画素間のコントラスト又は勾配が大きいことは、画像ブロック、領域、又は視野の中にエッジが存在することを示し得る。領域は、ソース101から受信されたソース画像内の構造又は領域を自動又は手動で選択することによって検出される特徴から選択することができる。特徴は、画像分析、組織不均質などに基づいて自動的に決定することができ、又はユーザにより選択することができる。いくつかの例では、グレースケール画像又はRGB画像の1つのカラーチャネルをサンプリングして、特定の領域、たとえば細胞又は核を注釈付け(annotate)することができる。特定された領域を用いて、後続の動作のための視野を定義することができる。いくつかの実施形態では、画像のスケール及び関心のある対象構造に応じて、画像を領域又はブロックに均一に分割することができる。これらの領域又はブロック内の画素は、本明細書に記載の後続の動作のための初期画素として選択することができる。初期エッジ画素を決定するための他の方法は、当業者にとって、本開示を読むと明らかとなろう。
[00101]次いで、テンソル場計算モジュール112を実行して、複数のテンソル場を対応する複数の配向について決定する。各配向は、事前定義された角度、たとえば2°、4°、6°、360°に対応する。この例では、180個の均一に分布した角度がカバーされるが、他の数の分割及び分布も可能である。以下で説明されるように、2次元テンソルは、2×2の行列である。テンソル場は、テンソルの2次元配列を表す。たとえば、テンソル場のテンソルの2次元配列は、原画像702に存在する画素と同数のテンソルを含むことができる。効率的に実装するために、複数のテンソル場が、均一に分布した対応する複数の配向(「角度」)において生成され、第1の次元が角度の添字である3次元配列となる。たとえば、角度0°についての第1のテンソル場、角度2°についての第2のテンソル場、及び角度358°についての第180のテンソル場が存在してもよい。全てのテンソル場は、投票動作の開始前に計算することができる。事前計算されたテンソル場によって、テンソル投票動作を行うときにテンソルをより高速に取り出すことが可能になる。1000画素を備える画像では180.000個の個別ステップとなり得る、画像の各画素に対する180個のテンソルトークン/配向別のテンソルの計算を行うのではなく、比較的少ない数の計算ステップ(たとえば、180個の異なる角度/テンソル投票場では180個)が、投票処理で使用される入力データを提供するために行われる。
[00102]テンソル投票モジュール113を実行して、テンソル投票動作を行うことによってテンソル画像(図示せず)が得られ、これをさらに用いて顕著性エッジ画像802の画素に対する顕著性値を生成する。簡単に言えば、各初期エッジ画素316は投票画素として指定され、その画素の投票場内の画素が投票され、投票は、投票曲率及び投票角度の閾値範囲に収まる近傍画素に基づいて決定される。閾値は、検出すべき構造の形状及び撮像特性に基づいて選択して、可能性の低いエッジ画素を抑制し可能性の高いものを強化するようにする。いくつかの例が、図9の図の説明の後に与えられる。
[00103]同一の核のエッジ上の画素の勾配は、ほぼ同一の位置を指し示し、初期エッジ画素に重ねられる2次元スティックテンソル場を用いて符号化される。2次元テンソルは、上述の事前計算されたテンソル場から取り出すことができる。これらの動作は、図3A〜3Cに関してさらに説明される。その結果のテンソル画像によって、顕著性エッジ画像802を生成し、大きい固有値に対応する固有ベクトル、すなわち、各画素における顕著性エッジ法線方向を決定することが可能になる。
[00104]初期エッジ画像701にテンソル投票を行うことで、核などの検出すべき構造を含む画像の領域に対して可能性の高いエッジ画素を特定した場合に、画像の領域ごとの閾値範囲が計算される。局所ヒストグラム生成モジュール114によって、この動作が、エッジ画素408を上回る勾配方向に沿った前景画素404と、エッジ画素を下回る背景画素406とをサンプリングし、背景及び前景両方についてのヒストグラム410、412を生成することで可能になる。前景及び背景ヒストグラムの両方を用いて、各ブロックにおける閾値範囲を生成する。続いて、適応的閾値画像が、複数の画像ブロックについての閾値範囲を用いた補間により生成される。最後に、入力画像702を局所適応的閾値画像と比較することによって、著しく改善した前景が提供される。
[00105]結果生成モジュール116により決定される結果は、端末107のユーザもしくは操作者に出力することができ、又はプロセッサ105により生成されるレポートにまとめ、ネットワークを介した他のコンピュータに送信するもしくはファイルに保存することができる。上述のように、モジュールは、プロセッサ105により実行される論理を含む。「論理」とは、本明細書及び本開示全体で使用される場合、プロセッサの動作に作用するために適用可能な命令信号及び/又はデータの形を有する任意の情報を指す。ソフトウェアは、そのような論理の一例である。プロセッサの例は、コンピュータプロセッサ(処理装置)、マイクロプロセッサ、デジタルシグナルプロセッサ、コントローラ及びマイクロコントローラなどである。論理は、メモリ103などのコンピュータ可読媒体上に記憶された信号から形成することができ、これには、ランダムアクセスメモリ(RAM)、読み出し専用メモリ(ROM)、消去可能/電気消去可能プログラム可能読み出し専用メモリ(EPROM/EEPROM)、フラッシュメモリなどが含まれる。論理は、デジタル及び/又はアナログハードウェア回路、たとえば、論理的AND、OR、XOR、NAND、NOR及び他の論理演算を備えるハードウェア回路をさらに備えることができる。論理は、ソフトウェア及びハードウェアの組み合わせから形成することができる。ネットワーク上で、論理は、サーバ又はサーバの集合体上でプログラミングすることができる。特定の論理ユニットは、ネットワーク上の単一の論理的な位置に限定されない。
[00106]図2に、本主題の開示の一例示的実施形態による適応的閾値処理のための方法を示す。図2の方法は、本明細書に記載の方法ステップが、記載の順序で実施される必要がなく、本主題の開示を踏まえて当業者により理解可能な任意の順序で実行できるという理解の下で、図1に示されたものと同様のモジュールを実行するコンピュータにより実施することができる。方法は、ソース画像を生成又は受信するためのソース、たとえばアッセイをスキャンするための撮像システムと組み合わせられた顕微鏡から開始する(S220)。画像702は、グレースケール画像とすることができ、又は多重画像(multiplex image)における単一のチャネルを表すことができる。エッジ画素は、画像において特定された勾配に基づいて、又は組織セグメント化もしくは画像内の領域の手動選択によって検出された特徴から見積もることができる。画像はブロックに分割することができ、画像の適当な大きさのブロックをサンプリングして、特定の領域、たとえば細胞又は核を注釈付けすることができる。各ブロックは、少なくとも1つ又はいくつかの核又は核クラスタを含むような十分な大きさにすることができる。ブロック内のエッジ又は境界の初期選択は、閾値より高い値を有する特徴及び画素を検出することで実施することができる。
[00107]次いで、2次元テンソル投票を適用して(S222)、顕著性エッジ画像802を決定し、前記画像から顕著性エッジマスクを決定する。テンソル場は、様々な配向において事前計算することができ、これにより、テンソル投票動作を行うときにテンソルをより高速に取り出すことが可能になる。
[00108]指定された初期エッジ画素408、316の近傍の、その初期エッジ画素の投票場310、312内の画素322、324は、本明細書でさらに説明されるように投票される。テンソル場は、一致した位置及び勾配方向を考慮して設計され、すなわち、同一の核又は核クラスタに属するエッジ画素である可能性が高い近傍画素が、互いにより多く投票する。投票方向の角度及び投票弧(voting arc)の曲率に制約を課して、可能性の低いエッジ画素を抑制し可能性の高いものを強化する。これらの動作は、図3A〜3Cに関してさらに説明される。画素ごとに受け取られた投票を分析して(S223)、画素が、エッジ/境界画素、もしくは核クラスタ内の接合画素、又は外れ値(エッジでも接合部でもない)である可能性が高いか否かを判定する。この結果を用いて、顕著性エッジ画像802を生成し、前記画像から顕著性エッジマスクを生成する。顕著性エッジマスクにおいて、顕著性エッジ画素でない全画素はマスク画素である。
[00109]核などの検出すべき構造を含む画像の領域に対して可能性の高いエッジ画素を特定した場合、画像又は画像ブロックの領域についての強度の閾値範囲(すなわち、最大許容限度及び最小許容限度)を計算して、適応的局所閾値画像を生成できるようにする。前景及び背景ヒストグラム410、412が、画像のブロックごとに生成される(S224)。これらの動作は、エッジ画素408を上回る勾配方向に沿った前景画素404及びエッジ画素を下回る背景画素406をサンプリングすることと、画素における顕著性値又は勾配の大きさを重みとして用いて、背景及び前景両方についてのヒストグラムを生成することとを含む。次いで、前景及び背景両方のヒストグラムを用いて、各ブロックにおける閾値範囲を決定する。続いて、適応的局所閾値画像が、複数の画像ブロック及びそれらの閾値範囲を用いた補間によって生成される(S226)。
[00110]たとえば、画像を2×2の画像ブロックへ分割することができ、4つのブロックのそれぞれにおける閾値範囲は、[30,60]、[40,80]、[50,90]、及び[60,100]である。適応的局所閾値画像は、4つのブロックのそれぞれに対する中心閾値を、たとえば閾値範囲限度の平均として計算することで、生成することができる。上記の例では、4つのブロックの中心閾値は、45、60、70及び80となる。しかしながら、閾値範囲を用いて同様の結果を得る多数の選択肢が存在する。そして、中心閾値を画像全体にわたって補間して、各画素に補間された閾値を割り当てる。入力画像を局所適応的閾値画像と比較することによって、著しく改善した前景が与えられる。結果は、ユーザに出力することができ(S229)、又はレポートにまとめ、ネットワークを介した他のコンピュータに送信するもしくはファイルに保存することができる。
[00111]図3A〜3Cはそれぞれ、本主題の開示の一例示的実施形態による、テンソル投票のための方法、投票角度θ及び投票曲率Kでパラメータ化された減衰関数S、及び上述の角度及び曲率の制約に基づく投票場を示す。図3A〜Cの方法は、本明細書に記載の方法ステップが、記載の順序で実施される必要がなく、本主題の開示を踏まえて当業者により理解可能な任意の順序で実行できるという理解の下で、図1に示されたものと同様のモジュールを実行するコンピュータにより実施することができる。
[00112]ここで図3Aを参照すると、方法は、特定の勾配方向318を有する初期エッジ画素316から開始する(S330)。画像内の複数の均一に分布した配向について、いくつかのテンソル場が事前計算される(S331)。たとえば、0°及び360°の間の角度について、複数の配向を2°又は3°の間隔で均一に分布させることができる。この事前計算によって、各エッジ画素において投票するためのテンソルの迅速な取り出しが可能になる。事前計算(S331)に続いて、初期画素316が選択され(S332)、投票画素として指定される。上述のように、初期画素は、勾配値又は検出された特徴に基づいて、エッジ画素から選択することができる。当技術分野で知られている任意の初期エッジ検出アルゴリズムを用いて、初期エッジ画像704の初期エッジ画素を検出することができる。
[00113]いずれの場合でも、テンソル投票動作は、その初期画素から開始する。画素において投票するためのテンソル場は、初期画素316の勾配方向318に基づいて取り出すことができる(S333)。
[00114]いずれの場合でも、さらなる画素が分析されるべきかが判定される(S335)。さらなる初期画素が分析中の画像の領域内に存在する場合、次の初期画素が選択され(S332)、本明細書に記載のように新たなテンソル場が取り出される(S331)。画像又は領域内の全ての初期画素について投票が完了した場合、顕著性エッジ画像802が生成され、顕著性エッジマスクを生成するために使用される(S336)。顕著性エッジマスクを生成するために、各画素への投票を集計して、累積されたテンソル(「テンソル総和」)を生成する。検出すべき核の特徴に関する情報を含む個々の投票の一例が、図3Aの図の説明で説明される。特定の画素Pへ行われた全ての投票の集計の結果、すなわち「テンソル値」又は「テンソル総和」もまた、テンソルである。各画素において得られるテンソルは対称非負定値行列であり、これをさらに2つのスティックテンソル成分に分解し使用して、顕著性エッジ画像802及び顕著性エッジマスクを生成することができる。たとえば、2次元2次テンソルは対称非負定値2×2行列であり、以下のように記述することができる:
[00115]テンソルTは、スティックテンソル(「スティックテンソル成分」とも呼ばれる)と、ボールテンソル(「ボールテンソル成分」とも呼ばれる)との総和として分解することができる。Tは、外積テンソルの線形結合であり、したがって同様にテンソルである。テンソルTは2次対称テンソルとすることができ、固有値λ、λは実数であって正又は零であり、第1の固有値λ(「主要固有値」)は第2の固有値λ(「副次固有値」)以上である。上付き文字Tは、行列転置を表す。
[00116]λ及びe並びにλ及びeの値はそれぞれ、楕円の第1(主要)軸及び第2(副次)軸の長さ及び方向を表す。
[00117]スティックテンソルは:
と表すことができ、ここでeは第1の固有ベクトルであり、λは第1の固有ベクトルの対応する第1の固有値である。第1の固有ベクトル及び第1の固有値は共に、スティックテンソルにより表されるスティックの長さ(顕著性)及び配向を記述するものである。幾何学的には、スティック成分の顕著性は、スティック成分の根底にあって、固有値のうちの主要なものにより表されるスティックモデルの長さに対応する。
[00118]ボールテンソルは:
と表すことができ、ここでeは第2の固有ベクトルであり、λは第2の固有ベクトルの対応する第2の固有値である。第2の固有ベクトル及び第2の固有値は共に、ボールテンソルにより表されるボールの顕著性を記述するものである。幾何学的には、顕著性は、ボール成分の根底にあるボールモデルの半径に対応する。
[00119]2つの固有ベクトルは、楕円の主要方向に対応し、固有値は、楕円の大きさ及び形状を符号化する。
[00120]この結果は、すなわち計算されたスティック及びボールテンソル成分は、各画素が、核クラスタ内の接合部、核のエッジ、又は外れ値にある確率を示す。この判定は、各画素におけるスティック及びボールテンソル成分を比較することで行われる。たとえば、λ−λ>λの場合、これが示すのは、画素における累積されたテンソルのスティック成分がボール成分より大きく、画素が核のエッジ上にある可能性が高いことである。λ≒λ>0の場合、スティック成分はボール成分より小さく、近傍画素は接合部又は領域にある可能性が高い。λ≒λ≒0の場合、画素は顕著性が低く、すなわち、エッジ又は境界画素である可能性が低く、外れ値として破棄される。さらに、あらゆる投票は、2×2行列によって表すことができる。各画素に対する投票が累積され、累積された投票のメトリック(テンソル総和のメトリック)を分解して、顕著性エッジ画像802(λ−λ)及び顕著性エッジ法線方向(特定の画素における前記累積されたテンソル総和Tの2つの固有値λ、λの大きい方に対応する固有ベクトル)を得ることができる。顕著性エッジ法線方向は、特定の画素におけるエッジの法線方向を示す。
[00121]図3Bに、テンソル投票場を計算するための数式関数Sを示す。この式は、本明細書では、「減衰関数」とも呼ばれる。これを用いて、投票画素の法線方向(すなわち、前記画素の勾配方向)に基づいてテンソル場における要素(テンソル投票)を計算することによって、良好な連続性を示す(又は同一の核のエッジ上に存在する可能性がより高い)画素が互いにより多く投票するという概念を実装する。たとえば、原点Oは各初期エッジ画素(投票画素)316と位置合わせされ、その勾配方向がy軸を向いている(図3B参照)。小文字sは、投票画素O 316と被投票画素Pとの間の投票弧317の長さを表し、Kは曲率を表し、lは2つの画素間のユークリッド距離を表す。x軸及びy軸は原画像のx軸及びy軸を表し、ここで座標系の原点が投票画素に位置する。Cは、画素O及びPを接続する弧317の曲率により数学的に暗示される幾何学的中心を表す。シグマ(「σ」)は、投票画素からの被投票画素の距離及び曲率に応じて投票の減衰速度を指定する減衰パラメータである。ほとんどの核の半径は既知であるか又は良く近似されているので、曲率Kの閾値をさらに適用してOからPへ行うべき投票の大きさを制御する。たとえば、哺乳類細胞の核の平均的な直径は約5〜15μmであり、平均的な半径は2.5〜7.5μmである。
[00122]実施形態によれば、原点O、すなわち投票画素からより遠い画素P(被投票画素)は、より少なく投票され、平均又は既知の制約外の曲率を有する投票弧317、325上の画素もまた、より少なく投票される。
[00123]さらに又はあるいは、実施形態によれば、点Pが投票画素Oにおける勾配ベクトルの反対方向にある場合(勾配ベクトルは核の方向を指し示す)、初期投票画素Oから被投票画素pに行われる投票は減少し、又は零である。たとえば、それぞれのIVPにおける勾配の方向の反対側にある画素をカバーする事前定義された角度範囲内にある角度θを有する投票方向についてのテンソル場では、初期投票画素Oから被投票画素pに行われる投票は減少し、又は零である。そのような事前定義された範囲は、たとえば、190度から350度までとすることができる。
[00124]任意の投票画素について、正の減衰係数変調テンソル投票が、制約を満たす画素に行われる。一例による投票の計算の詳細な説明は、図3Aの説明において与えられる。
[00125](既知の半径に基づく)核の曲率の知識を用いて、図3Cに示された近傍画素についての投票場/領域を決定する。図3Bの減衰関数Sが、投票場の片側又は両側310、312に適用される。減衰関数は、投票場の上側及び下側において非対称とすることができ、その場合、より高い投票を上側の画素に行うことができる(ここでの「上側」とは、細胞核の内部への想定される方向を意味し、この方向は投票画素316における勾配ベクトル318から得ることができる)。さらに、投票場は動的であって、初期投票画素316の勾配方向318に基づいて回転する。投票場は、図3AのステップS331で事前計算されたテンソル場に基づくことができ、これにより、画素間の投票の間にテンソルをより速く生成する又は取り出すことが可能になる。図3Cに示されたグレーの箱は、投票画素316がグレーの領域外の画素よりも高い投票を行う画素を示す。
[00126]実施形態によれば、長方形の近傍が、IVP Oにおける勾配の方向と位置合わせされ、IVPにおける接線方向と位置合わせされる。IVP Oのテンソル投票場は、IVPの勾配の方向において非対称である。
[00127]実施形態によれば、IVPは、強度勾配の反対方向にある、すなわち、想定される核の内部の方向にある任意の画素に対して、より少ない量(「重み」)又は零の投票を行う。
[00128]実施形態によれば、グレー領域312、310の境界は急峻であり、グレーの長方形の全画素は、Oから投票を受け取る初期投票画素Oの近傍画素とみなされる。白色領域内の全画素は、画素Oの近傍とはみなされず、画素Oから投票を受け取らない。たとえば、長方形の長辺は、Ventanaスキャナからの倍率20倍の画像では、27画素とすることができる。
[00129]他の実施形態によれば、グレー領域及び白色領域の間の境界は、実際には滑らかであってもよく、すなわち、グレー領域は急峻な境界を有さなくてもよい。むしろ、特定の投票弧325が与えられた投票画素からの被投票画素の距離に応じて、投票は徐々に減衰することができる。白色領域の画素への画素Oの投票の量/重みは、ほぼ零とすることができる。
[00130]不規則な形状の線320が、核の真の輪郭を描くことがある。弧325は、投票画素316を被投票画素324と接続する投票弧であり、画素324に対する投票を計算するために使用される。画素314は、核の「真の」輪郭上の他の画素である場合がある。投票は、投票画素316における接線(勾配法線)の方向において、勾配の方向よりも高い。グレー領域310、312が非正方形の長方形であることから推論できるように、細胞核の輪郭の典型的な曲率を反映する投票弧に画素がより近い場合に、投票はより高くなる。投票画素から等しく離れている投票画素の強度勾配に沿った点のペア(O、P)におけるテンソルが同じである「対称な」投票とは違って、「非対称な」テンソル場では、投票画素が勾配方向において反対方向よりも好意的に投票することになる。
[00131]図4A〜4Cに、本主題の開示の一例示的実施形態による、画素のブロックごとに局所閾値を生成するための方法を示す。本明細書に記載のように、初期エッジ画素又はテンソル投票により検出された顕著性エッジ画素408ごとに、勾配方向318(又は画素408の顕著性法線方向)に沿った前景画素404及び背景画素406がサンプリングされる(すなわち、選択され、画素の前景サンプルセット又は背景サンプルセットに追加される)。2つのサンプリングされた画素及びエッジ画素の間の距離は、たとえば、図4Bに示されるように、画像又は画像ブロックのスケール、及び核の大きさに応じて、2〜3画素とすることができる。これらの画素がサンプリングされるエッジ画素316、408からの距離は、事前定義することができ、核の半径より短いことが好ましい。本明細書に記載のように、画像を小さな部分領域に分割することができる。たとえば、20倍に拡大された画像を、50×50画素のブロックに分割することができる。各ブロックでサンプリングされた前景/背景画素の各セットに対して、図4Cにさらに示されるように、2つの対応するヒストグラムをブロックごとに生成することができる。
[00132]図4Aを参照すると、方法は、本明細書に記載のエッジ画素408の選択(S441)から開始することができる。選択されたエッジ画素は、真のエッジである可能性が高く、テンソル投票動作の結果に基づくことができる。エッジ画素を通るエッジに垂直に線が描画され、1つの前景画素404及び1つの背景画素406が、エッジ画素について勾配方向及び反対方向でサンプリングされる(S442)。1つの例示的な画素選択について、図4Bを参照されたい。ブロックにさらなるエッジ画素が存在するか否かについて判定が行われ(S443)、存在する場合、次のエッジ画素が選択され(S441)、前景画素及び背景画素がサンプリングされる(S442)。
[00133]さらなるエッジ画素が存在しない場合、方法は、ブロックについての前景ヒストグラム410及び背景ヒストグラム412の生成(S444)へ続く。顕著性で変調された背景ヒストグラム及び前景ヒストグラムが、各画像ブロック内でサンプリングされた前景画素及び背景画素に基づいて生成される。これらのヒストグラムは、テンソル投票により決定されたエッジ画素の顕著性値によって、又は勾配の大きさの値に基づいて重み付けられているので、顕著性で変調されている。1つの画像ブロックの背景及び前景に対する例示的なヒストグラムについて、図4Cを参照されたい。両方のヒストグラムが、1つのプロット内に示されている。これらのヒストグラムを用いて、画像ブロックに対する閾値範囲を定義して(S445)、ヒストグラムベースの分類誤差を最小化するようにする。背景画素及び前景画素を混同することで生じる誤差を最小化するために、適切な閾値範囲が選択され、この誤差は一般的にはエッジ検出における偽陽性又は偽陰性の結果であって、本明細書に記載の顕著性で変調されたヒストグラムにより軽減されるものである。
[00134]実施形態によれば、2つのヒストグラム410、412は、エッジの内側から前景画素404を取得し、前記エッジ画素の「外側」から背景画素406を取得することにより生成される。各エッジ画素408の内側、真上及び外側の全画素の強度が均一な強度勾配に従う場合、2つの「理想的な」ヒストグラムは重なり合うことはなく、すなわち、前景ヒストグラム及び背景ヒストグラムの両方で観察される強度値が存在することはない。実際には、撮像ノイズ及び他のノイズ源(染色及び組織調製)によって、2つのヒストグラムは重なり合い、これは画素が前景及び背景両方のヒストグラムに存在する1つ又は複数の強度値が存在することを意味する。誤差を最小化することは、閾値を下回る前景画素と、閾値を上回る背景画素との(顕著性値により重み付けられた)数が最小化されるような強度閾値を自動的に決定することを意味する。背景画素及び前景画素が、サンプリング中に前景画素又は背景画素を選択するために使用される画素のそれらの顕著性値又は勾配値に応じて重み付けられる実施形態によれば、誤差を最小化することは、閾値を下回る前景画素と、閾値を上回る背景画素との、顕著性値で重み付けられた数が最小化されるような強度閾値を自動的に決定することを意味する。
[00135]実施形態によれば、最適な閾値は、特定の値ではなく範囲である。たとえば、第1の強度閾値は、前記第1の閾値を下回る全画素を背景画素として識別することができ(強度ベースの分類)、第2の閾値は、第2の閾値を上回る全画素を前景画素として識別することができる。たとえば、第1の閾値は、前記ブロックの背景ヒストグラム内の最大強度値とすることができ、また、これは前景ヒストグラムに含まれない。第2の閾値は、前記ブロックの前景ヒストグラム内の最小強度値とすることができ、また、これは背景ヒストグラムに含まれない。
[00136]閾値の値/範囲は、各ブロックに対して個別に計算され、前記ブロックの中心に割り当てられる。最後に、閾値は、画像ブロックごとの強度閾値範囲に基づいて、各画素において補間することができる(S446)。ブロック閾値の三角形分割又はバイリニア補間を、各画素において行うことができる。最終結果(S449)は、閾値画像(図示せず)である。
[00137]たとえば、画像702は、いくつかのブロック、たとえば14×13=182個のブロックに分割することができ、各ブロックは計算された閾値範囲を有する。たとえば、各ブロックの閾値範囲は、下側(「第1の」)閾値及び上側(「第2の」)閾値を含むことができる。第1及び第2の閾値は、たとえば、上述のように計算することができる。ブロックごとに、下側及び上側閾値の平均強度閾値を計算し、ブロックの幾何学的中心に割り当てることができる。閾値画像内の各画素における閾値は、182個の閾値範囲に基づいた補間により得られる。
[00138]閾値画像をソース画像と比較して前景を決定することができ、すなわち、画素値が上述の方法により決定された閾値を超えた場合、それは前景画素である。これによって、画像における核の存在をより高精度に判定して、偽陽性及び偽陰性を従来技術から削減することができる。図5A及び5Bに、従来技術の方法と対比した、本主題の開示の開示された例示的実施形態についての検出された核を示す。明らかに、核検出結果は、図5Aに示された従来技術の結果よりも、図5では優れている。
[00139]図9に、投票角度別のテンソル投票場902〜906を示す。x軸及びy軸は、初期画像702の軸及びそれぞれの画素に対応する。各画素、たとえばx位置2及びy位置1における画素910は、これは図3Bの式に基づいて計算される、2×2行列として表現可能なテンソルTを割り当てている。
[00140]画像分析システムのプロセッサは、複数の事前定義された角度のそれぞれについて、単一の計算ステップにおいて、それぞれの非対称テンソル投票場を計算する。計算された非対称テンソル投票場それぞれの各テンソルは、テンソル投票場が計算された初期投票画素のそれぞれにおける強度勾配の方向に関する情報を含むが、IVPの強度勾配の大きさに関する情報は含まない。たとえば、図3Bに示された式は、弧長sを介した画素距離情報を考慮している。
[00141]実施形態によれば、各テンソル投票場は、前記テンソル投票場が計算された1つの事前定義された角度と勾配方向が同一又は最も類似している画素について事前計算されたテンソルを選択的に含む。
[00142]たとえば、以下の式を用いて、投票を行う画素の勾配方向が90度の方向と位置合わせされた局所的な極座標系におけるテンソル投票場を計算する:
特定の近傍画素に関する特定のIVPの投票を計算するために、IVPの勾配角度と同一又は非常に類似している角度について計算された事前計算されたテンソル場が特定され、デジタル画像702と位置合わせされる。位置合わせは、テンソル場の中心が投票画素に位置するように行うことができる。これを特定のIVPの特定の勾配方向αについて実現するために、テンソル場の領域(又はその要素、たとえば整数x、y座標のセット)が回転される(時計回りに、
の角度)。回転は、局所的な極座標系で行うことができる。回転の結果、投票計算のための対応する入力パラメータのセット、たとえば、1つの初期投票画素及び1つの近傍画素の間のユークリッド距離を示すパラメータlと、投票角度θとが得られる。回転から得られる前記入力パラメータは、たとえば図3Bに示された式の入力として用いて、投票を計算する。位置合わせが完了した後、1つのIVP及び1つの近傍画素の相対位置情報を用いて、本文書の他の節で説明されるように投票を行うために使用されるテンソル場からテンソルを得る。
[00143]実施形態によれば、式
[00144]
[00145]は、少なくとも部分的に解かれ、派生式
に変換され、
[00146]ここでFは、現在のテンソル投票場が事前計算された事前定義された角度にのみ依存する定数である。Fは、以下に従って計算することができる:
[00147]
[00148]角度別のテンソル投票場、すなわち、特定の配向に関する画像702の全画素についてのテンソルを事前計算することによって、計算資源を節約することができる。各角度別のテンソル投票場902、904、906は、各画素における強度勾配の勾配方向に関する情報を含む。角度別のテンソル投票場は、実際の投票処理が開始する前に計算され、すなわち、「事前計算される」。プロセッサが実際にテンソル投票動作を行う場合、プロセッサは、初期投票画素316の強度勾配方向と画像のx軸との間の角度を特定する。この角度は、本明細書では、IVP勾配角度と呼ばれる。初期投票画素として使用される特定の画素316におけるIVP勾配角度は、たとえば、5.6°とすることができる。事前計算段階において、事前定義された角度0°、2°、4°、6°、358°についてのテンソル投票場を計算しておくことができる。投票段階において、特定されたIVP勾配角度(5.6°)と同一又は最も類似した角度について計算された複数の計算済みのテンソル投票場の1つが特定される(この場合、6°の角度について計算されたテンソル投票場)。そして、プロセッサは特定された事前計算されたテンソル投票場を用いて、1つの初期投票画素により近傍画素に行われる投票を計算する。これには、投票処理を著しく加速できるという利点があり得る。加えて、実施形態によれば、初期投票画素316により近傍画素Pに行われる投票は、投票画素の強度勾配の大きさに応じて重み付けられる。
生物学的領域知識に基づいたテンソル投票
[00149]以下では、非常に高精度なエッジ検出及び核セグメント化方法を提供するための、エッジを判定すべき核の特徴によるテンソル投票場の修正を示すための例が説明される。
[00150]最初に、デジタル組織病理画像、たとえばH&E画像又はIHC画像が、記憶媒体から読み出され、又は顕微鏡もしくは明視野顕微鏡画像取得システム(たとえばVentana iScan Coreo)から動的に受信される。たとえば、デジタル画像は、茶色がかった画像を提供するジアミノベンジジン(DAB)及び/又は青みがかった画像を提供するヘマトキシリン(HTX)で染色された乳癌組織生検を描画し得る。茶色がかった又は青みがかった画像は、たとえばPCA又は色分解によってグレースケール画像702に変換される。
[00151]次のステップでは、システムは、エッジ検出アルゴリズムをグレースケール画像702に適用する。たとえば、Cannyエッジ検出方法又は当技術分野で知られている任意の他のエッジ検出方法を適用して、画像704に描画された初期エッジを識別することができる。典型的には、このステップで特定されたエッジは、いくつかの偽陽性(ノイズ、染色アーティファクト)及び/又は偽陰性(エッジとして識別されなかった真の核のエッジ)を含む。エッジ検出の精度を向上させるために、以下で説明されるさらなるステップが行われる。
[00152]デジタルグレースケール画像702の画素ごとに、システムは強度勾配を決定する。勾配ベースエッジ検出アルゴリズムが使用される場合、このステップは、初期エッジ検出の間に既に行われていてもよい。勾配情報を用いて、テンソル画像を生成する。テンソル画像において、グレースケール画像の画素の各画素は、勾配配向情報及びその信頼性又は顕著性の両方をキャプチャしたそれぞれの2次テンソルにより表される。そのようなテンソルは楕円として視覚化することができ、ここでテンソルの形状はキャプチャされた情報のタイプ(点又はエッジ)を定義する。たとえば、非常に顕著なエッジ要素は、主軸が予測されたエッジ方向を表し、長さが予測の顕著性を反映する細い楕円によって表される。各テンソルの第1及び第2の固有ベクトルは楕円の主要方向に対応し、第1及び第2の固有値はそれぞれ楕円の大きさ及び形状を符号化する。
[00153]テンソル画像内のグレースケール画像の勾配情報を符号化した後、システムは、特定の形態のテンソル投票を用いる投票手順を行う。テンソル投票は、2次テンソルによって符号化された最も可能性の高いエッジ法線を伝え集約する処理として説明することができる。
[00154]本発明の実施形態によるテンソル投票手順は、投票を計算するために識別すべき核の構造的特徴の知識を組み込んだ非対称テンソル投票場を用いる。本明細書で使用されるテンソル場は、画像702内の投票画素の各近傍画素へテンソルを割り当てるデータ構造である。実施形態によれば、特定の投票画素についてのテンソル投票場は、事前計算されたテンソル場のセットから勾配方向の方向に従って取り出される。テンソル投票場の各テンソルによって行われる投票は、それぞれの画素の強度勾配の大きさによって重み付けられる。
[00155]投票は、エッジが通常は滑らかであり、したがって、投票画素における勾配法線の既知の配向が与えられた場合、近傍画素における法線の配向は、結合する滑らかなカーブ、たとえば真円の弧における法線の変化を追跡することで推定できるという仮説に基づいている。たとえば図3Bに示された減衰関数を用いて、近傍画素に行われる投票を重み付けする。
[00156]実施形態によれば、非対称テンソル投票場は、初期投票画素が、強度勾配によれば細胞核の内部に存在すると予測される近傍画素に対して、投票画素から等しく離れているが核の外側に存在すると予測される近傍画素よりも高い投票を行うような投票動作を実施する。特定の染色剤を用いて組織サンプル内の核を染色する場合、これによって、核の境界における強度勾配が特徴的になる。たとえば、この特定の染色剤で染色された核の内側の画素は、典型的には、核の外側の画素より高い強度を有することがある。テンソル投票場は、核の境界における「典型的な」強度勾配に関するこの「知識」を、投票画素の強度勾配の方向と、投票画素及び近傍画素の相対位置とによれば、核の内側に存在する近傍画素に対してより高い投票を行うことで、数学的に組み込む。たとえば、これは、(図3Bで与えられた)投票を計算するための式を以下のように変形することで実現することができる(変形式MF1):
[00157]A1、A2及びA3は、投票角度に関する範囲である。一例によれば、以下の範囲が用いられる:
角度範囲
角度範囲
角度範囲
[00158]単位円表記では、y軸
は投票画素における強度勾配に対応し、x軸(π←→0)は投票画素における勾配法線に対応する。好ましくは、投票画素の勾配方向によれば、(比較的高い確率で)核の内部と同じ側に存在すると予測される画素領域をカバーする角度範囲が、勾配法線の反対側に存在すると予測される画素をカバーする角度範囲よりも広くなるように、角度範囲が選択される。
[00159]実際には、投票画素が上記で指定された角度範囲A1〜A3の1つに属さなければ、投票画素は近傍画素に零投票を行うことになる。これには、投票画素の伸長された勾配法線の近くに存在しない画素が、特にその画素が、投票画素における強度勾配の方向によれば、核の外側に存在する勾配法線の側に存在すると予測される勾配法線の側に存在する場合に、零投票を受け取ることになるという効果がある。
[00160]さらに又はあるいは、非対称テンソル投票場は、特定の近傍画素に対する投票を計算する場合に許容曲率に制約を実施することで、核の構造的特徴の知識を組み込む。たとえば、哺乳類細胞の核の平均半径は、約2.5〜7.5μmである。したがって、識別すべき核種の半径の上側閾値rmaxとして、7.5μmを使用することができる。それに応じて、識別すべき核種の半径の下側閾値rminとして、2.5μmを使用することができる。下側曲率閾値Kminは、
に従って計算され、上側曲率閾値Kmaxは、
に従って計算される。
[00161](図3Bで与えられた)投票を計算するための式は、以下のように変形することができる(変形式MF2):
[00162]実施形態に応じて、変形式MF1及びMF2の組み合わせを用いることが可能である。さらに又はあるいは、投票画素及び被投票画素と同じ距離を有する2つの真の核エッジ画素の「典型的な平均曲率」からの曲率のずれと間接的に相関し、及び/又は「典型的な角度」からの投票角度のずれと間接的に相関する投票を行う連続減衰関数を用いることが可能である。したがって、離散関数を用いる代わりに、代替的実施形態は、曲率及び/又は投票角度に応じて投票の重みを計算するための滑らかな/連続的な式を用いることができる。
[00163]実際には、特定の近傍画素に対して行われる投票の「重み」は、境界を識別すべき核種の構造的特徴に依存する。
[00164]特定の被投票画素へ行われた全ての投票を集計して、前記画素についてのテンソル総和(「テンソル値」)を計算する。各画素のそのテンソル総和は、前記画素の「スティック性(sticklike−ness)」を推定するために、分解され分析される。顕著性の低い画素は、外れ値であると想定される。
[00165]顕著性が高い(テンソル投票予測によれば、真のエッジ画素である確率が高い)画素が、真のエッジ画素として選択的に強調された顕著性エッジ画像が生成される。
[00166]グレースケール画像に関して説明されているが、開示の実施形態は、カラー画像及び他のタイプの画像、たとえば多重画像にも適用される。カラー画像について、勾配を色空間において計算することができ、本明細書に記載の例示的な方法をその色空間で実施して高精度な前景を決定することができる。グレースケール勾配画像を、カラーチャネルごとに生成することができ、動作がそれに従って行われる。多重画像は、本明細書に記載のテンソル投票及び局所閾値生成動作を実行する前に、成分ベクトルに分離することができる。さらに、開示の方法は、説明された核に加えて、既知又は均一な曲率を有する任意の構造に適用することができる。
[00167]当業者に知られているように、「領域固有の知識」という用語は、画像内で探索される形状が既知である場合に、形状のその知識をテンソル投票場の成形に適用して特別な種類の非対称にすることができることを意味し得る。
[00168]特定の事前計算及びハードウェアアクセラレーションを実施して、ハードウェア及び時間の費用を軽減することができる。たとえば、近傍画素への投票は、いくつかの異なる勾配方向について事前計算することができる。累積画像は、画素のブロックごとに並列的に生成することができる。これらの処理は、画像の同一又は異なる領域に対して並列的に、又は画像全体に対して反復的に、画像で観察される構造又は特徴に基づいてカスタム領域を定義して行うことができ、別々の動作を異なる領域に並列的に実行して、多数のスライドを効率的に処理することが可能になる。さらに、医療用途、たとえば解剖学的又は臨床的病理、前立腺癌/肺癌診断などに加えて、同じ方法を実施して、他のタイプのサンプルを分析する、たとえば地質学的又は天文学的データのリモートセンシングなどを行うことができる。画像は、既知又は明白なノイズ源を除去することによって、たとえば類似の材料からの既知又は理想的な信号セットと比較することによって、さらに精製することができる。大きい又は複数のスライド/画像分析のために、あるいは1つ又は複数の画像キューブを分析するために、本明細書に記載の動作をハードウェアのグラフィクス処理ユニット(GPU)に移植することができ、これによりマルチスレッドの並列実行が可能になる。
[00169]本主題の開示の例示的実施形態の前述の開示は、例示及び説明の目的で与えられている。網羅的であることも、開示された正確な形に本主題の開示を限定することも意図していない。本明細書に記載の実施形態の多数の変形及び修正は、上記の開示に照らせば当業者にとって明らかとなろう。本主題の開示の範囲は、本明細書に添付された特許請求の範囲、及びその均等物によってのみ定義されるべきである。さらに、本主題の開示の代表的な実施形態を説明する際に、明細書では、本主題の開示の方法及び/又は処理が特定の順序のステップとして与えられている場合がある。しかしながら、方法又は処理が本明細書に記載されたステップの特定の順序に依存しない限りは、方法又は処理は、記載された特定の順序のステップに限定されるべきではない。当業者であれば理解するように、他の順序のステップも可能である。したがって、本明細書に記載されたステップの特定の順序は、特許請求の範囲への限定と解釈されるべきではない。加えて、本主題の開示の方法及び/又は処理を対象とする特許請求の範囲は、記載の順序でのそれらのステップの実施に限定されるべきではなく、順序は変更されてもよく、なおも本主題の開示の趣旨及び範囲内にあることを当業者は容易に理解できる。

Claims (48)

  1. プロセッサ(105)と前記プロセッサに結合されたメモリとを備えるデジタル病理用の画像処理システム(100)であって、前記メモリが、生物学的組織サンプルのデジタル画像(702)を記憶し、前記プロセッサにより実行された場合に、前記デジタル画像内の細胞核の境界を識別するための動作を前記プロセッサに行わせるコンピュータ実行可能命令を記憶し、前記動作が、
    前記プロセッサにより、前記デジタル画像(702)内の1つ又は複数の初期エッジを識別し、前記識別された初期エッジ内の画素を初期投票画素(O、316)として使用することと、
    前記プロセッサにより、テンソル投票場を用いて、前記初期投票画素(O、316)のそれぞれの近傍にある画素(P、322、324、328)に対してテンソル投票動作を行うことと、
    前記プロセッサにより、前記近傍画素(P、322、324、328)のそれぞれに対する複数の投票を累積して、前記近傍画素(P、322、324、328)に対するテンソル値を決定することであって、前記投票の量が、前記近傍画素が前記初期投票画素と同じ核のエッジ画素である可能性が高いかを示し、前記テンソル値が、近傍に前記近傍画素(P、322、324)が存在する全ての初期投票画素により行われた全ての投票の総和である、決定することと、
    前記プロセッサにより、前記決定されたテンソル値のそれぞれを分解して、前記分解されたテンソル値の固有値(λ、λ)及び固有ベクトル(e、e)を決定することと、
    前記プロセッサにより、前記決定された固有値及び固有ベクトルを評価して精製されたエッジ画素を識別することであって、前記精製されたエッジ画素が前記細胞核の境界を表す、識別することと、
    前記プロセッサにより、前記細胞核の境界を表す前記識別された精製されたエッジ画素を選択的に含む顕著性エッジ強度画像(806)を生成することと
    を備える、画像処理システム(100)。
  2. 前記テンソル投票場が前記核の1つ又は複数の特徴を符号化し、
    前記核の前記1つ又は複数の特徴が、判定すべき核種の核内画素の典型的な強度値が核外画素の典型的な強度値より高いか低いかに関する情報を含み、
    前記テンソル投票場が非対称なテンソル投票場であり、
    前記テンソル投票場が、投票が計算される前記初期投票画素の強度勾配(318)に沿って非対称であり、
    前記テンソル投票場による初期投票画素(316)の投票の計算が、
    前記プロセッサにより、前記初期投票画素(O、316)における前記デジタル画像(702)の強度勾配(318)の方向を特定することと、
    前記投票動作に、第1の近傍画素(324)に対して第2の近傍画素(328)よりも高い投票を行わせることであって、前記第1及び第2の近傍画素が前記投票画素(316)から等しく離れて存在し、前記第1の近傍画素が、前記強度勾配(318)の前記特定された方向によれば、前記核の内側の方向に存在し、前記第2の近傍画素(328)が、前記強度勾配(318)の前記特定された方向によれば、前記核の外側の方向に存在する、行わせることと
    を備えるように、前記符号化が行われる、
    請求項1に記載のシステム。
  3. 前記投票を行うことが、
    前記1つの初期投票画素及び前記1つの近傍画素について投票角度(θ)を特定することであって、前記投票角度(θ)が、線と、前記1つの初期投票画素(O、316)における前記強度勾配(318)に垂直な方向との間の角度であり、前記線が前記初期投票画素及び前記1つの近傍画素を接続し、前記強度勾配が前記デジタル画像(702)の強度値の勾配を表し、前記強度勾配が、前記判定すべき核種の内部に典型的な強度値の方向を指し示す、特定することと、
    前記投票角度が以下の角度範囲:
    、又は、
    、又は、
    の1つに属さなければ、前記1つの近傍画素に零投票を行うことと
    を備える、請求項1又は2に記載のシステム。
  4. 前記決定された固有値及び固有ベクトルの前記評価が、前記評価される固有値及び固有ベクトルが決定された前記画素がエッジ画素、接合画素、又は外れ値のいずれであるかを判定することを備え、前記方法が、
    この情報を用いて、前記顕著性エッジ強度画像(806)における前記エッジ画素を選択的に強調すること
    をさらに備える、請求項1から3のいずれか一項に記載のシステム。
  5. 各画素の前記決定された固有ベクトルが第1の固有ベクトル(e)及び第2の固有ベクトル(e)を含み、
    前記画素の前記決定された固有値が第1の固有値(λ)及び第2の固有値(λ)を含み、
    前記第1の固有値(λ)が前記第1の固有ベクトル(e)の固有値であり、前記第2の固有値(λ)が前記第2の固有ベクトル(e)の固有値であり、
    前記第1の固有値(λ)及び前記第2の固有値(λ)の差が前記画素の前記テンソル値へのテンソルスティック成分の寄与に相関し、
    前記第2の固有値(λ)の大きさが、前記画素の前記テンソル値へのテンソルボール成分の寄与に相関し、
    前記初期投票画素がエッジ画素、接合画素、又は外れ値のいずれであるかの前記判定が、前記画素の前記第1及び前記第2の固有値を比較することであって、
    前記第1の固有値(λ)が前記第2の固有値(λ)より大きく、前記第2の固有値がほぼ零である場合に、前記画素がエッジ画素と識別され、
    前記第1の固有値(λ)が前記第2の固有値とほぼ同じ大きさであり、両方の固有値の大きさが最小の大きさを上回る場合に、前記画素が接合画素と識別され、
    前記第1及び前記第2の固有値が両方ともほぼ零である場合に、前記画素が外れ値と識別される、
    比較することを備える、
    請求項4に記載のシステム。
  6. 画素ごとに決定された前記テンソル値が前記画素についての顕著性値を表し、前記顕著性値が、前記画素が核のエッジのメンバーである確率に比例する、請求項1から5のいずれか一項に記載のシステム。
  7. 前記テンソル投票場が前記核の特徴により変調され、
    前記核の前記特徴が、境界が検出されるべき前記核種の半径である、
    請求項1から6のいずれか一項に記載のシステム。
  8. 前記初期投票画素の1つ(O、316)の、その近傍画素の1つ(P、322、324)への各投票(S)を計算することが、
    前記1つの初期投票画素(O、316)における強度勾配(318)を識別することであって、前記強度勾配が前記デジタル画像(702)の強度値の勾配を表し、前記強度勾配が、前記判定すべき核種の内部に典型的な強度値の方向を指し示す、識別することと、
    前記1つの初期投票画素(O、316)及び前記近傍画素(P、324)の前記1つを接続する円の弧(317)を計算することであって、前記弧が幾何学的中心(C)を有し、前記幾何学的中心(C)が、方向が前記強度勾配(318)の方向と同一である線上に存在し、前記強度勾配の方向が指し示す前記線の半分に存在する、計算することと、
    前記1つの近傍画素に行われる投票の量を、前記1つの近傍画素から前記初期投票画素(O、316)までの距離(l)に比例して減少させることと、及び/又は、
    前記弧(317)の曲率(K)が、事前定義されたずれ閾値を超えて、前記識別すべき核種の典型的なエッジ曲率からずれている場合に、前記1つの近傍画素に行われる前記投票の量を減少させることと
    を備える、請求項7に記載のシステム。
  9. 前記弧(317)の曲率(K)が下側曲率閾値(Kmin)未満であるか又は上側曲率閾値(Kmax)を超える場合に、前記1つの近傍画素へ行われる前記投票が零であり、
    であり、rmaxが前記識別すべき核種の半径の上側閾値であり、
    であり、rminが前記識別すべき核種の半径の下側閾値である、
    請求項8に記載のシステム。
  10. 前記初期投票画素の1つ(O、316)の、その近傍画素の1つ(P、322、324)への個々の投票(S)が
    に従って計算され、
    lが、前記1つの初期投票画素及び前記1つの近傍画素の間のユークリッド距離であり、
    θが、線と、前記1つの初期投票画素(O、316)における前記強度勾配(318)に垂直な方向との間の投票角度であり、前記線が前記初期投票画素及び前記1つの近傍画素を接続し、前記強度勾配が前記デジタル画像(702)の強度値の勾配を表し、前記強度勾配が、前記判定すべき核種の内部に典型的な強度値の方向を指し示し、
    sが
    に従って計算され、弧(317)の長さを表し、前記弧が前記1つの初期投票画素及び前記1つの近傍画素を接続し、前記弧が、幾何学的中心(C)を有する円の弧であり、
    Kが
    に従って計算される投票曲率であり
    σが、前記1つの初期投票画素により行われる投票の量の減衰速度を決定する拡大係数であり、前記投票の量が、前記1つの近傍画素から前記1つの近傍画素までの距離に比例して低下する、
    請求項1から9のいずれか一項に記載のシステム。
  11. 前記動作が、
    前記精製されたエッジ画素を用いて前景画素(404)及び背景画素(406)をサンプリングすることであって、前記前景画素が核内画素の候補であり、前記背景画素が核外画素の候補であり、前記前景及び背景画素が、識別された精製されたエッジ画素(408)の近傍にある前記デジタル画像(702)の画素を選択することでサンプリングされ、前景画素及び背景画素が前記エッジ(402)の異なる側から選択される、サンプリングすることと、
    前記サンプリングされた前景画素(404)の強度値についての前景ヒストグラム(410)を生成することと、
    前記サンプリングされた背景画素(406)の強度値についての背景ヒストグラム(412)を生成することと、
    前記前景及び背景ヒストグラムを評価して最適な強度閾値を特定することであって、前記最適な強度閾値が、強度値が強度閾値を下回る又は上回ることに応じて、前記サンプリングされた画素を2つの別々の画素セットへ、前記2つの別々の画素セットが前記前景及び背景画素サンプルからのずれが最小となるように分離することが可能な強度閾値である、特定することと
    をさらに備える、請求項1から10のいずれか一項に記載のシステム。
  12. 前記動作が、
    前記前景画像の画素のそれぞれと、前記背景画像の画素のそれぞれとに重みを割り当てることであって、前記重みが、
    前記識別された精製されたエッジ画素(408)の前記顕著性値であって、前記識別された精製されたエッジ画素が、前記サンプリングされた前景(404)及び背景(406)画素の間に存在し、前記前景画素及び背景画素が両側からサンプリングされた前記精製されたエッジ画素の1つである、顕著性値と、
    前記識別された精製されたエッジ画素(408)の強度勾配の大きさであって、前記識別された精製されたエッジ画素が、前記サンプリングされた前景(404)及び背景(406)画素の間に存在し、前記前景画素及び背景画素が両側からサンプリングされた前記精製されたエッジ画素の1つである、大きさと
    に比例する、割り当てること
    をさらに備え、
    前記最適な強度閾値が、強度値が強度閾値を下回る又は上回ることに応じて、及び前記サンプリングされた画素の前記重みに応じて、前記サンプリングされた画素を2つの別々の画素セットへ、前記2つの別々の画素セットが前記前景及び背景画素サンプルからのずれが最小となるように分離することが可能なように特定される、請求項11に記載のシステム。
  13. 前記精製されたエッジ画素を用いて前景画素(404)及び背景画素(406)をサンプリングすることが、前記精製されたエッジ画素のそれぞれに対して、
    前記精製されたエッジ画素(408)における強度勾配を特定することであって、前記強度勾配が、前記判定すべき核種の内部に典型的な強度値の方向を指し示す、特定することと、
    前記特定された強度勾配の方向の前記精製されたエッジ画素(408)から事前定義された距離に存在する第1の画素(404)を前記サンプリングされた前景画素の1つとして選択することと、
    前記特定された強度勾配の反対方向の前記精製されたエッジ画素(408)から事前定義された距離に存在する第2の画素(406)を前記サンプリングされた背景画素の1つとして選択することと
    を備える、請求項11又は12に記載のシステム。
  14. 前記動作が、
    前記デジタル画像(702)を複数の部分領域に分割することと、
    前記前景及び背景画素のサンプリングと、前記最適な強度閾値の決定とを、前記複数の部分領域のそれぞれについて別々に行うことと
    をさらに備える、請求項11から13のいずれか一項に記載のシステム。
  15. 前記動作が、
    前記初期画像の各画素において前記複数の部分領域の前記最適な強度閾値を補間することと、
    前記画素のそれぞれに、その補間された最適な強度閾値を割り当てることと
    をさらに備える、請求項14に記載のシステム。
  16. 前記動作が、
    前記デジタル画像(702)の画素の強度値を、それぞれ割り当てられた補間された最適な強度閾値と比較して、前景画像マスクを自動的に生成することであって、前記前景画像マスクが、識別すべき核の中に存在しないと予測される全画素を選択的にマスクし隠蔽し、前記予測が、画素の強度値が、前記画素に割り当てられた前記補間された強度閾値を下回るか又は上回るかのいずれであると判明したかに依存する、生成することと、
    前記前景画像マスクを前記デジタル画像(702)に適用して、核の中に存在しないと予測される前記デジタル画像(702)の全画素を除去又は隠蔽することと
    をさらに備える、請求項15に記載のシステム。
  17. 前記動作が、
    複数の事前定義された角度のそれぞれについて、単一の計算ステップにおいて、それぞれのテンソル投票場(902、904、906)を計算することであって、前記計算されたテンソル投票場それぞれの各テンソルが、前記画像(702)の各画素(316)における強度勾配の方向に関する情報を組み込み、前記画素(316)に対する複数の近傍画素それぞれの相対位置を組み込み、各計算されたテンソル投票場が、前記画素の強度勾配の大きさに関する情報を有さない、計算すること
    をさらに備え、
    前記テンソル投票動作が、前記複数のテンソル投票場の計算の後に行われ、前記初期投票画素の1つによりその近傍画素の1つへ投票を行うことが、
    前記1つの初期投票画素(316、O)について、IVP勾配角度を特定することであって、前記IVP勾配角度が、前記画像のx軸と、前記1つの初期投票画素における前記強度勾配の方向との間の角度である、特定することと、
    前記特定されたIVP勾配角度と同一であるか、又は前記特定されたIVP勾配角度に最も類似した角度について計算された前記複数のテンソル投票場の1つ(904)を特定することと、
    前記特定されたテンソル投票場を前記デジタル画像(702)のグリッドと位置合わせすることと、
    前記特定されたテンソル投票場に組み込まれた前記1つの初期投票画素及び前記1つの近傍画素の相対位置を用いて、前記投票を計算するために分解されるテンソル値を特定することと
    を備える、請求項1から16のいずれか一項に記載のシステム。
  18. 前記動作が、
    多重応答抑制を前記顕著性エッジ画像(802)に実施し、次いで前記抑制された顕著性エッジ画像のヒステリシス閾値処理を実施して、前記デジタル画像(702)に対する精製されたエッジマスク(804)を生成すること
    をさらに備える、請求項1から17のいずれか一項に記載のシステム。
  19. 前記初期エッジが、Cannyエッジ検出フィルタを前記初期画像に適用することで識別される、請求項1から18のいずれか一項に記載のシステム。
  20. 前記動作が、帯域制限操作可能フィルタの実装を用いてテンソル投票を計算することで前記テンソル投票場を計算することをさらに備え、ここで前記帯域制限操作可能フィルタを用いることで、テンソル投票の畳み込みを高速フーリエ変換と共に行うことが可能になる、請求項1から19のいずれか一項に記載のシステム。
  21. 前記動作が、
    各初期投票画素における前記初期画像(702)内での強度勾配を計算することと、
    前記初期投票画素における強度勾配を分析して、各初期投票画素のテンソル値のスティックテンソル成分を生成することであって、画素における強度勾配の方向が、その画素におけるスティックテンソル成分の方向として使用され、前記画素における強度勾配の勾配値が、その画素における前記スティックテンソル成分の強度に使用される、生成することと
    をさらに備える、請求項1から20のいずれか一項に記載のシステム。
  22. 前記初期画像(702)がグレースケール画像である、請求項1から21のいずれか一項に記載のシステム。
  23. 前記初期画像(702)が複数のカラーチャネルを含む、請求項1から22のいずれか一項に記載のシステム。
  24. 前記動作が、色分解、分離又は逆混合からなるグループから選択される方法を用いて、前記複数のカラーチャネルから1つのカラーチャネルを抽出することをさらに備える、請求項24に記載のシステム。
  25. 生物学的組織サンプルのデジタル画像(702)内の細胞核の境界を自動的に識別するための方法であって、デジタル病理画像分析システムのプロセッサにより実行され、
    前記プロセッサにより、前記デジタル画像(702)内の1つ又は複数の初期エッジを識別し、前記識別された初期エッジ内の画素を初期投票画素(O、316)として使用するステップと、
    前記プロセッサにより、テンソル投票場を用いて、前記初期投票画素(O、316)のそれぞれの近傍にある画素に対してテンソル投票動作を行うステップと、
    前記プロセッサにより、前記近傍画素(P、322、324)のそれぞれに対する複数の投票を累積して、前記近傍画素(P、322、324)に対するテンソル値を決定するステップであって、前記投票の量が、前記近傍画素が前記初期投票画素と同じ核のエッジ画素である可能性が高いかを示し、前記テンソル値が、近傍に前記近傍画素(P、322、324)が存在する全ての初期投票画素により行われた全ての投票の総和である、決定するステップと、
    前記プロセッサにより、前記決定されたテンソル値のそれぞれを分解して、前記分解されたテンソル値の固有値(λ、λ)及び固有ベクトル(e、e)を決定するステップと、
    前記プロセッサにより、前記決定された固有値及び固有ベクトルを評価して精製されたエッジ画素を識別するステップであって、前記精製されたエッジ画素が前記細胞核の境界を表す、識別するステップと、
    前記プロセッサにより、前記細胞核の境界を表す前記識別された精製されたエッジ画素を選択的に含む顕著性エッジ強度画像(806)を生成するステップと
    を備える、方法。
  26. 処理システムにより実行するためのコンピュータ実行可能命令を有する有形非一時的コンピュータ可読媒体であって、前記コンピュータ実行可能命令が、生物学的組織サンプルの画像化分析のために物体境界の画定を行うためのものであり、前記コンピュータ実行可能命令が、実行された場合に、前記処理システムに請求項25に記載の方法を実施させる、有形非一時的コンピュータ可読媒体。
  27. 生物学的組織サンプル内の細胞核の境界を識別するための動作を行うためにプロセッサにより実行されるコンピュータ実行可能命令を記憶するための有形非一時的コンピュータ可読媒体であって、前記動作が、
    (a)初期投票画素の近傍の画素に対してテンソル投票動作を行うことと、
    (b)前記近傍画素のそれぞれについての複数の投票を累積してテンソル値を決定することと、
    (c)前記画素のテンソルの固有値及び固有ベクトルに基づいてエッジ画素を強調した顕著性エッジ強度画像を生成することと
    を備え、前記テンソル投票動作が、検出すべき構造に関する、前記核の大きさに限定されない領域知識と、前記エッジ上の勾配がほぼ同じ位置を指し示すという事実とを組み込む非対称テンソル投票場を使用する、有形非一時的コンピュータ可読媒体。
  28. 前記初期投票画素がエッジ画素、接合画素、又は外れ値のいずれであるかを判定することをさらに備える、請求項27に記載のコンピュータ可読媒体。
  29. 前記動作が、前記画像を複数の画像ブロックに分割することをさらに備える、請求項27に記載のコンピュータ可読媒体。
  30. 前記動作が、各画像ブロック内の前景画素及び背景画素をサンプリングすることと、画像ブロックごとに、対応する顕著性で変調された/重み付けられた前景及び背景ヒストグラムを生成することとをさらに備える、請求項29に記載のコンピュータ可読媒体。
  31. 前記動作が、前記複数の画像ブロックのそれぞれに対して閾値範囲を決定することをさらに備える、請求項29に記載のコンピュータ可読媒体。
  32. 前記動作が、前記画像内の各エッジ画素における前記閾値を補間することをさらに備える、請求項31に記載のコンピュータ可読媒体。
  33. 処理システムにより実行するためのコンピュータ実行可能命令を有する有形非一時的コンピュータ可読媒体であって、前記コンピュータ実行可能命令が、生物学的組織サンプルの画像化分析のために物体境界の画定を行うためのものであり、前記コンピュータ実行可能命令が、実行された場合に、前記処理システムに、
    (a)初期画像(702)を読み出すことと、
    (b)前記初期画像をエッジ選択フィルタでフィルタリングして初期エッジ画像(704)を生成することと、
    (c)初期投票画素(IVP、316)となる前記初期エッジ画像内の複数の画素を選択することと、
    (d)前記IVPをトークン化してIVPごとのテンソル要素トークンを生成することと、
    (e)各IVPについての前記テンソル要素トークンにより示唆される前記IVPテンソルと位置合わせされた前記IVPについての重み付けられたテンソル投票場(WTVF)を形成することと、
    (f)前記IVPからの複数のWTVFを各近傍画素におけるテンソル総和へ累積して、近傍画素にテンソル投票動作を行うことと、
    (g)各画素における前記累積されたテンソル総和の固有値及び固有ベクトルを決定することと、
    (h)前記画素における前記固有値及び前記固有ベクトルに基づいて前記初期画像の前記エッジ画素を強調した顕著性エッジ強度画像(806)を生成することと、
    (i)多重応答抑制を前記顕著性エッジ画像に実施し、次いで前記抑制された顕著性エッジ画像のヒステリシス閾値処理を実施して、精製されたエッジマスク(804)を生成することと
    を備える動作を実施させ、これらのステップの実行が、前記画像の一部の領域で不明瞭である又は断片化している前記顕著な境界を検出することで、物体の境界の画定を生成するのに有効である、有形非一時的コンピュータ可読媒体。
  34. (a)前記精製されたエッジマスクの各画素の近傍にわたって前記顕著性値により重み付けられた前景及び背景画素強度値の局所ヒストグラムを前記初期画像から生成することと、
    (b)前記局所ヒストグラムの統計分析からヒステリシスエッジ検出閾値を決定することと、
    (c)前記精製されたエッジマスクの下で前記初期画像に前記ヒステリシスエッジ検出閾値を適用して物体境界を決定することと
    をさらに備え、これらのステップの実行が、前記画像境界に沿った画像特徴を利用して前記顕著な境界を精製するのに有効である、請求項33に記載の媒体。
  35. 前記IVPをトークン化することが、前記検出すべき構造に関する領域固有の知識を用いてIVP及びそれらに関連付けられたWTVFの形成を制約することをさらに備える、請求項33に記載の媒体。
  36. IVP及びそれらに関連付けられたWTVFの形成を制約することが、
    (a)各IVPの場所における前記初期画像内の局所画像勾配を計算することと、
    (b)前記IVPを前記画像勾配でトークン化してIVPごとのスティックテンソル要素トークンを生成することと
    をさらに備え、画素における初期画像局所勾配の方向が、その画素におけるスティックテンソルトークンの方向及び強度属性に使用される、請求項35に記載の媒体。
  37. 前記領域固有の知識が、生物学的細胞核境界を識別する必要性に由来し、細胞核が断面においてほぼ円形であり、境界勾配が全て、前記細胞核の中心付近のほぼ同じ場所を指し示す、請求項36に記載の媒体。
  38. 前記初期画像をフィルタリングすることが、前記初期画像に対する前記エッジ選択フィルタ用にCannyフィルタを用いることをさらに備える、請求項33に記載の媒体。
  39. 前記WTVFを形成することが、帯域制限操作可能フィルタの実装を用いてテンソル投票を計算することをさらに備え、ここで前記帯域制限操作可能フィルタを用いることで、テンソル投票の畳み込みをFFTと共に行って、前記計算を大幅に加速することを可能にする、請求項33に記載の媒体。
  40. テンソル投票動作を行うことが、
    (a)前記画像を部分領域にタイル化することと、
    (b)各タイルにおいて重み付けられた強度値のヒストグラムを形成することと、
    (c)隣接するタイルにおける前記閾値の補間から原画像の境界閾値処理のための最適な閾値レベルを計算することと
    をさらに備える、請求項33に記載の媒体。
  41. (a)プロセッサと、
    (b)前記プロセッサに結合されたメモリであって、前記プロセッサにより実行された場合に、
    i.画像により構成される複数の画像ブロックに対する閾値範囲を決定することと、
    ii.前記複数の画像ブロックのそれぞれに対する複数の閾値範囲に基づいて適応的閾値画像を生成することと、
    iii.前記適応的閾値画像に基づいて前記画像から前記前景を抽出することと
    を備える動作を前記プロセッサに行わせるコンピュータ実行可能命令を記憶するための、メモリと
    を備え、各画像ブロックが、テンソル投票動作により決定される複数のエッジ画素を備える、デジタル病理用のシステム。
  42. 前記テンソル投票動作が、前記初期エッジ画素における法線方向に沿って非対称である投票場を生成することをさらに備える、請求項41に記載のシステム。
  43. 前記動作が、前記近傍画素のそれぞれについての複数の投票を累積して、エッジ画素、接合画素、又は外れ値の1つである画素を判定することをさらに備える、請求項41に記載のシステム。
  44. 前記動作が、前記累積された投票に基づいて真のエッジ画素である画素を強調した顕著性エッジ画像を生成することをさらに備える、請求項43に記載のシステム。
  45. (a)非対称投票場及び減衰関数を生成して画像の領域内の真の核境界を決定するステップと、
    (b)勾配方向又は顕著性エッジ方向に基づいて、前記真の核境界上の画素ごとに前景画素及び背景画素をサンプリングするステップと、
    (c)前記画像の前記領域に対して、顕著性又は勾配の大きさで変調された/重み付けられた背景ヒストグラム及び前景ヒストグラムを生成するステップと、
    (d)前記前景ヒストグラム及び前記背景ヒストグラムを用いて、前記画像の前記領域に対する閾値範囲を計算するステップと、
    (e)前記画像の複数の領域に対応する複数の閾値範囲の補間に基づいて閾値画像を生成するステップと
    を備える、方法。
  46. 前記画像がグレースケール画像である、請求項45の方法。
  47. 前記画像が複数のカラーチャネルを含む、請求項45の方法。
  48. 色分解、分離又は逆混合からなるグループから選択される方法を用いて、前記複数のカラーチャネルから1つのカラーチャネルを抽出するステップをさらに備える、請求項47の方法。
JP2016575788A 2014-06-30 2015-06-30 画像解析を用いた核のエッジの検出 Active JP6660313B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201462018848P 2014-06-30 2014-06-30
US62/018,848 2014-06-30
PCT/EP2015/064845 WO2016001223A1 (en) 2014-06-30 2015-06-30 Detecting edges of a nucleus using image analysis

Publications (2)

Publication Number Publication Date
JP2017521779A true JP2017521779A (ja) 2017-08-03
JP6660313B2 JP6660313B2 (ja) 2020-03-11

Family

ID=53496716

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016575788A Active JP6660313B2 (ja) 2014-06-30 2015-06-30 画像解析を用いた核のエッジの検出

Country Status (8)

Country Link
US (1) US10127675B2 (ja)
EP (2) EP3161787B1 (ja)
JP (1) JP6660313B2 (ja)
AU (1) AU2015283079A1 (ja)
CA (1) CA2948226C (ja)
DK (1) DK3161787T3 (ja)
ES (1) ES2680678T3 (ja)
WO (1) WO2016001223A1 (ja)

Families Citing this family (40)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CA2948226C (en) 2014-06-30 2023-09-05 Ventana Medical Systems, Inc. Detecting edges of a nucleus using image analysis
US9996933B2 (en) * 2015-12-22 2018-06-12 Qualcomm Incorporated Methods and apparatus for outlier detection and correction of structured light depth maps
US9898817B2 (en) * 2016-02-25 2018-02-20 Niramai Health Analytix Pvt Ltd Software tool for breast cancer screening
US10360434B2 (en) * 2016-07-25 2019-07-23 Case Western Reserve University Multi-pass adaptive voting for nuclei detection in histopathological images
US9934578B2 (en) * 2016-08-15 2018-04-03 Macau University Of Science And Technology Method for edge detection
US11193927B2 (en) 2016-09-08 2021-12-07 Abbott Laboratories Automated body fluid analysis
EP3324406A1 (en) * 2016-11-17 2018-05-23 Fraunhofer Gesellschaft zur Förderung der Angewand Apparatus and method for decomposing an audio signal using a variable threshold
EP3324407A1 (en) 2016-11-17 2018-05-23 Fraunhofer Gesellschaft zur Förderung der Angewand Apparatus and method for decomposing an audio signal using a ratio as a separation characteristic
US10977797B2 (en) 2016-12-14 2021-04-13 Eyes Ltd. System and methods for fully automated data analysis, reporting and quantification for medical and general diagnosis, and for edge detection in digitized images
US10783627B2 (en) 2017-03-03 2020-09-22 Case Western Reserve University Predicting cancer recurrence using local co-occurrence of cell morphology (LoCoM)
US10121093B2 (en) * 2017-04-11 2018-11-06 Sony Corporation System and method for background subtraction in video content
EP3438928A1 (en) * 2017-08-02 2019-02-06 Koninklijke Philips N.V. Detection of regions with low information content in digital x-ray images
CN107644398B (zh) * 2017-09-25 2021-01-26 上海兆芯集成电路有限公司 图像插补方法及其相关图像插补装置
JP6996200B2 (ja) * 2017-09-29 2022-01-17 富士通株式会社 画像処理方法、画像処理装置、および画像処理プログラム
CN107909555B (zh) * 2017-11-27 2020-06-02 北京大恒图像视觉有限公司 一种保持锐度的网格噪声消除方法
CN111417958A (zh) 2017-12-07 2020-07-14 文塔纳医疗系统公司 用于生物图像中的联合细胞和区域分类的深度学习系统和方法
WO2019121564A2 (en) 2017-12-24 2019-06-27 Ventana Medical Systems, Inc. Computational pathology approach for retrospective analysis of tissue-based companion diagnostic driven clinical trial studies
CN109960978A (zh) * 2017-12-25 2019-07-02 大连楼兰科技股份有限公司 基于图像分层技术的车辆检测系统及装置
CN108492260B (zh) * 2018-02-07 2019-01-08 长安大学 基于张量投票耦合霍夫变换的地质线性体提取方法
CN109657717A (zh) * 2018-12-17 2019-04-19 罗世彬 一种基于多尺度密集结构特征提取的异源图像匹配方法
CN109584253B (zh) * 2018-12-20 2022-08-30 重庆切克威科技有限公司 油液磨粒图像分割方法
CN111414904B (zh) * 2019-01-08 2023-12-01 北京地平线机器人技术研发有限公司 处理感兴趣区域数据的方法和装置
CN110210437B (zh) * 2019-06-10 2021-08-17 上海联影医疗科技股份有限公司 一种图像中人体区域的确定方法及系统
WO2021067665A2 (en) * 2019-10-03 2021-04-08 Photon-X, Inc. Enhancing artificial intelligence routines using 3d data
CN110827220B (zh) * 2019-11-01 2023-05-30 杭州当虹科技股份有限公司 一种基于图像边缘分析的抗锯齿方法
CN110969638B (zh) * 2019-11-12 2023-09-29 桂林电子科技大学 一种基于张量的背景减除方法及系统
CN111681256B (zh) * 2020-05-07 2023-08-18 浙江大华技术股份有限公司 图像边缘检测方法、装置、计算机设备和可读存储介质
CN111640123B (zh) * 2020-05-22 2023-08-11 北京百度网讯科技有限公司 无背景图像的生成方法、装置、设备及介质
BR112022025584A2 (pt) * 2020-06-19 2023-03-07 Paige Ai Inc Sistemas e métodos para processar imagens eletrônicas para produzir a visualização de um mapa de tecido
CN112348750B (zh) * 2020-10-27 2023-08-18 西安电子科技大学 基于阈值融合和邻域投票的sar图像变化检测方法
CN113112496B (zh) * 2021-04-30 2022-06-14 哈尔滨工业大学 一种基于自适应阈值的亚像素轴类零件尺寸测量方法
CN113190737B (zh) * 2021-05-06 2024-04-16 上海慧洲信息技术有限公司 一种基于云平台的网站信息采集系统
CN114567794B (zh) * 2022-03-11 2023-06-30 浙江理工大学 一种直播视频背景替换方法
US20240022676A1 (en) * 2022-07-15 2024-01-18 Zhejiang University Of Technology Method for acquiring color density characteristic curve in printing
CN115457004B (zh) * 2022-09-22 2023-05-26 山东华太新能源电池有限公司 基于计算机视觉的锌膏的智能检测方法
CN115358497B (zh) * 2022-10-24 2023-03-10 湖南长理尚洋科技有限公司 基于gis技术的智慧全景巡河方法及系统
CN116630790B (zh) * 2023-03-17 2024-05-24 安徽理工大学 一种基于边缘精度评价的分类结果优化方法
CN116485785B (zh) * 2023-06-15 2023-08-18 无锡斯达新能源科技股份有限公司 一种太阳能电池片的表面缺陷检测方法
CN117934455B (zh) * 2024-03-19 2024-06-11 江苏盖亚环境科技股份有限公司 一种基于河道水流净化效果的检测方法及系统
CN117974528B (zh) * 2024-04-02 2024-06-18 北京易优联科技有限公司 一种肾活检切片影像优化增强方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005530138A (ja) * 2002-06-18 2005-10-06 ライフスパン バイオサイエンス,インク. 組織標本の中の重要な構造のコンピュータを利用した画像捕捉
JP2012231709A (ja) * 2011-04-28 2012-11-29 Hamamatsu Photonics Kk 細胞解析方法、細胞解析装置、および細胞解析プログラム
JP2013186655A (ja) * 2012-03-07 2013-09-19 Toyota Central R&D Labs Inc 道路標示検出装置及びプログラム

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8126229B2 (en) * 2007-08-03 2012-02-28 Siemens Medical Solutions Usa, Inc. Reduction of lymph tissue false positives in pulmonary embolism detection
JP6334735B2 (ja) * 2014-05-06 2018-05-30 ナント・ホールデイングス・アイ・ピー・エル・エル・シー エッジベクトルを利用した画像特徴検出
CA2948226C (en) 2014-06-30 2023-09-05 Ventana Medical Systems, Inc. Detecting edges of a nucleus using image analysis

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005530138A (ja) * 2002-06-18 2005-10-06 ライフスパン バイオサイエンス,インク. 組織標本の中の重要な構造のコンピュータを利用した画像捕捉
JP2012231709A (ja) * 2011-04-28 2012-11-29 Hamamatsu Photonics Kk 細胞解析方法、細胞解析装置、および細胞解析プログラム
JP2013186655A (ja) * 2012-03-07 2013-09-19 Toyota Central R&D Labs Inc 道路標示検出装置及びプログラム

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
郭 樹強 外4名: "テンソルボーティングによる超音波画像強調", 生体医工学 47(5), vol. 47(5), JPN6019020576, 2009, JP, pages 423 - 427, ISSN: 0004049096 *

Also Published As

Publication number Publication date
EP3389011A1 (en) 2018-10-17
US10127675B2 (en) 2018-11-13
EP3389011B1 (en) 2019-06-12
JP6660313B2 (ja) 2020-03-11
ES2680678T3 (es) 2018-09-10
CA2948226C (en) 2023-09-05
CA2948226A1 (en) 2016-01-07
DK3161787T3 (en) 2018-08-13
EP3161787B1 (en) 2018-06-13
US20170098310A1 (en) 2017-04-06
AU2015283079A1 (en) 2016-11-24
EP3161787A1 (en) 2017-05-03
WO2016001223A1 (en) 2016-01-07
WO2016001223A9 (en) 2016-02-25

Similar Documents

Publication Publication Date Title
JP6660313B2 (ja) 画像解析を用いた核のエッジの検出
JP6496709B2 (ja) 連続的に染色した組織における、1つの細胞の分割を使用する多重化バイオマーカー定量用の方法及びコンピュータ可読媒体
Sommer et al. Learning-based mitotic cell detection in histopathological images
CN109447998B (zh) 基于PCANet深度学习模型下的自动分割方法
Bhattacharjee et al. Review on histopathological slide analysis using digital microscopy
US11538261B2 (en) Systems and methods for automated cell segmentation and labeling in immunofluorescence microscopy
WO2015092904A1 (ja) 画像処理装置、画像処理方法、及び画像処理プログラム
Kulikova et al. Nuclei extraction from histopathological images using a marked point process approach
CN110648312A (zh) 一种基于鳞片形态特征分析的羊毛与羊绒纤维识别方法
CN112330701A (zh) 基于极坐标表示的组织病理图像细胞核分割方法及系统
WO2019181072A1 (ja) 画像処理方法、コンピュータプログラムおよび記録媒体
WO2014016234A1 (en) Biological unit segmentation with ranking based on similarity applying a shape and scale descriptor
US10115195B2 (en) Method and apparatus for processing block to be processed of urine sediment image
Jabar et al. Image segmentation using an adaptive clustering technique for the detection of acute leukemia blood cells images
Chang et al. Coupled segmentation of nuclear and membrane-bound macromolecules through voting and multiphase level set
Windisch et al. Improvement of texture based image segmentation algorithm for HE stained tissue samples
WO2014053520A1 (en) Targeting cell nuclei for the automation of raman spectroscopy in cytology
GB2478133A (en) A method of Image classification based on duct and nuclei parameters
Qian et al. Coarse-to-fine particle segmentation in microscopic urinary images
Hou et al. FPNC Net: A hydrogenation catalyst image recognition algorithm based on deep learning
Ibañez et al. Integrating multiscale topology in digital pathology with pyramidal graph convolutional networks
Morales et al. Cell Microscopy Imaging: A Review on Digital Image Processing Applications
CN110717882A (zh) 图像处理方法、计算机程序以及记录介质
Qichang et al. Center-focus global contrast saliency detection
Farhan Automated clump splitting for biological cell segmentation in microscopy using image analysis

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180518

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190411

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190605

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190821

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200109

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200207

R150 Certificate of patent or registration of utility model

Ref document number: 6660313

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250