JP5315411B2 - 有糸分裂像検出装置および計数システム、および有糸分裂像を検出して計数する方法 - Google Patents

有糸分裂像検出装置および計数システム、および有糸分裂像を検出して計数する方法 Download PDF

Info

Publication number
JP5315411B2
JP5315411B2 JP2011516867A JP2011516867A JP5315411B2 JP 5315411 B2 JP5315411 B2 JP 5315411B2 JP 2011516867 A JP2011516867 A JP 2011516867A JP 2011516867 A JP2011516867 A JP 2011516867A JP 5315411 B2 JP5315411 B2 JP 5315411B2
Authority
JP
Japan
Prior art keywords
mitotic
image
candidate
mass
features
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2011516867A
Other languages
English (en)
Other versions
JP2011527055A (ja
Inventor
エリク コサット、
ハロルド クリストファー バーガー、
マシュー エル ミラー、
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Laboratories America Inc
Original Assignee
NEC Laboratories America Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Laboratories America Inc filed Critical NEC Laboratories America Inc
Publication of JP2011527055A publication Critical patent/JP2011527055A/ja
Application granted granted Critical
Publication of JP5315411B2 publication Critical patent/JP5315411B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/69Microscopic objects, e.g. biological cells or cellular parts
    • G06V20/698Matching; Classification

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biomedical Technology (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Health & Medical Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Image Analysis (AREA)
  • Investigating Or Analysing Biological Materials (AREA)
  • Image Processing (AREA)

Description

本開示はデジタル病理学に関する。より詳細には、本開示は、有糸分裂像検出装置および計数システム、および組織試料の有糸分裂像を検出して計数する方法に関する。
(関連出願)
本出願は2008年7月3日に出願された米国特許仮出願番号第61/077,966号の利益を主張し、その全開示は参照によりここに組み込まれている。
本出願は、2008年7月3日に出願された米国特許仮出願番号第61/077,969号の利益を主張する、「印環細胞検出装置および関連方法」と題する2009年7月2日に出願された米国特許出願番号第_号(代理人整理番号08032)、および2008年7月3日に出願された米国特許仮出願第61/077,974号の利益を主張する、「上皮層検出装置および関連方法」と題する2009年7月2日に出願された米国特許出願番号第_号(代理人整理番号08033)に関連する。「印環細胞検出装置および関連方法」と題する2009年7月2日に出願された米国特許出願番号第_号(代理人整理番号08032)、および「上皮層検出装置および関連方法」と題する2009年7月2日に出願された米国特許出願番号第_号(代理人整理番号08033)の全開示は、参照によりここに組み込まれている。
有糸分裂像は分裂を行っている細胞核である。有糸分裂には、前期、中期、後期、および終期の4段階がある。有糸分裂像の計数は、Nottingham−Bloom−Richardson(NBR)グレードを算出するのに使用される3つの基準(多形性および環状性と共に)の1つである。いずれにしても、組織が癌化している場合、ヒトまたは動物の組織の単位面積当たりの有糸分裂像の計数は、癌の進行度合いに関する情報を提供する。NBRグレードとは乳癌を等級分けする基準の悪性度である。通常、トレーニングされた病理医は有糸分裂像を手作業で計数するが、これには時間がかかり費用が高くつく。
デジタル病理学は、病理医が組織標本を等級分けするのを支援するコンピュータの使用を含んでいる。例えば、専門家が乳癌診断用の組織試料を等級分けするのに通常5分以上はかかる。いくつかの調査によれば、同一事例について病理医の格付けが一致することは低いことが実証されており、それらの診断の客観性が問題になっている。優れたシステムは、診断時に病理医を支援することができるので、より再現可能な結果をより低いコストで達成するのを支援することができる。
先行技術のシステムは、像からある単純な特徴を抽出することによって有糸分裂像を自動的に検出して計数する。次に、該特徴の値にユーザ定義の閾値を適用し、その後、フィッシャーの線形判別分析を使用することによって、像は有糸分裂/非有糸分裂として分類される。都合の悪いことに、先行技術のシステムによって生成された分類結果は、該先行技術のシステムが自動診断ツールとして使用されることを可能にするほどの信頼性はなかった。
したがって、有糸分裂像を自動的に確実に検出して計数する装置および方法の必要性が残存する。
少なくとも1つの染料で染色された生検標本の画像内の有糸分裂像を検出して計数する方法がここに開示される。該方法は、画像をコンピュータ処理で色濾過し、該画像内の有糸分裂像を示す有色の画素を特定すること、画像内の互いに連結された有糸分裂の画素をコンピュータ処理で抽出し、それによって有糸分裂の画素の塊を生成すること、有糸分裂の画素の塊をコンピュータ処理で形状濾過し、有糸分裂像の候補を生成すること、候補の隣接する画素をコンピュータ処理で群化し、正確な有糸分裂像の候補を生成すること、塊の位置で生検標本画像をトリミングすることによって、正確な有糸分裂像の候補のサブ画像を抽出すること、正確な有糸分裂像の候補のサブ画像から2つの特徴群を2つの個別のコンピュータ処理で抽出すること、抽出された2つの特徴群に基づいて、前記有糸分裂像の候補のどれが有糸分裂像かをコンピュータ分類処理で決定すること、生検標本組織の平方単位当たりの有糸分裂像の数を計数すること、を含む。
少なくとも1つの染料で染色された生検標本の画像の有糸分裂像を自動的に検出して計数するシステムもここに開示される。該システムは、プログラムに記述された指示にしたがって処理を実行するプロセッサを有し、プログラムに記述された指示は、画像を色濾過して画像内の有糸分裂像を示す有色の画素を特定する指示と、画像内の互いに連結された有糸分裂の画素を抽出してそれによって有糸分裂の画素の塊を生成する指示と、有糸分裂の画素の塊を形状濾過して有糸分裂像の候補を生成する指示と、候補の隣接する画素を群化して正確な有糸分裂像の候補を生成する指示と、塊の位置で生検標本画像をトリミングすることによって上記の正確な有糸分裂像の候補のサブ画像を抽出する指示と、上記の正確な有糸分裂像の候補のサブ画像から2つの特徴群を抽出する特徴抽出指示と、抽出された2つの特徴群に基づいて有糸分裂像の候補のどれが有糸分裂像かを決定する指示と、生検標本組織の平方単位当たりの有糸分裂像の数を計数する指示と、を有する。
有糸分裂像検出および計数システムの例示的な実施形態のブロックダイアグラム 有糸分裂像検出および計数システムの前処理装置によって行われる、候補となる有糸分裂像の前処理方法の実施形態を示すフローチャート 有糸分裂像検出および計数システムの前処理装置のカラーフィルタによって行われる色濾過法の実施形態を示すフローチャート 有糸分裂像検出および計数システムの前処理装置の形状フィルタによって行われる形状濾過法の実施形態を示すフローチャート 有糸分裂像検出および計数システムの分類装置によって行われる候補となる有糸分裂像の分類法の実施形態を示すフローチャート 従来の畳み込みニューラルネットワークの概略図 ここに説明される有糸分裂像検出装置/計数装置を実装したコンピュータシステム、および対応する有糸分裂像検出および計数の方法の典型的な実施形態のブロックダイアグラム
有糸分裂細胞(像)の場所を自動的に特定または検出し、ヘマトキシリンおよびエオジンで染色された組織(例えばヒトの乳房組織、動物の組織等)の生検標本の画像内に検出された有糸分裂像を計数するシステムおよび方法がここに開示される。有糸分裂像は細胞分裂が行われている細胞核小体である。組織の単位面積当たりの有糸分裂像の数は、万一癌化している組織があった場合に癌化の度合いに関する情報を提供する。有糸分裂像検出および計数システム/方法は、同一の入力が与えられた場合に同一の出力を常に提供する。
図1は、有糸分裂像検出および計数システム100の例示的な実施形態のブロックダイアグラムである。該システム100は、一般に前処理装置110と、分類装置120と、計数装置130とを有している。前処理装置110は、カラーフィルタ112と、連結画素抽出部114と、形状フィルタ116とを有している。分類装置120は、サブ画像抽出部121と、ヒューリスティック特徴抽出部122と、畳み込みニューラルネットワーク(CNN)124と、特徴ベクトル正規化部126と、2、3例を挙げるとサポートベクトルマシン(SVM)、多層パーセプトロン(MLP)、およびk最近傍分類装置(kNN)のような分類部128とを有している。計数装置130は、腫瘍増殖速度を示す組織の平方単位当たりの有糸分裂像数を計数する計数部132を含んでいる。
前処理装置110は、全体画像に色閾値を適用することによって候補となる有糸分裂像を特定する。分類装置120は2つまたは3つ以上の異なる機械学習法を使用して、候補となる有糸分裂像を分類する。システムによって有糸分裂であると見なされた像は、両方の機械学習法により有糸分裂として分類された像である。
システム100は十分に正確な結果を達成するが、このことは該システムを診断ツールとして使用することを可能にするものである。有糸分裂像を計数するヒトの病理医に代わってシステム100を使用する利点として、高速動作および低いコストが挙げられるが、これらに限定されるものではない。さらに、ヒトの病理医は再現可能な結果を生成することができない。該システムは同一の入力に対して同一の有糸分裂像数を返すので、その結果は再現可能である。最後に、システムはユーザ定義のパラメータ値をほとんど必要としない。
分類装置120のCNN124の使用は、どの機能に基づいて核が分類されるべきであるかを決定する必要がない。CNN124は、トレーニングされた病理医によって提供されたラベル付けされたデータ(トレーニング群)からこれらの特徴を自動的に学習する。より具体的には、CNN124はラベル付けされた事例によってトレーニングされているので、CNN124の内部重みは分類誤りを逆伝播することによってゆるやかに調整される。いったんCNN124がこのような方法でトレーニングされると、新たな入力が示される限り、その出力は該入力が有糸分裂像かどうか示す。CNN124の最後(十分に連結している層)を取り除き、SVMまたは類似の分類部でそのベクトル値を使用することが、たまに性能を改善することが立証されている。さらに、最後の層を露出することは、特徴をヒューリスティック特徴抽出部122から簡単に付加することを可能にしている。こうして、CNN124は、分類を提供する代わりに、簡単に他の特徴と連結され、その後、分類部128によって分類可能な特徴ベクトルを出力する。したがって、CNN124は単なる特徴抽出部になり、該CNNが抽出する特徴はデータ例から「学習される」が、一方ヒューリスティックな特徴は設計者/ユーザによって手動で構築される。いくつかの応用例では、データのどの特徴が分類にとって重要であるかをシステムに学習させる方が好ましく、いくつかの他の応用例では、データの性質に関する知識を活用して、CNN124が恐らく自動的に学習することができない非常に特有の特徴を手動で構築することは意味のあることである。本開示では、組み合わされた特徴が個々に得られた特徴よりも優れているので、両方の手法からの長所が使用される。
トレーニングされた病理医によって提供されるトレーニング群は小さいので、分類される必要のある有糸分裂像の候補数を制限するために前処理装置110が提供され、これにより多くの潜在的な偽陽性が回避される。さらに、システム100の実行時間は、入力画像のすべてに対してはCNN124を実行しないようにすることによる非常に大きな要因によって低減される。
分類装置120のCNN124および分類部128はいずれもトレーニングされていなければならず、これはトレーニングされた病理医によって特定された有糸分裂像の小さな集合を使用して達成される。より具体的には、肯定的トレーニング例はトレーニングされた病理医によって提供され、否定的例は前処理装置によって提供される。トレーニングされた病理医によって有糸分裂としてラベル付けされていなかった、前処理装置によって返された像は、否定的トレーニング例を示している。
SVMまたは他の分類部128は特徴ベクトルに基づいた分類を行う。抽出される特徴は、トレーニングされた病理医が有糸分裂像を認識する方法によって呼び出される。CNN124は特徴検出部および分類部と見なすことができる。CNN124は、トレーニングデータに基づいて、自動的に検出する特徴を学習する。
図2は、有糸分裂像検出および計数システムの前処理装置によって行われる、候補となる有糸分裂像の前処理方法の実施形態を示すフローチャートである。前処理方法は、ヘマトキシリンおよびエオジンで染色された組織のRGB画像が前処理装置の入力に提供される、ボックス200で始まる。前処理装置のカラーフィルタは、ボックス210で非有糸分裂像を示す有色のRGB入力画像のRGB画素を色濾過して除去し、それによって有糸分裂像を示す1つまたは2つ以上の色を持つRGB画像の画素を発生させる。カラーフィルタは、ボックス220で有糸分裂の着色画素のみを有するRGB画像を出力する。
図3は、前処理装置のカラーフィルタによって行われる色濾過法の実施形態を示すフローチャートである。ヒストグラム抽出部が、ボックス300で組織のRGB入力画像についてヒストグラム処理を行い、ボックス310でRGB画像の画像色ヒストグラムを出力する。ヒストグラム処理では、RGB画像の画素の各々は、赤(R)、緑(G)、および青(B)の色チャネルの各々の強度値に対応する赤(R)、緑(G)、および青(B)のヒストグラムビンの計数にそれぞれ寄与する。各チャネルのビン数がシステムのパラメータである。1つの典型的な実施形態では、30個のビンが各チャネルに使用される。他の実施形態では、30個より多くのビンまたは30個未満のビンが各チャネルに使用されてもよい。
図3をなお参照して、ボックス320で、すべての画像色ヒストグラムから有糸分裂の色閾値を予測するために、サポートベクトル回帰(SVR)が画像色ヒストグラムについて行われる。SVRはSVM法を使用して計算される入力データの回帰である。したがって、入力ベクトルに対して、出力データベクトルが得られる。本方法では、R、G、およびBのヒストグラムは、入力ベクトルをSVRに役立てる。SVRは、順に、その画像に対する予測された有糸分裂色を表すR、G、およびBの色ヒストグラムを出力する。その後、ヒストグラム範囲選択部がボックス340で該ヒストグラムを処理し、R、G、およびBチャネルの各々の閾値群を得てどの画素が有糸分裂か否かを判定する。ヒストグラム範囲選択部は、肯定的(有糸分裂)として考慮されるべき有糸分裂のヒストグラム曲線下で百分率領域を表すパラメータを定義する。該パラメータは、バリデーション集合の受信者動作特性(ROC)解析を使用して決定される。有糸分裂像を示す1つまたは2つ以上の色を持つRGB画像の画素が、ボックス220(図2)で、有糸分裂の着色画素のみを有するRGB画像としてカラーフィルタの出力で生成される。
形状濾過法はアルゴリズムとして自動的に行われるが、濾過パラメータは、CNNで行われたようにトレーニングされたデータから得られる代わりに手動で構築される。該パラメータは通常物理的な制約を有するが、それに制限されるものではない。例えば、しかし制限されるものではないが、有糸分裂像の大きさは20ミクロンより大きくはなりえない。
図2を再び参照して、連結画素抽出部は、ボックス230で、RGB画像内の互いに連結している有糸分裂の着色画素を抽出する。RGB画像内の連結した(接触している)有糸分裂の着色画素は、有糸分裂像を形成する可能性が最もありそうな画像の画素である。ボックス240で、連結画素抽出部は、連結した有糸分裂画素によって形成される有糸分裂の塊のRGB画像を出力する。形状フィルタは、ボックス250で、該有糸分裂の塊のRGB画像を濾過し、一定の塊の形状および質量(塊の中のピクセル数)パラメータを満たさない有糸分裂の塊を取り除く。該パラメータは、有糸分裂像をとても表すことができない有糸分裂の塊が廃棄されるように選ばれる。有糸分裂像が連結された画素の2つまたは3つ以上の塊によって表されてもよい(有糸分裂過程の終期段階でのような)ことはよくあることである。そのような事例を考慮して、クラスタリングステップがボックス260で行われる。連結した画素の隣接の塊は、単一の有糸分裂候補を表すように一緒に群化される。そのようなクラスタリングステップの可能な実施形態は、塊の間の質量中心距離に基づいたリーダクラスタリング処理である。この実施形態の1つの典型的な実施では、5ミクロン未満の距離で分離されている2つの塊は、単一の有糸分裂候補に一緒に群化されることになる。
図4は、前処理装置の形状フィルタによって行われる形状濾過法の実施形態を示すフローチャートである。ボックス400で、形状フィルタの入力でのRGB画像内の、あまりにも軽い(少ない連結した画素を持つ塊、すなわち質量が小さく、恐らく単にノイズである)有糸分裂の塊240(図2)は廃棄される。形状フィルタの入力でのRGB画像内の、あまりにも重たい(非常に多くの連結した画素を持つ塊、すなわち質量が非常に大きく、恐らく有糸分裂像ではない)有糸分裂の塊240(図2)は、ボックス410で廃棄される。ボックス420で、形状フィルタの入力でのRGB画像内の、長すぎる有糸分裂の塊240(図2)は廃棄される。形状フィルタの入力でのRGB画像内の、短すぎる有糸分裂の塊240(図2)は、ボックス430で廃棄される。
図5は、有糸分裂像検出および計数システムの分類装置によって行われる、候補となる有糸分裂像の分類法の実施形態を示すフローチャートである。該分類法は、有糸分裂の候補の1つがサブ画像抽出部装置(ボックス510)の入力で提供される、ボックス500で始まる。サブ画像抽出部装置は、位置情報および形状情報を使用して、有糸分裂の候補から固定サイズの、候補となるRGBサブ画像520を抽出する。該抽出処理の一実施形態では、1つの有糸分裂の候補の塊の質量中心が、簡易画像のトリミング処理の座標点を提供するのに使用される。その後、候補となるサブ画像520が、ボックス540で畳み込みニューラルネットワーク(CNN)に、ボックス530でヒューリスティック特徴抽出部(HFE)に加えられる。
CNNは当技術分野においてよく知られていて、通常空間像畳み込みを効率的に実行する方法で配置された接続を持つ、従来のニューラルネットワークを有している。本開示におけるCNNは有糸分裂の候補画像の特徴を学習し、CNNの特徴またはCNNの特徴ベクトルを出力する。図6は従来のCNN600を概略的に示している。CNN600の構成および機能は当技術分野においてよく知られている。CNNは、特徴マップと呼ばれる入力601(入力層)の積み重ねを小さなフィルタ602で畳み込んで、内層または第1の内層603と呼ばれる特徴マップの新たな積み重ねを得る。この第1の内層603の特徴マップの各々は、トレーニングされたカーネル(通常異なる重みを持つ)によって1つまたは2つ以上の入力マップを畳み込み、結果を一緒に加算することによって得られる。次に、結果として生じた値は非線形伝達関数604を通して渡され、第2の内層605を得る。第3の内層607がサブサンプリング606によって得られ、ここで、各値は、前の内層(例えば第2の内層605)からの隣接値群を一緒に平均化することによって得られる。該群は重複しないので、結果として得られた内層は前の内層よりも実質的に小さい。いくつかの内層の後、出力層608の各値609が入力層601の隣接値の入力ウィンドウ610に依存することは明らかである。さらに、これらのウィンドウは互いに重複する。
CNNは、該CNNの出力が、像が有糸分裂か非有糸分裂かどうかを示すような、分類部として機能する。ラベル付けされた肯定の(有糸分裂)および否定の(非有糸分裂)像の例(例えば60×60画素の入力サブ画像)を入力で示すことによって、およびCNNが生成した誤りを出力で逆伝播することによって、該CNNは分類部としてトレーニングされる。単一の値の代わりにCNNの特徴ベクトルを出力で得るために、CNNの最後の層(例えば、最後の層が1つの出力に十分に連結された20個の値のベクトルだった)は、トレーニング段階が完了したとき取り除かれる。したがって、候補となるサブ画像がCNNの入力で示されると、大きさ20の特徴ベクトル(前の例を使用して)がCNNの出力で生成される。CNNの特徴は、ユーザが通常認識しない特徴、または明示的に算出することがかなり高価である可能性がある特徴を取得することを目指している。
HFEの構成および動作は当技術分野においてよく知られている。該HFEは入力候補のサブ画像を特徴または特徴ベクトルの簡約表現に変換する。ヒューリスティックな特徴は、データから自動的にトレーニングされることはないが、その代りに、ヒューリスティックな特徴が有糸分裂像と非有糸分裂像とをどれくらいよく区別するかに基づいて、ユーザによって手動で構築される。例えば、有糸分裂像は形状で畳み込まれるので、有糸分裂の候補を表す画素の塊の輪郭の平均曲率(曲率ヒストグラム)の基準が、抽出するのによい特徴であることが期待される。HFEを使用して抽出することができる他の特徴は、平均半径(半径ヒストグラム)、質量、輪郭長、凹面、細胞質の色、有糸分裂色、染色体毛、および粒度を含んでいるが、それらに限定されるものではない。
図5を再び参照して、CNNおよびヒューリスティックな特徴ベクトルが正規化され、その後ボックス570で、分類部が正規化されたCNNおよびヒューリスティックな特徴ベクトルに適用される。分類部は正規化されたCNNおよびヒューリスティックな特徴ベクトルを処理し、ボックス580で、像が有糸分裂か非有糸分裂かどうかについての最終決定をその出力で生成する。組み合わされた特徴が有糸分裂と非有糸分裂像とを区別する点においてより強力になるように、CNNの特徴はヒューリスティックな特徴を補完する。1つの典型的な実施形態では、ボックス570で正規化されたCNNおよびヒューリスティックな特徴ベクトルに適用された分類部は、サポートベクトルマシンを有してもよい。
システムの計数装置は、生検標本の画像内に検出された有糸分裂像の数を分類装置によって計数する。他の実施形態では、システム100によって生成された結果は、ユーザに、または有糸分裂像の最終計数を行う病理医に提供されてもよい。
当業者には、ここで説明している有糸分裂像検出装置および対応する方法は、任意の適切に適応したコンピュータシステムを用いて実現できることが認識されよう。コンピュータシステムは、メインフレームコンピュータシステム、ワークステーション、パーソナルコンピュータシステム、携帯情報端末(PDA)、または、記憶媒体からの命令を実行する少なくとも1つのプロセッサを持つ他のデバイスまたは装置を含んでいてもよいが、それらに限定されるものではない。
コンピュータシステムは、1つまたは2つ以上のコンピュータプログラムまたはソフトウエアコンポーネントを格納できる、1つまたは2つ以上の記憶媒体を含んでいてもよい。ここで説明している方法を行うのに実行可能な1つまたは2つ以上のソフトウェアプログラムは、記憶媒体に格納されてもよい。該1つまたは2つ以上の記憶媒体は、CD−ROM、フロッピーディスク、テープ装置、DRAM、SRAM、EDO RAM、およびRambus RAM(しかしこれらに限定されるものではない)のようなランダムアクセスメモリ、ハードディスクドライブおよび光記憶装置(しかしこれらに限定されるものではない)のような不揮発性メモリ、およびそれらの組み合わせを含んでいてもよいが、それらに限定されるものではない。さらに、記憶媒体は、インターネットのようなネットワーク上のコンピュータシステムに接続した、1つまたは2つ以上の関連するコンピュータまたはコンピュータシステムに完全にまたは部分的に配置されていてもよい。
ここに説明した有糸分裂像検出装置/計数装置および対応する有糸分裂像を検出して計数する方法(有糸分裂検出装置/方法)も、ハードウェア、ソフトウェアとハードウェアとの組み合わせ、または他の適切な実行可能な実施で実行することができる。ソフトウェアで実行される有糸分裂検出装置/方法は、コンピュータシステムのプロセッサ、または、コンピュータシステムに接続された1つまたは2つ以上の関連するコンピュータまたはコンピュータシステムの1つまたは2つ以上のプロセッサによって実行されてもよい。
図7は、ここで説明している有糸分裂検出装置/方法を実現するコンピュータシステム700の典型的な実施形態のブロックダイアグラムである。コンピュータシステム700は、プロセッサ720と、ここに説明している有糸分裂検出装置/方法を実施するプロセッサ720によって実行可能な1つまたは2つ以上のプログラムを格納するメモリ730と、入力データ(例えば処理用のラベル付されていないサブ画像、トレーニング用のラベル付けされたサブ画像、およびトレーニングおよび処理パラメータ)を受け取る入力740と、データ(例えば有糸分裂像および非有糸分裂像を示す1つまたは2つ以上の予測ラベル)を出力する出力760と、を含んでいる。
本開示の例示的図面および特定の実施形態を説明し例示したが、本発明の範囲は説明した特定の実施形態に限定されないことが理解されよう。したがって、実施形態は限定的であるよりも例示的と見なすべきであり、添付の特許請求の範囲に記載された本発明の範囲ならびに構造的等価物および機能的等価物から逸脱することなくこれらの実施形態に変更を加えることができることが当業者には理解されよう。

Claims (17)

  1. 少なくとも1つの染料で染色された生検標本の画像内の有糸分裂像を検出して計数する方法であって、
    前記画像をコンピュータ処理で色濾過し、該画像内の有糸分裂像を示す有色の画素を特定するステップと、
    前記画像内の互いに連結された前記有糸分裂の画素をコンピュータ処理で抽出し、それによって有糸分裂の画素の塊を生成するステップと、
    前記有糸分裂の画素の塊をコンピュータ処理で形状濾過し、有糸分裂像の候補を生成するステップと、
    前記候補の隣接する画素をコンピュータ処理で群化し、正確な有糸分裂像の候補を生成するステップと、
    前記塊の位置で前記生検標本画像をトリミングすることによって、前記正確な有糸分裂像の候補のサブ画像をコンピュータ処理で抽出するステップと、
    前記正確な有糸分裂像の候補のサブ画像から2つの特徴群を2つの個別のコンピュータ処理で抽出するステップと、
    前記抽出された2つの特徴群に基づいて、前記有糸分裂像の候補のどれが有糸分裂像かをコンピュータ分類処理で決定するステップと、
    生検標本組織の平方単位当たりの有糸分裂像の数を計数するステップと、
    を含む方法。
  2. 前記色濾過ステップは、前記画像から色ヒストグラムを抽出し画像色ヒストグラムを生成するステップを含む、請求項1に記載の方法。
  3. 前記色濾過ステップは、サポートベクトル回帰(SVR)を使用して前記画像色ヒストグラムから色閾値を予測するステップをさらに含む、請求項2に記載の方法。
  4. 前記色濾過ステップは、前記色閾値を使用して、前記有糸分裂像を示す有色の画像の画素を選択するステップをさらに含む、請求項3に記載の方法。
  5. 前記2つの特徴抽出コンピュータ処理の1つは畳み込みニューラルネットワーク(CNN)コンピュータ処理を含む、請求項1に記載の方法。
  6. 前記特徴抽出ステップは、前記有糸分裂像の候補のサブ画像に前記CNNコンピュータ処理を適用し、前記有糸分裂像の候補のCNNの特徴を得るステップを含む、請求項5に記載の方法。
  7. 前記2つの特徴抽出コンピュータ処理の1つは、前記有糸分裂像の候補の塊および前記サブ画像からヒューリスティックな特徴を抽出するステップを含む、請求項1に記載の方法。
  8. 前記特徴抽出ステップは、前記有糸分裂の候補の塊の輪郭から1つまたは2つ以上の特徴を抽出するステップを含み、該1つまたは2つ以上の特徴は、曲率ヒストグラム、質量中心半径ヒストグラムおよびスペクトル、塊の質量、輪郭長、質量中心からの輪郭対称性、輪郭の凹面を含む、請求項7に記載の方法。
  9. 前記特徴抽出ステップは、前記有糸分裂の候補のサブ画像から1つまたは2つ以上のヒューリスティックな特徴を抽出するステップをさらに含み、該1つまたは2つ以上のヒューリスティックな特徴は、細胞質の色のヒストグラム、有糸分裂色のヒストグラム、染色体毛の有無、および画像の粒度の大きさ(質感の粗さ)を含む、請求項8に記載の方法。
  10. 前記コンピュータ分類処理はサポートベクトルマシン(SVM)分類部を含む、請求項1に記載の方法。
  11. 少なくとも1つの染料で染色された生検標本の画像内の有糸分裂像を検出して計数するシステムであって、
    プログラムに記述された指示にしたがって処理を実行するプロセッサを有し、
    前記プログラムに記述された指示は、
    前記画像を色濾過し、該画像内の有糸分裂像を示す有色の画素を特定する指示と、
    前記画像内の互いに連結された前記有糸分裂の画素を抽出し、それによって有糸分裂の画素の塊を生成する指示と、
    前記有糸分裂の画素の塊を形状濾過し、有糸分裂像の候補を生成する指示と、
    前記候補の隣接する画素を群化し、正確な有糸分裂像の候補を生成する指示と、
    前記塊の位置で前記生検標本画像をトリミングすることによって、前記正確な有糸分裂像の候補のサブ画像を抽出する指示と、
    前記正確な有糸分裂像の候補のサブ画像から2つの特徴群を抽出する特徴抽出指示と、
    前記抽出された2つの特徴群に基づいて、前記有糸分裂像の候補のどれが有糸分裂像かを決定する指示と、
    生検標本組織の平方単位当たりの有糸分裂像の数を計数する指示と、
    を有するシステム。
  12. 前記特徴抽出指示の1つは、前記有糸分裂像の候補のサブ画像から畳み込みニューラルネットワーク(CNN)の特徴を特定する畳み込みニューラルネットワーク(CNN)を有する、請求項11に記載のシステム。
  13. 前記特徴抽出指示の1つは、前記有糸分裂像の候補の塊およびサブ画像からヒューリスティックな特徴を抽出するヒューリスティック特徴抽出指示を有する、請求項11に記載のシステム。
  14. 前記特徴抽出指示は、前記有糸分裂の候補の塊の輪郭から1つまたは2つ以上の特徴を抽出する抽出指示をさらに有し、該1つまたは2つ以上の特徴は、曲率ヒストグラム、質量中心半径ヒストグラムおよびスペクトル、塊の質量、輪郭長、質量中心からの輪郭対称性、輪郭の凹面を含む、請求項13に記載のシステム。
  15. 前記特徴抽出指示は、前記有糸分裂の候補のサブ画像から1つまたは2つ以上のヒューリスティックな特徴を抽出する抽出指示をさらに有し、該1つまたは2つ以上のヒューリスティックな特徴は、細胞質の色のヒストグラム、有糸分裂色のヒストグラム、染色体毛の有無、および画像の粒度の大きさ(質感の粗さ)を含む、請求項13に記載のシステム。
  16. 抽出された2つの特徴群に基づいて、前記有糸分裂像の候補のどれが有糸分裂像かを決定するための前記指示サポートベクトルマシン(SVM)分類指示を有する、請求項11に記載のシステム。
  17. 生検標本組織の平方単位当たりの有糸分裂像の数を計数するための前記指示は、生検標本組織の平方単位当たりの肯定的に分類された有糸分裂像の数を計数する計数指示を有する、請求項11に記載のシステム。
JP2011516867A 2008-07-03 2009-07-02 有糸分裂像検出装置および計数システム、および有糸分裂像を検出して計数する方法 Active JP5315411B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US7796608P 2008-07-03 2008-07-03
US61/077,966 2008-07-03
PCT/US2009/049484 WO2010003041A2 (en) 2008-07-03 2009-07-02 Mitotic figure detector and counter system and method for detecting and counting mitotic figures

Publications (2)

Publication Number Publication Date
JP2011527055A JP2011527055A (ja) 2011-10-20
JP5315411B2 true JP5315411B2 (ja) 2013-10-16

Family

ID=41464440

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011516867A Active JP5315411B2 (ja) 2008-07-03 2009-07-02 有糸分裂像検出装置および計数システム、および有糸分裂像を検出して計数する方法

Country Status (3)

Country Link
US (1) US8379961B2 (ja)
JP (1) JP5315411B2 (ja)
WO (1) WO2010003041A2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107909044A (zh) * 2017-11-22 2018-04-13 天津大学 一种结合卷积神经网络和轨迹预测的人数统计方法

Families Citing this family (36)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9536221B2 (en) 2008-06-19 2017-01-03 Plentyoffish Media Ulc System and method for adaptive matching of user profiles based on viewing and contact activity for social relationship services
US9119160B2 (en) * 2011-09-30 2015-08-25 Broadcom Corporation Optimization of NFC tag for different battery levels
US9537706B2 (en) 2012-08-20 2017-01-03 Plentyoffish Media Ulc Apparatus, method and article to facilitate matching of clients in a networked environment
US9679259B1 (en) * 2013-01-25 2017-06-13 Plentyoffish Media Ulc Systems and methods for training and employing a machine learning system in evaluating entity pairs
US11568008B2 (en) 2013-03-13 2023-01-31 Plentyoffish Media Ulc Apparatus, method and article to identify discrepancies between clients and in response prompt clients in a networked environment
US9672289B1 (en) 2013-07-23 2017-06-06 Plentyoffish Media Ulc Apparatus, method and article to facilitate matching of clients in a networked environment
US9400925B2 (en) * 2013-11-15 2016-07-26 Facebook, Inc. Pose-aligned networks for deep attribute modeling
US9870465B1 (en) 2013-12-04 2018-01-16 Plentyoffish Media Ulc Apparatus, method and article to facilitate automatic detection and removal of fraudulent user information in a network environment
US10540607B1 (en) 2013-12-10 2020-01-21 Plentyoffish Media Ulc Apparatus, method and article to effect electronic message reply rate matching in a network environment
US9430829B2 (en) * 2014-01-30 2016-08-30 Case Western Reserve University Automatic detection of mitosis using handcrafted and convolutional neural network features
US10108968B1 (en) 2014-03-05 2018-10-23 Plentyoffish Media Ulc Apparatus, method and article to facilitate automatic detection and removal of fraudulent advertising accounts in a network environment
US10387795B1 (en) 2014-04-02 2019-08-20 Plentyoffish Media Inc. Systems and methods for training and employing a machine learning system in providing service level upgrade offers
US9836533B1 (en) 2014-04-07 2017-12-05 Plentyoffish Media Ulc Apparatus, method and article to effect user interest-based matching in a network environment
US10360497B2 (en) * 2014-07-16 2019-07-23 Qualcomm Incorporated Decomposing convolution operation in neural networks
US9953425B2 (en) * 2014-07-30 2018-04-24 Adobe Systems Incorporated Learning image categorization using related attributes
CN107004138A (zh) * 2014-12-17 2017-08-01 诺基亚技术有限公司 利用神经网络的对象检测
CN104866900B (zh) * 2015-01-29 2018-01-19 北京工业大学 一种反卷积神经网络训练方法
CN105989330A (zh) * 2015-02-03 2016-10-05 阿里巴巴集团控股有限公司 一种图片检测方法及设备
US11334789B2 (en) * 2015-03-17 2022-05-17 Qualcomm Incorporated Feature selection for retraining classifiers
WO2017091833A1 (en) * 2015-11-29 2017-06-01 Arterys Inc. Automated cardiac volume segmentation
GB2547712A (en) * 2016-02-29 2017-08-30 Fujitsu Ltd Method and apparatus for generating time series data sets for predictive analysis
US11137462B2 (en) * 2016-06-10 2021-10-05 Board Of Trustees Of Michigan State University System and method for quantifying cell numbers in magnetic resonance imaging (MRI)
CN106202997B (zh) * 2016-06-29 2018-10-30 四川大学 一种基于深度学习的细胞分裂检测方法
JP2020510463A (ja) 2017-01-27 2020-04-09 アーテリーズ インコーポレイテッド 全層畳み込みネットワークを利用する自動化されたセグメンテーション
JP6733983B2 (ja) 2017-05-09 2020-08-05 暢 長坂 画像解析装置
JP6733984B2 (ja) 2017-07-07 2020-08-05 暢 長坂 画像解析装置
CN108009563B (zh) * 2017-10-25 2020-06-09 北京达佳互联信息技术有限公司 图像处理方法、装置及终端
CN107818343B (zh) * 2017-10-30 2021-01-08 中国科学院计算技术研究所 计数方法及装置
CN107748900B (zh) * 2017-11-08 2020-09-25 山东财经大学 基于区分性卷积神经网络的乳腺肿瘤分类装置和存储介质
JP7076698B2 (ja) * 2017-11-17 2022-05-30 国立研究開発法人国立がん研究センター 画像解析方法、画像解析装置、プログラム、学習済み深層学習アルゴリズムの製造方法および学習済み深層学習アルゴリズム
EP3714467A4 (en) 2017-11-22 2021-09-15 Arterys Inc. CONTENT-BASED IMAGE RECOVERY FOR LESION ANALYSIS
US10853943B2 (en) * 2018-07-31 2020-12-01 Element Ai Inc. Counting objects in images based on approximate locations
GB2576191B (en) * 2018-08-08 2022-11-16 Sphere Fluidics Ltd Droplet processing methods and systems
CN109363697B (zh) * 2018-10-16 2020-10-16 杭州依图医疗技术有限公司 一种乳腺影像病灶识别的方法及装置
US11514530B2 (en) * 2020-05-14 2022-11-29 Ccc Information Services Inc. Image processing system using convolutional neural networks
CN115359056B (zh) * 2022-10-19 2023-03-24 浙江华诺康科技有限公司 分裂细胞检测方法、装置和计算机设备

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6876760B1 (en) * 2000-12-04 2005-04-05 Cytokinetics, Inc. Classifying cells based on information contained in cell images
GB0226787D0 (en) * 2002-11-18 2002-12-24 Qinetiq Ltd Measurement of mitotic activity
GB0227160D0 (en) * 2002-11-21 2002-12-24 Qinetiq Ltd Histological assessment of pleomorphism
GB2396406A (en) * 2002-12-17 2004-06-23 Qinetiq Ltd Image analysis
US20050014217A1 (en) * 2003-07-18 2005-01-20 Cytokinetics, Inc. Predicting hepatotoxicity using cell based assays
WO2005027015A2 (en) * 2003-09-10 2005-03-24 Bioimagene, Inc. Method and system for quantitatively analyzing biological samples
US7760927B2 (en) * 2003-09-10 2010-07-20 Bioimagene, Inc. Method and system for digital image based tissue independent simultaneous nucleus cytoplasm and membrane quantitation
WO2005076197A2 (en) * 2004-01-31 2005-08-18 Bioimagene, Inc. Method and system for morphology based mitosis identification and classification of digital images
JP3958340B2 (ja) * 2006-01-23 2007-08-15 学校法人順天堂 染色組織標本の陽性細胞の可視化解析方法
WO2009072098A1 (en) * 2007-12-04 2009-06-11 University College Dublin, National University Of Ireland Method and system for image analysis

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107909044A (zh) * 2017-11-22 2018-04-13 天津大学 一种结合卷积神经网络和轨迹预测的人数统计方法

Also Published As

Publication number Publication date
US8379961B2 (en) 2013-02-19
US20100002920A1 (en) 2010-01-07
WO2010003041A2 (en) 2010-01-07
JP2011527055A (ja) 2011-10-20
WO2010003041A3 (en) 2010-03-25

Similar Documents

Publication Publication Date Title
JP5315411B2 (ja) 有糸分裂像検出装置および計数システム、および有糸分裂像を検出して計数する方法
US10671833B2 (en) Analyzing digital holographic microscopy data for hematology applications
EP3455782B1 (en) System and method for detecting plant diseases
JP6710135B2 (ja) 細胞画像の自動分析方法及びシステム
Ramesh et al. Isolation and two-step classification of normal white blood cells in peripheral blood smears
US9070005B2 (en) Image processing apparatus, image processing method, non-transitory computer-readable medium, and image processing system for detection of target cells using image feature determination
CN108765465A (zh) 一种无监督sar图像变化检测方法
Kiran GV et al. Automatic classification of whole slide pap smear images using CNN with PCA based feature interpretation
KR20200136004A (ko) 세포 샘플 내에서 적어도 하나의 기형을 가지는 세포를 검출하기 위한 방법
Kadan et al. Detection of hard exudates using evolutionary feature selection in retinal fundus images
CN107492084A (zh) 基于随机性的典型成团细胞核图像合成方法
Admass et al. Convolutional neural networks and histogram-oriented gradients: a hybrid approach for automatic mango disease detection and classification
Prem et al. Classification of exudates for diabetic retinopathy prediction using machine learning
Sema et al. Automatic Detection and Classification of Mango Disease Using Convolutional Neural Network and Histogram Oriented Gradients
Adhikary et al. Feature assisted cervical cancer screening through DIC cell images
US20200380671A1 (en) Medical image detection
CN114155399A (zh) 基于多特征融合递进式判别的乳腺病理全切片分类方法
Rajeev A Framework for Detecting Cervical Cancer Based on UD-MHDC Segmentation and MBD-RCNN Classification Techniques
Chen et al. What can machine vision do for lymphatic histopathology image analysis: a comprehensive review
Sandhiya Hematological Image Analysis: Enhancing Blood Cell Segmentation through Advanced Image Processing Techniques
Devi et al. Ancient blood cell classification on explication using convolutional neural networks
CN118679501A (zh) 用于检测图像中的伪影像素的机器学习技术
Akshara et al. Robust Cell Detection Using Adaptive Fuzzy C-Means Clustering and Classification
Blackledge et al. Pattern Recognition in Cytopathology for Papanicolaou Screening
Pang et al. Automated early cancer screening based on kernel method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120413

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130128

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130205

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130502

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130618

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130708

R150 Certificate of patent or registration of utility model

Ref document number: 5315411

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350