JP7092503B2 - 共発現解析のためのシステム及び方法 - Google Patents

共発現解析のためのシステム及び方法 Download PDF

Info

Publication number
JP7092503B2
JP7092503B2 JP2017534921A JP2017534921A JP7092503B2 JP 7092503 B2 JP7092503 B2 JP 7092503B2 JP 2017534921 A JP2017534921 A JP 2017534921A JP 2017534921 A JP2017534921 A JP 2017534921A JP 7092503 B2 JP7092503 B2 JP 7092503B2
Authority
JP
Japan
Prior art keywords
image
marker
roi
heatmap
identified
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017534921A
Other languages
English (en)
Other versions
JP2018503906A5 (ja
JP2018503906A (ja
Inventor
バーンズ,マイケル
スィン,シャリニ
チェン,ティーン
シェフドテル,クリストフ
タブス,アリサ
Original Assignee
ベンタナ メディカル システムズ, インコーポレイテッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ベンタナ メディカル システムズ, インコーポレイテッド filed Critical ベンタナ メディカル システムズ, インコーポレイテッド
Publication of JP2018503906A publication Critical patent/JP2018503906A/ja
Publication of JP2018503906A5 publication Critical patent/JP2018503906A5/ja
Application granted granted Critical
Publication of JP7092503B2 publication Critical patent/JP7092503B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30024Cell structures in vitro; Tissue sections in vitro
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Medical Informatics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Quality & Reliability (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • Investigating Or Analysing Biological Materials (AREA)
  • Investigating Or Analysing Materials By Optical Means (AREA)
  • Apparatus Associated With Microorganisms And Enzymes (AREA)
  • Measuring Or Testing Involving Enzymes Or Micro-Organisms (AREA)
  • Image Analysis (AREA)

Description

関連出願の相互参照
[0001]本出願は、2014年12月30日付けの米国仮特許出願第62/098,075号の出願日の利益を主張し、その開示を参照により本明細書に組み込む。
[0002]生体標本の解析では、標本は、染料又はアッセイの1つ又は複数の組み合わせで染色される場合が多く、染色された生体標本が検視されるか、又はその後の解析のために画像化される。アッセイの観察によって、疾患の診断、治療に対する反応の評価、及び疾患に対抗する新薬の開発など、様々なプロセスが可能になる。
[0003]多重染色は、単一組織部分内にある複数の生物マーカーを検出するための技術であり、非常に効率が良く、また生成される診断情報が豊富であることから、益々一般的になってきている。免疫組織化学(IHC)スライド染色は、組織部分の細胞中のタンパク質、タンパク質断片、又は核酸を特定するのに利用することができ、したがって、生体組織中のがん性細胞及び免疫細胞など、様々なタイプの細胞の研究で広く使用されている。免疫細胞の染色という面では、免疫学データは、腫瘍試料内の免疫細胞の種類、密度、及び場所を示し、このデータは、患者の生存率予測を決定する際に病理医にとって特に興味深い。したがって、IHC染色は、免疫反応研究に関して、がん性組織中における免疫細胞(T細胞又はB細胞など)の異なるように発現した生物マーカーの分布及び局在を理解するのに、研究で使用されてもよい。例えば、腫瘍は免疫細胞の浸潤を含む場合が多く、そのことが、腫瘍の発達を妨げるか、又は腫瘍の増殖を助けることがある。これに関連して、複数染料が異なる種類の免疫細胞を標的にするために使用され、各種類の免疫細胞の集団分布は患者の治療成果の研究で使用される。
[0004]一般的に、免疫スコア計算では、医療専門家は、一片の組織の染色を伴う多重アッセイか、又は隣接する連続した組織部分の染色を伴う単一アッセイを使用して、同じ組織ブロック内のマーカーを、例えば複数のタンパク質もしくは核酸などを、検出又は定量化する。利用可能な染色済みスライドを用いて、免疫学データ、例えば免疫細胞の種類、密度、及び場所を、腫瘍組織試料から推定することができる。
[0005]免疫スコア計算の従来のワークフローでは、専門家読者は、最初のステップとして、顕微鏡下でスライドを検査すること、又はスキャン/デジタル化されているディスプレイ上のスライドの画像を読み取ることによって、代表的な視野(FOV)又は関心領域(ROI)を手動で選択する。組織スライドをスキャンすると、スキャンされた画像は独立した読者によって視認され、FOV又はROIは、読者の個人的な好みに基づいて手動で印付けられる。FOV又はROIを選択した後、病理医/読者は、選択されたFOV又はROI内の免疫細胞を手動で計数する。異なる読者は異なるFOV又はROIを計数する選択をすることがあるので、FOV又はROIの手動の選択及び計数は非常に主観的であり、読者によって偏る。したがって、免疫スコア研究は必ずしも再現可能ではない。
本開示は、上記の課題を解決するものである。
[0006]一態様では、本開示は、繊維試料中の複数のマーカー(又はマーカーと関連付けられた染料)を共発現解析するコンピュータ実装方法であって、方法は、複数の単一マーカーチャネル画像(single marker channel images)それぞれに対してマーカー発現のヒートマップを計算するステップであって、複数の単一マーカーチャネル画像がそれぞれ単一のマーカーを含む、ステップと、マーカー発現の各ヒートマップにおける1つ又は複数の関心領域(ROI)候補を特定するステップと、マーカー発現の各ヒートマップから、特定された1つ又は複数のROI候補を含むオーバーレイマスクを計算するステップと、オーバーレイマスクから、1つ又は複数の共存ROIを決定するステップと、特定された1つ又は複数の共存ROIを複数の単一マーカーチャネル画像それぞれへと転送するステップとを含む。いくつかの実施形態では、1つ又は複数のROI候補を特定するステップは、マーカー発現の各ヒートマップに閾値を適用するステップを含む。いくつかの実施形態では、特定された1つ又は複数のROI候補は、適用された閾値よりも低い値を有し、陰性マーカー発現領域に対応する。いくつかの実施形態では、特定された1つ又は複数のROI候補は、適用された閾値よりも高い値を有し、陽性マーカー発現領域に対応する。いくつかの実施形態では、1つ又は複数のROI候補を特定するステップは、局所極大フィルタをマーカー発現の各ヒートマップに適用するステップと、所定数の最高位の局所極大を選択するステップとを含む。いくつかの実施形態では、方法は、選択された所定数の最高位の局所極大それぞれの周りで、N×Nピクセルを有する視野を定めるステップであって、N×NピクセルのFOVが、特定された1つ又は複数のROI候補として選択される、ステップを更に含む。
[0007]いくつかの実施形態では、共存ROIを決定するステップは、異なるマーカーに対応する、1つ又は複数の少なくとも部分的に重なり合うROI候補を特定するステップを含む。いくつかの実施形態では、1つ又は複数の少なくとも部分的に重なり合うROI候補は、オーバーレイマスクを形態学的及び/又は論理的に処理することによって決定される。いくつかの実施形態では、方法は、1つ又は複数の少なくとも部分的に重なり合うROI候補それぞれの共通部分面積が、重なり閾値と合致するか否かを評価するステップを更に含む。いくつかの実施形態では、共通部分面積が重なり閾値と合致するか否かを評価するステップは、共通部分面積と少なくとも部分的に重なり合うROI候補の合併面積との比を計算するステップと、その比を重なり閾値と比較するステップとを含む。
[0008]いくつかの実施形態では、マーカー発現のヒートマップを計算するステップは、ローパスフィルタを複数の単一マーカーチャネル画像それぞれに適用するステップを含む。いくつかの実施形態では、方法は、組織試料の多チャネル画像を、複数の単一マーカーチャネル画像それぞれへと分離する(unmix)ステップを更に含む。いくつかの実施形態では、複数の単一マーカーチャネル画像は一連の連続した組織部分から導き出され、方法は、特定されたROI候補それぞれを共通座標系又は共通座標フレームワークに見当合わせする(register)ステップであって、共通座標系が単一マーカーチャネル画像のうち1つの座標系であることができるか、又は組織試料を一般的に保持するガラススライドに対して一般に定義される座標系であることができる、ステップを更に含む。いくつかの実施形態では、複数の単一マーカーチャネル画像はそれぞれ、非組織領域又は他の領域がマスキングされるように前処理される。いくつかの実施形態では、複数の単一マーカーチャネル画像の全てよりも少ない画像が、共存ROIを特定するために使用される。いくつかの実施形態では、方法は、複数の単一マーカーチャネル画像それぞれにおける少なくとも1つの特定された共存関心領域内の細胞を計数するステップを更に含む。
[0009]本開示の別の態様は、組織試料中の複数のマーカーを共発現解析するコンピュータシステムであって、システムは、1つ又は複数のプロセッサと少なくとも1つのメモリとを備え、少なくとも1つのメモリは、1つ又は複数のプロセッサによって実行され1つ又は複数のプロセッサに、複数の単一マーカーチャネル画像それぞれに関してマーカー発現のヒートマップを計算させ、複数の単一マーカーチャネル画像がそれぞれ(単一の染料、もしくは単一の染料からの信号に対応する)単一のマーカーを含み、マーカー発現の各ヒートマップにおける1つ又は複数の関心領域候補を特定させ、マーカー発現の各ヒートマップから、特定された1つ又は複数のROI候補を含むオーバーレイマスクを計算させ、オーバーレイマスクから、1つ又は複数の共存ROIを決定させ、特定された1つ又は複数の共存ROIを複数の単一マーカーチャネル画像それぞれへと転送させる非一時的コンピュータ可読命令を記憶する。いくつかの実施形態では、1つ又は複数のROI候補は、閾値をマーカー発現の各ヒートマップに適用することによって特定される。いくつかの実施形態では、特定された1つ又は複数のROI候補は、適用された閾値よりも低い値を有し、陰性マーカー発現領域に対応する。いくつかの実施形態では、特定された1つ又は複数のROI候補は、適用された閾値よりも高い値を有し、陽性マーカー発現領域に対応する。いくつかの実施形態では、1つ又は複数のROIは、局所極大フィルタをマーカー発現の各ヒートマップに適用し、所定数の最高位の局所極大を選択することによって特定される。いくつかの実施形態では、N×Nピクセルを有する視野(FOV)は、選択された所定数の最高位の局所極大それぞれの周りで定められ、N×NピクセルのFOVは、特定された1つ又は複数のROI候補として選択される。
[0010]いくつかの実施形態では、共存ROIは、異なるマーカーに対応する、1つ又は複数の少なくとも部分的に重なり合うROI候補を特定することによって決定される。いくつかの実施形態では、1つ又は複数の少なくとも部分的に重なり合うROI候補は、オーバーレイマスクを形態学的及び/又は論理的に処理することによって決定される。いくつかの実施形態では、システムは、1つ又は複数の少なくとも部分的に重なり合うROI候補それぞれの共通部分面積が、重なり閾値と合致するか否かを評価する命令を実行する。いくつかの実施形態では、共通部分面積が重なり閾値と合致するか否かの評価は、共通部分面積と少なくとも部分的に重なり合うROI候補の合併面積との比を計算することと、計算された比を重なり閾値と比較することとを含む。
[0011]いくつかの実施形態では、マーカー発現のヒートマップは、ローパスフィルタを複数の単一マーカーチャネル画像それぞれに適用することによって計算される。いくつかの実施形態では、複数の単一マーカーチャネル画像は、組織試料から導き出された多チャネル画像を分離することによって導き出される。いくつかの実施形態では、複数の単一マーカーチャネル画像は、一連の連続した組織部分から導き出され、特定されたROI候補はそれぞれ、共通座標系又は共通座標フレームワークに見当合わせされる。いくつかの実施形態では、複数の単一マーカーチャネル画像は、非組織領域又は他の領域がマスキングされるように前処理される。いくつかの実施形態では、特定された共存ROIはマーカーの全てよりも少ないマーカーに対応する。いくつかの実施形態では、コンピュータシステムは、複数の単一マーカーチャネル画像それぞれにおける少なくとも1つの特定された共存関心領域中の細胞を計数する命令を更に実行する。
[0012]本開示の別の態様は、組織試料中の複数のマーカーを共発現解析するコンピュータ実装方法であって、方法は、複数の単一マーカーチャネル画像それぞれに対してマーカー発現のヒートマップを計算するステップであって、複数の単一マーカーチャネル画像がそれぞれ単一のマーカーを含む、ステップと、マーカー発現の各ヒートマップにおける1つ又は複数の関心領域候補を特定するステップと、マーカー発現の各ヒートマップから、特定された1つ又は複数のROI候補を含むオーバーレイマスクを計算するステップと、オーバーレイマスクから、1つ又は複数の共存ROIを決定するステップと、1つ又は複数の共存ROIを、複数の単一マーカーチャネル画像それぞれにおける同じ座標位置にマッピングするステップと、複数の単一マーカーチャネル画像それぞれの決定された1つ又は複数の共存ROIのうち少なくとも1つにおける細胞の数を推定するステップとを含む。いくつかの実施形態では、1つ又は複数のROI候補を特定するステップは、閾値をマーカー発現の各ヒートマップに適用するステップを含む。いくつかの実施形態では、特定された1つ又は複数のROI候補は、適用された閾値よりも低い値を有し、陰性マーカー発現領域に対応する。いくつかの実施形態では、1つ又は複数のROI候補を特定するステップは、局所極大フィルタを各ヒートマップに適用するステップと、所定数の最高位の局所極大を選択するステップとを含む。
[0013]いくつかの実施形態では、1つ又は複数の共存ROIを決定するステップは、オーバーレイマスクにおける特定された1つ又は複数のROI候補を形態学的及び/又は論理的に処理するステップを含む。
[0014]いくつかの実施形態では、形態学的及び/又は論理的に処理するステップは、互いに少なくとも部分的に重なり合う2つ以上の異なるマーカーに対応するROI候補を特定する。いくつかの実施形態では、方法は、少なくとも部分的に重なり合うROI候補の共通部分面積が重なり閾値と合致するか否かを評価するステップを更に含む。いくつかの実施形態では、共通部分面積が重なり閾値と合致するか否かを評価するステップは、共通部分面積と少なくとも部分的に重なり合うROI候補の合併面積との比を計算するステップと、その比を重なり閾値と比較するステップとを含む。このように、いくつかの実施形態によれば、ROI候補のうち2つ以上の共通部分面積は、単一マーカーチャネル画像それぞれにマッピングされ、それによって前記画像それぞれにおける共存ROIが特定される。いくつかの実施形態では、特定された1つ又は複数のROI候補の少なくともいくつかは、固定のN×Nピクセルサイズを有する視野である。いくつかの実施形態では、複数の単一マーカーチャネル画像はそれぞれ、多重化組織試料からの単一画像を分離することによって導き出される。いくつかの実施形態では、複数の単一マーカーチャネル画像はそれぞれ、一連の連続した組織部分から導き出され、連続した組織部分はそれぞれ単一のマーカーで染色される。いくつかの実施形態では、方法は、特定されたROI候補それぞれを共通座標系に見当合わせするステップを更に含む。いくつかの実施形態では、1つ又は複数の共存ROIは、陰性発現マーカーに対する制約を含む。いくつかの実施形態では、1つ又は複数の共存ROIは3つ以上のマーカーを共発現する。いくつかの実施形態では、複数の単一マーカーチャネル画像は、非組織領域がマスキングされるように前処理される。
[0015]本開示の別の態様は、組織試料中の複数のマーカーを共発現解析するコンピュータシステムであって、コンピュータシステムは、1つ又は複数のプロセッサと少なくとも1つのメモリとを備え、少なくとも1つのメモリは、1つ又は複数のプロセッサによって実行され1つ又は複数のプロセッサに、複数の単一マーカーチャネル画像それぞれに対してマーカー発現のヒートマップを計算させ、複数の単一マーカーチャネル画像がそれぞれ単一のマーカーを含み、マーカー発現の各ヒートマップにおける1つ又は複数の関心領域候補を特定させ、マーカー発現の各ヒートマップから、特定された1つ又は複数のROI候補を含むオーバーレイマスクを計算させ、オーバーレイマスクから、1つ又は複数の共存ROIを決定させ、1つ又は複数の共存ROIを、複数の単一マーカーチャネル画像それぞれにおける共通座標系の同じ位置にマッピングさせ、複数の単一マーカーチャネル画像それぞれの決定された1つ又は複数の共存ROIにおける少なくとも1つの細胞の数を推定させる非一時的コンピュータ可読命令を記憶する。いくつかの実施形態では、1つ又は複数の共存ROIは、オーバーレイマスクにおける特定された1つ又は複数のROI候補を形態学的及び/又は論理的に処理することによって決定される。いくつかの実施形態では、1つ又は複数のROI候補は、閾値を各ヒートマップに適用することによって特定される。いくつかの実施形態では、特定された1つ又は複数のROI候補は、適用された閾値よりも低い値を有し、陰性マーカー発現領域に対応する。いくつかの実施形態では、1つ又は複数のROI候補は、局所極大フィルタを各ヒートマップに適用し、所定数の最高位の局所極大を選択することによって特定される。いくつかの実施形態では、特定された1つ又は複数のROI候補は共通座標系に見当合わせされる。
[0016]本開示の別の態様は、組織試料中の複数のマーカーを共発現解析するコンピュータシステムであって、コンピュータシステムは、1つ又は複数のプロセッサ及び少なくとも1つのメモリを備え、少なくとも1つのメモリは、1つ又は複数のプロセッサによって実行され1つ又は複数のプロセッサに、(i)ヒートマップ計算モジュールで、複数の単一マーカーチャネル画像それぞれに対してマーカー発現のヒートマップを生成する命令を実行させ、(ii)関心領域特定モジュールで、マーカー発現のヒートマップそれぞれにおける関心領域候補を特定する命令を実行させ、(iii)共存モジュールで、特定された関心領域候補に基づいて、共存関心領域を決定する命令を実行させる非一時的コンピュータ可読命令を記憶する。いくつかの実施形態では、決定された共存関心領域それぞれの位置を、複数の単一マーカーチャネル画像それぞれにマッピングする命令が提供される。いくつかの実施形態では、複数の単一マーカーチャネル画像それぞれにおける少なくとも1つの共存関心領域内の細胞を計数する命令が提供される。
[0017]本開示の別の態様は、組織試料中の複数のマーカーを共発現解析するコンピュータ実装方法であって、方法は、複数の単一マーカーチャネル画像それぞれに対して組織領域マスク画像を生成するステップであって、複数の単一マーカーチャネル画像がそれぞれ単一のマーカーを含む、ステップと、各組織領域マスク画像に対してマーカー発現のヒートマップを計算するステップと、マーカー発現の各ヒートマップにおける1つ又は複数の関心領域(ROI)候補を特定するステップと、マーカー発現の各ヒートマップから、特定された1つ又は複数のROI候補を含むオーバーレイマスクを計算するステップと、オーバーレイマスクから、1つ又は複数の共存ROIを決定するステップと、1つ又は複数の共存ROIを複数の単一マーカーチャネル画像それぞれにマッピングするステップと、任意選択で、複数の単一マーカーチャネル画像それぞれの1つ又は複数の共存ROIそれぞれにおける細胞の数を計数するステップとを含む。
[0018]本開示の別の態様では、組織試料中の複数のマーカーを共発現解析するコンピュータシステムは、1つ又は複数のプロセッサと少なくとも1つのメモリとを備え、少なくとも1つのメモリは、1つ又は複数のプロセッサによって実行され1つ又は複数のプロセッサに、複数の単一マーカーチャネル画像それぞれに対して組織領域マスク画像を生成させ、複数の単一マーカーチャネル画像はそれぞれ単一のマーカーを含み、各組織領域マスク画像に対してマーカー発現のヒートマップを計算させ、マーカー発現の各ヒートマップにおける1つ又は複数の関心領域候補を特定させ、マーカー発現の各ヒートマップから、特定された1つ又は複数のROI候補を含むオーバーレイマスクを計算させ、オーバーレイマスクから、1つ又は複数の共存ROIを決定させ、1つ又は複数の共存ROIを複数の単一マーカーチャネル画像それぞれにマッピングさせ、任意選択で、複数の単一マーカーチャネル画像それぞれの1つ又は複数の共存ROIそれぞれにおける細胞の数を計数させる非一時的コンピュータ可読命令を記憶する。
[0019]本発明の更に別の態様は、標本アナライザであって、標本アナライザは、1つ又は複数のプロセッサ及び少なくとも1つのメモリを備える、組織試料中の複数のマーカーを共発現解析するコンピュータシステムであって、少なくとも1つのメモリが、1つ又は複数のプロセッサによって実行され1つ又は複数のプロセッサに、複数の単一マーカーチャネル画像それぞれに対してマーカー発現のヒートマップを計算させ、複数の単一マーカーチャネル画像はそれぞれ単一のマーカーを含み、マーカー発現の各ヒートマップにおける1つ又は複数の関心領域候補を特定させ、マーカー発現の各ヒートマップから、特定された1つ又は複数のROI候補を含むオーバーレイマスクを計算させ、オーバーレイマスクから、1つ又は複数の共存ROIを決定させ、特定された1つ又は複数の共存ROIを複数の単一マーカーチャネル画像それぞれへと転送させる非一時的コンピュータ可読命令を記憶する、コンピュータシステムと、画像獲得システムとを備える。
[0020]出願人らは、複数のマーカーを共発現解析する、共存関心領域を特定するプロセスであって、従来技術の主観的方法よりも優れたプロセスを開発してきた。実際に、出願人らは、再現可能な客観的結果を有利に提供し、人間の主観によって影響されない、プロセスを開発してきた。出願人らは、開示の方法により、共発現解析及び/又は免疫スコア計算のための、より精密で効率的なワークフローが可能になると確信している。
[0021]非限定的で非網羅的な実施形態について、以下の図面を参照して記載する。同じ参照番号は、特段の指定がない限り、様々な図面全体を通して、類似の部分又は作用を指す。
[0022]図1Aは、共発現解析用の組織試料のデジタル画像を処理するコンピュータシステムを示す図である。[0023]図1Bは、共発現解析用のデジタル画像の処理で使用されるモジュールを概説するフローチャートである。 [0024]共存関心領域を特定する一実施形態を示す図である。 [0025]共存関心領域を特定し、いくつかの実施形態では、それらの特定された共存関心領域内の細胞を計数する、本開示の1つの方法におけるステップを概説するフローチャートである。 [0026]組織領域マスクを生成するステップを説明する図である。 [0027]マーカー発現のヒートマップを生成するステップを概説するフローチャートである。 [0028]関心領域候補を特定するステップを概説するフローチャートである。 [0029]マーカー発現のヒートマップを示し、関心領域候補を示す図である。 [0030]マーカー発現のヒートマップを示し、N×Nピクセル面積としての関心領域候補を示し、N×Nピクセル面積が計算された局所極大を含む図である。 [0031]画像見当合わせの1つの方法に関するステップを概説するフローチャートである。 [0032]共存関心領域を決定するステップを概説するフローチャートである。 [0033]2つの重畳されたオーバーレイマスクを示し、各オーバーレイマスクが1つの関心領域候補を示し、各オーバーレイマスクが1つのマーカーに対応する図である。 [0034]第1及び第2のマーカーに対するオーバーレイマスクであって、それらのオーバーレイマスクの重畳が異なるマーカーからの重なり合う関心領域候補を示す、オーバーレイマスクと、可能な共存関心領域とを示す図である。 [0035]第1及び第2のマーカーに対するオーバーレイマスクと、陰性発現マーカーの関心領域であって、それらのオーバーレイマスクの重畳が、陰性発現マーカーを含む異なるマーカーからの重なり合う関心領域候補を示す、関心領域と、可能な共存関心領域とを示す図である。 [0036]共存関心領域を決定し、それらの決定された共存関心領域を高解像度画像へと転送する、代替方法を概説するフローチャートである。 [0037]円が、CD3及びFoxP3の両方が高発現を有する「ホットスポット」を表し、正方形が、CD8及びFoxP3の両方が高発現を有する「ホットスポット」を表し、CD3、CD8、及びFoxP3が、免疫細胞を特定し特性付けるマーカーの例である、異なるマーカーのいくつかの共存視野を示す図である。
[0038]本開示は、多重アッセイにおいて共存関心領域(ROI)を自動で特定するシステム及び方法を提供する。1つ又は複数の実施形態の詳細な説明を本明細書にて提供する。しかしながら、本開示によるシステム及び方法は、様々な形態で具体化されてもよいことが理解されるべきである。したがって、本明細書に開示する特定の詳細は、限定として解釈されるべきではなく、それよりもむしろ、特許請求の範囲に対する、また本発明のシステム及び方法を任意の適切な形で採用するように当業者に教示する、代表的な基盤として解釈されるべきである。
[0039]本明細書に記載する、共発現解析のためのコンピュータシステム及びコンピュータ実装方法は、細胞画像又は生体標本画像(例えば、生検処置による組織標本)の任意のタイプの画像に適用可能であり、任意のタイプの細胞又は細胞群の種類、密度、及び場所を決定するのに有用である。
[0040]「comprising(備える、含む)」、「including(含む)」、「having(有する)」などの用語は、交換可能に使用され、同じ意味を有する。同様に、「comprises(備える、含む)」、「includes(含む)」、「has(有する)」などは、交換可能に使用され、同じ意味を有する。具体的には、これらの用語はそれぞれ、共通する米国特許法における「comprising(備える、含む)」の定義と一致して定義され、したがって、「少なくとも以下のもの」を意味する非限定用語として解釈され、また、追加の特徴、限定、態様などを除外するものとは解釈されない。したがって、例えば、「構成要素a、b、及びcを有するデバイス」は、デバイスが、少なくとも構成要素a、b、及びcを含むことを意味する。同様に、「ステップa、b、及びcを伴う方法」という語句は、方法が、少なくともステップa、b、及びcを含むことを意味する。更に、ステップ及びプロセスは、本明細書では特定の順序で概説されることがあるが、当業者であれば、順序立ったステップ及びプロセスは変動してもよいことを認識するであろう。
[0041]「マーカー」又は「生物マーカー」という用語は、本発明の文脈で使用するとき、核酸並びにポリペプチド分子を指す。したがって、マーカーは、RNA(mRNA、hnRNAなど)、DNA(cDNA、ゲノムDNAなど)、タンパク質、ポリペプチド、プロテオグリカン、糖たんぱく質、及びこれらの分子それぞれの断片を含む。マーカーは、何らかの生物学的状況又は状態の測定可能なインジケータである。実施形態によれば、使用されたマーカーの1つ又は複数は、例えば、Bリンパ球、Tリンパ球、マクロファージ、又はBリンパ球、Tリンパ球、マクロファージ、もしくは免疫系の他の細胞の特定の亜集団など、特定の種類の免疫細胞を示す生物マーカーである。
[0042]「多チャネル画像」は、本明細書で理解されるとき、核及び組織構造などの異なる生物構造が、それぞれ光を減衰するか、蛍光を発するか、又は別の方法で、異なるスペクトル帯で検出可能であることにより、多チャネル画像のチャネルの1つを構成する、特定の蛍光色素、量子ドット、クロモゲンなどで同時に染色された、生物組織試料から得られるデジタル画像を包含する。
[0043]「組織試料」は、本明細書で理解されるとき、解剖病理学のためにヒト又は動物の体から得られる、任意の生物試料である。例えば、組織試料は、胸部組織、肺組織、前立腺組織などから導き出されてもよく、腫瘍、腫瘍の疑いがあるもの、又は健康な組織から導き出される試料を含んでもよい。組織試料及び標本の他の例は、本明細書に開示されるそれらの組織標品である。
[0044]「分離された画像」は、本明細書で理解されるとき、多チャネル画像の1つのチャネルに対して得られるグレー値又はスカラー画像を包含する。多チャネル画像を分離することによって、1チャネル当たり1つの分離された画像が得られる。一般的に、かかる分離された画像チャネルは、1つの生物マーカーの局在及び強度を表し、したがって、局所的な生物学的状況又は状態を表す。
[0045]「マスク」又は「画像マスク」は、本明細書で使用するとき、マスクの各ピクセルが二値として、例えば、「1」もしくは「0」(又は「真」もしくは「偽」)として表される、デジタル画像の派生物である。デジタル画像を前記マスクと重ね合わせることによって、二値のうち特定の1つのマスクピクセルに対してマッピングされた、デジタル画像の全ピクセルが隠されるか、除去されるか、又は別の方法で、デジタル画像に対して適用される更なる処理ステップにおいて無視もしくはフィルタ除去される。例えば、マスクは、閾値を上回る強度値を有する元の画像の全ピクセルを真あるいは偽に割り当て、それによって、「偽」マスクピクセルが重ね合わされた全ピクセルをフィルタ除去するマスクを作成することによって、元のデジタル画像から生成することができる。
[0046]本発明の実施形態による「視野」(FOV)は、デジタル画像における隣接したピクセルのセットである。FOVは、例えば、マスキング、フィルタ処理、及び/又はオブジェクト検出など、何らかの画像解析タスクに選択的に使用されてもよい。実施形態によれば、画像の各FOVは、N×Nピクセルを有し、マーカー特異的な画像もしくはそのヒートマップの選択された所定数の最高位の局所極大のそれぞれ1つの周りで定められる。
[0047]本発明の実施形態による「関心領域」候補又は「ROI」候補は、例えば、1つ又は複数の共通する画像面積を特定する入力として使用される、デジタル画像又はそのヒートマップの隣接したピクセルのセットである。FOVは、一般的に、視認、獲得、又は表示される、コヒーレント画像領域である。したがって、必須ではないが多くの場合、円又は長方形である。関心領域は、一般的に、生物学的な状況又は状態によって定義される、組織のコヒーレント領域(デジタル画像のそれぞれの領域に対応)であり、その一例は、強い免疫反応がある腫瘍領域である。いくつかの実施形態によれば、N×NピクセルのFOVが、特定された1つ又は複数のROI候補として選択される。
[0048]前記共通部分面積に対応するデジタル画像又はヒートマップの画像面積は、「ROI」又は「共存領域」又は「共存ROI」と呼ばれる。
[0049]「座標系」は、本明細書で使用するとき、ユークリッド空間での点又は他の幾何学要素、例えばピクセルの位置を一意に決定する1つ又は複数の数、即ち座標を使用する系である。実施形態によれば、複数の画像の共通座標系は画像見当合わせプロセスによって生成される。それにより、2つ以上の画像又はヒートマップのピクセルは、共通座標系の座標に対して位置合わせされる。位置合わせは、例えば、組織試料の特定の参照要素から導き出されたピクセルが、互いに対してマッピングされ、互いに重なり合うようにして行われてもよい。
[0050]「ヒートマップ」は、本明細書で使用するとき、個々のピクセル値が色として表現される、データの図式的表現、例えばデジタル画像である。「マーカー発現のヒートマップ」は、例えば、マーカー発現の程度及びそれに対応するマーカー特異的な染料の密度が色符号化される、ヒートマップである。
[0051]「免疫スコア」は、本明細書で使用するとき、例えば腫瘍進行に関する予後因子として使用することができる、スコア値である。免疫スコアは、腫瘍に対する生物の免疫反応の様々な特徴を示してもよい。例えば、免疫スコアは、腫瘍又は腫瘍細胞クラスタ内もしくはその周囲における、特定のタイプの免疫細胞の数、種類、及び/又は場所に依存することがある。
[0052]共発現を解析するコンピュータベースのデバイスが、図1に示されている。当業者であれば、他のコンピュータデバイス又はシステムが利用されてもよく、本明細書に記載するコンピュータシステムは、追加構成要素、例えばアナライザ、スキャナもしくは撮像システム、自動スライド標品作成機器などに、通信可能に連結されてもよいことを理解するであろう。これらの追加構成要素の一部、及び利用されてもよい様々なコンピュータを、本明細書に更に記載する。
[0053]概して、撮像装置12は、非限定的に、1つ又は複数の画像キャプチャデバイスを含むことができる。画像キャプチャデバイスとしては、非限定的に、カメラ(例えば、アナログカメラ、デジタルカメラなど)、光学部品(例えば、1つ又は複数のレンズ、センサ焦点レンズ群、顕微鏡対物レンズなど)、撮像センサ(例えば、電荷結合素子(CCD)、相補形金属酸化膜半導体(CMOS)画像センサなど)、写真フィルムなどを挙げることができる。デジタルの実施形態では、画像キャプチャデバイスは、協働してオン・ザ・フライ・フォーカシングを検査する、複数のレンズを含むことができる。画像センサ、例えばCCDセンサは、標本のデジタル画像を捕捉することができる。いくつかの実施形態では、撮像装置12は、明視野撮像システム、多スペクトル撮像(MSI)システム、又は蛍光顕微鏡システムである。撮像システムについて、本明細書に更に記載する。
[0054]コンピュータデバイスシステム14は、デスクトップコンピュータ、ラップトップコンピュータ、タブレットなど、デジタル電子回路類、ファームウェア、ハードウェア、メモリ、コンピュータ記憶媒体、コンピュータプログラム、プロセッサ(プログラムドプロセッサを含む)、及び/又はその他のものを含むことができる。図1の図示されるコンピューティングシステム14は、画面又は表示デバイス16と、タワー18とを備えたコンピュータである。タワー18は、デジタル画像をバイナリ形式で記憶することができる。画像はまた、ピクセルの行列に分割することができる。ピクセルは、ビット深さによって定義される1つ又は複数のビットのデジタル値を含むことができる。ネットワーク20又は直接接続は、撮像装置12及びコンピュータシステム14を相互接続する。ネットワーク20は、非限定的に、1つ又は複数のゲートウェイ、ルータ、ブリッジ、それらの組み合わせなどを含んでもよい。ネットワーク20は、ユーザがアクセス可能であり、コンピュータシステム14が利用できる情報を送受信するために使用することができる、1つ又は複数のサーバ及び1つ又は複数のウェブサイトを含んでもよい。サーバは、非限定的に、情報(例えば、デジタル画像、アルゴリズム、染色プロトコル、比較評価のためのカットオフ値など)を記憶する1つ又は複数の関連付けられたデータベースを含んでもよい。ネットワーク20は、伝送制御プロトコル(TCP)、ユーザデータグラムプロトコル(UDP)、インターネットプロトコル(IP)、及び他のデータプロトコルを使用するデータネットワークを含むことができるが、それらに限定されない。いくつかの実施形態では、コンピュータデバイス又はシステムは、ユーザ、オペレータ、又は下流の機器もしくはプロセスにデータ/出力を提供する、表示出力又は他の手段を更に備える。
[0055]図1Bを参照すると、コンピュータデバイスもしくはシステム114(又はコンピュータ実装方法)は、1つ又は複数のプロセッサと少なくとも1つのメモリとを備え、少なくとも1つのメモリは、1つ又は複数のプロセッサによって実行される非一時的コンピュータ可読命令を記憶して、1つ又は複数のプロセッサに命令を実行させて、入力画像110を受信し、(マーカー発現のヒートマップを生成する)ヒートマップ計算モジュール111を稼働し、(1つ又は複数のROI候補を特定する)ROI特定モジュール112を稼働し、(1つ又は複数の共存ROIを特定する)共存モジュール113を稼働し、(複数の単一マーカーチャネル画像の少なくともいくつかにおいて少なくとも1つの共存ROIで各マーカーを発現する細胞の推定値を返す)細胞計数モジュール114を稼働する。これらのモジュールそれぞれについて、本明細書に更に詳細に記載する。追加のモジュール、例えば分離モジュール、組織領域マスキングモジュール、及び画像見当合わせモジュールが、いくつかの実施形態ではワークフローに組み込まれてもよい。当業者であれば、各モジュール内で使用するように記載される命令、アルゴリズム、及びフィルタのいずれかが、検出されるマーカーに基づいて適合又は変更されてもよいことを認識するであろう。
[0056]図2Aは、共発現解析の方法の概要を提供する。図2Aでは、変数「N」は、組織試料に適用されるマーカーの数を表す。多重スライド121の場合、本明細書に記載の方法などによって、分離122が行われ、各マーカーに関する画像123(即ち、複数の単一マーカーチャネル画像)が得られる。別の方法では、複数の単一マーカーチャネル画像124(連続した組織部分から導き出される)は、入力として利用される。いずれの場合も、マーカー発現のヒートマップが複数の単一マーカーチャネル画像それぞれに対して生成され、各マーカーに対する1つ又は複数のROI候補は、マーカー発現のヒートマップを評価することによって特定されてもよい。次に、共存モジュール127を使用して、様々な選択されたマーカーを共発現するそれらの共存ROI 128が決定され、本明細書に記載するように、共存ROI 128は、コンピュータシステム又は訓練を受けた医療専門家による更に下流の処理(例えば、細胞の計数)のため、複数の単一マーカーチャネル画像へと転送して返されて(例えば、逆マッピングされて)もよい。
[0057]図2Bは、複数の単一マーカーチャネル画像における共存関心領域を決定するステップを概説するフローチャートを提供する。いくつかの実施形態では、方法は、分離された多重スライド(「多重スライド」)から、又は連続した組織部分から導き出された単一の染色スライド(「単一スライド」)から、複数の単一マーカーチャネル画像それぞれを読み取るステップ(ステップ220)で始まる。いくつかの実施形態では、組織領域マスキングモジュールは、複数の単一マーカーチャネル画像の一部(非組織領域に対応する部分など)をマスキングするために使用されてもよい。このように、画像マスクを生成し、単一マーカー画像の1つ又は複数にマスクを適用することによって、例えば染色のアーチファクトもしくはノイズにより、対象ではない領域又は低品質データを含むことが疑われる領域を、マスキングして除外し、更なる処理ステップから排除することができる。次に、マーカー発現のヒートマップは、ローパスフィルタを複数の単一マーカーチャネル画像それぞれに(又はそのマスキングされていない部分に)適用することによって、複数の単一マーカーチャネル画像それぞれに対応して生成されてもよい(ステップ221)。
[0058]ローパスフィルタは、例えば、単一マーカーチャネル画像を平滑化するフィルタであり、それによって各ピクセル値を、各ピクセル周りの局所的な近傍におけるピクセル値を平均化するか又は別の方法で代表するピクセル値と置き換える。ローパスフィルタを使用して、ヒートマップに存在する生物マーカーの1つ又は複数の全体的極値(global extrema)を決定することができる。同様に、帯域フィルタを使用して、ヒートマップに存在する生物マーカーの1つ又は複数の局所的極値を決定することができ、局所極小又は極大はそれぞれ、それらの近傍にある領域よりも生物マーカーが多く又は少なく存在する領域を特定する。
[0059]続いて、ROI候補は、(i)閾値をマーカー発現のヒートマップに適用するか、又は(ii)局所極大フィルタをマーカー発現のヒートマップに適用し、所定数の最高位の局所極大を選択することによって、特定されてもよい(ステップ222)。例えば、各ヒートマップ(それぞれのマーカー画像から導き出されたもの)におけるピクセルの強度は、組織試料中のそれぞれの点におけるマーカー発現の強度と相関し、それを示してもよい。閾値の適用は、例えば、それぞれのマーカー画像の各ヒートマップにおける各ピクセルの強度値を、ピクセル強度閾値と比較することを含んでもよい。ピクセル強度閾値は、マーカー特異的及び/又はアッセイ特異的であってもよい。閾値は、例えば、特定の既知のタイプの免疫細胞を含む試料における発現レベルと、それに対応する染色及びピクセル強度とを解析することによって、経験的に決定されてもよい。
[0060]複数の単一マーカーチャネル画像が一連の連続した組織部分から導き出される実施形態では、特定されたROI候補は、オーバーレイマスクの生成(ステップ223)の前又は後に、共通座標系に見当合わせされる(ステップ224)。ROI候補の特定に続いて、オーバーレイマスクがマーカー発現の各ヒートマップに対して計算されるが(ステップ223)、各オーバーレイマスクは、マーカー発現のヒートマップのうち1つに対応し、マーカー発現のヒートマップから特定された1つ又は複数のROI候補を含む。オーバーレイマスクは互いに重畳され、1つ又は複数の共存ROIが特定される(ステップ225)。共存ROIは、例えば、ROI候補それぞれの共通部分面積として決定することができ、共通部分面積は、オーバーレイマスク又はそれぞれのマーカー特異的なヒートマップそれぞれに対して逆マッピングされる。次に、計算された共存関心領域の位置が、複数の単一マーカーチャネル画像それぞれへと転送されて返される(ステップ226)。いくつかの実施形態では、次に、マーカーのそれぞれを発現する細胞が、単一マーカーチャネル画像の少なくともいくつかにおける共存ROIの少なくともいくつかで、計数又は推定される(ステップ227)。
[0061]図2A及び2Bで特定したモジュール及びステップそれぞれについて、本明細書で更に詳細に記載する。
[0062]入力画像
[0063]最初のステップとして、コンピュータシステムは、複数の単一マーカーチャネル画像を入力として受信するが(ステップ220)、提供される複数の単一マーカーチャネル画像はそれぞれ、単一マーカーに対応する信号(例えば、クロモゲン、蛍光体、量子ドットなどを含む、染料又はタグからの信号)を含む。いくつかの実施形態では、複数の単一マーカーチャネル画像は、非組織領域がマスキングされるように、即ち組織領域のみが示されるように前処理される。入力として受信した(ステップ220)複数の単一マーカーチャネルは、複数の単一マーカーチャネル画像それぞれに対してマーカー発現のヒートマップが生成されるように(ステップ221)、ヒートマップ計算モジュール111に提供される。
[0064]複数の単一マーカーチャネル画像は、(i)2つ以上のマーカーで染色された、多重アッセイからの組織試料の多チャネル画像(「多重画像」)、(ii)一連の画像における各画像が単一のマーカーで染色された、連続した組織部分から得た一連の画像(「単一画像」)、又は(iii)多重画像と単一画像の組み合わせを含めて、いくつかのソースから導き出されてもよい。単一画像とは異なり、多重画像は、複数の単一マーカーチャネル画像へと分離しなければならない。しかしながら、いくつかの実施形態では、各画像のマーカーに対応する信号を対比染色に対応する信号から分離するように、単一画像もそれぞれ分離されてもよい。
[0065]分離の方法は、当業者には周知であり、現在知られている、又は今後発見される任意の方法が、多重画像を複数の単一マーカーチャネル画像へと「分離」するために使用されてもよい。概して、分離プロセスは、標準的なタイプの組織と染料の組み合わせに対して周知である参照スペクトルを使用して、染料特異的なチャネルを抽出して、個々の染料の局所的濃度を決定する。それぞれの単一マーカーチャネル画像のピクセル強度は、組織試料中の対応する場所において前記マーカーに特異的に結合する染料の量と相関する。結合染料の量は前記マーカーの量とも相関し、したがって、前記組織部分の場所における前記マーカーの発現レベルと相関する。「分離」及び「カラーデコンボリューション(color deconvolution)」(もしくは「デコンボリューション」)又はその他(例えば、「デコンボリューションする」、「分離された」)の用語は、交換可能に使用される。
[0066]いくつかの実施形態では、多重画像は、線形的分離を使用して分離される。
線形的分離は、例えば、「Zimmermann、「Spectral Imaging and Linear Unmixing in Light Microscopy(光学顕微鏡でのスペクトル撮像及び線形分離)」、Adv Biochem Engin/Biotechnol (2005) 95:245-265」に記載されており、その開示の全体を参照により本明細書に組み込む。線形的分離では、ピクセルは、測定されたスペクトル(S(λ))が個々の蛍光体又は明視野クロモゲン参照スペクトル(R(λ))それぞれの比率もしくは重量(A)に等しいとき、線形的に混合されるものとして分類される。
[0067]S(λ)=A1・R1(λ)+A2・R2(λ)+A3・R3(λ)・・・Ai・Ri(λ)
[0068]これを次式のようにより一般化して表すことができる。
[0069]S(λ)=ΣAi・Ri(λ)又はS=A・R
[0070]これらの式では、各ピクセルの信号(S)は多重画像を獲得している間に測定され、また既知の染料に対する参照スペクトルは、通常、同一の機器設定を使用して、単一の信号のみで標識付けされた標本において独立して決定される。それにより、測定されたスペクトルの各点に対する寄与を計算することによって、様々な染料の寄与(Ai)を決定する、単純な線形代数行列問題となる。いくつかの実施形態では、解は、次の一連の微分方程式を適用することによって、測定されたスペクトルと計算されたスペクトルとの間の二乗差を最小限にする、逆最小二乗法を使用して得られる。
[0071][δΣj{S(λj)-Σi Ai・Ri(λj)}2]/δAi=0
[0072]この式において、jは、検出チャネルの数を表し、iは染料の数に等しい。一次方程式解は、多くの場合、制約された分離が、サム・トゥ・ユニティ(sum to unity)に対する重み(A)によって、データの閾値化を用いてピクセルを区分できるようにすることを伴う。
[0073]他の実施形態では、分離は、2014年5月28日出願のWO2014/195193、発明の名称「Image Adaptive Physiologically Plausible Color Separation(生理学的に妥当な画像適応色分離)」に記載されている方法を使用して実施され、その開示の全体を参照により本明細書に組み込む。概して、WO2014/195193は、反復して最適化される参照ベクトルを使用して入力画像の成分信号を分離することによる、分離の方法を記載している。いくつかの実施形態では、アッセイからの画像データは、アッセイの特性に対して特異的な予測される結果又は理想的な結果と相関されて、品質メトリックが決定される。理想的な結果に対して画像が低品質であるか、又は相関の程度が低い場合、1つ又は複数の参照ベクトルが調節され、生理学的及び解剖学的要件と一致する良好な品質の画像が相関によって示されるまで、調節された参照ベクトルを使用して、分離が反復して繰り返される。解剖学的情報、生理学的情報、及びアッセイ情報は、品質メトリックを決定するのに測定された画像データに適用される、規則を定義するために使用されてもよい。この情報としては、組織がどのように染色されたか、組織内のどの構造を染色すること/染色しないことが意図されたか、並びに処理されているアッセイに特異的な構造間、染料間、及びマーカー間の関係が挙げられる。反復プロセスは染料に特異的なベクトルをもたらし、これによって、対象の構造及び生物学的に関連する情報を正確に特定する画像であって、ノイズがあるかもしくは望ましくないスペクトルを何ら含まず、したがって解析に適している、画像を生成することができる。参照ベクトルは探索空間内にあるように調節される。探索空間は、参照ベクトルが染料を表すのに取ることができる値の範囲を定義する。探索空間は、既知の又は一般的に発生する問題を含む、様々な代表的なトレーニングアッセイをスキャンし、トレーニングアッセイのための高品質な一連の参照ベクトルを決定することによって、決定されてもよい。
[0074]他の実施形態では、分離は、2015年2月23日出願のWO2015/124772、発明の名称「Group Sparsity Model for Image Unmixing(画像分離のためのグループスパース性)」に記載されている方法を使用して実施され、その開示の全体を参照により本明細書に組み込む。概して、WO2015/124772は、複数のコロケーションマーカーによる染色の寄与の画分が「同じグループ」内でモデル化され、複数の非コロケーションマーカーによる染色の寄与の画分が異なるグループ内でモデル化されて、複数のコロケーションマーカーの共存情報をモデル化されたグループスパース性の枠組みに提供し、モデル化された枠組みにグループラッソ(group lasso)を使用して解を与えて、各グループ内でコロケーションマーカーの分離に対応する最小二乗解をもたらし、非コロケーションマーカーの分離に対応するグループ間でのスパース解をもたらす、グループスパース性の枠組みを使用した分離について記載している。更に、WO2015/124772は、生物組織試料から得られた画像データを入力し、複数の染料のそれぞれ1つの染料色を説明する参照データを電子メモリから読み取り、コロケーションデータが染料群を説明するものであり、各群が生物組織試料中で配列することができる染料を含み、各群がグループラッソ基準に対して群を形成し、群の少なくとも1つが2以上のサイズを有する、コロケーションデータを電子メモリから読み取り、参照データを参照行列として使用して、分離画像を得るためにグループラッソ基準の解を計算することによる、分離の方法について記載している。いくつかの実施形態では、画像を分離する方法は、共存マーカーによる染色寄与の画分が単一グループ内で割り当てられ、非共存マーカーによる染色寄与の画分が別個のグループ内で割り当てられる、グループスパース性モデルを生成することと、分離アルゴリズムを使用してグループスパース性モデルに解を与えて、各グループ内の最小二乗解をもたらすこととを含んでもよい。
[0075]いくつかの実施形態では、複数の単一マーカーチャネル画像は、組織領域のみが画像内に存在するようにマスキングされる。これらのマスクされた画像を生成するため、多重画像、分離された多重画像、又は一連の単一画像(それらのうちいずれも、全スライド又はその一部分のものであってもよい)が、組織領域マスキングモジュールに提供される。いくつかの実施形態では、非組織領域を組織領域からマスキングする組織領域マスクが生成される。当業者であれば、非組織領域を組織領域からマスキングすることに加えて、組織マスキングモジュールは、特定の組織タイプに属するもの、又は腫瘍が疑われる領域に属するものと特定された組織の一部分など、必要に応じて他の対象面積もマスキングしてもよいことを理解するであろう。
[0076]例えば、腫瘍領域は、ヘマトキシリン・エオジン(H&E)で染色されたスライドから、又はIHCマーカーで染色されたスライドから定義して、腫瘍細胞を特定することができ、腫瘍は、画像見当合わせを介して他のマーカースライドへと移行させることができる(以下を参照)。腫瘍領域の周囲は、組織領域内で腫瘍面積をxミリメートル拡大することによって定義することができる。複数のマーカーの共存解析は、このように、腫瘍領域内、腫瘍の周囲、又は組織試料の残りの部分で行うことができる。
[0077]いくつかの実施形態によれば、組織マスキングは、マーカー発現のヒートマップを生成した後に行われる。いくつかの実施形態によれば、初期段階で、例えばヒートマップが生成される前に、それぞれのチャネル画像に対して組織マスキングが行われる(即ち、マスクが適用される)。これには、解析に必要な組織が少なくなり、したがって、解析結果がより短時間で利用可能になるという利点があることがある。
[0078]いくつかの実施形態では、セグメント化技術を使用して、複数の単一マーカーチャネル画像において組織領域を非組織領域からマスキングすることによって、組織領域マスク画像が生成される。適切なセグメント化技術は、従来技術によって知られているようなものである(Digital Image Processing, Third Edition, Rafael C. Gonzalez, Richard E. Woods, chapter 10, page 689、及びHandbook of Medical Imaging, Processing and Analysis, Isaac N. Bankman Academic Press, 2000, chapter 2を参照)。
[0079]図3を参照すると、いくつかの実施形態では、組織領域マスク画像の生成は、低解像度入力単一マーカーチャネル画像(336)の輝度(337)を計算すること、単一マーカーチャネル画像から輝度画像(338)を作成すること、標準偏差フィルタを作成された輝度画像(339)に適用すること、作成された輝度画像からフィルタ処理された輝度画像(340)を計算すること、及び、所与の閾値を上回る輝度を有するピクセルが1に設定され、閾値を下回るピクセルが0に設定されるように、フィルタ処理された輝度画像(341)に閾値を適用し、組織領域マスク(342)を作成することといった、非限定的な動作の1つ又は複数を含む。組織領域マスクの生成に関する更なる情報及び例は、PCT/EP/2015/062015(WO/2015/181371)、発明の名称「An Image Processing Method and System for Analyzing A Multi-Channel Image Obtained From a Biological Tissue Sample Being Stained By Multiple Stains(複数の染料によって染色される生物組織試料から得られる多チャネル画像を解析するための画像処理方法及びシステム)」に開示されており、その開示の全体を参照により本明細書に組み込む。
[0080]マーカー発現のヒートマップ生成モジュール
[0081]複数の単一マーカーチャネル画像が入力として受信された後(ステップ220)、ヒートマップ生成モジュール111を使用して、複数の単一マーカーチャネル画像それぞれに対してマーカー発現のヒートマップが生成される(ステップ221)。生成されたマーカー発現のヒートマップから、マーカー発現のヒートマップ内の「ホットスポット」、即ちマーカーの密度又は濃度が高い領域を見つけることなどによって、1つ又は複数の関心領域候補が各マーカーに対して特定されてもよい(ステップ222)。
[0082]概して、マーカー発現のヒートマップは、組織領域マスク画像内における様々な構造又はマーカーの密度もしくは濃度を定める。より具体的には、マーカー発現のヒートマップは、ピクセルのそれぞれの強度値にしたがってピクセルを例示し、したがって、各画像におけるマーカー発現(例えば、特定のマーカー特異的な色素で染色された細胞)の密度又は量に対応する。単一チャネルマーカー画像からヒートマップを生成する、異なる方法が知られている。一例では、ヒートマップのピクセル値は、局所細胞密度を、即ち、各ピクセルの周りの範囲にある生物マーカーに対して陽性である細胞の数を表す。別の例では、ヒートマップのピクセル値は、マーカーに対して陽性であるこのピクセルの近傍にある細胞の平均マーカー強度を表す。
[0083]マーカー発現のヒートマップを生成するため、ヒートマップモジュール111は、ローパスフィルタを組織領域マスク画像それぞれに適用する(ステップ401)。ローパスフィルタの適用後、いくつかの実施形態では、ヒートマップ生成モジュール111は、疑似色をローパスフィルタ処理された画像に割り当てる(ステップ402)。例えば、低強度(低マーカー密度に対応する)領域は青色に割り当てられてもよく、より高強度(より高いマーカー密度に対応する)の領域は、黄色、オレンジ色、及び赤色に割り当てられてもよい。ヒートマップに対する色の割当ては任意であり、より高いマーカー密度又は濃度を有する領域の可視化を支援する。マーカー発現のヒートマップの生成は、PCT/EP/2015/062015(WO/2015/181371)、発明の名称「An Image Processing Method and System for Analyzing A Multi-Channel Image Obtained From a Biological Tissue Sample Being Stained By Multiple Stains(複数の染料によって染色される生物組織試料から得られる多チャネル画像を解析するための画像処理方法及びシステム)」で更に十分に考察されており、その開示の全体を参照により本明細書に組み込む。ヒートマップを生成し、画像見当合わせ及びROI特定を行う、更なる例は、PCT/EP2015/070100、発明の名称「SYSTEMS AND METHODS FOR GENERATING FIELDS OF VIEW(視野を生成するためのシステム及び方法)」、及びPCT/EP2015/062015(WO2015/181371)、発明の名称「AN IMAGE PROCESSING METHOD AND SYSTEM FOR ANALYZING A MULTI-CHANNEL IMAGE OBTAINED FROM A BIOLOGICAL TISSUE SAMPLE BEING STAINED BY MULTIPLE STAINS(複数の染料によって染色される生物組織試料から得られる多チャネル画像を解析するための画像処理方法及びシステム)」に記載されており、それらの開示の全体を参照により本明細書に組み込む。
[0084]関心領域特定モジュール
[0085]複数の単一マーカーチャネル画像それぞれに対応するマーカー発現のヒートマップを生成した後(ステップ221)、マーカー発現の各ヒートマップを使用して、組織試料中に存在する異なるマーカーに対応する1つ又は複数の関心領域候補が特定される(ステップ222)。特定された関心領域候補は、本明細書に記載され例示されるように、任意の形状又は固定の形状を有してもよい。
[0086]図5Aを参照すると、いくつかの実施形態では、既定の閾値がマーカー発現のヒートマップに適用され(ステップ520)、それによって関心領域候補が特定されてもよい(ステップ521)。図5Bは、任意の形状を有する関心領域候補501が特定される、マーカー発現のヒートマップの一例を示している。
[0087]陽性マーカー発現面積と、それとは別個の陰性マーカー発現面積の両方に対応するROI候補が、この技術によって特定されてもよい。
[0088]「陽性マーカー発現面積」は、本明細書で使用するとき、例えば、ピクセル強度がそれぞれのマーカー特異的な染料の密度と相関し、特定の閾値を上回る、デジタル画像内の面積である。したがって、「陽性マーカー発現面積」は、特定の生物マーカー(特定の細胞タイプ、例えば免疫細胞タイプの存在を示すものであってもよい)が、前記画像面積に対応する組織試料の特定の面積で発現することを示す、デジタル画像面積である。
[0089]「陰性マーカー発現面積」は、本明細書で使用するとき、例えば、ピクセル強度がそれぞれのマーカー特異的な染料の密度と相関し、特定の閾値を下回る、デジタル画像内の面積である。したがって、「陰性マーカー発現面積」は、特定の生物マーカー(特定の細胞タイプ、例えば免疫細胞タイプを示すものであってもよい)が、例えば、前記生物マーカーを一般的に発現する特定の(免疫)細胞タイプが存在しないために、前記画像面積に対応する組織試料の特定の面積では発現しないか、又は弱くしか発現しないことを示す、デジタル画像面積である。
[0090]例えば、特定の生物マーカー及びそれぞれの画像チャネルに対応するデジタル画像を強度閾値と比較することによって、前記デジタル画像内の陽性マーカー発現面積及び陰性マーカー発現面積を決定することができる。また、最初に陽性マーカー発現面積が決定され、次に、前記決定された陽性マーカー発現面積の逆として、陰性マーカー発現面積が特定されることも可能である。
[0091]陽性マーカー発現に対するROI候補は、ヒートマップ上で高い値を有するものと特定された関心領域を示し、即ち、マーカーに対して陽性である細胞の数が多いか、又はマーカーが高強度で細胞によって発現される組織面積を表す。
[0092]陰性マーカー発現に対するROI候補は、ヒートマップ上で低い値を有するものと特定された関心領域を示し、即ち、マーカーに対して陽性である細胞の数が少ないか、又はマーカーが細胞によって発現されないか、又は低強度で発現される組織面積を表す。
[0093]いくつかの実施形態では、関心領域候補は、適用される既定の閾値よりも高い値を有し、陰性マーカー発現面積に対応する(ステップ522)。いくつかの実施形態では、閾値は、画像内におけるピーク強度値の少なくとも約75%である。他の実施形態では、閾値は、画像内におけるピーク強度値の75%超過である。陽性マーカー発現によって、閾値化領域がマーカーの過剰発現に対して陽性であり、即ち、生物マーカーが、マーカー特異的な染料で染色されたとき、十分に高いピクセル強度値を誘導するのに十分な程度まで発現することを意味する。他の実施形態では、関心領域候補は、適用された既定の閾値よりも低い値を有し、陰性マーカー発現面積に対応する(ステップ523)。陰性マーカー発現によって、閾値化領域がマーカーの過剰発現に対して陰性であり、即ち、組織スライドの対応する部分において、生物マーカーが発現しないか又は弱くしか発現しないことを意味する。いくつかの実施形態では、閾値は、画像内におけるピーク強度値の約25%以下である。他の実施形態では、閾値は、画像内におけるピーク強度値の約25%未満である。
[0094]他の実施形態では、局所極大フィルタがヒートマップに適用されて、局所極大フィルタ処理された画像が提供される(ステップ524)。
[0095]局所極大フィルタは、外部境界ピクセルが全て特定の強度値よりも低い強度値を有する、隣接ピクセル領域を特定する機能である。概して、局所極大フィルタは、結果の各ピクセルが、最大フィルタの核の下方に位置するソース画像からの最大ピクセル値の値を保持するようにすることによって画像を作成する、形態学的に非線形のタイプのフィルタである。核は、任意の形状及びサイズの幾何学的マスクであるが、この目的に対しては、対象となる特徴と同程度の寸法を有するように構築される。核は、腫瘍腺管、又は局所免疫反応を決定することができる腫瘍細胞の他の特徴群の平均サイズを有する、ディスク形状であることができる。
[0096]局所極大フィルタは、画像に前記フィルタの核画像を重ね合わせること、核オーバーレイによって覆われた画像領域内の最大ピクセル強度を特定するため、核の幾何学情報を使用すること、並びに前記最大ピクセル強度を、局所極大フィルタの結果としての画像出力における前記画像領域の全ピクセルのピクセル強度として使用することを含んでもよい。例えば、核は、正方形形状を有し、マーカー特異的な画像の上を「スライド」してもよい3×3ピクセルのサイズを有するフレームであってもよい。それにより、各位置に対して、下にある9画像ピクセルの最小及び最大強度値が特定される。前記スライドする「フレーム」又は核の全ピクセルの強度が、(フィルタ特異的な)閾値強度値よりも高い場合、前記9ピクセルはそれぞれ、9ピクセルのいずれかに対して観察される最大強度値を割り当てられる。
[0097]局所極大フィルタからの出力画像は、その領域の最大ピクセル値(即ち、最大強度値を有するピクセル)に等しい一定値を有する、核のような形状の島を有する傾向になる。局所極大フィルタを適用して視野を特定することに関する追加の情報及び例は、PCT/EP/2015/062015(WO/2015/181371)、発明の名称「An Image Processing Method and System for Analyzing A Multi-Channel Image Obtained From A Biological Tissue Sample Being Stained By Multiple Stain(複数の染料によって染色される生物組織試料から得られる多チャネル画像を解析するための画像処理方法及びシステム)」に開示されており、その開示の全体を参照により本明細書に組み込む。
[0098]いくつかの実施形態では、局所極大フィルタ処理によって導き出される局所極大値はソートされ、所定数(「K」)の最高位の局所極大が、局所極大フィルタ処理された画像それぞれに対して選択される(ステップ525)。いくつかの実施形態では、返される所定数の局所極大は、マーカー特異的な画像チャネル又はそれぞれのヒートマップ当たり、約5~約25の範囲の局所極大である。他の実施形態では、返される所定数の局所極大は、約5~約15の範囲の局所極大である。更に他の実施形態では、返される所定数の局所極大は、約5~約10の範囲である。
[0099]いくつかの実施形態では、局所極大を取り囲む範囲が特定され、関心領域として使用される(ステップ526)。いくつかの実施形態では、N×Nピクセルのピクセルサイズを有する範囲が、所定数の最高位の局所極大それぞれの周りで定められ、それらN×Nピクセルの範囲(視野(FOV))は関心領域候補として選択される。いくつかの実施形態では、Nは約5ピクセルから約25ピクセルの範囲であってもよい。いくつかの実施形態では、N×Nピクセル範囲は15である。他の実施形態では、N×Nピクセル範囲は18である。更に他の実施形態では、N×Nピクセル範囲は20である。N×Nの範囲をそれぞれ有するマーカー発現のヒートマップからのFOV候補が、図6に示されている。いくつかの実施形態では、N×NのFOVは、特定された局所極大の中心の周りに位置する。図5aの文脈、及びFOVの文脈では、パラメータ「N」は、本発明の実施形態におけるFOVの1つの寸法に沿ったピクセルの数を表すが、例えば図2Aの文脈におけるパラメータ「N」では、「N」は組織試料に適用されるマーカーの数を表すことに留意されたい。当然ながら、一方におけるマーカーの数、及びFIV寸法に沿ったピクセルの数は、互いに依存せず、互いに異なっていてもよい。
[00100]ROI候補を特定した後(ステップ222)、オーバーレイマスクが生成され(ステップ223)、各オーバーレイマスクは、マーカー発現の各ヒートマップから特定された1つ又は複数のROI候補を含む。例えば、図9B及び9Cにおける第1及び第2の画像は、第1のマーカーに関連する第1の視野候補990に対するマスクと、第2のマーカーに関連する第2の視野候補991に対するマスクとを示している。各マスクは、図示されるように、1つのマーカーに関連する視野(又は関心領域)のみを示す。いくつかの実施形態では、オーバーレイマスクは、閾値を上回る画像ピクセルには1の値を、閾値を下回るピクセルには0の値を割り当てることによって生成される。いくつかの実施形態では、各マスクが異なる色又は陰影を割り当てられるので、異なるマスクが互いの上に重畳されると、潜在的な共存関心領域が可視化されるか又は別の方法で特定されてもよい。
[00101]オーバーレイマスクがマーカー発現の各ヒートマップに対して作成された後、オーバーレイマスクは互いの上に重畳されてもよい。例えば、図9Aは、2つの単一マーカーそれぞれに対する関心領域候補をそれぞれ提供する、2つのマスクの重畳を示している。当業者には理解されるように、様々なマスクの重畳によって、本明細書に記載するように、重なり合うROI候補の可視化が可能になり、最終的に、1つ又は複数の共存ROIの計算が可能になる。図9B及び9C両方の第3の画像も、特定のマーカーに対するFOV候補990、991をそれぞれ提供する、2つのマスクの重畳を示しており、異なるマーカーからのFOV候補間の重なり合い992が示されている。いくつかの実施形態では、オーバーレイマスクは、本明細書に記載するように、マーカー発現の各ヒートマップ又はオーバーレイマスクからのROI候補が共通座標系に位置合わせされた後で重畳される。
[00102]生成されたオーバーレイマスクは、共存ROIの特定で使用される。いくつかの実施形態では、マーカーの全てに関連する全てのROI候補が、共存ROIの特定のために選択され、したがって、全てのオーバーレイマスクが利用(重畳)される。他の実施形態では、特定のマーカーに対応するROI候補のみが、1つ又は複数の共存ROIの特定のために選択され、したがって、選択されたマーカーに対応するオーバーレイマスクのみが利用(重畳)される。例として、3つの異なる免疫組織化学(IHC)マーカーに対応して、3つの単一マーカーチャネル画像が入力として受信され、それらのIHCマーカーのうち2つのみに対して共発現解析が求められた場合、共存モジュールは、それら2つの選択されたIHCマーカーに対応するオーバーレイマスクのみを処理する。
[00103]インターマーカー見当合わせモジュール
[00104]いくつかの実施形態では、また選択された1つ又は複数のROI候補の特定に続いて、インターマーカー見当合わせモジュールを利用して、特定された関心領域候補それぞれが共通座標系に見当合わせされる(ステップ224)。インターマーカー見当合わせは、特定されたROI候補が、連続した組織部分の画像から、即ち一連の単一画像から導き出された場合、又は多重画像と単一画像の組み合わせが使用される場合にのみ求められる。当業者であれば、分離された画像それぞれにおける細胞及び構造は各画像中の同一位置にあるので、多重画像から導き出された複数の単一マーカーチャネル画像を見当合わせする必要はないことを認識するであろう。
[00105]インターマーカー見当合わせは、異なるデータセット、ここでは画像、又は画像内のマーカーを、1つの共通座標系へと変換するプロセスである。より具体的には、インターマーカー見当合わせは、2つ以上の画像を位置合わせするプロセスであり、概して、1つの画像を参照(参照画像もしくは固定画像とも呼ばれる)として指定し、参照と位置合わせされるように他の画像に幾何学的変換を適用することを伴う。幾何学的変換は、1つの画像における場所を別の画像における新しい場所にマッピングする。適切な幾何学的変換パラメータを決定するステップは、画像見当合わせプロセスのキーである。各画像の参照画像への変換を計算する方法は当業者には周知である。例えば、画像見当合わせアルゴリズムが、例えば、「11th International Symposium on Biomedical Imaging(ISBI), 2014 IEEE, April 29 2014-May 2 2014)に記載されており、その開示の全体を参照により本明細書に組み込む。画像見当合わせの詳細な方法について以下に概説する。
[00106]いくつかの実施形態では、インターマーカー見当合わせプロセス(ステップ224)は、1つ又は複数のROI候補を含む1つのヒートマップ又はヒートマップマスクを選択して、参照画像として役立つようにすることと、他のROI候補を含む他のヒートマップ又はヒートマップマスクそれぞれの、参照画像の座標系への変換を計算することとを含む。全ての画像は、画像見当合わせを使用して、同じ座標系に対して位置合わせされてもよい(例えば、特定のマーカーを含む連続した組織部分又はスライドの場合、参照座標は、組織ブロックの中央にあるスライド部分であることができる)。したがって、各画像は、その古い座標系から新しい参照座標系へと位置合わせされてもよい。ヒートマップを位置合わせする変換パラメータは、ヒートマップ画像、ヒートマップ画像を生成するために使用された単一チャネルマーカー画像、又は単一チャネルマーカー画像を生成するために使用されたキャプチャ組織画像を見当合わせすることによって決定することができる。これらの画像は全て、それらの見当合わせについて説明するとき、デジタル入力画像と呼ばれる。
[00107]インターマーカー見当合わせプロセスは、当該技術において周知であり、既知の方法のいずれかが本開示に適用されてもよい。いくつかの実施形態では、インターマーカー又は画像見当合わせは、2014年9月30日付けのWO/2015/049233、発明の名称「Line-Based Image Registration and Cross-Image Annotation Devices, Systems and Methods(ラインベースの画像見当合わせ及び画像間アノテーションデバイス、システム、及び方法)」に記載されている方法を使用して行われ、その開示の全体を参照により本明細書に組み込む。WO/2015/049233は、単独で、又は細かい見当合わせ(fine registration)プロセスと組み合わせて使用される、粗い見当合わせ(coarse registration)プロセスを含む見当合わせプロセスを記載している。いくつかの実施形態では、粗い見当合わせプロセスは、位置合わせのためのデジタル画像を選択し、選択されたデジタル画像それぞれから前景画像マスクを生成し、結果の前景画像間の組織構造を一致させることを伴ってもよい。
[00108]更なる実施形態では、前景画像マスクを生成することは、染色された組織部分のスライド画像全体から前景画像を生成し、OTSU閾値化を前景画像に適用して、バイナリ画像マスクを作成することを伴う。前景画像はグレースケール画像であってもよい。いくつかの実施形態では、前景画像及びそこから作られるバイナリ画像マスクはソフトに重み付けされ、即ち、連続強度値を備えたグレースケール画像である。他の更なる実施形態では、前景画像マスクを生成することは、バイナリ(任意選択でソフトに重み付けされた)画像マスクを染色された組織部分のスライド画像全体から生成し、勾配大きさ(gradient magnitude)画像マスクを同じスライド画像全体から別個に生成し、OTSU閾値化を勾配画像マスクに適用して、バイナリ勾配大きさ画像マスクを作成し、バイナリOR動作を使用してバイナリ(ソフトに重み付けされた)画像及びバイナリ勾配大きさ画像マスクを組み合わせて、前景画像マスクを生成することを伴う。当該分野で知られている前景画像マスク生成の他の方法が、代わりに適用されてもよい。
[00109]「勾配大きさ画像マスク」は、本明細書で使用するとき、例えば、そのサイズが所与の閾値を超過する、かつ/又はその方向が許容された方向の所与の範囲内にない、強度勾配に割り当てられている全てのピクセルを隠す(「マスキングする」)画像マスクである。このように、勾配大きさ画像マスクを適用することにより、強い強度コントラストを有する試料構造、例えばメンブレンなどの上に位置するピクセルを選択的に含んでもよい画像が返される。
[00110]「前景画像マスク」は、本明細書で使用するとき、例えば、組織試料に属さない全てのピクセルを隠す(「マスキングする」)画像マスクである。このように、前景画像マスクを適用することにより、非組織試料面積の(一般的にノイズがある)強度情報を含まない、「前景画像」が返される。
[00111]実施形態によれば、前景画像及び/又は前景画像マスクの計算は、WO2014140070に記載されているように行われ、その全体を参照により本明細書に含む。
[00112]いくつかの実施形態では、組織構造を一致させることは、結果の前景画像マスクそれぞれの境界から、ラインベースの特徴を計算することを伴う。これらのラインベースの特徴は、組織輪郭の局所セグメントを、それらの位置、曲率、方向、及び他の性質によって説明するために計算される。更に、第1の前景画像マスク上におけるライン特徴の第1のセットと、第2の前景画像マスク上におけるライン特徴の第2のセットとの間の全体的変換パラメータ(例えば、回転、拡大縮小、シフト)を計算することと、変換パラメータに基づいて、第1及び第2の画像を全体的に位置合わせすることとを含む。全体的変換パラメータは、回転、並進、及び拡大縮小を含んでもよく、第1の画像に適用されると、この第1の画像の組織が第2の画像の組織と重なり合う。
[00113]実施形態によれば、ラインベースの特徴はエッジに関連する特徴、例えばエッジマップである。エッジマップ及び全体的変換パラメータの計算は、例えば、全体が参照により含まれるWO2014140070に記載されている。
[00114]別の更なる実施形態では、粗い見当合わせプロセスは、全体的変換パラメータに基づいて選択されたデジタル画像を、選択されたデジタル画像を包含してもよい、共通座標系にマッピングすることを含む。いくつかの実施形態では、細かい見当合わせプロセスは、粗い見当合わせプロセスで既に位置合わせされている一連のデジタル画像における第1のデジタル画像の第1の部分領域を特定することと、位置合わせされた一連のデジタル画像における第2のデジタル画像の第2の部分領域を特定することであって、第2の部分領域は第1の部分領域よりも大きく、第1の部分領域は共通座標系(「グリッド」とも呼ばれる)上で第2の部分領域内に実質的に位置することと、第2の部分領域内における第1の部分領域の最適化された場所を計算することとを伴ってもよい。
[00115]これらの方法は、本明細書の図7に示されており、方法600は開始ブロック602で始まる。ブロック604で、操作のために画像データ又はデジタル画像のセットが獲得される(例えば、データベースからスキャンもしくは選択される)。画像データの各セットは、例えば、単一患者の一連の隣接組織部分からの組織部分に対応する、画像データを含む。ブロック606で、単一画像の対のみが選択された場合、プロセスはブロック610に直接移る。単一を超える対の画像が選択された場合、ブロック610に移る前にブロック608で、選択画像セットはグループ化されて対にされる。いくつかの実施形態では、画像対は隣接した対として選択される。それにより、例えば、選択画像セットが10個の平行な隣接したスライス(L1…L10)を含む場合、L1及びL2は対としてグループ化され、L3及びL4は対としてグループ化され、その後も同様である。他方で、どの画像対が互いに最も類似しているかに関して情報が利用可能でない場合、いくつかの実施形態では、画像は、これらの画像の前景画像マスク及び勾配大きさ画像マスクの類似性にしたがってグループ化されて、互いに最も近い画像が対にされる。本発明の例示的な実施形態では、エッジ間/画像間距離が画像の対に利用される。いくつかの実施形態では、エッジベースの面取り部距離が、前景画像マスク又は勾配大きさ画像マスクの類似性を計算するために使用されてもよい。画像の対が、画像が粗く位置合わせされ結果が保存される粗い見当合わせプロセスを経ている場合、プロセスはブロック614に進む。別の方法では、ブロック612で、段落0107及びその後の段落に記載されているように、粗い見当合わせプロセスが選択された画像対に対して行われる。
[00116]画像のうち2つ以上は、例えば、WO2014140070に記載されているように、粗い見当合わせプロセスで位置合わせされる。
[00117]ブロック614に移って、選択され今度は見当合わせされる(位置合わせされる)画像は、単一のモニタ上で、又はいくつかのモニタにわたって拡散されて、共通座標系に表示され、画像が単一画像で重ね合わされるか、別個の画像として表示されるか、又はその両方である。ブロック616で、クライアントユーザは、ソース画像として、画像対から画像の1つを選択してもよい。ソース画像は所望のように既にアノテーションを付けられている場合、プロセスはブロック622に移る。別の方法では、クライアントユーザは、ブロック620で、所望のようにソース画像にアノテーションを付ける。ブロック620と実質的に同時に行われてもよい(又は行われなくてもよい)ブロック622で、アノテーションは対のうち他方の画像(標的画像)にマッピングされ、標的画像上で図式的に再現される。アノテーションが粗い見当合わせの前に行われる実施形態では、アノテーションは、画像対が見当合わせ(位置合わせ)されるのと実質的に同時に、ソース画像から標的画像へとマッピングされてもよい。ブロック624で、ユーザは、細かい見当合わせプロセスに取り組むか否かを選んでもよい。ユーザが、細かい見当合わせを行わずに結果を直接表示することを選んだ場合、プロセスはブロック626に移る。
[00118]別の方法として、ブロック624で、例えば段落0106、114で、本明細書に記載されている細かい見当合わせプロセスを、選択された画像対に対して行われ、例えば、マッピングされたアノテーションの場所及び/又は画像の位置合わせが最適化される。細かい見当合わせプロセスについて、以下で更に詳細に考察する。ブロック626で、アノテーションを付けられた画像対は、細かい見当合わせプロセスの結果と共に表示される(又は、細かい見当合わせが使用されない場合、アノテーションを付けられた画像対は、粗い見当合わせプロセスの結果と共にのみ表示されてもよい)。次に、方法は最終ブロック628で終了する。
[00119]共存モジュール
[00120]マーカー発現のヒートマップそれぞれからの1つ又は複数の特定されたROI候補を含む、オーバーレイマスクが生成された後(ステップ223)、共存モジュール113を稼働させて、オーバーレイマスク又は重畳されたマスクから1つ又は複数の共存ROIを特定する(ステップ225)。共存モジュールの出力は、本明細書に記載するように、更に下流の処理に使用されてもよい、1つ又は複数の共存ROIの特定である。いくつかの実施形態では、共存は、2つ以上の異なるマーカー又は標識間の空間的重なりの観察を指す。共存は、いくつかの実施形態では、マーカー又は標識間の関係を実証するために使用されてもよい。共存情報は、例えば、特定の細胞、特に免疫細胞の種類を自動的に特定するために使用されてもよい。腫瘍組織試料内の免疫細胞の種類及び場所に関する情報は、例えば、医用判断支援システムによって、もしくは電子画像解析システムによって、腫瘍進行予後を計算するか、又は腫瘍の特定の種類又はステージを特定するのに、自動で使用することができる。
[00121]概して、共存ROIは、少なくとも部分的に互いに重なり合う異なるマーカーに対応する、特定された1つ又は複数のROI候補を見つけることによって特定される。それら1つ又は複数の少なくとも部分的に重なり合うROI候補が特定されると、重なりの量が重なり閾値と比較されて、それらの少なくとも部分的に重なり合うROI候補が共存ROIとして適格であるか否かが決定される。
[00122]図8を参照すると、共存モジュールは、少なくとも部分的に互いと重なり合う選択された1つ又は複数のROI候補を見つけることによって、1つ又は複数の可能な共存ROIを計算する(ステップ801)。いくつかの実施形態では、少なくとも部分的に互いと重なり合う選択されたROI候補は、オーバーレイマスクからのROI候補を形態学的及び/又は論理的に処理することによって計算される。いくつかの実施形態では、形態学的処理は、1つ又は複数のROI候補の共通部分及び合併を計算することを含む。例えば、共通部分面積は、それぞれのマーカー特異的な画像又はヒートマップにマッピングされてもよく、前記画像又はヒートマップのマッピングされた領域はそれぞれのROIとして使用されてもよい。共通部分及び合併の計算は、当業者には知られているような、開放、閉止、侵食、及び拡張を含む、標準的な形態学的動作の組み合わせを利用する。当然ながら、選択された1つ又は複数のROI候補の重なり面積を計算する、任意の方法が利用されてもよい。例えば、固定の閾値を使用するとき、陽性及び陰性マーカーROIの両方は全ての組織にわたることができ、免疫細胞が「至るところに」存在する可能性があり、又は全く存在しない可能性がある。例えば、ROIは、ヒートマップ上のKの最高値又はKの最低値を含むFOVであるように選ぶことができる。
[00123]形態学的画像処理は、画像中の特徴の形状又は形態学に関連する非線形動作又は技術の集合である。形態学的技術は、構造化要素と呼ばれる小さい形状又はテンプレートを含む画像を調べる。構造化要素は、画像中の全ての可能な場所に位置付けられ、対応する近傍のピクセルと比較される。いくつかの動作は、要素が近傍内に「適合」するか否かを試験し、他の動作は、それが近傍と「衝突」又は交差するか否かを試験する。構造化要素がバイナリ画像に位置するとき、そのピクセルそれぞれは、構造化要素下の近傍における対応するピクセルと関連付けられる。構造化要素は、1に設定されたそのピクセルそれぞれに関して、対応する画像ピクセルも1である場合に、画像を適合させると言われる。同様に、構造化要素は、少なくとも1に設定されたそのピクセルの1つに関して、対応する画像ピクセルも1である場合に、画像に衝突する、即ち交差すると言われる。2つのセットA及びBの共通部分は、C=A∩Bと表され、定義によって、両方のセットA及びBに同時に属する全ての要素のセットである。同様に、2つのセットA及びBの合併は、C=A∪Bと表され、定義によって、セットA、又はセットB、又は同時に両方のセットに属する全ての要素のセットである。
[00124]いくつかの実施形態では、共通部分の面積(ピクセル)(又は重なりの面積)は、選択された(例えば、ユーザが選択した)画像チャネル及びそれぞれの画像特異的なROIの数を所与として、単一マーカー画像チャネルのヒートマップ上で特定されている全ての可能なROI対に対して計算される(ステップ802)。それに加えて、合併の面積(ピクセル)は、それぞれの可能な共存ROIに対して計算される(ステップ803)。次に、可能な共存ROIそれぞれに対して、共通部分面積と合併面積との比が計算される(ステップ804)。次に、この計算された比は、重なり閾値と比較されて(ステップ805)、可能な共存ROIが更なる解析に適した共発現領域を構築しているか否かが決定される。重なり閾値は、例えば、異なる画像又はヒートマップの複数のROI候補における共通部分面積と、前記ROI候補の合併面積との比と比較される、構成可能及び/又は既定の閾値である。2つ以上のヒートマップからROIの重なりを見つけるため、単一マーカー画像チャネル1つ当たり1つのROIの全ての可能な組み合わせが試験され、重なりは、組み合わせにおける全てのROIの共通部分のピクセル数の比として定義され、それらの合併におけるピクセル数によって定義される。
[00125]当業者であれば、重なり閾値はアッセイ毎に変動することがあり、適切な重なり閾値は、検出されているマーカーに基づいて選択されてもよいことを理解するであろう。いくつかの実施形態では、重なり閾値は、約0.5~約0.8の範囲(即ち、約50%~約80%の重なり)である。他の実施形態では、重なり閾値は、約0.5~約0.7の範囲(即ち、約50%~約80%の重なり)である。他の実施形態では、重なり閾値は0.75(即ち、約75%の重なり)である。更に他の実施形態では、重なり閾値は約0.5(即ち、50%の重なり)超過である。
[00126]計算された比が重なり閾値よりも大きい場合(ステップ806)、共発現解析のために共存ROIが選択される(ステップ807)。他方で、計算された比が重なり閾値よりも小さい場合(ステップ808)、共存ROIは拒絶され、共発現解析に使用されない(ステップ809)。
[00127]例えば、図9Aの明るい陰影の領域及び暗い陰影の領域によって示されるように、ROI_1(980)を単一マーカーチャネル画像1からの領域の1つとし、ROI_2(981)を単一マーカーチャネル画像2からの領域の1つとする。次に、比INTERSECT(ROI_1,ROI_2)/UNION(ROI_1,ROI_2)を計算する。計算された比がオーバーレイ閾値(例えば、約75%)よりも大きい場合、2つのROIは、マーカー1及び2に対する共発現領域(Marker1+,Marker2+)と見なされる。
[00128]いくつかの実施形態では、関心領域は所定の固定サイズの面積である。いくつかの実施形態では、(2つ以上のROIの)合併面積は固定視野を表す固定ピクセル面積である。例えば、視野がN×Nピクセルのサイズを有する場合、合併面積はN×Nピクセルのサイズを有する面積となる。例えば、図9Bに示されるように、個々のマーカー画像1及び2は位置合わせされてもよく、検出され重ね合わされた視野(FOV)候補であってもよい。例として、FOVのサイズをN×Nピクセルとし、FOVS_1(990)及びFOVS_2(991)が、2つの個々のマーカーチャネル画像からの2つのFOVマスク(例えば、明るい陰影によって示されるマスクFOVS_1及び暗い陰影によって示されるマスクFOVS_2)を表すものとする。重なり領域(992)は、INTERSECT(FOVS_1,FOVS_2)を使用して計算されて、図9Bの第3の画像における2つの円(993)によって示されるような、可能な共存FOV位置が見出される。連結成分解析、即ち、互いに重畳されているマーカー特異的なヒートマップの幾何学解析を使用して、異なる画像における少なくとも部分的に互いに重なり合うFOVの部分である、可能な共存領域の数が決定されてもよい。可能な共存領域それぞれに対して、比を(例えば、INTERSECT(FOV_1,FOV_2)/N*Nによって)評価して、(N×Nピクセル)FOV全体に対する重なり(共存)面積の比率が決定される。この例では、FOV_1及びFOV_2はそれぞれ、図9Bの第3の画像の円における単一の明るい陰影の四角及び暗い陰影の四角など、マーカーチャネル画像1及び2からの個々のFOVを指す。重なり領域(992)INTERSECT(FOV_1,FOV_2)は、図9Bの第4の画像において、黒い四角として示されている。計算された比が重なり閾値(例えば、約75%)よりも大きい場合、2つの対応するFOVは、選択される最終の共存FOV(例えば、図9Bの第4の画像における黒い円内の2つのFOV)と見なされる。やはり、この例では、最終の共存FOVは、選択されたIHCマーカーの共発現範囲を表す。
[00129]陰性発現マーカーに対する制約を有する(即ち、マーカー特異的なヒートマップのピクセル強度を閾値を比較することによって決定できるような、画像の特定の点においてMarker3が発現されないか、又は少量しか発現されないという追加の制約を有する)共存領域を、同様の方法で見出すことができる。ROIは、陽性及び陰性両方のマーカー発現に対して選択することができる。陽性マーカー発現のROIは、ヒートマップに対して高い値(例えば、強度閾値「陽性マーカー発現の画像面積」を超える)を有するものとして選択され、陰性マーカー発現のROIは、ヒートマップに対して低い値(例えば、強度閾値「陰性マーカー発現の画像面積」よりも低い)を有するものとして特定される。共存ROIを決定する方法は、陽性マーカー発現のROI、陰性マーカー発現のROI、又は陰性マーカー発現のROIを伴う陽性マーカー発現のROIに適用することができる。
[00130]例えば、第1及び第2のマーカーが少なくとも最小レベルで発現され、第3の生物マーカーが最大発現レベル未満で発現されるという基準を満たす共存領域の特定は、次のようにして行われてもよい。Marker1特異的なチャネル画像又はヒートマップを解析して、ピクセル強度値が第1のMarker1特異的な閾値を上回る、1つ又は複数の第1のROIを特定する。前記特定された1つ又は複数の第1のROIを、RO_1領域と呼ぶ。それに加えて、Marker2特異的なチャネル画像又はヒートマップを解析して、ピクセル強度値が第2のMarker2特異的な閾値を上回る、1つ又は複数の第2のROIを特定する。前記特定された1つ又は複数の第2のROIを、ROI_2領域と呼ぶ。
[00131]それに加えて、Marker3特異的なチャネル画像又はヒートマップを解析して、ピクセル強度値が第3のMarker3特異的な閾値を下回る、1つ又は複数の第3のROIを特定する。前記特定された1つ又は複数の第2のROIを、M_neg領域と呼ぶ。次に、実施形態によれば、可能な共存領域が、操作INTERSECT(ROI_1,ROI_2,M_neg)を用いて計算されてもよい。次に、2つの画像面積のサイズ比INTERSECT(ROI_1,ROI_2,M_neg)/UNION(ROI_1,ROI_2,M_neg)が計算されてもよい。計算された比が、既定のオーバーレイ閾値(例えば、約75%)よりも大きいと決定された場合、共存ROI、即ち共通部分面積に対応するROIは、陰性発現マーカー3に対する制約を有する(即ち、マーカー3は、全く発現されないか、又は最大量(Marker1+,Marker2+,Marker3-)以下しか発現されないという制約を有する)マーカー1及びマーカー2に対する共発現領域を説明する。
[00132]これは、関心領域が、上述したようなN×Nピクセル面積を有する固定視野を表す場合に、等しく適用可能である。上述したように、オーバーレイ比は、INTERSECT(FOV1,FOV2,M_neg)/N*Nによって計算されてもよく、オーバーレイ比はオーバーレイ閾値(例えば、約75%)と比較されてもよい。オーバーレイ比がオーバーレイ閾値よりも大きい場合、2つのFOVは、(Marker1+,Marker2+,Marker3-)である陰性発現マーカー3に対する制約を有する、マーカー1及び2の共発現領域と見なされる。これは、図9Cに示されており、Marker1+,Marker2+,Marker3-の共発現が図9Cの第4の画像の黒い円内に示され(995)、円外の共存FOV(996)は、Marker1+,Marker2+,Marker3+の一例を示している。
[00133]いくつかの実施形態では、重なり閾値は所定値であり、各共発現解析に対して特異的であってもよい。例えば、特定のアッセイの場合、共発現は、そのアッセイを構築
する各マーカーの密度又は濃度が他のアッセイよりも高いことに関連付けられてもよいことが可能である。又は、例えば、非特異的な背景の染色が、研究されている組織のタイプ又はIHCマーカー/染料の性質のどちらかによって優勢である場合、より厳密なオーバーレイ閾値を要することがある。
[00134]単一マーカーチャネル画像への共存ROIの転送
[00135]1つ又は複数の共存関心領域が特定された後(ステップ225)、共存ROIは、複数の単一マーカーチャネル画像に逆マッピングされる(ステップ226)。このように、複数の単一マーカーチャネル画像それぞれの中における1つ又は複数の特定された共存ROIの位置が決定され、出力として提供される。いくつかの実施形態では、共存ROIは、複数の単一マーカーチャネル画像それぞれを高解像度にしたものへと転送されて返される。いくつかの実施形態では、本明細書に記載するインターマーカー見当合わせモジュールは、共存ROIの位置を単一マーカーチャネル画像へとマッピング又は転送するのに利用される。出力は、病理医又は細胞計数モジュールに対するものであり得る。
[00136]細胞計数モジュール
[00137]共存ROIの位置をマーカー発現の画像へと転送するのに続いて(ステップ225)、個々のマーカーを発現する細胞が計数又は推定されてもよい(ステップ227)。いくつかの実施形態では、細胞計数モジュール114を使用して自動化細胞計数が行われてもよい(ステップ227)。細胞計数後の出力は、マーカー発現の画像それぞれの各共存ROIなどにおける、各マーカーを発現する細胞の数の推定値である。
[00138]自動化細胞計数方法は、当該分野において知られており、任意の既知の細胞計数方法が利用されてもよい。いくつかの実施形態では、細胞計数は、細胞出現の特徴の対称情報を捕捉する画像処理に基づいた技術を使用して実施される。他の実施形態では、構造化されたサポートベクタマシン(SVM)などから学習される統計モデルの一致など、細胞検出のために機械学習技術を使用して、細胞様領域を特定してもよい。ほぼ細胞のサイズの領域内の画像値から抽出されそれを説明する特徴を使用して、SVMを訓練してもよい。
[00139]更に他の実施形態では、細胞の計数は、PCT/EP/2015/061226(WO/2015/177268)、発明の名称「Systems and Methods for Detection of Structures and/or Patterns in Images(画像内の構造及び/又はパターンを検出するためのシステム及び方法)」に記載されているものなど、タスクに対して訓練されている畳み込みニューラルネットワークを使用して行われ、その開示の全体を参照により本明細書に組み込む。いくつかの実施形態では、関心領域、又は関心領域から得られる画像パッチが、関心領域又はそこから導き出される画像パッチ内に生物学的特徴が存在する蓋然性を決定するため、畳み込みニューラルネットワークに入力される。画像パッチは、最初に関心領域内における対象の場所を特定し、次にその対象の場所を含む画像パッチを抽出することによって、畳み込みニューラルネットワークに入力するように、関心領域から抽出されてもよい。
[00140]より具体的には、PCT/EP/2015/061226は、訓練画像又は標識を使用して特定の細胞構造及び特徴を認識するように訓練されてもよい、畳み込みニューラルネットワークについて記載している。ニューラルネットワークは、検出された構造が実際に細胞、メンブレン、背景などを表す蓋然性を出力する。これらの蓋然性に対して、オブジェクトの「場所」として使用される特定のピクセルを特定するために、非最大値抑制(non-maximum suppression)などの局所極大発見方法が行われてもよい。細胞の特定部分、例えば核のほぼ中心は、例示的に、観察下にある範囲、即ち画像パッチ内の、オブジェクトの「場所」として使用される。いくつかの実施形態では、細胞検出器は、細胞、細胞の部分、又は病理医などの訓練されたオペレータによって特定される他の細胞もしくは画像の特徴など、細胞構造に対するグランドトゥルースを使用して訓練される学習手段を備えてもよい。訓練された細胞検出器は、複数のタイプの細胞マーカー、又は核などの他の標的構造に対応する画像のチャネルにおいて、免疫細胞などの細胞構造を特定するために使用されてもよい。学習手段は、グランドトゥルースが標識付けされた複数の訓練画像を解析することによって、畳み込みニューラルネットワーク(CNN)を生成することを含んでもよい。訓練に続いて、試験画像又は解析下の画像は、CNNにしたがって分類された1つ又は複数のチャネルをそれぞれ含む複数のパッチに分割されてもよく、画像内における細胞又は他の標的構造の存在を表す蓋然性マップが生成されてもよい。更に、非最大値抑制動作が行われ、蓋然性マップから標的構造の座標が得られてもよい。
[00141]現在知られている、又は今後発見される、細胞計数の任意の方法が使用されてもよい。他の細胞計数方法が、Chen et. al.、「Deep Learning Based Automatic Immune Cell Detection for Immunohistochemistry Images(免疫組織化学画像のためのディープラーニングベースの自動免疫細胞検出)」(G. Wu et al.(Eds.):MLMI 2014, LNCS 8679, pp. 17-24, 2014)によって記載されており、その開示の全体を参照により本明細書に組み込む。この方法は、IHC染色スライドのデジタルスキャン画像における自動免疫細胞計数のための新規な方法に関連する。方法は、最初に、疎な色分離(sparse color unmixing)技術を使用して、IHC画像を異なる細胞構造に対応する複数の色チャネルへと分離する。そのため、検出の問題は、適切な細胞構造に対応する画像チャネルを使用して、ディープラーニングの枠組みへと体系化される。多数のIHCスライドを含む臨床データセットに対して、アルゴリズムが評価される。他の実施形態では、方法は、Diem et. al.、「Image Analysis for Accurately Counting CD4+ and CD8+ T Cells in Human Tissue(ヒト組織内のCD4+及びCD8+T細胞を正確に計数するための画像解析)」、Journal of Virological Methods, Vol.222, 15 Sept 2015, pp. 117-121によって記載されており、その開示の全体を参照により本明細書に組み込む。更に他の実施形態では、方法は、Halama et. al.、「Estimation of Immune Cell Densities in Immune Cell Conglomerates:An Approach for High-Throughput Quantification(免疫細胞集塊内の免疫細胞密度の推定:高スループット定量化のための手法)」、PLOS one, November 16, 2009(DOI:10.1371/journal.pone.0007847)によって開示されており、その開示の全体を参照により本明細書に組み込む。
[00142]一般的に、細胞計数モジュールは、利用可能な描写情報の全量を解析の実施に使用できることを担保するため、最大解像度画像に対して実行される。
[00143]実施例
[00144]本明細書に記載する共発現解析から利益を得るIHCアッセイの実施例は、以下を含む。
[00145](FoxP3+,CD3+,CD8-)
[00146]上記に特定したマーカーの共通部分は、ヘルパーT細胞又は免疫記憶細胞であると推定される、制御性T細胞又は免疫エフェクタ細胞を説明している。
[00147](CD3+,CD8+)
[00148]上記に特定したマーカーの共通部分は、活性化された細胞傷害性T細胞を説明している。
[00149](CD3+,CD8-,PD-L1+)又は(CD8+,PD-L1-)
[00150]上記に特定したマーカーの共通部分は、Pd-L1が抑制された抗腫瘍CD8+細胞を有するT細胞を説明している。
[00151]図11は、(CD3+,FoxP3+)及び(CD8+,FoxP3+)の共存の実施例を示している。
[00152]図10は、本開示の別の実施形態によるプロセスフローを示している。入力画像(1001)は画像獲得システムから受信される。それに加えて、一連の低解像度マーカー画像(1004)が画像獲得システムから受信される。マーカー画像は、高解像度画像を分離することによって得られてもよく、又は単一染料スライド画像として受信されてもよい。低解像度入力画像は、画像のどの部分が対象組織を含むかを示す、組織領域マスク(1003)を計算するために使用される。低解像度マーカー画像は、ローパスフィルタに通されて、フィルタ処理されたマーカー画像(1005)が作成される。次に、組織領域マスクは、ローパスフィルタ処理された画像に適用されて、対象でない領域が除外される(0に低減する)。その結果、各マーカーに対してマスクされたフィルタ処理済み画像(1006)がもたらされる。局所最大フィルタは、最大フィルタ処理された画像に適用されて、局所極大が特定される(1007)。上位のK局所極大が選択され(1008)、各局所極大に対して視野が定義される(1009)。次に、全ての画像を共通座標系へと転送し、重なり合う視野があれば重ねて組み合わせることによって、各画像のFOVがマージされる(1010)。次に、マージされた視野は、元の画像座標系に転送されて返されて、解析のために高解像度入力画像から領域が抽出される。
[00153]本開示の実施形態を実施するための他の構成要素
[00154]本発明のコンピュータシステムは、組織標本に対する1つ又は複数の調製プロセスを行うことができる、標本処理装置に結合されてもよい。調製プロセスとしては、非限定的に、標本の脱パラフィン化、標本の前処置(例えば、抗原賦活化を可能にし容易にする細胞の前処置)、標本の染色、抗原賦活化の実施、(標識付けを含む)免疫組織化学的染色もしくは他の反応の実施、及び/又はイン・サイチューのハイブリダイゼーション(例えば、SISH、FISHなど)(標識付けを含む)染色又は他の反応の実施、並びに顕微鏡検査、微量分析、質量分析方法、又は他の解析方法のために標本を調製する他のプロセスを挙げることができる。
[00155]標本は組織試料を含むことができる。組織の試料は、標的が中もしくは上に存在し得る、任意の液体、半固体、又は固体物質(もしくは材料)であることができる。特に、組織試料は、生物組織から得られた生物試料又は組織試料であることができる。組織は、生物内で類似の機能を行う相互接続された細胞の集合であることができる。いくつかの実施例では、生物試料は、被験者など、動物の対象から得られる。生物試料は、非限定的に、特にバクテリア、酵母、原生動物、アメーバなどの単細胞生物、多細胞生物(健康なもしくは見かけ上健康な被験者、又はがんなどの治療もしくは調査すべき状態もしくは疾患を患っている患者からの試料を含む、植物又は動物など)を含む任意の生物から得られる、それによって排出された、又はそれによって分泌された任意の固体もしくは流体試料であることができる。例えば、生物試料は、例えば血液、血漿、血清、尿、胆汁、腹水、唾液、脳脊髄液、房水もしくは硝子体液、又は任意の身体分泌物、濾出液、浸出物(例えば、膿瘍又は他の感染もしくは炎症部位から得られる流体)、あるいは関節(例えば、正常な関節もしくは疾患を患っている関節)から得られる流体から得られる、生物流体であることができる。生物試料はまた、任意の器官又は組織(腫瘍生検など、生検もしくは剖検標本を含む)から得られる試料であることができ、あるいは細胞(初代細胞であるか培養細胞であるかに関わらない)、又は任意の細胞、組織、もしくは器官から調製した媒質を含むことができる。いくつかの実施例では、生物試料は核抽出物である。特定の実施例では、試料は、細胞ペレット標品の部分から得ることができるものなど、品質管理試料である。他の実施例では、試料は試験試料である。例えば、試験試料は、対象から得られた生物試料から調製した、細胞、組織、又は細胞ペレット部分である。一実施例では、対象は、特定の状態もしくは疾患のリスクがあるか、又はそれを獲得している対象である。いくつかの実施形態では、標本は胸部組織である。
[00156]処理装置は、固定剤を標本に適用することができる。固定剤としては、架橋剤(ホルムアルデヒド、パラホルムアルデヒド、及びグルタルアルデヒドなどのアルデヒド、並びに非アルデヒド系架橋剤など)、酸化剤(例えば、四酸化オスミウム及びクロム酸などの、金属イオン及び錯体)、タンパク質変性剤(例えば、酢酸、メタノール、及びエタノール)、未知のメカニズムの固定剤(例えば、塩化水銀、アセトン、及びピクリン酸)、組み合わせ試薬(例えば、カルノア固定剤、メタカン、ブアン液、B5固定剤、ロスマン液、及びゲンドル液)、マイクロ波、並びにその他の固定剤(例えば、排除体積固定剤及び水蒸気固定剤)を挙げることができる。
[00157]標本がパラフィンに埋め込まれた試料である場合、試料は、適切な脱パラフィン化流体を使用して脱パラフィン化することができる。廃棄物除去剤が脱パラフィン化流体を除去した後、任意の数の物質を連続して標本に適用することができる。物質は、前処理(例えば、タンパク質の架橋、核酸の露出など)、変性、ハイブリダイゼーション、洗浄(例えば、ストリンジェント洗浄)、検出(例えば、可視もしくはマーカー分子をプローブにリンクする)、増幅(例えば、タンパク質、遺伝子などの増幅)、対比染色、封入などのためのものであり得る。
[00158]標本処理装置は、広範囲の物質を標本に適用することができる。物質としては、非限定的に、染料、プローブ、試薬、リンス、及び/又はコンディショナーが挙げられる。物質は、流体(例えば、ガス、液体、もしくはガス/液体混合物)などであることができる。流体は、溶媒(極性溶媒、非極性溶媒など)、溶液(例えば、水性溶液、又は他のタイプの溶液)などであることができる。試薬としては、非限定的に、染料、湿潤剤、抗体(例えば、単クローン抗体、多クローン抗体など)、抗原回復液(例えば、水系もしくは非水系抗原回復液、抗原回復バッファなど)、あるいは他のものを挙げることができる。プローブは、検出可能な標識もしくはレポーター分子に付着された、単離された核酸又は単離された合成オリゴヌクレオチドであることができる。標識としては、放射活性同位体元素、酵素基質、補助因子、リガンド、化学発光剤又は蛍光剤、クロモゲン、ハプテン、及び酵素を挙げることができる。
[00159]標本処理装置は、Ventana Medical Systems,Inc.が販売しているBENCHMARK XT機器及びSYMPHONY機器など、自動化装置であることができる。Ventana Medical Systems,Inc.は、米国特許第5,650,327号、第5,654,200号、第6,296,809号、第6,352,861号、第6,827,901号、及び第6,943,029号、並びに米国特許公開公報第20030211630号及び第20040052685号を含む、自動化解析を行うシステム及び方法を開示している多数の米国特許の譲受人であり、それらのそれぞれの全体を参照により本明細書に組み込む。あるいは、標本は手動で処理することができる。
[00160]標本が処理された後、ユーザは、標本を保持しているスライドを撮像装置へと移送することができる。ここで使用される撮像装置は、明視野画像装置スライドスキャナである。1つの明視野画像装置は、Ventana Medical Systems,Inc.が販売しているiScan Coreo(商標)明視野スキャナである。自動化の実施形態では、撮像装置は、国際特許出願PCT/US2010/002772(公開公報WO/2011/049608)、発明の名称「IMAGING SYSTEM AND TECHNIQUES(撮像システム及び技法)」に開示されているような、又は2011年9月9日付けの米国特許出願第61/533,114号、発明の名称「IMAGING SYSTEMS, CASSETTES, AND METHODS OF USING THE SAME(撮像システム、カセット、及びそれを使用する方法)」に開示されているような、デジタル病理学用デバイスである。国際特許出願PCT/US2010/002772(WO/2011/049608)及び米国特許出願第61/533,114号は、それらの全体を参照により本明細書に組み込む。他の実施形態では、撮像装置は、顕微鏡に結合されたデジタルカメラを含む。
[00161]撮像システム又は装置は、明視野顕微鏡システム、多スペクトル撮像(MSI)システム、又は蛍光顕微鏡システムであってもよい。ここで使用される撮像システムはMSIである。MSIは、一般に、ピクセルレベルで画像の空間分布にアクセスすることによって、コンピュータ化された顕微鏡ベースの撮像システムを用いて病理学的標本の解析を行う。様々な多スペクトル撮像システムが存在するが、これらのシステム全てに共通する動作上の側面は、多スペクトル画像を形成する能力である。多スペクトル画像は、電磁スペクトルにわたる特定の波長又は特定のスペクトル帯域幅の画像データを捕捉するものである。これらの波長は、色カメラ、例えばRGBカメラによって、光学フィルタによって、又は例えば赤外線(IR)など、可視光範囲を超える波長の電磁放射を含む所定のスペクトル成分を選択することができる他の機器を使用することによって抜き出されてもよい。
[00162]MSIは光学撮像システムを含んでもよく、その一部分は、所定数Nの離散的な光学バンドを定義するように調整可能である、スペクトル選択性のシステムを含む。光学システムは、広帯域光源を用いて光学検出器上へと伝達する際に照明される、組織試料を撮像するように適合されてもよい。光学撮像システムは、一実施形態では、例えば、顕微鏡などの拡大システムを含んでもよく、光学システムの単一の光学出力と空間的にほぼ位置合わせされる、単一の光学軸を有する。システムは、画像が異なる離散的なスペクトル帯で獲得されることなどを保証するように、スペクトル選択性のシステムが(例えば、コンピュータプロセッサを用いて)調節又は調整されているときに、組織の一連の画像を形成する。装置は更に、一連の獲得画像から、組織の少なくとも1つの視覚的に知覚可能な画像を表示させる、ディスプレイを含んでもよい。スペクトル選択性システムは、回折格子、薄膜干渉フィルタなどの光学フィルタの集合体、又はユーザ入力もしくはプリプログラムドプロセッサのコマンドに応答して、光源から試料を通して検出器に向かって伝送された光のスペクトルから特定の通過帯域を選択するように適合された、他の任意のシステムなど、光学分散要素を含んでもよい。
[00163]代替の実現例では、スペクトル選択性システムは、N個の離散的なスペクトル帯に対応するいくつかの光学出力を定義する。このタイプのシステムは、伝送された光出力を光学システムから取り込み、特定されたスペクトル帯内にある試料を、この特定されたスペクトル帯に対応する光路に沿って検出器システム上へと結像するような形で、この光出力の少なくとも一部分をN個の空間的に異なる光路に沿って空間的にリダイレクトする。
[00164]本明細書に記載する主題及び動作の実施形態は、デジタル電子回路類の形で、又は本明細書で開示される構造及びそれらの構造的等価物を含む、コンピュータソフトウェア、ファームウェア、もしくはハードウェアの形で、又はそれらのうち1つ又は複数の組み合わせで実現することができる。本明細書に記載する主題の実施形態は、データ処理装置によって実行されるように、又はその動作を制御するため、コンピュータ記憶媒体上で符号化された、1つ又は複数のコンピュータプログラムとして、即ちコンピュータプログラム命令の1つ又は複数のモジュールとして実現することができる。本明細書に記載するモジュールのいずれかは、プロセッサによって実行される論理を含んでもよい。「論理」は、本明細書で使用するとき、プロセッサの動作に影響を及ぼすように適用されてもよい、命令信号及び/又はデータの形態を有する、任意の情報を指す。ソフトウェアは論理の一例である。
[00165]コンピュータ記憶媒体は、コンピュータ可読記憶デバイス、コンピュータ可読記憶基板、ランダムもしくはシリアルアクセスメモリアレイ又はデバイス、あるいはそれらのうち1つ又は複数の組み合わせであることができ、又はそれらに含めることができる。更に、コンピュータ記憶媒体は伝搬信号ではないが、コンピュータ記憶媒体は、人為的に生成された伝搬信号に符号化されたコンピュータプログラム命令のソース又は宛先であり得る。コンピュータ記憶媒体は、1つ又は複数の別個の物理的構成要素又は媒体(例えば、複数のCD、ディスク、もしくは他の記憶デバイス)であることもでき、あるいはそれらに含めることができる。本明細書に記載する動作は、1つ又は複数のコンピュータ可読記憶デバイスに記憶されるか、又は他のソースから受信されるデータに対して、データ処理装置によって行われる動作として実現することができる。
[00166]「プログラムドプロセッサ」という用語は、例として、プログラマブルマイクロプロセッサ、コンピュータ、システム・オン・チップ、又は前記の複数のもの、もしくは前記のものの組み合わせを含む、データを処理する全ての種類の装置、デバイス、及び機械を包含する。装置は、専用論理回路類、例えばFPGA(フィールドプログラマブルゲートアレイ)又はASIC(特定用途向け集積回路)を含むことができる。装置はまた、ハードウェアに加えて、問題のコンピュータプログラムに対する実行環境を作成するコード、例えば、プロセッサファームウェアを構築するコード、プロトコルスタック、データベース管理システム、オペレーティングシステム、クロスプラットフォームランタイム環境、仮想機械、又はそれらのうち1つ又は複数の組み合わせを含むことができる。装置及び実行環境は、ウェブサービス、分散型コンピューティング、及びグリッドコンピューティング基盤など、様々な異なるコンピューティングモデル基盤を実現することができる。
[00167]コンピュータプログラム(プログラム、ソフトウェア、ソフトウェアアプリケーション、スクリプト、もしくはコードとしても知られる)は、コンパイラ型もしくインタープリタ型言語、宣言型もしくは手続き型言語を含む、任意の形態のプログラミング言語で記述することができ、スタンドアロンプログラムとして、又はモジュール、コンポーネント、サブルーチン、オブジェクト、もしくはコンピューティング環境で使用するのに適した他のユニットとしてなど、任意の形態で展開することができる。コンピュータプログラムは、必須ではないが、ファイルシステム内のファイルに対応してもよい。プログラムは、他のプログラムもしくはデータを保持するファイル(例えば、マークアップ言語文書の形で記憶された1つ又は複数のスクリプト)の一部分に、問題のプログラム専用の単一のファイルに、又は複数の調整されたファイル(例えば、1つ又は複数のモジュール、サブプログラム、もしくはコードの一部を記憶するファイル)に記憶することができる。コンピュータプログラムは、1つのコンピュータで、又は1つの場所に位置するか、もしくは複数の場所にわたって分配され、通信ネットワークによって相互接続された複数のコンピュータで、実行されるように展開することができる。
[00168]本明細書に記載するプロセス及び論理フローは、1つ又は複数のプログラマブルプロセッサが1つ又は複数のコンピュータプログラムを実行して、入力データを操作し出力を生成することによってアクションを行うことによって行うことができる。プロセス及び論理フローはまた、専用論理回路類、例えばFPGA(フィールドプログラマブルゲートアレイ)又はASIC(特定用途向け集積回路)によって行うことができ、また装置をそれらとして実現することもできる。
[00169]コンピュータプログラムを実行するのに適したプロセッサとしては、例として、汎用及び専用両方のマイクロプロセッサ、並びに任意の種類のデジタルコンピュータにおける任意の1つ又は複数のプロセッサが挙げられる。一般に、プロセッサは、命令及びデータを、読出し専用メモリ又はランダムアクセスメモリ又は両方から受信する。コンピュータの必須要素は、命令にしたがってアクションを行うプロセッサ、並びに命令及びデータを記憶する1つ又は複数のメモリデバイスである。一般に、コンピュータはまた、データを記憶する1つ又は複数の大容量記憶デバイス、例えば磁気、磁気光学ディスク、もしくは光学ディスクを含み、あるいはそれらに対して動作可能に結合されて、それらとの間でデータの送受信を行う。しかしながら、コンピュータは必ずしもかかるデバイスを有さなくてもよい。更に、コンピュータは、例えば、いくつか例を挙げれば、携帯電話、携帯情報端末(PDA)、携帯音声又は映像プレーヤー、ゲームコンソール、全地球測位システム(GPS)受信器、又は可搬型記憶デバイス(例えば、ユニバーサルシリアルバス(USB)フラッシュドライブ)といった、別のデバイスに埋め込むことができる。コンピュータプログラム命令及びデータを記憶するのに適したデバイスとしては、例として、半導体メモリ素子(例えば、EPROM、EEPROM、及びフラッシュメモリデバイス)、磁気ディスク(例えば、内蔵ハードディスク又はリムーバブルディスク)、磁気光学ディスク、並びにCD-ROM及びDVD-ROMディスクを含む、全ての形態の不揮発性メモリ、媒体及びメモリデバイスが挙げられる。プロセッサ及びメモリは、専用論理回路類によって補足するか、又はそれらに組み込むことができる。
[00170]ユーザとのインタラクションのため、本明細書に記載する主題の実施形態は、情報をユーザに対して表示する表示デバイス、例えばLCD(液晶ディスプレイ)、LED(発光ダイオード)ディスプレイ、又はOLED(有機発光ダイオード)ディスプレイと、キーボードと、ユーザがコンピュータに入力を提供するために使用することができるポインティングデバイス、例えばマウス又はトラックボールとを有する、コンピュータ上で実現することができる。いくつかの実現例では、タッチスクリーンを使用して、情報を表示し、ユーザからの入力を受信することができる。他の種類のデバイスを使用して、同様にユーザとのインタラクションを提供することができ、例えば、ユーザに提供されるフィードバックは、任意の形態の感覚的フィードバック、例えば視覚フィードバック、聴覚フィードバック、又は触覚フィードバックであることができ、ユーザからの入力は、音響、発声、又は触覚入力を含む、任意の形態で受信することができる。それに加えて、コンピュータは、ユーザが使用するデバイスに文書を送信し、またデバイスから文書を受信することによって、例えば、ウェブブラウザから受信した要求に応答して、ユーザのクライアントデバイス上のウェブブラウザにウェブページを送信することによって、ユーザとインタラクションすることができる。
[00171]本明細書に記載する主題の実施形態は、例えばデータサーバとしてのバックエンドコンポーネントを含むか、又はミドルウェアコンポーネント、例えばアプリケーションサーバを含むか、又はフロントエンドコンポーネント、例えば、グラフィカルユーザインターフェースを有するクライアントコンピュータ、もしくはユーザが本明細書に記載する主題の実現例とインタラクションするのに用いることができるウェブブラウザを含むか、又はかかるバックエンド、ミドルウェア、もしくはフロントエンドコンポーネントの1つ又は複数の任意の組み合わせである、コンピューティングシステムの形で実現することができる。システムのコンポーネントは、デジタルデータ通信の任意の形態又は媒体、例えば通信ネットワークによって、相互接続することができる。通信ネットワークの例としては、ローカルエリアネットワーク(「LAN」)及び広域ネットワーク(「WAN」)、インターネットワーク(例えば、インターネット)、及びピアツーピアネットワーク(例えば、アドホックピアツーピアネットワーク)が挙げられる。例えば、図1のネットワーク20は1つ又は複数のローカルエリアネットワークを含むことができる。
[00172]コンピューティングシステムは、任意の数のクライアント及びサーバを含むことができる。クライアント及びサーバは、一般的には互いに離れており、また一般的には通信ネットワークを通してインタラクションする。クライアントとサーバの関係は、それぞれのコンピュータ上で稼働し、クライアント・サーバの関係を互いに対して有するコンピュータプログラムによって生じる。いくつかの実施形態では、サーバは、(例えば、クライアントデバイスとインタラクションしているユーザに対してデータを表示し、そのユーザからのユーザ入力を受信する目的で)クライアントデバイスにデータ(例えば、HTMLページ)を送信する。クライアントデバイスで生成されたデータ(例えば、ユーザのインタラクションの結果)は、サーバにおいてクライアントデバイスから受信することができる。
[00173]本明細書における本発明を特定の実施形態を参照して記載してきたが、これらの実施形態は本発明の原理及び応用の単なる例示であることを理解されたい。したがって、例示の実施形態に対して多数の修正が行われてもよく、添付の特許請求の範囲によって定義されるような本発明の趣旨及び範囲から逸脱することなく、他の構成が考案されてもよいことが理解される。上記の明細書は、当業者が本発明を実践できるようにするのに十分であると見なされる。

Claims (14)

  1. 組織試料中の複数のマーカーを共発現解析するデジタル画像解析方法であって、
    複数の単一マーカーチャネル画像(124)にアクセスするステップであって、前記複数の単一マーカーチャネル画像がそれぞれ、組織試料中のそれぞれの単一マーカーの量とピクセル強度値が相関するデジタル画像である、ステップと、
    前記単一マーカーチャネル画像それぞれに対してマーカー発現のヒートマップを計算するステップであって、前記ヒートマップを計算するステップが、ローパスフィルタを複数の単一マーカーチャネル画像それぞれに適用するステップを含む、ステップと、
    マーカー発現の各ヒートマップにおける1つ又は複数の関心領域(ROI)候補(126)を特定するステップであって、前記1つ又は複数のROI候補を特定する前記ステップが、前記ヒートマップにおける最高位の局所ピクセル強度最大を特定し、特定された局所強度最大のそれぞれ1つの周りの前記ヒートマップの所定数の固定サイズのN×Nピクセルの部分領域を選択し、前記選択された部分領域を前記ヒートマップの前記ROI候補として使用するため、局所極大フィルタをマーカー発現の各ヒートマップに適用するステップ(524)を含むものと、
    マーカー発現の各ヒートマップから、前記特定された1つ又は複数のROI候補を含むオーバーレイマスクを計算するステップであって、オーバーレイマスクが、前記オーバーレイマスクを導き出した前記ヒートマップの前記特定されたROI候補のうち1つに属さない全てのピクセルをマスキングで除外する画像マスクである、ステップと、
    前記オーバーレイマスクから1つ又は複数の共存ROIを特定するステップであって
    前記ヒートマップの2つ以上における前記ROI候補の共通部分面積及び/又は合併面積を特定するステップと
    前記特定された共通部分面積又は合併面積を、前記2つ以上のヒートマップに逆マッピングするステップと、及び、
    前記逆マッピングされた共通部分面積又は合併面積に対応する前記ROI候補又はその一部を、前記1つ又は複数の共存ROIとするステップを含む、
    前記1つ又は複数の共存ROIを特定するステップと、
    を含方法。
  2. 前記1つ又は複数のROI候補を特定する前記ステップが、マーカー発現の各ヒートマップに強度閾値を適用するステップ(521)を含む、請求項1に記載の方法。
  3. 前記ヒートマップのいずれかにおける1つ又は複数の部分領域の前記ピクセル強度値が、前記強度閾値を下回る場合(523)、前記ヒートマップの前記部分領域がROI候補に特定され、前記ROI候補が、前記マーカーが発現しないか又は所与の発現閾値よりも発現が少ない前記組織試料中の領域に対応する、請求項2に記載の方法。
  4. 前記ヒートマップのいずれかにおける1つ又は複数の部分領域の前記ピクセル強度値が、前記強度閾値を上回る場合(522)、前記ヒートマップの前記部分領域がROI候補に特定され、前記ROI候補が、前記マーカーが前記所与の発現閾値よりも強く発現する前記組織試料中の領域に対応する、請求項3に記載の方法。
  5. 前記選択された所定数の最高位の局所強度最大それぞれの周りでN×Nセットのピクセルを有する視野(FOV)を定め、前記定められたN×NセットのピクセルのFOVを、前記ヒートマップの前記ROI候補として使用される前記選択された部分領域として使用するステップ(526)を更に含む、請求項1から4のいずれか一項に記載の方法。
  6. 共存ROIを決定する前記ステップが、
    異なるマーカーに対応する1つ又は複数の少なくとも部分的に重なり合うROI候補と、マーカー発現のそれぞれのマーカー特異的なヒートマップとを特定するステップと、
    前記特定された少なくとも部分的に重なり合うROI候補の共通部分面積を特定するステップと、
    前記異なるマーカー特異的なヒートマップの前記特定された少なくとも部分的に重なり合うROIの合併面積を特定するステップと、
    前記特定された共通部分面積と前記特定された合併面積との比を計算するステップと、
    前記計算された比が重なり閾値を超えるか否かを評価するステップと、
    を含む、請求項1から5のいずれか一項に記載の方法。
  7. 組織試料の多チャネル画像を、前記複数の単一マーカーチャネル画像それぞれへと分離するステップを更に含む、請求項1から6のいずれか一項に記載の方法。
  8. 前記複数の単一マーカーチャネル画像が一連の連続した組織部分から導き出され、前記方法が、前記特定されたROI候補それぞれを共通座標系に見当合わせするステップを更に含む、請求項1から7のいずれか一項に記載の方法。
  9. 非組織領域がマスキングされるように、前記複数の単一マーカーチャネル画像を前処理するステップを更に含む、請求項1から8のいずれか一項に記載の方法。
  10. 前記複数の単一マーカーチャネル画像の全てよりも少ない画像が、共存ROIを特定するために使用される、かつ/又は、
    GUIが、共存ROIを特定するために使用される前記単一マーカーチャネル画像をユーザが選択することを可能にする、請求項1から9のいずれか一項に記載の方法。
  11. 前記複数の単一マーカーチャネル画像の少なくともいくつかにおける少なくとも1つの特定された共存関心領域内の細胞を計数するステップと、任意選択で、2つ以上の異なるマーカーチャネル画像の共存関心領域で計数された前記細胞を使用して免疫スコアを計算するステップとを更に含む、請求項1から10のいずれか一項に記載の方法。
  12. 組織試料中の複数のマーカーを共発現解析する電子画像解析システムであって、1つ又は複数のプロセッサと少なくとも1つのメモリとを備え、前記少なくとも1つのメモリが、前記1つ又は複数のプロセッサによって実行され前記1つ又は複数のプロセッサに、請求項1から11のいずれか一項に記載の方法を行わせる非一時的コンピュータ可読命令を記憶する、システム。
  13. 組織試料中の複数のマーカーを共発現解析するコンピュータシステムであって、1つ又は複数のプロセッサと少なくとも1つのメモリとを備え、前記少なくとも1つのメモリが非一時的コンピュータ可読命令を記憶し、当該非一時的コンピュータ可読命令が、前記1つ又は複数のプロセッサによって実行されることによって、前記1つ又は複数のプロセッサに、
    複数の単一マーカーチャネル画像それぞれに対してマーカー発現のヒートマップを計算させ、前記複数の単一マーカーチャネル画像がそれぞれ単一のマーカーを含み、
    マーカー発現の各ヒートマップにおける1つ又は複数の関心領域(ROI)候補を特定させ、前記1つ又は複数のROI候補を特定させることが、前記ヒートマップにおける最高位の局所ピクセル強度最大を特定し、特定された局所強度最大のそれぞれ1つの周りの前記ヒートマップの所定数の固定サイズのN×Nピクセルの部分領域を選択し、前記選択された部分領域を前記ヒートマップの前記ROI候補として使用するため、局所極大フィルタをマーカー発現の各ヒートマップに適用すること(524)を含み、
    マーカー発現の各ヒートマップから、前記特定された1つ又は複数のROI候補を含むオーバーレイマスクを計算させ、
    前記オーバーレイマスクから、1つ又は複数の共存ROIを決定させ、
    前記特定された1つ又は複数の共存ROIを前記複数の単一マーカーチャネル画像それぞれへと転送させる、
    コンピュータシステム。
  14. 前記ヒートマップが、前記複数の単一マーカーチャネル画像それぞれにローパスフィルタを適用することによって計算される、請求項13に記載のコンピュータシステム。
JP2017534921A 2014-12-30 2015-12-30 共発現解析のためのシステム及び方法 Active JP7092503B2 (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US201462098075P 2014-12-30 2014-12-30
US62/098,075 2014-12-30
US201562253179P 2015-11-10 2015-11-10
US62/253,179 2015-11-10
PCT/EP2015/081399 WO2016107896A1 (en) 2014-12-30 2015-12-30 Systems and methods for co-expression analysis in immunoscore computation

Publications (3)

Publication Number Publication Date
JP2018503906A JP2018503906A (ja) 2018-02-08
JP2018503906A5 JP2018503906A5 (ja) 2019-02-14
JP7092503B2 true JP7092503B2 (ja) 2022-06-28

Family

ID=55069872

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017534921A Active JP7092503B2 (ja) 2014-12-30 2015-12-30 共発現解析のためのシステム及び方法

Country Status (7)

Country Link
US (1) US10755406B2 (ja)
EP (3) EP3882851B1 (ja)
JP (1) JP7092503B2 (ja)
CN (1) CN107111874B (ja)
AU (1) AU2015373423A1 (ja)
CA (1) CA2966555C (ja)
WO (1) WO2016107896A1 (ja)

Families Citing this family (47)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3053139B1 (en) 2013-10-01 2020-10-21 Ventana Medical Systems, Inc. Line-based image registration and cross-image annotation devices, systems and methods
EP3108407A4 (en) * 2014-02-17 2018-02-14 General Electric Company Method and system for processing scanned images
JP2017099616A (ja) * 2015-12-01 2017-06-08 ソニー株式会社 手術用制御装置、手術用制御方法、およびプログラム、並びに手術システム
JP6134019B1 (ja) * 2016-01-29 2017-05-24 株式会社コロプラ 仮想現実空間提供方法および仮想現実空間提供プログラム
CN109643453B (zh) * 2016-08-31 2023-06-27 分子装置有限公司 用于基于模板的图像分析的系统和方法
EP3523779A1 (en) * 2016-10-07 2019-08-14 Ventana Medical Systems, Inc. Digital pathology system and associated workflow for providing visualized whole-slide image analysis
US10430943B2 (en) * 2016-10-07 2019-10-01 Sony Corporation Automated nuclei area/number estimation for IHC image analysis
WO2018068511A1 (zh) * 2016-10-10 2018-04-19 深圳市瀚海基因生物科技有限公司 基因测序的图像处理方法及系统
US10467749B2 (en) 2016-10-10 2019-11-05 Genemind Biosciences Company Limited Method and system for processing an image comprising spots in nucleic acid sequencing
CN110168561B (zh) * 2016-10-27 2023-06-16 皇家飞利浦有限公司 用于确定一个或多个组织样本中的细胞组成信息的装置
EP3549099B1 (en) 2016-12-01 2024-08-21 Bruker Cellular Analysis, Inc. Automated detection and repositioning of micro-objects in microfluidic devices
JP6931870B2 (ja) * 2017-02-15 2021-09-08 国立研究開発法人理化学研究所 細胞の再プログラム化を検出するための方法及び装置
CN107103601B (zh) * 2017-04-14 2020-04-24 成都知识视觉科技有限公司 一种乳腺癌评分系统中的细胞有丝分裂检测方法
WO2018200715A1 (en) * 2017-04-25 2018-11-01 The University Of Chicago Cellular analysis
JP7030423B2 (ja) * 2017-04-27 2022-03-07 シスメックス株式会社 画像解析方法、装置、プログラムおよび深層学習アルゴリズムの製造方法
US10650520B1 (en) 2017-06-06 2020-05-12 PathAI, Inc. Systems and methods for training a statistical model to predict tissue characteristics for a pathology image
CN111095360B (zh) * 2017-09-19 2023-09-05 美国西门子医学诊断股份有限公司 使用通用对抗网络对数字全息显微术图像中的细胞的虚拟染色
GB2567155B (en) * 2017-10-02 2022-03-02 Room4 Group Ltd Histopathological image analysis
US10593101B1 (en) * 2017-11-01 2020-03-17 Facebook Technologies, Llc Marker based tracking
JP7091635B2 (ja) * 2017-11-15 2022-06-28 大日本印刷株式会社 対象物検出器、画像解析装置、対象物検出方法、画像解析方法、プログラム、及び、学習データ
US11443426B2 (en) 2018-01-18 2022-09-13 Nantomics, Llc Real-time whole slide pathology image cell counting
US10902586B2 (en) * 2018-05-08 2021-01-26 International Business Machines Corporation Automated visual recognition of a microcalcification
JP7037438B2 (ja) * 2018-05-31 2022-03-16 株式会社日立ソリューションズ コロニー検出装置、コロニー検出方法、及びコロニー検出プログラム
EP3608701A1 (de) * 2018-08-09 2020-02-12 Olympus Soft Imaging Solutions GmbH Verfahren zur bereitstellung wenigstens einer auswertemethode für proben
US12008775B2 (en) 2018-08-22 2024-06-11 Genemind Biosciences Company Limited Method and device for image registration, and computer program product
US11847766B2 (en) 2018-08-22 2023-12-19 Genemind Biosciences Company Limited Method and device for detecting bright spots on image, and computer program product
WO2020037574A1 (zh) 2018-08-22 2020-02-27 深圳市真迈生物科技有限公司 基于图像构建测序模板的方法、碱基识别方法和装置
US10713517B2 (en) * 2018-09-30 2020-07-14 Himax Technologies Limited Region of interest recognition
EP3640946A1 (en) * 2018-10-15 2020-04-22 Sartorius Stedim Data Analytics AB Multivariate approach for biological cell selection
TWI689869B (zh) * 2018-12-28 2020-04-01 致茂電子股份有限公司 影像檢測方法
CN111382615A (zh) * 2018-12-28 2020-07-07 致茂电子(苏州)有限公司 影像检测方法
US10410352B1 (en) * 2019-01-25 2019-09-10 StradVision, Inc. Learning method and learning device for improving segmentation performance to be used for detecting events including pedestrian event, vehicle event, falling event and fallen event using edge loss and test method and test device using the same
EP3709262A1 (en) * 2019-03-13 2020-09-16 Koninklijke Philips N.V. Correlated image analysis for 3d biopsy
US11410303B2 (en) 2019-04-11 2022-08-09 Agilent Technologies Inc. Deep learning based instance segmentation via multiple regression layers
CN112085015A (zh) * 2019-06-13 2020-12-15 杭州海康机器人技术有限公司 图像处理方法和图像处理装置以及检测设备
JPWO2020262117A1 (ja) * 2019-06-28 2020-12-30
CN110632069B (zh) * 2019-08-20 2022-07-26 西人马大周(深圳)医疗科技有限公司 循环肿瘤细胞检测方法、装置、设备及介质
JP7383946B2 (ja) * 2019-09-12 2023-11-21 株式会社アイシン 画像復元装置、画像復元方法、画像復元プログラム、復元器生成装置、復元器生成方法、復元器生成プログラム、判定器生成装置、判定器生成方法、判定器生成プログラム、物品判定装置、物品判定方法、および物品判定プログラム
KR20220087463A (ko) * 2019-10-18 2022-06-24 나노스트링 테크놀로지스, 인크. 발현 프로파일링의 공간적 매핑을 위한 시스템 및 방법
EP3832491A1 (en) * 2019-12-06 2021-06-09 Idemia Identity & Security France Methods for processing a plurality of candidate annotations of a given instance of an image, and for learning parameters of a computational model
JP2021124861A (ja) * 2020-02-04 2021-08-30 ソニーグループ株式会社 解析装置、解析方法、解析プログラム及び診断支援システム
CN111290685A (zh) * 2020-02-28 2020-06-16 杭州依图医疗技术有限公司 细胞染色图像的显示方法、病理图像分析系统及存储介质
US11250568B2 (en) 2020-03-06 2022-02-15 Bostongene Corporation Techniques for determining tissue characteristics using multiplexed immunofluorescence imaging
US11796377B2 (en) * 2020-06-24 2023-10-24 Baker Hughes Holdings Llc Remote contactless liquid container volumetry
JPWO2023008526A1 (ja) * 2021-07-29 2023-02-02
WO2024023800A1 (en) * 2022-07-28 2024-02-01 Optina Diagnostics, Inc. Heatmap based feature preselection for retinal image analysis
WO2024100094A1 (en) * 2022-11-10 2024-05-16 Sanofi Method for performing image registration

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009212605A (ja) 2008-02-29 2009-09-17 Sony Corp 情報処理方法、情報処理装置及びプログラム
JP2013174823A (ja) 2012-02-27 2013-09-05 Olympus Corp 画像処理装置、顕微鏡システム、及び画像処理方法

Family Cites Families (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5595707A (en) 1990-03-02 1997-01-21 Ventana Medical Systems, Inc. Automated biological reaction apparatus
WO2001004271A2 (en) * 1999-07-13 2001-01-18 The Government Of The United States Of America, As Represented By The Department Of Health And Human Services Respiratory syncytial viruses expressing immune modulatory molecules
DE69942975D1 (de) 1998-02-27 2011-01-05 Ventana Med Syst Inc Automatisierter molekularer pathologieapparat mit unabhängigen objektträgerwärmern
US6582962B1 (en) 1998-02-27 2003-06-24 Ventana Medical Systems, Inc. Automated molecular pathology apparatus having independent slide heaters
US20030211630A1 (en) 1998-02-27 2003-11-13 Ventana Medical Systems, Inc. Automated molecular pathology apparatus having independent slide heaters
CA2350415A1 (en) * 1998-11-18 2000-05-25 Incyte Pharmaceuticals, Inc. Inflammation-associated genes
WO2002102226A2 (en) * 2001-06-14 2002-12-27 Suturtek Incorporated Apparatus and method for surgical suturing with thread management
EP2478356A1 (en) * 2009-09-18 2012-07-25 Rutgers, The State University High-throughput biomarker segmentation utilizing hierarchical normalized cuts
CA2842723C (en) 2009-10-19 2016-02-16 Ventana Medical Systems, Inc. Imaging system and techniques
US9082177B2 (en) * 2009-11-25 2015-07-14 Dental Imaging Technologies Corporation Method for tracking X-ray markers in serial CT projection images
US8693743B1 (en) * 2010-02-19 2014-04-08 Olive Tree Media, LLC Analysis and display of multiple biomarker co-expression in cells and tissues
US8787651B2 (en) * 2010-09-28 2014-07-22 Flagship Biosciences, LLC Methods for feature analysis on consecutive tissue sections
CN103492590A (zh) * 2011-02-22 2014-01-01 卡里斯生命科学卢森堡控股有限责任公司 循环生物标志物
FI20115821A0 (fi) * 2011-08-24 2011-08-24 Syslore Oy Laite ja menetelmä kuljetusobjektissa olevien kiinnostusalueiden havaitsemiseen
CN102332161B (zh) * 2011-09-13 2013-06-19 中国科学院深圳先进技术研究院 基于图像的血管内中膜厚度自动提取方法及系统
US10585102B2 (en) * 2012-10-11 2020-03-10 Vanderbilt University Characterization of cancer using detection of activated leukocyte cell adhesion molecule (ALCAM) shedding
CN103088055B (zh) * 2013-01-07 2014-05-07 中国热带农业科学院橡胶研究所 一种植物双基因共表达载体的构建方法
CN105027164B (zh) 2013-03-14 2018-05-18 文塔纳医疗系统公司 完整载片图像配准和交叉图像注释设备、系统和方法
CA2904441A1 (en) * 2013-03-15 2014-09-18 Metamark Genetics, Inc. Compositions and methods for cancer prognosis
US10242248B2 (en) 2013-06-03 2019-03-26 Ventana Medical Systems, Inc. Image adaptive physiologically plausible color separation
EP3053139B1 (en) 2013-10-01 2020-10-21 Ventana Medical Systems, Inc. Line-based image registration and cross-image annotation devices, systems and methods
EP3550514B1 (en) 2014-02-21 2020-11-25 Ventana Medical Systems, Inc. Group sparsity model for image unmixing
AU2015261891A1 (en) 2014-05-23 2016-10-13 Ventana Medical Systems, Inc. Systems and methods for detection of biological structures and/or patterns in images
WO2015181371A1 (en) 2014-05-30 2015-12-03 Ventana Medical Systems, Inc. An image processing method and system for analyzing a multi-channel image obtained from a biological tissue sample being stained by multiple stains
EP3227830B8 (en) * 2014-12-03 2020-07-01 Ventana Medical Systems, Inc. Methods, systems, and apparatuses for quantitative analysis of heterogeneous biomarker distribution

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009212605A (ja) 2008-02-29 2009-09-17 Sony Corp 情報処理方法、情報処理装置及びプログラム
JP2013174823A (ja) 2012-02-27 2013-09-05 Olympus Corp 画像処理装置、顕微鏡システム、及び画像処理方法

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
A.Rizk et al.,An ImageJ/Fiji plugin for segmentin and quantifying sub-sellular structures in fluorence microscopy images[オンライン],2013年6月18日,pp.1-26,インターネット:<URL:http://mosaic.mpi-cbg.de/Downloads/SplitBregmanSeg.pdf>
P.A.Fletcher et al., Multi-Image Colocalization and Its Statistical Significance, Biophysical Journal, the Biological Society,2010年9月22日,Volume99,Issue6,pp.1996-2005
T.Chen et al., Adaptive spectral unmixing for histopathology for fluorescent images, Preceedings of 2014 IEEE 11th International Symposium on Biomedical Images(ISBI),IEEE,2014年5月2日,pp.1287-1290

Also Published As

Publication number Publication date
WO2016107896A1 (en) 2016-07-07
US20170309021A1 (en) 2017-10-26
EP3882851A1 (en) 2021-09-22
EP4187486A1 (en) 2023-05-31
EP3241180A1 (en) 2017-11-08
EP3882851B1 (en) 2023-01-18
US10755406B2 (en) 2020-08-25
EP3241180B1 (en) 2021-06-30
AU2015373423A1 (en) 2017-05-18
CN107111874A (zh) 2017-08-29
CN107111874B (zh) 2022-04-08
CA2966555A1 (en) 2016-07-07
JP2018503906A (ja) 2018-02-08
CA2966555C (en) 2023-06-13

Similar Documents

Publication Publication Date Title
JP7092503B2 (ja) 共発現解析のためのシステム及び方法
US11836950B2 (en) Quality metrics for automatic evaluation of dual ISH images
US20200342597A1 (en) Deep-learning systems and methods for joint cell and region classification in biological images
US11978200B2 (en) Image enhancement to enable improved nuclei detection and segmentation
JP2022084796A (ja) 画像処理のための自動アッセイ評価および正規化
US10388014B2 (en) Vessel analysis in multiplexed images
JP2017163990A (ja) 組織試料中で遺伝子を検出するための系
JP2021531790A (ja) 自動化された原位置ハイブリッド形成分析のためのシステム
US11615532B2 (en) Quantitation of signal in stain aggregates

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180509

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20181227

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20181227

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20191224

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200107

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20200406

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20200605

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20200907

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201022

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20201022

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20201030

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20201102

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20201225

C211 Notice of termination of reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C211

Effective date: 20210104

C22 Notice of designation (change) of administrative judge

Free format text: JAPANESE INTERMEDIATE CODE: C22

Effective date: 20210816

C13 Notice of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: C13

Effective date: 20220131

C302 Record of communication

Free format text: JAPANESE INTERMEDIATE CODE: C302

Effective date: 20220414

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220415

C23 Notice of termination of proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C23

Effective date: 20220428

C03 Trial/appeal decision taken

Free format text: JAPANESE INTERMEDIATE CODE: C03

Effective date: 20220525

C30A Notification sent

Free format text: JAPANESE INTERMEDIATE CODE: C3012

Effective date: 20220525

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220616

R150 Certificate of patent or registration of utility model

Ref document number: 7092503

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150