JP2016538542A - 蛍光画像処理装置及び方法 - Google Patents

蛍光画像処理装置及び方法 Download PDF

Info

Publication number
JP2016538542A
JP2016538542A JP2016529949A JP2016529949A JP2016538542A JP 2016538542 A JP2016538542 A JP 2016538542A JP 2016529949 A JP2016529949 A JP 2016529949A JP 2016529949 A JP2016529949 A JP 2016529949A JP 2016538542 A JP2016538542 A JP 2016538542A
Authority
JP
Japan
Prior art keywords
fluorescence
image processing
background
image
areas
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016529949A
Other languages
English (en)
Other versions
JP6113925B2 (ja
Inventor
イェルテ ペーター ヴィンク
イェルテ ペーター ヴィンク
リーウウェン マリヌス バスティアーン ファン
リーウウェン マリヌス バスティアーン ファン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Koninklijke Philips NV
Original Assignee
Koninklijke Philips NV
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Koninklijke Philips NV filed Critical Koninklijke Philips NV
Publication of JP2016538542A publication Critical patent/JP2016538542A/ja
Application granted granted Critical
Publication of JP6113925B2 publication Critical patent/JP6113925B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/136Segmentation; Edge detection involving thresholding
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/20Image enhancement or restoration using local operators
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/40Image enhancement or restoration using histogram techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/70Denoising; Smoothing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/90Dynamic range modification of images or parts thereof
    • G06T5/94Dynamic range modification of images or parts thereof based on local image properties, e.g. for local contrast enhancement
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/194Segmentation; Edge detection involving foreground-background segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/69Microscopic objects, e.g. biological cells or cellular parts
    • G06V20/695Preprocessing, e.g. image segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10056Microscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10064Fluorescence image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30024Cell structures in vitro; Tissue sections in vitro

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Biomedical Technology (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Multimedia (AREA)
  • Health & Medical Sciences (AREA)
  • Investigating, Analyzing Materials By Fluorescence Or Luminescence (AREA)
  • Image Processing (AREA)
  • Microscoopes, Condenser (AREA)

Abstract

本発明は蛍光画像を増強するための蛍光画像処理装置100に関する。蛍光画像処理装置100は、画像セグメンテーションユニット110、バックグラウンド決定ユニット120、バックグラウンド低減ユニット130、及び画像増強ユニット140を有する。最初にガラススライドのバックグラウンドと関心エリアをセグメント化し、このセグメンテーションを用いて両者間のコントラストを増強することが提案される。それにより、増強後に画像データが依然として人のオペレータにとって快適なコントラストを持ちながら、スキャン及び染色時間が削減されることがきる。

Description

本発明は蛍光画像を増強するための蛍光画像処理装置及び方法、蛍光イメージングシステム及び方法、蛍光画像処理コンピュータプログラム、並びに蛍光イメージングコンピュータプログラムに関する。
生命科学において、蛍光顕微鏡法は関心のあるタンパク質若しくは他の分子の分布を検出するために標本の特異的及び感受性染色を可能にする強力なツールである。バックグラウンドは染色されないままであるため、典型的な蛍光画像は暗く、複数のエリアが照射される。
デジタル病理学の導入により、画像解析ツールを用いる支援が可能になっている。高スループットを実現するためには、低スキャン及び染色時間が必要である。この傾向は近い将来ますます応用されることになる蛍光顕微鏡法にも当てはまる。低スキャン及び染色時間は顕著な低SNRをもたらす。これは画像解析ツールにとって依然許容可能であるが、人のオペレータにとって快適なコントラストを得るために特殊な増強が要求される。これは人のオペレータが(依然として)責任を負うため必要である。
US2006149479A1は、関心フルオロフォア以外のフルオロフォアからの不要な蛍光を選択的に除去若しくは低減することによって、生体組織などのオブジェクトの蛍光画像を増強するための方法を記載する。この方法は関心フルオロフォアの蛍光強度に関する情報を保存しながらフルオロフォアのライフタイムの測定に基づく。
蛍光画像を処理するときの改良された画像増強技術が必要である。
本発明の目的は、蛍光画像の処理のための改良された画像増強技術を特徴とする、蛍光画像を増強するための蛍光画像処理装置及び方法、蛍光イメージングシステム及び方法、蛍光画像処理コンピュータプログラム、並びに蛍光イメージングコンピュータプログラムを提供することである。
本発明の第一の態様において、蛍光画像を増強するための蛍光画像処理装置が提供される。蛍光画像処理装置は蛍光画像を一つ以上の関心エリアと一つ以上のバックグラウンドエリアにセグメント化するように構成される画像セグメンテーションユニットと;蛍光画像におけるバックグラウンド信号を測定するように構成されるバックグラウンド決定ユニットと;バックグラウンド信号の測定に応じて、一つ以上のバックグラウンドエリアにおけるバックグラウンド信号を低減するが、関心エリアにおいては低減しないように構成されるバックグラウンド低減ユニットと、一つ以上の関心エリアを増強するが、一つ以上のバックグラウンドエリアは増強しないように構成される画像増強ユニットとを有する。
本発明の重要なアイデアは、最初に単一画像をセグメント化し(単一画像に基づく)、そしてセグメンテーションに基づいてバックグラウンド信号を測定し、そして測定されたバックグラウンド信号に基づいてバックグラウンド信号を抑制(若しくは低減)し、最後にオブジェクト信号を増強することに関する。オブジェクトを増強するために、例えばバックグラウンド中のノイズの量を使用することが好適には提案される。従って、本発明は好適にはバックグラウンド信号の測定とオブジェクト信号の増強との間のリンクを利用する。バックグラウンド測定及び抑制とオブジェクト信号の増強の順序は、画像セグメンテーション後に、バックグラウンド信号が測定及び抑制される前に、オブジェクト信号が最初に増強されるように、入れ替えられることができる。さらに、バックグラウンド測定と抑制はオブジェクト信号増強と並行して実行されることができる。本発明はこのようにガラススライドのバックグラウンドと関心エリアを最初にセグメント化し、このセグメンテーションを用いて両者間のコントラストを増強することを提案する。それにより、増強後に画像データが人のオペレータにとって快適なコントラストを依然持ちながら、スキャン及び染色時間が削減されることができる。
本発明の好適な実施形態において、画像増強ユニットの出力は画像解析アルゴリズムのための入力として使用される。
本発明のさらなる好適な実施形態において、バックグラウンド信号は画像増強ユニットを制御するために使用される。
本発明のさらなる好適な実施形態において、蛍光画像処理装置は蛍光画像を受信するために適した入力と;増強された蛍光画像を出力するために適した出力とをさらに有する。蛍光画像を受信するために適した入力を提供することによって、蛍光画像処理装置は顕微鏡を修正する必要なく直接的な方法で一般的な蛍光顕微鏡とともに使用されることができる。さらに、増強された蛍光画像を出力するために適した出力を提供することによって、蛍光画像処理装置は本発明の蛍光画像処理装置とともに使用されるように更新される必要のない、モニタ若しくはスクリーンなどの一般的なディスプレイユニットとともに使用されることができる。
本発明のさらなる好適な実施形態において、蛍光画像処理装置は蛍光画像を保存するために適した画像保存ユニットをさらに有する。蛍光画像を保存するための画像保存ユニットを提供することによって、蛍光画像処理装置は後半段階でコントラスト増強手順を繰り返す可能性を提供する。同様に、蛍光画像処理装置は画像セグメンテーションの、バックグラウンド決定の、バックグラウンド抑制の、及び/又はオブジェクト画像増強の、それぞれ異なる選択のためのコントラスト増強を実行する可能性を提供する。
本発明のさらなる好適な実施形態において、画像保存ユニットに保存される蛍光画像は画像セグメンテーションユニットへの入力信号として使用され得る。それにより、品質改良アルゴリズムが保存された蛍光画像に適用されることができる。同様に、画質をさらに向上させるために画像処理が反復的に適用されることができる。
本発明のさらなる好適な実施形態において、蛍光画像処理装置は測定されたバックグラウンド信号を保存するために適したバックグラウンド保存ユニットをさらに有する。測定されたバックグラウンド信号を保存するために適したバックグラウンド保存ユニットを提供することによって、蛍光画像処理装置は決定されたバックグラウンド信号のために様々なバックグラウンド減算法をテストする可能性を提供する。好適には、様々なバックグラウンド減算法の最終結果は相互に比較される。好適には、比較の結果に基づいて一つのバックグラウンド減算法が選択される。
本発明のさらなる好適な実施形態において、バックグラウンド保存ユニットに保存されるバックグラウンド信号はバックグラウンド低減ユニットへの入力信号として使用され得る。それによって、品質改良アルゴリズムが保存されたバックグラウンド信号に適用されることができる。同様に、画質をさらに向上させるために画像処理が反復的に適用されることができる。
本発明のさらなる好適な実施形態において、蛍光画像処理装置は増強された蛍光画像をディスプレイユニットへ送信するための送信ユニットをさらに有する。増強された蛍光画像をディスプレイユニットへ送信するための送信ユニットを提供することによって、蛍光画像処理装置は本発明の蛍光画像処理装置とともに使用されるためにアップグレードされる必要のない、モニタ若しくはスクリーンなどの一般的なディスプレイユニットとともに使用されることができる。好適には、送信ユニットは例えばWLANネットワークなどを介して、無線方式で増強された蛍光画像を送信するために適している。好適には、送信ユニットはアンテナである。そして、蛍光画像処理装置はディスプレイユニットに物理的に結合される必要さえない。実際、蛍光画像処理装置はディスプレイユニットとは別の部屋、別の建物、若しくは別の都市にさえあってもよい。これは蛍光顕微鏡法の専門家が遠隔から蛍光画像処理装置をモニタすることを可能にし、従って本発明の柔軟性を高める。
本発明のさらなる好適な実施形態において、蛍光画像処理装置は蛍光顕微鏡から収集された蛍光画像を受信するための受信ユニットをさらに有する。蛍光顕微鏡から収集された蛍光画像を受信するための受信ユニットを提供することによって、蛍光画像処理装置は本発明の蛍光画像処理装置とともに使用されるためにアップグレードされる必要のない、一般的な蛍光顕微鏡とともに使用されることができる。好適には、受信ユニットは例えばWLANネットワークなどを介して、無線方式で収集された蛍光画像を受信するために適している。好適には、受信ユニットはアンテナである。そして、蛍光画像処理装置は蛍光顕微鏡に物理的に結合される必要さえない。実際、蛍光画像処理装置は蛍光顕微鏡とは別の部屋、別の建物、若しくは別の都市にさえあってもよい。これは例えば蛍光画像処理装置がまだ工場にある間など、遠隔から特定の蛍光顕微鏡で蛍光画像処理装置を訓練することを可能にする。
本発明のさらなる好適な実施形態において、画像セグメンテーションユニットは動的閾値処理を適用することによって及び/又は局所的ヒストグラムベース法を適用することによって、蛍光画像をセグメント化するように構成される。全ピクセルに大域的閾値を使用する従来の閾値処理法と対照的に、適応的若しくは動的閾値処理は閾値を画像全体にわたって動的に変化させる。それにより、方法は局所変動(例えば染色強度における局所変動に起因する)に対する感度が低くなる。
本発明のさらなる好適な実施形態において、バックグラウンド決定ユニットは蛍光画像から平滑化ヒストグラムを作り出すように構成される。平滑化ヒストグラムはバックグラウンド信号の特性(例えば平均及び分散)を測定するために使用される。この平滑化ヒストグラムは一般にバックグラウンド信号において潜在する変動をより正確に反映する。
本発明のさらなる好適な実施形態において、バックグラウンド低減ユニットは一つ以上のバックグラウンドエリアを平滑化することによって及び/又は一つ以上のバックグラウンドエリアをクリッピングすることによってバックグラウンド信号を低減するように構成される。バックグラウンド信号の平滑化はバックグラウンド信号におけるノイズを低減するために適用される。本質的に、信号の高周波数成分が低減及び/又は抑制されるが、低周波数成分は保持される。
本発明のさらなる好適な実施形態において、画像増強ユニットは一つ以上の関心エリアをブースティングすることによって及び/又は一つ以上の関心エリアをピーキングすることによって増強するように構成される。ピーキングはオブジェクト及び/又は関心エリアのエッジをより明確にするために、並びにオブジェクト及び/又は関心エリアをバックグラウンド信号からより区別するために適用され得る。ブースティングはオブジェクト及び/又は関心エリアのコントラストを増強するために適用され得る。
本発明の第二の態様において、蛍光画像を収集するために適した蛍光顕微鏡と;蛍光画像を増強するための蛍光画像処理装置と;増強された蛍光画像を表示するための表示ユニットとを有する蛍光イメージングシステムが提供され、蛍光画像処理装置は本発明の第一の態様にかかる蛍光画像処理装置である。
本発明の第三の態様において、蛍光画像を増強するための蛍光画像処理法が提供される。蛍光画像処理法は蛍光画像を一つ以上の関心エリアと一つ以上のバックグラウンドエリアへセグメント化するステップと;蛍光画像においてバックグラウンド信号を測定するステップと;バックグラウンド信号の測定に応じて、一つ以上のバックグラウンドエリアにおいてバックグラウンド信号を低減するが、一つ以上の関心エリアでは低減しないステップと;一つ以上の関心エリアを増強するが、一つ以上のバックグラウンドエリアは増強しないステップとを有する。
本発明の第四の態様において、蛍光画像を収集するステップと;本発明の第三の態様の蛍光画像処理法に従って蛍光画像を処理するステップと;増強された蛍光画像を表示するステップとを有する、蛍光イメージング法が提供される。
本発明の第五の態様において、蛍光画像を増強するための蛍光画像処理コンピュータプログラムが提供される。蛍光画像処理コンピュータプログラムは、蛍光画像処理コンピュータプログラムが蛍光画像処理装置を制御するコンピュータ上で実行されるときに、蛍光画像処理装置に蛍光画像処理法のステップを実行させるためのプログラムコード手段を有する。
本発明の第六の態様において、蛍光イメージングコンピュータプログラムが蛍光イメージングシステムを制御するコンピュータ上で実行されるときに、蛍光イメージングシステムに蛍光イメージング法のステップを実行させるためのプログラムコード手段を有する、蛍光イメージングコンピュータプログラムが提供される。
請求項1の蛍光画像処理装置、請求項11の蛍光イメージングシステム、請求項12の蛍光画像処理法、請求項13の蛍光イメージング法、請求項14の蛍光画像処理コンピュータプログラム、請求項15の蛍光イメージングコンピュータプログラムは、従属請求項に定義される同様の及び/又は同一の好適な実施形態を持つことが理解されるものとする。
本発明の好適な実施形態は従属請求項若しくは上記実施形態と各独立請求項との任意の組み合わせでもあり得ることが理解されるものとする。
本発明のこれらの及び他の態様は以降に記載の実施形態から明らかとなり、それらを参照して解明される。
蛍光画像処理装置を概略的に例示的に示す。 オプションの保存ユニットとともに蛍光画像処理装置を概略的に例示的に示す。 オプションの送信及び受信ユニットとともに蛍光画像処理装置を概略的に例示的に示す。 蛍光イメージングシステムを概略的に例示的に示す。 蛍光画像処理法を概略的に例示的に示す。 蛍光イメージング法を概略的に例示的に示す。 典型的な蛍光画像を概略的に例示的に示す。 大域的増強の効果を概略的に例示的に示す。 図7の蛍光画像のセグメンテーションマップを概略的に例示的に示す。 本発明の一実施形態にかかる画像セグメンテーション後のバックグラウンド抑制及び局所的増強の効果を概略的に例示的に示す。 局所的増強のみの効果を概略的に例示的に示す。 バックグラウンド抑制のみの効果を概略的に例示的に示す。
図1は蛍光画像を増強するための蛍光画像処理装置100の一実施形態を概略的に例示的に示す。蛍光画像処理装置100は、蛍光画像を一つ以上の関心エリアと一つ以上のバックグラウンドエリアにセグメント化するように構成される画像セグメンテーションユニット110と;蛍光画像におけるバックグラウンド信号を測定するように構成されるバックグラウンド決定ユニット120と;バックグラウンド信号の測定に応じて、一つ以上のバックグラウンドエリアにおいてバックグラウンド信号を低減するが、一つ以上の関心エリアでは低減しないように構成されるバックグラウンド低減ユニット130と;一つ以上の関心エリアを増強するが、一つ以上のバックグラウンドエリアは増強しないように構成される画像増強ユニット140とを有する。オプションとして、バックグラウンド決定ユニット120と画像増強ユニット140の間のリンクもあり得る。言い換えれば、ノイズの量が測定され、この量は関心オブジェクトの増強を制御するための入力パラメータとして使用され得る。
本発明の重要なアイデアは、単一画像を最初にセグメント化し(単一画像に基づく)、そしてセグメンテーションに基づいてバックグラウンド信号を測定し、そして測定されたバックグラウンド信号に基づいてバックグラウンド信号を抑制(若しくは低減)し、最後にオブジェクト信号を増強させることに関する。バックグラウンド測定及び抑制と、オブジェクト信号の増強の順序は、画像セグメンテーション後に、バックグラウンド信号が測定及び抑制される前に、オブジェクト信号が最初に増強されるように、入れ替えられることができる。さらに、バックグラウンド測定及び抑制はオブジェクト信号増強と並行して実行されることができる。本発明はこのようにガラススライドのバックグラウンド及び関心エリアを最初にセグメント化し、このセグメンテーションを用いて両者間のコントラストを増強することを提案する。それにより、増強後に画像データが人のオペレータにとって快適なコントラストを依然持ちながら、スキャン及び染色時間が削減されることができる。
図1において、蛍光画像処理装置100は蛍光画像を受信するために適した(オプションの)入力100aと、増強された蛍光画像を出力するために適した(オプションの)出力100bとをさらに有する。蛍光画像を受信するために適した入力を提供することによって、蛍光画像処理装置は顕微鏡を修正する必要なしに直接的な方法で一般的な蛍光顕微鏡とともに使用されることができる。さらに、増強された蛍光画像を出力するために適した出力を提供することによって、蛍光画像処理装置は本発明の蛍光画像処理装置とともに使用されるために更新される必要のない、モニタ若しくはスクリーンなどの一般的なディスプレイユニットとともに使用されることができる。
図2はオプションの保存ユニット210,220とともに蛍光画像処理装置100の一実施形態を概略的に例示的に示す。画像保存ユニット210は蛍光画像を保存するために適している。オプションとして、後続の処理ステップにおいて、画像保存ユニット210に保存される蛍光画像は画像セグメンテーションユニット110への入力信号として使用され得る。それにより、品質改良アルゴリズムが保存された蛍光画像に適用されることができる。同様に、画質をさらに向上させるために画像処理が反復的に適用されることができる。バックグラウンド保存ユニット220はバックグラウンド決定ユニット120から測定されたバックグラウンド信号を保存するために適している。オプションとして、後続の処理ステップにおいて、バックグラウンド保存ユニット220に保存されるバックグラウンド信号はバックグラウンド低減ユニット130への入力信号として使用され得る。それにより、品質改良アルゴリズムが保存されたバックグラウンド信号に適用されることができる。同様に、画質をさらに向上させるために画像処理が反復的に適用されることができる。
蛍光画像を保存するための画像保存ユニットを提供することによって、蛍光画像処理装置は後半段階においてコントラスト増強手順を繰り返す可能性を提供する。同様に、蛍光画像処理装置は画像セグメンテーション、バックグラウンド決定、バックグラウンド抑制、及び/又はオブジェクト画像増強の、それぞれ異なる選択のためのコントラスト増強を実行する可能性を提供する。
測定されたバックグラウンド信号を保存するために適したバックグラウンド保存ユニットを提供することによって、蛍光画像処理装置は決定されたバックグラウンド信号のために様々なバックグラウンド減算法をテストする可能性を提供する。好適には、様々なバックグラウンド減算法の最終結果は相互に比較される。好適には、比較の結果に基づいて一つのバックグラウンド減算法が選択される。
図3はオプションの送信及び受信ユニット320,310とともに蛍光画像処理装置100の一実施形態を概略的に例示的に示す。受信ユニット310は蛍光顕微鏡から収集された蛍光画像を受信するために適している。送信ユニット320は増強された蛍光画像をディスプレイユニットへ送信するように構成される。
増強された蛍光画像をディスプレイユニットへ送信するための送信ユニットを提供することによって、蛍光画像処理装置は、本発明の蛍光画像処理装置とともに使用されるためにアップグレードされる必要のない、モニタ若しくはスクリーンなどの一般的なディスプレイユニットともに使用されることができる。好適には、送信ユニットは例えばWLANネットワークなどを介して、無線方式で増強された蛍光画像を送信するために適している。好適には、送信ユニットはアンテナである。そして、蛍光画像処理装置はディスプレイユニットへ物理的に結合される必要さえない。実際、蛍光画像処理装置はディスプレイユニットとは別の部屋、別の建物、若しくは別の都市にさえあってもよい。これは蛍光顕微鏡法の専門家が遠隔から蛍光画像処理装置をモニタすることを可能にし、従って本発明の柔軟性を高める。
蛍光顕微鏡から収集された蛍光画像を受信するための受信ユニットを提供することによって、蛍光画像処理装置は、本発明の蛍光画像処理装置とともに使用されるためにアップグレードされる必要のない、一般的な蛍光顕微鏡とともに使用されることができる。好適には、受信ユニットは例えばWLANネットワークなどを介して、無線方式で収集された蛍光画像を受信するために適している。好適には受信ユニットはアンテナである。そして、蛍光画像処理装置は蛍光顕微鏡へ物理的に結合される必要さえない。実際、蛍光画像処理装置は蛍光顕微鏡とは別の部屋、別の建物、若しくは別の都市にさえあってもよい。これは例えば蛍光画像処理装置がまだ工場にある間など、遠隔から特定の蛍光顕微鏡で蛍光画像処理装置を訓練することを可能にする。
図4は蛍光イメージングシステム400の一実施形態を概略的に例示的に示す。蛍光イメージングシステム400は蛍光画像を収集するために適した蛍光顕微鏡410と;蛍光画像を増強するための蛍光画像処理装置100と;増強された蛍光画像を表示するためのディスプレイユニット420とを有する。このアプローチは例えばFISH(蛍光In Situハイブリダイゼーション)解析のための前処理ステップなど、画像解析ツールのための前処理ステップとしても使用されることができることに留意されたい。
図5は蛍光画像を増強するための蛍光画像処理法500の一実施形態を概略的に例示的に示す。蛍光画像処理法500は蛍光画像を一つ以上の関心エリアと一つ以上のバックグラウンドエリアにセグメント化するステップ510と;蛍光画像においてバックグラウンド信号を測定するステップ520と;バックグラウンド信号の測定に応じて、一つ以上のバックグラウンドエリアにおいてバックグラウンド信号を低減するが、一つ以上の関心エリアでは低減しないステップ530と;一つ以上の関心エリアを増強するが、一つ以上のバックグラウンドエリアは増強しないステップ540とを有する。
図6は蛍光イメージング法600の一実施形態を概略的に例示的に示す。蛍光イメージング法600は蛍光画像を収集するステップ610と;蛍光画像処理法500に従って蛍光画像を処理するステップと;増強された蛍光画像を表示するステップ620とを有する。
蛍光顕微鏡は、有機物若しくは無機物の特性を研究するために反射及び吸収の代わりに、若しくは加えて、蛍光及びリン光を使用する光学顕微鏡である。標本は(一又は複数の)特異的波長の光で照射され、これはフルオロフォア(光励起により光を再発光することができる蛍光化合物)によって吸収され、それらにより長波長の(すなわち吸収光と異なる色の)光を発光させる。サンプルが蛍光顕微鏡に適するためには、蛍光性でなければならない。蛍光サンプルを作成するいくつかの方法がある;主な方法は蛍光染料で、又は生体サンプルの場合、蛍光タンパク質の発現でラベルすることである。生命科学において蛍光顕微鏡は関心のあるタンパク質若しくは他の分子の分布を検出するために標本の特異的及び感受性染色を可能にする強力なツールである。バックグラウンドは染色されないままであるため、図7に示す通り典型的な蛍光画像は暗く、複数のエリアが照射される。
現在、染色プロセスは主に視覚解析のために最適化されている。全プロセスはバックグラウンドと関心エリアの間のコントラストにフォーカスしている。信号対ノイズ比(SNR)は人のオペレータによる即時かつ迅速な解釈のために十分大きくなければならない。
デジタル病理学の導入により、画像解析ツールを用いる支援が可能になっている。高スループットを実現するためには、低スキャン及び染色時間が必要である。典型的なスキャン時間は40xの対物レンズ倍率と0.75のNAに相当する分解能で15x15mmのスキャンエリアを持つ一枚のガラススライドの場合およそ60秒である。これは従来の(明視野)顕微鏡法に当てはまる。この傾向は近い将来ますます応用されることになる蛍光顕微鏡にも当てはまる。低スキャン及び染色時間は顕著な低SNRをもたらす。これは画像解析ツールにとって依然許容可能であるが、人のオペレータにとって快適なコントラストを得るために特殊な増強が要求される。これは人のオペレータが(依然)責任を負うため、必要である。
人の目は暗領域におけるわずかな照明差にあまり感度が高くない。標準的な(大域的)画像増強技術は、これらの技術が特定のコンテンツに対処しないので、(図8に見られる通り)機能しない。標準的な大域的画像増強技術を記載する参考文献については、例えばGonzalez,Woods,Digital Image Processing:International Edition,third edition,Pearson,2008,ISBN‐13:9780132345637を参照のこと。それにより、回避されるべきバックグラウンド信号におけるノイズも増強されることになる。
しかしながら、画像解析を用いることにより、画像中の特定エリアが増強若しくは低減され得る。関心エリアのセグメンテーションマップを作成することにより、及び関心エリアを増強してバックグラウンド信号を低減することにより、バックグラウンドと関心エリアの間のコントラストが増強され得る。そして、測定されるSNRが著しく小さくなり得る。それにより、より短い染色及びスキャン時間が可能である。
大域的ノイズ低減法は典型的には関心エリアがまた平滑化されるように、完全な画像にローパスフィルタを適用する。
エッジ保存フィルタのような局所的ノイズ低減法は関連するエッジを保存しながら信号中のノイズを低減しようとする(エッジ保存フィルタを記載する参考文献については、例えばGonzalez,Woods,Digital Image processing:International Edition,third edition,Pearson,2008,ISBN‐13:9780132345637における適応フィルタについてのセクション5.3.3.を参照のこと)。それにより、関心エリア内のわずかな差(例えば蛍光ドット)も平滑化される。さらに、問題は関連するエッジ(すなわち関心エリアの境界)とバックグラウンド信号におけるノイズによって生じるエッジとを区別する正確な閾値を決定する方法である。
本発明は最初にセグメンテーションを作成することによってこの問題を解決する。これは関心エリアを見つけるために例えばエッジを見るだけでなくコンテンツについての知識を用いることも適用し得る。次に、バックグラウンド信号が測定される。次に、この測定されたノイズレベルがバックグラウンドノイズを可能な限り抑制するために使用される。さらに、コントラストレベルをさらに増すためにセグメント化された関心エリアがブーストされる。
非局所的手段(画像中の全ピクセルの非局所的平均化に基づく画像ノイズ除去プロセス)のような局所的ノイズ低減法は、局所パッチとパッチのセットとの間の類似度に基づいてピクセルをフィルタする。再度、コンテンツ(例えば蛍光ドット)についての特定の知識は使用されないので、関心エリア内のわずかな差も平滑化されることになる。
以下のステップが提案される:
1.バックグラウンド及び関心エリアセグメンテーション(機械学習若しくは双方向フィルタリングを用いても可能)
2.バックグラウンド信号の測定
3.バックグラウンド信号の低減/抑制
4.関心エリアの増強
ステップ3及び4の順序は入れ替えられることができる。さらに、関心エリアとバックグラウンドの間の境界は複数の方法によって決定されることができる。第一に、バックグラウンド強度レベルに基づいて局所的閾値が決定されることができる。第二に、関心エリアの強度に基づいて生成されるシードを用いて領域拡張が適用されることができる。
第一のステップにおいて、バックグラウンドと関心エリアの間のセグメンテーションが要求される。画像セグメンテーションはデジタル画像を複数のセグメントへ分割することに関する。バックグラウンド信号における局所的差に対してロバストな動的閾値処理などの技術が適用可能である。付加的に若しくは代替的に、(局所的)ヒストグラムベース法が適用され得る。セグメンテーションの一実施例が図9に示される。動的閾値処理及び(局所的)ヒストグラムベース法は(デジタル病理学)画像処理アプリケーションの開発者に周知の標準的技術である。第二のステップにおいて、バックグラウンド信号が測定される。単純なアプローチは、バックグラウンド信号におけるノイズの量を決定するためにバックグラウンド信号の平滑化ヒストグラムを作成することである。そしてこの手段はバックグラウンド信号における信号低減及び関心エリアの増強の量を制御するために使用される。
第三のステップにおいて、ノイズ低減法(例えば平滑化、クリッピング)がバックグラウンドに適用される。本明細書で上述した通り、本発明は画像全体(大域的ノイズ低減)ではなく、"関心のない"エリア(例えば蛍光ドットなしのエリアなど)のみにノイズ低減を適用することを提案する。特に、画像全体へノイズ低減を適用することは、関心のある信号(すなわち蛍光ドット)も低減することになり、これはまさしく本発明が回避することを実現するものである。従って、本発明は画像を最初にセグメント化し、バックグラウンド信号のみを抑制することを提案する。さらに、バックグラウンド信号の測定は、バックグラウンドのみが選択される場合、より正確であることが留意される。
第四のステップにおいて、増強技術(例えばブースティング、ピーキング)が関心エリアに適用される。
図10は本発明の好適な実施形態にかかる出力の一実施例を示す。特に、図10はバックグラウンド低減と関心エリア増強の複合効果を示す。見られる通り、バックグラウンド信号は低減されるが、コントラストは改善される。さらに、関連エリアの微細な細部が依然として保存され、さらに増強される。バックグラウンド信号は平滑化ヒストグラムを用いて決定される。それにより、方法は何らかの局所的バックグラウンド変動にロバストである。図11A及び11Bを参照すると、バックグラウンド低減と関心エリア増強を組み合わせて使用する利点が示される。すなわち、図11Aは関心エリア増強のみが適用されバックグラウンド低減が適用されない実施形態にかかる出力の一実施例を示し、一方図11Bはバックグラウンド低減のみが適用され関心エリア増強が適用されない実施形態にかかる出力の一実施例を示す。
本発明の応用例は分子病理学及びデジタル病理学である。
上記実施形態において、蛍光画像処理装置は画像増強ユニットと並列に結合されるバックグラウンド決定ユニットとバックグラウンド低減ユニットを有するが、これらの実施形態は好適な実施形態に過ぎず、別の実施形態においてバックグラウンド決定ユニット、バックグラウンド低減ユニット、及び画像増強ユニットは直列に結合されてもよい。
開示の実施形態への他の変更は、図面、開示及び添付の請求項の考察から、請求される発明を実施する上で当業者によって理解されもたらされることができる。
請求項において、"有する"という語は他の要素若しくはステップを除外せず、不定冠詞"a"若しくは"an"は複数を除外しない。
単一のユニット若しくはデバイスが請求項に列挙される複数の項目の機能を果たしてもよい。特定の手段が相互に異なる従属請求項に列挙されるという単なる事実は、これら手段の組み合わせが有利に使用されることができないことを示さない。
一つ若しくは複数のユニット若しくはデバイスによって実行されるバックグラウンド決定などのような決定は任意の他の数のユニット若しくはデバイスによって実行されることができる。例えば、蛍光画像におけるバックグラウンド信号の決定は単一ユニットによって若しくは任意の他の数の異なるユニットによって実行されることができる。上記蛍光画像処理法にかかる蛍光画像処理装置の決定及び/又は制御はコンピュータプログラムのプログラムコード手段として及び/又は専用ハードウェアとして実現されることができる。
コンピュータプログラムは、他のハードウェアと一緒に若しくはその一部として提供される光学記憶媒体若しくはソリッドステート媒体などの適切な媒体上に格納/分散され得るが、インターネット又は他の有線若しくは無線通信システムなどを介して、他の形式で分散されてもよい。
請求項における任意の参照符号は範囲を限定するものと解釈されてはならない。
本発明は蛍光画像を増強するための蛍光画像処理装置に関する。蛍光画像処理装置は、画像セグメンテーションユニットと、バックグラウンド決定ユニットと、バックグラウンド低減ユニットと、画像増強ユニットとを有する。ガラススライドのバックグラウンドと関心エリアを最初にセグメント化し、このセグメンテーションを用いて両者間のコントラストを増強することが提案される。それにより、増強後に画像データが依然として人のオペレータにとって快適なコントラストを持ちながら、スキャン及び染色時間が削減されることができる。

Claims (15)

  1. 蛍光画像を増強するための蛍光画像処理装置であって、
    前記蛍光画像を一つ以上の関心エリアと一つ以上のバックグラウンドエリアへセグメント化するように構成される画像セグメンテーションユニットと、
    前記蛍光画像においてバックグラウンド信号を測定するように構成されるバックグラウンド決定ユニットと、
    前記バックグラウンド信号の測定に応じて、前記一つ以上のバックグラウンドエリアにおいてバックグラウンド信号を低減するが、前記一つ以上の関心エリアにおいては低減しないように構成される、バックグラウンド低減ユニットと、
    前記一つ以上の関心エリアを増強するが、前記一つ以上のバックグラウンドエリアは増強しないように構成される、画像増強ユニットと
    を有する、蛍光画像処理装置。
  2. 前記蛍光画像を受信するように構成される入力と、
    増強された蛍光画像を出力するように構成される出力と
    をさらに有する、請求項1に記載の蛍光画像処理装置。
  3. 前記蛍光画像を保存するように構成される画像保存ユニットをさらに有する、請求項1に記載の蛍光画像処理装置。
  4. 測定された前記バックグラウンド信号を保存するように構成されるバックグラウンド保存ユニットをさらに有する、請求項1に記載の蛍光画像処理装置。
  5. 増強された前記蛍光画像をディスプレイユニットへ送信するための送信ユニットをさらに有する、請求項1に記載の蛍光画像処理装置。
  6. 蛍光顕微鏡から収集された蛍光画像を受信するための受信ユニットをさらに有する、請求項1に記載の蛍光画像処理装置。
  7. 前記画像セグメンテーションユニットが、動的閾値処理を適用することによって、及び/又は局所的ヒストグラムベース法を適用することによって、前記蛍光画像をセグメント化するように構成される、請求項1に記載の蛍光画像処理装置。
  8. 前記バックグラウンド決定ユニットが前記蛍光画像から平滑化ヒストグラムを作成するように構成される、請求項1に記載の蛍光画像処理装置。
  9. 前記バックグラウンド低減ユニットが、前記一つ以上のバックグラウンドエリアを平滑化することによって、及び/又は前記一つ以上のバックグラウンドエリアをクリッピングすることによって、前記バックグラウンド信号を低減するように構成される、請求項1に記載の蛍光画像処理装置。
  10. 前記画像増強ユニットが、前記一つ以上の関心エリアをブースティングすることによって、及び/又は前記一つ以上の関心エリアをピーキングすることによって、増強するように構成される、請求項1に記載の蛍光画像処理装置。
  11. 蛍光イメージングシステムであって、
    蛍光画像を収集するように構成される蛍光顕微鏡と、
    請求項1に記載の蛍光画像処理装置である、蛍光画像を増強するための蛍光画像処理装置と、
    増強された前記蛍光画像を表示するためのディスプレイユニットと
    を有する、蛍光イメージングシステム。
  12. 蛍光画像を増強するための蛍光画像処理法であって、
    前記蛍光画像を一つ以上の関心エリアと一つ以上のバックグラウンドエリアへセグメント化するステップと、
    前記蛍光画像においてバックグラウンド信号を測定するステップと、
    前記バックグラウンド信号の測定に応じて、前記一つ以上のバックグラウンドエリアにおいてバックグラウンド信号を低減するが、前記一つ以上の関心エリアにおいては低減しないステップと、
    前記一つ以上の関心エリアを増強するが、前記一つ以上のバックグラウンドエリアは増強しないステップと
    を有する、方法。
  13. 蛍光イメージング法であって、
    蛍光画像を収集するステップと、
    請求項12に記載の蛍光画像処理法に従って前記蛍光画像を処理するステップと、
    増強された前記蛍光画像を表示するステップと
    を有する、方法。
  14. 蛍光画像を増強するための蛍光画像処理コンピュータプログラムであって、蛍光画像処理コンピュータプログラムが蛍光画像処理装置を制御するコンピュータ上で実行されるときに、請求項1に記載の蛍光画像処理装置に、請求項12に記載の蛍光画像処理法のステップを実行させるためのプログラムコード手段を有する、蛍光画像処理コンピュータプログラム。
  15. 蛍光イメージングコンピュータプログラムであって、蛍光イメージングコンピュータプログラムが蛍光イメージングシステムを制御するコンピュータ上で実行されるときに、請求項11に記載の蛍光イメージングシステムに、請求項13に記載の蛍光イメージング法のステップを実行させるためのプログラムコード手段を有する、蛍光イメージングコンピュータプログラム。
JP2016529949A 2013-12-04 2014-11-28 蛍光画像処理装置及び方法 Active JP6113925B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
EP13195598.1 2013-12-04
EP13195598 2013-12-04
PCT/EP2014/075931 WO2015082340A1 (en) 2013-12-04 2014-11-28 Fluorescence image processing apparatus and method

Publications (2)

Publication Number Publication Date
JP2016538542A true JP2016538542A (ja) 2016-12-08
JP6113925B2 JP6113925B2 (ja) 2017-04-12

Family

ID=49712981

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016529949A Active JP6113925B2 (ja) 2013-12-04 2014-11-28 蛍光画像処理装置及び方法

Country Status (5)

Country Link
US (1) US9672629B2 (ja)
EP (1) EP3077987B1 (ja)
JP (1) JP6113925B2 (ja)
CN (1) CN105765625B (ja)
WO (1) WO2015082340A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7063680B2 (ja) * 2018-03-29 2022-05-09 住友化学株式会社 画像処理装置、異物検査装置、画像処理方法、および異物検査方法
CN109949238B (zh) * 2019-03-07 2022-11-25 北京麦哲科技有限公司 图像的磨白优化方法和装置

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008527311A (ja) * 2004-12-30 2008-07-24 アート アドヴァンスド リサーチ テクノロジーズ インコーポレイテッド 蛍光画像コントラストを改善するための方法
JP2012163777A (ja) * 2011-02-07 2012-08-30 Nikon Corp 画像処理装置、撮像装置およびプログラム

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5790692A (en) * 1994-09-07 1998-08-04 Jeffrey H. Price Method and means of least squares designed filters for image segmentation in scanning cytometry
US20020186874A1 (en) 1994-09-07 2002-12-12 Jeffrey H. Price Method and means for image segmentation in fluorescence scanning cytometry
DE19801400C2 (de) 1998-01-16 2001-10-18 Petra Perner Verfahren zur automatischen Erkennung, Eigenschaftsbeschreibung und Interpretation von Hep-2-Zellmustern
TW511374B (en) * 2000-06-23 2002-11-21 Thomson Licensing Sa Dynamic control of image enhancement
US7756305B2 (en) 2002-01-23 2010-07-13 The Regents Of The University Of California Fast 3D cytometry for information in tissue engineering
US7082211B2 (en) * 2002-05-31 2006-07-25 Eastman Kodak Company Method and system for enhancing portrait images
US8086006B2 (en) 2007-09-21 2011-12-27 Siemens Aktiengesellschaft Method and system for evaluating image segmentation based on visibility
US8712139B2 (en) * 2008-03-21 2014-04-29 General Electric Company Methods and systems for automated segmentation of dense cell populations
CN101989351A (zh) * 2010-11-16 2011-03-23 西安理工大学 一种肺部疑似结节图像增强方向尺度滤波方法
CN102436648B (zh) * 2011-08-11 2014-01-01 上海交通大学 基于背景荧光消除的目标荧光光谱解混方法
US8605973B2 (en) * 2012-03-17 2013-12-10 Sony Corporation Graph cuts-based interactive segmentation of teeth in 3-D CT volumetric data

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008527311A (ja) * 2004-12-30 2008-07-24 アート アドヴァンスド リサーチ テクノロジーズ インコーポレイテッド 蛍光画像コントラストを改善するための方法
JP2012163777A (ja) * 2011-02-07 2012-08-30 Nikon Corp 画像処理装置、撮像装置およびプログラム

Also Published As

Publication number Publication date
CN105765625B (zh) 2019-06-04
WO2015082340A1 (en) 2015-06-11
CN105765625A (zh) 2016-07-13
US9672629B2 (en) 2017-06-06
JP6113925B2 (ja) 2017-04-12
EP3077987A1 (en) 2016-10-12
US20160314594A1 (en) 2016-10-27
EP3077987B1 (en) 2017-07-05

Similar Documents

Publication Publication Date Title
Jonkman et al. Tutorial: guidance for quantitative confocal microscopy
JP6900581B1 (ja) 顕微鏡スライド画像のための焦点重み付き機械学習分類器誤り予測
US9117273B2 (en) Method and apparatus for single-particle localization using wavelet analysis
EP3776342A1 (en) Method and system for digital staining of label-free fluorescence images using deep learning
US8948488B2 (en) Methods and systems for digitally enhancing an image of a stained material
JP2005525550A (ja) 細胞の迅速自動化スクリーニングシステム及び方法
WO2017150194A1 (ja) 画像処理装置、画像処理方法及びプログラム
Goceri et al. Quantitative validation of anti‐PTBP1 antibody for diagnostic neuropathology use: Image analysis approach
JP6960935B2 (ja) コントロールスライドを使用する改善された画像解析アルゴリズム
JP2020530611A (ja) 染色された標本画像内で細胞を検出するための自動化された方法およびシステム
KR20200028776A (ko) 콘크리트 균열 검출에 대한 영상 처리 기법의 향상된 이진화 방법
JP2014525028A (ja) 組織画像のスペクトル・アンミキシングのための方法およびシステム
JP6113925B2 (ja) 蛍光画像処理装置及び方法
Schumacher et al. THUNDER imagers: how do they really work
JP6246978B2 (ja) 線維化を検出及び定量化する方法
US10627351B2 (en) Inspection of components for imperfections
Du et al. Retrospective shading correction of confocal laser scanning microscopy beef images for three-dimensional visualization
Parton et al. Lifting the fog: Image restoration by deconvolution
Prigent et al. SPITFIR (e): A supermaneuverable algorithm for restoring 2D-3D fluorescence images and videos, and background subtraction
KR20220156564A (ko) 자동화된 형광 이미징 및 단일 셀 분할
JP7160047B2 (ja) 生体物質定量方法、画像処理装置及びプログラム
EP4249850A1 (en) Controller for an imaging system, system and corresponding method
US20240037755A1 (en) Imaging device and method
US20230333021A1 (en) Tissue sample carrier for use in multispectral imaging
US20210366107A1 (en) Sensitivity analysis for digital pathology

Legal Events

Date Code Title Description
A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20161004

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20161011

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20170214

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170221

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170315

R150 Certificate of patent or registration of utility model

Ref document number: 6113925

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250