JP2023542619A - 試料のデジタル画像の品質管理のためのコンピュータ実装方法 - Google Patents

試料のデジタル画像の品質管理のためのコンピュータ実装方法 Download PDF

Info

Publication number
JP2023542619A
JP2023542619A JP2023513082A JP2023513082A JP2023542619A JP 2023542619 A JP2023542619 A JP 2023542619A JP 2023513082 A JP2023513082 A JP 2023513082A JP 2023513082 A JP2023513082 A JP 2023513082A JP 2023542619 A JP2023542619 A JP 2023542619A
Authority
JP
Japan
Prior art keywords
slide
digital image
image
focus
computer
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2023513082A
Other languages
English (en)
Inventor
マイアー,アレクサンダー
デッパーマン,イェンス
レッピン,カイ
デューレン,ヨースト ファン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
F Hoffmann La Roche AG
Original Assignee
F Hoffmann La Roche AG
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by F Hoffmann La Roche AG filed Critical F Hoffmann La Roche AG
Publication of JP2023542619A publication Critical patent/JP2023542619A/ja
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/20Image enhancement or restoration using local operators
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/25Determination of region of interest [ROI] or a volume of interest [VOI]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/56Extraction of image or video features relating to colour
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/764Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10056Microscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20021Dividing image into blocks, subimages or windows
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30024Cell structures in vitro; Tissue sections in vitro
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30168Image quality inspection

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Quality & Reliability (AREA)
  • Computing Systems (AREA)
  • Medical Informatics (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Graphics (AREA)
  • Databases & Information Systems (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Software Systems (AREA)
  • Signal Processing (AREA)
  • Image Processing (AREA)
  • Investigating Or Analysing Materials By Optical Means (AREA)
  • Microscoopes, Condenser (AREA)
  • Image Analysis (AREA)

Abstract

スライド(114)に搭載された試料(112)の少なくとも1つのデジタル画像の品質管理のためのコンピュータ実装方法が提案される。本方法は、以下のステップ、すなわち、a)スライド撮像装置(110)の少なくとも1つの撮像デバイス(116)を使用して、スライド(114)に搭載された試料(112)の少なくとも1つのデジタル画像を提供するステップと、b)少なくとも1つのエッジ検出画像フィルタを使用することによってデジタル画像の少なくとも1つの関心領域のサブ領域のシャープネス値を決定し、関心領域内のシャープネス値を比較することによってデジタル画像の品質を決定するステップであって、関心領域の品質が比較に応じて分類される、決定するステップと、c)品質の分類に応じて、少なくとも1つの表示を生成するステップと、を含み、ステップb)およびc)が自動的に行われる。【選択図】図1A

Description

技術分野
本開示は、試料の少なくとも1つのデジタル画像の品質管理のためのコンピュータ実装方法、スライドに搭載された試料の少なくとも1つのデジタル画像を決定するためのフォーカス品質を決定するためのコンピュータ実装方法、スライド撮像装置の少なくとも1つの撮像デバイスを使用してスライドに搭載された試料の三次元デジタル画像を決定するためのコンピュータ実装方法、スライドに搭載された試料の少なくとも1つのデジタル画像を分析するための機械学習および深層学習モデルを訓練するためのコンピュータ実装方法、ならびにスライド撮像装置に関する。ここで、本装置および方法は、好ましくは、デジタル病理学において使用することができるが、さらなる用途が実現可能である。
背景技術
デジタル病理学、すなわち組織のスライドのデジタル化のためのデジタル画像を分析するための複数の方法および装置が知られている。デジタル病理学のためのデジタル画像を分析することに関して、いくつかの問題が生じることがある。
具体的には、デジタル画像のアーチファクトを正確に分析するために、計算病理学のための臨床デジタルワークフローのための統合自動分析が必要とされる。既知の技術では、焦点が外れた状態の領域は、アルゴリズムを用いた分類の妨げになるため、エラーを回避するためにフラグを立てている。焦点が外れた状態の領域にフラグを立てるために、デジタル画像を検査室の専門家が手作業で精査する必要がある。これには時間がかかり、特に局所的な焦点が外れた状態の領域は、スライドを40倍などの高倍率で精査する必要があるため、検出するのが困難である。Janowczyk A、Zuo R、Gilmore H、Feldman M、Madabhushi A.HistoQC:「An Open-Source Quality Control Tool for Digital Pathology Slides.」、JCO Clin Cancer Inform.2019;3:1-7は、アーチファクトを特定して描写し、コホートレベルの外れ値を発見するための品質管理を実行するためのツールについて記載している。このツールは、画像メトリクス(例えば、色ヒストグラム、輝度、コントラスト)、特徴(例えば、エッジ検出器)、および教師あり分類器(例えば、ペン検出)の組合せを用いて、デジタル化されたスライド上のアーチファクトのない領域を特定する。一般に、上記で概説したように、デジタル画像を分析するための自動化ツールは、アルゴリズムがデジタル画像に適用可能であることを保証するために品質管理が必要であるなど、鮮明な画像を必要とする。シャープネスを定義するための現在の測定には、マイケルソンコントラストとRMSコントラストの2つの手法が考慮される。適用される画像設定、特徴、および教師あり分類器は、デジタル画像の品質管理を提供する。しかしながら、これらの戦略は、混合信号の結果に基づいており、アルゴリズムの適用可能性を直接定義するものではない。
さらに、複数の焦点深度、いわゆるzスタッキングが、焦点が外れた状態に対して異なる効果を有することが知られており、Kohlberger T,Liu Y,Moran M,et al.“Whole-Slide Image Focus Quality:Automatic Assessment and Impact on AI Cancer Detection”,J Pathol Inform,2019を参照されたい。しかしながら、この手法では、スキャン時間およびファイルサイズが非現実的なほど増加する。さらに、しかしながら、一般的な焦点が外れた状態を分類することは困難な場合がある。一般に、フォーカスコイルの公称位置への設定は、グラフィックを用いて確認することができる。しかしながら、この手法では、依然として解釈の余地が残る場合がある。
さらに、デジタル病理学のための3D透視が、スライド上の配向可能性を高めるなどのために、接線方向断面に加えて要求されることがある。3D手法は、アーキテクチャの特徴および特殊な配置における改善された洞察を提供する。2D画像から3D画像を再構成するために様々な試みがなされてきた。大半は、スライドの手動セグメント化に基づいており、これは非常に手間のかかる作業であり、例えば、Jansen I,Lucas M,Savci-Heijink CD,et al.“Histopathology:ditch the slides,because digital and 3D are on show”,World J Urol.2018;36(4):549-555.doi:10.1007/s00345-018-2202-12を参照されたい。労働集約的なプロセスに加えて、最新文献における問題は、本技術の使用を制限する要因となっている。高解像度の3Dデータセットは、可視化するのが困難である。そのため、示されるデータセットの部分を最小限に抑えることが最も重要である。加えて、低い面外解像度は避けなければならない。
焦点が外れた状態の領域は、アルゴリズム性能の精度にマイナスの影響を与える。病理学者が精査する前に焦点が外れた状態の程度が大きすぎる場合、スライドを再スキャンする必要があり、例えば、Liu Y,Kohlberger T,Norouzi M,Dahl GE,Smith JL,Mohtashamian A,et al.“Artificial Intelligence-Based Breast Cancer Nodal Metastasis Detection.Arch Pathol Lab Med.2018”を参照されたい。アルゴリズムデータを訓練するために、様々な組織の形態を捕捉することが必要な場合がある。焦点が外れた状態の領域を認識するようにアルゴリズムを訓練するために、合成GuasianぼかしまたはBokehぼかしを介した実際の焦点が合った画像を用いてこのようなアーチファクトをシミュレートしている。Kohlbergerら(2019年)は、ポイズンノイズまたはJPEGアーチファクトを加えることによって、焦点が外れた状態がさらにより現実的になり、それによってアルゴリズムを訓練するための優れたツールが提供されることを示した。しかしながら、この手法を適用したとしても、焦点が外れた状態が存在する場合には、自動アルゴリズムを使用してロバストで信頼性のある結果を得ることができない場合があり、アルゴリズムがアボートされる。
したがって、上述した技術の成果にもかかわらず、デジタル画像の品質を向上させること、および計算病理学のためのデジタル画像の自動分析の必要性が依然として存在する。
解決される課題
したがって、本発明の目的は、試料の少なくとも1つのデジタル画像の品質管理のためのコンピュータ実装方法、スライドに搭載された試料の少なくとも1つのデジタル画像を決定するためのフォーカス品質を決定するためのコンピュータ実装方法、スライド撮像装置の少なくとも1つの撮像デバイスを使用してスライドに搭載された試料の三次元デジタル画像を決定するためのコンピュータ実装方法、スライドに搭載された試料の少なくとも1つのデジタル画像を分析するための機械学習および深層学習モデルを訓練するためのコンピュータ実装方法、およびスライド撮像装置を提供することであり、これらは、この種の既知のデバイスおよび方法の欠点を少なくとも部分的に回避し、上述の課題に少なくとも部分的に対処する。具体的には、計算病理学のためのデジタル画像およびデジタル画像の自動分析の品質を向上させることである。
概要
この問題は、独立請求項の特徴を有する、試料の少なくとも1つのデジタル画像の品質管理のためのコンピュータ実装方法、スライドに搭載された試料の少なくとも1つのデジタル画像を決定するためのフォーカス品質を決定するためのコンピュータ実装方法、スライド撮像装置の少なくとも1つの撮像デバイスを使用してスライドに搭載された試料の三次元デジタル画像を決定するためのコンピュータ実装方法、スライドに搭載された試料の少なくとも1つのデジタル画像を分析するための機械学習および深層学習モデルを訓練するためのコンピュータ実装方法、ならびにスライド撮像装置によって対処される。単独で、または任意の組合せで実現され得る有利な実施形態は、従属請求項および明細書全体に列挙されている。
以下で使用される場合、「有する(have)」、「備える(comprise)」、もしくは「含む(include)」という用語、またはそれらの任意の文法上の変形は、非排他的な方法で使用される。したがって、これらの用語は、これらの用語によって導入される特徴に加えて、この文脈で説明されるエンティティにさらなる特徴が存在しない状況と、1つまたは複数のさらなる特徴が存在する状況との両方を指す場合がある。一例として、「AはBを有する」、「AはBを備える」および「AはBを含む」という表現は、B以外に他の要素がAに存在しない状況(すなわち、Aが単独でかつ排他的にBからなる状況)と、B以外に、要素C、要素CおよびD、またはさらにはさらなる要素などの、1つまたは複数のさらなる要素がエンティティAに存在する状況との両方を指すことができる。
さらに、特徴または要素が1回または複数回存在することができることを示す「少なくとも1つの」、「1つまたは複数の」という用語または同様の表現は、典型的には、それぞれの特徴または要素を導入するときに1回のみ使用されることに留意されたい。以下では、ほとんどの場合、それぞれの特徴または要素を指すとき、それぞれの特徴または要素が1回または複数回存在することができるという事実にもかかわらず、「少なくとも1つの」または「1つまたは複数の」という表現は、繰り返されない。
さらに、以下で使用される場合、用語「好ましくは」、「より好ましくは」、「特に」、「より特に」、「具体的に」、「より具体的に」または同様の用語は、代替の可能性を制限することなく、任意の特徴と併せて使用される。したがって、これらの用語によって導入される特徴は、任意の特徴であり、特許請求の範囲をいかなる方法によっても制約することは意図されていない。本発明は、当業者が認識するように、代替の特徴を使用することによって実行されてもよい。同様に、「本発明の実施形態において」または同様の表現によって導入される特徴は、本発明の代替の実施形態に関するいかなる制約もなく、本発明の範囲に関するいかなる制約もなく、そのような方法で導入された特徴を本発明の他の任意または非任意の特徴と組み合わせる可能性に関するいかなる制約もない任意の特徴であることが意図されている。
本発明の第1の態様では、スライドに搭載された試料の少なくとも1つのデジタル画像の品質管理のためのコンピュータ実装方法が提案される。
本明細書で使用される「コンピュータ実装」という用語は、広義の用語であり、当業者にとってその通常の慣習的な意味が与えられるべきであり、特別なまたはカスタマイズされた意味に限定されるべきではない。この用語は、具体的には、限定されるものではないが、少なくとも1つの処理ユニットを備えるデータ処理手段などの、データ処理手段を使用することによって完全にまたは部分的に実装されるプロセスを指すことができる。したがって、「コンピュータ」という用語は、一般に、少なくとも1つの処理ユニットなどの少なくとも1つのデータ処理手段を有する装置、または装置の組合せもしくはネットワークを指すことができる。コンピュータは、データ記憶装置、電子インターフェース、またはヒューマンマシンインターフェースのうちの少なくとも1つなどの、1つまたは複数のさらなる構成要素をさらに備えてもよい。
本明細書で使用される「処理ユニット」という用語は、広義の用語であり、当業者にとってその通常の慣習的な意味が与えられるべきであり、特別なまたはカスタマイズされた意味に限定されるべきではない。この用語は、具体的には、限定されるものではないが、コンピュータまたはシステムの基本動作を実行するように構成された任意の論理回路、および/または一般に、計算または論理演算を実行するように構成された装置を指すことができる。特に、処理ユニットは、コンピュータまたはシステムを駆動する基本的な命令を処理するように構成されてもよい。一例として、処理ユニットは、少なくとも1つの算術論理ユニット(ALU)と、数値演算コプロセッサまたは数値コプロセッサなどの少なくとも1つの浮動小数点ユニット(FPU)と、複数のレジスタ、具体的には、ALUにオペランドを供給し、演算の結果を記憶するように構成されたレジスタと、L1およびL2キャッシュメモリなどのメモリとを備えることができる。特に、処理ユニットは、マルチコアプロセッサであってもよい。具体的には、処理ユニットは、中央処理装置(CPU)であってもよく、またはCPUを備えてもよい。追加的または代替的に、処理ユニットは、マイクロプロセッサであってもよく、またはマイクロプロセッサを備えてもよく、したがって、具体的には、処理ユニットの要素は、単一の集積回路(IC)チップに含まれてもよい。追加的または代替的に、処理ユニットは、1つもしくは複数の特定用途向け集積回路(ASIC)および/または1つもしくは複数のフィールドプログラマブルゲートアレイ(FPGA)などであってもよく、またはそれらを備えてもよい。
本明細書で使用される「試料」という用語は、広義の用語であり、当業者にとってその通常の慣習的な意味が与えられるべきであり、特別なまたはカスタマイズされた意味に限定されるべきではない。この用語は、具体的には、限定されるものではないが、組織試料などの生物学的検体を指すことができる。試料は、組織または塗抹標本などの生物学的材料であってもよく、または生物学的材料を含んでもよい。しかしながら、他の種類の試料も実現可能であってもよい。
本明細書で使用される「スライド」という用語は、広義の用語であり、当業者にとってその通常の慣習的な意味が与えられるべきであり、特別なまたはカスタマイズされた意味に限定されるべきではない。この用語は、具体的には、限定されるものではないが、スライドの表面に搭載される試料のために指定された基材を指すことができる。特に、処理中にいかなる変化もなく試料をスライドに担持する目的で、基材は、機械的に安定しており、したがって、十分な機械的安定性を提供する任意の材料を含むことができる。特に生物学的検体を担持する目的で、基材は、好ましくは、生物学的材料と適合するように構成された表面を呈することができる。例として、ガラスは、一方では十分な機械的安定性を提供し、他方では生物学的材料との高い適合性を有することが知られているため、スライドは、ガラススライドである。しかしながら、スライドのためのさらなる種類の材料も実現可能であってもよい。試料の所望の画像を生成する目的で、スライドは、好ましくは、2D延在部および厚さを有するプレートであってもよく、プレートの2D延在部は、好ましくは、長方形または円形の形態を呈してもよく、プレートの厚さは、延在部のサイズと比較して小さくてもよく、プレートの2D延在部の直線的な広がりの尺度よりも、好ましくは20%、より好ましくは10%、特に5%、またはそれ未満であってもよい。
さらに、スライドは、特に、スライドに搭載された試料の撮像を可能にすることができる形態を有することができる。本明細書で使用される「撮像する」または「画像を生成する」という用語は、広義の用語であり、当業者にとってそれらの通常の慣習的な意味が与えられるべきであり、特別なまたはカスタマイズされた意味に限定されるべきではない。これらの用語は、具体的には、限定されるものではないが、「画像」という用語によっても表記される試料の少なくとも1つの特性の2D 二次元表現を提供することを指すことができ、2D 二次元表現は、典型的には、観察者の眼鏡は別として、好ましくはいかなるさらなる補助もなしに、観察者の眼によって見られるように処理され、画面上に表示され得る。この目的のために、以下でより詳細に開示されるような撮像デバイスが典型的には使用される。本明細書で使用される「デジタル画像」という用語は、広義の用語であり、当業者にとってその通常の慣習的な意味が与えられるべきであり、特別なまたはカスタマイズされた意味に限定されるべきではない。この用語は、具体的には、限定されるものではないが、画像の離散的で不連続な表現を指すことができる。したがって、「デジタル画像」という用語は、二次元関数f(x,y)を指すことができ、強度および/または色値は、デジタル画像内の任意のx、y位置に対して与えられ、位置は、デジタル画像の記録画素に対応して離散化されていてもよい。
本明細書で使用される「品質」という用語は、広義の用語であり、当業者にとってその通常の慣習的な意味が与えられるべきであり、特別なまたはカスタマイズされた意味に限定されるべきではない。この用語は、具体的には、限定されるものではないが、自動分析に対する適合性に関するデジタル画像の状態を指すことができる。具体的には、「品質」という用語は、デジタル画像のシャープネスまたはぼやけまたは焦点が外れた状態の量の指標を指す。
本明細書で使用される「シャープネス」という用語は、広義の用語であり、当業者にとってその通常の慣習的な意味が与えられるべきであり、特別なまたはカスタマイズされた意味に限定されるべきではない。この用語は、具体的には、解像度および鮮鋭度(acutance)の尺度を指すことができるが、これらに限定されない。具体的には、シャープネスは、色値、グレースケール、強度、輝度のうちの1つまたは複数を使用することによって、デジタル画像の異なる領域の区別可能性および/または識別可能性を示す、デジタル画像の特性を指すことがある。シャープネスは、デジタル画像の領域間のコントラスト、すなわち、領域の輝度および/または色値の差または変化に関連してもよい。
本明細書で使用される「品質管理」という用語は、広義の用語であり、当業者にとってその通常の慣習的な意味が与えられるべきであり、特別なまたはカスタマイズされた意味に限定されるべきではない。この用語は、具体的には、限定されるものではないが、デジタル画像および/またはデジタル画像の少なくとも1つの関心領域のシャープネスを監視および/または判定することを指すことができる。
コンピュータ実装方法は、所与の順序で実行されてもよい以下のステップを含む。しかしながら、異なる順序も可能である。さらに、ステップの1つまたは2つ以上またはさらには全てが、1回または繰り返し実行されてもよい。さらに、方法ステップは、適時重複して、またはさらには並行して実行されてもよい。本方法は、列挙されていない追加の方法ステップをさらに含むことができる。
本方法は、以下のステップ、すなわち、
a)スライド撮像装置の少なくとも1つの撮像デバイスを使用して、スライドに搭載された試料の少なくとも1つのデジタル画像を提供するステップと、
b)少なくとも1つのエッジ検出画像フィルタを使用することによってデジタル画像の少なくとも1つの関心領域のサブ領域のシャープネス値を決定し、関心領域内のシャープネス値を比較することによってデジタル画像の品質を決定するステップであって、関心領域の品質が比較に応じて分類される、決定するステップと、
c)品質の分類に応じて、少なくとも1つの表示を生成するステップと、
を含み、ステップb)およびc)が自動的に行われる。
本明細書で使用される「デジタル画像を提供するステップ」という用語は、広義の用語であり、当業者にとってその通常の慣習的な意味が与えられるべきであり、特別なまたはカスタマイズされた意味に限定されるべきではない。この用語は、具体的には、限定されるものではないが、少なくとも1つのデジタル画像を撮像および/または生成することを指すことができる。
本明細書で使用される「スライド撮像装置」という用語は、広義の用語であり、当業者にとってその通常の慣習的な意味が与えられるべきであり、特別なまたはカスタマイズされた意味に限定されるべきではない。この用語は、具体的には、限定されるものではないが、スライドに搭載された試料を撮像するように構成された任意の装置を指すことができる。さらに、本明細書で使用される「装置」および「スライド撮像装置」という用語は、広義の用語であり、当業者にとってそれらの通常の慣習的な意味を与えられるべきであり、特別なまたはカスタマイズされた意味に限定されるべきではない。これらの用語は、具体的には、限定されるものではないが、以下でより詳細に開示されるような複数の構成要素を有する装置を指すことができる。
スライド撮像装置は、少なくとも1つの撮像デバイスを備える。本明細書で使用される「撮像デバイス」という用語は、広義の用語であり、当業者にとってその通常の慣習的な意味が与えられるべきであり、特別なまたはカスタマイズされた意味に限定されるべきではない。この用語は、具体的には、限定されるものではないが、試料の少なくとも1つの視覚特性の2D表現を生成するために指定されたデバイスを指すことができる。特に、撮像デバイスは、2Dカメラまたはラインスキャン検出器から選択されてもよい。しかしながら、さらなる種類の撮像デバイスも実現可能であってもよい。
スライド撮像装置は、複数のスライドを装填可能な、スライドを保管するように構成された保管装置を備えることができる。本明細書で使用される「保管装置」という用語は、広義の用語であり、当業者にとってその通常の慣習的な意味が与えられるべきであり、特別なまたはカスタマイズされた意味に限定されるべきではない。この用語は、具体的には、限定されるものではないが、個々のスライドホルダ、あるいは2つ以上のスライドホルダを同時に受け入れるために指定されたスライドリポジトリを指すことができ、各スライドホルダが2つ以上のスライドを保持するように構成されている。保管装置は、スライドトレイまたはスライドラックから選択されてもよいが、さらなるタイプの保管装置も実現可能であってもよい。保管装置は、好ましくは手動で、少なくとも1つのスライドを装填可能であってもよいが、保管装置の自動装填も考えられ得る。
スライド撮像装置は、少なくとも1つのスライドを保管装置から撮像デバイスに供給するように構成された供給装置を備えることができる。本明細書で使用される「供給装置」という用語は、広義の用語であり、当業者にとってその通常の慣習的な意味が与えられるべきであり、特別なまたはカスタマイズされた意味に限定されるべきではない。この用語は、具体的には、限定されるものではないが、スライドを保管装置から撮像デバイスに移送するように構成されたデバイスを指すことができる。この目的のために、供給装置は、ロボットアームを備えることができる。
本明細書で使用される「関心領域」という用語は、広義の用語であり、当業者にとってその通常の慣習的な意味が与えられるべきであり、特別なまたはカスタマイズされた意味に限定されるべきではない。この用語は、具体的には、限定されるものではないが、分析されるデジタル画像の任意の形状の領域またはエリアを指すことができる。関心領域は、デジタル画像全体またはデジタル画像の一部であってもよい。関心領域は、分析される少なくとも1つの特徴を含むか、または含むと疑われる画像の領域であってもよい。デジタル画像は、例えば、m行n列を有する矩形配列などの画素配列で配置された複数の画素を含む画素化された画像であってもよく、m、nは独立して正の整数である。関心領域は、任意の数の画素を含む画素群であってもよく、または画素群を含んでもよい。本明細書で使用される「サブ領域」という用語は、広義の用語であり、当業者にとってその通常の慣習的な意味が与えられるべきであり、特別なまたはカスタマイズされた意味に限定されるべきではない。この用語は、具体的には、限定されるものではないが、少なくとも1つの画素または画素群を含む関心領域の任意の部分または要素、特に画像要素を指すことができる。サブ領域は、関心領域の正方形領域であってもよい。関心領域は、複数の画素などの複数のサブ領域を含むことができる。
本明細書で使用される「エッジ」という用語は、広義の用語であり、当業者にとってその通常の慣習的な意味が与えられるべきであり、特別なまたはカスタマイズされた意味に限定されるべきではない。この用語は、具体的には、限定されるものではないが、強度および/または色値が局所的な変化および/または不連続性を有するデジタル画像の領域を指すことができる。
本明細書で使用される「エッジ検出画像フィルタ」という用語は、広義の用語であり、当業者にとってその通常の慣習的な意味が与えられるべきであり、特別なまたはカスタマイズされた意味に限定されるべきではない。この用語は、具体的には、限定されるものではないが、関心領域のエッジを識別するように構成された少なくとも1つの画像処理ツールを指すことができる。好ましくは、エッジ検出画像フィルタは、ラプラスフィルタである。ラプラスフィルタは、強度および/または色値の二次微分に基づいてもよく、したがって、局所極値を決定することができる。エッジ検出画像フィルタは、局所極値に基づいてエッジ検出を行うように構成されてもよい。特に、エッジ検出フィルタは、強いエッジおよび/または勾配を強調することができる。具体的には、本方法は、ラプラスフィルタによって定義された1つのパラメータに基づいて、デジタル画像のシャープネスをサブ領域レベルで、好ましくは画素レベルで定義することを含むことができる。エッジ検出フィルタは、それぞれの局所極値に応じて、サブ領域のそれぞれにグレー値を割り当てるように構成されてもよい。ラプラスフィルタを使用することは、SobelまたはCannyフィルタのような一次微分フィルタで必要とされるような、カーネルを回転させてxまたはy方向を得る必要性がないため、有利な場合がある。
本発明は、シャープネスを定義するために、エッジおよび/または勾配フィルタとしてラプラシアンフィルタを使用することを提案する。ラプラシアンフィルタは、通常、画像の急激な変化の領域を見つけるために使用される微分フィルタであるため、シャープネスを定義するためにラプラシアンフィルタを使用することは、これまで提案されていなかった。画像処理などの他の用途、例えばエッジ検出および動き推定用途では、離散ラプラス演算子が広く使用されているが、関心領域内のシャープネスおよびシャープネス値の比較を定義するためには使用されていない。
本明細書で使用される「シャープネス値」という用語は、広義の用語であり、当業者にとってその通常の慣習的な意味が与えられるべきであり、特別なまたはカスタマイズされた意味に限定されるべきではない。この用語は、具体的には、限定されるものではないが、強度および/または色値の局所極値を指すことができる。シャープネス値は、色勾配または強度勾配をさらに指すことができる。
本明細書で使用される「シャープネス値を比較する」という用語は、広義の用語であり、当業者にとってその通常の慣習的な意味が与えられるべきであり、特別なまたはカスタマイズされた意味に限定されるべきではない。この用語は、具体的には、限定されるものではないが、関心領域のサブ領域の局所極値を比較するプロセスを指すことができる。本方法は、関心領域の最大の局所極値を決定することを含んでもよい。最大の局所極値は、関心領域のサブ領域の最高の局所極値であってもよい。本方法は、関心領域の最小の局所極値を含んでもよい。最小の局所極値は、関心領域のサブ領域の最低の局所極値であってよい。本方法は、最大の局所極値から開始して最小の局所極値まで降順にサブ領域の局所極値をソートすることを含んでもよい。しかしながら、昇順ソートも可能である。比較は、局所極値の関係を決定するための少なくとも1つの数学的演算を含むことができる。
関心領域の品質が比較に応じて分類される。最大の局所極値は、最高のシャープネスとして分類されてもよい。最小の局所極値は、最低のシャープネスとして分類されてもよい。サブ領域の局所極値は、最大の局所極値から開始して最小の局所極値まで降順に分類されてもよい。
本方法は、焦点が外れた状態のしきい値を設定することをさらに含んでもよい。本明細書で使用される「焦点が外れた状態のしきい値」という用語は、広義の用語であり、当業者にとってその通常の慣習的な意味が与えられるべきであり、特別なまたはカスタマイズされた意味に限定されるべきではない。この用語は、具体的には、限定されるものではないが、最大の局所極値に対する最小値を定義するしきい値を指すことができる。例えば、焦点が外れた状態のしきい値は、最大の局所極値に対する最小値として、制御された画像セットの99%で達成され得る高品質の絶対シャープネスに設定されてもよい。関心領域の決定された最大の局所極値が焦点が外れた状態のしきい値を下回る場合、デジタル画像は、拒絶され、および/または低品質として分類されてもよい。焦点が外れた状態のしきい値を使用することで、完全に焦点が外れた状態のデジタル画像が認識されないようにすることができる場合がある。
上記で概説したように、本方法は、品質の分類に応じて少なくとも1つの表示を生成するステップを含む。本明細書で使用される「表示」という用語は、広義の用語であり、当業者にとってその通常の慣習的な意味が与えられるべきであり、特別なまたはカスタマイズされた意味に限定されるべきではない。この用語は、具体的には、限定されるものではないが、関心領域の品質の可視化などの出力を指すことができる。例えば、表示は、フォーカスマップとも表記されるヒートマップを含むグラフィカル表示であってもよい。ヒートマップは、サブ領域のシャープネス値をサブ領域の画像座標の関数としてマッピングすることによって生成されてもよい。ヒートマップを生成することは、シャープネス値のそれぞれに色空間の色値を割り当てることを含んでもよい。例えば、色空間は、RGB色空間であってもよい。RGB色空間は、3つの色チャネル、すなわち、赤(R)用の色チャネル、緑(G)用の色チャネル、および青(B)用の色チャネルを有する色空間であってもよい。色空間は、高品質に対する白255から焦点が外れた状態に対する黒0までの範囲であってもよい。したがって、白の最大値255は、デジタル画像の最も鮮明な部分を表すことができる。ヒートマップは、高品質に対する白255から焦点が外れた状態に対する黒0までを伴う、赤と黄のみの色値など、1つまたは2つの色のみを含んでもよい。
例えば、サブ領域は、デジタル画像の画素に対応してもよい。ヒートマップを生成することは、関心領域の画素群を選択することと、関心領域の画素群のそれぞれについて平均シャープネス値を決定することと、平均シャープネス値を関心領域の画像座標の関数としてマッピングすることと、を含むことができる。具体的には、ヒートマップを生成することは、画素群内の平均グレー値を決定することを含むことができる。平均グレー値は、全てのグレー値の合計を、画像領域のサブ領域の数、特に画素数で割って計算することによって決定されてもよい。平均グレー値を計算するために、黒画素は、含まれなくてもよく、または破棄されてもよい。黒画素は、組織のコントラストがなく、鮮明でも不鮮明でもあり得ない画素であってもよい。したがって、画素という用語は、記述的な測定値を指すことがある。
シャープネス値に基づいて決定された品質は、計算病理学に使用される分類アルゴリズムの適用可能性に直結していてもよい。例えば、デジタル画像のサブ領域の品質が予め定義されたしきい値を超える場合、少なくとも1つの分類アルゴリズムを使用してデジタル画像をさらに評価することができる。例えば、予め定義されたしきい値は、最大のシャープネス値の15%であってもよい。例えば、デジタル画像のサブ領域の焦点が外れた状態の割合が予め定義されたしきい値を下回る場合、少なくとも1つの分類アルゴリズムを使用してデジタル画像をさらに評価することができる。例えば、予め定義されたしきい値は、スライド画像全体の最大10%であってもよい。生成された表示は、染色、組織の折り重なり、およびぼやけに起因するアーチファクトを識別することを可能にする場合がある。
本方法は、少なくとも1つのユーザインターフェースを使用することによって、表示、特にヒートマップを表示することを含むことができる。本明細書で使用される「ユーザインターフェース」という用語は、広義の用語であり、当業者にとってその通常の慣習的な意味が与えられるべきであり、特別なまたはカスタマイズされた意味に限定されるべきではない。この用語は、具体的には、限定されるものではないが、ディスプレイ、スクリーンなどの表示を行うように構成されたヒューマンマシンインターフェースを指すことができる。
本方法は、必要に応じて新しいスキャンを自動的に順序付けることを含むことができる。特に、ヒートマップが望ましくない画像位置にアーチファクトまたはぼけを示す場合、本方法は、方法ステップa)~c)を自動的に繰り返すステップを含んでもよい。
本方法は、自動的に、いかなる手動ステップまたはユーザとの相互作用もなしに、好ましくは完全に自動的に行われてもよい。しかしながら、ステップa)が、上記で概説したような試料の装填などの手動ステップを含む実施形態も実現可能であってもよい。したがって、少なくともデジタル画像の品質を決定するステップb)および表示を生成するステップc)は、完全に自動的に行われる。完全に自動で品質を決定することおよび表示を生成することは、人間の目でデジタル画像を制御することと比較して、焦点が外れた状態の領域およびアーチファクトの識別に優れている。
ステップb)およびc)は、少なくとも1つの制御および評価装置を使用して行われてもよい。本明細書でさらに使用されるように、「制御および評価装置」という用語は、一般に、好ましくは少なくとも1つのデータ処理デバイスを使用することによって、より好ましくは少なくとも1つのプロセッサおよび/または少なくとも1つの特定用途向け集積回路を使用することによって、指定された動作を実行するように構成された任意のデバイスを指す。したがって、一例として、少なくとも1つの制御および評価装置は、いくつかのコンピュータコマンドを含むソフトウェアコードが記憶された少なくとも1つのデータ処理デバイスを含むことができる。制御および評価装置は、指定された動作の1つまたは複数を実行するための1つまたは複数のハードウェア要素を提供することができ、および/または、指定された動作の1つまたは複数を実行するためのソフトウェアが実行される1つまたは複数のプロセッサを提供することができる。制御および評価装置は、ステップb)およびc)を実行するように構成された1つまたは複数のコンピュータ、特定用途向け集積回路(ASIC)、デジタル信号プロセッサ(DSP)、またはフィールドプログラマブルゲートアレイ(FPGA)などの、1つまたは複数のプログラマブルデバイスを含むことができる。しかしながら、追加的または代替的に、制御および評価装置は、完全にまたは部分的にハードウェアによって具現化されてもよい。
例えば、本発明に記載されるような品質管理は、以下のように行われてもよい。12,000画素未満の幅を有するデジタル画像を画像ピラミッドから選択することができる。RGB色空間から、赤の色チャネル値のみ取得することができる。ガウスフィルタの近似である二項平滑化フィルタを適用して、例えば7×7画素のフィルタサイズで画素の強度および/または色値を変換することによって、小さな高周波の干渉を除去することができる。次のステップでは、二次微分に基づくラプラスフィルタが、近傍の8個の連結画素(3×3画素)を考慮して、エッジ検出に適用されてもよい。ヒートマップについては、画像の最も鮮明な部分に対する白255から、焦点が外れた状態かまたは情報が全くない部分に対する黒0までがある、RGB色空間の赤の色チャネル値が採用されてもよい。焦点が外れた状態のサブ領域は、最大シャープネス値の12%の所定のしきい値に基づいて定義されてもよい。サブ領域は、8個の連結画素を考慮して、サブ領域の近傍に関連していてもよい、直接的に関連するn個の画素から存在する。小さすぎる不鮮明な領域を回避するために、総画素数の1.5%のしきい値を設定することができ、これは、画素数nを画像の全画素数の割合に変換することによって計算することができる。
本発明による品質管理のための方法は、デジタル画像のシャープネスを決定することを可能にすることができる。したがって、デジタル画像は、焦点が外れた状態である場合にフラグを立てられて、ぼやけた領域を見逃すこと、スライド画像の不良による遅延、およびデジタル画像の手動プレスキャンのうちの1つまたは複数を回避することができる。本発明による品質管理のための方法は、自動化された統合された画像分析を可能にすることができる。
本発明のさらなる態様では、スライドに搭載された試料の少なくとも1つのデジタル画像を決定するためのフォーカス品質を決定するためのコンピュータ実装方法が開示される。本方法は、具体的には所与の順序で実行されてもよい以下の方法ステップを含む。それでも、異なる順序も可能である。さらに、2つ以上の方法ステップを完全にまたは部分的に同時に実行することが可能である。さらに、方法ステップの1つもしくは複数またはさらには全てが、1回または数回繰り返されるなど、1回実行されてもよく、または繰り返し実行されてもよい。さらに、本方法は、列挙されていない追加の方法ステップを含むことができる。
本方法は、以下のステップ、すなわち、
i)スライド撮像装置の少なくとも1つの撮像デバイスを使用して、スライドに搭載された試料のデジタル画像のzスタックを決定するステップであって、撮像デバイスが焦点距離を有する少なくとも1つのトランスファデバイスを備え、zスタックがトランスファデバイスとスライドとの間の少なくとも3つの異なる距離において決定される複数のデジタル画像を含む、決定するステップと、
ii)上述したようにまたは以下でより詳細に説明するように、品質管理のための本発明による品質管理のためのコンピュータ実装方法を使用することによって、zスタックのデジタル画像のそれぞれの複数の画像領域のシャープネスに関する情報を決定するステップと、
iii)画像領域のそれぞれについて距離の関数としてシャープネスに関する情報のグラフィカル表示を生成するステップと、
を含む。
上記で概説したように、ステップii)は、上述したようにまたは以下でより詳細に説明するように、品質管理のための本発明による品質管理のためのコンピュータ実装方法を使用するステップを含む。したがって、可能な定義、選択肢、または実施形態については、上記の説明を参照することができる。
本明細書で使用される「トランスファデバイス」という用語は、広義の用語であり、当業者にとってその通常の慣習的な意味が与えられるべきであり、特別なまたはカスタマイズされた意味に限定されるべきではない。この用語は、具体的には、限定されるものではないが、入射光ビームに応じた焦点距離を有する、1つまたは複数の光学素子を指すことができる。トランスファデバイスは、具体的には、少なくとも1つのレンズ、例えば、少なくとも1つの屈折レンズ、少なくとも1つの焦点調整可能レンズ、少なくとも1つの非球面レンズ、少なくとも1つの球面レンズ、少なくとも1つのフレネルレンズからなる群から選択された少なくとも1つのレンズ、少なくとも1つの回折光学素子、少なくとも1つのマルチレンズシステムのうちの1つまたは複数を含んでもよい。本明細書で使用される「焦点距離」という用語は、広義の用語であり、当業者にとってその通常の慣習的な意味が与えられるべきであり、特別なまたはカスタマイズされた意味に限定されるべきではない。この用語は、具体的には、限定されるものではないが、トランスファデバイスに衝突することができる入射平行光線を合焦させる距離を指すことができ、焦点としても表記されることがある。したがって、焦点距離は、入射光ビームを集束させるトランスファデバイスの能力の尺度を構成する。
トランスファデバイスは、座標系を構成することができ、「z」は、光軸に沿った座標である。座標系は、トランスファデバイスの光軸がz軸を形成し、z軸からの距離および極角が追加の座標として使用され得る、極座標系であってもよい。z軸に沿った座標は、長手方向座標zと考えることができる。
本明細書で使用される「zスタック」という用語は、広義の用語であり、当業者にとってその通常の慣習的な意味が与えられるべきであり、特別なまたはカスタマイズされた意味に限定されるべきではない。この用語は、具体的には、限定されるものではないが、トランスファデバイスとスライドとの間の少なくとも3つの異なる距離で、すなわち異なるzレベルで撮像された少なくとも3つのデジタル画像のセットを指すことができる。具体的には、2つのデジタル画像が、フォーカス面の1つ上の層および1つ下の層において決定されてもよい。zスタックのデジタル画像は、20倍または40倍の倍率などの高倍率ビューを含むことができる。
ステップi)は、撮像デバイスを使用することによって第1のデジタル画像を撮像するステップを含むことができる。例えば、第1のデジタル画像は、スライド撮像装置によって自動的に決定された推奨最適フォーカス面である、いわゆるシードフォーカス面での撮像であってもよい。例えば、スライド撮像装置は、シードフォーカス面に関する情報が記憶された少なくとも1つのデータベースを備えてもよい。
zスタックを決定するために、毎回2つの層が追加される。例えば、2つの追加のデジタル画像は、焦点を含む層から±εの距離にある層で撮像されてもよく、εは正の数である。具体的には、1つのデジタル画像は、第1のデジタル画像の画像面の上方で撮像されてもよく、1つのデジタル画像は、第1のデジタル画像の画像面の下方で撮像されてもよい。zスタックのデジタル画像の前記距離は、品質管理のための方法のステップb)で決定された相対強度および/または色の変化に基づいて定義することができる。具体的には、距離は、2つの層のデジタル画像のシャープネス値が関心領域において異なり得るように定義することができる。距離は、2つの層のデジタル画像のシャープネス値が、所定の許容範囲を超えて、例えば少なくとも5%を超えて異なってもよいように定義することができる。焦点を含む層からの距離±εは、精度に応じて選択することができる。例えば、zスタックは、被写界深度によって、および被写体のサイズを知ることによって定義される距離ε=1μmにおいて決定される複数のデジタル画像を含むことができる。しかしながら、距離εおよび/または等距離でない距離に対する他の値が実現可能である。zスタックの例では、距離εは、0.1μm、0.2μm、0.25μm、0.5μmであってもよい。さらに、1、3、5、7、9、11、13および15層が選択されてもよい。
本明細書で使用される「フォーカス品質」という用語は、広義の用語であり、当業者にとってその通常の慣習的な意味が与えられるべきであり、特別なまたはカスタマイズされた意味に限定されるべきではない。この用語は、具体的には、限定されるものではないが、異なるzレベルでの焦点が外れた状態の領域の量の尺度を指すことができる。例えば、フォーカス品質は、シャープネス値が予め定義されたしきい値を上回る場合は、良好または適切であると判定されてもよく、そうでない場合は、フォーカス品質は、悪いまたは適切でないと判定されてもよい。例えば、予め定義されたしきい値は、最大のシャープネス値の15%であってもよい。
グラフィカル表示は、特に予め定義された数の試料について、zレベルに対してプロットされたシャープネス値を含むことができる。シャープネスに関する情報を決定することおよびグラフィック表示を生成することは、少なくとも1つの制御および評価装置を使用することによって行われてもよい。
本方法は、グラフィカル表示に応じて、トランスファデバイスとスライドとの間の異なる距離に対してトランスファデバイスのフォーカス設定を調整することを含むことができる。フォーカス機構アセンブリの高さを調整する手順は、被写界深度の調整を指す。フォーカスコイルを含むフォーカス機構の高さは、z=0で焦点を合わせ始めるときに最高の平均シャープネスが得られるように調整することができる。トランスファデバイスを備えるフォーカス機構アセンブリは、仕様レベルを超えることなく、その極値に設定されてもよい。フォーカスコイルの公称フォーカス位置の高さの設定を確認するために、フォーカスコイルが停止され、ライントレースがフォーカスカメラから表示される。ライントレースは、キャステレーション光学系に基づく受信信号を表す。表示された曲線の精度は、フォーカスコイルおよびトランスファデバイスを含むフォーカス機構アセンブリの高さが正しく調整されているかどうかを示すことができる。ライントレースは、上部の水平バーの3つの色が分離されている場合に許容可能である。既知のデバイスでは、フォーカス機構アセンブリは、ねじで固定されている場合があり、手動で調整しなければならない。本発明は、本発明に記載されるような品質管理に基づいてフォーカス機構アセンブリの高さを自動的に調整することを提案する。テストを正確に行わなければならず、時間がかかるため、このような自動化された手法は、特に有用である。zレベルに対する焦点が外れた状態のクラスに基づく強い「v」字形状の傾向に基づいてz=0を定義するために、品質の平均的尺度が達成される前に多くのテストを行う必要があった、Kohlberger T,Liu Y,Moran M,et al.“Whole-Slide Image Focus Quality:Automatic Assessment and Impact on AI Cancer Detection”,J Pathol Inform,2019に記載された手動手法とは対照的に、本発明によって提案される方法は、自動化により労働効率的である。
被写界深度を調整するためのフォーカス設定の調整を自動的に行うことができる。具体的には、zスタックの決定、シャープネスに関する情報の決定、およびグラフィカル表示の生成は、少なくとも1つの制御および評価装置を使用することなどによって自動的に行うことができる。
本方法は、少なくとも1つのユーザインターフェースを使用することなどによって、グラフィカル表示を行うことをさらに含むことができる。
本発明によるフォーカス品質を決定するための方法は、z=0で焦点が外れた状態の領域を得る統計的可能性を減らすことを可能にすることができる。最適に設定された場合、z=0におけるぼけの予測確率は、可能な限り低い値であるべきであるが、統計的偏差は0%ではない。
本発明のさらなる態様では、スライド撮像装置の少なくとも1つの撮像デバイスを使用して、スライドに搭載された試料の三次元デジタル画像を決定するためのコンピュータ実装方法が開示される。撮像デバイスは、焦点距離を有する少なくとも1つのトランスファデバイスを備える。本方法は、具体的には所与の順序で実行されてもよい以下の方法ステップを含む。それでも、異なる順序も可能である。さらに、2つ以上の方法ステップを完全にまたは部分的に同時に実行することが可能である。さらに、方法ステップの1つもしくは複数またはさらには全てが、1回または数回繰り返されるなど、1回実行されてもよく、または繰り返し実行されてもよい。さらに、本方法は、列挙されていない追加の方法ステップを含むことができる。
本方法は、以下のステップ、すなわち、
- 二次元デジタル画像のzスタックを決定するステップであって、zスタックがスライド撮像装置によって決定された推奨最適フォーカス面であるシードフォーカス面を起点としてスライドとトランスファデバイスとの間の少なくとも3つの異なる距離で試料を撮像することによって決定され、シードフォーカス面で撮像された第1の二次元画像が第1のシャープネス値を有し、前記距離が、異なる距離で決定された二次元デジタル画像のシャープネス値が第1のシャープネス値と異なり、かつ互いに異なるように、上述したようにまたは以下でより詳細に説明するように、本発明による品質管理のためのコンピュータ実装方法を使用することによって決定されたシャープネス値に基づいて定義される、決定するステップと、
- 品質の分類に応じた表示を使用することによって、zスタックの各デジタル二次元画像の焦点が合った領域を選択するステップと、
- シードフォーカス面とzスタックの各デジタル二次元画像の焦点が合った領域とに関する情報を組み合わせることによって、三次元デジタル画像を決定するステップと、
を含む。
可能な定義、選択肢、または実施形態については、上記の方法の説明を参照することができる。
本発明によるこの方法は、最良のフォーカス値を有するz=0のzスタックに基づく3D画像の構築を提案する。
デジタル画像は、20倍または40倍の倍率のデジタル画像であってもよい。
zスタックのデジタル画像の前記距離は、品質管理のための方法のステップb)で決定された相対強度および/または色の変化に基づいて定義することができる。具体的には、距離は、2つの層のデジタル画像のシャープネス値が関心領域において異なり得るように定義することができる。距離は、2つの層のデジタル画像のシャープネス値が、所定の許容範囲を超えて、例えば少なくとも5%を超えて異なってもよいように定義することができる。焦点を含む層からの距離±εは、精度に応じて選択することができる。例えば、zスタックは、被写界深度によって、および被写体のサイズを知ることによって定義される距離ε=1μmにおいて決定される複数のデジタル画像を含むことができる。しかしながら、距離εおよび/または等距離でない距離に対する他の値が実現可能である。zスタックの例では、距離εは、0.1μm、0.2μm、0.25μm、0.5μmであってもよい。さらに、1、3、5、7、9、11、13および15層が選択されてもよい。
スライド撮像装置は、試料の下縁上の最も高い垂直延長線付近のzスタックに基づいて、シーディング点とも表記されるシード点を選ぶことによって、各スライドに対してフォーカス面を定義することができる。結果として、最良のフォーカス面、すなわちシード面を定義することができる。スライド撮像装置は、動的前方視焦点追跡機構から導出されるデータに基づいて、デジタル画像の走査中にフォーカス面を連続的に更新するように構成されてもよい。具体的には、スプリットミラーおよびキャステレーション光学系により、撮像カメラの隣のフォーカスカメラを同時に走査して、信号の焦点が合っているかどうかを定義することが可能になる場合がある。この情報を直接使用して、フォーカス機構アセンブリの動的フォーカスコイルの出力を調整し、トランスファデバイスの高さを調整することができる。zスタックの各層に対して、前方視追跡機構が適用されてもよい。
本方法の第1のステップは、シード面において第1の二次元デジタル画像を撮像するステップと、スライドとトランスファデバイスとの間の2つの異なる距離において少なくとも2つのさらなる二次元デジタル画像を撮像するステップと、を含むことができる。二次元デジタル画像のそれぞれにおいて、被写界深度が浅いため、同じz平面上にあるそれぞれのデジタル画像の領域のみの焦点が合う。
次のステップでは、全ての二次元デジタル画像が、特に制御および評価装置を使用することによって、各二次元画像から「鮮明な」画像領域を選択することによって分析されてもよい。本明細書で使用される「焦点が合った領域」という用語は、広義の用語であり、当業者にとってその通常の慣習的な意味が与えられるべきであり、特別なまたはカスタマイズされた意味に限定されるべきではない。この用語は、具体的には、限定されるものではないが、シャープネス値が予め定義されたしきい値を上回るデジタル画像の領域を指すことができる。例えば、予め定義されたしきい値は、最大のシャープネス値の15%であってもよい。
3D情報は、焦点からの深度によって生成されてもよい。具体的には、三次元画像は、決定された焦点が合った領域とそれぞれのフォーカス面に関する知識とを組み合わせることによって決定することができる。デジタル画像の走査中にフォーカス面を更新することにより、低い面外解像度を大幅に回避することができる。高さ情報を統合することによって、三次元デジタル画像の再構成を行うことができる。
本方法は、三次元デジタル画像を表示することをさらに含むことができる。三次元デジタル画像は、少なくとも1つのユーザインターフェースを使用することによって表示されてもよい。
本方法は、色情報、すなわちテクスチャ画像を三次元デジタル画像の個々のボクセル、すなわち3D画素に適用することによって三次元デジタル画像を着色することを含むことができる。x、y、およびz座標を使用するテクスチャリングを介して、画素に色を定義することができる。これにより、より良好な基準比較を通して、より良好な被写体認識が可能になる場合がある。
本発明による三次元デジタル画像を決定するための方法は、zスタック上の反対方向の二次元画像を、精度に応じた距離で最良のシードフォーカス面に自動的に追加することができるため、比較的非労働集約的なプロセスを可能にすることができる。さらに、最良のシードフォーカス面を拡大することによって、データセットの最小化された部分が示される。各二次元画像のシャープネス値の最小しきい値を大きくすることによって、上述した品質管理の方法に基づいて画像の精度を高めることができる。
本発明のさらなる態様では、スライドに搭載された試料の少なくとも1つのデジタル画像を分析するための機械学習および深層学習モデルを訓練するためのコンピュータ実装方法が開示される。本方法は、具体的には所与の順序で実行されてもよい以下の方法ステップを含む。それでも、異なる順序も可能である。さらに、2つ以上の方法ステップを完全にまたは部分的に同時に実行することが可能である。さらに、方法ステップの1つもしくは複数またはさらには全てが、1回または数回繰り返されるなど、1回実行されてもよく、または繰り返し実行されてもよい。さらに、本方法は、列挙されていない追加の方法ステップを含むことができる。
本方法は、少なくとも1つの訓練データセットを生成することを含む。訓練データセットを生成することは、スライド撮像装置の少なくとも1つの撮像デバイスを使用して、スライドに搭載された既知の試料の複数のデジタル画像を決定することによって、デジタル画像のzスタックを決定することを含む。既知の試料は、少なくとも1つの所定のまたは予め定義された特徴を有する。撮像デバイスは、焦点距離を有する少なくとも1つのトランスファデバイスを備える。zスタックは、トランスファデバイスとスライドとの間の少なくとも3つの異なる距離で決定された複数のデジタル画像を含み、前記距離は、zスタックが、トランスファデバイスの焦点が外れた状態で決定されたデジタル画像と、トランスファデバイスの焦点が合った状態で決定されたデジタル画像とを含むように、上記で説明したようにまたは以下でより詳細に説明するように、品質管理のための本発明による品質管理のためのコンピュータ実装方法を使用することによって決定されたシャープネス値に基づいて定義される。本方法は、機械学習モデルをデジタル画像のzスタックに適用することと、機械学習および深層学習モデルを調整することと、を含む。
一例として、本発明に記載されるような品質管理によって定義される最高のフォーカス値による機械学習または深層学習を使用して、好ましくは、z=0のzスタックで得られる分析用の重要な特徴を定義することができる。機械学習または深層学習アルゴリズムによって使用される特性は、ヒートマップにおいて強調表示することができる。加えて、定義された特性は、異なるzスタックに対して訓練されてもよい。加えて、より低いフォーカス値も、シャープネス値の最小しきい値を下げることによって、アルゴリズムの訓練に含めることができる。これにより、焦点が外れた状態の領域に関するアルゴリズムのロバスト性を向上させることが可能になる場合がある。
可能な定義、選択肢、または実施形態については、上記の方法の説明を参照することができる。
本明細書で使用される「機械学習および深層学習(machine and deep learning)」という用語は、広義の用語であり、当業者にとってその通常の慣習的な意味が与えられるべきであり、特別なまたはカスタマイズされた意味に限定されるべきではない。この用語は、具体的には、限定されるものではないが、機械学習モデル、特に予測モデルの自動的なモデル構築のために人工知能(AI)を使用する方法を指すことができる。制御および評価装置は、少なくとも1つの機械学習および深層学習アルゴリズムを実施および/または実行するように構成されてもよい。機械学習および深層学習モデルは、機械学習および深層学習アルゴリズムの結果に基づいてもよい。機械学習および深層学習モデルは、例えば、畳み込みニューラルネットワークおよび/または通常のニューラルネットワークに基づいてもよい。
本明細書で使用される「訓練」という用語は、広義の用語であり、当業者にとってその通常の慣習的な意味が与えられるべきであり、特別なまたはカスタマイズされた意味に限定されるべきではない。この用語は、具体的には、限定されるものではないが、訓練データセット上で機械学習および深層学習モデルのアルゴリズムのパラメータを決定するプロセスを指すことができる。訓練は、最良のパラメータの組合せが決定される、少なくとも1つの最適化または調整プロセスを含むことができる。本明細書で使用される「訓練データセット」という用語は、広義の用語であり、当業者にとってその通常の慣習的な意味が与えられるべきであり、特別なまたはカスタマイズされた意味に限定されるべきではない。この用語は、具体的には、限定されるものではないが、機械学習および深層学習モデルが訓練されるデータセットを指すことができる。訓練データセットは、デジタル画像の複数のzスタックを含むことができる。機械学習および深層学習モデルの訓練のために、少なくとも1つの所定のまたは予め定義された特徴を有する既知の試料のデジタル画像が使用されることがある。例えば、特徴は、色、テクスチャ、形態計測、およびトポロジーのうちの1つまたは複数を含むことができる。
zスタックを決定するために、毎回、少なくとも2つの層(上の層と下の層)のデジタル画像を追加することができる。zスタックの決定に関しては、フォーカス品質を決定するための方法、および三次元デジタル画像を決定するための方法のzスタックの決定に関する説明を参照されたい。これらのデジタル画像をどのレベルまで実際にアルゴリズムを訓練するために使用することができるかは、アルゴリズムの訓練中に定義することができる。例えば、品質管理値を、フォーカス面と比較して95%、90%、85%、80%、および75%などと定義することができる。これらの値は、直接定義されなくてもよいが、品質管理ツールでしきい値を定義することによって間接的に推定されてもよい。これにより、デジタルの焦点が外れた状態は、最初に定義されず、または予め定義されないが、アルゴリズムは、より低いシャープネス値に対処することを学習する。
本明細書で使用される「トランスファデバイスの焦点が外れたデジタル画像」という用語は、広義の用語であり、当業者にとってその通常の慣習的な意味が与えられるべきであり、特別なまたはカスタマイズされた意味に限定されるべきではない。この用語は、具体的には、限定されるものではないが、シャープネス値が予め定義されたしきい値を下回るデジタル画像を指すことができる。しきい値は、コントラストの低い組織も画像に含まれるように選択されてもよい。例えば、しきい値は、最大のシャープネス値の15%であってもよい。本明細書で使用される「トランスファデバイスの焦点が合ったデジタル画像」という用語は、広義の用語であり、当業者にとってその通常の慣習的な意味が与えられるべきであり、特別なまたはカスタマイズされた意味に限定されるべきではない。この用語は、具体的には、限定されるものではないが、上記のこの段落で説明したしきい値を上回るなど、シャープネス値が予め定義されたしきい値を上回るデジタル画像を指すことができる。
本発明による方法は、訓練された機械学習および深層学習モデルをよりロバストにすることを可能にすることができ、その結果、焦点の外れた領域またはあまり鮮明でない領域を、追加の訓練に基づいて特定のしきい値まで処理することができる。
プログラムがコンピュータまたはコンピュータネットワーク上で実行されると、本明細書に含まれる実施形態の1つまたは複数において、本発明による方法の少なくとも1つを実行するためのコンピュータ実行可能命令を含むコンピュータプログラムが、本明細書にさらに開示および提案される。具体的には、コンピュータプログラムは、コンピュータ可読データキャリアおよび/またはコンピュータ可読記憶媒体に記憶されてもよい。
本明細書で使用される場合、「コンピュータ可読データキャリア」および「コンピュータ可読記憶媒体」という用語は、具体的には、コンピュータ実行可能命令を記憶したハードウェア記憶媒体などの非一過性データ記憶手段を指すことができる。コンピュータ可読データキャリアまたは記憶媒体は、具体的には、ランダムアクセスメモリ(RAM)および/または読み出し専用メモリ(ROM)などの記憶媒体であってもよく、またはそれを含んでもよい。
したがって、具体的には、上述した方法ステップのうちの1つ、2つ以上、またはさらには全てを、コンピュータまたはコンピュータネットワークを使用することによって、好ましくはコンピュータプログラムを使用することによって実行することができる。
プログラムがコンピュータまたはコンピュータネットワーク上で実行されると、本明細書に含まれる実施形態の1つまたは複数において本発明による方法の少なくとも1つを実行するために、プログラムコード手段を有するコンピュータプログラム製品が本明細書にさらに開示および提案される。具体的には、プログラムコード手段は、コンピュータ可読データキャリアおよび/またはコンピュータ可読記憶媒体に記憶されてもよい。
コンピュータまたはコンピュータネットワークのワーキングメモリまたはメインメモリなどのコンピュータまたはコンピュータネットワークにロードした後、本明細書に開示された実施形態の1つまたは複数による方法の少なくとも1つを実行することができる、データ構造が記憶されたデータキャリアが、本明細書にさらに開示および提案される。
プログラムがコンピュータまたはコンピュータネットワーク上で実行されると、本明細書に開示される実施形態の1つまたは複数による方法の少なくとも1つを実行するために、機械可読キャリア上に記憶されたプログラムコード手段を有するコンピュータプログラム製品が、本明細書にさらに開示および提案される。本明細書で使用される場合、コンピュータプログラム製品は、取引可能な製品としてのプログラムを指す。製品は、一般に、紙のフォーマットなどの任意のフォーマットで、またはコンピュータ可読データキャリア上および/もしくはコンピュータ可読記憶媒体上に存在してもよい。具体的には、コンピュータプログラム製品は、データネットワーク上で配布されてもよい。
最後に、本明細書に開示および提案されるのは、本明細書に開示される実施形態の1つまたは複数による方法の少なくとも1つを実行するための、コンピュータシステムまたはコンピュータネットワークによって読み取り可能な命令を含む変調されたデータ信号である。
本発明のコンピュータ実装態様を参照すると、本明細書に開示される実施形態の1つまたは複数による方法の方法ステップの1つまたは複数、またはさらには方法ステップの全てが、コンピュータまたはコンピュータネットワークを使用することによって実行されてもよい。したがって、一般に、データの提供および/または操作を含む方法ステップのいずれも、コンピュータまたはコンピュータネットワークを使用することによって実行することができる。一般に、これらの方法ステップは、典型的には、検体の提供および/または実際の測定を行う特定の態様などの手作業を必要とする方法ステップを除いて、任意の方法ステップを含むことができる。
具体的には、本明細書では、さらに、
- 少なくとも1つのプロセッサを備えるコンピュータまたはコンピュータネットワークであって、プロセッサが、本明細書に記載された実施形態のうちの1つによる方法の少なくとも1つを実行するように適合されている、コンピュータまたはコンピュータネットワークと、
- データ構造がコンピュータ上で実行されている間に、本明細書に記載された実施形態のうちの1つによる方法の少なくとも1つを実行するように適合されているコンピュータロード可能データ構造と、
- プログラムがコンピュータ上で実行されている間に、本明細書に記載された実施形態のうちの1つによる方法の少なくとも1つを実行するように適合されているコンピュータプログラムと、
- コンピュータプログラムであって、コンピュータ上またはコンピュータネットワーク上で実行されている間に、本明細書に記載された実施形態のうちの1つによる方法の少なくとも1つを実行するためのプログラム手段を含む、コンピュータプログラムと、
- 前述の実施形態によるプログラム手段を含むコンピュータプログラムであって、プログラム手段がコンピュータに読み取り可能な記憶媒体に記憶されている、コンピュータプログラムと、
- 記憶媒体であって、データ構造が記憶媒体上に記憶され、データ構造が、コンピュータもしくはコンピュータネットワークの主記憶装置および/または作業記憶装置内にロードされた後に、本明細書に記載された実施形態のうちの1つによる方法の少なくとも1つを実行するように適合されている、記憶媒体と、
- プログラムコード手段を有するコンピュータプログラム製品であって、プログラムコード手段がコンピュータ上でまたはコンピュータネットワーク上で実行される場合、プログラムコード手段が、本明細書に記載された実施形態のうちの1つによる方法の少なくとも1つを実行するために、記憶媒体上に記憶され得るかまたは記憶される、コンピュータプログラム製品と、
が開示される。
本発明のさらなる態様において、スライド撮像装置が開示される。スライド撮像装置は、
- スライドに搭載された試料の少なくとも1つのデジタル画像を生成するように構成された少なくとも1つの撮像デバイスと、
- 少なくとも1つの制御および評価装置と、
を備え、
スライド撮像装置が上述したようにまたは以下でより詳細に説明するように、本発明による方法の少なくとも1つを実行するように構成されている。
スライド撮像装置の可能な定義、選択肢、または実施形態については、上記の方法の説明を参照することができる。
要約すると、さらなる実施形態の可能性を排除することなく、以下の実施形態が想定され得る。
実施形態1.スライドに搭載された試料の少なくとも1つのデジタル画像の品質管理のためのコンピュータ実装方法であって、以下のステップ、すなわち、
a)スライド撮像装置の少なくとも1つの撮像デバイスを使用して、スライドに搭載された試料の少なくとも1つのデジタル画像を提供するステップと、
b)少なくとも1つのエッジ検出画像フィルタを使用することによってデジタル画像の少なくとも1つの関心領域のサブ領域のシャープネス値を決定し、関心領域内のシャープネス値を比較することによってデジタル画像の品質を決定するステップであって、関心領域の品質が比較に応じて分類される、決定するステップと、
c)品質の分類に応じて、少なくとも1つの表示を生成するステップと、
を含み、ステップb)およびc)が自動的に行われる。
実施形態2.表示がヒートマップを含むグラフィカル表示であり、ヒートマップがサブ領域のシャープネス値をサブ領域の画像座標の関数としてマッピングすることによって生成される、実施形態1に記載の方法。
実施形態3.ヒートマップを生成することがシャープネス値のそれぞれに色空間の色値を割り当てることを含む、実施形態2に記載の方法。
実施形態4.色空間がRGB色空間であり、色空間が高品質に対する白255から焦点が外れた状態に対する黒0までの範囲にわたる、実施形態3に記載の方法。
実施形態5.サブ領域がデジタル画像の画素に対応し、ヒートマップを生成することが関心領域の画素群を選択することと、関心領域の画素群のそれぞれについて平均シャープネス値を決定することと、平均シャープネス値を関心領域の画像座標の関数としてマッピングすることと、を含む、実施形態2~4のいずれか一項に記載の方法。
実施形態6.エッジ検出画像フィルタがラプラスフィルタである、実施形態1~5のいずれか一項に記載の方法。
実施形態7.シャープネス値が色勾配または強度勾配である、実施形態1~6のいずれか一項に記載の方法。
実施形態8.関心領域がデジタル画像全体またはデジタル画像の一部である、実施形態1~7のいずれか一項に記載の方法。
実施形態9.スライドに搭載された試料の少なくとも1つのデジタル画像を決定するためのフォーカス品質を決定するためのコンピュータ実装方法であって、以下のステップ、すなわち、
i)スライド撮像装置の少なくとも1つの撮像デバイスを使用して、スライドに搭載された試料のデジタル画像のzスタックを決定するステップであって、撮像デバイスが焦点距離を有する少なくとも1つのトランスファデバイスを備え、zスタックがトランスファデバイスとスライドとの間の少なくとも3つの異なる距離において決定される複数のデジタル画像を含む、決定するステップと、
ii)前述の実施形態のいずれか1つによる品質管理のためのコンピュータ実装方法を使用することによって、zスタックのデジタル画像のそれぞれの複数の画像領域のシャープネスに関する情報を決定するステップと、
iii)画像領域のそれぞれについて距離の関数としてシャープネスに関する情報のグラフィカル表示を生成するステップと、
を含む。
実施形態10.グラフィカル表示に応じて、トランスファデバイスとスライドとの間の異なる距離に対してトランスファデバイスのフォーカス設定を調整することを含む、実施形態9に記載の方法。
実施形態11.スライド撮像装置の少なくとも1つの撮像デバイスを使用して、スライドに搭載された試料の三次元デジタル画像を決定するためのコンピュータ実装方法であって、撮像デバイスが焦点距離を有する少なくとも1つのトランスファデバイスを備え、本方法が、以下のステップ、すなわち、
- 二次元デジタル画像のzスタックを決定するステップであって、zスタックがスライド撮像装置によって決定された推奨最適フォーカス面であるシードフォーカス面を起点としてスライドとトランスファデバイスとの間の少なくとも3つの異なる距離で試料を撮像することによって決定され、シードフォーカス面で撮像された第1の二次元画像が第1のシャープネス値を有し、前記距離が、異なる距離で決定された二次元デジタル画像のシャープネス値が第1のシャープネス値と異なり、かつ互いに異なるように、品質管理のための方法に言及する実施形態1~10のいずれか一項による品質管理のためのコンピュータ実装方法を使用することによって決定されたシャープネス値に基づいて定義される、決定するステップと、
- 品質の分類に応じた表示を使用することによって、zスタックの各デジタル二次元画像の焦点が合った領域を選択するステップと、
- シードフォーカス面とzスタックの各デジタル二次元画像の焦点が合った領域とに関する情報を組み合わせることによって、三次元デジタル画像を決定するステップと、
を含む。
実施形態12.三次元画像の画素に色情報を適用することによって三次元画像を着色するステップを含む、実施形態11に記載の方法。
実施形態13.スライドに搭載された試料の少なくとも1つのデジタル画像を分析するための機械学習および深層学習モデルを訓練するためのコンピュータ実装方法であって、
本方法が少なくとも1つの訓練データセットを生成することを含み、訓練データセットを生成することが、スライド撮像装置の少なくとも1つの撮像デバイスを使用して、スライド上に搭載された既知の試料の複数のデジタル画像を決定することによって、デジタル画像のzスタックを決定することを含み、既知の試料が少なくとも1つの所定のまたは予め定義された特徴を有し、撮像デバイスが焦点距離を有する少なくとも1つのトランスファデバイスを備え、zスタックがトランスファデバイスとスライドとの間の少なくとも3つの異なる距離で決定された複数のデジタル画像を含み、前記距離が、zスタックがトランスファデバイスの焦点が外れた状態で決定されたデジタル画像とトランスファデバイスの焦点が合った状態で決定されたデジタル画像とを含むように、品質管理のための方法に関する実施形態1~12のいずれか一項による品質管理のためのコンピュータ実装方法を使用することによって決定されたシャープネス値に基づいて定義され、
本方法が、機械学習および深層学習モデルをデジタル画像のzスタックに適用することと、機械学習および深層学習モデルを調整することと、を含む、コンピュータ実装方法。
実施形態14.機械学習および深層学習モデルが畳み込みニューラルネットワークおよび/または通常のニューラルネットワークに基づく、実施形態13に記載の方法。
実施形態15.スライド撮像装置であって、
- スライドに搭載された試料の少なくとも1つのデジタル画像を生成するように構成された少なくとも1つの撮像デバイスと、
- 少なくとも1つの制御および評価装置と、
を備え、
スライド撮像装置が、実施形態1~14に記載の方法の少なくとも1つを実行するように構成されている、スライド撮像装置。
さらなる任意の特徴および実施形態は、好ましくは従属請求項と併せて、実施形態の以下の説明においてより詳細に開示される。本説明では、それぞれの任意の特徴は、当業者が理解するように、単独で、ならびに任意の実現可能な組合せで実現され得る。本発明の範囲は、好ましい実施形態によって制約されない。実施形態は、図に概略的に示されている。実施形態において、これらの図における同一の参照番号は、同一のまたは機能的に同等の要素を指す。
本発明によるスライド撮像装置の実施形態の概略図および本発明による品質管理のための方法の好ましい実施形態のフローチャートの概略図である。 本発明によるスライド撮像装置の実施形態の概略図および本発明による品質管理のための方法の好ましい実施形態のフローチャートの概略図である。 実験結果を示す図である。 実験結果を示す図である。 実験結果を示す図である。 実験結果を示す図である。 実験結果を示す図である。 実験結果を示す図である。 実験結果を示す図である。 実験結果を示す図である。 実験結果を示す図である。 実験結果を示す図である。 本発明によるフォーカス品質を決定するための方法の好ましい実施形態のフローチャートの概略図である。 実験結果を示す図である。 実験結果を示す図である。 実験結果を示す図である。 本発明による三次元デジタル画像を決定するための方法の好ましい実施形態のフローチャートの概略図である。 実験結果を示す図である。 実験結果を示す図である。 実験結果を示す図である。 本発明による機械学習および深層学習モデルを訓練するための方法の好ましい実施形態のフローチャートの概略図である。 生物学的材料を含む組織試料のデジタル画像の品質管理のために開発されたプログラムの概要を示す図である。
実施形態の詳細な説明
図1Aは、本発明によるスライド撮像装置110の一実施形態を概略的に示す。スライド撮像装置110は、スライド114に搭載された試料112を撮像するように構成されている。試料112は、組織試料などの生物学的検体であってもよい。試料112は、組織または塗抹標本などの生物学的材料であってもよく、またはそれを含んでもよい。しかしながら、他の種類の試料も実現可能であってもよい。
スライド114は、スライドの表面に搭載される試料112のために指定された基材であってもよい。特に、処理中にいかなる変化もなく試料112をスライド114に担持する目的で、基材は、機械的に安定であり、したがって、十分な機械的安定性を提供する任意の材料を含むことができる。特に生物学的検体を担持する目的で、基材は、好ましくは、生物学的材料と適合するように構成された表面を呈することができる。例として、ガラスは、一方では十分な機械的安定性を提供し、他方では生物学的材料との高い適合性を有することが知られているため、スライドは、ガラススライドである。しかしながら、スライド114のためのさらなる種類の材料も実現可能であってもよい。試料の所望の画像を生成する目的で、スライド114は、好ましくは、2D延在部および厚さを有するプレートであってもよく、プレートの2D延在部は、好ましくは、長方形または円形の形態を呈してもよく、プレートの厚さは、延在部のサイズと比較して小さくてもよく、プレートの2D延在部の直線的な広がり尺度よりも、好ましくは20%、より好ましくは10%、特に5%、またはそれ未満であってもよい。
スライド撮像装置110は、少なくとも1つの撮像デバイス116を備える。特に、撮像デバイス116は、2Dカメラ117またはラインスキャン検出器から選択されてもよい。しかしながら、さらなる種類の撮像デバイス116も実現可能であってもよい。スライド114は、特に、スライド114に搭載された試料112の撮像を可能にすることができる形態を有することができる。
撮像デバイス116は、少なくとも1つのトランスファデバイス119を備えることができる。トランスファデバイス119は、具体的には、少なくとも1つのレンズ、例えば、少なくとも1つの屈折レンズ、少なくとも1つの焦点調整可能レンズ、少なくとも1つの非球面レンズ、少なくとも1つの球面レンズ、少なくとも1つのフレネルレンズからなる群から選択された少なくとも1つのレンズ、少なくとも1つの回折光学素子、少なくとも1つのマルチレンズシステムのうちの1つまたは複数を備えてもよい。トランスファデバイス119は、焦点距離を有する。トランスファデバイス119は、「z」を光軸に沿った座標とする座標系を構成することができる。座標系は、トランスファデバイス119の光軸がz軸を形成し、z軸からの距離および極角が追加の座標として使用され得る、極座標系であってもよい。z軸に沿った座標は、長手方向座標zと考えることができる。
スライド撮像装置110は、複数のスライド114を装填可能な、スライド114を保管するように構成された保管装置118を備えることができる。保管装置118は、スライドトレイまたはスライドラックから選択されてもよいが、さらなるタイプの保管装置も実現可能であってもよい。保管装置118は、好ましくは手動で、少なくとも1つのスライド114を装填可能であってもよいが、保管装置118の自動装填も考えられ得る。スライド撮像装置110は、少なくとも1つのスライド114を保管装置118から撮像デバイス116に供給するように構成された供給装置120を備えることができる。例えば、供給装置120は、ロボットアームを備えていてもよい。
スライド撮像装置110は、少なくとも1つの制御および評価装置122を備える。少なくとも1つの制御および評価装置122は、いくつかのコンピュータコマンドを含むソフトウェアコードが記憶された少なくとも1つのデータ処理デバイスを含むことができる。制御および評価装置122は、指定された動作のうちの1つまたは複数を実行するための1つまたは複数のハードウェア要素を提供することができ、および/または、指定された動作のうちの1つまたは複数を実行するためのソフトウェアが実行される1つまたは複数のプロセッサを提供することができる。制御および評価装置122は、ステップb)およびc)を実行するように構成された1つまたは複数のコンピュータ、特定用途向け集積回路(ASIC)、デジタル信号プロセッサ(DSP)、あるいはフィールドプログラマブルゲートアレイ(FPGA)などの1つまたは複数のプログラマブルデバイスを含むことができる。しかしながら、追加的または代替的に、制御および評価装置122は、完全にまたは部分的にハードウェアによって具現化されてもよい。
スライド撮像装置110は、スライド114に搭載された試料112の少なくとも1つのデジタル画像の品質管理のためのコンピュータ実装方法を実行するように構成される。図1Bは、本発明による品質管理のための方法の好ましい実施形態のフローチャートを概略的に示す。
本方法は、自動的に分析されるための適合性に関するデジタル画像の状態を決定することを含むことができる。具体的には、本方法は、デジタル画像のシャープネスまたはぼやけの量の指標を決定することを含むことができる。
本方法は、以下のステップ、すなわち、
a)(参照番号124で示される)スライド撮像装置110の少なくとも1つの撮像デバイス116を使用して、スライド114に搭載された試料112の少なくとも1つのデジタル画像を提供するステップと、
b)(参照番号126で示される)少なくとも1つのエッジ検出画像フィルタを使用することによってデジタル画像の少なくとも1つの関心領域のサブ領域のシャープネス値を決定し、関心領域内のシャープネス値を比較することによってデジタル画像の品質を決定するステップであって、関心領域の品質が比較に応じて分類される、決定するステップと、
c)(参照番号128で示される)品質の分類に応じて、少なくとも1つの表示を生成するステップと、
を含み、ステップb)およびc)が自動的に行われる。
デジタル画像を提供するステップは、撮像デバイス116を使用して、少なくとも1つのデジタル画像を撮像および/または生成するステップを含むことができる。
関心領域は、分析されるデジタル画像の任意の形状の領域またはエリアであってもよい。関心領域は、デジタル画像全体またはデジタル画像の一部であってもよい。関心領域は、分析される少なくとも1つの特徴を含むか、または含むと疑われる画像の領域であってもよい。デジタル画像は、例えば、m行n列を有する矩形配列などの画素配列で配置された複数の画素を含む画素化された画像であってもよく、m、nは独立して正の整数である。関心領域は、任意の数の画素を含む画素群であってもよく、または画素群を含んでもよい。サブ領域は、少なくとも1つの画素または画素群を含む関心領域の任意の部分または要素、特に画像要素であってもよい。サブ領域は、関心領域の正方形領域であってもよい。関心領域は、複数の画素などの複数のサブ領域を含むことができる。
エッジ検出画像フィルタは、関心領域内のエッジを識別するように構成された少なくとも1つの画像処理ツールであってもよく、またはそれを含んでもよい。好ましくは、エッジ検出画像フィルタは、ラプラスフィルタである。ラプラスフィルタは、強度および/または色値の二次微分に基づいてもよく、したがって、局所極値を決定することができる。エッジ検出画像フィルタは、局所極値に基づいてエッジ検出を行うように構成されてもよい。特に、エッジ検出フィルタは、強いエッジおよび/または勾配を強調することができる。具体的には、本方法は、ラプラスフィルタによって定義される1つのパラメータに基づいて、デジタル画像のシャープネスをサブ領域レベルで、好ましくは画素レベルで定義するステップを含むことができる。エッジ検出フィルタは、それぞれの局所極値に応じて、サブ領域のそれぞれにグレー値を割り当てるように構成されてもよい。ラプラスフィルタを使用することは、SobelまたはCannyフィルタのような一次微分フィルタで必要とされるような、カーネルを回転させてxまたはy方向を得る必要性がないため、有利な場合がある。図2Aは、例示的な実験結果を示す。図2Aの左部分は、スキャンされたデジタル画像を示し、右部分は、ラプラスフィルタによってグレー値で定義された正方形領域を示す。
シャープネス値は、強度および/または色値の局所極値であってもよい。シャープネス値は、色勾配または強度勾配をさらに指すことができる。ステップ126におけるシャープネス値の比較は、関心領域のサブ領域の局所極値を比較するステップを含むことができる。本方法は、関心領域の最大の局所極値を決定することを含んでもよい。最大の局所極値は、関心領域のサブ領域の最高の局所極値であってもよい。本方法は、関心領域の最小の局所極値を含んでもよい。最小の局所極値は、関心領域のサブ領域の最低の局所極値であってよい。本方法は、最大の局所極値から開始して最小の局所極値まで降順にサブ領域の局所極値をソートすることを含んでもよい。しかしながら、昇順ソートも可能である。比較は、局所極値の関係を決定するための少なくとも1つの数学的演算を含むことができる。
関心領域の品質は、ステップ126における比較に応じて分類される。最大の局所極値は、最高のシャープネスとして分類されてもよい。最小の局所極値は、最低のシャープネスとして分類されてもよい。サブ領域の局所極値は、最大の局所極値から開始して最小の局所極値まで降順に分類されてもよい。
本方法は、焦点が外れた状態のしきい値を設定することをさらに含んでもよい。焦点が外れた状態のしきい値は、最大の局所極値に対する最小値を定義することができる。例えば、焦点が外れた状態のしきい値は、最大の局所極値に対する最小値として、制御された画像セットの99%で達成され得る高品質の絶対シャープネスに設定されてもよい。関心領域の決定された最大の局所極値が焦点が外れた状態のしきい値を下回る場合、デジタル画像は、拒絶され、および/または低品質として分類されてもよい。焦点が外れた状態のしきい値を使用することで、完全に焦点が外れた状態のデジタル画像が認識されないようにすることができる場合がある。
ステップ128において、例えば、表示は、フォーカスマップとも表記されるヒートマップを含むグラフィカル表示であってもよい。ヒートマップは、サブ領域のシャープネス値をサブ領域の画像座標の関数としてマッピングすることによって生成されてもよい。ヒートマップを生成することは、シャープネス値のそれぞれに色空間の色値を割り当てることを含んでもよい。例えば、色空間は、RGB色空間であってもよい。RGB色空間は、3つの色チャネル、すなわち、赤(R)用の色チャネル、緑(G)用の色チャネル、および青(B)用の色チャネルを有する色空間であってもよい。色空間は、高品質に対する白255から焦点が外れた状態に対する黒0までの範囲であってもよい。したがって、白の最大値255は、デジタル画像の最も鮮明な部分を表すことができる。ヒートマップは、高品質に対する白255から焦点が外れた状態に対する黒0までを伴う、赤と黄のみの色値など、1つまたは2つの色のみを含んでもよい。
例えば、サブ領域は、デジタル画像の画素に対応してもよい。ヒートマップを生成することは、関心領域の画素群を選択することと、関心領域の画素群のそれぞれについて平均シャープネス値を決定することと、平均シャープネス値を関心領域の画像座標の関数としてマッピングすることと、を含むことができる。具体的には、ヒートマップを生成することは、画素群内の平均グレー値を決定することを含むことができる。平均グレー値は、全てのグレー値の合計を、画像領域のサブ領域の数、特に画素数で割って計算することによって決定されてもよい。平均グレー値を計算するために、黒画素は、含まれなくてもよく、または破棄されてもよい。黒画素は、組織のコントラストがなく、鮮明でも不鮮明でもあり得ない画素であってもよい。したがって、画素という用語は、記述的な測定値を指すことがある。
シャープネス値に基づいて決定された品質は、計算病理学に使用される分類アルゴリズムの適用可能性に直結していてもよい。生成された表示は、染色、組織の折り重なり、およびぼやけに起因するアーチファクトを識別することを可能にする場合がある。
本方法は、少なくとも1つのユーザインターフェース130を使用することによって、表示、特にヒートマップを表示することを含むことができる。ユーザインターフェース130は、ディスプレイ、スクリーンなどの表示を行うように構成されたヒューマンマシンインターフェースであってもよい。
完全に自動で品質を決定することおよび表示を生成することは、人間の目でデジタル画像を制御することと比較して、焦点が外れた状態の領域およびアーチファクトの識別に優れている。図2Bは、肉眼では、高倍率で見ることによってシャープネスを定義することができないことを示す。本発明によるヒートマップで表される画素レベルでのラプラスフィルタの分析に基づくデジタル画像のシャープネスの特徴付けは、図2Bの左部分に示されている。VENTANA(登録商標)DP 200スライドスキャナによって撮影された対応するサムネイルを右側に示す。
図3は、さらなる実験結果を示す。40倍の倍率で、ぼやけを検出することができる(上部参照)。本発明による画素レベルでのラプラス分析のヒートマップが左下部分に、VENTANA(登録商標)DP 200スライドスキャナによって撮影されたサムネイルビューが右側に表示されている。
図4A~図4Fは、さらなる実験結果を示す。図4は、本発明による画素レベルでの記載されたラプラスフィルタによって分析された異なるヒートマップを示す。図4Aは、40倍の倍率で検出された気泡を示す。図4Bは、低コントラストを引き起こす組織形態の欠如に起因する、40倍の倍率で検出されたぼやけを示す。図4Cは、検出された鮮明なシグナル染色を40倍の倍率で示す。デジタル画像の同じ領域を示す図4Dと図4Eの染色が異なるため、より低いまたはより高いシャープネスが40倍の倍率で検出されている。図4Fは、40倍の倍率で検出された低いシャープネスを有するデジタル画像の領域を示す。
図5は、本発明による、スライド114に搭載された試料112の少なくとも1つのデジタル画像を決定するためのフォーカス品質を決定するためのコンピュータ実装方法の好ましい実施形態のフローチャートを概略的に示す。
本方法は、以下のステップ、すなわち、
i)(参照番号132で示される)スライド撮像装置110の少なくとも1つの撮像デバイス116を使用して、スライド114に搭載された試料112のデジタル画像のzスタックを決定するステップであって、撮像デバイスが焦点距離を有する少なくとも1つのトランスファデバイスを備え、zスタックがトランスファデバイス119とスライド114との間の少なくとも3つの異なる距離において決定された複数のデジタル画像を含む、決定するステップと、
ii)(参照番号134で示される)上述したようにまたは以下でより詳細に説明するように、品質管理のための本発明による品質管理のためのコンピュータ実装方法を使用することによって、zスタックのデジタル画像のそれぞれの複数の画像領域のシャープネスに関する情報を決定するステップと、
iii)(参照番号136で示される)画像領域のそれぞれについて距離の関数としてシャープネスに関する情報のグラフィカル表示を生成するステップと、
を含む。
zスタックは、トランスファデバイス119とスライド114との間の少なくとも3つの異なる距離で、すなわち異なるzレベルで撮像された少なくとも3つのデジタル画像を含む。具体的には、2つのデジタル画像が、フォーカス面の1つ上の層および1つ下の層において決定されてもよい。zスタックのデジタル画像は、20倍または40倍の倍率などの高倍率ビューを含むことができる。
ステップi)132は、撮像デバイス116を使用することによって第1のデジタル画像を撮像するステップを含むことができる。例えば、第1のデジタル画像は、スライド撮像装置110によって自動的に決定された推奨最適フォーカス面である、いわゆるシードフォーカス面において撮像されてもよい。例えば、スライド撮像装置110は、シードフォーカス面に関する情報が記憶された少なくとも1つのデータベースを備えることができる。
zスタックを決定するために、毎回2つの層が追加される。例えば、2つの追加のデジタル画像は、焦点を含む層から±εの距離にある層で撮像されてもよく、εは正の数である。具体的には、1つのデジタル画像は、第1のデジタル画像の画像面の上方で撮像されてもよく、1つのデジタル画像は、第1のデジタル画像の画像面の下方で撮像されてもよい。焦点を含む層からの距離±εは、精度に応じて選択することができる。例えば、zスタックは、被写界深度によって、および被写体のサイズを知ることによって定義される距離ε=1μmにおいて決定される複数のデジタル画像を含むことができる。しかしながら、距離εおよび/または等距離でない距離に対する他の値が実現可能である。zスタックの例では、距離εは、0.1μm、0.2μm、0.25μm、0.5μmであってもよい。さらに、1、3、5、7、9、11、13および15層が選択されてもよい。
グラフィカル表示は、特に予め定義された数の試料について、zレベルに対してプロットされたシャープネス値を含むことができる。シャープネスに関する情報を決定することおよびグラフィカル表示を生成することは、少なくとも1つの制御および評価装置122を使用することによって実行されてもよい。
本方法は、グラフィカル表示に応じて、トランスファデバイス119とスライド114との間の異なる距離に対してトランスファデバイス119のフォーカス設定を調整するステップを含むことができる。フォーカスコイルを含むフォーカス機構の高さは、z=0で焦点を合わせ始めるときに最高の平均シャープネスが得られるように調整することができる。トランスファデバイス119を備えるフォーカス機構アセンブリは、仕様レベルを超えることなく、その極値に設定されてもよい。フォーカスコイルの公称フォーカス位置の高さの設定を確認するために、フォーカスコイルが停止され、ライントレースがフォーカスカメラから表示される。ライントレースは、キャステレーション光学系に基づく受信信号を表す。表示された曲線の精度は、フォーカスコイルおよびトランスファデバイスを含むフォーカス機構アセンブリの高さが正しく調整されているかどうかを示すことができる。ライントレースは、上部の水平バーの3つの色が分離されている場合に許容可能である。既知のデバイスでは、フォーカス機構アセンブリは、ねじで固定されている場合があり、手動で調整しなければならない。本発明は、本発明に記載されるような品質管理に基づいてフォーカス機構アセンブリの高さを自動的に調整することを提案する。テストを正確に行わなければならず、時間がかかるため、このような自動化された手法は、特に有用である。zレベルに対する焦点が外れた状態のクラスに基づく強い「v」字形状の傾向に基づいてz=0を定義するために、品質の平均的尺度が達成される前に多くのテストを行う必要があった、Kohlberger T,Liu Y,Moran M,et al.“Whole-Slide Image Focus Quality:Automatic Assessment and Impact on AI Cancer Detection”,J Pathol Inform,2019に記載された手動手法とは対照的に、本発明によって提案される方法は、自動化により労働効率的である。
被写界深度を調整するためのフォーカス設定の調整を自動的に行うことができる。具体的には、zスタックの決定、シャープネスに関する情報の決定、およびグラフィカル表示の生成は、少なくとも1つの制御および評価装置122を使用することなどによって自動的に行うことができる。
本方法は、少なくとも1つのユーザインターフェース130を使用することなどによって、グラフィカル表示を行うステップをさらに含むことができる。
図6は、実験結果を示す。特に、3つのデジタル画像を含むzスタックの生成が示されている。シーディング面の上方の1つのデジタル画像を+7μmで撮像し、シーディング面の下方の1つのデジタル画像を-7μmで撮像している。中間に、シーディング面で撮像されたデジタル画像が示されている。矢印はトランスファデバイス119を示し、細い矢印は焦点距離の変動を示す。
図7Aおよび図7Bは、さらなる実験結果を示す。図7Aでは、40倍の倍率の初期デフォルト状態である。図7Bでは、適応されたデフォルト状態が40倍の倍率で示されている。
図8は、本発明によるスライド撮像装置110の少なくとも1つの撮像デバイス116を使用して、スライド114に搭載された試料112の三次元デジタル画像を決定するためのコンピュータ実装方法の好ましい実施形態のフローチャートを概略的に示す。
本方法は、以下のステップ、すなわち、
- (参照番号138で示される)二次元デジタル画像のzスタックを決定するステップであって、zスタックがスライド撮像装置110によって決定された推奨最適フォーカス面であるシードフォーカス面を起点として、スライド114とトランスファデバイス119との間の少なくとも3つの異なる距離で試料112を撮像することによって決定され、シードフォーカス面で撮像された第1の二次元画像が第1のシャープネス値を有し、前記距離が、異なる距離で決定された二次元デジタル画像のシャープネス値が第1のシャープネス値とは異なり、かつ互いに異なるように、上述したようにまたは以下でより詳細に説明するように、本発明による品質管理のためのコンピュータ実装方法を使用することによって決定されたシャープネス値に基づいて定義される、決定するステップと、
- (参照番号140で示される)品質の分類に応じた表示を使用することによって、zスタックの各デジタル二次元画像の焦点が合った領域を選択するステップと、
- (参照番号142で示される)シードフォーカス面とzスタックの各デジタル二次元画像の焦点が合った領域とに関する情報を組み合わせることによって、三次元デジタル画像を決定するステップと、
を含む。
zスタックのデジタル画像の前記距離は、品質管理のための方法のステップb)126で決定された相対強度および/または色変化に基づいて定義することができる。具体的には、距離は、2つの層のデジタル画像のシャープネス値が関心領域において異なり得るように定義することができる。距離は、2つの層のデジタル画像のシャープネス値が、所定の許容範囲を超えて、例えば少なくとも5%を超えて異なってもよいように定義することができる。焦点を含む層からの距離±εは、精度に応じて選択することができる。例えば、zスタックは、被写界深度によって、および被写体のサイズを知ることによって定義される距離ε=1μmにおいて決定される複数のデジタル画像を含むことができる。しかしながら、距離εおよび/または等距離でない距離に対する他の値が実現可能である。zスタックの例では、距離εは、0.1μm、0.2μm、0.25μm、0.5μmであってもよい。さらに、1、3、5、7、9、11、13および15層が選択されてもよい。
スライド撮像装置110は、試料の下縁上の最も高い垂直延長線付近のzスタックに基づいて、シーディング点とも表記されるシード点を選ぶことによって、各スライドに対してフォーカス面を定義することができる。結果として、最良のフォーカス面、すなわちシード面を定義することができる。スライド撮像装置110は、動的前方視焦点追跡機構から導出されるデータに基づいて、デジタル画像の走査中にフォーカス面を連続的に更新するように構成されてもよい。具体的には、スプリットミラーおよびキャステレーション光学系により、撮像カメラの隣のフォーカスカメラを同時に走査して、信号の焦点が合っているかどうかを定義することが可能になる。この情報を直接使用して、フォーカス機構アセンブリの動的フォーカスコイルの出力を調整し、トランスファデバイス119の高さを調整することができる。
方法138の第1のステップは、シード面において第1の二次元デジタル画像を撮像するステップと、スライド114とトランスファデバイス119との間の2つの相対する方向において少なくとも2つのさらなる二次元デジタル画像を撮像するステップと、を含むことができる。二次元デジタル画像のそれぞれにおいて、被写界深度が浅いため、同じz平面上にあるそれぞれのデジタル画像の領域のみの焦点が合う。
次のステップ140では、全ての二次元デジタル画像が、特に制御および評価装置を使用することによって、各二次元画像から「鮮明な」画像領域を選択することによって分析されてもよい。3D情報は、焦点からの深度によって生成されてもよい。具体的には、三次元画像は、決定された焦点が合った領域とそれぞれのフォーカス面に関する知識とを組み合わせることによって決定することができる。したがって、高さ情報を統合することによって、三次元デジタル画像の再構成を行うことができる。
本方法は、三次元デジタル画像を表示することをさらに含むことができる。三次元デジタル画像は、少なくとも1つのユーザインターフェース130を使用することによって表示されてもよい。
本方法は、色情報、すなわちテクスチャ画像を三次元デジタル画像の個々のボクセル、すなわち3D画素に適用することによって三次元デジタル画像を着色することを含むことができる。x、y、およびz座標を使用するテクスチャリングを介して、画素に色を定義することができる。これにより、より良好な基準比較を通して、より良好な被写体認識が可能になる場合がある。
図9A~9Cは、実験結果を示す。図9Aでは、左上(背景)から右下(試料の最も高い点)までのデジタル画像のフォーカス領域が、-7から+7まで0.25μmのステップで40倍の倍率で示されている。図9Bは、膜貫通タンパク質HER2の半定量的検出を目的としたVENTANA(登録商標)HER2(4B5)抗体の例示的な二次元分析を示す。図9Cは、図9Aに示すzスタックに基づいた、膜貫通タンパク質HER2の半定量的検出を目的としたVENTANA(登録商標)HER2(4B5)抗体の三次元画像を示す。
図10は、本発明による、スライド114に搭載された試料112の少なくとも1つのデジタル画像を分析するための機械学習および深層学習モデルを訓練するためのコンピュータ実装方法の好ましい実施形態のフローチャートを概略的に示す。
本方法は、少なくとも1つの訓練データセットを生成すること(参照番号144で示される)を含む。訓練データセットを生成することは、撮像デバイス116を使用して、スライドに搭載された既知の試料112の複数のデジタル画像を決定することによって、デジタル画像のzスタックを決定することを含む。既知の試料112は、少なくとも1つの所定のまたは予め定義された特徴を有する。zスタックは、トランスファデバイス119とスライド114との間の少なくとも3つの異なる距離で決定された複数のデジタル画像を含み、前記距離が、zスタックがトランスファデバイスの焦点が外れた状態で決定されたデジタル画像と、トランスファデバイスの焦点が合った状態で決定されたデジタル画像とを含むように、上述したようにまたは以下でより詳細に説明するように、品質管理のための本発明による品質管理のためのコンピュータ実装方法を使用することによって決定されたシャープネス値に基づいて定義される。
機械学習および深層学習モデルは、例えば、畳み込みニューラルネットワークおよび/または通常のニューラルネットワークに基づいてもよい。
訓練は、訓練データセット上で機械深層学習モデルのアルゴリズムのパラメータを決定するプロセスを含むことができる。訓練は、最良のパラメータの組合せが決定される、少なくとも1つの最適化または調整プロセスを含むことができる。訓練データセットは、デジタル画像の複数のzスタックを含むことができる。機械学習および深層学習モデルの訓練のために、少なくとも1つの所定のまたは予め定義された特徴を有する既知の試料のデジタル画像が使用されることがある。例えば、特徴は、色、テクスチャ、形態計測、およびトポロジーのうちの1つまたは複数を含むことができる。
zスタックを決定するために、毎回、少なくとも2つの層(上の層と下の層)のデジタル画像を追加することができる。zスタックの決定に関しては、フォーカス品質を決定するための方法、および三次元デジタル画像を決定するための方法のzスタックの決定に関する説明を参照されたい。これらのデジタル画像をどのレベルまで実際にアルゴリズムを訓練するために使用することができるかは、アルゴリズムの訓練中に定義することができる。例えば、品質管理値を、フォーカス面と比較して95%、90%、85%、80%、および75%などと定義することができる。これらの値は、直接定義されなくてもよいが、品質管理ツールでしきい値を定義することによって間接的に推定されてもよい。これにより、デジタルの焦点が外れた状態は、最初に定義されず、または予め定義されないが、アルゴリズムは、より低いシャープネス値に対処することを学習する。
本方法は、機械学習モデルをデジタル画像のzスタックに適用すること(参照番号146で示す)と、機械学習および深層学習モデルを調整することと、を含む。
本方法は、訓練された機械学習および深層学習モデルをよりロバストにすることが可能であってもよく、その結果、焦点が外れた状態のまたはあまり鮮明でない領域を、追加の訓練に基づいて特定のしきい値まで処理することができる。
一例として、本発明に記載されるような品質管理によって定義される最高のフォーカス値による機械学習または深層学習を使用して、好ましくは、z=0のzスタックで得られる分析用の重要な特徴を定義することができる。機械学習または深層学習アルゴリズムによって使用される特性は、ヒートマップにおいて強調表示することができる。加えて、定義された特性は、異なるzスタックに対して訓練されてもよい。加えて、より低いフォーカス値も、シャープネス値の最小しきい値を下げることによって、アルゴリズムの訓練に含めることができる。これにより、焦点が外れた状態の領域に関するアルゴリズムのロバスト性を向上させることが可能になる場合がある。
図11は、本発明による生物学的材料を含む組織試料のデジタル画像の品質管理のために開発されたプログラムの概要を示す。描写された組織の画像は、77824画素の幅および115712画素の高さを含む。スキャンするために、40倍(0.2500mpp)の倍率を選択した。フォーカスはオートフォーカスであり、フォーカス品質ルーチンおよびスキャンモードは通常であった。フォーカス品質を定義するために、本発明に記載されるような品質管理を適用した。サブ図「A」は、ヒートマップにおいて赤で表される「焦点が外れた状態のサブ領域」の表示を表す。サブ図「B」は、RGB色空間の赤の色チャネルに基づいたラプラスの焦点が外れた状態のしきい値を示し、最も高いシャープネス値に対する白色の255の最大値から、焦点が外れた状態に対する黒色の0までがある。サブ図「C」は、全スライド画像の焦点が外れた状態の画素の割合を示す。
110 スライド撮像装置
112 試料
114 スライド
116 撮像デバイス
117 2Dカメラ
118 保管装置
119 トランスファデバイス
120 供給装置
122 制御および評価装置
124 少なくとも1つのデジタル画像を提供するステップ
126 デジタル画像の品質を決定するステップ
128 少なくとも1つの表示を生成するステップ
130 ユーザインターフェース
132 デジタル画像のzスタックを決定するステップ
134 シャープネスに関する情報を決定するステップ
136 グラフィカル表示を生成するステップ
138 二次元デジタル画像のzスタックを決定するステップ
140 焦点が合った領域を選択するステップ
142 三次元デジタル画像を決定するステップ
144 少なくとも1つの訓練データセットを生成するステップ
146 適用するステップ

Claims (15)

  1. スライド(114)に搭載された試料(112)の少なくとも1つのデジタル画像の品質管理のためのコンピュータ実装方法であって、以下のステップ、すなわち、
    a)スライド撮像装置(110)の少なくとも1つの撮像デバイス(116)を使用して、前記スライド(114)に搭載された前記試料(112)の少なくとも1つのデジタル画像を提供するステップと、
    b)少なくとも1つのエッジ検出画像フィルタを使用することによって前記デジタル画像の少なくとも1つの関心領域のサブ領域のシャープネス値を決定し、前記関心領域内の前記シャープネス値を比較することによって、前記デジタル画像の品質を決定するステップであって、前記関心領域の前記品質が前記比較に応じて分類される、決定するステップと、
    c)前記品質の前記分類に応じて、少なくとも1つの表示を生成するステップと、
    を含み、ステップb)およびc)が自動的に行われる、
    コンピュータ実装方法。
  2. 前記表示がヒートマップを含むグラフィカル表示であり、前記ヒートマップが、前記サブ領域の前記シャープネス値を前記サブ領域の画像座標の関数としてマッピングすることによって生成される、請求項1に記載の方法。
  3. 前記ヒートマップを生成することが前記シャープネス値のそれぞれに色空間の色値を割り当てることを含む、請求項2に記載の方法。
  4. 前記色空間がRGB色空間であり、前記色空間が、高品質に対する白255から焦点が外れた状態に対する黒0までの範囲にわたる、請求項3に記載の方法。
  5. 前記サブ領域が前記デジタル画像の画素に対応し、前記ヒートマップを生成することが、前記関心領域の画素群を選択することと、前記関心領域の前記画素群のそれぞれについて平均シャープネス値を決定することと、前記平均シャープネス値を前記画素群の画像座標の関数としてマッピングすることと、を含む、請求項2~4のいずれか一項に記載の方法。
  6. 前記エッジ検出画像フィルタがラプラスフィルタである、請求項1~5のいずれか一項に記載の方法。
  7. 前記シャープネス値が色勾配または強度勾配である、請求項1~6のいずれか一項に記載の方法。
  8. 前記関心領域が前記デジタル画像全体または前記デジタル画像の一部である、請求項1~7のいずれか一項に記載の方法。
  9. スライド(114)に搭載された試料(112)の少なくとも1つのデジタル画像を決定するためのフォーカス品質を決定するためのコンピュータ実装方法であって、以下のステップ、すなわち、
    i)スライド撮像装置(110)の少なくとも1つの撮像デバイス(116)を使用して、前記スライドに搭載された前記試料(112)のデジタル画像のzスタックを決定するステップであって、前記撮像デバイス(116)が焦点距離を有する少なくとも1つのトランスファデバイス(119)を備え、前記zスタックが前記トランスファデバイス(119)と前記スライド(114)との間の少なくとも3つの異なる距離で決定された複数のデジタル画像を含む、決定するステップと、
    ii)請求項1~8のいずれか一項に記載の品質管理のためのコンピュータ実装方法を使用することによって、前記zスタックの前記デジタル画像のそれぞれの複数の画像領域のシャープネスに関する情報を決定するステップと、
    iii)前記画像領域のそれぞれについて距離の関数としてシャープネスに関する前記情報のグラフィカル表示を生成するステップと、
    を含む、コンピュータ実装方法。
  10. 前記グラフィカル表示に応じて、前記トランスファデバイス(119)と前記スライドとの間の異なる距離に対して前記トランスファデバイス(119)のフォーカス設定を調整するステップを含む、請求項9に記載の方法。
  11. スライド撮像装置(110)の少なくとも1つの撮像デバイス(116)を使用して、スライド(114)に搭載された試料(112)の三次元デジタル画像を決定するためのコンピュータ実装方法であって、前記撮像デバイス(116)が焦点距離を有する少なくとも1つのトランスファデバイス(119)を備え、前記方法が、以下のステップ、すなわち、
    - 二次元デジタル画像のzスタックを決定するステップであって、前記zスタックがシードフォーカス面を起点として前記スライド(114)と前記トランスファデバイス(119)との間の少なくとも3つの異なる距離で前記試料(112)を撮像することによって決定され、前記シードフォーカス面が前記スライド撮像装置(110)によって決定された推奨最適フォーカス面であり、前記シードフォーカス面で撮像された第1の二次元画像が第1のシャープネス値を有し、前記距離が、前記異なる距離で決定された二次元デジタル画像のシャープネス値が前記第1のシャープネス値と異なり、かつ互いに異なるように、品質管理のための方法に言及する請求項1~8のいずれか一項に記載の品質管理のためのコンピュータ実装方法を使用することによって決定された前記シャープネス値に基づいて定義される、決定するステップと、
    - 前記品質の前記分類に応じた前記表示を使用することによって、前記zスタックの各デジタル二次元画像の焦点が合った領域を選択するステップと、
    - 前記シードフォーカス面と前記zスタックの各デジタル二次元画像の前記焦点が合った領域とに関する情報を組み合わせることによって前記三次元デジタル画像を決定するステップと、
    を含む、コンピュータ実装方法。
  12. 前記三次元画像の画素に色情報を適用することによって前記三次元画像を着色するステップを含む、請求項11に記載の方法。
  13. スライド(114)に搭載された試料(112)の少なくとも1つのデジタル画像を分析するための機械学習および深層学習モデルを訓練するためのコンピュータ実装方法であって、
    前記方法が少なくとも1つの訓練データセットを生成することを含み、前記訓練データセットを生成することが、スライド撮像装置(110)の少なくとも1つの撮像デバイス(116)を使用して、前記スライド(114)に搭載された既知の試料の複数のデジタル画像を決定することによって、デジタル画像のzスタックを決定することを含み、前記既知の試料が少なくとも1つの所定のまたは予め定義された特徴を有し、前記撮像デバイス(116)が焦点距離を有する少なくとも1つのトランスファデバイス(119)を備え、前記zスタックが前記トランスファデバイス(119)と前記スライド(114)との間の少なくとも3つの異なる距離で決定された複数のデジタル画像を含み、前記距離が、前記zスタックが前記トランスファデバイスの焦点が外れた状態で決定されたデジタル画像と前記トランスファデバイスの焦点が合った状態で決定されたデジタル画像とを含むように、品質管理のための方法に言及する請求項1~8のいずれか一項に記載の品質管理のためのコンピュータ実装方法を使用することによって決定されたシャープネス値に基づいて定義され、
    前記方法が、前記機械学習および深層学習モデルをデジタル画像の前記zスタックに適用することと、前記機械学習および深層学習モデルを調整することと、を含む、コンピュータ実装方法。
  14. 前記機械学習および深層学習モデルが畳み込みニューラルネットワークおよび/または通常のニューラルネットワークに基づく、請求項13に記載の方法。
  15. スライド撮像装置(110)であって、
    - スライド(114)に搭載された試料(112)の少なくとも1つのデジタル画像を生成するように構成された少なくとも1つの撮像デバイス(116)と、
    - 少なくとも1つの制御および評価装置(122)と、
    を備え、
    前記スライド撮像装置(110)が、請求項1~14に記載の方法のうちの少なくとも1つを実行するように構成されている、スライド撮像装置(100)。
JP2023513082A 2020-08-25 2021-08-24 試料のデジタル画像の品質管理のためのコンピュータ実装方法 Pending JP2023542619A (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
EP20192675.5 2020-08-25
EP20192675 2020-08-25
PCT/EP2021/073326 WO2022043289A1 (en) 2020-08-25 2021-08-24 Computer-implemented method for quality control of a digital image of a sample

Publications (1)

Publication Number Publication Date
JP2023542619A true JP2023542619A (ja) 2023-10-11

Family

ID=72240380

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2023513082A Pending JP2023542619A (ja) 2020-08-25 2021-08-24 試料のデジタル画像の品質管理のためのコンピュータ実装方法

Country Status (5)

Country Link
US (1) US20230206416A1 (ja)
EP (1) EP4205072A1 (ja)
JP (1) JP2023542619A (ja)
CN (1) CN115917593A (ja)
WO (1) WO2022043289A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
SE2250140A1 (en) * 2022-02-11 2023-08-12 Cellink Bioprinting Ab Imaging apparatus and method for determning a focal point of a well-plate

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CA2708211C (en) * 2007-08-17 2015-01-06 Oral Cancer Prevention International, Inc. Feature dependent extended depth of focusing on semi-transparent biological specimens
CN108603998B (zh) * 2015-12-16 2021-12-31 文塔纳医疗系统公司 通过确定最优扫描轨迹获取载玻片上的样本的聚焦图像的方法、系统和产品

Also Published As

Publication number Publication date
EP4205072A1 (en) 2023-07-05
CN115917593A (zh) 2023-04-04
US20230206416A1 (en) 2023-06-29
WO2022043289A1 (en) 2022-03-03

Similar Documents

Publication Publication Date Title
US11721018B2 (en) System and method for calculating focus variation for a digital microscope
JP7422825B2 (ja) 顕微鏡スライド画像のための焦点重み付き機械学習分類器誤り予測
TWI805857B (zh) 用於特性化一樣品之系統及方法
JP5254441B2 (ja) フロー式粒子画像解析方法及び装置
US7058233B2 (en) Systems and methods for constructing an image having an extended depth of field
CN111083365B (zh) 一种最佳焦平面位置快速检测方法及装置
KR102084535B1 (ko) 결함 검사 장치, 결함 검사 방법
CA3002902C (en) Systems and methods of unmixing images with varying acquisition properties
US20120249770A1 (en) Method for automatically focusing a microscope on a predetermined object and microscope for automatic focusing
CN109001902B (zh) 基于图像融合的显微镜聚焦方法
US20230206416A1 (en) Computer-implemented method for quality control of a digital image of a sample
US20090169090A1 (en) Targeted edge detection method and apparatus for cytological image processing applications
CN115032196A (zh) 一种全划片高通量彩色病理成像分析仪器及方法
US20220392031A1 (en) Image processing method, image processing apparatus and image processing system
TW201809592A (zh) 自動化三維量測
CN114219758A (zh) 缺陷检测方法、系统、电子设备和计算机可读存储介质
EP1210634B1 (en) Methods and devices in an optical system
EP4198892A1 (en) Method for determining boundaries of a z-stack of images of an object, corresponding optical instrument and computer program therefore
Sánchez et al. Automatization techniques. Slide scanning
Sakurikar et al. Geometric Scene Refocusing
JP2023529083A (ja) 走査有効性を解析する方法
Caldeira Development of bioinformatics tools to track cancer cell invasion using 3D in vitro invasion assays
Elozory Using a focus measure to automate the location of biological tissue surfaces in Brightfield microscopy
Fan Methods for rapid and high quality acquisition of whole slide images

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230314

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20240222

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240301