JP2021513075A - 光学組織像の分析及び遠隔読影のためのシステム及び方法 - Google Patents

光学組織像の分析及び遠隔読影のためのシステム及び方法 Download PDF

Info

Publication number
JP2021513075A
JP2021513075A JP2020542587A JP2020542587A JP2021513075A JP 2021513075 A JP2021513075 A JP 2021513075A JP 2020542587 A JP2020542587 A JP 2020542587A JP 2020542587 A JP2020542587 A JP 2020542587A JP 2021513075 A JP2021513075 A JP 2021513075A
Authority
JP
Japan
Prior art keywords
image
tissue
tissue sample
diagnosis
images
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2020542587A
Other languages
English (en)
Other versions
JP7217893B2 (ja
Inventor
オルリンガー、ダニエル
パンディアン、バラージ
フリューディガー、クリスチャン
ホロン、トッド
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
University of Michigan
Original Assignee
University of Michigan
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by University of Michigan filed Critical University of Michigan
Publication of JP2021513075A publication Critical patent/JP2021513075A/ja
Application granted granted Critical
Publication of JP7217893B2 publication Critical patent/JP7217893B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/40ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/62Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light
    • G01N21/63Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited
    • G01N21/65Raman scattering
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/62Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light
    • G01N21/63Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited
    • G01N21/65Raman scattering
    • G01N2021/653Coherent methods [CARS]
    • G01N2021/655Stimulated Raman
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N2201/00Features of devices classified in G01N21/00
    • G01N2201/02Mechanical
    • G01N2201/022Casings
    • G01N2201/0221Portable; cableless; compact; hand-held
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N2201/00Features of devices classified in G01N21/00
    • G01N2201/12Circuits of general importance; Signal processing
    • G01N2201/129Using chemometrical methods
    • G01N2201/1296Using chemometrical methods using neural networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10056Microscopic image
    • G06T2207/10061Microscopic image from scanning electron microscope
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30016Brain
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30096Tumor; Lesion

Abstract

組織像を分析及び読影するためのシステムが提示される。このシステムは、イメージング・デバイスと、診断モジュールとを含む。イメージング・デバイスは、組織試料の光学切片における組織試料の画像を取り込み、組織試料は、光学切片よりも大きい厚さを有する。システムは、イメージング・デバイスから遠隔に配置され、イメージング・デバイスから画像を受け取るように構成された画像読影サブシステムをさらに含んでよい。診断モジュールは、イメージング・デバイスから組織試料のための画像を受け取るように構成され、機械学習アルゴリズムを画像に適用することによって組織試料のための診断を生成する。診断モジュールは、イメージング・デバイスと直接的にインタフェースしてもよいし、画像読影サブシステムにおいて遠隔で配置されてもよい。

Description

本出願は、2018年2月6日に出願された米国仮特許出願第62/627,033号の利益を主張するものである。上記出願の開示全体は、参照により本明細書に組み込まれる。
本開示は、組織像の分析及び遠隔読影のためのシステム及び方法に関し、より詳細には、組織の誘導ラマン散乱(SRS:Stimulated Raman Scattering)画像を分析及び読影するためのシステム及び方法に関する。
脳腫瘍の最適な外科的処置は、組織亜型に応じて広く変化する。中枢神経系(CNS:central nervous system)のいくつかの腫瘍は異なる肉眼所見を有するが、他の腫瘍は見分けるのが困難である。したがって、脳腫瘍手術における術中病理組織診断の重要性は、85年にわたって認識されている。
凍結切片作製及び細胞学的な準備を含む既存の術中組織学的技法は、スライドを産生及び読影するために、外科病理学ラボラトリで働く熟練した技術者及び臨床医を必要とする。しかしながら、脳腫瘍手術が実行されるセンターの数は、委員会認定の神経病理医の数を超え、多数の症例における専門家による術中診察の可能性をなくす。最も高度で、スタッフが優秀な病院においてすら、術中病理学報告の所要時間が、手術中の臨床的な意思決定を遅延させることがある。
誘導ラマン散乱(SRS)顕微鏡は、未処理の組織標本の迅速で、ラベルのない、高分解能の顕微鏡イメージングの可能性を提供する。SRSは、脳腫瘍標本における重要な診断組織学的特徴を明らかにするために示されているが、主な技術上のハードルが、その臨床的な変換を妨げてきた。SRS顕微鏡は、一時的にパルス持続時間よりも短く(すなわち、<100fs)重複され、空間的に焦点サイズよりも小さく(すなわち、<100nm)重複される2つのレーザ・パルス列を必要とする。これらの条件を達成するには、一般的には、光学テーブル上に載置された自由空間光学部品と、臨床環境における使用に適していない、最先端の、固体の、連続的水冷式レーザが必要である。
したがって、望ましいものは、迅速で標準化された、正確な診断画像を送達する術中組織病理学が外科的意思決定の助けとなるシステム及び方法である。術中組織学的データへの改善されたアクセスは、腫瘍内の臨床的に関連のある組織学的変化の吟味と、残存腫瘍に関する切除空洞のアセスメントを可能にする。さらに、手術時に除去された腫瘍のパーセンテージは脳腫瘍患者の主な予後因子であるとすると、残存腫瘍を正確に識別することが可能である術中技法を開発することが望ましいであろう。
このセクションは、必ずしも従来技術であるとは限らない、本開示に関連する背景情報を提供する。
このセクションは、本開示の一般的な概要を提供するものであり、その全範囲又はその特徴のすべての包括的な開示ではない。
組織像を分析及び読影するためのシステムが提示される。一実施例では、このシステムは、イメージング・デバイスと、診断モジュールからなる。このイメージング・デバイスは、組織試料の光学切片における組織試料の画像を取り込み、組織試料は、光学切片よりも大きい厚さを有する。診断モジュールは、イメージング・デバイスから組織試料のための画像を受け取るように構成され、機械学習アルゴリズムを画像に適用することによって組織試料のための診断を生成する。
いくつかの実施例では、イメージング・デバイスは、誘導ラマン散乱を使用して組織試料の画像を生成する。たとえば、イメージング・デバイスは、2820cm−1から2880cm−1までの範囲内の第1のラマン・シフトにおいて、及び2920cm−1から2980cm−1までの範囲内の第2のラマン・シフトにおいて、組織試料を画像化する。イメージング・デバイスは、2750cm−1から2820cm−1までの範囲内の第3のラマン・シフトにおいて、組織試料をさらに画像化することがある。
より具体的には、診断モジュールは、組織試料を、畳み込みニューラル・ネットワークなどのニューラル・ネットワークを求めるカテゴリへと分類する。一実施例では、診断モジュールは、腫瘍性組織カテゴリ又は非腫瘍性組織カテゴリを含むカテゴリへと組織試料を分類し、腫瘍性組織カテゴリは腫瘍をもつ組織試料であり、非腫瘍性組織カテゴリは腫瘍のない組織試料である。腫瘍性組織カテゴリは、外科的サブカテゴリと非外科的サブカテゴリとをさらに含み、外科的サブカテゴリは、腫瘍が手術によって除去されるべきであることを示し、非外科的サブカテゴリは、腫瘍が手術によって除去されるべきでないことを示す。非腫瘍性組織カテゴリは、正常な脳組織のためのサブカテゴリと、神経膠症組織のためのサブカテゴリとを含む。外科的サブカテゴリは、膠細胞腫瘍のためのサブカテゴリと、非膠細胞腫瘍のためのサブカテゴリとを含む。非膠細胞腫瘍のためのサブカテゴリは、神経鞘腫腫瘍、髄膜腫腫瘍、転移性腫瘍、下垂体腫瘍、及び髄芽腫腫瘍のためのサブカテゴリをさらに含んでよい。膠細胞腫瘍のためのサブカテゴリは、神経膠芽腫腫瘍及び低悪性度神経膠腫腫瘍のためのサブカテゴリをさらに含んでよい。
いくつかの例では、診断モジュールは、組織試料を、カテゴリ化できない画像のための非診断カテゴリを含むカテゴリへと分類する。この場合、ニューラル・ネットワークは、カテゴリ化不可能であると指定された画像を用いて訓練されてよい。
診断モジュールはまた、二次的方法を画像に適用することによって組織試料のための二次診断を生成し、二次診断が機械学習アルゴリズムからの組織試料のための診断と一致しないときに組織試料を非診断カテゴリに分類し、二次的方法は、機械学習を使用しない。1つの実例では、診断モジュールは、細胞充実性の定量的尺度を決定することによって組織試料のための二次診断を生成する。他の例では、診断モジュールは、組織試料のための細胞充実性の定量的尺度を決定することによって組織試料のための一次診断を生成する。
いくつかの実施例では、診断モジュールは、組織試料の所与の画像を2つ以上のセグメントへとセグメンテーションし、機械学習アルゴリズムをセグメントに適用することによって各セグメントのための診断を生成して、セグメントのための診断を集約することによって組織試料のための診断を生成する。各セグメントに対して、診断モジュールは、ニューラル・ネットワークを使用して組織試料をカテゴリへと分類することができ、それによって、各カテゴリのための確率を生じ、カテゴリにまたがる確率を1に正規化する。診断モジュールは、非診断カテゴリ内に分類されたセグメントのための診断を省略することによって組織試料のための診断を生成することがあり、非診断カテゴリは、所与のセグメントがカテゴリ化不可能であることを示す。所与の画像に対して、診断モジュールは、任意の非腫瘍性組織カテゴリのための確率をゼロに設定し、カテゴリのすべてにまたがる確率を1に再正規化することもでき、非腫瘍性組織カテゴリは、組織試料が腫瘍のないことを示す。
別の態様では、システムは、画像デバイスから画像を受け取るように構成された画像読影サブシステムをさらに含み、組織試料の画像を表示するように動作する。通信モジュールは、画像デバイスとインタフェースされ、イメージング・デバイスから、イメージング・デバイスから遠隔に配置された画像読影サブシステムに画像を送信するように動作し得る。
いくつかの実施例では、画像読影サブシステムは、組織試料のための画像を受け取るように構成された診断モジュールを含み、機械学習アルゴリズムを画像に適用することによって組織試料のための診断を生成する。これらの実施例では、画像デバイスは、少なくとも2つの異なる視野から組織試料の画像を取り込むようにしてもよく、画像読影サブシステムは、これらの画像を組織試料の1つの組み立てられた画像へと組み立て、組み立てられた画像を表示する。診断モジュールは、機械学習アルゴリズムを適用することによってイメージング・デバイスから受け取られた各画像のための診断も生成し、画像のための診断を集約することによって組織試料のための診断を生成する。
一実施例では、通信モジュールは、医用デジタル・イメージング及び通信(DICOM:Digital Imaging and Communications in Medicine)通信プロトコルにより画像を送信する。
他の実施例では、システムは、映像保存通信システム(PACS:picture archiving and communication system)を含み、通信モジュールは、保存のために画像をPACSに通信する。
さらに他の実施例では、画像読影サブシステムは、画像読影サブシステムから二次通信リンクを介してイメージング・デバイスに組織試料の読影を送信する。組織試料の読影は、DICOM構造報告の形をとってよい。
さらなる適用性の分野は、本明細書において提供される説明から明らかになるであろう。この概要における説明及び具体的な実例は、例示の目的を意図したにすぎず、本開示の範囲を限定することを意図したものではない。
本明細書において説明される図面は、すべての可能な実装形態ではなく、選択された実施例の図示の目的であるにすぎず、本開示の範囲を限定することを意図したものではない。
本開示のいくつかの態様による、光学組織像を取得及び分析するための例示的なイメージング・システムを示す図である。 ポータブルで臨床的に適合するSRSイメージング・システムの一部として利用される2波長ファイバ・レーザ結合顕微鏡の構成要素を示す機能ブロック図である。レーザ図の上部部門(top arm)は、ストークス・ビームを生成するためのスキームを示し(赤色)、下部部門(bottom arm)はポンプ・ビームを生成する(オレンジ色)。本開示のいくつかの態様により、両方のビームが組み合わされ(紫色)、標本に通過される。ここで、Er=エルビウム、HLNF=高非線形ファイバ、PD=フォトダイオード、PPLN=周期分極ニオブ酸リチウム、及びYb=イッテルビウムである。 本開示のいくつかの態様による、雑音消去前のヒト組織の未加工の2845cm−1SRS画像である。 本開示のいくつかの態様による、平衡検出ベースに基づく雑音消去後のヒト組織の未加工の2845cm−1SRS画像である。 本開示のいくつかの態様による、獲得されたCHラマン・シフト(2,845cm−1)画像である。 本開示のいくつかの態様による、獲得されたCHラマン・シフト(2,930cm−1)画像である。 本開示のいくつかの態様による、減算演算すなわちCH(すなわち、図4bの画像)−CH(すなわち、図4aの画像)を反映する画像である。 本開示のいくつかの態様による、2色の青色−緑色画像を作成するために、CH画像を緑色チャネルに割り当てることと、CH−CH画像を青色チャネルに割り当てることを示す図である。 本開示のいくつかの態様による、H&Eルックアップ・テーブルを適用することによって生成された腫瘍の切片のSRH画像である。 本開示のいくつかの態様による、ホルマリン固定、パラフィン包埋(FFPE:formalin−fixation, paraffin−embedding)、及びH&E染色を実行することによって生成された、図4eに示された画像に類似した、腫瘍の切片の画像である。 画像化された組織のモザイクを作成するためのいくつかのSRH視野(FOV:field of view)のモザイク・タイル化された画像である。星は、微小血管増殖の焦点を示し、破線の円は石灰化を示し、破線のボックスは、本開示のいくつかの態様により図4eのFOVがどのようにより大きなモザイクに嵌まるかを示す(スケール・バー=100μm)。 本開示のいくつかの態様による、角のある境界と、赤色に見えるリポフスチン顆粒と、軸索(緑色の矢じり)である白色の線状構造とをもつ散在した錐体神経細胞(青色の矢じり)を示す、正常な皮質を示す画像である。 本開示のいくつかの態様による、径方向に向けられた細かいタンパク質の豊富な突起(赤色の矢じり)と軸索(緑色の矢じり)をもつ反応性星状膠細胞を含む神経膠症組織を示す画像である。 本開示のいくつかの態様による、脂質の豊富なファゴソームをもつ丸い膨張した細胞を明らかにする、神経膠芽腫の縁の近くのマクロファージ浸潤を示す画像である。 本開示のいくつかの態様による、広汎性1p19q共欠失の低悪性度乏突起神経膠腫内の、丸い核、十分な細胞質、核周囲明暈(黄色の矢じり)、及びニューロンの衛星病変(紫色の矢じり)をもつ散在した「目玉焼き型」腫瘍細胞を明らかにするSRHを示す画像であり、軸索(緑色の矢じり)は、この腫瘍浸潤皮質でも明らかである。 本開示のいくつかの態様による、より小さい隣接する腫瘍細胞とは対照的に大きな二核腫瘍細胞が示されること(挿入図)を含む、神経膠芽腫内の細胞過多、退形成、並びに細胞及び核の多形性を示すSRHを示す画像である。 本開示のいくつかの態様による、別の神経膠芽腫のSRHが、紫色に見える血管形成脈管構造のタンパク質の豊富な基底膜をもつ微小血管増殖(オレンジ色の矢じり)を明らかにすることを示す画像である。 本開示のいくつかの態様による、髄膜腫の渦巻きのある構造物(architecture)(黒色の矢じり)を明らかにするSRHを示す画像である。 本開示のいくつかの態様による、高い核:細胞質比をもつリンパ腫の単一形細胞を明らかにするSRHを示す画像である。 本開示のいくつかの態様による、転移性結腸直腸腺癌の腺性構造物(挿入図、灰色の矢じり)を明らかにするSRHを示す画像である(大きい画像スケール・バー=100μm、挿入図画像スケール・バー=20μm)。 本開示のいくつかの態様による、(i)左側、以前の切除空洞(赤色の円)内の拡大する腫瘤(enhancing mass)(黄色の矢じり)のために追跡された、低悪性度乏突起神経膠腫の病歴をもつ患者の磁気共鳴映像法(MRI)画像、及び(ii)右側、いくつかの領域内の(左の列)低悪性度乏突起神経膠腫構造物をもつ区域と、同じ標本の他の区域内の退形成の巣(右の列)を明らかにする、切除された組織のSRHイメージングを示す画像である。 本開示のいくつかの態様による、(i)左側、神経節膠腫の疑いのある患者のMRI画像−神経節膠腫は、一般的には、ニューロン及び膠細胞系譜(lineage)の細胞から構成される、及び(ii)右側、無秩序な二核形成異常ニューロンが優勢な術前MRI上の緑色の矢じりで示された場所における浅い組織生検(左の列)と、構造物が細胞過多神経膠腫とより一致する深い生検(青色の矢じり)(右の列)との間の構造上の違いを明らかにするSRHイメージングを示す画像である。ホルマリン固定、パラフィン包埋(FFPE)、H&E染色画像が比較のために示されている。 本開示のいくつかの態様による、神経病理医から反応に基づいて非病変(左の列)又は病変(右の列)と判断された組織を示すSRH画像(上の行)及びH&E画像(下の行)を示す画像である。 本開示のいくつかの態様による、神経病理医から反応に基づいて膠細胞(左の列)又は非膠細胞(右の列)と判断された組織を示すSRH画像(上の行)及びH&E画像(下の行)を示す画像である。 本開示のいくつかの態様による、神経病理医から反応に基づいて神経膠芽腫(左の列)又は転移性癌(右の列)と判断された組織を示すSRH画像(上の行)及びH&E画像(下の行)を示す画像である。 破線によって指定される個々のFOVとともに低悪性度膠細胞腫瘍診断クラスを示すSRHモザイクである(中央)。本開示のいくつかの態様により、4つの個々のFOVは、より高い縮尺で、上記で列挙されたすべての4つのカテゴリに対する診断確率とともに示される。 本開示のいくつかの態様による、4つの診断カテゴリに対するモザイク画像上の各FOVに対するクラス・メンバシップのMLPにより決定された確率を示す、SRHモザイク画像の上に重ねられた確率ヒート・マップである。色のついたボックスは、図8aで強調されたFOVに対応する。 本開示のいくつかの態様による、MLPを介した、病変又は非病変としての症例の分類のヒート・マップ描写である。緑色のチェックは正しいMLP予測を示し、赤色の円は、正しくない予測を示す。 本開示のいくつかの態様による、MLPを介した、膠細胞又は非膠細胞としての症例の分類のヒート・マップ描写である。緑色のチェックは正しいMLP予測を示し、赤色の円は、正しくない予測を示す。 本開示のいくつかの態様による、30の神経外科症例(患者72〜101)のテスト・セットからのMLP結果の要約である。正しいタイルの断片は、各ヒート・マップ・タイルの色合い及び強度、並びに予測診断クラスによって示される。 本開示のいくつかの態様による、さまざまな癌タイプのための、ラベルのない、未処理のSRH画像(上の行)の、従来のH&E染色凍結切片(下の行)との比較を示す画像である。 本開示のいくつかの態様による、誘導ラマン組織学(右の列)との従来の組織学準備(左の列)の、比較を示す図である。 本開示のいくつかの態様による、SRH画像の双方向転送及びアノテーションを可能にするネットワーク・アーキテクチャを示す図である。 本開示のいくつかの態様による、プールされたSRH画像及び従来の組織学画像を使用して診断を実行するための方法を示すフローチャートである。 本開示のいくつかの態様による合成画像獲得を示す図である。 本開示のいくつかの態様による、畳み込みニューラル・ネットワーク(CNN:convolutional neural network)を使用して診断を実行するための方法を示すフローチャートである。 SRH画像を分析するための実例となる方法を示すフローチャートである。 ストリップのための診断を決定するための実例となる方法を示すフローチャートである。 SRH画像を分析するための実例となる方法をさらに示す図である。 分類モデルのためのカテゴリの実例となるセットを示す図である。
対応する参照番号は、図面のすべての図を通して対応する部分を示す。
実例となる実施例が、本開示が完全であり、範囲を当業者に十分に伝えるように提供される。本開示の実施例の完全な理解を提供するために、具体的な構成、構成要素、デバイス、及び方法の実例などの多数の具体的な詳細が記載されている。具体的な詳細が用いられる必要はなく、実例となる実施例は多くの異なる形で実施されてよく、本開示の範囲を限定すると解釈されるべきでないことは、当業者には明らかであろう。いくつかの実例実施例では、よく知られているプロセス、よく知られているデバイス構造、及びよく知られている技術は、詳細に説明されない。
本開示全体を通じて、数値は、所与の値及び言及された値をおよそ有する実施例からの小さい逸脱を包含する範囲に近似した尺度又は限界、並びに言及された値を正確に有する尺度又は限界を表す。詳細な説明の終わりに提供される実践的な実例において以外に、添付の特許請求の範囲を含む本明細書におけるパラメータ(たとえば、量又は条件)のすべての数値は、数値の前に「約」という用語が実際に出現するにせよしないにせよ、すべての例において「約」によって修飾されると理解されるべきである。「約」は、述べられる数値は、いくらかのわずかな不正確さを可能にする(値の正確さへの何らかの接近をもつ。値にほぼ又はかなり近い。ほとんど)ことを示す。そうではなく、「約」によって提供される正確さが、当技術分野でこの通常の意味とともに理解されない場合、本明細書において使用される「約」は、そのようなパラメータを測定及び使用する通常の方法から生じ得る変動を少なくとも示す。たとえば、「約」は、5%以下、任意選択で4%以下、任意選択で3%以下、任意選択で2%以下、任意選択で1%以下、任意選択で0.5%以下、及びいくつかの態様では、任意選択で0.1%以下の変動を含んでよい。
さらに、範囲の開示は、範囲のために与えられる終点及びサブ範囲を含む、すべての値及び範囲全体の中のさらなる分割された範囲の開示を含む。
次に、実例となる実施例が、添付の図面を参照しながらより十分に説明される。
ファイバ・レーザ技術の進歩を活用して、本開示は、患者ケア環境におけるSRS顕微鏡の実行を可能にする臨床SRS顕微鏡を提示する。ファイバの光学コア及びレーザ源の独自の偏波保持(PM:polarization−maintaining)実装形態による光案内は、手術室内でのサービス・フリー動作を可能にする。本明細書において説明されるシステムは、ファイバ・レーザに基づくSRS顕微鏡を実行する主要な課題の1つである高い相対強度雑音の抑制のための改善された雑音消去電子機器も含む。
本明細書において説明されるシステムは、とりわけ、SRS顕微鏡が、従来の組織学的方法に対する効果的で簡素化された代替形態として働き、切片作製、載置、染色、及び読影のために手術室から病理学ラボラトリに標本を転送する必要性をなくすことができることを示す。さらに、SRS顕微鏡のための組織準備が最小であるので、一般に塗抹標本では失われる重要な組織構造上詳細及び凍結切片では多くの場合に不明瞭にされる細胞学的な特徴が維持される。さらに、本開示は、腫瘍(たとえば、脳腫瘍)の重要な組織構造的特徴を強化し、従来のH&Eに基づく技法とかなり一致する診断を可能にする、誘導ラマン組織学(SRH)と呼ばれる、ヘマトキシリン・エオジン(H&E:hematoxylin and eosin)染色をシミュレートするSRS画像処理のための方法を提示する。そのうえ、本開示は、たとえば、定量化されたSRH画像属性に基づいた、さまざまな教師あり機械学習手法がどのようにして脳腫瘍の診断クラスを効果的に区別するかについて説明する。したがって、SRHは、将来の脳腫瘍の外科的ケアを改善するために活用可能である、術中組織病理学のための自動化された標準化された方法を提供し得る。
本開示の態様は、組織診断におけるSRS画像の使用について説明する。しかしながら、本明細書において説明される概念及び実装形態は、厚い組織標本の光学切片を生じさせる他の新鮮組織イメージング・モダリティに等しく適用可能である。これらは、限定するものではないが、共焦点反射顕微鏡、1光子又は2光子自己蛍光顕微鏡、蛍光寿命イメージング(FLIM:fluorescent lifetime imaging)、第2高調波発生(SHG:second−harmonic generation)顕微鏡、第3高調波発生(THG:third−harmonic generation)顕微鏡、及び又はコヒーレント反ストークスラマン散乱(CARS:coherent anti−stokes Raman scattering)顕微鏡などのラベルのないイメージング技術を含んでよい。さらに、本明細書において説明されるシステム及び方法は、1光子若しくは2光子蛍光共焦点顕微鏡又は広視野顕微鏡又は光シート顕微鏡などの、ラベルに基づく又は染色に基づくイメージング技術も利用してよい。一般的な生体内染色としては、限定するものではないが、DAPI、エオジン、ローダミン、ヘキスト染色、又はアクリジンオレンジがある。いくつかの実例では、本明細書において説明されるシステム及び方法は、ラベルのないイメージング技術とラベルに基づく又は染色に基づくイメージング技術の組み合わせを利用し得る。
すべてのこれらの技法で共通する特徴は、光学切片作製である。これは、一般的には定型的な組織病理学においてなされる組織標本の物理的切片作製と対照的である。これは、画像が、標本自体よりも小さい厚さを有する組織標本内部の焦点面から生成されることを意味する。焦点外れ信号は生成されない、又は拒否される。光学切片の厚さは、使用される対物レンズの開口数によって決定可能である。これらの技術を使用すると、試料表面からのさまざまな深度における標本の深度スタックを獲得することは可能であるが、必須ではない。1つの実例では、これは、試料と対物レンズとの間の距離を規則正しく変化させることによって達成可能である。
次に図1を参照すると、光学組織像を取得及び分析するための例示的なイメージング・システム10が示されている。イメージング・システム10は、一般にイメージング・デバイス12と、コンピューティング・デバイス14上に実装された診断モジュール15、からなる。動作中、イメージング・デバイスは、光学切片作製を使用して新鮮組織試料の1つ又は複数の画像を取り込む。すなわち、イメージング・デバイス12は、組織試料の光学切片において組織試料の画像を取り込み、組織試料は、光学切片よりも大きい厚さを有する。実例実施例では、イメージング・デバイス12は、誘導ラマン散乱を使用して組織試料の画像を生成する。診断モジュール15は、イメージング・デバイス12から画像を受け取り、以下でさらに説明されるように機械学習アルゴリズムを画像に適用することによって組織試料のための診断を生成するように構成される。イメージング・システム10は、診断結果を表示するためのディスプレイ・デバイス16も含むことがある。
より具体的には、完全に統合された誘導ラマン散乱(SRS)イメージング・システム10は、5つの主要な構成要素、すなわち、1)モータ駆動ステージをもつファイバ結合誘導ラマン散乱(SRS)顕微鏡と、2)2波長ファイバ・レーザ・モジュールと、3)レーザ制御モジュールと、4)顕微鏡制御モジュールと、5)画像獲得、表示、及び処理のためのコンピュータとを含む。システム全体は、ポータブルな自律型臨床カート内に載置されてよく、標準的な壁コンセントを利用してよく、水冷式の使用を回避してよい。このようにして、図1のシステムは、手術室内でのSRS顕微鏡の実行に適合しない光学式ハードウェアに対する依拠をなくし得る。
図2は、イメージング・システム10の1つの実例をさらに示す機能ブロック図である。図2は、ポータブルで臨床的に適合可能なSRSイメージング・システム(たとえば、図1のSRSイメージング・システム)の一部として利用される2波長ファイバ・レーザ結合顕微鏡の構成要素を示す。図2では、レーザ図の上部部門は、ストークス・ビームを生成するためのスキームを示し(赤色)、下部部門はポンプ・ビームを生成する(オレンジ色)。両方のビームが組み合わされ(紫色)、標本に通過される。ここで、Er=エルビウム、HLNF=高非線形ファイバ、PD=フォトダイオード、PPLN=周期分極ニオブ酸リチウム、及びYb=イッテルビウムである。
2波長ファイバ・レーザは、2つの主要なファイバ利得媒質であるエルビウム(Er)とイッテルビウム(Yb)の差周波数がラマン・スペクトルの高い波数領域と重複することに基づいて動作することがある。したがって、たとえば、図2を参照して示されるように、SRSイメージングに必要とされる2つの同期された狭帯域レーザ・パルス列が、シングル・ファイバ発振器から得られる広帯域スーパー・コンティニウムの狭帯域フィルタリングと、その後、それぞれの利得媒質内での増幅によって生成される。
いくつかの実例によれば、(たとえば、臨床的な実装形態の場合)、図1〜図2のイメージング・システムは、非偏波保持(PM)システムより安定性の著しい改善を提供し得る、PM構成要素に基づく全ファイバ・システムを構成することがある。本明細書において図1〜図2に関して説明されるシステムは、大陸横断運送(たとえば、カリフォルニアからミシガンへ)全体を通した安定性と、再アライメントの必要性のない、臨床環境における連続的な、サービス・フリーの、長期(>1年)動作を維持し得る。固体レーザで達成可能なものに匹敵する信号対雑音比をもつ高速診断品質イメージング(たとえば、波長につき2秒で1メガピクセル)を可能にするために、レーザ出力パワーは、40MHz繰り返し数及び2ピコ秒変換限界パルス持続時間における1010nmから1040nmまでの調節範囲全体にわたって、固定波長790nmポンプ・ビームの場合はほぼ120mW、調節可能なストークス・ビームの場合はほぼ150mWにスケーリングされ得る。いくつかの実例によれば、完全にカスタムなレーザ・コントローラ電子機器は、マイクロ・コントローラに基づいたこの多段階レーザ・システムの多くの設定を厳しく制御するためにイメージング・システムの一部として含まれることがある。組み立てられると、SRS顕微鏡は、いくつかの実例によれば、360nmの位置分解能(最大半値全幅)と、1.8μmの軸分解能とを含むことがある。
全ファイバ・システムの開発は、SRSの臨床的実装形態にとって望ましいが、図3aに示されるように、ファイバ・レーザに固有の相対強度雑音が、SRS画像品質を大幅に劣化させることがある。画像品質を改善するために、本明細書において説明されるイメージング・システムは、次いでリアルタイムで減算可能なレーザ・ノイズの尺度を提供するためにレーザ・ビームの一部分がサンプリングされる、オート・バランス検出に基づいた雑音消去スキームを実施することがある。いくつかの実例によれば、約25倍の改善が、調整の必要なく臨床環境において信号対雑音比で達成されることがあり、これは、図3bに示されるように、顕微鏡的組織構造物を明らかにするために不可欠である。
図4a〜図4eは、本開示のいくつかの態様による、SRS画像をSRH画像へと処理するための例示的な方法を示す。すなわち、図4a〜図4dは、図4eに示されるSRH画像が、従来のホルマリン固定、パラフィン包埋、及び酸性(ヘマトキシリン)又は塩基性(エオジン)(H&E)染色により生じられた画像(図4fを参照されたい)に非常によく似ているように、1つ又は複数のSRS画像を、図4eに示されるSRH画像などのSRH画像へと変換するための方法を示す。
背景として、組織内の脂質、タンパク質、及びDNAのような核酸などの一般的な分子のラマン・スペクトルは、複数のラマン・シフトにおいて(たとえば、2850cm−1及び2930cm−1又は2850cm−1、2930cm−1、及び2960cm−1などにおいて)組織内で画像化可能である。実例として、スペクトル不混和技法を使用して、H&E染色を模倣するためにたとえば青色及び緑色、又はピンク及び紫色などの異なる疑似カラーで表示可能であるマルチ・カラーSRS画像が生成可能である。CH振動(2845cm−1)のSRS画像は、有髄軸索及び細胞外マトリックスなどの、脂質が豊富な構造を示す。CH振動(2930cm−1)のSRS画像は、核及びコラーゲン線維などの、タンパク質やDNAが豊富な構造を示す。そのようなSRS画像は、一緒にオーバレイ又は合成可能である。SRS顕微鏡に特有の独自の化学的コントラストは、たとえば、腫瘍浸潤組織内の組織細胞充実性、軸索密度、及びタンパク質:脂質比の定量化可能な変化を明らかにすることによって、腫瘍検出を可能にする。
分類スキームは、堅牢な定量化されたSRS画像属性(たとえば、細胞過形成、軸索密度、タンパク質:脂質比)を、浸潤を検出するための単一のメトリックへと統合し得る。したがって、いくつかの態様では、核の数、軸索密度、及びタンパク質:脂質比が、SRS画像から算定可能である。以前の、ハイパースペクトルSRS顕微鏡を通して仮想H&E画像を達成するための方法とは異なり、SRHは、2つのラマン・シフト(たとえば、2845cm−1及び2930cm−1)のみを用いて必要なコントラストを生成することが可能である。SRH画像内の色は、酸性(ヘマトキシリン)部分又は塩基性(エオジン)部分の染色と正確に対応しないが、2つの方法の間には強いオーバーラップがあり(図4fを参照されたい)、読影を簡略化する。SRH画像を生じさせるために、視野(FOV)が、モザイク・パターンにおいてフレームあたり2秒の速度で獲得され、合成され、再着色されることがある。終了結果は、従来のH&E染色スライドに似たSRHモザイク(図4gに示される)であってよい。1つの実例によれば、モザイクのための獲得の時間は約2.5分であることがあり、それは、以下でさらに詳しく説明されるように、手術室から直接的に任意のネットワーク化されたワークステーションに迅速に送信可能である。
本開示のいくつかの実例によれば、SRHは、SRHを用いた診断組織学的特徴の検出において用いられ得る。SRHは、施設内審査委員会(IRB:institutional review board)により承認されたプロトコルを介して神経外科患者からの新鮮な外科標本を画像化することによってCNSの腫瘍を検出及び分類するために必要とされる診断特徴を明らかにする能力を示している。従来のH&E画像のように、SRH画像は、非病変組織(図5a〜図5cに示される)と病変組織(図5d〜図5iに示される)の区別を可能にする、細胞及び構造物の特徴を明らかにする。SRHを用いて画像化されたとき、前部側頭葉切除術患者からの構造上正常な脳組織は、リポフスチン顆粒を含む角ばった細胞体(angular cell body)をもつニューロン(図5aに示される)と、白色の線状構造として見える脂質の豊富な軸索(図5a〜図5bに示す)を示す。術中診断を複雑にし得る、神経膠症(図5bに示される)及びマクロファージ浸潤(図5cに示される)を含む非腫瘍性反応性変化も、SRHを用いて容易に視覚化される。低悪性神経膠腫(図5dを参照されたい)と高悪性神経膠腫(図5e〜図5fを参照されたい)を区別する細胞充実性、血管パターン及び核構造物の違いも明らかである。特に、SRHは、一般的には凍結切片上では見られず、固定のアーチファクトと思われる、乏突起神経膠腫細胞(図5dを参照されたい)の核周囲明暈は、細胞質大量の高タンパク質腫瘍細胞を反映することを示唆する。さらに、血液血管の、タンパク質の豊富な基底膜を強調することによって、SRHは、高悪性度神経膠腫における微小血管増殖(図5fに示される)を強調することによく適している。
SRHは、髄膜腫の渦巻きのある構造物(図5gを参照されたい)、リンパ腫の結合力のない(discohesive)単一形細胞(図5hを参照されたい)、並びに腺性構造物、大きな類上皮細胞、及び転移性腺癌のくっきりした境界(図5iを参照されたい)を含む、非膠細起源の腫瘍(図5g〜図5iに示される)の診断を可能にする組織構造的特徴も明らかにする。SRHは、3つの最も一般的な小児後頭蓋窩腫瘍、すなわち、若年性毛様細胞性星状細胞腫、髄芽腫、及び上衣腫を区別するに不可欠である形態的特徴を視覚化することも可能であり、これらの腫瘍の各々は、外科的管理のための異なる目標を有する。毛様細胞性星状細胞腫では、SRHは、毛様(毛髪に似た)構造物と、高いタンパク質含量によりSRH上では濃色に見えるローゼンタール線維を検出する。SRHは、髄芽腫内の著しく細胞過多の、小さく丸い青色の細胞外見及びロゼット、並びに上衣腫内の血管周囲偽ロゼットを形成する単一形の丸から卵形の細胞も明らかにする。
SRHは、腫瘍内異種性の検出においても利用されることがある。神経膠腫は、多くの場合に、組織学的異種性を内部にもち、このことが、診断及び治療選択を複雑にする。異種性は、悪性化進展を経験した疑いのある低悪性度神経膠腫において特に一般的であり、未分化変換の実証は、診断を行うのに不可欠である。SRHは、右前頭皮質の再発性乏突起神経膠腫患者から採取された標本内の腫瘍悪性度の異種性を検出する際に利用されることがある。そのような標本では、SRHは、本明細書における図6aに示されるように、低悪性度構造物と、細胞過多で、未分化の、有糸分裂が活発な腫瘍によって特徴づけられる高悪性度構造物の区域の両方を明らかにすることがある。
混合型グリア神経細胞腫などの他の腫瘍では、組織学的異種性は、必要な診断基準である。単一の病理組織学的な試料は膠細胞又はニューロンの構造物を明らかにし得るが、両方の識別は診断に必要である。神経節膠腫、グリア神経細胞腫瘍の疑いのある患者では、表層性標本の術中SRH画像(図6bを参照されたい)は、クラスタ化された形成異常ニューロンを明らかにし、深い標本は、細胞過多の毛様膠細胞構造を明らかにする。したがって、複数の標本を画像化する迅速な手段を提供することによって、SRHは、手術中の悪性度と組織構造の両方における臨床的に関連のある変化を確立するために必要とされる腫瘍内異種性を明らかにし得る。
本開示のいくつかの実例によれば、本明細書において説明されるシステム及び方法は、SRHに基づいた診断の定量的な評価を容易にし得る。たとえば、診断組織学的特徴を明らかにするその能力を考えると、SRHは、既存の術中診断の方法の代替策を提供するために利用されてよい。この仮説を吟味するために、標本が、日常的な凍結切片作製又は細胞学的な技法を使用して術中診断がなされた30人の神経外科患者から画像化される。同じ標本の隣接する部分が、日常的な組織学とSRHの両方に利用される。
術中組織学的診断の実施をシミュレートするために、コンピュータに基づいた調査が作成され、異なる施設において行う3人の委員会認定神経病理医は、患者の年齢群(子供/成人)、病変の場所、及び関連する過去の病歴に関する簡単な病歴とともに、SRH又は日常的な(塗抹標本及び/又は凍結)画像が提示された。神経病理医は、自身の診療における方法で各症例に対する術中診断に反応した。反応は、1)組織が病変と分類されるか非病変と分類されるか、2)病変組織に対して、組織が膠細胞起源を有するか非膠細胞起源を有するか、及び3)反応が、公的な臨床術中診断情報(病変ステータス、悪性度、組織亜型)と同じ量の診断情報を含むか、に基づいて等級分けされた。
SRH対臨床凍結切片を利用して病理医の診断能力を査定することは、以下の表1に示されるように、病変組織と非病変組織を区別するため(k=0.84〜1.00)及び膠細胞起源の病変を非膠細胞起源と区別するため(k=0.93〜1.00)の2つの組織学的方法の間の完全に近い一致(コーエンのカッパ)を明らかにする。完全に近い一致は、最終診断を予測する際の2つのモダリティの間にも存在した(k=0.89〜0.92)(表1を参照されたい)。再評価者間の評価者間信頼性及びSRHと診断を予測するための標準的なH&Eに基づく技法の間の一致も完全に近かった(k=0.89〜0.92)。特に、SRHでは、病理医は、病変組織と非病変組織(98%)、膠細胞腫瘍と非膠細胞腫瘍(100%)を区別する際、及び診断を予測する際(92.2%)に、非常に正確である。これらの知見は、SRH画像から病理組織学的な診断を得る、病理医の能力は、正確であり、従来の組織学的方法とも高く一致することを示唆する。
Figure 2021513075

上記の表1及び図7cに示されるように、両方の方法は、診断を予測する際に非常に正確であるが、SRHに基づいた診断不一致のうちの6つは、膠細胞腫瘍の分類において発生した。
図7a〜図7cを手短に参照すると、図7a〜7cは、SRHを用いた術間(interoperative)組織学的診断のシミュレーションを示す。より具体的には、図7a〜図7cは、とりわけ、調査中に提示された標本の部分の6つの実例、すなわち、神経膠症脳組織、髄芽腫、未分化星状細胞腫、髄膜腫、神経膠芽腫、及び転移性癌のためのSRH及びH&E準備を示す(スケール・バー=50μm)。
3つの別個の例では、病理医は、標本を神経膠腫であると正しく識別することが可能であるが、具体的な悪性度は提供しなかった。SRHでは「神経膠腫」と分類された2つの標本は、H&Eに基づく技法では「高悪性度神経膠腫」と分類される。神経膠腫内の高悪性度特徴としては、著しい核の非定型性、有糸分裂の活性、微小血管増殖、及び壊死がある。核の非定型性及び有糸分裂像のアセスメントは、主観的であり、標本内の「正常」な形態対非定型の形態の閾値を設定するために、数百の症例の審査に基づいた十分な専門知識を必要とする。H&E及びSRHにおける核構造物の外観の微妙な違いを考えると、病理医は、SRHを用いて腫瘍細胞に非定型帰属及び有糸分裂帰属をすることに関して、より保守的である可能性がある。
従来の技法(すなわち、切片作製)とSRH(すなわち、優しくつぶすこと)との組織準備の違いは、血管構造物の外観の違いをもたらす。微小血管増殖は、腔内内皮増殖(所与の血管内の内皮細胞のいくつかの層)と定義され、術中診察時に神経膠腫の悪性度を定める際に不可欠である。これは、組織が切断され2次元で分析されるときに観察しやすくすることができる。対照的に、SRHは、基底膜を強調することが可能であるが、場合によっては、微小血管増殖の古典的な構造上特徴を明らかにしないことがある。
標本からのアンダー・サンプリングは、観察される不一致にも寄与する可能性がある。3つの調査項目では、病理医は、SRH画像を使用して、上皮腫を「毛様細胞性星状細胞腫」と誤診した、又は、腫瘍のより一般的な説明を「低悪性度神経膠腫」と与えた。上皮腫及び毛様細胞性星状細胞腫は、薄い膠細胞プロセス(毛様に似た)から構成される背景に包埋された単調な細長い核の類似の核形態を有することがある。調査項目では明らかでなく、腫瘍全体を通じて不均一に分散されることがある、客観的な血管周囲偽ロゼット、上衣ロゼット、又はヒアリン化した血管の不在下では、上皮腫が毛様細胞性星状細胞腫と誤分類可能であることが理解できる。本開示を任意の特に理論に限定することなく、患者におけるSRH画像と従来のH&E画像の一致を考えると、これらの誤りは、より大きい標本が再評価者に提供された場合に回避された可能性があることが仮定される。
本明細書において説明されるシステム及び方法は、機械学習に基づいた組織診断を実行するためにも利用されることがある。臨床上の意志決定に最も有用である術中画像データは、迅速に取得され正確である術中画像データである。病理医による病理組織学的な画像の読影は、労力と時間をたくさん使い、観察者間の変動を起こしやすい。したがって、即時の一貫した、正確な組織診断を迅速に送達することができる、本明細書において説明されるシステム及び方法は、脳腫瘍手術中に非常に有用である。腫瘍浸潤は、組織属性の自動分析を通して定量的なSRS画像によって予測可能であるが、本開示は、以下に記載された、より堅牢な計算処理が、腫瘍診断クラスを予測するために用いられ得ることを企図する。
具体的には、いくつかの実例によれば、多層パーセプトロン(MLP)と呼ばれる機械学習プロセスは、1)反復しやすい、2)検証しやすい、及び3)現在の計算能力を用いて効率的であるので、診断予測のために提示される。MLPを作成するために、12,879の400×400μmSRH FOVが患者から組み込まれた。1つの実例によれば、WND−CHRM(機械学習のための2,919の画像属性を算出する)などは、定量化された属性を各FOVに割り当てるために用いられることがある。正規化された定量化された画像属性は、以下でさらに詳しく説明されるように、予測された診断と観察された診断との違いが最小になるまで、訓練、反復のためにMLPへと送られることがある。基準がMLPに提供されるが、本明細書において説明される技法は他のタイプの機械学習アルゴリズムに適用可能であることは容易に理解される。
いくつかの実例によれば、MLPは、2つのソフトウェア・ライブラリ、すなわちTheano及びKerasを用いてプログラムされることがある。しかしながら、前述のライブラリは、本質的に例示にすぎず、他の適切なソフトウェア・ライブラリ(たとえば、tensorflow、caffe、scikit−learn、pytorch、MXNet、及びCNTK)が、本明細書における教示から逸脱することなく、MLPの一部として用いられてよい。Theanoは、MLPを訓練するために使用される高性能な低水準数式評価装置である。Kerasは、Theanoのためのラッパーとして働く高水準Pythonフレームワークであり、異なるMLP構成の迅速な反復及びテストを可能にする。
いくつかの実例によれば、本明細書において説明されるMLPは、完全に接続された、1,024ユニットからなる、1つの隠れ層の、ニューラル・ネットワークとして設計される。1つの実例では、ネットワークは、8つの連続層を以下の順で含む。1)均一な初期化をもつ密な入力層、2)ハイパボリック・タンジェント活性化層、3)ドロップアウト確率0.2をもつドロップアウト層、4)均一な初期化をもつ密な隠れ層、5)ハイパボリック・タンジェント活性化層、6)ドロップアウト確率0.2をもつドロップアウト層、7)均一な初期化をもつ密な出力層、及び8)分類の数に対応するソフトマックス活性化層。他の実装形態も本開示によって想定されている。
MLPの訓練は、いくつかの実例によれば、調査テスト・セットから排他的な訓練セットを使用して実行されてよい。損失は、マルチ・クラス・ログ損失方式を使用して算出され得る。選択されるオプティマイザは、以下のパラメータを含んでよい、すなわち学習率=0.001、ベータ_1=0.9、ベータ_2=0.999、及びイプシロン=1×10−8
MLPの精度をテストするために、一個抜き手法が利用され、訓練セットは、テストされている患者からのFOVを除くすべてのFOVを含む。この方法は、訓練セットのサイズを最大にし、訓練セットとテスト・セットの試料間のあり得る相関をなくす。MLPは、個々のFOVレベルに関する予測を行うように構成され、所与のFOVが、非病変、低悪性度膠細胞、高悪性度膠細胞、又は非膠細胞腫瘍(転移、髄膜腫、リンパ腫、及び髄芽腫を含む)という4つの診断クラスの1つに属する確率をもたらしてよい(図8aを参照されたい)。この実例によれば、4つの診断クラスは、脳腫瘍手術中に意思決定を知らせるための重要な情報を提供するので、選択される。
実証するために、一個抜き手法は、神経病理医に与えられた調査において使用される30人の患者に利用される。MLPを評価するために使用される30人の患者の各々に対して、その患者からすべてのFOV(n)がテスト・セットに置かれる。訓練セットは、12,879−nの残りのFOVから構成される。12,879個のFOVは、割り当てられる診断を表すことを保証するように神経病理医によってスクリーニングされる。FOVは、非病変、毛様細胞性星状細胞腫、上皮腫、乏突起神経膠腫、低悪性度びまん性星状細胞腫、未分化乏突起神経膠腫、未分化星状細胞腫、神経膠芽腫、髄膜腫、リンパ腫、転移性腫瘍、及び髄芽腫として分類される。
MLPは25の反復に対して訓練され、以下の26の反復重みは、テスト・セットの検証に対して使用するために記録される。テスト・セットは、これらの26の重みの各々へと送られ、結果として生じる、12の診断クラスの各々の確率は、各FOVのための各診断のための最終確率を作成するように平均される。12の診断は、診断予測を達成するために、4つのクラス(非病変、低悪性度膠細胞、高悪性度膠細胞、及び非膠細胞)に圧縮される。低悪性度膠細胞カテゴリは、毛様細胞性星状細胞腫、上皮腫、乏突起神経膠腫、及び低悪性度びまん性星状細胞腫と分類されるFOVを含んだ。高悪性度膠細胞カテゴリは、未分化乏突起神経膠腫、未分化星状細胞腫、及び神経膠芽腫と分類されるFOVを含んだ。非膠細胞カテゴリは、髄膜腫、リンパ腫、転移性腫瘍、及び髄芽腫と分類されるFOVを含んだ。
図8a〜図8bは、SRH画像のMLP分類を示す。図8a〜図8bでは、患者87からの標本、すなわち低悪性度上衣腫が、MLPによって低悪性度膠細胞腫瘍と分類された。図8aでは、確率は、P(NL)=非病変の確率、P(LGG)=低悪性度膠細胞の確率、P(HGG)=高悪性度膠細胞の確率、P(NG)=非膠細胞の確率を反映する。さらに、代表的なFOVとしては、低悪性度神経膠腫と分類された少数の卵形腫瘍細胞(矢じり)をもつFOV(左上、オレンジ色の輪郭)、非膠細胞腫瘍と分類された頻繁なヒアリン化した血液血管(矢じり)による高い細胞充実性をもつFOV(右上、緑色の輪郭)、低悪性度神経膠腫と分類された、中程度の細胞充実性と十分な毛様突起をもつFOV(右下、黄色の輪郭)、及び高悪性度膠細胞腫瘍と分類された、より高い細胞充実性といくつかの隆起血管(矢じり)をもつFOV(左下、青色の輪郭)がある。スケール・バーは、個々のFOVの場合は100μm、図8aの中央にあるモザイク画像の場合は500μmである。
CNS腫瘍の組織構造的異種性と、いくつかの標本が正常なFOVと病変FOVの混合物を含み得ることを考えると、MLPの診断精度は、各標本内のFOVの最も一般的な診断クラス又は様式(modal)予測診断クラスに基づいて判断される(図8bを参照されたい)。たとえば、患者87からの標本は、さまざまなSRH FOV内のすべての診断クラスのいくつかの特徴を示したが(図8aを参照されたい)、MLPは、FOVの優勢における最高確率診断として低悪性度膠細胞カテゴリを割り当て(図8bを参照されたい)、低悪性度膠細胞腫瘍としてのこの標本の正しい分類をもたらした。
図9a〜図9cは、MLPに基づいた診断予測結果を示し、ここで、「Y」は正しいMLP予測を示し、「N」は正しくない予測を示す。正しいタイルの一部は、各ヒート・マップ・タイルの色合い及び強度、並びに予測診断クラスによって示され、ここで、NL=非病変、LG=低悪性度神経膠腫、HGG=高悪性度神経膠腫、及びNG=非膠細胞腫瘍である。
複数の病理医によって読まれた症例のテスト・セット内のMLPを評価するために、上記で説明されたように、一個抜き手法が、病理医に与えられた調査に含まれる30の症例の各々に対して適用される。様式診断に基づいて、MLPは、100%の精度で病変標本を非病変標本から正確に区別した(図9aを参照されたい)。さらに、病変又は非病変と個々のFOVを分類するためのMLPの診断能力は優れており、特異度は94.1%、感度は94.5%であった。病変標本の間で、MLPは、試料レベルにおいて90%の精度で膠細胞標本を非膠細胞標本から区別した(図9bを参照されたい)。MLPによって予測される様式診断クラスは、調査の環境において病理医によってなされた診断クラスを予測する上で90%正確であった(図9cを参照されたい)。
MLPによって誤分類された症例としては、低悪性度神経膠腫ではなく、非病変と分類された毛様細胞性星状細胞腫(患者84)からの少量のローゼンタール線維をもつ最小に細胞過多の標本があった。この標本では、FOVの多くは、正常な膠細胞組織に似ている。軟髄膜転移性癌患者(患者72)からの別の誤分類された標本は、腫瘍を含む2つのFOVのみを含んだ。MLPによって非膠細胞腫瘍と誤分類された患者82からの神経膠芽腫標本は、SRHを用いて画像化された転移性腫瘍の組織構造に似たタンパク質の豊富な構造要素を含んだ。これらの誤りにもかかわらず、病変ステータス及び診断カテゴリの自動化検出におけるMLPの精度及び全体的な能力は、どのようにMLPが自動診断予測に使用され得るかに関する原理証明を提供する。
いくつかの実施例では、診断モジュールが、ニューラル・ネットワークを使用して組織試料をカテゴリへと分類するということになり、このニューラル・ネットワークは、あらかじめ指定されたカテゴリからの画像を用いて訓練される。1つの実例となる実施例におけるカテゴリが、図19に示されている。この実例となる実施例では、診断モジュールは、組織試料を、腫瘍性組織カテゴリ又は非腫瘍性組織カテゴリを含むカテゴリへと分類し、この腫瘍性組織カテゴリは、腫瘍のある組織試料であり、非腫瘍性組織カテゴリは、腫瘍のない組織試料である。腫瘍性組織カテゴリは、外科的サブカテゴリと非外科的サブカテゴリとをさらに含み、外科的サブカテゴリは、腫瘍が手術によって除去されるべきであることを示し、非外科的サブカテゴリは、腫瘍が手術によって除去されるべきでないことを示す。外科的サブカテゴリは、膠細胞腫瘍のためのサブカテゴリと、非膠細胞腫瘍のためのサブカテゴリとを含む。非膠細胞腫瘍のためのサブカテゴリは、神経鞘腫腫瘍、髄膜腫腫瘍、転移性腫瘍、下垂体腫瘍、及び髄芽腫腫瘍のためのサブカテゴリをさらに含んでよい。膠細胞腫瘍のためのサブカテゴリは、神経膠芽腫腫瘍及び低悪性度神経膠腫腫瘍のためのサブカテゴリをさらに含んでよい。非腫瘍性組織カテゴリは、正常な脳組織のためのサブカテゴリと、神経膠症組織のためのサブカテゴリとを含む。カテゴリは、カテゴリ化不可能である画像のための非診断カテゴリを含んでもよいし、含まなくてもよい。非診断カテゴリに対して、ニューラル・ネットワークは、カテゴリ化不可能であると指定された画像を用いて訓練され得る。これらのカテゴリは、一実装形態を例示するにすぎず、限定することを意図したものではない。
図16及び図17は、イメージング・システム10によって取り込まれたSRH画像を分析するための実例となる方法をさらに示す。開始点として、161において、画像が、たとえばイメージング・デバイスから直接的に、受け取られる。この場合、画像は、イメージング・デバイスの視野に対応する(たとえば、1000×1000ピクセル)。別の実例では、画像は、イメージング・デバイスの視野よりも大きいことがあり(たとえば、6000×6000ピクセル)、より大きい画像が、イメージング・デバイスによって取り込まれたより小さい画像からともに合成される。
162では、画像が、その後の処理のために2つ以上のストリップへとセグメンテーションされる。たとえば、6000×6000ピクセルの大きい画像が、1000×6000ピクセルの6つのストリップへとセグメンテーションされることがある。いくつかの実例では、2つ以上のストリップがイメージング・デバイスから直接的に受け取られるので、セグメンテーションは必要とされない。いずれの場合にも、163において、各ストリップが取り出され、処理される。ストリップの処理及び診断が、イメージング・システムと関連づけられたコンピュータ・プロセッサとは別個であり異なるコンピュータ・プロセッサによって実行されてよいことが容易に理解される。いくつかの例では、画像ストリップは、以下でさらに説明されるように、処理のためにリモート場所に送信されることがある。
各ストリップに対して、診断が、164において示されるようにストリップのために計算され、図17に関係してさらに説明される。一実例となる実施例では、ストリップはニューラル・ネットワークによって分類され、分類モデル内の各クラスのための確率が、診断として返される。第1のストリップに対して、167において、確率分布が、組織試料のための診断として報告される。しかしながら、より多くのデータが受け取られる(すなわち、撮像装置からのより多くのストリップ)と、診断がリアルタイムで更新される。そうするために、その後のストリップのための確率は、165において、現在のストリップのための確率と組み合わされる。1つの実例では、所与のクラス内の確率は、累積確率分布を形成するために一緒に加算される。累積分布は、166において、以下でさらに説明されるやり方で正規化される。次いで、正規化された累積分布が、167において示されるように、診断として報告される。プロセスは、168において示されるように、ストリップがなくなるまで、画像を含む各新しいストリップに対して繰り返される。仮定は、分布は、データが最初に利用可能になったときに広く、画像が完了に近づくにつれてより顕著になり、それによって、外科医に、決定に対するより大きな信頼を与えるということである。
図17を参照すると、ストリップのための診断がパッチごとに実行される。実例実施例では、ストリップは、複数のパッチへとさらにセグメンテーションされる。たとえば、900×6000ピクセルからなるストリップは、60のパッチへとセグメンテーションされることがあり、各パッチは300×300ピクセルである。ストリップ・サイズ及びパッチ・サイズは例示にすぎず、限定するものではない。
ストリップのための診断を計算するために、ストリップ内の各パッチが、171において、ニューラル・ネットワークを使用して最初に分類される。実例となる実施例では、分類器出力は、各々に対してN×14の配列に記憶され、ここで、Nはストリップ内のパッチの数、14は、分類モデル内のクラスの数である。クラスの1つは、好ましくは、カテゴリ化不可能であるパッチのための非診断クラスである。ニューラル・ネットワークが、たとえば病理医によって分類可能でないと指定された画像を用いて訓練されることが想定される。
非診断とみなされるストリップは、フィルタリング可能である。たとえば、所与のストリップを含むパッチの大多数が非診断と分類される場合、所与のストリップは、173において破棄可能であり、したがって、診断に寄与しない。一方、所与のストリップを含むパッチの大多数よりも少ないパッチが非診断と分類される場合、172において示されるように、ストリップの処理は継続する。
次に、アセスメントが、所与のストリップが正常組織を表すかどうかに関して行われる。実例となる実施例では、所与のストリップのためのカテゴリにまたがる確率は、1に正規化される。正常組織を含むカテゴリ(たとえば、灰白質、白質、及び神経膠症)のための正規化された確率が一緒に加算され、閾値(たとえば、90%)と比較される。正常組織カテゴリのための加算された確率が閾値を超える場合、所与のストリップは正常組織であるとみなされ、この結果は177において返される。反対に、正常組織カテゴリのための加算された確率が閾値を超えない場合、これらの正常組織カテゴリのための確率は175においてゼロに設定され、所与のストリップのためのカテゴリのすべてにまたがって調整された確率は、再び1に正規化される。この場合、これらの再正規化された確率は、所与のストリップのための診断結果として返される。これは、組織のより堅牢な統計解析を可能にするので、重要である。サブ腫瘍精度は、組織が、集積された80%の「腫瘍」診断を有し、「正常」組織の残り20%がゼロにされるとき、改善される。いくつかの腫瘍病理では、組織の一部分が、正常組織の背景の上に腫瘍を重ねる可能性がある。この「再正規化」アルゴリズムは、組織の一部分が正常であっても、重ねられた腫瘍を正しく診断する。SHR画像を分析するためのこの方法は、図18に示される図にさらに示されている。
そのうえ、この方法の実例となる実装形態のための疑似コードが以下に記載される。
1: 入力
2: patches(配列のセット):患者からのN個の画像のセット
3: model(計算グラフ):訓練されたCNN
4:
5: 出力
6: distribution(ディクショナリ):診断クラスの確率へのマッピング
7:
8: procedure PREDICTION(patches/model)
9: predictions ←[]
10: for patch in patches do
11: softmax_output ← model(patch)
12: if argmax(softmax_output) ==”nondiagnostic” then
13: continue
14: else
15: append softmax_output to predictions
16: return predictions
17:
18: procedure RENORMALIZE(predictions)
19: summed_dist ← sum(predictions)
20: for class in predictions do
21: predictions.class ← sum(predictions.class)/summed_dist
22: return predictions
23:
24: procedure DIAGNOSIS (patches, model)
25: renorm_prediction ← RENORMALIZE(PREDICTION (patches, model))
26: if sum(renorm_prediction.normal)> 0.9 then
27: return renorm_prediction
28: else
29: renorm_prediction.normal ← 0
30: return RENORMALIZE(renorm_prediction)
31:
32: return DIAGNOSIS(patches, model)
正確な術中組織診断は、脳腫瘍手術中に不可欠である。外科医及び病理医は、信頼できるが、読影を制限し手術を遅延させ得るアーチファクトを受けやすい、凍結切片作製及び塗抹標本準備などの信頼された技法に依拠する。本明細書に提示される、術中組織学のための簡略化された標準化された方法は、術中組織学を使用して、腫瘍内部及びこの周囲の組織のより効率的で包括的なサンプリングを保証する機会を作る。高品質組織が手術中に試料されることを保証することによって、SRHが、最終診断を下す際にますます重要である分子マーカ(たとえばIDH及びATRX変異、1p19q共欠損、MGMT及びTERTプロモータ変化)のための検査生検に対する収量を上げる。本開示は、臨床環境におけるSRS顕微鏡の第1の実証を報告し、従来の技法に匹敵する診断値をもつ新鮮標本から組織像を迅速に作成するためにどのように使用可能であるかを示す。
腫瘍浸潤組織と正常組織との組織学的及び生化学的な違いを活用する、蛍光ガイド手術、質量分析、ラマン分光法、コヒーレント反ストークスラマン散乱顕微鏡、及び光干渉断層撮影は、脳及び他のタイプの腫瘍の切除をガイドするための方法として提案されている。しかしながら、現在までのところ、臨床環境で試験された顕微鏡イメージング・モダリティは、術中意思決定を知らせるために診断品質画像を迅速に作成するのに成功している。したがって、本明細書におけるシステム及び方法は、光学及びファイバ・レーザ工学の進歩を活用して、操作しやすく、耐久性があり、患者ケア環境と適合するSRS顕微鏡を提供し、これによって、診断病理組織学的な画像が迅速に提供される。
SRHは、脳腫瘍手術のためのワークフローへの統合によく適している。SRHのための生検を同時に収集可能であり、定位的なナビゲーション・システムによって追跡可能である手術器具は、単一ディスプレイ内での組織学的情報と位置情報の結合を可能にする。SRHと外科的ナビゲーションの統合は、最大安全細胞切除が手術空洞全体にわたって実行されることを検証する可能性を生み出す。腫瘍がSRHによって検出されるが安全に除去できない状況では、たとえば、補助療法の送達により良く焦点を合わせる手段として働くことが可能な場合がある。
医学データがますますコンピュータに基づくにつれて、SRS顕微鏡を介して仮想組織学的切片を獲得する機会は、多数の機会を作り出す。たとえば、脳腫瘍手術が行われる多くの臨床環境では、神経病理学サービスは利用可能でない。現在、米国には、脳腫瘍手術を実行する約1,400の病院で働く785人の委員会認定の神経病理医がいる。本明細書で開示されるSRS顕微鏡などのネットワーク化されたSRS顕微鏡は、試料準備とイメージングの両方を簡素化し、手術中に正確な術中診断を送達するために同じ病院内又は世界の別の部分のどちらかにいる熟練した神経病理医を外科医につなぐ可能性を作り出す。
コンピュータ支援診断は、最終的に、病理学的診断に内在する読者間変動を減少させ得、熟練した神経病理医が役立たない環境におけるガイダンスを提供する可能性がある。たとえば、本明細書において説明されるように、機械学習アルゴリズムは、脳腫瘍を検出及び診断するために使用され得る。神経病理学におけるコンピュータ支援診断は、ホルマリン固定され、パラフィン包埋され、H&E染色されたスライド画像全体内の診断エンティティを区別する際において効果を発揮してきた。本明細書において説明される、術中組織学のためのコンピュータ支援診断システムは、小さい新鮮組織試料内の診断を確実に予測するように構成されてよい。本明細書において報告される分類器は、病変組織試料を非病変組織試料から区別し、プールされたタイル・データに基づいて診断クラスを予測することが可能である。いくつかの実例によれば、本明細書において説明される手法などの機械学習手法は、より細かい診断分類を実行するように構成されることがある。さらに、本明細書において説明される分類器などの診断分類器の精度は、以下でさらに詳しく説明されるように、1)畳み込みのための代替ニューラル・ネットワーク構成及びシステム、2)特徴に基づく分類を用いること、3)サポート・ベクター・マシン又は統計学的モデリング手法を利用すること、並びに4)人口統計学的要因及び病歴を説明するデータ読影のためのルールを適用することを介しても改善され得る。
本明細書において説明されるように、SRS顕微鏡は、現在、手術ワークフローに対する最小の混乱をもつ、臨床環境における組織構造物の迅速な術中アセスメントを提供するために利用可能である。SRH画像は、高度の精度及び標準的な術中組織学的技法との完全に近い一致をもつ、脳腫瘍標本内の診断を下すために使用されることがある。
いくつかの実例によれば、SRS顕微鏡から獲得される、2845cm−1から2930cm−1の画像から仮想H&E画像を生成することは、各チャネルの単純な線形カラー・マッピングを利用し得る。チャネル減算及び平坦化(以下のセクションで説明される)の後、線形カラー再マッピングが2845cm−1チャネルと2930cm−1チャネルの両方に適用される。2845cm−1画像であるグレー・スケール画像は、2930cm−1画像内の強い信号が、白色ではなくエオジンに似た赤みがかったピンク色にマッピングされるように線形的にマッピングされる。類似の線形マッピングが、2930cm−1画像に適用され、ヘマトキシリンに似た濃青色/紫色が、強い信号にマッピングされる。最後に、これらの2つの層は、最終的な仮想着色された(virtual−colored)H&E画像をもたらすように、一緒に線形的に追加される。
H&E変換のための正確な色は、真のH&E染色スライドの集まりに基づいて線形最適化によって選択される。初期シード・カラーが、両方のH&E変換のためにランダムに選ばれる。先に説明された線形カラー・マッピング及び追加プロセスは、これらの初期シード・カラーとともに完了される。続く画像は、細胞質部分及び核部分へと手動分離(hand−segregate)される。これらの部分は、真のH&E画像と比較され、生成された偽着色された(false−colored)H&Eと真のH&Eとの間の細胞質及び核の色合いの差が明らかにされる。H&Eシード・カラーは、これらのそれぞれの色合いの違いによって修正され、プロセスは、生成された画像と真の画像との違いが、色合いによって1%未満異なるまで繰り返される。
SRS画像から仮想着色されたH&E画像を生成することが可能であり、SRS画像及びSRH画像という頭字語は、以下のステップからなる。
1)モザイク獲得スクリプトは、あらかじめロードされた組織試料から1024×1024ピクセル画像の(N×N)シリーズを獲得する制御コンピュータ上で開始される。これらの画像は、2845cm−1及び2930cm−1のラマン・シフトで獲得され、あらかじめ指定されたフォルダに個々の2チャネルFOVとして保存される。
2)2チャネル画像が複製され、複製された画像にガウスぼかしが適用される。次いで、元の2チャネル画像が、獲得及び組織準備のアーチファクトを除去するために、ガウスぼかしによって分割される。
3)2845cm−1チャネルが、各FOV内で2930cm−1チャネルから減算される。
4)新しいFOVが、2845cm−1チャネル及び2930cm−1−2845cm−1チャネルとともに作成される。
5)仮想色H&Eスクリプト(上記のセクションで説明された)は、減算及び平坦化されたタイルのH&Eバージョンを作成するために走らされる。
6)元のタイルは、先に説明されたように合成される。使用者は、初期合成が容認できない画像を生じさせる場合に異なる合成パラメータで再合成する選択肢が提示される。合成の成功時、レイアウト・ファイルが、合成画像内の個々のタイルの末端位置から生成される。
7)仮想色H&E画像は、合成オフセット及びマージをゼロから再計算することよりも著しく速いプロセスであるステップ#6で生成されたレイアウト・ファイルを使用して合成される。
1つの実例によれば、未加工のSRH画像を診断の各々のための確率ベクトルに変換するためのプロセスは、次のように実行され得る。1)「組織採取及びイメージング」というサブセクションにおける説明されるように、FIJIを使用して、CH層からCH層を減算し、画像を平坦化する、2)FIJIを使用して、2チャネル画像を別個のCH層とCH−CH層へと分割する、3)先のタイルの各々に対して、90度回転を用いてタイルの4つの複製を作成する(「回転異性体」)、4)WNDCHRMなどを使用して、前のステップからタイルの各々のための署名ファイルを生成する、5)特徴値のすべてが範囲(−1.0,1.0)に均一及び線形にマッピングされるように、署名ファイルを正規化する、6)(CH)CHチャネル・タイルに対応するタイルの各々に対して、前に説明されたようにMLPを走らせる、7)(CH)所与のCHチャネル・タイルのための1つの統合された診断−確率ベクトルを作成するために、所与のタイルのための回転異性体のすべてを集め、これらの回転異性体から予測値の平均(算術平均)を出す、8)CH−CHチャネルのためのステップ6〜7を繰り返す、9)所与のタイルに対して、CHチャネルとCH−CHチャネルを比較し、より低い最大確率値を有するタイルのための診断−確率ベクトルを破棄する、及び10)症例ごとの診断のために、症例のためのタイルのすべてをグループ化し、>0.25の診断確率をもたないタイルを除去して、タイルのセットの間で最も一般的な(最頻値)診断をもつ症例を診断する。このプロセスは、例示にすぎず、限定することを意図したものではない。
次に図10を参照すると、ラベルのない、未処理のSRHと従来のH&E染色凍結切片の比較が提供される。図示のように、SRH画像は、H&E染色組織では見られないであろう軸索(未分化星状細胞腫標本内の白色の線形構造)などの一意の特徴を追加しながら、従来の凍結切片とともに見られる診断組織構造的特徴を保つ。スケール・バーは、図10では50μMである。
上記で論じられたSRHイメージング及び分析技法の利点に加えて、本明細書において説明されるSRHイメージング及び分析技法は、以下の追加の利益を提供し得る。具体的には、SRH画像は、1)新鮮な未処理の外科標本を使用して容易に取得可能である、2)従来の組織像に匹敵する診断内容を有する(図10を参照されたい):精度は、1対1比較でSRH画像と従来の組織像の両方に対して92%を超えた。従来の組織学とSRHとの間の一致は、k>0.89でほぼ完全であった、3)手術室内で迅速に利用可能である:診断画像は、(本発明者らの施設における術中診断のための一般的な所要時間である30〜45分ではなく)数分で取得される、4)二次分析のために組織を保存する:SRHを用いて画像化された組織は、その構造的及び生化学的な完全性を保ち、H&E、IHC分析、及びシークエンシングに適する、5)病院の画像保存通信システム(PACS:picture archiving and communication system)に容易にアップロードされ、医療記録に統合され、既存のPACSビューアを介して閲覧可能である。画像をアップロード及び転送するための容量は、遠隔読影の可能性を明らかにし、不十分な神経病理学リソースをもつセンターをスタッフが揃ったセンターに接続し、術中診断のためのより簡素化されたワークフローを提供する、6)定量化可能であり、自動画像分類及び診断を可能にする。
脳腫瘍手術の規律(discipline)、並びにより広い腫瘍外科学の分野において幅広く適用される場合、SRHは、診断を待機することに費やされる時間を減少させることにより、手術室内の効率を改善することによって、癌患者の外科的ケアに影響を及ぼす。SRH画像が取得される速度は、より良い外科的な意志決定を駆動するために組織学的データの使用を拡張する機会を作り出す。たとえば、SRHを通して、神経外科医は、切除空洞縁における組織の腫瘍内容を検証することがある。SRH検出可能な腫瘍が検出された場合、臨床シナリオに応じて、さらなる手術、標的術後照射、又は局所的化学療法が行われてよい。
特に、SRHは、術中診断及び腫瘍検出が不可欠である腫瘍外科学の他の規律において潜在的な適用例を有する。たとえば、誘導ラマン散乱顕微鏡は、頭部及び頸部外科標本内の腫瘍の検出、並びに乳癌手術及び胸部腫瘍学の分野にも適切に適用され得る。最後に、SRH画像の定量化可能性は、腫瘍検出及び診断を支援するために、人工知能及びコンピュータに基づいた画像分類の進歩を適用するための道を作り出す。
脳腫瘍手術が行われる多くの臨床環境では、熟練した神経病理学サービスは利用可能でない。術中診断を確立するための信頼できる手段がなければ、最良の可能なケアを脳腫瘍患者に送達することは難しくなり得る。病理学的診断の実施は、コンピュータが十分に適しているタスクであるパターン認識に大きく依拠しているので、新生物の病理組織学的な診断のための人工知能(AI:artificial intelligence)に基づいたシステムが提唱されている。本明細書で開示される、AIに基づいたシステム及び方法を含めて、AIは、病理医、特に神経病理学における公的な専門分科訓練を受けていない病理医が正確な組織診断を下すのを支援するために利用されてよい。
分子診断の時代では、形態学のみに基づいて腫瘍を分類することは、最終診断を下すのにますます不十分である。それにもかかわらず、外科的意志決定を知らせる、関連のある術中問題の大部分は、組織形態学及び細胞学のみを評価することによって回答可能である。具体的には、組織形態学特徴は、病変組織を非病変組織から区別し、集められた組織が最終診断を下すのに有用であり、外科的除去されるべきである病変(神経膠腫、転移)を、除去されるべきでない病変(リンパ腫及び胚細胞腫)から区別する際に有用であることを保証することができる。形態学的特徴に基づいた画像分類は、計算能力及び人工知能の進歩が発生するにつれて急成長してきたコンピュータ・サイエンスのエリアである。
本開示のいくつかの実例によれば、自動画像解析は、手術中に診断分類を送達するために人工知能とリンクされてよい。予備データは、脳腫瘍手術中に画像定量化及びAIを用いて外科的戦略を命令する重要な問題に回答する実行可能性を示す。SRH画像属性(すなわち、細胞充実性及び軸索密度)が定量化可能であり、肉眼的に正常に見える区域内であっても、腫瘍の存在を検出するための基礎を作り出すことが示されている。さらに、2,919の画像属性を、図9a〜図9cに示されるように、(1)100%の精度で病変標本を非病変標本から、(2)90%の精度で膠細胞を非膠細胞腫瘍から、並びに(3)非病変組織の中で、90%の精度で、低悪性度膠細胞腫瘍、高悪性度膠細胞腫瘍、及び非膠細胞腫瘍を区別することが可能である多層パーセプトロンへと組み込んだ包括的な定量的画像解析が用いられることがある。
次に図11を参照すると、したがって、従来の組織学のためのワークフローの、SRH画像生成のためのワークフローとの比較が提供される。図11に示されるように、SRHは、従来の技法に固有の時間及びリソースをなくすことによって術中組織学の現在の慣例を簡素化し加速させるために利用されることがある。SRHの中心的な利点は、図11に説明されるように組織像を獲得するための簡単なプロセスである。従来の技法は、7〜10の処理ステップを必要とし、規制された専用病理学ラボで行われなければならない有毒化学物質を伴うが、SRHは、そのすべてが手術室内でほんの数分で実行され得る3つの簡単なステップで実行可能である。
術中組織学の慣例を簡素化することによって、癌患者の臨床ケアは、以下の手段で改善されるであろう。1)術中診断中の手術室内のダウンタイムの減少が確立される、2)エラーを起こしにくく、標本の範囲にわたってより均一である組織を準備するためのプロトコルへの依拠、3)凍結アーチファクトを導入せず、組織及び細胞の構造物を保存する組織準備プロトコルへの依拠、4)病理医が診断組織像を再評価し、病院内と病院間の両方で外科医と知見を通信する簡単な手段を確立すること、並びに5)診断を支援するためにAI手法を開発及びテストするために使用可能である術中病理学データの中央データ・レポジトリを提供すること。
前述の利益に加えて、SRHは、他の利益も提供する。たとえば、SRHは、(i)染料への依拠がなく、(ii)手術室で一般的な周囲照明条件下で実行可能である。これらの性質の両方は、SRHが、既存のワークフローの最小の破壊とともに手術室内で外科チームによって正常に実行可能であることを保証する助けとなる。SRHは、画像化された組織を、完全に乱されないままにしておくという追加された利益を有する。組織は、いかなる形でもラベルされないので、組織は、日常的なH&E染色、組織化学的分析、及びシークエンシングに後で使用可能である。さらに依然として、組織学のための他の技法の存在にもかかわらず、SRHのみは、迅速な癌検出及び診断を可能にする組織形態学的合図を明らかにするために固有の化学的コントラスト及びミクロン未満の空間的分解能を組み合わせる能力を有するように示されている。
医用画像の記憶のための業界標準は、DICOMフォーマットを介する。DICOM画像は、一般的には、PACS上に記憶される。経路は、SRH画像のDICOMフォーマットへの変換、並びに病院電子医療記録からのリンクにもかかわらずウェブ・ベースのDICOMビューアを介してアクセス可能である病院PACSシステム上でのSRH画像の記憶のために以前に確立されている。しかしながら、従来のシステム及び方法では、コメントを記録すること、診断すること、又は画像にアノテーション付与することは可能でなかった。
したがって、本明細書において説明されるシステム及び方法の1つの目的は、とりわけ、SRH画像再評価中に外科医と病理医との間の協同を促進するために、情報の小さいパケットが病院ネットワーク内で病理医のワークステーションから手術室内のSRH撮像装置に転送され得る高速経路を提供することである。このようにして、本開示のシステム及び方法を利用する病理医は、手術室内のSRH撮像装置上でSRH画像を操作(パン、ズーム)して、目に見えるカーソル又は静的なアニメーション・ツールを使用して、画像内の重要な特徴にアノテーション付与する。これは、病理医が所与の診断結論になぜ到達したかを外科医に正確に示すことを可能にすることがあり、病理医が凍結切片ラボに行ってスライドを再評価する必要がなく、外科医が患者を手術室内に残してスライドを再評価し、病理医と診断を論じる必要がないという利点がある。
次に図12を参照すると、SRH画像の双方向転送及びアノテーションを可能にするためのシステムの1つの実例が示されている(たとえば、ネットワーク・アーキテクチャ)。システムは、手術室内のSRHイメージング・システムを病理医に中央画像データセンターを通してリンクする仮想的な共同空間を容易にし得る。具体的には、システムは、手術室内にあるイメージング・サブシステムと、手術室から遠隔に配置される画像読影サブシステムとを含むことがある。イメージング・サブシステムは、上記で説明されたやり方で組織試料の画像を取り込む。通信デバイスは、イメージング・サブシステムとインタフェースし、ネットワーク上で画像読影サブシステムに画像を送信するように動作する。次に、画像読影サブシステムは、組織試料の画像を表示するように動作する。いくつかの実施例では、画像読影サブシステムが、上記で説明されたやり方でも動作する診断モジュールをさらに含むことが想定される。
いくつかの実例によれば、システムは、次のように動作することがある。神経外科医と神経病理医との間の無制限の通信は、予備診断を確立し、脳腫瘍手術中に治療計画を作成する助けとなる。しかしながら、スライド準備のために必要とされる時間と結合された、手術室と凍結切片ラボとの間の物理的間隔は、手術中に神経外科医と神経病理医との間の組織診断についての自由な通信を妨げることがある。たとえば、外科医が手術室から出て神経病理医と会い、手術中に凍結切片ラボ内でスライドを再評価することが難しいことがある。病理医が医学キャンパスにわたって複数の凍結切片ラボラトリ内で監督し診断を行い、外科医にガイダンスを提供するために必要とされる時間を追加することも難しいことがある。
したがって、本明細書において説明され図12に示される協働システムとともに、大きな画像データセットが、確立されたDICOM通信プロトコルにより病院PACSシステムを通して実行されることがある。リアルタイム協働は、DICOMを越える別個の通信チャネルを通して実行されることがあり、メタ・データの高速の双方向性通信(たとえば、リアルタイム・イメージング・パン/ズーム又はアノテーション)を可能にする。
SRH撮像装置とPACSアーカイブと病理医ワークステーションとの間の通信経路の実装に直面する2つの例示的な難題としては、(1)データ完全性を保証すること、及び(2)かなり大きいデータセット(数百MB)にリアルタイム協同を提供することがある。これらの難題に対処するために、本明細書において説明され図12に示されるアーキテクチャは、大きい医用画像データセットの通信の堅牢さ(元々、大きいMRI3D画像データセットために設計された)を保証するために、確立された医療におけるデジタル・イメージング及び通信(DICOM)通信プロトコルによる病院PACSシステムを通してのデータ交換と、リアルタイム協同のために外科医と病理医との間で確立された、ピア・ツー・ピア通信を通しての二次通信経路を容易にする。このアーキテクチャでは、撮像装置の既存のグラフィカル・ユーザ・インタフェース(GUI:Graphical User Interface)の機能は、外科医のために拡張され、病理医のための新規な画像ビューアを含むことがある。
本開示の一実装形態によれば、SRH撮像装置グラフィカル・ユーザ・インタフェース(GUI)を最適化するためのシステム及び方法が提供される。さらに、本開示は、SRH画像ビューアに、PACSアーカイブに及びそれからSRH画像を転送するための迅速なDICOM準拠アップロード及びダウンロード能力を提供する。1つの実例によれば、H.R.Z. Software Services LTDなどのDICOMIZERソフトウェアが、SRH画像をDICOMフォーマットに変換するために利用されることがある。変換されたSRH画像は、PACSシステム(たとえば、病院PACSシステム)にアップロードされ、たとえば、電子医療記録にリンクされたEpic画像ビューアなどを介してアクセスされることがある。このようにして、この機能は、画像獲得が実行されながらアップロードが自動的に開始されるように、SRHイメージング・システムのGUI内で統合されることがある。SRH画像は、かなり大きい(RGBの100Mピクセル、すなわち、約300Mバイト)ことがあるが、獲得速度(約1Mバイト/秒)は、一般的な病院イントラネット速度よりも遅い。したがって、画像獲得と並列にアップロードを開始することによって、最小レイテンシが達成可能である。
同様に、本開示は、PACSシステムに関する研究を識別し画像をダウンロードすることが可能である、病理医のためのSRH画像ビューアを提供する。1つの実例では、SRH画像ビューは、新規な画像データのためのPACSシステムを周期的に(たとえば、常に)pingを送り、SRHイメージング・システムから見えるとデータをダウンロードし始めるように構成されることがある。画像通信のための厳格なDICOM規格及び確立されたPACSシステムに依拠することによって、データ完全性が保証され得る。
本開示の他の実装形態によれば、迅速な協同を可能にするSRH画像のアノテーションのための双方向性経路のためのインタフェースが提供される。PACSシステムは、大きな画像データをホストするために設計されるが、迅速な協同のためには設計されない。凍結切片の読み取り中、病理医は、多くの場合に、好適な診断をサポートする診断組織構造をもつ区域を示す。したがって、本開示の1つの目的は、病理医が画像を再評価し、アノテーションを画像メタ・データへと挿入し、診断所見を記録するための自由なテキスト・フィールドを含むフォームを編集することを可能にする速い(知覚されたレイテンシがない)経路を提供することである。すべてのアノテーション及び下された診断は、手術室内の、組織が画像化されたSRH撮像装置上で見えてよい。
本明細書で開示されるシステム及び方法を適用すると、病理学結果を待つ外科医は、アノテーション付与された画像及び/又は診断が利用可能であるとき、手術室内にてリアルタイムで通知される。重要な実現は、未加工の画像データセットがPACS通信を通して撮像装置とビューアの両方にすでに存在し、フルHD画像ではなく、非常に低いデータ量(たとえば、数バイト)である、現在の画像座標、ズーム・レベル、及びアノテーションを通信することのみが必要であることである。1つの実例によれば、本明細書において説明される撮像装置GUI及び撮像装置ビューアは、アノテーション又は画像座標/ズームなどの画像メタ・データのためのピア・ツー・ピア直接通信プロトコルを装備することがある。
いくつかの実例によれば、本明細書において説明されるシステム及び技法の実装形態に続いて、病理医は、獲得の1分以内にアップロードされたSRH画像を見ることがあり、外科医は、知覚されるレイテンシなしに、病理医によるSRH画像内のアノテーションを見ることがある。
次に図13を参照すると、プールされたSRH画像及び従来の組織学画像を使用して診断を実行するための方法を示すフローチャートが提供される。試験病理医による従来の組織学診断及び/又は診察する病理医による臨床診断とともにSRH診断を行うことによって、所与の診断の精度が改善され得る。
次に図14を参照すると、1つの実例となる実装形態による合成画像獲得を示す図が提供される。合成画像獲得は、本明細書において説明される迅速な協同を可能にするSRH画像のアノテーションのための双方向性通信経路の一部として行われてもよいし、これとともに行われてもよい。
より具体的には、図14を引き続き参照すると、本開示の態様により術中組織学画像を獲得、送信、及び表示するためのシステムが説明される。
外科医は必ず病理学の専門家であるとは限らないので、外科医は、術中診察に関して専門病理医に依拠する。現在の臨床的な慣例では、組織は、生検され、処理のために凍結切片ラボに輸送される。病理医は、染色された組織切片の読影のためにこのラボに来て、外科医に電話で結果を知らせる。代替的な術中病理組織診断(誘導ラマン組織学(SRH))は、手術室(OR:operating room)内又は複数のORにサービスする隣接するコア・ラボラトリ内で新鮮組織標本を分析する。滅菌環境に入るのは時間がかかるので、病理医は一般的にはORに来ず、多くの施設では、病理医は、病院の異なる部門にいる。いくつかの場合では、手術は、専用病理学スタッフをもたない衛星環境又は病院内で実行される。
したがって、デジタル・フォーマットで撮像装置から読影ステーションに画像を転送することが必要とされる。OR時間は費用がかかるので、術中組織病理学イメージング・システムの重要な特徴の1つは、診断までの時間である。麻酔下で時間を最小にすることは、一般に望ましく、診断のための長い待機時間は、残余腫瘍のための手術空洞をマッピングするための手段として病理学を使用して阻害する。したがって、画像データの転送時間を最小にすることが望ましい。
病理学イメージング・データは、ミリメートル〜センチメートル・サイズの組織標本が高分解能で走査され、合成されるので、非常に大きいことが知られている。単一視野(FOV)のサイズは、対物レンズの倍率及びサンプリングに依存するが、一般的には、約500μm×500μmであり、5mm×5mm組織面積を走査することは、100のFOVの合成を必要とする。一般的には、個々のFOVは1〜5Mピクセル(すなわち、8ビットRGBモードで3〜15MB)を有し、したがって、合成画像は300MB〜1.5GBであり、画像転送のみで何分もかかることがある。高度な方法は、客観的な長さとは無関係である長さをもつ画像ストリップの形でFOVを獲得するためにモータ駆動ステージが直交方向に移動しながら線画像が獲得されるストリップ・タイリングを使用する。そのような手法は、合成されることが必要なFOVの数を減少させるが、データ・サイズを減少させない。
FOVは、隣接するFOVとの何らかの重複を有することもあるし有さないこともある、組織標本のより大きな画像のサブセットである。いくつかの場合では、FOVは、組織標本のより大きな画像を提供するために合成されることがある。FOVは、別々に読影、保存、又は遠隔保存、読影ステーション、若しくは閲覧ステーションに転送可能である。FOVの性質は、画像がどのように獲得されるかに関連することがある。1つの実例では、画像は、ストリップ・タイリングによって獲得され、それによって、画像は、1軸走査ミラー又はライン・カメラによって走査され、モータ駆動ステージは、画像ストリップを経時的に獲得するために、多少垂直な方向に試料を移動させる。この場合、FOVは、方形ストリップであろう。別の実例では、ストリップは、サブ切片へと人工的に細分割されることがあり、その各々は、それ自体のFOVであってよい。さらに別の実例では、画像は、2軸スキャナ又は2Dカメラを使用することによって獲得される。そのような実例では、FOVは、この2Dスキャン又は画像からの出力であってよい。他の実例では、そのような2Dスキャン又は画像は、サブ切片へと細分割されることがあり、その各々は、それ自体のFOVであってよい。そのような細分割されたFOVは、サイズがより小さいことがある。
既存のデジタル病理学システムは、独立したシステムとして画像獲得、転送、及び表示を扱う。獲得システムは、画像の走査及び合成を完了させ、それを全体として転送する。これは、医用画像のデータ完全性を保証する助けとなる。圧縮アルゴリズムは、多くの場合に、データ・サイズを減少させるために使用されるが、予測不可能な流儀で画像品質を損なうことがあり、これは、医用画像データにとって望ましくない。
したがって、本開示は、代替システム・アーキテクチャを提供し、それによって、FOVが部分的な画像として送信され、複合画像の合成及び表示が、たとえば獲得システムと閲覧システムとの間の共有設定に基づいて画像内のストリップの場所に相関可能である獲得の順序を表す識別タグに基づいて、閲覧システムによって実行される。この手法では、画像転送は、すべての部分的な画像が獲得されて合成されるまで待機するのではなく、部分的な画像がイメージング・システムによって獲得されるとすぐに、開始可能である。
1つの実例では、データ転送は、イメージング機器が読影ステーションに直接的に接続されるように、ピア・ツー・ピアであってよい。他の実例では、接続は、1つ又は複数の中間物を含むことがある。たとえば、いくつかの実装形態(図12に示される実装形態など)では、イメージング機器は、PACSを通して画像読影ステーションと通信することがある(これは、いくつかの実例では、1つ又は複数のサーバ・コンピュータとして実装されることがある)。後者の場合では、PACSシステムへの及びこれからの画像のアップロード及びダウンロードは、部分的な画像データに基づくことがあり、複合画像の組み立ては、閲覧システムによって実行されることがある。
一般的には、医用画像データは、イメージング・ファイルの記憶及び転送のためのDICOM規格に準拠する。いくつかの実例によれば、本明細書において説明される手法は、このフレームワーク内で機能するように適合可能である。画像獲得の開始時に、新しいシリーズが、PACSシステム又は閲覧システムにおいて生成されることがあり、部分的な画像が、ネットワークを介して転送されることがある。いくつかの実例では、部分的な画像を試料内の特定の場所と自動的に関連づけるために画像データと一体的に関連づけられたDICOMタグが、利用されることがある。そのようなタグは、(たとえば、部分的な画像の中心位置を表す)実際の位置であってもよいし、獲得プロトコルの知識に基づいて実際の位置に相関可能である無名数であってもよい。次いで、閲覧システムが、そのような部分的な画像を受け取って、複合画像へとダウンロードすることがある。閲覧システムは、獲得全体が完了するまで待機してもよいし、部分的な画像データが利用可能になると、その部分的な画像データを表示し始めてもよい。画像は、隣接する場所又は重複する場所で獲得されることがあり、閲覧システムは、複合画像を修正し始めことがある、又は、画像全体が組み立てられた後で完全な画像のみを提供する別個の場所からのものとすることができる。
DICOMの1つの利点は、既存の病院ITインフラストラクチャに適合することである。しかしながら、本明細書において説明される概念及び実例は、DICOM画像保存及び送信プロトコルとは無関係であってよく、当技術分野で知られている任意の画像データ・フォーマット(たとえば、*.jpg、*.tiff、*.bmpなど)に適用可能であることが留意されるべきである。これは、画像獲得システム、データ保存ソリューション、及び/又は閲覧ステーションのうちの1つ又は複数を含む専用SRGH術中病理学ソリューションが提供される場合に、特に当てはまる。そのようなシナリオでは、データ・フォーマット又はDICOM以外の伝送プロトコルを利用することが有利であることがある。
多くの適用例では、ある程度の空間的な重複を有する部分的な画像を獲得し、重複アルゴリズムを使用して、2つの隣接する部分的な画像を重複させて複合画像にマージする(たとえば、相互相関及び又は線形/非線形伸張を使用する)ことが有利である。そのような重複及び併合は、イメージング獲得システム又は閲覧システムのどちらかの上で実行可能である。第1の場合には、部分的な画像の単純な位置ベースの合成は、閲覧システムによって依然として実行されることがあるが、データは、重複領域の併合部分のみが第2の部分的な画像とともに送信されるような流儀で編成されるであろう。
本明細書において説明される技法を含む、いくつかの術中組織学技法は、同時に又は順次行われるマルチ・カラー・イメージングに依拠することがある。同じ組織領域からの異なるカラー・チャネルは、マルチ・チャネル画像の形で組み合わされて、又は単一チャネル画像として別々に、のどちらかで送信可能である。後者の場合には、本明細書において説明される閲覧システムは、そのような画像をマルチ・チャネル画像へと組み立てるように構成されることがある。
いくつかの実例では、画像獲得を制御するコンピュータ・システムとは別個のコンピュータ・システム上でコンピュータ支援画像読影又は診断を実行することが有利であることがある。これは、別個のコンピュータ・システムが、病院ベースのサーバ又はウェブ・ベースのサーバなどのイメージング・システムのコンピュータ・システムよりも多くの計算パワーを有する場合に、そうである。別個のコンピュータ・システムは、病院ネットワークの一部であってもよいし、遠隔であってもよい。これは、イメージング・システムのコンピュータ・システムが、画像獲得が正しく実行されることを保証可能であるように、読影によって必要とされる計算付加によって影響されるべきでない場合、たとえば、重大なタイミングが必要とされる場合にも、あり得る。そのような実例では、完全な画像ではなく個々のFOV上でコンピュータ支援画像読影又は診断を実行し、個々のFOVの部分的な画像転送を可能にすることが望ましいことがある。次いで、FOVが別個のコンピュータ・システム上で利用可能になるとすぐに、コンピュータ支援画像読影及び診断が開始されることがある。コンピュータ・システムは、パーソナル・コンピュータ(PC:personal computer)、サーバ、マイクロ・コントローラ、GPU、又はFPGAを含んでよい。
いくつかの実例では、画像読影又は診断を実行するコンピュータ・システムは、画像獲得を制御するコンピュータ・システムと同じであってもよいし、これとは異なるコンピュータ・システムであってもよく、これまで獲得及び読影されたFOVに基づいて十分な信頼度で画像読影又は診断を下すのに十分な画像データがいつ獲得されるかを決定する。たとえば、画像読影又は診断のための全体的な信頼度スコアは、個々のFOVからの画像読影又は診断を組み合わせて、個々のFOVの信頼度などの何らかの重み付けを適用することによって、生成され得る。一般的には、より多くのFOVを獲得及び読影すると、より良い信頼度をもたらし得るが、特定の画像読影若しくは診断のための信頼度が1つ又は少数のFOVに基づく一定の閾値を上回る、又は、より少ないFOVを獲得及び/若しくは読影することによって節減される時間が信頼水準の増加よりも重要であることが当てはまることがある。部分的に、これは、必要とされる診断のレベルに依存することがある、たとえば、たとえば、膠細胞を非膠細胞腫瘍から区別しながら若しくは少数のFOVに基づいて病変組織を非病変組織から区別することが可能である場合がある、又は、完全な術中診断を確立することが、より多くのFOVが獲得及び読影されることを必要とすることがある。これらの場合の各々のための所望の出力及び診断の正しい読影の信頼水準に基づいて、診断の画像読影を実行するコンピュータ・システムは、十分なFOVが獲得及び/又は読影されたことを決定することがある。
いくつかの実例では、FOV内のあらゆるピクセルが、画像読影又は診断を下すために必要とされるとは限らないことがあり、ダウン・サンプリングによって計算パワー及び/又は時間を減少させることが有利なことがある。以下の実例で説明されるように、1000×1000ピクセルFOV又は1024×1024ピクセルFOVから299×299ピクセルFOVへのダウン・サンプリングは、データの量を10分の1未満に減少させながら優れた読影結果を生じさせ得る。一般的には、人間による読影のためのイメージング・システムは、たとえば分解能及び/又はサンプリング密度によって測定される最良の可能な画像品質を提供しようと務めるので、この結果は予期されない。たとえば、≦500nmの分解能とFOV≧500umをもつ高価なOlympus25×1.05NA対物レンズが用いられることがあり、獲得システムは、サンプリングするなどのために(又は光学的分解能をオーバー・サンプリングするためにすら)、≧1000×1000ピクセルを獲得することがある。しかしながら、コンピュータ支援画像読影又は診断を用いて許容できる結果を維持しながら、そのような画像をダウン・サンプリングすることは、許容できることがある。したがって、本明細書において説明されるイメージング・システムは、いくつかの実例によれば、光学的分解能に合致する(又はオーバー・サンプリングする)サンプリングとともに画像を獲得し、次いで、画像を、離散的な方法(たとえば、各第3の試料をピックする)又は補間、フィルタリング、畳み込みなどを使用する、より高度な方法などの、1D又は2Dのダウン・サンプリング方法に供するように構成されることがある。他の実例では、本明細書において説明されるイメージング・システムは、たとえば、データ獲得において適切なサンプリング・レート及び/若しくはデジタル・フィルタを選ぶことによって、並びに/又は2D方向の非対称サンプリングを選ぶことによって(たとえば、ストリップ・タイリングによって画像が獲得される場合では、正方形ピクセルを獲得するために必要であろうよりも速いスピードで1Dビーム走査方向と本質的に垂直な方向にステージを移動させることが可能なことがある)、アンダー・サンプリングされた画像を直接的に生じさせるように構成されることがある。FOVのダウン・サンプリング又はアンダー・サンプリングは、たとえば、画像読影又は診断が、画像獲得を制御する同じコンピュータ・システムによって実行されるときに使用されてもよいし、転送サイズを減少させようとして画像読影又は診断のために別個のコンピュータ・システムに画像を送信する前にダウン・サンプリングが実行される場合に上記で説明されたシステム及び方法と組み合わせて使用されてもよい。
前述の内容を考慮すると、本開示の1つの実例によれば、組織標本の拡大画像を獲得及び閲覧するためのシステムが提供される。このシステムは、(i)少なくとも組織標本の第1の場所における第1の部分的な拡大画像と、組織標本の第2の場所における第2の部分的な拡大画像を獲得するように構成された顕微鏡システムと、(ii)ネットワークを介して第1の部分的な拡大画像及び第2の部分的な拡大画像を送信及びアップロードするように構成された第1のコンピュータ・システムと、(iii)少なくとも、第1の部分的な拡大画像及び第2の部分的な拡大画像を受信及び/又はダウンロードし、そのような第1の拡大画像及び第2の拡大画像を(たとえば、第2のコンピュータ・システムの一部として含まれるディスプレイ・デバイスを介して)組織標本の複合拡大画像として表示するように構成された第2のコンピュータ・システムとを含んでよい。
術中組織学画像を獲得、送信、及び表示するためのシステムを提供することに加えて、本開示におけるいくつかの実例によれば、機械学習の1つの特定のタイプである畳み込みニューラル・ネットワーク(CNN)を使用してSRH画像に基づいて医学的状態を診断するためのシステムが開示される。
より具体的には、本明細書において説明されるシステム及び方法の1つの目的は、術中診断を予測するためのCNN、すなわち、人間による入力なしに術中組織標本を正確に分類する機械学習に基づく計算モデルを提供することである。迅速なSRH画像獲得時間と結合されたこの進歩は、外科医が、組織を取得してから数分以内に重要な診断情報を取得することを可能にすることがある。CNNに基づいた診断を実現するために、本明細書において説明されるシステムは、画像前処理(たとえば、正規化、増強、統計学的セグメンテーションなど)、ネットワーク構造、サイズ、及びCNN診断性能に対する出力濃度のうちの1つ又は複数を説明してよい。
1つの実例では、SRH獲得プロセスは、スライド全体が画像化されるまでのモザイク・パターンでの視野(FOV)の逐次的イメージングを含むことがある。次いで、各FOVが、スライド全体の完全な高分解能画像を作成するために合成されることがある。ウェブ・ベースのインタフェースを使用して、1つの実例では、病理医は、訓練セットに含まれるであろうすべてのFOVを再評価し、空白スペース、焼灼アーチファクト、又は血餅が優勢であるFOVをなくすことがある。
残りのFOVは、凍結切片診断を表す組織構造的特徴(グラウンド・トルース(ground truth))を含むことがある。手動キュレーションは、高品質の正確なFOVが機械学習分類器の訓練に使用されることを可能にする。いくつかの実例では、手動キュレーションされたFOVは、テスト・セットでは使用されない。約450人の患者の現在のデータセットは、組織の約1000のスライドと、70,000のFOVを生じた。SRHデータ保存及び可視化サーバの1つの実例は、4コア4.0GHz、32GBメモリ、2TB HDDのデスクトップ・コンピュータを含むことがある。しかしながら、他の適切なデータ保存及び可視化コンピューティング・デバイスも、本開示の教示から逸脱することなく等しく用いられてよい。
1つの実例では、患者のランダムな70%/10%/20%の分割がそれぞれ、訓練、検証、及びテスト・クラスの間で行われることがある。この分割は、各診断をもつ最低で1人の患者が各クラスに表されることを可能にする。患者は、訓練/検証/テスト分割にまたがるスライド及び/又はFOVをもたない。
SRS顕微鏡を用いたFOVの獲得は、繰り返し可能で安定した決定論的プロセスである。しかしながら、組織又は獲得における小さい変化が分類器を偏らせるのを防止するために、本開示は、機械学習パイプラインの残りに含める前の各FOVに対する2つの前処理ステップ、すなわち、1)平均減算:画像あたりチャネルごとに平均減算を実行することによって、獲得アーチファクトの除去が可能になる、及び2)ゼロ・センタリング及び正規化:これらは、FOV間に存在し得る輝度及びコントラストの差の除去を可能にする、を提案する。
これらの画像の獲得における固有の回転定位又は空間定位はない。神経病理医は、FOVがどのように存在するかに関係なく画像上で診断を等しく下すことができる。この原理を使用すると、訓練のためにいくつかの一意のFOVを増強することができる多くの真保存(truth−preserving)変換がある。垂直及び水平のミラーリング並びに基本的な(cardinal)回転を用いて、単一FOVは、診断情報を不明瞭にすることなく、16の一意のFOVを生成することができる。これは、49,000のFOV(70,000のFOV*訓練のための0.7比率)から392,000のFOV(49,000の一意の訓練FOV*4回転*2ミラーリング)に訓練サイズを増幅することができる。
本開示のいくつかの実例によれば、畳み込みニューラル・ネットワーク(CNN)が、FOVの診断において利用されることがある。CNNは、クラスの異なるセットに対する分類への未加工の画像の変換のためのコンピュータ・ビジョン・ソリューションを構成する。InceptionV3、InceptionV4、及びXceptionを含むいくつかの著名なCNNは、現実世界物体認識の問題を解決するために出現した。いくつかの実例によれば、これらのネットワークの各々は、検証セット上での精度とテスト・セット上でのテストを最適化することを目的として、上記で説明されたFOV訓練セットを用いて訓練されることがある。訓練時間を最小にするために、あらかじめ訓練された重みが、転移学習としても知られる現実世界の難題から、最初に使用されてよい。そのうえ、いくつかの新規なネットワークが、畳み込み、活性化、及び最大プーリングというCNN作用素に基づいて作成されることがある。
このようにして、本明細書において記載されるシステム及び方法は、FOVを分析して各FOVに対する推定される診断を出力することが可能である高性能CNNを提供することがある。これは、組織標本全体の正確で迅速な診断を容易にすることがある。
術中組織は、多くの場合に、完全な標本診断を複雑にする組織構造の異種混合物を含む。したがって、本明細書において説明されるシステム及び方法の1つの目的は、個々のFOV上で集められた分析を使用して、標本全体を正確に診断することである。
次に図15を参照すると、CNNを使用して診断を実行するための1つの実例となる方法を示すフローチャートが提供される。一実施例では、診断モジュールは、二次的方法を画像に適用することによって、たとえば、細胞充実性の定量的尺度を決定することによって、組織試料のための二次診断を生成する。たとえば、上記で説明されたCNNに基づく分析と平行なパイプラインでは、CellProfilerなどの画像細胞数測定ツール(すなわち、自動細胞画像解析)を用いた各FOVの定量分析が、提供されることがある。いくつかの実例によれば、この追加情報は、各FOVに対するCNNに基づいた診断を補足するために使用されることがある(が、必ずしも使用される必要はない)。実例となる実施例では、診断モジュールは、二次診断が機械学習アルゴリズムからの組織試料のための診断に合致するときは、診断を出力するが、そうでない場合は、二次診断が機械学習アルゴリズムからの組織試料のための診断に合致しないときは、組織試料を非診断カテゴリに分類する。二次的方法は、好ましくは機械学習を使用しないことに留意されたい。
より具体的には、神経ネットワークは、画像を所定のカテゴリへと分類するように設計され、故障モードがどのように(たとえば、イメージング・システムのエラー又はハードウェア故障を使用して)神経ネットワークの出力に影響を及ぼし得るかを予測することが困難なことがある。コンピュータ支援分析を一緒に提供する2つ以上の独立した手段(たとえば、術中診断を下す畳み込み神経ネットワークや細胞充実性の尺度を生成する、CellProfilerなどの細胞カウンタ)によって画像が分析される手法が提示される。最終出力は、あらかじめ定められたメトリックによって2つの手段が一致する場合のみ提供される(たとえば、「高悪性度神経膠腫」のための診断は、細胞充実性が一定の閾値を上回る場合のみ下される、又は「正常な白質」のための診断は、細胞充実性尺度が一定の閾値を下回ることを必要とする)。独立した手段が一致しない場合には、最終出力は、分類を示さない。
別の特徴では、神経ネットワークは、細胞充実性のレベル(たとえば、試料区域あたりの核)を提供するように訓練可能である。これは、腫瘍は、一般的には、上昇したレベルの細胞充実性を有するので、有用な標識になり得る。そのような手法は、通常の組織学画像(たとえば、H&E切片)又は核染料(たとえばDAPI)で染色された細胞/組織とともに機能することが示されているが、画像コントラストは核にあまり特異的でないので、これはSRHに拡張されない。具体的な問題は、球状の物体と見える赤血球、核と同じラマン署名とともに見えるコラーゲンの豊富な線維、及び有髄軸索のための強いラマン信号によって圧倒される白質組織内の核から生じる。驚くべきことに、適切なアノテーション付与されたデータセットが訓練セットに含まれた場合にSRH画像に基づいた細胞充実性の堅牢な尺度を提供するために神経ネットワークを訓練することが可能である。
組織のスライド全体を構成するN個のFOVの入力があれば、CNNは、各診断の確率に対応する分類のN個のベクトルを提供することがある。そのうえ、定量的な画像細胞数測定分析は、各FOVのための細胞数、核、及びテクスチャ特性について説明するデータの別のN個のベクトルを提供することがある。これらのデータ・ベクトルの各々をスライド全体診断へと融合させるために、完全に接続された多層パーセプトロンが、これらの数値入力の各々を診断へと変換するために含まれることがある。組み込まれ得る他の技法としては、ランダム・フォレストと、平均確率に基づいた統計学的な非機械学習手法がある。本明細書において提案される自動診断のためのワークフロー全体は、図15に要約されている。
特許請求の範囲を含む、本開示全体を通じて説明されるシステムのものとされるいくつかの機能は、1つ又は複数のモジュールによって適切に実行されることがある。本開示では、以下の定義を含めて、「モジュール」という用語又は「コントローラ」という用語は、「回路」という用語と置き換えられてよい。「モジュール」という用語は、特定用途向け集積回路(ASIC:Application Specific Integrated Circuit);デジタル回路、アナログ回路、若しくはアナログ/デジタル混合ディスクリート回路;デジタル集積回路、アナログ集積回路、若しくはアナログ/デジタル混合集積回路;組み合わせ論理回路;フィールド・プログラマブル・ゲート・アレイ(FPGA:field programmable gate array);コードを実行するプロセッサ回路(共有、専用、又はグループ);プロセッサ回路によって実行されるコードを記憶するメモリ回路(共有、専用、又はグループ);説明された機能を提供する他の適切なハードウェア構成要素;又は、システム・オン・チップ内などの上記のいくつか又はすべての組み合わせを指してもよいし、これらの一部であってもよいし、これらを含んでもよい。
モジュールは、1つ又は複数のインタフェース回路を含むことがある。いくつかの実例では、インタフェース回路は、ローカル・エリア・ネットワーク(LAN:local area network)、インターネット、ワイド・エリア・ネットワーク(WAN:wide area network)、又はそれらの組み合わせに接続されたワイヤード・インタフェース又はワイヤレス・インタフェースを含んでよい。本開示の任意の所与のモジュールの機能は、インタフェース回路を介して接続された複数のモジュールの間に分散されてよい。たとえば、複数のモジュールは、負荷分散を可能にすることがある。さらなる実例では、サーバ(リモート、又はクラウドとしても知られる)・モジュールは、クライアント・モジュールに代わっていくつかの機能を成し遂げることがある。
上記で使用される、コードという用語は、ソフトウェア、ファームウェア、及び/又はマイクロコードを含んでよく、プログラム、ルーチン、関数、クラス、データ構造、及び/又はオブジェクトを指すことがある。共有プロセッサ回路という用語は、複数のモジュールからのいくらか又はすべてのコードを実行する単一プロセッサ回路を包含する。グループ・プロセッサ回路という用語は、追加のプロセッサ回路と組み合わせて1つ又は複数のモジュールからのいくらか又はすべてのコードを実行するプロセッサ回路を包含する。複数のプロセッサ回路への言及は、異なるダイ上の複数のプロセッサ回路、単一ダイ上の複数のプロセッサ回路、単一プロセッサ回路の複数のコア、単一プロセッサ回路の複数のスレッド、又は上記の組み合わせを包含する。共有メモリ回路という用語は、複数のモジュールからのいくつか又はすべてのコードを記憶する単一メモリ回路を包含する。グループ・メモリ回路という用語は、追加のメモリと組み合わせて1つ又は複数のモジュールからのいくらか又はすべてのコードを記憶するメモリ回路を包含する。
メモリ回路という用語は、コンピュータ可読媒体という用語のサブセットである。本明細書において使用される、コンピュータ可読媒体という用語は、媒体を通って(搬送波上などで)伝搬する一時的な電気信号又は電磁信号を包含しない。したがって、コンピュータ可読媒体という用語は、有形で非一時的であると考えられ得る。非一時的な有形コンピュータ可読媒体の非限定的な実例は、不揮発性メモリ回路(フラッシュメモリ回路、消去可能プログラマブル読み出し専用メモリ回路、又はマスク読み出し専用メモリ回路など)、揮発性メモリ回路(スタティック・ランダム・アクセス・メモリ回路又はダイナミック・ランダム・アクセス・メモリ回路など)、磁気記憶媒体(アナログ又はデジタルの磁気テープ又はハード・ディスク・ドライブなど)、及び光記憶媒体(CDディスク、DVDディスク、又はBlu−ray(登録商標)ディスクなど)である。
本出願において説明される装置及び方法は、コンピュータ・プログラム内で実施される1つ又は複数の特定の機能を実行するように汎用コンピュータを構成することによって作成された特殊目的コンピュータによって部分的又は完全に実施されてよい。上記で説明された機能ブロック、フローチャート構成要素、及び他の要素は、ソフトウェア仕様として働き、このソフトウェア仕様は、熟練した技術者又はプログラマの定型業務によってコンピュータ・プログラムへと変換可能である。
コンピュータ・プログラムは、少なくとも1つの非一時的な有形コンピュータ可読媒体上に記憶されたプロセッサ実行可能命令を含む。コンピュータ・プログラムは、記憶されたデータも含んでもよいし、これに依拠してもよい。コンピュータ・プログラムは、特殊目的コンピュータのハードウェアと相互作用する基本入出力システム(BIOS:basic input/output system)、特殊目的コンピュータの特定のデバイスと相互作用するデバイス・ドライバ、1つ又は複数のオペレーティング・システム、ユーザ・アプリケーション、バックグラウンド・サービス、バックグラウンド・アプリケーションなどを包含してよい。
コンピュータ・プログラムは、(i)HTML(hypertext markup language:ハイパーテキスト・マークアップ言語)、XML(extensible markup language:拡張可能なマーク付け言語)、又はJSON(Java(登録商標)Script Object Notation:Java(登録商標)Scriptオブジェクト表記法)などの解析されることになる説明文、(ii)アセンブリ・コード、(iii)コンパイラによってソース・コードから生成されたオブジェクト・コード、(iv)インタープリタによる実行のためのソース・コード、(v)ジャスト・イン・タイム・コンパイラによるコンパイル及び実行のためのソース・コードなどを含んでよい。単なる例として、ソース・コードは、C、C++、C#、Objective C、Swift、Haskell、Go、SQL、R、Lisp、Java(登録商標)、Fortran、Perl、Pascal、Curl、OCaml、Javascript(登録商標)、HTML5(Hypertext Markup Language 5th revision:ハイパーテキスト・マークアップ言語改訂第5版)、Ada、ASP(Active Server Pages:アクティブ・サーバ・ページ)、PHP(PHP:Hypertext Preprocessor:ハイパーテキスト・プリプロセッサ)、Scala、Eiffel、Smalltalk、Erlang、Ruby、Flash(登録商標)、Visual Basic(登録商標)、Lua、MATLAB(登録商標)、SIMULINK、及びPython(登録商標)を含む言語からの構文を使用して記述され得る。
実施例の前述の説明は、例示及び説明の目的で提供されてきた。この説明は、網羅的であること又は本開示を限定することは意図されていない。特定の実施例の個々の要素又は特徴は、一般に、その特定の実施例に限定されず、適用可能な場合、具体的に図示又は説明されない場合でも、選択された実施例において交換可能であり、使用可能である。同じものは、多くの方法でも変えられてよい。そのような変形形態は、本開示からの逸脱と見なされるべきでなく、すべてのそのような修正形態は、本開示の範囲内に含まれることが意図される。

Claims (28)

  1. 組織試料の光学切片における前記組織試料の画像を取り込むイメージング・デバイスであって、前記組織試料が前記光学切片よりも大きい厚さを有する、イメージング・デバイスと、
    前記イメージング・デバイスから前記組織試料のための前記画像を受け取り、機械学習アルゴリズムを前記画像に適用することによって前記組織試料のための診断を生成するように構成された診断モジュールと
    を備えるシステム。
  2. 前記イメージング・デバイスが、誘導ラマン散乱を使用して前記組織試料の前記画像を生成する、請求項1に記載のシステム。
  3. 前記イメージング・デバイスが、2820cm−1から2880cm−1までの範囲内の第1のラマン・シフトにおいて、及び2920cm−1から2980cm−1までの範囲内の第2のラマン・シフトにおいて、前記組織試料を画像化する、請求項2に記載のシステム。
  4. 前記イメージング・デバイスが、2750cm−1から2820cm−1までの範囲内の第3のラマン・シフトにおいて、前記組織試料をさらに画像化する、請求項3に記載のシステム。
  5. 前記診断モジュールが、畳み込みニューラル・ネットワークを使用して前記組織試料のための診断を生成する、請求項1に記載のシステム。
  6. 前記診断モジュールが、腫瘍性組織カテゴリ又は非腫瘍性組織カテゴリを含むカテゴリへと前記組織試料を分類し、前記腫瘍性組織カテゴリが腫瘍をもつ組織試料であり、前記非腫瘍性組織カテゴリが腫瘍のない組織試料である、請求項1に記載のシステム。
  7. 前記腫瘍性組織カテゴリが、外科的サブカテゴリと非外科的サブカテゴリとを含み、前記外科的サブカテゴリが、前記腫瘍が手術によって除去されるべきであることを示し、前記非外科的サブカテゴリが、前記腫瘍が手術によって除去されるべきでないことを示す、請求項6に記載のシステム。
  8. 前記非腫瘍性組織カテゴリが、正常な脳組織のためのサブカテゴリと、神経膠症組織のためのサブカテゴリとを含む、請求項6に記載のシステム。
  9. 前記外科的サブカテゴリが、膠細胞腫瘍のためのサブカテゴリと、非膠細胞腫瘍のためのサブカテゴリとを含む、請求項7に記載のシステム。
  10. 前記非膠細胞腫瘍のためのサブカテゴリが、神経鞘腫腫瘍、髄膜腫腫瘍、転移性腫瘍、下垂体腫瘍、及び髄芽腫腫瘍のためのさらなるサブカテゴリを含む、請求項9に記載のシステム。
  11. 前記膠細胞腫瘍のためのサブカテゴリが、神経膠芽腫腫瘍及び低悪性度神経膠腫腫瘍のためのさらなるサブカテゴリを含む、請求項9に記載のシステム。
  12. 前記診断モジュールが、カテゴリのうちの少なくとも1つが、カテゴリ化できない画像のための非診断カテゴリであるように、前記組織試料を前記カテゴリへと分類する、請求項1に記載のシステム。
  13. 前記診断モジュールが、ニューラル・ネットワークを使用して前記組織試料をカテゴリへと分類し、前記ニューラル・ネットワークが、カテゴリ化不可能であると指定された画像を用いて訓練される、請求項12に記載のシステム。
  14. 前記診断モジュールが、二次的方法を前記画像に適用することによって前記組織試料のための二次診断を生成し、前記二次診断が前記機械学習アルゴリズムからの前記組織試料のための前記診断と一致しないときに前記組織試料を前記非診断カテゴリに分類し、前記二次的方法が機械学習を使用しない、請求項12に記載のシステム。
  15. 前記診断モジュールが、細胞充実性の定量的尺度を決定することによって前記組織試料のための前記二次診断を生成する、請求項14に記載のシステム。
  16. 前記診断モジュールが、前記組織試料のための細胞充実性の定量的尺度を決定することによって前記組織試料のための前記診断を生成する、請求項1に記載のシステム。
  17. 前記診断モジュールが、前記組織試料のための2つ以上の画像セグメントを受け取り、前記機械学習アルゴリズムを前記画像セグメントに適用することによって各画像セグメントのための診断を生成し、前記画像セグメントのための前記診断を集約することによって前記組織試料のための診断を生成する、請求項1に記載のシステム。
  18. 各画像セグメントに対して、前記診断モジュールが、ニューラル・ネットワークを使用して前記組織試料をカテゴリへと分類し、それによって、各カテゴリのための確率を生じ、前記カテゴリにまたがる前記確率を1に正規化する、請求項17に記載のシステム。
  19. 前記診断モジュールが、非診断カテゴリ内に分類された画像セグメントのための前記診断を省略することによって前記組織試料のための診断を生成し、前記非診断カテゴリが、所与のセグメントがカテゴリ化不可能であることを示す、請求項18に記載のシステム。
  20. 前記所与の画像に対して、前記診断モジュールが、任意の非腫瘍性組織カテゴリのための確率をゼロに設定し、前記カテゴリのすべてにまたがる前記確率を1に再正規化し、前記非腫瘍性組織カテゴリが、組織試料が腫瘍のないことを示す、請求項18に記載のシステム。
  21. 光学切片作製を使用して組織試料の少なくとも1つの画像を取り込むイメージング・デバイスと、
    前記画像デバイスから前記少なくとも1つの画像を受け取るように構成され、前記組織試料の前記少なくとも1つの画像を表示するように動作する画像読影サブシステムと、
    前記イメージング・デバイスとインタフェースされ、前記イメージング・デバイスから、前記イメージング・デバイスから遠隔に配置された前記画像読影サブシステムに前記少なくとも1つの画像を送信するように動作する通信モジュールと
    を備えるシステム。
  22. 前記画像読影サブシステムが、前記組織試料のための前記少なくとも1つの画像を受け取るように構成された診断モジュールを含み、機械学習アルゴリズムを前記画像に適用することによって前記組織試料のための診断を生成する、請求項21に記載のシステム。
  23. 前記画像デバイスが、少なくとも2つの異なる視野を使用して前記組織試料の複数の画像を取り込み、前記通信モジュールが、前記取り込みが完了した後に前記複数の画像の各画像を送信し、前記画像読影サブシステムが、前記複数の画像を前記組織試料の1つの組み立てられた画像へと組み立て、前記組み立てられた画像を表示する、請求項22に記載のシステム。
  24. 前記診断モジュールが、前記機械学習アルゴリズムを適用することによって前記イメージング・デバイスから受け取られた各画像のための診断を生成し、前記複数の画像のための前記診断を集約することによって前記組織試料のための診断を生成する、請求項23に記載のシステム。
  25. 前記通信モジュールが、医用デジタル・イメージング及び通信(DICOM)通信プロトコルにより前記画像を送信する、請求項21に記載のシステム。
  26. 映像保存通信システム(PACS)をさらに含み、前記通信モジュールが、保存のために前記画像をPACSに通信する、請求項21に記載のシステム。
  27. 前記画像読影サブシステムが、前記画像読影サブシステムから二次通信リンクを介して前記イメージング・デバイスに前記組織試料の読影を送信する、請求項21に記載のシステム。
  28. 前記組織試料の前記読影がDICOM構造報告の形をとる、請求項27に記載のシステム。
JP2020542587A 2018-02-06 2019-02-06 光学組織像の分析及び遠隔読影のためのシステム及び方法 Active JP7217893B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201862627033P 2018-02-06 2018-02-06
US62/627,033 2018-02-06
PCT/US2019/016886 WO2019157078A1 (en) 2018-02-06 2019-02-06 Systems and methods for analysis and remote interpretation of optical histologic images

Publications (2)

Publication Number Publication Date
JP2021513075A true JP2021513075A (ja) 2021-05-20
JP7217893B2 JP7217893B2 (ja) 2023-02-06

Family

ID=67548598

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020542587A Active JP7217893B2 (ja) 2018-02-06 2019-02-06 光学組織像の分析及び遠隔読影のためのシステム及び方法

Country Status (6)

Country Link
US (1) US11756675B2 (ja)
EP (1) EP3749956A4 (ja)
JP (1) JP7217893B2 (ja)
CN (1) CN111954805A (ja)
CA (1) CA3090672A1 (ja)
WO (1) WO2019157078A1 (ja)

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112969402A (zh) * 2018-10-30 2021-06-15 奥林巴斯株式会社 内窥镜系统以及用于内窥镜系统的图像处理装置和图像处理方法
TWI664582B (zh) * 2018-11-28 2019-07-01 靜宜大學 細胞檢測方法、裝置與系統
EP3918577A4 (en) * 2019-01-28 2022-11-23 Dignity Health SYSTEMS, METHODS AND MEDIA FOR AUTOMATIC TRANSFORMATION OF A DIGITAL IMAGE INTO A SIMULATED DISEASE PICTURE
US11195060B2 (en) * 2019-07-05 2021-12-07 Art Eye-D Associates Llc Visualization of subimage classifications
DE102020105697B3 (de) * 2020-03-03 2021-03-04 Carl Zeiss Meditec Ag Computerimplementiertes Verfahren zum Auffinden möglicher Artefakte in einem virtuell eingefärbten Histologiebild
WO2022126010A1 (en) * 2020-12-11 2022-06-16 Tempus Labs, Inc. Systems and methods for generating histology image training datasets for machine learning models
CN113223671B (zh) * 2021-05-18 2022-05-27 浙江工业大学 基于条件生成对抗网络和约束规则的微血管树生成方法
CN113539476A (zh) * 2021-06-02 2021-10-22 复旦大学 基于人工智能的胃内窥活检拉曼图像辅助诊断方法和系统
CN113433108B (zh) * 2021-06-02 2022-11-18 复旦大学 基于受激拉曼散射的胃内窥活检组织病理学成像方法
US20220398719A1 (en) * 2021-06-15 2022-12-15 Sony Group Corporation Automatic estimation of tumor cellularity using a dpi ai platform
CN113838028A (zh) * 2021-09-24 2021-12-24 无锡祥生医疗科技股份有限公司 一种颈动脉超声自动多普勒方法、超声设备及存储介质
WO2023172513A1 (en) * 2022-03-07 2023-09-14 Trustees Of Boston University Method and device for high-quality imaging of embedded tissue sections
WO2023250387A1 (en) * 2022-06-23 2023-12-28 Memorial Sloan-Kettering Cancer Center Systems and methods for differentiating between tissues during surgery
WO2024054167A1 (en) * 2022-09-08 2024-03-14 Capar Abdulkerim Artificial intelligence supported archive inquiry system and method

Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10197522A (ja) * 1997-01-14 1998-07-31 Mitsubishi Electric Corp 病理組織診断支援装置
JP2000057349A (ja) * 1998-08-10 2000-02-25 Hitachi Ltd 欠陥の分類方法およびその装置並びに教示用データ作成方法
JP2001188906A (ja) * 1999-12-28 2001-07-10 Hitachi Ltd 画像自動分類方法及び画像自動分類装置
JP2008204432A (ja) * 2006-11-30 2008-09-04 Fujifilm Corp 医療用インテリジェント・サーバ・アーキテクチャのためのジョブ・ディスパッチャ
JP2012008027A (ja) * 2010-06-25 2012-01-12 Dainippon Screen Mfg Co Ltd 病理診断支援装置、病理診断支援方法、病理診断支援のための制御プログラムおよび該制御プログラムを記録した記録媒体
WO2014192876A1 (ja) * 2013-05-30 2014-12-04 独立行政法人産業技術総合研究所 撮像システム及び撮像方法
US20160035093A1 (en) * 2014-07-31 2016-02-04 California Institute Of Technology Multi modality brain mapping system (mbms) using artificial intelligence and pattern recognition
JP2016040650A (ja) * 2014-08-12 2016-03-24 株式会社Screenホールディングス 分類器構築方法、画像分類方法および画像分類装置
JP2017003311A (ja) * 2015-06-05 2017-01-05 キヤノン株式会社 ファイバレーザ、光学装置、および計測装置
JP2017187409A (ja) * 2016-04-07 2017-10-12 一般社団法人白亜会 生検材料デジタル画像化装置
US20170356053A1 (en) * 2014-12-05 2017-12-14 Foundation Medicine, Inc. Multigene analysis of tumor samples

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7755757B2 (en) * 2007-02-14 2010-07-13 Chemimage Corporation Distinguishing between renal oncocytoma and chromophobe renal cell carcinoma using raman molecular imaging
US8768629B2 (en) 2009-02-11 2014-07-01 Caris Mpi, Inc. Molecular profiling of tumors
US9392986B2 (en) * 2011-02-14 2016-07-19 University Of Rochester Method and apparatus for cone beam breast CT image-based computer-aided detection and diagnosis
CN105263414A (zh) * 2012-10-26 2016-01-20 不列颠哥伦比亚癌症局分支机构 用于以高频率拉曼光谱检测结肠肿瘤形成的方法和装置
CN106030608A (zh) * 2013-11-06 2016-10-12 理海大学 生物组织分析诊断系统与方法
EP3067432A1 (en) * 2015-03-11 2016-09-14 Deutsches Krebsforschungszentrum Stiftung des Öffentlichen Rechts DNA-methylation based method for classifying tumor species of the brain
JP6875709B2 (ja) * 2017-06-09 2021-05-26 株式会社Aiメディカルサービス 消化器官の内視鏡画像による疾患の診断支援方法、診断支援システム、診断支援プログラム及びこの診断支援プログラムを記憶したコンピュータ読み取り可能な記録媒体
US11195274B2 (en) * 2017-08-03 2021-12-07 Nucleai Ltd Systems and methods for analysis of tissue images

Patent Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10197522A (ja) * 1997-01-14 1998-07-31 Mitsubishi Electric Corp 病理組織診断支援装置
JP2000057349A (ja) * 1998-08-10 2000-02-25 Hitachi Ltd 欠陥の分類方法およびその装置並びに教示用データ作成方法
JP2001188906A (ja) * 1999-12-28 2001-07-10 Hitachi Ltd 画像自動分類方法及び画像自動分類装置
JP2008204432A (ja) * 2006-11-30 2008-09-04 Fujifilm Corp 医療用インテリジェント・サーバ・アーキテクチャのためのジョブ・ディスパッチャ
JP2012008027A (ja) * 2010-06-25 2012-01-12 Dainippon Screen Mfg Co Ltd 病理診断支援装置、病理診断支援方法、病理診断支援のための制御プログラムおよび該制御プログラムを記録した記録媒体
WO2014192876A1 (ja) * 2013-05-30 2014-12-04 独立行政法人産業技術総合研究所 撮像システム及び撮像方法
US20160035093A1 (en) * 2014-07-31 2016-02-04 California Institute Of Technology Multi modality brain mapping system (mbms) using artificial intelligence and pattern recognition
JP2016040650A (ja) * 2014-08-12 2016-03-24 株式会社Screenホールディングス 分類器構築方法、画像分類方法および画像分類装置
US20170356053A1 (en) * 2014-12-05 2017-12-14 Foundation Medicine, Inc. Multigene analysis of tumor samples
JP2017003311A (ja) * 2015-06-05 2017-01-05 キヤノン株式会社 ファイバレーザ、光学装置、および計測装置
JP2017187409A (ja) * 2016-04-07 2017-10-12 一般社団法人白亜会 生検材料デジタル画像化装置

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
ORRINGER ET AL.: "Rapid intraoperative histology of unprocessed surgical specimens via fibre-laser-based stimulated Ra", NATURE BIOMEDICAL ENGINEERING, vol. 1, no. 27, JPN6022027021, 6 February 2017 (2017-02-06), pages 1 - 13, XP055866429, ISSN: 0004814487, DOI: 10.1038/s41551-016-0027 *

Also Published As

Publication number Publication date
EP3749956A1 (en) 2020-12-16
CN111954805A (zh) 2020-11-17
US11756675B2 (en) 2023-09-12
WO2019157078A1 (en) 2019-08-15
EP3749956A4 (en) 2022-01-05
JP7217893B2 (ja) 2023-02-06
US20210050094A1 (en) 2021-02-18
CA3090672A1 (en) 2019-08-15

Similar Documents

Publication Publication Date Title
US11756675B2 (en) Systems and methods for analysis and remote interpretation of optical histologic images
Orringer et al. Rapid intraoperative histology of unprocessed surgical specimens via fibre-laser-based stimulated Raman scattering microscopy
Tsuneki Deep learning models in medical image analysis
Cao et al. Label-free intraoperative histology of bone tissue via deep-learning-assisted ultraviolet photoacoustic microscopy
You et al. Real-time intraoperative diagnosis by deep neural network driven multiphoton virtual histology
BR112021011719A2 (pt) Sistema baseado em microscopia computacional e método para geração de imagem automatizada e análise de espécimes de patologia
Zhang et al. Label-free colorectal cancer screening using deep learning and spatial light interference microscopy (SLIM)
Gatta et al. Towards a modular decision support system for radiomics: A case study on rectal cancer
Ali et al. Automatic label‐free detection of breast cancer using nonlinear multimodal imaging and the convolutional neural network ResNet50
CN107408197A (zh) 基于解卷积网络的细胞图像和视频的分类的系统和方法
Boktor et al. Virtual histological staining of label-free total absorption photoacoustic remote sensing (TA-PARS)
Bui et al. Digital and computational pathology: bring the future into focus
Madhumathy et al. Deep learning based photo acoustic imaging for non-invasive imaging
Ye et al. Intraoperative assessment of canine soft tissue sarcoma by deep learning enhanced optical coherence tomography
Xu et al. Artificial intelligence-aided optical imaging for cancer theranostics
Yu et al. Multi-organ segmentation of abdominal structures from non-contrast and contrast enhanced CT images
Sawyer et al. Quantification of multiphoton and fluorescence images of reproductive tissues from a mouse ovarian cancer model shows promise for early disease detection
JP2022126373A (ja) 情報処理装置及び情報処理方法、コンピュータプログラム、並びに医療診断システム
Wang et al. Deep learning-assisted co-registration of full-spectral autofluorescence lifetime microscopic images with h&e-stained histology images
Buga et al. HISTOBREAST, a collection of brightfield microscopy images of Haematoxylin and Eosin stained breast tissue
IT201900020200A1 (it) Metodo per la generazione di modelli per classificare automaticamente in almeno una classe di interesse immagini medicali o veterinarie derivate da immagini originarie
Rana et al. High accuracy tumor diagnoses and benchmarking of hematoxylin and eosin stained prostate core biopsy images generated by explainable deep neural networks
Pitt-Francis et al. Multimodal imaging techniques for the extraction of detailed geometrical and physiological information for use in multi-scale models of colorectal cancer and treatment of individual patients
Wang et al. Reverse engineering for reconstructing baseline features of dry age-related macular degeneration in optical coherence tomography
US11357396B1 (en) Diagnostic model optimization for variations in mechanical components of imaging devices

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210817

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220629

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220630

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220927

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230111

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230117

R150 Certificate of patent or registration of utility model

Ref document number: 7217893

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150