JP7647751B2 - 情報処理装置、情報処理方法、プログラム、顕微鏡システム及び解析システム - Google Patents

情報処理装置、情報処理方法、プログラム、顕微鏡システム及び解析システム Download PDF

Info

Publication number
JP7647751B2
JP7647751B2 JP2022533896A JP2022533896A JP7647751B2 JP 7647751 B2 JP7647751 B2 JP 7647751B2 JP 2022533896 A JP2022533896 A JP 2022533896A JP 2022533896 A JP2022533896 A JP 2022533896A JP 7647751 B2 JP7647751 B2 JP 7647751B2
Authority
JP
Japan
Prior art keywords
image
autofluorescence
fluorescence
component
fluorescent
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022533896A
Other languages
English (en)
Other versions
JPWO2022004500A1 (ja
Inventor
亜衣 後藤
和博 中川
友彦 中村
憲治 池田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Sony Group Corp
Original Assignee
Sony Corp
Sony Group Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp, Sony Group Corp filed Critical Sony Corp
Publication of JPWO2022004500A1 publication Critical patent/JPWO2022004500A1/ja
Priority to JP2025035186A priority Critical patent/JP2025087824A/ja
Application granted granted Critical
Publication of JP7647751B2 publication Critical patent/JP7647751B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N33/00Investigating or analysing materials by specific methods not covered by groups G01N1/00 - G01N31/00
    • G01N33/48Biological material, e.g. blood, urine; Haemocytometers
    • G01N33/50Chemical analysis of biological material, e.g. blood, urine; Testing involving biospecific ligand binding methods; Immunological testing
    • G01N33/58Chemical analysis of biological material, e.g. blood, urine; Testing involving biospecific ligand binding methods; Immunological testing involving labelled substances
    • G01N33/582Chemical analysis of biological material, e.g. blood, urine; Testing involving biospecific ligand binding methods; Immunological testing involving labelled substances with fluorescent label
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/62Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light
    • G01N21/63Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited
    • G01N21/64Fluorescence; Phosphorescence
    • G01N21/6428Measuring fluorescence of fluorescent products of reactions or of fluorochrome labelled reactive substances, e.g. measuring quenching effects, using measuring "optrodes"
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/62Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light
    • G01N21/63Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited
    • G01N21/64Fluorescence; Phosphorescence
    • G01N21/645Specially adapted constructive features of fluorimeters
    • G01N21/6456Spatial resolved fluorescence measurements; Imaging
    • G01N21/6458Fluorescence microscopy
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/16Microscopes adapted for ultraviolet illumination ; Fluorescence microscopes
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/36Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
    • G02B21/365Control or image processing arrangements for digital or video microscopes
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/62Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light
    • G01N21/63Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited
    • G01N21/64Fluorescence; Phosphorescence
    • G01N2021/6417Spectrofluorimetric devices
    • G01N2021/6419Excitation at two or more wavelengths
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/62Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light
    • G01N21/63Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited
    • G01N21/64Fluorescence; Phosphorescence
    • G01N2021/6417Spectrofluorimetric devices
    • G01N2021/6421Measuring at two or more wavelengths
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/62Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light
    • G01N21/63Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited
    • G01N21/64Fluorescence; Phosphorescence
    • G01N21/6428Measuring fluorescence of fluorescent products of reactions or of fluorochrome labelled reactive substances, e.g. measuring quenching effects, using measuring "optrodes"
    • G01N2021/6439Measuring fluorescence of fluorescent products of reactions or of fluorochrome labelled reactive substances, e.g. measuring quenching effects, using measuring "optrodes" with indicators, stains, dyes, tags, labels, marks
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10056Microscopic image
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10064Fluorescence image
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30024Cell structures in vitro; Tissue sections in vitro

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • Chemical & Material Sciences (AREA)
  • Analytical Chemistry (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Immunology (AREA)
  • General Health & Medical Sciences (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Optics & Photonics (AREA)
  • Pathology (AREA)
  • Biochemistry (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • Hematology (AREA)
  • Biomedical Technology (AREA)
  • Urology & Nephrology (AREA)
  • Molecular Biology (AREA)
  • Quality & Reliability (AREA)
  • Radiology & Medical Imaging (AREA)
  • Medical Informatics (AREA)
  • Microbiology (AREA)
  • Cell Biology (AREA)
  • Biotechnology (AREA)
  • Food Science & Technology (AREA)
  • Medicinal Chemistry (AREA)
  • Chemical Kinetics & Catalysis (AREA)
  • Investigating, Analyzing Materials By Fluorescence Or Luminescence (AREA)
  • Microscoopes, Condenser (AREA)

Description

本開示は、情報処理装置、情報処理方法、プログラム、顕微鏡システム及び解析システムに関する。
近年、がん免疫療法などの発展から多数のサブセットに分類される免疫細胞に対し、それらの表現型である分子を複数種のマーカを用いて検出し、評価するニーズが高まっている。蛍光色素をマーカとしたマルチカラーイメージング解析方法は、それらの局在と機能との関連性を導く上で有効な手段であるとされている。
米国特許第8200013号明細書
一般に、蛍光色素抗体を用いて染色された染色組織切片を蛍光観察する際、自家蛍光などが原因で抗体量を反映した蛍光強度の測定の正確性が影響されることがある。スペクトルを用いた色分離によって染色組織切片の撮像画像から自家蛍光成分を除去した場合においても、この色分離により得られた染色蛍光画像に残存する自家蛍光成分を完全になくすことは不可能であった。
このように、染色蛍光画像に自家蛍光成分が残存すると、染色蛍光画像中の解析対象領域に分布する色素抗体量の定量化に支障をきたすなどの不具合が生じ、蛍光観察における解析精度向上の妨げとなっていた。
そこで本開示は、上記事情に鑑みてなされたものであり、蛍光観察における解析精度を向上することを可能にする情報処理装置、情報処理方法、プログラム、顕微鏡システム及び解析システムを提案する。
本開示の実施形態に係る情報処理装置は、1以上の蛍光色素で標識された標本より観測された蛍光画像を1以上の蛍光成分を含む蛍光成分画像と1以上の自家蛍光成分を含む自家蛍光成分画像とに分離する分離部と、前記標本に含まれる1以上の自家蛍光物質それぞれの参照スペクトルと前記自家蛍光成分画像とを用いて自家蛍光成分補正画像を生成する生成部と、前記自家蛍光成分補正画像に基づいて前記蛍光成分画像を処理する処理部とを備える。
第1の実施形態に係る情報処理システムの構成例を示すブロック図である。 蛍光信号取得部によって取得された蛍光スペクトルの具体例を示す図である。 非負値行列因子分解の概要を説明する図である。 クラスタリングの概要を説明する図である。 第1の実施形態に係る情報処理システムが顕微鏡システムとして実現される場合における顕微鏡システムの構成例を示すブロック図である。 第1の実施形態に係る情報処理システムの基本動作例を示すフローチャートである。 第1の実施形態に係る疑似自家蛍光成分画像を生成する際の動作例を示すフローチャートである。 図6のステップS103で生成される自家蛍光成分画像の一例を示す図である。 図6のステップS102で取得される標本情報に含まれる自家蛍光参照スペクトルの一例を示す図である。 図7のステップS112を説明するための図である。 図7のステップS114を説明するための図である。 第1の実施形態の比較例に係る解析対象領域の抽出処理及びその解析を説明するためのフローチャートである。 図12に示す比較例に係る解析対象領域の抽出処理及びその解析を説明するための模式図である。 第1の実施形態に係る解析対象領域の抽出処理及びその解析を説明するためのフローチャートである。 図14に示す本実施形態に係る解析対象領域の抽出処理及びその解析を説明するための模式図である。 第2の実施形態に係る解析対象領域の抽出処理及びその解析を説明するためのフローチャートである。 図16に示す本実施形態に係る解析対象領域の抽出処理及びその解析を説明するための模式図である。 第3の実施形態に係るスペクトル強度比画像の生成処理及びその解析を説明するためのフローチャートである。 第3の実施形態に係る第1の生成手法を説明するための図である。 第3の実施形態に係る第2の生成手法を説明するための図である。 第4の実施形態に係る機械学習を用いた蛍光成分画像の生成処理を説明するためのフローチャートである。 図21に示す本実施形態に係る機械学習を用いた蛍光成分画像の生成処理を説明するための模式図である。 実施形態に係る情報処理システムの測定系の一例を示す図である。 実施形態に係る1画素における蛍光分子数(又は抗体数)を算出する方法を説明するための図である。 各実施形態及び変形例に係る情報処理装置のハードウェア構成例を示すブロック図である。
以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
なお、説明は以下の順序で行うものとする。
0.はじめに
1.第1の実施形態
1.1.構成例
1.2.顕微鏡システムへの応用例
1.3.最小二乗法について
1.4.非負値行列因子分解(NMF)について
1.5.第1実施形態の特徴的な構成
1.5.1.基本動作例
1.5.2.自家蛍光成分補正画像生成フロー例
1.6.解析対象領域の抽出及び解析
1.7.作用・効果
2.第2実施形態
2.1.解析対象領域の抽出及びその解析
2.2.作用・効果
3.第3実施形態
3.1.スペクトル強度比画像の生成及びその解析
3.2.スペクトル強度画像の生成手法
3.2.1 第1の生成手法
3.2.2 第2の生成手法
3.3.作用・効果
4.第4実施形態
4.1.機械学習を用いた蛍光成分画像の生成
4.2.作用・効果
5.測定系の構成例
6.蛍光分子数(又は抗体数)の算出方法
7.ハードウェア構成例
<0.はじめに>
近年、がん免疫療法などの発展から多数のサブセットに分類される免疫細胞に対し、それらの表現型である分子を複数種のマーカを用いて検出し、評価するニーズが高まっている。蛍光色素をマーカとしたマルチカラーイメージング解析方法は、それらの局在と機能との関連性を導く上で有効な手段であるとされており、以下の実施形態においても採用されている。
以下の実施形態は、免疫組織化学的に染色した病理標本切片を複数波長の励起光で励起し、蛍光分離するイメージング装置にて撮像して得られたマルチチャネル画像(画素数×波長チャネル(CH))に対して色分離処理を行った後の画像処理に関するものである。
なお、本開示におけるマルチチャネル画像には、後述する染色標本画像、蛍光成分画像、蛍光成分補正画像、自家蛍光成分画像、自家蛍光成分補正画像など、複数の波長チャネル(ただし、単一の波長チャネルを除外するものではない)の画像データから構成されるデータキューブ構造の種々の画像が含まれ得る。したがって、蛍光成分画像、蛍光成分補正画像、自家蛍光成分画像、及び、自家蛍光成分補正画像は、それぞれ単一の波長チャネルの蛍光成分又は自家蛍光成分の画像データに限られず、複数の波長チャネルの蛍光成分又は自家蛍光成分で構成されたスペクトル画像であってもよい。また、本説明における蛍光成分及び自家蛍光成分とは、イメージング装置にて撮像して得られたマルチチャネル画像における蛍光又は自家蛍光の波長成分を意味している。
上述したように、蛍光色素抗体を用いて染色された染色組織切片を蛍光観察する際、自家蛍光などが原因で抗体量を反映した蛍光強度の測定の正確性が影響されることがある。また、染色組織切片(以下、染色切片ともいう)の撮像画像(以下、染色標本画像という)からスペクトルを用いた色分離によって自家蛍光物質由来のスペクトル情報(以下、自家蛍光成分又は自家蛍光スペクトルという)を除去する処理(以下、色分離処理という)を実行した場合においても、色分離処理後の染色標本画像(蛍光成分画像という)に含まれる自家蛍光成分を完全になくすことは不可能であり、染色標本画像中の解析対象領域に分布する色素抗体量の定量化に支障をきたすなどの不具合を生じさせる要因となっていた。
そこで以下の実施形態では、これらの課題を解決するため、染色切片の色分離画像(各蛍光成分及び/又は各自家蛍光成分のスペクトル画像。すなわち、蛍光成分画像及び/又は自家蛍光成分画像)から擬似的な自家蛍光成分画像(自家蛍光成分補正画像)を生成し、これを用いる画像処理に関して、以下の特徴を有する方法を提案する。
第1の特徴として、以下の実施形態では、色分離処理によって染色標本画像から抽出された自家蛍光成分と、色分離処理により得られる蛍光物質由来のスペクトル情報(蛍光成分。蛍光スペクトルともいう)より構成される蛍光成分画像(抗体数画像ともいう)から、自家蛍光のスペクトル強度を算出した画像(自家蛍光成分補正画像)を生成する。このような自家蛍光成分補正画像を用いることで、非染色切片を撮像することで取得した自家蛍光成分画像を別途取得する手間の削減や、位置情報に紐づけられたスペクトル情報を用いることによる定量性の向上などの効果を奏することが可能となる。
第2の特徴として、染色標本画像から生成した自家蛍光成分補正画像を用いて、染色標本画像の輝度閾値処理を行う。これにより、自家蛍光とは区別される蛍光物質(染色蛍光色素ともいう)の特異的なシグナルを有する領域を抽出することが可能となる。
第3の特徴として、蛍光物質についても同様に、色分離処理により得られる蛍光物質由来の蛍光成分と蛍光成分画像とから、蛍光のスペクトル強度を算出した画像(蛍光成分補正画像)を生成し、蛍光物質由来のスペクトル強度と自家蛍光物質由来のスペクトル強度との相対比を算出する。これにより、色分離精度や設計した蛍光色素抗体パネルを評価することも可能となる。
なお、上述した特許文献1には、ピクセル輝度値の差分をもとに閾値を設定し対象を抽出する手法が提案されているが、輝度値の差分と分子の発現の有無との間に相関があるとはいえないため、このような手法による対象の抽出は適切でない可能性がある。これに対し、以下の実施形態では、輝度値の差分と分子の発現の有無との間に相関が認められる自家蛍光成分補正画像を用いて対象領域を抽出するため、適切に対象領域を抽出することが可能となる。
また、in silico labeling技術(Eric M. Christiansen et al., “In Silico Labeling: Predicting Fluorescent Labels in Unlabeled Images”, Cell, 173, 792-803, April 19, 2018)では、深層学習を活用して透過画像(自家蛍光成分画像)から対象となる細胞領域を予測し、高精度な蛍光ラベル画像を再現することが可能である。しかし、本技術では、学習データとして実際に蛍光ラベルした画像も入力画像として一緒に用意する必要があるが、2つの入力画像(自家蛍光成分画像と蛍光ラベル画像)として同一視野のものを用意することはできず、連続切片のものを用いることになるため、両入力画像間に空間的な差異が生じてしまう。これに対し、以下の実施形態では染色切片を撮像することで取得した染色標本画像から擬似的な自家蛍光成分画像を生成するため、同一の母集団のデータを用いて定量性を議論することができる。
さらに、同一組織ブロックの連続切片を用いて領域指定を行うことも考えられるが、連続切片を用いた場合でも光軸方向に数μm程度ずれた領域を撮影した画像を用いることになるため、非染色切片と染色切片との間で細胞や自家蛍光物質の分布形態や信号強度などの点で空間的な差異による影響を受ける可能性がある。これに対し、以下の実施形態では、染色切片そのものから抽出される自家蛍光物質のスペクトル情報をもとに自家蛍光成分補正画像を生成するため、自家蛍光物質などのばらつきが空間的に同一な条件で染色標本画像を定量化することが可能となる。
<1.第1の実施形態>
まず、本開示に係る第1の実施形態について説明する。
(1.1.構成例)
図1を参照して、本実施形態に係る情報処理システムの構成例について説明する。図1に示すように、本実施形態に係る情報処理システムは、情報処理装置100と、データベース200と、を備え、情報処理システムへの入力として、蛍光試薬10、標本20と、蛍光染色標本30と、が存在する。
(蛍光試薬10)
蛍光試薬10は、標本20の染色に使用される薬品である。蛍光試薬10は、例えば、蛍光抗体(直接標識に使用される一次抗体、または間接標識に使用される二次抗体が含まれる)、蛍光プローブ、または核染色試薬等であるが、蛍光試薬10の種類はこれらに限定されない。また、蛍光試薬10は、蛍光試薬10(または蛍光試薬10の製造ロット)を識別可能な識別情報(以降「試薬識別情報11」と呼称する)を付されて管理される。試薬識別情報11は、例えばバーコード情報等(一次元バーコード情報や二次元バーコード情報等)であるが、これに限定されない。蛍光試薬10は、同一の製品であっても、製造方法や抗体が取得された細胞の状態等に応じて製造ロット毎にその性質が異なる。例えば、蛍光試薬10において、製造ロット毎に蛍光の波長スペクトル(蛍光スペクトル)、量子収率、または蛍光標識率等が異なる。そこで、本実施形態に係る情報処理システムにおいて、蛍光試薬10は、試薬識別情報11を付されることによって製造ロット毎に管理される。これによって、情報処理装置100は、製造ロット毎に現れる僅かな性質の違いも考慮した上で蛍光分離を行うことができる。
(標本20)
標本20は、人体から採取された検体または組織サンプルから病理診断などを目的に作製されたものである。標本20は、組織切片や細胞や微粒子でもよく、標本20について、使用される組織(例えば臓器等)の種類、対象となる疾病の種類、対象者の属性(例えば、年齢、性別、血液型、または人種等)、または対象者の生活習慣(例えば、食生活、運動習慣、または喫煙習慣等)は特に限定されない。なお、組織切片には、例えば、染色される組織切片(以下、単に切片ともいう)の染色前の切片、染色された切片に隣接する切片、同一ブロック(染色切片と同一の場所からサンプリングされたもの)における染色切片と異なる切片、又は同一組織における異なるブロック(染色切片と異なる場所からサンプリングされたもの)における切片、異なる患者から採取した切片などが含まれ得る。また、標本20は、各標本20を識別可能な識別情報(以降、「標本識別情報21」と呼称する)を付されて管理される。標本識別情報21は、試薬識別情報11と同様に、例えばバーコード情報等(一次元バーコード情報や二次元バーコード情報等)であるが、これに限定されない。標本20は、使用される組織の種類、対象となる疾病の種類、対象者の属性、または対象者の生活習慣等に応じてその性質が異なる。例えば、標本20において、使用される組織の種類等に応じて計測チャネルまたは自家蛍光の波長スペクトル(自家蛍光スペクトル)等が異なる。そこで、本実施形態に係る情報処理システムにおいて、標本20は、標本識別情報21を付されることによって個々に管理される。これによって、情報処理装置100は、標本20毎に現れる僅かな性質の違いも考慮した上で蛍光分離を行うことができる。
(蛍光染色標本30)
蛍光染色標本30は、標本20が蛍光試薬10により染色されることで作成されたものである。本実施形態において、蛍光染色標本30は、標本20が1以上の蛍光試薬10によって染色されることを想定しているところ、染色に用いられる蛍光試薬10の数は特に限定されない。また、染色方法は、標本20および蛍光試薬10それぞれの組み合わせ等によって決まり、特に限定されるものではない。
(情報処理装置100)
情報処理装置100は、図1に示すように、取得部110と、保存部120と、処理部130と、表示部140と、制御部150と、操作部160と、を備える。情報処理装置100は、例えば蛍光顕微鏡等であり得るところ、必ずしもこれに限定されず種々の装置を含んでもよい。例えば、情報処理装置100は、PC(Personal Computer)等であってもよい。
(取得部110)
取得部110は、情報処理装置100の各種処理に使用される情報を取得する構成である。図1に示すように、取得部110は、情報取得部111と、蛍光信号取得部112と、を備える。
(情報取得部111)
情報取得部111は、蛍光試薬10に関する情報(以降、「試薬情報」と呼称する)や、標本20に関する情報(以降、「標本情報」と呼称する)を取得する構成である。より具体的には、情報取得部111は、蛍光染色標本30の生成に使用された蛍光試薬10に付された試薬識別情報11、および標本20に付された標本識別情報21を取得する。例えば、情報取得部111は、バーコードリーダー等を用いて試薬識別情報11および標本識別情報21を取得する。そして、情報取得部111は、試薬識別情報11に基づいて試薬情報を、標本識別情報21に基づいて標本情報をそれぞれデータベース200から取得する。情報取得部111は、取得したこれらの情報を後述する情報保存部121に保存する。
ここで、本実施形態において、標本情報には、標本20における1以上の自家蛍光物質の自家蛍光スペクトル(以下、自家蛍光参照スペクトルともいう)に関する情報が含まれ、試薬情報には、蛍光染色標本30における蛍光物質の蛍光スペクトル(以下、蛍光参照スペクトルともいう)に関する情報が含まれるとする。なお、自家蛍光参照スペクトルと蛍光参照スペクトルとをそれぞれ若しくはまとめて「参照スペクトル」とも呼称する。
(蛍光信号取得部112)
蛍光信号取得部112は、蛍光染色標本30(標本20が蛍光試薬10により染色されることで作成されたもの)に対して、波長が互いに異なる複数の励起光が照射されたときの、複数の励起光それぞれに対応する複数の蛍光信号を取得する構成である。より具体的には、蛍光信号取得部112は、光を受光し、その受光量に応じた検出信号を出力することで、当該検出信号に基づいて蛍光染色標本30の蛍光スペクトルで構成されたデータキューブ(以下、染色標本画像という)を取得する。ここで、励起光の内容(励起波長や強度等を含む)は試薬情報等(換言すると、蛍光試薬10に関する情報等)に基づいて決定される。なお、ここでいう蛍光信号は蛍光に由来する信号であれば特に限定されず、蛍光スペクトルはその単なる一例である。本説明では、蛍光信号が蛍光スペクトルである場合を例示する。
図2のA~Dは、蛍光信号取得部112によって取得される蛍光スペクトルの具体例である。図2のA~Dでは蛍光染色標本30に、DAPI、CK/AF488、PgR/AF594、およびER/AF647という4種の蛍光物質が含まれ、それぞれの励起波長として392[nm](図2のA)、470[nm](図2のB)、549[nm](図2のC)、628[nm](図2のD)を有する励起光が照射された場合に取得された蛍光スペクトルの具体例が示されている。なお、蛍光発光のためにエネルギーが放出されることにより、蛍光波長は励起波長よりも長波長側にシフトしている点に留意されたい(ストークスシフト)。また、蛍光染色標本30に含まれる蛍光物質、及び照射される励起光の励起波長は上記に限定されない。蛍光信号取得部112は、取得した蛍光スペクトルよりなる染色標本画像を後述する蛍光信号保存部122に保存する。
(保存部120)
保存部120は、情報処理装置100の各種処理に使用される情報、または各種処理によって出力された情報を保存する構成である。図1に示すように、保存部120は、情報保存部121と、蛍光信号保存部122と、を備える。
(情報保存部121)
情報保存部121は、情報取得部111によって取得された試薬情報および標本情報を保存する構成である。
(蛍光信号保存部122)
蛍光信号保存部122は、蛍光信号取得部112によって取得された蛍光染色標本30の蛍光信号を保存する構成である。
(処理部130)
処理部130は、色分離処理を含む各種処理を行う構成である。図1に示すように、処理部130は、分離処理部132と、画像生成部133と、を備える。
(分離処理部132)
分離処理部132は、染色標本画像を蛍光物質毎の蛍光スペクトルに分離する構成であり、後述するように、入力された染色標本画像から自家蛍光スペクトルを抽出し、抽出した自家蛍光スペクトルを用いて自家蛍光成分補正画像を生成する(生成部)。そして、分離処理部132は、生成した自家蛍光成分補正画像を用いて染色標本画像の色分離処理を実行する(分離部)。この分離処理部132は、請求の範囲における生成部、分離部、補正部、画像生成部としての機能を果たし得る。
色分離処理には、例えば、最小二乗法(LSM)や重み付き最小二乗法(WLSM)等が用いられてもよい。また、自家蛍光スペクトル及び/又は蛍光スペクトルの抽出には、例えば、非負値行列因子分解(NMF)や特異値分解(SVD)や主成分分析(PCA)等が用いられてもよい。
(操作部160)
操作部160は、実施者からの操作入力を受ける構成である。より具体的には、操作部160は、キーボード、マウス、ボタン、タッチパネル、またはマイクロフォン等の各種入力手段を備えており、実施者はこれらの入力手段を操作することで情報処理装置100に対して様々な入力を行うことができる。操作部160を介して行われた操作入力に関する情報は制御部150へ提供される。
(データベース200)
データベース200は、試薬情報および標本情報等を管理する装置である。より具体的に説明すると、データベース200は、試薬識別情報11と試薬情報、標本識別情報21と標本情報をそれぞれ紐づけて管理する。これによって、情報取得部111は、蛍光試薬10の試薬識別情報11に基づいて試薬情報を、標本20の標本識別情報21に基づいて標本情報をデータベース200から取得することができる。
データベース200が管理する試薬情報は、蛍光試薬10が有する蛍光物質固有の計測チャネルおよび蛍光参照スペクトルを含む情報であることを想定している(必ずしもこれらに限定されない)。「計測チャネル」とは、蛍光試薬10に含まれる蛍光物質を示す概念である。蛍光物質の数は蛍光試薬10によって様々であるため、計測チャネルは、試薬情報として各蛍光試薬10に紐づけられて管理されている。また、試薬情報に含まれる蛍光参照スペクトルとは、上記のとおり、計測チャネルに含まれる蛍光物質それぞれの蛍光スペクトルある。
また、データベース200が管理する標本情報は、標本20が有する自家蛍光物質固有の計測チャネルおよび自家蛍光参照スペクトルを含む情報であることを想定している(必ずしもこれらに限定されない)。「計測チャネル」とは、標本20に含まれる自家蛍光物質を示す概念であり、図8の例では、Hemoglobin、ArchidonicAcid、Catalase、Collagen、FAD、NADPH、およびProLongDiamondを指す概念である。自家蛍光物質の数は標本20によって様々であるため、計測チャネルは、標本情報として各標本20に紐づけられて管理されている。また、標本情報に含まれる自家蛍光参照スペクトルとは、上記のとおり、計測チャネルに含まれる自家蛍光物質それぞれの自家蛍光スペクトルである。なお、データベース200で管理される情報は必ずしも上記に限定されない。
以上、本実施形態に係る情報処理システムの構成例について説明した。なお、図1を参照して説明した上記の構成はあくまで一例であり、本実施形態に係る情報処理システムの構成は係る例に限定されない。例えば、情報処理装置100は、図1に示す構成の全てを必ずしも備えなくてもよいし、図1に示されていない構成を備えてもよい。
ここで、本実施形態に係る情報処理システムは、蛍光スペクトルを取得する撮像装置(例えば、スキャナ等を含む)と、蛍光スペクトルを用いて処理を行う情報処理装置と、を備えていてもよい。この場合、図1に示した蛍光信号取得部112は撮像装置によって実現され得、その他の構成は情報処理装置によって実現され得る。また、本実施形態に係る情報処理システムは、蛍光スペクトルを取得する撮像装置と、蛍光スペクトルを用いる処理に使われるソフトウェアと、を備えていてもよい。換言すると、当該ソフトウェアを記憶したり実行したりする物理構成(例えば、メモリやプロセッサ等)が情報処理システムに備えられていなくてもよい。この場合、図1に示した蛍光信号取得部112は撮像装置によって実現され得、その他の構成は当該ソフトウェアが実行される情報処理装置によって実現され得る。そして、ソフトウェアは、ネットワークを介して(例えば、ウェブサイトやクラウドサーバ等から)情報処理装置に提供されたり、任意の記憶媒体(例えば、ディスク等)を介して情報処理装置に提供されたりする。また、当該ソフトウェアが実行される情報処理装置は、各種サーバ(例えば、クラウドサーバ等)、汎用コンピュータ、PC、またはタブレットPC等であり得る。なお、ソフトウェアが情報処理装置に提供される方法、および情報処理装置の種類は上記に限定されない。また、本実施形態に係る情報処理システムの構成は必ずしも上記に限定されず、使用時の技術水準に基づいて、いわゆる当業者が想到可能な構成が適用され得る点に留意されたい。
(1.2.顕微鏡システムへの応用例)
上記で説明してきた情報処理システムは、例えば顕微鏡システムとして実現されてもよい。そこで、続いて図5を参照して、本実施形態に係る情報処理システムが顕微鏡システムとして実現される場合における顕微鏡システムの構成例について説明する。
図5に示すように、本実施形態に係る顕微鏡システムは、顕微鏡101と、データ処理部107と、を備える。
顕微鏡101は、ステージ102と、光学系103と、光源104と、ステージ駆動部105と、光源駆動部106と、蛍光信号取得部112と、を備える。
ステージ102は、蛍光染色標本30を載置可能な載置面を有し、ステージ駆動部105の駆動により当該載置面に対して平行方向(x-y平面方向)及び垂直方向(z軸方向)へ移動可能とされている。蛍光染色標本30は、Z方向に例えば数μmから数十μmの厚さを有し、スライドガラスSG及びカバーガラス(図示無し)に挟まれて所定の固定手法により固定されている。
ステージ102の上方には光学系103が配置される。光学系103は、対物レンズ103Aと、結像レンズ103Bと、ダイクロイックミラー103Cと、エミッションフィルタ103Dと、励起フィルタ103Eと、を備える。光源104は、例えば水銀ランプ等の電球やLED(Light Emitting Diode)等であり、光源駆動部106の駆動により蛍光染色標本30に付された蛍光標識に対する励起光を照射するものである。
励起フィルタ103Eは、蛍光染色標本30の蛍光像を得る場合に、光源104から出射された光のうち蛍光色素を励起する励起波長の光のみを透過させることで励起光を生成する。ダイクロイックミラー103Cは、当該励起フィルタで透過されて入射する励起光を反射させて対物レンズ103Aへ導く。対物レンズ103Aは、当該励起光を蛍光染色標本30へ集光する。そして対物レンズ103A及び結像レンズ103Bは、蛍光染色標本30の像を所定の倍率に拡大し、当該拡大像を蛍光信号取得部112の撮像面に結像させる。
蛍光染色標本30に励起光が照射されると、蛍光染色標本30の各組織に結合している染色剤が蛍光を発する。この蛍光は、対物レンズ103Aを介してダイクロイックミラー103Cを透過し、エミッションフィルタ103Dを介して結像レンズ103Bへ到達する。エミッションフィルタ103Dは、上記対物レンズ103Aによって拡大された、励起フィルタ103Eを透過した光を吸収し発色光の一部のみを透過する。当該外光が喪失された発色光の像は、上述のとおり、結像レンズ103Bにより拡大され、蛍光信号取得部112上に結像される。
データ処理部107は、光源104を駆動させ、蛍光信号取得部112を用いて蛍光染色標本30の蛍光像を取得し、これを用いて各種処理を行う構成である。より具体的には、データ処理部107は、図1を参照して説明した、情報処理装置100の情報取得部111、保存部120、処理部130、表示部140、制御部150、操作部160、又はデータベース200の一部又は全部の構成として機能し得る。例えば、データ処理部107は、情報処理装置100の制御部150として機能することで、ステージ駆動部105及び光源駆動部106の駆動を制御したり、蛍光信号取得部112によるスペクトルの取得を制御したりする。また、データ処理部107は、情報処理装置100の処理部130として機能することで、蛍光スペクトルを生成したり、蛍光スペクトルを蛍光物質毎に分離したり、分離結果に基づいて画像情報を生成したりする。
以上、本実施形態に係る情報処理システムが顕微鏡システムとして実現される場合における顕微鏡システムの構成例について説明した。なお、図5を参照して説明した上記の構成はあくまで一例であり、本実施形態に係る顕微鏡システムの構成は係る例に限定されない。例えば、顕微鏡システムは、図5に示す構成の全てを必ずしも備えなくてもよいし、図5に示されていない構成を備えてもよい。
(1.3.最小二乗法について)
ここで、分離処理部132による色分離処理において用いられる最小二乗法について説明する。最小二乗法は、入力された染色標本画像における各画素の画素値である蛍光スペクトルに参照スペクトルをフィッティングすることで、混色率を算出するものである。なお、混色率は、各物質が混ざり合う度合を示す指標である。以下の式(1)は、蛍光スペクトル(Signal)から、参照スペクトル(St)。蛍光参照スペクトル及び自家蛍光参照スペクトルが混色率aで混色されたものを減算して得られる残差を表す式である。なお、式(1)における「Signal(1×チャンネル数)」とは、蛍光スペクトル(Signal)が波長のチャンネル数だけ存在することを示している。例えば、Signalは、1以上の蛍光スペクトルを表す行列である。また、「St(物質数×チャンネル数)」とは、参照スペクトルが、それぞれの物質(蛍光物質及び自家蛍光物質)について波長のチャンネル数だけ存在することを示している。例えば、Stは、1以上の参照スペクトルを表す行列である。また、「a(1×物質数)」とは、混色率aが各物質(蛍光物質及び自家蛍光物質)について設けられることを示している。例えば、aは、蛍光スペクトルにおける参照スペクトルそれぞれの混色率を表す行列である。
Figure 0007647751000001
そして、分離処理部132は、残差式(1)の2乗和が最小となる各物質の混色率aを算出する。残差の2乗和が最小となるのは、残差を表す式(1)について、混色率aに関する偏微分の結果が0である場合であるため、分離処理部132は、以下の式(2)を解くことで残差の2乗和が最小となる各物質の混色率aを算出する。なお、式(2)における「St´」は、参照スペクトルStの転置行列を示している。また、「inv(St*St´)」は、St*St´の逆行列を示している。
Figure 0007647751000002
ここで、上記式(1)の各値の具体例を以下の式(3)~式(5)に示す。式(3)~式(5)の例では、蛍光スペクトル(Signal)において、3種の物質(物質数が3)の参照スペクトル(St)がそれぞれ異なる混色率aで混色される場合が示されている。
Figure 0007647751000003
Figure 0007647751000004
Figure 0007647751000005
そして、式(3)および式(5)の各値による上記式(2)の計算結果の具体例を以下の式(6)に示す。式(6)のとおり、計算結果として正しく「a=(3 2 1)」(すなわち上記式(4)と同一の値)が算出されることがわかる。
Figure 0007647751000006
なお、分離処理部132は、上述したように、最小二乗法ではなく重み付き最小二乗法(Weighted Least Square Method)に関する計算を行うことにより、蛍光スペクトルから蛍光物質ごとのスペクトルを抽出してもよい。重み付き最小二乗法においては、測定値である蛍光スペクトル(Signal)のノイズがポアソン分布になることを利用して、低いシグナルレベルの誤差を重視するように重みが付けられる。ただし、重み付き最小二乗法で加重が行われない上限値をOffset値とする。Offset値は測定に使用されるセンサの特性によって決まり、センサとして撮像素子が使用される場合には別途最適化が必要である。重み付き最小二乗法が行われる場合には、上記の式(1)及び式(2)における参照スペクトルStが以下の式(7)で表されるSt_に置換される。なお、以下の式(7)は、行列で表されるStの各要素(各成分)を、同じく行列で表される「Signal+Offset値」においてそれぞれ対応する各要素(各成分)で除算(換言すると、要素除算)することでSt_を算出することを意味する。
Figure 0007647751000007
ここで、Offset値が1であり、参照スペクトルStおよび蛍光スペクトルSignalの値がそれぞれ上記の式(3)および式(5)で表される場合の、上記式(7)で表されるSt_の具体例を以下の式(8)に示す。
Figure 0007647751000008
そして、この場合の混色率aの計算結果の具体例を以下の式(9)に示す。式(9)のとおり、計算結果として正しく「a=(3 2 1)」が算出されることがわかる。
Figure 0007647751000009
(1.4.非負値行列因子分解(NMF)について)
つづいて、分離処理部132が自家蛍光スペクトル及び/又は蛍光スペクトルの抽出に用いる非負値行列因子分解(NMF)について説明する。ただし、非負値行列因子分解(NMF)に限定されず、特異値分解(SVD)や主成分分析(PCA)等が用いられてもよい。
図3は、NMFの概要を説明する図である。図3に示すように、NMFは、非負のN行M列(N×M)の行列Aを、非負のN行k列(N×k)の行列W、及び非負のk行M列(k×M)の行列Hに分解する。行列Aと、行列W及び行列Hの積(W*H)間の平均平方二乗残差Dが最小となるように行列W及び行列Hが決定される。本実施形態においては、行列Aが、自家蛍光参照スペクトルが抽出される前のスペクトル(Nが画素数であり、Mが波長チャネル数である)に相当し、行列Hが、抽出された自家蛍光参照スペクトル(kが自家蛍光参照スペクトルの数(換言すると、自家蛍光物質の数)であり、Mが波長チャネル数である)に相当する。ここで、平均平方二乗残差Dは、以下の式(10)で表される。なお、「norm(D,‘fro’)」とは、平均平方二乗残差Dのフロベニウスノルムを指す。
Figure 0007647751000010
NMFにおける因子分解は、行列W及び行列Hに対する無作為な初期値で始まる反復法が用いられる。NMFにおいてkの値(自家蛍光参照スペクトルの数)は必須であるが、行列W及び行列Hの初期値は必須ではなくオプションとして設定され得、行列W及び行列Hの初期値が設定されると解が一定となる。一方で、行列W及び行列Hの初期値が設定されない場合、これらの初期値は無作為に設定され、解が一定とならない。
標本20は、使用される組織の種類、対象となる疾病の種類、対象者の属性、または対象者の生活習慣等に応じてその性質が異なり、自家蛍光スペクトルも異なる。そのため、第2の実施形態に係る情報処理装置100が、上記のように、標本20毎に自家蛍光参照スペクトルを実測することで、より精度の高い色分離処理を実現することができる。
なお、NMFの入力である行列Aは、上述したように、染色標本画像の画素数N(=Hpix×Vpix)と同数の行と、波長チャネル数Mと同数の列とからなる行列である。そのため、染色標本画像の画素数が大きい場合や波長チャネル数Mが大きい場合には、行列Aが非常に大きな行列となり、NMFの計算コストが増大して処理時間が長くなる。
そのような場合には、例えば、図4に示すように、染色画像の画素数N(=Hpix×Vpix)を指定しておいたクラス数N(<Hpix×Vpix)にクラスタリングすることで、行列Aの巨大化による処理時間の冗長化を抑制することができる。
クラスタリングでは、例えば、染色画像のうち、波長方向や強度方向において類似したスペクトル同士が同じクラスに分類される。これにより、染色画像よりも画素数の小さい画像が生成されるため、この画像を入力とした行列A’の規模を縮小することが可能となる。
(画像生成部133)
画像生成部133は、分離処理部132による蛍光スペクトルの分離結果に基づいて画像情報を生成する構成である。例えば、画像生成部133は、1つ又は複数の蛍光物質に対応する蛍光スペクトルを用いて画像情報を生成したり、1つ又は複数の自家蛍光物質に対応する自家蛍光スペクトルを用いて画像情報を生成したりすることができる。なお、画像生成部133が画像情報の生成に用いる蛍光物質(分子)又は自家蛍光物質(分子)の数や組合せは特に限定されない。また、分離後の蛍光スペクトル又は自家蛍光スペクトルを用いた各種処理(例えば、セグメンテーション、またはS/N値の算出等)が行われた場合、画像生成部133は、それらの処理の結果を示す画像情報を生成してもよい。
(表示部140)
表示部140は、画像生成部133によって生成された画像情報をディスプレイに表示することで実施者へ提示する構成である。なお、表示部140として用いられるディスプレイの種類は特に限定されない。また、本実施形態では詳細に説明しないが、画像生成部133によって生成された画像情報がプロジェクターによって投影されたり、プリンタによってプリントされたりすることで実施者へ提示されてもよい(換言すると、画像情報の出力方法は特に限定されない)。
(制御部150)
制御部150は、情報処理装置100が行う処理全般を統括的に制御する機能構成である。例えば、制御部150は、操作部160を介して行われる実施者による操作入力に基づいて、上記で説明したような各種処理(例えば、蛍光染色標本30の載置位置の調整処理、蛍光染色標本30に対する励起光の照射処理、スペクトルの取得処理、自家蛍光成分補正画像の生成処理、色分離処理、画像情報の生成処理、および画像情報の表示処理等)の開始や終了等を制御する。なお、制御部150の制御内容は特に限定されない。例えば、制御部150は、汎用コンピュータ、PC、タブレットPC等において一般的に行われる処理(例えば、OS(Operating System)に関する処理)を制御してもよい。
(1.5.第1実施形態の特徴的な構成)
上記では、本実施形態に係る情報処理システムの構成例及び応用例について説明した。続いて、本実施形態の特徴的な構成について、以下に図面を参照して詳細に説明する。
上述したように、本実施形態では、組織サンプルを撮影した際に問題とされる自家蛍光物質由来の蛍光信号を解析対象である蛍光物質由来の蛍光信号と区別するため、染色標本画像を色分離処理する際に得られる自家蛍光物質由来のスペクトル情報(自家蛍光成分(スペクトル))を用いて擬似的な自家蛍光成分画像(自家蛍光成分補正画像)を生成し、これを用いて染色標本画像の定量的な解析を可能にする。
より具体的には、本実施形態では、染色標本画像から抽出された自家蛍光成分に基づき、それに対応する自家蛍光参照スペクトルを用いて自家蛍光成分補正画像を生成し、その自家蛍光成分補正画像を用いて染色標本画像を加工することで、より高い精度で色分離された蛍光成分画像を生成する。なお、生成された蛍光成分画像は、表示部140において表示されてもよいし、処理部130やその他の構成(例えば、ネットワークを介して接続された解析装置等)で所定の処理(解析処理等)が実行されてもよい。なお、所定の処理とは、例えば、特定の細胞の検出などの処理であってよい。
(1.5.1.基本動作例)
図6は、本実施形態に係る情報処理システムの基本動作例を示すフローチャートである。なお、以下の動作は、例えば、制御部150による制御下で各部が動作することで実行される。
図6に示すように、本実施形態に係る基本動作では、まず、取得部110の情報取得部111が蛍光染色標本30を撮像することで、染色標本画像を取得する(ステップS101)。これにより取得された染色標本画像は、例えば、保存部120における情報保存部121に格納される。
また、情報取得部111は、ネットワークを介して接続されたデータベース200から試薬情報及び標本情報を取得する(ステップS102)。上述したように、ここで、標本情報には、標本20における1以上の自家蛍光物質の自家蛍光参照スペクトルに関する情報が含まれ、試薬情報には、蛍光染色標本30における蛍光物質の蛍光参照スペクトルに関する情報が含まれている。取得した試薬情報及び標本情報は、例えば、保存部120における情報保存部121に格納される。
次に、分離処理部132が、情報保存部121に格納されている染色標本画像と試薬情報及び標本情報とを取得し、取得した染色標本画像に対して例えば最小二乗法を用いた自家蛍光参照スペクトルのフィッティングを行うことで、染色標本画像の色分離処理を実行する(ステップS103)。この色分離処理により、蛍光成分画像及び自家蛍光成分画像が生成される。
次に、分離処理部132は、ステップS103で生成した自家蛍光成分画像と、ステップS102で取得した標本情報に含まれる自家蛍光参照スペクトルとを用いて、自家蛍光成分補正画像を生成する(ステップS104)。なお、自家蛍光成分補正画像の生成については、後述においてより詳細に説明する。
次に、分離処理部132は、自家蛍光成分補正画像を用いて染色標本画像を加工することで、蛍光成分画像を生成する(ステップS105)。このように、自家蛍光参照スペクトルを用いた生成した自家蛍光成分補正画像を用いて染色標本画像に含まれる自家蛍光成分を除去することで、より色分離精度が向上した、すなわち、より自家蛍光成分の残存量が低減した蛍光成分画像を生成することが可能である(補正部)。
そして、分離処理部132は、生成された蛍光成分画像を画像生成部133や外部のサーバ等へ送信する(ステップS106)。その後、本動作は終了する。
(1.5.2.自家蛍光成分補正画像生成フロー例)
続いて、図6のステップS104で説明した自家蛍光成分画像を生成する際の動作例を説明する。図7は、本実施形態に係る疑似自家蛍光成分画像を生成する際の動作例を示すフローチャートである。また、図8は、図6のステップS103で生成される自家蛍光成分画像の一例を示す図であり、図9は、図6のステップS102で取得される標本情報に含まれる自家蛍光参照スペクトルの一例を示す図である。さらに、図10は、図7のステップS112を説明するための図であり、図11は、図7のステップS114を説明するための図である。
図7に示すように、自家蛍光成分補正画像生成フローでは、分離処理部132は、まず、図6のステップS103で生成された自家蛍光成分画像(図8参照)のうち、未選択の1つ(これを自家蛍光チャネルCHn(nは自然数)の自家蛍光成分画像とする)を選択する(ステップS111)。なお、自家蛍光チャネルとは、自家蛍光ごとに付与された識別情報であってよい。
次に、分離処理部132は、図10に示すように、ステップS111で選択した自家蛍光チャネルCHnの自家蛍光成分画像と、図6のステップS102で取得した標本情報に含まれる自家蛍光参照スペクトル(図9参照)のうちの自家蛍光チャネルCHnの自家蛍光参照スペクトルとから自家蛍光チャネルCHnに関するスペクトル画像を生成する(ステップS112)。このスペクトル画像の生成には、上述したNMFを用いることができる。
次に、分離処理部132は、ステップS111において全ての自家蛍光成分画像を選択済みであるか否かを判定し(ステップS113)、選択済みでない場合(ステップS113のNO)、ステップS111へ戻り、未選択の自家蛍光成分画像を選択して以降の動作を実行する。
一方、ステップS111で全ての自家蛍光成分画像を選択済みである場合(ステップS113のYES)、分離処理部132は、図11に示すように、繰り返されたステップS112で生成された自家蛍光チャネルCHそれぞれのスペクトル画像を加算する(ステップS114)。これにより、自家蛍光成分補正画像が生成される。その後、分離処理部132は、図7に示す動作を終了する。
(1.6.解析対象領域の抽出及び解析)
次に、本実施形態に係る蛍光成分画像からの解析対象領域の抽出処理及びその解析について、比較例を用いつつ説明する。図12は、比較例に係る解析対象領域の抽出処理及びその解析を説明するためのフローチャートであり、図13は、図12に示す比較例に係る解析対象領域の抽出処理及びその解析を説明するための模式図である。また、図14は、本実施形態に係る解析対象領域の抽出処理及びその解析を説明するためのフローチャートであり、図15は、図14に示す本実施形態に係る解析対象領域の抽出処理及びその解析を説明するための模式図である。
(比較例)
図12及び図13に示すように、比較例では、まず、染色切片を撮像すること染色標本画像を取得するとともに、染色切片と隣接又は近接する未染色の組織切片(以下、非染色組織切片又は非染色切片ともいう)を撮像することで未染色切片の撮像画像(以下、非染色標本画像という)を取得する(ステップS901)。続いて、取得した染色標本画像と非染色標本画像とを用いた色分離処理を実行することで、蛍光成分画像と自家蛍光成分画像とを生成する(ステップS902)。
次に、自家蛍光成分画像に基づいて、解析対象とする領域(解析対象領域)の候補となる領域(抽出対象領域)を抽出するための抗体数の閾値を設定する(ステップS903)。なお、抗体数の閾値は、例えば、蛍光成分画像における各画素の画素値に対する閾値などであってよい。また、抽出対象領域は、図13のステップS903においてドットでハッチングされた領域であってよい。
次に、染色標本画像における各画素の画素値と閾値とを比較し、その比較結果に基づくことで、解析対象領域を抽出するためのマスク画像を生成する(ステップS904)。これにより、例えば、画素値が閾値以上であれば‘1’、閾値未満であれば‘0’とする二値マスクがマスク画像として生成される。なお、‘1’が付与された画素又は領域は、解析対象の候補となる画素又は領域であり、‘0’が付与された画素又は領域は、解析対象から除外された画素又は領域であってよい。
次に、ステップS904で生成されたマスク画像の各画素と蛍光成分画像の各画素との論理積演算を実行することで、蛍光成分画像から解析対象領域を抽出する(ステップS905)。これにより、自家蛍光成分画像から抽出した値を閾値として、蛍光色素抗体によって標識された領域(解析対象の形態的情報)が抽出された抽出画像が得られる。
その後、例えば、解析対象領域が外部サーバなどの解析装置へ送られて、定量的に評価される(ステップS906)。
(本実施形態)
一方、図14及び図15に示すように、本実施形態では、まず、染色切片を撮像することで染色標本画像を取得する(ステップS1)。すなわち、本実施形態では、非染色切片を撮像して未染色標本画像を取得する必要がない。
次に、本実施形態では、染色標本画像に対する色分離処理を実行することで、蛍光成分画像を生成する(ステップS2)。また、本実施形態では、色分離処理により生成された自家蛍光成分画像と、取得した標本情報に含まれる自家蛍光参照スペクトルとを用いて、自家蛍光成分補正画像を生成する(ステップS3)。
次に、自家蛍光成分補正画像に基づいて、解析対象領域の候補となる抽出対象領域を抽出するための抗体数の閾値を設定する(ステップS4)。なお、図12及び図13を用いた説明と同様に、抗体数の閾値は、例えば、蛍光成分画像における各画素の画素値に対する閾値などであってよく、また、抽出対象領域は、図15のステップS4においてドットでハッチングされた領域であってよい。
その後、図12及び図13のステップS904~S906と同様に、染色標本画像における各画素の画素値と閾値とを比較してマスク画像を生成し(ステップS5)、続いて、ステップS5で生成されたマスク画像と蛍光成分画像との論理積演算を実行することで、蛍光成分画像から解析対象領域を抽出する(ステップS6)。これにより、自家蛍光成分補正画像から抽出した値を閾値として、蛍光色素抗体によって標識された領域(解析対象の形態的情報)が抽出された抽出画像が得られる。そして、抽出された解析対象領域が例えば外部サーバなどの解析装置へ送られて、定量的に評価される(ステップS7)。
(1.7.作用・効果)
以上のように、本実施形態によれば、解析対象領域の抽出処理において、ユーザが自家蛍光成分補正画像から定義した値あるいは客観性を持つ数値を閾値として設定し、染色標本画像中の画素値と閾値との大小関係に基づいて生成されたマスク画像(二値マスク)を用いて解析対象領域が抽出される。
このように、閾値の設定に自家蛍光成分補正画像を用いることで、別途非染色切片を撮像して非染色標本画像を取得する手間や、自家蛍光成分画像を生成する手間等を省略することができることのほかに、染色標本画像中の空間的な情報(自家蛍光成分やノイズ由来などの信号分布が同一である)を保持している、言い換えれば、染色標本画像や蛍光成分画像との相関を持った自家蛍光成分補正画像に基づいて閾値が設定できるため、染色標本画像や蛍光成分画像との相関を持った閾値を設定することができるという効果を奏することが可能となる。
<2.第2実施形態>
次に、第2の実施形態について説明する。上述した第1の実施形態では、生成した自家蛍光成分補正画像から染色標本画像の全画素に対する閾値を一意的に設定していた。これに対し、第2の実施形態では、画素ごとに異なる閾値を設定することで、必ずしも同じでない閾値が空間的に分布する閾値分布画像を生成する。なお、本実施形態において、情報処理システムの構成及び基本動作は、第1の実施形態に係る情報処理システムの構成及び基本動作と同様であってよいため、ここでは詳細な説明を省略する。
(2.1.解析対象領域の抽出及びその解析)
図16は、本実施形態に係る解析対象領域の抽出処理及びその解析を説明するためのフローチャートであり、図17は、図16に示す本実施形態に係る解析対象領域の抽出処理及びその解析を説明するための模式図である。
図16及び図17に示すように、本実施形態では、まず、第1の実施形態において図14及び図15のステップS1~S3を用いて説明した動作と同様に、染色切片を撮像することで染色標本画像を取得し(ステップS21)、染色標本画像に対する色分離処理を実行することで蛍光成分画像を生成し(ステップS22)、色分離処理により生成された自家蛍光成分画像と、取得した標本情報に含まれる自家蛍光参照スペクトルとを用いて、自家蛍光成分補正画像を生成する(ステップS23)。
次に、本実施形態では、自家蛍光成分補正画像に基づいて、画素ごとに異なる抗体数の閾値が設定された閾値分布画像を生成する(ステップS24)。画素ごとに閾値が異なる閾値分布画像の生成方法としては、例えば、自家蛍光成分補正画像の各画素の画素値に対して予め設定しておいた係数を乗算する方法などを採用することができる。ここで、係数は、例えば、妥当と考えられる数値範囲内で決定されてよい。具体例としては、自家蛍光成分補正画像における画素値の最大値や平均値に基づく値が係数として用いられてもよい。
次に、本実施形態では、染色標本画像における各画素の画素値と、閾値分布画像における対応する画素の閾値とを比較し、その比較結果に基づくことで、解析対象領域を抽出するためのマスク画像を生成する(ステップS25)。これにより、例えば、画素値が閾値以上であれば‘1’、閾値未満であれば‘0’とする二値マスクがマスク画像として生成される。なお、第1の実施形態と同様に、‘1’が付与された画素又は領域は、解析対象の候補となる画素又は領域であり、‘0’が付与された画素又は領域は、解析対象から除外された画素又は領域であってよい。また、図17のステップS25に示す画素ごとの比較結果において、ドットでハッチングされた画素は、例えば、画素値が対応する閾値以上であった画素であってよい。
その後、図14及び図15のステップS6~S7と同様に、S25で生成されたマスク画像と蛍光成分画像との論理積演算を実行することで、蛍光成分画像から解析対象領域を抽出する(ステップS26)。これにより、自家蛍光成分補正画像から抽出した値を閾値として、蛍光色素抗体によって標識された領域(解析対象の形態的情報)が抽出された抽出画像が得られる。そして、抽出された解析対象領域が例えば外部サーバなどの解析装置へ送られて、定量的に評価される(ステップS27)。
(2.2.作用・効果)
以上のように、本実施形態では、染色標本画像から目的の領域のみを抽出するための二値マスクを生成する上で、第1の実施形態のように、自家蛍光成分補正画像から閾値を一意的に設定するのではなく、異なる閾値を空間的に分布させることができる閾値分布画像を生成する。それにより、染色標本画像と対応する自家蛍光成分補正画像の画素値を用いて閾値を設定することが可能となるため、組織領域ごとの自家蛍光成分の分布やハードウェアの影響など、システム上生じ得るノイズの空間的な情報を保持する閾値分布画像を用いて解析対象領域を抽出することが可能となる。その結果、蛍光観察における解析精度をより向上させることが可能となる。
なお、その他の構成、動作及び効果は、上述した実施形態と同様であってよいため、ここでは詳細な説明を省略する。
<3.第3実施形態>
次に、第3の実施形態について説明する。上述した実施形態では、染色標本画像から自家蛍光成分補正画像を生成する場合を例示した。これに対し、本実施形態では、自家蛍光成分補正画像に加え、擬似的な蛍光成分画像(以下、蛍光成分補正画像という)も生成し、それらのスペクトル強度比を算出することで、自家蛍光に対する蛍光色素強度の割合を情報として取得する。なお、本実施形態において、情報処理システムの構成及び基本動作は、上述した実施形態に係る情報処理システムの構成及び基本動作と同様であってよいため、ここでは詳細な説明を省略する。
(3.1.スペクトル強度比画像の生成及びその解析)
本実施形態において、スペクトル強度比は、例えば、空間的に分布する情報、すなわち画像データ(スペクトル強度比画像)として生成される。図18は、本実施形態に係るスペクトル強度比画像の生成処理及びその解析を説明するためのフローチャートである。
図18に示すように、本実施形態では、まず、第1の実施形態において図6のステップS101~S104と同様の動作を実行することで、自家蛍光成分補正画像を生成する(ステップS104)。
次に、本実施形態では、例えば、自家蛍光成分補正画像を生成する際の同様の動作を適用することで、蛍光成分補正画像を生成する(ステップS301)。なお、蛍光成分補正画像生成フローは、第1の実施形態において図7を用いて説明した動作における自家蛍光成分画像を蛍光成分画像に置き換え、自家蛍光参照スペクトルを蛍光参照スペクトルに置き換えることで実施可能であるため、ここでは詳細な説明を省略する。
次に、分離処理部132は、蛍光成分補正画像と自家蛍光成分補正画像とにおける対応する画素同士の比(スペクトル強度比)を算出することで、スペクトル強度比画像を生成する(ステップS302)。
その後、例えば、スペクトル強度比画像が外部サーバなどの解析装置へ送られて、定量的に評価される(ステップS303)。
(3.2.スペクトル強度画像の生成手法)
本実施形態において、スペクトル強度比画像は、例えば、蛍光成分補正画像の各画素のスペクトル強度を示すスペクトル強度画像と、自家蛍光成分補正画像の各画素のスペクトル強度を示すスペクトル強度画像とをそれぞれ生成し、対応する画素同士のスペクトル強度の比を算出することで生成されてもよい。
ここで、蛍光成分補正画像及び自家蛍光成分補正画像それぞれのスペクトル強度画像を生成する手法は、特に限定されるものではない。そこで以下に、2つの生成手法を例示する。
(3.2.1 第1の生成手法)
図19は、第1の生成手法を説明するための図である。図19に示すように、第1の生成手法では、データキューブ構造の蛍光成分補正画像/自家蛍光成分補正画像の波長チャネルごとの画素値を波長方向で合算することで(ステップS31)、スペクトル強度画像を生成する。
(3.2.2 第2の生成手法)
図20は、第2の生成手法を説明するための図である。図20に示すように、第2の生成手法では、データキューブ構造の蛍光成分補正画像/自家蛍光成分補正画像の波長チャネルごとの画素値のうち、波長方向において最大値の画素値を抽出することで(ステップS32)、スペクトル強度画像を生成する。
(3.3.作用・効果)
以上のように、本実施形態では、蛍光成分においても、蛍光成分画像の画素ごとに色分離処理によって抽出された蛍光参照スペクトルを掛け合わせることで蛍光成分補正画像を生成し、蛍光成分補正画像及び自家蛍光成分補正画像それぞれのスペクトル強度画像を得る。そして、蛍光成分補正画像の各画素と自家蛍光成分補正画像の各画素とのスペクトル強度比から、自家蛍光に対する蛍光色素強度の割合を空間的に示す情報であるスペクトル強度比画像が生成される。このようにして生成されたスペクトル強度比画像は、情報処理システムにおける測定系(取得部110に相当)の性能評価や処理部130における色分離精度評価、さらには蛍光試薬パネルの設計/評価等に活用することが可能である。
また、本実施形態によれば、例えば、以上のように生成したスペクトル強度比画像を、染色標本画像を取得部110が取得した際の撮影条件や標本20に対する蛍光試薬10の標識条件(染色条件)等の画像取得条件と紐づけて保存部120等に記録しておき、同一の取得部110を用いて染色標本画像を取得する際の参考情報として活用するなども可能となる。また、スペクトル強度比画像及び画像取得条件をネットワーク上のサーバに保管しておき、他の情報処理システム又は情報処理装置100と共有することで、他の情報処理システムにおける同機種の取得部110を用いて染色標本画像を取得する際の参考情報として活用するなども可能となる。具体的には、例えば、同機種の取得部110を用いる場合の機器間ベースライン補正や検量線補正などに、保存部120、サーバ等に蓄積されているスペクトル強度比画像及び画像取得条件が利用されてもよい。
なお、その他の構成、動作及び効果は、上述した実施形態と同様であってよいため、ここでは詳細な説明を省略する。
<4.第4実施形態>
次に、第4の実施形態について説明する。上述した実施形態では、自家蛍光スペクトル及び/又は蛍光スペクトルの抽出に例えばNMFやSVDやPCA等が用いられていた。これに対し、本実施形態では、これらに代えて、機械学習を用いて自家蛍光スペクトル及び/又は蛍光スペクトルを抽出する場合について説明する。なお、本実施形態において、情報処理システムの構成及び基本動作は、上述した実施形態に係る情報処理システムの構成及び基本動作と同様であってよいため、ここでは詳細な説明を省略する。
(4.1.機械学習を用いた蛍光成分画像の生成)
図21は、本実施形態に係る機械学習を用いた蛍光成分画像の生成処理を説明するためのフローチャートであり、図22は、図21に示す本実施形態に係る機械学習を用いた蛍光成分画像の生成処理を説明するための模式図である。
図21及び図22に示すように、本実施形態では、まず、第2の実施形態において図14のステップS1~S3と同様の動作を実行することで、自家蛍光成分補正画像を生成する(ステップS401~S403)。
次に、本実施形態では、ステップS401の色分離処理により生成された蛍光成分画像とステップS403で生成された疑似自家蛍光成分画像とを機械学習部401に入力し、機械学習部401において蛍光成分画像と疑似自家蛍光成分画像とを入力画像とした教師なし学習のディープラーニングを実行することで、染色標本画像から自家蛍光成分由来の信号強度や分布などの特徴量(例えば、自家蛍光スペクトル)を抽出する(ステップS404)。なお、ディープラーニングとしては、DNN(Deep Neural Network)やCNN(Convolutional Neural Network)やRNN(Recurrent Neural Network)など、種々の機械学習を適用することができる。また、機械学習部401は、例えば、情報処理装置100における処理部130等に実装されてもよいし、情報処理装置100と所定のネットワークを介して接続されたクラウドサーバ等に実装されてもよい。
そして、本実施形態では、ステップS404で抽出した特徴量を用いて、自家蛍光成分の残存量がより低減されたさらに精度の高い蛍光成分画像を生成し(ステップS405)、本動作を終了する。
(4.2.作用・効果)
以上のように、本実施形態では、染色標本画像に対する色分離処理により生成された蛍光成分画像と、それより生成した自家蛍光成分補正画像とを入力画像とし、教師なし学習の機械学習を適用することで、染色標本画像から自家蛍光成分由来の信号強度や分布などの特徴量を抽出し、これらの抽出した特徴量をもとにさらに精度の高い蛍光成分画像を生成する。このように、染色標本画像を由来とする、言い換えれば、染色標本画像から生成された自家蛍光成分補正画像を入力とする機械学習を実行することで、機械学習の入力画像と出力画像との紐づけが容易となるため、学習効果を高めやすいという効果を奏することが可能となる。
なお、その他の構成、動作及び効果は、上述した実施形態と同様であってよいため、ここでは詳細な説明を省略する。
<5.測定系の構成例>
次に、上述した実施形態(以下、単に実施形態という)に係る情報処理装置100における測定系の構成例について説明する。図23は、実施形態に係る情報処理システムの測定系の一例を示す図である。なお、図23には、WSI(Whole Slide Imaging)など、蛍光染色標本30(又は無染色標本である標本20)の広視野を撮影する際の測定系の一例が示されている。ただし、実施形態に係る測定系は、図23に例示する測定系に限定されず、撮影領域全体又はこのうちの必要な領域(関心領域ともいう)を一度に撮影する測定系や、ラインスキャンにより撮影領域全体又は関心領域の画像を取得する測定系など、撮影領域全体又は関心領域の十分な解像度の画像データ(以下、広視野画像データという)を取得することが可能な測定系であれば、種々変形されてよい。
図23に示すように、実施形態に係る測定系は、例えば、情報処理装置100と、XYステージ501と、励起光源510と、ビームスプリッタ511と、対物レンズ512と、分光器513と、光検出器514とを備える。
XYステージ501は、解析対象の蛍光染色標本30(又は標本20)が載置されるステージであって、例えば、蛍光染色標本30(又は標本20)の載置面と平行な平面(XY平面)において移動可能なステージであってよい。
励起光源510は、蛍光染色標本30(又は標本20)を励起させるための光源であり、例えば、波長が互いに異なる複数の励起光を所定の光軸に沿って出射する。
ビームスプリッタ511は、例えば、ダイクロイックミラー等で構成され、励起光源510からの励起光を反射し、蛍光染色標本30(又は標本20)からの蛍光を透過する。
対物レンズ512は、ビームスプリッタ511で反射した励起光をXYステージ501上の蛍光染色標本30(又は標本20)に照射する。
分光器513は、1以上のプリズムやレンズ等を用いて構成され、蛍光染色標本30(又は標本20)から放射し、対物レンズ512及びビームスプリッタ511を透過した蛍光を所定方向に分光する。
光検出器514は、分光器513で分光された蛍光の波長ごとの光強度を検出し、これにより得られた蛍光信号(蛍光スペクトル及び/又は自家蛍光スペクトル)を情報処理装置100の蛍光信号取得部112に入力する。
以上のような構成において、WSIのような、撮影領域全体が1回で撮影できる領域(以下、視野という)を超える場合、1回の撮影ごとにXYステージ501を動かして視野を移動させることで、各視野の撮影が順次行われる。そして、各視野の撮影により得られた画像データ(以下、視野画像データという)をタイリングすることで、撮影領域全体の広視野画像データが生成される。生成された広視野画像データは、例えば、蛍光信号保存部122に保存される。なお、視野画像データのタイリングは、情報処理装置100の取得部110において実行されてもよいし、保存部120において実行されてもよいし、処理部130において実行されてもよい。
そして、実施形態に係る処理部130は、得られた広視野画像データに対して上述した処理を実行することで、係数C、すなわち、蛍光分子ごとの蛍光分離画像(又は自家蛍光分子ごとの自家蛍光分離画像)を取得する。
<6.蛍光分子数(又は抗体数)の算出方法>
次に、上述した実施形態における1画素中の蛍光分子数(または抗体数)を算出する方法について説明する。図24は、実施形態における1画素中の蛍光分子数(または抗体数)を算出する方法を説明するための模式図である。図24に示す例では、撮像素子とサンプルが対物レンズを介して配置された場合において、撮像素子1[pixel]に対応するサンプルの底面のサイズが、仮に、13/20(μm)×13/20(μm)であるとする。そして、サンプルの厚みが、仮に、10(μm)であるとする。その場合、この直方体の体積(m)は、13/20(μm)×13/20(μm)×10(μm)で表される。なお、体積(リットル)は、13/20(μm)×13/20(μm)×10(μm)×10で表される。
そして、サンプルに含まれる抗体数(蛍光分子数であってもよい)の濃度が均一であり、300(nM)であるとすると、1画素あたりの抗体数は、以下の式(11)によって表される。
Figure 0007647751000011
このように、蛍光染色標本30における蛍光分子数または抗体数が、蛍光分離処理の結果として算出されることで、実施者は、複数の蛍光物質間で蛍光分子数を比較したり、異なる条件で撮像されたデータを比較したりすることができる。また、輝度(または蛍光強度)が連続値である一方で、蛍光分子数または抗体数は離散値であるため、変形例に係る情報処理装置100は、蛍光分子数または抗体数に基づいて画像情報を出力することでデータ量を削減することができる。
<7.ハードウェア構成例>
上記では、本開示の実施形態及びその変形例について説明した。続いて、図25を参照して、各実施形態及び変形例に係る情報処理装置100のハードウェア構成例について説明する。図25は、情報処理装置100のハードウェア構成例を示すブロック図である。情報処理装置100による各種処理は、ソフトウェアと、以下に説明するハードウェアとの協働により実現される。
図25に示すように、情報処理装置100は、CPU(Central Processing Unit)901、ROM(Read Only Memory)902、RAM(Random Access Memory)903及びホストバス904aを備える。また、情報処理装置100は、ブリッジ904、外部バス904b、インタフェース905、入力装置906、出力装置907、ストレージ装置908、ドライブ909、接続ポート911、通信装置913、及びセンサ915を備える。情報処理装置100は、CPU901に代えて、又はこれとともに、DSP若しくはASICなどの処理回路を有してもよい。
CPU901は、演算処理装置および制御装置として機能し、各種プログラムに従って情報処理装置100内の動作全般を制御する。また、CPU901は、マイクロプロセッサであってもよい。ROM902は、CPU901が使用するプログラムや演算パラメータ等を記憶する。RAM903は、CPU901の実行において使用するプログラムや、その実行において適宜変化するパラメータ等を一時記憶する。CPU901は、例えば、情報処理装置100の少なくとも処理部130及び制御部150を具現し得る。
CPU901、ROM902及びRAM903は、CPUバスなどを含むホストバス904aにより相互に接続されている。ホストバス904aは、ブリッジ904を介して、PCI(Peripheral Component Interconnect/Interface)バス等の外部バス904bに接続されている。なお、必ずしもホストバス904a、ブリッジ904および外部バス904bを分離構成する必要はなく、1つのバスにこれらの機能を実装してもよい。
入力装置906は、例えば、マウス、キーボード、タッチパネル、ボタン、マイクロフォン、スイッチ及びレバー等、実施者によって情報が入力される装置によって実現される。また、入力装置906は、例えば、赤外線やその他の電波を利用したリモートコントロール装置であってもよいし、情報処理装置100の操作に対応した携帯電話やPDA等の外部接続機器であってもよい。さらに、入力装置906は、例えば、上記の入力手段を用いて実施者により入力された情報に基づいて入力信号を生成し、CPU901に出力する入力制御回路などを含んでいてもよい。実施者は、この入力装置906を操作することにより、情報処理装置100に対して各種のデータを入力したり処理動作を指示したりすることができる。入力装置906は、例えば、情報処理装置100の少なくとも操作部160を具現し得る。
出力装置907は、取得した情報を実施者に対して視覚的又は聴覚的に通知することが可能な装置で形成される。このような装置として、CRTディスプレイ装置、液晶ディスプレイ装置、プラズマディスプレイ装置、ELディスプレイ装置及びランプ等の表示装置や、スピーカ及びヘッドホン等の音響出力装置や、プリンタ装置等がある。出力装置907は、例えば、情報処理装置100の少なくとも表示部140を具現し得る。
ストレージ装置908は、データ格納用の装置である。ストレージ装置908は、例えば、HDD等の磁気記憶部デバイス、半導体記憶デバイス、光記憶デバイス又は光磁気記憶デバイス等により実現される。ストレージ装置908は、記憶媒体、記憶媒体にデータを記録する記録装置、記憶媒体からデータを読み出す読出し装置および記憶媒体に記録されたデータを削除する削除装置などを含んでもよい。このストレージ装置908は、CPU901が実行するプログラムや各種データ及び外部から取得した各種のデータ等を格納する。ストレージ装置908は、例えば、情報処理装置100の少なくとも保存部120を具現し得る。
ドライブ909は、記憶媒体用リーダライタであり、情報処理装置100に内蔵、あるいは外付けされる。ドライブ909は、装着されている磁気ディスク、光ディスク、光磁気ディスク、または半導体メモリ等のリムーバブル記憶媒体に記録されている情報を読み出して、RAM903に出力する。また、ドライブ909は、リムーバブル記憶媒体に情報を書き込むこともできる。
接続ポート911は、外部機器と接続されるインタフェースであって、例えばUSB(Universal Serial Bus)などによりデータ伝送可能な外部機器との接続口である。
通信装置913は、例えば、ネットワーク920に接続するための通信デバイス等で形成された通信インタフェースである。通信装置913は、例えば、有線若しくは無線LAN(Local Area Network)、LTE(Long Term Evolution)、Bluetooth(登録商標)又はWUSB(Wireless USB)用の通信カード等である。また、通信装置913は、光通信用のルータ、ADSL(Asymmetric Digital Subscriber Line)用のルータ又は各種通信用のモデム等であってもよい。この通信装置913は、例えば、インターネットや他の通信機器との間で、例えばTCP/IP等の所定のプロトコルに則して信号等を送受信することができる。
センサ915は、本実施形態においては、スペクトルを取得可能なセンサ(例えば、撮像素子等)を含むところ、他のセンサ(例えば、加速度センサ、ジャイロセンサ、地磁気センサ、感圧センサ、音センサ、または測距センサ等)を含んでもよい。センサ915は、例えば、情報処理装置100の少なくとも蛍光信号取得部112を具現し得る。
なお、ネットワーク920は、ネットワーク920に接続されている装置から送信される情報の有線、または無線の伝送路である。例えば、ネットワーク920は、インターネット、電話回線網、衛星通信網などの公衆回線網や、Ethernet(登録商標)を含む各種のLAN(Local Area Network)、WAN(Wide Area Network)などを含んでもよい。また、ネットワーク920は、IP-VPN(Internet Protocol-Virtual Private Network)などの専用回線網を含んでもよい。
以上、情報処理装置100の機能を実現可能なハードウェア構成例を示した。上記の各構成要素は、汎用的な部材を用いて実現されていてもよいし、各構成要素の機能に特化したハードウェアにより実現されていてもよい。従って、本開示を実施する時々の技術レベルに応じて、適宜、利用するハードウェア構成を変更することが可能である。
なお、上記のような情報処理装置100の各機能を実現するためのコンピュータプログラムを作製し、PC等に実装することが可能である。また、このようなコンピュータプログラムが格納された、コンピュータで読み取り可能な記録媒体も提供することができる。記録媒体は、例えば、磁気ディスク、光ディスク、光磁気ディスク、フラッシュメモリ等を含む。また、上記のコンピュータプログラムは、記録媒体を用いずに、例えばネットワークを介して配信されてもよい。
以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
また、本明細書に記載された効果は、あくまで説明的または例示的なものであって限定的ではない。つまり、本開示に係る技術は、上記の効果とともに、または上記の効果に代えて、本明細書の記載から当業者には明らかな他の効果を奏しうる。
なお、以下のような構成も本開示の技術的範囲に属する。
(1)
1以上の蛍光色素で標識された標本より観測された蛍光画像を1以上の蛍光成分を含む蛍光成分画像と1以上の自家蛍光成分を含む自家蛍光成分画像とに分離する分離部と、
前記標本に含まれる1以上の自家蛍光物質それぞれの参照スペクトルと前記自家蛍光成分画像とを用いて自家蛍光成分補正画像を生成する生成部と、
前記自家蛍光成分補正画像に基づいて前記蛍光成分画像を処理する処理部と、
を備える情報処理装置。
(2)
前記処理部は、前記自家蛍光成分補正画像を用いて前記蛍光成分画像を補正した蛍光成分補正画像を生成する前記(1)に記載の情報処理装置。
(3)
前記生成部は、前記自家蛍光物質ごとに前記自家蛍光成分画像と前記参照スペクトルとを掛け合わせた結果を加算することで、前記自家蛍光成分補正画像を生成する前記(1)又は(2)に記載の情報処理装置。
(4)
前記処理部は、前記自家蛍光成分補正画像から前記蛍光色素によって標識された領域を示す領域情報を生成し、生成された前記領域情報を用いて前記蛍光成分画像を処理する前記(1)~(3)の何れか一つに記載の情報処理装置。
(5)
前記領域情報は、前記蛍光色素によって標識された領域を示す二値マスクである前記(4)に記載の情報処理装置。
(6)
前記処理部は、前記自家蛍光成分補正画像に基づき設定された閾値と前記蛍光画像における各画素の画素値との大小関係に基づいて前記二値マスクを生成する前記(5)に記載の情報処理装置。
(7)
前記処理部は、前記自家蛍光成分補正画像における各画素の画素値に基づいて前記画素ごとの閾値を設定し、前記画素ごとの閾値と前記蛍光画像における各画素の画素値との大小関係に基づいて前記二値マスクを生成する前記(5)に記載の情報処理装置。
(8)
前記生成部は、前記1以上の蛍光色素それぞれの参照スペクトルと前記蛍光成分画像とを用いて蛍光成分補正画像をさらに生成する前記(1)~(7)の何れか一つに記載の情報処理装置。
(9)
前記蛍光成分補正画像と前記自家蛍光成分補正画像とに基づいて、前記蛍光画像を取得する測定系の測定精度、前記分離部による蛍光成分画像と自家蛍光成分画像との分離性能、及び、前記1以上の蛍光色素で構成された蛍光試薬パネルの染色性能のうちの少なくとも1つを評価する評価部をさらに備える前記(8)に記載の情報処理装置。
(10)
前記蛍光成分補正画像における各画素のスペクトル強度と前記自家蛍光成分補正画像における各画素のスペクトル強度との比を表すスペクトル強度比画像を生成する画像生成部と、
前記標本を撮像して前記蛍光画像を取得した際の撮像条件と、前記スペクトル強度比画像とを紐づけて記憶する保存部と、
をさらに備える前記(8)又は(9)に記載の情報処理装置。
(11)
前記蛍光画像と前記蛍光成分画像と前記自家蛍光成分補正画像とに基づいて前記蛍光成分画像を補正する補正部をさらに備え、
前記処理部は、補正後の前記蛍光成分画像を前記自家蛍光成分補正画像に基づいて処理する、
前記(1)~(10)の何れか一つに記載の情報処理装置。
(12)
前記補正部は、前記蛍光成分画像と前記自家蛍光成分補正画像とから前記蛍光画像における前記自家蛍光物質の特徴量を推定し、推定された前記特徴量に基づいて前記蛍光成分画像を補正する前記(11)に記載の情報処理装置。
(13)
前記補正部は、前記蛍光成分画像と前記自家蛍光成分補正画像とを入力とする学習済みモデルを用いることで前記特徴量を推定する前記(12)に記載の情報処理装置。
(14)
前記学習済みモデルは、教師なし学習によりトレーニングされたモデルである前記(13)に記載の情報処理装置。
(15)
前記標本を撮像することで前記蛍光画像を取得する取得部をさらに備える前記(1)~(14)の何れか一つに記載の情報処理装置。
(16)
前記処理部は、処理後の前記蛍光成分画像に基づいて前記蛍光画像に含まれる特定の細胞を検出する前記(1)~(15)の何れか一つに記載の情報処理装置。
(17)
1以上の蛍光色素で標識された標本より観測された蛍光画像を1以上の蛍光成分を含む蛍光成分画像と1以上の自家蛍光成分を含む自家蛍光成分画像とに分離し、
前記標本に含まれる1以上の自家蛍光物質それぞれの参照スペクトルと前記自家蛍光成分画像とを用いて自家蛍光成分補正画像を生成し、
前記自家蛍光成分補正画像に基づいて前記蛍光成分画像を処理する、
ことを含む情報処理方法。
(18)
1以上の蛍光色素で標識された標本より観測された蛍光画像を1以上の蛍光成分を含む蛍光成分画像と1以上の自家蛍光成分を含む自家蛍光成分画像とに分離する処理と、
前記標本に含まれる1以上の自家蛍光物質それぞれの参照スペクトルと前記自家蛍光成分画像とを用いて自家蛍光成分補正画像を生成する処理と、
前記自家蛍光成分補正画像に基づいて前記蛍光成分画像を処理する処理と、
をコンピュータに実行させるためのプログラム。
(19)
1以上の蛍光色素で標識された標本に対して光を照射する光源と、前記光が照射された前記標本から放射した蛍光を観測する撮像装置と、前記撮像装置により取得された蛍光画像に対する処理を実行するためのプログラムとを備える顕微鏡システムであって、
前記プログラムは、コンピュータにおいて実行されることで、
前記蛍光画像を1以上の蛍光成分を含む蛍光成分画像と1以上の自家蛍光成分を含む自家蛍光成分画像とに分離する処理と、
前記標本に含まれる1以上の自家蛍光物質それぞれの参照スペクトルと前記自家蛍光成分画像とを用いて自家蛍光成分補正画像を生成する処理と、
前記自家蛍光成分補正画像に基づいて前記蛍光成分画像を処理する処理と、
を前記コンピュータに実行させる、
顕微鏡システム。
(20)
前記(1)に記載の情報処理装置と、
前記情報処理装置と所定のネットワークを介して接続され、前記情報処理装置により処理された前記蛍光成分画像を解析する解析装置と、
を備える解析システム。
10 蛍光試薬
11 試薬識別情報
20 標本
21 標本識別情報
30 蛍光染色標本
100 情報処理装置
110 取得部
111 情報取得部
112 蛍光信号取得部
120 保存部
121 情報保存部
122 蛍光信号保存部
130 処理部
132 分離処理部
133 画像生成部
140 表示部
150 制御部
160 操作部
200 データベース
401 機械学習部

Claims (20)

  1. 1以上の蛍光色素で標識された標本より観測された蛍光画像を1以上の蛍光成分を含む蛍光成分画像と1以上の自家蛍光成分を含む自家蛍光成分画像とに分離する分離部と、
    前記標本に含まれる1以上の自家蛍光物質それぞれの参照スペクトルと前記自家蛍光成分画像とを用いて自家蛍光成分補正画像を生成する生成部と、
    前記自家蛍光成分補正画像に基づいて前記蛍光成分画像を処理する処理部と、
    を備える情報処理装置。
  2. 前記処理部は、前記自家蛍光成分補正画像を用いて前記蛍光成分画像を補正した蛍光成分補正画像を生成する請求項1に記載の情報処理装置。
  3. 前記生成部は、前記自家蛍光物質ごとに前記自家蛍光成分画像と前記参照スペクトルとを掛け合わせた結果を加算することで、前記自家蛍光成分補正画像を生成する請求項1に記載の情報処理装置。
  4. 前記処理部は、前記自家蛍光成分補正画像から前記蛍光色素によって標識された領域を示す領域情報を生成し、生成された前記領域情報を用いて前記蛍光成分画像を処理する請求項1に記載の情報処理装置。
  5. 前記領域情報は、前記蛍光色素によって標識された領域を示す二値マスクである請求項4に記載の情報処理装置。
  6. 前記処理部は、前記自家蛍光成分補正画像に基づき設定された閾値と前記蛍光画像における各画素の画素値との大小関係に基づいて前記二値マスクを生成する請求項5に記載の情報処理装置。
  7. 前記処理部は、前記自家蛍光成分補正画像における各画素の画素値に基づいて前記画素ごとの閾値を設定し、前記画素ごとの閾値と前記蛍光画像における各画素の画素値との大小関係に基づいて前記二値マスクを生成する請求項5に記載の情報処理装置。
  8. 前記生成部は、前記1以上の蛍光色素それぞれの参照スペクトルと前記蛍光成分画像とを用いて蛍光成分補正画像をさらに生成する請求項1に記載の情報処理装置。
  9. 前記蛍光成分補正画像と前記自家蛍光成分補正画像とに基づいて、前記蛍光画像を取得する測定系の測定精度、前記分離部による蛍光成分画像と自家蛍光成分画像との分離性能、及び、前記1以上の蛍光色素で構成された蛍光試薬パネルの染色性能のうちの少なくとも1つを評価する評価部をさらに備える請求項8に記載の情報処理装置。
  10. 前記蛍光成分補正画像における各画素のスペクトル強度と前記自家蛍光成分補正画像における各画素のスペクトル強度との比を表すスペクトル強度比画像を生成する画像生成部と、
    前記標本を撮像して前記蛍光画像を取得した際の撮像条件と、前記スペクトル強度比画像とを紐づけて記憶する保存部と、
    をさらに備える請求項8に記載の情報処理装置。
  11. 前記蛍光画像と前記蛍光成分画像と前記自家蛍光成分補正画像とに基づいて前記蛍光成分画像を補正する補正部をさらに備え、
    前記処理部は、補正後の前記蛍光成分画像を前記自家蛍光成分補正画像に基づいて処理する、
    請求項1に記載の情報処理装置。
  12. 前記補正部は、前記蛍光成分画像と前記自家蛍光成分補正画像とから前記蛍光画像における前記自家蛍光物質の特徴量を推定し、推定された前記特徴量に基づいて前記蛍光成分画像を補正する請求項11に記載の情報処理装置。
  13. 前記補正部は、前記蛍光成分画像と前記自家蛍光成分補正画像とを入力とする学習済みモデルを用いることで前記特徴量を推定する請求項12に記載の情報処理装置。
  14. 前記学習済みモデルは、教師なし学習によりトレーニングされたモデルである請求項13に記載の情報処理装置。
  15. 前記標本を撮像することで前記蛍光画像を取得する取得部をさらに備える請求項1に記載の情報処理装置。
  16. 前記処理部は、処理後の前記蛍光成分画像に基づいて前記蛍光画像に含まれる特定の細胞を検出する請求項1に記載の情報処理装置。
  17. 1以上の蛍光色素で標識された標本より観測された蛍光画像を1以上の蛍光成分を含む蛍光成分画像と1以上の自家蛍光成分を含む自家蛍光成分画像とに分離し、
    前記標本に含まれる1以上の自家蛍光物質それぞれの参照スペクトルと前記自家蛍光成分画像とを用いて自家蛍光成分補正画像を生成し、
    前記自家蛍光成分補正画像に基づいて前記蛍光成分画像を処理する、
    ことを含む情報処理方法。
  18. 1以上の蛍光色素で標識された標本より観測された蛍光画像を1以上の蛍光成分を含む蛍光成分画像と1以上の自家蛍光成分を含む自家蛍光成分画像とに分離する処理と、
    前記標本に含まれる1以上の自家蛍光物質それぞれの参照スペクトルと前記自家蛍光成分画像とを用いて自家蛍光成分補正画像を生成する処理と、
    前記自家蛍光成分補正画像に基づいて前記蛍光成分画像を処理する処理と、
    をコンピュータに実行させるためのプログラム。
  19. 1以上の蛍光色素で標識された標本に対して光を照射する光源と、前記光が照射された前記標本から放射した蛍光を観測する撮像装置と、前記撮像装置により取得された蛍光画像に対する処理を実行するためのプログラムとを備える顕微鏡システムであって、
    前記プログラムは、コンピュータにおいて実行されることで、
    前記蛍光画像を1以上の蛍光成分を含む蛍光成分画像と1以上の自家蛍光成分を含む自家蛍光成分画像とに分離する処理と、
    前記標本に含まれる1以上の自家蛍光物質それぞれの参照スペクトルと前記自家蛍光成分画像とを用いて自家蛍光成分補正画像を生成する処理と、
    前記自家蛍光成分補正画像に基づいて前記蛍光成分画像を処理する処理と、
    を前記コンピュータに実行させる、
    顕微鏡システム。
  20. 請求項1に記載の情報処理装置と、
    前記情報処理装置と所定のネットワークを介して接続され、前記情報処理装置により処理された前記蛍光成分画像を解析する解析装置と、
    を備える解析システム。
JP2022533896A 2020-06-30 2021-06-22 情報処理装置、情報処理方法、プログラム、顕微鏡システム及び解析システム Active JP7647751B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2025035186A JP2025087824A (ja) 2020-06-30 2025-03-06 情報処理装置及び情報処理方法

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2020113405 2020-06-30
JP2020113405 2020-06-30
PCT/JP2021/023679 WO2022004500A1 (ja) 2020-06-30 2021-06-22 情報処理装置、情報処理方法、プログラム、顕微鏡システム及び解析システム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2025035186A Division JP2025087824A (ja) 2020-06-30 2025-03-06 情報処理装置及び情報処理方法

Publications (2)

Publication Number Publication Date
JPWO2022004500A1 JPWO2022004500A1 (ja) 2022-01-06
JP7647751B2 true JP7647751B2 (ja) 2025-03-18

Family

ID=79316151

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2022533896A Active JP7647751B2 (ja) 2020-06-30 2021-06-22 情報処理装置、情報処理方法、プログラム、顕微鏡システム及び解析システム
JP2025035186A Pending JP2025087824A (ja) 2020-06-30 2025-03-06 情報処理装置及び情報処理方法

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2025035186A Pending JP2025087824A (ja) 2020-06-30 2025-03-06 情報処理装置及び情報処理方法

Country Status (4)

Country Link
US (1) US20230243839A1 (ja)
EP (1) EP4174554A4 (ja)
JP (2) JP7647751B2 (ja)
WO (1) WO2022004500A1 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021143988A (ja) * 2020-03-13 2021-09-24 ソニーグループ株式会社 粒子解析システムおよび粒子解析方法
US20230162410A1 (en) * 2021-11-22 2023-05-25 Cytoveris Inc. Multi-spectral Auto-fluorescence based Stainless and Slide-free Virtual histology
US20250198924A1 (en) * 2022-02-16 2025-06-19 Sony Group Corporation Information processing device, biological sample analysis system, and biological sample analysis method
CN115359881B (zh) * 2022-10-19 2023-04-07 成都理工大学 一种基于深度学习的鼻咽癌肿瘤自动勾画方法
WO2024171844A1 (ja) * 2023-02-15 2024-08-22 ソニーグループ株式会社 情報処理装置、生体試料観察システム及び情報処理方法

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2007097171A1 (ja) 2006-02-23 2007-08-30 Nikon Corporation スペクトル画像処理方法、スペクトル画像処理プログラム、及びスペクトルイメージングシステム
JP2011521237A (ja) 2008-05-20 2011-07-21 ユニバーシティー ヘルス ネットワーク 螢光に基づく画像化およびモニタリング用装置ならびにその方法
JP2013114233A (ja) 2011-11-30 2013-06-10 Olympus Corp 画像処理装置、顕微鏡システム、画像処理方法、及び画像処理プログラム
JP2018515753A (ja) 2015-04-06 2018-06-14 マサチューセッツ インスティテュート オブ テクノロジー ハイパースペクトル・イメージングのためのシステムおよび方法
JP2019530847A (ja) 2016-06-10 2019-10-24 エフ・ホフマン−ラ・ロシュ・アクチェンゲゼルシャフト 明視野像シミュレーションのためのシステム
US20190339203A1 (en) 2018-05-03 2019-11-07 Akoya Biosciences, Inc. Multispectral Sample Imaging
WO2019230878A1 (ja) 2018-05-30 2019-12-05 ソニー株式会社 蛍光観察装置及び蛍光観察方法

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102004028372A1 (de) 2004-06-11 2006-01-05 Universität Bremen Verfahren und Vorrichtung zur Segmentierung einer digitalen Abbildung von Zellen
US8114581B2 (en) * 2005-09-15 2012-02-14 The Regents Of The University Of California Methods and compositions for detecting neoplastic cells
JP5601098B2 (ja) * 2010-09-03 2014-10-08 ソニー株式会社 蛍光強度補正方法及び蛍光強度算出装置
WO2016007739A1 (en) * 2014-07-09 2016-01-14 Caliper Life Sciences, Inc. Pure spectrum extraction from biological samples
US11415516B2 (en) * 2015-10-28 2022-08-16 Leica Microsystems Cms Gmbh Method for reduction of autofluorescence from biological samples
US11761895B2 (en) * 2019-03-04 2023-09-19 Sony Group Corporation Information processing apparatus and microscope system
CA3136976A1 (en) * 2019-04-18 2020-10-22 Shelley Boyd Detection, prediction, and classification for ocular disease

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2007097171A1 (ja) 2006-02-23 2007-08-30 Nikon Corporation スペクトル画像処理方法、スペクトル画像処理プログラム、及びスペクトルイメージングシステム
JP2011521237A (ja) 2008-05-20 2011-07-21 ユニバーシティー ヘルス ネットワーク 螢光に基づく画像化およびモニタリング用装置ならびにその方法
JP2013114233A (ja) 2011-11-30 2013-06-10 Olympus Corp 画像処理装置、顕微鏡システム、画像処理方法、及び画像処理プログラム
JP2018515753A (ja) 2015-04-06 2018-06-14 マサチューセッツ インスティテュート オブ テクノロジー ハイパースペクトル・イメージングのためのシステムおよび方法
JP2019530847A (ja) 2016-06-10 2019-10-24 エフ・ホフマン−ラ・ロシュ・アクチェンゲゼルシャフト 明視野像シミュレーションのためのシステム
US20190339203A1 (en) 2018-05-03 2019-11-07 Akoya Biosciences, Inc. Multispectral Sample Imaging
WO2019230878A1 (ja) 2018-05-30 2019-12-05 ソニー株式会社 蛍光観察装置及び蛍光観察方法

Also Published As

Publication number Publication date
JPWO2022004500A1 (ja) 2022-01-06
WO2022004500A1 (ja) 2022-01-06
EP4174554A4 (en) 2024-01-03
JP2025087824A (ja) 2025-06-10
US20230243839A1 (en) 2023-08-03
EP4174554A1 (en) 2023-05-03

Similar Documents

Publication Publication Date Title
JP7647751B2 (ja) 情報処理装置、情報処理方法、プログラム、顕微鏡システム及び解析システム
CN112424588B (zh) 从样本的自体荧光分离出荧光试剂的荧光的信息处理装置及显微镜
EP3108448B1 (en) Group sparsity model for image unmixing
JP7662016B2 (ja) 情報処理装置、及び情報処理システム
JP2024150743A (ja) 情報処理システムおよび情報処理方法
CN113508290B (zh) 信息处理设备和显微镜系统
JPWO2007097171A1 (ja) スペクトル画像処理方法、スペクトル画像処理プログラム、及びスペクトルイメージングシステム
US20240361245A1 (en) Information processing apparatus, microscope system, and information processing method
WO2023026742A1 (ja) 色素画像取得方法、色素画像取得装置、及び色素画像取得プログラム
US20240393248A1 (en) Information processing device, biological sample observation system, and image generation method
JP2025137595A (ja) 情報処理装置及び情報処理システム
US20250140385A1 (en) Information processing device, biological sample analysis system, and biological sample analysis method
WO2023149296A1 (ja) 情報処理装置、生体試料観察システム及び画像生成方法
JP2024061696A (ja) 医療用画像解析装置、医療用画像解析方法及び医療用画像解析システム
US20230358680A1 (en) Image generation system, microscope system, and image generation method
JP2022535798A (ja) ハイパースペクトル定量的イメージング・サイトメトリ・システム
US20240371042A1 (en) Information processing device, biological sample observation system, and image generation method
US20250198924A1 (en) Information processing device, biological sample analysis system, and biological sample analysis method
WO2024209965A1 (ja) 陽性判定方法、画像解析システムおよび情報処理装置
KR102883100B1 (ko) 조인트 히스토그램 기반 형광 신호 분리 방법 및 장치
WO2024185434A1 (ja) 情報処理装置、生体試料解析システム及び生体試料解析方法
WO2024171844A1 (ja) 情報処理装置、生体試料観察システム及び情報処理方法
Arnould et al. CLEAR-AF: Improved Autofluorescence Subtraction for Multiplexed Tissue Imaging via Polar Transformation and Gaussian Mixture Models
CN116773496A (zh) 基于三维荧光分析的茶叶检测系统、方法、设备及存储介质

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20240527

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20250204

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20250217

R150 Certificate of patent or registration of utility model

Ref document number: 7647751

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150