WO2021157397A1 - 情報処理装置及び情報処理システム - Google Patents

情報処理装置及び情報処理システム Download PDF

Info

Publication number
WO2021157397A1
WO2021157397A1 PCT/JP2021/002359 JP2021002359W WO2021157397A1 WO 2021157397 A1 WO2021157397 A1 WO 2021157397A1 JP 2021002359 W JP2021002359 W JP 2021002359W WO 2021157397 A1 WO2021157397 A1 WO 2021157397A1
Authority
WO
WIPO (PCT)
Prior art keywords
fluorescence
information
image
information processing
separation
Prior art date
Application number
PCT/JP2021/002359
Other languages
English (en)
French (fr)
Inventor
憲治 池田
咲湖 細沢
Original Assignee
ソニーグループ株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ソニーグループ株式会社 filed Critical ソニーグループ株式会社
Priority to JP2021575728A priority Critical patent/JPWO2021157397A1/ja
Priority to US17/796,159 priority patent/US20230071901A1/en
Publication of WO2021157397A1 publication Critical patent/WO2021157397A1/ja

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/90Determination of colour characteristics
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/62Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light
    • G01N21/63Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited
    • G01N21/64Fluorescence; Phosphorescence
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N33/00Investigating or analysing materials by specific methods not covered by groups G01N1/00 - G01N31/00
    • G01N33/48Biological material, e.g. blood, urine; Haemocytometers
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N33/00Investigating or analysing materials by specific methods not covered by groups G01N1/00 - G01N31/00
    • G01N33/48Biological material, e.g. blood, urine; Haemocytometers
    • G01N33/50Chemical analysis of biological material, e.g. blood, urine; Testing involving biospecific ligand binding methods; Immunological testing
    • G01N33/53Immunoassay; Biospecific binding assay; Materials therefor
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/155Segmentation; Edge detection involving morphological operators
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/174Segmentation; Edge detection involving the use of two or more images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/764Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/77Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
    • G06V10/774Generating sets of training patterns; Bootstrap methods, e.g. bagging or boosting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/69Microscopic objects, e.g. biological cells or cellular parts
    • G06V20/695Preprocessing, e.g. image segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/69Microscopic objects, e.g. biological cells or cellular parts
    • G06V20/698Matching; Classification
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10056Microscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10064Fluorescence image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30024Cell structures in vitro; Tissue sections in vitro
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30204Marker

Abstract

より正確に蛍光分離を行うことを可能にする。実施形態に係る情報処理装置(100)は、細胞を含む生体試料の蛍光画像と、前記生体試料または蛍光試薬由来の参照スペクトルと、前記細胞の形態情報と、に基づいて前記蛍光画像から前記蛍光試薬由来の蛍光信号を分離する分離部(2311)を備える。

Description

情報処理装置及び情報処理システム
 本開示は、情報処理装置及び情報処理システムに関する。
 近年、がん免疫療法等の発展により免疫染色の蛍光化及び多重標識化が進展している。例えば、同一組織ブロックの非染色切片から自家蛍光スペクトルを抽出した上で、当該自家蛍光スペクトルを用いて染色切片の蛍光分離を行う手法が行われている。
 また、例えば以下の特許文献1には、複数の蛍光色素により多重標識された微小粒子に励起光が照射されることで得られた蛍光スペクトルを、各蛍光色素が個別に標識された微小粒子で得られる単染色スペクトルの線形和により近似する技術が開示されている。
特開2012-18108号公報 特開2019-45540号公報 特開2018-185759号公報
 ここで、近年では、がん免疫療法などの普及から、免疫染色の蛍光化・多マーカー化が進み始めている。多色化においてより多種類の蛍光色素を用いるためにも、染色蛍光同士の蛍光分離、染色蛍光と自家蛍光との蛍光分離は共に正確性が要求される。
 そこで本開示は、上記事情に鑑みてなされたものであり、より正確に蛍光分離を行うことが可能な、新規かつ最適化された情報処理装置及び情報処理システムを提供する。
 本開示の実施形態に係る情報処理装置は、細胞を含む生体試料の蛍光画像と、前記生体試料または蛍光試薬由来の参照スペクトルと、前記細胞の形態情報と、に基づいて前記蛍光画像から前記蛍光試薬由来の蛍光信号を分離する分離部を備える。
第1の実施形態に係る情報処理システムの構成例を示すブロック図である。 蛍光信号取得部によって取得された蛍光スペクトルの具体例を示す図である。 第1の実施形態に係る情報処理システムが顕微鏡システムとして実現される場合における顕微鏡システムの構成例を示すブロック図である。 第1の実施形態に係る情報処理装置による蛍光分離の処理フロー例を示すフローチャートである。 第1の実施形態に係る推論モデルを用いた蛍光分離処理の流れの一例を説明するための模式図である。 第1の実施形態に係る推論モデルのトレーニングを説明するための図である。 第2の実施形態に係る推論モデルを用いた蛍光分離処理の流れの一例を示す模式図である。 第2の実施形態に係る分離処理部のより具体的な構成例を示すブロック図である。 第2の実施形態に係る推論モデルのトレーニングを説明するための図である。 第3の実施形態の第1の手順例に係る推論モデルの構築方法を説明するための模式図である。 第3の実施形態の第2の手順例に係る推論モデルの構築方法を説明するための模式図である。 第4の実施形態に係る分離処理部の概略構成例を示すブロック図である。 非負値行列因子分解の概要を説明する図である。 クラスタリングの概要を説明する図である。 第5の実施形態に係るNMFの流れを説明するためのフローチャートである。 図15に示すNMFの最初のループにおける処理の流れを説明するための図である。 各実施形態に係る情報処理装置のハードウェア構成例を示すブロック図である。 実際の標本情報および試薬情報がカタログ値や文献値と異なることを説明するための図である。 実際の標本情報および試薬情報がカタログ値や文献値と異なることを説明するための図である。 各実施形態の変形例に係る情報処理システムの構成例を示すブロック図である。 診断支援システムの概略的な構成の一例を示すブロック図である。
 以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
 なお、説明は以下の順序で行うものとする。
  1.はじめに
  2.第1の実施形態
   2.1.構成例
   2.2.顕微鏡システムへの応用例
   2.3.処理フロー
   2.4.蛍光分離処理
   2.5.推論モデルのトレーニング
   2.6.作用・効果
  3.第2の実施形態
   3.1.蛍光分離処理
   3.2.最小二乗法を用いた蛍光分離処理について
   3.3.推論モデルのトレーニング
   3.4.作用・効果
  4.第3の実施形態
   4.1.第1の手順例
   4.2.第2の手順例
  5.第4の実施形態
  6.第5の実施形態
   6.1 漸化式を用いた平均平方二乗残差Dの極小化における染色蛍光スペクトルの固定方法
   6.2 DFP法やBFGS法等を用いた平均平方二乗残差Dの極小化における染色蛍光スペクトルの固定方法
  7.ハードウェア構成例
  8.備考
  9.システム構成の変形例
  10.応用例1
  11.応用例2
  <1.はじめに>
 まず初めに、本開示に係る以下の実施形態は、多重蛍光染色した細胞(固定細胞、浮遊細胞は問わない)を、複数波長の励起光で励起し蛍光分離する情報処理装置及び情報処理システムを提案している。
 多重蛍光染色した細胞の蛍光分離において、正確に蛍光分離すること(染色蛍光同士の蛍光分離、染色蛍光と自家蛍光の蛍光分離を含む)が求められるが、イメージングにおいては、自家蛍光スペクトルがピクセル間で異なるという問題がある。ピクセル毎にスペクトル情報だけを頼りに自家蛍光スペクトルの抽出、蛍光分離を行うと、ピクセル毎にコントラストの高い画が得られるものの、自家蛍光やノイズなどのアーティファクトの影響をピクセル単位で受けやすい。その結果、形態的には同一細胞でも、ピクセル毎に全く異なる蛍光分離結果を得ることがあり得る。例えば、1細胞領域内でも輝度・波長方向ともにばらつきが発生することもあり得るし、同一形態の細胞間においても輝度や波長方向のばらつきが発生し得る。
 そこで以下の実施形態では、蛍光色素により染色された標本(後述する蛍光染色標本に相当)を撮像することで得られた蛍光分離前の画像情報(後述する蛍光信号(蛍光染色画像ともいう)に相当)と、蛍光色素や標本に含まれる分子毎のスペクトル情報(後述する参照スペクトルに相当)に加えて、標本である細胞や組織等の形態情報(蛍光に限定しない。例えば、抗原等の発現マップ)を入力する機械学習の推論モデルを用いることで、自家蛍光領域の明確化やノイズの低減がなされた、より正確な蛍光分離結果(例えば、蛍光色素ごとの2次元画像)を出力する。
 また、他の実施形態では、蛍光分離前の画像情報と、蛍光色素(抗体色素であってもよい)の組み合わせなどの染色情報とを入力し、標本である細胞や組織等の形態情報を出力する機械学習の推論モデルを用いることで、後段の蛍光分離処理においてスペクトル情報に加えて形態情報を用いた蛍光分離を行うことを可能にする。それにより、例えば1細胞領域で蛍光分離結果のピクセル間のバラつきを抑えることが可能となる。
  <2.第1の実施形態>
 まず、本開示に係る第1の実施形態に係る情報処理装置及び情報処理システムについて、図面を参照して詳細に説明する。
 (2.1.構成例)
 図1を参照して、本実施形態に係る情報処理システムの構成例について説明する。図1に示すように、本実施形態に係る情報処理システムは、情報処理装置100と、データベース200と、を備え、情報処理システムへの入力として、蛍光試薬10、標本20と、蛍光染色標本30と、が存在する。
 (蛍光試薬10)
 蛍光試薬10は、標本20の染色に使用される薬品であり、例えば、蛍光色素で標識された抗体を含んでよい。蛍光試薬10は、例えば、蛍光抗体(直接標識に使用される一次抗体、または間接標識に使用される二次抗体が含まれる)、蛍光プローブ、または核染色試薬等であるが、蛍光試薬10の種類はこれらに限定されない。また、蛍光試薬10は、蛍光試薬10(または蛍光試薬10の製造ロット)を識別可能な識別情報(以降「試薬識別情報11」と呼称する)を付されて管理される。試薬識別情報11は、例えばバーコード情報等(一次元バーコード情報や二次元バーコード情報等)であるが、これに限定されない。蛍光試薬10は、同一の製品であっても、製造方法や抗体が取得された細胞の状態等に応じて製造ロット毎にその性質が異なる。例えば、蛍光試薬10において、製造ロット毎にスペクトル、量子収率、または蛍光標識率等が異なる。そこで、本実施形態に係る情報処理システムにおいて、蛍光試薬10は、試薬識別情報11を付されることによって製造ロット毎に管理される。これによって、情報処理装置100は、製造ロット毎に現れる僅かな性質の違いも考慮した上で蛍光分離を行うことができる。
 (標本20)
 標本20は、人体から採取された検体または組織サンプルから病理診断などを目的に作製されたものである。標本20は、組織切片や細胞や微粒子でもよく、標本20について、使用される組織(例えば臓器等)の種類、対象となる疾病の種類、対象者の属性(例えば、年齢、性別、血液型、または人種等)、または対象者の生活習慣(例えば、食生活、運動習慣、または喫煙習慣等)は特に限定されない。なお、組織切片には、例えば、染色される組織切片(以下、単に切片ともいう)の染色前の切片、染色された切片に隣接する切片、同一ブロック(染色切片と同一の場所からサンプリングされたもの)における染色切片と異なる切片、又は同一組織における異なるブロック(染色切片と異なる場所からサンプリングされたもの)における切片、異なる患者から採取した切片などが含まれ得る。また、標本20は、各標本20を識別可能な識別情報(以降、「標本識別情報21」と呼称する)を付されて管理される。標本識別情報21は、試薬識別情報11と同様に、例えばバーコード情報等(一次元バーコード情報や二次元バーコード情報等)であるが、これに限定されない。標本20は、使用される組織の種類、対象となる疾病の種類、対象者の属性、または対象者の生活習慣等に応じてその性質が異なる。例えば、標本20において、使用される組織の種類等に応じて計測チャネルまたはスペクトル等が異なる。そこで、本実施形態に係る情報処理システムにおいて、標本20は、標本識別情報21を付されることによって個々に管理される。これによって、情報処理装置100は、標本20毎に現れる僅かな性質の違いも考慮した上で蛍光分離を行うことができる。
 (蛍光染色標本30)
 蛍光染色標本30は、標本20が蛍光試薬10により染色されることで作成されたものである。本実施形態において、蛍光染色標本30は、標本20が1以上の蛍光試薬10によって染色されることを想定しているところ、染色に用いられる蛍光試薬10の数は特に限定されない。また、染色方法は、標本20および蛍光試薬10それぞれの組み合わせ等によって決まり、特に限定されるものではない。
 (情報処理装置100)
 情報処理装置100は、図1に示すように、取得部110と、保存部120と、処理部130と、表示部140と、制御部150と、操作部160と、を備える。情報処理装置100は、例えば蛍光顕微鏡等であり得るところ、必ずしもこれに限定されず種々の装置を含んでもよい。例えば、情報処理装置100は、PC(Personal Computer)等であってもよい。
 (取得部110)
 取得部110は、情報処理装置100の各種処理に使用される情報を取得する構成である。図1に示すように、取得部110は、情報取得部111と、蛍光信号取得部112と、を備える。
 (情報取得部111)
 情報取得部111は、蛍光試薬10に関する情報(以降、「試薬情報」と呼称する)や、標本20に関する情報(以降、「標本情報」と呼称する)を取得する構成である。より具体的には、情報取得部111は、蛍光染色標本30の生成に使用された蛍光試薬10に付された試薬識別情報11、および標本20に付された標本識別情報21を取得する。例えば、情報取得部111は、バーコードリーダー等を用いて試薬識別情報11および標本識別情報21を取得する。そして、情報取得部111は、試薬識別情報11に基づいて試薬情報を、標本識別情報21に基づいて標本情報をそれぞれデータベース200から取得する。情報取得部111は、取得したこれらの情報を後述する情報保存部121に保存する。
 (蛍光信号取得部112)
 蛍光信号取得部112は、蛍光染色標本30(標本20が蛍光試薬10により染色されることで作成されたもの)に対して、波長が互いに異なる複数の励起光が照射されたときの、複数の励起光それぞれに対応する複数の蛍光信号を取得する構成である。より具体的には、蛍光信号取得部112は、光を受光し、その受光量に応じた検出信号を出力することで、当該検出信号に基づいて蛍光染色標本30の蛍光スペクトルを取得する。ここで、励起光の内容(励起波長や強度等を含む)は試薬情報等(換言すると、蛍光試薬10に関する情報等)に基づいて決定される。なお、ここでいう蛍光信号は蛍光に由来する信号であれば特に限定されず、例えば蛍光スペクトルでもよい。
 図2のA~Dは、蛍光信号取得部112によって取得された蛍光スペクトルの具体例である。図2のA~Dでは蛍光染色標本30に、DAPI、CK/AF488、PgR/AF594、およびER/AF647という4種の蛍光物質が含まれ、それぞれの励起波長として392[nm](図2のA)、470[nm](図2のB)、549[nm](図2のC)、628[nm](図2のD)を有する励起光が照射された場合に取得された蛍光スペクトルの具体例が示されている。なお、蛍光発光のためにエネルギーが放出されることにより、蛍光波長は励起波長よりも長波長側にシフトしている点に留意されたい(ストークスシフト)。また、蛍光染色標本30に含まれる蛍光物質、及び照射される励起光の励起波長は上記に限定されない。蛍光信号取得部112は、取得した蛍光スペクトルを後述する蛍光信号保存部122に保存する。
 (保存部120)
 保存部120は、情報処理装置100の各種処理に使用される情報、または各種処理によって出力された情報を保存する構成である。図1に示すように、保存部120は、情報保存部121と、蛍光信号保存部122と、蛍光分離結果保存部123とを備える。
 (情報保存部121)
 情報保存部121は、情報取得部111によって取得された試薬情報および標本情報を保存する構成である。
 (蛍光信号保存部122)
 蛍光信号保存部122は、蛍光信号取得部112によって取得された蛍光染色標本30の蛍光信号を保存する構成である。
 (蛍光分離結果保存部123)
 蛍光分離結果保存部123は、後述する分離処理部131によって行われた蛍光分離処理の結果を保存する構成である。例えば、蛍光分離結果保存部123は、分離処理部131によって分離された、蛍光試薬ごとの蛍光信号または標本20の自家蛍光信号を保存する。また、蛍光分離結果保存部123は、別途、機械学習などによって蛍光分離精度を向上させるために、蛍光分離処理の結果を機械学習における教師データとしてデータベース200へ提供する。なお、蛍光分離結果保存部123は、蛍光分離処理の結果をデータベース200へ提供した後には、自らが保存している処理結果を適宜削除することで空き容量を増やしてもよい。
 (処理部130)
 処理部130は、蛍光分離処理を含む各種処理を行う構成である。図1に示すように、処理部130は、分離処理部131と、画像生成部132と、モデル生成部133とを備える。
 (分離処理部131)
 分離処理部131は、画像情報、標本情報及び試薬情報等を入力とした推論モデルを用いることにより、蛍光分離処理を実行する構成である。
 画像情報には、例えば、蛍光染色標本30を蛍光信号取得部112で撮像することで取得された蛍光信号(蛍光信号に基づく2次元画像。以下、蛍光染色画像という)が用いられてもよい。
 標本情報には、例えば、標本識別情報21から特定される標本20に含まれる各分子の自家蛍光スペクトルと、標本20に関する形態情報とが用いられてもよい。なお、形態情報とは、同一組織ブロックの明視野画像や無染色画像及び染色情報であってよく、例えば、標本20における標的の発現マップであってもよい。
 ここで、標的の発現マップとは、例えば、組織や細胞や核などの標的の分布(形状等)の情報、各領域における組織に関する情報、何の細胞がどこに位置しているかの情報などを含むものであってよく、例えば、標的を撮像することで得られた明視野画像であってもよいし、標的の発現マップを二値で表した二値マスクであってもよい。
 なお、本説明における標的には、タンパク質やペプチドなどの抗原に加えて、核酸などが含まれてもよい。すなわち、本実施形態において標的の種類は限定されず、標的とすることが可能な種々の物質を標的とすることが可能である。
 また、同一組織ブロックとは、標本20又は蛍光染色標本30と同一又は類似の標本であってよい。
 ここで、標本20又は蛍光染色標本30と同一又は類似の標本には、非染色切片と染色切片とのいずれの切片を使用することも可能である。例えば、非染色切片を用いる場合には、染色切片として用いられる染色前の切片、染色切片に隣接する切片、同一ブロック(染色切片と同一の場所からサンプリングされたもの)における染色切片と異なる切片、又は同一組織における異なるブロック(染色切片と異なる場所からサンプリングされたもの)における切片等を用いることができる。
 試薬情報には、例えば、標本20の染色に用いた蛍光試薬10ごとの蛍光スペクトル(以下、標準スペクトル又は参照スペクトルという)が用いられてもよい。各蛍光試薬10の参照スペクトルには、例えば、試薬ベンダから提供されたカタログ値による蛍光スペクトルや、同一又は類似の蛍光染色標本30を撮像することで得られた画像情報から抽出された蛍光試薬10ごとの蛍光スペクトルなど、種々の蛍光スペクトルが適用されてよい。
 分離処理部131は、画像情報、標本情報及び試薬情報等を予め用意した学習済みの推論モデルに入力することで、画像情報から標本20に含まれる各分子の自家蛍光信号と各蛍光試薬10の蛍光信号とを分離する処理(蛍光分離処理)を行う。なお、推論モデルを用いた蛍光分離処理の内容、及び、推論モデルの学習については、後述において詳細に説明する。
 また、分離処理部131は、蛍光分離処理により得られた蛍光信号及び自家蛍光信号を用いて各種処理を実行してもよい。例えば、分離処理部131は、分離後の自家蛍光信号を用いて、他の標本20の画像情報に対する減算処理(「バックグラウンド減算処理」とも呼称する)を行うことで当該他の標本20の画像情報から蛍光信号を抽出する処理を実行してもよい。
 標本20に使用される組織、対象となる疾病の種類、対象者の属性、および対象者の生活習慣などの観点で同一または類似の標本20が複数存在する場合、これらの標本20の自家蛍光信号は類似している可能性が高い。ここでいう類似の標本とは、例えば染色される組織切片(以下切片)の染色前の組織切片、染色された切片に隣接する切片、同一ブロック(染色切片と同一の場所からサンプリングされたもの)における染色切片と異なる切片、又は同一組織における異なるブロック(染色切片と異なる場所からサンプリングされたもの)における切片等)、異なる患者から採取した切片などが含まれる。そこで、分離処理部131は、ある標本20から自家蛍光信号を抽出できた場合、他の標本20の画像情報から当該自家蛍光信号を除去することで、当該他の標本20の画像情報から蛍光信号を抽出してもよい。このように、他の標本20の画像情報を用いてS/N値を算出する際に自家蛍光信号を除去した後のバックグラウンドを用いることで、蛍光分離により得られた2次元画像におけるS/N値を改善することが可能となる。
 なお、本説明において、バックグラウンドとは、蛍光試薬10により染色されていない領域、又は、その領域におけるシグナル値のことであってよい。したがって、バックグラウンドには、バックグラウンド減算処理を行う前であれば、自家蛍光信号やその他のノイズ等が含まれ得る。また、バックグラウンド減算処理を行った後であれば、除去しきれなかった自家蛍光信号やその他のノイズ等が含まれ得る。
 また、分離処理部131は、バックグラウンド減算処理以外にも分離後の蛍光信号または自家蛍光信号を用いて様々な処理を行うことができる。例えば、分離処理部131は、これらのシグナルを用いて標本20の固定化状態の解析を行ったり、画像情報に含まれる物体(例えば、細胞、細胞内構造(細胞質、細胞膜、核、など)、または組織(腫瘍部、非腫瘍部、結合組織、血管、血管壁、リンパ管、繊維化構造、壊死、など))の領域を認識するセグメンテーション(または領域分割)を行ったりすることができる。
 (画像生成部132)
 画像生成部132は、分離処理部131によって分離された蛍光信号または自家蛍光信号に基づいて画像情報を生成(再構成)する構成である。例えば、画像生成部132は、蛍光信号のみが含まれる画像情報を生成したり、自家蛍光信号のみが含まれる画像情報を生成したりすることができる。その際、蛍光信号が複数の蛍光成分によって構成されていたり、自家蛍光信号が複数の自家蛍光成分によって構成されたりしている場合、画像生成部132は、それぞれの成分単位で画像情報を生成することができる。さらに、分離処理部131が分離後の蛍光信号または自家蛍光信号を用いた各種処理(例えば、標本20の固定化状態の解析、セグメンテーション、またはS/N値の算出など)を行った場合、画像生成部132は、それらの処理の結果を示す画像情報を生成してもよい。本構成によれば、標的分子等に標識された蛍光試薬10の分布情報、つまり蛍光の二次元的な広がりや強度、波長、及びそれぞれの位置関係が可視化され、特に標的物質の情報が複雑な組織画像解析領域においてユーザである医師や研究者の視認性を向上させることができる。
 また画像生成部132は、分離処理部131によって分離された蛍光信号または自家蛍光信号に基づいて自家蛍光信号に対する蛍光信号を区別するよう制御して画像情報を生成しても良い。具体的には、標的分子等に標識された蛍光試薬10の蛍光スペクトルの輝度を向上させる、標識された蛍光試薬10の蛍光スペクトルのみを抽出し変色させる、2以上の蛍光試薬10によって標識された標本20から2以上の蛍光試薬10の蛍光スペクトルを抽出しそれぞれを別の色に変色する、標本20の自家蛍光スペクトルのみを抽出し除算または減算する、ダイナミックレンジを向上させる、等を制御して画像情報を生成してもよい。これにより、ユーザは目的となる標的物質に結合した蛍光試薬由来の色情報を明確に区別することが可能となり、ユーザの視認性を向上させることができる。
 (モデル生成部133)
 モデル生成部133は、分離処理部131が実行する蛍光分離処理において使用される推論モデルを生成したり、機械学習により推論モデルのパラメータを更新してその蛍光分離精度を向上させたりするための構成である。
 (表示部140)
 表示部140は、画像生成部132によって生成された画像情報をディスプレイに表示することで実施者へ提示する構成である。なお、表示部140として用いられるディスプレイの種類は特に限定されない。また、本実施形態では詳細に説明しないが、画像生成部132によって生成された画像情報がプロジェクターによって投影されたり、プリンタによってプリントされたりすることで実施者へ提示されてもよい(換言すると、画像情報の出力方法は特に限定されない)。
 (制御部150)
 制御部150は、情報処理装置100が行う処理全般を統括的に制御する機能構成である。例えば、制御部150は、操作部160を介して行われるユーザによる操作入力に基づいて、上記で説明したような各種処理(例えば、蛍光染色標本30の撮像処理、蛍光分離処理、各種解析処理、画像情報の生成処理(画像情報の再構築処理)、および画像情報の表示処理など)の開始や終了などを制御する。なお、制御部150の制御内容は特に限定されない。例えば、制御部150は、汎用コンピュータ、PC、タブレットPCなどにおいて一般的に行われる処理(例えば、OS(Operating System)に関する処理)を制御してもよい。
 (操作部160)
 操作部160は、実施者からの操作入力を受ける構成である。より具体的には、操作部160は、キーボード、マウス、ボタン、タッチパネル、またはマイクロホン等の各種入力手段を備えており、実施者はこれらの入力手段を操作することで情報処理装置100に対して様々な入力を行うことができる。操作部160を介して行われた操作入力に関する情報は制御部150へ提供される。
 (データベース200)
 データベース200は、標本情報、試薬情報、蛍光分離処理等の結果を蓄積して管理する装置である。より具体的に説明すると、データベース200は、標本識別情報21と標本情報、試薬識別情報11と試薬情報をそれぞれ紐づけて管理する。これによって、情報取得部111は、計測対象である標本20の標本識別情報21に基づいて標本情報を、蛍光試薬10の試薬識別情報11に基づいて試薬情報をデータベース200から取得することができる。
 データベース200が管理する標本情報は、上記のとおり、標本20に含まれる自家蛍光成分固有の計測チャネルおよびスペクトル情報(自家蛍光スペクトル)を含む情報である。しかし、これら以外にも、標本情報には、各標本20についての対象情報、具体的には、使用される組織(例えば臓器、細胞、血液、体液、腹水、胸水など)の種類、対象となる疾病の種類、対象者の属性(例えば、年齢、性別、血液型、または人種など)、または対象者の生活習慣(例えば、食生活、運動習慣、または喫煙習慣など)に関する情報が含まれてもよく、標本20に含まれる自家蛍光成分固有の計測チャネルおよびスペクトル情報を含む情報及び対象情報は標本20ごとに紐づけられてもよい。これにより、対象情報から標本20に含まれる自家蛍光成分固有の計測チャネルおよびスペクトル情報を含む情報を容易にたどることができ、例えば複数の標本20における対象情報の類似性から分離処理部131に過去に行われた類似の分離処理を実行させ、測定時間を短縮することが可能となる。なお、「使用される組織」は対象から採取された組織には特に限定されず、ヒトや動物等の生体内組織や細胞株、測定の対象物に含まれる溶液、溶剤、溶質、材料も含めてもよい。
 また、データベース200が管理する試薬情報は、上記のとおり、蛍光試薬10のスペクトル情報(蛍光スペクトル)を含む情報であり、しかし、これ以外にも、試薬情報には、製造ロット、蛍光成分、抗体、クローン、蛍光標識率、量子収率、褪色係数(蛍光試薬10の蛍光強度の低減し易さを示す情報)、および吸収断面積(またはモル吸光係数)などの蛍光試薬10に関する情報が含まれてもよい。さらに、データベース200が管理する標本情報および試薬情報は異なる構成で管理されていてもよく、特に試薬に関する情報はユーザに最適な試薬の組み合わせを提示する試薬データベースであってもよい。
 ここで、標本情報および試薬情報は、製造者(メーカー)などから提供されるか、本開示に係る情報処理システム内で独自に計測されることを想定している。例えば、蛍光試薬10の製造者は、製造ロット毎にスペクトル情報や蛍光標識率などを計測し提供することなどをしない場合が多い。したがって、本開示に係る情報処理システム内で独自にこれらの情報を計測し、管理することで蛍光信号と自家蛍光信号の分離精度が向上され得る。また、管理の簡略化のために、データベース200は、製造者(メーカー)などによって公開されているカタログ値、または各種文献に記載されている文献値などを標本情報および試薬情報(特に試薬情報)として用いてもよい。しかし、一般的に、実際の標本情報および試薬情報はカタログ値や文献値とは異なる場合が多いため、上記のように標本情報および試薬情報が本開示に係る情報処理システム内で独自に計測され管理される方がより好ましい。
 また、データベース200にて管理されている標本情報、試薬情報及び蛍光分離処理の結果を用いる機械学習技術などによって、蛍光分離処理の精度が向上され得る。本実施形態において、機械学習技術などを用いた学習は、モデル生成部133において実行される。例えば、モデル生成部133は、ニューラルネットワークを用いて、分離後の蛍光信号および自家蛍光信号と、分離に用いられた画像情報、標本情報および試薬情報とが紐づけられた学習データによって機械学習された分類器または推定器(推論モデル)を生成する。そして、画像情報、標本情報および試薬情報が新たに取得された場合、モデル生成部133は、それらの情報を推論モデルに入力することで、当該画像情報に含まれる蛍光信号および自家蛍光信号を予測して出力することができる。
 また、予測される蛍光信号および自家蛍光信号よりも精度の高い、過去に行われた類似の蛍光分離処理(類似の画像情報、標本情報、または試薬情報が用いられる蛍光分離処理)を算出し、それらの処理における処理の内容(処理に用いられる情報やパラメータなど)を統計的または回帰的に分析し、分析結果に基づいて蛍光信号と自家蛍光信号の蛍光分離処理を改善する方法が出力されてもよい。なお、機械学習の方法は上記に限定されず、公知の機械学習技術が用いられ得る。また、人工知能によって蛍光信号と自家蛍光信号の蛍光分離処理が行われてもよい。また、蛍光信号と自家蛍光信号との蛍光分離処理だけでなく、分離後の蛍光信号または自家蛍光信号を用いた各種処理(例えば、標本20の固定化状態の解析、またはセグメンテーションなど)が機械学習技術などによって改善されてもよい。
 以上、本実施形態に係る情報処理システムの構成例について説明した。なお、図1を参照して説明した上記の構成はあくまで一例であり、本実施形態に係る情報処理システムの構成は係る例に限定されない。例えば、情報処理装置100は、図1に示す構成の全てを必ずしも備えなくてもよいし、図1に示されていない構成を備えてもよい。
 ここで、本実施形態に係る情報処理システムは、蛍光スペクトルを取得する撮像装置(例えば、スキャナ等を含む)と、蛍光スペクトルを用いて処理を行う情報処理装置と、を備えていてもよい。この場合、図1に示した蛍光信号取得部112は撮像装置によって実現され得、その他の構成は情報処理装置によって実現され得る。また、本実施形態に係る情報処理システムは、蛍光スペクトルを取得する撮像装置と、蛍光スペクトルを用いる処理に使われるソフトウェアと、を備えていてもよい。換言すると、当該ソフトウェアを記憶したり実行したりする物理構成(例えば、メモリやプロセッサ等)が情報処理システムに備えられていなくてもよい。この場合、図1に示した蛍光信号取得部112は撮像装置によって実現され得、その他の構成は当該ソフトウェアが実行される情報処理装置によって実現され得る。そして、ソフトウェアは、ネットワークを介して(例えば、ウェブサイトやクラウドサーバ等から)情報処理装置に提供されたり、任意の記憶媒体(例えば、ディスク等)を介して情報処理装置に提供されたりする。また、当該ソフトウェアが実行される情報処理装置は、各種サーバ(例えば、クラウドサーバ等)、汎用コンピュータ、PC、またはタブレットPC等であり得る。なお、ソフトウェアが情報処理装置に提供される方法、および情報処理装置の種類は上記に限定されない。また、本実施形態に係る情報処理システムの構成は必ずしも上記に限定されず、使用時の技術水準に基づいて、いわゆる当業者が想到可能な構成が適用され得る点に留意されたい。
 (2.2.顕微鏡システムへの応用例)
 上記で説明してきた情報処理システムは、例えば顕微鏡システムとして実現されてもよい。そこで、続いて図3を参照して、本実施形態に係る情報処理システムが顕微鏡システムとして実現される場合における顕微鏡システムの構成例について説明する。
 図3に示すように、本実施形態に係る顕微鏡システムは、顕微鏡101と、データ処理部107と、を備える。
 顕微鏡101は、ステージ102と、光学系103と、光源104と、ステージ駆動部105と、光源駆動部106と、蛍光信号取得部112と、を備える。
 ステージ102は、蛍光染色標本30を載置可能な載置面を有し、ステージ駆動部105の駆動により当該載置面に対して平行方向(x-y平面方向)及び垂直方向(z軸方向)へ移動可能とされている。蛍光染色標本30は、Z方向に例えば数μmから数十μmの厚さを有し、スライドガラスSG及びカバーガラス(図示無し)に挟まれて所定の固定手法により固定されている。
 ステージ102の上方には光学系103が配置される。光学系103は、対物レンズ103Aと、結像レンズ103Bと、ダイクロイックミラー103Cと、エミッションフィルタ103Dと、励起フィルタ103Eと、を備える。光源104は、例えば水銀ランプ等の電球やLED(Light Emitting Diode)等であり、光源駆動部106の駆動により蛍光染色標本30に付された蛍光標識に対する励起光を照射するものである。
 励起フィルタ103Eは、蛍光染色標本30の蛍光像を得る場合に、光源104から出射された光のうち蛍光色素を励起する励起波長の光のみを透過させることで励起光を生成する。ダイクロイックミラー103Cは、当該励起フィルタで透過されて入射する励起光を反射させて対物レンズ103Aへ導く。対物レンズ103Aは、当該励起光を蛍光染色標本30へ集光する。そして対物レンズ103A及び結像レンズ103Bは、蛍光染色標本30の像を所定の倍率に拡大し、当該拡大像を蛍光信号取得部112の撮像面に結像させる。
 蛍光染色標本30に励起光が照射されると、蛍光染色標本30の各組織に結合している染色剤が蛍光を発する。この蛍光は、対物レンズ103Aを介してダイクロイックミラー103Cを透過し、エミッションフィルタ103Dを介して結像レンズ103Bへ到達する。エミッションフィルタ103Dは、上記対物レンズ103Aによって拡大された、励起フィルタ103Eを透過した光を吸収し発色光の一部のみを透過する。当該外光が喪失された発色光の像は、上述のとおり、結像レンズ103Bにより拡大され、蛍光信号取得部112上に結像される。
 データ処理部107は、光源104を駆動させ、蛍光信号取得部112を用いて蛍光染色標本30の蛍光像を取得し、これを用いて各種処理を行う構成である。より具体的には、データ処理部107は、図1を参照して説明した、情報処理装置100の情報取得部111、保存部120、処理部130、表示部140、制御部150、操作部160、又はデータベース200の一部又は全部の構成として機能し得る。例えば、データ処理部107は、情報処理装置100の制御部150として機能することで、ステージ駆動部105及び光源駆動部106の駆動を制御したり、蛍光信号取得部112によるスペクトルの取得を制御したりする。
 以上、本実施形態に係る情報処理システムが顕微鏡システムとして実現される場合における顕微鏡システムの構成例について説明した。なお、図3を参照して説明した上記の構成はあくまで一例であり、本実施形態に係る顕微鏡システムの構成は係る例に限定されない。例えば、顕微鏡システムは、図3に示す構成の全てを必ずしも備えなくてもよいし、図3に示されていない構成を備えてもよい。
 (2.3.処理フロー)
 上記では、本実施形態に係る情報処理システムの構成例について説明した。続いて、図4を参照して、情報処理装置100による各種処理のフローの例について説明する。
 ステップS1000では、ユーザが解析に用いる蛍光試薬10および標本20を決定する。ステップS1004では、ユーザが蛍光試薬10を用いて標本20を染色することで蛍光染色標本30を作成する。
 ステップS1008では、情報処理装置100の蛍光信号取得部112が、蛍光染色標本30を撮像することで画像情報(例えば、蛍光染色画像)及び標本情報の一部(例えば、形態情報)を取得する。ステップS1012では、情報取得部111が蛍光染色標本30の生成に使用された蛍光試薬10に付された試薬識別情報11、および標本20に付された標本識別情報21に基づいて試薬情報(例えば、蛍光スペクトル)および標本情報の一部(例えば、自家蛍光スペクトル)をデータベース200から取得する。
 ステップS1016では、分離処理部131が、データベース200又はモデル生成部133から推論モデルを取得する。ステップS1020では、分離処理部131が、画像情報と試薬情報と標本情報とを推論モデルに入力し、その出力である蛍光分離結果として、蛍光試薬10(又は蛍光色素)ごとの画像情報(2次元画像)を取得する。
 ステップS1024では、画像生成部132が、分離処理部131によって取得された画像情報を表示する。これにより、本実施形態に係る一連の処理フローが終了する。
 なお、図4のフローチャートにおける各ステップは、必ずしも記載された順序に沿って時系列に処理される必要はない。すなわち、フローチャートにおける各ステップは、記載された順序と異なる順序で処理されても、並列的に処理されてもよい。また、情報処理装置100は、図4には示されていない処理を併せて実行してもよい。例えば、分離処理部131は、例えば、取得された画像情報に基づいてセグメンテーションを行ったり、標本20の固定化状態の解析を行ったりしてもよい。
 (2.4.蛍光分離処理)
 つづいて、本実施形態に係る推論モデルを用いた蛍光分離処理について、図面を参照して詳細に説明する。
 上述したように、本実施形態に係る蛍光分離処理では、機械学習により構築された推論モデルを用いることで、その蛍光分離精度の向上が図られている。具体的には、蛍光染色標本30から得られた蛍光染色画像と、標本20に含まれる各分子の参照スペクトル及び各蛍光試薬10の参照スペクトルとに加えて、標本20の形態情報も推論モデルの入力とすることで、標本20を構成する細胞や組織の形状や種類等をも考慮した蛍光分離処理を実行する。
 なお、推論モデルとしては、例えば、DNN(Deep Neural Network)、CNN(Convolutional Neural Network)、RNN(Recurrent Neural Network)などの多層のニューラルネットワークを用いた機械学習モデルを用いることが可能である。
 図5は、本実施形態に係る推論モデルを用いた蛍光分離処理の流れの一例を説明するための模式図である。図5に示すように、本実施形態では、推論モデル134の入力として、蛍光染色画像及び参照スペクトルに加え、形態情報が与えられる。
 蛍光染色画像は、蛍光分離前の2次元画像(分光スペクトルデータ)であってよい。参照スペクトルは、上述したように、標本20に含まれる各分子の自家蛍光スペクトル(例えば、カタログ値)及び各蛍光試薬10の蛍光スペクトル(例えば、カタログ値)であってよい。
 形態情報は、上述したように、例えば、染色前の標本20若しくは染色後の蛍光染色標本30又はこれらに類似する標本若しくは蛍光染色標本を蛍光信号取得部112で撮像することにより得られた明視野画像であってよい。この明視野画像は、例えば、染色・未染色・蛍光問わず、標的の発現量を示すマップ(以下、標的の発現マップという)であってよい。
 推論モデル134は、蛍光染色画像と参照スペクトルと形態情報とが入力層に与えられると、蛍光分離処理の結果として、蛍光ごとの2次元画像を出力層から出力する。
 (2.5.推論モデルのトレーニング)
 図6は、本実施形態に係る推論モデルのトレーニングを説明するための図である。図6に示すように、推論モデル134のトレーニングでは、同一の標本20(又は蛍光染色標本30)に関する、蛍光染色画像(分光スペクトルデータ)、参照スペクトル及び形態画像(標的の発現マップ)と、この蛍光染色標本30の正解画像としての色ごとの2次元画像(蛍光分離結果)とが、教師データ(訓練データ又は学習データともいう)としてモデル生成部133に入力される。モデル生成部133は、入力された教師データに基づいて、推論モデル134における各層のパラメータを機械学習により学習して更新することで、推論モデル134のトレーニングを実行する。これにより、蛍光分離精度が向上するように推論モデル134が更新される。
 (2.6.作用・効果)
 以上のように、本実施形態では、蛍光分離前の蛍光染色画像(分光スペクトルデータ)と参照スペクトルとに加えて、標本20(又は蛍光染色標本30)の形態情報(蛍光に限定されない標的の発現マップ)を入力する推論モデルを用いて蛍光分離処理が実行されるため、自家蛍光領域の明確化やノイズの低減がなされた、より正確な蛍光分離結果(色ごとの2次元画像)を得ることが可能となる。その結果、目的とする病理学的情報を正確に取得することが可能となる。
 なお、本実施形態では、分離処理部131が標本20(又は蛍光染色標本30)の形態情報(蛍光に限定されない標的の発現マップ)を入力する推論モデル134を用いて蛍光分離処理を実行する場合を例示したが、これに限定されず、例えば、形態情報を利用したLSM等による蛍光分離処理を分離処理部131が実行するようにも構成することが可能である。
  <3.第2の実施形態>
 つぎに、本開示の第2の実施形態に係る情報処理装置及び情報処理システムについて、図面を参照して詳細に説明する。
 本実施形態に係る情報処理システムは、例えば、上述した第1の実施形態に係る情報処理システムと同様の構成を有していてもよい。ただし、本実施形態では、分離処理部131とモデル生成部133と推論モデル134とが、分離処理部231とモデル生成部233と推論モデル234とにそれぞれ置き換えられ、それにより、本実施形態に係る蛍光分離処理が、後述する処理内容に置き換えられる。
 (3.1.蛍光分離処理)
 本実施形態に係る推論モデル234は、蛍光分離処理を実行するための推論モデル134とは異なり、標本20(又は蛍光染色標本30)の形態情報を生成するための推論モデルとして構築されている。
 図7は、本実施形態に係る推論モデルを用いた蛍光分離処理の流れの一例を示す模式図である。図7に示すように、本実施形態では、まず、標本20(又は蛍光染色標本30)の形態情報(例えば、標的の発現マップ)を生成するために、同一組織ブロックに関する、蛍光分離前の蛍光染色画像(分光スペクトルデータ)又は蛍光分離前の蛍光染色画像と、明視野画像(HE、DAB(免疫染色)など)と、未染色の標本20と同一又は類似の標本を例えば蛍光信号取得部112で撮像することで得られた画像(以下、未染色画像という)と、染色情報(例えば、蛍光色素と抗体との組み合わせ)とがモデル生成部233の推論モデル234に入力される。その結果、推論モデル234からは、蛍光色素と抗体との組合せそれぞれに関する形態情報が二値マスクとして出力される(ステップS2000)。
 このように生成された形態情報は、分離処理部231に入力される。また、分離処理部231には、第1実施形態と同様に、蛍光分離前の蛍光染色画像と参照スペクトルとも入力される。分離処理部231は、入力された蛍光染色画像に対し、同じく入力された形態情報及び参照スペクトルを用いた最小二乗法(LSM)や重み付き最小二乗法(WLSM)や制限付き最小二乗法(CLSM)などのアルゴリズムに基づく蛍光分離を実行することで、色ごとの2次元画像を生成する(ステップS2004)。
 (分離処理部231)
 図8は、本実施形態に係る分離処理部のより具体的な構成例を示すブロック図である。図8に示すように、分離処理部231は、蛍光分離部2311と、スペクトル抽出部2312とを備える。
 蛍光分離部2311は、例えば、第1蛍光分離部2311aと第2蛍光分離部2311bとを備え、蛍光信号保存部122から入力された染色サンプルの蛍光染色画像(以下、単に染色サンプルともいう)の蛍光スペクトルを分子毎に蛍光分離する。
 スペクトル抽出部2312は、自家蛍光参照スペクトルをより精度の高い蛍光分離結果を得ることができるように最適化するための構成であり、情報保存部121から入力された標本情報に含まれる自家蛍光参照スペクトルを、蛍光分離部2311による蛍光分離結果に基づいて、より精度の高い蛍光分離結果を得られるものに調整する。
 より具体的には、第1蛍光分離部2311aは、入力された染色サンプルの蛍光スペクトルに対して、情報保存部121から入力された、試薬情報に含まれる蛍光参照スペクトルと標本情報に含まれる自家蛍光参照スペクトルと、入力された形態情報とを用いた蛍光分離処理を実行することで、蛍光スペクトルを分子ごとのスペクトルに分離する。なお、蛍光分離処理には、例えば、最小二乗法(LSM)や重み付き最小二乗法(WLSM)等が用いられてもよい。
 スペクトル抽出部2312は、情報保存部121から入力された自家蛍光参照スペクトルに対して、第1蛍光分離部2311aから入力された蛍光分離結果を用いたスペクトル抽出処理を実行し、その結果に基づいて自家蛍光参照スペクトルを調整することで、自家蛍光参照スペクトルをより精度の高い蛍光分離結果を得られるものに最適化する。なお、スペクトル抽出処理には、例えば、非負値行列因子分解(以降、「NMF:Non-negative Matrix Factorization」とも呼称する)や特異値分解(SVD)等が用いられてもよい。
 第2蛍光分離部2311bは、入力された染色サンプルの蛍光スペクトルに対して、スペクトル抽出部2312から入力された調整後の自家蛍光参照スペクトルと、形態情報とを用いた蛍光分離処理を実行することで、蛍光スペクトルを分子ごとのスペクトルに分離する。なお、蛍光分離処理には、第1蛍光分離部2311aと同様に、例えば、最小二乗法(LSM)や重み付最小二乗法(WLSM)等が用いられてもよい。
 なお、図8では、自家蛍光参照スペクトルの調整を1回とした場合を例示したが、これに限定されず、第2蛍光分離部2311bによる蛍光分離結果をスペクトル抽出部2312に入力し、スペクトル抽出部2312において自家蛍光参照スペクトルの調整を再度実行する処理を1回以上繰り返した後に、最終的な蛍光分離結果を取得するようにしてもよい。
 (3.2.最小二乗法を用いた蛍光分離処理について)
 次に、最小二乗法を用いた蛍光分離処理について説明する。最小二乗法は、入力された染色サンプルの蛍光スペクトルを、参照スペクトルにフィッティングすることで、混色率を算出するものである。なお、混色率は、各物質が混ざり合う度合を示す指標である。以下の式(1)は、蛍光スペクトル(Signal)から、参照スペクトル(St。蛍光参照スペクトル及び自家蛍光参照スペクトル)が混色率aで混色されたものを減算して得られる残差を表す式である。なお、式(1)における「Signal(1×チャンネル数)」とは、蛍光スペクトル(Signal)が波長のチャンネル数だけ存在することを示している(例えば、Signalは、蛍光スペクトルを表す行列である)。また、「St(物質数×チャンネル数)」とは、参照スペクトルが、それぞれの物質(蛍光物質及び自家蛍光物質)について波長のチャンネル数だけ存在することを示している(例えば、Stは、参照スペクトルを表す行列である)。また、「a(1×物質数)」とは、混色率aが各物質(蛍光物質及び自家蛍光物質)について設けられることを示している(例えば、aは、蛍光スペクトルにおける参照スペクトルそれぞれの混色率を表す行列である)。
Figure JPOXMLDOC01-appb-M000001
 そして、第1蛍光分離部2311a/第2蛍光分離部2311bは、残差式(1)の2乗和が最小となる各物質の混色率aを算出する。残差の2乗和が最小となるのは、残差を表す式(1)について、混色率aに関する偏微分の結果が0である場合であるため、第1蛍光分離部2311a/第2蛍光分離部2311bは、以下の式(2)を解くことで残差の2乗和が最小となる各物質の混色率aを算出する。なお、式(2)における「St´」は、参照スペクトルStの転置行列を示している。また、「inv(St*St´)」は、St*St´の逆行列を示している。
Figure JPOXMLDOC01-appb-M000002
 ここで、上記式(1)の各値の具体例を以下の式(3)~式(5)に示す。式(3)~式(5)の例では、蛍光スペクトル(Signal)において、3種の物質(物質数が3)の参照スペクトル(St)がそれぞれ異なる混色率aで混色される場合が示されている。
Figure JPOXMLDOC01-appb-M000003
Figure JPOXMLDOC01-appb-M000004
Figure JPOXMLDOC01-appb-M000005
 そして、式(3)および式(5)の各値による上記式(2)の計算結果の具体例を以下の式(6)に示す。式(6)のとおり、計算結果として正しく「a=(3 2 1)」(すなわち上記式(4)と同一の値)が算出されることがわかる。
Figure JPOXMLDOC01-appb-M000006
 第1蛍光分離部2311a/第2蛍光分離部2311bは、上記のように、参照スペクトル(自家蛍光参照スペクトル及び蛍光参照スペクトル)を用いて蛍光分離処理を行うことで、分離結果として一意のスペクトルを出力することができる(励起波長毎に分離結果が分かれない)。したがって、実施者は、より容易に正しいスペクトルを得ることができる。また、分離に用いられる自家蛍光に関する参照スペクトル(自家蛍光参照スペクトル)が自動的に取得され、蛍光分離処理が行われることにより、実施者が非染色切片の適切な空間から自家蛍光に相当するスペクトルを抽出しなくてもよくなる。
 なお、第1蛍光分離部2311a/第2蛍光分離部2311bは、上述したように、最小二乗法ではなく重み付き最小二乗法(Weighted Least Square Method)に関する計算を行うことにより蛍光スペクトルから蛍光物質ごとのスペクトルを抽出してもよい。重み付き最小二乗法においては、測定値である蛍光スペクトル(Signal)のノイズがポアソン分布になることを利用して、低いシグナルレベルの誤差を重視するように重みが付けられる。ただし、重み付き最小二乗法で加重が行われない上限値をOffset値とする。Offset値は測定に使用されるセンサの特性によって決まり、センサとして撮像素子が使用される場合には別途最適化が必要である。重み付き最小二乗法が行われる場合には、上記の式(1)及び式(2)における参照スペクトルStが以下の式(7)で表されるSt_に置換される。なお、以下の式(7)は、行列で表されるStの各要素(各成分)を、同じく行列で表される「Signal+Offset値」においてそれぞれ対応する各要素(各成分)で除算(換言すると、要素除算)することでSt_を算出することを意味する。
Figure JPOXMLDOC01-appb-M000007
 ここで、Offset値が1であり、参照スペクトルStおよび蛍光スペクトルSignalの値がそれぞれ上記の式(3)および式(5)で表される場合の、上記式(7)で表されるSt_の具体例を以下の式(8)に示す。
Figure JPOXMLDOC01-appb-M000008
 そして、この場合の混色率aの計算結果の具体例を以下の式(9)に示す。式(9)のとおり、計算結果として正しく「a=(3 2 1)」が算出されることがわかる。
Figure JPOXMLDOC01-appb-M000009
 以上のような、最小二乗法を用いた蛍光分離処理を、形態情報から特定される各ピクセルの属性情報(例えば、当該ピクセルが蛍光染色標本30における何の領域に属しているかの情報)に基づき、同様の属性情報を有するピクセル間で相関を持つように実行することで、より正確な蛍光分離結果を取得することが可能となる。
 (3.3.推論モデルのトレーニング)
 また、図9は、本実施形態に係る推論モデルのトレーニングを説明するための図である。図9に示すように、形態情報を生成するための推論モデル234のトレーニングでは、同一組織ブロックに関する、蛍光分離前の蛍光染色画像(分光スペクトルデータ)又は蛍光分離前の蛍光染色画像と、明視野画像(HE、DAB(免疫染色)など)と、未染色の標本20と同一又は類似の標本の未染色画像と、染色情報(例えば、蛍光色素と抗体との組み合わせ)と、この標本20(又は蛍光染色標本30)の正解画像としての形態情報(二値マスク)とが、教師データとしてモデル生成部233に入力される。モデル生成部233は、入力された教師データに基づいて、推論モデル234における各層のパラメータを機械学習により学習して更新することで、推論モデル234のトレーニングを実行する。これにより、より精度の高い形態情報(標的の発現マップの二値マスク)を生成されるように、推論モデル234が更新される。
 なお、蛍光分離前の蛍光染色画像(分光スペクトルデータ)を推論モデル234に入力して形態情報を得る場合には、複数の異なる種類の蛍光試薬10を用いて標本20が蛍光染色されたなどの条件においては、標本20における細胞や組織などの形態が形態情報に現れない場合がある。そのような場合には、推論モデル234に入力する前に、先に蛍光染色画像に対するLSM等を用いた蛍光分離処理を実行しておき、その蛍光分離結果を用いて推論モデル234をトレーニングしておいてもよい。
 (3.4.作用・効果)
 以上のように、本実施形態によれば、蛍光分離前の蛍光染色画像(分光スペクトルデータ)と、抗体色素の組み合わせなどの染色情報とを入力して形態情報を出力する機械学習の推論モデル234を用いて形態情報が生成されるため、後段の蛍光分離処理(S2004)で参照スペクトルに加えて形態情報を用いた蛍光分離処理を実行することが可能となる。それにより、例えば1つの細胞が映し出された領域内で蛍光分離結果がピクセルごとに異なる不具合を抑制することが可能となる。
 その他の構成、動作及び効果は、上述した第1の実施形態と同様であってよいため、ここでは詳細な説明を省略する。また、本実施形態では、分離処理部231が実行する蛍光分離処理を、LSM等を用いた蛍光分離処理とした場合を例示したが、これに限定されず、例えば、第1の実施形態と同様に、推論モデル134を用いた蛍光分離処理とすることも可能である。
  <4.第3の実施形態>
 一般的に、機械学習の画像認識技術には、クラシフィケーション(1枚の画像が猫か犬かクラス分けする)、ディテクション(対象をバウンディングボックスで見つける)、セグメンテーション(1ピクセル単位で領域を獲得・ラベリング)などの技術が存在する。上述した第2の実施形態のように、入力画像から二値マスクである形態情報を生成する場合には、上述した技術のうち、セグメンテーションを採用する必要がある。そこで第3の実施形態では、セグメンテーションを利用して第2の実施形態に係る推論モデル234を構築する際の手順について、幾つか例を挙げて説明する。
 (4.1.第1の手順例)
 第1の手順例では、1段階で推論モデル234を構築する場合を例示する。図10は、本実施形態の第1の手順例に係る推論モデルの構築方法を説明するための模式図である。図10に示すように、第1の手順例では、まず、標本画像と正解画像とがモデル生成部233に入力される。
 ここで、標本画像は、例えば、蛍光染色画像であってよい。この標本画像は、染色済みであるか未染色であるかを問わない。また、染色済みである場合には、その染色には、HE染色や蛍光抗体染色など、種々の染色が採用されてよい。
 また、正解画像とは、例えば、形態情報(標的の発現マップの二値マスク)であってよい。この形態情報では、組織や細胞や核などの領域や、抗体と蛍光色素との組合せなどの領域が二値マスクにより表された情報であってよい。
 モデル生成部233は、例えば、RNNにおけるセグメンテーションを実行して1ピクセル単位で領域の獲得及びラベリングを行うことで、標本画像における組織や細胞や核などの情報と、抗体と蛍光との組合せの情報とを学習する。これにより、その生産物として、形態情報を出力するための推論モデル234が構築される。
 このような1段階による構築方法では、1つの推論モデル234で出力である形態情報を得ることが可能となるというメリットを得ることができる。
 (4.2.第2の手順例)
 第2の手順例では、2段階で推論モデル234を構築する場合を例示する。図11は、本実施形態の第2の手順例に係る推論モデルの構築方法を説明するための模式図である。図11に示すように、第2の手順例では、標本画像と正解画像とがモデル生成部233に入力されて、その生産物として推論モデル234Aが構築されるステップS3000と、組織や細胞や核などの個々の画像よりなる入力画像群と、正解ラベル情報とがモデル生成部233に入力されて、その生産物として推論モデル234Bが構築されるステップS3004とが実行される。
 ステップS3000では、モデル生成部233は、例えば、RNNにおけるセグメンテーションを実行して1ピクセル単位で領域の獲得及びラベリングを行うことで、標本画像における組織や細胞や核などの領域を取得する。これにより、その生産物として、形態情報を出力するための推論モデル234Aが構築される。
 そして、ステップS3004では、モデル生成部233は、例えば、ステップS3000で取得した領域それぞれに対してクラシフィケーションを実行することで、抗体と蛍光との組合せに関する情報を学習する。これにより、その生産物として、形態情報を出力するための推論モデル234Bが構築される。
 このような2段階による構築方法によれば、抗体と蛍光との組合せに関する情報を変更する場合に対して、2段階目の推論モデル234Bのみを差し替えることで対応することが可能になるというメリットを得ることができる。すなわち、第1の手順例に係る1段階での構築方法と比較して、推論モデルの変更が容易化するというメリットが存在する。
  <5.第4の実施形態>
 上述した第2の実施形態では、自家蛍光参照スペクトル(及び蛍光参照スペクトル)を用いて蛍光分離処理を行うことで、蛍光スペクトルから蛍光物質ごとのスペクトルを抽出する場合を例示した。これに対し、第4の実施形態では、染色切片から直接、蛍光物質ごとの蛍光スペクトルを抽出する場合を例示する。
 図12は、本実施形態に係る分離処理部の概略構成例を示すブロック図である。本実施形態に係る情報処理装置100では、分離処理部131が図12に示す分離処理部232に置き換えられる。
 図12に示すように、分離処理部232は、色分離部2321と、スペクトル抽出部2322と、データセット作成部2323とを備える。
 色分離部2321は、蛍光信号保存部122から入力された染色切片(染色サンプルともいう)の蛍光スペクトルを蛍光物質毎に色分離する。
 スペクトル抽出部2322は、自家蛍光スペクトルをより精度の高い色分離結果を得ることができるように改良するための構成であり、情報保存部121から入力された標本情報に含まれる自家蛍光参照スペクトルをより精度の高い色分離結果を得られるものに調整する。
 データセット作成部2323は、スペクトル抽出部2322から入力されたスペクトル抽出結果から、自家蛍光参照スペクトルのデータセットを作成する。
 より具体的には、スペクトル抽出部2322は、情報保存部121から入力された自家蛍光参照スペクトルに対して非負値行列因子分解(NMF)や特異値分解(SVD)等を用いたスペクトル抽出処理を実行し、その結果をデータセット作成部2323に入力する。なお、本実施形態に係るスペクトル抽出処理では、例えば、組織マイクロアレイ(Tissue Micro Array:TMA)を用いた細胞組織ごと及び/又はタイプごとの自家蛍光参照スペクトルが抽出される。
 ここで、非染色切片から自家蛍光スペクトルを抽出する方法としては、一般的に主成分分析(以降、「PCA:Principal Component Analysis」と呼称する)が用いられ得るが、本実施形態のように、連結した自家蛍光スペクトルが処理に用いられる場合には、必ずしもPCAが好適であるとは限らない。そこで、本実施形態に係るスペクトル抽出部1322は、PCAではなく非負値行列因子分解(NMF)を行うことで、非染色切片から自家蛍光参照スペクトルを抽出する。
 図13は、NMFの概要を説明する図である。図13に示すように、NMFは、非負のN行M列(N×M)の行列Aを、非負のN行k列(N×k)の行列W、及び非負のk行M列(k×M)の行列Hに分解する。行列Aと、行列W及び行列Hの積(W*H)間の平均平方二乗残差Dが最小となるように行列W及び行列Hが決定される。本実施形態においては、行列Aが、自家蛍光参照スペクトルが抽出される前のスペクトル(Nが画素数であり、Mが波長チャネル数である)に相当し、行列Hが、抽出された自家蛍光参照スペクトル(kが自家蛍光参照スペクトルの数(換言すると、自家蛍光物質の数)であり、Mが波長チャネル数である)に相当する。ここで、平均平方二乗残差Dは、以下の式(10)で表される。なお、「norm(D,‘fro’)」とは、平均平方二乗残差Dのフロベニウスノルムを指す。
Figure JPOXMLDOC01-appb-M000010
 NMFにおける因子分解は、行列W及び行列Hに対する無作為な初期値で始まる反復法が用いられる。NMFにおいてkの値(自家蛍光参照スペクトルの数)は必須であるが、行列W及び行列Hの初期値は必須ではなくオプションとして設定され得、行列W及び行列Hの初期値が設定されると解が一定となる。一方で、行列W及び行列Hの初期値が設定されない場合、これらの初期値は無作為に設定され、解が一定とならない。
 標本20は、使用される組織の種類、対象となる疾病の種類、対象者の属性、または対象者の生活習慣等に応じてその性質が異なり、自家蛍光スペクトルも異なる。そのため、第2の実施形態に係る情報処理装置100が、上記のように、標本20毎に自家蛍光参照スペクトルを実測することで、より精度の高い蛍光分離処理を実現することができる。
 なお、NMFの入力である行列Aは、上述したように、標本画像の画素数N(=Hpix×Vpix)と同数の行と、波長チャネル数Mと同数の列とからなる行列である。そのため、標本画像の画素数が大きい場合や波長チャネル数Mが大きい場合には、行列Aが非常に大きな行列となり、NMFの計算コストが増大して処理時間が長くなる。
 そのような場合には、例えば、図14に示すように、標本画像の画素数N(=Hpix×Vpix)を指定しておいたクラス数N(<Hpix×Vpix)にクラスタリングすることで、行列Aの巨大化による処理時間の冗長化を抑制することができる。
 クラスタリングでは、例えば、標本画像のうち、波長方向や強度方向において類似したスペクトル同士が同じクラスに分類される。これにより、標本画像よりも画素数の小さい画像が生成されるため、この画像を入力とした行列A’の規模を縮小することが可能となる。
 データセット作成部2323は、スペクトル抽出部2322から入力された細胞組織ごと及び/又はタイプごとの自家蛍光参照スペクトルから、色分離部2321による色分離処理に必要なデータセット(以下、自家蛍光データセットともいう)を作成し、作成した自家蛍光データセットを色分離部2321に入力する。
 色分離部2321は、蛍光信号保存部122から入力された染色サンプルの蛍光スペクトルに対して、情報保存部121から入力された蛍光参照スペクトル及び自家蛍光参照スペクトルと、データセット作成部2323から入力された自家蛍光データセットとを用いた色分離処理を実行することで、蛍光スペクトルを分子ごとのスペクトルに分離する。なお、色分離処理には、NMFやSVDを用いることができる。
 本実施形態に係る色分離部2321が実行するNMFには、例えば、第1の実施形態において説明した、非染色切片から自家蛍光スペクトルを抽出する際のNMF(図13等参照)を以下のように変更したものを用いることができる。
 すなわち、本実施形態においては、行列Aが、染色切片から取得された複数の標本画像(Nが画素数であり、Mが波長チャネル数である)に相当し、行列Hが、抽出された蛍光物質ごとの蛍光スペクトル(kが蛍光スペクトルの数(換言すると、蛍光物質の数)であり、Mが波長チャネル数である)に相当し、行列Wが、蛍光分離後の各蛍光物質の画像に相当する。なお、行列Dは、平均平方二乗残差である。
 また、本実施形態において、NMFの初期値は、例えば、無作為であってよい。ただし、NMFの施工回数ごとに結果が違ってしまう場合には、それを防止するために、初期値を設定しておく必要がある。
 なお、NMFのような、計算アルゴリズムによって対応するスペクトルの順番を入れ替えるようなアルゴリズムや、処理の高速化や結果の収束性を向上するためにスペクトルの順番を入れ替えることが必要なアルゴリズムを用いて蛍光分離処理を行った場合、行列Hとして得られた蛍光スペクトルそれぞれが何れの蛍光色素に相当するかは、例えば、組み合わせ全通りそれぞれについてピアソンの積率相関係数(又はcosine類似度)を求めることで特定することができる。
 また、MATLAB(登録商標)のデフォルト関数(NMF)を用いた場合には、初期値を与えたとしても順序が変わって出力される。これは、自己関数で固定することも可能であるが、デフォルト関数を使って順番入れ替わったとしても、上述したように、ピアソンの積率相関係数(又はcosine類似度)を使うことで、物質と蛍光スペクトルとの正しい組み合わせを求めることが可能である。
 以上のように、染色切片から取得された標本画像を行列AとしたNMFを解く構成とすることで、非染色切片の撮影や自家蛍光参照スペクトルの生成などの手順を必要とせずに、染色切片から直接、蛍光物質ごとの蛍光スペクトルを抽出することが可能となる。それにより、蛍光分離処理に要する時間や作業コストを大幅に削減することが可能となる。
 さらに、本実施形態では、同一の染色切片から得られた標本画像から蛍光物質ごとの蛍光スペクトルを抽出するため、例えば、染色切片とは異なる非染色切片から得られた自家蛍光スペクトルを用いる場合と比較して、より正確な蛍光分離結果を取得することが可能となる。
 その他の構成、動作及び効果は、上述した実施形態と同様であってよいため、ここでは詳細な説明を省略する。
 なお、本実施形態においては、蛍光物質ごとの蛍光スペクトルを抽出する際に、蛍光物質ごとの蛍光スペクトルが連結された連結蛍光スペクトルが使用されてもよい。連結蛍光スペクトルを使用する場合、分離処理部131の抽出部は、蛍光信号取得部112によって取得された複数の蛍光スペクトルを連結し、これにより生成された連結蛍光スペクトルに対して、蛍光物質ごとの蛍光スペクトルを抽出する処理を実行する。
  <6.第5の実施形態>
 上述した第4の実施形態において、染色した色素に対する濃度等の定量性を高める方法としては、以下に示す方法を挙げることができる。
 図15は、第5の実施形態に係るNMFの流れを説明するためのフローチャートである。図16は、図15に示すNMFの最初のループにおける処理の流れを説明するための図である。
 図15に示すように、本実施形態に係るNMFでは、まず、変数iをゼロにリセットする(ステップS401)。変数iは、NMFにおける因子分解を繰り返した回数を示している。したがって、図16の(a)に示す行列Hは、行列Hの初期値に相当する。なお、本例では、明確化のため、行列Hにおける染色蛍光スペクトルの位置を最下行としているが、これに限定されず、最上行や中間の行など、種々変更することが可能である。
 つぎに、本実施形態に係るNMFでは、通常のNMFと同様に、非負のN行M列(N×M)の行列Aを非負のN行k列(N×k)の行列Wで除算することで、非負のk行M列(k×M)の行列Hi+1を求める(ステップS402)。これにより、例えば1回目のループにおいては、図16の(b)に示すような行列Hが求められる。
 つぎに、ステップS402で求められた行列Hi+1における蛍光染色スペクトルの行が、蛍光染色スペクトルの初期値、すなわち、行列Hにおける染色蛍光スペクトルの行に置換される(ステップS403)。すなわち、本実施形態では、行列Hにおける蛍光染色スペクトルが初期値に固定される。例えば、1回目のループにおいては、図16の(c)に示すように、行列Hにおける最下行を行列Hにおける最下行に置換することで、染色蛍光スペクトルを固定することが可能である。
 つぎに、本実施形態に係るNMFでは、ステップS403で求められた行列Hi+1で行列Aを除算することで、行列Wi+1を求める(ステップS404)。
 その後、本実施形態に係るNMFでは、通常のNMFと同様に、平均平方二乗残差Dが所定の分岐条件を満たすか否かが判断され(ステップS405)、満たす場合(ステップS405のYES)、最終的に得られた行列Hi+1及びWi+1を解として、NMFを終了する。一方、所定の分岐条件が満たされない場合(ステップS405のNO)、変数iが1インクリメントされた後(ステップS406)、ステップS402へ戻り、次のループが実行される。
 以上のように、第1の方法では、多重染色の病理切片画像(標本画像)のスペクトル抽出及び色分離において、自家蛍光スペクトル抽出用の同一組織切片非染色サンプルの撮影を必要とせずに、染色蛍光の定量性を担保したまま、すなわち、染色蛍光のスペクトルを維持したまま、NMFを用いて直接染色サンプルを色分離することが可能となる。それにより、例えば、別標本を用いる場合と比較して、正確な色分離を達成することが可能となる。また、別標本を撮影する手間などを削減することも可能となる。
 なお、平均平方二乗残差Dを極小化する方法としては、D=|A-WH|を極小化する漸化式を用いる方法や、準ニュートン法(DFP(Davidon-Fletcher-Powell)法ともいう)やBFGS(Broyden-Fletcher-Goldfarb-Shanno)法等を用いる方法などが考えられる。それらの場合、染色蛍光スペクトルを初期値に固定する方法としては、以下のような方法が考えられる。
 (6.1 漸化式を用いた平均平方二乗残差Dの極小化における染色蛍光スペクトルの固定方法)
 D=|A-WH|を極小化する漸化式を用いて平均平方二乗残差Dを極小化する方法では、以下の式(11)及び式(12)に示すような乗算型の更新式からなるステップを繰り返すループ処理が実行される。なお、式(11)及び式(12)において、A=(ai,jN×Mであり、H=(hi,jk×Mであり、W=(wi,jN×kである。また、h、wは、それぞれ部分行列h、wの転置行列である。
Figure JPOXMLDOC01-appb-M000011
Figure JPOXMLDOC01-appb-M000012
 このようなループ処理において、染色蛍光スペクトルを初期値に固定するには、式(11)を実行するステップと式(12)を実行するステップとの間に、以下に示す式(13)を実行するステップを挿入する方法を用いることができる。なお、式(13)は、更新したwi,j k+1における染色蛍光スペクトルに相当する部分行列を染色蛍光スペクトルの初期値である部分行列wi,j(part) で上書きすることを示している。
Figure JPOXMLDOC01-appb-M000013
 (6.2 DFP法やBFGS法等を用いた平均平方二乗残差Dの極小化における染色蛍光スペクトルの固定方法)
 また、DFP法やBFGS法等を用いて平均平方二乗残差Dを極小化する方法では、極小化対象の平均平方二乗残差DをD(x)、xを座標とすると(k番目の更新時はx=(a1,a2,...,an))、以下のステップを経ることで、D(x)が極小化される。以下のステップにおいて、Bはヘッセ行列を示している。
・xk+1=x-αB -1D’(x)により座標を更新
・新しい座標xk+1での勾配への変位
・y=D’(xk+1)-D’(x)からヘッセの逆行列Bk+1 -1を更新
 ヘッセ行列Bk+1の更新には、例えば、以下の式(14)に示すDFP法や、式(15)に示すBFGF法など、種々の方式を適用することが可能である。
Figure JPOXMLDOC01-appb-M000014
Figure JPOXMLDOC01-appb-M000015
 このようなDFP法やBFGS法等を用いて平均平方二乗残差Dを極小化する方法において、任意の座標を固定する方法、すなわち、染色蛍光スペクトルを初期値に固定する方法には、幾つかの方法が存在する。例えば、座標を更新するタイミングで以下の処理(1)又は処理(2)を実行する方法にて、染色蛍光スペクトルを初期値に固定することが可能である。
(1)-αB -1D’(x)=0、すなわち、偏微分D’(x)をゼロに置換
(2)座標更新後にxk+1を算出した後、得られた座標xk+1の一部を強制的にx(又はその一部)で置換
  <7.ハードウェア構成例>
 続いて、図17を参照して、各実施形態及び変形例に係る情報処理装置100のハードウェア構成例について説明する。図17は、情報処理装置100のハードウェア構成例を示すブロック図である。情報処理装置100による各種処理は、ソフトウェアと、以下に説明するハードウェアとの協働により実現される。
 図17に示すように、情報処理装置100は、CPU(Central Processing Unit)901、ROM(Read Only Memory)902、RAM(Random Access Memory)903及びホストバス904aを備える。また、情報処理装置100は、ブリッジ904、外部バス904b、インタフェース905、入力装置906、出力装置907、ストレージ装置908、ドライブ909、接続ポート911、通信装置913、及びセンサ915を備える。情報処理装置100は、CPU901に代えて、又はこれとともに、DSP若しくはASICなどの処理回路を有してもよい。
 CPU901は、演算処理装置および制御装置として機能し、各種プログラムに従って情報処理装置100内の動作全般を制御する。また、CPU901は、マイクロプロセッサであってもよい。ROM902は、CPU901が使用するプログラムや演算パラメータ等を記憶する。RAM903は、CPU901の実行において使用するプログラムや、その実行において適宜変化するパラメータ等を一時記憶する。CPU901は、例えば、情報処理装置100の少なくとも処理部130及び制御部150を具現し得る。
 CPU901、ROM902及びRAM903は、CPUバスなどを含むホストバス904aにより相互に接続されている。ホストバス904aは、ブリッジ904を介して、PCI(Peripheral Component Interconnect/Interface)バス等の外部バス904bに接続されている。なお、必ずしもホストバス904a、ブリッジ904および外部バス904bを分離構成する必要はなく、1つのバスにこれらの機能を実装してもよい。
 入力装置906は、例えば、マウス、キーボード、タッチパネル、ボタン、マイクロフォン、スイッチ及びレバー等、実施者によって情報が入力される装置によって実現される。また、入力装置906は、例えば、赤外線やその他の電波を利用したリモートコントロール装置であってもよいし、情報処理装置100の操作に対応した携帯電話やPDA等の外部接続機器であってもよい。さらに、入力装置906は、例えば、上記の入力手段を用いて実施者により入力された情報に基づいて入力信号を生成し、CPU901に出力する入力制御回路などを含んでいてもよい。実施者は、この入力装置906を操作することにより、情報処理装置100に対して各種のデータを入力したり処理動作を指示したりすることができる。入力装置906は、例えば、情報処理装置100の少なくとも操作部160を具現し得る。
 出力装置907は、取得した情報を実施者に対して視覚的又は聴覚的に通知することが可能な装置で形成される。このような装置として、CRTディスプレイ装置、液晶ディスプレイ装置、プラズマディスプレイ装置、ELディスプレイ装置及びランプ等の表示装置や、スピーカ及びヘッドホン等の音響出力装置や、プリンタ装置等がある。出力装置907は、例えば、情報処理装置100の少なくとも表示部140を具現し得る。
 ストレージ装置908は、データ格納用の装置である。ストレージ装置908は、例えば、HDD等の磁気記憶部デバイス、半導体記憶デバイス、光記憶デバイス又は光磁気記憶デバイス等により実現される。ストレージ装置908は、記憶媒体、記憶媒体にデータを記録する記録装置、記憶媒体からデータを読み出す読出し装置および記憶媒体に記録されたデータを削除する削除装置などを含んでもよい。このストレージ装置908は、CPU901が実行するプログラムや各種データ及び外部から取得した各種のデータ等を格納する。ストレージ装置908は、例えば、情報処理装置100の少なくとも保存部120を具現し得る。
 ドライブ909は、記憶媒体用リーダライタであり、情報処理装置100に内蔵、あるいは外付けされる。ドライブ909は、装着されている磁気ディスク、光ディスク、光磁気ディスク、または半導体メモリ等のリムーバブル記憶媒体に記録されている情報を読み出して、RAM903に出力する。また、ドライブ909は、リムーバブル記憶媒体に情報を書き込むこともできる。
 接続ポート911は、外部機器と接続されるインタフェースであって、例えばUSB(Universal Serial Bus)などによりデータ伝送可能な外部機器との接続口である。
 通信装置913は、例えば、ネットワーク920に接続するための通信デバイス等で形成された通信インタフェースである。通信装置913は、例えば、有線若しくは無線LAN(Local Area Network)、LTE(Long Term Evolution)、Bluetooth(登録商標)又はWUSB(Wireless USB)用の通信カード等である。また、通信装置913は、光通信用のルータ、ADSL(Asymmetric Digital Subscriber Line)用のルータ又は各種通信用のモデム等であってもよい。この通信装置913は、例えば、インターネットや他の通信機器との間で、例えばTCP/IP等の所定のプロトコルに則して信号等を送受信することができる。
 センサ915は、本実施形態においては、スペクトルを取得可能なセンサ(例えば、撮像素子等)を含むところ、他のセンサ(例えば、加速度センサ、ジャイロセンサ、地磁気センサ、感圧センサ、音センサ、または測距センサ等)を含んでもよい。センサ915は、例えば、情報処理装置100の少なくとも蛍光信号取得部112を具現し得る。
 なお、ネットワーク920は、ネットワーク920に接続されている装置から送信される情報の有線、または無線の伝送路である。例えば、ネットワーク920は、インターネット、電話回線網、衛星通信網などの公衆回線網や、Ethernet(登録商標)を含む各種のLAN(Local Area Network)、WAN(Wide Area Network)などを含んでもよい。また、ネットワーク920は、IP-VPN(Internet Protocol-Virtual Private Network)などの専用回線網を含んでもよい。
 以上、情報処理装置100の機能を実現可能なハードウェア構成例を示した。上記の各構成要素は、汎用的な部材を用いて実現されていてもよいし、各構成要素の機能に特化したハードウェアにより実現されていてもよい。従って、本開示を実施する時々の技術レベルに応じて、適宜、利用するハードウェア構成を変更することが可能である。
 なお、上記のような情報処理装置100の各機能を実現するためのコンピュータプログラムを作製し、PC等に実装することが可能である。また、このようなコンピュータプログラムが格納された、コンピュータで読み取り可能な記録媒体も提供することができる。記録媒体は、例えば、磁気ディスク、光ディスク、光磁気ディスク、フラッシュメモリ等を含む。また、上記のコンピュータプログラムは、記録媒体を用いずに、例えばネットワークを介して配信されてもよい。
  <8.備考>
 上記では、一般的に、実際の標本情報および試薬情報はカタログ値や文献値とは異なる場合が多いため、標本情報および試薬情報が本開示に係る情報処理システム内で独自に計測され管理される方がより好ましい旨を説明した。そこで備考として、図18および図19を参照しながら、実際の標本情報および試薬情報がカタログ値や文献値と異なることを説明する。
 図18は、蛍光成分の一種であるPE(Phycoerythrin)のスペクトル情報の実測値とカタログ値の比較結果を示す図である。また、図19は、蛍光成分の一種であるBV421(Brilliant Violet 421)のスペクトル情報の実測値とカタログ値の比較結果を示す図である。なお、実測値としては、これらの蛍光成分と封入剤が調合されたサンプルが用いられた測定結果が示されている。
 図18および図19が示すように、スペクトル情報におけるピークの位置は実測値とカタログ値でほぼ一致しているものの、ピーク波長よりも長波長側のスペクトルの形状が互いに異なる。したがって、スペクトル情報としてカタログ値が用いられることによって蛍光信号と自家蛍光信号の分離精度が低くなる。
 なお、スペクトル情報だけに限らず、標本情報および試薬情報に含まれる各種情報は、一般的に、本開示に係る情報処理システム内で独自に計測される方が精度の観点からより好ましいと言える。
  <9.システム構成の変形例>
 なお、上述した実施形態に係る情報処理システム(図1参照)は、サーバ・クライアント型のシステム構成とすることも可能である。図20は、サーバ・クライアント型で構成された情報処理システムの概略構成例を示すブロック図である。
 図20に示すように、本変形例に係る情報処理システムは、クライアント端末100Aと、サーバ装置100Bと、データベース200とを備え、これらが所定のネットワーク300を介して相互に通信可能に接続されている。ネットワーク300には、WAN(Wide Area Network)(インターネットを含む)やLAN(Local Area Network)や公衆回線網や移動体通信網などの種々のネットワークを適用することができる。
 クライアント端末100Aは、医師や研究者等が使用する端末装置であり、例えば、少なくとも、図1に示す構成における、取得部110と、表示部140と、制御部150と、操作部160とを備える。
 一方、サーバ装置100Bは、単一サーバに限定されず、複数のサーバで構成されていてもよく、また、クラウドサーバであってもよい。このサーバ装置100Bは、例えば、図1に示す構成における、情報保存部121、蛍光信号保存部122、蛍光分離結果保存部123、分離処理部131、画像生成部132及びモデル生成部133のうちの少なくとも1つを備え得る。これらの構成のうち、サーバ装置100Bに含まれないものとされた構成は、クライアント端末100Aに設けられていてよい。
 同じサーバ装置100Bに接続されるクライアント端末100Aは、1台に限られず、複数台であってもよい。その場合、複数のクライアント端末100Aは、互いに異なる病院に導入されてもよい。
 このようなシステム構成とすることで、より計算能力の高いシステムを医師や研究者等のユーザへ提供できるだけでなく、より多くの情報をデータベース200に蓄積することが可能となる。これは、データベース200内に蓄積されたビックデータに対して機械学習等を実行するシステムへの拡張を容易化することを示唆している。
 ただし、上記のような構成に限定されず、例えば、データベース200のみが複数の情報処理装置100でネットワーク300を介して共有された構成など、種々変更することが可能である。
  <10.応用例1>
 また、上述した実施形態では、多重染色された組織切片である蛍光染色標本30の2次元蛍光画像を取得する、いわゆるマルチプルフローサイトイメージング(MFI)に対して本開示に係る技術を適用した場合について説明したが、これに限定されず、多重染色した細胞などの微小粒子の2次元蛍光画像を取得する、いわゆるイメージングサイトメータなどに対しても、本開示に係る技術を適用することが可能である。
  <11.応用例2>
 また、本開示に係る技術は、様々な製品へ応用することができる。例えば、本開示に係る技術は、医師等が患者から採取された細胞や組織を観察して病変を診断する病理診断システムやその支援システム等(以下、診断支援システムと称する)に適用されてもよい。この診断支援システムは、デジタルパソロジー技術を利用して取得された画像に基づいて病変を診断又はその支援をするWSI(Whole Slide Imaging)システムであってもよい。
 図21は、本開示に係る技術が適用される診断支援システム5500の概略的な構成の一例を示す図である。図21に示すように、診断支援システム5500は、1以上の病理システム5510を含む。さらに医療情報システム5530と、導出装置5540とを含んでもよい。
 1以上の病理システム5510それぞれは、主に病理医が使用するシステムであり、例えば研究所や病院に導入される。各病理システム5510は、互いに異なる病院に導入されてもよく、それぞれWAN(Wide Area Network)(インターネットを含む)やLAN(Local Area Network)や公衆回線網や移動体通信網などの種々のネットワークを介して医療情報システム5530及び導出装置5540に接続される。
 各病理システム5510は、顕微鏡5511と、サーバ5512と、表示制御装置5513と、表示装置5514とを含む。
 顕微鏡5511は、光学顕微鏡の機能を有し、ガラススライドに収められた観察対象物を撮像し、デジタル画像である病理画像を取得する。観察対象物とは、例えば、患者から採取された組織や細胞であり、臓器の肉片、唾液、血液等であってよい。
 サーバ5512は、顕微鏡5511によって取得された病理画像を図示しない記憶部に記憶、保存する。また、サーバ5512は、表示制御装置5513から閲覧要求を受け付けた場合に、図示しない記憶部から病理画像を検索し、検索された病理画像を表示制御装置5513に送る。
 表示制御装置5513は、ユーザから受け付けた病理画像の閲覧要求をサーバ5512に送る。そして、表示制御装置5513は、サーバ5512から受け付けた病理画像を、液晶、EL(Electro‐Luminescence)、CRT(Cathode Ray Tube)などを用いた表示装置5514に表示させる。なお、表示装置5514は、4Kや8Kに対応していてもよく、また、1台に限られず、複数台であってもよい。
 ここで、観察対象物が臓器の肉片等の固形物である場合、この観察対象物は、例えば、染色された薄切片であってよい。薄切片は、例えば、臓器等の検体から切出されたブロック片を薄切りすることで作製されてもよい。また、薄切りの際には、ブロック片がパラフィン等で固定されてもよい。
 薄切片の染色には、HE(Hematoxylin-Eosin)染色などの組織の形態を示す一般染色や、IHC(Immunohistochemistry)染色などの組織の免疫状態を示す免疫染色など、種々の染色が適用されてよい。その際、1つの薄切片が複数の異なる試薬を用いて染色されてもよいし、同じブロック片から連続して切り出された2以上の薄切片(隣接する薄切片ともいう)が互いに異なる試薬を用いて染色されてもよい。
 顕微鏡5511は、低解像度で撮像するための低解像度撮像部と、高解像度で撮像するための高解像度撮像部とを含み得る。低解像度撮像部と高解像度撮像部とは、異なる光学系であってもよいし、同一の光学系であってもよい。同一の光学系である場合には、顕微鏡5511は、撮像対象に応じて解像度が変更されてもよい。
 観察対象物が収容されたガラススライドは、顕微鏡5511の画角内に位置するステージ上に載置される。顕微鏡5511は、まず、低解像度撮像部を用いて画角内の全体画像を取得し、取得した全体画像から観察対象物の領域を特定する。続いて、顕微鏡5511は、観察対象物が存在する領域を所定サイズの複数の分割領域に分割し、各分割領域を高解像度撮像部により順次撮像することで、各分割領域の高解像度画像を取得する。対象とする分割領域の切替えでは、ステージを移動させてもよいし、撮像光学系を移動させてもよいし、それら両方を移動させてもよい。また、各分割領域は、ガラススライドの意図しない滑りによる撮像漏れ領域の発生等を防止するために、隣接する分割領域との間で重複していてもよい。さらに、全体画像には、全体画像と患者とを対応付けておくための識別情報が含まれていてもよい。この識別情報は、例えば、文字列やQRコード(登録商標)等であってよい。
 顕微鏡5511で取得された高解像度画像は、サーバ5512に入力される。サーバ5512は、各高解像度画像をより小さいサイズの部分画像(以下、タイル画像と称する)に分割する。例えば、サーバ5512は、1つの高解像度画像を縦横10×10個の計100個のタイル画像に分割する。その際、隣接する分割領域が重複していれば、サーバ5512は、テンプレートマッチング等の技法を用いて互いに隣り合う高解像度画像にスティッチング処理を施してもよい。その場合、サーバ5512は、スティッチング処理により貼り合わされた高解像度画像全体を分割してタイル画像を生成してもよい。ただし、高解像度画像からのタイル画像の生成は、上記スティッチング処理の前であってもよい。
 また、サーバ5512は、タイル画像をさらに分割することで、より小さいサイズのタイル画像を生成し得る。このようなタイル画像の生成は、最小単位として設定されたサイズのタイル画像が生成されるまで繰り返されてよい。
 このように最小単位のタイル画像を生成すると、サーバ5512は、隣り合う所定数のタイル画像を合成することで1つのタイル画像を生成するタイル合成処理を、全てのタイル画像に対して実行する。このタイル合成処理は、最終的に1つのタイル画像が生成されるまで繰り返され得る。このような処理により、各階層が1つ以上のタイル画像で構成されたピラミッド構造のタイル画像群が生成される。このピラミッド構造では、ある層のタイル画像とこの層とは異なる層のタイル画像との画素数は同じであるが、その解像度が異なっている。例えば、2×2個の計4つのタイル画像を合成して上層の1つのタイル画像を生成する場合、上層のタイル画像の解像度は、合成に用いた下層のタイル画像の解像度の1/2倍となっている。
 このようなピラミッド構造のタイル画像群を構築することによって、表示対象のタイル画像が属する階層次第で、表示装置に表示される観察対象物の詳細度を切り替えることが可能となる。例えば、最下層のタイル画像が用いられる場合には、観察対象物の狭い領域を詳細に表示し、上層のタイル画像が用いられるほど観察対象物の広い領域が粗く表示されるようにすることができる。
 生成されたピラミッド構造のタイル画像群は、例えば、各タイル画像を一意に識別可能な識別情報(タイル識別情報と称する)とともに、不図示の記憶部に記憶される。サーバ5512は、他の装置(例えば、表示制御装置5513や導出装置5540)からタイル識別情報を含むタイル画像の取得要求を受け付けた場合に、タイル識別情報に対応するタイル画像を他の装置へ送信する。
 なお、病理画像であるタイル画像は、焦点距離や染色条件等の撮像条件毎に生成されてもよい。撮像条件毎にタイル画像が生成される場合、特定の病理画像とともに、特定の撮像条件と異なる撮像条件に対応する他の病理画像であって、特定の病理画像と同一領域の他の病理画像を並べて表示してもよい。特定の撮像条件は、閲覧者によって指定されてもよい。また、閲覧者に複数の撮像条件が指定された場合には、各撮像条件に対応する同一領域の病理画像が並べて表示されてもよい。
 また、サーバ5512は、ピラミッド構造のタイル画像群をサーバ5512以外の他の記憶装置、例えば、クラウドサーバ等に記憶してもよい。さらに、以上のようなタイル画像の生成処理の一部又は全部は、クラウドサーバ等で実行されてもよい。
 表示制御装置5513は、ユーザからの入力操作に応じて、ピラミッド構造のタイル画像群から所望のタイル画像を抽出し、これを表示装置5514に出力する。このような処理により、ユーザは、観察倍率を変えながら観察対象物を観察しているような感覚を得ることができる。すなわち、表示制御装置5513は仮想顕微鏡として機能する。ここでの仮想的な観察倍率は、実際には解像度に相当する。
 なお、高解像度画像の撮像方法は、どの様な方法を用いてもよい。ステージの停止、移動を繰り返しながら分割領域を撮像して高解像度画像を取得してもよいし、所定の速度でステージを移動しながら分割領域を撮像してストリップ上の高解像度画像を取得してもよい。また、高解像度画像からタイル画像を生成する処理は必須の構成ではなく、スティッチング処理により貼り合わされた高解像度画像全体の解像度を段階的に変化させることで、解像度が段階的に変化する画像を生成してもよい。この場合でも、広いエリア域の低解像度画像から狭いエリアの高解像度画像までを段階的にユーザに提示することが可能である。
 医療情報システム5530は、いわゆる電子カルテシステムであり、患者を識別する情報、患者の疾患情報、診断に用いた検査情報や画像情報、診断結果、処方薬などの診断に関する情報を記憶する。例えば、ある患者の観察対象物を撮像することで得られる病理画像は、一旦、サーバ5512を介して保存された後、表示制御装置5513によって表示装置5514に表示され得る。病理システム5510を利用する病理医は、表示装置5514に表示された病理画像に基づいて病理診断を行う。病理医によって行われた病理診断結果は、医療情報システム5530に記憶される。
 導出装置5540は、病理画像に対する蛍光分離処理を含む解析を実行し得る。この解析には、機械学習によって作成された学習モデルを用いることができる。導出装置5540は、当該解析結果として、特定領域の分類結果や組織の識別結果等を導出してもよい。さらに、導出装置5540は、細胞情報、数、位置、輝度情報等の識別結果やそれらに対するスコアリング情報等を導出してもよい。導出装置5540によって導出されたこれらの情報は、診断支援情報として、病理システム5510の表示装置5514に表示されてもよい。
 なお、導出装置5540は、1台以上のサーバ(クラウドサーバを含む)等で構成されたサーバシステムであってもよい。また、導出装置5540は、病理システム5510内の例えば表示制御装置5513又はサーバ5512に組み込まれた構成であってもよい。すなわち、病理画像に対する各種解析は、病理システム5510内で実行されてもよい。
 本開示に係る技術は、以上説明した構成のうち、診断支援システム5500全体に好適に適用され得る。具体的には、取得部110が顕微鏡5511に相当し、表示制御装置5513が制御部150に相当し、表示装置5514が表示部140に相当し、病理システム5510の残りの構成並びに導出装置5540が情報処理装置100の残りの構成に相当し、医療情報システム5530がデータベース200に相当し得る。このように、本開示に係る技術を診断支援システム5500に適用することにより、医師や研究者に対して病変の診断や解析をより正確に行わせることが可能になる等の効果を奏することができる。
 なお、上記で説明した構成は、診断支援システムに限らず、共焦点顕微鏡や蛍光顕微鏡、ビデオ顕微鏡等の生物顕微鏡全般にも適用され得る。ここで、観察対象物は、培養細胞や受精卵、精子等の生体試料、細胞シート、三次元細胞組織等の生体材料、ゼブラフィッシュやマウス等の生体であってもよい。また、観察対象物は、ガラススライドに限らず、ウェルプレートやシャーレ等に格納された状態で観察されることもできる。
 さらに、顕微鏡を利用して取得した観察対象物の静止画像から動画像が生成されてもよい。例えば、所定期間連続的に撮像した静止画像から動画像を生成してもよいし、所定の間隔を空けて撮像した静止画像から画像シーケンスを生成してもよい。このように、静止画像から動画像を生成することで、がん細胞や神経細胞、心筋組織、精子等の拍動や伸長、遊走等の動きや培養細胞や受精卵の分裂過程など、観察対象物の動的な特徴を機械学習を用いて解析することが可能となる。
 以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
 また、本明細書に記載された効果は、あくまで説明的または例示的なものであって限定的ではない。つまり、本開示に係る技術は、上記の効果とともに、または上記の効果に代えて、本明細書の記載から当業者には明らかな他の効果を奏しうる。
 なお、以下のような構成も本開示の技術的範囲に属する。
(1)
 細胞を含む生体試料の蛍光画像と、前記生体試料または蛍光試薬由来の参照スペクトルと、前記細胞の形態情報と、に基づいて前記蛍光画像から前記蛍光試薬由来の蛍光信号を分離する分離部を備える情報処理装置。
(2)
 前記分離部は、前記蛍光画像から前記生体試料由来の蛍光信号をさらに分離する、前記(1)に記載の情報処理装置。
(3)
 前記形態情報は、前記生体試料中の標的の分布情報を含む、前記(1)に記載の情報処理装置。
(4)
 前記標的は、前記生体試料中の抗原であり、前記分布情報は、前記抗原の発現量の分布を含む、前記(3)に記載の情報処理装置。
(5)
 前記形態情報は、前記抗原の発現量の分布を示す二値マスク画像を含む、前記(4)に記載の情報処理装置。
(6)
 前記蛍光試薬は、蛍光色素で標識された抗体を含む、前記(1)~(5)の何れか1項に記載の情報処理装置。
(7)
 前記分離された蛍光信号に基づいて補正された蛍光画像を生成する画像生成部をさらに備える、前記(1)~(6)の何れか1項に記載の情報処理装置。
(8)
 前記生体試料または蛍光試薬由来の参照スペクトルを最適化する抽出部をさらに備える、前記(1)~(7)の何れか1項に記載の情報処理装置。
(9)
 前記分離部は、前記参照スペクトルと前記形態情報とを用いた最小二乗法、重み付き最小二乗法又は制限付き最小二乗法により、前記蛍光画像の蛍光信号を分離する前記(8)に記載の情報処理装置。
(10)
 前記分離部は、前記蛍光画像と前記参照スペクトルと前記形態情報とを第1の画像生成モデルに入力することで前記蛍光画像の蛍光信号を分離する前記(8)に記載の情報処理装置。
(11)
 前記第1の画像生成モデルは、前記蛍光画像の蛍光信号を分離することで得られた色分離情報を教師データとして学習させた学習済みモデルである、前記(10)に記載の情報処理装置。
(12)
 前記分離部は、更に前記生体試料の明視野画像と未染色画像とに基づいて前記蛍光画像の蛍光信号を分離する、前記(8)~(11)の何れか1項に記載の情報処理装置。
(13)
 前記分離部は、前記蛍光画像と前記明視野画像と前記未染色画像と染色情報を第2の推論モデルに入力することで前記蛍光画像の蛍光信号を分離する前記(12)に記載の情報処理装置。
(14)
 前記蛍光試薬は、蛍光色素で標識された抗体を含み、
 前記染色情報は、前記蛍光試薬の前記抗体と前記蛍光色素との組み合わせの情報を含む、前記(13)に記載の情報処理装置。
(15)
 前記第2の推論モデルは、二値マスク画像として生成された前記形態情報を教師データとして学習させた学習済みモデルである、前記(13)又は(14)に記載の情報処理装置。
(16)
 前記教師データとして学習させられた前記形態情報は、前記生体試料の領域情報を含む、前記(15)に記載の情報処理装置。
(17)
 前記教師データとして学習させられた前記形態情報は、セグメンテーションにより得られた前記生体試料の領域情報を含み、
 前記生体試料の領域情報は、組織、細胞及び核のうちの少なくとも1つ以上についての領域情報を含む、前記(16)に記載の情報処理装置。
(18)
 記生体試料の領域情報は、更に前記染色情報を含む、前記(17)に記載の情報処理装置。
(19)
 前記第2の推論モデルは、更に第3の推論モデルを含み、
 前記第3の推論モデルは、それぞれの前記組織または前記細胞の領域情報に対し、分類により特定された前記染色情報を教師データとして学習させた学習済モデルである、
 前記(18)に記載の情報処理装置。
(20)
 細胞を含む生体試料の蛍光画像と、前記生体試料または蛍光試薬由来の参照スペクトルとを取得する情報処理装置と、
 前記蛍光画像と、前記参照スペクトルと、前記細胞の形態情報と、に基づいて前記蛍光画像から前記蛍光試薬由来の蛍光信号を分離する処理を前記情報処理装置に実行させるためのプログラムと、
 を備える情報処理システム。
 10 蛍光試薬
 11 試薬識別情報
 20 標本
 21 標本識別情報
 30 蛍光染色標本
 100 情報処理装置
 110 取得部
 111 情報取得部
 112 蛍光信号取得部
 120 保存部
 121 情報保存部
 122 蛍光信号保存部
 123 蛍光分離結果保存部
 130 処理部
 131、231 分離処理部
 132 画像生成部
 133、233 モデル生成部
 134、234、234A 推論モデル
 140 表示部
 150 制御部
 160 操作部
 200 データベース
 2311 蛍光分離部
 2311a 第1蛍光分離部
 2311b 第2蛍光分離部
 2312 スペクトル抽出部

Claims (20)

  1.  細胞を含む生体試料の蛍光画像と、前記生体試料または蛍光試薬由来の参照スペクトルと、前記細胞の形態情報と、に基づいて前記蛍光画像から前記蛍光試薬由来の蛍光信号を分離する分離部を備える情報処理装置。
  2.  前記分離部は、前記蛍光画像から前記生体試料由来の蛍光信号をさらに分離する、請求項1に記載の情報処理装置。
  3.  前記形態情報は、前記生体試料中の標的の分布情報を含む、請求項1に記載の情報処理装置。
  4.  前記標的は、前記生体試料中の抗原であり、前記分布情報は、前記抗原の発現量の分布を含む、請求項3に記載の情報処理装置。
  5.  前記形態情報は、前記抗原の発現量の分布を示す二値マスク画像を含む、請求項4に記載の情報処理装置。
  6.  前記蛍光試薬は、蛍光色素で標識された抗体を含む、請求項1に記載の情報処理装置。
  7.  前記分離された蛍光信号に基づいて補正された蛍光画像を生成する画像生成部をさらに備える、請求項1に記載の情報処理装置。
  8.  前記生体試料または蛍光試薬由来の参照スペクトルを最適化する抽出部をさらに備える、請求項1に記載の情報処理装置。
  9.  前記分離部は、前記参照スペクトルと前記形態情報とを用いた最小二乗法、重み付き最小二乗法又は制限付き最小二乗法により、前記蛍光画像の蛍光信号を分離する請求項8に記載の情報処理装置。
  10.  前記分離部は、前記蛍光画像と前記参照スペクトルと前記形態情報とを第1の画像生成モデルに入力することで前記蛍光画像の蛍光信号を分離する請求項8に記載の情報処理装置。
  11.  前記第1の画像生成モデルは、前記蛍光画像の蛍光信号を分離することで得られた色分離情報を教師データとして学習させた学習済みモデルである、請求項10に記載の情報処理装置。
  12.  前記分離部は、更に前記生体試料の明視野画像と未染色画像とに基づいて前記蛍光画像の蛍光信号を分離する、請求項8に記載の情報処理装置。
  13.  前記分離部は、前記蛍光画像と前記明視野画像と前記未染色画像と染色情報を第2の推論モデルに入力することで前記蛍光画像の蛍光信号を分離する請求項12に記載の情報処理装置。
  14.  前記蛍光試薬は、蛍光色素で標識された抗体を含み、
     前記染色情報は、前記蛍光試薬の前記抗体と前記蛍光色素との組み合わせの情報を含む、請求項13に記載の情報処理装置。
  15.  前記第2の推論モデルは、二値マスク画像として生成された前記形態情報を教師データとして学習させた学習済みモデルである、請求項13に記載の情報処理装置。
  16.  前記教師データとして学習させられた前記形態情報は、前記生体試料の領域情報を含む、請求項15に記載の情報処理装置。
  17.  前記教師データとして学習させられた前記形態情報は、セグメンテーションにより得られた前記生体試料の領域情報を含み、
     前記生体試料の領域情報は、組織、細胞及び核のうちの少なくとも1つ以上についての領域情報を含む、請求項16に記載の情報処理装置。
  18.  記生体試料の領域情報は、更に前記染色情報を含む、請求項17に記載の情報処理装置。
  19.  前記第2の推論モデルは、更に第3の推論モデルを含み、
     前記第3の推論モデルは、それぞれの前記組織または前記細胞の領域情報に対し、分類により特定された前記染色情報を教師データとして学習させた学習済モデルである、
     請求項18に記載の情報処理装置。
  20.  細胞を含む生体試料の蛍光画像と、前記生体試料または蛍光試薬由来の参照スペクトルとを取得する情報処理装置と、
     前記蛍光画像と、前記参照スペクトルと、前記細胞の形態情報と、に基づいて前記蛍光画像から前記蛍光試薬由来の蛍光信号を分離する処理を前記情報処理装置に実行させるためのプログラムと、
     を備える情報処理システム。
PCT/JP2021/002359 2020-02-06 2021-01-25 情報処理装置及び情報処理システム WO2021157397A1 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2021575728A JPWO2021157397A1 (ja) 2020-02-06 2021-01-25
US17/796,159 US20230071901A1 (en) 2020-02-06 2021-01-25 Information processing apparatus and information processing system

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2020-018561 2020-02-06
JP2020018561 2020-02-06

Publications (1)

Publication Number Publication Date
WO2021157397A1 true WO2021157397A1 (ja) 2021-08-12

Family

ID=77200496

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2021/002359 WO2021157397A1 (ja) 2020-02-06 2021-01-25 情報処理装置及び情報処理システム

Country Status (3)

Country Link
US (1) US20230071901A1 (ja)
JP (1) JPWO2021157397A1 (ja)
WO (1) WO2021157397A1 (ja)

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004286515A (ja) * 2003-03-20 2004-10-14 Olympus Corp 分光画像から複数の固有スペクトル成分の存在割合を求める方法
JP2016515203A (ja) * 2013-03-15 2016-05-26 ベンタナ メディカル システムズ, インコーポレイテッド スペクトル・アンミキシング
WO2016129061A1 (ja) * 2015-02-10 2016-08-18 コニカミノルタ株式会社 生体物質定量方法、病理診断支援システム及びプログラム
JP2018185759A (ja) * 2017-04-27 2018-11-22 シスメックス株式会社 画像解析方法、装置、プログラムおよび深層学習アルゴリズムの製造方法
WO2019110583A1 (en) * 2017-12-07 2019-06-13 Ventana Medical Systems, Inc. Deep-learning systems and methods for joint cell and region classification in biological images
WO2020022394A1 (en) * 2018-07-24 2020-01-30 Sony Corporation Information processing apparatus and microscope for separating the fluorescence of a fluorescent reageant from the autofluorescence of a specimen

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004286515A (ja) * 2003-03-20 2004-10-14 Olympus Corp 分光画像から複数の固有スペクトル成分の存在割合を求める方法
JP2016515203A (ja) * 2013-03-15 2016-05-26 ベンタナ メディカル システムズ, インコーポレイテッド スペクトル・アンミキシング
WO2016129061A1 (ja) * 2015-02-10 2016-08-18 コニカミノルタ株式会社 生体物質定量方法、病理診断支援システム及びプログラム
JP2018185759A (ja) * 2017-04-27 2018-11-22 シスメックス株式会社 画像解析方法、装置、プログラムおよび深層学習アルゴリズムの製造方法
WO2019110583A1 (en) * 2017-12-07 2019-06-13 Ventana Medical Systems, Inc. Deep-learning systems and methods for joint cell and region classification in biological images
WO2020022394A1 (en) * 2018-07-24 2020-01-30 Sony Corporation Information processing apparatus and microscope for separating the fluorescence of a fluorescent reageant from the autofluorescence of a specimen

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
HIRANO, MASAHIKO ET AL.: "Fluorescence Imaging with Spectral Unmixing: Application for Live Cell Imaging", JOURNAL OF THE SOCIETY OF INSTRUMENT AND CONTROL ENGINEERS, vol. 45, no. 11, 10 November 2006 (2006-11-10), pages 977 - 981, XP055845322 *

Also Published As

Publication number Publication date
JPWO2021157397A1 (ja) 2021-08-12
US20230071901A1 (en) 2023-03-09

Similar Documents

Publication Publication Date Title
JP7459336B2 (ja) 予測タグ付けを有する画像を生成するための画像処理のためのシステム、デバイス、および方法
JP6816196B2 (ja) 包括的なマルチアッセイ組織分析のためのシステムおよび方法
JP6915349B2 (ja) 画像処理装置、画像処理方法、及び画像処理プログラム
JP2021513065A (ja) デジタル病理画像の変換
JP2022534157A (ja) 組織学的画像および術後腫瘍辺縁評価における腫瘍のコンピュータ支援レビュー
JP2018533116A (ja) 生体試料の複数の画像を表示するための画像処理システムおよび方法
JP2017516992A (ja) 画像内の生物学的構造及び/又はパターンの検出のためのシステム及び方法
EP3884498A1 (en) Artificial intelligence processing system and automated pre-diagnostic workflow for digital pathology
CN112424588A (zh) 从样本的自体荧光分离出荧光试剂的荧光的信息处理装置及显微镜
US20240027348A1 (en) Information processing apparatus and microscope system
WO2022004500A1 (ja) 情報処理装置、情報処理方法、プログラム、顕微鏡システム及び解析システム
US20200372652A1 (en) Calculation device, calculation program, and calculation method
WO2021198252A1 (en) Virtual staining logic
WO2021157397A1 (ja) 情報処理装置及び情報処理システム
Do et al. Supporting thyroid cancer diagnosis based on cell classification over microscopic images
WO2023107844A1 (en) Label-free virtual immunohistochemical staining of tissue using deep learning
US20230230398A1 (en) Image processing device, image processing method, image processing program, and diagnosis support system
JP7404906B2 (ja) 情報処理装置、及び顕微鏡システム
CN115943305A (zh) 信息处理装置、信息处理方法、程序和信息处理系统
WO2021198247A1 (en) Optimal co-design of hardware and software for virtual staining of unlabeled tissue
EP4318402A1 (en) Information processing device, information processing method, information processing system and conversion model
WO2023157756A1 (ja) 情報処理装置、生体試料解析システム及び生体試料解析方法
WO2023157755A1 (ja) 情報処理装置、生体試料解析システム及び生体試料解析方法
WO2022075040A1 (ja) 画像生成システム、顕微鏡システム、および画像生成方法
WO2022201992A1 (ja) 医療用画像解析装置、医療用画像解析方法及び医療用画像解析システム

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 21750144

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2021575728

Country of ref document: JP

Kind code of ref document: A

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 21750144

Country of ref document: EP

Kind code of ref document: A1