JP6443450B2 - 画像処理装置、画像処理方法、及びプログラム - Google Patents

画像処理装置、画像処理方法、及びプログラム Download PDF

Info

Publication number
JP6443450B2
JP6443450B2 JP2016548783A JP2016548783A JP6443450B2 JP 6443450 B2 JP6443450 B2 JP 6443450B2 JP 2016548783 A JP2016548783 A JP 2016548783A JP 2016548783 A JP2016548783 A JP 2016548783A JP 6443450 B2 JP6443450 B2 JP 6443450B2
Authority
JP
Japan
Prior art keywords
image
region
specific
interest
specific region
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016548783A
Other languages
English (en)
Other versions
JPWO2016042963A1 (ja
Inventor
淳 生山
淳 生山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Konica Minolta Inc
Original Assignee
Konica Minolta Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Konica Minolta Inc filed Critical Konica Minolta Inc
Publication of JPWO2016042963A1 publication Critical patent/JPWO2016042963A1/ja
Application granted granted Critical
Publication of JP6443450B2 publication Critical patent/JP6443450B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/17Systems in which incident light is modified in accordance with the properties of the material investigated
    • G01N21/25Colour; Spectral properties, i.e. comparison of effect of material on the light at two or more different wavelengths or wavelength bands
    • G01N21/27Colour; Spectral properties, i.e. comparison of effect of material on the light at two or more different wavelengths or wavelength bands using photo-electric detection ; circuits for computing concentration
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/62Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light
    • G01N21/63Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited
    • G01N21/64Fluorescence; Phosphorescence
    • G01N21/6428Measuring fluorescence of fluorescent products of reactions or of fluorochrome labelled reactive substances, e.g. measuring quenching effects, using measuring "optrodes"
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/62Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light
    • G01N21/63Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited
    • G01N21/64Fluorescence; Phosphorescence
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/62Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light
    • G01N21/63Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited
    • G01N21/64Fluorescence; Phosphorescence
    • G01N21/645Specially adapted constructive features of fluorimeters
    • G01N21/6456Spatial resolved fluorescence measurements; Imaging
    • G01N21/6458Fluorescence microscopy
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/62Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light
    • G01N21/63Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited
    • G01N21/64Fluorescence; Phosphorescence
    • G01N21/6489Photoluminescence of semiconductors
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/75Systems in which material is subjected to a chemical reaction, the progress or the result of the reaction being investigated
    • G01N21/77Systems in which material is subjected to a chemical reaction, the progress or the result of the reaction being investigated by observing the effect on a chemical indicator
    • G01N21/78Systems in which material is subjected to a chemical reaction, the progress or the result of the reaction being investigated by observing the effect on a chemical indicator producing a change of colour
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/16Microscopes adapted for ultraviolet illumination ; Fluorescence microscopes
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/36Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
    • G02B21/365Control or image processing arrangements for digital or video microscopes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/174Segmentation; Edge detection involving the use of two or more images
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/62Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light
    • G01N21/63Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited
    • G01N21/64Fluorescence; Phosphorescence
    • G01N21/6428Measuring fluorescence of fluorescent products of reactions or of fluorochrome labelled reactive substances, e.g. measuring quenching effects, using measuring "optrodes"
    • G01N2021/6439Measuring fluorescence of fluorescent products of reactions or of fluorochrome labelled reactive substances, e.g. measuring quenching effects, using measuring "optrodes" with indicators, stains, dyes, tags, labels, marks
    • G01N2021/6441Measuring fluorescence of fluorescent products of reactions or of fluorochrome labelled reactive substances, e.g. measuring quenching effects, using measuring "optrodes" with indicators, stains, dyes, tags, labels, marks with two or more labels
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10056Microscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30024Cell structures in vitro; Tissue sections in vitro

Landscapes

  • Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • Chemical & Material Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Analytical Chemistry (AREA)
  • Immunology (AREA)
  • Pathology (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biochemistry (AREA)
  • General Health & Medical Sciences (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Optics & Photonics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Chemical Kinetics & Catalysis (AREA)
  • Mathematical Physics (AREA)
  • Plasma & Fusion (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Investigating Or Analysing Biological Materials (AREA)
  • Investigating, Analyzing Materials By Fluorescence Or Luminescence (AREA)
  • Sampling And Sample Adjustment (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Description

本発明は、画像処理装置、画像処理方法、及びプログラムに関する。
病理診断において、組織切片で過剰発現をしている生体物質の発現量を定量することは、予後の予測やその後の治療計画を決める上で非常に重要な情報となり得る。こうした生体物質の定量においては、組織切片内に設定した解析対象領域である関心領域内における特定の生体物質の発現量を解析することから、生体物質の定量及び関心領域の抽出を正確に行うことができる手法の開発が望まれている。
そこで、例えば特許文献1には、蛍光物質を用いた免疫組織化学染色によって組織標本を染色し、指定した関心領域における蛍光輝点数に基づいて、特定タンパクの発現量を解析する方法が記載されている。免疫染色に蛍光物質を用いることで、特定タンパクがドット状の蛍光輝点として観察されるため、蛍光in situ hybridization等の手法と比べて比較的簡便な免疫組織化学染色法によっても、特定タンパクを高精度に定量することができる。
国際公開第2013/146841号
しかしながら、特許文献1に記載の技術では、画像全体の中から関心領域をユーザが手作業で指定して、関心領域内の特定タンパクの発現の評価を行うため、手間がかかり、また、ユーザごとにバラつきが生じ得るという問題点があった。
また、蛍光物質を用いた免疫組織化学染色は、特定タンパクの発現量を蛍光物質の輝度やドット状に観察される蛍光輝点の数として計測可能であるため、特定タンパクの定量精度は高いものの、蛍光物質を撮影した画像から関心領域を導出することが難しい。一方、酵素を用いた色素染色法であるDAB法によれば、特定タンパクの発現量が茶褐色に染色された色の濃淡として観察されるため、特定タンパクの定量精度は高くないものの、細胞領域を自動的に抽出して関心領域とすることは比較的容易である。しかし、DAB法は特定タンパクに対する抗体を用いた免疫組織化学染色法の一つであるため、蛍光物質を用いた免疫組織化学染色を施した組織標本における特定タンパクの発現量の定量に併用した場合、蛍光物質を用いた免疫組織化学染色に競合的に干渉して、蛍光物質の正確な定量ができないという問題点があった。
本発明の課題は、組織標本の画像の中から特定の生体物質の発現量を解析するための関心領域を自動的に導出できる画像処理装置、画像処理方法、及びプログラムを提供することである。
本発明に係る上記課題は、以下の手段により解決される。
1.特定の生体物質を染色する第一の染色試薬、及び前記第一の染色試薬による染色に干渉することなく細胞の特定領域を染色する第二の染色試薬によって染色された標本の関心領域における前記生体物質を定量する画像処理装置において、
前記標本は、組織から採取した組織切片であり、
前記第一の染色試薬により染色された前記生体物質の発現位置を表す第一画像を入力する第一入力手段と、
前記第二の染色試薬により染色された細胞の特定領域の形態を表し、前記第一画像と同一視野範囲を撮影した第二画像を入力する第二入力手段と、
前記第二画像から、前記特定領域を第二画像特定領域として抽出する第二画像特定領域抽出手段と、
前記組織切片に連続する組織切片であって、前記生体物質の発現領域及び細胞の特定領域を抽出可能に染色された連続標本から、前記生体物質の発現領域を抽出可能な第三画像を入力する第三入力手段と、
前記第三画像から、前記生体物質の発現領域を連続標本関心領域として抽出する連続標本関心領域抽出手段と、
前記連続標本における前記特定領域の形態を表す第四画像を入力する第四入力手段と、
前記第四画像から、前記連続標本における前記特定領域を第四画像特定領域として抽出する第四画像特定領域抽出手段と、
前記特定領域が抽出された前記第二画像及び前記第一画像のうち少なくとも前記特定領域が抽出された前記第二画像に基づいて前記関心領域を導出する導出手段と、を備え、
前記導出手段は、前記第二画像特定領域及び前記第四画像特定領域の形状に基づいて、前記連続標本関心領域から前記標本の関心領域を導出することを特徴とする画像処理装置。
2.特定の生体物質を染色する第一の染色試薬、及び前記第一の染色試薬による染色に干渉することなく細胞の特定領域を染色する第二の染色試薬によって染色された標本の関心領域における前記生体物質を定量する画像処理装置において、
前記第一の染色試薬により染色された前記生体物質の発現位置を表す第一画像を入力する第一入力手段と、
前記第二の染色試薬により染色された細胞の特定領域の形態を表し、前記第一画像と同一視野範囲を撮影した第二画像を入力する第二入力手段と、
前記第二画像から、前記特定領域を第二画像特定領域として抽出する第二画像特定領域抽出手段と、
前記特定領域が抽出された前記第二画像及び前記第一画像のうち少なくとも前記特定領域が抽出された前記第二画像に基づいて前記関心領域を導出する導出手段と、を備え、
前記導出手段は、前記特定領域が抽出された前記第二画像及び前記生体物質の発現位置を表す前記第一画像に基づいて、関心領域を導出することを特徴とする画像処理装置。
3.前記導出手段は、前記特定領域を膨張させる膨張処理を行い、膨張した前記特定領域を前記関心領域として導出することを特徴とする第2項に記載の画像処理装置。
4.前記導出手段は、前記特定領域の形状に基づいて、前記特定領域が前記関心領域の導出に必要か否かを判断し、前記関心領域の導出に必要と判断された前記特定領域を前記膨張処理して前記関心領域を導出することを特徴とする第3項に記載の画像処理装置。
5.前記導出手段は、前記特定領域から最も近接する別の前記特定領域までの距離が所定の距離以下である場合に、前記特定領域が前記関心領域の導出に必要であると判断することを特徴とする第3項又は第4項に記載の画像処理装置。
6.前記特定領域の密度を算出する密度算出手段を備え、
前記導出手段は、前記密度に基づいて前記膨張処理における膨張率を決定することを特徴とする第3項〜第5項の何れか一項に記載の画像処理装置。
7.前記特定領域の面積を算出する面積算出手段を備え、
前記導出手段は、前記面積に基づいて前記膨張処理における膨張率を決定することを特徴とする第3項〜第5項の何れか一項に記載の画像処理装置。
8.前記連続標本は、前記標本を挟む2枚の組織切片であることを特徴とする第1項に記載の画像処理装置。
9.前記第二画像又は前記第四画像を変形して、前記第二画像特定領域及び前記第四画像特定領域のパターンマッチング処理を行い、第二画像特定領域及び前記第四画像特定領域の適合度が最大となる変形パラメーターを補正値として算出する補正値算出手段を備え、
前記導出手段は、前記補正値に基づいて前記連続標本関心領域を変形することにより、前記標本の関心領域を導出することを特徴とする、第1項又は第8項に記載の画像処理装置。
10.前記補正値は、平行移動及び/又は回転移動を含むことを特徴とする第9項に記載の画像処理装置。
11.前記補正値は、拡大又は縮小を含むことを特徴とする第9項又は第10項に記載の画像処理装置。
12.前記導出手段は、前記特定領域が抽出された前記第二画像及び前記生体物質の発現位置を表す前記第一画像を重ね合わせた画像において、前記生体物質の発現位置のそれぞれについて、最も近い前記特定領域までの距離を算出し、算出した距離が所定の距離以下である前記生体物質の発現位置の外郭を結んだ輪郭の内部を関心領域として導出することを特徴とする第2項に記載の画像処理装置。
13.前記所定の距離は、前記特定領域の大きさに基づいて決定されることを特徴とする第12項に記載の画像処理装置。
14.特定の生体物質を染色する第一の染色試薬、及び前記第一の染色試薬による染色に干渉することなく細胞の特定領域を染色する第二の染色試薬によって染色された標本の関心領域における前記生体物質を定量する画像処理方法において、
前記標本は、組織から採取した組織切片であり、
前記第一の染色試薬により染色された前記生体物質の発現位置を表す第一画像を入力する第一入力ステップと、
前記第二の染色試薬により染色された細胞の特定領域の形態を表し、前記第一画像と同一視野範囲を撮影した第二画像を入力する第二入力ステップと、
前記第二画像から、前記特定領域を第二画像特定領域として抽出する第二画像特定領域抽出ステップと、
前記組織切片に連続する組織切片であって、前記生体物質の発現領域及び細胞の特定領域を抽出可能に染色された連続標本から、前記生体物質の発現領域を抽出可能な第三画像を入力する第三入力ステップと、
前記第三画像から、前記生体物質の発現領域を連続標本関心領域として抽出する連続標本関心領域抽出ステップと、
前記連続標本における前記特定領域の形態を表す第四画像を入力する第四入力ステップと、
前記第四画像から、前記連続標本における前記特定領域を第四画像特定領域として抽出する第四画像特定領域抽出ステップと、
前記特定領域が抽出された前記第二画像及び前記第一画像のうち少なくとも前記特定領域が抽出された前記第二画像に基づいて前記関心領域を導出する導出ステップを有し、
前記導出ステップは、前記第二画像特定領域及び前記第四画像特定領域の形状に基づいて、前記連続標本関心領域から前記標本の関心領域を導出することを特徴とする、画像処理方法。
15.特定の生体物質を染色する第一の染色試薬、及び前記第一の染色試薬による染色に干渉することなく細胞の特定領域を染色する第二の染色試薬によって染色された標本の関心領域における前記生体物質を定量する画像処理方法において、
前記第一の染色試薬により染色された前記生体物質の発現位置を表す第一画像を入力する第一入力ステップと、
前記第二の染色試薬により染色された細胞の特定領域の形態を表し、前記第一画像と同一視野範囲を撮影した第二画像を入力する第二入力ステップと、
前記第二画像から、前記特定領域を抽出する第二画像特定領域抽出ステップと、
前記特定領域が抽出された前記第二画像及び前記第一画像のうち少なくとも前記特定領域が抽出された前記第二画像に基づいて前記関心領域を導出する導出ステップを有し、
前記導出ステップは、前記特定領域が抽出された前記第二画像及び前記生体物質の発現位置を表す前記第一画像に基づいて、関心領域を導出することを特徴とする、画像処理方法。
16.特定の生体物質を染色する第一の染色試薬、及び前記第一の染色試薬による染色に干渉することなく細胞の特定領域を染色する第二の染色試薬によって染色された、組織から採取した組織切片からなる標本の関心領域における前記生体物質を定量するコンピュータを、
前記第一の染色試薬により染色された前記生体物質の発現位置を表す第一画像を入力する第一入力手段、
前記第二の染色試薬により染色された細胞の特定領域の形態を表し、前記第一画像と同一視野範囲を撮影した第二画像を入力する第二入力手段、
前記第二画像から、前記特定領域を第二画像特定領域として抽出する第二画像特定領域抽出手段、
前記組織切片に連続する組織切片であって、前記生体物質の発現領域及び細胞の特定領域を抽出可能に染色された連続標本から、前記生体物質の発現領域を抽出可能な第三画像を入力する第三入力手段、
前記第三画像から、前記生体物質の発現領域を連続標本関心領域として抽出する連続標本関心領域抽出手段、
前記連続標本における前記特定領域の形態を表す第四画像を入力する第四入力手段、
前記第四画像から、前記連続標本における前記特定領域を第四画像特定領域として抽出する第四画像特定領域抽出手段、
前記特定領域が抽出された前記第二画像及び前記第一画像のうち少なくとも前記特定領域が抽出された前記第二画像に基づいて前記関心領域を導出する導出手段、
として機能させ、
前記導出手段は、前記第二画像特定領域及び前記第四画像特定領域の形状に基づいて、前記連続標本関心領域から前記標本の関心領域を導出することを特徴とするプログラム。
17.特定の生体物質を染色する第一の染色試薬、及び前記第一の染色試薬による染色に干渉することなく細胞の特定領域を染色する第二の染色試薬によって染色された標本の関心領域における前記生体物質を定量するコンピュータを、
前記第一の染色試薬により染色された前記生体物質の発現位置を表す第一画像を入力する第一入力手段、
前記第二の染色試薬により染色された細胞の特定領域の形態を表し、前記第一画像と同一視野範囲を撮影した第二画像を入力する第二入力手段、
前記第二画像から、前記特定領域を抽出する第二画像特定領域抽出手段、
前記特定領域が抽出された前記第二画像及び前記第一画像のうち少なくとも前記特定領域が抽出された前記第二画像に基づいて前記関心領域を導出する導出手段、
として機能させ
前記導出手段は、前記特定領域が抽出された前記第二画像及び前記生体物質の発現位置を表す前記第一画像に基づいて、関心領域を導出することを特徴とするプログラム。
本発明によれば、組織切片の画像の中から特定の生体物質の発現量を解析するための関心領域を自動的に導出することが可能となる。
病理診断支援システムのシステム構成を示す図である。 図1の画像処理装置の機能的構成を示すブロック図である。 明視野画像の一例を示す図である。 蛍光画像の一例を示す図である。 図2の制御部により実行される第一の関心領域導出処理を示すフローチャートである。 図5のステップS102〜ステップS105の工程による画像処理の一例を示す図である。 図5のステップS102〜ステップS105の工程による画像処理の一例を示す図である。 図5のステップS102〜ステップS105の工程による画像処理の一例を示す図である。 図5のステップS106〜ステップS108の工程による画像処理の一例を示す図である。 図5のステップS106〜ステップS108の工程による画像処理の一例を示す図である。 図5のステップS106〜ステップS108の工程による画像処理の一例を示す図である。 図2の制御部により実行される第二の関心領域導出処理を示すフローチャートである。 図8のステップS208の工程による画像処理の一例を示す図である。 図8のステップS208の工程による画像処理の一例を示す図である。 図8のステップS208の工程による画像処理の一例を示す図である。 図8のステップS209の工程による画像処理の一例を示す図である。 図8のステップS209の工程による画像処理の一例を示す図である。 図8のステップS210〜ステップS212の工程による画像処理の一例を示す図である。 図8のステップS210〜ステップS212の工程による画像処理の一例を示す図である。 図8のステップS210〜ステップS212の工程による画像処理の一例を示す図である。 図2の制御部により実行される第三の関心領域導出処理を示すフローチャートである。 図12のステップS306〜ステップS308の工程による画像処理の一例を示す図である。 図12のステップS306〜ステップS308の工程による画像処理の一例を示す図である。 図12のステップS306〜ステップS308の工程による画像処理の一例を示す図である。 図12のステップS309〜ステップS310の工程による画像処理の一例を示す図である。 図12のステップS309〜ステップS310の工程による画像処理の一例を示す図である。
以下、図を参照して本発明を実施するための形態について説明するが、本発明はこれらに限定されない。
<病理診断支援システム100の構成>
図1に、本実施の形態における病理診断支援システム100の全体構成例を示す。病理診断支援システム100は、所定の染色試薬で染色された人体の組織切片の顕微鏡画像を取得し、取得された顕微鏡画像を解析することにより、観察対象の組織切片における特定の生体物質の発現を定量的に表す特徴量を出力するシステムである。
図1に示すように、病理診断支援システム100は、顕微鏡画像取得装置1Aと、画像処理装置2Aと、がケーブル3A等のインターフェースを介してデータ送受信可能に接続されて構成されている。なお、顕微鏡画像取得装置1Aと画像処理装置2Aとの接続方式は特に限定されない。例えば、顕微鏡画像取得装置1Aと画像処理装置2AはLAN(Local Area Network)により接続されることとしてもよいし、無線により接続される構成としてもよい。
顕微鏡画像取得装置1Aは、公知のカメラ付き光学顕微鏡であり、スライド固定ステージ上に載置されたスライド上の組織切片の顕微鏡画像を取得し、画像処理装置2Aに送信するものである。
顕微鏡画像取得装置1Aは、照射手段、結像手段、撮像手段、通信I/F等を備えて構成されている。照射手段は、光源、フィルター等により構成され、スライド固定ステージに載置されたスライド上の組織切片に光を照射する。結像手段は、接眼レンズ、対物レンズ等により構成され、照射した光によりスライド上の組織切片から発せられる透過光、反射光、又は蛍光を結像する。撮像手段は、CCD(Charge Coupled Device)センサー等を備え、結像手段により結像面に結像される像を撮像して顕微鏡画像のデジタル画像データを生成する顕微鏡設置カメラである。通信I/Fは、生成された顕微鏡画像の画像データを画像処理装置2Aに送信する。本実施の形態において、顕微鏡画像取得装置1Aは、明視野観察に適した照射手段及び結像手段を組み合わせた明視野ユニット、蛍光観察に適した照射手段及び結像手段を組み合わせた蛍光ユニットが備えられており、ユニットを切り替えることにより明視野/蛍光を切り替えることが可能である。
なお、顕微鏡画像取得装置1Aとしては、カメラ付き顕微鏡に限定されず、例えば、顕微鏡のスライド固定ステージ上のスライドをスキャンして組織切片全体の顕微鏡画像を取得するバーチャル顕微鏡スライド作成装置(例えば、特表2002−514319号公報参照)等を用いてもよい。バーチャル顕微鏡スライド作成装置によれば、スライド上の組織切片全体像を表示部で一度に閲覧可能な画像データを取得することができる。
画像処理装置2Aは、顕微鏡画像取得装置1Aから送信された顕微鏡画像を解析することにより、観察対象の組織切片における特定の生体物質の発現量を定量的に示す特徴量を算出し、算出された特徴量を出力する。
図2に、画像処理装置2Aの機能構成例を示す。図2に示すように、画像処理装置2Aは、制御部21、操作部22、表示部23、通信I/F24、記憶部25等を備えて構成され、各部はバス26を介して接続されている。
制御部21は、CPU(Central Processing Unit)、RAM(Random Access Memory)等を備えて構成され、記憶部25に記憶されている各種プログラムとの協働により各種処理を実行し、画像処理装置2Aの動作を統括的に制御する。例えば、制御部21は、記憶部25に記憶されているプログラムとの協働により画像解析処理(図5、図8、図12参照)を実行し、第二画像特定領域抽出手段、導出手段、密度算出手段、面積算出手段、連続標本関心領域抽出手段、第四画像特定領域抽出手段、補正値算出手段、としての機能を実現する。
操作部22は、文字入力キー、数字入力キー、及び各種機能キー等を備えたキーボードと、マウス等のポインティングデバイスを備えて構成され、キーボードで押下操作されたキーの押下信号とマウスによる操作信号とを、入力信号として制御部21に出力する。
表示部23は、例えば、CRT(Cathode Ray Tube)やLCD(Liquid Crystal Display)等のモニタを備えて構成されており、制御部21から入力される表示信号の指示に従って、各種画面を表示する。本実施の形態において、表示部23は、算出された特徴量を出力するための出力手段として機能する。
通信I/F24は、顕微鏡画像取得装置1Aをはじめとする外部機器との間でデータ送受信を行なうためのインターフェースである。通信I/F24は、第一〜第四入力手段として機能する。
記憶部25は、例えばHDD(Hard Disk Drive)や半導体の不揮発性メモリー等で構成されている。記憶部25には、前述のように各種プログラムや各種データ等が記憶されている。例えば、記憶部25は、後述する画像解析処理で使用される倍率テーブル251をはじめとする各種データを記憶している。
その他、画像処理装置2Aは、LANアダプターやルーター等を備え、LAN等の通信ネットワークを介して外部機器と接続される構成としてもよい。
本実施の形態における画像処理装置2Aは、顕微鏡画像取得装置1Aから送信された明視野画像(HE染色画像)及び蛍光画像を用いて解析を行う。
明視野画像は、HE(ヘマトキシリン−エオジン)染色及び/又はDAB染色された組織切片を顕微鏡画像取得装置1Aにおいて明視野で拡大結像及び撮影することにより得られる顕微鏡画像である。
ヘマトキシリンは青紫色の色素であり、細胞核、骨組織、軟骨組織の一部、漿液成分など(好塩基性の組織等)を染色する。エオジンは赤〜ピンク色の色素であり、細胞質、軟部組織の結合組織、赤血球、線維素、内分泌顆粒など(好酸性の組織等)を染色する。図3に、HE染色を行った組織切片を撮影した明視野画像の一例を示す。図3に示すように、HE染色を行った組織切片を撮影した明視野画像においては、組織切片における細胞の形態が表れている。細胞核は、周囲の細胞質よりも濃い色(青紫色)で周囲と区別して表れており、明視野画像では、細胞核の形態をはっきり捉えることができる。
DAB染色は、DAB(ジアミノベンジジン)を基質として茶褐色に発色させることのできるペルオキシダーゼで修飾された抗体を用いて、抗原(観察対象となる生体物質)を当該発色により染色するものである。
蛍光画像は、特定の生体物質と特異的に結合及び/又は反応する生体物質認識部位が結合した蛍光物質を含む染色試薬を用いて染色された組織切片に対し、顕微鏡画像取得装置1Aにおいて所定波長の励起光を照射して蛍光物質を発光(蛍光)させ、この蛍光を拡大結像及び撮影することにより得られる顕微鏡画像である。即ち、蛍光画像に現れる蛍光は、組織切片における、生体物質認識部位に対応する特定の生体物質の発現を示すものである。図4に、蛍光画像の一例を示す。
<蛍光画像の取得方法>
ここで、蛍光画像の取得方法について、この蛍光画像の取得に際して用いられる染色試薬(蛍光物質内包ナノ粒子)、染色試薬による組織切片の染色方法等も含めて詳細に説明する。
〔蛍光物質〕
蛍光画像の取得のための染色試薬に用いられる蛍光物質としては、蛍光有機色素及び量子ドット(半導体粒子)を挙げることができる。200〜700nmの範囲内の波長の紫外〜近赤外光により励起されたときに、400〜1100nmの範囲内の波長の可視〜近赤外光の発光を示すことが好ましい。
蛍光有機色素としては、フルオレセイン系色素分子、ローダミン系色素分子、Alexa Fluor(インビトロジェン社製)系色素分子、BODIPY(インビトロジェン社製)系色素分子、カスケード系色素分子、クマリン系色素分子、エオジン系色素分子、NBD系色素分子、ピレン系色素分子、Texas Red系色素分子、シアニン系色素分子等を挙げることができる。
具体的には、5−カルボキシ−フルオレセイン、6−カルボキシ−フルオレセイン、5,6−ジカルボキシ−フルオレセイン、6−カルボキシ−2’,4,4’,5’,7,7’−ヘキサクロロフルオレセイン、6−カルボキシ−2’,4,7,7’−テトラクロロフルオレセイン、6−カルボキシ−4’,5’−ジクロロ−2’,7’−ジメトキシフルオレセイン、ナフトフルオレセイン、5−カルボキシ−ローダミン、6−カルボキシ−ローダミン、5,6−ジカルボキシ−ローダミン、ローダミン 6G、テトラメチルローダミン、X−ローダミン、及びAlexa Fluor 350、Alexa Fluor 405、Alexa Fluor 430、Alexa Fluor 488、Alexa Fluor 500、Alexa Fluor 514、Alexa Fluor 532、Alexa Fluor 546、Alexa Fluor 555、Alexa Fluor 568、Alexa Fluor 594、Alexa Fluor 610、Alexa Fluor 633、Alexa Fluor 635、Alexa Fluor 647、Alexa Fluor 660、Alexa Fluor 680、Alexa Fluor 700、Alexa Fluor 750、BODIPY FL、BODIPY TMR、BODIPY 493/503、BODIPY 530/550、BODIPY 558/568、BODIPY 564/570、BODIPY 576/589、BODIPY 581/591、BODIPY 630/650、BODIPY 650/665(以上インビトロジェン社製)、メトキシクマリン、エオジン、NBD、ピレン、Cy5、Cy5.5、Cy7等を挙げることができる。単独でも複数種を混合したものを用いてもよい。
量子ドットとしては、II−VI族化合物、III−V族化合物、又はIV族元素を成分として含有する量子ドット(それぞれ、「II−VI族量子ドット」、「III−V族量子ドット」、「IV族量子ドット」ともいう。)のいずれかを用いることができる。単独でも複数種を混合したものを用いてもよい。
具体的には、CdSe、CdS、CdTe、ZnSe、ZnS、ZnTe、InP、InN、InAs、InGaP、GaP、GaAs、Si、Geが挙げられるが、これらに限定されない。
上記量子ドットをコアとし、その上にシェルを設けた量子ドットを用いることもできる。以下、本明細書中シェルを有する量子ドットの表記法として、コアがCdSe、シェルがZnSの場合、CdSe/ZnSと表記する。例えば、CdSe/ZnS、CdS/ZnS、InP/ZnS、InGaP/ZnS、Si/SiO2、Si/ZnS、Ge/GeO2、Ge/ZnS等を用いることができるが、これらに限定されない。
量子ドットは必要に応じて、有機ポリマー等により表面処理が施されているものを用いてもよい。例えば、表面カルボキシ基を有するCdSe/ZnS(インビトロジェン社製)、表面アミノ基を有するCdSe/ZnS(インビトロジェン社製)等が挙げられる。
〔蛍光物質内包ナノ粒子〕
蛍光物質は、蛍光物質を内包したナノ粒子(蛍光物質内包ナノ粒子と呼ぶ)を構成していると、特定の生体物質の発現量を蛍光粒子の輝度だけでなく粒子数としても算出可能であり、定量精度が高いため好ましい。
本実施の形態において蛍光物質内包ナノ粒子とは、蛍光物質がナノ粒子内部に分散されたものをいい、蛍光物質とナノ粒子自体とが化学的に結合していても、結合していなくてもよい。
ナノ粒子を構成する素材は特に限定されるものではなく、ポリスチレン、ポリ乳酸、シリカ等を挙げることができる。
本実施の形態で用いられる蛍光物質内包ナノ粒子は、公知の方法により作製することが可能である。例えば、蛍光有機色素を内包したシリカナノ粒子は、ラングミュア 8巻 2921ページ(1992)に記載されているFITC内包シリカ粒子の合成を参考に合成することができる。FITCの代わりに所望の蛍光有機色素を用いることで種々の蛍光有機色素内包シリカナノ粒子を合成することができる。
量子ドットを内包したシリカナノ粒子は、ニュー・ジャーナル・オブ・ケミストリー 33巻 561ページ(2009)に記載されているCdTe内包シリカナノ粒子の合成を参考に合成することができる。
蛍光有機色素を内包したポリスチレンナノ粒子は、米国特許4326008(1982)に記載されている重合性官能基をもつ有機色素を用いた共重合法や、米国特許5326692(1992)に記載されているポリスチレンナノ粒子への蛍光有機色素の含浸法を用いて作製することができる。
量子ドットを内包したポリマーナノ粒子は、ネイチャー・バイオテクノロジー19巻631ページ(2001)に記載されているポリスチレンナノ粒子への量子ドットの含浸法を用いて作製することができる。
本実施の形態で用いられる蛍光物質内包ナノ粒子の平均粒径は特に限定されないが、30〜800nm程度のものを用いることができる。また、粒径のばらつきを示す変動係数(=(標準偏差/平均値)×100%)は特に限定されないが、20%以下のものを用いることが好ましい。平均粒径は、走査型電子顕微鏡(SEM)を用いて電子顕微鏡写真を撮影し十分な数の粒子について断面積を計測し、各計測値を円の面積としたときの円の直径を粒径として求めた。本願においては、1000個の粒子の粒径の算術平均を平均粒径とした。変動係数も、1000個の粒子の粒径分布から算出した値とした。
〔生体物質認識部位と蛍光物質内包ナノ粒子との結合〕
本実施の形態に係る生体物質認識部位とは、目的とする生体物質と特異的に結合及び/又は反応する部位である。目的とする生体物質は、それと特異的に結合する物質が存在するものであれば特に限定されるものではないが、代表的にはタンパク質(ペプチド)および核酸(オリゴヌクレオチド、ポリヌクレオチド)、抗体等が挙げられる。したがって、そのような目的とする生体物質に結合する物質としては、前記タンパク質を抗原として認識する抗体やそれに特異的に結合する他のタンパク質等、および前記核酸にハイブリタイズする塩基配列を有する核酸等が挙げられる。具体的には、細胞表面に存在するタンパク質であるHER2に特異的に結合する抗HER2抗体、細胞核に存在するエストロゲン受容体(ER)に特異的に結合する抗ER抗体、細胞骨格を形成するアクチンに特異的に結合する抗アクチン抗体等があげられる。中でも抗HER2抗体及び抗ER抗体を蛍光物質内包ナノ粒子に結合させたものは、乳癌の投薬選定に用いることができ、好ましい。
生体物質認識部位と蛍光物質内包ナノ粒子の結合の態様としては特に限定されず、共有結合、イオン結合、水素結合、配位結合、物理吸着及び化学吸着等が挙げられる。結合の安定性から共有結合等の結合力の強い結合が好ましい。
また、生体物質認識部位と蛍光物質内包ナノ粒子の間を連結する有機分子があってもよい。例えば、生体物質との非特異的吸着を抑制するため、ポリエチレングリコール鎖を用いることができ、Thermo Scientific社製SM(PEG)12を用いることができる。
蛍光物質内包シリカナノ粒子へ生体物質認識部位を結合させる場合、蛍光物質が蛍光有機色素の場合でも、量子ドットの場合でも同様の手順を適用することができる。例えば、無機物と有機物を結合させるために広く用いられている化合物であるシランカップリング剤を用いることができる。このシランカップリング剤は、分子の一端に加水分解でシラノール基を与えるアルコキシシリル基を有し、他端に、カルボキシル基、アミノ基、エポキシ基、アルデヒド基等の官能基を有する化合物であり、上記シラノール基の酸素原子を介して無機物と結合する。具体的には、メルカプトプロピルトリエトキシシラン、グリシドキシプロピルトリエトキシシラン、アミノプロピルトリエトキシシラン、ポリエチレングリコール鎖をもつシランカップリング剤(例えば、Gelest社製PEG-silane no.SIM6492.7)等が挙げられる。シランカップリング剤を用いる場合、二種以上を併用してもよい。
蛍光有機色素内包シリカナノ粒子とシランカップリング剤との反応手順は、公知の手法を用いることができる。例えば、得られた蛍光有機色素内包シリカナノ粒子を純水中に分散させ、アミノプロピルトリエトキシシランを添加し、室温で12時間反応させる。反応終了後、遠心分離又はろ過により表面がアミノプロピル基で修飾された蛍光有機色素内包シリカナノ粒子を得ることができる。続いてアミノ基と抗体中のカルボキシル基とを反応させることで、アミド結合を介し抗体を蛍光有機色素内包シリカナノ粒子と結合させることができる。必要に応じて、EDC(1-Ethyl-3-[3-Dimethylaminopropyl]carbodiimide Hydrochloride:Pierce(登録商標)社製)のような縮合剤を用いることもできる。
必要により、有機分子で修飾された蛍光有機色素内包シリカナノ粒子と直接結合しうる部位と、分子標的物質と結合しうる部位とを有するリンカー化合物を用いることができる。具体例として、アミノ基と選択的に反応する部位とメルカプト基と選択的に反応する部位の両方をもつsulfo-SMCC(Sulfosuccinimidyl 4[N-maleimidomethyl]-cyclohexane-1-carboxylate:Pierce社製)を用いると、アミノプロピルトリエトキシシランで修飾した蛍光有機色素内包シリカナノ粒子のアミノ基と、抗体中のメルカプト基を結合させることで、抗体結合した蛍光有機色素内包シリカナノ粒子ができる。
蛍光物質内包ポリスチレンナノ粒子へ生体物質認識部位を結合させる場合、蛍光物質が蛍光有機色素の場合でも、量子ドットの場合でも同様の手順を適用することができる。すなわち、アミノ基等の官能基をもつポリスチレンナノ粒子へ蛍光有機色素、量子ドットを含浸することにより、官能基もつ蛍光物質内包ポリスチレンナノ粒子を得ることができ、以降EDC又はsulfo-SMCCを用いることで、抗体結合した蛍光物質内包ポリスチレンナノ粒子ができる。
生体物質認識部位の一例としては、M.アクチン、M.S.アクチン、S.M.アクチン、ACTH、Alk-1、α1-アンチキモトリプシン、α1-アンチトリプシン、AFP、bcl-2、bcl-6、β-カテニン、BCA225、CA19-9、CA125、カルシトニン、カルレチニン、CD1a、CD3、CD4、CD5、CD8、CD10、CD15、CD20、CD21、CD23、CD30、CD31、CD34、CD43、CD45、CD45R、CD56、CD57、CD61、CD68、CD79a、"CD99、MIC2"、CD138、クロモグラニン、c-KIT、c-MET、コラーゲンタイプIV、Cox-2、サイクリンD1、ケラチン、サイトケラチン(高分子量)、パンケラチン、パンケラチン、サイトケラチン5/6、サイトケラチン7、サイトケラチン8、サイトケラチン8/18、サイトケラチン14、サイトケラチン19、サイトケラチン20、CMV、E-カドヘリン、EGFR、ER、EMA、EBV、第VIII因子関連抗原、ファッシン、FSH、ガレクチン-3、ガストリン、GFAP、グルカゴン、グリコフォリンA、グランザイムB、hCG、hGH、ヘリコバクターピロリ、HBc抗原、HBs抗原、ヘパトサイト特異抗原、HER2、HSV-I、HSV-II、HHV-8、IgA、IgG、IgM、IGF-1R、インヒビン、インスリン、カッパL鎖、Ki67、ラムダL鎖、LH、リゾチーム、マクロファージ、メランA、MLH-1、MSH-2、ミエロパーオキシダーゼ、ミオゲニン、ミオグロビン、ミオシン、ニューロフィラメント、NSE、p27(Kip1)、p53、p53、P63、PAX5、PLAP、ニューモシスティス カリニ、ポドプラニン(D2-40)、PGR、プロラクチン、PSA、前立腺酸性フォスファターゼ、Renal Cell Carcinoma、S100、ソマトスタチン、スペクトリン、シナプトフィジン、TAG-72、TdT、サイログロブリン、TSH、TTF-1、TRAcP、トリプターゼ、ビリン、ビメンチン、WT1、Zap-70などの、特定抗原を認識する抗体が挙げられる。
〔染色方法〕
以下、組織切片の染色方法について述べる。以下に説明する染色方法は病理切片組織に限定せず、細胞染色にも適用可能である。
また、以下に説明する染色方法が適用できる切片の作製法は特に限定されず、公知の方法により作製されたものを用いることができる。
1)脱パラフィン工程
キシレンを入れた容器に病理切片を浸漬させ、パラフィンを除去する。温度は特に限定されるものではないが、室温で行うことができる。浸漬時間は、3分以上30分以下であることが好ましい。また、必要により浸漬途中でキシレンを交換してもよい。
次いで、エタノールを入れた容器に病理切片を浸漬させ、キシレンを除去する。温度は特に限定されるものではないが、室温で行うことができる。浸漬時間は、3分以上30分以下であることが好ましい。また、必要により浸漬途中でエタノールを交換してもよい。
次いで、水を入れた容器に病理切片を浸漬させ、エタノールを除去する。温度は特に限定されるものではないが、室温で行うことができる。浸漬時間は、3分以上30分以下であることが好ましい。また、必要により浸漬途中で水を交換してもよい。
2)賦活化処理
公知の方法にならい、目的とする生体物質の賦活化処理を行う。賦活化条件に特に定めはないが、賦活液としては、0.01M クエン酸緩衝液(pH 6.0)、1mM EDTA溶液(pH 8.0)、5% 尿素、0.1M トリス塩酸緩衝液等を用いることができる。加熱機器は、オートクレーブ、マイクロウェーブ、圧力鍋、ウォーターバス等を用いることができる。温度は特に限定されるものではないが、室温で行うことができる。温度は50〜130℃、時間は5〜30分で行うことができる。
次いで、PBS(Phosphate Buffered Saline:リン酸緩衝生理食塩水)を入れた容器に、賦活化処理後の切片を浸漬させ、洗浄を行う。温度は特に限定されるものではないが、室温で行うことができる。浸漬時間は、3分以上30分以下であることが好ましい。また、必要により浸漬途中でPBSを交換してもよい。
3)生体物質認識部位が結合された蛍光物質内包ナノ粒子(第一の染色試薬)を用いた染色
生体物質認識部位が結合された蛍光物質内包ナノ粒子のPBS分散液を病理切片に載せ、目的とする生体物質と反応させる。蛍光物質内包ナノ粒子と結合させる生体物質認識部位を変えることにより、さまざまな生体物質に対応した染色が可能となる。数種類の生体物質認識部位が結合された蛍光物質内包ナノ粒子を用いる場合には、それぞれの蛍光物質内包ナノ粒子PBS分散液を予め混合しておいてもよいし、別々に順次病理切片に載せてもよい。
温度は特に限定されるものではないが、室温で行うことができる。反応時間は、30分以上24時間以下であることが好ましい。
蛍光物質内包ナノ粒子による染色を行う前に、BSA含有PBS等、公知のブロッキング剤を滴下することが好ましい。
次いで、PBSを入れた容器に、染色後の切片を浸漬させ、未反応蛍光物質内包ナノ粒子の除去を行う。温度は特に限定されるものではないが、室温で行うことができる。浸漬時間は、3分以上30分以下であることが好ましい。また、必要により浸漬途中でPBSを交換してもよい。カバーガラスを切片に載せ、封入する。必要に応じて市販の封入剤を使用してもよい。
なお、第二の染色試薬による染色として例えばHE染色を行う場合、カバーガラスによる封入前にHE染色を行う。
第二の染色試薬による染色は、特定タンパクの定量を行うための染色法と干渉しない染色法であれば任意である。例えば、特定タンパクの定量を行うための染色法として蛍光色素を用いた免疫組織化学染色を行う場合には、第二の染色試薬としてHE染色試薬を用いて細胞核を染色することが好ましい。
〔蛍光画像の取得〕
染色した病理切片に対し顕微鏡画像取得装置1Aを用いて、広視野の顕微鏡画像(蛍光画像)を取得する。顕微鏡画像取得装置1Aにおいて、染色試薬に用いた蛍光物質の吸収極大波長及び蛍光波長に対応した励起光源及び蛍光検出用光学フィルターを選択する。
蛍光画像の視野は、3mm2以上であることが好ましく、30mm2以上であることがさらに好ましく、300mm2以上であることがさらに好ましい。
<病理診断支援システム100の動作>
以下、病理診断支援システム100において、上記説明した蛍光画像及び明視野画像を取得して解析を行う動作について説明する。ここでは、特定の生体物質として、特定のタンパク質(ここでは、乳癌組織におけるHER2タンパクとする。以下、特定タンパクと呼ぶ。)を認識する生体物質認識部位が結合した蛍光物質内包ナノ粒子を含む染色試薬を用いて染色された組織切片を観察対象とし、HER2タンパクが発現している細胞膜に囲まれた領域から関心領域を導出する場合を例にとり説明するが、これに限定されるものではない。
[第一の関心領域導出処理方法]
第一の関心領域導出処理方法において、画像処理装置2Aは、HE染色(第二の染色試薬による染色)に基づいて抽出された核領域(特定領域)に基づいて、関心領域を導出する。
まず、顕微鏡画像取得装置1Aを用いて、操作者は、(a1)〜(a5)の手順により明視野画像(第二画像)及び蛍光画像(第一画像)を取得する。
(a1)特定タンパクを認識する生体物質認識部位が結合した蛍光物質内包ナノ粒子を蛍光標識材料とした染色試薬、及びHE染色試薬により染色された組織切片を載置したスライドを顕微鏡画像取得装置1Aのスライド固定ステージに載置する。
(a2)明視野ユニットに設定し、撮影倍率及びピントの調整を行い、組織上の観察対象の領域を視野に納める。
(a3)撮像手段で撮影を行って明視野画像の画像データを生成し、画像処理装置2Aに画像データを送信する。
(a4)ユニットを蛍光ユニットに変更する。
(a5)視野及び撮影倍率を変えずに撮像手段で撮影を行って蛍光画像の画像データを生成し、画像処理装置2Aに画像データを送信する。
このように、顕微鏡画像取得装置1Aにおいては、同一の組織切片のスライドから同一の撮影倍率で同一範囲(同一視野)の明視野画像及び蛍光画像が取得されるので、明視野画像及び蛍光画像上の同一座標位置は、組織切片上の同一位置を示していることになり、両画像の位置の調整は不要である。
なお、顕微鏡は、オリンパス社製正立顕微鏡BX53を用い、対物レンズを40倍に設定し、励起光を照射して組織切片から発せられる蛍光を結像し、顕微鏡設置カメラ(カラー)により蛍光画像(画像データ)を取得し、画像処理装置2Aに入力して画像解析ソフトにより蛍光輝点数を計測した。なお、上記カメラは画素サイズ4.4μm×4.4μm、縦画素数1200個、横画素数1600個(撮像領域7.2mm×5.3mm)を有している。
なお、本願発明者等の検討によれば、HE染色と蛍光物質内包ナノ粒子による染色を同時に行う場合、組織の自家蛍光とエオジンの発光(バックグラウンド)に対し、10%(1.1倍)以上の発光量差を蛍光物質内包ナノ粒子の蛍光輝点が有していれば、8ビット(0〜255階調)、12ビット(0〜4095階調)の何れの処理系においても、顕微鏡画像(蛍光画像)から蛍光輝点の自動検出処理が可能であった。蛍光物質内包ナノ粒子による染色のみの場合においては、組織の自家蛍光に対し、10%(1.1倍)以上の発光量差を蛍光物質内包ナノ粒子が有していれば、8ビット(0〜255階調)、12ビット(0〜4095階調)の何れの処理系においても蛍光輝点の自動検出処理が可能であった。そのため、蛍光ユニットにおける励起光波長は560〜630nmの範囲のものを選択することが好ましい。また、前記蛍光物質としては当該励起光により580〜690nmの範囲、より好ましくは600〜630nmの範囲にピークを有する蛍光を発するものを用いることが好ましい。この範囲にピークを有する蛍光物質であれば、上記範囲の励起光を選択したときに、エオジンの発光を含む組織の自家蛍光と蛍光物質内包ナノ粒子からの蛍光の発光差を確保して両者を区別して認識可能とする(両者の光量差10%(1.1倍)以上)を確保できるからである。
本実施の形態においては、8ビットの処理系を用いた。
図5に、本実施の形態における第一の関心領域導出処理のフローチャートを示す。第一の関心領域導出処理は、制御部21と記憶部25に記憶されているプログラムとの協働により実行される。
まず、通信I/F24により顕微鏡画像取得装置1Aからの明視野画像(第二画像)が入力されると(ステップS101:第二入力工程)、明視野画像が正規化及びHSV分解処理を施されて、明視野画像から明度が抽出されたV画像が抽出され(ステップS102)、次いで、V画像から細胞核の領域(核領域、第二画像特定領域)が抽出される(ステップS103:第二画像特定領域抽出工程)。
V画像からの核領域の抽出方法は任意であるが、例えば、図6Aに示されるようにモノクロ画像に変換されたV画像に対して、所定の閾値を用いて各画素の値がニ値化される。
なお、閾値は、画像取得条件や染色方法、組織切片の厚みなどに応じて適宜変更される。
ステップS103では、さらに、ノイズ処理が行われる。ノイズ処理は、具体的には、二値画像にクロージング処理を施すことにより行うことができる。クロージング処理は、膨張処理を行ってから同じ回数分だけ収縮処理を行う処理である。膨張処理は、注目画素からn×n画素(nは2以上の整数)の範囲内にある画素に1つでも白が含まれている場合に注目画素を白に置き換える処理である。収縮処理は、注目画素からn×n画素の範囲内にある画素に1つでも黒が含まれている場合に注目画素を黒に置き換える処理である。クロージング処理により、ノイズ等の小さい領域を除去することができる。
図6Bは、図6Aの画像を輝度200を閾値として二値化処理した後、白黒反転させた画像を示す。ステップS103の処理により、HE染色に基づいて核領域が抽出された画像(核領域画像)が得られる。
ノイズ処理後の画像にはラベリング処理が施され、抽出された核領域のそれぞれにラベルが付与される。ラベリング処理とは、連結している画素に同じラベル(番号)を付与していくことで画像内のオブジェクトを識別する処理である。ラベリング処理により、ノイズ処理後の画像から各核領域を識別してラベルを付与することができる。
次いで、抽出された個々の核領域の情報が抽出される(ステップS104)。核領域の情報とは、核領域の形態的特徴量に関する任意の情報であり、例えば、核領域の長さ(長径)、横幅(短径)、面積、隣接する核領域との距離、核領域の重心から所定の範囲内における核領域の密度、などが挙げられる。
次いで、以下のステップS105〜ステップS108の処理により、所定の条件を満たさない核領域が核領域画像から排除されて、関心領域が導出される。
所定の条件は、組織標本及び特定タンパクの種類、導出したい関心領域などに応じて任意に設定することができる。以下、複数の細胞が密集して存在する領域が関心領域として導出される場合を例に取り説明する。
まず、核領域の形状が所定の特徴を示す核領域が核領域画像から排除される(ステップS105)。具体的には、例えば、図6Bに示される核領域画像において、核領域の面積の平均値が3000画素であった場合には、面積が5000画素以下であり、且つ、「主軸長/主軸幅最大長」が2以上である細長い領域は、核ではないノイズと考えられるため、関心領域の導出に不要であると判断されて排除される。「主軸長/主軸幅最大長」が2以上であっても、面積が5000画素より大きい核領域は、複数の細胞核が重なっている領域と考えられるため、関心領域の導出に必要であると判断され、排除されない。
図6Cは、ステップS105の処理により図6Bから削除される領域を灰色で示した画像の一例である。なお、核領域の主軸長とは核領域の長径であり、主軸幅最大長とは核領域の主軸に直交する方向の長さの最大値である。
次いで、最も近接する核領域との間隔が所定の値以上である核領域が、他の細胞核から離れた外れ核として排除される(ステップS106)。つまり、所定の距離以内に別の特定領域が存在する場合は、その特定領域の近傍に細胞が密集していると考えられるため、関心領域の導出に必要であると判断される。
核領域間の間隔の定義は、例えば、核領域の重心間の距離、核領域の輪郭上の任意の点を結んだ線分の長さの最小値、など任意であり、組織標本の種類及び核領域の直径の平均値に基づく任意の値を所定の値として設定して良い。核領域の直径の定義は任意であるが、例えば、核領域の面積を算出し、同じ面積をもつ円の直径を核領域の直径とする。
例えば、図6Bに示される核領域の直径の平均値は50画素であるが、最も近接する核領域との距離が核領域の直径の平均値の1.2倍(60画素)より大きい核領域を、外れ核として図6Cの画像から排除した画像が図7Aの画像である。
次いで、関心領域の導出に必要であると判断された核領域の膨張処理が行われる(ステップS107)。膨張処理は、注目画素からn×n画素(nは2以上の整数)の範囲内にある画素の平均値に置き換える平滑化処理に、平滑化処理前の画像を加えることにより、核領域の輪郭をぼかした画像が得られる。
膨張率(膨張処理を行う画素の大きさ及び膨張処理の回数)は任意であるが、例えば、図7Aの画像に対して、101×101画素の領域で平滑化処理を行って平滑化処理後の画像に平滑化処理前の画像を加える処理を5回繰り返し行って膨張された画像が、図7Bである。
ステップS108では、ステップS107で膨張処理が施された画像の各画素の値が所定の閾値を用いて二値化されて、膨張された核領域の二値化画像が得られ、さらに、複数の核領域が密集した領域ではないと判断される微小領域が排除されて関心領域が導出される。図7Cに示される画像は、図7Bの画像を、輝度127を閾値として二値化し、さらに面積が5000画素以下である微小領域を排除して、複数の核領域が密集した領域を関心領域として導出した画像である。
なお、ステップS107において平滑化処理を行う画素の大きさは、ステップS106において排除する外れ核の定義に応じて決めることが好ましい。例えば、図7Aに示される画像においては、最も近接する核領域との距離が核領域の平均直径の1.2倍(60画素)より大きい核領域が外れ核として排除され、核領域の平均直径の約2倍である101×101画素の領域で平滑化を行うことにより、近接する核領域の間の領域では、輝度が高まる。その後、ステップS108において適度な閾値で二値化処理を施すことによって、近接する核領域を包括する領域が関心領域として導出される。
ステップS107の膨張処理では、核領域の面積を算出する面積算出工程又は核領域の密度(面積当たりの個数)を算出する密度算出工程を備えて、これらに基づいて膨張率を定めても良い。例えば、細胞の密度が低く、核領域の面積や密度が小さい組織の場合であっても、膨張率を大きくすれば、複数の細胞が比較的高密度に集まった領域をまとめた一つの領域を関心領域として導出することができる。
制御部21は、以上の処理により導出した関心領域における蛍光輝点数を解析し、特定タンパクの発現状況を評価する。
[第二の関心領域導出処理方法]
一般的に、組織標本から連続して採取された2枚の組織切片においては、組織の形状には大きな違いがないことから、2枚の組織切片の画像の位置を補正することにより、2枚の組織切片の関心領域はほぼ一致するととみなすことができる。
そこで、第二の関心領域導出処理方法において、画像処理装置2Aは、例えば、特定タンパクの定量を行う観察対象である組織切片に連続して採取された組織切片における関心領域を、DAB法等の免疫組織化学染色法による特定タンパクの染色に基づいて導出する。そして、2枚の組織切片のHE染色画像のずれに基づいて、導出された連続標本の関心領域の位置及び形状を補正して、観察対象である組織切片の関心領域とする。
以下、第二の関心領域導出処理が、上述した第一の関心領域導出処理と異なる構成を中心に説明し、共通する構成については説明を省略する。
まず、顕微鏡画像取得装置1Aにおいて、操作者は、下記の(b1)〜(b7)の手順により明視野画像及び蛍光画像を取得する。
(b1)連続した2枚の組織切片(切片A(標本)及び切片B(連続標本)とする)を準備する。次いで、切片Aを、特定タンパクを認識する生体物質認識部位が結合した蛍光物質内包ナノ粒子を蛍光標識材料とした染色試薬(第一の染色試薬)及びHE染色試薬(第二の染色試薬)により染色する。次いで、切片Bの特定タンパクをDAB法を用いて染色し、さらにHE染色試薬を用いて染色する。
(b2)切片Aを載置したスライドを顕微鏡画像取得装置1Aのスライド固定ステージに載置する。明視野ユニットに設定し、撮影倍率、ピントの調整を行い、組織上の観察対象の領域を視野に納める。
(b3)撮像手段で撮影を行って切片Aの明視野画像(第二画像)の画像データを生成し、画像処理装置2Aに画像データを送信する。
(b4)ユニットを蛍光ユニットに変更する。
(b5)視野及び撮影倍率を変えずに撮像手段で撮影を行って、切片Aの蛍光画像(第一画像)の画像データを生成し、画像処理装置2Aに画像データを送信する。
(b6)切片Bを載置したスライドを顕微鏡画像取得装置1Aのスライド固定ステージに載置する。明視野ユニットに設定し、(b2)と同じ撮影倍率で、(b2)で撮影した切片Aの観察対象の領域に概ね隣接する領域を視野に納め、ピントの調整を行う。
(b7)撮像手段で撮影を行って、切片Bの明視野画像(第三画像及び第四画像)の画像データを生成し、画像処理装置2Aに画像データを送信する。
このように、顕微鏡画像取得装置1Aにおいては、切片Aを載置したスライドから同一の撮影倍率で同一範囲(同一視野)の明視野画像及び蛍光画像が取得されるので、切片Aの明視野画像と蛍光画像の同一座標位置は組織切片の同一位置を示していることになり、両画像の位置合わせは不要である。
図8に、本実施の形態における第二の関心領域導出処理のフローチャートを示す。第二の画像解析処理は、制御部21と記憶部25に記憶されているプログラムとの協働により実行される。
まず、通信I/F24により顕微鏡画像取得装置1Aから観察対象である切片Aの明視野画像が入力されると(ステップS201:第二入力工程)、明視野画像が正規化及びHSV分解処理を施されて、V画像が抽出され(ステップS202)、次いで、V画像から細胞核の領域(核領域、第二画像特定領域)が抽出される(ステップS203:第二画像特定領域抽出工程)。
次いで、抽出された個々の核領域の情報が抽出され(ステップS204)、所定の形状を満たさない核領域が核領域画像から排除されて(ステップS205)、HE染色に基づいて切片Aの核領域が抽出された画像(核領域画像)が取得される。
なお、上記ステップS201〜ステップS205の処理の詳細は、第一の関心領域導出処理におけるステップS101〜ステップS105の処理と同様である。
次いで、通信I/F24により顕微鏡画像取得装置1Aから連続標本である切片Bの明視野画像が入力されると(ステップS206:第三入力工程、第四入力工程)、切片Bの明視野画像が正規化及びRGB分解される(ステップS207)。
次いで、切片Bの明視野画像から青色成分が抽出された画像(B画像)から、第四画像特定領域として、HE染色により青色に染色された核領域が抽出される(ステップS208:第四画像特定領域抽出工程)。B画像からの核領域の抽出方法は任意であるが、例えば、切片Bの明視野画像(図9A)がRGB分解されて、モノクロ画像へ変換されたB画像(図9B)に対して、所定の閾値を用いて各画素の値が二値化される。なお、閾値は、画像取得条件や染色方法、組織切片の厚みなどに応じて適宜変更される。
ステップS208では、さらに、ステップS103と同様のノイズ処理が行われる。ノイズ処理では、第一の関心領域導出処理におけるステップS105の処理と同様に、抽出された核領域の大きさや形等の特徴量に基づいて、細胞核ではないと判断される領域を排除しても良い。
図9Cは、図9Bに示される画像に対し、輝度160を閾値として二値化処理を施し、さらにノイズ処理及び白黒反転処理を施した後、面積が20000画素以上の領域を排除した画像を示す。ステップS208の処理により、切片Bの核領域が抽出された画像(核領域画像)が得られる。
次いで、切片Bの明視野画像から赤色成分が抽出された画像(R画像)から、DAB染色に基づいて切片Bの関心領域(本実施の形態における特定タンパクであるHER2が発現する領域である、細胞膜に囲まれた領域)が抽出される(ステップS209:連続標本関心領域抽出工程)。
ステップS209においては、例えば、図10Aに示されるようなモノクロ画像へ変換されたR画像において、所定の閾値を用いて各画素の値が二値化される。なお、閾値は、画像取得条件や染色方法、組織切片の厚みなどに応じて適宜変更される。
次いで、ステップS103と同様のノイズ処理が行われる。ノイズ処理では、抽出された領域のうち、面積が小さく、他の細胞から離れて単独で存在している細胞とみなすことのできる領域を排除しても良い。
図10Bは、図10Aの画像を、輝度180を閾値として二値化処理して、さらにノイズ処理及び白黒反転処理を施した後、面積が5000画素以下の微小領域を排除した画像を示す。ステップS209の処理により、切片Bにおいて、DAB染色に基づいて関心領域が抽出された画像(DAB−ROI画像)が得られる。
ステップS205及びステップS208の処理の後、ステップS205で取得した切片Aの核領域画像(図6C)およびステップS208で取得した切片Bの核領域画像(図9C)のパターンマッチングを行う(ステップS210)。具体的には、例えば、切片Bの核領域画像を様々な方法で変形(例えば、移動、回転、拡大、縮小など)させた変形画像を作成して切片Aの核領域画像と重ね、重ねた2枚の画像の核領域の形状の適合度を任意の方法で算出し、適合度が最大となる変形画像を探す。
例えば、図6Cに示される切片Aの核領域画像および図9Cに示される切片Bの核領域画像のパターンマッチングによれば、図9Cの画像を時計回りに10度回転し、さらに縦方向に110%拡大した変形画像を図6Cの画像と重ねた場合に、図11Aに示されるように、2枚の画像の核領域の形状が最もよく一致して、適合度が最大となる。この時の変形画像の変形パラメーター(切片Bの核領域画像から変形画像を作成する際の移動距離、回転角度、倍率など)を、「補正値」とする。
次いで、ステップS209で作成したDAB−ROI画像を、補正値を用いて変形(ステップS211)して、切片Aの核領域画像(図6C)と重ねる。補正値を用いた変形などによって、切片Aの核領域画像上に、DAB−ROI画像の画像データが存在しない領域が生じた場合には、近傍の画像データに基づいて任意の方法で補正を行い、切片Aの関心領域を導出する(ステップS212)。例えば、図10BのDAB−ROI画像を時計回りに10度回転し、さらに縦方向に110%拡大する変形を行うと、図11Bのように左下部分の画像データが存在しないため、連続標本関心領域が切れているが、切れた部分の周辺の画像パターンに基づいて連続標本関心領域を延長する補正により、図11Cのような関心領域を導出することができる。
制御部21は、以上の処理により導出した関心領域における蛍光輝点数を解析し、特定タンパクの発現状況を評価する。
なお、連続標本として、切片Aの切片Bと接している面と反対側の面に接する切片Cを更に用いても良い。具体的には、まず、切片B及び切片Cのそれぞれを用いて、図8のフローチャートに示される処理を同様に行って、関心領域を導出する。そして、切片B及び切片Cに基づいて得られた2つの関心領域を平均したものを、切片Aの関心領域とする。観察対象である切片Aを挟む2枚の切片を連続標本として用いて、これらに基づく関心領域を平均することで、より正確な関心領域を得ることができるため好ましい。
[第三の関心領域導出処理方法]
第三の関心領域導出処理方法において、画像処理装置2Aは、HE染色に基づいて抽出した核領域及び生体物質の発現を示す蛍光輝点に基づいて、関心領域を導出する。
以下、第三の関心領域導出処理が、上述した第一の関心領域導出処理と異なる構成を中心に説明し、共通する構成については説明を省略する。
まず、操作者は、第一の関心領域導出処理方法における明視野画像及び蛍光画像の取得(a1)〜(a5)と同様の手順により、顕微鏡画像取得装置1Aにおいて、明視野画像及び蛍光画像を取得する。
図12に、本実施の形態における第三の関心領域導出処理のフローチャートを示す。図12に示す第三の画像解析処理は、制御部21と記憶部25に記憶されているプログラムとの協働により実行される。
まず、通信I/F24により顕微鏡画像取得装置1Aからの明視野画像が入力されると(ステップS301:第二入力工程)、明視野画像が正規化及びHSV分解処理を施されて、V画像が抽出され(ステップS302)、次いで、V画像から細胞核の領域(核領域、第二画像特定領域)が抽出された画像(核領域画像)が取得される(ステップS303:第二画像特定領域抽出工程)。
次いで、抽出された個々の核領域の情報が抽出され(ステップS304)、所定の形状を満たさない核領域が核領域画像から排除されて(ステップS305)、標本のHE染色に基づく細胞核の領域が抽出された画像(核領域画像)が取得される。
なお、上記ステップS301〜ステップS305の処理の詳細は、第一の関心領域導出処理におけるステップS101〜ステップS105の処理と同様である。
次いで、通信I/F24により顕微鏡画像取得装置1Aからの蛍光画像(第一画像)が入力されると(ステップS306:第一入力工程)、蛍光画像から蛍光輝点が抽出された輝点画像が作成される(ステップS307)。
蛍光輝点の抽出方法は任意であるが、例えば、まず、図13Aに示されるような蛍光画像から、蛍光輝点の大きさに応じたハイパスフィルタ処理を行いて、蛍光輝点が抽出される。例えば、第一の染色試薬に用いた蛍光粒子の平均直径が10画素に相当する場合には、半径5画素のハイパスフィルタを用いることにより、蛍光輝点のみが画像として抽出される。次いで、所定の閾値を用いて二値化画像が生成されて、蛍光輝点が抽出される。
図13Bは、図13Aの蛍光画像にハイパスフィルタ処理を施してエッジを強調し、さらに所定の閾値を用いて各画素の値を二値化することによって、蛍光輝点が抽出された画像の一例を示す。
ステップS305及びステップS307の処理の後、核領域画像及び輝点画像が重ね合わせられて、ステップS305で抽出された核領域から所定の距離以上離れた蛍光輝点が、外れ輝点として削除される(ステップS308)。外れ輝点の定義は任意であるが、例えば、核領域画像及び輝点画像の重ね合わせ画像上で、蛍光輝点のそれぞれについて、最も近い核領域までの距離を算出し、算出された距離が所定の値以上である蛍光輝点を外れ輝点とする。所定の距離は、核領域の直径の平均値や標本の種類に応じて任意に設定してよいが、例えば、図7Aに示されるような核領域画像から算出された核領域の直径の平均値を算出し、これを所定の距離とする。
このような外れ輝点は、ステップS305で抽出された細胞核を含む細胞の外部に存在するノイズとみなすことができる。図13Cは、図13Bに示される輝点画像から、最も近い核領域までの距離が50画素(核領域の直径の平均値)以上である蛍光輝点が、外れ輝点として削除された画像の一例を示す。
次いで、外れ輝点が削除された輝点画像において、蛍光輝点を囲む輪郭が抽出され(ステップS309)、抽出された輪郭の内部が関心領域として導出される(ステップS310)。
輪郭の抽出方法は任意であるが、例えば、SNAKES(スネイクス)モデルに代表される公知の動的輪郭抽出アルゴリズムを実行して、蛍光輝点に沿う閉曲線を求める手法を用いることができる。スネイクスモデルによる手法は、具体的には、輪郭を抽出するとなる画像内に複数の候補点を設定し、当該複数の候補点に対し、輪郭の滑らかさを定義する内部エネルギー、領域の境界においてエネルギーが最小となるように設計された画像エネルギー、領域が初期領域より膨張するように設計された外部エネルギーを算出し、各エネルギーの和が最小となるように候補点を制御することにより、動的に輪郭を決定する手法である。
その他、例えば、蛍光輝点の凸包を作成して、輪郭としてもよい。
ステップS310の処理により、図13Cに示されるような輝点画像から図14Aに示されるような輪郭が抽出されて、その内側の領域が、図14Bに示されるような関心領域として導出される。
制御部21は、以上の処理により導出した関心領域における蛍光輝点数を解析し、特定タンパクの発現状況を評価する。
以上説明した第一〜第三の関心領域導出処理によれば、組織切片の画像から関心領域を自動的に導出することができるので、操作者の手間を低減することができ、また、操作者毎のばらつきが生じることもない。
また、特定タンパクの定量を行う観察対象の組織切片は、特定タンパクの定量を行うための染色法(例えば、蛍光色素を用いた免疫組織化学染色)と干渉する手法(例えば、DAB法)によって染色されないので、特定タンパクの定量精度が高い。
また、抽出した核領域(特定領域)を関心領域の導出に用いるか否かを、核領域の形状、密度、大きさ、分布(例えば、他の細胞核から離れた外れ核か否か)、等に基づいて判断するので、特定タンパクの定量対象として適した特徴を有する細胞を効率良く抽出して関心領域の導出に用いることができる。
また、第二の関心領域導出処理によれば、隣接する組織切片において特定タンパクが発現している細胞領域を示すDAB染色画像に基づいて、関心領域を導出するので、特定タンパクが発現している細胞領域を関心領域として抽出することができ、癌領域及び癌領域における特定タンパクの発現状況を効率良く把握することが可能となる。
また、連続する組織切片との核領域のパターンマッチングに基づいて画像のずれを補正するので、観察対象の組織切片の関心領域を正確に導出することができる。
また、第二の関心領域導出処理においては、観察対象の組織切片を挟む2枚の組織切片を連続標本とすれば、各連続標本のDAB−ROI画像から導出した関心領域の平均値を観察対象の組織切片の関心領域とすることができるため好ましい。
また、第三の関心領域導出処理によれば、特定タンパクの発現を表す蛍光輝点の位置と核領域の位置に基づいて関心領域を導出することにより、特定タンパクが発現している細胞領域付近の関心領域を効率よく抽出することができ、癌領域及び癌領域における特定タンパクの発現状況を効率良く把握することが可能となる。
なお、上記実施の形態における記述内容は、本発明の好適な一例であり、これに限定されるものではない。
例えば、本発明の画像処理において用いられる、細胞の特徴量、二値化処理の閾値、距離、面積は、顕微鏡画像取得装置1Aにおける撮影条件、組織標本、染色試薬、特定タンパク、染色条件等に応じて適宜変更される。
また、上記実施の形態においては、細胞核領域を抽出するための染色方法の例としてH染色、HE染色を挙げたが、細胞核の抽出方法はこれらに限られるものではなく、DAPI染色など、公知の任意の染色方法を用いることができる。
また、第一及び第三の関心領域導出処理においては、自家蛍光などに基づいて抽出した細胞領域に基づいて、関心領域を導出することとしてもよい。また、第二の関心領域導出処理においても2枚の連続した組織切片からそれぞれ抽出された細胞領域に対して、パターンマッチングを行ってもよい。
また、用いる染色試薬に応じて、取得する画像の種類は変更する。例えば、第二の関心領域導出処理の実施の形態において、切片Bは、特定タンパクがDAB法により染色されて細胞核がHE染色試薬により染色されるため、(b7)で取得される明視野画像が、特定タンパクの発現を示す第三画像及び特定領域の形態を表す第四画像を兼ねることとして説明したが、例えば、第三画像又は第四画像の何れか一方として切片Bの蛍光画像を取得する場合には、(b4)〜(b5)の手順と同様にして、切片Bの明視野画像と同一範囲(同一視野)の蛍光画像を取得する。
また、第三の関心領域導出処理においては、ステップS307で作成された輝点画像における蛍光輝点の存在する領域の範囲に基づいて膨張率を設定して、ステップS305で抽出された核領域に、当該膨張率を用いて膨張処理を施して、関心領域としても良い。
また、例えば、ステップS309で抽出した蛍光輝点の輪郭の内側にある核領域に対して、蛍光輝点の輪郭に基づいた膨張率の膨張処理を施して、関心領域としても良い。
また、上記実施の形態においては、特定タンパクの例として乳癌におけるHER2タンパクを挙げたが、これに限定されない。診断対象となる病変(がん)種に応じて、蛍光画像を取得する際の生体物質認識部位を異なるものとすれば、病変種に応じた特定タンパクの発現量を定量的に示す特徴量を医師に提供することが可能となる。
また、上記の説明では、本発明に係るプログラムのコンピュータ読み取り可能な媒体としてHDDや半導体の不揮発性メモリー等を使用した例を開示したが、この例に限定されない。その他のコンピュータ読み取り可能な媒体として、CD−ROM等の可搬型記録媒体を適用することが可能である。また、本発明に係るプログラムのデータを通信回線を介して提供する媒体として、キャリアウエーブ(搬送波)も適用される。
その他、病理診断支援システム100を構成する各装置の細部構成及び細部動作に関しても、発明の趣旨を逸脱することのない範囲で適宜変更可能である。
本発明は、組織切片の画像の中から特定の生体物質の発現量を解析するための関心領域を自動的に導出できることを特徴とし、操作者の手間が低減され、また、操作者毎のばらつきが生じることもないため、より高精度な診断情報の取得に特に好適に利用することができる。
100 病理診断支援システム
1A 顕微鏡画像取得装置
2A 画像処理装置
21 制御部
22 操作部
23 表示部
24 通信I/F
25 記憶部
26 バス
3A ケーブル

Claims (17)

  1. 特定の生体物質を染色する第一の染色試薬、及び前記第一の染色試薬による染色に干渉することなく細胞の特定領域を染色する第二の染色試薬によって染色された標本の関心領域における前記生体物質を定量する画像処理装置において、
    前記標本は、組織から採取した組織切片であり、
    前記第一の染色試薬により染色された前記生体物質の発現位置を表す第一画像を入力する第一入力手段と、
    前記第二の染色試薬により染色された細胞の特定領域の形態を表し、前記第一画像と同一視野範囲を撮影した第二画像を入力する第二入力手段と、
    前記第二画像から、前記特定領域を第二画像特定領域として抽出する第二画像特定領域抽出手段と、
    前記組織切片に連続する組織切片であって、前記生体物質の発現領域及び細胞の特定領域を抽出可能に染色された連続標本から、前記生体物質の発現領域を抽出可能な第三画像を入力する第三入力手段と、
    前記第三画像から、前記生体物質の発現領域を連続標本関心領域として抽出する連続標本関心領域抽出手段と、
    前記連続標本における前記特定領域の形態を表す第四画像を入力する第四入力手段と、
    前記第四画像から、前記連続標本における前記特定領域を第四画像特定領域として抽出する第四画像特定領域抽出手段と、
    前記特定領域が抽出された前記第二画像及び前記第一画像のうち少なくとも前記特定領域が抽出された前記第二画像に基づいて前記関心領域を導出する導出手段と、を備え、
    前記導出手段は、前記第二画像特定領域及び前記第四画像特定領域の形状に基づいて、前記連続標本関心領域から前記標本の関心領域を導出することを特徴とする画像処理装置。
  2. 特定の生体物質を染色する第一の染色試薬、及び前記第一の染色試薬による染色に干渉することなく細胞の特定領域を染色する第二の染色試薬によって染色された標本の関心領域における前記生体物質を定量する画像処理装置において、
    前記第一の染色試薬により染色された前記生体物質の発現位置を表す第一画像を入力する第一入力手段と、
    前記第二の染色試薬により染色された細胞の特定領域の形態を表し、前記第一画像と同一視野範囲を撮影した第二画像を入力する第二入力手段と、
    前記第二画像から、前記特定領域を第二画像特定領域として抽出する第二画像特定領域抽出手段と、
    前記特定領域が抽出された前記第二画像及び前記第一画像のうち少なくとも前記特定領域が抽出された前記第二画像に基づいて前記関心領域を導出する導出手段と、を備え、
    前記導出手段は、前記特定領域が抽出された前記第二画像及び前記生体物質の発現位置を表す前記第一画像に基づいて、関心領域を導出することを特徴とする画像処理装置。
  3. 前記導出手段は、前記特定領域を膨張させる膨張処理を行い、膨張した前記特定領域を前記関心領域として導出することを特徴とする請求項に記載の画像処理装置。
  4. 前記導出手段は、前記特定領域の形状に基づいて、前記特定領域が前記関心領域の導出に必要か否かを判断し、前記関心領域の導出に必要と判断された前記特定領域を前記膨張処理して前記関心領域を導出することを特徴とする請求項に記載の画像処理装置。
  5. 前記導出手段は、前記特定領域から最も近接する別の前記特定領域までの距離が所定の距離以下である場合に、前記特定領域が前記関心領域の導出に必要であると判断することを特徴とする請求項3又は4に記載の画像処理装置。
  6. 前記特定領域の密度を算出する密度算出手段を備え、
    前記導出手段は、前記密度に基づいて前記膨張処理における膨張率を決定することを特徴とする請求項3〜5の何れか一項に記載の画像処理装置。
  7. 前記特定領域の面積を算出する面積算出手段を備え、
    前記導出手段は、前記面積に基づいて前記膨張処理における膨張率を決定することを特徴とする請求項3〜5の何れか一項に記載の画像処理装置。
  8. 前記連続標本は、前記標本を挟む2枚の組織切片であることを特徴とする請求項に記載の画像処理装置。
  9. 前記第二画像又は前記第四画像を変形して、前記第二画像特定領域及び前記第四画像特定領域のパターンマッチング処理を行い、第二画像特定領域及び前記第四画像特定領域の適合度が最大となる変形パラメーターを補正値として算出する補正値算出手段を備え、
    前記導出手段は、前記補正値に基づいて前記連続標本関心領域を変形することにより、前記標本の関心領域を導出することを特徴とする、請求項1又は8に記載の画像処理装置。
  10. 前記補正値は、平行移動及び/又は回転移動を含むことを特徴とする請求項に記載の画像処理装置。
  11. 前記補正値は、拡大又は縮小を含むことを特徴とする請求項9又は10に記載の画像処理装置。
  12. 前記導出手段は、前記特定領域が抽出された前記第二画像及び前記生体物質の発現位置を表す前記第一画像を重ね合わせた画像において、前記生体物質の発現位置のそれぞれについて、最も近い前記特定領域までの距離を算出し、算出した距離が所定の距離以下である前記生体物質の発現位置の外郭を結んだ輪郭の内部を関心領域として導出することを特徴とする請求項に記載の画像処理装置。
  13. 前記所定の距離は、前記特定領域の大きさに基づいて決定されることを特徴とする請求項12に記載の画像処理装置。
  14. 特定の生体物質を染色する第一の染色試薬、及び前記第一の染色試薬による染色に干渉することなく細胞の特定領域を染色する第二の染色試薬によって染色された標本の関心領域における前記生体物質を定量する画像処理方法において、
    前記標本は、組織から採取した組織切片であり、
    前記第一の染色試薬により染色された前記生体物質の発現位置を表す第一画像を入力する第一入力ステップと、
    前記第二の染色試薬により染色された細胞の特定領域の形態を表し、前記第一画像と同一視野範囲を撮影した第二画像を入力する第二入力ステップと、
    前記第二画像から、前記特定領域を第二画像特定領域として抽出する第二画像特定領域抽出ステップと、
    前記組織切片に連続する組織切片であって、前記生体物質の発現領域及び細胞の特定領域を抽出可能に染色された連続標本から、前記生体物質の発現領域を抽出可能な第三画像を入力する第三入力ステップと、
    前記第三画像から、前記生体物質の発現領域を連続標本関心領域として抽出する連続標本関心領域抽出ステップと、
    前記連続標本における前記特定領域の形態を表す第四画像を入力する第四入力ステップと、
    前記第四画像から、前記連続標本における前記特定領域を第四画像特定領域として抽出する第四画像特定領域抽出ステップと、
    前記特定領域が抽出された前記第二画像及び前記第一画像のうち少なくとも前記特定領域が抽出された前記第二画像に基づいて前記関心領域を導出する導出ステップを有し、
    前記導出ステップは、前記第二画像特定領域及び前記第四画像特定領域の形状に基づいて、前記連続標本関心領域から前記標本の関心領域を導出することを特徴とする、画像処理方法。
  15. 特定の生体物質を染色する第一の染色試薬、及び前記第一の染色試薬による染色に干渉することなく細胞の特定領域を染色する第二の染色試薬によって染色された標本の関心領域における前記生体物質を定量する画像処理方法において、
    前記第一の染色試薬により染色された前記生体物質の発現位置を表す第一画像を入力する第一入力ステップと、
    前記第二の染色試薬により染色された細胞の特定領域の形態を表し、前記第一画像と同一視野範囲を撮影した第二画像を入力する第二入力ステップと、
    前記第二画像から、前記特定領域を抽出する第二画像特定領域抽出ステップと、
    前記特定領域が抽出された前記第二画像及び前記第一画像のうち少なくとも前記特定領域が抽出された前記第二画像に基づいて前記関心領域を導出する導出ステップを有し、
    前記導出ステップは、前記特定領域が抽出された前記第二画像及び前記生体物質の発現位置を表す前記第一画像に基づいて、関心領域を導出することを特徴とする、画像処理方法。
  16. 特定の生体物質を染色する第一の染色試薬、及び前記第一の染色試薬による染色に干渉することなく細胞の特定領域を染色する第二の染色試薬によって染色された、組織から採取した組織切片からなる標本の関心領域における前記生体物質を定量するコンピュータを、
    前記第一の染色試薬により染色された前記生体物質の発現位置を表す第一画像を入力する第一入力手段、
    前記第二の染色試薬により染色された細胞の特定領域の形態を表し、前記第一画像と同一視野範囲を撮影した第二画像を入力する第二入力手段、
    前記第二画像から、前記特定領域を第二画像特定領域として抽出する第二画像特定領域抽出手段、
    前記組織切片に連続する組織切片であって、前記生体物質の発現領域及び細胞の特定領域を抽出可能に染色された連続標本から、前記生体物質の発現領域を抽出可能な第三画像を入力する第三入力手段、
    前記第三画像から、前記生体物質の発現領域を連続標本関心領域として抽出する連続標本関心領域抽出手段、
    前記連続標本における前記特定領域の形態を表す第四画像を入力する第四入力手段、
    前記第四画像から、前記連続標本における前記特定領域を第四画像特定領域として抽出する第四画像特定領域抽出手段、
    前記特定領域が抽出された前記第二画像及び前記第一画像のうち少なくとも前記特定領域が抽出された前記第二画像に基づいて前記関心領域を導出する導出手段、
    として機能させ
    前記導出手段は、前記第二画像特定領域及び前記第四画像特定領域の形状に基づいて、前記連続標本関心領域から前記標本の関心領域を導出することを特徴とするプログラム。
  17. 特定の生体物質を染色する第一の染色試薬、及び前記第一の染色試薬による染色に干渉することなく細胞の特定領域を染色する第二の染色試薬によって染色された標本の関心領域における前記生体物質を定量するコンピュータを、
    前記第一の染色試薬により染色された前記生体物質の発現位置を表す第一画像を入力する第一入力手段、
    前記第二の染色試薬により染色された細胞の特定領域の形態を表し、前記第一画像と同一視野範囲を撮影した第二画像を入力する第二入力手段、
    前記第二画像から、前記特定領域を抽出する第二画像特定領域抽出手段、
    前記特定領域が抽出された前記第二画像及び前記第一画像のうち少なくとも前記特定領域が抽出された前記第二画像に基づいて前記関心領域を導出する導出手段、
    として機能させ
    前記導出手段は、前記特定領域が抽出された前記第二画像及び前記生体物質の発現位置を表す前記第一画像に基づいて、関心領域を導出することを特徴とするプログラム。
JP2016548783A 2014-09-19 2015-08-19 画像処理装置、画像処理方法、及びプログラム Active JP6443450B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2014190838 2014-09-19
JP2014190838 2014-09-19
PCT/JP2015/073184 WO2016042963A1 (ja) 2014-09-19 2015-08-19 画像処理装置、画像処理方法、及びプログラム

Publications (2)

Publication Number Publication Date
JPWO2016042963A1 JPWO2016042963A1 (ja) 2017-09-07
JP6443450B2 true JP6443450B2 (ja) 2018-12-26

Family

ID=55533005

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016548783A Active JP6443450B2 (ja) 2014-09-19 2015-08-19 画像処理装置、画像処理方法、及びプログラム

Country Status (3)

Country Link
US (1) US10094767B2 (ja)
JP (1) JP6443450B2 (ja)
WO (1) WO2016042963A1 (ja)

Families Citing this family (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9784665B1 (en) * 2014-12-29 2017-10-10 Flagship Biosciences, Inc. Methods for quantitative assessment of muscle fibers in muscular dystrophy
WO2016134474A1 (en) * 2015-02-25 2016-09-01 London Health Sciences Centre Research Inc. Automated segmentation of histological sections for vasculature quantification
GB2554572B (en) 2015-03-26 2021-06-23 Dovetail Genomics Llc Physical linkage preservation in DNA storage
EP3954771A1 (en) 2016-05-13 2022-02-16 Dovetail Genomics, LLC Recovering long-range linkage information from preserved samples
WO2018157048A1 (en) 2017-02-24 2018-08-30 Massachusetts Institute Of Technology Methods for examining podocyte foot processes in human renal samples using conventional optical microscopy
WO2018157074A1 (en) * 2017-02-24 2018-08-30 Massachusetts Institute Of Technology Methods for diagnosing neoplastic lesions
JP7215418B2 (ja) * 2017-07-05 2023-01-31 コニカミノルタ株式会社 画像処理装置及び画像処理方法並びにこれを用いた病理診断支援システム
US10950424B2 (en) * 2017-09-25 2021-03-16 Bruker Daltonik, Gmbh Method for monitoring the quality of mass spectrometric imaging preparation workflows
JP7184046B2 (ja) * 2017-10-19 2022-12-06 コニカミノルタ株式会社 生体物質定量方法、画像処理装置、病理診断支援システム及びプログラム
US11873374B2 (en) 2018-02-06 2024-01-16 Massachusetts Institute Of Technology Swellable and structurally homogenous hydrogels and methods of use thereof
US20210088444A1 (en) * 2018-03-07 2021-03-25 Konica Minolta, Inc. Image Processing Method, Image Processing Device, and Program
JP7298993B2 (ja) 2018-04-09 2023-06-27 浜松ホトニクス株式会社 試料観察装置及び試料観察方法
US11861826B2 (en) * 2018-05-30 2024-01-02 Shimadzu Corporation Imaging data processing device
JP7530709B2 (ja) * 2019-10-11 2024-08-08 株式会社島津製作所 細胞画像解析方法及び細胞解析装置
US11802822B2 (en) 2019-12-05 2023-10-31 Massachusetts Institute Of Technology Multiplexed expansion (MultiExM) pathology
JP2021124861A (ja) * 2020-02-04 2021-08-30 ソニーグループ株式会社 解析装置、解析方法、解析プログラム及び診断支援システム
JPWO2021256429A1 (ja) * 2020-06-16 2021-12-23

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20080016847A (ko) * 2005-05-13 2008-02-22 트리패스 이미징, 인코포레이티드 크로모겐 분리에 기초한 영상 분석 방법
JP4558047B2 (ja) * 2008-01-23 2010-10-06 オリンパス株式会社 顕微鏡システム、画像生成方法、及びプログラム
JP5269637B2 (ja) * 2009-02-13 2013-08-21 オリンパス株式会社 画像処理装置および画像処理プログラム
JP2010185858A (ja) * 2009-02-13 2010-08-26 Olympus Corp 画像処理装置および画像処理プログラム
JP5766178B2 (ja) * 2009-03-24 2015-08-19 ザ・ユニバーシティ・オブ・シカゴThe University Of Chicago SlipChip装置および方法
JP5858461B2 (ja) * 2011-03-17 2016-02-10 コニカミノルタ株式会社 病理診断情報生成方法及び病理診断情報生成システム
JP5804194B2 (ja) * 2012-03-30 2015-11-04 コニカミノルタ株式会社 医用画像処理装置及びプログラム
EP2833123A4 (en) * 2012-03-30 2015-12-09 Konica Minolta Inc MEDICAL IMAGE PROCESSOR AND PROGRAM
JP2014063019A (ja) * 2012-09-21 2014-04-10 Keyence Corp 撮影解析装置、その制御方法及び撮影解析装置用のプログラム
JP5953195B2 (ja) * 2012-09-21 2016-07-20 株式会社キーエンス 撮影解析装置、その制御方法及び撮影解析装置用のプログラム
US9224106B2 (en) * 2012-12-21 2015-12-29 Nec Laboratories America, Inc. Computationally efficient whole tissue classifier for histology slides

Also Published As

Publication number Publication date
WO2016042963A1 (ja) 2016-03-24
US10094767B2 (en) 2018-10-09
JPWO2016042963A1 (ja) 2017-09-07
US20170276598A1 (en) 2017-09-28

Similar Documents

Publication Publication Date Title
JP6443450B2 (ja) 画像処理装置、画像処理方法、及びプログラム
JP6350527B2 (ja) 画像処理装置、病理診断支援システム、画像処理プログラム及び病理診断支援方法
JP5804194B2 (ja) 医用画像処理装置及びプログラム
JP5892238B2 (ja) 医用画像処理装置及びプログラム
WO2016093090A1 (ja) 画像処理装置及び画像処理プログラム
JP6635108B2 (ja) 画像処理装置、画像処理方法、及び画像処理プログラム
JP6597316B2 (ja) 画像処理装置及びプログラム
JP5768948B1 (ja) 画像処理装置および画像処理プログラム
JP6763407B2 (ja) 画像処理装置及びプログラム
JP7173034B2 (ja) 画像処理装置、合焦位置特定方法及び合焦位置特定プログラム
JP6493398B2 (ja) 診断支援情報生成方法、画像処理装置、診断支援情報生成システム及び画像処理プログラム
JP6375925B2 (ja) 画像処理装置、画像処理システム、画像処理プログラム及び画像処理方法
JP7235036B2 (ja) 画像処理方法、画像処理装置及びプログラム
JP6337629B2 (ja) 診断支援情報生成方法、画像処理装置、診断支援情報生成システム及び画像処理プログラム
US10748283B2 (en) Image processing device and program
JP6405985B2 (ja) 画像処理装置、画像処理システム、画像処理プログラム及び画像処理方法
JP6801653B2 (ja) 画像処理装置、画像処理方法、および画像処理用のプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20171214

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180821

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20181016

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20181030

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20181112

R150 Certificate of patent or registration of utility model

Ref document number: 6443450

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150