JPWO2019172097A1 - 画像処理方法、画像処理装置及びプログラム - Google Patents
画像処理方法、画像処理装置及びプログラム Download PDFInfo
- Publication number
- JPWO2019172097A1 JPWO2019172097A1 JP2020504971A JP2020504971A JPWO2019172097A1 JP WO2019172097 A1 JPWO2019172097 A1 JP WO2019172097A1 JP 2020504971 A JP2020504971 A JP 2020504971A JP 2020504971 A JP2020504971 A JP 2020504971A JP WO2019172097 A1 JPWO2019172097 A1 JP WO2019172097A1
- Authority
- JP
- Japan
- Prior art keywords
- image
- dye
- fluorescent
- luminance value
- image processing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/62—Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light
- G01N21/63—Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited
- G01N21/64—Fluorescence; Phosphorescence
- G01N21/6428—Measuring fluorescence of fluorescent products of reactions or of fluorochrome labelled reactive substances, e.g. measuring quenching effects, using measuring "optrodes"
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/62—Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light
- G01N21/63—Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited
- G01N21/64—Fluorescence; Phosphorescence
- G01N21/645—Specially adapted constructive features of fluorimeters
- G01N21/6456—Spatial resolved fluorescence measurements; Imaging
- G01N21/6458—Fluorescence microscopy
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N33/00—Investigating or analysing materials by specific methods not covered by groups G01N1/00 - G01N31/00
- G01N33/48—Biological material, e.g. blood, urine; Haemocytometers
- G01N33/483—Physical analysis of biological material
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N33/00—Investigating or analysing materials by specific methods not covered by groups G01N1/00 - G01N31/00
- G01N33/48—Biological material, e.g. blood, urine; Haemocytometers
- G01N33/50—Chemical analysis of biological material, e.g. blood, urine; Testing involving biospecific ligand binding methods; Immunological testing
- G01N33/58—Chemical analysis of biological material, e.g. blood, urine; Testing involving biospecific ligand binding methods; Immunological testing involving labelled substances
- G01N33/582—Chemical analysis of biological material, e.g. blood, urine; Testing involving biospecific ligand binding methods; Immunological testing involving labelled substances with fluorescent label
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0012—Biomedical image inspection
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/62—Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light
- G01N21/63—Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited
- G01N21/64—Fluorescence; Phosphorescence
- G01N21/6428—Measuring fluorescence of fluorescent products of reactions or of fluorochrome labelled reactive substances, e.g. measuring quenching effects, using measuring "optrodes"
- G01N2021/6439—Measuring fluorescence of fluorescent products of reactions or of fluorochrome labelled reactive substances, e.g. measuring quenching effects, using measuring "optrodes" with indicators, stains, dyes, tags, labels, marks
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/62—Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light
- G01N21/63—Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited
- G01N21/64—Fluorescence; Phosphorescence
- G01N21/6428—Measuring fluorescence of fluorescent products of reactions or of fluorochrome labelled reactive substances, e.g. measuring quenching effects, using measuring "optrodes"
- G01N2021/6439—Measuring fluorescence of fluorescent products of reactions or of fluorochrome labelled reactive substances, e.g. measuring quenching effects, using measuring "optrodes" with indicators, stains, dyes, tags, labels, marks
- G01N2021/6441—Measuring fluorescence of fluorescent products of reactions or of fluorochrome labelled reactive substances, e.g. measuring quenching effects, using measuring "optrodes" with indicators, stains, dyes, tags, labels, marks with two or more labels
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10056—Microscopic image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10064—Fluorescence image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30024—Cell structures in vitro; Tissue sections in vitro
Landscapes
- Health & Medical Sciences (AREA)
- Engineering & Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Physics & Mathematics (AREA)
- Chemical & Material Sciences (AREA)
- Immunology (AREA)
- General Health & Medical Sciences (AREA)
- General Physics & Mathematics (AREA)
- Biochemistry (AREA)
- Analytical Chemistry (AREA)
- Pathology (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Biomedical Technology (AREA)
- Urology & Nephrology (AREA)
- Hematology (AREA)
- Molecular Biology (AREA)
- Medical Informatics (AREA)
- Theoretical Computer Science (AREA)
- Medicinal Chemistry (AREA)
- Food Science & Technology (AREA)
- Radiology & Medical Imaging (AREA)
- Quality & Reliability (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Optics & Photonics (AREA)
- Chemical Kinetics & Catalysis (AREA)
- Biophysics (AREA)
- Microbiology (AREA)
- Cell Biology (AREA)
- Biotechnology (AREA)
- Investigating, Analyzing Materials By Fluorescence Or Luminescence (AREA)
- Investigating Or Analysing Biological Materials (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
Abstract
Description
特定の生体物質に結合可能な蛍光物質を用いて前記特定の生体物質が染色されるとともに、可視光で観察可能な色素を用いて細胞が染色された組織標本を撮像して得られた蛍光画像及び細胞形態画像を入力する入力工程と、
前記蛍光画像から、輝点を含む所定の領域を抽出し、前記所定の領域の輝度値を算出する輝度値算出工程と、
前記所定の領域の輝度値を、前記細胞形態画像における色素情報に基づいて補正する輝度値補正工程と、を含む
ことを特徴とする。
前記細胞形態画像における各画素について、前記細胞形態画像の染色に用いた色素の色素量を算出する色素量算出工程を含み、
前記輝度値補正工程は、前記色素量を前記色素情報として用いて輝度値を補正する
ことを特徴とする。
前記色素量算出工程は、カラーデコンボリューション手法により、前記細胞形態画像の各画素の色素基底に基づいて色素量を推定するとともに、前記細胞形態画像の各画素に対応させて、前記色素量を分布させた色素濃度画像を生成し、
前記輝度値補正工程は、前記色素濃度画像に基づいて輝度値を補正する
ことを特徴とする。
前記細胞形態画像における各画素について、前記細胞形態画像の染色に用いた色素の彩度を算出する彩度算出工程を含み、
前記輝度値補正工程は、前記彩度を前記色素情報として用いて輝度値を補正する
ことを特徴とする。
前記輝度値補正工程は、RGB値を前記色素情報として用いて輝度値を補正する
ことを特徴とする。
前記組織標本は、単一又は波長特性の異なる複数種類の蛍光物質、及び単一又は波長特性の異なる複数種類の色素によって染色され、
前記輝度値補正工程は、蛍光物質と色素との組み合わせごとに、当該色素の色素情報に基づいて、前記輝度値を補正する
ことを特徴とする。
前記組織標本は、波長特性の異なる複数種類の色素によって染色され、
前記輝度値補正工程は、複数種類の色素の染色順に応じて前記輝度値の補正を異ならせる
ことを特徴とする。
特定の生体物質に結合可能な蛍光物質を用いて前記特定の生体物質が染色されるとともに、可視光で観察可能な色素を用いて細胞が染色された組織標本を撮像して得られた蛍光画像及び細胞形態画像を入力する入力工程と、
前記蛍光画像から、輝点を含む所定の領域を抽出し、前記所定の領域の輝度値を算出する輝度値算出工程と、
前記所定の領域の輝度値に基づいて、前記特定の生体物質の発現レベルを示す特徴量を算出する特徴量算出工程と、
前記特徴量を、前記細胞形態画像における色素情報に基づいて補正する特徴量補正工程と、を含む
ことを特徴とする。
前記蛍光物質は、単体の蛍光物質を複数集積した蛍光物質集積粒子である
ことを特徴とする。
特定の生体物質に結合可能な蛍光物質を用いて前記特定の生体物質が染色されるとともに、可視光で観察可能な色素を用いて細胞が染色された組織標本を撮像して得られた蛍光画像及び細胞形態画像を入力する入力部と、
前記蛍光画像から、輝点を含む所定の領域を抽出し、前記所定の領域の輝度値を算出する輝度値算出部と、
前記所定の領域の輝度値を、前記細胞形態画像における色素情報に基づいて補正する輝度値補正部と、を備える
ことを特徴とする。
画像処理装置のコンピューターを、
特定の生体物質に結合可能な蛍光物質を用いて前記特定の生体物質が染色されるとともに、可視光で観察可能な色素を用いて細胞が染色された組織標本を撮像して得られた蛍光画像及び細胞形態画像を入力する入力部、
前記蛍光画像から、輝点を含む所定の領域を抽出し、前記所定の領域の輝度値を算出する輝度値算出部、
前記所定の領域の輝度値を、前記細胞形態画像における色素情報に基づいて補正する輝度値補正部、
として機能させる。
以下、図面を参照して本発明を実施するための第1実施形態について説明するが、本発明はこれらに限定されない。
図1に、本発明の画像処理方法を適用した病理診断支援システム100の全体構成例を示す。病理診断支援システム100は、所定の染色試薬で染色された組織標本の顕微鏡画像を取得し、取得された顕微鏡画像を解析することにより、観察対象の組織標本における特定の生体物質の発現量を定量的に評価するシステムである。
顕微鏡画像取得装置1Aは、照射手段、結像手段、撮像手段、通信I/F等を備えて構成されている。照射手段は、光源、フィルター等により構成され、スライド固定ステージに載置されたスライド上の組織標本に光を照射する。結像手段は、接眼レンズ、対物レンズ等により構成され、照射した光によりスライド上の組織標本から発せられる透過光、反射光、又は蛍光を結像する。撮像手段は、CCD(Charge Coupled Device)センサー等を備え、結像手段により結像面に結像される像を撮像して顕微鏡画像のデジタル画像データを生成する顕微鏡設置カメラである。通信I/Fは、生成された顕微鏡画像の画像データを画像処理装置2Aに送信する。本実施の形態において、顕微鏡画像取得装置1Aは、明視野観察に適した照射手段及び結像手段を組み合わせた明視野ユニット、蛍光観察に適した照射手段及び結像手段を組み合わせた蛍光ユニットが備えられており、ユニットを切り替えることにより明視野/蛍光を切り替えることが可能である。
図2に、画像処理装置2Aの機能構成例を示す。図2に示すように、画像処理装置2Aは、制御部21、操作部22、表示部23、通信I/F24、記憶部25等を備えて構成され、各部はバス26を介して接続されている。
その他、画像処理装置2Aは、LANアダプターやルーター等を備え、LAN等の通信ネットワークを介して外部機器と接続される構成としてもよい。
明視野画像は、H(ヘマトキシリン)染色及びDAB染色により染色された組織標本を、顕微鏡画像取得装置1Aにおいて明視野で拡大結像及び撮影することにより得られる顕微鏡画像であって、当該組織標本における細胞の形態を表す細胞形態画像である。ヘマトキシリンは青紫色の色素であり、細胞核、骨組織、軟骨組織の一部、漿液成分など(好塩基性の組織等)を染色する。DAB染色は標識酵素にペルオキシダーゼ、発色基質にペルオキシターゼにより茶褐色に発色するジアミノベンジジン(DAB)を用いた酵素抗体法である。図3に、H染色及びDAB染色を施した組織標本を撮影した明視野画像の一例を示す。図3においては、DAB染色により免疫細胞を染色している。
蛍光画像は、特定の生体物質と特異的に結合及び/又は反応する生体物質認識部位が結合した蛍光物質を内包したナノ粒子(蛍光物質集積粒子と呼ぶ)を含む染色試薬を用いて染色された組織標本に対し、顕微鏡画像取得装置1Aにおいて所定波長の励起光を照射して蛍光物質集積粒子を発光(蛍光)させ、この蛍光を拡大結像及び撮影することにより得られる顕微鏡画像である。即ち、蛍光画像に現れる蛍光は、組織標本における生体物質認識部位に対応する特定の生体物質の発現を示すものである。図4に、蛍光画像の一例を示す。
ここで、蛍光画像の取得方法について、この蛍光画像の取得に際して用いられる染色試薬(蛍光物質集積粒子)、染色試薬による組織標本の染色方法等も含めて詳細に説明する。
蛍光画像の取得のための染色試薬に用いられる蛍光物質としては、蛍光有機色素及び量子ドット(半導体粒子)を挙げることができる。200〜700nmの範囲内の波長の紫外〜近赤外光により励起されたときに、400〜1100nmの範囲内の波長の可視〜近赤外光の発光を示すことが好ましい。
量子ドットは必要に応じて、有機ポリマー等により表面処理が施されているものを用いてもよい。例えば、表面カルボキシ基を有するCdSe/ZnS(インビトロジェン社製)、表面アミノ基を有するCdSe/ZnS(インビトロジェン社製)等が挙げられる。
本実施の形態において蛍光物質集積粒子とは、蛍光物質がナノ粒子内部に分散されたもの、あるいはナノ粒子の表面に吸着されたものをいい、蛍光物質とナノ粒子自体とが化学的に結合していても、結合していなくてもよい。
ナノ粒子を構成する素材は特に限定されるものではなく、ポリスチレン、ポリ乳酸、シリカ、メラミン等を挙げることができる。
平均粒径は、走査型電子顕微鏡(SEM)を用いて電子顕微鏡写真を撮影し十分な数の粒子について断面積を計測し、各計測値を円の面積としたときの円の直径を粒径として求めた。本願においては、1000個の粒子の粒径の算術平均を平均粒径とした。変動係数も、1000個の粒子の粒径分布から算出した値とした。
蛍光粒子一粒子の輝度値と粒径の間には正の相関があり、分布曲線の形状はいずれもほぼt分布となって一致した。
本実施の形態に係る生体物質認識部位とは、目的とする生体物質と特異的に結合及び/又は反応する部位である。目的とする生体物質は、それと特異的に結合する物質が存在するものであれば特に限定されるものではないが、代表的にはタンパク質(ペプチド)および核酸(オリゴヌクレオチド、ポリヌクレオチド)、抗体等が挙げられる。したがって、そのような目的とする生体物質に結合する物質としては、前記タンパク質を抗原として認識する抗体やそれに特異的に結合する他のタンパク質等、および前記核酸にハイブリタイズする塩基配列を有する核酸等が挙げられる。具体的には、細胞表面に存在するタンパク質であるHER2に特異的に結合する抗HER2抗体、細胞核に存在するエストロゲン受容体(ER)に特異的に結合する抗ER抗体、細胞骨格を形成するアクチンに特異的に結合する抗アクチン抗体等があげられる。中でも抗HER2抗体及び抗ER抗体を蛍光物質集積粒子に結合させたものは、乳癌の投薬選定に用いることができ、好ましい。
以下、組織標本の染色方法について述べる。以下に説明する染色方法は組織標本に限定せず、細胞染色にも適用可能である。
また、以下に説明する染色方法が適用できる標本の作製法は特に限定されず、公知の方法により作製されたものを用いることができる。
キシレンを入れた容器に組織標本を浸漬させ、パラフィンを除去する。温度は特に限定されるものではないが、室温で行うことができる。浸漬時間は、3分以上30分以下であることが好ましい。また、必要により浸漬途中でキシレンを交換してもよい。
次いで、エタノールを入れた容器に組織標本を浸漬させ、キシレンを除去する。温度は特に限定されるものではないが、室温で行うことができる。浸漬時間は、3分以上30分以下であることが好ましい。また、必要により浸漬途中でエタノールを交換してもよい。
次いで、水を入れた容器に組織標本を浸漬させ、エタノールを除去する。温度は特に限定されるものではないが、室温で行うことができる。浸漬時間は、3分以上30分以下であることが好ましい。また、必要により浸漬途中で水を交換してもよい。
公知の方法にならい、目的とする生体物質の賦活化処理を行う。賦活化条件に特に定めはないが、賦活液としては、0.01M クエン酸緩衝液(pH6.0)、1mM EDTA溶液(pH8.0)、5% 尿素、0.1M トリス塩酸緩衝液等を用いることができる。加熱機器は、オートクレーブ、マイクロウェーブ、圧力鍋、ウォーターバス等を用いることができる。温度は特に限定されるものではないが、室温で行うことができる。温度は50−130℃、時間は5−30分で行うことができる。
次いで、PBS(Phosphate Buffered Saline:リン酸緩衝生理食塩水)を入れた容器
に、賦活化処理後の標本を浸漬させ、洗浄を行う。温度は特に限定されるものではないが、室温で行うことができる。浸漬時間は、3分以上30分以下であることが好ましい。また、必要により浸漬途中でPBSを交換してもよい。
生体物質認識部位が結合された蛍光物質集積粒子のPBS分散液を組織標本に載せ、目的とする生体物質と反応させる。蛍光物質集積粒子と結合させる生体物質認識部位を変えることにより、さまざまな生体物質に対応した染色が可能となる。数種類の生体物質認識部位が結合された蛍光物質集積粒子を用いる場合には、それぞれの蛍光物質集積粒子PBS分散液を予め混合しておいてもよいし、別々に順次組織標本に載せてもよい。
温度は特に限定されるものではないが、室温で行うことができる。反応時間は、30分以上24時間以下であることが好ましい。
蛍光物質集積粒子による染色を行う前に、BSA含有PBS等、公知のブロッキング剤を滴下することが好ましい。
次いで、PBSを入れた容器に、染色後の組織標本を浸漬させ、未反応蛍光物質集積粒子の除去を行う。温度は特に限定されるものではないが、室温で行うことができる。浸漬時間は、3分以上30分以下であることが好ましい。また、必要により浸漬途中でPBSを交換してもよい。カバーガラスを組織標本に載せ、封入する。必要に応じて市販の封入剤を使用してもよい。
なお、H染色及びDAB染色を行う場合、カバーガラスによる封入前にH染色及びDAB染色を行う。
染色した組織標本に対し顕微鏡画像取得装置1Aを用いて、広視野の顕微鏡画像(蛍光画像)を取得する。顕微鏡画像取得装置1Aにおいて、染色試薬に用いた蛍光物質の吸収極大波長及び蛍光波長に対応した励起光源及び蛍光検出用光学フィルターを選択する。
蛍光画像の視野は、3mm2以上であることが好ましく、30mm2以上であることがさらに好ましく、300mm2以上であることがさらに好ましい。
以下、病理診断支援システム100において、上記説明した蛍光画像及び明視野画像を取得して解析を行う動作について説明する。ここでは、特定の生体物質(ここでは、乳癌組織におけるKi67タンパクとする。以下、特定タンパクと呼ぶ。)を認識する生体物質認識部位が結合した蛍光物質集積粒子を含む染色試薬を用いて染色された組織標本を観察対象とする場合を例にとり説明するが、これに限定されるものではない。
その後、顕微鏡画像取得装置1Aにおいて、(a1)〜(a5)の手順により明視野画像及び蛍光画像が取得される。
(a1)操作者は、H染色試薬及びDAB染色試薬並びに蛍光物質集積粒子を含む染色試薬により染色された組織標本をスライドに載置し、そのスライドを顕微鏡画像取得装置1Aのスライド固定ステージに設置する。
(a2)明視野ユニットに設定し、撮影倍率、ピントの調整を行い、組織上の観察対象の領域を視野に納める。
(a3)撮像手段で撮影を行って明視野画像の画像データを生成し、画像処理装置2Aに画像データを送信する。
(a4)ユニットを蛍光ユニットに変更する。
(a5)視野及び撮影倍率を変えずに撮像手段で撮影を行って蛍光画像の画像データを生成し、画像処理装置2Aに画像データを送信する。
図5に、画像処理装置2Aにおける画像解析処理1のフローチャートを示す。図5に示す画像解析処理1は、制御部21と記憶部25に記憶されているプログラムとの協働により実行される。
図6に、ステップS2における処理の詳細フローを示す。ステップS2の処理は、制御部21と記憶部25に記憶されているプログラムとの協働により実行される。
次いで、モノクロ画像に対し予め定められた閾値を用いて閾値処理が施され、各画素の値が二値化される(ステップS22)。
図8に、ステップS4における処理の詳細フローを示す。ステップS4の処理は、制御部21と記憶部25に記憶されているプログラムとの協働により実行される。
以上により、色素濃度画像の作成が完了する。
これについて具体的に説明する。明視野画像の作成に用いた染色試薬の色素が、光源からの励起光や蛍光物質は放つ蛍光を吸収してしまうことにより、蛍光物質の輝度は色素量に応じて減衰する。色素との重畳により減衰した蛍光物質集積粒子の輝度をI、減衰前の蛍光物質集積粒子の輝度をI0とすると、蛍光輝度値Iは下記の式(1)で表される。
I=I0exp(−Ad) ・・・(1)
ここで、変数dはステップS4で算出した色素量である。また、Aは減衰係数であり、蛍光物質集積粒子、蛍光波長、染色試薬の色素、撮影条件等によって決まる値である。
したがって、減衰前の輝度値I0は、下記の式(2)で表される。
I0=I/exp(−Ad) ・・・(2)
即ち、蛍光画像の各画素について上記した式(2)によって算出された蛍光輝度値I0を用いて、以降の解析が行われる。
図9に、ステップS8における処理の詳細フローを示す。ステップS8の処理は、制御部21と記憶部25に記憶されているプログラムとの協働により実行される。
図10Aに、蛍光画像の一例を示す。
ステップS81では、たとえば、蛍光粒子の発光波長が550nmである場合には、その波長成分を有する蛍光輝点のみが画像として抽出される。
なお、閾値処理の前に細胞自家蛍光や他の不要信号成分等のノイズ除去処理が施されてもよく、ガウシアンフィルタ等のローパスフィルタや二次微分等のハイパスフィルタが好ましく用いられる。
図10Bに、輝点領域が抽出された画像の一例を示す。図10Bに示すように、かかる画像では蛍光輝点を中心とした輝点領域が抽出されている。
次いで、細胞核上における輝点領域の分布が画像処理装置2Aの表示部23に表示されるとともに、細胞種ごとに一細胞核当たりの蛍光粒子数が算出されて表示部23に表示される(ステップS12)。
ここで、細胞種ごとの蛍光粒子数の算出とは、ステップS3によって識別された免疫細胞と癌細胞のそれぞれについて蛍光粒子数を算出することであり、表示部23には免疫細胞と癌細胞のそれぞれの特定タンパクの発現レベルが分類されて表示される。
このような補正方法は、波長特性の異なる複数種類の色素によって組織標本を多重染色する場合に、特に効果的である。複数の色素が互いに重なり合った場合には画素値が高くなるため、単に画素値によって補正すると輝度積算値が本来の値よりも小さくなってしまうが、本実施形態のように色素ごとに補正式を立てることで、輝度値の補正精度を高くすることができる。
上記の実施形態においては、色素量に応じて蛍光輝度を補正するものとしたが、変形例1においては、RGBの画素値に応じて蛍光輝度を補正する。
図12に、変形例1に係る画像処理装置2Aにおける画像解析処理2のフローチャートを示す。図12に示す画像解析処理2は、制御部21と記憶部25に記憶されているプログラムとの協働により実行される。
次いで、制御部21により、RGB画素値に応じて蛍光輝度が補正される(ステップS106)。ここで、色素の重畳による減衰前の蛍光輝度値I0は、減衰後の蛍光輝度値I、減衰係数Aを用いて、下記の式(3)で表される。
I0=I/exp(−Ad1) ・・・(3)
ここで、変数d1は、ある画素のRGB画素値が(R,G,B)であるとすると、下記の式(4)で表される。
d1=aR+bG+cB ・・・(4)
なお、a,b及びcはR,G,Bの各々に対応する係数である。
即ち、蛍光画像の各画素について上記した式(3)によって算出された蛍光輝度値I0を用いて、以降の解析が行われる。
変形例2においては、HSV画像に基づいて蛍光輝度を補正する。
図13に、変形例2に係る画像処理装置2Aにおける画像解析処理3のフローチャートを示す。図13に示す画像解析処理は、制御部21と記憶部25に記憶されているプログラムとの協働により実行される。
次いで、制御部21により、ステップS204で作成されたHSV画像とステップS205で入力された蛍光画像とが加算される(ステップS206)。
I0=I/exp(−Ad2) ・・・(5)
ここで、ある画素の彩度の値がSであるとすると、
d2=S ・・・(6)
である。即ち、蛍光輝度値I0は、彩度に基づいて補正される。
I0=I/exp(−Ad3) ・・・(7)
ここで、変数d3は、下記の式(8)で表される。
d3-=a2+b2 ・・・(8)
即ちd3は彩度を表し、蛍光輝度値I0は彩度に基づいて補正される。
I0=I/exp(−Ad4) ・・・(9)
ここで、変数d4は、ある画素の彩度の値がCであるとすると、
d4=C ・・・(10)
であり、蛍光輝度値I0は彩度に基づいて補正される。
なお、変形例1のようにRGB値から直接補正式を立てる場合には、色素濃度画像を生成するステップ又はHSV画像等に変換するステップを省略可能であるため、簡便な方法であるといえる。
以下、図面を参照して本発明を実施するための第2実施形態について説明するが、本発明はこれらに限定されない。なお、第1実施形態と同様の構成については、同一の符号を付して詳細な説明を省略する。
図14に、第2実施形態に係る画像処理装置2Aにおける画像解析処理4のフローチャートを示す。図14に示す画像解析処理4は、制御部21と記憶部25に記憶されているプログラムとの協働により実行される。
続いて、制御部21により、ステップS308で作成された色素濃度画像と、ステップS307で作成された輝点領域が抽出された画像とが加算される(ステップS309)。
具体的には、まず、第1実施形態におけるステップS7の処理と同様に、色素量dに基づいて減衰後の蛍光輝度値Iを補正した蛍光輝度値I0が算出される。算出された蛍光輝度値I0と蛍光輝度値Iとの比(r=I0/I)を算出し、ステップS307で算出された蛍光粒子数をrで除算することで、蛍光粒子数を補正することができる。
したがって、蛍光輝点の輝度が検出可能な程度に十分に高い場合には、特徴量の算出を先に実行してその後特徴量を補正することでも、上記第1実施形態と同様の効果を得られる。
なお、上記実施形態における記述内容は、本発明の好適な一例であり、これに限定されるものではない。
また、波長特性の異なる複数の色素で多重に色素染色を行う場合は、染色順に応じた補正式を立てて補正を行うことが望ましい。
2A 画像処理装置
21 制御部
22 操作部
23 表示部
24 通信I/F
25 記憶部
26 バス
3A ケーブル
100 病理診断支援システム
Claims (11)
- 特定の生体物質に結合可能な蛍光物質を用いて前記特定の生体物質が染色されるとともに、可視光で観察可能な色素を用いて細胞が染色された組織標本を撮像して得られた蛍光画像及び細胞形態画像を入力する入力工程と、
前記蛍光画像から、輝点を含む所定の領域を抽出し、前記所定の領域の輝度値を算出する輝度値算出工程と、
前記所定の領域の輝度値を、前記細胞形態画像における色素情報に基づいて補正する輝度値補正工程と、を含む
画像処理方法。 - 前記細胞形態画像における各画素について、前記細胞形態画像の染色に用いた色素の色素量を算出する色素量算出工程を含み、
前記輝度値補正工程は、前記色素量を前記色素情報として用いて輝度値を補正する
請求項1に記載の画像処理方法。 - 前記色素量算出工程は、カラーデコンボリューション手法により、前記細胞形態画像の各画素の色素基底に基づいて色素量を推定するとともに、前記細胞形態画像の各画素に対応させて、前記色素量を分布させた色素濃度画像を生成し、
前記輝度値補正工程は、前記色素濃度画像に基づいて輝度値を補正する
請求項2に記載の画像処理方法。 - 前記細胞形態画像における各画素について、前記細胞形態画像の染色に用いた色素の彩度を算出する彩度算出工程を含み、
前記輝度値補正工程は、前記彩度を前記色素情報として用いて輝度値を補正する
請求項1に記載の画像処理方法。 - 前記輝度値補正工程は、RGB値を前記色素情報として用いて輝度値を補正する
請求項1に記載の画像処理方法。 - 前記組織標本は、単一又は波長特性の異なる複数種類の蛍光物質、及び単一又は波長特性の異なる複数種類の色素によって染色され、
前記輝度値補正工程は、蛍光物質と色素との組み合わせごとに、当該色素の色素情報に基づいて、前記輝度値を補正する
請求項1から5のいずれか一項に記載の画像処理方法。 - 前記組織標本は、波長特性の異なる複数種類の色素によって染色され、
前記輝度値補正工程は、複数種類の色素の染色順に応じて前記輝度値の補正を異ならせる
請求項1から6のいずれか一項に記載の画像処理方法。 - 特定の生体物質に結合可能な蛍光物質を用いて前記特定の生体物質が染色されるとともに、可視光で観察可能な色素を用いて細胞が染色された組織標本を撮像して得られた蛍光画像及び細胞形態画像を入力する入力工程と、
前記蛍光画像から、輝点を含む所定の領域を抽出し、前記所定の領域の輝度値を算出する輝度値算出工程と、
前記所定の領域の輝度値に基づいて、前記特定の生体物質の発現レベルを示す特徴量を算出する特徴量算出工程と、
前記特徴量を、前記細胞形態画像における色素情報に基づいて補正する特徴量補正工程と、を含む
画像処理方法。 - 前記蛍光物質は、単体の蛍光物質を複数集積した蛍光物質集積粒子である
請求項1から8のいずれか一項に記載の画像処理方法。 - 特定の生体物質に結合可能な蛍光物質を用いて前記特定の生体物質が染色されるとともに、可視光で観察可能な色素を用いて細胞が染色された組織標本を撮像して得られた蛍光画像及び細胞形態画像を入力する入力部と、
前記蛍光画像から、輝点を含む所定の領域を抽出し、前記所定の領域の輝度値を算出する輝度値算出部と、
前記所定の領域の輝度値を、前記細胞形態画像における色素情報に基づいて補正する輝度値補正部と、を備える
画像処理装置。 - 画像処理装置のコンピューターを、
特定の生体物質に結合可能な蛍光物質を用いて前記特定の生体物質が染色されるとともに、可視光で観察可能な色素を用いて細胞が染色された組織標本を撮像して得られた蛍光画像及び細胞形態画像を入力する入力部、
前記蛍光画像から、輝点を含む所定の領域を抽出し、前記所定の領域の輝度値を算出する輝度値算出部、
前記所定の領域の輝度値を、前記細胞形態画像における色素情報に基づいて補正する輝度値補正部、
として機能させるためのプログラム。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018040309 | 2018-03-07 | ||
JP2018040309 | 2018-03-07 | ||
PCT/JP2019/007984 WO2019172097A1 (ja) | 2018-03-07 | 2019-03-01 | 画像処理方法、画像処理装置及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2019172097A1 true JPWO2019172097A1 (ja) | 2021-03-18 |
JP7235036B2 JP7235036B2 (ja) | 2023-03-08 |
Family
ID=67846097
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020504971A Active JP7235036B2 (ja) | 2018-03-07 | 2019-03-01 | 画像処理方法、画像処理装置及びプログラム |
Country Status (4)
Country | Link |
---|---|
US (1) | US20210088444A1 (ja) |
EP (1) | EP3764096A4 (ja) |
JP (1) | JP7235036B2 (ja) |
WO (1) | WO2019172097A1 (ja) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20220276170A1 (en) * | 2019-07-09 | 2022-09-01 | Sony Group Corporation | Information processing device and program |
WO2022059300A1 (ja) * | 2020-09-15 | 2022-03-24 | コニカミノルタ株式会社 | 画像処理方法、画像処理装置、および画像処理プログラム |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004101354A (ja) * | 2002-09-09 | 2004-04-02 | Olympus Corp | 生化学的検査用画像処理方法 |
WO2012035705A1 (ja) * | 2010-09-17 | 2012-03-22 | 国立大学法人東北大学 | 抗体を成分として含む医薬品の有効性の判定方法 |
JP2015090471A (ja) * | 2013-11-07 | 2015-05-11 | ソニー株式会社 | 顕微鏡システムおよびオートフォーカス方法 |
WO2017050788A1 (en) * | 2015-09-22 | 2017-03-30 | Mycartis N.V. | Cross-talk correction in multiplexing analysis of biological sample |
WO2017110974A1 (ja) * | 2015-12-24 | 2017-06-29 | コニカミノルタ株式会社 | 画像処理装置及びプログラム |
WO2017187717A1 (ja) * | 2016-04-28 | 2017-11-02 | 国立大学法人名古屋大学 | 蛍光プローブ、蛍光検出方法及び蛍光プローブの使用方法 |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US4326008A (en) * | 1976-08-27 | 1982-04-20 | California Institute Of Technology | Protein specific fluorescent microspheres for labelling a protein |
US5326692B1 (en) | 1992-05-13 | 1996-04-30 | Molecular Probes Inc | Fluorescent microparticles with controllable enhanced stokes shift |
US6272235B1 (en) | 1997-03-03 | 2001-08-07 | Bacus Research Laboratories, Inc. | Method and apparatus for creating a virtual microscope slide |
US10809167B2 (en) | 2010-08-30 | 2020-10-20 | Konica Minolta, Inc. | Tissue staining method with staining agent containing particle holding plural phosphors |
JP5768948B1 (ja) * | 2014-03-27 | 2015-08-26 | コニカミノルタ株式会社 | 画像処理装置および画像処理プログラム |
US9547165B2 (en) * | 2014-08-29 | 2017-01-17 | Reinroth Gmbh | Endoscope system with single camera for concurrent imaging at visible and infrared wavelengths |
WO2016042963A1 (ja) * | 2014-09-19 | 2016-03-24 | コニカミノルタ株式会社 | 画像処理装置、画像処理方法、及びプログラム |
US10451554B2 (en) * | 2015-02-23 | 2019-10-22 | Konica Minolta, Inc. | Image processing device, image processing method, and recording medium storing computer readable image processing program |
-
2019
- 2019-03-01 EP EP19764779.5A patent/EP3764096A4/en not_active Withdrawn
- 2019-03-01 WO PCT/JP2019/007984 patent/WO2019172097A1/ja unknown
- 2019-03-01 US US16/971,036 patent/US20210088444A1/en not_active Abandoned
- 2019-03-01 JP JP2020504971A patent/JP7235036B2/ja active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004101354A (ja) * | 2002-09-09 | 2004-04-02 | Olympus Corp | 生化学的検査用画像処理方法 |
WO2012035705A1 (ja) * | 2010-09-17 | 2012-03-22 | 国立大学法人東北大学 | 抗体を成分として含む医薬品の有効性の判定方法 |
JP2015090471A (ja) * | 2013-11-07 | 2015-05-11 | ソニー株式会社 | 顕微鏡システムおよびオートフォーカス方法 |
WO2017050788A1 (en) * | 2015-09-22 | 2017-03-30 | Mycartis N.V. | Cross-talk correction in multiplexing analysis of biological sample |
WO2017110974A1 (ja) * | 2015-12-24 | 2017-06-29 | コニカミノルタ株式会社 | 画像処理装置及びプログラム |
WO2017187717A1 (ja) * | 2016-04-28 | 2017-11-02 | 国立大学法人名古屋大学 | 蛍光プローブ、蛍光検出方法及び蛍光プローブの使用方法 |
Also Published As
Publication number | Publication date |
---|---|
US20210088444A1 (en) | 2021-03-25 |
JP7235036B2 (ja) | 2023-03-08 |
EP3764096A4 (en) | 2021-04-28 |
EP3764096A1 (en) | 2021-01-13 |
WO2019172097A1 (ja) | 2019-09-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6350527B2 (ja) | 画像処理装置、病理診断支援システム、画像処理プログラム及び病理診断支援方法 | |
JP6763305B2 (ja) | 画像処理装置及び画像処理プログラム | |
JP6443450B2 (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JP6635108B2 (ja) | 画像処理装置、画像処理方法、及び画像処理プログラム | |
JP6597316B2 (ja) | 画像処理装置及びプログラム | |
JP6763407B2 (ja) | 画像処理装置及びプログラム | |
JP5768948B1 (ja) | 画像処理装置および画像処理プログラム | |
JP7173034B2 (ja) | 画像処理装置、合焦位置特定方法及び合焦位置特定プログラム | |
JP6493398B2 (ja) | 診断支援情報生成方法、画像処理装置、診断支援情報生成システム及び画像処理プログラム | |
JP5835536B1 (ja) | 組織評価方法、画像処理装置、病理診断支援システム及びプログラム | |
JP7235036B2 (ja) | 画像処理方法、画像処理装置及びプログラム | |
JPWO2018143406A1 (ja) | 画像処理装置及びプログラム | |
JP6375925B2 (ja) | 画像処理装置、画像処理システム、画像処理プログラム及び画像処理方法 | |
JP6337629B2 (ja) | 診断支援情報生成方法、画像処理装置、診断支援情報生成システム及び画像処理プログラム | |
JP6702339B2 (ja) | 画像処理装置及びプログラム | |
JP6405985B2 (ja) | 画像処理装置、画像処理システム、画像処理プログラム及び画像処理方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210628 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220726 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220926 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20221018 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20221205 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230124 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230206 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7235036 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |