WO2021220857A1 - 画像処理装置、画像処理方法及び画像処理システム - Google Patents

画像処理装置、画像処理方法及び画像処理システム Download PDF

Info

Publication number
WO2021220857A1
WO2021220857A1 PCT/JP2021/015806 JP2021015806W WO2021220857A1 WO 2021220857 A1 WO2021220857 A1 WO 2021220857A1 JP 2021015806 W JP2021015806 W JP 2021015806W WO 2021220857 A1 WO2021220857 A1 WO 2021220857A1
Authority
WO
WIPO (PCT)
Prior art keywords
image
image processing
value
pixel signal
pixel
Prior art date
Application number
PCT/JP2021/015806
Other languages
English (en)
French (fr)
Inventor
寿一 白木
Original Assignee
ソニーグループ株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ソニーグループ株式会社 filed Critical ソニーグループ株式会社
Priority to US17/917,274 priority Critical patent/US20230177679A1/en
Publication of WO2021220857A1 publication Critical patent/WO2021220857A1/ja

Links

Images

Classifications

    • G06T5/70
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/17Systems in which incident light is modified in accordance with the properties of the material investigated
    • G01N21/25Colour; Spectral properties, i.e. comparison of effect of material on the light at two or more different wavelengths or wavelength bands
    • G01N21/27Colour; Spectral properties, i.e. comparison of effect of material on the light at two or more different wavelengths or wavelength bands using photo-electric detection ; circuits for computing concentration
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N33/00Investigating or analysing materials by specific methods not covered by groups G01N1/00 - G01N31/00
    • G01N33/48Biological material, e.g. blood, urine; Haemocytometers
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformation in the plane of the image
    • G06T3/40Scaling the whole image or part thereof
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/40Image enhancement or restoration by the use of histogram techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration by the use of more than one image, e.g. averaging, subtraction
    • G06T5/92
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/10Image acquisition
    • G06V10/12Details of acquisition arrangements; Constructional details thereof
    • G06V10/14Optical characteristics of the device performing the acquisition or on the illumination arrangements
    • G06V10/143Sensing or illuminating at different wavelengths
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/56Extraction of image or video features relating to colour
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10056Microscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30024Cell structures in vitro; Tissue sections in vitro

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Multimedia (AREA)
  • Chemical & Material Sciences (AREA)
  • Medical Informatics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Pathology (AREA)
  • Immunology (AREA)
  • Analytical Chemistry (AREA)
  • Biochemistry (AREA)
  • Radiology & Medical Imaging (AREA)
  • Quality & Reliability (AREA)
  • Artificial Intelligence (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Computing Systems (AREA)
  • Databases & Information Systems (AREA)
  • Evolutionary Computation (AREA)
  • Software Systems (AREA)
  • Molecular Biology (AREA)
  • Hematology (AREA)
  • Biomedical Technology (AREA)
  • Urology & Nephrology (AREA)
  • Medicinal Chemistry (AREA)
  • Food Science & Technology (AREA)
  • Mathematical Physics (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Investigating Or Analysing Biological Materials (AREA)
  • Investigating Or Analysing Materials By Optical Means (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Abstract

生体組織標本の被撮影領域の撮影による第1の画素信号を取得する第1の画素信号取得部(212)と、前記第1の画素信号における画素値レンジを取得するレンジ取得部(214)と、前記画素値レンジに基づいて、前記生体組織標本の前記被撮影領域の少なくとも一部に対する撮影回数を決定する回数決定部(216)と、前記撮影回数に従って撮影されることによって得られた、前記生体組織標本の前記被撮影領域の少なくとも一部の画素信号である第2の画素信号を取得する第2の画素信号取得部(222)と、複数の前記第2の画素信号の少なくとも一部に基づき、出力画像を生成する画像生成部(224)とを備える、画像処理装置(200)を提供する。

Description

画像処理装置、画像処理方法及び画像処理システム
 本開示は、画像処理装置、画像処理方法及び画像処理システムに関する。
 近年、デジタル撮像技術によって取得された、染色試薬により染色された生体組織標本のデジタル画像を病理診断等に利用するための技術が開発されている。当該画像に対しては、適切に病理診断を行うために、診断に必要な情報が見落とされることがないよう、染色状態にばらつきがあっても、生体組織標本のディテールをそのまま保持しているような鮮明な画像であることが求められる。このような技術の例としては、下記特許文献1に開示の技術を挙げることができる。詳細には、下記特許文献1に開示の技術では、染色状態にばらつきがある生体組織標本の画像に対して、当該生体組織標本の分光特性情報に基づき染色状態に応じた補正を行うことにより、鮮明な生体組織標本の画像を取得する。
特開2012-78156号公報
 しかしながら、上記特許文献1に開示の技術では、マルチスペクトルセンサを用いて分光特性情報を取得し、当該分光特性情報に基づき補正を行うことから、撮影装置にマルチスペクトルセンサを設けることが求められる。従って、上記特許文献1の技術では、撮影装置の製造コストの増加を抑えることが難しく、さらに、撮影装置の大型化を招く可能性がある。
 そこで、本開示では、製造コストの増加や大型化を避けつつ、鮮明な生体組織標本のデジタル画像を取得することができる、画像処理装置、画像処理方法及び画像処理システムを提案する。
 本開示によれば、生体組織標本の被撮影領域の撮影による第1の画素信号を取得する第1の画素信号取得部と、前記第1の画素信号における画素値レンジを取得するレンジ取得部と、前記画素値レンジに基づいて、前記生体組織標本の前記被撮影領域の少なくとも一部に対する撮影回数を決定する回数決定部と、前記撮影回数に従って撮影されることによって得られた、前記生体組織標本の前記被撮影領域の少なくとも一部の画素信号である第2の画素信号を取得する第2の画素信号取得部と、複数の前記第2の画素信号の少なくとも一部に基づき、出力画像を生成する画像生成部とを備える、画像処理装置が提供される。
 また、本開示によれば、画像処理装置が、生体組織標本の被撮影領域の撮影による第1の画素信号を取得することと、前記第1の画素信号における画素値レンジを取得することと、前記画素値レンジに基づいて、前記生体組織標本の前記被撮影領域の少なくとも一部に対する撮影回数を決定することと、前記撮影回数に従って撮影されることによって得られた、前記生体組織標本の前記被撮影領域の少なくとも一部の画素信号である第2の画素信号を取得することと、複数の前記第2の画素信号の少なくとも一部に基づき、出力画像を生成することとを含む、画像処理方法が提供される。
 さらに、本開示によれば、画像処理を実行する画像処理装置と、前記画像処理を前記画像処理装置に実行させるためのプログラムとを含む画像処理システムであって、前記画像処理装置は、生体組織標本の被撮影領域の撮影による第1の画素信号を取得する第1の画素信号取得部と、前記第1の画素信号における画素値レンジを取得するレンジ取得部と、前記画素値レンジに基づいて、前記生体組織標本の前記被撮影領域の少なくとも一部に対する撮影回数を決定する回数決定部と、前記撮影回数に従って撮影されることによって得られた、前記生体組織標本の前記被撮影領域の少なくとも一部の画素信号である第2の画素信号を取得する第2の画素信号取得部と、複数の前記第2の画素信号の少なくとも一部に基づき、出力画像を生成する画像生成部と、を備える、画像処理システムが提供される。
本開示の実施形態の概要を説明するための説明図である。 本開示の実施形態と比較例との比較を説明するための説明図である。 本開示の第1の実施形態に係る画像処理システム10の構成例を示すブロック図である。 同実施形態に係る画像処理装置200の構成例を示すブロック図である。 同実施形態に係る分割領域500を説明するための説明図である。 同実施形態に係る画像処理の一例を示すフローチャートである。 同実施形態に係る画像処理を説明するための説明図である。 本開示の第2の実施形態に係る画像処理装置200aの構成例を示すブロック図である。 同実施形態に係る画像処理の一例を示すフローチャートである。 同実施形態に係る画像処理を説明するための説明図である。 本開示の第3の実施形態に係る画像処理システム10bの構成例を示すブロック図である。 同実施形態に係る画像処理装置200bの構成例を示すブロック図である。 同実施形態に係る画像処理の一例を示すフローチャートである。 同実施形態に係るテーブル252の一例を説明するための説明図である。 同実施形態に係る画像処理を説明するための説明図(その1)である。 同実施形態に係る画像処理を説明するための説明図(その2)である。 本開示の第4の実施形態に係る画像処理装置200cの構成例を示すブロック図である。 同実施形態に係る画像処理の一例を示すフローチャートである。 同実施形態に係るテーブル254の一例を説明するための説明図である。 本開示の第5の実施形態を説明するための説明図である。 同実施形態に係る画像処理装置200dの構成例を示すブロック図である。 同実施形態に係る画像処理の一例を示すフローチャートである。 同実施形態に係るテーブル256の一例を説明するための説明図である。 診断支援システムの概略的な構成の一例を示すブロック図である。 画像処理装置200の機能を実現するコンピュータ1000の一例を示すハードウェア構成図である。
 以下に、添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。また、本明細書及び図面において、実質的に同一又は類似の機能構成を有する複数の構成要素を、同一の符号の後に異なるアルファベットを付して区別する場合がある。ただし、実質的に同一又は類似の機能構成を有する複数の構成要素の各々を特に区別する必要がない場合、同一符号のみを付する。
 なお、説明は以下の順序で行うものとする。
1. 本開示の実施形態の概要について
2. 第1の実施形態
   2.1 画像処理システム
   2.2 DPIスキャナ
   2.3 画像処理装置
   2.4 画像処理方法
   2.5 変形例
3. 第2の実施形態
   3.1 画像処理装置
   3.2 画像処理方法
   3.3 変形例
4. 第3の実施形態
   4.1 画像処理システム
   4.2 画像処理装置
   4.3 画像処理方法
5. 第4の実施形態
   5.1 画像処理装置
   5.2 画像処理方法
6. 第5の実施形態
   6.1 画像処理装置
   6.2 画像処理方法
   6.3 変形例
7. まとめ
8. 応用例
9. ハードウェア構成
10. 補足
 <<1. 本開示の実施形態の概要について>>
 まずは、本開示の実施形態の詳細を説明する前に、本発明者が本開示の実施形態を創作するに至る背景、及び、本開示の実施形態の概要について、図1及び図2を参照して説明する。図1は、本開示の実施形態の概要を説明するための説明図であり、図2は、本開示の実施形態と比較例との比較を説明するための説明図である。なお、ここで、比較例とは、本発明者が本開示の実施形態をなす前に、検討を重ねていた画像処理のことを意味するものとする。
 病理診断等においては、生体から取り出した生体組織標本を顕微鏡やデジタル撮像システムで観察することによって得られる画像に対して解析を行うことがある。このような画像に対しては、適切に病理診断を行うために、診断に必要な情報が見落とされることがないよう、生体組織標本のディテールをそのまま保持しているような画像であることが求められる。しかしながら、病理診断に従来から用いられていた光学画像に比べて、デジタル画像では生体組織標本のディテールの劣化が生じやすいことから、デジタル画像は、画像管理等が容易であるにも関わらず、病理診断で用いられることが少なかった。
 また、生体組織標本の観察においては、生体組織標本の観察を容易にするために、染色試薬による生体組織標本に対する染色が事前に行われることが多い。染色は、生体組織標本に色素を化学反応により固定することであり、1つの生体組織標本内や、複数の生体組織標本内で、均一に行うことが難しい。しかしながら、生体組織標本の染色状態にばらつきがあるとデジタル画像により生体組織標本のディテールを捉えることが難しくなることから、当該生体組織標本のデジタル画像を用いて病理診断を行った場合、適切に病理診断を行うために診断に必要な情報が見落とされる可能性がある。
 そこで、上述のような病理診断に用いるデジタル画像に対して、染色された生体組織標本であってもそのディテールの劣化を避けるため、高いコントラストを持つ鮮明な画像となるような画像処理を施すことが検討された。このような画像処理を行った場合を比較例と呼び、その詳細を以下に説明する。
 詳細には、比較例においては、図2の左側に示すような画素値(画素信号)(例えば、輝度値)の分布を持つ画像を取得し、取得した画像に対して、一般的な画像処理(オフセット補正、ゲイン補正等)を行う。そして、比較例においては、当該画像処理によって、図2の右下に示すような画素値の分布を持つ画像を得ることができる。比較例において得られた画像においては、図2の右下に示すように、輝度値が分布する幅である階調幅(以下の説明においては、ダイナミックレンジと呼ぶ)を拡大することによりコントラストを高めている。しかしながら、比較例においては、図2の右下の図からわかるように、ダイナミックレンジを拡大することに伴う階調不足(不連続性)により情報が欠落して、偽輪郭が現れる等によるディテールの劣化が生じる可能性が高い。また、比較例においては、最初に取得した画像のノイズがそのまま保持されることから、ダイナミックレンジを拡大することによりノイズがより強調される場合もある。すなわち、比較例においては、ディテールの劣化やノイズの強調が生じ得ることから、病理診断に用いる画像として好適なデジタル画像が得られるとは言い難い。
 そこで、本発明者は、このような状況を鑑みて、本開示の実施形態を創作するに至った。詳細には、本開示の実施形態においては、まず、1次画像400として、図1の左上に示すような低コントラスト画像を取得する。そして、本実施形態においては、図1の左上のグラフとして示すことができる、1次画像400の画素値の分布(ダイナミックレンジ)を解析し、解析結果に基づいて、2次画像402を取得するための撮影回数Nと、各2次画像402を補正するための補正値とを取得する。
 次に、本実施形態においては、上記撮影回数Nに従って、図1の下に示すような、N枚の低コントラスト画像を2次画像402として取得する。そして、取得した各2次画像402の画素値を上記補正値によって補正することにより(詳細には、オフセット値を差し引く補正を行う)、各2次画像402の画素値は、図1の下のグラフとして示すような分布となる。さらに、本実施形態においては、補正済のN枚の2次画像402(詳細には、2次画像402の画素値)を加算することにより、高コントラストな合成画像404を得ることができる。当該合成画像404の画素値は、補正や加算により、図1の右上のグラフとして示すような広い分布を示すこととなる。
 すなわち、本実施形態においては、図2の右上の図からわかるように、ダイナミックレンジを拡大しても、複数の2次画像402を加算していることから、階調不足(不連続性)により情報が欠落することを避けることができる。その結果、本実施形態によれば、情報の欠落によるディテールの劣化を抑えることができ、生体組織標本が本来持つディテールを捉え、自然な画像を得ることができる。さらに、本実施形態によれば、複数の2次画像402を加算していることから、合成画像404に含まれるノイズ(詳細には、割合)を低減することができる。従って、本実施形態によれば、鮮明な生体組織標本のデジタル画像を取得することができる。以下、このような本開示に係る実施形態の詳細を順次説明する。
 なお、以下の説明においては、生体(例えば、人体、植物等)から取得された、組織(例えば、臓器や上皮組織)の一部である組織切片や細胞のことを生体組織標本と呼ぶ。なお、以下に説明する生体組織標本は、必要に応じて各種の染色が施されていてもよい。言い換えると、以下に説明する各実施形態においては、特に断りがない限りは、生体組織標本に各種の染色が施されていなくてもよい。さらに、例えば、染色には、HE(ヘマトキシリン・エオシン)染色、ギムザ染色又はパパニコロウ染色等に代表される一般染色のみならず、特定の組織に着目する場合に用いる過ヨウ素酸シッフ(PAS)染色等や、FISH(Fluorescence In-Situ Hybridization)や酵素抗体法等の蛍光染色が含まれる。
 <<2. 第1の実施形態>>
 <2.1 画像処理システム>
 まずは、図3を参照して、本開示の第1の実施形態に係る画像処理システム10の構成例を説明する。図3は、本開示の第1の実施形態に係る画像処理システム10の構成例を示すブロック図である。本実施形態に係る画像処理システム10は、生体組織標本(例えば、細胞組織等)を搭載するスライド300に対して、デジタル撮影を行うDPI(Digital Pathology Imaging)スキャナシステムである。
 図3に示すように、本実施形態に係る画像処理システム10は、DPIスキャナ(撮影ユニット)100と、画像処理装置200とを含むことができる。なお、DPIスキャナ100と画像処理装置200との間は、互いに有線又は無線の各種の通信ネットワークを介して通信可能に接続してもよい。また、本実施形態に係る画像処理システム10に含まれるDPIスキャナ100及び画像処理装置200は、図3に図示された数に限定されるものではなく、さらに多く含んでいてもよい。さらに、本実施形態に係る画像処理システム10は、図示しない他のサーバや装置等を含んでいてもよい。以下に、本実施形態に係る画像処理システム10に含まれる各装置の概要について説明する。
 (DPIスキャナ100)
 DPIスキャナ100は、DPIスキャナ100のステージ108上に載置された、生体組織標本のスライド300に対して所定の照明光を照射して、当該スライド300を透過した光、又は、当該スライド300からの発光等を撮影(撮像)することができる。例えば、DPIスキャナ100は、生体組織標本を拡大して撮影することができる、拡大鏡(図示省略)及びデジタルカメラ(図示省略)等からなる。なお、DPIスキャナ100は、例えば、スマートフォン、タブレット、ゲーム機、又は、ウェアラブル装置等、撮影機能を有するあらゆる装置によって実現されてもよい。さらに、DPIスキャナ100は、後述する画像処理装置200によって駆動制御されており、DPIスキャナ100が撮影した画像は、例えば、上記画像処理装置200に保存される。なお、DPIスキャナ100の詳細構成については、後述する。
 (画像処理装置200)
 画像処理装置200は、DPIスキャナ100を制御し、且つ、DPIスキャナ100が撮影した画像を処理する機能を有する装置である。詳細には、画像処理装置200は、DPIスキャナ100を制御して、生体組織標本のデジタル画像を撮影するとともに、得られたデジタル画像に対して、所定の画像処理を実施する。画像処理装置200は、PC(Personal Computer)、タブレット、スマートフォン等、制御機能及び画像処理機能を有するあらゆる装置により実現される。なお、画像処理装置200の詳細構成については、後述する。
 なお、本実施形態においては、DPIスキャナ100及び画像処理装置200は、一体の装置であってもよく、すなわち、それぞれ単一の装置によって実現されていなくてもよい。また、本実施形態においては、上述のDPIスキャナ100及び画像処理装置200のそれぞれは、有線又は無線の各種の通信ネットワークを介して接続され、互いに協働する複数の装置によって実現されてもよい。さらに、上述した画像処理装置200は、例えば後述するコンピュータ1000のハードウェア構成によって実現することができる。
 <2.2 DPIスキャナ>
 次に、図3を参照して、本実施形態に係るDPIスキャナ100の詳細構成を説明する。図3に示すように、DPIスキャナ100は、光源部102と、センサ部104と、制御部106と、ステージ108とを主に有することができる。以下に、DPIスキャナ100の各機能ブロックについて順次説明する。
 (光源部102)
 光源部102は、ステージ108の、スライド300が配置され得るスライド配置面とは逆の面側に設けられ、後述する制御部106の制御に従って、生体組織標本のスライド300に対して照明光を照射することができる照明装置である。また、光源部102は、光源部102から照射された照明光を集光して、ステージ138上のスライド300に導く、例えばコンデンサレンズ(図示省略)等を有していてもよい。
 (センサ部104)
 センサ部104は、ステージ108のスライド配置面側に設けられ、色の3原色である、赤色(R)、緑色(G)、青色(B)の光を検知するカラーセンサである。より具体的には、センサ部104は、例えば、対物レンズ(図示省略)と、撮像素子(図示省略)とを有することができる。そして、センサ部104は、後述する制御部106の制御に従って、生体組織標本をデジタル撮影し、撮影によるデジタル画像を画像処理装置200へ出力することができる。
 詳細には、上記対物レンズ(図示省略)は、ステージ108のスライド配置面側に設けられ、生体組織標本を拡大して撮影することを可能にする。すなわち、ステージ108上に配設されたスライド300を透過した透過光は、当該対物レンズによって集光されて、対物レンズの後方(言い換えると、照明光の進行方向)に設けられた撮像素子(図示省略)に結像することとなる。
 そして、上記撮像素子(図示省略)には、当該撮像素子の画素サイズ及び対物レンズ(図示省略)の倍率に応じて、ステージ108のスライド配置面上における所定の横幅及び縦幅からなる撮影範囲の像が結像される。なお、対物レンズにより生体組織標本の一部が拡大される場合には、上述の撮影範囲は、撮像素子の撮影範囲に比べて十分に狭い範囲となる。より具体的には、上記撮像素子は、例えば、CCD(Charge Coupled Device)又はCMOS(Complementary Metal Oxide Semiconductor)等の撮像素子により実現することができる。
 なお、本実施形態においては、センサ部104は、生体組織標本を、対物レンズ等を介さずに直接撮影してもよいし、対物レンズ等を介して撮影してもよく、特に限定されるものではない。
 (制御部106)
 制御部106は、DPIスキャナ100の動作を統括的に制御することができ、例えば、CPU(Central Processing Unit)、ROM(Read Only Memory)及びRAM(Random Access Memory)等により実現される処理回路を含む。例えば、制御部106は、上述した光源部102及びセンサ部104を制御することができる。さらに、制御部106は、ステージ108を様々な方向に移動させるステージ駆動機構(図示省略)を制御してもよい。
 例えば、制御部106は、画像処理装置200から出力されたコマンドに従って、センサ部104の撮影回数Nや撮影時間を制御してもよい。より具体的には、制御部106は、所定の間隔を空けて断続的に撮影回数Nの撮影を行うようセンサ部104を制御してもよい。また、制御部106は、光源部102から照射される照明光の波長、照射強度又は照射時間を制御してもよい。さらに、制御部106は、予め設定された関心領域(ROI:Region of Interest)が撮像されるよう、関心領域に従って、ステージ108を様々な方向に移動させるステージ駆動機構(図示省略)を制御してもよい。なお、ここでいう関心領域とは、生体組織標本のうち、ユーザが解析等のために注目する領域(対象となる領域)のことを意味する。
 (ステージ108)
 ステージ108は、スライド300が載置される載置台である。さらに、ステージ108には、ステージ108を様々な方向に移動させるためのステージ駆動機構(図示省略)が設けられていてもよい。例えば、当該ステージ駆動機構を制御することにより、ステージ108を、スライド配置面に対して平行となる方向(X軸-Y軸方向)と、直交する方向(Z軸方向)とに自由に移動させることができる。また、本実施形態においては、ステージ108には、スライド300をステージ108に搬送するサンプル搬送装置(図示省略)が設けられていてもよい。かかる搬送装置を設けることで、ステージ108に、撮影予定のスライド300が自動的に載置されるようになり、スライド300の入れ替えを自動化することが可能となる。
 以上のように、本実施形態によれば、DPIスキャナ100に、マルチスペクトルセンサを設けることが求められないことから、画像処理システム10の製造コストの増加や大型化を避けることができる。
 <2.3 画像処理装置>
 次に、図4及び図5を参照して、本実施形態に係る画像処理装置200の詳細構成を説明する。図4は、本実施形態に係る画像処理装置200の構成例を示すブロック図であり、図5は、本実施形態に係る分割領域(被撮影領域)500を説明するための説明図である。先に説明したように、画像処理装置200は、DPIスキャナ100を制御し、且つ、DPIスキャナ100が撮影したデジタル画像を処理する機能を有する装置である。図4に示すように、画像処理装置200は、処理部210と、通信部240と、記憶部250と、表示部260とを主に有することができる。以下に、画像処理装置200の各機能ブロックについて順次説明する。
 (処理部210)
 処理部210は、DPIスキャナ100を制御したり、DPIスキャナ100からのデジタル画像を処理したりすることができ、例えばCPU等の処理回路等により実現される。詳細には、処理部210は、図4に示すように、第1の取得部(第1の画素信号取得部)212と、画像レンジ取得部(レンジ取得部)214と、回数決定部216と、スキャナ制御部(制御部)218と、補正値決定部220と、第2の取得部(第2の画素信号取得部)222と、合成部(画像生成部)224とを主に有する。以下に、処理部210の各機能部を順次説明する。
 第1の取得部212は、DPIスキャナ100から、生体組織標本の被撮影領域の低コントラストの1次画像400の画素値(第1の画素信号)を取得し、後述する画像レンジ取得部214に出力する。このようにして第1の取得部212で取得された1次画像400は、後述する第2の取得部222で取得する2次画像(第2の撮影画像)402のための撮影の撮影回数Nや、当該2次画像402を補正するための補正値を決定する際に用いられることとなる。
 画像レンジ取得部214は、上述した第1の取得部212からの1次画像400における、画素値(画素信号)の分布幅であるダイナミックレンジ(画素値レンジ)を取得する。例えば、画像レンジ取得部214は、1次画像400に含まれる各画素の色ごと(赤色、緑色、青色)のレベル値(例えば、輝度(以下、RGB値と呼ぶ))を、画素値として取得し、1次画像400での各RGB値(すなわち、R値(赤色の光の輝度値)、G値(緑色の光の輝度値)、B値(青色の光の輝度値))の分布の幅であるダイナミックレンジについての情報を取得する。言い換えると、1次画像400に含まれる複数の画素のそれぞれは、R値、G値、B値を有することから、画像レンジ取得部214は、当該1次画像400の画素全体における、R値の最小値から最大値、G値の最小値から最大値、B値の最小値から最大値を取得することとなる。この際、画像レンジ取得部214は、取得した各RGB値を、色ごとに、各レベル(画素値を所定の値の範囲ごとに区切ったもの)の度数の分布を示すことができるヒストグラム化し、当該ヒストグラムを利用して、各RGB値の最大値及び最小値を取得してもよい。そして、画像レンジ取得部214は、取得した各RGB値の最大値及び最小値を、後述する回数決定部216や補正値決定部220に出力する。
 回数決定部216は、上述した画像レンジ取得部214による画素値のダイナミックレンジに基づいて、生体組織標本における分割領域(被撮影領域)500の少なくとも一部に対する撮影回数Nを決定する。詳細には、回数決定部216は、図5に示すように、生体組織標本を、仮想的に所定サイズの複数の分割領域500に分割し、各分割領域500に対する撮影回数Nを決定する。より具体的には、回数決定部216は、上記1次画像400の各RGB値の最大値及び最小値に基づき、各分割領域500に対する撮影回数Nを算出し、算出した撮影回数Nを後述するスキャナ制御部218に出力する。なお、回数決定部216における撮影回数Nの具体的な決定方法については後述する。
 スキャナ制御部218は、上述した回数決定部216によって決定された撮影回数Nに基づき、DPIスキャナ100を制御するためのコマンドを生成し、後述する通信部240を介して、DPIスキャナ100を制御する。詳細には、スキャナ制御部218は、生成した上記コマンドにより、生体組織標本の各分割領域500に対して上記撮影回数Nの撮影を行い、各分割領域500についてN枚の2次画像402の画素値(第2の画素信号)を取得するように、DPIスキャナ100を制御する。
 補正値決定部220は、上述した画像レンジ取得部214によるダイナミックレンジに基づいて、生体組織標本における各分割領域500に係るN枚の2次画像402の画素値(第2の画素信号)に対して行う補正のための補正値を決定する。詳細には、補正値決定部220は、上記1次画像400の各RGB値の最小値に基づき、補正値としてのオフセット値(オフセット値の詳細は、後述する)を算出し、後述する合成部224に出力する。なお、補正値決定部220における補正値の具体的な決定方法については後述する。
 第2の取得部222は、上記撮影回数Nに従って撮影された、生体組織標本における各分割領域500の一部を少なくともそれぞれ含むN枚の低コントラストの2次画像402の画素値(第2の画素信号)を取得し、後述する合成部224に出力する。詳細には、本実施形態においては、第2の取得部222は、1つの分割領域500に対して、N枚の2次画像402を取得する。そして、第2の取得部222で取得された、各分割領域500のN枚の2次画像402は、後述する合成部224で合成されて合成画像404となる。
 合成部224は、上述した第2の取得部222からの、各分割領域500のN枚の2次画像402を重ね合わせて(加算)、各分割領域500の、高コントラストの合成画像(出力画像)404を生成する。例えば、合成部224は、各分割領域500のN枚の2次画像402の同一画素の画素値を加算することにより、各分割領域500の合成画像404を得ることができる。より詳細には、各2次画像402の各画素は、R値、G値、B値(画素値)を有することから、合成部224は、N枚の2次画像402の同一画素のR値を加算することにより、赤色に関する分割領域500の1つの合成画像404を得ることができ、N枚の2次画像402の同一画素のG値を加算することにより、緑色に関する分割領域500の1つの合成画像404を得ることができ、N枚の2次画像402の同一画素のB値を加算することにより、青色に関する分割領域500の1つの合成画像404を得ることができる。
 さらに、本実施形態においては、合成部224は、上述した補正値決定部220からの補正値を用いてN枚の2次画像402のそれぞれの各画素の画素値を補正した後に、N枚の2次画像402の同一画素の各画素値を加算して、合成画像404を得ることができる。より詳細には、合成部224は、各分割領域500の、N枚の2次画像402の各画素の各RGB値から、補正値決定部220にて各RGB値の最小値に基づき決定したオフセット値を差し引くことにより、補正を行うことができる。なお、本実施形態においては、合成部224は、N枚の2次画像402のそれぞれに対して補正を行うことに限定されるものではなく、複数の2次画像402を重ね合わせた合成画像(出力画像)404に対して、補正を行ってもよい。そして、合成部224は、合成画像404を後述する記憶部250や表示部260に出力することができる。また、合成部224は、上述のようにして得られた、同一分割領域500に係る、赤色に関する1つの合成画像404と、緑色に関する1つの合成画像404と、青色に関する1つの合成画像404とを重ね合わせ、カラー画像を生成してもよい。
 (通信部240)
 通信部240は、DPIスキャナ100等の外部装置との間で情報の送受信を行うことができ、例えば、DPIスキャナ100を制御するためのコマンドを、DPIスキャナ100に送信することができる。言い換えると、通信部240は、データの送受信を行う機能を有する通信インターフェイスと言える。本実施形態においては、通信部240は、例えば、通信アンテナ、送受信回路やポート等の通信デバイス(図示省略)により実現される。
 (記憶部250)
 記憶部250は、処理部210が各種処理を実行するためのプログラム、情報等を保存する。さらに、記憶部250は、例えば、上述した1次画像400を保存する1次画像蓄積部(図示省略)や、上述した2次画像402を保存する2次画像蓄積部(図示省略)や、上述した合成画像404を保存する合成画像蓄積部(図示省略)として機能することができる。さらに、後述する他の実施形態においては、記憶部250は、3次画像や最終画像を保存する3次画像蓄積部(図示省略)や最終画像蓄積部(図示省略)としても機能する。また、記憶部250は、例えば、フラッシュメモリ(flash memory)等の不揮発性メモリ(nonvolatile memory)等や、HDD(Hard Disk Drive)等の記憶装置により実現される。
 (表示部260)
 表示部260は、合成画像404を表示(出力)することができる。詳細には、表示部260は、例えばLCD(Liquid Crystal Display)、有機EL(Electro Luminescence)ディスプレイ等からなり、上述した合成部224からの合成画像404等を出力することができる。なお、本実施形態においては、表示部260は、画像処理装置200内に固定されるように設けられていてもよく、もしくは、画像処理装置200に脱着可能に設けられていてもよい。
 なお、本実施形態においては、画像処理装置200に含まれる各機能ブロックは、図4に示される機能ブロックに限定されるものではない。
 <2.4 画像処理方法>
 次に、図6及び図7を参照して、本実施形態に係る画像処理方法について説明する。図6は、本実施形態に係る画像処理の一例を示すフローチャートであり、図7は、本実施形態に係る画像処理を説明するための説明図である。詳細には、図6に示すように、本実施形態に係る画像処理方法は、ステップS101からステップS109までのステップを含むことができる。以下に、本実施形態に係るこれら各ステップの詳細について説明する。
 まずは、画像処理システム10は、生体組織標本の全体の低コントラストの1次画像400を撮影する(ステップS101)。次に、画像処理システム10は、1次画像400を記憶部250の1次画像蓄積部(図示省略)に保存する(ステップS102)。画像処理システム10は、取得した1次画像400から、各RGB値のヒストグラムを生成する(ステップS103)。ここで生成されたヒストグラムは、例えば、図7に示されるようなヒストグラムとなる。図7においては、上段から下段に向かって、赤色(R)、緑色(G)、青色(B)の輝度(RGB値)の分布を示すヒストグラムが示され、各ヒストグラムにおいては、輝度を所定の範囲(レベル)に区切り、各範囲の度数を示している。
 そして、画像処理システム10は、補正値としてオフセット値(Offset)を算出する(ステップS104)。本実施形態においては、オフセット値は、図7に示す、1次画像400の各色のヒストグラムにおいて、輝度の最小値をOffset R、Offset G、Offset Bとすると、下記の数式(1)で示すように、これらのOffset R、Offset G、Offset Bのうちの最小値となる。
Figure JPOXMLDOC01-appb-M000001
 次に、画像処理システム10は、撮影回数Nを算出する(ステップS105)。詳細には、この後の処理において、N枚の2次画像402の各画素の各RGB値を加算することとなるが、その際、加算したRGB値が、センサ部104の特性によって予め設定された各色の上限値(Lim R、Lim G、Lim B)(図7 参照)を超えることがないように、下記の数式(2)に基づいて、撮影回数Nが決定される。なお、数式(2)においては、Max R、Max G、Max Bは、1次画像400のヒストグラムにおける各RGB値の最大値であるものとする(図7 参照)。
Figure JPOXMLDOC01-appb-M000002
 画像処理システム10は、生体組織標本の各分割領域500の低コントラストの2次画像402をステップS105で決定されたN回(撮影回数)撮影する(ステップS106)。先に説明したように、当該ステップS106では、同一の分割領域500をN回撮影することとなる。次に、画像処理システム10は、N枚の2次画像402を記憶部250の2次画像蓄積部(図示省略)に保存する(ステップS107)。なお、本実施形態においては、全ての分割領域500についてN枚の2次画像402が取得できるまで、ステップS106及びステップS107を繰り返し実施してもよい。もしくは、後述する変形例のように、予め決められた1つ又は複数の分割領域500に着目する場合には、予め決められた1つ又は複数の分割領域500のN枚の2次画像402が取得できるまで、ステップS106及びステップS107を1回又は繰り返し実施してもよい。
 画像処理システム10は、下記の数式(3)に従い、各分割領域500の、N枚の2次画像402のそれぞれの画素ごとの各RGB値からオフセット値(Offset)を差し引き、差し引いた後の各RGB値を同一画素ごとに加算することにより、各色についての1つの合成画像404を取得する(ステップS108)。数式(3)においては、InputImageR(x,y)、InputImageG(x,y)、InputImageB(x,y)は、色ごとの各2次画像402の各画素の各RGB値であり、OutImageR(x,y)、OutImageG(x,y)、OutImageB(x,y)は、合成画像404の画素ごとの各RGB値である。すなわち、本実施形態においては、低コントラストの1次画像400のダイナミックレンジを解析し、解析結果に基づいて、2次画像402の撮影回数Nや、2次画像402の補正のための補正値を算出することにより、好適な加算や補正を行うことができる。その結果、本実施形態によれば、合成画像404が鮮明な高コントラスト画像となるだけでなく、合成画像404での黒浮き(飽和)を抑えることができる。
Figure JPOXMLDOC01-appb-M000003
 本実施形態においては、補正とともに、N枚の2次画像402の加算を行うことにより、ノイズの低減や、階調不足(不連続性)による情報の欠落を解消しつつ、合成画像404でのダイナミックレンジを拡大することができる。従って、本実施形態によれば、鮮明な生体組織標本の合成画像404を取得することができる。
 なお、本実施形態においては、各分割領域500の全てに、同一の撮影回数N及び同一の補正値(Offset値)が適用されることに限定されるものではなく、分割領域500ごとに、最適化された撮影回数N及び補正値が適用されてもよい。このような場合、各分割領域500の合成画像204をつなぎ合わせたステッチング画像では、つなぎ目が不連続となり不自然な画像になる場合があるが、各分割領域500の画像のコントラストが最適化されるため、解析に有効な場合がある。また、本実施形態においては、合成部224は、上述の補正の際に、DPIスキャナ100のセンサ部104の固有のノイズ等を差し引いてもよい。
 そして、画像処理システム10は、各分割領域500の合成画像404を、表示部260に出力したり、記憶部250の合成画像蓄積部(図示省略)に保存したりする(ステップS109)。
 以上のように、本実施形態においては、補正とともに、N枚の2次画像402の加算を行うことにより、ノイズの低減や、階調不足(不連続性)による情報の欠落を解消しつつ、合成画像404でのダイナミックレンジを拡大することができる。従って、本実施形態によれば、鮮明な生体組織標本の合成画像404を取得することができる。さらに、本実施形態によれば、画像処理システム10にマルチスペクトルセンサを設けることが求められないことから、画像処理システム10の製造コストの増加や大型化を避けることができる。すなわち、本実施形態によれば、製造コストの増加や大型化を避けつつ、鮮明な生体組織標本のデジタル画像を取得することができる。
 <2.5 変形例>
 上述の説明においては、生体組織標本の全ての分割領域500の合成画像404を取得するものとして説明したが、本実施形態においては、これに限定されるものではなく、例えば、生体組織標本のうちの関心領域(ROI)の合成画像404のみを取得するようにしてもよい。このようにすることで、画像処理時間を短縮しつつ、解析を行うために必要なデジタル画像を取得することができる。以下に、このような変形例の詳細を説明する。
 本変形例においては、画像処理システム10は、1次画像400を取得した後に、取得した1次画像400を表示部260にユーザに向けて出力する。そして、ユーザは、表示部260に表示された1次画像400(第1の画素信号に係る画像)を参照して、生体組織標本のうちの、解析に必要な範囲を手入力する(例えば、座標入力や、矩形で囲む等)ことにより、関心領域を設定する。そして、本変形例においては、画像処理装置200の処理部210は、2次画像402を取得する1つ又は複数の分割領域500を決定する領域決定部(図示省略)を有する。当該領域決定部は、入力された関心領域をすべてカバーするように、2次画像402を取得する1つ又は複数の分割領域500を決定する。さらに、当該領域決定部は、決定した分割領域500の情報を、スキャナ制御部218や、画像レンジ取得部214に出力する。このようにすることで、本変形例においては、生体組織標本のうちの関心領域の合成画像404のみを取得することができる。
 なお、本変形例においては、画像レンジ取得部214は、1次画像400の全ての分割領域500に含まれるすべての画素についての画素値のダイナミックレンジを取得してもよい。もしくは、本変形例においては、画像レンジ取得部214は、1次画像400のうちの、上記領域決定部が決定した1つ又は複数の分割領域500に含まれる画素についての画素値のダイナミックレンジを取得してもよい。なお、後者の場合では、上記領域決定部が決定した1つ又は複数の分割領域500に含まれる画素についての画素値のダイナミックレンジに基づき、関心領域に適した撮影回数N及び補正値を算出することができるようになることから、より鮮明な関心領域の合成画像404を取得することができる。
 さらに、本変形例においては、ユーザの手入力によって関心領域を設定することに限定されるものではなく、機械学習によって得られた画像認識モデルに基づいて、関心領域を設定してもよい。詳細には、例えば、事前に関心領域となりえる画像(例えば、所定の組織、所定の細胞の画像)を機械学習させておき、関心領域となりえる画像の特徴点、特徴量を抽出し、画像認識モデルを生成する。そして、上記領域決定部(図示省略)は、画像認識モデルで定義された特徴点や特徴量と同一又は類似する画像を、1次画像400から抽出することにより、関心領域を設定することができる。このように機械学習を利用することにより、自動的に関心領域を設定することができることから、ユーザの利便性を高めることができたり、自動的に解析を行ったりすることが可能となる。
 <<3. 第2の実施形態>>
 ところで、上述した第1の実施形態においては、画素値としてRGB値を取得するものとして説明したが、本開示の実施形態においては、これに限定されるものではなく、例えば、カラー画像を色相(Hue)、輝度(Lightness)、彩度(Saturation)の3つの値で表現するHLS色空間を用いてもよい。すなわち、以下に説明する第2の実施形態においては、画像をRGB信号ではなくHLS信号に変換し、画素値として、各画素の色相(以下、H値と呼ぶ)、彩度(以下、S値と呼ぶ)、輝度(以下、L値と呼ぶ)を取得する。本実施形態によれば、HLS信号を用いることにより、合成画像404におけるコントラストをより高くし、ノイズをより減らすことができる。以下、このような第2の実施形態の詳細を説明する。
 なお、第2の実施形態に係る画像処理システム10及びDPIスキャナ100の構成例は、第1の実施形態の画像処理システム10及びDPIスキャナ100と共通であることから、第1の実施形態に係る画像処理システム10及びDPIスキャナ100の構成の説明及び説明で用いた図3を参照し得る。従って、ここでは、本実施形態に係る画像処理システム10及びDPIスキャナ100の説明を省略する。
 <3.1 画像処理装置>
 まずは、図8を参照して、本実施形態に係る画像処理装置200aの詳細構成を説明する。図8は、本開示の第2の実施形態に係る画像処理装置200aの構成例を示すブロック図である。詳細には、図8に示すように、画像処理装置200aは、処理部210aと、通信部240と、記憶部250と、表示部260とを主に有することができる。以下に、画像処理装置200aの各機能ブロックについて順次説明するが、処理部210a以外は、第1の実施形態に係る画像処理装置200の各機能ブロックと共通するため、ここでは、処理部210a以外の説明を省略し、処理部210aのみを説明する。
 (処理部210a)
 処理部210aは、第1の実施形態と同様に、DPIスキャナ100を制御したり、DPIスキャナ100からのデジタル画像を処理したりすることができ、例えばCPU等の処理回路等により実現される。詳細には、処理部210aは、図8に示すように、第1の取得部(第1の画素信号取得部)212と、画像レンジ取得部(レンジ取得部)214aと、回数決定部216aと、スキャナ制御部(制御部)218と、補正値決定部220aと、第2の取得部(第2の画素信号取得部)222と、合成部(画像生成部)224aとを主に有する。さらに、処理部210aは、HLS信号生成部226、228と、RGB信号生成部230とを有する。以下に、処理部210aの各機能部について順次説明するが、第1の実施形態と共通する機能部については、説明を省略する。
 画像レンジ取得部214aは、HLS信号に変換された1次画像400における、L値の分布幅(画素値レンジ)(ダイナミックレンジ)を取得する。詳細には、画像レンジ取得部214は、1次画像400に含まれる全ての画素のL値を、例えば、各レベルの度数の分布を示すヒストグラム化し、その最大値及び最小値を取得する。そして、画像レンジ取得部214aは、取得した最大値及び最小値を、後述する回数決定部216aや補正値決定部220aに出力する。
 回数決定部216aは、上述した画像レンジ取得部214aによるL値の最小値及び最大値に基づいて、生体組織標本における分割領域(被撮影領域)500に対する撮影回数Nを決定し、撮影回数Nを後述するスキャナ制御部218に出力する。なお、回数決定部216aにおける撮影回数Nの具体的な決定方法については後述する。
 補正値決定部220aは、上述した画像レンジ取得部214によるL値の最小値を補正値として決定し、後述する合成部224aに出力する。
 合成部224aは、後述するHLS信号生成部228からの、HLS信号に変換された各分割領域500のN枚の2次画像(第2の撮影画像)402を画像処理することができる。詳細には、合成部224aは、HLS信号に変換された各分割領域500のN枚の2次画像402の各画素のL値から、上述した補正値決定部220aからの補正値(詳細には、L値の最小値)を差し引くことにより、補正を行うことができる。そして、合成部224aは、各分割領域500のN枚の2次画像402の同一画素の補正後のL値を加算する。さらに、合成部224aは、各分割領域500のN枚の2次画像402の同一画素のH値及びS値を平均化する。そして、合成部224aは、得られた加算値や平均値を後述するRGB信号生成部230に出力する。すなわち、当該合成部224aは、HLS値で表現された、各分割領域500の合成画像404を取得することができる。そして、本実施形態においては、L値を加算することにより合成画像404におけるコントラストをより高くし、H値及びS値を平均化することにより、合成画像404におけるノイズをより減らすことができる。なお、合成部224aによる、加算や平均化の具体的な方法については後述する。
 HLS信号生成部226、228は、第1の取得部212又は第2の取得部222で取得された生体組織標本の1次画像400又は2次画像402をRGB信号からHLS信号に変換することができる。
 RGB信号生成部230は、合成部224aからの加算されたL値、平均化されたH値及びS値を用いてRGB信号に変換し、各分割領域500の合成画像404を取得することができる。
 <3.2 画像処理方法>
 次に、図9及び図10を参照して、本実施形態に係る画像処理方法について説明する。図9は、本実施形態に係る画像処理の一例を示すフローチャートであり、図10は、本実施形態に係る画像処理を説明するための説明図である。詳細には、図9に示すように、本実施形態に係る画像処理方法は、ステップS201からステップS212までのステップを含むことができる。以下に、本実施形態に係るこれら各ステップの詳細について説明する。なお、以下の説明においては、上述の第1の実施形態と異なる点のみを説明し、第1の実施形態と共通する点については、その説明を省略する。
 ステップS201及びステップS202は、図6に示す、第1の実施形態のステップS101及びステップS102と同様であるため、ここではその説明を省略する。
 画像処理システム10は、1次画像400をRGB信号からHLS信号に変換する(ステップS203)。
 そして、画像処理システム10は、HLS信号に変換された1次画像400から、L値のヒストグラムを生成する(ステップS204)。生成されたヒストグラムは、例えば、図10に示される。図10においては、L値の分布を示すヒストグラムが示され、当該ヒストグラムにおいては、L値を所定の範囲(レベル)に区切り、各範囲の度数を示している。
 そして、画像処理システム10は、1次画像400に含まれる全ての画素のL値における最小値(Min L)(図10 参照)を補正値として決定する(ステップS205)。
 次に、画像処理システム10は、撮影回数Nを算出する(ステップS206)。詳細には、この後の処理にて、各分割領域500のN枚の2次画像402の同一画素のL値を加算することとなるが、その際、加算したL値が、センサ部104の特性によって予め設定されたL値の上限値(Lim L)(図10 参照)を超えることがないように、下記の数式(4)に基づいて、撮影回数Nが決定される。なお、数式(4)においては、Max Lは、1次画像400のヒストグラムのL値の最大値であり、Min Lは、1次画像400のヒストグラムのL値の最小値であるものとする(図10 参照)。
Figure JPOXMLDOC01-appb-M000004
 ステップS207及びステップS208は、図6に示す、第1の実施形態のステップS106及びステップS107と同様であるため、ここではその説明を省略する。
 画像処理システム10は、各分割領域500のN枚の2次画像402をRGB信号からHLS信号に変換する(ステップS209)。
 画像処理システム10は、下記の数式(5)に従い、各分割領域500のN枚の2次画像402の各画素のL値からL値の最小値(Min L)を差し引き、差し引いた後のL値を同一画素ごとに加算する。さらに、画像処理システム10は、下記の数式(5)に従い、各分割領域500のN枚の2次画像402の同一画素ごとのH値及びS値を平均化する(ステップS210)。数式(5)においては、InputImageH(x,y)、InputImageS(x,y)、InputImageL(x,y)は、各2次画像402の各画素のH値、S値及びL値であり、OutImageH(x,y)、OutImageS(x,y)、OutImageL(x,y)は、N枚の2次画像402の同一画素ごとのH値及びS値の平均値、及びL値の加算値である。本実施形態においては、L値を加算することにより、合成画像404におけるコントラストをより高くし、H値及びS値を平均化することにより、合成画像404におけるノイズをより減らすことができる。
Figure JPOXMLDOC01-appb-M000005
 画像処理システム10は、上述のステップS210で得られた、加算されたL値、平均化されたH値及びS値からなるHLS信号を、RGB信号に変換し、各分割領域500の合成画像404を取得する(ステップS211)。
 ステップS212は、図6に示す、第1の実施形態のステップS109と同様であるため、ここではその説明を省略する。
 以上のように、本実施形態においては、L値を加算することにより、合成画像404におけるコントラストをより高くし、H値及びS値を平均化することにより、合成画像404におけるノイズをより減らすことができる。
 <3.3 変形例>
 上述した第2の実施形態においては、合成部224aは、各分割領域500のN枚の2次画像402の同一画素のL値を加算し、H値及びS値を平均化するものとして説明したが、本実施形態においては、これに限定されるものではない。本実施形態の変形例においては、例えば、合成部224aは、L値の代わりに、各分割領域500のN枚の2次画像402の同一画素のS値を加算し、L値及びH値を平均化してもよい。この場合、1次画像400におけるS値の最小値及び最大値を用いて、撮影回数Nを決定したり、補正値を決定したりしてもよい。さらに、この場合、1次画像400におけるL値及びS値の最小値及び最大値を用いて、撮影回数Nを決定したり、補正値を決定したりしてもよい。もしくは、本実施形態の変形例においては、L値及びS値を加算してもよい。
 また、上述した実施形態においては、HLS色空間を用いることに限定されるものではなく、カラー画像を、輝度(Y)と、青系統の色相及び彩度(Cb)と、赤系統の色相及び彩度(Cr)とで表現するYCC色空間を用いてもよい。
 <<4. 第3の実施形態>>
 ところで、デジタル撮像システムを用いて生体組織標本の高倍率画像を撮影する撮影装置においては、事前のコマ割りに従って、生体組織標本の部分的領域(例えば、分割領域500)ごとに高倍率画像を撮影し、得られた複数の画像をつなぎ合わせる(ステッチング)ことによって生体組織標本の全体の高倍率画像を取得する場合がある。この際、コマ割りを決定するために、後述するサムネイルカメラ110(図11 参照)によって、生体組織標本の全体の画像である、例えば解像度の低いサムネイル画像を取得し、当該サムネイル画像に基づき、生体組織標本の仮想的な分割(コマ割り)を決定する。そこで、本実施形態では、このようなサムネイル画像を1次画像410(図16 参照)として用いることとする。このようなサムネイル画像を1次画像410として用いることにより、画像処理に係る処理時間を短くすることができる。以下に、このような本実施形態の詳細について説明する。
 <4.1 画像処理システム>
 まずは、図11を参照して、本開示の第3の実施形態に係る画像処理システム10bの構成例を説明する。図11は、本開示の第3の実施形態に係る画像処理システム10bの構成例を示すブロック図である。本実施形態に係る画像処理システム10aは、図11に示すように、サムネイルカメラ110と、メインカメラ120と、画像処理装置200bとを含むことができる。サムネイルカメラ110、メインカメラ120、及び、画像処理装置200bの間は、互いに有線又は無線の各種の通信ネットワークを介して通信可能に接続してもよい。また、本実施形態においては、サムネイルカメラ110とメインカメラ120との間には、スライド300をサムネイルカメラ110からメインカメラ120へ搬送するスライドローダー130が設けられている。例えば、当該スライドローダー130は、画像処理装置200bに制御されることにより、スライド300をサムネイルカメラ110からメインカメラ120へ搬送することができる。かかるスライドローダー130を設けることで、サムネイルカメラ110からメインカメラ120へスライド300が自動的に搬送されるようになる。以下に、本実施形態に係る画像処理システム10bに含まれる各装置の概要について説明する。
 (サムネイルカメラ110)
 サムネイルカメラ110は、生体組織標本の全体像を撮影するデジタルカメラであり、その形態は、上述したDPIスキャナ100と同様に、光源部112と、センサ部114と、制御部116と、ステージとして機能するスライドローダー130とを有する。詳細には、制御部116は、光源部112及びセンサ部114を制御して、生体組織標本の全体像を撮影し、当該撮影によって得られたデジタル画像は、1次画像410(図16 参照)として、画像処理装置200bに出力される。
 さらに、サムネイルカメラ110には、スライド300に貼付されたラベル(図示省略)に記載された付帯情報(生体組織標本の識別情報、生体組織標本の属性情報(部位、生体の年齢、性別、病気等)、生体組織標本の作製条件情報(染色試薬、染色条件)等)を撮影するための機構が設けられていてもよい。この場合、撮影したラベルのデジタル画像は、画像処理装置200bに出力されてもよく、当該画像処理装置200bは、当該デジタル画像を利用して、直接的に付帯情報を取得してもよく、もしくは、外部サーバ(図示省略)から付帯情報を取得してもよい。
 (メインカメラ120)
 メインカメラ120は、生体組織標本のスライド300のうち、例えば、各分割領域500を、サムネイルカメラ110よりも大きく拡大して撮影するデジタルカメラであり、その形態は、上述したDPIスキャナ100と同様に、光源部122と、センサ部124と、制御部126と、ステージとして機能するスライドローダー130とを有する。詳細には、制御部126は、画像処理装置200bからのコマンドに従って、光源部112及びセンサ部114を制御して、生体組織標本の各分割領域500を撮影し、当該撮影によって得られたデジタル画像は、2次画像412(図16 参照)として、画像処理装置200bに出力される。
 なお、上述の説明においては、サムネイルカメラ110による1次画像(第1の画素信号に係る撮影画像)410は、メインカメラ120による2次画像(第2の画素信号に係る撮影画像)412に比べて、画角が広いものとして説明したが、本実施形態においてはこれに限定されるものではなく、例えば、画角が同一であってもよい。また、本実施形態においては、サムネイルカメラ110による1次画像410は、メインカメラ120による2次画像412に比べて、解像度が低くてもよく、もしくは、解像度が同一であってもよい。
 (画像処理装置200b)
 画像処理装置200bは、サムネイルカメラ110による1次画像410に基づいて、メインカメラ120を制御し、且つ、メインカメラ120が撮影した複数の2次画像412を処理する機能を有する装置である。
 <4.2 画像処理装置>
 次に、図12を参照して、本実施形態に係る画像処理装置200bの詳細構成を説明する。図12は、本開示の第3の実施形態に係る画像処理装置200bの構成例を示すブロック図である。詳細には、図12に示すように、画像処理装置200bは、処理部210bと、通信部240と、記憶部250と、表示部260とを主に有することができる。以下に、画像処理装置200bの各機能ブロックについて順次説明するが、処理部210b以外は、第1及び第2の実施形態に係る画像処理装置200、200aの各機能ブロックと共通するため、ここでは、処理部210b以外の説明を省略し、処理部210bのみを説明する。
 (処理部210b)
 処理部210bは、サムネイルカメラ110からの、生体組織標本の全体像である1次画像410に基づき、メインカメラ120を制御したり、メインカメラ120からの、生体組織標本の各分割領域500の複数の2次画像412を処理したりすることができ、例えばCPU等の処理回路等により実現される。詳細には、処理部210bは、図8に示すように、第1の取得部(第1の画素信号取得部)212と、画像レンジ取得部(レンジ取得部)214bと、回数決定部216bと、スキャナ制御部(制御部)218と、補正値決定部220bと、第2の取得部(第2の画素信号取得部)222と、合成部(画像生成部)224と、HLS信号生成部226とを主に有する。さらに、処理部210bは、ステッチング部232を有する。以下に、処理部210bの各機能部について順次説明するが、第1及び第2の実施形態と共通する機能部については、説明を省略する。
 画像レンジ取得部214bは、HLS信号に変換された1次画像410における、L値及びS値の分布の幅(ダイナミックレンジ)を取得する。詳細には、画像レンジ取得部214は、1次画像410に含まれる各画素のL値及びS値を、例えば、各レベル(画素値を所定の値の範囲ごとに区切ったもの)の度数の分布を示すヒストグラム化し、その最大値及び最小値を取得する。そして、画像レンジ取得部214bは、取得した最大値及び最小値を、後述する回数決定部216bや補正値決定部220bに出力する。
 回数決定部216bは、テーブル(所定のテーブル)252(図14 参照)を参照して、画像レンジ取得部214aによるL値及びS値の最小値及び最大値に基づいて、生体組織標本における同一の分割領域(被撮影領域)500に対する撮影回数Nを決定し、撮影回数Nをスキャナ制御部218に出力する。
 補正値決定部220bは、テーブル(所定のテーブル)252(図14 参照)を参照して、上述した画像レンジ取得部214によるL値及びS値の最小値及び最大値に基づき、補正値としてのオフセット値(Offset)を決定し、後述する合成部224に出力する。
 本実施形態においては、L値及びS値の両方を用いて、撮影回数Nや補正値を決定することから、L値及びS値のバランスが考慮された最終画像(図示省略)を得ることができる。
 なお、図14に示すテーブル252は、例えば、過去の撮影に基づき実験的に求められた、インデックス(例えば、L値及びS値の最大値及び最小値)ごとの、鮮明な最終画像を得るために最適な撮影回数N及びオフセット値が保存されている。なお、本実施形態においては、テーブル252は、過去の撮影履歴(撮影条件、合成画像の品質等)を機械学習することによって得られた撮影画像品質モデルに基づき、予め生成されてもよい。また、図14に示す値は、あくまでも例示であり、本実施形態に係るテーブル252に保存されている値は、図14に示す値に限定されるものではない。
 また、上述の説明においては、回数決定部216b及び補正値決定部220bは、テーブル252から、L値及びS値の最小値及び最大値に紐づく、撮影回数N及びオフセット値を選択するものとして説明しているが、本実施形態においては、これに限定されるものではない。本実施形態においては、例えば、回数決定部216b及び補正値決定部220bは、スライド300に貼付されたラベル(図示省略)に記載された付帯情報(付与された情報)に基づいて、使用するテーブルを選択してもよく、もしくは、テーブル252から、撮影回数N及びオフセット値を選択してもよい。
 ステッチング部232は、合成部224において、N枚の2次画像412を加算することによって得られた互いに異なる分割領域500に係る3次画像(図示省略)を、各分割領域500の位置関係に従ってつなぎ合わせて、最終画像(図示省略)を生成する。
 <4.3 画像処理方法>
 次に、図13から図16を参照して、本実施形態に係る画像処理方法について説明する。図13は、本実施形態に係る画像処理の一例を示すフローチャートであり、図14は、本実施形態に係るテーブル252の一例を説明するための説明図である。また、図15及び図16は、本実施形態に係る画像処理を説明するための説明図である。詳細には、図13に示すように、本実施形態に係る画像処理方法は、ステップS301からステップS314までのステップを含むことができる。以下に、本実施形態に係るこれら各ステップの詳細について説明する。なお、以下の説明においては、上述の第1及び第2の実施形態と異なる点のみを説明し、第1及び第2の実施形態と共通する点については、その説明を省略する。
 まずは、画像処理システム10bは、サムネイルカメラ110により、生体組織標本の全体像である1次画像410(図16 参照)を撮影する(ステップS101)。
 ステップS302及びステップS303は、図9に示す、第2の実施形態のステップS202及びステップS203と同様であるため、ここではその説明を省略する。
 次に、画像処理システム10bは、HLS信号に変換された1次画像410(図16 参照)から、L値及びS値のヒストグラムを生成する(ステップS304)。生成されたヒストグラムは、例えば、図15に示される。図15においては、L値及びS値の分布を示すヒストグラムが示され、当該ヒストグラムにおいては、L値及びS値を所定の範囲(レベル)に区切り、各範囲の度数を示す。
 画像処理システム10bは、図14に示すテーブル252から、L値及びS値の最小値及び最大値に紐づく撮影回数N及びオフセット値(Offset R,Offset G、Offset B)を選択して、撮影回数N及びオフセット値を決定する(ステップS305)。本実施形態においては、L値及びS値の両方の最小値及び最大値を用いて、撮影回数Nやオフセット値を決定することから、L値及びS値のバランスが考慮された最終画像(図示省略)を得ることができる。そして、画像処理システム10bは、スライド300をサムネイルカメラ110からメインカメラ120へ搬送する(ステップS306)。
 画像処理システム10bは、メインカメラ120により、生体組織標本の1つの分割領域500の2次画像412を撮影回数Nだけ撮影する(ステップS307)。
 ステップS308は、図9に示す、第2の実施形態のステップS208と同様であるため、ここではその説明を省略する。
 画像処理システム10bは、下記の数式(6)に従い、N枚の2次画像402の各画素のRGB値から各オフセット値(Offset R,Offset G、Offset B)を差し引き、差し引いたのちのRGB値を同一画素ごとに加算することにより、3次画像(図示省略)を合成する(ステップS309)。
Figure JPOXMLDOC01-appb-M000006
 次に、画像処理システム10bは、各色の3次画像(図示省略)を記憶部250の3次画像蓄積部(図示省略)に保存する(ステップS310)。
 そして、画像処理システム10bは、全ての分割領域500について、N回の2次画像412の撮影が完了したかどうかを判定する(ステップS311)。画像処理システム10bは、撮影完了の場合(ステップS311:Yes)には、ステップS313へ進み、撮影完了でない場合(ステップS105:No)には、ステップS312へ進む。
 次に、画像処理システム10bは、次の撮影対象となる分割領域500の2次画像412の撮影のために、スライド300の撮影位置を更新し、上述したステップS307へ戻る(ステップS312)。すなわち、本実施形態においては、全ての分割領域500についてN回の2次画像412の撮影が完了するまで、スライド300の撮影位置の更新と、N回の2次画像412の撮影と、3次画像(図示省略)の合成とを繰り返すこととなる。
 そして、画像処理システム10bは、互いに異なる分割領域500に係る複数の3次画像(図示省略)を、各分割領域500の位置関係に従ってつなぎ合わせて(ステッチング)、最終画像(図示省略)を生成する(ステップS313)。さらに、画像処理システム10bは、最終画像を、表示部260に出力したり、記憶部250の合成画像蓄積部(図示省略)に保存したりする(ステップS314)。
 以上のように、本実施形態によれば、L値及びS値の両方の最小値及び最大値を用いて、撮影回数Nやオフセット値を決定することから、L値及びS値のバランスが考慮された最終画像(図示省略)を得ることができる。さらに、本実施形態によれば、サムネイル画像を1次画像410として用いることにより、画像処理に係る処理時間を短くすることができる。
 また、上述した実施形態においては、HLS色空間を用いることに限定されるものではなく、カラー画像を、輝度と、青系統の色相及び彩度と、赤系統の色相及び彩度とで表現するYCC色空間を用いてもよい。
 <<5. 第4の実施形態>>
 以下に説明する第4の実施形態においては、1次画像400の解析結果に応じて、DPIスキャナ100の光源部102によって生体組織標本に照射する光の光量を調整し、複数の2次画像402を取得する。本実施形態においては、光量が好適に調整された条件の下で撮影されたN枚の2次画像402を加算することにより、鮮明な合成画像404を取得することができる。さらに、本実施形態によれば、光量を好適に調整することにより、合成画像404における色浮きや黒浮きを抑えることができる。以下に、このような本実施形態の詳細を説明する。
 なお、第4の実施形態に係る画像処理システム10及びDPIスキャナ100の構成例は、第1の実施形態の画像処理システム10及びDPIスキャナ100と共通であることから、第1の実施形態に係る画像処理システム10及びDPIスキャナ100の構成の説明及び説明で用いた図3を参照し得る。従って、ここでは、本実施形態に係る画像処理システム10及びDPIスキャナ100の説明を省略する。
 <5.1 画像処理装置>
 まずは、図17を参照して、本実施形態に係る画像処理装置200cの詳細構成を説明する。図17は、本開示の第4の実施形態に係る画像処理装置200cの構成例を示すブロック図である。詳細には、図17に示すように、画像処理装置200cは、処理部210cと、通信部240と、記憶部250と、表示部260とを主に有することができる。以下に、画像処理装置200cの各機能ブロックについて順次説明するが、処理部210c以外は、第1から第3の実施形態に係る画像処理装置200、200a、200bの各機能ブロックと共通するため、ここでは、処理部210c以外の説明を省略し、処理部210cのみを説明する。
 (処理部210c)
 処理部210cは、第1の実施形態と同様に、DPIスキャナ100を制御したり、DPIスキャナ100からのデジタル画像を処理したりすることができ、例えばCPU等の処理回路等により実現される。詳細には、処理部210cは、図17に示すように、第1の取得部(第1の画素信号取得部)212と、画像レンジ取得部(レンジ取得部)214bと、スキャナ制御部(制御部)218cと、第2の取得部(第2の画素信号取得部)222と、合成部(画像生成部)224cと、HLS信号生成部226とを主に有する。さらに、処理部210cは、条件決定部234を有する。以下に、処理部210cの各機能部について順次説明するが、第1から第3の実施形態と共通する機能部については、説明を省略する。
 スキャナ制御部218cは、後述する条件決定部234によって決定された撮影回数N及び光量に基づき、DPIスキャナ100を制御するためのコマンドを生成し、通信部240を介して、DPIスキャナ100を制御する。
 合成部224cは、第2の取得部222からの、各分割領域500のN枚の2次画像402を重ね合わせて(加算)、合成画像404を生成する。例えば、合成部224は、N枚の2次画像402の同一画素の各RGB値を単に加算することにより、色ごとの合成画像404を得ることができる。
 条件決定部234は、テーブル254(図19 参照)を参照して、画像レンジ取得部214bによるL値及びS値の最小値及び最大値に基づいて、生体組織標本における分割領域(被撮影領域)500の少なくとも一部に対する撮影回数N及び光量を決定し、撮影回数N及び光量(光量に対応する照射強度、照射時間であってもよい)をスキャナ制御部218cに出力する。なお、本実施形態においては、条件決定部234は、撮影回数N及び光量を決定することに限定されるものではなく、照射光の波長等も決定してもよい。
 なお、図19に示されるテーブル254は、例えば、過去の撮影に基づき実験的に求められた、インデックス(例えば、L値及びS値の最大値及び最小値)ごとの、鮮明な合成画像404を得るために最適な撮影回数N及び光量が保存されている。なお、本実施形態においては、テーブル254は、過去の撮影履歴(撮影条件、合成画像404の品質等)を機械学習することによって得られ撮影画像品質モデルに基づき、予め生成されてもよい。また、図19に示す値は、あくまでも例示であり、本実施形態に係るテーブル254に保存されている値は、図19に示す値に限定されるものではない。
 <5.2 画像処理方法>
 次に、図18及び図19を参照して、本実施形態に係る画像処理方法について説明する。図18は、本実施形態に係る画像処理の一例を示すフローチャートであり、図19は、本実施形態に係るテーブル254の一例を説明するための説明図である。詳細には、図18に示すように、本実施形態に係る画像処理方法は、ステップS401からステップS410までのステップを含むことができる。以下に、本実施形態に係るこれら各ステップの詳細について説明する。なお、以下の説明においては、上述の第1から第3の実施形態と異なる点のみを説明し、第1から第3の実施形態と共通する点については、その説明を省略する。
 ステップS401からステップS403は、図9に示す、第2の実施形態のステップS201からステップS203と同様であるため、ここではその説明を省略する。
 ステップS404は、図13に示す、第3の実施形態のステップS304と同様であるため、ここではその説明を省略する。
 画像処理システム10は、図19に示すテーブル254から、L値及びS値の最小値及び最大値に紐づく撮影回数N及び光量を選択して、撮影回数N及び光量を決定する(ステップS405)。画像処理システム10は、決定した光量に従い、DPIスキャナ100の光源部102の光量(詳細には、照射強度や照射時間等)を調整する(ステップS406)。
 ステップS407及びステップS408は、図9に示す、第2の実施形態のステップS207及びステップS208と同様であるため、ここではその説明を省略する。
 画像処理システム10は、下記の数式(7)に従い、N枚の2次画像402の同一画素の各RGB値を加算することにより、各色の合成画像404を合成する(ステップS409)。
Figure JPOXMLDOC01-appb-M000007
 ステップS410は、図9に示す、第2の実施形態のステップS212と同様であるため、ここではその説明を省略する。
 以上のように、本実施形態によれば、1次画像400の解析結果に応じて光量が好適に調整された条件の下で撮影されたN枚の2次画像402を加算することにより、鮮明な合成画像404を取得することができる。さらに、本実施形態によれば、光量を好適に調整することにより、合成画像404における色浮きや黒浮きを抑えることができる。
 <<6. 第5の実施形態>>
 ところで、例えば過ヨウ素酸メセナミン銀(PAM)や過ヨウ素酸シッフ(PAS)染色を用いて生体組織標本を染色した場合には、所定の組織がより濃く染色される。すなわち、特定の染色試薬を用いて生体組織標本を染色することにより、所定の組織が鮮明浮かび上がることとなり、当該組織に着目して解析を行うことができる。このような着目組織が限定される場合においては、より高精度に解析を行うためには、染色された着目組織のコントラストをより強調した画像を取得することが好ましい。そこで、本実施形態においては、染色試薬の種類及び1次画像400における着目組織の範囲のRGB値のダイナミックレンジに応じて、撮影回数Nや補正値を決定することにより、染色された着目組織の細部まで鮮明に見える、コントラストをより強調した画像を取得することを可能にする。
 図20を参照して、本実施形態の概念を説明する。図20は、本実施形態を説明するための説明図であり、より詳細には、左から右に向かって、2次画像402におけるG値の分布、N枚の2次画像402を加算した場合におけるG値の分布、及び、本実施形態における補正後の画像におけるG値の分布を示す。本実施形態においては、補正後の画像における着目組織に対応する画素値の分布幅(ダイナミックレンジ)が好適に拡張されていることから、着目組織の細部まで鮮明となり、着目組織をより見やすくすることができる。
 詳細には、G値を例に説明すると、まずは、本実施形態においては、これまで説明した実施形態と同様に、染色試薬Aで染色した生体組織標本をN回撮影してN枚の2次画像402を取得する。この際、各2次画像402のG値の分布は、図20の左図となる。そして、本実施形態においても、これまで説明した実施形態と同様に、N枚の2次画像402のG値を加算することにより、図20の中央図に示すようにG値の分布の範囲が拡大し、広いダイナミックレンジを持つ加算画像(図示省略)を得ることができる。もし、表示部260が広い階調幅を持ってG値を表現できる広ダイナミックレンジの表示装置であれば、そのまま上記加算画像を表示しても、着目領域の細部についても鮮明に表示することができる。しかしながら、表示部260が、制限された狭い階調幅でしかG値を表現することができない狭ダイナミックレンジの表示装置であれば、上記加算画像を表示した場合、着目領域の細部について鮮明に表示することが難しいことがある。そこで、本実施形態においては、このように表示できるG値の範囲に制限がある場合においては、補正により、図20の右図のように、着目組織に該当する領域のG値の分布幅を切り出すことにより、着目組織を高コントラストな状態で表示することができる。以下、このような本実施形態の詳細を説明する。
 なお、本実施形態においては、生体組織標本は、1つ又は複数の染色試薬で染色された生体組織標本であるものとする。
 また、第5の実施形態に係る画像処理システム10及びDPIスキャナ100の構成例は、第1の実施形態の画像処理システム10及びDPIスキャナ100と共通であることから、第1の実施形態に係る画像処理システム10及びDPIスキャナ100の構成の説明及び説明で用いた図3を参照し得る。従って、ここでは、本実施形態に係る画像処理システム10及びDPIスキャナ100の説明を省略する。
 <6.1 画像処理装置>
 まずは、図21を参照して、本実施形態に係る画像処理装置200dの詳細構成を説明する。図21は、本開示の第5の実施形態に係る画像処理装置200dの構成例を示すブロック図である。詳細には、図21に示すように、画像処理装置200dは、処理部210dと、通信部240と、記憶部250と、表示部260とを主に有することができる。以下に、画像処理装置200dの各機能ブロックについて順次説明するが、処理部210d以外は、第1の実施形態に係る画像処理装置200の各機能ブロックと共通するため、ここでは、処理部210d以外の説明を省略し、処理部210dのみを説明する。
 (処理部210d)
 処理部210dは、第1の実施形態と同様に、DPIスキャナ100を制御したり、DPIスキャナ100からのデジタル画像を処理したりすることができ、例えばCPU等の処理回路等により実現される。詳細には、処理部210dは、図21に示すように、第1の取得部(第1の画素信号取得部)212と、画像レンジ取得部(レンジ取得部)214と、回数決定部216dと、スキャナ制御部(制御部)218と、補正値決定部220dと、第2の取得部(第2の画素信号取得部)222と、合成部(画像生成部)224cとを主に有する。さらに、処理部210dは、判定部(特定部)236と、補正部238とを有する。以下に、処理部210dの各機能部について順次説明するが、第1から第4の実施形態と共通する機能部については、説明を省略する。
 回数決定部216dは、テーブル(所定のテーブル)256(図23 参照)を参照して、後述する判定部236によって判定された生体組織標本の染色試薬の種類と、画像レンジ取得部214によるRGB値の最小値及び最大値とに基づいて、生体組織標本における分割領域(被撮影領域)500に対する撮影回数Nを決定し、撮影回数Nをスキャナ制御部218に出力する。
 補正値決定部220dは、テーブル(所定のテーブル)256(図23 参照)を参照して、後述する判定部236によって判定された生体組織標本の染色試薬の種類と、画像レンジ取得部214によるRGB値の最小値及び最大値とに基づいて、各RGB値の限定範囲(Min及びMax)(図23 参照)を決定し、後述する補正部238に出力する。すなわち、当該限定範囲は、図20を用いて説明した、切り出される、着目組織に該当する領域の画素値(詳細には、RGB値)の分布幅に対応する。
 なお、図23に示すテーブル256は、例えば、過去の撮影に基づき実験的に求められた、インデックス(例えば、染色試薬の種類、RGB値の最大値及び最小値)ごとに、最適な撮影回数Nや各RGB値の限定範囲が保存されている。なお、本実施形態においては、テーブル256は、過去の撮影履歴(撮影条件、合成画像の品質等)を機械学習することによって得られた撮影画像品質モデルに基づき、予め生成されてもよい。また、図23に示す値は、あくまでも例示であり、本実施形態に係るテーブル256に保存されている値は、図23に示す値に限定されるものではない。
 判定部236は、画像レンジ取得部214による各RGB値のヒストグラムの形状に基づいて、生体組織標本の染色試薬の種類(種別)を判定(特定)し、判定結果を回数決定部216d及び補正値決定部220dに出力する。本実施形態においては、例えば、機械学習によって得られた染色試料認識モデルに基づいて、染色試薬の種類を判定してもよい。詳細には、例えば、事前に、各染色試薬で染色した生体組織標本の画像を機械学習させておき、各染色試薬で染色した生体組織標本の画像における、各RGB値のヒストグラム(画素値レンジ)の特徴点、特徴量を抽出し、染色試薬認識モデルを生成する。そして、判定部236は、画像レンジ取得部214による各RGB値のヒストグラムの特徴点や特徴量と同一又は類似する各RGB値のヒストグラムを染色試薬認識モデルから抽出し、抽出したヒストグラムに紐づけられた染色試薬を、生体組織標本で用いられた染色試薬であると認識する。なお、本実施形態においては、ヒストグラムに基づいて判定することに限定されるものではなく、例えば、ユーザによる手入力により、生体組織標本の染色試薬の種類を取得してもよい。
 補正部238は、補正値決定部220dによる各RGB値の限定範囲(Min及びMax)(図23 参照)に基づいて、好適な範囲の各RGB値を切り出す、すなわち、色ごとの合成画像404のRGB値の範囲を限定することにより補正を実行することができる。
 <6.2 画像処理方法>
 次に、図22及び図23を参照して、本実施形態に係る画像処理方法について説明する。図22は、本実施形態に係る画像処理の一例を示すフローチャートであり、図23は、本実施形態に係るテーブル256の一例を説明するための説明図である。詳細には、図22に示すように、本実施形態に係る画像処理方法は、ステップS501からステップS510までのステップを含むことができる。以下に、本実施形態に係るこれら各ステップの詳細について説明する。なお、以下の説明においては、上述の第1から第4の実施形態と異なる点のみを説明し、第1から第4の実施形態と共通する点については、その説明を省略する。
 ステップS501からステップS503は、図6に示す、第1の実施形態のステップS101からステップS103と同様であるため、ここではその説明を省略する。
 画像処理システム10は、RGB値のヒストグラムの形状に基づいて、生体組織標本の染色試薬の種類を判定する(ステップS504)。
 画像処理システム10は、図23に示すテーブル256を参照して、生体組織標本の染色試薬の種類と、各RGB値の最小値及び最大値とに基づいて、生体組織標本における同一の分割領域(被撮影領域)500に対する撮影回数N、及び、各RGB値の限定範囲(Min及びMax)を決定する(ステップS505)。
 ステップS506及びステップS507は、図6に示す、第1の実施形態のステップS106及びステップS107と同様であるため、ここではその説明を省略する。
 ステップS508は、図18に示す、第4の実施形態のステップS409と同様であるため、ここではその説明を省略する。
 そして、画像処理システム10は、色ごとの合成画像404のRGB値の範囲を、数式(8)に従い、範囲限定することにより補正を実行することができる(ステップ509)。数式(8)においては、OutImageR(x,y)、OutImageG(x,y)、OutImageB(x,y)は、N枚の2次画像402の同一画素ごとのRGB値の加算値であり、すなわち、合成画像404の画素ごとの各RGB値である。また、Max R、Max G,Max B、Min R、Min G、Min Bは、各RGB値の限定範囲を示す。さらに、CorrOutImageR(x,y)、CorrOutImageG(x,y)、CorrOutImageB(x,y)は、補正後の画像(図示省略)の画素ごとのRGB値である。本実施形態においては、各RGB値の限定範囲(Min及びMax)に基づいて、上述のような補正を行うことにより、着目組織を高コントラストな状態で表示することができる。
Figure JPOXMLDOC01-appb-M000008
 ステップS510は、図6に示す、第1の実施形態のステップS109と同様であるため、ここではその説明を省略する。
 以上のように、本実施形態においては、各RGB値の限定範囲(Min及びMax)に基づいて、好適な範囲の各RGB値を切り出す、すなわち、色ごとの合成画像404のRGB値の範囲を限定することにより、着目組織を高コントラストな状態で表示することができる。
 <6.3 変形例>
 上述の実施形態においては、染色試薬の種類をRGB値のヒストグラムの形状に基づいて、判定していたが、本実施形態においては、これに限定されるものではなく、例えば、ユーザによって手入力されてもよく、もしくは、上述したサムネイルカメラ110を用いてスライド300に貼付されたラベル(図示省略)に記載された付帯情報から染色試薬の種類を取得してもよい。
 <<7. まとめ>>
 以上のように、本開示の各実施形態においては、複数枚の2次画像の加算を行うことにより、ノイズの低減や、階調不足(不連続性)による情報の欠落を解消しつつ、ダイナミックレンジを拡大することができる。従って、本開示の各実施形態によれば、鮮明な生体組織標本のデジタル画像を取得することができる。さらに、本開示の各実施形態によれば、マルチスペクトルセンサを設けることが求められないことから、画像処理システム10の製造コストの増加や大型化を避けることができる。すなわち、本開示の各実施形態によれば、製造コストの増加や大型化を避けつつ、鮮明な生体組織標本のデジタル画像を取得することができる。
 さらに、本開示の各実施形態においては、撮影回数Nや補正値を得るために画素値のヒストグラムを作成していたが、これを省略して、直接的に画素値の最小値及び最大値を取得してもよい。このようにすることで、画像処理時間を短くすることができる。また、本開示の各実施形態においては、1次画像400や2次画像402をHDD等の記憶部250に保存するものとしていたが、これに限定されるものではなく、GPU(Graphics Processing Unit)やDSP(Digital Signal Processor)に内蔵するメモリを用いることにより、保存と加算とを同時に実施して、画像処理時間を短くしてもよい。
 なお、上述した本開示の実施形態においては、撮影対象は、生体組織標本に限定されるものではなく、細かな機械的構造等であってもよく、特に限定されるものではない。また、上述した本開示の実施形態は、医療又は研究等の用途へ適用することに限定されるものではなく、高コントラストの画像を用いて高精度の解析や抽出を行うことが求められる用途であれば、特に限定されるものではない。
 <<8. 応用例>>
 本開示に係る技術は、様々な製品へ応用することができる。例えば、本開示に係る技術は、医師等が患者から採取された細胞や組織を観察して病変を診断する病理診断システムやその支援システム等(以下、診断支援システムと称する)に適用されてもよい。この診断支援システムは、デジタルパソロジー技術を利用して取得された画像に基づいて病変を診断又はその支援をするWSI(Whole Slide Imaging)システムであってもよい。
 図24は、本開示に係る技術が適用される診断支援システム5500の概略的な構成の一例を示す図である。図24に示すように、診断支援システム5500は、1以上の病理システム5510を含む。さらに医療情報システム5530と、導出装置5540とを含んでもよい。
 1以上の病理システム5510それぞれは、主に病理医が使用するシステムであり、例えば研究所や病院に導入される。各病理システム5510は、互いに異なる病院に導入されてもよく、それぞれWAN(Wide Area Network)(インターネットを含む)やLAN(Local Area Network)や公衆回線網や移動体通信網などの種々のネットワークを介して医療情報システム5530及び導出装置5540に接続される。
 各病理システム5510は、顕微鏡(詳細には、デジタル撮像技術と組み合わされて用いられる顕微鏡)5511と、サーバ5512と、表示制御装置5513と、表示装置5514とを含む。
 顕微鏡5511は、光学顕微鏡の機能を有し、ガラススライドに収められた観察対象物を撮影し、デジタル画像である病理画像を取得する。観察対象物とは、例えば、患者から採取された組織や細胞であり、臓器の肉片、唾液、血液等であってよい。例えば、顕微鏡5511が本開示の第1の実施形態に係るDPIスキャナ100として機能する。
 サーバ5512は、顕微鏡5511によって取得された病理画像を図示しない記憶部に記憶、保存する。また、サーバ5512は、表示制御装置5513から閲覧要求を受け付けた場合に、図示しない記憶部から病理画像を検索し、検索された病理画像を表示制御装置5513に送る。例えば、サーバ5512が本開示の第1の実施形態に係る画像処理装置200として機能する。
 表示制御装置5513は、ユーザから受け付けた病理画像の閲覧要求をサーバ5512に送る。そして、表示制御装置5513は、サーバ5512から受け付けた病理画像を、液晶、EL(Electro‐Luminescence)、CRT(Cathode Ray Tube)などを用いた表示装置5514に表示させる。なお、表示装置5514は、4Kや8Kに対応していてもよく、また、1台に限られず、複数台であってもよい。
 ここで、観察対象物が臓器の肉片等の固形物である場合、この観察対象物は、例えば、染色された薄切片であってよい。薄切片は、例えば、臓器等の検体から切出されたブロック片を薄切りすることで作製されてもよい。また、薄切りの際には、ブロック片がパラフィン等で固定されてもよい。
 薄切片の染色には、HE(Hematoxylin-Eosin)染色などの組織の形態を示す一般染色や、IHC(Immunohistochemistry)染色などの組織の免疫状態を示す免疫染色など、種々の染色が適用されてよい。その際、1つの薄切片が複数の異なる試薬を用いて染色されてもよいし、同じブロック片から連続して切り出された2以上の薄切片(隣接する薄切片ともいう)が互いに異なる試薬を用いて染色されてもよい。
 顕微鏡5511は、低解像度で撮影するための低解像度撮影部と、高解像度で撮影するための高解像度撮影部とを含み得る。低解像度撮影部と高解像度撮影部とは、異なる光学系であってもよいし、同一の光学系であってもよい。同一の光学系である場合には、顕微鏡5511は、撮影対象に応じて解像度が変更されてもよい。
 観察対象物が収容されたガラススライドは、顕微鏡5511の画角内に位置するステージ上に載置される。顕微鏡5511は、まず、低解像度撮影部を用いて画角内の全体画像を取得し、取得した全体画像から観察対象物の領域を特定する。続いて、顕微鏡5511は、観察対象物が存在する領域を所定サイズの複数の分割領域に分割し、各分割領域を高解像度撮影部により順次撮影することで、各分割領域の高解像度画像を取得する。対象とする分割領域の切替えでは、ステージを移動させてもよいし、撮影光学系を移動させてもよいし、それら両方を移動させてもよい。また、各分割領域は、ガラススライドの意図しない滑りによる撮影漏れ領域の発生等を防止するために、隣接する分割領域との間で重複していてもよい。さらに、全体画像には、全体画像と患者とを対応付けておくための識別情報が含まれていてもよい。この識別情報は、例えば、文字列やQRコード(登録商標)等であってよい。
 顕微鏡5511で取得された高解像度画像は、サーバ5512に入力される。サーバ5512は、各高解像度画像をより小さいサイズの部分画像(以下、タイル画像と称する)に分割する。例えば、サーバ5512は、1つの高解像度画像を縦横10×10個の計100個のタイル画像に分割する。その際、隣接する分割領域が重複していれば、サーバ5512は、テンプレートマッチング等の技法を用いて互いに隣り合う高解像度画像にステッチング処理を施してもよい。その場合、サーバ5512は、ステッチング処理により貼り合わされた高解像度画像全体を分割してタイル画像を生成してもよい。ただし、高解像度画像からのタイル画像の生成は、上記ステッチング処理の前であってもよい。
 また、サーバ5512は、タイル画像をさらに分割することで、より小さいサイズのタイル画像を生成し得る。このようなタイル画像の生成は、最小単位として設定されたサイズのタイル画像が生成されるまで繰り返されてよい。
 このように最小単位のタイル画像を生成すると、サーバ5512は、隣り合う所定数のタイル画像を合成することで1つのタイル画像を生成するタイル合成処理を、全てのタイル画像に対して実行する。このタイル合成処理は、最終的に1つのタイル画像が生成されるまで繰り返され得る。このような処理により、各階層が1つ以上のタイル画像で構成されたピラミッド構造のタイル画像群が生成される。このピラミッド構造では、ある層のタイル画像とこの層とは異なる層のタイル画像との画素数は同じであるが、その解像度が異なっている。例えば、2×2個の計4つのタイル画像を合成して上層の1つのタイル画像を生成する場合、上層のタイル画像の解像度は、合成に用いた下層のタイル画像の解像度の1/2倍となっている。
 このようなピラミッド構造のタイル画像群を構築することによって、表示対象のタイル画像が属する階層次第で、表示装置に表示される観察対象物の詳細度を切り替えることが可能となる。例えば、最下層のタイル画像が用いられる場合には、観察対象物の狭い領域を詳細に表示し、上層のタイル画像が用いられるほど観察対象物の広い領域が粗く表示されるようにすることができる。
 生成されたピラミッド構造のタイル画像群は、例えば、各タイル画像を一意に識別可能な識別情報(タイル識別情報と称する)とともに、不図示の記憶部に記憶される。サーバ5512は、他の装置(例えば、表示制御装置5513や導出装置5540)からタイル識別情報を含むタイル画像の取得要求を受け付けた場合に、タイル識別情報に対応するタイル画像を他の装置へ送信する。
 なお、病理画像であるタイル画像は、焦点距離や染色条件等の撮影条件毎に生成されてもよい。撮影条件毎にタイル画像が生成される場合、特定の病理画像とともに、特定の撮影条件と異なる撮影条件に対応する他の病理画像であって、特定の病理画像と同一領域の他の病理画像を並べて表示してもよい。特定の撮影条件は、閲覧者によって指定されてもよい。また、閲覧者に複数の撮影条件が指定された場合には、各撮影条件に対応する同一領域の病理画像が並べて表示されてもよい。
 また、サーバ5512は、ピラミッド構造のタイル画像群をサーバ5512以外の他の記憶装置、例えば、クラウドサーバ等に記憶してもよい。さらに、以上のようなタイル画像の生成処理の一部又は全部は、クラウドサーバ等で実行されてもよい。
 表示制御装置5513は、ユーザからの入力操作に応じて、ピラミッド構造のタイル画像群から所望のタイル画像を抽出し、これを表示装置5514に出力する。このような処理により、ユーザは、観察倍率を変えながら観察対象物を観察しているような感覚を得ることができる。すなわち、表示制御装置5513は仮想顕微鏡として機能する。ここでの仮想的な観察倍率は、実際には解像度に相当する。
 なお、高解像度画像の撮影方法は、どの様な方法を用いてもよい。ステージの停止、移動を繰り返しながら分割領域を撮影して高解像度画像を取得してもよいし、所定の速度でステージを移動しながら分割領域を撮影してストリップ上の高解像度画像を取得してもよい。また、高解像度画像からタイル画像を生成する処理は必須の構成ではなく、ステッチング処理により貼り合わされた高解像度画像全体の解像度を段階的に変化させることで、解像度が段階的に変化する画像を生成してもよい。この場合でも、広いエリア域の低解像度画像から狭いエリアの高解像度画像までを段階的にユーザに提示することが可能である。
 医療情報システム5530は、いわゆる電子カルテシステムであり、患者を識別する情報、患者の疾患情報、診断に用いた検査情報や画像情報、診断結果、処方薬などの診断に関する情報を記憶する。例えば、ある患者の観察対象物を撮影することで得られる病理画像は、一旦、サーバ5512を介して保存された後、表示制御装置5513によって表示装置5514に表示され得る。病理システム5510を利用する病理医は、表示装置5514に表示された病理画像に基づいて病理診断を行う。病理医によって行われた病理診断結果は、医療情報システム5530に記憶される。
 導出装置5540は、病理画像に対する解析を実行し得る。この解析には、機械学習によって作成された学習モデルを用いることができる。導出装置5540は、当該解析結果として、特定領域の分類結果や組織の識別結果等を導出してもよい。さらに、導出装置5540は、細胞情報、数、位置、輝度情報等の識別結果やそれらに対するスコアリング情報等を導出してもよい。導出装置5540によって導出されたこれらの情報は、診断支援情報として、病理システム5510の表示装置5514に表示されてもよい。
 なお、導出装置5540は、1台以上のサーバ(クラウドサーバを含む)等で構成されたサーバシステムであってもよい。また、導出装置5540は、病理システム5510内の例えば表示制御装置5513又はサーバ5512に組み込まれた構成であってもよい。すなわち、病理画像に対する各種解析は、病理システム5510内で実行されてもよい。
 本開示に係る技術は、以上説明した構成のうち、先に説明したように、サーバ5512に好適に適用され得る。具体的には、本開示に係る技術は、サーバ5512での画像処理に公的に適用され得る。サーバ5512に本開示に係る技術を適用することにより、より鮮明な病理画像を得ることができるため、病変の診断をより正確に行うことが可能になる。
 なお、上記で説明した構成は、診断支援システムに限らず、デジタル撮像技術を利用する、共焦点顕微鏡や蛍光顕微鏡、ビデオ顕微鏡等の生物顕微鏡全般にも適用され得る。ここで、観察対象物は、培養細胞や受精卵、精子等の生体試料、細胞シート、三次元細胞組織等の生体材料、ゼブラフィッシュやマウス等の生体であってもよい。また、観察対象物は、ガラススライドに限らず、ウェルプレートやシャーレ等に保存された状態で観察されることもできる。
 さらに、デジタル撮像技術を利用する顕微鏡を用いて取得した観察対象物の静止画像から動画像が生成されてもよい。例えば、所定期間連続的に撮影した静止画像から動画像を生成してもよいし、所定の間隔を空けて撮影した静止画像から画像シーケンスを生成してもよい。このように、静止画像から動画像を生成することで、がん細胞や神経細胞、心筋組織、精子等の拍動や伸長、遊走等の動きや培養細胞や受精卵の分裂過程など、観察対象物の動的な特徴を、機械学習を用いて解析することが可能となる。
 <<9. ハードウェア構成>>
 上述してきた各実施形態に係る画像処理装置200等の情報機器は、例えば図25に示すような構成のコンピュータ1000によって実現される。以下、第1の実施形態に係る画像処理装置200を例に挙げて説明する。図25は、画像処理装置200の機能を実現するコンピュータ1000の一例を示すハードウェア構成図である。コンピュータ1000は、CPU1100、RAM1200、ROM(Read Only Memory)1300、HDD(Hard Disk Drive)1400、通信インターフェイス1500、及び入出力インターフェイス1600を有する。コンピュータ1000の各部は、バス1050によって接続される。
 CPU1100は、ROM1300又はHDD1400に保存されたプログラムに基づいて動作し、各部の制御を行う。例えば、CPU1100は、ROM1300又はHDD1400に保存されたプログラムをRAM1200に展開し、各種プログラムに対応した処理を実行する。
 ROM1300は、コンピュータ1000の起動時にCPU1100によって実行されるBIOS(Basic Input Output System)等のブートプログラムや、コンピュータ1000のハードウェアに依存するプログラム等を保存する。
 HDD1400は、CPU1100によって実行されるプログラム、及び、かかるプログラムによって使用されるデータ等を非一時的に記録する、コンピュータが読み取り可能な記録媒体である。具体的には、HDD1400は、プログラムデータ1450の一例である本開示に係る画像処理プログラムを記録する記録媒体である。
 通信インターフェイス1500は、コンピュータ1000が外部ネットワーク1550(例えばインターネット)と接続するためのインターフェイスである。例えば、CPU1100は、通信インターフェイス1500を介して、他の機器からデータを受信したり、CPU1100が生成したデータを他の機器へ送信したりする。
 入出力インターフェイス1600は、入出力デバイス1650とコンピュータ1000とを接続するためのインターフェイスである。例えば、CPU1100は、入出力インターフェイス1600を介して、キーボードやマウス等の入力デバイスからデータを受信する。また、CPU1100は、入出力インターフェイス1600を介して、ディスプレイやスピーカーやプリンタ等の出力デバイスにデータを送信する。また、入出力インターフェイス1600は、コンピュータ読み取り可能な所定の記録媒体(メディア)に記録されたプログラム等を読み取るメディアインターフェイスとして機能してもよい。メディアとは、例えばDVD(Digital Versatile Disc)、PD(Phase change rewritable Disk)等の光学記録媒体、MO(Magneto-Optical disk)等の光磁気記録媒体、テープ媒体、磁気記録媒体、または半導体メモリ等である。
 例えば、コンピュータ1000が第1の実施形態に係る画像処理装置200として機能する場合、コンピュータ1000のCPU1100は、RAM1200上にロードされた画像処理プログラムを実行することにより、第1の取得部212、画像レンジ取得部214、回数決定部216、スキャナ制御部218、補正値決定部220、第2の取得部222、合成部224等の機能を実現する。また、HDD1400には、本開示に係る画像処理プログラムや、記憶部250内のデータが保存されてもよい。なお、CPU1100は、プログラムデータ1450をHDD1400から読み取って実行するが、他の例として、外部ネットワーク1550を介して、他の装置から画像処理プログラムを取得してもよい。
 <<10. 補足>>
 なお、先に説明した本開示の実施形態は、例えば、上記で説明したような画像処理装置又は画像処理システムで実行される画像処理方法、画像処理装置を機能させるためのプログラム、及びプログラムが記録された一時的でない有形の媒体を含みうる。また、当該プログラムをインターネット等の通信回線(無線通信も含む)を介して頒布してもよい。
 また、上述した本開示の実施形態の処理方法における各ステップは、必ずしも記載された順序に沿って処理されなくてもよい。例えば、各ステップは、適宜順序が変更されて処理されてもよい。また、各ステップは、時系列的に処理される代わりに、一部並列的に又は個別的に処理されてもよい。さらに、各ステップの処理についても、必ずしも記載された方法に沿って処理されなくてもよく、例えば、他の機能部によって他の方法により処理されていてもよい。
 上記各実施形態において説明した各処理のうち、自動的に行われるものとして説明した処理の全部または一部を手動的に行うこともでき、あるいは、手動的に行われるものとして説明した処理の全部または一部を公知の方法で自動的に行うこともできる。この他、上記文書中や図面中で示した処理手順、具体的名称、各種のデータやパラメータを含む情報については、特記する場合を除いて任意に変更することができる。例えば、各図に示した各種情報は、図示した情報に限られない。
 また、図示した各装置の各構成要素は機能概念的なものであり、必ずしも物理的に図示の如く構成されていることを要しない。すなわち、各装置の分散・統合の具体的形態は図示のものに限られず、その全部または一部を、各種の負荷や使用状況などに応じて、任意の単位で機能的または物理的に分散・統合して構成することができる。
 以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
 また、本明細書に記載された効果は、あくまで説明的または例示的なものであって限定的ではない。つまり、本開示に係る技術は、上記の効果とともに、または上記の効果に代えて、本明細書の記載から当業者には明らかな他の効果を奏しうる。
 なお、本技術は以下のような構成も取ることができる。
(1)
 生体組織標本の被撮影領域の撮影による第1の画素信号を取得する第1の画素信号取得部と、
 前記第1の画素信号における画素値レンジを取得するレンジ取得部と、
 前記画素値レンジに基づいて、前記生体組織標本の前記被撮影領域の少なくとも一部に対する撮影回数を決定する回数決定部と、
 前記撮影回数に従って撮影されることによって得られた、前記生体組織標本の前記被撮影領域の少なくとも一部の画素信号である第2の画素信号を取得する第2の画素信号取得部と、
 複数の前記第2の画素信号の少なくとも一部に基づき、出力画像を生成する画像生成部と、
 を備える、
 画像処理装置。
(2)
 前記画素値レンジに基づいて、補正値を決定する補正値決定部をさらに備え、
 前記画像生成部は、前記補正値を用いて、前記第2の画素信号、又は、前記出力画像に対して補正を実行する、
 上記(1)に記載の画像処理装置。
(3)
 前記第1の画素信号に係る撮影画像に基づいて、前記生体組織標本における、1つ又は複数の前記被撮影領域を決定する領域決定部をさらに備え、
 前記レンジ取得部は、前記第1の画素信号に含まれる前被撮影領域の画素信号における前記画素値レンジを取得する、
 上記(2)に記載の画像処理装置。
(4)
 前記領域決定部は、機械学習によって得られた画像認識モデルを用いて、前記被撮影領域を決定する、上記(3)に記載の画像処理装置。
(5)
 前記レンジ取得部は、前記第1の画素信号の最大値及び最小値を取得する、上記(2)に記載の画像処理装置。
(6)
 前記レンジ取得部は、前記第1の画素信号のヒストグラムを生成する、上記(5)に記載の画像処理装置。
(7)
 前記回数決定部は、予め保存された所定のテーブルを参照して、前記最小値及び前記最大値に基づき、前記撮影回数を決定し、
 前記補正値決定部は、前記所定のテーブルを参照して、前記最小値に基づき、前記補正値を決定する、
 上記(5)又は(6)に記載の画像処理装置。
(8)
 前記所定のテーブルは、過去の撮影履歴を機械学習することによって得られた撮影画像品質モデルに基づき予め生成される、上記(7)に記載の画像処理装置。
(9)
 前記回数決定部は、前記生体組織標本に付与された情報に基づき、使用する前記所定のテーブルを選択する、上記(7)又は(8)に記載の画像処理装置。
(10)
 前記第1の画素信号は、HLS信号又はYCC信号に変換された各画素の輝度及び彩度である、上記(5)~(9)のいずれか1つに記載の画像処理装置。
(11)
 前記回数決定部は、前記最小値及び前記最大値に基づき、前記撮影回数を算出し、
 前記補正値決定部は、前記最小値に基づき、前記補正値を算出し、
 前記画像生成部は、前記第2の画素信号から前記補正値を差し引くことにより、前記補正を実行する、上記(5)又は(6)に記載の画像処理装置。
(12)
 前記第1の画素信号は、各画素の色ごとのレベル値である、上記(11)に記載の画像処理装置。
(13)
 前記画像生成部は、複数の前記第2の画素信号の各画素の色ごとのレベル値を加算する、上記(1)~(12)のいずれか1つに記載の画像処理装置。
(14)
 前記画素値レンジに基づいて、前記生体組織標本の前記被撮影領域の少なくとも一部に対する撮影条件を決定する条件決定部をさらに備え、
 前記第2の画素信号取得部は、前記撮影条件に従った撮影による、前記生体組織標本の前記被撮影領域の少なくとも一部の画素信号である前記第2の画素信号を取得する、
 上記(1)に記載の画像処理装置。
(15)
 前記撮影条件は、照射強度、照射光の波長、及び露光時間のうちの少なくとも1つについての条件を含む、上記(14)に記載の画像処理装置。
(16)
 前記生体組織標本は、1つ又は複数の染色試薬で染色された生体組織標本である、上記(1)~(15)のいずれか1つに記載の画像処理装置。
(17)
 前記生体組織標本は、1つ又は複数の染色試薬で染色された生体組織標本であり、
 前記染色試薬の種別を特定する特定部をさらに備え、
 前記回数決定部は、前記染色試薬の種別に基づき、前記撮影回数を決定する、
 上記(1)に記載の画像処理装置。
(18)
 前記特定部は、前記画素値レンジに基づいて、前記染色試薬の種別を特定する、上記(17)に記載の画像処理装置。
(19)
 前記染色試薬の種別に基づき、出力画像に対する補正のための補正値を決定する補正値決定部をさらに備える、上記(17)又は(18)に記載の画像処理装置。
(20)
 前記画像生成部は、前記出力画像の画素信号に対して、前記補正値に基づいて範囲限定することにより、前記補正を実行する、上記(19)に記載の画像処理装置。
(21)
 前記第1の画素信号に係る撮影画像は、前記第2の画素信号に係る撮影画像に比べて、画角が広い又は同一である、上記(1)~(20)のいずれか1つに記載の画像処理装置。
(22)
 前記第1の画素信号に係る撮影画像は、前記第2の画素信号に係る撮影画像に比べて、解像度が低い又は同一である、上記(1)~(20)のいずれか1つに記載の画像処理装置。
(23)
 画像処理装置が、
 生体組織標本の被撮影領域の撮影による第1の画素信号を取得することと、
 前記第1の画素信号における画素値レンジを取得することと、
 前記画素値レンジに基づいて、前記生体組織標本の前記被撮影領域の少なくとも一部に対する撮影回数を決定することと、
 前記撮影回数に従って撮影されることによって得られた、前記生体組織標本の前記被撮影領域の少なくとも一部の画素信号である第2の画素信号を取得することと、
 複数の前記第2の画素信号の少なくとも一部に基づき、出力画像を生成することと、
 を含む、
 画像処理方法。
(24)
 画像処理を実行する画像処理装置と、
 前記画像処理を前記画像処理装置に実行させるためのプログラムと、
 を含む画像処理システムであって、
 前記画像処理装置は、
 生体組織標本の被撮影領域の撮影による第1の画素信号を取得する第1の画素信号取得部と、
 前記第1の画素信号における画素値レンジを取得するレンジ取得部と、
 前記画素値レンジに基づいて、前記生体組織標本の前記被撮影領域の少なくとも一部に対する撮影回数を決定する回数決定部と、
 前記撮影回数に従って撮影されることによって得られた、前記生体組織標本の前記被撮影領域の少なくとも一部の画素信号である第2の画素信号を取得する第2の画素信号取得部と、
 複数の前記第2の画素信号の少なくとも一部に基づき、出力画像を生成する画像生成部と、
 を備える、
 画像処理システム。
 10、10a、10b  画像処理システム
 100  DPIスキャナ
 102、112、122  光源部
 104、114、124  センサ部
 106、116、126  制御部
 108  ステージ
 110  サムネイルカメラ
 120  メインカメラ
 130  スライドローダー
 200、200a、200b、200c、200d  画像処理装置
 210、210a、210b、210c、210d  処理部
 212  第1の取得部
 214、214a、214b  画像レンジ取得部
 216、216a、216b、216d  回数決定部
 218、218c  スキャナ制御部
 220、220a、220b、220d  補正値決定部
 222  第2の取得部
 224、224a、224c  合成部
 226、228  HLS信号生成部
 230  RGB信号生成部
 232  ステッチング部
 234  条件決定部
 236  判定部
 238  補正部
 240  通信部
 250  記憶部
 252、254、256  テーブル
 260  表示部
 300  スライド
 400、410  1次画像
 402、412  2次画像
 404  合成画像
 500  分割領域

Claims (24)

  1.  生体組織標本の被撮影領域の撮影による第1の画素信号を取得する第1の画素信号取得部と、
     前記第1の画素信号における画素値レンジを取得するレンジ取得部と、
     前記画素値レンジに基づいて、前記生体組織標本の前記被撮影領域の少なくとも一部に対する撮影回数を決定する回数決定部と、
     前記撮影回数に従って撮影されることによって得られた、前記生体組織標本の前記被撮影領域の少なくとも一部の画素信号である第2の画素信号を取得する第2の画素信号取得部と、
     複数の前記第2の画素信号の少なくとも一部に基づき、出力画像を生成する画像生成部と、
     を備える、
     画像処理装置。
  2.  前記画素値レンジに基づいて、補正値を決定する補正値決定部をさらに備え、
     前記画像生成部は、前記補正値を用いて、前記第2の画素信号、又は、前記出力画像に対して補正を実行する、
     請求項1に記載の画像処理装置。
  3.  前記第1の画素信号に係る撮影画像に基づいて、前記生体組織標本における、1つ又は複数の前記被撮影領域を決定する領域決定部をさらに備え、
     前記レンジ取得部は、前記第1の画素信号に含まれる前被撮影領域の画素信号における前記画素値レンジを取得する、
     請求項2に記載の画像処理装置。
  4.  前記領域決定部は、機械学習によって得られた画像認識モデルを用いて、前記被撮影領域を決定する、請求項3に記載の画像処理装置。
  5.  前記レンジ取得部は、前記第1の画素信号の最大値及び最小値を取得する、請求項2に記載の画像処理装置。
  6.  前記レンジ取得部は、前記第1の画素信号のヒストグラムを生成する、請求項5に記載の画像処理装置。
  7.  前記回数決定部は、予め保存された所定のテーブルを参照して、前記最小値及び前記最大値に基づき、前記撮影回数を決定し、
     前記補正値決定部は、前記所定のテーブルを参照して、前記最小値に基づき、前記補正値を決定する、
     請求項5に記載の画像処理装置。
  8.  前記所定のテーブルは、過去の撮影履歴を機械学習することによって得られた撮影画像品質モデルに基づき予め生成される、請求項7に記載の画像処理装置。
  9.  前記回数決定部は、前記生体組織標本に付与された情報に基づき、使用する前記所定のテーブルを選択する、請求項7に記載の画像処理装置。
  10.  前記第1の画素信号は、HLS信号又はYCC信号に変換された各画素の輝度及び彩度である、請求項5に記載の画像処理装置。
  11.  前記回数決定部は、前記最小値及び前記最大値に基づき、前記撮影回数を算出し、
     前記補正値決定部は、前記最小値に基づき、前記補正値を算出し、
     前記画像生成部は、前記第2の画素信号から前記補正値を差し引くことにより、前記補正を実行する、請求項5に記載の画像処理装置。
  12.  前記第1の画素信号は、各画素の色ごとのレベル値である、請求項11に記載の画像処理装置。
  13.  前記画像生成部は、複数の前記第2の画素信号の各画素の色ごとのレベル値を加算する、請求項1に記載の画像処理装置。
  14.  前記画素値レンジに基づいて、前記生体組織標本の前記被撮影領域の少なくとも一部に対する撮影条件を決定する条件決定部をさらに備え、
     前記第2の画素信号取得部は、前記撮影条件に従った撮影による、前記生体組織標本の前記被撮影領域の少なくとも一部の画素信号である前記第2の画素信号を取得する、
     請求項1に記載の画像処理装置。
  15.  前記撮影条件は、照射強度、照射光の波長、及び露光時間のうちの少なくとも1つについての条件を含む、請求項14に記載の画像処理装置。
  16.  前記生体組織標本は、1つ又は複数の染色試薬で染色された生体組織標本である、請求項1に記載の画像処理装置。
  17.  前記生体組織標本は、1つ又は複数の染色試薬で染色された生体組織標本であり、
     前記染色試薬の種別を特定する特定部をさらに備え、
     前記回数決定部は、前記染色試薬の種別に基づき、前記撮影回数を決定する、
     請求項1に記載の画像処理装置。
  18.  前記特定部は、前記画素値レンジに基づいて、前記染色試薬の種別を特定する、請求項17に記載の画像処理装置。
  19.  前記染色試薬の種別に基づき、出力画像に対する補正のための補正値を決定する補正値決定部をさらに備える、請求項17に記載の画像処理装置。
  20.  前記画像生成部は、前記出力画像の画素信号に対して、前記補正値に基づいて範囲限定することにより、前記補正を実行する、請求項19に記載の画像処理装置。
  21.  前記第1の画素信号に係る撮影画像は、前記第2の画素信号に係る撮影画像に比べて、画角が広い又は同一である、請求項1に記載の画像処理装置。
  22.  前記第1の画素信号に係る撮影画像は、前記第2の画素信号に係る撮影画像に比べて、解像度が低い又は同一である、請求項1に記載の画像処理装置。
  23.  画像処理装置が、
     生体組織標本の被撮影領域の撮影による第1の画素信号を取得することと、
     前記第1の画素信号における画素値レンジを取得することと、
     前記画素値レンジに基づいて、前記生体組織標本の前記被撮影領域の少なくとも一部に対する撮影回数を決定することと、
     前記撮影回数に従って撮影されることによって得られた、前記生体組織標本の前記被撮影領域の少なくとも一部の画素信号である第2の画素信号を取得することと、
     複数の前記第2の画素信号の少なくとも一部に基づき、出力画像を生成することと、
     を含む、
     画像処理方法。
  24.  画像処理を実行する画像処理装置と、
     前記画像処理を前記画像処理装置に実行させるためのプログラムと、
     を含む画像処理システムであって、
     前記画像処理装置は、
     生体組織標本の被撮影領域の撮影による第1の画素信号を取得する第1の画素信号取得部と、
     前記第1の画素信号における画素値レンジを取得するレンジ取得部と、
     前記画素値レンジに基づいて、前記生体組織標本の前記被撮影領域の少なくとも一部に対する撮影回数を決定する回数決定部と、
     前記撮影回数に従って撮影されることによって得られた、前記生体組織標本の前記被撮影領域の少なくとも一部の画素信号である第2の画素信号を取得する第2の画素信号取得部と、
     複数の前記第2の画素信号の少なくとも一部に基づき、出力画像を生成する画像生成部と、
     を備える、
     画像処理システム。
PCT/JP2021/015806 2020-04-27 2021-04-19 画像処理装置、画像処理方法及び画像処理システム WO2021220857A1 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
US17/917,274 US20230177679A1 (en) 2020-04-27 2021-04-19 Image processing apparatus, image processing method, and image processing system

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2020078332A JP2021173665A (ja) 2020-04-27 2020-04-27 画像処理装置、画像処理方法及び画像処理システム
JP2020-078332 2020-04-27

Publications (1)

Publication Number Publication Date
WO2021220857A1 true WO2021220857A1 (ja) 2021-11-04

Family

ID=78278303

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2021/015806 WO2021220857A1 (ja) 2020-04-27 2021-04-19 画像処理装置、画像処理方法及び画像処理システム

Country Status (3)

Country Link
US (1) US20230177679A1 (ja)
JP (1) JP2021173665A (ja)
WO (1) WO2021220857A1 (ja)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05230422A (ja) * 1991-11-04 1993-09-07 Hoechst Ag フェノール樹脂変性した油溶性天然樹脂酸エステル、その製造方法および自己ゲル化性印刷インキ樹脂としてのその用途
JPH11133021A (ja) * 1997-10-28 1999-05-21 Olympus Optical Co Ltd 走査型サイトメータ
JP2004340738A (ja) * 2003-05-15 2004-12-02 Sysmex Corp 細胞分類装置とシステム及び細胞分類方法
JP2009150829A (ja) * 2007-12-21 2009-07-09 Olympus Corp 生体試料の観察方法
JP2016158681A (ja) * 2015-02-27 2016-09-05 Hoya株式会社 画像処理装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05230422A (ja) * 1991-11-04 1993-09-07 Hoechst Ag フェノール樹脂変性した油溶性天然樹脂酸エステル、その製造方法および自己ゲル化性印刷インキ樹脂としてのその用途
JPH11133021A (ja) * 1997-10-28 1999-05-21 Olympus Optical Co Ltd 走査型サイトメータ
JP2004340738A (ja) * 2003-05-15 2004-12-02 Sysmex Corp 細胞分類装置とシステム及び細胞分類方法
JP2009150829A (ja) * 2007-12-21 2009-07-09 Olympus Corp 生体試料の観察方法
JP2016158681A (ja) * 2015-02-27 2016-09-05 Hoya株式会社 画像処理装置

Also Published As

Publication number Publication date
US20230177679A1 (en) 2023-06-08
JP2021173665A (ja) 2021-11-01

Similar Documents

Publication Publication Date Title
JP5245424B2 (ja) 病理組織画像撮影システム、病理組織画像撮影方法、および病理組織画像撮影プログラム
US9947089B2 (en) Digital specimen manufacturing device, digital specimen manufacturing method, and digital specimen manufacturing server
WO2011108551A1 (ja) 診断情報配信装置および病理診断システム
JP5372068B2 (ja) 撮像システム、画像処理装置
JP5350532B2 (ja) 画像処理装置、画像表示システム、画像処理方法および画像処理プログラム
JP6053327B2 (ja) 顕微鏡システム、標本画像生成方法及びプログラム
US20140184778A1 (en) Image processing apparatus, control method for the same, image processing system, and program
JP5826561B2 (ja) 顕微鏡システム、標本画像生成方法及びプログラム
JP2011124948A (ja) 情報処理装置、情報処理方法、プログラム、及び光学顕微鏡を搭載した撮像装置
JP2012237693A (ja) 画像処理装置、画像処理方法及び画像処理プログラム
JP2016125913A (ja) 画像取得装置及び画像取得装置の制御方法
JP2014228755A (ja) 顕微鏡システム、画像生成方法及びプログラム
CN110619318A (zh) 基于人工智能的图像处理方法、显微镜、系统和介质
JP2013153429A (ja) 画像処理装置、画像表示システム、画像処理方法および画像処理プログラム
JP5344073B2 (ja) 病理組織画像撮影システム、病理組織画像撮影方法、および病理組織画像撮影プログラム
CN110603566B (zh) 图像解析评价方法、计算机程序、图像解析评价装置
WO2022050109A1 (ja) 画像処理装置、画像処理方法及び画像処理システム
WO2021220857A1 (ja) 画像処理装置、画像処理方法及び画像処理システム
WO2021261323A1 (ja) 情報処理装置、情報処理方法、プログラム及び情報処理システム
US20130162805A1 (en) Image processing apparatus, image processing system, image processing method, and program for processing a virtual slide image
WO2022202233A1 (ja) 情報処理装置、情報処理方法、情報処理システム、及び、変換モデル
US20200074628A1 (en) Image processing apparatus, imaging system, image processing method and computer readable recoding medium
WO2022259647A1 (ja) 情報処理装置、情報処理方法、及び顕微鏡システム
WO2022209349A1 (ja) 観察装置用照明装置、観察装置及び観察システム
JP2011108250A (ja) リニア・アレイを用いたマイクロスコープ・スライド・スキャナにおけるデータ管理システムおよび方法

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 21796974

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 21796974

Country of ref document: EP

Kind code of ref document: A1