JP2021174542A - デジタル画像化装置およびデジタルカラー画像を生成するための方法 - Google Patents

デジタル画像化装置およびデジタルカラー画像を生成するための方法 Download PDF

Info

Publication number
JP2021174542A
JP2021174542A JP2021069898A JP2021069898A JP2021174542A JP 2021174542 A JP2021174542 A JP 2021174542A JP 2021069898 A JP2021069898 A JP 2021069898A JP 2021069898 A JP2021069898 A JP 2021069898A JP 2021174542 A JP2021174542 A JP 2021174542A
Authority
JP
Japan
Prior art keywords
digital
image
color
grayscale
microscope
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2021069898A
Other languages
English (en)
Inventor
ミゲル セラ ジェティ ホセ
Miguel Serra Lleti Jose
リッチェル カイ
Ritschel Kai
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Leica Microsystems CMS GmbH
Original Assignee
Leica Microsystems CMS GmbH
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Leica Microsystems CMS GmbH filed Critical Leica Microsystems CMS GmbH
Publication of JP2021174542A publication Critical patent/JP2021174542A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/36Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
    • G02B21/361Optical details, e.g. image relay to the camera or image sensor
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • H04N9/67Circuits for processing colour signals for matrixing
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/02Details
    • G01J3/0264Electrical interface; User interface
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/28Investigating the spectrum
    • G01J3/30Measuring the intensity of spectral lines directly on the spectrum itself
    • G01J3/36Investigating two or more bands of a spectrum by separate detectors
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/36Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
    • G02B21/365Control or image processing arrangements for digital or video microscopes
    • G02B21/367Control or image processing arrangements for digital or video microscopes providing an output produced by processing a plurality of individual source images, e.g. image tiling, montage, composite images, depth sectioning, image comparison
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/36Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
    • G02B21/368Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements details of associated display arrangements, e.g. mounting of LCD monitor
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/90Determination of colour characteristics
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • H04N23/125Colour sequential image capture, e.g. using a colour wheel
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/841Camera processing pipelines; Components thereof for processing colour signals to modify gamut
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/43Conversion of monochrome picture signals to colour picture signals for colour picture display
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B5/00Optical elements other than lenses
    • G02B5/20Filters
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10056Microscopic image

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • General Physics & Mathematics (AREA)
  • Signal Processing (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Analytical Chemistry (AREA)
  • Chemical & Material Sciences (AREA)
  • Optics & Photonics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Microscoopes, Condenser (AREA)
  • Image Processing (AREA)
  • Color Television Image Signal Generators (AREA)

Abstract

【課題】デジタルグレースケール画像に基づいて物体のデジタルカラー画像を生成するデジタル画像化装置および方法を提供する。【解決手段】蛍光顕微鏡において、デジタル画像化装置は、プロセッサを有する。プロセッサは、複数のそれぞれ異なるスペクトル感度で物体の複数のデジタルグレースケール画像を取得する。それぞれのデジタルグレースケール画像は、それぞれ異なるスペクトル感度のうちのそれぞれ1つに基づくグレースケール情報を含む。それぞれのデジタルグレースケール画像のための複数の重み係数を取得する。重み係数は、所定の色空間を定義する複数のカラーチャネルに割り当てられている。それぞれのグレースケール画像のグレースケール情報を重み係数に従ってカラーチャネル上に分配することにより、デジタルグレースケール画像から前記色空間へと物体のデジタルカラー画像を合成する。【選択図】図2

Description

本発明は、デジタル画像化装置と、デジタル画像化装置を含む顕微鏡と、物体のデジタルカラー画像を生成するための方法とに関する。
顕微鏡法の分野では、画像を取得するためにカラーカメラを使用することができる。典型的に、このようなカラーカメラは、フォトセンサのグリッド上に配置されたカラーフィルタアレイを含む。具体的には、カラー画像化のためのフィルタアレイとして、いわゆるベイヤーフィルタモザイクを使用することができる。ベイヤーフィルタモザイクは、緑色(G)、赤色(R)、青色(B)のカラーフィルタを所定の比率で、典型的にはG50%、R25%、B25%の比率で含む。
顕微鏡法においてカラーカメラを使用することにより、例えば病理学および組織学において試料を評価するために有益な、物体の実際の色を検出することができ、また、綿密な検査よりも前に試料の染色を決定することができる。しかしながら、広視野顕微鏡または共焦点顕微鏡にカラーカメラを組み込むことは、多くの場合、非常に高コストである。したがって、顕微鏡法ではモノクロ画像化が依然として好まれている方法である。顕微鏡にモノクロカメラおよびカラーカメラの両方を設けることも考えられるが、複数の異なる画像化モダリティで作成された画像データの正確な時間適合および空間適合を達成することは困難である。
論文“Color image acquisition using monochrome camera and standard fluorescence filter cubes”,G. F. Weber,A. S. Menko著,Biotechniques,Vol. 38,No. 1は、複数のモノクロ画像をグラフィックソフトウェアによって結合する方法を開示している。しかしながら、同方法は、モノクロ画像化に基づいてカラー画像を自動的に作成するためには適していない。
デジタルグレースケール画像に基づいて物体のデジタルカラー画像を生成することを、信頼できる手法で可能にするデジタル画像化装置および方法を提供することが目的である。
本顕微鏡は、デジタル画像化装置を含み、デジタル画像化装置は、プロセッサを含み、プロセッサは、複数のそれぞれ異なるスペクトル感度で物体の複数のデジタルグレースケール画像を取得するように構成されており、それぞれのデジタルグレースケール画像は、それぞれ異なるスペクトル感度のうちのそれぞれ1つに基づくグレースケール情報を含む。プロセッサは、それぞれのデジタルグレースケール画像のための複数の重み係数を取得するように構成されており、前述の重み係数は、所定の色空間を定義する複数のカラーチャネルに割り当てられている。プロセッサはさらに、それぞれのグレースケール画像のグレースケール情報を重み係数に従ってカラーチャネル上に分配することにより、デジタルグレースケール画像から前述の色空間へと物体のデジタルカラー画像を合成するように構成されている。
本顕微鏡は、複数のデジタルグレースケール画像のそれぞれ異なるスペクトル感度によって表される複数のスペクトル入力チャネルを、デジタル画像化装置によってシミュレートされるべきカラーカメラの色空間を定義するカラーチャネルによって与えられる複数のスペクトル出力チャネルに変換することにより、仮想的なカラーカメラとして使用可能である。したがって、それぞれ異なるスペクトル感度によって表される入力チャネルのうちの1つに属するそれぞれのグレースケール画像は、デジタル画像化装置によってシミュレートされるべきカラーカメラのモデルに対して重み付けされる。
デジタルグレースケール画像を変換して得られる色空間は、RGB(赤、緑、青)、CMYK(シアン、マゼンタ、黄、黒)等のような、当該分野で使用される典型的な色空間のうちの1つであり得る。
好ましくは、グレースケール画像のスペクトル感度の数は、色空間のカラーチャネルの数とは異なり、特に、色空間のカラーチャネルの数よりも多い。複数のグレースケール画像のそれぞれ異なるスペクトル感度によって表される入力チャネルの数が多ければ多いほど、デジタルカラー画像を作成するために使用できる画像情報が多くなる。したがって、デジタルカラー画像の品質は、グレースケール画像のスペクトル感度の数とともに増加する。本明細書に開示されているカラー画像化は、複数のグレースケール画像のそれぞれのスペクトル感度によって表される入力スペクトル同士が重複しているかどうかに関係なく達成可能である。さらに、赤外(IR)光のような可視範囲外の入力スペクトルを処理することができる。
重み係数を、行列によって表すことができ、行列の行の数は、スペクトル入力チャネルの数、すなわち、デジタルグレースケール画像の数に等しく、行列の列の数は、出力チャネルの数、すなわち、シミュレートされるべきカメラモデルのカラーチャネルの数に等しい。したがって、複数の異なるデジタルグレースケール画像に基づくデジタルカラー画像の決定は、リアルタイムでのカラー画像化を容易にする単純な行列乗算に帰着する。
それぞれのデジタルグレースケール画像のグレースケール情報を、カメラモデルの複数の異なるカラーチャネル上に分配する際に基礎とする重み係数は、デジタルグレースケール画像を取得するよりも前に事前に決定可能である。したがって、デジタルカラー画像を合成するために必要とされる計算労力が少なく、リアルタイムでのカラー画像化を容易に達成することが可能となる。
好ましくは、それぞれのデジタルグレースケール画像のグレースケール情報は、センサの量子収率に関して補正されている。センサの量子収率は、事前に既知である装置パラメータである。したがって、重み係数を決定する際には、もう既にセンサの量子収率を考慮することが可能である。したがって、センサの量子収率に関する補正は、リアルタイムでのカラー画像化に対して影響を与えない。
重み係数は、ベイヤーフィルタに従って補正可能である。例えば、RGBカメラモデルが使用される場合には、ベイヤーフィルタ補正は、それぞれ0.25の値によるR成分およびB成分への重みよりも、0.5の値によってG成分により大きな重みを与える。
プロセッサは、デジタルカラー画像の全ての画像値から最大値を決定し、当該最大値に基づいて画像値を正規化するように構成可能である。例えば、0〜256の値を含む8ビット画像の形態でデジタルカラー画像が処理されるべき場合には、スケール係数256/Maxが計算され、ここで、Maxは、前述した最大値を示し、デジタルカラー画像の全ての画像値は、上記のスケール係数によって正規化される。
プロセッサはさらに、デジタルカラー画像に対してホワイトバランスを実施するように構成可能である。したがって、デジタルカラー画像の品質を改善することができる。
好ましい実施形態によれば、本顕微鏡は、複数の画像センサを含み、複数の画像センサは、前述の複数のそれぞれ異なるスペクトル感度で前述の複数のデジタルグレースケール画像を取得するように構成されている。したがって、スペクトル領域においてそれぞれ異なる感度を有する複数の画像センサによって、複数のグレースケール画像を順次または同時に取得することができる。しかしながら、デジタル画像化装置は、これに限定されているわけではない。例えば、複数の異なるスペクトルの複数のグレースケール画像のシーケンスを作成するための、画像センサにつながる光路に順次に導入される単一の画像センサおよび複数のカラーフィルタによって作成されたグレースケール画像を後処理するために、デジタル画像化装置を使用することもできる。カラーフィルタのスペクトル特性は事前に既知であるので、対応する重み係数を決定することが可能であり、デジタルカラー画像を合成するために、複数のグレースケール画像のシーケンスに対して後処理プロセスを実施することができる。
画像センサの各々は、広視野センサによって形成可能であるが、これに限定されているわけではない。例えば、デジタル画像化装置を、ピクセルごとにデジタルグレースケール画像を順次に取得するための点センサを使用して共焦点顕微鏡において使用してもよい。
好ましくは、本顕微鏡は、デジタルカラー画像をリアルタイムで表示するように構成されたディスプレイ装置を含む。
好ましくは、本顕微鏡は、既に上で述べたように共焦点顕微鏡または広視野顕微鏡であり得るが、これに限定されているわけではない。
別の態様によれば、物体のデジタルカラー画像を生成するための方法が提供され、当該方法は、顕微鏡を使用して、複数のそれぞれ異なるスペクトル感度で物体の複数のデジタルグレースケール画像を取得するステップを含み、それぞれのデジタルグレースケール画像は、前述のそれぞれ異なるスペクトル感度のうちのそれぞれ1つに基づくグレースケール情報を含み、当該方法は、それぞれのデジタルグレースケール画像のための複数の重み係数を取得するステップを含み、前述の重み係数は、所定の色空間を定義する複数のカラーチャネルに割り当てられており、当該方法は、それぞれのグレースケール画像のグレースケール情報を重み係数に従ってカラーチャネル上に分配することにより、デジタルグレースケール画像から前述の色空間へと物体のデジタルカラー画像を合成するステップを含む。
例えば、重み係数は、メモリから当該重み係数を読み取ることによって取得可能である。したがって、重み係数を、画像化プロセス中に決定する必要はない。むしろ、デジタルグレースケール画像のスペクトル感度と、利用されるカメラモデルのカラーチャネルとの両方が事前に既知であるので、重み係数を、画像化プロセスよりも前に決定して、メモリに保存することが可能である。その後、画像を取得する時にメモリにアクセスして重み係数を検索することができる。
別の態様によれば、本方法を実施するためのプログラムコードを有する、コンピュータプログラムが提供される。
以下では、特定の実施形態について図面を参照しながら説明する。
デジタル画像化装置の1つの実施形態を示すブロック図である。 デジタルカラー画像を生成するための、デジタル画像化装置によって実行されるプロセスを示す概略図である。 本明細書に記載された方法を実施するように構成されたシステムの概略図である。
図1は、1つの実施形態によるデジタル画像化装置を含む蛍光顕微鏡を示す図である。
図2は、図1に示されているデジタル画像化装置によって実行される、デジタルカラー画像を合成するためのプロセスを示す図である。
図1は、蛍光顕微鏡100を示すブロック図であり、蛍光顕微鏡100は、物体104が載置されている物体スライド102を含み得る。顕微鏡100は、複数のそれぞれ異なるスペクトル感度で物体104の複数のデジタルグレースケール画像を生成するように構成されたデジタル画像化装置106を含む。このためにデジタル画像化装置106は、対応する数の画像センサ108,110,112および114を含み得る。それぞれの画像センサ108〜114は、図1ではI1,I2,I3およびI4と称されるデジタルグレースケール画像を取得する。画像センサ108〜114は、CMOSセンサによって形成可能であるが、これに限定されているわけではない。それぞれ異なるスペクトルでの複数のグレースケール画像I1〜I4を取得するために、適切な光学フィルタ(図1には図示せず)を使用可能であり、これらの光学フィルタの各々は、画像センサに向けて物体104から出てきた蛍光光を特定の波長領域のみにおいて透過する。
デジタル画像化装置106は、蛍光顕微鏡100の全体的な動作を制御するように構成可能であるプロセッサ116をさらに含む。具体的には、プロセッサ116は、図2を参照しながら以下でさらに詳細に説明するようなカラー画像化プロセスを制御するために使用される。このためにプロセッサ116は、カラー画像化のために処理されるべきデジタルグレースケール画像I1〜I4を取得するために、画像センサ108〜114に結合されている。
画像化装置106は、同様にしてプロセッサ116に結合されたディスプレイ装置118およびメモリ120をさらに含み得る。
以下では、蛍光顕微鏡100が広視野顕微鏡によって形成されていて、画像センサ108〜114の各々が、物体104の広視野画像を取得するものと想定することができる。しかしながら、蛍光顕微鏡100は、広視野構成に限定されているわけではない。例えば、それぞれの画像センサ108〜114が点センサによって形成されていて、かつそれぞれのデジタルグレースケール画像I1〜I4がそれぞれの画像センサ108〜114によって順次に取得される複数のピクセルを含むような、共焦点顕微鏡構成を使用してもよい。
図2は、画像センサ108〜114によって取得されたデジタルグレースケール画像I1〜I4に基づいて物体104のデジタルカラー画像を合成するための、デジタル画像化装置106によって実行されるプロセスを示す図である。以下の例では、デジタルカラー画像は、R,GおよびBの3つのカラー画像の重ね合わせに対応するRGB画像であるものと想定される。言うまでもなく、図2に示されているプロセスを、例えばCMYK色空間のような別の色空間に適用してもよい。
まず始めに、プロセッサ116は、ブロックB1および線図D1によって示されているように、画像センサ108〜114のそれぞれ異なるスペクトル感度を表す正規化されたデータを取得する。具体的には、画像センサ108は、線図D1の曲線S1によって示されているようなスペクトル感度を有し得る。同様にして、画像センサ110のスペクトル感度は、曲線S2によって示されており、画像センサ112のスペクトル感度は、曲線S3によって示されており、画像センサ114のスペクトル感度は、曲線S4によって示されている。線図D1において見て取れるように、スペクトル感度S1〜S4に対応するスペクトル波長領域は、実質的に互いに分離されており、すなわち重複していない。図2の線図D1によれば、スペクトル感度S1,S2,S3,S4は、それぞれ実質的に青色、緑色、黄色および赤色に対応し得る。以下に説明するように、スペクトル感度S1〜S4は、RGBカラーカメラをシミュレートするためにRGB空間の色空間に変換されるべき4つの入力チャネルを定義する。
続いて、図2のブロックB2および線図D2によって示されているように、それぞれの画像センサ108〜114の正規化された量子収率Yが取得される。画像センサ108〜114のスペクトル感度S1〜S4に量子収率Yが乗算され、これにより、ブロックB3および線図D3に示されているように、量子収率に関して補正されたスペクトル感度S1a,S2a,S3aおよびS4aが取得される。
次のステップでは、ブロックB4および線図D4に示されているように、RGBカメラモデルの正規化されたモデル感度SB,SGおよびSRが考慮される。目標色空間としてRGB色空間を利用して、モデル感度SB,SGおよびSRは、典型的に、ベイヤーフィルタに従って決定される。具体的には、3つのスペクトルモデル感度SB,SGおよびSRは、目標モデルを定義し、画像センサ108〜114のスペクトル感度S1,S2,S3,S4は、この目標モデル上へとマッピングされる。線図D4において、モデル感度SBは色Bに対応し、モデル感度SGは色Gに対応し、モデル感度SRは色Rに対応する。ベイヤーフィルタの特性として、Gに対応するスペクトルモデル特性SGは、BおよびRにそれぞれ対応するモデル感度SBおよびSRとの関連において過大評価される。
線図D4のモデル感度SB,SG,SRによって定義されたRGB目標モデル上への、線図D1のスペクトル感度S1,S2,S3,S4のマッピングは、図2のブロックB5および行列Mによって示されている重み係数によって実施される。具体的には、行列Mは、目標系の3つの出力カラーチャネルR,G,Bに対応する3つの列を含み、かつ画像センサ108〜114の4つのスペクトル感度S1,S2,S3,S4に対応する4つの行を含む。したがって、行列Mのそれぞれの列R,GおよびBは、それぞれ4つのスペクトル感度S1,S2,S3およびS4に対応する4つの値を含む。これらの値の各々は、それぞれのスペクトル感度S1,S2,S3,S4がそれぞれのカラーチャネルR,GおよびB上へとマッピングされる比率を決定する重み係数を指定するものである。例えば、行列Mの第1の行は、第1のスペクトル感度S1が、重み係数0.092でカラーチャネルR上に、重み係数0.28でカラーチャネルG上に、重み係数0.628でカラーチャネルB上にマッピングされることを示している。同様にして、行列Mの第2の行によれば、スペクトル感度S2は、重み係数0.08でカラーチャネルR上に、重み係数0.525でカラーチャネルG上に、重み係数0.395でカラーチャネルB上にマッピングされる。行列Mの第3の行によれば、スペクトル感度S3は、重み係数0.667でカラーチャネルR上に、重み係数0.062でカラーチャネルG上に、重み係数0.271でカラーチャネルB上にマッピングされる。行列Mの第4の行によれば、スペクトル感度S4は、重み係数0.605でカラーチャネルR上に、重み係数0.053でカラーチャネルG上に、重み係数0.342でカラーチャネルB上にマッピングされる。
これに関して、図2のブロックB3とB4との間の記号「*」は、スペクトル感度S1,S2,S3およびS4によって表される4つの入力チャネルを、カラーチャネルR,GおよびBによって表される3つの出力チャネルに変換するために適用されるマッピング関数を示していることに留意されたい。入力チャネルS1,S2,S3,S4および出力チャネルR,G,Bの両方が事前に既知であるので、入力チャネルから出力チャネルへのマッピングを実施するための適切なマッピング関数を決定することが可能である。
続いて、ブロックB6によって示されているように、ブロックB5で取得された行列Mに、ベイヤーフィルタに従って決定された補正値0.25,0.5および0.25を含むベクトルVが乗算される。したがって、ブロックB7によって示されているように、補正された重み係数を含む補正されたモデル行列Mcが取得され、このモデル行列Mcをメモリ120に保存することができる。
補正された重み係数を含むモデル行列Mcに基づいて、カラー画像化をリアルタイムで実施することが可能である。このために、ブロックB8によって示されているように、画像センサ108〜114によってグレースケール画像I1〜I4が取得される。続いて、メモリ120からモデル行列Mcが検索され、プロセッサ116は、ブロックB9によって示されているように、それぞれのグレースケール画像I1〜I4内に含まれているグレースケール情報をモデル行列Mcの重み係数に従ってカラーチャネルR,GおよびB上に分配する。
具体的には、Mcの第1の行によれば、スペクトル感度S1に割り当てられた第1のグレースケール画像I1のグレースケール情報は、重み係数0.072でカラーチャネルR上に、重み係数0.438でカラーチャネルG上に、重み係数0.491でカラーチャネルB上にマッピングされる。同様にして、Mcの第2の行によれば、スペクトル感度S2に割り当てられた第2のグレースケール画像I2のグレースケール情報は、重み係数0.053でカラーチャネルR上に、重み係数0.689でカラーチャネルG上に、重み係数0.259でカラーチャネルB上にマッピングされる。Mcの第3の行によれば、スペクトル感度S3に割り当てられた第3のグレースケール画像I3のグレースケール情報は、重み係数0.628でカラーチャネルR上に、重み係数0.116でカラーチャネルG上に、重み係数0.256でカラーチャネルB上にマッピングされる。Mcの第4の行によれば、スペクトル感度S4に割り当てられた第4のグレースケール画像I4のグレースケール情報は、重み係数0.575でカラーチャネルR上に、重み係数0.100でカラーチャネルG上に、重み係数0.325でカラーチャネルB上にマッピングされる。その結果、グレースケール画像I1〜I4内に含まれているグレースケール情報に基づいて、カラーチャネルR,GおよびBにおける画像値が取得される。
次に、ブロックB10によって示されているように、プロセッサ116は、ブロックB9で取得された全ての画像値から最大値を決定することができる。さらに、プロセッサ116は、ブロックB11によって示されているように、スケール係数を決定して、スケール係数によって画像値を正規化することができる。続いて、プロセッサ116は、ブロックB12によって示されているように、ホワイトバランス処理を実施することができる。最後に、結果的に生じたデジタルRGBカラー画像が、ディスプレイ装置118上に表示される。
グレースケール画像I1〜I4の取得に基づくリアルタイムでのカラー画像化よりも前に、重み係数Mcを含むモデル行列Mcを決定できることに留意されたい。特に、行列Mcは、グレースケール画像I1〜I4とは独立して計算可能であるので、行列Mcを一回だけ決定して、以後の画像化のために保存することができる。
さらに、上で説明したプロセスは、省略可能な任意のステップを含むことに留意されたい。例えば、ブロックB2によって示されているような量子収率Yに基づくスペクトル感度S1〜S4の正規化は、使用される特定の画像センサによっては必要でない場合がある。同様にして、別のモデルの色空間が使用される場合には、ベイヤー行列補正が省略される場合がある。
本明細書で使用されるように、用語「および/または(かつ/または)」は、関連する記載項目のうちの1つまたは複数の項目のあらゆる全ての組み合わせを含んでおり、「/」として略記されることがある。
いくつかの態様を装置の文脈において説明してきたが、これらの態様が、対応する方法の説明も表していることが明らかであり、ここではブロックまたは装置がステップまたはステップの特徴に対応している。同様に、ステップの文脈において説明された態様は、対応する装置の対応するブロックまたは項目または特徴の説明も表している。
いくつかの実施形態は、図1から図2のうちの1つまたは複数の図に関連して説明されたようなシステムを含んでいる顕微鏡に関する。択一的に、顕微鏡は、図1から図2のうちの1つまたは複数の図に関連して説明されたようなシステムの一部であってもよい、または図1から図2のうちの1つまたは複数の図に関連して説明されたようなシステムに接続されていてもよい。図3は本明細書に記載された方法を実施するように構成されたシステム300の概略図を示している。システム300は、顕微鏡310とコンピュータシステム320とを含んでいる。顕微鏡310は、撮像するように構成されており、かつコンピュータシステム320に接続されている。コンピュータシステム320は、本明細書に記載された方法の少なくとも一部を実施するように構成されている。コンピュータシステム320は、機械学習アルゴリズムを実行するように構成されていてもよい。コンピュータシステム320と顕微鏡310は別個の存在物であってもよいが、1つの共通のハウジング内に一体化されていてもよい。コンピュータシステム320は、顕微鏡310の中央処理システムの一部であってもよく、かつ/またはコンピュータシステム320は、顕微鏡310のセンサ、アクター、カメラまたは照明ユニット等の、顕微鏡310の従属部品の一部であってもよい。
コンピュータシステム320は、1つまたは複数のプロセッサおよび1つまたは複数のストレージデバイスを備えるローカルコンピュータデバイス(例えば、パーソナルコンピュータ、ラップトップ、タブレットコンピュータまたは携帯電話)であってもよく、または分散コンピュータシステム(例えば、ローカルクライアントおよび/または1つまたは複数のリモートサーバファームおよび/またはデータセンター等の様々な場所に分散されている1つまたは複数のプロセッサおよび1つまたは複数のストレージデバイスを備えるクラウドコンピューティングシステム)であってもよい。コンピュータシステム320は、任意の回路または回路の組み合わせを含んでいてもよい。1つの実施形態では、コンピュータシステム320は、任意の種類のものとすることができる、1つまたは複数のプロセッサを含んでいてもよい。本明細書で使用されるように、プロセッサは、例えば、顕微鏡または顕微鏡部品(例えばカメラ)のマイクロプロセッサ、マイクロコントローラ、複合命令セットコンピューティング(CISC)マイクロプロセッサ、縮小命令セットコンピューティング(RISC)マイクロプロセッサ、超長命令語(VLIW)マイクロプロセッサ、グラフィックプロセッサ、デジタル信号プロセッサ(DSP)、マルチコアプロセッサ、フィールドプログラマブルゲートアレイ(FPGA)または任意の他の種類のプロセッサまたは処理回路等のあらゆる種類の計算回路を意図していてもよいが、これらに限定されない。コンピュータシステム320に含まれ得る他の種類の回路は、カスタム回路、特定用途向け集積回路(ASIC)等であってもよく、例えばこれは、携帯電話、タブレットコンピュータ、ラップトップコンピュータ、双方向無線機および類似の電子システム等の無線装置において使用される1つまたは複数の回路(通信回路等)等である。コンピュータシステム320は、ランダムアクセスメモリ(RAM)の形態のメインメモリ等の特定の用途に適した1つまたは複数の記憶素子を含み得る1つまたは複数のストレージデバイス、1つまたは複数のハードドライブおよび/またはコンパクトディスク(CD)、フラッシュメモリカード、デジタルビデオディスク(DVD)等のリムーバブルメディアを扱う1つまたは複数のドライブ等を含んでいてもよい。コンピュータシステム320はディスプレイ装置、1つまたは複数のスピーカーおよびキーボードおよび/またはマウス、トラックボール、タッチスクリーン、音声認識装置を含み得るコントローラ、またはシステムのユーザーがコンピュータシステム320に情報を入力すること、およびコンピュータシステム320から情報を受け取ることを可能にする任意の他の装置も含んでいてもよい。
ステップの一部または全部は、例えば、プロセッサ、マイクロプロセッサ、プログラマブルコンピュータまたは電子回路等のハードウェア装置(またはハードウェア装置を使用すること)によって実行されてもよい。いくつかの実施形態では、極めて重要なステップのいずれか1つまたは複数が、そのような装置によって実行されてもよい。
一定の実装要件に応じて、本発明の実施形態は、ハードウェアまたはソフトウェアで実装され得る。この実装は、非一過性の記録媒体によって実行可能であり、非一過性の記録媒体は、各方法を実施するために、プログラマブルコンピュータシステムと協働する(または協働することが可能である)、電子的に読取可能な制御信号が格納されている、デジタル記録媒体等であり、これは例えば、フロッピーディスク、DVD、ブルーレイ、CD、ROM、PROMおよびEPROM、EEPROMまたはFLASHメモリである。したがって、デジタル記録媒体は、コンピュータ読取可能であってもよい。
本発明のいくつかの実施形態は、本明細書に記載のいずれかの方法が実施されるように、プログラマブルコンピュータシステムと協働することができる、電子的に読取可能な制御信号を有するデータ担体を含んでいる。
一般的に、本発明の実施形態は、プログラムコードを備えるコンピュータプログラム製品として実装可能であり、このプログラムコードは、コンピュータプログラム製品がコンピュータ上で実行されるときにいずれかの方法を実施するように作動する。このプログラムコードは、例えば、機械可読担体に格納されていてもよい。
別の実施形態は、機械可読担体に格納されている、本明細書に記載のいずれかの方法を実施するためのコンピュータプログラムを含んでいる。
したがって、換言すれば、本発明の実施形態は、コンピュータプログラムがコンピュータ上で実行されるときに本明細書に記載のいずれかの方法を実施するためのプログラムコードを有するコンピュータプログラムである。
したがって、本発明の別の実施形態は、プロセッサによって実行されるときに本明細書に記載のいずれかの方法を実施するために、格納されているコンピュータプログラムを含んでいる記録媒体(またはデータ担体またはコンピュータ読取可能な媒体)である。データ担体、デジタル記録媒体または被記録媒体は、典型的に、有形である、かつ/または非一過性である。本発明の別の実施形態は、プロセッサと記録媒体を含んでいる、本明細書に記載されたような装置である。
したがって、本発明の別の実施形態は、本明細書に記載のいずれかの方法を実施するためのコンピュータプログラムを表すデータストリームまたは信号シーケンスである。データストリームまたは信号シーケンスは例えば、データ通信接続、例えばインターネットを介して転送されるように構成されていてもよい。
別の実施形態は、処理手段、例えば、本明細書に記載のいずれかの方法を実施するように構成または適合されているコンピュータまたはプログラマブルロジックデバイスを含んでいる。
別の実施形態は、本明細書に記載のいずれかの方法を実施するために、インストールされたコンピュータプログラムを有しているコンピュータを含んでいる。
本発明の別の実施形態は、本明細書に記載のいずれかの方法を実施するためのコンピュータプログラムを(例えば、電子的にまたは光学的に)受信機に転送するように構成されている装置またはシステムを含んでいる。受信機は、例えば、コンピュータ、モバイル機器、記憶装置等であってもよい。装置またはシステムは、例えば、コンピュータプログラムを受信機に転送するために、ファイルサーバを含んでいてもよい。
いくつかの実施形態では、プログラマブルロジックデバイス(例えばフィールド・プログラマブル・ゲート・アレイ)が、本明細書に記載された方法の機能の一部または全部を実行するために使用されてもよい。いくつかの実施形態では、フィールド・プログラマブル・ゲート・アレイは、本明細書に記載のいずれかの方法を実施するためにマイクロプロセッサと協働してもよい。一般的に、有利には、任意のハードウェア装置によって方法が実施される。
参照符号のリスト
100 蛍光顕微鏡
102 画像化ユニット
104 物体
106 デジタル画像化装置
108〜114 画像センサ
116 プロセッサ
118 ディスプレイ装置
120 メモリ
300 システム
310 顕微鏡
320 コンピュータシステム
S1〜S4 スペクトル感度
S1a〜S4a 補正されたスペクトル感度
Y センサの量子収率
SB,SG,SR モデル感度
B1〜B12 ブロック
D1〜D4 線図
M,Mc 行列
V ベクトル

Claims (14)

  1. デジタル画像化装置(106)を含む顕微鏡(100)であって、
    前記デジタル画像化装置(106)は、プロセッサ(116)を含み、
    前記プロセッサ(116)は、複数のそれぞれ異なるスペクトル感度(S1〜S4)で物体(104)の複数のデジタルグレースケール画像(I1〜I4)を取得するように構成されており、それぞれのデジタルグレースケール画像(I1〜I4)は、前記それぞれ異なるスペクトル感度(S1〜S4)のうちのそれぞれ1つに基づくグレースケール情報を含み、
    前記プロセッサ(116)は、それぞれのデジタルグレースケール画像(I1〜I4)のための複数の重み係数(Mc)を取得するように構成されており、前記重み係数は、所定の色空間を定義する複数のカラーチャネル(R,G,B)に割り当てられており、
    前記プロセッサ(116)は、それぞれのグレースケール画像(I1〜I4)の前記グレースケール情報を前記重み係数(Mc)に従って前記カラーチャネル(R,G,B)上に分配することにより、前記デジタルグレースケール画像(I1〜I4)から前記色空間へと前記物体(104)のデジタルカラー画像を合成するように構成されている、
    顕微鏡(100)。
  2. 前記グレースケール画像(I1〜I4)の前記スペクトル感度(S1〜S4)の数は、前記色空間の前記カラーチャネル(R,G,B)の数とは異なる、
    請求項1記載の顕微鏡(100)。
  3. 前記重み係数は、行列(Mc)によって表されており、
    前記行列(Mc)の行の数は、前記デジタルグレースケール画像(I1〜I4)の数に等しく、
    前記行列(Mc)の列の数は、前記色空間の前記カラーチャネル(R,G,B)の数に等しい、
    請求項1または2記載の顕微鏡(100)。
  4. それぞれのデジタルグレースケール画像(I1〜I4)の前記グレースケール情報は、センサの量子収率(Y)に関して補正されている、
    請求項1から3までのいずれか1項記載の顕微鏡(100)。
  5. 前記重み係数(Mc)は、ベイヤーフィルタに従って補正されている、
    請求項1から4までのいずれか1項記載の顕微鏡(100)。
  6. 前記プロセッサ(116)は、前記デジタルカラー画像の全ての画像値から最大値を決定し、前記最大値に基づいて前記画像値を正規化するように構成されている、
    請求項1から5までのいずれか1項記載の顕微鏡(100)。
  7. 前記プロセッサ(116)は、前記デジタルカラー画像に対してホワイトバランスを実施するように構成されている、
    請求項1から6までのいずれか1項記載の顕微鏡(100)。
  8. 前記顕微鏡(100)は、複数の画像センサ(108〜114)を含み、
    前記複数の画像センサ(108〜114)は、前記複数のそれぞれ異なるスペクトル感度(S1〜S4)で前記複数のデジタルグレースケール画像(I1〜I4)を取得するように構成されている、
    請求項1から7までのいずれか1項記載の顕微鏡(100)。
  9. それぞれの画像センサ(108〜114)は、広視野センサによって形成されている、
    請求項8記載の顕微鏡(100)。
  10. 前記顕微鏡(100)は、前記デジタルカラー画像をリアルタイムで表示するように構成されたディスプレイ装置(118)を含む、
    請求項1から9までのいずれか1項記載の顕微鏡(100)。
  11. 前記色空間は、RGB色空間である、
    請求項1から10までのいずれか1項記載の顕微鏡(100)。
  12. 物体(104)のデジタルカラー画像を生成するための方法であって、
    前記方法は、顕微鏡を使用して、複数のそれぞれ異なるスペクトル感度(S1〜S4)で前記物体(104)の複数のデジタルグレースケール画像(I1〜I4)を取得するステップを含み、それぞれのデジタルグレースケール画像(I1〜I4)は、前記それぞれ異なるスペクトル感度(S1〜S4)のうちのそれぞれ1つに基づくグレースケール情報を含み、
    前記方法は、それぞれのデジタルグレースケール画像のための複数の重み係数(Mc)を取得するステップを含み、前記重み係数(Mc)は、所定の色空間を定義する複数のカラーチャネル(R,G,B)に割り当てられており、
    前記方法は、それぞれのグレースケール画像(I1〜I4)の前記グレースケール情報を前記重み係数(Mc)に従って前記カラーチャネル(R,G,B)上に分配することにより、前記デジタルグレースケール画像(I1〜I4)から前記色空間へと前記物体のデジタルカラー画像を合成するステップを含む、
    方法。
  13. 前記重み係数(Mc)は、メモリ(120)から前記重み係数(Mc)を読み取ることによって取得される、
    請求項12記載の方法。
  14. コンピュータプログラムがプロセッサ(116)上で実行されるときに請求項12または13記載の方法を実施するためのプログラムコードを有する、コンピュータプログラム。
JP2021069898A 2020-04-17 2021-04-16 デジタル画像化装置およびデジタルカラー画像を生成するための方法 Pending JP2021174542A (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
EP20170073.9A EP3896967A1 (en) 2020-04-17 2020-04-17 Digital imaging device and method for generating a digital color image
EP20170073 2020-04-17

Publications (1)

Publication Number Publication Date
JP2021174542A true JP2021174542A (ja) 2021-11-01

Family

ID=70295018

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021069898A Pending JP2021174542A (ja) 2020-04-17 2021-04-16 デジタル画像化装置およびデジタルカラー画像を生成するための方法

Country Status (4)

Country Link
US (1) US11543644B2 (ja)
EP (1) EP3896967A1 (ja)
JP (1) JP2021174542A (ja)
CN (1) CN113542699A (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11335048B1 (en) * 2020-11-19 2022-05-17 Sony Group Corporation Neural network-based image colorization on image/video editing applications

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3861808B2 (ja) * 2002-12-25 2006-12-27 ソニー株式会社 撮像装置
JP4265546B2 (ja) * 2005-01-31 2009-05-20 ソニー株式会社 撮像装置、画像処理装置および画像処理方法
JP5080934B2 (ja) * 2007-10-22 2012-11-21 キヤノン株式会社 画像処理装置及び方法、及び撮像装置
JP2012253727A (ja) * 2011-06-07 2012-12-20 Toshiba Corp 固体撮像装置及びカメラモジュール
JP6478725B2 (ja) * 2015-03-09 2019-03-06 キヤノン株式会社 計測装置及びロボット
US9836839B2 (en) * 2015-05-28 2017-12-05 Tokitae Llc Image analysis systems and related methods
TWI683283B (zh) * 2018-04-03 2020-01-21 薩摩亞商銳準醫光股份有限公司 一種生物樣本之影像合成方法及採用該方法之光學系統
US11613275B2 (en) * 2020-04-27 2023-03-28 Baidu Usa Llc Grayscale-based camera perception

Also Published As

Publication number Publication date
US20210325657A1 (en) 2021-10-21
EP3896967A1 (en) 2021-10-20
US11543644B2 (en) 2023-01-03
CN113542699A (zh) 2021-10-22

Similar Documents

Publication Publication Date Title
EP3542347B1 (en) Fast fourier color constancy
US8787659B2 (en) Automatic adaptation to image processing pipeline
CN102685511B (zh) 图像处理设备和图像处理方法
US20070230774A1 (en) Identifying optimal colors for calibration and color filter array design
WO2020156653A1 (en) Method for generating image data for machine learning based imaging algorithms
CA3090504A1 (en) Systems and methods for sensor-independent illuminant determination
JPWO2016002283A1 (ja) 画像処理装置、撮像装置、情報処理装置、画像処理方法およびプログラム
WO2023005818A1 (zh) 噪声图像生成方法、装置、电子设备及存储介质
EP4044110A1 (en) Method for generating image data with reduced noise, and electronic device for performing same
Lin et al. Exposure invariance in spectral reconstruction from rgb images
JP2023537262A (ja) 空間イメージ分析基盤配色推薦装置及び方法
JP2021174542A (ja) デジタル画像化装置およびデジタルカラー画像を生成するための方法
US20230206392A1 (en) Appratus and method with image processing
Vaillant et al. Color correction matrix for sparse RGB-W image sensor without IR cutoff filter
CN112799224B (zh) 用于生成输出图像数据的系统和方法以及显微镜
JP6826277B2 (ja) 画像処理システム、画像処理方法、および画像処理プログラム
JP7291389B2 (ja) 対象識別方法、情報処理装置、情報処理プログラム、および照明装置
Tian et al. Automatically designing an image processing pipeline for a five-band camera prototype using the local, linear, learned (L3) method
WO2020216938A1 (en) Method and system for generating optical spectra
CN110199297B (zh) 用于颜色相似度评估的方法和设备
Thomas et al. HDR imaging pipeline for spectral filter array cameras
KR20210107955A (ko) 컬러 스테인 분석 방법 및 상기 방법을 이용하는 전자 장치
CN108885788B (zh) 图像处理方法
JP2008160210A (ja) 情報処理方法および撮像装置
Kuzio et al. Beyond RGB: A spectral image processing software application for cultural heritage studio photography

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20240416