JP7756416B2 - 超高解像度のイメージと高速の広視野イメージを同時に取得する方法及び装置 - Google Patents

超高解像度のイメージと高速の広視野イメージを同時に取得する方法及び装置

Info

Publication number
JP7756416B2
JP7756416B2 JP2021114007A JP2021114007A JP7756416B2 JP 7756416 B2 JP7756416 B2 JP 7756416B2 JP 2021114007 A JP2021114007 A JP 2021114007A JP 2021114007 A JP2021114007 A JP 2021114007A JP 7756416 B2 JP7756416 B2 JP 7756416B2
Authority
JP
Japan
Prior art keywords
images
region
image
optical microscope
static
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021114007A
Other languages
English (en)
Other versions
JP2022083387A (ja
Inventor
チュンフン パク
テソン ウ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
UNIST Academy Industry Research Corp
Original Assignee
UNIST Academy Industry Research Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by UNIST Academy Industry Research Corp filed Critical UNIST Academy Industry Research Corp
Publication of JP2022083387A publication Critical patent/JP2022083387A/ja
Application granted granted Critical
Publication of JP7756416B2 publication Critical patent/JP7756416B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4053Scaling of whole images or parts thereof, e.g. expanding or contracting based on super-resolution, i.e. the output image resolution being higher than the sensor resolution
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/06Means for illuminating specimens
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/36Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
    • G02B21/361Optical details, e.g. image relay to the camera or image sensor
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/36Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
    • G02B21/365Control or image processing arrangements for digital or video microscopes
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/36Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
    • G02B21/365Control or image processing arrangements for digital or video microscopes
    • G02B21/367Control or image processing arrangements for digital or video microscopes providing an output produced by processing a plurality of individual source images, e.g. image tiling, montage, composite images, depth sectioning, image comparison
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/58Optics for apodization or superresolution; Optical synthetic aperture systems
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/215Motion-based segmentation
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10056Microscopic image
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10141Special mode during image acquisition
    • G06T2207/10152Varying illumination
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30024Cell structures in vitro; Tissue sections in vitro

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Optics & Photonics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Chemical & Material Sciences (AREA)
  • Analytical Chemistry (AREA)
  • Theoretical Computer Science (AREA)
  • Microscoopes, Condenser (AREA)

Description

特許法第30条第2項適用 (1)刊行物への掲載 刊行物名:Optica 発行所 :アメリカ光学会(OSA) 発行日 :2020(令和2年)年8月10日 (2)学会での発表 学会名 :2020 IEEE Photonics Conference(IPC) 発表日 :2020(令和2年)年9月28日
本開示は、超高解像度のイメージと高速の広視野イメージを同時に取得する方法及び装置に関する。
顕微鏡対物レンズは、空間分解能の高いほど取得する映像の解像度が改善され、さらに詳しい構造を観察することができる。一般的な光学顕微鏡は、可視光線を用いて物質を観察するため、開口数(Numerical aperture)と波長として定義される空間分解能の限界(回折限界、Diffraction limit)が存在する。
光学顕微鏡は、開口数の大きいレンズを使用したり、紫外線や電子ビームのような可視光線よりも短い波長の光を照射すれば、高い空間分解能を取得することができる。しかし、光学顕微鏡は、レンズの開口数を拡張するには物理的な限界がある。また、短い波長の光を使用する測定方法を用いる場合、可視光線領域帯の光学顕微鏡よりも実現することが複雑で試料準備が難しい。特に、短い波長の光を使用する測定方法は、短い波長を有する光の高いエネルギーが生きている細胞を損傷させて、ありのままの細胞を観察し難いという点で、光学顕微鏡の代替ができない。
蛍光の光学顕微鏡は、細胞内の特定の小器官に蛍光タンパク質を用いて、観察を希望する領域の選択的な映像取得が可能であるという長所がある。しかし、蛍光の光学顕微鏡は、一般の光学顕微鏡と同様に、回折限界が適用されて空間分解能の限界が存在する。蛍光の光学顕微鏡は、空間分解能の限界を克服するために、単一の蛍光分子位置基盤の顕微鏡(Single molecular localization microscopy、SMLM)と誘導放出減衰(Stimulated emission depletion、STED)顕微鏡のような超高解像度(Super-resolution)の蛍光学顕微鏡が開発された。
構造化照明顕微鏡(Structured Illumination Microcopy、SIM)は、蛍光分子位置基盤の顕微鏡や誘導放出減衰顕微鏡に比べて時間分解能に優れる。しかし、構造化照明顕微鏡は、一枚の超高解像度のイメージを構成するために複数の映像を要するために複数の映像を必要とするため、ほかの超高解像度蛍光学顕微鏡と同様に、依然として空間分解能を高めると、イメージ全体において時間分解能が低下する。
実施形態は、一枚のイメージ内で照射される光の振幅を空間的に相違に制御し、空間分解能と時間分解能を同時に向上させることのできる技術を提供する。
但し、技術的な課題は、上述した技術的な課題に限定されることなく、更なる技術的課題が存在する。
一実施形態に係るイメージ取得方法は、光学顕微鏡から第1映像信号を受信するステップと、前記第1映像信号を用いて第1複数のイメージ全体を生成するステップと、前記第1複数のイメージ全体に含まれている複数のオブジェクトの動きに基づいて、前記第1複数のイメージ全体に対する動的領域と前記第1複数のイメージ全体に対する静的領域とを区分するステップと、前記動的領域及び前記静的領域に互いに異なる振幅を有する光が照射されるように前記光学顕微鏡を制御するステップとを含む。
前記方法は、前記第1複数のイメージ全体のうち、連続する2つのイメージを用いて前記動的領域と前記静的領域とを区分するマスクを生成するステップをさらに含ことができる。
前記方法は、前記光学顕微鏡から前記動的領域及び前記静的領域に互いに異なる振幅を有する光が照射されて取得される第2映像信号を受信するステップと、前記第2映像信号を用いて第2複数のイメージ全体を生成するステップと、前記第2複数のイメージ全体及び前記マスクに基づいて前記静的領域のみを示す複数の静的領域イメージ、及び前記動的領域のみを示す動的領域イメージを生成するステップと、前記複数の静的領域イメージ及び前記動的領域イメージに基づいて前記複数のオブジェクトに対する最終イメージを生成するステップとをさらに含むことができる。
前記最終イメージを生成するステップは、前記複数の静的領域イメージを用いて前記静的領域に対する超高解像度のイメージを生成するステップと、前記超高解像度のイメージ及び前記動的領域イメージを用いて前記最終イメージを生成するステップとを含むことができる。
前記制御するステップは、前記動的領域に平面波パターンの光が照射されるように前記光学顕微鏡を制御するステップと、前記静的領域に正弦波パターンの光が照射されるように前記光学顕微鏡を制御するステップとを含むことができる。
前記光は、一定の波長範囲の電磁波形態の光であってもよい。
前記第1映像信号は、前記光学顕微鏡から平面波パターンの光が照射されて取得されることができる。
前記光学顕微鏡は、デジタルマイクロ-ミラー素子(Digital Micro-mirror device、DMD)、液晶基盤光変調器、MEMS(Micro Electro Mechanical Systems)基盤光変調器、又はLEDに実現されることができる。
一実施形態に係るイメージ取得装置は、超高解像度のイメージと高速の広視野イメージを同時に取得するための命令を格納するメモリと、前記命令を行うためのプロセッサとを含み、前記命令が前記プロセッサによって実行されるとき、前記プロセッサは、光学顕微鏡から第1映像信号を受信し、前記第1映像信号を用いて第1複数のイメージ全体を生成し、前記第1複数のイメージ全体に含まれている複数のオブジェクトの動きに基づいて、前記第1複数のイメージ全体に対する動的領域と前記第1複数のイメージ全体に対する静的領域とを区分し、前記動的領域及び前記静的領域に互いに異なる振幅を有する光が照射されるように前記光学顕微鏡を制御する
前記プロセッサは、前記第1複数のイメージ全体のうち連続する2つのイメージを用いて前記動的領域と前記静的領域とを区分するマスクを生成することができる。
前記プロセッサは、前記光学顕微鏡から前記動的領域及び前記静的領域に互いに異なる振幅を有する光が照射されて取得される第2映像信号を受信し、前記第2映像信号を用いて第2複数のイメージ全体を生成し、前記第2複数のイメージ全体及び前記マスクに基づいて前記静的領域のみを示す複数の静的領域イメージ、及び前記動的領域のみを示す動的領域イメージを生成し、前記複数の静的領域イメージ及び前記動的領域イメージに基づいて前記複数のオブジェクトに対する最終イメージを生成することができる。
前記プロセッサは、前記複数の静的領域イメージを用いて前記静的領域に対する超高解像度のイメージを生成し、前記超高解像度のイメージ及び前記動的領域イメージを用いて前記最終イメージを生成することができる。
前記プロセッサは、前記動的領域に平面波パターンの光が照射されるように前記光学顕微鏡を制御し、前記静的領域に正弦波パターンの光が照射されるように前記光学顕微鏡を制御することができる。
前記光は、一定の波長範囲の電磁波形態の光であってもよい。
前記第1映像信号は、前記光学顕微鏡から平面波パターンの光が照射されて取得されることができる。
前記光学顕微鏡は、デジタルマイクロ-ミラー素子(Digital Micro-mirror device、DMD)、液晶基盤光変調器、MEMS(Micro Electro Mechanical Systems)基盤光変調器、又はLEDに実現されることができる。
本発明によると、一枚のイメージ内で照射される光の振幅を空間的に相違に制御し、空間分解能と時間分解能を同時に向上させることができる。
一実施形態に係るイメージ取得システムを示す図である。 図1に示されたイメージ取得装置を概略的に示す図である。 イメージ取得装置の動作を説明するための順序図である。 イメージ取得装置が生成するイメージ全体の一例を示す。 イメージ生成装置が動的領域と静的領域とを区分した一例を示す。 イメージ生成装置がマスクを介して動的領域がカバーされた一例を示す。 イメージ生成装置がマスクを介して静的領域がカバーされた一例を示す。 光学顕微鏡がマイクロミラー素子によって実現された一例を示す図である。
実施形態に対する特定な構造的又は機能的な説明は単なる例示のための目的として開示されたものとして、様々な形態に変更される。したがって、実施形態は特定な開示形態に限定されるものではなく、本明細書の範囲は技術的な思想に含まれる変更、均等物ないし代替物を含む。
第1又は第2などの用語を複数の構成要素を説明するために用いることがあるが、このような用語は1つの構成要素を他の構成要素から区別する目的としてのみ解釈されなければならない。例えば、第1構成要素は第2構成要素と命名することができ、同様に第2構成要素は第1構成要素にも命名することができる。
単数の表現は、文脈上、明白に異なる意味をもたない限り複数の表現を含む。本明細書において、「含む」又は「有する」等の用語は明細書上に記載した特徴、数字、ステップ、動作、構成要素、部品又はこれらを組み合わせたものが存在することを示すものであって、1つ又はそれ以上の他の特徴や数字、ステップ、動作、構成要素、部品、又はこれを組み合わせたものなどの存在又は付加の可能性を予め排除しないものとして理解しなければならない。
異なるように定義さがれない限り、技術的であるか又は科学的な用語を含むここで用いる全ての用語は、本実施形態が属する技術分野で通常の知識を有する者によって一般的に理解されるものと同じ意味を有する。一般的に用いられる予め定義された用語は、関連技術の文脈上で有する意味と一致する意味を有するものと解釈すべきであって、本明細書で明白に定義しない限り、理想的又は過度に形式的な意味として解釈されることはない。
以下、実施形態を添付の図面を参照しながら詳説する。各図面に提示された同じ参照符号は同じ部材を示す。
図1は、一実施形態に係るイメージ取得システムを示す図である。
イメージ取得システム10は、光学顕微鏡100及びイメージ取得装置300を含む。
イメージ取得システム10は、互いに異なる時空間スケールの生命現象を同じシステムにおいて、1つのイメージ内で同時に測定することができる。
イメージ取得システム10は、時空間分解能のいずれか一方を犠牲させなければならなかった相殺効果を除去することができる。イメージ取得システム10は、必要に応じて、イメージ内の他の領域に超高解像度のイメージ及び超高速イメージを適用し得る。イメージ取得システム10は、微細流路チャンネル関連の研究や高い時間分解能を求めるカルシウム信号伝達などの生命、物理現象の観測が必要な研究分野、微細構造変化と巨視的な早い動力学が共存するシステムを観察するために効果的である。
光学顕微鏡100は、観察対象に対して光を照射してもよい。光学顕微鏡100は、観察対象の領域によって互いに異なる振幅を有する光を照射してもよい。光学顕微鏡100は、イメージ取得装置300から受信した制御信号により光を照射してもよい。例えば、光学顕微鏡100は、可視光線領域の光を照射してもよい。光学顕微鏡100は、可視光線領域以外の一定の波長範囲(例えば、全ての波長)の電磁波形態の光を照射してもよい。光学顕微鏡100は、平面波パターンの光を照射してもよい。光学顕微鏡100は、正弦波パターンの光を照射してもよい。光学顕微鏡100は、デジタルマイクロ-ミラー素子(Digital Micro-mirror device、DMD)、液晶基盤光変調器、MEMS(Micro Electro Mechanical Systems)基盤光変調器、又は、LEDに実現されることができる。光学顕微鏡100は、様々な波長の電磁波形態の光を照射するように具現することができる。
光学顕微鏡100は、照射した光を介して取得した映像信号をイメージ取得装置300に送信することができる。例えば、光学顕微鏡100は、平面波パターンの光を照射して第1映像信号を取得してもよい。光学顕微鏡100は、第1映像信号をイメージ取得装置300に送信してもよい。光学顕微鏡100は、イメージ取得装置300から受信した制御信号に基づいて、観察対象の少なくとも2以上の領域に互いに異なる振幅を有する光を照射してもよい。光学顕微鏡100は、観察対象の少なくとも2以上の領域に互いに異なる振幅を有する光を照射して第2映像信号を取得してもよい。光学顕微鏡100は、第2映像信号をイメージ取得装置300に送信してもよい。
イメージ取得装置300は、超高解像度のイメージ構成の際動いたり形態が変わる観測対象によって発生する人工物(Artifact)として、観測のできなかった領域に対して、回折限界に該当する空間分解能で観測可能にすることができる。
イメージ取得装置300は、構造化照明顕微鏡の超高解像度のイメージを構成するために必要な数の映像が取得される間に、移動又は変形された対象について、回折限界に該当する空間分解能でそれぞれのイメージが取得される瞬間における位置及び形態をトラッキングすることができる。
イメージ取得装置300は、観察対象の領域によって互いに異なる振幅を有する光が照射されるよう、光学顕微鏡100を制御することができる。イメージ取得装置300は、一枚のイメージ内で空間分解能及び/又は時間分解能を必要領域により向上させることができる。イメージ取得装置300は、観察対象の領域によって超高解像度のイメージ及び高速の広視野イメージを同時に取得し、ユーザに出力することができる。
図2は、図1に示されたイメージ取得装置を概略的に示す図である。
イメージ取得装置300は、プロセッサ310及びメモリ350を含む。
プロセッサ310は、中央処理装置、アプリケーションプロセッサ、又はコミュニケーションプロセッサ(communication processor)の1つ以上を含んでもよい。
プロセッサ310は、イメージ取得装置300の少なくとも1つの他の構成要素の制御に関する演算やデータ処理を行う。例えば、プロセッサ310は、メモリ350に格納されているアプリケーション及び/又はソフトウェアなどを行うことができる。
プロセッサ310は、受信したデータ及びメモリ350に格納されたデータを処理してもよい。プロセッサ310は、メモリ350に格納されているデータを処理してもよい。プロセッサ310は、メモリ350に格納されているコンピュータで読み込み可能なコード(例えば、ソフトウェア)及びプロセッサ310により誘発された命令(instruction)を行ってもよい。
プロセッサ310は、目的とする動作(desired operations)を実行させるための物理的な構造を有する回路を有するハードウェアで実現されたデータ処理装置である。例えば、目的とする動作は、プログラムに含まれたコード又は命令を含んでもよい。
例えば、ハードウェアで実現されたデータ処理装置は、マイクロプロセッサ(microprocessor)、中央処理装置(central processing unit)、プロセッサコア(processor core)、マルチ-コアプロセッサ(multi-core processor)、マルチプロセッサ(multiprocessor)、ASIC(Application-Specific Integrated Circuit)、FPGA(Field Programmable Gate Array)を含んでもよい。
プロセッサ310は、光学顕微鏡100から第1映像信号を受信することができる。例えば、第1映像信号は、光学顕微鏡100から平面波パターンの光が照射されて取得される映像信号であってもよい。
プロセッサ310は、第1映像信号を用いて第1複数のイメージ全体を生成することができる。例えば、第1複数のイメージ全体は、観察対象に対して、平面波パターンの光が照射されて取得される全体を含むイメージを意味する。
プロセッサ310は、第1複数のイメージ全体に含まれている複数のオブジェクトの動きに基づいて、第1複数のイメージ全体に対する動的領域を区分する。例えば、動的領域は、広視野角イメージを取得するための領域であってもよい。プロセッサ310は、複数のオブジェクトのうち少なくとも1つ以上を含む領域が、ユーザの設定したオブジェクトの動き速度以上であるとき、この領域を動的領域として区分してもよい。
プロセッサ310は、第1複数のイメージ全体に含まれている複数のオブジェクトの動きに基づいて、第1複数のイメージ全体に対する静的領域を区分する。例えば、静的領域は、超高解像度の映像を取得するための領域であってもよい。プロセッサ310は、複数のオブジェクトのうち少なくとも1つ以上を含む領域が、ユーザの設定したオブジェクトの動きの速度未満であるとき、この領域を静的領域として区分してもよい。
プロセッサ310は、第1複数のイメージ全体に対する動的領域、及び第1複数のイメージ全体に対する静的領域に互いに異なる振幅を有する光が照射されるよう光学顕微鏡100を制御することができる。例えば、プロセッサ310は、動的領域に平面波パターンの光が照射されるよう光学顕微鏡100を制御してもよい。プロセッサ310は、静的領域に正弦波パターンの光が照射されるように光学顕微鏡100を制御してもよい。
プロセッサ310は、第1複数のイメージ全体のうち連続する2つのイメージを用いて動的領域と静的領域とを区分するマスク(mask)を生成する。例えば、マスクは、動的領域のみをカバーしてもよい。マスクは静的領域のみをカバーしてもよい。
プロセッサ310は、光学顕微鏡100から動的領域及び静的領域に互いに異なる振幅を有する光が照射されて取得される第2映像信号を受信してもよい。
プロセッサ310は、第2映像信号を用いて第2複数のイメージ全体を生成することができる。例えば、第2複数のイメージ全体は、観察対象の各領域に対して互いに異なる振幅を有する光が照射されて取得される全体を含むイメージを意味する。
プロセッサ310は、第2複数のイメージ全体及びマスクに基づいて、静的領域のみを示す複数の静的領域イメージ、及び動的領域のみを示す動的領域イメージを生成してもよい。
プロセッサ310は、複数の静的領域イメージ及び動的領域イメージに基づいて、観察対象に含まれている複数のオブジェクトに対する最終イメージを生成することができる。例えば、プロセッサ310は、複数の静的領域イメージを用いて静的領域に対する超高解像度のイメージを生成してもよい。プロセッサ310は、超高解像度のイメージ及び動的領域イメージを用いて最終イメージを生成してもよい。
プロセッサ310は、光学顕微鏡100を制御するための制御信号を生成することができる。プロセッサ310は、制御信号を光学顕微鏡100に送信してもよい。
メモリ350は、揮発性及び/又は不揮発性メモリを含んでもよい。メモリ350は、イメージ取得装置300の少なくとも1つの他の構成要素に関わった命令及び/又はデータを格納する。
メモリ350は、ソフトウェア及び/又はプログラムなどを格納することができる。例えば、メモリ350は、超高解像度のイメージと高速の広視野イメージを同時に取得するためのアプリケーション及びソフトウェアなどを格納することができる。
図3は、イメージ取得装置の動作を説明するための順序図であり、図4は、イメージ取得装置が生成するイメージ全体の一例を示し、図5は、イメージ生成装置が動的領域と静的領域とを区分した一例を示し、図6は、イメージ生成装置がマスクを介して動的領域がカバーされた一例を示し、図7は、イメージ生成装置がマスクを介して静的領域がカバーされた一例を示す。
イメージ取得装置300は、第1映像信号を受信する(S3010)。
イメージ取得装置300は、第1映像信号を用いて第1複数のイメージ全体410を生成する(S3020)。図4を参照すると、第1複数のイメージ全体410は、観察対象である複数のオブジェクト411、451、453、及び455を含んでいる。
イメージ取得装置300は、第1複数のイメージ全体410のうち、連続する2つのイメージを用いて動的領域と静的領域とを区分するマスクを生成する(S3030)。
イメージ取得装置300は、第1複数のイメージ全体410に含まれた複数のオブジェクト411、451、453、及び455の動きに基づいて、第1複数のイメージ全体410に対する動的領域435及び第1複数のイメージ全体に対する静的領域431を区分する(S3040)。
イメージ取得装置300は、動的領域435及び静的領域431に互いに異なる振幅を有する光が照射されるように光学顕微鏡100を制御する(S3050)。
イメージ取得装置300は、光学顕微鏡100から動的領域435及び静的領域431に互いに異なる振幅を有する光が照射されて取得される第2映像信号を受信する(S3060)。
イメージ取得装置300は、第2映像信号を用いて第2複数のイメージ全体430を生成する(S3070)。
イメージ取得装置300は、第2複数のイメージ全体430及びマスクに基づいて静的領域のみを示す複数の静的領域イメージ450、及び動的領域のみを示す動的領域イメージ470を生成する(S3080)。図6及び図7を参照すると、イメージ取得装置300は、マスクを第2複数のイメージ全体430に乗算することで、正弦波パターンが照射された領域と平面波が照射された領域とを、図6及び図7に示すように分離してもよい。イメージ取得装置300は、正弦波パターンが照射された領域(静的領域、431)に対して超高解像度映像を構成することで、人工物が生成されずに観察対象の微細構造を正確に分析可能なイメージを生成することができる。イメージ取得装置300は、平面波が照射された領域(動的領域、435)に対して迅速に変化するダイナミックスを分析することができるため、ダイナミックスと微細構造変化の相関関係などの分析可能なイメージを生成することができる。
イメージ取得装置300は、複数の静的領域イメージ450及び動的領域イメージ470に基づいて複数のオブジェクトに対する最終イメージを生成する(S3090)。イメージ取得装置300は、最終イメージを介して静的領域431については、超高解像度で構成されて微細構造を正確に分析することができ、動的領域435については、迅速に変化するダイナミックスを分析できるイメージを提供することができる。
図8は、光学顕微鏡がマイクロミラー素子によって実現された一例を示す図である。
光学顕微鏡100は、観察対象に対して正弦波強度の空間分布を有する照射パターンを照射し、レンズを通過した像を映像信号として取得することができる。光学顕微鏡100の取得する映像は、数式(1)により定義される。
イメージ取得装置300は、位相と方向の異なる複数の正弦波パターンを照射し、取得されたそれぞれのイメージを用いて超高解像度映像を生成することができる。
しかし、観察対象が移動又は変形された場合には、生成された超高解像度のイメージ内に人工物が発生し、正確な映像確認ができない場合がある。また、動きが発生した周辺領域にいたるまで正確な識別ができない場合がある。
イメージ取得装置300は、動きや変形のある観察対象(例えば、観察対象に含まれている複数のオブジェクト)を時間tを導入し、数式(2)のように定義する。
イメージの全領域O(r,t)に対して、超高解像度のイメージ構成に必要な複数のイメージを取得する間に動きや変形がない場合、時間分解能は必要な枚数だけ低下させるが、空間分解能は最大2倍まで改善することができる。反対に、イメージの全領域O(r,t)に対して全ての領域が移動又は変形されれば、回折限界に応じた空間分解能で広視野角映像を取得して観察するしかない。
イメージ取得装置300は、光学顕微鏡100が映像信号を取得するときに照射する光の振幅を数式(3)を介して空間的に制御することができる。
イメージ取得装置300は、イメージの静的領域であるO(rs)と動的領域であるO(rc,t)に該当する領域に分類し、それぞれ光学顕微鏡100で超高解像度のイメージを取得するときに用いられる正弦波パターンと、広視野角映像を取得する時に用いられる平面波パターンを照射できるよう、光学顕微鏡100を制御することができる。
図8を参照すると、イメージ取得装置300は、マイクロミラー素子を構成しているそれぞれの微細鏡とカメラピクセルとが正確に一致するよう光学顕微鏡100を制御することができる。イメージ取得装置300は、光学顕微鏡100の制御を介して、観察対象の各領域に照射される光の振幅を空間的に制御してもよい。光学顕微鏡100は、イメージ取得装置300の制御を介してイメージ内で正弦波パターンと平面波を任意に照射してもよい。
イメージ取得装置300は、数式(2)と数式(3)を数式(1)に代入して数式(4)を誘導することができる。イメージ取得装置300は、数式(4)を介して一枚の超高解像度のイメージ構成に必要な複数のイメージを取得する間に、移動しない領域に対しては構造化照明顕微鏡で用いられる正弦波パターンを、移動又は変形のある領域に対しては平面波パターンを照射してもよい。
例えば、イメージ取得装置300は、イメージの一部(例えば、静的領域)では構造化照明顕微鏡を具現して超高解像度映像を取得すると共に、他の領域(例えば、動的領域)では平面波を照射して迅速に変化するダイナミックスを捕捉することのできる技術を提供することができる。
以上述した実施形態は、ハードウェア構成要素、ソフトウェア構成要素、又はハードウェア構成要素及びソフトウェア構成要素の組み合せで具現される。例えば、本実施形態で説明した装置及び構成要素は、例えば、プロセッサ、コントローラ、ALU(arithmetic logic unit)、デジタル信号プロセッサ(digital signal processor)、マイクロコンピュータ、FPA(field programmable array)、PLU(programmable logic unit)、マイクロプロセッサー、又は命令(instruction)を実行して応答する異なる装置のように、1つ以上の汎用コンピュータ又は特殊目的コンピュータを用いて具現される。処理装置は、オペレーティングシステム(OS)及びオペレーティングシステム上で実行される1つ以上のソフトウェアアプリケーションを実行する。また、処理装置は、ソフトウェアの実行に応答してデータをアクセス、格納、操作、処理、及び生成する。理解の便宜のために、処理装置は1つが使用されるものとして説明する場合もあるが、当技術分野で通常の知識を有する者は、処理装置が複数の処理要素(processing element)及び/又は複数類型の処理要素を含むことが把握する。例えば、処理装置は、複数のプロセッサ又は1つのプロセッサ及び1つのコントローラを含む。また、並列プロセッサ(parallel processor)のような、他の処理構成も可能である。
ソフトウェアは、コンピュータプログラム、コード、命令、又はそのうちの一つ以上の組合せを含み、希望の通りに動作するよう処理装置を構成したり、独立的又は結合的に処理装置を命令することができる。ソフトウェア及び/又はデータは、処理装置によって解釈されたり処理装置に命令又はデータを提供するために、いずれかの類型の機械、構成要素、物理的装置、仮想装置、コンピュータ格納媒体又は装置、又は送信される信号波に永久的又は一時的に具体化することができる。ソフトウェアはネットワークに連結されたコンピュータシステム上に分散され、分散した方法で格納されたり実行され得る。ソフトウェア及びデータは一つ以上のコンピュータで読出し可能な記録媒体に格納され得る。
本実施形態による方法は、様々なコンピュータ手段を介して実施されるプログラム命令の形態で具現され、コンピュータ読み取り可能な記録媒体に記録される。記録媒体は、プログラム命令、データファイル、データ構造などを単独又は組み合せて含む。記録媒体及びプログラム命令は、本発明の目的のために特別に設計して構成されたものでもよく、コンピュータソフトウェア分野の技術を有する当業者にとって公知のものであり使用可能なものであってもよい。コンピュータ読み取り可能な記録媒体の例として、ハードディスク、フロッピー(登録商標)ディスク及び磁気テープのような磁気媒体、CD-ROM、DVDのような光記録媒体、フロプティカルディスクのような磁気-光媒体、及びROM、RAM、フラッシュメモリなどのようなプログラム命令を保存して実行するように特別に構成されたハードウェア装置を含む。プログラム命令の例としては、コンパイラによって生成されるような機械語コードだけでなく、インタプリタなどを用いてコンピュータによって実行される高級言語コードを含む。ハードウェア装置は、本発明に示す動作を実行するために1つ以上のソフトウェアモジュールとして作動するように構成してもよく、その逆も同様である。
上述したように実施形態をたとえ限定された図面によって説明したが、当技術分野で通常の知識を有する者であれば、上記の説明に基づいて様々な技術的な修正及び変形を適用することができる。例えば、説明された技術が説明された方法と異なる順で実行されるし、及び/又は説明されたシステム、構造、装置、回路などの構成要素が説明された方法と異なる形態で結合又は組み合わせられてもよいし、他の構成要素又は均等物によって置き換え又は置換されたとしても適切な結果を達成することができる。
したがって、本発明の範囲は、開示された実施形態に限定されて定められるものではなく、特許請求の範囲及び特許請求の範囲と均等なものなどによって定められるものである。

Claims (14)

  1. 光学顕微鏡から第1映像信号を受信するステップと、
    前記第1映像信号を用いて第1複数のイメージ全体を生成するステップと、
    前記第1複数のイメージ全体に含まれている複数のオブジェクトの動きに基づいて、前記第1複数のイメージ全体に対する動的領域と前記第1複数のイメージ全体に対する静的領域とを区分するステップと、
    前記動的領域及び前記静的領域に互いに異なる振幅を有する光が照射されるように前記光学顕微鏡を制御するステップと、
    前記光学顕微鏡から前記動的領域及び前記静的領域に互いに異なる振幅を有する光が照射されて取得される第2映像信号を受信するステップと、
    前記第2映像信号を用いて第2複数のイメージ全体を生成するステップと、
    前記第2複数のイメージ全体及び前記動的領域と前記静的領域とを区分するマスクに基づいて前記静的領域のみを示す複数の静的領域イメージ、及び前記動的領域のみを示す動的領域イメージを生成するステップと、
    前記複数の静的領域イメージ及び前記動的領域イメージに基づいて前記複数のオブジェクトに対する最終イメージを生成するステップと、
    を含むイメージ取得方法。
  2. 前記第1複数のイメージ全体のうち、連続する2つのイメージを用いて前記動的領域と前記静的領域とを区分する前記マスクを生成するステップをさらに含む、請求項1に記載のイメージ取得方法。
  3. 前記最終イメージを生成するステップは、
    前記複数の静的領域イメージを用いて前記静的領域に対する超高解像度のイメージを生成するステップと、
    前記超高解像度のイメージ及び前記動的領域イメージを用いて前記最終イメージを生成するステップと、
    を含む、請求項に記載のイメージ取得方法。
  4. 前記制御するステップは、
    前記動的領域に平面波パターンの光が照射されるように前記光学顕微鏡を制御するステップと、
    前記静的領域に正弦波パターンの光が照射されるように前記光学顕微鏡を制御するステップと、
    を含む請求項1に記載のイメージ取得方法。
  5. 前記光は、一定の波長範囲の電磁波形態の光である、請求項1に記載のイメージ取得方法。
  6. 前記第1映像信号は、前記光学顕微鏡から平面波パターンの光が照射されて取得される、請求項1に記載のイメージ取得方法。
  7. 前記光学顕微鏡は、デジタルマイクロ-ミラー素子(Digital Micro-mirror device、DMD)、液晶基盤光変調器、MEMS(Micro Electro Mechanical Systems)基盤光変調器、又はLEDに実現される、請求項1に記載のイメージ取得方法。
  8. 超高解像度のイメージと高速の広視野イメージを同時に取得するための命令を格納するメモリと、
    前記命令を行うためのプロセッサと、
    を含み、
    前記命令が前記プロセッサによって実行されるとき、前記プロセッサは、
    光学顕微鏡から第1映像信号を受信し、
    前記第1映像信号を用いて第1複数のイメージ全体を生成し、
    前記第1複数のイメージ全体に含まれている複数のオブジェクトの動きに基づいて、前記第1複数のイメージ全体に対する動的領域と前記第1複数のイメージ全体に対する静的領域とを区分し、
    前記動的領域及び前記静的領域に互いに異なる振幅を有する光が照射されるように前記光学顕微鏡を制御
    前記光学顕微鏡から前記動的領域及び前記静的領域に互いに異なる振幅を有する光が照射されて取得される第2映像信号を受信し、
    前記第2映像信号を用いて第2複数のイメージ全体を生成し、
    前記第2複数のイメージ全体及び前記動的領域と前記静的領域とを区分するマスクに基づいて前記静的領域のみを示す複数の静的領域イメージ、及び前記動的領域のみを示す動的領域イメージを生成し、
    前記複数の静的領域イメージ及び前記動的領域イメージに基づいて前記複数のオブジェクトに対する最終イメージを生成する、イメージ取得装置。
  9. 前記プロセッサは、前記第1複数のイメージ全体のうち連続する2つのイメージを用いて前記動的領域と前記静的領域とを区分する前記マスクを生成する、請求項に記載のイメージ取得装置。
  10. 前記プロセッサは、
    前記複数の静的領域イメージを用いて前記静的領域に対する超高解像度のイメージを生成し、
    前記超高解像度のイメージ及び前記動的領域イメージを用いて前記最終イメージを生成する、請求項に記載のイメージ取得装置。
  11. 前記プロセッサは、
    前記動的領域に平面波パターンの光が照射されるように前記光学顕微鏡を制御し、
    前記静的領域に正弦波パターンの光が照射されるように前記光学顕微鏡を制御する、請求項に記載のイメージ取得装置。
  12. 前記光は、一定の波長範囲の電磁波形態の光である、請求項に記載のイメージ取得装置。
  13. 前記第1映像信号は、前記光学顕微鏡から平面波パターンの光が照射されて取得される、請求項に記載のイメージ取得装置。
  14. 前記光学顕微鏡は、デジタルマイクロ-ミラー素子(Digital Micro-mirror device、DMD)、液晶基盤光変調器、MEMS(Micro Electro Mechanical Systems)基盤光変調器、又はLEDに実現される、請求項に記載のイメージ取得装置。
JP2021114007A 2020-11-24 2021-07-09 超高解像度のイメージと高速の広視野イメージを同時に取得する方法及び装置 Active JP7756416B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020200159185A KR102451422B1 (ko) 2020-11-24 2020-11-24 초고해상도 이미지와 고속 광시야 이미지를 동시에 획득하는 방법 및 장치
KR10-2020-0159185 2020-11-24

Publications (2)

Publication Number Publication Date
JP2022083387A JP2022083387A (ja) 2022-06-03
JP7756416B2 true JP7756416B2 (ja) 2025-10-20

Family

ID=81658427

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021114007A Active JP7756416B2 (ja) 2020-11-24 2021-07-09 超高解像度のイメージと高速の広視野イメージを同時に取得する方法及び装置

Country Status (3)

Country Link
US (1) US11830165B2 (ja)
JP (1) JP7756416B2 (ja)
KR (1) KR102451422B1 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10936585B1 (en) 2018-10-31 2021-03-02 Splunk Inc. Unified data processing across streaming and indexed data sets
US11614923B2 (en) 2020-04-30 2023-03-28 Splunk Inc. Dual textual/graphical programming interfaces for streaming data processing pipelines
CN114359051B (zh) * 2022-01-05 2025-09-12 京东方科技集团股份有限公司 图像处理方法及装置和系统、存储介质
US12560540B2 (en) * 2022-03-18 2026-02-24 Lavision Biotec Gmbh Method for single molecule localization microscopy
KR102863619B1 (ko) * 2023-04-27 2025-09-22 세종대학교 산학협력단 하이브리드 세포 분석 시스템 및 방법

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002514304A (ja) 1997-05-14 2002-05-14 アプライド イメージング コーポレイション 多重画像化を用いた物体の識別
JP2009251454A (ja) 2008-04-09 2009-10-29 Nikon Corp 暗室用表示制御装置
JP2012118126A (ja) 2010-11-29 2012-06-21 Olympus Corp 観察装置および観察方法
CN107132646A (zh) 2017-05-09 2017-09-05 浙江大学 基于干涉增强的快速高效自适应光学成像补偿方法与系统
JP2017219826A (ja) 2016-06-10 2017-12-14 コリア アドバンスド インスティチュート オブ サイエンス アンド テクノロジィ 波面制御器を用いた3次元屈折率映像撮影および蛍光構造化照明顕微鏡システムと、これを利用した方法
WO2020086754A1 (en) 2018-10-24 2020-04-30 Leica Biosystems Imaging, Inc. Camera exposure control when acquiring fluorescent in situ hybridization images
US20210080709A1 (en) 2017-04-07 2021-03-18 Universite Paris Descartes Optical system for spatiotemporal shaping the wavefront of the electric field of an input light beam to create three-dimensional illumination

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR0165315B1 (ko) * 1994-12-31 1999-03-20 김광호 관심영역이 존재하는 의료영상의 압축 및 복원방법
US20080144967A1 (en) * 2004-03-30 2008-06-19 Waterstrike Incorporated Confidential Viewing System Utilizing Spatial Multiplexing
KR101498206B1 (ko) * 2008-09-30 2015-03-06 삼성전자주식회사 고해상도 영상 획득 장치 및 그 방법
JP5787648B2 (ja) * 2011-07-11 2015-09-30 キヤノン株式会社 画像処理装置及び画像処理装置の制御方法
US10539772B2 (en) * 2013-10-09 2020-01-21 Howard Hughes Medical Institute Multiview light-sheet microscopy
KR101704775B1 (ko) 2016-02-03 2017-02-08 (주)비상정보통신 다중해상도 영상 처리 장치 및 영상 처리 방법
KR101888924B1 (ko) * 2017-01-06 2018-08-17 주식회사 토모큐브 디지털 마이크로미러 소자와 시간 복합 구조화 조명을 이용한 구조화 조명 현미경 시스템 및 그 동작 방법
US10346982B2 (en) 2016-08-22 2019-07-09 Koios Medical, Inc. Method and system of computer-aided detection using multiple images from different views of a region of interest to improve detection accuracy
EP3513238B1 (en) * 2016-09-13 2024-06-26 Inscopix, Inc. Adapter for microscopic imaging
NL2020622B1 (en) 2018-01-24 2019-07-30 Lllumina Cambridge Ltd Reduced dimensionality structured illumination microscopy with patterned arrays of nanowells
DE102018107356A1 (de) * 2018-03-28 2019-10-02 Carl Zeiss Microscopy Gmbh Autofokus mit winkelvariabler Beleuchtung

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002514304A (ja) 1997-05-14 2002-05-14 アプライド イメージング コーポレイション 多重画像化を用いた物体の識別
JP2009251454A (ja) 2008-04-09 2009-10-29 Nikon Corp 暗室用表示制御装置
JP2012118126A (ja) 2010-11-29 2012-06-21 Olympus Corp 観察装置および観察方法
JP2017219826A (ja) 2016-06-10 2017-12-14 コリア アドバンスド インスティチュート オブ サイエンス アンド テクノロジィ 波面制御器を用いた3次元屈折率映像撮影および蛍光構造化照明顕微鏡システムと、これを利用した方法
US20210080709A1 (en) 2017-04-07 2021-03-18 Universite Paris Descartes Optical system for spatiotemporal shaping the wavefront of the electric field of an input light beam to create three-dimensional illumination
CN107132646A (zh) 2017-05-09 2017-09-05 浙江大学 基于干涉增强的快速高效自适应光学成像补偿方法与系统
WO2020086754A1 (en) 2018-10-24 2020-04-30 Leica Biosystems Imaging, Inc. Camera exposure control when acquiring fluorescent in situ hybridization images
JP2022511401A (ja) 2018-10-24 2022-01-31 ライカ バイオシステムズ イメージング インコーポレイテッド 蛍光インサイチュハイブリダイゼーション画像を取得する際のカメラ露出量制御

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
Taeseong Woo, Cheolwoo Ahn, Jung-Hoon Park,Tunable structured illumination microscopy for acquisition of partially super-resolved images using a digital micro-mirror device,Proceedings Volume 10884, Single Molecule Spectroscopy and Superresolution Imaging XII; 108840W (2019) ,SPIE,2019年03月13日,インターネット: <URL:https://www.spiedigitallibrary.org/conference-proceedings-of-spie/10884/2507607/Tunable-structured-illumination-microscopy-for-acquisition-of-partially-super-resolved/10.1117/12.2507607.full>,[検索日2025.03.18]

Also Published As

Publication number Publication date
JP2022083387A (ja) 2022-06-03
KR20220071729A (ko) 2022-05-31
KR102451422B1 (ko) 2022-10-07
US20220164925A1 (en) 2022-05-26
US11830165B2 (en) 2023-11-28

Similar Documents

Publication Publication Date Title
JP7756416B2 (ja) 超高解像度のイメージと高速の広視野イメージを同時に取得する方法及び装置
JP6622154B2 (ja) 波面制御器を用いた3次元屈折率映像撮影および蛍光構造化照明顕微鏡システムと、これを利用した方法
ES3024557T3 (en) Image-based cell sorting systems and methods
CN111855621B (zh) 动态高速高灵敏度成像装置及成像方法
US10976532B2 (en) Structured illumination microscopy system using digital micromirror device and time-complex structured illumination, and operation method therefor
JP4184257B2 (ja) 光学トラップを有するマニフォールド間で粒子を移送する方法
KR101875515B1 (ko) 디지털 마이크로미러 소자를 활용한 구조 입사 3차원 굴절률 토모그래피 장치 및 방법
US9965867B2 (en) Particle control device
KR102302333B1 (ko) 3차원 굴절률 영상과 딥러닝을 활용한 비표지 방식의 3차원 분자 영상 생성 방법 및 장치
JP2023534366A (ja) 生細胞生物学的試料の蛍光画像の取得のための方法およびシステム
CN111149110B (zh) 基于单一分布和深度学习的超分辨率计量方法
US10295525B2 (en) Image generation device, image generation method, recording medium, and processing method
Xie et al. Multifocal fluorescence video-rate imaging of centimetre-wide arbitrarily shaped brain surfaces at micrometric resolution
US20250020902A1 (en) Light-field microscope with hybrid point-spread function
WO2018134730A1 (en) Microscopy method and apparatus for optical tracking of emitter objects
JP7256125B2 (ja) 細胞分析方法及び装置
KR20180081657A (ko) 디지털 마이크로미러 소자와 시간 복합 구조화 조명을 이용한 구조화 조명 현미경 시스템 및 그 동작 방법
US11598952B2 (en) Optical device, phase plate, and image forming method
KR20190036050A (ko) 능동 홀로그래픽 광학 집게를 이용한 3차원 정밀 광 조형 방법 및 장치
Drobczynski et al. Spectral analysis by a video camera in a holographic optical tweezers setup
CN108896470A (zh) 基于led阵列的微流通道旋转细胞相衬成像方法及系统
JP2024525490A (ja) 流体内の少なくとも1つの粒子を空間的に操作する方法および装置、ならびにコンピュータプログラム製品およびコンピュータ可読記憶媒体
US20200049968A1 (en) Flexible light sheet generation by field synthesis
KR102051188B1 (ko) 능동 홀로그래픽 광학 집게 및 그의 파면 제어 방법
KR20190075874A (ko) 능동 홀로그래픽 광학 집게를 이용한 3차원 정밀 광 조형 방법 및 장치

Legal Events

Date Code Title Description
A80 Written request to apply exceptions to lack of novelty of invention

Free format text: JAPANESE INTERMEDIATE CODE: A80

Effective date: 20210709

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20240626

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20250228

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20250325

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20250619

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20250916

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20250930

R150 Certificate of patent or registration of utility model

Ref document number: 7756416

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150