JP2015536482A - 顕微鏡デバイスを非同期的にシーケンス処理しながらローリングシャッタカメラを用いて画像を取得するシステムおよび方法 - Google Patents

顕微鏡デバイスを非同期的にシーケンス処理しながらローリングシャッタカメラを用いて画像を取得するシステムおよび方法 Download PDF

Info

Publication number
JP2015536482A
JP2015536482A JP2015542852A JP2015542852A JP2015536482A JP 2015536482 A JP2015536482 A JP 2015536482A JP 2015542852 A JP2015542852 A JP 2015542852A JP 2015542852 A JP2015542852 A JP 2015542852A JP 2015536482 A JP2015536482 A JP 2015536482A
Authority
JP
Japan
Prior art keywords
microscope
camera
exposure
signal
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP2015542852A
Other languages
English (en)
Other versions
JP2015536482A5 (ja
Inventor
ブルース ゴンザーガ,
ブルース ゴンザーガ,
ウィリアム ピーターソン,
ウィリアム ピーターソン,
Original Assignee
モレキュラー デバイシーズ, エルエルシー
モレキュラー デバイシーズ, エルエルシー
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by モレキュラー デバイシーズ, エルエルシー, モレキュラー デバイシーズ, エルエルシー filed Critical モレキュラー デバイシーズ, エルエルシー
Publication of JP2015536482A publication Critical patent/JP2015536482A/ja
Publication of JP2015536482A5 publication Critical patent/JP2015536482A5/ja
Withdrawn legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/36Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
    • G02B21/365Control or image processing arrangements for digital or video microscopes
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B9/00Measuring instruments characterised by the use of optical techniques
    • G01B9/04Measuring microscopes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/73Circuitry for compensating brightness variation in the scene by influencing the exposure time
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B37/00Panoramic or wide-screen photography; Photographing extended surfaces, e.g. for surveying; Photographing internal surfaces, e.g. of pipe
    • G03B37/005Photographing internal surfaces, e.g. of pipe
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B39/00High-speed photography

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Chemical & Material Sciences (AREA)
  • Analytical Chemistry (AREA)
  • Optics & Photonics (AREA)
  • Signal Processing (AREA)
  • Microscoopes, Condenser (AREA)
  • Studio Devices (AREA)

Abstract

顕微鏡に関連付けられたデバイスの移動および顕微鏡に関連付けられたカメラからの画像の取得を同期させるためのコンピュータ実装方法および画像取得システム。露光信号が、顕微鏡に関連付けられたカメラから受信される。露光信号は、顕微鏡に関連付けられたデバイスが移動させられ得る期間を識別するために分析される。加えて、露光信号に関連付けられた画像データが、受信される。さらに、コマンドが、識別された期間中に顕微鏡に関連付けられたデバイスを新しい位置に移動させるように、顕微鏡に関連付けられたデバイスに発行される。

Description

(関連出願)
本願は、米国特許仮出願第61/727,374号(2012年11月12日出願)の利益を主張し、該出願の内容は、その全体が参照により本明細書に引用される。
(技術分野)
本発明は、概して、光学顕微鏡システムから画像を取得することに関し、より具体的には、そのような顕微鏡デバイスの構成要素を非同期的にシーケンス処理しながら、ローリングシャッタカメラを用いて画像を取得することに関する。
自動化された顕微鏡システムは、そのような顕微鏡のX−Yステージ上に配置される1つ以上のサンプルの画像を捕捉するために、画像取得システムによって制御され得る。ステージに加え、顕微鏡は、カメラマウント、そのようなマウント内に配置されるカメラ、フラッシュユニット、レンズシステム等の他のデバイスを含み得る。そのようなデバイスは、カメラが、サンプルの異なる部分、異なるサンプル、異なる焦点面において、および/または異なる照射条件を使用して、画像を捕捉し得るように、画像取得システムの制御下、移動させられ得る。顕微鏡デバイスはまた、フィルタ、位相リング、二色ミラー、および帯域通過フィルタを含む、光学要素を含み得る。そのような顕微鏡デバイスの位置は、実験の行程の間、自動化された顕微鏡によって、サンプル捕捉のフレーム間で修正され得る。
典型的には、デジタルカメラ内で使用されるセンサは、2次元パターンに配列された画素要素の列を備えている。自動化された顕微鏡との使用のために好適ないくつかのカメラは、グローバルシャッタを使用する。そのようなカメラでは、カメラセンサの画素は全て、同時に、所定の露光時間の間、サンプルから反射される光、サンプルによって放出される光、および/またはサンプルを透過した光に露光される。露光時間の終了時、センサの画素の全てからのデータは、画像フレームとして、読み取られ、画像取得システムに伝送される。
他のカメラ、特に、CMOSセンサを使用するカメラは、ローリングシャッタを使用する。典型的には、そのようなシャッタは、異なる時間に、カメラセンサの画素の各行(または、列)の露光を始める。これらのカメラでは、その間、画素の列の全てまたはある群が同時に露光される、期間が存在する。さらに、ローリングシャッタを使用する、いくつかのカメラは、そのような画素が露光されている間、画素の列からデータを読み取り、伝送することができる。
自動化された顕微鏡システム内で使用される場合、顕微鏡デバイスの移動は、取得された画像内のアーチファクトを回避するように、カメラからの画像の取得と協調されなければならない。例えば、カメラに対するサンプルの位置が、露光時間の間、変化する場合、全体的像ぶれが、グローバルシャッタを使用して捕捉された画像中に現れ得る。そのような移動の間、ローリングシャッタを用いて捕捉された画像は、画像の一部における水平シフトおよび/または垂直シフトあるいは捕捉された画像の異なる部分における照明差を示し得る。
顕微鏡に関連付けられたデバイスの移動と顕微鏡に関連付けられたカメラからの画像の取得とを同期させるコンピュータ実装方法。コンピュータ実装方法は、露光信号を顕微鏡に関連付けられたカメラから受信する。露光信号は、顕微鏡に関連付けられたデバイスが移動させられ得る期間を識別するために分析される。加えて、露光信号に関連付けられた画像データが、受信される。さらに、コマンドが、識別された期間中に顕微鏡に関連付けられたデバイスを新しい位置に移動させるために、顕微鏡に関連付けられたデバイスに発行される。
顕微鏡に関連付けられたデバイスの移動とカメラからの画像の取得とを同期させるための画像取得システムは、顕微鏡に関連付けられている。画像取得システムは、カメラコントローラと、システムコントローラと、画像取得モジュールと、移動コントローラとを含む。カメラコントローラは、露光信号を顕微鏡に関連付けられたカメラから受信する。システムコントローラは、露光信号を分析し、顕微鏡に関連付けられたデバイスが移動させられ得る期間を識別する。画像取得モジュールは、露光信号に関連付けられた画像データを受信する。移動コントローラは、識別された期間中に顕微鏡に関連付けられたデバイスを新しい位置に移動させるためのコマンドを顕微鏡に関連付けられたデバイスに発行する。
本発明の他の側面および利点は、以下の発明を実施するための形態の検討によって明白であろう。
図1は、自動化された顕微鏡のカメラによる画像の取得を制御するためのシステムのシステム略図である。 図2は、図1のシステムによって制御され得る、カメラ内のセンサの露光の例示的タイミング図である。 図3−5は、カメラの動作および自動化された顕微鏡のデバイスの移動を同期させるために、図1のシステムによって行われる処理のフロー図である。 図3−5は、カメラの動作および自動化された顕微鏡のデバイスの移動を同期させるために、図1のシステムによって行われる処理のフロー図である。 図3−5は、カメラの動作および自動化された顕微鏡のデバイスの移動を同期させるために、図1のシステムによって行われる処理のフロー図である。 図6A−6Fは、そのオペレータからの情報を得るために、図1のシステムのユーザインターフェースによって生成される、ダイアログボックスである。 図6A−6Fは、そのオペレータからの情報を得るために、図1のシステムのユーザインターフェースによって生成される、ダイアログボックスである。 図6A−6Fは、そのオペレータからの情報を得るために、図1のシステムのユーザインターフェースによって生成される、ダイアログボックスである。
図1を参照すると、画像取得システム100は、カメラ104および照明源106を含む、顕微鏡デバイス102を制御する。画像取得システム100は、システムコントローラ108と、移動コントローラ110と、カメラコントローラ112と、照明コントローラ114と、システムメモリ115とを含む。オペレータは、画像取得システム100のユーザインターフェース116を使用し、画像取得システム100に、顕微鏡のステージ上に配置されたサンプルの1つ以上の画像の捕捉を制御するように指示する、コマンドを打ち込む。そのようなコマンドは、システムメモリ115の一部である、移動命令メモリ118内に記憶される。
前述のように、移動命令メモリ内に記憶された各命令に対して、システムコントローラ108は、移動コントローラ110に、命令によって規定されるように、顕微鏡デバイス102を位置付けるように指示する。その後、システムコントローラ108は、カメラコントローラ112に、カメラ104に露光サイクルを開始するように指示するように、かつ照明コントローラ114に、照明源106をオンにするように指示する。いくつかの実施形態では、システムコントローラ108は、カメラ104からの信号の受信を待ち、それに応答して、照明コントローラ114に、照明源106をオンにするように指示する。画像取得システム100の画像取得モジュール120は、カメラ104によって伝送される画像フレームを受信し、受信された画像フレームをシステムメモリ115の画像メモリ122部分に記憶する。そのような画像フレームは、次いで、ユーザインターフェース116によってオペレータに利用可能にされるか、または分析のために、別のシステム(図示せず)に伝送され得る。
前述のように、カメラ104がローリングシャッタを採用する場合、そのようなカメラ104のセンサの異なる列の露光は、異なる時間に始まる。図2を参照すると、カメラ104の画素行Aは、第1の期間200Aを有し、その間、そのような行の画素は、そのような画素に到達する光を統合する。その後、画素行Aの画素がいかなる追加の光も統合しない、第2の期間202Aが存在する。典型的には、そのような第2の期間202Aの間、データが、画素行Aを構成する各画素から読み取られ、画像取得システム100に転送され、そのような画素は、リセットされる。そのようなデータは、画像フレームの画素の1行を表す。行Aの画素は、その後、同様に期間202Aの間、リセットされる。
期間202Aが経過した後、画素行Aの画素は、カメラ104によって捕捉された次の画像フレームのために、期間204Aの間、光の統合を始める。
行BからJの画素も同様に、それぞれ、期間200Bから200Jの間、露光される。行BからIの画素は、その後、それぞれ、期間204Bから204Jの間の別の露光に備えて、それぞれ、期間202Bから202Jの間、読み取られ、リセットされる。図2に示されるように、各露光期間200Aから200Jが始まるときの時間は、それぞれ、各行AからJに対して異なる。カメラ104のローリングシャッタは、各行の露光が始まる時間をシフトさせる。また、各行は、その間、そのような行が露光される、時間のウィンドウを有する。
カメラ104の一実施形態では、期間206(「共有露光期間」)が存在し、その間、期間200Aから200Jが重複する。図2に示されるように、そのような期間206は、期間200Aから200Jの最後のものが始まるときに開始し、期間200Aから200Jの最初のものが終わるときに終了する。
例示的実施形態では、カメラ104は、行AからJのうちの最初のものの露光が始まるとき、カメラコントローラ112への信号を生成し得る。図2の例示的タイミング図では、そのような信号は、時間A1において生じるように図示される。そのようなカメラ104はまた、行AからJのうちの最後ものの露光が始まるとき(時間B1で生じるように図2に示される)、信号を生成し得る。カメラ104は、時間A1で始まった露光期間が終了するとき(時間A2において生じるように指定される)、さらなる信号を生成し得る。最後に、カメラ104は、時間B1で始まった露光期間が終了するとき(時間B2において生じるように指定される)、信号を生成し得る。図2に図示されるように、B1およびA2として指定された時間に生成された信号間の共有露光期間206は、カメラのローリングシャッタがカメラ104の行AからJの全てを同時に露光させたときである。
システムコントローラ108は、カメラコントローラ112によって受信される信号を監視する。一実施形態では、システムコントローラ108が、共有露光期間206の開始に関連付けられた信号を検出すると、システムコントローラ108は、照明コントローラ114に、照明源106をオンにするように指示する。システムコントローラ108が、共有露光期間206の終了を検出すると、システムコントローラ108は、照明コントローラ114に、照明源106をオフにするように指示する。システムコントローラ108は、移動命令メモリ118をチェックし、別のフレームが捕捉されるべきかどうかを決定し、該当する場合、移動コントローラ110に、任意の顕微鏡デバイス102および/またはカメラ104を適宜別の場所に移すように指示する。移動コントローラ110は、共有露光期間206の終了後、そのようなデバイス102、104にコマンドを発行する。一実施形態では、デバイス102、104は、期間208の間、そのようなコマンドに応答して、非同期的に場所を移され、期間208は、共有露光期間の終了と、その間、画素行AからJのうちの最後のものが露光される期間200Jの終了との間にある。他の実施形態では、デバイス102、104は、共有露光期間の終了の後、かつ、次の共有露光期間の始まり(例えば、図2の期間204Jの始まり)の前、コマンドに応答して、非同期的に場所を移される。さらに他の実施形態では、顕微鏡デバイス102、104のうちの1つ以上は、そのようなデバイスが、新しい位置への移動を開始していること、および/またはそのようなデバイスが新しい位置への移動を完了したことを示す信号を移動コントローラ110に送信し得る。
共有露光期間206の終了後、カメラ104は、行AからJの画素の統合された照明レベルを読み取り、そのようなレベルを表すデータを画像取得モジュール120に伝送する。カメラ104が、未加工バイトのストリームとしての画素データ、圧縮または非圧縮形態における画素データ、および当技術分野において公知の画像フォーマット(例えば、TIFF、JPEG等)にエンコードされた画素データを伝送し得ることは、当業者には明白であるはずである。また、画像取得モジュール120が、カメラによって伝送されたデータを他のフォーマットに変換し得ることも明白であるはずである。データを受信後、画像取得モジュール120は、必要に応じて、そのようなデータを画像フレームにフォーマットし、そのようなフレームを画像メモリ122内に記憶する。
カメラ104のいくつかの実施形態は、共有露光期間を識別する信号を生成しないこともある。そのようなカメラは、前述の信号のうちのいくつかを提供し得る。そのようなカメラとともに使用されるときでも、システムコントローラ108は、カメラ104のセンサが露光されている期間中、顕微鏡デバイス102、104が場所を移されないように、移動コントローラ110、カメラ104、および照明源106を同期させる。
図3は、共有露光期間206を識別する信号を提供するカメラ104とともに使用されるときの画像取得システム100によって行われる処理を図示する、フロー図である。図3を参照すると、ユーザインターフェース116が、ステップ300において、ユーザから、取得されるべき1つ以上のサンプルの画像を示す移動コマンドを受信し、そのような移動コマンドを移動命令メモリ118内に記憶する。ステップ302において、移動コントローラ110は、例えば、電力をそのようなデバイス102に提供し、そのようなデバイス102との通信を確立し、デバイス102が動作可能であること等を確認することによって、顕微鏡デバイス102を初期化する。また、ステップ302において、カメラコントローラ112は、例えば、電力をカメラ102に提供し、カメラ104との通信を確立し、カメラ104に、そのセンサを構成する行の画素をリセットするように指示し、撮像パラメータを設定すること等によって、カメラ104を初期化する。典型的画像パラメータは、露光時間、ビニング(センサ画素が画像画素を生成するために組み合わせられる方法)、着目領域、取得する画像の数、利得、カメラ104を画像取得システム100によって制御されない他のハードウェアと同期させるためのトリガ信号等を含み得る。加えて、照明コントローラ114はまた、ステップ302において、例えば、照明源106に提供される電力をオフにすること、またはそのような照明源106に関連付けられた別のコントローラに信号を送信することによって、照明源106をオフにする。
ステップ304において、システムコントローラ108は、移動命令を移動命令メモリ118から読み取る。ステップ306において、移動コントローラ110は、コマンドを1つ以上の顕微鏡デバイス102に送信し、そのようなデバイス102を移動命令に従う位置に移動させる。典型的には、そのようなコマンドに応答して、顕微鏡デバイス102は、画像取得システム100に対して非同期的に移動する。
ステップ308において、カメラコントローラ112は、共有露光期間206の開始を示す信号を待つ。ステップ310において、カメラ104によってサポートされる場合、カメラコントローラ112は、カメラ104に、そのセンサに到達する任意の光を統合することを始めるように信号伝達する。照明源106は、ステップ302において、オフにされたため、信号は、センサに到達しないこともあることに留意されたい。
照明コントローラ114は、ステップ312において、照明源106をオンにする。その後、ステップ314において、カメラコントローラ112は、共有露光期間206の終了を示す信号を待つ。
共有露光期間206の終了を示す信号が受信された後、照明コントローラ114は、照明源106をオフにする。ステップ318において、カメラ104によってサポートされる場合、カメラコントローラ112は、カメラ104に、センサ上の光の統合を終了するための信号を発行する。ステップ320において、画像取得モジュール120は、カメラ304から、共有露光期間206の間に捕捉された画像フレームに関連付けられデータを受信し、そのようなデータを画像メモリ122内に記憶する。いくつかの実施形態では、必要に応じて、画像取得モジュール120は、カメラ104に、データの転送を始動するように信号伝達し得る。他の実施形態では、カメラ104は、統合終了信号に応答して、自動的に、データの転送を始め得る。異なる機構が、カメラ104からデータを得るために、画像取得モジュール120によって使用され得ることは、当業者には明白であるはずである。
ステップ322において、システムコントローラ108は、処理されていない移動命令メモリ118内の別の移動コマンドが存在するかどうかをチェックする。該当する場合、処理は、ステップ304に戻る。そうでなければ、ユーザインターフェース116は、ステップ324において、ユーザに、画像捕捉が完了したことを通知し、終了する。
図4は、共有露光期間206の始まりおよび終わりを識別する信号を提供しないカメラ104とともに使用されるときの画像取得システム100の実施形態によって行われる処理を図示する、フロー図である。図4を参照すると、ステップ400において、ユーザインターフェース116は、ユーザから、取得されるべき1つ以上のサンプルの画像を示す、移動コマンドを受信し、そのような移動コマンドを移動命令メモリ118内に記憶する。ステップ402において、移動コントローラ110は、顕微鏡デバイス102を初期化し、カメラコントローラ112は、カメラ104を初期化し、照明コントローラ114が、照明源106を初期化する。必要に応じて、照明コントローラ114は、照明源106をオフにする。
ステップ404において、システムコントローラ108は、移動命令を移動命令メモリ118から読み取る。ステップ406において、移動コントローラ110は、コマンドを1つ以上の顕微鏡デバイス102に送信し、そのようなデバイス102を移動命令に従う位置に移動させる。ステップ408において、カメラコントローラ112は、カメラ104のセンサの1つ以上の行の露光が開始したことを示す信号をカメラ104から受信するのを待つ。ステップ410において、照明コントローラ114は、照明源106をオンにする。ステップ412において、カメラコントローラ112は、カメラ104のセンサの行の露光が終了したことを示す信号を待つ。ステップ414において、照明コントローラ114は、照明源をオフにする。ステップ416において、画像取得モジュール120は、カメラ104から、画像フレームを受信し、そのような画像フレームを画像メモリ122内に記憶する。
ステップ418において、システムコントローラ108は、該当する場合、別の移動コマンドを移動コマンドメモリ118から読み取る。ステップ420において、移動コントローラ110は、ステップ418において読み取られた移動コマンドに従って、顕微鏡デバイス102および/またはカメラ104を別の場所に移す。その後、ステップ422において、カメラコントローラ112は、さらなる露光の開始を示す信号が受信されるまで待ち、ステップ424において、さらなる露光の終了を示す信号が受信されるまで待つ。ステップ426において、画像取得モジュール120は、画像フレームをカメラ104から受信し、ステップ428において、受信されたフレームを破棄する。ステップ424と426との間のセンサの露光から生じる画像は、この期間中、顕微鏡デバイス102および/またはカメラ104が、ステップ420において始動された移動に応答して、依然として移動している場合があるため、破棄される。
ステップ430において、システムコントローラ108は、移動コマンドがステップ418において読み取られたかどうかチェックし、該当する場合、処理は、ステップ408に戻る。そうでなければ、ユーザインターフェース116は、ユーザに、画像取得が完了したことを通知し、画像取得システム100は、終了する。
図5は、異なるカメラ104とともに使用され得る、画像取得システムの例示的実施形態によって行われる処理を図示する、フロー図である。ステップ500において、システムコントローラ108は、使用されているカメラ104に関する情報を得る。そのような情報は、カメラの製造業者および/またはモデルを含み得る。いくつかの実施形態では、カメラコントローラ112は、そのような情報に対して、カメラ104にクエリを行い得る。他の実施形態では、ユーザインターフェース116は、そのような情報をオペレータから取得し得る。さらに他の実施形態では、そのような情報は、画像取得システム100内に事前に構成され得る。
ステップ502において、システムコントローラ108は、カメラ104に関する情報をチェックし、そのようなカメラ104が共有露光期間を識別する信号を提供する能力を有するかどうか決定する。いくつかの実施形態では、画像取得システム100は、そのメモリ内に、カメラ104の種々のモデルの能力を示すテーブルを記憶している。他の実施形態では、ユーザインターフェース116は、そのような能力に対してユーザに尋ね得る。さらに他の実施形態では、カメラコントローラ116は、カメラ104にクエリを行うことによって、そのような能力に関する情報を取得し得る。カメラ108が、共有露光期間を識別する信号を提供する場合、処理は、ステップ504に進み、そうでなければ、処理は、ステップ506に進む。
ステップ504において、画像取得システム100は、図3に対して本明細書に説明される処理を受ける。ステップ506において、画像取得システム100は、図4に対して本明細書に説明される処理を受ける。ステップ504または506の後、画像取得システム100は、終了する。
図6Aから6Dを参照すると、ユーザインターフェース116は、画像取得システム100に関連付けられたディスプレイ上に種々のダイアログボックスを提供し、オペレータが、移動コマンドを規定することを可能にし得る。1つのダイアログボックス600は、オペレータが、顕微鏡デバイス102が受けるべき移動のタイプおよび取得されるべき画像のタイプを規定する、1つ以上のチェックボックス602を選択することを可能にする。一実施形態では、オペレータは、例えば、さまざまなステージ位置において、照明デバイス106によって生成される複数の光波長を使用して、さまざまな焦点面(サンプルからのZ距離)において、画像のストリーム(すなわち、その間に時間間隔または遅延を伴わない画像フレーム)として等の取得されるコマ撮りシリーズ画像を規定し得る。
図6Bの別のダイアログボックス604は、オペレータが取得されている画像に関連付けられた説明を打ち込む、フィールド606を含む。オペレータは、ダイアログボックス604において、フィールド608に、画像に関連付けられたファイル名の一部を打ち込み得る。例えば、オペレータが、文字列「実験5」をフィールド608に打ち込む場合、取得された画像のファイルは、「実験5_a」、「実験5_b」等と名前が付けられ得る。図6Cのダイアログボックス610は、オペレータが、特定の間隔において画像の取得を規定することを可能にする。オペレータは、画像セットの量をフィールド612内に規定し得る。
図6Dのダイアログボックス616は、オペレータが、照明源を移動させること、またはフィルタおよび他の光学要素を移動させることを伴い得るさまざまな照明を規定することを可能にする。例えば、オペレータは、ポップアップメニュー618を使用して、事前に構成された照明設定を規定し、エリア620内に提供されるダイアログ要素を使用して、さらなる選択肢を規定し得る。例えば、オペレータは、チェックボックス624を選択し、焦点面が画像間で変更されるべきことを規定し得る。
図6Eを参照すると、ユーザインターフェース116は、例えば、領域628を含む、ダイアログボックス626を表示する。領域628は、チェックボックスと、ポップアップメニューと、ユーザがカメラ104からのストリーミング画像に関連付けられたパラメータを規定するために修正することができるフィールドとを含む。
図6Fを参照すると、ヒューマンインターフェース116は、例えば、オペレータに、取得されようとしている撮像シーケンスを報告するためのダイアログボックス632を表示する。
前述の取得システム100は、自動化された顕微鏡のカメラからの画像の迅速取得およびストリーミングを可能にする。そのような取得およびストリーミングは、顕微鏡デバイスの移動によるアーチファクトをそのような画像内に導入する可能性を最小限にしながら、達成される。本明細書に説明されるシステムのいくつかの用途は、サンプルの3D画像の高速取得、経時的複数の蛍光体標識サンプルの高速取得、ならびに経時的3Dおよび複数の蛍光体標識サンプルの取得を含む。他の用途も、当業者には明白であろう。
図1−6に関連して説明される、プロセス、サブプロセス、およびプロセスステップのうちの1つ以上は、1つ以上の電子またはデジタル制御デバイス上のハードウェア、ソフトウェア、またはハードウェアおよびソフトウェアの組み合わせによって行なわれ得ることを理解および認識されたい。ソフトウェアは、例えば、図1−6に図式的に描写される、機能的システム、コントーラ、デバイス、構成要素、モジュール、またはサブモジュールのうちの1つ以上等、好適な電子処理構成要素またはシステム内のソフトウェアメモリ(図示せず)に常駐し得る。ソフトウェアメモリは、論理機能(すなわち、デジタル回路またはソースコード等のデジタル形態、あるいはアナログ電気、音、またはビデオ信号等のアナログ源等のアナログ形態で実装され得る、「論理」)を実装するための実行可能命令の順序付けられたリストを含み得る。命令は、例えば、1つ以上のマイクロプロセッサ、汎用プロセッサ、プロセッサの組み合わせ、デジタル信号プロセッサ(DSP)、フィールドプログラマブルゲートアレイ(FPGA)、または特定用途向け集積回路(ASIC)を含む、処理モジュールまたはコントーラ(例えば、図1のシステムコントーラ108、移動コントーラ110、カメラコントーラ112、照明コントーラ114、ユーザインターフェース116、および画像取得モジュール120)内で実行され得る。さらに、概略図は、機能のアーキテクチャまたは物理的レイアウトによって限定されない、物理的(ハードウェアおよび/またはソフトウェア)実装を有する、機能の論理分割を説明する。本願に説明される例示的システムは、種々の構成で実装され、単一ハードウェア/ソフトウェアユニット、または別個のハードウェア/ソフトウェアユニット内において、ハードウェア/ソフトウェア構成要素として動作し得る。
実行可能命令は、電子システムの処理モジュールによって実行されると、電子システムに、命令を実施するように指示する、その中に記憶された命令を有する、コンピュータプログラム製品として実装され得る。コンピュータプログラム製品は、選択的に、命令実行システム、装置、またはデバイスから命令をフェッチし、命令を実行し得る、電子コンピュータベースのシステム、プロセッサを含むシステム、あるいは他のシステム等、命令実行システム、装置、もしくはデバイスによってまたはそれと連動して使用するために、任意の非一過性コンピュータ読み取り可能な記憶媒体内で選択的に具現化され得る。本書の文脈では、コンピュータ読み取り可能な記憶媒体は、命令実行システム、装置、またはデバイスによって、あるいはそれと連動して使用するためのプログラムを記憶し得る、任意の非一過性手段である。非一過性コンピュータ読み取り可能な記憶媒体は、選択的に、例えば、電子、磁気、光学、電磁、赤外線、または半導体システム、装置、またはデバイスであり得る。非一過性コンピュータ読み取り可能な媒体のより具体的実施例の非包括的リストとして、1つ以上のワイヤを有する電気接続(電子)、ポータブルコンピュータディスケット(磁気)、ランダムアクセス、すなわち、揮発性、メモリ(電子)、読み取り専用メモリ(電子)、消去可能プログラマブル読み取り専用メモリ、例えば、フラッシュメモリ(電子)、コンパクトディスクメモリ、例えば、DC−ROM、CD−R、CD−RW(光学)、およびデジタル多用途ディスクメモリ、すなわち、DVD(光学)が挙げられる。非一過性コンピュータ読み取り可能な記憶媒体は、プログラムが、例えば、紙または他の媒体の光学走査を介して、電子的に捕捉され、次いで、必要に応じて、好適な様式において、コンパイル、解釈、または別様に処理され、次いで、コンピュータメモリまたは機械メモリ内に記憶され得るため、プログラムが印刷される、紙または別の好適な媒体でさえあり得ることに留意されたい。
また、信号の受信および伝送は、本書で使用されるように、2つ以上のシステム、デバイス、構成要素、モジュール、またはサブモジュールが、いくつかのタイプの信号経路を経由して進行する信号を介して、相互と通信可能であることを意味することを理解されるであろう。信号は、第1および第2のシステム、デバイス、構成要素、モジュール、またはサブモジュール間の信号経路に沿って、第1のシステム、デバイス、構成要素、モジュール、またはサブモジュールから、第2のシステム、デバイス、構成要素、モジュール、またはサブモジュールに情報、電力、またはエネルギーを通信し得る、通信、電力、データ、またはエネルギー信号であり得る。信号経路は、物理的、電気、磁気、電磁、電気化学、光学、有線、または無線接続を含み得る。信号経路はまた、第1および第2のシステム、デバイス、構成要素、モジュール、またはサブモジュール間に追加のシステム、デバイス、構成要素、モジュール、またはサブモジュールを含み得る。
(産業上の可用性)
本発明の多数の修正が、前述の説明に照らして、当業者には明白であろう。故に、本説明は、例証のみとして解釈されるべきであって、当業者が本発明を作製および使用することを可能にする目的のために、かつそれを実施する最良の形態を教示するために提示される。添付の請求項の範囲内にある、あらゆる修正に対する排他的権利が、留保される。

Claims (20)

  1. 顕微鏡に関連付けられたデバイスの移動と前記顕微鏡に関連付けられたカメラからの画像の取得とを同期させるコンピュータ実装方法であって、
    露光信号を前記顕微鏡に関連付けられた前記カメラから受信することと、
    前記露光信号を分析し、前記顕微鏡に関連付けられた前記デバイスが移動させられ得る期間を識別することと、
    前記露光信号に関連付けられた画像データを受信することと、
    前記識別された期間中に前記デバイスを新しい位置に移動させるためのコマンドを前記顕微鏡に関連付けられた前記デバイスに発行することと
    を含む、コンピュータ実装方法。
  2. 前記顕微鏡に関連付けられた前記カメラは、ローリングシャッタを使用する、請求項1に記載のコンピュータ実装方法。
  3. 前記コマンドを発行することは、そのような顕微鏡のX−Yステージ、カメラマウント、カメラ、フラッシュユニット、焦点調整デバイス、フィルタ、位相リング、および二色ミラーのうちの少なくとも1つを新しい位置に移動させるコマンドを発行することをさらに含む、請求項1に記載のコンピュータ実装方法。
  4. 前記露光信号を分析し、前記受信されたデータが記憶されるべきかどうかを決定することと、
    そのような決定に従って、前記受信されたデータ従う画像フレームを記憶することと
    をさらに含む、請求項1に記載のコンピュータ実装方法。
  5. 前記露光信号を受信することは、共有露光期間の終了を示す露光信号を受信することをさらに含み、前記コマンドを発行することは、そのような信号に応答して行われる、請求項1に記載のコンピュータ実装方法。
  6. 前記受信されたデータは、前記顕微鏡に関連付けられた前記カメラのセンサによって前記共有露光期間中に統合された光に関連付けられている、請求項5に記載のコンピュータ実装方法。
  7. さらなる共有露光期間の開始を示すさらなる露光信号を受信することと、
    そのような信号に応答して、照明源をオンにするための信号を発行することと
    をさらに含む、請求項5に記載のコンピュータ実装方法。
  8. 前記さらなる共有露光期間の終了を示すなおもさらなる露光信号を受信することと、
    前記なおもさらなる露光信号に応答して、前記照明源をオフにするための信号を発行することと、
    前記顕微鏡に関連付けられた前記カメラのセンサによって前記さらなる共有露光期間中に統合された光に関連付けられたさらなる画像データを受信することと、
    前記さらなるデータを記憶することと
    をさらに含む、請求項7に記載のコンピュータ実装方法。
  9. 前記露光信号を受信することは、露光期間が終了したことを示す信号を受信することを含み、前記画像データを受信することは、前記顕微鏡に関連付けられた前記カメラのセンサによって前記露光期間中に統合された光に関連付けられた画像データを受信することを含む、請求項1に記載のコンピュータ実装方法。
  10. 前記カメラから、さらなる露光期間が終了したことのさらなる露光信号を受信することと、
    前記顕微鏡に関連付けられた前記カメラのセンサによって前記さらなる露光期間中に統合された光に関連付けられたさらなる画像データを受信することと、
    前記露光期間中に前記統合された光に関連付けられた画像データに従って、画像フレームを記憶することと、
    前記さらなる共有露光期間中に統合された光に関連付けられた前記さらなる画像データを破棄することと
    をさらに含む、請求項9に記載のコンピュータ実装方法。
  11. 前記発行されるコマンドに従って、前記顕微鏡デバイスを非同期的に移動させることをさらに含み、画像データを受信することと前記顕微鏡デバイスを非同期的に移動させることとは、同時に行われる、請求項1に記載のコンピュータ実装方法。
  12. 前記発行されるコマンドは、ユーザインターフェースに提供されている複数の移動命令から選択される移動命令に従っている、請求項1に記載のコンピュータ実装方法。
  13. 顕微鏡に関連付けられたデバイスの移動と前記顕微鏡に関連付けられたカメラからの画像の取得とを同期させるための画像取得システムであって、
    露光信号を前記顕微鏡に関連付けられた前記カメラから受信するカメラコントローラと、
    前記露光信号を分析し、前記顕微鏡に関連付けられた前記デバイスが移動させられ得る期間を識別するシステムコントローラと、
    前記露光信号に関連付けられた画像データを受信する画像取得モジュールと、
    前記識別された期間中に前記顕微鏡に関連付けられた前記デバイスを新しい位置に移動させるためのコマンドを前記顕微鏡に関連付けられた前記デバイスに発行する移動コントローラと
    を備えている、画像取得システム。
  14. 前記顕微鏡に関連付けられた前記カメラは、ローリングシャッタを使用する、請求項13に記載の画像取得システム。
  15. 前記移動コントローラによって発行されるコマンドは、そのような顕微鏡のX−Yステージ、カメラマウント、カメラ、フラッシュユニット、焦点調整デバイス、フィルタ、位相リング、および二色ミラーのうちの少なくとも1つに新しい位置に移動するように指示する、請求項14に記載の画像取得システム。
  16. 前記システムコントローラは、前記受信されたデータが記憶されるべきことを決定するために前記露光信号を分析し、前記画像取得モジュールは、そのような決定に従って、前記受信されたデータ従う画像フレームを記憶する、請求項13に記載の画像取得システム。
  17. 前記カメラコントローラによって受信される前記露光信号は、共有露光期間の終了を示す露光信号を含み、前記移動コントローラは、そのような信号に応答して、前記コマンドを発行し、
    前記画像取得モジュールによって受信される前記画像データは、前記顕微鏡に関連付けられた前記カメラのセンサによって前記共有露光期間中に統合された光に関連付けられており、
    前記画像取得システムは、照明コントローラをさらに備え、前記カメラコントローラは、さらなる共有露光期間の開始を示すさらなる露光信号を受信し、前記照明コントローラは、そのような信号に応答して、照明源をオンにするための信号を発行する、請求項13に記載の画像取得システム。
  18. 前記カメラコントローラは、前記さらなる共有露光期間の終了を示すなおもさらなる露光信号を受信し、
    前記照明コントローラは、前記なおもさらなる露光信号に応答して、前記照明源をオフにするための信号を発行し、
    前記画像取得モジュールは、前記顕微鏡に関連付けられた前記カメラのセンサによって前記さらなる共有露光期間中に統合された光に関連付けられたさらなる画像データを受信し、記憶する、
    請求項17に記載の画像取得システム。
  19. 前記顕微鏡デバイスは、前記発行されるコマンドに従って、非同期的に移動し、前記画像捕捉デバイスは、前記顕微鏡デバイスが非同期的に移動している場合、同時に、画像データを受信する、請求項13に記載の画像取得システム。
  20. 複数の移動命令を受信するためのユーザインターフェースをさらに備え、前記発行されるコマンドは、前記複数の移動命令から選択される移動命令に従っている、請求項13に記載の画像取得システム。
JP2015542852A 2012-11-16 2013-11-15 顕微鏡デバイスを非同期的にシーケンス処理しながらローリングシャッタカメラを用いて画像を取得するシステムおよび方法 Withdrawn JP2015536482A (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201261727374P 2012-11-16 2012-11-16
US61/727,374 2012-11-16
PCT/US2013/070425 WO2014078735A1 (en) 2012-11-16 2013-11-15 System and method of acquiring images with a rolling shutter camera while asynchronously sequencing microscope devices

Publications (2)

Publication Number Publication Date
JP2015536482A true JP2015536482A (ja) 2015-12-21
JP2015536482A5 JP2015536482A5 (ja) 2016-10-20

Family

ID=50731736

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015542852A Withdrawn JP2015536482A (ja) 2012-11-16 2013-11-15 顕微鏡デバイスを非同期的にシーケンス処理しながらローリングシャッタカメラを用いて画像を取得するシステムおよび方法

Country Status (5)

Country Link
US (1) US20150301328A1 (ja)
EP (1) EP2920634A4 (ja)
JP (1) JP2015536482A (ja)
CN (1) CN104781717A (ja)
WO (1) WO2014078735A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015087723A (ja) * 2013-11-01 2015-05-07 浜松ホトニクス株式会社 画像取得装置及び画像取得装置の画像取得方法

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105723697B8 (zh) * 2013-09-16 2020-10-13 英特尔公司 用于相机和光源同步的方法、装置、设备及存储介质
US10523880B2 (en) * 2017-09-28 2019-12-31 Waymo Llc Synchronized spinning LIDAR and rolling shutter camera system
CN110121021A (zh) * 2019-06-28 2019-08-13 四川极智朗润科技有限公司 一种适用于卷帘快门相机的光学快门系统及其成像方法

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS63191063A (ja) * 1987-02-03 1988-08-08 Sumitomo Electric Ind Ltd 顕微鏡画像の処理方式
JPH01169305A (ja) * 1987-12-25 1989-07-04 Hitachi Ltd 顕微鏡装置のパターン検出方法
US5157484A (en) * 1989-10-23 1992-10-20 Vision Iii Imaging, Inc. Single camera autosteroscopic imaging system
DE10251345B4 (de) * 2002-11-05 2006-08-17 Leica Microsystems Cms Gmbh Verfahren und Vorrichtung zur Untersuchung von Schichten von Geweben in lebenden Tieren mit einem Mikroskop
CN101031837B (zh) * 2004-07-23 2011-06-15 通用电气医疗集团尼亚加拉有限公司 用于荧光共焦显微镜检查的方法和设备
CN101326814A (zh) * 2005-11-15 2008-12-17 诺基亚公司 具有可调节光学器件的成像系统
JP2009124260A (ja) * 2007-11-12 2009-06-04 Ricoh Co Ltd 撮像装置
JP2010169968A (ja) * 2009-01-23 2010-08-05 Olympus Corp 顕微鏡システム及び該制御方法
US10027855B2 (en) * 2010-06-30 2018-07-17 Ge Healthcare Bio-Science Corp. System for synchronization in a line scanning imaging microscope
JP5751986B2 (ja) 2010-12-08 2015-07-22 キヤノン株式会社 画像生成装置
JP6136085B2 (ja) * 2011-10-05 2017-05-31 ソニー株式会社 画像取得装置、画像取得方法、およびコンピュータプログラム

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015087723A (ja) * 2013-11-01 2015-05-07 浜松ホトニクス株式会社 画像取得装置及び画像取得装置の画像取得方法
US10422987B2 (en) 2013-11-01 2019-09-24 Hamamatsu Photonics K.K. Image acquisition device and image acquisition method for image acquisition device

Also Published As

Publication number Publication date
CN104781717A (zh) 2015-07-15
WO2014078735A1 (en) 2014-05-22
EP2920634A4 (en) 2016-06-22
US20150301328A1 (en) 2015-10-22
EP2920634A1 (en) 2015-09-23

Similar Documents

Publication Publication Date Title
US10958820B2 (en) Intelligent interface for interchangeable sensors
JP2007166269A5 (ja)
JP2015536482A (ja) 顕微鏡デバイスを非同期的にシーケンス処理しながらローリングシャッタカメラを用いて画像を取得するシステムおよび方法
JP2014056065A5 (ja)
JP2014211574A5 (ja)
JP2015213243A (ja) 画像処理装置および撮像装置
JP2013080144A5 (ja)
JP2022516038A (ja) 顕微鏡画像の圧縮された入手
CN105635564A (zh) 用于同步自动聚焦的多相机装置和方法
JP2017538972A (ja) 顕微鏡システムにおいて並行撮像を用いることにより合焦画像を生成するための装置および方法
US20150049180A1 (en) Microscope
CA2677104C (en) Apparatus and method for combining several sub-images for any imaging surface areas
US9485420B2 (en) Video imaging using plural virtual image capture devices
US20100328430A1 (en) Lens module for forming stereo image
KR20160143138A (ko) 카메라 및 그 제어 방법
KR20190090980A (ko) 필터 부착 조명 및 드론을 이용한 3d 모델 생성 장치
WO2014179269A2 (en) Apparatus and method for generating in-focus images using parallel imaging in a microscopy system
JP2014026233A (ja) 撮像システム
JP2017060133A (ja) 電子機器、撮像制御方法、画像処理方法及びプログラム
JP2013046395A5 (ja)
CN109698897A (zh) 动态变焦透镜的多合一光学系统
JP2007213083A (ja) 画像処理システム、画像処理方法、画像処理装置、画像処理プログラム
JP2013228338A (ja) 撮像方法
JP2013055609A (ja) デジタルカメラ
JP2012027302A (ja) 投影機能付き撮像装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160901

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160901

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170630

A761 Written withdrawal of application

Free format text: JAPANESE INTERMEDIATE CODE: A761

Effective date: 20170802