JP5466976B2 - Microscope system, observation image display method, program - Google Patents

Microscope system, observation image display method, program Download PDF

Info

Publication number
JP5466976B2
JP5466976B2 JP2010065021A JP2010065021A JP5466976B2 JP 5466976 B2 JP5466976 B2 JP 5466976B2 JP 2010065021 A JP2010065021 A JP 2010065021A JP 2010065021 A JP2010065021 A JP 2010065021A JP 5466976 B2 JP5466976 B2 JP 5466976B2
Authority
JP
Japan
Prior art keywords
image
display
weak light
live
live image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2010065021A
Other languages
Japanese (ja)
Other versions
JP2011196867A (en
Inventor
雅宏 大場
陽子 大橋
竜太郎 秋吉
浩文 鈴木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2010065021A priority Critical patent/JP5466976B2/en
Publication of JP2011196867A publication Critical patent/JP2011196867A/en
Application granted granted Critical
Publication of JP5466976B2 publication Critical patent/JP5466976B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Microscoopes, Condenser (AREA)
  • Investigating Or Analysing Biological Materials (AREA)
  • Investigating Or Analysing Materials By The Use Of Chemical Reactions (AREA)

Description

本発明は、微弱光を発生する生体試料に関する観察等を行う顕微鏡とこれを制御する制御装置とを有した顕微鏡システム、画像取得手段とこれを制御する制御手段とを有した観察画像の表示方法、およびプログラムに関する。   The present invention relates to a microscope system having a microscope for performing observation or the like on a biological sample that generates weak light and a control device for controlling the microscope, an image acquisition means, and a method for displaying an observation image having a control means for controlling the image acquisition means. And related to the program.

微弱光である生物発光等の自己発光を発生する生体試料の発光画像や蛍光画像を撮影可能な発光顕微鏡が開示されている。この発光顕微鏡は、微弱光を撮像するための遮光状態を得るための暗箱を有しており、発光する性質が付与された生体試料をこの暗箱内に保持して、この生体試料の暗視野における発光画像を取得することができる。生体試料から出る光は極めて微弱であるため、鮮明な発光画像を取得するためには、発光画像の撮影には30分程度の露光時間を要する(例えば、特許文献1参照)。   There has been disclosed a light emission microscope capable of taking a light emission image or a fluorescence image of a biological sample that generates self-luminescence such as bioluminescence which is weak light. This luminescence microscope has a dark box for obtaining a light-shielding state for imaging weak light, holds a biological sample imparted with a light emitting property in the dark box, and in the dark field of the biological sample. A luminescent image can be acquired. Since the light emitted from the biological sample is extremely weak, an exposure time of about 30 minutes is required to capture the luminescent image in order to acquire a clear luminescent image (see, for example, Patent Document 1).

特開2007−108154号公報JP 2007-108154 A

ところで、近年ES細胞やiPS細胞の分化プロセスのような長期間の観察等を必要とする研究が盛んであるが、それらをさらに詳細に検討するには、分化マーカーや未分化マーカーと呼ばれる各種レポーター遺伝子を発現している細胞のコロニーをピックアップしてセレクションする必要がある。分化マーカーや未分化マーカーの発現を検出する方法は、マーカーの種類に応じて種々の方法をとることができる。   By the way, in recent years, researches that require long-term observations such as the differentiation process of ES cells and iPS cells have been actively conducted, but various reporters called differentiation markers and undifferentiation markers have been studied in more detail. It is necessary to pick up and select colonies of cells expressing the gene. As a method for detecting the expression of a differentiation marker or an undifferentiation marker, various methods can be used depending on the type of the marker.

例えば、レポーター遺伝子としてGFP等の蛍光を発するタンパク質を利用する場合には、ES細胞やiPS細胞に励起光を照射して蛍光画像を取得する必要がある。しかしながら、励起光は、コロニー化した細胞群を充分に励起するためにエネルギーレベルの高い光が必要であることから、ES細胞やiPS細胞に励起光を長時間照射したまま、ピックアップ作業を行うことは好ましくない。したがって、過去に取得した蛍光画像をもとに目的のコロニーをピックアップすることになる。   For example, when a fluorescent protein such as GFP is used as a reporter gene, it is necessary to irradiate an ES cell or iPS cell with excitation light to obtain a fluorescence image. However, since the excitation light requires light with a high energy level to sufficiently excite the colonized cell group, the pick-up operation should be performed while irradiating the ES cell or iPS cell with the excitation light for a long time. Is not preferred. Therefore, the target colony is picked up based on the fluorescence image acquired in the past.

一方、レポーター遺伝子として自己発光性のタンパク質を利用する場合には、個々の細胞から発生される遺伝子発現由来の発光は極めて微弱であるため、上記発光顕微鏡のように微弱光の撮像が可能な検出手段を必要とし、さらに、明視野で観察できる実体顕微鏡または正立/倒立顕微鏡といった、計2種類の顕微鏡を用いる必要がある。これは、発光顕微鏡下では、暗箱が作業の邪魔になるため、ピックアップ作業を行うことが困難だからである。よって、レポーター遺伝子として自己発光性のタンパク質を利用する場合には、発光顕微鏡において発光画像を取得しておき、シャーレ内において分化マーカーまたは未分化マーカーを発現しているコロニーの位置を確認する。その画像をもとに実体顕微鏡または正立/倒立顕微鏡下で目的のコロニーをピックアップする。しかしながら、このような従来のやり方では、分化マーカーまたは未分化マーカーを発現しているコロニーと、実際にピックアップを行なったコロニーとが正確に対応しているとは言い切れず、改良の余地があった。   On the other hand, when a self-luminous protein is used as a reporter gene, the luminescence derived from gene expression generated from individual cells is extremely weak, so detection capable of imaging faint light like the above-mentioned luminescence microscope In addition, it is necessary to use a total of two types of microscopes such as a stereo microscope or an upright / inverted microscope that can be observed in a bright field. This is because it is difficult to perform the pickup work because the dark box interferes with the work under the light emission microscope. Therefore, when a self-luminous protein is used as a reporter gene, a luminescence image is acquired with a luminescence microscope, and the position of a colony expressing a differentiation marker or an undifferentiation marker in a petri dish is confirmed. Based on the image, a target colony is picked up under a stereo microscope or an upright / inverted microscope. However, in such a conventional method, it cannot be said that a colony expressing a differentiation marker or an undifferentiation marker accurately corresponds to a colony actually picked up, and there is room for improvement. It was.

本発明の目的は、生体試料の微弱光画像をライブ画像中で視認することができる顕微鏡システム等を提供することにある。   The objective of this invention is providing the microscope system etc. which can visually recognize the weak light image of a biological sample in a live image.

前記目的を達成するため、本発明の一つの形態に係る顕微鏡システムは、生体試料の微弱光画像を取得可能な第1の顕微鏡と、前記第1の顕微鏡に接続されるとともに、前記微弱光画像を記憶する第1の制御装置と、前記生体試料の明視野のライブ画像を前記微弱光画像と異なる倍率で取得可能な第2の顕微鏡と、前記第2の顕微鏡に接続されるとともに、前記微弱光画像を前記明視野のライブ画像と同等の倍率になるようにして、前記明視野のライブ画像の一部に重ね合わせて表示できる表示部を有した第2の制御装置と、を具備する。   In order to achieve the object, a microscope system according to one aspect of the present invention is connected to a first microscope capable of acquiring a weak light image of a biological sample, the first microscope, and the weak light image. Are connected to the second microscope, the second microscope capable of acquiring a bright-field live image of the biological sample at a magnification different from that of the weak light image, and the weak And a second control device having a display unit capable of displaying an optical image superimposed on a part of the bright-field live image so as to have a magnification equivalent to that of the bright-field live image.

前記目的を達成するため、本発明の一つの形態に係る観察画像の表示方法は、予め第1の画像取得手段で生体試料の微弱光画像を取得し、第2の画像取得手段で生体試料の明視野のライブ画像を前記微弱光画像と異なる倍率で取得し、制御手段によって前記微弱光画像を前記ライブ画像と同等の倍率になるようにするとともに、前記ライブ画像の一部に重ね合わせて表示手段上に表示する。   In order to achieve the object, an observation image display method according to one aspect of the present invention acquires a weak light image of a biological sample in advance by a first image acquisition unit, and the biological image of the biological sample by a second image acquisition unit. A bright-field live image is acquired at a different magnification from the weak light image, and the weak light image is made to have the same magnification as the live image by the control means, and is superimposed on a part of the live image and displayed. Display on the means.

前記目的を達成するため、本発明の一つの形態に係るプログラムは、生体試料の微弱光画像を取得する第1の画像取得手段、前記生体試料の明視野のライブ画像を取得する第2の画像取得手段、これらを制御する制御手段、前記制御手段に設けられた表示手段、を具備した観察画像の表示システムに、前記第1の画像取得手段により前記生体試料の微弱光画像を取得する機能と、前記第2の画像取得手段により生体試料の明視野のライブ画像を前記微弱光画像と異なる倍率で取得する機能と、前記制御手段によって前記微弱光画像を前記ライブ画像と同等の倍率になるようにするとともに、前記ライブ画像の一部に重ね合わせて前記表示手段上に表示する機能と、を実現させる。   In order to achieve the object, a program according to one aspect of the present invention includes a first image acquisition unit that acquires a weak light image of a biological sample, and a second image that acquires a live-field live image of the biological sample. A function for acquiring a weak light image of the biological sample by the first image acquisition means in an observation image display system comprising an acquisition means, a control means for controlling them, and a display means provided in the control means; A function of acquiring a live image of a bright field of a biological sample at a magnification different from that of the weak light image by the second image acquisition means, and a magnification equivalent to that of the live image by the control means. And a function of displaying the image on the display unit so as to overlap a part of the live image.

前記目的を達成するため、本発明の他の形態に係るプログラムは、生体試料の微弱光画像を取得する第1の画像取得手段、前記生体試料の明視野のライブ画像を取得する第2の画像取得手段、これらを制御する制御手段、前記制御手段に設けられた表示手段および表示切替手段、を具備した観察画像の表示システムに、前記第1の画像取得手段により前記生体試料の微弱光画像を高倍率で取得する機能と、前記第2の画像取得手段により生体試料の明視野のライブ画像を低倍率で取得する機能と、前記制御手段によって前記微弱光画像を前記ライブ画像と同等の倍率になるように縮小するとともに、前記ライブ画像の一部に重ね合わせて前記表示手段上に表示する機能と、表示切替手段により前記ライブ画像に重ねて表示された前記微弱光画像の表示、非表示を切り換える機能と、を実現させる。   In order to achieve the above object, a program according to another aspect of the present invention includes a first image acquisition unit that acquires a weak light image of a biological sample, and a second image that acquires a bright-field live image of the biological sample. A weak light image of the biological sample is obtained by the first image obtaining means in an observation image display system comprising an obtaining means, a control means for controlling these, a display means provided in the control means, and a display switching means. A function for acquiring at a high magnification, a function for acquiring a live image of a bright field of a biological sample at a low magnification by the second image acquisition means, and a magnification equivalent to that of the live image by the control means. And the weak light image displayed on the live image by the display switching unit, and the function of displaying the image on the display unit so as to be superimposed on a part of the live image. Display, a function of switching the non-display, to realize.

前記目的を達成するため、本発明の他の形態に係るプログラムは、生体試料の微弱光画像を取得する第1の画像取得手段、前記生体試料の明視野のライブ画像を取得する第2の画像取得手段、これらを制御する制御手段、前記制御手段に設けられた表示手段および非表示手段、を具備した観察画像の表示システムに、前記第1の画像取得手段により前記生体試料の微弱光画像を高倍率で取得する機能と、前記第2の画像取得手段により生体試料の明視野のライブ画像を低倍率で取得する機能と、前記制御手段によって前記微弱光画像を前記ライブ画像と同等の倍率になるように縮小するとともに、前記ライブ画像の一部に重ね合わせて前記表示手段上に表示する機能と、一定時間内に前記ライブ画像の一部の領域の画素値に変化があった場合に、前記非表示手段により前記ライブ画像の一部の領域に対応する前記微弱光画像の一部の領域の画素値をゼロにする機能と、を実現させる。   In order to achieve the above object, a program according to another aspect of the present invention includes a first image acquisition unit that acquires a weak light image of a biological sample, and a second image that acquires a bright-field live image of the biological sample. A weak light image of the biological sample is obtained by the first image acquisition means on an observation image display system comprising an acquisition means, a control means for controlling these, a display means and a non-display means provided in the control means. A function for acquiring at a high magnification, a function for acquiring a live image of a bright field of a biological sample at a low magnification by the second image acquisition means, and a magnification equivalent to that of the live image by the control means. A function of displaying the image on the display unit so as to be overlapped with a part of the live image and a pixel value of a part of the live image within a certain time , To realize a function to zero the pixel values of a partial region of the weak light image corresponding to a partial area of the live image by the non-display means.

上記の構成によれば、生体試料の微弱光画像をライブ画像中で視認することができる顕微鏡システム等を提供できる。   According to said structure, the microscope system etc. which can visually recognize the weak light image of a biological sample in a live image can be provided.

第1の実施形態にかかる顕微鏡システムを示した斜視図。The perspective view which showed the microscope system concerning 1st Embodiment. 図1に示す顕微鏡システムの第1の顕微鏡を模式的に示したブロック図。The block diagram which showed typically the 1st microscope of the microscope system shown in FIG. 図1に示す顕微鏡システムの第2の顕微鏡を模式的に示したブロック図。The block diagram which showed typically the 2nd microscope of the microscope system shown in FIG. 第1の実施形態の顕微鏡システムを用いたピックアップ作業の流れを示したフローチャート。The flowchart which showed the flow of the pick-up operation | work using the microscope system of 1st Embodiment. 図1に示す顕微鏡システムで得られたライブ画像と発光画像とを第2の表示部の画面上で重ね合わせた状態を示した図。The figure which showed the state which accumulated the live image and light emission image which were obtained with the microscope system shown in FIG. 1 on the screen of the 2nd display part. 第2の実施形態にかかる顕微鏡システムの第2の顕微鏡を模式的に示したブロック図。The block diagram which showed typically the 2nd microscope of the microscope system concerning 2nd Embodiment. 第2の実施形態に係る顕微鏡システムで得られたライブ画像の表示箇所に隣接した箇所に、ライブ画像と発光画像とを重ね合わせ表示したものを拡大した拡大画像を第2の表示部の画面上に表示した状態を示した図。On the screen of the second display unit, an enlarged image obtained by superimposing a live image and a light emission image on a place adjacent to a display part of a live image obtained by the microscope system according to the second embodiment is displayed. The figure which showed the state displayed on. 第2の実施形態にかかる顕微鏡システムで得られたライブ画像の表示箇所に隣接した箇所に、ライブ画像中の指定箇所を拡大した拡大画像を第2の表示部の画面上に表示した状態を示した図。The state which displayed the enlarged image which expanded the designation | designated location in a live image on the screen of the 2nd display part in the location adjacent to the display location of the live image obtained with the microscope system concerning 2nd Embodiment is shown. Figure. 第3の実施形態にかかる顕微鏡システムで得られたライブ画像を移動させる前の状態を示した図。The figure which showed the state before moving the live image obtained with the microscope system concerning 3rd Embodiment. 第3の実施形態にかかる顕微鏡システムで得られたライブ画像を移動させた後の状態を示した図。The figure which showed the state after moving the live image obtained with the microscope system concerning 3rd Embodiment. 第4の実施形態にかかる顕微鏡システムに用いられる生体試料であって、シャーレの底部に基準位置となるマーカーが付されたものを示した上面図。The top view which showed the biological sample used for the microscope system concerning 4th Embodiment, and the thing to which the marker used as a reference position was attached | subjected to the bottom part of the petri dish.

以下、図1から図5を参照して、顕微鏡システムの第1の実施形態について説明する。この顕微鏡システム11は、例えば、分化マーカーとしてルシフェラーゼの発光ベクターやGFP等の蛍光タンパクや蛍光色素を導入したES細胞やiPS細胞などの生体試料をシャーレ等の収容部内で培養しながら経時的に微弱光画像を取得し、数日経過後に、この発光画像およびライブ画像に基づいて生体試料中の培養細胞のコロニーをピックアップする作業等に用いられる。   Hereinafter, a first embodiment of the microscope system will be described with reference to FIGS. 1 to 5. This microscope system 11 is weak over time while culturing a biological sample such as an ES cell or iPS cell into which a fluorescent protein or fluorescent dye such as a luciferase luminescent vector or a fluorescent dye is introduced as a differentiation marker in a petri dish or the like. An optical image is acquired, and after several days, it is used for operations such as picking up a colony of cultured cells in a biological sample based on this luminescent image and live image.

図1に示すように、顕微鏡システム11は、主として生体試料12の微弱光画像21を取得する第1の顕微鏡13(第1の画像取得手段)と、第1の顕微鏡13を制御するとともに、第1の顕微鏡13で取得した微弱光画像21を記憶する第1の制御装置14(制御手段)と、主として生体試料12のライブ画像22を取得する第2の顕微鏡15(第2の画像取得手段)と、第2の顕微鏡15を制御するとともに微弱光画像21と第2の顕微鏡15で取得したライブ画像22とを重ね合わせ表示する第2の制御装置16(制御手段)と、を備えている。   As shown in FIG. 1, the microscope system 11 mainly controls a first microscope 13 (first image acquisition unit) that acquires a weak light image 21 of a biological sample 12, a first microscope 13, and a first microscope 13. A first control device 14 (control means) that stores the weak light image 21 acquired by one microscope 13 and a second microscope 15 (second image acquisition means) that mainly acquires a live image 22 of the biological sample 12. And a second control device 16 (control means) for controlling the second microscope 15 and displaying the weak light image 21 and the live image 22 acquired by the second microscope 15 in a superimposed manner.

図1、図2に示すように、第1の顕微鏡13は、いわゆる発光顕微鏡と呼ばれるものであり、主として細胞等の生体試料から発せられる微弱光である発光に基づいて発光画像21を取得するために利用でき、例えば発光を十分な時間(1分以上)露光する撮像素子(CCD、CMOS等)や高NAの結像光学系(対物レンズ、結像レンズ等)を具備している。なお、本発明にいう微弱光画像は、タンパク質等の自己発光性によって得られる発光画像と、励起光を照射して得られる蛍光画像とを含んだ概念である。   As shown in FIGS. 1 and 2, the first microscope 13 is a so-called luminescence microscope, and acquires a luminescence image 21 based on luminescence that is weak light emitted mainly from a biological sample such as a cell. For example, an imaging device (CCD, CMOS, etc.) that exposes light for a sufficient time (1 minute or longer) and a high NA imaging optical system (objective lens, imaging lens, etc.) are provided. Note that the faint light image referred to in the present invention is a concept including a luminescent image obtained by self-luminescence such as protein and a fluorescent image obtained by irradiating excitation light.

また、第1の顕微鏡13は、光源23を利用して生体試料12の明視野画像を取得することもできる。ここで、発光画像21とともに取得される明視野画像は、主に発光画像21を取得した撮像期間の前後に取得され、発光画像21に対応する生体試料全体の観察像を提供する。発光画像21は、生体試料の活性を時系列に評価するために所望の時間ごとに複数枚取得するのが好ましく、その都度、明視野画像も取得するのがさらに好ましい。   The first microscope 13 can also acquire a bright field image of the biological sample 12 using the light source 23. Here, the bright field image acquired together with the luminescent image 21 is acquired mainly before and after the imaging period in which the luminescent image 21 is acquired, and provides an observation image of the whole biological sample corresponding to the luminescent image 21. In order to evaluate the activity of the biological sample in chronological order, it is preferable to acquire a plurality of luminescent images 21 at desired times, and it is more preferable to acquire a bright field image each time.

第1の顕微鏡13は、本体24と、本体24の一部に設けられた暗箱25と、暗箱25の上部を覆う蓋26と、暗箱25内に設けられたインキュベータ27および第1のステージ28と、を有している。また、第1の顕微鏡13は、インキュベータ27および第1のステージ28には、図示しない観察用の孔が設けられている。   The first microscope 13 includes a main body 24, a dark box 25 provided in a part of the main body 24, a lid 26 covering the upper portion of the dark box 25, an incubator 27 and a first stage 28 provided in the dark box 25 ,have. In the first microscope 13, an observation hole (not shown) is provided in the incubator 27 and the first stage 28.

第1の顕微鏡13は、暗箱25の下部に、さらに、第1のステージ28の下方に設けられた対物光学系32と、対物光学系32を通る不要な光を遮断する第1のフィルタ33と、対物光学系32および第1のフィルタ33の下方に設けられて対物光学系32を通った光を検出できる第1のCCDカメラ34と、を有している。なお、単色の発光観察のみを行なう場合には、第1のフィルタ33を省略することもできる。また、対物光学系には図示しないズーム機構を備えていてもよい。   The first microscope 13 includes an objective optical system 32 provided below the dark box 25 and further below the first stage 28, and a first filter 33 that blocks unnecessary light passing through the objective optical system 32. And a first CCD camera 34 provided below the objective optical system 32 and the first filter 33 and capable of detecting light passing through the objective optical system 32. If only monochromatic emission observation is performed, the first filter 33 can be omitted. The objective optical system may be provided with a zoom mechanism (not shown).

第1の顕微鏡13は、明視野画像や蛍光画像を取得する際に利用される光源23と、光源23からの光を調整するための第2のフィルタ35と、を有している。光源23は、明視野画像を取得する際に利用される白色光を照射可能なランプやLED等を有している。第1の顕微鏡13は、蛍光観察時に利用する励起光を照射可能な蛍光ユニットをさらに備えていても良い。発光画像、明視野画像および蛍光画像を取得する顕微鏡には、例えばオリンパス株式会社製の発光イメージングシステムLUMINOVIEW LV200(LUMINOVIEW:商標登録)が挙げられるが、これに限定されるものではない。   The first microscope 13 includes a light source 23 used when acquiring a bright field image or a fluorescence image, and a second filter 35 for adjusting light from the light source 23. The light source 23 includes a lamp, an LED, and the like that can emit white light used when acquiring a bright field image. The first microscope 13 may further include a fluorescence unit that can irradiate excitation light used during fluorescence observation. Examples of a microscope that acquires a luminescent image, a bright-field image, and a fluorescent image include, but are not limited to, a luminescent imaging system LUMINOWEW LV200 (LUMINOWVIEW: registered trademark) manufactured by Olympus Corporation.

図1に示すように、第1の制御装置14は、一般的なパーソナルコンピュータ(PC)等のコンピュータである。第1の制御装置14は、液晶ディスプレイ等で構成される第1の表示部36と、入力手段としてのキーボード37およびマウス38など、を有している。第1の制御装置14は、第1のCCDカメラ34の撮影条件の制御、取得像の画像化と第1の表示部36への表示、および光源23の光量を制御することができる。また、第1の制御装置14は、第1の顕微鏡13で取得した発光画像21、蛍光画像および明視野画像の記憶のほか、これら発光画像21、蛍光画像および明視野画像の画像処理や画像解析も可能である。第1の制御装置14は、これら画像解析の結果データを観察条件とともに記憶しておくこともできる。第1の制御装置14は、第1のフィルタ33、第2のフィルタ35の切り替えの制御も行うことができる。さらに第1の制御装置14は、対物光学系32のズーム制御を行うことができる。   As shown in FIG. 1, the first control device 14 is a computer such as a general personal computer (PC). The first control device 14 includes a first display unit 36 constituted by a liquid crystal display or the like, and a keyboard 37 and a mouse 38 as input means. The first control device 14 can control the photographing conditions of the first CCD camera 34, image the acquired image, display it on the first display unit 36, and the light amount of the light source 23. The first control device 14 stores the light emission image 21, the fluorescence image, and the bright field image acquired by the first microscope 13, and performs image processing and image analysis of the light emission image 21, the fluorescence image, and the bright field image. Is also possible. The first control device 14 can also store the result data of the image analysis together with the observation conditions. The first control device 14 can also control switching of the first filter 33 and the second filter 35. Further, the first control device 14 can perform zoom control of the objective optical system 32.

第1の顕微鏡13および第1の制御装置14で発光観察をする場合、生体試料12から発せられた光は、対物光学系32に進み、第1のフィルタ33で不要な光が遮断されて第1のCCDカメラ34で検出される。第1のCCDカメラ34で検出された光は、第1の制御装置14に送られて画像化される。   When light emission observation is performed with the first microscope 13 and the first control device 14, the light emitted from the biological sample 12 proceeds to the objective optical system 32, and unnecessary light is blocked by the first filter 33. 1 is detected by one CCD camera 34. The light detected by the first CCD camera 34 is sent to the first control device 14 and imaged.

明視野画像を取得する場合は、第2のフィルタ35で白色の照明光が照射されるようにして標本12を照明し、透過した光が、対物光学系32を進み、第1のフィルタ33は光が遮断されないようにして、光がそのまま進み、CCDカメラ34で検出される。CCDカメラ34で検出された光は、第1の制御装置14に送られて画像化される。   When acquiring a bright field image, the second filter 35 illuminates the sample 12 so that the white illumination light is irradiated, and the transmitted light travels through the objective optical system 32, and the first filter 33 The light travels as it is without being blocked, and is detected by the CCD camera 34. The light detected by the CCD camera 34 is sent to the first control device 14 and imaged.

蛍光画像を取得する場合は、光源23から射出された光は、第2のフィルタ35で蛍光タンパク等を励起する波長の光のみを透過され、標本12に照射される。標本12で発せられた光は、対物光学系32を進み、第1のフィルタ33で不要な光が遮断されて、CCDカメラ34で検出される。CCDカメラ34で検出された光は、第1の制御装置14に送られて画像化される。   When acquiring a fluorescent image, the light emitted from the light source 23 is transmitted through only the light having a wavelength that excites the fluorescent protein or the like by the second filter 35 and is applied to the specimen 12. The light emitted from the specimen 12 travels through the objective optical system 32, unnecessary light is blocked by the first filter 33, and is detected by the CCD camera 34. The light detected by the CCD camera 34 is sent to the first control device 14 and imaged.

第2の顕微鏡15は、明視野で生体試料12のライブ画像22を取得して、生体試料12中の培養細胞のコロニー41をピックアップする作業に用いられるいわゆる正立型顕微鏡である。第2の顕微鏡15は、生体試料に細菌などが進入することがない、例えばクリーンベンチの内部に設置されている。図3に示すように、第2の顕微鏡15は、第2の本体40と、第2の本体40上部に設けられた接眼ユニット42と、接眼ユニット42の上部に設けられた第2のCCDカメラ43と、レボルバ44を介して第2の本体40に対して回転可能に固定された複数の対物レンズ45と、接眼ユニット42と対物レンズ45との間に設けられたキューブユニット46と、を有している。   The second microscope 15 is a so-called upright microscope used for obtaining a live image 22 of the biological sample 12 in a bright field and picking up a colony 41 of cultured cells in the biological sample 12. The second microscope 15 is installed in, for example, a clean bench where bacteria or the like do not enter the biological sample. As shown in FIG. 3, the second microscope 15 includes a second main body 40, an eyepiece unit 42 provided on the second main body 40, and a second CCD camera provided on the upper part of the eyepiece unit 42. 43, a plurality of objective lenses 45 that are rotatably fixed to the second main body 40 via a revolver 44, and a cube unit 46 provided between the eyepiece unit 42 and the objective lens 45. doing.

接眼ユニット42は、図示しない結像レンズ、および接眼レンズで構成されている。接眼ユニット42は、光路分岐をするためのフィルタやミラーを内蔵しており、接眼レンズでの観察光路と、第2のCCDカメラ43での観察光路とを分岐している。   The eyepiece unit 42 includes an imaging lens (not shown) and an eyepiece lens. The eyepiece unit 42 incorporates a filter and a mirror for branching the optical path, and branches the observation optical path with the eyepiece and the observation optical path with the second CCD camera 43.

対物レンズ45は、互いに倍率の異なるものが着脱自在にレボルバ44に取り付けられている。キューブユニット46は、図示しない複数のミラー、ハーフミラー、フィルタ等を保持しており、照明ユニット47で照明する照明光路と、接眼ユニット42および第2のCCDカメラ43での観察光路とを分岐している。   Objective lenses 45 having different magnifications are detachably attached to the revolver 44. The cube unit 46 holds a plurality of mirrors, half mirrors, filters, and the like (not shown), and branches an illumination optical path illuminated by the illumination unit 47 and an observation optical path from the eyepiece unit 42 and the second CCD camera 43. ing.

第2の顕微鏡15は、さらに、第2の本体40下部に設けられた第2のステージ31と、第2のステージ31上に載置される標本(生体試料12)と、第2の本体40に設けられる制御ユニット51と、標本(生体試料12)に投光するための照明ユニット47と、を有している。制御ユニット51は、第2の顕微鏡15の各部の駆動制御を行なう駆動制御回路を備えている。第2のステージ31は、X軸方向およびY軸方向(水平方向)のほか、Z軸方向(鉛直方向)にも、例えば手動で移動できる。本実施形態のレボルバ44は、電動のもので構成されている。照明ユニット47は、図示しない複数の光源、コレクタレンズ、リレーレンズ、開口絞りユニット、視野絞りユニット等により構成されている。   The second microscope 15 further includes a second stage 31 provided below the second body 40, a specimen (biological sample 12) placed on the second stage 31, and the second body 40. And a lighting unit 47 for projecting the specimen (biological sample 12). The control unit 51 includes a drive control circuit that performs drive control of each part of the second microscope 15. The second stage 31 can be manually moved, for example, not only in the X-axis direction and the Y-axis direction (horizontal direction) but also in the Z-axis direction (vertical direction). The revolver 44 of this embodiment is configured by an electric one. The illumination unit 47 includes a plurality of light sources, a collector lens, a relay lens, an aperture stop unit, a field stop unit, and the like (not shown).

照明ユニット47からの光は、キューブユニット46を介して対物レンズ45を通して生体試料12に投光される。   Light from the illumination unit 47 is projected onto the biological sample 12 through the objective lens 45 via the cube unit 46.

生体試料12の接眼ユニット42による観察は、生体試料12から発せられる蛍光や反射光等の光が、対物レンズ45、キューブユニット46を通過して接眼ユニット42に伝わり、接眼ユニット42に設けられた結像レンズに集光される。この光は、所定の結像面上に結像されて、接眼レンズを介して目視で観察することができる。   When the biological sample 12 is observed by the eyepiece unit 42, light such as fluorescence or reflected light emitted from the biological sample 12 is transmitted to the eyepiece unit 42 through the objective lens 45 and the cube unit 46, and is provided in the eyepiece unit 42. Focused on the imaging lens. This light is imaged on a predetermined imaging surface and can be visually observed through an eyepiece.

第2のCCDカメラ43による観察は、接眼ユニット42内のミラー等により第2のCCDカメラ43方向に分岐された光が、第2のCCDカメラ43のCCD面に結像され、生体試料12の観察像は第2のCCDカメラ43に接続している第2の制御装置16の第2の表示部48へ表示することが可能となる。   In the observation by the second CCD camera 43, the light branched in the direction of the second CCD camera 43 by a mirror in the eyepiece unit 42 is imaged on the CCD surface of the second CCD camera 43, and the biological sample 12 is observed. The observation image can be displayed on the second display unit 48 of the second control device 16 connected to the second CCD camera 43.

図1に示すように、第2の制御装置16は、一般的なパーソナルコンピュータ(PC)等のコンピュータで構成される。第2の制御装置16は、液晶ディスプレイ等で構成される第2の表示部48(表示手段)と、入力手段としてのキーボード49およびマウス50など、を有している。第2の制御装置16は、第2のCCDカメラ43の撮影条件の制御、取得像の画像化と第2の表示部48への表示、および照明ユニット47の光量を制御することができる。また、第2の制御装置16は、第2の顕微鏡15で取得したライブ画像22の記憶のほか、発光画像21およびライブ画像22の画像処理や画像解析も可能である。第2の制御装置16は、これら画像解析の結果データを観察条件とともに記憶しておくこともできる。図3に示すように、第2の制御装置16は、複数のキューブの制御や、レボルバ44の回転の制御を行うことができる。   As shown in FIG. 1, the second control device 16 is configured by a computer such as a general personal computer (PC). The second control device 16 has a second display section 48 (display means) constituted by a liquid crystal display or the like, a keyboard 49 and a mouse 50 as input means, and the like. The second control device 16 can control the shooting conditions of the second CCD camera 43, convert the acquired image into an image and display it on the second display unit 48, and control the light quantity of the illumination unit 47. In addition to storing the live image 22 acquired by the second microscope 15, the second control device 16 can also perform image processing and image analysis of the luminescent image 21 and the live image 22. The second control device 16 can also store the result data of the image analysis together with the observation conditions. As shown in FIG. 3, the second control device 16 can control a plurality of cubes and control the rotation of the revolver 44.

このように構成された第1の顕微鏡13、第1の制御装置14、第2の顕微鏡15、および第2の制御装置16を用いた発光観察および生体試料12中の培養細胞のコロニー41のピックアップ作業について、図4を参照しながら説明する。   Luminescence observation using the first microscope 13, the first control device 14, the second microscope 15, and the second control device 16 configured as described above and picking up the colonies 41 of cultured cells in the biological sample 12. The operation will be described with reference to FIG.

まず、数日間発光観察をするときの手順は次の通りである。   First, the procedure for observing light emission for several days is as follows.

生体試料12を第1の顕微鏡13に設置した後、生体試料12の種類や培養の条件に応じて、観察条件を設定する。生体試料12からの発光量は極めて少ないため、露出時間を十分に確保して鮮明な画像を取得(撮影)する。第1の制御装置14から第1のCCDカメラ34を操作して画像を取得し、第1の制御装置14に内蔵される記憶装置にこの画像を保存する。発光画像21の取得は、例えば、1日に数回から数十回の程度で行なわれる(S11)。発光画像21は、微弱な自己発光を発生する細胞等を個々に識別できるような十分な高倍率(例えば40〜150倍)の総合倍率を得るための対物レンズ(例えば20倍対物レンズ)を用いて、高倍率で取得する。ここで対物レンズの倍率等の光学条件は、顕微鏡13の他の結像光学系(結像レンズ、リレーレンズ等)に応じて決定される。このとき発光画像21や蛍光画像を取得する際に、併せて生体試料12の明視野画像を撮影し、明視野画像を一緒に保存しておいてもよい。   After the biological sample 12 is placed on the first microscope 13, observation conditions are set according to the type of the biological sample 12 and the culture conditions. Since the amount of light emitted from the biological sample 12 is extremely small, a clear image is acquired (captured) with a sufficient exposure time. The first CCD camera 34 is operated from the first control device 14 to acquire an image, and the image is stored in a storage device built in the first control device 14. The emission image 21 is acquired, for example, several times to several tens of times a day (S11). The luminescent image 21 uses an objective lens (for example, a 20 × objective lens) for obtaining a total magnification of a sufficiently high magnification (for example, 40 to 150 times) that can individually identify cells that generate weak self-luminescence. And obtain at high magnification. Here, the optical conditions such as the magnification of the objective lens are determined according to other imaging optical systems (imaging lens, relay lens, etc.) of the microscope 13. At this time, when acquiring the luminescent image 21 and the fluorescence image, a bright field image of the biological sample 12 may be taken together and the bright field image may be stored together.

続いて、数日間観察を続けた後、生体試料12の培養細胞中にコロニー41が形成されたところで、コロニー41をピックアップする作業の手順は次の通りである。   Subsequently, after observing for several days, when the colony 41 is formed in the cultured cells of the biological sample 12, the procedure for picking up the colony 41 is as follows.

細胞(生体試料12)を培養していたシャーレを、第1の顕微鏡13から第2の顕微鏡15に移動する。このとき、過去に第1の顕微鏡13で取得した各種の画像を、第2の顕微鏡15に接続されている第2の制御装置16にコピーしておく(S12)。   The petri dish in which the cells (biological sample 12) have been cultured is moved from the first microscope 13 to the second microscope 15. At this time, various images acquired by the first microscope 13 in the past are copied to the second control device 16 connected to the second microscope 15 (S12).

そして、接眼ユニット42から目視で明視野観察を行なう(S13)。続いて、個々の細胞の全体を観察視野にするために十分な低倍率(例えば0.5〜30倍)総合倍率を得るための対物レンズ(例えば10倍の対物レンズ45)などを用いて、第2のステージ31を移動して生体試料12に焦点を合わせて低倍率の像を得る。   Then, bright field observation is performed visually from the eyepiece unit 42 (S13). Subsequently, using an objective lens (for example, 10-times objective lens 45) for obtaining a total magnification that is low enough (for example, 0.5 to 30 times) sufficient to make the entire individual cell an observation field, The second stage 31 is moved to focus on the biological sample 12 to obtain a low magnification image.

この状態で、第2のCCDカメラ43での観察に切り替えて、明視野像のリアルタイム表示(プレビュー表示、ライブ表示)を開始して、低倍率のライブ画像22の取得を開始する。   In this state, switching to observation with the second CCD camera 43 is started, real-time display (preview display, live display) of the bright field image is started, and acquisition of the low-magnification live image 22 is started.

続いて、重ね合わせ表示を表示する設定にして(S14)、ユーザがライブ画像22に含まれているコロニー41と同じコロニー41を含んだ過去の発光画像21の表示を指示すると、第2の制御装置16が発光画像21を読み出す(S15)。第2の制御装置16では、発光画像21がライブ画像22の一部に重ねて表示され(S16)、この発光画像21は、表示位置をマウス50等を介して手動で変更できるように第2の表示部48に表示される。この時、例えば、明視野のライブ画像22は例えば10倍対物レンズ45を用いて取得されており、それ以前に予め撮影された発光画像21は、20倍対物レンズを用いて撮影されている。このため、発光画像21は、表示されているライブ画像22の倍率に合わせて縮小して表示される。なお、明視野のライブ画像22の倍率を変更した場合は、それに合わせて発光画像21の縮小率も適宜に変更してライブ画像22に重ね合わせて表示される。   Subsequently, when setting is made to display a superimposed display (S14) and the user instructs display of the past light emitting image 21 including the same colony 41 as the colony 41 included in the live image 22, the second control is performed. The device 16 reads the light emission image 21 (S15). In the second control device 16, the luminescent image 21 is displayed so as to overlap a part of the live image 22 (S 16), and the luminescent image 21 is displayed in the second so that the display position can be manually changed via the mouse 50 or the like. Is displayed on the display unit 48. At this time, for example, the bright-field live image 22 is acquired using, for example, a 10 × objective lens 45, and the luminescent image 21 previously captured before that is captured using a 20 × objective lens. For this reason, the luminescent image 21 is reduced and displayed in accordance with the magnification of the displayed live image 22. Note that when the magnification of the bright-field live image 22 is changed, the reduction rate of the light-emitting image 21 is also changed accordingly, and the live image 22 is displayed superimposed on the live image 22.

第1の実施形態では、発光画像21内のコロニー像がライブ画像22中の対応するコロニー像と重なるように、ユーザがマウス50等を利用してマニュアルで発光画像21を移動させ、微調整しつつ発光画像21を配置する(S17)。   In the first embodiment, the user manually moves the luminescent image 21 using the mouse 50 or the like so that the colony image in the luminescent image 21 overlaps the corresponding colony image in the live image 22 and fine-tunes it. Then, the luminescent image 21 is arranged (S17).

こうして図5に示すように明視野のライブ画像22に発光画像21が重ね合わせて表示される。このとき、明視野のライブ画像22に対応する発光画像21がライブ画像上の別々の領域に対応して複数ある場合(例えば、複数の細胞またはコロニーのそれぞれに対応する選択された複数の部分的な発光画像領域)には、図5のように複数の発光画像21をライブ画像上の対応する領域に一致させて同時に重ね合わせて表示してもよい。また、ライブ画像を連続的に表示している間に、時系列な発光画像21を動画表示するようにしてもよい。時系列な発光画像も同時に表示することにより、個々の細胞、細胞内部位、コロニーごとに遺伝子発現等の活性を確認できるようにしてもよい。   In this way, as shown in FIG. 5, the light emission image 21 is superimposed on the bright field live image 22 and displayed. At this time, when there are a plurality of light-emitting images 21 corresponding to the bright-field live image 22 corresponding to different areas on the live image (for example, a plurality of selected partial images corresponding to each of a plurality of cells or colonies). As shown in FIG. 5, a plurality of light-emitting images 21 may be coincident with the corresponding regions on the live image and overlapped and displayed at the same time. In addition, the time-series emission image 21 may be displayed as a moving image while the live image is continuously displayed. By displaying a time-series luminescence image at the same time, the activity such as gene expression may be confirmed for each individual cell, intracellular site, and colony.

このようにすると、分化しているコロニー41が非常にわかりやすくなり、どのコロニー41をピックアップすればよいかがユーザにはっきりと認識される。これによって、所望のコロニー41をピペット・チップなどで効率よくピックアップできる(S18)。   In this way, the differentiated colony 41 becomes very easy to understand, and the user can clearly recognize which colony 41 should be picked up. Thus, the desired colony 41 can be efficiently picked up with a pipette tip (S18).

必要なピックアップ作業が完了したら(S19)、重ね合わせ表示を解除し(S20)、リアルタイム表示を終了する(S21)。   When the necessary pick-up work is completed (S19), the overlay display is canceled (S20), and the real-time display is terminated (S21).

上述した各種制御や表示方法は、第1の制御装置14および第2の制御装置16にインストールされたソフトウェア(コンピュータプログラム)により実現可能である。その処理プログラムはCD―ROM等記録媒体や第1の制御装置14および第2の制御装置16に内蔵されるハードディスク等の記憶装置に記録されている。第1の制御装置14および第2の制御装置16は、必要に応じてメモリ上に前記処理プログラムを読み出し、CPUにより実行し第1の制御装置14および第2の制御装置16の各部、およびこれらに接続された第1の顕微鏡13、第2の顕微鏡15を制御する。   The various controls and display methods described above can be realized by software (computer program) installed in the first control device 14 and the second control device 16. The processing program is recorded in a recording medium such as a CD-ROM or a storage device such as a hard disk built in the first control device 14 and the second control device 16. The first control device 14 and the second control device 16 read the processing program onto the memory as necessary, and are executed by the CPU, and each part of the first control device 14 and the second control device 16, and these The first microscope 13 and the second microscope 15 connected to are controlled.

なお、記録装置は通信回線を介して第1の制御装置14および第2の制御装置16と接続されたプログラムサーバ等のコンピュータであってもよい。この場合には、制御プログラムを表現するデータ信号で搬送波を変調して得られる伝送信号を、プログラムサーバから通信回線を通じて第1の制御装置14および第2の制御装置16へ伝送するとともに、第1の制御装置14および第2の制御装置16で受信した伝送信号を復調して処理プログラムを再生し、この処理プログラムをCPUで実行する。   The recording device may be a computer such as a program server connected to the first control device 14 and the second control device 16 via a communication line. In this case, the transmission signal obtained by modulating the carrier wave with the data signal representing the control program is transmitted from the program server to the first control device 14 and the second control device 16 through the communication line, and the first The controller 14 and the second controller 16 demodulate the transmission signal received to reproduce the processing program, and the CPU executes the processing program.

第1の実施形態によれば、ユーザが手動で効率よく発光画像21をライブ画像22に重ね合わせることができ、分化しているコロニー41を効率よく認識して、ピックアップ作業を円滑化することができる。   According to the first embodiment, the user can manually and efficiently superimpose the luminescent image 21 on the live image 22, and can efficiently recognize the differentiated colony 41 and facilitate the pick-up operation. it can.

続いて、図6等を参照して、顕微鏡システムの第2の実施形態について説明する。第2の実施形態の顕微鏡システム11は、第2の制御装置が画像認識部52、表示切替手段53、および非表示手段54を有している点、および第2の表示部48における表示手法が異なる点で第1の実施形態のものと異なっているが、他の部分は第1の実施形態と共通している。このため、主として異なる部分について説明し、共通する部分については共通の符号を付して説明を省略する。第2の実施形態の顕微鏡システム11は、図1に示すものと同様の外観を有する。   Next, a second embodiment of the microscope system will be described with reference to FIG. In the microscope system 11 of the second embodiment, the second control device has an image recognition unit 52, a display switching unit 53, and a non-display unit 54, and the display method in the second display unit 48 is the same. Although different from that of the first embodiment in different points, other parts are common to the first embodiment. For this reason, mainly different parts will be described, and common parts will be denoted by common reference numerals and description thereof will be omitted. The microscope system 11 of the second embodiment has the same appearance as that shown in FIG.

第2の制御装置16は、一般的なパーソナルコンピュータ(PC)等のコンピュータで構成される。図1、図6に示すように、第2の制御装置16は、液晶ディスプレイ等で構成される第2の表示部48と、内蔵するハードディスク等の記憶装置にインストールされたソフトウェアである画像認識部52、表示切替手段53、および非表示手段54と、入力手段としてのキーボード49およびマウス50など、を有している。   The second control device 16 is configured by a computer such as a general personal computer (PC). As shown in FIGS. 1 and 6, the second control device 16 includes a second display unit 48 configured by a liquid crystal display and the like, and an image recognition unit that is software installed in a storage device such as a built-in hard disk. 52, a display switching means 53, a non-display means 54, and a keyboard 49 and a mouse 50 as input means.

画像認識部52は、過去に第1の顕微鏡13で発光画像21とともに取得した明視野画像と、第2の顕微鏡15で取得される明視野のライブ画像22との間で画像認識を行なうソフトウェアであり、発光画像21がライブ画像22中のどの位置に重なるかについて自動的に判断する。   The image recognition unit 52 is software that performs image recognition between a bright field image acquired together with the light emission image 21 with the first microscope 13 in the past and a bright field live image 22 acquired with the second microscope 15. Yes, it is automatically determined as to which position in the live image 22 the luminescent image 21 overlaps.

画像認識部52は、例えば、次に示すような手順で画像認識を行なう。   For example, the image recognition unit 52 performs image recognition in the following procedure.

第1の顕微鏡13を用いて発光画像21を取得する時に、併せて明視野画像も同時に取得する。このときの経時観察では、通常、発光画像21と明視野画像は、毎回同じ観察条件で画像を取得する。そして、第2の顕微鏡15下でピックアップ作業を行うときに、ピックアップ作業時に表示される明視野のライブ画像22に対して、ユーザがコロニー41を指定する。コロニー41の指定は、様々な方法を用いることができ、例えば、マウス50等で操作されるポインタを用いてライブ画像22中のコロニー41を自由曲線領域などで囲んだりして指定できる。また、該当のコロニー41をマウス50でクリックして、クリックした点を中心としたある一定の輝度値を越えた領域を発光領域として認識して、対象コロニー41を指定してもよい。   When the emission image 21 is acquired using the first microscope 13, a bright field image is also acquired at the same time. In the temporal observation at this time, normally, the luminescent image 21 and the bright field image are acquired under the same observation conditions every time. When the pickup work is performed under the second microscope 15, the user designates the colony 41 with respect to the bright-field live image 22 displayed during the pickup work. Various methods can be used to specify the colony 41. For example, the colony 41 in the live image 22 can be specified by surrounding it with a free curve area using a pointer operated by the mouse 50 or the like. Alternatively, the target colony 41 may be designated by clicking the corresponding colony 41 with the mouse 50 and recognizing an area exceeding a certain luminance value centered on the clicked point as a light emitting area.

対象コロニー41が指示されたところで、画像認識部52は、発光画像21とともに保存された複数の明視野画像の中から、対象コロニー41と一致または最も近いコロニー41を持つ明視野画像を探す。   When the target colony 41 is instructed, the image recognition unit 52 searches for a bright field image having a colony 41 that matches or is closest to the target colony 41 from a plurality of bright field images stored together with the light emitting image 21.

具体的には、対象コロニー41を囲む方形領域を明視野のライブ画像22から切り出して、発光画像21の倍率と同じ倍率まで拡大する。このとき方形領域を予め発光画像21の倍率と同じ倍率になるようにしておいてもよい。画像認識部52は、ライブ画像22の方形領域と、発光画像21と同時に取得した明視野画像と、の間で位置をずらしながら画素値を比較し、画素値の差が最も小さい位置を探しだす。このとき画素値の差は、第2の制御装置16に内蔵されたメモリ等の記憶装置に順次記録しておく。複数の明視野画像に対してそれぞれサーチを行なって、その中から画素値の差が最も小さい位置を含んだ明視野画像を探し出す。   Specifically, a rectangular region surrounding the target colony 41 is cut out from the bright-field live image 22 and enlarged to the same magnification as that of the luminescent image 21. At this time, the square area may be set to have the same magnification as that of the light emitting image 21 in advance. The image recognition unit 52 compares pixel values while shifting the position between the square area of the live image 22 and the bright-field image acquired simultaneously with the light-emitting image 21, and finds the position where the difference in pixel values is the smallest. . At this time, the difference between the pixel values is sequentially recorded in a storage device such as a memory built in the second control device 16. A search is performed for each of a plurality of bright field images, and a bright field image including a position having the smallest difference in pixel values is searched from among the plurality of bright field images.

続いて、その明視野画像と同時に取得している発光画像21を読み出す。明視野画像がライブ画像22とぴったりと重なる位置に、発光画像21を表示してライブ画像22と発光画像21との重ね合わせ表示を行なう。   Subsequently, the emission image 21 acquired simultaneously with the bright field image is read out. The light emission image 21 is displayed at a position where the bright field image exactly overlaps with the live image 22, and the live image 22 and the light emission image 21 are superimposed and displayed.

上記した、第1の顕微鏡13(第1の画像取得手段)により生体試料12の発光画像21を高倍率で取得する機能と、第2の顕微鏡15(第2の画像取得手段)により生体試料12の明視野のライブ画像22を低倍率で取得する機能と、第2の制御装置16(第2の制御手段)によって発光画像21をライブ画像22と同等の倍率になるように縮小し、ライブ画像22の一部に重ね合わせて第2の表示部48(表示手段)上に表示する機能と、第1の顕微鏡13(第1の画像取得手段)により発光画像21とともに生体試料12の明視野画像を高倍率で取得する機能と、画像認識部52によってライブ画像22の一部領域と、明視野画像とが合致するか否かを判断し、これらが合致した位置で発光画像21をライブ画像22に重ね合わせて表示する機能と、は第1の制御装置14および第2の制御装置16にインストールされたソフトウェア(コンピュータプログラム)により実現されている。   The above-described function of acquiring the luminescent image 21 of the biological sample 12 at a high magnification with the first microscope 13 (first image acquisition means) and the biological sample 12 with the second microscope 15 (second image acquisition means). The bright image live image 22 is obtained at a low magnification, and the second control device 16 (second control means) reduces the light-emitting image 21 to the same magnification as the live image 22 to obtain a live image. And a bright field image of the biological sample 12 together with the luminescent image 21 by the first microscope 13 (first image acquisition means). The image recognition unit 52 determines whether or not the partial area of the live image 22 matches the bright field image, and the live image 22 is displayed at the position where these match. Overlaid on the table A function of, is implemented by software installed in the first controller 14 and second controller 16 (computer program).

なお、発光画像21の表示位置はそれぞれ微調整できるようにしておき、少し位置がずれている場合はユーザが位置を補正することができる。ユーザが表示位置を微調整できる設定には様々の方法があり、例えば、発光画像21を選択すると自動的に微調整可能としたり、第2の表示部48の画面上に設けた微調整ボタンを押して微調整可能としたりしてもよい。また、微調整が終わったところで、発光画像21の選択を非選択状態にしたり、第2の表示部48の画面上に設けた位置確定ボタンを押して表示位置を確定させてもよい。これによって発光画像21の表示位置を変更できない状態になる。   The display position of the light emission image 21 can be finely adjusted. If the position is slightly shifted, the user can correct the position. There are various methods for setting the user to finely adjust the display position. For example, when the light emission image 21 is selected, the fine adjustment can be automatically performed, or a fine adjustment button provided on the screen of the second display unit 48 is provided. It may be finely adjusted by pressing. Further, when the fine adjustment is completed, the selection of the light emitting image 21 may be made unselected or the display position may be confirmed by pressing a position confirmation button provided on the screen of the second display unit 48. As a result, the display position of the luminescent image 21 cannot be changed.

また、本実施形態では、画素値の差を利用して発光画像21の重ね合わせ位置を検索しているが、この限りではなく、一般的な各種の画像認識方法を用いてもよい。さらに、本実施形態では、発光画像21を取得するのと同時に明視野画像を取得してこれを画像認識部52で利用しているが、発光画像21を用いて画像認識を充分できる場合には、発光画像21を直接画像認識に利用してもよい。   In the present embodiment, the overlapping position of the light emission image 21 is searched using the difference in pixel value. However, the present invention is not limited to this, and various general image recognition methods may be used. Further, in the present embodiment, a bright field image is acquired at the same time as the emission image 21 is acquired and is used by the image recognition unit 52. However, when the image recognition can be sufficiently performed using the emission image 21. The light emission image 21 may be directly used for image recognition.

また、発光画像21を探す際に、複数の発光画像21の中から対象コロニー41を含む画像を探すには第2の制御装置16の仕様によっては時間がかかる場合がある。このため、予めどの発光画像21に対象コロニー41が含まれているかわかる場合には、その発光画像21を指定して、その画像の中から対象コロニーの位置を画像認識で探し、ライブ画像22に発光画像21を重ね合わせて表示してもよい。   Further, when searching for the luminescent image 21, it may take time to search for an image including the target colony 41 from the plurality of luminescent images 21 depending on the specifications of the second control device 16. Thus, if you know it contains the target colony 41 on which the light-emitting image 21 in advance, and specify the luminous image 21, the position of the target colonies from the image looking at the image recognition, the live image 22 The luminescent image 21 may be displayed superimposed.

さらに、本実施形態では、明視野のライブ画像22中のコロニー41を指定して、これに合致する発光画像21を読み出すようにしているが、これとは逆のやり方でもよい。すなわち、ユーザは、重ね合わせ表示を行ないたい発光画像21を予め指定する。画像認識部52は、発光画像21と同時に取得した明視野画像の画素値と、ライブ画像22の画素値とを比較し、画素値の差が最も小さい位置を探しだす。重ね合わせが可能な領域がライブ画像中に存在している場合には、その該当する領域に重ねて発光画像21を表示する。   Further, in the present embodiment, the colony 41 in the bright-field live image 22 is designated and the light-emitting image 21 that matches the colony 41 is read out, but the opposite method may be used. That is, the user designates in advance the light-emitting image 21 that is desired to be overlaid. The image recognition unit 52 compares the pixel value of the bright field image acquired simultaneously with the light emission image 21 with the pixel value of the live image 22 and finds the position where the difference in pixel value is the smallest. When a region where superimposition is possible exists in the live image, the luminescent image 21 is displayed so as to overlap the corresponding region.

続いて、表示切替手段53を用いた発光画像21の表示切替について説明する。表示切替手段53は様々な態様が考えられるが、本実施形態では、ライブ画像22および発光画像21に画像処理を加えるソフトウェア(プログラム)の一部として構成されている。表示切替手段53を作動させるためのスイッチとして、第2の表示部48上にアイコン(ボタン)が設けられており、発光画像21の表示・非表示を切り換えることができる。すなわち、本実施形態では、表示切替手段53を作動するためのボタンを押下した状態で、発光画像21がライブ画像22に重ね合わせて表示され、表示切替手段53のボタンを押下していない状態では、発光画像21を非表示とする。   Subsequently, display switching of the luminescent image 21 using the display switching unit 53 will be described. Although various modes can be considered for the display switching unit 53, in this embodiment, the display switching unit 53 is configured as a part of software (program) that performs image processing on the live image 22 and the light-emitting image 21. As a switch for operating the display switching means 53, an icon (button) is provided on the second display section 48, and the display / non-display of the luminescent image 21 can be switched. That is, in the present embodiment, the light emission image 21 is displayed superimposed on the live image 22 while the button for operating the display switching unit 53 is pressed, and the button of the display switching unit 53 is not pressed. The luminescent image 21 is not displayed.

この表示切替手段53は、例えば次のように使用することができる。表示切替手段53のボタンを押下状態にして、発光画像21とライブ画像22とを重ね合わせ表示した状態で、生体試料12中のどのコロニー41をピックアップすればよいか目星をつける。そして、今度は、表示切替手段53のボタンを非押下状態にして発光画像21を非表示にする。これによって、明視野のライブ画像22のみを第2の表示部48に表示する。これによって、発光画像21がかえって作業の邪魔になることがなく、ピックアップ作業を効率的に行うことができる。   This display switching means 53 can be used as follows, for example. With the button of the display switching means 53 being pressed, the colony 41 in the biological sample 12 should be picked up with the luminescent image 21 and the live image 22 superimposed and displayed. Then, this time, the button of the display switching means 53 is not pressed and the light emitting image 21 is not displayed. As a result, only the bright-field live image 22 is displayed on the second display unit 48. As a result, the light emission image 21 does not interfere with the operation, and the pickup operation can be performed efficiently.

このように、表示切替手段53によりライブ画像22に重ねて表示された発光画像21の表示、非表示を切り換える機能は、第2の制御装置16にインストールされたソフトウェア(コンピュータプログラム)により実現されている。   As described above, the function of switching between display and non-display of the luminescent image 21 displayed on the live image 22 by the display switching unit 53 is realized by software (computer program) installed in the second control device 16. Yes.

つづいて、非表示手段54について説明する。本実施形態において、非表示手段54は、ライブ画像22および発光画像21に画像処理を加えるソフトウェア(プログラム)の一部として構成されている。非表示手段54は、一定の時間間隔でライブ画像22を取得しておき、1つのライブ画像22の輝度値(画素値)と、一定時間経過後のライブ画像22の輝度値(画素値)とを比較する。そして、非表示手段54は、輝度値(画素値)が大きく減少した領域について、コロニー41がなくなってピックアップ作業が終了したと判断する。非表示手段54は、この領域に対応する発光画像21の一部の領域について画素値をすべてゼロにして、この一部の領域の重ね合わせ表示を解除する。   Next, the non-display unit 54 will be described. In the present embodiment, the non-display means 54 is configured as a part of software (program) that performs image processing on the live image 22 and the light-emitting image 21. The non-display means 54 acquires the live image 22 at a constant time interval, and the brightness value (pixel value) of one live image 22 and the brightness value (pixel value) of the live image 22 after a lapse of a fixed time. Compare Then, the non-display unit 54 determines that the pick-up operation has been completed because the colony 41 has disappeared in the region where the luminance value (pixel value) has greatly decreased. The non-display means 54 sets all the pixel values to zero for a partial area of the luminescent image 21 corresponding to this area, and cancels the overlapping display of this partial area.

このように、一定時間内にライブ画像22の一部の領域の画素値に変化があった場合に、非表示手段54によりライブ画像22の一部の領域に対応する発光画像21の一部の領域の画素値をゼロにする機能は、第2の制御装置16にインストールされたソフトウェア(コンピュータプログラム)により実現されている。   Thus, when there is a change in the pixel value of a partial area of the live image 22 within a certain time, a part of the light emitting image 21 corresponding to the partial area of the live image 22 is displayed by the non-display unit 54. The function of setting the pixel value of the region to zero is realized by software (computer program) installed in the second control device 16.

なお、本実施形態では、輝度値(画素値)の変化に基づいて、自動的に非表示手段54を作動させるようにしているがこれに限定されるものではない。非表示手段54は、次に述べるように、ピックアップ作業の終了後に、手動で作動させるようにしてもよい。   In the present embodiment, the non-display unit 54 is automatically operated based on a change in luminance value (pixel value), but the present invention is not limited to this. The non-display means 54 may be manually operated after the pickup operation is completed as described below.

すなわち、ユーザは、発光画像21上で、該当するコロニー41を第2の制御装置16のマウス38等を用いて自由曲線領域で囲むことで非表示にするコロニー41を指定できる。また、ユーザは、同様に、該当箇所をマウス38でクリックしてその点を中心とした一定の輝度値を越える領域をコロニー41として認識して、非表示にするコロニー41を指示することもできる。そして、指示部分の作業が終わったことを示す操作(例えば、第2の表示部48上に設けられたピックアップ済みボタン等を押すなど)をすると、発光画像21の該当領域の画素値をすべてゼロにして、指示された一部の領域の重ね合わせ表示を解除する。   That is, the user can designate a colony 41 to be hidden on the luminescent image 21 by surrounding the corresponding colony 41 with a free curve area using the mouse 38 of the second control device 16 or the like. Similarly, the user can also click on the corresponding position with the mouse 38 to recognize the area exceeding a certain luminance value centered on that point as the colony 41 and indicate the colony 41 to be hidden. . Then, when an operation indicating that the work of the instruction portion is finished (for example, pressing a picked up button or the like provided on the second display unit 48), all the pixel values in the corresponding area of the light emitting image 21 are set to zero. Thus, the overlapped display of the specified partial area is canceled.

また、第2の実施形態では、図7に示すように、第2の表示部48のうち、ライブ画像22の表示箇所に隣接した箇所に、ライブ画像22と発光画像21とを重ね合わせ表示したものを拡大した拡大画像55を表示するようにしている。この拡大画像55は、重ね合わせ表示をしている箇所を、例えば、発光画像21を取得した際の倍率で表示している。また、明視野のライブ画像22中に複数の発光画像21が含まれる場合には、そのうちの一つを選択して拡大画像55として表示することができる。   Further, in the second embodiment, as shown in FIG. 7, the live image 22 and the light emitting image 21 are superimposed and displayed at a location adjacent to the display location of the live image 22 in the second display unit 48. An enlarged image 55 obtained by enlarging the object is displayed. The enlarged image 55 displays a portion where the superimposed display is performed, for example, at a magnification when the light-emitting image 21 is acquired. When a plurality of light-emitting images 21 are included in the bright-field live image 22, one of them can be selected and displayed as the enlarged image 55.

図7に示す場合では、ライブ画像22中の左下の発光画像21を選択した場合には、発光画像21を取得した際の解像度で発光画像21を表示する。また、発光画像21の倍率と同じ倍率にライブ画像22を拡大して、発光画像21に重ね合わせてライブ画像22を表示して、拡大画像55を表示する。また、図8に示すように、拡大画像55の対象領域を指定する場合には、発光画像21の有無にかかわらず指定された領域を拡大画像55としてライブ画像22の表示箇所に隣接して表示することもできる。   In the case illustrated in FIG. 7, when the lower left emission image 21 in the live image 22 is selected, the emission image 21 is displayed at the resolution at which the emission image 21 was acquired. In addition, the live image 22 is enlarged to the same magnification as that of the luminescent image 21, and the live image 22 is displayed so as to be superimposed on the luminescent image 21, and the enlarged image 55 is displayed. Further, as shown in FIG. 8, when the target area of the enlarged image 55 is designated, the designated area is displayed as the enlarged image 55 adjacent to the display location of the live image 22 regardless of the presence or absence of the light emitting image 21. You can also

このような、第2の制御装置16(第2の制御手段)により第2の表示部48のうち、ライブ画像22が表示される箇所に隣接した位置に、ライブ画像22およびライブ画像22に重ねられた発光画像21を拡大した拡大画像55を表示する機能は、第2の制御装置16にインストールされたソフトウェア(コンピュータプログラム)により実現されている。   The live image 22 and the live image 22 are overlapped at a position adjacent to the location where the live image 22 is displayed in the second display unit 48 by the second control device 16 (second control means). The function of displaying the enlarged image 55 obtained by enlarging the emitted light image 21 is realized by software (computer program) installed in the second control device 16.

第2の実施形態の顕微鏡システム11によれば、画像認識部52によってライブ画像22と発光画像21とが合致する位置を自動で簡単に認識できるため、ユーザの負担を軽減して、ピックアップ作業を円滑に行うことができる。   According to the microscope system 11 of the second embodiment, the image recognition unit 52 can automatically and easily recognize the position where the live image 22 and the luminescent image 21 match. It can be done smoothly.

また、第2の表示部48のうち、ライブ画像22が表示される箇所に隣接した位置に、ライブ画像22およびライブ画像22に重ねられた発光画像21を拡大した拡大画像55を表示することができるため、発光画像21を縮小して表示することで見にくくなってしまう際に、重ね合わせ部分を見易くすることができる。   Further, in the second display unit 48, the enlarged image 55 obtained by enlarging the live image 22 and the light emitting image 21 superimposed on the live image 22 may be displayed at a position adjacent to the location where the live image 22 is displayed. Therefore, when the light emitting image 21 is reduced and displayed, it becomes difficult to see, so that the overlapped portion can be easily seen.

さらに、表示切替手段53、非表示手段54を有しているため、ピックアップ作業時に発光画像21がかえって邪魔になる場合等に、発光画像21を表示しないようにすることができ、ピックアップ作業時に第2の表示部48の表示を柔軟に切り換えることができる。   Further, since the display switching means 53 and the non-display means 54 are provided, the luminescent image 21 can be prevented from being displayed when the luminescent image 21 is disturbed during the pickup operation. The display on the second display unit 48 can be flexibly switched.

続いて、図9、図10等を参照して、顕微鏡システムの第3の実施形態について説明する。第3の実施形態の顕微鏡システム11は、第1の顕微鏡の第1のステージ28と第2の顕微鏡の第2のステージ31とがそれぞれ電動ステージで構成される点、および発光画像21の重ね合わせ表示に発光画像21の絶対位置情報を用いる点、で第1の実施形態および第2の実施形態のものと異なっているが、他の部分は第1の実施形態および第2の実施形態と共通している。このため、主として異なる部分について説明し、共通する部分については共通の符号を付して説明を省略する。第3の実施形態の顕微鏡システム11は、図1に示すものと同様の外観を有する。   Subsequently, a third embodiment of the microscope system will be described with reference to FIGS. In the microscope system 11 of the third embodiment, the first stage 28 of the first microscope and the second stage 31 of the second microscope are each configured by an electric stage, and the light emission image 21 is superimposed. Although it differs from that of the first embodiment and the second embodiment in that the absolute position information of the luminescent image 21 is used for display, the other parts are common to the first embodiment and the second embodiment. doing. For this reason, mainly different parts will be described, and common parts will be denoted by common reference numerals and description thereof will be omitted. The microscope system 11 of the third embodiment has the same appearance as that shown in FIG.

第2の実施形態では、画像認識部52は、発光画像21と一緒に取得した明視野画像を利用して発光画像21の位置合わせに利用しているが、第3の実施形態では、発光画像21とともに発光画像21の絶対位置情報を利用して発光画像21の位置合わせを行なう。   In the second embodiment, the image recognition unit 52 uses the bright field image acquired together with the luminescent image 21 to be used for alignment of the luminescent image 21, but in the third embodiment, the luminescent image. The light emission image 21 is aligned using the absolute position information of the light emission image 21 together with the light emission image 21.

本実施形態では、第1の顕微鏡の第1のステージ28と、第2の顕微鏡の第2のステージ31とは、それぞれ電動ステージで構成される。第1の顕微鏡の第1のステージ28は、第1の制御装置14からの制御で光軸に垂直な平面方向(X軸方向、Y軸方向)と、光軸に沿った方向(Z軸方向)とにそれぞれ移動することができる。同様に、第2の顕微鏡の第2のステージ31は、第2の制御装置16からの制御で光軸に垂直な平面方向(X軸方向、Y軸方向)と、光軸に沿った方向(Z軸方向)とにそれぞれ移動することができる。   In the present embodiment, the first stage 28 of the first microscope and the second stage 31 of the second microscope are each constituted by an electric stage. The first stage 28 of the first microscope is controlled by the first control device 14 in a plane direction perpendicular to the optical axis (X-axis direction, Y-axis direction) and a direction along the optical axis (Z-axis direction). ) And can be moved respectively. Similarly, the second stage 31 of the second microscope is controlled by the second control device 16 in a plane direction (X-axis direction and Y-axis direction) perpendicular to the optical axis and a direction along the optical axis ( In the Z-axis direction).

第1の制御装置14は、発光画像21を取得する際に、発光画像21取得時の第1のステージ28の位置を発光画像21と関連付けて記憶する。より具体的には、第1の制御装置14は、発光画像21を撮影した際の、第1のステージ28の少なくともX座標、Y座標を記憶し、より好ましくはX座標、Y座標、Z座標のすべてを記憶する。   When acquiring the luminescent image 21, the first control device 14 stores the position of the first stage 28 at the time of acquiring the luminescent image 21 in association with the luminescent image 21. More specifically, the first control device 14 stores at least the X coordinate and the Y coordinate of the first stage 28 when the emission image 21 is captured, and more preferably the X coordinate, the Y coordinate, and the Z coordinate. Remember everything.

本実施形態の発光画像21とライブ画像22の重ね合わせ表示の方法について説明する。   A method for overlay display of the luminescent image 21 and the live image 22 according to the present embodiment will be described.

第1の実施形態と同様に第1の顕微鏡13を用いて数日間の観察を続ける。このとき発光画像21を保存する際に、発光画像21に関連付けて第1のステージ28の絶対位置情報も記録する。このとき発光画像21の他に明視野画像や蛍光画像も保存しておいてもよい。複数個所で発光画像21を取得する場合には、各発光画像21に関連付けて第1のステージ28の位置情報をそれぞれ記憶する。   The observation for several days is continued using the first microscope 13 as in the first embodiment. At this time, when the luminescent image 21 is stored, the absolute position information of the first stage 28 is also recorded in association with the luminescent image 21. At this time, a bright-field image and a fluorescent image may be stored in addition to the light-emitting image 21. When acquiring the light emission images 21 at a plurality of locations, the positional information of the first stage 28 is stored in association with each light emission image 21.

続いて数日後にピックアップ作業をする際には、まず初めに複数の発光画像21と、それと関連付けて保存された絶対位置情報と、を第1の制御装置14から第2の制御装置16にコピーする。   Subsequently, when picking up a few days later, first, the plurality of light-emitting images 21 and the absolute position information stored in association therewith are copied from the first controller 14 to the second controller 16. To do.

第2の顕微鏡15で、生体試料12を第2のステージ31の同じ位置に設置後、第2のCCDカメラ43でのリアルタイム表示(ライブ表示)を開始した後、発光画像21の重ね合わせ表示を行なう設定にする。第2のステージ31の絶対位置情報に従って自動的に発光画像21が読み出される。明視野像のライブ画像22上に発光画像21を縮小して表示され、重ね合わせ表示がなされる。1つのライブ画像22中に複数の発光画像21が含まれる場合は、すべての発光画像21を第2のステージ31の絶対位置情報に従って表示する。   After the biological sample 12 is placed at the same position on the second stage 31 with the second microscope 15, real-time display (live display) is started with the second CCD camera 43, and then the luminescent image 21 is superimposed and displayed. Set to be performed. The light emission image 21 is automatically read according to the absolute position information of the second stage 31. The light-emitting image 21 is reduced and displayed on the live-field image 22 of the bright field image, and is superimposed and displayed. When a plurality of light emission images 21 are included in one live image 22, all the light emission images 21 are displayed according to the absolute position information of the second stage 31.

このとき、第1の顕微鏡13と第2の顕微鏡15でステージの型式が同一である場合には、ステージの位置座標は同じであるため、発光画像21の表示位置は第1の顕微鏡13で記録した位置情報をそのまま使用する。ステージの型式が違う場合には、座標が一致していないため、ステージ間の位置情報の変換を行った後に、発光画像21を明視野のライブ画像22中に重ね合わせて表示する。   At this time, when the stage types of the first microscope 13 and the second microscope 15 are the same, the position coordinates of the stage are the same. Therefore, the display position of the luminescent image 21 is recorded by the first microscope 13. The position information is used as it is. If the stage types are different, the coordinates do not match, so that the position information between the stages is converted, and then the luminescent image 21 is displayed superimposed on the bright field live image 22.

また、重ね合わせ後の発光画像21の表示位置をユーザが微調整できるのは第1、第2の実施形態と同様である。また、ライブ画像22の表示箇所に隣接した箇所に、ライブ画像22と発光画像21とを重ね合わせ表示したものを拡大した拡大画像55を表示することは第2の実施形態と同様である。また、表示切替手段53、非表示手段54を備えていることも、第2の実施形態と同様である。   Further, as in the first and second embodiments, the user can finely adjust the display position of the light-emitting image 21 after superposition. Further, the enlarged image 55 obtained by enlarging the live image 22 and the light emitting image 21 superimposed and displayed at a location adjacent to the display location of the live image 22 is the same as in the second embodiment. Further, the display switching means 53 and the non-display means 54 are also provided as in the second embodiment.

続いて、第2のステージ31を動かしてピックアップ対象を探す。第2のステージ31の位置を操作して生体試料12を移動させると、第2のステージ31の位置に合わせてライブ画像22も更新される。その際、例えば、図9に示す位置から図10に示す位置にライブ画像22が移動されると、これに重ね合わされた発光画像21も一緒に移動する。このとき、第2の制御装置16は、第2のステージ31の位置情報を常に取得しておき、移動後の位置情報に合わせて、発光画像21の表示位置を更新する。さらに、移動後のライブ画像22内に、過去に撮影した別の発光画像21が含まれる場合は、自動的に対応する発光画像21が読み出されてライブ画像22中に重ねて表示される。逆に移動後のライブ画像22内から発光画像21が含まれなくなった場合は、その発光画像21は表示しない。なお、移動前後で発光画像21の一部のみがライブ画像22内に含まれるときは、発光画像21の一部のみをライブ画像22に重ね合わせて表示する。   Subsequently, the second stage 31 is moved to search for a pickup target. When the biological sample 12 is moved by operating the position of the second stage 31, the live image 22 is also updated according to the position of the second stage 31. At this time, for example, when the live image 22 is moved from the position shown in FIG. 9 to the position shown in FIG. 10, the light-emitting image 21 superimposed thereon is also moved together. At this time, the second control device 16 always acquires the position information of the second stage 31 and updates the display position of the light emission image 21 in accordance with the position information after the movement. Further, if another live light image 21 taken in the past is included in the moved live image 22, the corresponding light image 21 is automatically read out and displayed superimposed on the live image 22. On the contrary, when the light emission image 21 is not included in the live image 22 after the movement, the light emission image 21 is not displayed. When only a part of the luminescent image 21 is included in the live image 22 before and after the movement, only a part of the luminescent image 21 is superimposed on the live image 22 and displayed.

このように、第1の制御装置14(第1の制御手段)により発光画像21とともに発光画像21を取得した位置を記憶させる機能と、第2の制御装置16(第2の制御手段)により発光画像21を取得した位置に基づいて発光画像21をライブ画像22の一部に重ね合わせて表示する機能と、第2の制御装置16(第2の制御手段)により第2の表示部48に表示されたライブ画像22を移動させる際に、ライブ画像22に重ね合わされた発光画像21も一緒に移動させる機能と、は第1の制御装置14および第2の制御装置16にインストールされたソフトウェア(コンピュータプログラム)により実現されている。   As described above, the function of storing the position at which the light emission image 21 is acquired together with the light emission image 21 by the first control device 14 (first control means) and the light emission by the second control device 16 (second control means). Based on the position where the image 21 is acquired, a function for displaying the luminescent image 21 superimposed on a part of the live image 22 and displaying it on the second display unit 48 by the second control device 16 (second control means). When the live image 22 is moved, the function of moving the luminescent image 21 superimposed on the live image 22 together with the software (computer) installed in the first control device 14 and the second control device 16 Program).

なお、本実施形態では、第1のステージ28および第2のステージ31を電動のものとしているが、電動のステージでなく、手動のステージであっても、第1のステージ28および第2のステージ31の位置を把握する手段、例えば位置センサを付加することによって同様のことを実現できる。   In the present embodiment, the first stage 28 and the second stage 31 are electric. However, the first stage 28 and the second stage may be a manual stage instead of the electric stage. The same thing can be realized by adding a means for grasping the position of 31, for example, a position sensor.

続いて、図11等を参照して、顕微鏡システムの第4の実施形態について説明する。第4の実施形態の顕微鏡システム11は、発光画像21の相対位置情報を用いて重ね合わせ表示をする点、で第1から第3の実施形態のものと異なっているが、他の部分は第1から第3の実施形態と共通している。このため、主として異なる部分について説明し、共通する部分については共通の符号を付して説明を省略する。第4の実施形態の顕微鏡システム11は、図1に示すものと同様の外観を有する。   Next, a fourth embodiment of the microscope system will be described with reference to FIG. The microscope system 11 of the fourth embodiment differs from that of the first to third embodiments in that the display is superimposed using the relative position information of the luminescent image 21, but the other parts are the first. This is common to the first to third embodiments. For this reason, mainly different parts will be described, and common parts will be denoted by common reference numerals and description thereof will be omitted. The microscope system 11 of the fourth embodiment has the same appearance as that shown in FIG.

本実施形態では、図11に示すように、生体試料12に観察位置の基準となる基準位置としては、例えば、シャーレ61の底やまたは縁の部分にマーク62を付けておく。他にも基準位置を決める方法は、様々なやり方があり、細胞に影響がない蛍光を発する蛍光ビーズを生体試料中に埋め込んでおいてもよい。   In the present embodiment, as shown in FIG. 11, for example, a mark 62 is attached to the bottom or edge of the petri dish 61 as a reference position that serves as a reference for the observation position of the biological sample 12. There are various other methods for determining the reference position, and fluorescent beads that emit fluorescence without affecting cells may be embedded in the biological sample.

第1の顕微鏡13で発光画像21を取得するときに、まず基準位置を記録する。これは基準位置を含む明視野画像を取得して第1の制御装置14に記憶してもよいし、基準位置の座標のみを別で第1の制御装置14に記憶しておいてもよい。続いて通常通り生体試料12の発光画像21を取得する。発光画像21と関連付けて記憶される位置情報は、基準位置を基準にした相対的なもの(相対位置情報)である。   When acquiring the luminescent image 21 with the first microscope 13, the reference position is first recorded. In this case, a bright field image including the reference position may be acquired and stored in the first control device 14, or only the coordinates of the reference position may be stored separately in the first control device 14. Subsequently, the luminescence image 21 of the biological sample 12 is acquired as usual. The position information stored in association with the luminescent image 21 is relative (relative position information) with reference to the reference position.

数日後、コロニー41をピックアップする際は、まず初めに複数の発光画像21と、これに関連付けて記憶された相対位置情報と、を第1の制御装置14から第2の制御装置16にコピーする。さらに、第1の制御装置14に記憶された基準位置の情報もコピーする。   A few days later, when picking up the colony 41, first, the plurality of luminescent images 21 and the relative position information stored in association with them are copied from the first control device 14 to the second control device 16. . Further, the reference position information stored in the first control device 14 is also copied.

続いて、第2の顕微鏡15で、生体試料12を第2のステージ31の同じ位置に設置した後、第2のCCDカメラ43でのライブ画像22の取得(リアルタイム表示)を開始した後、まず第1の顕微鏡13で取得した基準位置を読み出す。次に、発光画像21の重ね合わせ表示を実行する設定にすると、第2の制御装置16は、現在のステージ位置から、現在の第2の表示部48に表示されているライブ画像22の基準位置に対する相対位置を算出する。第2の制御装置16は、計算された相対位置情報が含まれる発光画像21を自動的に読み出して、ライブ画像22中に発光画像21を重ねて表示する。   Subsequently, after placing the biological sample 12 at the same position on the second stage 31 with the second microscope 15, after starting the acquisition (real-time display) of the live image 22 with the second CCD camera 43, The reference position acquired by the first microscope 13 is read out. Next, when setting to execute the superimposed display of the luminescent image 21, the second control device 16 starts the current position of the live image 22 displayed on the second display unit 48 from the current stage position. The relative position with respect to is calculated. The second control device 16 automatically reads the light emission image 21 including the calculated relative position information, and displays the light emission image 21 so as to overlap the live image 22.

なお、第1の顕微鏡13で取得した基準位置を含んだ明視野画像と、基準位置を含んだライブ画像22との位置合わせは、第1の実施形態で説明したようにユーザが手動で行なうようにしてもよい。   The bright field image including the reference position acquired by the first microscope 13 and the live image 22 including the reference position are manually aligned by the user as described in the first embodiment. It may be.

また、重ね合わせ後の発光画像21の表示位置をユーザが微調整できるのは第1、第2の実施形態と同様である。また、第4の実施形態でも第2の実施形態と同様に、第2の表示部48のうち、ライブ画像22の表示箇所に隣接した箇所に、ライブ画像22と発光画像21とを重ね合わせ表示したものを拡大した拡大画像55が表示される。また、表示切替手段53、非表示手段54を備えていることも、第2の実施形態と同様である。   Further, as in the first and second embodiments, the user can finely adjust the display position of the light-emitting image 21 after superposition. Also in the fourth embodiment, as in the second embodiment, the live image 22 and the light-emitting image 21 are superimposed and displayed at a location adjacent to the display location of the live image 22 in the second display unit 48. An enlarged image 55 obtained by enlarging the image is displayed. Further, the display switching means 53 and the non-display means 54 are also provided as in the second embodiment.

以上、第4の実施形態のように、相対位置情報を用いて発光画像21をライブ画像22に重ね合わせ表示しても構わない。   As described above, as in the fourth embodiment, the luminescent image 21 may be displayed superimposed on the live image 22 using the relative position information.

第1から第4の実施形態に記載した顕微鏡システム11は、発明の要旨を逸脱しない範囲で種々変形して実施することができる。例えば、第1から第3の実施形態では、第2の制御装置16の第2の表示部48に発光画像21およびライブ画像22を表示するようにしているが、接眼ユニット42の位置にEVF(Electrical View Finder)を設けて、接眼ユニット42上で明視野像に対して発光画像21を重ねて表示してもよい。また、第1から第3の実施形態に記載した顕微鏡システム11では、第1の顕微鏡13と第2の顕微鏡15とが物理的に離れた箇所に設置されることを想定して、第1の制御装置14と第2の制御装置16とを別々に構成しているが、これに限定されるものではない。第1の制御装置14と第2の制御装置16とを1つの制御手段(コンピュータ)によって実現してももちろん良い。また、同様に、第1の表示部36と第2の表示部48を何れか1つの表示部だけで表示するようにしたり、相互に表示させるようにしてもよい。さらに、第1の顕微鏡13と第2の顕微鏡15を具備する顕微鏡システムとして、両方の顕微鏡に必要な光学系の少なくとも一部を共通化して一体化した顕微鏡光学系でもって実現するようにしてもよい。   The microscope system 11 described in the first to fourth embodiments can be implemented with various modifications without departing from the gist of the invention. For example, in the first to third embodiments, the light emission image 21 and the live image 22 are displayed on the second display unit 48 of the second control device 16, but the EVF ( An electrical view finder) may be provided to display the light emission image 21 on the eyepiece unit 42 so as to overlap the bright field image. Further, in the microscope system 11 described in the first to third embodiments, the first microscope 13 and the second microscope 15 are assumed to be installed at locations physically separated from each other. Although the control apparatus 14 and the 2nd control apparatus 16 are comprised separately, it is not limited to this. Of course, the first control device 14 and the second control device 16 may be realized by one control means (computer). Similarly, the first display unit 36 and the second display unit 48 may be displayed on any one display unit or may be displayed on each other. Further, the microscope system including the first microscope 13 and the second microscope 15 may be realized with a microscope optical system in which at least a part of the optical systems necessary for both microscopes is shared and integrated. Good.

また、第1から第3の実施形態では、第1の顕微鏡13は、発光顕微鏡で構成されているが、蛍光顕微鏡であってもよい。また、第2の顕微鏡15は、正立型顕微鏡で構成されているが、倒立型顕微鏡や蛍光顕微鏡など各種の顕微鏡であってもよい。また、上述した例ではピックアップ作業に関する説明を行ったが、容器等において所望の細胞や細胞内部位を分離する等の他の作業を含む各種細胞操作にも適用できる。また、第1の顕微鏡13には、生体試料としての細胞や組織等を生きた状態に保つためのインキュベータ27を設けており胚、微生物、バクテリア等の培養可能な微小生物にも適用できる構成を有しているが、かかるインキュベータを第2の顕微鏡15に設けてもよい。また、小動物(マウス、ウサギ等)のような生物個体を第1の顕微鏡13および第2の顕微鏡15で観察する場合には、インキュベータ27は不要である。
以下に、本願出願の当初の特許請求の範囲に記載された発明を付記する。
[1]
生体試料の微弱光画像を取得可能な第1の顕微鏡と、
前記第1の顕微鏡に接続されるとともに、前記微弱光画像を記憶する第1の制御装置と、
前記生体試料の明視野のライブ画像を前記微弱光画像と異なる倍率で取得可能な第2の顕微鏡と、
前記第2の顕微鏡に接続されるとともに、前記微弱光画像を前記明視野のライブ画像と同等の倍率になるようにして、前記明視野のライブ画像の一部に重ね合わせて表示できる表示部を有した第2の制御装置と、
を具備することを特徴とする顕微鏡システム。
[2]
前記第1の顕微鏡は、前記微弱光画像とともに前記生体試料の明視野画像を高倍率で取得可能であり、
前記第2の制御装置は、前記ライブ画像の一部領域と、前記明視野画像とが合致するか否かを判断できる画像認識部を有するとともに、これらが合致した位置で前記微弱光画像を前記ライブ画像に重ね合わせて表示することを特徴とする[1]に記載の顕微鏡システム。
[3]
前記第1の制御装置は、前記微弱光画像の絶対位置情報を前記微弱光画像とともに記憶し、
前記第2の制御装置は、前記絶対位置情報に基づいて前記微弱光画像を前記ライブ画像の一部に重ね合わせて表示することを特徴とする[1]に記載の顕微鏡システム。
[4]
前記第2の制御装置は、前記表示部に表示された前記ライブ画像を移動させる際に、前記ライブ画像に重ね合わされた前記微弱光画像も一緒に移動させることを特徴とする[3]に記載の顕微鏡システム。
[5]
前記生体試料には、前記微弱光画像と前記ライブ画像との重ね合わせ表示に利用される基準点が設けられており、
前記第1の制御装置は、前記基準点に対する前記微弱光画像の相対位置情報を前記微弱光画像とともに記憶し、
前記第2の制御装置は、前記相対位置情報に基づいて前記微弱光画像を前記ライブ画像の一部に重ね合わせて表示することを特徴とする[1]に記載の顕微鏡システム。
[6]
前記第2の制御装置は、前記表示部のうち、前記ライブ画像が表示される箇所に隣接した位置に、前記ライブ画像および前記ライブ画像に重ねられた前記微弱光画像を拡大した拡大画像を表示することを特徴とする[1]ないし[5]のいずれか1項に記載の顕微鏡システム。
[7]
前記第2の制御装置は、表示切替手段を有し、この表示切替手段は、前記ライブ画像に重ねて表示された前記微弱光画像の表示、非表示を切り換えることができることを特徴とする[1]ないし[5]のいずれか1項に記載の顕微鏡システム。
[8]
前記第2の制御装置は、前記微弱光画像を非表示にする非表示手段を有し、
前記非表示手段は、一定時間内に前記ライブ画像の一部の領域の画素値が変化した場合に、前記ライブ画像の一部の領域に対応する前記微弱光画像の一部の領域の画素値をゼロにすることを特徴とする[1]ないし[5]のいずれか1項に記載の顕微鏡システム。
[9]
予め第1の画像取得手段で生体試料の微弱光画像を取得し、
第2の画像取得手段で生体試料の明視野のライブ画像を前記微弱光画像と異なる倍率で取得し、
制御手段によって前記微弱光画像を前記ライブ画像と同等の倍率になるようにするとともに、前記ライブ画像の一部に重ね合わせて表示手段上に表示することを特徴とする観察画像の表示方法。
[10]
前記第1の画像取得手段は、前記微弱光画像とともに前記生体試料の明視野画像を高倍率で取得し、
画像認識手段によって前記ライブ画像の一部領域と、前記明視野画像とが合致するか否かを判断し、これらが合致した位置で前記微弱光画像を前記ライブ画像に重ね合わせて表示することを特徴とする[9]に記載の観察画像の表示方法。
[11]
前記制御手段は、前記微弱光画像とともに前記微弱光画像を取得した位置を記憶するとともに、前記微弱光画像を取得した位置に基づいて前記微弱光画像を前記ライブ画像の一部に重ね合わせて表示することを特徴とする[9]に記載の観察画像の表示方法。
[12]
前記制御手段は、前記表示手段に表示された前記ライブ画像を移動させる際に、前記ライブ画像に重ね合わされた前記微弱光画像も一緒に移動させることを特徴とする[11]に記載の観察画像の表示方法。
[13]
前記制御手段は、前記表示手段のうち、前記ライブ画像が表示される箇所に隣接した位置に、前記ライブ画像および前記ライブ画像に重ねられた前記微弱光画像を拡大した拡大画像を表示することを特徴とする[9]ないし[12]のいずれか1項に記載の観察画像の表示方法。
[14]
前記制御手段は、表示切替手段を有し、この表示切替手段は、前記ライブ画像に重ねて表示された前記微弱光画像の表示、非表示を切り換えることができることを特徴とする[9]ないし[13]のいずれか1項に記載の観察画像の表示方法。
[15]
前記制御手段は、前記微弱光画像を非表示にする非表示手段を有し、
前記非表示手段は、一定時間内に前記ライブ画像の一部の領域の画素値に変化があった場合に、前記ライブ画像の一部の領域に対応する前記微弱光画像の一部の領域の画素値をゼロにすることを特徴とする[9]ないし[14]のいずれか1項に記載の観察画像の表示方法。
[16]
生体試料の微弱光画像を取得する第1の画像取得手段、前記生体試料の明視野のライブ画像を取得する第2の画像取得手段、これらを制御する制御手段、前記制御手段に設けられた表示手段、を具備した観察画像の表示システムに、
前記第1の画像取得手段により前記生体試料の微弱光画像を取得する機能と、
前記第2の画像取得手段により生体試料の明視野のライブ画像を前記微弱光画像と異なる倍率で取得する機能と、
前記制御手段によって前記微弱光画像を前記ライブ画像と同等の倍率になるようにするとともに、前記ライブ画像の一部に重ね合わせて前記表示手段上に表示する機能と、
を実現させることを特徴とするプログラム。
[17]
前記第1の画像取得手段により前記微弱光画像とともに前記生体試料の明視野画像を高倍率で取得する機能と、
前記制御手段に設けられた画像認識手段によって前記ライブ画像の一部領域と、前記明視野画像とが合致するか否かを判断し、これらが合致した位置で前記微弱光画像を前記ライブ画像に重ね合わせて表示する機能と、
を実現させることを特徴とする[16]に記載のプログラム。
[18]
前記制御手段により前記微弱光画像とともに前記微弱光画像を取得した位置を記憶させる機能と、
前記制御手段により前記微弱光画像を取得した位置に基づいて前記微弱光画像を前記ライブ画像の一部に重ね合わせて表示する機能と、
を実現させることを特徴とする[16]に記載のプログラム。
[19]
前記制御手段により前記表示手段に表示された前記ライブ画像を移動させる際に、前記ライブ画像に重ね合わされた前記微弱光画像も一緒に移動させる機能を実現させることを特徴とする[18]に記載のプログラム。
[20]
前記制御手段により前記表示手段のうち、前記ライブ画像が表示される箇所に隣接した位置に、前記ライブ画像および前記ライブ画像に重ねられた前記微弱光画像を拡大した拡大画像を表示する機能を実現させることを特徴とする[16]ないし[19]のいずれか1項に記載のプログラム。
[21]
生体試料の微弱光画像を取得する第1の画像取得手段、前記生体試料の明視野のライブ画像を取得する第2の画像取得手段、これらを制御する制御手段、前記制御手段に設けられた表示手段および表示切替手段、を具備した観察画像の表示システムに、
前記第1の画像取得手段により前記生体試料の微弱光画像を高倍率で取得する機能と、
前記第2の画像取得手段により生体試料の明視野のライブ画像を低倍率で取得する機能と、
前記制御手段によって前記微弱光画像を前記ライブ画像と同等の倍率になるように縮小するとともに、前記ライブ画像の一部に重ね合わせて前記表示手段上に表示する機能と、
表示切替手段により前記ライブ画像に重ねて表示された前記微弱光画像の表示、非表示を切り換える機能と、
を実現させることを特徴とするプログラム。
[22]
生体試料の微弱光画像を取得する第1の画像取得手段、前記生体試料の明視野のライブ画像を取得する第2の画像取得手段、これらを制御する制御手段、前記制御手段に設けられた表示手段および非表示手段、を具備した観察画像の表示システムに、
前記第1の画像取得手段により前記生体試料の微弱光画像を高倍率で取得する機能と、
前記第2の画像取得手段により生体試料の明視野のライブ画像を低倍率で取得する機能と、
前記制御手段によって前記微弱光画像を前記ライブ画像と同等の倍率になるように縮小するとともに、前記ライブ画像の一部に重ね合わせて前記表示手段上に表示する機能と、
一定時間内に前記ライブ画像の一部の領域の画素値に変化があった場合に、前記非表示手段により前記ライブ画像の一部の領域に対応する前記微弱光画像の一部の領域の画素値をゼロにする機能と、
を実現させることを特徴とするプログラム。
In the first to third embodiments, the first microscope 13 is a light emission microscope, but may be a fluorescence microscope. Moreover, although the 2nd microscope 15 is comprised with the upright microscope, various microscopes, such as an inverted microscope and a fluorescence microscope, may be sufficient. In the above-described example, the pickup operation has been described. However, the present invention can be applied to various cell operations including other operations such as separation of desired cells and intracellular parts in a container or the like. In addition, the first microscope 13 is provided with an incubator 27 for keeping cells, tissues, and the like as biological samples alive, so that the first microscope 13 can be applied to culturable micro organisms such as embryos, microorganisms, and bacteria. However, such an incubator may be provided in the second microscope 15. In addition, when observing a living individual such as a small animal (mouse, rabbit, etc.) with the first microscope 13 and the second microscope 15, the incubator 27 is unnecessary.
Hereinafter, the invention described in the scope of claims of the present application will be appended.
[1]
A first microscope capable of acquiring a faint light image of a biological sample;
A first control device connected to the first microscope and storing the weak light image;
A second microscope capable of acquiring a bright-field live image of the biological sample at a magnification different from that of the weak light image;
A display unit connected to the second microscope and capable of displaying the feeble light image on a part of the bright-field live image so as to have a magnification equivalent to that of the bright-field live image; A second control device having;
A microscope system comprising:
[2]
The first microscope can obtain a bright field image of the biological sample together with the weak light image at a high magnification,
The second control device includes an image recognition unit that can determine whether or not a partial region of the live image and the bright field image match, and the weak light image is displayed at a position where they match. The microscope system according to [1], wherein the microscope system displays the image superimposed on a live image.
[3]
The first control device stores absolute position information of the weak light image together with the weak light image,
The microscope system according to [1], wherein the second control device displays the weak light image superimposed on a part of the live image based on the absolute position information.
[4]
The second control device moves the live image displayed on the display unit together with the weak light image superimposed on the live image, according to [3]. Microscope system.
[5]
The biological sample is provided with a reference point used for overlay display of the weak light image and the live image,
The first control device stores relative position information of the weak light image with respect to the reference point together with the weak light image,
The microscope system according to [1], wherein the second control device displays the weak light image superimposed on a part of the live image based on the relative position information.
[6]
The second control device displays an enlarged image obtained by enlarging the live image and the weak light image superimposed on the live image at a position adjacent to a location where the live image is displayed in the display unit. The microscope system according to any one of [1] to [5], wherein:
[7]
The second control device includes a display switching unit, and the display switching unit can switch between display and non-display of the faint light image displayed superimposed on the live image [1. ] The microscope system of any one of [5].
[8]
The second control device has a non-display unit that hides the weak light image,
The non-display unit is configured to detect a pixel value of a partial region of the weak light image corresponding to a partial region of the live image when a pixel value of the partial region of the live image changes within a predetermined time. The microscope system according to any one of [1] to [5], wherein zero is set to zero.
[9]
A weak light image of the biological sample is acquired in advance by the first image acquisition means,
A live image of a bright field of a biological sample is acquired at a magnification different from the weak light image by the second image acquisition means,
An observation image display method, wherein the weak light image is made to have a magnification equivalent to that of the live image by a control means, and is displayed on a display means so as to be superimposed on a part of the live image.
[10]
The first image acquisition means acquires a bright field image of the biological sample together with the weak light image at a high magnification,
The image recognition means determines whether or not the partial area of the live image matches the bright field image, and displays the weak light image superimposed on the live image at a position where they match. The observation image display method according to [9], which is characterized.
[11]
The control means stores the position where the weak light image is acquired together with the weak light image, and displays the weak light image superimposed on a part of the live image based on the position where the weak light image is acquired. [9] The method for displaying an observation image according to [9].
[12]
The observation image according to [11], wherein when the live image displayed on the display unit is moved, the control unit moves the weak light image superimposed on the live image together. How to display.
[13]
The control means displays a magnified image obtained by enlarging the live image and the weak light image superimposed on the live image at a position adjacent to the place where the live image is displayed in the display means. The method for displaying an observation image according to any one of [9] to [12], which is characterized.
[14]
The control means includes display switching means, and the display switching means can switch between display and non-display of the weak light image displayed superimposed on the live image [9] to [9]. [13] The method for displaying an observation image according to any one of [13].
[15]
The control means has a non-display means for hiding the weak light image,
The non-display unit is configured to display a partial area of the weak light image corresponding to the partial area of the live image when a pixel value of the partial area of the live image is changed within a predetermined time. The display method of an observation image according to any one of [9] to [14], wherein the pixel value is set to zero.
[16]
First image acquisition means for acquiring a weak light image of a biological sample, second image acquisition means for acquiring a bright-field live image of the biological sample, control means for controlling these, and display provided in the control means An observation image display system comprising means,
A function of acquiring a weak light image of the biological sample by the first image acquisition means;
A function of acquiring a bright-field live image of a biological sample by the second image acquisition means at a magnification different from that of the weak light image;
A function of causing the weak light image to have a magnification equivalent to that of the live image by the control unit, and displaying the image on the display unit so as to overlap with a part of the live image;
A program characterized by realizing.
[17]
A function of acquiring a bright-field image of the biological sample together with the weak light image at a high magnification by the first image acquisition means;
The image recognition unit provided in the control unit determines whether or not the partial area of the live image matches the bright field image, and the weak light image is converted into the live image at a position where they match. A function to display them in a superimposed manner,
The program according to [16], wherein the program is realized.
[18]
A function for storing the position at which the weak light image is acquired together with the weak light image by the control means;
A function of superimposing and displaying the weak light image on a part of the live image based on the position where the weak light image is acquired by the control means;
The program according to [16], wherein the program is realized.
[19]
[18], wherein when the live image displayed on the display unit is moved by the control unit, a function of moving the weak light image superimposed on the live image together is realized. Program.
[20]
The control means realizes a function of displaying the enlarged image obtained by enlarging the live image and the weak light image superimposed on the live image at a position adjacent to the place where the live image is displayed in the display unit. The program according to any one of [16] to [19], wherein the program is executed.
[21]
First image acquisition means for acquiring a weak light image of a biological sample, second image acquisition means for acquiring a bright-field live image of the biological sample, control means for controlling these, and display provided in the control means An observation image display system comprising: means and display switching means;
A function of acquiring a weak light image of the biological sample at a high magnification by the first image acquisition means;
A function of acquiring a live image of a bright field of a biological sample at a low magnification by the second image acquisition means;
A function of reducing the weak light image by the control means so as to have a magnification equivalent to that of the live image, and displaying the image on the display means so as to be superimposed on a part of the live image;
A function for switching between display and non-display of the weak light image displayed on the live image by the display switching means;
A program characterized by realizing.
[22]
First image acquisition means for acquiring a weak light image of a biological sample, second image acquisition means for acquiring a bright-field live image of the biological sample, control means for controlling these, and display provided in the control means An observation image display system comprising means and non-display means,
A function of acquiring a weak light image of the biological sample at a high magnification by the first image acquisition means;
A function of acquiring a live image of a bright field of a biological sample at a low magnification by the second image acquisition means;
A function of reducing the weak light image by the control means so as to have a magnification equivalent to that of the live image, and displaying the image on the display means so as to be superimposed on a part of the live image;
When there is a change in the pixel value of a part of the live image within a predetermined time, the non-display unit causes a pixel of the part of the weak light image corresponding to the part of the live image. The ability to zero the value,
A program characterized by realizing.

11…顕微鏡システム、12…生体試料、13…第1の顕微鏡、14…第1の制御装置、15…第2の顕微鏡、16…第2の制御装置、21…発光画像、22…ライブ画像、48…第2の表示部、52…画像認識部、53…表示切替手段、54…非表示手段、55…拡大画像 DESCRIPTION OF SYMBOLS 11 ... Microscope system, 12 ... Biological sample, 13 ... 1st microscope, 14 ... 1st control apparatus, 15 ... 2nd microscope, 16 ... 2nd control apparatus, 21 ... Luminous image, 22 ... Live image, 48 ... second display unit, 52 ... image recognition unit, 53 ... display switching unit, 54 ... non-display unit, 55 ... enlarged image

Claims (22)

生体試料の微弱光画像を取得可能な第1の顕微鏡と、
前記第1の顕微鏡に接続されるとともに、前記微弱光画像を記憶する第1の制御装置と、
前記生体試料の明視野のライブ画像を前記微弱光画像と異なる倍率で取得可能な第2の顕微鏡と、
前記第2の顕微鏡に接続されるとともに、前記微弱光画像を前記明視野のライブ画像と同等の倍率になるようにして、前記明視野のライブ画像の一部に重ね合わせて表示できる表示部を有した第2の制御装置と、
を具備することを特徴とする顕微鏡システム。
A first microscope capable of acquiring a faint light image of a biological sample;
A first control device connected to the first microscope and storing the weak light image;
A second microscope capable of acquiring a bright-field live image of the biological sample at a magnification different from that of the weak light image;
A display unit connected to the second microscope and capable of displaying the feeble light image on a part of the bright-field live image so as to have a magnification equivalent to that of the bright-field live image; A second control device having;
A microscope system comprising:
前記第1の顕微鏡は、前記微弱光画像とともに前記生体試料の明視野画像を高倍率で取得可能であり、
前記第2の制御装置は、前記ライブ画像の一部領域と、前記明視野画像とが合致するか否かを判断できる画像認識部を有するとともに、これらが合致した位置で前記微弱光画像を前記ライブ画像に重ね合わせて表示することを特徴とする請求項1に記載の顕微鏡システム。
The first microscope can obtain a bright field image of the biological sample together with the weak light image at a high magnification,
The second control device includes an image recognition unit that can determine whether or not a partial region of the live image and the bright field image match, and the weak light image is displayed at a position where they match. The microscope system according to claim 1, wherein the microscope system displays the image superimposed on a live image.
前記第1の制御装置は、前記微弱光画像の絶対位置情報を前記微弱光画像とともに記憶し、
前記第2の制御装置は、前記絶対位置情報に基づいて前記微弱光画像を前記ライブ画像の一部に重ね合わせて表示することを特徴とする請求項1に記載の顕微鏡システム。
The first control device stores absolute position information of the weak light image together with the weak light image,
The microscope system according to claim 1, wherein the second control device displays the weak light image superimposed on a part of the live image based on the absolute position information.
前記第2の制御装置は、前記表示部に表示された前記ライブ画像を移動させる際に、前記ライブ画像に重ね合わされた前記微弱光画像も一緒に移動させることを特徴とする請求項3に記載の顕微鏡システム。   The said 2nd control apparatus moves the said weak light image superimposed on the said live image together, when moving the said live image displayed on the said display part, It is characterized by the above-mentioned. Microscope system. 前記生体試料には、前記微弱光画像と前記ライブ画像との重ね合わせ表示に利用される基準点が設けられており、
前記第1の制御装置は、前記基準点に対する前記微弱光画像の相対位置情報を前記微弱光画像とともに記憶し、
前記第2の制御装置は、前記相対位置情報に基づいて前記微弱光画像を前記ライブ画像の一部に重ね合わせて表示することを特徴とする請求項1に記載の顕微鏡システム。
The biological sample is provided with a reference point used for overlay display of the weak light image and the live image,
The first control device stores relative position information of the weak light image with respect to the reference point together with the weak light image,
2. The microscope system according to claim 1, wherein the second control device displays the weak light image superimposed on a part of the live image based on the relative position information.
前記第2の制御装置は、前記表示部のうち、前記ライブ画像が表示される箇所に隣接した位置に、前記ライブ画像および前記ライブ画像に重ねられた前記微弱光画像を拡大した拡大画像を表示することを特徴とする請求項1ないし請求項5のいずれか1項に記載の顕微鏡システム。   The second control device displays an enlarged image obtained by enlarging the live image and the weak light image superimposed on the live image at a position adjacent to a location where the live image is displayed in the display unit. The microscope system according to any one of claims 1 to 5, wherein: 前記第2の制御装置は、表示切替手段を有し、この表示切替手段は、前記ライブ画像に重ねて表示された前記微弱光画像の表示、非表示を切り換えることができることを特徴とする請求項1ないし請求項5のいずれか1項に記載の顕微鏡システム。   The said 2nd control apparatus has a display switching means, This display switching means can switch the display of the said weak light image displayed on the said live image, and non-display. The microscope system according to any one of claims 1 to 5. 前記第2の制御装置は、前記微弱光画像を非表示にする非表示手段を有し、
前記非表示手段は、一定時間内に前記ライブ画像の一部の領域の画素値が変化した場合に、前記ライブ画像の一部の領域に対応する前記微弱光画像の一部の領域の画素値をゼロにすることを特徴とする請求項1ないし請求項5のいずれか1項に記載の顕微鏡システム。
The second control device has a non-display unit that hides the weak light image,
The non-display unit is configured to detect a pixel value of a partial region of the weak light image corresponding to a partial region of the live image when a pixel value of the partial region of the live image changes within a predetermined time. The microscope system according to claim 1, wherein zero is set to zero.
予め第1の画像取得手段で生体試料の微弱光画像を取得し、
第2の画像取得手段で生体試料の明視野のライブ画像を前記微弱光画像と異なる倍率で取得し、
制御手段によって前記微弱光画像を前記ライブ画像と同等の倍率になるようにするとともに、前記ライブ画像の一部に重ね合わせて表示手段上に表示し、
前記第1の画像取得手段は、前記微弱光画像とともに前記生体試料の明視野画像を取得し、
画像認識手段によって前記ライブ画像の一部領域と、前記明視野画像とが合致するか否かを判断し、これらが合致した位置で前記微弱光画像を前記ライブ画像に重ね合わせて表示することを特徴とする観察画像の表示方法。
A weak light image of the biological sample is acquired in advance by the first image acquisition means,
A live image of a bright field of a biological sample is acquired at a magnification different from the weak light image by the second image acquisition means,
The weak light image is made to have a magnification equivalent to that of the live image by the control means, and is displayed on the display means while being superimposed on a part of the live image ,
The first image acquisition means acquires a bright field image of the biological sample together with the weak light image,
The image recognition means determines whether or not the partial area of the live image matches the bright field image, and displays the weak light image superimposed on the live image at a position where they match. A method for displaying a characteristic observation image.
前記第1の画像取得手段は、前記微弱光画像とともに前記生体試料の明視野画像を高倍率で取得することを特徴とする請求項9に記載の観察画像の表示方法。 The first image acquisition unit, the display method of the observation image according to claim 9, characterized in that together with the weak light image to obtain a bright field image of the biological sample at a high magnification. 前記制御手段は、前記微弱光画像とともに前記微弱光画像を取得した位置を記憶するとともに、前記微弱光画像を取得した位置に基づいて前記微弱光画像を前記ライブ画像の一部に重ね合わせて表示することを特徴とする請求項9に記載の観察画像の表示方法。   The control means stores the position where the weak light image is acquired together with the weak light image, and displays the weak light image superimposed on a part of the live image based on the position where the weak light image is acquired. The observation image display method according to claim 9, wherein the observation image is displayed. 前記制御手段は、前記表示手段に表示された前記ライブ画像を移動させる際に、前記ライブ画像に重ね合わされた前記微弱光画像も一緒に移動させることを特徴とする請求項11に記載の観察画像の表示方法。   The observation image according to claim 11, wherein when the live image displayed on the display unit is moved, the control unit also moves the weak light image superimposed on the live image. How to display. 前記制御手段は、前記表示手段のうち、前記ライブ画像が表示される箇所に隣接した位置に、前記ライブ画像および前記ライブ画像に重ねられた前記微弱光画像を拡大した拡大画像を表示することを特徴とする請求項9ないし請求項12のいずれか1項に記載の観察画像の表示方法。   The control means displays a magnified image obtained by enlarging the live image and the weak light image superimposed on the live image at a position adjacent to the place where the live image is displayed in the display means. 13. The observation image display method according to claim 9, wherein the observation image is displayed. 前記制御手段は、表示切替手段を有し、この表示切替手段は、前記ライブ画像に重ねて表示された前記微弱光画像の表示、非表示を切り換えることができることを特徴とする請求項9ないし請求項13のいずれか1項に記載の観察画像の表示方法。   The control unit includes a display switching unit, and the display switching unit is capable of switching between display and non-display of the weak light image displayed to be superimposed on the live image. Item 14. The method for displaying an observation image according to any one of Items13. 前記制御手段は、前記微弱光画像を非表示にする非表示手段を有し、
前記非表示手段は、一定時間内に前記ライブ画像の一部の領域の画素値に変化があった場合に、前記ライブ画像の一部の領域に対応する前記微弱光画像の一部の領域の画素値をゼロにすることを特徴とする請求項9ないし請求項14のいずれか1項に記載の観察画像の表示方法。
The control means has a non-display means for hiding the weak light image,
The non-display unit is configured to display a partial area of the weak light image corresponding to the partial area of the live image when a pixel value of the partial area of the live image is changed within a predetermined time. 15. The observation image display method according to claim 9, wherein a pixel value is set to zero.
生体試料の微弱光画像を取得する第1の画像取得手段、前記生体試料の明視野のライブ画像を取得する第2の画像取得手段、これらを制御する制御手段、前記制御手段に設けられた表示手段、を具備した観察画像の表示システムに、
前記第1の画像取得手段により前記生体試料の微弱光画像を取得する機能と、
前記第2の画像取得手段により生体試料の明視野のライブ画像を前記微弱光画像と異なる倍率で取得する機能と、
前記制御手段によって前記微弱光画像を前記ライブ画像と同等の倍率になるようにするとともに、前記ライブ画像の一部に重ね合わせて前記表示手段上に表示する機能と、
前記第1の画像取得手段により前記微弱光画像とともに前記生体試料の明視野画像を取得する機能と、
前記制御手段に設けられた画像認識手段によって前記ライブ画像の一部領域と、前記明視野画像とが合致するか否かを判断し、これらが合致した位置で前記微弱光画像を前記ライブ画像に重ね合わせて表示する機能と、
を実現させることを特徴とするプログラム。
First image acquisition means for acquiring a weak light image of a biological sample, second image acquisition means for acquiring a bright-field live image of the biological sample, control means for controlling these, and display provided in the control means An observation image display system comprising means,
A function of acquiring a weak light image of the biological sample by the first image acquisition means;
A function of acquiring a bright-field live image of a biological sample by the second image acquisition means at a magnification different from that of the weak light image;
A function of causing the weak light image to have a magnification equivalent to that of the live image by the control unit, and displaying the image on the display unit so as to overlap with a part of the live image;
A function of acquiring a bright field image of the biological sample together with the weak light image by the first image acquisition means;
The image recognition unit provided in the control unit determines whether or not the partial area of the live image matches the bright field image, and the weak light image is converted into the live image at a position where they match. A function to display them in a superimposed manner,
A program characterized by realizing.
前記第1の画像取得手段により前記微弱光画像とともに前記生体試料の明視野画像を高倍率で取得する機能を実現させることを特徴とする請求項16に記載のプログラム。 The program according to claim 16, wherein the first image acquisition unit realizes a function of acquiring a bright field image of the biological sample together with the weak light image at a high magnification. 前記制御手段により前記微弱光画像とともに前記微弱光画像を取得した位置を記憶させる機能と、
前記制御手段により前記微弱光画像を取得した位置に基づいて前記微弱光画像を前記ライブ画像の一部に重ね合わせて表示する機能と、
を実現させることを特徴とする請求項16に記載のプログラム。
A function for storing the position at which the weak light image is acquired together with the weak light image by the control means;
A function of superimposing and displaying the weak light image on a part of the live image based on the position where the weak light image is acquired by the control means;
The program according to claim 16, wherein the program is realized.
前記制御手段により前記表示手段に表示された前記ライブ画像を移動させる際に、前記ライブ画像に重ね合わされた前記微弱光画像も一緒に移動させる機能を実現させることを特徴とする請求項18に記載のプログラム。   19. The function for moving the weak light image superimposed on the live image together with the live image displayed on the display unit by the control unit is realized. Program. 前記制御手段により前記表示手段のうち、前記ライブ画像が表示される箇所に隣接した位置に、前記ライブ画像および前記ライブ画像に重ねられた前記微弱光画像を拡大した拡大画像を表示する機能を実現させることを特徴とする請求項16ないし請求項19のいずれか1項に記載のプログラム。   The control means realizes a function of displaying the enlarged image obtained by enlarging the live image and the weak light image superimposed on the live image at a position adjacent to the place where the live image is displayed in the display unit. The program according to any one of claims 16 to 19, wherein the program is executed. 生体試料の微弱光画像を取得する第1の画像取得手段、前記生体試料の明視野のライブ画像を取得する第2の画像取得手段、これらを制御する制御手段、前記制御手段に設けられた表示手段および表示切替手段、を具備した観察画像の表示システムに、
前記表示切替手段により前記ライブ画像に重ねて表示された前記微弱光画像の表示、非表示を切り換える機能を実現させることを特徴とする請求項16に記載のプログラム。
First image acquisition means for acquiring a weak light image of a biological sample, second image acquisition means for acquiring a bright-field live image of the biological sample, control means for controlling these, and display provided in the control means An observation image display system comprising: means and display switching means;
The program according to claim 16, wherein the display switching unit realizes a function of switching between display and non-display of the faint light image displayed superimposed on the live image.
生体試料の微弱光画像を取得する第1の画像取得手段、前記生体試料の明視野のライブ画像を取得する第2の画像取得手段、これらを制御する制御手段、前記制御手段に設けられた表示手段および非表示手段、を具備した観察画像の表示システムに、
前記第1の画像取得手段により前記生体試料の微弱光画像を高倍率で取得する機能と、
前記第2の画像取得手段により生体試料の明視野のライブ画像を低倍率で取得する機能と、
前記制御手段によって前記微弱光画像を前記ライブ画像と同等の倍率になるように縮小するとともに、前記ライブ画像の一部に重ね合わせて前記表示手段上に表示する機能と、
一定時間内に前記ライブ画像の一部の領域の画素値に変化があった場合に、前記非表示手段により前記ライブ画像の一部の領域に対応する前記微弱光画像の一部の領域の画素値をゼロにする機能と、
を実現させることを特徴とするプログラム。
First image acquisition means for acquiring a weak light image of a biological sample, second image acquisition means for acquiring a bright-field live image of the biological sample, control means for controlling these, and display provided in the control means An observation image display system comprising means and non-display means,
A function of acquiring a weak light image of the biological sample at a high magnification by the first image acquisition means;
A function of acquiring a live image of a bright field of a biological sample at a low magnification by the second image acquisition means;
A function of reducing the weak light image by the control means so as to have a magnification equivalent to that of the live image, and displaying the image on the display means so as to be superimposed on a part of the live image;
When there is a change in the pixel value of a part of the live image within a predetermined time, the non-display unit causes a pixel of the part of the weak light image corresponding to the part of the live image. The ability to zero the value,
A program characterized by realizing.
JP2010065021A 2010-03-19 2010-03-19 Microscope system, observation image display method, program Expired - Fee Related JP5466976B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2010065021A JP5466976B2 (en) 2010-03-19 2010-03-19 Microscope system, observation image display method, program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010065021A JP5466976B2 (en) 2010-03-19 2010-03-19 Microscope system, observation image display method, program

Publications (2)

Publication Number Publication Date
JP2011196867A JP2011196867A (en) 2011-10-06
JP5466976B2 true JP5466976B2 (en) 2014-04-09

Family

ID=44875277

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010065021A Expired - Fee Related JP5466976B2 (en) 2010-03-19 2010-03-19 Microscope system, observation image display method, program

Country Status (1)

Country Link
JP (1) JP5466976B2 (en)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6173032B2 (en) * 2013-05-16 2017-08-02 オリンパス株式会社 Microscope system
JP6223037B2 (en) * 2013-07-22 2017-11-01 オリンパス株式会社 Survivin cell analysis method, and cancer analysis method and drug efficacy screening method using the same
JP6130801B2 (en) 2014-03-17 2017-05-17 富士フイルム株式会社 Cell region display control apparatus and method, and program
KR20190007445A (en) * 2016-05-12 2019-01-22 라이프 테크놀로지스 코포레이션 System, method and apparatus for image capture and display
WO2019003274A1 (en) 2017-06-26 2019-01-03 オリンパス株式会社 Cell observation system
CN110869485A (en) 2017-06-26 2020-03-06 奥林巴斯株式会社 Cell observation system

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11231223A (en) * 1998-02-16 1999-08-27 Olympus Optical Co Ltd Scanning optical microscope
JP2004089533A (en) * 2002-09-02 2004-03-25 Toshiba Corp Boundary-identifiable device for fluorescent material accumulated tumor
JP5424528B2 (en) * 2006-10-04 2014-02-26 オリンパス株式会社 Method and apparatus for analyzing faint light sample

Also Published As

Publication number Publication date
JP2011196867A (en) 2011-10-06

Similar Documents

Publication Publication Date Title
JP5510463B2 (en) Cell observation apparatus and cell culture method
JP4970869B2 (en) Observation apparatus and observation method
JP5466976B2 (en) Microscope system, observation image display method, program
US20070064101A1 (en) Observation apparatus
EP1967886A1 (en) Device and method for capturing image of a sample originating from organism
EP1764640A2 (en) Microscope for multipoint time-lapse imaging
JP5633753B2 (en) Focus control method and culture observation apparatus
JP2008139488A (en) Microscope device
CN101351736A (en) Apparatus for measuring luminescence dose and method of measuring luminescence
JP5516108B2 (en) Observation apparatus, observation method, and program
JP2007316259A (en) Microscope system, method for recording microscopic image, and program
JP5365691B2 (en) Biological sample observation device
JP5412149B2 (en) Image imaging apparatus and cell image analysis system including the same
US8411357B2 (en) Motor-operated microscope system and software for controlling motor-operated microscopes
JP2021184769A (en) Cell suction support device and control method of cell suction support device
JP5887766B2 (en) Microscope control apparatus, image processing apparatus, microscope apparatus, and program
JP2010078983A (en) Microscope system, program, and method thereof
JP5343762B2 (en) Control device and microscope system using the control device
JP2009229276A (en) Method for analyzing image for cell observation, image processing program and image processor
JP2013050666A (en) Microscope controller, microscope device, image processor, and program
JP2012039930A (en) Method, program and apparatus of image processing for culture observation, and method for producing culture
JP2012039931A (en) Observation device, observation method, and method of producing culture material
JP2009237267A (en) Microscope system, control method used for microscope system, and program
JP2008310022A (en) Motor-driven microscope
JP2009169235A (en) Microscope system

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20130306

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20131009

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20131015

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20131216

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140114

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140127

R151 Written notification of patent or utility model registration

Ref document number: 5466976

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees