WO2021235519A1 - 画像解析方法、観察システム及び画像解析プログラム - Google Patents

画像解析方法、観察システム及び画像解析プログラム Download PDF

Info

Publication number
WO2021235519A1
WO2021235519A1 PCT/JP2021/019185 JP2021019185W WO2021235519A1 WO 2021235519 A1 WO2021235519 A1 WO 2021235519A1 JP 2021019185 W JP2021019185 W JP 2021019185W WO 2021235519 A1 WO2021235519 A1 WO 2021235519A1
Authority
WO
WIPO (PCT)
Prior art keywords
image
fluorescence
cell
time
fluorescent
Prior art date
Application number
PCT/JP2021/019185
Other languages
English (en)
French (fr)
Inventor
徹 市橋
萌伽 信田
隆彦 吉田
宏昭 紀伊
Original Assignee
株式会社ニコン
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 株式会社ニコン filed Critical 株式会社ニコン
Priority to JP2022524537A priority Critical patent/JPWO2021235519A1/ja
Publication of WO2021235519A1 publication Critical patent/WO2021235519A1/ja

Links

Images

Classifications

    • CCHEMISTRY; METALLURGY
    • C12BIOCHEMISTRY; BEER; SPIRITS; WINE; VINEGAR; MICROBIOLOGY; ENZYMOLOGY; MUTATION OR GENETIC ENGINEERING
    • C12QMEASURING OR TESTING PROCESSES INVOLVING ENZYMES, NUCLEIC ACIDS OR MICROORGANISMS; COMPOSITIONS OR TEST PAPERS THEREFOR; PROCESSES OF PREPARING SUCH COMPOSITIONS; CONDITION-RESPONSIVE CONTROL IN MICROBIOLOGICAL OR ENZYMOLOGICAL PROCESSES
    • C12Q1/00Measuring or testing processes involving enzymes, nucleic acids or microorganisms; Compositions therefor; Processes of preparing such compositions
    • C12Q1/02Measuring or testing processes involving enzymes, nucleic acids or microorganisms; Compositions therefor; Processes of preparing such compositions involving viable microorganisms
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/62Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light
    • G01N21/63Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited
    • G01N21/64Fluorescence; Phosphorescence
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N33/00Investigating or analysing materials by specific methods not covered by groups G01N1/00 - G01N31/00
    • G01N33/48Biological material, e.g. blood, urine; Haemocytometers
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N33/00Investigating or analysing materials by specific methods not covered by groups G01N1/00 - G01N31/00
    • G01N33/48Biological material, e.g. blood, urine; Haemocytometers
    • G01N33/483Physical analysis of biological material
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/06Means for illuminating specimens
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/36Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements

Definitions

  • the present invention relates to an image analysis method, an observation system and an image analysis program.
  • the present application claims priority based on Japanese Patent Application No. 2020-087841 filed in Japan on May 20, 2020, the contents of which are incorporated herein by reference.
  • GFP Green Fluorescent Protein
  • RFP Red Fluorescent Protein
  • One aspect of the present invention is a first fluorescent image of a first color tone by a first fluorescent protein that is distributed throughout the cytoplasm and is constantly expressed in the cell, and a predetermined protein that exhibits aggregation / localization in the cell.
  • One aspect of the present invention includes a light source device, a fluorescence excitation filter, an objective lens, and an image pickup device, a fluorescence microscope capable of observing fluorescence, and a plurality of time series obtained by observing the time series of living cells with the fluorescence microscope.
  • An observation system including an image processing unit that processes an image and a control unit that controls the fluorescence microscope.
  • the plurality of time-series images are distributed throughout the cytoplasm and are constantly expressed intracellularly.
  • It is an observation system including a mapping unit for mapping.
  • One aspect of the present invention shows, to a computer, a first fluorescence image of a first color tone by a first fluorescence protein distributed throughout the cytoplasm and constantly expressed intracellularly, and aggregation / localization in the cell.
  • FIG. 1 is a block diagram showing an outline of the incubator 11.
  • 2 and 3 are views showing an example of a front view and a plan view of the incubator 11.
  • the incubator 11 is an example of the image pickup system 1.
  • the incubator 11 of the embodiment has an upper casing 12 and a lower casing 13. In the assembled state of the incubator 11, the upper casing 12 is placed on the lower casing 13. The internal space between the upper casing 12 and the lower casing 13 is vertically partitioned by the base plate 14.
  • the constant temperature room 15 has a temperature control device 15a and a humidity control device 15b, and the inside of the constant temperature room 15 is maintained in an environment suitable for cell culture (for example, an atmosphere having a temperature of 37 ° C. and a humidity of 90%) (for example, an atmosphere having a temperature of 37 ° C. and a humidity of 90%).
  • the temperature adjusting device 15a and the humidity adjusting device 15b in FIGS. 2 and 3 are not shown). That is, the constant temperature room 15 can maintain the inside under predetermined environmental conditions.
  • a large door 16, a middle door 17, and a small door 18 are arranged in front of the constant temperature room 15.
  • the large door 16 covers the front surfaces of the upper casing 12 and the lower casing 13.
  • the middle door 17 covers the front surface of the upper casing 12 and isolates the environment between the constant temperature room 15 and the outside when the large door 16 is opened.
  • the small door 18 is a door for carrying in and out the culture container 19 for culturing cells, and is attached to the middle door 17. By carrying in and out the culture container 19 from the small door 18, it is possible to suppress environmental changes in the constant temperature chamber 15.
  • the large door 16, the middle door 17, and the small door 18 are maintained in airtightness by the packing SL1, the packing SL2, and the packing SL3, respectively.
  • the culture vessel 19 is, for example, a well plate (eg, a plate with 6 wells, etc.).
  • a stocker 21 an observation unit 22, a container transport device 23, and a transport stand 24 are arranged.
  • the transport table 24 is arranged in front of the small door 18, and the culture container 19 is carried in and out from the small door 18.
  • the stocker 21 is arranged on the left side of the constant temperature room 15 when viewed from the front surface of the upper casing 12 (lower side of FIG. 3, door side such as large door 16).
  • the stocker 21 has a plurality of shelves, and each shelf of the stocker 21 can store a plurality of culture containers 19.
  • each culture container 19 cells to be cultured are contained together with a medium.
  • the constant temperature chamber 15 houses the culture vessel 19 for culturing cells.
  • the constant temperature chamber 15 is an example of a culture device for culturing cells stored in a culture container 19.
  • the observation unit 22 is arranged on the right side of the constant temperature room 15 when viewed from the front surface of the upper casing 12 (lower side of FIG. 3, door side such as large door 16).
  • the observation unit 22 can perform time-lapse observation of cells in the culture vessel 19.
  • time-lapse observation is a sample based on a plurality of images (time-lapse images) captured by imaging a sample (eg, cells) at predetermined time intervals based on a preset imaging schedule. It is a method of observing changes in the time series of.
  • the images of the sample may be taken at regular time intervals or at different time intervals.
  • the observation unit 22 is fitted and arranged in the opening of the base plate 14 of the upper casing 12.
  • the observation unit 22 has a sample table 31, a stand arm 32 protruding above the sample table 31, and a main body portion 33 incorporating a microscopic optical system for fluorescence observation and an image pickup device 34.
  • the sample table 31 and the stand arm 32 are arranged in the constant temperature room 15, while the main body portion 33 is housed in the lower casing 13.
  • the sample table 31 is made of a translucent material, on which the culture vessel 19 can be placed.
  • the sample table 31 is configured to be movable in the horizontal direction, and the position of the culture vessel 19 placed on the upper surface can be adjusted.
  • the stand arm 32 has a built-in LED light source 35.
  • the imaging device 34 can acquire a phase difference image of the cells by imaging the cells of the culture vessel 19 transmitted and illuminated from above the sample table 31 by the stand arm 32 via the microscopic optical system.
  • the image pickup apparatus 34 takes an image of the cells contained in the culture vessel in the constant temperature room 15 at predetermined time intervals.
  • the main body portion 33 of the observation unit 22 has an excitation illumination unit 33a for fluorescence observation.
  • the image pickup apparatus 34 can acquire a fluorescence image of cells by taking an image of fluorescence through a microscope optical system by epi-illumination of excitation light.
  • time-series image data (multiple images) obtained by performing time-lapse observation of cells is referred to as time-lapse image TP.
  • the time-lapse image TP includes a plurality of images in which cells are imaged over time.
  • the observation unit 22 is an example of a microscope that captures a time-lapse image TP.
  • the microscope optical system of the observation unit 22 observes cells (for example, living cells) in the culture vessel 19 by fluorescence observation.
  • Genes of a plurality of types of fluorescent proteins having different fluorescence wavelengths are introduced into the cells cultured in the culture vessel 19 in advance.
  • the RFP gene is used as a fluorescent protein that emits fluorescence in the first wavelength region (first color tone)
  • the GFP gene is used as a fluorescent protein that emits fluorescence in the second wavelength region (second color tone).
  • first color tone first color tone
  • second color tone second color tone
  • the introduction of the gene of the fluorescent protein into the cell it is possible to introduce it into the cell from the beginning by genetic manipulation or by using a plasmid, a viral vector or the like before observation.
  • the GFP gene is integrated into the cell itself, and the RFP gene is introduced into the cell by a plasmid, a viral vector, or the like.
  • the fluorescent protein that emits fluorescence of the first color tone is a fluorescent protein that is expressed intracellularly, and emits red fluorescence when irradiated with excitation light.
  • the fluorescent protein of the first color tone is stably expressed in the cell. Therefore, these cells fluoresce stably as long as they are alive.
  • the GFP gene is introduced into the cells cultured in the culture vessel 19, and the GFP gene is tagged with a specific substance (gene encoding ⁇ -synuclein).
  • a specific substance gene encoding ⁇ -synuclein.
  • excitation light having a predetermined wavelength, for example, it emits a green fluorescent wavelength.
  • This second color fluorescent protein shows the degree of expression depending on the state of intracellular characteristics. By observing GFP through images, the localization / cohesiveness of a specific substance can be confirmed.
  • the state of intracellular characteristics is, for example, the degree of inclusion bodies of a specific substance ( ⁇ -synuclein or the like) in the cell (presence or absence of inclusion bodies, amount of inclusion bodies in the cell, etc.).
  • the fluorescent protein of the second color tone does not exhibit fluorescence when the inclusion body is not present in the cell, and exhibits fluorescence when the inclusion body is present in the cell.
  • the expression level of the fluorescent protein of the second color tone increases as the amount of inclusion bodies in the cell increases (that is, the fluorescence becomes stronger).
  • the microscope optical system of the observation unit 22 is a fluorescence microscope.
  • the excitation illumination unit 33a outputs excitation light having a wavelength that excites the fluorescent protein.
  • the excitation illumination unit 33a has a first excitation wavelength (587 nm) light corresponding to the fluorescence wavelength of the fluorescent protein of the first color tone and a second excitation wavelength (488 nm) corresponding to the fluorescence wavelength of the fluorescent protein of the second color tone. Light and output.
  • fluorescence corresponding to the wavelength of the irradiated light is emitted from the fluorescent protein in the cell.
  • the time-lapse image TP obtained by the time-lapse observation of the present embodiment is a fluorescence image.
  • This fluorescent image includes a first image C1 showing the state of expression of the fluorescent protein of the first color tone and a second image C2 showing the state of expression of the fluorescent protein of the second color tone.
  • the fluorescence microscope of the present embodiment captures the first image C1 and the second image C2 at different timings. Specifically, the observation unit 22 outputs an image captured by the image pickup apparatus 34 as the first image C1 when the excitation illumination unit 33a outputs light having the first excitation wavelength. The observation unit 22 outputs an image captured by the image pickup apparatus 34 as the second image C2 when the excitation illumination unit 33a outputs light having a second excitation wavelength.
  • the image pickup apparatus 34 takes a time-lapse image of the living cells and generates the first image C1 and the second image C2, respectively.
  • the first image C1 is an image showing the expression state of the fluorescent protein of the first color tone, which is a fluorescent protein expressed in the cytoplasm in the cell and shows a stable expression degree with respect to a change in time.
  • the second image C2 is an image showing the expression state of the fluorescent protein having a second color tone, which is a fluorescent protein expressed in a specific substance in the cell and shows the degree of expression according to the state of the characteristics of the cell.
  • the container transport device 23 is arranged in the center of the constant temperature room 15 when viewed from the front surface of the upper casing 12.
  • the container transfer device 23 transfers the culture container 19 between the stocker 21, the sample table 31 of the observation unit 22, and the transfer table 24.
  • the container transport device 23 has a vertical robot 38 having an articulated arm, a rotary stage 39, a mini stage 36, and an arm portion 37.
  • the rotation stage 39 is attached to the tip of the vertical robot 38 so as to be rotatable 180 ° in the horizontal direction via the rotation shaft 35a. Therefore, in the rotary stage 39, the arm portion 37 can face the stocker 21, the sample table 31, and the transfer table 24, respectively.
  • mini stage 36 is slidably attached to the rotary stage 39 in the horizontal direction.
  • An arm portion 37 for gripping the culture vessel 19 is attached to the mini stage 36.
  • control device 41 is connected to the temperature control device 15a, the humidity control device 15b, the observation unit 22, and the container transfer device 23, respectively.
  • the control device 41 includes a calculation unit (processor) 42 and a storage unit 43, and controls each unit of the incubator 11 in an integrated manner according to a predetermined program stored in the storage unit 43.
  • control device 41 controls the temperature control device 15a and the humidity control device 15b, respectively, to maintain the inside of the constant temperature room 15 under predetermined environmental conditions. Further, the control device 41 controls the observation unit 22 and the container transfer device 23 based on a predetermined observation schedule, and automatically executes the observation sequence of the culture container 19.
  • control device 41 transfers the time-lapse image TP imaged by the image pickup device 34 to a general-purpose information processing device such as a connected PC.
  • the image pickup apparatus 34 aligns with, for example, a marker (alignment mark) of a well plate which is a culture vessel. Specifically, the image pickup device 34 aligns the well plate by moving the sample table 31 in the horizontal direction by the control device 41 to correct the position.
  • a general-purpose information processing device such as a PC includes a display unit 44 and an operation unit 45, and is connected to the incubator 11 via a network.
  • the display unit 44 displays information including various images.
  • the display unit 44 displays the result of the image analysis process by the calculation unit 42.
  • the display unit 44 includes a display.
  • the operation unit 45 includes a touch panel, a mouse, a keyboard, and the like.
  • the operation unit 45 and the display unit 44 may be integrally configured.
  • the operation unit 45 and the display unit 44 may be configured as a touch panel provided on the upper casing 12 or the lower casing 13. Further, a user such as an observer sets the environmental conditions of the constant temperature room 15 by operating the operation unit 45.
  • FIG. 4 is a diagram showing an example of the functional configuration of the control device 41 of the present embodiment.
  • the control device 41 is connected to the incubator 11 and acquires and analyzes an image acquired by the image pickup device 34 of the incubator 11.
  • the control device 41 includes a calculation unit 42 and a storage unit 43.
  • the calculation unit 42 includes, for example, a calculation element such as a CPU, and includes a matching unit 421, an acquisition unit 423, an image generation unit 424, a display control unit 425, and an analysis unit 426, and a software function unit thereof. Alternatively, it is provided as a hardware function unit.
  • the storage unit 43 includes a storage element such as a RAM, and stores software for operating the calculation function of the calculation unit 42, the calculation result of the calculation unit 42, and the like.
  • the association unit 421 acquires the time-lapse image TP imaged by the image pickup device 34. Then, the associating unit 421 associates the first image C1 and the second image C2 taken at a certain timing.
  • the image generation unit 424 generates a composite image in which the first image C1 and the second image C2 associated with each other by the association unit 421 are superimposed.
  • the image displayed by the image generation unit 424 on the display unit 44 is hereinafter also referred to as a composite image C3 or simply an image C3.
  • the analysis unit 426 analyzes the state of cells in the image based on the synthetic image C3 generated by the image generation unit 424.
  • the image generation unit 424 generates an image such as a graph showing the analysis result and displays it on the display unit 44.
  • the acquisition unit 423 receives an input from the operation unit 45 and acquires information according to the operation for the operation unit 45.
  • the operation unit 45 accepts an operation of designating or excluding a predetermined cell in a part of the image before automatically recognizing the cell included in the image captured by the image pickup device 34.
  • the operation unit 45 automatically or manually designates a predetermined cell after automatically recognizing (detecting, associating the same cell between the time before and after) the cells included in the image captured by the image pickup device 34.
  • the operation to exclude may be accepted.
  • the user may choose not to specify the cell in any of the operations in the operation unit 45. That is, the acquisition unit 423 acquires cell designation information indicating a predetermined cell among one or a plurality of cells included in the observation result obtained by time-lapse observation of living cells.
  • the image generation unit 424 and the analysis unit 426 execute the generation and analysis processing of the composite image C3 according to the designated information, respectively. If the cell designation information is not set, the image generation unit 424 generates a synthetic image C3 showing all the cells in the image.
  • the display control unit 425 causes the display unit 44 to display the generated composite image C3 and an image such as a graph showing the analysis result.
  • the composite image C3 displayed on the display unit 44 the composite image C3 on which the first image C1 and the second image C2 are superimposed is displayed.
  • the image generation unit 424 generates a composite image C3 by superimposing the two images C1 and C2, and the display unit 44 displays the generated composite image C3, but the present invention is limited to this. It is not something that will be done.
  • the display unit 44 may be configured to directly display the superimposed images of the two images C1 and C2.
  • control device 41 is simplified for the sake of simplification of the description, but the control device 41 is not limited to the case where the control device 41 is composed of one device.
  • the control device 41 is not limited to the case where the control device 41 is composed of one device.
  • the association unit 421 and the image generation unit 424 are configured to be provided in the incubator 11, and the analysis unit 426, the acquisition unit 423, and the display control unit 425 are used as general-purpose information processing devices such as PCs. It may be provided as a configuration. Even when the control device 41 is configured by three or more devices having information processing functions, it can be realized by appropriately providing each function of FIG. 4 in each device.
  • FIG. 5 is a diagram showing an example of a series of operations related to the time-lapse photographing process by the control device 41 of the present embodiment. The operation of the control device 41 will be described with reference to the figure.
  • Step S10 When the control device 41 recognizes the instruction to start the time lapse shooting, it accepts the input of the information regarding the time lapse observation schedule via the operation unit 45.
  • the information received here includes the time-lapse shooting interval and the number of cycles (number of shots).
  • the control device 41 holds the received information in a storage unit such as a memory, and proceeds to the process in step S20.
  • Step S20 The control device 41 determines whether or not the number of times of shooting has reached the number of cycles set in step S10. When the control device 41 determines that the number of times of shooting is less than the set number of cycles (step S20; NO), the process proceeds to step S30.
  • Step S30 The control device 41 determines whether or not the imaging timing has arrived.
  • step S30 determines that the image pickup timing has not arrived (step S30; NO)
  • the control device 41 waits until the image pickup timing arrives.
  • step S30; YES the control device 41 advances the process to step S40.
  • Step S40 The control device 41 outputs an imaging instruction for the first image C1 to the observation unit 22. Specifically, the control device 41 outputs an output instruction of the excitation light having the first excitation wavelength to the excitation illumination unit 33a of the observation unit 22. The control device 41 outputs an image pickup instruction to the image pickup device 34 of the observation unit 22. As a result, the image pickup apparatus 34 captures the first image C1. The association unit 421 of the control device 41 acquires the captured first image C1 and stores the acquired first image C1 in the storage unit 43. The series of operations of the control device 41 in step S40 is also referred to as imaging by the fluorescence channel 1.
  • Step S50 The control device 41 outputs an imaging instruction for the second image C2 to the observation unit 22. Specifically, the control device 41 outputs an output instruction of the excitation light having the second excitation wavelength to the excitation illumination unit 33a of the observation unit 22. The control device 41 outputs an image pickup instruction to the image pickup device 34 of the observation unit 22. As a result, the image pickup apparatus 34 captures the second image C2.
  • the associating unit 421 of the control device 41 acquires the captured second image C2, and stores the acquired second image C2 in the storage unit 43 in association with the first image C1 captured in step S20. ..
  • the series of operations of the control device 41 in step S50 is also referred to as imaging by the fluorescence channel 2.
  • FIG. 6 is a diagram showing an example of the imaging timing of the time-lapse image TP of the present embodiment.
  • the control device 41 images the time-lapse image TP at the first image pickup timing T1, the second image pickup timing T2, the third image pickup timing T3, and so on. As described above, the control device 41 captures the first image C1 and the second image C2 at different timings from each other. In the example shown in the figure, the control device 41 captures the first image C11 at the time t11 and the second image C21 at the time t12 at the first imaging timing T1.
  • the control device 41 captures the first image C12 at time t21 and the second image C22 at time t22.
  • the control device 41 captures the first image C13 at time t31 and the second image C23 at time t32 at the third imaging timing T3.
  • the interval between the time t11, which is the imaging time of the first image C11, and the time t12, which is the imaging time of the second image C21 is sufficiently larger than the interval between the first imaging timing T1 and the second imaging timing T2.
  • the interval between adjacent image pickup timings T (for example, the interval between the first image pickup timing T1 and the second image pickup timing T2) is also referred to as a time lapse interval.
  • the interval between the imaging time of the first image C1 and the imaging time of the second image C2 at a certain imaging timing T is a fluorescent image. Also called the imaging interval. That is, in the imaging system 1 of the present embodiment, the imaging interval of the fluorescent image is sufficiently shorter than the time-lapse interval.
  • Step S60 the image generation unit 424 of the control device 41 generates a composite image C3 from the first image C1 and the second image C2. Specifically, the image generation unit 424 reads out the first image C1 and the second image C2 stored in association with the storage unit 43 in step S50. The image generation unit 424 generates an image C3 by superimposing the two images from the first image C1 and the second image C2 read out based on the correspondence. The image generation unit 424 may be combined by aligning the first image C1 and the second image C2 with each other. In this case, the image generation unit 424 may perform alignment based on the position of the reference position marker imaged on the first image C1 and the position of the reference position marker imaged on the second image C2. good.
  • FIG. 7 is a diagram showing an example of generation of a composite image C3 by the image generation unit 424 of the present embodiment.
  • the first image C1 that is, the first image C11
  • the second image C2 that is, the second image C21
  • the image generation unit 424 generates a composite image C3 (that is, a composite image C31) at the first imaging timing T1 in which the first image C11 and the second image C21 are superimposed.
  • the first image C1 and the second image C2 at each image pickup timing T of the second image pickup timing T2, the third image pickup timing T3, and so on are stored in association with each other.
  • the image generation unit 424 generates a composite image C3 from the first image C1 and the second image C2 at each imaging timing T.
  • the fluorescent protein (RFP gene) expressed in the cell has a first color tone (in the embodiment, in the embodiment) in the first image C1. Appears in red).
  • the GFP gene tagged with the specific substance is in the second color tone (green in the embodiment) in the second image C2. Appears in. Therefore, in the composite image C3 in which the two images C1 and C2 are superimposed, the cytoplasm appears in the first color tone (for example, red), and a specific substance such as an inclusion body appears in the second color tone (for example, green).
  • Step S70 Returning to FIG. 5, the image generation unit 424 stores the image C3 in the storage unit 43.
  • Step S80 The control device 41 returns to step S20 when the number of times of shooting is incremented by 1. After that, the same process as above is repeated, and when the control device 41 determines that the number of shots has reached the set number of cycles (step S20; Yes), the time-lapse shooting is terminated.
  • the above processing flow during time-lapse shooting is an example, and is not limited to this.
  • the image C3 does not have to be displayed for the image displayed on the display unit 44. That is, as described above in the description of FIG. 4, the display control unit 425 reads the first image C1 and the second image C2 associated with each other in step S30 from the storage unit 43 and outputs them to the display unit 44. , The display unit 44 can also superimpose and display the two input images C1 and C2.
  • the storage unit 43 stores a number of composite images C3 (or images C1 and images C2 associated with each imaging timing) according to the set number of cycles.
  • the images (images C1, C2, C3) stored in the storage unit 43 are used for analysis and the like after the completion of the time-lapse photography.
  • the control device (that is, the image analysis system) 41 of the present embodiment causes the display unit 44 to display a time-lapse image or the like when the analysis application or the like is executed.
  • FIG. 8 is a diagram showing a first example of an image displayed on the display unit 44.
  • the first example of an image is specifically a graphical user interface (eg, GUI, UI, etc.) associated with an analysis application.
  • the user interface shown in FIG. 8 displays, for example, a time-lapse image P1 obtained by time-lapse photography by the imaging system 1, a time bar P2, a display time operation tab P3, and an operation menu P4.
  • the time-lapse image P1 (composite image C3) is an image acquired at a certain point in time and contains 6 cells.
  • the six cells are (1) three cells (cells 101, 102, 103) expressing a fusion protein labeled with a red fluorescent protein and a green fluorescent protein (for example, ⁇ -sinucrane + green fluorescent protein) in the cells. ), And (2) three cells (cells 201, 202, 203) that express the red fluorescent protein in the cells but do not express the fusion protein fused with the green fluorescent protein.
  • a plurality of types of fluorescent protein genes have been introduced into these cell groups in advance.
  • two types of fluorescent protein genes are introduced, although not particularly limited.
  • One is an expression vector in which the RFP gene is integrated with a promoter for constantly expressing RFP in the cell during time-lapse imaging.
  • the other is an expression vector in which a gene encoding a fusion protein of GFP and ⁇ -synuclein is integrated with a promoter derived from ⁇ -synuclein. Therefore, even if ⁇ -synuclein labeled with GFP is not expressed, the presence and shape of cells, the position of the cells, and the like can be confirmed by confirming the presence or absence of red fluorescence caused by RFP on the time-lapse image. In time-lapse photography, red fluorescence and / or green fluorescence could be confirmed from a certain cell at the beginning of photography, but if those fluorescence is no longer observed after that, it means that the cell has died.
  • the increase or decrease in the expression level of ⁇ -synuclein can be confirmed from the luminance value of green fluorescence in the time-lapse image. For example, if there is a change in the luminance value of green fluorescence after a certain drug is applied to cells, it can be inferred that it has some effect on the control of ⁇ -synuclein expression.
  • “Insolution (+)” means that GFP is expressed
  • “Insolution ( ⁇ )” means that GFP is not expressed.
  • the time bar P2 indicates which of the time-series imaging timings T is the time-lapse image P1 obtained at which imaging timing T.
  • the display time operation tab P3 is used to display the time-lapse image P1 obtained at the desired imaging timing T among the time-series imaging timings T.
  • the user can use the display time operation tab P3 to select a time-lapse image P1 having an arbitrary imaging timing T to be displayed on the display unit 44 from the time-lapse images.
  • the operation menu P4 is a user interface for accepting an operation of selecting an image type and a display method displayed on the display unit 44.
  • the operation menu P4 is provided with buttons such as cell selection B1 and graph display B2. The operation when the cell selection B1 and the graph display B2 are selected and the screen displayed on the display unit 44 will be described with reference to FIGS. 9 and 10, respectively.
  • the graphical user interface P10 shown in FIG. 8 transitions to the graphical user interface P20 shown in FIG.
  • the graphical user interface P20 shown in FIG. 9 is a second example of an image displayed on the display unit 44.
  • the time-lapse image P21 (eg, synthetic image C3) contains a plurality of cells.
  • the analysis application of the present embodiment automatically recognizes (detects, time before and after) the cell in the time-lapse image P21. It has the function of associating the same cells in.
  • the operation of setting a predetermined area in an image in order to execute image analysis is called ROI setting.
  • one ROI may be set for one image or a plurality of ROIs may be set depending on the type of image analysis.
  • the analysis application has an algorithm for automatically recognizing cells contained therein on a time-lapse image P21 (for example, a synthetic image C3).
  • the analysis application also automatically performs ROI settings for each of the auto-recognized cells.
  • the time-lapse image P21 shows an example in which six cells are automatically recognized by the analysis application and the ROI is set for each cell.
  • the user may set the ROI.
  • the user can set the ROI for each of the cells 101, 102, and 103 by manipulating a mouse (not shown) on the time-lapse image P21.
  • the user uses the operation buttons (add button B3, delete button B4) shown in the operation menu to determine whether or not to use each of the six ROIs for subsequent analysis processing (for example, graph display). Can be selected. Specifically, when the user wants to exclude the cell 101 from the analysis target, the ROI set in the cell 101 is deleted by the delete button B4. If there is a cell that is not automatically recognized by the analysis application, the user can set a new ROI for the cell by operating the mouse and then operate the additional button B3 to analyze the cell. Can be added to the group. After selecting the cells to be used for the subsequent image analysis in this way, the user operates the decision button B5 of the image P24 to complete the ROI setting.
  • add button B3, delete button B4 shown in the operation menu to determine whether or not to use each of the six ROIs for subsequent analysis processing (for example, graph display). Can be selected. Specifically, when the user wants to exclude the cell 101 from the analysis target, the ROI set in the cell 101 is deleted by the delete button B4. If there is a cell that is not automatically recognized by the
  • the ROI is set for the region containing the cells recognized by the analysis process, but the ROI is not limited to this.
  • the ROI may be set by using the automatic recognition result of cells before the analysis process is executed, and the analysis process may be executed after the ROI is set.
  • the user interface P30 includes a graph P6 showing the time change regarding the state of each cell set as the analysis target in the ROI setting.
  • the graph P6 will be described with reference to specific examples.
  • the graph P362 (G2) of the survival rate of the group is represented by a broken line.
  • Graph P36 contributes to the study of the effect of the presence of inclusion bodies in cells on cell survival (or death). Furthermore, although not shown in graph P36, if inclusion bodies were not formed at the start of observation, but there were cells that formed inclusion bodies in the middle of the period, graph P361 was reduced to two. You may divide it. That is, as a configuration for drawing a graph of survival rate for cell groups that did not form inclusion bodies during the period t0-t26 and a graph of survival rate for cell groups that formed inclusion bodies during the period t0-t26. May be good.
  • the graph P362 may be divided into two. That is, a graph of the survival rate for the cell group in which the inclusion body was formed during the period t0-t26 and a graph of the survival rate for the cell group in which the inclusion body disappeared in the middle of the period t0-t26 are drawn. It may be configured to be used. Furthermore, the survival rate was calculated for each cell group in which inclusion bodies were present throughout the period, cells that disappeared in the middle of the period, cells that formed inclusion bodies in the middle of the period, and cells that did not form inclusion bodies throughout the period. It may be configured to draw four graphs. The drawing of the graph (graphs P361 and P362 in FIG.
  • the survival information of the cells is acquired by analyzing the synthetic image C3 for all the cells tracked by the ROI setting operation information through the user interface P20 of FIG. Specifically, cell survival based on cell information automatically recognized based on whether or not to recognize the first color fluorescent protein (for example, RFP) appearing in image C3 by image analysis before the ROI setting process. Get information. Then, for the cells determined to be alive, whether or not to recognize the second color-tone fluorescent protein (for example, the fusion protein of ⁇ -sinucrane and GFP) contained in the encapsulater by image analysis.
  • the first color fluorescent protein for example, RFP
  • the presence or absence of a specific substance eg, GFP fusion protein
  • the number of living cells at each timing of time-lapse imaging is counted separately according to the presence or absence of a specific substance, and the survival rate is obtained from the ratio with the number of cells at the start of time-lapse imaging.
  • the cells to be image-analyzed are, but are not limited to, the cells to be tracked according to the ROI setting operation information. For example, all cells in the image may be analyzed. Further, for example, when cells are detected by image analysis, cells may be erroneously detected or cells that the user wants to exclude from the tracking target may be included.
  • the above cell designation information is reset through the synthetic image C3 through the user interface image in which the desired cell can be selected as shown in FIG. 9, and the falsely detected cell or the user is removed from the tracking target. You may exclude the cells you want to remove.
  • the analysis unit 426 of the control device 41 recognizes the button operation of the survival display B6 in FIG. 10, it performs from the above image analysis to counting the number of cells and calculating the survival rate of cells.
  • the image generation unit 424 generates a graph image P36 as illustrated in FIG. 10 from the obtained cell survival rate, and the display control unit 425 causes the display unit 44 to display the image P30 including the generated graph image P36. .. After that, by operating the return B7 button in FIG.
  • the user interface image displayed on the display unit 44 transitions from the image P30 in FIG. 10 to the image P10 in FIG. [Other examples of graph images]
  • the cells to be observed are classified into a cell group having a relatively small amount of inclusion bodies and an inclusion body. It may be classified into a cell group having a relatively large amount.
  • the image generation unit 424 includes a graph image P361 (first graph G1) of a cell group having a relatively small amount of inclusion bodies classified based on the second image C2, and a cell group having a relatively large amount of inclusion bodies.
  • a graph image G3 representing the graph image P362 (second graph G2) is generated. Regarding which of the two cell groups each cell belongs to, for example, a desired threshold value such as the brightness or area of the region corresponding to the inclusion body is set, and the amount of the inclusion body of each cell and the set threshold value are used. Judgment is made based on the comparison of.
  • the graph image P361 (first graph G1) shows the state of death of a cell group having a relatively small amount of inclusion bodies over time.
  • Graph image P362 (second graph G2) shows the situation of death over time of a cell group having a relatively large amount of inclusion bodies.
  • FIG. 11 is a diagram showing an example of an image generated by the image generation unit 424 of the present embodiment.
  • the time change of the fluorescence of the second color tone appearing in the second image C2 indicates that the state of the cell to be observed changed with the passage of time.
  • the fluorescence of the second color tone in the second image C2 is not expressed.
  • fluorescence of the second color tone is expressed in the composite image C32 at the imaging timing T20.
  • fluorescence of the second color tone is further expressed. That is, in this example, the amount of fluorescence of the second color tone (for example, the area of fluorescence of the second color tone) increases with the passage of time.
  • the display control unit 425 causes the display unit 44 to display the generated image C3 based on the time series of the time-lapse observation. For example, the display control unit 425 displays an image at a certain imaging timing selected from the time-lapse image TP in response to an operation on the display time operation tab P3. For example, the display control unit 425 sequentially displays the images C3 for the imaging timings T10, T20, and T30 each time the display time operation tab P3 is operated.
  • the display control unit 425 may simultaneously display images C3 for a plurality of imaging timings (for example, images C31, C32, and C33 for imaging timings T10, T20, and T30) in chronological order. With this configuration, it is possible to present the time-dependent changes in the state of the cells to be observed in an easy-to-understand format.
  • the image generation unit 424 determines the display color of the image of the cell before the change and the cell after the change.
  • the composite image C3 may be generated by making the display colors of the images different from each other. For example, when inclusion bodies are expressed in the cells to be observed after a certain imaging timing T, the composite image C3 before the imaging timing T does not express the second color tone fluorescence, and the composite image after the imaging timing T.
  • the second color tone fluorescence is expressed in C3.
  • the image generation unit 424 makes the display color of the composite image C3 before the imaging timing T without the second image C2 and the display color of the composite image C3 after the imaging timing T different from each other.
  • the image generation unit 424 instead of changing the color tone, or in addition to changing the color tone, the image generation unit 424 produces an image such as a symbol or a character indicating that the state of the characteristic shown by the second image C2 has changed with the passage of time as a composite image. It may be included in C3.
  • the image generation unit 424 displays the image of the cell before the change and the image of the cell after the change.
  • the synthetic image C3 is generated by making the images of the cells of the cells distinguishable from each other. Furthermore, when the number of cells is determined according to the presence or absence of inclusion bodies by the above-mentioned image analysis, the ratio of cells with inclusion bodies and cells without inclusion bodies in a certain frame is superimposed on the synthetic image C3. , Or it may be displayed at a predetermined place such as an image P10.
  • the control device 41 displays a composite image C3 in which the first image C1 and the second image C2 are superimposed.
  • the imaging system 1 configured in this way, for example, the contour of each cell and the presence or absence of a substance in the cell are displayed in association with each other. Therefore, according to the imaging system 1, the image of the cell can be displayed in a display format that is easy for the observer to understand, as compared with the case where only the first image C1 or only the second image C2 is displayed, for example.
  • RFP is exemplified as a fluorescent protein that is constantly expressed in cells during the time-lapse imaging period
  • GFP is exemplified in order to detect the presence / absence of expression, the expression level, the localization in cells, and the like.
  • Various fluorescent protein genes are available and can be combined as appropriate by those skilled in the art.
  • fluorescent proteins that is, a fluorescent protein having a fluorescent wavelength different from that of the fluorescent protein of 1 and a second fluorescent protein whose expression is controlled by the intracellular environment.
  • a fluorescent protein having a fluorescent wavelength different from that of the fluorescent protein of 1 and a second fluorescent protein whose expression is controlled by the intracellular environment For example, it is also possible to use a yellow fluorescent protein (YFP, Yellow Fluorescent Protein) instead of GFP.
  • YFP Yellow Fluorescent Protein
  • GFP Yellow Fluorescent Protein
  • the image C3 may be displayed according to an instruction from the user during shooting.
  • the image to be displayed may be based on the images C1 and C2 already acquired at the timing when the instruction from the user is received, or based on the images C1 and C2 newly acquired after the timing when the instruction is received. It may be a thing.
  • the image generation unit 424 included in the control device 41 of the present embodiment has the time of the first graph G1 showing the time change of the first image C1 and the time of the cells expressing the second color tone fluorescence in the second image C2.
  • a graph image G3 in which a second graph G2 showing a change is drawn is generated as an image C3.
  • the imaging system 1 configured in this way the image of the cell is displayed in a display format that is easy for the observer to understand, as compared with the case where only the first graph G1 or only the second graph G2 is displayed, for example. Can be done.
  • a program for realizing the function of the control device 41 may be recorded on a computer-readable recording medium, and the program recorded on the recording medium may be read by the computer system and executed.
  • the term "computer system” as used herein includes hardware such as an OS and peripheral devices.
  • the "computer system” includes the homepage providing environment (or display environment) if the WWW system is used.
  • the "computer-readable recording medium” refers to a portable medium such as a flexible disk, a magneto-optical disk, a ROM, or a CD-ROM, and a storage device such as a hard disk built in a computer system.
  • a "computer-readable recording medium” is a communication line for transmitting a program via a network such as the Internet or a communication line such as a telephone line, and dynamically holds the program for a short period of time. In that case, it also includes those that hold the program for a certain period of time, such as the volatile memory inside the computer system that is the server or client.
  • the above-mentioned program may be for realizing a part of the above-mentioned functions, and may be further realized for realizing the above-mentioned functions in combination with a program already recorded in the computer system.

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Chemical & Material Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Analytical Chemistry (AREA)
  • General Physics & Mathematics (AREA)
  • Immunology (AREA)
  • General Health & Medical Sciences (AREA)
  • Biochemistry (AREA)
  • Pathology (AREA)
  • Biomedical Technology (AREA)
  • Molecular Biology (AREA)
  • Organic Chemistry (AREA)
  • Zoology (AREA)
  • Food Science & Technology (AREA)
  • Optics & Photonics (AREA)
  • Biophysics (AREA)
  • Proteomics, Peptides & Aminoacids (AREA)
  • Wood Science & Technology (AREA)
  • Medicinal Chemistry (AREA)
  • Hematology (AREA)
  • Urology & Nephrology (AREA)
  • Genetics & Genomics (AREA)
  • Biotechnology (AREA)
  • Microbiology (AREA)
  • General Engineering & Computer Science (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Multimedia (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Investigating, Analyzing Materials By Fluorescence Or Luminescence (AREA)

Abstract

画像解析方法は、細胞質全体に分布し定常的に細胞内で発現する第1の蛍光タンパク質による第1色調の第1蛍光画像と、細胞内で凝集性/局在性を示す所定のタンパク質とタグ付けされた第2の蛍光タンパク質による第2色調の第2蛍光画像とを取得する画像取得工程と、前記第1蛍光画像及び前記第2蛍光画像を互いに対応付けて記憶部に記憶させる対応付け工程と、を含む。

Description

画像解析方法、観察システム及び画像解析プログラム
 本発明は、画像解析方法、観察システム及び画像解析プログラムに関する。本願は、2020年5月20日に、日本に出願された特願2020-087841号に基づき優先権を主張し、その内容をここに援用する。
 従来、細胞に蛍光タンパク質遺伝子を導入することにより、生細胞の蛍光タイムラプス観察を行う技術が知られている。蛍光タンパク質として、緑色蛍光タンパク質(GFP:Green Fluorescent Protein)や、赤色蛍光タンパクス質(RFP:Red Fluorescent Protein)などが知られている。これら蛍光タンパク質は、細胞内における遺伝子発現やタンパク質の局在のマーカーとして一般的に使用されている。
特開2009-072155号公報
 本発明の一態様は、細胞質全体に分布し定常的に細胞内で発現する第1の蛍光タンパク質による第1色調の第1蛍光画像と、細胞内で凝集性/局在性を示す所定のタンパク質とタグ付けされた第2の蛍光タンパク質による第2色調の第2蛍光画像とを取得する画像取得工程と、前記第1蛍光画像及び前記第2蛍光画像を互いに対応付けて記憶部に記憶させる対応付け工程と、を含む画像解析方法である。
 本発明の一態様は、光源装置、蛍光励起フィルタ、対物レンズおよび撮像装置を備え、蛍光観察可能な蛍光顕微鏡と、前記蛍光顕微鏡における生細胞の時系列の観察によって得られた複数の時系列の画像を処理する画像処理部と、前記蛍光顕微鏡を制御する制御部を備える観察システムであって、前記複数の時系列の画像であって、細胞質全体に分布し定常的に細胞内で発現する第1の蛍光タンパク質による第1色調の第1蛍光画像と、細胞内で凝集性/局在性を示す所定のタンパク質とタグ付けされた第2の蛍光タンパク質による第2色調の第2蛍光画像との対応付けを行う対応付け部と、を備える、観察システムである。
 本発明の一態様は、コンピュータに、細胞質全体に分布し定常的に細胞内で発現する第1の蛍光タンパク質による第1色調の第1蛍光画像と、細胞内で凝集性/局在性を示す所定のタンパク質とタグ付けされた第2の蛍光タンパク質による第2色調の第2蛍光画像とを取得させ、前記第1蛍光画像及び前記第2蛍光画像を互いに対応付けて記憶部に記憶させる対応付けを行わせるための画像解析プログラムである。
インキュベータの概要を示すブロック図である。 インキュベータの正面図の一例を示す図である。 インキュベータの平面図の一例を示す図である。 本実施形態の制御装置の機能構成の一例を示す図である。 本実施形態の制御装置によるタイムラプス撮影処理に関する一連の動作の一例を示す図である。 本実施形態のタイムラプス画像の撮像タイミングの一例を示す図である。 本実施形態の画像生成部による合成画像の生成の一例を示す図である。 本実施形態の表示部に表示される画像の第1の例を示す図である。 本実施形態の表示部に表示される画像の第2の例を示す図である。 本実施形態の表示部に表示される画像の第3の例を示す図である。 本実施形態の画像生成部が生成する画像の一例を示す図である。
 以下、図面を参照して、第1の実施形態について説明する。図1は、インキュベータ11の概要を示すブロック図である。また、図2及び図3は、インキュベータ11の正面図および平面図の一例を示す図である。
 このインキュベータ11とは、撮像システム1の一例である。
 実施形態のインキュベータ11は、上部ケーシング12と下部ケーシング13とを有している。インキュベータ11の組立状態において、上部ケーシング12は下部ケーシング13の上に載置される。なお、上部ケーシング12と下部ケーシング13との内部空間は、ベースプレート14によって上下に仕切られている。
 まず、上部ケーシング12の構成の概要を説明する。上部ケーシング12の内部には、細胞の培養を行う恒温室15が形成されている。この恒温室15は温度調整装置15aおよび湿度調整装置15bを有しており、恒温室15内は細胞の培養に適した環境(例えば温度37℃、湿度90%の雰囲気)に維持されている(なお、図2、図3での温度調整装置15a、湿度調整装置15bの図示は省略する)。つまり、恒温室15は、内部を所定の環境条件に維持可能である。
 恒温室15の前面には、大扉16、中扉17、小扉18が配置されている。大扉16は、上部ケーシング12および下部ケーシング13の前面を覆っている。中扉17は、上部ケーシング12の前面を覆っており、大扉16の開放時に恒温室15と外部との環境を隔離する。小扉18は、細胞を培養する培養容器19を搬出入するための扉であって、中扉17に取り付けられている。この小扉18から培養容器19を搬出入することで、恒温室15の環境変化を抑制することが可能となる。なお、大扉16、中扉17、小扉18は、パッキンSL1、パッキンSL2、パッキンSL3によりそれぞれ気密性が維持されている。培養容器19は、例えば、ウェルプレート(例、6ウェルを有するプレートなど)である。
 また、恒温室15には、ストッカー21、観察ユニット22、容器搬送装置23、搬送台24が配置されている。ここで、搬送台24は、小扉18の手前に配置されており、培養容器19を小扉18から搬出入する。
 ストッカー21は、上部ケーシング12の前面(図3の下側、大扉16などの扉側)からみて恒温室15の左側に配置される。ストッカー21は複数の棚を有しており、ストッカー21の各々の棚には複数の培養容器19を収納することができる。なお、各々の培養容器19には、培養の対象となる細胞が培地とともに収容されている。このように恒温室15は、細胞を培養する培養容器19を収納する。恒温室15は、培養容器19に収納された細胞を培養する培養装置の一例である。
 観察ユニット22は、上部ケーシング12の前面(図3の下側、大扉16などの扉側)からみて恒温室15の右側に配置される。この観察ユニット22は、培養容器19内の細胞のタイムラプス観察を実行することができる。ここで、タイムラプス観察とは、予め設定されている撮像スケジュールに基づいて、所定の時間毎にサンプル(例、細胞)を撮像することにより、撮像した複数の画像(タイムラプス画像)をもとにサンプルの時系列の変化を観察する手法のことである。サンプルの撮像は一定の時間間隔で行われてよいし、異なる時間間隔で行われてもよい。
 ここで、観察ユニット22は、上部ケーシング12のベースプレート14の開口部に嵌め込まれて配置される。観察ユニット22は、試料台31と、試料台31の上方に張り出したスタンドアーム32と、蛍光観察用の顕微光学系および撮像装置34を内蔵した本体部分33とを有している。そして、試料台31およびスタンドアーム32は恒温室15に配置される一方で、本体部分33は下部ケーシング13内に収納される。
 試料台31は透光性の材質で構成されており、その上に培養容器19を載置することができる。この試料台31は水平方向に移動可能に構成されており、上面に載置した培養容器19の位置を調整できる。また、スタンドアーム32にはLED光源35が内蔵されている。そして、撮像装置34は、スタンドアーム32によって試料台31の上側から透過照明された培養容器19の細胞を、顕微光学系を介して撮像することで細胞の位相差画像を取得できる。撮像装置34は、恒温室15内で培養容器に収容されている細胞を所定時間毎に撮像する。
 また、観察ユニット22の本体部分33は、蛍光観察用の励起照明ユニット33aを有している。撮像装置34は、励起光の落射照明によって蛍光を顕微鏡光学系を介して撮像することで、細胞の蛍光画像を取得できる。
 以下の説明では、細胞のタイムラプス観察が実行されて得られる時系列の画像データ(複数の画像)をタイムラプス画像TPという。タイムラプス画像TPには、細胞が経時的に撮像された複数の画像が含まれる。観察ユニット22は、タイムラプス画像TPを撮像する顕微鏡の一例である。
 本実施形態では、観察ユニット22の顕微鏡光学系は、蛍光観察によって培養容器19の細胞(例えば、生細胞)を観察する。
 培養容器19内で培養されている細胞には、互いに蛍光波長(すなわち、色調)が異なる複数種類の蛍光タンパク質の遺伝子が、あらかじめ導入されている。本実施形態にかかる培養細胞おいては、第1波長域(第1色調)の蛍光を発する蛍光タンパク質としてRFP遺伝子が、また第2波長域(第2色調)の蛍光を発する蛍光タンパク質としてGFP遺伝子が導入されている。
 なお、ここでは、観察開始時点において細胞に蛍光タンパク質の遺伝子が組み込まれていることを、細胞に「あらかじめ」蛍光タンパク質の遺伝子が導入されている、としている。すなわち、細胞への蛍光タンパク質の遺伝子の導入に関しては、遺伝子操作によって細胞に初めから組み込まれている場合と、観察前に、プラスミドやウイルスベクター等を使用して導入することが可能である。本実施形態においては、GFP遺伝子は、細胞自体に組み込まれており、RFP遺伝子は、プラスミドまたはウイルスベクター等により細胞に導入している。
 本実施形態においては、第1色調の蛍光を発する蛍光タンパク質は、細胞内で発現する蛍光タンパク質であり、励起光が照射されると、赤色の蛍光を発する。第1色調の蛍光タンパク質は、細胞内において安定して発現されている。そのため、この細胞は、生きている限り安定して蛍光を発する。これにより、細胞の生死状態の判定および細胞の形状の把握が可能となる。
 また、本実施形態においては、培養容器19内で培養されている細胞には、GFP遺伝子が導入されており、GFP遺伝子が特定の物質(αシヌクレインをコードする遺伝子)にタグ付けされている。特定の物質とGFPの融合タンパク質が発現し、所定の波長の励起光が照射されると、例えば、緑色の蛍光波長を発する。この第2色調の蛍光タンパク質(GFP)は、細胞内の特性の状態に応じた発現程度を示す。画像を通じてGFPが観察されることをもって、特定の物質の局在性/凝集性を確認できる。
 ここで、細胞内の特性の状態とは、例えば、細胞内の特定の物質(αシヌクレイン等)の封入体の程度(封入体の有無、細胞内の封入体の量など)である。一例として、第2色調の蛍光タンパク質は、細胞内に封入体が存在しない場合には蛍光が発現せず、細胞内に封入体が存在する場合には蛍光が発現する。また、第2色調の蛍光タンパク質は、細胞内の封入体の量が多いほど発現の程度が大きく(つまり、蛍光が強く)なる。
 観察ユニット22の顕微鏡光学系は、蛍光顕微鏡である。励起照明ユニット33aは、蛍光タンパク質を励起する波長の励起光を出力する。例えば、励起照明ユニット33aは、第1色調の蛍光タンパク質の蛍光波長に応じた第1励起波長(587nm)の光と、第2色調の蛍光タンパク質の蛍光波長に応じた第2励起波長(488nm)の光とを出力する。試料台31の培養容器19に光が照射されると、照射された光の波長に応じた蛍光が細胞内の蛍光タンパク質から発せられる。第1励起波長(587nm)の光に対しては、第1蛍光波長(610nm)の蛍光が、第2励起波長(488nm)の光に対しては、第2蛍光波長(507nm)の蛍光が発せられる。発せられた蛍光は、撮像装置34に入射し、こうして、蛍光画像が形成される。
 このように、本実施形態のタイムラプス観察によって得られるタイムラプス画像TPは蛍光画像である。この蛍光画像には、第1色調の蛍光タンパク質の発現の状態を示す第1画像C1と、第2色調の蛍光タンパク質の発現の状態を示す第2画像C2とが含まれる。
 本実施形態の蛍光顕微鏡は、第1画像C1と、第2画像C2とを互いに異なるタイミングにおいて撮像する。具体的には、観察ユニット22は、励起照明ユニット33aが第1励起波長の光を出力している際に、撮像装置34が撮像する画像を第1画像C1として出力する。観察ユニット22は、励起照明ユニット33aが第2励起波長の光を出力している際に、撮像装置34が撮像する画像を第2画像C2として出力する。
 すなわち、撮像装置34は、生細胞をタイムラプス撮像して第1画像C1および第2画像C2をそれぞれ生成する。
 ここで、第1画像C1とは、細胞内において細胞質内で発現する蛍光タンパク質であって、時間の変化に対して安定した発現程度を示す第1色調の蛍光タンパク質の発現の状態を示す画像である。
 第2画像C2とは、細胞内の特定の物質において発現する蛍光タンパク質であって、細胞の特性の状態に応じた発現程度を示す第2色調の蛍光タンパク質の発現の状態を示す画像である。
 容器搬送装置23は、上部ケーシング12の前面からみて恒温室15の中央に配置される。この容器搬送装置23は、ストッカー21、観察ユニット22の試料台31および搬送台24との間で培養容器19の受け渡しを行う。
 図3に示すように、容器搬送装置23は、多関節アームを有する垂直ロボット38と、回転ステージ39と、ミニステージ36と、アーム部37とを有している。回転ステージ39は、垂直ロボット38の先端部に回転軸35aを介して水平方向に180°回転可能に取り付けられている。そのため、回転ステージ39は、ストッカー21、試料台31および搬送台24に対して、アーム部37をそれぞれ対向させることができる。
 また、ミニステージ36は、回転ステージ39に対して水平方向に摺動可能に取り付けられている。ミニステージ36には培養容器19を把持するアーム部37が取り付けられている。
 次に、図2に示す下部ケーシング13の構成の概要を説明する。下部ケーシング13の内部には、観察ユニット22の本体部分33や、インキュベータ11の制御装置41が収納されている。
 制御装置41は、図1に示す通り、温度調整装置15a、湿度調整装置15b、観察ユニット22および容器搬送装置23とそれぞれ接続されている。この制御装置41は、演算部(プロセッサ)42と、記憶部43とを備えており、記憶部43に記憶されている所定のプログラムに従ってインキュベータ11の各部を統括的に制御する。
 一例として、制御装置41は、温度調整装置15aおよび湿度調整装置15bをそれぞれ制御して恒温室15内を所定の環境条件に維持する。また、制御装置41は、所定の観察スケジュールに基づいて、観察ユニット22および容器搬送装置23を制御して、培養容器19の観察シーケンスを自動的に実行する。
 また、制御装置41は、撮像装置34が撮像したタイムラプス画像TPを、接続されているPC等の汎用の情報処理装置に転送する。
 次に、図1に戻ってインキュベータ11の説明を続ける。
 タイムラプス観察において、撮像装置34は、例えば、培養容器であるウェルプレートのマーカー(アライメントマーク)で位置合わせを行う。具体的には、撮像装置34は、制御装置41によって試料台31を水平方向に移動させて位置の補正を行うことにより、ウェルプレートの位置合わせを行う。
 PC等の汎用の情報処理装置は、表示部44および操作部45を含み、インキュベータ11とネットワークを介して接続される。
 表示部44は、各種の画像を含む情報を表示する。例えば、表示部44は、演算部42による画像解析処理の結果を表示する。表示部44は、ディスプレイを備えている。
 操作部45は、タッチパネル、マウス、又はキーボードなどを備えている。なお、操作部45がタッチパネルである場合、操作部45と表示部44とは一体となって構成されてよい。また、操作部45と表示部44とは、上部ケーシング12又は下部ケーシング13に備えられたタッチパネルとして構成してもよい。
 また、観察者等のユーザは、この操作部45を操作することにより、恒温室15の環境条件を設定する。
[制御装置(画像解析システム)の機能構成]
 図4を参照して、制御装置41の機能構成について説明する。以下の説明において、制御装置41のことを、画像解析システムともいう。
 図4は、本実施形態の制御装置41の機能構成の一例を示す図である。制御装置41は、インキュベータ11と接続され、インキュベータ11の撮像装置34にて取得した画像を取得して解析を行う。
 制御装置41は、演算部42と、記憶部43とを備える。演算部42は、例えば、CPUなどの演算素子を備えており、対応付け部421と、取得部423と、画像生成部424と、表示制御部425と、解析部426を、そのソフトウエア機能部又はハードウエア機能部として備える。
 記憶部43は、RAMなどの記憶素子を備えており、演算部42の演算機能を動作させるためのソフトウエアや、演算部42の演算結果などを記憶する。
 対応付け部421は、撮像装置34が撮像したタイムラプス画像TPを取得する。そして、対応付け部421は、あるタイミングで撮影された第1画像C1および第2画像C2の対応付けを行う。
 画像生成部424は、対応付け部421により対応付けられた第1画像C1と第2画像C2とを重ね合わせた合成画像を生成する。この画像生成部424が表示部44に表示させる画像を、以下においては、合成画像C3、あるいは単に画像C3ともいう。
 解析部426は、画像生成部424が生成した合成画像C3に基づき、画像中の細胞の状態を解析する。画像生成部424は、解析結果を表したグラフ等の画像を生成し、表示部44に表示する。
 取得部423は、操作部45から入力を受け付けて、操作部45に対する操作に応じた情報を取得する。本実施形態においては、操作部45は、撮像装置34が撮像する画像に含まれる細胞を自動認識する前に、一部の画像中の所定の細胞を指定する、または除外する操作を受け付ける。
 一方、操作部45は、撮像装置34が撮像する画像に含まれる細胞を自動認識(検出、前後の時刻間での同一細胞の対応付け)した後、自動または手動で所定の細胞を指定する、または除外する操作を受け付けてもよい。
 ユーザは、操作部45においてはいずれの操作においても細胞の指定を行わないことを選ぶこともできる。
 つまり、取得部423は、生細胞のタイムラプス観察によって得られた観察結果に含まれる1又は複数の細胞のうち所定の細胞を示す細胞指定情報を取得する。画像生成部424および解析部426は、指定情報にしたがってそれぞれ合成画像C3の生成や解析の処理を実行する。
 なお、細胞指定情報が設定されていない場合は、画像生成部424は、画像中のすべての細胞が表された合成画像C3を生成する。
 表示制御部425は、生成された合成画像C3および解析結果を表したグラフ等の画像を表示部44に表示させる。表示部44に表示される合成画像C3は、第1画像C1および第2画像C2が重ね合わせられた合成画像C3が表示される。
 なお、実施形態においては、画像生成部424が2つの画像C1、C2を重ね合せた合成画像C3を生成し、表示部44には生成した合成画像C3を表示する構成としているが、これに限定されるものではない。例えば、表示部44には、2つの画像C1、C2の重畳画像を直接に表示する構成としてもよい。
 また、上記においては、説明の簡素化のため制御装置41の構成を簡略化しているが、制御装置41は、1台の装置から構成される場合には限定されない。例えば、演算部42のうち、対応付け部421および画像生成部424についてはインキュベータ11に設けられる構成とし、解析部426、取得部423および表示制御部425は、PC等の汎用の情報処理装置に設けられる構成としてもよい。3台以上の情報処理機能を備えた装置により制御装置41を構成する場合であっても、図4の各機能を適宜各装置に設けることで実現できる。
[制御装置の動作]
 図5は、本実施形態の制御装置41によるタイムラプス撮影処理に関する一連の動作の一例を示す図である。同図を参照して制御装置41の動作について説明する。
 (ステップS10)制御装置41は、タイムラプス撮影開始の指示を認識すると、操作部45を介してタイムラプス観察スケジュールに関する情報の入力を受け付ける。ここで受け付ける情報は、タイムラプス撮影のインターバルと、サイクル数(撮影の回数)とを含む。制御装置41は、受け付けた情報をメモリ等の記憶部に保持して、処理をステップS20に進める。
 (ステップS20)制御装置41は、撮影回数がステップS10で設定したサイクル数に到達したか否かを判定する。制御装置41は、撮影回数が設定したサイクル数に満たないと判定した場合(ステップS20;NO)には、処理をステップS30へと進める。
 (ステップS30)制御装置41は、撮像タイミングが到来したか否かを判定する。制御装置41は、撮像タイミングが到来していないと判定した場合(ステップS30;NO)には、撮像タイミングの到来まで待ち受ける。制御装置41は、撮像タイミングが到来したと判定した場合(ステップS30;YES)には、処理をステップS40に進める。
 (ステップS40)制御装置41は、観察ユニット22に対して第1画像C1の撮像指示を出力する。具体的には、制御装置41は、観察ユニット22の励起照明ユニット33aに対して、第1励起波長の励起光の出力指示を出力する。制御装置41は、観察ユニット22の撮像装置34に対して撮像指示を出力する。この結果、撮像装置34は、第1画像C1を撮像する。制御装置41の対応付け部421は、撮像された第1画像C1を取得し、取得した第1画像C1を記憶部43に記憶させる。
 このステップS40における制御装置41の一連の動作を、蛍光チャネル1による撮像ともいう。
 (ステップS50)制御装置41は、観察ユニット22に対して第2画像C2の撮像指示を出力する。具体的には、制御装置41は、観察ユニット22の励起照明ユニット33aに対して、第2励起波長の励起光の出力指示を出力する。制御装置41は、観察ユニット22の撮像装置34に対して撮像指示を出力する。この結果、撮像装置34は、第2画像C2を撮像する。
 制御装置41の対応付け部421は、撮像された第2画像C2を取得し、取得した第2画像C2と、ステップS20において撮像された第1画像C1とを対応付けて記憶部43に記憶させる。
 このステップS50における制御装置41の一連の動作を、蛍光チャネル2による撮像ともいう。
 ここで、図6を参照して第1画像C1及び第2画像C2の撮像タイミングについて説明する。
 図6は、本実施形態のタイムラプス画像TPの撮像タイミングの一例を示す図である。
制御装置41は、第1の撮像タイミングT1、第2の撮像タイミングT2、第3の撮像タイミングT3…においてタイムラプス画像TPをそれぞれ撮像する。
 上述したように、制御装置41は、第1画像C1と、第2画像C2とを、互いに異なるタイミングにおいて撮像する。同図に示す一例では、制御装置41は、第1の撮像タイミングT1において、時刻t11に第1画像C11を撮像し、時刻t12に第2画像C21を撮像する。制御装置41は、第2の撮像タイミングT2において、時刻t21に第1画像C12を撮像し、時刻t22に第2画像C22を撮像する。制御装置41は、第3の撮像タイミングT3において、時刻t31に第1画像C13を撮像し、時刻t32に第2画像C23を撮像する。
 ここで、第1画像C11の撮像時刻である時刻t11と第2画像C21の撮像時刻である時刻t12との間隔は、第1の撮像タイミングT1と第2の撮像タイミングT2との間隔よりも十分に短い。
 なお、隣接する撮像タイミングTどうしの間隔(例えば、第1の撮像タイミングT1と第2の撮像タイミングT2との間隔)を、タイムラプス間隔ともいう。また、ある撮像タイミングTにおける第1画像C1の撮像時刻と第2画像C2の撮像時刻との間隔(例えば、第1画像C11の撮像時刻と第2画像C21の撮像時刻との間隔)を蛍光画像の撮像間隔ともいう。
 すなわち、本実施形態の撮像システム1において、蛍光画像の撮像間隔は、タイムラプス間隔よりも十分に短い。
 (ステップS60)図5に戻り、制御装置41の画像生成部424は、第1画像C1と、第2画像C2とから合成画像C3を生成する。具体的には、画像生成部424は、ステップS50において記憶部43に対応付けて記憶された第1画像C1および第2画像C2を読み出す。画像生成部424は、対応付けに基づき読み出した第1画像C1および第2画像C2から、2つの画像を重ね合わせた画像C3を生成する。
 なお、画像生成部424は、第1画像C1と第2画像C2との互いの位置合わせを行って合成してもよい。この場合、画像生成部424は、第1画像C1に撮像されている基準位置マーカーの位置と、第2画像C2に撮像されている基準位置マーカーの位置とに基づいて、位置合わせを行ってもよい。
 図7は、本実施形態の画像生成部424による合成画像C3の生成の一例を示す図である。記憶部43には、第1の撮像タイミングT1における第1画像C1(つまり、第1画像C11)と、第1の撮像タイミングT1における第2画像C2(つまり、第2画像C21)とが互いに対応付けられて記憶されている。画像生成部424は、第1画像C11と、第2画像C21とを重ね合わせた第1の撮像タイミングT1における合成画像C3(つまり、合成画像C31)を生成する。
 また、記憶部43には、第2の撮像タイミングT2、第3の撮像タイミングT3…の各撮像タイミングTにおける、第1画像C1と第2画像C2とが互いに対応付けられて記憶されている。画像生成部424は、撮像タイミングTごとに、第1画像C1と第2画像C2とから合成画像C3を生成する。
 本実施形態の一例においては、撮像装置34の視野内に生きた細胞が存在する場合、第1画像C1には、細胞内で発現する蛍光タンパク質(RFP遺伝子)が第1色調(実施形態においては赤色)で現れる。生きた細胞に封入体等の特定の物質(αシヌクレイン)が存在する場合、第2画像C2には、その特定の物質にタグ付けされているGFP遺伝子が第2色調(実施形態においては緑色)で現れる。したがって、2つの画像C1、C2を重ね合わせた合成画像C3には、細胞質が第1色調(例えば赤色)で、封入体等の特定の物質が第2色調(例えば緑色)で現れる。
 (ステップS70)図5に戻り、画像生成部424は、画像C3を記憶部43に記憶させる。
 (ステップS80)制御装置41は、撮影回数を1加算すると、ステップS20に戻る。以降は、上記と同様の処理を繰り返し、制御装置41が、撮影回数が設定したサイクル数に到達したと判定した場合(ステップS20;Yes)には、タイムラプス撮影を終了する。
 なお、上記のタイムラプス撮影時の処理フローは、一例であり、これに限定されるものではない。例えば、表示部44に表示する画像については、画像C3を表示しなくともよい。すなわち、先に図4の説明においても述べたとおり、表示制御部425は、ステップS30において対応付けた第1画像C1および第2画像C2を記憶部43から読み出し、表示部44に向けて出力し、表示部44は、入力された2つの画像C1、C2を重畳させて表示させることもできる。
[表示部に表示される画像の一例]
 上記の方法によると、記憶部43には、設定したサイクル数に応じた枚数の合成画像C3(又は各撮像タイミングにつき対応付けられた画像C1および画像C2)が記憶される。記憶部43に記憶した画像(画像C1、C2、C3)は、上記のタイムラプス撮影の完了後、解析等に利用される。
 以下、図8から図10を参照して、タイムラプス撮影で得たタイムラプス画像(画像C1、C2、C3)を解析等で利用する一例を説明する。本実施形態の制御装置(すなわち画像解析システム)41は、解析アプリケーション等の実行時に表示部44にタイムラプス画像等を表示させる。
 図8は、表示部44に表示される画像の第1の例を示す図である。画像の第1の例は、具体的には、解析アプリケーションに関連付けられたグラフィカルユーザインタフェイス(例えば、GUI、UIなど)である。図8に示されるユーザインタフェイスは、例えば、撮像システム1によるタイムラプス撮影によって得られたタイムラプス画像P1と、タイムバーP2と、表示時刻操作タブP3と、操作メニューP4とが表示される。
 タイムラプス画像P1(合成画像C3)は、ある時点で取得された画像であり、6つの細胞を含んでいる。6つの細胞とは、(1)細胞内に赤色蛍光タンパク質および緑色蛍光タンパク質でラベルされた融合タンパク質(例えば、αシヌクレイン+緑色蛍光タンパク質)を発現している3つの細胞(細胞101、102、103)、並びに、(2)細胞内に赤色蛍光タンパク質を発現しているが、緑色蛍光タンパク質と融合された融合タンパク質を発現していない3つの細胞(細胞201、202、203)である。これら細胞群には、上述したように、あらかじめ、複数種類の蛍光タンパク質遺伝子が導入されている。
本実施形態では、特に限定されるものではないが、2種類の蛍光タンパク質遺伝子が導入されている。ひとつは、タイムラプス撮影の期間、細胞内でRFPを定常的に発現させるためのプロモータとともにRFP遺伝子が組み込まれた発現ベクターである。他方は、GFPとαシヌクレインとの融合タンパク質をコードする遺伝子がαシヌクレイン由来のプロモータとともに組み込まれた発現ベクターである。そのため、GFPでラベルされたαシヌクレインが発現していなくとも、タイムラプス画像上でRFPに起因する赤色蛍光の有無を確認することによって、細胞の存在や形状、その細胞の位置等を確認できる。なお、タイムラプス撮影において、撮影当初、ある細胞から赤色蛍光および/または緑色蛍光を確認できていたが、その後、それら蛍光が観察されなくなった場合、その細胞は死んだことを意味する。また、撮影当初、赤色蛍光のみが確認されていた細胞から、その後、緑色蛍光が観察されるようになった場合、その時点でαシヌクレインが発現されたことを意味する。また、当初、緑色蛍光が観察されていたが、その後、観察されなくなった場合、細胞内のαシヌクレインがタンパク質分解等により消滅したことを意味する。また、合成画像C3を利用することにより、細胞内でのαシヌクレインの局在や移動を観察することができる。また、ひとつの細胞に着目して、赤色蛍光が観察される領域と、緑色蛍光が観察される領域とを比較すれば、その細胞内で過度にαシヌクレインが発現されているのか否かを確認できる。また、タイムラプス画像における緑色蛍光の輝度値から、αシヌクレインの発現量の増減を確認することができる。例えば、ある薬剤を細胞へ供した後、緑色蛍光の輝度値に変化がみられる場合は、αシヌクレインの発現の制御に関して、何らかの作用を及ぼしていると推測できる。後述するが、図10において、グラフ中、「Inclusion(+)」はGFP発現あり、また「Inclusion(-)」はGFP発現なしを意味する。
 タイムバーP2は、時系列の撮像タイミングTのうち、いずれの撮像タイミングTで得られたタイムラプス画像P1であるかを示す。
 表示時刻操作タブP3は、時系列の撮像タイミングTのうち、所望の撮像タイミングTで得られたタイムラプス画像P1を表示するために用いられる。ユーザは、表示時刻操作タブP3を使用して、タイムラプス画像の中から、表示部44に表示する任意の撮像タイミングTのタイムラプス画像P1を選択することができる。
 操作メニューP4は、表示部44に表示される画像の種類や表示方法を選択する操作を受け付けるためのユーザインタフェイスである。操作メニューP4としては、細胞選択B1およびグラフ表示B2等のボタンが設けられている。細胞選択B1およびグラフ表示B2が選択された場合の動作や表示部44に表示される画面については、それぞれ図9および図10を参照して説明する。
[ROI(Region Of Interest)の設定]
 操作メニューP4で細胞選択B1が選択されると、図8に示されるグラフィカルユーザインタフェイスP10は、図9に示されるグラフィカルユーザインタフェイスP20へと遷移する。なお、図9に示されるグラフィカルユーザインタフェイスP20は、表示部44に表示される画像の第2の例である。
 タイムラプス画像P21(例えば、合成画像C3)には、複数の細胞が含まれている。
タイムラプス画像P11に含まれる複数の細胞の中から、画像解析を実行する任意の細胞を選択するために、本実施形態の解析アプリケーションは、タイムラプス画像P21において細胞を自動認識(検出、前後の時刻間での同一細胞の対応付け)する機能を有する。
画像解析を実行するために画像の中から所定の領域を設定する操作のことを、ROI設定という。本実施形態にかかるROI設定では、画像解析の種類に応じて、ひとつの画像に対して1つのROIを設定してもよいし、複数のROIを設定してもよい。
 次に、細胞101、細胞102及び細胞103についてのROI設定を説明する。
 本実施形態にかかる解析アプリケーションは、上述の通り、タイムラプス画像P21(例えば、合成画像C3)上で、その中に含まれる細胞を自動認識するアルゴリズムを有する。解析アプリケーションはまた、自動認識された細胞の各々について自動でROI設定を実行する。タイムラプス画像P21では、解析アプリケーションによって6つの細胞が自動認識され、そして、それぞれの細胞にROIが設定された例が示されている。なお、ROI設定は、ユーザが行ってよいことは言うまでもない。例えば、ユーザはタイムラプス画像P21上で、不図示のマウスを操作することにより、細胞101、細胞102及び細胞103のそれぞれに対してROIを設定することができる。
 次に、ユーザは、操作メニューに示された操作ボタン(追加ボタンB3、削除ボタンB4)を使用して、6つのROIそれぞれについて、以降の解析処理(例えば、グラフ表示)に使用するか否かを選択し得る。具体的には、ユーザが細胞101を解析対象から外したい場合、削除ボタンB4によって細胞101に設定されたROIを削除する。また、解析アプリケーションで自動認識されなかった細胞がある場合、ユーザはマウスの操作等によって、その細胞に新たなROIを設定したうえで、追加ボタンB3を操作すれば、画像解析の対象とする細胞群に追加することができる。このようにして、以降の画像解析に使用する細胞を選択し終えると、ユーザは、画像P24の決定ボタンB5を操作して、ROI設定を完了する。
 上記のとおり、本実施形態においては、解析処理によって認識された細胞が含まれる領域に対してROIを設定する構成をとるが、これに限定されるものではない。例えば、解析処理実行前に細胞の自動認識結果を利用してROIを設定し、ROIの設定後に解析処理を実行する構成とすることもできる。
[グラフの表示]
 制御装置41によって実行される解析アプリケーションは、上述したROI設定によって細胞や細胞群が選択されると、以降は、選択された細胞や細胞群を対象として解析処理を行う。本実施形態では、一例として、解析対象の細胞について、各細胞の状態の時間変化を示すグラフを表示部44に表示するグラフ表示について説明する。
 ROI設定情報の取得および記憶後、すなわち、図9の決定ボタンB5の操作後、ユーザインタフェイスは、図9に示されるユーザインタフェイスP20から、図8に示されるユーザインタフェイスP10へと戻る。ユーザが、操作メニューP4からグラフ表示ボタンB2を操作すると、ユーザインタフェイスは、図8に示されるユーザインタフェイスP10から、図10に示されるユーザインタフェイスP30へと遷移する。なお、図10は、本実施形態の表示部44に表示される画像の第3の例を示す図である。
 図10においては、ユーザインタフェイスP30には、ROI設定で解析対象に設定された各細胞の状態に関する時間変化を示すグラフP6が含まれる。以下、グラフP6について、具体例を挙げて説明する。
[グラフ画像の例]
 図10のグラフP36では、細胞の状態に関する時間変化の一例として、タイムラプス観察開始時点において封入体が存在していた細胞群(GFPを発現している細胞群(細胞101,102,103))と、存在していなかった細胞群(GFPを発現していない細胞群(細胞201、202、203))とで、その後の時間の経過に伴う生存率を描画した例である。
 グラフP36を具体的に説明すると、タイムラプス観察開始時点(時刻t0)においては封入体が存在していなかった細胞群の生存率のグラフP361(G1)を実線で、封入体が存在していた細胞群の生存率のグラフP362(G2)を破線で表す。グラフP36は、細胞内における封入体の存在が、細胞の生存(あるいは死滅)に与える影響の検討に資する。
 更には、グラフP36には示されていないが、観察開始時点においては封入体を形成していなかったが、期間途中で封入体を形成した細胞が存在する場合には、グラフP361を2本に分けてもよい。すなわち、期間t0-t26を通じて封入体を形成しなかった細胞群についての生存率のグラフと、期間t0-t26の途中で封入体を形成した細胞群についての生存率のグラフとを描画する構成としてもよい。
 これとは逆に、観察開始時点においては細胞内に封入体が形成されていたが、期間途中で消滅してしまった場合には、グラフP362を2本に分けてもよい。すなわち、期間t0-t26を通じて封入体が形成されていた細胞群についての生存率のグラフと、期間t0-t26の途中で封入体が消滅してしまった細胞群についての生存率のグラフとを描画する構成としてもよい。
 更には、期間を通じて封入体が存在した細胞、期間の途中で消滅した細胞、期間の途中で封入体が形成した細胞、期間を通じて封入体を形成しなかった細胞それぞれの細胞群について生存率を求め、4本のグラフを描画する構成としてもよい。
 なお、グラフ(図10ではグラフP361、P362)の描画については、以下の方法により画像解析を行ってカウントした生きている細胞数に基づいており、ここで使用する画像解析技術は、公知の技術を用いているため、詳細な説明は割愛する。
 すなわち、図9のユーザインタフェイスP20を通じてROI設定操作情報により追跡対象とされた細胞の全てについて、合成画像C3の解析を行うことで、細胞の生存情報の取得を行う。具体的には、ROI設定処理の前に画像解析により画像C3に現れる第1色調の蛍光タンパク質(例えば、RFP)を認識するか否かに基づいて自動認識された細胞情報を基に細胞の生存情報の取得を行う。そして、生きていると判定した細胞については、更に、画像解析により、封入体に含まれている第2色調の蛍光タンパク質(例えば、αシヌクレインとGFPとの融合タンパク質)を認識するか否かに基づき、各細胞における特定の物質(例えば、GFP融合タンパク質)の有無を判断する。
 こうして、上記の実施形態では、タイムラプス撮影の各タイミングにおいて生きている細胞の数を特定の物質の有無により区別してカウントしてゆき、タイムラプス撮影開始時点の細胞数との比から生存率を求めている。
 なお、画像解析の対象となる細胞は、ここではROI設定操作情報により追跡対象とされた細胞としているが、これには限定されない。例えば、画像中の全細胞を解析対象としてもよい。
 また、例えば、細胞を画像解析により検出した場合には、細胞の誤検出や、ユーザにとっては追跡対象から除外したい細胞が含まれていることもある。このような場合には、例えば図9のような所望の細胞を選択可能なユーザインタフェイス画像を通じて、合成画像C3を通じて上記の細胞指定情報を設定し直し、誤検出の細胞やユーザが追跡対象から外したい細胞を除外することとしてもよい。
 制御装置41の解析部426は、図10のサバイバル表示B6のボタン操作を認識すると、上記の画像解析から細胞数のカウント、細胞の生存率を算出までを行う。画像生成部424は、求めた細胞の生存率から、図10に例示するようなグラフ画像P36を生成し、表示制御部425は、生成したグラフ画像P36を含む画像P30を表示部44に表示させる。その後、図10の戻るB7ボタンの操作により、表示部44に表示されるユーザインタフェイス画像は、図10の画像P30から図8の画像P10へと遷移する。
[グラフ画像のその他の例]
 上記以外の細胞群の分類方法としては、例えば、第2画像C2における第2色調の蛍光の量に基づいて、観察対象の細胞を、封入体の量が比較的少ない細胞群と、封入体の量が比較的多い細胞群とに分類してもよい。
 画像生成部424は、第2画像C2に基づいて分類された、封入体の量が比較的少ない細胞群のグラフ画像P361(第1グラフG1)と、封入体の量が比較的多い細胞群のグラフ画像P362(第2グラフG2)とを表したグラフ画像G3を生成する。各細胞が2つの細胞群のいずれに属するかについては、例えば、封入体に相当する領域の輝度または面積等の所望の閾値を設定しておき、各細胞の封入体の量と設定した閾値との比較に基づき判定する。
 ここで、グラフ画像P361(第1グラフG1)は、封入体の量が比較的少ない細胞群の時間経過に伴う死滅の状況を示している。グラフ画像P362(第2グラフG2)は、封入体の量が比較的多い細胞群の時間経過に伴う死滅の状況を示している。
[合成画像の変形例(1)]
 図11は、本実施形態の画像生成部424が生成する画像の一例を示す図である。
 上述したように、第2画像C2に表れる第2色調の蛍光の時間変化は、観察対象の細胞の状態が時間経過に伴って変化したことを示している。一例として、撮像タイミングT10の合成画像C31においては、第2画像C2における第2色調の蛍光が発現していない。撮像タイミングT20の合成画像C32においては、第2色調の蛍光が発現する。撮像タイミングT30の合成画像C33においては、さらに第2色調の蛍光が発現する。すなわち、この一例においては、時間の経過とともに、第2色調の蛍光の量(例えば、第2色調の蛍光の面積)が増加する。
 この一例の場合、表示制御部425は、生成された画像C3を、タイムラプス観察の時系列に基づいて表示部44に表示させる。
 例えば、表示制御部425は、表示時刻操作タブP3に対する操作に応じて、タイムラプス画像TPのうちから選択された、ある撮像タイミングの画像を表示させる。例えば、表示制御部425は、表示時刻操作タブP3が操作されるごとに、撮像タイミングT10、T20、T30についての画像C3を、順次表示させる。
 なお、表示制御部425は、複数の撮像タイミングについての画像C3(例えば、撮像タイミングT10、T20、T30についての画像C31、C32、C33)を時系列に並べて同時に表示させてもよい。
 このように構成されていることにより、観察対象の細胞の状態の時間変化を、理解させやすい形式で提示することができる。
[合成画像の変形例(2)]
 また、画像生成部424は、第2画像C2に表れる第2色調の蛍光が示す特性の状態が時間の経過により変化した場合には、変化前の細胞の画像の表示色と、変化後の細胞の画像の表示色とを互いに異なる色調にして、合成画像C3を生成させてもよい。
 例えば、観察対象の細胞について、ある撮像タイミングT以降において封入体が発現した場合には、撮像タイミングT以前の合成画像C3には第2色調の蛍光の発現がなく、撮像タイミングT以降の合成画像C3には第2色調の蛍光が発現する。この場合、画像生成部424は、第2画像C2がない撮像タイミングT以前の合成画像C3の表示色と、撮像タイミングT以降の合成画像C3の表示色とを互いに異なる色調にする。
 なお、画像生成部424は、色調を変化させることに代えて、又は加えて、第2画像C2が示す特性の状態が時間の経過により変化したことを示す記号や文字などの画像を、合成画像C3に含ませてもよい。
 すなわち、画像生成部424は、指定情報によって指定された観察対象の細胞について、第2画像C2が示す特性の状態が時間の経過により変化した場合には、変化前の細胞の画像と、変化後の細胞の画像とを互いに識別可能にして、合成画像C3を生成する。
 更には、上述の画像解析によって封入体の有無に応じて細胞数を求めている場合には、あるフレームにおける封入体ありの細胞と封入体なしの細胞の割合を、合成画像C3に重畳させて、あるいは画像P10等の所定の箇所に表示させることとしてもよい。
 以上説明したように、本実施形態の撮像システム1は、制御装置41が第1画像C1と第2画像C2とを重ね合わせた合成画像C3を表示させる。このように構成された撮像システム1によれば、例えば、それぞれの細胞の輪郭や細胞内の物質の有無が細胞ごとに対応付けられて表示される。このため、撮像システム1によれば、例えば第1画像C1のみ又は第2画像C2のみを表示させる場合に比べて、観察者が理解しやすい表示形式にして細胞の画像を表示させることができる。
 なお、上記実施形態では、タイムラプス撮影期間にわたって細胞内で定常的に発現される蛍光タンパク質としてRFPを、また発現の有無や、発現量、その細胞内における局在等を検出するためにGFPを例示したが、その限りでない。その逆であっても良いことは言うまでもない。さまざまな蛍光タンパク質遺伝子が入手可能であり、当業者であれば、適宜、組み合わされ得る。各種蛍光タンパク質の中から、タイムラプス撮影期間にわたって定常的に細胞内で発現されて、蛍光画像上で細胞の存否や位置、形状等の検出に使うための第1の蛍光タンパク質と、好ましくは、第1の蛍光タンパク質と蛍光波長が異なる蛍光タンパク質であって、細胞内環境によって発現が制御される第2の蛍光タンパク質との少なくとも2種類の蛍光タンパク質が使われればよい。
 例えば、GFPの代わりに、黄色蛍光タンパク質(YFP、Yellow Fluorescent Protein)を用いることも可能である。第1色調および第2色調の蛍光タンパク質として、Green、Yellow、Orange、Red、Far Redの中から、蛍光波長が互いに離れているものを2つ選択することで、異なるチャンネルへの漏れ込みを効果的に回避しつつ、上記と同様の効果を得ることができる。
 また、上記実施形態では、細胞内の特定の物質としてαシヌクレインを例示したが、これに限られない。例えば、αシヌクレインの代わりに、、α-シヌクレインタンパク質、タウタンパク質、プリオンタンパク質、TDP-43タンパク質、またはハンチンティンタンパク質を用いることも可能である。
 また、上記においてはタイムラプス撮影終了後に、撮影により取得した画像を用いて解析を行う場合について説明しているが、これに限定されるものではない。例えば、撮影中にユーザからの指示にしたがって画像C3を表示させる構成とすることもできる。表示する画像は、利用者からの指示を受け付けたタイミングにおいて既に取得済の画像C1、C2に基づくものであってもよいし、指示を受け付けたタイミング以降に新たに取得した画像C1、C2に基づくものであってもよい。
 また、本実施形態の制御装置41が備える画像生成部424は、第1画像C1の時間変化を示す第1グラフG1と、第2画像C2における第2色調の蛍光が発現している細胞の時間変化を示す第2グラフG2とを描画したグラフ画像G3を画像C3として生成する。
このように構成された撮像システム1によれば、例えば第1グラフG1のみ又は第2グラフG2のみを表示させる場合に比べて、観察者が理解しやすい表示形式にして細胞の画像を表示させることができる。
 なお、制御装置41の機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行させてもよい。なお、ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウエアを含む。
 また、「コンピュータシステム」は、WWWシステムを利用している場合であれば、ホームページ提供環境(あるいは表示環境)も含むものとする。
 また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD-ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムを送信する場合の通信線のように、短時間の間、動的にプログラムを保持するもの、その場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリのように、一定時間プログラムを保持しているものも含むものとする。また上記プログラムは、前述した機能の一部を実現するためのものであっても良く、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであっても良い。
 以上、この発明の実施形態を図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計等も含まれる。
 11…インキュベータ、34…撮像装置、41…制御装置、42…演算部、421…対応付け部、423…取得部、424…画像生成部、425…表示制御部、426…解析部、44…表示部

Claims (14)

  1.  細胞質全体に分布し定常的に細胞内で発現する第1の蛍光タンパク質による第1色調の第1蛍光画像と、細胞内で凝集性/局在性を示す所定のタンパク質とタグ付けされた第2の蛍光タンパク質による第2色調の第2蛍光画像とを取得する画像取得工程と、
     前記第1蛍光画像及び前記第2蛍光画像を互いに対応付けて記憶部に記憶させる対応付け工程と、
     を含む画像解析方法。
  2.  前記対応付けに基づき第1蛍光画像および第2蛍光画像を重ね合せた画像を生成する画像生成工程と、を含む請求項1に記載の画像解析方法。
  3.  前記第1蛍光画像および前記第2蛍光画像に基づき、観察対象の細胞の状態を解析する解析工程と、
     を更に備え、
     前記解析工程においては、
     時系列の撮像の撮像タイミングごとに、第1蛍光画像に基づき細胞の生死状態を判定し、
     前記画像生成工程においては、
     前記解析工程における生死状態の判定結果に基づき、細胞の生死状態の時間変化を示すグラフ画像を生成する、請求項1または2に記載の画像解析方法。
  4.  前記解析工程においては、
     時系列の撮像の撮像タイミングごとに、第2蛍光画像に基づき前記所定のタンパク質の発現状態を判定し、
     前記画像生成工程においては、
     前記解析工程における前記生死状態の判定結果および前記所定のタンパク質の発現状態の判定結果に基づき、前記所定のタンパク質の発現の特性の状態に応じて複数に分けて細胞の生死状態の時間変化を示すグラフ画像を生成する、請求項3に記載の画像解析方法。
  5.  所定の細胞を指定する指定情報を取得する取得工程と、を更に備え、
     前記解析工程においては、前記指定情報によって指定された細胞を解析対象に追加または解析対象から除外する、請求項3または4に記載の画像解析方法。
  6.  前記画像生成工程においては、
     前記第1色調の蛍光タンパク質が発現している細胞について、前記第2色調の蛍光タンパク質の発現が示す、前記所定のタンパク質の発現の特性の状態が時間の経過により変化した場合には、変化前の細胞の画像と、変化後の細胞の画像とを互いに識別可能にして、前記重ね合わせた画像を生成する、請求項1から5のいずれか一項に記載の画像解析方法。
  7.  前記特性の状態とは、生細胞の内部に含まれる封入体の程度である、請求項6に記載の画像解析方法。
  8.  前記画像生成工程において生成された前記画像を、観察の時系列に基づいて表示部に表示させる、請求項1から7のいずれか一項に記載の画像解析方法。
  9.  前記対応付け工程において、
     取得された前記第1蛍光画像および前記第2蛍光画像は、互いに異なるタイミングで撮像された画像を対応付けする、請求項1から8のいずれか1項に記載の画像解析方法。
  10.  前記画像取得工程において、
     前記第1蛍光画像を撮像してから前記第2蛍光画像の撮像するまで間隔は、前記細胞を時系列で撮像する前記撮像タイミングよりも短い、請求項1から9のいずれか1項に記載の画像解析方法。
  11.  前記画像生成工程において、
     前記第1蛍光画像の基準位置および前記第2蛍光画像の基準位置に基づき位置合わせを行い、第1蛍光画像と第2蛍光画像を合成する、請求項2に記載の画像解析方法。
  12.  前記第2蛍光画像における蛍光の量に応じて観察対象の細胞を分類する、請求項3に記載の画像解析方法。
  13.  光源装置、蛍光励起フィルタ、対物レンズおよび撮像装置を備え、蛍光観察可能な蛍光顕微鏡と、前記蛍光顕微鏡における生細胞の時系列の観察によって得られた複数の時系列の画像を処理する画像処理部と、前記蛍光顕微鏡を制御する制御部を備える観察システムであって、
     前記複数の時系列の画像であって、細胞質全体に分布し定常的に細胞内で発現する第1の蛍光タンパク質による第1色調の第1蛍光画像と、細胞内で凝集性/局在性を示す所定のタンパク質とタグ付けされた第2の蛍光タンパク質による第2色調の第2蛍光画像との対応付けを行う対応付け部と、
     を備える、観察システム。
  14.  コンピュータに、
     細胞質全体に分布し定常的に細胞内で発現する第1の蛍光タンパク質による第1色調の第1蛍光画像と、細胞内で凝集性/局在性を示す所定のタンパク質とタグ付けされた第2の蛍光タンパク質による第2色調の第2蛍光画像とを取得させ、
     前記第1蛍光画像及び前記第2蛍光画像を互いに対応付けて記憶部に記憶させる対応付けを行わせる
     ための画像解析プログラム。
PCT/JP2021/019185 2020-05-20 2021-05-20 画像解析方法、観察システム及び画像解析プログラム WO2021235519A1 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2022524537A JPWO2021235519A1 (ja) 2020-05-20 2021-05-20

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2020087841 2020-05-20
JP2020-087841 2020-05-20

Publications (1)

Publication Number Publication Date
WO2021235519A1 true WO2021235519A1 (ja) 2021-11-25

Family

ID=78707961

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2021/019185 WO2021235519A1 (ja) 2020-05-20 2021-05-20 画像解析方法、観察システム及び画像解析プログラム

Country Status (2)

Country Link
JP (1) JPWO2021235519A1 (ja)
WO (1) WO2021235519A1 (ja)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2006106882A1 (ja) * 2005-03-30 2006-10-12 Olympus Corporation 所定部位発光量測定方法、所定部位発光量測定装置、発現量測定方法、および測定装置
JP2009065848A (ja) * 2007-09-10 2009-04-02 Olympus Corp 遺伝子発現解析方法および遺伝子発現解析システム
JP2009291101A (ja) * 2008-06-04 2009-12-17 Osaka Prefecture Univ 細胞観察方法
JP2013015325A (ja) * 2011-06-30 2013-01-24 Tottori Univ Dna二本鎖切断損傷の解析装置及び解析方法
WO2016203617A1 (ja) * 2015-06-18 2016-12-22 オリンパス株式会社 発光観察方法

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2006106882A1 (ja) * 2005-03-30 2006-10-12 Olympus Corporation 所定部位発光量測定方法、所定部位発光量測定装置、発現量測定方法、および測定装置
JP2009065848A (ja) * 2007-09-10 2009-04-02 Olympus Corp 遺伝子発現解析方法および遺伝子発現解析システム
JP2009291101A (ja) * 2008-06-04 2009-12-17 Osaka Prefecture Univ 細胞観察方法
JP2013015325A (ja) * 2011-06-30 2013-01-24 Tottori Univ Dna二本鎖切断損傷の解析装置及び解析方法
WO2016203617A1 (ja) * 2015-06-18 2016-12-22 オリンパス株式会社 発光観察方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
SCHILDKNECHT STEFAN, KARREMAN CHRISTIAAN, PÖLTL DOMINIK, EFRÉMOVA LIUDMILA, KULLMANN CORNELIUS, GUTBIER SIMON, KRUG ANNE, SCHOLZ D: "Generation of genetically-modified human differentiated cells for toxicological tests and the study of neurodegenerative diseases", ALTEX, ALTERNATIVES TO ANIMAL EXPERIMENTATION, GERMANY, 1 January 2013 (2013-01-01), Germany, pages 427 - 444, XP055874928, [retrieved on 20211220], DOI: 10.14573/altex.2013.4.427 *
YAMAMOTO, N. ET AL.: "Cellular Dynamics Visualized in Live Cells in Vitro and in Vivo by Differential Dual-Color Nuclear-Cytoplasmic Fluorescent-Protein Expression", CANCER RESEARCH, vol. 64, 2004, pages 4251 - 4256, XP002396802, DOI: 10.1158/0008-5472.CAN-04-0643 *

Also Published As

Publication number Publication date
JPWO2021235519A1 (ja) 2021-11-25

Similar Documents

Publication Publication Date Title
JP5446868B2 (ja) プログラム、コンピュータおよび培養状態解析方法
JP5659158B2 (ja) 画像処理装置、培養観察装置、及び画像処理方法
US8022373B2 (en) Observing apparatus
US20080226126A1 (en) Object-Tracking Apparatus, Microscope System, and Object-Tracking Program
US11594051B2 (en) Microscope system and projection unit
EP1847961A1 (en) Object-tracing apparatus, microscope system, and a computer program product for object-tracing apparatus
JP2016000007A (ja) 細胞吸引支援システム
JP7150866B2 (ja) 顕微鏡システム、投影ユニット、及び、画像投影方法
WO2019229912A1 (ja) 情報処理装置、情報処理方法、情報処理プログラム、及び顕微鏡
WO2014192184A1 (ja) 画像処理装置、画像処理方法、プログラム、及び記憶媒体
JP5516108B2 (ja) 観察装置、観察方法、及びプログラム
JP2014228755A (ja) 顕微鏡システム、画像生成方法及びプログラム
WO2021235519A1 (ja) 画像解析方法、観察システム及び画像解析プログラム
JP5953195B2 (ja) 撮影解析装置、その制御方法及び撮影解析装置用のプログラム
JP2011196867A (ja) 顕微鏡システム、観察画像の表示方法、プログラム
US20200074628A1 (en) Image processing apparatus, imaging system, image processing method and computer readable recoding medium
JP7287427B2 (ja) 細胞吸引支援装置および細胞吸引支援装置の制御方法
US11954888B2 (en) Device, microscope device, method, and program
JP2019159092A (ja) 顕微鏡システム、画像解析装置および画像解析方法
JP6946807B2 (ja) 画像表示装置、プログラム及び制御方法
WO2023276254A1 (ja) 情報処理装置、顕微鏡システム、及び情報処理方法
JP6939170B2 (ja) 画像表示装置、プログラム及び制御方法
JP2013113818A (ja) 画像処理装置、顕微鏡システム、画像処理方法、及び画像処理プログラム
US20220276170A1 (en) Information processing device and program
JP2009027948A (ja) 培養装置

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 21807559

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2022524537

Country of ref document: JP

Kind code of ref document: A

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 21807559

Country of ref document: EP

Kind code of ref document: A1