DE102013106895A1 - Light microscopic method for the localization of point objects - Google Patents
Light microscopic method for the localization of point objects Download PDFInfo
- Publication number
- DE102013106895A1 DE102013106895A1 DE102013106895.2A DE102013106895A DE102013106895A1 DE 102013106895 A1 DE102013106895 A1 DE 102013106895A1 DE 102013106895 A DE102013106895 A DE 102013106895A DE 102013106895 A1 DE102013106895 A1 DE 102013106895A1
- Authority
- DE
- Germany
- Prior art keywords
- sample
- lateral
- determined
- depth
- field
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 48
- 230000004807 localization Effects 0.000 title claims abstract description 22
- 230000003287 optical effect Effects 0.000 claims abstract description 53
- 238000003384 imaging method Methods 0.000 claims abstract description 39
- 238000012937 correction Methods 0.000 claims abstract description 25
- 238000006073 displacement reaction Methods 0.000 claims abstract description 20
- 238000012545 processing Methods 0.000 claims description 2
- 238000000399 optical microscopy Methods 0.000 claims 1
- 229920013655 poly(bisphenol-A sulfone) Polymers 0.000 description 18
- 230000004075 alteration Effects 0.000 description 14
- 238000001514 detection method Methods 0.000 description 11
- 238000000386 microscopy Methods 0.000 description 11
- 238000009826 distribution Methods 0.000 description 7
- 230000005484 gravity Effects 0.000 description 6
- 206010010071 Coma Diseases 0.000 description 5
- 238000005259 measurement Methods 0.000 description 5
- 206010073261 Ovarian theca cell tumour Diseases 0.000 description 4
- 201000009310 astigmatism Diseases 0.000 description 4
- 208000001644 thecoma Diseases 0.000 description 4
- 230000000875 corresponding effect Effects 0.000 description 3
- 239000000975 dye Substances 0.000 description 3
- 238000013507 mapping Methods 0.000 description 3
- 238000007796 conventional method Methods 0.000 description 2
- 230000001419 dependent effect Effects 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000011156 evaluation Methods 0.000 description 2
- 238000002474 experimental method Methods 0.000 description 2
- 238000000799 fluorescence microscopy Methods 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- 239000003550 marker Substances 0.000 description 2
- BUHVIAUBTBOHAG-FOYDDCNASA-N (2r,3r,4s,5r)-2-[6-[[2-(3,5-dimethoxyphenyl)-2-(2-methylphenyl)ethyl]amino]purin-9-yl]-5-(hydroxymethyl)oxolane-3,4-diol Chemical compound COC1=CC(OC)=CC(C(CNC=2C=3N=CN(C=3N=CN=2)[C@H]2[C@@H]([C@H](O)[C@@H](CO)O2)O)C=2C(=CC=CC=2)C)=C1 BUHVIAUBTBOHAG-FOYDDCNASA-N 0.000 description 1
- 238000007476 Maximum Likelihood Methods 0.000 description 1
- 238000012152 algorithmic method Methods 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 238000012854 evaluation process Methods 0.000 description 1
- 239000007850 fluorescent dye Substances 0.000 description 1
- 230000005283 ground state Effects 0.000 description 1
- 238000001000 micrograph Methods 0.000 description 1
- 239000002245 particle Substances 0.000 description 1
- 230000002186 photoactivation Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/36—Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
- G02B21/365—Control or image processing arrangements for digital or video microscopes
- G02B21/367—Control or image processing arrangements for digital or video microscopes providing an output produced by processing a plurality of individual source images, e.g. image tiling, montage, composite images, depth sectioning, image comparison
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/62—Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light
- G01N21/63—Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited
- G01N21/64—Fluorescence; Phosphorescence
- G01N21/645—Specially adapted constructive features of fluorimeters
- G01N21/6456—Spatial resolved fluorescence measurements; Imaging
- G01N21/6458—Fluorescence microscopy
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/16—Microscopes adapted for ultraviolet illumination ; Fluorescence microscopes
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/0025—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 for optical correction, e.g. distorsion, aberration
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/58—Optics for apodization or superresolution; Optical synthetic aperture systems
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Optics & Photonics (AREA)
- Chemical & Material Sciences (AREA)
- Analytical Chemistry (AREA)
- Engineering & Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Multimedia (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Life Sciences & Earth Sciences (AREA)
- Biochemistry (AREA)
- General Health & Medical Sciences (AREA)
- Immunology (AREA)
- Pathology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Microscoopes, Condenser (AREA)
- Investigating, Analyzing Materials By Fluorescence Or Luminescence (AREA)
Abstract
Beschrieben ist ein lichtmikroskopisches Verfahren zur Lokalisierung von Punktobjekten (26) in einer Probe (14), bei dem die Probe (14) mittels einer Abbildungsoptik (12) auf einen Detektor (16) abgebildet wird; und die in der Probe (14) enthaltenen Punktobjekte (26) innerhalb des Schärfentiefenbereichs (18) lokalisiert werden, indem auf Grundlage eines Probenbildes, das durch die Abbildung der Probe (14) auf dem Detektor (16) erzeugt wird, laterale x/y-Positionen der Punktobjekte (26) in Richtung senkrecht zur optischen Achse (O) ermittelt werden, wobei der Schärfentiefenbereich (18) in dem Objektraum relativ zur Probe (14) längs der optischen Achse (O) mindestens einmal um einen vorbestimmten axialen z-Verstellweg (∆z) verschoben und bei axial verschobenem Schärfentiefenbereich (18) die Probe (14) erneut auf den Detektor (16) abgebildet und ein weiteres Probenbild erzeugt wird; auf Grundlage des weiteren Probenbildes erneut die lateralen x/y-Positionen der Punktobjekte (26) ermittelt werden; laterale x/y-Positionsabweichungen zwischen den auf Grundlage der verschiedenen Probenbilder ermittelten lateralen x/y-Positionen der jeweils selben Punktobjekte (26) ermittelt werden; und in Abhängigkeit der ermittelten lateralen x/y-Positionsabweichungen eine Korrekturinformation erzeugt wird, an Hand der die lateralen x/y-Positionen der Punktobjekte (26) korrigiert werden.Described is a light microscopic method for localization of point objects (26) in a sample (14), in which the sample (14) by means of imaging optics (12) is imaged onto a detector (16); and locate the point objects (26) contained within the sample (14) within the depth-of-field (18) by generating lateral x / y based on a sample image produced by imaging the sample (14) on the detector (16) Positions of the point objects (26) in the direction perpendicular to the optical axis (O) are determined, wherein the depth of field (18) in the object space relative to the sample (14) along the optical axis (O) at least once by a predetermined axial z-displacement (Δz) shifted and with axially shifted depth of field (18), the sample (14) again imaged on the detector (16) and another sample image is generated; the lateral x / y positions of the point objects (26) are again determined on the basis of the further sample image; determining lateral x / y position deviations between the lateral x / y positions of the respective same point objects (26) determined on the basis of the different sample images; and in dependence on the determined lateral x / y position deviations a correction information is generated, by means of which the lateral x / y positions of the point objects (26) are corrected.
Description
Die Erfindung betrifft ein lichtmikroskopisches Verfahren zur Lokalisierung von Punktobjekten in einer Probe, bei dem die in einem Objektraum angeordnete Probe mittels einer Abbildungsoptik, die in dem Objektraum einen Schärfentiefenbereich vorbestimmter axialer z-Ausdehnung längs ihrer optischen Achse hat, auf einen Detektor abgebildet wird, und die in der Probe enthaltenen Punktobjekte innerhalb des Schärfentiefenbereichs lokalisiert werden, indem auf Grundlage eines Probenbildes, das durch die Abbildung der Probe auf dem Detektor erzeugt wird, laterale x/y-Positionen der Punktobjekte in Richtung senkrecht zur optischen Achse ermittelt werden. The invention relates to a light microscopic method for localizing point objects in a sample, in which the sample arranged in an object space is imaged onto a detector by means of imaging optics having a depth of field of predetermined axial z-dimension along their optical axis in the object space the point objects contained in the sample are located within the depth of field by determining lateral x / y positions of the point objects in the direction perpendicular to the optical axis based on a sample image produced by imaging the sample on the detector.
In jüngerer Vergangenheit wurden lichtmikroskopische Abbildungsverfahren entwickelt, mit denen sich basierend auf einer sequentiellen, stochastischen Lokalisierung von einzelnen Markern, insbesondere Fluoreszenzmolekülen, Probenstrukturen darstellen lassen, die kleiner sind als die beugungsbedingte Auflösungsgrenze klassischer Lichtmikroskope. Solche Verfahren sind beispielsweise beschrieben in
Den neuen Verfahren ist gemein, dass die abzubildenden Probenstrukturen mit Punktobjekten, sogenannten Markern präpariert werden, die über zwei unterscheidbare Zustände verfügen, nämlich einen „hellen“ Zustand und einen „dunklen“ Zustand. Werden beispielsweise Fluoreszenzfarbstoffe als Marker verwendet, so ist der helle Zustand ein fluoreszenzfähiger Zustand und der dunkle Zustand ein nicht fluoreszenzfähiger Zustand. The new method has in common that the sample structures to be imaged are prepared with point objects, so-called markers, which have two distinguishable states, namely a "bright" state and a "dark" state. For example, when fluorescent dyes are used as markers, the bright state is a fluorescent state and the dark state is a non-fluorescent state.
In bevorzugten Ausführungsformen werden, wie z.B. in der
Zur Abbildung von Probenstrukturen mit einer Auflösung, die höher als die klassische Auflösungsgrenze der Abbildungsoptik ist, wird nun wiederholt eine kleine Teilmenge der Marker in den hellen Zustand überführt. Dabei ist im einfachsten Falle die Dichte der diese aktive Teilmenge bildenden Marker so zu wählen, dass der mittlere Abstand benachbarter Marker im hellen und damit lichtmikroskopisch abbildbaren Zustand größer als die Auflösungsgrenze der Abbildungsoptik ist. Die die aktive Teilmenge bildenden Marker werden auf einem räumlich auflösenden Lichtdetektor, z.B. eine CCD-Kamera, abgebildet, so dass von jedem punktförmigen Marker eine Lichtverteilung in Form eines Lichtflecks erfasst wird, dessen Größe durch die Auflösungsgrenze der Optik bestimmt ist. To image sample structures with a resolution that is higher than the classical resolution limit of the imaging optics, a small subset of the markers is now repeatedly transferred to the bright state. In the simplest case, the density of the markers forming this active subset is to be selected so that the mean distance between adjacent markers in the bright and thus light-microscopically imageable state is greater than the resolution limit of the imaging optics. The markers forming the active subset are formed on a spatially resolving light detector, e.g. a CCD camera, so that a light distribution in the form of a light spot is detected by each punctiform marker whose size is determined by the resolution limit of the optics.
Auf diese Weise wird eine Vielzahl von Rohdaten-Einzelbildern aufgenommen, in denen jeweils eine andere aktive Teilmenge abgebildet ist. In einem Bildauswerteprozess werden dann in jedem Rohdaten-Einzelbild die Schwerpunktpositionen der Lichtverteilungen bestimmt, die die im hellen Zustand befindlichen, punktförmigen Marker darstellen. Die aus den Rohdaten-Einzelbildern ermittelten Schwerpunktpositionen der Lichtverteilungen werden dann in einer Gesamtdarstellung in Form eines Gesamtbild-Datensatzes zusammengetragen. Das durch diese Gesamtdarstellung entstehende hochaufgelöste Gesamtbild spiegelt die Verteilung der Marker wider. In this way, a plurality of raw data frames are recorded, in each of which a different active subset is mapped. In an image evaluation process, the center of gravity positions of the light distributions are then determined in each raw data single image, which represent the punctiform markers located in the bright state. The center of gravity positions of the light distributions determined from the raw data individual images are then compiled in an overall representation in the form of an overall image data set. The high-resolution overall image resulting from this overall representation reflects the distribution of the markers.
Für eine repräsentative Wiedergabe der abzubildenden Probenstruktur müssen ausreichend viele Markersignale detektiert werden. Da jedoch die Anzahl an auswertbaren Markern in der jeweils aktiven Teilmenge limitiert ist, müssen sehr viele Rohdaten-Einzelbilder aufgenommen werden, um die Probenstruktur vollständig abzubilden. Typischerweise liegt die Anzahl an Rohdaten-Einzelbildern in einem Bereich von einigen Zehntausend, wobei dieser Bereich stark variiert, da für komplexe Strukturen weit mehr Bilder aufgenommen werden müssen als für einfachere Strukturen, um die Strukturen auflösen zu können. For a representative reproduction of the sample structure to be imaged, a sufficient number of marker signals must be detected. However, since the number of evaluable markers in the respective active subset is limited, a large number of raw data individual images must be recorded in order to completely map the sample structure. Typically, the number of raw data frames is in the range of several tens of thousands, and this range varies widely, because for complex structures far more images must be taken than for simpler structures to resolve the structures.
Neben der vorstehend beschriebenen lateralen Positionsbestimmung der Marker in der Objektebene (im Folgenden auch als x-y-Ebene bezeichnet) kann auch eine Positionsbestimmung in axialer Richtung (im Folgenden auch als z-Richtung bezeichnet) erfolgen. Mit axialer Richtung ist dabei die Richtung längs der optischen Achse der Abbildungsoptik, also die Hauptausbreitungsrichtung des Lichtes gemeint. In addition to the above-described lateral position determination of the markers in the object plane (also referred to below as the x-y plane), it is also possible to determine the position in the axial direction (also referred to below as the z-direction). With axial direction is meant the direction along the optical axis of the imaging optics, ie the main propagation direction of the light.
Dreidimensionale Lokalisierungen sind aus so genannten
Eine Lokalisierung eines punktförmigen Objektes in z-Richtung kann grundsätzlich dadurch erfolgen, dass man die Veränderung eines auf der Detektionsfläche der Kamera erfassten Lichtflecks auswertet, die sichtbar wird, wenn sich das Punktobjekt aus der zur Detektionsfläche optisch konjugierten Schärfen- oder Fokalebene herausbewegt. Dabei ist im Folgenden unter einem Punktobjekt ein Objekt zu verstehen, dessen Abmessungen kleiner als die beugungsbedingte Auflösungsgrenze der Abbildungsoptik, insbesondere des Detektionsobjektivs sind. In diesem Fall bildet das Detektionsobjektiv ein solches Objekt in Form einer dreidimensionalen Fokuslichtverteilung in den Bildraum ab. Die Fokuslichtverteilung erzeugt auf der Detektionsfläche der Kamera einen Lichtfleck, der durch die sogenannte „Point-Spread-Function“, also Punktabbildungsfunktion oder kurz PSF, charakterisiert ist. Wird nun das Punktobjekt in z-Richtung durch den Fokus, d.h. senkrecht zur Schärfenebene bewegt, so ändern sich Größe und Form der PSF. Analysiert man das dem erfassten Lichtfleck entsprechende Detektionssignal im Hinblick auf Größe und Form der PSF, so kann man dadurch Rückschlüsse auf die tatsächliche z-Position des Objekts erhalten. A localization of a point-shaped object in the z-direction can in principle be carried out by evaluating the change in a detected on the detection surface of the camera light spot, which is visible when the point object moves out of the detection surface to the optically conjugate focus or focal plane. In the following, a point object is to be understood as an object whose dimensions are smaller than the diffraction-related resolution limit of the imaging optics, in particular of the detection objective. In this case, the detection lens images such an object into the image space in the form of a three-dimensional focus light distribution. The focus light distribution generates on the detection surface of the camera, a light spot, which is characterized by the so-called "point spread function", ie point mapping function or short PSF. Now, if the point object in the z-direction is focused by the focus, i. moved perpendicular to the focus plane, so change the size and shape of the PSF. By analyzing the detection signal corresponding to the detected light spot with respect to the size and shape of the PSF, it is possible to obtain conclusions about the actual z position of the object.
Befindet sich das Punktobjekt zu weit von der Schärfenebene entfernt, so ist der auf der Detektionsfläche der Kamera erzeugte Lichtfleck so verschwommen, dass das entsprechende Messsignal innerhalb des üblichen Messrauschens nicht mehr wahrnehmbar ist. Es gibt also in dem Objektraum in z-Richtung einen Bereich um die zentrale Fokal- oder Schärfenebene, innerhalb dessen ein Punktobjekt auf der Detektionsfläche einen Lichtfleck erzeugt, der noch scharf genug ist, um zur Lokalisierung des Punktobjektes in z-Richtung ausgewertet werden zu können. Dieser die Schärfenebene enthaltende Bereich in z-Richtung wird im Folgenden als „Schärfentiefenbereich“ bezeichnet. If the point object is located too far away from the focus plane, the light spot produced on the detection surface of the camera is so blurred that the corresponding measurement signal can no longer be perceived within the usual measurement noise. Thus, in the object space in the z direction, there is an area around the central focal or focus plane within which a point object on the detection surface generates a light spot which is still sharp enough to be able to be evaluated for locating the point object in the z direction , This area containing the sharpness plane in the z direction will be referred to as "depth of field" hereinafter.
Bei einer dreidimensionalen Lokalisierung besteht allerdings das grundsätzliche Problem, dass die von einem Punktobjekt herrührende PSF bezüglich der Detektionsfläche symmetrisch ist. Dies bedeutet, dass sich die PSF zwar ändert, wenn das Punktobjekt aus der Schärfenebene heraus bewegt wird, so dass sich der Abstand des Punktobjektes zur Schärfenebene bestimmen lässt. Jedoch ist die Änderung der PSF symmetrisch zu beiden Seiten der Schärfenebene, so dass sich nicht entscheiden lässt, auf welcher Seite der Schärfenebene sich das Punktobjekt innerhalb des Schärfentiefenbereichs befindet. In the case of a three-dimensional localization, however, there is the fundamental problem that the PSF originating from a point object is symmetrical with respect to the detection surface. This means that the PSF changes when the point object is moved out of the focus plane so that the distance of the point object to the focus plane can be determined. However, the change of the PSF is symmetrical to both sides of the focus plane, so that it can not be decided on which side of the focus plane the point object is within the depth of field.
Es sind verschiedene Verfahren bekannt, wie mit dem vorstehend erläuterten Problem umgegangen werden kann. Beispiele sind Verfahren, die in Fachkreisen als
In der Lokalisierungsmikroskopie, bei der Auflösungen von weit unter 100 nm, teilweise sogar bis in den Bereich weniger nm erzielt werden, stellen nun optische Abbildungsfehler, die zwangsläufig in jeder Abbildungsoptik auftreten, ein erhebliches Problem dar. Während in der klassischen, beugungsbegrenzten Mikroskopie, in der im Objektraum gemessene Auflösungen etwa im Bereich von 250 nm erreicht werden, die Abbildungsfehler durch exakte Linsenfertigung oder zusätzliche Korrekturelemente hinreichend minimiert werden können, ist dies bisher in der Lokalisierungsmikroskopie nicht ohne weiteres möglich. Dort ist die Auflösung so hoch, dass die verbleibenden Abbildungsfehler von erheblicher Relevanz sind. Beispiele für solche Abbildungsfehler sind chromatische Aberrationen, sphärische Aberrationen oder laterale Bildfeldverzerrungen, d.h. Abbildungsfehler, die zu einer Verzerrung der PSF in einer Ebene senkrecht zur optischen Achse führen. Ein Beispiel für eine laterale Bildfeldverzerrung ist die Koma. In localization microscopy, where resolutions of far below 100 nm, and sometimes even down to a few nm are achieved, optical aberrations, which inevitably occur in any imaging optics, are a significant problem. During classical diffraction-limited microscopy, in the resolutions measured in the object space approximately in the range of 250 nm can be achieved, the aberrations can be sufficiently minimized by exact lens production or additional correction elements, this is not readily possible in the localization microscopy. There, the resolution is so high that the remaining aberrations are of considerable relevance. Examples of such aberrations are chromatic aberrations, spherical aberrations or lateral field distortions, i. Aberrations that lead to distortion of the PSF in a plane perpendicular to the optical axis. An example of lateral field distortion is coma.
Aufgabe der Erfindung ist es, ein lichtmikroskopisches Verfahren zur Lokalisierung von Punktobjekten eingangs genannter Art so weiterzubilden, dass laterale Bildfeldverzerrungen mit möglichst geringem technischen Aufwand zuverlässig korrigiert werden. The object of the invention is to develop a light microscopic method for the localization of point objects of the type mentioned so that lateral field distortions are reliably corrected with the least possible technical effort.
Die Erfindung löst diese Aufgabe gemäß Anspruch 1 dadurch, dass der Schärfentiefenbereich, innerhalb dessen die Punktobjekte lokalisiert werden, in dem Objektraum relativ zur Probe längs der optischen Achse mindestens einmal um einen vorbestimmten axialen z-Verstellweg, der kleiner als die axiale Ausdehnung des Schärfentiefenbereichs ist, verschoben und bei axial verschobenem Schärfentiefenbereich die Probe mittels der Abbildungsoptik erneut auf den Detektor abgebildet und ein weiteres Probenbild erzeugt wird; auf Grundlage dieses weiteren Probenbildes erneut die lateralen x/y-Positionen der Punktobjekte ermittelt werden; laterale x/y-Positionsabweichungen zwischen den auf Grundlage der verschiedenen Probenbilder ermittelten lateralen x/y-Positionen der jeweils selben Punktobjekte ermittelt werden; und in Abhängigkeit der ermittelten lateralen x/y-Positionsabweichungen eine Korrekturinformation erzeugt wird, anhand der die lateralen x/y-Positionen der Punktobjekte, die auf Grundlage mindestens eines der verschiedenen Probenbilder ermittelt worden sind, korrigiert werden. The invention achieves this object according to
Im Unterschied zu herkömmlichen Lösungen, in denen versucht wird, die Abbildungsfehler allein durch apparative Maßnahmen, insbesondere durch die möglichst fehlerfreie Fertigung der in der Abbildungsoptik verwendeten optischen Elemente, zu korrigieren, wählt die Erfindung einen Weg, bei dem die Korrektur der Abbildungsfehler aus der Analyse der lokalisierten Positionen selbst erfolgt. Auch wird keine zusätzliche Kalibrierung oder eine eigens zur Bestimmung von optischen Fehlern vorgesehene Messung benötigt, wodurch der technische Aufwand erheblich reduziert wird. In contrast to conventional solutions, in which attempts are made to correct the aberrations solely by means of apparatus, in particular by the most error-free production of the optical elements used in the imaging optics, the invention selects a way in which the correction of aberrations from the analysis the localized positions themselves. Also, no additional calibration or a measurement intended specifically for the determination of optical errors is required, as a result of which the technical complexity is considerably reduced.
Die erfindungsgemäße Lösung sieht eine Verschiebung des Schärfentiefenbereichs längs der optischen Achse der Abbildungsoptik derart vor, dass es zwischen dem ursprünglichen Schärfentiefenbereich und dem verschobenen Schärfentiefenbereich in dem Objektraum eine gewisse Überlappung längs der optischen Achse gibt. Diese Überlappung wird dadurch erreicht, dass der axiale z-Verstellweg, um den der Schärfentiefenbereich längs der optischen Achse bewegt wird, kleiner als die axiale z-Ausdehnung des Schärfentiefenbereichs ist. Dabei liegt der z-Verstellweg beispielsweise im Bereich von 5 bis 90%, 10 bis 80%, 15 bis 70%, 20 bis 60% oder 25 bis 50% der axialen z-Ausdehnung des Schärfentiefenbereichs. Es versteht sich von selbst, dass diese Wertebereiche nur beispielhaft zu verstehen sind. The solution according to the invention provides for a shift of the depth of field of focus along the optical axis of the imaging optics such that there is a certain overlap along the optical axis between the original depth of field and the shifted depth of field in the object space. This overlap is achieved by making the axial z-displacement, by which the depth of field is moved along the optical axis, smaller than the axial z-dimension of the depth of field. The z-adjustment path is, for example, in the range of 5 to 90%, 10 to 80%, 15 to 70%, 20 to 60% or 25 to 50% of the axial z-dimension of the depth of field. It goes without saying that these ranges of values are only to be understood as examples.
Die erfindungsgemäße Verschiebung des Schärfentiefenbereichs um den axialen z-Verstellweg, der kleiner ist als die axiale Ausdehnung des Schärfentiefenbereichs, ist demnach so zu verstehen, dass die beiden betrachteten Schärfentiefenbereiche, nämlich der ursprüngliche und der verschobene Schärfentiefenbereich, längs der optischen Achse die vorstehend genannte Überlappung aufweisen. Dies bedeutet, dass die Erfindung auch eine Schrittfolge von Verschiebungen in dem Schärfentiefenbereich abdeckt, bei der in einem einzelnen Schritt der Schärfentiefenbereich um einen Verstellweg verschoben wird, der größer als die Ausdehnung des Schärfentiefenbereichs ist, sofern die Schrittfolge insgesamt dazu führt, dass zwischen den betrachteten Schärfentiefenbereichen die letztlich gewünschte axiale Überlappung realisiert ist. The displacement of the depth of field according to the invention about the axial z-displacement, which is smaller than the axial extent of the depth of field, is thus to be understood that the two depth of field considered, namely the original and the shifted depth of field, along the optical axis, the above-mentioned overlap exhibit. This means that the invention also covers a sequence of shifts in the depth of field in which, in a single step, the depth of field is shifted by an adjustment path that is greater than the extension of the depth of field, provided that the sequence of steps as a whole results in that between the considered Depth of field areas the ultimately desired axial overlap is realized.
Die Erfindung sieht vor, von einer gegebenen dreidimensionalen Struktur von Punktobjekten nicht nur ein einziges Probenbild aufzunehmen, sondern mit einem längs der optischen Achse verschobenen Schärfentiefenbereich mindestens ein weiteres Probenbild, so dass ein- und dieselben Punktobjekte in verschiedenen z-Positionen des Schärfentiefenbereichs abgebildet werden. The invention proposes to record not only a single sample image of a given three-dimensional structure of point objects, but at least one further sample image with a depth of field displaced along the optical axis so that one and the same point objects are imaged in different z-positions of the depth of field.
Durch die erfindungsgemäß zu korrigierende laterale Bildfeldverzerrung weisen die genannten Punktobjekte in den beiden Probenbildern in Abhängigkeit ihrer jeweiligen z-Position Positionsabweichungen in ihren lateralen x/y-Positionen auf. Aus diesen lateralen x/y-Positionsabweichungen lässt sich nun eine Korrekturinformation erzeugen, die ein Maß für die laterale Bildfeldverzerrung ist. Diese Korrekturinformation kann dann genutzt werden, um die mit dem Abbildungsfehler behafteten lateralen x/y-Positionen der Punktobjekte zu korrigieren. Due to the lateral field distortion to be corrected according to the invention, the point objects mentioned in the two sample images have position deviations in their lateral x / y positions as a function of their respective z-position. From these lateral x / y position deviations, correction information can now be generated which is a measure of the lateral field distortion. This correction information can then be used to correct the aberrations of the lateral x / y positions of the point objects.
Wie schon eingangs erwähnt, ist unter dem erfindungsgemäßen Schärfentiefenbereich in dem Objektraum ein Bereich in z-Richtung um die zentrale Fokal- oder Schärfenebene zu verstehen, innerhalb dessen ein Punktobjekt auf dem Detektor einen Lichtfleck erzeugt, der noch scharf genug ist, um zur Lokalisierung des Punktobjektes ausgewertet werden zu können. Dabei ist es nicht erforderlich, diesen maximal möglichen Schärfentiefenbereich voll auszuschöpfen. So kann es sinnvoll sein, in Abhängigkeit der gewünschten Lokalisierungsgenauigkeit den Schärfentiefenbereich bewusst zu verkleinern und somit schon recht verschwommene, aber an sich noch auswertbare Lichtflecken von der Auswertung auszunehmen. Zur Bestimmung der lateralen x/y-Positionen müssen die auf dem Detektor erzeugten Lichtflecken nicht notwendigerweise räumlich strikt voneinander getrennt sein. Über geeignete algorithmische Verfahren, wie sie beispielsweise aus der Literatur als multi-fit-Verfahren oder maximum-likelihood-Verfahren bekannt sind, lassen sich auch überlappende Lichtverteilungen dahingehend analysieren, dass die Positionen der Punktobjekte bestimmt werden können. As already mentioned, the depth of field according to the invention in the object space means an area in the z-direction about the central focal or focal plane within which a point object on the detector generates a light spot which is still sharp enough to localize the object Point object can be evaluated. It is not necessary to fully exploit this maximum possible depth of field. Thus, it may be useful, depending on the desired localization accuracy to deliberately reduce the depth of field and thus to exclude quite blurred, but still be evaluated light spots from the evaluation. To determine the lateral x / y positions, the light spots generated on the detector need not necessarily be strictly separated from each other spatially. By means of suitable algorithmic methods, such as are known from the literature as multi-fit methods or maximum-likelihood methods, it is also possible to analyze overlapping light distributions in such a way that the positions of the point objects can be determined.
Das erfindungsgemäße Verfahren ist nicht nur geeignet, diejenigen Abbildungsfehler zu korrigieren, die durch die optischen Elemente der Abbildungsoptik verursacht werden. Vielmehr ermöglicht es die Erfindung auch, optische Störungen zu korrigieren, die durch die Probe selbst verursacht werden. Solche optische Störungen sind häufig vom Ort, an dem sie in der Probe auftreten, oder von der Umbebungstemperatur abhängig. Sie sind somit mit herkömmlichen Verfahren, in denen etwa optische Korrekturelemente mit erheblichem technischen Aufwand geeignet angesteuert werden, nur schwer kontrollierbar. Dies gilt umso mehr als diese herkömmlichen Verfahren in der Regel eine iterative Korrektur der Abbildungsfehler vorsehen, bei der die Probe wiederholt aufgenommen wird und sich deshalb nicht verändern darf. Demgegenüber ändert sich in der Lokalisierungsmikroskopie das von dem Detektor erfasste Signal durch die blinkenden Einzelmoleküle ständig, so dass in der Regel kein Probenbild exakt dem anderen gleicht. The inventive method is not only suitable for correcting aberrations caused by the optical elements of the Imaging optics are caused. Rather, the invention also makes it possible to correct for optical disturbances caused by the sample itself. Such optical perturbations are often dependent on the location where they occur in the sample or on the ambient temperature. They are thus difficult to control with conventional methods in which, for example, optical correction elements are appropriately controlled with considerable technical outlay. This is all the more so since these conventional methods usually provide an iterative correction of aberrations in which the sample is recorded repeatedly and must therefore not change. In contrast, in localization microscopy, the signal detected by the detector constantly changes due to the flashing individual molecules, so that as a rule no sample image is exactly the same as the other one.
Unter der lateralen x/y-Position eines Punktobjektes ist im Folgenden eine Position zu verstehen, die etwa unter Bezugnahme auf ein kartesisches Koordinatensystem, bei dem die z-Achse parallel zur optischen Achse der Abbildungsoptik liegt, in Richtung der x-Achse und/oder in Richtung der y-Achse gemessen wird, wobei die x-Achse und die y-Achse senkrecht zu der y-Achse angeordnet sind. The lateral x / y position of a point object is to be understood below as meaning a position in the direction of the x axis and / or approximately with reference to a Cartesian coordinate system in which the z axis is parallel to the optical axis of the imaging optics is measured in the direction of the y-axis, wherein the x-axis and the y-axis are arranged perpendicular to the y-axis.
Vorzugsweise wird innerhalb des Schärfentiefenbereichs mindestens eine senkrecht zur optischen Achse liegende Referenzebene definiert, die bei Verschieben des Schärfentiefenbereichs ortsfest relativ zu dem Schärfentiefenbereich bleibt. Eines der Probenbilder wird dabei als Referenzbild festgelegt, wobei auf Grundlage dieses Referenzbildes eine Vergleichsstruktur definiert wird, die mindestens eines derjenigen Punktobjekte repräsentiert, die bei Aufnahme des Referenzbildes in der Referenzebene des Schärfentiefenbereichs angeordnet sind. Die Vergleichsstruktur wird dann in dem mindestens einen anderen Probenbild identifiziert. Auf Grundlage der verschiedenen Probenbilder wird jeweils die laterale x/y-Position der Vergleichsstruktur ermittelt. Anschließend wird die laterale x/y-Positionsabweichung zwischen den auf Grundlage der verschiedenen Probenbilder ermittelten lateralen x/y-Positionen der Referenzstruktur bestimmt. Schließlich wird die Korrekturinformation in Abhängigkeit der für die Vergleichsstruktur ermittelten lateralen x/y-Positionsabweichung erzeugt. Preferably, at least one reference plane perpendicular to the optical axis is defined within the depth of field of the field, which remains stationary relative to the depth of field when the depth of field is moved. One of the sample images is defined as a reference image, based on this reference image, a comparison structure is defined, which represents at least one of those point objects that are arranged in the reference plane of the depth of focus when recording the reference image. The comparison structure is then identified in the at least one other sample image. Based on the different sample images, the lateral x / y position of the comparison structure is determined in each case. Subsequently, the lateral x / y positional deviation between the lateral x / y positions of the reference structure determined on the basis of the different sample images is determined. Finally, the correction information is generated as a function of the lateral x / y position deviation determined for the comparison structure.
Die Referenzebene ist beispielsweise die zentrale Fokal- oder Schärfenebene innerhalb des Schärfentiefenbereichs. Diese wird mit Verschieben des Schärfentiefenbereichs längs der optischen Achse bewegt und tastet so gleichsam den Objektraum ab. Anhand eines der Probenbilder, das als Referenzbild festgelegt wird, wird eine Vergleichsstruktur definiert, die auch in den anderen Probenbildern vorhanden ist, dort jedoch in unterschiedlichen z-Positionen und damit – bedingt durch die laterale Bildfeldverzerrung – auch in anderen x/y-Positionen innerhalb des zugehörigen Schärfentiefenbereichs. Mit Hilfe der Vergleichsstruktur lassen sich so die lateralen x/y-Positionsabweichungen in Abhängigkeit der z-Position zuverlässig ermitteln. The reference plane is, for example, the central focal or focus plane within the depth of field. The latter is moved along the optical axis as the depth of field moves, thus scanning the object space as it were. On the basis of one of the sample images, which is defined as a reference image, a comparison structure is defined, which is also present in the other sample images, but there in different z-positions and thus - due to the lateral field distortion - in other x / y positions within of the associated depth of field. With the aid of the comparison structure, the lateral x / y position deviations can thus be reliably determined as a function of the z position.
Vorzugsweise wird der Schärfentiefenbereich in mehreren Schritten axial verschoben. In jedem dieser Schritte wird die auf Grundlage des zugehörigen Probenbildes ermittelte laterale x/y-Positionsabweichung der Vergleichsstruktur gegenüber der lateralen x/y-Position der auf Grundlage des Referenzbildes ermittelten Vergleichsstruktur ermittelt. Als Korrekturinformation wird eine Zuordnungsfunktion erzeugt, deren Funktionswerte jeweils die in dem jeweiligen Schritt ermittelte laterale x/y-Positionsabweichung der zugehörigen Vergleichsstruktur abhängig von deren axialer z-Position längs der optischen Achse angeben. Die Zuordnungsfunktion stellt eine Korrekturvorschrift dar, die in Abhängigkeit des Abstandes eines Punktobjektes von der Referenzebene eine Korrektur der lateralen x/y-Position vorsieht, die genau die durch die laterale Bildfeldverzerrung entstandene Fehllokalisierung dieses Punktobjektes ausgleicht. Preferably, the depth of field is axially displaced in several steps. In each of these steps, the lateral x / y positional deviation of the comparison structure determined on the basis of the associated sample image is determined relative to the lateral x / y position of the comparison structure determined on the basis of the reference image. As correction information, an assignment function is generated, the function values of which in each case indicate the lateral x / y position deviation of the associated comparison structure determined in the respective step as a function of its axial z position along the optical axis. The assignment function represents a correction rule which, depending on the distance of a point object from the reference plane, provides for a correction of the lateral x / y position, which exactly compensates for the mislocalization of this point object caused by the lateral field distortion.
Werte der Zuordnungsfunktion, die zwischen den durch die schrittweise Verschiebung des Schärfentiefenbereichs ermittelten Funktionswerten liegen, können beispielsweise durch Interpolation bestimmt werden. Auf diese Weise kann eine stetige Zuordnungsfunktion ermittelt werden, obgleich durch das schrittweise Verschieben des Schärfentiefenbereichs nur einige diskret ermittelte Funktionswerte vorliegen. Values of the assignment function that lie between the function values determined by the stepwise shift of the depth of field can be determined, for example, by interpolation. In this way, a continuous assignment function can be determined, although only a few discreetly determined function values are present due to the stepwise shifting of the depth of field.
In einer möglichen Ausführungsform werden die lateralen x/y-Positionen der Punktobjekte durch Bildverarbeitung direkt in dem zugehörigen Probenbild korrigiert. Dies hat den Vorteil, dass dem Benutzer die korrigierten Positionen der Punktobjekte unmittelbar angezeigt werden, ohne den Umweg über die Korrektur zuvor gespeicherter Positionen und ein auf Grundlage der korrigierten Positionen neu erzeugtes Probenbild gehen zu müssen. In one possible embodiment, the lateral x / y positions of the point objects are corrected by image processing directly in the associated sample image. This has the advantage that the corrected positions of the point objects are immediately displayed to the user without having to go through the correction of previously stored positions and a sample image newly generated on the basis of the corrected positions.
Vorzugsweise wird die Vergleichsstruktur in dem mindestens einen anderen Probenbild in Abhängigkeit der auf dem Detektor erfassten Bildhelligkeit identifiziert, d.h. unter Berücksichtigung der Gesamtzahl der auf dem Detektor erzeugten Lichtflecken, die zu dieser Struktur beitragen. Diese Ausführungsform ist insbesondere dann von Vorteil, wenn die bei verschobenem Schärfentiefenbereich ermittelten x/y-Positionen nicht nur zur Korrektur zuvor mit Abbildungsfehlern behafteter Positionen genutzt werden, sondern zugleich zur Erzeugung eines hochaufgelösten Gesamtlokalisierungsbildes herangezogen werden. Dadurch können störende Helligkeitsunterschiede in dem Gesamtlokalisierungsbild vermieden werden. Preferably, the comparison structure is identified in the at least one other sample image as a function of the image brightness detected on the detector, ie taking into account the total number of light spots generated on the detector that contribute to this structure. This embodiment is particularly advantageous if the x / y positions determined with the depth of field shifted are not only used for correcting positions that are previously subject to aberrations, but at the same time are used to generate a high-resolution overall localization image. This can be annoying Brightness differences in the overall localization image can be avoided.
Die Summe der einzelnen axialen z-Verstellwege ist im Wesentlichen gleich der axilen z-Ausdehnung des Schärfentiefenbereichs. Es ist jedoch ebenso möglich, den Schärfentiefenbereich in z-Richtung insgesamt um eine Strecke zu verstellen, die größer als die Ausdehnung des Schärfentiefenbereichs ist. Setzt man in diesem Fall die in einzelnen Schritten erzeugten Probenbilder nach der Korrektur der Positionen der Punktobjekte zu einem Gesamtlokalisierungsbild zusammen, so deckt dieses in z-Richtung einen Bereich ab, der größer als der Schärfentiefenbereich ist. Somit lassen sich insbesondere komplexe dreidimensionale Strukturen hochaufgelöst abbilden. The sum of the individual axial z-displacement paths is substantially equal to the axile z-extension of the depth of field. However, it is also possible to adjust the depth of field in the z-direction as a whole by a distance which is greater than the extent of the depth of field. If, in this case, the sample images generated in individual steps are combined to form an overall localization image after the positions of the point objects have been corrected, this covers an area in the z direction which is greater than the depth of field. Thus, in particular, complex three-dimensional structures can be imaged in high-resolution.
Vorzugsweise wird der axiale z-Verstellweg mittels eines Sensors erfasst. Dadurch ist sichergestellt, dass der axiale z-Verstellweg, der in die Korrektur der lateralen x/y-Positionen der Punktobjekte eingeht, stets genau bekannt ist. Preferably, the axial z-displacement is detected by means of a sensor. This ensures that the axial z-displacement, which is included in the correction of the lateral x / y positions of the point objects, is always known exactly.
Das Verschieben des Schärfentiefenbereichs relativ zur Probe kann dadurch erfolgen, dass entweder die Probe relativ zu der Abbildungsoptik oder aber die Abbildungsoptik relativ zu der Probe längs der optischen Achse bewegt wird. Die Erfindung ist hierauf jedoch nicht beschränkt. So ist es beispielsweise ebenso möglich, eine deformierbare Linse, einen deformierbaren Spiegel, einen räumlichen Lichtmodulator oder dergleichen zu verwenden, um den Schärfentiefenbereich in dem Objektraum längs der optischen Achse der Abbildungsoptik zu verschieben. Im Prinzip ist es möglich, den Schärfentiefenbereich auf beliebige Art und Weise zu verschieben. The shifting of the depth of field relative to the sample can take place in that either the sample is moved relative to the imaging optics or the imaging optics are moved relative to the sample along the optical axis. However, the invention is not limited thereto. For example, it is also possible to use a deformable lens, a deformable mirror, a spatial light modulator or the like to shift the depth of field in the object space along the optical axis of the imaging optics. In principle, it is possible to shift the depth of field in any manner.
In einer besonders bevorzugten Ausführungsform wird die z-Position des jeweiligen Punktobjektes längs der optischen Achse ermittelt, indem eine Kenngröße eines das Punktobjekt in dem jeweiligen Probenbild darstellenden Lichtflecks ermittelt und dieser Kenngröße die z-Position anhand einer vorbestimmten Zuordnungsinformation zugeordnet wird. Als Kenngröße kommt beispielsweise eine Größe in Betracht, die wie in dem eingangs genannten Astigmatismus-Verfahren die Form des das Punktobjekt darstellenden Lichtflecks charakterisiert. Alternativ kann auch eine Kenngröße genutzt werden, die, wie im Falle des bekannten Bi-Plane-Verfahrens, die Ausdehnungen zweier Lichtflecke miteinander in Beziehung setzt, die von ein- und demselben Lichtfleck herrühren und auf Detektionsflecken erzeugt werden, deren zugeordnete Schärfenebenen im Objektraum in z-Richtung zueinander versetzt sind. In a particularly preferred embodiment, the z-position of the respective point object is determined along the optical axis by determining a characteristic of a spot representing the point object in the respective sample image and assigning the z-position to this characteristic on the basis of predetermined mapping information. By way of example, a variable is taken into consideration which, as in the aforementioned astigmatism method, characterizes the shape of the light spot representing the point object. Alternatively, it is also possible to use a characteristic which, as in the case of the known bi-plane method, relates the extents of two light spots which originate from the same light spot and are generated on detection spots whose associated sharpness planes are present in the object space z-direction are offset from each other.
Vorzugsweise werden die in dem Probenbild ermittelten z-Positionen der Punktobjekte mit den in dem weiteren Probenbild in Abhängigkeit des vorbestimmten axialen z-Verstellwegs ermittelten z-Positionen derselben Punktobjekte verglichen. In Abhängigkeit dieses Vergleichs wird dann eine z-Korrekturinformation erzeugt, anhand der die in Abhängigkeit der Zuordnungsinformation ermittelten z-Positionen der Punktobjekte korrigiert werden. Preferably, the z-positions of the point objects determined in the sample image are compared with the z-positions of the same point objects determined in the further sample image as a function of the predetermined axial z-displacement. As a function of this comparison, a z-correction information is then generated on the basis of which the z-positions of the point objects determined as a function of the assignment information are corrected.
Diese Ausgestaltung umgeht das Problem, dass sich die im Vorfeld der eigentlichen lichtmikroskopischen Messung bestimmte Zuordnungsinformation, die eine Zuordnung zwischen der in der Messung ermittelten Kenngröße und der axialen z-Position des Punktobjektes ermöglicht, häufig so ungenau ist, dass eine präzise Bestimmung der z-Position schwierig ist. Anhand der z-Korrekturinformation kann in diesem Fall die (von vornherein ungenaue) Zuordnungsinformation korrigiert werden. This refinement avoids the problem that the assignment information determined in advance of the actual light-microscopic measurement, which makes possible an association between the parameter determined in the measurement and the axial z-position of the point object, is often so inaccurate that a precise determination of the z-position. Position is difficult. On the basis of the z-correction information, the (inaccurate) assignment information can be corrected in this case.
Nach einem weiteren Aspekt der Erfindung ist eine lichtmikroskopische Einrichung zur Lokalisierung von Punktobjekten gemäß Anspruch 14 vorgesehen. According to another aspect of the invention, a light microscopic device for locating point objects according to
Die Erfindung wird im Folgenden anhand der Figuren näher erläutert. Darin zeigen: The invention will be explained in more detail below with reference to FIGS. Show:
Die Abbildungsoptik
Die Einrichung
Die Probe
Die Einrichtung
Im folgenden wird erläutert, wie eine laterale Bildfeldverzerrung, wie sie beispielsweise durch eine Koma verursacht wird, erfindungsgemäß korrigiert wird. Dabei soll zunächst unter Bezugnahme auf die
In
Die Koma führt nun zu einer Verzerrung der PSF
Die Koma führt also dazu, dass die Schwerpunkte der den einzelnen Punktobjekten zugeordneten PSFs an verschiedenen z-Positionen nicht mehr in der gleichen x/y-Position liegen. Einen entsprechenden Effekt erhält man, wenn man anstelle der Koma eine Verkippung der PSF im Raum betrachtet. The coma leads to the fact that the centers of gravity of the PSFs assigned to the individual point objects are no longer in the same x / y position at different z positions. A corresponding effect is obtained by considering a tilting of the PSF in space instead of the coma.
Liegen nun also Abbildungsfehler vor, die den vorstehend genannten Effekt der Schwerpunktverschiebung zur Folge haben, so führt dies im hochaufgelösten Probenbild zu Bildfehlern, wie ein Vergleich der
Während
Unter Bezugnahme auf die
Im Folgenden wird der Einfachheit halber angenommen, dass die Abbildungsoptik
In
In den
Das in den
Die Zuordnungsfunktion wird in dem vorliegenden Ausführungsbeispiel dadurch erzeugt, dass nicht nur ein Bild der X-förmigen Struktur
Das beispielhafte Korrekturverfahren beginnt in Schritt 1 nach
Anschließend wird in Schritt 2 nach
entsprechend um den Betrag ∆z korrigiert werden, um das resultierende Bild im Vergleich zu dem in dem vorhergenden Schritt 1 erzeugten Bild nicht um ∆z zu verschieben. In dem so entstandenen Bild ist die X-förmige Struktur
Wie in den
Nach der Erzeugung der fünf hochaufgelösten Bilder wird beispielsweise der Teil der X-förmigen Struktur
Die gewünschte Zuordnungsfunktion erhält man schließlich, indem man die in den Schritten 1, 2, 4 und 5 ermittelten lateralen x-Positionsabweichungen der Vergleichsstruktur gegenüber der in Schritt 3 ermittelten x-Position der Vergleichsstruktur gegen die zugehörigen z-Positionen aufträgt. Dies ist in dem Graphen nach
BezugszeichenlisteLIST OF REFERENCE NUMBERS
- 10 10
- Lichtmikroskopische Einrichtung Light microscopic device
- 12 12
- Abbildungsoptik imaging optics
- 14 14
- Probe sample
- 16 16
- Detektor detector
- 18 18
- Schärfentiefenbereich Depth of field
- 20 20
- Steuereinheit control unit
- 22 22
- Verstelleinheit adjustment
- 24 24
- Sensor sensor
- 26 26
- Punktobjekte point objects
- 28 28
- Probenträger sample carrier
- 30 30
- PSF PSF
- 32 32
- röhrenartige Struktur tubular structure
- 32 32
- X-förmige Struktur X-shaped structure
- 34 34
- Referenzebene reference plane
ZITATE ENTHALTEN IN DER BESCHREIBUNG QUOTES INCLUDE IN THE DESCRIPTION
Diese Liste der vom Anmelder aufgeführten Dokumente wurde automatisiert erzeugt und ist ausschließlich zur besseren Information des Lesers aufgenommen. Die Liste ist nicht Bestandteil der deutschen Patent- bzw. Gebrauchsmusteranmeldung. Das DPMA übernimmt keinerlei Haftung für etwaige Fehler oder Auslassungen.This list of the documents listed by the applicant has been generated automatically and is included solely for the better information of the reader. The list is not part of the German patent or utility model application. The DPMA assumes no liability for any errors or omissions.
Zitierte PatentliteraturCited patent literature
- WO 2006/127692 A2 [0002, 0004] WO 2006/127692 A2 [0002, 0004]
- DE 102006021317 B3 [0002, 0004] DE 102006021317 B3 [0002, 0004]
- WO 2007/128434 A1 [0002] WO 2007/128434 A1 [0002]
- US 2009/0134342 A1 [0002] US 2009/0134342 A1 [0002]
- DE 102008024568 A1 [0002] DE 102008024568 A1 [0002]
- WO 2008/091296 A2 [0002, 0004] WO 2008/091296 A2 [0002, 0004]
Zitierte Nicht-PatentliteraturCited non-patent literature
-
„Sub-diffraction-limit imaging by stochastic optical reconstruction microscopy (STORM)“, Nature Methods 3, 793–796 (2006), M. J. Rust, M. Bates, X. Zhuang [0002] "Sub-diffraction-limiting imaging by stochastic optical reconstruction microscopy (STORM)",
Nature Methods 3, 793-796 (2006), MJ Rust, M. Bates, X. Zhuang [0002] - „Resolution of Lambda/10 in fluorescence microscopy using fast single molecule photo-switching“, Geisler C. et al, Appl. Phys. A, 88, 223–226 (2007) [0002] "Resolution of lambda / 10 in fluorescence microscopy using fast single molecule photo-switching", Geisler C. et al, Appl. Phys. A, 88, 223-226 (2007) [0002]
- „Particle-Tracking“-Experimenten bekannten, wie sie in Kajo et. al., 1994, Biophysical Journal, 67, Holtzer et. al., 2007, Applied Physics Letters, 90 und Toprak et al., 2007, Nano Letters, 7(7) beschrieben sind. Sie wurden auch schon in bildgebenden Verfahren angewandt, die auf dem oben beschriebenen Schalten und Lokalisieren von Einzelmolekülen basieren. Hierzu wird auf Huang et al, 2008, Science, 319 und Juette et al., 2008, Nature Methods, verwiesen. Zum Stand der Technik wird ferner auf Pavani et al., 2009, PNAS, 106 [0009] Particle-tracking experiments were known as described in Kajo et. al., 1994, Biophysical Journal, 67, Holtzer et. al., 2007, Applied Physics Letters, 90 and Toprak et al., 2007, Nano Letters, 7 (7). They have also been used in imaging techniques based on the switching and localization of single molecules described above. Reference is made to Huang et al, 2008, Science, 319 and Juette et al., 2008, Nature Methods. The prior art is further described in Pavani et al., 2009, PNAS, 106 [0009]
- „Astigmatismusverfahren“ (die oben genannten Dokumente Kajo et al., Holtzer et al. und Huang et al.), „Bi-Plane-Verfahren“ (vgl. Toprak et al. und Juette et al.) und „Doppelhelixverfahren“ (vgl. Pavani et al.) [0013] "Astigmatism Methods" (the above-referenced Kajo et al., Holtzer et al., And Huang et al.), "Bi-Plane" methods (see Toprak et al., And Juette et al.), And "Double helical method" (see Pavani et al.) [0013]
Claims (15)
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
DE102013106895.2A DE102013106895B4 (en) | 2013-07-01 | 2013-07-01 | Light microscopic method for the localization of point objects |
US14/901,740 US10234672B2 (en) | 2013-07-01 | 2014-07-01 | Light-microscopic method of localization microscopy for localizing point objects |
JP2016522575A JP6714508B2 (en) | 2013-07-01 | 2014-07-01 | Optical microscopy method of localization microscopy for localizing multiple point objects in a sample, and optical microscope apparatus for localizing multiple point objects in a sample |
PCT/EP2014/063918 WO2015000877A1 (en) | 2013-07-01 | 2014-07-01 | Light-microscopic method of localization microscopy for localizing point objects |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
DE102013106895.2A DE102013106895B4 (en) | 2013-07-01 | 2013-07-01 | Light microscopic method for the localization of point objects |
Publications (2)
Publication Number | Publication Date |
---|---|
DE102013106895A1 true DE102013106895A1 (en) | 2015-01-08 |
DE102013106895B4 DE102013106895B4 (en) | 2015-09-17 |
Family
ID=51033216
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
DE102013106895.2A Active DE102013106895B4 (en) | 2013-07-01 | 2013-07-01 | Light microscopic method for the localization of point objects |
Country Status (4)
Country | Link |
---|---|
US (1) | US10234672B2 (en) |
JP (1) | JP6714508B2 (en) |
DE (1) | DE102013106895B4 (en) |
WO (1) | WO2015000877A1 (en) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE102017129519A1 (en) * | 2017-12-12 | 2019-06-13 | Technische Universität Ilmenau | Arrangement and method for the simultaneous measurement of the fluorescence of individual layers, for example the ocular fundus |
EP3382439A4 (en) * | 2015-11-27 | 2019-12-11 | Nikon Corporation | Microscope, observation method, and image processing program |
DE102018132875A1 (en) * | 2018-12-19 | 2020-06-25 | Abberior Instruments Gmbh | Fluorescence light microscopy with increased axial resolution |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE102013016368B4 (en) * | 2013-09-30 | 2024-05-16 | Carl Zeiss Microscopy Gmbh | Light microscope and microscopy method for examining a microscopic sample |
LU92620B1 (en) * | 2014-12-19 | 2016-06-20 | Leica Microsystems | GRID MICROSCOPE |
EP3538941A4 (en) | 2016-11-10 | 2020-06-17 | The Trustees of Columbia University in the City of New York | Rapid high-resolution imaging methods for large samples |
DE102017104736B9 (en) * | 2017-03-07 | 2020-06-25 | MAX-PLANCK-Gesellschaft zur Förderung der Wissenschaften e.V. | Method and device for the spatial measurement of nanoscale structures |
JP6932036B2 (en) * | 2017-07-31 | 2021-09-08 | シスメックス株式会社 | Cell imaging method, cell imaging device, particle imaging method and particle imaging device |
CN111382592B (en) * | 2018-12-27 | 2023-09-29 | 杭州海康威视数字技术股份有限公司 | Living body detection method and apparatus |
Citations (20)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DD154643A1 (en) * | 1980-11-20 | 1982-04-07 | Peter Schwensow | APPARATUS FOR MICROSCOPIC OBSERVATION WITH ADVANCED SHARP HEAD RANGE |
DD261224A1 (en) * | 1985-04-29 | 1988-10-19 | Univ Berlin Humboldt | METHOD FOR THE DEEP-SHARP PICTURE OF ROOMED OBJECTS |
DE69115914T2 (en) * | 1990-08-31 | 1996-05-30 | Commw Scient Ind Res Org | INTERFERENCE MICROSCOPE |
WO1996023240A1 (en) * | 1995-01-27 | 1996-08-01 | Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. | Process and device for imaging an object |
EP0244640B1 (en) * | 1986-04-09 | 1998-09-09 | Firma Carl Zeiss | Light-modulating microscope using deconvolution |
DE10039520A1 (en) * | 2000-08-08 | 2002-02-21 | Leica Microsystems | Device for examining and manipulating microscopic objects |
DE10257423A1 (en) * | 2002-12-09 | 2004-06-24 | Europäisches Laboratorium für Molekularbiologie (EMBL) | Microscope used in molecular biology comprises a focussing arrangement producing an extended planar object illumination region, a detection device, and a movement arrangement |
WO2006127692A2 (en) | 2005-05-23 | 2006-11-30 | Hess Harald F | Optical microscopy with phototransformable optical labels |
DE102006021317B3 (en) | 2006-05-06 | 2007-10-11 | MAX-PLANCK-Gesellschaft zur Förderung der Wissenschaften e.V. | Sample`s interesting structure spatial high-resolution imaging method, involves adjusting intensity of signal such that ten percentage of molecules of substance have specific distance to adjacent molecules |
DE60132656T2 (en) * | 2000-02-09 | 2008-05-21 | Affymetrix, Inc., Santa Clara | QUANTIFIED FLUORESCENCE MICROSCOPY |
WO2008091296A2 (en) | 2006-08-07 | 2008-07-31 | President And Fellows Of Harvard College | Sub-diffraction limit image resolution and other imaging techniques |
US20090242798A1 (en) * | 2008-04-01 | 2009-10-01 | The Jackson Laboratory | 3D Biplane Microscopy |
DE102008024568A1 (en) | 2008-05-21 | 2009-12-03 | MAX-PLANCK-Gesellschaft zur Förderung der Wissenschaften e.V. | Spatial resolution imaging of structure of interest in specimen involves marking specimen structure, imaging the specimen, exposing the specimen to light, registering the fluorescent light and determining position of molecules of substance |
US7675045B1 (en) * | 2008-10-09 | 2010-03-09 | Los Alamos National Security, Llc | 3-dimensional imaging at nanometer resolutions |
US20100283835A1 (en) * | 2007-01-11 | 2010-11-11 | Joerg Bewersdorf | Microscopic imaging techniques |
DE102009043744A1 (en) * | 2009-09-30 | 2011-03-31 | Carl Zeiss Microlmaging Gmbh | Method and microscope for three-dimensional resolution-enhanced microscopy |
DE102010044013A1 (en) * | 2010-11-16 | 2012-05-16 | Carl Zeiss Microimaging Gmbh | Depth resolution enhanced microscopy |
DE102011055294A1 (en) * | 2011-11-11 | 2013-05-16 | Leica Microsystems Cms Gmbh | Microscopic device and method for the three-dimensional localization of punctiform objects in a sample |
DE102012200344A1 (en) * | 2012-01-11 | 2013-07-11 | Carl Zeiss Microscopy Gmbh | Microscope system and method for 3-D high-resolution microscopy |
DE102012201003A1 (en) * | 2012-01-24 | 2013-07-25 | Carl Zeiss Microscopy Gmbh | Microscope and method for high-resolution 3-D fluorescence microscopy |
Family Cites Families (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8005314B2 (en) * | 2005-12-09 | 2011-08-23 | Amnis Corporation | Extended depth of field imaging for high speed object analysis |
JP2000251823A (en) * | 1999-02-25 | 2000-09-14 | Jeol Ltd | Sample inclination observing method in scanning charged particle beam system |
JP4103302B2 (en) | 2000-05-15 | 2008-06-18 | 株式会社日立製作所 | Electrophoresis apparatus using capillary array and sample plate assembly used therefor |
US7639419B2 (en) * | 2003-02-21 | 2009-12-29 | Kla-Tencor Technologies, Inc. | Inspection system using small catadioptric objective |
JP4600395B2 (en) * | 2004-09-22 | 2010-12-15 | 株式会社ニコン | Microscope system and image processing method |
JP4812443B2 (en) * | 2006-01-27 | 2011-11-09 | オリンパス株式会社 | Scanning confocal laser microscope |
US8564792B2 (en) | 2007-12-21 | 2013-10-22 | President And Fellows Of Harvard College | Sub-diffraction limit image resolution in three dimensions |
WO2009115108A1 (en) | 2008-03-19 | 2009-09-24 | Ruprecht-Karls-Universität Heidelberg | A method and an apparatus for localization of single dye molecules in the fluorescent microscopy |
US8693742B2 (en) | 2008-12-17 | 2014-04-08 | The Regents Of The University Of Colorado | Three-dimensional single-molecule fluorescence imaging beyond the diffraction limit using a double-helix point spread function |
US8620065B2 (en) * | 2010-04-09 | 2013-12-31 | The Regents Of The University Of Colorado | Methods and systems for three dimensional optical imaging, sensing, particle localization and manipulation |
DE102010017630B4 (en) * | 2010-06-29 | 2016-06-02 | Leica Microsystems Cms Gmbh | Method and device for light microscopic imaging of a sample structure |
DE102010036709A1 (en) | 2010-07-28 | 2012-02-02 | Leica Microsystems Cms Gmbh | Device and method for microscopic image acquisition of a sample structure |
-
2013
- 2013-07-01 DE DE102013106895.2A patent/DE102013106895B4/en active Active
-
2014
- 2014-07-01 JP JP2016522575A patent/JP6714508B2/en active Active
- 2014-07-01 WO PCT/EP2014/063918 patent/WO2015000877A1/en active Application Filing
- 2014-07-01 US US14/901,740 patent/US10234672B2/en active Active
Patent Citations (22)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DD154643A1 (en) * | 1980-11-20 | 1982-04-07 | Peter Schwensow | APPARATUS FOR MICROSCOPIC OBSERVATION WITH ADVANCED SHARP HEAD RANGE |
DD261224A1 (en) * | 1985-04-29 | 1988-10-19 | Univ Berlin Humboldt | METHOD FOR THE DEEP-SHARP PICTURE OF ROOMED OBJECTS |
EP0244640B1 (en) * | 1986-04-09 | 1998-09-09 | Firma Carl Zeiss | Light-modulating microscope using deconvolution |
DE69115914T2 (en) * | 1990-08-31 | 1996-05-30 | Commw Scient Ind Res Org | INTERFERENCE MICROSCOPE |
WO1996023240A1 (en) * | 1995-01-27 | 1996-08-01 | Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. | Process and device for imaging an object |
DE60132656T2 (en) * | 2000-02-09 | 2008-05-21 | Affymetrix, Inc., Santa Clara | QUANTIFIED FLUORESCENCE MICROSCOPY |
DE10039520A1 (en) * | 2000-08-08 | 2002-02-21 | Leica Microsystems | Device for examining and manipulating microscopic objects |
DE10257423A1 (en) * | 2002-12-09 | 2004-06-24 | Europäisches Laboratorium für Molekularbiologie (EMBL) | Microscope used in molecular biology comprises a focussing arrangement producing an extended planar object illumination region, a detection device, and a movement arrangement |
WO2006127692A2 (en) | 2005-05-23 | 2006-11-30 | Hess Harald F | Optical microscopy with phototransformable optical labels |
DE102006021317B3 (en) | 2006-05-06 | 2007-10-11 | MAX-PLANCK-Gesellschaft zur Förderung der Wissenschaften e.V. | Sample`s interesting structure spatial high-resolution imaging method, involves adjusting intensity of signal such that ten percentage of molecules of substance have specific distance to adjacent molecules |
WO2007128434A1 (en) | 2006-05-06 | 2007-11-15 | MAX-PLANCK-Gesellschaft zur Förderung der Wissenschaften e.V. | Method and fluorescent light microscope for the high-resolution three-dimensional representation of the structure of a specimen |
US20090134342A1 (en) | 2006-05-06 | 2009-05-28 | Stefan Hell | High spatial resolution imaging of a structure of interest in a specimen |
WO2008091296A2 (en) | 2006-08-07 | 2008-07-31 | President And Fellows Of Harvard College | Sub-diffraction limit image resolution and other imaging techniques |
US20100283835A1 (en) * | 2007-01-11 | 2010-11-11 | Joerg Bewersdorf | Microscopic imaging techniques |
US20090242798A1 (en) * | 2008-04-01 | 2009-10-01 | The Jackson Laboratory | 3D Biplane Microscopy |
DE102008024568A1 (en) | 2008-05-21 | 2009-12-03 | MAX-PLANCK-Gesellschaft zur Förderung der Wissenschaften e.V. | Spatial resolution imaging of structure of interest in specimen involves marking specimen structure, imaging the specimen, exposing the specimen to light, registering the fluorescent light and determining position of molecules of substance |
US7675045B1 (en) * | 2008-10-09 | 2010-03-09 | Los Alamos National Security, Llc | 3-dimensional imaging at nanometer resolutions |
DE102009043744A1 (en) * | 2009-09-30 | 2011-03-31 | Carl Zeiss Microlmaging Gmbh | Method and microscope for three-dimensional resolution-enhanced microscopy |
DE102010044013A1 (en) * | 2010-11-16 | 2012-05-16 | Carl Zeiss Microimaging Gmbh | Depth resolution enhanced microscopy |
DE102011055294A1 (en) * | 2011-11-11 | 2013-05-16 | Leica Microsystems Cms Gmbh | Microscopic device and method for the three-dimensional localization of punctiform objects in a sample |
DE102012200344A1 (en) * | 2012-01-11 | 2013-07-11 | Carl Zeiss Microscopy Gmbh | Microscope system and method for 3-D high-resolution microscopy |
DE102012201003A1 (en) * | 2012-01-24 | 2013-07-25 | Carl Zeiss Microscopy Gmbh | Microscope and method for high-resolution 3-D fluorescence microscopy |
Non-Patent Citations (12)
Title |
---|
"Astigmatismusverfahren" (die oben genannten Dokumente Kajo et al., Holtzer et al. und Huang et al.), "Bi-Plane-Verfahren" (vgl. Toprak et al. und Juette et al.) und "Doppelhelixverfahren" (vgl. Pavani et al.) |
"Particle-Tracking"-Experimenten bekannten, wie sie in Kajo et. al., 1994, Biophysical Journal, 67, Holtzer et. al., 2007, Applied Physics Letters, 90 und Toprak et al., 2007, Nano Letters, 7(7) beschrieben sind. Sie wurden auch schon in bildgebenden Verfahren angewandt, die auf dem oben beschriebenen Schalten und Lokalisieren von Einzelmolekülen basieren. Hierzu wird auf Huang et al, 2008, Science, 319 und Juette et al., 2008, Nature Methods, verwiesen. Zum Stand der Technik wird ferner auf Pavani et al., 2009, PNAS, 106 |
"Resolution of Lambda/10 in fluorescence microscopy using fast single molecule photo-switching", Geisler C. et al, Appl. Phys. A, 88, 223-226 (2007) |
"Sub-diffraction-limit imaging by stochastic optical reconstruction microscopy (STORM)", Nature Methods 3, 793-796 (2006), M. J. Rust, M. Bates, X. Zhuang |
Geisler, C. [u.a.]: Resolution of Lambda / 10 in fluorescence microscopy using fast single molecule photo-switching. In: Appl. Phys. A, Vol. 88, 2007, S. 223 - 226 * |
Holtzer [u.a.], Appl. Phys. Lett., Vol. 90, 2007 * |
Huang [u.a.], Science, Vol. 319, 2008 * |
Juette [u.a.], Nature Methods, 2008 * |
Kao, [u.a.], In: Biophysical Journal, Vol. 67, 1994 * |
Pavani [u.a.], PNAS, Vol. 106, 2009 * |
Rust, M. J.; Bates, M.; Zhuang, X.: Sub-diffraction-limit imaging by stochastic optical reconstruction mircroscopy (STORM). In: Nature Meth., Vol. 3, 2006, S. 793 - 796 * |
Toprak [u.a.], Nano Letters, Vol. 7, No. 7, 2007 * |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP3382439A4 (en) * | 2015-11-27 | 2019-12-11 | Nikon Corporation | Microscope, observation method, and image processing program |
US10725278B2 (en) | 2015-11-27 | 2020-07-28 | Nikon Corporation | Microscope, observation method, and storage medium |
DE102017129519A1 (en) * | 2017-12-12 | 2019-06-13 | Technische Universität Ilmenau | Arrangement and method for the simultaneous measurement of the fluorescence of individual layers, for example the ocular fundus |
DE102017129519B4 (en) * | 2017-12-12 | 2020-08-06 | Technische Universität Ilmenau | Arrangement and method for the simultaneous measurement of the fluorescence of individual layers in a layer system, for example the fundus |
DE102018132875A1 (en) * | 2018-12-19 | 2020-06-25 | Abberior Instruments Gmbh | Fluorescence light microscopy with increased axial resolution |
Also Published As
Publication number | Publication date |
---|---|
JP6714508B2 (en) | 2020-06-24 |
US20160370570A1 (en) | 2016-12-22 |
US10234672B2 (en) | 2019-03-19 |
DE102013106895B4 (en) | 2015-09-17 |
WO2015000877A1 (en) | 2015-01-08 |
JP2016525225A (en) | 2016-08-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
DE102013106895B4 (en) | Light microscopic method for the localization of point objects | |
EP2592461B1 (en) | Microscopic device and method for three-dimensional localization of punctiform objects in a sample | |
EP2538262B1 (en) | Method and light-microscopic device to show a sample as an image | |
DE102011053232B4 (en) | Microscopic device and microscopic method for the three-dimensional localization of punctiform objects | |
WO2017013054A1 (en) | Light sheet microscope for simultaneously imaging a plurality of object planes | |
DE102014109687A1 (en) | Position determination of an object in the beam path of an optical device | |
DE102010036709A1 (en) | Device and method for microscopic image acquisition of a sample structure | |
DE102013208415B4 (en) | Microscope and method for 3D high-resolution localization microscopy | |
WO2015039806A1 (en) | Laser scanning microscope and method for correcting imaging aberrations more particularly in high-resolution scanning microscopy | |
EP2807515B1 (en) | Microscope and method for high-resolution 3d fluorescence microscopy | |
DE102016119263A1 (en) | A method for spatially high-resolution determination of the location of a singled, excitable light for the emission of luminescent light molecule in a sample | |
DE102009060490A1 (en) | High-resolution microscope and image splitter arrangement | |
DE102019008989B3 (en) | Disturbance correction procedure and laser scanning microscope with disturbance correction | |
WO2018069283A1 (en) | Method for the high spatial resolution localization of an individualized molecule which can be excited with excitation light in order to emit luminescent light in a sample | |
EP2718762A1 (en) | High-resolution luminescence microscopy | |
WO2011038810A1 (en) | Method and microscope for three-dimensional resolution-enhanced microscopy | |
DE102012200344A1 (en) | Microscope system and method for 3-D high-resolution microscopy | |
DE102018207821A1 (en) | Method for providing an overview image | |
EP2803978A1 (en) | Method for high resolution 3D locating microscopy | |
DE102010017630B4 (en) | Method and device for light microscopic imaging of a sample structure | |
WO2014147257A1 (en) | Light-microscopy method for locating point objects | |
DE102019100184A1 (en) | High resolution scanning microscopy | |
EP3988989B1 (en) | Method and microscope with a device for detecting displacements of a sample relative to a lens | |
DE102011001091B4 (en) | Method and device for microscopic image acquisition of a sample structure | |
DE102017105719A1 (en) | Multi-Pinhole Scanning Microscope and Microscopy Method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
R012 | Request for examination validly filed | ||
R016 | Response to examination communication | ||
R082 | Change of representative |
Representative=s name: SCHAUMBURG UND PARTNER PATENTANWAELTE MBB, DE Representative=s name: SCHAUMBURG & PARTNER PATENTANWAELTE MBB, DE Representative=s name: SCHAUMBURG & PARTNER PATENTANWAELTE GBR, DE |
|
R018 | Grant decision by examination section/examining division | ||
R020 | Patent grant now final |