EP0995142A2 - Verfahren zum steuern von mikroskopen und angekoppelten geräten mittels blickrichtungsanalyse, blickrichtungsmessgerät und okularaufsatz hierfür - Google Patents

Verfahren zum steuern von mikroskopen und angekoppelten geräten mittels blickrichtungsanalyse, blickrichtungsmessgerät und okularaufsatz hierfür

Info

Publication number
EP0995142A2
EP0995142A2 EP98945011A EP98945011A EP0995142A2 EP 0995142 A2 EP0995142 A2 EP 0995142A2 EP 98945011 A EP98945011 A EP 98945011A EP 98945011 A EP98945011 A EP 98945011A EP 0995142 A2 EP0995142 A2 EP 0995142A2
Authority
EP
European Patent Office
Prior art keywords
eye
image
light
eyepiece
infrared
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
EP98945011A
Other languages
English (en)
French (fr)
Inventor
Kevin Strommer
Klaus SCHÖNENBERGER
Klaus Rink
Guy Delacreetaz
Winfried Teiwes
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
SensoMotoric Instruments Gesellschaft fuer Innovative Sensorik mbH
Original Assignee
SensoMotoric Instruments Gesellschaft fuer Innovative Sensorik mbH
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by SensoMotoric Instruments Gesellschaft fuer Innovative Sensorik mbH filed Critical SensoMotoric Instruments Gesellschaft fuer Innovative Sensorik mbH
Publication of EP0995142A2 publication Critical patent/EP0995142A2/de
Withdrawn legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/0093Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 with means for monitoring data relating to the user, e.g. head-tracking, eye-tracking
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/0004Microscopes specially adapted for specific applications
    • G02B21/0012Surgical microscopes
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/20Surgical microscopes characterised by non-optical aspects

Definitions

  • the invention relates to a method for controlling microscopes with coupled devices by means of line-of-sight analysis, in which the viewer's eye is illuminated with infrared light, imaged by an optical system, recorded by an image sensor and the image thus obtained is then determined in a processor for determining the gaze position the middle of the pupil and corneal reflexes are processed.
  • the invention further relates to a direction-of-view measuring device for controlling microscopes and devices coupled thereto, having infrared diodes illuminating the eye of the viewer, an image sensor imaging the eye, a processor calculating the direction of view of the viewer and a monitor indicating the pupil center and the corneal reflexes.
  • the invention also relates to an attachment for the eyepiece tube of a microscope, for example a surgical microscope, by means of line-of-sight analyzes with at least one eyepiece system for visual observation of the operation field imaged by the object lens by the viewer, an illumination source illuminating the eye of the viewer and at least one eyepiece lens arranged in the eyepiece tube.
  • a binocular microscope for medical purposes which is particularly suitable for use when sewing a cut made in the cornea, in particular for restoring the spherical curvature of the cornea of an eye which has an input lens which is at a fixed distance can be brought into position by the eye, an annular light source being provided near the input lens, by means of which an original image is projected onto the cornea.
  • Additional imaging optics are partially arranged in the beam path of the microscope with at least one prism or a lens or a mirror, so that part of the light is not deflected by the additional imaging optics and a reference image is generated. By means of the additional imaging optics, at least one further comparison image is generated, which is essentially consistent with the reference image, but offset from this.
  • the microscope has an adjustment device by means of which the position and / or size of the reference image and at least one comparison image can be adjusted.
  • the ring-shaped light source described in this publication is assigned to the objective lens and not to the eyepiece and serves to illuminate the patient's eye and not the viewer.
  • Illumination device for an operating microscope with an illumination system is known, which is arranged outside the optical axis of the microscope objective and emits the illuminating light perpendicular to the optical axis of the microscope objective.
  • the illuminating light originating from the illumination system and running perpendicular to the optical axis of the microscope objective is reflected with a plane beam splitter and the light coming from the object and extending to the microscope objective is transmitted.
  • the beam splitter is arranged centrally to the optical axis of the microscope objective on its side facing away from the object and is inclined relative to the optical axis of the microscope objective by an angle which ensures that the illuminating light is mirrored in a manner which is strictly coaxial with the observation beam path.
  • AI is a surgical microscope and a method for computer-aided Stereotactic microsurgery is known, in which a device for reflecting intermediate images in at least one of the two stereo observation beam paths, detectors for detecting the optical system data, a position detection system and a process control device for evaluating the signals of the process detection system is provided.
  • This known surgical microscope and method allows manipulation in all six degrees of freedom in relation to the surgical field, but the data for position detection and detection are obtained from the position of the objective lenses and the zoom on the patient side, so that the position and orientation of the patient in the Space is determinable. As before, the surgeon must control the setting mechanically. In addition, the space on the
  • Lens side i.e. relatively limited to the patient side.
  • a method for determining the direction of view which consists of the steps of determining a position and a direction of the head from a face image, determining a feature point of an eye and calculating the eye position in accordance with the determined position and direction of the head and the feature point of the eye.
  • EP 0 596 749 A1 also describes an ophthalmological device which contains irradiation means for irradiating the eye to be examined with infrared light, image recording means for recording the eye to be examined, comparison and storage means for comparing the image information obtained from the image recording means with one threshold value determined for the progressive image information, calculation means for calculating the values of the eye to be examined on the basis of the image information which is stored in the comparison and storage means.
  • US Pat. No. 5,231,674 also discloses a method and an apparatus for determining the direction of view, in which an optical, i.e. analog image is recorded, which is analyzed in an image processing system in order to obtain information about the point of view and / or the direction of the eye.
  • the IR light source that illuminates the eye to be examined is located in the optical axis of the lens system of the camera.
  • an image recording device and a method for determining the viewing direction are also known, in which the eye of the viewer is illuminated by infrared light, imaged by an optical system, from one
  • Image sensor recorded and the image thus obtained is then processed in a processor for determining the gaze position by determining the pupil center and corneal reflexes.
  • All these known solutions have the disadvantage in common that on the one hand the position control data are always obtained from the optical system data on the lens side (DE 41 34 481) and on the other hand the eye image is often disturbed by shadows, for example by eyelashes. This means that the position of the lighting diodes has to be readjusted frequently, especially when working on one and the same examination object at different times.
  • DE 43 37 098 AI describes a visual axis determination device which, using an reflected eye image generated by illuminating the eye of a photographer with infrared light, determines an axis pointing in the direction of an observation point of the viewer or a visual axis when the viewer looks at a viewing plane on the means of an object image is generated in a recording device contained in an optical device such as a camera.
  • the eye is illuminated by two infrared light-emitting diodes, which are arranged on the optical axes of the projection lenses, the light-emitting diodes being symmetrical to an optical axis.
  • WO 96/13743 there is also a microscope for a user, in particular a surgical microscope with at least one tube, at least one operating element and at least one controller for at least one remote-controlled actuator and with a sensor for detecting the eye or pupil position of an observer's eye for the controller the actuator known.
  • the actuator includes an auto zoom and / or other peripheral devices or devices connected to devices for changing the position of the microscope.
  • operating symbols inside the tube are visibly assigned to the user.
  • the eye is illuminated by a single IR LED, which images the pupil of the observer's eye on a CCD.
  • the pupil of the human eye appears as a coherent gray-black surface.
  • shadow zones can also be caused by lighting, for example when the light rays are not only reflected in one direction on the corneal surface or also from other objects that are close to the eye. If these objects are opposite the eye, as described, for example, in WO 96/13743, they are reflected and appear on the eye image.
  • the corneal surface of the eye is a mirror that reflects about 2% of the incident light. Therefore, every object positioned in front of the eye has its reflex on the cornea. Every reflex or shadow zone, the gray tone of which approximates the gray tone of the pupil, leads to falsifications or errors in the determination the center of the pupil in the previously described methods for gaze direction analysis. This represents a considerable risk of incorrect operation of the known microscope.
  • the object of the invention is to provide a method, a direction-of-view measuring device and an attachment of the type mentioned at the outset, which allows the microscope and devices operating in the working area of the microscope to be used without disruptive action To control reflexes and operating errors of the microscope only through the optical data of the observer's eye.
  • a strongly diffuse light with a wavelength of 800 to 1000 nm is used as infrared light, which is generated coaxially around the eye of the viewer on the eyepiece tube, and in the beam path of the optical system
  • At least one further infrared light signal, which is independent of the point of generation of the diffuse light and is directed at the viewer's eye, is generated with a different intensity and a wavelength of 800 to 1000 nm compared to the diffuse light, which is used to generate at least one additional corneal reflex for the diffuse light.
  • the analog eye image detected by the image sensor is converted by analog / digital Implementation divided into different shades of gray (grayscale image generation), or broken down into events by an edge detector logic, wherein each video line is searched for dark-light or light-dark transitions, and that the information obtained is incorporated into an event table that the Processor for determining the coordinates of the pupil center, more corneal
  • the visible light is separated from the infrared light by a wavelength-dependent beam splitter, preferably a half mirror with an anti-reflection coating, a prism, or a polarizing beam splitter, which reflects more than 80% of the infrared light used to illuminate the observer's eye and for more than 80% of the visible light with a wavelength below 800 nm is transparent.
  • a wavelength-dependent beam splitter preferably a half mirror with an anti-reflection coating, a prism, or a polarizing beam splitter, which reflects more than 80% of the infrared light used to illuminate the observer's eye and for more than 80% of the visible light with a wavelength below 800 nm is transparent.
  • the illumination of the eye and the generation of the corneal reflexes take place separately in the method according to the invention, whereby a very good image quality of the analog eye image with sharp dark-light transitions without disturbing reflections is achieved.
  • the analog eye image recorded by the image sensor can be flawlessly scanned at high image frequencies up to 250 Hz and can be broken down into digital sequences of events that precisely determine the coordinates of the pupil center, the corneal reflexes and thus necessary for the control enable the line of sight.
  • a second corneal reflex is generated with a further infrared light crucible from the former, which is used for auto-focusing the eye image of the viewer.
  • the grayscale images obtained are passed through a video memory, in which the images with a
  • Histogram function can be analyzed.
  • the individual gray levels are determined over all video lines and compiled in the form of a frequency distribution, which enables the threshold values for the detection of the pupil and corneal reflexes to be determined automatically.
  • the user's gaze movements are calibrated to the work area by using a support with marking points in the object plane or an image reflected in the intermediate image plane of the beam path, which are converted to the physical sizes of the work area and then stored temporarily, so that the microscope magnification changes each time the calibration data is automatically adapted, which always guarantees an optimal calibration without manual readjustments.
  • Suitable devices or systems for coupling to the microscope are surgical instruments, lasers, inspection systems for wafers, software programs, image-bound systems or cameras.
  • a line of sight measuring device which consists of a video multiplexer, on the inputs of which a number of video signals are applied, to which image sensors are assigned, and the output of which is either directly via a oo tt
  • ⁇ ri CQ LQ 3 ⁇ 0 ⁇ - £. PJ ⁇ P ⁇ - ⁇ ⁇ J ⁇ tr ri d tr ⁇ - ⁇ ⁇ - CD PJP ⁇ ⁇ V ⁇ fö CQ CD J P. ri rt ⁇ rr ⁇ - JM for PJ ⁇ ri rt ⁇ d CD M ⁇ - LQ ⁇ td ⁇ ⁇ - tr o 0 d ri 3 3 li PJ
  • ⁇ PJ d rt P tr CD ⁇ ⁇ d d ⁇ 1 ⁇ ⁇ rt P CD tr P.
  • a further tube is provided at right angles on the eyepiece tube, in which a further infrared diode for generating the second corneal reflex is arranged, which can be used to automatically focus the user's eye image on the image sensor.
  • the half mirror has an anti-reflective coating made of light metal fluorides, which ensures high transmission for visible light.
  • the method according to the invention, the direction-of-view measuring device according to the invention and the attachment according to the invention enable the observer's eye to be illuminated uniformly without reflection and shadow.
  • optimal contrast formation between the pupil and iris of the viewer, which is insensitive to ambient light, is achieved, so that the center of the pupil and the position of the corneal reflexes can be determined exactly.
  • the viewing direction of the viewer determines and automates the readjustment of devices such as lasers, endoscopes, inspection systems for wafers, software programs, image-bound systems, cameras and the like. is made possible.
  • the article according to the invention is equally suitable for binocular or monocular viewing direction analysis.
  • the attachment according to the invention can be placed on all common microscope types by means of an adapter.
  • FIG. 3 is a sectional side view of the lighting system on the attachment according to the invention.
  • Fig. 4 is a diagram of the mapping of the analog image through the lens system of the invention
  • FIG. 7 shows a representation of the analogous eye image according to the inventive method with overlays of crosshairs for the determined pupil center and a corneal reflex
  • FIG 10 shows an illustration of an application of the method according to the invention in laser surgery.
  • the eyepiece tube 1 shown in FIG. 1 of the attachment 2 according to the invention is locked by an adapter 3 with the receptacle of a commercially available surgical microscope 57.
  • ⁇ ⁇ tö PJ ⁇ MP rt tsi OO tr tr ⁇ ⁇ P. ⁇ fr ⁇ ri ⁇ M tr P to LQ ⁇ ⁇ PJ rt ⁇ tö rt LQ ⁇ Hi J ⁇ rt ⁇ - ⁇ ⁇ ri P. ⁇ - ⁇ CQ P rt - ⁇ ri d ⁇ - PJ LQ ⁇ ri ⁇ - ⁇ - P tr CQ ⁇ ⁇ ⁇ ri J ⁇ - ri LQ M ⁇ - ⁇ - MM P. P d CQ LQ M ⁇ ! ⁇
  • the diffuser disc 13 Through the diffuser disc 13, the light emitted by the infrared diodes 11 is scattered and strongly diffuse, so that a uniform, shadow-free and reflex-free, symmetrical illumination of the eye of the viewer about the optical axis thereof is ensured and the aforementioned disturbances no longer occur.
  • the infrared diodes 11 emit infrared light in a narrow spectrum within the wavelength range from 800 to 1000 nm.
  • Commercially available LEDs for example LD 261 from Siemens with a wavelength of approximately 950 nm, are used as infrared diodes 11, so that a more detailed description of these infrared diodes can be omitted.
  • the diffuser disc 13 and the lighting ring 12 have a cutout 14 for the nose of the viewer and at least one further opening 18 for the passage of the infrared light for generating the corneal reflexes 25 and 28, which will be discussed in more detail in the further course of the exemplary embodiment.
  • the infrared light from this diode 16 falls in the tube 15 of length 1 through a CR condenser lens 17 merges the beam path, and on a prism 19, which the infrared rays through the opening 18 in
  • the infrared diode 16 is also a commercially available LED (SFH 487 from Siemens) with a wavelength of approximately 880 nm.
  • the angular position of the prism 19 is adjustable and the length 1 of the tube 15 is variable.
  • the length 1 of the tube 15 thus positions the separate infrared diode 16 and at the same time determines the sensitivity of the attachment according to the invention to head movements of the viewer.
  • a clearly corneal reflex 25 is generated by the infrared light of the individual infrared diode 16.
  • the eye 7 of the viewer is at a distance l in front of the eyepiece lens 6 with the focal length f6 and an object size of yl.
  • an image size of y3 of the image of the eye 7 is produced at an image width w3 to the lens 4 in the intermediate image plane Z E
  • the outer edge of the eyepiece lens 6, with the diameter y6, imaged by the lens 4 determines the exit pupil of the lens combination with the focal lengths f6 and f4. The following applies to the distance w4 of the exit pupil from the lens 4 and the size y4 of the exit pupil:
  • the intermediate image in the intermediate image plane Z E is imaged by the lens of the video camera 9 with a focal length f5 with an object width of w7 and an image width of w5 on the image sensor 10 in the imaging plane 8 with an image size of y5. Sizes 5 and y5 can be set individually for each video camera type by selecting the object width w7.
  • the vector representation represents the eye 7 of the viewer, the separate individual infrared diode 16 and the attachment 2 according to the invention according to FIG. 1 in a three-dimensional space.
  • the vector & ⁇ points to the coordinate of the infrared diode 16 in the earth-bound coordinate system O, and the vector o points from the origin of the earth-bound coordinate system to the origin O 'of the variable eye coordinate system.
  • the line of sight vector g can be expressed by the coordinates of the terrestrial system:
  • A denotes the distance between the origin of the eye coordinate system and the coordinate of the infrared diode 16, and R the radius of the curvature of the cornea.
  • transition to the vector ⁇ enables the calculation of the viewing direction coordinates for any head movements if the eye 7 remains fixed on the center of the microscope slide.
  • the separate illumination for determining the center of the pupil and the corneal reflexes achieves an excellent image quality of the eye image 7, as shown in FIG.
  • a second tube 26, like the tube 15, is arranged at right angles to the eyepiece tube 1.
  • This contains a further infrared diode 27, which also directs its infrared light with a lens 17 and an adjustable prism 19 through the opening 18 in the diffuser disc 13 onto the cornea of the surgeon's eye 7 and generates a second corneal reflex 28 there, which is used for auto-focusing the Eye image 7 is used.
  • FIG. 8 shows the focus of the surgeon's eye 7 in the event that the two infrared diodes 16 and 27 are coplanar. Since the tubes 15 and 26 open into the eyepiece tube 1 in a vertical alignment, this condition is fulfilled. In addition to the first corneal reflex 25, there is a second corneal reflex 28, which are at a distance d from one another, which is a measure of the focus ⁇ S 0 of the video camera 9. For the coplanar level:
  • a video multiplexer 29 with a maximum of three video inputs is implemented on a PC ISA bus-compatible plug-in card.
  • CCD image sensors 10 with a vertical sampling frequency of 50 Hz for the standard video refresh rate or with a vertical sampling frequency of 250 Hz for higher refresh rates are optionally available for these three video inputs.
  • the analog signals arrive on the one hand via an 8-bit analog / digital converter 30 as a grayscale image to the line of sight processor 32.
  • the distribution of the Different shades of gray can be analyzed with a histogram function.
  • the analog video input signals in parallel to the analog / digital conversion, are first broken down into events by edge detection logic 34, which events are characterized by black-and-white (dark-light) transitions or white-black (light-dark) transitions characterize. These transitions are stored and stored in the form of events for each video line separately for the pupil and the corneal reflex in an event table before they are fed to the direction-of-view processor 32. With the event table, it is possible to process significantly more frames per second than is necessary for standard video sampling frequencies. For this reason, the division of the images into events is used for maximum refresh rates.
  • the video output 35 is for the eye 20 with
  • Overlays 62 provided.
  • a video output 38 with a standard VGA is available.
  • a RAMDAC 39 the digital / analog conversion of the signals is carried out for this output, with the possibility of also mixing false colors into the output signal.
  • the area of the video image which is covered with an image overlay is stored in the video memory 41.
  • the video input signal from the video camera 9 is looped through to the video inputs until a pixel arrives that contains overlay information. This is colored with a selectable overlay color.
  • a 12-bit DAC port 43 with a 100 kHz conversion rate enable the control of external functions, for example from switches via relays.
  • a 12-bit ADC port 44 for eight channels in multiplex mode can be used to acquire further measured values.
  • the 16-bit ISA bus 48 establishes the connection to additional PC plug-in cards and the PC processor when used in a PC.
  • An 8-bit digital input / output 60 and serial ports 61 are also provided for the stand-alone operation of the gaze measuring device 46.
  • two infrared diode power supplies (12 V, 200 mA) 45 are provided, which supply the required current for the infrared diodes 11, 16 and 27 when the eye 7 of the viewer is scanned by the video camera 9.
  • the expansion port 49 enables the connection of further function modules, for example additional logic and coprocessors.
  • an attachment 2 according to the invention in the form of an eyepiece tube 1 with the adapter 3 is placed on the surgical microscope 57 and locked.
  • a tube 15 for the video camera 9 is integrated at right angles in the beam path of this eyepiece tube 1.
  • the camera signal is fed to the line of sight measuring device 46 in accordance with FIG. 9.
  • the PC-compatible slide-in board of the viewing direction measuring device 46 is located in the eye tracking computer 59.
  • the output signals of the viewing direction measuring device 46 are sent to a control unit via a parallel or serial link 50 51 transmitted, which takes over the control of an operation laser 53 via a driver card 52.
  • the surgeon's eye movements on the operating field 54 must be calibrated.
  • a slide 55 with a small number of defined points (5 points are sufficient) is used for this. While the surgeon is looking at these points, the output data of the line of sight measuring device 46 are related to the physical quantities of the operating field 54.
  • the calibration data are buffered by the line of sight measuring device 46 in the eye tracking computer 59.
  • the system automatically adjusts the calibration data, which always ensures optimal calibration without manual readjustments.
  • the laser beam for the laser treatment is fed in under the object table 56 of the surgical microscope 57 and directed onto the working field 54 via an optical deflection system in the object table 56.
  • Image sensor 10 infrared diodes 11
  • Tube 15 Separates infrared diode 16
  • Video multiplexer 29 8-bit analog / digital converter 30
  • Edge detector logic 34 video output 35
  • Memory module 40 video memory 41
  • Line of sight measuring device 46 16-bit ISA bus 48
  • Serial ports 61 distance infrared diode 16 from the origin of the
  • Eye coordinate system A distance of the infrared diodes 16 and 27 a

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Surgery (AREA)
  • Chemical & Material Sciences (AREA)
  • Analytical Chemistry (AREA)
  • Eye Examination Apparatus (AREA)
  • Microscoopes, Condenser (AREA)

Abstract

Die Erfindung betrifft ein Verfahren zum Steuern von Mikroskopen und mit daran angekoppelten Geräten mittels Blickrichtungsanalyse. Sie betrifft ferner ein Blickrichtungsmeßgerät und einen Okularaufsatz für die Durchführung des Verfahrens. Aufgabe der Erfindung ist es, ein Verfahren, ein Blickrichtungsmeßgerät und einen Aufsatz der eingangs genannten Art zur Verfügung zu stellen, das bzw. der es erlaubt, das Mikroskop und im Arbeitsfeld des Mikroskops operierende Geräte ohne störende Reflexe und Fehlbedienungen des Mikroskops nur durch die optischen Daten des Betrachterauges zu steuern. Gelöst wird diese Aufgabe dadurch, daß als Infrarotlicht ein stark diffuses Licht mit einer Wellenlänge von 800 bis 1000 nm verwendet wird, das koaxial um das Auge des Betrachters am Okulartubus erzeugt wird, und daß im Strahlengang des optischen Systems mindestens einr weiteres vom Erzeugungsort des diffusen Lichtes unabhängiges, auf das Auge des Betrachters gerichtetes Infrarotlichtsignal mit gegenüber dem diffusen Licht unterschiedlicher Intensität und einer Wellenlänge von 800 bis 1000 nm erzeugt wird, das zur Erzeugung mindestens eines zusätzlichen kornealen Reflexes dem diffusen Licht herangezogen wird.

Description

Verfahren zum Steuern von Mikroskopen und angekoppelten Geräten mittels Blickrichtungsanalyse,
Blickrichtungsmeßgerät und Okularaufsatz hierfür
Die Erfindung betrifft ein Verfahren zum Steuern von Mikroskopen mit angekoppelten Geräten mittels Blickrichtungsanalyse, bei der das Auge des Betrachters mit Infrarotlicht beleuchtet, durch ein optisches System abgebildet, von einem Bildsensor aufgenommen und das so gewonnene Bild anschließend in einem Prozessor zur Bestimmung der Blickposition durch Ermittlung der Pupillenmitte und kornealer Reflexe weiterverarbeitet wird.
Die Erfindung betrifft ferner ein Blickrichtungsmeßgerät zum Steuern von Mikroskopen und daran angekoppelte Geräte, mit das Auge des Betrachters beleuchtenden Infrarotdioden, einem das Auge abbildenden Bildsensor, einem die Blickrichtung des Betrachters berechnenden Prozessor und einem die Pupillenmitte und die kornealen Reflexe anzeigenden Monitor. Die Erfindung betrifft auch einen Aufsatz für den Okulartubus eines Mikroskopes, beispielsweise Operationsmikroskopes, mittels Blickrichtungsanalys mit mindestens einem Okularsystem zur visuellen Beobachtung des von der Objektlinse abgebildeten Operationsfeldes durch den Betrachter, einer das Auge des Betrachters ausleuchtenden Beleuchtungsquelle und mindestens einer im Okulartubus angeordneten Okularlinse.
Aus der DE 28 22 277 C2 ist ein binokulares Mikroskop für medizinische Zwecke bekannt, das insbesondere zur Verwendung beim Vernähen eines in der Hornhaut gelegten Schnittes, insbesondere zur Wiederherstellung der sphärischen Krümmung der Hornhaut eines Auges, das eine Eingangslinse aufweist, welche unter einem feststehendem Abstand vom Auge in Position bringbar ist, wobei nahe der Eingangslinse eine ringförmige Lichtquelle vorgesehen ist, mittels welcher ein Originalbild auf die Hornhaut projiziert wird. Eine zusätzliche Abbildungsoptik ist mit wenigstens einem Prisma oder einer Linse oder einem Spiegel teilweise in den Strahlengang des Mikroskops angeordnet, so daß ein Teil des Lichtes durch die zusätzliche Abbildungsoptik nicht abgelenkt und ein Bezugsbild erzeugt wird. Mittels der zusätzlichen Abbildungsoptik wird wenigstens ein weiteres, im wesentlichen mit dem Bezugsbild kongurentes, aber zu diesem versetztes Vergleichsbild erzeugt. Das Mikroskop weist eine EinStelleinrichtung auf, mittels welcher Lage und/oder Größe des Bezugsbildes und wenigstens eines Vergleichsbildes einstellbar ist. Die in dieser Druckschrift beschriebene ringförmige Lichtquelle ist der Objektivlinse und nicht dem Okular zugeordnet und dient der Ausleuchtung des Auges des Patienten und nicht des Betrachters.
Bekannt ist auch ein Operationsmikroskop mit einem Objektiv veränderlicher Schnittweite und einem, an einem Träger befestigten Gehäuse, das Mittel zur Strahlteilung und -umlenkung sowie zwei Beobachtungstuben enthält (DE 31 05 018 AI) , bei dem als Strahlenumlenkmittel ein Spiegel oder ein Prisma eingesetzt wird. Ferner ist aus der DE 36 23 613 C2 eine
Beleuchtungseinrichtung für ein Operationsmikroskop mit einem Beleuchtungssystem bekannt, das außerhalb der optischen Achse des Mikroskopobjektives angeordnet ist und das Beleuchtungslicht senkrecht zu der optischen Achse des Mikroskopobjektives hin abstrahlt. Mit einem eben ausgebildeten Strahlteiler wird das von dem Beleuchtungssystem herkommende, senkrecht zu der optischen Achse des Mikroskopobjektives verlaufende Beleuchtungslicht eingespiegelt und das vom Objekt herkommende, zum Mikroskopobjektiv verlaufende Licht durchgelassen .
Der Strahlteiler ist zentral zur optischen Achse des Mikroskopobjektives auf dessen objektabgewandter Seite angeordnet und gegenüber der optischen Achse des Mikroskopobjektives um einen Winkel geneigt, der eine zum Beobachtungsstrahlengang streng koaxiale Einspiegelung des Beleuchtungslichtes gewährleistet.
Nach der DE 41 34 481 AI ist ein Operationsmikroskop und ein Verfahren zur rechnergestützten stereotaktischen Mikrochirurgie bekannt, bei dem eine Vorrichtung zur Einspiegelung von Zwischenbildern in mindestens einen der beiden Stereo- Beobachtungsstrahlengänge, Detektoren zum Erfassen der optischen Systemdaten, ein Positionserkennungssystem sowie eine Prozeßsteuerungseinrichtung zur Auswertung der Signale des Prozeßerkennungssystems vorgesehen ist.
Dieses bekannte Operationsmikroskop und Verfahren ermöglicht zwar die Manipulation in allen sechs Freiheitsgraden in Bezug auf das Operationsfeld, die Daten zur Positionerkennung und -erfassung werden jedoch aus der Stellung der Objektivlinsen und des Zooms auf der Patientenseite gewonnen, so daß die Position und Orientierung des Patienten im Raum bestimmbar ist. Nach wie vor muß der Chirurg seinerseits die Einstellung mechanisch steuern. Außerdem sind die Platzverhältnisse auf der
Objektivseite, d.h. zur Patientenseite verhältnismäßig beschränkt .
Des weiteren ist aus der EP 0 596 868 A2 ein Verfahren zur Feststellung der Blickrichtung bekannt, das aus den Schritten der Ermittlung einer Position und einer Richtung des Kopfes von einem Gesichtsbild, der Ermittlung eines Merkmalpunktes eines Auges und der Berechnung der Augenstellung in Übereinstimmung mit der ermittelten Position und Richtung des Kopfes und des Merkmalpunktes des Auges besteht .
Das Auge wird mit Infrarotlicht beleuchtet, das von Dioden abgestrahlt wird, die ringartig um die Linse der Kamera angeordnet sind. Die EP 0 596 749 AI beschreibt ferner ein ophthalmologisch.es Gerät, das Bestrahlungsmittel für die Bestrahlung des zu untersuchenden Auges mit Infrarotlicht , Bildaufnahmemittel für die Aufnahme des zu untersuchenden Auges, Vergleichs- und Speichermittel für den Vergleich der von den Bildaufnahmemitteln erhaltenen Bildinformationen mit einem für die fortschreitende Bildinformation bestimmten Schwellwert, Berechnungsmittel für die Berechnung der Werte des zu untersuchenden Auges auf der Basis der Bildinformationen, die im Vergleichs- und Speichermittel gespeichert sind.
In der US-PS 5 231 674 wird außerdem ein Verfahren und ein Gerät zur Blickrichtungsfeststellung offenbart, bei dem mit einer Kamera ein optisches, d.h. analoges, Bild aufgenommen wird, welches in einer Bildverarbeitung analysiert wird, um Informationen über den Blickpunkt und/oder die Blickrichtung des Auges zu gewinnen. Die IR-Lichtquelle, die das zu untersuchende Auge beleuchtet, befindet sich in der optischen Achse des Linsensystems der Kamera .
Nach der EP 0 350 967 ist weiterhin ein Bildaufnahmegerät und ein Verfahren zum Ermitteln der Blickrichtung bekannt, bei der das Auge des Betrachters mit Infrarotlicht beleuch- tet, durch ein optisches System abgebildet, von einem
Bildsensor aufgenommen und das so gewonnene Bild anschließend in einem Prozessor zur Bestimmung der Blickposition durch Ermittlung der Pupillenmitte und kornealen Reflexe weiterverarbeitet wird. Allen diesen bekannten Lösungen ist der Nachteil gemeinsam, daß einerseits die Daten zur Lagesteuerung immer durch die optischen Systemdaten auf der Objektivseite gewonnen werden (DE 41 34 481) und andererseits das Augenbild oftmals durch Schatten, beispielsweise durch Wimpern, gestört ist. Dies führt dazu, daß die Position der Beleuchtungsdioden häufig nachjustiert werden muß, insbesondere dann, wenn an ein- und demselben Untersuchungsobjekt zu unterschiedlichen Zeiten gearbeitet wird.
Die DE 43 37 098 AI beschreibt eine Sehachsenermittlungsvorrichtung, die unter Verwendung eines durch Beleuchten des Auges eines Photografen mit Infrarotlicht erzeugten, reflektierten Augenbildes eine in Richtung eines Beobachtungspunktes des Betrachters weisende Achse oder eine Sehachse ermittelt, wenn der Betrachter eine Betrachtungsebene betrachtet, auf der mittels einer in einer optischen Vorrichtung wie einer Kamera enthaltenen Aufnahmeeinrichtung ein Objektbild erzeugt wird. Die Beleuchtung des Auges geschieht bei dieser bekannten Lösung durch jeweils zwei Infrarot- leuchtdioden, die auf den optischen Achsen der Projektionslinsen angeordnet sind, wobei sich die Leuchtdioden symmetrisch zu einer optischen Achse befinden.
Dieser Stand der Technik liegt einerseits abseits der Mikroskopie und es ergibt sich auch andererseits auch kein Hinweis auf die erfindungsgemäße Lehre. Die Beleuchtung zum Ansteuern von Mikroskopfunktionen und Bedienen von am Mikroskop angeschlossenen Geräten ist daraus nicht nahegelegt . Aus der WO 96/13743 ist auch ein Mikroskop für einen Anwender, insbesondere Operationsmikroskop mit wenigstens einem Tubus, wenigstens einem Bedienorgan und wenigstens einer Steuerung für wenigstens ein ferngesteuertes Stellorgan und mit einem Sensor zur Erfassung der Augen- bzw. Pupillenstellung eines Betrachtersauges für die Steuerung des Stellorgans bekannt. Das Stellorgan umfaßt ein Autozoom und/oder andere periphere Geräte oder Vorrichtungen unter Anschluß von Geräten zur Lageveränderung des Mikroskops . Im Bereich des Tubus sind dem Auge Bediensymbole im Inneren des Tubus für den Anwender sichtbar zugeordnet. Beleuchtet wird das Auge von einer einzigen IR-LED, die die Pupille des Betrachterauges auf einem CCD abbildet.
Durch die IR-Beleuchtung des Auges erscheint die Pupille des menschlichen Auges als zusammenhängende grauschwarze Fläche . Schattenzonen können aber auch durch Beleuchtung verursacht werden, beispielsweise dann, wenn die Lichtstrahlen nicht nur in einer Richtung auf die korneale Fläche reflektiert werden oder aber auch von anderen Objekten, die sich nahe dem Auge befinden. Sofern diese Objekte dem Auge gegenüberliegen, wie beispielsweise in der der WO 96/13743 beschrieben, werden diese reflektiert und erscheinen auf dem Augenbild. Die korneale Oberfläche des Auges ist ein Spiegel, der etwa 2% des einfallenden Lichtes reflektiert. Daher hat jeder Gegenstand, der vor dem Auge positioniert ist, seinen Reflex auf der Kornea. Jeder Reflex bzw. Schattenzone, dessen Grauton dem Grauton der Pupille nahekommt, führt daher zu Verfälschungen bzw. Fehlern in der Bestimmung des Pupillenmittelpunktes bei den vorher beschriebenen Verfahren zur Blickrichtungsanalyse. Dies stellt ein erhebliches Risiko für die Fehlbedienung des bekannten Mikroskops dar.
In Kenntnis der Nachteile dieses Standes der Technik liegt der Erfindung die Aufgabe zugrunde, ein Verfahren, ein Blickrichtungsmeßgerät und einen Aufsatz der eingangs genannten Art zur Verfügung zu stellen, das bzw. der es erlaubt, das Mikroskop und im Arbeitsfeld des Mikrospkops operierende Geräte ohne störende Reflexe und Fehlbedienungen des Mikroskops nur durch die optischen Daten des Betrachterauges zu steuern.
Dies wird mit dem Verfahren der eingangs genannten Art erfindungsgemäß dadurch gelöst, daß als Infrarotlicht ein stark diffuses Licht mit einer Wellenlänge von 800 bis 1000 nm verwendet wird, das koaxial um das Auge des Betrachters am Okulartubus erzeugt wird, und daß im Strahlengang des optischen Systems mindestens ein weiteres vom Erzeugungsort des diffusen Lichtes unabhängiges, auf das Auge des Betrachters gerichtets Infrarotlichtsignal mit gegenüber dem diffusen Licht unterschiedlicher Intensität und einer Wellenlänge von 800 bis 1000 nm erzeugt wird, das zur Erzeugung mindestens eines zusätzlichen kornealen Reflexes dem diffusen Licht herangezogen wird.
Nach einer bevorzugten Ausführungsform des erfindungsgemäßen Verfahren wird das von dem Bildsensor erfaßte analoge Augenbild durch Analog/Digital- Umsetzung in unterschiedliche Grautöne unterteilt (Graustufenbilderzeugung) , oder durch eine Kantendetektor-Logik in Ereignisse zerlegt, wobei jede Videozeile nach Dunkel-Hell- bzw. Hell -Dunkel - Übergängen abgesucht wird, und daß die gewonnenen Informationen in eine Ereignistabelle eingearbeitet werden, die dem Prozessor zur Bestimmung der Koordinaten des Pupillenmittelpunktes, kornealer
Reflexe und daraus der Blickrichtung zugeführt werden.
In weiterer bevorzugter Ausgestaltung des erfindungsgemäßen Verfahrens wird das sichtbare Licht vom Infrarotlicht durch einen wellenlängenabhängigen Strahlteiler, vorzugsweise einen Halbspiegel mit Antireflexionsbeschichtung, ein Prisma, oder einen polarisierenden Strahlteiler getrennt wird, der mehr als 80% des zur Ausleuchtung des Betrachterauges verwendeten Infrarotlichtes reflektiert und für mehr als 80% des sichtbaren Lichtes mit einer Wellenlänge unter 800 nm durchlässig ist.
Die Ausleuchtung des Auges und die Erzeugung der kornealen Reflexe erfolgen beim dem erfindungsgemäßen Verfahren separat, wodurch eine sehr gute Bildqualität des analogen Augenbildes mit scharfen dunkel-hell - Übergängen ohne störende Reflexe erzielt wird. Dies ist die Grundlage dafür, daß das vom Bildsensor aufgenommene analoge Augenbild fehlerfrei mit hohen Bildfrequenzen bis zu 250 Hz abgestastet und in digitale Sequenzen von Ereignissen zerlegt werden kann, die eine exakte Bestimmung der für die Ansteuerung erforderlichen Koordinaten des Pupillenmittelpunktes, der kornealen Reflexe und damit der Blickrichtung ermöglichen. In einem weiteren wesentlichen Merkmal des erfindungsgemäßen Verfahrens wird neben dem ersten kornealen Reflex im Abstand d ein zweiter kornealer Reflex mit einer weiteren Infrarotlichtcruelle vom ersteren erzeugt, der zur Autofokussierung des Augenbildes des Betrachters herangezogen wird. Die gewonnenen Graustufenbilder werden über einen Videospeicher geführt, in dem die Bilder mit einer
Histogrammfunktion analysiert werden. Über alle Videozeilen werden die einzelnen Graustufen ermittelt und in Form einer Häufigkeitsverteilung zusammengestellt, die eine automatische Bestimmung der Schwellwerte zur Detektion der Pupille und kornealer Reflexe ermöglicht.
Die Blickbewegungen des Benutzers werden auf das Arbeitsfeld kalibriert, indem ein Träger mit Markierungspunkten in der Objektebene oder ein in die Zwischenbildebene des Strahlenganges eingespiegeltes Bild verwendet wird, die auf die physikalischen Größen des Arbeitsfeldes umgerechnet und anschließend zwischengespeichert werden, so daß bei jeder Veränderung der Mikroskopvergrößerung automatisch eine Anpassung der Kalibrierdaten durchgeführt wird, die ohne manuelle Nachjustierungen stets eine optimale Kalibrierung gewährleistet .
Geeignete Geräte bzw. Systeme zur Ankopplung an das Mikroskop sind Operationsinstrumente, Laser, Inspektions- systeme für Wafer, Softwareprogramme, bildgebundene Systeme oder Kameras .
Die Aufgabe wird weiterhin durch ein Blickrichtungsmeßgerät gelöst, das aus einem Videomultiplexer, auf dessen Eingängen mehrere Video-Signale gelegt sind, denen Bildsensoren zugeordnet sind, und dessen Ausgang entweder direkt über einen oo t t
Oh o o on o
Hi tö Φ N d= Φ μ- d ri M P ri φ Φ
P. d o μ- Ω ö fr
Φ tr μ- d rt Hi M
5_! d Hi PJ
PJ P d ri ω LQ CQ M
Φ CQ 0 μ- ri P p. μ- CQ CQ
Φ P Ω Φ D LQ tr
Φ C- tu J μ- μ-
Φ P tr Ω rt LQ φ tr ri Φ rt
PJ 0 PJ
Ω ri er ) tr p. LQ P rt P Φ Φ
Φ φ μ- ri rt Φ P
CD Ω PJ D fr P
PJ μ- rt d P Φ Φ
Hl P- ri
C M
Φ P J μ- - Hi P
CQ Φ LQ rt H PJ Φ
~ ri 0
Φ 0 ri d μ- rt P*
P P P
Φ μ- φ
0 rt
> Φ
PJ d Φ - tr- CQ P
CQ
Ό N d J d ri ri Ω d Φ tr
P μ-
LQ P φ
3
o oo to to |_- on o on o H o Ut α LQ H Hl O ö H tr ≥! rrj PJ σ N J > f P J φ P. ri J. tö tö LQ J J 3 h μ- φ P PJ= ^ μ- ri Φ J o d μ- d P d μ- PJ P μ- d φ d φ φ Φ P P μ- Φ
Φ 3 P d Φ P) CD rt M CQ Φ LQ LQ LQ Ω Ω LQ P ri Hl CD LQ rt ri LQ LQ P Ω
CQ P)= s- LQ M P rt d= ^ φ Φ φ tr tr Φ Φ Ω M rt i ri μ- Φ Φ C- tr tΛ Φ CQ PJ H CD Φ ri 0 rt α 0 0 P rt LQ 0 3 tr Φ μ- Φ PJ Ω 0 0 φ rt tr Φ μ- J ri P 3 tr M X tr μ- ri ri tr Φ ri M ^ Φ P Ω tr r ri CQ ≤
PJ P rt Ω J Hl μ- φ μ- ^ Φ Hi & α μ- φ 0 P. ≤ PJ: rt ri N tr rt rt μ- rt Φ tr Ω ri CQ P Ω 3 ri Hi P P M 3 ri P μ- CD μ- er d rt Φ P P φ P
> ri CD tr PJ CQ tr Φ 3 d φ φ •Ö Φ P CD Φ PJ P Φ rt Φ Φ P
C- d Φ Φ CQ ri μ- rt 0 co rt rt φ Hi P rt μ- i h LQ ri rt rt CD M
Φ Hi ri P Φ 0 0 P. F? PJ Ό 0 CQ μ- φ φ LQ φ CQ μ- Φ μ-
P CD rt P PJ J ^ M ri μ- μ- P rt μ- M Φ P μ- CD μ- φ LQ
P) er fr LQ C- CQ P M P) CQ CD CD d P. Φ CD i P. CQ Φ M rt O CQ μ-
< rt φ 0 rt μ- PJ P Φ CQ Ω rt rt P M P rt <l φ rt ri Φ - • rt P N
0 ESI CQ J Φ 0 d P. P rt tr • - P. μ- - 0 ^ ri - P fö - φ d μ Φ 0 X ri Hi μ- P. μ- Φ Ω P Φ -
Φ € φ μ- 3 D μ- P- P. tr s ö fr P. • 3 H rt CQ P μ- P d M d μ- Φ μ- 1 C
Φ p. J Hi P Φ Φ μ- Ω tr Φ φ φ er P (^ M Hi P r- P Φ r Φ H 0 μ- tr Φ M o= μ- td rt tr φ 3 ri CQ μ- a. LΠ Φ d= - Hl o ri d Ό
M PJ ri ri CQ LO μ- ö Φ M 0 P ri d C- P Φ er rt rt φ ESI 3 μ- rt LQ μ- tr 3 tr φ CQ P. - M CD Ξ J P. P d μ- ri d μ- P . φ Hi 0 Φ J ri φ d PJ tsi PJ= CQ CD . P- ri LQ P. P Hl t « CQ CD tsi P P CΛ d P> 0 0 CD φ CD μ- tΛ ri i P er P H Ω J Φ CQ d φ P rt φ CQ LQ LQ Ω CQ Φ H CD fö Φ tr tΛ ri d O J μ- Ω CQ 3 P φ t d 0 CQ μ- φ tr Φ Ω μ- fö 0 1 μ- Φ
CQ fr P P tr 0 CQ tr M LQ ri φ P 0 P rt μ- tr 1 ri f P P
P- H LQ d LQ PJ ri rt rt μ- rt CD σ PJ tr P Φ C- tr1 M μ- φ μ- d Φ M φ Φ Hi CQ ri CQ Ω φ ^ Φ Φ rt er PJ μ- PJ μ- μ- Ω >
Φ er CD PJ 0 μ- rt Ω μ- rt P fr P CD P μ- μ- tr ri α er CQ Ω P t ≤ Ω d rt ri ri P tr CQ 0 PJ rt Φ P CQ PJ= φ μ- Φ tr CD rt Φ d CQ PJ PJ P. φ Φ Φ rt Hi Ω μ- Φ φ Ω tr t μ- CD
3 M Ω P i μ- μ- PJ Hi tr Ω 0 3 3 ü tr P CQ φ rO rt φ
LQ CQ P> ri J rt Φ
•ö Φ rt tr φ P er M tr ri μ- φ μ- α P tr* φ P μ- PJ d d Φ
Hi μ- d CQ rt i Φ Φ M Φ rt P Hι P LQ μ- co CQ CQ d P Hl ri μ- P P φ M M μ- tr μ- d φ d= P. Φ Φ Ω Φ Hi P- Φ φ
P φ LQ J= PJ CQ Φ P P PJ ri Φ ri > 3 d P ri
P Ω tr d PJ μ- φ LQ M CD Ω tr M 0 PJ φ CQ p. PJ rt tr P ri P. φ μ- H
M <! P. d P. tr O Ω rt CQ 3 CD φ rt tsi CO Hi & P J μ- P P o μ- J Φ CQ Φ tr tr μ- Ό 3 P μ- Φ $. CQ rt OJ. ü P PJ CQ P φ Hl
Ω ri CQ LQ 3 Φ 0 μ- £. PJ= φ P μ- Φ Φ J φ tr ri d tr μ- Φ μ- CD P J P Φ Φ VÄ fö CQ CD J P. ri rt Φ rr μ- J M fr PJ Φ ri rt φ d CD M μ- LQ φ td Ω μ- tr o 0 d ri 3 3 l-i PJ
Φ er μ- P P. CD LQ CQ rt Φ l-h i Φ tr M Ω rt d p. LQ μ- 0 μ. μ- M Hl Ω μ- ^ μ- ri => Φ ri M Hl μ- φ rt tr M co rt rt rt Φ μ- tr tr i Hi Φ PJ Φ ri fjj: φ PJ P O P Φ Φ
P φ μ- fr P. ri 3 rt P. d
P rt ri Φ Hi μ- P. μ- Φ rt X CQ φ μ- tr Ω d P. P ri μ- er p. f P- Φ Φ Ω d P • co P φ CQ PJ tr M 0 φ — ' tr μ- P> 0 d
Φ PJ= d rt P tr CD φ φ d d φ 1 Φ Ω rt P CD tr P. CQ
CQ P P rt Φ 3 2 P Hi P J ri tr M Φ LQ LQ P Φ LQ φ ri P φ μ- Φ CD Ω rt φ μ- i d P P
• 1 d M fr P. f tr P φ LQ
H PJ 3 Φ 1 d P PJ
CQ J CQ P
M CQ LQ
Systems auf Kopfbewegungen einstellbar ist. Je länger die Tubuslänge, um so unempfindlicher ist die
Blickrichtungserfassung von der Kopfbewegung des Betrachters .
In einer weiteren bevorzugten Ausführungsform des erfindungsgemäßen Aufsatzes ist ein weiterer Tubus rechtwinklig am Okulartubus vorgesehen, in dem eine weitere Infrarotdiode für die Erzeugung des zweiten kornealen Reflexes angeordnet ist, der zur automatischen Fokussierung des Augenbildes des Benutzers auf den Bildsensor genutzt werden kann.
Der Halbspiegel besitzt eine Antireflexionsbeschichtung aus Leichtmetallfuoriden, die die hohe Transmission für sichtbares Licht sicherstellt.
Das erfindungsgemäße Verfahren, das erfindungsgemäße Blickrichtungsmeßgerät und der erfindungsgemäße Aufsatz ermöglicht die reflex- und schattenfreie gleichmäßige Ausleuchtung des Auges des Betrachters. Dadurch wird eine gegenüber Umgebungslicht unempfindliche optimale Kontrastbildung zwischen Pupille und Iris des Betrachters erreicht, so daß der Pupillenmittelpunkt und die Lage der kornealen Reflexe exakt bestimmbar wird. Es hat weiter den Vorteil, daß die Blickrichtung des Betrachters ermittelt und automatisiert die Nachsteuerung von Geräten wie Laser, Endoskope, Inspektionssysteme für Wafer, Softwareprogramme, bildgebundene Systeme, Kameras und dgl . ermöglicht wird. Gleichermaßen ist der erfindungsgemäße Aufsatz für die binokulare oder auch monokulare Blickrichtungsanalyse geeignet. Mittels Adapter kann der erfindungsgemäße Aufsatz auf alle gängigen Mikroskoptypen aufgesetzt werden.
Hieraus läßt sich der Vorteil der hohen Flexibilität und Variabilität des erfindungsgemäßen Verfahrens und des erfindungsgemäßen Aufsatzes bei der Durchführung von medizinischen Operationen oder technologischen Prozessen zur Mikrochipherstellung erkennen.
Weitere Vorteile und Einzelheiten ergeben sich aus der nachfolgenden Beschreibung eines bevorzugten Ausführungsbeispieles unter Bezugnahme auf die beigefügten Zeichnungen.
Es zeigen im einzelnen:
Fig. 1 eine Schnittdarstellung in Seitenansicht des erfindungsgemäßen Aufsatzes,
Fig. 2 eine Schnittdarstellung in Draufsicht des Beleuchtungssystems am erfindungsgemäßen Aufsatz,
Fig. 3 eine Schnittdarstellung in Seitenansicht des Beleuchtungssystems am erfindungsgemäßen Aufsatz,
Fig. 4 ein Schema der Abbildung des Analogbildes durch das Linsensystem des erfindungsgemäßen
Aufsatzes, Fig. 5 eine schematische Darstellung der Berechnung des Einfusses von Kopfbewegungen des
Benutzers auf die Blickrichtungsmessung,
Fig. 6 eine Kennlinienschar für die Sensitivität der Kopfbewegungen in Abhängigkeit von der Position der separaten Infrarotdiode,
Fig. 7 eine Darstellung des analogen Augenbildes nach dem erfindungsgemäßen Verfahren mit Überlagerung (Overlays) von Fadenkreuzen für den ermittelten Pupillenmittelpunkt und einen kornealen Reflex,
Fig. 8 eine Prizipdarstellung für die ScharfStellung des Auges des Chirurgen durch Autofokus bei Ausnutzung von zwei kornealen Reflexen,
Fig. 9 ein Blockschaltbild der Elektronik des erfindungsgemäßen Verfahrens,
Fig. 10 eine Darstellung einer Anwendung des erfindungsgemäßen Verfahrens in der Laserchirurgie .
Der in Figur 1 dargestellte Okulartubus 1 des erfindungsgemäßen Aufsatzes 2 ist durch einen Adapter 3 mit der Aufnahme eines handelsüblichen Operations- mikroskopes 57 verrastet . In dem Okulartubus 1 befindet sich ein Halbspiegel 5, der mehr als 80% des Infrarotlichtes (Wellenlänge von d Q n_ ö PJ tö er P- φ ≥! > σ tö td td p r= φ tö er tu n PJ p ri Φ J d Φ ri φ μ- μ- ) P μ- φ μ- μ- ri μ- μ- Φ PJ tr P
PJ CQ CQ CQ M Φ ri 0 P Ω Ό φ ri P P φ Φ P M < M H- J d rt Φ μ- P. Φ tr J Φ Hi μ- μ- Φ P. 0 tr ri M p. rt CD CQ rr d rt o φ ri CD TJ μ- J H CQ tr Hi CO ri CQ d 0 J 0= rt T 0 Ω Φ p P r= co 0 Ω M P φ Φ Φ Ό ri LQ tr P Φ M tr P d LQ μ- d CQ tr M Hi M μ- tr P Φ μ- LQ φ
Φ Φ M rt ^ rt M H ri iQ P μ- Φ Φ ri Hi rt μ- LQ CQ φ Φ CQ ri •« M Φ 0 d tö PJ H 0= d LQ rt CQ P J 0= CQ Φ 0 LQ P d ri X P φ ri tr- ri μ- ri H LQ ri ri < φ tö p. P- P LQ M M r Φ 0 J < 0 3 ri 0 M s: μ- μ- μ- LQ P g CD Φ μ- Φ ri to Φ P d 0 rt μ- J P l-1 3 μ- M
Φ Φ 0 Φ ri d P M Φ ri Hi P LQ μ- o cπ ri P.
P. Ω rt μ- Ω CQ Φ P d P- ü φ Φ Ω O
CQ P Φ tr tr P tr φ d P α Φ P. tr1 d P tr PJ er μ- lO μ- PJ ri *< LQ rt Ω P. μ- H Φ μ- ri t rt er P P. o
Ω tr P M d cn tr P 0 P Ω Ω φ tr LQ φ d
^ Φ tö PJ= φ M P rt tsi O O tr tr ≤ Φ P. Φ fr φ ri φ M tr P to LQ Φ Φ PJ rt ^ tö rt LQ Φ Hi J σ rt μ- Ω φ ri P. μ- φ CQ P rt - Ξ ri d μ- PJ LQ Φ ri μ- μ- P tr CQ φ Φ Ω ri J μ- ri LQ M μ- μ- M M P. P d CQ LQ M <! φ
CD er CQ μ- - ri φ PJ C- φ LQ P rt Φ P. P. > t ri tsi LQ rt P J & P. P ri co CQ CQ LQ μ- CQ φ C- t i μ- d φ o μ- d Φ LQ P μ- er N M Φ Hi Φ LQ rt rt Φ s; φ LQ
CQ ri Ω p. 3 Φ Φ Φ P. J μ- P d μ- P rt φ ri μ- Φ rt PJ tr Φ Φ μ- H μ- μ- PJ tr P CD M M ~ M s; ω f CQ μ- d rt Ω rt t P CQ CQ M CQ 0 rt rt N M μ- < Ω μ-
3 rt d M fr J 0 T Φ ri ri Φ d rt ri μ- tr P ^J
3 0 P fjj: rt Φ tr P PJ μ- P- PJ ri M μ- φ P. Φ CQ d P LQ d • μ- o P. X φ d Φ σ« H <! P)= φ P • φ P φ α
P φ rt P tr φ μ- M LQ CD O μ- to CΛ 0 er P φ
LQ co Φ Φ Φ Φ ri PJ CD Φ μ- • 0 rt M tu ü fr μ- CQ ri ri ri ri M 5! tö 3 M . μ- PJ μ- PJ M σ»
P* P. fr P J Φ -J Φ Φ <! P M Φ 3 P. tö φ φ φ P. α ö P ESI μ- rt O rt φ Φ rt φ φ d Φ
CD ü P Φ μ- μ- LQ d CQ P. fr rt PJ Φ < ri er P rt
P Hi Ω φ ri Φ φ PJ d Φ tr ri H μ- PJ Φ ü
•ö rj rt < Hi tr 0 CQ Ω M P μ- φ d & P PJ d d Φ d rt ri 0 <! tr PJ P P φ O Φ j^ Ω
O Ό CD ri CQ Φ Ό 00 tö rt ri d P- d LQ 0 tr μ- μ- Ω l-h 0 P rt Φ Φ rt P φ P fr PJ tsi d= rt
M M tr PJ ri er φ μ- rt ri d P. ri & 3 J d σ Φ
M M PJ tr CQ μ- rt CQ H h CD tr rt μ- 3 Hl Φ ri φ φ rt ri Ω M Ω P J d CQ rt φ PJ CD
P rt Φ tr tr Hi Ω <1 CQ μ- P. ri P. er
3 M φ P φ Φ Φ Φ ri tr PJ Ω PJ LΠ J φ LQ & er μ- μ- P μ- P μ- P PJ rt ri H tr CD P Φ er φ N rt φ N er P i Φ μ- rt P s£ rt LQ J d Φ φ > 0 ri P) μ- σ n μ-
Φ Φ M ri Ü P Ω rt CD tr CD PJ μ- n M
M P LQ H Φ tr φ rt ri CD d C- ω CD 3 M φ rt Φ φ μ- • P rt rt d PJ td ri P
punktes stören können. Ähnliches gilt für zusätzliche Reflexe auf der Kornea, welche die Erfassung der kornealen Reflexe stören.
Durch die Diffusorscheibe 13 wird das von den Infrarotdioden 11 punktförmig abgestrahlte Licht gestreut und stark diffus, so daß eine gleichmäßige, schatten- und reflexfreie, symmetrische Ausleuchtung des Auges des Betrachters um die optische Achse desselben gewährleistet wird und vorgenannte Störungen nicht mehr auftreten.
Die Infrarotdioden 11 strahlen Infrarotlicht in einem engen Spektrum innerhalb des Wellenlängenbereichs von 800 bis 1000 nm aus. Als Infrarotdioden 11 werden handelsübliche LED's, beispielsweise LD 261 der Firma Siemens mit einer Wellenlänge von etwa 950 nm, eingesetzt, so daß eine nähere Beschreibung dieser Infrarotdioden entfallen kann.
Die Diffusorscheibe 13 und der Beleuchtungsring 12 besitzen eine Aussparung 14 für die Nase des Betrachters und mindestens eine weitere Öffnung 18 für den Durchtritt des Infrarotlichtes zur Erzeugung der kornealen Reflexe 25 und 28, auf die im weiteren Verlauf des Ausführungsbeispieles näher eingegangen wird.
Senkrecht zur optischen Achse B des Okulars 6 befindet sich am Okulartubus 1 ein weiterer Tubus 15, in dem eine separate einzelne Infrarotdiode 16 positioniert ist. Das Infrarotlicht dieser Diode 16 fällt im Tubus 15 der Länge 1 durch eine C.R. -Kondensorlinse 17, die den Strahlengang zusammenführt, und auf ein Prisma 19, das die Infrarotstrahlen durch die Öffnung 18 im
Beleuchtungsring 12 und in der Diffusorscheibe 13 auf das Auge des Chirurgen lenken. Dort erzeugt dieses Infrarotlicht den für das Berechnungsverfahren zur Bestimmung der Blickrichtung erforderlichen eindeutig definierten kornealen Reflex.
Die Infrarotdiode 16 ist ebenfalls eine handelsübliche LED (SFH 487 der Firma Siemens) mit einer Wellenlänge von etwa 880 nm.
Die Winkelposition des Prismas 19 ist justierbar und die Länge 1 des Tubus 15 variabel . Die Länge 1 des Tubus 15 positioniert damit die separate Infrarotdiode 16 und bestimmt gleichzeitig die Sensitivität des erfindungsgemäßen Aufsatzes auf Kopfbewegungen des Betrachters.
Durch das Infrarotlicht der einzelnen Infrarotdiode 16 wird ein eindeutig kornealer Reflex 25 erzeugt.
In Figur 4 wird die Entstehung des Analogbildes 20 erläutert und auf die optische Dimensionierung des erfindungsgemäßen Aufsatzes eingegangen.
Das Auge 7 des Betrachters befindet sich im Abstand l vor der Okularlinse 6 mit der Brennweite f6 bei einer Gegenstandsgröße von yl . Nach Durchlaufen des Abstandes k zwischen der Okularlinse 6 und der Linse 4 mit der Brennweite f4 entsteht eine Bildgröße von y3 der Abbildung des Auges 7 bei einer Bildweite w3 zur Linse 4 in der Zwischenbildebene ZE Die Außenkante der Okularlinse 6, mit dem Durchmesser y6 , abgebildet durch die Linse 4, bestimmt die Austrittspupille der Linsenkombination mit den Brennweiten f6 und f4. Für den Abstand w4 der Austrittspupille von der Linse 4 und die Größe y4 der Austrittspupille gilt:
fyk w4 (Gleichung 1) und
^4 = y6 (Gleichung 2) k -
Das Zwischenbild in der Zwischenbildebene ZE wird durch das Objektiv der Videokamera 9 mit einer Brennweite f5 bei einer Gegenstandsweite von w7 und einer Bildweite von w5 auf den Bildsensor 10 in der Abbildungsebene 8 mit einer Bildgröße von y5 abgebildet . Die Größen 5 und y5 sind individuell durch Wahl der Gegenstandsweite w7 auf jeden Videokameratyp einstellbar.
Die Berechnung des Einflusses der Kopfbewegungen des Mikroskop-Benutzers ist in Figur 5 näher erläutert.
Die Vektordarstellung stellt das Auge 7 des Betrachters, die separate einzelne Infrarotdiode 16 und den erfindungsgemäßen Aufsatz 2 nach Figur 1 im dreidimensionalen Raum modellhaft dar. Der Vektor &■ zeigt dabei auf die Koordinate der Infrarotdiode 16 im erdgebundenen Koordinatensystem O, und der Vektor o zeigt vom Ursprung des erdgebundenen Koordinatensystems auf den Ursprung O' des variablen Augenkoordinatensystems .
Durch Heranziehen des Hilfsvektors a " vom Ursprung des Augenkoordinatensystems O' zur Koordinate der
Infrarotdiode 16 kann der Blickrichtungsvektor g durch die Koordinaten des erdgebundenen Systems ausgedrückt werden:
R
Gy- (V - ox) (Gleichung 3)
2A - - R G Gγγ (Gleichung 4)
A kennzeichnet hierbei den Abstand zwischen Ursprung des Augenkoordinatensystems und der Koordinate der Infrarotdiode 16, und R den Radius der Korneakrümmung .
Der Übergang auf den Vektor § ermöglicht die Berechnung der Blickrichtungskoordinaten bei beliebigen Kopfbewegungen, wenn das Auge 7 auf den Mittelpunkt des Mikroskop-Objekträgers fixiert bleibt.
Die Sensitivität der Koordinaten des Blickrichtungsvektors zu den Kopfbewegungen und somit den Verschiebungen zum erdgebundenen Koordinatensystem O wird durch die Gleichungen
dGγ dOv d07 (Gleichung 5) dG d07 (Gleichung 6) ausgedrückt
Die partiellen Ableitungen des Blickrichtungsvektors ergeben sich daher zu:
Für die X Koordinate :
A-(2A-R)-2-(Sx-OxY
= -R (Gleichung 7) X>x A- (2A- -R)2
(Gleichung 8) dG Λ (Sx
= 2R -ox) (Sz- -oz) (Gleichung 9)
A-(2A-RY und für die Y Koordinate :
SGγ (Sχ-Oχ)-(S ~Oy) dG,
-2R (Gleichung 10)
A-(2A-R)2 δOv dG, A-(2A-R)-2-(Sγ-Oy)2
= -R (Gleichung 11) dOy A-(2A-R)2
6Gy (Sy-Oγ)-(Sz-Oz)
-2R (Gleichung 12) A-(2A-R)2 Die Abhängigkeit der Kopfbewegungen ist durch die Kurvenschar gemäß Figur 6 dargestellt. Für große Längen Sz, welche der Länge 1 des Tubus 15 entsprechen, ist die Sensitivität deutlich reduziert.
Durch die getrennte Beleuchtung zur Ermittlung des Pupillenmittelpunktes und der kornealen Reflexe wird eine hervorragende Bildqualität des Augenbildes 7 erzielt, wie in Figur 7 gezeigt.
Dem Augenbild 7 überlagert sind das Zielfadenkreuz 22 für den Pupillenmittelpunkt 24 und das Zielfadenkreuz 23 für den kornealen Reflex 25 als Overlays.
Ein zweiter Tubus 26 ist wie der Tubus 15 rechtwinklig zum Okulartubus 1 angeordnet . Dieser enthält eine weitere Infrarotdiode 27, die ihr Infrarotlicht ebenfalls mit einer Linse 17 und einem justierbaren Prisma 19 durch die Öffnung 18 in der Diffusorscheibe 13 auf die Kornea des Auges 7 des Chirurgen lenkt und dort einen zweiten kornealen Reflex 28 erzeugt, der zur Autofokussierung des Augenbildes 7 herangezogen wird.
Die Figur 8 zeigt die ScharfStellung des Auges 7 des Chirurgen für den Fall, daß die beiden Infrarotdioden 16 und 27 koplanar liegen. Da die Tuben 15 und 26 in einer senkrechten Flucht in den Okulartubus 1 einmünden, ist diese Bedingung erfüllt. Neben dem ersten kornealen Reflex 25 ist ein zweiter kornealer Reflex 28 vorhanden, die voneinander den Abstand d besitzen, der ein Maß für die Fokussierung ΔS0 der Videokamera 9 darstellt. Für die koplanare Ebene gilt:
1 1 1 2
— + — = 7 = -- (Gleichung 13 ) ύ, o0 J K und
(Gleichung 14]
Damit ergibt sich die Autofokus-Funktion:
2aR
Ad = - ~ — r - ΔS0 (Gleichung 15 ) ,
(R + 2S0) wobei a der Abstand zwischen den beiden Infrarotdioden 16 und 27 ist.
In Figur 9 ist das Blockschaltbild des erfindungsgemäßen
Blickmeßgeräts 46 dargestellt.
Auf einer PC ISA Bus-kompatiblen Einschubkarte ist ein Videomultiplexer 29 mit maximal drei Video-Eingängen realisiert .
Wahlweise stehen für diese drei Video-Eingänge CCD- Bildsensoren 10 mit einer vertikalen Abtastfrequenz von 50 Hz für die Standard-Video-Bildwiederholrate oder mit einer vertikalen Abtastfrequenz von 250 Hz für höhere Bildwiederholraten zur Verfügung.
Die analogen Signale gelangen einerseits über einen 8- bit Analog/Digital -Umsetzer 30 als Graustufenbild zum Blickrichtungs-Prozessor 32. Die Verteilung der unterschiedlichen Grautöne kann mit einer Histogrammfunktion analysiert werden.
Andererseits werden die analogen Video-Eingangsignale parallel zur Analog/Digital -Umsetzung von einer Kantendetektions-Logik 34 zunächst in Ereignisse zerlegt, die sich durch Schwarz-Weiß- (Dunkel -Hell) Übergänge bzw. Weiß-Schwarz- (Hell-Dunkel) Übergänge charakterisieren lassen. Diese Übergänge werden in Form von Ereignissen (Events) für jede Videozeile getrennt für die Pupille und den kornealen Reflex in einer Ereignistabelle abgelegt und abgespeichert, bevor sie dem Blickrichtungs-Prozessor 32 zugeführt werden. Mit der Ereignistabelle ist es möglich, deutlich mehr Bilder pro Sekunde abzuarbeiten als es für Standard- Video-Abtastfrequenzen notwendig ist. Deshalb wird die Zerlegung der Bilder in Ereignisse für maximale Bildwiederholraten genutzt. Der Video-Ausgang 35 ist für das Augenbild 20 mit
Overlays 62 vorgesehen. Zusätzlich ist ein Videoausgang 38 mit handelsüblichem VGA-Standard vorhanden. Mit Hilfe eines RAMDAC 39 wird für diesen Ausgang die Digital/Analog-Wandlung der Signale vorgenommen, mit der Möglichkeit, auch Falschfarben mit in das Ausgangssignal einzumischen. Im Videospeicher 41 ist derjenige Bereich des Videobildes abgelegt, der mit einer Bildüberlagerung (Overlay) überdeckt wird. Das Video- Eingangssignal der Videokamera 9 wird solange auf die Videoeingänge durchgeschleift, bis ein Pixel kommt, das eine Overlay-Information beinhaltet. Dieses wird mit einer wählbaren Overlay-Farbe eingefärbt.
Vier 12-bit DAC-Ports 43 mit 100 kHz Wandlungsrate ermöglichen die Ansteuerung externer Funktionen, beispielsweise von Schaltern über Relais. Ein 12-bit ADC-Port 44 für acht Kanäle im Multiplex-Betrieb kann zur Erfassung weiterer Meßwerte dienen.
Der 16-bit ISA-Bus 48 stellt die Verbindung zu weiteren PC-Einschubkarten und dem PC-Prozessor bei Einsatz im PC her. Für den stand-alone-Betrieb des Blickmeßgeräts 46 sind ferner ein 8-bit Digital-Input/Output 60 und serielle Ports 61 vorgesehen.
Weiterhin sind zwei Infrarotdioden-Stromversorgungen (12 V, 200 mA) 45 vorgesehen, die den erforderlichen Strom für die Infrarotdioden 11, 16 und 27 bei der Abtastung des Auges 7 des Betrachters durch die Videokamera 9 liefern.
Der Erweiterungsport 49 ermöglicht den Anschluß weiterer Funktionsbausteine, beispielsweise zusätzliche Logik und Koprozessoren.
Das erfindungsgemäße Verfahren wird nachfolgend am Beispiel der Laserchirurgie gemäß Figur 10 erläutert. Anstelle des rechten Mikroskoptubus ist ein erfindungs- gemäßer Aufsatz 2 in Form eines Okulartubus 1 mit dem Adapter 3 auf das Operationsmikroskop 57 aufgesetzt und arretiert. Rechtwinklig in den Strahlengang dieses Okulartubus 1 ist ein Tubus 15 für die Videokamera 9 eingebunden.
Das Kamerasignal wird dem Blickrichtungsmeßgerät 46 entsprechend Figur 9 zugeführt. Das PC kompatible Einschubboard des Blickrichtungsmeßgerätes 46 befindet sich im Eyetracking-Computer 59. Über eine parallele oder serielle Verknüpfung 50 werden die Ausgangssignale des Blickrichtungsmeßgerätes 46 auf eine Steuereinheit 51 übertragen, der über eine Treiberkarte 52 die Ansteuerung eines Operationslasers 53 übernimmt.
Bevor die eigentliche Operation begonnen wird, müssen die Blickbewegungen des Chirurgen auf das Operationsfeld 54 kalibriert werden. Hierzu wird ein Objektträger 55 mit einer geringen Anzahl definierter Punkte (5 Punkte sind ausreichend) verwendet . Während der Chirurg diese Punkte betrachtet, werden die Ausgangsdaten des Blickrichtungsmeßgerätes 46 auf die physikalischen Größen des Operationsfeldes 54 bezogen. Die Kalibrierungsdaten werden vom Blickrichtungsmeßgerät 46 im Eyetracking-Computer 59 zwischengespeichert.
Bei jeder Veränderung der Mikroskopvergrößerung erfolgt automatisch durch das System eine Anpassung der Kalibrierdaten, die ohne manuelle Nachjustierungen stets eine optimale Kalibrierung gewährleistet.
Unter dem Objekttisch 56 des Operationsmikroskopes 57 wird der Laserstrahl für die Laserbehandlung eingespeist und über ein optisches Umlenksystem im Objekttisch 56 auf das Arbeitsfeld 54 gerichtet.
Aufstellung der verwendeten Bezugszeichen
Okulartubus 1
Aufsatz 2
Adapter 3
Linse 4
Wellenlängenabhängiger Strahlteuer 5 Okularlinse 6
Auge des Betrachters
Abbildüngsebene
Videokamera 9
Bildsensor 10 Infrarotdioden 11
Beleuchtungsring 12
Diffusorscheibe 13
Aussparung für Nase 14
Tubus 15 Separate Infrarotdiode 16
C.R. -Kondensorlinse 17
Öffnung 18
Prisma 19
Analoges Augenbild 20 Infrarot-Durchgangsfilter 21
Zielfadenkreus Pupillenmittelpunkt 22
Zielfadenkreuz kornealer Reflex 23
Pupi11enmi11e1punkt 24
Erster kornealer Reflex 25 Tubus 26
Separate Infrarotdiode 27
Zweiter kornealer Reflex 28
Videomultiplexer 29 8-bit Analog/Digital-Umsetzer 30
Blickrichtungs-Prozessor 32
Kantendetektor-Logik 34 Videoausgang 35
Videoeingänge 36,37
Zusätzlicher Videoausgang 38
RAMDAC mit Falschfarbenüberlagerung 39
Speicher-Modul 40 Videospeicher 41
12-bit DAC-Port 43
12-bit ADC-Port 44
Stromversorgung für Infrarotdioden 45
Blickrichtungsmeßgerät 46 16-bit ISA-Bus 48
Erweiterungsport 49
Parallele oder serielle Verbindung 50
Steuereinheit 51
Treiberkarte 52 Operationslaser 53
Arbeitsfeld 54
Objektträger 55
Objekttisch 56
Operationsmikroskop 57 Eyetracking-Computer 59
8-bit Digital -Input/Output 60
Serielle Ports 61 Abstand Infrarotdiode 16 vom Ursprung des
Augenkoordinatensystems A Abstand der Infrarotdioden 16 und 27 a
Optische Achse des Okulars B Abstand der kornealen Reflexe 25 und 28 d
Brennweite der Linse 4 f4 Brennweite des Objektivs der Videokamera f5
Brennweite Okularlinse 6 f6 Blickrichtungsvektor ~ζ
Länge des Tubus 15 1 , Sz Optischer Abstand Okularlinse 6 zu
Linse 4 k
Vektor "o" Ursprung des Raum-Koordinatensystems 0
Ursprung des Augen-Koordinatensystems O'
Radius der Korneakrümmung R
Maß für den Autofokus der Videokamera ΔS0
Abstand S0 Abstand Si
Vektor s
Hilfsvektor 's"
Gegenstandsweite wl
Zwischenbildweite w3 Abstand Austrittspupille von Linse 4 w4
Bildweite w5
Gegenstandsweite der Okularlinse 6 w6
Gegenstandsweite w7
Koordinaten x,y,z Gegenstandsgröße yl
Zwischenbildgrδße y3
Größe Austrittspupille y4
Bildgröße y5
Durchmesser Außenkante Linse 6 y6

Claims

Patentansprüche
1. Verfahren zum Steuern von Mikroskopen mit angekoppel- ten Geräten mittels Blickrichtungsanalyse, bei der das Auge mit Infrarotlicht beleuchtet, durch ein optisches System mit Okulartubus abgebildet, von einem Bildsensor aufgenommen und das so gewonnene Bild anschließend in einem Prozessor zur Bestimmung der Blickposition durch Ermittlung der Pupillenmitte und der Koordinaten der erzeugten kornealen Reflexe weiterverarbeitet wird, wobei die durch den Prozessor gewonnenen Blickpositionsdaten des Betrachters auf das Arbeitsfeld des Betrachters kalibriert und mit diesen kalibrierten Daten die automatische Fokussierung und/oder die Beleuchtung und/oder das Einstellen des Objektträgers des Mikroskopes und die angekoppelte Geräte angesteuert werden. d a d u r c h g e k e n n z e i c h n e t, daß als Infrarotlicht ein stark diffuses Licht mit einer Wellenlänge von 800 bis 1000 nm verwendet wird, das koaxial um das Auge des Betrachters am Okulartubus erzeugt wird, und daß im Strahlengang des optischen Systems mindestens ein weiteres vom Erzeugungsort des diffusen Lichtes unabhängiges, auf das Auge des Betrachters gerichtets Infrarotlichtsignal mit gegenüber dem diffusen Licht unterschiedlicher Intensität und einer Wellenlänge von 800 bis 1000 nm erzeugt wird, das zur Erzeugung mindestens eines zusätzlichen kornealen Reflexes dem diffusen Licht herangezogen wird.
2 . Verfahren nach Anspruch 1 , d a d u r c h g e k e n n z e i c h n e t , daß das von dem
Bildsensor (10) erfaßte analoge Augenbild (20) durch Analog/Digital-Umsetzung in unterschiedliche Grautöne unterteilt (Graustufenbilderzeugung) wird, oder durch eine Kantendetektions-Logik in Ereignisse zerlegt wird, wobei jede Videozeile nach Dunkel-Hell- bzw. Hell-Dunkel-Übergängen ab-gesucht wird, und die gewonnenen Informationen in eine Ereignistabelle eingearbeitet werden, die dem Prozessor (32) zur Bestimmung der Koordinaten des Pupillenmittelpunktes, kornealer Reflexe und daraus der Blickrichtung zugeführt werden.
3. Verfahren nach Anspruch 1, d a d u r c h g e k e n n z e i c h n e t, daß das sichtbare Licht vom Infrarotlicht durch einen wellenlängenabhängigen Strahlteiler, z.B. einen Halbspiegel mit Antireflexionsbeschichtung, ein Prisma, oder einen polarisierenden Strahlteiler getrennt wird, der mehr als 80% des zur Ausleuchtung des Auges verwendeten Infrarot- lichtes reflektiert und für mehr als 80% des sichtbaren
Lichtes mit einer Wellenlänge unter 800 nm durchlässig ist.
4. Verfahren nach Anspruch 1 bis 3, d a d u r c h g e k e n n z e i c h n e t, daß mit einem zweiten Infrarotlichtsignal gleichbleibender
Intensität ein zweiter kornealer Reflex im Abstand (d) vom ersten kornealen Reflex zur Autofokussierung des Augenbildes erzeugt wird.
5. Verfahren nach Anspruch 1, d a d u r c h g e k e n n z e i c h n e t, daß die
Bildsensoren (10) der Videokamera (9) sowohl auf den Analog/Digital-Umsetzer (30) als auch auf eine Kantendetektor-Logik (34) geschaltet sind.
6. Verfahren nach Anspruch 1 bis 5, d a d u r c h g e k e n n z e i c h n e t, daß die Graustufenbilder über einen Videospeicher (41) geführt werden, in dem die Bilder mit einer Histogrammfunktion analysiert werden, um ein automatisches Erkennen der Pupille zu gewährleisten.
7. Verfahren nach Anspruch 1 bis 6, d a d u r c h g e k e n n z e i c h n e t, daß die digitalen Bildausgangssignale in analoge Ausgangssignale umgesetzt werden, denen Falschfarben zumischbar sind.
8. Verfahren nach Anspruch 1 bis 7, d a d u r c h g e k e n n z e i c h n e t, daß zur
Kalibrierung der Blickbewegungen ein Objektträger (55) mit Markierungen in der Objektebene oder ein in die Zwischenbildebene des Mikroskops eingespiegeltes Bild verwendet wird, die jeweils auf die physikalischen Größen des Operationsfeldes (54) bezogen sind.
9. Blickrichtungsmeßgerät zum Steuern von Mikroskopen und daran angekoppelte Geräte, mit das Auge beleuchtenden Infrarotdiodeh, einem das Auge abbildenden Bildsensor, einem die Blickrichtung berechnenden Prozessor und einem die Pupillenmitte und die kornealen Reflexe anzeigenden Monitor, d a d u r c h g e k e n n z e i c h n e t, daß es aus einem Videomultiplexer (29) , auf dessen Eingänge (36, 37) mehrere Video-Signale gelegt sind, denen Bildsensoren (10) zugeordnet sind, und dessen Ausgang entweder direkt über ein Analog/Digital-Umsetzer (30) oder über eine Kantendetek- tions-Logik (34) mit dem Blickrichtungs-Prozessor (32) verbunden ist, und aus einem Digital/Analog-Wandler (RAMDAC) (39) für die Bildsignale besteht, wobei wenigstens ein Video-Ausgang (35) für die Anzeige des Augenbildes mit überlagerten Markierungen der Pupille und kornealer Reflexe vorhanden ist, und über eine serielle oder eine parallele Schnittstelle (50) mit einer Steuereinheit (51) für die Ansteuerung auf das Arbeitsfeld einwirkender Geräte verbunden ist.
10. Blickrichtungsmeßgerät nach Anspruch 9, d a d u r c h g e k e n n z e i c h n e t, daß die
Bildsensoren (10) eine vertikale Abtastfrequenz von 50 Hz oder höher aufweisen.
11. Blickrichtungsmeßgerät nach Anspruch 9 und 10, d a d u r c h g e k e n n z e i c h n e t, daß ein zusätzlicher Eingang des Blickrichtungsmeßgeräts (46) zur gleichzeitigen Blickrichtungsanalyse des zweiten Auges mittels eines weiteren Bildsensors vorhanden ist.
12. Aufsatz für den Okulartubus eines Mikroskopes, beispielsweise Operationsmikroskopes, mit mindestens einem Okularsystem zur visuellen Beobachtung des von der Objektivlinse abgebildeten Operationsbereiches durch den
Benutzer, einem Beleuchtungssystem für ein oder beide Augen des Benutzers und mindestens einer im Okulartubus angeordneten Okularlinse, zum Steuern eines Mikroskopes und angekoppelter Geräte mittels Blickrichtungsanalyse, d a d u r c h g e k e n n z e i c h n e t, daß koaxial zur Okularlinse (6) aneinander angeordnete, durch eine Diffusorscheibe (13) abgedeckte Infrarotdioden (11) zu einem Beleuchtungsring (12) angeordnet sind, der eine Aussparung (14) für die Nase des Benutzers aufweist, und daß recht - winklig zur optischen Achse (B) des Okulartubus (1) in mindestens einem Tubus (15) eine weitere Infrarotdiode (16) angeordnet ist, deren IR-Licht auf eine im Strahlengang angeordnete C.R. -Kondensorlinse (17) und ein Prisma (19) gerichtet ist, die das IR-Licht auf das Auge des Benutzers lenken, wobei das Prisma (19) nahe der inneren Begrenzung der Diffusorscheibe (13) angeordnet und in dieser Stellung justierbar ist, und daß ein dieses Infrarotlicht reflektierender, für sichtbares Licht jedoch hoch durchlässiger wellenlängenabhängiger Strahlteiler (5) in einem Winkel von 45° zur optischen Achse (B) im Okulartubus (1) angeordnet ist, und daß in einer der Zwischenebene (ZE) nachgeordneten Abbildungsebene (8) mindestens ein IR- empfindliches Sensorsystem (10) für die Erfassung des
Augenbildes und der erzeugten kornealen Reflexe angeordnet ist, dem das Blickrichtungsmeßgerät (46) zugeordnet ist.
13. Aufsatz nach Anspruch 12, d a d u r c h g e k e n n z e i c h n e t, daß die
Diffusorscheibe (13) aus thermoplastischen Polymeren, beispielsweise Polyoxymethylen mit hohem Kristallisationsgrad, besteht.
14. Aufsatz nach Anspruch 12, d a d u r c h g e k e n n z e i c h n e t, daß die
Diffusorscheibe (13) aus Glas mit hoher diffuser Reflexion besteht .
15. Aufsatz nach Anspruch 12 bis 14, d a d u r c h g e k e n n z e i c h n e t, daß die Infrarotdioden (11) unter der Diffusorscheibe (13) sternförmig um die Okularachse (B) herum angeordnet sind.
16. Aufsatz nach Anspruch 12 bis 15, d a d u r c h g e k e n n z e i c h n e t, daß die
Infrarotdioden (11) unter der Diffusorscheibe mit ihren Längsachsen koaxial (parallel) zur Okularachse (B) ausgerichtet sind.
17. Aufsatz nach Anspruch 12, d a d u r c h g e k e n n z e i c h n e t, daß der
Tubus (15) eine variable Länge aufweist.
18. Aufsatz nach Anspruch 12, d a d u r c h g e k e n n z e i c h n e t, daß neben dem Tubus (15) ein weiterer Tubus (26) rechtwinklig am Okulartubus (1) vorgesehen ist, in dem eine weitere separate Infrarotdiode (27) angeordnet ist.
19. Aufsatz nach Anspruch 123, d a d u r c h g e k e n n z e i c h n e t, daß der wellenlängenabhängige Strahlteiler (5) eine Antireflexions- beschichtung aus Leichtmetallfluoriden aufweist.
EP98945011A 1997-07-13 1998-07-13 Verfahren zum steuern von mikroskopen und angekoppelten geräten mittels blickrichtungsanalyse, blickrichtungsmessgerät und okularaufsatz hierfür Withdrawn EP0995142A2 (de)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
DE19731301 1997-07-13
DE19731301A DE19731301C2 (de) 1997-07-13 1997-07-13 Vorrichtung zum Steuern eines Mikroskopes mittels Blickrichtungsanalyse
PCT/DE1998/002010 WO1999003009A2 (de) 1997-07-13 1998-07-13 Verfahren zum steuern von mikroskopen und angekoppelten geräten mittels blickrichtungsanalyse, blickrichtungsmessgerät und okularaufsatz hierfür

Publications (1)

Publication Number Publication Date
EP0995142A2 true EP0995142A2 (de) 2000-04-26

Family

ID=7836421

Family Applications (1)

Application Number Title Priority Date Filing Date
EP98945011A Withdrawn EP0995142A2 (de) 1997-07-13 1998-07-13 Verfahren zum steuern von mikroskopen und angekoppelten geräten mittels blickrichtungsanalyse, blickrichtungsmessgerät und okularaufsatz hierfür

Country Status (4)

Country Link
EP (1) EP0995142A2 (de)
AU (1) AU9252698A (de)
DE (1) DE19731301C2 (de)
WO (1) WO1999003009A2 (de)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10925463B2 (en) 2009-02-24 2021-02-23 Reiner Kunz Navigation of endoscopic devices by means of eye-tracker

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100499243B1 (ko) * 2002-09-10 2005-07-01 김봉현 적외선을 이용한 수술용 현미경
SE524003C2 (sv) * 2002-11-21 2004-06-15 Tobii Technology Ab Förfarande och anläggning för att detektera och följa ett öga samt dess blickvinkel
PT1607840E (pt) 2004-06-18 2015-05-20 Tobii Ab Controlo ocular de um computador
US9612656B2 (en) 2012-11-27 2017-04-04 Facebook, Inc. Systems and methods of eye tracking control on mobile device
US9898081B2 (en) 2013-03-04 2018-02-20 Tobii Ab Gaze and saccade based graphical manipulation
US11714487B2 (en) 2013-03-04 2023-08-01 Tobii Ab Gaze and smooth pursuit based continuous foveal adjustment
US10895908B2 (en) 2013-03-04 2021-01-19 Tobii Ab Targeting saccade landing prediction using visual history
ES2633016T3 (es) 2013-08-23 2017-09-18 Tobii Ab Sistemas y métodos para proveer audio a un usuario según una entrada de mirada
US9143880B2 (en) 2013-08-23 2015-09-22 Tobii Ab Systems and methods for providing audio to a user based on gaze input
US9952883B2 (en) 2014-08-05 2018-04-24 Tobii Ab Dynamic determination of hardware
EP3524135A1 (de) * 2018-02-13 2019-08-14 Essilor International (Compagnie Generale D'optique) Binokulare optoelektronisches wearable-vorrichtung zur messung der lichtempfindlichkeitsschwelle eines benutzers
US11789161B2 (en) 2020-07-14 2023-10-17 Spirent Communications Plc Accuracy of a GNSS receiver that has a non-directional antenna
US11536855B2 (en) * 2020-07-14 2022-12-27 Spirent Communications Plc Path planning using forecasts of obscuration and multipath
US11287531B2 (en) 2020-07-14 2022-03-29 Spirent Communications, Plc Architecture for providing forecasts of GNSS obscuration and multipath
CN117543360B (zh) * 2023-11-14 2024-05-28 湖北华亿电气集团有限公司 一种具有除湿散热功能的户外环网箱

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4157859A (en) * 1977-05-26 1979-06-12 Clifford Terry Surgical microscope system
DE3105018A1 (de) * 1981-02-12 1982-09-02 Fa. Carl Zeiss, 7920 Heidenheim Operationsmikroskop
DE3623613A1 (de) * 1986-07-12 1988-01-21 Zeiss Carl Fa Koaxiales beleuchtungssystem fuer operationsmikroskope
US4973149A (en) * 1987-08-19 1990-11-27 Center For Innovative Technology Eye movement detector
US5016282A (en) * 1988-07-14 1991-05-14 Atr Communication Systems Research Laboratories Eye tracking image pickup apparatus for separating noise from feature portions
US5231674A (en) * 1989-06-09 1993-07-27 Lc Technologies, Inc. Eye tracking method and apparatus
SE464910B (sv) * 1989-11-07 1991-07-01 Goete Paalsgaard Anordning foer moejliggoerande foer i synnerhet handikappade personer utan talfoermaaga och roerelsefoermaaga i armarna att kommunicera med omgivningen
DE4134481C2 (de) * 1991-10-18 1998-04-09 Zeiss Carl Fa Operationsmikroskop zur rechnergestützten, stereotaktischen Mikrochirurgie
JP3476847B2 (ja) * 1992-07-01 2003-12-10 オリンパス株式会社 手術用顕微鏡
JPH06148513A (ja) * 1992-10-30 1994-05-27 Canon Inc 視線検出装置
JP3298185B2 (ja) * 1992-11-05 2002-07-02 株式会社ニコン 眼科装置
JP2988178B2 (ja) * 1993-03-11 1999-12-06 日産自動車株式会社 視線方向計測装置
JP3293308B2 (ja) * 1994-03-10 2002-06-17 三菱電機株式会社 人物状態検出装置
US5867308A (en) * 1994-10-26 1999-02-02 Leica Mikroskopie Systeme Ag Microscope, in particular for surgical operations

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
See references of WO9903009A3 *

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10925463B2 (en) 2009-02-24 2021-02-23 Reiner Kunz Navigation of endoscopic devices by means of eye-tracker

Also Published As

Publication number Publication date
WO1999003009A3 (de) 1999-04-01
DE19731301A1 (de) 1999-01-14
WO1999003009A2 (de) 1999-01-21
AU9252698A (en) 1999-02-08
DE19731301C2 (de) 2001-05-10

Similar Documents

Publication Publication Date Title
DE69919383T2 (de) System für die blickrichtung der augen
EP0822436B1 (de) Verfahren zur Ermittlung von Positionsdaten und Vorrichtung für das Messen der Vergrösserung in einem optischen Strahlengang
DE69906139T2 (de) Vorrichtung zum verfolgen von augenbewegungen
EP0825826B1 (de) Verfahren und vorrichtung zum parallelen erfassen von sehinformation
EP1933276B1 (de) Mehrbandtracking- und Kalibrier-System
EP1405122B1 (de) Vorrichtung zur bestimmung der orientierung eines auges
DE19731301C2 (de) Vorrichtung zum Steuern eines Mikroskopes mittels Blickrichtungsanalyse
DE10304267B9 (de) Augenchirurgie-Mikroskopiesystem
DE102009037841B4 (de) Optisches System mit Wellenfrontanalysesystem und Baugruppe mit Wellenfrontanalysesystem für ein Mikroskop mit Mikroskopchassis
DE69724193T2 (de) Operationsmikroskop mit Multikoordinatenmanipulator und optischer Kohärenztomographie
DE102018206406B3 (de) Mikroskopiesystem und Verfahren zum Betrieb eines Mikroskopiesystems
DE10027167B4 (de) Mikroskop mit einem Beleuchtungssystem
DE3331431C2 (de) Vorrichtung zur Einkoppelung von Operationslicht in ein Augenuntersuchtungsgerät
DE19812050B4 (de) Anordnung und Verfahren zur Beleuchtung bei einem stereoskopischen Augenmikroskop
DE68912444T2 (de) Vorrichtung zum Ausrichten eines ophthalmologischen Instruments.
EP2582284B1 (de) Verfahren und vorrichtung zur bestimmung der augenposition
DE19814731A1 (de) Operationsmikroskop
EP0815482B1 (de) Mikroskop, insbesondere stereomikroskop
DE102009043523A1 (de) Endoskop
DE10027204B4 (de) Stereoskopmikroskop
DE19916773A1 (de) Verfahren und Vorrichtung zur Blitzlichtphotolyse
EP0363610A1 (de) Vorrichtung zum Prüfen visueller Funktionen eines menschlichen Auges
EP1400829A1 (de) Ophtalmo-Operationsmikroskop mit Objektbeleuchtung
DE10153397A1 (de) Vorrichtung und Verfahren zur Messung der Refraktion
DE3623394C2 (de) Operationsmikroskop

Legal Events

Date Code Title Description
PUAI Public reference made under article 153(3) epc to a published international application that has entered the european phase

Free format text: ORIGINAL CODE: 0009012

17P Request for examination filed

Effective date: 19991228

AK Designated contracting states

Kind code of ref document: A2

Designated state(s): AT BE CH CY DE DK ES FI FR GB GR IE IT LI LU MC NL PT SE

STAA Information on the status of an ep patent application or granted ep patent

Free format text: STATUS: THE APPLICATION IS DEEMED TO BE WITHDRAWN

18D Application deemed to be withdrawn

Effective date: 20040202