DE102014210051A1 - Verfahren und Vorrichtung zur Bestimmung einer Oberflächentopographie eines Körpers - Google Patents

Verfahren und Vorrichtung zur Bestimmung einer Oberflächentopographie eines Körpers Download PDF

Info

Publication number
DE102014210051A1
DE102014210051A1 DE102014210051.8A DE102014210051A DE102014210051A1 DE 102014210051 A1 DE102014210051 A1 DE 102014210051A1 DE 102014210051 A DE102014210051 A DE 102014210051A DE 102014210051 A1 DE102014210051 A1 DE 102014210051A1
Authority
DE
Germany
Prior art keywords
coordinate system
fixed coordinate
fixed
image
recording device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
DE102014210051.8A
Other languages
English (en)
Inventor
Stefan Saur
Marco Wilzbach
Gerald Panitz
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Carl Zeiss Meditec AG
Original Assignee
Carl Zeiss Meditec AG
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Carl Zeiss Meditec AG filed Critical Carl Zeiss Meditec AG
Priority to DE102014210051.8A priority Critical patent/DE102014210051A1/de
Priority to US14/723,208 priority patent/US20150348311A1/en
Publication of DE102014210051A1 publication Critical patent/DE102014210051A1/de
Withdrawn legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • G06T17/20Finite element generation, e.g. wire-frame surface description, tesselation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • G06T15/08Volume rendering
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0059Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
    • A61B5/0077Devices for viewing the surface of the body, e.g. camera, magnifying lens
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/74Details of notification to user or communication with user or patient ; user input means
    • A61B5/742Details of notification to user or communication with user or patient ; user input means using visual displays
    • A61B5/7425Displaying combinations of multiple images regardless of image source, e.g. displaying a reference anatomical image with a live image
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/30Determination of transform parameters for the alignment of images, i.e. image registration
    • G06T7/37Determination of transform parameters for the alignment of images, i.e. image registration using transform domain methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/30Determination of transform parameters for the alignment of images, i.e. image registration
    • G06T7/38Registration of image sequences
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • G06T7/593Depth or shape recovery from multiple images from stereo images
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/36Image-producing devices or illumination devices not otherwise provided for
    • A61B2090/364Correlation of different images or relation of image positions in respect to the body
    • A61B2090/365Correlation of different images or relation of image positions in respect to the body augmented reality, i.e. correlating a live optical image with another image
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/36Image-producing devices or illumination devices not otherwise provided for
    • A61B90/37Surgical systems with images on a monitor during operation
    • A61B2090/371Surgical systems with images on a monitor during operation with simultaneous use of two cameras
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/39Markers, e.g. radio-opaque or breast lesions markers
    • A61B2090/3937Visible markers
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0033Features or image-related aspects of imaging apparatus classified in A61B5/00, e.g. for MRI, optical tomography or impedance tomography apparatus; arrangements of imaging apparatus in a room
    • A61B5/0035Features or image-related aspects of imaging apparatus classified in A61B5/00, e.g. for MRI, optical tomography or impedance tomography apparatus; arrangements of imaging apparatus in a room adapted for acquisition of images from more than one imaging mode, e.g. combining MRI and optical tomography
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/05Detecting, measuring or recording for diagnosis by means of electric currents or magnetic fields; Measuring using microwaves or radio waves 
    • A61B5/055Detecting, measuring or recording for diagnosis by means of electric currents or magnetic fields; Measuring using microwaves or radio waves  involving electronic [EMR] or nuclear [NMR] magnetic resonance, e.g. magnetic resonance imaging
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image
    • G06T2207/10012Stereo images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10028Range image; Depth image; 3D point clouds
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10056Microscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20048Transform domain processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30204Marker
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30244Camera pose
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2210/00Indexing scheme for image generation or computer graphics
    • G06T2210/41Medical
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2215/00Indexing scheme for image rendering
    • G06T2215/12Shadow map, environment map
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2215/00Indexing scheme for image rendering
    • G06T2215/16Using real world measurements to influence rendering

Abstract

Die Erfindung betrifft ein Verfahren zur Bestimmung einer Oberflächentopographie eines Körpers 7, mit folgenden Verfahrensschritten: Aufnahme eines stereoskopischen Bilds der Oberfläche des Körpers 7 mit einem Bildaufnahmegerät 6; und Generierung eines Topographie-Datensatzes aus dem stereoskopischen Bild in einem durch das Bildaufnahmegerät festgelegten Koordinatensystem. Die Erfindung betrifft ferner Vorrichtungen zur Bestimmung einer Oberflächentopographie eines Körpers 7 in einem raumfesten Koordinatensystem und/oder einem körperfesten Koordinatensystem.

Description

  • Die Erfindung betrifft ein Verfahren und eine Vorrichtung zur Bestimmung einer Oberflächentopographie eines Körpers in einem raumfesten und/oder einem körperfesten Koordinatensystem.
  • In vielen Anwendungen insbesondere in der Medizintechnik ist es erforderlich, zu verschiedenen Zeitpunkten und gegebenenfalls mit verschiedenen Geräten erfasste Datensätze desselben Körpers oder Körperteils abzugleichen beziehungsweise bezüglich ihrer räumlichen oder ebenen Orientierung in Übereinstimmung zu bringen. Dieser Vorgang ist auch unter dem Begriff „Registrierung” bekannt. Dabei werden in einem ersten Schritt mit einem ersten Gerät, beispielsweise einem Computer- oder Kernspintomographen oder allgemein einem bildgebenden Gerät, Daten eines Körpers oder eines Köperteils von einem Patienten erfasst und in einem ersten Datensatz abgelegt, der in einem durch das erste Gerät festgelegten Koordinatensystem definiert ist. Der erste Schritt wird in der Medizintechnik häufig vor einer eigentlichen Operation am Patienten durchgeführt. In einem zweiten, zeitlich nachfolgenden Schritt, der häufig während einer Operation durchgeführt wird, wird mit einem zweiten Gerät ein zweiter Datensatz desselben Körpers oder Körperteils in einem durch das zweite Gerät festgelegten Koordinatensystem ermittelt. Das zweite Gerät kann dabei mit dem ersten Gerät identisch sein oder sich funktional von dem ersten Gerät unterscheiden und insbesondere als Kamera oder OCT-(Optical Coherence Tomographie)Gerät ausgestaltet sein. Da sich die Lage des Körpers oder Körperteils relativ zum ersten Gerät während des ersten Schritts in der Regel von der Lage des Körpers oder Körperteils relativ zum zweiten Gerät während des zweiten Schritts unterscheidet, ist es häufig erforderlich, den im ersten Schritt gewonnenen Datensatz bezüglich seiner ebenen oder räumlichen Lage und Orientierung mit dem im zweiten Schritt gewonnenen Datensatz in Einklang zu bringen.
  • Aus dem Stand der Technik ist es bekannt, zur Registrierung Marker auf dem zu untersuchenden Körperteil aufzukleben, die während des ersten Schritts und des zweiten Schritts auf dem Patienten verbleiben. Die Lage der Marker im Raum wird durch ein geeignetes Kamerasystem während des ersten und des zweiten Schritts erfasst und mit dem ersten und dem zweiten Datensatz abgelegt. Aus einem Vergleich der ermittelten Markerlagen lässt sich eine Transformationsvorschrift ermitteln, anhand deren die Patienten-Datensätze in die gewünschten Koordinatensysteme umgerechnet werden können. Nachteilig an diesem Verfahren ist, dass Klebemarker verrutschen können und dass nur wenige diskrete Punkte erfasst werden, so dass nur eine geringe Datenbasis zur Ermittlung einer Transformationsvorschrift zur Verfügung steht. Ferner befindet sich das Kamerasystem in der Praxis häufig in ein bis zwei Meter Entfernung vom Operationssitus, wobei darauf zu achten ist, dass die direkte Verbindungslinie zwischen Markern und Kamera nicht unterbrochen ist. Dies führt zu Einschränkungen im Operationsablauf.
  • In einem bekannten, alternativen Verfahren werden Marker am Patienten fixiert, beispielsweise an einem Knochen festgeschraubt. Nachteilig an diesem Verfahren ist, dass es einen invasiven Eingriff bedingt, der für den Patienten unangenehm ist.
  • Aus der EP 1142536 ist bekannt, die Oberfläche eines zu untersuchenden Körpers mit einem Handlaser zu scannen, wobei die Laserpunkte durch ein 3D-Kamerasystem erfasst werden. Aus der ermittelte Lage der Laserpunkte wird eine Topographie der Oberfläche errechnet, die mit einem präoperativ gewonnenen Datensatz abgeglichen wird. Alternativ ermöglicht ein von der Firma Brainlab unter dem Namen Softtouch vertriebenes Produkt eine Topographiebestimmung mit Hilfe eines Tastkopfes, der an die zu erfassende Oberfläche herangeführt wird und dessen Lage und Orientierung im Raum bei Berührung der Oberfläche wiederum durch ein Kamerasystem ermittelt wird. Nachteilig an diesen Verfahren ist der große Zeitaufwand zur Ermittlung der Topographie infolge des sequentiellen Abtastens der Oberfläche. Außerdem erfordern diese Verfahren ein Kamerasystem zur Ermittlung der Lage der Laserpunkte mit den damit verbundenen Einschränkungen im Operationsablauf.
  • Eine Aufgabe der vorliegenden Erfindung besteht darin, ein Verfahren und eine Vorrichtung zur Bestimmung einer Oberflächentopographie eines Körpers in einem raumfesten und/oder einem körperfesten Koordinatensystem bereitzustellen, welche die Nachteile der vorstehend genannten Verfahren und Vorrichtungen überwindet.
  • Diese Aufgabe wird durch ein Verfahren mit den Merkmalen des Anspruchs 1 sowie durch Vorrichtungen mit den Merkmalen der Ansprüche 13 und 14 gelöst.
  • Ein erfindungsgemäßes Verfahren umfasst folgende Schritte: Aufnahme eines stereoskopischen Bilds der Oberfläche des Körpers mit einem Bildaufnahmegerät; und Generierung eines Topographie-Datensatzes aus dem stereoskopischen Bild in einem mit dem Bildaufnahmegerät verbundenen Koordinatensystem. Unter einem stereoskopischen Bild sind dabei beispielsweise Aufnahmen zu verstehen, die mit Hilfe von zwei Kameras oder mit einer Kamera, die räumlich bewegt wird, oder mit einer 3D-Kamera im Laufzeitverfahren aufgenommen werden. Durch die Nutzung des stereoskopischen Bildes steht eine Vielzahl von Datenpunkten zur Verfügung, die mittels geeigneter Verfahren gleichzeitig zur Erzeugung des Topographie-Datensatzes verwendet werden können. Dadurch ist die erforderliche Zeit zur Ermittlung eines Topographie-Datensatzes verringert.
  • In einer Ausgestaltung des Verfahrens wird in einem weiteren Verfahrensschritt eine Position des Bildaufnahmegeräts in einem raumfesten und/oder einem körperfesten Koordinatensystem ermittelt. Der Begriff „körperfest” bezieht sich dabei auf den zu untersuchenden Körper. Dies erleichtert den Abgleich zwischen den im ersten und im zweiten Schritt ermittelten Daten insbesondere dann, wenn der Körper dazwischen oder während des zweiten Schritts bewegt wurde.
  • In einer weiteren Ausgestaltung des Verfahrens wird zur Generierung des Topographie-Datensatzes mindestens ein weiteres stereoskopisches Bild der Oberfläche des Körpers mit dem Bildaufnahmegerät aus einem Blickwinkel aufgenommen, der sich von dem Blickwinkel bei der Aufnahme des ersten stereoskopischen Bilds unterscheidet. Dadurch steht eine größere Anzahl von stereoskopischen Bildern und damit Datenpunkten zur Verfügung, die zur Erzeugung des Topographie-Datensatzes verwendet werden können.
  • In einer weiteren Ausgestaltung des Verfahrens wird eine Transformationsvorschrift zwischen dem raumfesten Koordinatensystem beziehungsweise dem körperfesten Koordinatensystem und dem mit dem Bildaufnahmegerät verbundenen Koordinatensystem bestimmt und der Topographie-Datensatz wird mit Hilfe der Transformationsvorschrift in das raumfeste beziehungsweise körperfeste Koordinatensystem transformiert.
  • In einer weiteren Ausgestaltung des Verfahrens wird als Bildaufnahmegerät eine 3D-Kamera verwendet, die in einem Mikroskop, insbesondere in einem Operationsmikroskop, aufgenommen oder an einem solchen Mikroskop angebracht sein kann.
  • In einer weiteren Ausgestaltung des Verfahrens erfolgt die Ermittlung der Position des Bildaufnahmegeräts in dem raumfesten Koordinatensystem mit Hilfe eines raumfest angeordneten Navigationsgeräts, welcher zur Positionsbestimmung eines an dem Bildaufnahmegerät angeordneten Markers eingerichtet ist.
  • In einer weiteren Ausgestaltung des Verfahrens wird mit dem Bildaufnahmegerät ein stereoskopisches Bild eines raumfest oder körperfest angeordneten Markers aufgenommen und das aus dem stereoskopischen Bild des raumfest oder körperfest angeordneten Markers die Position des Bildaufnahmegeräts in dem raumfesten Koordinatensystem oder dem körperfesten Koordinatensystem ermittelt wird. Dies erleichtert die Ermittlung der Position des Bildaufnahmegeräts relativ zum Körper oder zu dem umgebenden Raum, wobei auf zusätzliche Navigationsgeräte im Umfeld des Körpers verzichtet werden kann.
  • In einer weiteren Ausgestaltung des Verfahrens ist der Körper relativ zu dem raumfest angeordneten Marker fixiert.
  • In einer weiteren Ausgestaltung des Verfahrens wird der Topographie-Datensatz aus dem stereoskopischen Bild der Oberfläche des Körpers als dichte 3D-Rekonstruktion nach der Methode des optischen Flusses oder der Epipolargeometrie oder einer spärlich besetzten Oberflächendarstellung auf Basis von Knotenpunkten mit anschließender Optimierung einer Kostenfunktion erzeugt.
  • In einer weiteren Ausgestaltung des Verfahrens wird der Topographie-Datensatz als Tiefenkarte und/oder metrisch korrekte topographische Rekonstruktion, insbesondere als Mesh, Graustufenbild oder Punktewolke, erzeugt.
  • In einer weiteren Ausgestaltung des Verfahrens wird der Topographie-Datensatz durch Bearbeitung auf einem oder mehreren Computer mit paralleler Rechnerstruktur zumindest annähernd in Echtzeit generiert.
  • In einer weiteren Ausgestaltung des Verfahrens wird der Topographie-Datensatz und/oder eine ermittelte Position eines raumfest angeordneten Markers über eine Schnittstelle zur Nutzung durch andere interne oder externe Applikationen bereitgestellt.
  • Eine erfindungsgemäße Vorrichtung zur Bestimmung einer Oberflächentopographie eines Körpers in einem raumfesten Koordinatensystem und/oder einem körperfesten Koordinatensystem umfasst ein stereoskopisches Bildaufnahmegerät, welches einen Marker aufweist und welches zur Aufnahme eines stereoskopischen Bilds in einem durch das Bildaufnahmegerät festgelegten Koordinatensystem ausgestaltet ist; ein Navigationsgerät, welches zur Ermittlung einer Position des Markers des Bildaufnahmegeräts in dem raumfesten Koordinatensystem und/oder dem körperfesten Koordinatensystem eingerichtet ist; und eine Steuereinheit, welche zur Generierung eines Topographie-Datensatzes aus dem stereoskopischen Bild in einem mit dem Bildaufnahmegerät verbundenen Koordinatensystem und zur Bestimmung einer Transformationsvorschrift zwischen dem raumfesten Koordinatensystem beziehungsweise dem körperfesten Koordinatensystem und dem mit dem Bildaufnahmegerät verbundenen Koordinatensystem und zur Transformation des Topographie-Datensatzes in das raumfeste Koordinatensystem beziehungsweise das körperfeste Koordinatensystem mit Hilfe der Transformationsvorschrift eingerichtet ist.
  • In einer alternativen Ausgestaltung der Erfindung umfasst die Vorrichtung zur Bestimmung einer Oberflächentopographie eines Körpers in einem raumfesten Koordinatensystem oder einem körperfesten Koordinatensystem ein stereoskopisches Bildaufnahmegerät, welches einen Marker aufweist und welches zur Aufnahme eines stereoskopischen Bilds in einem mit dem Bildaufnahmegerät verbundenen Koordinatensystem ausgestaltet und zur Ermittlung einer Position bezüglich des raumfesten Koordinatensystem beziehungsweise des körperfesten Koordinatensystem fixierten Markers eingerichtet ist; und eine Steuereinheit, welche zur Generierung eines Topographie-Datensatzes aus dem stereoskopischen Bild in einem mit dem Bildaufnahmegerät verbundenen Koordinatensystem und zur Bestimmung einer Transformationsvorschrift zwischen dem raumfesten Koordinatensystem beziehungsweise dem körperfesten Koordinatensystem und dem mit dem Bildaufnahmegerät verbundenen Koordinatensystem und zur Transformation des Topographie-Datensatzes in das raumfeste Koordinatensystem beziehungsweise das körperfeste Koordinatensystem mit Hilfe der Transformationsvorschrift eingerichtet ist.
  • In einer Ausgestaltung der Erfindung ist das Bildaufnahmegerät als Kamera, insbesondere als 3D-Kamera, ausgebildet.
  • In einer Ausgestaltung der Erfindung ist das Bildaufnahmegerät in einem Mikroskop, insbesondere in einem Operationsmikroskop integriert oder mit einem Mikroskop, insbesondere einem Operationsmikroskop, verbunden.
  • Die Erfindung wir nachfolgend anhand einer Figur näher erläutert.
  • In der einzigen Figur ist ein Patient 1 auf einem Operationstisch 2 liegend dargestellt. Im Vorfeld der Operation wurden medizinische Daten des zu behandelnden Körperteils, in diesem Ausführungsbeispiel des Kopfs des Patienten, mit einem medizinischen Gerät, beispielsweise einem Computertomographen (CT) oder einem Kernspintomographen (MRI), in einem durch das medizinische Gerät festgelegten Koordinatensystem ermittelt. Die medizinischen Daten sind in einer Rechnereinheit 3 abgelegt.
  • Während der Operation sollen die in der Rechnereinheit abgelegten, präoperativ ermittelten Daten mit intraoperativ gewonnenen Daten bezüglich ihrer räumlichen Lage und Orientierung in Übereinstimmung gebracht werden. In diesem Ausführungsbeispiel bestehen die intraoperativ gewonnenen Daten aus einem mit Hilfe eines Operationsmikroskops 4 aufgenommenen Livebild des Patienten, dem die präoperativ gewonnenen CT- oder MRI-Daten überlagert werden sollen. Das Operationsmikroskop 4 ist an einem in der Figur nicht gezeigten Stativ gehaltert. Das Livebild mit den überlagerten Daten kann entweder an einem Bildschirm dargestellt werden oder die präoperativ gewonnenen Daten werden in einem Beobachtungsstrahlengang des Operationsmikroskops 4 eingespiegelt, so dass Livebild und überlagerte Daten in einem Okular 5 des Operationsmikroskops 4 betrachtet werden können.
  • Zur Registrierung wird mit einem in dem Operationsmikroskop integrierten Bildaufnahmegerät in Form einer Stereokamera 6 ein stereoskopisches Bild von dem Kopf des Patienten aufgenommen, aus dem ein Topographie-Datensatz in einem durch die Stereokamera festgelegten Koordinatensystem generiert wird. Der Kopf 7 des Patienten ist dabei mittels eines stereotaktischen Rahmens oder einer anderen geeigneten Vorrichtung bezüglich des Operationstisches 2 fixiert. Gleichzeitig wird durch die Stereokamera 6 ein Navigationspunkt zum Beispiel in Form eines im Bild sichtbaren Markers 8 am stereotaktischen Rahmen oder am Operationstisch 2 erfasst, dessen Position relativ zum Untersuchungsort (dem Kopf des Patienten) fixiert ist. Die Bereitstellung eines fixen Navigationspunkts am stereotaktischen Rahmen oder am Operationstisch bietet den Vorteil einer erleichterten Navigation im späteren Operationsverlauf, wenn der Körper des Patienten beispielsweise durch Steriltücher abgedeckt ist.
  • Aus dem stereoskopischen Bild wird eine topographisch dichte Rekonstruktion der Szene ermittelt. Die Rekonstruktion erfolgt bevorzugt in Echtzeit durch Nutzung einer Parallelarchitektur in der Rechnereinheit 3 oder durch parallele Nutzung mehrerer Rechnereinheiten (Cluster). Die Rechnereinheit kann hierfür beispielsweise eine Mehrkern-CPU oder einen geeigneten Grafikprozessor (Graphics Processing Unit, GPU) umfassen oder als programmierbare Gatter-Anordnung (Field Programmable Gate Array, FPGA) aufgebaut sein.
  • Das Ergebnis der Rekonstruktion kann als Tiefenkarte und/oder metrisch korrekte topographische Rekonstruktion (Mesh, Graustufenbild, Punktwolke) zur Verfügung gestellt werden.
  • Die topographisch dichte Rekonstruktion wird anschließend mit einer aus den präoperativ ermittelten Daten erstellten Topographie der Oberfläche des Kopfes verglichen und in Übereinstimmung gebracht. Aus dem Vergleich kann eine Transformationsvorschrift zur Umrechnung der präoperativ ermittelten Daten in ein körperfestes oder raumfestes Koordinatensystem ermittelt werden, so dass nachfolgend die präoperativ ermittelten Daten in ein während der Operation aufgenommenes Livebild eingeblendet und bei Bewegungen des Patienten relativ zum Operationsmikroskop nachgeführt werden können.
  • Bevorzugt erfolgt eine automatische Detektion der 3D-Position des fixen Navigationspunkts relativ zur Topographie des zu untersuchenden Körperteils.
  • Über eine Schnittstelle können Topographie und 3D-Position des fixen Navigationspunkts weiteren internen und/oder externen Anwendungen zur Verfügung gestellt und/oder für den späteren Operationsverlauf gespeichert werden.
  • In einem weiteren Ausführungsbeispiel werden größere Oberflächen und/oder Volumina des zu untersuchenden Körperteils erfasst, was auch vollautomatisiert erfolgen kann. Hierzu ist das Operationsmikroskop mit dem integrierten oder daran angeordneten Bildaufnahmegerät bevorzugt an einem robotischen Stativ, also einem Stativ mit antriebsunterstützten Bewegungsmöglichkeiten, gehaltert. Mit Hilfe der Antriebe werden mehrere Positionen angefahren, in denen stereoskopische Aufnahmen der Oberfläche des Körpers aufgenommen werden, die einander im Idealfall überlappen. Für jede Aufnahme erfolgt eine topographische Rekonstruktion der Oberfläche. Durch Zusammenfügen der Teilaufnahmen (sogenanntes „stitchen”) mittels Kombination der intrinsischen Positionsinformationen des Operationsmikroskops in einem raumfesten und/oder körperfesten Koordinatensystem (grobe Initialisierung) und der Bildinformationen aus den stereoskopischen Aufnahmen können die aus den Aufnahmen gewonnenen topographischen Daten zu einer größeren Oberfläche oder einem größeren Volumen zusammengefügt werden.
  • Wiederum ein weiteres Ausführungsbeispiel ermöglicht eine semiautomatische Erfassung größerer Oberflächen oder Volumina. Hierfür ist das Operationsmikroskop mit dem integrierten oder daran angeordneten Bildaufnahmegerät an einem Stativ mit Pivot-Funktionalität gehaltert. Unter einer Pivot-Funktionalität ist dabei eine Eignung des Stativs zur Drehung des Operationsmikroskops um einen feststehenden Punkt im Raum zu verstehen, wobei der feststehende Punkt immer in einem Beobachtungsstrahlengang des Operationsmikroskops liegt. Nach Aufnahme eines stereoskopischen Bilds wird das Mikroskop so ausgerichtet, dass eine weitere Aufnahme unter einem anderen Blickwinkel gemacht werden kann. Dieser Vorgang kann automatisiert erfolgen, indem nach Lösen der Bremsen das Operationsmikroskop automatisch in eine entsprechende Richtung verfahren wird. Sobald ein Abstand zu einer Zielposition einen Grenzwert unterschreitet, werden die Bremsen wieder aktiviert und es wird eine neue stereoskopische Aufnahme erstellt. Dieser Vorgang wird wiederholt, bis die gesamte gewünschte Fläche erfasst ist.
  • In einer weiteren Ausgestaltung der Erfindung ist das Bildaufnahmegerät mit einer Einzelkamera ausgestattet. Ohne Patientenbewegung und mit bekannter Positionsänderung des Bildaufnahmegeräts relativ zu dem Patienten kann auch ein sogenannter Structure-from-Motion Ansatz für die topographische Rekonstruktion gewählt werden.
  • ZITATE ENTHALTEN IN DER BESCHREIBUNG
  • Diese Liste der vom Anmelder aufgeführten Dokumente wurde automatisiert erzeugt und ist ausschließlich zur besseren Information des Lesers aufgenommen. Die Liste ist nicht Bestandteil der deutschen Patent- bzw. Gebrauchsmusteranmeldung. Das DPMA übernimmt keinerlei Haftung für etwaige Fehler oder Auslassungen.
  • Zitierte Patentliteratur
    • EP 1142536 [0005]

Claims (16)

  1. Verfahren zur Bestimmung einer Oberflächentopographie eines Körpers (7), mit folgenden Verfahrensschritten: – Aufnahme eines stereoskopischen Bilds der Oberfläche des Körpers (7) mit einem Bildaufnahmegerät (6); und – Generierung eines Topographie-Datensatzes aus dem stereoskopischen Bild in einem durch das Bildaufnahmegerät festgelegten Koordinatensystem.
  2. Verfahren nach Anspruch 1, dadurch gekennzeichnet, dass in einem weiteren Verfahrensschritt eine Position des Bildaufnahmegeräts (6) in einem raumfesten und/oder einem körperfesten Koordinatensystem ermittelt wird.
  3. Verfahren nach einem der Ansprüche 1 oder 2, dadurch gekennzeichnet, dass zur Generierung des Topographie-Datensatzes mindestens ein weiteres stereoskopisches Bild der Oberfläche des Körpers (7) mit dem Bildaufnahmegerät (6) aus einem Blickwinkel aufgenommen wird, der sich von dem Blickwinkel bei der Aufnahme des ersten stereoskopischen Bilds unterscheidet.
  4. Verfahren nach einem der Ansprüche 1 bis 3, dadurch gekennzeichnet, dass eine Transformationsvorschrift zwischen dem raumfesten Koordinatensystem beziehungsweise dem körperfesten Koordinatensystem und dem mit dem Bildaufnahmegerät verbundenen Koordinatensystem bestimmt wird und dass der Topographie-Datensatz mit Hilfe der Transformationsvorschrift in das raumfeste beziehungsweise körperfeste Koordinatensystem transformiert wird.
  5. Verfahren nach einem der Ansprüche 1 bis 4, dadurch gekennzeichnet, dass als Bildaufnahmegerät (6) eine 3D-Kamera verwendet wird.
  6. Verfahren nach einem der Ansprüche 2 bis 5, rückbezogen auf Anspruch 2, dadurch gekennzeichnet, dass die Ermittlung der Position des Bildaufnahmegeräts (6) in dem raumfesten Koordinatensystem mit Hilfe eines raumfest angeordneten Navigationsgeräts erfolgt, welcher zur Positionsbestimmung eines an dem Bildaufnahmegerät angeordneten Markers eingerichtet ist.
  7. Verfahren nach einem der Ansprüche 2 bis 5, rückbezogen auf Anspruch 2, dadurch gekennzeichnet, dass mit dem Bildaufnahmegerät (6) ein stereoskopisches Bild eines raumfest oder körperfest angeordneten Markers (8) aufgenommen wird, und dass aus dem stereoskopischen Bild des raumfest oder körperfest angeordneten Markers (8) die Position des Bildaufnahmegeräts in dem raumfesten Koordinatensystem oder dem körperfesten Koordinatensystem ermittelt wird.
  8. Verfahren nach Anspruch 7, dadurch gekennzeichnet, dass der Körper (7) relativ zu dem raumfest angeordneten Marker (8) fixiert ist.
  9. Verfahren nach einem der Ansprüche 1 bis 8, dadurch gekennzeichnet, dass der Topographie-Datensatz aus dem stereoskopischen Bild der Oberfläche des Körpers (7) als dichte 3D-Rekonstruktion nach der Methode des optischen Flusses oder der Epipolargeometrie oder einer spärlich besetzten Oberflächendarstellung auf Basis von Knotenpunkten mit anschließender Optimierung einer Kostenfunktion erzeugt wird.
  10. Verfahren nach einem der Ansprüche 1 bis 9, dadurch gekennzeichnet, dass der Topographie-Datensatz als Tiefenkarte und/oder metrisch korrekte topographische Rekonstruktion, insbesondere als Mesh, Graustufenbild oder Punktewolke, erzeugt wird.
  11. Verfahren nach einem der Ansprüche 1 bis 10, dadurch gekennzeichnet, dass der Topographie-Datensatz durch Bearbeitung auf einem oder mehreren Computer (3) mit paralleler Rechnerstruktur zumindest annähernd in Echtzeit generiert wird.
  12. Verfahren nach einem der Ansprüche 1 bis 11, dadurch gekennzeichnet, dass der Topographie-Datensatz und/oder eine ermittelte Position eines raumfest angeordneten Markers (8) über eine Schnittstelle zur Nutzung durch andere interne oder externe Applikationen bereitgestellt wird.
  13. Vorrichtung zur Bestimmung einer Oberflächentopographie eines Körpers (7) in einem raumfesten Koordinatensystem und/oder einem körperfesten Koordinatensystem mit – einem stereoskopischen Bildaufnahmegerät (6), welches einen Marker aufweist und welches zur Aufnahme eines stereoskopischen Bilds in einem durch das Bildaufnahmegerät festgelegten Koordinatensystem ausgestaltet ist; – einem Navigationsgerät, welches zur Ermittlung einer Position des Markers des Bildaufnahmegeräts in dem raumfesten Koordinatensystem und/oder dem körperfesten Koordinatensystem eingerichtet ist; und – eine Steuereinheit, welche zur Generierung eines Topographie-Datensatzes aus dem stereoskopischen Bild in einem mit dem Bildaufnahmegerät verbundenen Koordinatensystem und zur Bestimmung einer Transformationsvorschrift zwischen dem raumfesten Koordinatensystem beziehungsweise dem körperfesten Koordinatensystem und dem mit dem Bildaufnahmegerät verbundenen Koordinatensystem und zur Transformation des Topographie-Datensatzes in das raumfeste Koordinatensystem beziehungsweise das körperfeste Koordinatensystem mit Hilfe der Transformationsvorschrift eingerichtet ist.
  14. Vorrichtung zur Bestimmung einer Oberflächentopographie eines Körpers (7) in einem raumfesten Koordinatensystem oder einem körperfesten Koordinatensystem mit – einem stereoskopischen Bildaufnahmegerät (6), welches einen Marker aufweist und welches zur Aufnahme eines stereoskopischen Bilds in einem mit dem Bildaufnahmegerät verbundenen Koordinatensystem ausgestaltet und zur Ermittlung einer Position bezüglich des raumfesten Koordinatensystem beziehungsweise des körperfesten Koordinatensystem fixierten Markers eingerichtet ist; und – eine Steuereinheit, welche zur Generierung eines Topographie-Datensatzes aus dem stereoskopischen Bild in einem mit dem Bildaufnahmegerät verbundenen Koordinatensystem und zur Bestimmung einer Transformationsvorschrift zwischen dem raumfesten Koordinatensystem beziehungsweise dem körperfesten Koordinatensystem und dem mit dem Bildaufnahmegerät verbundenen Koordinatensystem und zur Transformation des Topographie-Datensatzes in das raumfeste Koordinatensystem beziehungsweise das körperfeste Koordinatensystem mit Hilfe der Transformationsvorschrift eingerichtet ist.
  15. Vorrichtung nach einem der Ansprüche 13 oder 14, dadurch gekennzeichnet, dass das Bildaufnahmegerät (6) als Kamera, insbesondere als 3D-Kamera, ausgebildet ist.
  16. Vorrichtung nach einem der Ansprüche 13 bis 15, dadurch gekennzeichnet, dass das Bildaufnahmegerät (6) in einem Mikroskop (4), insbesondere in einem Operationsmikroskop integriert ist oder mit einem Mikroskop, insbesondere einem Operationsmikroskop, verbunden ist.
DE102014210051.8A 2014-05-27 2014-05-27 Verfahren und Vorrichtung zur Bestimmung einer Oberflächentopographie eines Körpers Withdrawn DE102014210051A1 (de)

Priority Applications (2)

Application Number Priority Date Filing Date Title
DE102014210051.8A DE102014210051A1 (de) 2014-05-27 2014-05-27 Verfahren und Vorrichtung zur Bestimmung einer Oberflächentopographie eines Körpers
US14/723,208 US20150348311A1 (en) 2014-05-27 2015-05-27 Method and apparatus for determining a surface topography of a body in a coordinate system fixed in space and/or fixed on the body

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
DE102014210051.8A DE102014210051A1 (de) 2014-05-27 2014-05-27 Verfahren und Vorrichtung zur Bestimmung einer Oberflächentopographie eines Körpers

Publications (1)

Publication Number Publication Date
DE102014210051A1 true DE102014210051A1 (de) 2015-12-03

Family

ID=54481217

Family Applications (1)

Application Number Title Priority Date Filing Date
DE102014210051.8A Withdrawn DE102014210051A1 (de) 2014-05-27 2014-05-27 Verfahren und Vorrichtung zur Bestimmung einer Oberflächentopographie eines Körpers

Country Status (2)

Country Link
US (1) US20150348311A1 (de)
DE (1) DE102014210051A1 (de)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102022100626A1 (de) 2022-01-12 2023-07-13 Carl Zeiss Meditec Ag Automatisierte registrierung von präoperativen volumenbilddaten mittels suchbild

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6454489B2 (ja) * 2014-07-10 2019-01-16 オリンパス株式会社 観察システム
EP3561771A1 (de) * 2018-04-23 2019-10-30 Koninklijke Philips N.V. Automatisierte objektüberwachung für medizinische bildgebung

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1142536A1 (de) 2000-04-05 2001-10-10 BrainLAB AG Referenzierung eines Patienten in einem medizinischen Navigationssystem mittels aufgestrahlter Lichtpunkte
EP1862115A1 (de) * 2006-05-31 2007-12-05 BrainLAB AG Registrierung mittels Strahlungsmarkierungselementen
US20100177185A1 (en) * 2007-06-18 2010-07-15 Swen Woerlein Surgical microscope with integrated structured illumination

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5606627A (en) * 1995-01-24 1997-02-25 Eotek Inc. Automated analytic stereo comparator
US20110015518A1 (en) * 2002-06-13 2011-01-20 Martin Schmidt Method and instrument for surgical navigation
US20040105074A1 (en) * 2002-08-02 2004-06-03 Peter Soliz Digital stereo image analyzer for automated analyses of human retinopathy
US6947579B2 (en) * 2002-10-07 2005-09-20 Technion Research & Development Foundation Ltd. Three-dimensional face recognition
US7561733B2 (en) * 2004-11-15 2009-07-14 BrainLAG AG Patient registration with video image assistance
US20150078642A1 (en) * 2012-04-24 2015-03-19 The General Hospital Corporation Method and system for non-invasive quantification of biologial sample physiology using a series of images
DE102012208389A1 (de) * 2012-05-18 2013-11-21 Fiagon Gmbh Registrierverfahren und -vorrichtung für ein Positionserfassungssystem
US9524582B2 (en) * 2014-01-28 2016-12-20 Siemens Healthcare Gmbh Method and system for constructing personalized avatars using a parameterized deformable mesh

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1142536A1 (de) 2000-04-05 2001-10-10 BrainLAB AG Referenzierung eines Patienten in einem medizinischen Navigationssystem mittels aufgestrahlter Lichtpunkte
EP1862115A1 (de) * 2006-05-31 2007-12-05 BrainLAB AG Registrierung mittels Strahlungsmarkierungselementen
US20100177185A1 (en) * 2007-06-18 2010-07-15 Swen Woerlein Surgical microscope with integrated structured illumination

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102022100626A1 (de) 2022-01-12 2023-07-13 Carl Zeiss Meditec Ag Automatisierte registrierung von präoperativen volumenbilddaten mittels suchbild
WO2023135022A1 (de) 2022-01-12 2023-07-20 Carl Zeiss Meditec Ag Automatisierte registrierung von präoperativen volumenbilddaten mittels suchbild

Also Published As

Publication number Publication date
US20150348311A1 (en) 2015-12-03

Similar Documents

Publication Publication Date Title
EP3076369B1 (de) Verfahren und vorrichtung zum darstellen eines objektes
EP1894538B1 (de) Verfahren und Vorrichtung zum Bestimmen der Lage von Beckenebenen
DE102006012945B4 (de) Verfahren zur virtuellen Schichtpositionierung in einem 3D-Volumendatensatz und medizinisches Abbildungssystem
DE102008044529A1 (de) System und Verfahren zur Verwendung von Fluoroskop- und Computertomographie-Registrierung für Sinuplastie-Navigation
EP1872735A1 (de) Verfahren zum automatischen Identifizieren von Instrumenten bei der medizinischen Navigation
EP2044975B1 (de) Verfahren zum Registrieren von 2D-Bilddaten, Computerprogrammprodukt, Navigationsverfahren zum Navigieren eines Behandlungsgerätes im Bereich der Medizin und Recheneinrichtung zum Registrieren von 2D-Bilddaten
DE102005059804A1 (de) Verfahren und Vorrichtung zur Bewegungskorrektur bei der Bildgebung während einer medizinischen Intervention
DE102005036322A1 (de) Registrieren intraoperativer Bilddatensätze mit präoperativen 3D-Bilddatensätzen auf Basis optischer Oberflächenextraktion
DE102005030646A1 (de) Verfahren zur Kontur-Visualisierung von interessierenden Regionen in 2D-Durchleuchtungsbildern
DE202011110755U1 (de) Navigationsaufsatz für optische Geräte in der Medizin und Vorrichtung zum Darstellen von Bilddaten
EP2922471A1 (de) Hybrides bildgebungssystem und verfahren für intraoperative, interventionelle und diagnostische anwendungen
DE102009031165A1 (de) Verfahren und Vorrichtung zur Aufnahme von Röntgenbildern für eine dreidimensionale Bildrekonstruktion
DE10201644A1 (de) Registrierungsprozedur bei projektiver intraoperativer 3D-Bildgebung
DE102011006537B4 (de) Verfahren zur Registrierung eines ersten Koordinatensystems einer ersten medizinischen Bildgebungseinrichtung mit einem zweiten Koordinatensystem einer zweiten medizinischen Bildgebungseinrichtung und/oder einem dritten Koordinatensystem eines medizinischen Instruments, welches durch Marker einer medizinischen Navigationseinrichtung definiert ist, und medizinisches Untersuchungs- und/oder Behandlungssystem
DE102010013498B4 (de) Verfahren zum Ermitteln von dreidimensionalen Volumendaten, Bildgebungsvorrichtung und Datenträger
EP3323347A1 (de) Verfahren zur bildunterstützung einer einen minimalinvasiven eingriff mit einem instrument in einem eingriffsbereich eines patienten durchführenden person, röntgeneinrichtung, computerprogramm und elektronisch lesbarer datenträger
DE102008012857B4 (de) Medizinsystem und Verfahren zur ortsrichtigen Zuordnung eines Bilddatensatzes zu einem elektromagnetischen Navigationssystem
DE102014210051A1 (de) Verfahren und Vorrichtung zur Bestimmung einer Oberflächentopographie eines Körpers
EP3598948B1 (de) Bildgebendes system und verfahren zum erzeugen einer stereoskopischen darstellung, computerprogramm und datenspeicher
DE102012200686A1 (de) Verfahren und Vorrichtung zur Positionierung einer Röntgenvorrichtung
WO2016012556A1 (de) Bilderzeugungsapparat und -verfahren mit kombination von funktionaler bildgebung und ultraschallbildgebung
DE102007051479A1 (de) Verfahren und Vorrichtung zur Darstellung von Bilddaten mehrerer Bilddatensätze während einer medizinischen Intervention
DE102009032060B4 (de) Verfahren und Einrichtung zum Ermitteln der räumlichen Position und/oder Orientierung eines Objektes bei der Durchführung einer bildunterstützten medizinischen Maßnahme
WO2012025081A2 (de) Verfahren zur simultanen, parallelen, kontinuierlichen darstellung von gespeicherten, hochaufgelösten diagnostischen 3-d-bilddaten und 2-d-echtzeitschnittbilddaten während einer medizinischen intervention eines patienten und anordnung zur durchführung dieses verfahrens
DE102010020287B4 (de) Verfahren, Datenträger mit darauf gespeichertem Computerprogramm und Vorrichtung zur Lagebestimmung eines Untersuchungsobjekts

Legal Events

Date Code Title Description
R012 Request for examination validly filed
R016 Response to examination communication
R119 Application deemed withdrawn, or ip right lapsed, due to non-payment of renewal fee