-
Die Erfindung betrifft ein Verfahren zum Bereitstellen einer Abbildung mittels eines Operationsmikroskops und ein Operationsmikroskop.
-
Ziel der fluoreszenzgestützten Mikrochirurgie ist es, einem Arzt zusätzliche Informationen innerhalb des Operationsfeldes darzustellen. Hierbei wird ein fluoreszierender Stoff (endogener oder exogener Fluorophor) im Gewebe angeregt und ein hiervon ausgehendes Licht in einer Fluoreszenzabbildung erfasst. Durch diese zusätzlichen Informationen wird der Arzt beispielsweise dazu befähigt, einen Blutfluss vor und nach einer durchgeführten vaskulären Operation zu vergleichen und den Erfolg des Eingriffs zu bewerten, oder auch dabei unterstützt, gesundes Hirngewebe von Tumorgewebe zu unterscheiden und das gesunde Gewebe in der Umgebung hierdurch verbessert zu schützen. Ausschlaggebend für diese Verfahren ist, dass einerseits die Fluoreszenzinformation möglichst sensitiv detektiert und detailliert mit gutem Kontrast zum umlegenden Gewebe dargestellt wird, sodass der Arzt umfangreiche Zusatzinformationen über das Operationsfeld erhält. Andererseits gilt es, den WeißlichtEindruck und insbesondere die Strukturen innerhalb des Operationsfeldes zu erhalten, sodass der Arzt stets die Kontrolle über bzw. den Eindruck von den von der Fluoreszenzinformation unabhängigen Zustand des Operationsfeldes behält (z.B. den Zustand der umliegenden Gefäße bei der Fluoreszenzdarstellung und eine Entfernung von Tumorgewebe).
-
Aus der
DE 10 2021 203 187 B3 ist ein Verfahren zum Bereitstellen einer Abbildung mittels eines Operationsmikroskops bekannt, umfassend: Erfassen einer Farbabbildung eines Erfassungsbereichs mittels einer Kamera, Erfassen einer Fluoreszenzabbildung des Erfassungsbereichs mittels einer Fluoreszenzkamera, Erzeugen eines Detailbildes aus der erfassten Farbabbildung mittels eines Raumfilters und einer Edge-stop-Funktion, Mischen der erfassten Farbabbildung, der erfassten Fluoreszenzabbildung und des erzeugten Detailbildes zu einer gemischten Abbildung, und Bereitstellen eines Bildsignals, welches die gemischte Abbildung kodiert.
-
Aus der
DE 11 2016 004 455 T5 sind eine Bildverarbeitungsvorrichtung, ein Bildverarbeitungsverfahren, ein Operationssystem und ein chirurgischer Faden bekannt. Die Bildverarbeitungsvorrichtung weist Folgendes auf: eine bilderhaltende Einheit, welche ein unter einer Beleuchtungsbedingung, bei der der chirurgische Faden fluoresziert, erzeugtes erstes Bild und ein unter einer Beleuchtungsbedingung, welche zumindest sichtbares Licht aufweist, erzeugtes zweites Bild als Bilder einer Operationsstelle unter Verwendung des fluoreszierenden chirurgischen Fadens erhält, und eine Syntheseeinheit, die ein durch Synthetisieren eines Bereichs des chirurgischen Fadens des ersten Bilds und des zweiten Bilds erhaltenes synthetisches Bild erzeugt.
-
Aus der
US 2020 / 0 008 899 A1 ist eine stereoskopische Kamera mit Fluoreszenzvisualisierung bekannt. Eine beispielhafte stereoskopische Kamera umfasst eine sichtbare Lichtquelle und eine nahezu ultraviolette Lichtquelle. Die stereoskopische Kamera umfasst außerdem eine Lichtfilterbaugruppe mit linken und rechten Filtermagazinen, die jeweils entlang des linken und rechten optischen Pfads positioniert und so konfiguriert sind, dass sie bestimmte Lichtwellenlängen selektiv passieren lassen. Jedes der linken und rechten Filtermagazine enthält einen Infrarot-Sperrfilter, einen Nah-Ultraviolett-Sperrfilter und einen Nahinfrarot-Bandpassfilter. Eine Steuerung der Kamera ist so konfiguriert, dass sie einen sichtbaren Lichtmodus, einen Indocyaningrün-Fluoreszenzmodus („ICG“) und einen 5-Aminolävulinsäure-Fluoreszenzmodus („ALA“) bereitstellt, indem sie die Aktivierung der Lichtquellen mit der Auswahl der Filter synchronisiert. Ein Prozessor der Kamera kombiniert Bilddaten aus den verschiedenen Modi, um die Überlagerung von Fluoreszenzemissionslicht mit stereoskopischen Bildern im sichtbaren Licht zu ermöglichen.
-
Aus der
US 8 169 468 B2 ist ein chirurgisches Robotersystem bekannt, das ein Endoskop positioniert und hält. An das Endoskop ist ein sichtbares Bildgebungssystem gekoppelt. Das sichtbare Bildgebungssystem erfasst ein sichtbares Bild des Gewebes. An das Endoskop ist außerdem ein alternatives Bildgebungssystem gekoppelt. Das alternative Bildgebungssystem erfasst ein Fluoreszenzbild von mindestens einem Teil des Gewebes. Ein stereoskopisches Videoanzeigesystem ist mit dem sichtbaren Abbildungssystem und dem alternativen Abbildungssystem gekoppelt. Das stereoskopische Videoanzeigesystem gibt ein stereoskopisches Echtzeitbild aus, das eine dreidimensionale Darstellung einer Mischung aus einem Fluoreszenzbild, das dem aufgenommenen Fluoreszenzbild zugeordnet ist, und dem sichtbaren Bild umfasst.
-
Aus der
US 2021 / 0 349 028 A1 ist eine Vorrichtung zum Anzeigen und/oder Drucken von Bildern einer Probe, einschließlich eines ersten und zweiten Fluorophors und eines zweiten Fluorophors, bekannt. Die Vorrichtung umfasst eine Bilderfassungseinheit, die dazu konfiguriert ist, erste und zweite Rohbilder zu erfassen, die durch Erfassen von erstem und zweitem Fluoreszenzlicht mit unterschiedlichen spektralen Zusammensetzungen erfasst werden, emittiert vom ersten bzw. zweiten Fluorophor. Jedes der Rohbilder besteht aus Pixeln mit jeweils einem Helligkeitswert. Der Bildprozessor ist so konfiguriert, dass er: erste und zweite Farbtöne, die sich voneinander unterscheiden, aus einer vorgegebenen Folge von Farbtönen auswählt; ein erstes Falschfarbenbild durch Zuweisen des ersten Farbtons zu jedem Pixel des ersten Rohbilds; und ein zweites Falschfarbenbild erzeugt, indem jedem Pixel des zweiten Rohbilds der zweite Farbton zugewiesen wird. Die Ausgabeeinheit ist zum Anzeigen und/oder Drucken des ersten und zweiten Falschfarbenbildes konfiguriert.
-
Aus der
EP 4 057 047 A1 sind ein Mikroskopsystem, beispielsweise ein Operationsmikroskopsystem, sowie ein entsprechendes System, Verfahren und Computerprogramm für ein Mikroskopsystem bekannt. Das System umfasst einen oder mehrere Prozessoren und ein oder mehrere Speichergeräte. Das System ist dazu konfiguriert, bildgebende Sensordaten von mindestens einem optischen bildgebenden Sensor eines Mikroskops des Mikroskopsystems zu erhalten. Das System ist dazu konfiguriert, basierend auf den Bildsensordaten eine Vielzahl unterschiedlicher Vorschaubilder zu erzeugen. Die Vielzahl unterschiedlicher Vorschaubilder wird fortlaufend aktualisiert. Das System ist so konfiguriert, dass es ein Steuereingangssignal von einem Eingabegerät des Mikroskopsystems erhält. Das System ist dazu konfiguriert, ein Anzeigesignal für eine Anzeigevorrichtung des Mikroskopsystems zu erzeugen. Das Anzeigesignal umfasst eine Benutzeroberfläche, die zwei oder mehr Vorschaubilder der Vielzahl unterschiedlicher Vorschaubilder mit kleinerer Größe und ein weiteres Bild mit größerer Größe anzeigt. Das System ist so konfiguriert, dass es die Benutzeroberfläche basierend auf dem Eingabesignal so steuert, dass das weitere Bild basierend auf einer Auswahl eines der zwei oder mehr unterschiedlichen Vorschaubilder über die Benutzeroberfläche gefüllt wird.
-
Aus der
US 2014 / 0 184 769 A1 ist ein Fluoreszenzbeobachtungsgerät bekannt, das Folgendes umfasst: einen Fluoreszenzbild-Erfassungsabschnitt und einen Referenzbild-Erfassungsabschnitt, die jeweils ein Fluoreszenzbild und ein Referenzbild eines Subjekts erfassen; einen Teilbild-Erzeugungsabschnitt, der ein Teilbild erzeugt, indem er ein auf dem Fluoreszenzbild basierendes Bild durch ein auf dem Referenzbild basierendes Bild teilt; einen Anzeigeabschnitt, der ein korrigiertes Fluoreszenzbild basierend auf dem Teilungsbild anzeigt; einen Korrekturverarbeitungsabschnitt, der eine Korrekturverarbeitung auf das Referenzbild und/oder das Fluoreszenzbild und/oder auf das Teilungsbild vor der Erzeugung des Teilungsbilds oder vor der Anzeige des korrigierten Fluoreszenzbilds anwendet; einen Abschnitt zur Bestimmung der Beobachtungsbedingungen, der die Beobachtungsbedingungen des Subjekts bestimmt; und einen Korrekturbedingungs-Einstellabschnitt, der Parameter bezüglich der Korrekturverarbeitung entsprechend den Beobachtungsbedingungen einstellt.
-
Die
US 2010 / 0 245 552 A1 beschreibt ein Bildgebungssystem. Mit dem Bildgebungssystem werden ein Auflichtbild und ein Fluoreszenzlichtbild eines beobachteten Bereichs erfasst. Ein Gradationsniveau des reflektierten Lichtbildes wird auf der Grundlage eines Merkmalswerts des erfassten reflektierten Lichtbildes eingestellt. Der Fokus des Bildgebungssystems wird entsprechend der eingestellten Gradationsstufe gesteuert. Das Fluoreszenzlichtbild wird mithilfe eines fokusgesteuerten Reflexionslichtbilds des beobachteten Bereichs korrigiert. Dementsprechend wird das Bild eines Objekts im beobachteten Bereich, aus dem das Fluoreszenzlicht erzeugt wird, geschärft.
-
Der Erfindung liegt die Aufgabe zu Grunde, ein Verfahren zum Bereitstellen einer Abbildung mittels eines Operationsmikroskops und ein Operationsmikroskop zu schaffen, bei denen ein Überlagern einer erfassten Farbabbildung und einer erfassten Fluoreszenzabbildung verbessert ist.
-
Die Aufgabe wird erfindungsgemäß durch ein Verfahren mit den Merkmalen des Patentanspruchs 1 und ein Operationsmikroskop mit den Merkmalen des Patentanspruchs 14 gelöst. Vorteilhafte Ausgestaltungen der Erfindung ergeben sich aus den Unteransprüchen.
-
Es ist einer der Grundgedanken der Erfindung, eine erfasste Fluoreszenzabbildung mittels einer Bearbeitungseinrichtung zum Optimieren für eine Überlagerung mit einer Farbabbildung zu bearbeiten. Hierbei wird eine Art der Bearbeitung ausgehend von mindestens einem erhaltenen oder erfassten Anwendungsparameter festgelegt. Hierdurch lässt sich anwendungsspezifisch steuern, wie eine überlagerte Abbildung, die die Farbabbildung und die bearbeitete Fluoreszenzabbildung enthält, ausgeprägt ist. Anders ausgedrückt kann für ein anwendungsspezifisches Szenario eine hierauf optimierte Überlagerung der Farbabbildung mit der Fluoreszenzabbildung erfolgen. Ein Bildsignal, welches die überlagerte Abbildung kodiert, kann einem Chirurgen und/oder Hilfspersonal hierdurch verbessert die im Erfassungsbereich enthaltenen Informationen bereitstellen.
-
Insbesondere wird ein Verfahren zum Bereitstellen einer Abbildung mittels eines Operationsmikroskops zur Verfügung gestellt, umfassend: Erhalten oder Erfassen mindestens eines Anwendungsparameters, Erfassen einer Farbabbildung eines Erfassungsbereichs mittels einer Kamera, Erfassen einer Fluoreszenzabbildung des Erfassungsbereichs mittels einer Fluoreszenzkamera, Bearbeiten der Fluoreszenzabbildung mittels einer Bearbeitungseinrichtung zum Optimieren für eine Überlagerung mit der Farbabbildung, wobei eine Art der Bearbeitung ausgehend von dem mindestens einen Anwendungsparameter festgelegt wird, Überlagern der Farbabbildung mit der bearbeiteten Fluoreszenzabbildung, und Bereitstellen eines Bildsignals, welches die überlagerte Abbildung kodiert.
-
Ferner wird insbesondere ein Operationsmikroskop geschaffen, umfassend eine Kamera, die zum Erfassen einer Farbabbildung eines Erfassungsbereichs eingerichtet ist, eine Fluoreszenzkamera, die zum Erfassen einer Fluoreszenzabbildung des Erfassungsbereichs eingerichtet ist, und eine Bearbeitungseinrichtung, wobei die Bearbeitungseinrichtung dazu eingerichtet ist, die Fluoreszenzabbildung zum Optimieren für eine Überlagerung mit der Farbabbildung zu bearbeiten, wobei eine Art der Bearbeitung ausgehend von mindestens einem erhaltenen oder erfassten Anwendungsparameter festgelegt wird; ferner die Farbabbildung mit der bearbeiteten Fluoreszenzabbildung zu überlagern, und ein Bildsignal bereitzustellen, welches die überlagerte Abbildung kodiert.
-
Ein Vorteil des Verfahrens und des Operationsmikroskops ist, dass das Bildsignal für die überlagerte Abbildung anwendungsspezifisch bereitgestellt werden kann. Auf diese Weise kann für jedes Anwendungsszenario ein optimiertes bzw. optimales Bildsignal bereitgestellt werden. Das Verfahren und das Operationsmikroskop haben ferner den Vorteil, dass auch bei einer aus der erfassten Farbabbildung und der erfassten Fluoreszenzabbildung überlagerten bzw. gemischten Abbildung Details aus der erfassten Fluoreszenzabbildung weiterhin erhalten bleiben, sodass diese von einem Chirurgen und/oder Hilfspersonal verbessert erfasst werden können. Insbesondere erlauben es das Verfahren und das Operationsmikroskop, die Details in der überlagerten Abbildung hervorzuheben. Insbesondere können hierdurch auch nach dem Überlagern bzw. Mischen noch Gefäße, ein Blutfluss und/oder Tumorstrukturen im Gehirn klar und deutlich in der überlagerten Abbildung sichtbar gemacht werden, gleichzeitig kann eine Umgebung der jeweils mit einem Fluoreszenzfarbstoff markierten Bereiche sichtbar bleiben. Ein Chirurg und/oder Hilfspersonal können diese Details hierdurch verbessert erfassen und in der erfassten Farbabbildung und der erfassten Fluoreszenzabbildung vorhandene Informationen können für jede Anwendung optimal dargestellt werden. Durch die weiterhin erkennbare Umgebung und den weiter erkennbaren Hintergrund kann ferner eine leichtere Orientierung innerhalb des Erfassungsbereichs erfolgen. Beispielsweise ist bei einer Tumorvisualisierung das überlagerte Fluoreszenzsignal sehr großflächig. Mittels des Verfahrens und des Operationsmikroskops können insbesondere sowohl ein in der Farbabbildung enthaltener Weißlichteindruck bzw. eine Weißlichtinformation des umgebenden Gewebes erhalten bleiben, als auch Strukturen (z.B. Gefäße etc.) im Hintergrund des Fluoreszenzsignals auf dem Tumor gut erfassbar dargestellt werden, sodass die Strukturen nicht zu stark von dem Fluoreszenzsignal überdeckt werden. Ein Arbeitsablauf und ein Arbeitsfluss bei der Operation können hierdurch verbessert werden. Ferner können Fehler verringert oder sogar vermieden werden.
-
Ein Anwendungsparameter ist insbesondere ein Parameter, der ein Anwendungsszenario beschreibt und/oder bestimmt. Ein solcher Anwendungsparameter kann beispielsweise eine Information über einen verwendeten Fluoreszenzfarbstoff und/oder dessen physikalische Eigenschaften umfassen. Ein Anwendungsparameter kann auch Informationen zu einem Nutzerprofil umfassen, beispielsweise zu visuellen Beeinträchtigungen des Nutzers (z.B. Rot-Grün-Schwäche etc.) und/oder Vorlieben des Nutzers. Ein Anwendungsparameter kann auch eine Information zu der geplanten und/oder durchgeführten Operation oder Behandlung umfassen, z.B. einen Operationstyp, beispielsweise, ob eine vaskuläre Operation oder eine Tumorresektion durchgeführt wird. Ein Anwendungsparameter kann auch Parameter umfassen, die die Überlagerung zwischen der Farbabbildung und der bearbeiteten Fluoreszenzabbildung (insbesondere direkt bzw. unmittelbar) beschreiben und/oder bestimmen.
-
Es ist insbesondere vorgesehen, dass das Bearbeiten der Fluoreszenzabbildung ausgehend von dem mindestens einen Anwendungsparameter festgelegt wird. Insbesondere kann vorgesehen sein, dass eine Art von Bearbeitungsschritten und eine Bearbeitungsreihenfolge ausgehend von dem mindestens einen Anwendungsparameter festgelegt wird. Dies kann beispielsweise mittels einer Nachschlagetabelle erfolgen, in der Ausprägungen und/oder Werte des mindestens einen Anwendungsparameters oder Kombinationen hiervon jeweils mit einer Information verknüpft hinterlegt sind, die die Art des oder der Bearbeitungsschritte und eine Bearbeitungsreihenfolge beschreiben. Das Bearbeiten erfolgt dann gemäß den zu dem mindestens einen Anwendungsparameter hinterlegten Bearbeitungsschritten und gemäß der hinterlegten Bearbeitungsreihenfolge. Alternativ oder zusätzlich kann auch vorgesehen sein, dass die Art des oder der Bearbeitungsschritte und die Bearbeitungsreihenfolge mittels eines Verfahrens der Künstlichen Intelligenz, insbesondere mittels eines trainierten Maschinenlernverfahrens, beispielsweise mittels eines trainierten Neuronalen Netzes, ausgehend von dem mindestens einen Anwendungsparameter festgelegt werden. Ferner kann zusätzlich auch ein Bearbeiten der Farbabbildung unter Berücksichtigung des mindestens einen Anwendungsparameters erfolgen. Dies erfolgt insbesondere mittels der Bearbeitungseinrichtung. Insbesondere kann vorgesehen sein, dass auch für die Farbabbildung eine Art von Bearbeitungsschritten und eine Bearbeitungsreihenfolge in analoger Weise ausgehend von dem mindestens einen Anwendungsparameter festgelegt wird. Es kann ferner vorgesehen sein, dass das Überlagern der Farbabbildung mit der bearbeiteten Fluoreszenzabbildung ebenfalls unter Berücksichtigung des mindestens einen Anwendungsparameters erfolgt. Insbesondere kann vorgesehen sein, dass auch für das Überlagern eine Art von Überlagerungsschritten (Addition, Fusion, Blending etc.) und, sofern mehrere Schritte ausgeführt werden, eine Bearbeitungsreihenfolge in analoger Weise ausgehend von dem mindestens einen Anwendungsparameter festgelegt werden. Der mindestens eine Anwendungsparameter kann daher dazu dienen, ein Bearbeiten der Fluoreszenzabbildung und der Farbabbildung sowie das Überlagern zu bestimmen und/oder hierbei durchzuführende Schritte und deren Reihenfolge festzulegen.
-
Das Erfassen des mindestens einen Anwendungsparameters kann beispielsweise manuell mittels einer geeigneten Bedienschnittstelle, beispielsweise mittels einer Anzeige- und Bedieneinrichtung, erfolgen, wobei der Nutzer den mindestens einen Anwendungsparameter durch Eingabe und/oder Auswahl (insbesondere direkt bzw. unmittelbar) festlegen kann. Ferner kann der mindestens eine Anwendungsparameter auch von einer Einrichtung des Operationsmikroskops und/oder einer sonstigen (externen) Einrichtung erhalten werden, beispielsweise einem Datenbanksystem, in dem geplante Operationen hinterlegt sind.
-
Das Bearbeiten der erfassten Fluoreszenzabbildung erfolgt insbesondere, indem Bildelemente der Fluoreszenzabbildung bearbeitet werden. Insbesondere werden Werte der Bildelemente mittels einer (digitalen) Bildbearbeitung gezielt verändert. Das Bearbeiten kann eins oder mehrere der folgenden Verfahren umfassen: Helligkeitsausgleich, lokale/globale Kontrastanpassung, Gammakorrektur, Verstärkung, Filterung mittels räumlicher Filter, z.B. Gaußfilter, Waveletfilter, bilateraler Filter, Top-Hat-Filter, Kantenfilter oder Frequenzfilter, Rauschunterdrückung, globale und lokale Histogramm-Equalization (HE) Verfahren, z.B. die Contrast-Limited Adaptive Histogramm Equalization (CLAHE), Kombinationen verschiedener Bearbeitungsschritte wie das Noise Aware Tone Mapping (NATM), Farbkanalersetzung, morphologische Bearbeitung, Konvertierung in einen Farbraum und/oder Aufteilung in einen Hintergrund und einen Vordergrund, z.B. über Segmentierung, oder Otsus Methode. Grundsätzlich kann das Bearbeiten auch eines oder mehrere der folgenden Verfahren umfassen: eine Randabfallkorrektur, eine geometrische Korrektur (Entzerrung bzw. Verzeichnungskorrektur, Anpassung der Skalierung, der Rotation und/oder Position zur verbesserten Überlagerung), Korrektur optischer Aberrationen (z.B. chromatischer Aberrationen).
-
Das Operationsmikroskop ist insbesondere ein medizinisches Operationsmikroskop, insbesondere ein stereoskopisches medizinisches Operationsmikroskop. Als stereoskopisches medizinisches Operationsmikroskop kann das Operationsmikroskop insbesondere insgesamt zwei Kameras zum Erfassen von Farbabbildungen (linker Kanal und rechter Kanal) und eine oder zwei Fluoreszenzkameras aufweisen. Grundsätzlich kann aber auch vorgesehen sein, dass eine der Kameras des stereoskopischen medizinischen Operationsmikroskops als Fluoreszenzkamera und eine andere Kamera als Farbkamera ausgebildet ist. Das Operationsmikroskop umfasst insbesondere eine Lichtquelle, um den Erfassungsbereich, in dem ein zu erfassendes Objekt, insbesondere ein Körperteil eines Patienten, angeordnet ist, mit insbesondere weißem und/oder breitbandigem, Licht zu beleuchten. Ferner kann das Operationsmikroskop auch eine (zusätzliche) Anregungslichtquelle umfassen, um einen Fluoreszenzfarbstoff anzuregen. Das Operationsmikroskop kann ferner optische Elemente, insbesondere zum Fokussieren und/oder Vergrößern, aufweisen. Die optischen Elemente können auch Teil der Kamera(s) sein. Insbesondere kann das Operationsmikroskop ein Objektiv aufweisen, welches bei einem stereoskopischen Operationsmikroskop insbesondere ein gemeinsames Objektiv ist. Ferner kann ein Strahlteiler in einem Strahlengang des Operationsmikroskops angeordnet sein, um beispielsweise Licht vom Erfassungsbereich sowohl auf die Kamera als auch die Fluoreszenzkamera zu führen. Weiter können auch optische Filter beim Erfassen von Fluoreszenzabbildungen verwendet werden. Das Operationsmikroskop weist insbesondere eine Steuereinrichtung auf, mit der das Operationsmikroskop gesteuert werden kann. Die Steuereinrichtung kann die Bearbeitungseinrichtung umfassen oder diese bereitstellen. Ferner kann das Operationsmikroskop eine Anzeigeeinrichtung und/oder eine Anzeige- und Bedieneinrichtung aufweisen. Diese ist bzw. sind mit der Steuereinrichtung und/oder der Bearbeitungseinrichtung verbunden. Ferner kann das Operationsmikroskop als Anzeigeeinrichtung eine oder mehrere externe Anzeigeeinrichtungen, eine integrierte Anzeigeeinrichtung (insbesondere jeweils für den linken und den rechten Kanal), ein Head-up-Display (HUD) und/oder ein Mikrodisplay im optischen Pfad aufweisen.
-
Die Kamera ist insbesondere als Farbbilddetektor bzw. Weißlichtbilddetektor ausgebildet, das heißt, die Kamera ist insbesondere dazu eingerichtet, Licht im Wellenlängenbereich von weißem Licht räumlich aufgelöst (insbesondere zweidimensional) zu erfassen, beispielsweise im Wellenlängenbereich von sichtbarem Licht. Die Kamera erzeugt und stellt insbesondere ein Signal bereit, das eine Intensitätsverteilung des auf die Kamera aus dem Erfassungsbereich einfallenden Lichts darstellt, das heißt, eine Farbabbildung (bzw. Weißlichtabbildung oder RGB-Abbildung). Die Farbabbildung ist insbesondere polychrom. Die Kamera kann optische Elemente (Linsen, Spiegel, Strahlteiler, optische Filter etc.) zum Fokussieren und/oder Vergrößern und/oder zur Strahlführung umfassen.
-
Die Fluoreszenzkamera ist insbesondere als Fluoreszenzbilddetektor ausgebildet, das heißt, die Fluoreszenzkamera ist dazu eingerichtet, Licht im Emissionswellenlängenbereich von mindestens einem Fluoreszenzfarbstoff im Erfassungsbereich räumlich aufgelöst zu erfassen. Die Fluoreszenzkamera erzeugt und stellt insbesondere ein Signal bereit, das eine Intensitätsverteilung des auf die Fluoreszenzkamera einfallenden Lichts darstellt, das heißt, eine Fluoreszenzabbildung. Die Fluoreszenzabbildung kann monochrom sein (z.B. ein Graustufenbild). Grundsätzlich kann die Fluoreszenzabbildung auch polychrom sein. Beispielsweise kann vorgesehen sein, dass Fluoreszenzsignale aus mehreren Emissionswellenlängenbereichen mit einer Fluoreszenzkamera erfasst werden (z.B. ein Fluoreszenzsignal im sichtbaren und ein Fluoreszenzsignal im infraroten Welllängenbereich). Die Fluoreszenzkamera kann optische Elemente (Linsen, Spiegel, Strahlteiler, optische Filter etc.) zum Fokussieren und/oder Vergrößern und/oder zur Strahlführung und/oder zum Filtern umfassen.
-
Beim Überlagern oder beim Mischen kann vorgesehen sein, dass monochrome Bildinformationen in einen polychromen Farbraum bzw. ein polychromes Farbmodell konvertiert werden, wenn beispielsweise eine monochrome Bildinformation mit einer polychromen Bildinformation überlagert bzw. mit dieser gemischt werden soll. Auch polychrome Bildinformationen (z.B. eine polychrome Fluoreszenzabbildung) können durch geeignetes Konvertieren in einen anderen polychromen Farbraum überführt bzw. in diesem gemischt werden.
-
Das Bildsignal kann sowohl analog als auch digital ausgebildet sein. Insbesondere kann das Bildsignal auch in Form eines digitalen Datenpakets bereitgestellt werden, das in einem flüchtigen oder nichtflüchtigen Speicher oder Speichermedium hinterlegt ist und/oder über eine hierfür eingerichtete Schnittstelle ausgegeben wird.
-
Die überlagerte bzw. gemischte Abbildung bzw. das Bildsignal kann auf einer Anzeigeeinrichtung angezeigt werden.
-
Teile des Operationsmikroskops, insbesondere die Steuereinrichtung und/oder die Bearbeitungseinrichtung, können einzeln oder zusammengefasst als eine Kombination von Hardware und Software ausgebildet sein, beispielsweise als Programmcode, der auf einer Recheneinrichtung, insbesondere einem Mikrocontroller oder Mikroprozessor, ausgeführt wird. Es kann jedoch auch vorgesehen sein, dass Teile einzeln oder zusammengefasst als anwendungsspezifische integrierte Schaltung (ASIC) und/oder feldprogrammierbares Gatterfeld (FPGA) und/oder Graphikprozessor (GPU) und/oder Digitaler Signalprozessor (DSP) ausgebildet sind. Die Steuereinrichtung und/oder die Bearbeitungseinrichtung können insbesondere mindestens eine Recheneinrichtung und mindestens einen Speicher umfassen. Ferner weisen die Bauelemente des Operationsmikroskops geeignete Schnittstellen auf, um Signale und/oder Daten miteinander austauschen zu können, beispielsweise über ein hierfür eingerichtetes Bussystem.
-
In einer Ausführungsform ist vorgesehen, dass der mindestens eine Anwendungsparameter zumindest teilweise automatisch erkannt und/oder festgelegt wird und an die Bearbeitungseinrichtung übergeben wird. Hierdurch kann das Bearbeiten der Fluoreszenzabbildung unter Berücksichtigung von mindestens einem automatisch erkannten und/oder festgelegten Anwendungsparameter erfolgen. Hierdurch kann ein Arbeitsfluss verbessert werden, da eine manuelle Eingabe durch einen Nutzer, beispielsweise einen Chirurgen und/oder Hilfspersonal, in dem Umfang nicht mehr notwendig ist, in dem der mindestens eine Anwendungsparameter automatisch erkannt und/oder festgelegt wird. Es kann hierbei aber auch vorgesehen sein, dass der mindestens eine Anwendungsparameter ausgehend von einer Nutzereingabe automatisiert oder halbautomatisiert festgelegt wird.
-
Für das automatisierte Erkennen und/oder Festlegen kann beispielsweise eine geeignete Nachschlagetabelle vorgesehen sein, in der Nutzereingaben und/oder sonstige Parameter, beispielsweise Zustandsparameter des Operationsmikroskops und/oder ein Operationsplan etc., mit dem mindestens einen Anwendungsparameter verknüpft hinterlegt sind. Bei Bedarf wird der mindestens eine Anwendungsparameter dann aus der Nachschlagetabelle abgerufen. Die jeweiligen Kombinationen aus Nutzereingaben und/oder sonstigen Parametern können beispielsweise mit Hilfe von empirischen Versuchen ermittelt werden. Beispielsweise kann vorgesehen sein, dass ein Operationstyp automatisiert erkannt wird, beispielsweise indem erfasste Abbildungen des Erfassungsbereichs ausgewertet werden und Merkmale in der erfassten Abbildung erkannt werden, wie beispielsweise Gefäßsysteme und/oder Strukturen und/oder ein Tumor etc. Ferner kann der mindestens eine Anwendungsparameter auch ausgehend von mindestens einem Zustandsparameter des Operationsmikroskops automatisiert festgelegt werden. Zustandsparameter des Operationsmikroskops können insbesondere Einstellungen des optischen Systems betreffen, wie eine Filterwahl, eine Bestrahlungsstärke, ein Spektrum der verwendeten Beleuchtungsquelle(n), Fokuseinstellungen, Vergrößerungseinstellungen etc. Die jeweiligen Einstellungen können beispielsweise in einer Nachschlagetabelle verknüpft mit dem mindestens einen Anwendungsparameter hinterlegt sein. Bei Bedarf wird der mindestens eine Anwendungsparameter dann aus der Nachschlagetabelle abgerufen. Es kann auch vorgesehen sein, dass der mindestens eine Anwendungsparameter ausgehend von den vorgenannten Parametern mittels eines Verfahrens der Künstlichen Intelligenz geschätzt wird. Beispielsweise kann hierzu ein trainiertes Maschinenlernverfahren, insbesondere ein trainiertes Neuronales Netz, verwendet werden. Das automatisierte Erkennen und/oder Festlegen kann beispielsweise mittels einer hierfür eingerichteten Steuereinrichtung des Operationsmikroskops und/oder mittels der Bearbeitungseinrichtung erfolgen.
-
In einer Ausführungsform ist vorgesehen, dass das Bearbeiten ein Erzeugen eines Detailbildes der Fluoreszenzabbildung umfasst, wobei das Erzeugen des Detailbildes unter Berücksichtigung des mindestens einen Anwendungsparameters erfolgt, und wobei das Überlagern mit der Farbabbildung ausgehend von dem erzeugten Detailbild durchgeführt wird. Hierdurch können Details aus der erfassten Fluoreszenzabbildung extrahiert und beim Überlagern besonders gekennzeichnet und/oder herausgehoben werden. Zum Erzeugen des Detailbildes können insbesondere geeignete Filter, insbesondere zweidimensionale Raumfilter, verwendet werden. Ferner können auch eine Helligkeit und/oder ein Kontrast in der erfassten Fluoreszenzabbildung verändert werden, beispielsweise kann ein Kontrast verstärkt werden, um Details in der Abbildung hervorzuheben, insbesondere Bereiche mit großen Intensitätswerten in der Fluoreszenzabbildung gegenüber kleineren Intensitätswerten hervorzuheben.
-
In einer Ausführungsform ist vorgesehen, dass das Erzeugen des Detailbildes ein Erkennen und Entfernen eines Hintergrundes in der Fluoreszenzabbildung umfasst. Hierdurch kann insbesondere ein gegenüber dem Hintergrund hervortretender Vordergrund in der überlagerten Abbildung verbessert dargestellt werden und eine Bildinformation der Farbabbildung, die mit dem Hintergrund der Fluoreszenzabbildung zusammenfallen würde, verbessert in der überlagerten Abbildung wiedergegeben werden, nämlich ohne den erkannten und entfernten Hintergrund der Fluoreszenzabbildung. Ferner erlaubt das Entfernen des Hintergrunds auch eine verbesserte Falschfarbendarstellung, denn da der Hintergrund verbessert entfernt werden kann, tritt dieser in einer Falschfarbendarstellung weniger stark hervor. Der Hintergrund kann beispielsweise mit Hilfe geeigneter Filter erkannt und entfernt werden. Dies können beispielsweise Glättungsfilter sein, wie beispielsweise ein Gauß-Filter. Eine derart geglättete Fluoreszenzabbildung kann anschließend von der ursprünglichen Fluoreszenzabbildung (bildelementweise) subtrahiert werden. Hierdurch entsteht ein Detailbild mit einem gegenüber der ursprünglichen Fluoreszenzabbildung entfernten Hintergrund.
-
In einer weiteren Ausführungsform ist vorgesehen, dass das Erzeugen des Detailbildes ein Erkennen und/oder Extrahieren von Strukturen in der Fluoreszenzabbildung umfasst, wobei das Erkennen und/oder Extrahieren der Strukturen unter Berücksichtigung des mindestens einen Anwendungsparameters erfolgt. Hierdurch können strukturelle Merkmale in der erfassten Fluoreszenzabbildung gezielt hervorgehoben werden, bevor die Fluoreszenzabbildung mit der Farbabbildung überlagert wird. Dies ermöglicht es insbesondere, anwendungsspezifisch, beispielsweise je nach konkretem Operationstyp, Strukturen in der überlagerten Abbildung hervorzuheben. Es können hierfür insbesondere anwendungsspezifisch, nämlich unter Berücksichtigung bzw. ausgehend von dem mindestens einen Anwendungsparameter, ausgewählte Filter (bzw. Filterfunktionen), insbesondere zweidimensionale räumlicher Filter, ausgewählt werden. Beispielsweise können dies Frequenzfilter und/oder Kantenfilter sein. Ferner können morphologische Filter und/oder Frangi-Filter zum Einsatz kommen. Weiter kann ein lokales Schwellwertverfahren (engl. Thresholding) eingesetzt werden, um Strukturen zu erkennen und/oder zu extrahieren. Beispielsweise können Blutgefäße und ein Blutfluss innerhalb der Blutgefäße aufgrund von deren linienhaften Strukturen und klaren Kanten besonders gut mit einem Top-Hat-Filter hervorgehoben werden. Ein Tumor kann hingegen aufgrund einer größeren Fläche und zum Rand hin auslaufender Strukturen beispielsweise besonders gut mittels Rauschunterdrückung über z.B. einen Median-Filter mit anschließendem Randerkennungsverfahren, z.B. Segmentierung und/oder Thresholding, hervorgehoben werden. Ferner kann auch ein Verfahren der Künstlichen Intelligenz verwendet werden, um die Strukturen in der Fluoreszenzabbildung zu erkennen und/oder zu extrahieren. Beispielsweise kann ein trainiertes Maschinenlernverfahren, insbesondere ein trainiertes (tiefes) Neuronales Netz, beispielsweise ein Faltungsnetz, dazu trainiert sein, ausgehend von der erfassten Fluoreszenzabbildung die Strukturen zu schätzen und eine Abbildung auszugeben, die nur die Strukturen umfasst, oder alternativ die Bildelementkoordinaten zu schätzen, die die Strukturen wiedergeben. Während einer Trainingsphase wird dem Neuronalen Netz hierzu eine Vielzahl von Fluoreszenzabbildungen mit darin enthaltenen Strukturen als Eingangsdaten zugeführt. Für jede der Fluoreszenzabbildungen wird gleichzeitig eine Abbildung bereitgestellt, in der nur die Strukturen wiedergegeben sind, oder alternativ eine Abbildungsinformation, die diejenigen Bildelementbereiche beschreibt, in denen die Strukturen enthalten sind. Das Neuronale Netz wird mit Hilfe dieser paarweise vorhandenen Information trainiert, insbesondere im Wege des überwachten Lernens. Nach der Trainingsphase kann das trainierte Neuronale Netz dann ausgehend von einer Fluoreszenzabbildung die darin enthaltenen Strukturen schätzen und/oder markieren.
-
In einer Ausführungsform ist vorgesehen, dass das Überlagern ein Identifizieren einer Bildelementmenge, die die erkannten Strukturen wiedergibt, und korrespondierend mit der identifizierten Bildelementmenge ein Verändern von mindestens einem Farbkanal in der Farbabbildung umfasst. Hierdurch können die erkannten Strukturen in der überlagerten Abbildung besonders gut hervorgehoben werden. Die Bildelementmenge kann beispielsweise mittels eines Filters identifiziert werden, der insbesondere anwendungsspezifisch auf die Strukturen abgestimmt ist, die herausgehoben werden sollen (z.B. zum Hervorheben von Gefäßen oder von einem Tumor). Mit dieser Bildelementmenge korrespondierende Bildelemente werden anschließend in der Farbabbildung verändert, wobei dies für mindestens einen Farbkanal erfolgt. Beispielsweise kann in einem RGB-Bild der Grünkanal der mit den Bildelementen in der Bildelementmenge korrespondierenden Bildelemente in der Farbabbildung verändert werden. Beispielsweise können die Grünwerte verstärkt werden. In einem anderen Beispiel können die Grünwerte für die Bildelemente der Bildelementmenge durch die Intensitätswerte der Fluoreszenzabbildung festgelegt werden. In gleicher Weise können die Kanäle im LAB-Farbraum ersetzt werden.
-
In einer Ausführungsform ist vorgesehen, dass das Bearbeiten ein Nachbearbeiten des erzeugten Detailbildes umfasst, wobei das Überlagern mit der Farbabbildung ausgehend von dem nachbearbeiteten Detailbild durchgeführt wird. Hierdurch können die Details, insbesondere die Strukturen in dem Detailbild, noch besser hervorgehoben werden. Beispielsweise kann durch Verfahren zur Rauschunterdrückung ein Rauschen im Detailbild reduziert werden. Die Rauschunterdrückung (engl. Denoising) erfolgt hierbei insbesondere anwendungsspezifisch, das heißt, unter Berücksichtigung des mindestens einen Anwendungsparameters. Ferner kann eine Gammakorrektur durchgeführt werden. Weiter kann alternativ oder zusätzlich eine erneute Filterung durchgeführt werden, beispielsweise mittels eines Top-Hat-Filters und/oder mittels einer sonstigen Filterfunktion, um einen lokalen Kontrast (weiter) zu erhöhen.
-
In einer Ausführungsform ist vorgesehen, dass die Farbabbildung mittels der Bearbeitungseinrichtung zum Optimieren der Überlagerung bearbeitet wird, wobei eine Art der Bearbeitung ausgehend von dem mindestens einen Anwendungsparameter festgelegt wird. Insbesondere wird hierbei eine Art der Bearbeitungsschritte und - bei mehreren Bearbeitungsschritten - eine Bearbeitungsreihenfolge ausgehend von dem mindestens einen Anwendungsparameter festgelegt. Hierdurch kann die Farbabbildung ebenfalls für das Überlagern aufbereitet und insbesondere optimiert werden. Zum Einsatz kommen können hierbei insbesondere die bereits im Zusammenhang mit dem Bearbeiten der Fluoreszenzabbildung genannten Verfahren, wie beispielsweise Filter, eine Gammakorrektur und/oder eine Helligkeitsveränderung und/oder eine Kontrastveränderung etc.
-
In einer Ausführungsform ist vorgesehen, dass das Bearbeiten der Farbabbildung ein Erzeugen eines Farbdetailbildes der Farbabbildung umfasst, wobei das Erzeugen des Farbdetailbildes unter Berücksichtigung des mindestens einen Anwendungsparameters erfolgt, und wobei das Überlagern mit der Fluoreszenzabbildung ausgehend von dem erzeugten Farbdetailbild durchgeführt wird. Hierdurch können auch in der Farbabbildung Details verbessert herausgestellt werden.
-
In einer Ausführungsform ist vorgesehen, dass Werte im erzeugten Detailbild oder im nachbearbeiteten Detailbild vor einem Überlagern mittels eines vorgegebenen Verstärkungsfaktors verstärkt werden. Hierdurch kann das Detailbild oder das nachbearbeitete Detailbild in der überlagerten Abbildung stärker herausgestellt werden, sodass die Details im Detailbild, insbesondere erkannte und/oder extrahierte Strukturen, verbessert in der überlagerten Abbildung sichtbar sind.
-
In einer Ausführungsform ist vorgesehen, dass das Bearbeiten unter Berücksichtigung des mindestens einen Anwendungsparameters umfasst: ein Glätten der Fluoreszenzabbildung mittels eines Filters, eine Kontrastverstärkung und/oder einen Helligkeitsausgleich an der geglätteten Fluoreszenzabbildung und ein Zusammenführen des erzeugten Detailbildes oder des nachbearbeiten Detailbildes mit der derart bearbeiteten Fluoreszenzabbildung, wobei das Überlagern mit der Farbabbildung ausgehend von der zusammengeführten Abbildung durchgeführt wird. Hierdurch kann eine besonders informationsreiche und intuitiv zu erfassende Überlagerung erfolgen.
-
Weiterbildend ist in einer Ausführungsform vorgesehen, dass die zusammengeführte Abbildung vor dem Überlagern unter Berücksichtigung des mindestens einen Anwendungsparameters nachbearbeitet wird. Hierdurch können Details in der Fluoreszenzabbildung weiter verbessert in der überlagerten Abbildung hervorgehoben werden. Beispielsweise kann das Nachbearbeiten eine Gammakorrektur umfassen, um noch vorhandenen Hintergrund zu unterdrücken und Details zu verstärken.
-
Es ist vorgesehen, dass die bearbeitete Fluoreszenzabbildung und die Farbabbildung mittels alpha-Blending und/oder Kanalersetzung in einem geeigneten Farbraum überlagert werden. Hierdurch kann insbesondere ein Anteil der jeweiligen Abbildungen in der überlagerten Abbildung festgelegt werden. Das Blending und/oder die Kanalersetzung kann insbesondere auch unter Berücksichtigung des mindestens einen Anwendungsparameters erfolgen. Die Kanalersetzung kann ebenfalls mittels Blending erfolgen. Als Farbräume können beispielsweise RGB, LAB, YUV oder HSV dienen.
-
Es ist vorgesehen, dass ein verwendeter alpha-Wert eine Funktion von Intensitätswerten der Fluoreszenzabbildung und/oder der bearbeiteten Fluoreszenzabbildung und/oder des Detailbildes und/oder des nachbearbeiteten Detailbildes ist. Hierdurch kann eine besonders intuitiv zu erfassende überlagerte Abbildung mit hervorgehobener Fluoreszenzabbildung bereitgestellt werden.
-
In einer Ausführungsform ist vorgesehen, dass das Bearbeiten ein Umwandeln von Intensitätswerten der Fluoreszenzabbildung oder der bearbeiteten Fluoreszenzabbildung oder des Detailbildes oder des nachbearbeiteten Detailbildes in Farbwerte gemäß einer ausgehend von dem mindestens einen Anwendungsparameter vorgegebenen Farbkarte umfasst. Hierdurch können Details in der Fluoreszenzabbildung verbessert sichtbar gemacht werden. Insbesondere kann eine mit der Dichte des verwendeten Fluoreszenzfarbstoffs korrespondierende Intensität in der Fluoreszenzabbildung verbessert dargestellt werden, da die Intensitätswerte gemäß der vorgegebenen Farbkarte in unterschiedliche Farben umgesetzt werden. Das Vermitteln und/oder Erfassen der in der abgebildeten Farbstoffdichte enthaltenen Information an/durch den Chirurgen und/oder Hilfspersonal kann hierdurch verbessert werden. Die Farbkarte kann beispielsweise eine koufonisi-Farbkarte (engl. koufonisi-colormap) sein, welche auf einen Kontrast zu blutigem Gewebe optimiert wurde. Grundsätzlich können aber auch andere Farbkarten verwendet werden.
-
Es kann insbesondere vorgesehen sein, dass die Farbkarte ausgehend von dem mindestens einen Anwendungsparameter ausgewählt und/oder festgelegt wird. Hierbei ist insbesondere vorgesehen, dass die Farbkarte für eine spezifische Anwendung optimiert ist. Beispielsweise kann vorgesehen sein, dass die Farbkarte optimiert ist bezüglich persönlichen Vorlieben und/oder Beschränkungen eines Nutzers (z.B. persönliche Präferenzen hinsichtlich der Farben, Farbenblindheit etc.). Ferner kann die Farbkarte optimiert sein in Bezug auf eine Darstellung von bekannten Verfahren und/oder bekannte (visuelle) Farbverläufe. Die Farbkarte kann weiter auf einen Kontrast zu einem Hintergrund der Farbabbildung optimiert sein, z.B. zur Vermeidung von roten Farben in einem blutigen Operationsumfeld. Die Farbkarte kann auch in Bezug auf eine Informationsdarstellung optimiert sein, z.B. können dem Nutzer bekannte „Heatmap“-Darstellungen von Intensitätsverläufen, insbesondere mit einer angepassten Skalierung für eine intuitive Bewertung der dargestellten Informationen, bereitgestellt werden.
-
Weitere Merkmale zur Ausgestaltung des Operationsmikroskops ergeben sich aus der Beschreibung von Ausgestaltungen des Verfahrens. Die Vorteile des Operationsmikroskops sind hierbei jeweils die gleichen wie bei den Ausgestaltungen des Verfahrens.
-
Nachfolgend wird die Erfindung anhand bevorzugter Ausführungsbeispiele unter Bezugnahme auf die Figuren näher erläutert. Hierbei zeigen:
- 1 eine schematische Darstellung einer Ausführungsform des Operationsmikroskops;
- 2 ein schematisches Ablaufdiagramm zur Verdeutlichung einer Ausführungsform des Verfahrens;
- 3 ein schematisches Ablaufdiagramm zur Verdeutlichung einer weiteren Ausführungsform des Verfahrens;
- 4 ein schematisches Ablaufdiagramm zur Verdeutlichung einer weiteren Ausführungsform des Verfahrens.
-
Die 1 zeigt eine schematische Darstellung einer Ausführungsform des Operationsmikroskops 1. Das Operationsmikroskop 1 umfasst eine Kamera 2, eine Fluoreszenzkamera 3 und eine Bearbeitungseinrichtung 4. Das Operationsmikroskop 1 ist insbesondere dazu eingerichtet, das in dieser Offenbarung beschriebene Verfahren durchzuführen.
-
Die Kamera 2 ist eingerichtet zum Erfassen einer Farbabbildung 10 eines Erfassungsbereichs 20. Die Fluoreszenzkamera 3 ist eingerichtet zum Erfassen einer Fluoreszenzabbildung 11 des Erfassungsbereichs 20. Die Kamera 2 und die Fluoreszenzkamera 3 erfassen den Erfassungsbereich 20 beispielsweise über einen jeweiligen Strahlteiler 7, der in einem Strahlengang des Operationsmikroskops 1 angeordnet ist. Die Kamera 2 und die Fluoreszenzkamera 3 können Teil eines Stereokamerasystems 5 des Operationsmikroskops 1 sein, das an einem Hauptbeobachterstrahlengang des Operationsmikroskops 1 angeordnet ist.
-
Im gezeigten Beispiel ist in dem Erfassungsbereich 20 eine Operationsszene 21 angeordnet, in der ein Fluoreszenzfarbstoff angeregt wird und in einem bekannten Wellenlängenbereich (insbesondere im Nahinfraroten oder Infraroten) Licht emittiert, welches von der Fluoreszenzkamera 3 erfasst wird. Gleichzeitig wird die Operationsszene 21 im Erfassungsbereich 20 als Farbabbildung 10 im sichtbaren Wellenlängenbereich mittels der Kamera 2 erfasst.
-
Die Bearbeitungseinrichtung 4 ist dazu eingerichtet, die Fluoreszenzabbildung 11 zum Optimieren für eine Überlagerung mit der Farbabbildung 10 zu bearbeiten. Die Bearbeitungseinrichtung 4 umfasst hierzu ein Bearbeitungsmodul 4-1. Das Bearbeitungsmodul 4-1 umfasst beispielsweise eine Recheneinrichtung, beispielsweise einen Mikroprozessor oder Digital Signal Processor, und eine Speichereinrichtung, welche hierfür nötige Rechenoperationen an der erfassten Fluoreszenzabbildung 11 durchführen.
-
Es ist hierbei vorgesehen, dass eine Art der Bearbeitung und, sofern mehrere Bearbeitungsschritte vorgesehen sind, insbesondere auch eine Bearbeitungsreihenfolge ausgehend von mindestens einem erhaltenen oder erfassten Anwendungsparameter 30 festgelegt wird. Der mindestens eine Anwendungsparameter 30 kann beispielsweise mittels einer Anzeige- und Bedieneinrichtung 8 des Operationsmikroskops 1 erfasst werden, oder auf andere Weise erhalten und der Bearbeitungseinrichtung 4 zugeführt werden. Die durchzuführende Art der Bearbeitung und die Bearbeitungsreihenfolge können beispielsweise mittels einer hierfür bereitgehaltenen Nachschlagetabelle und/oder mittels eines Verfahrens der Künstlichen Intelligenz ermittelt werden.
-
Ferner ist die Bearbeitungseinrichtung 4 dazu eingerichtet, die Farbabbildung 10 mit der bearbeiteten Fluoreszenzabbildung 11b zu überlagern und ein Bildsignal 13 bereitzustellen, welches die überlagerte kodiert. Die Bearbeitungseinrichtung 4 umfasst hierzu ein Überlagerungsmodul 4-2. Das Überlagerungsmodul 4-2 umfasst beispielsweise eine Recheneinrichtung, beispielsweise einen Mikroprozessor oder Digital Signal Processor, und eine Speichereinrichtung, welche zum Überlagern nötige Rechenoperationen durchführen.
-
Das Operationsmikroskop 1 kann eine Anzeigeeinrichtung 6 umfassen, die Teil einer Anzeige- und Bedieneinrichtung 8 sein kann. Es ist insbesondere vorgesehen, dass die überlagerte bzw. das bereitgestellte Bildsignal 13 auf der Anzeigeeinrichtung 6 ausgegeben, insbesondere angezeigt, wird. Ferner umfasst das Operationsmikroskop 1 insbesondere eine Steuereinrichtung, welche beispielsweise eine Recheneinrichtung und eine Speichereinrichtung aufweist. Die Steuereinrichtung und die Bearbeitungseinrichtung 4 können auch als gemeinsame Einrichtung ausgebildet sein.
-
Die Bearbeitungseinrichtung 4 kann auch dazu eingerichtet sein, die Farbabbildung 10 zum Optimieren für eine Überlagerung zu bearbeiten. Die Bearbeitungseinrichtung 4 umfasst hierzu insbesondere ein weiteres Bearbeitungsmodul 4-3. Das weitere Bearbeitungsmodul 4-3 umfasst beispielsweise eine Recheneinrichtung, beispielsweise einen Mikroprozessor oder Digital Signal Processor, und eine Speichereinrichtung, welche hierfür nötige Rechenoperationen an der erfassten Farbabbildung 10 durchführen. Es ist hierbei ebenfalls vorgesehen, dass eine Art der Bearbeitung und, sofern mehrere Bearbeitungsschritte vorgesehen sind, insbesondere auch eine Bearbeitungsreihenfolge, ausgehend von dem mindestens einen erhaltenen oder erfassten Anwendungsparameter 30 festgelegt wird.
-
Die 2 zeigt ein schematisches Ablaufdiagramm zur Verdeutlichung einer Ausführungsform des Verfahrens. Das Verfahren wird insbesondere mittels eines Operationsmikroskops gemäß der voranstehend beschriebenen Ausführungsform ausgeführt.
-
In einem Verfahrensschritt 100 wird die erfasste Fluoreszenzabbildung 11 mittels der Bearbeitungseinrichtung bearbeitet, wobei dies unter Berücksichtigung des mindestens einen Anwendungsparameters 30 erfolgt.
-
In einem Verfahrensschritt 101 werden die Farbabbildung 10 und die bearbeitete Fluoreszenzabbildung 11b miteinander überlagert bzw. gemischt. Hierzu kann in einem Verfahrensschritt 100a vorgesehen sein, dass eine Konvertierung der bearbeiteten Fluoreszenzabbildung 11b, das heißt, der Intensitätswerte, in einen Farbraum (z.B. RGB oder LAB) erfolgt. Dies erfolgt insbesondere in den Farbraum, in dem auch die Farbabbildung 10 kodiert ist. Es kann in einem Verfahrensschritt 100b vorgesehen sein, dass die erfasste Farbabbildung 10 zum Optimieren der Überlagerung ebenfalls bearbeitet wird, insbesondere unter Berücksichtigung des mindestens einen Anwendungsparameters 30, und die bearbeitete Farbabbildung 10b beim Überlagern verwendet wird. Ferner kann auch das Überlagern in Verfahrensschritt 101 unter Berücksichtigung des mindestens einen Anwendungsparameters 30 erfolgen.
-
Neben einer direkten Vorgabe des mindestens einen Anwendungsparameters 30 durch einen Nutzer, kann vorgesehen sein, dass der mindestens eine Anwendungsparameter 30 zumindest teilweise automatisch erkannt und/oder festgelegt wird und an die Bearbeitungseinrichtung 4 (1) übergeben wird. Dies kann beispielsweise ausgehend von Nutzereingaben, die beispielsweise an einer Anzeige- und Bedieneinrichtung 8 (1) erfasst werden können, und/oder von Zustandsparametern des Operationsmikroskops 1 erfolgen. Beispielsweise kann ein Nutzer, beispielsweise ein Chirurg und/oder Hilfspersonal, eine Art der Operation und/oder eine Art des Fluoreszenzfarbstoffs vorgeben, wobei aus diesen Informationen, beispielsweise anhand einer Nachschlagetabelle und/oder eines Verfahrens der Künstlichen Intelligenz, der mindestens eine Anwendungsparameter festgelegt und/oder geschätzt wird. Ferner können beispielsweise Zustandsparameter des Operationsmikroskops 1 ausgelesen und/oder abgefragt werden, beispielsweise bei der Steuereinrichtung des Operationsmikroskops 1. Ausgehend von dem derart erkannten und/oder festgelegten mindestens einen Anwendungsparameter 30 werden insbesondere eine Art der Bearbeitungsschritte und eine Bearbeitungsreihenfolge der ausgewählt und/oder festgelegt. Dies kann ebenfalls mittels einer Nachschlagetabelle und/oder mittels eines Verfahrens der Künstlichen Intelligenz erfolgen.
-
Die 3 zeigt ein schematisches Ablaufdiagramm zur Verdeutlichung einer weiteren Ausführungsform des Verfahrens. Es ist bei dieser Ausführungsform vorgesehen, dass das Bearbeiten ein Erzeugen eines Detailbildes 11d der Fluoreszenzabbildung 11 umfasst, wobei das Erzeugen des Detailbildes 11 d unter Berücksichtigung des mindestens einen Anwendungsparameters 30 erfolgt, und wobei das Überlagern mit der Farbabbildung 10 ausgehend von dem erzeugten Detailbild 11d durchgeführt wird. Insbesondere erzeugt die Bearbeitungseinrichtung 4 hierzu in einem Verfahrensschritt 100 das Detailbild 11d aus der Fluoreszenzabbildung 11.
-
Es kann insbesondere vorgesehen sein, dass das Erzeugen des Detailbildes 11 d in Verfahrensschritt 100 ein Erkennen und Entfernen eines Hintergrundes 11h in der Fluoreszenzabbildung 11 umfasst.
-
Es kann ferner vorgesehen sein, dass das Erzeugen des Detailbildes 11d in Verfahrensschritt 100 ein Erkennen und/oder Extrahieren von Strukturen in der Fluoreszenzabbildung 11 umfasst, wobei das Erkennen und/oder Extrahieren der Strukturen unter Berücksichtigung des mindestens einen Anwendungsparameters 30 erfolgt. Beispielsweise kann zum Erkennen und/oder Extrahieren der Strukturen eine Filterung mittels eines Filters bzw. einer Filterfunktion, insbesondere eines zweidimensionalen räumlichen Filters, beispielsweise eines morphologischen Filters, eines Frangi-Filters und/oder ein lokales Schwellwertverfahren durchgeführt werden. Alternativ oder zusätzlich können die Strukturen auch mittels eines Verfahrens der Künstlichen Intelligenz erkannt und/oder extrahiert werden.
-
Es kann weiter vorgesehen sein, dass das Überlagern in Verfahrensschritt 101 ein Identifizieren einer Bildelementmenge, die die erkannten Strukturen wiedergibt, und korrespondierend mit der identifizierten Bildelementmenge ein Verändern von mindestens einem Farbkanal in der Farbabbildung 10 umfasst.
-
Es kann vorgesehen sein, dass das Bearbeiten in einem Verfahrensschritt 100c ein Nachbearbeiten des erzeugten Detailbildes 11d umfasst, wobei das Überlagern mit der Farbabbildung 10 in Verfahrensschritt 101 ausgehend von dem nachbearbeiteten Detailbild 11db durchgeführt wird.
-
Es kann vorgesehen sein, dass das Bearbeiten der Farbabbildung 10 in Verfahrensschritt 100b ein Erzeugen eines Farbdetailbildes 10d (bearbeitete Farbabbildung 10b) der Farbabbildung 10 umfasst, wobei das Erzeugen des Farbdetailbildes 10d unter Berücksichtigung des mindestens einen Anwendungsparameters 30 erfolgt, und wobei das Überlagern mit der Fluoreszenzabbildung 11 ausgehend von dem erzeugten Farbdetailbild 10d durchgeführt wird.
-
Es kann vorgesehen sein, dass Werte im erzeugten Detailbild 11d oder im nachbearbeiteten Detailbild 11db vor einem Überlagern in einem Verfahrensschritt 100d (3) mittels eines vorgegebenen Verstärkungsfaktors (>1) verstärkt werden.
-
In der 4 ist ein schematisches Ablaufdiagramm zur Verdeutlichung einer weiteren Ausführungsform des Verfahrens gezeigt. Es ist vorgesehen, dass das Bearbeiten unter Berücksichtigung des mindestens einen Anwendungsparameters 30 die folgenden Verfahrensschritte umfasst:
- - in einem Verfahrensschritt 100e ein Glätten der erfassten Fluoreszenzabbildung 11 mittels eines Filters, beispielsweise mittels eines bilateralen Filters oder Gauß-Filters, sodass eine geglättete Fluoreszenzabbildung 11g erhalten wird;
- - in einem Verfahrensschritt 100f optional eine Kontrastverstärkung und/oder einen Helligkeitsausgleich an der geglätteten Fluoreszenzabbildung 11g, beispielsweise mittels des Contrast Limited Adaptive Histogramm Equalization (CLAHE)-Verfahrens oder des Noise Aware Tone Mapping-Verfahrens, sodass eine geglättete und korrigierte Fluoreszenzabbildung 11gk erhalten wird;
- - in einem Verfahrensschritt 100g wird ein Detailbild 11d der Fluoreszenzabbildung 11 durch Subtraktion der geglätteten Fluoreszenzabbildung 11g von der Fluoreszenzabbildung 11 erhalten, ferner können weitere Bearbeitungen zum Erkennen und/oder Extrahieren von Strukturen ausgeführt werden;
- - in einem Verfahrensschritt 100j erfolgt ein Zusammenführen des erzeugten Detailbildes 11d (oder eines nachbearbeiten Detailbildes 11dv) mit der geglätteten korrigierten Fluoreszenzabbildung 11 gk, wobei das Überlagern mit der Farbabbildung 10 ausgehend von der zusammengeführten durchgeführt wird.
-
Es kann ferner in einem Verfahrensschritt 100h vorgesehen sein, dass eine Rauschunterdrückung an dem Detailbild 11d durchgeführt wird. Die Art der Rauschunterdrückung wird insbesondere unter Berücksichtigung von dem mindestens einen Anwendungsparameter 30 gewählt.
-
In einem Verfahrensschritt 100i kann vorgesehen sein, dass das Detailbild 11d, insbesondere Intensitätswerte von Bildelementen des Detailbildes 11d, mittels eines Verstärkungsfaktors >1 verstärkt wird, sodass ein verstärktes Detailbild 11dv erhalten wird. Das Verstärken erfolgt insbesondere, damit Details, insbesondere erkannte und/oder extrahierte Strukturen, in der überlagerten stärker hervortreten.
-
In einem Verfahrensschritt 100k kann vorgesehen sein, dass die zusammengeführte vor dem Überlagern unter Berücksichtigung des mindestens einen Anwendungsparameters 30 nachbearbeitet wird. Das Nachbearbeiten kann beispielsweise eine Gammakorrektur umfassen, um noch vorhandenen Hintergrund zu unterdrücken und Details weiter zu verstärken.
-
Sämtliche Verfahrensschritte (auch der anderen beschriebenen Ausführungsformen) erfolgen insbesondere unter Berücksichtigung des mindestens einen Anwendungsparameters 30, das heißt, insbesondere wird eine Art der Bearbeitung in den Verfahrensschritten sowie Bearbeitungsparameter etc., ausgehend von dem mindestens einen Anwendungsparameter 30 gewählt und/oder festgelegt. Auch die Bearbeitungsreihenfolge wird ausgehend von dem mindestens einen Anwendungsparameter 30 gewählt und/oder festgelegt.
-
Es wird angemerkt, dass die je nach Kontext insbesondere von dem Begriff bzw. dem Bezugszeichen der bearbeiteten Fluoreszenzabbildung 11b umfasst sind und/oder diese ausbilden. Ferner umfasst der Begriff bearbeitete Farbabbildung 10b insbesondere den Begriff Farbdetailbild 10d.
-
Es ist vorgesehen, dass die Fluoreszenzabbildung 11 und die Farbabbildung 10 mittels alpha-Blending und/oder Kanalersetzung in einem geeigneten Farbraum überlagert werden. Dies erfolgt insbesondere im Verfahrensschritt 101 (2, 3 und 4).
-
Es ist vorgesehen, dass ein verwendeter alpha-Wert eine Funktion von Intensitätswerten der Fluoreszenzabbildung 11 und/oder der bearbeiteten Fluoreszenzabbildung 11b und/oder des Detailbildes 11d und/oder des nachbearbeiteten Detailbildes 11db ist.
-
Es kann vorgesehen sein, dass das Bearbeiten ein Umwandeln von Intensitätswerten der Fluoreszenzabbildung 11 oder der bearbeiteten Fluoreszenzabbildung 11b oder des Detailbildes 11d oder des nachbearbeiteten Detailbildes 11db in Farbwerte gemäß einer ausgehend von dem mindestens einen Anwendungsparameter 30 vorgegebenen Farbkarte umfasst. In den gezeigten Ausführungsformen kann dies beispielsweise im Verfahrensschritt 100a erfolgen. Die Farbkarte kann beispielsweise ausgehend von dem mindestens einen Anwendungsparameter 30 eine Art der Operation und/oder des Fluoreszenzfarbstoffs und/oder eine Nutzerpräferenz berücksichtigen. Beispielsweise kann eine Farbenblindheit des Nutzers mittels einer geeigneten Farbkarte berücksichtigt werden. Ferner können auch visuelle Eindrücke, die mittels bloßem Auge erfassbar sind, mittels der Farbkarte in der überlagerten reproduziert werden, um beispielsweise auf eine bereits vorhandene Erfahrung des Chirurgen und/oder des Hilfspersonals zurückgreifen zu können. Weiter können auch Signale, die (aufgrund einer fehlenden Sensitivität des Auges) nicht mehr visuell erfassbar sind bzw. die sehr subjektiv bewertet werden, sensitiv und objektiv derart dargestellt werden, wie es dem Chirurgen aus Operationen bekannt ist, in denen das Signal ausreichend groß ist. Die Farbkarte kann beispielsweise eine koufonisi-Farbkarte (koufonisi-colormap) sein, welche auf einen Kontrast zu blutigem Gewebe optimiert wurde.
-
Bezugszeichenliste
-
- 1
- Operationsmikroskop
- 2
- Kamera
- 3
- Fluoreszenzkamera
- 4
- Bearbeitungseinrichtung
- 4-1
- Bearbeitungsmodul
- 4-2
- Überlagerungsmodul
- 4-3
- weiteres Bearbeitungsmodul
- 5
- Stereokamerasystem
- 6
- Anzeigeeinrichtung
- 7
- Strahlteiler
- 8
- Anzeige- und Bedieneinrichtung
- 10
- Farbabbildung
- 10b
- bearbeitete Farbabbildung
- 10d
- Farbdetailbild
- 11
- Fluoreszenzabbildung
- 11b
- bearbeitete Fluoreszenzabbildung
- 11d
- Detailbild
- 11db
- nachbearbeitetes Detailbild
- 11dv
- verstärktes Detailbild
- 11g
- geglättete Fluoreszenzabbildung
- 11gk
- geglättete korrigierte Fluoreszenzabbildung
- 11h
- Hintergrund
- 11z
- zusammengeführte Abbildung
- 12
- überlagerte Abbildung
- 13
- Bildsignal
- 20
- Erfassungsbereich
- 21
- Operationsszene
- 30
- Anwendungsparameter
- 100-101
- Verfahrensschritte