-
Die Erfindung betrifft eine Vorrichtung, insbesondere eine medizinische Beobachtungseinrichtung, etwa ein Mikroskop oder ein Endoskop, zur Reduzierung von Unschärfe. Die Vorrichtung kann insbesondere ein Mikroskop oder ein Endoskop sein.
-
Wenn ein zweidimensionales Bild eines dreidimensionalen Gebiets unter Anwendung einer optischen Einrichtung, etwa einer Kamera, aufgezeichnet wird, werden nur jene Objekte scharf abgebildet, die im Fokusbereich liegen. Objekte, die nicht im Fokusgebiet liegen, sind unscharf. Dieser außerhalb des Fokus liegende Beitrag zu dem Bild führt zu Bildfehlern, die standardmäßige Einrichtungen und Verfahren für das Erzeugen von Bildschärfe, etwa durch Dekonvolution, nicht entfernt werden.
-
Es ist daher die Aufgabe, eine Vorrichtung zu schaffen, die den Beitrag von außerhalb des Fokus liegenden Objekten in Bildern entfernen bzw. reduzieren.
-
Erfindungsgemäß wird diese Aufgabe durch die Gegenstände der unabhängigen Ansprüche gelöst.
-
Die Eingangsbilddaten sind vorzugsweise ein N-dimensionales Array I(xi), wobei N eine Ganzzahl größer als 2 ist.
-
Der Term xi ist eine abkürzende Darstellung für ein Tupel {x1; ··· ; xN}, das N Ortswerte enthält, und einen diskreten Ort xi - oder den Ortsvektor zu diesem Ort - in dem Array repräsentiert. Der Ort xi kann durch ein Pixel oder vorzugsweise eine kohärente Menge oder Gruppe von Pixeln in den Eingangsbilddaten repräsentiert sein. Der diskrete Ort xi bezeichnet beispielsweise ein Paar aus diskreten Ortsvariablen {x1 ; x2 } im Falle von zweidimensionalen Eingangsbilddaten und ein Triplett aus diskreten Ortsvariablen {x1 ; x2 ; x3 } im Falle dreidimensionaler Eingangsbilddaten. In der i-ten Dimension kann das Array Mi Orte enthalten, das heißt, xi = {xi,1, ..., xi,M
i }. Insgesamt kann I(xi ) (M1 × ··· × MN ) Elemente enthalten. Da im Folgenden kein Verweis auf einen bestimmten Ort oder eine bestimmte Dimension erfolgt, wird der Ort einfach durch xi bezeichnet.
-
I(x i ) kann ein beliebiger Wert oder eine Kombination aus Werten an dem Ort
xi sein, etwa ein Wert, der eine Intensität einer Farbe oder eines „Kanals“ in einem Farbraum repräsentiert, beispielsweise die Intensität der Farbe
R in dem RGB-Raum, oder eine kombinierte Intensität von mehr als einer Farbe, beispielsweise
im RGB-Farbraum. Eingangsbilder, die durch eine multispektrale oder hyperspektrale Kamera aufgezeichnet worden sind, können mehr als drei Kanäle enthalten.
-
Beispielsweise können zweidimensionale Eingangsbilddaten, die im Dreifarben-RGB-Format verfügbar sind, als drei unabhängige Mengen oder Gruppen aus zweidimensionalen Eingangsbilddaten betrachtet werden I(xi) = (IR(xi); IG(xi); IB(xi )}, wobei IR(xi ) einen Wert wie die Intensität der Farbe R repräsentiert, IG(xi) einen Wert wie die Intensität der Farbe G repräsentiert, und IB(xi) einen Wert wie die Intensität der Farbe B repräsentiert. Alternativ kann jede Farbe so betrachtet werden, dass sie ein separates Eingangsbild und somit separate Eingangsbilddaten bildet.
-
Wenn die Eingangsbilddaten unter Anwendung einer multispektralen Kamera oder einer hyperspektralen Kamera aufgezeichnet worden sind, dann können mehr als drei Kanäle durch die Eingangsbilddaten repräsentiert sein. Jeder Kanal kann ein anderes Spektrum oder einen anderen spektralen Bereich des Lichtspektrums repräsentieren. Beispielsweise können mehr als drei Kanäle verwendet werden, um das Spektrum des sichtbaren Lichts zu repräsentieren.
-
Wenn das Objekt fluoreszierende Materialien enthielt, etwa zumindest ein Fluorophor oder mindestens eine autofluoreszierende Substanz, dann kann jeder Kanal ein anderes fluoreszierendes Spektrum repräsentieren. Wenn beispielsweise mehrere fluoreszierende Fluorophore in den Eingangsbilddaten vorhanden sind, dann kann jedes Fluoreszenzspektrum eines Fluorophors durch einen anderen Kanal der Eingangsbilddaten repräsentiert sein. Es können ferner unterschiedliche Kanäle verwendet werden einerseits für die Fluoreszenz, die selektiv durch Beleuchtung ausgelöst wird, und andererseits für Autofluoreszenz, die als Nebenprodukt oder als ein sekundärer Effekt der ausgelösten Fluoreszenz andererseits erzeugt werden kann. Weitere Kanäle können den NIR-Bereich und den IR-Bereich abdecken. Ein Kanal muss nicht notwendigerweise Intensitätsdaten enthalten, sondern kann andere Arten von Daten repräsentieren, die mit dem Bild des Objektes in Beziehung stehen. Beispielsweise kann ein Kanal Fluoreszenzlebensdauerdaten enthalten, die für die Fluoreszenzlebensdauer nach dem Auslösen an einem speziellen Ort in dem Bild repräsentativ sind. Im Allgemeinen können die Eingangsbilddaten daher die Form annehmen
wobei C die Gesamtzahl an Kanälen in den Eingangsbilddaten ist.
-
Die Vorrichtung gemäß der Erfindung gehen von der Annahme aus, dass im Fokus liegende Anteile eine hohe räumliche Frequenz haben, beispielsweise für Intensitäts- und/oder Farbveränderungen verantwortlich sind, die über eine kurze Distanz in den Eingangsbilddaten auftreten. Bei den außerhalb des Fokus liegenden Anteilen wird angenommen, dass sie eine niedrige räumliche Frequenz haben, also zu überwiegend graduellen Intensitäts- und/oder Farbänderungen führen, die sich über große Bereiche der Eingangsbilddaten erstrecken.
-
Ausgehend von dieser Annahme können die Intensitäts- und/oder Farbänderungen über die Eingangsbilddaten hinweg additiv in einen im Fokus liegenden Anteil mit hoher räumlicher Frequenz
I1(xi) und einen außerhalb des Fokus liegenden Anteil mit niedriger räumlicher Frequenz
I2(xi) wie folgt zerlegt werden:
-
Aufgrund der niedrigen räumlichen Frequenz des außerhalb des Fokus liegenden Anteils I2(xi) kann diese als eine mehr oder weniger glatte Grundlinie betrachtet werden, der die im Fokus liegenden Bestandteile als Objekte mit hoher räumlicher Frequenz überlagert sind. Erfindungsgemäß wird die Grundlinie abgeschätzt unter Anwendung einer Anpassung bzw. eines Fits an die Eingangsbilddaten. Rechentechnisch wird der Fit, das heißt, die Grundlinienschätzung, durch diskrete Grundlinienschätzdaten f(xi ) repräsentiert. Die Grundlinienschätzdaten können auch ein Hyperwürfel-Array mit N Dimensionen und {M1 × ··· × MN ) Elementen sein und können daher die gleiche Dimensionalität wie die Eingangsbilddaten haben.
-
Zur Berechnung der Grundlinienschätzdaten wird ein Fehlerquadrat-Minimierungskriterium angewendet, das für den Fit zu minimieren ist. Die genaue Formulierung des Fehlerquadrat-Minimierungskriteriums bestimmt die Eigenschaften des Fits und somit der Grundlinienschätzdaten. Eine ungeeignete Wahl des Fehlerquadrat-Minimierungskriteriums kann bewirken, dass die Grundlinienschätzung der nicht im Fokus liegende Anteil nicht mit ausreichender Genauigkeit repräsentiert.
-
Um sicherzustellen, dass die Grundlinienschätzdaten eine genaue Darstellung der außerhalb des Fokus liegenden Anteile in den Eingangsbilddaten sind, und um zu vermeiden, dass die Grundlinienschätzdaten an die im Fokus liegenden Anteile angepasst werden, umfasst das Fehlerquadrat-Minimierungskriterium erfindungsgemäß einen Straf- bzw. Nachteilsterm. Der Strafterm wird verwendet, um ein unerwünschtes Verhalten der Grundlinienschätzdaten zu bestrafen, wie etwa das Repräsentieren von Anteilen oder Komponenten der Eingangsbilddaten, die eine hohe räumliche Frequenzen beinhalten und daher als zu dem im Fokus liegenden Anteil der Eingangsbilddaten gehörig zu betrachten sind.
-
Sobald die Grundlinienschätzdaten ermittelt worden sind und somit eine Grundlinienschätzung
f(xi) für
I2(xi) erhalten worden ist, können die unschärfereduzierten Ausgangsbilddaten
O(xi) durch das Subtrahieren der Grundlinienschätzung von den Eingangsbilddaten berechnet werden:
-
Die Ausgangsbilddaten werden vorzugsweise auch durch ein diskretes Array mit Dimension N und M1 × ··· × MN Elementen repräsentiert und haben daher vorzugsweise die gleiche Dimensionalität wie die Eingangsbilddaten und/oder die Grundlinienschätzdaten.
-
Die erfindungsgemäße Lösung unterscheidet sich vom Stand der Technik, beispielsweise der „convoluted background subtraction“ in der BioVoxxel-Werkzeugsammlung. Dort wird ein Hintergrund von einer gefalteten Kopie des Bildes und nicht von dem (ungefalteten) Bild subtrahiert, wie dies in der Erfindung der Fall ist.
-
Die vorhergehende Vorrichtung können verbessert werden, indem ein oder mehrere der Merkmale hinzugefügt werden, die im Folgenden beschriebenen sind. Jedes der folgenden Merkmale kann der Vorrichtung der Erfindung unabhängig von den anderen Merkmalen hinzugefügt werden. Ferner hat jedes Merkmal seine eigene vorteilhafte technische Wirkung, wie nachfolgend erläutert ist.
-
Gemäß einer Ausführungsform kann der Polynom-Fit gleichzeitig in mehreren Dimensionen, abhängig von den Dimensionen der Eingangsbilddaten, ausgeführt werden.
-
In einem speziellen Falle kann der Fit ein Polynom-Fit an die Eingangsbilddaten sein. Insbesondere können die Grundlinienschätzdaten durch ein Polynom der Ordnung K in jeder der N Dimensionen i repräsentiert sein:
wobei a
i,k die Koeffizienten des Polynoms in der i-ten Dimension sind. Für jede Dimension i = 1, ···, N kann ein separates Polynom berechnet werden.
-
Der optimale Wert für die maximale Polynomordnung K hängt von der erforderlichen Glattheit der Grundlinienschätzdaten ab. Für eine glatte Grundlinie muss die Ordnung des Polynoms so klein wie möglich festgelegt werden, wohingegen das Fitten eines äußerst unregelmäßigen Hintergrunds eine höhere Ordnung erfordern kann.
-
Im Falle eines Polynom-Fits können die Grundlinienschätzdaten lediglich aus den Polynomkoeffizienten ai,k bestehen. Jedoch ist unter Umständen ein Polynom-Fit schwer zu steuern und nicht präzise, da der einzige Parameter, der eine Anpassung an die Eingangsbilddaten ermöglicht, die maximale Ordnung des Polynoms ist. Die Polynomordnung kann lediglich ganze Werte annehmen. Es ist daher gegebenenfalls nicht immer möglich, eine optimale Grundlinienschätzung zu finden. Eine nicht optimale Polynomanpassung kann lokale Minima in der Grundlinienschätzung aufweisen, die zu störenden Bildfehlem führen können.
-
Daher ist gemäß einer weiteren vorteilhaften Ausführungsform der Fit an die Eingangsbilddaten ein Spline-Fit, insbesondere ein glättender Spline. Ein Spline-Fit liefert für gewöhnlich zuverlässigere Ergebnisse als ein Polynom-Fit, da er einfacher zu handhaben ist, beispielsweise in Hinblick auf die Glattheit, und er ist robust gegenüber Rauschen und erzeugt weniger Bildfehler. Andererseits ist der Spline-Fit rechentechnisch aufwändiger als der Polynom-Fit, da jeder Pixelwert zum Minimieren des Fehlerquadrat-Minimierungskriteriums variiert werden muss.
-
Gemäß einer Ausführungsform kann das Fehlerquadrat-Minimierungskriterium M(f(
xi )) die folgende Form haben:
wobei C(f(
xi )) eine Kostenfunktion und P(f(
xi )) der Strafterm ist. Das Fehlerquadrat-Minimierungskriterium, die Kostenfunktion und der Strafterm sind vorzugsweise skalare Werte.
-
In einem speziellen Fall repräsentiert die Kostenfunktion die Differenz zwischen den Eingangsbilddaten I(
xi ) und den Grundlinienschätzdaten f(
xi ). Wenn beispielsweise ε(
xi ) den Differenzterm zwischen den Eingangsbilddaten und den Grundlinienschätzdaten in der Form
repräsentiert, dann kann die Kostenfunktion C(f(
xi )) die
L2 -Norm ||
ε(
xi )||
2 umfassen, die hierin als abkürzende Notation der Summe der Werte der Wurzel der mittleren Quadrate über alle Dimensionen der Summe der quadrierten Differenzen zwischen den Eingangsbilddaten und den Grundlinienschätzdaten in der i-ten Dimension verwendet wird, das heißt
-
Die L
2-Norm ||ε(x
i)||
2 ist ein skalarer Wert. Ein Beispiel einer Kostenfunktion ist:
-
Zur Verbesserung der Genauigkeit der Grundlinienschätzung kann es vorteilhaft sein, wenn die Differenz zwischen den Eingangsbilddaten und der Grundlinienschätzung trunkiert bzw. begrenzt wird, beispielsweise durch Verwenden eines trunkierten Differenzterms. Ein trunkierter Differenzterm reduziert die Wirkung von Spitzen in den Eingangsbilddaten auf die Grundlinienschätzdaten. Eine derartige Verringerung ist vorteilhaft, wenn anzunehmen ist, dass der im Fokus liegende Anteil in den Spitzen von I(xi) liegt. Aufgrund des trunkierten Differenzterms werden Spitzenwerte in den Eingangsbilddaten, die von der Grundlinienschätzung um mehr als einen vorbestimmten konstanten Schwellenwert s abweichen, in der Kostenfunktion „ignoriert“, indem ihre Strafe auf den Fit, insbesondere den Spline-Fit, auf den Schwellenwert begrenzt wird. Folglich folgen die Grundlinienschätzdaten derartigen Spitzenwerten lediglich bis zu einem begrenzten Betrag. Der trunkierte quadratische Ausdruck kann symmetrisch oder asymmetrisch sein. Der trunkierte Differenzterm wird im Folgenden als φ(ε(xi )) bezeichnet.
-
In einigen Anwendungen können die im Fokus liegenden Anteile gegebenenfalls nur oder zumindest vorrangig in den Spitzenwerten der Eingangsbilddaten liegen, das heißt, in den hellen Flecken eines Bildes. Dies wird gegebenenfalls dadurch widergegeben, dass ein trunkierter bzw. begrenzter quadratischer Term ausgewählt wird, der asymmetrisch ist und es ermöglicht, dass der Fit, insbesondere der Spline-Fit, den Tälern, aber nicht den Spitzen in den Eingangsbilddaten folgt. Beispielsweise kann der asymmetrische trunkierte quadratische Ausdruck φ(ε(
xi )) von der Form sein
-
Wenn in einer weiteren speziellen Anwendung Täler, das heißt, dunkle Bereiche in den Eingangsbilddaten, ebenfalls als im Fokus liegende Anteile betrachtet werden, dann kann ein symmetrisch trunkierter quadratischer Ausdruck anstelle des asymmetrischen trunkierten quadratischen Ausdrucks verwendet werden. Beispielsweise kann der symmetrische trunkierte quadratische Ausdruck die folgende Form haben:
-
Unter Verwendung einer trunkierten quadratischen Form kann die Kostenfunktion C(f(
xi )) vorzugsweise ausgedrückt werden als
-
Der Strafterm P(f(xi )) in dem Fehlerquadrat-Minimierungskriterium M(f(xi )) kann eine beliebige Form annehmen, die eine Strafe oder einen Nachteil einführt, wenn die Grundlinienschätzung an Daten angepasst wird, die als zu dem im Fokus liegenden Anteil I1(xi) gehörig betrachtet werden. Eine Strafe bzw. ein Nachteil wird dadurch erzeugt, dass der Strafterm im Wert ansteigt, wenn der im Fokus liegende Anteil der Bildeingangsdaten in den Grundlinienschätzdaten repräsentiert ist.
-
Wenn man beispielsweise annimmt, dass der außerhalb des Fokus liegende Anteil I2(xi) eine geringe räumliche Frequenz hat, dann kann der Strafterm ein Term sein, der groß wird, wenn die räumliche Frequenz der Grundlinienschätzung groß wird.
-
Ein derartiger Term kann in einer Ausführungsform ein Rauigkeits-Strafterm sein, der nicht-glatte Grundlinienschätzdaten benachteiligt, die von einer glatten Grundlinie abweichen. Ein derartiger Rauigkeits-Strafterm bestraft wirksam das Anpassen von Daten, die eine hohe räumliche Frequenz haben.
-
Gemäß einem Aspekt kann eine Abweichung von einer glatten Grundlinie zu großen Werten in der ersten Ableitung, das heißt, der Steilheit oder des Gradienten, und/oder der zweiten Ableitung, das heißt, der Krümmung, der Grundlinienschätzdaten führen. Daher kann der Rauigkeits-Strafterm eine erste räumliche Ableitung der Grundlinienschätzdaten, insbesondere das Quadrat und/oder den Absolutwert der ersten räumlichen Ableitung, und/oder eine zweite Ableitung der Grundlinienschätzdaten, insbesondere das Quadrat und/oder den Absolutwert der zweiten räumlichen Ableitung, enthalten. Generell kann der Strafterm eine räumliche Ableitung beliebiger Ordnung der Grundlinienschätzdaten oder Linearkombination räumlicher Ableitungen der Grundlinienschätzdaten enthalten. Es können unterschiedliche Strafterme in unterschiedlichen Dimensionen verwendet werden.
-
Beispielsweise kann der Rauigkeits-Strafterm P(f(
xi )) wie folgt gebildet werden
-
Dieser Rauigkeits-Strafterm bestraft eine große Änderungsrate des Gradienten der Grundlinienschätzung oder äquivalent eine hohe Krümmung und begünstigt somit glatte Schätzungen. Dabei ist γ
j ein Regulierungsparameter und
ist ein diskreter Operator zum Berechnen der zweiten Ableitung in der j-ten Dimension. Im Diskreten kann das Differenzieren effizient unter Anwendung einer Faltung ausgeführt werden. Zum Beispiel,
mit einer Ableitungsmatrix der zweiten Ordnung
-
Der Regulierungsparameter γj hängt von der Struktur des Bildes ab, er repräsentiert grob die räumlichen Längenskalen der Information in den fokussierenden Bilddaten I1(xi). Der Regulierungsparameter kann von einem Benutzer vorbestimmt sein und ist vorzugsweise größer als Null. Die Einheit des Regulierungsparameters wird so gewählt, dass die Straffunktion ein Skalar, das heißt, eine dimensionslose Größe, ist. Typischerweise hat der Regulierungsparameter Werte zwischen 0,3 und 100.
-
Es ist jedoch bevorzugt, dass der Rauigkeits-Strafterm P(f(
xi )) gebildet ist als
-
Dies ist ein Rauigkeits-Strafterm, der große Gradienten in den Grundlinienschätzdaten bestraft. Die Summe über j macht es möglich, unterschiedliche Strafterme in unterschiedlichen Dimensionen zu verwenden. Es sollte beachtet werden, dass die Differenzierung durch Faltung mit einem Ableitungs-Array ∂j ausführbar ist, da xj und f(xi ) beide diskret sind. Der Operator ∂j repräsentiert einen diskreten Ableitungs- oder Gradientenoperator der ersten Ordnung in der Dimension j, der durch ein Array repräsentiert werden kann.
-
Anstelle oder zusätzlich zu einer Ableitung oder einer Linearkombination von Ableitungen der Grundlinienschätzdaten kann der Strafterm einen Eigenschaften extrahierenden, insbesondere linearen, Filter oder eine Linearkombination derartiger Filter enthalten. Eigenschaftsextrahierende Filter sind ein Sobel-Filter, ein Laplace-Filter und/oder ein FIR-Filter, beispielsweise ein räumlicher Hochpass- oder Bandpassfilter mit einem Durchlassband für hohe räumliche Frequenzen.
-
In einer derartigen allgemeinen Formulierung kann der Strafterm für die j-te Dimension generell Operatoren ζ
(j) enthalten und kann ausgedrückt sein als
-
Das Fehlerquadrat-Minimierungskriterium M(f(xi )) kann unter Anwendung bekannter Verfahren minimiert werden. In einem Falle kann ein vorzugsweise iteratives halbquadratisches Minimierungsschema eingesetzt werden. Zum Ausführen des halbquadratischen Minimierungsschemas kann die Grundlinienschätzeinheit eine halbquadratische Minimierungseinheit bzw. halbquadratische Minimierungsverarbeitungseinheit aufweisen. Die halbquadratische Minimierung kann einen Iterationsmechanismus mit zwei Iterationsstufen umfassen.
-
Das halbquadratische Minimierungsschema kann beispielsweise zumindest teilweise den LEGEND-Algorithmus umfassen, der rechentechnisch effizient ist. Der LEGEND-Algorithmus ist beschrieben in Idier, J. (2001): Convex Half-Quadratic Criteria and Interacting Variables for Image Restoration, IEEE Transactions on Image Processing, 10(7), S. 1001-1009, und in Mazet, V., Carteret, C., Bire, D., Idier, J., und Humbert, B. (2005): Background Removal from Spectra by Designing and Minimizing a Non-Quadratic Cost Function, Chemometrics and Intelligent Laboratory Systems, 76, S. 121-133. Beide Artikel wird hiermit in ihrer Gesamtheit durch Bezugnahme mit eingeschlossen.
-
Der LEGEND-Algorithmus führt diskrete Hilfsdaten d(xi) ein, die vorzugsweise von gleicher Dimensionalität wie die Eingangsbilddaten sind. Die Hilfsdaten werden bei jeder Iteration abhängig von den anfänglichen Grundlinienschätzdaten, dem trunkierten quadratischen Term und den Eingangsbilddaten aktualisiert.
-
In dem LEGEND-Algorithmus wird das Fehlerquadrat-Minimierungskriterium, das nur eine Kostenfunktion und keinen Strafterm enthält, unter Verwendung zweier iterativer Schritte minimiert, bis ein Konvergenzkriterium erfüllt ist.
-
Ein geeignetes Konvergenzkriterium kann beispielsweise sein, dass die Summe der Differenzen zwischen den aktuellen Grundlinienschätzdaten und den vorhergehenden Grundlinienschätzdaten über alle Orte xi hinweg kleiner ist als ein vorbestimmter Schwellenwert.
-
In einer weiteren Verbesserung kann das Konvergenzkriterium ausgedrückt werden als
wobei t ein skalarer Konvergenzwert ist, der von dem Benutzer festgelegt werden kann.
-
Als ein Anfangsschritt in dem LEGEND-Algorithmus wird eine anfängliche Gruppe aus Grundlinienschätzdaten definiert.
-
Der LEGEND-Algorithmus kann begonnen werden, indem eine Anfangsgruppe aus Koeffizienten
ak für eine erste Grundlinienschätzung
für jedes der i = 1, ··· ,N Polynome ausgewählt wird, wenn ein Polynom-Fit verwendet wird.
-
Wenn ein Spline-Fit verwendet wird, dann kann die Anfangsbedingung zu Beginn des LEGEND-Algorithmus sein: d(xi ) = 0,f(xi ) = I(xi ) und die Iteration wird mit Eintreten in den zweiten iterativen Schritt gestartet.
-
In dem ersten iterativen Schritt können die Hilfsdaten wie folgt aktualisiert werden:
wobei l = 1 ... L der Index der aktuellen Iteration und α eine Konstante ist, die ausgewählt werden kann. Vorzugsweise ist a näherungsweise, aber nicht gleich 0,5. Ein geeigneter Wert für a ist 0,493.
-
In einem zweiten iterativen Schritt werden die Grundlinienschätzdaten fl(xi) auf der Grundlage der zuvor berechneten Hilfsdaten dl(xi), den Grundlinienschätzdaten fl-1(xi ) aus der vorhergehenden Iteration 1 - 1 und des Strafterms P(xi) aktualisiert.
-
Die Grundlinienschätzdaten fl(xi) können ein halbquadratisches Minimierungskriterium M(f(xi )) minimieren, das für den LEGEND-Algorithmus modifiziert worden ist, indem die Hilfsdaten mit eingeschlossen werden.
-
Insbesondere können die aktualisierten Grundlinienschätzdaten unter Anwendung der folgenden Formel in dem zweiten iterativen LEGEND-Schritt berechnet werden:
-
Hier repräsentiert [||I(xi) - fl-1(xi) + dl(xi)||2 + P(f(xi)] das modifizierte halbquadratische Minimierungskriterium.
-
Der zweite iterative Schritt kann die Grundlinienschätzdaten unter Anwendung der folgenden Matrixberechnung aktualisieren:
-
Dabei ist
ein (M
1 × ... × M
N)
2 dimensionales Array. In dem zweidimensionalen Falle ist A
i ein (M
x - 1)(M
y - 1) × M
xM
y-Array und ist gegeben als
mit
-
Die zwei Iterationsschritte zum Aktualisieren von dl(xi) und fl(xi) werden wiederholt, bis das Konvergenzkriterium erfüllt ist.
-
Gemäß einem äußerst bevorzugten Aspekt der Erfindung wird der zweite Schritt des LEGEND-Algorithmus unter Anwendung einer Faltung anstelle einer Matrixberechnung modifiziert. Dies verringert den rechentechnischen Aufwand erheblich.
-
Insbesondere ist es bevorzugt, die aktualisierten Grundlinienschätzdaten fl(xi) direkt zu berechnen, indem eine Greensche Funktion mit der Summe der Eingangsbilddaten und den aktualisierten Hilfsdaten gefaltet wird.
-
Gemäß einem konkreteren Aspekt der erfindungsgemäßen Lösung kann der zweite iterative Schritt des LEGEND-Algorithmus durch den folgenden iterativen Schritt ersetzt werden, in welchem die aktualisierten Grundlinienschätzdaten
fl(xi) in der l-ten Iteration unter Anwendung einer Greenschen Funktion
G(xi) wie folgt berechnet werden
-
Dieser Schritt verringert den rechentechnischen Aufwand deutlich im Vergleich zu dem herkömmlichen LEGEND-Algorithmus.
-
Der geringere rechentechnische Aufwand ergibt sich aus der Tatsache, dass gemäß dem erfindungsgemäßen zweiten iterativen Schritt eine Faltung berechnet wird. Diese Berechnung kann effizient unter Anwendung eines FFT-Algorithmus ausgeführt werden. Ferner kann aufgrund des FFT-Algorithmus im zweiten iterativen Schritt ein Array-Prozessor, etwa ein Grafikprozessor oder ein FPGA, vollständig ausgenutzt werden. Das rechentechnische Problem wird von (Mx × My)2 auf Mx × My reduziert, wenn die Eingangsbilddaten und alle anderen Arrays zweidimensional sind. Für einen allgemeinen N-dimensionalen Fall wird der rechentechnische Aufwand von Matrixberechnungen der Dimension (M1 × ··· × MN)2 auf die Berechnung einer FFT mit (M1 × ··· × MN) -dimensionalen Arrays reduziert.
-
Somit kann die Unschärfereduzierung sehr rasch ausgeführt werden, für zweidimensionale Eingangsbilddaten vorzugsweise in Echtzeit. Ein (2k × 2k)-Bild kann in 50 ms und weniger unschärfereduziert werden.
-
In einer speziellen Ausführungsform kann die Greensche Funktion die Form haben
wobei F[···] die diskrete N-dimensionale Fourier-Transformation, F
-1[···] die inverse diskrete N-dimensionale Fourier-Transformation, γ
j der Regulierungsparameter des Rauigkeits-Strafterms,
ein diskretes Straf-Array in der i-ten Dimension am Ort m ist und
N die Gesamtanzahl an Dimensionen ist. Der obere Index in D
(j) gibt an, dass es ein anderes Straf-Array für jede Dimension j geben kann.
-
Im Allgemeinen entspricht das diskrete Straf-Array
der diskreten Darstellung der Funktionsableitung
des Strafterms
P(j)(f(xi)), der für die j-te Dimension verwendet wird.
-
Da alle Funktionen durch diskrete Arrays repräsentiert sind, kann das Differenzieren numerisch durch Faltung ausgeführt werden
wobei
das diskrete Array zur Berechnung der Funktionsableitung
ist.
-
Ein großer Vorteil der vorhergehenden Greenschen Funktion besteht darin, dass eine beliebige Form eines Strafterms P(f(xi)) von der schnellen Berechnung des zweiten iterativen Schritts in der halbquadratischen Minimierungseinheit profitieren kann. Somit kann in der Ausführungsform, in der die Greensche Funktion verwendet wird, jedweder Strafterm verwendet werden, der zu einer guten Grundlinienschätzung führt.
-
Für die allgemeine Formel des Strafterms
ist das Array
definiert durch
wobei ζ
(j) ein allgemeiner Operator des Strafterm ist, * die
N-dimensionale Faltung bezeichnet und ∇
f der funktionellen Ableitung erster Ordnung in diskreter Form der Funktion
f(xi,m) entspricht, die beispielsweise die Intensität repräsentieren kann. Diese Gleichung kann mittels des Verfahrens der kleinsten Quadrate bzw. der Fehlerquadrate gelöst werden.
-
Wenn beispielsweise der Strafterm gleich ist
dann kann das Ableitungs-Array in der Faltung ausgedrückt werden wie folgt:
-
Der Bildprozessor, die Grundlinienschätzeinheit, der Bildschärfereduzierungsabschnitt und die halbquadratische Minimierungseinheit können in Hardware, in Software oder als eine Kombination aus Hardware und Software eingerichtet werden. Beispielsweise können der Bildprozessor und/oder die Grundlinienschätzeinheit und/oder der Unschärfereduzierungsabschnitt und/oder die halbquadratische Minimierungseinheit zumindest teilweise als eine Unterroutine, als ein Abschnitt eines Prozessors für Allgemeinzwecke, etwa einer CPU und/oder eines speziellen Prozessors eingerichtet werden, etwa einer CPU, einer GPU, eines FPGA, eines Vektorprozessors und/oder einer ASIC.
-
Zu beachten ist, dass die erfindungsgemäße Unschärfereduzierung beste Ergebnisse liefert, wenn die Eingangsbilddaten I(xi) vor der Unschärfereduzierung weder gefaltet noch entfaltet werden. Die Entfaltung liefert die besten Ergebnisse, wenn die Eingangsdaten I(xi) durch das erfindungsgemäße Unschärfereduzieren vorverarbeitet werden.
-
Anschließend wird die Erfindung ausschließlich exemplarisch anhand einer beispielhaften Ausführungsform beschrieben, die auch in den Zeichnungen gezeigt ist. In den Zeichnungen werden die gleichen Bezugszeichen für Merkmale verwendet, die jeweils in Bezug auf Funktion und/oder Gestaltung einander entsprechen.
-
Die Kombination aus Merkmalen, die in der beigefügten Ausführungsform gezeigt ist, dient lediglich anschaulichen Zwecken und kann modifiziert werden. Beispielsweise kann ein Merkmal der Ausführungsform, das eine technische Wirkung hat, die für eine spezielle Anwendung nicht benötigt wird, weggelassen werden. In ähnlicher Weise kann ein Merkmal, das nicht als Teil der Ausführungsform gezeigt ist, hinzugefügt werden, wenn die technische Wirkung, die mit diesem Merkmal einhergeht, für eine spezielle Anwendung benötigt wird.
- 1 zeigt eine schematische Darstellung einer Vorrichtung gemäß der Erfindung;
- 2 zeigt eine schematische Umsetzung eines Flussdiagramms gemäß der Erfindung;
- 3 zeigt ein Detail der 2;
- 4 zeigt ein Beispiel von Eingangsbilddaten;
- 5 zeigt ein Beispiel von in der Unschärfe reduzierten Ausgangsbilddaten, die aus den Eingangsbilddaten der 4 abgeleitet sind;
- 6 zeigt die Intensitätsverteilung der Eingangsbilddaten, der Grundlinienschätzdaten und der in der Unschärfe reduzierten Ausgangsbilddaten entlang den Linien VI der 4 und 5;
- 7 zeigt ein weiteres Beispiel von Eingangsbilddaten;
- 8 zeigt die Ausgangsbilddaten auf der Grundlage der Eingangsbilddaten der 7;
- 9 zeigt die Ausgangsbilddaten der 8 nach der Entfaltung;
- 10 zeigt die Intensitätsverteilung der Eingangsbilddaten, der Grundlinienschätzdaten und der Ausgangsbilddaten entlang einer Linie X in 7 und 8; und
- 11 zeigt eine schematische Darstellung von Eingangsbilddaten, eines im Fokus liegenden Anteils in den Eingangsbilddaten, eines außerhalb des Fokus liegenden Anteils in den Eingangsbilddaten, der Grundlinienschätzdaten und Ausgangsbilddaten.
-
Zunächst sei der Aufbau der Vorrichtung 1 mit Verweis auf 1 erläutert. Die Vorrichtung 1 ist eine medizinische Beobachtungseinrichtung, etwa ein Endoskop oder ein Mikroskop. Nur zum Zwecke der Erläuterung ist ein Mikroskop 2 als Beispiel einer Vorrichtung 1 gezeigt. Zum Zwecke der Unschärfereduzierungsvorrichtung gibt es keinen Unterschied zwischen Endoskopen und Mikroskopen.
-
Die Vorrichtung 1 kann einen Bilderzeugungsabschnitt 4 aufweisen, der ausgebildet ist, Eingangsbilddaten 6, beispielsweise mittels einer Kamera 8, zu erfassen. Die Kamera 8 kann eine CCD-, eine multispektrale Kamera oder eine hyperspektrale Kamera sein, die die Eingangsbilddaten 6 in mehreren Kanälen 10 aufzeichnet, wobei jeder Kanal 10 vorzugsweise einen anderen Lichtspektrumsbereich aus dem Bereich Infrarot bis Ultraviolett repräsentiert. Die Eingangsbilddaten 6 werden im Folgenden auch als I(xi ) bezeichnet.
-
Im Falle einer CCD-Kamera sind beispielsweise drei Kanäle 10, beispielsweise ein R-Kanal, ein G-Kanal und ein B-Kanal, vorgesehen, um ein Bild eines Objekts 12 im sichtbaren Bereich zu repräsentieren. Im Fall einer multi- oder hyperspektralen Kamera können insgesamt mehr als drei Kanäle 10 im sichtbaren Bereich und/oder im IR-Bereich und/oder im NIR-Bereich und/oder im ultravioletten Bereich verwendet werden.
-
Das Objekt 12 kann einen animierten und/oder nicht animierten Gegenstand umfassen. Das Objekt 12 kann ferner ein oder mehrere fluoreszierende Materialien, etwa mindestens ein Fluorophor 14, aufweisen. Eine multispektrale oder hyperspektrale Kamera kann einen Kanal 10 für jedes unterschiedliche Fluoreszenzspektrum der fluoreszierenden Materialien in dem Objekt 12 aufweisen. Beispielsweise kann jedes Fluorophor 14 durch mindestens einen Kanal 10 repräsentiert sein, der an das Fluoreszenzspektrum angepasst ist, das durch eine Beleuchtung 16 aktiviert wird. Alternativ oder zusätzlich können Kanäle 10 für autofluoreszierende Spektren oder für Spektren aus sekundärer Fluoreszenz vorgesehen sein, die wiederum durch die Fluoreszenz ausgelöst werden, die durch die Beleuchtung 16 angeregt wird, oder die Kanäle können für Lebensdauer-Fluoreszenzdaten vorgesehen sein. Selbstverständlich kann die Beleuchtung 16 auch oder ausschließlich weißes Licht oder eine andere Zusammensetzung aus Licht aussenden, ohne Fluoreszenz in dem Objekt 12 auszulösen. Das Mikroskop 2 kann ausgebildet sein, durch die Beleuchtung 16 Fluoreszenz, beispielsweise von Fluorophoren 14, innerhalb eines Objekts 12 mit Licht anzuregen, das eine geeignete Fluoreszenz-Anregungswellenlänge hat.
-
Das Ausleuchtungslicht kann durch eine Linse oder ein Objektiv 17 geführt werden, durch welche auch die Eingangsbilddaten erfasst werden. Die Beleuchtung bzw. Ausleuchtung 16 kann einen oder mehrere flexible Lichtleiter aufweisen oder aus diesen bestehen, um Licht aus einer oder mehreren unterschiedlichen Richtungen auf das Objekt 12 zu lenken. Ein geeigneter Blockierfilter (nicht gezeigt) kann in dem Lichtweg vor der Kamera 8 angeordnet sein, um beispielsweise hochglänzende Reflexionen zu unterdrücken. Im Falle von Fluoreszenz blockiert ein Blockierfilter vorzugsweise nur die Beleuchtungswellenlänge und lässt es zu, dass das Fluoreszenzlicht der Fluorophore 14 im Objekt 12 zu der Kamera 8 gelangt.
-
Es ist ersichtlich - ohne das Allgemeine zu beschränken - dass die Eingangsbilddaten 6 durch eine beliebige Art von Mikroskop, insbesondere mittels eines Fluoreszenzlichtmikroskops, erfasst werden können, das im Weitfeldmodus betreibbar ist und/oder wobei ein konfokales Laserabtastmikroskop verwendet wird.
-
Die Eingangsbilddaten 6 sind zweidimensional, wenn ein einziger Kanal 10 in einem zweidimensionalen Bild enthalten ist. Das Eingangsbild kann eine höhere Dimension als zwei haben, wenn mehr als ein Kanal 10 vorhanden ist und/oder wenn die Eingangsbilddaten 6 ein dreidimensionales Bild repräsentieren.
-
Dreidimensionale Eingangsbilddaten 6 können von der Vorrichtung 1 aufgezeichnet werden durch beispielsweise Verwenden einer Lichtfeldtechnik, einer z-Stapelung („z-stapling“) in Mikroskopen, von Bildern, die durch ein SCAPE-Mikroskop erhalten werden, und/oder durch eine dreidimensionale Rekonstruktion von Bildern, die aus einem SPIM-Mikroskop erhalten werden. Im Falle eines dreidimensionalen Bildes kann jede Ebene der dreidimensionalen Eingangsbilddaten 6 als ein zweidimensionales Eingangsbild 6 betrachtet werden. Wiederum kann jede Ebene mehrere Kanäle 10 umfassen.
-
Jeder Kanal 10 kann als ein separates zweidimensionales Bild betrachtet werden. Alternativ können mehrere Kanäle zusammen als ein mehrdimensionales Array aufgefasst werden.
-
Die Eingangsbilddaten sind eine digitale Darstellung einer Größe I(xi ), etwa einer Intensität, wobei xi einen Ort in den Eingangsbilddaten 6 repräsentiert und / die Größe an diesem Ort ist. Der Term xi ist eine abkürzende Beschreibung für ein Tupel {x1 ; ··· ; xN } mit N-Dimensionen, das einen diskreten Ort xi in den diskreten Eingangsbilddaten repräsentiert. Ein Ort xi kann ein Pixel oder eine vorzugsweise kohärente Gruppe aus Pixeln in den Eingangsbilddaten sein. Der diskrete Ort xi bezeichnet beispielsweise ein Paar aus diskreten Ortsvariablen {x1 , x2 } im Falle von zweidimensionalen Eingangsbilddaten und ein Triplett aus diskreten Ortsvariablen {x1 ; x2 ; x3 } im Falle von dreidimensionalen Eingangsbilddaten. In der i-ten Dimension kann das Array Mi Orte enthalten, das heißt, xi = {xi,1,...,xi,M
i }. Insgesamt kann I(xi) (M1 × ··· × MN) Elemente enthalten.
-
Die Kamera 8 erzeugt eine Zeitreihe 18 aus aufeinanderfolgenden Mengen oder Gruppen aus Eingangsbilddaten 6.
-
Die Vorrichtung 1 umfasst ferner einen Bildspeicherabschnitt 20, der ausgebildet ist, zumindest temporär die Eingangsbilddaten 6 zu speichern. Der Bildspeicherabschnitt 20 kann einen flüchtigen oder nicht-flüchtigen Speicher, etwa einen Cache-Speicher einer CPU 22 einer Recheneinrichtung 24, etwa eines PC und/oder einer GPU 26, umfassen. Der Bildspeicherabschnitt 20 kann ferner einen RAM, eine Festplatte oder ein austauschbares Speichersystem, etwa einen USB-Stift oder eine SD-Karte, umfassen. Der Bildspeicherabschnitt 20 kann eine Kombination dieser Arten von Speicher umfassen.
-
Zum Erfassen der Bildeingangsdaten 6, beispielsweise aus der Kamera 8, kann ein Bildeingangsabschnitt 28 vorgesehen sein. Der Bildeingangsabschnitt 28 kann standardisierte Verbindungsmittel 30, etwa standardisierte Datenaustauschprotokolle, Hardware-Verbinder und/ oder drahtlose Verbindungen, umfassen. Beispiele von standardisierten Steckverbindern, die mit der Kamera 8 verbunden werden können, sind HDMI-, USB- und RJ45-Steckverbinder.
-
Die Vorrichtung 1 kann ferner einen Bildausgabeabschnitt 32 aufweisen, der standardisierte Verbindungsmittel 34 aufweisen kann, etwa standardisierte Datenaustauschprotokolle, Hardware-Steckverbinder und/oder drahtlose Verbindungen, die jeweils so gestaltet sind, dass sie in unschärfereduzierte Ausgangsbilddaten 36 an eine oder mehrere Anzeigen 37 ausgeben. Die Ausgangsbilddaten 36 haben vorzugsweise die gleiche Dimension wie die Eingangsbilddaten 6 und werden durch ein diskretes Array aus diskreten Werten O(xi ) repräsentiert.
-
Zur Berechnung der unschärfereduzierten Ausgangsbilddaten 36 aus den Eingangsbilddaten 6 kann ein Bildprozessor 38 vorgesehen sein. Der Bildprozessor 38 und seine Bestandteile können zumindest teilweise in Hardware, zumindest teilweise in Software und/oder als eine Kombination von sowohl Hardware und Software vorgesehen sein. Beispielsweise kann der Bildprozessor 38 eine CPU 22 und/oder eine GPU 26 der Recheneinrichtung 24 umfassen, sowie Abschnitte, die in Software codiert worden sind und temporär als strukturelle Einheiten in der CPU 22 und/oder oder der GPU 26 als Funktionszustände existieren. Der Bildprozessor 38 kann ferner zusätzliche Hardware aufweisen, etwa eine oder mehrere ASICs, die speziell gestaltet worden sind, um Operationen auszuführen, die für die Vorrichtung gemäß der Erfindung erforderlich sind.
-
Bevor die weitere Beschreibung der 1 fortgesetzt wird, sei das allgemeine Prinzip der Unschärfereduzierung der Eingangsbilddaten 6 mit Verweis auf 11 erläutert. Für die Unschärfereduzierung der Eingangsbilddaten 6 kann der Bildprozessor 38 einen Bildschärfereduzierungsabschnitt 40 aufweisen.
-
Es wird angenommen, dass sich die Eingangsbilddaten I(xi) additiv aus einem außerhalb des Fokus liegenden Anteil I2(xi) und einem im Fokus liegenden Anteil I1(xi) zusammensetzen. Der im Fokus liegende Anteil I1(xi) enthält ausschließlich die Information aus der Fokus- oder Brennebene der Kamera 8. Der außerhalb des Fokus liegende Anteil I2(xi) ergibt sich aus Licht, das in den Eingangsbilddaten 6 aus Gebieten aufgezeichnet wird, die außerhalb des Fokusgebiets liegen. Der im Fokus liegende Anteil I1(xi) repräsentiert demgegenüber nur Beiträge aus dem Fokusgebiet. Weder I1(xi) noch I2(xi) sind bekannt und müssen daher abgeschätzt werden.
-
Erfindungsgemäß wird angenommen, dass der außerhalb des Fokus liegende Anteil I2(xi) lediglich Bestandteile mit niedriger räumlicher Frequenz aufweist, die etwa eine glatte Grundlinie repräsentieren, über der der im Fokus liegende Anteil I1(xi) mit höherer räumlicher Frequenz fluktuiert. Der außerhalb des Fokus liegende Anteil I2(xi) ist glatt und hat große Längenskalen; der im Fokus liegende Anteil I1(xi) ist dagegen nicht glatt und enthält für gewöhnlich Spitzen.
-
Für die Unschärfereduzierung der Eingangsbilddaten wird eine Schätzung oder ein Schätzwert für den außerhalb des Fokus liegenden Anteil I2(xi) berechnet. Diese Schätzung ist in der Vorrichtung 1 gemäß der Erfindung durch Grundlinienschätzdaten f(xi ) repräsentiert. Die Grundlinienschätzdaten sind ein diskretes Array, das vorzugsweise die gleiche Dimensionalität wie die Eingangsbilddaten 6 und/oder die Ausgangsbilddaten 36 hat. Die Grundlinienschätzdaten f(xi ) werden durch das Bezugszeichen 44 in 1 bezeichnet. Die Grundlinienschätzdaten f(xi ) können auch temporär in dem Speicherabschnitt 20 vorhanden sein. Sobald die Grundlinienschätzdaten berechnet sind, werden die Ausgangsbilddaten, die hier als O(xi ) repräsentiert sind, ermittelt, indem die Grundlinienschätzdaten an jedem Ort von den Eingangsbilddaten subtrahiert werden.
-
Gemäß 1 kann der Bildprozessor 38 eine Grundlinienschätzeinheit bzw. Verarbeitungseinheit 42 aufweisen, die ausgebildet ist, die Grundlinienschätzdaten f(xi ), die in 1 mit Bezugszeichen 44 bezeichnet sind, durch einen Fit bzw. eine Anpassung an zumindest eine Teilmenge der Eingangsbilddaten 6 zu berechnen. Vorzugsweise ist der Fit an die zumindest Teilmenge der Eingangsbilddaten ein Spline-Fit.
-
Für einen rechentechnisch effizienten Spline-Fit kann die Grundlinienschätzeinheit 42 eine halbquadratische Minimierungseinheit 46 aufweisen, die beispielsweise eine Unterroutine oder eine Kombination aus einem festverdrahteten Algorithmus und einer angepassten Software ist. Die halbquadratische Minimierungseinheit 46 kann ausgebildet sein, ein halbquadratisches Minimierungsschema auszuführen, und kann zu ihrem Ende hin zwei Iterationsstufen 48, 50 aufweisen.
-
Erfindungsgemäß verwendet die halbquadratische Minimierungseinheit 46 eine Konvolution bzw. Faltung, um die Grundlinienschätzdaten 44 in der zweiten Iterationsstufe 50 zu berechnen. Da die Faltung effizienter in einem Array-Prozessor unter Anwendung einer FFT berechnet werden kann, ist es bevorzugt, dass der Bildprozessor 38 einen Array-Prozessor, etwa eine GPU 26, beinhaltet. Im Betrieb umfasst der Bildprozessor die halbquadratische Minimierungseinheit 46.
-
Mit Verweis auf 2 werden die Schritte des Berechnens der unschärfereduzierten Ausgangsbilddaten O(xi) oder 36 aus den Eingangsbilddaten I(xi) oder 6 beschrieben, wie sie von der Vorrichtung 1 ausgeführt werden. Es ist zu beachten, dass vorzugsweise jeder Kanal 10 separat behandelt wird.
-
In einem ersten Schritt 60 werden diverse Parameter der Grundlinienschätzeinheit 42, die im Voraus festgelegt werden müssen, von einem Benutzer definiert, beispielsweise unter Anwendung einer graphischen Benutzerschnittstelle 62 (1). Die Parameter können die Art des Fits an die Eingangsbilddaten 6 umfassen, der durch die Grundlinienschätzeinheit 42 auszuführen ist. Beispielsweise kann ein Benutzer zwischen einem Polynom-Fit und einem Spline-Fit der Grundlinienschätzdaten 44 an die Eingangsbilddaten 6 auswählen.
-
Ferner kann der Benutzer zwischen einer Vielzahl von Straftermen bzw. Nachteilstermen P(f(xi )) auswählen, die in dem halbquadratischen Minimierungsschema verwendet werden. Der Strafterm bestimmt die Form der Grundlinienschätzung durch Bestrafung bzw. Beeinträchtigung der Darstellung von Bestandteilen des im Fokus liegenden Anteils I1(xi) in den Grundlinienschätzdaten.
-
Beispielsweise kann dem Benutzer eine Auswahl diverser Strafterme präsentiert werden, die nicht-glatte Eigenschaften der Grundlinienschätzdaten 44 bestrafen. Beispielsweise kann der Strafterm ein räumlicher Hochpass-Frequenzfilter für die Grundlinienschätzdaten 44 sein, der größer wird, wenn die Grundlinienschätzdaten 44 Bestandteile mit hoher räumlicher Frequenz enthalten. Andere Strafterme können einen Gradienten der Grundlinienschätzdaten 44 enthalten. Ein weiteres Beispiel eines Strafterms kann die Krümmung der Grundlinienschätzdaten 44 sein. Femer können eigenschaftsextrahierende Filter, etwa ein Sobel-, ein Laplace- und/oder ein FIR-Bandpassfilter, ein Hochpassfilter oder ein Tiefpassfilter, von dem Benutzer als Strafterm ausgewählt werden. Des Weiteren kann eine Linearkombination einiger oder aller der oben genannten ausgewählt werden. Unterschiedliche Strafterme können für unterschiedliche Dimensionen oder für unterschiedliche Kanäle der Eingangsbilddaten 6 ausgewählt werden.
-
Die allgemeine Darstellung des Strafterms ist wie folgt
wobei ζ
(j) ein allgemeiner Operator des Strafterms ist, der die Eigenschaft des Strafterms definiert.
-
Im Folgenden sei angenommen, dass der Benutzer einen Rauigkeits-Strafterm auf Gradientenbasis auf der Grundlage des Gradienten der Grundlinienschätzdaten
f(xi,m) oder
44 mit der folgenden Form auswählt
-
Dieser Strafterm erzeugt eine Strafe bzw. einen Nachteil für große Gradienten in den Grundlinienschätzdaten. Der Operator ∂j repräsentiert die Ableitung erster Ordnung oder den Gradienten erster Ordnung in der Dimension j.
-
Bei Verwendung des obigen gradientenbasierten Strafterms können die von dem Benutzer anzugebenden Parameter ferner ein Array γj aus Regulierungsparametem umfassen. Für den gradientenbasierten Strafterm kann das Regulierungsparameter-Array zwischen 0,3 und 100 liegen.
-
Wenn ferner ein Parameter für die Grundlinienschätzeinheit ausgewählt wird, kann der Benutzer zwischen einem symmetrischen und einem asymmetrischen quadratischen Term φ(ε(xi )) auswählen, der ebenfalls die Form der Grundlinienschätzung bestimmt, indem die Wirkung großer Spitzenwerte auf die Grundlinienschätzdaten angegeben wird.
-
Schließlich kann der Benutzer ein Konvergenzkriterium und/oder einen Schwellenwert t festlegen, das bzw. der durch das Konvergenzkriterium zu erreichen ist.
-
Beispielsweise kann der Benutzer den folgenden asymmetrischen, trunkierten bzw. begrenzten quadratischen Ausdruck auswählen:
in welchem s einen Schwellwert repräsentiert, der von dem Benutzer einzugeben ist. Der Schwellenwert definiert eine maximale Abweichung zwischen den Eingangsbilddaten und den Grundlinienschätzdaten. Spitzenwerte über der Grundlinienschätzung führen zu keiner Anziehung der Grundlinienschätzung die größer ist als ein Spitzenwert, der von dem Schwellenwert abweicht.
-
Nach dem Festlegen der Anfangsparameter für die Grundlinienschätzeinheit 42 werden die Daten in Schritt 64 für das iterative halbquadratische Minimierungsschema 66 initialisiert.
-
Von da an wird das iterative halbquadratische Minimierungsschema
66 durch die halbquadratische Minimierungseinheit
46 ausgeführt, bis ein Konvergenzkriterium
68 erfüllt ist. In der Ausführungsform wird das folgende Konvergenzkriterium verwendet:
wobei l die aktuelle Iteration angibt und t einen konstanten skalaren Schwellenwert repräsentiert, der anwenderspezifisch sein kann.
-
Wenn das Konvergenzkriterium 68 erfüllt ist, dann wird angenommen, dass die Grundlinienschätzdaten 44 erfolgreich berechnet sind. Daher werden die Grundlinienschätzdaten f(xi ) von den Eingangsbilddaten I(xi ) subtrahiert, um die unschärfereduzierten Ausgangsbilddaten O(xi ) in Schritt 70 zu erhalten.
-
Nach der Berechnung der Ausgangsbilddaten O(xi ) wird eine Nachbearbeitungsoperation 72 an den Ausgangsbilddaten 36, etwa eine Entfaltung bzw. Dekonvolution, ausgeführt.
-
Die Ausgangsbilddaten O(xi ) können mit oder ohne Nachbearbeitung auf der Anzeige 37 angezeigt werden.
-
In 3 ist das Detail III der 2 gezeigt, um das halbquadratische Minimierungsschema 66 detaillierter zu erläutern. Das halbquadratische Minimierungsschema 66 umfasst die erste Iterationsstufe 48 und die zweite Iterationsstufe 50.
-
Prinzipiell wird das halbquadratische Minimierungsschema 66, wie es durch die halbquadratische Minimierungseinheit 46 ausgeführt wird, der LEGEND-Algorithmus sein. Jedoch ist es erfindungsgemäß bevorzugt, dass der zweite Schritt des LEGEND-Algorithmus modifiziert werden kann, um den rechentechnischen Aufwand erheblich zu reduzieren.
-
In der gezeigten Ausführungsform erfolgt der Eintritt in die zweite iterative Stufe
50 nach dem Initialisieren der Daten in Schritt
64. An diesem Punkt wird die erste Schätzung f
l(
xi ) der Grundlinienschätzdaten berechnet, wobei eine Faltung der Eingangsbilddaten mit einer Greenschen Funktion G(
xi ) angewendet wird.
-
Für den gradientenbasierten Strafterm, der in dieser Ausführungsform verwendet wird, ist die Greensche Funktion wie folgt definiert:
wobei F[···] die diskrete N-dimensionale Fourier-Transformation ist, F
-1[···] die inverse diskrete N-dimensionale Fourier-Transformation ist, γ
j der Regulierungsparameter des Rauigkeits-Strafterms ist, und
-
Sodann wird in der ersten Iterationsstufe
48 eine aktualisierte Version von Hilfsdaten d
l(
xi ) unter Anwendung der aktuellen Grundlinienschätzdaten
44 wie folgt berechnet:
-
Der Parameter α ist eine Konstante, die von dem Benutzer gegebenenfalls angegeben worden ist.
-
Als nächstes werden in der zweiten iterativen Stufe
50 die aktualisierten Grundlinienschätzdaten
44 unter Anwendung der aktualisierten Hilfsdaten d
l(
xi ) der aktuellen Iteration l wie folgt berechnet
-
Im nächsten Schritt wird geprüft, ob das Konvergenzkriterium 68 erfüllt ist. Wenn dies nicht der Fall ist, dann geht das halbquadratische Minimierungsschema 66 zum iterativen Schritt 48 weiter, wobei die aktualisierten Grundlinienschätzdaten fi(xi) verwendet werden.
-
Im Folgenden sind zwei Beispiele von unschärfereduzierten Ausgangsbilddaten angegeben, in denen der gradientenbasierte Strafterm zusammen mit dem zweiten iterativen Schritt unter Verwendung der Faltung mit der Greenschen Funktion, wie sie mit Verweis auf 2 und 3 beschrieben ist, verwendet wurde.
-
4 zeigt die Eingangsbilddaten I(xi) oder 6 eines Beispielbildes, 5 zeigt die unschärfereduzierten Ausgangsbilddaten O(xi) oder 36. 4 zeigt ein Bild von Mitochondrien, das mit einem DM6000-Weitfeldmikroskop und einem HCX PL APO CS 100.0x1. 40 OIL mit einer numerischen Apertur von 1,4 und einer Spitzenemission von 645 nm aufgezeichnet wurde. Die Größe eines Pixels entspricht 40 nm.
-
Aus dem Vergleich der 4 und 5 kann man entnehmen, dass ein wesentlicher Teil des außerhalb des Fokus liegenden Anteils I2(xi) in den Ausgangsbilddaten entfernt worden ist. Dies wird durch 6 verifiziert, die die Intensitätsverteilung entlang der Linie VI in 4 und 5 zeigt. Man kann erkennen, dass die Grundlinienschätzdaten f(xi) eine glatte Grundlinie in der Intensitätsverteilung repräsentieren, wohingegen die Spitzen in den Ausgangsbilddaten O(xi ), 36 beibehalten werden.
-
Die Unschärfereduzierung arbeitet auch gut, wenn die Intensitätsverteilung in den Eingangsbilddaten I(xi ) eine andere Charakteristik hat. Dies ist in den 7, 8 und 10 gezeigt, die ein Paramecium zeigen. Während 4 eine einzige perlenartige Struktur enthält, in der es relativ einfach ist, den im Fokus liegenden Anteil von dem außerhalb des Fokus liegenden Anteil zu unterscheiden, enthält 7 eine komplexere Struktur. In 7 entspricht ein Pixel 65 nm. Das Bild wurde unter Anwendung eines DM8-Weitfeldmikroskops mit einer HCX FLUOTAR 100x/1.30 OIL-Linse mit einer numerischen Apertur von 1,3 und einer Spitzenemission bei 520 nm aufgezeichnet.
-
In 7 sind die Eingangsbilddaten I(xi ) gezeigt. In 8 sind die unschärfereduzierten Ausgangsbilddaten O(xi ) gezeigt. In 10 sind die Intensitätsverteilungen der Eingangsbilddaten 6, der Grundlinienschätzdaten 44 und der Ausgangsbilddaten 36 entlang einer Linie X der 7 und 8 angegeben. Wie man erkennen kann, enthalten die Grundlinienschätzdaten f(xi ) ebenfalls Spitzen. Jedoch ist die Längenskala dieser Spitzen deutlich größer als die Intensitätsschwankung in den Ausgangsbilddaten O(xi ).
-
9 zeigt die Ausgangsbilddaten 36 nach der Entfaltung. Da die Ausgangsbilddaten in ihrer Unschärfe reduziert worden sind, hat das Ergebnis der Faltung eine sehr gute Qualität nahezu ohne Bildfehler.
-
Zusammenfassend ist also eine Vorrichtung 1 zum Reduzieren der Unschärfe von Eingangsbilddaten beschrieben. Die Vorrichtung kann einen Strafterm mit einer diskreten Ableitung beliebiger Ordnung der Grundlinienschätzdaten und/oder eigenschaftsextrahierenden Filtern verwenden. Unabhängig davon, ob ein Strafterm verwendet wird oder nicht, kann ein Spline-Fit gegenüber dem Polynom-Fit bevorzugt werden, um eine glatte Grundlinienschätzung zu erzeugen. Als ein dritter unabhängiger Aspekt der Erfindung wird eine halbquadratische Minimierungseinheit bzw. Verarbeitungseinheit 46 vorgeschlagen, die den rechentechnischen Aufwand erheblich reduziert, indem eine Faltung in der zweiten iterativen Stufe 50 eingeführt wird. Die rechentechnische Effizienz bleibt über einen weiten Bereich von Straftermen erhalten.
-
Bezugszeichenliste
-
- 1
- Vorrichtung
- 2
- Mikroskop
- 4
- Bilderzeugungsabschnitt
- 6
- Eingangsbilddaten, I(xi)
- 8
- Kamera
- 10
- Kanal
- 12
- Objekt
- 14
- Fluorophor
- 16
- Beleuchtung bzw. Ausleuchtung
- 17
- Linse
- 18
- Zeitreihe aus Eingangsbilddaten
- 20
- Bildspeicherabschnitt
- 22
- CPU
- 24
- Recheneinrichtung
- 26
- GPU
- 28
- Bildeingangsabschnitt
- 30
- Verbindungsmittel für Bildeingangsabschnitt
- 32
- Bildausgabeabschnitt
- 34
- Verbindungsmittel für Bildausgabeabschnitt
- 36
- Ausgangsbilddaten, O(xi)
- 37
- Anzeige
- 38
- Bildprozessor
- 40
- Bildschärfereduzierungsabschnitt
- 42
- Grundlinienschätzeinheit bzw. Grundlinienschätz-Verarbeitungseinheit
- 44
- Grundlinienschätzdaten, f(xi)
- 46
- halbquadratische Minimierungseinheit bzw. halbquadratische Minimierungs-Verarbeitungseinheit
- 48
- erste Iterationsstufe
- 50
- zweite Iterationsstufe
- 60
- Festlegung von Grundlinienschätzparametern
- 62
- graphische Benutzerschnittstelle
- 64
- Initialisieren der halbquadratischen Minimierungseinheit und des entsprechenden Schemas
- 66
- halbquadratische Minimierungseinheit und halbquadratisches Minimierungsschema
- 68
- Konvergenzkriterium
- 70
- Berechnung von Ausgangsbilddaten
- 72
- Nachbearbeitungsoperation
-
ZITATE ENTHALTEN IN DER BESCHREIBUNG
-
Diese Liste der vom Anmelder aufgeführten Dokumente wurde automatisiert erzeugt und ist ausschließlich zur besseren Information des Lesers aufgenommen. Die Liste ist nicht Bestandteil der deutschen Patent- bzw. Gebrauchsmusteranmeldung. Das DPMA übernimmt keinerlei Haftung für etwaige Fehler oder Auslassungen.
-
Zitierte Nicht-Patentliteratur
-
- Idier, J. (2001): Convex Half-Quadratic Criteria and Interacting Variables for Image Restoration, IEEE Transactions on Image Processing, 10(7), S. 1001-1009 [0044]
- Mazet, V., Carteret, C., Bire, D., Idier, J., und Humbert, B. (2005): Background Removal from Spectra by Designing and Minimizing a Non-Quadratic Cost Function, Chemometrics and Intelligent Laboratory Systems, 76, S. 121-133 [0044]