DE4326487A1 - Adaptives Filter - Google Patents

Description

Die vorliegende Erfindung betrifft ein adaptives Filter zum Approximieren einer Sollwertfunktion F.

Die Erfindung befaßt sich insbesondere mit einem adaptiven Fil­ ter, das in der Lage ist, vorgegebene Sollwertfunktionen zu approximieren, um dadurch komplizierte Funktionen einfacher handhaben zu können, und für weitere Verarbeitungsschritte mit reduzierter Informationsbandbreite zur Verfügung zu stellen. Auch bezieht sich die vorliegende Erfindung auf spezielle Ein­ richtungen und Verfahren, die mittels derartiger adaptiver Fil­ ter ermöglicht werden, wobei derartige Verfahren und Einrich­ tungen in erster Linie im Bereich der Mustererkennung liegen.

Fig. 14 zeigt, wie eine vorgegebene Sollwertfunktion F durch eine bandbreitesparende approximierte Funktion F_app annähe­ rungsweise beschrieben werden kann.

Das Auffinden derartiger angenäherter Lösungen war im Stand der Technik mit großem Rechenaufwand verbunden und die gefundenen Näherungslösungen waren vielfach von ungenügender Genauigkeit.

Dementsprechend ist es insbesondere die Aufgabe der vorliegen­ den Erfindung, eine Vorrichtung anzugeben, die es ermöglicht, eine vorgegebene Sollwertfunktionen in einfacher Weise und trotz starker Bandbreiteeinsparung mit ausreichender Genauig­ keit durch eine andere Funktion anzunähern.

Der vorliegenden Erfindung liegt darüber hinaus die Aufgabe zugrunde, weitere Einrichtungen und Verfahren im Bereich der Mustererkennung anzugeben, die erst aufgrund oben genannter Vorrichtung ermöglicht werden, die darüber hinaus aber noch weitere erfinderische Besonderheiten aufweisen.

Die erstgenannte Aufgabe wird durch die Gegenstände der unab­ hängigen Patentansprüche 1, 2, 3, 4 und 5 gelöst.

Der Vorteil des speziellen adaptiven Filters gemäß Patentan­ spruch 1 liegt in der Fähigkeit dieses Filters, seine einzelnen Elementarfilter so auszurichten, daß mit ihnen eine optimale Beschreibung einer vorgegebenen Sollfunktion F ermöglicht wird. Die durch das Filter aufgefundene approximierte Funktion be­ schreibt eine vorgegebene Sollfunktion F in für die weitere Verarbeitung leicht handhabbarer Weise und mit einer drastisch reduzierten Informationsbandbreite.

Weitere erfindungsgemäße adaptive Filter sind Gegenstände der Ansprüche 2-4.

Das adaptive Filter gemäß Patentanspruch 5 wird zwar hinsicht­ lich der Annäherungsgenauigkeit unter Umständen nicht gleich gute Ergebnisse wie das adaptive Filter gemäß Patentanspruch 1 liefern können, jedoch ist dieses adaptive Filter aufgrund eines geringeren Rechenaufwandes in der Lage, seine Berech­ nungen mit hoher Geschwindigkeit auszuführen und daher insbe­ sondere für Echtzeitanwendungen geeignet.

Die bevorzugte Ausgestaltung gemäß Patentanspruch 6 des adap­ tiven Filters nach Patentanspruch 5, bei der eine Vielzahl von Elementarfiltersätzen vorhanden sind, die jeweils einen Unter­ raum aufspannen, führt zu einer Erhöhung der Annäherungsge­ nauigkeit, wobei der Vorteil der hohen Berechnungsgeschwindig­ keit weiterhin erhalten bleibt.

Die Ausführungsform gemäß Patentanspruch 7 weist den zusätz­ lichen Vorteil auf, daß die Feststellung, welche der Projek­ tionen auf die einzelnen Unterräume bei der Ausführungsform gemäß Patentanspruch 3 die beste Annäherung an die Sollfunktion ist, in besonders eleganter und zeitsparender Weise ausgeführt werden kann.

Bevorzugtermaßen weisen die erfindungsgemäßen adaptiven Filter Elementarfilter auf, deren Charakteristika durch Gauß-, Gabor-, Sigmoid- oder tanh-Funktionen beschrieben werden können. Der­ artige Filtertypen sind mathematisch besonders leicht erfaßbar und handhabbar.

In einer weiteren bevorzugten Ausführungsform der erfindungs­ gemäßen adaptiven Filter sind alle Elementarfilter zueinander linear unabhängig, was den Vorteil eines geringen Rechenauf­ wandes mit sich bringt.

Die anzunähernde Sollfunktion F wird bevorzugterweise sowohl bezüglich des Wertebereichs als auch bezüglich der Auflösung diskret eingelesen, wodurch die digitale Verarbeitung der Er­ gebnisse in üblichen Mikroprozessoren ermöglicht wird. Selbst­ verständlich kommt auch die Verarbeitung einer kontinuierlichen Funktion durch das erfindungsgemäße Filter in Betracht, bei­ spielsweise, wenn die Sollfunktion ein optisches Signal ist.

Für bestimmte Anwendungsfälle kann es vorteilhaft sein, die Parameter der Elementarfilter zumindest nach dem Auffinden der angenäherten Funktion auszugeben, um sie für weitere Verarbei­ tungsschritte nutzbar zu machen.

Weiterhin sieht eine bevorzugte Ausführungsform vor, daß für den Fall einer unvollständig erfaßten Sollwertfunktion die ent­ sprechenden Lücken durch die in der Umgebung der Lücke vorkom­ menden Funktionswerte angenähert und mit zusätzlichem additiven Rauschen beaufschlagt werden. Dadurch werden die fehlenden Funktionswerte mit hoher Wahrscheinlichkeit einigermaßen gut angenähert, so daß die Filtereinstellung von den ursprünglich fehlenden Funktionswerten kaum beeinflußt wird und möglicher­ weise zu denselben Ergebnissen führt, wie sie bei einer voll­ ständig vorgegebenen Sollwertfunktion zu erwarten wären. Dies wäre nicht der Fall, wenn man für die fehlenden Funktionswerte beispielsweise jeweils den Wert 0 ansetzt.

Das für die Minimierung der Differenz zwischen Projektion und Sollwertfunktion verwendete übliche Berechnungsverfahren ist vorzugsweise ein Gradientenabstiegsverfahren (deterministisches Verfahren), das zu einer schnellen Minimierung der Differenz führt.

In einer weiteren bevorzugten Ausführungsform kann die Soll­ funktion F ein optisches Signal sein, also beispielsweise das von einer Fernsehkamera aufzunehmende Bild. Für optische Anwen­ dungen ist das erfindungsgemäße adaptive Filter insbesondere geeignet, da hier große Informationsmengen vorliegen, die für die Übertragung soweit wie möglich reduziert werden müssen. In diesem Zusammenhang ist klar, daß die Sollfunktion auch ein elektrisches Video- bzw. Audio-Signal sein kann.

Für den Fall von Video-Signalen und optischen Signalen können die Elementarfilter optische Filter sein. Schließlich ist bei einer bevorzugten Ausführungsform das adaptive Filter so aus­ gelegt, daß es als approximierte Funktion ein bandbreiteredu­ ziertes HDTV-Signal ausgibt.

Weitere vorteilhafte Ausgestaltungen ergeben sich aus den übri­ gen Unteransprüchen.

Im folgenden wird die Erfindung anhand von Beispielen unter Bezugnahme auf die beiliegenden Zeichnungen näher erläutert. Dabei zeigen im einzelnen:

Fig. 1 ein Blockschaltbild des erfindungsgemäßen Filters,

Fig. 2 und 3 Vektordiagramme zur Erläuterung des der Erfindung zugrundeliegenden mathematischen Prinzips,

Fig. 4 ein Beispiel für verwendbare Elementarfilter,

Fig. 5, 5a bis 12 die stufenweise Annäherung einer Nicht-(XOR)-Funktion durch eine von dem erfindungsgemäßen Filter entwickelte Funktion,

Fig. 13 ein Flußdiagramm der von dem Filter angewandten Rechen­ operation,

Fig. 14 ein allgemeines Beispiel, wie eine Sollfunktion hoher Bandbreite durch eine informationsreduzierte Annähe­ rungsfunktion beschrieben werden kann,

Fig. 15 ein weiteres Flußdiagramm einer von dem Filter anwend­ baren Rechenoperation.

Bekanntermaßen kann ein gegebener Vektor unter Voraussetzung eines orthogonalen Koordinatensystems durch die gerichtete Addition seiner Projektionen auf die einzelnen Achsen des Raumes ausgedrückt werden. Sobald jedoch die den Raum aufspan­ nenden Achsen nicht mehr senkrecht aufeinander stehen, gilt dieser Zusammenhang nicht mehr, wie anhand von Fig. 2 ersicht­ lich ist.

Das zueinander nicht orthogonale Achsenpaar g₀, g₁ spannt einen zweidimensionalen Raum auf, in dem der Vektor A liegt. Addiert man die gerichteten Projektionen A₀, A₁ des Vektors A auf die Achsen g₀, g₁, so resultiert dies in einem anderen Vektor als dem Ausgangsvektor A. Um wieder den Vektor A zu erhalten, ist eine Multiplikation der einzelnen Projektionen mit dem soge­ nannten kontravarianten Metriktensor notwendig, der durch In­ vertierung aus dem kovarienten Metriktensor der Basisvektoren g₀, g₁ gebildet werden kann.

Die Multiplikation der Basisvektoren g₀, g₁ mit dem kontra­ varianten Metriktensor (im folgenden durch das Symbol g^ab ge­ kennzeichnet) führt zu einer Skalierung der ursprünglichen Pro­ jektionen A₀, A₁, wie dies in der Fig. 2 durch die kürzeren Projektionen A⁰, A¹ angedeutet ist. Die gerichtete Addition dieser durch den Metriktensor bewerteten Projektionen führt wiederum zum Ausgangsvektor A.

Mathematisch läßt sich diese Operation wie folgt ausdrücken:

wobei A_a die Projektionen des Vektors A auf die Basisvektoren g_a angibt, die mathematisch durch entsprechende Skalarmultipli­ kation erhalten werden können.

Fig. 3 zeigt wiederum eine Ausgangsfunktion F (Sollwertfunk­ tion) und ein Basisvektorpaar g₀, g₁. Da der dargestellte Raum dreidimensional ist, spannt die Basis g₀, g₁ lediglich einen zweidimensionalen Unterraum darin auf. Die Projektion der Soll­ funktion (Soll-Vektor) F auf diesem Unterraum ist wiederum durch Vektor A dargestellt. Diese Projektion ergibt sich wie oben durch die gerichtete Addition der mit dem kontravarianten Metriktensor der Basisvektoren bewerteten Projektionen der Sollfunktion F auf die beiden Basisvektoren g0, g1. Die beiden bewerteten Projektionen A⁰, A¹ ergeben, wenn sie gerichtet addiert werden, die Projektion A der Funktion F auf dem durch die Basis g0, g1 aufgespannten Unterraum.

Auch in diesem Fall läßt sich die Projektion A formelmäßig durch die Formel 1 erfassen, wenn für die Normalprojektionen A_a die Projektion der Sollfunktion F auf die Basisvektoren (er­ mittelbar mit Hilfe z. B. von Skalarmultiplikationen) verwendet werden.

Die Projektion A weicht um die gestrichelt angedeutete Diffe­ renz D von der Ausgangsfunktion F ab. Formelmäßig läßt sich das durch folgenden Zusammenhang erfassen

wobei A_a wiederum für die Projektionen der Ausgangsfunktion F auf die Basisvektoren g0, g1 steht.

Es sei darauf hingewiesen, daß Formel 2 nur in euklidischen und nicht gekrümmten Räumen anwendbar ist und für andere Räume durch eine entsprechende Abstandsfunktion ersetzt werden muß. Somit lautet Formel 2 allgemein

Die durch die Formel 2 ausgedrückte Abweichung der Projektion A von der Funktion F läßt sich, wenn man für die Basisvektoren g0, g1 sich drehende Vektoren zuläßt, mit bekannten mathe­ matischen Verfahren, beispielsweise dem Gradientenabstiegsver­ fahren minimieren. Dies bedeutet bildlich ausgedrückt, daß sich der durch g0, g1 aufgespannte Unterraum und die darin abgebil­ dete Projektion A in Richtung der Ausgangsfunktion F dreht, bis sie schließlich mit dieser zur Deckung kommt. Während des Hoch­ drehens des Unterraums verändern sich die Darstellungen der Basisvektoren, der aus ihnen zu berechnende kontrovariante Metriktensor und die Projektionen der Funktion F auf die ein­ zelnen Basisvektoren (in Fig. 3 sind jedoch bereits die mit dem Metriktensor bewerteten Projektionen A⁰, A¹ eingetragen).

Die oben erläuterte Berechnung der Projektion A mit Hilfe des Metriktensors betrifft jedoch nur eine spezielle Ausführungs­ form der vorliegenden Erfindung. Im folgenden werden weitere spezielle Ausführungsformen des erfindungsgemäßen adaptiven Filters erläutert, bevor anschließend auf eine allgemeine Be­ schreibung des erfindungsgemäßen adaptiven Filters eingegangen wird, der auf das Grundprinzip dieser vorgestellten Ausfüh­ rungsformen abstrahiert ist und somit stellvertretend für alle weiteren Ausführungsformen des adaptiven Filters steht, welche dem Fachmann nach dem Studium der erläuterten Ausführungsformen ohne weiteres erkennbar sein werden.

Zunächst wird für das weitere Verständnis nochmals Bezug auf Fig. 2 genommen. In Fig. 2 ist nicht nur das Basisvektorpaar g₀, g₁ eingetragen, sondern auch das dazu biorthogonal adjun­ gierte Basenpaar g⁰, g¹. Ersichtlicherweise läßt sich der Vek­ tor A nicht nur durch die gerichtete Addition der bewerteten Projektionen A⁰ und A¹ darstellen, sondern auch durch die zwei weiteren eingezeichneten Vektoren A₀, A₁, entlang der adjun­ gierten Basen g⁰, g¹, deren Normalprojektionen auf das Basen­ paar g₀, g₁ ebenfalls A₀ und A₁ betragen. Bezogen auf die Be­ rechnung der Projektion A in den aufgespannten Unterraum lassen sich diese beiden grundlegenden Möglichkeiten formelmäßig wie folgt darstellen:

Vereinfachend ausgedrückt ist es also möglich, die gesuchte Projektion A als Summe der Multiplikationen der kontravarianten Komponenten Aa mit ihren jeweiligen Basisvektoren g_a auszu­ drücken, wobei die kontravarianten Komponenten in diesem Fall unter Verwendung des Metriktensors g^ab errechnet werden oder durch die Summe der Multiplikationen aus den Normalprojektionen A_a mit ihren jeweiligen biorthogonal adjungierten Basen ga, wobei diese biorthogonal adjungierten Basen, in diesem Fall unter Verwendung des Metriktensors g^ba berechnet werden.

Diese beiden Fälle werden im folgenden als Hauptfall 1 und Hauptfall 2 bezeichnet. Die Zusammenhänge werden später nochmals im Zusammenhang mit Fig. 13 erläutert, wobei auch die entsprechenden Formeln explizit nochmals in Block 132 der Fig. 13 aufgeführt sind.

Die Heranziehung des kontravarianten Metriktensors zur Berech­ nung der Projektion A ist für die vorliegende Erfindung nicht zwingend und stellt demgemäß, wie oben erwähnt, nur eine spe­ zielle Ausführungsform der Erfindung dar. Obwohl die Verwendung des Metriktensors zu einer mathematisch eleganten Berechnungs­ weise der Projektion A führt, haben Berechnungsverfahren für die Projektion A, die ohne den Metriktensor auskommen, den Vor­ teil, daß hierbei die rechnerisch aufwendige Invertierung des kovarianten Metriktensors zur Berechnung des kontravarianten Metriktensors unterbleiben kann. Da die Invertierung des ko­ varianten Metriktensors für jede Verdrehung des Achsenpaares g₀, g₁ erneut berechnet werden muß, führt dies verständlicher­ weise inbesondere bei Tensoren mit vielen Dimensionen zu einem hohen Rechenaufwand. Als Beispiel für ein Berechnungsverfahren für eine weitere bevorzugte Ausführungsform des erfindungsge­ mäßen adaptiven Filters wird daher im folgenden ein Verfahren erläutert, welches ohne das Hilfsmittel des kontravarianten Metriktensors auskommt.

Da sich die Projektion des Vektors A auf den Basisvektor g_a wie folgt ausdrücken läßt:

wobei g_ba den kovarianten Metriktensor angibt, somit gilt:

Somit läßt sich durch Minimierung dieser Abstandsfunktion die noch unbekannte bewertete Projektion A^b auffinden. Mathematisch läßt sich das wie folgt ausdrücken:

Somit läßt sich für alle a schreiben:

wobei A (t) nun eine zeitabhängige Größe oder Satz von Größen angibt, die so zu verändern sind, daß E möglichst klein wird.

Dies kann beispielsweise durch ein klassisches Gradienten­ abstiegsverfahren erreicht werden:
sei für alle σ:

A(t) ändert sich jetzt so lange, bis

gilt oder die "Energie" E unter einem Sollwert liegt. Dies ist der Fall, wenn A^w (t) nahe der ge­ suchten Größe A ist.

Somit läßt sich die Darstellung der Projektion A auch ohne Ver­ wendung des kontravarianten Metriktensors durch Minimierung der Abstandsfunktion auffinden.

Anhand von Fig. 2 läßt sich das Minimierungsverfahren anschau­ lich erläutern. Bekannt sind die Normalprojektionen A₀, A₁ auf das Basenpaar g₀, g₁. Das Minimierungsverfahren erreicht nun, daß beliebige Vektoren A^0′, A^1′, in Richtung der Basisvektoren g₀, g₁ in ihrer Länge so ausgerichtet werden, bis die Normal­ projektionen ihrer gerichteten Addition A′ gleich den Projek­ tionen A₀, A₁ des gesuchten Vektors A auf die Basisvektoren g₀, g₁ sind. Ein Vektor A′, der dieser Bedingung genügt, ist aber gerade der gesuchte Vektor A, so daß damit die Längen der ent­ sprechend veränderten Vektoren A^0′, A^1′, deren gerichtete Addi­ tion den Vektor A′ ausmachen, den gesuchten bewerteten Projek­ toren A⁰, A¹ entsprechen.

Statt von der obigen Gleichung 5 auszugehen, könnte ein ent­ sprechendes Minimierungsverfahren auch von folgender Gleichung ausgehen:

Diese Gleichung läßt sich wie oben durch Differenzieren nach Aⁱ wie folgt minimieren:

Anschaulich gesprochen besteht der Unterschied zwischen einer Minimierung ausgehend von Formel 5 und einer Minimierung aus­ gehend von Formel 8 darin, daß bei Formel 8 eine Minimierung des Abstandes zwischen der Sollfunktion F und der gerichteten Addition der bewerteten Komponenten stattfindet, wohingegen bei dem auf Gleichung 5 aufbauenden Verfahren eine Minimierung des Abstandes zwischen den Normalprojektionen der Sollfunktion F auf die Basisvektoren und den entsprechenden Normalprojektionen des Vektors A′ auf die Basisvektoren durchgeführt wird.

Als weitere Möglichkeit zur Berechnung der Projektion A wird im folgenden ein iteratives Verfahren vorgestellt.

Die Größe Aa wird iterativ berechnet, wobei die Iteration über den Satz von Beispielen geht.

Die Größen Aa werden berechnet, indem der neue Wert aus dem jeweils davor berechneten Wert abgeleitet wird. Der Vorteil des Verfahrens liegt darin, daß man nicht alle Beispiele speichern muß, sondern nach und nach einlesen kann.

Die Gleichungen lauten:

wobei sich der kontravariante Metriktensor beispielsweise wie folgt berechnen läßt:

Daraus ergibt sich:

Die beiden zuletzt erläuterten Berechnungsverfahren sowie das anfänglich vorgestellte Berechnungsverfahren unter Verwendung des Metriktensors sind entsprechend der oben getroffen Fall­ unterscheidung sämtlich dem Hauptfall 1 zuzuordnen, d. h. bei diesem Verfahren werden auf unterschiedlichen Wegen die bewer­ teten Komponenten Aa berechnet.

Im folgenden werden entsprechende Verfahren zum Hauptfall 2 er­ läutert, d. h. in den folgenden Verfahren besteht die Berechnung der jeweils adjungierten Basen im Vordergrund.

Ein dieser Gruppe zurechenbares Verfahren besteht darin, die adjungierten Basen mittels des kontravarianten Metriktensors zu berechnen. Formelmäßig ausgedrückt bedeutet dies:

wobei sich die gesuchte Projektion A auf dieser Formel auf­ bauend wie folgt ausdrücken läßt:

Dieses Verfahren korrespondiert somit zu dem zur ersten Fall­ gruppe gehörigen anfänglich vorgestellten Verfahren, bei dem die bewerteten Komponenten mittels des kontravarianten Metrik­ tensors berechnet werden. Wie bereits oben erwähnt, sind diese zwei korrespondierenden Verfahren nochmals explizit im Block 132 der Fig. 13 aufgeführt.

Ein weiteres Verfahren dieser Fallgruppe, welches ohne den kontravarianten Metriktensor auskommt und somit ohne eine bei jedem Schritt durchzuführende Invertierung des kovarianten Metriktensors auskommt, ist das folgende:

Ausgehend von dem Zusammenhang

führt man zur Berechnung der unbekannten adjungierten Basis­ vektor ga folgende Minimierung aus:

Dafür läßt sich äquivalent fürs alle a schreiben:

wobei g^b(t) nun eine zeitabhängige Größe ist, die es so zu verändern gilt, daß obiges E möglichst klein wird. g^b (t) wird nun so verändert, daß E minimiert wird, was beispielsweise wiederum durch ein klassisches Gradientenabstiegsverfahren erreichbar ist:

ga(t) ändert sich nun so lange, bis dg/dt = 0 oder unter einem Schwellenwert liegt bzw. die Energie kleiner als ein Sollwert ist; ist dies der Fall, so ist die resultierende Größe ga(t) nahe der gesuchten Größe ga, weil dann der Fehler E minimal ist.

Dieses Verfahren korrespondiert somit mit dem zweiten, zur Fallgruppe 1 vorgestellten Verfahren.

Eine weitere, für das obige Verfahren heranzuziehende Fehler­ funktion wäre die folgende:

Diese läßt sich wie oben nach ga minimieren:

Eine weitere Möglichkeit, durch Gradientenabstieg die kontra­ variante Basis zu berechnen, besteht durch Verwendung folgender Grundgleichung:

Als dritte Möglichkeit bietet sich ein iteratives Verfahren an, wie es oben für den ersten Hauptfall beschrieben wurde.

Im folgenden wird nun, wie oben bereits angedeutet, das allen Berechnungsverfahren zugrundeliegende Prinzip erläutert:

Die Projektion der Sollfunktion F auf dem von den Vektoren g_a, g_b aufgespannten Unterraum entspricht der Lösung eines klassischen Problems der linearen Algebra des sog. "Least Squares"-Problems. Alle oben vorgestellten Lösungsansätze sind spezielle Lösungen der folgenden allgemeinen Gleichung:

MX = B (20)

Dabei ist M eine bekannte Matrix, X ein zu suchender Vektor, und B ein bekannter Vektor.

Die Dimension des Vektors X sei kleiner als die Dimension von B und die Matrix M ist entsprechend von der Dimension X mal der Dimension von B.

Das dadurch gebildete Gleichungssystem hat im Regelfall keine exakte Lösung, da die Anzahl der Gleichungen größer ist als die Anzahl der Unbekannten, das System somit überbestimmt ist. Allerdings sind auch Fälle denkbar, bei denen die Dimension von X größer oder gleich der Dimension von B sind. Auch diese sind durch nachfolgendes Verfahren lösbar. Mit Hilfe eines Ver­ fahrens, daß allgemein als "Least Squares"-Verfahren in der Mathematik bekannt ist, läßt sich jedoch auf der Grundlage des kleinsten mathematischen Fehlers eine Lösung finden. Bezogen auf die vorliegende Erfindung entspricht B der Sollfunktion F, M einer Matrix, die aus den kovarianten Basisfunktionen g_a da­ durch gebildet wird, daß man die Basisfunktionen kolonnenweise nebeneinander schreibt und X entspricht dem Vektor der gesuch­ ten kontravarianten bzw. bewerteten Komponenten Aa. Das Matrix-Vektor-Produkt MX läßt sich somit wie folgt ausdrücken:

Dies entspricht der Projektion A auf den Unterraum. Die Pro­ jektion A ist somit die "Least Squares"-Lösung des Gleichungs­ systems.

Aufgrund dieses aufgezeigten allgemeinen Zusammenhangs sei somit nochmals ausdrücklich darauf hingewiesen, daß die vor­ liegende Erfindung nicht auf die Verwendung der oben explizit erwähnten Berechnungsverfahren beschränkt ist, sondern daß die vorliegende Erfindung jegliche Lösungsansätze mit einschließt, die sich mit der Lösung des gemäß der Gleichungen 20 und 21 ausgedrückten Grundproblems befassen. Erläuternd sei darauf hingewiesen, daß sich das zuerst beschriebene Verfahren, welches für die Berechnung den Metriktensor heranzieht, hier als Lösung der sog. Normalgleichungen auf direktem Weg dar­ stellt. Formelmäßig läßt sich dies wie folgt ausdrücken:

M^TMX = M^TB
→ X = (M^TM)^-1 M^TB (22)

Denkbare andere Lösungsansätze, die oben nicht explizit vorge­ stellt wurden, die aber auch als Lösung des allgemeinen Prob­ lems angesehen werden können, sind beispielsweise das sog. "Singular Value Decomposition"-Verfahren, was ein weiteres Ver­ fahren zur Matrix-Inversion darstellt.

Zum leichteren Verständnis der obigen Zusammenhänge seien diese nochmals anhand der Fig. 3 graphisch erläutert.

Der Grundgedanke besteht darin, daß die Projektion A der Soll­ funktion F in den aufgespannten Unterraum sich auf der Grund­ lage der Erkenntnis berechnen läßt, daß die momentan berechnete Projektion A′ nur dann der tatsächlichen Projektion A der Soll­ funktion F auf den Unterraum entspricht, wenn diese momentan berechnete Projektion A′ die gleichen Projektionen auf den auf­ gespannten Unterraum aufweist wie die Sollfunktion F. Mit anderen Worten weist die Sollfunktion F, obwohl sie nicht in dem aufgespannten Unterraum liegt, die gleichen Projektionen auf die Basisvektoren auf wie ihre tatsächliche, im Unterraum liegende Projektion A. Alle oben vorgestellten Verfahren nach Hauptfall 1 machen sich diesen Zusammenhang zunutze, um das eigentlich nicht lösbare Gleichungssystem

dennoch lösen zu können. Die Skalarmultiplikation der Sollfunk­ tion F auf das betrachtete Basenpaar entspricht nur dann der Projektion des linken Terms auf das betrachtete Basenpaar, wenn der linke Term der gesuchten Projektion A entspricht.

Insbesondere bei Verfahren, die ohne Verwendung des kontra­ varianten Metriktensors auskommen, bei denen daher entsprechend der Fallgruppe 1 und 2 bereits die Größen Aa bzw. ga durch Minimierungsverfahren, wie etwa dem Gradientenabstiegsver­ fahren, berechnet werden müssen, bietet sich an, in dem erfin­ dungsgemäßen Filter zwei voneinander unabhängige Berechnungs­ module vorzusehen, die dann ihre berechneten Werte unter­ einander austauschen.

Beispielsweise wäre eine erste Untereinheit 1 für die Berech­ nung der Größen ga bzw. Aa zuständig. Eine weitere Untereinheit 2 wäre dann für die Berechnung der Abweichung der Approximation der Sollfunktion von der Sollfunktion selbst zuständig. Dem Filter würden somit für die Initialisierung anfänglich Zufalls­ werte für die Parameter der Filter g_a eingegeben werden. Daraus würde der Filter dann g_a und A_a berechnen.

Mit diesen Werten würde die Untereinheit 1 die Werte für Aa bzw. ga iterativ oder auf anderem Wege berechnen.

Sobald die entsprechenden Werte berechnet sind, führt die Untereinheit 2 einen oder wenige Schritte zur Minimierung der Abweichung durch. Daraus resultieren wiederum neue Werte für g_a und A_a.

Aufbauend auf diesen Werten berechnet Untereinheit 1 dann wiederum neue Werte für Aa bwz. ga, die wiederum Grundlage für einen oder wenige Schritte der Untereinheit 2 sind.

Dies wird iterativ so lange fortgesetzt, bis die Untereinheit 2 ihrerseits voll konvergiert hat und somit die Approximation an die Sollfunktion optimal gelöst ist.

Untereinheit 2 würde also immer nur einen oder wenige Schritte durchführen, während Untereinheit 1 stets vollständig konver­ giert.

Das Verfahren kann natürlich auch mit Hilfe gekoppelter Diffe­ rentialgleichungen durchgeführt werden, wobei dann die Zeit­ konstanten der Untereinheit 2 entsprechend höher liegen würden als die der Untereinheit 1, damit letztere schneller rechnen kann.

Verläßt man nun den anschaulichen, in Fig. 3 gezeigten Vektor­ raum und spannt den Unterraum im Funktionenraum durch ein Paar zueinander verschobener Gaußfilter, wie sie in Fig. 4 gezeigt sind, auf, so läßt sich das oben angesprochene Drehen der den Unterraum aufspannenden Basis leichter verstehen.

Die in Fig. 4 gezeigten Gaußkurven 1, 2 können als Filterfunk­ tionen über die Zeit oder den Ort aufgefaßt werden. Statt der Gaußkurven kommt jeder andere Kurvenverlauf in Frage, insbeson­ dere auch sogenannte Gaborfunktionen. Auch können die in Fig. 4 gezeigten Filter 1, 2 mehrdimensional sein, also beispielsweise zwei "Hügel" über einem zweidimensionalen Feld.

Auch durch die Filter 1, 2 kann im Funktionenraum ein Unterraum aufgespannt werden, da die Filter aufgrund der Verschiebung zueinander linear unabhängig sind. Werden diese Filter diskret angenommen, so können sie durch einen in seiner Dimension mit der Auflösung übereinstimmenden Vektor dargestellt werden. Geht die Auflösung gegen unendlich, so kann der entsprechende Vektor eine unendliche Dimension annehmen, was einer analogen Filter­ funktion entspricht.

Weitere bevorzugte, im Rahmen der folgenden Erfindung zu ver­ wendende Elementarfunktionen werden weiter unten behandelt.

Stellt nun eine anzunähernde Sollfunktion F beispielsweise ein "Gebirge" über einer Ebene dar, so ist das erfindungsgemäße adaptive Filter durch Verwendung zweidimensionaler Gaußfilter in der Lage, das Gebirge nachzubilden. Dies geschieht, indem die Gaußfilter an die Orte der Erhebungen des Gebirges ge­ schoben werden und dort entsprechend dem Gebirgsverlauf durch Parameterveränderung (z. B. Standardabweichung) spitzer oder stumpfer gemacht und entsprechend gestreckt werden. Ein der­ artiger Gebirgsverlauf kann beispielsweise durch tausend Elementar-Gaußfilter, die entsprechend verschoben und geformt werden, nachgebildet werden. Für eine einfache Gebirgsform können auch bereits einige wenige Elementarfilter, unter Um­ ständen sogar ein einziger, ausreichen, um das Wesen der Aus­ gangsfunktion in einer der Weiterverarbeitung genügenden Weise nachzubilden. Ist das Gebirge einmal durch die eingestellten Elementarfilter beschrieben, so ist der Informationsgehalt der ursprünglichen Funktion drastisch bis auf einige wenige Filter­ parameter reduziert.

Bei diesem Beispiel entspricht das Verschieben und Formen der zweidimensionalen Gaußfilter dem im Zusammenhang mit Fig. 3 be­ zeichneten Drehen des Untervektorraums in Richtung der Aus­ gangsfunktion F. Bei dem in Formel 2 angegebenen Zusammenhang repräsentiert g_a die zweidimensionalen gaußförmigen Elementar­ filter. Sowohl die Projektionen der Ausgangsfunktion F (Gebirge!) auf die Elementarfilter A_a, als auch die Elementar­ filter selbst und der aus ihnen gebildete kontravariante Metriktensor sind von den die Elementarfilter beschreibenden Parametern abhängig und ändern sich mit einer Verschiebung, Drehung oder Formänderung der Elementarfilter ständig mit. Die Differenz D kann, wie oben bereits erwähnt wurde, mittels her­ kömmlicher Berechnungsmethoden, die deterministischer Natur (Gradientenabstiegsverfahren) oder auch stochastischer Natur ("simulated annealing", "Monte Carlo") sein können, minimiert werden, so daß sich nach erfolgter Minimierung die optimale Annäherung der Ausgangsfunktion über eine Beschreibung durch die eingestellten Elementarfilter ergibt.

Diese Minimierung läuft selbständig ab, so daß der erfindungs­ gemäße adaptive Filter selbständig in die beste Annäherung kon­ vergiert.

Dem erfindungsgemäßen adaptiven Filter wird also eine Sollfunk­ tion eingegeben, die er dann aufgrund seiner Filterstruktur automatisch durch eine mit Elementarfiltern beschreibbare Funk­ tion optimal annähert und ausgeben kann. Die angenäherte Funk­ tion ist, wie erwähnt, in hohem Maße in der Bandbreite redu­ ziert, wodurch sich vielfältige Anwendungsmöglichkeiten er­ geben, auf die im folgenden noch näher eingegangen wird.

Eine Ausführungsform des erfindungsgemaßen Filters ist in Fig. 1 schematisch dargestellt. Der Filter 1 liest in seinen Speicher 2 eine nachzubildende Funktion F ein. Weiter weist der Filter 1 einen Speicher 3 auf, in dem zumindest ein Satz von Elementarfiltern abgelegt ist, die für die Annäherung verwendet werden. Dadurch ist eine CPU 4 in der Lage, die Normalprojek­ tionen der Funktion F auf die Elementarfilter zu berechnen (Skalarmultiplikation), und die Berechnung des kontravarianten Metriktensors von den Elementarfiltern durchzuführen, so daß jeweils die Differenz D gemäß Formel 2 in Abhängigkeit der Fil­ terparameter (Mittelwert, Standardabweichung, etc.) darstellbar ist, welche dann mittels eines programmierten Minimierungs­ algorithmus minimiert werden kann. Nach erfolgter Minimierung gibt das adaptive Filter die angenäherte, informationsredu­ zierte Funktion F_app aus, die für die weitere Verarbeitung ver­ wendet wird. Die approximierte Funktion entspricht in der Formel 2 dem Substrahenten nach erfolgter Minimierung.

Das Filter 1 hat damit eine übliche Filterungsfunktion selb­ ständig bewerkstelligen können, nämlich gewünschte wesentliche Komponenten aus einem Eingangssignal zu extrahieren. In einem weiteren Speicher 5 kann das Filter 1 die aufgefundene Approxi­ mation abspeichern, wobei die abgespeicherten Funktionswerte in Antwort auf eine weiteres Eingangssignal (beispielsweise Orts­ koordinaten X, Y) werteweise ausgegeben werden können.

Selbstverständlich kann das Filter 1 auch eine Vielzahl von Sollfunktionen F annähern und im Speicher 5 abspeichern. Da­ durch wird es dem adaptiven Filter möglich, eine neu hinzu­ kommende Sollfunktion nach deren Approximation mit bereits ge­ speicherten Approximationsfunktionen zu vergleichen (was wiederum mit üblichen mathematischen Verfahren möglich ist), um dann aus den abgespeicherten approximierten Funktionen die­ jenige herauszusuchen, die am besten mit der neu hinzugekom­ menen und approximierten Funktion korreliert. Auf diese Weise ist eine Mustererkennung möglich. Gegenüber bisherigen Mustererkennungsverfahren weist eine Mustererkennung unter Ver­ wendung des erfindungsgemäßen adaptiven Filters den Vorteil auf, daß sie wesentlich schneller durchführbar ist und dabei geringe Anforderungen an die zu klassifizierenden Funktionen ge­ stellt werden müssen, was im folgenden noch näher erläutert wird.

Vorzugsweise stellt die CPU 4 die aufgefundenen Filterparameter an einem eigenen Ausgang zur Verfügung, da diese Parameter die wesentlichen Klassifikationsmerkmale einer approximierten Funk­ tion darstellen.

Die Fig. 5, 5a-12 zeigen eine Computersimulation der Be­ rechnung einer Annäherungsfunktion durch das adaptive Filter an die in Fig. 5 gezeigte NICHT(XOR)-Funktion, die, wie in Fig. 5a gezeigt ist, zusätzlich mit adaptivem Rauschen beaufschlagt wurde. Nach einer Anzahl von Berechnungsschritten, die in den Fig. 6 bis 11 gezeigt sind, findet das Filter automatisch die in Fig. 12 gezeigte Näherungsfunktion.

Obwohl in Fig. 3 die Drehung des Unterraumes nur hinsichtlich einer Dimension erfolgte, ist klar, daß die Elementarfilter eine Drehung in beliebig viele Dimensionen automatisch aus­ führen können, wobei dann selbstverständlich die Berechnungs­ methoden der Minimierung umfangreicher, jedoch nicht unlösbar werden.

Die Minimierung der durch Formel 2 ausgedrückten Differenz D zwischen Sollfunktion und momentan angenäherter Funktion, aus­ gedrückt durch die veränderbaren Filterparameter, die in dem oben erwähnten Beispiel zu einer Ausrichtung der Filter ent­ sprechend der "Gebirgs"-Form führte und beispielsweise mit Hilfe des Gradientenaufstiegsverfahrens gelöst werden kann, läßt sich anschaulich so auffassen, als ob Kräfte auf die Filter wirken, die diese in die entsprechende Position und Formgebung zwingen. Das System ist also stets bestrebt, den Punkt der geringsten Energie zu erreichen, der einer optimalen Filterausrichtung entspricht.

Die Fig. 13 gibt nochmals die wichtigsten der oben beschrie­ benen Zusammenhänge in Form eines Flußdiagrammes wieder.

Bei 130 wird dem adaptiven Filter ein Eingangsraum bzw. eine zu approximierende Funktion F eingegeben. Diese Funktion wird durch die im Block 131 vorhandene Filterbank, bestehend aus Elementarfilterfunktionen wie beispielsweise Gaborfiltern, "Wavelets", "Splines", Gaußfiltern oder Polynomen, die jeweils parametrisch oder nicht-parametrisch, orthogonal oder nicht orthogonal sein können, auf die entsprechenden Elementarfilter projiziert. Die dadurch enthaltenen Normalprojektionen A_g werden an den Block 132 weitergegeben. Ebenso werden die Elementarfilterfunktionen an diesen Block weitergegeben.

Im Block 132 werden die kontravarianten Komponenten entsprechend der angegebenen Formel berechnet. Dazu wird der kontravariante Metriktensor dem Block 132 zugeführt, der seinerseits aus dem kovarianten Metriktensor mit Hilfe üblicher Berechnungsver­ fahren, beispielsweise dem Gradientenabstiegsverfahren oder dem Jakobiverfahren, berechnet wurde.

Die Multiplikation der kontravarianten Komponenten mit ihrem entsprechenden Elementarfilter (Basisvektor) führt zu den "ge­ richteten" kontravarianten Komponenten, die zusammen die Pro­ jektion A gemäß einer der beiden Formeln der letzten Zeile des Blocks 132 ergeben. Diese Darstellung der Projektion der Soll­ funktion auf den aufgespannten Unterraum wird an den Block 134 weitergegeben, bei dem die Differenz der Projektion gegenüber der Sollfunktion mittels eines Energieminimierungsverfahrens verkleinert wird. Die dadurch bewirkte Verdrehung der Elemen­ tarfilter wird an den Block 131 weitergeleitet, wo erneut die Normalprojektionen der Funktion F in den gedrehten Unterraum berechnet werden und auch die darauffolgenden Schritte erneut ausgeführt werden. Nach einer bestimmten Anzahl von Berech­ nungen ist eine energetische Minimierung erreicht und die letztlich aufgefundene Projektion A entspricht der approxi­ mierten Funktion und kann vom adaptiven Filter ausgegeben werden.

Eine spezielle Ausführungsform der vorliegenden Erfindung sieht vor, daß bereits die erste Projektion auf den Unterraum als die approximierte Funktion angenommen wird, wodurch sich die Be­ rechnung selbstverständlich wesentlich verkürzt. Ein derartiges Filter kann unter Umständen in sehr kurzen Berechnungszeiten ausreichend gute Ergebnisse liefern. Genauer wird ein der­ artiges Filter, wenn nicht nur ein Satz Elementarfilter, auf­ spannend einen ersten Unterraum, verwendet wird, sondern weitere Sätze verwendet werden, die weitere Unterräume auf­ spannen. In diesem Fall können die Projektionen der Sollfunk­ tionen auf jeden der aufgespannten Unterräume berechnet werden und anschließend diejenige Projektion als approximierte Funk­ tion verwendet werden, deren Differenz zur Ausgangsfunktion F minimal ist. Für die Berechnung der Differenz wird dabei vor­ zugsweise wiederum der Zusammenhang gemäß Formel 2 (bzw. 2′) verwendet. Auch ein derartiges Filter ist selbstverständlich äußerst schnell und insbesondere für Echtzeitanwendung ge­ eignet.

In Fig. 15 sind nochmals die wichtigsten Zusammenhänge für eine bevorzugte Filterstruktur unter Verzicht auf die Berechnung des kontravarianten Metriktensors aufgezeigt, wobei diese Figur anhand der Beschriftungen sowie der obigen Erläuterungen ver­ ständlich sein sollte.

Weitere in Zusammenhang mit der vorliegenden Erfindung zu verwendende wichtige Elementarfunktionen sind die folgenden:

wobei W_ia, R Skalare sind, nämlich entsprechend die Parameter der Basisfunktion g_a und

Diese Funktion wird in ca. 70% aller neuronalen Netzwerk- Anwendungen verwendet und stellt somit die für einen großen Anwendungsbereich zu wählende Funktion dar.

Eine weitere Funktion wäre die folgende:

g_a(X_i, i ε {1, . . . N}) = tanh (W_iaX_i + R) (25)

mit

und W_ia, R wie oben.

Nochmals sei explizit darauf hingewiesen, daß neben den eukli­ dischen Distanzen ausdrücklich auch andere Distanzen in Frage kommen, wie beispielsweise die Kullback-Leibler-Entropie, Manhattan-Distanz, Mahalanobis-Distanz etc.

Des weiteren sei darauf hingewiesen, daß es stets genügt, nur den Raum zu betrachten, in dem die Beispiele für die Sollfunk­ tion liegen. Mit anderen Worten genügt es, die zu approxi­ mierende Funktion als ein Vektor im Funktionsraum zu betrach­ ten, wobei jedoch nur der Vektor betrachtet wird, der im Bei­ spielsraum liegt.

Ferner reicht es auch stets aus, die Sollfunktion F und das Verfahren nur für die Eingangswerte zu betrachten, für die auch Ausgangsbeispiele vorliegen, d. h. mit anderen Worten, daß eine Berechnung nur in so vielen Dimensionen erfolgt, wie es der Abtastung der Eingangsfunktion entspricht.

In manchen Fällen kann es sinnvoll sein, die rekonstruierte Projektion A nochmals durch eine Funktion h zu verändern, um schwierige Soll-Funktionen auch approximieren zu können. In diesem Fall ist dann die zu minimierende Distanz D:

Weiter sei angemerkt, daß, falls keine analytische Abhängigkeit der Basisfunktion von den Parametern gegeben ist, wie es zum Beispiel bei der fraktalen Funktion der Fall sein kann, auch eine andere Art der Feststellung der Abhängigkeit zum Beispiel durch Minimierung einer Kosten/Fehlerfunktion oder Abschätzung/ Heuristik möglich ist.

Ferner kann man eine sigmoide, tanh oder eine andere Funktion auch auf die Projektion A = Σ aA_aga verwenden, so daß dann die zu vermindernde Distanz lautet:

wobei h(f) eine Funktion wie sigmoide, tanh oder eine andere repräsentiert.

Allgemein läßt sich das wie folgt schreiben:

Ferner sei darauf hingewiesen, daß auch eine andere Kosten/ Fehlerfunktion E einsetzbar ist, dessen Minimierung der Mini­ mierung der Distanz D entspricht.

Als erfindungswesentlich sind auch die folgenden Zusammenhänge zu betrachten:

Sei proj ga die Projektion der Basisfunktion ga auf die Ebene, die von der Sollfunktion F und der entsprechenden Basisfunktion g_a aufgespannt wird. Dann ist die Minimierung der Distanz:

der Minimierung der Distanz E

äquivalent.

Identisches gilt natürlich im Fall der allgemeinen Distanz:

bzw.:

D = f(F, Aag_a)

Schließlich sei noch darauf hingewiesen, daß das erfindungs­ gemäße Filter auch hierarchisch aus Unterfiltern aufgebaut sein kann. Jeder Unterfilter entspricht dann einer Basisfunktion des höheren Filters. Mehrere Unterfilter spannen somit wiederum den Unterraum auf.

Im folgenden sollen nun einige Anwendungsmöglichkeiten des er­ findungsgemäßen adaptiven Filters diskutiert werden, wobei aus­ drücklich festgestellt wird, daß zumindest einige der Anwen­ dungsmöglichkeiten weitere über den adaptiven Filter hinaus­ gehende erfinderische Besonderheiten aufweisen, die ebenfalls als erfindungswesentlich anzusehen sind.

Das Prinzip einer der Hauptanwendungsmöglichkeiten des erfin­ dungsgemäßen adaptiven Filters liegt wie oben angesprochen in der Informationsreduktion. Komplizierte Signale können durch eine vom Filter bereitgestellte approximierte Funktion durch wenige Skalare und Filterparameter in ausreichender Weise dar­ gestellt, weiterverarbeitet und abgespeichert werden.

Ein weiterer wesentlicher Aspekt für die Anwendung des erfin­ dungsgemäßen adaptiven Filters besteht in der Möglichkeit, un­ vollständige Sollfunktionen F durch eine approximierte Funktion anzunähern, wobei diese Approximation aufgrund der Informa­ tionsreduktion zu dem gleichen Ergebnis führen kann, das bei einer Approximation an eine vollständig vorgegebene Sollfunk­ tion aufgetreten wäre. Der Bezug zur Mustererkennung ist offen­ sichtlich.

Wird das adaptive Filter in einem Gerät zur Texturklassifika­ tion eingesetzt, so werden dem Filter unbekannte Texturen ein­ gegeben, die das Filter mittels der oben beschriebenen Zusam­ menhänge in Form approximierter Funktionen "lernt". Wird nun eine unbekannte Textur eingegeben, so wird diejenige gespei­ cherte Textur den größten Ausgangswert liefern, die der unbe­ kannten Textur am ähnlichsten ist, wodurch die unbekannte Textur dieser Klasse zugeordnet werden kann.

Neben der Möglichkeit, ein Fernsehbild mittels des erfindungs­ gemäßen adaptiven Filters in seiner Bandbreite wesentlich redu­ zieren zu können, ist das erfindungsgemäße Filter auch zur Herausfilterung des Bewegungsvektors, beispielsweise bei HDTV, geeignet. Dazu kann ein sich bewegender Gegenstand in mehreren, zeitlich aufeinanderfolgenden Ebenen in Form eines dreidimen­ sionalen Raumes, bei dem eine Dimension die Zeit ist, aufgefaßt bzw. gespeichert werden. In diesem Raum würde ein sich be­ wegender Ball einen seiner Bewegung entsprechen Schlauch be­ schreiben, der einer Sollfunktion F entspricht. Der adaptive Filter wird seine Elementarfilter (mindestens einen) nach diesem Schlauch ausrichten, wodurch die Geschwindigkeit der Be­ wegung des Balles anhand der Filterneigung bestimmbar ist. All­ gemein ausgedrückt, kann das adaptive Filter verwendet werden, um den optischen Fluß in jeder Zeitebene erfassen zu können.

Eine weitere Anwendung ergibt sich in einem Gerät für Stereo­ bildverarbeitung: Der Filter erfaßt jedes der beiden Stereo­ bilder durch Berechnen einer approximierten Funktion und kann aufgrund der unterschiedlichen Ausrichtung der Elementarfilter für jedes einzelne Bild auf das dreidimensionale Bild zurück­ schließen.

Wird das erfindungsgemäße Filter bei einem Gerät zur Muster­ erkennung bzw. einem Verfahren zur Mustererkennung bzw. zur Musterklassifizierung eingesetzt, so ergibt sich dabei der Vor­ teil, daß die Textur, z. B. die Aufnahme eine Gruppe von Per­ sonen, lageunabhängig erkannt werden kann. Es ist also nicht notwendig, die Gruppe von Personen auf demselben Winkel zu "fotografieren", wie er bei den Aufnahmen vorlag, die für den vorausgegangenen Schritt des Lernens der einzelnen Texturen (Personen) verwendet wurde. Der erfindungsgemäße Filter ist durch Ausrichten seiner Elementarfilter in der Lage, die unter­ schiedliche Orientierung im Raum auszugleichen und trotz unter­ schiedlicher Blickwinkel eine gleiche approximierte Funktion auszugeben. Dadurch wird eine eindeutige Zuordnung der zu klassifizierenden Person zu einer Person innerhalb einer Gruppe vorher "gelernter" Personen ermöglicht.

Auch in der Regelungstechnik bestehen vielfältige Anwendungs­ möglichkeiten für das erfindungsgemäße adaptive Filter: Ein über Sensoren detektiertes Regelverhalten bzw. ein vorgegebenes gewünschtes Regelverhalten kann durch das Filter nachgebildet werden, wodurch das gewünschte bzw. detektierte Regelverhalten, da es nunmehr mathematisch exakt erfaßt ist, elektrisch einfach realisiert werden kann, bzw. das Filter kann selbst als Steuer­ einheit dienen, die nach Eingabe von Eingangswerten (XY in Fig. 1) aufgrund eines gespeicherten Regelverhaltens (Speicher 5 in Fig. 1) den richtigen Ausgangswert liefert.

Wird das erfindungsgemäße adaptive Filter im Zusammenhang mit einem Überwachungssystem oder Überwachungsverfahren verwendet, so ergibt sich der Vorteil, daß es möglich ist, ein durch mehrere Sensoren überwachtes Gebiet auch dann noch überwachen zu können, wenn eine der Sensoren (Kamera) ausfällt. Das er­ findungsgemäße Filter wird dann die verbleibenden Sensoren so ausrichten, daß weiterhin eine vollständige Überwachung des interessierenden Raumes ermöglicht wird.

Das erfindungsgemäße Filter ist also in hohem Maße ausfall­ sicher, da, sobald eines der vorgegebenen Elementarfilter aus­ fällt, die verbleibenden Elementarfilter so ausgerichtet werden, daß weiterhin eine optimale Annäherung an eine vor­ gegebene Sollfunktion möglich ist. Die Ausrichtung der ver­ bleibenden Elementarfilter kann völlig anders sein, als dies der Fall ist, wenn kein Elementarfilter ausgefallen ist. Diese Kompensationseigenschaft des erfindungsgemäßen adaptiven Fil­ ters ermöglicht vielfältige Anwendung inbesondere auch in der Luft- und Raumfahrttechnik. Bei den bisherigen Beispielen wurden die Elementarfilter meist als z. B. gaußförmige Funk­ tionen angenommen. Der Begriff Elementarfilter ist jedoch selbstverständlich abstrakt aufzufassen und kann ein ganzes System beschreiben, welches bei Ausfall durch die anderen Elementarfilter (weiteren Teilsysteme) vollständig ersetzt wird.

Weiter ist unter Einsatz des erfindungsgemäßen adaptiven Fil­ ters der Aufbau von hierarchischen Datenbanken möglich, bei denen Symbole nicht als Wörter, sondern in Form von Filter­ parametern und Skalaren (Normalprojektionen) abgespeichert sind.

Beispielsweise kann ein Baum symbolisch durch seine Krone, seinen Stamm und seine Äste dargestellt werden. Jedes dieser Teile kann einzeln als approximierte Funktion oder in hierar­ chischer Ordnung in der Datenbank abgespeichert werden. Ist nun lediglich ein Teil eines Baumes als Eingabefunktion vorhanden, beispielsweise ein Teil der Krone, so wird zunächst die Krone in der Datenbank aufgefunden und durch die hierarchische Zu­ ordnung auf die übrigen Komponenten des Baumes geschlossen.

Auch die Berechnung fraktaler Dimensionen wird mit Hilfe des erfindungsgemäßen aktiven Filters erleichtert. Legt man dem Fil­ ter ein Bild vor und koppelt die Filter in solcher Weise, daß das Filter die fraktale Dimension des Eingangsbildes berechnet, so ist das Bild dann anschließend in der Lage, aus einem ein­ gegebenen Grauwertbild das nächstliegende Bild mit gleicher fraktualer Dimension zu ermitteln.

Möglich ist auch die Konzeption eines Roboters, bei dem der Ausfall eines Effektors durch die übrigen Effektoren kompen­ siert wird. Beispielsweise kann also die Bewegung eines fehler­ haften Gelenks durch eine Ausgleichsbewegung des gesamten Armes kompensiert werden. In diesem Fall stellen die Filter also die Effektoren dar, die in der Lage sind, den Ausfall eines (oder mehrerer) Filters optimal zu kompensieren, so daß die beabsich­ tigte Bewegung weiterhin ausgeführt werden kann.

Im folgenden wird das adaptive erfindungsgemäße Filter nochmals in seinen Grundlagen mit weiteren Einzelheiten ausführlich be­ schrieben und anschließend werden weitere Anwendungsmöglich­ keiten diskutiert.

Eine Berechnung der Filter gⁱ mit anderen Mitteln, z. B. analy­ tisch ohne Verwendung des Metriktensors, oder durch Approxi­ mation, z. B. durch deterministische oder stochastische Mini­ mierung einer Energie/Kostenfunktion, ist ausdrücklich einge­ schlossen.
Zur Ausführung:

1) Normalprojektion

Die Normalprojektion der Sollfunktion mit jedem Elementarfilter gⁱ ist das Skalarprodukt der Funktion mit diesem Filter, im diskreten Fall also die Summe über x der Produkte der Soll­ funktion I(x) mit gⁱ(x), im kontinuierlichen Fall das Integral über alle diese Produkte.

2) Zur Matrixinversion

Der benötigte kontravariante Metriktensor ist einfach die Inverse zum vorhandenen kovarianten Metriktensor: Es muß somit eine Matrixinversion durchgeführt werden.

Hierzu werden zwei Verfahren nebeneinander angewandt: Zum einen die sogenannte Miller-Penrose Pseudo-Inverse, wobei die hierzu benötigten Eigenvektoren und Eigenwerte mit Hilfe des Jacobi-Verfahrens berechnet werden:

Dieses Verfahren besteht darin, die Matrix so zu drehen, daß das jeweils betragsgrößte Nichtdiagonalelement verschwindet. Dies geschieht so lange, bis nur noch die Diagonalelemente übrigbleiben. Dieses Verfahren hat weiterhin den Vorzug, daß das Produkt der berechneten Eigenwerte die Determinante ist, die weiter unten benötigt wird.

Im Falle einer kontinuierlichen Änderung der Eingangsgrößen wäre vermutlich eine Berechnung der Eigenvektoren und Eigen­ größen durch Resonanz, wie z. B. von Andrasz Pellionizc im Buch "Neurocomputing 2", Anderson, Pellionizc, editors, vorge­ schlagen, zweckmäßiger, weil dann die Konvergenz zu den neuen Werten relativ schnell vonstatten geht, während das Jacobi- Verfahren jedesmal neu beginnt.

Auch bei einer größeren Anzahl von Filtern, die eine größere Dimension der Tensoren nach sich zieht, dürfte es effizientere Verfahren geben.

Als zweite Methode wird eine Gradientenabstiegsmethode ange­ wandt:

Eine Definition der Inversen ist die folgende:

M×Inverse(M)=E

wobei M die Matrix, Inverse(M) die invertierte Matrix, und E die Einheitsmatrix ist.

Wird nun ein System mit der folgenden Energie- oder Kosten­ funktion definiert:

(M×Inverse(M)-E)×(M×Inverse(M)-E)

wobei die Elemente der Matrix Inverse(M) die Unbekannten sind, so können durch ein Gradientenabstiegsverfahren diese Unbekann­ ten berechnet werden. Das System wird bestrebt sein, obige Dif­ ferenz zu minimieren und so die Unbekannten zu berechnen.

3) Die Berechnung der Abhängigkeit der Projektion auf den Ge­ samtunterraum von den Parametern der Elementarfilter zieht einige Differenzierungen nach der Kettenregel nach sich, die im Regelfall relativ klassisch sind.

Es wird jedoch auf eine Feinheit hingewiesen:

Eine benötigte Größe ist die Ableitung jedes Elements des kontravarianten Metriktensors nach jedem Element des ko­ varianten Metriktensors: Hierzu wird folgende Formel verwendet:

a(i,j) = A(j,i)/G.

Diese Formel ist klassisch:

a(i,j) ist das Element der 1-ten Reihe und j-ten Spalte der in­ vertierten Matrix, im vorliegenden Fall also des kontra­ varianten Metriktensors, G ist die Determinante des kovarianten Metriktensors. Die Berechnung ist z. B. wie oben unter 2 oder analytisch möglich.

A(j,i) ist das sogenannte Algebraische Komplement zu einem Ele­ ment b(j,i) des kovarianten Metriktensors. Dieses Komplement wird gebildet, indem man einfach die j-te Zeile und i-te Spalte des kovarianten Metriktensors streicht, die Determinante des Restsystems bildet, und diese dann mit -1^j+i multipliziert.

Somit liegt eine Formel für den Zusammenhang zwischen jedem Element a des kontravarianten Metriktensors und jedem Element b des kovarianten Metriktensors vor, und es kann somit jedes Ele­ ment a nach jedem Element b abgeleitet/differenziert werden.

Die Berechnung der übrigen Größen der Differenzierung nach der Kettenregel ist relativ klassisch.

Die Gesamtänderung, die nun jeder Parameter der Elementarfilter erfährt, damit die Differenz zwischen Projektion und der Soll­ funktion selbst abnimmt, wird nun dadurch berechnet, daß

• a) für jede Dimension x die Abhängigkeit der Differenz von jenem Parameter hergeleitet wird;
• b) die Änderung daraus berechnet wird, die notwendig wäre, damit in jener Dimension x die Differenz kleiner wird;
• c) und schließlich die Gesamtänderung dadurch berechnet wird, daß über alle Änderungen aufsummiert wird. Punkt C geht von euklidischen Parameterräumen aus, jedoch sind auch nichteukli­ dische Parameterräume durchaus vorstellbar. In diesem Falle kommen andere Messungen der Differenz und somit auch andere Summierungsverfahren zum Einsatz.

Es sind auch Eingangsräume vorstellbar, die nichteuklidisch sind, z. B. Oberfläche einer Kugel.

Neben dem Gradientenabstiegsverfahren ist es durchaus vorstell­ bar, daß ein stochastisches Verfahren wie Simulated Annealing oder Mean Field Annealing oder andere Verfahren, wie Graduated Non-Convexity (Blake & Zisserman, Visual Reconstruction), oder auch anders korrigierte Energiefunktionen, wie z. B. mit Hilfe von Phi-Funktionen (Geman and Geman), zum Einsatz kommen müssen, wenn die Differenz zwischen Projekten und der Sollfunk­ tion bzw. die daraus gebildete Energiefunktion im Parameterraum mehrere lokale Minima besitzt.

Anwendungsbeispiele aus dem Bereich der Bildverarbeitung:

Texturklassifikation:

Je ein Filter lernt eine Textur.

Wird nun eine unbekannte Textur jedem der Filter eingegeben, so wird jedes Filter einen Ausgangswert liefern. Das Filter, dessen gespeicherte Textur der Unbekannten am ähnlichsten ist, wird den größten Ausgangswert liefern, somit kann die Textur dieser Klasse zugeordnet werden.
Berechnung des optischen Flusses:

Man legt dem Filter eine Serie von Bildern vor, die das Filter als dreidimensionale Funktion auffaßt. Das Filter berechnet nun den Ausgangswert dergestalt, daß dieser für jeden Bildpunkt der Serie von Eingangsbildern den optischen Fluß an dieser Stelle ausgibt.
Berechnung von fraktalen Dimensionen:

Man legt dem Filter ein Bild vor und koppelt die Filter in solcher Weise, daß das Filter die fraktale Dimension des Ein­ gangsbildes berechnet. Das Filter ist dann anschließend in der Lage, aus einem eingegebenen Grauwertbild das nächstliegende Bild mit gleicher fraktalen Dimension zu ermitteln.
Stereobildverarbeitung:

Man legt dem Filter eines der beiden Bilder vor, das Filter er­ lernt das Bild. Wird nun dem Filter anschließend das andere Bild vorgelegt, so kann das Filter aus der Verschiebung der Unterfilter ein dreidimensionales Bild des Bildinhaltes ermit­ teln.
Mustererkennung:

Wie Texturerkennung; kann z. B. zur lageunabhängigen Erkennung von Gesichtern auch dreidimensional durchgeführt werden: Die hier verwendeten Elementarfilter sind dann Filter im dreidimen­ sionalen Raum und wiederum beliebig. Im vorliegenden Fall sind z. B. dreidimensionale Gaborfilter vorstellbar, die sich dann so anordnen, daß die Gesichtsoberfläche optimal dargestellt wird, die Filter dabei also relativ flach werden.

Grundsätzlich ist bei allen Klassifizierungsaufgaben auch eine Anzahl an Sollfunktionen vorstellbar, die geringer ist als die Anzahl der einzelnen Klassen, im Extremfall nur eine. Diese Sollfunktion(en) ist (sind) dann eine Funktion(en) der Soll­ funktionen der einzelnen Klassen oder anderer für die Unter­ scheidung der Klassen notwendigen Größen. Dies ist dort von Belang, wo die Anzahl der Klassen erheblich ist, z. B. bei Ge­ sichtserkennung, und somit Unterentscheidungen, z. B. über Ver­ gleiche bestimmter Gesichtspartien, die Entscheidung beschleu­ nigen, sicherer machen, Speicherbedarf reduzieren, und/oder das Verfahren in anderer Weise optimieren. U. U. kann die Sollfunk­ tion auch die Differenz zwischen zwei Mustern/Klassen sein.
Regelungstechnik:

Man legt dem Filter Beispiele des gewünschten Regelverhaltens in Form von Sätzen von Eingangsgrößen mit gewünschten Ausgangs­ größen vor. Das Filter berechnet aus diesen Beispielen das ge­ wünschte generelle Regelverhalten.

Man legt dem Filter Beispiele des Verhaltens eines unbekannten Systems in Form von Sätzen von Eingangsgrößen mit dazugehörigen Ausgangsgrößen vor. Das Filter berechnet aus diesen Größen das generelle Verhalten des unbekannten Systems.
Stochastische Systeme:

Die eingegebene Sollfunktion kann auch eine Wahrscheinlich­ keitsverteilung oder ein Histogramm sein, so daß das Filter auch stochastische Systeme nachbilden/modellieren oder ersetzen kann; da das Filter dynamisch ist, kann es auch einer sich zeitlich ändernden Histogrammverteilung folgen, bei entspre­ chender Realisierung in Echtzeit, es ist somit eine echte Alternative zur Modellierung von Wahrscheinlichkeitsver­ teilungen mit Hilfe der Fischer Informations Metrik, bzw. der Minimierung der Kullback-Leibler Entropie, worauf obige Metrik beruht. Somit kann das Filter zeitaufwendige stochastische Lernsysteme, wie z. B. die Boltzmann-Maschine von Hinton & Sejnovski (Rumelhart and MacCleland, Parallel Distributed Processing, the MIT-Press), ersetzen. Der Einsatz einer solchen oder anderer informationstheoretischer Metriken/Normen zur Be­ rechnung oder Definition der Differenz ist aber möglich.

Ist auch nach Minimierung der Differenz diese noch so groß, so können nach Belieben weitere Elementarfilter beliebiger Art hinzugefügt werden, oder Filter durch andere ersetzt werden, bis die Differenz für den jeweiligen Anwendungsfall genügt. Das System wird dann nicht wieder zeitraubend von vorne beginnen, sondern vom bereits erreichten Resultat weiterarbeiten, umge­ kehrt kann man natürlich auch Filter entfernen, wenn die An­ sprüche niedriger liegen, als man anfangs dachte; weiterhin wird das System bei Ausfall eines oder mehrerer Elementarfilter die Parameter der übrigen so neu berechnen, daß diese wieder optimal angeordnet sind, und somit den Ausfall soweit als mög­ lich kompensieren.
Wirtschaft:

Man gibt dem Filter Zeitfolgen aus der Vergangenheit, z. B. Börsenkurse, ein. Das Filter wird, wenn es bereit ist, und wenn alle die Kurse eingegeben wurden, die für die Zukunft wichtig sind, aus eingegebenen Kursen der jüngsten Vergangenheit den wahrscheinlichsten zukünftigen Kurs berechnen.
Luft- und Raumfahrttechnik:

Da das Filter immer die bestmögliche Berechnung durchführt, die mit den gegebenen Elementarfiltern möglich ist, wird bei Aus­ fall eines oder mehrerer Filter die anderen bestmöglich den Ausfall kompensieren. Somit kompensiert das Filter den Ausfall bestimmter Teilsysteme, nämlich einer Anzahl von Elementar­ filtern, innerhalb gewissen Grenzen (Fachwort hierfür ist Graceful Degradation).
Datenspeicherung:

Ein Gesamtsystem, bestehend aus mehreren, auch hierarchisch an­ geordneten Filtern erlernt z. B. visuell eingegebene Objekte, unterteilt sie in Unterobjekte, dies auch hierarchisch, und legt sie anschließend gemäß der ermittelten geometrischen und sonstigen Beziehungen im Speicher ab. Auch nichtgeometrische/nichträumliche Beziehungen können hier ver­ wendet werden, soweit sie in geometrische Beziehungen übersetzt werden können. Dies ermöglicht es dem Benutzer, z. B. zu einem eingegebenen Begriff zugehörige Begriffe nennen zu können, wie verwandte Begriffe, untergeordnete Begriffe und übergeordnete Begriffe. Ordnet ein Benutzer einem Satz von Begriffen eine andere Struktur als ein anderer ein, so kann das System die jeweilige Struktur abbilden und dem jeweiligen Benutzer seine Struktur zur optimierten Datenabfrage zur Verfügung stellen. Aus der abgelegten Struktur sind auch Rückschlüsse auf den je­ weiligen Benutzer selbst möglich.
Berechnungen:

Ist die Struktur eines zu berechnenden Gesamtergebnisses der­ art, daß es als geometrisches Objekt als Funktion mehrerer von­ einander abhängiger Berechnungen dargestellt werden kann, so kann das Filter auch zur Berechnung dieser Größen herangezogen werden.

Ist ein Objekt im Bildbereich in mehrere Einzelobjekte zerleg­ bar (z. B. Baum in Krone und Stamm), so kann jeweils ein Filter ein über eine Helligkeitsverteilung als Sollfunktion einge­ gebenes Unterobjekt in Bildern erkennen, dies einem übergeord­ neten Gesamtsystem melden, das daraufhin die anderen Filter einschaltet, die zur Erkennung der anderen Einzelobjekte not­ wendig sind. (Bespielsweise erkennt das Filter, das optimal auf Baumkronen reagiert, in einem Bild eine Baumkrone, so meldet es dies dem System BAUM, zu dem es gehört; dieses schaltet nun das Filter ein, das optimal auf Baumstämme reagiert, damit dieses unterhalb der Krone nach einem Stamm suchen kann; findet dieses Filter den Stamm, meldet es dieses dem übergeordneten System BAUM, das nun melden kann, BAUM IM BILD GEFUNDEN.) Selbstverständlich kann ein Filter auch zu mehreren Gesamt­ systemen gehören, z. B. das Filter RAD zum Gesamtsystem FAHRRAD und zum Gesamtsystem MOTORRAD, oder ein Gesamtsystem kann mehrere alternative Unterfilter besitzen, z. B. BAUM kann Unter­ system KRONERUND und KRONEKONISCH, z. B. für Nadelbäume, be­ sitzen. Natürlich können sämtliche dieser Filter auch hierar­ chisch aufgebaut werden, z. B. ZWEIG-AST-KRONE-BAUM-WALD.

Hat ein Filter einmal die Sollfunktion erlernt, so kann man auch die Parameter in bestimmten Grenzen variierbar machen, z. B. mit einem gemeinsamen Größenkoeffizienten multiplizieren, um Entfernungsunterschiede auszugleichen, oder bestimmte Ver­ zerrungen zuzulassen, um verschiedene Blickwinkel zu ermög­ lichen; Berechnungen z. B. über projektive Geometrie.

Als Maß für die Distanz zwischen Projektion und Sollfunktion kann im Falle von Wahrscheinlichkeitsverteilungen auch die Kullback-Leibler-Entropie oder ein anderes informations­ theoretisches Maß verwendet werden.
Objekterfassung/Tracking:

Ein Filter bzw. ein System, bestehend aus mehreren Filtern, ist in der Lage, mehrere Objekte, die beispielsweise auf einem Radarschirm oder Fernsehschirm zu sehen sind, und die sich sogar teilweise überlappen dürfen, voneinander zu unter­ scheiden, wobei, wie bereits oben erwähnt, die Unterscheidungs­ kriterien beliebige Funktionen der Parameterwerte der Elemen­ tarfilter und somit beliebige Funktionen der Helligkeitsver­ teilung oder dessen Äquivalent sein können. Das System ist dann weiterhin in der Lage, jedem dieser Objekte zu folgen, eine Be­ zeichnung zuzuordnen, ggf. zu identifizieren, u. U. einen oder mehrere Sensoren nachzuführen (Kameras, Zielverfolgungsradar, etc.), und das Gesamtsystem zu anderen weiteren Maßnahmen, wie z. B. einem Alarm, zu veranlassen. Natürlich können bei ent­ sprechenden antrainierten Sollfunktionen auch Vorhersagen über zukünftiges Verhalten, wie z. B. zukünftiger Trajektorienver­ lauf, Gefahr von Zusammenstößen etc. getroffen werden.

Das Filter ist auch in der Lage, anhand von Bewegungsanalysen Bewegungsschäden an einem Patienten festzustellen, wenn be­ stimmte Bewegungsabläufe und -sequenzen für diese Schäden typisch sind. (Klassifizierung von Blutzellen etc. sind Anwen­ dungen, die unter die oben erwähnte Texturklassifikation fallen.)
Bezug zur künstlichen Intelligenz:

Das Filter kann in verschiedenster Form im Bereich der KI ein­ gesetzt werden, wie weiter oben schon im Bereich Objekter­ kennung gezeigt wurde.
Zur Objekterkennung/Mustererkennung:

Das Filter wird auch dann in der Lage sein, ein Objekt zu er­ kennen, wenn es teilweise verdeckt ist, wobei natürlich der Grad der akzeptablen Verdeckung vom Einzelfall abhängt. Weiter­ hin kann zum Beispiel, wenn das Filter BAUMKRONE ein zwiespäl­ tiges Ergebnis liefert, das übergeordnete Filter BAUM angerufen werden, das nun das Filter BAUMSTAMM zuschaltet, um unterhalb der Krone den STAMM zu finden, wird dieser gefunden, so wird das Ergebnis des Filters BAUMKRONE verifiziert, wenn nicht, dann verfälscht.

Somit erlaubt der Einsatz von hierarchischen Filterstrukturen auch eine maximale Ausnutzung ggf. vorhandener Redundanz, wobei die vorhandenen Redundanzen auch mit Hilfe solcher Filter ge­ funden werden können.

Erlernt ein Filter ein Objekt, und stellt man fest, daß die Parameterwerte der Elementarfilter nach dem Erlernen sich irgendwie gruppieren lassen, z. B. Filter mit starkem Überlap­ pungsbereich werden gruppiert, oder Filter mit bestimmten Fre­ quenzen, oder Verhältnisse der Parameterwerte zueinander, z. B. konstante Abstände, so lassen sich diesen Gruppen Konzepte zu­ ordnen, denen evtl. in der Außenwelt entsprechende Objekte ent­ sprechen: Beispielsweise hat eine BAUMKRONE eine andere frak­ tale Dimension und eine andere Lage als der BAUMSTAMM, so daß das Filter in der Lage ist, die Elementarfilter, die diesen beiden Objekten angehören, zu trennen, zwei verschiedenen Ob­ jekten zuzuordnen, und das Verhältnis der beiden Objekte zu­ einander festzustellen und zu erlernen. Dies kann natürlich auch wiederum über mehrere Hierarchie-Ebenen verlaufen, wie z. B. WALD-BÄUME-BAUMKRONE-ÄSTE-ZWEIGE-BLÄTTER. Das Filter kann auch andere Anhaltspunkte nehmen, z. B. Phasensprünge an gleicher Stelle, oder klassische Konturdetektionsalgorithmen, um Unter­ objekte voneinander zu trennen.

Das Filter wird sodann die Objekte abspeichern, zusammen mit zugehörigen Parameterwerten, und ihren räumlichen Beziehungen zueinander, und wird damit in der Lage sein, seine Umgebung zu analysieren und zu erfahren, und so einem übergeordneten System Anhaltspunkte über das Verhalten geben zu können.

Dies ist dann z. B. interessant, wenn das Gesamtsystem ein un­ bemanntes Roboterfahrzeug ist, das auf unbekanntem Territorium, z. B. auf anderen Planeten, eingesetzt wird, wo es den Erbauern nicht möglich ist, im vornherein festzustellen, mit welcher Um­ gebung und welchen Objekten das Roboterfahrzeug nach der Lan­ dung konfrontiert sein wird.

Man kann z. B. durch Vorauswahl der Elementarfilter das Filter auch so programmieren, daß es auf bestimmte Objekte seiner Um­ gebung bevorzugt reagiert und sich somit seine Sollfunktion selbst auswählt, dies könnten z. B. Objekte sein, die sich be­ wegen, während statische Objekte ignoriert werden.

Es können grundsätzlich alle Objekte selektiert werden, deren Auswahlkriterien sich irgendwie durch Funktionen der Filter­ parameter ausdrücken lassen, wie z. B. bestimmte Bewegungs­ muster, Bewegungsfolgen, Helligkeitsverteilungen, Texturstruk­ turen etc.

Auch nach dem Erlernen der Sollfunktion kann eine solche Selek­ tion durchgeführt werden, z. B. für Rettungsroboter in Kern­ kraftwerken und bei Waldbränden oder für Überwachungsroboter.

Wird die Kamera auf das Roboterfahrzeug selbst gerichtet, so erlernt es seine eigene äußere Struktur und wäre somit fähig, durch Vergleich mit der erlernten Struktur Beschädigungen von außen festzustellen, dies dem übergeordneten System zu melden, daß dann weitere Maßnahmen, wie z. B. das Abnehmen von Blenden zur weiteren Analyse, oder bestimmte Reparaturen, anordnen kann. Das System wäre weiterhin fähig, den genauen Ort der Be­ schädigung durch sukzessives Absteigen über mehrere Filter- Hierarchie-Ebenen festzustellen, durch Vergleich mit einer in­ ternen Texturdatenbank evtl. die Art des Schadens festzu­ stellen, und somit das Gesamtsystem zu weiteren spezifischeren Maßnahmen zu veranlassen.

Generell ist das Filter gegen Rotation, Translation, und/oder Skalierung invariant, wenn man wie folgt vorgeht: Hat das Filter einmal die Sollfunktion/das Objekt erkannt, und legt man ihm nun ein zu erkennendes Muster vor, so erlaubt man dem Filter, sich insgesamt gegenüber dem Bild zu drehen, zu ver­ schieben, oder in der Größe zu verändern, d. h. man versucht wiederum, die Differenz zwischen Projektion und Bild zu mini­ mieren, wobei hier aber nur eine Rotation, Verschiebung oder Skalierung des Gesamtfilters erlaubt ist.

Natürlich kann man auch, wie bereits erwähnt, bestimmte Ver­ änderungen der Parameterwerte der Einzelfilter zulassen, wenn man gegen bestimmte Verzerrungen invariant bleiben will.
Zur Stereobildverarbeitung:

Es ist mit dem Filter weiter möglich, fraktale Disparitäts­ karten anzulegen, die z. B. zur dreidimensionalen Rekonstruktion von fraktalen Objekten, wie z. B. Büschen, dienen können.
Bildsynthese/Grafik/CAD/CAM:

Hat man einmal die charakteristischen Parameter eines Objekts erlernt, z. B. die eine Frauenschopfes, so kann man damit be­ liebig Bilder synthetisch herstellen, verfremden, verändern, verzerren, rekombinieren, komponieren. Mann kann in extrem kurzer Zeit Grafikanimation mit extrem hoher Qualität durch­ führen, da nicht jedes Pixel eines Bildes manipuliert zu werden braucht, sondern nur die Parameterwerte der zugeordneten Ele­ mentarfilter.
Bildkompression:

Das Einzelfilter ermöglicht eine Bildkompression in der Größen­ ordnung von 80-100 : 1. Bei Komprimieren von Bildfolgen ähn­ lichen Inhalts steigt diese noch, da in diesem Fall nur noch die Änderungen der Parameterwerte übermittelt werden müssen. Natürlich kann die Kompensation auch mit Hilfe von dreidimen­ sionalen Elementarfiltern optimiert werden.
Weitere Anwendungsmöglichkeiten:

Das Filter kann auch verwendet werden, um aus dem Eingangsraum bestimmte, bekannte Strukturen sowie Kombinationen/Funktionen hiervon herauszufiltern, um nur neue, unbekannte Strukturen übrig zu lassen.

Anwendungen liegen hierbei in der Spracherkennung von ge­ sprochenen Lauten, im Erkennen von Gesetzmäßigkeiten und bei der Identifizierung von Sprechern.

Das allgemeine Lösen von Optimierungsaufgaben, z. B. der Entwurf und das Management von räumlich verteilten Systemen, von Funk­ zellen eines Mobilnetzes, von Kraftwerken, Transformatoren und Verteilern eines Energienetzes, von Depots eines Transport­ unternehmens, ist folgendermaßen möglich: Jedem Netzknoten wird ein Elementarfilter zugeordnet, z. B. ein Gaußfilter, bei dem der Mittelwert individuell variabel ist, während sich die Standardabweichung bei jedem Filter nur im gleichen Maße ändern kann. Die Elementarfilter werden sich so anordnen, daß ein vor­ gegebener Raum, z. B. die Bundesrepublik, optimal abgedeckt wird; fällt ein Knoten aus, so ordnen sich die übrigen Knoten selbständig so um, daß der Raum wieder optimal abgedeckt wird; dies kann im Falle z. B. eines Funknetzes auch dadurch ge­ schehen, daß die Standardabweichung, die ja die Funkleistung modelliert, von bestimmten Elementarfiltern einfach erhöht wird: Funkzellen sind ja in der Regel nicht mobil, und können somit ihren Standort nicht ändern.

Natürlich können auch Verzerrungen der unterliegenden Metrik in diesen Optimierungsaufgaben berücksichtigt werden; werden z. B. die Entfernungen anhand der Transportzeiten definiert, haben Depots in der Nähe von Autobahnen größere Versorgungsbereiche: Diese Verzerrungen können durch Verzerrungen des Eingangsraums bzw. durch Verzerrungen der Filterparameter modelliert werden.
Weitere Anwendungsmöglichkeiten:

Daten/Sensor-Fusion: Decken verschiedene Sensoren/Informa­ tionsquellen überlappende Bereiche ab, z. B. Infrarot-Aufnahmen und Aufnahmen im sichtbaren Bereich des gleichen Geländes, so können bei Ausfall des einen Sensors die Parameter des oder der anderen Sensoren so verändert werden, daß der zu überwachende Bereich weitestgehend abgedeckt wird, weiterhin kann das Filter unterliegende statistische Zusammenhänge von Daten aus ver­ schiedenen Quellen erfassen und modellieren.

Ist die Anzahl der Elementarfilter in irgendeiner Anwendung zu groß, so daß die notwendigen Berechnungen zu langwierig und/oder kompliziert werden, so können wir die Elementarfilter beliebig zu Gruppen zusammenfassen, die jeweilige Gesamtpro­ jektion der gruppierten Filter berechnen, und die Gruppen wiederum als höhere Elementarfilter auffassen, mit einem neuen Metriktensor, der die Beziehungen der Gruppen untereinander ausdrückt; auch dies kann sukzessive hierarchisch durchgeführt werden. In diesem Falle wird den einzelnen Gruppen nicht das Konzept eines zugehörigen Objektes zugeordnet.

Wird die Sollfunktion in bestimmten Anwendungen kontinuierlich verändert, so empfiehlt es sich unter Umständen, die Elementar­ filter rekursiv zu implementieren.
Zur Stereobildverarbeitung:

Neben dem vorgeschlagenen Verfahren ist es weiterhin möglich, die beiden Bilder als Abbildungen des gemeinsamen dreidimen­ sionalen Raums zu betrachten, und die Sollfunktion und Berech­ nungen daraufhin durchzuführen, z. B. mit dreidimensionalen Gabor-Filtern. Der Parameterraum kann auch nicht-euklidisch bzw. das Koordinatensystem nicht-kartesisch sein, in welchem Falle die notwendigen Änderungen an den Parameterwerten nicht unabhängig sind, sondern wiederum über einen anderen Metrik­ tensor verknüpft sind. In diesem Falle muß diese Verknüpfung in den Berechnungen berücksichtigt werden. Auch der Eingangsraum muß nicht-euklidisch sein bzw. das Koordinatensystem nicht-kartesisch. Beispielsweise ist durchaus eine Sollfunktion vorstellbar, die sich auf Koordinaten einer Kugeloberfläche bezieht, z. B. bei Navigationsaufgaben in Luftfahrzeugen, oder anderen nicht-euklidischen Räumen, z. B. bei Berechnungen/Aus­ wertungen, die sich auf Radardaten beziehen, bei relativi­ tätstheoretischen Untersuchungen, bei Auswertung von Daten der medizinischen Bildverarbeitung etc.

Claims (21)

1. Adaptives Filter zum Approximieren einer eingelesenen in einem Funktionenraum liegenden Sollfunktion F, enthaltend einen Satz von n Elementarfiltern g_b, wobei n eine ganze Zahl 1 ist, die Elementarfilter einen Unterraum im Funktionenraum auf­ spannen, die Parameter der Elementarfilter veränderbar sind und das Filter folgende Operationen ausführt:
Berechnen der Normalprojektionen der Sollfunktion F auf jeden Elementarfilter und Multiplizieren der so erhaltenen Projek­ tionsgrößen A_a jeweils mit dem aus dem Satz Elementarfiltern gebildeten kontravarianten Metriktensor g^ab, um dadurch die Projektion der Sollfunktion F auf den aufgespannten Unterraum zu erhalten, deren Differenz D zur Sollfunktion F als Funktion der Elementarfilter und des Metriktensors gemäß folgender For­ mel erfaßt wird: um dadurch die Differenz D über Veränderung der Elementar­ filterparameter mittels üblicher deterministischer (z. B. "Gradientenabstiegsverfahren") oder stochastischer (z. B. "simulated annealing, Monte Carlo Verfahren") Berechnungs­ methoden zu mininieren, wobei sich die gewünschte approximierte Funktion aus der Superpositionierung der über die Minimierung eingestellten Elementarfilter gemäß folgender Formel ergibt:

2. Adaptives Filter zum Approximieren einer eingelesenen, in einem Funktionenraum liegenden Sollfunktion F, enthaltend einen Satz von n Elementarfiltern g_b, wobei n eine ganze Zahl 1 ist, die Elementarfilter einen Unterraum im Funktionenraum auf­ spannen, die Parameter der Elementarfilter veränderbar sind und das Filter folgende Operationen ausführt:
Berechnen der Normalprojektionen der Sollfunktion F auf jeden Elementarfilter, Berechnen der Projektion A der Sollfunktion F auf den von den Elementarfiltern aufgespannten Unterraum durch Lösen des überbestimmten Gleichungssystems MX=Fmittels klassischer Verfahren zur Lösung des Least Squares- Problems, wobei M eine aus den Elementarfiltern gebildete Matrix ist und X der zu bestimmende Satz der Koeffizienten der Projektion A ist,
um dadurch die Differenz DD = (F-A)über Veränderung der Elementarfilterparameter mittels üblicher deterministischer (z. B. "Gradientenabstiegsverfahren") oder stochastischer (z. B. "simulated annealing, Monte Carlo-Ver­ fahren") Berechnungsmethoden zu minimieren, wobei sich die ge­ wünschte approximierte Funktion aus der Superpositionierung der über die Minimierung eingestellten Elementarfilter entsprechend einer der folgenden Zusammenhänge ergibt:

3. Adaptives Filter zum Approximieren einer eingelesenen, in einem Funktionenraum liegenden Sollfunktion F, enthaltend einen Satz von n Elementarfiltern g_b, wobei n eine Zahl 1 ist, die Elementarfilter einen Unterraum im Funktionenraum aufspannen, die Parameter der Elementarfilter veränderbar sind und das Filter folgende Operationen ausführt:
Berechnen der Normalprojektionen der Sollfunktion F auf jeden Elementarfilter, Verändern eines in dem von den Elementar­ filtern aufgespannten Unterraum liegenden Vektors A (t), bis dessen Normalprojektionen auf die Elementarfilter den Normal­ projektionen der Sollfunktion F auf den Unterraum entsprechen, d. h. bis der Fehler E in Abhängigkeit von A^b(t) minimal ist, um dadurch die Differenz DD = |F - A(t)|über Veränderung der Elementarfilterparameter mittels üblicher deterministischer (z. B. "Gradientenabstiegsverfahren") oder stochastischer (z. B. "simulated annealing, Monte Carlo- Verfahren") Berechnungsmethoden zu minimieren, wobei sich die gewünschte approximierte Funktion aus der Superpositionierung der über die Minimierung eingestellten Elementarfilter gemäß folgender Formel ergibt:

4. Adaptives Filter zum Approximieren einer eingelesenen, in einem Funktionenraum liegenden Sollfunktion F, enthaltend einen Satz von n Elementarfiltern g_b, wobei n eine ganze Zahl 1 ist, die Elementarfilter einen Unterraum im Funktionenraum auf­ spannen, die Parameter der Elementarfilter veränderbar sind und das Filter folgende Operationen ausführt:
Berechnen der Normalprojektionen der Sollfunktion F auf jeden Elementarfilter,
Berechnen der adjungierten Elementarfilter zu den den Unterraum aufspannenden Elementarfiltern durch Minimieren des Fehlers E mittels herkömmlicher Berechnungsverfahren (z. B. "Gradientenab­ stiegsverfahren"), um dadurch die Differenz D bzw. allgemein mittels üblicher deterministischer (z. B. "Gradientenabstiegs­ verfahren") oder stochastischer (z. B. "simulated annealing, Monte Carlo-Verfahren") Berechnungsmethoden zu minimieren, wobei sich die gewünschte approximierte Funktion aus der Super­ positionierung der über die Minimierung eingestellten Elemen­ tarfilter gemäß folgender Formel ergibt:

5. Adaptives Filter zum Approximieren einer eingelesenen in einem Funktionenraum liegenden Sollfunktion F, enthaltend einen Satz von n Elementarfiltern g_b, wobei n eine ganze Zahl 1 ist, die Elementarfilter einen Unterraum im Funktionsraum auf­ spannen, die Parameter der Elementarfilter fest eingestellt sind, das Produkt jedes Elementarfilters mit dem aus dem Satz Elementarfiltern gebildeten kontravarianten Metriktensor g^ab gespeichert ist und das Filter folgende Operationen ausführt:
Berechnen der Normalprojektion A_a der Sollfunktion F auf jeden Elementarfilter und Berechnen der Projektion der Sollfunktion auf den aufgespannten Unterraum gemäß folgender Formel: und Verwenden dieser Projektion als approximierte Funktion.

6. Adaptives Filter nach Anspruch 5, bei dem eine Vielzahl von Elementarfiltersätzen vorhanden ist, die jeweils unterschied­ liche Unterräume aufspannen, die Projektion der Sollfunktion auf jeden dieser Unterräume berechnet wird und als approxi­ mierte Funktion diejenige Projektion verwendet wird, deren Differenz D zur Sollfunktion F minimal ist.

7. Adaptives Filter nach Anspruch 6, dadurch gekennzeichnet, daß jede Differenz D gemäß folgender Formel bestimmt wird:

8. Adaptives Filter nach mindestens einem der Ansprüche 1 bis 7, bei dem der Elementarfilter eine Gaußfunktion ist mit den Parametern Standardabweichung und Mittelwert.

9. Adaptives Filter nach mindestens einem der Ansprüche 1 bis 8, bei der der Elementarfilter eine Gaborfunktion ist mit den Parametern Standardabweichung, Mittelwert, Phase und Frequenz.

10. Adaptives Filter nach mindestens einem der Ansprüche 1 bis 8, bei dem der Elementarfilter folgender Funktion entspricht:

11. Adaptives Filter nach mindestens einem der Ansprüche 1 bis 8, bei dem der Elementarfilter folgender Funktion entspricht:

12. Adaptives Filter nach mindestens einem der vorhergehenden Ansprüche, bei dem die Elementarfilter untereinander linear unabhängig sind.

13. Adaptives Filter nach mindestens einem der vorhergehenden Ansprüche, bei dem die Sollfunktion sowohl bezüglich des Werte­ bereichs als auch bezüglich der Auflösung diskret eingelesen wird.

14. Adaptives Filter nach mindestens einem der vorhergehenden Ansprüche, bei dem die aufgefundenen Parametereinstellungen ausgegeben werden.

15. Adaptives Filter nach mindestens einem der vorhergehenden Ansprüche, bei dem die Sollfunktion an unvollständig erfaßten Orten durch in der Umgebung liegende Sollwertfunktionswerte und zusätzlichem, etwa gaußverteilten Rauschen angenähert wird.

16. Adaptives Filter nach mindestens einem der vorhergehenden Ansprüche, bei dem das verwendete Berechnungsverfahren ein Gradientenabstiegsverfahren (deterministisch) ist.

17. Adaptives Filter nach mindestens einem der vorhergehenden Ansprüche, bei dem die Sollfunktion F ein optisches Signal ist.

18. Adaptives Filter nach mindestens einem der vorhergehenden Ansprüche, bei dem die Sollfunktion F ein Videosignal ist.

19. Adaptives Filter nach mindestens einem der vorhergehenden Ansprüche, bei dem die Elementarfilter optische Filter sind.

20. Adaptives Filter nach mindestens einem der vorhergehenden Ansprüche, bei dem die Sollfunktion ein Audiosignal ist.

21. Adaptives Filter gemäß Patentanspruch 17, 18 oder 19, bei dem die approximierte Funktion als Teil eines bandbreiteredu­ zierten HDTV-Signals übertragen wird.