DE4326487C2 - Adaptives Filter - Google Patents

Adaptives Filter

Info

Publication number
DE4326487C2
DE4326487C2 DE4326487A DE4326487A DE4326487C2 DE 4326487 C2 DE4326487 C2 DE 4326487C2 DE 4326487 A DE4326487 A DE 4326487A DE 4326487 A DE4326487 A DE 4326487A DE 4326487 C2 DE4326487 C2 DE 4326487C2
Authority
DE
Germany
Prior art keywords
function
elementary
filter
filters
adaptive filter
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
DE4326487A
Other languages
English (en)
Other versions
DE4326487A1 (de
Inventor
Konrad Michael Dipl Ing Weigl
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Institut National de Recherche en Informatique et en Automatique INRIA
Original Assignee
Individual
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Individual filed Critical Individual
Priority to DE4326487A priority Critical patent/DE4326487C2/de
Priority to EP93919204A priority patent/EP0612447B1/de
Priority to JP6507737A priority patent/JPH07501434A/ja
Priority to ES93919204T priority patent/ES2112992T3/es
Priority to PCT/EP1993/002324 priority patent/WO1994007308A1/de
Publication of DE4326487A1 publication Critical patent/DE4326487A1/de
Application granted granted Critical
Publication of DE4326487C2 publication Critical patent/DE4326487C2/de
Priority to US08/704,358 priority patent/US5673213A/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H03ELECTRONIC CIRCUITRY
    • H03HIMPEDANCE NETWORKS, e.g. RESONANT CIRCUITS; RESONATORS
    • H03H21/00Adaptive networks
    • H03H21/0012Digital adaptive filters

Description

Die vorliegende Erfindung betrifft ein adaptives Filter zum Approximieren einer Sollwertfunktion F.
Die Erfindung befaßt sich insbesondere mit einem adaptiven Fil­ ter, das in der Lage ist, vorgegebene Sollwertfunktionen zu approximieren, um dadurch komplizierte Funktionen einfacher handhaben zu können, und für weitere Verarbeitungsschritte mit reduzierter Informationsbandbreite zur Verfügung zu stellen. Auch bezieht sich die vorliegende Erfindung auf spezielle Ein­ richtungen und Verfahren, die mittels derartiger adaptiver Fil­ ter ermöglicht werden, wobei derartige Verfahren und Einrich­ tungen in erster Linie im Bereich der Mustererkennung liegen.
Fig. 14 zeigt, wie eine vorgegebene Sollwertfunktion F durch eine bandbreitesparende approximierte Funktion Fapp annähe­ rungsweise beschrieben werden kann.
Das Auffinden derartiger angenäherter Lösungen ist mit großem Rechenaufwand verbunden und die erreichten Näherungslösungen sind vielfach nicht von ausreichender Genauigkeit.
Aus "The PI-Method for Estimating Multivariante Functions from Noisy Data", Breimann Leo, Technometrics, Mai 1991, Vol. 33, No. 2, ist ein Verfahren zum Approximieren einer Funktion mit mehreren Eingangsvariablen durch sogenannte Tensor-Spline-Funktionen, das heißt Funktionen, die als Produkte von Splines generiert werden, bekannt. Bei dem vorgeschlagenen Verfahren wird jeweils ein Spline pro Dimension verwendet, wodurch ermöglicht wird, das Approximationsproblem in Unterprobleme zu zerlegen und diese Unterprobleme nacheinander zu lösen, um dann die Lösung des Gesamtproblems aus den Teillösungen zu erstellen.
Aus "Theory for Multiresolution Signal Decomposition: The Wavelet Representation", Mallat Stephane G., IEEE Trans. on Pattern Recognition and Machine Intelligence, Vol. 11, No. 7, Juli 1989, ist es bekannt, die Projektion eines Bildvektors auf eine feste Basis orthogonaler Funktionen, sogenannter Waveletes oder "Ondelettes", zu verwenden. Aufgrund der Orthogonalität der Funktionen ist der Metriktensor der Einheitsvektor. Die Projektion wird somit einfach durch die Skalarproukte des Bildvektors mit den Basisfunktionen berechnet. Dies dient beispielsweise zur Kompression eines Bildes, da der wesentliche Bildinhalt durch wenige Skalare, die aus den Skalarprodukten resultieren, ausgedrückt werden kann. Die Übermittlung eines auf diese Skalare reduzierten Bildes genügt für die Rekonstruktion des Bildes.
Die DE 34 06 833 C2 beschreibt Spline-Filter für den Bereich der Nachrichtentechnik. In dieser Druckschrift wird vorgeschlagen, Systeme mit Tiefpaßverhalten durch Spline-Funktionen zu approximieren. Außerdem sollen durch Überlagerungen unerwünschte Nebenschwingungen eliminiert werden.
Es ist die Aufgabe der vorliegen­ den Erfindung, eine Vorrichtung anzugeben, die es ermöglicht, eine vorgegebene Sollwertfunktionen in einfacher Weise und trotz starker Bandbreiteeinsparung mit ausreichender Genauig­ keit durch eine andere Funktion anzunähern.
Diese Aufgabe wird durch die Gegenstände der Patentansprüche 1, 2, 3 und 4 gelöst.
Der Vorteil des speziellen adaptiven Filters gemäß Patentan­ spruch 1 liegt in der Fähigkeit dieses Filters, seine einzelnen Elementarfilter so auszurichten, daß mit ihnen eine optimale Beschreibung einer vorgegebenen Sollfunktion F ermöglicht wird. Die durch das Filter aufgefundene approximierte Funktion be­ schreibt eine vorgegebene Sollfunktion F, in für die weitere Verarbeitung leicht handhabbarer Weise und mit einer drastisch reduzierten Informationsbandbreite.
Weitere erfindungsgemäße adaptive Filter sind Gegenstände der Ansprüche 2-4.
Das adaptive Filter gemäß Patentanspruch 4 wird zwar hinsicht­ lich der Annäherungsgenauigkeit unter Umständen nicht gleich gute Ergebnisse wie das adaptive Filter gemäß Patentanspruch 1 liefern können, jedoch ist dieses adaptive Filter aufgrund eines geringeren Rechenaufwandes in der Lage, seine Berech­ nungen mit hoher Geschwindigkeit auszuführen und daher insbe­ sondere für Echtzeitanwendungen geeignet. Das Bereitstellen einer Vielzahl von Elementarfiltersätzen, die jeweils einen Unter­ raum aufspannen, führt zu einer Erhöhung der Annäherungsge­ nauigkeit, wobei der Vorteil der hohen Berechnungsgeschwindig­ keit weiterhin erhalten bleibt.
Die Ausführungsform gemäß Patentanspruch 5 weist den zusätz­ lichen Vorteil auf, daß die Feststellung, welche der Projek­ tionen auf die einzelnen Unterräume bei der Ausführungsform gemäß Patentanspruch 2 die beste Annäherung an die Sollfunktion ist, in besonders eleganter und zeitsparender Weise ausgeführt werden kann.
Bevorzugtermaßen weisen die erfindungsgemäßen adaptiven Filter Elementarfilter auf, deren Charakteristika durch Gauß-, Gabor-, Sigmoid- oder tanh-Funktionen beschrieben werden können. Der­ artige Filtertypen sind mathematisch besonders leicht erfaßbar und handhabbar.
In einer weiteren bevorzugten Ausführungsform der erfindungs­ gemäßen adaptiven Filter sind alle Elementarfilter zueinander linear unabhängig, was den Vorteil eines geringen Rechenauf­ wandes mit sich bringt.
Die anzunähernde Sollfunktion F wird bevorzugterweise sowohl bezüglich des Wertebereichs als auch bezüglich der Auflösung diskret eingelesen, wodurch die digitale Verarbeitung der Er­ gebnisse in üblichen Mikroprozessoren ermöglicht wird. Selbst­ verständlich kommt auch die Verarbeitung einer kontinuierlichen Funktion durch das erfindungsgemäße Filter in Betracht, bei­ spielsweise, wenn die Sollfunktion ein optisches Signal ist.
Für bestimmte Anwendungsfälle kann es vorteilhaft sein, die Parameter der Elementarfilter zumindest nach dem Auffinden der angenäherten Funktion auszugeben, um sie für weitere Verarbei­ tungsschritte nutzbar zu machen.
Weiterhin sieht eine bevorzugte Ausführungsform vor, daß für den Fall einer unvollständig erfaßten Sollwertfunktion die ent­ sprechenden Lücken durch die in der Umgebung der Lücke vorkom­ menden Funktionswerte angenähert und mit zusätzlichem additiven Rauschen beaufschlagt werden. Dadurch werden die fehlenden Funktionswerte mit hoher Wahrscheinlichkeit einigermaßen gut angenähert, so daß die Filtereinstellung von den ursprünglich fehlenden Funktionswerten kaum beeinflußt wird und möglicher­ weise zu denselben Ergebnissen führt, wie sie bei einer voll­ ständig vorgegebenen Sollwertfunktion zu erwarten wären. Dies wäre nicht der Fall, wenn man für die fehlenden Funktionswerte beispielsweise jeweils den Wert 0 ansetzt.
Das für die Minimierung der Differenz zwischen Projektion und Sollwertfunktion verwendete übliche Berechnungsverfahren ist vorzugsweise ein Gradientenabstiegsverfahren (deterministisches Verfahren), das zu einer schnellen Minimierung der Differenz führt.
In einer weiteren bevorzugten Ausführungsform kann die Soll­ funktion F ein optisches Signal sein, also beispielsweise das von einer Fernsehkamera aufzunehmende Bild. Für optische Anwen­ dungen ist das erfindungsgemäße adaptive Filter insbesondere geeignet, da hier große Informationsmengen vorliegen, die für die Übertragung soweit wie möglich reduziert werden müssen. In diesem Zusammenhang ist klar, daß die Sollfunktion auch ein elektrisches Video- bzw. Audio-Signal sein kann.
Für den Fall von Video-Signalen und optischen Signalen können die Elementarfilter optische Filter sein. Schließlich ist bei einer bevorzugten Ausführungsform das adaptive Filter so aus­ gelegt, daß es als approximierte Funktion ein bandbreiteredu­ ziertes HDTV-Signal ausgibt.
Weitere vorteilhafte Ausgestaltungen ergeben sich aus den übri­ gen Unteransprüchen.
Im folgenden wird die Erfindung anhand von Beispielen unter Bezugnahme auf die beiliegenden Zeichnungen näher erläutert. Dabei zeigen im einzelnen:
Fig. 1 ein Blockschaltbild des erfindungsgemäßen Filters,
Fig. 2 und 3 Vektordiagramme zur Erläuterung des der Erfindung zugrundeliegenden mathematischen Prinzips,
Fig. 4 ein Beispiel für verwendbare Elementarfilter,
Fig. 5, 5a bis 12 die stufenweise Annäherung einer Nicht-(XOR)-Funktion durch eine von dem erfindungsgemäßen Filter entwickelte Funktion,
Fig. 13 ein Flußdiagramm der von dem Filter angewandten Rechen­ operation,
Fig. 14 ein allgemeines Beispiel, wie eine Sollfunktion hoher Bandbreite durch eine informationsreduzierte Annähe­ rungsfunktion beschrieben werden kann,
Fig. 15 ein weiteres Flußdiagramm einer von dem Filter anwend­ baren Rechenoperation.
Bekanntermaßen kann ein gegebener Vektor unter Voraussetzung eines orthogonalen Koordinatensystems durch die gerichtete Addition seiner Projektionen auf die einzelnen Achsen des Raumes ausgedrückt werden. Sobald jedoch die den Raum aufspan­ nenden Achsen nicht mehr senkrecht aufeinander stehen, gilt dieser Zusammenhang nicht mehr, wie anhand von Fig. 2 ersicht­ lich ist.
Das zueinander nicht orthogonale Achsenpaar g0, g1 spannt einen zweidimensionalen Raum auf, in dem der Vektor A liegt. Addiert man die gerichteten Projektionen A0, A1 des Vektors A auf die Achsen g0, g1, so resultiert dies in einem anderen Vektor als dem Ausgangsvektor A. Um wieder den Vektor A zu erhalten, ist eine Multiplikation der einzelnen Projektionen mit dem soge­ nannten kontravarianten Metriktensor notwendig, der durch In­ vertierung aus dem kovarienten Metriktensor der Basisvektoren g0, g1 gebildet werden kann.
Die Multiplikation der Basisvektoren g0, g1 mit dem kontra­ varianten Metriktensor (im folgenden durch das Symbol gab ge­ kennzeichnet) führt zu einer Skalierung der ursprünglichen Pro­ jektionen A0, A1, wie dies in der Fig. 2 durch die kürzeren Projektionen A⁰, A1 angedeutet ist. Die gerichtete Addition dieser durch den Metriktensor bewerteten Projektionen führt wiederum zum Ausgangsvektor A.
Mathematisch läßt sich diese Operation wie folgt ausdrücken:
wobei Aa die Projektionen des Vektors A auf die Basisvektoren ga angibt, die mathematisch durch entsprechende Skalarmultipli­ kation erhalten werden können.
Fig. 3 zeigt wiederum eine Ausgangsfunktion F (Sollwertfunk­ tion) und ein Basisvektorpaar g0, g1. Da der dargestellte Raum dreidimensional ist, spannt die Basis g0, g1 lediglich einen zweidimensionalen Unterraum darin auf. Die Projektion der Soll­ funktion (Soll-Vektor) F auf diesem Unterraum ist wiederum durch Vektor A dargestellt. Diese Projektion ergibt sich wie oben durch die gerichtete Addition der mit dem kontravarianten Metriktensor der Basisvektoren bewerteten Projektionen der Sollfunktion F auf die beiden Basisvektoren g0, g1. Die beiden bewerteten Projektionen A⁰, A1 ergeben, wenn sie gerichtet addiert werden, die Projektion A der Funktion F auf dem durch die Basis g0, g1 aufgespannten Unterraum.
Auch in diesem Fall läßt sich die Projektion A formelmäßig durch die Formel 1 erfassen, wenn für die Normalprojektionen Aa die Projektion der Sollfunktion F auf die Basisvektoren (er­ mittelbar mit Hilfe z. B. von Skalarmultiplikationen) verwendet werden.
Die Projektion A weicht um die gestrichelt angedeutete Diffe­ renz D von der Ausgangsfunktion F ab. Formelmäßig läßt sich das durch folgenden Zusammenhang erfassen
wobei Aa wiederum für die Projektionen der Ausgangsfunktion F auf die Basisvektoren g0, g1 steht.
Es sei darauf hingewiesen, daß Formel 2 nur in euklidischen und nicht gekrümmten Räumen anwendbar ist und für andere Räume durch eine entsprechende Abstandsfunktion ersetzt werden muß. Somit lautet Formel 2 allgemein
Die durch die Formel 2 ausgedrückte Abweichung der Projektion A von der Funktion F läßt sich, wenn man für die Basisvektoren g0, g1 sich drehende Vektoren zuläßt, mit bekannten mathe­ matischen Verfahren, beispielsweise dem Gradientenabstiegsver­ fahren minimieren. Dies bedeutet bildlich ausgedrückt, daß sich der durch g0, g1 aufgespannte Unterraum und die darin abgebil­ dete Projektion A in Richtung der Ausgangsfunktion F dreht, bis sie schließlich mit dieser zur Deckung kommt. Während des Hoch­ drehens des Unterraums verändern sich die Darstellungen der Basisvektoren, der aus ihnen zu berechnende kontrovariante Metriktensor und die Projektionen der Funktion F auf die ein­ zelnen Basisvektoren (in Fig. 3 sind jedoch bereits die mit dem Metriktensor bewerteten Projektionen A⁰, A1 eingetragen).
Die oben erläuterte Berechnung der Projektion A mit Hilfe des Metriktensors betrifft jedoch nur eine spezielle Ausführungs­ form der vorliegenden Erfindung. Im folgenden werden weitere spezielle Ausführungsformen des erfindungsgemäßen adaptiven Filters erläutert, bevor anschließend auf eine allgemeine Be­ schreibung des erfindungsgemäßen adaptiven Filters eingegangen wird, der auf das Grundprinzip dieser vorgestellten Ausfüh­ rungsformen abstrahiert ist und somit stellvertretend für alle weiteren Ausführungsformen des adaptiven Filters steht, welche dem Fachmann nach dem Studium der erläuterten Ausführungsformen ohne weiteres erkennbar sein werden.
Zunächst wird für das weitere Verständnis nochmals Bezug auf Fig. 2 genommen. In Fig. 2 ist nicht nur das Basisvektorpaar g0, g1 eingetragen, sondern auch das dazu biorthogonal adjun­ gierte Basenpaar g⁰, g1. Ersichtlicherweise läßt sich der Vek­ tor A nicht nur durch die gerichtete Addition der bewerteten Projektionen A⁰ und A1 darstellen, sondern auch durch die zwei weiteren eingezeichneten Vektoren A0, A1, entlang der adjun­ gierten Basen g⁰, g1, deren Normalprojektionen auf das Basen­ paar g0, g1 ebenfalls A0 und A1 betragen. Bezogen auf die Be­ rechnung der Projektion A in den aufgespannten Unterraum lassen sich diese beiden grundlegenden Möglichkeiten formelmäßig wie folgt darstellen:
Vereinfachend ausgedrückt ist es also möglich, die gesuchte Projektion A als Summe der Multiplikationen der kontravarianten Komponenten Aa mit ihren jeweiligen Basisvektoren ga auszu­ drücken, wobei die kontravarianten Komponenten in diesem Fall unter Verwendung des Metriktensors gab errechnet werden oder durch die Summe der Multiplikationen aus den Normalprojektionen Aa mit ihren jeweiligen biorthogonal adjungierten Basen ga, wobei diese biorthogonal adjungierten Basen, in diesem Fall unter Verwendung des Metriktensors gba berechnet werden.
Diese beiden Fälle werden im folgenden als Hauptfall 1 und Hauptfall 2 bezeichnet. Die Zusammenhänge werden später nochmals im Zusammenhang mit Fig. 13 erläutert, wobei auch die entsprechenden Formeln explizit nochmals in Block 132 der Fig. 13 aufgeführt sind.
Die Heranziehung des kontravarianten Metriktensors zur Berech­ nung der Projektion A ist für die vorliegende Erfindung nicht zwingend und stellt demgemäß, wie oben erwähnt, nur eine spe­ zielle Ausführungsform der Erfindung dar. Obwohl die Verwendung des Metriktensors zu einer mathematisch eleganten Berechnungs­ weise der Projektion A führt, haben Berechnungsverfahren für die Projektion A, die ohne den Metriktensor auskommen, den Vor­ teil, daß hierbei die rechnerisch aufwendige Invertierung des kovarianten Metriktensors zur Berechnung des kontravarianten Metriktensors unterbleiben kann. Da die Invertierung des ko­ varianten Metriktensors für jede Verdrehung des Achsenpaares g0, g1 erneut berechnet werden muß, führt dies verständlicher­ weise inbesondere bei Tensoren mit vielen Dimensionen zu einem hohen Rechenaufwand. Als Beispiel für ein Berechnungsverfahren für eine weitere bevorzugte Ausführungsform des erfindungsge­ mäßen adaptiven Filters wird daher im folgenden ein Verfahren erläutert, welches ohne das Hilfsmittel des kontravarianten Metriktensors auskommt.
Da sich die Projektion des Vektors A auf den Basisvektor ga wie folgt ausdrücken läßt:
wobei gba den kovarianten Metriktensor angibt, somit gilt:
Somit läßt sich durch Minimierung dieser Abstandsfunktion die noch unbekannte bewertete Projektion Ab auffinden. Mathematisch läßt sich das wie folgt ausdrücken:
Somit läßt sich für alle a schreiben:
wobei A (t) nun eine zeitabhängige Größe oder Satz von Größen angibt, die so zu verändern sind, daß E möglichst klein wird.
Dies kann beispielsweise durch ein klassisches Gradienten­ abstiegsverfahren erreicht werden:
sei für alle σ:
A(t) ändert sich jetzt so lange, bis
gilt oder die "Energie" E unter einem Sollwert liegt. Dies ist der Fall, wenn Aδ (t) nahe der ge­ suchten Größe A ist.
Somit läßt sich die Darstellung der Projektion A auch ohne Ver­ wendung des kontravarianten Metriktensors durch Minimierung der Abstandsfunktion auffinden.
Anhand von Fig. 2 läßt sich das Minimierungsverfahren anschau­ lich erläutern. Bekannt sind die Normalprojektionen A0, A1 auf das Basenpaar g0, g1. Das Minimierungsverfahren erreicht nun, daß beliebige Vektoren A0′, A1′, in Richtung der Basisvektoren g0, g1 in ihrer Länge so ausgerichtet werden, bis die Normal­ projektionen ihrer gerichteten Addition A′ gleich den Projek­ tionen A0, A1 des gesuchten Vektors A auf die Basisvektoren g0, g1 sind. Ein Vektor A′, der dieser Bedingung genügt, ist aber gerade der gesuchte Vektor A, so daß damit die Längen der ent­ sprechend veränderten Vektoren A0′, A1′, deren gerichtete Addi­ tion den Vektor A′ ausmachen, den gesuchten bewerteten Projek­ toren A⁰, A1 entsprechen.
Statt von der obigen Gleichung 5 auszugehen, könnte ein ent­ sprechendes Minimierungsverfahren auch von folgender Gleichung ausgehen:
Diese Gleichung läßt sich wie oben durch Differenzieren nach Ai wie folgt minimieren:
Anschaulich gesprochen besteht der Unterschied zwischen einer Minimierung ausgehend von Formel 5 und einer Minimierung aus­ gehend von Formel 8 darin, daß bei Formel 8 eine Minimierung des Abstandes zwischen der Sollfunktion F und der gerichteten Addition der bewerteten Komponenten stattfindet, wohingegen bei dem auf Gleichung 5 aufbauenden Verfahren eine Minimierung des Abstandes zwischen den Normalprojektionen der Sollfunktion F auf die Basisvektoren und den entsprechenden Normalprojektionen des Vektors A′ auf die Basisvektoren durchgeführt wird.
Als weitere Möglichkeit zur Berechnung der Projektion A wird im folgenden ein iteratives Verfahren vorgestellt.
Die Größe Aa wird iterativ berechnet, wobei die Iteration über den Satz von Beispielen geht.
Die Größen Aa werden berechnet, indem der neue Wert aus dem jeweils davor berechneten Wert abgeleitet wird. Der Vorteil des Verfahrens liegt darin, daß man nicht alle Beispiele speichern muß, sondern nach und nach einlesen kann.
Die Gleichungen lauten:
wobei sich der kontravariante Metriktensor beispielsweise wie folgt berechnen läßt:
Daraus ergibt sich:
Die beiden zuletzt erläuterten Berechnungsverfahren sowie das anfänglich vorgestellte Berechnungsverfahren unter Verwendung des Metriktensors sind entsprechend der oben getroffenen Fall­ unterscheidung sämtlich dem Hauptfall 1 zuzuordnen, d. h. bei diesem Verfahren werden auf unterschiedlichen Wegen die bewer­ teten Komponenten Aa berechnet.
Im folgenden werden entsprechende Verfahren zum Hauptfall 2 er­ läutert, d. h. in den folgenden Verfahren besteht die Berechnung der jeweils adjungierten Basen im Vordergrund.
Ein dieser Gruppe zurechenbares Verfahren besteht darin, die adjungierten Basen mittels des kontravarianten Metriktensors zu berechnen. Formelmäßig ausgedrückt bedeutet dies:
wobei sich die gesuchte Projektion A auf dieser Formel auf­ bauend wie folgt ausdrücken läßt:
Dieses Verfahren korrespondiert somit zu dem zur ersten Fall­ gruppe gehörigen anfänglich vorgestellten Verfahren, bei dem die bewerteten Komponenten mittels des kontravarianten Metrik­ tensors berechnet werden. Wie bereits oben erwähnt, sind diese zwei korrespondierenden Verfahren nochmals explizit im Block 132 der Fig. 13 aufgeführt.
Ein weiteres Verfahren dieser Fallgruppe, welches ohne den kontravarianten Metriktensor auskommt und somit ohne eine bei jedem Schritt durchzuführende Invertierung des kovarianten Metriktensors auskommt, ist das folgende:
Ausgehend von dem Zusammenhang
führt man zur Berechnung der unbekannten adjungierten Basis­ vektor ga folgende Minimierung aus:
Dafür läßt sich äquivalent für alle a schreiben:
wobei gb(t) nun eine zeitabhängige Größe ist, die es so zu verändern gilt, daß obiges E möglichst klein wird. gb(t) wird nun so verändert, daß E minimiert wird, was beispielsweise wiederum durch ein klassisches Gradientenabstiegsverfahren erreichbar ist:
ga(t) ändert sich nun so lange, bis dg/dt = 0 oder unter einem Schwellenwert liegt bzw. die Energie kleiner als ein Sollwert ist; ist dies der Fall, so ist die resultierende Größe ga(t) nahe der gesuchten Größe ga, weil dann der Fehler E minimal ist.
Dieses Verfahren korrespondiert somit mit dem zweiten, zur Fallgruppe 1 vorgestellten Verfahren.
Eine weitere, für das obige Verfahren heranzuziehende Fehler­ funktion wäre die folgende:
Diese läßt sich wie oben nach ga minimieren:
Eine weitere Möglichkeit, durch Gradientenabstieg die kontra­ variante Basis zu berechnen, besteht durch Verwendung folgender Grundgleichung:
Als dritte Möglichkeit bietet sich ein iteratives Verfahren an, wie es oben für den ersten Hauptfall beschrieben wurde.
Im folgenden wird nun, wie oben bereits angedeutet, das allen Berechnungsverfahren zugrundeliegende Prinzip erläutert:
Die Projektion der Sollfunktion F auf dem von den Vektoren ga, gb aufgespannten Unterraum entspricht der Lösung eines klassischen Problems der linearen Algebra des sog. "Least Squares"-Problems. Alle oben vorgestellten Lösungsansätze sind spezielle Lösungen der folgenden allgemeinen Gleichung:
MX = B (20)
Dabei ist M eine bekannte Matrix, X ein zu suchender Vektor, und B ein bekannter Vektor.
Die Dimension des Vektors X sei kleiner als die Dimension von B und die Matrix M ist entsprechend von der Dimension X mal der Dimension von B.
Das dadurch gebildete Gleichungssystem hat im Regelfall keine exakte Lösung, da die Anzahl der Gleichungen größer ist als die Anzahl der Unbekannten, das System somit überbestimmt ist. Allerdings sind auch Fälle denkbar, bei denen die Dimension von X größer oder gleich der Dimension von B sind. Auch diese sind durch nachfolgendes Verfahren lösbar. Mit Hilfe eines Ver­ fahrens, daß allgemein als "Least Squares"-Verfahren in der Mathematik bekannt ist, läßt sich jedoch auf der Grundlage des kleinsten mathematischen Fehlers eine Lösung finden. Bezogen auf die vorliegende Erfindung entspricht B der Sollfunktion F, M einer Matrix, die aus den kovarianten Basisfunktionen ga da­ durch gebildet wird, daß man die Basisfunktionen kolonnenweise nebeneinander schreibt und X entspricht dem Vektor der gesuch­ ten kontravarianten bzw. bewerteten Komponenten Aa. Das Matrix-Vektor-Produkt MX läßt sich somit wie folgt ausdrücken:
Dies entspricht der Projektion A auf den Unterraum. Die Pro­ jektion A ist somit die "Least Squares"-Lösung des Gleichungs­ systems.
Aufgrund dieses aufgezeigten allgemeinen Zusammenhangs sei somit nochmals ausdrücklich darauf hingewiesen, daß die vor­ liegende Erfindung nicht auf die Verwendung der oben explizit erwähnten Berechnungsverfahren beschränkt ist, sondern daß die vorliegende Erfindung jegliche Lösungsansätze mit einschließt, die sich mit der Lösung des gemäß der Gleichungen 20 und 21 ausgedrückten Grundproblems befassen. Erläuternd sei darauf hingewiesen, daß sich das zuerst beschriebene Verfahren, welches für die Berechnung den Metriktensor heranzieht, hier als Lösung der sog. Normalgleichungen auf direktem Weg dar­ stellt. Formelmäßig läßt sich dies wie folgt ausdrücken:
MTMX = MTB
→ X = (MTM)-1 MTB (22)
Denkbare andere Lösungsansätze, die oben nicht explizit vorge­ stellt wurden, die aber auch als Lösung des allgemeinen Prob­ lems angesehen werden können, sind beispielsweise das sog. "Singular Value Decomposition"-Verfahren, was ein weiteres Ver­ fahren zur Matrix-Inversion darstellt.
Zum leichteren Verständnis der obigen Zusammenhänge seien diese nochmals anhand der Fig. 3 graphisch erläutert.
Der Grundgedanke besteht darin, daß die Projektion A der Soll­ funktion F in den aufgespannten Unterraum sich auf der Grund­ lage der Erkenntnis berechnen läßt, daß die momentan berechnete Projektion A′ nur dann der tatsächlichen Projektion A der Soll­ funktion F auf den Unterraum entspricht, wenn diese momentan berechnete Projektion A′ die gleichen Projektionen auf den auf­ gespannten Unterraum aufweist wie die Sollfunktion F. Mit anderen Worten weist die Sollfunktion F, obwohl sie nicht in dem aufgespannten Unterraum liegt, die gleichen Projektionen auf die Basisvektoren auf wie ihre tatsächliche, im Unterraum liegende Projektion A. Alle oben vorgestellten Verfahren nach Hauptfall 1 machen sich diesen Zusammenhang zunutze, um das eigentlich nicht lösbare Gleichungssystem
dennoch lösen zu können. Die Skalarmultiplikation der Sollfunk­ tion F auf das betrachtete Basenpaar entspricht nur dann der Projektion des linken Terms auf das betrachtete Basenpaar, wenn der linke Term der gesuchten Projektion A entspricht.
Insbesondere bei Verfahren, die ohne Verwendung des kontra­ varianten Metriktensors auskommen, bei denen daher entsprechend der Fallgruppe 1 und 2 bereits die Größen Aa bzw. ga durch Minimierungsverfahren, wie etwa dem Gradientenabstiegsver­ fahren, berechnet werden müssen, bietet sich an, in dem erfin­ dungsgemäßen Filter zwei voneinander unabhängige Berechnungs­ module vorzusehen, die dann ihre berechneten Werte unter­ einander austauschen.
Beispielsweise wäre eine erste Untereinheit 1 für die Berech­ nung der Größen ga bzw. Aa zuständig. Eine weitere Untereinheit 2 wäre dann für die Berechnung der Abweichung der Approximation der Sollfunktion von der Sollfunktion selbst zuständig. Dem Filter würden somit für die Initialisierung anfänglich Zufalls­ werte für die Parameter der Filter ga eingegeben werden. Daraus würde der Filter dann ga und Aa berechnen.
Mit diesen Werten würde die Untereinheit 1 die Werte für Aa bzw. ga iterativ oder auf anderem Wege berechnen.
Sobald die entsprechenden Werte berechnet sind, führt die Untereinheit 2 einen oder wenige Schritte zur Minimierung der Abweichung durch. Daraus resultieren wiederum neue Werte für ga und Aa.
Aufbauend auf diesen Werten berechnet Untereinheit 1 dann wiederum neue Werte für Aa bwz. ga, die wiederum Grundlage für einen oder wenige Schritte der Untereinheit 2 sind.
Dies wird iterativ so lange fortgesetzt, bis die Untereinheit 2 ihrerseits voll konvergiert hat und somit die Approximation an die Sollfunktion optimal gelöst ist.
Untereinheit 2 würde also immer nur einen oder wenige Schritte durchführen, während Untereinheit 1 stets vollständig konver­ giert.
Das Verfahren kann natürlich auch mit Hilfe gekoppelter Diffe­ rentialgleichungen durchgeführt werden, wobei dann die Zeit­ konstanten der Untereinheit 2 entsprechend höher liegen würden als die der Untereinheit 1, damit letztere schneller rechnen kann.
Verläßt man nun den anschaulichen, in Fig. 3 gezeigten Vektor­ raum und spannt den Unterraum im Funktionenraum durch ein Paar zueinander verschobener Gaußfilter, wie sie in Fig. 4 gezeigt sind, auf, so läßt sich das oben angesprochene Drehen der den Unterraum aufspannenden Basis leichter verstehen.
Die in Fig. 4 gezeigten Gaußkurven 1, 2 können als Filterfunk­ tionen über die Zeit oder den Ort aufgefaßt werden. Statt der Gaußkurven kommt jeder andere Kurvenverlauf in Frage, insbeson­ dere auch sogenannte Gaborfunktionen. Auch können die in Fig. 4 gezeigten Filter 1, 2 mehrdimensional sein, also beispielsweise zwei "Hügel" über einem zweidimensionalen Feld.
Auch durch die Filter 1, 2 kann im Funktionenraum ein Unterraum aufgespannt werden, da die Filter aufgrund der Verschiebung zueinander linear unabhängig sind. Werden diese Filter diskret angenommen, so können sie durch einen in seiner Dimension mit der Auflösung übereinstimmenden Vektor dargestellt werden. Geht die Auflösung gegen Unendlich, so kann der entsprechende Vektor eine unendliche Dimension annehmen, was einer analogen Filter­ funktion entspricht.
Weitere bevorzugte, im Rahmen der folgenden Erfindung zu ver­ wendende Elementarfunktionen werden weiter unten behandelt.
Stellt nun eine anzunähernde Sollfunktion F beispielsweise ein "Gebirge" über einer Ebene dar, so ist das erfindungsgemäße adaptive Filter durch Verwendung zweidimensionaler Gaußfilter in der Lage, das Gebirge nachzubilden. Dies geschieht, indem die Gaußfilter an die Orte der Erhebungen des Gebirges ge­ schoben werden und dort entsprechend dem Gebirgsverlauf durch Parameterveränderung (z. B. Standardabweichung) spitzer oder stumpfer gemacht und entsprechend gestreckt werden. Ein der­ artiger Gebirgsverlauf kann beispielsweise durch tausend Elementar-Gaußfilter, die entsprechend verschoben und geformt werden, nachgebildet werden. Für eine einfache Gebirgsform können auch bereits einige wenige Elementarfilter, unter Um­ ständen sogar ein einziger, ausreichen, um das Wesen der Aus­ gangsfunktion in einer der Weiterverarbeitung genügenden Weise nachzubilden. Ist das Gebirge einmal durch die eingestellten Elementarfilter beschrieben, so ist der Informationsgehalt der ursprünglichen Funktion drastisch bis auf einige wenige Filter­ parameter reduziert.
Bei diesem Beispiel entspricht das Verschieben und Formen der zweidimensionalen Gaußfilter dem im Zusammenhang mit Fig. 3 be­ zeichneten Drehen des Untervektorraums in Richtung der Aus­ gangsfunktion F. Bei dem in Formel 2 angegebenen Zusammenhang repräsentiert ga die zweidimensionalen gaußförmigen Elementar­ filter. Sowohl die Projektionen der Ausgangsfunktion F (Gebirge!) auf die Elementarfilter Aa, als auch die Elementar­ filter selbst und der aus ihnen gebildete kontravariante Metriktensor sind von den die Elementarfilter beschreibenden Parametern abhängig und ändern sich mit einer Verschiebung, Drehung oder Formänderung der Elementarfilter ständig mit. Die Differenz D kann, wie oben bereits erwähnt wurde, mittels her­ kömmlicher Berechnungsmethoden, die deterministische Natur (Gradientenabstiegsverfahren) oder auch stochastischer Natur ("simulated annealing", "Monte Carlo") sein können, minimiert werden, so daß sich nach erfolgter Minimierung die optimale Annäherung der Ausgangsfunktion über eine Beschreibung durch die eingestellten Elementarfilter ergibt.
Diese Minimierung läuft selbständig ab, so daß der erfindungs­ gemäße adaptive Filter selbständig in die beste Annäherung kon­ vergiert.
Dem erfindungsgemäßen adaptiven Filter wird also eine Sollfunk­ tion eingegeben, die er dann aufgrund seiner Filterstruktur automatisch durch eine mit Elementarfiltern beschreibbare Funk­ tion optimal annähert und ausgeben kann. Die angenäherte Funk­ tion ist, wie erwähnt, in hohem Maße in der Bandbreite redu­ ziert, wodurch sich vielfältige Anwendungsmöglichkeiten er­ geben, auf die im folgenden noch näher eingegangen wird.
Eine Ausführungsform des erfindungsgemäßen Filters ist in Fig. 1 schematisch dargestellt. Der Filter 1 liest in seinen Speicher 2 eine nachzubildende Funktion F ein. Weiter weist der Filter 1 einen Speicher 3 auf, in dem zumindest ein Satz von Elementarfiltern abgelegt ist, die für die Annäherung verwendet werden. Dadurch ist eine CPU 4 in der Lage, die Normalprojek­ tionen der Funktion F auf die Elementarfilter zu berechnen (Skalarmultiplikation), und die Berechnung des kontravarianten Metriktensors von den Elementarfiltern durchzuführen, so daß jeweils die Differenz D gemäß Formel 2 in Abhängigkeit der Fil­ terparameter (Mittelwert, Standardabweichung, etc.) darstellbar ist, welche dann mittels eines programmierten Minimierungs­ algorithmus minimiert werden kann. Nach erfolgter Minimierung gibt das adaptive Filter die angenäherte, informationsredu­ zierte Funktion Fapp aus, die für die weitere Verarbeitung ver­ wendet wird. Die approximierte Funktion entspricht in der Formel 2 dem Substrahenten nach erfolgter Minimierung.
Das Filter 1 hat damit eine übliche Filterungsfunktion selb­ ständig bewerkstelligen können, nämlich gewünschte wesentliche Komponenten aus einem Eingangssignal zu extrahieren. In einem weiteren Speicher 5 kann das Filter 1 die aufgefundene Approxi­ mation abspeichern, wobei die abgespeicherten Funktionswerte in Antwort auf ein weiteres Eingangssignal (beispielsweise Orts­ koordinaten X, Y) werteweise ausgegeben werden können.
Selbstverständlich kann das Filter 1 auch eine Vielzahl von Sollfunktionen F annähern und im Speicher 5 abspeichern. Da­ durch wird es dem adaptiven Filter möglich, eine neu hinzu­ kommende Sollfunktion nach deren Approximation mit bereits ge­ speicherten Approximationsfunktionen zu vergleichen (was wiederum mit üblichen mathematischen Verfahren möglich ist), um dann aus den abgespeicherten approximierten Funktionen die­ jenige herauszusuchen, die am besten mit der neu hinzugekom­ menen und approximierten Funktion korreliert. Auf diese Weise ist eine Mustererkennung möglich. Gegenüber bisherigen Mustererkennungsverfahren weist eine Mustererkennung unter Ver­ wendung des erfindungsgemäßen adaptiven Filters den Vorteil auf, daß sie wesentlich schneller durchführbar ist und dabei geringe Anforderungen an die zu klassifizierenden Funktionen ge­ stellt werden müssen, was im folgenden noch näher erläutert wird.
Vorzugsweise stellt die CPU 4 die aufgefundenen Filterparameter an einem eigenen Ausgang zur Verfügung, da diese Parameter die wesentlichen Klassifikationsmerkmale einer approximierten Funk­ tion darstellen.
Die Fig. 5, 5a-12 zeigen eine Computersimulation der Be­ rechnung einer Annäherungsfunktion durch das adaptive Filter an die in Fig. 5 gezeigte NICHT(XOR)-Funktion, die, wie in Fig. 5a gezeigt ist, zusätzlich mit adaptivem Rauschen beaufschlagt wurde. Nach einer Anzahl von Berechnungsschritten, die in den Fig. 6 bis 11 gezeigt sind, findet das Filter automatisch die in Fig. 12 gezeigte Näherungsfunktion.
Obwohl in Fig. 3 die Drehung des Unterraumes nur hinsichtlich einer Dimension erfolgte, ist klar, daß die Elementarfilter eine Drehung in beliebig viele Dimensionen automatisch aus­ führen können, wobei dann selbstverständlich die Berechnungs­ methoden der Minimierung umfangreicher, jedoch nicht unlösbar werden.
Die Minimierung der durch Formel 2 ausgedrückten Differenz D zwischen Sollfunktion und momentan angenäherter Funktion, aus­ gedrückt durch die veränderbaren Filterparameter, die in dem oben erwähnten Beispiel zu einer Ausrichtung der Filter ent­ sprechend der "Gebirgs"-Form führte und beispielsweise mit Hilfe des Gradientenaufstiegsverfahrens gelöst werden kann, läßt sich anschaulich so auffassen, als ob Kräfte auf die Filter wirken, die diese in die entsprechende Position und Formgebung zwingen. Das System ist also stets bestrebt, den Punkt der geringsten Energie zu erreichen, der einer optimalen Filterausrichtung entspricht.
Die Fig. 13 gibt nochmals die wichtigsten der oben beschrie­ benen Zusammenhänge in Form eines Flußdiagrammes wieder.
Bei 130 wird dem adaptiven Filter ein Eingangsraum bzw. eine zu approximierende Funktion F eingegeben. Diese Funktion wird durch die im Block 131 vorhandene Filterbank, bestehend aus Elementarfilterfunktionen wie beispielsweise Gaborfiltern, "Wavelets", "Splines", Gaußfiltern oder Polynomen, die jeweils parametrisch oder nicht-parametrisch, orthogonal oder nicht orthogonal sein können, auf die entsprechenden Elementarfilter projiziert. Die dadurch enthaltenen Normalprojektionen Ag werden an den Block 132 weitergegeben. Ebenso werden die Elementarfilterfunktionen an diesen Block weitergegeben.
Im Block 132 werden die kontravarianten Komponenten entsprechend der angegebenen Formel berechnet. Dazu wird der kontravariante Metriktensor dem Block 132 zugeführt, der seinerseits aus dem kovarianten Metriktensor mit Hilfe üblicher Berechnungsver­ fahren, beispielsweise dem Gradientenabstiegsverfahren oder dem Jakobiverfahren, berechnet wurde.
Die Multiplikation der kontravarianten Komponenten mit ihrem entsprechenden Elementarfilter (Basisvektor) führt zu den "ge­ richteten" kontravarianten Komponenten, die zusammen die Pro­ jektion A gemäß einer der beiden Formeln der letzten Zeile des Blocks 132 ergeben. Diese Darstellung der Projektion der Soll­ funktion auf den aufgespannten Unterraum wird an den Block 134 weitergegeben, bei dem die Differenz der Projektion gegenüber der Sollfunktion mittels eines Energieminimierungsverfahrens verkleinert wird. Die dadurch bewirkte Verdrehung der Elemen­ tarfilter wird an den Block 131 weitergeleitet, wo erneut die Normalprojektionen der Funktion F in den gedrehten Unterraum berechnet werden und auch die darauffolgenden Schritte erneut ausgeführt werden. Nach einer bestimmten Anzahl von Berech­ nungen ist eine energetische Minimierung erreicht und die letztlich aufgefundene Projektion A entspricht der approxi­ mierten Funktion und kann vom adaptiven Filter ausgegeben werden.
Eine spezielle Ausführungsform der vorliegenden Erfindung sieht vor, daß bereits die erste Projektion auf den Unterraum als die approximierte Funktion angenommen wird, wodurch sich die Be­ rechnung selbstverständlich wesentlich verkürzt. Ein derartiges Filter kann unter Umständen in sehr kurzen Berechnungszeiten ausreichend gute Ergebnisse liefern. Genauer wird ein der­ artiges Filter, wenn nicht nur ein Satz Elementarfilter, auf­ spannend einen ersten Unterraum, verwendet wird, sondern weitere Sätze verwendet werden, die weitere Unterräume auf­ spannen. In diesem Fall können die Projektionen der Sollfunk­ tionen auf jeden der aufgespannten Unterräume berechnet werden und anschließend diejenige Projektion als approximierte Funk­ tion verwendet werden, deren Differenz zur Ausgangsfunktion F minimal ist. Für die Berechnung der Differenz wird dabei vor­ zugsweise wiederum der Zusammenhang gemäß Formel 2 (bzw. 2′) verwendet. Auch ein derartiges Filter ist selbstverständlich äußerst schnell und insbesondere für Echtzeitanwendung ge­ eignet.
In Fig. 15 sind nochmals die wichtigsten Zusammenhänge für eine bevorzugte Filterstruktur unter Verzicht auf die Berechnung des kontravarianten Metriktensors aufgezeigt, wobei diese Figur anhand der Beschriftungen sowie der obigen Erläuterungen ver­ ständlich sein sollte.
Weitere in Zusammenhang mit der vorliegenden Erfindung zu verwendende wichtige Elementarfunktionen sind die folgenden:
wobei Wia, R Skalare sind, nämlich entsprechend die Parameter der Basisfunktion ga und
Diese Funktion wird in ca. 70% aller neuronalen Netzwerk- Anwendungen verwendet und stellt somit die für einen großen Anwendungsbereich zu wählende Funktion dar.
Eine weitere Funktion wäre die folgende:
ga(Xi, i ε {1, . . . N}) = tanh (WiaXi + R) (25)
mit
und Wia, R wie oben.
Nochmals sei explizit darauf hingewiesen, daß neben den eukli­ dischen Distanzen ausdrücklich auch andere Distanzen in Frage kommen, wie beispielsweise die Kullback-Leibler-Entropie, Manhattan-Distanz, Mahalanobis-Distanz etc.
Des weiteren sei darauf hingewiesen, daß es stets genügt, nur den Raum zu betrachten, in dem die Beispiele für die Sollfunk­ tion liegen. Mit anderen Worten genügt es, die zu approxi­ mierende Funktion als ein Vektor im Funktionsraum zu betrach­ ten, wobei jedoch nur der Vektor betrachtet wird, der im Bei­ spielsraum liegt.
Ferner reicht es auch stets aus, die Sollfunktion F und das Verfahren nur für die Eingangswerte zu betrachten, für die auch Ausgangsbeispiele vorliegen, d. h. mit anderen Worten, daß eine Berechnung nur in so vielen Dimensionen erfolgt, wie es der Abtastung der Eingangsfunktion entspricht.
In manchen Fällen kann es sinnvoll sein, die rekonstruierte Projektion A nochmals durch eine Funktion h zu verändern, um schwierige Soll-Funktionen auch approximieren zu können. In diesem Fall ist dann die zu minimierende Distanz D:
Weiter sei angemerkt, daß, falls keine analytische Abhängigkeit der Basisfunktion von den Parametern gegeben ist, wie es zum Beispiel bei der fraktalen Funktion der Fall sein kann, auch eine andere Art der Feststellung der Abhängigkeit zum Beispiel durch Minimierung einer Kosten/Fehlerfunktion oder Abschätzung/ Heuristik möglich ist.
Ferner kann man eine sigmoide, tanh oder eine andere Funktion auch auf die Projektion A = Σ aAaga verwenden, so daß dann die zu vermindernde Distanz lautet:
wobei h(f) eine Funktion wie sigmoide, tanh oder eine andere repräsentiert.
Allgemein läßt sich das wie folgt schreiben:
Ferner sei darauf hingewiesen, daß auch eine andere Kosten/ Fehlerfunktion E einsetzbar ist, dessen Minimierung der Mini­ mierung der Distanz D entspricht.
Als erfindungswesentlich sind auch die folgenden Zusammenhänge zu betrachten:
Sei proj ga die Projektion der Basisfunktion ga auf die Ebene, die von der Sollfunktion F und der entsprechenden Basisfunktion ga aufgespannt wird. Dann ist die Minimierung der Distanz:
der Minimierung der Distanz E
äquivalent.
Identisches gilt natürlich im Fall der allgemeinen Distanz:
bzw.:
D = f(F, Aaga)
Schließlich sei noch darauf hingewiesen, daß das erfindungs­ gemäße Filter auch hierarchisch aus Unterfiltern aufgebaut sein kann. Jeder Unterfilter entspricht dann einer Basisfunktion des höheren Filters. Mehrere Unterfilter spannen somit wiederum den Unterraum auf.
Im folgenden sollen nun einige Anwendungsmöglichkeiten des er­ findungsgemäßen adaptiven Filters diskutiert werden, wobei aus­ drücklich festgestellt wird, daß zumindest einige der Anwen­ dungsmöglichkeiten weitere über den adaptiven Filter hinaus­ gehende erfinderische Besonderheiten aufweisen, die ebenfalls als erfindungswesentlich anzusehen sind.
Das Prinzip einer der Hauptanwendungsmöglichkeiten des erfin­ dungsgemäßen adaptiven Filters liegt wie oben angesprochen in der Informationsreduktion. Komplizierte Signale können durch eine vom Filter bereitgestellte approximierte Funktion durch wenige Skalare und Filterparameter in ausreichender Weise dar­ gestellt, weiterverarbeitet und abgespeichert werden.
Ein weiterer wesentlicher Aspekt für die Anwendung des erfin­ dungsgemäßen adaptiven Filters besteht in der Möglichkeit, un­ vollständige Sollfunktionen F durch eine approximierte Funktion anzunähern, wobei diese Approximation aufgrund der Informa­ tionsreduktion zu dem gleichen Ergebnis führen kann, das bei einer Approximation an eine vollständig vorgegebene Sollfunk­ tion aufgetreten wäre. Der Bezug zur Mustererkennung ist offen­ sichtlich.
Wird das adaptive Filter in einem Gerät zur Texturklassifika­ tion eingesetzt, so werden dem Filter unbekannte Texturen ein­ gegeben, die das Filter mittels der oben beschriebenen Zusam­ menhänge in Form approximierter Funktionen "lernt". Wird nun eine unbekannte Textur eingegeben, so wird diejenige gespei­ cherte Textur den größten Ausgangswert liefern, die der unbe­ kannten Textur am ähnlichsten ist, wodurch die unbekannte Textur dieser Klasse zugeordnet werden kann.
Neben der Möglichkeit, ein Fernsehbild mittels des erfindungs­ gemäßen adaptiven Filters in seiner Bandbreite wesentlich redu­ zieren zu können, ist das erfindungsgemäße Filter auch zur Herausfilterung des Bewegungsvektors, beispielsweise bei HDTV, geeignet. Dazu kann ein sich bewegender Gegenstand in mehreren, zeitlich aufeinanderfolgenden Ebenen in Form eines dreidimen­ sionalen Raumes, bei dem eine Dimension die Zeit ist, aufgefaßt bzw. gespeichert werden. In diesem Raum würde ein sich be­ wegender Ball einen seiner Bewegung entsprechen Schlauch be­ schreiben, der einer Sollfunktion F entspricht. Der adaptive Filter wird seine Elementarfilter (mindestens einen) nach diesem Schlauch ausrichten, wodurch die Geschwindigkeit der Be­ wegung des Balles anhand der Filterneigung bestimmbar ist. All­ gemein ausgedrückt, kann das adaptive Filter verwendet werden, um den optischen Fluß in jeder Zeitebene erfassen zu können.
Eine weitere Anwendung ergibt sich in einem Gerät für Stereo­ bildverarbeitung: Der Filter erfaßt jedes der beiden Stereo­ bilder durch Berechnen einer approximierten Funktion und kann aufgrund der unterschiedlichen Ausrichtung der Elementarfilter für jedes einzelne Bild auf das dreidimensionale Bild zurück­ schließen.
Wird das erfindungsgemäße Filter bei einem Gerät zur Muster­ erkennung bzw. einem Verfahren zur Mustererkennung bzw. zur Musterklassifizierung eingesetzt, so ergibt sich dabei der Vor­ teil, daß die Textur, z. B. die Aufnahme einer Gruppe von Per­ sonen, lageunabhängig erkannt werden kann. Es ist also nicht notwendig, die Gruppe von Personen auf demselben Winkel zu "fotografieren", wie er bei den Aufnahmen vorlag, die für den vorausgegangenen Schritt des Lernens der einzelnen Texturen (Personen) verwendet wurde. Der erfindungsgemäße Filter ist durch Ausrichten seiner Elementarfilter in der Lage, die unter­ schiedliche Orientierung im Raum auszugleichen und trotz unter­ schiedlicher Blickwinkel eine gleiche approximierte Funktion auszugeben. Dadurch wird eine eindeutige Zuordnung der zu klassifizierenden Person zu einer Person innerhalb einer Gruppe vorher "gelernter" Personen ermöglicht.
Auch in der Regelungstechnik bestehen vielfältige Anwendungs­ möglichkeiten für das erfindungsgemäße adaptive Filter: Ein über Sensoren detektiertes Regelverhalten bzw. ein vorgegebenes gewünschtes Regelverhalten kann durch das Filter nachgebildet werden, wodurch das gewünschte bzw. detektierte Regelverhalten, da es nunmehr mathematisch exakt erfaßt ist, elektrisch einfach realisiert werden kann, bzw. das Filter kann selbst als Steuer­ einheit dienen, die nach Eingabe von Eingangswerten (XY in Fig. 1) aufgrund eines gespeicherten Regelverhaltens (Speicher 5 in Fig. 1) den richtigen Ausgangswert liefert.
Wird das erfindungsgemäße adaptive Filter im Zusammenhang mit einem Überwachungssystem oder Überwachungsverfahren verwendet, so ergibt sich der Vorteil, daß es möglich ist, ein durch mehrere Sensoren überwachtes Gebiet auch dann noch überwachen zu können, wenn eine der Sensoren (Kamera) ausfällt. Das er­ findungsgemäße Filter wird dann die verbleibenden Sensoren so ausrichten, daß weiterhin eine vollständige Überwachung des interessierenden Raumes ermöglicht wird.
Das erfindungsgemäße Filter ist also in hohem Maße ausfall­ sicher, da, sobald eines der vorgegebenen Elementarfilter aus­ fällt, die verbleibenden Elementarfilter so ausgerichtet werden, daß weiterhin eine optimale Annäherung an eine vor­ gegebene Sollfunktion möglich ist. Die Ausrichtung der ver­ bleibenden Elementarfilter kann völlig anders sein, als dies der Fall ist, wenn kein Elementarfilter ausgefallen ist. Diese Kompensationseigenschaft des erfindungsgemäßen adaptiven Fil­ ters ermöglicht vielfältige Anwendung inbesondere auch in der Luft- und Raumfahrttechnik. Bei den bisherigen Beispielen wurden die Elementarfilter meist als z. B. gaußförmige Funk­ tionen angenommen. Der Begriff Elementarfilter ist jedoch selbstverständlich abstrakt aufzufassen und kann ein ganzes System beschreiben, welches bei Ausfall durch die anderen Elementarfilter (weiteren Teilsysteme) vollständig ersetzt wird.
Weiter ist unter Einsatz des erfindungsgemäßen adaptiven Fil­ ters der Aufbau von hierarchischen Datenbanken möglich, bei denen Symbole nicht als Wörter, sondern in Form von Filter­ parametern und Skalaren (Normalprojektionen) abgespeichert sind.
Beispielsweise kann ein Baum symbolisch durch seine Krone, seinen Stamm und seine Äste dargestellt werden. Jedes dieser Teile kann einzeln als approximierte Funktion oder in hierar­ chischer Ordnung in der Datenbank abgespeichert werden. Ist nun lediglich ein Teil eines Baumes als Eingabefunktion vorhanden, beispielsweise ein Teil der Krone, so wird zunächst die Krone in der Datenbank aufgefunden und durch die hierarchische Zu­ ordnung auf die übrigen Komponenten des Baumes geschlossen.
Auch die Berechnung fraktaler Dimensionen wird mit Hilfe des erfindungsgemäßen aktiven Filters erleichtert. Legt man dem Fil­ ter ein Bild vor und koppelt die Filter in solcher Weise, daß das Filter die fraktale Dimension des Eingangsbildes berechnet, so ist das Bild dann anschließend in der Lage, aus einem ein­ gegebenen Grauwertbild das nächstliegende Bild mit gleicher fraktualer Dimension zu ermitteln.
Möglich ist auch die Konzeption eines Roboters, bei dem der Ausfall eines Effektors durch die übrigen Effektoren kompen­ siert wird. Beispielsweise kann also die Bewegung eines fehler­ haften Gelenks durch eine Ausgleichsbewegung des gesamten Armes kompensiert werden. In diesem Fall stellen die Filter also die Effektoren dar, die in der Lage sind, den Ausfall eines (oder mehrerer) Filters optimal zu kompensieren, so daß die beabsich­ tigte Bewegung weiterhin ausgeführt werden kann.
Im folgenden werden noch einige weitere Anwendungsbeispiele aus dem Bereich der Bildverarbeitung beschrieben:
Texturklassifikation:
Je ein Filter lernt eine Textur.
Wird nun eine unbekannte Textur jedem der Filter eingegeben, so wird jedes Filter einen Ausgangswert liefern. Das Filter, dessen gespeicherte Textur der Unbekannten am ähnlichsten ist, wird den größten Ausgangswert liefern, somit kann die Textur dieser Klasse zugeordnet werden.
Berechnung des optischen Flusses:
Man legt dem Filter eine Serie von Bildern vor, die das Filter als dreidimensionale Funktion auffaßt. Das Filter berechnet nun den Ausgangswert dergestalt, daß dieser für jeden Bildpunkt der Serie von Eingangsbildern den optischen Fluß an dieser Stelle ausgibt.
Berechnung von fraktalen Dimensionen:
Man legt dem Filter ein Bild vor und koppelt die Filter in solcher Weise, daß das Filter die fraktale Dimension des Ein­ gangsbildes berechnet. Das Filter ist dann anschließend in der Lage, aus einem eingegebenen Grauwertbild das nächstliegende Bild mit gleicher fraktalen Dimension zu ermitteln.
Stereobildverarbeitung:
Man legt dem Filter eines der beiden Bilder vor, das Filter er­ lernt das Bild. Wird nun dem Filter anschließend das andere Bild vorgelegt, so kann das Filter aus der Verschiebung der Unterfilter ein dreidimensionales Bild des Bildinhaltes ermit­ teln.
Mustererkennung:
Wie Texturerkennung; kann z. B. zur lageunabhängigen Erkennung von Gesichtern auch dreidimensional durchgeführt werden: Die hier verwendeten Elementarfilter sind dann Filter im dreidimen­ sionalen Raum und wiederum beliebig. Im vorliegenden Fall sind z. B. dreidimensionale Gaborfilter vorstellbar, die sich dann so anordnen, daß die Gesichtsoberfläche optimal dargestellt wird, die Filter dabei also relativ flach werden.
Grundsätzlich ist bei allen Klassifizierungsaufgaben auch eine Anzahl an Sollfunktionen vorstellbar, die geringer ist als die Anzahl der einzelnen Klassen, im Extremfall nur eine. Diese Sollfunktion(en) ist (sind) dann eine Funktion(en) der Soll­ funktionen der einzelnen Klassen oder anderer für die Unter­ scheidung der Klassen notwendigen Größen. Dies ist dort von Belang, wo die Anzahl der Klassen erheblich ist, z. B. bei Ge­ sichtserkennung, und somit Unterentscheidungen, z. B. über Ver­ gleiche bestimmter Gesichtspartien, die Entscheidung beschleu­ nigen, sicherer machen, Speicherbedarf reduzieren, und/oder das Verfahren in anderer Weise optimieren. U. U. kann die Sollfunk­ tion auch die Differenz zwischen zwei Mustern/Klassen sein.
Regelungstechnik:
Man legt dem Filter Beispiele des gewünschten Regelverhaltens in Form von Sätzen von Eingangsgrößen mit gewünschten Ausgangs­ größen vor. Das Filter berechnet aus diesen Beispielen das ge­ wünschte generelle Regelverhalten.
Man legt dem Filter Beispiele des Verhaltens eines unbekannten Systems in Form von Sätzen von Eingangsgrößen mit dazugehörigen Ausgangsgrößen vor. Das Filter berechnet aus diesen Größen das generelle Verhalten des unbekannten Systems.
Stochastische Systeme:
Die eingegebene Sollfunktion kann auch eine Wahrscheinlich­ keitsverteilung oder ein Histogramm sein, so daß das Filter auch stochastische Systeme nachbilden/modellieren oder ersetzen kann; da das Filter dynamisch ist, kann es auch einer sich zeitlich ändernden Histogrammverteilung folgen, bei entspre­ chender Realisierung in Echtzeit, es ist somit eine echte Alternative zur Modellierung von Wahrscheinlichkeitsver­ teilungen mit Hilfe der Fischer Informations Metrik, bzw. der Minimierung der Kullback-Leibler Entropie, worauf obige Metrik beruht. Somit kann das Filter zeitaufwendige stochastische Lernsysteme, wie z. B. die Boltzmann-Maschine von Hinton & Sejnovski (Rumelhart and MacCleland, Parallel Distributed Processing, the MIT-Press), ersetzen. Der Einsatz einer solchen oder anderer informationstheoretischer Metriken/Normen zur Be­ rechnung oder Definition der Differenz ist aber möglich.
Ist auch nach Minimierung der Differenz diese noch so groß, so können nach Belieben weitere Elementarfilter beliebiger Art hinzugefügt werden, oder Filter durch andere ersetzt werden, bis die Differenz für den jeweiligen Anwendungsfall genügt. Das System wird dann nicht wieder zeitraubend von vorne beginnen, sondern vom bereits erreichten Resultat weiterarbeiten, umge­ kehrt kann man natürlich auch Filter entfernen, wenn die An­ sprüche niedriger liegen, als man anfangs dachte; weiterhin wird das System bei Ausfall eines oder mehrerer Elementarfilter die Parameter der übrigen so neu berechnen, daß diese wieder optimal angeordnet sind, und somit den Ausfall soweit als mög­ lich kompensieren.
Wirtschaft:
Man gibt dem Filter Zeitfolgen aus der Vergangenheit, z. B. Börsenkurse, ein. Das Filter wird, wenn es bereit ist, und wenn alle die Kurse eingegeben wurden, die für die Zukunft wichtig sind, aus eingegebenen Kursen der jüngsten Vergangenheit den wahrscheinlichsten zukünftigen Kurs berechnen.
Luft- und Raumfahrttechnik:
Da das Filter immer die bestmögliche Berechnung durchführt, die mit den gegebenen Elementarfiltern möglich ist, wird bei Aus­ fall eines oder mehrerer Filter die anderen bestmöglich den Ausfall kompensieren. Somit kompensiert das Filter den Ausfall bestimmter Teilsysteme, nämlich einer Anzahl von Elementar­ filtern, innerhalb gewissen Grenzen (Fachwort hierfür ist Graceful Degradation).
Datenspeicherung:
Ein Gesamtsystem, bestehend aus mehreren, auch hierarchisch an­ geordneten Filtern erlernt z. B. visuell eingegebene Objekte, unterteilt sie in Unterobjekte, dies auch hierarchisch, und legt sie anschließend gemäß der ermittelten geometrischen und sonstigen Beziehungen im Speicher ab. Auch nichtgeometrische/nichträumliche Beziehungen können hier ver­ wendet werden, soweit sie in geometrische Beziehungen übersetzt werden können. Dies ermöglicht es dem Benutzer, z. B. zu einem eingegebenen Begriff zugehörige Begriffe nennen zu können, wie verwandte Begriffe, untergeordnete Begriffe und übergeordnete Begriffe. Ordnet ein Benutzer einem Satz von Begriffen eine andere Struktur als ein anderer ein, so kann das System die jeweilige Struktur abbilden und dem jeweiligen Benutzer seine Struktur zur optimierten Datenabfrage zur Verfügung stellen. Aus der abgelegten Struktur sind auch Rückschlüsse auf den je­ weiligen Benutzer selbst möglich.
Berechnungen:
Ist die Struktur eines zu berechnenden Gesamtergebnisses der­ art, daß es als geometrisches Objekt als Funktion mehrerer von­ einander abhängiger Berechnungen dargestellt werden kann, so kann das Filter auch zur Berechnung dieser Größen herangezogen werden.
Hat ein Filter einmal die Sollfunktion "erlernt", so kann man auch die Parameter in bestimmten Grenzen variierbar machen, z. B. mit einem gemeinsamen Größenkoeffizienten multiplizieren, um Entfernungsunterschiede auszugleichen, oder bestimmte Ver­ zerrungen zuzulassen, um verschiedene Blickwinkel zu ermög­ lichen; Berechnungen z. B. über projektive Geometrie.
Als Maß für die Distanz zwischen Projektion und Sollfunktion kann im Falle von Wahrscheinlichkeitsverteilungen auch die Kullback-Leibler-Entropie oder ein anderes informations­ theoretisches Maß verwendet werden.
Objekterfassung/Tracking:
Ein Filter bzw. ein System, bestehend aus mehreren Filtern, ist in der Lage, mehrere Objekte, die beispielsweise auf einem Radarschirm oder Fernsehschirm zu sehen sind, und die sich sogar teilweise überlappen dürfen, voneinander zu unter­ scheiden, wobei, wie bereits oben erwähnt, die Unterscheidungs­ kriterien beliebige Funktionen der Parameterwerte der Elemen­ tarfilter und somit beliebige Funktionen der Helligkeitsver­ teilung oder dessen Äquivalent sein können. Das System ist dann weiterhin in der Lage, jedem dieser Objekte zu folgen, eine Be­ zeichnung zuzuordnen, ggf. zu identifizieren, u. U. einen oder mehrere Sensoren nachzuführen (Kameras, Zielverfolgungsradar, etc.), und das Gesamtsystem zu anderen weiteren Maßnahmen, wie z. B. einem Alarm, zu veranlassen. Natürlich können bei ent­ sprechenden antrainierten Sollfunktionen auch Vorhersagen über zukünftiges Verhalten, wie z. B. zukünftiger Trajektorienver­ lauf, Gefahr von Zusammenstößen etc. getroffen werden.
Das Filter ist auch in der Lage, anhand von Bewegungsanalysen Bewegungsschäden an einem Patienten festzustellen, wenn be­ stimmte Bewegungsabläufe und -sequenzen für diese Schäden typisch sind. (Klassifizierung von Blutzellen etc. sind Anwen­ dungen, die unter die oben erwähnte Texturklassifikation fallen.)
Bezug zur künstlichen Intelligenz:
Das Filter kann in verschiedenster Form im Bereich der KI ein­ gesetzt werden, wie weiter oben schon im Bereich Objekter­ kennung gezeigt wurde.
Zur Objekterkennung/Mustererkennung:
Das Filter wird auch dann in der Lage sein, ein Objekt zu er­ kennen, wenn es teilweise verdeckt ist, wobei natürlich der Grad der akzeptablen Verdeckung vom Einzelfall abhängt. Weiter­ hin kann zum Beispiel, wenn das Filter BAUMKRONE ein zwiespäl­ tiges Ergebnis liefert, das übergeordnete Filter BAUM angerufen werden, das nun das Filter BAUMSTAMM zuschaltet, um unterhalb der Krone den STAMM zu finden, wird dieser gefunden, so wird das Ergebnis des Filters BAUMKRONE verifiziert, wenn nicht, dann verfälscht.
Somit erlaubt der Einsatz von hierarchischen Filterstrukturen auch eine maximale Ausnutzung ggf. vorhandener Redundanz, wobei die vorhandenen Redundanzen auch mit Hilfe solcher Filter ge­ funden werden können.
Generell ist das Filter gegen Rotation, Translation, und/oder Skalierung invariant, wenn man wie folgt vorgeht: Hat das Filter einmal die Sollfunktion/das Objekt erkannt, und legt man ihm nun ein zu erkennendes Muster vor, so erlaubt man dem Filter, sich insgesamt gegenüber dem Bild zu drehen, zu ver­ schieben, oder in der Größe zu verändern, d. h. man versucht wiederum, die Differenz zwischen Projektion und Bild zu mini­ mieren, wobei hier aber nur eine Rotation, Verschiebung oder Skalierung des Gesamtfilters erlaubt ist.
Natürlich kann man auch, wie bereits erwähnt, bestimmte Ver­ änderungen der Parameterwerte der Einzelfilter zulassen, wenn man gegen bestimmte Verzerrungen invariant bleiben will.
Zur Stereobildverarbeitung:
Es ist mit dem Filter weiter möglich, fraktale Disparitäts­ karten anzulegen, die z. B. zur dreidimensionalen Rekonstruktion von fraktalen Objekten, wie z. B. Büschen, dienen können.
Das allgemeine Lösen von Optimierungsaufgaben, z. B. der Entwurf und das Management von räumlich verteilten Systemen, von Funk­ zellen eines Mobilnetzes, von Kraftwerken, Transformatoren und Verteilern eines Energienetzes, von Depots eines Transport­ unternehmens, ist folgendermaßen möglich: Jedem Netzknoten wird ein Elementarfilter zugeordnet, z. B. ein Gaußfilter, bei dem der Mittelwert individuell variabel ist, während sich die Standardabweichung bei jedem Filter nur im gleichen Maße ändern kann. Die Elementarfilter werden sich so anordnen, daß ein vor­ gegebener Raum, z. B. die Bundesrepublik, optimal abgedeckt wird; fällt ein Knoten aus, so ordnen sich die übrigen Knoten selbständig so um, daß der Raum wieder optimal abgedeckt wird; dies kann im Falle z. B. eines Funknetzes auch dadurch ge­ schehen, daß die Standardabweichung, die ja die Funkleistung modelliert, von bestimmten Elementarfiltern einfach erhöht wird: Funkzellen sind ja in der Regel nicht mobil, und können somit ihren Standort nicht ändern.
Natürlich können auch Verzerrungen der unterliegenden Metrik in diesen Optimierungsaufgaben berücksichtigt werden; werden z. B. die Entfernungen anhand der Transportzeiten definiert, haben Depots in der Nähe von Autobahnen größere Versorgungsbereiche: Diese Verzerrungen können durch Verzerrungen des Eingangsraums bzw. durch Verzerrungen der Filterparameter modelliert werden.
Weitere Anwendungsmöglichkeiten:
Daten/Sensor-Fusion: Decken verschiedene Sensoren/Informa­ tionsquellen überlappende Bereiche ab, z. B. Infrarot-Aufnahmen und Aufnahmen im sichtbaren Bereich des gleichen Geländes, so können bei Ausfall des einen Sensors die Parameter des oder der anderen Sensoren so verändert werden, daß der zu überwachende Bereich weitestgehend abgedeckt wird, weiterhin kann das Filter unterliegende statistische Zusammenhänge von Daten aus ver­ schiedenen Quellen erfassen und modellieren.
Ist die Anzahl der Elementarfilter in irgendeiner Anwendung zu groß, so daß die notwendigen Berechnungen zu langwierig und/oder kompliziert werden, so können wir die Elementarfilter beliebig zu Gruppen zusammenfassen, die jeweilige Gesamtpro­ jektion der gruppierten Filter berechnen, und die Gruppen wiederum als höhere Elementarfilter auffassen, mit einem neuen Metriktensor, der die Beziehungen der Gruppen untereinander ausdrückt; auch dies kann sukzessive hierarchisch durchgeführt werden. In diesem Falle wird den einzelnen Gruppen nicht das Konzept eines zugehörigen Objektes zugeordnet.

Claims (19)

1. Adaptives Filter zum Approximieren einer eingelesenen in einem Funktionenraum liegenden Sollfunktion F, enthaltend einen Satz von n Elementarfiltern gb, wobei n eine ganze Zahl 1 ist, die Elementarfilter einen Unterraum im Funktionenraum auf­ spannen, die Parameter der Elementarfilter veränderbar sind und das Filter folgende Operationen ausführt:
Berechnen der Normalprojektionen der Sollfunktion F auf jeden Elementarfilter und Multiplizieren der so erhaltenen Projek­ tionsgrößen Aa jeweils mit dem aus dem Satz Elementarfiltern gebildeten kontravarianten Metriktensor gab, um dadurch die Projektion der Sollfunktion F auf den aufgespannten Unterraum zu erhalten, deren Differenz D zur Sollfunktion F als Funktion der Elementarfilter und des Metriktensors gemäß folgender For­ mel erfaßt wird: um dadurch die Differenz D über Veränderung der Elementar­ filterparameter mittels üblicher deterministischer (z. B. "Gradientenabstiegsverfahren") oder stochastischer (z. B. "simulated annealing, Monte Carlo-Verfahren") Berechnungs­ methoden zu mininieren, wobei sich die gewünschte approximierte Funktion aus der Superpositionierung der über die Minimierung eingestellten Elementarfilter gemäß folgender Formel ergibt:
2. Adaptives Filter zum Approximieren einer eingelesenen, in einem Funktionenraum liegenden Sollfunktion F, enthaltend einen Satz von n Elementarfiltern gb, wobei n eine Zahl 1 ist, die Elementarfilter einen Unterraum im Funktionenraum aufspannen, die Parameter der Elementarfilter veränderbar sind und das Filter folgende Operationen ausführt:
Berechnen der Normalprojektionen der Sollfunktion F auf jeden Elementarfilter, Verändern eines in dem von den Elementar­ filtern aufgespannten Unterraum liegenden Vektors A (t), bis dessen Normalprojektionen auf die Elementarfilter den Normal­ projektionen der Sollfunktion F auf den Unterraum entsprechen, d. h. bis der Fehler E in Abhängigkeit von Ab(t) minimal ist, um dadurch die Differenz DD = |F - A(t)|über Veränderung der Elementarfilterparameter mittels üblicher deterministischer (z. B. "Gradientenabstiegsverfahren") oder stochastischer (z. B. "simulated annealing, Monte Carlo- Verfahren") Berechnungsmethoden zu minimieren, wobei sich die gewünschte approximierte Funktion aus der Superpositionierung der über die Minimierung eingestellten Elementarfilter gemäß folgender Formel ergibt:
3. Adaptives Filter zum Approximieren einer eingelesenen, in einem Funktionenraum liegenden Sollfunktion F, enthaltend einen Satz von n Elementarfiltern gb, wobei n eine ganze Zahl 1 ist, die Elementarfilter einen Unterraum im Funktionenraum auf­ spannen, die Parameter der Elementarfilter veränderbar sind und das Filter folgende Operationen ausführt:
Berechnen der Normalprojektionen der Sollfunktion F auf jeden Elementarfilter,
Berechnen der adjungierten Elementarfilter zu den den Unterraum aufspannenden Elementarfiltern durch Minimieren des Fehlers E mittels herkömmlicher Berechnungsverfahren (z. B. "Gradientenab­ stiegsverfahren"), um dadurch die Differenz D bzw. allgemein mittels üblicher deterministischer (z. B. "Gradientenabstiegs­ verfahren") oder stochastischer (z. B. "simulated annealing, Monte Carlo-Verfahren") Berechnungsmethoden zu minimieren, wobei sich die gewünschte approximierte Funktion aus der Super­ positionierung der über die Minimierung eingestellten Elemen­ tarfilter gemäß folgender Formel ergibt:
4. Adaptives Filter zum Approximieren einer eingelesenen in einem Funktionenraum liegenden Sollfunktion F, enthaltend eine Vielzahl von Elementarfiltersätzen mit jeweils n Elementarfiltern gb, wobei n eine ganze Zahl 1 ist, jeder Elementarfiltersatz einen Unterraum im Funktionsraum aufspannt, die Parameter der Elementarfilter fest eingestellt sind, das Produkt jedes Elementarfilters mit dem aus seinem Satz Elementarfiltern gebildeten kontravarianten Metriktensor abgespeichert wird und für jeden Elementarfiltersatz die Normalprojektion A der Sollfunktion F auf jeden seiner Elementarfilter durch die Projektion der Sollfunktion auf den entsprechenden Unterraum gemäß folgender Formel berechnet wird: und wobei diejenige Projektion als approximierte Funktion verwendet wird, deren Differenz D zur Sollfunktion F minimal ist.
5. Adaptives Filter nach Anspruch 4, dadurch gekennzeichnet, daß jede Differenz D gemäß folgender Formel bestimmt wird:
6. Adaptives Filter nach einem der Ansprüche 1 bis 5, bei dem der Elementarfilter eine Gaußfunktion ist mit den Parametern Standardabweichung und Mittelwert.
7. Adaptives Filter nach einem der Ansprüche 1 bis 6, bei der der Elementarfilter eine Gaborfunktion ist mit den Parametern Standardabweichung, Mittelwert, Phase und Frequenz.
8. Adaptives Filter nach einem der Ansprüche 1 bis 6, bei dem der Elementarfilter folgender Funktion entspricht:
9. Adaptives Filter nach einem der Ansprüche 1 bis 6, bei dem der Elementarfilter folgender Funktion entspricht:
10. Adaptives Filter nach einem der vorhergehenden Ansprüche, bei dem die Elementarfilter untereinander linear unabhängig sind.
11. Adaptives Filter nach einem der vorhergehenden Ansprüche, bei dem die Sollfunktion sowohl bezüglich des Werte­ bereichs als auch bezüglich der Auflösung diskret eingelesen wird.
12. Adaptives Filter nach einem der vorhergehenden Ansprüche, bei dem die aufgefundenen Parametereinstellungen ausgegeben werden.
13. Adaptives Filter nach einem der vorhergehenden Ansprüche, bei dem die Sollfunktion an unvollständig erfaßten Orten durch in der Umgebung liegende Sollwertfunktionswerte und zusätzlichem, etwa gaußverteilten Rauschen angenähert wird.
14. Adaptives Filter nach einem der vorhergehenden Ansprüche, bei dem das verwendete Berechnungsverfahren ein Gradientenabstiegsverfahren (deterministisch) ist.
15. Adaptives Filter nach einem der vorhergehenden Ansprüche, bei dem die Sollfunktion F ein optisches Signal ist.
16. Adaptives Filter nach einem der vorhergehenden Ansprüche, bei dem die Sollfunktion F ein Videosignal ist.
17. Adaptives Filter nach einem der vorhergehenden Ansprüche, bei dem die Elementarfilter optische Filter sind.
18. Adaptives Filter nach einem der vorhergehenden Ansprüche, bei dem die Sollfunktion ein Audiosignal ist.
19. Adaptives Filter nach Patentanspruch 15, 16 oder 17, bei dem die approximierte Funktion als Teil eines bandbreiteredu­ zierten HDTV-Signals übertragen wird.
DE4326487A 1992-09-16 1993-08-06 Adaptives Filter Expired - Fee Related DE4326487C2 (de)

Priority Applications (6)

Application Number Priority Date Filing Date Title
DE4326487A DE4326487C2 (de) 1992-09-16 1993-08-06 Adaptives Filter
EP93919204A EP0612447B1 (de) 1992-09-16 1993-08-27 Adaptives filter
JP6507737A JPH07501434A (ja) 1992-09-16 1993-08-27 適応フィルター
ES93919204T ES2112992T3 (es) 1992-09-16 1993-08-27 Filtro adaptable.
PCT/EP1993/002324 WO1994007308A1 (de) 1992-09-16 1993-08-27 Adaptives filter
US08/704,358 US5673213A (en) 1992-09-16 1996-08-28 Adaptive filter

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
DE4231005 1992-09-16
DE4326487A DE4326487C2 (de) 1992-09-16 1993-08-06 Adaptives Filter

Publications (2)

Publication Number Publication Date
DE4326487A1 DE4326487A1 (de) 1994-03-17
DE4326487C2 true DE4326487C2 (de) 1995-02-09

Family

ID=6468109

Family Applications (1)

Application Number Title Priority Date Filing Date
DE4326487A Expired - Fee Related DE4326487C2 (de) 1992-09-16 1993-08-06 Adaptives Filter

Country Status (2)

Country Link
US (1) US5673213A (de)
DE (1) DE4326487C2 (de)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102009060553A1 (de) * 2009-08-24 2011-03-03 Vitaphone Gmbh Verfahren und System zur Speicherung und Auswertung von Daten, insbesondere Vitaldaten

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE19846637A1 (de) * 1998-10-09 2000-04-13 Heidenhain Gmbh Dr Johannes Verfahren und Schaltungsanordnung zur automatischen Parametrierung eines schnellen digitalen Drehzahlregelkreises
US6424741B1 (en) * 1999-03-19 2002-07-23 Samsung Electronics Co., Ltd. Apparatus for analyzing image texture and method therefor
US6449002B1 (en) 1999-12-21 2002-09-10 Thomson Licensing S.A. Truncated metric for NTSC interference rejection in the ATSC-HDTV trellis decoder
DE10035281B4 (de) * 2000-07-18 2004-09-30 Eads Deutschland Gmbh Sensorsystem und Verfahren zur Ermittlung von System-Zuständen
US7054359B2 (en) * 2001-06-05 2006-05-30 Koninklijke Philips Electronics N.V. VSV-MOE pre-equalizer for 8-VSB DTV
WO2005067572A2 (en) * 2004-01-13 2005-07-28 New York University Method, system, storage medium, and data structure for image recognition using multilinear independent component analysis
US7450122B2 (en) * 2004-03-25 2008-11-11 Pixar Volumetric hair rendering
US8406518B2 (en) * 2009-01-20 2013-03-26 Pixar Smoothed local histogram filters for computer graphics
EP3259919A1 (de) 2015-02-19 2017-12-27 Magic Pony Technology Limited Verbesserung visueller daten mithilfe von progressiven faltungen
GB201604672D0 (en) 2016-03-18 2016-05-04 Magic Pony Technology Ltd Generative methods of super resolution
EP3278559B1 (de) 2015-03-31 2021-05-05 Magic Pony Technology Limited Training von end-zu-end-videoverfahren
WO2017178808A1 (en) * 2016-04-12 2017-10-19 Magic Pony Technology Limited Visual data processing using energy networks
US10366278B2 (en) * 2016-09-20 2019-07-30 Apple Inc. Curvature-based face detector
CN109737961A (zh) * 2018-05-23 2019-05-10 哈尔滨理工大学 一种具有概率完备性的机器人最优化点到区路径规划方法
CN114415230A (zh) * 2020-10-28 2022-04-29 中国石油天然气股份有限公司 一种线性断裂提取方法及装置

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE3406833A1 (de) * 1984-02-24 1985-09-12 Siemens AG, 1000 Berlin und 8000 München Digitalfilter
DE3614692A1 (de) * 1986-04-30 1987-11-05 Nixdorf Computer Ag Gefahrenmeldeanlage
JP3089082B2 (ja) * 1991-07-10 2000-09-18 シャープ株式会社 適応型ディジタルフィルタ
DK0532787T3 (da) * 1991-09-19 1996-03-25 Siemens Ag Anordning til drift af faremeldere

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102009060553A1 (de) * 2009-08-24 2011-03-03 Vitaphone Gmbh Verfahren und System zur Speicherung und Auswertung von Daten, insbesondere Vitaldaten
DE102009060553A8 (de) * 2009-08-24 2011-06-01 Vitaphone Gmbh Verfahren und System zur Speicherung und Auswertung von Daten, insbesondere Vitaldaten

Also Published As

Publication number Publication date
US5673213A (en) 1997-09-30
DE4326487A1 (de) 1994-03-17

Similar Documents

Publication Publication Date Title
DE4326487C2 (de) Adaptives Filter
DE69634221T2 (de) Verfahren und Gerät zur Verarbeitung visueller Information
DE112019003529T5 (de) Datendarstellung für dynamische Genauigkeit in Kernen neuronaler Netze
WO1992008204A2 (de) Verfahren zur erkennung und schätzung der räumlichen lage von objekten aus einer zweidimensionalen abbildung
DE102009012441A1 (de) Verfahren zur Reduktion des Speicherbedarfs bei der Bestimmung von Disparitätswerten für mindestens zwei stereoskopisch aufgenommene Bilder
EP2791896B1 (de) Verfahren zur erzeugung von superaufgelösten bildern mit verbesserter bildauflösung und messvorrichtung
EP0974105B1 (de) Verfahren zur mehrdimensionalen, diskreten wavelet-transformation und transformationseinheit zur durchführung des verfahrens
WO2020078615A1 (de) Verfahren und vorrichtung zur bestimmung einer umgebungskarte
WO2005073911A1 (de) Bildverarbeitungssystem
EP1145086B1 (de) Verfahren und anordnung zur ermittlung eines ähnlichkeitsmasses einer ersten struktur mit mindestens einer vorgegebenen zweiten struktur
DE19817583A1 (de) Verfahren und System zur Datenverarbeitung für dreidimensionale Objekte
EP0612447B1 (de) Adaptives filter
EP3465608B1 (de) Verfahren und vorrichtung zum bestimmen eines übergangs zwischen zwei anzeigebildern, und fahrzeug
EP2924585A1 (de) Verfahren zur Kompression von Beobachtungen einer Vielzahl von Testabläufen
DE10331431B4 (de) Datenkompression von Simulationsergebnissen
EP0960390B1 (de) Verfahren und anordnung zur kodierung eines digitalisierten bildes
WO1998041950A1 (de) Kompaktes sensorsystem zur optischen bewegungserkennung in echtzeit
EP0960388B1 (de) Verfahren und anordnung zur codierung eines digitalisierten bildes
DE4000021A1 (de) Verfahren und vorrichtung zur darstellung von kurven in einem zweidimensionalen raster von bildelementen
DE112022003137T5 (de) Verfahren zum verarbeiten von daten, die eine dreidimensionale volumetrische szene darstellen
DE10136649A1 (de) Verfahren und Vorrichtung zur Objekterkennung von sich bewegenden Kraftfahrzeugen
EP1252001B1 (de) Verfahren zum rechnergestützten bearbeiten einer struktur umfassend ein erstes element und ein zweites element, welche zusammengehörig sind
DE19721197C2 (de) Recheneinrichtung zum Verarbeiten einer Eingangsdatenstruktur
WO2020089287A1 (de) Datenverarbeitungsvorrichtung mit einem künstlichen neuronalen netzwerk und verfahren zur datenverarbeitung
EP4004801A1 (de) Auswerteeinrichtung zum auswerten eines eingangssignals sowie kamera umfassend die auswerteeinrichtung

Legal Events

Date Code Title Description
OP8 Request for examination as to paragraph 44 patent law
D2 Grant after examination
8364 No opposition during term of opposition
8327 Change in the person/name/address of the patent owner

Owner name: INSTITUT NATIONAL DE RECHERCHE EN INFORMATIQUE ET

8328 Change in the person/name/address of the agent

Free format text: GRUENECKER, KINKELDEY, STOCKMAIR & SCHWANHAEUSSER, ANWALTSSOZIETAET, 80538 MUENCHEN

8381 Inventor (new situation)

Free format text: WEIGL, KONRAD MICHAEL DIPL.-ING., 81827 MUENCHEN, DE

8339 Ceased/non-payment of the annual fee