Beschreibung
Verfahren zur Ermittlung eines Verschiebungsvektors in der Bildverarbeitung
Die vorliegende Erfindung betrifft ein Verfahren zur Ermittlung eines Verschiebungsvektors in der Bildverarbeitung.
Verschiebungsvektoren bzw. Bewegungsvektoren dienen in der Bildverarbeitung in hinlänglich bekannter Weise dazu, eine
Positionsveränderung eines Objekts oder Bildbereiches von einer ersten Position in einem ersten Bild zu einer zweiten Position in einem zweiten Bild zu definieren.
Die beiden Bilder können dabei zeitlich aufeinanderfolgend • aufgenommen sein, und somit eine Bewegung des Objekts oder Bildbereiches in einem dargestellten Bildausschnitt über der Zeit veranschaulichen. Der Bewegungsvektor dient in solchen Fällen beispielsweise zur Interpolation eines oder mehrerer Zwischenbilder, die die Position des Objekts: zu einem oder mehreren Zeitpunkten zwischen der Aufnahme des ersten und zweiten Bildes wiedergeben, beispielsweise bei der •. 50Hz/100Hz-Bildkonversion oder bei der Erzeugung sogenannter "künstlicher Zeitlupen" .
Die beiden Bilder können auch gleichzeitig aus einer ersten und zweiten Kameraposition aufgenommen sein, wobei der zu ermittelnde Verschiebungsvektor dazu dient, ein Zwischenbild zu erzeugen, das das Objekt aus einer virtuellen dritten Kamera- position zeigt, die sich an einer anderen als der ersten und zweiten Kameraposition befindet.
Figur 1 veranschaulicht zwei Bilder Bl, B2, die zeitlich aufeinanderfolgend oder aus unterschiedlichen Kamerapositionen aufgenommen sein können, mit einem ersten Bildbereich 1 an einer ersten Position Pl in dem ersten Bild Bl und einem zweiten Bildbereich 2 an einer zweiten Position P2 in dem
zweiten Bild B2. Die Bildbereiche 1, 2 sind zur Vereinfachung der Darstellung als Quadrate dargestellt, deren Mittelpunkte die Positionen Pl, P2 der Bildbereiche bezeichnen. Selbstverständlich können die Bildbereiche jedoch eine beliebige Form aufweisen.
Wie in Figur 1 dargestellt ist, resultiert der zweite Bildbereich 2 in dem zweiten Bild B2 aus einer Verschiebung des ersten Bildbereiches 1 des ersten Bildes Bl mit einem Ver- schiebungsvektor vec. Diese Verschiebung kann zeitlich bedingt sein, wenn die beiden Bilder Bl, B2 aufeinanderfolgend aufgenommen sind und sich ein Objekt, das den ersten Bildbereich 1 repräsentiert, in dem betrachteten Bildausschnitt von der Position Pl zum AufnahmeZeitpunkt des ersten Bildes Bl an die Position 2 zum AufnahmeZeitpunkt des zweiten Bildes B2 bewegt. Diese Verschiebung der beiden Bildbereiche 1, 2 in dem dargestellten Bildausschnitt kann auch dadurch bedingt sein, dass die beiden Bilder Bl, B2 zum selben Zeitpunkt, a- ber aus unterschiedlichen Blickwinkeln aufgenommen wurden.
Zur Ermittlung eines solchen Verschiebungsvektors zu einem gegebenen Bildbereich oder Objekt ist es grundsätzlich bekannt, die Bilder in einzelne Bildbereiche zu unterteilen und Testvektoren bereitzustellen, von denen jeder einen möglichen Verschiebungsvektor für die einzelnen Bildbereiche repräsentiert . Unter Verwendung dieser Testvektoren werden Bildvergleiche durchgeführt, indem Bildinformationen, beispielsweise Luminanzwerte oder Chrominanzwerte, der einzelnen Bildpunkte eines betrachteten ersten Bildbereiches in dem ersten Bild mit Bildinformationswerten eines zweiten Bildbereiches in dem zweiten Bild miteinander verglichen werden, wobei die Position des zweiten Bildbereiches in dem zweiten Bild unter Verwendung jeweils eines Auswahlvektors gegenüber der Position des ersten Bildbereiches in dem ersten Bild verschoben ist . Von den Testvektoren wird/werden dabei derjenige/diejenigen als sogenannte (r) Auswahlvektσr(en) ausgewählt und für die weitere Bildverarbeitung verwendet, der/die das "beste" Ver-
gleichsergebnis liefert/liefern, bei dem/denen also die beste Übereinstimmung zwischen dem ersten und zweiten Bildbereich ermittelt wurde.
Die Qualität eines solchen Verfahrens ist von der Wahl der Auswahlvektoren abhängig, da selbstverständlich nicht für alle möglichen Verschiebungsvektoren ein Bildvergleich durchgeführt werden kann, um den ohnehin hohen Rechenaufwand in Grenzen zu halten. So ist es ein grundsätzliches Ziel bei derartigen Verfahren, die Anzahl der erforderlichen Bildvergleiche zu reduzieren, ohne eine Verschlechterung des Ergebnisses bei der Ermittlung des wenigstens einen Auswahlvektors hinzunehmen .
Zur Verringerung des Aufwandes ist es bekannt, bei der Wahl von Testvektoren für einen gegebenen Bildbereich bestimmte Vorinformationen zu nutzen, die beispielsweise in vorangehenden Suchschritten für den gegebenen Bildbereich oder in Suchschritten für einen benachbarten Bildbereich gewonnen wurden. Diese Vorinformationen führen zu einer Gruppe sogenannter
Voraussagevektoren, aus denen die Testvektoren gebildet oder ausgewählt werden. Diese Voraussagevektoren, die anhand von Suchschritten für benachbarte Bildbereiche oder anhand von vorangehenden Suchschritten für den betrachteten Bildbereiche gewonnen wurden, können als Testvektor für den interessierenden Bereich übernommen werden und/oder die Testvektoren können aus diesen Voraussagevektoren durch Veränderung von deren Länge und/oder Richtung nach einem vorgegebenen oder zufälligen Schema gebildet werden, wobei sich in dem zuletzt genann- ten Fall die Voraussagevektoren von Suchschritt zu Suchschritt ändern können.
Die aus den Testvektoren ermittelten Auswahlvektoren, können als neue Voraussagevektoren während nachfolgender Suchschrit- te herangezogen werden.
Zur Veranschaulichung eines solchen Verfahrens zeigt Figur 2 schematisch ein Vektorsuchsystem, das Verschiebungsvektoren für einzelne Bildbereiche ermittelt und das zur Ermittlung eines möglichen Verschiebungsvektors Voraussagevektoren ein- bezieht, die Ergebnisse aus früheren Suchschritten für denselben Bildbereich oder Ergebnisse aus Suchschritten für benachbarte Bildbereiche enthalten. Das System umfasst eine Testvektorermittlungseinheit 10, der ein Satz von Voraussagevektoren zugeführt sind und die aus diesen Voraussagevektoren einen Satz von Testvektoren bereitstellt. Diese Bereitstellung der Testvektoren kann dadurch erfolgen, dass einige oder alle Voraussagevektoren unverändert als Testvektoren weitergegeben werden. Außerdem besteht die Möglichkeit, einige oder alle Voraussagevektoren nach einen festem oder zufälligen Schema zu verändern, um dadurch die Testvektoren zu bilden.
Die Testvektoren werden in einer der Testvektorermittlungseinheit 10 nachgeschalteten Bildvergleichseinheit 20 dazu verwendet für die einzelnen Bildbereiche Bildvergleiche durchzuführen, wobei bezugnehmend auf das Beispiel gemäß Figur 1 stets ein Bildbereich 1 aus dem ersten Bild Bl mit einem Bildbereich 2 aus dem zweiten Bild B2 verglichen wird, wobei für jeden Vergleich ein solcher zweiter Bildbereich aus dem zweiten Bild B2 ausgewählt wird, dessen Geometrie der Ge- ometrie des ersten Bildbereiches 1 entspricht und der mittels eines der Auswahlvektoren gegenüber dem ersten Bildbereich 1 des ersten Bildes Bl verschoben wird.
Die für die einzelnen Vergleiche ermittelten Ergebnisse wer- den einer Auswahleinheit 30 zugeführt, die anhand der Vergleichsergebnisse wenigstens einen Auswahlvektor aus der Gruppe der Testvektoren auswählt, für den das beste Vergleichsergebnis ermittelt wurde. Dieser wenigstens eine aufgrund des Vergleichsergebnisses ausgewählte Vektor stellt den tatsächlichen Verschiebungsvektor oder zumindest den wahrscheinlichsten Verschiebungsvektor dar, der den ersten Bildbereich 1 aus dem ersten Bild Bl auf den zweiten Bildbereich
2 in dem zweiten Bild B2 abbildet. Bei der Ermittlung des Vergleichsergebnisses besteht dabei die Möglichkeit, die Testvektoren abhängig davon, wie sie erzeugt wurden, unterschiedlich zu bewerten. So besteht die Möglichkeit, Voraussa- gevektoren bzw. Testvektoren, die anhand von Bildvergleichen für vorherige Bilder ermittelt wurden zu "bestrafen", beim Bildvergleich also schlechter zu bewerten als Testvektoren, die für benachbarte Bildbereiche in demselben Bild ermittelt wurden.
Bei dem erläuterten bekannten Verfahren sind die Auswahlvektoren stets eine Funktion der Voraussagevektoren. Eine sinnvolle Nutzung dieser Voraussagevektoren setzt allerdings voraus, dass die Verschiebung benachbarter Bildbereiche oder die Verschiebung des interessierenden Bildbereiches über der Zeit keinen starken Schwankungen unterliegt, da sichergestellt sein muss, dass die aus den Voraussagevektoren ermittelten Auswahlvektoren den tatsächlichen Verschiebungsvektor auch enthalten. Andernfalls ist eine erhebliche Erweiterung der Anzahl der Auswahlvektoren erforderlich.
Ziel der vorliegenden Erfindung ist es, ein verbessertes Verfahren zur Ermittlung wenigstens eines Auswahlvektors in der Bildverarbeitung zur Verfügung zu stellen, das insbesondere in der Lage ist, auch rasche Änderungen von Verschiebungsvektoren zu berücksichtigen.
Dieses Ziel wird durch ein Verfahren gemäß der Merkmale des Anspruchs 1 gelöst. Vorteilhafte Ausgestaltungen der Erfin- düng sind Gegenstand der Unteransprüche.
Das erfindungsgemäße Verfahren zur Ermittlung eines Auswahl - vektors, der eine Verschiebung eines Bildbereiches von einer ersten Position in einem ersten Bild an eine zweite Position in einem zweiten Bild angibt, sieht vor, einen Satz von Voraussagevektoren und einen Satz von Testvektoren zur Verfügung zu stellen. Die Voraussagevektoren können dabei mittels her-
kömmlicher Verfahren zur Erzeugung von Voraussagevektoren gewonnen werden, beispielsweise indem Informationen aus der Suche von VerschiebungsVektoren zu benachbarten Bildbereichen oder aus der vorangehenden Suche von Verschiebungsvektoren zu dem interessierenden Bildbereich herangezogen werden.
Unter Verwendung ausgewählter Testvektoren aus dem Satz von Testvektoren wird ein Bildvergleich durchgeführt, um für jeden dieser ausgewählten Testvektoren ein Bildvergleichsergeb- nis bereitzustellen. Außerdem werden die ausgewählten Testvektoren und wenigstens einer der Voraussagevektoren verglichen, um für jeden der ausgewählten Testvektoren wenigstens ein Vektorvergleichsergebnis bereitzustellen. Anschließend werden das zu einem ausgewählten Testvektor ermittelte BiId- Vergleichsergebnis und des zu einem ausgewählten Testvektor ermittelte wenigstens eine Vektorvergleichsergebnis verknüpft um zu jedem der ausgewählten Testvektoren wenigstens einen Gütewert bereitzustellen. Zu diesen Gütewerten wird eine Rangfolge ermittelt, wobei wenigstens ein Testvektor als Ver- schiebungsvektor anhand der ermittelten Rangfolge ausgewählt wird.
Die Testvektoren sind fest vorgegeben und decken unterschiedliche mögliche Verschiebungen des interessierenden Bildberei- ches innerhalb eines vorgegebenen Bildrasters ab. Die in den Voraussagevektoren enthaltende Information wird bei dem erfindungsgemäßen Verfahren dadurch berücksichtigt, dass bei der Auswahl eines der Testvektoren als Verschiebungsvektor neben dem anhand des Testvektors erhaltenen Bildvergleichser- gebnisses auch der Abstand des Testvektors zu den Voraussagevektoren ermittelt wird.
Das Bildvergleichsergebnis für den ausgewählten Testvektor kann mittels herkömmlicher Verfahren ermittelt werden, indem Bildinformationen der Bildpunkte eines ersten Bildbereiches in dem ersten Bild mit Bildinformationswerte der Bildpunkte eines zweiten Bildbereiches in dem zweiten Bild miteinander
verglichen werden, wobei die Position des zweiten Bildbereiches gegenüber der Position des ersten Bildbereiches um den jeweils betrachteten Testvektor verschoben ist. Legt man diese beiden Bildbereiche übereinander, so ist unter der Annahme geometrisch gleicher Bildbereiche jedem Bildpunkt des ersten Bildbereiches, der sich einer gegebenen Position in diesem Bildbereich befindet, ein Bildpunkt des zweiten Bildbereiches zugeordnet, der sich an der entsprechenden Position in dem zweiten Bildbereich befindet. Die Ermittlung des Vergleichs- ergebnisses kann den Vergleich der Bildinformationswerte aller Bildpunkte in den beiden Bildbereichen oder den Vergleich der Bildinformationswerte ausgewählter, repräsentativer Bildpunkte umfassen, wobei die einzelnen Bildpunktvergleichser- gebnisse aufaddiert werden, um das Bildvergleichsergebnis zu erhalten. Ein Bildpunktvergleichsergebnis für einen Bildpunkt des ersten Bildbereiches und einen zugehörigen Bildpunkt des zweiten Bildbereiches kann erhalten werden, indem beispielsweise
- die Differenz der beiden Bildinformationswerte gebildet wird,
- der Betrag der Differenz der beiden Bildinformationswerte ermittelt wird,
- das Quadrat der Differenz der beiden Bildinformationswerte gebildet wird.
Darüber hinaus sind selbstverständlich beliebige weitere ma- thematische Verfahren möglich, die ein Maß für die Übereinstimmung bzw. die Unterschiede zweier Bildbereiche liefern.
Außerdem besteht die Möglichkeit, in dem Bildvergleich weitere Bildpunkte einzubeziehen, die sich außerhalb der vergli- chenen Bildbereiche befinden, oder zusätzliche Bildpunkte einzubeziehen, die beispielsweise durch Interpolation der ge-
gebenen Bildpunkt der betrachteten Bildbereiche erzeugt werden.
Der Bildvergleich erfolgt derart, dass für jeden Vergleich zweier Bildbereiche ein numerischer Wert geliefert wird, der beispielsweise um so kleiner ist, je größer die Übereinstimmung zwischen den verglichenen Bildbereichen ist .
Zur Ermittlung des Vektorvergleichsergebnisses für einen Testvektor bezogen auf einen Voraussagevektor wird beispielsweise der Betrag oder das Quadrat eines Differenzvektors diesen beiden Vektoren ermittelt. Hierdurch wird für jeden Vergleich eines Testvektors mit einem Voraussagevektor ein numerischer Wert erhalten, der um so kleiner ist, je weniger der Testvektor und der Voraussagevektor voneinander abweichen.
Bei der Ermittlung dieses Vektorvergleichsergebnisses besteht auch die Möglichkeit zu berücksichtigen, wie der Voraussagevektor ermittelt wurde. So kann der Voraussagevektor bei- spielsweise ein Verschiebungsvektor sein, der für benachbarte Bildbereiche des interessierenden Bildbereiches in demselben Bild ermittelt wurde, oder der Voraussagevektor kann ein Verschiebungsvektor sein, der für den interessierenden Bildbereich oder dazu benachbarte Bildbereiche in einem vorherge- henden Bild ermittelt wurde. Bei der Ermittlung des Vektorvergleichsergebnisses besteht beispielsweise die Möglichkeit, einen Voraussagevektor, der anhand eines vorhergehenden Bildes ermittelt wurde, zu "bestrafen", also für diesen Vektor ein schlechteres Vektorvergleichsergebnis auszugeben, als für einen identischen Vektor, der anhand eines benachbarten Bildbereiches in demselben Bild ermittelt wurde.
Die Bestrafung kann beispielsweise durch Multiplikation des ermittelten Vergleichsergebnisses mit einem Multiplikations- faktor erfolgen, wobei dieser Multiplikationsfaktor von außen einstellbar ist und beispielsweise die Art der Erzeugung des Voraussagevektors ermittelt. Anstelle einer Multiplikation
mit einem bestrafungsabhängigen Faktor kann auch ein von dem gewünschten Maß der Bestrafung abhängiger Wert zu dem ermittelten Vergleichsergebnis hinzuaddiert werden.
Nimmt man die örtliche oder zeitliche Herkunft eines Voraussagevektors bezogen auf den Bildausschnitt, für den der Bildvergleich durchgeführt wird, als Kriterium für eine Bestrafung, so betrifft die Bestrafung alle Vergleichsergebnisse dieses Voraussagevektors mit den Testvektoren. Neben der ört- liehen oder zeitlichen Herkunft des Voraussagevektors können noch weitere Kriterien für eine Bestrafung herangezogen werden. So besteht beispielsweise die Möglichkeit, die absolute Länge eines Testvektors als Bestrafungskriterium heranzuziehen und hierbei Testvektoren mit einer großen absoluten Länge zu bestrafen, wenn beispielsweise davon ausgegangen werden kann, dass in den Bildern vorkommende Bewegungsabläufe langsam ablaufen.
Außerdem besteht die Möglichkeit, die Struktur des Bildes in die Ermittlung eines geeigneten Auswahlvektors einzubeziehen. Sind beispielsweise selbstähnliche Strukturen, also monotone Flächen, vorhanden, so kann es sinnvoll sein, Auswahlvektoren zu erhalten, die möglichst wenig von den zuvor ermittelten Voraussagevektoren abweichen. Ist Ergebnis des Vektorverglei- ches ein numerischer Wert, der um so größer ist, je stärker ein Testvektor von einem Voraussagevektor abweicht, so kann dieses Ziel dadurch erreicht werden, dass jedes Vektorvergleichsergebnis mit einem Wert größer als Eins gewichtet wird, wodurch zu Testvektoren, die stark von den Voraussage- vektoren abweichen absolut betrachtet besonders "schlechte" Vektorvergleichsergebnisse in die Gütebetrachtung einfließen. Selbstähnliche Strukturen können durch einen Bildvergleich - üblicherweise einen blockweisen Bildvergleich - innerhalb des Bildes ermittelt werden.
Für die Bildung des Gütewertes eines Testvektors in bezug auf einen Voraussagevektor werden das für den Testvektor ermit-
telte Bildvergleichsergebnis und das Vektorvergleichsergebnis miteinander verknüpft, wobei die Verknüpfung derart erfolgt, dass bei gleichem Bildvergleichsergebnis der Gütewert um so besser ist, je weniger sich der Testvektor und der ausgewähl- te Voraussagevektor unterscheiden. Unter der Annahme, dass aus der ermittelten Rangfolge nur die "besten" Testvektoren ausgewählt werden, werden also solche Testvektoren bevorzugt die sich von den Voraussagevektoren wenig unterscheiden. Die Berücksichtigung der Herkunft eines Voraussagevektors bei dem Bildvergleich kann beispielsweise dadurch erfolgen, dass das Vergleichsergebnis mit einem Offset versehen wird, dessen Wert von der Herkunft des jeweiligen Voraussagevektors abhängig ist .
Der Gütewert kann durch eine gewichtete Addition des aus dem Bildvergleich erhaltenen numerischen Wertes und des aus dem Vektorvergleichsergebnis erhaltenen Wertes ermittelt werden, wobei zu einem Testvektor mehrere Gütewerte ermittelt werden können, deren Anzahl der Anzahl der Voraussagevektoren ent- spricht, mit denen der ausgewählte Testvektor verglichen wird.
Bei einer Ausführungsform ist vorgesehen, dass Vektorvergleiche zwischen den ausgewählten Testvektoren und allen Voraus- sagevektoren durchgeführt werden, um zu jedem der ausgewählten Testvektoren eine der Anzahl der Voraussagevektoren entsprechende Anzahl Vektorvergleichsergebnisse zu erhalten. Vorzugsweise wird dabei eine Rangfolge der Vektorvergleichs- ergebnisse ermittelt und nur das "beste" Vektorvergleichser- gebnis wird zur Bildung des Gütewertes herangezogen, so dass zu jedem Testvektor genau ein Gütewert ermittelt wird.
Bei einer weiteren Ausführungsform ist vorgesehen, zu jedem Voraussagevektor den zu diesem Voraussagevektor jeweils bes- ten Testvektor zu ermitteln, wobei beispielsweise der/die Testvektoren als Auswahlvektor ausgewählt wird/werden, der/die am häufigsten als bester Testvektor zu den Auswahl-
vektoren ermittelt wurden. Hierbei besteht auch die Möglichkeit, zu jedem Voraussagevektor einen eigenen Satz von Test- vektoren auszuwählen.
Vorzugsweise werden alle Testvektoren ausgewählt, das heißt, es werden Bildvergleiche für alle Testvektoren durchgeführt, wobei zusätzlich für alle Testvektoren Vektorvergleiche mit allen Voraussagevektoren durchgeführt werden können.
Die Auswahl des wenigstens einen Testvektors als Auswahlvektor erfolgt vorzugsweise iterativ, indem zunächst ein erster Satz von festen Auswahlvektoren bereitgestellt wird, aus denen anhand der mittels der Bildvergleichsergebnisse und der Vektorvergleichsergebnisse ermittelten Rangfolge der/die "besten" Testvektor (en) ausgewählt werden. Aus diesen besten Testvektoren wird nachfolgend für den nächsten Iterationsschritt eine zweite Gruppe von Testvektoren ermittelt, wobei die Testvektoren dieser zweiten Gruppe aus den zuvor ausgewählten besten Testvektoren des ersten Satzes gebildet wer- den.
Die Bildung dieser Testvektoren der zweiten Gruppe erfolgt beispielsweise dadurch, dass zu den zuvor ausgewählten Testvektoren des ersten Satzes jeweils vorgegebene Modifikations- vektoren addiert werden. Dabei können zu einem der ausgewählten Testvektoren einer oder mehrere Testvektoren der zweiten Gruppe erzeugt werden. Die Modifikationsvektoren sind dabei vorzugsweise so gewählt, dass die Differenz zwischen solchen Testvektoren, die durch Hinzuaddieren der Modifikationsvekto- ren zu einem der zuvor ausgewählten Testvektoren entstehen, geringer sind als die Abweichungen der einzelnen Testvektoren der ersten Gruppe .
Zu den Testvektoren der zweiten Gruppe wird anhand der BiId- Vergleichsergebnisse und der Vektorvergleichsergebnisse eine weitere Rangfolge gebildet, anhand der wenigstens ein zur Bildung eines Auswahlvektors verwendeter Testvektor ausge-
wählt wird oder anhand der einer oder mehrere von Testvektoren ausgewählt werden, aus denen mittels Modifikationsvektoren für einen weiteren Iterationsschritt eine weitere Gruppe von Testvektoren gebildet wird.
Bei einer Ausführungsform ist vorgesehen, zu jedem Voraussagevektor eine Rangfolge der Testvektoren zu ermitteln und den jeweils besten Testvektor zu jedem der Voraussagevektoren für den weiteren Iterationsschritt zu verwenden. Nach dem letzten Iterationsschritt besteht die Möglichkeit, aus der Menge der "besten" Testvektoren den Testvektor als Auswahlvektor auszuwählen, dem der beste Gütewert zugeordnet ist.
Bei der Ermittlung des Vektorvergleichsergebnisses besteht selbstverständlich auch bei iterativen Verfahren die Möglichkeit, die Herkunft des Voraussagevektors zu berücksichtigen.
Des weiteren besteht die Möglichkeit, die Voraussagevektoren bezüglich ihrer Herkunft in Gruppen zu unterteilen, bei- spielsweise in Voraussagevektoren, die anhand eines vorherigen Bildes für benachbarte Bildbereiche zu dem interessierenden Bildbereich ermittelt wurden, Voraussagevektoren, die anhand eines vorherigen Bildes für den interessierenden Bildbereich ermittelt wurden und Voraussagevektoren, die anhand des aktuellen Bildes für benachbarte Bildbereiche zu dem interessierenden Bildbereich ermittelt wurden. Zu jeder dieser Gruppen können bei jedem Iterationsschritt der/die besten Testvektor (en) ermittelt und für den nachfolgenden Iterationsschritt verwendet werden. Bei Abschluss des Iterationsverfah- rens besteht neben der Ermittlung eines Auswahlvektors anhand der Rangfolge der besten Testvektoren die Möglichkeit, den jeweils zu einer Gruppe ermittelten besten Testvektor als einen neuen Voraussagevektor abzuspeichern.
Vorzugsweise umfassen die Modifikationsvektoren den Nullvektor, so dass die am Ende eines Iterationsschrittes ausgewählten Testvektoren, aus denen anhand der Modifikationsvektoren
der Satz von Testvektoren für den nächsten Iterationsschritt gebildet werden, in diesem Satz von Testvektoren für den nächsten Iterationsschritt enthalten sind.
Vorzugsweise stimmen die einzelnen Modifikationsvektoren bezüglich ihrer Richtung bei den einzelnen Iterationsschritten überein, werden bezüglich ihres Betrages von Iterationsschritt zu Iterationsschritt jedoch kleiner, so dass mit jedem Iterationsschritt Testvektoren erzeugt werden, deren Dif- ferenz geringer wird.
Außerdem besteht die Möglichkeit, die Modifikationsvektoren abhängig von dem zuvor ermittelten Gütemaß auszuwählen. Wird beispielsweise zu jedem Auswahlvektor der jeweils beste Test- vektor ermittelt, von denen einer oder mehrere jedoch ein schlechtes Gütemaß liefert, so werden bei dieser Ausführungsform diese Testvektoren beispielsweise größeren Modifikationen unterworfen, da anzunehmen ist, dass geringe Modifikationen keine bedeutende Verbesserung mit sich bringen dürften. Testvektoren hingegen, die ein gutes Ergebnis liefern, werden während des nachfolgenden Schrittes nur wenig oder gar nicht modifiziert.
Insgesamt betrachtet liegt einem solchen iterativen Verfahren ein Satz von Testvektoren zugrunde, der aus dem ursprünglichen Satz von Testvektoren durch alle möglichen Kombinationen mit den Modifikationsvektoren gebildet ist, wobei während der einzelnen Iterationsschritte jedoch immer wieder Testvektoren verworfen werden, um den Rechenaufwand in Grenzen zu halten.
Das erfindungsgemäße Verfahren zur Ermittlung eines Auswahl- vektors kann in einem Verfahren zur Ermittlung eines Satzes von Auswahlvektoren Verwendung finden, bei dem Auswahlvektoren ausschließlich anhand des erläuterten Verfahrens ermit- telt werden, wobei anhand der ermittelten Rangfolge der Gütewerte so viele Testvektoren ausgewählt werden, wie Auswahl- vektoren benötigt werden.
Das Verfahren kann auch als Erweiterung eines bekannten Verfahrens dienen, bei dem einer oder mehrere Voraussagevektoren als Auswahlvektoren verwendet werden, und das dadurch verbes- sert wird, dass wenigstens ein anhand einer Rangfolge von Gütewerten ausgewählter Testvektor als Auswahlvektor verwendet wird.
Die Auswahlvektoren können bei beiden Verfahren als Voraussa- gevektoren für den nächsten Vektorsuchschritt des betrachteten Bildbereiches dienen, wobei die Auswahlvektoren unverändert als Voraussagevektoren übernommen werden können oder gemäß einen fest vorgegebenen oder zufälligen Schema für die Bildung der neuen Voraussagevektoren verändert werden können. Bei dem zuletzt erläuterten Verfahren, bei dem Voraussagevektoren und Testvektoren als Auswahlvektoren verwendet werden, werden vorzugsweise die Auswahlvektoren des vorherigen Schrittes, die das schlechteste Bildvergleichsergebnis liefern, nicht mehr als neue Voraussagevektoren herangezogen sondern durch die anhand der Rangfolge ermittelten Testvektoren ersetzt.
Die vorliegende Erfindung wird nachfolgend anhand von Figuren näher erläutert. In den Figuren zeigt
Figur 1 schematisch ein erstes und zweites Bild, mit je einem Bildbereich, die über einen Verschiebungsvektor zueinander in Beziehung stehen,
Figur 2 ein System zur Bereitstellung eines Satzes von Auswahlvektoren unter Verwendung von Voraussagevektoren nach dem Stand der Technik,
Figur 3 ein Ablaufdiagramm für ein erfindungsgemäßes Ver- fahren zur Bereitstellung wenigstens eines Auswahl- vektors unter Verwendung eines Satzes von Testvektoren und eines Satzes von Voraussagevektoren,
Figur 4 Tabellen, die Bildvergleichsergebnisse und Vektorvergleichsergebnisse umfassen, die zu Gütewerten für ausgewählte Testvektoren verknüpft werden,
Figur 5 eine Gütwertmatrix,
Figur 6 ein Ablaufdiagramm für eine weitere Ausführungsform eines erfindungsgemäßen Verfahrens, bei dem der we- nigstens eine Auswahlvektor iterativ aus einem Satz
Testvektoren ermittelt wird,
Figur 7 schematisch ein mögliches Vorgehen bei einem iterativen Verfahren zur Bereitstellung eines Satzes von Testvektoren anhand eines ausgewählten Testvektors und anhand von Modifikationsvektoren gemäß Figur 6.
In den Figuren bezeichnen, sofern nicht anders angegeben gleiche Bezugszeichen gleiche Teile und Verfahrensschritte mit gleicher Bedeutung.
Figur 3 veranschaulicht anhand eines Ablaufdiagramms ein Ausführungsbeispiel eines erfindungsgemäßen Verfahrens zur Ermittlung wenigstens eines Auswahlvektors, der unter Bezugnah- me auf das Beispiel gemäß Figur 1 einen möglichen Verschiebungsvektor für eine Verschiebung des ersten Bildbereiches 1 von der ersten Position Pl in dem ersten Bild Bl an eine zweite Position P2 in dem zweiten Bild B2 darstellt. Wie bereits eingangs erläutert, dienen derartige Auswahlvektoren dazu, Bildvergleiche zwischen Bildbereichen in dem ersten
Bild Bl und dem zweiten Bild B2 durchzuführen, wobei die verglichenen Bildbereiche durch jeweils einen der Auswahlvekto- ren gegeneinander verschoben sind. Als tatsächlicher oder wahrscheinlichster Verschiebungsvektor wird dabei der Aus- wahlvektor angenommen, der dass "beste" Bildvergleichsergebnis liefert.
Das erfindungsgemäße Verfahren zur Bereitstellung wenigstens eines Auswahlvektors sieht vor, einen Satz von Voraussagevektoren 101 bereitzustellen, wobei in Figur 3 beispielhaft vier solche Voraussagevektoren Vl, V2, V3 , V4 dargestellt sind. Diese Voraussagevektoren V1-V4 können mittels herkömmlicher bekannter Verfahren zur Ermittlung von Voraussagevektoren bereitgestellt werden. Solche Verfahren umfassen beispielsweise das Bereitstellen von Voraussagevektoren für einen gegebenen Bildbereich anhand bereits ermittelter Verschiebungsvektoren für benachbarte Bildbereiche des gegebenen Bildbereich. So besteht bezugnehmend auf das Beispiel gemäß Figur 1 die Möglichkeit, Voraussagevektoren für den Bildbereich 1 anhand von Verschiebungsvektoren zu ermitteln, die für benachbarte Bildbereiche 3, 4, 5 des ersten Bildbereiches ermittelt wurden. Des Weiteren besteht die Möglichkeit, Voraussagevektoren für einen gegebenen Bildbereich anhand von Auswahlvektoren zu ermitteln, die für diesen Bildbereich 1 während vorangegangener Vektorsuchschritte ermittelt wurden.
Das erfindungsgemäße Verfahren sieht weiterhin vor, einen
Satz von Testvektoren 102 bereitzustellen, wobei in Figur 3 beispielhaft drei solche Testvektoren Tl, T2, T3 dargestellt sind.
Aus diesem Satz von Testvektoren 102 wird wenigstens ein
Testvektor ausgewählt, wobei vorzugsweise alle Testvektoren T1-T3 ausgewählt werden, und unter Verwendung dieser Testvektoren werden in einem Schritt 103 Bildvergleiche durchgeführt, um für jeden der ausgewählten Testvektoren T1-T3 ein Bildvergleichsergebnis zu liefern, das in Figur 3 mit B(Tn) bezeichnet ist, wobei Tn für jeden beliebigen ausgewählten Testvektor T1-T3 steht. Der Bildvergleich umfasst den Vergleich eines ersten Bildbereiches 1 in dem ersten Bild Bl mit einem zweiten Bildbereich 2 in dem zweiten Bild B2 , wobei ei- ne Position P2 des zweiten Bildbereiches B2 gegenüber der Position Pl des ersten Bildbereiches 1 um den der ausgewählten
Testvektoren verschoben ist, für den das Bildvergleichsergebnis ermittelt wird.
Bezugnehmend auf Figur 1 wird der Verschiebungsvektor vec für jeden Bildvergleich durch einen anderen der ausgewählten
Testvektoren T1-T3 ersetzt. Für den Bildvergleich werden jeweils aus einer Anzahl von Bildpunkten aufgebauten Bildbereiche dadurch verglichen, dass Bildinformationswerte, beispielsweise Luminanzwerte oder Chrominanzwerte jeweils zweier Bildpunkte, die sich in dem ersten Bildbereich 1 und im zweiten Bildbereich 2 an entsprechenden Bildpunktpositionen befinden, verglichen werden, wobei die einzelnen Vergleichsergebnisse aufaddiert werden. Um das Bildvergleichsergebnis zu liefern, werden beispielsweise die Quadrate aller Differenzen zwischen den Bildinformationswerten der Bildpunkte des ersten Bildbereiches 1 und der Bildpunkte des zweiten Bildbereiches 2 aufaddiert, wodurch ein Bildvergleichsergebnis erhalten wird, dessen numerischer Wert um so kleiner ist, je größer die Übereinstimmung zwischen den zwei betrachteten Bildberei- chen 1,2 sind und das im Extremfall Null beträgt, wenn die beiden betrachteten Bildbereiche identisch sind, das heißt, wenn die beiden Bildbereiche Bildpunkt für Bildpunkt übereinstimmen.
Die Anzahl der durch den Bildvergleichschritt 103 bereitgestellten Bildvergleichsergebnisse B (Tn) entspricht der Anzahl der ausgewählten Testvektoren Tl-T3, von denen vorzugsweise alle ausgewählt werden.
In einem Verfahrensschritt 104 werden die ausgewählten Testvektoren Tl-T3 mit wenigstens einem der Voraussagevektoren V1-V4 verglichen, um Vektorvergleichsergebnisse V(Tn, Vm) bereitzustellen. V(Tn, Vm) bezeichnet dabei ein Vergleichsergebnis, das durch einen Vergleich des Voraussagevektors Vm mit dem Testvektor Tn ermittelt wird, wobei Tn für einen beliebigen der ausgewählten Testvektoren T1-T3 und Vm für einen beliebigen der ausgewählten Voraussagevektoren V1-V4 steht.
Vorzugsweise werden alle Voraussagevektoren Vl-V4 für einen Vergleich mit allen Testvektoren T1-T3 herangezogen, woraus eine Anzahl von Vektorvergleichsergebnissen V(Tn, Vm) resultiert, die dem Produkt der Anzahl der Testvektoren und der Anzahl der Voraussagevektoren entspricht.
Bei der Ermittlung des Vektorvergleichsergebnisses besteht insbesondere die Möglichkeit die Herkunft des Voraussagevektors zu berücksichtigen und durch Berücksichtigen eines wähl- baren Offset in dem Vergleichsergebnis beispielsweise solche Voraussagevektoren schlechter zu bewerten, die anhand eines vorherigen Bildes ermittelt wurden, als solche Voraussagevektoren, die anhand des aktuellen Bildes für benachbarte Bildbereiche ermittelt wurden.
Der Vergleich eines Testvektors Tn mit einem Voraussagevektor Vm umfasst beispielsweise das Ermitteln des Quadrats des Betrages eines Differenzvektors zwischen dem Testvektor Tn und dem Voraussagevektor Vm.
Die Vektorvergleichsergebnisse V(Tn, Vm) und die Bildvergleichsergebnisse B(Tn) werden in einem Verfahrensschritt 105 zu Gütewerten G(Tn, Vm) verknüpft. G(Tn, Vm) in Figur 3 bezeichnet einen Gütewert, der durch Verknüpfung des Bildver- gleichsergebnisses B(Tn) mit dem Vektorvergleichsergebnis
V (Tn, Vm) erhalten wurde. Der Verknüpfungsoperator ist in Figur 6 durch das Symbol "o" dargestellt.
Die Verknüpfung des Vektorvergleichsergebnisses V(.) und B(.) kann abhängig von der Art und Weise, wie die Bildvergleichsergebnisse B(.) und V(.) erhalten werden, verschiedene Verknüpfungsarten umfassen. Unter der Annahme, dass das Bildvergleichsergebnis B(.) einen numerischen Wert darstellt, der umso kleiner ist, je größer die Übereinstimmungen zwischen den betrachteten Bildbereichen sind und dass das Vektorvergleichsergebnis V(.) einen numerischen Wert darstellt, dessen Wert umso kleiner ist, je geringer die Differenz zwischen dem
betrachteten Testvektor und dem betrachteten Voraussagevektor sind, ist die Verknüpfung des Bildvergleichsergebnisses B(.) und des Vektorvergleichsergebnisses V(.) beispielsweise eine gewichtete Addition, so dass gilt:
G(Tn, Vm) = kτ • B Tn + kv • V(Tn, Vm) .
Die Summe der Gewichtungsfaktoren kτ + kv ist dabei Eins. Wie stark das Vektorvergleichsergebnis V(.) und das Bildver- gleichsergebnis B(.) tatsächlich gewichtet werden, ist vom
Anwendungsfall abhängig, wobei keiner der beiden Gewichtungsfaktoren Kτ, Kv Null ist.
Figur 4 veranschaulicht eine in dem Verfahrensschritt 103 er- zeugte Tabelle 113 mit Bildvergleichsergebnissen B(Tl) bis B(T3) sowie eine in dem Verfahrensschritt 104 ermittelte Tabelle mit Vektorvergleichsergebnissen V(Tl, Vl) bis V(T3, V4) , die in dem Verfahrensschritt 105 zur Bildung einer Tabelle 115 mit den Gütewerten G(Tl, Vl) bis G(T3, V4) ver- knüpft werden.
In einem Verfahrensschritt 106 wird durch Sortieren dieser Gütewerte G ( . , . ) eine Rangfolge ermittelt und wenigstens der Testvektor, für den der beste Gütewert ermittelt wurde, wird als Auswahlvektor ausgewählt. Der oder die ausgewählten Auswahlvektoren sind in Figur 3 durch Ti bezeichnet.
Unter der beispielhaften Annahme, dass die numerischen Werte der Bildvergleichsergebnisse B(.) um so kleiner sind, je grö- ßer die Übereinstimmung der betrachteten Bildbereiche sind und dass die Vektorvergleichsergebnisse V(.) um so kleiner sind, je geringer die Unterschiede zwischen einem betrachteten Testvektor und einem betrachteten Voraussagevektor sind, und dass die Vektorvergleichsergebnisse V(.) und Bildver- gleichsergebnisse B(.) addiert werden, folgt, dass der beste Gütewert der Gütewert mit dem kleinsten numerischen Wert ist.
Bei einer Abwandlung des zuvor erläuterten Verfahrens ist vorgesehen, jeden der ausgewählten Testvektoren T1-T3 mit jedem der ausgewählten Voraussagevektoren V1-V4 im Verfahrensschritt 104 zu vergleichen und Vektorvergleichsergebnisse V(Tn, Vm) bereitzustellen, im Verfahrensschritt 105 jedoch nur den jeweils besten Vektorvergleichswert eines Testvektors mit dem zugehörigen Bildvergleichswert B(.) zu verknüpfen. Die Tabelle 114 wird dadurch auf eine Anzahl von Werten reduziert, die der Anzahl der ausgewählten Testvektoren entspre- chen.
Außerdem besteht die Möglichkeit, für jeden Voraussagevektor Vl-V4 denjenigen der Testvektoren Tl zu ermitteln, der das beste Gütemaß besitzt, so dass eine der Anzahl der Testvekto- ren entsprechende Anzahl Testvektoren ermittelt werden.
Figur 5 veranschaulicht dieses Vorgehen anhand einer Matrix, in der die Testvektoren Tl-T3 und die Auswahlvektoren Vl-V4 aufgetragen sind, wobei die einzelnen Matrixelemente bei- spielhaft jeweils einen einem Testvektor und einem Voraussagevektor zugehörigen Gütewert repräsentieren. Unter der Annahme, dass die Ermittlung des Gütewertes so erfolgt, dass ein Testvektor als um so besser gilt, je geringer dessen Gütewert ist, würde in dem Beispiel der Testvektor Tl als bes- ter Vektor zu dem Voraussagevektor Vl, der Testvektor Tl als bester Vektor zu dem Voraussagevektor V2 , der Testvektor T3 als bester Vektor zu dem Voraussagevektor V3 und der Testvektor T2 als bester Vektor zu dem Voraussagevektor V4 ausgewählt werden.
Aus diesen besten Testvektoren können dann ein Testvektor o- der mehrere Testvektoren ausgewählt werden, wobei bei dieser Auswahl das für den jeweiligen Testvektor ermittelte Gütemaß und/oder die Häufigkeit, mit der ein Testvektor als bester Testvektor zu den Voraussagevektoren ermittelt wurde, berücksichtigt werden kann.
Außerdem kann der zu einem Auswahlvektor ermittelte Testvektor als neuer Voraussagevektor gespeichert werden, wobei die Möglichkeit besteht, die Auswahlvektoren nach deren Herkunft zu klassifizieren und die erhaltenen Testvektoren entspre- chend in einer zugehörigen Gruppe abzuspeichern.
Bei der Darstellung gemäß Figur 3 wird davon ausgegangen, dass ein Satz von Testvektoren 102 bereitgestellt wird, aus dem nach Durchführung von Bildvergleichen und unter Verwen- düng von Voraussagevektoren wenigstens ein Testvektor Ti ausgewählt wird, der als Auswahlvektor verwendet werden kann.
Bei einer Abwandlung des Verfahrens gemäß Figur 3, dessen Ablaufdiagramm in Figur 6 dargestellt ist, ist vorgesehen, we- nigstens einen Auswahlvektor mittels eines iterativen Verfahrens zu ermitteln.
Wie in Figur 6 dargestellt ist, ist bei diesem Verfahren e- benfalls vorgesehen, einen Satz von Testvektoren T1-T3 be- reitzustellen und aus diesem Satz von Testvektoren T1-T3 mittels eines bereits anhand der Figuren 3 und 4 erläuterten Verfahrens wenigstens einen Testvektor Ti auszuwählen. Im Gegensatz zu dem Verfahren gemäß Figur 3 wird dieser Testvektor Ti allerdings nicht bereits nach dem ersten Durchlauf des Verfahrens als Auswahlvektor ausgegeben, sondern dieser wenigstens eine Testvektor Ti dient in einem Verfahrensschritt 107 als Grundlage für die Erzeugung eines weiteren Satzes von Testvektoren, die in Figur 6 beispielhaft mit TiI, Ti2, Ti3, Ti4 bezeichnet sind, wobei das bereits erläuterte Verfahren mit diesem neuen Satz von Testvektoren in der erläuterten
Weise erneut durchgeführt wird. Zur Verdeutlichung des iterativen Charakters des Verfahrens gemäß Figur 6 sind in Figur 6 zwei Schalter Sl, S2 dargestellt, wobei sich der Schalter Sl zu Beginn des Verfahrens in der linken dargestellten Position befindet, um den ursprünglichen Satz 102 von Testvektoren Tl, T2, T3 in dem Verfahrensschritt 103 zu verarbeiten und wobei sich der Schalter S2 zu Beginn des Verfahrens in der rechten
dargestellten Position befindet, um den wenigstens einen ausgewählten Testvektor Ti dem Verfahrensschritt 107 zur Bildung eines neuen Satzes 112 von Testvektoren TiI - Ti4 zuzuführen. Während der weiteren Iterationsschritte steht der erste Schalter Sl in der rechten dargestellten Position, um die Testvektoren des aus den ausgewählten Testvektoren Ti gebildeten Satzes von Testvektoren dem Verfahrensschritt 103 zuzuführen. Am Ende des Verfahrens wird der zweite Schalter in die linke dargestellte Position gebracht, um den wenigstens einen ausgewählten Testvektor Ti als Auswahlvektor auszugeben.
Figur 7 veranschaulicht eine mögliche Ausgestaltung des Verfahrensschrittes 107, in dem aus wenigstens einem ausgewähl- ten Testvektor Ti der neue Satz Testvektoren 112 bereitgestellt wird. Figur 7 zeigt einen ausgewählten Testvektor Ti in einem kartesischen Koordinatensystem, wobei aus diesem Testvektor Ti durch vektorielle Addition von vier Modifikationsvektoren M1-M4 ein Satz von vier weiteren Testvektoren TiI, Ti2, Ti3, Ti4 erzeugt wird. Vorzugsweise ist einer der
Modifikationsvektoren ein Nullvektor, so dass auch der ausgewählte Testvektor Ti in den Satz neuer Testvektoren 112 übernommen wird. Die dargestellten Modifikationsvektoren M1-M4 lassen sich in kartesischen Koordinaten darstellen als (± a,0) und (0, ± a) , wobei a den Betrag der Modifikationsvektoren M1-M4 darstellt. Selbstverständlich können auch mehr als vier Modifikationsvektoren verwendet werden, um dadurch aus einem ausgewählten Testvektor Ti mehr als. vier, bzw. bei Verwendung des Nullvektors als einen Modifikationsvektor mehr als fünf Testvektoren aus einem ausgewählten Testvektor Ti zu bilden. Zusätzliche Modifikationsvektoren sind beispielsweise (± 0,5 • a • V2, ± 0,5 • a • V2) .
Vorzugsweise verringert sich der Betrag a der Modifikations- vektoren mit jedem Iterationsschritt, wodurch mit jedem Iterationsschritt aus einem ausgewähltem Testvektor Ti ein Satz
von Testvektoren erzeugt wird, die sich immer weniger von dem ausgewählten Testvektor Ti unterscheiden.
Auch bei dem erläuterten iterativen Verfahren besteht die Möglichkeit, die Herkunft eines Voraussagevektors bei der Ermittlung des Vektorvergleichsergebnisses zu berücksichtigen.
Außerdem besteht die Möglichkeit, zu jedem Voraussagevektor während jedes Iterationsschrittes den jeweils besten Testvek- tor zu ermitteln und für den nachfolgenden Iterationsschritt zu verwenden. Nach dem letzten Iterationsschritt kann der zu jedem Voraussagevektor ermittelte jeweils beste Testvektor als ein neuer Voraussagevektor abgespeichert werden.
Die Modifikation eines für den nächsten Iterationsschritt ausgewählten Testvektors erfolgt vorzugsweise abhängig von dem während des vorherigen Iterationsschrittes ermittelten Gütewertes. So werden Testvektoren mit einem guten Gütewert weniger stark modifiziert als Testvektoren mit schlechten Gü- tewerten. Dies kann beispielsweise dadurch erreicht werden, dass der Betrag des Modifikationsvektors abhängig von dem zuvor ermittelten Gütewert eingestellt wird.
Das erfindungsgemäße Verfahren zur Ermittlung eines Auswahl- vektors anhand eines Satzes von Testvektoren und eines Satzes von Voraussagevektoren eignet sich vollständig zur Ermittlung von Auswahlvektoren, wobei beispielsweise ein Satz von Test- vektoren bereitgestellt wird, der mehr Testvektoren enthält, als Auswahlvektoren benötigt werden und wobei anhand des er- mittelten Verfahrens die jeweils besten Testvektoren als Auswahlvektoren ausgewählt werden. Das erfindungsgemäße Verfahren eignet sich auch im Zusammenhang mit einem herkömmlichen Verfahren, bei dem Auswahlvektoren anhand von Voraussagevek- toren ermittelt werden. Dabei besteht die Möglichkeit, neben den Voraussagevektoren wenigstens einen Testvektor als
Auswahlvektor zu verwenden, der anhand des erfindungsgemäßen Verfahrens ermittelt wurde.
Die für einen gegebenen Bildbereich ermittelten Auswahlvektoren können für nachfolgende Suchschritte für die Ermittlung der Voraussagevektoren herangezogen werden.