WO2004111939A2 - Verfahren zur ermittlung eines verschiebungsvektors in der bildverarbeitung - Google Patents

Verfahren zur ermittlung eines verschiebungsvektors in der bildverarbeitung Download PDF

Info

Publication number
WO2004111939A2
WO2004111939A2 PCT/EP2004/006398 EP2004006398W WO2004111939A2 WO 2004111939 A2 WO2004111939 A2 WO 2004111939A2 EP 2004006398 W EP2004006398 W EP 2004006398W WO 2004111939 A2 WO2004111939 A2 WO 2004111939A2
Authority
WO
WIPO (PCT)
Prior art keywords
vector
vectors
test
image
prediction
Prior art date
Application number
PCT/EP2004/006398
Other languages
English (en)
French (fr)
Other versions
WO2004111939A3 (de
Inventor
Marko Hahn
Christian Tuschen
Original Assignee
Micronas Gmbh
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Family has litigation
First worldwide family litigation filed litigation Critical https://patents.darts-ip.com/?family=33520721&utm_source=google_patent&utm_medium=platform_link&utm_campaign=public_patent_search&patent=WO2004111939(A2) "Global patent litigation dataset” by Darts-ip is licensed under a Creative Commons Attribution 4.0 International License.
Application filed by Micronas Gmbh filed Critical Micronas Gmbh
Priority to US10/561,658 priority Critical patent/US7720296B2/en
Priority to EP04736747A priority patent/EP1634245A2/de
Publication of WO2004111939A2 publication Critical patent/WO2004111939A2/de
Publication of WO2004111939A3 publication Critical patent/WO2004111939A3/de

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/56Motion estimation with initialisation of the vector search, e.g. estimating a good candidate to initiate a search
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/223Analysis of motion using block-matching
    • G06T7/238Analysis of motion using block-matching using non-full search, e.g. three-step search
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/97Determining parameters from multiple pictures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20228Disparity calculation for image-based rendering
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/144Movement detection

Definitions

  • the two images can be recorded sequentially in time, and thus illustrate a movement of the object or image area in a displayed image section over time.
  • the motion vector is used in such cases, for example for interpolating one or more intermediate frames, the position of the object: to reflect one or more time points between the first and the second image recording, for example, in the •. 50Hz / 100Hz image conversion or when creating so-called "artificial slow-motion".
  • This set of test vectors 102 becomes at least one
  • the displacement vector vec is selected by a different one for each image comparison
  • a ranking is determined by sorting these quality values G (.,.) And at least the test vector for which the best quality value was determined is selected as the selection vector.
  • the selected selection vector (s) are designated by Ti in FIG. 3.

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Image Analysis (AREA)

Abstract

Die Erfindung betrifft ein Verfahren zur Ermittlung eines Auswahlvektors, der einen möglichen Verschiebungsvektor für eine Verschiebung eines Bildbereiches von einer ersten Position in einem ersten Bild an eine zweite Position in einem zweiten Bild darstellt, wobei das Verfahren folgende Verfahrensschritte umfasst: a) Bereitstellen eines Satzes von Voraussagevektoren, b) Bereitstellen wenigstens eines festen Satzes von Testvektoren, c) Auswählen wenigstens eines Testvektors aus dem Satz von Testvektoren und Durchführen eines Bildvergleiches zwischen einem ersten Bildbereich in dem ersten Bild und einem zweiten Bildbereich in dem zweiten Bild, um ein Bildvergleichsergebnis zu erhalten, wobei die Position des zweiten Bildbereiches gegenüber dem ersten Bildbereich um den wenigstens einen aus gewählten Testvektor verschoben ist, d) Vergleichen des wenigstens einen ausgewählten Testvektors mit wenigstens einem ausgewählten Voraussagevektor, um für jeden ausgewählten Testvektor wenigstens ein Vektorvergleichsergebnis zu erhalten, e) Bereitstellen wenigstens eines Gütewertes zu jedem ausgewählten Testvektor aus dem für diesen Testvektor erhaltenen Bildvergleichsergebnis und einem Vektorvergleichsergebnis, f) Ermitteln einer Rangfolge der Gütewerte und g) Auswählen eines der Testvektoren anhand der Rangfolge der Güterwerte als Auswahlvektor.

Description

Beschreibung
Verfahren zur Ermittlung eines Verschiebungsvektors in der Bildverarbeitung
Die vorliegende Erfindung betrifft ein Verfahren zur Ermittlung eines Verschiebungsvektors in der Bildverarbeitung.
Verschiebungsvektoren bzw. Bewegungsvektoren dienen in der Bildverarbeitung in hinlänglich bekannter Weise dazu, eine
Positionsveränderung eines Objekts oder Bildbereiches von einer ersten Position in einem ersten Bild zu einer zweiten Position in einem zweiten Bild zu definieren.
Die beiden Bilder können dabei zeitlich aufeinanderfolgend • aufgenommen sein, und somit eine Bewegung des Objekts oder Bildbereiches in einem dargestellten Bildausschnitt über der Zeit veranschaulichen. Der Bewegungsvektor dient in solchen Fällen beispielsweise zur Interpolation eines oder mehrerer Zwischenbilder, die die Position des Objekts: zu einem oder mehreren Zeitpunkten zwischen der Aufnahme des ersten und zweiten Bildes wiedergeben, beispielsweise bei der . 50Hz/100Hz-Bildkonversion oder bei der Erzeugung sogenannter "künstlicher Zeitlupen" .
Die beiden Bilder können auch gleichzeitig aus einer ersten und zweiten Kameraposition aufgenommen sein, wobei der zu ermittelnde Verschiebungsvektor dazu dient, ein Zwischenbild zu erzeugen, das das Objekt aus einer virtuellen dritten Kamera- position zeigt, die sich an einer anderen als der ersten und zweiten Kameraposition befindet.
Figur 1 veranschaulicht zwei Bilder Bl, B2, die zeitlich aufeinanderfolgend oder aus unterschiedlichen Kamerapositionen aufgenommen sein können, mit einem ersten Bildbereich 1 an einer ersten Position Pl in dem ersten Bild Bl und einem zweiten Bildbereich 2 an einer zweiten Position P2 in dem zweiten Bild B2. Die Bildbereiche 1, 2 sind zur Vereinfachung der Darstellung als Quadrate dargestellt, deren Mittelpunkte die Positionen Pl, P2 der Bildbereiche bezeichnen. Selbstverständlich können die Bildbereiche jedoch eine beliebige Form aufweisen.
Wie in Figur 1 dargestellt ist, resultiert der zweite Bildbereich 2 in dem zweiten Bild B2 aus einer Verschiebung des ersten Bildbereiches 1 des ersten Bildes Bl mit einem Ver- schiebungsvektor vec. Diese Verschiebung kann zeitlich bedingt sein, wenn die beiden Bilder Bl, B2 aufeinanderfolgend aufgenommen sind und sich ein Objekt, das den ersten Bildbereich 1 repräsentiert, in dem betrachteten Bildausschnitt von der Position Pl zum AufnahmeZeitpunkt des ersten Bildes Bl an die Position 2 zum AufnahmeZeitpunkt des zweiten Bildes B2 bewegt. Diese Verschiebung der beiden Bildbereiche 1, 2 in dem dargestellten Bildausschnitt kann auch dadurch bedingt sein, dass die beiden Bilder Bl, B2 zum selben Zeitpunkt, a- ber aus unterschiedlichen Blickwinkeln aufgenommen wurden.
Zur Ermittlung eines solchen Verschiebungsvektors zu einem gegebenen Bildbereich oder Objekt ist es grundsätzlich bekannt, die Bilder in einzelne Bildbereiche zu unterteilen und Testvektoren bereitzustellen, von denen jeder einen möglichen Verschiebungsvektor für die einzelnen Bildbereiche repräsentiert . Unter Verwendung dieser Testvektoren werden Bildvergleiche durchgeführt, indem Bildinformationen, beispielsweise Luminanzwerte oder Chrominanzwerte, der einzelnen Bildpunkte eines betrachteten ersten Bildbereiches in dem ersten Bild mit Bildinformationswerten eines zweiten Bildbereiches in dem zweiten Bild miteinander verglichen werden, wobei die Position des zweiten Bildbereiches in dem zweiten Bild unter Verwendung jeweils eines Auswahlvektors gegenüber der Position des ersten Bildbereiches in dem ersten Bild verschoben ist . Von den Testvektoren wird/werden dabei derjenige/diejenigen als sogenannte (r) Auswahlvektσr(en) ausgewählt und für die weitere Bildverarbeitung verwendet, der/die das "beste" Ver- gleichsergebnis liefert/liefern, bei dem/denen also die beste Übereinstimmung zwischen dem ersten und zweiten Bildbereich ermittelt wurde.
Die Qualität eines solchen Verfahrens ist von der Wahl der Auswahlvektoren abhängig, da selbstverständlich nicht für alle möglichen Verschiebungsvektoren ein Bildvergleich durchgeführt werden kann, um den ohnehin hohen Rechenaufwand in Grenzen zu halten. So ist es ein grundsätzliches Ziel bei derartigen Verfahren, die Anzahl der erforderlichen Bildvergleiche zu reduzieren, ohne eine Verschlechterung des Ergebnisses bei der Ermittlung des wenigstens einen Auswahlvektors hinzunehmen .
Zur Verringerung des Aufwandes ist es bekannt, bei der Wahl von Testvektoren für einen gegebenen Bildbereich bestimmte Vorinformationen zu nutzen, die beispielsweise in vorangehenden Suchschritten für den gegebenen Bildbereich oder in Suchschritten für einen benachbarten Bildbereich gewonnen wurden. Diese Vorinformationen führen zu einer Gruppe sogenannter
Voraussagevektoren, aus denen die Testvektoren gebildet oder ausgewählt werden. Diese Voraussagevektoren, die anhand von Suchschritten für benachbarte Bildbereiche oder anhand von vorangehenden Suchschritten für den betrachteten Bildbereiche gewonnen wurden, können als Testvektor für den interessierenden Bereich übernommen werden und/oder die Testvektoren können aus diesen Voraussagevektoren durch Veränderung von deren Länge und/oder Richtung nach einem vorgegebenen oder zufälligen Schema gebildet werden, wobei sich in dem zuletzt genann- ten Fall die Voraussagevektoren von Suchschritt zu Suchschritt ändern können.
Die aus den Testvektoren ermittelten Auswahlvektoren, können als neue Voraussagevektoren während nachfolgender Suchschrit- te herangezogen werden. Zur Veranschaulichung eines solchen Verfahrens zeigt Figur 2 schematisch ein Vektorsuchsystem, das Verschiebungsvektoren für einzelne Bildbereiche ermittelt und das zur Ermittlung eines möglichen Verschiebungsvektors Voraussagevektoren ein- bezieht, die Ergebnisse aus früheren Suchschritten für denselben Bildbereich oder Ergebnisse aus Suchschritten für benachbarte Bildbereiche enthalten. Das System umfasst eine Testvektorermittlungseinheit 10, der ein Satz von Voraussagevektoren zugeführt sind und die aus diesen Voraussagevektoren einen Satz von Testvektoren bereitstellt. Diese Bereitstellung der Testvektoren kann dadurch erfolgen, dass einige oder alle Voraussagevektoren unverändert als Testvektoren weitergegeben werden. Außerdem besteht die Möglichkeit, einige oder alle Voraussagevektoren nach einen festem oder zufälligen Schema zu verändern, um dadurch die Testvektoren zu bilden.
Die Testvektoren werden in einer der Testvektorermittlungseinheit 10 nachgeschalteten Bildvergleichseinheit 20 dazu verwendet für die einzelnen Bildbereiche Bildvergleiche durchzuführen, wobei bezugnehmend auf das Beispiel gemäß Figur 1 stets ein Bildbereich 1 aus dem ersten Bild Bl mit einem Bildbereich 2 aus dem zweiten Bild B2 verglichen wird, wobei für jeden Vergleich ein solcher zweiter Bildbereich aus dem zweiten Bild B2 ausgewählt wird, dessen Geometrie der Ge- ometrie des ersten Bildbereiches 1 entspricht und der mittels eines der Auswahlvektoren gegenüber dem ersten Bildbereich 1 des ersten Bildes Bl verschoben wird.
Die für die einzelnen Vergleiche ermittelten Ergebnisse wer- den einer Auswahleinheit 30 zugeführt, die anhand der Vergleichsergebnisse wenigstens einen Auswahlvektor aus der Gruppe der Testvektoren auswählt, für den das beste Vergleichsergebnis ermittelt wurde. Dieser wenigstens eine aufgrund des Vergleichsergebnisses ausgewählte Vektor stellt den tatsächlichen Verschiebungsvektor oder zumindest den wahrscheinlichsten Verschiebungsvektor dar, der den ersten Bildbereich 1 aus dem ersten Bild Bl auf den zweiten Bildbereich 2 in dem zweiten Bild B2 abbildet. Bei der Ermittlung des Vergleichsergebnisses besteht dabei die Möglichkeit, die Testvektoren abhängig davon, wie sie erzeugt wurden, unterschiedlich zu bewerten. So besteht die Möglichkeit, Voraussa- gevektoren bzw. Testvektoren, die anhand von Bildvergleichen für vorherige Bilder ermittelt wurden zu "bestrafen", beim Bildvergleich also schlechter zu bewerten als Testvektoren, die für benachbarte Bildbereiche in demselben Bild ermittelt wurden.
Bei dem erläuterten bekannten Verfahren sind die Auswahlvektoren stets eine Funktion der Voraussagevektoren. Eine sinnvolle Nutzung dieser Voraussagevektoren setzt allerdings voraus, dass die Verschiebung benachbarter Bildbereiche oder die Verschiebung des interessierenden Bildbereiches über der Zeit keinen starken Schwankungen unterliegt, da sichergestellt sein muss, dass die aus den Voraussagevektoren ermittelten Auswahlvektoren den tatsächlichen Verschiebungsvektor auch enthalten. Andernfalls ist eine erhebliche Erweiterung der Anzahl der Auswahlvektoren erforderlich.
Ziel der vorliegenden Erfindung ist es, ein verbessertes Verfahren zur Ermittlung wenigstens eines Auswahlvektors in der Bildverarbeitung zur Verfügung zu stellen, das insbesondere in der Lage ist, auch rasche Änderungen von Verschiebungsvektoren zu berücksichtigen.
Dieses Ziel wird durch ein Verfahren gemäß der Merkmale des Anspruchs 1 gelöst. Vorteilhafte Ausgestaltungen der Erfin- düng sind Gegenstand der Unteransprüche.
Das erfindungsgemäße Verfahren zur Ermittlung eines Auswahl - vektors, der eine Verschiebung eines Bildbereiches von einer ersten Position in einem ersten Bild an eine zweite Position in einem zweiten Bild angibt, sieht vor, einen Satz von Voraussagevektoren und einen Satz von Testvektoren zur Verfügung zu stellen. Die Voraussagevektoren können dabei mittels her- kömmlicher Verfahren zur Erzeugung von Voraussagevektoren gewonnen werden, beispielsweise indem Informationen aus der Suche von VerschiebungsVektoren zu benachbarten Bildbereichen oder aus der vorangehenden Suche von Verschiebungsvektoren zu dem interessierenden Bildbereich herangezogen werden.
Unter Verwendung ausgewählter Testvektoren aus dem Satz von Testvektoren wird ein Bildvergleich durchgeführt, um für jeden dieser ausgewählten Testvektoren ein Bildvergleichsergeb- nis bereitzustellen. Außerdem werden die ausgewählten Testvektoren und wenigstens einer der Voraussagevektoren verglichen, um für jeden der ausgewählten Testvektoren wenigstens ein Vektorvergleichsergebnis bereitzustellen. Anschließend werden das zu einem ausgewählten Testvektor ermittelte BiId- Vergleichsergebnis und des zu einem ausgewählten Testvektor ermittelte wenigstens eine Vektorvergleichsergebnis verknüpft um zu jedem der ausgewählten Testvektoren wenigstens einen Gütewert bereitzustellen. Zu diesen Gütewerten wird eine Rangfolge ermittelt, wobei wenigstens ein Testvektor als Ver- schiebungsvektor anhand der ermittelten Rangfolge ausgewählt wird.
Die Testvektoren sind fest vorgegeben und decken unterschiedliche mögliche Verschiebungen des interessierenden Bildberei- ches innerhalb eines vorgegebenen Bildrasters ab. Die in den Voraussagevektoren enthaltende Information wird bei dem erfindungsgemäßen Verfahren dadurch berücksichtigt, dass bei der Auswahl eines der Testvektoren als Verschiebungsvektor neben dem anhand des Testvektors erhaltenen Bildvergleichser- gebnisses auch der Abstand des Testvektors zu den Voraussagevektoren ermittelt wird.
Das Bildvergleichsergebnis für den ausgewählten Testvektor kann mittels herkömmlicher Verfahren ermittelt werden, indem Bildinformationen der Bildpunkte eines ersten Bildbereiches in dem ersten Bild mit Bildinformationswerte der Bildpunkte eines zweiten Bildbereiches in dem zweiten Bild miteinander verglichen werden, wobei die Position des zweiten Bildbereiches gegenüber der Position des ersten Bildbereiches um den jeweils betrachteten Testvektor verschoben ist. Legt man diese beiden Bildbereiche übereinander, so ist unter der Annahme geometrisch gleicher Bildbereiche jedem Bildpunkt des ersten Bildbereiches, der sich einer gegebenen Position in diesem Bildbereich befindet, ein Bildpunkt des zweiten Bildbereiches zugeordnet, der sich an der entsprechenden Position in dem zweiten Bildbereich befindet. Die Ermittlung des Vergleichs- ergebnisses kann den Vergleich der Bildinformationswerte aller Bildpunkte in den beiden Bildbereichen oder den Vergleich der Bildinformationswerte ausgewählter, repräsentativer Bildpunkte umfassen, wobei die einzelnen Bildpunktvergleichser- gebnisse aufaddiert werden, um das Bildvergleichsergebnis zu erhalten. Ein Bildpunktvergleichsergebnis für einen Bildpunkt des ersten Bildbereiches und einen zugehörigen Bildpunkt des zweiten Bildbereiches kann erhalten werden, indem beispielsweise
- die Differenz der beiden Bildinformationswerte gebildet wird,
- der Betrag der Differenz der beiden Bildinformationswerte ermittelt wird,
- das Quadrat der Differenz der beiden Bildinformationswerte gebildet wird.
Darüber hinaus sind selbstverständlich beliebige weitere ma- thematische Verfahren möglich, die ein Maß für die Übereinstimmung bzw. die Unterschiede zweier Bildbereiche liefern.
Außerdem besteht die Möglichkeit, in dem Bildvergleich weitere Bildpunkte einzubeziehen, die sich außerhalb der vergli- chenen Bildbereiche befinden, oder zusätzliche Bildpunkte einzubeziehen, die beispielsweise durch Interpolation der ge- gebenen Bildpunkt der betrachteten Bildbereiche erzeugt werden.
Der Bildvergleich erfolgt derart, dass für jeden Vergleich zweier Bildbereiche ein numerischer Wert geliefert wird, der beispielsweise um so kleiner ist, je größer die Übereinstimmung zwischen den verglichenen Bildbereichen ist .
Zur Ermittlung des Vektorvergleichsergebnisses für einen Testvektor bezogen auf einen Voraussagevektor wird beispielsweise der Betrag oder das Quadrat eines Differenzvektors diesen beiden Vektoren ermittelt. Hierdurch wird für jeden Vergleich eines Testvektors mit einem Voraussagevektor ein numerischer Wert erhalten, der um so kleiner ist, je weniger der Testvektor und der Voraussagevektor voneinander abweichen.
Bei der Ermittlung dieses Vektorvergleichsergebnisses besteht auch die Möglichkeit zu berücksichtigen, wie der Voraussagevektor ermittelt wurde. So kann der Voraussagevektor bei- spielsweise ein Verschiebungsvektor sein, der für benachbarte Bildbereiche des interessierenden Bildbereiches in demselben Bild ermittelt wurde, oder der Voraussagevektor kann ein Verschiebungsvektor sein, der für den interessierenden Bildbereich oder dazu benachbarte Bildbereiche in einem vorherge- henden Bild ermittelt wurde. Bei der Ermittlung des Vektorvergleichsergebnisses besteht beispielsweise die Möglichkeit, einen Voraussagevektor, der anhand eines vorhergehenden Bildes ermittelt wurde, zu "bestrafen", also für diesen Vektor ein schlechteres Vektorvergleichsergebnis auszugeben, als für einen identischen Vektor, der anhand eines benachbarten Bildbereiches in demselben Bild ermittelt wurde.
Die Bestrafung kann beispielsweise durch Multiplikation des ermittelten Vergleichsergebnisses mit einem Multiplikations- faktor erfolgen, wobei dieser Multiplikationsfaktor von außen einstellbar ist und beispielsweise die Art der Erzeugung des Voraussagevektors ermittelt. Anstelle einer Multiplikation mit einem bestrafungsabhängigen Faktor kann auch ein von dem gewünschten Maß der Bestrafung abhängiger Wert zu dem ermittelten Vergleichsergebnis hinzuaddiert werden.
Nimmt man die örtliche oder zeitliche Herkunft eines Voraussagevektors bezogen auf den Bildausschnitt, für den der Bildvergleich durchgeführt wird, als Kriterium für eine Bestrafung, so betrifft die Bestrafung alle Vergleichsergebnisse dieses Voraussagevektors mit den Testvektoren. Neben der ört- liehen oder zeitlichen Herkunft des Voraussagevektors können noch weitere Kriterien für eine Bestrafung herangezogen werden. So besteht beispielsweise die Möglichkeit, die absolute Länge eines Testvektors als Bestrafungskriterium heranzuziehen und hierbei Testvektoren mit einer großen absoluten Länge zu bestrafen, wenn beispielsweise davon ausgegangen werden kann, dass in den Bildern vorkommende Bewegungsabläufe langsam ablaufen.
Außerdem besteht die Möglichkeit, die Struktur des Bildes in die Ermittlung eines geeigneten Auswahlvektors einzubeziehen. Sind beispielsweise selbstähnliche Strukturen, also monotone Flächen, vorhanden, so kann es sinnvoll sein, Auswahlvektoren zu erhalten, die möglichst wenig von den zuvor ermittelten Voraussagevektoren abweichen. Ist Ergebnis des Vektorverglei- ches ein numerischer Wert, der um so größer ist, je stärker ein Testvektor von einem Voraussagevektor abweicht, so kann dieses Ziel dadurch erreicht werden, dass jedes Vektorvergleichsergebnis mit einem Wert größer als Eins gewichtet wird, wodurch zu Testvektoren, die stark von den Voraussage- vektoren abweichen absolut betrachtet besonders "schlechte" Vektorvergleichsergebnisse in die Gütebetrachtung einfließen. Selbstähnliche Strukturen können durch einen Bildvergleich - üblicherweise einen blockweisen Bildvergleich - innerhalb des Bildes ermittelt werden.
Für die Bildung des Gütewertes eines Testvektors in bezug auf einen Voraussagevektor werden das für den Testvektor ermit- telte Bildvergleichsergebnis und das Vektorvergleichsergebnis miteinander verknüpft, wobei die Verknüpfung derart erfolgt, dass bei gleichem Bildvergleichsergebnis der Gütewert um so besser ist, je weniger sich der Testvektor und der ausgewähl- te Voraussagevektor unterscheiden. Unter der Annahme, dass aus der ermittelten Rangfolge nur die "besten" Testvektoren ausgewählt werden, werden also solche Testvektoren bevorzugt die sich von den Voraussagevektoren wenig unterscheiden. Die Berücksichtigung der Herkunft eines Voraussagevektors bei dem Bildvergleich kann beispielsweise dadurch erfolgen, dass das Vergleichsergebnis mit einem Offset versehen wird, dessen Wert von der Herkunft des jeweiligen Voraussagevektors abhängig ist .
Der Gütewert kann durch eine gewichtete Addition des aus dem Bildvergleich erhaltenen numerischen Wertes und des aus dem Vektorvergleichsergebnis erhaltenen Wertes ermittelt werden, wobei zu einem Testvektor mehrere Gütewerte ermittelt werden können, deren Anzahl der Anzahl der Voraussagevektoren ent- spricht, mit denen der ausgewählte Testvektor verglichen wird.
Bei einer Ausführungsform ist vorgesehen, dass Vektorvergleiche zwischen den ausgewählten Testvektoren und allen Voraus- sagevektoren durchgeführt werden, um zu jedem der ausgewählten Testvektoren eine der Anzahl der Voraussagevektoren entsprechende Anzahl Vektorvergleichsergebnisse zu erhalten. Vorzugsweise wird dabei eine Rangfolge der Vektorvergleichs- ergebnisse ermittelt und nur das "beste" Vektorvergleichser- gebnis wird zur Bildung des Gütewertes herangezogen, so dass zu jedem Testvektor genau ein Gütewert ermittelt wird.
Bei einer weiteren Ausführungsform ist vorgesehen, zu jedem Voraussagevektor den zu diesem Voraussagevektor jeweils bes- ten Testvektor zu ermitteln, wobei beispielsweise der/die Testvektoren als Auswahlvektor ausgewählt wird/werden, der/die am häufigsten als bester Testvektor zu den Auswahl- vektoren ermittelt wurden. Hierbei besteht auch die Möglichkeit, zu jedem Voraussagevektor einen eigenen Satz von Test- vektoren auszuwählen.
Vorzugsweise werden alle Testvektoren ausgewählt, das heißt, es werden Bildvergleiche für alle Testvektoren durchgeführt, wobei zusätzlich für alle Testvektoren Vektorvergleiche mit allen Voraussagevektoren durchgeführt werden können.
Die Auswahl des wenigstens einen Testvektors als Auswahlvektor erfolgt vorzugsweise iterativ, indem zunächst ein erster Satz von festen Auswahlvektoren bereitgestellt wird, aus denen anhand der mittels der Bildvergleichsergebnisse und der Vektorvergleichsergebnisse ermittelten Rangfolge der/die "besten" Testvektor (en) ausgewählt werden. Aus diesen besten Testvektoren wird nachfolgend für den nächsten Iterationsschritt eine zweite Gruppe von Testvektoren ermittelt, wobei die Testvektoren dieser zweiten Gruppe aus den zuvor ausgewählten besten Testvektoren des ersten Satzes gebildet wer- den.
Die Bildung dieser Testvektoren der zweiten Gruppe erfolgt beispielsweise dadurch, dass zu den zuvor ausgewählten Testvektoren des ersten Satzes jeweils vorgegebene Modifikations- vektoren addiert werden. Dabei können zu einem der ausgewählten Testvektoren einer oder mehrere Testvektoren der zweiten Gruppe erzeugt werden. Die Modifikationsvektoren sind dabei vorzugsweise so gewählt, dass die Differenz zwischen solchen Testvektoren, die durch Hinzuaddieren der Modifikationsvekto- ren zu einem der zuvor ausgewählten Testvektoren entstehen, geringer sind als die Abweichungen der einzelnen Testvektoren der ersten Gruppe .
Zu den Testvektoren der zweiten Gruppe wird anhand der BiId- Vergleichsergebnisse und der Vektorvergleichsergebnisse eine weitere Rangfolge gebildet, anhand der wenigstens ein zur Bildung eines Auswahlvektors verwendeter Testvektor ausge- wählt wird oder anhand der einer oder mehrere von Testvektoren ausgewählt werden, aus denen mittels Modifikationsvektoren für einen weiteren Iterationsschritt eine weitere Gruppe von Testvektoren gebildet wird.
Bei einer Ausführungsform ist vorgesehen, zu jedem Voraussagevektor eine Rangfolge der Testvektoren zu ermitteln und den jeweils besten Testvektor zu jedem der Voraussagevektoren für den weiteren Iterationsschritt zu verwenden. Nach dem letzten Iterationsschritt besteht die Möglichkeit, aus der Menge der "besten" Testvektoren den Testvektor als Auswahlvektor auszuwählen, dem der beste Gütewert zugeordnet ist.
Bei der Ermittlung des Vektorvergleichsergebnisses besteht selbstverständlich auch bei iterativen Verfahren die Möglichkeit, die Herkunft des Voraussagevektors zu berücksichtigen.
Des weiteren besteht die Möglichkeit, die Voraussagevektoren bezüglich ihrer Herkunft in Gruppen zu unterteilen, bei- spielsweise in Voraussagevektoren, die anhand eines vorherigen Bildes für benachbarte Bildbereiche zu dem interessierenden Bildbereich ermittelt wurden, Voraussagevektoren, die anhand eines vorherigen Bildes für den interessierenden Bildbereich ermittelt wurden und Voraussagevektoren, die anhand des aktuellen Bildes für benachbarte Bildbereiche zu dem interessierenden Bildbereich ermittelt wurden. Zu jeder dieser Gruppen können bei jedem Iterationsschritt der/die besten Testvektor (en) ermittelt und für den nachfolgenden Iterationsschritt verwendet werden. Bei Abschluss des Iterationsverfah- rens besteht neben der Ermittlung eines Auswahlvektors anhand der Rangfolge der besten Testvektoren die Möglichkeit, den jeweils zu einer Gruppe ermittelten besten Testvektor als einen neuen Voraussagevektor abzuspeichern.
Vorzugsweise umfassen die Modifikationsvektoren den Nullvektor, so dass die am Ende eines Iterationsschrittes ausgewählten Testvektoren, aus denen anhand der Modifikationsvektoren der Satz von Testvektoren für den nächsten Iterationsschritt gebildet werden, in diesem Satz von Testvektoren für den nächsten Iterationsschritt enthalten sind.
Vorzugsweise stimmen die einzelnen Modifikationsvektoren bezüglich ihrer Richtung bei den einzelnen Iterationsschritten überein, werden bezüglich ihres Betrages von Iterationsschritt zu Iterationsschritt jedoch kleiner, so dass mit jedem Iterationsschritt Testvektoren erzeugt werden, deren Dif- ferenz geringer wird.
Außerdem besteht die Möglichkeit, die Modifikationsvektoren abhängig von dem zuvor ermittelten Gütemaß auszuwählen. Wird beispielsweise zu jedem Auswahlvektor der jeweils beste Test- vektor ermittelt, von denen einer oder mehrere jedoch ein schlechtes Gütemaß liefert, so werden bei dieser Ausführungsform diese Testvektoren beispielsweise größeren Modifikationen unterworfen, da anzunehmen ist, dass geringe Modifikationen keine bedeutende Verbesserung mit sich bringen dürften. Testvektoren hingegen, die ein gutes Ergebnis liefern, werden während des nachfolgenden Schrittes nur wenig oder gar nicht modifiziert.
Insgesamt betrachtet liegt einem solchen iterativen Verfahren ein Satz von Testvektoren zugrunde, der aus dem ursprünglichen Satz von Testvektoren durch alle möglichen Kombinationen mit den Modifikationsvektoren gebildet ist, wobei während der einzelnen Iterationsschritte jedoch immer wieder Testvektoren verworfen werden, um den Rechenaufwand in Grenzen zu halten.
Das erfindungsgemäße Verfahren zur Ermittlung eines Auswahl- vektors kann in einem Verfahren zur Ermittlung eines Satzes von Auswahlvektoren Verwendung finden, bei dem Auswahlvektoren ausschließlich anhand des erläuterten Verfahrens ermit- telt werden, wobei anhand der ermittelten Rangfolge der Gütewerte so viele Testvektoren ausgewählt werden, wie Auswahl- vektoren benötigt werden. Das Verfahren kann auch als Erweiterung eines bekannten Verfahrens dienen, bei dem einer oder mehrere Voraussagevektoren als Auswahlvektoren verwendet werden, und das dadurch verbes- sert wird, dass wenigstens ein anhand einer Rangfolge von Gütewerten ausgewählter Testvektor als Auswahlvektor verwendet wird.
Die Auswahlvektoren können bei beiden Verfahren als Voraussa- gevektoren für den nächsten Vektorsuchschritt des betrachteten Bildbereiches dienen, wobei die Auswahlvektoren unverändert als Voraussagevektoren übernommen werden können oder gemäß einen fest vorgegebenen oder zufälligen Schema für die Bildung der neuen Voraussagevektoren verändert werden können. Bei dem zuletzt erläuterten Verfahren, bei dem Voraussagevektoren und Testvektoren als Auswahlvektoren verwendet werden, werden vorzugsweise die Auswahlvektoren des vorherigen Schrittes, die das schlechteste Bildvergleichsergebnis liefern, nicht mehr als neue Voraussagevektoren herangezogen sondern durch die anhand der Rangfolge ermittelten Testvektoren ersetzt.
Die vorliegende Erfindung wird nachfolgend anhand von Figuren näher erläutert. In den Figuren zeigt
Figur 1 schematisch ein erstes und zweites Bild, mit je einem Bildbereich, die über einen Verschiebungsvektor zueinander in Beziehung stehen,
Figur 2 ein System zur Bereitstellung eines Satzes von Auswahlvektoren unter Verwendung von Voraussagevektoren nach dem Stand der Technik,
Figur 3 ein Ablaufdiagramm für ein erfindungsgemäßes Ver- fahren zur Bereitstellung wenigstens eines Auswahl- vektors unter Verwendung eines Satzes von Testvektoren und eines Satzes von Voraussagevektoren, Figur 4 Tabellen, die Bildvergleichsergebnisse und Vektorvergleichsergebnisse umfassen, die zu Gütewerten für ausgewählte Testvektoren verknüpft werden,
Figur 5 eine Gütwertmatrix,
Figur 6 ein Ablaufdiagramm für eine weitere Ausführungsform eines erfindungsgemäßen Verfahrens, bei dem der we- nigstens eine Auswahlvektor iterativ aus einem Satz
Testvektoren ermittelt wird,
Figur 7 schematisch ein mögliches Vorgehen bei einem iterativen Verfahren zur Bereitstellung eines Satzes von Testvektoren anhand eines ausgewählten Testvektors und anhand von Modifikationsvektoren gemäß Figur 6.
In den Figuren bezeichnen, sofern nicht anders angegeben gleiche Bezugszeichen gleiche Teile und Verfahrensschritte mit gleicher Bedeutung.
Figur 3 veranschaulicht anhand eines Ablaufdiagramms ein Ausführungsbeispiel eines erfindungsgemäßen Verfahrens zur Ermittlung wenigstens eines Auswahlvektors, der unter Bezugnah- me auf das Beispiel gemäß Figur 1 einen möglichen Verschiebungsvektor für eine Verschiebung des ersten Bildbereiches 1 von der ersten Position Pl in dem ersten Bild Bl an eine zweite Position P2 in dem zweiten Bild B2 darstellt. Wie bereits eingangs erläutert, dienen derartige Auswahlvektoren dazu, Bildvergleiche zwischen Bildbereichen in dem ersten
Bild Bl und dem zweiten Bild B2 durchzuführen, wobei die verglichenen Bildbereiche durch jeweils einen der Auswahlvekto- ren gegeneinander verschoben sind. Als tatsächlicher oder wahrscheinlichster Verschiebungsvektor wird dabei der Aus- wahlvektor angenommen, der dass "beste" Bildvergleichsergebnis liefert. Das erfindungsgemäße Verfahren zur Bereitstellung wenigstens eines Auswahlvektors sieht vor, einen Satz von Voraussagevektoren 101 bereitzustellen, wobei in Figur 3 beispielhaft vier solche Voraussagevektoren Vl, V2, V3 , V4 dargestellt sind. Diese Voraussagevektoren V1-V4 können mittels herkömmlicher bekannter Verfahren zur Ermittlung von Voraussagevektoren bereitgestellt werden. Solche Verfahren umfassen beispielsweise das Bereitstellen von Voraussagevektoren für einen gegebenen Bildbereich anhand bereits ermittelter Verschiebungsvektoren für benachbarte Bildbereiche des gegebenen Bildbereich. So besteht bezugnehmend auf das Beispiel gemäß Figur 1 die Möglichkeit, Voraussagevektoren für den Bildbereich 1 anhand von Verschiebungsvektoren zu ermitteln, die für benachbarte Bildbereiche 3, 4, 5 des ersten Bildbereiches ermittelt wurden. Des Weiteren besteht die Möglichkeit, Voraussagevektoren für einen gegebenen Bildbereich anhand von Auswahlvektoren zu ermitteln, die für diesen Bildbereich 1 während vorangegangener Vektorsuchschritte ermittelt wurden.
Das erfindungsgemäße Verfahren sieht weiterhin vor, einen
Satz von Testvektoren 102 bereitzustellen, wobei in Figur 3 beispielhaft drei solche Testvektoren Tl, T2, T3 dargestellt sind.
Aus diesem Satz von Testvektoren 102 wird wenigstens ein
Testvektor ausgewählt, wobei vorzugsweise alle Testvektoren T1-T3 ausgewählt werden, und unter Verwendung dieser Testvektoren werden in einem Schritt 103 Bildvergleiche durchgeführt, um für jeden der ausgewählten Testvektoren T1-T3 ein Bildvergleichsergebnis zu liefern, das in Figur 3 mit B(Tn) bezeichnet ist, wobei Tn für jeden beliebigen ausgewählten Testvektor T1-T3 steht. Der Bildvergleich umfasst den Vergleich eines ersten Bildbereiches 1 in dem ersten Bild Bl mit einem zweiten Bildbereich 2 in dem zweiten Bild B2 , wobei ei- ne Position P2 des zweiten Bildbereiches B2 gegenüber der Position Pl des ersten Bildbereiches 1 um den der ausgewählten Testvektoren verschoben ist, für den das Bildvergleichsergebnis ermittelt wird.
Bezugnehmend auf Figur 1 wird der Verschiebungsvektor vec für jeden Bildvergleich durch einen anderen der ausgewählten
Testvektoren T1-T3 ersetzt. Für den Bildvergleich werden jeweils aus einer Anzahl von Bildpunkten aufgebauten Bildbereiche dadurch verglichen, dass Bildinformationswerte, beispielsweise Luminanzwerte oder Chrominanzwerte jeweils zweier Bildpunkte, die sich in dem ersten Bildbereich 1 und im zweiten Bildbereich 2 an entsprechenden Bildpunktpositionen befinden, verglichen werden, wobei die einzelnen Vergleichsergebnisse aufaddiert werden. Um das Bildvergleichsergebnis zu liefern, werden beispielsweise die Quadrate aller Differenzen zwischen den Bildinformationswerten der Bildpunkte des ersten Bildbereiches 1 und der Bildpunkte des zweiten Bildbereiches 2 aufaddiert, wodurch ein Bildvergleichsergebnis erhalten wird, dessen numerischer Wert um so kleiner ist, je größer die Übereinstimmung zwischen den zwei betrachteten Bildberei- chen 1,2 sind und das im Extremfall Null beträgt, wenn die beiden betrachteten Bildbereiche identisch sind, das heißt, wenn die beiden Bildbereiche Bildpunkt für Bildpunkt übereinstimmen.
Die Anzahl der durch den Bildvergleichschritt 103 bereitgestellten Bildvergleichsergebnisse B (Tn) entspricht der Anzahl der ausgewählten Testvektoren Tl-T3, von denen vorzugsweise alle ausgewählt werden.
In einem Verfahrensschritt 104 werden die ausgewählten Testvektoren Tl-T3 mit wenigstens einem der Voraussagevektoren V1-V4 verglichen, um Vektorvergleichsergebnisse V(Tn, Vm) bereitzustellen. V(Tn, Vm) bezeichnet dabei ein Vergleichsergebnis, das durch einen Vergleich des Voraussagevektors Vm mit dem Testvektor Tn ermittelt wird, wobei Tn für einen beliebigen der ausgewählten Testvektoren T1-T3 und Vm für einen beliebigen der ausgewählten Voraussagevektoren V1-V4 steht. Vorzugsweise werden alle Voraussagevektoren Vl-V4 für einen Vergleich mit allen Testvektoren T1-T3 herangezogen, woraus eine Anzahl von Vektorvergleichsergebnissen V(Tn, Vm) resultiert, die dem Produkt der Anzahl der Testvektoren und der Anzahl der Voraussagevektoren entspricht.
Bei der Ermittlung des Vektorvergleichsergebnisses besteht insbesondere die Möglichkeit die Herkunft des Voraussagevektors zu berücksichtigen und durch Berücksichtigen eines wähl- baren Offset in dem Vergleichsergebnis beispielsweise solche Voraussagevektoren schlechter zu bewerten, die anhand eines vorherigen Bildes ermittelt wurden, als solche Voraussagevektoren, die anhand des aktuellen Bildes für benachbarte Bildbereiche ermittelt wurden.
Der Vergleich eines Testvektors Tn mit einem Voraussagevektor Vm umfasst beispielsweise das Ermitteln des Quadrats des Betrages eines Differenzvektors zwischen dem Testvektor Tn und dem Voraussagevektor Vm.
Die Vektorvergleichsergebnisse V(Tn, Vm) und die Bildvergleichsergebnisse B(Tn) werden in einem Verfahrensschritt 105 zu Gütewerten G(Tn, Vm) verknüpft. G(Tn, Vm) in Figur 3 bezeichnet einen Gütewert, der durch Verknüpfung des Bildver- gleichsergebnisses B(Tn) mit dem Vektorvergleichsergebnis
V (Tn, Vm) erhalten wurde. Der Verknüpfungsoperator ist in Figur 6 durch das Symbol "o" dargestellt.
Die Verknüpfung des Vektorvergleichsergebnisses V(.) und B(.) kann abhängig von der Art und Weise, wie die Bildvergleichsergebnisse B(.) und V(.) erhalten werden, verschiedene Verknüpfungsarten umfassen. Unter der Annahme, dass das Bildvergleichsergebnis B(.) einen numerischen Wert darstellt, der umso kleiner ist, je größer die Übereinstimmungen zwischen den betrachteten Bildbereichen sind und dass das Vektorvergleichsergebnis V(.) einen numerischen Wert darstellt, dessen Wert umso kleiner ist, je geringer die Differenz zwischen dem betrachteten Testvektor und dem betrachteten Voraussagevektor sind, ist die Verknüpfung des Bildvergleichsergebnisses B(.) und des Vektorvergleichsergebnisses V(.) beispielsweise eine gewichtete Addition, so dass gilt:
G(Tn, Vm) = kτ B Tn + kv V(Tn, Vm) .
Die Summe der Gewichtungsfaktoren kτ + kv ist dabei Eins. Wie stark das Vektorvergleichsergebnis V(.) und das Bildver- gleichsergebnis B(.) tatsächlich gewichtet werden, ist vom
Anwendungsfall abhängig, wobei keiner der beiden Gewichtungsfaktoren Kτ, Kv Null ist.
Figur 4 veranschaulicht eine in dem Verfahrensschritt 103 er- zeugte Tabelle 113 mit Bildvergleichsergebnissen B(Tl) bis B(T3) sowie eine in dem Verfahrensschritt 104 ermittelte Tabelle mit Vektorvergleichsergebnissen V(Tl, Vl) bis V(T3, V4) , die in dem Verfahrensschritt 105 zur Bildung einer Tabelle 115 mit den Gütewerten G(Tl, Vl) bis G(T3, V4) ver- knüpft werden.
In einem Verfahrensschritt 106 wird durch Sortieren dieser Gütewerte G ( . , . ) eine Rangfolge ermittelt und wenigstens der Testvektor, für den der beste Gütewert ermittelt wurde, wird als Auswahlvektor ausgewählt. Der oder die ausgewählten Auswahlvektoren sind in Figur 3 durch Ti bezeichnet.
Unter der beispielhaften Annahme, dass die numerischen Werte der Bildvergleichsergebnisse B(.) um so kleiner sind, je grö- ßer die Übereinstimmung der betrachteten Bildbereiche sind und dass die Vektorvergleichsergebnisse V(.) um so kleiner sind, je geringer die Unterschiede zwischen einem betrachteten Testvektor und einem betrachteten Voraussagevektor sind, und dass die Vektorvergleichsergebnisse V(.) und Bildver- gleichsergebnisse B(.) addiert werden, folgt, dass der beste Gütewert der Gütewert mit dem kleinsten numerischen Wert ist. Bei einer Abwandlung des zuvor erläuterten Verfahrens ist vorgesehen, jeden der ausgewählten Testvektoren T1-T3 mit jedem der ausgewählten Voraussagevektoren V1-V4 im Verfahrensschritt 104 zu vergleichen und Vektorvergleichsergebnisse V(Tn, Vm) bereitzustellen, im Verfahrensschritt 105 jedoch nur den jeweils besten Vektorvergleichswert eines Testvektors mit dem zugehörigen Bildvergleichswert B(.) zu verknüpfen. Die Tabelle 114 wird dadurch auf eine Anzahl von Werten reduziert, die der Anzahl der ausgewählten Testvektoren entspre- chen.
Außerdem besteht die Möglichkeit, für jeden Voraussagevektor Vl-V4 denjenigen der Testvektoren Tl zu ermitteln, der das beste Gütemaß besitzt, so dass eine der Anzahl der Testvekto- ren entsprechende Anzahl Testvektoren ermittelt werden.
Figur 5 veranschaulicht dieses Vorgehen anhand einer Matrix, in der die Testvektoren Tl-T3 und die Auswahlvektoren Vl-V4 aufgetragen sind, wobei die einzelnen Matrixelemente bei- spielhaft jeweils einen einem Testvektor und einem Voraussagevektor zugehörigen Gütewert repräsentieren. Unter der Annahme, dass die Ermittlung des Gütewertes so erfolgt, dass ein Testvektor als um so besser gilt, je geringer dessen Gütewert ist, würde in dem Beispiel der Testvektor Tl als bes- ter Vektor zu dem Voraussagevektor Vl, der Testvektor Tl als bester Vektor zu dem Voraussagevektor V2 , der Testvektor T3 als bester Vektor zu dem Voraussagevektor V3 und der Testvektor T2 als bester Vektor zu dem Voraussagevektor V4 ausgewählt werden.
Aus diesen besten Testvektoren können dann ein Testvektor o- der mehrere Testvektoren ausgewählt werden, wobei bei dieser Auswahl das für den jeweiligen Testvektor ermittelte Gütemaß und/oder die Häufigkeit, mit der ein Testvektor als bester Testvektor zu den Voraussagevektoren ermittelt wurde, berücksichtigt werden kann. Außerdem kann der zu einem Auswahlvektor ermittelte Testvektor als neuer Voraussagevektor gespeichert werden, wobei die Möglichkeit besteht, die Auswahlvektoren nach deren Herkunft zu klassifizieren und die erhaltenen Testvektoren entspre- chend in einer zugehörigen Gruppe abzuspeichern.
Bei der Darstellung gemäß Figur 3 wird davon ausgegangen, dass ein Satz von Testvektoren 102 bereitgestellt wird, aus dem nach Durchführung von Bildvergleichen und unter Verwen- düng von Voraussagevektoren wenigstens ein Testvektor Ti ausgewählt wird, der als Auswahlvektor verwendet werden kann.
Bei einer Abwandlung des Verfahrens gemäß Figur 3, dessen Ablaufdiagramm in Figur 6 dargestellt ist, ist vorgesehen, we- nigstens einen Auswahlvektor mittels eines iterativen Verfahrens zu ermitteln.
Wie in Figur 6 dargestellt ist, ist bei diesem Verfahren e- benfalls vorgesehen, einen Satz von Testvektoren T1-T3 be- reitzustellen und aus diesem Satz von Testvektoren T1-T3 mittels eines bereits anhand der Figuren 3 und 4 erläuterten Verfahrens wenigstens einen Testvektor Ti auszuwählen. Im Gegensatz zu dem Verfahren gemäß Figur 3 wird dieser Testvektor Ti allerdings nicht bereits nach dem ersten Durchlauf des Verfahrens als Auswahlvektor ausgegeben, sondern dieser wenigstens eine Testvektor Ti dient in einem Verfahrensschritt 107 als Grundlage für die Erzeugung eines weiteren Satzes von Testvektoren, die in Figur 6 beispielhaft mit TiI, Ti2, Ti3, Ti4 bezeichnet sind, wobei das bereits erläuterte Verfahren mit diesem neuen Satz von Testvektoren in der erläuterten
Weise erneut durchgeführt wird. Zur Verdeutlichung des iterativen Charakters des Verfahrens gemäß Figur 6 sind in Figur 6 zwei Schalter Sl, S2 dargestellt, wobei sich der Schalter Sl zu Beginn des Verfahrens in der linken dargestellten Position befindet, um den ursprünglichen Satz 102 von Testvektoren Tl, T2, T3 in dem Verfahrensschritt 103 zu verarbeiten und wobei sich der Schalter S2 zu Beginn des Verfahrens in der rechten dargestellten Position befindet, um den wenigstens einen ausgewählten Testvektor Ti dem Verfahrensschritt 107 zur Bildung eines neuen Satzes 112 von Testvektoren TiI - Ti4 zuzuführen. Während der weiteren Iterationsschritte steht der erste Schalter Sl in der rechten dargestellten Position, um die Testvektoren des aus den ausgewählten Testvektoren Ti gebildeten Satzes von Testvektoren dem Verfahrensschritt 103 zuzuführen. Am Ende des Verfahrens wird der zweite Schalter in die linke dargestellte Position gebracht, um den wenigstens einen ausgewählten Testvektor Ti als Auswahlvektor auszugeben.
Figur 7 veranschaulicht eine mögliche Ausgestaltung des Verfahrensschrittes 107, in dem aus wenigstens einem ausgewähl- ten Testvektor Ti der neue Satz Testvektoren 112 bereitgestellt wird. Figur 7 zeigt einen ausgewählten Testvektor Ti in einem kartesischen Koordinatensystem, wobei aus diesem Testvektor Ti durch vektorielle Addition von vier Modifikationsvektoren M1-M4 ein Satz von vier weiteren Testvektoren TiI, Ti2, Ti3, Ti4 erzeugt wird. Vorzugsweise ist einer der
Modifikationsvektoren ein Nullvektor, so dass auch der ausgewählte Testvektor Ti in den Satz neuer Testvektoren 112 übernommen wird. Die dargestellten Modifikationsvektoren M1-M4 lassen sich in kartesischen Koordinaten darstellen als (± a,0) und (0, ± a) , wobei a den Betrag der Modifikationsvektoren M1-M4 darstellt. Selbstverständlich können auch mehr als vier Modifikationsvektoren verwendet werden, um dadurch aus einem ausgewählten Testvektor Ti mehr als. vier, bzw. bei Verwendung des Nullvektors als einen Modifikationsvektor mehr als fünf Testvektoren aus einem ausgewählten Testvektor Ti zu bilden. Zusätzliche Modifikationsvektoren sind beispielsweise (± 0,5 a • V2, ± 0,5 a • V2) .
Vorzugsweise verringert sich der Betrag a der Modifikations- vektoren mit jedem Iterationsschritt, wodurch mit jedem Iterationsschritt aus einem ausgewähltem Testvektor Ti ein Satz von Testvektoren erzeugt wird, die sich immer weniger von dem ausgewählten Testvektor Ti unterscheiden.
Auch bei dem erläuterten iterativen Verfahren besteht die Möglichkeit, die Herkunft eines Voraussagevektors bei der Ermittlung des Vektorvergleichsergebnisses zu berücksichtigen.
Außerdem besteht die Möglichkeit, zu jedem Voraussagevektor während jedes Iterationsschrittes den jeweils besten Testvek- tor zu ermitteln und für den nachfolgenden Iterationsschritt zu verwenden. Nach dem letzten Iterationsschritt kann der zu jedem Voraussagevektor ermittelte jeweils beste Testvektor als ein neuer Voraussagevektor abgespeichert werden.
Die Modifikation eines für den nächsten Iterationsschritt ausgewählten Testvektors erfolgt vorzugsweise abhängig von dem während des vorherigen Iterationsschrittes ermittelten Gütewertes. So werden Testvektoren mit einem guten Gütewert weniger stark modifiziert als Testvektoren mit schlechten Gü- tewerten. Dies kann beispielsweise dadurch erreicht werden, dass der Betrag des Modifikationsvektors abhängig von dem zuvor ermittelten Gütewert eingestellt wird.
Das erfindungsgemäße Verfahren zur Ermittlung eines Auswahl- vektors anhand eines Satzes von Testvektoren und eines Satzes von Voraussagevektoren eignet sich vollständig zur Ermittlung von Auswahlvektoren, wobei beispielsweise ein Satz von Test- vektoren bereitgestellt wird, der mehr Testvektoren enthält, als Auswahlvektoren benötigt werden und wobei anhand des er- mittelten Verfahrens die jeweils besten Testvektoren als Auswahlvektoren ausgewählt werden. Das erfindungsgemäße Verfahren eignet sich auch im Zusammenhang mit einem herkömmlichen Verfahren, bei dem Auswahlvektoren anhand von Voraussagevek- toren ermittelt werden. Dabei besteht die Möglichkeit, neben den Voraussagevektoren wenigstens einen Testvektor als
Auswahlvektor zu verwenden, der anhand des erfindungsgemäßen Verfahrens ermittelt wurde. Die für einen gegebenen Bildbereich ermittelten Auswahlvektoren können für nachfolgende Suchschritte für die Ermittlung der Voraussagevektoren herangezogen werden.

Claims

Patentansprüche
1. Verfahren zur Ermittlung eines Auswahlvektors, der einen möglichen Verschiebungsvektor für eine Verschiebung eines Bildbereiches (1) von einer ersten Position (Pl) in einem ersten Bild (Bl) an eine zweite Position (P2) in einem zweiten Bild (B2) darstellt, wobei das Verfahren folgende Verfahrensschritte umfasst:
a) Bereitstellen eines Satzes von Voraussagevektoren (Vl, V2, V3, V4) ,
b) Bereitstellen wenigstens eines festen Satzes von Testvektoren (Tl, T2, T3) ,
c) Auswählen wenigstens eines Testvektors aus dem Satz von Testvektoren (Tl, T2, T3, T4) und Durchführen eines Bildvergleiches zwischen einem ersten Bildbereich (1) in dem ersten Bild (Bl) und einem zweiten Bildbereich (2) in dem zweiten Bild (B2) , um ein Bildvergleichsergebnis B(Tn) zu erhalten, wobei die Position des zweiten Bildbereiches (2) gegenüber dem ersten Bildbereich (1) um den wenigstens einen ausgewählten Testvektor verschoben ist,
d) Vergleichen des wenigstens einen ausgewählten Testvektors (T1-T3) mit wenigstens einem ausgewählten Voraussagevektor (V1-V4), um für jeden ausgewählten Testvektor (T1-T3) wenigstens ein Vektorvergleichsergebnis V(Tn, Vn) zu erhalten,
e) Bereitstellen wenigstens eines Gütewertes (G(Tn, Vn)) zu jedem ausgewählten Testvektor (T1-T3) aus dem für diesen Testvektor (T1-T3) erhaltenen Bildvergleichsergebnis und einem Vektorvergleichsergebnis (V(Tn, Vn)),
f) Ermitteln einer Rangfolge der Gütewerte (G(Tn, Vn)) und g) Auswählen eines der Testvektoren (T1-T3) anhand der Rangfolge der Gütewerte als Auswahlvektor.
2. Verfahren nach Anspruch 1, bei dem jedem Voraussagevektor (V1-V4) oder jeweils einer Gruppe von Voraussagevektoren (Vl- V4) ein Satz von Testvektoren zugeordnet ist, aus dem der Testvektor zur Durchführung des Vektorvergleiches ausgewählt wird.
3. Verfahren nach Anspruch 1, bei dem in dem Vergleichsschritt d) ein Maß für eine Differenz zwischen jedem der ausgewählten Testvektoren (T1-T3) und dem wenigstens einen ausgewählten Voraussagevektor (Vl-V4) ermittelt wird.
4. Verfahren nach Anspruch 1, 2 oder 3, bei dem Schritt c) für alle Testvektoren (Tl, T2, T3) durchgeführt wird.
5. Verfahren nach einem der Ansprüche 1 bis 4, bei dem Schritt d) für alle Voraussagevektoren (V1-V4) durchgeführt . wird.
6. Verfahren nach einem der vorangehenden Ansprüche, bei dem das Bildvergleichsergebnis (B(in)), das einem der ausgewählten Testvektoren zugeordnet ist und das einem der ausgewähl- ten Bewegungsvektoren zugeordnete Vektorvergleichsergebnis derart verknüpft werden, dass bei gleichem Bildvergleichsergebnis (B(in)) der Gütewert G(Tn, Vn) um so besser ist, je weniger sich der Testvektor (T1-T3) und der ausgewählte Voraussagevektor (Vl-V4) unterscheiden.
7. Verfahren nach einem der vorangehenden Ansprüche, bei dem zu jedem Voraussagevektor (Vl-V4) wenigstens ein Testvektor ermittelt wird, wobei aus der Gruppe der hierdurch ermittelten Testvektoren der Auswahlvektor ausgewählt wird.
8. Verfahren nach einem der vorangehenden Ansprüche, bei dem die Verfahrensschritte c) bis f) wenigstens zweimal durchlau- fen werden, wobei nach dem Verfahrensschritt g) wenigstens ein Testvektor (Ti) anhand der Rangfolge der Gütewerte (G(Tn, Vn) ) ausgewählt wird und wobei ausgehend von diesem wenigstens einen Testvektor (Ti) ein Satz von Testvektoren (112) für den nachfolgenden Bildvergleich in Schritt c) gebildet werden.
9. Verfahren nach Anspruch 8, bei dem zu jedem Voraussagevektor während eines Durchlaufes der Schritte c) bis f) ein Testvektor ermittelt wird, ausgehend von dem ein Satz von Testvektoren für den nachfolgenden Bildvergleich gebildet werden .
10. Verfahren nach Anspruch 8 oder 9, bei dem aus dem nach dem Verfahrensschritt g) wenigstens einen ausgewählten Testvektor (Ti) durch vektorielles Addieren wenigstens eines Modifikationsvektors (M1-M4) ein Testvektor (Til-Ti4) des Satzes von Testvektoren (112) für den nachfolgenden Bildvergleich gebildet wird.
11. Verfahren nach Anspruch 10, bei dem aus dem nach dem Verfahrensschritt g) wenigstens einen ausgewählten Testvektor (Ti) mehrere Testvektoren (Til-Ti4) jeweils durch vektorielles Addieren mehrerer Modifikationsvektoren (M1-M4) gebildet werden.
12. Verfahren nach Anspruch 11, bei dem mit jedem Durchlauf der Verfahrensschritte c) bis f) Modifikationsvektoren verwendet werden, die hinsichtlich ihrer Richtung übereinstimmen deren Betrag von Iterationsschritt zu Iterationsschritt jedoch kleiner wird.
13. Verfahren nach Anspruch 11, bei dem die Modifikationsvektoren von dem zuvor ermittelten, dem ausgewählten Testvektor zugeordneten Gütewert abhängig sind.
14. Verfahren nach Anspruch 13, bei dem der Betrag des Modifikationsvektors um so geringer ist je besser der Gütewert ist .
15. Verfahren zur Bereitstellung eines Satzes von Auswahlvektoren unter Verwendung eines Satzes von Voraussagevektoren (101) und eines Satzes von Testvektoren (102) , wobei als Auswahlvektoren (101) nur Testvektoren verwendet werden, die gemäß eines Verfahrens nach einem der Ansprüche 1 bis 14 ermit- telt wurden.
16. Verfahren zur Bereitstellung eines Satzes von Auswahlvektoren unter Verwendung eines Satzes von Voraussagevektoren (101) und eines Satzes von Testvektoren (102) , wobei als Aus- wahlvektoren Testvektoren verwendet werden, die gemäß eines
Verfahrens nach einem der Ansprüche 1 bis 15 ermittelt wurden und wobei als Auswahlvektoren weiterhin Voraussagevektoren verwendet werden.
17. Verfahren nach einem Anspruch 10 oder 11, bei dem die
Auswahlvektoren als neue Voraussagevektoren gespeichert werden.
18. Verfahren nach Anspruch 10 oder 11, bei dem die Auswahl- vektoren nach einem fest vorgegebenen oder nach einem zufälligen Schema verändert und als neue Voraussagevektoren abgespeichert werden.
PCT/EP2004/006398 2003-06-18 2004-06-14 Verfahren zur ermittlung eines verschiebungsvektors in der bildverarbeitung WO2004111939A2 (de)

Priority Applications (2)

Application Number Priority Date Filing Date Title
US10/561,658 US7720296B2 (en) 2003-06-18 2004-06-14 Method for determining a displacement vector in an image processing operation
EP04736747A EP1634245A2 (de) 2003-06-18 2004-06-14 Verfahren zur ermittlung eines verschiebungsvektors in der bildverarbeitung

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
DE10327577.0 2003-06-18
DE10327577A DE10327577A1 (de) 2003-06-18 2003-06-18 Verfahren zur Ermittlung eines Verschiebungsvektors in der Bildverarbeitung

Publications (2)

Publication Number Publication Date
WO2004111939A2 true WO2004111939A2 (de) 2004-12-23
WO2004111939A3 WO2004111939A3 (de) 2005-09-09

Family

ID=33520721

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/EP2004/006398 WO2004111939A2 (de) 2003-06-18 2004-06-14 Verfahren zur ermittlung eines verschiebungsvektors in der bildverarbeitung

Country Status (4)

Country Link
US (1) US7720296B2 (de)
EP (1) EP1634245A2 (de)
DE (1) DE10327577A1 (de)
WO (1) WO2004111939A2 (de)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2059052A1 (de) * 2007-10-25 2009-05-13 Micronas GmbH Verfahren zur Bewegungsschätzung in der Bildverarbeitung
EP2059051A1 (de) 2007-10-25 2009-05-13 Micronas GmbH Verfahren zur Bewegungsschätzung in der Bildverarbeitung
AT505913B1 (de) * 2008-08-22 2009-05-15 Arc Austrian Res Centers Gmbh Verfahren zur ermittlung der lage von bildpunkten

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8588513B2 (en) * 2005-07-18 2013-11-19 Broadcom Corporation Method and system for motion compensation
EP1841231A1 (de) * 2006-03-29 2007-10-03 Sony Deutschland Gmbh Verfahren zur Bewegungsschätzung
WO2009087493A1 (en) * 2008-01-11 2009-07-16 Zoran (France) Sparse geometry for super resolution video processing
KR101538654B1 (ko) * 2008-07-07 2015-07-22 삼성전자주식회사 손 떨림 보정 동작을 제어하는 디지털 촬영장치 및 이의제어방법
JP5075757B2 (ja) * 2008-08-05 2012-11-21 オリンパス株式会社 画像処理装置、画像処理プログラム、画像処理方法、および電子機器
US8659600B2 (en) * 2011-07-13 2014-02-25 Pixar Generating vector displacement maps using parameterized sculpted meshes
US9227563B2 (en) * 2012-09-14 2016-01-05 Bendix Commercial Vehicle Systems Llc Backward movement indicator apparatus for a vehicle
DE102014210739A1 (de) * 2014-06-05 2015-12-17 Robert Bosch Gmbh Verfahren zur Kalibrierung eines Drehratensensors und elektrisches Gerät

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0542153A2 (de) * 1991-11-11 1993-05-19 Oy Nokia Ab Verfahren zur Suche von Bewegungsvektoren für ein Videosignal

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR950009699B1 (ko) * 1992-06-09 1995-08-26 대우전자주식회사 움직임벡터 검출방법 및 장치
KR100582856B1 (ko) * 1997-09-23 2006-05-24 코닌클리케 필립스 일렉트로닉스 엔.브이. 움직임 추정 및 움직임 보상된 보간법

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0542153A2 (de) * 1991-11-11 1993-05-19 Oy Nokia Ab Verfahren zur Suche von Bewegungsvektoren für ein Videosignal

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
HAAN DE G ET AL: "TRUE-MOTION ESTIMATION WITH 3-D RECURSIVE SEARCH BLOCK MATCHING" IEEE TRANSACTIONS ON CIRCUITS AND SYSTEMS FOR VIDEO TECHNOLOGY, IEEE INC. NEW YORK, US, Bd. 3, Nr. 5, 1. Oktober 1993 (1993-10-01), Seiten 368-379, XP000414663 ISSN: 1051-8215 *
V.K. MADISETTI, D.B. WILLIAMS: "The Digital Signal Processing Handbook" 1998, CRC PRESS & IEEE PRESS , USA , XP002336331 Kapitel 54.5 "Motion Estimation" Seiten 54-11 - Seiten 54-19 *

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2059052A1 (de) * 2007-10-25 2009-05-13 Micronas GmbH Verfahren zur Bewegungsschätzung in der Bildverarbeitung
EP2059051A1 (de) 2007-10-25 2009-05-13 Micronas GmbH Verfahren zur Bewegungsschätzung in der Bildverarbeitung
US8385421B2 (en) 2007-10-25 2013-02-26 Entropic Communications, Inc. Method for estimating the motion in image processing
US8446950B2 (en) 2007-10-25 2013-05-21 Entropic Communications, Inc. Method of estimating the motion in image processing
AT505913B1 (de) * 2008-08-22 2009-05-15 Arc Austrian Res Centers Gmbh Verfahren zur ermittlung der lage von bildpunkten

Also Published As

Publication number Publication date
EP1634245A2 (de) 2006-03-15
DE10327577A1 (de) 2005-01-13
US20070098279A1 (en) 2007-05-03
US7720296B2 (en) 2010-05-18
WO2004111939A3 (de) 2005-09-09

Similar Documents

Publication Publication Date Title
EP1770635B1 (de) Iteratives Verfahren zur Interpolation von Bildinformationswerten
DE69812882T2 (de) Verfahren zur bewegungskompensierten Mehrhalbbildverbesserung von Videostandbildern
DE69733007T2 (de) Vorrichtung zur codierung und decodierung von bewegtbildern
EP1585059A2 (de) Verfahren und Vorrichtung zur Ermittlung von Bewegungsvektoren, die Bildbereichen eines Bildes zugeordnet sind
EP1634245A2 (de) Verfahren zur ermittlung eines verschiebungsvektors in der bildverarbeitung
DE602005000425T2 (de) Verfahren und Anordnung zur Erzeugung von Kandidatenvektoren für Bildinterpolierungssysteme, die Bewegungsabschätzung und -kompensation verwenden
DE4400645A1 (de) Verfahren und Schaltung zur Interpolation digitaler Bilddaten
EP1605405B1 (de) Verfahren zur Ermittlung von Bewegungsvektoren, die Bildbereichen eines Bildes zugeordnet sind
EP0897247A2 (de) Verfahren zur Berechnung von Bewegungsvektoren
DE102009026983A1 (de) Bildverarbeitungsverfahren mit einer Bewegungsschätzung und Bildverarbeitungsanordnung
DE10084783B3 (de) System und Verfahren zur Generierung von Videoframes
EP2105883A1 (de) Verfahren zum Testen eines Bewegungsvektors
DE3338855A1 (de) Videosignalverarbeitungsvorrichtung
DE3000918C2 (de) Korrelationsvorrichtung
DE19648017A1 (de) Verfahren zur Bestimmung von Maßstabsfaktoren für fraktale Bildkodierung
DE19548451C1 (de) Verfahren zur rechnergestützten Bewegungsschätzung für Bildpunkte zeitlich aufeinander folgender Bilder einer Videosequenz
DE102005025634A1 (de) Verfahren und Vorrichtung zur Ermittlung von Bewegungsvektoren
DE102005063072B4 (de) Verfahren und Vorrichtung zur Zwischenzeileninterpolation
EP1976288B1 (de) Iteratives Verfahren zur Interpolation von Bildinformationswerten
DE102006042386A1 (de) Verfahren und Vorrichtung zur Darstellung von Bildern
EP0558922B1 (de) Verfahren zur Verbesserung der Bewegungsschätzung in bewegten Bildsequenzen in Halbpelgenauigkeit
EP3465608B1 (de) Verfahren und vorrichtung zum bestimmen eines übergangs zwischen zwei anzeigebildern, und fahrzeug
DE4404047C1 (de) Verfahren zur Beeinflussung der Bildqualität von durch eine elektronische Bildaufnahmevorrichtung gelieferten Bildern
DE1303305B (de)
DE102008036279B4 (de) Verfahren zur Ermittlung eines Bewegungsvektor zu einem Bildblock eines Zwischenbilds

Legal Events

Date Code Title Description
AK Designated states

Kind code of ref document: A2

Designated state(s): AE AG AL AM AT AU AZ BA BB BG BR BW BY BZ CA CH CN CO CR CU CZ DK DM DZ EC EE EG ES FI GB GD GE GH GM HR HU ID IL IN IS JP KE KG KP KR KZ LC LK LR LS LT LU LV MA MD MG MK MN MW MX MZ NA NI NO NZ OM PG PH PL PT RO RU SC SD SE SG SK SL SY TJ TM TN TR TT TZ UA UG US UZ VC VN YU ZA ZM ZW

AL Designated countries for regional patents

Kind code of ref document: A2

Designated state(s): GM KE LS MW MZ NA SD SL SZ TZ UG ZM ZW AM AZ BY KG KZ MD RU TJ TM AT BE BG CH CY CZ DE DK EE ES FI FR GB GR HU IE IT LU MC NL PL PT RO SE SI SK TR BF BJ CF CG CI CM GA GN GQ GW ML MR NE SN TD TG

121 Ep: the epo has been informed by wipo that ep was designated in this application
DPEN Request for preliminary examination filed prior to expiration of 19th month from priority date (pct application filed from 20040101)
WWE Wipo information: entry into national phase

Ref document number: 2004736747

Country of ref document: EP

WWE Wipo information: entry into national phase

Ref document number: 2007098279

Country of ref document: US

Ref document number: 10561658

Country of ref document: US

WWP Wipo information: published in national office

Ref document number: 2004736747

Country of ref document: EP

WWP Wipo information: published in national office

Ref document number: 10561658

Country of ref document: US