AT509021B1 - Ein verfahren für die interaktive anzeige von bildsequenzen - Google Patents

Description

österreichisches Patentamt AT 509 021 B1 2011-09-15

Beschreibung [0001] Der Stand der Technik ist repräsentiert durch US 5237648 und US 6597375, die Methoden und Schnittstellen für Video Editing aufzeigen. Beiden Verfahren ist gemein, dass dem Anwender über eine Schnittstelle gezeigt wird, wo er sich derzeit in der Videosequenz befindet. Diese Information ist aber nicht dynamisch von der Art der Interaktion abhängig. Die vorliegende Erfindung überwindet diesen Nachteil, indem die Erfindung ein Verfahren für die kontextuell, interaktive Anzeige von Bildsequenzen beschreibt, die abhängig von einer Bearbeitungswerkzeugauswahl eine optimierte Darstellung bringt, die dynamisch und adaptiv von der Gruppeneigenschaft des Werkzeuges und seiner Parameter (Bsp: ausgewählter zeitlicher und räumlicher Bereich) abhängt.

[0002] Während die den allgemeinen Stand der Technik repräsentierenden Verfahren US 6681043 und EP 1638106 Kontext-Anzeigefenster benutzen um Information über die aktuelle Position innerhalb einer Videosequenz ohne dynamische Berücksichtigung der gewünschten Interaktionsmethode anzuzeigen, benutzt das beschriebene Verfahren diese dazu, den Wirkungsbereich von gewählten Bearbeitungswerkzeugen dynamisch und adaptiv optimiert darzustellen.

[0003] Die Interaktivität in der beschriebenen Erfindung stellt ein wesentliches Unterscheidungsmerkmal zum „Video Processing and rendering"-Ansatz in EP 0977156 dar.

EIN VERFAHREN FÜR DIE INTERAKTIVE ANZEIGE VON BILDSEQUENZEN

[0004] Die Erfindung betrifft ein Verfahren zur Anzeige von Bildsequenzen (insbesondere gegeben durch digitale Daten), wobei die Anzeigefenster (Haupt- und Kontext-Anzeigefenster), der Anzeigebereich (Verschiebungs- und Vergrößerungsfaktor) und die Positionierung für das jeweils gewählte Bearbeitungswerkzeug optimiert und automatisiert bestimmt werden. Eine manuelle Korrekturmöglichkeit des Anzeigebereichs (Verschiebungs- und Vergrößerungsfaktor) wird zusätzlich angeboten.

[0005] Bei der Bearbeitung von Bildsequenzen ist die Anzahl der Bilder sehr hoch und bei hochauflösenden Bildsequenzen damit auch die Datenmenge. Das folgende Beispiel verdeutlicht dies: Eine Bildsequenz mit einer Dauer von einer Stunde besteht bei 24 Bildern pro Sekunde aus 86.400 Bildern. Liegt diese Bildsequenz in digitaler Form vor, ergibt eine Bildgröße von 4048 x 4048 Bildelementen pro Bild mit 3 Farbkanälen (Rot, Grün, Blau) in 10 Bit Auflösung eine Gesamtgröße von 5,43582*1012 Bytes.

[0006] Die Bearbeitung von Bildsequenzen erfolgt häufig mit sogenannten Bearbeitungswerkzeugen. Diese Werkzeuge wirken allgemein in einem zeitlichen und räumlichen Bereich. Sie sind durch sogenannte Veränderungsfunktionen, sowie durch den Wirkungskreis (d.h.: den entsprechenden Sequenz-, Bild- oder Bildausschnitt) auf welchem diese Veränderungsfunktion anzuwenden ist, eindeutig beschrieben. Generell können die Bearbeitungswerkzeuge je nach räumlichem Wirkungskreis in 3 prinzipielle Gruppen gegliedert werden: [0007] A Vollbild-Bearbeitung [0008] B Pixel-Bearbeitung [0009] C Bewegungs-Bearbeitung [0010] Werkzeuge der Gruppe (A) definieren eine Veränderungsfunktion, die sich auf das Bild in seiner Gesamtheit auswirkt. Im Klartext verändert das Werkzeug das Erscheinungsbild des Vollbildes homogen überdas ganze Bild (Bsp.: Helligkeitsveränderung, Farbkorrektur,...).

[0011] Werkzeuge der Gruppe (B) wirken punktuell auf einen Bildbereich. Dieser Bildbereich kann mit dem Werkzeug selbst dynamisch definiert werden. Die Veränderungsfunktion selbst wirkt dann nur in diesem durch die Anwendung des Werkzeugs definierten Pixelbereich.

[0012] Werkzeuge der Gruppe (C) sind durch eine Anzahl von Punkten in einem Vollbild be- österreichisches Patentamt AT 509 021 B1 2011-09-15 stimmt (Bsp. Trackingpunkte), welche die Parameter für die Veränderungsfunktion definieren. Als Beispiel kann hier die Bildstabilisierung genannt werden, bei der einzelne definierte Punkte zeitlich verfolgt und durch die Veränderungsfunktion eine räumliche Verschiebung im Bildbereich (= Stabilisierung) erzielt wird.

[0013] Die Auswahl des Bereiches erfolgt dynamisch durch die Anwendung des Werkzeugs, dass die mit ihm verbundene Veränderungsfunktion auf diesen Bereich auch anwendet. Die Veränderungsfunktion ist eine mathematische Funktion, die auf jedes Pixel des Wirkungsbereiches angewendet wird und je nach aktuellem Wert dieses Pixels, seiner Umgebung in zeitlicher und räumlicher Dimension eine Veränderung des Pixelwertes bewirkt. Die Art der Veränderungsfunktion gibt dem Werkzeug normalerweise seinen Namen.

[0014] Es ist bisher übliche Praxis und Stand der Technik, den Bildbereich in zeitlicher Hinsicht manuell (durch Setzen von IN und OUT) zu definieren, danach ein Bearbeitungswerkzeug auszuwählen und von diesem ggf. die Parameter in einer eigenen Kurvendarstellung zu editieren. Dies ist insbesondere dann problematisch, wenn die Parameter von der Auswahl des räumlichen Bereiches abhängig sein sollen.

[0015] Für eine effiziente Bearbeitung von Bildsequenzen mit den Bearbeitungswerkzeugen der Gruppen (A), (B) und insbesondere (C), spielt die Art der (interaktiven) Anzeige der Sequenzen eine wesentliche Rolle. Der Erfindung liegt die Aufgabe zugrunde diese Anzeige dynamisch und abhängig von den Bearbeitungswerkzeugen an die jeweilige Situation optimal und automatisiert anzupassen.

[0016] Die Aufgabe wird dadurch gelöst, dass kontextuell alle Bilder visualisiert dargestellt werden, in denen ein ausgewähltes Bearbeitungswerkzeug angewendet wird. Gewöhnlich handelt es sich um ein Hauptbild und den zeitlichen Kontext davor und danach. Diesem Idealfall stehen sowohl die technischen Gegebenheiten (beschränkter Platz auf dem Bildschirm) als auch die kognitiven Humaneigenschaften (Fokusierungsproblem, wenn viele Bilder gleichzeitig dargestellt werden) im Wege.

[0017] Der Gegenstand der Erfindung ist ein interaktives Verfahren zur Anzeige von Bildsequenzen in einer optimierten Darstellung, die dynamisch und adaptiv von der Gruppeneigenschaft des Bearbeitungswerkzeuges und seiner Parameter (Bsp: ausgewählter zeitlicher und räumlicher Bereich) abhängt.

[0018] Um den oben beschriebenen Vorgang zu ermöglichen, wird ein Verfahren für die Anzeige von Bildsequenzen bzw. die interaktive Anzeige von Bildsequenzen gegeben durch digitale Daten, entsprechend den unabhängigen Patentansprüchen angeboten.

[0019] Entsprechend einer exemplarischen Ausgestaltung der Erfindung wird ein Verfahren zur interaktiven Anzeige einer Bildsequenz, im speziellen Fall ein Film in digitaler Form, angeboten.

[0020] Das Verfahren unterscheidet hierbei ein spezifisches Bild der Bildsequenz, weiters Haupt-Anzeigefenster genannt sowie Kontext-Anzeigefenster, in welchen das ausgewählte Bearbeitungswerkzeug der Gruppen (A), (B) und (C) angewendet wird.

[0021] Das Verfahren ermöglicht weiters in einer solchen exemplarischen Ausgestaltung Bereiche in der Bildsequenz direkt zu vergleichen und mittels Bearbeitungswerkzeugen zu bearbeiten, ohne dass eine Navigation in der Bildsequenz notwenig ist.

[0022] Entsprechend einer exemplarischen Ausgestaltung der Erfindung ist insbesondere für Bearbeitungswerkzeuge der Gruppen (B) und (C) eine Kombination von Anwenderinteraktion und algorithmisch unterstützter automatischer Auswahl von Verschiebungs- und Vergrößerungsfaktor in den Kontext-Anzeigefenstern möglich.

[0023] Ein exemplarisches Anwendungsfeld der Erfindung liegt im Bereich von Betrachtungsprogrammen für Bildsequenzen. Ein weiteres exemplarisches Anwendungsfeld der Erfindung liegt im Bereich der Restaurierung von Bildsequenzen. Ein weiteres exemplarisches Anwendungsfeld ist im Bereich der Nachbearbeitung und Farbkorrektur von Filmabtastungen. 2/7

Claims (8)

1. österreichisches Patentamt AT 509 021 B1 2011-09-15 [0024] Die Erfindung ist nicht auf diese Anwendungsfälle beschränkt sondern kann in jedem Bereich eingesetzt werden in dem Vergleich und Manipulation von einzelnen Bildern einer Bildsequenzen notwendig sind, wie zum Beispiel in der medizinischen Bildverarbeitung, dem „Datamining", der Suche in Bildarchiven oder in der wissenschaftlichen Visualisierung. [0025] Im Folgenden wird die Erfindung mit der Hilfe von Abbildungen im Detail beschrieben und an Hand der oben angeführten exemplarischen Anwendungsfälle verdeutlicht. [0026] Abbildung 1 zeigt ein Gerät zur Anzeige von Bildsequenzen. Dieses Gerät besteht aus einem Haupt-Anzeigefenster (101) und einer Reihe von Kontext-Anzeigefenstern zusammengefasst im Kontext-Anzeigebereich (102). Die Kontext-Anzeigefenster werden horizontal angeordnet, wobei die Gesamtbreite des Kontext-Anzeigebereichs der Breite des Haupt-Anzeige-fensters entspricht und die Höhe (103) des Kontext-Anzeigebereichs (102) vom Anwender gewählt werden kann. Die Bilder der Bildsequenz (104) werden entsprechend der Illustration im Kontext-Anzeigebereich (102) angezeigt. [0027] Abbildung 2 zeigt exemplarisch die Anzahl der Kontext-Anzeigefenster (205, 206, 207, 208) abhängig von der Höhe des Kontext-Anzeigebereichs (201,202, 203, 204). [0028] Abbildung 3 zeigt exemplarisch für ein Vollbild-Bearbeitungswerkzeug die Anpassung des Vergrößerungsfaktors eines Kontext-Anzeigefensters (301). Dabei ist der gesamte sichtbare Bereich (302, 303) des Haupt-Anzeigefensters (304) in den einzelnen Kontext Anzeigefenstern ebenfalls sichtbar (305, 306). [0029] Abbildung 4 zeigt exemplarisch für ein Pixel-Bearbeitungswerkzeug (401) die Anpassung des Vergrößerungsfaktors und die Verschiebung des Anzeigebereichs eines Kontext-Anzeigefensters (402). Dabei wird der sichtbare Bereich (403, 404) des Bearbeitungswerkzeugs (401) vollständig im Kontext-Anzeigefenster dargestellt (405, 406). Die Anpassung erfolgt für alle Kontext-Anzeigefenster (407) in der gleichen Art. [0030] Abbildung 5 zeigt exemplarisch für ein Bewegungs-Bearbeitungswerkzeug (501) die Anpassung des Vergrößerungsfaktors und die Auswahl des Anzeigebereichs im Kontext-Anzeigebereich (502). Dabei entspricht die sichtbare Höhe (503) im Haupt-Anzeigefenster (504) der sichtbaren Höhe (505) im Kontext-Anzeigebereich (502). Die Breite des sichtbaren Bereichs (506) eines Kontext-Anzeigefensters wird durch die Anzahl der Bilder in denen das Bewegungs-Bearbeitungswerkzeug angewendet bestimmt. Die horizontale Verschiebung ist durch die horizontale Position (507) des Bewegungs-Bearbeitungswerkzeug (501) gegeben. [0031] Abbildung 6 zeigt exemplarisch für ein Pixel-Bearbeitungswerkzeug (601) die bewegungskompensierte Anpassung des Vergrößerungsfaktors und die Auswahl des Anzeigebereichs im Kontext-Anzeigebereich (602). Dabei wird der Mittelpunkt des Pixel-Bearbeitungswerkzeug (601) mit der Bewegungsrichtung (603) eines Objektes (604) verschoben. Patentansprüche 1. Ein Verfahren zur Anzeige von Bildsequenzen, dadurch gekennzeichnet, dass folgende Verfahrensschritte durchgeführt werden a. Positionierung des Bearbeitungswerkzeugs im Haupt-Anzeigefenster b. Automatisches Verschieben des Anzeigebereichs und des Vergrößerungsfaktors in den Kontext-Anzeigebereich, c. Manuelle Korrektur von Verschiebungs- und Vergrößerungsfaktor der einzelnen Kontext-Anzeigefenster.
2. 2. Verfahren nach Anspruch 1, dadurch gekennzeichnet, dass die Anzahl der die Kontext-Anzeigefenster durch die Höhe des Kontextbereichs bestimmt ist.
3. 3. Verfahren nach Anspruch 1, dadurch gekennzeichnet, dass die automatische Verschiebung in Verfahrensschritt b.) in Abhängigkeit vom ausgewählten Bearbeitungswerkzeug durchgeführt wird. 3/7 österreichisches Patentamt AT 509 021 B1 2011-09-15
4. 4. Verfahren nach Anspruch 1 oder 2, dadurch gekennzeichnet, dass für ein Bearbeitungswerkzeugs der Gruppe „Vollbild-Bearbeitung" der sichtbare Bereich in den Kontext-Anzeigefenstern immer dem sichtbaren Bereich im Haupt-Anzeigefenster entspricht.
5. 5. Verfahren nach Anspruch 1 oder 2, dadurch gekennzeichnet, dass für ein Bearbeitungswerkzeugs der Gruppe „Pixel-Bearbeitung" der Vergrößerungsfaktor in den Kontext-Anzeigefenstern immer dem Vergrößerungsfaktor im Haupt-Anzeigefenster entspricht, und die Verschiebung automatisch so gewählt wird, dass sich der Mittelpunkt des Bearbeitungswerkzeuges im Zentrum der Kontext-Anzeigefenster befindet.
6. 6. Verfahren nach Anspruch 1 oder 2, dadurch gekennzeichnet, dass für ein Bearbeitungswerkzeugs der Gruppe „Bewegungs-Bearbeitung" die Kontext-Anzeigefenster die volle Bildhöhe zeigen und die horizontale Verschiebung durch den Referenzpunkt im Haupt-Anzeigefenster bestimmt wird.
7. 7. Verfahren nach Anspruch 1, dadurch gekennzeichnet, dass die automatische Verschiebung in Verfahrenschritt b.) durch die Bewegungsinformation korrigiert wird.
8. 8. Verfahren nach Anspruch 1 bis 7, dadurch gekennzeichnet, dass die Anwendung einer neuen Bearbeitungsmethode in allen sichtbaren Kontext-Anzeigefenstern erfolgt. Hierzu 3 Blatt Zeichnungen 4/7