DE19983560B4 - Ein allgemeines Bildverbesserungsverfahren- und system - Google Patents

Ein allgemeines Bildverbesserungsverfahren- und system Download PDF

Info

Publication number
DE19983560B4
DE19983560B4 DE19983560T DE19983560T DE19983560B4 DE 19983560 B4 DE19983560 B4 DE 19983560B4 DE 19983560 T DE19983560 T DE 19983560T DE 19983560 T DE19983560 T DE 19983560T DE 19983560 B4 DE19983560 B4 DE 19983560B4
Authority
DE
Germany
Prior art keywords
image
approximated
input image
enhancement
input
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
DE19983560T
Other languages
English (en)
Other versions
DE19983560T1 (de
Inventor
Tinku Tempe Acharya
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Intel Corp
Original Assignee
Intel Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Intel Corp filed Critical Intel Corp
Publication of DE19983560T1 publication Critical patent/DE19983560T1/de
Application granted granted Critical
Publication of DE19983560B4 publication Critical patent/DE19983560B4/de
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Classifications

    • G06T5/70
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/20Image enhancement or restoration by the use of local operators
    • G06T5/73
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20172Image enhancement details
    • G06T2207/20192Edge enhancement; Edge preservation

Abstract

Ein Verfahren, umfassend:
Empfangen eines Eingabebildes und filtern dieses Eingabebildes, wobei eine angenähertes Bild aus dem ursprünglichen Eingabebild gebildet wird;
Bilden eines Differenzbildes durch Subtrahieren des angenäherten Bildes von dem Eingabebild oder durch Subtrahieren des Eingabebildes von dem angenäherten Bild;
Verbessern des Differenzbildes in Übereinstimmung mit einer bekannten Bildverbesserungstechnik, wobei ein verbessertes Differenzbild gebildet wird; und
Kombinieren des verbesserten Differenzbildes mit dem angenäherten Bild, um ein verbessertes Bild zu erzeugen.

Description

  • HINTERGRUND
  • Die Erfindung bezieht sich allgemein auf das Gebiet der Bildverarbeitung. Insbesondere bezieht sich die Erfindung auf die Verbesserung (enhancing) von Bildern.
  • Das Ziel der Bildverbesserung besteht darin, ein ursprüngliches Bild (wie beispielsweise eines, das durch einen Scanner oder eine Digitalkamera aufgenommen worden ist) auf eine Weise zu verarbeiten, daß das verarbeitete (das heißt angereicherte Bild) besser für eine gewünschte Anwendung geeignet ist. Im allgemeinen deckt die Bildverbesserung verschiedene Techniken zum Verbessern des visuellen Erscheinungsbildes des ursprünglichen Bildes oder möglicherweise zum Konvertieren des ursprünglichen Bildes in eine Form, die besser für eine Analyse durch den Menschen oder Maschinen geeignet ist, ab. Beispielsweise kann die Bildverbesserung verwendet werden, um Bilddetails zu verdeutlichen, die beispielsweise infolge einer Fokussierung verschwommen sind. Eine derartige Entfernung von "Rauschen" aus dem Bild ist oftmals ein ungenauer Prozeß, der zu einem versehentlichen Entfernen wichtiger Bildinformationen zusammen mit dem Rauschen führt. Jüngst wurden fortgeschrittenere Lösungen bei der Rauschentfernungsbildverbesserung entwickelt, wie beispielsweise "A New Edge-Detection Based Noise Removal Algorithm", Seriennummer 08/986,761, angemeldet am 08. Dezember 1997.
  • Aus der US 5,717,789 ist ein Verfahren zur Bildverbesserung bekannt, bei dem eine nichtlineare Extrapolation im Frequenzraum vorgenommen wird.
  • Selbst mit derartigen Entwicklungen ist die Bildverbesserung eine ungenaue Technik. Ein Haupthindernis bei der Bildverbesserung ist die Charakterisierung oder Vorhersage exakter Bilddetails und falscher Bilddetails in einem Bild. Beispielsweise kann das, was in einem Bild als Verlaufen von Farben erfaßt worden ist, ein natürlicher Übergang einer Farbe in eine andere sein. Einige Bildverbesserungstechniken arbeiten an dem vollständigen Bild in seiner ursprünglichen Form; die meisten jedoch arbeiten an einer "farbinterpolierten" Version des Bildes. Dies ist insbesondere der Fall bei digital abgetasteten oder aufgenommenen Bildern, welche in einem Bayer-Muster aufgenommen werden. Bei dem Bayer-Muster weist jeder Pixelort den Intensitätspegel von nur einer der drei Farbkomponenten Rot, Grün oder Blau auf. Das Bayer-Muster-Bild wird dann "farbinterpoliert", so daß die fehlenden Farbkomponenten jedes Pixels approxiert werden, um jedem Pixel eine vollständige "Farbe" (Rot-, Grün- und Blau-Intensität) zu geben. Jedoch bringen derartige Techniken oftmals Fehler oder Rauschen ein. Somit kann es sein, daß die Verbesserung eines Bildes nach der Farbinterpolation infolge der möglichen Entstellungen relativ zu dem aufgenommenen Bild keine sehr genauen Ergebnisse erbringt.
  • Aufgabe der Erfindung ist es, ein verbessertes Verfahren zum Durchführen einer Bildverbesserung bereitzustellen.
  • Diese Aufgabe wird erfindungsgemäss durch ein Verfahren nach Anspruch 1 sowie ein System mit den Merkmalen des Anspruchs 7 gelöst.
  • Offenbart wird ein Verfahren, daß das Bilden eines angenäherten Bildes aus einem ursprünglichen Eingabebild, das Bilden einer Vor-Verbesserungs-Abbildung durch Differenzbildung zwischen dem angenäherten Bild und dem Eingabebild, das Verbessern der Vor-Verbesserungs-Abbildung gemäß einer Bildverbesserungstechnik, wodurch eine verbesserte Abbildung gebildet wird, und das Kombinieren der angereicherten Abbildung mit dem angenäherten Bild zum Erzeugen eines angereicherten Bildes umfaßt.
  • Die Aufgaben, Merkmale und Vorteile des Verfahrens und der Einrichtung für die vorliegende Erfindung werden aus der folgenden Beschreibung klar, in welcher:
  • 1 ein Ausführungsbeispiel der Erfindung veranschaulicht.
  • 2 ist ein Beispiel einer Ausführungsform der Erfindung.
  • 3 zeigt ein ursprüngliches Eingabebild, ein angenähertes Bild und ein Differenzbild (Vor-Verbesserungs-Abbildung).
  • 4 zeigt eine schematische Ansicht der Erzeugung einer angereicherten Abbildung.
  • 5 ist eine schematische Ansicht der Erzeugung des angereicherten Bildes.
  • 6 ist ein Ablaufdiagramm, daß das System zum Erzeugen eines angereicherten Bildes aus einem Eingabebild in Übereinstimmung mit einem Ausführungsbeispiel der Erfindung beschreibt.
  • 7 ist ein Systemdiagramm eines Ausführungsbeispiels der Erfindung.
  • 1 veranschaulicht ein Ausführungsbeispiel der Erfindung. Gemäß 1 empfängt ein Approximator 11 ein Eingabebild und erzeugt an seinem Ausgang eine Annäherung des Bildes. Der Approximator 11 kann in Vorwegnahme der auszuführenden Bildverbesserung sein. Beispielsweise kann im Falle einer Rauschreduktionsbildverbesserung der Approximator 11 ein Tiefpaßfilter enthalten, daß das Eingabebild bezüglich hochfrequenter Bildinhalte, von denen das Rauschen oftmals ein primärer Anteil ist, filtert. Bei einem anderen Beispiel kann der Approximator 11 einer sein, der eine Mittelwertbildung in einem bewegten Fenster auf das Eingabebild anwendet, um eine "sanftere" (weniger abrupte) Version des Eingabebilds zu erzeugen. Der Approximator sollte so konstruiert sein, daß er eine Version des Bildes erzeugt, bei der es eine höhere Wahrscheinlichkeit gibt, daß sie visuell wichtige Bilddetails enthält, die während der Bild verbesserung nicht entstellt oder fehlinterpretiert werden sollten.
  • Mit dem so erzeugten angenäherten Bild werden das Eingabebild und das angenäherte Bild einer Differenzabbildung 13 geliefert, die die Bilder verwendet, um eine Vor-Verbesserungs-Abbildung zu bilden. Beispielsweise kann bei einem Ausführungsbeispiel die Differenzabbildung 13 einen Subtrahierer umfassen, der das angenäherte Bild (Pixel für Pixel) von dem Eingabebild subtrahiert, um die Vor-Verbesserungs-Abbildung zu bilden. Die Vor-Verbesserungs-Abbildung enthält Differenzinformationen des Eingabebildes und des angenäherten Bildes, womit beiden Bildern gemeinsame Merkmale beseitigt werden. Im Falle einer Rauschreduktionsbildverbesserung kann die Vor-Verbesserungs-Abbildung einige wahre Bildinformationen zusammen mit dem zu reduzierenden Rauschen enthalten. Der Anteil der kein Rauschen darstellenden wahren Bildinformationen, die in der Vor-Verbesserungs-Abbildung enthalten sind, wäre somit von der Effektivität des Approximators abhängig. Für einen idealen Approximator erbringt die Differenzabbildung hauptsächlich das in dem Bild vorhandene Rauschen. Da dieses Design typischerweise bekannt ist, können Designfaktoren berücksichtigt werden, wenn eine Parametrisierung durchgeführt wird (wie beispielsweise das Setzen von Schwellenwerten für Kanten, und die Rauschdiskriminierung).
  • Eine Verbesserungsmaschine 15 empfängt die Vor-Verbesserungs-Abbildung an ihrem Eingang, um die Abbildung in eine angereicherte Abbildung zu verarbeiten. Bei der Rauschreduktion beispielsweise kann angenommen werden, daß das Rauschen zufällig und fehlerverursacht ist, womit dadurch, daß Abschnitte der Rauschabbildung genommen werden und der Gradient zwischen den Gruppen von Pixeln in dem Abschnitt analysiert wird (das heißt, ob der Gradient einen bestimmten Schwellenwert überschritten hat), eine Abtrennung auftreten kann, welche Pixel als Rauschen zu betrachten sind und welche Pixel zu dem wahren Bild gehören sollten. Dieser Prozeß wird beträchtlich effektiver gemacht, da die Vor-Verbesserungs-Abbildung einen großen Teil der wahren Bildinformationen entfernt, wobei zum größten Teil Rauschen zurückgelassen wird, sofern der Approximator effektiv konstruiert ist. Somit arbeitet die Verbesserungsmaschine 15 an einem logisch reduzierten Satz von Pixeln. An solchen Pixelorten, an denen der zugehörige Intensitätswert des approximierten Bildes mit dem ursprünglichen Eingabebild übereinstimmt, zeigt die Vor-Verbesserungs-Abbildung eine Null. Beispielsweise können in einem solchen Falle diese Null-Pixel eindeutig von der Verbesserungsmaschine 15 als rauschfrei identifiziert und folglich nicht entfernt werden. Ein Schlüsselmerkmal der Erfindung ist die Anwendung einer Verbesserungstechnik nicht auf das Eingabebild, sondern auf ein vor-verarbeitetes Bild, welches im Falle der Rauschreduktion hauptsächlich Rauschinformationen und weniger Kanteninformationen enthält oder welches im Falle der Kantenverbesserung nur Kanten übrig läßt.
  • Ein Konstruktor 17 kombiniert dann das angenäherte Bild mit der angereicherten Abbildung (aus der Verbesserungsmaschine 15), um das angereicherte Bild zu bilden. Der Konstruktor 17 kann ein Addierer sein, der das angereicherte Rausch-Abbild mit dem angenäherten Bild summiert. Wenn die Verbesserung richtig ausgeführt worden ist, bleiben die wahren Bildinformationen im Unterschied zum Rauschen des Eingabebildes in dem angenäherten Bild erhalten, wodurch ein angereichertes Bild besserer Qualität erzeugt wird, als in dem Fall, wenn die Verbesserungsmaschine direkt an dem Eingabebild selbst arbeiten würde.
  • 2 ist ein Beispiel einer Ausführungsform der Erfindung.
  • 2 verkörpert eine Rauschreduktionsverbesserung oder -verbesserung gemäß dem in 1 gezeigten System. In 2 wird ein Eingabebild I an einen Approximationsmodellierer A 21 gesendet. Der Approximationsmodellierer A 21 kann eine Tiefpaßfilterung oder eine Bewegtes-Fenster-Mit telwertbildung anwenden, um bestimmte Bildinformationen zu isolieren. Das angenäherte Bild A(I), das von dem Approximationsmodellierer erzeugt worden ist, wird dann Pixel für Pixel von dem Eingabebild unter Verwendung eines Subtrahierers 23 subtrahiert. Dies ergibt ein Δ oder Differenzbild (das als "vor-angereicherte Abbildung" bezeichnet wird). Das Δ wird dann von dem Anreicherer 25 angereichert. Das angereicherte Δ, E(Δ) (auch als "angereicherte Abbildung" bezeichnet) wird dann von dem Addierer 27 mit dem angenäherten Bild A(I) kombiniert, um das angereicherte Bild I' zu bilden. Einige Vorteile dieser Verbesserungstechnik umfassen eine potentielle Reduktion bei der Berechnung, da die Verbesserung an einer Abbildung ausgeführt wird, die viele Nullwerte enthalten kann. Obwohl diese Nullwerte berücksichtigt werden, wird die Geschwindigkeit der Berechnung erhöht, da die Bittiefe, das heißt die Anzahl der Bits, die verwendet werden, um sich mit diesen Werten zu befassen, vom Standpunkt der Berechnung her reduziert wird. Ein anderer möglicher Vorteil ist die Verbesserung der jeweils benutzten Verbesserungstechnik in Bezug auf herkömmliche Bildverbesserungssysteme, sofern man annimmt, daß diese gleiche Technik an dem ursprünglichen Bild angewendet wird. So erbringt für eine gegebene Verbesserungstechnik die beschriebene Methodik ein verbessertes Bild infolge einer mehr optimierten Verbesserung.
  • 3 zeigt ein ursprüngliches Eingabebild, ein angenähertes Bild und ein Differenzbild (Vor-Verbesserungs-Abbildung).
  • 3 zeigt ein ursprüngliches Eingabebild 310, das eingescannt, aufgenommen oder auf andere Weise synthetisch erzeugt sein kann. Das Eingabebild 310 hat verschiedene charakteristische Merkmale. Das Eingabebild 310 soll das Bild eines Hauses darstellen, und es enthält außerdem versprenkeltes Rauschen in der das Haus umgebenden Umgebung. Wie man bemerkt, zeigt das Eingabebild 310 versprenkeltes Rauschen, das auch in der Nähe der Kanten des Hauses in der gleichen Vektorrichtung wie diese Kanten verteilt ist. Bei einer typischen Rauschreduktionsverbesserung würde ein derartiges Rauschen schwierig in richtiger Weise von den Kanten selbst zu unterscheiden sein. Gemäß der Erfindung wird eine geglättete Version des Bildes erzeugt. Dieses "approximierte Bild" 320 zeigt noch die Hauptmerkmale des Hauses, wie beispielsweise die Kanten, und glättet die Kanten und das direkt den Kanten benachbarte Rauschen. Im Ergebnis kann das approximierte Bild 320 geringfügig verschwommen sein, das heißt, die Kantendefinition ist nicht so groß wie in dem Eingabebild 310. Wie oben beschrieben, wird das approximierte Bild 320 Pixel für Pixel von dem Eingabebild 310 subtrahiert. Das sich daraus ergebende Resultat ist eine Vor-Verbesserungs-Abbildung (pre-enhancement map) (Δ), welche diejenigen Ecken und Rauschinformationen enthält, die während der Approximation eliminiert würden. Die Vor-Verbesserungs-Abbildung 330 enthält zum größten Teil Rauschen, zum großen Teil infolge der Effektivität des zum Erzeugen des angenäherten Bildes 320 durchgeführten Glättens. Bei der Vor-Verbesserungs-Abbildung 330 ist ein schwacher Umriß der Kanten des Hauses zu bemerken. Diese schwachen Kanten sind in dem approximierten Bild (im Unterschied zu dem Gesamteingabebild) nicht vorhanden.
  • 4 zeigt eine schematische Ansicht der Erzeugung einer angereicherten Abbildung. Das angenäherte Bild 320, das in 4 erzeugt wurde, besteht sowohl aus Rausch- als auch schwachen Kanten-Informationen des ursprünglichen Eingabebildes 310. Gemäß einem Ausführungsbeispiel der Erfindung wird an Stelle des Benutzens einer Verbesserung, wie beispielsweise der Rauschreduktion, für das Eingabebild, die Verbesserungstechnik auf die Vor-Verbesserungs-Abbildung 330 angewendet, um eine angereicherte Abbildung 410 zu erzeugen. Im Ergebnis kann die Rauschbeseitigung effizienter und effektiver gemacht werden. Die angereicherte Abbildung 410, die durch Anwenden der Rauschreduktion auf die Vor- Verbesserungs-Abbildung 330 erzeugt worden ist, zeigt die Beseitigung des größten Teils des Rauschens und die teilweise Beibehaltung der schwachen Kanten des Hauses. Es ist zu bemerken, daß das versprenkelte Rauschen, daß den Kanten des Hauses unmittelbar benachbart war, entfernt worden ist.
  • 5 ist eine bildliche Darstellung der Erzeugung des angereicherten Bildes.
  • Das angenäherte Bild 320 wird zu der angereicherten Abbildung 410 addiert, um das angereicherte Bild 510 zu erzeugen. Das angereicherte Bild 510 zeigt schärfere Kantenmerkmale und eine merkliche Reduktion des Rauschpegels. Besonders anzumerken ist die Verringerung des Rauschens entlang der Kantenmerkmale des Hauses. Das angereicherte Bild 510 ist eine Pixel für Pixel vorgenommene Summierung der Intensitätswerte der angereicherten Abbildung 410 und des angenäherten Bildes 320.
  • 6 ist ein Ablaufdiagramm, das das System zum Erzeugen des angereicherten Bildes aus einem Eingabebild gemäß einem Ausführungsbeispiel der Erfindung beschreibt. Im Block 61 wird ein angenähertes Bild eines Eingabebildes in Übereinstimmung mit einem bestimmten Annäherungsmodell gebildet. Da eine Zwei-Stufen-Lösung verwendet wird (das heißt ein Annäherungsschritt und ein Verbesserungsschritt), führt ein ungenau modellierter Annäherungsblock üblicherweise zu einem eng oder genau modellierten Verbesserungsblock und umgekehrt. Zum Zwecke der Rauschreduktion beispielsweise ist es wünschenswert, das Annäherungsmodell oder Approximationsmodell so zu konstruieren, daß ein minimales Rauschen in dem angenäherten Bild zurückbleibt, da grundsätzlich keine Verbesserung in dem angenäherten Bild durchgeführt wird.
  • Im Block 63 wird ein Differenzbild durch eine Subtraktion des angenäherten Bildes von dem Eingabebild erzeugt. Da die Erzeugung einer Vor-Verbesserungs-Abbildung gemeinsame Bildmerkmale beseitigt, brauchen weniger Informationen in dem Verbesserungsprozeß analysiert zu werden.
  • So wird im Block 65 die Vor-Verbesserungs-Abbildung dann angereichert. Um diese für den Differenzprozeß verlorenen Bildinformationen wieder herzustellen, wird das angenäherte Bild mit der angereicherten Abbildung kombiniert, um ein angereichertes Bild des Eingabebildes zu erzeugen (Block 67).
  • 7 ist eine Systemdarstellung eines Ausführungsbeispiels der Erfindung.
  • 7 veranschaulicht ein Computersystem 710, welches irgendeine Mehrzweck- oder spezielle Datenverarbeitungsmaschine, wie beispielsweise ein PC (Personalcomputer), sein kann, die mit einer Kamera 730 gekoppelt ist. Die Kamera 730 kann eine Digitalkamera, eine digitale Videokamera oder irgendeine Bildaufnahmeeinrichtung oder ein Bildverarbeitungssystem sein und wird benutzt, um ein Sensorabbildung eines Objekts oder einer Szene 740 aufzunehmen. Im wesentlichen werden die aufgenommenen Bilder von einer Bildverarbeitungsschaltung 732 komprimiert und verarbeitet, so daß sie effizient in einer Bildspeichereinheit 734, welche ein RAM oder eine andere Speichereinrichtung, wie beispielsweise eine Festplatte, eine Speicherkarte, etc., sein kann, gespeichert werden können. Bei den meisten Digitalkameras werden aus dem Bildaufnahmemechanismus, wie beispielsweise einem Sensor, gewonnene Rohbilder zunächst auf der Kamera 730 gespeichert und später heruntergeladen, um ausgegeben, angezeigt oder bearbeitet zu werden. Dies gestattet der Kamera 730, ein nächstes Objekt schnell ohne zusätzliche Verzögerung aufzunehmen. Eine geeignete Rohbilddarstellung ist das Bayer-Muster, bei welchem jedes Pixel einen von drei (R, G oder B) Werten aufweist.
  • Bei einem Ausführungsbeispiel wird ein Bild von der Kamera 730 als Roh-Bayer-Muster aufgenommen und dann in irgendein anderes Format komprimiert. Die Bildverbesserung gemäß einem Ausführungsbeispiel der Erfindung arbeitet wie folgt. Zunächst wird das komprimierte Bild aus der Kamera 730 über den I/O-Port 717 auf eine Platte 718 oder eine andere Einrichtung des Computersystems 710 heruntergeladen. Das komprimierte Bild wird auf dem Computersystem 710 dekomprimiert. Dann führt das Computersystem eine Bildverbesserung an dem wiederhergestellten Bayer-Muster-Bild vor irgendeiner Farbinterpolation durch, indem Befehle gemäß dem System bei den verschiedenen Ausführungsbeispielen der Erfindung ausgeführt werden.
  • Die bei den verschiedenen Ausführungsbeispielen der Erfindung beschriebene Methodik kann unter Verwendung eines Prozessors 712, wie beispielsweise des PentiumTM (eines Produkts der Intel Corporation), und eines Speichers 711, wie beispielsweise eines RAM, welcher verwendet wird, um Befehle, Adressen und Ergebnisdaten zu speichern/zu laden, ausgeführt werden kann. Die zum Ausführen der Rauschbeseitigung an dem CFA(color filter array)-Bild verwendete Anwendung kann ein ausführbares Modul sein, das aus einem in einer Sprache, wie beispielsweise C++, geschriebenen Quellcode kompiliert wurde. Die Befehle dieses ausführbaren Moduls, welche Befehlen entsprechen, welche die Verbesserung von Bildern durch Anwenden einer ausgewählten Verbesserungstechnik auf eine Differenzabbildung an Stelle des ursprünglichen vollständigen Bildes unterstützen, können auf einer Platte 718 oder in einem Speicher 711 gespeichert werden und können somit über irgendein computerlesbares Medium geladen werden. Es ist einem Fachmann auf dem Gebiet der Computertechnik sofort klar, wie eine bestimmte Maschine zum Ausführen der in den verschiedenen Ausführungsbeispielen der Erfindung beschriebenen Interpolationsmethodik zu programmieren ist.
  • Das Computersystem 710 weist einen Systembus 713 auf, welcher die Informationsübertragung zum/aus dem Prozessor 712 ermöglicht, und einen Speicher 711 und darüber hinaus eine Brücke 714, welche den Systembus 713 mit einem I/O-Bus 715 koppelt. Der I/O-Bus 715 verbindet verschiedene I/O-Einrichtungen, wie beispielsweise einen Anzeigeadapter 716, eine Platte 718 und einen I/O-Port, wie beispielsweise einen seriellen Port. Viele derartige Kombinationen von I/O-Einrichtungen, Bussen und Brücken können mit der Erfindung benutzt werden, und die gezeigte Kombination ist bloß für eine derartige mögliche Kombination veranschaulichend.
  • Wenn ein Bild, wie beispielsweise ein Bild des Objekts/der Szene 740, aufgenommen wird, wird das Bild als R-, G- und B-Pixel in beispielsweise das Bayer-Muster abgetastet. Diese Pixelwerte werden zu der Bildverarbeitungsschaltung 732 gesendet. Die Bildverarbeitungsschaltung 732 besteht aus ICs und anderen Bauelementen, welche neben weiteren Funktionen ein Bildkompressionsschema ausführen, um die Größe der Übertragung zwischen der Kamera 730 und dem Computersystem 710 zu reduzieren. Wenn der Benutzer oder eine Anwendung ein Herunterladen von Bildern wünscht/anfordert, werden die in der Bildspeichereinheit gespeicherten komprimierten Bilder aus der Bildspeichereinheit 734 zu dem I/O-Port 717 übertragen. Der I/O-Port 717 verwendet die gezeigte Bus-Brücken-Hierarchie (I/O-Bus 715 zur Brücke 714 zum Systembus 713), um die Bilddaten vorübergehend in dem Speicher 711 oder optional auf Platte 718 zu speichern. Die komprimierten Bilder werden durch geeignete Anwendungssoftware (oder spezielle Hardware) dekomprimiert, wobei der Prozessor 712 benutzt werden kann, um dies auszuführen. Die dekomprimierten Bilddaten werden als Bayer-Muster-Bilddaten wiederhergestellt, die ähnlich oder identisch den Bilddaten sind, wie sie von dem Sensor der Kamera 730 aufgenommen worden sind.
  • Das heruntergeladene Bild wird, sobald es dekomprimiert ist, Pixel in ihrer rohen Form mit einer Farbkomponente pro Pixel aufweisen. Sofern es gewünscht wird, daß ein rauschfreies oder anderweitig angereichertes Bild auf dem Monitor 720 ausgegeben wird, so sollte dann diese Rauschbeseitigungstechnik oder Bildverbesserung gemäß den verschiedenen Ausführungsbeispielen der Erfindung ausgeführt werden, bevor die vollständigen Farbpixel über eine Farbinterpolation gebildet werden, und es sollte das Differenzverbesserungssy stem, das oben beschrieben wurde, benutzt werden. Das heruntergeladene und dekomprimierte Bild wird durch eine der oben beschriebenen Techniken angereichert, und somit wird das Bild in ein angereichertes Bild transformiert. Der Datensatz des angereicherten Bildes kann im Speicher 711 oder auf Platte 718 zur weiteren Verarbeitung gespeichert werden. Sobald die Verbesserung durchgängig ausgeführt ist, kann der Datensatz durch den Farbinterpolationsprozeß verarbeitet werden, und sofern gewünscht, das ursprüngliche (wiederhergestellte) Bild verworfen werden. Das bildlich angereicherte und dann farbinterpolierte wiedergegebene Bild 750 wird mit besseren Details (zum Beispiel schärferen Kanten und weniger Rauschen), sofern adäquate Anzeigeeinrichtungen (Monitor 720 und Adapter 716) gegeben sind, wiedergegeben und wird somit das ursprüngliche Objekt/die ursprüngliche Szene 740 besser annähern. Das angereicherte und farbinterpolierte Bild kann auf der Platte 718, in dem Speicher 711 gespeichert werden und/oder direkt zum Monitor 720 ausgegeben werden, nachdem es über den Anzeigeadapter 716 wiedergegeben worden ist.
  • Der Computerprogrammcode für die Bildverbesserung kann auf einem entnehmbaren computerlesbaren Medium, wie beispielsweise einer Diskette oder einer CDROM, enthalten sein und kann Software begleiten, die die Dekompression der aus der Kamera 730 heruntergeladenen Bilder ausführt. Wie auch beliebige andere Software kann er über ein Netzwerk an Kommunikationssystemen heruntergeladen/verteilt werden oder kann in Firmware erhältlich sein. Diese heruntergeladenen Bilder können so angereichert werden, daß die Bilder das Objekt/die Szene 740 an den Benutzer visuell genauer präsentieren. Solche Bildverbesserungstechniken können alternativ auch in Hardware auf der Kamera 730 selbst implementiert werden.
  • Bei einem alternativen Ausführungsbeispiel der Erfindung kann die Bildverarbeitungsschaltung 732 so angepaßt sein, daß sie eine Schaltung zum Ausführen einer Rauschbeseitigung oder einer anderen Bildverbesserung auf der Kamera ausführt, so daß das in der Bildspeichereinheit 734 gespeicherte Bild ein angereichertes Bild ist. Bei einem solchen Ausführungsbeispiel kann das Bild an irgendeiner Stufe der Bildverarbeitung angereichert werden. Bei einem solchen Hardware-Ausführungsbeispiel kann jedes angereicherte Bildpixel, wenn es bestimmt worden ist, direkt zurück in die Bildspeichereinheit 734 oder einen anderen Speichermechanismus geschrieben werden. Ferner kann die angenäherte Abbildung, die Vor-Verbesserungs-Abbildung oder andere derartige Zwischenergebnisdaten ebenfalls die Bildspeichereinheit 730 benutzen. Die oben beschriebenen Verfahren zum Anreichern von Bildern sind in der Lage, in VLSI (Very Large Scale Integration) oder anderen integrierten Schaltungen implementiert zu werden. Das Bildverbesserungssystem, das in den verschiedenen Ausführungsbeispielen der Erfindung präsentiert wurde, hat den Vorteil der potentiellen direkten Hardwareimplementierung, da im Unterschied zu herkömmlichen angereicherten Techniken es so konstruiert ist, daß es auf ein Bayer-Muster-Rohbild anwendbar ist. Das Bildverbesserungssystem kann darüber hinaus nach der Farbinterpolation ausgeführt werden, sofern dies gewünscht wird. Eine beliebige Anzahl von Bildverbesserungstechniken, wie beispielsweise die Artifaktreduktion, Kantenschärfung, Farbverlaufsreduktion usw., kann das bei der Erfindung erörterte System benutzen, so daß diese Techniken, in welcher Form sie auch immer benutzt werden, effektiver arbeiten als bei herkömmlicher Bildverbesserung.

Claims (11)

  1. Ein Verfahren, umfassend: Empfangen eines Eingabebildes und filtern dieses Eingabebildes, wobei eine angenähertes Bild aus dem ursprünglichen Eingabebild gebildet wird; Bilden eines Differenzbildes durch Subtrahieren des angenäherten Bildes von dem Eingabebild oder durch Subtrahieren des Eingabebildes von dem angenäherten Bild; Verbessern des Differenzbildes in Übereinstimmung mit einer bekannten Bildverbesserungstechnik, wobei ein verbessertes Differenzbild gebildet wird; und Kombinieren des verbesserten Differenzbildes mit dem angenäherten Bild, um ein verbessertes Bild zu erzeugen.
  2. Verfahren nach Anspruch 1, wobei das Bilden des angenäherten Bildes eine Tiefpaßfilterung des Eingabebildes umfaßt.
  3. Verfahren nach Anspruch 1, wobei das Bilden des angenäherten Bildes eine Mittelung von Abschnitten des Eingabebildes in der Art und Weise eines sich bewegenden Fensters umfaßt.
  4. Verfahren nach Anspruch 1, wobei das Kombinieren das Addieren des verbesserten Differenzbildes zu dem angenäherten Bild umfaßt.
  5. Verfahren nach Anspruch 1, wobei die Verbesserung eine Rauschbeseitigung umfaßt.
  6. Verfahren nach Anspruch 1, wobei die Verbesserung eine Kantenschärfung umfaßt.
  7. Ein System, aufweisend: einen Approximierer, der so konfiguriert ist, daß er ein angenähertes Bild eines Eingabebildes erzeugt; ein Differenzierungsabbildungsmodul, das mit dem Approximierer gekoppelt ist, wobei das Differenzierungsabbildungsmodul so konfiguriert ist, daß es ein Differenzbild aus dem Eingabebild und dem angenäherten Bild durch Subtrahieren des angenäherten Bildes von dem Eingabebild oder durch Subtrahieren des Eingabebildes von dem angenäherten Bild erzeugt; ein mit dem Differenzierungsabbildungsmodul gekoppeltes Verbesserungsmodul, das so konfiguriert ist, daß es das Differenzbild verbessert und eine verbessertes Differenzbild daraus bildet; und einen mit dem Verbesserungsmodul gekoppelten Konstruierer, der so konfiguriert ist, dass er das verbesserte Differenzbild mit dem Eingabebild kombiniert und eine verbesserte Version des Eingabebildes ausgibt.
  8. System nach Anspruch 8, wobei der Approximierer eine Tiefpaßfilterung ist.
  9. System nach Anspruch 7, wobei der Approximierer so konfiguriert ist, daß er eine Mittelwertbildung innerhalb eines sich bewegenden Fensters auf das Eingabebild anwendet.
  10. System nach Anspruch 7, wobei der Konstruierer ein Addierer ist.
  11. System nach Anspruch 7, wobei das Verbesserungsmodul eine Rauschbeseitigung zur Verfügung stellt.
DE19983560T 1998-09-16 1999-09-10 Ein allgemeines Bildverbesserungsverfahren- und system Expired - Fee Related DE19983560B4 (de)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US09/154,176 1998-09-16
US09/154,176 US6108453A (en) 1998-09-16 1998-09-16 General image enhancement framework
PCT/US1999/020676 WO2000016265A1 (en) 1998-09-16 1999-09-10 A general image enhancement framework

Publications (2)

Publication Number Publication Date
DE19983560T1 DE19983560T1 (de) 2001-08-09
DE19983560B4 true DE19983560B4 (de) 2008-11-13

Family

ID=22550311

Family Applications (1)

Application Number Title Priority Date Filing Date
DE19983560T Expired - Fee Related DE19983560B4 (de) 1998-09-16 1999-09-10 Ein allgemeines Bildverbesserungsverfahren- und system

Country Status (8)

Country Link
US (1) US6108453A (de)
JP (1) JP2002525724A (de)
KR (1) KR20010075115A (de)
AU (1) AU6139799A (de)
DE (1) DE19983560B4 (de)
GB (1) GB2358982B (de)
TW (1) TW451581B (de)
WO (1) WO2000016265A1 (de)

Families Citing this family (58)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7095164B1 (en) 1999-05-25 2006-08-22 Intel Corporation Display screen
US6697534B1 (en) 1999-06-09 2004-02-24 Intel Corporation Method and apparatus for adaptively sharpening local image content of an image
US6658399B1 (en) 1999-09-10 2003-12-02 Intel Corporation Fuzzy based thresholding technique for image segmentation
US6625308B1 (en) 1999-09-10 2003-09-23 Intel Corporation Fuzzy distinction based thresholding technique for image segmentation
US7053944B1 (en) 1999-10-01 2006-05-30 Intel Corporation Method of using hue to interpolate color pixel signals
US7106910B2 (en) * 1999-10-01 2006-09-12 Intel Corporation Color video coding scheme
US7158178B1 (en) 1999-12-14 2007-01-02 Intel Corporation Method of converting a sub-sampled color image
US6628827B1 (en) 1999-12-14 2003-09-30 Intel Corporation Method of upscaling a color image
US6292535B1 (en) * 1999-12-21 2001-09-18 Canon Kabushiki Kaisha Digital X-ray imaging system with automatic display image greyscale enhancement and method
US6748118B1 (en) 2000-02-18 2004-06-08 Intel Corporation Method of quantizing signal samples of an image during same
US6961472B1 (en) 2000-02-18 2005-11-01 Intel Corporation Method of inverse quantized signal samples of an image during image decompression
US6738520B1 (en) * 2000-06-19 2004-05-18 Intel Corporation Method of compressing an image
US7046728B1 (en) 2000-06-30 2006-05-16 Intel Corporation Method of video coding the movement of a human face from a sequence of images
US6775413B1 (en) 2000-09-18 2004-08-10 Intel Corporation Techniques to implement one-dimensional compression
US7474337B1 (en) * 2000-10-24 2009-01-06 Sony Corporation Method and apparatus to provide edge enhancements as part of a demosaicing process
US6563439B1 (en) * 2000-10-31 2003-05-13 Intel Corporation Method of performing Huffman decoding
US6636167B1 (en) * 2000-10-31 2003-10-21 Intel Corporation Method of generating Huffman code length information
US20020118746A1 (en) * 2001-01-03 2002-08-29 Kim Hyun Mun Method of performing video encoding rate control using motion estimation
US6766286B2 (en) 2001-03-28 2004-07-20 Intel Corporation Pyramid filter
US20020184276A1 (en) * 2001-03-30 2002-12-05 Tinku Acharya Two-dimensional pyramid filter architecture
US6889237B2 (en) * 2001-03-30 2005-05-03 Intel Corporation Two-dimensional pyramid filter architecture
WO2003021969A2 (en) * 2001-08-30 2003-03-13 Faroudja Cognition Systems, Inc. Multi-layer video compression system with synthetic high frequencies
JP4993152B2 (ja) * 2001-09-12 2012-08-08 日本テトラパック株式会社 可撓性ウェプ材料からなる容器へのプラスチック部品のモールド方法、その装置及びプラスチック部品がモールドされた容器
US6944356B2 (en) * 2002-05-13 2005-09-13 Tektronix, Inc. Locating point of interest in an impaired image
US7266151B2 (en) * 2002-09-04 2007-09-04 Intel Corporation Method and system for performing motion estimation using logarithmic search
US20040042551A1 (en) * 2002-09-04 2004-03-04 Tinku Acharya Motion estimation
US7092017B2 (en) * 2002-09-13 2006-08-15 Eastman Kodak Company Fixed pattern noise removal in CMOS imagers across various operational conditions
US20040057626A1 (en) * 2002-09-23 2004-03-25 Tinku Acharya Motion estimation using a context adaptive search
US7116840B2 (en) 2002-10-31 2006-10-03 Microsoft Corporation Decoding and error correction in 2-D arrays
US7133563B2 (en) 2002-10-31 2006-11-07 Microsoft Corporation Passive embedded interaction code
US20040174446A1 (en) * 2003-02-28 2004-09-09 Tinku Acharya Four-color mosaic pattern for depth and image capture
US7274393B2 (en) * 2003-02-28 2007-09-25 Intel Corporation Four-color mosaic pattern for depth and image capture
US20040169748A1 (en) * 2003-02-28 2004-09-02 Tinku Acharya Sub-sampled infrared sensor for use in a digital image capture device
US7103227B2 (en) * 2003-03-19 2006-09-05 Mitsubishi Electric Research Laboratories, Inc. Enhancing low quality images of naturally illuminated scenes
US7308154B1 (en) * 2003-10-20 2007-12-11 Rockwell Collins, Inc. Method and apparatus for enhancing a degraded digital image
US7424168B2 (en) * 2003-12-24 2008-09-09 Sharp Laboratories Of America, Inc. Enhancing the quality of decoded quantized images
US7583842B2 (en) 2004-01-06 2009-09-01 Microsoft Corporation Enhanced approach of m-array decoding and error correction
US7263224B2 (en) 2004-01-16 2007-08-28 Microsoft Corporation Strokes localization by m-array decoding and fast image matching
US7607076B2 (en) 2005-02-18 2009-10-20 Microsoft Corporation Embedded interaction code document
US7826074B1 (en) 2005-02-25 2010-11-02 Microsoft Corporation Fast embedded interaction code printing with custom postscript commands
US7599560B2 (en) 2005-04-22 2009-10-06 Microsoft Corporation Embedded interaction code recognition
US7421439B2 (en) 2005-04-22 2008-09-02 Microsoft Corporation Global metadata embedding and decoding
US7400777B2 (en) 2005-05-25 2008-07-15 Microsoft Corporation Preprocessing for information pattern analysis
US7729539B2 (en) 2005-05-31 2010-06-01 Microsoft Corporation Fast error-correcting of embedded interaction codes
WO2006129241A2 (en) * 2005-06-01 2006-12-07 Koninklijke Philips Electronics N.V. Shaping classification boundaries in template protection systems
US7580576B2 (en) 2005-06-02 2009-08-25 Microsoft Corporation Stroke localization and binding to electronic document
US7412106B1 (en) * 2005-06-25 2008-08-12 Cognex Technology And Investment Corporation Methods for locating and decoding distorted two-dimensional matrix symbols
US7619607B2 (en) 2005-06-30 2009-11-17 Microsoft Corporation Embedding a pattern design onto a liquid crystal display
US7528848B2 (en) * 2005-06-30 2009-05-05 Microsoft Corporation Embedded interaction code decoding for a liquid crystal display
US7817816B2 (en) 2005-08-17 2010-10-19 Microsoft Corporation Embedded interaction code enabled surface type identification
US7622182B2 (en) 2005-08-17 2009-11-24 Microsoft Corporation Embedded interaction code enabled display
US7496240B2 (en) * 2005-08-24 2009-02-24 Brother Kogyo Kabushiki Kaisha Image denoising apparatus and method
US7471319B2 (en) * 2005-10-28 2008-12-30 Hewlett-Packard Development Company, L.P. Lens and CCD correction using singular value decomposition
US7878402B2 (en) * 2005-12-20 2011-02-01 Cognex Technology And Investment Corporation Decoding distorted symbols
KR100780932B1 (ko) * 2006-05-30 2007-11-30 엠텍비젼 주식회사 컬러 보간 방법 및 장치
US20100014777A1 (en) * 2008-07-19 2010-01-21 Headplay (Barbados) Inc. System and method for improving the quality of compressed video signals by smoothing the entire frame and overlaying preserved detail
WO2010050914A1 (en) * 2008-10-31 2010-05-06 Hewlett-Packard Development Company, L.P. Method and system for enhancing image signals to alter the perception of depth by human viewers
US8855213B2 (en) * 2009-03-26 2014-10-07 Apple Inc. Restore filter for restoring preprocessed video image

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE19530095A1 (de) * 1995-08-16 1997-02-20 Martin Engwicht Zugriff-Überwachendes-Hilfsmittel auf Speichereinheiten
US5717789A (en) * 1993-09-08 1998-02-10 California Institute Of Technology Image enhancement by non-linear extrapolation in frequency space

Family Cites Families (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS61112285A (ja) * 1984-11-07 1986-05-30 Hitachi Ltd 対話型画像強調方式
JPS6346880A (ja) * 1986-08-14 1988-02-27 Nec Corp 画像強調回路
JP2655602B2 (ja) * 1987-11-04 1997-09-24 日本電気株式会社 画像強調回路
JPH0236675A (ja) * 1988-07-27 1990-02-06 Nec Corp 画像強調方法及び回路
JP2832954B2 (ja) * 1988-09-09 1998-12-09 日本電気株式会社 画像強調回路
JPH02171873A (ja) * 1988-12-23 1990-07-03 Nec Corp カラー画像強調回路
JPH02171872A (ja) * 1988-12-23 1990-07-03 Nec Corp カラー画像強調回路
JPH02171095A (ja) * 1988-12-23 1990-07-02 Nec Corp カラー画像強調回路
US5012333A (en) * 1989-01-05 1991-04-30 Eastman Kodak Company Interactive dynamic range adjustment system for printing digital images
JPH0496877A (ja) * 1990-08-14 1992-03-30 Matsushita Electric Ind Co Ltd 画像復元装置
JP3114208B2 (ja) * 1991-01-08 2000-12-04 日本電気株式会社 適応画像強調回路
JPH06260889A (ja) * 1993-03-05 1994-09-16 Sony Corp フィルタ回路
JPH08163407A (ja) * 1994-11-30 1996-06-21 Victor Co Of Japan Ltd リンギング低減装置
JPH0991423A (ja) * 1995-09-28 1997-04-04 Fuji Photo Film Co Ltd 画像処理方法および装置
JPH0993439A (ja) * 1995-09-28 1997-04-04 Fuji Photo Film Co Ltd 画像処理方法および装置
JP3816151B2 (ja) * 1995-09-29 2006-08-30 富士写真フイルム株式会社 画像処理方法および装置
JPH09163144A (ja) * 1995-12-11 1997-06-20 Fuji Photo Film Co Ltd 画像処理方法および装置
KR100206319B1 (ko) * 1995-12-13 1999-07-01 윤종용 비디오 신호의 로컬 콘트라스트 개선을 위한 방법및장치
JP3700798B2 (ja) * 1996-08-19 2005-09-28 富士写真フイルム株式会社 画像処理方法および装置
JP3777672B2 (ja) * 1996-10-08 2006-05-24 松下電器産業株式会社 画像処理方法および画像処理装置

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5717789A (en) * 1993-09-08 1998-02-10 California Institute Of Technology Image enhancement by non-linear extrapolation in frequency space
DE19530095A1 (de) * 1995-08-16 1997-02-20 Martin Engwicht Zugriff-Überwachendes-Hilfsmittel auf Speichereinheiten

Also Published As

Publication number Publication date
GB0105847D0 (en) 2001-04-25
GB2358982A (en) 2001-08-08
DE19983560T1 (de) 2001-08-09
US6108453A (en) 2000-08-22
GB2358982B (en) 2002-11-27
WO2000016265A1 (en) 2000-03-23
KR20010075115A (ko) 2001-08-09
AU6139799A (en) 2000-04-03
TW451581B (en) 2001-08-21
JP2002525724A (ja) 2002-08-13

Similar Documents

Publication Publication Date Title
DE19983560B4 (de) Ein allgemeines Bildverbesserungsverfahren- und system
DE69839277T2 (de) Verfahren und anordnung zur ausführung von farbschlüsseln, transparenz und nebelfunktionen
DE60132278T2 (de) Rauschverminderungsverfahren unter Verwendung von Farbinformationen, einer Vorrichtung und eines Programms zur Digital-Bildverarbeitung
DE60017600T2 (de) Digitales bilderzeugungsverfahren
DE60111756T2 (de) Verfahren zum verbessern der kompressionsfähigkeit und der bildqualität von abgetasteten dokumenten
DE19842572B4 (de) Verfahren zur automatischen Entfernung von Bildfehlern
EP0927496B1 (de) Vorrichtung und verfahren zur erzeugung eines kompositbildes
DE69733989T2 (de) Verfahren zur Extrahierung von Daten und Verfahren zur Verdeckerung von Daten
DE60009644T2 (de) Farbtonumsetzung unter Verwendung lokaler Information
DE60127016T2 (de) Verfahren und Gerät zur Durchführung einer lokalen Farbkorrektur
DE69732955T2 (de) Adaptive Rauschverminderung von Videobildern
EP0283715B1 (de) Verfahren zur Codierung von Bildsignalen
DE19744898A1 (de) Signaladaptives Filterverfahren und signaladaptives Filter
DE102016007215A1 (de) Kontrollieren der Glattheit eines Übergangs zwischen Bildern
DE19636949A1 (de) Verfahren zur Detektion von Kanten in einem Bildsignal
DE102006038646A1 (de) Bildverarbeitungsvorrichtung für Farb-Bilddaten und Verfahren zur Bildverarbeitung von Farb-Bilddaten
DE10344397A1 (de) Vorrichtung und Verfahren zur Kantenhervorhebung bei der Bildverarbeitung
DE102016121755A1 (de) Verfahren zum Bestimmen eines zusammengesetzten Bilds eines Umgebungsbereichs eines Kraftfahrzeugs mit Anpassung von Helligkeit und/oder Farbe, Kamerasystem sowie Krafzfahrzeug
DE69908550T2 (de) Wasserzeichenerkennung
DE69826409T2 (de) Verfahren und Gerät zur Rauschimpulsverringerung
DE60023837T2 (de) Vorrichtung und verfahren zur filterung
DE102012201024B4 (de) Verfahren zum Verarbeiten eines Bildes zur Verdeutlichung von Text in dem Bild
DE102004007177A1 (de) Gerät, Verfahren und Programmprodukt zur Bildverarbeitung
DE69938473T2 (de) Verfahren zum umgekehrten Halbtonzittern niedriger Komplexität und Speicherung
DE60312301T2 (de) Bildverarbeitungsvorrichtung und -methode zur Erkennung der Umrisse eines bewegten Objektes

Legal Events

Date Code Title Description
OP8 Request for examination as to paragraph 44 patent law
8364 No opposition during term of opposition
R119 Application deemed withdrawn, or ip right lapsed, due to non-payment of renewal fee

Effective date: 20110401