DE102013012988A1 - Verfahren zur Kalibrierung eines digitalen optischen Abbildungssystems, Verfahren zur Korrektur von Abbildungsfehlern in einem digitalen optischen Abbildungssystem, sowie digitales optisches Abblildungssystem - Google Patents
Verfahren zur Kalibrierung eines digitalen optischen Abbildungssystems, Verfahren zur Korrektur von Abbildungsfehlern in einem digitalen optischen Abbildungssystem, sowie digitales optisches Abblildungssystem Download PDFInfo
- Publication number
- DE102013012988A1 DE102013012988A1 DE201310012988 DE102013012988A DE102013012988A1 DE 102013012988 A1 DE102013012988 A1 DE 102013012988A1 DE 201310012988 DE201310012988 DE 201310012988 DE 102013012988 A DE102013012988 A DE 102013012988A DE 102013012988 A1 DE102013012988 A1 DE 102013012988A1
- Authority
- DE
- Germany
- Prior art keywords
- image
- zoom
- imaging system
- correction
- pixel
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
- 238000000034 method Methods 0.000 title claims abstract description 43
- 230000004075 alteration Effects 0.000 title claims abstract description 18
- 238000012634 optical imaging Methods 0.000 title claims abstract description 16
- 238000012937 correction Methods 0.000 claims abstract description 43
- 238000003384 imaging method Methods 0.000 claims abstract description 12
- 238000003702 image correction Methods 0.000 claims abstract description 11
- 239000013598 vector Substances 0.000 claims description 7
- 238000012545 processing Methods 0.000 claims description 3
- 238000013507 mapping Methods 0.000 claims 1
- 230000008569 process Effects 0.000 abstract description 7
- 230000003287 optical effect Effects 0.000 description 5
- 239000011521 glass Substances 0.000 description 4
- 230000008859 change Effects 0.000 description 3
- 230000006641 stabilisation Effects 0.000 description 3
- 238000011105 stabilization Methods 0.000 description 3
- 238000010276 construction Methods 0.000 description 2
- 230000001419 dependent effect Effects 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- 230000008447 perception Effects 0.000 description 2
- BUHVIAUBTBOHAG-FOYDDCNASA-N (2r,3r,4s,5r)-2-[6-[[2-(3,5-dimethoxyphenyl)-2-(2-methylphenyl)ethyl]amino]purin-9-yl]-5-(hydroxymethyl)oxolane-3,4-diol Chemical compound COC1=CC(OC)=CC(C(CNC=2C=3N=CN(C=3N=CN=2)[C@H]2[C@@H]([C@H](O)[C@@H](CO)O2)O)C=2C(=CC=CC=2)C)=C1 BUHVIAUBTBOHAG-FOYDDCNASA-N 0.000 description 1
- VYZAMTAEIAYCRO-UHFFFAOYSA-N Chromium Chemical group [Cr] VYZAMTAEIAYCRO-UHFFFAOYSA-N 0.000 description 1
- 230000000712 assembly Effects 0.000 description 1
- 238000000429 assembly Methods 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 229910052804 chromium Inorganic materials 0.000 description 1
- 239000011651 chromium Substances 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000000386 microscopy Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/36—Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
- G02B21/365—Control or image processing arrangements for digital or video microscopes
-
- G06T5/80—
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N17/00—Diagnosis, testing or measuring for television systems or their details
- H04N17/002—Diagnosis, testing or measuring for television systems or their details for television cameras
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/69—Control of means for changing angle of the field of view, e.g. optical zoom objectives or electronic zooming
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10056—Microscopic image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10141—Special mode during image acquisition
- G06T2207/10148—Varying focus
Abstract
Die Erfindung betrifft ein Verfahren zur Kalibrierung eines digitalen optischen Abbildungssystems, welches zumindest ein motorisiertes oder kodiertes Zoomsystem und einen Bildsensor umfasst, ein Verfahren zur Korrektur von Abbildungsfehlern in einem solchen Abbildungssystem und ein optisches Abbildungssystem, das dazu ausgebildet ist, die erfindungsgemäßen Verfahren auszuführen. Beim Kalibrierverfahren wird ein Referenzobjekt in verschiedenen Zoomstellungen aufgenommen und das Bild pixelweis digitaloptisch mit Hilfe eines zuvor bestimmten Modells korrigiert. Dazu werden Verzeichnungskorrekturkoeffizienten und Bildstandskorrekturkoeffizienten ermittelt. Aus dem korrigierten Bild wird die reale Gesamtvergrößerung des Systems ermittelt. Das im Kalibrierprozess ermittelte Modell dient auch zur Korrektur von Abbildungsfehlern während des Betriebes des Abbildungssystems.
Description
- Die Erfindung betrifft ein Verfahren zur Kalibrierung eines digitalen optischen Abbildungssystems, ein Verfahren zur Korrektur von Abbildungsfehlern, die durch verschiedene Optiken entstehen, insbesondere für digitale optische Abbildungssysteme, die ein Zoomsystem aufweisen. Daneben betrifft die Erfindung ein digitales optisches Abbildungssystem, in dem solche Verfahren implementiert sind.
- Das digitales optisches Abbildungssystem ist vorzugsweise ein Digitalmikroskop mit einem Zoomsystem und einem ggf. auswechselbaren Objektiv. Das Abbildungssystem kann aber auch ein telezentrisches oder anderes Zoomsystem ohne Objektiv sein, wie es beispielsweise für verschiedene Messtechnik-Aufgaben Verwendung findet.
- Nachfolgend wird in der Beschreibung von einem Digitalmikroskop ausgegangen, was aber keine Einschränkung auf diese Anwendung bedeutet.
- Von Abbildungsfehlern spricht man dann, wenn die verschiedenen Lichtstrahlen, die von dem Objektpunkt ausgehen, nicht alle in einem Bildpunkt fokussiert werden. Die wichtigsten Abbildungsfehler sind die sphärische und die chromatische Aberration. Sphärische und chromatische Abbildungsfehler werden durch Systeme aus mehreren Linsen verschiedener Glassorten, sphärische Abbildungsfehler durch asphärische Linsen oder Gradientenlinsen korrigiert. Eine Glasplatte (Planplatte) erzeugt einen Bildebenenversatz bzw. eine Unschärfe, die mit größer werdendem Öffnungswinkel zunimmt.
- Die Abbildung durch Linsen ist immer mehr oder weniger fehlerbehaftet. Mit zunehmender Linsenzahl ist die Korrektion verbesserbar. Die Kosten für Optik und Fassungen steigen. Es entstehen beispielsweise Farbsäume oder die sogenannte Bildfeldwölbung im mikroskopischen Bild. Durch einen geschickten Aufbau der Objektive lassen sich solche Abbildungsfehler weitgehend ausschließen. Planachromate, Apochromate sind Beispiele hierfür. Bei apochromatischen Objektiven werden Farbsäume in der mikroskopischen Abbildung durch eine aufwendige Anordnung unterschiedlicher Linsen im Objektiv unterdrückt. Die Planachromaten sind so korrigiert, dass die normalerweise im mikroskopischen Bild auftretende Bildfeldwölbung eliminiert wird.
- Die Planapochromaten besitzen von allen Objektiven die aufwendigste Konstruktion. Bei diesen Objektiven ist die Bildfeldwölbung, wie bei den Planachromaten, weitgehend beseitigt. Zusätzlich werden bei diesen Objektiven die normalerweise auftretenden roten und blauen Farbsäume durch die sehr aufwendige Konstruktion unterbunden. Diese Objektive sind sehr teuer und finden ihren Einsatz in erster Linie in der Farb-Mikrofotografie bei höchsten Ansprüchen.
- Bei Zoomsystemen kommen Abbildungsfehler durch Zentrierdifferenzen der Zoomkonstruktion hinzu (Bildstandfehler).
- Aus der
DE 102 25 193 A1 ist ein Verfahren zur Kalibrierung der Vergrößerung eines Stereomikroskops bekannt, bei dem auf der Grundlage einer Erstkalibrierung eine Kalibrierung über den gesamten Vergrößerungsbereich ableitbar sein soll. Anhand eines Objektiv-Okular-Referenzmaßpaares werden durch die Betätigung des Zooms am Mikroskop vorgegebene Ist-Vergrößerungen eingestellt. Die hierbei vorliegende Stellung der einzelnen Linsen des Zooms werden erfasst und für jede Zoomstellung wird ein Nominal-Vergrößerungswert abgespeichert. Durch rechnerischen Vergleich der Ist-Vergrößerung mit der Nominal-Vergrößerung wird ein Korrekturfaktor berechnet, welcher zur Kalibrierun des gesamten Zoom-Bereichs benutzt wird. - In der Digitalfotografie können Objektivverzeichnungen beispielsweise mittels Software manuell korrigiert werden, wobei umfangreiche Datenbanken für Kameras und Objektive vorhanden sein müssen. Teilweise werden Objektivkorrekturen (Verzerrungen, chromatische Aberrationen und Vignettierungen) mit der Firmware der Kameras intern durchgeführt (z. B. Sony).
- Die
DE 101 14 757 B4 beschreibt ein Mikroskopsystem mit einer Zoomoptik und einer Digitalkamera. In einer Korrektureinheit (PC) wird das digital fotografierte Bild in Übereinstimmung mit Bildkorrekturdaten entsprechend der jeweiligen Vergrößerung korrigiert. Dabei sind die Bildkorrekturdaten fotografische Bilddaten eines Standardhintergrundbildes. Es wird für jedes Bildelement eine exklusiv-ODER-Funktion entsprechend dem Objektbild und dem Standard-Hintergrundbild durchgeführt. - Aus der
DE 10 2010 025 888 A1 ist eine Digitalkamera mit einem implementierten Verfahren zur Erstellung eines verzerrungsfreien Digitalbildes bekannt, das eine an das jeweils vorhandene Kameraobjektiv angepasste, optimale Bildentzerrung ermöglicht. Bei dem Verfahren werden Korrekturwerte für jeden Typ eines Kameraobjektives experimentell einmalig bestimmt und anschließend in allen Digitalkameras mit gleichem Objektivtyp hinterlegt. Die Verzeichnungsfunktion ist dabei abhängig von der eingestellten Brennweite und der Entfernung eines aufzunehmenden Objektes und kann als zweidimensionale Matrix aus Konstanten ermittelt und in der Digitalkamera abgelegt werden. Dabei können die Faktoren durch Interpolation aus der hinterlegten Matrix ermittelt werden. - Aus
US 2008/0239107 A1 US 2009/0268078 A1 - In der Digitalmikroskopie sind zumeist Objektiv und Zoomsystem untereinander konfigurierbar. Das heißt, ein Zoomsystem kann mit unterschiedlichen Objektiven verwendet werden. Da sowohl Zoomsystem, als auch Objektiv unterschiedliche Abbildungsfehler verursachen, sind verschiedene Korrekturen erforderlich, um zu einer zufriedenstellenden Bildqualität zu gelangen.
- Der Erfindung liegt die Aufgabe zugrunde, ein Verfahren zur Kalibrierung eines digitalen optischen Abbildungssystems anzugeben, das eine Korrektur von Abbildungsfehlern während des Betriebes ermöglicht. Eine weitere Aufgabe ist die Angabe eines Verfahrens zur Korrektur von Abbildungsfehlern in einem digitalen optischen Abbildungssystem und die Schaffung eines solchen digitalen optischen Abbildungssystems, welches ein motorisiertes oder kodiertes Zoomsystem und ggf. ein Objektiv umfasst, wobei eine Bildkorrektur bei allen Zoomstellungen mit großer Genauigkeit und Zuverlässigkeit erfolgen soll.
- Die Aufgabe wird erfindungsgemäß durch Verfahren mit den Merkmalen der unabhängigen Verfahrensansprüche 1 und 6, sowie mit einem digitalen optischen Abbildungssystem mit den Merkmalen des Anspruch 11 gelöst.
- Vorteilhafte Ausgestaltungen sind in den Unteransprüchen angegeben.
- Ein digitales optisches Abbildungssystem umfasst zumindest ein Zoomsystem, einen Bildsensor und eine Logikeinheit zur digitalen Bildverarbeitung. Das Abbildungssystem kann beispielsweise ein telezentrisches oder anderes Zoomsystem ohne Objektiv oder auch ein Digitalmikroskop sein
- Das Digitalmikroskop umfasst zumindest ein Objektiv, ein motorisiertes Zoomsystem, den Bildsensor und die Logikeinheit zur Bildverarbeitung. Die Logikeinheit ist vorzugsweise gemeinsam mit dem Zoomsystem in einer so genannten Optical Engine angeordnet, wo auch eine Motorsteuerungen für das Zoomsystem und weitere Steuer- und Auswertekomponenten untergebracht sind. An der Optical Engine ist das Objektiv vorzugsweise wechselbar angeordnet. Das Objektiv besitzt vorteilhafterweise einen eigenen Datenspeicher und eine elektronische Schnittstelle, über die dieser Datenspeicher ausgelesen werden kann.
- Selbstverständlich umfasst das Digitalmikroskop in an sich bekannter Weise auch eine Steuereinheit zur Ansteuerung der Mikroskopkomponenten und eine Ein-/Ausgabeeinheit zur Bedienung, Bildbetrachtung und -auswertung. Dass Monitor, Tastatur und Bedienkomponenten als Ein-/Ausgabeeinheiten bei einem Digitalmikroskop auch als separate Komponenten vorhanden sein können, die an das Digitalmikroskop angeschlossen werden, versteht sich von selbst.
- Ebenso verfügt das Digitalmikroskop vorzugsweise über einen motorisiert verfahrbaren Objekttisch, ein Schwenkstativ, eine Beleuchtungsvorrichtung für Auflichtbeleuchtung und ggf. für Durchlichtbeleuchtung und weitere hier nicht erwähnte Komponenten.
- Diese Komponenten stehen aber nicht in unmittelbaren Zusammenhang mit der Erfindung, so dass auf eine ausführliche Beschreibung an dieser Stelle verzichtet wird.
- Das Korrekturverfahren beruht auf der Zuordnung von Vergrößerung und Korrekturdaten an die Antriebssteuerung des Zooms ggf. in Verbindung mit dem zugehörigem Objektiv.
- Ein abzubildendes Objekt soll bei Betätigung des Zoom um die Bildmitte proportional seine Größe ändern. In vorzugsweise der größten und kleinsten Vergrößerung wird ein Referezobjekt abgebildet. Aus der Änderung der Bildkoordinaten ist derjenige Bildpunkt bestimmbar, der diese „Mittelpunktseigenschaft” besitzt. Die Bilder bzw. Aufnahmen werden dann immer zu diesem Punkt ausgerichtet und das Bildfeld symmetrisch zu ihm ausgewertet.
- Um ein erfindungsgemäßes Korrekturverfahren in einem Digitalmikroskop oder anderem Abbildungssystem anzuwenden, ist zunächst für jedes produzierte Digitalmikroskop oder Abbildungssystem ein Erstkalibrierungsprozess erforderlich, bei dem die tatsächlichen Optikdaten des Zoomsystems und ggf. des verwendeten Objektivs und die daraus resultierenden Abbildungsfehler ermittelt werden.
- Für diesen Erstkalibrierungsprozess wird ein Referenzobjekt auf dem Objekttisch platziert, so dass es in bekannter Weise von einem Objektiv erfasst werden kann. Das Referenzobjekt weist ein Referenzmuster mit fest definierten Referenzpunkten auf. Die Referenzpunkte sind vorzugsweise äquidistant, also in definiert gleichen Abständen auf dem Referenzobjekt verteilt angeordnet. Vorzugsweise bilden die Referenzpunkte ein Array aus Zeilen und Spalten.
- Eine besonders bevorzugte Ausführungsform des Referenzobjektes ist eine mit Chrom beschichtete Glasplatte, in der an den Referenzpunkten Löcher vorgesehen sind. Diese Glasplatte wird dann von der dem Objektiv abgewandten Seite beleuchtet, also im Durchlichtverfahren betrachtet.
- Im nächsten Schritt wird eine beliebige erste Zoomstellung des Zoomsystems angesteuert, von der korrekte Vergrößerungsfaktor (Realzoomwert β) zunächst nicht bekannt ist. Vorzugsweise wird die kleinste oder größte mögliche Vergrößerung gewählt. In dieser ersten Zoomstellung wird ein Referenzbild im Bildsensor aufgenommen. Dabei wird das Referenzmuster des Referenzobjektes auf dem Bildsensor abgebildet.
- Bei der Verwendung des besonders bevorzugten Referenzobjektes ist das Referenzbild also schwarz, die Referenzpunkte sind dann im Idealfall weiße Punkte.
- Das Referenzbild wird zunächst in seine drei Farbkomponenten zerlegt und dabei drei Farbkanalreferenzbilder RRot, RGrün, RBlau erzeugt und vorzugsweise in einem Zwischenspeicher abgelegt.
- Im nächsten Schritt wird das Referenzbild zentriert. Dies geschieht durch Einpassen eines dem Referenzmuster entsprechenden Idealbildes in das Referenzbild. Dabei wird dieses so lange verschoben und ggf. gedreht, bis die geringste Abweichung zwischen beiden Bildern erzielt ist. Anschließend wird das Bildzentrum ermittelt. Dieses Zentrieren erfolgt vorzugsweise anhand des grünen Farbkanalreferenzbildes RGrün, da Grün (bzw. der Grün-Anteil in Grautönen) im menschlichen Auge den größten Beitrag zur Helligkeitswahrnehmung, somit auch zur Kontrast- und Schärfe-Wahrnehmung, leistet.
- Schließlich werden für jedes Farbkanalreferenzbild n Lagefehlervektoren für die Referenzpunkte ermittelt, indem die Lageabweichungen in Höhe und Breite vom Idealbild bestimmt werden. Es erfolgt eine Speicherung der Lagefehlervektoren in einer Referenztabelle.
- Aufgrund der Kenntnis der realen Maße des Referenzmusters kann für jede Zoomstellung auf einfache Weise ein Realzoomwert β ermittelt und mit in der Referenztabelle gespeichert werden.
- Anschließend werden die zuvor beschriebenen Schritte für mindestens zwei weitere Zoomstellungen wiederholt. Vorzugsweise werden die Lagefehlervektoren für sieben oder neun Zoomstellungen ermittelt, welche die kleinste und die größte Zoomstellung einschließen.
- Aus der Referenztabelle wird ein Verzeichnungsmodell gebildet, indem aus den Lagefehlervektoren in den verschiedenen Zoomstellungen Polynome höherer Ordnung interpoliert und elf Lagefehlerkoeffizienten je Farbkanalreferenzbild ermittelt werden. Zusätzlich können Bildstandfehlerkoeffizienten ermittelt werden, sowie Zoommotorpositionen zu zugehörigen Vergrößerungen erfasst und gespeichert werden.
- Das Verzeichnungsmodell, das heißt die Koeffizienten, Vergrößerungen und ggf. weitere Werte werden in einer verkürzten Zoomtabelle gespeichert. Diese verkürzte Zoomtabelle umfasst vorzugsweise vier Zeilen und enthält Koeffizienten von Ausgleichspolynomen vorzugsweise dritten Grades, welche die Berechnung der genannten Werte zu beliebigen Vergrößerungen ermöglichen.
- Die verkürzte Zoomtabelle kann durch Verwendung folgender Polynome für jede beliebige Vergrößerung β erweitert werden.
- Zu jeder Zoomposition i ist die Größe der Koeffizienten der Verzeichnung zu bestimmen. Zu jeder Zoomposition i gehört eine Vergrößerung β. Aus β ist deren Größe mit Hilfe der Einträge der verkürzten Zoomtabelle zu bestimmen.
- Dabei gilt für die Verzeichnungskorrekturkoeffizienten a:
am , n(i(β)) = am,n(i0 = 1) + am,n(i0 = 2)·β + am,n(i0 = 3)·β2 + am,n(i0 = 4)·β3;
und für Bildstandskorrekturkoeffizienten I:Im(i(β)) = Im(i0 = 1) + Im(i0 = 2)·β + Im(i0 = 3)·β2 + Im(i0 = 4)·β3;
wobei i0 = 1...3, die Werte der verkürzten Zoomtabelle sind. - Ix und Iy beschreiben die Abweichung eines Mittenobjektes gegen die bestimmte Bildmitte und dienen der Bildstandskorrektur.
-
- Die Länge der Zoomtabelle richtet sich nach der Codierung des Antriebs, um von der größten zur kleinsten erreichbaren Vergrößerung zu gelangen. Bei Zoomsystemen mit mechanischen Fokusausgleich kann das die Schrittzahl des Antriebs oder eines Encoders sein. Bei Systemen mit Direktantrieb ist dies ein Eintrag in der Motorsteuertabelle.
- Die Zoomtabelle hat dabei in einer bevorzugten Ausführungsform, um von β = 5 bis β = 0,5 mit Schrittgröße 0,001 zu gelangen, N = 4501 Einträge. Damit ist für jede erdenklich mögliche Zoomposition eine qualitativ gute Bildkorrektur möglich.
- Neben der Vergrößerung β und den Korrekturfaktoren a, I können beispielsweise auch Motorpositionen für jeden Vergrößerungswert in der Zoomtabelle hinterlegt sein.
- Die Ermittlung des Verzeichniskorrekturmodells basiert auf: „The Worst Distortions of Astrometric Instruments and Orthonormal Models for Rectangular Fields of View", Valeri V. Makarov, Daniel R. Veillette, Gregory S. Hennessy, & Benjamin F. Lane; United States Naval Observatory, 3450 Massachusetts Ave. NW, Washington DC.
- Die erfindungsgemäß erstellte Zoomtabelle kann nun während des Betriebes des Mikroskopes dazu genutzt werden, eine Verzeichniskorrektur und ggf. auch eine Bildstandskorrektur „on the fly” (während einer Zoomfahrt) vorzunehmen und die korrigierten Bilder dem Benutzer bereitzustellen, ohne dass eine aufwendige Software-Korrektur vorgenommen werden muss.
- Das Verfahren ist mittels der Logikeinheit in die Hardware der Optical Engine integriert und liefert qualitativ erstklassige Bilder, sowohl im Live-Modus als auch im Standbild. Aufgrund der Hardware-Einbindung ist das Verfahren schnell genug, so dass der Benutzer im Live-Modus keinen Zeitversatz bemerkt.
- In diesem Zusammenhang können die üblicherweise eingesetzten, dem Fachmann bekannten, Korrekturverfahren wie denoising (Rauschminderung), shadowcorrection (Korrektur des Randlichtabfalls), white balancing (Weißabgleich), color correction (Farbkorrektur), image stabilization (Bildstabilisierung) und anderes ebenfalls angewandt werden. Dies ist aber nicht zwingend erforderlich und wird daher nicht weiter beschrieben.
- Vorteilhafterweise ist durch die Bildversatzkorrektur eine Zoomfahrt mit einem festen Bildzentrum gewährleistet. Wenn der Zoom nicht betätigt wird, ist die Bildstandskorrektur nicht erforderlich.
- Durch die äußerst leistungsfähige Verzeichniskorrektur können unter Umständen im Digitalmikroskop einfachere Linsenbaugruppen verwendet werden, die einerseits preiswerter und andererseits deutlich lichtstärker sein können.
- Ein weiterer Vorteil besteht darin, dass unabhängig von Produktionstoleranzen in jeder Zoomstufe die exakte Vergrößerung bestimmbar ist. Dies ist durch die Verwendung der verkürzten Zoomtabellen, welche im Gerät abgespeichert sind, auch bei einem Objektivwechsel ohne besonderen Aufwand möglich.
- Nachfolgend wird eine mögliche Ausführungsform des erfindungsgemäßen Korrekturverfahrens näher erläutert.
- Das erfindungsgemäße Korrekturverfahren wird auf jedes vom Bildsensor aufgenommene Bild angewendet. Die Korrektur muss dabei für Features wie Bildstabilisierung und Image-Rotation in einem größerem Bereich erfolgen, als der Benutzer angezeigt bekommt bzw. als Bild gespeichert wird. Das Verfahren ist äußerst schnell, wenn es hardwareimplementiert ist.
- Der als User Displayed Region (UDR) bezeichnete Bereich beträgt in der bevorzugten Ausführungsform 1600×1200 Pixel. Der Korrekturbereich oder Distortion Correktion Region (DCR) umfasst einen Bereich von 1760×1320 Pixel. Dieser Bereich ist damit ca. 10% größer, als das endgültige Bild. Der DCR ist an einem Referenzpixel (RP) nahe der ermittelten Bildmitte. Das Referenzpixel ist nach Bestimmung der Bildmitte fest während des gesamten Verfahrens.
- Für jede Pixelposition (x, y) des DCR wird die korrespondierende „korrigierte” Position (xd, yd) mit Hilfe des zuvor bestimmte und im Speicher der Logikeinheit hinterlegten Modells wie folgt berechnet. wobei der Index m für die drei Farbkanalreferenzbilder Rot Grün, Blau verwendet wird und r der Radius ist, wobei
- Die Pixelkoordinaten sind dabei normalisierte Koordinaten, die im Bereich von –1 bis 1 definiert sind.
- Der Bildwert an der berechneten korrigierten Position wird mittels eines vorzugsweise linearen Interpolationsmodells berechnet als Ergebnis der initialen Pixelposition (x, y). Dabei werden jeweils die benachbarten Pixel berücksichtigt.
- Dieser Vorgang wird für alle drei Farbkanalreferenzbilder wiederholt, das Bild wieder durch Überlagern der Farbkanäle zusammengesetzt und auf die UDR beschnitten und angezeigt und/oder gespeichert.
- Für den Fall, dass die korrigierte Position (xd, yd) außerhalb der DCR liegt, wird das Pixel auf NIL oder „schwarz” gesetzt.
- Die Zentrumskoordinaten des beschnittenen Bildes sind abhängig vom statischen Referenzpixel, der Bildstandskorrektur und einen eventuell aktivierten Bildstabilisierungsalgorithmus, welcher ggf. beachtet werden muss.
- ZITATE ENTHALTEN IN DER BESCHREIBUNG
- Diese Liste der vom Anmelder aufgeführten Dokumente wurde automatisiert erzeugt und ist ausschließlich zur besseren Information des Lesers aufgenommen. Die Liste ist nicht Bestandteil der deutschen Patent- bzw. Gebrauchsmusteranmeldung. Das DPMA übernimmt keinerlei Haftung für etwaige Fehler oder Auslassungen.
- Zitierte Patentliteratur
-
- DE 10225193 A1 [0008]
- DE 10114757 B4 [0010]
- DE 102010025888 A1 [0011]
- US 2008/0239107 A1 [0012]
- US 2009/0268078 A1 [0012]
- Zitierte Nicht-Patentliteratur
-
- „The Worst Distortions of Astrometric Instruments and Orthonormal Models for Rectangular Fields of View”, Valeri V. Makarov, Daniel R. Veillette, Gregory S. Hennessy, & Benjamin F. Lane; United States Naval Observatory, 3450 Massachusetts Ave. NW, Washington DC [0044]
Claims (13)
- Verfahren zur Kalibrierung eines digitalen optischen Abbildungssystems, welches zumindest ein motorisiertes oder kodiertes Zoomsystem und einen Bildsensor umfasst, folgende Schritte umfassend: – Platzieren eines Referenzobjektes unter dem Abbildungssystem; – Auswählen und Speichern einer Zoomstellung des Zoomsystems in einer Referenztabelle; – Aufnahme eines Referenzbildes durch Abbilden des Referenzobjektes auf den Bildsensor; – Teilen des Referenzbildes in mindestens drei Farbkanalreferenzbilder RR RG RB; – Einpassen eines Idealbildes in das Referenzbild und Ermitteln eines Bildzentrums in Lage und Orientierung; – Ermitteln eines Lagefehlervektors für n Referenzpunkte des Referenzobjektes in jedem der Farbkanalreferenzbilder; – Speichern der ermittelten Lagefehlervektoren in einer Referenztabelle; – Wiederholen der vorgenannten Schritte für mindestens drei verschiedene Zoomstellungen.
- Verfahren nach Anspruch 1, dadurch gekennzeichnet, dass aus der Referenztabelle eine Basis-Zoomtabelle für i Basis-Zoomstufen erstellt wird durch: – Ermitteln von Verzeichnungskorrekturkoeffizienten am,n aus den Lagefehlervektoren der Referenzpunkte, die die Deformation des Referenzmusters beschreiben, für jedes Farbkanalreferenzbild, wobei m = [R, G, B] und n = 1...11; – Ermitteln von Bildstandskorrekturkoeffizienten Ix, Iy, die eine Abweichung des Bildstandes des Referenzmusters beschreiben.
- Verfahren nach Anspruch 2, dadurch gekennzeichnet, dass aus der Basis-Zoomtabelle eine Zoomtabelle erstellt wird, indem die Verzeichniskorrekturkoeffizienten am,n nach folgender Vorschrift ermittelt werden:
am,n(i(β)) = am,n(i0 = 1) + am,n(i0 = 2)·β + αm,n(i0 = 3)·β2 + am,n(i0 = 4)·β3 - Verfahren nach Anspruch 2, dadurch gekennzeichnet, dass aus der Basis-Zoomtabelle eine Zoomtabelle erstellt wird, indem die Bildstandskorrekturkoeffizienten I nach folgender Vorschrift ermittelt werden:
Im(i(β)) = Im(i0 = 1) + Im(i0 = 2)·β + Im(i0 = 3)·β2 + Im(i0 = 4)·β3. - Verfahren nach einem der Ansprüche 1 bis 4, dadurch gekennzeichnet, dass für jede Zoomstellung ein Realzoomwert β ermittelt und in der Referenztabelle und ggf. in der Zoomtabelle gespeichert wird.
- Verfahren zur Korrektur von Abbildungsfehlern in einem digitalen optischen Abbildungssystem, welches zumindest ein Zoomsystem und einen Bildsensor umfasst, wobei im Abbildungssystem eine Zoomtabelle abgespeichert ist, welche für vorbestimmte Zoomstufen Korrekturkoeffizienten umfasst, folgende Schritte umfassend: – Erfassen eines Objektbildes; – Zwischenspeichern des Objektbildes; – Erfassen einer Zoomstellung des Zoomsystems; – Ermitteln von Verzeichniskorrekturkoeffizienten für die Zoomstellung; – pixelweise Korrektur des Objektbildes unter Verwendung der Verzeichniskorrekturkoeffizienten und ggf. der Bildstandskorrekturkoeffizienten; – Ausgabe eines korrigierten Objektbildes.
- Verfahren nach Anspruch 6, weiterhin den Schritt Ermitteln von Bildstandskorrekturkoeffizienten für die Zoomstellung umfassend, wobei die pixelweise Korrektur des Objektbildes auch unter Verwendung der Bildstandskorrekturkoeffizienten erfolgt.
- Verfahren nach Anspruch 6 oder 7, dadurch gekennzeichnet, dass eine Korrekturregion des Objektbildes ausgewählt wird, welche kleiner als eine Sensorfläche des Bildsensors ist.
- Verfahren nach einem der Ansprüche 6 bis 9, dadurch gekennzeichnet, dass die pixelweise Korrektur eine Interpolation der Pixeldaten umfasst.
- Verfahren nach einem der Ansprüche 6 bis 10, dadurch gekennzeichnet, dass eine Ermittlung und Ausgabe und/oder Speicherung einer realen Vergrößerung nach Korrektur erfolgt.
- Digitales optisches Abbildungssystem mit einem Zoomsystem, einem Bildaufnahmesensor, sowie einer Logikeinheit zur digitalen Bildverarbeitung, wobei die Logikeinheit ausgebildet ist, ein Verfahren nach einem der Ansprüche 6 bis 11 auszuführen.
- Abbildungssystem nach Anspruch 12, dadurch gekennzeichnet, dass es ein Digitalmikroskop ist, welches ein Objektiv umfasst, wobei im Objektiv und im Zoomsystem reduzierte Zoomtabellen gespeichert sind, welche von der Logikeinheit in einem Kalibrierverfahren und/oder in einem Korrekturverfahren ausgelesen werden.
Priority Applications (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
DE201310012988 DE102013012988A1 (de) | 2013-08-03 | 2013-08-03 | Verfahren zur Kalibrierung eines digitalen optischen Abbildungssystems, Verfahren zur Korrektur von Abbildungsfehlern in einem digitalen optischen Abbildungssystem, sowie digitales optisches Abblildungssystem |
JP2014153079A JP6411115B2 (ja) | 2013-08-03 | 2014-07-28 | ズーム系を有するデジタル光学撮像システムを較正するための方法、ズーム系を有するデジタル光学撮像システムにおける収差を補正するための方法、及びデジタル光学撮像システム |
EP14178679.8A EP2837961B1 (de) | 2013-08-03 | 2014-07-28 | Verfahren zur Kalibrierung eines digitalen optischen Abbildungssystems, Verfahren zur Korrektur von Abbildungsfehlern in einem digitalen optischen Abbildungssystem, sowie digitales optisches Abbildungssystem |
CN201410367611.XA CN104349055B (zh) | 2013-08-03 | 2014-07-29 | 校正数字光学成像系统中像差的方法及数字光学成像系统 |
US14/449,822 US9652847B2 (en) | 2013-08-03 | 2014-08-01 | Method for calibrating a digital optical imaging system having a zoom system, method for correcting aberrations in a digital optical imaging system having a zoom system, and digital optical imaging system |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
DE201310012988 DE102013012988A1 (de) | 2013-08-03 | 2013-08-03 | Verfahren zur Kalibrierung eines digitalen optischen Abbildungssystems, Verfahren zur Korrektur von Abbildungsfehlern in einem digitalen optischen Abbildungssystem, sowie digitales optisches Abblildungssystem |
Publications (1)
Publication Number | Publication Date |
---|---|
DE102013012988A1 true DE102013012988A1 (de) | 2015-02-05 |
Family
ID=51260620
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
DE201310012988 Withdrawn DE102013012988A1 (de) | 2013-08-03 | 2013-08-03 | Verfahren zur Kalibrierung eines digitalen optischen Abbildungssystems, Verfahren zur Korrektur von Abbildungsfehlern in einem digitalen optischen Abbildungssystem, sowie digitales optisches Abblildungssystem |
Country Status (5)
Country | Link |
---|---|
US (1) | US9652847B2 (de) |
EP (1) | EP2837961B1 (de) |
JP (1) | JP6411115B2 (de) |
CN (1) | CN104349055B (de) |
DE (1) | DE102013012988A1 (de) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE102016208398A1 (de) * | 2016-05-17 | 2017-11-23 | Conti Temic Microelectronic Gmbh | Verfahren zur Kalibrierung einer Fahrzeugkamera |
Families Citing this family (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP3076657B1 (de) * | 2015-04-02 | 2017-05-24 | Axis AB | Verfahren zur bestimmung der brennweite für ein zoomobjektiv |
DE102015208080A1 (de) * | 2015-04-30 | 2016-11-03 | Carl Zeiss Microscopy Gmbh | Verfahren zur Reflexionskorrektur von Abbildungen und diesbezügliche Vorrichtungen |
PL227466B1 (pl) * | 2016-07-29 | 2017-12-29 | Politechnika Łódzka | Sposób rejestracji obrazu oraz urządzenie optyczne rejestrujące obraz |
EP3367153B1 (de) | 2017-02-27 | 2022-02-09 | Leica Instruments (Singapore) Pte. Ltd. | Geregelter zoombetätigungsknopf, mikroskop mit demselben und verfahren zur nachrüstung eines mikroskops mit einem solchen knopf |
CN108510547A (zh) * | 2018-03-13 | 2018-09-07 | 深圳大学 | 一种远心移轴相机标定方法和系统 |
DE102018110644B4 (de) * | 2018-05-03 | 2024-02-15 | Carl Zeiss Meditec Ag | Digitales Mikroskop und digitales Mikroskopieverfahren |
DE102020108514A1 (de) * | 2019-03-28 | 2020-10-01 | Carl Zeiss Microscopy Gmbh | Verfahren zum Bestimmen eines Bildaufnahmefehlers |
GB201909879D0 (en) | 2019-07-10 | 2019-08-21 | Ash Tech Limited | Lens calibration method for digital imaging apparatus |
CN117036335A (zh) * | 2023-08-29 | 2023-11-10 | 广州番禺职业技术学院 | 一种图像传感器缺陷检测方法、系统、装置及介质 |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20020041383A1 (en) * | 2000-08-16 | 2002-04-11 | Lewis Clarence A. | Distortion free image capture system and method |
US20020176160A1 (en) * | 2001-03-30 | 2002-11-28 | Nikon Corporation | Microscope system |
DE10225193A1 (de) | 2002-06-06 | 2004-01-08 | Leica Microsystems (Schweiz) Ag | Verfahren zur Kalibrierung eines Stereomikroskops sowie kalibrierbares Stereomikroskop |
DE10114757B4 (de) | 2000-03-29 | 2006-04-20 | Nikon Corp. | Digitalkamera für ein Mikroskop und Mikroskopsystem mit derartiger Kamera |
US20080239107A1 (en) | 2007-03-27 | 2008-10-02 | Fujifilm Corporation | Imaging apparatus |
DE102008059372A1 (de) * | 2007-12-17 | 2009-09-24 | Nvidia Corp., Santa Clara | Bildverzeichnungskorrektur |
US20090268078A1 (en) | 2008-04-28 | 2009-10-29 | Panasonic Corporation | Imaging Device and Camera Body |
DE102010025888A1 (de) | 2010-07-02 | 2012-01-05 | Siemens Aktiengesellschaft | Verfahren zur Erstellung eines verzerrungsfreien Digitalbilds sowie Digitalkamera |
Family Cites Families (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3035416B2 (ja) * | 1992-11-18 | 2000-04-24 | キヤノン株式会社 | 撮像装置及び画像再生装置及び映像システム |
FR2827459B1 (fr) * | 2001-07-12 | 2004-10-29 | Poseidon | Procede et systeme pour fournir a des logiciels de traitement d'image des informations formatees liees aux caracteristiques des appareils de capture d'image et/ou des moyens de restitution d'image |
ES2282429T3 (es) * | 2001-07-12 | 2007-10-16 | Do Labs | Procedimiento y sistema para producir informaciones formateadas relacionadas con las distorsiones geometricas. |
US7596286B2 (en) * | 2003-08-06 | 2009-09-29 | Sony Corporation | Image processing apparatus, image processing system, imaging apparatus and image processing method |
JP4104571B2 (ja) * | 2004-03-29 | 2008-06-18 | 三洋電機株式会社 | 歪曲補正装置及びこの歪曲補正装置を備えた撮像装置 |
US8558926B2 (en) * | 2005-12-05 | 2013-10-15 | Nikon Corporation | Distortion correction method, distortion correction program, image processing apparatus, interchangeable lens, camera, and camera system |
JP5128207B2 (ja) * | 2007-08-31 | 2013-01-23 | シリコン ヒフェ ベー.フェー. | 画像処理装置及び画像処理方法、画像処理プログラム |
WO2011121837A1 (ja) * | 2010-03-29 | 2011-10-06 | 富士フイルム株式会社 | 立体撮像装置、画像再生装置及び編集ソフトウエア |
JP5299383B2 (ja) * | 2010-08-20 | 2013-09-25 | 株式会社Jvcケンウッド | 画像補正装置および画像補正方法 |
WO2013005316A1 (ja) * | 2011-07-06 | 2013-01-10 | 株式会社モルフォ | 画像処理装置、画像処理方法及び画像処理プログラム |
-
2013
- 2013-08-03 DE DE201310012988 patent/DE102013012988A1/de not_active Withdrawn
-
2014
- 2014-07-28 EP EP14178679.8A patent/EP2837961B1/de active Active
- 2014-07-28 JP JP2014153079A patent/JP6411115B2/ja not_active Expired - Fee Related
- 2014-07-29 CN CN201410367611.XA patent/CN104349055B/zh active Active
- 2014-08-01 US US14/449,822 patent/US9652847B2/en active Active
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE10114757B4 (de) | 2000-03-29 | 2006-04-20 | Nikon Corp. | Digitalkamera für ein Mikroskop und Mikroskopsystem mit derartiger Kamera |
US20020041383A1 (en) * | 2000-08-16 | 2002-04-11 | Lewis Clarence A. | Distortion free image capture system and method |
US20020176160A1 (en) * | 2001-03-30 | 2002-11-28 | Nikon Corporation | Microscope system |
DE10225193A1 (de) | 2002-06-06 | 2004-01-08 | Leica Microsystems (Schweiz) Ag | Verfahren zur Kalibrierung eines Stereomikroskops sowie kalibrierbares Stereomikroskop |
US20080239107A1 (en) | 2007-03-27 | 2008-10-02 | Fujifilm Corporation | Imaging apparatus |
DE102008059372A1 (de) * | 2007-12-17 | 2009-09-24 | Nvidia Corp., Santa Clara | Bildverzeichnungskorrektur |
US20090268078A1 (en) | 2008-04-28 | 2009-10-29 | Panasonic Corporation | Imaging Device and Camera Body |
DE102010025888A1 (de) | 2010-07-02 | 2012-01-05 | Siemens Aktiengesellschaft | Verfahren zur Erstellung eines verzerrungsfreien Digitalbilds sowie Digitalkamera |
Non-Patent Citations (1)
Title |
---|
"The Worst Distortions of Astrometric Instruments and Orthonormal Models for Rectangular Fields of View", Valeri V. Makarov, Daniel R. Veillette, Gregory S. Hennessy, & Benjamin F. Lane; United States Naval Observatory, 3450 Massachusetts Ave. NW, Washington DC |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE102016208398A1 (de) * | 2016-05-17 | 2017-11-23 | Conti Temic Microelectronic Gmbh | Verfahren zur Kalibrierung einer Fahrzeugkamera |
DE102016208398B4 (de) * | 2016-05-17 | 2018-04-12 | Conti Temic Microelectronic Gmbh | Verfahren zur Kalibrierung einer Fahrzeugkamera |
Also Published As
Publication number | Publication date |
---|---|
JP6411115B2 (ja) | 2018-10-24 |
EP2837961B1 (de) | 2021-03-10 |
EP2837961A1 (de) | 2015-02-18 |
CN104349055B (zh) | 2018-02-09 |
US20150035965A1 (en) | 2015-02-05 |
US9652847B2 (en) | 2017-05-16 |
CN104349055A (zh) | 2015-02-11 |
JP2015033138A (ja) | 2015-02-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP2837961B1 (de) | Verfahren zur Kalibrierung eines digitalen optischen Abbildungssystems, Verfahren zur Korrektur von Abbildungsfehlern in einem digitalen optischen Abbildungssystem, sowie digitales optisches Abbildungssystem | |
EP2833185B1 (de) | Verfahren zur Kalibrierung eines digitalen optischen Gerätes und optisches Gerät | |
DE102017101164B4 (de) | Vorsatzobjektivsystem, Feldeingriffsvorrichtung, Pupilleneingriffsvorrichtung, Vorsatzobjektiv, Objektträger sowie Beleuchtungssystem | |
DE112016002229B4 (de) | Bildverarbeitungsvorrichtung, bildaufnahmevorrichtung, bildverarbeitungsverfahren und speichermedium | |
DE102011008994A1 (de) | Optisches System | |
US8976271B2 (en) | Optical system and image pickup apparatus | |
DE102012005152A1 (de) | Bildaufnahmevorrichtung und bildaufnahmeoptik | |
US20140198231A1 (en) | Image processing apparatus, image pickup apparatus and image processing method | |
DE102014118383A1 (de) | Objektiv für eine Foto- oder Filmkamera und Verfahren zum gezielten Dämpfen bestimmter Raumfrequenzbereiche der Modulations-Transfer-Funktion eines derartigen Objektivs | |
DE102014006717A1 (de) | Verfahren zur Erzeugung einer dreidimensionalen Information eines Objektes mit einem Digitalmikroskop und Datenverarbeitungsprogramm zur Abarbeitung des Verfahrens | |
DE102016117547A1 (de) | Objektiv fester Brennweite und konstanter Baulänge für Autofokusanwendungen | |
DE102016115478A1 (de) | Abbildungsobjektiv und abbildungsvorrichtung | |
DE112014006672T5 (de) | Bildverarbeitungsvorrichtung, Bildgebungsvorrichtung, Mikroskopsystem, Bildverarbeitungsverfahren und ein Bildverarbeitungsprogramm | |
DE102007005168A1 (de) | Anastigmatisches anamorphotisches Objektiv | |
DE102019135100A1 (de) | Beobachtungsbildgebungsvorrichtung | |
DE102015113655A1 (de) | Zoomobjektiv und abbildungsvorrichtung | |
DE102015112651B3 (de) | Verfahren und Messgerät zum Bestimmen von dimensionalen Eigenschaften eines Messobjekts | |
DE102015113651A1 (de) | Zoomobjektiv und abbildungsvorrichtung | |
DE102015103707A1 (de) | Projektionsobjektiv und Projektionstyp-Anzeigevorrichtung | |
DE102013211286A1 (de) | Verfahren zur Vermessung eines Werkstücks mit einem optischen Sensor | |
DE102014215095A1 (de) | Verfahren zur Korrektur von beleuchtungsbedingten Abbildungsfehlern in einem modularen Digitalmikroskop, Digitalmikroskop und Datenverarbeitungsprogramm | |
DE102011081408A1 (de) | Abbildungsvorrichtung und Verfahren für eine Abbildungsvorrichtung | |
EP3186673A1 (de) | Verfahren zum korrigieren einer farbwiedergabe eines digitalen mikroskops sowie digitales mikroskop | |
DE102020201794B4 (de) | Anamorphotisches objektivlinsensystem, kamerasystem und verfahren zum ausbilden von anamorphotischen linseneinheiten mit unterschiedlichen brennweiten | |
DE102017112484A1 (de) | Verfahren und Vorrichtung zur Bildkorrektur |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
R163 | Identified publications notified | ||
R012 | Request for examination validly filed | ||
R079 | Amendment of ipc main class |
Free format text: PREVIOUS MAIN CLASS: H04N0005232000 Ipc: H04N0023600000 |
|
R119 | Application deemed withdrawn, or ip right lapsed, due to non-payment of renewal fee |