-
Die
Erfindung befaßt
sich mit Verfahren zum automatischen Verbessern von Abbildungen,
unter Verwendung eines im Bild detektierten, begrenzten Objekts,
insbesondere mit Farbton oder Farbe.
-
EP 886 437 A2 (Seiko
Epson) betrifft eine Vorrichtung und ein Verfahren zum Verbessern
eines Farbbilds. Es wird ein Vergleich von einem Idealbild mit den
Durchschnittswerten eines Arbeitsbildes erstellt. Hierzu wird das
Verhältnis
von "fleischfarbenen
Pixeln" zur Gesamtzahl
der Pixel im Arbeitsbild betrachtet und daraus Korrekturkurven für die vorhandenen
Farbkanäle
berechnet, zur Verbesserung des Arbeitsbildes.
-
US 4,120,581 (Takahashi,
Fuji Photo) zeigt auch ein Verfahren zur automatischen Qualitätsverbesserung
eines Arbeitsbildes oder Fotos. Hier wird die Anzahl fleischfarbener
Punkte als Schwellwert für
eine Bildkorrektur hinsichtlich Helligkeit (dort "exposure") und Kontrast (dort: "color balance and
density") verwendet.
-
EP 1 087 614 A2 (NEC
Corp.) und
US 6,373,533
B1 (Kawabata, Matsushita) beschreiben auch Verfahren zur
Verbesserung von Arbeitsbildern; zur jeweiligen Verbessserung der
Farbe eines Gesichts bzw. der Haut werden Parameter aus einer Analyse
einer Histogrammverteilung gewonnen bzw. können von einem Bediener am
Bildschirm eingestellt werden.
-
WO
99/60353 A1 (Active Silicon) erläutert
ein Verfahren zum Erkennen von farbigen Objekten. Es werden ein
gemessenes Farbhistogramm und Referenzhistogramme von Vergleichsobjekten
miteinander verglichen, indem Ersteres von Letzten subtrahiert wird.
-
Zum
Stand der Technik gehört
auch
US 5,793,886 (Cok,
Eastman Kodak), die ein Verfahren zum Reduzieren des Flimmerns in
Bildfolgen mittels Histogrammvergleich beschreibt.
-
Skin
Colour Detection Under Changing Lighting Conditions, Störring et
al, Juli 1999, 7th Symposium on Intelligent Robotics, 20. bis 23.
Juli 1999, Coimbra, Portugal, beschreibt die Erfassung einer Hautfarbe
eines Gesichts, die in Verbindung mit unterschiedlichen Farbtemperaturen
gemessen und einzelnen Gebieten im Farbraum zugeordnet wird. Es
werden Anwendungsbeispiele beschrieben, bei denen die Farbtemperatur in
der Chrominanz-Ebene (Rot-Grün-Ebene)
im gesamten Bild angepaßt
werden kann, aufgrund der Farbe in dem bekannten Gebiet.
-
Ein
anderer Vorschlag im Stand der Technik arbeitet zur Verbesserung
eines Arbeitsbildes (image enhancement process) mit einer Kontrastverbesserung
und einer Amplitudenskalierung, vgl. dazu W. Pratt, Digital Image
Processing, 2. Auflage, Wiley-Interscience,
1991, Seiten 263 bis 276, Kapitel 10. Dort wird insbesondere in
den 10.1-3a auf Seite
266 ein Histogramm eines Originalbildes veranschaulicht, das gemäß 10.1-4 ein "contrast stretching" erfährt, dessen
Entwicklung von Teilbild (b) über
Teilbild (d) in das mit vielen Leerräumen an Grauwerten versehene "enhancement histogram" des Teilbildes 10.1-4
(f) gezeigt wird. Das jeweilige Ergebnisbild ist links jeweils gegenüber dem
jeweiligen Histogramm veranschaulicht, hier am Beispiel eines wenig
Kontrast aufweisenden Satellitenbildes. Eine zugehörige "Histogramm-Modifikation" ist auf Seite 275,
Abschnitt 10.2 erläutert.
Verschiedene Varianten der Beeinflussung des Histogramms werden dort
angesprochen, z.B. solche von Hall und Frei als mögliche Veränderungen,
die sehr allgemein mit "some desired
form" beschrieben
werden, zusammengefasst in Form einer neuen Skalierung oder einer
Umformung oder Abbildung des bisherigen Histogramms desjenigen Bildes,
das die schwache Kontrasteigenschaft aufweist, hin zu einem neuen
Bild, das verbesserte Eigenschaften (in qualitativer Bewertung von "gut" oder "besser" oder qualitativ
hochwertig) aufweist. Hall schlägt
eine Histogramm-Entzerrung (aus dem englischen übernommen im Sinne einer "histogram equalization") vor, bei der das
verbesserte Bild hinsichtlich des Histogramms "uniform" ist.
-
Frei
verwendet eine exponentielle oder eine hyperbolische Funktion, zur
Abbildung des Originalbildes in das verbesserte Bild.
-
Es
ist eine Problemstellung der Erfindung, ohne hohen technischen Aufwand
eine zuverlässige
und objektiv arbeitende Anpassung zu erreichen, die eine Verbesserung
eines nicht binären
Ausgangsbildes erreicht, also für
SW ein Grauwertbild oder für
Farbe ein beispielsweise RGB-Bild, im Sinne analog variierender Helligkeiten
und entsprechend beim Farbbild mit analog variierender Farbintensität.
-
Vorgeschlagen
wird dazu Anspruch 1 oder 10 oder 20. Allgemein betrachtet wird
vorgeschlagen, ein berechnetes Histogramm des Objektes im Bildausschnitt
möglichst
gut an ein Modell-Histogramm
anzupassen, das als Vergleich zur Verfügung steht.
-
Die
Verbesserung der optischen oder visuellen Qualität eines Arbeitsbildes ist subjektiv
einschätzbar, sie
ist aber im Sinne eines erfindungsgemäßen Erfolges auch objektiv
messbar. Die objektiven Messverfahren sind hier nicht Gegenstand
der Beanspruchung, sondern können
dem Stand der Technik entlehnt werden. Dort sind eine Vielzahl von
Verfahren bekannt, mit denen die Qualität objektiviert wird und eine
qualitative Bewertung eines mit Analogwerten arbeitenden (nicht
binären)
Bildes bereitgestellt wird.
-
Die
hier vorgeschlagene Verbesserung des Arbeitsbildes, als nicht binäres Bild,
ermöglicht
die Automatisierung der Verbesserung. Eine Anpassung eines zunächst berechneten
Histogramms des Ausgangsbildes wird automatisch von einem Programm,
einer aufgebauten Hardware oder einer dedizierten Hardware vorgenommen,
wobei Ausgangspunkt ein begrenzter Abschnitt in dem Arbeitsbild
ist, von welchem begrenzten Abschnitt auf das gesamte Arbeitsbild
oder zumindest einen wesentlichen Teil des Arbeitsbildes außerhalb
des begrenzten Abschnitts geschlossen wird. In dem begrenzten Abschnitt,
der kleiner ist als das zu verbessernde Arbeitsbild (Anspruch 2), wird
eine Häufigkeitsverteilung
gebildet, die dem oben beschriebenen Histogramm entspricht. Diese
Histogrammbildung ist eine Verteilung der Häufigkeiten von individuellen
Helligkeiten in dem begrenzten Abschnitt. Sie werden entweder auf
einer Skala aufgetragen, um sie vergleichen zu können, oder in einem Speicher
zwischengespeichert, um mit dieser Häufigkeits-Verteilung aus dem begrenzten Abschnitt rechnen
und weitere Bewertungen vornehmen zu können.
-
Im
Beispiel ist die Skala zwischen minimaler Helligkeit (dunkel) und
maximaler Helligkeit (maximale Bitauflösung) zwischen 0 und 255 als
Repräsentant
einer 8bit-Darstellung gewählt.
Jeder Pixel kann Helligkeitswerte aufweisen zwischen 0 und 255,
respektive zwischen keiner Helligkeit und einer maximalen Helligkeit.
-
Ausgehend
von dem Histogramm in dem begrenzten Abschnitt, verwendet die Erfindung
ein Modell oder eine Vergleichsfunktion, die einer Häufigkeitsverteilung
entspricht, wie sie einem visuell guten Bild zugeordnet werden würde, wobei
das Objekt, das den begrenzten Abschnitt im wesentlichen einnimmt,
mit demjenigen Objekt vergleichbar ist, das Ausgangspunkt für die Vergleichsfunktion
oder das Modell war (Anspruch 13). Verglichen werden also zwei Histogramme,
eines in einem begrenzten Abschnitt eines Ausgangsbildes und eines
als Modell, das von vorhergehenden Rechnungen, Berechnungen, Vergleichen
und/oder Qualitätsbestimmungen
im Sinne der objektiven Qualitätsbemessung
nach obiger Darstellung berechnet wurde. Der Vergleich führt zur
Bestimmung von zumindest einem Parameter, mit dem zumindest der
begrenzte Abschnitt in seiner Helligkeit und/oder Kontrast abgebildet
oder beeinflusst wird (Anspruch 1, Anspruch 23, Anspruch 5, Anspruch
6).
-
Es
wird dabei davon ausgegangen, dass nicht nur der begrenzte Abschnitt
mit diesem zumindest einen Parameter beeinflusst wird oder der genannte
Parameter auf diesen begrenzten Abschnitt angewendet wird, sondern
es wird mehr als nur der begrenzte Abschnitt mit diesem zumindest
einen Parameter beeinflusst, um auch außerhalb dieses begrenzten Bereiches
einen wesentlichen Abschnitt hinsichtlich seiner visuellen Qualität und damit
seines Histogramms zu verändern
(Anspruch 20). Wird der zumindest eine Parameter auf (im wesentlichen)
alle Bildpunkte des Arbeitsbildes angewendet, kann die visuelle
oder optische Qualität
dieses gesamten Bildes, oder zumindest eines wesentlichen Teils
dieses Bildes verbessert werden, zur Ausbildung eines verbesserten
Ergebnisbildes, das wiederum kein binäres Bild ist, sondern entsprechend
dem Ausgangsbild ein SW-Bild oder ein Farbbild, beispielsweise ein
RGB-Bild.
-
Das
Histogramm wird dabei nur als Träger
oder Mittler verwendet, um durch den Vergleich mit dem Modellhistogramm
(der Vergleichsfunktion) einen – zumindest
einen oder mehrere (Anspruch 23, Anspruch 24) – Parameter zu bestimmen, die
dann hinsichtlich der Helligkeits-Veränderung auf jeden Bildpunkt
(Pixel) angewendet werden.
-
Wenn
man von Farbbildern ausgeht, ist es möglich, jede Farbkomponente
des Farbbildes eigenständig
oder selbständig
zu optimieren, um dann im Ergebnis die mehreren Farbkomponenten
zusammenzunehmen und ein Gesamtfarbbild zu erzeugen, das in seiner
Qualität
verbessert ist (Anspruch 3, Anspruch 21, Anspruch 4).
-
Voraussetzung
für die
Möglichkeit
eines Vergleiches ist eine gewisse Mindestanzahl von Bildpunkten im
begrenzten Bereich (Anspruch 9), welche Menge von Bildpunkte in
diesem Bereich die Bildung eines Histogramms mit einiger Aussagekraft
erlauben sollte. Die Verbesserung des Ausgangsbildes kann aber nicht
nur auf Bildpunkte angewendet werden, sondern auch auf Analogsignale,
bei denen ein bestimmter Abschnitt des Analogsignals in einem beispielsweise
BAS-Signal die Helligkeit einer Bildstelle definiert, die man mit
einem Bildpunkt vergleichen kann. Ein Pixel soll also allgemein
verstanden werden, als ein kleines Element zum Aufbau eines Farbbildes
oder eines S/W-Bildes (Anspruch 8).
-
Die
Bildung dieses Histogramms für
das Ausgangsbild kann auch auf mindestens ein hinsichtlich der Art
oder des Typs des bestimmten Bereiches begrenztes Testbild angewendet
werden, beispielsweise ein Körperteil,
wie ein Gesicht, oder ein "totes
Objekt", wie ein
Verkehrsschild, um zu der Vergleichsfunktion zu gelangen (Anspruch
10). Ausgang dieser Berechnungen des Modell-Histogramms sind eine
Mehrzahl von qualitativ guten Ausgangsbildern als Testbilder (Anspruch
14, Anspruch 19), wobei die Qualitätsstufe oder die Qualität eines
Bildes objektiv messbar ist, mit den eingangs beschriebenen Verfahren.
-
Für jedes
von mehreren qualitativ guten Ausgangsbildern wird eine Häufigkeitsverteilung
der Helligkeiten der Bildpunkte gebildet. Eine Möglichkeit der Zusammenfassung
dieser mehreren Meßwerte
ist die Mittelwertbildung jeder Häufigkeitsverteilung, zur Berechnung
eines Modells im Sinne der zuvor beschriebenen Vergleichsfunktion,
welche das Modellhistogramm darstellt.
-
Nicht
verwendbar ist beispielsweise ein Modellhistogramm für einen
ersten Typ des Ausgangsbildes, beispielsweise ein Gesicht, angewendet
auf eine Bildverbesserung nach Anspruch 1, wenn der dort genannte begrenzte
Abschnitt einen anderen Typ enthält,
beispielsweise das Verkehrsschild. Hinsichtlich der Art oder des
Typs der Ausgangsbilder zur Bestimmung des Modellhistogramm und
der Art bzw. des Typs des Subjekts oder Objekts im begrenzten Bereich
nach Anspruch 1 wird eine Vergleichbarkeit bestehen (Anspruch 13).
-
Aus
gut ausgeleuchteten Gesichtern als Beispiele für "lebende Objekte" kann ein Modellhistogramm gut berechnet
werden (Anspruch 10). Eine Berechnung kann auch für jede Farbe
einzeln erfolgen (Anspruch 11, Anspruch 12).
-
Als
Beispiel für
ein Objekt kann das Verkehrsschild herangezogen werden. Allgemein
soll aber unter einem "Objekttyp" das Objekt verstanden
werden, das zumindest in dem begrenzten Abschnitt des Ausgangs- oder
Arbeitsbildes (Anspruch 1) vorliegt und dessen Histogramm Grundlage
für die
Bestimmung des zumindest einen Parameters ist, mit dem dann mehr
als nur der begrenzte Abschnitt des Ausgangsbildes bearbeitet wird,
zur Anpassung der Helligkeit von Pixeln auch außerhalb des begrenzten Abschnitts
(Anspruch 20). Bevor dieser Bildabschnitt außerhalb des begrenzten Abschnittes
bearbeitet werden kann, wird der begrenzte Abschnitt mit seinem
Histogramm möglichst
eng an eine Vergleichs-Häufigkeitsfunktion
angepaßt,
woraus sich derjenige Parameter (zumindest einer oder mehrerer solcher
Parameter) bemessen, die dann außerhalb dieses begrenzten Bereiches
angewendet werden. Eine möglichst
enge Anpassung des Histogramms meint, daß ein gemessenes Histogramm
des nicht optimalen Ausgangsbildes durch Vergleich mit dem Modell-Histogramm,
das für
ein gutes Bild repräsentativ
ist, verglichen wird und durch Berechnungen angepaßt wird,
um möglichst ähnlich zu
sein. Das kann eine Verschiebung und/oder eine Dehnung bzw. Stauchung
umfassen, oder auch eine Kombination davon. Eine Anpassung wird
zumeist eine Näherung
bleiben, so daß ein
umgestaltetes Histogramm des Ausgangs- oder Arbeitsbildes durch
berechnete Parameter nicht zwingend mit dem Modell-Histogramm übereinstimmen
muß, aber
an dieses möglichst
gut angepaßt
sein soll, wenn das Ergebnis optimiert sein soll.
-
Auch
mehrere begrenzte Abschnitte in einem Ausgangsbild, die denselben
Objekttyp betreffen, können
verarbeitet werden (Anspruch 7). Eine Mittelung der einzelnen Ergebnisse
der individuellen begrenzten Abschnitte kann entweder den ermittelten
Parameter betreffen, oder aber schon die eigenständigen Histogramme für die einzelnen
begrenzten Abschnitte.
-
Mit
anderen Worten wird einem Helligkeitswert "i" im
Bild ein neuer Helligkeitswert "j" (oder i*) zugeordnet,
bestimmt durch den zumindest einen Parameter, der aus dem Vergleich
des begrenzten Histogramms (des Histogramms im begrenzten Abschnitt)
und des Modellhistogramms folgt.
-
Die
Bereitstellung des Vergleichs-Histogramms (Anspruch 10) arbeitet
mit zumindest gut ausgeleuchteten Ausgangsbildern.
-
Verallgemeinernd
sind diese Ausgangsbilder auch im übrigen qualitativ hochwertig
oder hinsichtlich ihrer visuellen Qualität als gut zu bezeichnen (Anspruch
10, 14, 19). Es wird dabei aber nicht nur ein Ausgangsbild als Testbild
verwendet, sondern eine Mehrzahl davon. Sie stehen repräsentativ
für den
Objekttyp, zu dem das Modell-Histogramm erstellt wird (Anspruch
10, Merkmal (c)).
-
Für die Ausgangsbilder
zur Modellerstellung empfiehlt es sich, Fremdeinflüsse möglichst
zu vermeiden (Anspruch 15). Ein jeweils abgebildetes Objekt vom
genannten Objekttyp soll zumindest im wesentlichen diejenigen Grenzen
einnehmen, die für
die Häufigkeitsverteilung
ausgewertet werden (Anspruch 15). Dabei sind zweierlei Arten von
Grenzen zu berücksichtigen,
einmal die natürlichen
Ränder
eines Ausgangsbildes vom Objekttyp, also die natürlich vorgegebenen Grenzlinien
eines beispielsweise menschlichen Gesichtes, und diejenigen Ränder, die
die äußeren Grenzen
festlegen, um innerhalb dieser Grenzen das repräsentative Histogramm zu ermitteln
(Anspruch 16, 17 und 18). Dabei schadet es nicht, wenn ein Objekt
vom Objekttyp nicht vollständig
im Ausgangsbild enthalten ist, also die natürlichen Begrenzungslinien des
Objektes außerhalb derjenigen
Ränder
des Ausgangsbildes liegen, wobei die Ausgangsbild-Ränder die
Grenzen der Histogrammbildung definieren. Das kann so weit führen, das
nur ein stark reduzierter Ausschnitt innerhalb eines von natürlichen
Begrenzungslinien eines Objektes gegebenen Objektbildes ausgewertet
wird (Anspruch 17). Fremdeinflüsse
können
so bei der Modellbildung (der Erstellung des Modell-Histogramms) weitgehend
ausgeschlossen werden.
-
Die
Erstellung dieses Modell-Histogramms kann durch Zusammenfassen der
Histogramme oder durch Zusammenfassen der Ausschnitte der qualitativ
guten Testbilder geschehen (Anspruch 22).
-
Ausführungsbeispiele
sollen das Verständnis
der Erfindung erläutern
und ergänzen.
-
1 veranschaulicht ein erstes
Arbeitsbild 2 (links) und ein zugehöriges Histogramm (rechts davon). Die
Häufigkeitsverteilung
der individuellen Helligkeiten bezieht sich auf den Bildabschnitt 20,
der mit einem Viereck hervorgehoben ist. Er ist im hier dargestellten
Beispiel auf ein Gesicht einer Person ausgerichtet.
-
2 veranschaulicht ein erstes
Ausführungsbeispiel
der Bildverarbeitung, wobei der Abschnitt 20 der 1 mit einzelnen Pixel 20ij (i und j sind Zeilen bzw. Spalten)
belegt sind, die mit einer Verarbeitungseinrichtung nacheinander
verarbeitet werden.
-
3 veranschaulicht in gleicher
Darstellung wie die 1 ein
verändertes
Bild 2' (im
linken Abschnitt) und eine zugehörige
Histogramm-Darstellung 22 (rechts). Das Bild ist aus dem
Arbeitsbild nach 1 entstanden,
durch eine Veränderung
der Helligkeitswerte jedes Pixels, mit einer weiteren Verarbeitung
gemäß der Verarbeitungs-Einrichtung 45.
-
4 veranschaulicht in gleicher
Darstellung wie die 3 und 1 ein Ergebnisbild 2*,
das nach abschließender
Bearbeitung mit der Verarbeitungseinrichtung 46 aus dem
Bild 2* der 3 entstanden
ist. Rechts von dem Bild 2* ist ein zugehöriges Histogramm 23 gezeigt,
das die Häufigkeiten
individueller Helligkeiten in Abschnitt 20 veranschaulicht,
wie auch die 1 und 3, ohne dass ein zugehöriger Rahmen 20 eingezeichnet
ist.
-
5 5 veranschaulicht eine Berechnung eines
Modellhistogramms 30 aus mehreren schematischen Testbildern 50, 51, 52.
-
5a ist eine deutlichere
Darstellung des Verlaufes des Modellhistogramms 30 mit
einzelnen Abschnitten 30a, 30b, 30c des
Funktionsverlaufes 30 aus 5.
-
6a ist eine erste S/W-Darstellung 31 von
drei Histogrammen für
drei Farbauszüge
des links in 6a dargestellten
kleinen Testbildes 50 (farbig, hier in SW wiedergegeben).
-
6b ist ein entsprechendes
Dreifach-Histogramm 32 für ein anderes Testbild.
-
6c ist ein drittes Histogramm 33 mit
drei Funktionsverläufen
für jeweils
eine zugehörige
Farbe, bezogen auf ein drittes Testbild.
-
7 ist eine Zusammenfassung
der drei Histogramme nach den 6a, 6b und 6c, wobei jeweils eine Farbe zusammengefasst
wurde, so dass als Modellhistogramm 30 drei Funktionsverläufe 30r, 30g, 30b entstehen,
für drei
Farben.
-
8 ist ein Ausführungsbeispiel
eines Berechnungsverlaufes (in einer Programmschrift), die ein weiteres
Ausführungsbeispiel
der mit Hardware realisierten Berechnungsvorrichtung von 2 darstellt.
-
9 veranschaulicht entsprechend
der 1 ein farbiges Arbeitsbild 3 (links)
und ein zugehöriges Histogramm
H21 (rechts davon). Es ist eine Darstellung von drei Farb-Histogrammen 21r, 21g, 21b für drei Farbauszüge des links
dargestellten Arbeitsbilds 3. Die drei Häufigkeitsverteilungen
der individuellen Farb-Helligkeiten
beziehen sich auf den eingezeichnetem Bildabschnitt, der mit einem
Viereck hervorgehoben ist. Er ist im hier dargestellten Beispiel
auf ein Gesicht einer Person ausgerichtet.
-
10 ist entsprechend der 3 ein farbiges Zwischenbild 3' und das zugehörige Farb-Histogramm H22.
-
11 ist entsprechend der 4 ein farbiges Ergebnisbild 3* und
das zugehörige
Farb-Histogramm H23.
-
Die
Farbdarstellungen sind Gegenstand der öffentlich zugänglichen
Verfahrensakte. Die Publikation erfolgt nur in SW-Abbildern der
farbigen Darstellungen der 6, 7 und 9 bis 11.
-
Die
Bearbeitung eines Ausgangsbilds 2 von 1 erfolgt in den Schritten von 1 zur 3 und dann zur 4. Die Verdeutlichung eines Modellhistogramms
ergibt sich aus den 5, 5a. Die Herstellung eines
Modellhistogramms nach den 6a, 6b und 6c und 7 zeigt
die Anwendung bei einer Farbdarstellung mit mehreren Farbauszügen bzw.
einem Histogramm für
einen jeweiligen Farbauszug eines zugehörigen Farbbildes.
-
Die
Darstellungen können
vorliegend nur s/w dargestellt werden, sind aber auch in Farbe als
weitere Blätter
Gegenstand der Verfahrensakte, um die farblichen Zugehörigkeiten
und die Amplituden-Einflüsse
bei gleichzeitiger Veranschaulichung der farblichen Eigenschaften
der Testbilder deutlich zu machen.
-
Als
Berechnungen bzw. Berechnungs-Einrichtungen können die Ausführungen
von 2 und 8 dienen, wobei 2 eher hardware-orientiert
und 8 mehr programm-orientiert
ist. Die Berechnung kann sowohl das eine wie auch das andere als
auch deren Kombination umfassen.
-
Ausgehend
von 1 ist ein Arbeitsbild 2 mit
einem sehr viel kleineren Bereich oder Abschnitt 20 versehen,
dessen Rahmen r20 diesen Bereich kennzeichnet. Im hier dargestellten
Beispiel ist ein Gesicht als ein Objekttyp gewählt, der im Wesentlichen den
hier viereckig dargestellten Rahmen r20 einnimmt. Er muss diesen
Rahmen nicht vollständig
einnehmen oder ausfüllen
und es ist auch nicht zwingend erforderlich, dass die hier dargestellte
Art des Objekttyps nicht über
den Rand herausreichen darf. Eine Möglichkeit zur Erkennung eines
solchen Gesichtfeldes oder Gesichtsbereiches im Rahmen eines größeren Arbeitsbildes
bietet die veröffentlichte
DE-A 100 43 460 (Fraunhofer) vom 28. März 2002. Dort ist eine Möglichkeit
beschrieben, eine Körperpartie
durch Auswerten von Kantenrichtungs-Information in einem größeren Bild
aufzufinden, vgl. dort beispielsweise die 7 oder die zugehörige Modellbildung nach der
dortigen 8, verbunden
mit zugehörigen Beschreibungspassagen
in Spalte 1, Abschnitte [01], [02] und Spalte
13, Absatz [85]. Neben dieser konkret bezeichneten Verfahrensweise
zum Auffinden (Erkennen) und Lokalisieren eines Gesichtsbildes im
Rahmen eines größeren Arbeitsbildes 2 kann
auch auf andere Verfahren des Standes der Technik verwiesen werden, die
dazu eingesetzt werden können,
vgl. Spalte 1, Abs. [02], a.a.O.
-
Ausgehend
von diesen hier nicht näher
beschriebenen Verfahren liegt der Bereich (Abschnitt oder Bildausschnitt)
fest, in dem ein Objekttyp (die Art eines "Objektes" als Objekt oder Subjekt) im Bild lokalisiert ist.
Der daraus resultierende erste begrenzte Abschnitt 20,
umfasst von dem Rahmen r20, ist damit hinsichtlich seiner Lage im
Wesentlichen bestimmt. Auch hinsichtlich seiner Größe ist eine
Festlegung im Gesamtbild 2 erfolgt. Der begrenzte Abschnitt
als solches kann damit einem Objekttyp (hier ein menschliches Gesicht)
zugeordnet werden.
-
Eine
Bildung eines zugehörigen
Histogramms findet sich für
den Bildabschnitt 20 auch in 1.
Im Beispiel sind Helligkeitswerte zwischen 0 und 255 auf der horizontalen
Achse aufgetragen (Helligkeitsachse "h" oder "i") und eine zugehörige Häufigkeit H21 auf der Abszisse
in vertikaler Richtung. Mit Worten umschrieben findet sich ein sehr
stark im hellen Bereich liegendes Bild, nachdem die Häufigkeiten
der größeren Helligkeitswerte
wesentlich höher
sind als die Häufigkeiten
der mittleren und geringeren Helligkeitswerte. Eine Anstiegsflanke
und eine abfallende Flanke sind im Wesentlichen ähnlich, nur ist die Flanke
im linken Bereich der Helligkeiten etwas sanfter auslaufend gestaltet.
Die gesamte Funktion H21 = f(hi(i))
wird als Kurve, Graph oder Funktion 21 benannt und ergibt
sich aus einer im Folgenden näher
beschriebenen Rechnung, beispielsweise mit der Anordnung nach 2.
-
Stillschweigend
ist davon ausgegangen worden, dass das in 1 dargestellte Bild 2 ein nicht-binäres Bild
ist, was für
ein Grauwertbild selbstverständlich
ist. Ein Grauwertbild ist hier ein S/W-Bild ohne Farbeinflüsse, nur
mit Helligkeitswerten, dargestellt analog (mit Signal) oder digital
(mit Pixelwerten). Unter Helligkeitswerten sollen aber auch solche
Helligkeitswerte verstanden werden, die sich auf Farben beziehen,
was später
unter Bezugnahme auf die 6 erläutert wird.
-
Die 1 setzt sich dabei aus einzelnen
Bildpixeln zusammen, von denen jeder Bildpixel eine Helligkeit repräsentiert.
Diese Helligkeit kann Werte zwischen 0 und 255 aufweisen. Die Anzahl
der Bildpixel in 1 ist
für die
Rasterung verantwortlich und deshalb ist eine hohe Auflösung für eine gute
Qualität
sinnvoll. Im dargestellten Beispiel ist die Ordinate mit einem Wertbereich
zwischen 0 und 100 versehen, so dass beispielsweise ein Helligkeitswert
zwischen 190 und 200 etwa 100mal im dargestellten Bildausschnitt 20 vorhanden
ist, als Spitze vor dem rechten fallenden Ast im Histogramm 21 von 1.
-
Eine
Berechnung zur Erstellung des Histogramms ist in 2 veranschaulicht. Es wird dort eine
erste Häufigkeits-Verteilung 21 berechnet,
die individuelle Helligkeiten so wiedergibt, wie das als Funktion
oder Graph in 1 (rechts)
dargestellt ist. Dieser bezieht sich auf den begrenzten Abschnitt 20,
dessen Rand r20 ist. Die Berechnung erfolgt über eine Skala, die im Beispiel
der 1 zwischen 0 und
255 reicht. Diese beiden Werte bilden den Minimalwert (0) und den
Maximalwert (255) einer Helligkeit. Sie ist in 2 als ein Speichervektor 21 dargestellt,
der in vertikaler Richtung die Helligkeiten zwischen 0 und 255 repräsentiert
und der zugehörige
Skalarinhalt eines jeweiligen Elementes repräsentiert einen Punkt in der
Funktion 21, also eine individuelle Häufigkeit für einen Helligkeitswert.
-
Der
Helligkeitswert 255 (ganz hell) ist beispielsweise nirgends
im Ausschnitt 20 vertreten und der Helligkeitswert 0 (ganz
dunkel) ist ebenfalls nirgends vertreten, was die beiden Null-Elemente in Vektor 21 veranschaulichen,
so wie es auch der Graph 21 in 1 zeigt.
-
Die
Häufigkeitsverteilung
ist eine Ausgangsgröße und kann
gespeichert sein. Die Speicherung kann in einem Speicher 42 erfolgen,
der in programmtechnischer Hinsicht als eine Gruppe von Speicherzellen
anzusehen ist, der aber als ein Hardware-Register auch so ausgebildet sein kann,
dass für
jede Speicherzelle ein Zähler
vorgesehen ist und 256 Zähler
die 256 Helligkeitswerte repräsentieren.
Jedem dieser Zähler
ist individuell ein Helligkeitswert in der Skala zwischen 0 und
255 zugeordnet.
-
So
ist der Ausgang 42a zu verstehen, der vom Speicher 42 ausgeht
und die Werte in einem als Vektor dargestellten Histogramm 21 abgibt,
das aus dem begrenzten Abschnitt 20 folgt.
-
Die
Entstehung dieses Vektors veranschaulicht die Berechnung der 2 mit einem Schaltglied 40 am
Eingang. Diesem bspw. als Komparator oder Pixeladressierer ausgeführten Schaltungsglied 40 werden Helligkeitswerte
zugeführt,
die hier in einer vergrößerten Abbildung
des Ausschnittes 20 durch exemplarisch quadratisch eingezeichnete
Pixel 20ij im Bereich p vorgegeben
werden. Eine Zeile zwischen 0 und I und Spalte zwischen 0 und J
definiert sämtliche
Pixel p innerhalb des begrenzten Abschnittes 20, die nacheinander
dem Komparator 40 oder parallel mehreren Komparatoren zugeführt werden
können.
So könnte
beispielsweise zeilenweise gearbeitet werden, bei gleichzeitiger
Vorsehung von I Komparatoren 40. Eine mehrdimensionale
Abtastung des begrenzten Abschnittes 20 führt dabei
zu einer beschleunigten Abarbeitung, nachdem nur noch J Schritte
vorgenommen werden müssen.
Auch eine spaltenweise Abtastung mit J Komparatoren und demgemäß I Abtastungsschritten
ist möglich.
-
Aus
dem ein- oder mehrdimensionalen Komparator 40 soll eine
Komparatorkette erläutert
werden, deren gemeinsamer Eingang an jedes Pixel des begrenzten
Abschnitts 20 angelegt wird, um die Helligkeit jedes Pixels
abzutasten. Ein Vergleich mit sämtlichen
verfügbaren
Helligkeitswerten zwischen den Grenzen 0 und 255 (mit 256 Komparatoren),
also Minimalwert und Maximalwert, ergibt ein Ausgangssignal 40a für den jeweils abgetasteten "Helligkeitswert an
nur einem Komparator der Kette. Die Komparatorkette dient dabei
gleichzeitig zur Digitalisierung eines analog vorliegenden Helligkeitswertes,
falls das Bild 2 als Analogsignal vorliegt. Liegen die
Helligkeitswerte in dem Feld 20 bereits digital vor, also
als binäre
Zahlen mit 256 Zahlenwerten zwischen 0 und 255 für jeden Bildpunkt, kann direkt ein
jeweiliger Helligkeitswert an die Folgestufe 4l weitergegeben
werden, die entsprechend dem Ausgangssignal h00...hij einen der verfügbaren 256 Speicherplätze anspricht
und dessen Inhalt um "1" erhöht (256
Addierstellen). Diese Erhöhung
ist symbolisch in der Inkrementierstufe 41 angezeigt, die
rückgekoppelt
ist von dem Ausgang des Speichers 42, also dem eigentlichen
Vektor 21 am Ausgang 42a. Dieser wird während der
Abtastung an der jeweils einem individuellen Helligkeitswert entsprechenden
Stelle um "Eins" inkrementiert, wenn
ein neues Pixel im begrenzten Feld 20 abgetastet wird.
Der neue Wert des Vektors bildet dann das neue Ausgangssignal 42a.
-
Eingangssignal 42a und
Ausgangssignal 41a der Inkrementier-Stufe 41 sind
deshalb so breit, wie der minimale und der maximale Helligkeitswert
für die
Helligkeitsauflösung
es vorgeben. Nach dem Abtasten des letzten Pixels ist der Wert des
Vektors 21 am Ausgang 42a mit dem Signal gefüllt, das
graphisch aufgetragen dem Graphen 21 von 1 entspricht.
-
Es
steht damit eine erste Häufigkeitsverteilung
zur Verfügung,
die für
den begrenzten Abschnitt Geltung hat. Ersichtlich ist an der Häufigkeitsverteilung,
dass sie einen schlechten Kontrast aufweist. Einen besseren Kontrast
weist die Häufigkeits-Verteilung nach 5a auf, die eine wesentlich
breitere Verteilung der Helligkeitswerte im hellen Bereich (im Abschnitt 30b)
und eine Flanke 30a zum dunklen Helligkeitsbereich hin aufweist,
die sich weiter gegen Null erstreckt, als die vergleichbare Flanke
des Histogramms 21. Der zum Hellen zeigende Flankenabschnitt 30c ist
flacher ausgebildet und erstreckt sich bis zum maximalen Wert, anders als
der sehr abrupt abfallende vergleichbare Flankenabschnitt des Histogramms 21.
Die so symbolisch beschriebene Helligkeits-Verteilung H30 über der
Helligkeit h bildet ein Modell oder eine Vergleichsfunktion, auch Modellhistogramm 30 benannt,
das über
den gleichen Bereich zwischen Minimalwert und Maximalwert Helligkeiten
h (der Ordinate) aufweist. Nachdem 5a auch
eine Häufigkeits-Verteilung darstellt,
also ein Histogramm, dessen Herkunft aber nicht das Ausgangsbild 2 ist,
kann dieses Histogramm unmittelbar mit dem Histogramm 21 verglichen
werden. Das Histogramm 30 soll in seiner Entstehung später erläutert werden,
hier soll lediglich angemerkt werden, dass es für einen vergleichbaren Objekttyp
im begrenzten Abschnitt 20. steht, hier also aus einem
Gesicht gewonnen wurde. Dazu soll später auf 5 eingegangen werden.
-
Der
Vergleich erbringt im Rahmen einer Berechnung einen Parameter, mit
dem das Histogramm 21 verändert werden muß, um über ein
Zwischenhistogramm 22 nach 3 ein
Endhistogramm 23 hach 4 zu
ergeben. Aus diesem Vergleich ergibt sich zumindest ein Parameter,
der sich auf eine Helligkeits-Veränderung
und/oder eine Kontrast-Anpassung des Bildes nach 1 bezieht. Im beschriebenen Beispiel
nach den 3 und 4 sind Helligkeitsanpassungen
mit dem Parameter a1 und Kontrastanpassung mit dem Parameter c1
vorgesehen. Ein weiterer Parameter a2 sorgt für eine nochmalige Helligkeitsanpassung
zur Abbildung des Zwischenbildes nach 3 in
das Endbild nach 4.
Das Endbild nach 4 (links)
stellt ein objektiv gutes Bild dar, dessen Kontrast ausreichend
ist, das nicht zu hell ist und das in seinem zugehörigen Histogramm 23 eine
sehr große Ähnlichkeit
zu dem Histogramm 30 der 5a aufweist.
-
Die
jeweiligen Abbildungen durch die Schaltungseinrichtungen 45 und 46 sind
entweder eine Berechnung mit Hardware Strukturen oder eine programmtechnische
Berechnung. Wichtig ist aber festzustellen, dass vom Betrachter
nur das Bild der 1 und
das Bild der 4 wahrgenommen
wird. Ersteres als Ausgangsbild einer schlechten Qualität und letzteres
als Ergebnisbild oder Zielbild mit einer guten visuellen Qualität. Die zugehörigen Histogramme
begründen
die jeweilige Qualität,
nachdem das Histogramm 23 wesentlich besser an das Histogramm
der 5a angepasst ist,
als es das Ausgangshistogramm 21 war. Über die Vergleiche des Histogramms 21 mit
dem Modellhistogramm 30 ergibt sich die Berechnungsvorschrift,
die bei der Anwendung auf die Histogramme (dehnen, stauchen und/oder
verschieben) die Angleichung symbolisieren, aber eigentlich nur
auf die Pixel (Bildpunkte) des Bildes 2 angewendet zu werden brauchen,
um die Helligkeitswerte der Pixel zu verändern. Ziel ist also nicht,
mit dem zumindest einen Parameter die Histogramme anzupassen, sondern ausgehend
davon, dass bei der Anpassung bestimmte Parameter aufgefunden werden
konnten, die eine Anpassung des schlechten Ausgangshistogramms an
das Modellhistogramm sicherstellen, kann der insoweit gefundene
mindestens eine Parameter auf das Bild 2 im Pixelbereich
angewendet werden, zur Verbesserung seiner visuellen Qualität.
-
Qualitativ
bemerkt ist das Bild 2' der 3 noch zu hell, aber schon
besser, als das Ausgangsbild der 1.
Es ist entstanden aus einer Dehnung oder Multiplikation und einem
anschließenden
Linksverschieben des Histogramms zurück in den Helligkeitsbereich
zwischen minimalem und maximalem Helligkeitswert. Eine zwischengeschaltete
Dehnung erzeugt hypothetische Helligkeitswerte oberhalb von 255,
die aber physisch im Bild nicht dargestellt werden können, so
dass sie durch eine Linearverschiebung zurückverschoben werden, in denjenigen
Bereich hinein, der zwischen 0 und 8bit im bezogenen Beispiel dargestellt
werden kann. Eine weitergehende Anpassung durch. eine nochmalige
Linksverschiebung 46 mit dem Verschiebungsfaktor a2, ausgehend
von dem Zwischenhistogramm 22 zum Ziel-Histogramm 23 des
in 4 links dargestellten
Bildes bringt eine Reduktion der noch zu hohen Helligkeit des Bildes
der 3 für das Ergebnisbild 2*.
-
Als
Berechnungsvorschrift kann das folgende angenommen werden.
-
Gegeben
ist der Bildausschnitt 20 des Ausgangsbilds 2 mit
Grauwerten der Helligkeit i (oder h). Daraus lässt sich ein Histogramm H21
für das
Objekt berechnen, dessen Werte auf das Objekt-Histogramm bezogen
mit hi bezeichnet werden. Dabei bezeichnet
hi die Häufigkeit,
mit welcher der Helligkeitswert "i" im Bildausschnitt 20 vorkommt.
-
Der
Index "Object" bezieht sich dazu
auf das im zu verbessernden Ausgangsbild 2 vorhandene "Objekt" (im Rahmen 20r),
von dessen Art (oder: Objekttyp) ein Modell-Histogramm 30 durch
vorherige Modellbildung nach 5, 5a auch gegeben ist.
-
Auf
das Modellhistogramm, das schon vorliegt (weil vorher bestimmt),
bezieht sich der Index "Model". Auch daraus lässt sich
für das
Modell ein Histogramm berechnen, dessen Werte auf das Modell-Histogramm bezogen
mit hi bezeichnet werden. Dabei bezeichnet
hi die Häufigkeit,
mit welcher der Helligkeitswert i im Modell-Histogramm nach 5a vorkommt.
-
Die
Gesamtzahl der Pixel ergibt sich getrennt für Modell und Objekt (nulltes
Moment) jeweils zu
für Modell N
Modell und
Objekt N
Objekt.
- (a)
Es bestimmt sich die mittlere Helligkeit für das Objekt (erstes Moment)
Und der Kontrast lässt sich
in nächster
Stufe (zweites Moment) für
das Objekt berechnen als
- (b) Es bestimmt sich die mittlere Helligkeit für das Modell
(erstes Moment)
Und der Kontrast lässt sich
in nächster
Stufe (zweites Moment) für
das Modell berechnen als
- (c) Damit ergibt sich als Abbildung für die Kontrastanpassung für jeden
der Pixel Pij (räumlich gesehen) und in der
Anzahl betrachtet Pi (i von 0 bis k = i·j) und für die Helligkeitsanpassung
-
Parameter "a" und "c" sind
darin wie folgt vorgesehen
p
i,
p
i' und
P
i'' aus den oberen beiden
Gleichungen sollen kurz erläutert
werden. Sie stellen eine Abbildung dar, mit der – zu Veranschaulichungszwecken
getrennt und eigenständig – zwei Helligkeitsänderungen
vorgesehen sind. Die Helligkeit des p
i wird
mit einem Faktor verändert,
der dem Parameter "c" entspricht. Der
Pixel p
i wird dabei zum Pixelwert (Helligkeitswert)
p
i'.
In gleicher Weise wird eine additive oder subtraktive Verschiebung vorgenommen,
wobei der zuvor berechnete Helligkeitswert p
i' zu einem Helligkeitswert
p
i'' wird. Dazu wird
der Parameter "a" verwendet. Beide
Berechnungen können
vertauscht werden, sie können
auch gemeinsam ausgeführt
werden, wobei dann nur eine einstufige Berechnung durchgeführt wird.
-
Der
Helligkeitswert pi'' ersetzt
den Helligskeitswert pi für alle Bildstellen
(Pixel). Diese repräsentieren das
Ausgangsbild 2, bzw. das Ergebnisbild 2*.
-
Zur
Berechnung kann die Erzeugung von a1 nach
Schaltung 45 auch entfallen; a1 wird
lediglich dazu verwendet, um das im Kontrast angepasste Histogramm
so zu verschieben, dass es innerhalb des Bereichs von 0 bis 255
liegt und so das geänderte
Bild 2 in der 3 als
Zwischendarstellung 2' vernünftig darzustellen.
-
Anderenfalls
wäre es
zu hell. Bei einer reinen Berechnung (ohne Zwischendarstellung zur
Veranschaulichung) wäre
also a1 = 0 und a2 =
a, wobei "a" sich wie oben beschrieben
ergibt.
-
Ansonsten
ergibt sich a2 bei (zu Darstellungszwecken)
frei gewähltem
a1 real zu a2 =
a – a1.
-
Diese
Anpassung ist nur beispielhaft. Allgemein geht es darum, das berechnete
Histogramm 21 des Objektausschnitts 20 möglichst
gut an das Modell-Histogramm 30 anzupassen.
-
Dabei
entsteht eine Funktion oder Abbildung, die jedem Wert "i" (oder hi) im
Histogramm 21 des begrenzten Ausschnitts 20 im
zu verbessernden Bild 2 ein "j" (oder
hj) in dem neuen Histogramm 22 oder 23 oder sogleich
dem Histogramm 23 zuordnet. Mit dieser Zuordnung wird auch
das Ausgangsbild 2 aufbereitet, indem jeder Pixel oder
jeder Analogwert in einem ggf. abgetasteten und digitalisierten
zeitlichen Signalverlauf,
mit dem Helligkeitswert i
(Pixel
pi)
einem neuen Wert zugeordnet wird,
mit
dem Helligkeitswert j
(oder i* bzw. Pixel pi'').
-
Das
hier beschriebene Grauwert-Histogramm lässt sich auf mehrere, insbesondere
die drei Grundfarben RGB oder die drei Grundfarben MCY (Magenta,
Cyan, Yellow), durch Verwendung mehrerer, insbesondere dreier Farb-Histogramme
und entsprechender Vorgehensweise in den einzelnen Farb-Kanälen übertragen. Dazu
kann auf die 6 verwiesen
werden, mit dem Ergebnis der 7 als
Dreifach-Modellhistogramm 30r (für rot), 30g (für grün) und 30b (für blau).
-
Bislang
zurückgestellt
war die Entstehung des Modells bzw. des Modellhistogramms 30 nach 5a. Auf diese Entstehung
kann die vorher beschriebene Abbildung nach 2 sinngemäß angewendet werden, wenn das
Ausgangsbild kein zu verbesserndes Bild ist, sondern bereits ein
qualitativ (visuell) gutes Ausgangsbild 50 (Testbild) darstellt,
wie in 5 veranschaulicht.
Das Ausgangsbild 50 enthält eine Art eines Objektes, das
hinterher den Verlauf der Modellfunktion prägt. Für die Erstellung einer solchen
Funktion als Modell-Histogramm 30 zum
Vergleich mit beispielsweise Gesichtern, wird als Testbild ein gut
ausgeleuchtetes Gesicht 50a im Testbild 50 zur
Verfügung
gestellt, das dazuhin auf den Gesichtsbereich beschränkt sein
sollte, also ohne Fremdeinflüsse
vorgesehen ist. Bevorzugt sind mehrere solche Bilder 50, 51, 52 vorgesehen,
die jeweils unterschiedliche Gesichter darstellen, aber Objekte
vom gleichen Typ oder von der gleichen Art beinhalten, hier bei
der Bearbeitung von Bildern von Gesichtern alle auf Gesichter bezogen
sind. Diese Gesichter 50a, 51a, 52a können auch
Gesichtsausschnitte sein, die zumindest einen wesentlichen Abschnitt
eines jeweiligen Gesichtes beinhalten, so wie symbolisch in den
Ausgangsbildern 50, 51 und 52 durch jeweilige
Darstellung einer Nase und zweier Augen veranschaulicht.
-
Eine
qualitativ gute Darstellung erreicht man bei guter Ausleuchtung
dieser in der Art gleichen Objekttypen. Eine farbneutrale Darstellung
ist wünschenswert
und ausreichend Kontrast sollte vorhanden sein. Dazu ist anzumerken,
dass sich diese Ausgangsbilder auch auf Grauwertbilder beziehen,
also nichtbinäre
Bilder darstellen, die Helligkeitswerte an jedem Pixel zur Verfügung stellen.
Analoge oder digitale Darstellung von Bildern ist möglich, diese
unterscheiden sich dann nur in der Abtastung der Helligkeitswerte,
die hier durch einen Multiplexer 61 realisiert ist, der
jeweils denselben Pixel in jedem der Bilder 50, 51, 52 abtastet
und der Steuereinrichtung 60 zuführt. Die Steuereinrichtung 60 kann
so aufgebaut sein, dass zunächst
alle Helligkeitswerte individuell von jedem Bild gespeichert werden,
um dann zusammengeführt
zu werden. Die Zusammenführung kann
in Form einer Mittelung erfolgen. Eine andere Art der Zusammenfassung
der drei im Detail unterschiedlichen aber vom Typ her gleichen Bilder 50 bis 52 ist
die einfache Histogrammbildung aller vorhandener Pixel, was einer
unmittelbaren Nebeneinanderschaltung aller Bilder gleichkommt. Dann
führt die
Steuereinrichtung 60 nur eine Zuordnung durch, wie sie
für die
Schaltungseinrichtung nach 2 beschrieben
wurde. Jeder Helligkeitswert wird einem Speicherplatz im Speicher 70 zugeordnet,
der so viele Speicherplätze
beinhaltet, wie Helligkeitswerte zwischen minimalem und maximalem
Helligkeitswert verfügbar
sind.
-
Im
Beispiel sind 256 Speicherplätze
vorgesehen, entsprechend denjenigen 256 Speicherplätzen, die für das Histogramm 21 verwendet
wurden. Jeder Speicherplatz ist in der Lage, eine numerische Zahl
zu speichern, um so inkrementiert werden zu können, wenn der Helligkeitswert
vom Abtaster 61 erkannt oder zugeführt wird, der diesem Speicherplatz
entspricht. Bei einer Einzelabtastung werden anschließend so
viele Vektoren (auch Speicherbereiche) zusammengefasst wie Ausgangsbilder
(Testbilder) vorhanden waren, beispielsweise durch eine Mittelung.
Wenn die Ausgangsbilder bereits so zusammengeschaltet worden sind,
dass sie unabhängig
von ihrer lokalen Begrenzung als ein Gesamttestbild abgetastet wurden,
ist das Ergebnis im Speicher 70 bereits repräsentativ
für die
Häufigkeitsverteilung 30,
die ggf. in Vertikalrichtung noch skaliert werden kann, was aber
nicht zwingend erfolgen muß.
-
Die
Berechnung der Häufigkeitsverteilung 30,
wie auch die Berechnung des Histogramms 21 nach 1 kann auch nach
-
8 erfolgen. Hier ist in
Programmiersprache ein Ablaufplan dargestellt, dessen dahinterstehender Quellcode
oder Sourcetext sich leicht erschließt. Diese Programmfolge entspricht
einer technischen Auswertung und bestimmt einen Vektor "hist", der als Histogrammvektor
demjenigen Vektor 21 oder demjenigen Speicherbereich im
Speicher 70 entspricht, welcher in der 5a dargestellt ist. Dieser Vektor hat
bei einer Anwendung von 8bit Helligkeitstiefe eine Länge von
256 und alle Vektorelemente sind zunächst mit Null initialisiert.
Damit beginnt der Häufigkeitsvektor
bist ohne Vorbeeinflussung, also neutral.
-
Bezogen
auf den in 2 vergrößert dargestellten
Bildausschnitt 20 wird der in diesem Bildausschnitt enthaltene
Darstellungsbereich in beiden Richtungen i,j abgetastet. i läuft von
Null bis zur Bildbreite I (I Pixel). j läuft von Null bis zur Bildhöhe J (J
Pixel). Insgesamt ergibt sich dann I·J Pixel und dementsprechend
viele Ergebnisse, die abhängig
von dem Helligkeitswert an einer jeweiligen abgetasteten Pixelstelle
den Inhalt des Vektorelements um eins erhöhen, der repräsentativ
für diese
Helligkeit ist, die aktuell abgetastet wird.
-
Sind
alle Pixel bearbeitet, ist der Vektor hist vollendet und repräsentiert
einen Graphen oder eine Funktion, die für die Erstellung des Modellhistogramms
in 5a und bei Abtastung
eines visuell schlechten Ausgangsbildes im Histogramm 21 dargestellt
ist.
-
Die
Anwendung der zuvor beschriebenen Arbeitsweisen auf Farbbilder soll
im folgenden mit Bezug auf 6 erläutert werden,
die farbig Gegenstand der Verfahrensakte beim DPMA sind.
-
6a veranschaulicht die Modellbildung
durch Schaffung eines Modell-Histogramms 31 für mehrere Farben,
wie es in 7 durch entsprechende
Anlehnung an das Modellhistogramm 30 gezeigt ist, nur aufgezeigt
nach einem Rot-Modell-Histogramm 30r, einem Grün-Modell-Histogramm 30g und
einem Blau-Modell-Histogramm 20b. Alle Modell-Histogramme
verlaufen über
der Intensität
der Farbe zwischen einem minimalen und einem maximalen Intensitätswert (auch
hier ist zwischen Null und 255 skaliert). In Richtung der Y-Achse
ist die Häufigkeit
aufgetragen, hier beziffert zwischen Null und 60. Gleiches
gilt für
die Einzelbilder der 6a,6b und 6c. Diese unterscheiden sich nicht in
der Darstellungsweise der drei einzelnen Histogramme, sondern lediglich
in der konkreten Ausbildung des Objekttyps (der Art des Objektes),
der jeweils links im dick herausgezeichneten Rahmen als kleines
Farbbild dargestellt ist. Die drei als Beispiel herangezogenen Gesichtsauszüge sind
wesentliche Abschnitte von menschlichen Gesichtern, aber keine vollständigen Gesichter und
auch nicht so ausgebildet, dass mehr als die Randlinie des Gesichts
(oder des Kopfes) in dem Ausschnitt plaziert ist.
-
Eine
hypothetisch angenommene Grenzlinie des gesamten Gesichtes, wie
sie beispielsweise aus 1 entnommen
werden kann, würde über dem
Rand des Bildes 50 liegen, das insoweit unmittelbar mit
der 5 verglichen werden
kann, wo auch das Bild 50 Ausgangspunkt für die Berechnung
des Modellhistogramms war, nur dort schematisch dargestellt.
-
Ein
abgebildetes Objekt ist in den drei Farbbildern 50, 51 und 52 nicht
vollständig
im Ausgangsbild enthalten, aber mit seinen wesentlichen Bereichen.
Die (durch dicken Rahmen eingezeichneten) Ränder des Ausgangsbildes 50, 51 und 52 liegen
innerhalb von hier hypothetisch angenommenen Begrenzungslinien der
Gesichter. Dargestellt ist eine solche Zuschneidung der Testbilder
(als Ausgangsbilder), bei denen alle Ränder des Testbildes innerhalb
der Begrenzungslinien des Objektes (Gesichtes) liegen.
-
Alle
drei Ausgangsbilder 50, 51 und 52 sind
visuell als qualitativ gut zu bezeichnen, insbesondere sind sie
gut ausgeleuchtet, bevorzugt auch farbneutral und haben einen ausreichenden
Kontrast. Das bestätigen die
daneben dargestellten Histogramme, und zwar für alle Farbauszüge rot,
blau und grün
in einem RGB-Farbraum (Farbschema oder Farbsystem).
-
Für das erste
Bild 50 ergeben sich als Farb-Histogramm 31 die
drei Farb-Histogramme 31b für blau, 31g für grün und 31r für rot, wie
das zuvor für
ein S/W-Bild an 5 bereits
erläutert
war. In entsprechender Anwendung findet die Histogrammbildung 32 und 33 auch
für das
Gesicht der 6b und 6c statt. Aus den drei Histogrammen 31, 32 und 33 der 6a, 6b und 6c mit
jeweils drei eigenständigen
Farb-Histogrammen ergibt sich durch eine Mittelung das Modell-Histogramm 30 der 7, das entsprechend dem
S/W Modell-Histogramm 30 der 5a auf
Farbbilder angewendet werden kann.
-
Die
Ausgangsbilder 50 bis 52 sind als Testbilder zu
bezeichnen, wenn sie zur Modellbildung nach 7 dienen. Sind sie ein Ausgangsbild von
optisch nicht so guter Qualität,
entsprechen sie einem zu verbessernden Ausgangsbild nach 1, hier als Farbbild 3 bezeichnet.
Aus diesem Farbbild 3, das demjenigen der 1 in farbiger Darstellung entspricht,
ergeben sich als Farb-Histogramm drei Einzel-Histogramme 21r, 21b, 21g für den Rotauszug,
den Blauauszug und den Grünauszug,
vgl. dazu 9.
-
Das
Farb-Histogramm der drei Farbauszüge von dem Farbbild 3,
das dem S/W-Bild 2 entspricht, ist bei entsprechender Darstellung
nach 9 mit 21b, 21r und 21g bezeichnet.
-
Diese
Farb-Histogramme werden dann jeweils eigenständig mit dem jeweils entsprechenden Farb-Histogramm
des Farb-Modell-Histogramms 30 nach 7 verglichen und daraus
ergeben sich zumindest ein Parameter für die Helligkeit und/oder den
Kontrast für
jede Farbe, wie das zuvor anhand des Gleichungssystems und der vorhergehenden
Beschreibung für
das S/W-Bild beschrieben war. Eine Anwendung dieses jeweils mindestens
einen Farb-Parameters
auf jeden der Intensitätswerte
(Leuchtdichte) jedes Pixels des jeweiligen Farbauszugs des Farbbildes
führt zu
einer Verbesserung eines Farbbildes.
-
Die
drei Stufen der Verbesserung sind in den 10 und 11 gezeigt.
Sie entsprechen den 3 und 4 des S/W-Bildes, nur in
farbiger Darstellung und mit entsprechenden Farb-Histogrammen im
RGB-Raum. Das Ergebnisbild 3* hat ein wesentlich breiteres
Farb-Histogramm H23, als es noch das Ausgangsbild mit dem Farb-Histogramm
H21 besaß.
Dieses hat für
das Farbbild im RGB-Raum Geltung für alle drei einzelnen Farben dieses
Farbschemas und kann entsprechend übertragen werden auch auf andere
bekannte Farbschemata.
-
Pro
Farbe ergibt sich mindestens ein Parameter a und c (oder a1 und c1 für jeweils
R, G und B) zur Veränderung
der Intensität
(Leuchtdichte) des Farbauszuges an jedem Pixel.
-
Die
Berechnung mit den Funktionsgliedern 45 und 46 erfolgt
entsprechend für
jede Farbe vom Histogramm H21 (9)
zum Histogramm H22 (von 10),
wie auch vom letztgenannten Histogramm zu dem Histogramm H23 von 11 als Ergebnisbild 3*.
Die jeweiligen Histogramme zur 10 und 11 sind entsprechend mit 22r, 22g, 22b bzw. 23r, 23g, 23b bezeichnet
und in den 9 bis 11 auch jeweils farbig repräsentiert.
-
Sowohl
für Farbbilder,
wie auch für
S/W-Bilder kann die beschriebene Verarbeitung auch dann angewendet
werden, wenn in einem Ausgangsbild (das zu verbessern ist) entsprechend
den Bildern 2 oder 3 mehrere von der Art gleiche
Objekte abgebildet sind, also beispielsweise mehrere Gesichter oder
mehrere Verkehrsschilder. Für
jeden begrenzten Abschnitt in dem Gesamtbild wird ein eigenes Histogramm
erstellt. Aus jedem dieser Histogramme wird zumindest ein eigener
Parameter entstehen (durchaus zueinander unterschiedliche Beträge), wenn
die mehreren Histogramme in demselben Ausgangsbild mit demselben
Modell-Histogramm 30 verglichen werden. Eine effektive
Verbesserung des Ausgangsbildes mit den mehreren begrenzten Abschnitten
kann dennoch erzielt werden, wenn bei der Anwendung der Abbildung,
also bei der Anwendung der mehreren Parameter auf die Umrechnung
der Helligkeitswerte der Pixel im Gesamtbild, eine Mittelung eingesetzt
wird.
-
Mit
der Mittelung werden in einer Alternative die mehreren "gemessenen" (berechneten) Histogramme des
Ausgangsbildes zunächst
gemittelt, um dann mit dem Modell-Histogramm verglichen zu werden.
In einer anderen Alternative werden die aus dem Histogramm-Vergleich
erhaltenen "eigenen
Parameter" gemittelt,
jeweils die "a" Parameter und die "c" Parameter gesondert, wenn für jeden
begrenzten Abschnitt zwei Parameter bestimmt worden sind.
-
Es
soll angemerkt werden, dass hier mit dem Ausgangsbild 2 von 1 von einem kontrastarmen
Bild ausgegangen wurde. Schlechte Qualität kann aber auch von einem
Ausgangsbild dann vorliegen, wenn ein zu hoher Kontrast vorliegt.
Dann würde
die sich hier in 4 ergebende
Dehnung des Histogramms zu einer Stauchung mit entsprechenden Parametern
wandeln, die sich bei einem Vergleich des "schlechten" Histogramms 21 mit dem Modellhistogramm 30 ergeben.
Alle Möglichkeiten
der Veränderung
des Ausgangsbildes, Helligkeitserhöhung, Helligkeits-Verminderung, Kontrastverstärkung und
Kontrastreduzierung können
eigenständig
und in einer sich jeweils nicht widersprechenden Kombination als
Ergebnis des Vergleichs des Modellhistogramms mit dem ermittelten
Histogramm 21 vorgenommen werden.