DE102009001521B4 - Method for generating an HDR video image sequence - Google Patents

Method for generating an HDR video image sequence Download PDF

Info

Publication number
DE102009001521B4
DE102009001521B4 DE102009001521A DE102009001521A DE102009001521B4 DE 102009001521 B4 DE102009001521 B4 DE 102009001521B4 DE 102009001521 A DE102009001521 A DE 102009001521A DE 102009001521 A DE102009001521 A DE 102009001521A DE 102009001521 B4 DE102009001521 B4 DE 102009001521B4
Authority
DE
Germany
Prior art keywords
images
image sequence
image
exposure
movement
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
DE102009001521A
Other languages
German (de)
Other versions
DE102009001521A1 (en
Inventor
Kilian Jakob
Peter Rieder
Markus Schu
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Entropic Communications LLC
Original Assignee
Entropic Communications LLC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Entropic Communications LLC filed Critical Entropic Communications LLC
Priority to DE102009001521A priority Critical patent/DE102009001521B4/en
Priority to PCT/EP2010/053200 priority patent/WO2010103109A1/en
Publication of DE102009001521A1 publication Critical patent/DE102009001521A1/en
Application granted granted Critical
Publication of DE102009001521B4 publication Critical patent/DE102009001521B4/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/73Circuitry for compensating brightness variation in the scene by influencing the exposure time
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/57Control of the dynamic range
    • H04N25/58Control of the dynamic range involving two or more exposures

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)

Abstract

Verfahren zur Erzeugung einer Videobildfolge mit hohem Dynamikbereich, das umfasst: Erzeugen von mehreren Bildsequenzen, die jeweils mindestens ein Bild aufweisen; und Erzeugen jeweils wenigstens eines Bildes aus den einzelnen Bildern einer Bildsequenz; wobei vor Erzeugen der Bilder einer ersten Bildsequenz Bewegung in wenigstens einer zeitlich vorangehenden zweiten Bildsequenz ausgewertet und ein Bewegungswert ermittelt wird, und wobei die Belichtungen der einzelnen Bilder der ersten Bildsequenz abhängig von dem Bewegungswert derart eingestellt werden, dass abhängig von dem Bewegungswert eine Streuung der Belichtung für die einzelnen Bilder der ersten Bildsequenz variiert wird und/oder die Anzahl der für die Bilder der ersten Bildfolge verwendeten unterschiedlichen Belichtungen von dem Bewegungswert abhängig ist, und/oder die Anzahl der Bilder der ersten Bildsequenz abhängig von dem Bewegungswert eingestellt wird.A method of generating a high dynamic range video image sequence comprising: generating a plurality of image sequences each having at least one image; and generating in each case at least one image from the individual images of an image sequence; wherein before generating the images of a first image sequence, movement in at least one temporally preceding second image sequence is evaluated and a movement value is determined, and the exposures of the individual images of the first image sequence are set depending on the movement value such that a scatter of the exposure is dependent on the movement value is varied for the individual images of the first image sequence and / or the number of different exposures used for the images of the first image sequence is dependent on the movement value, and / or the number of images of the first image sequence is set depending on the movement value.

Description

Die vorliegende Erfindung betrifft ein Verfahren zur Erzeugung einer HDR-Videobildfolge.The present invention relates to a method for generating an HDR video image sequence.

HDR-Videobildfolgen sind Videobildfolgen, bei denen die einzelnen Bilder im Vergleich zu herkömmlichen Videobildern einen hohen Dynamikbereich (High Dynamic Range, HDR) besitzen. Solche HDR-Bilder können dadurch erzeugt werden, dass aus einer gegebenen Kameraposition mehrere Bilder mit unterschiedlichen Belichtungszeiten aufgenommen werden, deren Bildinformationen anschließend überlagert werden. In einem Bild mit langer Belichtungszeit werden beispielsweise dunkle Details der fotografierten Umgebung kontrastreich dargestellt, während beispielsweise in Bildern mit niedriger Belichtungszeit helle Details der abgebildeten Umgebung kontrastreich erscheinen. Durch Kombination der einzelnen mit unterschiedlichen Belichtungszeiten erzeugten Bilder entsteht ein Bild, in dem sowohl helle als auch dunkle Details der fotografierten Umgebung kontrastreich dargestellt sind.HDR video image sequences are video image sequences in which the individual images have a high dynamic range (HDR) compared to conventional video images. Such HDR images can be generated by taking a plurality of images with different exposure times from a given camera position, the image information of which is subsequently superimposed. In a picture with a long exposure time, for example, dark details of the photographed environment are displayed in high contrast, while in pictures with low exposure time, for example, bright details of the imaged surroundings appear rich in contrast. By combining the individual images created with different exposure times creates a picture in which both bright and dark details of the photographed environment are shown in high contrast.

Ein Verfahren zur Erzeugung einer HDR-Videobildfolge ist beispielsweise in der US 6 993 200 B2 beschrieben.A method for generating an HDR video image sequence is, for example, in US 6 993 200 B2 described.

Dokument WO 2007/017835 A2 befasst sich mit einer adaptiven Belichtungssteuerung. Dabei wird ein erstes Bild belichtet und anschließend analysiert, um Abbildungsfehler und Artefakte zu identifizieren. Das Analysieren kann das Identifizieren einer Bewegung umfassen. In Abhängigkeit von der Analyse der ersten Bildaufnahme werden Kameraparameter für die nächste Bildaufnahme eingestellt.document WO 2007/017835 A2 deals with an adaptive exposure control. A first image is exposed and then analyzed to identify aberrations and artifacts. The analyzing may include identifying a motion. Depending on the analysis of the first image acquisition, camera parameters are set for the next image acquisition.

Aufgabe der vorliegenden Erfindung ist es, ein verbessertes Verfahren zur Erzeugung einer HDR-Videosignalfolge und eine zur Durchführung dieses Verfahrens geeignete Vorrichtung zur Verfügung zu stellen.The object of the present invention is to provide an improved method for generating an HDR video signal sequence and a device suitable for carrying out this method.

Diese Aufgabe wird durch ein Verfahren nach Anspruch 1 gelöst.This object is achieved by a method according to claim 1.

Das erfindungsgemäße Verfahren zur Erzeugung einer Videobildfolge mit hohem Dynamikbereich umfasst: Erzeugen von mehreren Bildsequenzen, die jeweils mehrere Bilder mit unterschiedlichen Belichtungen aufweisen; und Erzeugen jeweils eines Bildes aus den einzelnen Bilder einer Bildsequenz. Bei diesem Verfahren wird vor Erzeugen der Bilder einer ersten Bildsequenz Bewegung in wenigstens einer zeitlich vorangehenden zweiten Bildsequenz ausgewertet und ein Bewegungswert wird ermittelt. Die Belichtungen der einzelnen Bilder der ersten Bildsequenz werden hierbei abhängig von dem Bewegungswert eingestellt.The method according to the invention for generating a video image sequence with a high dynamic range comprises: generating a plurality of image sequences each having a plurality of images with different exposures; and generating a respective one of the individual images of a sequence of images. In this method, before generating the images of a first image sequence, motion is evaluated in at least one temporally preceding second image sequence, and a motion value is determined. The exposures of the individual images of the first image sequence are adjusted depending on the movement value.

Die Belichtung eines Bildes wird sowohl durch die Belichtungszeit, für die bei Aufnahme des Bildes belichtet wird, als auch durch die Größe der Blendenoffnung beeinflusst. Eine unterschiedliche Belichtung der einzelnen Bilder kann also durch eine Variation der Belichtungszeit und/oder durch eine Variation der Blendenöffnung erreicht werden. Eine ”hohere Belichtung” eines Bildes im Vergleich zu einem anderen Bild liegt dann vor, wenn für die Aufnahme des einen Bildes eine höhere Belichtungszeit und/oder eine größere Blendenöffnung als fur die Aufnahme des anderen Bildes verwendet wurde.The exposure of an image is affected by both the exposure time that is exposed when the image is taken and the size of the aperture. A different exposure of the individual images can thus be achieved by a variation of the exposure time and / or by a variation of the aperture. A "higher exposure" of one image compared to another image is present if a higher exposure time and / or a larger aperture were used to capture one image than for the other image.

Grundsätzlich führt eine Vergrößerung der Blendenöffnung zu einer Verringerung der Tiefenschärfe, und eine Erhohung der Belichtungszeit führt zu einer Bewegungsunschärfe (Motion Blur). Indem die Belichtung über beide Parameter variierbar ist, besteht bei Anpassung bzw. Änderung der Belichtung eine Optimierungsmöglichkeit hinsichtlich einer möglichst geringen Bewegungsunschärfe oder einer moglichst großen Tiefenscharfe.Basically, enlarging the aperture results in a reduction in depth of field, and increasing the exposure time results in motion blur. By the exposure can be varied over both parameters, there is an optimization possibility with adjustment or change of the exposure with regard to a minimum of motion blur or a possible great depth of field.

Ausfuhrungsbeispiele der vorliegenden Erfindung werden nachfolgend anhand von Figuren erläutert. Die Figuren dienen zur Veranschaulichung des Grundprinzips der Erfindung. In den Figuren sind daher nur die zum Verständnis dieses Grundprinzips notwendigen Merkmale dargestellt. In den Figuren bezeichnen, sofern nicht anders angegeben, gleiche Bezugszeichen gleiche Merkmale mit gleicher Bedeutung.Exemplary embodiments of the present invention are explained below with reference to figures. The figures serve to illustrate the basic principle of the invention. In the figures, therefore, only the features necessary for understanding this basic principle are shown. In the figures, unless otherwise indicated, like reference numerals designate like features having the same meaning.

1 veranschaulicht drei mit unterschiedlichen Belichtungszeiten aufgenommene Videobildfolgen. 1 illustrates three video sequences recorded at different exposure times.

2 veranschaulicht schematisch die Erzeugung einer HDR-Videobildfolge aus den drei Videobildfolgen gemäß 1. 2 schematically illustrates the generation of an HDR video image sequence from the three video image sequences according to FIG 1 ,

3 veranschaulicht eine Videobildfolge, die zeitlich aufeinanderfolgende Bilder umfasst, die mit unterschiedlichen Belichtungszeiten erzeugt wurden. 3 illustrates a video image sequence that includes temporally successive images that were generated at different exposure times.

4 veranschaulicht die Erzeugung mehrerer Videosignalfolgen mit gleicher Bewegungsphase aus der Videosignalfolge gemäß 3. 4 illustrates the generation of multiple video signal sequences with the same phase of motion from the video signal sequence according to FIG 3 ,

5 veranschaulicht ein Verfahren zur Einstellung der Belichtungszeit für die Erzeugung eines Videobildes. 5 illustrates a method for adjusting the exposure time for the generation of a video image.

6 veranschaulicht ein Beispiel einer Vorrichtung zur Erzeugung mehrerer Videobildfolgen mit bewegungsabhängigen Belichtungszeiten. 6 illustrates an example of a device for generating multiple video sequences with motion-dependent exposure times.

7 veranschaulicht eine Abhängigkeit der Belichtungszeit von einem Bewegungswert gemäß einem ersten Beispiel. 7 illustrates a dependence of the exposure time on a movement value according to a first example.

8 veranschaulicht eine Abhängigkeit der Belichtungszeit von einem Bewegungswert gemaß einem zweiten Beispiel. 8th illustrates a dependence of the exposure time on a motion value according to a second example.

9 veranschaulicht ein Beispiel einer Vorrichtung zur Erzeugung einer Videobildfolge, die Bilder mit bewegungsabhängigen Belichtungszeiten aufweist. 9 Fig. 10 illustrates an example of a video image sequence generating apparatus having images with motion-dependent exposure times.

10 veranschaulicht eine Abhängigkeit der Belichtungszeit von einem Bewegungswert während der Dauer einer Bildsequenz. 10 illustrates a dependence of the exposure time on a motion value during the duration of an image sequence.

1 veranschaulicht schematisch mehrere – in dem Beispiel drei – Videobildfolgen S1, S2, S3 die jeweils eine Anzahl zeitlich aufeinanderfolgender Videobilder aufweisen. Diese einzelnen Videobildfolgen bilden die Grundlage für die Erzeugung einer HDR-Videobildfolge. Die Videobilder der unterschiedlichen Videobildfolgen werden dabei mit unterschiedlichen Belichtungen aufgenommen. Zu Zwecken der Erläuterung sei beispielsweise angenommen, dass Videobilder einer ersten Videobildfolge S1 mit einer ersten Belichtung, Videobilder einer zweiten Videobildfolge S2 mit einer zweiten Belichtung und Videobilder einer dritten Videobildfolge S3 mit einer dritten Belichtung aufgenommen werden, wobei die erste Belichtung größer als die zweite Belichtung und wobei die zweite Belichtung größer als die dritte Belichtung ist. 1 schematically illustrates several - in the example three - video image sequences S1, S2, S3 each having a number of temporally successive video images. These individual video image sequences form the basis for the generation of an HDR video image sequence. The video images of the different video sequences are recorded with different exposures. For purposes of explanation, assume, for example, that video images of a first video image sequence S1 are captured with a first exposure, video images of a second video image sequence S2 with a second exposure, and video images of a third video image sequence S3 with a third exposure, the first exposure being greater than the second exposure and wherein the second exposure is greater than the third exposure.

Die Belichtung kann durch einen oder mehrere der nachfolgend genannten Parameter variiert werden: Belichtungszeit, Blendenoffnung und Zusatzbeleuchtung. Die Belichtung vergroßert sich dabei, wenn bei gleicher Blendenoffnung und gleicher Zusatzbeleuchtung die Belichtungszeit vergroßert wird, wenn bei gleicher Belichtungszeit und gleicher Zusatzbeleuchtung die Blendenöffnung vergroßert wird, oder wenn bei gleicher Belichtungszeit und gleicher Blendenoffnung die Lichtstärke der Zusatzbeleuchtung verstärkt wird. Die Zusatzbeleuchtung kann beispielsweise durch eine Leuchte mit zwei oder mehr Helligkeitsstufen realisiert sein. Um von Bild zu Bild die Helligkeit variieren zu können, sollte die Leuchte geringe Verzogerungszeiten bzw. Nachleuchtzeiten besitzen. Dies kann beispielsweise durch eine Leuchte auf Basis von Leuchtdioden (LEDs) erreicht werden. Eine solche Leuchte umfasst beispielsweise eine oder mehrere LEDs, die je nach gewunschter Helligkeit der Zusatzbeleuchtung eingeschaltet oder abgeschaltet werden.Exposure can be varied by one or more of the following parameters: exposure time, aperture and auxiliary lighting. Exposure increases when, with the same aperture and the same additional illumination, the exposure time is increased, if the aperture is increased at the same exposure time and the same additional illumination, or if the light intensity of the additional illumination is increased at the same exposure time and the same Blendenoffnung. The additional lighting can be realized for example by a lamp with two or more brightness levels. In order to be able to vary the brightness from image to image, the luminaire should have low delays or persistence times. This can be achieved for example by a luminaire based on light emitting diodes (LEDs). Such a lamp includes, for example, one or more LEDs, which are turned on or off depending on the desired brightness of the additional lighting.

Mit B ist nachfolgend die Belichtung bezeichnet. Diese Belichtung B ist eine Funktion der erläuterten Belichtungszeit TB, der Blendenöffnung A und der Helligkeit Z einer Zusatzbeleuchtung, so dass allgemein gilt: B = f(TB, A, Z). B is the exposure referred to below. This exposure B is a function of the explained exposure time T B , the aperture A and the brightness Z of an additional illumination, so that in general: B = f (T B , A, Z).

Eine Variation einer Belichtung B0 hin zu einem anderen Belichtungswert B0' kann dabei durch Variation eines beliebigen der drei Parameter erreicht werden. Die in 1 schematisch dargestellten Videobildfolgen besitzen jeweils gleiche Bewegungsphasen. Dies ist in 1 dadurch veranschaulicht, dass jeweils ein Bild jeder der Videobildfolgen denselben Aufnahmezeitpunkt besitzt. Diese Aufnahmezeitpunkte sind in 1 mit t0, t0 – T, t0 – 2T bezeichnet. T bezeichnet in diesem Fall einen zeitlichen Abstand zwischen den Aufnahmezeitpunkten der einzelnen Bilder einer jeden der Videobildfolgen. Bilder der einzelnen Videobildfolgen S1, S2, S3, die denselben Aufnahmezeitpunkt besitzen, werden nachfolgenden als Bildsequenz mit gleichem Aufnahmezeitpunkt bezeichnet.A variation of an exposure B 0 toward another exposure value B 0 'can be achieved by varying any one of the three parameters. In the 1 schematically represented video image sequences each have the same movement phases. This is in 1 illustrated in that each one image of each of the video sequences has the same recording time. These recording times are in 1 with t 0 , t 0 - T, t 0 - 2T designated. T in this case denotes a time interval between the recording times of the individual images of each of the video image sequences. Images of the individual video image sequences S1, S2, S3, which have the same recording time, are referred to below as an image sequence with the same recording time.

Die Bilder einer Bildsequenz mit gleichem Aufnahmezeitpunkt, die unterschiedliche Belichtungszeiten besitzen, können in hinlänglich bekannter Weise zu einem HDR-Bild überlagert werden. Führt man ein solches Überlagerungsverfahren für alle Bildsequenzen mit gleichem Aufnahmezeitpunkt durch, so erhält man eine HDR-Videobildfolge. Ein solches Vorgehen ist schematisch in 2 dargestellt.The images of an image sequence with the same recording time, which have different exposure times, can be superimposed in a well-known manner to an HDR image. If one carries out such an overlay method for all image sequences with the same recording time, one obtains an HDR video image sequence. Such a procedure is schematically in 2 shown.

Mit 1 ist in 2 eine Überlagerungseinheit dargestellt, der die einzelnen Videobildfolgen S1, S2, S3 zugeführt sind und die dazu ausgebildet ist, die Bildinformationen der Bildsequenzen mit gleichem Aufnahmezeitpunkt zu überlagern und so eine HDR-Videobildfolge S zu erzeugen. Verfahren zur Überlagerung von einzelnen Bildern einer Bildsequenz mit gleichem Aufnahmezeitpunkt zu einem HDR-Bild sowie Vorrichtungen zur Durchfuhrung eines solchen Verfahrens sind grundsätzlich bekannt, so dass auf weitere Ausfuhrungen hierzu verzichtet werden kann.With 1 is in 2 an overlay unit is shown, to which the individual video image sequences S1, S2, S3 are fed and which is designed to superimpose the image information of the image sequences with the same recording time and thus to produce an HDR video image sequence S. A method for superposition of individual images of an image sequence with the same recording time to an HDR image and devices for carrying out such a method are known in principle, so that it can be dispensed with further executions thereto.

Bildsequenzen mit gleichem Aufnahmezeitpunkt können dadurch erzeugt werden, dass mehrere Aufnahmevorrichtungen, wie z. B. Kameras, bereitgestellt werden, die aus derselben Kameraposition Bilder mit unterschiedlichen Belichtungszeiten zu gleichen Aufnahmezeitpunkten erzeugen. Ein solches Vorgehen ist allerdings insofern aufwendig, da mehrere Kameras benotigt werden.Image sequences with the same recording time can be generated by several recording devices, such. As cameras are provided, which generate images from the same camera position with different exposure times at the same recording times. However, such a procedure is complicated insofar as several cameras are needed.

Bildsequenzen mit gleichem Aufnahmezeitpunkt konnen auch dadurch erzeugt werden, dass die einzelnen Bilder einer Sequenz aus einer Kameraposition zeitlich aufeinanderfolgend aufgenommen werden und dass anschließend eine bewegungskompensierte Interpolation durchgefuhrt wird, durch welche aus den zeitlich aufeinanderfolgenden Bildern mit unterschiedlicher Belichtungszeit Bilder mit gleicher Bewegungsphase erzeugt werden.Image sequences with the same recording time can also be generated by the fact that the individual images of a sequence from a camera position are recorded in temporal succession and then carried out a motion-compensated interpolation, through which from the temporally successive images with different exposure time images are generated with the same motion phase.

4 zeigt schematisch eine Vorrichtung zur Erzeugung von Videobildfolgen S1, S2, S3 mit gleichen Bewegungsphasen aus der in 3 dargestellten Videobildfolge S', die zeitlich aufeinanderfolgend Bilder mit unterschiedlichen Belichtungszeiten umfasst. Eine solche Videobildfolge S' mit zeitlich aufeinanderfolgenden Bildern, die unterschiedliche Belichtungszeiten besitzen, kann unter Verwendung einer einzigen Aufnahmevorrichtung erzeugt werden, wobei von Bild zu Bild die Belichtungszeit geandert wird. Die Bildfrequenz dieser Videobildfolge S' ist hoher als die Bildfrequenz der in 1 dargestellten Videobildfolgen S1, S2, S3. Diese Bildfrequenz der Videobildfolge S' entspricht dem Produkt aus der gewünschten Bildfrequenz der späteren HDR-Videobildfolge und der Anzahl der Bilder, deren Bildinformationen zu einem HDR-Bild überlagert werden sollen. Die einzelnen Bilder der in 3 dargestellten Bildfolge S' können zeitlich gleichmäßig beabstandet sein. In diesem Fall gilt bezogen auf die Darstellung gemaß 3 k1 = k2 = k3 = 1/3. In diesem Zusammenhang sei darauf hingewiesen, dass die Überlagerung von drei Bildern zu einem HDR-Bild lediglich als Beispiel zu verstehen ist. Selbstverständlich können auch nur zwei oder auch mehr als drei Bilder, die mit unterschiedlichen Belichtungszeiten erzeugt wurden, zu einem HDR-Bild uberlagert werden. 4 schematically shows a device for generating video image sequences S1, S2, S3 with the same movement phases from the in 3 represented video image sequence S ', which comprises temporally successive images with different exposure times. Such a video image sequence S 'with temporally successive images having different exposure times can be generated using a single imaging device, wherein the exposure time is changed from image to image. The frame rate of this video image sequence S 'is higher than the frame rate of in 1 represented video image sequences S1, S2, S3. This frame rate of the video image sequence S 'corresponds to the product of the desired frame rate of the later HDR video image sequence and the number of images whose image information is to be superposed onto an HDR image. The individual pictures of in 3 shown image sequence S 'can be evenly spaced in time. In this case, based on the representation according to 3 k 1 = k 2 = k 3 = 1/3. In this context, it should be noted that the superimposition of three images to an HDR image is to be understood as an example only. Of course, only two or even more than three images that were generated with different exposure times, can be superimposed to an HDR image.

4 zeigt schematisch eine Vorrichtung zur Erzeugung von Videobildfolgen S1, S2, S3 mit gleichen Bewegungsphasen aus der in 3 dargestellten Videobildfolge S'. Diese Vorrichtung umfasst für jede der zu erzeugenden Videobildfolgen S1, S2, S3 eine Bewegungsschätz- und Interpolationseinheit 21, 22, 23. Jeder dieser Bewegungsschätz- und Interpolationseinheiten ist eine Teilbildfolge der Bildfolge S' zugeführt. Diese Teilbildfolgen sind dadurch gebildet, dass ein Multiplexer 20 im Zeitmultiplex die Bilder der Eingangsbildfolge S' derart abwechselnd den einzelnen Bewegungsschätz- und Interpolationseinheiten 21, 22, 23 zugeführt sind, dass der ersten Bewegungsschätz- und Interpolationseinheit 21 beispielsweise nur die Bilder, die mit der ersten Belichtungszeit erzeugt wurden zugeführt sind; dass der zweiten Bewegungsschätz- und Interpolationseinheit 22 nur die Bilder, die mit der zweiten Belichtungszeit erzeugt wurden zugeführt sind; und dass der dritten Bewegungsschatz- und Interpolationseinheit 23 nur die Bilder, die mit der dritten Belichtungszeit erzeugt wurden, zugeführt sind. Die einzelnen Bewegungsschätz- und Interpolationseinheiten 21, 22, 23 sind dazu ausgebildet, eine Bewegungsschätzung durchzufuhren und unter Verwendung dieser Bewegungsschätzung Bildfolgen zu erzeugen, die eine gleiche Bewegungsphase besitzen. Solche Bewegungsschätz- und Interpolationsverfahren sowie Vorrichtungen zur Durchführung solcher Bewegungsschätz- und Interpolationsverfahren sind grundsätzlich bekannt, so dass auf weitere Ausführungen hierzu verzichtet werden kann. 4 schematically shows a device for generating video image sequences S1, S2, S3 with the same movement phases from the in 3 illustrated video image sequence S '. This device comprises a motion estimation and interpolation unit for each of the video image sequences S1, S2, S3 to be generated 21 . 22 . 23 , Each of these motion estimation and interpolation units is supplied with a sub-picture sequence of the picture sequence S '. These sub-picture sequences are formed by a multiplexer 20 in time-division multiplex, the images of the input image sequence S 'thus alternately the individual motion estimation and interpolation 21 . 22 . 23 supplied to the first motion estimation and interpolation unit 21 For example, only the images that were generated with the first exposure time are supplied; that of the second motion estimation and interpolation unit 22 only the images that were generated with the second exposure time are supplied; and that of the third movement estimation and interpolation unit 23 only the images that were generated with the third exposure time are supplied. The individual motion estimation and interpolation units 21 . 22 . 23 are adapted to perform a motion estimation and to generate, using this motion estimation, image sequences having an equal motion phase. Such motion estimation and interpolation methods and devices for carrying out such motion estimation and interpolation methods are known in principle, so that further explanations on this can be dispensed with.

Bei dem erfindungsgemäßen Verfahren ist vorgesehen, die Belichtungen der Bilder der Bildsequenz, die zu einem HDR-Bild überlagert werden, abhängig von einem Bewegungswert einzustellen. Der Bewegungswert zu einem gegebenen Zeitpunkt, zu dem ein Bild erzeugt bzw. aufgenommen wird, ist dabei abhängig von Bewegung, die in Bildern der Bildfolge vorhanden ist, die vor diesem Zeitpunkt aufgenommen wurden. Ein solches Verfahren wird nachfolgend anhand von 5 unter Einbeziehung der 1 und 3 erläutert werden.In the method according to the invention, it is provided to set the exposures of the images of the image sequence, which are superimposed to form an HDR image, as a function of a movement value. The motion value at a given point in time at which an image is generated or recorded is dependent on movement that is present in images of the image sequence that were taken before this point in time. Such a method is described below with reference to 5 including the 1 and 3 be explained.

Für die folgende Erläuterung sei angenommen, dass t0 in den 1 und 3 einen Zeitpunkt bezeichnet, zu dem wenigstens ein Bild einer Bildsequenz aufgenommen werden soll, deren Bilder später zu einem HDR-Bild überlagert werden sollen. Bei dem in 1 dargestellten Fall, bei dem gleichzeitig mehrere Bildfolgen mit gleicher Bewegungsphase erzeugt werden, werden zu diesem Zeitpunkt t0 mehrere Bilder erzeugt. Bei dem in 3 dargestellten Fall, bei dem die Bildsequenzen mit zu überlagernden Bildern zeitlich aufeinanderfolgend erzeugt werden, wird zum Zeitpunkt t0 nur ein Bild erzeugt.For the following explanation, assume that t 0 in the 1 and 3 denotes a time at which at least one image of an image sequence is to be recorded, whose images are to be superimposed later to an HDR image. At the in 1 In the case shown in which several image sequences are generated simultaneously with the same phase of motion, several images are generated at this time t 0 . At the in 3 In the case illustrated, in which the image sequences with images to be superimposed are generated in chronological succession, only one image is generated at time t 0 .

In einem ersten Verfahrensschritt 101 ist bei dem Verfahren vorgesehen, einen Bewegungswert zu erzeugen, der abhängig ist von einem Bewegungswert der Videobildfolge vor dem Zeitpunkt t0. Die Ermittlung des Bewegungswertes umfasst den Vergleich wenigstens zweier zuvor aufgenommener zeitlich aufeinanderfolgender Bilder. Sind entsprechend dem Beispiel gemäß 1 mehrere Bildfolgen S1, S2, S3 mit gleichen Bewegungsphasen vorhanden, so kann zur Ermittlung des Bewegungswertes eine dieser Bildfolgen ausgewählt und der Bewegungswert kann durch Vergleich zweier zeitlich aufeinanderfolgender Bilder der ausgewählten Bildfolge ermittelt werden. Die zeitlich aufeinanderfolgenden Bilder konnen dabei unmittelbar zeitlich aufeinanderfolgen. Zwischen den zwei zu vergleichenden Bildern können jedoch noch weitere Bilder vorhanden sein.In a first process step 101 is provided in the method to generate a movement value which is dependent on a movement value of the video image sequence before the time t 0 . The determination of the movement value comprises the comparison of at least two previously recorded temporally successive images. Are according to the example according to 1 If there are several image sequences S1, S2, S3 with the same motion phases, one of these image sequences can be selected to determine the motion value, and the motion value can be determined by comparing two temporally successive images of the selected image sequence. The temporally successive images can follow each other directly in time. However, there may be more pictures between the two pictures to compare.

Es konnen auch zeitlich aufeinanderfolgende Bilder aus unterschiedlichen der in 1 dargestellten Bildfolgen S1, S2, S3 miteinander verglichen werden. Allerdings können sich in diesem Fall unterschiedliche Belichtungen auf das Vergleichsergebnis auswirken.It can also be temporal successive images from different in 1 shown image sequences S1, S2, S3 are compared. However, in this case, different exposures may affect the comparison result.

Um Bewegung in einer Bildfolge gemaß 3 zu ermitteln, besteht die Möglichkeit, entsprechend der Erläuterungen zu 4 aus dieser Bildfolge S' mehrere Bildfolgen mit gleichen Bewegungsphasen zu erzeugen, eine dieser Bildfolgen auszuwahlen und Bewegung durch Vergleich zweier zeitlich aufeinanderfolgender Bilder der ausgewahlten Bildfolge zu ermitteln.To movement in a sequence gemaß 3 to determine, there is the possibility, according to the explanations to 4 to generate from this image sequence S 'several image sequences with the same motion phases, to select one of these image sequences and to move by comparing two temporally successive images of the selected image sequence to determine.

Darüberhinaus besteht auch die Moglichkeit, unmittelbar Bilder der Bildfolge S' miteinander zu vergleichen, und zwar insbesondere solche zeitlich aufeinanderfolgenden Bilder der Bildfolge S', die dieselbe Bewegungsphase bezogen auf die Bilder der späteren HDR-Videobildfolge besitzen. Bilder mit gleicher Bewegungsphase sind bezogen auf das Beispiel gemaß 3 beispielsweise solche Bilder, fur deren Aufnahmezeitpunkte gilt: t0 – k1·T – i·T, mit i ≥ 0 oder Bilder für deren Aufnahmezeitpunkt gilt: t0 – k2·T – i·T, mit i ≥ 0 oder Bilder für deren Aufnahmezeitpunkt gilt: t0 – k3·T – i·T, mit i ≥ 0.Moreover, there is also the possibility of directly comparing images of the image sequence S 'with one another, in particular such temporally successive images of the image sequence S', which have the same phase of motion with respect to the images of the subsequent HDR video image sequence. Pictures with the same phase of motion are based on the example 3 For example, such images for whose recording times applies: t 0 -k 1 * T-i * T, where i ≥ 0 or images for their recording time is: t 0 -k 2 * T-i * T, where i ≥ 0 or images for their recording time applies: t 0 - k 3 · T - i · T, with i ≥ 0.

Die einzelnen Bilder aller zuvor erläuterten Videobildfolgen weisen jeweils eine Anzahl von matrixartig angeordneten Bildpunkten (Pixel) auf, denen jeweils wenigstens ein Bildinformationswert zugeordnet ist. Bei einer RGB-Darstellung sind jedem Bildpunkt drei Bildpunktewerte zugeordnet: ein erster Bildpunktwert fur die Farbe Rot (R); ein zweiter Bildpunktwert für die Farbe Grün (G); und ein dritter Bildpunktwert fur die Farbe Blau (B). Bei einer YUV-Darstellung sind jedem Bildpunktwert ebenfalls drei Bildpunktwerte zugeordnet: ein Luminanzwert (Y); und zwei Chrominanzwerte (U, V).The individual images of all previously explained video image sequences each have a number of pixels arranged in the form of a matrix (pixels), to each of which at least one image information value is assigned. In an RGB representation, each pixel is assigned three pixel values: a first pixel value for the color red (R); a second pixel value for the color green (G); and a third pixel value for the color blue (B). In a YUV representation, each pixel value is also associated with three pixel values: a luminance value (Y); and two chrominance values (U, V).

Ein Vergleich zweier zeitlich aufeinanderfolgender Bilder zur Ermittlung des Bewegungswertes umfasst beispielsweise die Ermittlung eines Abstandsmaßes. Dieses Abstandsmaß ist ein Maß fur die Differenz der den einzelnen Bildpunkten der zu vergleichenden Bilder zugeordneten Bildpunktwerte. Die Ermittlung des Abstandsmaßes umfasst beispielsweise die Ermittlung der Differenz zwischen den Bildpunktwerten solcher Bildpunkte, die sich in den beiden Bildern an den gleichen Positionen befinden, die Betragsbildung dieser Differenz und das Aufsummieren dieser Differenzen. Das so erhaltene Ergebnis wird auch als Summe der Absolutwerte der Differenzen (SAD, Sum of Absolute Differences) bezeichnet. Das Abstandsmaß ist in diesem Fall umso hoher, je starker sich die Bildinhalte der beiden zu vergleichenden Bilder unterscheiden, je mehr bewegte Inhalte in den beiden zu vergleichenden Bildern also vorhanden sind. Anstelle der Betrage der Differenzen konnen selbstverständlich beliebige andere Abstandsmaße verwendet werden, wie z. B. geradzahlige Potenzen der Bildpunktdifferenzen.A comparison of two temporally successive images for determining the movement value includes, for example, the determination of a distance measure. This distance measure is a measure of the difference in the pixel values associated with the individual pixels of the images to be compared. The determination of the distance measure comprises, for example, the determination of the difference between the pixel values of those pixels which are located in the same positions in the two images, the magnitude of this difference and the summation of these differences. The result obtained is also called the sum of the absolute values of the differences (SAD, Sum of Absolute Differences). In this case, the distance measure is the higher the more the image contents of the two images to be compared differ, the more moving contents are thus present in the two images to be compared. Of course, instead of the amounts of the differences, any other distance measures can be used, such. B. even powers of the pixel differences.

Der Vergleich zweier zeitlich aufeinanderfolgender Bilder kann die Auswertung nur jeweils eines der einem Bildpunkt zugeordneten Bildpunktwerte umfassen, wie z. B. nur des Rot-Wert, des Grün-Werts oder des Blau-Werts bzw. des Y-Werts, des U-Werts oder des V-Werts. Selbstverständlich besteht auch die Moglichkeit, alle einem Bildpunkt zugeordnete Bildpunktwerte auszuwerten und die so erhaltenen Abstandsmaße zu addieren, um ein Gesamt-Abstandsmaß zu erhalten.The comparison of two temporally successive images, the evaluation may include only one of each pixel associated with a pixel values, such. For example, only the red value, the green value or the blue value or the y value, the u value or the v value. Of course, it is also possible to evaluate all pixel values associated with a pixel and to add the distance measurements thus obtained in order to obtain an overall distance measure.

Bei dem erfindungsgemaßen Verfahren ist insbesondere vorgesehen, einen Unterschied zwischen den Belichtungen der einzelnen Bilder einer Bildsequenz derart abhängig von dem Bewegungswert einzustellen, dass diese Unterschiede umso geringer ist, je mehr bewegte Inhalte die zuvor erzeugten Bilder enthalten. Dem liegt die Überlegung zugrunde, dass bei bewegten Inhalten eine hohe Tiefenschärfe bzw. eine hohe Dynamik der dargestellten Bilder vom Betrachter ohnehin kaum wahrgenommen werden. Bei Erzeugung der zu überlagernden Bilder aus einer Bildfolge, die nur durch eine einzige Aufnahmevorrichtung erzeugt wurde, wie z. B. die Bildfolge S' gemäß 3, und bei der die Erzeugung der zu überlagernden Bilder eine Bewegungsschätzung umfasst, (vgl. die Ausführungen zu 4) besteht außerdem die Gefahr, dass bei einer fehlerhaften Bewegungsschätzung die Uberlagerung von Bildern mit unterschiedlichen Belichtungszeiten den Bildeindruck stark verfälscht.In the method according to the invention, it is provided, in particular, to set a difference between the exposures of the individual pictures of a picture sequence depending on the movement value such that the more moving contents the previously generated pictures contain, the lower this difference. This is based on the consideration that with moving content a high depth of field or high dynamics of the displayed images are hardly perceived by the viewer anyway. When generating the superimposed images from a sequence of images that has been generated only by a single recording device, such. B. the image sequence S 'according to 3 , and in which the generation of the images to be overlaid comprises a motion estimation (cf. 4 ) there is also the danger that the superimposition of images with different exposure times strongly falsifies the image impression in the case of an incorrect motion estimation.

Allgemein besteht die Moglichkeit, die Streuung der Belichtungen, die auf die Bilder einer Bildsequenz angewendet werden, abhängig von der detektierten Bewegung zu variieren. Die Streuung ist bestimmt durch den Unterschied zwischen der höchsten und der geringsten Belichtung, also beispielsweise einer längsten und einer kürzesten Belichtungszeit oder einer größten und kleinsten Blendenöffnung. Sind beispielsweise B1, B2, ..., Bn, B1 < B2 < ... < Bn, die Belichtungen, mit denen die Bilder einer Bildsequenz aufgenommen werden und ist D = B1–Bn der Variationsbereich der Belichtung, so gilt, dass D mit zunehmender Bewegung kleiner wird.Generally, it is possible to vary the dispersion of the exposures applied to the images of an image sequence depending on the detected motion. The scattering is determined by the difference between the highest and the lowest exposure, for example a longest and a shortest exposure time or a largest and smallest aperture. For example, if B 1 , B 2 ,..., B n , B 1 <B 2 <... B n , the exposures with which the images of an image sequence are taken and D = B 1 -B n is the range of variation Exposure, so that D becomes smaller with increasing movement.

Bei einem weiteren Beispiel ist vorgesehen, die Anzahl der verwendeten unterschiedlichen Belichtungen mit zunehmender Bewegung zu reduzieren. Im Extremfalls, wenn ein hohes Maß an Bewegung in den zuvor aufgenommenen Bildern vorhanden ist, kann hierbei für alle Bilder der Bildsequenz dieselbe Belichtung verwendet werden.In another example, it is intended to reduce the number of different exposures used with increasing movement. In extreme cases, if a high degree of motion is present in the previously recorded images, the same exposure can be used for all images of the image sequence.

Alternativ oder zusätzlich zu einer Variation der Belichtung abhängig von der detektierten Bewegung ist bei einem weiteren Beispiel vorgesehen, die Anzahl der Bilder einer Bildsequenz abhangig von der detektierten Bewegung zu variieren. So ist beispielsweise vorgesehen, die Anzahl der Bilder einer Bildsequenz zu vergrößern, wenn ein hohes Maß an Bewegung vorliegt. Die Belichtungen dieser einzelnen Bilder können sich unterscheiden, wobei die Variation der Belichtung durch Variation eines der zuvor genannten Parameter erreicht werden kann. Werden die einzelne Bilder einer Sequenz zeitlich aufeinanderfolgend aufgenommen und wird die Belichtung durch Variation der Belichtungszeiten für die einzelnen Bilder variiert, so reduziert sich mit zunehmender Anzahl von Bildern pro Bildsequenz die maximal zulässige Belichtungszeit pro Bild, wenn fur die Aufnahme der Bilder einer Sequenz eine vorgegebene Zeit zur Verfügung steht. Um auch bei zunehmender Anzahl von Bildern dennoch eine hohe Streuung der Belichtung einstellen zu können, ist bei einem Beispiel vorgesehen, die Belichtung über die Blendenöffnung einzustellen.As an alternative or in addition to a variation of the exposure as a function of the detected movement, it is provided in another example to vary the number of images of an image sequence depending on the detected movement. For example, it is intended to increase the number of images of an image sequence when there is a high degree of movement. The exposures of these individual images may differ, and the variation of the exposure may be achieved by varying one of the aforementioned parameters. If the individual images of a sequence are recorded in chronological succession and the exposure by varying the exposure times for the individual images, the maximum allowable exposure time per image is reduced with increasing number of images per image sequence, if a given time is available for taking the images of a sequence. In order to be able to set a high scattering of the exposure even with an increasing number of images, it is provided in one example to set the exposure over the aperture.

Bei einem weiteren Beispiel ist in diesem Fall vorgesehen, wahrend einer Zeiteinheit nur ein einziges Bild zu erzeugen und nicht mehrere zu überlagernde Bilder mit gleicher Belichtungszeit.In a further example, it is provided in this case to generate only a single image during a time unit and not several images to be overlaid with the same exposure time.

Ein Beispiel einer Vorrichtung zur Erzeugung mehrerer Videobildfolgen mit gleicher Bewegungsphase und bewegungsabhängiger Belichtungszeit ist in 6 dargestellt. Diese Vorrichtung umfasst drei Aufnahmevorrichtungen bzw. Kameras 31, 32, 33, die sich an einer gemeinsamen Kameraposition befinden. Jede dieser Aufnahmevorrichtungen besitzt eine einstellbare Belichtungszeit, die abhängig ist von einem der Aufnahmevorrichtung 31, 32, 33 zugeführten Belichtungssignal E1, E2, E3. Diese Belichtungszeit kann Bild für Bild eingestellt werden. Jede der Aufnahmevorrichtungen 31, 32, 33 weist einen Ausgang auf, an dem die durch die jeweilige Aufnahmevorrichtung erzeugte Bildfolge zur Verfugung steht. Diese Bildfolgen können eine Überlagerungseinheit 1 (gestrichelt dargestellt) zugeführt werden, die aus diesen Bildfolgen S1, S2, S3 eine HDR-Bildfolge erzeugt.An example of a device for generating a plurality of video image sequences with the same motion phase and motion-dependent exposure time is shown in FIG 6 shown. This device comprises three recording devices or cameras 31 . 32 . 33 who are at a common camera position. Each of these recording devices has an adjustable exposure time, which is dependent on one of the recording device 31 . 32 . 33 supplied exposure signal E1, E2, E3. This exposure time can be adjusted frame by frame. Each of the recording devices 31 . 32 . 33 has an output at which the image sequence generated by the respective recording device is available. These image sequences can be an overlay unit 1 (shown in dashed lines), which generates an HDR image sequence from these image sequences S1, S2, S3.

Wenigstens eine der durch die Aufnahmevorrichtungen 31, 32, 33 erzeugten Bildfolgen S1, S2, S3 ist eine Bewegungsermittlungseinheit zugeführt, die dazu ausgebildet ist, Bewegung in den bereits aufgenommenen Bildern der Bildfolge zu ermitteln, beispielsweise durch Vergleich zweier zeitlich aufeinanderfolgender wenigstens einer der Bildfolgen. Am Ausgang dieser Bewegungsermittlungseinheit 41 steht der Bewegungswert S41 zur Verfugung. Dieser Bewegungswert S41 ist einer Belichtungseinstelleinheit 43 zugeführt, die abhangig von diesem Bewegungswert Belichtungssignale E1, E2, E3 bereitstellt, die Belichtungszeiten der einzelnen Aufnahmevorrichtungen 31, 32, 33 erzeugt.At least one of the recording devices 31 . 32 . 33 generated image sequences S1, S2, S3 is supplied to a motion detection unit which is adapted to determine motion in the already recorded images of the image sequence, for example by comparing two temporally successive at least one of the image sequences. At the exit of this motion detection unit 41 the movement value S41 is available. This movement value S41 is an exposure setting unit 43 supplied, depending on this movement value exposure signals E1, E2, E3 provides the exposure times of the individual recording devices 31 . 32 . 33 generated.

Die Belichtungseinstelleinheit 43 ist beispielsweise dazu ausgebildet, fest vorgegebene unterschiedliche Belichtungswerte einzustellen, wenn der Bewegungswert S41 unterhalb eines vorgegebenen Schwellenwertes S410 liegt, und gleiche Belichtungswerte einzustellen, wenn der Bewegungswert S41 oberhalb eines vorgegebenen Schwellenwertes liegt. Ein solches Vorgehen ist schematisch in 7 dargestellt, in der die Belichtungswerte E1, E2, E3 abhängig von dem Bewegungswert S41 dargestellt sind. Zu Zwecken der Erläuterung sei dabei angenommen, dass der Bewegungswert S41 umso großer ist, je mehr Bewegungsanteile die zur Ermittlung des Bewegungswertes S41 miteinander verglichenen Bilder aufweisen.The exposure adjustment unit 43 For example, it is designed to set predefined different exposure values when the movement value S41 is below a predetermined threshold value S41 0 and to set the same exposure values when the movement value S41 is above a predetermined threshold value. Such a procedure is schematically in 7 in which the exposure values E1, E2, E3 are shown as a function of the movement value S41. For purposes of explanation, it is assumed here that the greater the motion components S41, the more motion components have the images compared with one another to determine the motion value S41.

Bei einem weiteren Beispiel ist vorgesehen, die Belichtungswerte E1, E2, E3 so einzustellen, dass diese sich mit zunehmendem Bewegungswert S41 aneinander annähern. Ein solches Vorgehen ist in 8 dargestellt. S440 bezeichnet hierbei einen Schwellenwert, ab dem gleiche Belichtungswerte für alle Anzeigevorrichtungen 31, 32, 33 vorgesehen sind.In another example, it is provided to set the exposure values E1, E2, E3 so that they approach each other with increasing movement value S41. Such a procedure is in 8th shown. S44 0 denotes a threshold value, from the same exposure values for all display devices 31 . 32 . 33 are provided.

9 zeigt ein Beispiel einer Vorrichtung zur Erzeugung einer Bildfolge mit zeitlich aufeinanderfolgenden Bildern mit unterschiedlicher Belichtungszeit. Diese Vorrichtung umfasst eine Aufnahmevorrichtung 34, die eine durch ein Belichtungssignal E einstellbare Belichtungszeit besitzt. An einem Ausgang dieser Vorrichtung steht das Bildsignal S' zur Verfügung. Dieses Bildsignal S' ist einer Bewegungsermittlungseinheit 44 zugefuhrt, die dazu ausgebildet ist, Bewegung in der bisher aufgenommenen Bildfolge zu ermitteln und unter Berücksichtigung dieser Bewegung einen Bewegungswert S44 zu erzeugen. Dieser Bewegungswert S44 ist einer Belichtungseinstelleinheit 42 zugeführt. Diese Belichtungseinstelleinheit 42 ist dazu ausgebildet, das Belichtungssignal E zu erzeugen. Anders als bei der anhand von 6 erläuterten Vorrichtung erzeugt die Bewegungseinstelleinheit 42 gemäß 9 zeitlich aufeinanderfolgend jeweils unterschiedliche Belichtungswerte E und zwar je einen Belichtungswert für jedes durch die Aufnahmevorrichtung 34 zu erzeugende Bild einer Bildsequenz. Die zeitliche Abfolge der durch diese Belichtungseinstelleinheit 42 erzeugten Belichtungswerte ist schematisch in 10 dargestellt. T bezeichnet in 10 den zeitlichen Abstand zwischen zwei Bildern der späteren HDR-Bildfolge. Die mehreren Bilder mit unterschiedlichen Belichtungszeiten werden innerhalb dieser Zeitdauer T erzeugt. E1 bezeichnet in 10 einen ersten Belichtungswert, E2 einen zweiten Belichtungswert und E3 einen dritten Belichtungswert, die jeweils für ein Bild einer Bildsequenz angewendet werden, wobei die einzelnen Bilder dieser Bildsequenz anschließend zur einem HDR-Bild überlagert werden. In dem dargestellten Beispiel wird das Bild mit der großten Belichtungszeit E1 zuerst, dann das Bild mit der nächstkleineren Belichtungszeit E2 und danach das Bild mit der kleinsten Belichtungszeit E3 aufgenommen. Diese Reihenfolge ist jedoch grundsätzlich beliebig. 9 shows an example of a device for generating an image sequence with temporally successive images with different exposure time. This device comprises a receiving device 34 which has an exposure time adjustable by an exposure signal E. At an output of this device, the image signal S 'is available. This image signal S 'is a motion detection unit 44 fed, which is adapted to determine movement in the previously recorded image sequence and to generate a movement value S44 taking into account this movement. This movement value S44 is an exposure setting unit 42 fed. This exposure adjustment unit 42 is designed to generate the exposure signal E. Unlike the one based on 6 explained device generates the Bewegungsseinstelleinheit 42 according to 9 each time consecutively different exposure values E and each one exposure value for each by the recording device 34 to be generated image of a picture sequence. The timing of the exposure adjustment unit 42 generated exposure values is shown schematically in 10 shown. T denotes in 10 the time interval between two images of the later HDR image sequence. The multiple images with different exposure times are generated within this time period T. E1 denotes in 10 a first exposure value, E2 a second exposure value, and E3 a third exposure value, each applied to an image of an image sequence, the individual images of that image sequence then being superimposed to an HDR image. In the illustrated example, the image with the largest exposure time E1 is taken first, then the image with the next lower exposure time E2 and then the image with the smallest exposure time E3. However, this order is basically arbitrary.

Die einzelnen Belichtungswerte E1, E2, E3 sind von dem Bewegungswert S44 abhängig. Die Abhängigkeit der Belichtungswerte E1, E2, E3 von dem Bewegungswert S44 entspricht beispielsweise der zuvor anhand der 7 und 8 erläuterten Abhängigkeiten der Belichtungswerte E1, E2, E3 von dem Bewegungswert S41.The individual exposure values E1, E2, E3 are dependent on the movement value S44. The dependence of the exposure values E1, E2, E3 on the movement value S44 corresponds for example to that previously described with reference to FIG 7 and 8th explained dependencies of the exposure values E1, E2, E3 of the movement value S41.

Claims (7)

Verfahren zur Erzeugung einer Videobildfolge mit hohem Dynamikbereich, das umfasst: Erzeugen von mehreren Bildsequenzen, die jeweils mindestens ein Bild aufweisen; und Erzeugen jeweils wenigstens eines Bildes aus den einzelnen Bildern einer Bildsequenz; wobei vor Erzeugen der Bilder einer ersten Bildsequenz Bewegung in wenigstens einer zeitlich vorangehenden zweiten Bildsequenz ausgewertet und ein Bewegungswert ermittelt wird, und wobei die Belichtungen der einzelnen Bilder der ersten Bildsequenz abhängig von dem Bewegungswert derart eingestellt werden, dass abhängig von dem Bewegungswert eine Streuung der Belichtung für die einzelnen Bilder der ersten Bildsequenz variiert wird und/oder die Anzahl der für die Bilder der ersten Bildfolge verwendeten unterschiedlichen Belichtungen von dem Bewegungswert abhängig ist, und/oder die Anzahl der Bilder der ersten Bildsequenz abhängig von dem Bewegungswert eingestellt wird.A method of generating a high dynamic range video image sequence comprising: Generating a plurality of image sequences each having at least one image; and Generating in each case at least one image from the individual images of an image sequence; wherein, before generating the images of a first image sequence, motion is evaluated in at least one temporally preceding second image sequence and a motion value is determined, and wherein the exposures of the individual images of the first image sequence are adjusted as a function of the movement value such that a variation of the exposure for the individual images of the first image sequence is varied depending on the movement value and / or the number of different ones used for the images of the first image sequence Exposures are dependent on the motion value, and / or the number of images of the first image sequence is set as a function of the movement value. Verfahren nach Anspruch 1, bei dem die Streuung mit zunehmender durch den Bewegungswert angezeigter Bewegung abnimmt.The method of claim 1, wherein the scattering decreases with increasing movement indicated by the motion value. Verfahren nach Anspruch 1, bei dem die Anzahl der verwendeten unterschiedlichen Belichtungen mit zunehmender durch den Bewegungswert angezeigter Bewegung abnimmt.The method of claim 1, wherein the number of different exposures used decreases as the movement indicated by the motion value increases. Verfahren nach einem der vorangehenden Ansprüche, bei dem die Anzahl der Bilder der ersten Bildsequenz mit zunehmender durch den Bewegungswert angezeigter Bewegung zunimmt.Method according to one of the preceding claims, in which the number of images of the first image sequence increases as the movement indicated by the movement value increases. Verfahren nach einem der vorangehenden Ansprüche, bei dem die Bewegung innerhalb einer zeitlich vorangehenden zweiten Bildsequenz ausgewertet wird.Method according to one of the preceding claims, in which the movement is evaluated within a temporally preceding second image sequence. Verfahren nach einem der Ansprüche 1 bis 4, bei dem die Bewegung zwischen wenigstens zwei zeitlich vorangehenden zweiten Bildsequenzen ausgewertet wird.Method according to one of claims 1 to 4, wherein the movement between at least two temporally preceding second image sequences is evaluated. Verfahren nach einem der vorangehenden Ansprüche, bei dem die Belichtung von wenigstens einem der folgenden Parameter abhängig ist: Dauer der Belichtungszeit, Größe der Blendenöffnung, Helligkeit einer Zusatzbeleuchtung.Method according to one of the preceding claims, in which the exposure depends on at least one of the following parameters: duration of the exposure time, size of the aperture, brightness of a supplementary illumination.
DE102009001521A 2009-03-12 2009-03-12 Method for generating an HDR video image sequence Expired - Fee Related DE102009001521B4 (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
DE102009001521A DE102009001521B4 (en) 2009-03-12 2009-03-12 Method for generating an HDR video image sequence
PCT/EP2010/053200 WO2010103109A1 (en) 2009-03-12 2010-03-12 Method for generating an hdr video image sequence

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
DE102009001521A DE102009001521B4 (en) 2009-03-12 2009-03-12 Method for generating an HDR video image sequence

Publications (2)

Publication Number Publication Date
DE102009001521A1 DE102009001521A1 (en) 2010-09-23
DE102009001521B4 true DE102009001521B4 (en) 2012-12-27

Family

ID=42470617

Family Applications (1)

Application Number Title Priority Date Filing Date
DE102009001521A Expired - Fee Related DE102009001521B4 (en) 2009-03-12 2009-03-12 Method for generating an HDR video image sequence

Country Status (2)

Country Link
DE (1) DE102009001521B4 (en)
WO (1) WO2010103109A1 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102015116026A1 (en) * 2015-09-22 2017-03-23 JENETRIC GmbH Device and method for direct optical image acquisition of documents and / or living skin areas without imaging optical elements

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20030133035A1 (en) * 1997-02-28 2003-07-17 Kazuhiko Hatano Image pickup apparatus and method for broadening apparent dynamic range of video signal
US6993200B2 (en) * 2001-11-20 2006-01-31 Sony Corporation System and method for effectively rendering high dynamic range images
WO2007017835A2 (en) * 2005-08-08 2007-02-15 Joseph Rubner Adaptive exposure control

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000050151A (en) * 1998-07-28 2000-02-18 Olympus Optical Co Ltd Image pickup device
DE102006046720A1 (en) * 2006-10-02 2008-04-03 Arnold & Richter Cine Technik Gmbh & Co. Betriebs Kg Digital motion-picture camera for taking motion pictures, has opto-electronic sensor device, which has multiple sensor elements for producing of received signals as function of exposure time

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20030133035A1 (en) * 1997-02-28 2003-07-17 Kazuhiko Hatano Image pickup apparatus and method for broadening apparent dynamic range of video signal
US6993200B2 (en) * 2001-11-20 2006-01-31 Sony Corporation System and method for effectively rendering high dynamic range images
WO2007017835A2 (en) * 2005-08-08 2007-02-15 Joseph Rubner Adaptive exposure control

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102015116026A1 (en) * 2015-09-22 2017-03-23 JENETRIC GmbH Device and method for direct optical image acquisition of documents and / or living skin areas without imaging optical elements
US10116886B2 (en) 2015-09-22 2018-10-30 JENETRIC GmbH Device and method for direct optical image capture of documents and/or live skin areas without optical imaging elements

Also Published As

Publication number Publication date
DE102009001521A1 (en) 2010-09-23
WO2010103109A1 (en) 2010-09-16

Similar Documents

Publication Publication Date Title
DE102016220757A1 (en) Method and device for material web observation and material web inspection
DE102012201696A1 (en) Image processing apparatus, associated control method, program and recording medium
EP3253045B1 (en) Method for detecting and correcting image errors and image processing unit and computer programme for same
EP3289398A1 (en) Method for generating a reflection-reduced contrast image and corresponding devices
DE112020004853T5 (en) Reduction of a flickering effect of several light sources in one picture
EP2017784A2 (en) Method for editing a sequence of pictures with subsequent video images for improving spatial resolution
DE102010014733B4 (en) Chromakey method and chromakey device for taking and editing camera images
DE102014102011B4 (en) System and method for generating an image with a wide dynamic range
DE10024374B4 (en) Method and device for measuring the noise contained in an image
EP1650978B1 (en) Method for displaying an image by means of a sequential display of colours
DE102009001521B4 (en) Method for generating an HDR video image sequence
DE102009026983A1 (en) Image processing method with a motion estimation and image processing arrangement
EP1489842B1 (en) Motion vector based method and device for the interpolation of picture elements
DE102009001518B4 (en) Method for generating an HDR video image sequence
EP3923266A1 (en) Method for determining the onset of relaxation according to an image burn-in process based on pixel-by-pixel controllable optical display devices
EP3089105A1 (en) Method for generating a contrast image of an object quality and related devices
DE102009057724B4 (en) Image capture device and method for reducing motion blur
DE102008036279B4 (en) Method for determining a motion vector for an image block of an intermediate image
DE102022002637B3 (en) Camera system and method for its operation
DE202016008887U1 (en) Image processing unit and computer program for the detection and correction of image errors
EP0639922A2 (en) Motion detection circuit for picture signal
AT505886B1 (en) METHOD FOR DETERMINING AN IMAGE CHARACTERISTIC
DE102022211557A1 (en) Method and computer program product for reducing vignetting in microscopic images
DE102014218627A1 (en) Method and control device for operating an image sensor
EP4184428A1 (en) Imaging method for imaging a scene and system

Legal Events

Date Code Title Description
OP8 Request for examination as to paragraph 44 patent law
R016 Response to examination communication
R084 Declaration of willingness to licence
R084 Declaration of willingness to licence

Effective date: 20110426

Effective date: 20111122

R016 Response to examination communication
R018 Grant decision by examination section/examining division
R082 Change of representative

Representative=s name: EPPING HERMANN FISCHER, PATENTANWALTSGESELLSCH, DE

R081 Change of applicant/patentee

Owner name: ENTROPIC COMMUNICATIONS, INC., SAN DIEGO, US

Free format text: FORMER OWNER: TRIDENT MICROSYSTEMS (FAR EAST) LTD., GRAND CAYMAN, KY

Effective date: 20121022

Owner name: ENTROPIC COMMUNICATIONS, INC., US

Free format text: FORMER OWNER: TRIDENT MICROSYSTEMS (FAR EAST) LTD., GRAND CAYMAN, KY

Effective date: 20121022

R082 Change of representative

Representative=s name: EPPING HERMANN FISCHER, PATENTANWALTSGESELLSCH, DE

Effective date: 20121022

Representative=s name: EPPING HERMANN FISCHER PATENTANWALTSGESELLSCHA, DE

Effective date: 20121022

R020 Patent grant now final

Effective date: 20130328

R119 Application deemed withdrawn, or ip right lapsed, due to non-payment of renewal fee