ES2658061T3 - Método para generar una imagen HDR de una escena basándose en una solución de compromiso entre la distribución de brillo y el movimiento - Google Patents

Método para generar una imagen HDR de una escena basándose en una solución de compromiso entre la distribución de brillo y el movimiento Download PDF

Info

Publication number
ES2658061T3
ES2658061T3 ES16150989.8T ES16150989T ES2658061T3 ES 2658061 T3 ES2658061 T3 ES 2658061T3 ES 16150989 T ES16150989 T ES 16150989T ES 2658061 T3 ES2658061 T3 ES 2658061T3
Authority
ES
Spain
Prior art keywords
exposure
frame
subsequent
current
pixels
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
ES16150989.8T
Other languages
English (en)
Inventor
Tania Foteini POULI
Erik Reinhard
Yulia Gryaditskaya
Original Assignee
Thomson Licensing
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Thomson Licensing filed Critical Thomson Licensing
Application granted granted Critical
Publication of ES2658061T3 publication Critical patent/ES2658061T3/es
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/741Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/265Mixing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/90Dynamic range modification of images or parts thereof
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/76Circuitry for compensating brightness variation in the scene by influencing the image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/44Receiver circuitry for the reception of television signals according to analogue transmission standards
    • H04N5/50Tuning indicators; Automatic tuning control
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20172Image enhancement details
    • G06T2207/20208High dynamic range [HDR] image processing

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Studio Devices (AREA)
  • Exposure Control For Cameras (AREA)

Abstract

Método para generar una imagen HDR de una escena, en el que un cuadro actual (fi) que constituye una imagen de dicha escena se ha capturado con una exposición actual (Ei) y un cuadro previo (fi-1) que constituye una imagen de dicha escena se ha capturado antes de dicho cuadro actual (fi), comprendiendo dicho método: - fijar una exposición (Ei+1 ) para un cuadro subsiguiente (fi+1) en función de dicha exposición actual (Ei), de una primera distribución de brillo (Hcompletoi) de colores de píxeles de dicho cuadro actual (fi) y de una segunda distribución de brillo (Hmovimientoi) de colores de estos píxeles ponderada por el movimiento de estos píxeles, en donde dicho movimiento se evalúa para estos píxeles en comparación con dicho cuadro previo (fi), - capturar dicho cuadro subsiguiente (fi+1) con dicha exposición fijada (Ei+1), - fusionar dicho cuadro subsiguiente (fi+1) con al menos dicho cuadro actual (fi) en una imagen HDR.

Description

5
10
15
20
25
30
35
40
45
50
DESCRIPCION
Método para generar una imagen HDR de una escena basándose en una solución de compromiso entre la distribución de brillo y el movimiento
Campo técnico
La presente invención se refiere, en general, a la formación de imágenes digitales de alto rango dinámico (HDR) y, en particular, a la determinación y la fijación de parámetros de exposición para la detección de datos de imagen por un dispositivo de formación de imágenes, tal como una cámara digital, con el fin de producir una imagen de alto rango dinámico (HDR) de una escena.
Antecedentes técnicos
El rango dinámico es la relación entre las señales más grande y más pequeña posibles que puede generar un sensor o un accionador. Tal como se usa en la presente, la expresión “rango dinámico” se refiere al rango dinámico de un dispositivo de captura de imágenes, tal como una cámara digital.
Para capturar imágenes HDR de una escena, múltiples cuadros de esta escena son capturados en general por un dispositivo de captura de imágenes HDR con diversas exposiciones. En una configuración tradicional de este dispositivo, las exposiciones, en general, se espacian de tal manera que abarcan la distribución completa de iluminación de la escena. A un proceso de este tipo se le conoce como “horquillado de exposición”. Las cámaras actuales permiten la captura de 3 a 9 horquillas de exposición, que pueden estar separadas entre sí de 1/3 f-stop a 3 f-stops, donde 1 f-stop es una unidad logarítmica. El f-stop es la relación de la distancia focal de la lente de la cámara con respecto al diámetro de la pupila de entrada de esta lente. Para crear una imagen HDR a partir de estos cuadros con diferentes exposiciones, la secuencia de exposiciones se fusiona combinando, según una manera conocida de por sí, las partes adecuadamente expuestas de cada exposición. En general, las exposiciones se escalan de acuerdo con su tiempo de exposición, y cada píxel de cada cuadro recibe un factor de ponderación en función de la intensidad de su luz - los píxeles más próximos a la parte central del rango reciben un peso mayor ya que es más probable que representen información útil. Véase, por ejemplo: Pradeep Sen, Nima Khademi Kalantari, Maziar Yaesoubi, Soheil Darabi, Dan B. Goldman y Eli Shechtman. Robust patch-based HDR reconstruction of dynamic scenes. ACM Transactions of Graphics, 31(6):203:1-203:11,2012.
Típicamente, las exposiciones de los diferentes cuadros usados para construir una imagen HDR están espaciadas uniformemente. Debido al espaciamiento uniforme de las exposiciones, estas soluciones presentan una serie de puntos débiles. En primer lugar, pueden capturarse demasiadas exposiciones, que dupliquen, cada una de ellas, una gran cantidad del contenido de exposiciones adyacentes. En segundo lugar, si las exposiciones se espacian más, la imagen HDR resultante puede adolecer de demasiado ruido en las áreas oscuras.
En el artículo titulado “Metering for exposure stacks”, publicado en 2012 por Orazio Gallo et al. en Computer Graphics Forum, volumen 31, páginas 479 a 488 (Wiley Online Library), antes de capturar el conjunto de exposiciones usadas para construir una imagen HDR, un algoritmo realiza una estimación del histograma HDR de la escena usando exposiciones de baja resolución. Basándose en este histograma, todas las combinaciones de las exposiciones se someten a prueba para decidir cuál es la óptima para la captura de la escena en HDR. Para guiar la selección y la posición de las exposiciones, también se tienen en cuenta características de ruido de manera que la selección final minimiza el ruido. A continuación, la serie de exposiciones se captura con estos ajustes. Debido a que este planteamiento está diseñado para capturar una única imagen HDR, el mismo presenta las siguientes desventajas:
- no se considera ningún movimiento;
- no es práctico para vídeo en la medida en la que requiere construir el histograma de HDR completo. Esto provocaría muchos cuadros perdidos y, por lo tanto, el resultado final tendría una baja frecuencia de cuadro.
Se aplican las mismas conclusiones a los documentos US7382931 y US8582001.
Cuando se aplica un proceso HDR del tipo mencionado a la captura de vídeo, se capturan sucesivamente cuadros alternos usando diferentes ajustes de exposición: a dicho proceso se le denomina “horquillado temporal”. Sin embargo, puesto que algunos objetos de la escena se pueden mover durante la captura de las exposiciones sucesivas usadas para construir cada imagen HDR del vídeo (o la cámara se puede mover), y puesto que estas diferentes exposiciones capturan la escena en momentos diferentes, la fusión de estas exposiciones puede crear artefactos de movimiento. Por otra parte, en la medida en la que la frecuencia de las imágenes HDR es una división de la frecuencia de cuadro permitida por el dispositivo de captura de imágenes de vídeo, esta frecuencia de HDR puede ser demasiado baja para evitar la borrosidad de movimiento.
Por lo tanto, existe una necesidad de una solución de compromiso entre un rango dinámico alto y una captura nítida de movimiento.
5
10
15
20
25
30
35
40
45
50
Sumario de la invención
Uno de los objetivos de la invención es una solución de compromiso del tipo mencionado.
Uno de los objetos de la invención es un método para generar una imagen HDR de una escena, en donde un cuadro actual que constituye una imagen de dicha escena se ha capturado con una exposición actual y un cuadro previo que constituye una imagen de dicha escena se ha capturado antes de dicho cuadro actual, comprendiendo dicho método:
- fijar una exposición para un cuadro subsiguiente en función de dicha exposición actual, de una primera distribución de brillo de colores de píxeles de dicho cuadro actual y de una segunda distribución de brillo de colores de estos píxeles ponderada por el movimiento de estos píxeles, en donde dicho movimiento se evalúa para estos píxeles en comparación con dicho cuadro previo,
- capturar dicho cuadro subsiguiente con dicha exposición fijada,
- fusionar dicho cuadro subsiguiente con al menos dicho cuadro actual en una imagen HDR.
Cada uno de dichos cuadros, es decir, los cuadros previo, actual y subsiguiente, constituye una imagen de dicha escena en instantes diferentes. Estos cuadros previo, actual y subsiguiente pueden ser cuadros que se capturan sucesivamente, es decir, sin ningún otro cuadro(s) entre ellos, o pueden ser cuadros que no se capturan sucesivamente, es decir, con otro cuadro(s) entre ellos.
Dicha región de movimiento puede concernir a diferentes partes de dicho cuadro actual que no están unidas entre sí. La evaluación de este movimiento para estos píxeles también puede tener en cuenta otros parámetros como complemento a la comparación con el cuadro previo.
Para determinar sobre la marcha los ajustes de exposición óptimos de los diferentes cuadros a fusionar con el fin de obtener imágenes HDR de una escena, el método propuesto de captura de imágenes/cuadros considera de manera ventajosa tanto el rango dinámico de esta escena como el movimiento de la misma. El método cambia dinámicamente la exposición de un cuadro a otro, no solamente en función de la distribución de valores de brillo en la escena como en la técnica anterior, sino también en función del movimiento detectad en esta escena. Este método hace uso, de manera ventajosa, de datos de movimiento local y global junto con la información del histograma de luminancia para decidir cuántas exposiciones son posibles para una escena dada sin crear artefactos de movimiento.
En lugar de usar parámetros predefinidos para definir exposiciones de cuadros sucesivos utilizados para generar una imagen HDR, el método define una exposición para un cuadro subsiguiente inmediatamente después de capturar un cuadro actual.
Como ventaja secundaria, el método no reduce la frecuencia de cuadro puesto que el número de imágenes HDR generadas en una secuencia será prácticamente igual al número de cuadros usados para la generación de estas imágenes HDR. Por ejemplo, si la escena tiene dos áreas diferenciadas con niveles de brillo muy diferentes, el método alineará exposiciones con cada uno de estos niveles aunque espaciará más las exposiciones de manera que el solapamiento entre ellas se minimice o elimine, dependiendo también de qué algoritmo de fusión se aplique para para el post-procesado. De manera similar, si un objeto sombreado se está moviendo delante de un fondo iluminado (o viceversa), las exposiciones se espaciarán en torno al nivel de intensidad del objeto en movimiento, de manera que su movimiento se pueda capturar adecuadamente. En las áreas del fondo iluminado (o viceversa), el método se basará en los cuadros más distantes espacialmente, donde el movimiento en las áreas oscuras (iluminadas) no era considerable y permitía capturar el rango dinámico de la escena completa. De este modo, aunque se da prioridad a la región con movimiento, el método puede reconstruir, de manera ventajosa, para cada imagen LDR generada, el rango de la escena completa si, en uno de los cuadros vecinos, el movimiento se redujo. Si no, el método sigue ampliando el rango en comparación con una única imagen LDR.
Preferentemente, dicho movimiento es nulo para por lo menos un píxel del cuadro actual. Eso significa que este cuadro comprende realmente una región sin movimiento. De manera más general, significa que la evaluación del movimiento para píxeles del cuadro actual en comparación con píxeles correspondientes en el cuadro previo conduce a valores diferentes de movimiento, especialmente de amplitud de movimiento, incluyendo en especial cero.
Preferentemente, dicha exposición para el cuadro subsiguiente se fija en función también de una dirección preferida de cambio de exposición para dicho cuadro actual.
Preferentemente, dicho método comprende la determinación de una dirección preferida de cambio de exposición para un cuadro que sigue al cuadro subsiguiente.
Preferentemente, dicha fijación de una exposición para el cuadro subsiguiente comprende una estimación de una exposición inicial sobre la base de dicha primera distribución del brillo, aunque no sobre la base de dicha segunda
5
10
15
20
25
30
35
40
45
50
distribución del brillo, una estimación de una exposición ajustada sobre la base de dicha segunda distribución del brillo, y una estimación final de dicha exposición para el cuadro subsiguiente adaptada para escoger entre dicha exposición inicial y dicha exposición ajustada como valor para dicha exposición para el cuadro subsiguiente.
Uno de los objetos de la invención es también un dispositivo de captura de imágenes HDR que comprende un sensor de cuadros configurado para capturar cuadros sucesivos que constituyen imágenes de una escena especialmente para capturar un cuadro actual con una exposición actual y un cuadro previo, y un procesador configurado para:
- fijar una exposición para un cuadro subsiguiente en función de dicha exposición actual, de una primera distribución de brillo de colores de píxeles de dicho cuadro actual y de una segunda distribución de brillo de colores de esos píxeles ponderada por el movimiento de dichos píxeles, en donde dicho movimiento se evalúa para dichos píxeles en comparación con dicho cuadro previo,
- activar la captura de dicho cuadro subsiguiente con dicha exposición fijada por parte de dicho sensor de cuadros,
- fusionar dicho cuadro subsiguiente con al menos dicho cuadro actual en una imagen HDR.
Breve descripción de los dibujos
La invención se entenderá más claramente al leer la descripción que se ofrece a continuación, ofrecida a título de ejemplo no limitativo y en referencia a las figuras adjuntas en las cuales:
- la figura 1 es un diagrama de bloques simplificado de un dispositivo de captura de imágenes de vídeo de acuerdo con una realización principal de la invención;
- la figura 2 es un diagrama que ilustra un método para generar una imagen HDR de una escena usando el dispositivo de captura de imágenes de vídeo de la Figura 1, de acuerdo con una realización principal de la invención;
- la figura 3 es un árbol de decisión usado en esta realización principal, cuando la dirección de cambio de exposición para el cuadro subsiguiente es “arriba”, con el fin de implementar la etapa de estimación final de la exposición para este cuadro subsiguiente y la etapa de determinación de dirección del cambio de exposición para el siguiente cuadro;
- la figura 4 es un árbol de decisión usado en esta realización principal, cuando la dirección del cambio de exposición para el cuadro subsiguiente es “abajo”, con el fin de implementar la etapa de estimación final de la exposición para este cuadro subsiguiente y la etapa de determinación de dirección del cambio de exposición para el siguiente cuadro;
- la figura 5 ilustra un histograma de valores de brillo Z en un cuadro actual f de una iteración del método ilustrado en la figura 2 de acuerdo con una realización principal;
- la figura 6 ilustra el mismo histograma de valores de brillo Z que la figura 5, con un histograma acumulado en una línea de puntos.
Descripción de realizaciones
Aquellos versados en la materia apreciarán que los diagramas de flujo, esquemas y similares presentados en este documento representan vistas conceptuales de circuitería ilustrativa que materializa la invención. Los mismos se pueden representar sustancialmente en soportes legibles por ordenador y por tanto pueden ser ejecutado por un ordenador o procesador, con independencia de que dicho ordenador o procesador se muestre explícitamente o no.
De acuerdo con una realización principal de la invención, la figura 1 representa un diagrama de bloques simplificado de un dispositivo de captura de imágenes de vídeo, y, más particularmente, una cámara de vídeo digital. La cámara 100 de vídeo digital incluye un sensor 110 de cuadros. El sensor 110 de cuadros puede referirse a una combinación de una lente óptica y una circuitería de detección de luz (por ejemplo, circuito integrado CMOS, etcétera) configurada para capturar una imagen o un cuadro de una escena. Este sensor 110 de cuadros está caracterizado según una manera conocida por sí, por una función de respuesta de cámara (“CRF”), que acepta un valor de brillo y devuelve un valor de brillo. Esta CRF puede considerarse como una gamma inversa. Su función es linealizar la imagen con respecto a la no linealidad del sensor.
Los datos de imagen detectados por el sensor 110 de cuadros pueden ser proporcionados al procesador 120 en forma de datos de cuadro capturados por medio de un bus. Los datos de cuadro capturados incluyen datos de color en relación con los diferentes píxeles de un cuadro.
El procesador 120 se puede implementar usando uno de entre un microprocesador de circuito integrado, un microcontrolador, un procesador de señal digital y un procesador en general. El procesador 120 se puede configurar para procesar datos de cuadro recibidos, basándose, por ejemplo, en algoritmos de procesado de imágenes
4
5
10
15
20
25
30
35
40
45
50
55
60
específicos almacenados en la memoria 130 en forma de instrucciones ejecutables por un procesador. El procesador 120 está configurado además para proporcionar valores de exposición al sensor 110 de cuadros por medio de un bus, tal como para permitir que este sensor 110 de cuadros capture cuadros con dichos valores de exposición.
Los datos procesados, tales como datos de imagen HDR generados por el procesador 120, se pueden almacenar en la memoria 130 y/o se pueden proporcionar al módulo 140 de visualización para ser visionados. Debe apreciarse que la memoria 130 puede referirse a cualquier combinación de diferentes dispositivos de almacenamiento de memoria, tales como una unidad de disco duro, una memoria de acceso aleatorio (RAM), una memoria de solo lectura (ROM), una memoria flash, o cualquier otro tipo de memoria volátil y/o no volátil. Debe apreciarse además que la memoria 130 se puede implementar en forma de memorias múltiples o discretas para almacenar datos de imagen procesados, así como las instrucciones ejecutables por procesador para procesar los datos de imagen capturados. Además, la memoria 130 puede incluir memoria extraíble, tal como una memoria flash, para el almacenamiento de datos de imagen.
El módulo 140 de visualización puede referirse a una pantalla de cristal líquido (LCD) incorporada en la cámara digital 100 para la visualización de datos de imagen capturados, y datos de imagen HDR. Alternativamente, debe apreciarse que un dispositivo de visualización externo se puede acoplar a la cámara digital 100 para la visualización y/o la salida de datos de imagen HDR. Aunque la figura 1 se ha descrito anteriormente con respecto a una cámara digital, debe apreciarse que el dispositivo puede referirse a otros dispositivos, tales como dispositivos de formación de imágenes en general.
Aunque el dispositivo de captura de imágenes de vídeo de la figura 1 se ha descrito como una cámara de vídeo digital, debe apreciarse también que este dispositivo puede referirse a, o estar incluido en, otros dispositivos, tales como un dispositivo de comunicación móvil y dispositivos de comunicación portátiles en general.
En referencia a continuación a la figura 2, se representa una realización no limitativa de un método para generar por lo menos una imagen HDR de una escena en una secuencia de vídeo generada por el dispositivo de captura de imágenes de vídeo de la figura 1. Tal como se usa en la presente, “escena” puede referirse al área que desea capturar un usuario de este dispositivo y puede incluir uno o más objetos iluminados con diversos niveles de iluminación, en donde uno o más de estos objetos se pueden mover durante la captura de cuadros sucesivos por el dispositivo. Tal como se describirá de forma más detallada posteriormente, la determinación del rango de iluminación y de los movimientos de estos objetos puede proporcionar uno o más parámetros de exposición para capturar los cuadros sucesivos.
En la siguiente descripción, la expresión “píxeles sobreexpuestos” se refiere a píxeles de un cuadro capturado para el cual los datos de color asociados a esos píxeles se corresponden con un valor superior a un umbral predeterminado de sobreexposición de datos de color tato- Cuando este umbral de sobreexposición es el máximo para los datos de color, se considera que el color está saturado. En general, este umbral máximo de sobreexposición de datos de color es inferior a este límite máximo. Dicho umbral de sobre exposición se puede definir en cada canal de color R, G y B usado para representar un color, y, entonces, R, G y B se consideran como datos de color. En otro ejemplo, este umbral de sobreexposición de datos de color se define como un umbral de iluminancia de sobreexposición, y la luminancia L se calcula como una suma ponderada de los valores de R, G y B. Todavía en otro ejemplo que es más sensible al rendimiento (por ejemplo, un teléfono móvil), se usaría el canal de color verde como “sustituto” de la luminancia. De manera similar, la expresión “píxeles subexpuestos” se refiere a píxeles de un cuadro capturado para el cual los datos de color asociados a esos píxeles se corresponden con un valor inferior a un umbral predeterminado de subexposición de datos de color tbajo- En general, este umbral de subexposición de datos de color es superior a cero, aunque puede ser igual a cero.
Para iniciar el método de acuerdo con esta realización no limitativa, usando el sensor de cuadros 110, se captura un primer cuadro fo con la exposición Eo, y se captura un segundo cuadro fi con la exposición Ei. Las exposiciones Eo y Ei se fijan a valores diferentes usando cualquier algoritmo conocido de auto-exposición adaptado para generar una primera imagen HDR de la escena a partir de la fusión de estos dos cuadros de inicio. Puesto que la sobreexposición es visualmente peor que la subexposición, la dirección en la que va a cambiar preferentemente el tiempo de exposición para el segundo cuadro dir¡+i=i se fija de manera preferente a “abajo” (es decir, Ei < Eo), aunque se podría fijar a “arriba” (es decir, Ei > Eo) también. Esta dirección determina si el cuadro f¡+i=i se captura con una exposición mayor (“arriba”) o menor (“abajo”) que el cuadro actual. Se calcula la dirección dir¡+2=2 en la cual va cambiar preferentemente el tiempo de exposición para el tercer cuadro f¡+2 =2, basándose en las características del primer y el segundo cuadros foyfi, usando especialmente los árboles de decisión mostrados en las figuras 3 y 4. El primer y el segundo cuadros capturados fo, fi con sus datos de color y los valores de sus exposiciones Ei, E2 y de la dirección preferida de cambio de exposición dir+2 para el tercer cuadro /2 se transfieren, a continuación, para almacenarse en la memoria 130 y para su procesado, según se describe posteriormente, al procesador 120.
Para la primera iteración del procesado de los dos cuadros a continuación, en los cuales i=1, el segundo cuadro f¡=i se denomina “cuadro actual”, el primer cuadro fi-i=o “cuadro previo”, el tercer cuadro f¡+i=2 “cuadro subsiguiente”, y un cuarto cuadro f¡+2=3 que sucede al cuadro “subsiguiente” se denomina “siguiente cuadro”. Las etapas 1 a 6 se implementan por medio del procesador 120. A continuación, la etapa 6 se implementa por medio del sensor 110
5
5
10
15
20
25
30
35
40
45
50
para capturar el “cuadro subsiguiente” fi+i con la exposición Ei+i calculada a partir de las etapas 1 a 6.
Después de esta primera iteración, se lanza una segunda iteración con i = 2. El cuadro f¡=2 se convierte en el “cuadro actual”, f-i=i el “cuadro previo”, f¡+i=3 el “cuadro subsiguiente” y f¡+2=4 el “siguiente cuadro”, para otra iteración de las etapas 1 a 6, lo cual permite la captura de otro “cuadro subsiguiente” con una exposición calculada nuevamente a partir de las etapas 1 a 6. Y así sucesivamente con valores crecientes de i hasta el final de la captura de una secuencia de cuadros a partir de la cual pueden generarse, entonces, imágenes HDR de la escena según se describe posteriormente.
A continuación, se describirán las diferentes etapas de cada una de estas iteraciones. El orden de presentación no representa necesariamente el orden de ejecución de estas etapas.
Etapa 1 - cálculo del histograma de Brillo para el cuadro actual /,, sin tener en cuenta el movimiento:
El histograma de brillo Hcompletoi se calcula según una manera conocida por sí, a partir de los valores de brillo de los colores de todos los píxeles del cuadro actual f¡, es decir, del último cuadro que se ha capturado. Este cálculo no tiene en cuenta el movimiento de píxeles.
Etapa 2 - cálculo del Campo de Movimiento Mi para el cuadro actual f¡ y, de acuerdo con una primera variante, determinación de la Región de Movimiento MRi del cuadro actual /,■:
A partir de un campo de movimiento calculado según una manera conocida de por sí, por una comparación de movimiento entre el cuadro actual f¡ y el cuadro previo fi-1, se proporciona un mapa de amplitud de movimiento Mi que tiene el mismo tamaño que el cuadro actual f¡, donde cada píxel de este mapa Mi tiene un valor de amplitud de movimiento. La amplitud de movimiento de un píxel indica la distancia que recorre este píxel desde el cuadro previo f-i al cuadro actual f¡. Los valores de amplitud de movimiento preferentemente se normalizan entre 0 (sin movimiento) y 1 (movimiento máximo para cuadro actual). Este campo de movimiento se calcula, por ejemplo, usando el método de estimación de movimiento que se da a conocer en el artículo titulado “a real-time multi-dsp motion estimator for mpeg-4 h. 264 avc high definition video enconding”, de Fabrice Urban et al., publicado en 2009 en el Journal of Real-Time Image Processing, 4(1), páginas 23 a 31.
En una primera variante, que tiene fijado un umbral de amplitud de movimiento superior a cero, todos los píxeles de este mapa de amplitud de movimiento Mi que tienen un valor de amplitud de movimiento superior a este umbral forman una región de movimiento MRi en el cuadro actual f¡. En la siguiente etapa 3 se presenta una segunda variante sin umbral de amplitud de movimiento.
Etapa 3 - Cálculo del Histograma de Brillo teniendo en cuenta el movimiento para el cuadro actual /,■:
Usando, de manera preferente, aunque no necesaria, el mismo método que para la etapa 1 anterior, se calcula un histograma de brillo de los colores de píxeles pertenecientes a la región de movimiento MRi determinada en la etapa 1, al que se hace referencia como Hmovimientoi. Esto significa que, para este histograma de brillo Hmovimientoi, solamente se tienen en cuenta píxeles pertenecientes a la región de movimiento MRi.
En la segunda variante en la que, en la etapa 1, no se define ningún umbral de amplitud de movimiento, valores de brillo de cada píxel del cuadro actual f¡ se ponderan según la amplitud de movimiento de este píxel obtenida a partir del mapa de amplitud de movimiento Mi determinado en la anterior etapa 1. Después de dicha ponderación de los valores de brillo, se ejecuta un cálculo de un histograma con brillo ponderado, al que se hace referencia también como Hmovimientoi para esta segunda variante.
En las dos variantes anteriores, la distribución de brillo Hmovimientoi que se obtiene con este cálculo, se basa en datos de color que se ponderan por el movimiento de los píxeles correspondientes, en donde este movimiento se evalúa en comparación con el cuadro previo f-i. En la primera variante, a los píxeles pertenecientes a la región de movimiento se les asigna un valor de peso de 1 puesto que a los otros píxeles se les asigna un valor de peso de 0.
En esta fase, se dispone de dos histogramas de brillo:
- Hcompletoi para todos los píxeles de la imagen.
- Hmovimientoi que considera solamente píxeles que tienen un peso de movimiento no nulo los cuales, a continuación, se consideran como parte de una región de movimiento MRi.
Esto significa que píxeles que se cuentan en Hmovimientoi, se cuentan también en Hcompletoi.
En otra variante de esta realización, se puede evitar este doble recuento de píxeles calculando un histograma aparte de todos los píxeles de la imagen que no forman parte de la región de movimiento MRi. A este histograma se le hará referencia como Hglobali.
Se supone que el histograma Hcompletoi consta de Ncompieto compartimentos, el histograma Hmovimientoi consta de
Nmovimiento compartimentos y el histograma Hglobali consta de Ngiobai compartimentos.
A partir de cada uno de los tres histogramas anteriores Hcompletoi, Hmovimientoi y Hglobali, se calculan también otros tres histogramas acumulados de la manera siguiente:
rcai n i [ iIhL : £ (m] = ^ Hi xi m [ ilJ.: ¡¡ Q¿i ¡t=0
Ímovimientcitínj = £■ HmorimientSjfó}
f jiluhiilj (m) = ^ Hgluhnlj (k)
li=0
A partir de cada uno de los tres histogramas anteriores Hcompletoi, Hmovimientoi y Hglobali, se calculan también tres histogramas acumulados inversos de la manera siguiente:
5
^EOTijjInr* 1
£Tcomp]rtor(Trij =
He* mpletc ¿ (kj
J ■'Vsmf Leí-a
imagen1
rrrmvim iprilci]"(/«) =
10
imagen2
mvimiHnlji
í(0
■^pííEüt-i
Cglobtl! (m) =
Hglobal; 'j¿)
Apícea! -T
imagen3
Estos histogramas acumulados se usarán en las posteriores subetapas 4.2 y 4.3. Etapa 4 - estimación de la exposición E+i para el cuadro subsiguiente f¡+{.
Para estimar esta exposición Ei+i para el cuadro subsiguiente f¡+i, se necesitan especialmente el valor de la 15 exposición para el cuadro actual f¡ y el valor de la dirección preferida de cambio de exposición dir¡+i proporcionado por la iteración previa (o por la etapa de inicialización).
En términos globales, existen tres casos posibles:
20
25
a. La exposición E¡ del cuadro actual f¡ ya ha capturado el rango completo de exposición de la escena, en cuyo caso, E+i ^ E¡ y dir¡+2 = abajo (puesto que, efectivamente, se vuelve a las condiciones de inicialización). Para comprobar si la exposición actual E¡ captura suficientemente el rango dinámico de la escena, se toman el primer y el último compartimentos de los Ncompieto compartimentos del histograma completo de la imagen Hcompletoi. Para un histograma con un número total de compartimentos Ncompieto, se comprueban los valores de los compartimentos Hcompletoi (0) y Hcompletoi (Ncompieto - 1) con respecto a un umbral de compartimento h. El valor de este umbral, que es en general común para todos los cuadros, es, típicamente, un pequeño porcentaje del número total de píxeles en el cuadro, por ejemplo un 1%, aunque también se podría seleccionar de manera que fuese cero. Se considera que el cuadro actual captura el rango dinámico de la escena si se cumple la siguiente condición:
Hcompletoi (0) < h Y Hcompletoi (Ncompieto - 1) < h
b. Se puede hallar un ajuste de exposición E+i que cumple dos condiciones:
- f+i tiene el suficiente solapamiento con f ¡
- f+i está capturando suficientes píxeles útiles
c. No se produce dicha exposición E+i, por ejemplo, debido a que la distribución de la irradiancia de la escena es bimodal y la exposición E se encuentra en el medio de los dos modos, en cuyo caso se selecciona el paso de exposición más grande que se pueda en la dirección dada de cambio de exposición mientras se
7
5
10
15
20
25
30
35
40
mantiene el suficiente solapamiento de exposición en una de las dos posibles direcciones de cambio de exposición.
Los bloques principales de los árboles de decisión mostrados en la figura 3 y en la figura 4 que conducen a la estimación de una exposición E¡+i para el cuadro subsiguiente f¡+i implican dos estimaciones previas, a saber, una estimación de una exposición inicial Einici+i para el cuadro subsiguiente f+i, y una estimación de una exposición ajustada Eajui+i para el cuadro subsiguiente f+i. Estas estimaciones se describen en las subetapas posteriores.
Subetapa 4.1 - estimación de la Exposición Inicial Einici+i para el Cuadro subsiguiente f¡+{.
Se calcula un ajuste de exposición inicial Einici+i para el cuadro subsiguiente usando solo el Hcompletoi proporcionado en la etapa 1, y cambiando la exposición en la dirección din+i, que se ha calculado a partir de una iteración previa (o etapa de inicialización) de acuerdo con el mismo proceso descrito en la etapa 5 posteriormente para el cálculo de din+2.
Se calcula un valor de brillo de umbral bajo por defecto Zbajo.i correspondiente a un umbral de subexposición de datos de color tbajo para el cuadro actual f, y se calcula un valor de brillo de umbral alto por defecto Zato,i correspondiente a un umbral de sobreexposición de datos de color tato- Los umbrales tbajo y tato definen, en escala relativa, qué rango de brillo es útil en un cuadro. Los valores de tbajo y tato son en general comunes a todos los cuadros de una secuencia a capturar. Si el sensor de cuadros 110 se configura para capturar cuadros de 8 bits, se tiene, por ejemplo, tbajo = 0,2 y tato = 0,9. Por lo tanto, para un cálculo de este tipo, si se tiene tbajo = 0,2; entonces Zbajo.i = tbajo x255 = 51, y, si se tiene tato = 0,9; entonces Zatto.i = tatox255 = 230.
Tal como se muestra posteriormente, para calcular Einici+i, se consideran el umbral de subexposición de datos de color tbajo si dir+i = arriba, y el umbral de sobreexposición de datos de color tato si dir+i = abajo.
Conociendo la función de respuesta de la cámara CRF del sensor de cuadros 110 (consúltese más arriba) y el tiempo de exposición Ei del cuadro actual f¡, a continuación se calculan valores de irradiancia de la escena de este cuadro correspondiente a valores de brillo de umbral por defecto Zbajo.i o Zatto.i de este cuadro, de la manera siguiente.
CRF HZoajox) Ei (3)
C¥íF~-{ZaItai)
E;
(3')
donde CRF-1 es el inverso de la función de respuesta de la cámara CRF.
La Figura 5 ilustra la distribución de valores de brillo Z (es decir, 0 a 255 en una codificación de 8 bits) en el cuadro actual f¡. Esta distribución se corresponde con solamente Hcompletoi. El eje Y se corresponde con recuentos de píxeles y el eje X se corresponde con datos de color Z de valores de píxeles. I(Z) representa un valor de irradiancia de la escena capturado como Z.
Para calcular Einici+i cuando dir¡+i = arriba, la siguiente ecuación ilustrada en la figura 5 debe cumplir preferentemente.
- ■ - !■: ■ = t.- ■ (4)
Dadas las ecuaciones (3) y (4), se deduce que
I l) —
rFR-\"baj0ji)
Ei
(5)
Considerando nuevamente la función de respuesta de la cámara CRF, la ecuación (5) se puede reformular basándose en los valores correspondientes al cuadro subsiguiente f¡+{.
¡(z
alto.i-l,
CFR-'(ZS
La combinación de (5) y (6) proporciona
rFfí-\7.baioi) _ rFfí-\7.altaii, ¿) E i EiniCuí
(6)
La única incógnita en la ecuación (7) es Einici+i de manera que la misma puede resolverse, obteniendo el ajuste de exposición inicial para el cuadro subsiguiente fi+i según:
Einici+1
CRF 1 Chairo,i + 1.) g, CRF~l{ZtajreJ ‘
(8)
En términos sencillos, se puede calcular una estimación para la exposición Einici+i del cuadro subsiguiente f¡+i, de 5 manera que, para valores de color específicos en los cuadros actual y subsiguiente f¡, f¡+i, se puede disponer de la misma irradiancia captura de la escena. Esta elección de Einici+i garantiza que se produce un solapamiento suficiente de la exposición entre el rango de exposición en el cuadro actual f¡ y el cuadro subsiguiente fi+i, y que el cuadro subsiguiente captura un número suficiente de píxeles que estaban o bien subexpuestos o bien sobreexpuestos en el cuadro actual (es decir, caso 4b, más arriba).
10 De manera similar, todavía en referencia a la distribución de valores de brillo que se muestra en la figura 5, para calcular Einici+i cuando dir¡+1 = abajo, se estima la Exposición Inicial Einici+i para el Cuadro subsiguiente f¡+i de acuerdo con la siguiente ecuación 8':
(8')
La invención no se limita al cálculo de Einici+i según se ha descrito anteriormente. Pueden usarse otros métodos 15 conocidos de construcción de imágenes HDR sin tener en cuenta el movimiento, especialmente métodos que usan no solamente los umbrales Zbajo y Zato posicionados en el histograma de brillo solo de Hcompletoi según se ha descrito anteriormente, sino también métodos que utilizan la forma de este histograma. Véase, por ejemplo, el documento US7382931.
Subetapa 4.2 - estimación de la Exposición Ajustada Eajui+i para el cuadro subsiguiente f¡+i.
20 Para una estimación de este tipo, se considerará preferentemente cuántos píxeles del cuadro actual f¡ tienen colores que están sobreexpuestos o subexpuestos en situaciones diferentes y se ajustará, en consecuencia, la exposición para el cuadro subsiguiente f¡+i.
Para determinar el número de píxeles sobreexpuestos/subexpuestos que es aceptable para el cual subsiguiente fi+i, se consideran preferentemente cuántos píxeles están afectados por el movimiento local o global en el cuadro actual 25 fi y, también, si se está midiendo la sobreexposición o la subexposición en el cuadro actual f. Cada uno de estos
casos conduce a valores diferentes para un umbral de porcentaje de píxeles sobreexpuestos/subexpuestos umbmovimiento dentro de la región de movimiento MRi, y para un umbral de porcentaje de píxeles sobreexpuestos/subexpuestos umbcompieto en el cuadro completo fi (o un umbral de porcentaje de píxeles sobreexpuestos/subexpuestos umbgobai para píxeles que no están en la región de movimiento mR¡,). Estos dos 30 umbrales umbmovmento y umbcompieto (o umbgiobai) se usarán a continuación para determinar cuánto debe solaparse preferentemente, en cuanto a brillo, el cuadro subsiguiente f¡+i con el cuadro actual f¡.
A continuación, se detallará la estimación de píxeles umbmovmento para cuadro actual f¡.
A partir del mapa de amplitud de movimiento Mi proporcionado en la etapa 2 anterior, para cada posición de píxel x se fija un índice de movimiento local LMi de la manera siguiente:
35
LM¡
imagen4
üj sino Hay movimiento local en x en f,
amplitud de movimiento, si hay movimiento local en x en f
A continuación, se obtiene un mapa de movimiento local para el cuadro actual fi.
(1)
Adicionalmente, se calcula el porcentaje de píxeles que tienen movimiento local en el cuadro actual f¡ de la manera siguiente:
núm. de píxeles en MR, > 0 nínn.df’ji'hhIhs kii f¿
(2)
40 Un valor de un porcentaje mínimo de píxeles que tienen movimiento local Amin y un valor de un porcentaje mínimo de píxeles que tienen movimiento local Amax se fijan experimentalmente a, por ejemplo, Amin = 0,1% y Amax = 1%. Dichos valores son en general comunes para todos los cuadros de una secuencia. Para determinar cómo el área de movimiento MRi se relaciona con Amin y Amax, simplemente se cuentan píxeles con movimiento de la manera siguiente.
45 En referencia a la posterior tabla 1, si el porcentaje de píxeles con movimiento local Ai está por debajo de Amin, entonces:
5
10
15
20
25
30
35
- para sobreexposición cuando diri+1 = arriba, se fija umbmovimiento = umbsobre.min y,
- para subexposición cuando dir+1 = abajo, se fija umbmovimiento = umbsub.min- En la primera fila de la tabla 1 se
proponen valores para umbsobre,min y umbsub,min.
Si el porcentaje de píxeles con movimiento local Ai está por encima de Amax, entonces:
- para sobreexposición cuando diri+1 = arriba, se fija umbmovimiento = umbsobre,max y,
- para subexposición cuando diri+1 = abajo, se fija umbmovimiento = umbsub,max. En la última fila de la tabla 1 se proponen valores para umbsobre.max y umbsub,max.
En la tercera situación posible en la que Amin < Ai < Amax, se interpola (véase fila central de la tabla 1) el valor de
umbral del porcentaje de píxeles sobreexpuestos/subexpuestos umbmovimiento tal como se muestra de la manera
siguiente:
OA =■
A-A„
Si diri+1 = arriba
(8)
umbmovimiento = (umbsub,max umbsub,min)dA + umbsub,min (9)
Si diri+i = abajo
umbmovimiento = (umbsobre,max — umbsobre,min)dA + umbsobre,min (10)
Tabla 1
Porcentaje de píxeles de imagen con movimiento local
Caso de movimiento - sobreexposición/subex umbrales de posición
Amin > Ai Amin = 0,1%
umbsubmin = 100% umbsobre,min = 9°%
Amin < Ai < Amax
interpolación basada en la Ec. 8-10
Amin < Ai Amax = 1%
umbsub,max = 85% umbsobre,max = 5%
A continuación, se detallará la estimación de píxeles umbcompieto (o umbgiobai de acuerdo con la segunda realización) para el cuadro actual f.
El umbral umbcompleto (o umbgiobal) se fija al umbral umbsub ofrecido en la Tabla 2 si la dirección diri+1 = arriba, o al umbral umbsobre ofrecido en la Tabla 2 si la dirección diri+1 = abajo.
Tabla 2
Caso completo - umbrales de sobreexposición/subexposición
umbsub
umbsobre
92%
20%
Este proceso se repite para los dos histogramas acumulados.
El valor del umbral umbmovimiento para el porcentaje de píxeles sobreexpuestos/subexpuestos dentro de la región de movimiento MRi es variable de un cuadro a otro, especialmente en la medida en la que se puede calcular de acuerdo con la Ec. 10, y, por lo tanto, se evalúa específicamente para cada cuadro. Este valor cambiará en función de cuánto movimiento hay en el cuadro.
Después de que se obtengan, tal como se ha explicado anteriormente, los valores de los umbrales de porcentaje de píxeles sobreexpuestos/subexpuestos umbmovimiento para la región de movimiento MRi del cuadro actual f¡, y umbcompleto para todos los píxeles del cuadro actual f¡, (o umbgiobai para píxeles no pertenecientes a la región de movimiento), se seleccionan dos histogramas acumulados entre los anteriores descritos para cálculos posteriores. Si se prefiere un incremento del tiempo de exposición para el cuadro subsiguiente (es decir, diri+1 = arriba), entonces se seleccionan preferentemente Ccompletof y CwiOvimientoT. En una realización alternativa, se podrían seleccionar Cglobal’j y Cw^ovimienioT, para evitar un doble recuento de píxeles (tal como se ha expuesto en líneas generales anteriormente).
Si se prefiere una disminución del tiempo de exposición, es decir, diri+1 = abajo, entonces se seleccionan preferentemente Ccompletoi y Cmovimientoi. En una realización alternativa, se podrían seleccionar Cglobali y Cmovimientoi, para evitar un doble recuento de píxeles (tal como se ha expuesto en líneas generales anteriormente).
5
10
15
20
25
30
35
40
Este proceso selecciona preferentemente dos histogramas acumulados, uno para la región de movimiento, y otro o bien para la imagen completa, o bien para la imagen completa menos la región de movimiento MRi. También se han determinado anteriormente los valores para dos umbrales correspondientes: umbmo/imiente calculado de acuerdo con las ecuaciones 9 y 10 anteriormente está implicado en el siguiente cálculo en Cmovimiento¡ (respectivamente Cmovimierttor), y el umbCOmpieto fijado de acuerdo con la tabla 2 en función de dir¡+i está implicado en el siguiente cálculo o bien en Ccompleto, (respectivamente Ccampletof) o bien Cglobal, (respectivamente Cglcbal,i), en función de la realización elegida.
La Figura 6 ilustra, en el cuadro actual f, la misma distribución de valores de brillo/intensidad Z (es decir, de 0 a 255 en una codificación de 8 bits) que la figura 5. En una curva con línea de puntos, la figura 6 ilustra también distribuciones acumuladas inversas seleccionadas. I(Z) representa un valor de irradiancia de la escena capturado como Z. En referencia a esta figura 6, se determina el valor de un brillo de umbral ajustado Zumb,ccmpietc,i correspondiente al anterior umbral umbccmpietc de la manera siguiente: en el histograma acumulado CccmpletCi (respectivamente, Ccompleto’’) con línea de puntos, se encuentra el punto en el que el eje y (es decir, el recuento de píxeles) es igual a umbCOmpieto, y la proyección de este punto en el eje x proporciona el valor de Zumb,Compieto,¡.
Cuando este proceso se aplica al histograma acumulado Ccompleto¡ (respectivamente, Ccompleto?) (o Cglobal¡ (respectivamente, Cglobal])), se obtiene el valor de Zumb.compieto.¡. Este proceso se repite para el histograma acumulado Cmovimiento¡ (respectivamente, Cmoviinientol ) para obtener ZUmb,mov¡m¡ento,¡-
A continuación, un valor de brillo de umbral, ajustado, final, Zumb,¡ se fija a Zumb,mcvimientc,i, si y solo si:
movimisnboi u.n.hrrnn LMTTf¿ni.t<i i
; ) i cmb
rxLovtmi enta
^ completo,movimiento,i) ^ iJrrL^comple
Alternativamente, el valor de brillo de umbral, ajustado, final Zumb,¡ se fija a Zumb.ccmpietcj si y solo si:
\Zumb ,co7np l oto
,¿) — UfJlbjrLcrirnient
Cccor.-ploto.iV^umb.¿ampie to,t J — U¡ítct
Una vez que se dispone de este valor de brillo de umbral, ajustado, Zumb,¡, se estima la exposición ajustada Eaju+i para el cuadro subsiguiente f+i de la misma manera que se ha estimado anteriormente Einic¡+i en las Ecuaciones 3 a 7, en las cuales se sustituye Zbaje.i por Zumb,¡ y Einic+i por Eaju+i.
Subetapa 4.3 - estimación final de la exposición E+i para el cuadro subsiguiente f+i
Si dir+i = arriba, se sigue el árbol de decisión mostrado en la figura 3 para obtener una estimación final de la exposición E+i para el cuadro subsiguiente f+i. Si dir¡+i = abaje, se sigue el árbol de decisión mostrado en la figura 4, para obtener una estimación final de la exposición E+i para el cuadro subsiguiente f+i. De acuerdo con estos árboles de decisión, la conclusión es o bien E+i = Einic+i, o bien E+i = Eaju+i. Obsérvese que estos árboles de decisión tienen en cuenta la exposición E¡ del cuadro actual f¡.
Etapa 5 - determinación de la Dirección Preferida de Cambio de exposición para el siguiente cuadro f+¿
Esta dirección dir+2 determina si el “siguiente” cuadro f+2 se debe capturar con un tiempo de exposición mayor (“arriba”) o menor (“abajo”) que la exposición E+i correspondiente al cuadro “subsiguiente” f+i. La dirección dir+2 en la que se debe cambiar preferentemente (arriba o abajo) la exposición para el siguiente cuadro f+2 en la iteración subsiguiente se determina de acuerdo con los mismos árboles de decisión que los correspondientes utilizados para la subetapa 4.3. Véanse nuevamente las figuras 3 y 4.
Etapa 6 - captura del cuadro subsiguiente f+i.
El sensor 110 recibe datos relacionados con la exposición E+i según el ajuste del procesador 120 en la anterior etapa 4. A continuación, el sensor captura el cuadro subsiguiente f+i con esta exposición E+i. A continuación, los datos de imagen relacionados con este cuadro capturado f+i se transfieren a la memoria 130 para ser almacenados.
Iteraciones sucesivas de las etapas 1 a 6
Después de la primera iteración de las anteriores etapas 1 a 6, se realizan de forma similar otras iteraciones sucesivas de las etapas 1 a 6, hasta el final de las capturas.
De una iteración a otra, cuadros sucesivos fo, fi, f2, ..., f¡-i, fi, fi+1, ..., fo-i que constituyen una imagen de la misma 5 escena con exposiciones respectivas Eo, Ei, E2, ..., E-i, Ei, Ei+i, ..., Eq-i se almacenan en la memoria 130, donde Q
es el número total de cuadros de una secuencia.
Postprocesado: generación de una secuencia de imágenes HDR de la escena
Después de la captura de Q cuadros según se ha descrito anteriormente, el procesador 120 aplica una etapa de postprocesado, por ejemplo para agrupar dichos cuadros en series de cuadros sucesivos que tienen exposiciones 10 diferentes, y para fusionar, según una manera conocida de por sí, los cuadros de cada serie en una imagen HDR de
la escena. Preferentemente, cada serie comprende dos cuadros sucesivos, y cada cuadro pertenece a dos series, de tal manera que el segundo cuadro de una primera serie es el primer cuadro de una segunda serie que sucede a la primera serie.
La generación de cada imagen HDR a partir de la fusión de los cuadros de una serie se realiza preferentemente 15 usando el método descrito en el artículo titulado “Patch-based high dynamic range video” de Nima Khademi Kalantari et al., publicado en 2013 en ACM Trans. Graph., 32(6), página 202.
Se obtiene entonces una secuencia de vídeo de imágenes HDR de la escena.
En una variante, la generación de imágenes HDR a partir de cuadros sucesivos según se ha descrito anteriormente se puede realizar en cuanto haya disponibles en la memoria 130 datos de imagen referentes a estos cuadros.
20 Ventaja de la invención
El método según la invención presenta las siguientes ventajas:
- se minimizan artefactos de movimiento en secuencias de vídeo HDR generadas mientras que se maximiza el rango dinámico de estas secuencias;
- prácticamente cada cuadro capturado en la parte en línea del método, es decir, en las iteraciones de las etapas 1 a
25 6 anteriores, deriva en un cuadro HDR después del postprocesado, lo cual elimina la necesidad de cámaras con una
alta frecuencia de cuadro, como en otros métodos de generación de secuencias de vídeo HDR;
- captura del mínimo número necesario de exposiciones para una imagen HDR dada, de manera que, si una escena no necesita muchas exposiciones, las mismas no se capturarán;
- el método está particularmente diseñado para dispositivos móviles con sus capacidades de procesado limitadas.
30 Debe entenderse que la invención se puede implementar en diversas formas de hardware, software, microprogramas, procesadores de propósito especial, o combinaciones de los mismos. La invención se puede implementar especialmente en forma de una combinación de hardware y software. Por otra parte, el software se puede implementar como un programa de aplicación materializado de forma física en una unidad de almacenamiento de programas. El programa de aplicación se puede cargar en, y ser ejecutado por, una máquina 35 que comprenda cualquier arquitectura adecuada. Preferentemente, la máquina se implementa en una plataforma informática con hardware, tal como una o más unidades de procesado central (“CPU”), una memoria de acceso aleatorio (“RAM”), e interfaces de entrada/salida (“I/O”). La plataforma informática también puede incluir un sistema operativo y código de microinstrucciones. Los diversos procesos y funciones descritos en la presente pueden ser parte o bien del código de microinstrucciones o bien del programa de aplicación, o cualquier combinación de los 40 mismos, que pueda ser ejecutada por una CPU. Adicionalmente, a la plataforma informática se le pueden conectar otras diversas unidades periféricas, tales como una unidad de almacenamiento de datos adicional y una unidad de impresión.
Aunque la presente invención se ha descrito con respecto a ejemplos particulares y realizaciones preferidas, se entiende que la presente invención no se limita a estos ejemplos y realizaciones. Por tanto, la presente invención, 45 según se reivindica, incluye variaciones con respecto a los ejemplos particulares y realizaciones preferidas descritas en la presente, tal como se pondrá de manifiesto para alguien versado en la materia. Aunque algunas de las realizaciones específicas se pueden describir y reivindicar por separado, se entiende que las diversas características de realizaciones descritas y reivindicadas en la presente se pueden usar combinadas. Los números de referencia que aparecen en las reivindicaciones tienen fines únicamente ilustrativos, y no tendrán ningún efecto limitativo sobre 50 el alcance de las reivindicaciones.

Claims (8)

  1. 5
    10
    15
    20
    25
    30
    35
    40
    45
    50
    REIVINDICACIONES
    1. Método para generar una imagen HDR de una escena, en el que un cuadro actual (f) que constituye una imagen de dicha escena se ha capturado con una exposición actual (E) y un cuadro previo (f-i) que constituye una imagen de dicha escena se ha capturado antes de dicho cuadro actual (f), comprendiendo dicho método:
    - fijar una exposición (Ei+1) para un cuadro subsiguiente (fi+1) en función de dicha exposición actual (E), de una primera distribución de brillo (Hcompletoi) de colores de píxeles de dicho cuadro actual (fi) y de una segunda distribución de brillo (Hmovimientoi) de colores de estos píxeles ponderada por el movimiento de estos píxeles, en donde dicho movimiento se evalúa para estos píxeles en comparación con dicho cuadro previo (fi),
    - capturar dicho cuadro subsiguiente (fi+1) con dicha exposición fijada (Ei+1),
    - fusionar dicho cuadro subsiguiente (fi+1) con al menos dicho cuadro actual (f) en una imagen HDR.
  2. 2. Método para generar una imagen HDR según la reivindicación 1, en el que dicha exposición (Ei+1) para el cuadro subsiguiente (fi+1) se fija en función también de una dirección preferida (din+1) de cambio de exposición para dicho cuadro actual (f i+i).
  3. 3. Método para generar una imagen HDR según la reivindicación 2, que comprende la determinación de una dirección preferida (din+2) de cambio de exposición para un cuadro (f+2) que sigue al cuadro subsiguiente (fi+1).
  4. 4. Método para generar una imagen HDR según una cualquiera de las reivindicaciones 1 a 3, en el que dicha fijación de una exposición (Ei+1) para el cuadro subsiguiente (fi+1) comprende una estimación de una exposición inicial (Einici+1) sobre la base de dicha primera distribución de brillo (Hcompletoi), aunque no sobre la base de dicha segunda distribución de brillo (Hmovimientoi), una estimación de una exposición ajustada (Eajui+1) sobre la base de dicha segunda distribución de brillo (Hmovimientoi), y una estimación final de dicha exposición (Ei+1) para el cuadro subsiguiente (fi+1) adaptada para escoger entre dicha exposición inicial (Einici+1) y dicha exposición ajustada (Eajui+1) como valor para dicha exposición (Ei+1) para el cuadro subsiguiente (fi+1).
  5. 5. Dispositivo de captura de imágenes HDR que comprende un sensor (110) de cuadros configurado para capturar cuadros sucesivos que constituyen imágenes de una escena, especialmente para capturar un cuadro actual (f) con una exposición actual (E) y un cuadro previo (f-i), y un procesador configurado para:
    - fijar una exposición (Ei+1) para un cuadro subsiguiente (fi+1) en función de dicha exposición actual (E), de una primera distribución de brillo (Hcompletoi) de colores de píxeles de dicho cuadro actual (fi) y de una segunda distribución de brillo (Hmovimientoi) de colores de esos píxeles ponderada por el movimiento de estos píxeles, en donde dicho movimiento se evalúa para estos píxeles en comparación con dicho cuadro previo (f-i),
    - activar la captura de dicho cuadro subsiguiente (fi+1) con dicha exposición fijada (Ei+1) por parte de dicho sensor (110) de cuadros,
    - fusionar dicho cuadro subsiguiente (fi+1) con al menos dicho cuadro actual (f) en una imagen HDR.
  6. 6. Dispositivo de captura de imágenes HDR según la reivindicación 5, en el que dicho procesador está configurado también para fijar dicha exposición (Ei+1) para el cuadro subsiguiente (fi+1) en función también de una dirección preferida (din+1) de cambio de exposición para dicho cuadro actual (f¡+i).
  7. 7. Dispositivo de captura de imágenes HDR según la reivindicación 6, en el que dicho procesador está configurado también para determinar una dirección preferida (din+2) de cambio de exposición para un cuadro (f+2) que sigue al cuadro subsiguiente (fi+1).
  8. 8. Dispositivo de captura de imágenes HDR según una cualquiera de las reivindicaciones 5 a 7, en el que dicho procesador está configurado también de tal manera que dicha fijación de una exposición (Ei+1) para el cuadro subsiguiente (fi+1) comprende una estimación de una exposición inicial (Einici+1) sobre la base de dicha primera distribución de brillo (Hcompletoi), aunque no sobre la base de dicha segunda distribución de brillo (Hmovimientoi), una estimación de una exposición ajustada (Eajui+1) sobre la base de dicha segunda distribución de brillo (Hmovimientoi), y una estimación final de dicha exposición (Ei+1) para el cuadro subsiguiente (fi+1) adaptada para escoger entre dicha exposición inicial (Einici+1) y dicha exposición ajustada (Eajui+1) como valor para dicha exposición (Ei+1) para el cuadro subsiguiente (fi+1).
ES16150989.8T 2015-01-19 2016-01-13 Método para generar una imagen HDR de una escena basándose en una solución de compromiso entre la distribución de brillo y el movimiento Active ES2658061T3 (es)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
EP15305054 2015-01-19
EP15305054.7A EP3046319A1 (en) 2015-01-19 2015-01-19 Method for generating an HDR image of a scene based on a tradeoff between brightness distribution and motion

Publications (1)

Publication Number Publication Date
ES2658061T3 true ES2658061T3 (es) 2018-03-08

Family

ID=52444239

Family Applications (1)

Application Number Title Priority Date Filing Date
ES16150989.8T Active ES2658061T3 (es) 2015-01-19 2016-01-13 Método para generar una imagen HDR de una escena basándose en una solución de compromiso entre la distribución de brillo y el movimiento

Country Status (8)

Country Link
US (1) US9648251B2 (es)
EP (2) EP3046319A1 (es)
JP (1) JP6742732B2 (es)
KR (1) KR102638638B1 (es)
CN (1) CN105812675B (es)
ES (1) ES2658061T3 (es)
PL (1) PL3046320T3 (es)
TW (1) TWI682664B (es)

Families Citing this family (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6572004B2 (ja) * 2015-06-18 2019-09-04 オリンパス株式会社 露出制御装置および露出制御方法
US10366478B2 (en) * 2016-05-18 2019-07-30 Interdigital Ce Patent Holdings Method and device for obtaining a HDR image by graph signal processing
JP2018022935A (ja) * 2016-08-01 2018-02-08 ソニー株式会社 撮像装置、および、撮像装置の制御方法
US10049463B1 (en) * 2017-02-14 2018-08-14 Pinnacle Imaging Corporation Method for accurately aligning and correcting images in high dynamic range video and image processing
US10334141B2 (en) * 2017-05-25 2019-06-25 Denso International America, Inc. Vehicle camera system
KR102243292B1 (ko) * 2017-06-02 2021-04-22 한국전자기술연구원 컬러반응곡선을 이용한 hdr 영상 생성방법, hdr 영상 생성장치, 카메라 및 기록매체
IT201800003384A1 (it) * 2018-03-08 2019-09-08 Photosi Spa Unipersonale Procedimento di valutazione automatica della qualità di foto digitali
EP3671625B1 (en) 2018-12-18 2020-11-25 Axis AB Method, device, and system for enhancing changes in an image captured by a thermal camera
US11653101B2 (en) 2019-05-17 2023-05-16 Samsung Electronics Co., Ltd. Imaging system for generating high dynamic range image
US11102422B2 (en) * 2019-06-05 2021-08-24 Omnivision Technologies, Inc. High-dynamic range image sensor and image-capture method
CN110213502B (zh) * 2019-06-28 2022-07-15 Oppo广东移动通信有限公司 图像处理方法、装置、存储介质及电子设备
US11200653B2 (en) * 2019-08-06 2021-12-14 Samsung Electronics Co., Ltd. Local histogram matching with global regularization and motion exclusion for multi-exposure image fusion
KR20210019826A (ko) * 2019-08-13 2021-02-23 삼성전자주식회사 Ar 글래스 장치 및 그 동작 방법
KR20210053377A (ko) 2019-11-01 2021-05-12 삼성전자주식회사 이미지 센서 및 이미지 신호 처리기를 포함하는 이미지 장치, 및 이미지 센서의 동작 방법
CN111246125B (zh) * 2020-01-17 2022-11-01 广州盈可视电子科技有限公司 一种多路视频流合成方法和装置
CN111462268B (zh) * 2020-03-31 2022-11-11 北京市商汤科技开发有限公司 图像重建方法及装置、电子设备和存储介质
CN111586292B (zh) * 2020-04-23 2021-10-22 浙江大华技术股份有限公司 一种摄像状态的切换方法、装置和计算机设备
US11847778B2 (en) * 2020-08-21 2023-12-19 Apple Inc. Image capture techniques personalized to individual subjects being imaged
CN114630053B (zh) * 2020-12-11 2023-12-12 青岛海信移动通信技术有限公司 一种hdr图像显示方法及显示设备
CN112822404B (zh) * 2021-01-12 2022-08-09 Oppo广东移动通信有限公司 一种图像处理方法及装置、存储介质
CN115731146B (zh) * 2022-12-26 2023-05-12 中国人民解放军战略支援部队航天工程大学 基于色彩梯度直方图特征光流估计多曝光图像融合方法
CN117198219B (zh) * 2023-11-07 2024-02-27 惠科股份有限公司 显示屏显示方法、设备、存储介质及装置

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100316717B1 (ko) * 1999-10-05 2001-12-20 윤종용 영상처리 시스템의 다이나믹 레인지 확대 장치 및 방법
US6879731B2 (en) 2003-04-29 2005-04-12 Microsoft Corporation System and process for generating high dynamic range video
CN101095078B (zh) * 2004-12-29 2010-04-28 诺基亚公司 数字成像的曝光
WO2010118177A1 (en) 2009-04-08 2010-10-14 Zoran Corporation Exposure control for high dynamic range image capture
JP5424921B2 (ja) * 2009-08-31 2014-02-26 キヤノン株式会社 画像処理装置及びその制御方法
TWI468009B (zh) * 2010-08-23 2015-01-01 Red Com Inc 高動態範圍視頻
JP5713752B2 (ja) * 2011-03-28 2015-05-07 キヤノン株式会社 画像処理装置、及びその制御方法
CN103002225B (zh) * 2011-04-20 2017-04-12 高通科技公司 多曝光高动态范围图像捕捉
JP5693355B2 (ja) 2011-04-27 2015-04-01 キヤノン株式会社 撮像装置及びその制御方法、プログラム、記憶媒体
KR20130031574A (ko) * 2011-09-21 2013-03-29 삼성전자주식회사 영상 처리 방법 및 영상 처리 장치
JP5898466B2 (ja) * 2011-11-11 2016-04-06 キヤノン株式会社 撮像装置、その制御方法、及びプログラム
US9313420B2 (en) * 2012-01-18 2016-04-12 Intel Corporation Intelligent computational imaging system
US9137451B2 (en) * 2012-03-09 2015-09-15 Htc Corporation Electronic apparatus and adjustment method thereof
CN103581563A (zh) * 2012-07-18 2014-02-12 索尼公司 图像捕获设备、图像捕获设备控制方法和程序
US20150009355A1 (en) * 2013-07-05 2015-01-08 Himax Imaging Limited Motion adaptive cmos imaging system
JP6446790B2 (ja) * 2014-02-21 2019-01-09 株式会社リコー 画像処理装置、撮像装置、画像補正方法およびプログラム

Also Published As

Publication number Publication date
TW201628391A (zh) 2016-08-01
US20160212355A1 (en) 2016-07-21
TWI682664B (zh) 2020-01-11
KR102638638B1 (ko) 2024-02-21
KR20160089292A (ko) 2016-07-27
EP3046320A1 (en) 2016-07-20
EP3046320B1 (en) 2017-12-13
CN105812675B (zh) 2020-06-12
US9648251B2 (en) 2017-05-09
PL3046320T3 (pl) 2018-05-30
JP2016134919A (ja) 2016-07-25
EP3046319A1 (en) 2016-07-20
CN105812675A (zh) 2016-07-27
JP6742732B2 (ja) 2020-08-19

Similar Documents

Publication Publication Date Title
ES2658061T3 (es) Método para generar una imagen HDR de una escena basándose en una solución de compromiso entre la distribución de brillo y el movimiento
JP6911202B2 (ja) 撮像制御方法および撮像装置
ES2868075T3 (es) Procedimiento de control, aparato de control, dispositivo de formación de imágenes y dispositivo electrónico
CN109005364B (zh) 成像控制方法、装置、电子设备以及计算机可读存储介质
US11228720B2 (en) Method for imaging controlling, electronic device, and non-transitory computer-readable storage medium
CN108900782B (zh) 曝光控制方法、装置以及电子设备
CN109788207B (zh) 图像合成方法、装置、电子设备及可读存储介质
US10630888B2 (en) Method and apparatus for selecting capture configuration based on scene analysis
CN108683862B (zh) 成像控制方法、装置、电子设备及计算机可读存储介质
KR101602394B1 (ko) 3d 깊이 정보를 기반으로 한 이미지 블러
US9554057B2 (en) Wide dynamic range depth imaging
CN109068058B (zh) 超级夜景模式下的拍摄控制方法、装置和电子设备
Kalantari et al. Patch-based high dynamic range video.
WO2019179179A1 (zh) 一种图像处理的方法和装置
JP4999763B2 (ja) 撮像装置、撮像方法、プログラム、記録媒体、および集積回路
ES2788854T3 (es) Método y dispositivo de procesamiento de imágenes
JP5102374B2 (ja) 撮像システムにおける移動ぶれ及びゴースト防止のための方法及び装置
US10171743B2 (en) Image pickup apparatus, image processing apparatus, image processing method, and non-transitory computer-readable storage medium for improving quality of captured image
ES2779044T3 (es) Dispositivo y procedimiento de imágenes, y procedimiento de procesamiento de imágenes para dispositivo de imágenes
CN109005369B (zh) 曝光控制方法、装置、电子设备以及计算机可读存储介质
WO2011087734A1 (en) Method for creating high dynamic range image
CN107820019B (zh) 虚化图像获取方法、装置及设备
CN109005363B (zh) 成像控制方法、装置、电子设备以及存储介质
JP2015041984A (ja) 画像処理装置および画像処理方法
CN108881731B (zh) 全景拍摄方法、装置和成像设备