ES2702932T3 - Método y sistema para referenciación geométrica de datos multiespectrales - Google Patents

Método y sistema para referenciación geométrica de datos multiespectrales Download PDF

Info

Publication number
ES2702932T3
ES2702932T3 ES15741955T ES15741955T ES2702932T3 ES 2702932 T3 ES2702932 T3 ES 2702932T3 ES 15741955 T ES15741955 T ES 15741955T ES 15741955 T ES15741955 T ES 15741955T ES 2702932 T3 ES2702932 T3 ES 2702932T3
Authority
ES
Spain
Prior art keywords
detection device
sensor element
region
interest
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
ES15741955T
Other languages
English (en)
Inventor
Bart Michiels
Bavo Delaure
Stefan Livens
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Vito NV
Original Assignee
Vito NV
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Vito NV filed Critical Vito NV
Application granted granted Critical
Publication of ES2702932T3 publication Critical patent/ES2702932T3/es
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C11/00Photogrammetry or videogrammetry, e.g. stereogrammetry; Photographic surveying
    • G01C11/02Picture taking arrangements specially adapted for photogrammetry or photographic surveying, e.g. controlling overlapping of pictures
    • G01C11/025Picture taking arrangements specially adapted for photogrammetry or photographic surveying, e.g. controlling overlapping of pictures by scanning the object
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/28Investigating the spectrum
    • G01J3/2823Imaging spectrometer
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • H04N23/11Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths for generating image signals from visible and infrared light wavelengths
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/12Systems in which the television signal is transmitted via one channel or a plurality of parallel channels, the bandwidth of each channel being less than the bandwidth of the television signal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/183Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64UUNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
    • B64U2101/00UAVs specially adapted for particular uses or applications
    • B64U2101/30UAVs specially adapted for particular uses or applications for imaging, photography or videography
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/28Investigating the spectrum
    • G01J3/2823Imaging spectrometer
    • G01J2003/2826Multispectral imaging, e.g. filter imaging

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Image Processing (AREA)
  • Spectrometry And Color Measurement (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Investigating Or Analysing Materials By Optical Means (AREA)
  • Image Analysis (AREA)
  • Geophysics And Detection Of Objects (AREA)
  • Image Input (AREA)

Abstract

Un dispositivo de detección (100) para obtener datos geométricos de imagen multiespectral referenciada de una región de interés en movimiento relativo con respecto al dispositivo de detección (100), el dispositivo de detección (100) comprende: - al menos un primer elemento de sensor bidimensional (112), el dispositivo de detección (100) se adapta para obtener subsiguientes imágenes multiespectrales durante dicho movimiento relativo de la región de interés con respecto al dispositivo de detección proporcionando así distinta información espectral para diferentes partes de una región de interés usando el primer elemento de sensor (112); - un segundo elemento de sensor bidimensional (122), el dispositivo de detección (100) se adapta para proporcionar, usando el segundo elemento de sensor (122), una imagen de la región de interés para generar información de referencia geométrica a acoplar a la distinta información espectral; el primer elemento de sensor bidimensional (112) puede funcionar para capturar una primera secuencia de fotogramas a una primera tasa de fotogramas y el segundo elemento de sensor bidimensional (122) puede funcionar para capturar una segunda secuencia de fotogramas a una segunda tasa de fotogramas; caracterizado por que la primera tasa de fotogramas es mayor que la segunda tasa de fotogramas; por que el dispositivo de detección (100) comprende además un procesador configurado para generar información intermedia de referencia geométrica a acoplar a fotogramas de dicha primera secuencia de fotogramas para los que no hay disponible fotograma sincrónico de dicha segunda secuencia de fotogramas, dicha información intermedia de referencia geométrica se deriva de uno o más fotogramas adyacentes en el tiempo de dicha segunda secuencia de fotogramas; y por que dicha información de referencia geométrica derivada de dicho uno o más fotogramas adyacentes en el tiempo incluye parámetros de postura de plataforma que se interpolan a partir de parámetros correspondientes derivados de dicho uno o más fotogramas adyacentes temporalmente.

Description

DESCRIPCIÓN
Método y sistema para referenciación geométrica de datos multiespectrales
Campo de la invención
La invención está relacionada con el campo de captura de imagen, p. ej. en obtención aérea o industrial de imágenes. Más particularmente, la presente invención está relacionada con sistemas de detección para obtener imágenes multiespectrales, correspondientes sistemas de obtención de imágenes y métodos para usarlos.
Antecedentes de la invención
La obtención de imágenes hiperespectrales es una forma de obtención de imágenes espectrales en donde se recoge información a través del espectro electromagnético en muchas bandas espectrales estrechas y se procesa. A partir de las diferentes imágenes espectrales que se recogen, se puede derivar información de los objetos de los que se obtienen imágenes. Por ejemplo, conforme ciertos objetos dejan firmas espectrales únicas en imágenes que pueden incluso depender del estado del objeto, información obtenida por obtención de imágenes multiespectrales puede proporcionar información en relación con la presencia y/o el estado de objetos en una región de la que se están obteniendo imágenes. Tras la selección de un intervalo espectral del que se obtendrán imágenes, como en este intervalo espectral completo se pueden adquirir imágenes espectrales, no hay necesidad de tener conocimiento previo detallado de los objetos, y el posprocesamiento puede permitir obtener toda la información disponible. Mientras que originalmente para minería y geología se usaba principalmente detección remota hiperespectral, otras aplicaciones tales como ecología, agricultura y vigilancia también hacen uso de la técnica de obtención de imágenes.
Se conocen algunas aplicaciones agrícolas y ecológicas en donde se usa detección remota hiperespectral, p. ej. para monitorizar el desarrollo y la salud de cosechas, detección de variedad de uva, monitorización de dosel forestal individual, detección de la composición química de plantas así como detección temprana de brotes de enfermedades, monitorización de impacto de la contaminación y otros factores ambientales, etc. son algunas de las aplicaciones agrícolas de interés. La obtención de imágenes hiperespectrales también se usa para estudios de aguas interiores y costeras para detectar propiedades biofísicas. En mineralogía, la detección de minerales valiosos tales como oro o diamantes se puede realizar usando detección hiperespectral, pero también se concibe la detección de aceite y fuga de gas desde conductos y pozos naturales. Detección de composición de terreno en la tierra o incluso en otros planetas, asteroides o cometas también son posibles aplicaciones de obtención de imágenes hiperespectrales. En vigilancia, por ejemplo, se puede realizar obtención de imágenes hiperespectrales para detección de criaturas vivas.
En algunas aplicaciones, se pueden obtener datos multiespectrales recogiendo una imagen bidimensional completa de una región en un intervalo espectral de interés y posteriormente recogiendo otras imágenes bidimensionales completas de esa región en otros intervalos espectrales de interés por lo que filtros espectrales se conmutan entremedio. Esta manera de recogida de datos no obstante no siempre es posible, especialmente cuando la región de interés y el sistema de obtención de imágenes experimentan un gran movimiento relativo entre sí.
En vista del movimiento relativo, es importante la determinación precisa de información posicional para una correcta interpretación de los diferentes datos espectrales recogidos. Sistemas conocidos hacen uso de un sistema de posicionamiento global (GPS) y/o una unidad de medición inercial (IMU).
La publicación de solicitud de patente internacional WO 2011/073430 A1, en nombre del presente solicitante, describe un dispositivo de detección para obtener datos geométricos de imagen multiespectral referenciada de una región de interés en movimiento relativo con respecto al dispositivo de detección. El dispositivo de detección comprende un primer elemento de sensor bidimensional. El dispositivo de detección se adapta para obtener imágenes subsiguientes multiespectrales durante dicho movimiento relativo de la región de interés con respecto al dispositivo de detección, proporcionando así información espectralmente distinta para diferentes partes de una región de interés usando diferentes partes del primer sensor. El dispositivo de detección también comprende un segundo elemento de sensor bidimensional y se adapta para proporcionar, usando el segundo elemento de sensor, una imagen de la región de interés para generar información de referencia geométrica a acoplar a la distinta información espectral.
El dispositivo de sensor conocido adquiere datos espectrales (con el primer elemento de sensor) y datos geométricos (con el segundo elemento de sensor) a la misma tasa de fotogramas, p. ej. 50 fotogramas por segundo.
Cuando la tasa de fotogramas se aumenta aún más, el dispositivo de sensor conocido genera una gran cantidad de datos que pueden ser difíciles de manejar y el registro de los datos espectrales con los datos geométricos se vuelve computacionalmente más exigente.
Esta desventaja puede hacer que el dispositivo de sensor conocido sea menos adecuado para aplicaciones que requieren un gran número de canales espectrales. Entonces a tasa de fotogramas muy alta se requiere asegurar cobertura espacial completa en todas las bandas pertinentes del espectro.
Compendio de la invención
Un objeto de realizaciones de la presente invención es vencer al menos parcialmente las desventajas del dispositivo de sensor de la técnica anterior.
Más particularmente, un objeto de realizaciones de la presente invención es proporcionar un dispositivo de sensor que se pueda usar eficientemente a mayores tasas de fotogramas del elemento de detección espectral. Según un aspecto de la presente invención, se proporciona un dispositivo de detección según la reivindicación 1.
Una ventaja de la presente invención es que el segundo sensor de imagen puede funcionar a una tasa de fotogramas reducida, dando como resultado que se genere una cantidad menos masiva de datos. Esta arquitectura permite así un aumento en la tasa de fotogramas del sensor espectral, que a su vez permite el uso de un sensor espectral con más canales de longitud de onda. De esta manera, se puede proporcionar un dispositivo de detección hiperespectral muy eficiente.
En una realización del dispositivo de detección según la presente invención, dicha segunda tasa de fotogramas se selecciona para asegurar una cantidad predeterminada de solapamiento entre regiones respectivas en las que se han obtenido imágenes de fotogramas consecutivas de dicha segunda secuencia de fotogramas.
Una ventaja de esta realización es que la segunda tasa de fotogramas se puede ajustar para proporcionar la cantidad necesaria de solapamiento para permitir referenciación geométrica apropiada, mientras la primera tasa de fotogramas se puede establecer al valor requerido para proporcionar cobertura espacial completa de todas los canales pertinentes de longitud de onda. La primera tasa de fotogramas puede ser de manera que se establezca un solapamiento de la imagen, p. ej. con al menos el 10%, más ventajosamente con al menos el 25%, todavía más ventajosamente con al menos el 50% tal como p. ej. con el 60% de solapamiento, con la imagen anterior, de manera que se puede detectar información en relación con el cambio relativo en la orientación del instrumento entre subsiguientes imágenes.
En una realización del dispositivo de detección según la presente invención, un filtro espectral y el primer elemento de sensor se disponen para obtener información espectral en una primera longitud de onda o intervalo de longitudes de onda usando una parte del primer elemento de sensor y para obtener información espectral en una segunda longitud de onda o intervalo de longitudes de onda usando otra parte del primer elemento de sensor.
Esta es una manera particularmente ventajosa de implementar el primer elemento de sensor en el sistema según la presente invención.
En una realización del dispositivo de detección según la presente invención, el primer elemento de sensor y el segundo elemento de sensor se integran en el mismo sustrato.
Una ventaja de esta realización es que la relación espacial entre el primer elemento de sensor y el segundo elemento de sensor es fija, lo que facilita la georreferenciación y elimina la necesidad de recalibración frecuente del dispositivo de detección. Una ventaja adicional de esta realización es que integración y fabricación en el mismo chip puede dar como resultado similar comportamiento térmico de los al menos dos sensores, lo que puede ser de importancia significativa como para VANT ligeros, típicamente no se puede proporcionar compensación para cargas térmicas en los sistemas en vista del peso. Un comportamiento térmico similar de los sensores también puede ser ventajoso en otras aplicaciones, ya que no se necesita nada o poca compensación de carga térmica.
Según un aspecto de la presente invención, se proporciona un sistema de obtención de imágenes que comprende el dispositivo de detección descrito anteriormente.
Según un aspecto de la presente invención, se proporciona un vehículo aéreo que comprende el sistema de obtención de imágenes descrito anteriormente.
Según un aspecto de la presente invención, se proporciona un método para obtener datos de imagen multiespectral referenciada geométricamente de una región de interés en movimiento relativo con respecto a un dispositivo de detección según la reivindicación 7.
Según un aspecto de la presente invención, se proporciona un producto de programa informático que comprende medios de código configurados para provocar que un procesador lleve a cabo el método según la reivindicación 7.
Los efectos técnicos y las ventajas de realizaciones del sistema de obtención de imágenes, el vehículo aéreo, el método, y el producto de programa informático según la invención corresponden, mutatis mutandis, a los de las realizaciones correspondientes del dispositivo de detección según la presente invención.
Breve descripción de las figuras
Ahora se describirán estos y otros aspectos técnicos y ventajas de realizaciones de la presente invención más en detalle con referencia a los dibujos adjuntos, en los que:
La figura 1 muestra una descripción general esquemática de un dispositivo de detección para obtener datos multiespectrales georreferenciados que se pueden usar en una realización de la presente invención;
La figura 2 muestra una ilustración esquemática de la disposición de elementos de sensor en el dispositivo de detección para obtener datos multiespectrales georreferenciados, como se describe en el documento WO 2011/073430 A1, que se puede mejorar según la presente invención;
La figura 3 ilustra varias imágenes hiperespectrales que se pueden usar en un sistema según una realización de la presente invención;
La figura 4 muestra un sistema de obtención de imágenes que comprende un dispositivo de detección para obtener datos de imagen multiespectral de georreferencia según una realización de la presente invención;
La figura 5 representa un diagrama de temporización de la captura de fotogramas espectrales (S) y geométricos (G) según una realización de la presente invención;
La figura 6 representa un diagrama de flujo de una realización de la presente invención;
La figura 7 representa un diagrama de flujo de un algoritmo para uso en una realización de la presente invención;
La figura 8 proporciona una primera gráfica que ilustra algoritmos de filtrado e interpolación usados en realizaciones de la presente invención; y
La figura 9 proporciona una segunda gráfica que ilustra algoritmos de filtrado e interpolación usados en realizaciones de la presente invención.
En los diferentes dibujos, donde sea aplicable, los mismos signos de referencia se refieren a los mismos elementos o análogos.
Descripción de realizaciones
Para fines ilustrativos, la invención se describirá con referencia al dispositivo de detección de la solicitud de patente internacional mencionada anteriormente publicación WO 2011/073430 A1, pero esto se hace sin pérdida de generalidad. Los rasgos de caracterización de la presente invención se pueden combinar con rasgos de diversas realizaciones del dispositivo de detección conocido, como se describe más en detalle en la siguiente descripción. Se omiten detalles del dispositivo de detección conocido donde esto no sea necesario para entender la presente invención.
Donde en la presente invención se hace referencia a una imagen multiespectral bidimensional, se hace referencia a una imagen pixelada m x n que comprende información en relación con una parte de una región de interés de la que se han obtenido imágenes en una longitud de onda o región espectral y que comprende información en relación con al menos otra parte de una región de interés de la que se han obtenido imágenes a una longitud de onda o región espectral diferentes. Mientras que la información espectral obtenida dentro de una región espectral puede ser una línea, grupo o submatriz de lo píxeles, el sensor pixelado subyacente en conjunto típicamente es un sensor espectral bidimensional. Realizaciones según la presente invención pueden ser aplicables en un amplio intervalo espectral de radiación electromagnética. Intervalos particulares que se pueden cubrir son el visual e IR cercano (VNIR), típicamente considerados en el intervalo de 400 nm a 1000 nm), infrarrojos de onda corta, infrarrojos térmicos, etc., realizaciones de la presente invención no se limitan a los intervalos ejemplares dados. Donde en realizaciones de la presente invención se hace referencia a una imagen multiespectral o datos de imagen multiespectral, se hace referencia a datos que comprenden información separada en relación con una región de interés para al menos dos longitudes de onda o regiones de longitudes de onda diferentes. Imágenes o datos de imagen hiperespectrales se refieren a datos que comprenden información separada para un número grande de longitud de onda o regiones de longitudes de onda. A menos que se señale de otro modo, referencias a imágenes multiespectrales incluyen imágenes hiperespectrales.
Donde en realizaciones según la presente invención se hace referencia a georreferenciación o referenciación geométrica de un punto u objeto en la región de interés, se hace referencia a la existencia del punto u objeto en una región de interés en espacio físico. Se refiere a establecer la ubicación en términos de mapear proyecciones o sistemas de coordenada. Lo último puede por ejemplo incluir información posicional, p. ej. información posicional relativa. Dicha información posicional puede ser información posicional relacionada (x,y), pero también información posicional relacionada con z tal como altura o altura relativa. No es únicamente aplicable a fotografía aérea, obtención de imágenes aéreas u obtención de imágenes por satélite, donde a menudo se le hace referencia como georreferenciación, sino también en otras aplicaciones, tales como por ejemplo en inspección industrial.
En un primer aspecto, la presente invención está relacionada con un dispositivo de detección para obtener datos geométricos de imagen multiespectral referenciada. El dispositivo de detección puede ser adecuado especialmente para obtención de imágenes hiperespectrales, aunque realizaciones de la presente invención no se limitan a la misma. El dispositivo de detección según realizaciones de la presente invención es especialmente adecuado para obtener datos geométricos de imagen multiespectral referenciada, usando un dispositivo de detección y una región de interés en movimiento relativo relativamente entre sí, que por ejemplo es el caso cuando se realiza obtención de imágenes desde el aire o cuando se realiza obtención de imágenes usando una vista superior. El dispositivo de detección según realizaciones de la presente invención comprende un único sustrato, p. ej. un único chip. El sustrato puede ser cualquier tipo de sustrato, tal como por ejemplo un sustrato de vidrio, un sustrato de polímero, un sustrato semiconductor, etc. En algunas realizaciones ventajosas, el sustrato puede ser un chip semiconductor, que proporciona la posibilidad de usar etapas de procesamiento semiconductor para integración de los elementos de sensor. El único chip comprende al menos un primer elemento de sensor bidimensional, por lo que el dispositivo de detección se adapta para proporcionar información espectralmente diferente para diferentes partes de una región de interés usando el primer elemento de sensor bidimensional. El único chip también comprende un segundo elemento de sensor bidimensional, por lo que el dispositivo de detección se adapta para proporcionar información de referencia geométrica de la región de interés usando el segundo elemento de sensor. La información de referencia geométrica ventajosamente se puede acoplar a la información espectral obtenida por el dispositivo de detección. Una ventaja de realizaciones según la presente invención es que al menos un primer y segundo elemento de sensor se procesan en el mismo chip. Lo último permite una alineación precisa de los elementos de sensor, de manera que se requiere poca o nada de alineación subsiguiente para posicionar los elementos de sensor relativamente entre sí.
A modo de ilustración, la presente invención no se limita a la misma, un dispositivo de detección ejemplar así como sistema de obtención de imágenes que comprende este tipo de dispositivo de detección se tratará además con referencia de la figura 1 a la figura 3, realizaciones de la presente invención no se limitan a las mismas.
En la figura 1, se muestra un dispositivo de detección 100 según una realización de la presente invención, en donde el dispositivo de detección 100 comprende al menos un primer elemento de sensor 112 y un segundo elemento de sensor 122 procesados en el mismo chip, es decir, procesados en el mismo sustrato 102. El primer elemento de sensor 112 y el segundo elemento de sensor 122 y elementos de sensor adicionales opcionales pueden ser así elementos de sensor procesados homogénea o heterogéneamente, procesados en el mismo sustrato 102. Ventajosamente, los elementos de sensor son elementos de sensor 112, 122 procesados homogéneamente en el mismo sustrato 102. Los elementos de sensor 112, 122 se pueden integrar en el mismo sustrato 102 por lo que las diferentes capas que constituyen los diferentes elementos de sensor se procesan para ambos elementos de sensor 112, 122 usando la misma tecnología de procesamiento, por ejemplo - pero sin limitación - tecnología de procesamiento CMOS. Los elementos de sensor típicamente pueden comprender una pluralidad de píxeles. Los píxeles típicamente se pueden disponer en forma de matriz en varias columnas y filas, aunque la invención no se limita a la misma. A los elementos de sensor se les puede hacer referencia como elementos de sensor de fotograma, ya que los elementos de sensor son elementos de sensor bidimensionales, que comprenden, p. ej., una matriz de m x n píxeles de sensor. Los dos elementos de sensor se pueden seleccionar de modo que al menos uno del número de píxeles en una fila o el número de píxeles en una columna sea el mismo para ambos sensores. En una realización ventajosa, los elementos de sensor pueden comprender un alto número de píxeles en una dirección para obtención de imágenes simultáneamente una región de interés relativamente ancha con una resolución espacial relativamente alta. Si por ejemplo el dispositivo de detección se usa para detectar o monitorizar una región de interés usando un VANT, una anchura preferida de escaneo puede ser al menos 1000 m, más ventajosamente al menos 2000 m, todavía más ventajosamente al menos 3000 m. Teniendo en cuenta un resolución preferida de terreno de al menos 1 m, más ventajosamente al menos 50 cm, todavía más ventajosamente al menos 30 cm, el número de píxeles en una dirección puede ser en algunos ejemplos al menos 1000, en otros ejemplos al menos 4000, en todavía otros ejemplos 10000. A modo de ilustración, realizaciones de la presente invención no limitadas por lo mismo, un ejemplo de una disposición para los elementos de sensor 112, 122 en el sustrato se muestra en la figura 2. Los elementos de sensor 112, 122 ventajosamente se alinean en superficie. La distancia entre los dos sensores puede ser más pequeña que 1 mm, aunque realizaciones de la presente invención no se limitan por lo mismo.
El dispositivo de detección 100 comprende además circuitería de impulsión y de lectura para impulsar los elementos de sensor 112, 122. La circuitería de impulsión y lectura 130 se puede adaptar para impulsar los elementos de sensor 112, 122 de manera diferente entre sí. La circuitería de impulsión y lectura 130 puede ser un circuito de impulsión y lectura como se conoce de la técnica anterior, por lo que la circuitería de impulsión y lectura 130 puede comprender componentes tales como amplificadores, conmutadores, un bus, etc. En algunas realizaciones, el diseño de píxel, la estructura de columna y el impulsor de bus se disponen de modo que se puede evitar un multiplexor que sigue el bus, dando como resultado una mejor calidad de imagen. La circuitería de impulsión y lectura también se puede adaptar para leer los elementos de sensor 112, 122. La lectura se puede optimizar para lectura eficiente y rápida. Por ejemplo en un sensor de 10000 x 1200 la tasa de fotogramas a resolución completa puede ser al menos 35 fotogramas por segundo, p. ej. al menos 50 fotogramas por segundo. La impulsión y la lectura también pueden ser realizadas por componentes diferentes, es decir, se puede proporcionar una circuitería de impulsión separada y circuitería de lectura separada. Los sensores se pueden equipar con obturadores de modo que se puede obtener una obturación rápida, p. ej. obturación electrónica. Los elementos de sensor así como la circuitería de impulsión y lectura se pueden procesar en el mismo chip o matriz usando procesamiento de semiconductor, tal como por ejemplo tecnología CMOS, realizaciones de la invención no se limitan a la misma.
Según realizaciones de la presente invención, el dispositivo de detección se adapta para proporcionar diferente información espectral para diferentes partes de una región de interés usando el primer elemento de sensor bidimensional. El dispositivo de detección se puede adaptar así para generar una imagen multiespectral. En algunas realizaciones, el dispositivo de detección se puede adaptar para generar datos hiperespectrales, es decir, en muchas bandas espectrales estrechas. Como el primer elemento de sensor según realizaciones de la presente invención es un elemento de sensor bidimensional y como se va a capturar diferente información espectral, típicamente parte del elemento de sensor se puede usar para obtener información espectral en una primera longitud de onda o en una primera región de longitudes de onda para una parte de la región de interés, y al menos otra parte del elemento de sensor se puede usar para obtener información espectral a al menos una segunda longitud de onda o en al menos una segunda región de longitudes de onda para al menos otra parte de la región de interés. En algunas realizaciones, se pueden usar diferentes líneas del elemento de sensor para recopilar datos a diferentes longitudes de onda espectrales o en diferentes regiones de longitudes de onda espectrales. En otras realizaciones se pueden usar por ejemplo diferentes bloques del elemento de sensor para detectar diferentes datos espectrales o se pueden usar diferentes columnas para detectar diferentes datos espectrales. A fin de capturar diferente información espectral, puede haber presente un filtro multiespectral 114, ventajosamente filtro hiperespectral. El filtro multiespectral 114 forma junto con el primer elemento de sensor 112 y la circuitería de impulsión y lectura o parte de la misma para controlar el primer elemento de sensor 112, el primer sensor. El filtro multiespectral puede ser aplicado directamente al primer elemento de sensor, p. ej. comportarse mecánicamente como único elemento. Como alternativa, los dos componentes pueden estar separados entre sí, pero configurados o dispuestos de modo que se obtiene filtrado apropiado. A modo de ilustración, ahora se tratarán algunos ejemplos de sensores multiespectrales.
A modo de ilustración un conjunto de datos hiperespectrales que se pueden obtener usando un sensor según una realización ejemplar de la presente invención se muestra en la figura 3. Mientras que se hace referencia a datos hiperespectrales, lo último también se aplica a datos multiespectrales. La figura 3 ilustra una pluralidad de imágenes hiperespectrales subsiguientes registradas en m lapsos de tiempo subsiguientes, por lo que los espectros se registran para un movimiento relativo entre región de interés y sistema de detección o de obtención de imágenes correspondiente con un cambio total en una distancia xm - x1 recorrida durante la total de los lapsos de tiempo subsiguientes.
La figura 3 ilustra m imágenes hiperespectrales, cada imagen consiste en m líneas, en donde línea Lj comprende información de longitud de onda Aj o p. ej. de banda espectral Aj - Aj .-i . Las diferentes imágenes se registran dentro de m periodos subsiguientes. A modo de ilustración, la obtención de imágenes de una posición física en coordenadas Xp e yq de la región de interés se indica por todas los diferentes imágenes hiperespectrales. Por ejemplo se puede ver que en la información en relación con la posición física en la coordenada xi para diferentes coordenadas yq de la región de interés en la primera imagen hiperespectral HI1 se encuentra en la línea 1, en la segunda imagen hiperespectral HI2 se encuentra en línea 2, en la tercera imagen hiperespectral HI3 se encuentra en la línea 3,... y en la m-ésima imagen hiperespectral HIm se encuentra en línea m. En cada una de estas imágenes hiperespectrales esta información se obtiene como imágenes para una longitud de onda o región de longitudes de onda diferentes. Visto de una manera alternativa, se puede encontrar información en relación con la región de interés de la que se han obtenido imágenes en longitud de onda Am o en una correspondiente banda espectral Am - Am-1, combinando la información en la línea m de imágenes hiperespectrales subsiguientes como líneas de imagen adyacentes, el grupo sobre las m imágenes hiperespectrales que forman una imagen de m x n de la región de interés de la que se han obtenido imágenes en longitud de onda Am o en una correspondiente banda espectral Am - Am-1. De manera similar, las otras líneas de m imágenes hiperespectrales subsiguientes contienen información en relación con una región de interés en una longitud de onda o en una banda espectral diferente. Lo último ilustra cómo imágenes hiperespectrales proporcionan información en relación con diferentes longitudes de onda espectrales o en diferentes bandas espectrales y cómo imágenes hiperespectrales subsiguientes registradas durante movimiento relativo de la región de interés y sistema de detección pueden proporcionar una imagen de la región de interés completa para diferentes longitudes de onda o en diferentes bandas espectrales. Se debe señalar, que mientras el principio se ilustra para subsiguientes líneas que cubren diferentes longitudes de onda, realizaciones de la presente invención no se limitan a las mismas, y la variedad de información espectral también se puede obtener en otras direcciones, p. ej. información espectral variable para subsiguientes columnas. Además, mientras que el principio se ilustra para un sensor en donde cada línea corresponde con una longitud de onda o región espectral diferente, realizaciones de la presente invención no se limitan a las mismas y varias líneas de la imagen espectral pueden corresponder con la misma longitud de onda o región espectral. Una característica de una imagen espectral es que la imagen comprende información en relación con al menos dos longitudes de onda o regiones espectrales diferentes. Capturar información usando el principio que se ha descrito anteriormente tiene la ventaja de usar un elemento de sensor bidimensional, se registran imágenes bidimensionales a longitudes de onda o regiones espectrales diferentes, es decir, dan como resultado información tridimensional (dos dimensiones posicionales, una dimensión espectral). En otras palabras, en algunas realizaciones según la presente invención, el elemento de sensor para datos espectrales se puede usar como conjunto de subelementos de detección de línea o bloque cada subelemento registra información posicional para un longitud de onda dada o en una región espectral, por lo que registrar en el tiempo durante movimiento relativo de la región de interés con respecto al elemento de sensor corresponde con escanear diferentes posiciones de una región de interés. Como se ha descrito anteriormente, el dispositivo de detección 100 comprende además un segundo elemento de sensor bidimensional 122 que forma, junto con la circuitería de impulsión y lectura o parte de la misma para impulsar el segundo elemento de sensor bidimensional 122, el segundo sensor 120. El segundo sensor 120 se puede adaptar para obtener una imagen de la región de interés de la que se puede obtener información de georreferenciación. El segundo sensor 120 se puede adaptar para proporcionar una imagen de alta resolución, proporcionando información geométrica detallada, p. ej. información geográfica, en relación con la región de interés. Imágenes obtenidas por medio del segundo sensor 120 pueden permitir derivar puntos de amarre en la región de interés de la que se han obtenido imágenes.
La frecuencia a la que se capturan las imágenes con el segundo sensor puede ser de manera que se establezca un solapamiento de la imagen, p. ej. con al menos el 10%, más ventajosamente con al menos el 25%, todavía más ventajosamente con al menos el 50% tal como, p. ej., con el 60% de solapamiento, con la imagen anterior, de manera que se puede detectar información en relación con el cambio relativo en la orientación del instrumento entre imágenes subsiguientes. La información obtenida en relación con rotación se puede usar como información de referencia geométrica, según realizaciones de la presente invención, para acoplarse a los datos multiespectrales obtenidos usando el primer sensor 110, de modo que se pueden obtener datos multiespectrales georreferenciados.
Según la invención, la frecuencia a la que la se capturan imágenes con el segundo sensor es menor que a la que se capturan imágenes con el primer sensor. Preferiblemente, la frecuencia de adquisición de imágenes del segundo sensor es una fracción entera de la frecuencia de adquisición de imágenes del primer sensor, de manera que imágenes adquiridas con el primer sensor coinciden periódicamente en el tiempo con imágenes adquiridas con el segundo sensor. Para las imágenes del primer sensor para el que no existe imagen sincrónica del segundo sensor, se tienen que usar datos geométricos interpolados. Estos datos geométricos interpolados se obtienen de las imágenes de segundo sensor que están más cerca en tiempo de adquisición a la pretendida imagen de primer sensor, preferiblemente las imágenes de segundo sensor inmediatamente anteriores e inmediatamente después de la imagen pretendida de primer sensor. Tal diferencia en frecuencias de adquisición de imágenes se ilustra esquemáticamente en la figura 5.
En realizaciones de la presente invención, se usa un algoritmo de interpolación que es específicamente idóneo para interpolación de postura de plataforma. Los parámetros a interpolar incluyen los diversos ángulos que describen la postura del dispositivo de detección. Por consiguiente, ciertas realizaciones usan al menos parcialmente interpolación de datos de postura en coordenadas angulares.
En realizaciones de la presente invención, el algoritmo de interpolación usa derivadas primeras (velocidad angular y/o lineal) y derivadas segundas (aceleración angular y/o lineal) para predecir la postura del dispositivo de detección en momentos entre imágenes capturadas, teniendo en cuenta las leyes de mecánica que gobiernan el movimiento del dispositivo de detección y la plataforma sobre la que se monta (p. ej., un vehículo aéreo). Estas derivadas primeras y segundas se pueden obtener de una unidad de medición inercial (incluidos GPS, giroscopios, acelerómetros, etc.).
La finalidad del algoritmo de interpolación es obtener estimaciones precisas sobre posición y orientación externa de la plataforma para cada imagen de primer sensor (imagen espectral), sobre la base de las imágenes (adquiridas menos frecuentemente) de segundo sensor. Las entradas para esto se pueden obtener de dos fuentes independientes:
- GPS/IMU filtrado (intervalos de tiempo cortos)
Usando GPS (para posición) y IMU (para postura): Proporcionar datos de medición "sin procesar" a pequeños intervalos de tiempo. Estos datos son típicamente ruidosos y las mediciones individuales no son muy precisas. Se acostumbra a filtrar los datos usando "filtrado de Kalman" (que es el filtro óptimo para este tipo de datos) para lograr estimaciones suaves "más plausibles" en todos los puntos en el tiempo. Este filtrado se muestra como "corrección estática" en el diagrama de la figura 7.
- Basado en imagen (alta precisión)
Usando datos de imagen: (imágenes de segundo sensor de alta calidad, alta resolución espacial). Se hacen coincidir puntos dedicados en las imágenes usando rasgos (puntos de control de suelo). Esto puede rendir estimaciones muy precisas de posición y postura para los puntos de tiempo para los que hay un fotograma-G disponible.
Se pueden obtener resultados óptimos para todas imágenes de primer sensor (es decir, todos puntos de tiempo) combinando las dos fuentes de información. Se enumeran tres posibles métodos:
1. Corrección: se usan los resultados filtrados, y cada vez que hay disponible un resultado basado en imagen, se corrige el resultado filtrado al valor basado en imagen aplicando una compensación simple. Esta compensación se mantiene constante para los siguientes resultados filtrados. Cuando está disponible el siguiente resultado basado en imagen se calcula el error con el resultado obtenido. Esto se alimenta atrás al bucle para establecer la nueva compensación. El proceso se representa en la figura 7.
Un ejemplo de resultado para una única variable se muestra en la gráfica presentada en la figura 8. Los datos medidos son los puntos, que muestran sustancial ruido entre puntos subsiguientes. La curva inferior de puntos representa los resultados filtrados con Kalman. En el punto 1, 11 y 21, también hay un resultado basado en imagen. La compensación se establece en el punto 1 y se aplica hasta el punto 10. En el punto 11 se calcula una nueva compensación y se aplica hasta el punto 21. Los resultados se muestran en la curva sólida. En el punto 11 y 21, se aplican nuevas compensaciones, que dan como resultado saltos bruscos en la curva.
2. Interpolación: Ajustar el resultado filtrado por GPS/IMU a los valores del resultado basado en imagen para los puntos de tiempo disponibles. En lugar de aplicar compensaciones fijas como en el método anterior, las compensaciones se calculan en todos los puntos donde sea posible, y se interpolan para todos los puntos intermedios. Se puede asumir una interpolación lineal simple.
Un ejemplo de esto se muestra en la gráfica presentada en la figura 9. La curva de trazos muestra ahora la interpolación lineal entre las compensaciones. En el resultado final el comportamiento lineal del resultado filtrado se sustituye por el resultado basado en imagen interpolado. Se muestra en la línea continua en la gráfica. Esto coincide con los puntos basados en imagen, y sigue la forma filtrada de la curva filtrada intermedia. La ventaja es que se evitan saltos en el resultado. La desventaja es que los resultados intermedios únicamente se pueden calcular después de que esté disponible el siguiente resultado basado en imagen.
3. Añadir resultados basados en imágenes al filtrado Kalman: Los resultados basados en imagen se pueden añadir simplemente al conjunto de datos sin procesar de GPS/IMU. Cuando se dan pesos apropiados para reconocer la precisión más alta, la filtrado Kalman tendrá esto en cuenta y usará la información óptimamente. Esto lleva en principio a resultados superiores.
Realizaciones de la presente invención también están relacionadas con un sistema de obtención de imágenes. Una representación esquemática de un sistema de obtención de imágenes 200 que comprende un sistema de detección según realizaciones de la presente invención se muestra en la figura 4 a modo de ejemplo. El sistema de obtención de imágenes 200 comprende un dispositivo de detección 100 como se describe por ejemplo anteriormente. Además, el sistema de obtención de imágenes 200 comprende elementos ópticos adicionales para guiar radiación a los dos elementos de detección del dispositivo de detección 100. Tales elementos ópticos pueden comprender por ejemplo al menos una lente 210 para capturar la radiación a recoger y enfocar la radiación sobre los elementos de sensor. En algunas realizaciones, se puede usar una única lente 210 para recoger la radiación para ambos elementos de sensor, mientras que en otras realizaciones se pueden usar diferentes lentes para los diferentes elementos de sensor. En algunas realizaciones según la presente invención, la radiación recogida se puede dividir para los dos elementos de sensor usando un divisor de radiación, tal como por ejemplo un divisor de haz 220. Como alternativa o adicionalmente al mismo, la configuración de los elementos de sensor 112, 122 procesada en el mismo sustrato 102 puede permitir tener en cuenta información posicional entre los elementos de sensor cuando se correlacionan las imágenes obtenidas usando los dos elementos de sensor.
El sistema de obtención de imágenes puede comprender además un procesador de imágenes 230 para correlacionar las imágenes obtenidas con el primer sensor 110 y el segundo sensor 120. El procesador de imágenes puede por ejemplo correlacionar información geométrica, p. ej. información posicional, obtenida con el segundo sensor 120 con información espectral obtenida en diferentes canales espectrales en el primer sensor 110, de modo que se obtiene información hiperespectral precisa. Dicho procesamiento de imagen se puede realizar en un único procesador o en una pluralidad de procesadores. El procesamiento se puede realizar después de haber capturado el conjunto completo de imágenes, aunque en algunas realizaciones se puede realizar procesamiento sustancialmente directo, tan pronto como en ambos sensores 110, 120 se captura toda la información en relación con la misma región de interés. Una descripción más detallada del procesamiento de imagen que puede ser realizado por un procesador 230 según realizaciones de la presente invención se tratará adicionalmente más tarde con referencia a la figura 6, que ilustra etapas estándar y opcionales de un ejemplo de un método para detectar según una realización de la presente invención.
El dispositivo de obtención de imágenes puede comprender además un sistema de posicionamiento global para proporcionar datos GPS y/o una unidad de medición inercial para proporcionar datos inerciales en relación con el sistema de obtención de imágenes. Tales componentes pueden ayudar a proporcionar datos de georreferenciación aproximada, lo que puede ayudar a derivar datos espectrales georreferenciados basados en la imagen obtenida con el segundo sensor 120.
En un aspecto, la presente invención así también está relacionada con un sistema de obtención de imágenes como se ha descrito anteriormente que comprende un dispositivo de detección como se ha descrito anteriormente. En otro aspecto la presente invención también está relacionada con un sistema industrial o vehículo aéreo no tripulado (VANT) que comprende este tipo de sistema de obtención de imágenes para monitorización, obtención de imágenes o inspección. De ese modo una ventaja de realizaciones según la presente invención es que el dispositivo de detección comprende los dos elementos de detección en el mismo sensor, de manera que carga térmica debida a variación temperatura o de manera que condiciones ambientales tienen menos influencia en el resultado obtenido. En todavía otro aspecto, la presente invención está relacionada con un método para obtener datos de imagen en relación con una región de interés. En ese modo una ventaja de realizaciones según la presente invención es que se pueden obtener datos multiespectrales de una región de interés con alta precisión geométrica, p. ej. precisión geográfica, p. ej. se puede obtener una precisión geométrica que es significativamente más alta que usando solos sistemas de posicionamiento global y/o de medición inercial. El método es especialmente adecuado en aplicaciones donde se obtienen datos multiespectrales de una región de interés usando dispositivo de detección que experimenta un movimiento relativo con respecto a la región de interés, tal como por ejemplo en caso de realizar obtención de imágenes aéreas o p. ej. durante inspección industrial de productos en movimiento. En caso de obtención de imágenes aéreas, el método además también es especialmente adecuado para uso en vehículos aéreos no tripulados (VANT), ya que el método se puede realizar usando componentes de bajo peso, que es un requisito importante si se van a usar vehículos aéreos no tripulados o se van a usar durante un tiempo más largo. Más particularmente, cuanto menor es el peso a llevar, menor es el consumo de potencia requerido y se pueden obtener tiempos de vuelo más largos con los vehículos aéreos no tripulados.
A fin de ilustrar aún más rasgos estándar y opcionales de un método según una realización de la presente invención, la figura 6 ilustra un diagrama de flujo detallado de un método ejemplar para obtener datos de imagen. El método ejemplar de ese modo se adapta para capturar al menos una imagen bidimensional de la región de interés para derivar información de referencia geométrica, y para capturar imágenes hiperespectrales usando un sistema como se ha descrito anteriormente. Más particularmente, en el presente ejemplo, las diferentes imágenes hiperespectrales se obtienen durante movimiento relativo de la región de interés con respecto al sistema de obtención de imágenes. Las imágenes hiperespectrales se toman en una tasa más alta que las imágenes de referencia geométrica, dichas tasas son preferiblemente múltiplos de entero y se pueden derivar de un bloque de sincronización común 405. Usando un sensor, en la etapa 430 se realiza adquisición de imagen para obtener una imagen bidimensional de una región de interés. Dicha adquisición de imagen incluye adquisición de un conjunto de imágenes de fotogramas FI1, FI2 ,... FIn, por lo que se capturan n imágenes, como se indica en la etapa 432. Las imágenes tienen ventajosamente un solapamiento significativo de modo que información geométrica, p. ej. información geográfica, en una imagen se puede trasferir a una imagen capturada posteriormente o previamente y de modo que se pueden detectar cambios de orientación relativa. El solapamiento típicamente se puede seleccionar en el orden del 60%, aunque realizaciones de la presente invención no se limitan al mismo. A partir del solapamiento de al menos dos imágenes, se pueden generar puntos de amarre, como se indica en la etapa 434. Dichos puntos de amarre son puntos que ocurren en el solapamiento de las imágenes y así permiten determinar un cambio en la orientación del instrumento entre adquisición de imágenes subsiguientes. Además, puede haber disponibles algunos puntos de control de suelo, que proporcionan información geográfica que indica una correlación geográfica entre objetos en la región de interés y su imagen en la imagen bidimensional, p. ej. por medio de GPS, por medio de una lista de imágenes previamente registradas, etc. El método puede comprender una etapa de calibración, en donde se realiza ajuste por paquetes como se indica en 442, basado en los puntos de amarre generados, indicados en 438, en coordenadas de posicionamiento global, indicado en 440 y en parámetros iniciales de cámara 436. Esta etapa de posprocesamiento permite obtener una orientación exterior más precisa, como se indica en 444, y que entonces se puede usar para obtener imágenes de fotogramas corregidas que tienen una orientación exterior precisa, como se indica en la etapa 460. Opcionalmente también se pueden usar puntos de objeto precisos y parámetros de cámara de fotograma. Se pueden obtener puntos de objeto precisos y parámetros precisos de cámara de fotograma de calibración así como productos estándar de Modelo Digital de Elevación (DEM) como se indica en las etapas 446, 448, 480.
Por otro lado, usando otro sensor, en la etapa 410 se realiza adquisición de imagen de cámara espectral, p. ej. adquisición de imagen de cámara hiperespectral, dando como resultado un conjunto de imágenes espectrales como se indica en la etapa 412, por lo que, en el presente ejemplo cada imagen espectral consiste en una pluralidad de líneas y cada línea contiene información de una banda espectral particular. Como se presenta con referencia a la figura 3, la información espectral completa en relación con una región de interés para una longitud de onda dada o en una región dada de longitudes de onda se distribuye en diferentes imágenes hiperespectrales, típicamente obtenidas posteriormente, y usando división espectral como se indica con 414, se obtiene espectral información plana para la región de interés completa como se indica en las etapas 416a, 416b. Usando la información de referenciación geométrica obtenida en la etapa 460, se puede obtener información multiespectral referenciada geométricamente por acoplamiento de la información de referenciación geométrica que incluye, p. ej. información de orientación, con los datos espectrales planos, que incluyen opcionalmente parámetros de cámara hiperespectrales calibrados como se indica en 462. Lo último da como resultado información espectral referenciada geométricamente, como se muestra en 418a, 418b.
La etapa de interpolación mencionada anteriormente tiene lugar antes de la referenciación geométrica 462, es decir, en la fase 444. La interpolación se ilustra esquemáticamente en el diagrama de flujo más detallado en la figura 7.
Usando los datos obtenidos, se puede realizar una ortorrectificación de las imágenes como se indica en las etapas 420 y 450 para la imagen multiespectral y bidimensional convencional respectivamente, dando como resultado una ortofoto para ambas imágenes multiespectral y bidimensional convencional, como se indica en las etapas 422 y 452 respectivamente. Ortorrectificación significa referenciación geométrica corregida por terreno de las imágenes usando por ejemplo los parámetros de orientación exterior de sensor, parámetros de cámara de fotograma (también se les hace referencia como orientación interior) y productos estándar de Modelo Digital de Elevación (DEM). El resultado de esta operación es una ortofoto. Combinar estas imágenes de ortofoto permite realizar refinado pancromático de los datos multiespectrales, como se indica en la etapa 470, de manera que se puede obtener una ortofoto hiperespectral con refinado pancromático, como se indica en la etapa 472. La ortorrectificación de la imagen bidimensional convencional puede producir un modelo digital de superficie, como se indica en la etapa 454.
La descripción general esquemática anterior ilustra algunos rasgos y ventajas estándares y opcionales según realizaciones de la presente invención.
Los inventores han encontrado además que las prestaciones de las etapas de procesamiento que se basan en información de diferentes imágenes espectrales se pueden mejorar al proporcionar una etapa preliminar opcional de renormalización. Esta etapa preliminar de renormalización puede comprender separar imágenes espectrales en áreas dispuestas idénticamente; para cada una de las áreas, calcular una característica predeterminada por dicho conjunto de imágenes; y, para cada una de las imágenes, renormalizar valores de intensidad en cada una de las áreas en función de la característica predeterminada de dicha área. Para dichas áreas, se puede calcular una o más características representativas de los valores de intensidad. El promedio de valor de intensidad sobre el área es una de dichas características. Otra característica útil es la desviación típica de los valores de intensidad, que da una indicación del contraste que se medirá. Más generalmente, la distribución de los valores de intensidad se podría calcular y representar en un conjunto más grande de características. El conjunto de características obtenidas por área se puede usar como coeficientes de normalización. Tras aplicar normalización usando las características, los valores de esas características se vuelven uniformes en diferentes áreas en las imágenes resultantes.
El procedimiento para determinar los coeficientes de normalización se realiza promediando en un conjunto suficientemente grande de imágenes, a fin de promediar el efecto del contenido de imagen. Después, se puede realizar la normalización usando los coeficientes establecidos, ya sea en las mismas imágenes, o en otras imágenes adquiridas de manera similar con el mismo instrumento. Este procedimiento simplifica la manera de trabajar ya que no es necesario calcular nuevos coeficientes para cada nuevo conjunto de imágenes.
El uso de preprocesamiento se basa entre otras cosas en la percepción de los inventores de que hay dos componentes en la diferencia en intensidad de un rasgo físico dado entre diferentes imágenes espectrales de la misma serie de adquisición, que representan el rasgo físico en diferentes bandas de longitud de onda: (1) el rasgo físico puede tener una diferente reflectividad en diferentes bandas de longitud de onda y (2) el sensor puede tener una diferente sensibilidad en diferentes bandas de longitud de onda. El segundo factor se puede compensar renormalizando las diversas partes de las imágenes respecto a un valor promedio que es representativo para cada parte respectiva. Si bien no es posible compensar el primer factor, los inventores han encontrado sorprendentemente que la eficiencia de algoritmos de registro y similares ya mejora enormemente tras compensar el segundo factor solo. Se cree que los efectos se deben al hecho de que los objetos físicos del mundo real típicamente exhiben una reflectividad que varía lentamente en función de longitud de onda en una gran parte del espectro de interés.
La característica predeterminada puede ser un promedio de intensidad, y la renormalización puede comprender renormalizar los valores de intensidad en cada una de las áreas respecto al promedio de valor de intensidad.
Las áreas pueden corresponder a píxeles individuales. Una ventaja de esta realización es que el sensor se calibra eficazmente por píxel, de manera que se pueden considerar variaciones en sensibilidad de combinaciones individuales píxel-filtro, independientemente de la fuente de tales variaciones (incluidas tolerancias de fabricación o impurezas en el filtro). Esto lleva a una supresión máxima de artefactos. Al añadir un sistema óptico a las combinaciones píxel-filtro, se obtiene un sistema completo de obtención de imágenes. Se puede elegir incluir variaciones de sensibilidad provocadas por el sistema óptico para corregirlas, o excluirlas de modo que el sistema permanece genérico para diferentes sistemas ópticos.
Como alternativa, las áreas pueden corresponder a distintas bandas de longitud de onda. Una ventaja de esta realización es que la renormalización se puede realizar por bloque de píxeles, en donde un bloque típicamente representa una tira rectangular del sensor o una combinación de múltiples áreas rectangulares.
Donde los ejemplos de realizaciones de la presente invención principalmente se refieren a referenciación geométrica para fotografía aérea, obtención de imágenes aéreas u obtención de imágenes por satélite, como se ha indicado anteriormente, realizaciones de la presente invención no se limitan a las mismas y por ejemplo también se pueden usar para inspección industrial, etc. En un ejemplo un dispositivo de detección se puede usar por ejemplo para inspeccionar mercancías en una cinta trasportadora, p. ej. para detectar materiales extraños entre mercancías o para detectar mercancías desviadas. Dichos materiales extraños o mercancías desviadas típicamente mostrarán una imagen espectral desviada de la imagen espectral esperada. La información de referencia geométrica puede ser una posición lateral de los objetos o materiales pero también puede ser una altura o altura relativa. Dicha altura o altura relativa de objetos se puede determinar por ejemplo a partir de la información de referencia geométrica basada en el ángulo de visión del sensor de referenciación geométrica con respecto al objeto del que se han obtenido imágenes. Los expertos en la técnica conocen información de altura desviada de datos de imagen basados en una posición conocida de sensor y ángulo de visión con respecto a la región de interés total de la que se van a obtener imágenes.
En un aspecto, la presente invención también está relacionada con un sistema de procesamiento en donde el método para detectar u obtener imágenes o parte de dicho método como se describe en realizaciones de la aspectos anteriores se implementan a modo de software. Un sistema de procesamiento de este tipo puede incluir al menos un procesador programable acoplado a un subsistema de memoria que incluye al menos una forma de memoria, p. ej., RAM, ROM, etc. Cabe señalar que el procesador o procesadores pueden ser de uso general, o un procesador de finalidad especial, y pueden ser para inclusión en un dispositivo, p. ej., un chip que tiene otros componentes que realizan otras funciones. Así, uno o más aspectos de realizaciones de la presente invención se pueden implementar en circuitería electrónica digital, o en hardware, firmware, software de ordenador o en combinaciones de ellos. El sistema de procesamiento puede incluir un subsistema de almacenamiento que tiene al menos una unidad de disco y/o una unidad CD-ROM y/o una unidad DVD. En algunas implementaciones, se puede incluir un sistema de exposición, un teclado y un dispositivo señalizador como parte de un subsistema de interfaz de usuario para permitir a un usuario introducir manualmente información. También se pueden incluir puertos para introducir y sacar datos. Se pueden incluir más elementos tales como conexiones de red, interfaces a diversos dispositivos, etc. Los diversos elementos del sistema de procesamiento se pueden acoplar de diversas maneras, incluidos por medio de un subsistema de bus. La memoria del subsistema de memoria puede en algunos casos contener parte o todas de un conjunto de instrucciones que cuando se ejecuta en el sistema de procesamiento implementar las etapas de las realizaciones de método descritas en esta memoria.
La presente invención también incluye un producto de programa informático que proporciona la funcionalidad de cualquiera delos métodos según la presente invención cuando se ejecutan en un dispositivo informático. Dicho producto de programa informático se puede plasmar tangiblemente en un medio portador que lleva código legible por máquina para ejecución por parte de un procesador programable. La presente invención así está relacionada con un medio portador que lleva un producto de programa informático que, cuando se ejecuta en medios informáticos, proporciona instrucciones para ejecutar cualquiera de los métodos como se ha descrito anteriormente. El término "medio portador" se refiere a cualquier medio que participa para proporcionar instrucciones a un procesador para ejecución. Un medio de este tipo puede adoptar muchas formas, incluidas pero sin limitación, medios no volátiles y medios de trasmisión. Medios no volátiles incluyen, por ejemplo, discos ópticos o magnéticos, tales como un dispositivo de almacenamiento que es parte del almacenamiento masivo. Formas comunes de medios legibles por ordenador incluyen, un CD-ROM, un DVD, un disco flexible o disquete flexible, una cinta, un chip de memoria o cartucho o cualquier otro medio del que puede leer un ordenador. Se pueden implicar diversas formas de medios legibles por ordenador para llevar una o más secuencias de una o más instrucciones a un procesador para ejecución. El producto de programa informático también se puede trasmitir por medio de una onda portadora en una red, tal como LAN, WAN o internet. Los medios de trasmisión pueden adoptar la forma de ondas acústicas o de luz, tales como las generadas durante comunicaciones de datos por ondas de radio e infrarrojos. Los medios de trasmisión incluyen cables coaxiales, alambre de cobre y fibras ópticas, que incluyen los alambres que comprenden un bus dentro de un ordenador.
Si bien la invención se ha ilustrado y descrito en detalle en los dibujos y en la descripción anterior, dicha ilustración y descripción se han de considerar ilustrativas o ejemplares y no restrictivas. La invención no se limita a las realizaciones descritas. Los expertos en la técnica pueden entender y efectuar otras variaciones de las realizaciones descritas a la hora de poner en práctica la invención reivindicada. La descripción anterior detalla ciertas realizaciones de la invención. Se apreciará, sin embargo, que no importa lo detallado que aparezca lo anterior en el texto, la invención puede ser puesta en práctica de muchas maneras, y por lo tanto no se limita a las realizaciones descritas. Cabe señalar que el uso de terminología particular, cuando se describen ciertos rasgos o aspectos de la invención, no se debe tomar como que implique que la terminología se está redefiniendo en esta memoria para ser restringida para que incluya cualesquiera características específicas de los rasgos o aspectos de la invención con los que se asocia la terminología.
Un único procesador u otra unidad pueden cumplir las funciones de varios elementos relatados en las reivindicaciones. El mero hecho de que ciertas medidas se enumeren en reivindicaciones dependientes mutuamente diferentes no indica que una combinación de estas medidas no pueda usarse de manera ventajosa. Un programa de ordenador se puede almacenar/distribuir en un medio adecuado, tal como un medio de almacenamiento óptico o un medio de estado sólido suministrado junto o como parte de otro hardware, pero también puede ser distribuido en otra forma, tal como por medio de internet u otros sistemas de telecomunicación cableados o inalámbricos. Cualesquiera signos de referencia en las reivindicaciones no se deben interpretar como que limitan el alcance.
Si bien la invención se ha descrito anteriormente con referencia a realizaciones específicas, esto se ha hecho para clarificar y no para limitar la invención. El experto en la técnica apreciará que son posibles diversas modificaciones y diferentes combinaciones de rasgos descritos sin salir del alcance de la invención definido por las reivindicaciones anexas.

Claims (8)

REIVINDICACIONES
1. Un dispositivo de detección (100) para obtener datos geométricos de imagen multiespectral referenciada de una región de interés en movimiento relativo con respecto al dispositivo de detección (100), el dispositivo de detección (100) comprende:
- al menos un primer elemento de sensor bidimensional (112), el dispositivo de detección (100) se adapta para obtener subsiguientes imágenes multiespectrales durante dicho movimiento relativo de la región de interés con respecto al dispositivo de detección proporcionando así distinta información espectral para diferentes partes de una región de interés usando el primer elemento de sensor (112);
- un segundo elemento de sensor bidimensional (122), el dispositivo de detección (100) se adapta para proporcionar, usando el segundo elemento de sensor (122), una imagen de la región de interés para generar información de referencia geométrica a acoplar a la distinta información espectral;
el primer elemento de sensor bidimensional (112) puede funcionar para capturar una primera secuencia de fotogramas a una primera tasa de fotogramas y el segundo elemento de sensor bidimensional (122) puede funcionar para capturar una segunda secuencia de fotogramas a una segunda tasa de fotogramas;
caracterizado por que la primera tasa de fotogramas es mayor que la segunda tasa de fotogramas;
por que el dispositivo de detección (100) comprende además un procesador configurado para generar información intermedia de referencia geométrica a acoplar a fotogramas de dicha primera secuencia de fotogramas para los que no hay disponible fotograma sincrónico de dicha segunda secuencia de fotogramas, dicha información intermedia de referencia geométrica se deriva de uno o más fotogramas adyacentes en el tiempo de dicha segunda secuencia de fotogramas;
y por que dicha información de referencia geométrica derivada de dicho uno o más fotogramas adyacentes en el tiempo incluye parámetros de postura de plataforma que se interpolan a partir de parámetros correspondientes derivados de dicho uno o más fotogramas adyacentes temporalmente.
2. El dispositivo de detección según la reivindicación 1, en donde dicha segunda tasa de fotogramas se selecciona para asegurar una cantidad predeterminada de solapamiento entre regiones respectivas en las que se han obtenido imágenes de fotogramas consecutivos de dicha segunda secuencia de fotogramas.
3. El dispositivo de detección según cualquiera de las reivindicaciones precedentes, en donde un filtro espectral y el primer elemento de sensor se disponen para obtener información espectral en una primera longitud de onda o intervalo de longitudes de onda usando una parte del primer elemento de sensor (112) y para obtener información espectral en una segunda longitud de onda o intervalo de longitudes de onda usando otra parte del primer elemento de sensor (112).
4. El dispositivo de detección según cualquiera de las reivindicaciones precedentes, en donde el primer elemento de sensor (112) y el segundo elemento de sensor (122) se integran en el mismo sustrato.
5. Un sistema de obtención de imágenes que comprende el dispositivo de detección según cualquiera de las reivindicaciones precedentes.
6. Un vehículo aéreo que comprende el sistema de obtención de imágenes según la reivindicación 5.
7. Un método para obtener datos geométricos de imagen multiespectral referenciada de una región de interés en movimiento relativo con respecto a un dispositivo de detección (100), el método comprende:
- obtener imágenes subsiguientes multiespectrales durante dicho movimiento relativo de la región de interés con respecto al dispositivo de detección proporcionando así distinta información espectral para diferentes partes de la región de interés usando un primer elemento de sensor bidimensional (112) del dispositivo de detección (100);
- proporcionar, usando un segundo elemento de sensor bidimensional (122) del dispositivo de detección (100), una imagen de la región de interés para generar información de referencia geométrica a acoplar a la distinta información espectral; el primer elemento de sensor bidimensional (112) captura una primera secuencia de fotogramas a una primera tasa de fotogramas y el segundo elemento de sensor bidimensional (122) captura una segunda secuencia de fotogramas a una segunda tasa de fotogramas;
caracterizado por que la primera tasa de fotogramas es mayor que la segunda tasa de fotogramas;
por que el método comprende además generar información intermedia de referencia geométrica a acoplar a fotogramas de dicha primera secuencia de fotogramas para la que no hay disponible fotograma sincrónico de dicha segunda secuencia de fotogramas, dicha información intermedia de referencia geométrica se deriva de uno o más fotogramas adyacentes en el tiempo de dicha segunda secuencia de fotogramas;
y por que dicha información de referencia geométrica derivada de dicho uno o más fotogramas adyacentes en el tiempo incluye parámetros de postura de plataforma que se interpolan a partir de parámetros correspondientes derivados de dicho uno o más fotogramas adyacentes temporalmente.
8. Un producto de programa informático que comprende medios de código configurados para provocar que un procesador lleve a cabo el método según la reivindicación 7.
ES15741955T 2014-07-07 2015-07-07 Método y sistema para referenciación geométrica de datos multiespectrales Active ES2702932T3 (es)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201462021292P 2014-07-07 2014-07-07
GBGB1412061.2A GB201412061D0 (en) 2014-07-07 2014-07-07 Method and system for geometric referencing of multi-spectral data
PCT/EP2015/065523 WO2016005411A1 (en) 2014-07-07 2015-07-07 Method and system for geometric referencing of multi-spectral data

Publications (1)

Publication Number Publication Date
ES2702932T3 true ES2702932T3 (es) 2019-03-06

Family

ID=51410739

Family Applications (1)

Application Number Title Priority Date Filing Date
ES15741955T Active ES2702932T3 (es) 2014-07-07 2015-07-07 Método y sistema para referenciación geométrica de datos multiespectrales

Country Status (12)

Country Link
US (1) US10054438B2 (es)
EP (1) EP3167242B1 (es)
JP (1) JP6573959B2 (es)
CN (1) CN106537089B (es)
AU (1) AU2015286734A1 (es)
CA (1) CA2954348A1 (es)
ES (1) ES2702932T3 (es)
GB (1) GB201412061D0 (es)
PL (1) PL3167242T3 (es)
PT (1) PT3167242T (es)
TR (1) TR201818857T4 (es)
WO (1) WO2016005411A1 (es)

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CA3007619A1 (en) 2016-01-13 2017-07-20 Vito Nv Method and system for geometric referencing of multi-spectral data
US10189567B2 (en) * 2016-06-09 2019-01-29 Skycatch, Inc. Identifying camera position of a UAV in flight utilizing real time kinematic satellite navigation
US10656305B2 (en) 2016-07-01 2020-05-19 The Boeing Company Method and apparatus for simulating spectral information of geographic areas
US10621780B2 (en) * 2017-02-02 2020-04-14 Infatics, Inc. System and methods for improved aerial mapping with aerial vehicles
AU2018309905A1 (en) * 2017-08-01 2020-01-23 Sony Corporation Image processing device, image processing method, and program
KR102500640B1 (ko) * 2018-03-02 2023-02-15 제이에프이 스틸 가부시키가이샤 로의 제어 방법
EP3667617A1 (en) * 2018-12-14 2020-06-17 Koninklijke Philips N.V. Imaging system and imaging method
US11245875B2 (en) * 2019-01-15 2022-02-08 Microsoft Technology Licensing, Llc Monitoring activity with depth and multi-spectral camera
US10666878B1 (en) 2019-04-09 2020-05-26 Eagle Technology, Llc Imaging apparatus having micro-electro-mechanical system (MEMs) optical device for spectral and temporal imaging and associated methods
CN111017212A (zh) * 2019-11-26 2020-04-17 郑州信息科技职业学院 一种多旋翼无人机多光谱遥感系统
EP4070251A4 (en) * 2019-12-02 2023-08-30 Click-Ins, Ltd. SYSTEMS, METHODS AND PROGRAMS FOR GENERATING A DAMAGE IMPRINT IN A VEHICLE
CN113433081B (zh) * 2021-07-06 2022-05-24 江南大学 基于动态神经网络的果蔬干燥过程中品质检测方法及系统
WO2023149963A1 (en) 2022-02-01 2023-08-10 Landscan Llc Systems and methods for multispectral landscape mapping
CN115639159B (zh) * 2022-12-08 2023-04-11 航天宏图信息技术股份有限公司 一种基于多光谱影像的废水污染监测方法和装置

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6211906B1 (en) 1995-09-07 2001-04-03 Flight Landata, Inc. Computerized component variable interference filter imaging spectrometer system method and apparatus
US8174694B2 (en) * 2001-12-21 2012-05-08 Bodkin Design And Engineering Llc Hyperspectral imaging systems
US6831688B2 (en) * 2002-04-08 2004-12-14 Recon/Optical, Inc. Multispectral or hyperspectral imaging system and method for tactical reconnaissance
ES2541482T3 (es) * 2009-12-18 2015-07-21 Vito Nv (Vlaamse Instelling Voor Technologisch Onderzoek Nv) Referenciación geométrica de datos multiespectrales
DE102010041569B4 (de) * 2010-09-28 2017-04-06 Leica Geosystems Ag Digitales Kamerasystem, Farbfilterelement für digitales Kamerasystem, Verfahren zur Bestimmung von Abweichungen zwischen den Kameras eines digitalen Kamerasystems sowie Bildverarbeitungseinheit für digitales Kamerasystem
JP5787695B2 (ja) 2011-09-28 2015-09-30 株式会社トプコン 画像取得装置
CN102967376B (zh) * 2012-11-20 2014-10-15 中国科学院西安光学精密机械研究所 一种高频图像序列的获取方法及其采用的分时分光装置

Also Published As

Publication number Publication date
EP3167242A1 (en) 2017-05-17
CA2954348A1 (en) 2016-01-14
CN106537089A (zh) 2017-03-22
US20170138733A1 (en) 2017-05-18
JP2017522666A (ja) 2017-08-10
CN106537089B (zh) 2020-03-31
PL3167242T3 (pl) 2019-04-30
US10054438B2 (en) 2018-08-21
WO2016005411A1 (en) 2016-01-14
TR201818857T4 (tr) 2019-01-21
PT3167242T (pt) 2018-12-24
GB201412061D0 (en) 2014-08-20
JP6573959B2 (ja) 2019-09-11
EP3167242B1 (en) 2018-09-26
AU2015286734A1 (en) 2016-12-22

Similar Documents

Publication Publication Date Title
ES2702932T3 (es) Método y sistema para referenciación geométrica de datos multiespectrales
ES2541482T3 (es) Referenciación geométrica de datos multiespectrales
Yang et al. The DOM generation and precise radiometric calibration of a UAV-mounted miniature snapshot hyperspectral imager
ES2731451T3 (es) Método y sistema para la referencia geométrica de datos multi-espectrales
EP3167432B1 (en) Method and system for photogrammetric processing of images
EP2972151B1 (en) Imaging unit
Jhan et al. Robust and adaptive band-to-band image transform of UAS miniature multi-lens multispectral camera
Thiele et al. Mineralogical mapping with accurately corrected shortwave infrared hyperspectral data acquired obliquely from UAVs
Pölönen et al. UAV-based hyperspectral monitoring of small freshwater area
CN103278137B (zh) 一种基于单景遥感影像的目标运动信息提取方法
Haavardsholm et al. Multimodal Multispectral Imaging System for Small UAVs
WO2017091914A1 (es) Un proceso que permite eliminar el ruido de patrón fijo en imágenes efectivas formadas por arreglos de sensores electromagnéticos de un campo de luz mediante un reenfoque digital
Sima et al. Spatially variable filters—Expanding the spectral dimension of compact cameras for remotely piloted aircraft systems
Moroni Vegetation monitoring via a novel push-broom-sensor-based hyperspectral device
Serruys et al. Linear variable filters—A camera system requirement analysis for hyperspectral imaging sensors onboard small Remotely Piloted Aircraft Systems
Skauli et al. Multispectral and conventional imaging combined in a compact camera by using patterned filters in the focal plane
Dong et al. ADHHI airborne hyperspectral imager: camera structure and geometric correction
RU2492584C1 (ru) Оптико-электронный преобразователь