WO2009090291A1 - Método y cámara para la adquisición en tiempo real de la información visual de escenas tridimensionales - Google Patents

Método y cámara para la adquisición en tiempo real de la información visual de escenas tridimensionales Download PDF

Info

Publication number
WO2009090291A1
WO2009090291A1 PCT/ES2009/000031 ES2009000031W WO2009090291A1 WO 2009090291 A1 WO2009090291 A1 WO 2009090291A1 ES 2009000031 W ES2009000031 W ES 2009000031W WO 2009090291 A1 WO2009090291 A1 WO 2009090291A1
Authority
WO
WIPO (PCT)
Prior art keywords
focal stack
real
image
resolution
object space
Prior art date
Application number
PCT/ES2009/000031
Other languages
English (en)
French (fr)
Inventor
José Manuel RODRÍGUEZ RAMOS
José Gil MARICHAL HERNÁNDEZ
Fernando ROSA GONZÁLEZ
Fernando PÉREZ NAVA
Original Assignee
Universidad De La Laguna
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority to DK09701883.2T priority Critical patent/DK2239706T3/en
Priority to JP2010542653A priority patent/JP5269099B2/ja
Application filed by Universidad De La Laguna filed Critical Universidad De La Laguna
Priority to MX2010007697A priority patent/MX2010007697A/es
Priority to AU2009204788A priority patent/AU2009204788B2/en
Priority to EP09701883.2A priority patent/EP2239706B1/en
Priority to US12/812,957 priority patent/US8471897B2/en
Priority to NZ586721A priority patent/NZ586721A/xx
Priority to CA2711727A priority patent/CA2711727C/en
Priority to CN2009801023120A priority patent/CN101952855B/zh
Priority to UAA201010048A priority patent/UA103759C2/ru
Priority to RU2010133943/28A priority patent/RU2502104C2/ru
Priority to BRPI0907392-2A priority patent/BRPI0907392A2/pt
Publication of WO2009090291A1 publication Critical patent/WO2009090291A1/es
Priority to IL206807A priority patent/IL206807A/en
Priority to ZA2010/04763A priority patent/ZA201004763B/en
Priority to EG2010071181A priority patent/EG26176A/en
Priority to MA33072A priority patent/MA32069B1/fr
Priority to HK11107395.3A priority patent/HK1153297A1/xx

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/97Determining parameters from multiple pictures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • G06T15/10Geometric effects
    • G06T15/20Perspective computation
    • G06T15/205Image-based rendering
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • G06T7/557Depth or shape recovery from multiple images from light fields, e.g. from plenoptic cameras
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • G06T7/571Depth or shape recovery from multiple images from focus

Definitions

  • the present invention relates to a method for calculating the "focal stack" associated with an object volume, to a method for improving the resolution of the images of the "focal stack” obtained, to a method for measuring distances in real time in Three-dimensional scenes and a method for real-time tomographic measurement of the complex amplitude of the electromagnetic field associated with a wavefront.
  • the present invention allows to know the distance and the complex amplitude of the electromagnetic field in the positions of the surfaces of the scene.
  • the invention relates to a camera for real-time acquisition of visual information of three-dimensional scenes in a wide range of volumes, characterized by the use of an objective lens and a microlens matrix located in the image space of the lens.
  • objective a sensor placed in the focal point of the microlenses (which collects the image formed by them) and parallel computing processing means adapted to calculate the "focal stack" associated with the object volume measured by the camera, and to calculate on it the complex amplitude of the electromagnetic field (module and phase) and the three-dimensional position of the radiating surfaces at any point in the sensed object space.
  • This invention can be useful in any area or application in which it is required to know the wavefront: terrestrial astronomical observation, ophthalmology, holography, etc., as well as in which metrology is required: real scenes, 3D television, CCD polishing, car mechanics, etc.
  • the present invention is related both to the need to achieve a three-dimensional measurement of the complex amplitude of the wavefront associated with any optical problem in which the image quality is essential (eg to diagnose), as well as the need to obtain a sufficiently reliable and accurate depth map in a wide range of volumes, from a few microns to several kilometers, and also with the real-time generation of three-dimensional information for 3D television, 3D cinema, medicine, etc.
  • Adaptive Optics for the present large diameter telescopes (GRANTECAN, Keck, ...) and future giant telescopes (50 or 100 meters in diameter), has taken the course of measuring the three-dimensional distribution of the atmospheric phase using a form of Multiconjugate optical call tomography.
  • the background of the invention does not focus exclusively on the field of astrophysics.
  • the main interest in performing I take human eye spelling is essentially to obtain and have, by medical specialists, a clear image of the patient's retinal fund, in order to perform the
  • Aqueous humor, vitreous and crystalline humor behave in the eye as means that open the image that can be obtained from the background of the retina.
  • focal stack of a scene will be understood as the volume of image that would result from taking a group of conventional photographic images, from the same point of view, but varying the focusing distance.
  • Ren Ng also demonstrates that if the Fourier 4D transform of the "light-field" is calculated, which entails Q (N 4 IQg 2 Zf) complex addition and multiplication operations, the different refocusing planes can be obtained by performing a rotation, truncated to 2D and Fourier antitransformed in 2D of the 4D transformed function of the "light-field", each with a computational complexity of O ⁇ N 2 ⁇ ) + O ⁇ _N 2 log 2 N) to be added to the initial cost of the transform of Fourier of the sensed 4D function.
  • the closest antecedent to the method for calculating the "focal stack" of the present invention is the discrete fast (or approximate, according to the author) Radon transform, proposed by G ⁇ tz and Druckmüller ("A fast digital Radon transform - an efficient means for evaluating the Hough transform ". Pattern Recognition, vol. 29, no. 4, pp. 711-718, 1996.), and Brady (“ A Fast Discrete Approximation Algorithm for the Radon Transform. "SIAM J. Comput, vol. 27 , no.1, pp.
  • the present invention solves the aforementioned problem, providing in a first aspect a method for calculating the "focal stack" associated with a scene according to claim 1, a method that significantly reduces the computational cost of the
  • a further object of the present invention is to propose a method for measuring distances in scenes and a method for measuring the complex amplitude of the electromagnetic field computationally optimized and suitable for parallel computation.
  • the present invention allows: - To adhere to a single measurement and to a single sensor, within each time of atmospheric stability.
  • GPU GPU
  • reconfigurable hardware units such as FPGA (Field Programmable
  • the method for calculating the "focal stack" of the invention allows obtaining a series of planes of a three-dimensional scene, focused on different positions along the optical axis, reducing the computational complexity of the process.
  • the method for calculating the "focal stack” of the invention is based on the principles of multiscale methods for the computation of Radon's discrete fast transform, and manages to minimize the number of operations to be performed by reusing partial results.
  • the method of the present invention employs a sum transformation along restricted planes into discretized hypercubes.
  • the photographic formation integral is geometrically equivalent to evaluating the integral along planes in a function whose domain is a hypercube of dimension 4.
  • the domain for which the partial transformation f TM - * 1 is described is half that required by f m , progressively transforming from a 4D domain to (a 3D domain, in a process that requires O ( ⁇ V * *) sums, which translates into a saving of computation time greater than eighty percent compared to current processes.
  • the method for calculating the "focal stack" of the present invention does not require multiplication or trigonometric operations, only sums and its computational complexity is of order 0 (JV 4 ) for a final volume containing 2N-1 photographic planes focused at different depths. , from a light-field of dimension N 4 .
  • the method of the present invention allows computing the "focal stack" for a whole volume and with a smaller number of operations than the methods for obtaining the "focal stack” described in the prior art (Ren Ng) use for the computation of a single plane.
  • a problem that appears in the capture of the 4D light-field is the need to use a 2-dimensional sensor.
  • a very high resolution sensor is required.
  • O (N 4 ) pixel sensor it is only possible to obtain a "focal stack" composed of images of O (N 2 ) pixels and therefore only O (N 2 ) distances. This reduction in order resolution O (N 2 ) causes the need to use extraordinarily high cost sensors.
  • the elements of the scene have type reflectance. Lambertiana, that is, that the intensity emitted by a point on the object is independent of the angle. In that case the light-field has redundant order information
  • the method according to claim 2 allows to pass from a "focal stack" with images of resolution O (N 2 ) to another of resolution 0 ((1-Ct) N 4 ).
  • the method of increasing the resolution of the "focal stack” comprises:
  • super resolution means any increase in the definition, both of the image and of the associated distance map, with respect to the resolution in microlenses, 0 (N 2 ). Its maximum limit is therefore in the number of pixels 0 (N 4 ), advantageously achieving a resolution of order 0 ((1-Ct) N 4 ).
  • a minimum resolution is set and the images are resampled implicitly or explicitly to obtain said minimum resolution.
  • a method for measuring real-time distances in three-dimensional scenes according to claim 3.
  • Said method comprises obtaining an image of the object space with a phase camera, calculating the "focal stack” by means of the method of claim 1, applying a focus quality measurement operator on the "focal stack” (variance, Laplacian, gradient), and calculating the optimal state on a Markov random field.
  • the steps of the previous method can be adapted for implementation on parallel computing hardware, such as a GPU or FPGA, resulting in an even more advantageous optimization of processing time.
  • the invention provides a method for real-time tomographic measurement of the complex amplitude of the electromagnetic field associated with a wavefront of a scene according to claim 5.
  • Said method comprises obtaining an image of the object space with a camera of phase, calculate the "focal stack" by the method of claim 1, which provides the graphing of the square module of the complex amplitude of the wavefront, applying an operator to generate the gradients of the wavefront phase at any point of the volume of the object space, and recover the wavefront phase of the associated electromagnetic field.
  • the steps of the previous method can be adapted for implementation on parallel computing hardware, such as a GPU or FPGA, resulting in an even more advantageous optimization of processing time.
  • the measurements of the object space are made only once , that is, a single image contains enough information to recover the three-dimensional environment.
  • Such an image can be understood as composed of 4 dimensions: two coordinates on the detector associated with the interior of each microlens and two other coordinates associated with the microlens matrix.
  • the assembly comprises a single array of microlenses, forming an image on a sensing surface of sufficient resolution (for example a CCD device) that is placed in a position of the image space of a converging lens, which allows tomographic measurements of the three-dimensional object space.
  • a sensing surface of sufficient resolution for example a CCD device
  • a phase camera for the real-time acquisition of the visual information of three-dimensional scenes according to claim 7 comprising a converging lens, a microlens matrix placed in a space position image of the converging lens and forming image on a detection surface of sufficient resolution, and parallel computing processing means adapted to calculate the "focal stack" associated with the object space measured by the camera by the method of claim 1, to obtain the complex amplitude of the electromagnetic field (module and phase) and to obtain the distance in any position of the sensed object space.
  • the method for calculating the "focal stack" allows to determine the phase of the wavefront topographically, that is, at any distance within the three-dimensional volume of the object space.
  • the method for calculating the "focal stack” of the present invention allows the electromagnetic field to be characterized not only by the wavefront phase in a plane, but by the complex amplitude of the electromagnetic field associated with the wavefront in the entire volume.
  • Figure 1 Schematic representation of the main elements of the camera for real-time acquisition of visual information of three-dimensional scenes according to the invention.
  • Figure 2 Conceptual scheme of the invention applied to a telescope with a large main mirror (1) for performing atmospheric tomography in astrophysical observation of a star (8) with adaptive optics.
  • Figure 3 Conceptual scheme of a classic astrophysical observation of a star (8) that uses multi-conjugate adaptive optics to two layers of turbulence in the atmosphere (9) and (10).
  • the measure of the distance at which the objects of a scene are found is considered.
  • the chamber of the invention also comprises processing means not shown in the figure.
  • a maximum resolution 4000x2672 IPX-11M5 model CCD sensor from Imperx is used. Following the assembly of Figure 1, prior to the CCD, an objective lens of the same focal ratio is placed as the subsequent array of microlenses (16x16 and F-Nikon mount) that focus on the CCD covering 1024 x 1024 pixels.
  • the camera presents in this arrangement an angular aperture of 30 ° horizontally, and focuses on the central region of the scene, approximately 2 meters.
  • the detected image is treated with processing means, in this example an nVidia 8800 GTX GPU graphics card adapted to:
  • the depth map of the scene is obtained with the camera and the method of the invention.
  • the measurement of the complex amplitude of the electromagnetic field is considered.
  • a system according to the invention for performing atmospheric tomography in an astrophysical observation of a star (8) with adaptive optics is schematically presented in Figure 2.
  • the individual turbulence layers within the atmosphere correspond to (9) and (10)
  • the telescope (1) described above acts as the objective lens.
  • an array of microlenses (2) (32x32, mount C) that focuses on a camera (3)
  • AKDOR model IXON 512x512 pixels is placed.
  • the phase chamber of the invention allows sweeping the entire atmospheric turbulence cylinder (13) that affects the final image of the telescope.
  • the data is collected and processed by means of a FPGA model ML501 of Virtex previously adapted to perform by means of the following procedure:
  • the operator of generation of the gradients of the wavefront phase is applied locally, instead of to the full-optical image as a whole.
  • a single measurement, subsequently processed as described, allows to obtain in real time the three-dimensional map of turbulence (complex amplitude of the wavefront) associated with the entire atmosphere column that affects the observation with our telescope and the height at which these layers of turbulence are found, as well as the distance and three-dimensional profile if an artificial laser star were used.

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Geometry (AREA)
  • Computing Systems (AREA)
  • Computer Graphics (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Image Processing (AREA)
  • Investigating Or Analysing Materials By Optical Means (AREA)
  • Focusing (AREA)
  • Cameras In General (AREA)

Abstract

Método para calcular el "focal stack" asociado a un espacio objeto a partir de su función plenóptica, empleando una transformada de suma a lo largo de planos restringidos en hipercubos discretizados, lo que permite disminuir considerablemente el tiempo de cómputo. Se presenta además un método para aumentar la resolución del "focal stack" obtenido. Adicionalmente, la invención se refiere a dos métodos para recuperar en tiempo real las profundidades y los módulos y fases de la amplitud compleja del frente de onda, respectivamente, en cada posición de las superficies de una escena tridimensional, así como un sistema adaptado para realizar los métodos anteriores.

Description

Método y cámara para la adquisición en tiempo real de la información visual de escenas tridimensionales
OBJETO DE LA INVENCIÓN
La presente invención se refiere a un método para calcular el "focal stack" asociado a un volumen objeto, a un método para mejorar la resolución de las imágenes del "focal stack" obtenido, a un método para la medida de distancias en tiempo real en escenas tridimensionales y a un método para la medida tomográfica en tiempo real de la amplitud compleja del campo electromagnético asociado a un frente de onda.
La presente invención permite conocer la distancia y la amplitud compleja del campo electromagnético en las posiciones de las superficies de la escena.
Adicionalmente, la invención se refiere a una cámara para la adquisición en tiempo real de la información visual de escenas tridimensionales en un amplio rango de volúmenes, caracterizada por la utilización de una lente objetivo y una matriz de microlentes situada en el espacio imagen de la lente objetivo, un sensor colocado en la focal de las microlentes (que recoge la imagen formada por éstas) y unos medios de procesamiento de cómputo paralelo adaptados para calcular el "focal stack" asociado al volumen objeto medido por la cámara, y para calcular sobre éste la amplitud compleja del campo electromagnético (módulo y fase) y la posición tridimensional de las superficies irradiantes en cualquier punto del espacio objeto sensado.
Esta invención puede ser útil en cualquier área o aplicación en que se requiera conocer el frente de onda: observación astronómica terrestre, oftalmología, holografϊa, etc., así como en las que se precise metrología: escenas reales, 3D televisión, pulido de CCDs, mecánica de automóvil, etc.
SECTOR DE LA TÉCNICA
Óptica. Procesamiento de imágenes. ANTECEDENTES DE LAINVENCIÓN
La presente invención está relacionada tanto con la necesidad de lograr una medida tridimensional de la amplitud compleja del frente de onda asociado a todo problema óptico en que la calidad de imagen sea fundamental (p. ej. para diagnosticar), así como con la necesidad de obtener un mapa de profundidades suficientemente fiable y preciso en un amplio rango de volúmenes, desde pocas mieras hasta varios kilómetros, y también con la generación en tiempo real de información tridimensional para televisión 3D, cine 3D, medicina, etc.
ESTADO DE LA TÉCNICA
La Óptica Adaptativa, para los presentes telescopios de gran diámetro (GRANTECAN, Keck,...) y futuros telescopios gigantes (50 ó 100 metros de diámetro), ha tomado el rumbo de medir la distribución tridimensional de la fase atmosférica utilizando una forma de tomografía llamada óptica multiconjugada. La ausencia en el cielo de suficiente número de fuentes puntuales naturales, tal que haya siempre alguna presente dentro del campo de visión del objeto observado por el telescopio, obliga a utilizar fuentes puntuales artificiales: estrellas de Na (90 km. de altura).
Para poder corregir, evitando el anisoplamiento de foco, toda la atmósfera que afecta al haz de luz proveniente del objeto en el cielo es necesario utilizar varias de estas estrellas artificiales (al menos 5). Cada una de ellas, para ser generada, necesita un láser de muy alta resolución, pulsado y de gran potencia, lo que se traduce en una tecnología enormemente cara. Por otra parte, después de tanto coste, la óptica multiconjugada sólo es capaz de medir la fase atmosférica asociada a, como mucho, tres capas horizontales de turbulencia (con tres sensores de fase midiendo simultáneamente), es decir, barre una proporción diminuta del cilindro tridimensional que afecta a la imagen. Además, se recupera una estimación de la fase con cálculos tan complicados que comprometen seriamente la corrección adaptativa del haz óptico dentro del tiempo de estabilidad de la atmósfera en el visible (10 ms).
Sin embargo, los antecedentes de la invención no se centran exclusivamente en el campo de la astrofísica. En el sector de la óptica, o la oftalmología, el interés principal en realizar tomo grafía de ojo humano estriba esencialmente en obtener y disponer, por parte de los especialistas médicos, de una imagen nítida del fondo de retina del paciente, para poder realizar los
diagnósticos con mayor fiabilidad. El humor acuoso, el humor vitreo y el cristalino se comportan en el ojo como medios que aberran la imagen que se puede obtener del fondo de retina.
Aunque para este caso no es necesario realizar medidas tan frecuentemente como en la atmósfera terrestre (una cada 10 ms), pues se trata de una deformación estable, sí que se exige suficiente resolución tridimensional para no sólo obtener una buena imagen de fondo de retina, sino también detectar la situación espacial de posibles lesiones oculares.
Por último, y en otro sector como es el de la imagen televisiva o cinematográfica, se tienen los retos relativos a la televisión tridimensional, donde uno de los problemas fundamentales es la generación de contenidos en tiempo real, dado que las técnicas son tan complejas y laboriosas que necesitan intervención humana durante el proceso de generación de contenidos 3D que puedan ser mostrados por los "displays 3D" ya existentes. En este sentido, la implementación optimizada sobre hardware de cómputo paralelo (GPUs y FPGAs) de las técnicas que aquí se proponen permite generar contenidos tridimensionales en tiempo real.
Se conocen aproximaciones en el estado de la técnica dentro los campos citados, donde se han colocado microlentes en el plano imagen de una lente convergente dando lugar a dispositivos y métodos para la medida de parámetros de imágenes, no obstante, los mismos no utilizan dicho montaje ni para realizar la medida tomo gráfica de la aberración óptica, ni para obtener las distancias en la escena.
Por ejemplo, Adelson y Wang ("Single lens stereo with a plenoptic camera ", IEEE Transactions on Pattern Analysis and Machine Intelligence, VoI. 14, No. 2, 99-106, 1992) utilizan el dispositivo para obtener distancias con una técnica totalmente diferente a la de la presente invención. Los autores Ren Ng et al. ("Light field photography with a hand-held plenoptic camera ", Stanford Tech Report CTSR 2005-02) utilizan la técnica de "Slice" de Fourier asociada a microlentes en el plano imagen sólo para obtener fotografías enfocadas de escenas reales en rangos de unos pocos metros cúbicos de volumen, con calidad aparentemente superior a la habitual técnica de profundidad de campo. En este caso, la técnica propuesta permite calcular el
"focal stack" si se aplica repetidamente para las distancias que cubran el volumen requerido, incurriendo en unos requisitos computacionales que imposibilitarían el procesado en tiempo real.
A lo largo de la presente memoria descriptiva se entenderá por "focal stack" de una escena al volumen de imagen que resultaría al tomar un grupo de imágenes fotográficas convencionales, desde un mismo punto de vista, pero variando la distancia de enfoque.
En cuanto a los procedimientos de extracción de información, se conoce que obtener imagen fotográfica a partir del "light-field" (campo de luz) o función plenóptica cuatridimensional, f(u, v,xfy), es posible integrando todos los rayos que alcanzan cada punto (x, y) del sensor, provenientes de cada punto (u, v) del plano de la lente. Mediante dicha integración se deshace el efecto de captura plenóptico. Esto es, si al capturar con las microlentes los rayos han sido redirigidos a distintas posiciones espaciales, para rehacer la imagen convencional se han de reagrupar, es decir, volver a integrar en común para una posición (x, y) lo que provino de distintos valores angulares (u, v).
La imagen obtenida por el operador
Figure imgf000006_0001
o integral de formación fotográfica, reimagina la imagen fotográfica que se hubiera obtenido con un sensor convencional enfocado en el plano a una distancia F, conjugado respecto de la lente objetivo del conjunto microlentes-sensor. Si se deseara reimaginar en un plano a distancia F' = a > .%, anterior o posterior a F, Ren Ng demuestra, por semejanza de triángulos que hay que evaluar:
Figure imgf000006_0002
La evaluación de ese operador para cada posible distancia a - F requiere Q(N4) operaciones y, por lo tanto, para N planos requeriría C(AF5) operaciones, siendo N la resolución con que se muestrea cada una de las dimensiones de la función plenóptica.
Ren Ng demuestra también que si se calcula la transformada de Fourier 4D del "light-field", lo que conlleva Q(N4 IQg2Zf) operaciones de suma y multiplicación compleja, los distintos planos de reenfoque se pueden obtener realizando una rotación, truncado a 2D y antitransformada de Fourier en 2D de la función transformada 4D del "light-field", cada uno de ellos con una complejidad computacional de OζN2~)+ Oζ_N2 log2 N) a añadir al coste inicial de la transformada de Fourier de la función 4D sensada.
Es necesario, por tanto, un método que permita reducir el coste computacional del cálculo del "focal stack" y, en consecuencia, su tiempo de cálculo.
El antecedente más cercano del método para calcular el "focal stack" de la presente invención es la transformada rápida (o aproximada, según el autor) discreta de Radon, propuesta por Gδtz y Druckmüller ("A fast digital Radon transform - an efficient means for evaluating the Hough transform". Pattern Recognition, vol. 29, no. 4, pp. 711-718, 1996.), y Brady ("A Fast Discrete Approximation Algorithm for the Radon Transform". SIAM J. Comput, vol. 27, no. 1, pp. 107-119, 1998) independientemente, que evalúa simultáneamente el sumatorio de los valores a lo largo de una serie de líneas discretas, caracterizadas cada una por una pendiente y un desplazamiento respecto del origen, dispuestas sobre una rejilla bidimensional de datos, por medio de OζN2 iog2 N) sumas donde la evaluación directa del sumatorio sobre cada línea requería OQl) operaciones, y por lo tanto, la evaluación para N pendientes y N desplazamientos requería O{N5) sumas.
Finalmente, dejando a un lado los procedimientos para la obtención de la información de la escena y atendiendo al sistema de la presente invención, Richard M. Clare y Richard G. Lañe ("Wave-front sensing from subdivisión of the focal plañe with a lenslet array", J. Opt. Soc. Am. A, Vol. 22, No. 1, 117-125, 2005) han propuesto un sistema en el que se coloca una matriz de microlentes justo en el foco de la lente convergente, no en cualquier posición del plano imagen, y mediante el cual se obtiene la fase del frente de onda sólo en la pupila de la lente.
Es, pues, necesario, un método que permita determinar la fase del frente de onda topográficamente, es decir, a cualquier distancia dentro del volumen tridimensional del espacio objeto, no sólo en la pupila de la lente.
DESCRIPCIÓN DE LA INVENCIÓN
La presente invención soluciona la problemática anteriormente expuesta, proporcionando en un primer aspecto un método para calcular el "focal stack" asociado a una escena según la reivindicación 1, método que permite reducir significativamente el coste computacional del
proceso y el tiempo de cálculo, lo que supone una mejora apreciable respecto a los métodos conocidos en el estado de la técnica.
Un objeto adicional de la presente invención es proponer un método para medir distancias en escenas y un método para medir la amplitud compleja del campo electromagnético optimizados computacionalmente y adecuados para su cómputo en paralelo.
La presente invención permite: - Ceñirse a una sola medida y a un solo sensor, dentro de cada tiempo de estabilidad atmosférico.
- Una recuperación del módulo y fase asociados a cada capa horizontal turbulenta, es decir, tomografía de toda la atmósfera mediante el método de cálculo del "focal stack", ya de por sí rápido en atención al número y tipo de operaciones (sumas) que utiliza, pero que puede ser acelerado con una adaptación inteligente del mismo a Unidades de Procesamiento Gráfico
(GPU) o a unidades de hardware reconfigurable como son las FPGA (Field Programable
Gate Arrays). - Evitar la necesidad de utilizar estrellas láser artificiales, pues puede recuperar en tiempo real la imagen del objeto a su llegada a la atmósfera terrestre, ya que esta nueva técnica no necesita de calibración con señal puntual para luego deconvolucionar.
El método para calcular el "focal stack" de la invención, denominado Transformada SCPH ("Summation of Constrained Planes in a Hypercube") permite obtener una serie de planos de una escena tridimensional, enfocados en diferentes posiciones a lo largo del eje óptico, reduciendo la complejidad computacional del proceso. El método para calcular el "focal stack" de la invención se basa en los principios de los métodos multiescala para el cómputo de la transformada rápida discreta de Radon, y logra minimizar el número de operaciones a realizar mediante la reutilización de resultados parciales.
Con el objeto de reducir el coste computacional del cálculo del "focal stack", el método de la presente invención emplea una transformada de suma a lo largo de planos restringidos en hipercubos discretizados. Se ha de notar que la integral de formación fotográfica equivale geométricamente a evaluar la integral a lo largo de planos en una función cuyo dominio es un hipercubo de dimensión 4. Así entendida, la integral de formación fotográfica es un caso particular de ΕTfg.r (J, k)~ = JJ f(u, v,u - T1 + jf, v • τz + Ü) άu áv, añadiendo la restricción de que las pendientes T1 y T2 que definen los planos de integración son iguales para el caso que nos ocupa, lo cual permite reducir el número de operaciones a realizar.
El método para calcular el "focal stack" que se propone consiste en computar simultáneamente la suma de los valores posicionados en la función 4D discreta, /{u, Vv^y), sobre planos tales que las coordenadas de los puntos ubicados en ellos cumplen simultáneamente que x = V, Λ r -j-j e y = v τ -τ k, bajo ciertas condiciones de discretización, reutilizando las sumas parciales de puntos contenidos por más de un plano discreto, siendo « y v> las dimensiones horizontal y vertical sobre el plano de la lente y x e y las dimensiones horizontal y vertical sobre el plano sensor, y /, k y r, las dimensiones en horizontal, vertical y profundidad del "focal stack" que se desea obtener. Es decir, se extiende el algoritmo que computa la transformada aproximada rápida discreta de Radon, que ya existía para el caso de integrales de línea en el plano, hasta llegar a integrales de hiperplanos 4-dimensionales sobre el hipercubo 4-dimensional, con el añadido de que las pendientes en horizontal y en vertical son la misma.
Se define la transformación parcial de los datos, hasta la etapa m, como:
Figure imgf000010_0001
donde se considera que la función tiene dimensiones
Figure imgf000010_0003
la función
Figure imgf000010_0002
a forma discreta en que la sucesión de puntos
Figure imgf000010_0004
une los puntos
Figure imgf000010_0006
formando una línea discreta de pendiente
Figure imgf000010_0005
, y la función
Figure imgf000010_0007
devuelve el valor λ{u) e Ε. correspondiente a la wupla binaria
Figure imgf000010_0008
Si se hacen equivaler los datos transformados hasta la etapa
Figure imgf000010_0009
, con los datos capturados,
Figure imgf000010_0010
: entonces:
Figure imgf000010_0011
Figure imgf000010_0012
que aproxima a la integral de formación fotográfica
Figure imgf000010_0013
para un volumen de N planos de profundidad.
De manera análoga se pueden computar otros N planos de profundidad para pendientes negativas. Como ambos semivolúmenes comparten la profundidad 0, en total se conseguiría un focal stack compuesto por 2M- 1 imágenes reenfocadas a distintas distancias. La fórmula recurrente que mapea dos etapas parciales ÍΪΪ y m + 1, describe completamente el método, y requiere ser aplicada n veces:
Figure imgf000011_0001
Nótese que el dominio para el que está descrita la transformación parcial f™-*1 es la mitad que el que requiere fm, transformándose progresivamente de un dominio 4D a (un dominio 3D, en un proceso que requiere O (íV**) sumas, lo que se traduce en un ahorro de tiempo de cómputo superior al ochenta por ciento respecto a los procesos actuales.
Siguiendo este procedimiento, y con los métodos aquí propuestos, es posible recuperar tanto profundidades como módulos y fases de la amplitud compleja del frente de onda en cada posición de las superficies de la escena, lo que permite escanear tridimensionalmente al completo y en tiempo real la escena, resultando por lo tanto, de gran aplicación en los campos citados anteriormente.
Ventajosamente el método para calcular el "focal stack" de la presente invención no requiere multiplicaciones ni operaciones trigonométricas, sólo sumas y su complejidad computacional es de orden 0(JV4) para un volumen final que contiene 2N-1 planos fotográficos enfocados a diferentes profundidades, a partir de un light-field de dimensión N4.
El método de la presente invención permite computar el "focal stack" para todo un volumen y con menor número de operaciones de las que los métodos para obtener el "focal stack" descritos en el estado de la técnica (Ren Ng) emplean para el cómputo de un solo plano. No obstante, un problema que aparece en la captura del light-field 4D es la necesidad de utilizar un sensor 2-dimensional. Para obtener todo el volumen de información 4D sobre un sensor 2D es necesario un sensor de resolución muy elevada. Así, para un sensor de O(N4) píxeles sólo es posible obtener un "focal stack" compuesto de imágenes de O(N2) píxeles y por tanto únicamente O(N2) distancias. Esta reducción de resolución de orden O(N2) provoca la necesidad de utilizar sensores de coste extraordinariamente elevado.
Para solucionar este problema se proporciona, en un segundo aspecto de la presente invención, un método para mejorar la resolución de las imágenes del "focal stack" según la reivindicación 2. En dicho método se supone que los elementos de la escena tienen reflectancia de tipo Lambertiana, es decir, que la intensidad emitida por un punto en el objeto es independiente del ángulo. En ese caso el light-field tiene información redundante de orden
0(aN2), siendo a una constante arbitraria con 0<α<l. Esta información redundante se puede utilizar para aumentar la resolución de las imágenes del "focal stack".
El método según la reivindicación 2 permite pasar de un "focal stack" con imágenes de resolución O(N2) a otro de resolución 0((1-Ct)N4).
Dada una imagen del "focal stack" correspondiente a un plano de a una distancia determinada, el método de aumento de resolución del "focal stack" comprende:
1. Retroproyectar los O(N4) rayos del light-field desde ese plano construyendo una imagen a alta resolución con las posiciones fracciónales de esos rayos.
2. Determinar las redundancias debido a la suposición Lambertiana.
3. En esta imagen de resolución aumentada (con superresolución) aparecen dos tipos de píxeles: aquellos para los que no hay redundancias, donde se coloca el valor del rayo retroproyectado, y aquellos para los que existen redundancias, donde se coloca un valor representativo de los rayos redundantes como puede ser la media. Suponiendo O(aN2) redundancias para cada uno de los 0(N2) elementos de la imagen del "focal stack" original, la resolución final de la imagen del "focal stack" se incrementaría de 0(N2) a 0((1-U)N4).
En el contexto de la presente memoria descriptiva, entendemos por superresolución cualquier aumento en la definición, tanto de la imagen como del mapa de distancias asociado, respecto a la resolución en microlentes, 0(N2). Su límite máximo está pues en el número de píxeles 0(N4), consiguiéndose con el método de la invención, ventajosamente, una resolución de orden 0((1-Ct)N4).
Típicamente el valor de a depende de la imagen del "focal stack" que se considere. Para el cálculo de distancias se fija una resolución mínima y se remuestrean las imágenes implícita o explícitamente para obtener dicha resolución mínima.
En un tercer aspecto de la invención se presenta un método para la medida de distancias en tiempo real en escenas tridimensionales según la reivindicación 3. Dicho método comprende obtener una imagen del espacio objeto con una cámara de fase, calcular el "focal stack" mediante el método de la reivindicación 1, aplicar un operador de medida de calidad de enfoque en el "focal stack" (varianza, laplaciano, gradiente), y calcular el estado óptimo sobre un campo aleatorio de Markov.
Se pueden adaptar las etapas del método anterior para su implementación sobre hardware de cómputo paralelo, tal como una GPU o una FPGA, lo que resulta en una optimización aún más ventajosa del tiempo de procesamiento.
En un cuarto aspecto la invención proporciona un método para la medida tomográfica en tiempo real de la amplitud compleja del campo electromagnético asociado a un frente de onda de una escena según la reivindicación 5. Dicho método comprende obtener una imagen del espacio objeto con una cámara de fase, calcular el "focal stack" mediante el método de la reivindicación 1, que proporciona la tomo grafía del módulo cuadrado de la amplitud compleja del frente de onda, aplicar un operador de generación de los gradientes de la fase de frente de onda en cualquier punto del volumen del espacio objeto, y recuperar la fase del frente de onda del campo electromagnético asociado. Se pueden adaptar las etapas del método anterior para su implementación sobre hardware de cómputo paralelo, tal como una GPU o una FPGA, lo que resulta en una optimización aún más ventajosa del tiempo de procesamiento.
Tanto en el método para la medida de distancias en tiempo real en escenas tridimensionales como en el método para la medida tomográfica en tiempo real de la amplitud compleja del campo electromagnético asociado a un frente de onda, las medidas del espacio objeto se realizan una sola vez, es decir, una única imagen contiene la información suficiente para recuperar el entorno tridimensional. Tal imagen puede ser entendida como compuesta de 4 dimensiones: dos coordenadas sobre el detector asociadas al interior de cada microlente y otras dos coordenadas asociadas a la matriz de microlentes.
El montaje comprende una única matriz de microlentes, formando imagen sobre una superficie detectara de suficiente resolución (por ejemplo un dispositivo CCD) que se sitúa en una posición del espacio imagen de una lente convergente, lo que permite realizar medidas tomográficas del espacio tridimensional objeto.
Por último, en un quinto aspecto de la presente invención se proporciona una cámara de fase para la adquisición en tiempo real de la información visual de escenas tridimensionales según la reivindicación 7 que comprende una lente convergente, una matriz de microlentes colocada en una posición del espacio imagen de la lente convergente y que forma imagen sobre una superficie detectora de suficiente resolución, y medios de procesamiento de cómputo paralelo adaptados para calcular el "focal stack" asociado al espacio objeto medido por la cámara mediante el método de la reivindicación 1, para obtener la amplitud compleja del campo electromagnético (módulo y fase) y para obtener la distancia en cualquier posición del espacio objeto sensado.
Frente a los métodos y sistemas del estado de la técnica, el método para calcular el "focal stack" según la presente invención permite determinar la fase del frente de onda topográficamente, es decir, a cualquier distancia dentro del volumen tridimensional del espacio objeto. Además, el método para calcular el "focal stack" de la presente invención permite caracterizar el campo electromagnético no sólo por la fase del frente de onda en un plano, sino por la amplitud compleja del campo electromagnético asociado al frente de onda en todo el volumen.
DESCRIPCIÓN DE LAS FIGURAS
Para complementar la descripción que seguidamente se va a realizar y con objeto de ayudar a una mejor comprensión de las características de la invención, se acompaña como parte integrante de dicha descripción, un juego de dibujos en donde con carácter ilustrativo y no limitativo, se ha representado lo siguiente:
Figura 1: Representación esquemática de los elementos principales de la cámara para la adquisición en tiempo real de la información visual de escenas tridimensionales según la invención.
Figura 2: Esquema conceptual de la invención aplicada a un telescopio con un gran espejo principal (1) para realización de tomografϊa de atmósfera en observación astrofísica de una estrella (8) con óptica adaptativa.
Figura 3: Esquema conceptual de una clásica observación astrofísica de una estrella (8) que utilice óptica adaptativa multiconjugada a dos capas de turbulencia en la atmósfera (9) y (10).
DESCRIPCIÓN DETALLADA DE UN MODO DE REALIZACIÓN PREFERIDA DE
LA INVENCIÓN
En un primer ejemplo de realización práctica de la invención se considera la medida de la distancia a la que se encuentran los objetos de una escena.
Se considera el caso particular de la observación desde nuestra invención de una escena consistente en el interior de una habitación amueblada, donde se distinguen, como componentes, varios objetos situados en un rango de profundidades desde los 0,5 hasta los 4 metros respecto de la posición de la cámara. En la Figura 1 se representa esquemáticamente la disposición de una lente de apertura (1), una matriz de microlentes (2) y una superficie detectora (3) incluidos en la cámara de fase según la invención. Aparecen indicados además la distancia (5) desde la lente convergente a la que enfoca un determinado objeto del espacio objeto, la focal (6) de cada microlente de la matriz de
lentillas, el ángulo de inclinación local del frente de onda (7) y el desplazamiento en camino óptico (4) que sufre el frente de onda turbulento respecto a otro sin aberrar. La cámara de la invención comprende asimismo medios de procesamiento no representados en la figura.
Para conformar la cámara de la invención para la adquisición en tiempo real de la información visual de escenas tridimensionales se utiliza un sensor CCD de resolución máxima 4000x2672 modelo IPX-11M5 de Imperx. Siguiendo el montaje de la Figura 1, previo al CCD se coloca una lente objetivo de igual relación focal que la posterior matriz de microlentes (16x16 y en montura F-Nikon) que enfocan sobre el CCD abarcando 1024 x 1024 píxeles. La cámara presenta en esta disposición una apertura angular de 30° en horizontal, y se enfoca en la región central de la escena, a aproximadamente 2 metros.
La imagen detectada es tratada con unos medios de procesamiento, en este ejemplo una tarjeta gráfica GPU nVidia 8800 GTX adaptada para:
- calcular el "focal stack" por medio del método para calcular el "focal stack" de la invención, adaptado para su implementación óptima sobre hardware de cómputo paralelo; - aplicar un operador de medida de calidad de enfoque en el "focal stack", por ejemplo, el operador "Varianza" para estimación de la calidad del enfoque, adaptado de manera óptima al mismo hardware de cómputo paralelo; y
- recuperar las distancias mediante el cálculo del estado óptimo sobre un campo aleatorio de Markov, por ejemplo, propagación de la creencia basada en el re- ponderado de árboles de Kolmogorov, implementado de manera optimizada sobre hardware de cómputo paralelo.
Con la cámara y el método de la invención se obtiene el mapa de profundidades de la escena. En un segundo ejemplo de realización práctica de la invención se considera la medida de la amplitud compleja del campo electromagnético.
Se considera el caso particular de una observación astrofísica con un telescopio de diámetro superior al diámetro de coherencia r0 de la atmósfera (aproximadamente 20 cm. en el visible). La turbulencia de la atmósfera provoca pérdida de resolución en la imagen obtenida con el
telescopio, es decir, pérdida de la información de altas frecuencias espaciales. Para evitarlo, debe conocerse la forma en que la turbulencia atmosférica degrada el frente de onda de la luz proveniente de la estrella en estudio. Para ello, pueden usarse como referencia estrellas puntuales naturales o artificiales que permitan caracterizar la deformación que la atmósfera introduce en el frente de onda.
En la Figura 3 se representa esquemáticamente una observación astrofísica de una estrella (8) que utiliza óptica adaptativa multiconjugada clásica a dos capas de turbulencia en la atmósfera. Con óptica adaptativa multiconjugada, un sensor de fase de frente de onda debe ser usado por cada espejo deformable conjugado a una capa de turbulencia individual, es decir, dos sensores de fase (WFS) diferentes que deben ser alineados y puestos en funcionamiento paralelamente y en diferentes posiciones del eje óptico. En la figura se representan un telescopio (1) y dos sensores de frente de onda (11) y (12) asociados conjugadamente a cada capa turbulenta (9) y (10). Con óptica adaptativa multiconjugada clásica sólo es posible recuperar un número muy pequeño de capas de turbulencia individuales (tres capas a lo sumo). La complejidad de los cálculos y la necesidad de velocidad, pues la atmósfera cambia cada 10 milisegundos en el visible, hace actualmente imposible superar la corrección a sólo tres capas de turbulencia atmosférica.
Con la presente invención, siguiendo el diseño mostrado en la Figura 1, y cuyo funcionamiento en este supuesto se muestra en la Figura 2, sólo un sensor es utilizado, colocado en una única posición del eje óptico.
En la Figura 2 se presenta esquemáticamente un sistema según la invención para realizar tomografía de atmósfera en una observación astrofísica de una estrella (8) con óptica adaptativa. Las capas de turbulencia individuales dentro de la atmósfera corresponden a (9) y (10). En este caso, como lente objetivo actúa el propio telescopio (1) descrito anteriormente. En su espacio imagen se coloca un array de microlentes (2) (32x32, montura C) que enfoca sobre una cámara (3) AKDOR modelo IXON 512x512 píxeles. La cámara de fase de la invención permite barrer el cilindro completo de turbulencia atmosférica (13) que afecta a la imagen final del telescopio. Los datos son recogidos y tratados mediante una FPGA modelo ML501 de Virtex previamente adaptada para realizar mediante el siguiente procedimiento:
- calcular el "focal stack" mediante el método de la reivindicación 1, donde la raíz cuadrada del "focal stack" suministra directamente el módulo de la amplitud compleja del campo electromagnético en cualquier punto del volumen del espacio objeto, - aplicar un operador de generación de los gradientes de la fase de frente de anda en cualquier punto del volumen del espacio objeto (operador de Clarke y Lañe, por ejemplo), y
- recuperar la fase del frente de onda del campo electromagnético asociado, por ejemplo, mediante el método con desarrollo en exponenciales complejas, el desarrollo en función de polinomios de Zernike o el algoritmo de Hudgin.
A diferencia de técnicas anteriores, en el método de la invención el operador de generación de los gradientes de la fase de frente de onda se aplica localmente, en lugar de a la imagen plenóptica en su conjunto.
Una sola medida, procesada posteriormente como se ha descrito, permite obtener en tiempo real el mapa tridimensional de turbulencias (amplitud compleja del frente de onda) asociado a toda la columna de atmósfera que afecta a la observación con nuestro telescopio y la altura a la que estas capas de turbulencia se encuentran, así como la distancia y perfil tridimensional si una estrella láser artificial fuese utilizada.

Claims

REIVINDICACIONES
1. Método para calcular un "focal stack" asociado a un espacio objeto a partir de su función plenóptica discreta, f(s,tj,k) , que comprende evaluar la integral de formación fotográfica como una suma a lo largo de planos en un hipercübo 4D, comprendiendo a su vez dicha evaluación de la integral de formación fotográfica las siguientes etapas: hacer equivaler al principio del cómputo los datos capturados,
Figure imgf000019_0003
, con los datos transformados hasta la etapa
Figure imgf000019_0002
es decir:
Figure imgf000019_0001
aplicar a continuación π = log2 N veces la siguiente transformación parcial:
Figure imgf000019_0004
2. Método para mejorar la resolución de las imágenes del "focal stack" obtenido mediante el método según la reivindicación 1, que comprende las siguientes etapas: dada una imagen del "focal stack" a una distancia determinada, retroproyectar los O(N4) rayos del light-field, construyendo una imagen a alta resolución con las posiciones fracciónales de esos rayos, determinar las redundancias que resultan de suponer que los elementos de la escena tienen una reflectancia de tipo Lambertiana, y en las posiciones del "focal stack" con superresolución donde no hay redundancias colocar el valor del rayo retroproyectado y donde hay redundancias colocar un valor representativo de los rayos redundantes, como puede ser la media.
3. Método para la medida de distancias en tiempo real en escenas tridimensionales que comprende las siguientes etapas: obtener una imagen del espacio objeto con una cámara de fase, calcular el "focal stack" mediante el método de la reivindicación 1,
aplicar un operador de medida de calidad de enfoque en el "focal stack", y calcular el estado óptimo sobre un campo aleatorio de Markov.
4. Método para la medida de distancias en tiempo real en escenas tridimensionales según la reivindicación 3 que adicionalmente comprende mejorar la resolución de las imágenes del "focal stack" mediante el método de la reivindicación 2.
5. Método para la medida tomográfica en tiempo real de la amplitud compleja del campo electromagnético asociado a un frente de onda que comprende las siguientes etapas: obtener una imagen del espacio objeto con una cámara de fase, calcular el "focal stack" mediante el método de la reivindicación 1, donde la raíz cuadrada del "focal stack" suministra directamente el módulo de la amplitud compleja del campo electromagnético en cualquier punto del volumen del espacio objeto, aplicar un operador de generación de los gradientes de la fase de frente de onda en cualquier punto del volumen del espacio objeto, y recuperar la fase del frente de onda del campo electromagnético asociado.
6. Método para la medida tomográfica en tiempo real de la amplitud compleja del campo electromagnético asociado a un frente de onda según la reivindicación 5 que adicionalmente comprende mejorar la resolución de las imágenes del "focal stack" mediante el método de la reivindicación 2.
7. Cámara de fase para la adquisición en tiempo real de la información visual de escenas tridimensionales que comprende una lente convergente, una matriz de microlentes colocada en una posición del espacio imagen de la lente convergente y que forma imagen sobre una superficie detectora de suficiente resolución, y medios de procesamiento de cómputo paralelo adaptados para - calcular el "focal stack" asociado al espacio objeto medido por la cámara mediante el método de la reivindicación 1,
- obtener la amplitud compleja del campo electromagnético (módulo y fase) y
- obtener la distancia en cualquier posición del espacio objeto sensado.
8. Cámara de fase para la adquisición en tiempo real de la información visual de escenas tridimensionales según la reivindicación 7, en la que los medios de procesamiento están adaptados para mejorar la resolución de las imágenes del "focal stack" mediante el método de la reivindicación 2.
9. Cámara de fase para la adquisición en tiempo real de la información visual de escenas tridimensionales según la reivindicación 7, en la que los medios de procesamiento están adaptados para obtener la distancia en cualquier posición del espacio objeto mediante el método de la reivindicación 3.
10. Cámara de fase para la adquisición en tiempo real de la información visual de escenas tridimensionales según la reivindicación 7, en la que los medios de procesamiento están adaptados para obtener la amplitud compleja del campo electromagnético mediante el método de la reivindicación 5.
PCT/ES2009/000031 2008-01-15 2009-01-15 Método y cámara para la adquisición en tiempo real de la información visual de escenas tridimensionales WO2009090291A1 (es)

Priority Applications (17)

Application Number Priority Date Filing Date Title
CN2009801023120A CN101952855B (zh) 2008-01-15 2009-01-15 从三维场景实时获取视觉信息的方法和照相机
CA2711727A CA2711727C (en) 2008-01-15 2009-01-15 Method and camera for the real-time acquisition of visual information from three-dimensional scenes
MX2010007697A MX2010007697A (es) 2008-01-15 2009-01-15 Metodo y camara para la adquisicion en tiempo real de la informacion visual de escenas tridimensionales.
AU2009204788A AU2009204788B2 (en) 2008-01-15 2009-01-15 Method and camera for the real-time acquisition of visual information from three-dimensional scenes
EP09701883.2A EP2239706B1 (en) 2008-01-15 2009-01-15 Method and camera for the real-time acquisition of visual information from three-dimensional scenes
US12/812,957 US8471897B2 (en) 2008-01-15 2009-01-15 Method and camera for the real-time acquisition of visual information from three-dimensional scenes
NZ586721A NZ586721A (en) 2008-01-15 2009-01-15 Method of real-time focus stacking by approximating the photographic formation integral as a discrete sum over planes in hypercube domains
DK09701883.2T DK2239706T3 (en) 2008-01-15 2009-01-15 A method for real-time camera and obtaining visual information of three-dimensional scenes
JP2010542653A JP5269099B2 (ja) 2008-01-15 2009-01-15 3次元シーンからの視覚情報のリアルタイムな取得のための方法およびカメラ
RU2010133943/28A RU2502104C2 (ru) 2008-01-15 2009-01-15 Способ и камера для получения визуальной информации из трехмерных объектов съемки в режиме реального времени
UAA201010048A UA103759C2 (ru) 2008-01-15 2009-01-15 Способ (варианты) и камера для получения визуальной информации из трехмерных объектов съемки в режиме реального времени
BRPI0907392-2A BRPI0907392A2 (pt) 2008-01-15 2009-01-15 Método e câmera para a aquisição em tempo real da informação visual de cenas tridimensionais
IL206807A IL206807A (en) 2008-01-15 2010-07-05 A method and camera for real-time acquisition of visual information from 3D scenes
ZA2010/04763A ZA201004763B (en) 2008-01-15 2010-07-06 Method and camera for the real-time acquisition of visual information from three-dimensional scenes
EG2010071181A EG26176A (en) 2008-01-15 2010-07-13 Camera mode to monitor visual information in real time from 3D scenes
MA33072A MA32069B1 (fr) 2008-01-15 2010-08-09 Procédé et chambre d'acquisition en temps réel d'informations visuelles de scènes tridimensionnelles
HK11107395.3A HK1153297A1 (en) 2008-01-15 2011-07-15 Method and camera for the real-time acquisition of visual information from three-dimensional scenes

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
ESP200800126 2008-01-15
ES200800126A ES2372515B2 (es) 2008-01-15 2008-01-15 Cámara para la adquisición en tiempo real de la información visual de escenas tridimensionales.

Publications (1)

Publication Number Publication Date
WO2009090291A1 true WO2009090291A1 (es) 2009-07-23

Family

ID=40885085

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/ES2009/000031 WO2009090291A1 (es) 2008-01-15 2009-01-15 Método y cámara para la adquisición en tiempo real de la información visual de escenas tridimensionales

Country Status (21)

Country Link
US (1) US8471897B2 (es)
EP (1) EP2239706B1 (es)
JP (1) JP5269099B2 (es)
KR (1) KR101590778B1 (es)
CN (1) CN101952855B (es)
AU (1) AU2009204788B2 (es)
BR (1) BRPI0907392A2 (es)
CA (1) CA2711727C (es)
CO (1) CO6300819A2 (es)
DK (1) DK2239706T3 (es)
EG (1) EG26176A (es)
ES (1) ES2372515B2 (es)
HK (1) HK1153297A1 (es)
IL (1) IL206807A (es)
MA (1) MA32069B1 (es)
MX (1) MX2010007697A (es)
NZ (1) NZ586721A (es)
RU (1) RU2502104C2 (es)
UA (1) UA103759C2 (es)
WO (1) WO2009090291A1 (es)
ZA (1) ZA201004763B (es)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2016040582A1 (en) * 2014-09-11 2016-03-17 University Of Delaware Real-time object capturing and 3d display systems and methods
JP2022058658A (ja) * 2015-06-17 2022-04-12 インターディジタル・シーイー・パテント・ホールディングス・ソシエテ・パ・アクシオンス・シンプリフィエ 画像の鮮鋭レベルを表わす位置合わせ誤差マップを得るための装置および方法

Families Citing this family (47)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8913149B1 (en) 2010-11-30 2014-12-16 Integrity Applications Incorporated Apparatus and techniques for enhanced resolution imaging
EP2535681B1 (en) * 2011-06-17 2016-01-06 Thomson Licensing Device for estimating the depth of elements of a 3D scene
EP2541258B1 (en) 2011-06-30 2013-08-28 Siemens Aktiengesellschaft Method of and device for capturing 3D data of one or more airborne particles
WO2013007612A1 (en) 2011-07-08 2013-01-17 Carl Zeiss Meditec Ag Light field camera for fundus photography
JP5132832B1 (ja) * 2011-07-11 2013-01-30 キヤノン株式会社 計測装置および情報処理装置
US9172928B2 (en) 2011-10-21 2015-10-27 Hewlett-Packard Development Company, L.P. Color image capture system and method for light modulation
US9581966B1 (en) 2012-02-15 2017-02-28 Integrity Applications Incorporated Systems and methodologies related to 3-D imaging and viewing
US9354606B1 (en) 2012-07-31 2016-05-31 Integrity Applications Incorporated Systems and methodologies related to generating projectable data for 3-D viewing
IL221491A (en) * 2012-08-15 2016-06-30 Aspect Imaging Ltd A magnetic resonance device integrated with a light field camera
US9219905B1 (en) 2012-08-31 2015-12-22 Integrity Applications Incorporated Systems and methodologies related to formatting data for 3-D viewing
US9036080B2 (en) 2012-09-04 2015-05-19 Canon Kabushiki Kaisha Apparatus and method for acquiring information about light-field data
US9091628B2 (en) 2012-12-21 2015-07-28 L-3 Communications Security And Detection Systems, Inc. 3D mapping with two orthogonal imaging views
US9247874B2 (en) 2013-02-01 2016-02-02 Carl Zeiss Meditec, Inc. Systems and methods for sub-aperture based aberration measurement and correction in interferometric imaging
US9132665B2 (en) * 2013-08-22 2015-09-15 Ricoh Company, Ltd. Substrate defect detection mechanism
US9569853B2 (en) * 2013-10-25 2017-02-14 Ricoh Company, Ltd. Processing of light fields by transforming to scale and depth space
US9460515B2 (en) * 2013-10-25 2016-10-04 Ricoh Co., Ltd. Processing of light fields by transforming to scale and depth space
WO2015162098A1 (en) 2014-04-24 2015-10-29 Carl Zeiss Meditec, Inc. Functional vision testing using light field displays
EP3185747A1 (en) 2014-08-31 2017-07-05 Berestka, John Systems and methods for analyzing the eye
CN104298638B (zh) * 2014-10-15 2017-02-08 沈阳理工大学 一种自适应光学处理平台
ES2578356B1 (es) * 2014-12-22 2017-08-04 Universidad De La Laguna Método para determinar la amplitud compleja del campo electromagnético asociado a una escena
EP3262606A1 (en) 2015-02-25 2018-01-03 BAE Systems PLC An image processing method and apparatus for determining depth within an image
GB2535726B (en) * 2015-02-25 2020-12-30 Bae Systems Plc An image processing method and apparatus for determining depth within an image
CN104658031B (zh) * 2015-03-06 2017-05-10 新维畅想数字科技(北京)有限公司 一种直接利用深度数据渲染三维图像的装置及方法
EP3088954A1 (en) 2015-04-27 2016-11-02 Thomson Licensing Method and device for processing a lightfield content
EP3144879A1 (en) 2015-09-17 2017-03-22 Thomson Licensing A method and an apparatus for generating data representative of a light field
WO2017046272A1 (en) * 2015-09-17 2017-03-23 Thomson Licensing Method for encoding a light field content
US10887576B2 (en) 2015-09-17 2021-01-05 Interdigital Vc Holdings, Inc. Light field data representation
EP3144885A1 (en) 2015-09-17 2017-03-22 Thomson Licensing Light field data representation
US9955861B2 (en) 2015-10-16 2018-05-01 Ricoh Company, Ltd. Construction of an individual eye model using a plenoptic camera
CN105807550B (zh) * 2016-03-02 2019-04-23 深圳大学 反演超高速成像方法
US10136116B2 (en) 2016-03-07 2018-11-20 Ricoh Company, Ltd. Object segmentation from light field data
CN105739091B (zh) * 2016-03-16 2018-10-12 中国人民解放军国防科学技术大学 一种可减弱大气湍流影响的成像方法及装置
CN113014906B (zh) 2016-04-12 2023-06-30 奎蒂安特有限公司 3d场景重建方法、系统及计算机程序存储介质
KR101835796B1 (ko) 2016-08-08 2018-04-19 박준현 실시간 3차원 해양공간정보를 이용한 전술 지원 시스템
CN106296811A (zh) * 2016-08-17 2017-01-04 李思嘉 一种基于单光场相机的目标物三维重构方法
CN107788947A (zh) * 2016-09-07 2018-03-13 爱博诺德(北京)医疗科技有限公司 眼科检查设备和方法
EP3358321A1 (en) * 2017-02-03 2018-08-08 Wooptix S.L. Method and optical system for acquiring the tomographical distribution of wave fronts of electromagnetic fields
CA3097202A1 (en) 2018-05-02 2019-11-07 Quidient, Llc A codec for processing scenes of almost unlimited detail
WO2020018931A1 (en) 2018-07-19 2020-01-23 Activ Surgical, Inc. Systems and methods for multi-modal sensing of depth in vision systems for automated surgical robots
US20220051154A1 (en) * 2018-12-26 2022-02-17 Bloomfield Robotics, Inc. Method and apparatus for measuring plant trichomes
DK3709258T3 (da) * 2019-03-12 2023-07-10 L & T Tech Services Limited Generering af sammensat billede ud fra talrige billeder taget for objekt
WO2020210168A1 (en) 2019-04-08 2020-10-15 Activ Surgical, Inc. Systems and methods for medical imaging
CN110389140A (zh) * 2019-07-11 2019-10-29 中国科学院上海应用物理研究所 实现元素空间定位的双能焦点堆栈三维重构方法
WO2021035094A1 (en) 2019-08-21 2021-02-25 Activ Surgical, Inc. Systems and methods for medical imaging
CN110648298A (zh) * 2019-11-01 2020-01-03 中国工程物理研究院流体物理研究所 一种基于深度学习的光学像差畸变校正方法及系统
CN110928113B (zh) * 2019-12-03 2021-10-08 西北工业大学 一种可变空间分辨率的光场采集装置
CN115016035B (zh) * 2022-05-31 2023-12-22 中国科学院光电技术研究所 一种基于波前探测的实时大气湍流分层强度测量方法

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE19632637C2 (de) * 1996-08-13 1999-09-02 Schwertner Verfahren zur Erzeugung parallaktischer Schnittbildstapelpaare für die hochauflösende Stereomikroskopie und/oder 3D-Animation mit konventionellen, nicht stereoskopischen Lichtmikroskopen
CN100416613C (zh) * 2002-09-29 2008-09-03 西安交通大学 计算机网络环境智能化场景绘制装置系统及绘制处理方法
CN1216347C (zh) * 2003-04-10 2005-08-24 上海交通大学 基于图像的场景再照明方法
WO2006039486A2 (en) * 2004-10-01 2006-04-13 The Board Of Trustees Of The Leland Stanford Junior University Imaging arrangements and methods therefor
ES2325698B1 (es) * 2006-01-20 2010-10-19 Universidad De La Laguna Camara de fase para la medida de distancias y de aberraciones de frente de onda en diversos entornos mediante slice de fourier.
US7620309B2 (en) * 2006-04-04 2009-11-17 Adobe Systems, Incorporated Plenoptic camera

Non-Patent Citations (9)

* Cited by examiner, † Cited by third party
Title
ADELSON, E. ET AL.: "Single Lens Stereo with a Plenoptic Camera", IEEE TRANSACTIONS ON PATTERN ANALYSIS AND MACHINE INTELLIGENCE., vol. 14, no. 2, February 1992 (1992-02-01), pages 99 - 105, XP000248474 *
ADELSON; WANG: "Single lens stereo with a plenoptic camera", IEEE TRANSACTIONS ON PATTERN ANALYSIS AND MACHINE INTELLIGENCE, vol. 14, no. 2, 1992, pages 99 - 106
BRADY: "A Fast Discrete Approximation Algorithm for the Radon Transform", SIAM J. COMPUT., vol. 27, no. 1, 1998, pages 107 - 119
GOTZ, W.A. ET AL.: "Pattern Recognition.", vol. 29, 1996, ELSEVIER SCIENCE LTD., article "A fast digital Radon transform - an efficient means for evaluating the Hough transform", pages: 711 - 718, XP004006585 *
GOTZ; DRUCKMULLER: "A fast digital Radon transform - an efficient means for evaluating the Hough transform", PATTERN RECOGNITION, vol. 29, no. 4, 1996, pages 711 - 718
NG, R. ET AL.: "Light Field Photography with a Hand-held Plenoptic Camera", STANDFORD TECH REPORT CTSR., February 2005 (2005-02-01), pages 1 - 11, XP008138449 *
REN NG ET AL.: "Light field photography with a hand-held plenoptic camera", STANFORD TECH REPORT CTSR 2005-02
RICHARD M. CLARE; RICHARD G. LANE: "Wavefront sensing from subdivision of the focal plane with a lenslet array", J. OPT. SOC. AM. A, vol. 22, no. 1, 2005, pages 117 - 125
See also references of EP2239706A4

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2016040582A1 (en) * 2014-09-11 2016-03-17 University Of Delaware Real-time object capturing and 3d display systems and methods
JP2022058658A (ja) * 2015-06-17 2022-04-12 インターディジタル・シーイー・パテント・ホールディングス・ソシエテ・パ・アクシオンス・シンプリフィエ 画像の鮮鋭レベルを表わす位置合わせ誤差マップを得るための装置および方法
JP7204021B2 (ja) 2015-06-17 2023-01-13 インターディジタル・シーイー・パテント・ホールディングス・ソシエテ・パ・アクシオンス・シンプリフィエ 画像の鮮鋭レベルを表わす位置合わせ誤差マップを得るための装置および方法
US11694349B2 (en) 2015-06-17 2023-07-04 Interdigital Ce Patent Holdings Apparatus and a method for obtaining a registration error map representing a level of sharpness of an image

Also Published As

Publication number Publication date
ZA201004763B (en) 2011-10-26
EP2239706A4 (en) 2012-10-03
KR101590778B1 (ko) 2016-02-18
MX2010007697A (es) 2010-08-03
CN101952855A (zh) 2011-01-19
ES2372515A1 (es) 2012-01-23
EG26176A (en) 2013-04-04
UA103759C2 (ru) 2013-11-25
AU2009204788A1 (en) 2009-07-23
IL206807A (en) 2015-03-31
AU2009204788B2 (en) 2013-03-21
RU2010133943A (ru) 2012-02-27
KR20100136448A (ko) 2010-12-28
CO6300819A2 (es) 2011-07-21
CA2711727C (en) 2016-12-06
JP5269099B2 (ja) 2013-08-21
BRPI0907392A2 (pt) 2015-07-21
HK1153297A1 (en) 2012-03-23
CN101952855B (zh) 2013-04-03
DK2239706T3 (en) 2014-03-03
US8471897B2 (en) 2013-06-25
RU2502104C2 (ru) 2013-12-20
EP2239706A1 (en) 2010-10-13
ES2372515B2 (es) 2012-10-16
EP2239706B1 (en) 2013-12-04
MA32069B1 (fr) 2011-02-01
NZ586721A (en) 2012-11-30
JP2011514964A (ja) 2011-05-12
CA2711727A1 (en) 2009-07-23
IL206807A0 (en) 2010-12-30
US20110032337A1 (en) 2011-02-10

Similar Documents

Publication Publication Date Title
WO2009090291A1 (es) Método y cámara para la adquisición en tiempo real de la información visual de escenas tridimensionales
CN106780725B (zh) 一种双目三维重构方法及系统
ES2525011T3 (es) Sistema optrónico y procedimiento de elaboración de imágenes en tres dimensiones dedicadas a la identificación
CN110288642A (zh) 基于相机阵列的三维物体快速重建方法
ES2325698B1 (es) Camara de fase para la medida de distancias y de aberraciones de frente de onda en diversos entornos mediante slice de fourier.
CN105654549A (zh) 基于结构光技术和光度立体技术的水下三维重建装置及方法
CN114998499A (zh) 一种基于线激光振镜扫描的双目三维重建方法及系统
CN113324528A (zh) 已知摄站位置的近景摄影测量目标定位方法及系统
CN114923665B (zh) 波浪三维高度场的图像重构方法及图像重构试验系统
JP2008249431A (ja) 3次元画像補正方法及びその装置
Bray et al. Three-dimensional surface reconstruction and fluorescent visualization of cardiac activation
IL268304B2 (en) Method and optical system for obtaining tomographic distribution of wave fronts of electromagnetic fields
Reiss et al. A low‐cost 3D reconstruction system using a single‐shot projection of a pattern matrix
CN113920201A (zh) 极线几何约束的鱼眼相机标定方法
Anwer et al. Real-time underwater 3D scene reconstruction using commercial depth sensor
Rodríguez-Ramos et al. Wavefront and distance measurement using the CAFADIS camera
CN114993207B (zh) 基于双目测量系统的三维重建方法
Rodríguez et al. The CAFADIS camera: a new tomographic wavefront sensor for Adaptive Optics
CN112508171A (zh) 一种基于多层卷积神经网络的图像深度估计方法和装置
Liu et al. Light field reconstruction from focal stack based on landweber iterative scheme
CN106934825B (zh) 一种基于波前测量的目标物深度信息获取方法
Kouahla et al. 3D reconstruction of tropospheric cirrus clouds
Wong et al. 3D reconstruction through the ray calibration of an optically distorted stereo-photogrammetric system
Remetean et al. Dense Stereovision Algorithms Validation and Tuning Using Laser Scanner Hi-Resolution Reference Models
García et al. 3D reconstruction system for semi-automatic estimation of objects length and area by means of stereo vision

Legal Events

Date Code Title Description
WWE Wipo information: entry into national phase

Ref document number: 200980102312.0

Country of ref document: CN

121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 09701883

Country of ref document: EP

Kind code of ref document: A1

WWE Wipo information: entry into national phase

Ref document number: 206807

Country of ref document: IL

WWE Wipo information: entry into national phase

Ref document number: 2434/KOLNP/2010

Country of ref document: IN

WWE Wipo information: entry into national phase

Ref document number: 2711727

Country of ref document: CA

WWE Wipo information: entry into national phase

Ref document number: 586721

Country of ref document: NZ

Ref document number: 2009204788

Country of ref document: AU

WWE Wipo information: entry into national phase

Ref document number: 2010542653

Country of ref document: JP

Ref document number: MX/A/2010/007697

Country of ref document: MX

NENP Non-entry into the national phase

Ref country code: DE

WWE Wipo information: entry into national phase

Ref document number: 2009701883

Country of ref document: EP

ENP Entry into the national phase

Ref document number: 2009204788

Country of ref document: AU

Date of ref document: 20090115

Kind code of ref document: A

ENP Entry into the national phase

Ref document number: 20107017933

Country of ref document: KR

Kind code of ref document: A

WWE Wipo information: entry into national phase

Ref document number: 10100015

Country of ref document: CO

WWE Wipo information: entry into national phase

Ref document number: 2010133943

Country of ref document: RU

WWE Wipo information: entry into national phase

Ref document number: 12812957

Country of ref document: US

ENP Entry into the national phase

Ref document number: PI0907392

Country of ref document: BR

Kind code of ref document: A2

Effective date: 20100713