Claims (40)
1. Система для захвата изображения и извлечения глубины, содержащая:1. A system for capturing images and extracting depth, containing:
блок формирования изображений, содержащий:an imaging unit comprising:
систему линз; lens system;
апертуру со спектральным кодированием, содержащую набор из по меньшей мере двух областей с различными спектральными ширинами полосы и a spectrally coded aperture comprising a set of at least two regions with different spectral bandwidths and
датчик для регистрации по меньшей мере двух спектральных каналов светового поля для формирования захваченного изображения в базисе датчика; и a sensor for recording at least two spectral channels of the light field to form a captured image in the basis of the sensor; and
блок обработки данных, содержащий: a data processing unit comprising:
блок предварительной обработки данных для преобразования захваченного изображения в базисе датчика в изображение в базисе обработки; a data preprocessing unit for converting the captured image in the sensor basis into an image in the processing basis;
блок оценки диспаратности для извлечения диспаратности из изображения в базисе обработки; a disparity assessment unit for extracting disparity from an image in a processing basis;
блок восстановления изображения и image recovery unit and
блок преобразования диспаратности в глубину.unit for disparity in depth conversion.
2. Система по п. 1, в которой набор спектральных ширин полос, соответствующий упомянутому набору из по меньшей мере двух областей апертуры со спектральным кодированием, формирует базис апертуры со спектральным кодированием.2. The system of claim 1, wherein the set of spectral bandwidths corresponding to said set of at least two regions of the aperture with spectral coding forms the basis of the aperture with spectral coding.
3. Система по п. 2, в которой базис обработки отличается от базиса датчика и базиса апертуры со спектральным кодированием.3. The system of claim 2, wherein the processing basis is different from the sensor basis and the aperture basis with spectral coding.
4. Система по п. 1, в которой апертура со спектральным кодированием имеет три области: прозрачную область в центре и две области со спектральными ширинами полосы, соответствующими желтому цвету и бирюзовому цвету.4. The system of claim 1, wherein the spectrally coded aperture has three regions: a transparent region in the center and two regions with spectral bandwidths corresponding to yellow and turquoise.
5. Система по п. 4, в которой базис обработки состоит из трех векторов: первого вектора, соответствующего желтому цвету, второго вектора, соответствующего бирюзовому цвету, и третьего вектора, перпендикулярного упомянутым первому и второму векторам.5. The system of claim 4, wherein the processing basis consists of three vectors: a first vector corresponding to yellow, a second vector corresponding to turquoise, and a third vector perpendicular to said first and second vectors.
6. Система по п. 1, в которой апертура со спектральным кодированием имеет две области со спектральными ширинами полосы, соответствующими желтому цвету и бирюзовому цвету.6. The system of claim 1, wherein the spectrally coded aperture has two regions with spectral bandwidths corresponding to yellow and turquoise.
7. Система по п. 6, в которой базис обработки состоит из трех векторов: первого вектора, соответствующего желтому цвету, второго вектора, соответствующего бирюзовому цвету, и третьего вектора, перпендикулярного упомянутым первому и второму векторам.7. The system of claim 6, wherein the processing basis consists of three vectors: a first vector corresponding to yellow, a second vector corresponding to turquoise, and a third vector perpendicular to the first and second vectors.
8. Система по п. 1, в которой апертура со спектральным кодированием имеет три конгруэнтные области со спектральными ширинами полосы, соответствующими желтому цвету, бирюзовому цвету и пурпурному цвету.8. The system of claim 1, wherein the spectrally coded aperture has three congruent regions with spectral bandwidths corresponding to yellow, turquoise, and magenta.
9. Система по п. 8, в которой базис обработки состоит из векторов, соответствующих желтому цвету, бирюзовому цвету и пурпурному цвету.9. The system of claim 8, wherein the processing basis consists of vectors corresponding to yellow, turquoise and purple.
10. Система по п. 1, в которой апертура со спектральным кодированием имеет три неконгруэнтные области со спектральными ширинами полосы, соответствующими желтому цвету, бирюзовому цвету и пурпурному цвету.10. The system of claim 1, wherein the spectrally coded aperture has three incongruent regions with spectral bandwidths corresponding to yellow, turquoise, and magenta.
11. Система по п. 10, в которой базис обработки состоит из векторов, соответствующих желтому цвету, бирюзовому цвету и пурпурному цвету.11. The system of claim 10, wherein the processing basis consists of vectors corresponding to yellow, turquoise and magenta.
12. Система по п. 1, в которой апертура со спектральным кодированием имеет плавное изменение ширины полосы по всей области апертуры.12. The system of claim 1, wherein the spectrally coded aperture has a smooth change in bandwidth across the entire aperture region.
13. Система по п. 1, в которой апертура со спектральным кодированием зафиксирована в системе линз.13. The system of claim 1, wherein the aperture with spectral coding is fixed in the lens system.
14. Система по п. 1, в которой апертура со спектральным кодированием является нефиксированной в системе линз.14. The system of claim 1, wherein the spectrally coded aperture is non-fixed in the lens system.
15. Система по п. 14, в которой апертура со спектральным кодированием выдвигается из оптической системы, чтобы не участвовать в формировании изображения.15. The system of claim 14, wherein the aperture with spectral coding is extended from the optical system so as not to participate in image formation.
16. Система по п. 1, в которой захваченное изображение может быть изображением, выбранным из последовательности видеоизображений.16. The system of claim 1, wherein the captured image may be an image selected from a sequence of video images.
17. Система по п. 1, в которой апертура со спектральным кодированием вставляется в систему линз для получения выборочных изображений из последовательности видеоизображений.17. The system of claim 1, wherein the spectrally coded aperture is inserted into the lens system to obtain sample images from a sequence of video images.
18. Система по п. 1, в которой апертура со спектральным кодированием вставляется в апертурную диафрагму системы линз.18. The system of claim 1, wherein the spectrally coded aperture is inserted into the aperture diaphragm of the lens system.
19. Система по п. 1, в которой система линз состоит из единственной линзы и апертура со спектральным кодированием может быть расположена на упомянутой линзе.19. The system of claim 1, wherein the lens system consists of a single lens and an aperture with spectral coding can be located on said lens.
20. Система по п. 1, в которой апертура со спектральным кодированием модифицируется относительно предыдущего видеоизображения из последовательности видеоизображений, захваченной датчиком.20. The system according to claim 1, in which the aperture with spectral coding is modified relative to the previous video image from the sequence of video images captured by the sensor.
21. Система по п. 1, в которой апертура со спектральным кодированием формируется с любой комбинацией непрозрачных областей и конгруэнтных областей, которые могут быть прозрачны или пропускать в определенных спектральных ширинах полосы, ультрафиолетовой или инфракрасной, или полосах различных видимых цветов.21. The system of claim 1, wherein the spectrally coded aperture is formed with any combination of opaque regions and congruent regions that may be transparent or transmit in certain spectral bandwidths, ultraviolet or infrared, or bands of various visible colors.
22. Система по п. 1, в которой апертура со спектральным кодированием формируется с любой комбинацией непрозрачных областей и неконгруэнтных областей, которые могут быть прозрачны или пропускать в определенных спектральных ширинах полосы, ультрафиолетовой или инфракрасной, или полосах различных видимых цветов.22. The system of claim 1, wherein the spectrally coded aperture is formed with any combination of opaque regions and incongruent regions that may be transparent or transmit in certain spectral bandwidths, ultraviolet or infrared, or bands of various visible colors.
23. Система по п. 1, в которой апертура со спектральным кодированием является пространственным модулятором света.23. The system of claim 1, wherein the spectrally coded aperture is a spatial light modulator.
24. Способ для захвата изображения и извлечения глубины, причем этот способ содержит: 24. A method for capturing images and extracting depth, and this method contains:
регистрацию по меньшей мере двух сдвинутых спектральных каналов светового поля для формирования захваченного изображения или последовательности видеоизображений; registration of at least two shifted spectral channels of the light field to form a captured image or sequence of video images;
преобразование захваченного изображения в изображение в базисе обработки; converting the captured image to an image in the processing basis;
оценку диспаратности на основе взаимосвязи между пикселями в спектральных каналах в базисе обработки для извлечения карты диспаратности; disparity estimation based on the relationship between the pixels in the spectral channels in the processing basis for extracting the disparity map;
восстановление захваченного изображения на основе извлеченной карты диспаратности; recovering the captured image based on the extracted disparity map;
преобразование карты диспаратности в карту глубины.converting a disparity map to a depth map.
25. Способ по п. 24, в котором упомянутая оценка диспаратности содержит:25. The method according to p. 24, in which the said disparity assessment contains:
генерацию кандидатных изображений с относительными сдвигами в спектральных каналах; generation of candidate images with relative shifts in the spectral channels;
вычисление стоимости согласования для упомянутых кандидатных изображений в спектральных каналах, calculating a matching cost for said candidate images in spectral channels,
распространение стоимости согласования в области с низкой текстурой и spreading the cost of matching in low texture areas and
оценку стоимости согласования для кандидатных изображений с субпиксельной точностью. Estimation of the cost of matching for candidate images with subpixel accuracy.
26. Способ по п. 24, в котором взаимосвязь между пикселями в спектральных каналах, требуемая для упомянутой оценки диспаратности, включает в себя метрику взаимной корреляции, вычисленную в разреженном движущемся окне.26. The method according to p. 24, in which the relationship between the pixels in the spectral channels required for said disparity estimation includes a cross-correlation metric calculated in a sparse moving window.
27. Способ по п. 24, в котором взаимосвязь между пикселями в спектральных каналах, требуемая для упомянутой оценки диспаратности, вычисляется с использованием по меньшей мере одного алгоритма стереосогласования.27. The method according to p. 24, in which the relationship between the pixels in the spectral channels required for said disparity estimation is calculated using at least one stereo matching algorithm.
28. Способ по п. 27, в котором упомянутый алгоритм стереосогласования выбирается из алгоритма суммы абсолютных разностей (SAD), или алгоритма нормированной взаимной корреляции (NCC), или алгоритма повышения контраста изображения с использованием лапласиана (LIC). 28. The method of claim 27, wherein said stereo matching algorithm is selected from an absolute difference sum (SAD) algorithm, or a normalized cross-correlation (NCC) algorithm, or an image contrast enhancement algorithm using the Laplacian (LIC).
29. Способ по п. 26, в котором упомянутая метрика взаимной корреляции вычисляется с использованием быстрого преобразования Фурье.29. The method of claim 26, wherein said cross-correlation metric is calculated using a fast Fourier transform.
30. Способ по п. 26, в котором упомянутая метрика взаимной корреляции вычисляется с использованием рекурсивного экспоненциального фильтра.30. The method of claim 26, wherein said cross-correlation metric is calculated using a recursive exponential filter.
31. Способ по п. 24, в котором упомянутое восстановление захваченного изображения включает в себя устранение размытости изображения.31. The method of claim 24, wherein said recovering the captured image includes removing image blur.
32. Способ по п. 24, в котором упомянутое восстановление захваченного изображения включает в себя выравнивание спектрального канала в базисе обработки.32. The method according to p. 24, in which the said restoration of the captured image includes the alignment of the spectral channel in the processing basis.
33. Мобильное устройство с модулем камеры для захвата изображения и операции извлечения глубины в ультрафиолетовом, видимом или инфракрасном спектре, содержащее: 33. A mobile device with a camera module for capturing images and the operation of extracting depth in the ultraviolet, visible or infrared spectrum, containing:
блок формирования изображения, содержащий:an imaging unit comprising:
систему линз; lens system;
по меньшей мере одну апертуру со спектральным кодированием, содержащую набор из по меньшей мере двух областей с разными спектральными ширинами полосы, at least one spectrally coded aperture comprising a set of at least two regions with different spectral bandwidths,
датчик для регистрации по меньшей мере двух спектральных каналов светового поля для формирования захваченного изображения в базисе датчика, и a sensor for recording at least two spectral channels of the light field to form a captured image in the basis of the sensor, and
фиксацию кодированной апертуры, позволяющую осуществить перемещение по меньшей мере одной апертуры со спектральным кодированием относительно системы линз; и fixing the encoded aperture, allowing the movement of at least one aperture with spectral coding relative to the lens system; and
блок обработки данных, содержащий: a data processing unit comprising:
блок предварительной обработки данных для преобразования захваченного изображения в базисе датчика в изображение в базисе обработки; a data preprocessing unit for converting the captured image in the sensor basis into an image in the processing basis;
блок оценки диспаратности для извлечения диспаратности из изображения в базисе обработки; a disparity assessment unit for extracting disparity from an image in a processing basis;
блок восстановления изображения и image recovery unit and
блок преобразования диспаратности в глубину.unit for disparity in depth conversion.
34. Мобильное устройство по п. 33, в котором упомянутая фиксация кодированной апертуры выполнена с возможностью замены по меньшей мере двумя апертурами со спектральным кодированием друг друга в оптической системе. 34. The mobile device according to p. 33, in which the said fixation of the encoded aperture is configured to replace at least two apertures with spectral coding of each other in the optical system.
35. Мобильное устройство по п. 33, в котором упомянутая фиксация кодированной апертуры выполнена с возможностью удаления всех апертур со спектральным кодированием из оптической системы.35. The mobile device according to p. 33, in which the said fixation of the encoded aperture is configured to remove all apertures with spectral coding from the optical system.
36. Мобильное устройство по п. 33, в котором упомянутая апертура со спектральным кодированием вставлена в апертурную диафрагму системы линз.36. The mobile device of claim 33, wherein said spectrally-coded aperture is inserted into the aperture diaphragm of a lens system.
37. Мобильное устройство по п. 33, в котором упомянутая апертура со спектральным кодированием сформирована с любой комбинацией непрозрачных областей и конгруэнтных областей, которые могут быть прозрачны или пропускать в определенных спектральных ширинах полосы, ультрафиолетовой или инфракрасной, или полосах различных видимых цветов.37. The mobile device of claim 33, wherein said spectrally coded aperture is formed with any combination of opaque regions and congruent regions that may be transparent or transmit in certain spectral bandwidths, ultraviolet or infrared, or bands of various visible colors.
38. Мобильное устройство по п. 33, в котором упомянутая апертура со спектральным кодированием сформирована с любой комбинацией непрозрачных областей и неконгруэнтных областей, которые могут быть прозрачны или пропускать в определенных спектральных ширинах полосы, ультрафиолетовой или инфракрасной, или полосах различных видимых цветов.38. The mobile device of claim 33, wherein said spectrally coded aperture is formed with any combination of opaque regions and non-congruent regions that may be transparent or transmit in certain spectral bandwidths, ultraviolet or infrared, or bands of various visible colors.
39. Мобильное устройство по п. 33, в котором упомянутая апертура со спектральным кодированием является пространственным модулятором света.39. The mobile device of claim 33, wherein said spectrally coded aperture is a spatial light modulator.
40. Система формирования изображения для захвата изображения и операции извлечения глубины в ультрафиолетовом, видимом или инфракрасном спектре, содержащая:40. An imaging system for capturing an image and an operation for extracting depth in the ultraviolet, visible or infrared spectrum, comprising:
блок формирования изображений, содержащий:an imaging unit comprising:
систему линз; lens system;
апертуру со спектральным кодированием, содержащую набор из по меньшей мере двух областей с различными спектральными ширинами полосы, и a spectrally coded aperture comprising a set of at least two regions with different spectral bandwidths, and
датчик для регистрации по меньшей мере двух спектральных каналов светового поля для формирования захваченного изображения в базисе датчика и a sensor for recording at least two spectral channels of the light field to form a captured image in the basis of the sensor and
блок обработки данных, содержащий: a data processing unit comprising:
блок предварительной обработки данных для преобразования захваченного изображения в базисе датчика в изображение в базисе обработки; a data preprocessing unit for converting the captured image in the sensor basis into an image in the processing basis;
блок оценки диспаратности для извлечения диспаратности из изображения в базисе обработки иdisparity assessment unit for extracting disparity from the image in the processing basis, and
блок преобразования диспаратности в глубину.
unit for disparity in depth conversion.