WO2017007047A1 - Spatial depth non-uniformity compensation method and device using jittered comparison - Google Patents

Spatial depth non-uniformity compensation method and device using jittered comparison Download PDF

Info

Publication number
WO2017007047A1
WO2017007047A1 PCT/KR2015/007044 KR2015007044W WO2017007047A1 WO 2017007047 A1 WO2017007047 A1 WO 2017007047A1 KR 2015007044 W KR2015007044 W KR 2015007044W WO 2017007047 A1 WO2017007047 A1 WO 2017007047A1
Authority
WO
WIPO (PCT)
Prior art keywords
image
irregular
patch
pixel
depth
Prior art date
Application number
PCT/KR2015/007044
Other languages
French (fr)
Korean (ko)
Inventor
이영민
윤우진
박현상
경종민
Original Assignee
재단법인 다차원 스마트 아이티 융합시스템 연구단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 재단법인 다차원 스마트 아이티 융합시스템 연구단 filed Critical 재단법인 다차원 스마트 아이티 융합시스템 연구단
Priority to PCT/KR2015/007044 priority Critical patent/WO2017007047A1/en
Publication of WO2017007047A1 publication Critical patent/WO2017007047A1/en

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis

Definitions

  • the embodiments below relate to a method and apparatus for spatial depth non-uniformity compensation using jittered comparison, and more particularly blur size at the pixel of the edge detected in two different images.
  • the technique of performing spatial depth non-uniformity compensation using an irregular comparison In the process of determining the depth corresponding to, the technique of performing spatial depth non-uniformity compensation using an irregular comparison.
  • the blurring of the pixels of the edge detected in the image is expressed as a function of the size of the aperture included in the camera system, the distance between the subject and the camera system, and the focal length of the lens included in the camera system.
  • the technique of determining the depth of the depth is determined based on the relationship of the blur size to the pixel of the edge detected in each of the two different images.
  • the techniques for determining the depth of an existing image are each different due to defect imperfections of an aperture lens system such as chromatic aberration, spherical aberration or aperture off-axis in the process of generating two different images.
  • an aperture lens system such as chromatic aberration, spherical aberration or aperture off-axis in the process of generating two different images.
  • the edges detected in each of the other two images are inconsistent with each other.
  • the conventional technique for determining the depth of an image has a problem that a depth determination error occurs due to a spatial nonuniformity in which the blur size between the center pixel and the edge pixel of the image is changed.
  • the following embodiments provide a method and apparatus for matching edges detected in each of two different images and resolving spatial nonuniformity in determining a depth of an image.
  • the following embodiments provide a method and apparatus for performing spatial depth non-uniformity compensation using irregular comparisons to match edges detected in each of two different images and to resolve spatial non-uniformity.
  • a spatial depth non-uniformity compensation method using jittered comparison includes obtaining a first image and a second image; Detecting an edge in each of the first image and the second image; Performing an irregular comparison on a pixel of the edge based on an offset jitter map in which an offset irregular vector corresponding to each of the sub-regions in which the first image and the second image are divided is stored; And determining a depth of a pixel of the edge on which the irregular comparison is performed by using a compensation model in which a depth according to a blur size corresponding to each of the subregions is stored.
  • Performing an irregular comparison with the pixels of the edges may include setting a first patch in a preset range around the pixels of the edges detected in the first image; Selecting an offset irregular vector corresponding to a subregion including a pixel of the edge detected in the first image from the offset irregular map; And obtaining a second patch having the highest similarity to the first patch within a preset jitter range around a pixel shifted by the selected offset irregular vector from the pixel of the edge detected in the second image. It may include a step.
  • the acquiring of the second patch may include acquiring the second patch centered on a pixel shifted by the delta irregular vector from the selected offset irregular vector.
  • Determining a depth for the pixel of the edge on which the irregular comparison is performed comprises extracting a depth corresponding to the blur size in the first patch and the second patch using the compensation model; And determining the extracted depth as a depth of a pixel of the edge on which the irregular comparison is performed.
  • the spatial depth non-uniformity compensation method may further include forming the offset irregular map.
  • the forming of the offset irregular map may include setting a first patch in a preset range around a pixel of the edge detected in the first image; Acquiring a third patch having the highest similarity to the first patch within a preset search area around the pixels of the edge detected in the second image; Calculating a distance vector between the first patch and the third patch; And statistically setting an offset irregular vector corresponding to each of the subregions based on the distance vector calculated for the pixel of the edge included in each of the subregions.
  • the spatial depth nonuniformity compensation method may further include constructing the compensation model.
  • the constructing of the compensation model may include setting a depth according to a blur size corresponding to each of the subregions in consideration of a center pixel and an edge pixel in each of the subregions.
  • a spatial depth non-uniformity compensation apparatus using jittered comparison includes an image acquisition unit for acquiring a first image and a second image; An edge detector detecting an edge in each of the first image and the second image; Performing an irregular comparison on a pixel of the edge based on an offset jitter map storing an offset irregular vector corresponding to each of the subregions in which the first image and the second image are divided; part; And a depth determiner configured to determine a depth of a pixel of the edge on which the irregular comparison is performed, using a compensation model in which a depth according to a blur size corresponding to each of the subregions is stored.
  • the irregular comparison performing unit sets a first patch having a preset range around a pixel of the edge detected in the first image, and includes a pixel of the edge detected in the first image from the offset irregular map. Selecting an offset irregular vector corresponding to an area, wherein the first patch is located within a preset jitter range about a pixel shifted from the pixel of the edge detected in the second image by the selected offset irregular vector. A second patch having the highest similarity can be obtained.
  • the depth determiner extracts a depth corresponding to the blur size in the first patch and the second patch by using the compensation model, and converts the extracted depth into a depth of a pixel of the edge on which the irregular comparison is performed. You can decide.
  • the spatial depth non-uniformity compensation device may further include an offset irregular map forming unit forming the offset irregular map.
  • the offset irregular map forming unit sets a first patch in a preset range around a pixel of the edge detected in the first image, and within a preset search area around the pixel of the edge detected in the second image. Obtains a third patch having the highest similarity to the first patch, calculates a distance vector between the first patch and the third patch, and calculates a pixel of an edge included in each of the subregions. An offset irregular vector corresponding to each of the subregions may be statistically set based on the calculated distance vector.
  • the spatial depth non-uniformity compensation device may further include a compensation model building unit for building the compensation model.
  • the compensation model builder may set a depth according to a blur size corresponding to each of the subregions in consideration of a center pixel and an edge pixel in each of the subregions.
  • the following embodiments may provide a method and apparatus for matching edges detected in each of two different images and resolving spatial nonuniformity in determining a depth of an image.
  • the following embodiments may provide a method and apparatus for performing spatial depth non-uniformity compensation using irregular comparison to match edges detected in each of two different images, and to solve spatial non-uniformity. .
  • FIG. 1 is a diagram illustrating subregions in which an image is segmented to perform spatial depth non-uniformity compensation using irregular comparison, according to an exemplary embodiment.
  • FIG. 2 is a diagram illustrating a process of forming an offset irregular map in order to perform spatial depth non-uniformity compensation using irregular comparison, according to an exemplary embodiment.
  • FIG. 3 illustrates an offset irregular map formed according to an exemplary embodiment.
  • FIG. 4 illustrates a compensation model constructed according to an embodiment.
  • FIG. 5 is a diagram for describing a process of performing spatial depth non-uniformity compensation using irregular comparison, according to an exemplary embodiment.
  • FIG. 6 is a flow chart illustrating a spatial depth non-uniformity compensation method using an irregular comparison according to an embodiment.
  • FIG. 7 is a block diagram illustrating a spatial depth non-uniformity compensation device using an irregular comparison according to an embodiment.
  • FIG. 1 is a diagram illustrating subregions in which an image is segmented to perform spatial depth non-uniformity compensation using irregular comparison, according to an exemplary embodiment.
  • the spatial depth non-uniformity compensation apparatus acquires a first image and a second image, and then performs a first image and a second image to perform spatial depth non-uniformity compensation using an irregular comparison.
  • the entire region of may be divided into M ⁇ N sub-regions 110. At this time, M ⁇ 1 & N ⁇ 1, and the unit may be the number of pixels.
  • the spatial depth non-uniformity compensation device may apply an irregular comparison as shown in Equation 1 to the divided subregions 110.
  • J total (x, y) J offset i (x, y) + J delta i (x, y) (x, y)
  • Equation 1 x represents the x-axis of the pixel, y represents the y-axis of the pixel, J total (x, y) represents the irregular vector of the pixel of the edge having the x, y position, J offset i (x, y) denotes an offset irregular vector corresponding to the subregion i (x, y) where the pixels of the edge are included, and J delta i (x, y) (x, y) denotes the subregion i ( delta delta irregular vector from the offset irregular vector corresponding to x, y).
  • the spatial depth non-uniformity compensation device sets and stores the offset irregular vector J offset i (x, y) corresponding to each of the subregions 110 before performing the random comparison, thereby offset offset jitter map ) Is formed in advance and an offset irregular vector corresponding to the subregion i (x, y) including the pixel of the edge of the subregions 110 in the process of performing the irregular comparison is J delta i (x, y) ( By calculating x, y), an irregular comparison can be performed on the pixels at the edges. Detailed description thereof will be described below.
  • FIG. 2 is a diagram illustrating a process of forming an offset irregular map in order to perform spatial depth non-uniformity compensation using irregular comparison, according to an exemplary embodiment.
  • the spatial depth non-uniformity compensation device may preform an offset irregular map before performing spatial depth non-uniformity compensation using an irregular comparison.
  • the spatial depth non-uniformity compensation device detects an edge in the first image 210 and the second image 220, and then sets a predetermined range around the pixels 212 of the edge detected in the first image 210.
  • the patch 211 of the first image 210 may be set.
  • the spatial depth non-uniformity compensator preliminarily centers on the pixel 222 of the edge detected in the second image 220 (the pixel at the same position as the pixel 212 of the edge detected in the first image 210).
  • the patch 221 of the second image 220 having the highest similarity with the patch 211 of the first image 210 may be acquired within the set jitter range 230.
  • the spatial depth non-uniformity compensation device may calculate the distance vector jitter 240 between the patch 211 of the first image 210 and the patch 221 of the second image 220.
  • the spatial depth non-uniformity compensating apparatus may perform subregions based on the distance vector 240 calculated for the pixel of the edge included in each of the subregions in which the first image 210 and the second image 220 are divided.
  • the offset irregular vectors corresponding to each can be statistically set.
  • the spatial depth non-uniformity compensation device calculates the distance vector 240 of each of the pixels of the edge in each of the subregions in which the first image 210 and the second image 220 are divided, and then the subregions.
  • An offset irregular vector corresponding to each of the subregions may be set as an average value of the distance vectors 240 of the pixels of the edges obtained in each of the subregions.
  • the spatial depth non-uniformity compensation device determines the depth by storing and maintaining an offset irregular map in which the offset irregularity vector corresponding to each of the subregions is stored in the memory. Irregular comparisons can be performed at. Detailed description thereof will be described with reference to FIG. 3.
  • the spatial depth non-uniformity compensation device may build a compensation model in advance before performing the spatial depth non-uniformity compensation in the process of determining the depth.
  • the spatial depth non-uniformity compensation device sets the depth according to the blur size corresponding to each of the sub-areas in consideration of the center pixel and the edge pixel in each of the sub-areas, thereby reducing the blur size corresponding to each of the sub-areas.
  • the compensation model stored according to the depth can be stored in the memory and maintained. Detailed description thereof will be described with reference to FIG. 4.
  • FIG. 3 illustrates an offset irregular map formed according to an exemplary embodiment.
  • the spatial depth non-uniformity compensating device may further include each of the subregions based on a distance vector calculated for a pixel of an edge included in each of the subregions in which the first and second images are divided.
  • the offset irregularity map 310 may be formed.
  • the offset irregular vector corresponding to each of the subregions may be composed of an offset of the x-axis coordinate of the pixel and an offset of the y-axis coordinate of the pixel.
  • the offset irregular map 310 may be formed in advance in the process of producing the spatial depth non-uniformity compensation device (in particular, during production inspection).
  • FIG. 4 illustrates a compensation model constructed according to an embodiment.
  • the spatial depth non-uniformity compensating apparatus may determine the depth according to the blur size corresponding to each of the subregions in consideration of the center pixel 411 and the edge pixel 412 in each of the subregions.
  • the compensation model can be constructed by setting the transformation curve 410 (in the transformation curve 410, the x-axis represents depth and the y-axis represents the blur size).
  • the compensation model like the offset irregular map, may be built in advance in the process of producing the spatial depth non-uniformity compensation device (especially during production inspection).
  • FIG. 5 is a diagram for describing a process of performing spatial depth non-uniformity compensation using irregular comparison, according to an exemplary embodiment.
  • a spatial depth non-uniformity compensating apparatus detects edges in a first image 510 and a second image 520, and then detects edges of pixels of an edge based on a preformed offset irregular map. Perform random comparisons.
  • the apparatus for compensating for spatial depth non-uniformity may set the patch 511 of the first image 510 in a preset range around the pixel 512 of the edge detected in the first image 510.
  • the spatial depth non-uniformity compensator may select an offset irregular vector 530 corresponding to a subregion including the pixel 512 of the edge detected in the first image 510 from the previously formed offset irregular map.
  • the spatial depth non-uniformity compensation device selects an offset irregularity selected from the pixel 522 of the edge detected in the second image 520 (the pixel at the same position as the pixel 512 of the edge detected in the first image 510).
  • the patch 521 of the second image 520 that is most similar to the patch 511 of the first image 510 within the preset search area 540 around the pixel 531 moved by the vector 530. Can be obtained.
  • the delta irregular vector 550 represents the vector distance from the selected offset irregular vector 530 to the pixel 523 which is the center of the patch 521 of the second image 520
  • the second image 520 The process of acquiring a patch 521 is calculated by calculating a delta irregular vector 550 and obtaining a patch centered on the pixel 523 moved by the delta irregular vector 550 calculated from the selected offset irregular vector 530. It may be a process of obtaining.
  • the spatial depth non-uniformity compensation device determines the depth of the pixels of the edge on which the irregular comparison is performed, using a previously constructed compensation model.
  • the spatial depth non-uniformity compensation device extracts a depth corresponding to the blur size in the patch 511 of the first image 510 and the patch 521 of the second image 520 using a pre-built compensation model. Then, the extracted depth may be determined as the depth for the pixel of the edge where the irregular comparison is performed.
  • the spatial depth non-uniformity compensation device not only performs the irregular comparison and spatial depth non-uniformity compensation described above with respect to the other pixels of the edge detected in the first image 510 and the second image 520, but also the first image.
  • the spatial depth non-uniformity compensation device By performing the 510 and the second image 520 on each of the pixels included in the divided subregions, a depth of each of the subregions may be determined.
  • the spatial depth non-uniformity compensation device applies a point spread function (PSF) to either the patch 511 of the first image 510 or the patch 521 of the second image 520, and then includes a pre-built compensation model. May be used to determine the depth for the pixel of the edge on which the irregular comparison was performed.
  • PSF point spread function
  • the spatial depth non-uniformity compensation process using such an irregular comparison is performed before the depths of the pixels of the edges detected in the first image 510 and the second image 520 are extracted or the first image 510 and the second image ( The depth for the pixel of the edge detected at 520 may be extracted and performed at the same time.
  • FIG. 6 is a flow chart illustrating a spatial depth non-uniformity compensation method using an irregular comparison according to an embodiment.
  • the spatial depth non-uniformity compensating device acquires a first image and a second image.
  • the spatial depth non-uniformity compensation device detects an edge in each of the first image and the second image (620).
  • the spatial depth non-uniformity compensator then compares the irregularities to the pixels of the edge based on an offset jitter map in which an offset irregular vector corresponding to each of the subregions in which the first image and the second image are divided is stored. Perform 630.
  • the spatial depth non-uniformity compensating apparatus sets a first patch in a preset range around the pixels of the edge detected in the first image, and the subregion including the pixels of the edge detected in the first image from the offset irregular map. After selecting an offset irregular vector corresponding to, the first highest similarity to the first patch within a preset jitter range centered on the pixel shifted by the selected offset irregular vector from the pixel of the edge detected in the second image. By obtaining two patches, one can perform an irregular comparison on the pixels at the edges.
  • the process of acquiring the second patch may be a process of acquiring a second patch around the pixel shifted by the delta irregular vector from the selected offset irregular vector.
  • the spatial depth non-uniformity compensation device determines a depth of the pixel of the edge where the random comparison is performed, using a compensation model in which the depth according to the blur size corresponding to each of the subregions is stored (640).
  • the spatial depth non-uniformity compensation device extracts a depth corresponding to the blur size in the first patch and the second patch using a compensation model, and then determines the extracted depth as the depth for the pixel of the edge where the irregular comparison is performed. Can be.
  • the spatial depth non-uniformity compensation device may form an offset irregular map before performing an irregular comparison with respect to the pixels of the edge.
  • the spatial depth non-uniformity compensating apparatus sets a first patch of a preset range around the pixels of the edge detected in the first image, and within the preset search area around the pixels of the edge detected in the second image. After obtaining a third patch having the highest similarity with the first patch, and calculating a distance vector (jitter) between the first patch and the third patch, the distance vector calculated for the pixel of the edge included in each of the subregions.
  • jitter a distance vector
  • the spatial depth non-uniformity compensation device may build a compensation model before performing an irregular comparison with respect to pixels at the edges.
  • the spatial depth non-uniformity compensation apparatus may construct a compensation model by setting a depth according to a blur size corresponding to each of the subregions in consideration of the center pixel and the edge pixel in each of the subregions.
  • FIG. 7 is a block diagram illustrating a spatial depth non-uniformity compensation device using an irregular comparison according to an embodiment.
  • an apparatus for compensating spatial depth nonuniformity includes an image acquirer 710, an edge detector 720, an irregular comparison performer 730, and a depth determiner 740.
  • the image acquirer 710 acquires a first image and a second image.
  • the edge detector 720 detects an edge in each of the first image and the second image.
  • the irregular comparison performing unit 730 performs an irregular comparison with respect to the pixels of the edge based on an offset jitter map in which an offset irregular vector corresponding to each of the subregions in which the first image and the second image are divided is stored. Perform.
  • the irregular comparison performing unit 730 sets a first patch having a preset range around the pixels of the edge detected in the first image, and includes the pixels of the edge detected in the first image from the offset irregular map. After selecting the offset irregular vector corresponding to the subregion, the degree of similarity with the first patch within the preset jitter range centered on the pixel shifted by the selected offset irregular vector from the pixel of the edge detected in the second image. By obtaining a high second patch, an irregular comparison can be performed on the pixels at the edges.
  • the process of acquiring the second patch may be a process of acquiring a second patch around the pixel shifted by the delta irregular vector from the selected offset irregular vector.
  • the depth determiner 740 determines a depth of the pixel of the edge where the random comparison is performed, using a compensation model in which the depth according to the blur size corresponding to each of the subregions is stored (640).
  • the depth determiner 740 extracts a depth corresponding to the blur size in the first patch and the second patch by using the compensation model, and then extracts the extracted depth as the depth of the pixel of the edge where the irregular comparison is performed. You can decide.
  • the spatial depth non-uniformity compensation device may further include an offset irregular map forming unit.
  • the offset irregular map forming unit may form an offset irregular map before performing an irregular comparison on the pixels of the edge.
  • the offset irregular map forming unit sets a first patch in a preset range around the pixels of the edge detected in the first image, and sets the first patch within a preset search area around the pixels of the edge detected in the second image.
  • a third patch having the highest similarity to one patch is obtained, and the distance vector jitter between the first patch and the third patch is calculated, and then the distance vector calculated for the pixel of the edge included in each of the subregions.
  • the spatial depth non-uniformity compensation device may further include a compensation model constructing unit.
  • the compensation model builder may build a compensation model before performing an irregular comparison on the pixels at the edges.
  • the compensation model builder may build a compensation model by setting a depth according to a blur size corresponding to each of the subregions in consideration of the center pixel and the edge pixel in each of the subregions.
  • the apparatus described above may be implemented as a hardware component, a software component, and / or a combination of hardware components and software components.
  • the devices and components described in the embodiments may be, for example, processors, controllers, arithmetic logic units (ALUs), digital signal processors, microcomputers, field programmable arrays (FPAs), It may be implemented using one or more general purpose or special purpose computers, such as a programmable logic unit (PLU), microprocessor, or any other device capable of executing and responding to instructions.
  • the processing device may execute an operating system (OS) and one or more software applications running on the operating system.
  • the processing device may also access, store, manipulate, process, and generate data in response to the execution of the software.
  • OS operating system
  • the processing device may also access, store, manipulate, process, and generate data in response to the execution of the software.
  • processing device includes a plurality of processing elements and / or a plurality of types of processing elements. It can be seen that it may include.
  • the processing device may include a plurality of processors or one processor and one controller.
  • other processing configurations are possible, such as parallel processors.
  • the software may include a computer program, code, instructions, or a combination of one or more of the above, and configure the processing device to operate as desired, or process it independently or collectively. You can command the device.
  • Software and / or data may be any type of machine, component, physical device, virtual equipment, computer storage medium or device in order to be interpreted by or to provide instructions or data to the processing device. Or may be permanently or temporarily embodied in a signal wave to be transmitted.
  • the software may be distributed over networked computer systems so that they may be stored or executed in a distributed manner.
  • Software and data may be stored on one or more computer readable recording media.
  • the method according to the embodiment may be embodied in the form of program instructions that can be executed by various computer means and recorded in a computer readable medium.
  • the computer readable medium may include program instructions, data files, data structures, etc. alone or in combination.
  • the program instructions recorded on the media may be those specially designed and constructed for the purposes of the embodiments, or they may be of the kind well-known and available to those having skill in the computer software arts.
  • Examples of computer-readable recording media include magnetic media such as hard disks, floppy disks, and magnetic tape, optical media such as CD-ROMs, DVDs, and magnetic disks, such as floppy disks.
  • Examples of program instructions include not only machine code generated by a compiler, but also high-level language code that can be executed by a computer using an interpreter or the like.
  • the hardware device described above may be configured to operate as one or more software modules to perform the operations of the embodiments, and vice versa.

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Image Processing (AREA)

Abstract

A spatial depth non-uniformity compensation method using jittered comparison comprises the steps of: acquiring a first image and a second image; detecting edges from each of the first image and the second image; performing the jittered comparison for pixels of the edges on the basis of an offset jitter map in which an offset jitter vector corresponding to each of sub-regions divided from the first image and the second image is stored; and determining a depth for the pixels of the edges for which the jittered comparison has been performed, by using a compensation model in which a depth corresponding to a blur size corresponding to each of the sub-regions is stored.

Description

불규칙 비교를 이용하는 공간적 깊이 불균일성 보상 방법 및 장치Method and apparatus for compensating spatial depth non-uniformity using irregular comparison
아래의 실시예들은 불규칙 비교(jittered comparison)를 이용하는 공간적 깊이 불균일성 보상(spatial depth non-uniformity compensation) 방법 및 장치에 관한 것으로, 보다 구체적으로 서로 다른 두 개의 이미지들에서 검출되는 에지의 픽셀에서 블러 크기에 대응하는 깊이를 결정하는 과정에서, 불규칙 비교를 이용하여 공간적 깊이 불균일성 보상을 수행하는 기술에 대한 것이다.The embodiments below relate to a method and apparatus for spatial depth non-uniformity compensation using jittered comparison, and more particularly blur size at the pixel of the edge detected in two different images. In the process of determining the depth corresponding to, the technique of performing spatial depth non-uniformity compensation using an irregular comparison.
이미지에서 검출되는 에지의 픽셀에 대한 블러는 카메라 시스템에 포함되는 조리개의 크기, 피사체와 카메라 시스템과의 거리 및 카메라 시스템에 포함되는 렌즈의 초점거리의 함수로 표현되기 때문에, 기존의 카메라 시스템에서 이미지의 깊이를 결정하는 기술은 서로 다른 두 개의 이미지들 각각에서 검출되는 에지의 픽셀에 대한 블러 크기의 관계에 기초하여 깊이를 결정한다.The blurring of the pixels of the edge detected in the image is expressed as a function of the size of the aperture included in the camera system, the distance between the subject and the camera system, and the focal length of the lens included in the camera system. The technique of determining the depth of the depth is determined based on the relationship of the blur size to the pixel of the edge detected in each of the two different images.
그러나, 기존의 이미지의 깊이를 결정하는 기술은 서로 다른 두 개의 이미지들 각각이 생성되는 과정에서 색수차, 구면수차 또는 조리개 오프 액시스(aperture off-axis)와 같은 조리개렌즈 시스템의 결함불완전성으로 인해 서로 다른 두 개의 이미지들 각각에서 검출되는 에지가 서로 불일치하는 현상이 발생되는 단점이 있다.However, the techniques for determining the depth of an existing image are each different due to defect imperfections of an aperture lens system such as chromatic aberration, spherical aberration or aperture off-axis in the process of generating two different images. There is a disadvantage in that the edges detected in each of the other two images are inconsistent with each other.
또한, 기존의 이미지의 깊이를 결정하는 기술은 이미지의 중심부 픽셀 및 가장자리 픽셀 사이의 블러 크기가 달라지는 공간적 불균일성으로 인한 깊이 결정 오류가 발생되는 문제점이 있다.In addition, the conventional technique for determining the depth of an image has a problem that a depth determination error occurs due to a spatial nonuniformity in which the blur size between the center pixel and the edge pixel of the image is changed.
이에, 본 명세서에서는 이미지의 깊이를 결정하는 과정에서, 불규칙 비교 및 공간적 깊이 불균일성 보상을 수행하여 서로 다른 두 개의 이미지들 각각에서 검출되는 에지를 일치시키고, 공간적 불균일성을 해소하는 기술을 제안한다.Accordingly, in the present specification, in the process of determining the depth of an image, a technique of performing random comparison and spatial depth nonuniformity compensation to match edges detected in each of two different images and solving spatial nonuniformity is proposed.
아래의 실시예들은 이미지의 깊이를 결정하는 과정에서, 서로 다른 두 개의 이미지들 각각에서 검출되는 에지를 일치시키고, 공간적 불균일성을 해소하는 방법 및 장치를 제공한다.The following embodiments provide a method and apparatus for matching edges detected in each of two different images and resolving spatial nonuniformity in determining a depth of an image.
구체적으로, 아래의 실시예들은 서로 다른 두 개의 이미지들 각각에서 검출되는 에지를 일치시키고, 공간적 불균일성을 해소하기 위하여, 불규칙 비교를 이용하여 공간적 깊이 불균일성 보상을 수행하는 방법 및 장치를 제공한다.Specifically, the following embodiments provide a method and apparatus for performing spatial depth non-uniformity compensation using irregular comparisons to match edges detected in each of two different images and to resolve spatial non-uniformity.
일실시예에 따르면, 불규칙 비교(jittered comparison)를 이용하는 공간적 깊이 불균일성 보상(spatial depth non-uniformity compensation) 방법은 제1 이미지 및 제2 이미지를 획득하는 단계; 상기 제1 이미지 및 상기 제2 이미지 각각에서 에지를 검출하는 단계; 상기 제1 이미지 및 상기 제2 이미지가 분할된 부영역들 각각에 대응하는 오프셋 불규칙 벡터가 저장된 오프셋 불규칙 맵(offset jitter map)에 기초하여, 상기 에지의 픽셀에 대해 불규칙 비교를 수행하는 단계; 및 상기 부영역들 각각에 대응하는 블러 크기에 따른 깊이가 저장된 보상 모델을 이용하여, 상기 불규칙 비교가 수행된 상기 에지의 픽셀에 대한 깊이를 결정하는 단계를 포함한다.According to one embodiment, a spatial depth non-uniformity compensation method using jittered comparison includes obtaining a first image and a second image; Detecting an edge in each of the first image and the second image; Performing an irregular comparison on a pixel of the edge based on an offset jitter map in which an offset irregular vector corresponding to each of the sub-regions in which the first image and the second image are divided is stored; And determining a depth of a pixel of the edge on which the irregular comparison is performed by using a compensation model in which a depth according to a blur size corresponding to each of the subregions is stored.
상기 에지의 픽셀에 대해 불규칙 비교를 수행하는 단계는 상기 제1 이미지에서 검출된 상기 에지의 픽셀을 중심으로 미리 설정된 범위의 제1 패치를 설정하는 단계; 상기 오프셋 불규칙 맵으로부터 상기 제1 이미지에서 검출된 상기 에지의 픽셀이 포함되는 부영역에 대응하는 오프셋 불규칙 벡터를 선택하는 단계; 및 상기 제2 이미지에서 검출된 상기 에지의 픽셀로부터 상기 선택된 오프셋 불규칙 벡터만큼 이동된 픽셀을 중심으로 미리 설정된 탐색 영역(jitter range) 내에서 상기 제1 패치와 가장 유사도가 높은 제2 패치를 획득하는 단계를 포함할 수 있다.Performing an irregular comparison with the pixels of the edges may include setting a first patch in a preset range around the pixels of the edges detected in the first image; Selecting an offset irregular vector corresponding to a subregion including a pixel of the edge detected in the first image from the offset irregular map; And obtaining a second patch having the highest similarity to the first patch within a preset jitter range around a pixel shifted by the selected offset irregular vector from the pixel of the edge detected in the second image. It may include a step.
상기 제2 패치를 획득하는 단계는 상기 선택된 오프셋 불규칙 벡터로부터 델타 불규칙 벡터만큼 이동된 픽셀을 중심으로 하는 상기 제2 패치를 획득하는 단계일 수 있다.The acquiring of the second patch may include acquiring the second patch centered on a pixel shifted by the delta irregular vector from the selected offset irregular vector.
상기 불규칙 비교가 수행된 상기 에지의 픽셀에 대한 깊이를 결정하는 단계는 상기 보상 모델을 이용하여 상기 제1 패치 및 상기 제2 패치에서의 블러 크기에 대응하는 깊이를 추출하는 단계; 및 상기 추출된 깊이를 상기 불규칙 비교가 수행된 상기 에지의 픽셀에 대한 깊이로 결정하는 단계를 포함할 수 있다.Determining a depth for the pixel of the edge on which the irregular comparison is performed comprises extracting a depth corresponding to the blur size in the first patch and the second patch using the compensation model; And determining the extracted depth as a depth of a pixel of the edge on which the irregular comparison is performed.
상기 공간적 깊이 불균일성 보상 방법은 상기 오프셋 불규칙 맵을 형성하는 단계를 더 포함할 수 있다.The spatial depth non-uniformity compensation method may further include forming the offset irregular map.
상기 오프셋 불규칙 맵을 형성하는 단계는 상기 제1 이미지에서 검출된 상기 에지의 픽셀을 중심으로 미리 설정된 범위의 제1 패치를 설정하는 단계; 상기 제2 이미지에서 검출된 상기 에지의 픽셀을 중심으로 미리 설정된 탐색 영역 내에서 상기 제1 패치와 가장 유사도가 높은 제3 패치를 획득하는 단계; 상기 제1 패치 및 상기 제3 패치 사이의 거리 벡터(jitter)를 계산하는 단계; 및 상기 부영역들 각각에 포함되는 에지의 픽셀에 대해 계산된 거리 벡터에 기초하여 상기 부영역들 각각에 대응하는 오프셋 불규칙 벡터를 통계적으로 설정하는 단계를 포함할 수 있다.The forming of the offset irregular map may include setting a first patch in a preset range around a pixel of the edge detected in the first image; Acquiring a third patch having the highest similarity to the first patch within a preset search area around the pixels of the edge detected in the second image; Calculating a distance vector between the first patch and the third patch; And statistically setting an offset irregular vector corresponding to each of the subregions based on the distance vector calculated for the pixel of the edge included in each of the subregions.
상기 공간적 깊이 불균일성 보상 방법은 상기 보상 모델을 구축하는 단계를 더 포함할 수 있다.The spatial depth nonuniformity compensation method may further include constructing the compensation model.
상기 보상 모델을 구축하는 단계는 상기 부영역들 각각에서의 중심부 픽셀 및 가장자리 픽셀을 고려하여 상기 부영역들 각각에 대응하는 블러 크기에 따른 깊이를 설정하는 단계를 포함할 수 있다.The constructing of the compensation model may include setting a depth according to a blur size corresponding to each of the subregions in consideration of a center pixel and an edge pixel in each of the subregions.
일실시예에 따르면, 불규칙 비교(jittered comparison)를 이용하는 공간적 깊이 불균일성 보상(spatial depth non-uniformity compensation) 장치는 제1 이미지 및 제2 이미지를 획득하는 이미지 획득부; 상기 제1 이미지 및 상기 제2 이미지 각각에서 에지를 검출하는 에지 검출부; 상기 제1 이미지 및 상기 제2 이미지가 분할된 부영역들 각각에 대응하는 오프셋 불규칙 벡터가 저장된 오프셋 불규칙 맵(offset jitter map)에 기초하여, 상기 에지의 픽셀에 대해 불규칙 비교를 수행하는 불규칙 비교 수행부; 및 상기 부영역들 각각에 대응하는 블러 크기에 따른 깊이가 저장된 보상 모델을 이용하여, 상기 불규칙 비교가 수행된 상기 에지의 픽셀에 대한 깊이를 결정하는 깊이 결정부를 포함한다.According to one embodiment, a spatial depth non-uniformity compensation apparatus using jittered comparison includes an image acquisition unit for acquiring a first image and a second image; An edge detector detecting an edge in each of the first image and the second image; Performing an irregular comparison on a pixel of the edge based on an offset jitter map storing an offset irregular vector corresponding to each of the subregions in which the first image and the second image are divided; part; And a depth determiner configured to determine a depth of a pixel of the edge on which the irregular comparison is performed, using a compensation model in which a depth according to a blur size corresponding to each of the subregions is stored.
상기 불규칙 비교 수행부는 상기 제1 이미지에서 검출된 상기 에지의 픽셀을 중심으로 미리 설정된 범위의 제1 패치를 설정하고, 상기 오프셋 불규칙 맵으로부터 상기 제1 이미지에서 검출된 상기 에지의 픽셀이 포함되는 부영역에 대응하는 오프셋 불규칙 벡터를 선택하며, 상기 제2 이미지에서 검출된 상기 에지의 픽셀로부터 상기 선택된 오프셋 불규칙 벡터만큼 이동된 픽셀을 중심으로 미리 설정된 탐색 영역(jitter range) 내에서 상기 제1 패치와 가장 유사도가 높은 제2 패치를 획득할 수 있다.The irregular comparison performing unit sets a first patch having a preset range around a pixel of the edge detected in the first image, and includes a pixel of the edge detected in the first image from the offset irregular map. Selecting an offset irregular vector corresponding to an area, wherein the first patch is located within a preset jitter range about a pixel shifted from the pixel of the edge detected in the second image by the selected offset irregular vector. A second patch having the highest similarity can be obtained.
상기 깊이 결정부는 상기 보상 모델을 이용하여 상기 제1 패치 및 상기 제2 패치에서의 블러 크기에 대응하는 깊이를 추출하고, 상기 추출된 깊이를 상기 불규칙 비교가 수행된 상기 에지의 픽셀에 대한 깊이로 결정할 수 있다.The depth determiner extracts a depth corresponding to the blur size in the first patch and the second patch by using the compensation model, and converts the extracted depth into a depth of a pixel of the edge on which the irregular comparison is performed. You can decide.
상기 공간적 깊이 불균일성 보상 장치는 상기 오프셋 불규칙 맵을 형성하는 오프셋 불규칙 맵 형성부를 더 포함할 수 있다.The spatial depth non-uniformity compensation device may further include an offset irregular map forming unit forming the offset irregular map.
상기 오프셋 불규칙 맵 형성부는 상기 제1 이미지에서 검출된 상기 에지의 픽셀을 중심으로 미리 설정된 범위의 제1 패치를 설정하고, 상기 제2 이미지에서 검출된 상기 에지의 픽셀을 중심으로 미리 설정된 탐색 영역 내에서 상기 제1 패치와 가장 유사도가 높은 제3 패치를 획득하며, 상기 제1 패치 및 상기 제3 패치 사이의 거리 벡터(jitter)를 계산하고, 상기 부영역들 각각에 포함되는 에지의 픽셀에 대해 계산된 거리 벡터에 기초하여 상기 부영역들 각각에 대응하는 오프셋 불규칙 벡터를 통계적으로 설정할 수 있다.The offset irregular map forming unit sets a first patch in a preset range around a pixel of the edge detected in the first image, and within a preset search area around the pixel of the edge detected in the second image. Obtains a third patch having the highest similarity to the first patch, calculates a distance vector between the first patch and the third patch, and calculates a pixel of an edge included in each of the subregions. An offset irregular vector corresponding to each of the subregions may be statistically set based on the calculated distance vector.
상기 공간적 깊이 불균일성 보상 장치는 상기 보상 모델을 구축하는 보상 모델 구축부를 더 포함할 수 있다.The spatial depth non-uniformity compensation device may further include a compensation model building unit for building the compensation model.
상기 보상 모델 구축부는 상기 부영역들 각각에서의 중심부 픽셀 및 가장자리 픽셀을 고려하여 상기 부영역들 각각에 대응하는 블러 크기에 따른 깊이를 설정할 수 있다.The compensation model builder may set a depth according to a blur size corresponding to each of the subregions in consideration of a center pixel and an edge pixel in each of the subregions.
아래의 실시예들은 이미지의 깊이를 결정하는 과정에서, 서로 다른 두 개의 이미지들 각각에서 검출되는 에지를 일치시키고, 공간적 불균일성을 해소하는 방법 및 장치를 제공할 수 있다.The following embodiments may provide a method and apparatus for matching edges detected in each of two different images and resolving spatial nonuniformity in determining a depth of an image.
구체적으로, 아래의 실시예들은 서로 다른 두 개의 이미지들 각각에서 검출되는 에지를 일치시키고, 공간적 불균일성을 해소하기 위하여, 불규칙 비교를 이용하여 공간적 깊이 불균일성 보상을 수행하는 방법 및 장치를 제공할 수 있다.Specifically, the following embodiments may provide a method and apparatus for performing spatial depth non-uniformity compensation using irregular comparison to match edges detected in each of two different images, and to solve spatial non-uniformity. .
도 1은 일실시예에 따라 불규칙 비교를 이용하는 공간적 깊이 불균일성 보상이 수행되기 위하여 이미지가 분할된 부영역들을 나타낸 도면이다.1 is a diagram illustrating subregions in which an image is segmented to perform spatial depth non-uniformity compensation using irregular comparison, according to an exemplary embodiment.
도 2는 일실시예에 따라 불규칙 비교를 이용하는 공간적 깊이 불균일성 보상이 수행되기 위하여 오프셋 불규칙 맵이 형성되는 과정을 나타낸 도면이다.FIG. 2 is a diagram illustrating a process of forming an offset irregular map in order to perform spatial depth non-uniformity compensation using irregular comparison, according to an exemplary embodiment.
도 3은 일실시예에 따라 형성된 오프셋 불규칙 맵을 나타낸 도면이다.3 illustrates an offset irregular map formed according to an exemplary embodiment.
도 4는 일실시예에 따라 구축된 보상 모델을 나타낸 도면이다.4 illustrates a compensation model constructed according to an embodiment.
도 5는 일실시예에 따라 불규칙 비교를 이용하는 공간적 깊이 불균일성 보상이 수행되는 과정을 설명하기 위한 도면이다.5 is a diagram for describing a process of performing spatial depth non-uniformity compensation using irregular comparison, according to an exemplary embodiment.
도 6은 일실시예에 따른 불규칙 비교를 이용하는 공간적 깊이 불균일성 보상 방법을 나타낸 플로우 차트이다.6 is a flow chart illustrating a spatial depth non-uniformity compensation method using an irregular comparison according to an embodiment.
도 7은 일실시예에 따른 불규칙 비교를 이용하는 공간적 깊이 불균일성 보상 장치를 나타낸 블록도이다.7 is a block diagram illustrating a spatial depth non-uniformity compensation device using an irregular comparison according to an embodiment.
이하, 실시예들을 첨부된 도면을 참조하여 상세하게 설명한다. 그러나 본 발명이 실시예들에 의해 제한되거나 한정되는 것은 아니다. 또한, 각 도면에 제시된 동일한 참조 부호는 동일한 부재를 나타낸다.Hereinafter, exemplary embodiments will be described in detail with reference to the accompanying drawings. However, the present invention is not limited or limited by the embodiments. Also, like reference numerals in the drawings denote like elements.
또한, 본 명세서에서 사용되는 용어(terminology)들은 본 발명의 바람직한 실시예를 적절히 표현하기 위해 사용된 용어들로서, 이는 사용자, 운용자의 의도 또는 본 발명이 속하는 분야의 관례 등에 따라 달라질 수 있다. 따라서, 본 용어들에 대한 정의는 본 명세서 전반에 걸친 내용을 토대로 내려져야 할 것이다.Also, the terminology used herein is a term used to properly express a preferred embodiment of the present invention, which may vary depending on a user, an operator's intention, or customs in the field to which the present invention belongs. Therefore, the definitions of the terms should be made based on the contents throughout the specification.
도 1은 일실시예에 따라 불규칙 비교를 이용하는 공간적 깊이 불균일성 보상이 수행되기 위하여 이미지가 분할된 부영역들을 나타낸 도면이다.1 is a diagram illustrating subregions in which an image is segmented to perform spatial depth non-uniformity compensation using irregular comparison, according to an exemplary embodiment.
도 1을 참조하면, 일실시예에 따른 공간적 깊이 불균일성 보상 장치는 불규칙 비교를 이용하여 공간적 깊이 불균일성 보상을 수행하기 위해, 제1 이미지 및 제2 이미지를 획득한 후, 제1 이미지 및 제2 이미지의 전체 영역을 M×N 개의 부영역(sub-region)들(110)로 분할할 수 있다. 이 때, M≥1 & N≥1이고, 그 단위는 픽셀들의 개수일 수 있다.Referring to FIG. 1, the spatial depth non-uniformity compensation apparatus according to an embodiment acquires a first image and a second image, and then performs a first image and a second image to perform spatial depth non-uniformity compensation using an irregular comparison. The entire region of may be divided into M × N sub-regions 110. At this time, M≥1 & N≥1, and the unit may be the number of pixels.
공간적 깊이 불균일성 보상 장치는 이와 같이 분할된 부영역들(110)에 대해 수학식 1과 같이 불규칙 비교를 적용할 수 있다.The spatial depth non-uniformity compensation device may apply an irregular comparison as shown in Equation 1 to the divided subregions 110.
[수학식 1][Equation 1]
Jtotal (x,y)=Joffset i(x,y)+Jdelta i(x,y)(x,y)J total (x, y) = J offset i (x, y) + J delta i (x, y) (x, y)
수학식 1에서, x는 픽셀의 x축을 나타내고, y는 픽셀의 y축을 나타내며, Jtotal (x,y)는 x, y 위치를 갖는 에지의 픽셀의 불규칙 벡터를 나타내고, Joffset i(x,y)는 에지의 픽셀이 포함되는 부영역 i(x, y)에 대응하는 오프셋 불규칙 벡터를 나타내며, Jdelta i(x,y)(x,y)는 에지의 픽셀이 포함되는 부영역 i(x, y)에 대응하는 오프셋 불규칙 벡터로부터의 델타텔타 불규칙 벡터를 나타낸다.In Equation 1, x represents the x-axis of the pixel, y represents the y-axis of the pixel, J total (x, y) represents the irregular vector of the pixel of the edge having the x, y position, J offset i (x, y) denotes an offset irregular vector corresponding to the subregion i (x, y) where the pixels of the edge are included, and J delta i (x, y) (x, y) denotes the subregion i ( delta delta irregular vector from the offset irregular vector corresponding to x, y).
따라서, 공간적 깊이 불균일성 보상 장치는 불규칙 비교를 수행하기 이전에 부영역들(110) 각각에 대응하는 오프셋 불규칙 벡터인 Joffset i(x,y)를 설정하여 저장함으로써, 오프셋 불규칙 맵(offset jitter map)을 미리 형성하고, 불규칙 비교를 수행하는 과정에서 부영역들(110) 중 에지의 픽셀이 포함되는 부영역 i(x, y)에 대응하는 오프셋 불규칙 벡터인 Jdelta i(x,y)(x,y)를 계산함으로써, 에지의 픽셀에 대해 불규칙 비교를 수행할 수 있다. 이에 대한 상세한 설명은 아래에서 기재하기로 한다.Therefore, the spatial depth non-uniformity compensation device sets and stores the offset irregular vector J offset i (x, y) corresponding to each of the subregions 110 before performing the random comparison, thereby offset offset jitter map ) Is formed in advance and an offset irregular vector corresponding to the subregion i (x, y) including the pixel of the edge of the subregions 110 in the process of performing the irregular comparison is J delta i (x, y) ( By calculating x, y), an irregular comparison can be performed on the pixels at the edges. Detailed description thereof will be described below.
도 2는 일실시예에 따라 불규칙 비교를 이용하는 공간적 깊이 불균일성 보상이 수행되기 위하여 오프셋 불규칙 맵이 형성되는 과정을 나타낸 도면이다.FIG. 2 is a diagram illustrating a process of forming an offset irregular map in order to perform spatial depth non-uniformity compensation using irregular comparison, according to an exemplary embodiment.
도 2를 참조하면, 일실시예에 따른 공간적 깊이 불균일성 보상 장치는 불규칙 비교를 이용하는 공간적 깊이 불균일성 보상을 수행하기 이전에 오프셋 불규칙 맵을 미리 형성할 수 있다.Referring to FIG. 2, the spatial depth non-uniformity compensation device according to an embodiment may preform an offset irregular map before performing spatial depth non-uniformity compensation using an irregular comparison.
구체적으로, 공간적 깊이 불균일성 보상 장치는 제1 이미지(210) 및 제2 이미지(220)에서 에지를 검출한 후, 제1 이미지(210)에서 검출된 에지의 픽셀(212)을 중심으로 미리 설정된 범위의 제1 이미지(210)의 패치(211)를 설정할 수 있다.Specifically, the spatial depth non-uniformity compensation device detects an edge in the first image 210 and the second image 220, and then sets a predetermined range around the pixels 212 of the edge detected in the first image 210. The patch 211 of the first image 210 may be set.
그 다음, 공간적 깊이 불균일성 보상 장치는 제2 이미지(220)에서 검출된 에지의 픽셀(222)(제1 이미지(210)에서 검출된 에지의 픽셀(212)과 동일한 위치의 픽셀)을 중심으로 미리 설정된 탐색 영역(jitter range)(230) 내에서 제1 이미지(210)의 패치(211)와 가장 유사도가 높은 제2 이미지(220)의 패치(221)를 획득할 수 있다.Then, the spatial depth non-uniformity compensator preliminarily centers on the pixel 222 of the edge detected in the second image 220 (the pixel at the same position as the pixel 212 of the edge detected in the first image 210). The patch 221 of the second image 220 having the highest similarity with the patch 211 of the first image 210 may be acquired within the set jitter range 230.
그 후, 공간적 깊이 불균일성 보상 장치는 제1 이미지(210)의 패치(211) 및 제2 이미지(220)의 패치(221) 사이의 거리 벡터(jitter)(240)를 계산할 수 있다.Thereafter, the spatial depth non-uniformity compensation device may calculate the distance vector jitter 240 between the patch 211 of the first image 210 and the patch 221 of the second image 220.
이 때, 공간적 깊이 불균일성 보상 장치는 제1 이미지(210) 및 제2 이미지(220)가 분할된 부영역들 각각에 포함되는 에지의 픽셀에 대해 계산된 거리 벡터(240)에 기초하여 부영역들 각각에 대응하는 오프셋 불규칙 벡터를 통계적으로 설정할 수 있다.In this case, the spatial depth non-uniformity compensating apparatus may perform subregions based on the distance vector 240 calculated for the pixel of the edge included in each of the subregions in which the first image 210 and the second image 220 are divided. The offset irregular vectors corresponding to each can be statistically set.
예를 들어, 공간적 깊이 불균일성 보상 장치는 제1 이미지(210) 및 제2 이미지(220)가 분할된 부영역들 각각에서 에지의 픽셀들 각각의 거리 벡터(240)를 계산한 후, 부영역들 각각에서 획득되는 에지의 픽셀들 각각의 거리 벡터(240)의 평균값을 부영역들 각각에 대응하는 오프셋 불규칙 벡터를 설정할 수 있다.For example, the spatial depth non-uniformity compensation device calculates the distance vector 240 of each of the pixels of the edge in each of the subregions in which the first image 210 and the second image 220 are divided, and then the subregions. An offset irregular vector corresponding to each of the subregions may be set as an average value of the distance vectors 240 of the pixels of the edges obtained in each of the subregions.
여기서, 공간적 깊이 불균일성 보상 장치는 오프셋 불규칙 맵을 형성하는 과정의 시간을 단축시키고 복잡도를 낮추기 위하여, 부영역들 각각에서 에지의 픽셀들 모두의 거리 벡터(240)를 계산하여 평균값을 획득하는 대신에, 부영역들 각각에서 에지의 픽셀들 중 일부 픽셀들의 거리 벡터(240)를 계산하여 평균값을 획득할 수 있다.Here, the spatial depth non-uniformity compensation device reduces the time and complexity of the process of forming the offset irregular map, instead of calculating the distance vector 240 of all the pixels of the edge in each of the subregions to obtain an average value. The average value may be obtained by calculating a distance vector 240 of some pixels of the edge pixels in each of the subregions.
이와 같이 부영역들 각각에 대응하는 오프셋 불규칙 벡터가 설정되면, 공간적 깊이 불균일성 보상 장치는 부영역들 각각에 대응하는 오프셋 불규칙 벡터가 저장된 오프셋 불규칙 맵을 메모리에 저장하여 유지함으로써, 깊이를 결정하는 과정에서 불규칙 비교를 수행할 수 있다. 이에 대한 상세한 설명은 도 3을 참조하여 기재하기로 한다.When the offset irregularity vector corresponding to each of the subregions is set as described above, the spatial depth non-uniformity compensation device determines the depth by storing and maintaining an offset irregular map in which the offset irregularity vector corresponding to each of the subregions is stored in the memory. Irregular comparisons can be performed at. Detailed description thereof will be described with reference to FIG. 3.
또한, 공간적 깊이 불균일성 보상 장치는 깊이를 결정하는 과정에서 공간적 깊이 불균일성 보상을 수행하기 이전에 보상 모델을 미리 구축할 수 있다.In addition, the spatial depth non-uniformity compensation device may build a compensation model in advance before performing the spatial depth non-uniformity compensation in the process of determining the depth.
예를 들어, 공간적 깊이 불균일성 보상 장치는 부영역들 각각에서의 중심부 픽셀 및 가장자리 픽셀을 고려하여 부영역들 각각에 대응하는 블러 크기에 따른 깊이를 설정함으로써, 부영역들 각각에 대응하는 블러 크기에 따른 깊이가 저장된 보상 모델을 메모리에 저장하여 유지할 수 있다. 이에 대한 상세한 설명은 도 4를 참조하여 기재하기로 한다.For example, the spatial depth non-uniformity compensation device sets the depth according to the blur size corresponding to each of the sub-areas in consideration of the center pixel and the edge pixel in each of the sub-areas, thereby reducing the blur size corresponding to each of the sub-areas. The compensation model stored according to the depth can be stored in the memory and maintained. Detailed description thereof will be described with reference to FIG. 4.
도 3은 일실시예에 따라 형성된 오프셋 불규칙 맵을 나타낸 도면이다.3 illustrates an offset irregular map formed according to an exemplary embodiment.
도 3을 참조하면, 일실시예에 따른 공간적 깊이 불균일성 보상 장치는 제1 이미지 및 제2 이미지가 분할된 부영역들 각각에 포함되는 에지의 픽셀에 대해 계산된 거리 벡터에 기초하여 부영역들 각각에 대응하는 오프셋 불규칙 벡터를 통계적으로 설정함으로써, 오프셋 불규칙 맵(310)을 형성할 수 있다. 여기서, 부영역들 각각에 대응하는 오프셋 불규칙 벡터는 픽셀의 x축 좌표의 오프셋 및 픽셀의 y축 좌표의 오프셋으로 구성될 수 있다.Referring to FIG. 3, the spatial depth non-uniformity compensating device according to an exemplary embodiment of the present invention may further include each of the subregions based on a distance vector calculated for a pixel of an edge included in each of the subregions in which the first and second images are divided. By statistically setting the offset irregularity vector corresponding to, the offset irregularity map 310 may be formed. Here, the offset irregular vector corresponding to each of the subregions may be composed of an offset of the x-axis coordinate of the pixel and an offset of the y-axis coordinate of the pixel.
이 때, 오프셋 불규칙 맵(310)은 공간적 깊이 불균일성 보상 장치가 생산되는 과정에서(특히, 생산 검사 시) 미리 형성될 수 있다.In this case, the offset irregular map 310 may be formed in advance in the process of producing the spatial depth non-uniformity compensation device (in particular, during production inspection).
도 4는 일실시예에 따라 구축된 보상 모델을 나타낸 도면이다.4 illustrates a compensation model constructed according to an embodiment.
도 4를 참조하면, 일실시예에 따른 공간적 깊이 불균일성 보상 장치는 부영역들 각각에서의 중심부 픽셀(411) 및 가장자리 픽셀(412)을 고려하여 부영역들 각각에 대응하는 블러 크기에 따른 깊이를 변환 곡선식(410)(변환 곡선식(410)에서 x축은 깊이를 나타내고, y축은 블러 크기를 나타냄)으로 설정하여 보상 모델을 구축할 수 있다.Referring to FIG. 4, the spatial depth non-uniformity compensating apparatus according to an exemplary embodiment may determine the depth according to the blur size corresponding to each of the subregions in consideration of the center pixel 411 and the edge pixel 412 in each of the subregions. The compensation model can be constructed by setting the transformation curve 410 (in the transformation curve 410, the x-axis represents depth and the y-axis represents the blur size).
예를 들어, 공간적 깊이 불균일성 보상 장치는 제1 부영역인 (1×1)에 대응하는 블러 크기에 따른 깊이를 제1 변환 곡선식(420)으로 설정할 수 있고, 제2 부영역인 (1×2)에 대응하는 블러 크기에 따른 깊이를 제2 변환 곡선식(430)으로 설정할 수 있다.For example, the spatial depth non-uniformity compensation device may set the depth according to the blur size corresponding to (1 × 1), which is the first subregion, to the first transformation curve 420, and (1 × 2, which is the second subregion. Depth according to the blur size corresponding to) may be set to the second conversion curve equation 430.
이 때, 보상 모델은 오프셋 불규칙 맵과 마찬가지로, 공간적 깊이 불균일성 보상 장치가 생산되는 과정에서(특히, 생산 검사 시) 미리 구축될 수 있다.At this time, the compensation model, like the offset irregular map, may be built in advance in the process of producing the spatial depth non-uniformity compensation device (especially during production inspection).
도 5는 일실시예에 따라 불규칙 비교를 이용하는 공간적 깊이 불균일성 보상이 수행되는 과정을 설명하기 위한 도면이다.5 is a diagram for describing a process of performing spatial depth non-uniformity compensation using irregular comparison, according to an exemplary embodiment.
도 5를 참조하면, 일실시예에 따른 공간적 깊이 불균일성 보상 장치는 제1 이미지(510) 및 제2 이미지(520)에서 에지를 검출한 후, 미리 형성된 오프셋 불규칙 맵에 기초하여 에지의 픽셀에 대해 불규칙 비교를 수행한다.Referring to FIG. 5, a spatial depth non-uniformity compensating apparatus detects edges in a first image 510 and a second image 520, and then detects edges of pixels of an edge based on a preformed offset irregular map. Perform random comparisons.
구체적으로, 공간적 깊이 불균일성 보상 장치는 제1 이미지(510)에서 검출된 에지의 픽셀(512)을 중심으로 미리 설정된 범위의 제1 이미지(510)의 패치(511)를 설정할 수 있다.In detail, the apparatus for compensating for spatial depth non-uniformity may set the patch 511 of the first image 510 in a preset range around the pixel 512 of the edge detected in the first image 510.
이어서, 공간적 깊이 불균일성 보상 장치는 미리 형성된 오프셋 불규칙 맵으로부터 제1 이미지(510)에서 검출된 에지의 픽셀(512)이 포함되는 부영역에 대응하는 오프셋 불규칙 벡터(530)를 선택할 수 있다.Subsequently, the spatial depth non-uniformity compensator may select an offset irregular vector 530 corresponding to a subregion including the pixel 512 of the edge detected in the first image 510 from the previously formed offset irregular map.
그 다음, 공간적 깊이 불균일성 보상 장치는 제2 이미지(520)에서 검출된 에지의 픽셀(522)(제1 이미지(510)에서 검출된 에지의 픽셀(512)과 동일한 위치의 픽셀)로부터 선택된 오프셋 불규칙 벡터(530)만큼 이동된 픽셀(531)을 중심으로 미리 설정된 탐색 영역(540) 내에서 제1 이미지(510)의 패치(511)와 가장 유사도가 높은 제2 이미지(520)의 패치(521)를 획득할 수 있다.Then, the spatial depth non-uniformity compensation device selects an offset irregularity selected from the pixel 522 of the edge detected in the second image 520 (the pixel at the same position as the pixel 512 of the edge detected in the first image 510). The patch 521 of the second image 520 that is most similar to the patch 511 of the first image 510 within the preset search area 540 around the pixel 531 moved by the vector 530. Can be obtained.
이 때, 델타 불규칙 벡터(550)는 선택된 오프셋 불규칙 벡터(530)로부터 제2 이미지(520)의 패치(521)의 중심인 픽셀(523)까지의 벡터거리를 나타내기 때문에, 제2 이미지(520)의 패치(521)를 획득하는 과정은 델타 불규칙 벡터(550)을 계산하고, 선택된 오프셋 불규칙 벡터(530)로부터 계산된 델타 불규칙 벡터(550)만큼 이동된 픽셀(523)을 중심으로 하는 패치를 획득하는 과정일 수 있다.In this case, since the delta irregular vector 550 represents the vector distance from the selected offset irregular vector 530 to the pixel 523 which is the center of the patch 521 of the second image 520, the second image 520 The process of acquiring a patch 521 is calculated by calculating a delta irregular vector 550 and obtaining a patch centered on the pixel 523 moved by the delta irregular vector 550 calculated from the selected offset irregular vector 530. It may be a process of obtaining.
이와 같은 과정을 거쳐 에지의 픽셀에 대해 불규칙 비교가 수행된 후, 공간적 깊이 불균일성 보상 장치는 미리 구축된 보상 모델을 이용하여, 불규칙 비교가 수행된 에지의 픽셀에 대한 깊이를 결정한다.After the irregular comparison is performed on the pixels of the edge through this process, the spatial depth non-uniformity compensation device determines the depth of the pixels of the edge on which the irregular comparison is performed, using a previously constructed compensation model.
구체적으로, 공간적 깊이 불균일성 보상 장치는 미리 구축된 보상 모델을 이용하여 제1 이미지(510)의 패치(511) 및 제2 이미지(520)의 패치(521)에서의 블러 크기에 대응하는 깊이를 추출한 후, 추출된 깊이를 불규칙 비교가 수행된 에지의 픽셀에 대한 깊이로 결정할 수 있다.Specifically, the spatial depth non-uniformity compensation device extracts a depth corresponding to the blur size in the patch 511 of the first image 510 and the patch 521 of the second image 520 using a pre-built compensation model. Then, the extracted depth may be determined as the depth for the pixel of the edge where the irregular comparison is performed.
따라서, 공간적 깊이 불균일성 보상 장치는 상술한 바와 같은 불규칙 비교 및 공간적 깊이 불균일성 보상을 제1 이미지(510) 및 제2 이미지(520)에서 검출되는 에지의 다른 픽셀에 대해서도 수행할 뿐만 아니라, 제1 이미지(510) 및 제2 이미지(520)가 분할된 부영역들에 포함되는 픽셀들 각각에 대해서 수행함으로써, 부영역들 각각에 대한 깊이를 결정할 수 있다.Therefore, the spatial depth non-uniformity compensation device not only performs the irregular comparison and spatial depth non-uniformity compensation described above with respect to the other pixels of the edge detected in the first image 510 and the second image 520, but also the first image. By performing the 510 and the second image 520 on each of the pixels included in the divided subregions, a depth of each of the subregions may be determined.
또한, 공간적 깊이 불균일성 보상 장치는 제1 이미지(510)의 패치(511) 또는 제2 이미지(520)의 패치(521) 중 어느 하나에 PSF(Point Spread Function)를 적용한 후, 미리 구축된 보상 모델을 이용하여 불규칙 비교가 수행된 에지의 픽셀에 대한 깊이를 결정할 수도 있다.In addition, the spatial depth non-uniformity compensation device applies a point spread function (PSF) to either the patch 511 of the first image 510 or the patch 521 of the second image 520, and then includes a pre-built compensation model. May be used to determine the depth for the pixel of the edge on which the irregular comparison was performed.
이와 같은 불규칙 비교를 이용하는 공간적 깊이 불균일성 보상 과정은 제1 이미지(510) 및 제2 이미지(520)에서 검출된 에지의 픽셀에 대한 깊이가 추출되기 이전 또는 제1 이미지(510) 및 제2 이미지(520)에서 검출된 에지의 픽셀에 대한 깊이가 추출되는 동시에 수행될 수 있다.The spatial depth non-uniformity compensation process using such an irregular comparison is performed before the depths of the pixels of the edges detected in the first image 510 and the second image 520 are extracted or the first image 510 and the second image ( The depth for the pixel of the edge detected at 520 may be extracted and performed at the same time.
도 6은 일실시예에 따른 불규칙 비교를 이용하는 공간적 깊이 불균일성 보상 방법을 나타낸 플로우 차트이다.6 is a flow chart illustrating a spatial depth non-uniformity compensation method using an irregular comparison according to an embodiment.
도 6을 참조하면, 일실시예에 따른 공간적 깊이 불균일성 보상 장치는 제1 이미지 및 제2 이미지를 획득한다(610).Referring to FIG. 6, in operation 610, the spatial depth non-uniformity compensating device acquires a first image and a second image.
이어서, 공간적 깊이 불균일성 보상 장치는 제1 이미지 및 제2 이미지 각각에서 에지를 검출한다(620).Subsequently, the spatial depth non-uniformity compensation device detects an edge in each of the first image and the second image (620).
그 다음, 공간적 깊이 불균일성 보상 장치는 제1 이미지 및 제2 이미지가 분할된 부영역들 각각에 대응하는 오프셋 불규칙 벡터가 저장된 오프셋 불규칙 맵(offset jitter map)에 기초하여, 에지의 픽셀에 대해 불규칙 비교를 수행한다(630).The spatial depth non-uniformity compensator then compares the irregularities to the pixels of the edge based on an offset jitter map in which an offset irregular vector corresponding to each of the subregions in which the first image and the second image are divided is stored. Perform 630.
이 때, 공간적 깊이 불균일성 보상 장치는 제1 이미지에서 검출된 에지의 픽셀을 중심으로 미리 설정된 범위의 제1 패치를 설정하고, 오프셋 불규칙 맵으로부터 제1 이미지에서 검출된 에지의 픽셀이 포함되는 부영역에 대응하는 오프셋 불규칙 벡터를 선택한 후, 제2 이미지에서 검출된 에지의 픽셀로부터 선택된 오프셋 불규칙 벡터만큼 이동된 픽셀을 중심으로 미리 설정된 탐색 영역(jitter range) 내에서 제1 패치와 가장 유사도가 높은 제2 패치를 획득함으로써, 에지의 픽셀에 대해 불규칙 비교를 수행할 수 있다.At this time, the spatial depth non-uniformity compensating apparatus sets a first patch in a preset range around the pixels of the edge detected in the first image, and the subregion including the pixels of the edge detected in the first image from the offset irregular map. After selecting an offset irregular vector corresponding to, the first highest similarity to the first patch within a preset jitter range centered on the pixel shifted by the selected offset irregular vector from the pixel of the edge detected in the second image. By obtaining two patches, one can perform an irregular comparison on the pixels at the edges.
여기서, 제2 패치를 획득하는 과정은 선택된 오프셋 불규칙 벡터로부터 델타 불규칙 벡터만큼 이동된 픽셀을 중심으로 하는 제2 패치를 획득하는 과정일 수 있다.Here, the process of acquiring the second patch may be a process of acquiring a second patch around the pixel shifted by the delta irregular vector from the selected offset irregular vector.
그 후, 공간적 깊이 불균일성 보상 장치는 부영역들 각각에 대응하는 블러 크기에 따른 깊이가 저장된 보상 모델을 이용하여, 불규칙 비교가 수행된 에지의 픽셀에 대한 깊이를 결정한다(640).Thereafter, the spatial depth non-uniformity compensation device determines a depth of the pixel of the edge where the random comparison is performed, using a compensation model in which the depth according to the blur size corresponding to each of the subregions is stored (640).
이 때, 공간적 깊이 불균일성 보상 장치는 보상 모델을 이용하여 제1 패치 및 제2 패치에서의 블러 크기에 대응하는 깊이를 추출한 후, 추출된 깊이를 불규칙 비교가 수행된 에지의 픽셀에 대한 깊이로 결정할 수 있다.At this time, the spatial depth non-uniformity compensation device extracts a depth corresponding to the blur size in the first patch and the second patch using a compensation model, and then determines the extracted depth as the depth for the pixel of the edge where the irregular comparison is performed. Can be.
또한, 도면에는 도시되지 않았지만, 공간적 깊이 불균일성 보상 장치는 에지의 픽셀에 대해 불규칙 비교를 수행하기 이전에, 오프셋 불규칙 맵을 형성할 수 있다.In addition, although not shown in the figure, the spatial depth non-uniformity compensation device may form an offset irregular map before performing an irregular comparison with respect to the pixels of the edge.
구체적으로, 공간적 깊이 불균일성 보상 장치는 제1 이미지에서 검출된 에지의 픽셀을 중심으로 미리 설정된 범위의 제1 패치를 설정하고, 제2 이미지에서 검출된 에지의 픽셀을 중심으로 미리 설정된 탐색 영역 내에서 제1 패치와 가장 유사도가 높은 제3 패치를 획득하며, 제1 패치 및 제3 패치 사이의 거리 벡터(jitter)를 계산한 후, 부영역들 각각에 포함되는 에지의 픽셀에 대해 계산된 거리 벡터에 기초하여 부영역들 각각에 대응하는 오프셋 불규칙 벡터를 통계적으로 설정함으로써, 오프셋 불규칙 맵을 형성할 수 있다.Specifically, the spatial depth non-uniformity compensating apparatus sets a first patch of a preset range around the pixels of the edge detected in the first image, and within the preset search area around the pixels of the edge detected in the second image. After obtaining a third patch having the highest similarity with the first patch, and calculating a distance vector (jitter) between the first patch and the third patch, the distance vector calculated for the pixel of the edge included in each of the subregions By statistically setting an offset irregular vector corresponding to each of the subregions based on the offset irregular map, it is possible to form an offset irregular map.
또한, 도면에는 도시되지 않았지만, 공간적 깊이 불균일성 보상 장치는 에지의 픽셀에 대해 불규칙 비교를 수행하기 이전에, 보상 모델을 구축할 수 있다.In addition, although not shown in the figure, the spatial depth non-uniformity compensation device may build a compensation model before performing an irregular comparison with respect to pixels at the edges.
여기서, 공간적 깊이 불균일성 보상 장치는 부영역들 각각에서의 중심부 픽셀 및 가장자리 픽셀을 고려하여 부영역들 각각에 대응하는 블러 크기에 따른 깊이를 설정함으로써, 보상 모델을 구축할 수 있다.Here, the spatial depth non-uniformity compensation apparatus may construct a compensation model by setting a depth according to a blur size corresponding to each of the subregions in consideration of the center pixel and the edge pixel in each of the subregions.
도 7은 일실시예에 따른 불규칙 비교를 이용하는 공간적 깊이 불균일성 보상 장치를 나타낸 블록도이다.7 is a block diagram illustrating a spatial depth non-uniformity compensation device using an irregular comparison according to an embodiment.
도 7을 참조하면, 일실시예에 따른 공간적 깊이 불균일성 보상 장치는 이미지 획득부(710), 에지 검출부(720), 불규칙 비교 수행부(730) 및 깊이 결정부(740)를 포함한다.Referring to FIG. 7, an apparatus for compensating spatial depth nonuniformity according to an exemplary embodiment includes an image acquirer 710, an edge detector 720, an irregular comparison performer 730, and a depth determiner 740.
이미지 획득부(710)는 제1 이미지 및 제2 이미지를 획득한다.The image acquirer 710 acquires a first image and a second image.
에지 검출부(720)는 제1 이미지 및 제2 이미지 각각에서 에지를 검출한다.The edge detector 720 detects an edge in each of the first image and the second image.
불규칙 비교 수행부(730)는 제1 이미지 및 제2 이미지가 분할된 부영역들 각각에 대응하는 오프셋 불규칙 벡터가 저장된 오프셋 불규칙 맵(offset jitter map)에 기초하여, 에지의 픽셀에 대해 불규칙 비교를 수행한다.The irregular comparison performing unit 730 performs an irregular comparison with respect to the pixels of the edge based on an offset jitter map in which an offset irregular vector corresponding to each of the subregions in which the first image and the second image are divided is stored. Perform.
이 때, 불규칙 비교 수행부(730)는 제1 이미지에서 검출된 에지의 픽셀을 중심으로 미리 설정된 범위의 제1 패치를 설정하고, 오프셋 불규칙 맵으로부터 제1 이미지에서 검출된 에지의 픽셀이 포함되는 부영역에 대응하는 오프셋 불규칙 벡터를 선택한 후, 제2 이미지에서 검출된 에지의 픽셀로부터 선택된 오프셋 불규칙 벡터만큼 이동된 픽셀을 중심으로 미리 설정된 탐색 영역(jitter range) 내에서 제1 패치와 가장 유사도가 높은 제2 패치를 획득함으로써, 에지의 픽셀에 대해 불규칙 비교를 수행할 수 있다.In this case, the irregular comparison performing unit 730 sets a first patch having a preset range around the pixels of the edge detected in the first image, and includes the pixels of the edge detected in the first image from the offset irregular map. After selecting the offset irregular vector corresponding to the subregion, the degree of similarity with the first patch within the preset jitter range centered on the pixel shifted by the selected offset irregular vector from the pixel of the edge detected in the second image. By obtaining a high second patch, an irregular comparison can be performed on the pixels at the edges.
여기서, 제2 패치를 획득하는 과정은 선택된 오프셋 불규칙 벡터로부터 델타 불규칙 벡터만큼 이동된 픽셀을 중심으로 하는 제2 패치를 획득하는 과정일 수 있다.Here, the process of acquiring the second patch may be a process of acquiring a second patch around the pixel shifted by the delta irregular vector from the selected offset irregular vector.
깊이 결정부(740)는 부영역들 각각에 대응하는 블러 크기에 따른 깊이가 저장된 보상 모델을 이용하여, 불규칙 비교가 수행된 에지의 픽셀에 대한 깊이를 결정한다(640).The depth determiner 740 determines a depth of the pixel of the edge where the random comparison is performed, using a compensation model in which the depth according to the blur size corresponding to each of the subregions is stored (640).
이 때, 깊이 결정부(740)는 보상 모델을 이용하여 제1 패치 및 제2 패치에서의 블러 크기에 대응하는 깊이를 추출한 후, 추출된 깊이를 불규칙 비교가 수행된 에지의 픽셀에 대한 깊이로 결정할 수 있다.At this time, the depth determiner 740 extracts a depth corresponding to the blur size in the first patch and the second patch by using the compensation model, and then extracts the extracted depth as the depth of the pixel of the edge where the irregular comparison is performed. You can decide.
또한, 도면에는 도시되지 않았지만, 공간적 깊이 불균일성 보상 장치는 오프셋 불규칙 맵 형성부를 더 포함할 수 있다.In addition, although not shown in the drawings, the spatial depth non-uniformity compensation device may further include an offset irregular map forming unit.
오프셋 불규칙 맵 형성부는 에지의 픽셀에 대해 불규칙 비교를 수행하기 이전에, 오프셋 불규칙 맵을 형성할 수 있다.The offset irregular map forming unit may form an offset irregular map before performing an irregular comparison on the pixels of the edge.
구체적으로, 오프셋 불규칙 맵 형성부는 제1 이미지에서 검출된 에지의 픽셀을 중심으로 미리 설정된 범위의 제1 패치를 설정하고, 제2 이미지에서 검출된 에지의 픽셀을 중심으로 미리 설정된 탐색 영역 내에서 제1 패치와 가장 유사도가 높은 제3 패치를 획득하며, 제1 패치 및 제3 패치 사이의 거리 벡터(jitter)를 계산한 후, 부영역들 각각에 포함되는 에지의 픽셀에 대해 계산된 거리 벡터에 기초하여 부영역들 각각에 대응하는 오프셋 불규칙 벡터를 통계적으로 설정함으로써, 오프셋 불규칙 맵을 형성할 수 있다.Specifically, the offset irregular map forming unit sets a first patch in a preset range around the pixels of the edge detected in the first image, and sets the first patch within a preset search area around the pixels of the edge detected in the second image. A third patch having the highest similarity to one patch is obtained, and the distance vector jitter between the first patch and the third patch is calculated, and then the distance vector calculated for the pixel of the edge included in each of the subregions. By statistically setting the offset irregularity vector corresponding to each of the subregions, an offset irregularity map can be formed.
또한, 도면에는 도시되지 않았지만, 공간적 깊이 불균일성 보상 장치는 보상 모델 구축부를 더 포함할 수 있다.In addition, although not shown in the drawings, the spatial depth non-uniformity compensation device may further include a compensation model constructing unit.
보상 모델 구축부는 에지의 픽셀에 대해 불규칙 비교를 수행하기 이전에, 보상 모델을 구축할 수 있다.The compensation model builder may build a compensation model before performing an irregular comparison on the pixels at the edges.
여기서, 보상 모델 구축부는 부영역들 각각에서의 중심부 픽셀 및 가장자리 픽셀을 고려하여 부영역들 각각에 대응하는 블러 크기에 따른 깊이를 설정함으로써, 보상 모델을 구축할 수 있다.Here, the compensation model builder may build a compensation model by setting a depth according to a blur size corresponding to each of the subregions in consideration of the center pixel and the edge pixel in each of the subregions.
이상에서 설명된 장치는 하드웨어 구성요소, 소프트웨어 구성요소, 및/또는 하드웨어 구성요소 및 소프트웨어 구성요소의 조합으로 구현될 수 있다. 예를 들어, 실시예들에서 설명된 장치 및 구성요소는, 예를 들어, 프로세서, 콘트롤러, ALU(arithmetic logic unit), 디지털 신호 프로세서(digital signal processor), 마이크로컴퓨터, FPA(field programmable array), PLU(programmable logic unit), 마이크로프로세서, 또는 명령(instruction)을 실행하고 응답할 수 있는 다른 어떠한 장치와 같이, 하나 이상의 범용 컴퓨터 또는 특수 목적 컴퓨터를 이용하여 구현될 수 있다. 처리 장치는 운영 체제(OS) 및 상기 운영 체제 상에서 수행되는 하나 이상의 소프트웨어 애플리케이션을 수행할 수 있다. 또한, 처리 장치는 소프트웨어의 실행에 응답하여, 데이터를 접근, 저장, 조작, 처리 및 생성할 수도 있다. 이해의 편의를 위하여, 처리 장치는 하나가 사용되는 것으로 설명된 경우도 있지만, 해당 기술분야에서 통상의 지식을 가진 자는, 처리 장치가 복수 개의 처리 요소(processing element) 및/또는 복수 유형의 처리 요소를 포함할 수 있음을 알 수 있다. 예를 들어, 처리 장치는 복수 개의 프로세서 또는 하나의 프로세서 및 하나의 콘트롤러를 포함할 수 있다. 또한, 병렬 프로세서(parallel processor)와 같은, 다른 처리 구성(processing configuration)도 가능하다.The apparatus described above may be implemented as a hardware component, a software component, and / or a combination of hardware components and software components. For example, the devices and components described in the embodiments may be, for example, processors, controllers, arithmetic logic units (ALUs), digital signal processors, microcomputers, field programmable arrays (FPAs), It may be implemented using one or more general purpose or special purpose computers, such as a programmable logic unit (PLU), microprocessor, or any other device capable of executing and responding to instructions. The processing device may execute an operating system (OS) and one or more software applications running on the operating system. The processing device may also access, store, manipulate, process, and generate data in response to the execution of the software. For convenience of explanation, one processing device may be described as being used, but one of ordinary skill in the art will appreciate that the processing device includes a plurality of processing elements and / or a plurality of types of processing elements. It can be seen that it may include. For example, the processing device may include a plurality of processors or one processor and one controller. In addition, other processing configurations are possible, such as parallel processors.
소프트웨어는 컴퓨터 프로그램(computer program), 코드(code), 명령(instruction), 또는 이들 중 하나 이상의 조합을 포함할 수 있으며, 원하는 대로 동작하도록 처리 장치를 구성하거나 독립적으로 또는 결합적으로(collectively) 처리 장치를 명령할 수 있다. 소프트웨어 및/또는 데이터는, 처리 장치에 의하여 해석되거나 처리 장치에 명령 또는 데이터를 제공하기 위하여, 어떤 유형의 기계, 구성요소(component), 물리적 장치, 가상 장치(virtual equipment), 컴퓨터 저장 매체 또는 장치, 또는 전송되는 신호 파(signal wave)에 영구적으로, 또는 일시적으로 구체화(embody)될 수 있다. 소프트웨어는 네트워크로 연결된 컴퓨터 시스템 상에 분산되어서, 분산된 방법으로 저장되거나 실행될 수도 있다. 소프트웨어 및 데이터는 하나 이상의 컴퓨터 판독 가능 기록 매체에 저장될 수 있다.The software may include a computer program, code, instructions, or a combination of one or more of the above, and configure the processing device to operate as desired, or process it independently or collectively. You can command the device. Software and / or data may be any type of machine, component, physical device, virtual equipment, computer storage medium or device in order to be interpreted by or to provide instructions or data to the processing device. Or may be permanently or temporarily embodied in a signal wave to be transmitted. The software may be distributed over networked computer systems so that they may be stored or executed in a distributed manner. Software and data may be stored on one or more computer readable recording media.
실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 실시예를 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. 상기된 하드웨어 장치는 실시예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.The method according to the embodiment may be embodied in the form of program instructions that can be executed by various computer means and recorded in a computer readable medium. The computer readable medium may include program instructions, data files, data structures, etc. alone or in combination. The program instructions recorded on the media may be those specially designed and constructed for the purposes of the embodiments, or they may be of the kind well-known and available to those having skill in the computer software arts. Examples of computer-readable recording media include magnetic media such as hard disks, floppy disks, and magnetic tape, optical media such as CD-ROMs, DVDs, and magnetic disks, such as floppy disks. Magneto-optical media, and hardware devices specifically configured to store and execute program instructions, such as ROM, RAM, flash memory, and the like. Examples of program instructions include not only machine code generated by a compiler, but also high-level language code that can be executed by a computer using an interpreter or the like. The hardware device described above may be configured to operate as one or more software modules to perform the operations of the embodiments, and vice versa.
이상과 같이 실시예들이 비록 한정된 실시예와 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 상기의 기재로부터 다양한 수정 및 변형이 가능하다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다.Although the embodiments have been described by the limited embodiments and the drawings as described above, various modifications and variations are possible to those skilled in the art from the above description. For example, the described techniques may be performed in a different order than the described method, and / or components of the described systems, structures, devices, circuits, etc. may be combined or combined in a different form than the described method, or other components. Or even if replaced or substituted by equivalents, an appropriate result can be achieved.
그러므로, 다른 구현들, 다른 실시예들 및 특허청구범위와 균등한 것들도 후술하는 특허청구범위의 범위에 속한다.Therefore, other implementations, other embodiments, and equivalents to the claims are within the scope of the claims that follow.

Claims (16)

  1. 불규칙 비교(jittered comparison)를 이용하는 공간적 깊이 불균일성 보상(spatial depth non-uniformity compensation) 방법에 있어서, In the spatial depth non-uniformity compensation method using jittered comparison,
    제1 이미지 및 제2 이미지를 획득하는 단계; Obtaining a first image and a second image;
    상기 제1 이미지 및 상기 제2 이미지 각각에서 에지를 검출하는 단계; Detecting an edge in each of the first image and the second image;
    상기 제1 이미지 및 상기 제2 이미지가 분할된 부영역들 각각에 대응하는 오프셋 불규칙 벡터가 저장된 오프셋 불규칙 맵(offset jitter map)에 기초하여, 상기 에지의 픽셀에 대해 불규칙 비교를 수행하는 단계; 및 Performing an irregular comparison on a pixel of the edge based on an offset jitter map in which an offset irregular vector corresponding to each of the sub-regions in which the first image and the second image are divided is stored; And
    상기 부영역들 각각에 대응하는 블러 크기에 따른 깊이가 저장된 보상 모델을 이용하여, 상기 불규칙 비교가 수행된 상기 에지의 픽셀에 대한 깊이를 결정하는 단계Determining a depth of a pixel of the edge on which the irregular comparison is performed by using a compensation model in which a depth according to a blur size corresponding to each of the subregions is stored;
    를 포함하는 공간적 깊이 불균일성 보상 방법.Spatial depth non-uniformity compensation method comprising a.
  2. 제1항에 있어서,The method of claim 1,
    상기 에지의 픽셀에 대해 불규칙 비교를 수행하는 단계는 Performing an irregular comparison on the pixels of the edge
    상기 제1 이미지에서 검출된 상기 에지의 픽셀을 중심으로 미리 설정된 범위의 제1 패치를 설정하는 단계; Setting a first patch in a preset range around a pixel of the edge detected in the first image;
    상기 오프셋 불규칙 맵으로부터 상기 제1 이미지에서 검출된 상기 에지의 픽셀이 포함되는 부영역에 대응하는 오프셋 불규칙 벡터를 선택하는 단계; 및 Selecting an offset irregular vector corresponding to a subregion including a pixel of the edge detected in the first image from the offset irregular map; And
    상기 제2 이미지에서 검출된 상기 에지의 픽셀로부터 상기 선택된 오프셋 불규칙 벡터만큼 이동된 픽셀을 중심으로 미리 설정된 탐색 영역(jitter range) 내에서 상기 제1 패치와 가장 유사도가 높은 제2 패치를 획득하는 단계Acquiring a second patch having the highest similarity to the first patch within a preset jitter range around a pixel shifted by the selected offset irregular vector from the pixel of the edge detected in the second image;
    를 포함하는 공간적 깊이 불균일성 보상 방법.Spatial depth non-uniformity compensation method comprising a.
  3. 제2항에 있어서,The method of claim 2,
    상기 제2 패치를 획득하는 단계는 Acquiring the second patch
    상기 선택된 오프셋 불규칙 벡터로부터 델타 불규칙 벡터만큼 이동된 픽셀을 중심으로 하는 상기 제2 패치를 획득하는 단계인, 공간적 깊이 불균일성 보상 방법.And obtaining the second patch around the pixel shifted by the delta irregular vector from the selected offset irregular vector.
  4. 제2항에 있어서,The method of claim 2,
    상기 불규칙 비교가 수행된 상기 에지의 픽셀에 대한 깊이를 결정하는 단계는 Determining a depth for the pixel of the edge on which the irregular comparison is performed
    상기 보상 모델을 이용하여 상기 제1 패치 및 상기 제2 패치에서의 블러 크기에 대응하는 깊이를 추출하는 단계; 및 Extracting a depth corresponding to a blur size in the first patch and the second patch using the compensation model; And
    상기 추출된 깊이를 상기 불규칙 비교가 수행된 상기 에지의 픽셀에 대한 깊이로 결정하는 단계Determining the extracted depth as a depth for a pixel of the edge on which the irregular comparison is performed
    를 포함하는 공간적 깊이 불균일성 보상 방법.Spatial depth non-uniformity compensation method comprising a.
  5. 제1항에 있어서,The method of claim 1,
    상기 오프셋 불규칙 맵을 형성하는 단계Forming the offset irregular map
    를 더 포함하는 공간적 깊이 불균일성 보상 방법.The spatial depth non-uniformity compensation method further comprising.
  6. 제5항에 있어서,The method of claim 5,
    상기 오프셋 불규칙 맵을 형성하는 단계는 Forming the offset irregular map
    상기 제1 이미지에서 검출된 상기 에지의 픽셀을 중심으로 미리 설정된 범위의 제1 패치를 설정하는 단계; Setting a first patch in a preset range around a pixel of the edge detected in the first image;
    상기 제2 이미지에서 검출된 상기 에지의 픽셀을 중심으로 미리 설정된 탐색 영역 내에서 상기 제1 패치와 가장 유사도가 높은 제3 패치를 획득하는 단계; Acquiring a third patch having the highest similarity to the first patch within a preset search area around the pixels of the edge detected in the second image;
    상기 제1 패치 및 상기 제3 패치 사이의 거리 벡터(jitter)를 계산하는 단계; 및 Calculating a distance vector between the first patch and the third patch; And
    상기 부영역들 각각에 포함되는 에지의 픽셀에 대해 계산된 거리 벡터에 기초하여 상기 부영역들 각각에 대응하는 오프셋 불규칙 벡터를 통계적으로 설정하는 단계Statistically setting an offset irregular vector corresponding to each of the subregions based on a distance vector calculated for a pixel of an edge included in each of the subregions.
    를 포함하는 공간적 깊이 불균일성 보상 방법.Spatial depth non-uniformity compensation method comprising a.
  7. 제1항에 있어서,The method of claim 1,
    상기 보상 모델을 구축하는 단계Building the compensation model
    를 더 포함하는 공간적 깊이 불균일성 보상 방법.The spatial depth non-uniformity compensation method further comprising.
  8. 제7항에 있어서,The method of claim 7, wherein
    상기 보상 모델을 구축하는 단계는 Building the compensation model
    상기 부영역들 각각에서의 중심부 픽셀 및 가장자리 픽셀을 고려하여 상기 부영역들 각각에 대응하는 블러 크기에 따른 깊이를 설정하는 단계Setting a depth according to a blur size corresponding to each of the subregions in consideration of a center pixel and an edge pixel in each of the subregions
    를 포함하는 공간적 깊이 불균일성 보상 방법.Spatial depth non-uniformity compensation method comprising a.
  9. 제1항 내지 제8항 중 어느 한 항의 방법을 수행하기 위한 프로그램이 기록된 컴퓨터로 판독 가능한 기록 매체.A computer-readable recording medium having recorded thereon a program for performing the method of any one of claims 1 to 8.
  10. 불규칙 비교(jittered comparison)를 이용하는 공간적 깊이 불균일성 보상(spatial depth non-uniformity compensation) 장치에 있어서, In a spatial depth non-uniformity compensation device using jittered comparison,
    제1 이미지 및 제2 이미지를 획득하는 이미지 획득부; An image obtaining unit obtaining the first image and the second image;
    상기 제1 이미지 및 상기 제2 이미지 각각에서 에지를 검출하는 에지 검출부; An edge detector detecting an edge in each of the first image and the second image;
    상기 제1 이미지 및 상기 제2 이미지가 분할된 부영역들 각각에 대응하는 오프셋 불규칙 벡터가 저장된 오프셋 불규칙 맵(offset jitter map)에 기초하여, 상기 에지의 픽셀에 대해 불규칙 비교를 수행하는 불규칙 비교 수행부; 및 Performing an irregular comparison on a pixel of the edge based on an offset jitter map storing an offset irregular vector corresponding to each of the subregions in which the first image and the second image are divided; part; And
    상기 부영역들 각각에 대응하는 블러 크기에 따른 깊이가 저장된 보상 모델을 이용하여, 상기 불규칙 비교가 수행된 상기 에지의 픽셀에 대한 깊이를 결정하는 깊이 결정부Depth determination unit for determining the depth of the pixel of the edge on which the irregular comparison is performed using a compensation model stored in the depth according to the blur size corresponding to each of the sub-regions
    를 포함하는 공간적 깊이 불균일성 보상 장치.Spatial depth non-uniformity compensation device comprising a.
  11. 제10항에 있어서,The method of claim 10,
    상기 불규칙 비교 수행부는 The irregular comparison performing unit
    상기 제1 이미지에서 검출된 상기 에지의 픽셀을 중심으로 미리 설정된 범위의 제1 패치를 설정하고, 상기 오프셋 불규칙 맵으로부터 상기 제1 이미지에서 검출된 상기 에지의 픽셀이 포함되는 부영역에 대응하는 오프셋 불규칙 벡터를 선택하며, 상기 제2 이미지에서 검출된 상기 에지의 픽셀로부터 상기 선택된 오프셋 불규칙 벡터만큼 이동된 픽셀을 중심으로 미리 설정된 탐색 영역(jitter range) 내에서 상기 제1 패치와 가장 유사도가 높은 제2 패치를 획득하는, 공간적 깊이 불균일성 보상 장치.A first patch having a preset range is set around the pixels of the edge detected in the first image, and an offset corresponding to a subregion including the pixels of the edge detected in the first image from the offset irregular map Selecting an irregular vector, the first highest similarity to the first patch within a preset jitter range around a pixel shifted from the pixel of the edge detected in the second image by the selected offset irregular vector; A spatial depth non-uniformity compensation device that obtains two patches.
  12. 제11항에 있어서,The method of claim 11,
    상기 깊이 결정부는 The depth determination unit
    상기 보상 모델을 이용하여 상기 제1 패치 및 상기 제2 패치에서의 블러 크기에 대응하는 깊이를 추출하고, 상기 추출된 깊이를 상기 불규칙 비교가 수행된 상기 에지의 픽셀에 대한 깊이로 결정하는, 공간적 깊이 불균일성 보상 장치.Using the compensation model to extract a depth corresponding to the blur size in the first patch and the second patch, and determine the extracted depth as the depth for the pixel of the edge on which the random comparison was performed Depth non-uniformity compensation device.
  13. 제10항에 있어서,The method of claim 10,
    상기 오프셋 불규칙 맵을 형성하는 오프셋 불규칙 맵 형성부An offset irregular map forming unit forming the offset irregular map
    를 더 포함하는 공간적 깊이 불균일성 보상 장치.Spatial depth non-uniformity compensation device further comprising.
  14. 제13항에 있어서,The method of claim 13,
    상기 오프셋 불규칙 맵 형성부는 The offset irregular map forming unit
    상기 제1 이미지에서 검출된 상기 에지의 픽셀을 중심으로 미리 설정된 범위의 제1 패치를 설정하고, 상기 제2 이미지에서 검출된 상기 에지의 픽셀을 중심으로 미리 설정된 탐색 영역 내에서 상기 제1 패치와 가장 유사도가 높은 제3 패치를 획득하며, 상기 제1 패치 및 상기 제3 패치 사이의 거리 벡터(jitter)를 계산하고, 상기 부영역들 각각에 포함되는 에지의 픽셀에 대해 계산된 거리 벡터에 기초하여 상기 부영역들 각각에 대응하는 오프셋 불규칙 벡터를 통계적으로 설정하는, 공간적 깊이 불균일성 보상 장치.A first patch having a preset range is set around the pixels of the edge detected in the first image, and the first patch is located within a preset search area around the pixels of the edge detected in the second image. Obtain a third patch having the highest similarity, calculate a distance vector (jitter) between the first patch and the third patch, and based on the calculated distance vector for a pixel of an edge included in each of the subregions And statistically setting an offset irregular vector corresponding to each of the subregions.
  15. 제10항에 있어서,The method of claim 10,
    상기 보상 모델을 구축하는 보상 모델 구축부Compensation model building unit for building the compensation model
    를 더 포함하는 공간적 깊이 불균일성 보상 장치.Spatial depth non-uniformity compensation device further comprising.
  16. 제15항에 있어서,The method of claim 15,
    상기 보상 모델 구축부는 The compensation model building unit
    상기 부영역들 각각에서의 중심부 픽셀 및 가장자리 픽셀을 고려하여 상기 부영역들 각각에 대응하는 블러 크기에 따른 깊이를 설정하는, 공간적 깊이 불균일성 보상 장치.And setting a depth according to a blur size corresponding to each of the subregions in consideration of a center pixel and an edge pixel in each of the subregions.
PCT/KR2015/007044 2015-07-08 2015-07-08 Spatial depth non-uniformity compensation method and device using jittered comparison WO2017007047A1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
PCT/KR2015/007044 WO2017007047A1 (en) 2015-07-08 2015-07-08 Spatial depth non-uniformity compensation method and device using jittered comparison

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/KR2015/007044 WO2017007047A1 (en) 2015-07-08 2015-07-08 Spatial depth non-uniformity compensation method and device using jittered comparison

Publications (1)

Publication Number Publication Date
WO2017007047A1 true WO2017007047A1 (en) 2017-01-12

Family

ID=57686217

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2015/007044 WO2017007047A1 (en) 2015-07-08 2015-07-08 Spatial depth non-uniformity compensation method and device using jittered comparison

Country Status (1)

Country Link
WO (1) WO2017007047A1 (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112339433A (en) * 2019-12-04 2021-02-09 广东聚华印刷显示技术有限公司 Method, system, equipment and storage medium for nozzle alignment compensation of ink-jet printing device
CN115937836A (en) * 2023-02-08 2023-04-07 江阴嘉欧新材料有限公司 Cable laying depth identification device

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6556704B1 (en) * 1999-08-25 2003-04-29 Eastman Kodak Company Method for forming a depth image from digital image data
JP2010147937A (en) * 2008-12-19 2010-07-01 Sharp Corp Image processing apparatus
KR20110053348A (en) * 2008-08-05 2011-05-20 퀄컴 인코포레이티드 System and method to generate depth data using edge detection
US20110142287A1 (en) * 2009-12-16 2011-06-16 Sony Corporation Algorithms for estimating precise and relative object distances in a scene
KR20130092157A (en) * 2012-02-10 2013-08-20 에스케이플래닛 주식회사 Apparatus and method for correcting depth map and apparatus and method for generating 3d conversion image using the same

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6556704B1 (en) * 1999-08-25 2003-04-29 Eastman Kodak Company Method for forming a depth image from digital image data
KR20110053348A (en) * 2008-08-05 2011-05-20 퀄컴 인코포레이티드 System and method to generate depth data using edge detection
JP2010147937A (en) * 2008-12-19 2010-07-01 Sharp Corp Image processing apparatus
US20110142287A1 (en) * 2009-12-16 2011-06-16 Sony Corporation Algorithms for estimating precise and relative object distances in a scene
KR20130092157A (en) * 2012-02-10 2013-08-20 에스케이플래닛 주식회사 Apparatus and method for correcting depth map and apparatus and method for generating 3d conversion image using the same

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112339433A (en) * 2019-12-04 2021-02-09 广东聚华印刷显示技术有限公司 Method, system, equipment and storage medium for nozzle alignment compensation of ink-jet printing device
CN112339433B (en) * 2019-12-04 2021-11-23 广东聚华印刷显示技术有限公司 Method, system, equipment and storage medium for nozzle alignment compensation of ink-jet printing device
CN115937836A (en) * 2023-02-08 2023-04-07 江阴嘉欧新材料有限公司 Cable laying depth identification device

Similar Documents

Publication Publication Date Title
WO2015005577A1 (en) Camera pose estimation apparatus and method
WO2020027607A1 (en) Object detection device and control method
WO2013085148A1 (en) Apparatus and method for eliminating noise in stereo image
WO2014185710A1 (en) Method for correcting 3d image in tiled display and apparatus therefor
WO2020256517A2 (en) Automatic phase mapping processing method and system based on omnidirectional image information
WO2014077466A1 (en) System and method for providing additional information using image matching
WO2021075772A1 (en) Object detection method and device using multiple area detection
WO2018117353A1 (en) Method for detecting borderline between iris and sclera
WO2019054593A1 (en) Map production apparatus using machine learning and image processing
WO2019127049A1 (en) Image matching method, device, and storage medium
WO2016060439A1 (en) Method and apparatus for image processing
WO2015160052A1 (en) Method for correcting image from wide-angle lens and device therefor
WO2017195984A1 (en) 3d scanning device and method
WO2017007047A1 (en) Spatial depth non-uniformity compensation method and device using jittered comparison
WO2023027268A1 (en) Camera-lidar calibration device and method
WO2016035924A1 (en) Running sensing method and system
WO2019194544A1 (en) Method and system for handling 360 degree image content
WO2018038300A1 (en) Image providing device, method and computer program
WO2016190698A1 (en) Weighted median filtering method and device for noise removal
WO2019194561A1 (en) Location recognition method and system for providing augmented reality in mobile terminal
WO2016098943A1 (en) Image processing method and system for improving face detection capability
WO2018182066A1 (en) Method and apparatus for applying dynamic effect to image
WO2016006901A1 (en) Method and apparatus for extracting depth information from image
WO2019151555A1 (en) Object detection method and robot system
WO2022231316A1 (en) Unmanned parking management system for automatically correcting changes in camera angle, and method therefor

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 15897769

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 15897769

Country of ref document: EP

Kind code of ref document: A1