KR101165810B1 - A method and an apparatus extracting a depth image information using a stereo camera - Google Patents

A method and an apparatus extracting a depth image information using a stereo camera Download PDF

Info

Publication number
KR101165810B1
KR101165810B1 KR1020110039726A KR20110039726A KR101165810B1 KR 101165810 B1 KR101165810 B1 KR 101165810B1 KR 1020110039726 A KR1020110039726 A KR 1020110039726A KR 20110039726 A KR20110039726 A KR 20110039726A KR 101165810 B1 KR101165810 B1 KR 101165810B1
Authority
KR
South Korea
Prior art keywords
image
depth information
scalers
stereo camera
image depth
Prior art date
Application number
KR1020110039726A
Other languages
Korean (ko)
Inventor
반영균
유동상
Original Assignee
주식회사 아이브이넷
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 주식회사 아이브이넷 filed Critical 주식회사 아이브이넷
Priority to KR1020110039726A priority Critical patent/KR101165810B1/en
Application granted granted Critical
Publication of KR101165810B1 publication Critical patent/KR101165810B1/en

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Image Processing (AREA)

Abstract

PURPOSE: A method for extracting image depth information by a stereo camera and a device thereof are provided to process a high quality image in real time. CONSTITUTION: A first image and a second image about an object are photographed using a stereo camera(100). The sizes of the images are adjusted using a plurality of scalers(106). Image depth information is generated using the adjusted first and second images wherein the image depth information corresponds to the scalers(108). Optimized image depth information is extracted(110).

Description

스테레오 카메라에 의한 영상 깊이정보 추출방법 및 장치{A method and an apparatus extracting a depth image information using a stereo camera}A method and an apparatus extracting a depth image information using a stereo camera}

본 발명은 스테레오 카메라를 통한 영상 깊이정보를 추출하는 것에 관한 것으로, 보다 상세하게는 깊이 정보를 추출하는데 있어서 하나의 영상 정보를 처리하기 전에 영상 스케일러를 이용하여 다른 크기의 영상정보로 변경하고, 이들 중 적절한 영상 깊이정보를 추출하는 기술에 관한 것이다. The present invention relates to extracting image depth information through a stereo camera. More specifically, in extracting depth information, the image scaler is changed into image information having different sizes before processing one image information. The present invention relates to a technique for extracting proper image depth information.

통상적으로 스테레오 카메라를 통한 깊이 정보 추출 장치는 사람의 눈처럼 양안차, 즉 우측눈과 좌측눈의 시각 차이를 이용하여 동일한 사물, 혹은 장소처럼 어떠한 대상이 입력되는 영상에 있어서 우측눈과 좌측눈처럼 떨어져 있는 영상 입력 상태를 만들어 입력되는 영상의 차이를 계산하여 대상의 깊이 정보를 추출하는 것을 말한다. 두 개의 카메라에서 영상의 차이를 구하고 두개의 카메라의 떨어진 거리를 알면 계산식에 의해서 해당 영상의 깊이 정보를 추출할 수 있게 된다.In general, the depth information extraction apparatus through a stereo camera uses the binocular difference, i.e., the right eye and the left eye, as in the human eye. Refers to extracting depth information of a target by calculating a difference between input images by creating a remote image input state. When the difference between the two cameras is obtained and the distances of the two cameras are known, the depth information of the corresponding images can be extracted by a calculation formula.

일반적으로 입력된 두개의 영상의 공동기준선( epipolar line )을 일치시키게 되면 두영상의 같은 수직위치에서 수평방향으로 검색하여 같은 특징점을 추출할 수 있게 되어 이를 기반으로 해당 사물의 거리를 계산하게 된다. 이를 위하여 두 영상에서 같은 사물을 찾아내야 하므로 최대한 렌즈나 카메라의 시점으로 인한 왜곡을 없애야 하므로 거리 정보 추출 전에 왜곡보정(calibration )과정을 수행하여 왜곡을 수정한 영상으로 바꾸어 깊이 정보 추출을 용이하게 한다.In general, if the two input images coincide with an epipolar line, the same feature point can be extracted by searching in the horizontal direction at the same vertical position of the two images, and the distance of the object is calculated based on this. For this purpose, the same object must be found in both images, so the distortion caused by the lens or camera's point of view must be eliminated as much as possible, so the depth information can be easily extracted by performing the distortion correction process before the distance information is extracted. .

왜곡 보정이 이루어진 이후에 두 영상의 공동기준선을 일치되도록 영상의 기하학적 변환( rectification ) 을 통해 두영상의 공동기준선을 일치시킨 후 특징점을 추출하여 특징점의 위치차이를 깊이 정보로 변화하여 출력한다.After the distortion correction is performed, the joint reference lines of the two images are matched through the rectification of the images so that the common reference lines of the two images coincide. Then, the feature points are extracted and the position difference of the feature points is changed into depth information.

그러나 기존의 스테레오 카메라를 통한 깊이 정보 생성시에 고려해야 할 사항이 있다. 도 1은 렌즈의 초점거리와 시야각( FOV:Field of View )에 관한 것을 설명하기 위한 참고도이고, 도 2는 스테레오 카메라에 50[mm] 및 105[mm] 렌즈를 장착하고 동일 사물의 영상이 입력될 경우를 비교한 참고도로서, 시야각에 따라 동일 사물의 크기가 달라지며, 중복되어 비추어지는 영역의 크기도 달라지게 된다.However, there are some things to consider when generating depth information from a stereo camera. FIG. 1 is a reference diagram for explaining a focal length and a field of view (FOV) of a lens, and FIG. 2 is a 50 [mm] and 105 [mm] lens mounted on a stereo camera, and an image of the same object is displayed. As a reference diagram comparing input cases, the size of the same object is changed according to the viewing angle, and the size of the overlapped area is also changed.

일반적으로 광각렌즈의 경우 근거리의 깊이정보를 추출할 때, 상대적으로 유리하지만 원거리의 물체들이 상대적으로 작게 나타나기 때문에 원거리의 깊이정보를 추출해 내는 것이 어렵다. 망원렌즈의 경우는 근거리의 물체들이 상대적으로 크게 나타나기 때문에 근거리의 깊이 정보를 추출하기 위해서 수행되어야 할 연산의 범위도 넓어지게 된다. 그러나 연산의 범위가 넓어지게 되면 실시간 처리를 하기 위한 연산장치의 속도의 한계 및 연산에 필요한 메모리로 인한 버스 처리 지연 등의 문제가 발생할 수 있어 실질적으로 연산의 범위를 넓히는 것에는 한계가 있다. In general, in the case of the wide-angle lens, it is relatively advantageous when extracting the depth information of the near field, but it is difficult to extract the depth information of the far field because the far objects appear relatively small. In the case of a telephoto lens, since the objects in the near field appear relatively large, the range of operations to be performed to extract the depth information in the near field also becomes wider. However, when the range of operations is widened, problems such as the limitation of the speed of the operation apparatus for real-time processing and the delay of bus processing due to the memory required for the operation may occur.

이런 이유로 인해 스테레오 카메라를 기반으로 깊이 정보를 추출하는 경우에 근거리 깊이 정보 및 원거리 깊이 정보를 동시에 추출하는 데에는 어려움이 발생하게 된다.For this reason, when extracting depth information based on a stereo camera, it is difficult to simultaneously extract near depth information and far depth information.

본 발명이 해결하고자 하는 과제는 두 개의 입력영상을 이용하여 깊이 정보를 추출하는데 있어서, 복수개의 스케일러를 이용해 입력영상의 크기를 조정하여 보다 효율적으로 깊이 정보를 추출할 수 있도록 하는 스테레오 카메라에 의한 영상 깊이정보 추출방법 및 장치에 관한 것이다.The problem to be solved by the present invention is to extract depth information using two input images, the image by the stereo camera to be able to extract the depth information more efficiently by adjusting the size of the input image using a plurality of scalers A depth information extraction method and apparatus are provided.

상기의 과제를 해결하기 위해, 본 발명에 따른 스테레오 카메라에 의한 영상 깊이정보 추출방법은 스테레오 카메라를 사용해 객체에 대한 제1 영상 및 제2 영상을 각각 촬영하는 단계; 상기 촬영한 제1 영상 및 상기 제2 영상 각각에 대해 복수의 스케일러들을 사용해 영상의 크기를 조정하는 단계; 상기 복수의 스케일러들에 의해 영상의 크기가 조정된 제1 영상 및 제2 영상을 사용해, 상기 복수의 스케일러들에 대응하는 영상 깊이정보들을 각각 생성하는 단계; 및 상기 생성된 영상 깊이정보들을 중 최적 영상 깊이정보를 추출하는 단계를 포함하는 것을 특징으로 한다.In order to solve the above problems, the image depth information extraction method by a stereo camera according to the present invention comprises the steps of photographing the first image and the second image of the object using a stereo camera, respectively; Adjusting a size of an image by using a plurality of scalers for each of the captured first image and the second image; Generating image depth information corresponding to the plurality of scalers, respectively, by using the first image and the second image whose size of the image is adjusted by the plurality of scalers; And extracting optimal image depth information from the generated image depth information.

바람직하게는, 상기 스테레오 카메라에 의한 영상 깊이정보 추출방법은, 상기 획득한 제1 영상 및 상기 제2 영상 각각에 대해 영상 왜곡을 보정하는 단계를 더 포함하고, 상기 보정된 제1 및 제2 영상에 대해 영상의 크기를 조정하는 것을 특징으로 한다.Preferably, the method for extracting image depth information by the stereo camera further includes correcting image distortion for each of the obtained first and second images, and correcting the first and second images. It is characterized in that for adjusting the size of the image.

바람직하게는, 상기 영상 왜곡을 보정하는 단계는, 상기 획득한 제1 영상 및 상기 제2 영상 각각에 대해 밝기 정보를 보정하는 것을 특징으로 한다.Preferably, the step of correcting the image distortion, characterized in that for correcting the brightness information for each of the obtained first image and the second image.

바람직하게는, 상기 스테레오 카메라에 의한 영상 깊이정보 추출방법은, 상기 획득한 제1 영상 및 상기 제2 영상 각각에 대한 수평라인을 보정하는 단계를 더 포함하고, 상기 보정된 제1 및 제2 영상에 대해 영상의 크기를 조정하는 것을 특징으로 한다.Preferably, the method for extracting image depth information by the stereo camera further includes correcting horizontal lines of the obtained first image and the second image, and correcting the first and second images. It is characterized in that for adjusting the size of the image.

바람직하게는, 상기 복수의 스케일러들을 사용해 영상의 크기를 조정하는 단계는, 영상의 크기를 축소 조정하는 것을 특징으로 한다.Preferably, the step of adjusting the size of the image using the plurality of scalers is characterized by reducing the size of the image.

바람직하게는, 상기 복수의 스케일러들에 대응하는 영상 깊이정보들을 각각 생성하는 단계는, 상기 복수의 스케일러들의 스케일 비율의 역수를 곱하여, 상기 영상 깊이정보들을 보정하는 것을 특징으로 한다.Preferably, the step of generating the image depth information corresponding to the plurality of scalers, respectively, by multiplying the inverse of the scale ratio of the plurality of scalers, characterized in that for correcting the image depth information.

바람직하게는, 상기 생성된 영상 깊이정보들을 중 최적 영상 깊이정보를 추출하는 단계는, 상기 영상 깊이정보가 일정 원거리 이상일 경우에는 상기 복수의 스케일러들 중 스케일 비율이 상대적으로 큰 스케일러에 대응하는 영상 깊이정보를 추출하고, 상기 영상 깊이정보가 일정 근거리 이하일 경우에는 상기 복수의 스케일러들 중 스케일 비율이 상대적으로 작은 스케일러에 대응하는 영상 깊이정보를 추출하는 것을 특징으로 한다.Preferably, extracting the optimal image depth information from the generated image depth information, when the image depth information is a predetermined distance or more, the image depth corresponding to the scaler of the plurality of scalers relatively large scale ratio; And extracting information and extracting image depth information corresponding to a scaler having a relatively small scale ratio from among the plurality of scalers when the image depth information is below a predetermined short distance.

상기의 과제를 해결하기 위해, 본 발명에 따른 스테레오 카메라에 의한 영상 깊이정보 추출장치는 객체에 대해 제1 영상 및 제2 영상을 각각 촬영하는 스테레오 카메라; 상기 촬영한 제1 영상 및 상기 제2 영상 각각에 대해 각각 영상의 크기를 조정하는 복수의 스케일러들; 상기 복수의 스케일러들에 의해 영상의 크기가 조정된 제1 영상 및 제2 영상을 사용해, 상기 복수의 스케일러들에 대응하는 영상 깊이정보들을 각각 생성하는 복수의 깊이정보 생성부들; 및 상기 생성된 영상 깊이정보들을 중 최적 영상 깊이정보를 추출하는 깊이정보 추출부를 포함하는 것을 특징으로 한다.In order to solve the above problems, the image depth information extraction apparatus by a stereo camera according to the present invention comprises a stereo camera for capturing the first image and the second image for each object; A plurality of scalers for adjusting a size of an image for each of the captured first image and the second image; A plurality of depth information generators respectively generating image depth information corresponding to the plurality of scalers by using the first image and the second image whose size of the image is adjusted by the plurality of scalers; And a depth information extracting unit which extracts optimal image depth information from the generated image depth information.

바람직하게는, 상기 스테레오 카메라에 의한 영상 깊이정보 추출장치는, 상기 촬영한 제1 영상 및 상기 제2 영상 각각에 대해 영상 왜곡을 보정하는 제1 및 제2 영상 보정부를 더 포함하는 것을 특징으로 한다.Preferably, the apparatus for extracting image depth information by the stereo camera may further include first and second image correctors configured to correct image distortion with respect to each of the captured first and second images. .

바람직하게는, 상기 제1 및제2 영상 보정부는, 상기 획득한 제1 영상 및 상기 제2 영상 각각에 대해 밝기 정보를 보정하는 것을 특징으로 한다.The first and second image correctors may correct brightness information with respect to each of the acquired first and second images.

바람직하게는, 상기 제1 및제2 영상 보정부는, 상기 촬영한 제1 영상 및 상기 제2 영상 각각에 대한 수평라인을 보정하는 것을 특징으로 한다.Preferably, the first and second image correctors correct the horizontal lines of each of the captured first image and the second image.

바람직하게는, 상기 복수의 스케일러들은, 영상의 크기를 축소 조정하는 것을 특징으로 한다.Preferably, the plurality of scalers is characterized in that to reduce the size of the image.

바람직하게는, 상기 복수의 깊이정보 생성부들은, 상기 복수의 스케일러들의 스케일 비율의 역수를 곱하여, 상기 영상 깊이정보들을 보정하는 것을 특징으로 한다.Preferably, the plurality of depth information generators may multiply the reciprocal of the scale ratio of the plurality of scalers to correct the image depth information.

바람직하게는, 상기 깊이정보 추출부는, 상기 영상 깊이정보가 일정 원거리 이상일 경우에는 상기 복수의 스케일러들 중 스케일 비율이 상대적으로 큰 스케일러에 대응하는 영상 깊이정보를 추출하고, 상기 영상 깊이정보가 일정 근거리 이하일 경우에는 상기 복수의 스케일러들 중 스케일 비율이 상대적으로 작은 스케일러에 대응하는 영상 깊이정보를 추출하는 것을 특징으로 한다.Preferably, the depth information extracting unit extracts image depth information corresponding to a scaler having a relatively large scale ratio from among the plurality of scalers when the image depth information is greater than or equal to a predetermined distance, and the image depth information is a predetermined short range. In the following case, image depth information corresponding to a scaler having a relatively small scale ratio among the plurality of scalers may be extracted.

본 발명에 따르면, 복수개의 스케일러를 이용해 입력영상의 크기를 조정하여 근거리 및 원거리 깊이정보의 추출을 나누어 처리하여, 스테레오 카메라의 부피를 적게 만들고, 깊이 정보 추출에 들어가는 연산량을 기존 대비 절반 이하로 줄이는 효과를 기대할 수 있다. 이에 따라, 기존의 시스템에 비해 고화질의 영상을 실시간으로 처리할 수 있다.According to the present invention, by using a plurality of scalers to adjust the size of the input image by processing the extraction of the near and far depth information by dividing, to reduce the volume of the stereo camera, reducing the amount of computation required to extract depth information to less than half You can expect the effect. Accordingly, it is possible to process a high quality image in real time compared to the existing system.

즉, 연산량이 같을 경우에는 영상 깊이정보를 추출하는데 있어 기존의 방법에 비해 깊이 정보를 추출할 수 있는 범위가 넓어지게 된다. 이로 인해 기존에 동일 범위를 검출해야 될 경우 설치하는 시스템의 개수가 줄어들게 되어 비용 절감 효과를 가져올 수 있다. 또한, 기존에 실시간으로 처리할 수 있는 영상보다 고해상도의 영상을 실시간으로 처리할 수 있어 보다 상세한 깊이정보 산출을 기대할 수 있다. 또한, 같은 영상에 대해 복수개의 깊이 정보를 통해 신뢰성을 높이는 효과를 기대할 수 있다.That is, when the amount of computation is the same, the range for extracting depth information is wider than that of the conventional method for extracting image depth information. As a result, when the same range must be detected in the past, the number of installed systems is reduced, resulting in cost savings. In addition, since a higher resolution image may be processed in real time than an image that may be processed in real time, more detailed depth information calculation may be expected. In addition, an effect of increasing reliability through a plurality of depth information of the same image can be expected.

도 1은 렌즈의 초점거리와 시야각( FOV:Field of View )에 관한 것을 설명하기 위한 참고도이다.
도 2는 스테레오 카메라에 50[mm] 및 105[mm] 렌즈를 장착하고 동일 사물의 영상이 입력될 경우를 비교한 참고도이다.
도 3은 본 발명에 따른 스테레오 카메라에 의한 영상 깊이정보 추출방법을 설명하기 위한 일 실시예의 플로차트이다.
도 4는 영상 왜곡을 보정하기 위한 방법을 설명하기 위한 수식 및 이에 대응하는 참고도이다.
도 5는 렌즈 왜곡에 의한 영상 왜곡을 설명하기 위한 참고도이다.
도 6은 제1 및 제2 영상의 수평 라인의 불일치에 따른 영상 보정을 설명하기 위한 참고도이다.
도 7은 두 물체간의 수평 거리차이를 이용하여 영상 깊이정보를 생성하는 것을 설명하기 위한 수식 및 참고도이다.
도 8은 거리에 따른 픽셀수가 단조 감소하는 것을 설명하기 위한 참조 그래프이다.
도 9는 두개의 영상에 대한 특이점이 일치하는 위치를 찾기 위한 동적 프로그래밍 방법을 설명하기 위한 참고도이다.
도 10은 최적의 영상 깊이정보를 추출하는 과정을 설명하기 위한 일 실시예의 플로차트이다.
도 11은 본 발명에 따른 스테레오 카메라에 의한 영상 깊이정보 추출장치를설명하기 위한 일 실시예의 블록도이다.
FIG. 1 is a reference diagram for explaining the focal length and field of view (FOV) of a lens.
FIG. 2 is a reference diagram comparing a case in which 50 [mm] and 105 [mm] lenses are mounted on a stereo camera and an image of the same object is input.
3 is a flowchart of an embodiment for explaining a method for extracting image depth information by a stereo camera according to the present invention.
4 is an equation for explaining a method for correcting image distortion and a reference diagram corresponding thereto.
5 is a reference diagram for describing image distortion due to lens distortion.
6 is a reference diagram for explaining image correction due to a mismatch between horizontal lines of first and second images.
7 is an equation and a reference diagram for describing generation of image depth information using a horizontal distance difference between two objects.
8 is a reference graph for explaining that the number of pixels monotonically decreases with distance.
9 is a reference diagram for explaining a dynamic programming method for finding a location where singularities of two images coincide.
10 is a flowchart of an exemplary embodiment for explaining a process of extracting optimal image depth information.
11 is a block diagram of an embodiment for explaining an apparatus for extracting image depth information by a stereo camera according to the present invention.

이하, 본 발명에 따른 스테레오 카메라에 의한 영상 깊이정보 추출방법을 첨부된 도면을 가지고 상세히 설명한다.Hereinafter, a method for extracting image depth information by a stereo camera according to the present invention will be described in detail with the accompanying drawings.

도 3은 본 발명에 따른 스테레오 카메라에 의한 영상 깊이정보 추출방법을 설명하기 위한 일 실시예의 플로차트이다.3 is a flowchart of an embodiment for explaining a method for extracting image depth information by a stereo camera according to the present invention.

먼저, 스테레오 카메라를 사용해 하나의 객체에 대한 제1 영상 및 제2 영상을 각각 촬영한다(제100 단계). 스테레오 카메라는 2 개의 촬영용 렌즈를 일정 간격으로 이격시켜놓고, 동일한 객체를 각각 촬영하는 카메라를 말한다. 2개의 촬영용 렌즈를 사용해 동일 객체에 대해 제1 및 제2 영상을 촬영한다.First, a first image and a second image of one object are respectively photographed using a stereo camera (step 100). A stereo camera refers to a camera that photographs the same object with two shooting lenses spaced apart at regular intervals. Two shooting lenses are used to capture the first and second images of the same object.

제100 단계 후에, 상기 획득한 제1 영상 및 상기 제2 영상 각각에 대해 영상 왜곡을 보정한다(제102 단계). 2 개의 촬영용 렌즈를 통하여 영상을 입력 받으면, 제1 및 제2 영상 각각에서 카메라의 렌즈 왜곡, 카메라 틀어짐, 빛의 입사각 차이 등 카메라로 인한 입력 영상 왜곡을 보정 및 밝기 정보를 보정한다. 스테레오 카메라를 이용한 깊이 정보 추출은 두 영상의 위치 차이를 통해 계산되어 질 수 있으나, 실제로 카메라에서 입력되는 영상은 렌즈의 왜곡, 카메라 내부의 CCD 가 놓여진 형태, 좌우 카메라의 비평행성이 반영되어 얻어진다. After operation 100, image distortion is corrected for each of the acquired first image and the second image (step 102). When the image is input through the two photographing lenses, the input image distortion caused by the camera, such as lens distortion of the camera, camera distortion, and incident angle of light, is corrected and brightness information is corrected in each of the first and second images. Depth information extraction using a stereo camera can be calculated through the difference between the positions of the two images, but the image input from the camera is obtained by reflecting the lens distortion, the shape of the CCD inside the camera, and the antiparallelity of the left and right cameras. .

이러한 영상을 그대로 사용할 경우 정확한 깊이 정보 계산에 문제가 발생하므로 체스판과 같이 일정한 특징점을 통해 수학적 계산이 용이한 영상을 여러 장 획득하여 각 카메라 별 영상 보정 파라메터를 구할 수 있다.If such image is used as it is, problems of accurate depth information calculation occur, so it is possible to obtain image correction parameters for each camera by acquiring several images that are easy to calculate mathematically through certain feature points such as chessboard.

도 4는 영상 왜곡을 보정하기 위한 방법을 설명하기 위한 수식 및 이에 대응하는 참고도이다. 도 4에 도시된 바와 같이, 해당 수식은 기하학적 변환의 예를 알기 쉽게 보여주는 식이다. 이러한 개념을 3차원 공간으로 확장한 후 무한선( the line at infinity )을 고정시킬 수 있는 아래의 수학식 1을 이용할 수 있다. 4 is an equation for explaining a method for correcting image distortion and a reference diagram corresponding thereto. As shown in Fig. 4, the equation is an equation that clearly shows an example of the geometric transformation. After extending this concept to three-dimensional space, Equation 1 below can be used to fix the line at infinity.

Figure 112011031440390-pat00001
Figure 112011031440390-pat00001

상기의 수학식 1에 의해, 파라미터값을 적용하여 실제 영상에서 얻어지는 값을 산출함으로써, 입력 영상의 무한선이 평행하게 되어 두 카메라 영상의 Z축이 평행하게 보정된다.According to Equation 1 above, by applying the parameter value to calculate the value obtained in the actual image, the infinite line of the input image is parallel and the Z-axis of the two camera images is parallelly corrected.

또한, 렌즈 왜곡의 경우에 렌즈에 따라 주변부에 왜곡이 발생하여 볼록하거나 오목하게 영상을 출력하게 된다. 도 5는 렌즈 왜곡에 의한 영상 왜곡을 설명하기 위한 참고도이다. 도 5에 도시된 바와 같이, 방사형 왜곡( Radial Distortion Cefficient )은 렌즈의 구면 수차에 의해 발생하는 것으로써, 이러한 종류의 왜곡은 렌즈의 광학축에 대해서 대칭적으로 나타나게 되다. 따라서 이러한 왜곡에서는 광학중심을 중심으로해서 곡선의 형태를 띠게 되면 이를 원래의 직선으로 보정하기 위한 아래의 수학식 2를 사용할 수 있다. In addition, in the case of lens distortion, distortion occurs in the peripheral part depending on the lens, and convex or concave images are output. 5 is a reference diagram for describing image distortion due to lens distortion. As shown in Fig. 5, radial distortion is caused by spherical aberration of the lens, and this kind of distortion is symmetric about the optical axis of the lens. Therefore, in this distortion, the following equation (2) can be used to correct the curve as an original straight line when the shape is curved around the optical center.

Figure 112011031440390-pat00002
Figure 112011031440390-pat00002

수학식 2를 통하여 각 계수값을 구하여 왜곡 전의 영상으로 복원이 가능하다. 또한, 방사형 모양으로 빛의 입사량이 줄어들게 되므로, 쉐이딩 보정을 통해 밝기 정보도 왜곡 전의 영상으로 복원한다.It is possible to reconstruct an image before distortion by obtaining each coefficient through Equation 2. In addition, since the incident amount of light is reduced in a radial shape, brightness information is also restored to the image before distortion through shading correction.

제102 단계 후에, 상기 영상 왜곡이 보정된 제1 영상 및 제2 영상 각각에 대한 수평라인을 보정한다(제104 단계). 도 6은 제1 및 제2 영상의 수평 라인의 불일치에 따른 영상 보정을 설명하기 위한 참고도이다. 도 6에 도시된 바와 같이, 각각 보정된 제1 및 제2 영상에서 깊이 정보를 추출하기 용이하게 하기 위하여 두 영상의 수평선을 일치시킨다. 제1 영상 A와 제2 영상 B에서 발생할 수 있는 문제는 동일한 사물을 비치고 있을 때, 두 카메라의 초점거리에 의한 배율차이 및 영상의 기준선의 불일치가 발생할 수 있다. 여기서 두 영상의 중심축이 평행하도록 조정한다.After operation 102, the horizontal line of each of the first image and the second image whose image distortion is corrected is corrected (step 104). 6 is a reference diagram for explaining image correction due to a mismatch between horizontal lines of first and second images. As shown in FIG. 6, horizontal lines of the two images are coincident to facilitate extraction of depth information from the corrected first and second images, respectively. Problems that may occur in the first image A and the second image B may cause a difference in magnification due to the focal length of the two cameras and a mismatch of the reference line of the image when the same object is reflected. Here, adjust so that the center axes of the two images are parallel.

제104 단계 후에, 상기 촬영한 제1 영상 및 상기 제2 영상 각각에 대해 복수의 스케일러들을 사용해 영상의 크기를 각각 조정한다(제106 단계). 이때, 상기 복수의 스케일러들을 사용해 영상의 크기를 조정하는 단계는, 영상의 크기를 n/m 사이즈로 조정하게 되는데, 예를 들어, 일대일, 1/2, 1/4 및 1/8 중 어느 하나의 크기로 축소 조정할 수 있다. 복수의 스케일러들을 사용해 제1 및 제2 영상 각각에 대한 크기를 일대일, 1/2, 1/4 및 1/8 등으로 축소 조정하여, 각각의 스케일러들에 대응하는 복수개의 제1 및 제2 영상들을 출력한다. 제1 및 제2 입력영상은 수평 방향 기준선이 일치하므로 크기가 변경되어도 같은 수평선을 검색하여 동일점을 찾아 낼 수 있도록 변경된다. After operation 104, the size of the image is adjusted using a plurality of scalers for each of the captured first image and the second image (step 106). In this case, in the step of adjusting the size of the image using the plurality of scalers, the size of the image is adjusted to n / m size, for example, one-to-one, 1/2, 1/4, and 1/8. You can adjust the size to shrink. A plurality of scalers are used to reduce and adjust the size of each of the first and second images to one-to-one, 1/2, 1/4, and 1/8, and the like, so that the plurality of first and second images corresponding to the respective scalers are adjusted. Output them. Since the horizontal reference lines coincide with each other in the first and second input images, the same horizontal line may be searched to find the same point by searching the same horizontal line.

제106 단계 후에, 상기 복수의 스케일러들에 의해 영상의 크기가 조정된 제1 영상 및 제2 영상을 사용해, 상기 복수의 스케일러들에 대응하는 영상 깊이정보들을 각각 생성한다(제108 단계). After operation 106, image depth information corresponding to the plurality of scalers is generated using the first image and the second image whose image size is adjusted by the plurality of scalers (step 108).

도 7은 두 물체간의 수평 거리차이를 이용하여 영상 깊이정보를 생성하는 것을 설명하기 위한 수식 및 참고도이다. 도 7에 도시된 바와 같이, 수식에서 Z는 스케일러에 의해 조정된 제1 및 제2 영상에 대한 수평 거리차이에 따른 영상 깊이정보를 의미한다. 7 is an equation and a reference diagram for describing generation of image depth information using a horizontal distance difference between two objects. As shown in FIG. 7, Z in the equation means image depth information according to horizontal distance differences with respect to the first and second images adjusted by the scaler.

여기서 영상의 특징으로 주목해야 할 점은 거리가 가까울수록 전체 라인에서 차지하는 비중이 커진다는 것이다. 예를 들어, 1[m] 거리에서 10[cm]는 1/10이 되고 2[m] 거리에서는 1/20, 4[m] 거리에서는 1/40이 되고 8[m] 거리에서는 1/80이 된다고 하면, 수평라인이 640 픽셀인 영상에서 표현되는 픽셀수는 1[m]에서는 64 픽셀, 2[m]거리에서는 32픽셀, 4[m] 거리에서는 16 픽셀, 8[m]거리에서는 8픽셀이 되는 것처럼, 거리에 따른 픽셀수는 도 8에 도시된 바와 같이, 단조 감소 함수의 모양이 된다. It is important to note that the feature of the image is that the closer the distance is, the greater the proportion of the entire line. For example, at 1 [m] distance 10 [cm] is 1/10, at 2 [m] distance 1/20, at 4 [m] distance 1/40 and at 1/80 distance 1/80 In this case, the number of pixels represented in an image having a horizontal line of 640 pixels is 64 pixels at 1 [m], 32 pixels at 2 [m] distance, 16 pixels at 4 [m] distance, and 8 at 8 [m] distance. As the pixel becomes, the number of pixels along the distance becomes the shape of the monotonic reduction function, as shown in FIG.

도 8의 그래프에서 픽셀과 거리에 대한 일 예는 아래와 같은 표 1로 나타낼 수 있다.An example of a pixel and a distance in the graph of FIG. 8 may be represented by Table 1 below.

픽셀차이Pixel difference 128128 6464 3232 1616 88 44 22 1One 00 거리(m)Distance (m) 0.50.5 1One 22 44 88 1616 3232 6464 무한대infinity

상기의 표 1로 알 수 있는 것은 거리가 가까울수록 각 거리간 영역이 넓다는 것이다. 16[m]와 32[m] 사이값과 2[m]와 4[m]의 사잇값을 모두 예시해 보면 아래의 표 2 및 3과 같다.It can be seen from Table 1 that the closer the distance is, the wider the area between each distance. For example, the values between 16 [m] and 32 [m] and the values between 2 [m] and 4 [m] are shown in Tables 2 and 3 below.

픽셀차이Pixel difference 3232 3131 3030 2929 2828 2727 2626 2525 2424 2323 2222 2121 2020 1919 1818 1717 거리(m)Distance (m) 22 2.062.06 2.132.13 2.22.2 2.282.28 2.372.37 2.462.46 2.562.56 2.672.67 2.782.78 2.92.9 3.043.04 3.23.2 3.373.37 3.553.55 3.773.77

픽셀차이Pixel difference 44 33 거리(m)Distance (m) 1616 2121

표 2 및 3에 예시된 바와 같이, 객체와의 거리가 가까울수록 거리 정보가 보다 정밀하게 표시된다. 이러한 특징 때문에 멀리 있는 정보를 자세하게 표현하기 위해서 가까이 있는 정보가 불필요하게 세밀하게 표시되는 문제점이 발생하게 된다. 즉, 카메라와 사물의 거리가 멀어질수록 두 영상의 차이가 줄어들고 가까울 수록 증가하게 되므로, 1/2 이하의 스케일러를 이용하여 구성하더라도 근거리에서의 깊이 정보를 구성하는데 문제가 없으므로 1/2 이하의 스케일러를 이용해서 구성할 경우 계산량의 감소를 기대할 수 있다.As illustrated in Tables 2 and 3, the closer the distance to the object is, the more precisely the distance information is displayed. Due to this feature, a problem arises in that unnecessary information is displayed in detail in order to express far information in detail. In other words, as the distance between the camera and the object increases, the difference between the two images decreases and increases as the distance between the two objects decreases. If you use a scaler, you can expect a reduction in computation.

위 예시를 보면 0.5[m]부터 거리 정보를 산출하기 위해서는 128 픽셀만큼을 비교해야 한다. 이때 본 발명에서 제안한 복수개의 스케일러를 이용해서 구성할 경우를 가정해 보자. 스케일러는 1/4 과 1/1 스케일러를 사용했다고 가정한다. In the above example, to calculate distance information from 0.5 [m], 128 pixels must be compared. At this time, suppose that the configuration using a plurality of scalers proposed in the present invention. The scaler is assumed to use 1/4 and 1/1 scalers.

1/1 스케일러를 사용하고, 전체 수평 해상도가 640 픽셀인 영상에서 32 픽셀만큼 이용한 거리를 산출하면, 아래의 표 4와 같다.Using a 1/1 scaler and calculating the distance using 32 pixels in an image having a total horizontal resolution of 640 pixels, it is shown in Table 4 below.

픽셀차이Pixel difference 3232 1616 88 44 22 1One 00 거리(m)Distance (m) 22 44 88 1616 3232 6464 무한대infinity

한편, 1/4 스케일러를 사용하는 경우에는 전체 수평 해상도는 160 픽셀이 되고, 거리와 픽셀 차이를 표로 나타내면 아래의 표 5와 같다.On the other hand, when using a 1/4 scaler, the total horizontal resolution is 160 pixels, and the distances and pixel differences are shown in Table 5 below.

픽셀차이Pixel difference 3232 1616 88 44 22 1One 00 거리(m)Distance (m) 0.50.5 1One 22 44 88 1616 무한대infinity

표 5에 도시된 바와 같이, 32 픽셀까지만 검색해도 최단거리는 0.5[m]거리에 있는 객체의 정보를 알 수 있게 된다.As shown in Table 5, even searching up to 32 pixels enables the information of the object at the shortest distance of 0.5 [m].

위 예시에서 1/1 스케일러에 대응하는 깊이정보로서 2[m] 내지 64[m]까지의 깊이 정보를 얻을 수 있다. 또한, 1/4 스케일러에 대응하는 깊이정보로서 0.5[m] 내지 16[m]까지의 깊이 정보를 얻을 수 있다.In the above example, depth information of 2 [m] to 64 [m] may be obtained as depth information corresponding to a 1/1 scaler. Further, depth information from 0.5 [m] to 16 [m] can be obtained as depth information corresponding to a quarter scaler.

이렇게 얻어진 두 개의 정보를 통합하면 0.5[m] 내지 64[m]까지의 깊이 정보를 얻을 수 있게 된다. 이때 연산량은 기존의 128픽셀까지 연산하던 것에서 32픽셀까지 검색하므로 25[%]가 줄어들게 된다. 그렇지만 1/1 스케일러 및 1/4 스케일러에 대응하는 깊이 정보 검출 모듈 2개가 필요하므로 25[%] * 2를 해서 총 50[%]의 연산으로 깊이 정보를 산출 할 수 있게 된다.By integrating the two pieces of information thus obtained, depth information from 0.5 [m] to 64 [m] can be obtained. In this case, the amount of calculation is reduced to 25 [%] because 32 pixels are searched from the previous 128 pixels. However, since two depth information detection modules corresponding to 1/1 and 1/4 scalers are required, the depth information can be calculated by performing a total of 50 [%] by performing 25 [%] * 2.

한편, 영상의 크기가 조정된 제1 영상 및 제2 영상을 사용해, 영상 깊이정보들을 각각 생성하기 위해서는, 입력된 두개의 영상을 비교하여 특이점이 일치하는 곳을 찾아내게 된다. 이러한 방법에는 여러 과정이 있으나, 도 9에 도시된 바와 같이, 동적 프로그래밍(Dynamic programming) 방법을 사용하게 될 경우에는 검색 과정에서 1라인의 거리를 계산할 때 각 영상당 1개의 라인만으로 거리 검출이 가능해지므로, 본 방법에서는 동적 프로그래밍 방법을 통하여 거리 정보를 추출하게 된다. 동적 프로그래밍 방법이란 두 개의 영상의 라인에서 각각의 픽셀의 차를 구하여 가장 픽셀의 차이를 적게 만드는 패스를 따라가면 두 영상의 차이로 인한 깊이 정보를 얻을 수 있게 된다. 본 발명에서는 동적 프로그래밍 방법을 예로 들었으나 라인을 이용한 다른 종류의 검색 방법, Scanline Optimazation 등의 방법을 사용할 수도 있다.Meanwhile, in order to generate image depth information using the first image and the second image of which the size of the image is adjusted, the two input images are compared to find a point where the singularity matches. Although there are several processes in this method, as shown in FIG. 9, when using a dynamic programming method, distance can be detected using only one line for each image when calculating the distance of one line in a search process. In this method, the distance information is extracted through the dynamic programming method. In the dynamic programming method, the depth information due to the difference between two images can be obtained by obtaining a difference of each pixel in a line of two images and following a path that makes the smallest difference between pixels. In the present invention, a dynamic programming method is taken as an example, but other types of searching methods using lines, scanline optimization methods, and the like may also be used.

그 후, 상기 제1 영상 및 제2 영상을 사용해, 상기 복수의 스케일러들에 대응하는 영상 깊이정보들을 각각 생성한 후에는, 상기 복수의 스케일러들의 스케일 비율의 역수를 곱하여, 상기 영상 깊이정보들을 보정한다. 추출된 깊이 정보는 스케일러에 의해 영상 크기가 조정된 것이었으므로, 이를 원래의 영상 크기로 보정하기 위해, 스케일된 비율에 역수를 곱하여 영상 깊이정보를 보정한다.Thereafter, after generating the image depth information corresponding to the plurality of scalers using the first image and the second image, respectively, multiply the inverse of the scale ratio of the plurality of scalers and correct the image depth information. do. Since the extracted depth information is an image size adjusted by the scaler, the image depth information is corrected by multiplying the scaled ratio by the inverse to correct it to the original image size.

제108 단계 후에, 상기 생성된 영상 깊이정보들을 중 최적 영상 깊이정보를 추출한다(제110 단계). 상기 영상 깊이정보가 일정 원거리 이상일 경우에는 상기 복수의 스케일러들 중 스케일 비율이 상대적으로 큰 스케일러에 대응하는 영상 깊이정보를 추출하고, 상기 영상 깊이정보가 일정 근거리 이하일 경우에는 상기 복수의 스케일러들 중 스케일 비율이 상대적으로 작은 스케일러에 대응하는 영상 깊이정보를 추출한다.After operation 108, the optimal image depth information is extracted from the generated image depth information (operation 110). When the image depth information is greater than or equal to a predetermined distance, image depth information corresponding to a scaler having a relatively large scale ratio among the plurality of scalers is extracted. When the image depth information is less than or equal to a predetermined short distance, the scale of the plurality of scalers Image depth information corresponding to a scaler having a relatively small ratio is extracted.

도 10은 최적의 영상 깊이정보를 추출하는 과정을 설명하기 위한 일 실시예의 플로차트이다. 예를 들어, 제1 및 제2 영상이 1/1 스케일러를 통해 스케일링된 후 얻어지는 영상 깊이정보 A와 상기 제1 및 제2 영상이 1/4 스케일러를 통해 스케일링된 후 얻어지는 영상 깊이정보 B의 정보의 범위가 다르다. 영상 깊이정보 A가 입력되어(제200 단계), 영상 깊이정보 A가 영상 깊이정보 B가 가질 수 있는 최대값 Max B를 초과하는지 여부를 판단한다(제202 단계). 영상 깊이정보 A가 영상 깊이정보 B가 가질 수 있는 최대값 Max B를 초과한다면, 영상 깊이정보로서 A를 추출한다(제204 단계). 영상 깊이정보 A가 영상 깊이정보 B가 가질 수 있는 최대값 Max B를 초과한다는 것은 객체가 원거리에 있다는 것을 의미하는 것으로, 이때에는 복수의 스케일러들 중 스케일 비율이 상대적으로 큰 스케일러 즉, 여기서는 1/1 스케일러에 대응하는 영상 깊이정보 A를 추출한다. 그러나, 영상 깊이정보 A가 영상 깊이정보 B가 가질 수 있는 최대값 Max B를 초과하지 않는다면, 영상 깊이정보 B가 입력되고(제206 단계), 영상 깊이정보 B가 영상 깊이정보 B가 가질 수 있는 최소값 Min A의 미만인지 여부를 판단한다(제208 단계). 영상 깊이정보 B가 영상 깊이정보 A가 가질 수 있는 최소값 Min A 미만이라면, 영상 깊이정보로서 B를 추출한다(제210 단계). 영상 깊이정보 B가 영상 깊이정보 A가 가질 수 있는 최소값 Min A 미만이라는 것은 객체가 일정 근거리 이하에 위치하는 것을 의미하는 것으로, 이때에는 복수의 스케일러들 중 스케일 비율이 상대적으로 작은 스케일러 즉, 여기서는 1/4 스케일러에 대응하는 영상 깊이정보 B를 추출한다. 한편, 영상 깊이정보 B가 영상 깊이정보 A가 가질 수 있는 최소값 Min A 미만이 아니라면, 영상 깊이정보 A 와 영상 깊이정보 B 사이의 차의 절대값이 일정 임계값(Threshold) 이내인가를 판단한다(제212 단계). 여기서, 일정 임계값은 영상 깊이정보의 오차 임계범위에 해당한다. 만일, 영상 깊이정보 A 와 영상 깊이정보 B 사이의 차의 절대값이 일정 임계값(Threshold) 이내에 해당한다면, 영상 깊이정보로서 A를 추출한다(제214 단계). 그러나, 영상 깊이정보 A 와 영상 깊이정보 B 사이의 차의 절대값이 일정 임계값(Threshold) 이내에 해당하지 않는다면, 영상 깊이정보로서 의미 있는 값이 존재하지 않는 것이므로, 에러 정보를 출력한다(제216 단계).
10 is a flowchart of an exemplary embodiment for explaining a process of extracting optimal image depth information. For example, image depth information A obtained after the first and second images are scaled through the 1/1 scaler and information of image depth information B obtained after the first and second images are scaled through the 1/4 scaler. The range of is different. The image depth information A is input (step 200), and it is determined whether the image depth information A exceeds the maximum value Max B that the image depth information B can have (step 202). If the image depth information A exceeds the maximum value Max B that the image depth information B can have, A is extracted as the image depth information (step 204). The fact that the image depth information A exceeds the maximum value Max B that the image depth information B can have means that the object is at a distance. In this case, a scaler having a relatively large scale ratio among the plurality of scalers, that is, 1 / Image depth information A corresponding to one scaler is extracted. However, if the image depth information A does not exceed the maximum value Max B that the image depth information B can have, the image depth information B is input (step 206), and the image depth information B may have the image depth information B. It is determined whether the minimum value Min A is less than step S208. If the image depth information B is less than the minimum value Min A that the image depth information A can have, B is extracted as the image depth information (step 210). If the image depth information B is less than the minimum value Min A that the image depth information A can have, it means that the object is located below a certain short distance. In this case, a scaler having a relatively small scale ratio among the plurality of scalers, that is, 1 here Extract image depth information B corresponding to the / 4 scaler. On the other hand, if the image depth information B is not less than the minimum value Min A that the image depth information A can have, it is determined whether the absolute value of the difference between the image depth information A and the image depth information B is within a predetermined threshold (Threshold). Step 212). Here, the predetermined threshold value corresponds to the error threshold range of the image depth information. If the absolute value of the difference between the image depth information A and the image depth information B falls within a predetermined threshold value, A is extracted as the image depth information (step 214). However, if the absolute value of the difference between the image depth information A and the image depth information B does not fall within a predetermined threshold, since no meaningful value exists as the image depth information, error information is output (216). step).

이하, 본 발명에 따른 스테레오 카메라에 의한 영상 깊이정보 추출장치를 첨부된 도면을 가지고 상세히 설명한다.Hereinafter, an apparatus for extracting image depth information by a stereo camera according to the present invention will be described in detail with the accompanying drawings.

도 11은 본 발명에 따른 스테레오 카메라에 의한 영상 깊이정보 추출장치를 설명하기 위한 일 실시예의 블록도로서, 스테레오 카메라(300), 제1 영상 보정부(310), 제2 영상 보정부(312), 스케일러 1-1(320), 스케일러 1-2(322), 스케일러 2-1(330), 스케일러 2-2(332), 깊이정보 생성부 1(340), 깊이정보 생성부 2(342) 및 깊이정보 추출부(350)을 포함한다.FIG. 11 is a block diagram illustrating an image depth information extracting apparatus using a stereo camera according to the present invention. The stereo camera 300, the first image correcting unit 310, and the second image correcting unit 312 are illustrated in FIG. , Scaler 1-1 (320), scaler 1-2 (322), scaler 2-1 (330), scaler 2-2 (332), depth information generator 1 340, depth information generator 2 342 And a depth information extractor 350.

스테레오 카메라(300)는 제1 카메라 렌즈(302) 및 제2 카메라 렌즈(304)를 사용해, 객체에 대한 제1 영상 및 제2 영상을 각각 촬영하고, 촬영된 제1 영상을 제1 영상 보정부(310)으로 출력하고, 촬영된 제2 영상을 제2 영상 보정부(312)로 출력한다.The stereo camera 300 uses the first camera lens 302 and the second camera lens 304 to photograph the first image and the second image of the object, respectively, and captures the photographed first image by the first image corrector. The image is output to the 310 and the photographed second image is output to the second image corrector 312.

제1 영상 보정부(310) 및 제2 영상 보정부(312)는 각각 상기 스테레오 카메라(300)에서 전송된 제1 영상 및 상기 제2 영상 각각에 대해 영상 왜곡을 보정하고, 보정한 결과를 스케일러들로 출력한다. 제1 영상 보정부(310) 및 제2 영상 보정부(312)는 전술한 수학식 1을 이용하여, 왜곡된 영상에 대해 실제 영상에서 얻어지는 값을 산출함으로써, 입력 영상의 깊이 축이 평행이 되도록 보정한다. The first image corrector 310 and the second image corrector 312 respectively correct image distortion with respect to each of the first image and the second image transmitted from the stereo camera 300, and scale the corrected result. Output to The first image corrector 310 and the second image corrector 312 calculate values obtained from the real image with respect to the distorted image by using Equation 1 described above, such that the depth axes of the input image are parallel. Correct.

또한, 제1 영상 보정부(310) 및 제2 영상 보정부(312)는 도 5에 도시된 바와 같이, 방사형 왜곡( Radial Distortion Cefficient )은 렌즈의 구면 수차에 의해 발생하는 왜곡에 대해, 전술한 수학식 2를 사용하여 광학 중심을 중심으로 해서 곡선의 형태를 띠게 되는 것에 대해, 왜곡 전의 영상으로 복원한다. 이때 방사형 모양으로 빛의 입사량이 줄어들게 되므로, 쉐이딩 보정을 통해 밝기 정보도 왜곡 전의 영상으로 복원한다.In addition, as illustrated in FIG. 5, the first image corrector 310 and the second image corrector 312 may have the radial distortion described above with respect to the distortion generated by the spherical aberration of the lens. Equation (2) is used to reconstruct the image before the distortion for the curved shape around the optical center. At this time, since the incident amount of light is reduced in a radial shape, brightness information is also restored to the image before distortion through shading correction.

또한, 제1 영상 보정부(310) 및 제2 영상 보정부(312)는 상기 영상 왜곡이 보정된 제1 영상 및 제2 영상 각각에 대한 수평라인을 보정한다. 도 6에 도시된 바와 같이, 제1 영상 보정부(310) 및 제2 영상 보정부(312)는 각각 보정된 제1 및 제2 영상에서 깊이 정보를 추출하기 용이하게 하기 위하여 두 영상의 수평선을 일치시킨다. 즉, 제1 영상 보정부(310) 및 제2 영상 보정부(312)는 두 영상의 중심축이 깊이정보의 추출에 용이하도록 조정한다.In addition, the first image corrector 310 and the second image corrector 312 correct horizontal lines with respect to the first image and the second image in which the image distortion is corrected. As illustrated in FIG. 6, the first image corrector 310 and the second image corrector 312 respectively adjust horizontal lines of the two images to facilitate extraction of depth information from the corrected first and second images. Match. That is, the first image corrector 310 and the second image corrector 312 adjust the center axis of the two images to facilitate extraction of depth information.

스케일러 1-1(320) 및 스케일러 2-1(330)은 1/1 스케일러 즉, 원래의 영상에 대해 일대일 비율에 대응하는 영상으로 크기를 유지시키는 스케일러에 해당한다. 한편, 스케일러 1-2(322) 및 스케일러 2-2(332)는 1/2, 1/4, 1/8 등으로 영상의 크기를 축소하는 조정을 행한다. 도 11에서는 4개의 스케일러를 도시하고 있지만, 설계자의 선택에 따라, 스케일러의 개수는 증감이 가능하다. 여기서, 스케일러 1-1(320) 및 스케일러 2-1(330)은 1/4 스케일러 즉, 원래 영상에 대해 1/4의 비율 만큼 축소하는 영상으로 스케일링하는 것을 예시한다. The scalers 1-1 320 and the scalers 2-1 330 correspond to a 1/1 scaler, that is, a scaler that maintains the size as an image corresponding to a one-to-one ratio with respect to the original image. On the other hand, the scalers 1-2 (322) and the scalers 2-2 (332) adjust to reduce the size of the image by 1/2, 1/4, 1/8, and the like. Although four scalers are shown in FIG. 11, the number of scalers can be increased or decreased according to the designer's choice. Here, the scalers 1-1 320 and the scalers 2-1 330 illustrate scaling to a 1/4 scaler, that is, an image that is reduced by a ratio of 1/4 to the original image.

스케일러 1-1(320)은 제1 영상에 대해 일대일 비율에 대응하는 크기의 영상을 그대로 깊이정보 생성부 1(340)로 출력한다. 한편, 스케일러 1-2(322)은 제1 영상에 대해 1/4의 비율 만큼 축소한 영상을 깊이정보 생성부 2(342)로 출력한다. The scaler 1-1 320 outputs an image having a size corresponding to a one-to-one ratio with respect to the first image to the depth information generator 1 340 as it is. Meanwhile, the scalers 1-2 322 output the reduced image by the ratio of 1/4 to the depth information generator 2 342 with respect to the first image.

또한, 스케일러 2-1(330)은 제2 영상에 대해 일대일 비율에 대응하는 크기의 영상을 그대로 깊이정보 생성부 1(340)로 출력한다. 한편, 스케일러 2-2(332)은 제2 영상에 대해 1/4의 비율 만큼 축소한 영상을 깊이정보 생성부 2(342)로 출력한다. In addition, the scaler 2-1 330 outputs the image having the size corresponding to the one-to-one ratio with respect to the second image to the depth information generator 1 340 as it is. Meanwhile, the scaler 2-2 332 outputs the reduced image by the ratio of 1/4 to the depth information generator 2 342 with respect to the second image.

깊이정보 생성부 1(340)는 스케일러 1-1(320)로부터 제공된 제1 영상 및 스케일러 2-1(330)로부터 제공된 스케일링된 제2 영상을 사용해, 원래 영상의 크기에 일대일 대응하는 영상에 대한 영상 깊이정보를 생성한다. 또한, 깊이정보 생성부 2(342)는 스케일러 1-2(322)로부터 제공된 제1 영상 및 스케일러 2-2(332)로부터 제공된 스케일링된 제2 영상을 사용해, 원래 영상의 크기에서 1/4로 축소된 영상에 대한 영상 깊이정보를 생성한다. 깊이정보 생성부 1(340) 및 깊이정보 생성부 2(342)는 전술한 도 7에 도시된 수식을 사용해 제1 및 제2 영상에 대한 수평 거리차이에 따른 영상 깊이정보 Z를 생성하고, 생성한 깊이정보를 각각 깊이정보 추출부(350)로 출력한다. The depth information generator 1 340 uses the first image provided from the scaler 1-1 320 and the scaled second image provided from the scaler 2-1 330 to determine an image corresponding to the size of the original image one-to-one. Create image depth information. In addition, the depth information generator 2 342 may use the first image provided from the scalers 1-2 322 and the scaled second image provided from the scalers 2-2 332 to be 1/4 of the size of the original image. Generates image depth information for the reduced image. The depth information generator 1 340 and the depth information generator 2 342 generate and generate the image depth information Z according to the horizontal distance difference with respect to the first and second images by using the above-described formula shown in FIG. 7. Each depth information is output to the depth information extracting unit 350.

깊이정보 생성부 1(340) 및 깊이정보 생성부 2(342)는 영상의 크기가 조정된 제1 영상 및 제2 영상을 사용해, 영상 깊이정보들을 각각 생성하기 위해서, 입력된 두개의 영상을 비교하여 특이점이 일치하는 곳을 찾아낸다. 도 9에 도시된 바와 같이, 깊이정보 생성부 1(340) 및 깊이정보 생성부 2(342)는 동적 프로그래밍(Dynamic programming) 방법을 사용하게 될 경우에는 검색 과정에서 1라인의 거리를 계산할 때 각 영상당 1개의 라인만으로 거리 검출이 가능해지므로, 본 방법에서는 동적 프로그래밍 방법을 통하여 거리 정보를 추출한다. 또한, 깊이정보 생성부 1(340) 및 깊이정보 생성부 2(342)는 동적 프로그래밍 방법 이외에 Scanline Optimazation 등의 방법을 사용할 수도 있다.The depth information generator 1 340 and the depth information generator 2 342 compare the two input images to generate image depth information, respectively, by using the first image and the second image of which the image size is adjusted. To find out where the singularities match. As shown in FIG. 9, when the depth information generator 1 340 and the depth information generator 2 342 use a dynamic programming method, the depth information generator 1 340 and the depth information generator 2 342 calculate the distance of one line in the search process. Since distance detection is possible with only one line per image, the method extracts distance information through a dynamic programming method. In addition, the depth information generator 1 340 and the depth information generator 2 342 may use a method such as Scanline Optimazation in addition to the dynamic programming method.

그 후, 깊이정보 생성부 1(340) 및 깊이정보 생성부 2(342)는 상기 제1 영상 및 제2 영상을 사용해, 상기 복수의 스케일러들에 대응하는 영상 깊이정보들을 각각 생성한 후에는, 상기 복수의 스케일러들의 스케일 비율의 역수를 곱하여, 상기 영상 깊이정보들을 보정한다. 추출된 깊이 정보는 스케일러에 의해 영상 크기가 조정된 것이었으므로, 이를 원래의 영상 크기로 보정하기 위해, 스케일된 비율에 역수를 곱하여 영상 깊이정보를 보정한다.Thereafter, after the depth information generator 1 340 and the depth information generator 2 342 generate the image depth information corresponding to the plurality of scalers using the first image and the second image, respectively, The image depth information is corrected by multiplying the inverse of the scale ratio of the plurality of scalers. Since the extracted depth information is an image size adjusted by the scaler, the image depth information is corrected by multiplying the scaled ratio by the inverse to correct it to the original image size.

본 발명에서는 깊이정보 생성부 1(340) 및 깊이정보 생성부 2(342) 2개를 구비하는 것을 예시하고 있으나, 깊이정보 생성부는 스케일러의 개수가 증감함에 따라, 이에 대응하여 깊이정보 생성부의 개수도 증감할 수 있다. In the present invention, the depth information generating unit 1 340 and two depth information generating unit 2 342 are illustrated, but as the number of scalers increases or decreases, the depth information generating unit corresponds to the number of depth information generating units. You can also increase or decrease.

깊이정보 추출부(350)는 깊이정보 생성부 1(340) 및 깊이정보 생성부 2(342)에서 생성된 영상 깊이정보들을 중 최적 영상 깊이정보를 추출한다. 깊이정보 추출부(350)는 상기 영상 깊이정보가 일정 원거리 이상일 경우에는 상기 복수의 스케일러들 중 스케일 비율이 상대적으로 큰 스케일러에 대응하는 영상 깊이정보를 추출하고, 상기 영상 깊이정보가 일정 근거리 이하일 경우에는 상기 복수의 스케일러들 중 스케일 비율이 상대적으로 작은 스케일러에 대응하는 영상 깊이정보를 추출한다. 깊이정보 추출부(350)는 도 10에 도시된 바와 같이, 영상 깊이정보 A가 영상 깊이정보 B가 가질 수 있는 최대값 Max B를 초과한다면, 영상 깊이정보로서 A를 추출하고, 영상 깊이정보 B가 영상 깊이정보 A가 가질 수 있는 최소값 Min A 미만이라면, 영상 깊이정보로서 B를 추출한다. 또한, 깊이정보 추출부(350)는 영상 깊이정보 A와 영상 깊이정보 B 사이의 차의 절대값이 일정 임계값(Threshold) 이내인가를 판단하여, 영상 깊이정보 A와 영상 깊이정보 B 사이의 차의 절대값이 일정 임계값(Threshold) 이내에 해당한다면, 영상 깊이정보로서 A를 추출한다. 또한, 깊이정보 추출부(350)는 영상 깊이정보 A 와 영상 깊이정보 B 사이의 차의 절대값이 일정 임계값(Threshold) 이내에 해당하지 않는다면, 영상 깊이정보로서 의미 있는 값이 존재하지 않는 것이므로, 에러 정보를 출력한다.
The depth information extractor 350 extracts optimal image depth information from the image depth information generated by the depth information generator 1 340 and the depth information generator 2 342. The depth information extractor 350 extracts image depth information corresponding to a scaler having a relatively large scale ratio among the plurality of scalers when the image depth information is greater than or equal to a predetermined distance, and when the image depth information is less than or equal to a predetermined short distance. Extracts image depth information corresponding to a scaler having a relatively small scale ratio among the plurality of scalers. As illustrated in FIG. 10, the depth information extractor 350 extracts A as image depth information if the image depth information A exceeds the maximum value Max B that the image depth information B can have, and the image depth information B If B is less than the minimum value Min A that the image depth information A can have, B is extracted as the image depth information. In addition, the depth information extractor 350 determines whether the absolute value of the difference between the image depth information A and the image depth information B is within a predetermined threshold, and the difference between the image depth information A and the image depth information B is determined. If the absolute value of is within a certain threshold, A is extracted as the image depth information. Also, if the absolute value of the difference between the image depth information A and the image depth information B does not fall within a predetermined threshold value, the depth information extractor 350 does not have a meaningful value as the image depth information. Print error information.

한편, 상술한 본 발명의 방법 발명은 컴퓨터에서 읽을 수 있는 코드/명령들(instructions)/프로그램으로 구현될 수 있다. 예를 들면, 컴퓨터로 읽을 수 있는 기록 매체를 이용하여 상기 코드/명령들/프로그램을 동작시키는 범용 디지털 컴퓨터에서 구현될 수 있다. 상기 컴퓨터로 읽을 수 있는 기록 매체는 마그네틱 저장 매체(예를 들어, 롬, 플로피 디스크, 하드디스크, 마그네틱 테이프 등), 광학적 판독 매체(예를 들면, 시디롬, 디브이디 등) 와 같은 저장 매체를 포함한다. Meanwhile, the method inventions of the present invention described above can be implemented as computer readable codes / instructions / programs. For example, it may be implemented in a general-purpose digital computer for operating the code / instructions / program using a computer-readable recording medium. The computer-readable recording medium includes storage media such as magnetic storage media (eg, ROM, floppy disk, hard disk, magnetic tape, etc.), optical reading media (eg, CD-ROM, DVD, etc.) .

이러한 본원 발명인 스테레오 카메라에 의한 영상 깊이정보 추출방법 및 장치는 이해를 돕기 위하여 도면에 도시된 실시예를 참고로 설명되었으나, 이는 예시적인 것에 불과하며, 당해 분야에서 통상적 지식을 가진 자라면 이로부터 다양한 변형 및 균등한 타 실시예가 가능하다는 점을 이해할 것이다. 따라서, 본 발명의 진정한 기술적 보호 범위는 첨부된 특허청구범위에 의해 정해져야 할 것이다.The method and apparatus for extracting image depth information by a stereo camera according to the present invention have been described with reference to the embodiment shown in the drawings for clarity, but this is merely an example, and those skilled in the art will appreciate It will be appreciated that variations and other equivalent embodiments are possible. Accordingly, the true scope of the present invention should be determined by the appended claims.

300: 스테레오 카메라
310: 제1 영상 보정부
312: 제2 영상 보정부
320: 스케일러 1-1
322: 스케일러 1-2
330: 스케일러 2-1
332: 스케일러 2-2
340: 깊이정보 생성부 1
342: 깊이정보 생성부 2
350: 깊이정보 추출부
300: stereo camera
310: first image correction unit
312: second image correction unit
320: scaler 1-1
322: scaler 1-2
330: scaler 2-1
332: scaler 2-2
340: depth information generator 1
342: depth information generator 2
350: depth information extraction unit

Claims (14)

스테레오 카메라를 사용해 객체에 대한 제1 영상 및 제2 영상을 각각 촬영하는 단계;
상기 촬영한 제1 영상 및 상기 제2 영상 각각에 대해 복수의 스케일러들을 사용해 영상의 크기를 조정하는 단계;
상기 복수의 스케일러들에 의해 영상의 크기가 조정된 제1 영상 및 제2 영상을 사용해, 상기 복수의 스케일러들에 대응하는 영상 깊이정보들을 각각 생성하는 단계; 및
상기 생성된 영상 깊이정보들을 중 최적 영상 깊이정보를 추출하는 단계를 포함하는 것을 특징으로 하는 스테레오 카메라에 의한 영상 깊이정보 추출방법.
Photographing a first image and a second image of the object using a stereo camera, respectively;
Adjusting a size of an image by using a plurality of scalers for each of the captured first image and the second image;
Generating image depth information corresponding to the plurality of scalers, respectively, by using the first image and the second image whose size of the image is adjusted by the plurality of scalers; And
And extracting the optimum image depth information from the generated image depth information.
제1항에 있어서, 상기 스테레오 카메라에 의한 영상 깊이정보 추출방법은
상기 촬영한 제1 영상 및 상기 제2 영상 각각에 대해 영상 왜곡을 보정하는 단계를 더 포함하고,
상기 보정된 제1 및 제2 영상에 대해 영상의 크기를 조정하는 것을 특징으로 하는 스테레오 카메라에 의한 영상 깊이정보 추출방법.
The method of claim 1, wherein the image depth information extraction method by the stereo camera is performed.
The method may further include correcting image distortion for each of the captured first and second images.
The image depth information extraction method by the stereo camera, characterized in that for adjusting the size of the image for the corrected first and second images.
제2항에 있어서, 상기 영상 왜곡을 보정하는 단계는
상기 촬영한 제1 영상 및 상기 제2 영상 각각에 대해 밝기 정보를 보정하는 것을 특징으로 하는 스테레오 카메라에 의한 영상 깊이정보 추출방법.
The method of claim 2, wherein the correcting of the image distortion
The image depth information extraction method of the stereo camera, characterized in that for correcting the brightness information for each of the first image and the second image.
제1항에 있어서, 상기 스테레오 카메라에 의한 영상 깊이정보 추출방법은
상기 촬영한 제1 영상 및 상기 제2 영상 각각에 대한 수평라인을 보정하는 단계를 더 포함하고,
상기 보정된 제1 및 제2 영상에 대해 영상의 크기를 조정하는 것을 특징으로 하는 스테레오 카메라에 의한 영상 깊이정보 추출방법.
The method of claim 1, wherein the image depth information extraction method by the stereo camera is performed.
Correcting a horizontal line with respect to each of the captured first image and the second image;
The image depth information extraction method by the stereo camera, characterized in that for adjusting the size of the image for the corrected first and second images.
제1항에 있어서, 상기 복수의 스케일러들을 사용해 영상의 크기를 조정하는 단계는
영상의 크기를 축소 조정하는 것을 특징으로 하는 스테레오 카메라에 의한 영상 깊이정보 추출방법.
The method of claim 1, wherein adjusting the size of the image using the plurality of scalers
Image depth information extraction method by a stereo camera, characterized in that to reduce the size of the image.
제1항에 있어서, 상기 복수의 스케일러들에 대응하는 영상 깊이정보들을 각각 생성하는 단계는
상기 복수의 스케일러들의 스케일 비율의 역수를 곱하여, 상기 영상 깊이정보들을 보정하는 것을 특징으로 하는 스테레오 카메라에 의한 영상 깊이정보 추출방법.
The method of claim 1, wherein generating image depth information corresponding to the plurality of scalers, respectively,
And multiplying the inverse of the scale ratios of the plurality of scalers, thereby correcting the image depth information.
제1항에 있어서, 상기 생성된 영상 깊이정보들을 중 최적 영상 깊이정보를 추출하는 단계는
상기 영상 깊이정보가 일정 원거리 이상일 경우에는 상기 복수의 스케일러들 중 제1 스케일 비율 이상인 스케일러에 대응하는 영상 깊이정보를 추출하고, 상기 영상 깊이정보가 일정 근거리 이하일 경우에는 상기 복수의 스케일러들 중 제2 스케일 비율 이하인 스케일러에 대응하는 영상 깊이정보를 추출하는 것을 특징으로 하는 스테레오 카메라에 의한 영상 깊이정보 추출방법.
The method of claim 1, wherein the extracting optimal image depth information from the generated image depth information comprises:
When the image depth information is greater than or equal to a predetermined distance, image depth information corresponding to a scaler that is greater than or equal to a first scale ratio among the plurality of scalers is extracted. When the image depth information is less than or equal to a predetermined short distance, a second of the plurality of scalers is extracted. And extracting image depth information corresponding to a scaler that is less than or equal to a scale ratio.
객체에 대해 제1 영상 및 제2 영상을 각각 촬영하는 스테레오 카메라;
상기 촬영한 제1 영상 및 상기 제2 영상 각각에 대해 각각 영상의 크기를 조정하는 복수의 스케일러들;
상기 복수의 스케일러들에 의해 영상의 크기가 조정된 제1 영상 및 제2 영상을 사용해, 상기 복수의 스케일러들에 대응하는 영상 깊이정보들을 각각 생성하는 복수의 깊이정보 생성부들; 및
상기 생성된 영상 깊이정보들을 중 최적 영상 깊이정보를 추출하는 깊이정보 추출부를 포함하는 것을 특징으로 하는 스테레오 카메라에 의한 영상 깊이정보 추출장치.
A stereo camera for capturing the first image and the second image with respect to the object;
A plurality of scalers for adjusting a size of an image for each of the captured first image and the second image;
A plurality of depth information generators respectively generating image depth information corresponding to the plurality of scalers by using the first image and the second image whose size of the image is adjusted by the plurality of scalers; And
And a depth information extracting unit for extracting optimal image depth information from the generated image depth information.
제8항에 있어서, 상기 스테레오 카메라에 의한 영상 깊이정보 추출장치는
상기 촬영한 제1 영상 및 상기 제2 영상 각각에 대해 영상 왜곡을 보정하는 제1 및 제2 영상 보정부를 더 포함하는 것을 특징으로 하는 스테레오 카메라에 의한 영상 깊이정보 추출장치.
The apparatus of claim 8, wherein the image depth information extraction apparatus by the stereo camera is used.
And a first and second image correcting unit configured to correct image distortion with respect to each of the captured first image and the second image.
제9항에 있어서, 상기 제1 및 제2 영상 보정부는
상기 촬영한 제1 영상 및 상기 제2 영상 각각에 대해 밝기 정보를 보정하는 것을 특징으로 하는 스테레오 카메라에 의한 영상 깊이정보 추출장치.
The display apparatus of claim 9, wherein the first and second image correctors are provided.
Image depth information extraction apparatus by a stereo camera, characterized in that for correcting the brightness information for each of the first image and the second image photographed.
제9항에 있어서, 상기 제1 및 제2 영상 보정부는
상기 촬영한 제1 영상 및 상기 제2 영상 각각에 대한 수평라인을 보정하는 것을 특징으로 하는 스테레오 카메라에 의한 영상 깊이정보 추출장치.
The display apparatus of claim 9, wherein the first and second image correctors are provided.
Image depth information extraction apparatus by a stereo camera, characterized in that for correcting the horizontal line for each of the first image and the second image photographed.
제8항에 있어서, 상기 복수의 스케일러들은
영상의 크기를 축소 조정하는 것을 특징으로 하는 스테레오 카메라에 의한 영상 깊이정보 추출장치.
The method of claim 8, wherein the plurality of scalers
Image depth information extraction apparatus by a stereo camera, characterized in that for reducing the size of the image.
제8항에 있어서, 상기 복수의 깊이정보 생성부들은
상기 복수의 스케일러들의 스케일 비율의 역수를 곱하여, 상기 영상 깊이정보들을 보정하는 것을 특징으로 하는 스테레오 카메라에 의한 영상 깊이정보 추출장치.
The method of claim 8, wherein the plurality of depth information generation unit
And extracting the depth information by multiplying the inverse of the scale ratios of the plurality of scalers to correct the depth information.
제8항에 있어서, 상기 깊이정보 추출부는
상기 영상 깊이정보가 일정 원거리 이상일 경우에는 상기 복수의 스케일러들 중 제1 스케일 비율 이상인 스케일러에 대응하는 영상 깊이정보를 추출하고, 상기 영상 깊이정보가 일정 근거리 이하일 경우에는 상기 복수의 스케일러들 중 제2 스케일 비율 이하인 스케일러에 대응하는 영상 깊이정보를 추출하는 것을 특징으로 하는 스테레오 카메라에 의한 영상 깊이정보 추출장치.
The method of claim 8, wherein the depth information extracting unit
When the image depth information is greater than or equal to a predetermined distance, image depth information corresponding to a scaler that is greater than or equal to a first scale ratio among the plurality of scalers is extracted. When the image depth information is less than or equal to a predetermined short distance, a second of the plurality of scalers is extracted. An apparatus for extracting image depth information by a stereo camera, characterized in that extracting image depth information corresponding to a scaler that is equal to or less than a scale ratio.
KR1020110039726A 2011-04-27 2011-04-27 A method and an apparatus extracting a depth image information using a stereo camera KR101165810B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020110039726A KR101165810B1 (en) 2011-04-27 2011-04-27 A method and an apparatus extracting a depth image information using a stereo camera

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020110039726A KR101165810B1 (en) 2011-04-27 2011-04-27 A method and an apparatus extracting a depth image information using a stereo camera

Publications (1)

Publication Number Publication Date
KR101165810B1 true KR101165810B1 (en) 2012-07-16

Family

ID=46716861

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020110039726A KR101165810B1 (en) 2011-04-27 2011-04-27 A method and an apparatus extracting a depth image information using a stereo camera

Country Status (1)

Country Link
KR (1) KR101165810B1 (en)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101359099B1 (en) * 2012-11-14 2014-02-06 재단법인대구경북과학기술원 Apparatus and method for acquiring depth information using brightness controlling of camera
KR20160086696A (en) * 2015-01-12 2016-07-20 엘지전자 주식회사 stereo camera module and calibration method of stereo camera
WO2020246710A1 (en) * 2019-06-05 2020-12-10 삼성전자 주식회사 Depth map determination method and electronic device to which same method is applied
CN113747028A (en) * 2021-06-15 2021-12-03 荣耀终端有限公司 Shooting method and electronic equipment

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100667810B1 (en) 2005-08-31 2007-01-11 삼성전자주식회사 Apparatus for controlling depth of 3d picture and method therefor

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100667810B1 (en) 2005-08-31 2007-01-11 삼성전자주식회사 Apparatus for controlling depth of 3d picture and method therefor

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101359099B1 (en) * 2012-11-14 2014-02-06 재단법인대구경북과학기술원 Apparatus and method for acquiring depth information using brightness controlling of camera
KR20160086696A (en) * 2015-01-12 2016-07-20 엘지전자 주식회사 stereo camera module and calibration method of stereo camera
KR102302574B1 (en) * 2015-01-12 2021-09-14 엘지전자 주식회사 stereo camera module and calibration method of stereo camera
WO2020246710A1 (en) * 2019-06-05 2020-12-10 삼성전자 주식회사 Depth map determination method and electronic device to which same method is applied
CN113747028A (en) * 2021-06-15 2021-12-03 荣耀终端有限公司 Shooting method and electronic equipment
CN113747028B (en) * 2021-06-15 2024-03-15 荣耀终端有限公司 Shooting method and electronic equipment

Similar Documents

Publication Publication Date Title
CN107396080B (en) Method and system for generating depth information
CN107077743B (en) System and method for dynamic calibration of an array camera
CN109003311B (en) Calibration method of fisheye lens
US9774837B2 (en) System for performing distortion correction and calibration using pattern projection, and method using the same
JP5437311B2 (en) Image correction method, image correction system, angle estimation method, and angle estimation device
US9946955B2 (en) Image registration method
KR100776649B1 (en) A depth information-based Stereo/Multi-view Stereo Image Matching Apparatus and Method
CN112767542A (en) Three-dimensional reconstruction method of multi-view camera, VR camera and panoramic camera
CN103003665B (en) Stereo distance measurement apparatus
CN108886611A (en) The joining method and device of panoramic stereoscopic video system
US9025862B2 (en) Range image pixel matching method
US9619886B2 (en) Image processing apparatus, imaging apparatus, image processing method and program
TWI761684B (en) Calibration method of an image device and related image device and operational device thereof
KR101223206B1 (en) Method and system for generating 3-dimensional video content
CN109559353B (en) Camera module calibration method and device, electronic equipment and computer readable storage medium
KR101165810B1 (en) A method and an apparatus extracting a depth image information using a stereo camera
Zilly et al. Joint estimation of epipolar geometry and rectification parameters using point correspondences for stereoscopic TV sequences
US20080226159A1 (en) Method and System For Calculating Depth Information of Object in Image
CN109584312A (en) Camera calibration method, device, electronic equipment and computer readable storage medium
JP7489253B2 (en) Depth map generating device and program thereof, and depth map generating system
JP6395429B2 (en) Image processing apparatus, control method thereof, and storage medium
CN111127379B (en) Rendering method of light field camera 2.0 and electronic equipment
CN111292380B (en) Image processing method and device
KR20110133677A (en) Method and apparatus for processing 3d image
TW201531744A (en) Image processing device

Legal Events

Date Code Title Description
A201 Request for examination
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
LAPS Lapse due to unpaid annual fee