KR20140052769A - Apparatus and method for correcting distored image - Google Patents

Apparatus and method for correcting distored image Download PDF

Info

Publication number
KR20140052769A
KR20140052769A KR1020120119320A KR20120119320A KR20140052769A KR 20140052769 A KR20140052769 A KR 20140052769A KR 1020120119320 A KR1020120119320 A KR 1020120119320A KR 20120119320 A KR20120119320 A KR 20120119320A KR 20140052769 A KR20140052769 A KR 20140052769A
Authority
KR
South Korea
Prior art keywords
image
camera
parameter
ratio
distortion
Prior art date
Application number
KR1020120119320A
Other languages
Korean (ko)
Other versions
KR102029335B1 (en
Inventor
김문기
유재황
Original Assignee
에스케이텔레콤 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 에스케이텔레콤 주식회사 filed Critical 에스케이텔레콤 주식회사
Priority to KR1020120119320A priority Critical patent/KR102029335B1/en
Publication of KR20140052769A publication Critical patent/KR20140052769A/en
Application granted granted Critical
Publication of KR102029335B1 publication Critical patent/KR102029335B1/en

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/80Geometric correction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)

Abstract

The present invention relates to correcting distorted images. Particularly, the present invention relates to apparatus for correcting distorted images capable of providing reality images since a difference between an image photographed by a fisheye lens and a target object can be minimized by producing corrected image by optimizing a non-linear area of the image photographed by the fisheye lens and a method thereof. For this, according to an embodiment of the present invention, the apparatus for correcting distorted images comprises: an image front-end processing unit for adjusting the major and shortening rates of an inputted image when an image photographed by at least one camera is inputted; a parameter outputting unit for outputting camera parameter for optimizing the non-linear area of the adjusted image when the adjusted image is applied through the image front-end processing unit; and a corrected image providing unit for providing corrected images using the camera parameter outputted from the adjusted images.

Description

왜곡 영상 보정 장치 및 방법{APPARATUS AND METHOD FOR CORRECTING DISTORED IMAGE}[0001] APPARATUS AND METHOD FOR CORRECTING DISTORED IMAGE [0002]

본 발명은 왜곡 영상 보정에 관한 것으로서, 특히 어안 렌즈를 통해 촬영된 영상의 비선형 영역을 최적화하여 보정 영상을 생성함으로써, 어안 렌즈를 통해 촬영된 영상과 실제 촬영 대상과의 차이를 최소화할 수 있어 보다 더 현실감 있는 영상 제공이 가능한 왜곡 영상 보정 장치 및 방법에 관한 것이다.The present invention relates to a distortion image correction method and, more particularly, to a method and an apparatus for correcting distortion by optimizing a nonlinear region of an image photographed through a fisheye lens to generate a corrected image, And more particularly, to a distortion compensating apparatus and method capable of providing a more realistic image.

이 부분에 기술된 내용은 단순히 본 실시예에 대한 배경 정보를 제공할 뿐 종래기술을 구성하는 것은 아니다.The contents described in this section merely provide background information on the present embodiment and do not constitute the prior art.

일반적으로 어안 렌즈는 주차의 도움을 주기 위해 차량의 후방에 설치된 카메라 또는 영상보안감시 카메라 등에 포함되어 주변 영상을 촬영하는데 이용될 수 있다. 이러한 어안 렌즈는 180도 이상의 영역을 획득할 수 있어 최소의 카메라로 최대의 시야 각을 확보할 수 있으며, 의도적으로 통모양의 왜곡을 생기게 하여 180도 이상의 화각 전면에 걸쳐 균일한 밝기와 선예도를 유지할 수 있도록 구성될 수 있다. 이에 따라 어안 렌즈를 통해 광역의 영상을 획득할 수 있게 되었다. In general, a fisheye lens can be used to capture a surrounding image included in a camera installed in the rear of the vehicle or a video security surveillance camera to assist parking. These fisheye lenses can acquire an area of more than 180 degrees, so that the maximum camera angle can be secured with a minimum of camera, and intentional barrel distortion can be generated to maintain uniform brightness and sharpness over an angle of view of 180 degrees or more Or < / RTI > As a result, it is possible to acquire a wide-area image through a fish-eye lens.

그러나 어안 렌즈에서 렌즈 중심점부에 잡히는 피사체는 극단적으로 크게 촬영되고, 주변의 배경은 아주 작게 촬영되게 된다. 때문에 어안 렌즈를 통해 촬영된 영상은 심한 왜곡이 발생하므로 실제 촬영 대상과 차이가 발생하게 되어 현실감을 떨어지는 문제점이 있다. However, in the fisheye lens, the subject captured at the center of the lens is shot extremely large, and the background is taken very small. Therefore, there is a problem that the image photographed through the fisheye lens is severely distorted, and therefore, there is a difference from the actual photographing object and the reality is deteriorated.

따라서, 이러한 어안 렌즈를 통해 촬영된 영상의 왜곡을 보정하기 위한 다양한 기술들이 개발되고 있으나, 아직까지, 영상의 모서리 부분 등과 영상 내 존재하는 비선형적인 부분을 최적화하여 보정할 수 있는 기술은 없다.Therefore, various techniques for correcting distortion of an image captured through such a fish-eye lens have been developed. However, there is no technology that can optimize and correct a corner portion of an image and a non-linear portion existing in the image.

본 발명은 종래의 불편함을 해소하기 위하여 제안된 것으로서, 어안 렌즈를 통해 촬영된 영상의 비선형 영역을 최적화하여 보정 영상을 생성함으로써, 어안 렌즈를 통해 촬영된 영상과 실제 촬영 대상과의 차이를 최소화할 수 있는 왜곡 영상 보정 장치 및 방법을 제공하는 데 목적이 있다.The present invention has been proposed in order to solve the inconvenience of the prior art, and it is an object of the present invention to minimize a difference between an image photographed by a fish-eye lens and an actual photographing object by optimizing a nonlinear region of the image photographed by the fish- And a method for correcting a distorted image.

이를 위해, 본 발명은 촬영된 영상의 비선형 영역을 최적화할 수 있는 카메라 파라미터를 산출 과정을 이원화함으로써, 연산에 소요되는 시간을 줄일 수 있으며, 상기 카메라 파라미터를 이용하여 산출된 왜곡 보정 비율을 유기적으로 영상에 적용함으로써, 보다 정확한 보정 영상을 생성할 수 있는 왜곡 영상 보정 장치 및 방법을 제공하는 데 그 목적이 있다.To this end, the present invention reduces the time required for the calculation by binarizing the calculation process of the camera parameters capable of optimizing the non-linear region of the photographed image, and can reduce the distortion correction ratio calculated using the camera parameters organically And more particularly, to a distortion image correcting apparatus and method capable of generating a more accurate corrected image by applying the present invention to an image.

상술한 바와 같은 과제를 해결하기 위한 본 발명의 바람직한 실시예에 따른 왜곡 영상 보정 장치는 하나 이상의 카메라로부터 촬영된 영상이 입력되면, 상기 입력 영상의 장축 및 단축 비율을 조정하는 영상 전처리부; 상기 영상 전처리부를 통해 조정된 영상이 인가되면, 상기 조정 영상의 비선형 영역을 최적화하기 위한 카메라 파라미터를 산출하는 파라미터 산출부; 및 상기 조정 영상에서 상기 산출된 카메라 파라미터를 이용하여 보정 영상을 생성하는 보정 영상 생성부;를 포함하여 구성될 수 있다.According to an aspect of the present invention, there is provided an apparatus for correcting a distorted image, the apparatus comprising: an image preprocessing unit configured to adjust a long axis and a short axis ratio of an input image, A parameter calculation unit for calculating a camera parameter for optimizing a non-linear region of the adjustment image when the adjusted image is applied through the image preprocessing unit; And a corrected image generating unit for generating a corrected image using the calculated camera parameters in the adjusted image.

이때, 상기 영상 전처리부는 상기 입력 영상의 특징점을 추출한 후 상기 특징점을 연결한 영역의 장축 및 단축 길이를 확인한 후, 상기 장축 및 단축 길이를 이용하여 스케일링 인자를 산출한 후 상기 입력 영상에 적용하여 입력 영상의 장축 및 단축 비율을 조정할 수 있다.In this case, the image preprocessor extracts the minutiae points of the input image, determines the long axis and the minor axis length of the area connecting the minutiae points, calculates the scaling factor using the long axis and the minor axis length, The long axis and the short axis ratio of the image can be adjusted.

또한, 상기 파라미터 산출부는 상기 영상 전처리부를 통해 산출된 특징점을 이용하여 기 정의된 함수의 값이 최소화되도록 카메라 파라미터를 산출할 수 있다.The parameter calculator may calculate the camera parameter so that the value of the predefined function is minimized using the feature point calculated through the image preprocessing unit.

이때, 상기 카메라 파라미터는 상기 카메라에 구비된 렌즈의 초점 거리(focal length), 화각(Field of View), 휘어짐의 정도(skew vector)에 대한 파라미터 중 어느 하나의 파라미터를 포함하는 내부 파라미터와 상기 카메라의 회전, 이동 중 어느 하나의 파라미터를 포함하는 외부 파라미터를 포함하여 구성될 수 있다.The camera parameters may include an internal parameter including one of a focal length, a field of view, and a skew vector of a lens provided in the camera, And an external parameter including any one of rotation, movement, and rotation.

또한, 상기 파라미터 산출부는, 상기 내부 파라미터를 산출하고, 산출된 상기 내부 파라미터와 상기 영상 전처리부를 통해 산출된 특징점을 이용하여 외부 파라미터를 산출할 수 있다.The parameter calculation unit may calculate the internal parameter, and calculate the external parameter using the calculated internal parameter and the feature point calculated through the image preprocessing unit.

또한, 상기 보정 영상 생성부는, 상기 조정 영상에서 상기 파라미터 산출부를 통해 산출된 카메라 파라미터를 이용하여 왜곡 보정 비율을 산출하여 보정 영상을 생성하되, 상기 조정 영상 중심점을 기준으로 중심점에서의 거리에 따라 왜곡 보정 비율을 조정하여 보정 영상을 생성할 수 있다.The correction image generating unit may generate a corrected image by calculating a distortion correction ratio using the camera parameters calculated through the parameter calculating unit in the adjusted image, and generate a corrected image based on a distance from the center point to the adjusted image center point, The correction image can be generated by adjusting the correction ratio.

상술한 바와 같은 과제를 해결하기 위한 본 발명의 바람직한 실시예에 따른 왜곡 영상 보정 방법은 하나 이상의 카메라로부터 촬영된 영상이 입력되면, 상기 입력 영상의 장축 및 단축 비율을 조정하는 단계; 상기 조정 영상의 비선형 영역을 최적화하기 위한 카메라 파라미터를 산출하는 단계; 및 상기 조정 영상에서 상기 카메라 파라미터를 이용하여 보정 영상을 생성하는 단계;를 포함하여 이뤄질 수 있다.According to another aspect of the present invention, there is provided a distortion image correcting method comprising: adjusting a long axis and a shortening ratio of an input image when a captured image is input from one or more cameras; Calculating a camera parameter for optimizing a non-linear region of the adjusted image; And generating a corrected image using the camera parameters in the adjusted image.

여기서, 상기 장축 및 단축 비율을 조정하는 단계는 상기 입력 영상의 특징점을 추출하는 단계; 상기 추출된 특징점을 연결한 영역의 장축 및 단축 길이의 비율을 계산하는 단계; 상기 장축 및 단축 길이의 비율을 기초로 스케일링 인자를 산출하는 단계; 및 상기 입력 영상에 상기 스케일링 인자를 적용하여 입력 영상의 장축 및 단축 비율을 조정하는 단계;를 포함하여 이뤄질 수 있다.The step of adjusting the long axis and the short axis ratio may include extracting minutiae points of the input image; Calculating a ratio of the long axis and the short axis length of the region connecting the extracted minutiae; Calculating a scaling factor based on the ratio of the major axis and the minor axis length; And adjusting the long axis and the short axis ratio of the input image by applying the scaling factor to the input image.

또한, 상기 카메라 파라미터를 산출하는 단계는 상기 추출된 특징점을 이용하여 기 정의된 함수의 값이 최소화되도록 카메라 파라미터를 산출할 수 있다.In the calculating of the camera parameter, the camera parameter may be calculated so that the value of the predefined function is minimized using the extracted feature points.

또한, 상기 보정 영상을 생성하는 단계는 상기 카메라 파라미터를 이용하여 왜곡 보정 비율을 산출하는 단계; 및 상기 조정 영상의 중심점을 기준으로 중심점에서의 거리에 따라 왜곡 보정 비율을 조정하여 보정 영상을 생성하는 단계;를 포함하여 이뤄질 수 있다.The generating of the corrected image may include calculating a distortion correction ratio using the camera parameter; And generating a corrected image by adjusting a distortion correction ratio according to a distance from a center point with respect to a center point of the adjusted image.

아울러, 본 발명은 상술한 왜곡 영상 보정 방법을 실행하는 프로그램이 기록되어 있는 것을 특징으로 하는 컴퓨터에서 판독 가능한 기록 매체를 더 제공할 수 있다.In addition, the present invention can further provide a computer-readable recording medium characterized in that a program for executing the distortion image correction method described above is recorded.

본 발명의 왜곡 영상 보정 장치 및 방법에 의하면, 카메라의 어안 렌즈를 통해 촬영된 영상의 장축 및 단축 길이의 비율을 일치시키고, 카메라에 대한 파라미터 값을 계산하고, 계산된 파라미터 값을 이용하여 비율을 일치시킨 영상의 비선형 영역을 최적화하여 보정 영상을 생성함으로써, 어안 렌즈의 넓은 시야각을 사용함에 따라 최대의 시야 각을 확보할 수 있게 된다.According to the distortion image correcting apparatus and method of the present invention, the ratio of the major axis and the minor axis length of the image taken through the fish-eye lens of the camera is matched, the parameter value for the camera is calculated, The nonlinear region of the matched image is optimized to generate the corrected image, so that the maximum viewing angle can be ensured by using the wide viewing angle of the fisheye lens.

이로 인해, 어안 렌즈를 이용하여 촬영한 영상과 실제 촬영 대상과의 차이를 최소화함으로써 현실감 있는 영상의 제공이 가능하고, 이를 적용한 주차 보조 시스템에서 최소의 카메라로 최대의 시야 각을 확보할 수 있어, 더욱 정확한 정보를 사용자에게 제공할 수 있는 효과가 있다.Therefore, it is possible to provide a realistic image by minimizing the difference between the image photographed using the fisheye lens and the actual photographed object, and the maximum viewing angle can be secured with the minimum camera in the parking assistance system using the same, And more accurate information can be provided to the user.

도 1은 본 발명의 실시 예에 따른 영상 처리 시스템의 구성을 도시한 도면이다.
도 2는 본 발명의 실시 예에 따른 왜곡 영상 보정 장치의 구성을 도시한 도면이다.
도 3은 본 발명의 실시 예에 따른 FOV 모델을 설명하기 위한 예시도이다.
도 4는 본 발명의 실시 예에 따른 입력 영상의 장축 및 단축 비율을 조절하는 과정을 설명하기 위한 예시도이다.
도 5는 본 발명의 실시 예에 따른 실세계 좌표계와 카메라 좌표계를 설명하기 위한 예시도이다.
도 6은 본 발명의 실시 예에 따른 1단계 및 2단계로 구성되는 카메라 파라미터를 산출하는 과정을 설명하기 위한 흐름도이다.
도 7은 본 발명의 실시 예에 따른 왜곡 영상 보정 방법을 설명하기 위한 흐름도이다.
도 8 및 도 9는 본 발명의 실시 예에 따른 입력 영상과 보정 영상에 대한 예시도이다.
1 is a diagram illustrating a configuration of an image processing system according to an embodiment of the present invention.
FIG. 2 is a block diagram illustrating a distortion image correcting apparatus according to an embodiment of the present invention. Referring to FIG.
3 is an exemplary diagram illustrating a FOV model according to an embodiment of the present invention.
4 is a diagram for explaining a process of adjusting a long axis and a short axis ratio of an input image according to an embodiment of the present invention.
5 is an exemplary view for explaining a real-world coordinate system and a camera coordinate system according to an embodiment of the present invention.
FIG. 6 is a flowchart for explaining a process of calculating camera parameters including one-step and two-step according to an embodiment of the present invention.
7 is a flowchart illustrating a method of compensating for a distorted image according to an embodiment of the present invention.
8 and 9 are views illustrating an input image and a corrected image according to an exemplary embodiment of the present invention.

이하, 본 발명의 바람직한 실시 예를 첨부한 도면을 참조하여 상세히 설명한다. 다만, 하기의 설명 및 첨부된 도면에서 본 발명의 요지를 흐릴 수 있는 공지 기능 또는 구성에 대한 상세한 설명은 생략한다. 또한, 도면 전체에 걸쳐 동일한 구성 요소들은 가능한 한 동일한 도면 부호로 나타내고 있음에 유의하여야 한다.Hereinafter, preferred embodiments of the present invention will be described in detail with reference to the accompanying drawings. In the following description and the accompanying drawings, detailed description of well-known functions or constructions that may obscure the subject matter of the present invention will be omitted. It should be noted that the same constituent elements are denoted by the same reference numerals as possible throughout the drawings.

이하에서 설명되는 본 명세서 및 청구범위에 사용된 용어나 단어는 통상적이거나 사전적인 의미로 한정해서 해석되어서는 아니 되며, 발명자는 그 자신의 발명을 가장 최선의 방법으로 설명하기 위한 용어의 개념으로 적절하게 정의할 수 있다는 원칙에 입각하여 본 발명의 기술적 사상에 부합하는 의미와 개념으로 해석되어야만 한다. 따라서 본 명세서에 기재된 실시 예와 도면에 도시된 구성은 본 발명의 가장 바람직한 일 실시 예에 불과할 뿐이고, 본 발명의 기술적 사상을 모두 대변하는 것은 아니므로, 본 출원시점에 있어서 이들을 대체할 수 있는 다양한 균등물과 변형 예들이 있을 수 있음을 이해하여야 한다.The terms and words used in the present specification and claims should not be construed to be limited to ordinary or dictionary meanings and the inventor is not limited to the concept of terminology for describing his or her invention in the best way. It should be interpreted as meaning and concept consistent with the technical idea of the present invention. Therefore, the embodiments described in the present specification and the configurations shown in the drawings are merely the most preferred embodiments of the present invention, and not all of the technical ideas of the present invention are described. Therefore, It is to be understood that equivalents and modifications are possible.

우선, 본 발명의 실시예에 따른 영상 처리 시스템에 대해 첨부된 도면을 참조하여 구체적으로 설명하기로 한다. First, an image processing system according to an embodiment of the present invention will be described in detail with reference to the accompanying drawings.

도 1은 본 발명의 실시예에 따른 영상 처리 시스템의 구성을 도시한 도면이다. 1 is a diagram illustrating a configuration of an image processing system according to an embodiment of the present invention.

도 1을 참조하면, 영상 처리 시스템은 하나 이상의 카메라(100), 왜곡 영상 보정 장치(200) 및 영상 출력 장치(300)를 포함하여 구성할 수 있다. Referring to FIG. 1, the image processing system may include at least one camera 100, a distortion correction apparatus 200, and a video output apparatus 300.

하나 이상의 카메라(100)는 광역의 영상을 획득할 수 있는 장치로, 바람직하게는 180°이상의 화각을 가지는 초광각 렌즈인 어안 렌즈(fish eye lens)를 포함하여 구성될 수 있다. 이러한 어안 렌즈를 포함하는 카메라(100)는 차량의 주차 지원을 위해 차량 후방에 설치될 수 있으며, 전방을 향해 운전하는 운전자에게 차량 후방의 영상 및 사각지대 영상을 제공할 수 있다.The at least one camera 100 is a device capable of acquiring a wide-area image. The at least one camera 100 may include a fish eye lens, preferably an ultra-wide angle lens having an angle of view of 180 degrees or more. The camera 100 including the fisheye lens may be installed in the rear of the vehicle to support the parking of the vehicle, and may provide the driver with the image of the rear of the vehicle and the image of the blind zone.

이때, 어안 렌즈를 포함하는 카메라(100)는 3차원의 영상을 2차원의 영상으로 획득하게 되는데, 이때 획득된 영상은 심한 왜곡을 가지게 되는 데, 예컨대 렌즈 중심점을 기준으로 방사상으로 왜곡이 확장되거나 축소되는 방사 왜곡(radial distortion)이 있을 수 있다. At this time, the camera 100 including the fisheye lens acquires a three-dimensional image as a two-dimensional image. At this time, the acquired image has severe distortion. For example, when the distortion is radially expanded on the basis of the lens center point There may be reduced radial distortion.

이러한 방사 왜곡의 예는 도 8에 도시되어 있으며, 도 8에 도시된 바와 같이, 렌즈 중심점의 피사체들은 극단적으로 크게 찍히게 되고, 주변의 피사체들은 렌즈 중심점의 피사체에 비해 아주 작게 찍히게 된다.An example of such radial distortion is shown in Fig. 8, in which the subjects at the lens center point become extremely large, and the surrounding subjects become very small compared to the subject at the lens center point, as shown in Fig.

왜곡 영상 보정 장치(200)는 하나 이상의 카메라(100)로부터 촬영된 영상이 입력되면, 입력 영상을 보정하여 보정 영상을 생성하게 된다. 특히 본 발명의 왜곡 영상 보정 장치(200)는 입력된 영상의 장축 및 단축 비율을 조정한 후 조정 영상의 비선형 영역을 최적화하기 위한 카메라 파라미터를 산출한 후, 이를 이용하여 보정 영상을 생성하게 된다.The distorted image correction apparatus 200 corrects an input image and generates a corrected image when the image captured from one or more cameras 100 is input. In particular, the distortion-compensating apparatus 200 of the present invention adjusts the long axis and the shortening ratio of the input image, calculates a camera parameter for optimizing the non-linear region of the adjusted image, and generates a corrected image using the camera parameter.

이때, 보정 영상 생성 시 왜곡 보정 비율을 조정하여 영상을 보정할 수 있는데, 최대 시야각의 영상 손실 없이 사용자가 인지할 수 있도록 하기 위해, 영상의 중심점을 기준으로 중심점에서의 거리에 따라 왜곡 보정 비율을 달리함으로써 보정 영상을 생성할 수 있다.At this time, the image can be corrected by adjusting the distortion correction ratio when generating the corrected image. In order to allow the user to perceive the image without loss of the maximum viewing angle, the distortion correction ratio is set according to the distance from the center point By doing so, a corrected image can be generated.

이러한 왜곡 영상 보정 장치(200)는 예를 들어, 차량의 주/정차 시에 최소의 카메라로 최대의 시야 각을 확보하여 차량의 전후 좌우의 실시간 장애물 확인 및 주차를 위해, 차량에 설치되는 어안 렌즈를 포함하는 카메라로부터 영상을 제공 받아 어안 렌즈의 특성으로 인한 촬영된 영상의 방사왜곡을 보정할 수 있다. For example, the distortion compensated image compensating apparatus 200 can obtain a maximum viewing angle with a minimum camera at the time of stopping / stopping the vehicle, And corrects the radial distortion of the photographed image due to the characteristics of the fisheye lens.

영상 출력 장치(300)는 왜곡 영상 보정 장치(200)에서 보정된 영상을 사용자에게 제공할 수 있는 장치로, 예를 들어, 차량에 별도로 설치된 디스플레이 장치, 차량 네비게이션 또는 단말 장치 등이 이에 해당될 수 있다. The video output apparatus 300 is a device that can provide the user with the corrected video by the distortion correction apparatus 200. For example, the video output apparatus 300 may be a display apparatus, a vehicle navigation system, a terminal apparatus, have.

본 발명의 일 실시 예에 따른 왜곡 영상 보정 장치는 어안 렌즈를 이용하여 촬영된 영상의 왜곡을 보정하는 것을 예로 들어 설명하였으나, 이에 한정되는 것은 아니며, 광역의 영상을 촬영할 수 있는 렌즈라면, 그 어떠한 렌즈도 본 발명에 적용 가능하다. The distorted image correcting apparatus according to an embodiment of the present invention corrects distortion of a photographed image by using a fisheye lens. However, the present invention is not limited to this, and if the lens is capable of photographing a wide area image, Lenses are also applicable to the present invention.

또한, 상술한 카메라(100), 왜곡 영상 보정 장치(200) 및 영상 출력 장치(300)는 각각 독립적으로 구현되어 유선 또는 무선을 통해 연결될 수 있다.In addition, the camera 100, the distortion correction device 200, and the image output device 300 may be implemented independently of each other, and may be connected to each other through a wired or wireless connection.

또한, 왜곡 영상 보정 장치(200)는 상기 카메라(100)에 내장되는 형태로 구현되거나, 영상 출력 장치(300)에 내장되는 형태로 구현될 수 있으며, 상기 카메라(100)와 왜곡 영상 보정 장치(200)와 영상 출력 장치(300)가 하나의 장치로 구현될 수도 있다.The distortion compensating apparatus 200 may be embodied in the camera 100 or may be embodied in the image output apparatus 300. The distortion compensating apparatus 200 may be implemented by a camera 100, 200 and the image output apparatus 300 may be implemented as a single apparatus.

이하, 본 발명의 실시 예에 따른 왜곡 영상 보정 장치(200)의 주요 구성 및 동작 방법에 대해 설명하도록 한다.Hereinafter, a main configuration and an operation method of the distortion compensating apparatus 200 according to an embodiment of the present invention will be described.

도 2는 본 발명의 실시 예에 따른 영상 처리 시스템에서의 왜곡 영상 보정 장치의 주요 구성을 도시한 블록도이다.2 is a block diagram showing a main configuration of a distortion image correction apparatus in an image processing system according to an embodiment of the present invention.

도 1 및 도 2를 참조하면, 본 발명의 실시 예에 따른 왜곡 영상 보정 장치(200)는 영상 수집 모듈(210), 영상 처리 모듈(220), 영상 출력 모듈(230) 및 영상 저장 모듈(240)을 포함하여 구성될 수 있다.1 and 2, a distortion compensating apparatus 200 according to an exemplary embodiment of the present invention includes an image acquiring module 210, an image processing module 220, a video output module 230, and an image storage module 240 ). ≪ / RTI >

각 구성 요소에 대해 보다 구체적으로 설명하면, 먼저, 영상 수집 모듈(210)은 하나 이상의 카메라(100)를 통해 촬영된 영상을 수집하는 역할을 수행하게 된다. 특히, 본 발명의 영상 수집 모듈(210)은 어안 렌즈를 포함하는 카메라(100)를 통해 촬영된 영상을 수집하게 되는 데, 어안 렌즈를 포함하는 카메라(100)를 통해 촬영된 영상은 상술한 바와 같이 방사 왜곡을 가지게 된다.More specifically, the image collecting module 210 collects images photographed through one or more cameras 100. In particular, the image acquisition module 210 of the present invention collects images photographed through a camera 100 including a fisheye lens. An image photographed through the camera 100 including a fisheye lens is obtained as described above It has a radial distortion as well.

즉, FOV 모델은 도 3에 도시된 바와 같이, 영상의 중심점 C에서 영상 평면상의 한 점 m 사이의 거리는 대응되는 3차원 상의 한 점 M과 광축(Cz)이 이루는 각도와 비례한다고 가정하는 것으로, FOV 모델의 왜곡 함수는 <수학식 1>과 같이 정의될 수 있다.That is, as shown in FIG. 3, the FOV model assumes that the distance between one point m on the image plane at the center point C of the image is proportional to the angle formed by one point M on the corresponding three-dimensional plane and the optical axis Cz, The distortion function of the FOV model can be defined as Equation (1).

Figure pat00001
Figure pat00001

여기서,

Figure pat00002
는 왜곡된 거리를 나타내며,
Figure pat00003
는 렌즈의 왜곡이 없는 경우, 영상 중심에서 해당 픽셀까지의 거리를 나타낸다. 즉, 영상 중심에서 해당 픽셀까지의 거리
Figure pat00004
는 상기의 <수학식 1>에 의해 왜곡되어 왜곡된 거리
Figure pat00005
가 산출되는 것이며, 이때의
Figure pat00006
는 어안 렌즈의 화각으로, 카메라 내부 파라미터가 된다. 이상적인
Figure pat00007
는 1의 값을 가질 수 있다.here,
Figure pat00002
Represents a distorted distance,
Figure pat00003
Represents the distance from the center of the image to the corresponding pixel when there is no distortion of the lens. That is, the distance from the center of the image to the corresponding pixel
Figure pat00004
Is distorted by the above-mentioned < EMI ID =
Figure pat00005
Is calculated. At this time,
Figure pat00006
Is a fisheye angle of a fisheye lens, and is a camera internal parameter. ideal
Figure pat00007
Can have a value of one.

이러한 영상 수집 모듈(210)은 아날로그 형태로 수집되는 영상을, 예를 들어, 30frame/s의 속도로 디지털화할 수 있으며, 이렇게 디지털화된 영상을 영상 처리 모듈(220)로 전송할 수 있다.The image acquisition module 210 can digitize an image collected in an analog form at a speed of, for example, 30 frames / second, and transmit the digitized image to the image processing module 220.

영상 처리 모듈(220)은 영상 수집 모듈(210)을 통해 수집된 영상의 왜곡을 보정하여 보정 영상을 생성하는 것으로, 특히, 본 발명의 영상 처리 모듈(220)은 왜곡 영상의 비선형 영역을 최적화하기 위한 카메라 파라미터를 산출한 후, 산출된 상기 카메라 파라미터를 기초로 왜곡 보정 비율을 산출하고, 상기 수집된 영상에 왜곡 보정 비율을 적용하여 보정 영상을 생성하게 된다.The image processing module 220 generates a corrected image by correcting distortion of the image collected through the image acquisition module 210. Particularly, the image processing module 220 of the present invention optimizes the nonlinear region of the distorted image A distortion correction ratio is calculated based on the calculated camera parameters, and a distortion correction ratio is applied to the collected image to generate a corrected image.

이를 위해 본 발명의 영상 처리 모듈(220)은 영상 전처리부(221), 파라미터 산출부(222) 및 보정 영상 생성부(223)를 포함하여 구성될 수 있다.For this, the image processing module 220 of the present invention may include an image preprocessing unit 221, a parameter calculation unit 222, and a correction image generation unit 223.

이에 대해 보다 구체적으로 설명하면, 영상 전처리부(221)는 왜곡 영상의 보정을 하기 전, 영상 수집 모듈(210)을 통해 수집된 영상의 장축 및 단축 비율을 일치시키는 역할을 수행한다. More specifically, the image preprocessing unit 221 matches the long axis and the short axis ratio of the image collected through the image acquisition module 210 before correcting the distorted image.

보다 구체적으로 설명하면, 어안 렌즈는 일반적으로 수직 화각보다 수평 화각이 더 크게 설계되었기 때문에 영상의 보정 이전 단계에서 영상의 장축 및 단축 비율을 일치시키는 과정이 필요하다. 이를 위해 영상 전처리부(212)는 타원체 적합화(ellipse-fitting) 알고리즘을 사용하여 스케일링 인자

Figure pat00008
를 계산하고, 이를 특징점 좌표 변환에 적용하여 비율을 일치시킨다. More specifically, since the fisheye lens is generally designed to have a larger horizontal angle of view than the vertical angle of view, it is necessary to match the long axis and the short axis ratio of the image before the correction of the image. To this end, the image preprocessing unit 212 uses an ellipse-fitting algorithm to calculate a scaling factor
Figure pat00008
And applies it to the minutiae coordinate transformation to match the ratios.

즉, 어안 렌즈를 통해 촬영된 영상은 도 4에 도시된 바와 같이, 영상이 촬영된 영역 및 주변 영역으로 구분할 수 있는 데, 영상이 촬영된 영역에서 특정 개수의 특징점, 예컨대 6개의 특징점을 추출하고, 이를 연결하게 되면, 일정 영역, 즉 타원체를 구할 수 있다. 여기서, 특징점을 추출하는 과정은 공지된 다양한 기술들이 적용될 수 있다.That is, as shown in FIG. 4, an image photographed through a fish-eye lens can be divided into a photographed region and a surrounding region. A specific number of characteristic points, for example, six characteristic points are extracted from the photographed region , And when they are connected, a certain area, that is, an ellipsoid can be obtained. Here, various known techniques may be applied to the process of extracting feature points.

이후, 상기 타원체의 장축(

Figure pat00009
) 및 단축(
Figure pat00010
)의 길이를 하기 <수학식 2>에 적용하여 스케일링 인자
Figure pat00011
를 계산하게 된다.Then, the long axis of the ellipsoid
Figure pat00009
) And shortening (
Figure pat00010
) Is applied to the following equation (2) to calculate the scaling factor
Figure pat00011
.

Figure pat00012
Figure pat00012

여기서, 입력 영상의 장축 및 단축 길이의 비율을 일치시킨 조정 영상은 임의적으로 펴진 상태이므로 영상의 모서리(외곽선) 부분은 비선형의 형태를 띄게 된다.Here, since the adjustment image in which the ratio of the major axis and the minor axis length of the input image is matched is arbitrarily expanded, the edge (outline) portion of the image becomes nonlinear.

이러한 입력 영상의 장축 및 단축 길이의 비율을 일치시킨 조정 영상을 영상 전처리부(221)는 파라미터 산출부(222)로 전달하게 된다.The image preprocessing unit 221 transfers the adjusted image obtained by matching the ratios of the long axis and the short axis length of the input image to the parameter calculation unit 222.

또한, 본 발명의 영상 전처리부(221)는 상술한 바와 같은 영상의 장축 및 단축 길이의 비율을 일치시키는 역할 이외에도, 노이즈 제거 등의 다양한 영상 전처리를 수행할 수 있다.In addition, the image preprocessing unit 221 of the present invention can perform various image preprocessing such as noise removal in addition to the above-mentioned ratio of the long axis and short axis length of the image.

예를 들어, 영상 전처리부(221)는 640*480 해상도의 8bit 컬러, RGB 세 개의 채널로 이루어진 영상을 수신하게 되면, 수신된 영상의 해상도 그대로 영상 처리를 수행할 경우, 연산시간이 매우 길어지므로 영상의 너비와 높이를 최소화 예를 들어, 1/2로 축소하여 영상 처리를 수행할 수 있으며, 수신된 영상을 흑백 영상으로 변환할 수 있다. 더하여, 영상 전처리부(221)는 이진화된 영상 데이터를 이용하여 영상의 외곽선을 추출하고, 추출된 외곽선에 대한 영역들 중 면적이 미리 설정된 픽셀 예를 들어, 1000픽셀 이하인 영역은 노이즈로 간주하여 제거할 수도 있다.For example, when the image preprocessing unit 221 receives an image composed of 8-bit color and RGB three channels of 640 * 480 resolution and performs image processing as it is in the resolution of the received image, the calculation time becomes very long The width and height of the image can be minimized, for example, reduced to 1/2, and the received image can be converted into a monochrome image. In addition, the image preprocessing unit 221 extracts the outline of the image using the binarized image data, and regards an area having an area of a predetermined pixel, for example, 1000 pixels or less among the areas of the extracted outline as noise, You may.

파라미터 산출부(222)는 영상 전처리부(221)를 통해 장축 및 단축의 길이 비율이 조정된 영상이 인가되면, 상기 영상의 비선형 영역을 최적화하기 위한 카메라 파라미터를 산출하게 된다. The parameter calculator 222 calculates a camera parameter for optimizing the non-linear region of the image, when an image whose length ratio of the long axis and the short axis is adjusted through the image preprocessing unit 221 is applied.

이때, 상기 영상 전처리부(221)가 산출한

Figure pat00013
개의 특징점을 이용하게 되는데, 즉, 하기의 <수학식 3>의 영상(
Figure pat00014
)가 최소화되도록 카메라 파라미터(
Figure pat00015
)에 대한 최적값을 추정하게 된다.At this time, the image preprocessing unit 221
Figure pat00013
(3) < / RTI >&lt; RTI ID = 0.0 &gt;
Figure pat00014
) To minimize camera parameters (
Figure pat00015
). &Lt; / RTI &gt;

Figure pat00016
Figure pat00016

여기서,

Figure pat00017
은 왜곡되지 않은 점을 외부 파라미터
Figure pat00018
Figure pat00019
, 내부 파라미터
Figure pat00020
를 사용하여 왜곡시킨 점을 의미하는 것으로, 외부 파라미터 중
Figure pat00021
은 3x3의 회전 행렬을 의미하며,
Figure pat00022
는 3x1의 이동 행렬이 될 수 있다.here,
Figure pat00017
Lt; RTI ID = 0.0 &gt; non-distorted &
Figure pat00018
and
Figure pat00019
, Internal parameters
Figure pat00020
Quot ;, and &quot;
Figure pat00021
Denotes a rotation matrix of 3 x 3,
Figure pat00022
Lt; RTI ID = 0.0 &gt; 3x1 &lt; / RTI &gt;

또한, 내부 파라미터 중

Figure pat00023
는 어안 렌즈의 화각이며,
Figure pat00024
는 어안 렌즈의 초점 거리(focal length)를 의미하며,
Figure pat00025
는 센서에 따른 변형을 나타내는 파라미터를 의미한다.Also, among the internal parameters
Figure pat00023
Is an angle of view of a fish-eye lens,
Figure pat00024
Means a focal length of a fisheye lens,
Figure pat00025
Means a parameter representing a deformation according to the sensor.

상술한 내부 파라미터 및 외부 파라미터에 대해 보다 더 구체적으로 설명하면, 본 발명의 실시 예에 따른 카메라 파라미터는 내부 파라미터 및 외부 파라미터로 구성될 수 있는데, 내부 파라미터는 영상 좌표와 카메라 좌표 간의 관계를 의미하는 것으로서, 카메라의 제조 시점에 결정될 수 있다. 이러한 내부 파라미터에는 상술한 바와 같은 초점 거리(focal length), 휘어짐의 정도(skew vector), 렌즈 중심점(optical center) 등에 대한 값이 내부 파라미터가 될 수 있다. 반면, 외부 파라미터는 카메라 좌표와 공간 좌표 간의 관계를 의미하는 것으로서, 예를 들어, 카메라의 회전이나 이동에 대한 정보를 나타낸다. 이러한 외부 파라미터는 촬영 시마다 달라질 수 있다.More specifically, the camera parameter according to the embodiment of the present invention may be configured of an internal parameter and an external parameter. The internal parameter is a relationship between the image coordinates and the camera coordinates And can be determined at the time of manufacture of the camera. The internal parameter may be a focal length, a skew vector, a lens center, and the like as described above. On the other hand, the external parameter refers to the relationship between the camera coordinate and the spatial coordinate, for example, information about the rotation or movement of the camera. These external parameters may vary from one shot to another.

파라미터 산출부(222)는 인가된 영상의 카메라 파라미터를 산출하기 위해, 3차원 공간 상의 가상 좌표인 실세계 좌표계(

Figure pat00026
)를 카메라 초점을 기준으로 하는 카메라 좌표계(
Figure pat00027
)로 변환하게 되는 데, 외부 파라미터인 회전 행렬
Figure pat00028
과 이동 행렬
Figure pat00029
를 이용하여 하기의 <수학식 4>에 따라 수행하게 된다.In order to calculate the camera parameters of the applied image, the parameter calculation unit 222 calculates the camera parameters of the virtual camera in the real world coordinate system (
Figure pat00026
) To the camera's coordinate system based on the camera's focus
Figure pat00027
), Which is an external parameter, a rotation matrix
Figure pat00028
And movement matrix
Figure pat00029
(4) &quot; (4) &quot;

Figure pat00030
Figure pat00030

여기서, 카메라 좌표계(

Figure pat00031
)에서 2차원 영상으로 투영될 때, 이 둘 사이의 관계는 점 사영(point projection)에 기반한 핀홀(pin hole) 카메라 모델로 가정할 수 있는 데, 이때, 다양한 사영 기법 중 원근 사영(perspective projection)에 따라 원거리 물체는 작게, 근거리 물체는 크게 표현될 수 있다.Here, the camera coordinate system (
Figure pat00031
When the two-dimensional image is projected onto a two-dimensional image, the relationship between the two can be assumed to be a pin hole camera model based on a point projection. In this case, The distant object can be expressed small, and the near object can be expressed largely.

따라서, 도 5에 도시된 바와 같이, 상기 하기의 <수학식 5>를 적용하여 3차원의 한 점 P=(Xc, Yc, Zc)를 영상 평면의 한 점 P'=(x,y)로 변환할 수 있으며, 이때의 내부 파라미터인 초점 거리

Figure pat00032
는 사영 중심과 영상 평면 사이의 거리를 의미한다.5, a three-dimensional point P = (Xc, Yc, Zc) is calculated as a point P '= (x, y) in the image plane by applying Equation And the internal parameter focal length
Figure pat00032
Is the distance between the center of the projection and the image plane.

Figure pat00033
Figure pat00033

또한, 마지막으로 입력 영상은 디지털화되어 저장되기 때문에 CCD(Charge Coupled Device), CMOS(Complementary Metal Oxide Semiconductor)와 같은 센서의 특성에 영향을 받게 된다.Finally, since the input image is digitized and stored, it is affected by characteristics of a sensor such as a CCD (Charge Coupled Device) and a CMOS (Complementary Metal Oxide Semiconductor).

따라서, 저장되는 픽셀이 정사각형이 아닌 경우에 영상의 두 좌표축의 크기에 대한 스케일링 인자 K를 고려해야 한다. 카메라 영상 좌표계와 실영상 좌표계간의 변환에서 센서에 따른 변형은 내부 파라미터 K를 고려하여 하기의 <수학식 6>에 따라 산출된다.Therefore, if the pixels to be stored are not square, the scaling factor K for the size of the two coordinate axes of the image should be considered. In the conversion between the camera image coordinate system and the real image coordinate system, the deformation according to the sensor is calculated according to Equation (6) below in consideration of the internal parameter K.

Figure pat00034
Figure pat00034

또한, 상술한 <수학식 1>을 참조하여 설명한 바와 같이, 어안 렌즈의 화각인

Figure pat00035
는 내부 파라미터로 이용하게 된다.Further, as described above with reference to Equation (1), the angle of view of the fish-eye lens
Figure pat00035
Is used as an internal parameter.

앞서, 내부 파라미터는 카메라의 고유 속성 값이 될 수 있으며, 외부 파라미터는 촬영 시마다 달라질 수 있다 설명하였다.Previously, the internal parameters could be the intrinsic property values of the camera, and the extrinsic parameters could vary from one image to another.

즉, 내부 파라미터인 카메라의 초점 거리, 휘어짐의 정도 등은 카메라의 제조 시점에 결정되며, 외부 파라미터인 카메라의 회전이나 이동에 대한 정보는 촬영 시마다 달라지게 되는 데, 상술한 내부 파라미터와 외부 파라미터를 동시에 산출하게 되면, 카메라의 위치 또는 각도를 변경하는 경우 재계산해야 한다는 문제점이 있다.That is, the focal length and the degree of warp of the camera, which are internal parameters, are determined at the time of manufacture of the camera, and information about the rotation or movement of the camera, which is an external parameter, There is a problem that when the position or angle of the camera is changed, the camera must be recalculated.

따라서, 본 발명의 실시 예에서는 내부 파라미터를 먼저 산출하고, 이를 이용하여 카메라(100)의 위치 및 각도가 변경될 때마다 외부 파라미터를 계산함으로써, 연산의 속도를 개선할 수 있다.Therefore, in the embodiment of the present invention, the internal parameter is calculated first, and the external parameter is calculated each time the position and angle of the camera 100 are changed using the calculated internal parameter, thereby improving the speed of the calculation.

즉, 도 6에 도시된 바와 같이, 영상이 입력되면(S101), 입력 영상(3차원 실세계를 2차원의 형태로 획득된 영상)에서

Figure pat00036
개의 특징점을 추출한 후, 이를 이용하여 기 정의된 <수학식 3>을 이용하여 내부 파라미터를 먼저 산출하게 된다(S103). 여기까지가 파라미터 추출 1단계이다.That is, as shown in FIG. 6, when an image is inputted (S101), an input image (a three-dimensional real world image obtained in a two-dimensional form)
Figure pat00036
After extracting the feature points, the internal parameters are first calculated using Equation (3) defined previously (S103). Here is the parameter extraction step 1.

이후, 입력 영상에서 추출된

Figure pat00037
개의 특징점의 좌표와 S103 단계에서 산출된 내부 파라미터를 이용하여(S105) 외부 파라미터를 산출하게 된다(S107). 여기까지가 파라미터 추출 2단계로 이후, 카메라(100)의 위치 및 각도가 변경될 1단계는 생략하고 2단계만을 수행함으로써, 파라미터 산출 시의 연산 속도가 보다 더 빨라질 수 있다.Then,
Figure pat00037
The coordinates of the minutiae points and the internal parameters calculated in step S103 are used to calculate the external parameters (S105) (S107). The calculation speed at the time of parameter calculation can be further increased by omitting the step of changing the position and angle of the camera 100 and performing only the second step after the parameter extraction step 2 up to this point.

보정 영상 생성부(223)는 영상의 왜곡을 보정한 최종 보정 영상을 생성하는 역할을 수행한다. The corrected image generating unit 223 generates a final corrected image in which the image distortion is corrected.

즉, 왜곡된 형태의 입력 영상에 하기의 <수학식 7>과 같은 기 정의된 함수를 이용하여, 좌표를 변환함으로써 보정 영상을 생성하게 된다.That is, the corrected image is generated by transforming the coordinates of the distorted input image using a predefined function such as Equation (7) below.

Figure pat00038
Figure pat00038

이때, 입력된 영상의 좌표에 왜곡 보정 비율을 적용하여 보정 영상의 좌표를 계산할 수도 있다. At this time, the coordinates of the corrected image may be calculated by applying the distortion correction ratio to the coordinates of the input image.

여기서, 왜곡 보정 비율을 시스템 설정에 따라 미리 할당될 수 있다.Here, the distortion correction ratio can be previously allocated according to the system setting.

예컨대, 왜곡 보정 후의 영상의 크기가 (

Figure pat00039
)일 경우 하기의 <수학식 8>에 따라 왜곡 보정 후 영상 좌표의 위치에 따른 비율
Figure pat00040
를 계산하여 보정하게 된다.For example, if the size of the image after distortion correction is (
Figure pat00039
), The ratio according to the position of the image coordinates after the distortion correction according to the following Equation (8)
Figure pat00040
Is calculated and corrected.

Figure pat00041
Figure pat00041

이때, 이미지 중심에서 가까우면 왜곡 보정 비율을 크게 하고, 외곽으로 갈수록 왜곡 보정 비율을 적게 한다. 이는 화각이 180°도 이상인 입력 영상에서 상술한 바와 같이 핀홀 카메라 모델을 적용하여 2차원 평면에 영상을 보정하게 되는 경우, 외곽으로 갈수록

Figure pat00042
, 즉 왜곡 영상의 중심에서 해당 픽셀까지의 거리가 길어져 역방향 사상으로 가져올 수 있는 정보가 적어 해상도가 낮아지게 되며, 퍼짐 현상 등 여러가지 문제로 인해 오히려 인지하기 어려운 결과 영상을 출력할 수 있다는 문제점이 있다.At this time, if the image is closer to the center of the image, the distortion correction ratio is increased and the distortion correction ratio is decreased toward the outer edge. When the image is corrected on the two-dimensional plane by applying the pinhole camera model to the input image having an angle of view of 180 degrees or more as described above,
Figure pat00042
That is, the distance from the center of the distorted image to the corresponding pixel becomes long, the information that can be brought back to the reverse mapping is small and the resolution is low, and the resulting image can be output with difficulty in recognition due to various problems such as spreading .

따라서, 영상 중심에서 가까우면 왜곡 보정 비율을 크게 하고, 외곽으로 갈수록 왜곡 보정 비율을 적게 함으로써, 상술한 문제점은 해결할 수 있다.Therefore, if the image is closer to the center of the image, the distortion correction ratio is increased, and by decreasing the distortion correction ratio toward the outer side, the above-described problem can be solved.

또한, 보정 영상의 좌표

Figure pat00043
에서 왜곡 보정 비율 (
Figure pat00044
)를 조절하기 위해 하기의 <수학식 9>를 이용하여 왜곡 보정 비율을 산출할 수 있다.Further, the coordinates
Figure pat00043
The distortion correction ratio (
Figure pat00044
The distortion correction ratio can be calculated using Equation (9) below.

Figure pat00045
Figure pat00045

여기서, 왜곡 상수

Figure pat00046
는 사용자가 직접 입력할 수도 있다.Here, the distortion constant
Figure pat00046
May be entered directly by the user.

이후, 상술한 바와 같은 과정을 거쳐 산출된 왜곡 보정 비율을 하기의 <수학식 10>에 적용하여 왜곡 보정 비율이 반영된 보정 영상을 생성할 수도 있다.Thereafter, the distortion correction ratio calculated through the process described above may be applied to Equation (10) to generate a corrected image reflecting the distortion correction ratio.

Figure pat00047
Figure pat00047

즉, 도 8에 도시된 입력 영상에 대한 보정 영상이 도 9에 도시되어 있으며, 비선형 영역이 상당수 감소한 것을 확인할 수 있다.That is, the corrected image for the input image shown in FIG. 8 is shown in FIG. 9, and it can be seen that the nonlinear regions are significantly reduced.

본 발명의 왜곡 영상 보정 장치(200)는 영상 처리 모듈(220)의 처리 과정에 따라 발생되는 다양한 영상을 임시 또는 영구적으로 저장하는 영상 저장 모듈(240) 및 보정 된 영상을 영상 출력 장치(300)으로 전달하는 전달하는 영상 출력 모듈(230)을 더 포함하여 구성될 수 있다.The distortion compensating apparatus 200 according to the present invention includes an image storage module 240 for temporarily or permanently storing various images generated according to a process of the image processing module 220, And a video output module 230 for delivering the video signal to the video output module 230.

이때, 영상 저장 모듈(240)은 보정 영상 생성 과정에 발생되는 다양한 정보를 저장하게 되는데, 예컨대 왜곡 영상 보정 장치(200)를 구동하기 위한 제어 정보 및 하나 이상의 카메라(100)로부터 입력된 영상을 저장하고, 상기 영상의 왜곡을 보정한 보정 영상, 또는 각 카메라(100)별로 산출된 카메라 파라미터 값을 저장할 수 있다. 이러한 영상 저장 모듈(240)은 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(Magnetic Media), CD-ROM(Compact Disk Read Only Memory), DVD(Digital Video Disk)와 같은 광 기록 매체(Optical Media), 플롭티컬 디스크(Floptical Disk)와 같은 자기-광 매체(Magneto-Optical Media) 및 롬(ROM), 램(RAM, Random Access Memory), 플래시 메모리를 포함하여 구현될 수 있다.At this time, the image storage module 240 stores various information generated in the correction image generation process. For example, control information for driving the distortion image correction device 200 and an image input from one or more cameras 100 are stored A corrected image obtained by correcting the distortion of the image, or a camera parameter value calculated for each camera 100 may be stored. The image storage module 240 may be an optical storage medium such as a magnetic medium such as a hard disk, a floppy disk and a magnetic tape, a compact disk read only memory (CD-ROM), and a digital video disk ), A magneto-optical medium such as a floppy disk and a ROM, a random access memory (RAM), and a flash memory.

그러면, 이와 같이 구성된 영상 처리 시스템에서 왜곡 영상 보정 방법에 대해 첨부된 도면을 참조하여 구체적으로 설명하기로 한다. The distortion image correction method in the image processing system constructed as above will now be described in detail with reference to the accompanying drawings.

도 7은 본 발명의 실시 예에 따른 왜곡 영상 보정 방법을 설명하기 위한 흐름도이다.7 is a flowchart illustrating a method of compensating for a distorted image according to an embodiment of the present invention.

도 1 및 도 7을 참조하면, 먼저 하나 이상의 카메라(100)로부터 촬영된 영상을 수신하여 입력하게 되는데(1101), 이때 입력되는 영상은 도 8에 도시된 바와 같은 왜곡된 영상일 수 있다.Referring to FIGS. 1 and 7, first, an image photographed from one or more cameras 100 is received and input (1101). In this case, the input image may be a distorted image as shown in FIG.

이후, 왜곡 영상 보정 장치(200)는 입력 영상의 장축 및 단축 길이의 비율을 일치시키는 과정을 수행한다(1102). Thereafter, the distortion-compensated image correcting apparatus 200 performs a process of matching the ratio of the major axis and the minor axis length of the input image (1102).

이때 상술한 바와 같이, 먼저, 입력 영상의 특징점을 추출하게 된다. 이때, 도 8에 도시된 바와 같이 영상이 존재하는 영역 및 주변 영역이 함께 입력될 수 있는데, 영상이 존재하는 영역에서 특징점을 추출한 후, 상기 특징점을 연결하여 타원체가 도시되도록 한다. At this time, as described above, the feature points of the input image are extracted first. At this time, as shown in FIG. 8, the region where the image exists and the surrounding region can be input together. After extracting the feature points from the region where the image exists, the ellipsoid is displayed by connecting the feature points.

이후, 상기 영역의 장축 및 단축의 길이를 계산하고, 상기 장축 및 단축의 길이의 비율에 따라 스케일링 인자를 산출한 후 상기 특징점을 연결한 영역, 즉 타원에 해당하는 영역의 스케일링 인자를 적용하여 장축 및 단축 비율을 조정하게 된다.Thereafter, the lengths of the long and short axes of the region are calculated, and the scaling factor is calculated according to the ratio of the lengths of the long and short axes. Then, the scaling factor of the region connecting the minutiae, And the shortening ratio is adjusted.

이후, 조정 영상의 발생된 비선형 영역을 최적화하기 위해 카메라 파라미터를 산출하게 된다(1103).Then, the camera parameter is calculated to optimize the generated non-linear region of the adjusted image (1103).

상기 카메라 파라미터는 내부 파라미터 및 외부 파라미터를 포함하게 되는데, 상술한 바와 같이 <수학식 3>의 결과 값이 최소가 되도록 각 파라미터의 값을 추정하게 된다. 여기서, 파라미터 산출 시, 먼저, 내부 파라미터를 산출하고, 상기 내부 파라미터와 입력 영상의 특징점의 좌표를 이용하여 외부 파라미터를 산출할 수 있다.The camera parameters include an internal parameter and an external parameter. The value of each parameter is estimated so that the result of Equation (3) is minimized as described above. Here, at the time of parameter calculation, first, an internal parameter is calculated, and an external parameter can be calculated using the coordinates of the internal parameter and the minutiae point of the input image.

이후, 보정 영상을 생성하기 위해 상기 카메라 파라미터를 이용하여 왜곡 보정 비율을 산출하고, 장축 및 단축의 길이가 조정된 조정 영상에 왜곡 보정 비율을 적용하여(1104), 보정 영상을 생성하게 된다(1105).Thereafter, a distortion correction ratio is calculated using the camera parameters to generate a corrected image, and a distortion correction ratio is applied to the adjusted image whose lengths of the long and short axes are adjusted (1104) to generate a corrected image (1105 ).

상기 보정 영상 생성 시 조정 영상의 중심점을 기준으로 중심점에서의 거리에 따라 왜곡 보정 비율을 조정함으로써 보정 영상을 생성할 수 있다.The corrected image can be generated by adjusting the distortion correction ratio according to the distance from the center point based on the center point of the adjusted image at the time of generating the corrected image.

이후, 보정된 영상을 영상 출력 장치(300)로 전달하면, 이를 전달받은 영상 출력 장치(300)는 보정된 영상을 출력할 수 있다(1106).Thereafter, when the corrected image is transmitted to the image output apparatus 300, the image output apparatus 300 receiving the corrected image outputs the corrected image (1106).

이상으로 본 발명의 실시 예에 따른 왜곡 영상 보정 방법에 대해 설명하였다.The distortion image correction method according to the embodiment of the present invention has been described above.

상술한 바와 같은 왜곡 영상 보정 방법은, 어안 렌즈를 통해 촬영된 영상으로부터 실제와 가장 유사한 영상을 도출할 수 있도록 함으로써, 보정 영상의 정보를 이용하여 카메라와 표적과의 거리를 정확히 산출할 수 있도록 하며, 그 결과 차량 주차 시스템 등에 적용되어, 장애물 인식, 주변 공간 확보, 상황 제어 등을 구현할 수 있게 한다.The distortion image correcting method as described above can derive the image most similar to the real image from the image taken through the fish-eye lens, so that the distance between the camera and the target can be accurately calculated using the information of the corrected image , And as a result, it is applied to a vehicle parking system and the like, thereby realizing an obstacle recognition, a surrounding space securing, a situation control, and the like.

또한, 이러한 왜곡 영상 보정 방법은 프로그램으로 구현되어 컴퓨터 판독 가능한 기록 매체에 구현될 수 있다.In addition, such a distorted image correction method may be implemented by a program and implemented in a computer-readable recording medium.

본 발명에 따른 왜곡 영상 보정 방법을 실행하기 위해 기록되는 프로그램 명령은 본 발명을 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 예컨대 기록매체는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(Magnetic Media), CD-ROM(Compact Disk Read Only Memory), DVD(Digital Video Disk)와 같은 광 기록 매체(Optical Media), 플롭티컬 디스크(Floptical Disk)와 같은 자기-광 매체(Magneto-Optical Media), 및 롬(ROM), 램(RAM, Random Access Memory), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치를 포함한다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함할 수 있다. 이러한 하드웨어 장치는 본 발명의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.The program instructions to be recorded for executing the distortion image correction method according to the present invention may be those specially designed and configured for the present invention or may be those known and used by those skilled in the computer software. For example, the recording medium may be an optical recording medium such as a magnetic medium such as a hard disk, a floppy disk and a magnetic tape, a compact disk read only memory (CD-ROM), a digital video disk (DVD) Includes a hardware device that is specially configured to store and execute program instructions such as a magneto-optical medium such as a floppy disk and a ROM, a random access memory (RAM), a flash memory, do. Examples of program instructions may include machine language code such as those generated by a compiler, as well as high-level language code that may be executed by a computer using an interpreter or the like. Such a hardware device may be configured to operate as one or more software modules to perform the operations of the present invention, and vice versa.

한편, 본 명세서와 도면에 개시된 본 발명의 실시 예들은 이해를 돕기 위해 특정 예를 제시한 것에 지나지 않으며, 본 발명의 범위를 한정하고자 하는 것은 아니다. 여기에 개시된 실시 예들 이외에도 본 발명의 기술적 사상에 바탕을 둔 다른 변형 예들이 실시 가능하다는 것은, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 자명한 것이다.It should be noted that the embodiments of the present invention disclosed in the present specification and drawings are only illustrative of specific examples for the purpose of understanding and are not intended to limit the scope of the present invention. It will be apparent to those skilled in the art that other modifications based on the technical idea of the present invention are possible in addition to the embodiments disclosed herein.

본 발명은 왜곡 영상 보정에 관한 것으로서, 특히 어안 렌즈를 통해 촬영된 영상의 비선형 영역을 최적화하여 보정 영상을 생성함으로써, 어안 렌즈를 통해 촬영된 영상과 실제 촬영 대상과의 차이를 최소화할 수 있어 보다 더 현실감 있는 영상 제공할 수 있는 효과를 발생하는 유용한 발명으로, 이를 통해 서비스 산업의 발전에 이바지할 수 있다.The present invention relates to a distortion image correction method and, more particularly, to a method and an apparatus for correcting distortion by optimizing a nonlinear region of an image photographed through a fisheye lens to generate a corrected image, This is a useful invention that generates effects that can provide a more realistic image, thereby contributing to the development of the service industry.

100: 카메라 200: 왜곡 영상 보정 장치 210: 영상 수집 모듈
220: 영상 처리 모듈 221: 영상 전처리부
222: 파라미터 산출부 223: 보정 영상 생성부
230: 영상 출력 모듈 240: 영상 저장 모듈
300: 영상 출력 장치
100: camera 200: distortion image correction device 210: image acquisition module
220: image processing module 221: image preprocessing unit
222: parameter calculating unit 223:
230: video output module 240: video storage module
300: Video output device

Claims (11)

하나 이상의 카메라로부터 촬영된 영상이 입력되면, 상기 입력 영상의 장축 및 단축 비율을 조정하는 영상 전처리부;
상기 영상 전처리부를 통해 조정된 영상이 인가되면, 상기 조정 영상의 비선형 영역을 최적화하기 위한 카메라 파라미터를 산출하는 파라미터 산출부; 및
상기 조정 영상에서 상기 산출된 카메라 파라미터를 이용하여 보정 영상을 생성하는 보정 영상 생성부;
를 포함하는 것을 특징으로 하는 왜곡 영상 보정 장치.
An image preprocessing unit for adjusting a long axis and a short axis ratio of the input image when an image photographed from one or more cameras is input;
A parameter calculation unit for calculating a camera parameter for optimizing a non-linear region of the adjustment image when the adjusted image is applied through the image preprocessing unit; And
A corrected image generating unit for generating a corrected image using the calculated camera parameters in the adjusted image;
And a distortion correcting unit for correcting distortion of the input image.
제1 항에 있어서,
상기 영상 전처리부는
상기 입력 영상의 특징점을 추출한 후 상기 특징점을 연결한 영역의 장축 및 단축 길이를 확인한 후, 상기 장축 및 단축 길이를 이용하여 스케일링 인자를 산출한 후 상기 입력 영상에 적용하여 입력 영상의 장축 및 단축 비율을 조정하는 것을 특징으로 하는 왜곡 영상 보정 장치.
The method according to claim 1,
The image preprocessing unit
After calculating the scaling factor using the long axis and the short axis length after extracting the minutiae points of the input image and confirming the long axis and the short axis length of the area connecting the minutiae points and then applying the scaling factor to the input image, And the distortion correction unit corrects the distorted image.
제1 항에 있어서,
상기 파라미터 산출부는
상기 영상 전처리부를 통해 산출된 특징점을 이용하여 기 정의된 함수의 값이 최소화되도록 카메라 파라미터를 산출하는 것을 특징으로 하는 왜곡 영상 보정 장치.
The method according to claim 1,
The parameter calculation unit
Wherein the camera parameter is calculated so that a value of a predefined function is minimized by using the feature point calculated through the image preprocessing unit.
제3 항에 있어서,
상기 카메라 파라미터는
상기 카메라에 구비된 렌즈의 초점 거리(focal length), 화각(Field of View), 휘어짐의 정도(skew vector)에 대한 파라미터 중 어느 하나의 파라미터를 포함하는 내부 파라미터와 상기 카메라의 회전, 이동 중 어느 하나의 파라미터를 포함하는 외부 파라미터를 포함하는 것을 특징으로 하는 왜곡 영상 보정 장치.
The method of claim 3,
The camera parameters
An internal parameter including one of a focal length, a field of view, and a skew vector of a lens provided in the camera, and an internal parameter including any one of rotation and movement of the camera And an external parameter including one parameter.
제4 항에 있어서,
상기 파라미터 산출부는,
상기 내부 파라미터를 산출하고, 산출된 상기 내부 파라미터와 상기 영상 전처리부를 통해 산출된 특징점을 이용하여 외부 파라미터를 산출하는 것을 특징으로 하는 왜곡 영상 보정 장치.
5. The method of claim 4,
Wherein the parameter calculator comprises:
And calculates the external parameter by using the calculated internal parameter and the feature point calculated through the image preprocessing unit.
제1 항에 있어서,
상기 보정 영상 생성부는,
상기 조정 영상에서 상기 파라미터 산출부를 통해 산출된 카메라 파라미터를 이용하여 왜곡 보정 비율을 산출하여 보정 영상을 생성하되, 상기 조정 영상 중심점을 기준으로 중심점에서의 거리에 따라 왜곡 보정 비율을 조정하여 보정 영상을 생성하는 것을 특징으로 하는 왜곡 영상 보정 장치.
The method according to claim 1,
Wherein the corrected image generating unit comprises:
A correction image is generated by calculating a distortion correction ratio using the camera parameter calculated through the parameter calculation unit in the adjustment image, and the distortion correction ratio is adjusted according to the distance from the center point with respect to the adjustment image center point, And outputs the distorted image.
하나 이상의 카메라로부터 촬영된 영상이 입력되면, 상기 입력 영상의 장축 및 단축 비율을 조정하는 단계;
상기 조정 영상의 비선형 영역을 최적화하기 위한 카메라 파라미터를 산출하는 단계; 및
상기 조정 영상에서 상기 카메라 파라미터를 이용하여 보정 영상을 생성하는 단계;
를 포함하는 것을 특징으로 하는 왜곡 영상 보정 방법.
Adjusting a major axis and a minor axis ratio of the input image when an image photographed from one or more cameras is input;
Calculating a camera parameter for optimizing a non-linear region of the adjusted image; And
Generating a corrected image using the camera parameters in the adjusted image;
And correcting the distorted image.
제7 항에 있어서,
상기 장축 및 단축 비율을 조정하는 단계는
상기 입력 영상의 특징점을 추출하는 단계;
상기 추출된 특징점을 연결한 영역의 장축 및 단축 길이의 비율을 계산하는 단계;
상기 장축 및 단축 길이의 비율을 기초로 스케일링 인자를 산출하는 단계; 및
상기 입력 영상에 상기 스케일링 인자를 적용하여 입력 영상의 장축 및 단축 비율을 조정하는 단계;
를 포함하는 것을 특징으로 하는 왜곡 영상 보정 방법.
8. The method of claim 7,
The step of adjusting the long axis and the short axis ratio
Extracting feature points of the input image;
Calculating a ratio of the long axis and the short axis length of the region connecting the extracted minutiae;
Calculating a scaling factor based on the ratio of the major axis and the minor axis length; And
Adjusting the long axis and the short axis ratio of the input image by applying the scaling factor to the input image;
And correcting the distorted image.
제8 항에 있어서,
상기 카메라 파라미터를 산출하는 단계는
상기 추출된 특징점을 이용하여 기 정의된 함수의 값이 최소화되도록 카메라 파라미터를 산출하는 것을 특징으로 하는 왜곡 영상 보정 방법.
9. The method of claim 8,
The step of calculating the camera parameters
And calculating a camera parameter such that a value of a previously defined function is minimized using the extracted feature points.
제7 항에 있어서,
상기 보정 영상을 생성하는 단계는
상기 카메라 파라미터를 이용하여 왜곡 보정 비율을 산출하는 단계; 및
상기 조정 영상의 중심점을 기준으로 중심점에서의 거리에 따라 왜곡 보정 비율을 조정하여 보정 영상을 생성하는 단계;
를 포함하는 것을 특징으로 하는 왜곡 영상 보정 방법.
8. The method of claim 7,
The step of generating the corrected image
Calculating a distortion correction ratio using the camera parameters; And
Generating a corrected image by adjusting a distortion correction ratio according to a distance from a center point with respect to a center point of the adjusted image;
And correcting the distorted image.
제7 항 내지 제10 항 중 어느 한 항에 기재된 왜곡 영상 보정 방법을 실행하는 프로그램이 기록되어 있는 것을 특징으로 하는 컴퓨터에서 판독 가능한 기록 매체.
A computer-readable recording medium storing a program for executing the distortion image correction method according to any one of claims 7 to 10.
KR1020120119320A 2012-10-25 2012-10-25 Apparatus and method for correcting distored image KR102029335B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020120119320A KR102029335B1 (en) 2012-10-25 2012-10-25 Apparatus and method for correcting distored image

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020120119320A KR102029335B1 (en) 2012-10-25 2012-10-25 Apparatus and method for correcting distored image

Related Child Applications (1)

Application Number Title Priority Date Filing Date
KR1020190120857A Division KR102112784B1 (en) 2019-09-30 2019-09-30 Apparatus and method for correcting distored image

Publications (2)

Publication Number Publication Date
KR20140052769A true KR20140052769A (en) 2014-05-07
KR102029335B1 KR102029335B1 (en) 2019-10-07

Family

ID=50885936

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020120119320A KR102029335B1 (en) 2012-10-25 2012-10-25 Apparatus and method for correcting distored image

Country Status (1)

Country Link
KR (1) KR102029335B1 (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101582348B1 (en) * 2014-08-08 2016-01-05 (주)파크인서울 Method for monitoring parking lot and apparatus thereof
CN110660034A (en) * 2019-10-08 2020-01-07 北京迈格威科技有限公司 Image correction method and device and electronic equipment

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102614494B1 (en) * 2019-02-01 2023-12-15 엘지전자 주식회사 Non-identical camera based image processing device
KR102584209B1 (en) * 2022-10-27 2023-10-04 상명대학교산학협력단 3d reconstruction method of integrated image using concave lens array

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20090078463A (en) * 2008-01-15 2009-07-20 주식회사 이미지넥스트 Distorted image correction apparatus and method
KR101053506B1 (en) * 2009-12-16 2011-08-03 (주) 에투시스템 Method for adjusting parameters in distortion calibration of image acquired by camera having fish eye lens

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20090078463A (en) * 2008-01-15 2009-07-20 주식회사 이미지넥스트 Distorted image correction apparatus and method
KR101053506B1 (en) * 2009-12-16 2011-08-03 (주) 에투시스템 Method for adjusting parameters in distortion calibration of image acquired by camera having fish eye lens

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101582348B1 (en) * 2014-08-08 2016-01-05 (주)파크인서울 Method for monitoring parking lot and apparatus thereof
CN110660034A (en) * 2019-10-08 2020-01-07 北京迈格威科技有限公司 Image correction method and device and electronic equipment

Also Published As

Publication number Publication date
KR102029335B1 (en) 2019-10-07

Similar Documents

Publication Publication Date Title
US11948282B2 (en) Image processing apparatus, image processing method, and storage medium for lighting processing on image using model data
US10304164B2 (en) Image processing apparatus, image processing method, and storage medium for performing lighting processing for image data
US8189960B2 (en) Image processing apparatus, image processing method, program and recording medium
US8224069B2 (en) Image processing apparatus, image matching method, and computer-readable recording medium
EP2437494B1 (en) Device for monitoring area around vehicle
US8272748B2 (en) Projection-type display apparatus and method for performing projection adjustment
CN107948517B (en) Preview picture blurring processing method, device and equipment
KR101987634B1 (en) Method and Apparatus for Compensating Camera Tolerance and Around View Monitoring System Using the Same
EP2381673A1 (en) Obstacle detection display device
JP6577703B2 (en) Image processing apparatus, image processing method, program, and storage medium
WO2018235163A1 (en) Calibration device, calibration chart, chart pattern generation device, and calibration method
KR20090087638A (en) Apparatus and method for matching color image and depth image
US20150178595A1 (en) Image processing apparatus, imaging apparatus, image processing method and program
WO2013105381A1 (en) Image processing method, image processing apparatus, and image processing program
KR101705558B1 (en) Top view creating method for camera installed on vehicle and AVM system
KR100948872B1 (en) Camera image correction method and apparatus
KR20150031085A (en) 3D face-modeling device, system and method using Multiple cameras
JPWO2017187694A1 (en) Attention area image generation device
CN109559353A (en) Camera module scaling method, device, electronic equipment and computer readable storage medium
KR20140052769A (en) Apparatus and method for correcting distored image
KR102650217B1 (en) Method for providing image and electronic device for supporting the same
KR20110116387A (en) Image pickup device and image distortion correction method
JP6513941B2 (en) Image processing method, image processing apparatus and program
KR102177878B1 (en) Apparatus and method for processing image
KR101726692B1 (en) Apparatus and method for extracting object

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
A107 Divisional application of patent
GRNT Written decision to grant