KR102112784B1 - Apparatus and method for correcting distored image - Google Patents
Apparatus and method for correcting distored image Download PDFInfo
- Publication number
- KR102112784B1 KR102112784B1 KR1020190120857A KR20190120857A KR102112784B1 KR 102112784 B1 KR102112784 B1 KR 102112784B1 KR 1020190120857 A KR1020190120857 A KR 1020190120857A KR 20190120857 A KR20190120857 A KR 20190120857A KR 102112784 B1 KR102112784 B1 KR 102112784B1
- Authority
- KR
- South Korea
- Prior art keywords
- image
- distortion
- correction
- parameter
- adjusted
- Prior art date
Links
- 238000000034 method Methods 0.000 title claims abstract description 31
- 238000003702 image correction Methods 0.000 claims abstract description 40
- 238000007781 pre-processing Methods 0.000 claims abstract description 22
- 238000012937 correction Methods 0.000 claims description 39
- 238000004364 calculation method Methods 0.000 claims description 9
- 238000001914 filtration Methods 0.000 claims 1
- 238000012545 processing Methods 0.000 description 15
- 230000006870 function Effects 0.000 description 5
- 230000003287 optical effect Effects 0.000 description 5
- 239000011159 matrix material Substances 0.000 description 4
- 238000010586 diagram Methods 0.000 description 3
- 230000005855 radiation Effects 0.000 description 3
- 241000282472 Canis lupus familiaris Species 0.000 description 2
- 230000003247 decreasing effect Effects 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000000605 extraction Methods 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 238000012546 transfer Methods 0.000 description 2
- 241000251468 Actinopterygii Species 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 230000002542 deteriorative effect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
- 230000001131 transforming effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/80—Geometric correction
-
- G06T5/006—
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Geometry (AREA)
- Image Processing (AREA)
- Studio Devices (AREA)
Abstract
본 발명은 왜곡 영상 보정에 관한 것으로서, 특히 어안 렌즈를 통해 촬영된 영상의 비선형 영역을 최적화하여 보정 영상을 생성함으로써, 어안 렌즈를 통해 촬영된 영상과 실제 촬영 대상과의 차이를 최소화할 수 있어 보다 더 현실감 있는 영상 제공이 가능한 왜곡 영상 보정 장치 및 방법에 관한 것이다.
이를 위한 본 발명의 실시 예에 따른 왜곡 영상 보정 장치는 하나 이상의 카메라로부터 촬영된 영상이 입력되면, 상기 입력 영상의 장축 및 단축 비율을 조정하는 영상 전처리부, 상기 영상 전처리부를 통해 조정된 영상이 인가되면, 상기 조정 영상의 비선형 영역을 최적화하기 위한 카메라 파라미터를 산출하는 파라미터 산출부 및 상기 조정 영상에서 상기 산출된 카메라 파라미터를 이용하여 보정 영상을 생성하는 보정 영상 생성부를 포함하여 구성될 수 있다.The present invention relates to distortion image correction, in particular, by optimizing the nonlinear region of the image taken through the fisheye lens to generate a corrected image, it is possible to minimize the difference between the image taken through the fisheye lens and the actual shooting object. It relates to a distortion image correction apparatus and method capable of providing a more realistic image.
For this, in the distortion image correction apparatus according to an embodiment of the present invention, when an image photographed from one or more cameras is input, an image pre-processing unit that adjusts a long and short ratio of the input image is applied, and an image adjusted through the image pre-processing unit is applied. When there is, it may be configured to include a parameter calculating unit for calculating a camera parameter for optimizing the nonlinear region of the adjusted image and a corrected image generating unit for generating a corrected image using the calculated camera parameter from the adjusted image.
Description
본 발명은 왜곡 영상 보정에 관한 것으로서, 특히 어안 렌즈를 통해 촬영된 영상의 비선형 영역을 최적화하여 보정 영상을 생성함으로써, 어안 렌즈를 통해 촬영된 영상과 실제 촬영 대상과의 차이를 최소화할 수 있어 보다 더 현실감 있는 영상 제공이 가능한 왜곡 영상 보정 장치 및 방법에 관한 것이다.The present invention relates to distortion image correction, in particular, by optimizing the nonlinear region of the image taken through the fisheye lens to generate a corrected image, it is possible to minimize the difference between the image taken through the fisheye lens and the actual shooting object. It relates to a distortion image correction apparatus and method capable of providing a more realistic image.
이 부분에 기술된 내용은 단순히 본 실시예에 대한 배경 정보를 제공할 뿐 종래기술을 구성하는 것은 아니다.The contents described in this section merely provide background information for this embodiment, and do not constitute a prior art.
일반적으로 어안 렌즈는 주차의 도움을 주기 위해 차량의 후방에 설치된 카메라 또는 영상보안감시 카메라 등에 포함되어 주변 영상을 촬영하는데 이용될 수 있다. 이러한 어안 렌즈는 180도 이상의 영역을 획득할 수 있어 최소의 카메라로 최대의 시야 각을 확보할 수 있으며, 의도적으로 통모양의 왜곡을 생기게 하여 180도 이상의 화각 전면에 걸쳐 균일한 밝기와 선예도를 유지할 수 있도록 구성될 수 있다. 이에 따라 어안 렌즈를 통해 광역의 영상을 획득할 수 있게 되었다. In general, a fisheye lens may be included in a camera installed at the rear of a vehicle or a video surveillance camera to assist in parking, and may be used to photograph surrounding images. Such a fisheye lens can acquire an area of 180 degrees or more, thereby ensuring a maximum viewing angle with a minimum camera, and intentionally creating a distortion of a barrel to maintain uniform brightness and sharpness over the entire view angle of 180 degrees or more. Can be configured to. Accordingly, it is possible to acquire a wide area image through a fish-eye lens.
그러나 어안 렌즈에서 렌즈 중심점부에 잡히는 피사체는 극단적으로 크게 촬영되고, 주변의 배경은 아주 작게 촬영되게 된다. 때문에 어안 렌즈를 통해 촬영된 영상은 심한 왜곡이 발생하므로 실제 촬영 대상과 차이가 발생하게 되어 현실감을 떨어지는 문제점이 있다. However, in the fish-eye lens, the subject caught in the center of the lens is photographed extremely large, and the surrounding background is photographed very small. Therefore, the image photographed through the fish-eye lens has severe distortion, and thus a difference from the actual photographing object is generated, thereby deteriorating the sense of reality.
따라서, 이러한 어안 렌즈를 통해 촬영된 영상의 왜곡을 보정하기 위한 다양한 기술들이 개발되고 있으나, 아직까지, 영상의 모서리 부분 등과 영상 내 존재하는 비선형적인 부분을 최적화하여 보정할 수 있는 기술은 없다.Accordingly, various techniques have been developed to correct distortion of an image photographed through such a fish-eye lens, but so far, there is no technique capable of optimizing and correcting a non-linear portion present in an image such as a corner portion of the image.
본 발명은 종래의 불편함을 해소하기 위하여 제안된 것으로서, 어안 렌즈를 통해 촬영된 영상의 비선형 영역을 최적화하여 보정 영상을 생성함으로써, 어안 렌즈를 통해 촬영된 영상과 실제 촬영 대상과의 차이를 최소화할 수 있는 왜곡 영상 보정 장치 및 방법을 제공하는 데 목적이 있다.The present invention is proposed to solve the conventional discomfort, and by optimizing the nonlinear region of the image taken through the fisheye lens to generate a corrected image, minimizing the difference between the image taken through the fisheye lens and the actual shooting object An object of the present invention is to provide an apparatus and method for correcting distorted images.
이를 위해, 본 발명은 촬영된 영상의 비선형 영역을 최적화할 수 있는 카메라 파라미터를 산출 과정을 이원화함으로써, 연산에 소요되는 시간을 줄일 수 있으며, 상기 카메라 파라미터를 이용하여 산출된 왜곡 보정 비율을 유기적으로 영상에 적용함으로써, 보다 정확한 보정 영상을 생성할 수 있는 왜곡 영상 보정 장치 및 방법을 제공하는 데 그 목적이 있다.To this end, the present invention can reduce the time required for calculation by dividing the calculation process of a camera parameter capable of optimizing the nonlinear region of the captured image, and organically adjust the distortion correction ratio calculated using the camera parameter. It is an object of the present invention to provide a distortion image correction apparatus and method capable of generating a more accurate correction image by applying it to an image.
상술한 바와 같은 과제를 해결하기 위한 본 발명의 바람직한 실시예에 따른 왜곡 영상 보정 장치는 하나 이상의 카메라로부터 촬영된 영상이 입력되면, 상기 입력 영상의 장축 및 단축 비율을 조정하는 영상 전처리부; 상기 영상 전처리부를 통해 조정된 영상이 인가되면, 상기 조정 영상의 비선형 영역을 최적화하기 위한 카메라 파라미터를 산출하는 파라미터 산출부; 및 상기 조정 영상에서 상기 산출된 카메라 파라미터를 이용하여 보정 영상을 생성하는 보정 영상 생성부;를 포함하여 구성될 수 있다.Distorted image correction apparatus according to a preferred embodiment of the present invention for solving the above-described problems, when an image photographed from one or more cameras is input, an image pre-processing unit for adjusting the long and short axis ratio of the input image; A parameter calculator configured to calculate a camera parameter for optimizing a nonlinear region of the adjusted image when the adjusted image is applied through the image preprocessing unit; And a corrected image generator that generates a corrected image using the calculated camera parameters from the adjusted image.
이때, 상기 영상 전처리부는 상기 입력 영상의 특징점을 추출한 후 상기 특징점을 연결한 영역의 장축 및 단축 길이를 확인한 후, 상기 장축 및 단축 길이를 이용하여 스케일링 인자를 산출한 후 상기 입력 영상에 적용하여 입력 영상의 장축 및 단축 비율을 조정할 수 있다.At this time, after extracting the feature points of the input image, the image pre-processing unit checks the long and short lengths of the region to which the feature points are connected, calculates a scaling factor using the long and short lengths, and applies them to the input image and inputs them. You can adjust the long and short video ratio.
또한, 상기 파라미터 산출부는 상기 영상 전처리부를 통해 산출된 특징점을 이용하여 기 정의된 함수의 값이 최소화되도록 카메라 파라미터를 산출할 수 있다.In addition, the parameter calculator may calculate camera parameters so that a value of a predefined function is minimized by using feature points calculated through the image preprocessor.
이때, 상기 카메라 파라미터는 상기 카메라에 구비된 렌즈의 초점 거리(focal length), 화각(Field of View), 휘어짐의 정도(skew vector)에 대한 파라미터 중 어느 하나의 파라미터를 포함하는 내부 파라미터와 상기 카메라의 회전, 이동 중 어느 하나의 파라미터를 포함하는 외부 파라미터를 포함하여 구성될 수 있다.At this time, the camera parameters include an internal parameter including any one of parameters for a focal length, a field of view, and a skew vector of a lens provided in the camera and the camera. It may be configured to include an external parameter including any one of the rotation and movement parameters.
또한, 상기 파라미터 산출부는, 상기 내부 파라미터를 산출하고, 산출된 상기 내부 파라미터와 상기 영상 전처리부를 통해 산출된 특징점을 이용하여 외부 파라미터를 산출할 수 있다.In addition, the parameter calculating unit may calculate the internal parameter, and calculate an external parameter using the calculated internal parameter and feature points calculated through the image preprocessing unit.
또한, 상기 보정 영상 생성부는, 상기 조정 영상에서 상기 파라미터 산출부를 통해 산출된 카메라 파라미터를 이용하여 왜곡 보정 비율을 산출하여 보정 영상을 생성하되, 상기 조정 영상 중심점을 기준으로 중심점에서의 거리에 따라 왜곡 보정 비율을 조정하여 보정 영상을 생성할 수 있다.In addition, the corrected image generation unit generates a corrected image by calculating a distortion correction ratio using the camera parameter calculated through the parameter calculation unit in the adjusted image, but is distorted according to the distance from the center point based on the adjusted image center point. A correction image may be generated by adjusting a correction ratio.
상술한 바와 같은 과제를 해결하기 위한 본 발명의 바람직한 실시예에 따른 왜곡 영상 보정 방법은 하나 이상의 카메라로부터 촬영된 영상이 입력되면, 상기 입력 영상의 장축 및 단축 비율을 조정하는 단계; 상기 조정 영상의 비선형 영역을 최적화하기 위한 카메라 파라미터를 산출하는 단계; 및 상기 조정 영상에서 상기 카메라 파라미터를 이용하여 보정 영상을 생성하는 단계;를 포함하여 이뤄질 수 있다.A method of correcting a distorted image according to a preferred embodiment of the present invention for solving the above-described problem may include adjusting a long axis and a shortened ratio of the input image when an image captured from one or more cameras is input; Calculating camera parameters for optimizing the nonlinear region of the adjusted image; And generating a corrected image using the camera parameter from the adjusted image.
여기서, 상기 장축 및 단축 비율을 조정하는 단계는 상기 입력 영상의 특징점을 추출하는 단계; 상기 추출된 특징점을 연결한 영역의 장축 및 단축 길이의 비율을 계산하는 단계; 상기 장축 및 단축 길이의 비율을 기초로 스케일링 인자를 산출하는 단계; 및 상기 입력 영상에 상기 스케일링 인자를 적용하여 입력 영상의 장축 및 단축 비율을 조정하는 단계;를 포함하여 이뤄질 수 있다.Here, adjusting the long axis and short axis ratio may include extracting feature points of the input image; Calculating a ratio of a long axis and a short axis length of the region connecting the extracted feature points; Calculating a scaling factor based on the ratio of the long axis and the short axis length; And adjusting the long and short axis ratios of the input image by applying the scaling factor to the input image.
또한, 상기 카메라 파라미터를 산출하는 단계는 상기 추출된 특징점을 이용하여 기 정의된 함수의 값이 최소화되도록 카메라 파라미터를 산출할 수 있다.In addition, in the calculating of the camera parameters, the camera parameters may be calculated to minimize the value of a predefined function using the extracted feature points.
또한, 상기 보정 영상을 생성하는 단계는 상기 카메라 파라미터를 이용하여 왜곡 보정 비율을 산출하는 단계; 및 상기 조정 영상의 중심점을 기준으로 중심점에서의 거리에 따라 왜곡 보정 비율을 조정하여 보정 영상을 생성하는 단계;를 포함하여 이뤄질 수 있다.In addition, generating the corrected image may include calculating a distortion correction ratio using the camera parameter; And adjusting the distortion correction ratio according to the distance from the center point based on the center point of the adjusted image to generate a corrected image.
아울러, 본 발명은 상술한 왜곡 영상 보정 방법을 실행하는 프로그램이 기록되어 있는 것을 특징으로 하는 컴퓨터에서 판독 가능한 기록 매체를 더 제공할 수 있다.In addition, the present invention can further provide a computer-readable recording medium, characterized in that a program for executing the above-described distortion image correction method is recorded.
본 발명의 왜곡 영상 보정 장치 및 방법에 의하면, 카메라의 어안 렌즈를 통해 촬영된 영상의 장축 및 단축 길이의 비율을 일치시키고, 카메라에 대한 파라미터 값을 계산하고, 계산된 파라미터 값을 이용하여 비율을 일치시킨 영상의 비선형 영역을 최적화하여 보정 영상을 생성함으로써, 어안 렌즈의 넓은 시야각을 사용함에 따라 최대의 시야 각을 확보할 수 있게 된다.According to the distortion image correction apparatus and method of the present invention, the ratio of the long and short axis lengths of an image photographed through a fish-eye lens of a camera is matched, a parameter value for the camera is calculated, and the ratio is calculated using the calculated parameter value. By optimizing the nonlinear region of the matched image to generate a corrected image, it is possible to secure a maximum viewing angle by using a wide viewing angle of a fish-eye lens.
이로 인해, 어안 렌즈를 이용하여 촬영한 영상과 실제 촬영 대상과의 차이를 최소화함으로써 현실감 있는 영상의 제공이 가능하고, 이를 적용한 주차 보조 시스템에서 최소의 카메라로 최대의 시야 각을 확보할 수 있어, 더욱 정확한 정보를 사용자에게 제공할 수 있는 효과가 있다.Due to this, it is possible to provide a realistic image by minimizing the difference between the image taken using the fisheye lens and the actual shooting object, and it is possible to secure the maximum viewing angle with the smallest camera in the parking assist system to which it is applied, There is an effect that can provide more accurate information to the user.
도 1은 본 발명의 실시 예에 따른 영상 처리 시스템의 구성을 도시한 도면이다.
도 2는 본 발명의 실시 예에 따른 왜곡 영상 보정 장치의 구성을 도시한 도면이다.
도 3은 본 발명의 실시 예에 따른 FOV 모델을 설명하기 위한 예시도이다.
도 4는 본 발명의 실시 예에 따른 입력 영상의 장축 및 단축 비율을 조절하는 과정을 설명하기 위한 예시도이다.
도 5는 본 발명의 실시 예에 따른 실세계 좌표계와 카메라 좌표계를 설명하기 위한 예시도이다.
도 6은 본 발명의 실시 예에 따른 1단계 및 2단계로 구성되는 카메라 파라미터를 산출하는 과정을 설명하기 위한 흐름도이다.
도 7은 본 발명의 실시 예에 따른 왜곡 영상 보정 방법을 설명하기 위한 흐름도이다.
도 8 및 도 9는 본 발명의 실시 예에 따른 입력 영상과 보정 영상에 대한 예시도이다.1 is a view showing the configuration of an image processing system according to an embodiment of the present invention.
2 is a view showing the configuration of a distortion image correction apparatus according to an embodiment of the present invention.
3 is an exemplary diagram for describing an FOV model according to an embodiment of the present invention.
4 is an exemplary diagram for explaining a process of adjusting a long axis and a short axis ratio of an input image according to an embodiment of the present invention.
5 is an exemplary view for explaining a real-world coordinate system and a camera coordinate system according to an embodiment of the present invention.
6 is a flowchart for explaining a process of calculating camera parameters composed of steps 1 and 2 according to an embodiment of the present invention.
7 is a flowchart illustrating a distortion image correction method according to an embodiment of the present invention.
8 and 9 are exemplary views of an input image and a corrected image according to an embodiment of the present invention.
이하, 본 발명의 바람직한 실시 예를 첨부한 도면을 참조하여 상세히 설명한다. 다만, 하기의 설명 및 첨부된 도면에서 본 발명의 요지를 흐릴 수 있는 공지 기능 또는 구성에 대한 상세한 설명은 생략한다. 또한, 도면 전체에 걸쳐 동일한 구성 요소들은 가능한 한 동일한 도면 부호로 나타내고 있음에 유의하여야 한다.Hereinafter, preferred embodiments of the present invention will be described in detail with reference to the accompanying drawings. However, in the following description and accompanying drawings, detailed descriptions of well-known functions or configurations that may obscure the subject matter of the present invention are omitted. In addition, it should be noted that the same components throughout the drawings are denoted by the same reference numerals as much as possible.
이하에서 설명되는 본 명세서 및 청구범위에 사용된 용어나 단어는 통상적이거나 사전적인 의미로 한정해서 해석되어서는 아니 되며, 발명자는 그 자신의 발명을 가장 최선의 방법으로 설명하기 위한 용어의 개념으로 적절하게 정의할 수 있다는 원칙에 입각하여 본 발명의 기술적 사상에 부합하는 의미와 개념으로 해석되어야만 한다. 따라서 본 명세서에 기재된 실시 예와 도면에 도시된 구성은 본 발명의 가장 바람직한 일 실시 예에 불과할 뿐이고, 본 발명의 기술적 사상을 모두 대변하는 것은 아니므로, 본 출원시점에 있어서 이들을 대체할 수 있는 다양한 균등물과 변형 예들이 있을 수 있음을 이해하여야 한다.The terms or words used in the present specification and claims described below should not be construed as being limited to ordinary or dictionary meanings, and the inventor is appropriate as a concept of terms for explaining his or her invention in the best way. Based on the principle that it can be defined, it should be interpreted as meanings and concepts consistent with the technical spirit of the present invention. Therefore, the configuration shown in the embodiments and drawings described in this specification is only one of the most preferred embodiments of the present invention, and does not represent all of the technical spirit of the present invention, and can replace them at the time of this application. It should be understood that there may be equivalents and variations.
우선, 본 발명의 실시예에 따른 영상 처리 시스템에 대해 첨부된 도면을 참조하여 구체적으로 설명하기로 한다. First, an image processing system according to an embodiment of the present invention will be described in detail with reference to the accompanying drawings.
도 1은 본 발명의 실시예에 따른 영상 처리 시스템의 구성을 도시한 도면이다. 1 is a view showing the configuration of an image processing system according to an embodiment of the present invention.
도 1을 참조하면, 영상 처리 시스템은 하나 이상의 카메라(100), 왜곡 영상 보정 장치(200) 및 영상 출력 장치(300)를 포함하여 구성할 수 있다. Referring to FIG. 1, an image processing system may include one or
하나 이상의 카메라(100)는 광역의 영상을 획득할 수 있는 장치로, 바람직하게는 180°이상의 화각을 가지는 초광각 렌즈인 어안 렌즈(fish eye lens)를 포함하여 구성될 수 있다. 이러한 어안 렌즈를 포함하는 카메라(100)는 차량의 주차 지원을 위해 차량 후방에 설치될 수 있으며, 전방을 향해 운전하는 운전자에게 차량 후방의 영상 및 사각지대 영상을 제공할 수 있다.The one or
이때, 어안 렌즈를 포함하는 카메라(100)는 3차원의 영상을 2차원의 영상으로 획득하게 되는데, 이때 획득된 영상은 심한 왜곡을 가지게 되는 데, 예컨대 렌즈 중심점을 기준으로 방사상으로 왜곡이 확장되거나 축소되는 방사 왜곡(radial distortion)이 있을 수 있다. At this time, the
이러한 방사 왜곡의 예는 도 8에 도시되어 있으며, 도 8에 도시된 바와 같이, 렌즈 중심점의 피사체들은 극단적으로 크게 찍히게 되고, 주변의 피사체들은 렌즈 중심점의 피사체에 비해 아주 작게 찍히게 된다.An example of such radiation distortion is illustrated in FIG. 8, and as illustrated in FIG. 8, subjects at the lens center point are taken extremely large, and surrounding subjects are taken at a very small size compared to the object at the lens center point.
왜곡 영상 보정 장치(200)는 하나 이상의 카메라(100)로부터 촬영된 영상이 입력되면, 입력 영상을 보정하여 보정 영상을 생성하게 된다. 특히 본 발명의 왜곡 영상 보정 장치(200)는 입력된 영상의 장축 및 단축 비율을 조정한 후 조정 영상의 비선형 영역을 최적화하기 위한 카메라 파라미터를 산출한 후, 이를 이용하여 보정 영상을 생성하게 된다.When the image captured by the one or
이때, 보정 영상 생성 시 왜곡 보정 비율을 조정하여 영상을 보정할 수 있는데, 최대 시야각의 영상 손실 없이 사용자가 인지할 수 있도록 하기 위해, 영상의 중심점을 기준으로 중심점에서의 거리에 따라 왜곡 보정 비율을 달리함으로써 보정 영상을 생성할 수 있다.At this time, when generating a corrected image, the image can be corrected by adjusting the distortion correction ratio. In order to enable the user to recognize the image without losing the maximum viewing angle, the distortion correction ratio is adjusted according to the distance from the center point based on the center point of the image. By differently, a corrected image can be generated.
이러한 왜곡 영상 보정 장치(200)는 예를 들어, 차량의 주/정차 시에 최소의 카메라로 최대의 시야 각을 확보하여 차량의 전후 좌우의 실시간 장애물 확인 및 주차를 위해, 차량에 설치되는 어안 렌즈를 포함하는 카메라로부터 영상을 제공 받아 어안 렌즈의 특성으로 인한 촬영된 영상의 방사왜곡을 보정할 수 있다. The distortion
영상 출력 장치(300)는 왜곡 영상 보정 장치(200)에서 보정된 영상을 사용자에게 제공할 수 있는 장치로, 예를 들어, 차량에 별도로 설치된 디스플레이 장치, 차량 네비게이션 또는 단말 장치 등이 이에 해당될 수 있다. The
본 발명의 일 실시 예에 따른 왜곡 영상 보정 장치는 어안 렌즈를 이용하여 촬영된 영상의 왜곡을 보정하는 것을 예로 들어 설명하였으나, 이에 한정되는 것은 아니며, 광역의 영상을 촬영할 수 있는 렌즈라면, 그 어떠한 렌즈도 본 발명에 적용 가능하다. The distortion image correcting apparatus according to an embodiment of the present invention has been described as an example of correcting distortion of an image photographed using a fisheye lens, but is not limited thereto, and any lens that can photograph a wide area image The lens is also applicable to the present invention.
또한, 상술한 카메라(100), 왜곡 영상 보정 장치(200) 및 영상 출력 장치(300)는 각각 독립적으로 구현되어 유선 또는 무선을 통해 연결될 수 있다.In addition, the above-described
또한, 왜곡 영상 보정 장치(200)는 상기 카메라(100)에 내장되는 형태로 구현되거나, 영상 출력 장치(300)에 내장되는 형태로 구현될 수 있으며, 상기 카메라(100)와 왜곡 영상 보정 장치(200)와 영상 출력 장치(300)가 하나의 장치로 구현될 수도 있다.In addition, the distortion
이하, 본 발명의 실시 예에 따른 왜곡 영상 보정 장치(200)의 주요 구성 및 동작 방법에 대해 설명하도록 한다.Hereinafter, the main configuration and operation method of the distortion
도 2는 본 발명의 실시 예에 따른 영상 처리 시스템에서의 왜곡 영상 보정 장치의 주요 구성을 도시한 블록도이다.2 is a block diagram showing a main configuration of a distortion image correction apparatus in an image processing system according to an embodiment of the present invention.
도 1 및 도 2를 참조하면, 본 발명의 실시 예에 따른 왜곡 영상 보정 장치(200)는 영상 수집 모듈(210), 영상 처리 모듈(220), 영상 출력 모듈(230) 및 영상 저장 모듈(240)을 포함하여 구성될 수 있다.1 and 2, the distortion
각 구성 요소에 대해 보다 구체적으로 설명하면, 먼저, 영상 수집 모듈(210)은 하나 이상의 카메라(100)를 통해 촬영된 영상을 수집하는 역할을 수행하게 된다. 특히, 본 발명의 영상 수집 모듈(210)은 어안 렌즈를 포함하는 카메라(100)를 통해 촬영된 영상을 수집하게 되는 데, 어안 렌즈를 포함하는 카메라(100)를 통해 촬영된 영상은 상술한 바와 같이 방사 왜곡을 가지게 된다.When describing each component in more detail, first, the
즉, FOV 모델은 도 3에 도시된 바와 같이, 영상의 중심점 C에서 영상 평면상의 한 점 m 사이의 거리는 대응되는 3차원 상의 한 점 M과 광축(Cz)이 이루는 각도와 비례한다고 가정하는 것으로, FOV 모델의 왜곡 함수는 <수학식 1>과 같이 정의될 수 있다.That is, as shown in FIG. 3, the FOV model assumes that the distance between the center point C of the image and one point m on the image plane is proportional to the angle between the corresponding three-dimensional point M and the optical axis Cz, The distortion function of the FOV model can be defined as <Equation 1>.
여기서, 는 왜곡된 거리를 나타내며, 는 렌즈의 왜곡이 없는 경우, 영상 중심에서 해당 픽셀까지의 거리를 나타낸다. 즉, 영상 중심에서 해당 픽셀까지의 거리 는 상기의 <수학식 1>에 의해 왜곡되어 왜곡된 거리 가 산출되는 것이며, 이때의 는 어안 렌즈의 화각으로, 카메라 내부 파라미터가 된다. 이상적인 는 1의 값을 가질 수 있다.here, Denotes a distorted distance, Indicates the distance from the center of the image to the corresponding pixel when there is no distortion of the lens. That is, the distance from the center of the image to the corresponding pixel Is the distance distorted and distorted by Equation 1 above. Is calculated, Is the angle of view of the fish-eye lens, and is a parameter inside the camera. ideal May have a value of 1.
이러한 영상 수집 모듈(210)은 아날로그 형태로 수집되는 영상을, 예를 들어, 30frame/s의 속도로 디지털화할 수 있으며, 이렇게 디지털화된 영상을 영상 처리 모듈(220)로 전송할 수 있다.The
영상 처리 모듈(220)은 영상 수집 모듈(210)을 통해 수집된 영상의 왜곡을 보정하여 보정 영상을 생성하는 것으로, 특히, 본 발명의 영상 처리 모듈(220)은 왜곡 영상의 비선형 영역을 최적화하기 위한 카메라 파라미터를 산출한 후, 산출된 상기 카메라 파라미터를 기초로 왜곡 보정 비율을 산출하고, 상기 수집된 영상에 왜곡 보정 비율을 적용하여 보정 영상을 생성하게 된다.The
이를 위해 본 발명의 영상 처리 모듈(220)은 영상 전처리부(221), 파라미터 산출부(222) 및 보정 영상 생성부(223)를 포함하여 구성될 수 있다.To this end, the
이에 대해 보다 구체적으로 설명하면, 영상 전처리부(221)는 왜곡 영상의 보정을 하기 전, 영상 수집 모듈(210)을 통해 수집된 영상의 장축 및 단축 비율을 일치시키는 역할을 수행한다. In more detail, the
보다 구체적으로 설명하면, 어안 렌즈는 일반적으로 수직 화각보다 수평 화각이 더 크게 설계되었기 때문에 영상의 보정 이전 단계에서 영상의 장축 및 단축 비율을 일치시키는 과정이 필요하다. 이를 위해 영상 전처리부(212)는 타원체 적합화(ellipse-fitting) 알고리즘을 사용하여 스케일링 인자를 계산하고, 이를 특징점 좌표 변환에 적용하여 비율을 일치시킨다. More specifically, since the fisheye lens is generally designed to have a larger horizontal angle of view than a vertical angle of view, a process of matching the long and short axis ratios of the image is necessary in a step prior to image correction. To this end, the image preprocessor 212 uses an ellipse-fitting algorithm to scale factors. Is calculated and applied to the feature point coordinate transformation to match the ratio.
즉, 어안 렌즈를 통해 촬영된 영상은 도 4에 도시된 바와 같이, 영상이 촬영된 영역 및 주변 영역으로 구분할 수 있는 데, 영상이 촬영된 영역에서 특정 개수의 특징점, 예컨대 6개의 특징점을 추출하고, 이를 연결하게 되면, 일정 영역, 즉 타원체를 구할 수 있다. 여기서, 특징점을 추출하는 과정은 공지된 다양한 기술들이 적용될 수 있다.That is, as shown in FIG. 4, an image photographed through a fish-eye lens may be divided into a region in which an image is photographed and a peripheral region. In a region where an image is photographed, a specific number of feature points, for example, six feature points are extracted and , When this is connected, a certain area, that is, an ellipsoid can be obtained. Here, a variety of known techniques can be applied to the process of extracting the feature points.
이후, 상기 타원체의 장축() 및 단축()의 길이를 하기 <수학식 2>에 적용하여 스케일링 인자 를 계산하게 된다.Then, the long axis of the ellipsoid ( ) And shortened ( ) By applying the length to <Equation 2> below. Will calculate
여기서, 입력 영상의 장축 및 단축 길이의 비율을 일치시킨 조정 영상은 임의적으로 펴진 상태이므로 영상의 모서리(외곽선) 부분은 비선형의 형태를 띄게 된다.Here, since the adjusted image in which the ratio of the long axis and the short axis length of the input image is matched is randomly stretched, the edge (outer line) portion of the image has a non-linear shape.
이러한 입력 영상의 장축 및 단축 길이의 비율을 일치시킨 조정 영상을 영상 전처리부(221)는 파라미터 산출부(222)로 전달하게 된다.The
또한, 본 발명의 영상 전처리부(221)는 상술한 바와 같은 영상의 장축 및 단축 길이의 비율을 일치시키는 역할 이외에도, 노이즈 제거 등의 다양한 영상 전처리를 수행할 수 있다.In addition, the
예를 들어, 영상 전처리부(221)는 640*480 해상도의 8bit 컬러, RGB 세 개의 채널로 이루어진 영상을 수신하게 되면, 수신된 영상의 해상도 그대로 영상 처리를 수행할 경우, 연산시간이 매우 길어지므로 영상의 너비와 높이를 최소화 예를 들어, 1/2로 축소하여 영상 처리를 수행할 수 있으며, 수신된 영상을 흑백 영상으로 변환할 수 있다. 더하여, 영상 전처리부(221)는 이진화된 영상 데이터를 이용하여 영상의 외곽선을 추출하고, 추출된 외곽선에 대한 영역들 중 면적이 미리 설정된 픽셀 예를 들어, 1000픽셀 이하인 영역은 노이즈로 간주하여 제거할 수도 있다.For example, when the
파라미터 산출부(222)는 영상 전처리부(221)를 통해 장축 및 단축의 길이 비율이 조정된 영상이 인가되면, 상기 영상의 비선형 영역을 최적화하기 위한 카메라 파라미터를 산출하게 된다. The
이때, 상기 영상 전처리부(221)가 산출한 개의 특징점을 이용하게 되는데, 즉, 하기의 <수학식 3>의 영상()가 최소화되도록 카메라 파라미터()에 대한 최적값을 추정하게 된다.At this time, the
여기서, 은 왜곡되지 않은 점을 외부 파라미터 과 , 내부 파라미터 를 사용하여 왜곡시킨 점을 의미하는 것으로, 외부 파라미터 중 은 3x3의 회전 행렬을 의미하며, 는 3x1의 이동 행렬이 될 수 있다.here, Is an external parameter and , Internal parameters Means the point distorted by using, among the external parameters Means 3x3 rotation matrix, Can be a 3x1 moving matrix.
또한, 내부 파라미터 중 는 어안 렌즈의 화각이며, 는 어안 렌즈의 초점 거리(focal length)를 의미하며, 는 센서에 따른 변형을 나타내는 파라미터를 의미한다.Also, among the internal parameters Is the angle of view of the fisheye lens, Means the focal length of the fisheye lens, Denotes a parameter representing deformation according to a sensor.
상술한 내부 파라미터 및 외부 파라미터에 대해 보다 더 구체적으로 설명하면, 본 발명의 실시 예에 따른 카메라 파라미터는 내부 파라미터 및 외부 파라미터로 구성될 수 있는데, 내부 파라미터는 영상 좌표와 카메라 좌표 간의 관계를 의미하는 것으로서, 카메라의 제조 시점에 결정될 수 있다. 이러한 내부 파라미터에는 상술한 바와 같은 초점 거리(focal length), 휘어짐의 정도(skew vector), 렌즈 중심점(optical center) 등에 대한 값이 내부 파라미터가 될 수 있다. 반면, 외부 파라미터는 카메라 좌표와 공간 좌표 간의 관계를 의미하는 것으로서, 예를 들어, 카메라의 회전이나 이동에 대한 정보를 나타낸다. 이러한 외부 파라미터는 촬영 시마다 달라질 수 있다.In more detail with respect to the above-described internal parameters and external parameters, a camera parameter according to an embodiment of the present invention may be configured as an internal parameter and an external parameter, which means a relationship between image coordinates and camera coordinates. As such, it can be determined at the time of manufacture of the camera. As for the internal parameters, values for a focal length, a skew vector, an optical center, and the like as described above may be internal parameters. On the other hand, the external parameter means a relationship between the camera coordinates and the spatial coordinates, and represents, for example, information about the rotation or movement of the camera. These external parameters may vary from time to time.
파라미터 산출부(222)는 인가된 영상의 카메라 파라미터를 산출하기 위해, 3차원 공간 상의 가상 좌표인 실세계 좌표계()를 카메라 초점을 기준으로 하는 카메라 좌표계()로 변환하게 되는 데, 외부 파라미터인 회전 행렬 과 이동 행렬 를 이용하여 하기의 <수학식 4>에 따라 수행하게 된다.The
여기서, 카메라 좌표계()에서 2차원 영상으로 투영될 때, 이 둘 사이의 관계는 점 사영(point projection)에 기반한 핀홀(pin hole) 카메라 모델로 가정할 수 있는 데, 이때, 다양한 사영 기법 중 원근 사영(perspective projection)에 따라 원거리 물체는 작게, 근거리 물체는 크게 표현될 수 있다.Here, the camera coordinate system ( ), When projected as a 2D image, the relationship between the two can be assumed to be a pinhole camera model based on point projection, where perspective projection among various projection techniques Depending on the distance object is small, the near object can be represented large.
따라서, 도 5에 도시된 바와 같이, 상기 하기의 <수학식 5>를 적용하여 3차원의 한 점 P=(Xc, Yc, Zc)를 영상 평면의 한 점 P'=(x,y)로 변환할 수 있으며, 이때의 내부 파라미터인 초점 거리 는 사영 중심과 영상 평면 사이의 거리를 의미한다.Therefore, as shown in FIG. 5, by applying the following <Equation 5>, a three-dimensional point P = (Xc, Yc, Zc) to a point P '= (x, y) of the image plane Can be converted, and this is the internal parameter focal length Means the distance between the projection center and the image plane.
또한, 마지막으로 입력 영상은 디지털화되어 저장되기 때문에 CCD(Charge Coupled Device), CMOS(Complementary Metal Oxide Semiconductor)와 같은 센서의 특성에 영향을 받게 된다.In addition, finally, since the input image is digitized and stored, the characteristics of sensors such as a Charge Coupled Device (CCD) and Complementary Metal Oxide Semiconductor (CMOS) are affected.
따라서, 저장되는 픽셀이 정사각형이 아닌 경우에 영상의 두 좌표축의 크기에 대한 스케일링 인자 K를 고려해야 한다. 카메라 영상 좌표계와 실영상 좌표계간의 변환에서 센서에 따른 변형은 내부 파라미터 K를 고려하여 하기의 <수학식 6>에 따라 산출된다.Therefore, when the pixel to be stored is not square, the scaling factor K for the size of two coordinate axes of the image should be considered. In the conversion between the camera image coordinate system and the real image coordinate system, the deformation according to the sensor is calculated according to Equation 6 below considering the internal parameter K.
또한, 상술한 <수학식 1>을 참조하여 설명한 바와 같이, 어안 렌즈의 화각인 는 내부 파라미터로 이용하게 된다.In addition, as described with reference to Equation 1 above, the angle of view of the fish-eye lens is Is used as an internal parameter.
앞서, 내부 파라미터는 카메라의 고유 속성 값이 될 수 있으며, 외부 파라미터는 촬영 시마다 달라질 수 있다 설명하였다.Previously, the internal parameter may be a unique attribute value of the camera, and the external parameter may be different for each shooting.
즉, 내부 파라미터인 카메라의 초점 거리, 휘어짐의 정도 등은 카메라의 제조 시점에 결정되며, 외부 파라미터인 카메라의 회전이나 이동에 대한 정보는 촬영 시마다 달라지게 되는 데, 상술한 내부 파라미터와 외부 파라미터를 동시에 산출하게 되면, 카메라의 위치 또는 각도를 변경하는 경우 재계산해야 한다는 문제점이 있다.That is, the focal length of the camera, which is an internal parameter, the degree of warpage, etc., is determined at the time of manufacture of the camera, and information about the rotation or movement of the camera, which is an external parameter, varies with each shooting. When calculating at the same time, there is a problem in that recalculation is required when changing the position or angle of the camera.
따라서, 본 발명의 실시 예에서는 내부 파라미터를 먼저 산출하고, 이를 이용하여 카메라(100)의 위치 및 각도가 변경될 때마다 외부 파라미터를 계산함으로써, 연산의 속도를 개선할 수 있다.Therefore, in an embodiment of the present invention, the internal parameters are first calculated, and the external parameters are calculated each time the position and angle of the
즉, 도 6에 도시된 바와 같이, 영상이 입력되면(S101), 입력 영상(3차원 실세계를 2차원의 형태로 획득된 영상)에서 개의 특징점을 추출한 후, 이를 이용하여 기 정의된 <수학식 3>을 이용하여 내부 파라미터를 먼저 산출하게 된다(S103). 여기까지가 파라미터 추출 1단계이다.That is, as shown in FIG. 6, when an image is input (S101), in an input image (an image obtained in the form of a two-dimensional 3D real world) After extracting the feature points of the dog, the internal parameters are first calculated using <Equation 3> previously defined using this (S103). This is the first step of parameter extraction.
이후, 입력 영상에서 추출된 개의 특징점의 좌표와 S103 단계에서 산출된 내부 파라미터를 이용하여(S105) 외부 파라미터를 산출하게 된다(S107). 여기까지가 파라미터 추출 2단계로 이후, 카메라(100)의 위치 및 각도가 변경될 1단계는 생략하고 2단계만을 수행함으로써, 파라미터 산출 시의 연산 속도가 보다 더 빨라질 수 있다.Then, extracted from the input image External parameters are calculated using the coordinates of the feature points and the internal parameters calculated in step S103 (S105) (S107). Up to this point, since the second step of parameter extraction, the first step in which the position and angle of the
보정 영상 생성부(223)는 영상의 왜곡을 보정한 최종 보정 영상을 생성하는 역할을 수행한다. The corrected
즉, 왜곡된 형태의 입력 영상에 하기의 <수학식 7>과 같은 기 정의된 함수를 이용하여, 좌표를 변환함으로써 보정 영상을 생성하게 된다.That is, a corrected image is generated by transforming coordinates using a predefined function such as <Equation 7> below for the distorted input image.
이때, 입력된 영상의 좌표에 왜곡 보정 비율을 적용하여 보정 영상의 좌표를 계산할 수도 있다. At this time, it is also possible to calculate the coordinates of the corrected image by applying a distortion correction ratio to the coordinates of the input image.
여기서, 왜곡 보정 비율을 시스템 설정에 따라 미리 할당될 수 있다.Here, the distortion correction ratio may be previously allocated according to the system setting.
예컨대, 왜곡 보정 후의 영상의 크기가 ()일 경우 하기의 <수학식 8>에 따라 왜곡 보정 후 영상 좌표의 위치에 따른 비율 를 계산하여 보정하게 된다.For example, the image size after distortion correction ( ), The ratio according to the position of image coordinates after distortion correction according to <Equation 8> below Is calculated and corrected.
이때, 이미지 중심에서 가까우면 왜곡 보정 비율을 크게 하고, 외곽으로 갈수록 왜곡 보정 비율을 적게 한다. 이는 화각이 180°도 이상인 입력 영상에서 상술한 바와 같이 핀홀 카메라 모델을 적용하여 2차원 평면에 영상을 보정하게 되는 경우, 외곽으로 갈수록 , 즉 왜곡 영상의 중심에서 해당 픽셀까지의 거리가 길어져 역방향 사상으로 가져올 수 있는 정보가 적어 해상도가 낮아지게 되며, 퍼짐 현상 등 여러가지 문제로 인해 오히려 인지하기 어려운 결과 영상을 출력할 수 있다는 문제점이 있다.At this time, the distortion correction ratio is increased when it is closer to the center of the image, and the distortion correction ratio is decreased as it goes outward. This is when the image is corrected to the 2D plane by applying the pinhole camera model as described above in the input image with an angle of view of 180 ° or higher, as it goes outward That is, as the distance from the center of the distorted image to the corresponding pixel becomes longer, there is less information that can be brought in the reverse direction, so the resolution is lowered. .
따라서, 영상 중심에서 가까우면 왜곡 보정 비율을 크게 하고, 외곽으로 갈수록 왜곡 보정 비율을 적게 함으로써, 상술한 문제점은 해결할 수 있다.Therefore, the problem described above can be solved by increasing the distortion correction ratio when it is closer to the center of the image and by decreasing the distortion correction ratio toward the outside.
또한, 보정 영상의 좌표 에서 왜곡 보정 비율 ()를 조절하기 위해 하기의 <수학식 9>를 이용하여 왜곡 보정 비율을 산출할 수 있다.Also, the coordinates of the corrected image Distortion correction ratio ( In order to adjust), the distortion correction ratio can be calculated using Equation 9 below.
여기서, 왜곡 상수 는 사용자가 직접 입력할 수도 있다.Where the distortion constant Can also be entered manually by the user.
이후, 상술한 바와 같은 과정을 거쳐 산출된 왜곡 보정 비율을 하기의 <수학식 10>에 적용하여 왜곡 보정 비율이 반영된 보정 영상을 생성할 수도 있다.Thereafter, the distortion correction ratio calculated through the above-described process may be applied to <Equation 10> below to generate a correction image reflecting the distortion correction ratio.
즉, 도 8에 도시된 입력 영상에 대한 보정 영상이 도 9에 도시되어 있으며, 비선형 영역이 상당수 감소한 것을 확인할 수 있다.That is, the corrected image for the input image illustrated in FIG. 8 is illustrated in FIG. 9, and it can be confirmed that the nonlinear region is significantly reduced.
본 발명의 왜곡 영상 보정 장치(200)는 영상 처리 모듈(220)의 처리 과정에 따라 발생되는 다양한 영상을 임시 또는 영구적으로 저장하는 영상 저장 모듈(240) 및 보정 된 영상을 영상 출력 장치(300)으로 전달하는 전달하는 영상 출력 모듈(230)을 더 포함하여 구성될 수 있다.Distorted
이때, 영상 저장 모듈(240)은 보정 영상 생성 과정에 발생되는 다양한 정보를 저장하게 되는데, 예컨대 왜곡 영상 보정 장치(200)를 구동하기 위한 제어 정보 및 하나 이상의 카메라(100)로부터 입력된 영상을 저장하고, 상기 영상의 왜곡을 보정한 보정 영상, 또는 각 카메라(100)별로 산출된 카메라 파라미터 값을 저장할 수 있다. 이러한 영상 저장 모듈(240)은 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(Magnetic Media), CD-ROM(Compact Disk Read Only Memory), DVD(Digital Video Disk)와 같은 광 기록 매체(Optical Media), 플롭티컬 디스크(Floptical Disk)와 같은 자기-광 매체(Magneto-Optical Media) 및 롬(ROM), 램(RAM, Random Access Memory), 플래시 메모리를 포함하여 구현될 수 있다.At this time, the
그러면, 이와 같이 구성된 영상 처리 시스템에서 왜곡 영상 보정 방법에 대해 첨부된 도면을 참조하여 구체적으로 설명하기로 한다. Then, the distortion image correction method in the image processing system configured as described above will be described in detail with reference to the accompanying drawings.
도 7은 본 발명의 실시 예에 따른 왜곡 영상 보정 방법을 설명하기 위한 흐름도이다.7 is a flowchart illustrating a distortion image correction method according to an embodiment of the present invention.
도 1 및 도 7을 참조하면, 먼저 하나 이상의 카메라(100)로부터 촬영된 영상을 수신하여 입력하게 되는데(1101), 이때 입력되는 영상은 도 8에 도시된 바와 같은 왜곡된 영상일 수 있다.1 and 7, first, an image captured from one or
이후, 왜곡 영상 보정 장치(200)는 입력 영상의 장축 및 단축 길이의 비율을 일치시키는 과정을 수행한다(1102). Subsequently, the distortion
이때 상술한 바와 같이, 먼저, 입력 영상의 특징점을 추출하게 된다. 이때, 도 8에 도시된 바와 같이 영상이 존재하는 영역 및 주변 영역이 함께 입력될 수 있는데, 영상이 존재하는 영역에서 특징점을 추출한 후, 상기 특징점을 연결하여 타원체가 도시되도록 한다. At this time, as described above, first, feature points of the input image are extracted. At this time, as shown in FIG. 8, an area in which an image exists and a peripheral area may be input together. After extracting a feature point from the region where the image exists, the feature points are connected to display an ellipsoid.
이후, 상기 영역의 장축 및 단축의 길이를 계산하고, 상기 장축 및 단축의 길이의 비율에 따라 스케일링 인자를 산출한 후 상기 특징점을 연결한 영역, 즉 타원에 해당하는 영역의 스케일링 인자를 적용하여 장축 및 단축 비율을 조정하게 된다.Thereafter, the lengths of the long and short axes of the region are calculated, and a scaling factor is calculated according to the ratio of the lengths of the long and short axes, and then the long axis is applied by applying a scaling factor of the region connected to the feature points, that is, the region corresponding to the ellipse. And the reduction ratio.
이후, 조정 영상의 발생된 비선형 영역을 최적화하기 위해 카메라 파라미터를 산출하게 된다(1103).Thereafter, camera parameters are calculated to optimize the generated nonlinear region of the adjusted image (1103).
상기 카메라 파라미터는 내부 파라미터 및 외부 파라미터를 포함하게 되는데, 상술한 바와 같이 <수학식 3>의 결과 값이 최소가 되도록 각 파라미터의 값을 추정하게 된다. 여기서, 파라미터 산출 시, 먼저, 내부 파라미터를 산출하고, 상기 내부 파라미터와 입력 영상의 특징점의 좌표를 이용하여 외부 파라미터를 산출할 수 있다.The camera parameter includes an internal parameter and an external parameter. As described above, the value of each parameter is estimated so that the result value of <Equation 3> becomes minimum. Here, when calculating parameters, first, internal parameters may be calculated, and external parameters may be calculated using the coordinates of the internal parameters and feature points of the input image.
이후, 보정 영상을 생성하기 위해 상기 카메라 파라미터를 이용하여 왜곡 보정 비율을 산출하고, 장축 및 단축의 길이가 조정된 조정 영상에 왜곡 보정 비율을 적용하여(1104), 보정 영상을 생성하게 된다(1105).Thereafter, to generate a corrected image, a distortion correction ratio is calculated using the camera parameter, and a distortion correction ratio is applied to the adjusted image having long and short axis lengths adjusted (1104), thereby generating a corrected image (1105). ).
상기 보정 영상 생성 시 조정 영상의 중심점을 기준으로 중심점에서의 거리에 따라 왜곡 보정 비율을 조정함으로써 보정 영상을 생성할 수 있다.When generating the corrected image, a corrected image may be generated by adjusting a distortion correction ratio according to a distance from the center point based on the center point of the adjusted image.
이후, 보정된 영상을 영상 출력 장치(300)로 전달하면, 이를 전달받은 영상 출력 장치(300)는 보정된 영상을 출력할 수 있다(1106).Thereafter, when the corrected image is transmitted to the
이상으로 본 발명의 실시 예에 따른 왜곡 영상 보정 방법에 대해 설명하였다.The distortion image correction method according to the embodiment of the present invention has been described above.
상술한 바와 같은 왜곡 영상 보정 방법은, 어안 렌즈를 통해 촬영된 영상으로부터 실제와 가장 유사한 영상을 도출할 수 있도록 함으로써, 보정 영상의 정보를 이용하여 카메라와 표적과의 거리를 정확히 산출할 수 있도록 하며, 그 결과 차량 주차 시스템 등에 적용되어, 장애물 인식, 주변 공간 확보, 상황 제어 등을 구현할 수 있게 한다.The distortion image correction method as described above, by enabling to derive the image most similar to the real from the image taken through the fish-eye lens, to accurately calculate the distance between the camera and the target using the information of the correction image , As a result, it is applied to a vehicle parking system, so that obstacle recognition, surrounding space security, and situation control can be implemented.
또한, 이러한 왜곡 영상 보정 방법은 프로그램으로 구현되어 컴퓨터 판독 가능한 기록 매체에 구현될 수 있다.In addition, the distortion image correction method may be implemented as a program and implemented in a computer-readable recording medium.
본 발명에 따른 왜곡 영상 보정 방법을 실행하기 위해 기록되는 프로그램 명령은 본 발명을 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 예컨대 기록매체는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(Magnetic Media), CD-ROM(Compact Disk Read Only Memory), DVD(Digital Video Disk)와 같은 광 기록 매체(Optical Media), 플롭티컬 디스크(Floptical Disk)와 같은 자기-광 매체(Magneto-Optical Media), 및 롬(ROM), 램(RAM, Random Access Memory), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치를 포함한다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함할 수 있다. 이러한 하드웨어 장치는 본 발명의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.The program instructions recorded to execute the distortion image correction method according to the present invention may be specially designed and configured for the present invention, or may be known and available to those skilled in computer software. For example, recording media include magnetic media such as hard disks, floppy disks, and magnetic tapes (Magnetic Media), compact disk read only memory (CD-ROM), optical media such as DVD (Digital Video Disk), and optical media. Includes magneto-optical media, such as a floppy disk, and hardware devices specifically configured to store and execute program instructions such as ROM, random access memory (RAM), flash memory, etc. do. Examples of program instructions may include high-level language code that can be executed by a computer using an interpreter, etc., as well as machine language codes made by a compiler. Such a hardware device may be configured to operate as one or more software modules to perform the operation of the present invention, and vice versa.
한편, 본 명세서와 도면에 개시된 본 발명의 실시 예들은 이해를 돕기 위해 특정 예를 제시한 것에 지나지 않으며, 본 발명의 범위를 한정하고자 하는 것은 아니다. 여기에 개시된 실시 예들 이외에도 본 발명의 기술적 사상에 바탕을 둔 다른 변형 예들이 실시 가능하다는 것은, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 자명한 것이다.On the other hand, the embodiments of the present invention disclosed in the specification and drawings are merely presented as specific examples for ease of understanding, and are not intended to limit the scope of the present invention. It is obvious to those skilled in the art to which the present invention pertains that other modified examples based on the technical idea of the present invention can be implemented in addition to the embodiments disclosed herein.
본 발명은 왜곡 영상 보정에 관한 것으로서, 특히 어안 렌즈를 통해 촬영된 영상의 비선형 영역을 최적화하여 보정 영상을 생성함으로써, 어안 렌즈를 통해 촬영된 영상과 실제 촬영 대상과의 차이를 최소화할 수 있어 보다 더 현실감 있는 영상 제공할 수 있는 효과를 발생하는 유용한 발명으로, 이를 통해 서비스 산업의 발전에 이바지할 수 있다.The present invention relates to distortion image correction, in particular, by optimizing the nonlinear region of the image taken through the fisheye lens to generate a corrected image, it is possible to minimize the difference between the image taken through the fisheye lens and the actual shooting object. It is a useful invention that generates the effect of providing a more realistic image, thereby contributing to the development of the service industry.
100: 카메라 200: 왜곡 영상 보정 장치 210: 영상 수집 모듈
220: 영상 처리 모듈 221: 영상 전처리부
222: 파라미터 산출부 223: 보정 영상 생성부
230: 영상 출력 모듈 240: 영상 저장 모듈
300: 영상 출력 장치100: camera 200: distortion image correction device 210: image acquisition module
220: image processing module 221: image pre-processing unit
222: parameter calculation unit 223: correction image generation unit
230: video output module 240: video storage module
300: video output device
Claims (8)
상기 영상 전처리부의 장축 및 단축 비율 조정으로 인하여 상기 조정 영상에 형성된 비선형 영역을 보정하기 위한 카메라 파라미터를 산출하는 파라미터 산출부; 및
상기 조정 영상에 상기 산출된 카메라 파라미터를 적용하여 보정 영상을 생성하는 보정 영상 생성부;
를 포함하는 것을 특징으로 하는 왜곡 영상 보정 장치.An image pre-processing unit that generates an adjusted image by matching a long axis and a short axis ratio of the input image;
A parameter calculating unit calculating camera parameters for correcting a nonlinear region formed in the adjusted image due to the adjustment of the long and short axis ratios of the image preprocessing unit; And
A correction image generation unit that generates a correction image by applying the calculated camera parameters to the adjusted image;
Distorted image correction device comprising a.
상기 영상 전처리부는
상기 입력 영상의 특징점을 추출한 후 상기 특징점을 연결한 영역의 장축 및 단축 길이를 확인한 후, 상기 장축 및 단축 길이를 이용하여 스케일링 인자를 산출한 후 상기 입력 영상에 적용하여 입력 영상의 장축 및 단축 비율을 조정하는 것을 특징으로 하는 왜곡 영상 보정 장치.According to claim 1,
The image pre-processing unit
After extracting the feature points of the input image, check the long axis and short axis length of the region to which the feature points are connected, calculate the scaling factor using the long axis and short axis length, and apply them to the input image to apply the long and short axis ratios of the input image Distorted image correction device, characterized in that for adjusting.
상기 영상 전처리부는,
상기 입력 영상의 특징점을 추출하고, 상기 특징점을 연결하여 타원체를 획득하는 것을 특징으로 하는 왜곡 영상 보정 장치.According to claim 2,
The image pre-processing unit,
Distortion image correction device characterized in that for extracting the feature points of the input image, and connecting the feature points to obtain an ellipsoid.
상기 영산 전처리부는,
상기 타원체의 장축 및 단축의 길이를 하기의 수학식에 적용하여 스케일링 인자를 계산하는 것을 특징으로 하는 왜곡 영상 보정 장치.
[수학식]
(여기서, 장축은 , 단축은 이다.According to claim 3,
The Yeongsan pre-processing unit,
Distorted image correction apparatus characterized in that the scaling factor is calculated by applying the lengths of the major axis and the minor axis of the ellipsoid to the following equation.
[Mathematics]
(Here, the long axis , Shorten to be.
상기 파라미터 산출부는
상기 영상 전처리부를 통해 산출된 특징점을 이용하여 기 정의된 함수의 값이 최소화되도록 카메라 파라미터를 산출하는 것을 특징으로 하는 왜곡 영상 보정 장치.According to claim 1,
The parameter calculation unit
Distortion image correction device, characterized in that for calculating a camera parameter to minimize the value of a predefined function using the feature points calculated through the image pre-processing unit.
상기 보정 영상 생성부는,
상기 조정 영상에서 상기 파라미터 산출부를 통해 산출된 카메라 파라미터를 이용하여 왜곡 보정 비율을 산출하여 보정 영상을 생성하되, 상기 조정 영상 중심점을 기준으로 중심점에서의 거리에 따라 왜곡 보정 비율을 조정하여 보정 영상을 생성하는 것을 특징으로 하는 왜곡 영상 보정 장치.According to claim 1,
The correction image generation unit,
In the adjusted image, a correction image is generated by calculating a distortion correction ratio using a camera parameter calculated through the parameter calculation unit, and a correction image is adjusted by adjusting a distortion correction ratio according to a distance from a center point based on the adjusted image center point. Distortion image correction device characterized in that for generating.
상기 왜곡 영상 보정 장치가 상기 장축 및 단축 비율 조정으로 인하여 상기 조정 영상에 형성된 비선형 영역을 보정하기 위한 파라미터를 산출하는 단계;
상기 왜곡 여상 보정 장치가 상기 조정 영상에 상기 산출된 파라미터를 적용하여 보정 영상을 생성하는 단계;
를 포함하는 것을 특징으로 하는 왜곡 영상 보정 방법.A distortion image correcting apparatus generating an adjusted image by matching a long axis and a short axis ratio of the input image;
Calculating, by the distortion image correction apparatus, a parameter for correcting a nonlinear region formed in the adjusted image due to the adjustment of the long and short axis ratios;
Generating, by the distortion filtering apparatus, a correction image by applying the calculated parameter to the adjusted image;
Distorted image correction method comprising a.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020190120857A KR102112784B1 (en) | 2019-09-30 | 2019-09-30 | Apparatus and method for correcting distored image |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020190120857A KR102112784B1 (en) | 2019-09-30 | 2019-09-30 | Apparatus and method for correcting distored image |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020120119320A Division KR102029335B1 (en) | 2012-10-25 | 2012-10-25 | Apparatus and method for correcting distored image |
Publications (2)
Publication Number | Publication Date |
---|---|
KR20190116208A KR20190116208A (en) | 2019-10-14 |
KR102112784B1 true KR102112784B1 (en) | 2020-05-19 |
Family
ID=68171853
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020190120857A KR102112784B1 (en) | 2019-09-30 | 2019-09-30 | Apparatus and method for correcting distored image |
Country Status (1)
Country | Link |
---|---|
KR (1) | KR102112784B1 (en) |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101053506B1 (en) * | 2009-12-16 | 2011-08-03 | (주) 에투시스템 | Method for adjusting parameters in distortion calibration of image acquired by camera having fish eye lens |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR100914211B1 (en) * | 2008-01-15 | 2009-08-26 | 주식회사 이미지넥스트 | Distorted image correction apparatus and method |
-
2019
- 2019-09-30 KR KR1020190120857A patent/KR102112784B1/en active IP Right Grant
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101053506B1 (en) * | 2009-12-16 | 2011-08-03 | (주) 에투시스템 | Method for adjusting parameters in distortion calibration of image acquired by camera having fish eye lens |
Also Published As
Publication number | Publication date |
---|---|
KR20190116208A (en) | 2019-10-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP3477931B1 (en) | Image processing method and device, readable storage medium and electronic device | |
JP4692371B2 (en) | Image processing apparatus, image processing method, image processing program, recording medium recording image processing program, and moving object detection system | |
US10304164B2 (en) | Image processing apparatus, image processing method, and storage medium for performing lighting processing for image data | |
CN107948517B (en) | Preview picture blurring processing method, device and equipment | |
US11568516B2 (en) | Depth-based image stitching for handling parallax | |
JP6570327B2 (en) | Control device, imaging device, control method, program, and storage medium | |
US8224069B2 (en) | Image processing apparatus, image matching method, and computer-readable recording medium | |
KR102029335B1 (en) | Apparatus and method for correcting distored image | |
WO2022135588A1 (en) | Image correction method, apparatus and system, and electronic device | |
JP2018084982A (en) | Image processing apparatus, image processing method, and program | |
JP6577703B2 (en) | Image processing apparatus, image processing method, program, and storage medium | |
JP2023056056A (en) | Data generation method, learning method and estimation method | |
KR101510312B1 (en) | 3D face-modeling device, system and method using Multiple cameras | |
CN112069862A (en) | Target detection method and device | |
CN113610865B (en) | Image processing method, device, electronic equipment and computer readable storage medium | |
CN113674303B (en) | Image processing method, device, electronic equipment and storage medium | |
KR101726692B1 (en) | Apparatus and method for extracting object | |
JP6513941B2 (en) | Image processing method, image processing apparatus and program | |
CN117058183A (en) | Image processing method and device based on double cameras, electronic equipment and storage medium | |
KR102177878B1 (en) | Apparatus and method for processing image | |
KR102112784B1 (en) | Apparatus and method for correcting distored image | |
JP5278307B2 (en) | Image processing apparatus and method, and program | |
JP4789526B2 (en) | Image processing apparatus and image processing method | |
KR102371588B1 (en) | System and method for recognizing obstacle based on image | |
CN110610171A (en) | Image processing method and device, electronic equipment and computer readable storage medium |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A107 | Divisional application of patent | ||
A201 | Request for examination | ||
E902 | Notification of reason for refusal | ||
E701 | Decision to grant or registration of patent right | ||
GRNT | Written decision to grant |