KR102060113B1 - System and method for performing calibration - Google Patents
System and method for performing calibration Download PDFInfo
- Publication number
- KR102060113B1 KR102060113B1 KR1020190011834A KR20190011834A KR102060113B1 KR 102060113 B1 KR102060113 B1 KR 102060113B1 KR 1020190011834 A KR1020190011834 A KR 1020190011834A KR 20190011834 A KR20190011834 A KR 20190011834A KR 102060113 B1 KR102060113 B1 KR 102060113B1
- Authority
- KR
- South Korea
- Prior art keywords
- calibration
- road image
- patches
- vanishing point
- patch
- Prior art date
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/536—Depth or shape recovery from perspective effects, e.g. by using vanishing points
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
- G06T7/74—Determining position or orientation of objects or cameras using feature-based methods involving reference images or patches
-
- G—PHYSICS
- G08—SIGNALLING
- G08G—TRAFFIC CONTROL SYSTEMS
- G08G1/00—Traffic control systems for road vehicles
- G08G1/01—Detecting movement of traffic to be counted or controlled
- G08G1/052—Detecting movement of traffic to be counted or controlled with provision for determining speed or overspeed
- G08G1/054—Detecting movement of traffic to be counted or controlled with provision for determining speed or overspeed photographing overspeeding vehicles
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30248—Vehicle exterior or interior
- G06T2207/30252—Vehicle exterior; Vicinity of vehicle
- G06T2207/30256—Lane; Road marking
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Theoretical Computer Science (AREA)
- Image Processing (AREA)
Abstract
Description
본 발명은 캘리브레이션을 수행하는 시스템 및 방법에 관한 것이다.The present invention relates to a system and method for performing calibration.
카메라 기반의 과속 단속 시스템은 카메라를 통해 차량의 위치정보를 얻고, 이를 통해 시간 및 이동한 거리를 계산하여 차량 속도를 검출한다. 이러한 과속 단속 시스템은 카메라를 통해 수집된 영상의 좌표와 거리 센서를 통해 획득되는 차량의 실제 물리적 위치를 정합해야 차량의 위치정보를 정의할 수 있으므로, 카메라와 거리 센서의 캘리브레이션 과정이 필수적으로 수반된다.The camera-based speed control system obtains the vehicle's location information through the camera, and detects the vehicle speed by calculating the time and the distance traveled. Since the speed control system can define the location information of the vehicle by matching the coordinates of the image collected by the camera and the actual physical location of the vehicle obtained by the distance sensor, the calibration process of the camera and the distance sensor is essential. .
한편, 기존에는 수집된 영상에서 대략적인 거리 영역을 선정하여 캘리브레이션을 수행하였다. 그러나, 기존의 방법은 중간 거리의 경우 보간 기법을 이용하여 보간 기법에 의한 오차 발생하고, 정확도가 저하되는 문제가 있었다. 또한, 과속 단속 시스템은 도로 상에 설치되므로, 외부 환경에 의해 시간이 경과함에 따라 검지 환경이 변화하게 되어 캘리브레이션을 다시 수행해야하는 문제가 있었다. 또한, 기존의 방법은 캘리브레이션을 수행하기 위해 영상에서 기준 픽셀들을 사람이 직접 선택하여야 하는바 과정이 복잡하고, 체스보드 모양의 매우 커다란 캘리브레이션 보드를 사용해야 하기 때문에 작업이 매우 번거로울뿐더러 정확성이 낮다는 한계가 있었다.On the other hand, the calibration was performed by selecting the approximate distance area from the collected image. However, the conventional method has a problem that an error occurs due to the interpolation technique using the interpolation technique in the case of an intermediate distance, and the accuracy is lowered. In addition, since the speed regulation system is installed on the road, the detection environment changes over time due to the external environment, and there is a problem that calibration must be performed again. In addition, the conventional method is complicated by the process of manually selecting the reference pixels in the image to perform the calibration, and requires a very large calibration board in the shape of a chessboard. There was.
따라서, 본 발명은 카메라에 의해 수집된 영상에서 기준 픽셀들을 자동으로 결정하여 캘리브레이션을 수행하고, 검지 환경이 변화하는 경우에도 캘리브레이션에 의해 생성된 호모그래피 매트릭스를 자동으로 갱신하여 적응형 캘리브레이션을 수행하는 기술을 제공한다.Therefore, the present invention performs calibration by automatically determining the reference pixels in the image collected by the camera, and automatically updates the homography matrix generated by the calibration to perform adaptive calibration even when the detection environment changes. Provide technology.
본 발명의 일 실시예에 따른 캘리브레이션 시스템은 도로 상에 배치된 적어도 4개의 패치들, 도로 영상을 촬영하는 카메라, 그리고 상기 도로 영상에 포함된 상기 패치들을 검출하고, 각 패치들의 미리 설정된 위치 정보 및 상기 도로 영상에서 각 패치들의 픽셀 좌표 정보에 캘리브레이션을 수행하여 호모그래피 매트릭스를 생성하는 캘리브레이션 장치를 포함한다.The calibration system according to an embodiment of the present invention detects at least four patches disposed on a road, a camera for photographing a road image, and the patches included in the road image, preset position information of each patch, and And a calibration device that generates a homography matrix by calibrating pixel coordinate information of each patch in the road image.
상기 패치들은 도로 상에서 상기 카메라를 기준으로 미리 설정된 서로 다른 위치에 각각 배치된다.The patches are respectively disposed at different preset positions on the road with respect to the camera.
상기 패치들은 각각 서로 다른 내부 패턴을 갖는 동일한 크기의 원형 모양이다.The patches are circular shapes of the same size, each with a different internal pattern.
상기 캘리브레이션 장치는 상기 도로 영상의 물리 공간 상의 무한 원점(point at infinity)을 이용하여 제1 소실점(vanishing point)을 결정하고, 상기 도로 영상에 대해 이미지 프로세싱을 수행하여 제2 소실점을 결정하고, 상기 제1 소실점과 상기 제2 소실점 사이의 차이를 이용하여 상기 호모그래피 매트릭스를 보정한다.The calibration apparatus determines a first vanishing point by using a point at infinity on the physical space of the road image, and performs a second image processing on the road image to determine a second vanishing point. The homography matrix is corrected using the difference between the first vanishing point and the second vanishing point.
상기 캘리브레이션 장치는 상기 호모그래피 매트릭스를 이용하여 상기 무한 원점을 상기 도로 영상으로 사영하여 상기 도로 영상에서 지평선을 결정하고, 상기 지평선을 상기 제1 소실점으로 결정한다.The calibration apparatus determines the horizon in the road image by projecting the infinite origin into the road image using the homography matrix, and determines the horizon as the first vanishing point.
상기 캘리브레이션 장치는 상기 도로 영상에 대해 이미지 프로세싱을 수행하여 상기 도로 영상에 존재하는 복수의 차선들을 식별하고, 상기 복수의 차선들이 만나는 교차점을 상기 제2 소실점으로 결정한다.The calibration apparatus performs image processing on the road image to identify a plurality of lanes existing in the road image, and determines an intersection point where the plurality of lanes meet as the second vanishing point.
상기 캘리브레이션 장치는 상기 제1 소실점과 상기 제2 소실점을 비교하여 상기 카메라의 피치 각도 변위를 결정하고, 상기 피치 각도 변위를 이용하여 상기 호모그래피 매트릭스를 보정한다.The calibration apparatus compares the first vanishing point and the second vanishing point to determine a pitch angular displacement of the camera, and corrects the homography matrix using the pitch angular displacement.
본 발명의 다른 실시예에 따른 캘리브레이션 시스템은 도로 상에 배치된 적어도 4개의 패치들, 각 패치들 상에 위치한 거리 센서들, 도로 영상을 촬영하는 카메라, 그리고 상기 도로 영상에 포함된 상기 패치들을 검출하고, 상기 거리 센서들을 통해 측정된 각 패치들의 위치 정보를 획득하고, 상기 위치 정보 및 상기 도로 영상에서 각 패치들의 픽셀 좌표 정보에 대해 캘리브레이션을 수행하여 호모그래피 매트릭스를 생성하는 캘리브레이션 장치를 포함한다.According to another embodiment of the present invention, a calibration system detects at least four patches disposed on a road, distance sensors located on each patch, a camera photographing a road image, and the patches included in the road image. And a calibration device for obtaining location information of each patch measured by the distance sensors, and performing a calibration on the pixel information of each patch in the location information and the road image to generate a homography matrix.
상기 패치들은 도로 상에서 상기 카메라를 기준으로 미리 설정된 서로 다른 위치에 각각 배치된다.The patches are respectively disposed at different preset positions on the road with respect to the camera.
상기 패치들은 동일한 크기의 직사각형 모양이다.The patches are rectangular in shape of equal size.
상기 패치들은 각 패치들에 대응하는 거리 센서가 측정한 위치 정보를 수치화하여 표시하는 디스플레이 패널을 각각 포함하고, 상기 캘리브레이션 장치는 상기 디스플레이 패널에 포함된 수치를 인식하여 상기 위치 정보를 획득한다.The patches each include a display panel for digitizing and displaying position information measured by a distance sensor corresponding to each patch, and the calibration device recognizes a numerical value included in the display panel to obtain the position information.
상기 캘리브레이션 장치는 상기 도로 영상의 물리 공간 상의 무한 원점을 이용하여 제1 소실점을 결정하고, 상기 도로 영상에 대해 이미지 프로세싱을 수행하여 제2 소실점을 결정하고, 상기 제1 소실점과 상기 제2 소실점 사이의 차이를 이용하여 상기 호모그래피 매트릭스를 보정한다.The calibration device determines a first vanishing point by using an infinite zero point in the physical space of the road image, and performs image processing on the road image to determine a second vanishing point, and between the first vanishing point and the second vanishing point. The homography matrix is corrected using the difference of.
상기 캘리브레이션 장치는 상기 호모그래피 매트릭스를 이용하여 상기 무한 원점을 상기 도로 영상으로 사영하여 상기 도로 영상에서 지평선을 결정하고, 상기 지평선을 상기 제1 소실점으로 결정한다.The calibration apparatus determines the horizon in the road image by projecting the infinite origin into the road image using the homography matrix, and determines the horizon as the first vanishing point.
상기 캘리브레이션 장치는 상기 도로 영상에 대해 이미지 프로세싱을 수행하여 상기 도로 영상에 존재하는 복수의 차선들을 식별하고, 상기 복수의 차선들이 만나는 교차점을 상기 제2 소실점으로 결정한다.The calibration apparatus performs image processing on the road image to identify a plurality of lanes existing in the road image, and determines an intersection point where the plurality of lanes meet as the second vanishing point.
상기 캘리브레이션 장치는 상기 제1 소실점과 상기 제2 소실점을 비교하여 상기 카메라의 피치 각도 변위를 결정하고, 상기 피치 각도 변위를 이용하여 상기 호모그래피 매트릭스를 보정한다.The calibration apparatus compares the first vanishing point and the second vanishing point to determine a pitch angular displacement of the camera, and corrects the homography matrix using the pitch angular displacement.
본 발명에 따르면, 자동으로 기준 픽셀들을 결정하여 캘리브레이션을 수행하는바, 캘리브레이션을 위한 사용자 조작을 요구하지 않고 매우 커다란 캘리브레이션 보드를 사용할 필요가 없어, 캘리브레이션 과정을 간소화시킬 수 있고 사용상 편의성을 향상시킬 수 있다.According to the present invention, calibration is performed by automatically determining the reference pixels, eliminating the need for a user operation for calibration and using a very large calibration board, which simplifies the calibration process and improves ease of use. have.
또한, 본 발명에 따르면, 검지 환경 변화에 따라 호모그래피 매트릭스를 자동으로 갱신하는바, 본 발명을 이용하는 과속 단속 시스템의 성능을 지속적으로 유지할 수 있다.In addition, according to the present invention, the homography matrix is automatically updated in accordance with the change of detection environment, so that the performance of the speed regulation system using the present invention can be continuously maintained.
도 1은 캘리브레이션 과정을 설명하는 도면이다.
도 2는 본 발명의 한 실시예에 따른 캘리브레이션 시스템을 설명하는 도면이다.
도 3은 본 발명의 한 실시예에 따른 예시적인 패치들을 도시하는 도면이다.
도 4는 한 실시예에 따른 예시적인 패치들이 도로 상에 배치되는 방법을 설명하는 도면이다.
도 5는 한 실시예에 따른 캘리브레이션 장치가 도로 영상을 이용하여 캘리브레이션을 통해 호모그래피 매트릭스를 생성하는 방법을 설명하는 도면이다.
도 6은 생성된 호모그래피 매트릭스를 이용하여 도로 영상을 변환하는 방법을 설명하는 도면이다.
도 7은 보정이 필요한 호모그래피 매트릭스에 의해 변환된 도로 영상을 정상적으로 변환된 도로 영상과 비교하는 도면이다.
도 8은 한 실시예에 따른 캘리브레이션 장치가 호모그래피 매트릭스를 보정하는 방법을 설명하는 도면이다.
도 9는 본 발명의 다른 실시예에 따른 캘리브레이션 시스템을 설명하는 도면이다.
도 10은 본 발명의 다른 실시예에 따른 예시적인 패치들 및 거리 센서들을 도시하는 도면이다.
도 11은 다른 실시예에 따른 예시적인 패치들이 도로 상에 배치되는 방법을 설명하는 도면이다.
도 12는 다른 실시예에 따른 캘리브레이션 장치가 도로 영상을 이용하여 캘리브레이션을 통해 호모그래피 매트릭스를 생성하는 방법을 설명하는 도면이다.
도 13은 캘리브레이션 시스템이 수신된 도로 영상에 대해 캘리브레이션을 수행하는 방법을 설명하는 도면이다.1 is a diagram illustrating a calibration process.
2 is a diagram illustrating a calibration system according to an embodiment of the present invention.
3 is a diagram illustrating exemplary patches in accordance with one embodiment of the present invention.
4 is a diagram illustrating how exemplary patches are disposed on a road according to one embodiment.
FIG. 5 is a diagram for describing a method of generating, by a calibration apparatus, a homography matrix through calibration using a road image, according to an exemplary embodiment.
FIG. 6 is a diagram for explaining a method of converting a road image using a generated homography matrix.
FIG. 7 is a diagram comparing a road image converted by a homography matrix requiring correction with a road image normally converted.
8 is a diagram for describing a method of calibrating a homography matrix by a calibration apparatus according to an exemplary embodiment.
9 is a view for explaining a calibration system according to another embodiment of the present invention.
10 is a diagram illustrating exemplary patches and distance sensors in accordance with another embodiment of the present invention.
11 is a diagram illustrating how exemplary patches are disposed on a road according to another embodiment.
FIG. 12 is a diagram for describing a method of generating, by a calibration device, a homography matrix through calibration using a road image, according to another exemplary embodiment.
FIG. 13 is a diagram for describing a method of calibrating a received road image by a calibration system.
아래에서는 첨부한 도면을 참고로 하여 본 발명의 실시예에 대하여 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자가 용이하게 실시할 수 있도록 상세히 설명한다. 그러나 본 발명은 여러 가지 상이한 형태로 구현될 수 있으며 여기에서 설명하는 실시예에 한정되지 않는다. 그리고 도면에서 본 발명을 명확하게 설명하기 위해서 설명과 관계없는 부분은 생략하였으며, 명세서 전체를 통하여 유사한 부분에 대해서는 유사한 도면 부호를 붙였다.DETAILED DESCRIPTION Hereinafter, exemplary embodiments of the present invention will be described in detail with reference to the accompanying drawings so that those skilled in the art may easily implement the present invention. As those skilled in the art would realize, the described embodiments may be modified in various different ways, all without departing from the spirit or scope of the present invention. In the drawings, parts irrelevant to the description are omitted in order to clearly describe the present invention, and like reference numerals designate like parts throughout the specification.
명세서 전체에서, 어떤 부분이 어떤 구성요소를 "포함"한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 포함할 수 있는 것을 의미한다.Throughout the specification, when a part is said to "include" a certain component, it means that it can further include other components, without excluding other components unless specifically stated otherwise.
본 명세서에서, "캘리브레이션"은 카메라에 의해 수집된 영상과 실제 물리 공간과의 관계, 즉 기하 정보를 파악하는 과정을 지칭한다.In the present specification, "calibration" refers to a process of grasping geometric information, that is, a relationship between an image collected by a camera and a real physical space.
도 1은 캘리브레이션 과정을 설명하는 도면이다.1 is a diagram illustrating a calibration process.
도 1을 참고하면, 수집된 영상(10)에서의 점들(x1, x2, x3 및 x4)은 초점(c)을 지나는 광선들(l1, l2, l3 및 l4)에 의해 실제 물리 공간(20) 상의 점들(X1, X2, X3 및 X4)로 대응된다. 이 경우, 실제 물리 공간(20) 상의 점들이 동일 평면(30) 상에 있다는 조건으로 정의하면, 수집된 영상(10)에서의 점들(x1, x2, x3 및 x4)과 동일 평면(30) 상의 점들(X'1, X'2, X'3 및 X'4)을 대응시킬 수 있다. 이러한 대응 과정을 캘리브레이션이라고 하며, 캘리브레이션을 수행하면 수집된 영상(10)에서의 점들(x1, x2, x3 및 x4)과 동일 평면(30) 상의 점들(X'1, X'2, X'3 및 X'4)의 관계를 나타내는 호모그래피 매트릭스(40)가 생성된다.Referring to FIG. 1, the points x 1 , x 2 , x 3 and x 4 in the collected
이하 도면을 참조로 하여 본 발명의 실시예에 따른 캘리브레이션 시스템 및 방법에 대해 설명한다.Hereinafter, a calibration system and method according to an exemplary embodiment of the present invention will be described with reference to the accompanying drawings.
도 2는 본 발명의 한 실시예에 따른 캘리브레이션 시스템을 설명하는 도면이고, 도 3은 본 발명의 한 실시예에 따른 예시적인 패치들을 도시하는 도면이고, 도 4는 한 실시예에 따른 예시적인 패치들이 도로 상에 배치되는 방법을 설명하는 도면이고, 도 5는 한 실시예에 따른 캘리브레이션 장치가 도로 영상을 이용하여 캘리브레이션을 통해 호모그래피 매트릭스를 생성하는 방법을 설명하는 도면이고, 도 6은 생성된 호모그래피 매트릭스를 이용하여 도로 영상을 변환하는 방법을 설명하는 도면이다.2 is a diagram illustrating a calibration system according to one embodiment of the invention, FIG. 3 is a diagram illustrating exemplary patches in accordance with one embodiment of the present invention, and FIG. 4 is an exemplary patch according to one embodiment. And FIG. 5 is a diagram illustrating a method of generating a homography matrix through calibration using a road image according to an embodiment, and FIG. 6 is a diagram illustrating a method in which a calibration apparatus is arranged on a road. A diagram for describing a method of converting a road image using a homography matrix.
도 2를 참고하면, 캘리브레이션 시스템(100)은 패치들(110), 카메라(120) 및 캘리브레이션 장치(130)를 포함한다.Referring to FIG. 2, the
패치들(110)은 적어도 4개로 구성되며, 각각 서로 다른 내부 패턴을 갖는 동일한 크기의 원형 모양을 갖는다.The
예를 들면, 도 3을 참고하면, 제1 패치(111), 제2 패치(112), 제3 패치(113) 및 제4 패치(114)는 동일한 직경을 갖는 동심원 모양을 가질 수 있으며, 제1 패치(111), 제2 패치(112), 제3 패치(113) 및 제4 패치(114)의 내부 패턴은 서로 다를 수 있다. 한편, 도 3에 도시된 제1 패치(111), 제2 패치(112), 제3 패치(113) 및 제4 패치(114)의 내부 패턴은 단지 예시이며, 제1 패치(111), 제2 패치(112), 제3 패치(113) 및 제4 패치(114)가 서로 다른 내부 패턴을 가질 수 있으면 구체적인 내부 패턴의 형태는 어느 하나에 한정되지 않는다.For example, referring to FIG. 3, the
또한, 패치들(110)은 도로 상에서 카메라(120)를 기준으로 미리 설정된 서로 다른 위치에 각각 배치된다.In addition, the
예를 들면, 도 4를 참고하면, 제1 패치(111)는 카메라(120)의 위치를 기준으로 좌측 방향으로 20m, 상측 방향으로 20m 떨어져서 배치되고, 제2 패치(112)는 카메라(120)의 위치를 기준으로 좌측 방향으로 20m, 상측 방향으로 40m 떨어져서 배치되고, 제3 패치(113)는 카메라(120)의 위치를 기준으로 우측 방향으로 20m, 상측 방향으로 40m 떨어져서 배치되고, 제4 패치(114)는 카메라(120)의 위치를 기준으로 우측 방향으로 20m, 상측 방향으로 20m 떨어져서 배치될 수 있다.For example, referring to FIG. 4, the
상기 예시에서, 만일 카메라(120)의 위치가 (0m, 0m)인 경우, 제1 패치(111)의 미리 설정된 위치 정보는 (-20m, 20m)이고, 제2 패치(112)의 미리 설정된 위치 정보는 (-20m, 40m)이고, 제3 패치(113)의 미리 설정된 위치 정보는 (20m, 40m)이고, 제4 패치(114)의 미리 설정된 위치 정보는 (20m, 20m)에 해당될 수 있다.In the above example, if the position of the
카메라(120)는 도로 영상을 촬영한다.The
구체적으로, 카메라(120)는 도 4와 같이 패치들(110)이 배치된 도로에 대한 영상을 촬영한다. 이 경우, 카메라(120)는 과속 단속 시스템에 구비된 카메라로서, 도로를 촬영한 영상을 수집하는 장치일 수 있다.In detail, the
캘리브레이션 장치(130)는 도로 영상에 포함된 패치들(110)을 검출한다.The
구체적으로, 도 5를 참고하면, 캘리브레이션 장치(130)는 카메라(120)로부터 도로 영상을 수신하고, 수신된 도로 영상에 이미지 프로세싱 기법을 수행하여 도로 영상에 포함된 패치들(110)을 검출한다.Specifically, referring to FIG. 5, the
이를 위해, 캘리브레이션 장치(130)는 패치들(110)에 대한 이미지를 기 저장하고, 기 저장된 이미지를 이용하여 도로 영상에서 패치들(110)을 검출할 수 있다. 이미지 프로세싱 기법을 이용하여 영상에서 특정 이미지를 검출하는 방법은 이미 공지된 사항으로 본 명세서에서는 자세한 설명을 생략한다.To this end, the
캘리브레이션 장치(130)는 패치들(110)의 위치 정보를 결정한다.The
구체적으로, 도 5를 참고하면, 캘리브레이션 장치(130)는 패치들(110)을 검출한 경우, 검출된 각 패치들에 대응하는 위치 정보를 결정한다. 이를 위해, 캘리브레이션 장치(130)는 패치들(110)에 대한 이미지뿐만 아니라, 각 이미지에 대응하는 위치 정보를 추가적으로 저장할 수 있다.Specifically, referring to FIG. 5, when the
예를 들면, 캘리브레이션 장치(130)는 도로 영상에서 제1 패치(111), 제2 패치(112), 제3 패치(113) 및 제4 패치(114)를 검출한 경우, 기 저장된 위치 정보에 기초하여, 제1 패치(111)의 위치 정보를 (-20m, 20m)로, 제2 패치(112)의 위치 정보를 (-20m, 40m)로, 제3 패치(113)의 위치 정보를 (20m, 40m)로, 제4 패치(114)의 위치 정보를 (20m, 20m)로 각각 결정할 수 있다.For example, when the
캘리브레이션 장치(130)는 각 패치들의 미리 설정된 위치 정보 및 상기 도로 영상에서 각 패치들의 픽셀 좌표 정보에 캘리브레이션을 수행하여 호모그래피 매트릭스를 생성한다.The
구체적으로, 도 5를 참고하면, 캘리브레이션 장치(130)는 도로 영상에서 검출된 패치들(110)의 픽셀 좌표 정보를 각각 결정하고, 패치들(110)의 위치 정보 및 픽셀 좌표 정보에 대해 캘리브레이션을 수행하여 패치들(110)의 위치 정보와 패치들(110)의 픽셀 좌표 정보가 대응되도록 하는 정칙 행렬(regular matrix)를 생성한다. 생성되는 정칙 행렬을 호모그래피 매트릭스라 하며, 호모그래피 매트릭스를 생성하는 과정이 캘리브레이션에 해당한다.Specifically, referring to FIG. 5, the
호모그래피 매트릭스가 생성되면, 캘리브레이션 장치(130)는 생성된 호모그래피 매트릭스를 이용하여 수신된 도로 영상을 변환하여 조감도와 같은 과속 단속 시스템에 적합한 변환 영상을 생성할 수 있다. 예를 들면, 도 6을 참고하면, 캘리브레이션 장치(130)는 수신된 도로 영상을 호모그래피 매트릭스를 이용하여 조감도로 변환할 수 있고, 캘리브레이션 장치(130)가 탑재된 과속 단속 시스템은 조감도를 이용하여 차량의 과속 여부를 단속할 수 있다.When the homography matrix is generated, the
캘리브레이션 시스템(100)은 도로 상에서 미리 정의한 위치에 패치들(110)을 위치시키고 도로 영상에서 패치들(110)을 자동으로 검출함으로써, 기존의 방법과 달리 사람이 도로 영상에서 수동으로 패치들(110)의 위치를 선정하는 과정이 불필요하다. 또한, 패치들(110)은 기존의 체스보드 모양의 캘리브레이션 보드가 아닌 원형의 형태로 구성되는바, 기존의 캘리브레이션 보드에 비해 매우 작게 만들 수 있고, 배치가 쉽다는 장점이 있다.The
따라서, 본 발명에 따르면, 캘리브레이션을 위한 사용자 조작을 요구하지 않고 매우 커다란 캘리브레이션 보드를 사용할 필요가 없어, 캘리브레이션 과정을 간소화시킬 수 있고 사용상 편의성을 향상시킬 수 있다.Therefore, according to the present invention, it is not necessary to use a very large calibration board without requiring a user operation for calibration, so that the calibration process can be simplified and the convenience for use can be improved.
도 7은 보정이 필요한 호모그래피 매트릭스에 의해 변환된 도로 영상을 정상적으로 변환된 도로 영상과 비교하는 도면이다.7 is a diagram comparing a road image converted by a homography matrix requiring correction with a road image normally converted.
도 7을 참고하면, 카메라(120)의 초기 위치에 따라 캘리브레이션을 수행하여 호모그래피 매트릭스를 생성하였다고 하더라도, 외부 환경에 의한 카메라(120)의 위치 변화에 따라 호모그래피 매트릭스에 오차가 발생할 수 있다. 구체적으로, 카메라(120)가 과속 시스템에 구현된 경우, 바람과 같은 외부 요인에 의해 상하 방향으로 흔들릴 수 있다. 이 경우, 카메라(120)의 피치(pitch) 각도가 변할 수 있는데, 이를 반영하여 호모그래피 매트릭스를 보정해줄 필요가 있다.Referring to FIG. 7, even if a homography matrix is generated by performing calibration according to the initial position of the
예를 들면, 카메라(120)로부터 수신된 도로 영상을 정상적인 호모그래피 매트릭스로 변환하는 경우 제1 변환 영상과 같이 올바른 조감도가 생성될 수 있으나, 보정이 필요한 호모그래피 매트릭스로 변환하는 경우 제2 변환 영상과 같이 차량의 위치 및 차선의 상대적인 위치 정보가 잘못된 조감도가 생성될 수 있다.For example, when the road image received from the
따라서, 캘리브레이션 장치(130)는 도로 영상의 물리 공간 상의 무한 원점(point at infinity)을 이용하여 제1 소실점을 결정하고, 도로 영상에 대해 이미지 프로세싱을 수행하여 제2 소실점을 결정하고, 제1 소실점과 제2 소실점 사이의 차이를 이용하여 호모그래피 매트릭스를 보정한다.Accordingly, the
도 8은 한 실시예에 따른 캘리브레이션 장치가 호모그래피 매트릭스를 보정하는 방법을 설명하는 도면이다.8 is a diagram for describing a method of calibrating a homography matrix by a calibration apparatus according to an embodiment.
도 8을 참고하면, 캘리브레이션 장치(130)는 호모그래피 매트릭스를 이용하여 무한 원점을 도로 영상으로 사영하여 도로 영상에서 지평선을 결정하고, 지평선을 제1 소실점으로 결정한다.Referring to FIG. 8, the
구체적으로, 무한 원점은 물리 공간에서 평행선들이 만나는 가상의 점을 의미한다. 물리 공간인 도로 상에 존재하는 무한 원점을 호모그래피 매트릭스를 이용하여 도로 영상에 사영하는 경우, 무한 원점은 도로 영상에서 평행선들이 만나는 소실점 또는 지평선에 대응하게 된다. 따라서, 캘리브레이션 장치(130)는 지평선 자체를 제1 소실점으로 결정할 수 있다.Specifically, the infinite origin refers to a virtual point where parallel lines meet in physical space. When the infinite origin existing on the road, which is a physical space, is projected on the road image using a homography matrix, the infinite origin corresponds to a vanishing point or a horizon where parallel lines meet in the road image. Therefore, the
한편, 캘리브레이션 장치(130)는 지평선을 결정하는데 있어, 물리 공간 상의 모든 무한 원점들을 호모그래피 매트릭스와 연산하지 않고, 도로 영상에의 양 가로 끝 두 점을 사영하여 선으로 연결하고, 연결된 선을 지평선으로 결정할 수도 있다.Meanwhile, in determining the horizon, the
또한, 캘리브레이션 장치(130)는 도로 영상에 대해 이미지 프로세싱을 수행하여 도로 영상에 존재하는 복수의 차선들을 식별하고, 복수의 차선들이 만나는 교차점을 제2 소실점으로 결정한다. 이 경우, 캘리브레이션 장치(130)는 칼만 필터(Kalman Filter)와 같은 추적을 통한 필터링 기법을 수행할 수 있다. 필터링을 수반한 이미지 프로세싱 기법을 이용하여 차선과 같은 직선 성분들을 식별하고, 직선 성분들의 교차점을 구하는 방법은 이미 공지된 사항으로 본 명세서에서는 자세한 설명을 생략한다.In addition, the
이후, 캘리브레이션 장치(130)는 제1 소실점과 제2 소실점을 비교하여 카메라(120) 피치 각도 변위를 결정하고, 피치 각도 변위를 이용하여 호모그래피 매트릭스를 보정한다.Thereafter, the
구체적으로, 호모그래피 매트릭스는 내부 매트릭스(Intrinsic matrix)와 외부 매트릭스(Extrinsic matrix)의 곱으로 구성된다, 이를 정의하면 수학식 1과 같다.Specifically, the homography matrix is composed of a product of an inner matrix and an outer matrix, which are defined in
수학식 1에서, H0는 호모그래피 매트릭스이고, K는 내부 매트릭스이고, S는 외부 매트릭스를 의미한다.In
수학식 1에 따라, 외부 매트릭스는 내부 매트릭스의 역행렬과 호모그래피 매트릭스의 곱으로 나타낼 수 있으며, 외부 매트릭스의 행렬값들은 회전 변환에 따른 열벡터 및 평행 이동에 따른 열벡터를 의미한다. 이를 정의하면 수학식 2와 같다.According to
수학식 2에서, t는 평행 이동 성분을 의미한다. 또한, r1 및 r2는 회전 변환 성분이며, 구체적으로 물리계의 2차원 축에 대한 회전 변환을 의미한다. 여기서 3차원축을 모두 복원하기 위해 r1와 r2의 외적을 이용하여 3차원 축의 회전 성분 매트릭스를 구할 수 있다. 이를 정의하면 수학식 3과 같다.In Equation 2, t means a parallel shift component. In addition, r 1 and r 2 are rotation transformation components, and specifically, means rotation transformation about a two-dimensional axis of the physical system. Here, in order to recover all three-dimensional axes, the rotation component matrix of the three-dimensional axis can be obtained using the cross products of r 1 and r 2 . This is defined as in
수학식 3에서, RW는 3차원 축의 회전 성분 매트릭스를 의미한다.In
또한, 물리계에서 카메라로 축 회전을 수행하는 TC W를 정의하면 수학식 4와 같다.In addition, if T C W that performs the axis rotation from the physical system to the camera is defined as
또한, TC W와 RW를 곱하여 카메라 상에서의 회전 성분인 RC를 구할 수 있다. 이를 정의하면 수학식 5와 같다.In addition, T C W and R W can be multiplied to obtain R C , which is a rotation component on the camera. This is defined as in Equation 5.
RC의 성분들을 통해 피치 각도는 수학식 6과 같이 정의될 수 있고, 피치 각도 변위는 수학식 7과 같이 정의될 수 있다.Through the components of R C , the pitch angle may be defined as shown in Equation 6, and the pitch angle displacement may be defined as shown in
수학식 7에서, 는 제1 소실점과 제2 소실점의 y축 좌표의 차이이고, 는 보상될 피치 각도 변위를 의미한다.In
수학식 7에서 정의된 를 이용하여 피치 각도 보상 회전 행렬 R'을 정의하면, 수학식 8과 같다.Defined in
또한, R'과 RW를 곱하여 새로운 피치 각도 보상 회전 행렬 Rnew를 구할 수 있으며, 이를 정의하면 수학식 9와 같다.In addition, a new pitch angle compensation rotation matrix R new may be obtained by multiplying R 'and R W , which is defined by Equation 9 below.
또한, 내부 매트릭스와 Rnew의 곱으로 H'를 구할 수 있으며, 이를 정의하면 수학식 10과 같다.In addition, H 'can be obtained by multiplying an internal matrix and R new , which is defined by
또한, H'의 1열, H'의 2열 및 호모그래피 매트릭스의 3열을 이용하여 보정된 호모그래피 매트릭스를 구할 수 있으며, 이를 정의하면 수학식 11과 같다.In addition, a corrected homography matrix can be obtained using the first column of H ', the second column of H', and the third column of the homography matrix, which are defined by Equation (11).
위와 같이, 수학식 1 내지 수학식 11을 통해 캘리브레이션 장치(130)는 제1 소실점과 제2 소실점의 피치 각도 변위를 결정하고, 결정된 피치 각도 변위를 이용하여 호모그래피 매트릭스를 보정할 수 있다.As described above, the
한편, 캘리브레이션 장치(130)는 프레임 단위로 호모그래피 매트릭스를 보정할 수 있다.The
본 발명에 따르면, 검지 환경 변화에 따라 호모그래피 매트릭스를 자동으로 갱신하는바, 본 발명을 이용하는 과속 단속 시스템의 성능을 지속적으로 유지할 수 있다.According to the present invention, the homography matrix is automatically updated as the detection environment changes, so that the performance of the speed regulation system using the present invention can be continuously maintained.
도 9는 본 발명의 다른 실시예에 따른 캘리브레이션 시스템을 설명하는 도면이고, 도 10은 본 발명의 다른 실시예에 따른 예시적인 패치들 및 거리 센서들을 도시하는 도면이고, 도 11은 다른 실시예에 따른 예시적인 패치들이 도로 상에 배치되는 방법을 설명하는 도면이고, 도 12는 다른 실시예에 따른 캘리브레이션 장치가 도로 영상을 이용하여 캘리브레이션을 통해 호모그래피 매트릭스를 생성하는 방법을 설명하는 도면이다.9 is a diagram illustrating a calibration system according to another embodiment of the present invention, FIG. 10 is a diagram illustrating exemplary patches and distance sensors according to another embodiment of the present invention, and FIG. FIG. 12 is a diagram illustrating a method of arranging exemplary patches on a road, and FIG. 12 is a diagram illustrating a method of generating a homography matrix through calibration using a road image according to another exemplary embodiment.
도 9를 참고하면, 캘리브레이션 시스템(200)은 패치들(210), 거리 센서들(220), 카메라(230) 및 캘리브레이션 장치(240)를 포함한다.Referring to FIG. 9, the
패치들(210)은 적어도 4개로 구성되며, 동일한 크기의 직사각형 모양을 갖는다.The
예를 들면, 도 10을 참고하면, 제1 패치(211), 제2 패치(212), 제3 패치(213) 및 제4 패치(214)는 자동차 번호판 모양의 직사각형 모양을 가질 수 있고, 모두 동일한 크기일 수 있다.For example, referring to FIG. 10, the
거리 센서들(220)은 각 패치들 상에 위치한다. 이 경우, 거리 센서들(220)은 카메라(230)로부터 각 거리 센서가 위치한 각 패치들까지의 거리를 측정한다.Distance
예를 들면, 도 10을 참고하면, 제1 거리 센서(221)는 제1 패치(211) 상단에 위치하고, 제2 거리 센서(222)는 제2 패치(212) 상단에 위치하고, 제3 거리 센서(223)는 제3 패치(213) 상단에 위치하고, 제4 거리 센서(224)는 제4 패치(214) 상단에 위치할 수 있다. 또한, 거리 센서들(220)은 패치들(210) 상에 회전 가능하게 위치하여 카메라(230)로부터 각 거리 센서가 위치한 각 패치들까지의 거리를 측정할 수 있다.For example, referring to FIG. 10, the
한편, 패치들(210)은 도로 상에서 카메라(230)를 기준으로 미리 설정된 서로 다른 위치에 각각 배치되고, 각 패치들에 대응하는 거리 센서가 측정한 위치 정보를 수치화하여 표시하는 디스플레이 패널을 각각 포함한다.On the other hand, the
예를 들면, 도 11을 참고하면, 제1 패치(211)가 카메라(230)의 위치를 기준으로 좌측 방향으로 20m, 상측 방향으로 20m 떨어져서 배치되고, 제2 패치(212)가 카메라(230)의 위치를 기준으로 좌측 방향으로 20m, 상측 방향으로 40m 떨어져서 배치되고, 제3 패치(213)가 카메라(230)의 위치를 기준으로 우측 방향으로 10m, 상측 방향으로 40m 떨어져서 배치되고, 제4 패치(214)가 카메라(230)의 위치를 기준으로 우측 방향으로 20m, 상측 방향으로 20m 떨어져서 배치된 경우, 제1 거리 센서(221)는 LED 패널을 이용하여 (20, 20)을, 제2 거리 센서(222)는 LED 패널을 이용하여 (20, 40)을, 제3 거리 센서(223)는 LED 패널을 이용하여 (10, 40)을, 제4 거리 센서(224)는 LED 패널을 이용하여 (20, 20)을 표시할 수도 있다. 이 경우, 카메라(230)의 위치를 기준으로 좌측 방향의 패치들의 디스플레이 패널과 우측 방향의 패치들의 디스플레이 패널의 색상을 서로 달리 구성하였으므로, 부호를 표시하지 않고 수치만을 디스플레이 패널에 표시할 수 있다.For example, referring to FIG. 11, the
만일 카메라(230)의 위치를 기준으로 좌측 방향의 패치들의 디스플레이 패널과 우측 방향의 패치들의 디스플레이 패널의 색상을 서로 달리 구성하지 않은 경우, 제1 거리 센서(221)는 LED 패널을 이용하여 (-20, 20)을, 제2 거리 센서(222)는 LED 패널을 이용하여 (-20, 40)을, 제3 거리 센서(223)는 LED 패널을 이용하여 (10, 40)을, 제4 거리 센서(224)는 LED 패널을 이용하여 (20, 20)을 표시할 수 있다. If the display panel of the patches in the left direction and the display panel of the patches in the right direction are not configured differently based on the position of the
카메라(230)는 도로 영상을 촬영한다.The
도 12를 참고하면, 캘리브레이션 장치(240)는 도로 영상에 포함된 패치들(210)을 검출하고, 거리 센서들(220)을 통해 측정된 각 패치들의 위치 정보를 획득한다.Referring to FIG. 12, the
구체적으로, 캘리브레이션 장치(240)는 자동차 번호판 인식 알고리즘과 같은 수치인식 알고리즘을 이용하여 패치들(210)의 디스플레이 패널에 포함된 수치를 인식하여 각 패치들(210)의 위치 정보를 획득한다.In detail, the
캘리브레이션 장치(240)는 도로 영상에서 검출된 패치들(210)의 픽셀 좌표 정보를 각각 결정한다. 이 경우, 캘리브레이션 장치(240)는 패치들(210)의 하단 중심부의 픽셀을 기준으로 패치들(210)의 픽셀 좌표 정보를 각각 결정할 수 있다.The
캘리브레이션 장치(240)는 위치 정보 및 도로 영상에서 패치들의 픽셀 좌표 정보들에 대해 캘리브레이션을 수행하여 호모그래피 매트릭스를 생성한다.The
구체적으로, 캘리브레이션 장치(240)는 패치들(110)의 위치 정보와 패치들(110)의 픽셀 정보가 대응되도록 하는 호모그래피 매트릭스를 생성한다.In detail, the
캘리브레이션 시스템(200)은 거리 센서들(220)을 통해 도로 상에 임의로 위치한 패치들(210)의 위치 정보를 자동으로 결정할 수 있어 기존의 방법과 달리 사람이 도로 영상에서 수동으로 패치들(210)의 위치를 선정하는 과정이 불필요하다. 또한, 패치들(210)은 기존의 체스보드 모양의 캘리브레이션 보드가 아닌 자동차 번호판 형태로 구성되는바, 기존의 캘리브레이션 보드에 비해 매우 작게 만들 수 있고, 배치가 쉽다는 장점이 있다.The
따라서, 본 발명에 따르면, 캘리브레이션을 위한 사용자 조작을 요구하지 않고 매우 커다란 캘리브레이션 보드를 사용할 필요가 없어, 캘리브레이션 과정을 간소화시킬 수 있고 사용상 편의성을 향상시킬 수 있다.Therefore, according to the present invention, it is not necessary to use a very large calibration board without requiring a user operation for calibration, so that the calibration process can be simplified and the convenience for use can be improved.
또한, 캘리브레이션 장치(240)는 도 7 및 도 8에서 설명한 방법과 동일한 방법으로 호모그래피 매트릭스를 보정한다.In addition, the
도 13은 캘리브레이션 시스템이 수신된 도로 영상에 대해 캘리브레이션을 수행하는 방법을 설명하는 도면이다.FIG. 13 is a diagram illustrating a method of performing calibration on a received road image by a calibration system.
도 13을 참고하면, 캘리브레이션 시스템은 카메라를 통해 도로 영상을 수신한다(S100).Referring to FIG. 13, the calibration system receives a road image through a camera (S100).
캘리브레이션 시스템은 수신된 도로 영상에 포함된 적어도 4개의 패치들을 검출한다(S110).The calibration system detects at least four patches included in the received road image (S110).
캘리브레이션 시스템은 각 패치들에 대응하는 위치 정보들을 획득한다(S120).The calibration system acquires location information corresponding to each patch (S120).
이 경우, 캘리브레이션 시스템은 각 패치들에 대해 미리 설정된 위치 정보를 이용하여 각 패치들에 대응하는 위치 정보들을 획득할 수 있고, 각 패치들 상에 위치한 거리 센서들을 통해 측정된 위치 정보들을 획득하여 각 패치들에 대응하는 위치 정보들을 획득할 수도 있다.In this case, the calibration system may obtain location information corresponding to each patch by using the preset location information for each patch, and obtain the location information measured by the distance sensors located on the respective patches. Location information corresponding to the patches may be obtained.
캘리브레이션 시스템은 도로 영상에서 각 패치들의 픽셀 좌표 정보들을 획득한다(S130).The calibration system obtains pixel coordinate information of each patch in the road image (S130).
캘리브레이션 시스템은 각 패치들의 위치 정보 및 픽셀 좌표 정보에 대해 캘리브레이션을 수행하여 각 패치들의 위치 정보와 픽셀 좌표 정보가 대응되도록 하는 호모그래피 매트릭스를 생성한다(S140). 이 경우, 생성된 호모그래피 매트릭스는 카메라의 초기 위치에 따라 생성된 호모그래피 매트릭스에 해당한다.The calibration system performs calibration on the location information and the pixel coordinate information of each patch to generate a homography matrix that allows the location information and the pixel coordinate information of each patch to correspond (S140). In this case, the generated homography matrix corresponds to the homography matrix generated according to the initial position of the camera.
캘리브레이션 시스템은 도로 영상의 물리 공간 상의 무한 원점을 이용하여 제1 소실점을 결정하고, 도로 영상에 대해 이미지 프로세싱을 수행하여 제2 소실점을 결정하고, 제1 소실점과 제2 소실점 사이의 차이를 이용하여 호모그래피 매트릭스를 보정한다(S150).The calibration system determines the first vanishing point using the infinite origin in the physical space of the road image, performs image processing on the road image to determine the second vanishing point, and uses the difference between the first vanishing point and the second vanishing point. The homography matrix is corrected (S150).
구체적으로, 캘리브레이션 시스템은 호모그래피 매트릭스를 이용하여 무한 원점을 도로 영상으로 사영하여 도로 영상에서 지평선을 결정하고, 지평선을 제1 소실점으로 결정한다.In detail, the calibration system uses a homography matrix to project the infinite origin into the road image to determine the horizon in the road image, and to determine the horizon as the first vanishing point.
또한, 캘리브레이션 시스템은 도로 영상에 대해 이미지 프로세싱을 수행하여 도로 영상에 존재하는 복수의 차선들을 식별하고, 복수의 차선들이 만나는 교차점을 제2 소실점으로 결정한다.In addition, the calibration system performs image processing on the road image to identify a plurality of lanes existing in the road image, and determines an intersection point where the plurality of lanes meet as a second vanishing point.
이후, 캘리브레이션 시스템은 제1 소실점과 제2 소실점을 비교하여 카메라의 피치 각도 변위를 결정하고, 피치 각도 변위를 이용하여 호모그래피 매트릭스를 보정한다.Then, the calibration system compares the first vanishing point and the second vanishing point to determine the pitch angle displacement of the camera, and corrects the homography matrix using the pitch angle displacement.
본 발명에 따르면, 자동으로 기준 픽셀들을 결정하여 캘리브레이션을 수행하는바, 캘리브레이션을 위한 사용자 조작을 요구하지 않고 매우 커다란 캘리브레이션 보드를 사용할 필요가 없어, 캘리브레이션 과정을 간소화시킬 수 있고 사용상 편의성을 향상시킬 수 있다.According to the present invention, calibration is performed by automatically determining the reference pixels, eliminating the need for a user operation for calibration and using a very large calibration board, which simplifies the calibration process and improves ease of use. have.
또한, 본 발명에 따르면, 검지 환경 변화에 따라 호모그래피 매트릭스를 자동으로 갱신하는바, 본 발명을 이용하는 과속 단속 시스템의 성능을 지속적으로 유지할 수 있다.In addition, according to the present invention, the homography matrix is automatically updated in accordance with the change of detection environment, so that the performance of the speed regulation system using the present invention can be continuously maintained.
이상에서 본 발명의 실시예에 대하여 상세하게 설명하였지만 본 발명의 권리범위는 이에 한정되는 것은 아니고 다음의 청구범위에서 정의하고 있는 본 발명의 기본 개념을 이용한 당업자의 여러 변형 및 개량 형태 또한 본 발명의 권리범위에 속하는 것이다.Although the embodiments of the present invention have been described in detail above, the scope of the present invention is not limited thereto, and various modifications and improvements of those skilled in the art using the basic concepts of the present invention defined in the following claims are also provided. It belongs to the scope of rights.
Claims (15)
도로 상에 배치된 적어도 4개의 패치들,
도로 영상을 촬영하는 카메라, 그리고
상기 도로 영상에 포함된 상기 패치들을 검출하고, 각 패치들의 미리 설정된 위치 정보 및 상기 도로 영상에서 각 패치들의 픽셀 좌표 정보에 캘리브레이션을 수행하여 호모그래피 매트릭스를 생성하는 캘리브레이션 장치를 포함하며,
상기 캘리브레이션 장치는
상기 도로 영상의 물리 공간 상의 무한 원점(point at infinity)을 이용하여 제1 소실점(vanishing point)을 결정하고, 상기 도로 영상에 대해 이미지 프로세싱을 수행하여 제2 소실점을 결정하고, 상기 제1 소실점과 상기 제2 소실점 사이의 차이를 이용하여 상기 호모그래피 매트릭스를 보정하는, 캘리브레이션 시스템.As a calibration system,
At least four patches placed on the roadway,
A camera that shoots road footage, and
And a calibration apparatus for detecting the patches included in the road image, and performing a calibration on preset position information of each patch and pixel coordinate information of each patch in the road image to generate a homography matrix.
The calibration device
A first vanishing point is determined using a point at infinity in the physical space of the road image, and a second vanishing point is determined by performing image processing on the road image. And calibrate the homography matrix using the difference between the second vanishing points.
상기 패치들은
도로 상에서 상기 카메라를 기준으로 미리 설정된 서로 다른 위치에 각각 배치되는 캘리브레이션 시스템.The method of claim 1,
The patches
And a calibration system each disposed at a different position preset on the road based on the camera.
상기 패치들은
각각 서로 다른 내부 패턴을 갖는 동일한 크기의 원형 모양인 캘리브레이션 시스템.The method of claim 2,
The patches
Calibration system of the same size circular shape, each with a different internal pattern.
상기 캘리브레이션 장치는
상기 호모그래피 매트릭스를 이용하여 상기 무한 원점을 상기 도로 영상으로 사영하여 상기 도로 영상에서 지평선을 결정하고, 상기 지평선을 상기 제1 소실점으로 결정하는 캘리브레이션 시스템.The method of claim 1,
The calibration device
And a horizon in the road image by projecting the infinite origin into the road image using the homography matrix, and determining the horizon as the first vanishing point.
상기 캘리브레이션 장치는
상기 도로 영상에 대해 이미지 프로세싱을 수행하여 상기 도로 영상에 존재하는 복수의 차선들을 식별하고, 상기 복수의 차선들이 만나는 교차점을 상기 제2 소실점으로 결정하는 캘리브레이션 시스템.The method of claim 1,
The calibration device
And performing image processing on the road image to identify a plurality of lanes existing in the road image, and to determine an intersection where the plurality of lanes meet as the second vanishing point.
상기 캘리브레이션 장치는
상기 제1 소실점과 상기 제2 소실점을 비교하여 상기 카메라의 피치 각도 변위를 결정하고, 상기 피치 각도 변위를 이용하여 상기 호모그래피 매트릭스를 보정하는 캘리브레이션 시스템.The method of claim 1,
The calibration device
A calibration system for comparing the first vanishing point and the second vanishing point to determine a pitch angular displacement of the camera, and correcting the homography matrix using the pitch angular displacement.
도로 상에 배치된 적어도 4개의 패치들,
각 패치들 상에 위치한 거리 센서들,
도로 영상을 촬영하는 카메라, 그리고
상기 도로 영상에 포함된 상기 패치들을 검출하고, 상기 거리 센서들을 통해 측정된 각 패치들의 위치 정보를 획득하고, 상기 위치 정보 및 상기 도로 영상에서 각 패치들의 픽셀 좌표 정보에 대해 캘리브레이션을 수행하여 호모그래피 매트릭스를 생성하는 캘리브레이션 장치를 포함하며,
상기 캘리브레이션 장치는
상기 도로 영상의 물리 공간 상의 무한 원점을 이용하여 제1 소실점을 결정하고, 상기 도로 영상에 대해 이미지 프로세싱을 수행하여 제2 소실점을 결정하고, 상기 제1 소실점과 상기 제2 소실점 사이의 차이를 이용하여 상기 호모그래피 매트릭스를 보정하는, 캘리브레이션 시스템.As a calibration system,
At least four patches placed on the roadway,
Distance sensors located on each patch,
A camera that shoots road footage, and
Detects the patches included in the road image, obtains location information of each patch measured by the distance sensors, and performs calibration on the location information and pixel coordinate information of each patch in the road image. A calibration device for generating a matrix,
The calibration device
A first vanishing point is determined using an infinite original point on the physical space of the road image, an image processing is performed on the road image to determine a second vanishing point, and the difference between the first vanishing point and the second vanishing point is used. Calibrating the homography matrix.
상기 패치들은
도로 상에서 상기 카메라를 기준으로 미리 설정된 서로 다른 위치에 각각 배치되는 캘리브레이션 시스템.The method of claim 8,
The patches
And a calibration system arranged at different positions preset based on the camera on the road.
상기 패치들은
동일한 크기의 직사각형 모양인 캘리브레이션 시스템.The method of claim 9,
The patches
Calibration system of the same size rectangular shape.
상기 패치들은 각 패치들에 대응하는 거리 센서가 측정한 위치 정보를 수치화하여 표시하는 디스플레이 패널을 각각 포함하고,
상기 캘리브레이션 장치는 상기 디스플레이 패널에 포함된 수치를 인식하여 상기 위치 정보를 획득하는 캘리브레이션 시스템.The method of claim 10,
The patches each include a display panel for digitizing and displaying the position information measured by the distance sensor corresponding to each patch,
And a calibration device configured to acquire the location information by recognizing a numerical value included in the display panel.
상기 캘리브레이션 장치는
상기 호모그래피 매트릭스를 이용하여 상기 무한 원점을 상기 도로 영상으로 사영하여 상기 도로 영상에서 지평선을 결정하고, 상기 지평선을 상기 제1 소실점으로 결정하는 캘리브레이션 시스템.The method of claim 8,
The calibration device
And a horizon in the road image by projecting the infinite origin into the road image using the homography matrix, and determining the horizon as the first vanishing point.
상기 캘리브레이션 장치는
상기 도로 영상에 대해 이미지 프로세싱을 수행하여 상기 도로 영상에 존재하는 복수의 차선들을 식별하고, 상기 복수의 차선들이 만나는 교차점을 상기 제2 소실점으로 결정하는 캘리브레이션 시스템.The method of claim 8,
The calibration device
And performing image processing on the road image to identify a plurality of lanes existing in the road image, and to determine an intersection where the plurality of lanes meet as the second vanishing point.
상기 캘리브레이션 장치는
상기 제1 소실점과 상기 제2 소실점을 비교하여 상기 카메라의 피치 각도 변위를 결정하고, 상기 피치 각도 변위를 이용하여 상기 호모그래피 매트릭스를 보정하는 캘리브레이션 시스템.
The method of claim 8,
The calibration device
A calibration system for comparing the first vanishing point and the second vanishing point to determine a pitch angular displacement of the camera, and correcting the homography matrix using the pitch angular displacement.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020190011834A KR102060113B1 (en) | 2019-01-30 | 2019-01-30 | System and method for performing calibration |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020190011834A KR102060113B1 (en) | 2019-01-30 | 2019-01-30 | System and method for performing calibration |
Publications (1)
Publication Number | Publication Date |
---|---|
KR102060113B1 true KR102060113B1 (en) | 2019-12-27 |
Family
ID=69062565
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020190011834A KR102060113B1 (en) | 2019-01-30 | 2019-01-30 | System and method for performing calibration |
Country Status (1)
Country | Link |
---|---|
KR (1) | KR102060113B1 (en) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111429530A (en) * | 2020-04-10 | 2020-07-17 | 浙江大华技术股份有限公司 | Coordinate calibration method and related device |
CN111696160A (en) * | 2020-06-22 | 2020-09-22 | 深圳市中天安驰有限责任公司 | Automatic calibration method and device for vehicle-mounted camera and readable storage medium |
CN112950725A (en) * | 2021-03-22 | 2021-06-11 | 深圳市城市交通规划设计研究中心股份有限公司 | Monitoring camera parameter calibration method and device |
US11783507B2 (en) | 2020-08-25 | 2023-10-10 | Samsung Electronics Co., Ltd. | Camera calibration apparatus and operating method |
KR102665635B1 (en) | 2021-04-20 | 2024-05-14 | 주식회사 에이치엘클레무브 | Apparatus for assisting driving vehicle and method thereof |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20070064371A (en) * | 2004-11-24 | 2007-06-20 | 아이신세이끼가부시끼가이샤 | Camera calibrating method and camera calibrating device |
KR20170001765A (en) * | 2015-06-25 | 2017-01-05 | (주)캠시스 | Top view creating method for camera installed on vehicle and AVM system |
JP2017005678A (en) * | 2015-06-04 | 2017-01-05 | ソニー株式会社 | On-vehicle camera system and image processing apparatus |
JP2017075893A (en) * | 2015-10-16 | 2017-04-20 | 株式会社ネフロンジャパン | Water supply meter reading device |
KR20170127103A (en) * | 2016-05-10 | 2017-11-21 | 전자부품연구원 | System and method for 3-dimensional calibration of camera and depth sensor, and calibration device and calibration jig thereof |
-
2019
- 2019-01-30 KR KR1020190011834A patent/KR102060113B1/en active IP Right Grant
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20070064371A (en) * | 2004-11-24 | 2007-06-20 | 아이신세이끼가부시끼가이샤 | Camera calibrating method and camera calibrating device |
JP2017005678A (en) * | 2015-06-04 | 2017-01-05 | ソニー株式会社 | On-vehicle camera system and image processing apparatus |
KR20170001765A (en) * | 2015-06-25 | 2017-01-05 | (주)캠시스 | Top view creating method for camera installed on vehicle and AVM system |
JP2017075893A (en) * | 2015-10-16 | 2017-04-20 | 株式会社ネフロンジャパン | Water supply meter reading device |
KR20170127103A (en) * | 2016-05-10 | 2017-11-21 | 전자부품연구원 | System and method for 3-dimensional calibration of camera and depth sensor, and calibration device and calibration jig thereof |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111429530A (en) * | 2020-04-10 | 2020-07-17 | 浙江大华技术股份有限公司 | Coordinate calibration method and related device |
CN111429530B (en) * | 2020-04-10 | 2023-06-02 | 浙江大华技术股份有限公司 | Coordinate calibration method and related device |
CN111696160A (en) * | 2020-06-22 | 2020-09-22 | 深圳市中天安驰有限责任公司 | Automatic calibration method and device for vehicle-mounted camera and readable storage medium |
CN111696160B (en) * | 2020-06-22 | 2023-08-18 | 江苏中天安驰科技有限公司 | Automatic calibration method and equipment for vehicle-mounted camera and readable storage medium |
US11783507B2 (en) | 2020-08-25 | 2023-10-10 | Samsung Electronics Co., Ltd. | Camera calibration apparatus and operating method |
CN112950725A (en) * | 2021-03-22 | 2021-06-11 | 深圳市城市交通规划设计研究中心股份有限公司 | Monitoring camera parameter calibration method and device |
KR102665635B1 (en) | 2021-04-20 | 2024-05-14 | 주식회사 에이치엘클레무브 | Apparatus for assisting driving vehicle and method thereof |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR102060113B1 (en) | System and method for performing calibration | |
JP4367475B2 (en) | Moving object recognition apparatus, moving object recognition method, and computer program | |
CN111750820B (en) | Image positioning method and system | |
JP5588812B2 (en) | Image processing apparatus and imaging apparatus using the same | |
JP4931218B2 (en) | Imaging apparatus, object detection method, and attitude parameter calculation method | |
TWI689870B (en) | A method of calibrating a direction of a pan, tilt, zoom, camera with respect to a fixed camera, and a system in which such a calibration is carried out | |
JP2005229415A (en) | Projector equipped with a plurality of cameras | |
JP2004117078A (en) | Obstacle detection device and method | |
JP6891954B2 (en) | Object detection device, object detection method, and program | |
US9910507B2 (en) | Image display apparatus and pointing method for same | |
TW201403553A (en) | Method of automatically correcting bird's eye images | |
JP2004340840A (en) | Distance measuring device, distance measuring method and distance measuring program | |
JP2006252473A (en) | Obstacle detector, calibration device, calibration method and calibration program | |
JP6278791B2 (en) | Vehicle position detection device, vehicle position detection method, vehicle position detection computer program, and vehicle position detection system | |
JP7102890B2 (en) | Path simulation device | |
CN111487320A (en) | Three-dimensional ultrasonic imaging method and system based on three-dimensional optical imaging sensor | |
KR20140056790A (en) | Apparatus for image recognition and method thereof | |
JP5310027B2 (en) | Lane recognition device and lane recognition method | |
JP2012159469A (en) | Vehicle image recognition device | |
JP5539250B2 (en) | Approaching object detection device and approaching object detection method | |
JP2017181476A (en) | Vehicle location detection device, vehicle location detection method and vehicle location detection-purpose computer program | |
JP4193342B2 (en) | 3D data generator | |
KR20140114594A (en) | Auto-Camera Calibration Method Based on Human Object Tracking | |
US20210335010A1 (en) | Calibration method and calibration apparatus | |
KR101697229B1 (en) | Automatic calibration apparatus based on lane information for the vehicle image registration and the method thereof |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
E701 | Decision to grant or registration of patent right | ||
GRNT | Written decision to grant |